생성 AI 공격과 방어 전략: 5가지 예측과 대응

생성 AI 공격의 커지는 위협

보안 전문가들은 오랫동안 AI가 자동화된 공격을 수행할 것이라고 경고해왔습니다. 대규모 언어 모델(Large-Language Model, LLM) 생성 AI 도구, 예를 들어 ChatGPT는 현실로 더 가깝게 가져왔습니다.

다크 웹의 도구

악의적 행위자는 이제 악성 코드의 개발을 자동화하는 다크 웹 도구에 액세스할 수 있습니다. 이것은 속성이 계속 변경되는 악성 코드 및 랜섬웨어의 생산을 가속화합니다.

악의적 행위자가 생성 AI를 어떻게 악용할 것인가에 대한 예측

국가는 자체 LLM 개발 ;자금이 풍부한 국가들은 악성 코드 개발에 전념하는 LLM 생성 AI 도구를 만들 수 있습니다. 이는 방어 노력에 큰 도전을 제공합니다.

최고의 범죄 행위자는 도구킷을 개발하고 판매할 것이며, 방어가 진화함에 따라 업데이트할 것입니다. 그들은 고객에게 성능 보증을 제공할 수 있습니다.

랜섬웨어 위협 확대

금전적 동기가 있는 랜섬웨어 공격은 더 위험해질 것으로 예상됩니다. 생성 AI는 더 설득력 있는 피싱 및 사회 공학 공격을 가능하게 할 것입니다.

일관성을 위한 자동화

자동화는 공격의 생산을 가속화하는데, 이것의 실질적 가치는 일관되고 반복 가능한 프로세스를 만드는 데 있습니다. 국가 및 범죄 행위자는 새로운 악성 코드 속성 및 패밀리를 개발하기 위한 기술 생산 라인을 만들 것입니다. 그들은 효과성을 테스트하고 생산에 넣기 위해 팀과 생성 AI를 사용할 것입니다. 이 프로세스는 배우 및 지리를 횡단하는 24/7 기반으로 진행될 것입니다.

신뢰된 도구, 그러나 악용 가능성

공급망 공격은 이미 오랫동안 존재하며, 고객은 주요 공급 업체를 신뢰하기 때문에 매우 효과적입니다. 악의적 행위자는 신뢰된 솔루션, 레코드 시스템 또는 보안 도구에서 결함을 찾기 위해 생성 AI를 사용할 수 있으며, 이로써 악의적 코드를 실행시킵니다. 그들은 또한 생성 AI가 가이드하는 보안 도구를 더 많이 타겟팅하며, 이를 통해 모델이 효과적이지 않게 만들려고 할 것입니다.

생성 AI 공격에 대한 방어 전략

생성 AI로 인한 공격의 도전은 개별 기관보다 훨씬 큽니다. 기업의 정보보안 책임자(CISO) 및 기타 기업 및 정부 기관의 리더는 산업 포럼을 활용하여 새로운 위협 정보 및 전략을 공유하여 모든 당사자가 응답을 개선할 수 있도록 해야합니다.

생성 AI를 통한 위협 정보 개선

생성 AI를 사용하여 새로운 위협을 학습하고 이해하는 것이 더 쉬워졌습니다. 팀은 생성 AI를 대규모 데이터 집합에 사용하여 위협 패턴이 어떻게 변화하고 프로세스를 맞추기 위한 새로운 통찰력을 발견할 수 있습니다.

시뮬레이션과 대비

보안 팀은 생성 AI와 합성 데이터를 사용하여 자신의 네트워크에서 공격을 계획하고 시뮬레이션할 수 있습니다. 이는 대비 능력을 향상시키고 전반적인 방어를 강화하는 데 도움이 됩니다.

취약점 테스트 개선

조직은 종종 일반적이고 문서화된 취약점조차 식별하고 패치를 적용하는 데 느립니다. 생성 AI는 안전한 소프트웨어 개발 수명주기(SSDLC)에서 사용되어 구성 오류, 코드 취약점 및 설계 결함과 같은 낮은 수준의 과일을 제거하는 데 사용될 수 있습니다. 취약점 뿐만 아니라 생성 AI는 위협을 제공할 수 없는 데이터나 시스템이 무엇인지 식별하는 데 사용될 수 있습니다.

탐지 개선

생성 AI는 패턴 인식, 가장 가능성 있는 공격 대상, 가장 위험한 내부 위협을 제시하며 공격 트렌드 및 이상 징후 탐지를 개선할 것입니다. 이로써 보안 작업 팀이 알려지지 않은 위협에 빠르게 대응하여 네트워크 침입 및 체류 시간을 줄일 수 있습니다.

생성 AI 공격에 대비

생성 AI 공격에 대비하기 위한 시간은 지금입니다. 국가 및 범죄 행위자들은 이미 이러한 기술을 실험하고 공격 전략과 도구를 진화시키는 중입니다. 기업과 정부 기관은 사이버 보안 공급 업체와 협력하여 고급 공격에 대한 대비 여부를 평가하고 생성 AI 능력을 배포하며 이러한 도구가 제공하는 통찰력을 극대화하기 위한 교육 및 프로세스를 개선할 수 있습니다.

이 급변하는 환경에서 생성 AI 공격에 대한 방어는 협력, 혁신 및 적극적인 접근을 통해 악의적 행위자보다 먼저 앞서가기 위한 도전이 필요한 시점입니다.