AI 기술 고도화에 해킹 공격도 '고도화'
인공지능(AI) 기술이 고도화될수록 AI 기술을 이용한 해킹 공격도 심화되는 양상이다. 북한·러시아·이란·중국 등과 같은 국가배후 해킹 조직은 챗GPT를 활용하거나, 가상자산 탈취 목적의 범죄 조직은 AI를 활용해 일반인 가상 자산을 노린다. 뿐만 아니라 생성형 AI는 악성코드 개발에도 활용된다. 2025년 하반기에는 이러한 AI 기반 공격이 더욱 고도화할 것으로 보인다.
주로 AI 기술을 이용한 해킹은 AI를 활용한 사회공학적 기법 해킹, LLM을 이용한 악성코드 작성, AI를 이용한 보안 시스템 실시간 분석과 공격을 최적화한다. AI가 연계된 사이버공격은 피싱 공격을 정교하게 하고, 보안 탐지 기술을 우회 하거나 정상 트래픽을 위장하는 등 공격 고도화로 대응을 어렵게 한다.
'2025 국가정보보호백서'에 따르면 국가 배후 해킹 그룹 김수키(Kimsuky)는 한층 진화한 공격 전략을 선보이며 사이버위협의 새로운 국면을 열었다. 이들은 생성형 AI인 챗GPT를 활용해 사이버공격의 효율성과 정교함을 극대화했다.
최근에는 가상자산 시장 규모가 확대되면서 일반인을 대상으로 한 범죄 조직의 생성형 AI를 악용한 가상자산 탈취 시도가 급증하고 있다. 범죄자들은 가상자산 탈취 목적으로 대상자 물색과 해킹 메일 작성에 생성형 AI를 이용하는 것으로 알려졌다.
공격자는 가상자산 탈취 목적으로 스피어피싱 이메일, 피싱 페이지 제작, 자동화된 잔액 조회 스크립트 개발 등 다양한 공격 수단에 생성형 AI를 활용했다. 특히 피해자 관심을 끌 수 있는 이메일 콘텐츠를 생성형 AI로 제작, 기존보다 정교한 피싱 이메일을 만들어 냈다. 피싱 이메일을 통해 유도된 피싱 페이지 역시 생성형 AI로 제작되어 높은 완성도를 보였다. 이러한 고도화된 기법은 피해자의 경계심을 무력화하고, 더욱 손쉽게 공격에 노출되도록 했다.
생성형 AI는 악성코드 개발에도 활용됐다. 공격자는 생성형 AI를 이용해 악성코드의 탐지 회피 기능을 강화하고, 보안 솔루션을 우회할 수 있는 정교한 악성 스크립트를 제작함으로써 기존 보안 체계를 위협했다.
2025년에는 이러한 AI 기반 공격이 더욱 고도화할 것으로 예상된다. 특히 FraudGPT·
WormGPT 등의 악성 AI 모델이 다크웹에서 유통되면서 앞으로는 피싱, 악성코드 제작, 취약점 탐색 등에 생성형 AI가 더욱 자주 활용될 것으로 예상된다. AI는 자동화된 공격 시나리오를 생성하고, 실시간으로 보안 환경을 분석해 공격 전략을 즉각 수정하는 능력을 갖추고 있다. 이는 기존의 수동적 공격 방식과 비교하여 매우 빠르고 유연한 사이버위협을 만들어 낼 것이란 분석이다.
