어쩌면 LLM 기반 멀웨어의 시조새, ‘말터미널’ 등장

어쩌면 LLM 기반 멀웨어의 시조새, ‘말터미널’ 등장
Photo by Aerps.com / Unsplash
💡
Editor's Pick
- LLM을 보다 적극적으로 이용하려는 멀웨어
- 공격 시점에 실시간으로 악성코드 생성
- 아직 실제 피해 사례 없어...방어자들의 학습 도구일 수도

대형 언어 모델(LLM) 기능을 내장한 악성코드의 최초 버전으로 의심되는 샘플이 발견됐다. 보안 업체 센티넬원(SentinelOne)에 의하면 이 멀웨어의 이름은 말터미널(MalTerminal)이라고 한다. “인공지능 기술은 점점 더 든든한 사이버 공격자들의 조력자가 되고 있으며, 이제 이 강력한 기술이 실질적인 위협으로서 하나 둘 사례가 되어 나타나고 있다”고 센티넬원은 경고했다. 

말터미널을 분류하기 위해서는 새로운 멀웨어 카테고리가 필요하다는 게 센티넬원의 설명이다. “LLM임베디드 멀웨어(LLM-embedded Malware) 정도의 항목이 신설되어야 하지 않을까 합니다. 앞으로 이런 류의 멀웨어들이 계속해서 등장할 것이라고 예상합니다.” 어떤 멀웨어이기에 이렇게 ‘호들갑’을 떠는 걸까?

말터미널?
센티넬원에 의하면 말터미널은 오픈AI(OpenAI)의 GPT-4를 사용해 동적으로 랜섬웨어 코드나 리버스셸을 생성한다는 특성을 가지고 있다. 여태까지 발견된 샘플은 윈도 OS에서 실행되도록 설계돼 있으나, 실제 공격에 활용된 사례는 없다. 개념 증명용으로 만들어졌거나, 누군가 레드팀 도구로서 활용하고 있을 수도 있다고 센티넬원은 풀이한다.

센티넬원에 의하면 현재까지 발견된 샘플에는 2023년 11월초부터 지원이 종료된 오픈AI API 엔드포인트가 포함돼 있다고 한다. 그렇다는 건 해당 샘플이 2023년 11월 이전에 만들어졌다는 의미가 된다. “그게 사실이라면 말터미널은 대형 언어 모델 기능이 탑재된 멀웨어 중 가장 초기에 등장한 것일 가능성이 높다는 뜻으로 해석 가능합니다. 즉, 이 말터미널이 LLM임베디드 멀웨어 류의 시조새 정도가 될 수 있습니다.”

구성은 어떨까? 윈도 바이너리와 함께 다양한 파이선 스크립트를 포함하고 있는데, 그중 일부는 실행파일과 기능적으로 동일하다. “말터미널이 실행되면 사용자가 랜섬웨어와 리버스셸 중 하나를 선택하도록 하는 프롬프트가 화면에 뜹니다. 두 가지 중 한 가지 종류의 공격을 편리하게 선택해 할 수 있는 것입니다. 뿐만 아니라 팔콘쉴드(FalconShield)라는 방어 도구도 탑재하고 있습니다. 팔콘쉴드는 파이선 파일의 패턴을 검사한 후, GPT 모델에 해당 파일이 악성인지 판단하도록 하여 멀웨어 분석 보고서까지 작성하는 기능을 가지고 있습니다. 어떤 공격을 할 것인지 선택하게 해서 공격을 실행하는 것도 GPT, 탑재된 방어 기능도 GPT를 기반으로 하고 있다는 겁니다.”

💡
여기서 잠깐!
왜 말터미널 구성 요소 중에 방어 도구가 있을까? 여기에 대해서는 아직 명쾌한 답이 나오지 않고 있다. 다만 말터미널이 공격을 실시했을 때 실제 어떤 결과가 나오는지 자동으로 파악하고 분석 보고서까지 받기 위해 개발자가 심어놓은 것 같다는 추측이 있을 뿐이다. 이게 사실이라면 말터미널은 보안 연구원들이 연구 목적으로 개발한 도구일 가능성이 높아진다. 레드팀 교육용 패키지일 수도 있다. 하지만 공격자들 역시 자신들이 개발한 도구가 방어자들에게 어떻게 보이는지 알고 싶어 하는 경우가 많은데, 그걸 위해 포함시킨 것일 가능성도 배제할 수 없다.

이렇게 인공지능을 활용하는 것을 넘어서 아예 멀웨어에 통합한 것은 “공격자의 전술이 여러 단계 업그레이드 된 것을 의미한다”고 센티넬원은 강조한다. “멀웨어의 런타임에 공격 로직을 실시간으로 수립한다는 것, 그리고 그에 맞는 명령까지 즉각 생성한다는 건 위협의 수위가 상상 이상으로 높아졌다는 뜻이 됩니다. 이건 방어를 담당하는 쪽에 대단히 큰 숙제가 주어졌다는 것으로 볼 수 있습니다.”

어떤 위협인가?
간단히 요약해 말터미널은 “실행 시점에 악성코드가 생성된다”는 신개념 멀웨어라고 할 수 있다. 사람이 멀웨어를 제어한다면 있기 힘든 일인데, 대형 언어 모델을 활용해 가능해졌다는 게 이번 발견의 핵심이다. 

실행 시점에 악성코드가 만들어진다는 건 어떤 의미일까? “가장 먼저는 정적 분석과 시그니처 기반 탐지가 완전히 무력해집니다. 이런 기술로는 실행 직전까지 아무 것도 탐지할 수 없어요. 악성코드가 없으니까요. 세상에 없는 건데, 미리 정의된 시그니처도 당연히 없고, 정적 특성이라는 것도 존재할 수 없지요. 그런데 아직 많은 기업과 기관들이 정적 분석과 시그니처 기반 보안 솔루션들을 가지고 있습니다.”

더 무서운 건 말터미널을 시작으로 더 위협적인 것들이 차례로 등장할 가능성이 매우 높다는 거라고 센티넬원은 짚는다. “여태까지는 LLM을 피싱 공격의 도우미로 활용하는 게 거의 전부였습니다. 그럼에도 누군가 그렇게 시작하니 금방들 따라해서 이제 피싱 메시지들의 진위를 구별하는 게 전체적으로 어려워졌죠. 이제 말터미널이라는 게 나와 실시간 악성코드 생성이라는 길을 텄으니, 앞으로 많은 해커들이 따라할 겁니다. 더 응용까지 해서요.”


구글의 인공지능 버그 사냥꾼, 최초 보고서까지 발행
💡Editor’s Pick - 구글의 빅슬립, 20개 취약점 발견해 보고서 작성 완료 - ”자동화 취약점 탐지 및 보고의 시대 열렸다” - 아직 인공지능 취약점 탐지 기술 완벽하지 않아 구글의 ‘인공지능 버그 헌터’가 처음으로 보안 취약점 보고서를 발표했다. 인간의 개입이 최소화 된 상태에서 대형 언어 모델(LLM) 기반 인공지능 도구가 스스로
탈취된 정보를 실시간으로 열람하게 하는 새 멀웨어, 레이븐스틸러
💡Editor’s Pick - 새 정보 탈취 멀웨어, 레이븐스틸러 - 탈취한 정보를 공격자가 실시간으로 열람할 수 있어 - 불법 소프트웨어 다운로드 통해 확산 정보 탈취에 능하면서 동시에 흔적을 감추는 데도 뛰어난 새 멀웨어가 발견됐다. 이에 대해 처음 알린 보안 업체 포인트와일드(Point Wild)에 의하면 이 멀웨어의 이름은 레이븐스틸러(Raven Stealer)

Read more

[TE머묾] 보안은 즐겁다 2

[TE머묾] 보안은 즐겁다 2

💡Editor's Pick - 동계올림픽 사상 첫 설상 금메달의 감동 - 전기자동차, 박해 속에서 살아남을 방법 모색 - 보안도 생존의 분야...그래서 더 좋아 동계올림픽 설상 종목서 한국 최초 금메달이 나왔다. ‘최초 금메달’이라는 타이틀 자체도 충분히 극적인데, 17세 최가온 선수가 거기까지 도달하는 순탄치 않은 과정이 스포츠 특유의 드라마까지

By 문가용 기자
값싼 소프트웨어의 나라 Part2

값싼 소프트웨어의 나라 Part2

💡Editor Pick - 우리나라 소프트웨어 산업은 경제 규모 대비 어떠한가? - 우리나라 소프트웨어는 값싸고 저렴하다? - 구조적인 문제가 있다면 고쳐야 하나 설명이 쉽지 않다. - 꼬리를 물면서 강화되는 이슈의 고리를 끊어야 한다. 구조 속에서 선택지를 잃어버린 공급사, 그리고 다음 질문 Part 1에서 살펴본 구조는 "소프트웨어 공급사는 어떤 위치에 놓여

By Donghwi Shin, Jin Kwak
값싼 소프트웨어의 나라 Part1

값싼 소프트웨어의 나라 Part1

💡Editor Pick - 우리나라 소프트웨어 산업은 경제 규모 대비 어떠한가? - 우리나라 소프트웨어는 값싸고 저렴하다? - 구조적인 문제가 있다면 고쳐야 하나 설명이 쉽지 않다. - 꼬리를 물면서 강화되는 이슈의 고리를 끊어야 한다. 값싼 소프트웨어의 나라를 만드는 구조 소프트웨어 산업을 이야기할 때, 우리는 공급사의 기술력, 인재 부족을 원인을 지목한다. 그러나 실제

By Donghwi Shin, Jin Kwak
미국 강타한 MAGA, 사실은 ‘신토불이’ 정신?

미국 강타한 MAGA, 사실은 ‘신토불이’ 정신?

💡Editor's Pick - 미국 기업들의 갑작스러운 애국심 고취 현상 - Made in America를 전면에 내세우기 시작 - 니어쇼어링과 오프쇼링 기조에 따르는 움직임 미국 기업들 사이에서 새로운 MAGA 유행의 조짐이 보인다. ‘미국을 다시 위대하게 만든다’는 그 MAGA가 아니다. ‘Made-in-America or Go Away’의 MAGA인데, 신기하게 한글로 번역해도 그대로

By 문가용 기자