투자사기, SNS와 딥페이크 날개 달고 '날아올라'

- 메타 플랫폼인 인스타그램, 페이스북, 왓츠앱이 딥페이크 홍보
- 캐나다, 영국, 호주 등 SNS에 올라온 딥페이크 동영상 투자 사기 기승
- 메타에서 딥페이크 탐지, 차단 등 이용자 보호 조치 나서야 한단 지적
메타의 유비쿼터스 플랫폼인 인스타그램, 페이스북, 왓츠앱(WhatsApp)이 딥페이크와 관련된 투자 사기에 이용되고 있어 이용자들의 주의가 요구된다.
범죄자들은 AI 도구를 악용해 유명 경제학자, TV 진행자부터 정부 수반에 이르기까지 금융 부문의 저명한 인물의 가짜 비디오를 만든다. 그런 다음 공격자는 소셜 미디어에 광고를 게재하여 이러한 비디오를 홍보한다.
캐나다 은행 이용자 타깃으로 투자 사기
공격자는 캐나다 은행 이용자 타깃으로 BMO Belski라는 이름으로 인스타그램 광고를 게재했다. 공격자는 미국서 가장 오래된 몬트리올 은행과 BMO 은행의 수석 투자 전략 팀장 이름을 사칭했다.
BMO Belski 광고에는 Belski가 사용자에게 왓츠앱의 개인 투자 그룹에 가입할 수 있다는 딥페이크 동영상이 표시됐다. 사용자는 속아 왓츠앱을 통해 사기꾼과 채팅했다.
이 광고를 게재한 BMO Belski 인스타그램 계정에는 프로필이 없다. 광고는 BMO Belski의 페이스북에서도 게재됐다. 두 소셜 네트워크를 소유한 메타를 사용하면 광고주가 페이스북 비즈니스 페이지에서 인스타그램 광고를 게재할 수 있다. 별도의 인스타그램 계정을 만들 필요가 없다. 공격자는 이를 악용한 셈이다.
사기성 광고 홍보에 사용된 페이스북 페이지는 2023년 10월 27일부터 존재했다. 이전에는 "브렌트링거 매트 블룸"이었다. 사기꾼은 의심을 피하기 위해 이전에 도난당한 계정을 사용했을 가능성이 높다.
파이낸셜 타임즈 경제 평론가 사칭
몇 달 전 영국에선 사기꾼들이 파이낸셜 타임즈의 마틴 울프(Martin Wolf) 경제 평론가를 사칭했다.
공격자는 캐나다 은행 사기와 유사하게 마틴 울프를 사칭해 투자 조언을 빌미로 WhatsApp 그룹에 가입하는 초대 광고를 인스타그램에 올렸다.
파이낸셜 타임즈 후속 조사에 따르면 사기 캠페인은 최소 3개의 서로 다른 딥페이크 비디오와 마틴 울프의 디지털 조작 이미지를 보유했다. 자료는 페이스북과 인스타그램의 1700개 이상 광고에 활용됐다.
메타 Ad 라이브러리(Meta Ad Library)에 따르면 이러한 광고는 EU 국가(영국 제외)에서만 970,000명 이상 사용자에게 도달했다. 최소 10개 계정이 캠페인을 진행했으며 이전 프로필이 차단되자마자 새로운 프로필이 참여했다.
문제는 마틴 울프가 딥페이크 콘텐츠를 자동으로 감지, 제거하는 메타의 얼굴인식 시스템에 등록했음에도 불구하고, 이러한 사고가 발생했단 것이다.
WhatsApp 사기 채팅 내부에서 일어나는 일
사라라는 영국 사무실 관리자는 영국 최대 투자 플랫폼인 하그리브스 란즈다운(Hargreaves Lansdown)의 공동 창립자인 피터 하그리브스(Peter Hargreaves)가 등장하는 인스타그램 딥페이크 영상 광고를 본 후 왓츠앱 그룹에 가입했다.
사기꾼은 사라에 연락해 왓츠앱 그룹 초대장을 보냈다. 그들은 그녀의 스마트폰에 투자 앱으로 추정되는 앱을 다운로드할 수 있는 링크를 보냈다.
처음에 50유로를 투자한 사라는 점점 더 많이 투자해 모든 돈을 잃었다. 투자 사기로 의심했을 때 왓츠앱 그룹은 사라졌고, 투자 앱은 작동을 멈췄다.
피터 하그리브스 딥페이크 영상이 600개 이상 메타 플랫폼에서 발견됐다. 22개 사기 계정이 광고를 게재했고, 하그리브스 란즈다운은 상표권 침해 소송 제기 후 올해 5월 광고를 삭제했다.
피해자 유인을 위해 사기꾼들은 피터 하그리브스와 마틴 울프 외에 다른 영국 금융 유명인의 딥페이크도 활용했다. 여기에는 전 피델리티 인터내셔널 펀드 매니저인 앤서니 볼튼과 전 JP 모건 자산운용의 이코노미스트인 스테파니 플랜더스가 포함됐다.
딥페이크 펌프 앤 덤프 계획의 작동 방식
공격자는 페이스북과 인스타그램 광고에 딥페이크 동영상을 사용해 또 다른 투자 사기를 펼친다.
범죄자들은 가격을 부풀리기 위해 저렴하고 매력적이지 않은 주식을 매수한다. 그런 다음 소셜 미디어에서 공격적인 광고 캠페인을 펼쳐 투자를 권한다. 주식 가치가 최고조에 달하면 사기꾼은 재빨리 주식을 매각하고 수익과 함께 사라진다. 그 후 가격은 급락하고 쓸모없는 주식이 된다.
이처럼 사기꾼들은 페이스북과 인스타그램에 가짜 홍보 동영상을 배포하고 왓츠앱 그룹에 가입하도록 초대, 주식 투자를 권유했다. 몇 주에 걸쳐 주가는 최고점인 9.02달러에 도달 후 93% 폭락해 주가는 13센트까지 떨어졌다. 이로 인해 두 명의 피해자는 각각 250,000셰켈과 150,000셰켈(약 US$75,000 및 US$45,000)을 잃었다.
"Meta, 딥페이크로부터 사용자 보호할 수 없다"
호주에서도 페이스북과 인스타그램 사용자를 대상으로 한 사기 광고가 기승을 부렸다. 투자 사기에는 여러 유명 인사의 딥페이크 동영상이 활용됐다.
딥페이크 동영상은 TV 진행자이자 금융 저널리스트인 데이비드 코흐, 억만장자 지나 라인하트, 환경 보호론자이자 TV 진행자인 로버트 어윈, 호주 현 총리인 앤서니 알바니즈까지 출연했다.
딥페이크 영상서 앤서니 알바니즈는 최소 지출로 상당한 수익을 약속하는 투자 프로그램을 광고했다. 다른 인물 딥페이크 동영상 내 링크는 시청자를 가짜 뉴스 기사로 안내했다. 기사에는 암호화폐 투자나 부자가 되는 방법에 대해 호주의 유명 인사를 인용했다.
이처럼 메타의 SNS에서 딥페이크를 활용한 투자 사기가 기승을 부리고 있다. 하지만 메타의 대응은 미온적이란 지적이 일고 있다.
카스퍼스키 알라나 티터링턴은 "풍부한 리소스와 AI 기반 도구에도 불구하고 메타는 공인의 초상을 악용하는 명백한 가짜 동영상을 신속하게 탐지하지 않고 차단하지 않는다"고 지적했다.
Related Materials
- 딥페이크 기술과 투자 사기 광고 - 한국사이버안전연구센터, 2023년
- 이스라엘 유명인 딥페이크 활용 AI 투자 사기 광고 급증 - KOTRA, 2025년
- FBI의 2023 가상자산 사기 보고서 - 캐디, 2024년
- AI 일상화 시대의 위협, 딥페이크 대응 방안 - NIA 보고서, 2025년
- 생성 AI가 만든 진짜 같은 가짜 : 딥페이크의 진화와 의미 - 법무법인 신 김&장, 2024년
