Opinion

[칼럼] "AI 시대, 최종 방패는 AI가 아니라 그것을 다루는 사람과 문화"

CheifEditor

Published: 00:06, 30 Aug 2025 (Updated: 10:45, 03 Sep 2025)

[이미지: AI Generated by TheTechEdge]

💡

Editor’s Pick
- AI 기반 보안 솔루션, 실제 검증되지 않고 도입되는 경우 적지 않아
- 방어 성패, 보안 내재화하는 관리자의 스마트한 결정에 달려있어

[칼럼 차욱재 법무부 정보화데이터담당관실 주무관] 지능화되고 있는 사이버 위협, 스마트한 관리자 요구 AI는 이제 사이버 공격의 핵심 무기가 되었다. 최근 글로벌 보안 업계서 보고된 사례만 보더라도 그 위력은 분명하다.

2023년 영국의 한 에너지 기업에서는 공격자가 페이크 음성을 활용해 CFO를 속이고 거액의 송금을 유도했다. 또한 북미에서는 생성형 AI가 자동으로 작성한 피싱 메일이 기존 필터링 시스템을 뚫고 직원의 계정을 탈취한 사례가 보고되었다. 이처럼 AI 기반 위협은 단순한 기술적 해킹을 넘어, 사람의 신뢰와 의사 결정을 정조준하고 있다.

이에 맞서 보안 업계도 대응 기술을 고도화하고 있다. 글로벌 기업들은 AI 기반 행위 분석 시스템을 통해 제로데이 공격을 탐지하고 있다. 국내서도 금융권을 중심으로 딥페이크 음성 판별 솔루션을 도입해 전화 금융사기를 막고 있다. 나아가 다수의 국가에서는 연합학습(Federated Learning) 기반 보안 프로젝트를 추진하며, 개인정보를 외부에 노출하지 않으면서도 글로벌 위협 데이터를 공유하려는 시도가 활발하다. 방어도 AI를 활용해 분명히 지능화되고 있는 것이다.

그러나 여기에는 중요한 과제가 남아 있다. 바로 AI 보안 제품에 대한 검증이다. 현재 시장에는 수많은 ‘AI 기반 보안 솔루션’이 출시되고 있다. 하지만, 실제 환경에서 검증되지 않은 채 도입되는 경우도 적지 않다.

예컨대, 일부 기업은 “AI가 피싱 메일을 완벽히 걸러준다”는 홍보를 믿고 솔루션을 도입 했으나, 정작 최신 공격 기법에 무력하게 뚫리면서 2차 피해가 발생하기도 했다. 결국 객관적인 평가 기준과 엄격한 시험 절차를 거친 AI 보안 제품만이 조직의 신뢰를 얻을 수 있다.

이 지점에서 관리자의 역할이 결정적이다. 기술의 발전만큼이나 중요한 것은 스마트한 선택이다. 관리자는 보안 투자를 단순한 비용이 아닌 조직의 신뢰와 생존을 위한 투자로 인식해야 한다. 또한 시스템 설계 단계부터 보안을 내재화하고, 조직 구성원들이 보안을 자연스럽게 실천하도록 문화적 토대를 마련해야 한다.

AI 솔루션은 보조 도구일 뿐, 그것을 어떤 방식으로 활용하고 검증할지는 관리자의 결단에 달려 있다. 사이버 공격은 날로 지능화되고 있다. 대응도 지능화되어야 한다. 하지만 방어의 성패는 기술 그 자체가 아니라, 검증된 도구를 선택하고 조직 문화 속에 보안을 내재화하는 관리자의 스마트한 결정에 달려 있다. 결국, AI 시대 보안의 최종 방패는 AI가 아니라 그것을 다루는 사람과 문화다.