[칼럼] AI범죄, 수사기법 선진국 수준으로 법제화 돼야

[칼럼] AI범죄, 수사기법 선진국 수준으로 법제화 돼야
[이미지: AI Generated by TheTechEdge]
💡
Editor Pick
- AI 범죄·부작용, 보안 강화·수사기법·사법 공조 강화해 예방해야
- 정부가 아낌없는 기술 지원해 보안기술 강화 및 확보해야

[칼럼 윤해성 한국형사·법무정책연구원 AI 미래정책연구실장] 영화 레지던트 이블을 보면 AI가 인간을 복제·통제하고 주인공이 설치한 폭탄으로 파괴하면서 소멸한 듯 했으나, 슈퍼컴퓨터 능력으로 자신을 다른 프로그램들에 업로드해 다시 살아서 결국은 인류를 멸망시킬 수 있는 메시지를 담고 있다.

처음에는 단순히 좀비 영화인 줄 알았는데 사실은 AI가 인류를 정복하고 위협한다는 내 용이다. 이처럼 최근 많은 영화들의 시사점은 AI의 경우 AI가 사이버보안 수단이자 동시에 공격 대상이 될 수 있다는 메시지를 미리 알려준다.

가령, 최근 딥페이크가 이슈화되고 있고 형사적으로 문제시 되고 있는 것을 알 수 있다. 딥페이크를 이용해 공직선거법을 위반할 수 있으며 가짜 뉴스를 생성할 수 있다. 테러를 선전 및 선동할 수 있는 듯 다양한 수단으로 딥페이크를 활용하고 있다.

문제는 AI가 딥페이크를 사이버상에서 스스로 알아서 생성한다면 이를 제지할 수도 처벌할 수도 없게 된다는 점이다. 그럼에도 불구하고 AI는 최근 각광 받고 있는 기술이자 세상을 편리하게 할 수 있는 다양한 장점이 존재하는 것은 부인하지 못한다고 할 것이다. 산업 성장에 기여 하고 다양한 일들을 빠르게 처리할 수 있는 능력이야말로 세상을 윤택하게 할 수 있 는 기술이기 때문이다.

대표적으로 로봇, 자율주행자 등이 있다. 생각해 보면, 21세기 인터넷이 등장했을 때 최고의 발명품이라는 찬사를 받았으나 한편으로는 사이버 범죄 라는 초국가적 범죄가 등장해 키보드 하나로 범죄를 행할 수 있다는 우려 섞인 시각과 함께 세계적으로 부정적인 논의도 등장하기도 했다.

그러나 지금 이 시점에서 인터넷은 어떠한가? 태블릿 PC, 각종 게임 산업, 페이스 북, 구글, 유튜브, 인스타그램 등 다양한 문화의 형성과 산업의 발전에 기여하지 않았는가? 물론 온라인 도박, 인터넷 사기 등 부작용도 등장한다. 그러나 그때 심각하게 우려한 역기능 보다 순기능이 오히려 크다고 판단된다.

AI도 마찬가지라고 생각한다. 우려 섞인 시각도 부작용도 무시할 수 없지만 그래도 산업이나 문화적인 측면 그리고 인간의 편의적인 측면에서 보면 오히려 순기능이 더 많지 않을까 기대해 본다.

범죄와 부작용은 보안을 강화하고 수사기법과 사법 공조를 강화해 예방하고 대응할 수 있다. 기술이 발전됨에 따라 그 만큼 수사기법과 정보 역시 강화되어야 할 필요가 있기 때문이다. 그러므로 예전부터 논의된 사이버 기본법, 인터넷 감청, 잠입수사, 온라인 수색 등 수사기법이 선진국 수준으로 법제화되어야 할 것이며, 최근 의향서를 제출했지만 사이버 범죄, AI는 초국가적 범죄인만큼 사이버 범죄 협약에도 가입하여 사법 공조 역시 강화될 필요가 있다.

그리고 기술적인 측면에서 정부가 아낌없는 지원으로 하여금 세계적인 AI 강국이 될 수 있도록 해 보안기술을 강화하고, 확보할 필요도 있다. 이런 것이 이뤄진다면 대한민국은 AI 시장에서 전 세계 경쟁력 있는 선진국으로 나아갈 수 있다고 자부한다.

칼럼_ 윤해성 한국형사·법무정책연구원 AI 미래정책연구실장

[기자수첩] 신기술의 범람 앞에서 정신을 날카롭게
10년 넘게 한 기업에 있다가 자유의 몸이 되었다. 강산이 변하기에 충분한 시간, 과연 세상은 달라졌다. 번역과 글쓰기로 먹고사는 입장에서 가장 많이 체감되는 건 영상과 인공지능의 범람이다. 번역가를 구하는 공고들은 거의 전부 ‘영상 번역’으로 바뀌었고, 인공지능을 활용한 콘텐츠 제작을 지향한다는 회사들도 심심찮게 발견할 수 있었기 때문이다. 하지만 직업 포털 사이트에서만
[칼럼] “AI가 명령을 거부했다.”
AI의 인간 명령 거부 사건과 인류의 실존적 위협 문제 AI, 권한과 책임 주체로 바라보고 접근해야 위기 대응 유연성과 통제 회복별도 관심 갖고 균형있는 자원 투입돼야 [칼럼 윤정현 국가안보전략연구원 신안보연구실 연구위원] 최근 챗GPT 오픈AI서 출시한 추론 모델 ’03′가 실험 과정서 인간이 내린 종료 명령을 거부하는 사건이 발생했다. 당시 03는 스스로 실행중인
AI 기술 고도화에 해킹 공격도 ‘고도화’
인공지능(AI) 기술이 고도화될수록 AI 기술을 이용한 해킹 공격도 심화되는 양상이다. 북한·러시아·이란·중국 등과 같은 국가배후 해킹 조직은 챗GPT를 활용하거나, 가상자산 탈취 목적의 범죄 조직은 AI를 활용해 일반인 가상 자산을 노린다. 뿐만 아니라 생성형 AI는 악성코드 개발에도 활용된다. 2025년 하반기에는 이러한 AI 기반 공격이 더욱 고도화할 것으로 보인다.

Read more

금융 보안 앱 위장, '루나스파이' 주의!

금융 보안 앱 위장, '루나스파이' 주의!

💡Editor's Pick - 지난 6월부터 7월까지 두 달 동안 전 세계에서 3천 건 이상 탐지 - 메신저 통해 접근, 뱅킹 보안 도구 설치 권유로 감염 유도 금융 보안 앱으로 가장한 스파이웨어 ‘루나스파이(LunaSpy)’가 유포되면서 이용자들의 각별한 주의가 필요하다. 카스퍼스키에 따르면 루나스파이가 지난 6월부터 7월까지 두 달 동안

By CheifEditor
레노보 웹캠, ‘BadCam’ 취약점 발견

레노보 웹캠, ‘BadCam’ 취약점 발견

💡Editor's Pick - 운영체제 무관하게 키 입력 주입, 추가 장치 가장해 악성 행위 - 리눅스 기반 동작 USB 주변기기 펌웨어 무결성 검증 부재 -“주변기기도 소프트웨어다” 사실 인지해야...펌웨어 중요 레노보의 일부 웹캠 모델에서 원격으로 ‘BadUSB’ 공격 장치로 변조될 수 있는 취약점이 확인됐다. 공격자는 운영체제와 무관하게 은밀하게 키

By CheifEditor
누리랩, AI 피싱 URL 검출 기술 일본 특허 등록...한·미·일 완료

누리랩, AI 피싱 URL 검출 기술 일본 특허 등록...한·미·일 완료

누리랩이 ‘인공지능 알고리즘을 이용해 피싱 사이트와 연관된 URL을 검출하는 방법 및 장치’ 기술로 일본 특허를 등록했다고 19일 밝혔다. 특허 기술은 누리랩이 자체 개발한 AI 기술과 빅데이터 기반 URL 유사도 분석 기술 알고리즘 바탕으로 악성 위협 요소를 분석해 피싱 공격 차단 신기술이다. 신종·변종 사이트 공격 차단을 위해 ▲웹사이트 문자 ▲특수문자

By CheifEditor