[칼럼] AI범죄, 수사기법 선진국 수준으로 법제화 돼야

[칼럼] AI범죄, 수사기법 선진국 수준으로 법제화 돼야
[이미지: AI Generated by TheTechEdge]
💡
Editor Pick
- AI 범죄·부작용, 보안 강화·수사기법·사법 공조 강화해 예방해야
- 정부가 아낌없는 기술 지원해 보안기술 강화 및 확보해야

[칼럼 윤해성 한국형사·법무정책연구원 AI 미래정책연구실장] 영화 레지던트 이블을 보면 AI가 인간을 복제·통제하고 주인공이 설치한 폭탄으로 파괴하면서 소멸한 듯 했으나, 슈퍼컴퓨터 능력으로 자신을 다른 프로그램들에 업로드해 다시 살아서 결국은 인류를 멸망시킬 수 있는 메시지를 담고 있다.

처음에는 단순히 좀비 영화인 줄 알았는데 사실은 AI가 인류를 정복하고 위협한다는 내 용이다. 이처럼 최근 많은 영화들의 시사점은 AI의 경우 AI가 사이버보안 수단이자 동시에 공격 대상이 될 수 있다는 메시지를 미리 알려준다.

가령, 최근 딥페이크가 이슈화되고 있고 형사적으로 문제시 되고 있는 것을 알 수 있다. 딥페이크를 이용해 공직선거법을 위반할 수 있으며 가짜 뉴스를 생성할 수 있다. 테러를 선전 및 선동할 수 있는 듯 다양한 수단으로 딥페이크를 활용하고 있다.

문제는 AI가 딥페이크를 사이버상에서 스스로 알아서 생성한다면 이를 제지할 수도 처벌할 수도 없게 된다는 점이다. 그럼에도 불구하고 AI는 최근 각광 받고 있는 기술이자 세상을 편리하게 할 수 있는 다양한 장점이 존재하는 것은 부인하지 못한다고 할 것이다. 산업 성장에 기여 하고 다양한 일들을 빠르게 처리할 수 있는 능력이야말로 세상을 윤택하게 할 수 있 는 기술이기 때문이다.

대표적으로 로봇, 자율주행자 등이 있다. 생각해 보면, 21세기 인터넷이 등장했을 때 최고의 발명품이라는 찬사를 받았으나 한편으로는 사이버 범죄 라는 초국가적 범죄가 등장해 키보드 하나로 범죄를 행할 수 있다는 우려 섞인 시각과 함께 세계적으로 부정적인 논의도 등장하기도 했다.

그러나 지금 이 시점에서 인터넷은 어떠한가? 태블릿 PC, 각종 게임 산업, 페이스 북, 구글, 유튜브, 인스타그램 등 다양한 문화의 형성과 산업의 발전에 기여하지 않았는가? 물론 온라인 도박, 인터넷 사기 등 부작용도 등장한다. 그러나 그때 심각하게 우려한 역기능 보다 순기능이 오히려 크다고 판단된다.

AI도 마찬가지라고 생각한다. 우려 섞인 시각도 부작용도 무시할 수 없지만 그래도 산업이나 문화적인 측면 그리고 인간의 편의적인 측면에서 보면 오히려 순기능이 더 많지 않을까 기대해 본다.

범죄와 부작용은 보안을 강화하고 수사기법과 사법 공조를 강화해 예방하고 대응할 수 있다. 기술이 발전됨에 따라 그 만큼 수사기법과 정보 역시 강화되어야 할 필요가 있기 때문이다. 그러므로 예전부터 논의된 사이버 기본법, 인터넷 감청, 잠입수사, 온라인 수색 등 수사기법이 선진국 수준으로 법제화되어야 할 것이며, 최근 의향서를 제출했지만 사이버 범죄, AI는 초국가적 범죄인만큼 사이버 범죄 협약에도 가입하여 사법 공조 역시 강화될 필요가 있다.

그리고 기술적인 측면에서 정부가 아낌없는 지원으로 하여금 세계적인 AI 강국이 될 수 있도록 해 보안기술을 강화하고, 확보할 필요도 있다. 이런 것이 이뤄진다면 대한민국은 AI 시장에서 전 세계 경쟁력 있는 선진국으로 나아갈 수 있다고 자부한다.

칼럼_ 윤해성 한국형사·법무정책연구원 AI 미래정책연구실장

[기자수첩] 신기술의 범람 앞에서 정신을 날카롭게
10년 넘게 한 기업에 있다가 자유의 몸이 되었다. 강산이 변하기에 충분한 시간, 과연 세상은 달라졌다. 번역과 글쓰기로 먹고사는 입장에서 가장 많이 체감되는 건 영상과 인공지능의 범람이다. 번역가를 구하는 공고들은 거의 전부 ‘영상 번역’으로 바뀌었고, 인공지능을 활용한 콘텐츠 제작을 지향한다는 회사들도 심심찮게 발견할 수 있었기 때문이다. 하지만 직업 포털 사이트에서만
[칼럼] “AI가 명령을 거부했다.”
AI의 인간 명령 거부 사건과 인류의 실존적 위협 문제 AI, 권한과 책임 주체로 바라보고 접근해야 위기 대응 유연성과 통제 회복별도 관심 갖고 균형있는 자원 투입돼야 [칼럼 윤정현 국가안보전략연구원 신안보연구실 연구위원] 최근 챗GPT 오픈AI서 출시한 추론 모델 ’03′가 실험 과정서 인간이 내린 종료 명령을 거부하는 사건이 발생했다. 당시 03는 스스로 실행중인
AI 기술 고도화에 해킹 공격도 ‘고도화’
인공지능(AI) 기술이 고도화될수록 AI 기술을 이용한 해킹 공격도 심화되는 양상이다. 북한·러시아·이란·중국 등과 같은 국가배후 해킹 조직은 챗GPT를 활용하거나, 가상자산 탈취 목적의 범죄 조직은 AI를 활용해 일반인 가상 자산을 노린다. 뿐만 아니라 생성형 AI는 악성코드 개발에도 활용된다. 2025년 하반기에는 이러한 AI 기반 공격이 더욱 고도화할 것으로 보인다.

Read more

내 블루투스 이어폰, 남의 고막 울린다

내 블루투스 이어폰, 남의 고막 울린다

각종 블루투스 헤드폰과 이어버드의 주요 부품에서 심각한 취약점이 발견됐다. 블루투스 기술로 접속이 가능한 거리에 있는 여러 제품들이 해킹 공격에 노출돼 있다고 보안 업체 ERNW가 경고했다. 다만 블루투스 헤드폰/이어폰 제품의 보편성과, 취약점이 주는 영향의 심각성을 고려해 기술 정보를 상세히 공개하지는 않았다. 이번 보안 경고의 주인공이자 문제의 핵심에 놓여 있는 부품은

By Senior Editor
랜섬웨어 공격자들, 비즈니스 파트너아니다

랜섬웨어 공격자들, 비즈니스 파트너아니다

💡Editor Pick - 랜섬웨어 피해자 절반 가까이 몸값 지불 - 공격자 협상 방식 변화, 신뢰도 일시적 상승 - 예방과 백업이 유일한 대책, 기업 실무자 스트레스 증가 예스24(Yes24)가 랜섬웨어 공격자와 협의했던 것으로 보이는 가운데, 랜섬웨어 피해자들 중 절반 가까이가 공격자들이 요구한 돈을 지불한 것으로 조사됐다. 데이터를 보호하기 위한 사용자들의

By CheifEditor
中 해킹 조직, 전 세계 가정용·소형 네트워크 장비 1천여 대 장악…‘스파이망’ 구축 정황

中 해킹 조직, 전 세계 가정용·소형 네트워크 장비 1천여 대 장악…‘스파이망’ 구축 정황

💡Editor Pick - LapDogs, 중국과 연계된 해킹조직으로 정보 탈취의 첩보활동 수행 - 리눅스 기반 SOHO 장비를 대상으로 ShortLeash 백도어 활용 - 네트워크 장비의 펌웨어 업데이트 및 관리자 비밀번호 변경 필수 중국과 연계된 해킹 조직이 미국, 동남아, 한국 등지의 가정용·소형 오피스(SOHO) 네트워크 장비 1,000여 대를 감염시켜 장기 사이버

By CheifEditor