정경두 NCSL 대표, "AI 시스템, 안전성 없이 어떤 것도 신뢰할 수 없어"

사이버안보연구소 & 숭실대 AI 안전성연구센터 컨퍼런스 개최

AI 발전에 있어 안전성이 보장돼야 한다는 의견이 제기됐다. 특히 안전성 확보를 위한 기술과 법제도 균형이 중요하다는 것.

정경두 사이버안전연구소(이하 NCSL) 대표는 19일 'AI 안보, AI 산업경쟁력이다!' 주제로 열린 '사이버안보연구소 & 숭실대 AI 안전성연구센터 컨퍼런스'서 이같이 밝혔다.

정경두 대표는 개회사에서 "AI기술은 러시아-우크라이나 전쟁, 재난, 보건의료 등 직간접적으로 활용되고 있다"며 "얼마나 신뢰성 있는 양질의 데이터를 적용하는 지가 중요하다"고 말했다.

특히 AI 시스템이 해킹돼 잘못된 데이터가 적용될 경우 엉뚱한 결과가 도출, 국가안보는 물론 인간의 생명과 안전을 위협하는 심각한 피해를 초래할 수 있다는 것. 즉 AI 시스템 안전이 보장되지 않으면 그 어떤 것도 신뢰할 수 없단 얘기다.

또 "이재명 정부는 AI 산업 생태계를 미래 국가생존전략으로 중점 추진할 것을 밝혔다"며 " 바늘 가는데 실 가듯 사이버 보안도 함께 반영해, 안전한 AI 디지털 선도국가로 우뚝서길 기대한다"고 덧붙였다.

조인철 더불어민주당 의원은 축사를 통해 "AI는 우리 사회 중요 핵심 기술로, 사회전반에 걸쳐 모든 분야를 변화시킬 수 있는 만큼, AI 자체가 산업 경쟁력"이라며 "AI 기술을 모두가 공평하게 쓸 수 있는 시대가 돼야 한다"고 전했다.

이관후 입법조사처장은 "AI 기술은 기회와 위협의 교차 시대에 있다"며 "AI기술은 교육, 의료, 산업, 행정 등에서 혁신을 나타내며, 새로운 세상이 펼쳐질 것으로 전망되고 있는 반면, AI 악용시 SKT통신사와 같은 기반시설 해킹, 국제분쟁 등 국가 안보를 위협할 수 있다"고 우려했다. 이는 기회와 위협을 균형있게 잘 관리해야 한단 뜻이다.

이 처장은 "AI 기술 변화에 중요한 건 속도다. 명확한 대응 능력이 있으면 속도를 주도, 제어할 수 있다"며 "오늘 토론회가 이런 관점에서 변화에 대응하고 대안을 찾길 바란다"고 축사를 마무리했다.

이어서는 'AI 안정성 확보를 위한 동향 및 기술' 주제로 이상용 김앤장 IT수석이 AI 안보를 위한 준비로 서비스 개발, 인프라, 경쟁력 강화를 갖춰야 한다고 제시했다.

이상용 수석은 "AI로 변화 가능한 서비스를 도출해 국방안보 분야를 AI 서비스로 전환해야 하고, AI활용 가능 문화를 형성해 AI 역량을 강화해야 한다"며 "보유 데이터를 활용한 협력모델 공유서비스 제공 등으로 AI 자원을 확보하고, AI 연구거점을 통한 허브 구축 등 인프라를 강화해야 한다"고 말했다. 또 "수요기업 AX 지원, 글로벌행사추진 등 글로벌 연결로 산업을 확장, 산・학・관이 협력으로 인재를 양성해 경쟁력을 강화해야 한다"고 덧붙였다.

이어 최대선 숭실대 AI 안정성 연구센터 교수는 'AI와 사이버 보안, 공존을 위한 규범과 기술의 균형' 발제에서 AI 국가 안보위협으로 AI를 악용한 정보전·가짜뉴스, AI를 사용하는 국가인프라, 무기체계에 대한 적대 공격을 예로 들며, AI가 똑똑해질수록 공격표면은 넓어진다고 우려했다.

최대선 교수는 "AI는 정보와 인프라를 동시에 위협하는 국가안보 변수며, AI 안보는기술이 자산업"이라며 "AI 안보산업이 제2의 방산이 될 수 있도록 AI 자체를 보호하는 기술과 산업, 보안을 위해 AI를 활용하는 산업으로 발전시켜야 한다"고 말했다.

최 교수는 AI 보안에 대한 선제적 투자와 산업기반 확보, 정부·민간이 함께하는 신뢰기반 생태계 조성, 기술·정책·인재가 동시에 작동하는 전략 추진이 필요하다고 제안했다.

이원태 국민대 정보보호.AI정책 교수가 좌장을 맡은 토론회서 윤호상 국방과학연구소 박사는 'AI기반 사이버전 전략'에 대해 선재적 AI기술을 적용한 사이버 방어기술 개발이 필수라고 지목했다. 특히 AI기술 적용 속도가 중요하다는 것. 또 미래 무기체계의 핵심은 지능화, 자동화라며 군의 전쟁수행 영역에도 인공지능 활용 가속화를 예상(MUM-T)했다.

윤호상 박사는 "무기체계내 AI에 대한 사이버 보안 중요성이 증가하고 있다"며 "AI 모델 보안성 검증 등 AI 기술 개발 단계의 사이버보안을 고려한 개발이 필요하다"고 강조했다.

윤해성 한국형사법무정책연구원 박사는 'AI산업 생태계를 위한 법제도'에 대해 "사이버 기본법, 인터넷 감청, 잠입수사, 온라인 수색 등 수사기법을 선진국 수준으로 법제화해야 한다"며 "AI는 초국가적 범죄인만큼 사이버 범죄 협약에 가입해 사법 공조를 강화하고, 정부 지원으로 보안기술을 강화해야 한다"고 강조했다.

Related Materials

• AI 안전이란 무엇인가요? - IBM, 2024년
• “2023년 AI 현황 보고서” 분석 - Unite.AI, 2023년