AI활용, 개인정보보호 어떻게?

개인정보보호위원회(위원장 고학수, 이하 ‘개인정보위’)는 제3차 '2025 개인정보 미래포럼'이 24일 명동 포스트타워에서 개최됐다.

‘개인정보 정책 토론의 장’인 포럼은 학계·법조계·산업계·시민사회 등 전문가들이 모여 ‘인공지능시대 개인정보 보호’ 의제로 발제와 토론이 진행됐다.

첫 발제에서 이종규 티사이언티픽 이사는 자연어 처리 모델에 기반한 인공지능(AI)을 활용해 채팅 등 비정형(대화형) 텍스트 속에서 개인정보를 실시간으로 탐지하고 비식별화하는 기술 등을 소개했다.

이어 김기태 UPSDATA 대표는 실시간 생성 데이터에 포함된 개인정보를 AI를 활용해 비식별 처리하며, 데이터 유용성을 확보하는 기술 연구 성과를 공유했다. 이는 위험 상황에서 범죄신고 및 응급 상황에서 환자 건강정보를 가정용 건강기기에서 의료기관으로 전송하는 경우 등 실시간으로 데이터를 수집·분석하는 과정서 시간지연과 정보손실을 최소화하는 장점이 있다.

개인정보위는 이날 포럼에서 제안된 의견을 반영해 신기술·신산업 혁신에 친화적인 환경 기반을 구축해 나갈 계획이다. 개인정보위는 디지털 환경에서 개인정보를 보호하며 데이터를 자유롭게 활용할 수 있도록 개인정보 보호 강화 및 활용 기술에 대한 연구개발(R&D)을 지원하고 있다.

오는 8월 개최될 예정인 제4차 개인정보 미래포럼도 ‘인공지능 시대 개인정보 보호’를 의제로 진행되며, 인공지능 신뢰성 제고를 위한 개인정보보호 강화기술 등을 논의할 예정이다.

Related Materials

• AI 시대의 개인정보 보호 방향성에 대한 고찰 및 시사점 | 인사이트 리포트, Samsung SDS, 2024년

[칼럼] AI 보안, 국가 안보 제2 K방산

💡- 해외, AI 자체 보안 전략 - 보안, 국가 전략 사업돼야 - AI 보안 키우는 나라가 진짜 AI 강국 LLM만 키울 것인가, AI 보안은 누가 지킬 것인가 [칼럼 최대선 숭실대학교 AI안전성연구센터 센터장] 2025년 6월 4일, 신정부가 공식 출범했다. 출범 직후 발표된 ‘AI 대전환’ 전략과 ‘모두의 AI’ 프로젝트는 파운데이션 모델, AI

The Tech EdgeCheifEditor

[칼럼] “AI가 명령을 거부했다.”

AI의 인간 명령 거부 사건과 인류의 실존적 위협 문제 AI, 권한과 책임 주체로 바라보고 접근해야 위기 대응 유연성과 통제 회복별도 관심 갖고 균형있는 자원 투입돼야 [칼럼 윤정현 국가안보전략연구원 신안보연구실 연구위원] 최근 챗GPT 오픈AI서 출시한 추론 모델 ’03′가 실험 과정서 인간이 내린 종료 명령을 거부하는 사건이 발생했다. 당시 03는 스스로 실행중인

The Tech EdgeCheifEditor

AI 기술 고도화에 해킹 공격도 ‘고도화’

인공지능(AI) 기술이 고도화될수록 AI 기술을 이용한 해킹 공격도 심화되는 양상이다. 북한·러시아·이란·중국 등과 같은 국가배후 해킹 조직은 챗GPT를 활용하거나, 가상자산 탈취 목적의 범죄 조직은 AI를 활용해 일반인 가상 자산을 노린다. 뿐만 아니라 생성형 AI는 악성코드 개발에도 활용된다. 2025년 하반기에는 이러한 AI 기반 공격이 더욱 고도화할 것으로 보인다.

The Tech EdgeCheifEditor

AI 에이전트 위험 대응하는 보안 체계 마련 필요

금융보안원, AI 에이전트 보안 위협 보고서 공개 ‘에이전트 하이재킹‘, ‘도구 오염’ 위협 상세 분석 AI 에이전트 기능을 가로채 악용, 사용 도구를 오염시키는 등 보안 위협에 대한 주의가 요구된다. AI 모델 등장으로 금융권 내 AI 에이전트 도입이 증가, AI 에이전트 위험이 커질 수 있기 때문이다. 이에 따라 AI 에이전트 위험 대응마련이

The Tech EdgeCheifEditor