AI

TTEJunior

인공지능으로 시험 보는 대학생들, 막을 수 있나?

💡Editor's Pick for Juniors - 여러 대학들에서 속속 나오는 시험 부정 행위 사례들 - 인공지능으로 쓴 글, 100% 식별하는 건 불가능 - 교육과 학교 운영 방침, 학습의 목표 등 기본기 부실이 부른 일 Youngsters! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 요즘 대학생 언니 오빠들이 여기 저기서

AI

대형 언어 모델과의 대화 내용 추론케 하는 ‘위스퍼리크’

💡Editor's Pick - MS, 여러 언어 모델들 통해 프롬프트 추론 공격에 성공 - 특정 주제에 대한 응답 나올 때 발생하는 네트워크 패턴 있어 - 이 패턴만 파악하면 암호화 기술도 무력화 할 수 있어 대형 언어 모델을 원격에서 공략할 수 있는 기법이 새롭게 발견됐다. 이를 공개한 마이크로소프트는 해당 기법에

AI

악성 프롬프트 주입, 100% 방어는 불가능

💡Editor's Pick - 챗GPT 공략 가능한 7개 방법 개발돼 - 프롬프트 주입 공격은 원천 봉쇄 되지 않아 - 단기 방어 대책과 중장기 대책 모두 고려돼야 인기 높은 인공지능 모델인 챗GPT에서 새로운 취약점이 발견됐다. 익스플로잇에 성공한 공격자는 피해자의 동의를 획득하지 않고도 개인정보와 챗GPT와의 채팅 기록을 열람할 수 있게 된다.

AI

인공지능 통해 악성 코드 분석했더니, “아무튼 빨랐죠”

💡Edit0r's Pick - 실시간으로 대화하면서 분석하는 기법 - 모든 데이터를 취합해 인공지능에 던져주는 기법 - 전자는 가설 검증에 강점, 후자는 멀웨어 계층 식별에 강점 인공지능을 활용해 복잡한 멀웨어를 분석 및 해독하는 데 성공한 사례가 나타났다. 보안 기업 체크포인트(CheckPoint)의 연구원들이 실시한 것으로, “복잡하게 구성돼 있어 분석 난이도가

AI

허위 면접 보다가 딱 걸린 북한 해커들

💡Editor's Pick - 두 명의 페이머스천리마 소속 해커들, 딱 걸려 - 한 명은 인공지능 필터 기능이 너무 과해서, 다른 한 명은 신경질적이어서 - 인공지능 동원한 허위 면접 전술, 갈수록 위협적으로 변모할 듯 북한 해커들의 위장 취업이 이어지고 있다. 보안 기업 퀘찰(Quetzal)은 최근 페이머스천리마(Famous Chollima)라고

AI

오픈AI의 새 브라우저, 현재는 프라이버시 침해 도구

💡Editor's Pick - 야심차게 내놓은 새 인공지능 브라우저인데... - 기존 브라우저들의 보안 문법 대부분 무시 - 심각한 프라이버시 침해 우려돼, 아직 사용 자제해야 오픈AI가 야심차게 내놓은 인공지능 브라우저 챗GPT 아틀라스(ChatGPT Atlas, 이하 아틀라스)에서 심각한 프라이버시 침해 위험 요소가 발견됐다. 문제를 제기한 건 보안 기업 멀웨어바이트(Malwarebyte)

AI

인공지능 브라우저의 연패...챗GPT아틀라스까지도

💡Editor's Pick - 연달아 나오는 인공지능 브라우저들, 하지만 완성도가 문제 - 오픈AI의 챗GPT아틀라스도 간단한 공격에 취약 - 심지어 기본 피싱 보호 기능도 내장돼 있지 않아 출시된 지 얼마 지나지 않은 인공지능 브라우저 ‘챗GPT아틀라스(ChatGPT Atlas)’에서 새로운 취약점이 발견됐다. 익스플로잇에 성공한 공격자는 사용자의 챗GPT 세션 메모리에 악성 명령을

AI

모든 인공지능 브라우저 공략하는 사이드바스푸핑 공격

💡Editor's Pick - 코멧과 챗GPT아틀라스 등 속속 등장하는 인공지능 브라우저 - 악성 플러그인 통해 사이드바 위장하면 각종 공격 가능 - 신기술에 대한 높은 신뢰도와 낯섦 모두 공략하는 기법 인공지능 기반 브라우저들을 위험에 빠트릴 수 있는 기법이 새롭게 발견됐다. 일명 ‘사이드바 스푸핑(sidebar spoofing)’이라고 하는 이 기법은 “브라우저

AI

챗GPT, 클로드, 제미나이...차별없이 위험한 이유

💡Editor's Pick - 모든 인공지능 모델 공통으로 위협하는 셰도우이스케이프 - 문제는 인공지능과 사용자 데이터베이스 연결해주는 MCP - 소리소문 없이 인공지능 통해 민감 정보 대량 유출 가능 인공지능 모델들을 위협할 수 있는 새로운 공격 기법이 발견됐다. 다행히 보안 기업 오퍼란트AI(Operant AI)가 해커들보다 먼저 발견해 세상에 알렸고, 따라서

AI

미 연방 기관, 오픈AI에 사용자 민감 데이터 요구

💡Editor's Pick - 미국 국토안보수사국, 1년 넘게 아동 착취 사이트 추적 - 관리자로부터 챗GPT 관련 서술 확보 - 오픈AI에 사용자 정보 요구하는 영장까지 발부돼 미국과 유럽이 정치 외교적으로는 가까웠다 멀어졌다 하지만, 한 가지 변치 않는 공통점을 가지고 있긴 하다. 두 지역 모두 아동을 겨냥한 범죄에 무시무시한 반응을 보인다는

AI

MS 코파일럿 취약점, 민감 정보 유출시켜

💡Editor's Pick - 코파일럿의 여러 가지 특성 악용한 공격 시나리오 개발 - 악성 문서 요약시켜 다이어그램 그리게 하면 정보가 외부로 - 인공지능 활용에도 기본 보안 수칙 적용시켜야 마이크로소프트의 인공지능 모델인 코파일럿(Copilot)에서 취약점이 발견됐다. 지시문이 숨겨진 문서를 코파일럿으로 요약하면 민감 정보가 탈취된다는 내용이다. 심지어 문서 요약 후

AI

인공지능, 보이스 피싱에 날개를 달다

💡Editor's Pick - 인공지능, 사람이 하던 것을 더 잘 하게 해주는 기술 - 보이스 피싱, 어설픈 공격 기법이었던 것이 이제는 강력한 위협 - 인공지능의 목소리 복제 기술, 대응책 마련 시급 현실 속 인공지능이 지금 가진 힘은 영화나 소설에 등장하는 ‘초월적 존재’와는 거리가 멀다. 빠른 발전을 통해 어디까지