AI
💡Editor's Pick - NIST, 사이버 인공지능 프로파일 초안 발표 - 인공지능 보호, 인공지능을 활용한 보호, 인공지능을 대항한 보호 - 항상 움직이는 시스템이므로, 항상 움직이는 유동적 보안 체계 필요 미국의 국립표준기술연구소(NIST)가 안전한 인공지능의 활용을 촉진하기 위해 새로운 프레임워크의 초안을 작성해 공개했다. 이름은 ‘사이버 인공지능 프로파일(Cyber AI
AI
💡Editor's Pick - 프라이버시 보호한다고 해놓고서 브라우저 모니터링 - 인공지능 서비스에 접속한 순간 정보 수집 - 인공지능과 사용자 간 대화는 현재 매우 값비싼 데이터 보안에 민감하거나 자꾸만 뜨는 광고를 귀찮아 하는 사람들이라면 브라우저에 광고 차단기 하나 정도는 설치해서 사용하고 있을 것이다. 광고사나 기업들의 은밀한 추적 행위에 대해 이해하고
TTESays
💡Editor's Pick for Juniors - OWASP 서울 챕터에서 연 보안 송년회 - 젊은 층에 해주고 싶은 실속 있는 조언들이 가득 - 인공지능이 2025년에 이어 2026년에도 화두 Juniors, 안녕! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 연말이면 여러 분야의 전문가들이 뭘 하는지 아니? 미래 예측이야. 내년도에 이런 저런
AI
💡Editor's Pick - 제미나이 엔터프라이즈, 업무 환경에 결합했을 때 취약해져 - 간접 프롬프트 입력 공격을 대단위로 허용 - 너무 많은 권한을 인공지능에 이양해서 생기는 문제 구글의 LLM인 제미나이에서 중대한 보안 취약점이 발견됐다. 보안 기업 노마시큐리티(Norma Security)가 밝힌 내용에 의하면 해당 취약점에 영향을 받는 모델은 제미나이 엔터프라이즈(
AI
💡Editor's Pick - 거의 모든 AI IDE에 공통적으로 나타나는 해킹 경로 - 단일 취약점 아니라, 새로운 취약점 카테고리 - 이 카테고리에 포함된 취약점 30개 넘어 인공지능과 관련된 새로운 유형의 취약점이 발견됐다. 취약점의 카테고리 하나가 새롭게 만들어진 것으로, 단일 CVE보다 그 영향력이 지대하다고 한다. 이 카테고리에는 아이디재스터(IDEaster)라는
AI
💡Editor’s Pick - 딥페이크 및 사진 조작 기술 활용한 가상 납치 범죄 - 사진과 영상 조악해 상세히 살펴보면 수상함 눈치챌 수 있어 - 침착함 유지하는 것이 관건 딥페이크 기술을 악용한 범죄가 유행하고 있어 미국 연방수사국(FBI)이 경고를 발령했다. 범죄자들은 피해자의 사진이나 영상을 SNS에서 습득한 뒤 조작함으로써, 해당 인물이
AI
💡Editor's Pick - 에이전틱 브라우저의 인공지능 에이전트, 권한 너무 높아 - 인공지능도 아직까지 사람과 비슷한 실수 저질러 - 권한 높고 실수 많은 인공지능이 대리자가 된다면 위험한 게 당연 시장 조사 및 분석 전문 기업인 가트너(Gartner)가 “아직까지 에이전틱 브라우저는 일반 기업 환경에서 사용하기에 지나치게 위험하다”는 평가를
AI
💡Editor's Pick - LLM, 요약을 잘 하는 것이지 추론 잘 하는 것 아냐 - '사실'이라고 사용자가 강하게 말하면 LLM에는 사실이 돼 - 진실에 뿌리를 내리지 못하는 LLM, 각종 오류 일으켜 인공지능의 기본적 추론 능력에 문제가 있다는 지적이 나왔다. MS 애저의 CTO인 마크 러시노비치(Mark Russinovich)
TTESays
💡Editor's Pick for Juniors - 인공지능 클로드의 보상 시스템 살짝 손 봤더니 전방위적 타락 - 거짓말하고, 책임 회피하고, 윤리 가이드라인이 붕괴 - 평가 시스템이 미치는 영향, 기계나 사람이나 지대해 Juniors, 안녕! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 어제 이 편지를 통해 게임이 가진 중독성의 근원에 대해
TTESays
💡Editor's Pick for Juniors - 여러 대학들에서 속속 나오는 시험 부정 행위 사례들 - 인공지능으로 쓴 글, 100% 식별하는 건 불가능 - 교육과 학교 운영 방침, 학습의 목표 등 기본기 부실이 부른 일 Youngsters! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 요즘 대학생 언니 오빠들이 여기 저기서
AI
💡Editor's Pick - MS, 여러 언어 모델들 통해 프롬프트 추론 공격에 성공 - 특정 주제에 대한 응답 나올 때 발생하는 네트워크 패턴 있어 - 이 패턴만 파악하면 암호화 기술도 무력화 할 수 있어 대형 언어 모델을 원격에서 공략할 수 있는 기법이 새롭게 발견됐다. 이를 공개한 마이크로소프트는 해당 기법에
AI
💡Editor's Pick - 챗GPT 공략 가능한 7개 방법 개발돼 - 프롬프트 주입 공격은 원천 봉쇄 되지 않아 - 단기 방어 대책과 중장기 대책 모두 고려돼야 인기 높은 인공지능 모델인 챗GPT에서 새로운 취약점이 발견됐다. 익스플로잇에 성공한 공격자는 피해자의 동의를 획득하지 않고도 개인정보와 챗GPT와의 채팅 기록을 열람할 수 있게 된다.