AI

AI

IBM의 인공지능 코더 밥, 악성코드 제작과 실행에도 능숙

💡Editor's Pick - IBM이 지난 해 발표한 인공지능 코딩 서비스, 밥 - LLM의 고질적 문제인 프롬프트 주입에 취약 - 기본 보안 조치도 제대로 마련돼 있지 않아 IBM에서 출시한 인공지능 코딩 솔루션인 밥(Bob)이 악성코드도 잘 만든다는 실험 결과가 발표됐다. 보안 기업 프롬프트아머(PromptArmor)에서 공개한 것으로, 최근

AI

인공지능 때문에 늘어나는 자동화 트래픽, 보안 사고의 씨앗

💡Editor's Pick - 자동화 트래픽 크게 늘리는 인공지능 서비스들 - 나쁜 트래픽 아니어도 '봇 트래픽 증가' 만으로도 문제 - 통제 불가능한 수준이 되는 것이 불안의 근원...가시성 확보 필요 LLM이 인기를 끌면서 인공지능이 대중화 되기 시작했다. 이 때문에 봇 트래픽이 급격히 증가하는 중이다. 동시에 자동화 기술이

TTEJunior

크롬용 클로드 플러그인, 사람 중심 보안의 근간을 흔들다

💡Editor's Pick for Juniors - 인공지능 회사 앤트로픽에서 만든 브라우저 플러그인 - 인간을 대체하는 강력한 기능 때문에 현대 보안 근간 흔들려 - 인간이기에 가능한 책임 귀속과 수정 가능성, 인공지능에는 없어 Juniors, 안녕! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 지난 달 인공지능 기업 앤트로픽(Anthropic)은 크롬

TTEJunior

인공지능, 취약점 관리 대신 할 수 있나?

💡Editor's Pick for Juniors - 인공지능에 3만 개 취약점 정보 입력 후 점수 내게 했더니 - 취약점 정보 품질에 따라 크게 좌지우지 되는 인공지능 - 취약점 정보 품질 개선되지 않는다면 인공지능 무쓸모 Juniors, 안녕! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 인공지능이 취약점 우선순위를 정하는 데 얼마나

AI

NIST가 발표한 ‘사이버 인공지능 프로파일’, 어떤 내용인가?

💡Editor's Pick - NIST, 사이버 인공지능 프로파일 초안 발표 - 인공지능 보호, 인공지능을 활용한 보호, 인공지능을 대항한 보호 - 항상 움직이는 시스템이므로, 항상 움직이는 유동적 보안 체계 필요 미국의 국립표준기술연구소(NIST)가 안전한 인공지능의 활용을 촉진하기 위해 새로운 프레임워크의 초안을 작성해 공개했다. 이름은 ‘사이버 인공지능 프로파일(Cyber AI

AI

프라이버시 보호 앱의 거짓말…즉시 삭제 필요

💡Editor's Pick - 프라이버시 보호한다고 해놓고서 브라우저 모니터링 - 인공지능 서비스에 접속한 순간 정보 수집 - 인공지능과 사용자 간 대화는 현재 매우 값비싼 데이터 보안에 민감하거나 자꾸만 뜨는 광고를 귀찮아 하는 사람들이라면 브라우저에 광고 차단기 하나 정도는 설치해서 사용하고 있을 것이다. 광고사나 기업들의 은밀한 추적 행위에 대해 이해하고

TTEJunior

인공지능이 가득할 미래, 어떻게 준비할까?

💡Editor's Pick for Juniors - OWASP 서울 챕터에서 연 보안 송년회 - 젊은 층에 해주고 싶은 실속 있는 조언들이 가득 - 인공지능이 2025년에 이어 2026년에도 화두 Juniors, 안녕! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 연말이면 여러 분야의 전문가들이 뭘 하는지 아니? 미래 예측이야. 내년도에 이런 저런

AI

제미나이잭, 기업용 제미나이의 설계 결함

💡Editor's Pick - 제미나이 엔터프라이즈, 업무 환경에 결합했을 때 취약해져 - 간접 프롬프트 입력 공격을 대단위로 허용 - 너무 많은 권한을 인공지능에 이양해서 생기는 문제 구글의 LLM인 제미나이에서 중대한 보안 취약점이 발견됐다. 보안 기업 노마시큐리티(Norma Security)가 밝힌 내용에 의하면 해당 취약점에 영향을 받는 모델은 제미나이 엔터프라이즈(

AI

아이디재스터, 인공지능 시대의 새로운 취약점 카테고리

💡Editor's Pick - 거의 모든 AI IDE에 공통적으로 나타나는 해킹 경로 - 단일 취약점 아니라, 새로운 취약점 카테고리 - 이 카테고리에 포함된 취약점 30개 넘어 인공지능과 관련된 새로운 유형의 취약점이 발견됐다. 취약점의 카테고리 하나가 새롭게 만들어진 것으로, 단일 CVE보다 그 영향력이 지대하다고 한다. 이 카테고리에는 아이디재스터(IDEaster)라는

AI

딥페이크 기술 활용한 ‘가상 납치’ 기승

💡Editor’s Pick - 딥페이크 및 사진 조작 기술 활용한 가상 납치 범죄 - 사진과 영상 조악해 상세히 살펴보면 수상함 눈치챌 수 있어 - 침착함 유지하는 것이 관건 딥페이크 기술을 악용한 범죄가 유행하고 있어 미국 연방수사국(FBI)이 경고를 발령했다. 범죄자들은 피해자의 사진이나 영상을 SNS에서 습득한 뒤 조작함으로써, 해당 인물이

AI

가트너, “에이전틱 브라우저, 당분간 차단이 정답”

💡Editor's Pick - 에이전틱 브라우저의 인공지능 에이전트, 권한 너무 높아 - 인공지능도 아직까지 사람과 비슷한 실수 저질러 - 권한 높고 실수 많은 인공지능이 대리자가 된다면 위험한 게 당연 시장 조사 및 분석 전문 기업인 가트너(Gartner)가 “아직까지 에이전틱 브라우저는 일반 기업 환경에서 사용하기에 지나치게 위험하다”는 평가를

AI

MS 애저 CTO, “LLM의 기본 추론 능력, 부실하다”

💡Editor's Pick - LLM, 요약을 잘 하는 것이지 추론 잘 하는 것 아냐 - '사실'이라고 사용자가 강하게 말하면 LLM에는 사실이 돼 - 진실에 뿌리를 내리지 못하는 LLM, 각종 오류 일으켜 인공지능의 기본적 추론 능력에 문제가 있다는 지적이 나왔다. MS 애저의 CTO인 마크 러시노비치(Mark Russinovich)