AI - 더테크엣지(The Tech Edge) (Page 4)

TTESays

인공지능이 가득할 미래, 어떻게 준비할까?

💡Editor's Pick for Juniors - OWASP 서울 챕터에서 연 보안 송년회 - 젊은 층에 해주고 싶은 실속 있는 조언들이 가득 - 인공지능이 2025년에 이어 2026년에도 화두 Juniors, 안녕! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 연말이면 여러 분야의 전문가들이 뭘 하는지 아니? 미래 예측이야. 내년도에 이런 저런

제미나이잭, 기업용 제미나이의 설계 결함

💡Editor's Pick - 제미나이 엔터프라이즈, 업무 환경에 결합했을 때 취약해져 - 간접 프롬프트 입력 공격을 대단위로 허용 - 너무 많은 권한을 인공지능에 이양해서 생기는 문제 구글의 LLM인 제미나이에서 중대한 보안 취약점이 발견됐다. 보안 기업 노마시큐리티(Norma Security)가 밝힌 내용에 의하면 해당 취약점에 영향을 받는 모델은 제미나이 엔터프라이즈(

아이디재스터, 인공지능 시대의 새로운 취약점 카테고리

💡Editor's Pick - 거의 모든 AI IDE에 공통적으로 나타나는 해킹 경로 - 단일 취약점 아니라, 새로운 취약점 카테고리 - 이 카테고리에 포함된 취약점 30개 넘어 인공지능과 관련된 새로운 유형의 취약점이 발견됐다. 취약점의 카테고리 하나가 새롭게 만들어진 것으로, 단일 CVE보다 그 영향력이 지대하다고 한다. 이 카테고리에는 아이디재스터(IDEaster)라는

딥페이크 기술 활용한 ‘가상 납치’ 기승

💡Editor’s Pick - 딥페이크 및 사진 조작 기술 활용한 가상 납치 범죄 - 사진과 영상 조악해 상세히 살펴보면 수상함 눈치챌 수 있어 - 침착함 유지하는 것이 관건 딥페이크 기술을 악용한 범죄가 유행하고 있어 미국 연방수사국(FBI)이 경고를 발령했다. 범죄자들은 피해자의 사진이나 영상을 SNS에서 습득한 뒤 조작함으로써, 해당 인물이

가트너, “에이전틱 브라우저, 당분간 차단이 정답”

💡Editor's Pick - 에이전틱 브라우저의 인공지능 에이전트, 권한 너무 높아 - 인공지능도 아직까지 사람과 비슷한 실수 저질러 - 권한 높고 실수 많은 인공지능이 대리자가 된다면 위험한 게 당연 시장 조사 및 분석 전문 기업인 가트너(Gartner)가 “아직까지 에이전틱 브라우저는 일반 기업 환경에서 사용하기에 지나치게 위험하다”는 평가를

MS 애저 CTO, “LLM의 기본 추론 능력, 부실하다”

💡Editor's Pick - LLM, 요약을 잘 하는 것이지 추론 잘 하는 것 아냐 - '사실'이라고 사용자가 강하게 말하면 LLM에는 사실이 돼 - 진실에 뿌리를 내리지 못하는 LLM, 각종 오류 일으켜 인공지능의 기본적 추론 능력에 문제가 있다는 지적이 나왔다. MS 애저의 CTO인 마크 러시노비치(Mark Russinovich)

TTESays

인공지능에 꼼수 가르쳤더니 ‘사회 부적응자’ 되더라

💡Editor's Pick for Juniors - 인공지능 클로드의 보상 시스템 살짝 손 봤더니 전방위적 타락 - 거짓말하고, 책임 회피하고, 윤리 가이드라인이 붕괴 - 평가 시스템이 미치는 영향, 기계나 사람이나 지대해 Juniors, 안녕! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 어제 이 편지를 통해 게임이 가진 중독성의 근원에 대해

TTESays

인공지능으로 시험 보는 대학생들, 막을 수 있나?

💡Editor's Pick for Juniors - 여러 대학들에서 속속 나오는 시험 부정 행위 사례들 - 인공지능으로 쓴 글, 100% 식별하는 건 불가능 - 교육과 학교 운영 방침, 학습의 목표 등 기본기 부실이 부른 일 Youngsters! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 요즘 대학생 언니 오빠들이 여기 저기서

대형 언어 모델과의 대화 내용 추론케 하는 ‘위스퍼리크’

💡Editor's Pick - MS, 여러 언어 모델들 통해 프롬프트 추론 공격에 성공 - 특정 주제에 대한 응답 나올 때 발생하는 네트워크 패턴 있어 - 이 패턴만 파악하면 암호화 기술도 무력화 할 수 있어 대형 언어 모델을 원격에서 공략할 수 있는 기법이 새롭게 발견됐다. 이를 공개한 마이크로소프트는 해당 기법에

악성 프롬프트 주입, 100% 방어는 불가능

💡Editor's Pick - 챗GPT 공략 가능한 7개 방법 개발돼 - 프롬프트 주입 공격은 원천 봉쇄 되지 않아 - 단기 방어 대책과 중장기 대책 모두 고려돼야 인기 높은 인공지능 모델인 챗GPT에서 새로운 취약점이 발견됐다. 익스플로잇에 성공한 공격자는 피해자의 동의를 획득하지 않고도 개인정보와 챗GPT와의 채팅 기록을 열람할 수 있게 된다.

인공지능 통해 악성 코드 분석했더니, “아무튼 빨랐죠”

💡Edit0r's Pick - 실시간으로 대화하면서 분석하는 기법 - 모든 데이터를 취합해 인공지능에 던져주는 기법 - 전자는 가설 검증에 강점, 후자는 멀웨어 계층 식별에 강점 인공지능을 활용해 복잡한 멀웨어를 분석 및 해독하는 데 성공한 사례가 나타났다. 보안 기업 체크포인트(CheckPoint)의 연구원들이 실시한 것으로, “복잡하게 구성돼 있어 분석 난이도가

허위 면접 보다가 딱 걸린 북한 해커들

💡Editor's Pick - 두 명의 페이머스천리마 소속 해커들, 딱 걸려 - 한 명은 인공지능 필터 기능이 너무 과해서, 다른 한 명은 신경질적이어서 - 인공지능 동원한 허위 면접 전술, 갈수록 위협적으로 변모할 듯 북한 해커들의 위장 취업이 이어지고 있다. 보안 기업 퀘찰(Quetzal)은 최근 페이머스천리마(Famous Chollima)라고

See all