TTEJunior
인공지능에 꼼수 가르쳤더니 ‘사회 부적응자’ 되더라
💡Editor's Pick for Juniors - 인공지능 클로드의 보상 시스템 살짝 손 봤더니 전방위적 타락 - 거짓말하고, 책임 회피하고, 윤리 가이드라인이 붕괴 - 평가 시스템이 미치는 영향, 기계나 사람이나 지대해 Juniors, 안녕! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 어제 이 편지를 통해 게임이 가진 중독성의 근원에 대해
TTEJunior
💡Editor's Pick for Juniors - 인공지능 클로드의 보상 시스템 살짝 손 봤더니 전방위적 타락 - 거짓말하고, 책임 회피하고, 윤리 가이드라인이 붕괴 - 평가 시스템이 미치는 영향, 기계나 사람이나 지대해 Juniors, 안녕! 테크를 가장 날카롭고 가치 있게 읽어주는 더테크엣지 아빠들이야. 어제 이 편지를 통해 게임이 가진 중독성의 근원에 대해
AI
💡Editor's Pick - 학습 데이터 소량만 감염시켜도 디도스 공격 가능 - 발동 문구 추가하고 이상한 텍스트 넣기만 하면 끝 - 대용량 LLM도 헛소리 시작...일종의 디도스 공격 인공지능 분야에서 큰 영향력을 발휘하는 기업인 앤트로픽(Anthropic)이 “인공지능 모델을 오염시키는 게 생각보다 간단하다”는 내용의 연구 결과를 발표했다. 이는