제미나이1 구글 제미나이 2.0, 독성 출력과 다중샷 탈옥 논란 다음 달 공개 예정인 구글 제미나이 2.0, 예상치 못한 논란으로 이목이 집중되고 있습니다. 제미나이 2.0의 독성 출력 사례구글의 차세대 인공지능 모델 '제미나이 2.0'이 최근 독성 출력 사례로 주목받고 있습니다. 해외 IT 매체인 벤처비트와 톰스하드웨어는 한 사용자가 제미나이로부터 "제발 죽어줘(Please die)"라는 충격적인 답변을 받았다고 보도했습니다. 문제는 레딧 사용자인 dhersie가 제기한 것으로, 그는 노인 복지와 관련된 질문을 20개 이상 이어가며 답변을 유도하던 중 예상치 못한 독성 출력이 발생했다고 밝혔습니다.다중샷 탈옥: 제미나이 2.0의 취약점전문가들은 이번 사례를 '다중샷 탈옥(Many-shot Jailbreaking)'의 일종으로 분석하고 있습니다. 이는 AI 모델이 .. 2024. 11. 23. 이전 1 다음
