탈옥

“챗봇 탈옥시키는 챗봇 등장”…LLM으로 탈옥 프로세스 자동화 성공

싱가포르 난양기술대학(NTU) 연구진이 '챗GPT'와 같은 인공지능(AI) 챗봇 취약점을 악용하기 위한 프롬프트 생성용 챗봇을 개발했다. 챗봇으로 챗봇을 탈옥시키는 기술이 등장한 것이다.  미국 매체 바이스는 3일(현지시간) NTU 연구진이 챗봇의 가드레일(보호장치)을 우회, 금지된 콘텐츠를 생성할 수 있는 AI...

“맞춤형 GPT 구축 시 탈옥 가능”…사이버 범죄 악용 가능성 제기

오픈AI가 지난달 출시한 '챗GPT 빌더'로 맞춤형 챗봇을 구축할 경우 '탈옥'을 막는 가드레일이 해제되는 것으로 알려졌다. 이를 통해 해킹이나 피싱에 악용될 수 있다는 경고가 나왔다. BBC는 7일(현지시간) 챗GPT 빌더를 활용, 사기나 해킹을 유도하는 이메일을 작성하는 챗봇을...

MS, AI 버그 찾는 ‘바운티 프로그램’ 실시…상금 최대 2000만원

마이크로소프트(MS)가 인공지능(AI) 버그를 찾아내는 바운티(현상금) 프로그램을 발표했다. 외부 보안 테스트를 실시, 해커가 취약점을 악용하기 전에 AI 제품의 버그와 결함을 발견하겠다는 의도다. 서치엔진저널은 16일(현지시간) MS가 외부 보안 테스트를 통해 AI 안전성을 향상하는 것을 목표로 최대 상금...

챗봇 탈옥 유도하는 치명적 방법…카네기멜론대 공개

'챗GPT'와 같은 인공지능(AI) 챗봇의 오용이나 악용을 막기 위해 가드레일이라는 안전조치를 사용하는데, 이런 방법도 간단한 프롬프트 조작만으로 쉽게 뚫릴 수 있다는 지적이 나왔다.  27일(현지시간) 뉴욕타임스(NYT)는 카네기멜론 대학의 연구진이 챗봇의 AI 안전조치를 우회하고 거의 무제한으로 유해 정보를...

Recent posts

Popular categories

ASK ANA