프롬프트

Artificial Intelligence

챗봇 탈옥 유도하는 치명적 방법…카네기멜론대 공개

'챗GPT'와 같은 인공지능(AI) 챗봇의 오용이나 악용을 막기 위해 가드레일이라는 안전조치를 사용하는데, 이런 방법도 간단한 프롬프트 조작만으로 쉽게 뚫릴 수 있다는 지적이 나왔다. 27일(현지시간) 뉴욕타임스(NYT)는 카네기멜론 대학의 연구진이 챗봇의 AI 안전조치를 우회하고 거의 무제한으로 유해 정보를...