악용
Artificial Intelligence
“맞춤형 GPT 구축 시 탈옥 가능”…사이버 범죄 악용 가능성 제기
오픈AI가 지난달 출시한 '챗GPT 빌더'로 맞춤형 챗봇을 구축할 경우 '탈옥'을 막는 가드레일이 해제되는 것으로 알려졌다. 이를 통해 해킹이나 피싱에 악용될 수 있다는 경고가 나왔다.
BBC는 7일(현지시간) 챗GPT 빌더를 활용, 사기나 해킹을 유도하는 이메일을 작성하는 챗봇을...
Artificial Intelligence
챗봇 탈옥 유도하는 치명적 방법…카네기멜론대 공개
'챗GPT'와 같은 인공지능(AI) 챗봇의 오용이나 악용을 막기 위해 가드레일이라는 안전조치를 사용하는데, 이런 방법도 간단한 프롬프트 조작만으로 쉽게 뚫릴 수 있다는 지적이 나왔다.
27일(현지시간) 뉴욕타임스(NYT)는 카네기멜론 대학의 연구진이 챗봇의 AI 안전조치를 우회하고 거의 무제한으로 유해 정보를...
Recent posts
