프롬프트

“챗봇 탈옥시키는 챗봇 등장”…LLM으로 탈옥 프로세스 자동화 성공

싱가포르 난양기술대학(NTU) 연구진이 '챗GPT'와 같은 인공지능(AI) 챗봇 취약점을 악용하기 위한 프롬프트 생성용 챗봇을 개발했다. 챗봇으로 챗봇을 탈옥시키는 기술이 등장한 것이다.  미국 매체 바이스는 3일(현지시간) NTU 연구진이 챗봇의 가드레일(보호장치)을 우회, 금지된 콘텐츠를 생성할 수 있는 AI...

신기빈 올거나이즈 CAIO “프롬프트 넘어 데이터로 검색 강화…’오류 없는 챗봇’ 개발 도전”

'챗GPT' 인공지능(AI) 챗봇에 좋은 답을 얻기 위해서 좋은 질문이 필요하다는 것은 잘 알려진 사실이다. 이를 두고 '프롬프트 엔지니어링'이라는 분야까지 떠올랐다. 하지만 프롬프트 엔지니어링은 '소비자가 프롬프트 입력을 잘하는 것'이 아니라 '소비자가 어떤 명령어를 입력하든 적합한 대답과...

피알게이트, 콘텐츠 제작 서비스 ‘AI-드라이븐 크리에이티브’ 출시

커뮤니케이션 전문 피알게이트(대표 강윤정)는 생성 인공지능(AI)을 활용한 디지털 마케팅 크리에이티브 제작 서비스 ‘AI-드라이븐 크리에이티브(AI-driven creative)’를 출시한다고 19일 밝혔다. 생성 AI의 효율성을 기반으로 ▲‘잘파세대(Z+알파)’ 공략을 위한 창의적인 캠페인 기획 ▲예산, 시간, 장소 등 한정된 자원 내 효율적인 크리에이티브 구현 ▲기존과...

씨앤에이아이, 이미지 생성 AI ‘티브’ 출시…”참고 이미지 입력도 가능”

생성 인공지능(AI) 전문 씨앤에이아이(대표 양동민)는 이미지 생성 AI 플랫폼인 '티브(Tivv)'를 출시했다고 13일 밝혔다.  일반 사용자들을 대상으로 한 이번 출시는 오픈 베타로, 사용자는 티브 사이트에서 회원가입 후 무료로 하루에 20회의 이미지 생성 서비스를 이용할 수 있다. 티브는...

“국내 첫 텍스트 프롬프트 BGM 제작”…뉴튠, ‘크리에이터 타깃’ 음악 생성 AI 론칭한다

'챗GPT'나 '미드저니'같이 텍스트나 이미지를 생성하는 인공지능(AI)에 비해, 음악 생성 AI는 그리 많이 알려져 있지 않다. 하지만 음악 생성 AI의 역사는 무려 65년 전으로 거슬러 올라간다. 1958년 일리노이대학교가 당시 최고 사양이던 '일리악(ILLIAC)'이라는 디지털 컴퓨터를 사용해...

‘프롬프트 아티스트 집단’ 크레비쥬…”전문가가 생성 AI를 쓰는 방법은” 

'챗GPT'나 '미드저니' 등 생성 인공지능(AI)의 등장과 함께 프롬프트 엔지니어링은 큰 이슈였다. 여러 기업이 거액 연봉을 주고 프롬프트 전문가를 채용하는가 하면, 프롬프트를 사고파는 마켓도 등장했다. 국내외에서는 관련 커뮤니티도 활성화됐다. 3D 콘텐츠 전문 크레비쥬(대표 김경환)는 엔지니어링을 넘어...

구글 딥마인드 “AI에 심호흡 지시하면 수학 능력 향상”

'챗GPT'와 같은 대형언어모델(LLM)에 인간적인 격려를 사용해 지시하면 수학 문제 해결 능력이 극적으로 향상된다는 연구 결과가 나았다. 비즈니스인사이더는 19일(현지시간) 구글 딥마인드가 LLM의 수학 능력을 향상하는 'OPRO(Optimization by PROmpting)'을 개발했다고 소개했다. 이에 따르면 구글 딥마인드는 입력 프롬프트에 특정...

업스테이지, LLM ‘솔라’로 챗GPT 등 빅 4와 어깨 나란히

업스테이지의 대형언어모델(LLM)이 글로벌 지식 플랫폼 쿼라의 챗봇 '포(Poe)'에 채택됐다. 기존에 포와 연결해 서비스를 제공한 고성능 LLM은 오픈AI의 '챗GPT', 구글의 '팜', 메타의 '라마 2', 엔트로픽의 '클로드 2' 등 4개뿐이었다. 업스테이지(대표 김성훈)는 자사의 LLM 모델 ‘솔라(SOLAR)’가 글로벌...

Recent posts

Popular categories

ASK ANA