LLM

엔비디아는 12월4일 국내 대형언어모델(LLM) 개발자들을 위한 ‘한국 LLM 개발자 데이’를 온라인으로 연다고 27일 밝혔다. LLM 기반 애플리케이션 및 서비스를 구축하는 개발자에게 실무적인 지침을 제공하는 행사다. 개발자가 스스로 필요한 리소스와 도구를 얻을 수 있도록 기술과 지식...

인공지능(AI) 전문 아크릴(대표 박외진)은 27일 인터컨티넨탈 서울에서 '아크릴 넥스트 2023: 오버 더 레인보우' 컨퍼런스를 개최했다. 이 행사를 통해 대표 플랫폼 '조나단'을 부각하고 회사의 비전을 공유했다.  올해로 5번째를 맞이하는 이번 행사의 주제는 특이하게도 '오즈의 마법사'다. 박외진 대표는...

신경망에서 추론을 위해 활성화되는 뉴런의 수를 최소화하는 새로운 딥러닝 아키텍처가 나왔다. 이를 통해 대형언어모델(LLM)의 추론 속도와 비용을 최대 300배까지 줄였다고 밝혔다. 벤처비트는 24일(현지시간) 취리히 연방 공과대학교 연구진이 LLM의 기반이 되는 트랜스포머 신경망의 피드 포워드 레이어에서 추론에...

IntroductionThe evolution of open large language models (LLMs) has significantly impacted the AI research community, particularly in developing chatbots and similar applications. Following the discharge of models like LLaMA, there's been a surge in...

중국의 대형언어모델(LLM)이 238개까지 늘어난 것으로 알려졌다. 급기야 "더 이상 LLM을 개발하는 것은 자원 낭비"라는 지적이 등장했다. 로이터는 15일(현지시간) 리언훙 바이두 CEO가 선전의 한 포럼에서 최근 중국 내 LLM 개발 러시에 대해 비판적인 발언을 했다고 보도했다. 이에 따르면...

업스테이지와 한국지능정보사회진흥원(NIA)이 공동으로 주최하는 '오픈 Ko-LLM 리더보드' 11월 3주 순위에서는 다수의 개발자가 '직접 선호 최적화(DPO, Direct Preference Optimization)'로 좋은 성적을 거뒀다.  DPO는 지난 5월 스탠포드대학교 연구진이 발표한 강화 학습법이다. '챗GPT'에 사용한 인간 피드백을 통한 강화...

"대화라는 영역은 지식 전달이 전부는 아닙니다. 똑똑한 '챗GPT'를 좋아하는 사람이 있다면, '이루다'를 좋아하는 사람도 있을 겁니다. 앞으로 'AI 컴패니언(친구)'은 새로운 세상을 만들어 갈 겁니다." 챗봇 이루다로 유명한 스캐터랩(대표 김종윤)은 지난 17일 경량 대형언어모델(sLLM) '핑퐁-1(Pingpong-1)'을 공개했다....

목적에 맞게 미세조정한 수천개의 대형언어모델(LLM)을 단일 GPU에서 실행할 수 있는 기술이 나왔다. 이를 통해 LLM 미세조정 및 미세조정 모델 실행 비용을 획기적으로 줄일 수 있을 전망이다. 벤처비트는 최근 스탠포드 대학교와 UC 버클리 대학교 연구진이 미세조정한...