절감
Artificial Intelligence
미세조정 중 매개변수 줄이는 기술 등장…”비용 획기적으로 절감”
목적에 맞게 미세조정한 수천개의 대형언어모델(LLM)을 단일 GPU에서 실행할 수 있는 기술이 나왔다. 이를 통해 LLM 미세조정 및 미세조정 모델 실행 비용을 획기적으로 줄일 수 있을 전망이다.
벤처비트는 최근 스탠포드 대학교와 UC 버클리 대학교 연구진이 미세조정한...
Artificial Intelligence
“오픈 소스라고 모두 싼 게 아냐…멀티 LLM이 가장 효율적”
'라마 2'와 같은 오픈 소스 대형언어모델(LLM)을 사용하는 것이 오픈AI의 'GPT'같은 고급형 모델을 활용하는 것보다 더 비싼 구체적 사례가 등장했다. 최근 지적되는 대로 작업에 맞춰 첨단 모델과 경량 모델을 번갈아 사용하는 '멀티 LLM'이 효과적이라는 결론이다.
디...
Artificial Intelligence
엔비디아, 차세대 AI 슈퍼칩 ‘GH200’ 공개…”AI 시간·비용 대폭 절감”
GPU로 인공지능(AI) 칩 시장을 장악하고 있는 엔비디아가 고속 대용량 메모리를 탑재한 차세대 AI 칩을 공개했다. 기존 GPU를 뛰어넘는 성능으로 시간과 비용을 절약, 타 업체와의 격차를 더욱 벌리겠다는 의도다.
엔비디아는 8일(현지시각) 미국 LA에서 열린 ‘시그래프 2023’...
Recent posts
