GPU
Artificial Intelligence
“GPU 연간 소비전력량이 소규모 국가 수준에 근접”
인공지능(AI)의 급격한 성장에 따라 엔비디아 'H100' GPU의 연간 소비전력량이 소규모 국가와 맞먹을 것이라는 지적이 나왔다. 하지만 향후 출시할 신제품의 성능 향상으로 인해 효율성이 개선될 것으로 내다봤다.
톰스하드웨어는 26일(현지시간) 프랑스 기업 슈나이더 일렉트릭이 엔비디아 H100 GPU의...
Artificial Intelligence
“온디바이스 AI 대결서 애플 ‘M3’가 엔비디아 ‘RTX4090’ GPU 압도”
애플이 최근 자체 평가한 벤치마크에서 애플 ‘M3’ 프로세서의 성능이 엔비디아의 ‘RTX 4090’ GPU보다 앞섰다고 밝혔다. ‘온디바이스 AI’ 전략에 힘을 싣는 모습이다.
애플인사이더는 13일(현지시간) 애플이 기계학습 MLX 프레임워크에서 자체 칩 'M1' 'M2' 'M3' 프로세서와 엔비디아 RTX...
Artificial Intelligence
MS, 영국에 데이터센터 구축 위해 4조 투자…영국 투자 중 역대 최고
마이크로소프트(MS)가 영국의 인공지능(AI) 개발을 돕기 위해 32억달러(약 4조2000억원)을 투자한다. 영국에 대한 단일 투자로는 역대 최대 규모다.
로이터는 30일(현지시간) MS가 영국 내 데이터센터를 두배 이상 늘리는 등 AI 인프라 강화를 위해 향후 3년에 걸쳐 32억달러를 투자하기로...
Artificial Intelligence
미세조정 중 매개변수 줄이는 기술 등장…”비용 획기적으로 절감”
목적에 맞게 미세조정한 수천개의 대형언어모델(LLM)을 단일 GPU에서 실행할 수 있는 기술이 나왔다. 이를 통해 LLM 미세조정 및 미세조정 모델 실행 비용을 획기적으로 줄일 수 있을 전망이다.
벤처비트는 최근 스탠포드 대학교와 UC 버클리 대학교 연구진이 미세조정한...
Artificial Intelligence
Nvidia’s H200 GPU is a Milestone in AI Technology
In a major breakthrough for artificial intelligence and computing, Nvidia has unveiled the H200 GPU, marking a recent era in the sector of generative AI. This cutting-edge graphics processing unit emerges as an upgrade...
Artificial Intelligence
[10월 4주] 대기업까지 Ko-LLM 경쟁 합류…롯데정보통신, 자체 데이터로 실력 과시
국내 인공지능(AI) 산업의 경쟁력을 증진하고 실력 있는 개발자를 발굴하기 위한 '오픈 Ko-LLM 리더보드(한국지능정보사회진흥원, 업스테이지 공동 주최)'가 본격적인 LLM 개발 격전지로 떠올랐다. 오픈 초 개인 개발자나 일부 연구기업의 주도에 이어 이제는 대기업까지 뛰어난 모델을 선보이고...
Artificial Intelligence
게임용 GPU ‘RTX’, 수출금지 지정으로 중국내 가격 폭등
게임용 GPU 'RTX', 수출금지 지정으로 중국내 가격 폭등
미국의 AI 칩 수출 통제 강화 이후 중국에서 엔비디아의 소비자용 GPU ‘RTX 4090’의 가격이 3배 가까이 치솟았다. 이전에 중국 시장에 풀렸던 재고를 대상으로 사재기가 벌...
Artificial Intelligence
구글, 수백만 단어 길이의 대규모 컨텍스트 창 구축
구글이 '컨텍스트 창(context Window)'에 수백만 단어를 입력할 수 있는 새로운 방법을 공개했다. 이런 컨텍스트 창의 확장은 대형언어모델(LLM)을 제공하는 대부분 인공지능(AI) 기업들이 지원하는 것으로, 이제는 LLM 모델의 기본 요소로 자리 잡는 모양새다.
비즈니스인사이더는 16일(현지시간) 구글과 데이터브릭스,...
Recent posts
