트랜스포머

https://www.youtube.com/watch?v=70wZKfx6Ylk 구글이 신개념의 비디오 생성 인공지능(AI)을 선보였다. 기존 이미지 및 비디오 생성 AI에 사용하던 '확산(Diffusion)' 방식 대신, 언어를 생성하는 '트랜스포머' 구조의 대형언어모델(LLM)로 비디오를 학습하고 생성하는 방식을 채택했다. 그 결과는 기대 이상이었다고 밝혔다. 벤처비트는 21일(현지시간) 구글 리서치의...

언어를 생성하는 데 특화한 대형언어모델(LLM)로 사람들의 삶속에서 일어날 사건을 예측하는 데 성공했다는 연구 결과가 나왔다. 연구진은 통계에 기반으로 둔 사회과학이나 사용자의 움직임을 예측하는 알고리즘 등이 수행하는 이런 기술을 LLM이 해낼 수 있다는 점에 의미를 뒀다. 테크익스플로어는 18일(현지시간) 덴마크공과대학(DTU)과...

신경망에서 추론을 위해 활성화되는 뉴런의 수를 최소화하는 새로운 딥러닝 아키텍처가 나왔다. 이를 통해 대형언어모델(LLM)의 추론 속도와 비용을 최대 300배까지 줄였다고 밝혔다. 벤처비트는 24일(현지시간) 취리히 연방 공과대학교 연구진이 LLM의 기반이 되는 트랜스포머 신경망의 피드 포워드 레이어에서 추론에...

구글이 '컨텍스트 창(context Window)'에 수백만 단어를 입력할 수 있는 새로운 방법을 공개했다. 이런 컨텍스트 창의 확장은 대형언어모델(LLM)을 제공하는 대부분 인공지능(AI) 기업들이 지원하는 것으로, 이제는 LLM 모델의 기본 요소로 자리 잡는 모양새다. 비즈니스인사이더는 16일(현지시간) 구글과 데이터브릭스,...

'챗GPT'와 같은 생성 인공지능(AI)을 탄생시킨 논문 '트랜스포머'의 제1 저자 아시시 바스와니 박사가 처음으로 방한, 강연을 펼쳤다. 그는 트랜스포머의 탄생 배경을 시작으로 생성 AI의 현재와 미래를 조망했다. 'AI 전설'의 등장에 행사장을 찾은 수백명 관계자는 마치 수험생...

https://www.youtube.com/watch?v=1diRO2cQUiA 미국이 인공지능(AI) 등 첨단 기술에 대한 중국 수출 제재에 나선 지 이제 1년이 되고 있습니다. 지난해 9월부터 엔비디아 최신 GPU와 칩 제조 장비 수출을 막아왔으며, 올해에는 관련 투자까지 금지하는 등 제재를 이어오고 있습니다.  중국도 그동안...

13~14일 서울 코엑스 그랜드홀에서 열리는 ‘AI 서밋 서울 2023(AIS 2023)’에 그동안 국내에서 만나 보기 어려웠던 세계적인 인공지능(AI)의 대가들이 집합, 눈길을 끌고 있다. 구글 '트랜스포머' 논문의 제1 저자인 아시시 바스와니 박사는 '생성 AI의 기원'이라고 불릴만한 인물이다....

일리야 폴로수킨 니어 프로토콜 공동 창립자가 이번 달 한국을 찾는다. 그는 생성 인공지능(AI)의 기반이 된 구글 논문 '어텐션 이즈 올 유 니드(Attention is all you wish)'의 저자 중 한명이다. 니어 코리아 허브는 6일 카시나 성수점에서...