오픈AI가 ‘GPT-3.5’의 경량 버전인 ‘GPT-3.5 터보’ 버전에 미세조정 기능을 도입했다. 이제 GPT-3.5 터보를 사용하는 기업은 오픈AI API를 통해 용도에 맞게 모델을 커스터마이징할 수 있게 됐다. 

GPT-3.5 터보는 ‘GPT-4’보다 가벼우면서도 일정 수준 이상의 성능을 발휘, AI 도입을 검토 중인 기업에 인기있는 모델이다. 오픈AI는 이 모델의 기업 도입을 가속하기 위해 이번 기능을 추가한 셈이다.

오픈AI는 22일(현지시간) 공식 블로그를 통해 GPT-3.5 터보의 미세조정 기능을 추가했으며, 올가을 안으로 ‘GPT-4’의 미세조정 기능도 지원할 예정이라고 밝혔다.

미세조정은 사전 훈련한 모델을 새 데이터셋으로 재학습, 특정 작업에 적합한 매개변수를 조정하는 것을 의미한다. 대형언어모델(LLM)을 미세조정해 기업이나 개발자는 특정 작업에 적합한 모델을 만들고 사용자에게 고유하고 차별화된 경험을 제공할 수 있다.

미세조정을 통해 기업은 간결하게 답변하거나 특정 언어로 응답하는 등 모델이 지침을 더 잘 따르도록 할 수 있다. 예를 들어, 개발자는 미세조정을 사용해 모델이 항상 독일어로 응답하도록 할 수 있다.

모델이 항상 일정한 형식으로 응답하도록 지정할 경우에도 미세조정이 효과적이다. 이는 코드 완성, API 호출 작성, JSON 포맷과 같은 특정 응답 형식이 필요한 애플리케이션에 중요하다.

또 미세조정은 모델이 생성하는 답변의 어조나 말투와 같은 부분을 기업 브랜드에 더 잘 맞도록 하는 좋은 방법으로 꼽힌다.

오픈AI는 “GPT-3.5 터보의 미세조정 버전이 특정 작업에서는 GPT-4의 성능을 능가할 수 있다”고 주장했다. 나아가 미세조정을 통해 텍스트 프롬프트를 줄여 성능을 향상할 뿐 아니라 비용도 절감할 수 있다고 밝혔다. 오픈AI는 초기 테스트에서 프롬프트 크기를 최대 90% 줄이고 API 호출을 가속화하고 비용을 절감할 수 있었다고 소개했다.

현재 미세조정을 위해서는 데이터 준비, 필요한 파일 업로드, 오픈AI API를 통한 미세조정 작업과 같은 일련의 절차가 필요하다. 이를 위해 오픈AI는 진행 중인 미세조정 작업 상태를 확인할 수 있는 대시보드형 미세조정 UI를 출시할 계획이다. 

한편 미세조정 비용은 학습에 1000토큰당 0.008달러, 입력으로 1000토큰당 0.012달러, 출력으로 1000토큰당 0.016달러다. 예를 들어 10만토큰 학습 파일을 이용한 GPT-3.5 터보 미세조정에는 2.4달러 비용이 드는 것으로 추정할 수 있다.

박찬 기자 cpark@aitimes.com