애플이 최근 자체 평가한 벤치마크에서 애플 ‘M3’ 프로세서의 성능이 엔비디아의 ‘RTX 4090’ GPU보다 앞섰다고 밝혔다. ‘온디바이스 AI’ 전략에 힘을 싣는 모습이다.

애플인사이더는 13일(현지시간) 애플이 기계학습 MLX 프레임워크에서 자체 칩 ‘M1’ ‘M2’ ‘M3’ 프로세서와 엔비디아 RTX 4090 GPU를 비교한 벤치마크 결과를 공개했다.

애플은 최근 전용칩에서 ‘온디바이스 AI’가 가능하도록 설계한 프레임워크 ‘MLX’와 모델 라이브러리 ‘MLX 데이터’를 공개했다. 개발자는 이 도구들을 활용, 생성 AI 애플리케이션을 구축해 아이폰이나 맥북 등 애플 기기에 도입할 수 있다.

애플은 오픈AI의 음성 인식 모델인 ‘위스퍼(Whisper)를 사용, MLX 프레임워크의 M1, M2, M3 프로세서와 엔비디아 RTX 4090 GPU에서 10분 분량의 오디오 파일을 글로 변환하는 데 걸리는 시간을 측정했다

그 결과 애플 M1 프로 칩은 오디오를 처리하는 데 216초가 걸려, 엔비디아 RTX 4090 GPU의 186초에 비해 성능이 떨어졌다. 하지만 40개의 GPU 코어를 탑재한 ‘M2 울트라’와 76개의 GPU 코어를 탑재한 ‘M3 맥스’는 각각 95초와 100초를 기록, 성능이 더 뛰어난 것으로 나타났다.  

또 애플 칩과 엔비디아 4090 GPU 간에 전력 소비도 상당한 차이가 있는 것으로 나타났다. 엔비디아 4090 GPU가 동작 중인 PC는 유휴 상태와 비교, 활성 상태 전력 소비이 242와트 증가했다. 반면 16개의 GPU 코어를 탑재한 M1 프로 맥북은 유휴 상태에 비해 활성 상태 전력 사용량이 고작 38와트 늘어나는 데 그쳤다

반면 애플은 엔비디아에 최적화된 위스퍼 버전으로 벤치마크할 경우, 엔비디아 RTX 4090 GPU가 동일한 작업을 8초 안에 완료했다고 밝혔다. M1 프로는 263초, M2 울트라는 95초, M3 맥스는 100초가 걸렸다. 다만 전력 소비는 변화가 없었다고 밝혔다.

결론적으로 전력 소비를 고려하면 애플의 결과는 인상적이었지만, 엔비디아와 대등한 수준이 되려면 아직 개선 여지가 있다는 분석이다.

박찬 기자 cpark@aitimes.com