GPT-6 아스트라 [사진: Reve AI]
[디지털투데이 AI리포터] 오픈AI의 GPT-6 아스트라가 코딩 에이전트 성능 평가에서 67점을 기록해 최상위권에 올랐다. 7일(현지시간) 온라인 매체 기가진에 따르면 선두인 페이블 5.1의 70점에는 못 미쳤지만, 페이블 5와 같은 점수를 받았고 클로드 오퍼스 5, 뮤즈 스파크 1.3과도 비슷한 수준을 보였다.
아티피셜 애널리시스는 3일 GPT-6 아스트라의 코딩 에이전트 성능을 보는 'Artificial Analysis Coding Agent Index'와 범용 지능을 평가하는 'Artificial Analysis Intelligence Index' 결과를 공개했다. GPT-6 아스트라는 코딩 부문에서는 높은 비용 효율을 보였지만, 종합 지능 부문에서는 높아진 가격이 부담으로 작용했다.
코딩 지표에서 코덱스 기반 GPT-6 아스트라는 67점을 기록했다. 페이블 5와 동점이었고, 68점의 클로드 오퍼스 5, 64점의 뮤즈 스파크 1.3과도 격차가 크지 않았다. 반면 클로드 코드에서 구동한 페이블 5.1은 70점으로 1위를 차지했다.
가장 두드러진 변화는 토큰 효율이다. 최대 추론 강도에서 코덱스를 사용할 경우 GPT-6 아스트라의 토큰 소비량은 GPT-5.6 솔의 약 3분의 1, 클로드 오퍼스 5의 약 7분의 1 수준이었다. GPT-5.6 솔과 비교한 토큰 사용량은 약 70% 줄었다.
이 효율은 작업당 비용에도 반영됐다. GPT-6 아스트라는 최대 추론 조건에서 GPT-5.6 솔과 작업당 비용이 거의 같았지만 코딩 점수는 2점 높았다. 또 같은 67점을 받은 페이블 5보다 작업당 비용이 절반 미만이었다. 토큰 단가만 보면 제미나이 3.8 플래시가 더 저렴했지만, 작업당 비용 기준으로는 GPT-6 아스트라가 더 낮았다. 이 때문에 GPT-6 아스트라는 점수와 작업당 비용을 함께 비교한 '파레토 프런티어'에 포함됐다.
반면 종합 지능 지표에서 GPT-6 아스트라는 61점을 기록했다. GPT-5.6 솔, 뮤즈 스파크 1.3과 같은 점수였고, 66점의 페이블 5.1보다 5점 낮았다.
이 부문에서도 토큰 효율 자체는 개선됐다. 최대 추론 시 출력 토큰 수는 GPT-5.6 솔보다 약 10% 적었다. 그러나 API 가격은 입력 100만 토큰당 10달러, 출력 100만 토큰당 50달러로, GPT-5.6 솔의 입력 4달러, 출력 20달러보다 2.5배로 올랐다. 그 결과 최대 추론 기준 작업당 비용은 GPT-5.6 솔보다 75% 높아졌다.
세부 평가에서는 지식과 환각을 측정하는 'AA-Omniscience'에서 최대 추론 시 환각률이 GPT-5.6 솔의 92%에서 GPT-6 아스트라의 51%로 낮아졌다. 정답률도 4포인트 올라 답변을 줄여 환각을 낮춘 사례는 아니었다. 반면 'AA-Briefcase'에서는 약 80Elo포인트 개선됐지만, 'GDPval-AA v2'에서는 약 80Elo포인트 하락했다. τ 3-Banking, SciCode, AA-LCR에서도 GPT-5.6 솔보다 2~3점 낮았다.
GPT-6 아스트라는 전반 성능이 전 세대를 크게 웃도는 모델이라기보다 코딩 에이전트 분야에서 토큰 효율과 작업당 비용을 크게 개선한 모델로 평가됐다. 다만 종합 지능 지표에서는 61점에 머물렀고, 높아진 토큰 단가가 효율 개선 효과를 상당 부분 상쇄했다.
(0)Comments