스포티파이, 클로드 코드 토큰 소비량 90% 줄였다…어떻게?

스포티파이 [사진: 셔터스톡] [디지털투데이 황치규 기자]스포티파이가 클로드 코드 토큰 사용량을 대폭 줄이는 방법을 개발했다고 테크진이 6일(현지시간) 보도했다. 자체 개발자 플랫폼 포털을 통해 파일 읽기나 예측 가능한 코드 생성 같은 반복 작업들은 저렴한AI 모델로 넘기는게 골자다. 테스트 결과 이를 통해 클로드 토큰 소비량은 평균 90% 줄었다고 테크진은 전했다. 보도에 따르면 스포티파이가 개발한 시스템은 '에이카(AiKA) 모드'로 불리는 에이전트들이 핵심이다. 이들 에이전트는 임시 런타임에서 실행된다. 개발자는 모드별로 사용할 모델, 지침, MCP 툴을 지정하면 된다. 별도 인프라나 API 키를 관리할 필요는 없다. 스포티파이 엔지니어 디미트리 마즈마노프는 자바 모노레포(통합 코드 저장소)에서 이 방식을 시험했다. 그는여러 파일을 읽는 '벌크 리더'와 예측 가능한 코드 조각을 작성하는 '코드 라이터' 2가지 모드를 설정했다. 두 모드는 실제 작업을 처리하는 워커 모델로 구글 제미나이 2.5 플래시를 쓴다. 포털에서는 다른 모델로도 바꿔 쓸 수 있다. 마즈마노프는 "에이전트는 대부분 사고할 필요가 없고 입출력(I/O) 기능만 수행한다"며 "이 작업을 AI 모델이 처리해도 비용이 크게 드는 만큼, 입출력 작업을 비싼 클로드에서 떼어내 프런티어 모델은 추론이 실제로 필요한 작업에만 쓰도록 했다"고 말했다. 스포티파이는 워커 모델이 디버깅이나 아키텍처 결정, 핵심 추론 작업에는 적합하지 않다고 강조했다. 위임한 분석은 클로드가 코드를 수정할 때 필요로 하는 줄 단위 정확한 정보를 항상 제공하지는 못한다. 위임 작업은 보통 10초에서 30초 걸리고, 포털은 호출당 30초 한도를 두고 있다. 벌크 리더와 코드 라이터 모드는 에이카를 통해 공개됐다. 개발자들은 자신 프로젝트에 맞게 재사용하거나 수정할 수 있다.