쉬운 건은 일반 모델로 직행 — 추론 토큰 비용 60% 절감

이커머스 기업 Wayfair 팀이 콜드스타트 LLM 주석용 비용 인지 라우터 DRR을 공개했습니다. 일반 모델과 추론 모델의 성공 확률을 샘플 단위·규칙 단위로 각각 추정해, 추론이 실제로 판정을 바꿀 것으로 기대되는 건에만 비싼 추론 모델을 붙입니다. 실제 프로덕션 워크플로에서 가장 강한 신뢰도 기반 라우터와 정확도 동률을 지키며 추론 토큰 비용을 60% 이상 줄였습니다.