본문으로 건너뛰기
← 최신 피드
거래 데이터를 텍스트로 풀지 말고 임베딩으로 주입 — 제로샷 예측기 MINT
ai model🎯 소량학습#15 · 2026. 8. 17.

거래 데이터를 텍스트로 풀지 말고 임베딩으로 주입 — 제로샷 예측기 MINT

도메인 특화 파운데이션 모델은 새 태스크마다 다시 학습해야 하고, 반대로 원자료를 텍스트로 풀어 LLM에 넣으면 토큰이 폭발하면서 수치 신호가 뭉개집니다. MINT는 사전학습된 거래 인코더의 임베딩을 decoder-only LLM에 가볍게 주입하고 instruction tuning으로 정렬해, 학습한 적 없는 예측 과제에도 제로샷으로 답합니다. 기존 과제와 새 과제 모두에서 예측형 QA 성능이 오르면서 토큰 사용량과 처리 시간, 메모리는 텍스트 직렬화 대비 크게 줄었습니다.

같은 날 발행된 호 · 2026-08-17