vibecamp ai model · #21 · 2026-08-25

vibecamp ai model 2026-08-25 — 무엇을 지킬지에 따라 골라야 할 보정 예시가 달라집니다 — 양자화와 불확

2026-08-25 AI 모델 일간 호 — 오늘 8개 카드를 정리했습니다.

8개 카드 · 적은 예제로 스스로 깨우치는 학습법 일간

🎯

퓨샷 학습

라벨이 많으면 파인튜닝, 의도가 넓으면 제로샷 — 갈아탈 구간을 가르는 네 축

8월 24일 arXiv에 공개된 6페이지 논문으로, "제로샷 LLM이 파인튜닝 NLU 분류기를 대체한다"는 통념을 ATIS·CLINC150에서 부트스트랩 95% 신뢰구간과 대응표본 검정으로 직접 검증했습니다. 라벨이 충분한 ATIS에서는 파인튜닝 RoBERTa가 Claude Haiku 제로샷을 11.8포인트 앞섰지만(95.9 vs 84.1, p<0.001), 의도가 150개인 CLINC150에서는 학습 데이터 0건의 제로샷이 완전 지도학습 모델과 통계적으로 동률이었습니다(89.1 vs 88.5, p=0.24). 제로샷이 앞선 곳은 세 국면이었습니다 — 범위 밖(OOS) 탐지 재현율 85.6 vs 58.1, 통제된(controlled) ASR 잡음 내성 92.5 vs 80.0(0dB), 그리고 스키마가 바뀌는 새 앱에서 기존 분류기가 0%로 떨어질 때 스키마를 프롬프트로 받은 LLM은 재학습 없이 약 94%를 유지했습니다. 참고로 이 논문은 v1 제출이 6월 19일이고 arXiv 공개는 8월 24일로, 제출과 공개 사이 간격이 통상보다 깁니다.

💡전면 교체냐 유지냐를 논하기 전에 라벨량·스키마 변동성·범위 밖 탐지·음성 잡음 네 축으로 구간을 나눠 보십시오. 같은 제품 안에서도 답이 갈립니다.

원문 →#few-shot#zero-shot#의도 분류#fine-tuning#arxiv

예시 대신 지난 추론을 메모리로 붙입니다 — 학습 없이 최대 29.5점 회복

Chain-of-Thought는 성능은 좋지만 장황한 추론 흔적 때문에 비용이 크고, 그 흔적을 압축하면 논리 사슬이 끊겨 정확도가 떨어집니다. 연구진은 컨텍스트에 넣을 것을 원시 예시(demonstration)가 아니라 과거 추론 흔적에서 뽑아낸 '재사용 가능한 추론 메모리'로 바꿨습니다. 반복되는 추론 패턴·핵심 제약·결정적 연산을 요약해두고 프리필 단계에서 검색해 스캐폴드로 주입하는, 추가 학습이 전혀 없는 training-free 프레임워크입니다. 프롬프트 기반 Chain-of-Draft 압축 위에 얹었을 때 GSM8K +21.4, MATH +28.0, BBH +29.5, MMLU-Sci +6.61 포인트가 올랐고 표준 CoT 대비 지연시간은 1.14~1.49배 빨라졌으며, 이 이득이 컨텍스트가 길어진 탓이 아니라 '관련성 있는 메모리' 덕분임도 추가 분석으로 확인했습니다.

💡few-shot 예시를 몇 개 더 붙일지 고민하기 전에, 이미 성공한 추론 트레이스를 메모리로 쌓아 검색해 넣는 쪽을 먼저 시험해볼 만합니다. 기존 토큰·트레이스 압축과 겹쳐 쓸 수 있습니다.

원문 →#few-shot#chain-of-thought#추론 메모리#training-free#arxiv

📚

커리큘럼 학습

난이도를 매 롤아웃마다 다시 잽니다 — 12개 지표 중 11개 개선한 커리큘럼

SFT 뒤에 GRPO를 얹는 표준 레시피가 트리 구조 과제에서 왜 무너지는지를 진단한 논문입니다. 동결된 SFT 체크포인트 기준으로 50-beam 제약 랭킹의 상위 16개 후보 안에 정답 Semantic-ID가 아예 없는 프롬프트가 많고, 이때 그룹이 비슷하게 타깃을 놓치면 아이템 단위 보상이 약하거나 퇴화된 변이만 만들어낼 수 있습니다. 제안 기법 DASO는 고정 난이도 버킷이나 정답 주입 대신, 매 롤아웃 그룹을 prefix-match depth로 프로파일링해 후보가 정답 경로를 이탈하는 병목 SID 레벨을 찾고 그룹의 제한된 비율만 prefix 유도 완성으로 재배분하며 나머지 원시 롤아웃은 대조군으로 남깁니다. 공개 벤치마크 12개 지표 중 11개에서 MiniOneRec식 GRPO를 앞섰고 9개에서 최고 성능을 냈습니다.

💡커리큘럼을 '데이터를 쉬운 순서로 정렬하는 일'이 아니라 '롤아웃 예산을 어디에 쓸지 정하는 일'로 구현한 사례입니다. RL 후처리를 돌린다면 난이도를 매 스텝 다시 재는 설계를 옮겨볼 만합니다.

원문 →#curriculum-learning#GRPO#생성형 추천#RL 후처리#arxiv

🪞

자가수정 학습

실패한 롤아웃으로 스스로 고치는 로봇 정책 — 사람 개입 없이 40→90%

행동 복제(Behaviour Cloning) 정책은 실패해도 사람이 시연을 더 넣어주지 않으면 스스로 고치지 못하고, RL 파인튜닝은 수십억 파라미터 정책에 스케일되지 않습니다. Q-Planning은 대형 visuomotor 행동 복제 정책에 작은 off-policy Q-함수를 붙입니다. Q-함수는 행동을 모방하는 대신 가치를 추정하므로 배포 중 나온 성공·실패 롤아웃을 모두 흡수할 수 있고, 추론 시에는 행동 복제 샘플들에 대한 단일 스텝 Q-가중 평균으로 행동을 고르며 온라인 자가개선 단계에서 행동 복제 가중치는 그대로 두고 Q-함수만 미세조정합니다. 10회 반복 후 LIBERO-10은 93→99%, 양팔 RoboTwin은 83.8→91.4%로 올랐고, 실제 접촉 위주 양팔 과제에서는 사람 개입 없이 stack-cups 40→90%, insert-wallet 25→80%(5회 반복)를 기록한 반면 성공 롤아웃만 쓴 SFT는 각각 55%·30%에서 정체했습니다. 같은 온라인 예산에서 보조 actor 학습 없이 실패로부터 안정적으로 개선한 것은 이 방법뿐이었습니다.

💡데이터를 더 모으는 대신 배포 로그를 학습 신호로 되돌리는 루프입니다. 실패 기록을 버리고 있다면 그것이 지금 가장 값싼 개선 재료일 수 있습니다.

원문 →#self-correction#로봇 학습#behavior-cloning#off-policy Q#arxiv

생성·비평·수정 중 큰 모델이 정말 필요한 단계는 어디입니까

생성(generation)→비평(critique)→수정(revision)으로 도는 self-refinement는 LLM 출력 품질을 올리는 표준 패러다임이자 다수 LLM 에이전트의 핵심 메커니즘입니다. 그런데 세 단계는 요구되는 인지 부하가 서로 다른데도 모델 크기는 대체로 구현 디테일로 취급돼 왔습니다. 저자들은 Qwen3 6개 크기와 Gemma 3 4개 크기로 서로 다른 도메인의 벤치마크 5종에서 단계별 모델 크기 효과를 처음으로 체계적으로 측정했습니다. 결과는 비대칭이었습니다 — 생성기와 수정기는 대체로 클수록 유리하고 특히 수정기가 지나치게 작으면 오히려 성능을 떨어뜨린 반면, 비평가 크기에는 성능이 매우 둔감해 아주 작은 비평가라도 붙이는 편이 비평을 생략하는 것보다 일관되게 나았습니다.

💡자가수정 파이프라인에 용량을 균일 배분하고 있다면 비평 단계부터 줄여보십시오. 비평은 '있는지'가 중요했고 '큰지'는 덜 중요했습니다.

원문 →#self-refinement#critique#모델 크기#LLM 파이프라인#arxiv

🧪

액티브러닝

무엇을 지킬지에 따라 골라야 할 보정 예시가 달라집니다 — 양자화와 불확실성

양자화는 LLM 배포에 널리 쓰이지만 confidence·margin·abstention 같은 불확실성 행동에 미치는 영향은 좀처럼 1차 목표로 다뤄지지 않았습니다. 연구진은 보정(calibration) 데이터 선택을 '목표 의존적 불확실성 보존' 문제로 재정의하고, 분포 보존·경계 보존 리스크를 정식화한 뒤 단 하나의 보정 레시피가 모든 목표에 맞을 수는 없다는 mixture-mismatch 논증을 제시했습니다. 제안 기법 DPQ는 full-precision 예측을 이용해 confidence·entropy가 높은 '의심스러운(high-doubt)' 예시와 범용 앵커를 목표에 맞춰 섞는 경량 사전 양자화 레시피군입니다. 언어모델 8종·NLP 벤치마크 9종·비교기법 22개 실험에서 최고 고정 레시피는 보존 목표에 따라 갈렸습니다 — SQuAD2 답변가능성 경계 보존은 DPQ-r75가, 광범위한 객관식 QA 행동 보존은 DPQ-r50이나 confidence-only·entropy-only 같은 완만한 단일 신호 변형이 앞섰습니다. EMNLP Findings 2026 채택 논문입니다.

💡양자화 보정셋을 아무 텍스트나 담는 부수 항목으로 두고 있다면, 배포에서 지켜야 할 행동을 먼저 정하고 그에 맞춰 예시를 고르는 별도 설계 항목으로 올릴 때입니다.

원문 →#active-learning#양자화#보정 데이터#불확실성#arxiv

🔄

지속학습

기울기가 없는데도 잊습니다 — 지속학습 망각의 진범으로 지목된 스펙트럼 간섭

해석적(analytic) 지속학습은 반복 최적화를 폐쇄형 릿지 갱신으로 대체해 exemplar 없는 클래스 증분 학습의 대안으로 자리잡았지만, 확률적 기울기 덮어쓰기가 없는데도 구 클래스 성능이 드리프트하는 현상은 기존 망각 서사로 설명되지 않았습니다. 저자들은 원인을 '스펙트럼 간섭'으로 지목합니다 — 모든 태스크가 공유하는 역자기상관 연산자에 신규 태스크 샘플이 기존 지배 고유방향으로 실리면 스펙트럼이 희석돼, 구 라벨을 다시 보지 않아도 구 클래스 로짓이 교란된다는 것입니다. SPARCL은 실행 자기상관 행렬을 고에너지 코어와 잔차 보완부로 분해해 코어 부분공간의 구 클래스 분류기 성분은 동결하고 잔차 블록만 재귀최소자승으로 갱신합니다. 구 로짓의 코어 기여분에 대한 불변성을 증명 가능한 형태로 보장했고, 동결 ViT-B/16 프로토콜의 CIFAR-100·CUB-200·ImageNet-R·ImageNet-A에서 고전 해석적 학습기와 강력한 표현 매칭 기법 사이의 격차를 대부분 메웠습니다(초록에 정량 수치는 없습니다).

💡망각을 '무엇이 덮어썼나'가 아니라 '어떤 부분공간이 희석됐나'로 다시 보는 관점입니다. 재학습 없이 모델을 계속 확장해야 하는 운영이라면 폐쇄형 갱신 선택지가 하나 늘었습니다.

원문 →#continual-learning#클래스 증분 학습#catastrophic forgetting#closed-form#arxiv

🧬

메타러닝

추론 중 스스로 가중치를 갱신합니다 — 학습 길이 8배에서도 90% 유지

Test-Time Training(TTT)은 추론 시점에 모델이 자기 가중치(fast weight)를 계속 갱신해 긴 문맥을 처리하는 '학습하는 법을 학습' 계열 기법입니다. 기존 TTT는 토큰 단위 갱신의 표현력과 청크 단위 근사의 하드웨어 효율 사이에서 균형을 잡지 못했는데, 저자들은 청크 시작 가중치에서 gradient를 취하는 표준 근사 아래 닫힌 형태(closed-form) 상태 전이를 유도해 토큰 단위 재귀가 만들어내는 청크 끝의 fast-weight·모멘텀 상태를 정확히 재현했습니다. 덕분에 기존 청크 방식이 버렸던 갱신 규칙의 시간 구조를 보존하면서 청크 수준 완전 병렬 학습이 가능합니다. 최대 1.3B 파라미터 모델을 from scratch로 학습한 결과 언어 모델링은 기존 TTT·하이브리드 어텐션과 동등하고 in-context retrieval에서는 우위였으며, Needle in a Haystack passkey 테스트에서 학습 문맥 길이의 8배 구간에서도 90% 이상 정확도를 유지했습니다. 학습 처리량은 효율적 청크 방식과 동급이고 코드가 공개됐습니다.

💡긴 문맥을 컨텍스트 창 확장으로만 풀고 있었다면, 추론 중 내부 학습 루프를 두는 접근이 길이 외삽에서 어디까지 가는지 확인해볼 만합니다.

원문 →#meta-learning#test-time-training#긴 문맥#길이 외삽#arxiv

이 호가 도움됐다면 공유해 주세요 — 빌더 한 명이 더 알게 됩니다.

📤 공유하기𝕏 @in f 💬✈B ✉