vibecamp ai model · #41 · 2026-10-23

vibecamp ai model 2026-10-23 — 어떤 두 개를 비교할지 고른다, 스완지대 등 베이지안 순위 추정

2026-10-23 AI 모델 일간 호 — 오늘 8개 카드를 정리했습니다.

8개 카드 · 적은 예제로 스스로 깨우치는 학습법 일간

🎯

퓨샷 학습

PhysiCalWorld 개요도: 에이전트가 테스트 환경과 상호작용해 모은 관측-행동 궤적을 컨텍스트로 넣어, 고정된 월드 모델이 물리 특성을 보정해 미래를 예측하는 흐름

몇 초 만져보고 물리를 맞춘다, 미시간대 PhysiCalWorld

월드 모델(world model)은 현재 화면만 봐서는 무게·마찰·감쇠 같은 숨은 물리값을 알 수 없어, 낯선 장면에서 예측이 평균값으로 쏠리며 틀어집니다. 미시간대 연구팀의 PhysiCalWorld는 새 장면에서 짧게 상호작용해 본 클립을 물리 설명 토큰 하나로 압축해 프롬프트로 넣습니다. 토큰은 한 번만 뽑아 모든 롤아웃에 재사용하며, 파인튜닝이나 물리 라벨 없이 4개 환경에서 롤아웃 정확도와 시각 계획 성공률을 높였습니다.

💡퓨샷 인컨텍스트 학습(in-context learning)이 언어를 넘어 물리 월드 모델로 넓어진 사례입니다. 가중치 대신 짧은 탐색 클립을 맥락으로 주는 방식은 로봇·시뮬레이션 프로젝트에 응용해 볼 만합니다.

원문 →#world-model#in-context-learning#robotics#few-shot

📚

커리큘럼 학습

고품질 데이터 투입 시점은 학습률이 정한다, 칭화대 공동 설계

LLM 사전학습(pre-training) 뒤 고품질 데이터로 넘어가는 미드트레이닝(mid-training)에서, 데이터를 언제 넣을지를 학습률(LR) 스케줄과 함께 분석한 연구입니다. 칭화대 연구팀은 LR이 전 구간 감쇠하면 미드트레이닝 데이터를 일찍 섞는 편이 낫지만, 상수 LR에서는 결론이 뒤집힌다는 점을 확인했습니다. dense·MoE 모델과 예산 10/25/47.75% 전반에서, 데이터 투입 후 LR을 높게 유지하다 마지막 20~40% 구간에서만 감쇠하는 쪽이 가장 좋았습니다.

💡데이터 순서 실험의 결론이 LR 스케줄 하나로 뒤집힐 수 있다는 결과입니다. 커리큘럼 학습(curriculum learning) 실험을 설계하거나 논문을 읽을 때 LR 설정을 함께 확인해야 하는 이유가 됩니다.

원문 →#curriculum-learning#pretraining#learning-rate#data-mixing

쉬운 것부터가 정답은 아니었다, 듀크대·Adobe PaceShift

커리큘럼 학습은 쉬운 샘플부터 가르치지만 분할(segmentation) 같은 밀집 예측(dense prediction)에서는 쉬운 샘플이 지름길(shortcut)을 노출하고 노이즈 샘플이 학습을 흐립니다. 듀크대·Adobe 연구팀은 같은 예산에서 쉬움→어려움 정렬이 무작위 순서와 다르지 않음을 확인하고 PaceShift를 내놓았습니다. 1단계는 난이도 대신 라벨 신뢰도로 샘플을 고르고, 2단계는 가드된 안티-커리큘럼으로 어려운 뷰에 도전, 평균 3.3~5.3% 상대 향상, 추론 비용은 그대로입니다.

💡'무엇이 쉬운가'보다 '이 라벨을 믿을 수 있는가'로 학습 순서를 정하자는 관점입니다. 노이즈 라벨이 많은 현업 데이터로 학습할 때 샘플 가중 기준을 다시 점검해 볼 계기가 됩니다.

원문 →#curriculum-learning#segmentation#computer-vision#noisy-labels

🪞

자가수정 학습

자기 예측을 복기하며 계속 강해진다, 인민대 DeepEvolve

대부분의 AI는 출시 후 파라미터가 고정됩니다. 중국 인민대·IQuest Research·NTU 연구팀의 DeepEvolve는 미래 사건 예측을 무대로, 결과가 확정되면 예측 뒤의 추론 궤적을 파라미터 학습과 재사용 스킬로 내재화하는 재귀적 자기개선(RSI) 시스템입니다. 라이브 환경이 검증 가능한 예측 과제를 계속 합성하고, 오염을 막으려 검색과 예측을 분리했습니다. 외부 FutureX 주간 리더보드에서 3주 연속 전체 1위, 레이팅 최대 195% 향상을 기록했습니다.

💡정답이 나중에 현실에서 확정되는 과제는 자기개선 루프의 검증 신호로 쓰기 좋습니다. 수요·지표 예측처럼 결과가 늦게 확인되는 업무에 에이전트 피드백 루프를 설계할 때 참고할 만한 구조입니다.

원문 →#self-improvement#forecasting#agent#rsi

LongZero 데이터 합성 개요도: 세계 명세·계획·확장 3단계로 사실과 방해 정보를 여러 문서에 흩어 장문 추론 데이터를 만들고, 대화형 검색 데이터도 합성하는 구조

외부 데이터 없이 장문 추론을 키운다, 칭화대 LongZero

장문 맥락(long-context) 추론 강화학습에는 길고 검증 가능한 데이터가 필요한데, 기존 합성법은 외부 코퍼스나 더 강한 교사 모델에 기댑니다. 칭화대 연구팀의 LongZero는 모델이 먼저 질문·답·근거를 짧게 만든 뒤 근거를 긴 다중 문서로 확장해 스스로 문제를 출제합니다. 일관되게 못 맞히는 문제만 남겨 GRPO로 학습하자 Qwen3-4B-Thinking·Qwen3-8B가 5개 벤치마크 평균 최고점을 냈고, 397B 교사가 쓴 문제로 한 RL보다도 앞섰습니다.

💡'근거 먼저, 문서는 나중'이라는 역순 합성은 정답 검증이 쉬운 데이터를 싸게 만드는 요령입니다. 라벨 없는 도메인에서 RAG·장문 추론 학습 데이터를 직접 만들 때 써먹을 수 있습니다.

원문 →#long-context#synthetic-data#grpo#self-improvement

🧪

액티브러닝

어떤 두 개를 비교할지 고른다, 스완지대 등 베이지안 순위 추정

쌍대 비교 판정(comparative judgement)은 두 항목씩 비교해 순위를 매기는 평가로, 판정 횟수가 곧 비용입니다. 스완지대·러프버러대 등 영국 연구팀은 순위 불확실성을 재는 베이지안 Bradley-Terry 모델을 만들고, 다음에 비교할 쌍을 고르는 액티브러닝(active learning) 전략 3종을 제안했습니다. 저·중 노이즈에선 쌍별 엔트로피 선택이, 최고 노이즈에선 사후 분리도 전략이 가장 좋았고, 중간 노이즈에서 결과 30%를 무작위로 바꿔도 성능 영향이 작았습니다.

💡노이즈 수준에 따라 최적 질문 전략이 달라진다는 결과입니다. 사람 평가나 LLM 심판(LLM-as-a-judge)으로 모델·답변을 쌍대 비교할 때 판정 예산을 아끼는 실용적인 가이드가 됩니다.

원문 →#active-learning#bayesian#ranking#evaluation

🔄

지속학습

새 지식을 아는 절차로 바꿔 배운다, UNC·시스코 SST

언어 모델을 새 도메인에 차례로 사후학습(post-training)하면 기존 능력이 무너지는 파국적 망각(catastrophic forgetting)이 생깁니다. UNC 채플힐·시스코 리서치 등 연구팀의 SST는 모델을 옛 상태로 끌어당기는 대신, 새 예제를 핵심 연산·의존관계·검증 단계만 남긴 '스킬 스키마'로 바꿔 아는 절차의 사례로 재작성합니다. 3B 백본 2종에서 평균 최종 성능이 2.53~5.75점 올랐고, Qwen-3B MATH 스트림 최대 망각은 42.41→7.10점으로 줄었습니다.

💡망각을 규제가 아니라 데이터 재표현으로 푼다는 발상입니다. 사내 도메인 파인튜닝 전에 학습 데이터를 모델이 익숙한 절차 형식으로 바꿔 보는 전처리 아이디어로 가져갈 수 있습니다.

원문 →#continual-learning#catastrophic-forgetting#post-training#domain-adaptation

🧬

메타러닝

RL 없이 탐색하는 법을 배운다, 워싱턴대 ASTEROID

전문가는 정답을 알아 탐색할 필요가 없으니 모방학습으로는 탐색을 배우기 어렵고, RL로 배우면 표본 효율이 낮습니다. 워싱턴대 연구팀의 ASTEROID는 학생 정책이 먼저 직접 이력을 모으면, 정답을 보는 교사가 '학생이 지금까지 본 것 기준으로 할 일'을 라벨링해 지도학습으로 증류합니다. 11개 환경에서 고정 탐색 예산 리턴 약 2배, RL 대비 상호작용 약 100배 절감을 보였고, 카메라 없는 실로봇 조작에서 표준 증류 대비 성공률 +40%를 기록했습니다.

💡교사가 학생의 시야에 맞춰 라벨을 주는 비대칭 증류(asymmetric distillation)는 테스트 시점 적응을 싸게 얻는 방법입니다. 정보를 모으며 적응해야 하는 에이전트 과제를 설계할 때 참고할 만합니다.

원문 →#meta-learning#in-context-rl#distillation#robotics

이 호가 도움됐다면 공유해 주세요 — 빌더 한 명이 더 알게 됩니다.

📤 공유하기𝕏 @in f 💬✈B ✉