vibecamp ai model · #23 · 2026-08-29

vibecamp ai model 2026-08-29 — 궤적 3,200건만 골라 학습 — SWE-Bench 41.4%→51.4%

2026-08-29 AI 모델 일간 호 — 오늘 8개 카드를 정리했습니다.

8개 카드 · 적은 예제로 스스로 깨우치는 학습법 일간

🎯

퓨샷 학습

작은 모델의 오답을 예시로 넣자 큰 모델이 7번 대신 1번만 생성

오하이오주립대와 프린스턴대 연구진이 8월 28일 arXiv에 공개한 CritICL은 1.5B~8B 작은 모델이 틀리는 방식을 실패 유형으로 모아 두고, 이를 비평 형태의 문맥 내 예시로 큰 모델 추론에 주입합니다. Qwen2.5-32B에서 정확도 49.8%로 5-shot 무작위 예시 45.0%를 넘었고, 7회 반복 생성하는 최강 베이스라인을 0.3점 차로 앞서면서 생성은 1회로 줄었습니다. 질문당 토큰도 3,768로 반복 생성 방식 5,440보다 적었습니다.

💡정답 예시만 넣지 말고 이렇게 틀린다는 사례를 함께 넣어 보세요. 작은 모델을 돌리며 쌓인 실패 로그가 그대로 큰 모델의 퓨샷 재료가 되고, 파인튜닝 없이 반복 샘플링 비용이 줄어듭니다.

원문 →#few-shot#in-context learning#추론시 스케일링#토큰 비용#Qwen2.5

📚

커리큘럼 학습

환경을 밟는 순서를 그래프로 적자 ACCEL 0.56 대 0.76

Zhenya Liu와 Yuxin Chen이 8월 28일 arXiv에 공개한 ICML 2026 논문 PATH는 강화학습 환경 사이의 난이도 선후 관계를 방향성 비순환 그래프로 명시하고 그 위에서 능동학습을 수행합니다. 1단계는 여러 경로를 무작위로 훑어 커버리지를 넓히고, 2단계가 아직 숙달하지 못한 구간으로 학습 예산을 다시 배분합니다. BipedalWalker 10k 업데이트 기준 로버스트니스 해결률 0.76으로 ACCEL 0.56을 앞섰고, MiniGrid 일반화 해결률은 99.4%였습니다.

💡난이도 순서를 점수에 암묵적으로 맡기지 말고 그래프로 적어 두세요. 연결의 절반이 틀려도 기존 방식을 넘었으니, 대략적인 선후 관계만 있어도 시작할 만합니다.

원문 →#curriculum-learning#강화학습#UED#능동학습#ICML 2026

🪞

자가수정 학습

끝난 뒤 반성 대신 실행 중 개입, 토큰 42.9% 줄이고 14.6점

Yang Xiao 등 10인이 8월 28일 arXiv에 공개한 PILOT은 감독자와 작업자를 나눈 하네스로 실행이 끝난 뒤가 아니라 도중에 개입합니다. 별도 감독자가 진행 중인 워커의 방향을 바꾸거나 중단시키고, 실행 중 드러난 절차와 실패 유형을 재사용 가능한 스킬로 증류합니다. 고정 백본 GLM-5.1과 Kimi-K2.6 기준 자가개선 세팅에서 각각 14.6점·12.4점이 올랐고, 평균 출력 토큰은 42.9%·47.4% 줄었습니다.

💡교정 주체가 같은 모델이 아니라 별도 감독자라는 점이 핵심입니다. 실행과 평가를 한 문맥에 섞지 않고, 회고를 런이 끝난 뒤가 아니라 진행 중에 붙이는 구조를 참고해 보세요.

원문 →#self-correction#에이전트 하네스#Terminal-Bench#토큰 효율#자기진화

심판을 자기 점수로 키우지 않았더니 10바퀴까지 계속 좋아졌습니다

Gyouk Chu·Myeongho Jeon·Eunho Yang이 8월 28일 arXiv에 공개한 J-Zero는 사람이 만든 데이터 없이 출제자·풀이자·심판 세 역할이 함께 진화하는 자가진화 프레임워크입니다. 핵심은 심판을 자기 점수로 학습시키지 않고, 어떻게 생성됐는지로 우열이 이미 정해진 선호쌍으로 학습시키는 것입니다. 검증 가능한 도메인에서 평균 4.2점, 검증 불가 도메인에서 8.0점 앞섰고 최소 10회 반복까지 개선이 이어졌습니다.

💡자가진화가 몇 바퀴까지 버티는지는 심판의 학습 신호가 가릅니다. 평가자를 자기 점수로 키우면 루프가 먼저 무너지니, 우열이 구조적으로 확정된 쌍을 신호로 쓰세요.

원문 →#self-correction#자기진화#LLM-as-judge#선호쌍#제로데이터

🧪

액티브러닝

궤적 3,200건만 골라 학습 — SWE-Bench 41.4%→51.4%

중산대·화웨이 클라우드·충칭대 연구진이 8월 28일 arXiv에 공개한 SWE-Prime은 코딩 에이전트 학습 데이터를 전부 쓰지 않고 골라 쓰는 2단계 선택 기법입니다. 테스트를 통과한 궤적 32,161건 중 상위 10%(약 3,200건)만 남기고, 그 안에서도 기여도가 높은 구간에만 손실을 겁니다. GLM-4.7-Flash의 SWE-Bench Verified 해결률은 전량 학습 41.4%→51.4%로 올랐고, 무작위 10% 표본은 39.6%에 그쳤습니다.

💡데이터가 적어서 좋아진 게 아니라 골라서 좋아졌습니다. 무작위 10%는 오히려 손해였으니, 로그가 쌓였다면 양을 늘리기 전에 무엇을 학습에서 뺄지 기준부터 만들어 보세요.

원문 →#active-learning#데이터 선택#코딩 에이전트#SWE-Bench#SFT

🔄

지속학습

GPU 368장과 3개월, 지속학습만으로 프런티어급 모델을 만들었습니다

톰슨로이터와 임페리얼칼리지런던 공동 연구진 저자 26인이 8월 28일 arXiv에 공개했습니다. 공개 가중치 Qwen3.5-397B-A17B와 Qwen3.6-35B를 밑바탕으로 중간학습·후속학습 전 과정을 지속학습으로 돌려, B200 GPU 368장 이하와 엔지니어 36명 이하로 3개월(총 87,842 GPU 시간) 만에 Thomson 1.0을 만들었습니다. 법률·세무 등 목표 도메인은 크게 오르고 비목표 도메인은 베이스 모델 수준을 유지했으며, 코딩만 경미한 망각을 보였습니다.

💡도메인 적응의 대가는 보통 다른 능력의 망각입니다. 학습 단계마다 새로 배우는 힘과 지키는 힘을 함께 재고, 파라미터를 크게 흔드는 개입 횟수를 세어 두세요.

원문 →#continual-learning#파국적 망각#오픈웨이트#도메인 적응#Thomson 1.0

Memory Anchors 논문 방법 그림 — 표현 공간 겹침 탐지, 행동 불일치 분리, 리플레이 버퍼용 앵커 추출의 3단계를 로봇 조작 장면과 잠재공간 산점도로 보여준다

리플레이 버퍼의 10%가 로봇의 망각을 4.5배 갈랐습니다

스탠퍼드대와 토요타연구소(TRI) 연구진이 8월 28일 arXiv에 공개했습니다. 리플레이 버퍼 안에서 과거 성능을 실제로 붙잡아 두는 소수의 경험을 Memory Anchors로 규정하는데, 옛 관측과 표현은 겹치지만 요구되는 행동이 상충하는 지점에서 생깁니다. LIBERO 벤치마크에서 이 앵커 10%만 제외해도 파국적 망각이 4.5배 이상 늘었고, 반대로 버퍼의 10%를 앵커 몫으로 예약하자 행동이 충돌하는 태스크의 망각이 63% 줄었습니다.

💡버퍼를 키우는 것보다 무엇을 남길지가 중요합니다. 새 작업과 입력은 비슷한데 정답 행동이 반대인 옛 사례부터 찾아 보존 목록에 올리면 적은 비용으로 망각을 막습니다.

원문 →#continual-learning#리플레이 버퍼#로보틱스#VLA#LIBERO

🧬

메타러닝

MoE 전문가를 6개에서 3.61개로 줄였는데 MMLU는 올랐습니다

Rongfeng Wang 등 연구진이 8월 28일 arXiv에 공개한 MetaNet은 MoE 모델의 층별 활성 전문가 수를 태스크 단위로 메타학습합니다. 백본·전문가·라우터를 모두 동결한 채 소수의 서포트 예시만 보고 층별 임계값과 라우팅 바이어스를 예측합니다. DeepSeek-MoE-16B-Chat에서 보수 설정은 평균 3.61개(고정 6개 대비 40% 감소)로 MMLU 0.489를 기록해 고정 0.474를 넘었고, 공격적 설정은 평균 2.28개로 줄이는 대신 0.438로 내려갔습니다.

💡적응은 가중치를 다시 학습하는 것만이 아닙니다. 예시 몇 개로 계산 예산을 정하는 작은 컨트롤러만 얹어도 되고, 이 컨트롤러는 재학습 없이 다른 벤치마크로 그대로 옮겨 갔습니다.

원문 →#meta-learning#MoE#추론 비용#라우팅#DeepSeek

이 호가 도움됐다면 공유해 주세요 — 빌더 한 명이 더 알게 됩니다.

📤 공유하기𝕏 @in f 💬✈B ✉