vibecamp ai model · #13 · 2026-08-08

vibecamp ai model 2026-08-08 — 지속학습의 무게중심이 파라미터에서 시스템으로 옮겨갑니다

2026-08-08 AI 모델 일간 호 — 오늘 8개 카드를 정리했습니다.

8개 카드 · 적은 예제로 스스로 깨우치는 학습법 일간

🎯

퓨샷 학습

검색한 예시를 정렬만 해도 학습형 어댑터를 앞선 시계열 예측

시계열 파운데이션 모델(TSFM)을 파인튜닝 없이 새 도메인에 붙이는 Align-RAG가 공개됐습니다. 그동안은 동결된 백본이 검색해온 예시를 스스로 쓰지 못한다고 보고 융합 어댑터를 따로 학습시켰는데, 연구팀은 그 전제가 필요 없다고 봤습니다. 검색한 구간 쌍에 닫힌 형식(closed-form) 진폭 재조정과 정수 지연 위상 이동만 적용해 컨텍스트에 넣자, 학습 파라미터 0개로 벤치마크 7개 데이터셋 전부에서 최신 학습형 어댑터를 앞섰습니다. 예측 오차는 평균 3.75% 낮아졌습니다.

💡예시를 넣는 방식만 바꿔도 어댑터를 따로 학습한 결과를 넘어설 수 있습니다. 검색 증강을 붙일 때 학습 코드부터 짜지 말고 정렬을 먼저 맞춰보는 순서를 권합니다.

원문 →GitHub — align-rag →#few-shot#time-series#retrieval#training-free

스킬 문서를 붙였다 뗐다 하는 연산자로 컴파일한 KV-Skill

태스크 지식을 프롬프트 텍스트도 가중치 업데이트도 아닌 제3의 형태로 담는 KV-Skill이 나왔습니다. 동결된 모델이 가벼운 인터페이스로 읽는 외부 연산자에 스킬을 저장하며, 사람이 쓴 텍스트 스킬을 변환하는 등록 방식과 결과 보상만으로 학습하는 방식을 함께 지원합니다. 어느 쪽도 프롬프트 길이를 늘리지 않습니다. 4B 파라미터 모델 Qwen3.5의 LiveMath 정확도는 원본 텍스트 스킬 23.4, SoftSkill 64.5였는데 등록 방식은 77.2였습니다.

💡스킬 문서를 매번 프롬프트에 붙이던 운영을, 컨텍스트를 먹지 않는 플러그인 배포로 바꿀 여지를 보여줍니다. 예산을 맞춘 8개 설정 중 7개에서 LoRA도 앞섰습니다.

원문 →GitHub — KV-Skill →#few-shot#agent-skill#lora#kv-cache

📚

커리큘럼 학습

CalibForge 개요도. 위쪽은 다중 솔버 교정과 대조 솔버 교정이 '학습 가능 구간(Learnable Zone)'을 어떻게 겨냥하는지 보여주는 도식과, 솔버 피드백 애블레이션 막대그래프(솔버 없음 22.47 → 단일 솔버 24.34 → 다중 솔버 29.21 → 대조 솔버 31.09). 아래쪽은 Terminal-Bench 2.0·SWE-Bench Pro

풀 수 있는 과제 말고 지금 배울 만한 과제를 만드는 방법

에이전트 학습 데이터는 너무 쉬우면 신호가 없고 너무 어려우면 보상이 전부 0입니다. CalibForge는 실행 검증이 과제의 실현 가능성만 알려줄 뿐 특정 모델에게 얼마나 어려운지는 말해주지 않는다는 데서 출발합니다. 검증된 솔버 행동을 되먹여 후보 과제를 고치는데, 판정이 갈리는 지점을 노리거나 강한 솔버는 통과하고 약한 솔버는 실패하도록 난이도를 맞춥니다. 이렇게 만든 터미널 과제 5,431개로 학습한 모델은 Terminal-Bench 2.0에서 32.58%, 47.57%를 기록했습니다.

💡커리큘럼을 데이터를 먹이는 순서가 아니라 데이터를 만드는 단계로 옮긴 사례입니다. 베이스 모델 대비 최대 24.71%포인트 올랐다는 점도 눈여겨볼 만합니다.

원문 →데이터셋 (HuggingFace) →코드 (GitHub) →#curriculum#agent-training#benchmark#dataset

짧은 구간부터 늘려 가며 미분방정식 모델을 학습시키는 법

신경 상미분방정식(NODE)과 범용 미분방정식(UDE)은 궤적 전체를 한 번에 맞추려 하면 손실 지형이 험해져 학습이 어긋나기 쉽습니다. CMS는 시간축을 짧은 구간으로 잘라 따로 적분하는 multiple shooting에 커리큘럼을 결합해, 단계가 올라갈수록 인접 구간을 이어붙여 점점 긴 궤적을 다루게 합니다. 마지막 단계에서는 전체 궤적을 한 번에 적분하는 통상 방식으로 수렴합니다. 시뮬레이션과 실측을 아우른 12개 벤치마크에서 수렴이 빨라지고 안정됐다고 논문은 보고합니다.

💡쉬운 것부터 차례로라는 커리큘럼 원리를 데이터가 아니라 학습 목적함수의 시간 범위에 적용했습니다. 순서를 어디에 걸 수 있는지 다시 보게 하는 사례입니다.

원문 →#curriculum#neural-ode#sciml#training-stability

🪞

자가수정 학습

더 뽑지 말고 뽑은 답을 고치라는 테스트타임 연산 전략

테스트타임 연산을 샘플 수 늘리기에만 쓰면 새 롤아웃이 기존 답 패턴을 반복해 수익이 줄고, 검증기(verifier) 기반 선택은 외부 보상모델의 캘리브레이션에 성능이 묶입니다. 연구팀은 검증기를 쓰지 않는 구조를 제안했습니다. 독립 추론을 여러 개 뽑아 다양성을 확보한 뒤 각각을 모델 자신의 자기비판·자기수정 루프로 다듬고, 마지막에 다수결로 모읍니다. 1.5B 파라미터 모델 Qwen2.5의 AMC 정확도는 25.0→32.5%로 올랐습니다.

💡답을 더 많이 뽑는 대신 이미 뽑은 답의 국소 오류를 고치는 편이 쌀 수 있습니다. 별도 보상모델이 필요 없어 지금 쓰는 파이프라인에 바로 얹어볼 수 있습니다.

원문 →#self-correction#test-time-scaling#reasoning#math

실패 원인을 가설로 세워 스킬을 스스로 고치는 에이전트

배포 현장에는 학습셋도 검증셋도 없고 시도 횟수도 빠듯한데, 결과 하나에 여러 실패 원인이 뒤엉켜 보상이 극히 희소합니다. 기존 자기진화 방식은 현재 스킬 하나만 탐욕적으로 다듬다가 초기 오진에 갇히곤 했습니다. SkillHEX는 왜 실패했는지를 반증 가능한 가설로 세우고 이를 실행 가능한 테스트로 옮겨, 환경을 다시 건드리지 않고도 진단 근거를 만듭니다. SkillsBench 87개 과제에서 5회 예산으로 평균 통과율 55.9%(GPT-5.3-Codex)를 냈습니다.

💡에이전트 스킬을 사람이 손으로 고쳐 주는 대신, 실패를 가설과 테스트로 바꾸는 루프를 설계하는 관점을 얻을 수 있습니다. Claude Opus 4.7로는 57.9%였습니다.

원문 →#self-correction#agent-skill#tree-search#sparse-reward

🔄

지속학습

지속학습의 무게중심이 파라미터에서 시스템으로 옮겨갑니다

새 실험 결과를 내놓는 논문이 아니라 지속학습(CL) 연구 흐름을 정리한 서베이입니다. 고전 CL은 가중치를 덮어쓰면서 옛 지식을 어떻게 지킬지에 집중했지만, 지금은 메모리와 스킬 라이브러리, 상호작용 프로토콜 같은 외부 구조물만 쌓아도 능력이 누적됩니다. 저자들은 이 전환을 언제(When)·어떻게(How)·어디에(Where) 갱신이 일어나는가라는 세 축으로 재정리하고, 사전학습부터 추론 시점 학습까지, 모델 내부 파라미터부터 외부 하네스까지를 같은 좌표에 놓습니다.

💡서비스 중인 모델을 갱신할 때 재학습과 추론 시점 적응, 외부 메모리 축적 중 무엇을 쓸지 같은 틀에서 비교하게 해 주는 설계 지도 역할을 합니다.

원문 →#continual-learning#survey#memory#test-time-training

🧬

메타러닝

표 데이터 모델을 재학습 없이 스킬로 적응시킨 SkillTFM

테이블형 파운데이션 모델은 여러 데이터셋에 그대로 쓰는 예측기를 표방하지만, 실제 배포에서는 분포 변화와 태스크 고유 패턴 탓에 결국 파인튜닝이 필요했습니다. SkillTFM은 적응의 단위를 가중치에서 검증 가능한 스킬로 옮깁니다. 먼저 베이스 모델이 어디서 틀리는지 경계 증거를 뽑고, 기존 스킬을 검색해 확장하되 검증을 통과한 수정분만 반영합니다. 시뮬레이션 경계 설정과 전력가격 예측에서 AUC를 0.128~0.142 끌어올렸고, 비선형 경계 AUC는 0.699→0.898로 상승했습니다.

💡재학습 없이 새 태스크에 붙는다는 발상은 매력적이지만, 실증 범위가 아직 시뮬레이션과 전력가격 예측 한 건에 그친다는 점은 감안하고 읽어야 합니다.

원문 →#meta-learning#tabular#training-free#skill-bank

이 호가 도움됐다면 공유해 주세요 — 빌더 한 명이 더 알게 됩니다.

📤 공유하기𝕏 @in f 💬✈B ✉