vibecamp ai model · #17 · 2026-08-20

vibecamp ai model 2026-08-20 — 골든 샘플 10장 + 전문가 교정으로 재학습 없이 이상탐지를 고칩니다

2026-08-20 AI 모델 일간 호 — 오늘 10개 카드를 정리했습니다.

10개 카드 · 적은 예제로 스스로 깨우치는 학습법 일간

🎯

퓨샷 학습

표 하나로 사전학습해도 통했습니다 — 테이블 모델의 퓨샷은 사실 검색이었다

테이블 파운데이션 모델(TFM)은 가중치를 바꾸지 않고 라벨 예시 몇 줄만 받아 새 입력을 예측합니다. 연구진은 대규모 합성 코퍼스 대신 실제 테이블 단 한 개로 자기지도 사전학습을 해도 강한 전이가 나온다는 것을 보였습니다. 테이블의 쓸모를 가장 잘 예측한 변수는 행 수가 아니라 열(피처) 수였고, 컬럼 단위 전처리는 성능을 올린 반면 데이터셋 단위 필터링·중복 제거는 아무 개선도 주지 못했습니다. 저자들은 인컨텍스트 학습의 실체가 관련 예시를 찾아 종합하는 검색에 가깝다고 봅니다.

💡퓨샷 예시를 많이 넣는 것보다 관련 있는 예시를 고르는 일이 성능을 좌우한다는 뜻입니다. 이 논문은 선행 연구(arXiv:2511.09665)를 확장한 후속작입니다.

원문 →#few-shot#in-context-learning#tabular#foundation-model#retrieval

전용 비식별화 시스템을 프롬프트가 이겼습니다 — 놓친 환자정보 79% 회수

미국 텍사스아동병원의 소아종양 진료기록 100건(PHI 스팬 5,322개)에서 LLM 8종을 전용 비식별화 시스템과 비교한 연구입니다. 병원 약어나 건물명처럼 그 기관에서만 개인정보가 되는 항목은 범용 시스템이 놓치는데, 놓친 범주를 프롬프트에 이름 붙여 알려주자 79%(48/61)가 회수됐습니다. 과다 마스킹 금지 지시로 정밀도까지 되찾아 최고 F1 0.918을 기록해 전용 시스템 TiDE의 0.779를 앞섰습니다. 멀티에이전트·앙상블 14개 구성은 잘 보정된 단일 프롬프트를 넘지 못했습니다.

💡파인튜닝 없이 기관별 예시만 넣어도 도메인 전용 시스템을 넘었습니다. 구조를 복잡하게 만들기 전에 프롬프트부터 보정하라는 순서를 지지하는 결과입니다.

원문 →#few-shot#in-context-learning#prompt-engineering#healthcare#privacy

📚

커리큘럼 학습

커리큘럼 학습은 언제 통하나 — 난이도 간 전이로 설명한 TDCS

쉬운 것에서 어려운 것 순으로 데이터를 배열하는 커리큘럼 학습은 추론 과제마다 효과가 크게 갈려, 지금까지 설계가 사실상 감에 의존했습니다. 저자들은 커리큘럼이 만드는 최적화 동역학을 분석해 난이도 구간 사이의 지식 전이가 효과를 좌우함을 보이고, 이를 Relative Transfer 지표로 정식화했습니다. 이 값을 학습 도중 추정해 샘플링 분포를 조정하는 TDCS는 여러 추론 벤치마크에서 대표 스케줄링 전략들을 과제·모델 규모·학습 패러다임 전반에 걸쳐 상회했습니다.

💡커리큘럼을 순서 문제가 아니라 전이 문제로 바꿔 본 시도입니다. 내 과제에서 easy-to-hard가 안 통했다면 난이도 간 전이가 약했던 것일 수 있습니다.

원문 →#curriculum-learning#post-training#llm#sampling#reasoning

난이도를 매번 재보지 않습니다 — 샘플 그래프로 RLVR 탐색 예산 배분

검증가능 보상 강화학습(RLVR)에서 난이도 기반 스케줄링을 하려면 문제마다 난이도를 재야 하는데, 전용 프로빙은 비용이 크고 학습이 진행되면 추정치가 금방 낡습니다. 이 연구는 의미·추론 유사도로 샘플 그래프를 만들어 한 문제의 롤아웃 피드백을 이웃 문제와 공유합니다. Potts prior로 잠재 난이도 상태를 두고 Beta-Binomial로 결과를 모은 뒤 온라인 mean-field 변분 추론으로 갱신하며, 기존 스케줄러에 그대로 끼워 넣어 여러 모델·벤치마크에서 성능이 올랐습니다.

💡커리큘럼의 전제인 난이도 측정을 별도 비용 없이 학습 루프 안에서 유지합니다. 콜드스타트와 추정치 노후화를 함께 겨냥한 점이 실무적입니다.

원문 →#curriculum-learning#rlvr#difficulty-estimation#reinforcement-learning#scheduling

🪞

자가수정 학습

스스로 고쳐 쓰는 경험 사슬 — 정확도 5.6% 개선, API 비용 19% 절감

Chain-of-Experience(CoE)는 가중치를 건드리지 않고 추론 시점에서만 도는 지속개선 루프입니다. 모델이 자기 피드백과 환경 신호(정답 여부, 코딩 테스트 통과율)로 만든 경험 궤적을 쌓아 다음 시도를 스스로 교정합니다. GPT-5·Gemini 2.5 Pro·Claude 4.5 Sonnet 등 8개 모델을 수학·코딩·지식 도메인에서 평가한 결과, 피드백 없는 베이스라인 대비 정확도가 5.6% 오르고 API 비용은 19% 줄었습니다. 개선분 대부분은 초기 반복에서 나왔습니다.

💡매번 백지에서 다시 시작하던 추론에 기억을 붙인 셈입니다. 개선이 초기 반복에 몰린다는 관찰은 몇 번을 돌릴지 정하는 실무 기준으로 바로 쓸 수 있습니다.

원문 →#self-correction#test-time#feedback-loop#llm#cost-efficiency

정답 라벨 없이 서로를 채점합니다 — 동료 모델 보상만으로 추론 학습

Co-RL은 파라미터를 공유하지 않는 여러 모델을 동시에 강화학습시키되, 보상을 사람이 만든 정답이 아니라 동료 모델들의 판정에서 뽑아냅니다. 모델 하나가 스스로를 채점하면 자기 오류를 그대로 강화해 학습이 붕괴하는데, 코호트의 다양성을 키우면 상관된 오류가 줄어 이 붕괴를 막는다는 것이 핵심 관찰입니다. 텍스트 벤치마크 7종에서 평균 3.0~8.6%, 멀티모달 4종에서 2.3~7.2% 개선했고, 정답 라벨을 쓰는 지도 방식과 동등하거나 그 이상이면서 행동 다양성도 유지했습니다.

💡자기채점 학습의 고질적 실패모드인 자기확증에 다양성이라는 구체적 처방을 붙였습니다. 라벨을 만들기 어려운 도메인이라면 특히 눈여겨볼 설계입니다.

원문 →#self-correction#multi-agent-rl#label-free#rlaif#reasoning

🧪

액티브러닝

골든 샘플 10장 + 전문가 교정으로 재학습 없이 이상탐지를 고칩니다

뉴캐슬대 연구진이 재학습·그래디언트·원본 학습데이터 없이 이상탐지기를 교정하는 방법을 내놨습니다. PatchCore의 메모리 뱅크를 운영자가 직접 편집하되, 오탐이 난 이미지의 정상 패치만 novelty gate를 통과시켜 뱅크에 넣습니다. 골든 샘플 10장으로 만든 뱅크에 교정을 더하자 풀 학습 뱅크와의 성능 격차를 중앙값 66%(평균 80%) 메웠고, MVTec AD 15개 카테고리 중 12개가 유의하게 개선되고 악화는 0개였습니다. 라벨 비용은 전수 검토의 43%였습니다.

💡능동 질의와 수동 질의가 통계적으로 구분되지 않았다는 점이 핵심입니다. 이득은 똑똑한 질의 전략이 아니라 배포 뒤에도 라벨을 계속 만들어 넣는 행위 자체에서 나왔습니다.

원문 →#active-learning#human-in-the-loop#anomaly-detection#few-shot#patchcore

출력 대신 내부 트랙 상태를 흔들어 라벨할 클립을 고르는 QPID

NTT 연구진이 다중객체추적(MOT) 주석 비용을 줄이는 클립 단위 액티브러닝 기법 QPID를 BMVC 2026에서 발표했습니다. 기존 기준이 출력의 시간적 불확실성만 봤다면, QPID는 트랙 상태에 양방향 섭동을 준 뒤 무섭동 분기와 예측 차이를 Localization Drift와 Entropy-Weighted Confidence Discrepancy로 잽니다. 여기에 시각 커버리지로 중복 없는 배치를 고르고, DanceTrack·SportsMOT에서 같은 예산으로 기존 베이스라인을 앞섰습니다.

💡무엇이 불확실한가를 모델 출력이 아니라 내부 상태의 흔들림으로 다시 정의했습니다. 라벨 예산이 빠듯한 프로젝트라면 질문 자체를 바꿔볼 만한 지점입니다.

원문 →#active-learning#annotation-budget#multi-object-tracking#computer-vision#bmvc-2026

🔄

지속학습

학습 루프에 간격반복을 꽂자 잃었던 옛 지식 5~37%p가 돌아왔습니다

지속 사전학습(continual pre-training)은 새 코퍼스를 배우며 옛 지식을 잃습니다. 기존 replay는 혼합 비율을 하나 정해 균일 샘플링할 뿐, 예제마다 잊히는 속도가 다르다는 점은 무시합니다. SRT는 이를 적응형 복습 스케줄링으로 재정의해, 인지과학의 SuperMemo-2 알고리즘으로 예제별 복습 상태를 유지하고 perplexity를 회상 품질 신호로 바꿔 무엇을 언제 다시 넣을지 정합니다. 모델·목적함수·옵티마이저는 그대로 둔 채 옛 지식 정확도를 5~37%p 회복했습니다.

💡시험공부에 쓰던 간격반복이 그대로 학습 스케줄러가 됐습니다. 과거 데이터를 얼마나 섞을지보다 언제 다시 보여줄지가 더 큰 변수일 수 있다는 이야기입니다.

원문 →#continual-learning#spaced-repetition#catastrophic-forgetting#pretraining#replay

🧬

메타러닝

긴 컨텍스트를 다시 읽지 않습니다 — 테스트타임 메모리로 연산 약 80% 절감

MoNe는 frozen 사전학습 Transformer에 붙이는 모듈형 신경 메모리입니다. 컨텍스트를 세그먼트로 읽으면서 레이어 국소 그래디언트로 fast-weight 메모리를 테스트타임에 학습시키고, 추론 때는 컨텍스트를 다시 읽지 않고 쿼리 토큰만으로 key/value를 만듭니다. 덕분에 전처리는 O(N), 쿼리는 O(1)이 되고 피크 메모리가 길이에 따라 늘지 않습니다. 128K 토큰에서 인컨텍스트 학습 대비 연산과 GPU 메모리를 각각 약 80% 줄였고, 추가 파라미터는 6.4%였습니다.

💡컨텍스트를 읽는 대상이 아니라 즉석에서 학습해 내재화하는 대상으로 바꿨습니다. 학습하는 법을 배우는 메타러닝 계보가 서빙 비용 문제에 직접 닿은 사례입니다.

원문 →#meta-learning#test-time-training#long-context#fast-weights#inference-cost

이 호가 도움됐다면 공유해 주세요 — 빌더 한 명이 더 알게 됩니다.

📤 공유하기𝕏 @in f 💬✈B ✉