vibecamp ai model · #15 · 2026-08-17

vibecamp ai model 2026-08-17 — 불확실성 샘플링은 정말 나쁜 라벨을 더 먹는가 — 통념을 둘로 쪼갠 실험

2026-08-17 AI 모델 일간 호 — 오늘 8개 카드를 정리했습니다.

8개 카드 · 적은 예제로 스스로 깨우치는 학습법 일간

🎯

퓨샷 학습

LLM이 만든 합성 예문, 임베딩 거리로 걸러내 퓨샷 분류 +2.61%p

라벨이 몇 개뿐일 때 LLM으로 데이터를 늘리는 건 흔한 수법이지만, 생성된 예문 품질이 들쭉날쭉해 오히려 분류기를 망치곤 했습니다. 이 연구는 합성 샘플을 문장 임베딩 공간에 놓고 실제 클래스 예시와의 유클리드 거리를 재, 일관된 샘플만 골라 가중치를 주고 학습시킵니다. 13개 데이터셋에서 SMOTE 대비 평균 +2.61%p, 개체명 인식(NER)에서는 +9.26%p 올랐습니다. 복잡한 다중 기준보다 단순한 거리 필터가 더 나았다는 점이 핵심입니다.

💡별도 모델 학습 없이 임베딩 거리 계산만 얹으면 되니, 라벨링 예산이 거의 없는 실무 분류·NER 파이프라인에 그대로 붙여볼 수 있는 저비용 개선책입니다.

원문 →#few-shot#synthetic-data#embedding#text-classification#ner

거래 데이터를 텍스트로 풀지 말고 임베딩으로 주입 — 제로샷 예측기 MINT

도메인 특화 파운데이션 모델은 새 태스크마다 다시 학습해야 하고, 반대로 원자료를 텍스트로 풀어 LLM에 넣으면 토큰이 폭발하면서 수치 신호가 뭉개집니다. MINT는 사전학습된 거래 인코더의 임베딩을 decoder-only LLM에 가볍게 주입하고 instruction tuning으로 정렬해, 학습한 적 없는 예측 과제에도 제로샷으로 답합니다. 기존 과제와 새 과제 모두에서 예측형 QA 성능이 오르면서 토큰 사용량과 처리 시간, 메모리는 텍스트 직렬화 대비 크게 줄었습니다.

💡표·시퀀스처럼 텍스트가 아닌 사내 데이터를 가졌다면, 태스크마다 파인튜닝하는 대신 인코더 임베딩을 LLM에 꽂는 설계를 로그·센서 데이터에도 옮겨볼 만합니다.

원문 →#zero-shot#instruction-tuning#embedding-injection#tabular#llm

📚

커리큘럼 학습

CORAL 시스템 개요도 — CARLA 시뮬레이터, 99차원 관측 벡터, PPO 정책 네트워크가 이어지고 오른쪽에 5단계 커리큘럼(Stage 0~4)과 5개 보상 항목이 정리된 흐름도

5단계 커리큘럼 + 단계별 보상 이동으로 자율주행 RL 성공률 5~10%→100%

목표 지향 주행은 목표 도달·경로 추종·장애물 회피·신호 준수처럼 경쟁하는 행동을 한꺼번에 익혀야 하는데, 고정된 목적함수는 무엇을 먼저 배울지 순서를 주지 않습니다. CORAL은 경로를 늘리며 제약을 조이는 5단계 커리큘럼과, 초반 목표 도달에서 후반 안전·규칙 준수로 가중치를 옮기는 단계 인식 보상을 함께 굴립니다. 같은 프로토콜의 PPO 베이스라인이 최장 경로에서 5%·10%에 그친 반면 평가 20회를 전부 성공했고, 미학습 7개 도시로 zero-shot 전이해 68~98% 성공했습니다.

💡보상을 아무리 다듬어도 학습 순서가 없으면 정책이 어느 것도 제대로 못 익힙니다. 커리큘럼과 보상 스케줄은 하나만으로는 조합에 못 미쳤습니다.

원문 →#curriculum-learning#reinforcement-learning#ppo#autonomous-driving#reward-shaping

🧪

액티브러닝

불확실성 샘플링은 정말 나쁜 라벨을 더 먹는가 — 통념을 둘로 쪼갠 실험

'불확실성 샘플링은 어려운 샘플을 고르니 오라벨을 더 먹고 결국 손해'라는 통념을, 오라벨 노출량과 오류 위치 두 축으로 분리해 검정했습니다. 3개 데이터셋 × 9단계 노이즈율 × 예산 20~120 조건에서 랜덤 샘플링과 대조한 결과, 클린 라벨에서는 정규화 balanced accuracy가 +1.09~1.77%p로 라벨 효율 우위가 확인됐습니다. 반면 오류 위치 탓에 추가 페널티를 받는다는 보편적 증거는 노출량을 맞추자 사라졌습니다.

💡같은 클린 조건에서 average precision과 고정 FPR TPR은 오히려 떨어졌습니다. 지표 하나로 평가하면 액티브러닝 도입 효과를 과대평가하기 쉽습니다.

원문 →#active-learning#label-noise#uncertainty-sampling#evaluation#tabular

🔄

지속학습

진화전략도 잊는다 — replay로 망각은 막지만 늘릴수록 가소성이 준다

지속학습 연구는 대부분 그래디언트 기반 지도학습에 몰려 있어, 진화전략(Evolution Strategies)도 파국적 망각을 겪는지는 확인되지 않았습니다. 순차 MuJoCo 로코모션 태스크에서 재보니 naive ES는 새 태스크로 넘어갈 때 이전 성능이 심각하게 붕괴했습니다. replay(경험 재생)를 결합하자 보존율이 크게 올랐고 태스크 간 긍정 전이까지 유도됐습니다. 다만 replay 예산을 키울수록 새 태스크 습득 능력(가소성)이 떨어졌습니다.

💡망각은 그래디언트 학습만의 문제가 아니었습니다. ES를 쓰더라도 replay 버퍼 크기는 성능을 좌우하는 핵심 하이퍼파라미터로 놓고 튜닝해야 합니다.

원문 →#continual-learning#evolution-strategies#replay#reinforcement-learning#plasticity

의료영상 지속학습 4단계 방법론 도해 — Task 1 학습, 백본 동결 후 Task 2 헤드 학습, 병목부터 점진적으로 학습 가능 영역을 넓히는 제약 완화, 마지막 구조 재분석 단계를 눈송이(동결)와 불꽃(학습) 아이콘으로 표시

무엇을 지킬지보다 어디를 열지 — 망각을 가른 건 네트워크 깊이였다

임상 현장에서는 데이터를 한 번에 모을 수 없고, 모달리티·해부구조·어노테이션 프로토콜이 제각각인 데이터셋이 순차로 들어옵니다. 연구진은 부인과 영상 분할 모델을 지속학습 환경에 두고 encoder-decoder를 블록별로 절제하며 망각이 어디서 생기는지 분해했습니다. bottleneck 인접 구간만 업데이트하면 이전 태스크 성능이 대부분 보존된 반면, 얕은 층까지 학습 가능하게 열면 갱신 파라미터가 소수여도 망각이 급격히 늘었습니다.

💡파라미터를 얼마나 적게 바꾸느냐보다 네트워크의 어느 깊이를 여느냐가 망각을 좌우합니다. 부분 파인튜닝 범위를 정할 때 바로 써먹을 수 있는 기준입니다.

원문 →#continual-learning#medical-imaging#segmentation#catastrophic-forgetting#fine-tuning

🧬

메타러닝

HELIX: 모델과 하네스를 함께 진화시키는 재귀적 자기개선

에이전트 성능 향상은 대개 모델 파라미터에만 집중되고, 정작 모델이 학습할 궤적을 결정하는 런타임 하네스는 고정돼 있었습니다. HELIX는 지금 모델에 맞는 하네스를 만들고, 검증된 형제(sibling) 궤적으로 모델을 업데이트하고, 바뀐 능력에 맞춰 하네스를 다시 짓는 루프를 돌립니다. 에이전트를 타입이 명시된 포트·atom·recipe로 분해해 개입을 감사 가능하게 만든 점이 핵심입니다. 코드 수리에서 기준 대비 커버리지 +4.0%, 65개 후보 전체로는 검증 커버리지가 최대 +58.0% 늘었습니다.

💡형제 궤적 슬라이스에서 438건의 검증된 학습 레코드가 자동으로 나왔습니다. 사람이 라벨링하지 않고 다음 라운드 학습 신호를 얻는 경로를 실증한 셈입니다.

원문 →#self-improvement#agent#harness#meta-learning#code-repair

에이전트 스킬의 정체는 절차 앵커 — 스킬풀 100개면 검색이 무너진다

스킬은 파인튜닝 없이 에이전트를 새 도메인에 적응시키는 사실상 표준이 됐지만, 평가가 총합 성공률에 머물러 왜 되는지와 언제 깨지는지는 밝혀지지 않았습니다. 연구진은 8,135건의 시행 레코드와 238개 검증 라벨로 표현 효과·검색 난이도·프레임워크 견고성을 나눠 측정했습니다. 스킬 적용 사례의 65.7%는 노이즈 많은 궤적에서 실행을 안정시키는 절차적 앵커였고, 명시적 지식 주입은 4.5%에 그쳤습니다. 스킬 풀을 5→100개로 키우면 검색 정밀도는 29.6%→3.3%로 무너졌습니다.

💡스킬 라이브러리를 무작정 늘리는 운영 관행에 대한 경고입니다. 병목은 스킬 품질이 아니라 검색 단계였으니, 개수를 늘리기 전에 검색부터 손봐야 합니다.

원문 →#agent-skills#in-context-learning#retrieval#evaluation#llm-agent

이 호가 도움됐다면 공유해 주세요 — 빌더 한 명이 더 알게 됩니다.

📤 공유하기𝕏 @in f 💬✈B ✉