vibecamp ai model · #12 · 2026-08-07

vibecamp ai model 2026-08-07 — 후보를 절반으로 줄이고도 탐색 품질 99%를 지킨 액티브러닝

2026-08-07 AI 모델 일간 호 — 오늘 8개 카드를 정리했습니다.

8개 카드 · 적은 예제로 스스로 깨우치는 학습법 일간

🎯

퓨샷 학습

퓨샷 예시는 비슷한 것 말고 '틀리기 쉬운 것'을 넣습니다

인컨텍스트 학습에서 예시를 고를 때 대부분 질의와 유사도가 높은 상위 몇 개를 넣습니다. 앨버타대 연구팀은 비슷한 예시가 모델이 이미 하려던 답을 강화할 뿐이라고 보고, 결정 경계에 놓인 '엣지 증거'를 뽑는 EdgeLM을 내놨습니다. 가까이 있지만 정답 라벨이 다른 데이터 엣지와, 비슷한데 배포된 모델이 과거에 틀렸던 모델 엣지를 함께 검색합니다. 재학습 없이 예시 선택 규칙만 바꿨는데 표 데이터 정제 5개 태스크·15개 데이터셋·LLM 5종 전 조합에서 최고 또는 준최고 성능을 냈습니다.

💡사내 RAG나 분류 파이프라인이 있다면 오답 로그를 버리지 말고 예시 풀에 되먹이는 것만으로 성능을 올릴 수 있습니다. 재학습 없이 검색 쿼리 한 줄부터 시작하면 됩니다.

원문 →#few-shot#in-context-learning#rag#arxiv

라벨 0건, 지침 70행만으로 학습시킨 전화 트리아지 에이전트

의료 대화 데이터는 전문가 주석 비용과 프라이버시 탓에 모으기가 거의 불가능합니다. 저자들은 미국안과학회(AAO) 지침을 70행짜리 운영 규칙 표로 압축한 뒤, 그 표를 정답 근거로 삼아 학습용 합성 대화를 자동 생성했습니다. 지침 한 줄을 대화 예제로 바꾸는 8가지 변환 전략도 카탈로그로 정리했습니다. 결과 모델은 운영 기준 일치율을 61.7%→74.1%로 올렸고(McNemar p=0.0046), 응급 케이스 재현율은 9.5%→69.0%로 뛰었으며 추론 시점에 프런티어 모델을 부르지 않습니다.

💡사내 규정이나 SOP 문서가 이미 있다면 라벨링 예산 0으로 도메인 에이전트를 만드는 레시피가 됩니다. 데이터를 새로 모으는 대신 이미 써둔 문서를 지도 신호로 돌려 쓰는 발상입니다.

원문 →#few-shot#synthetic-data#zero-annotation#arxiv

📚

커리큘럼 학습

단계를 잘게 쪼갤수록 단계별 학습은 줄여야 한다는 증명

커리큘럼 논의는 대개 '무엇을 먼저 시킬까'에서 멈추지만, 푸단대 연구팀은 '한 단계에 얼마나 오래 머물까'를 물었습니다. 답은 최적 단계별 학습시간이 단계 수에 반비례한다는 것 — 중간 단계를 두 배로 잘게 나누면 단계당 학습량은 절반으로 줄여야 합니다. 각 단계를 수렴까지 태우면 해가 그 단계의 부분공간에 갇히기 때문입니다. 회전 MNIST 지수는 0.84로 이론값 1.0과 맞았고, Yearbook 시계열에서는 단계를 4개→32개로 늘리자 단계당 최적 업데이트가 80회에서 5회로 줄었습니다.

💡파인튜닝을 여러 단계로 쪼개 돌리고 있다면, 단계를 늘리면서 단계마다 수렴까지 태우는 조합이 가장 나쁜 선택입니다. 쪼갠 만큼 각 단계는 덜 돌리는 편이 낫습니다.

원문 →#curriculum-learning#training#theory#arxiv

K-EXAONE 2.0이 공개한 커리큘럼 — 난이도 중심 mid-training

LG AI연구원이 K-EXAONE 2.0(750B MoE·활성 37B)의 학습 커리큘럼을 공개했습니다. 기존 236B를 확장·healing한 뒤 8조 토큰을 더 학습하고, 400B 토큰씩 두 페이즈로 컨텍스트를 64K에서 256K로 올리며 난이도도 같이 높입니다. mid-training 두 스테이지 기여분만으로 Humanity's Last Exam이 +5.66점 올랐고, OpenAI-MRCR은 52.3→94.4를 찍었습니다. SWE-Bench Verified는 전작 49.4에서 68.2입니다.

💡데이터를 더 붓는 대신 '어떤 난이도를 언제 먹일지'로 푼 사례입니다. 잘린 문서를 아무리 넣어도 롱컨텍스트는 늘지 않는다는 판단이 단계 배치에 그대로 반영됐습니다.

원문 →#curriculum-learning#llm#mid-training#moe

🪞

자가수정 학습

왕복하면 제자리로 — 정답 없이 스스로 채점하는 월드모델

인터랙티브 비디오 월드모델은 한 스텝의 오차가 다음 입력이 되며 눈덩이처럼 불어나는데, 긴 롤아웃에는 채점할 정답 프레임이 없습니다. 홍콩과기대·텐센트 계열 연구팀은 '되돌릴 수 있는 행동을 역행동과 이어 붙이면 예외 없이 처음 상태로 돌아온다'는 성질을 채점 기준으로 삼았습니다. 닫힌 행동 사이클을 만들어 정방향·역방향 대칭성 보상과 같은 행동 반복 시의 상태 정합 보상을 함께 최적화합니다. 논문에 따르면 상태 복귀 드리프트가 최대 44% 줄고 복합 행동 정확도는 약 4배로 올랐습니다.

💡사람 라벨이 없어도 '결과가 이래야만 한다'는 구조적 제약 하나만 찾아내면 자기 검증 신호를 만들 수 있습니다. 내 도메인에서 왕복 가능한 연산이 뭔지 떠올려 볼 만합니다.

원문 →#self-correction#world-model#reinforcement-learning#arxiv

🧪

액티브러닝

후보를 절반으로 줄이고도 탐색 품질 99%를 지킨 액티브러닝

소재 탐색처럼 후보 하나 평가에 시뮬레이션이 드는 문제에서는 '무엇을 평가할지 고르는 일' 자체가 비용입니다. 그리스 NCSR Demokritos 계열 연구팀은 액티브러닝(active learning)으로 탐색 공간을 먼저 줄인 뒤 다목적 베이지안 최적화를 돌리는 2단 프레임워크를 내놨습니다. 메탄·질소 분리용 COF 소재와 압력용기 설계 실험에서 후보 공간을 약 절반으로 줄이고도 원본 하이퍼볼륨의 99% 이상을 유지했습니다. 초기 수렴 속도와 누적 파레토 프론트 발견량도 함께 좋아졌습니다.

💡평가 예산이 빠듯한 프로젝트라면, 탐색 알고리즘을 바꾸기 전에 '무엇을 후보에 남길지' 걸러내는 층을 하나 두는 편이 비용을 더 크게 줄입니다.

원문 →#active-learning#bayesian-optimization#materials#arxiv

🔄

지속학습

새 공격을 계속 배우는 침입탐지, 리플레이 버퍼가 곧 새 공격면

고정 트래픽으로 학습한 침입탐지 모델은 배포 뒤 위협 분포가 바뀌면 조용히 무너집니다. 연구팀은 테이블형 트랜스포머에 클래스 균형 리플레이 버퍼를 붙여 매 업데이트마다 정상 트래픽을 함께 재생시켰습니다. CICIDS2017에서 정확도 0.9994, 더 가혹한 CII 설정에서도 0.9989를 기록해 순차 파인튜닝 0.0052·EWC 0.0324·LwF 0.0699·iCaRL 0.8770을 크게 앞섰습니다. 다만 1% 예산의 라벨 뒤집기로 버퍼를 오염시키자 정확도가 0.0053까지 무너졌습니다.

💡계속 학습하는 파이프라인을 만들 계획이라면, 망각을 막으려 쌓아둔 리플레이 버퍼가 곧 새로운 공격 표면이라는 점을 설계 단계에서 함께 다뤄야 합니다. 백도어는 전체 정확도 0.97을 유지한 채 통과했습니다.

원문 →#continual-learning#replay-buffer#security#arxiv

🧬

메타러닝

데이터는 각자 두고 '수정분'만 모아 진화하는 에이전트 하네스

에이전트의 실력은 가중치만이 아니라 컨텍스트 구성·툴 호출·검증·복구를 맡는 하네스(harness)에서도 나옵니다. 기존 진화 기법은 모든 실행 경험을 한곳에 모을 수 있다고 가정하는데, 정작 값진 경험일수록 조직 밖으로 나가지 못합니다. EvolveNet은 공유 하네스를 배포처마다 뿌려 자기 워크로드로 진화시킨 뒤, 원본 로그가 아니라 프로그램 수정분만 거둬 합쳐 재배포합니다. text-to-SQL부터 에이전틱 워크플로까지 5개 세팅에서 성능이 올랐고, 워크로드가 이질적일수록 이득이 컸습니다.

💡가중치를 못 건드리는 상황에서도 실행 프로그램 쪽 개선분은 주고받을 수 있다는 뜻입니다. 로그 공유가 막힌 조직 사이에도 운영 노하우를 물려주는 경로가 생깁니다.

원문 →#meta-learning#agent#harness#arxiv

이 호가 도움됐다면 공유해 주세요 — 빌더 한 명이 더 알게 됩니다.

📤 공유하기𝕏 @in f 💬✈B ✉