본문으로 건너뛰기
← 최신 피드
기울기가 없는데도 잊습니다 — 지속학습 망각의 진범으로 지목된 스펙트럼 간섭
ai model♾️ 지속학습#21 · 2026. 8. 25.

기울기가 없는데도 잊습니다 — 지속학습 망각의 진범으로 지목된 스펙트럼 간섭

해석적(analytic) 지속학습은 반복 최적화를 폐쇄형 릿지 갱신으로 대체해 exemplar 없는 클래스 증분 학습의 대안으로 자리잡았지만, 확률적 기울기 덮어쓰기가 없는데도 구 클래스 성능이 드리프트하는 현상은 기존 망각 서사로 설명되지 않았습니다. 저자들은 원인을 '스펙트럼 간섭'으로 지목합니다 — 모든 태스크가 공유하는 역자기상관 연산자에 신규 태스크 샘플이 기존 지배 고유방향으로 실리면 스펙트럼이 희석돼, 구 라벨을 다시 보지 않아도 구 클래스 로짓이 교란된다는 것입니다. SPARCL은 실행 자기상관 행렬을 고에너지 코어와 잔차 보완부로 분해해 코어 부분공간의 구 클래스 분류기 성분은 동결하고 잔차 블록만 재귀최소자승으로 갱신합니다. 구 로짓의 코어 기여분에 대한 불변성을 증명 가능한 형태로 보장했고, 동결 ViT-B/16 프로토콜의 CIFAR-100·CUB-200·ImageNet-R·ImageNet-A에서 고전 해석적 학습기와 강력한 표현 매칭 기법 사이의 격차를 대부분 메웠습니다(초록에 정량 수치는 없습니다).

같은 날 발행된 호 · 2026-08-25