본문으로 건너뛰기
← 최신 피드
DeepSeek, 자사 서빙 추론 엔진 DeepInfer를 오픈소스로 공개
ai builder🛠 빌더 신호#91 · 2026. 10. 21.

DeepSeek, 자사 서빙 추론 엔진 DeepInfer를 오픈소스로 공개

DeepSeek이 자사 대규모 프로덕션 서비스를 돌리는 추론 프레임워크(inference framework) DeepInfer를 오픈소스로 공개했습니다. 이번 공개판은 오프라인 추론을 지원하며 DeepSeek-V4.1-Flash 모델과 NVIDIA SM100, 화웨이 Ascend 950을 대상으로 합니다. 배치 불변 추론과 결정적 샘플링(deterministic sampling)을 내세웠고, 공개 하루 만에 GitHub 스타 1.1만 개를 넘기며 Hacker News 1위에 올랐습니다.

같은 날 발행된 호 · 2026-10-21