DeepSeek全面开源核心推理框架DeepInfer，单卡月收入或超18万元

DeepSeek于10月20日宣布将内部推理框架DeepInfer全面开源，并同步开源生产级Token编解码组件，与官方API处理逻辑完整对齐。DeepInfer支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力，可在英伟达与华为昇腾平台运行，已支撑DeepSeek V4.1 Flash大规模推理服务。