跳到正文
36Kr Europe · English·· 1 天前

DeepSeek 开源 DeepInfer 推理框架及 deepseek-recipe Token 编解码组件

DeepSeek has fully open-sourced its inference framework, which is compatible with NVIDIA and Huawei Ascend chips, supports a daily throughput of 155 trillion tokens on a single cluster, and generates a revenue of 38 USD per card per hour.

研究任务与主要进展

DeepSeek 开源了推理框架 DeepInfer 和生产级 Token 编解码组件 deepseek-recipe,两者兼容 NVIDIA 与华为昇腾平台;基于该框架的 DeepSeek V4.1 Flash 单集群服务披露每日吞吐量为 155 万亿 Tokens,按非高峰电价计算每卡每小时收入为 38 美元。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请阅读原文核验。

来源:36Kr Europe · English · eu.36kr.com