跳到正文
热点事件持续更新

DeepSeek 以 Apache 2.0 开源基于 vLLM 的推理框架 DeepInfer

2 篇报道2 个报道来源12 小时前更新

先了解这件事

AI 综述

DeepSeek 以 Apache License 2.0 开源其内部推理框架 DeepInfer，并发布 Token 编解码组件 deepseek-recipe。DeepInfer 基于 vLLM 构建，通过计算内核优化、多芯片分布式处理和更快的文本生成技术，支撑 V4.1-Flash 模型的快速规模化推理；deepseek-recipe 用于复现官方 API 的 token 处理方式，使自托管部署与官方 API 行为一致。两个组件兼容 NVIDIA 与华为昇腾平台。 公司称开源目标是降低社区的计算成本和能耗。其披露的运行数据为：基于该框架的 V4.1-Flash 单集群每日吞吐量达 155 万亿 Tokens，按非高峰电价计算每卡每小时收入 38 美元；材料未提供独立的性能或成本验证。 由于 KVCache 管理和负载均衡部分与内部基础设施深度耦合，相关代码目前未完全开源。

AI 根据报道生成 · 9 小时前更新

最新进展10月21日 02:56
DeepSeek开源V4.1-Flash推理框架DeepInfer

报道时间线

沿着报道，了解事件的不同侧面。

10月21日
  1. The Decoder
    DeepSeek开源V4.1-Flash推理框架DeepInfer

    DeepSeek以Apache License 2.0开源内部推理框架DeepInfer，该框架基于vLLM，通过计算内核优化、多芯片分布式处理和更快的文本生成技术支撑V4.1-Flash的快速规模化推理。DeepSeek还发布deepseek-recipe，用于复现官方DeepSeek API的token处理方式；公司目标是降低社区的计算成本和能耗，但材料未提供独立性能或成本验证。

10月20日
  1. 36Kr Europe · English
    DeepSeek 开源 DeepInfer 推理框架及 deepseek-recipe Token 编解码组件

    DeepSeek 开源了推理框架 DeepInfer 和生产级 Token 编解码组件 deepseek-recipe，两者兼容 NVIDIA 与华为昇腾平台；基于该框架的 DeepSeek V4.1 Flash 单集群服务披露每日吞吐量为 155 万亿 Tokens，按非高峰电价计算每卡每小时收入为 38 美元。

本事件热度走势

可比范围当前
12
可比范围峰值
1510月21日 04:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。