DeepSeek 开源 DeepInfer 了,普通人能自己跑满血推理吗?硬件门槛和缺什么组件(2026-10)
直接回答
DeepSeek 2026-10-20 开源了支撑线上服务的推理框架 DeepInfer,并同步开源 deepseek-recipe。官方仓库写死硬件:NVIDIA SM100 与华为昇腾 950;完整在线服务还缺 KV cache、Prefill/Decode 分离、跨副本负载均衡。媒体披露的「每卡每小时 38 美元」「单集群日吞吐 155 万亿 Token」是他们自己线上账本,不是你按这个价能租到卡。个人和小团队继续用官方 API,Agent 放 2核2G~4核4G 的云服务器;只有手里有 SM100 或昇腾 950、还要自己补齐中间件的团队,才值得碰 DeepInfer。核对于 2026-10-23。
快速推荐:按你的情况选
99 元/年,新老用户同价,续费同价锁到 2029-03-31,限购 1 台(我们 2026-10-20 核对)。跑一个只调 API 的 Agent 够用。
活动页写新用户首年 109 元,每个实名主体限 1 台,续费按官网价(我们 2026-10-23 核对)。
活动页写「轻量服务器+Token Plan组合购,68元起」(我们 2026-10-23 核对)。
价格核对于 2026-10-23,活动价和库存随时变,下单前以官方页面为准。带 ↗ 的按钮是推广链接,价格不变。
本文怎么来的:事件与数字来自 第一财经 2026-10-20 报道、第一财经简讯、IT之家 2026-10-20、财新周报 2026-10-23,以及 DeepInfer 官方仓库 README 与 deepseek-recipe 仓库。云服务器价格引用我们已有页面,核对日期写在旁边。全部核对于 2026-10-23。我们与 DeepSeek 无关,也没有 SM100 / 昇腾 950 实测。
一张卡一小时 38 美元。
这是 DeepSeek 自己披露的线上推理收入,不是你能去租卡的挂牌价。同一天他们把内部推理框架 DeepInfer 开源了。第一财经评论区有人喊「真正的 OpenAI」——我把仓库 README 翻完,就一句话:开源了,普通人照样跑不了满血推理。
DeepSeek 开源的 DeepInfer 到底是什么?
支撑他们线上高吞吐、低延迟服务的那一层中间件。模型划定上限,算力花多少、延迟快不快,基本看框架。
2026-10-20,DeepSeek 宣布:在已开源模型、TileLang、推理算子库之后,把内部框架 DeepInfer 全面开源;同步开源 deepseek-recipe(生产级 Token 编解码,和官方 API 处理逻辑对齐)。IT之家、第一财经、财新都报了。仓库写目前支持 DeepSeek-V4.1-Flash,许可证 Apache 2.0。
我打开官方仓库 README(核对于 2026-10-23)。上面列了 FlashMLA、DeepGEMM、DeepEP、推测解码、SWA Bounded Replay、结构化输出。再往下两段,硬件和支持边界写死了。
自己部署 DeepInfer 要什么硬件?
NVIDIA SM100,或者华为昇腾 950。
仓库 Supported hardware 就这两行。没有消费级显卡,也没有「普通云主机也能跑」的口子。

构建前置同样写死:Linux、GCC ≥ 13、Python 3.12;NVIDIA 侧要 CUDA 13,昇腾侧要 CANN 9.2。性能基准图说明 Prefill 测在 4 张 SM100 上,Decode 测在 64 张上,都在同一 scale-up 域内。
财新补了一句:框架兼容英伟达 GPU 和华为昇腾 950,和仓库一致。我在两家云的活动页上没找到可公开核对的 SM100 / 昇腾 950 挂牌租价,所以本文不写「租一张要多少钱」。
开源了为什么还搭不出完整在线服务?
仓库自己划了交付边界:这次放出离线推理,跑大规模服务要用的几样核心件也一起给了;完整在线服务还要你自己补三样。官方 README 写的是:KV cache 系统;VE / Prefill / Decode 分离(引擎侧多数功能已实现);Prefill 与 Decode 两侧、跨数据并行副本的负载均衡。第一财经同一天的报道也写了这三条,和仓库对得上。
clone 下来,最多先摸到离线推理。要做成别人能打过来的在线 API,中间件、调度、运维都得自己填。deepseek-recipe 只对齐请求格式和编解码;卡从哪来、KV、负载均衡,都不归它管。
那「38 美元」「155 万亿 Token」怎么读?
当他们自己的线上账本读,别当成你的成本表。
第一财经写:基于 DeepInfer,团队已实现 V4.1 Flash 的大规模推理服务;单一集群服务吞吐 155 万亿 Tokens/天,整体收入是每卡每小时 38 美元(按谷价)。财新周报 10-23 复述了同一组数:单集群日均处理 155 万亿 Token,按谷时电价计算每 GPU 小时收入约 38 美元。
电费按谷价估的,卡也是他们自家集群的。这笔账跟你能租到的卡本来就两回事,数字原报道就是美元,我没换算。说白了就两样:手里有没有 SM100 / 昇腾 950,那三块中间件有没有人替你补。多数人两样都占不上。
个人和小团队现在怎么用 DeepSeek 推理?
别为了「开源了」去碰 DeepInfer。模型走官方 API,Agent 放便宜云服务器就行。

Agent 程序本身很轻,吃资源的是模型和向量库。Hermes 官方 Docker 文档写最低 1 核 1 GB、推荐 2 核 2–4 GB。我们已有页的结论:只调 API,2核2G 到 2核4G 够用;加向量库按 4核8G 起。详见 部署 AI Agent 要什么配置(2026-10-19)。

价格沿用已核对过的活动价(2026-10-23 再核):
| 用途 | 配置 | 价格 | 入口(推广链接) | 来源 |
|---|---|---|---|---|
| 只调 API,长期锁价 | 阿里云 ECS 经济型 e 实例 2核2G | 99 元/年,续费同价到 2029-03-31 | 阿里云云小站(推广链接) | 99 计划页 |
| 新用户 4 核跑 Agent | 腾讯云轻量 4核4G3M | 首年 109 元,限 1 台 | 腾讯云双11·Agent 活动(推广链接) | 轻量特惠页 |
| 先试一个月带镜像 | 阿里云轻量 + Token Plan 组合 | 「68元起」 | 阿里云 AI Agent 部署活动(推广链接) | 部署活动页 |
云服务器价核对于 2026-10-23。活动规则、续费以各页为准。两家怎么选见 阿里云和腾讯云怎么选,双 11 前后还有哪些卡见 2026 双 11 云服务器怎么买。OpenClaw、Hermes 的部署步骤分别见 OpenClaw 部署 和 Hermes 部署配置。
什么人值得碰 DeepInfer?
研究离线推理、对标官方吞吐曲线,可以 clone 下来读。真要上生产,得是手里已经有 NVIDIA SM100 或华为昇腾 950、还准备自己补 KV cache、PD 分离和跨副本负载均衡的团队。个人开发者、学生、只想挂个 Bot 的小团队——时间花在 API Key 管理和 Agent 调度上更划算。仓库星再多,也改不了 Supported hardware 那两行字。
我没有 SM100,这篇也就停在「打开仓库对过字」这一步。你要是真有卡,先按 README 把离线推理跑通,再单独估中间件工期;别一上来就按 38 美元那行账去算自己的回本。
信息来源
- DeepInfer 官方仓库 README,核对于 2026-10-23
- deepseek-recipe 官方仓库,核对于 2026-10-23
- 第一财经:一张卡每小时收入38美元!DeepSeek开源推理框架并披露账本,2026-10-20
- 第一财经:DeepSeek:进一步将内部推理框架DeepInfer全面开源,2026-10-20
- IT之家:DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,2026-10-20
- 财新周报:DeepSeek开源DeepInfer推理框架,2026-10-23
- 云服务器价格与 Agent 配置:站内 部署 AI Agent 要什么配置、双 11 云服务器,核对日期见各页
常见问题
DeepInfer 开源了,我能在普通云服务器上跑吗?
按官方仓库 2026-10-23 的说明,不行。Supported hardware 只列了 NVIDIA SM100 与华为昇腾 950,没有消费级显卡或普通 CPU 云主机。
DeepSeek 披露的每卡每小时 38 美元是什么意思?
第一财经和财新都写:按谷价电费估算,DeepSeek 自己线上服务的每 GPU 小时收入约 38 美元。这是他们的收入账本,不是你能租到 SM100 的挂牌价。核对于 2026-10-23。
deepseek-recipe 是什么?
IT之家和官方仓库写:同步开源的生产级 Token 编解码组件,用来把多种 API 请求格式对齐成 DeepSeek 模型侧的对话与 prompt。它不替代推理引擎,也不降低硬件门槛。
没有 SM100,个人想用 DeepSeek 跑 Agent 怎么办?
模型走官方 API,服务器只跑 Agent。Hermes 官方推荐 2 核、2–4 GB;阿里云 ECS 经济型 e 实例 2核2G 99 元/年,腾讯云轻量 4核4G3M 新用户首年 109 元。详见站内 Agent 配置页。价格核对于 2026-10-23。
开源仓库缺的三样组件是什么?
官方 README 原文:KV cache 系统;VE/Prefill/Decode 分离(引擎侧多数功能已实现);Prefill 与 Decode 两侧跨数据并行副本的负载均衡。第一财经也写了同样的交付边界。
本文要点
- DeepSeek 2026-10-20 开源了支撑线上服务的推理框架 DeepInfer,并同步开源 deepseek-recipe。
- 官方仓库写死硬件:NVIDIA SM100 与华为昇腾 950;完整在线服务还缺 KV cache、Prefill/Decode 分离、跨副本负载均衡。
- 媒体披露的「每卡每小时 38 美元」「单集群日吞吐 155 万亿 Token」是他们自己线上账本,不是你按这个价能租到卡。
信息来源阿里云 99 计划页 · 腾讯云轻量特惠页 · 阿里云 OpenClaw/Hermes 部署页 · 第一财经 2026-10-20 报道
最后更新 · 价格核对 2026-10-23
引用本文DeepSeek 开源 DeepInfer 了,普通人能自己跑满血推理吗?硬件门槛和缺什么组件(2026-10) — https://www.agentcomm.net/zh/deepseek-deepinfer-self-host-cloud/