DeepSeek 开源 DeepInfer 了,普通人能自己跑满血推理吗?硬件门槛和缺什么组件(2026-10)

更新 · 价格核对 · 约 5 分钟

本文不含推广链接 · 披露说明 · 资料怎么整理

直接回答

DeepSeek 2026-10-20 开源了支撑线上服务的推理框架 DeepInfer,并同步开源 deepseek-recipe。官方仓库写死硬件:NVIDIA SM100 与华为昇腾 950;完整在线服务还缺 KV cache、Prefill/Decode 分离、跨副本负载均衡。媒体披露的「每卡每小时 38 美元」「单集群日吞吐 155 万亿 Token」是他们自己线上账本,不是你按这个价能租到卡。个人和小团队继续用官方 API,Agent 放 2核2G~4核4G 的云服务器;只有手里有 SM100 或昇腾 950、还要自己补齐中间件的团队,才值得碰 DeepInfer。核对于 2026-10-23。

快速推荐:按你的情况选

只调 DeepSeek 等模型 API,想长期便宜阿里云 ECS 经济型 e 实例 2核2G

99 元/年,新老用户同价,续费同价锁到 2029-03-31,限购 1 台(我们 2026-10-20 核对)。跑一个只调 API 的 Agent 够用。

新用户,想要 4 核跑 OpenClaw / Hermes腾讯云轻量应用服务器 4核4G3M

活动页写新用户首年 109 元,每个实名主体限 1 台,续费按官网价(我们 2026-10-23 核对)。

想先花几十块试一个月带镜像的 Agent阿里云轻量 OpenClaw/Hermes 镜像 + Token Plan

活动页写「轻量服务器+Token Plan组合购,68元起」(我们 2026-10-23 核对)。

价格核对于 2026-10-23,活动价和库存随时变,下单前以官方页面为准。带 ↗ 的按钮是推广链接,价格不变。

本文怎么来的:事件与数字来自 第一财经 2026-10-20 报道、第一财经简讯、IT之家 2026-10-20、财新周报 2026-10-23,以及 DeepInfer 官方仓库 README 与 deepseek-recipe 仓库。云服务器价格引用我们已有页面,核对日期写在旁边。全部核对于 2026-10-23。我们与 DeepSeek 无关,也没有 SM100 / 昇腾 950 实测。

一张卡一小时 38 美元。

这是 DeepSeek 自己披露的线上推理收入,不是你能去租卡的挂牌价。同一天他们把内部推理框架 DeepInfer 开源了。第一财经评论区有人喊「真正的 OpenAI」——我把仓库 README 翻完,就一句话:开源了,普通人照样跑不了满血推理。

DeepSeek 开源的 DeepInfer 到底是什么?

支撑他们线上高吞吐、低延迟服务的那一层中间件。模型划定上限,算力花多少、延迟快不快,基本看框架。

2026-10-20,DeepSeek 宣布:在已开源模型、TileLang、推理算子库之后,把内部框架 DeepInfer 全面开源;同步开源 deepseek-recipe(生产级 Token 编解码,和官方 API 处理逻辑对齐)。IT之家、第一财经、财新都报了。仓库写目前支持 DeepSeek-V4.1-Flash,许可证 Apache 2.0。

我打开官方仓库 README(核对于 2026-10-23)。上面列了 FlashMLA、DeepGEMM、DeepEP、推测解码、SWA Bounded Replay、结构化输出。再往下两段,硬件和支持边界写死了。

自己部署 DeepInfer 要什么硬件?

NVIDIA SM100,或者华为昇腾 950。

仓库 Supported hardware 就这两行。没有消费级显卡,也没有「普通云主机也能跑」的口子。

DeepInfer 官方交付边界:硬件限 NVIDIA SM100 与华为昇腾 950;已开源离线推理与大规模服务核心能力;完整在线服务还缺 KV cache、Prefill/Decode 分离、跨副本负载均衡
按 DeepInfer 官方 README 整理,核对于 2026-10-23(agentcomm.net 自制)

构建前置同样写死:Linux、GCC ≥ 13、Python 3.12;NVIDIA 侧要 CUDA 13,昇腾侧要 CANN 9.2。性能基准图说明 Prefill 测在 4 张 SM100 上,Decode 测在 64 张上,都在同一 scale-up 域内。

财新补了一句:框架兼容英伟达 GPU 和华为昇腾 950,和仓库一致。我在两家云的活动页上没找到可公开核对的 SM100 / 昇腾 950 挂牌租价,所以本文不写「租一张要多少钱」。

开源了为什么还搭不出完整在线服务?

仓库自己划了交付边界:这次放出离线推理,跑大规模服务要用的几样核心件也一起给了;完整在线服务还要你自己补三样。官方 README 写的是:KV cache 系统;VE / Prefill / Decode 分离(引擎侧多数功能已实现);Prefill 与 Decode 两侧、跨数据并行副本的负载均衡。第一财经同一天的报道也写了这三条,和仓库对得上。

clone 下来,最多先摸到离线推理。要做成别人能打过来的在线 API,中间件、调度、运维都得自己填。deepseek-recipe 只对齐请求格式和编解码;卡从哪来、KV、负载均衡,都不归它管。

那「38 美元」「155 万亿 Token」怎么读?

当他们自己的线上账本读,别当成你的成本表。

第一财经写:基于 DeepInfer,团队已实现 V4.1 Flash 的大规模推理服务;单一集群服务吞吐 155 万亿 Tokens/天,整体收入是每卡每小时 38 美元(按谷价)。财新周报 10-23 复述了同一组数:单集群日均处理 155 万亿 Token,按谷时电价计算每 GPU 小时收入约 38 美元。

电费按谷价估的,卡也是他们自家集群的。这笔账跟你能租到的卡本来就两回事,数字原报道就是美元,我没换算。说白了就两样:手里有没有 SM100 / 昇腾 950,那三块中间件有没有人替你补。多数人两样都占不上。

个人和小团队现在怎么用 DeepSeek 推理?

别为了「开源了」去碰 DeepInfer。模型走官方 API,Agent 放便宜云服务器就行。

要不要碰 DeepInfer 的决策:有 SM100 或昇腾 950 且能自补中间件再读仓库;否则用官方 API + 2核2G 到 4核4G 云服务器跑 Agent
按官方硬件与交付边界整理的分流,核对于 2026-10-23(agentcomm.net 自制)

Agent 程序本身很轻,吃资源的是模型和向量库。Hermes 官方 Docker 文档写最低 1 核 1 GB、推荐 2 核 2–4 GB。我们已有页的结论:只调 API,2核2G 到 2核4G 够用;加向量库按 4核8G 起。详见 部署 AI Agent 要什么配置(2026-10-19)。

官方 API 加普通云服务器适合个人小团队;自建 DeepInfer 需要 SM100 或昇腾 950 并自补 KV cache、PD 分离与跨副本负载均衡
两条路径对比,云服务器价核对于 2026-10-23(agentcomm.net 自制)

价格沿用已核对过的活动价(2026-10-23 再核):

用途 配置 价格 入口(推广链接) 来源
只调 API,长期锁价 阿里云 ECS 经济型 e 实例 2核2G 99 元/年,续费同价到 2029-03-31 阿里云云小站(推广链接) 99 计划页
新用户 4 核跑 Agent 腾讯云轻量 4核4G3M 首年 109 元,限 1 台 腾讯云双11·Agent 活动(推广链接) 轻量特惠页
先试一个月带镜像 阿里云轻量 + Token Plan 组合 「68元起」 阿里云 AI Agent 部署活动(推广链接) 部署活动页

云服务器价核对于 2026-10-23。活动规则、续费以各页为准。两家怎么选见 阿里云和腾讯云怎么选,双 11 前后还有哪些卡见 2026 双 11 云服务器怎么买。OpenClaw、Hermes 的部署步骤分别见 OpenClaw 部署 和 Hermes 部署配置。

什么人值得碰 DeepInfer?

研究离线推理、对标官方吞吐曲线,可以 clone 下来读。真要上生产,得是手里已经有 NVIDIA SM100 或华为昇腾 950、还准备自己补 KV cache、PD 分离和跨副本负载均衡的团队。个人开发者、学生、只想挂个 Bot 的小团队——时间花在 API Key 管理和 Agent 调度上更划算。仓库星再多,也改不了 Supported hardware 那两行字。

我没有 SM100,这篇也就停在「打开仓库对过字」这一步。你要是真有卡,先按 README 把离线推理跑通,再单独估中间件工期;别一上来就按 38 美元那行账去算自己的回本。

信息来源

常见问题

DeepInfer 开源了,我能在普通云服务器上跑吗?

按官方仓库 2026-10-23 的说明,不行。Supported hardware 只列了 NVIDIA SM100 与华为昇腾 950,没有消费级显卡或普通 CPU 云主机。

DeepSeek 披露的每卡每小时 38 美元是什么意思?

第一财经和财新都写:按谷价电费估算,DeepSeek 自己线上服务的每 GPU 小时收入约 38 美元。这是他们的收入账本,不是你能租到 SM100 的挂牌价。核对于 2026-10-23。

deepseek-recipe 是什么?

IT之家和官方仓库写:同步开源的生产级 Token 编解码组件,用来把多种 API 请求格式对齐成 DeepSeek 模型侧的对话与 prompt。它不替代推理引擎,也不降低硬件门槛。

没有 SM100,个人想用 DeepSeek 跑 Agent 怎么办?

模型走官方 API,服务器只跑 Agent。Hermes 官方推荐 2 核、2–4 GB;阿里云 ECS 经济型 e 实例 2核2G 99 元/年,腾讯云轻量 4核4G3M 新用户首年 109 元。详见站内 Agent 配置页。价格核对于 2026-10-23。

开源仓库缺的三样组件是什么?

官方 README 原文:KV cache 系统;VE/Prefill/Decode 分离(引擎侧多数功能已实现);Prefill 与 Decode 两侧跨数据并行副本的负载均衡。第一财经也写了同样的交付边界。

本文要点

  • DeepSeek 2026-10-20 开源了支撑线上服务的推理框架 DeepInfer,并同步开源 deepseek-recipe。
  • 官方仓库写死硬件:NVIDIA SM100 与华为昇腾 950;完整在线服务还缺 KV cache、Prefill/Decode 分离、跨副本负载均衡。
  • 媒体披露的「每卡每小时 38 美元」「单集群日吞吐 155 万亿 Token」是他们自己线上账本,不是你按这个价能租到卡。

信息来源阿里云 99 计划页 · 腾讯云轻量特惠页 · 阿里云 OpenClaw/Hermes 部署页 · 第一财经 2026-10-20 报道

最后更新 · 价格核对 2026-10-23

引用本文DeepSeek 开源 DeepInfer 了,普通人能自己跑满血推理吗?硬件门槛和缺什么组件(2026-10) — https://www.agentcomm.net/zh/deepseek-deepinfer-self-host-cloud/