8月17日零点，DeepSeek新价格正式生效。
V4 Pro高峰时段输出：6元→27元/百万Token，涨350%；缓存命中输入：0.025元→0.3元，涨了12倍。峰谷定价把一天切成“贵时”和“闲时”，高峰用不起，空闲才半价。那个曾经把API打到白菜价的“价格屠夫”，从被尊为“梁圣”的梁文锋，变成了不少人嘴里的“梁子”，更被戏称为“梁文谷”——贵到只能望“谷”兴叹。

同一周，阿里开源了Qwen3-8B-27B（以下简称Qwen3.8-27B）。全球社区都在问同一个问题：能不能用家里的消费级显卡部署这个模型，实现Token自由？一句“Qwen 3.8 is having a DeepSeek moment”刷屏，背后是普通人被涨价逼出来的执念。

先看模型本身有多强。参数规模27B，性能指标却追平了旗舰级。第三方榜单Artificial Analysis给出52分，追平DeepSeek V4 Flash（284B参数），超过所有40B-150B的中型模型。核心在于test time scaling：靠更长的思考链换更强表现。横轴是参数规模（对数刻度），纵轴是智能得分，Qwen3.8-27B卡在了一个异常位置——用最小的参数量达到了旗舰级性能。同分数的GLM-5.2，参数量是它的几十倍。这就是社区疯传的“甜点位”。

更关键的是成本效率。在Artificial Analysis的代理任务成本效率对标图中，Qwen3.8-27B正好卡在帕累托前沿——同等成本下得分最高，同等得分下成本最低。每个任务约0.5美元成本、51分得分。往上跳一级：GLM-5.3 Max要1.5美元/task才能到59分，Grok-4.6要2美元，GPT-5.6 Sol要3美元。每多得1分，成本几乎翻倍。用消费级显卡本地部署27B，你拿到的不只是一个“能用”的模型，而是成本效率帕累托前沿上的模型，和DeepSeek V4 Flash、V4 Pro一起，代表了当前AI推理最有效率的一条线。

怎么把这27B塞进消费级显卡？社区方案（主要基于syv-ai仓库）很直接：取W4A16量化权重，二次量化lm_head、embed_tokens和MTP草案模块到int8/int4，配合vLLM补丁，把模型、草案和KV cache控制在单卡24GB内。实测中，模型加KV cache共占约22.3GB，可跑64K上下文。

速度跃升的核心是投机解码。让一个轻量“草案器”先猜接下来若干个token，主模型一次性验证这批猜测。猜对的采纳，猜错的重来。验证一批token的成本远低于逐个生成，且输出分布与不投机时完全一致——速度收益不以改变输出为代价。实测阶梯清晰：不开投机（基线）46 tok/s；加MTP草案头优化118 tok/s；加DFlash2块草案器132 tok/s；加上下文lookup起草133 tok/s（聊天提示词）；验证块扩到16 token，在25K文档复现场景下冲到381 tok/s。381这个数字需要说清：DFlash2训练时每次只提7个草案，但验证块不必与草案数对齐。如果模型回答大量引用prompt里的文档（RAG问答、改写、代码助手），剩余验证位置可以用上下文出现的token直接填充——这些“草案”零成本，命中率极高。在25K文档复现上，每个验证步平均接受15/16个token，速度从260→382 tok/s。普通聊天提示词下，同一套配置约133 tok/s。

独立开发者hankin在另一台机器、另一张3090上复现了这套方案，用10个写作提示词做严格A/B测试：MTP关闭时52.7 tok/s，开启后120.0 tok/s，提升2.28倍，首token延迟几乎无变化。这个加速倍数可重现。质量代价呢？hankin用这套权重+vLLM 0.27.1+MTP配置测试：HumanEval（164题，思考关）92.7%；IFEval可验证子集（40题，思考关）80.0%；GSM8K（60题，思考开）91.7%。已测试范围内，未观察到明显基础能力退化。但这不等于“证明无损”——长链条代码重构、小语言、多模态等未测任务区间，无法保证。

体验层面，显存门槛很清晰：24GB（RTX 3090/4090/5090）体验富余，模型+KV cache 22.3GB，可跑64K上下文，单流120+tok/s；16GB（RTX 5080/5070Ti）能跑，上下文受限，日常对话/代码编辑没问题；12GB（RTX 4070 Ti）勉强，Q3量化约14.4GB，体验打折明显；Mac M5 Max实测40+tok/s，表现可观。这周“4090能部署什么大模型”“小显存部署大模型”成热搜，问这些的已不是极客，是被DeepSeek涨价困扰的开发者。

真实能干什么？Reddit本月高赞帖（799赞）：单张3090，普通量化版。给模型一个凭证和大学名，它自己穿过层层校园网站拉出课表——零人工干预，执行了80次工具调用。还有人让它自己下载视频、抽帧“看”内容、装Whisper跑转录。X上“stopped paying for AI coding today”的帖子多了起来——停掉AI编程订阅，不是概念验证，是已经在跑的实际工作流。

但边界清晰。第一，并发上限是硬的：服务最大序列数8，1路聚合94.8 tok/s，8路180.4 tok/s，16路还是180.4 tok/s，但首token等待从5.0秒涨到11.4秒。建议把活跃推理并发控制在8以内，等待队列放在服务外部。第二，长上下文首token成本不能忽略：Prefill速度约1000 tok/s，TTFT随输入长度线性上涨，128 token输入0.61秒，32K输入29秒，60K输入59秒，64K直接返回HTTP 400（服务不崩）。64K不是“不能跑”，而是要接受长文档场景近一分钟的首响应时间。提示词压缩、分块检索、前缀缓存，比盲目塞满64K重要。第三，Prefix caching的收益被严重低估：同一份25K文档的第二次提问，首token时间从22.4秒降到0.56秒，答案逐token不变。对“加载一次文档、反复提问”的场景（RAG、代码助手），这个收益比吞吐数字更直接决定体验。

真正的坑是思考档位“不肯收尾”。Qwen3.8默认开启思考模式，且reasoning_effort默认是xhigh。hankin观察到：模型持续推理，但迟迟不给最终答案。12K输出预算下，GPQA-Diamond总准确率55%，43%的题打满预算没有最终答案；AIME 2026总准确率43.3%，57%的题没有在预算内结束。放宽到24K，两项分别回升到72%和60%——但仍有24%和37%的题不收敛。定性来看，这些“未完成”大多不是重复死循环，模型仍在换元、验证、分类讨论——推理过程健康，只是不肯进入收尾阶段。对已经收敛的题，GPQA-D和AIME的条件准确率分别是93.4%和94.7%。模型会做，但它不交卷。调低思考档位呢？hankin做了15题的探索性配对（5道GSM8K、5道GPQA、5道AIME，每题分别跑xhigh和medium）：xhigh准确率73.3%，输出token中位数3599；medium准确率93.3%，输出token中位数1457。Medium成本不到xhigh一半，准确率反而更高。样本虽小（每题每档只采样一次），但指向很实用：默认xhigh未必是更好的默认值，medium作为试运行起点，性价比大概率更高。

对开发者，三类人适合入场：一是重度用户，每天跑编程agent、批量文档、自动化流水线，API月账单上千，一块二手24GB卡几个月回本，本地部署是把成本从不可控变成可控；二是隐私刚需，公司数据不能出门、内部代码不能上云，开源27B是唯一够得着的“旗舰平替”；三是喜欢折腾的，这周社区有人提交240K上下文优化、移植到AMD和华为NPU，部署本身就是价值。两类人建议冷静：一是轻度用户，偶尔写文案、问问题，涨价后一年多花的钱，可能不够一张3090的一半；二是想“一劳永逸”的，硬件会过时、模型月月换代，买卡买的是当下，不是永久。V2EX四月就有人提醒：“两个月后出了40-60B新模型，你的硬件就跑不动了。”

拼卡有陷阱：低预算方案体验可能差一个量级。有用户为省钱用双RTX 5060 Ti 16G凑显存跑27B，实测只有23 tok/s，原因是位宽太小+双卡通讯损耗。显存够不等于体验好——位宽、通讯带宽、单卡vs双卡，都会让同一个模型在不同硬件上差出一个量级。成本结构也需清醒：微调验证用本地卡，真正的线上推理，买卡的经济性普遍不划算。DGX Spark两台一年亏3万；单卡5090跑满24小时一年赚3万（批发模式，不等于自用）。混合策略更有戏：日常轻量用API，重活、私事、自动化放本地。Token自由的本质不是零成本，而是多一个选项。

投入前，建议按这份清单检查：思考请求默认reasoning_effort=medium，最难的任务允许一次受控重试；活跃并发不超过8，队列留在应用层；长文档优先检索和压缩，别把64K当免费容量；区分负载类型：贪心写作、采样思考、长上下文，不要用一个吞吐数字代表所有场景；把当前部署视为“功能候选”，而不是通过长期稳定性验收的生产版本。

速度的军备竞赛已经打到381 tok/s，消费级显卡部署大模型已从“能不能”进入“好不好”的中段。这套方案对普通用户仍非开箱即用——模型下载、再量化、打补丁、Docker或venv，一条都不少。但对愿意折腾的人，一张二手老旗舰加上一个Apache-2.0的仓库，此刻能换来的本地推理体验，在一年前是不可想象的。务实的姿势是：日常轻量用API，重活、私事、自动化放本地。Token自由的本质不是零成本，而是多一个选项。