尽管中国人工智慧（AI）公司月之暗面（Moonshot AI）近期推出的新一代大型语言模型 Kimi K3 采用线性注意力机制，引发市场对辉达 (NVDA-US) 、HBM 以及网路设备需求可能受到削弱的担忧，但半导体研究机构 SemiAnalysis 认为，K3 的庞大参数规模与独特的推理架构，反而可能让高阶 AI 硬体需求更加吃紧。

SemiAnalysis 指出，K3 庞大的参数规模与推理架构对算力需求极高，预计不仅不会压抑高阶 AI 硬体需求，反而有望带动辉达高阶 GPU、HBM 及高速互连解决方案的需求持续成长。

根据该机构的分析，K3 的参数量超过 2.8 兆，单是模型权重就需要超过 1.5TB 的 HBM 容量才能承载。

即便在使用者同时上线人数不算多的情况下，推理过程中产生的 KV 快取（KV cache）仍必须大量卸载至伺服器的 DDR5 记忆体与 NVMe 固态硬碟，显示 HBM 空间吃紧的情况并未因此缓解。

更值得留意的是，月之暗面先前已透露，若要让 K3 以高效率方式运作，至少需要 64 颗晶片组成的大规模扩展域架构，而这样的硬体规格，恰好与辉达 GB200、GB300 NVL72 等机架级 AI 伺服器的设计理念不谋而合。

SemiAnalysis 因此指出，外界原先认为线性注意力机制会削弱 GPU 需求的推论，恐怕搞错了方向。

真正的效应可能刚好相反，当模型推理效率提升、成本下降，将吸引更多企业与应用场景导入 AI，长期反而会拉升 GPU、HBM、DRAM 与网路基础设施的需求。

KDA 机制省下频宽 却被专家平行运算「吃回去」

市场的疑虑主要来自 K3 所采用的 Kimi Delta Attention（KDA）机制。相较于传统 Transformer 架构的注意力运算，KDA 能大幅减少 KV 快取传输所需的资料量，最多可将网路频宽压力降低约十倍。

这样的技术突破，让不少投资人联想到先前 DeepSeek R1 问世时，市场对 AI 硬体需求可能萎缩的恐慌情绪。

不过 SemiAnalysis 强调，这类看法忽略了大型模型推理过程中另一项关键变数，即参数规模本身所带来的运算与互联压力。

K3 超过 2.8 兆的参数量，代表模型部署必须仰赖大规模分散式运算系统才能完成。此外，K3 导入专为混合专家（MoE）模型设计的先进平行化运算技术 WideEP 策略，将 896 个专家模组分散部署至多颗 GPU 上，让单一 GPU 只需负责部分专家权重，借此提高运算效率。

然而 WideEP 也带来新的挑战，专家模组之间频繁的资料交换，需要更强大的网路互联能力来支撑。

SemiAnalysis 分析指出，辉达 GB200/GB300 NVL72 所采用的铜背板互联架构，机架内频宽可达传统 DGX B200 系统的 18 倍，恰好适合应付这类大规模专家平行推理任务。

换句话说，KDA 机制在 KV 快取传输上省下的频宽，很可能被 WideEP 架构所需的权重交换频宽给部分抵销，整体 AI 基础设施承受的压力并未真正减轻。

64 晶片扩展域非辉达独门生意 华为升腾也能分一杯羹

值得注意的是，并非所有业界人士都认同辉达将是唯一赢家。

半导体与 AI 行业分析专家 GDP 便指出，月之暗面所提及的「64 颗晶片扩展域」架构，并不必然等同于辉达的 NVL72 方案，华为升腾 950 SuperPod 同样采用 64 颗晶片的配置，且具备类似 NVLink 功能的统一总线记忆体扩展能力。

从架构延展性来看，升腾 950 SuperPod 甚至可跨越 16 个机架、扩展至 1024 颗 NPU，在因应大规模模型推理需求上同样具备一定竞争力。

这也代表，K3 所带动的硬体需求成长，未必会让辉达独享红利，但整体市场对高阶 AI 互联系统的需求强化趋势仍相当明确。

效率提升反而刺激需求 业界搬出「杰文斯悖论」

SemiAnalysis 进一步援引经济学上的「杰文斯悖论」（Jevons paradox）来解释这波 AI 基础设施发展趋势。该理论主张，当某项技术让资源使用效率提升、单位成本下降时，总体需求往往不减反增，原因在于应用范围会随之扩大。

套用在 AI 产业，线性注意力机制降低了推理成本后，可能促使更多企业着手部署 AI 应用，进而让全球 AI 推理规模持续扩张，最终带动 GPU、HBM、DRAM 及高速网路设备的需求同步成长。

不过，GDP 对此抱持较为保留的态度。他认同杰文斯悖论在长期趋势上的合理性，但也提醒，KDA 机制对于长上下文任务中的状态储存最佳化，确实具有实质效益。

他分析，即使 K3 模型权重规模庞大，但由于采用 4bit 量化与高度稀疏化设计，实际记忆体压力可能低于外界直觉认知。

GDP 认为，真正值得市场长期关注的变数，在于包括 OpenAI、Anthropic 与 Google(GOOGL-US) DeepMind 等全球推理需求最大的几家 AI 公司，是否已经或即将采用类似 KDA、DeepSeek CSA/HCA 等线性注意力方案。

他指出，一旦这些头部 AI 公司大规模导入此类架构，长上下文推理对记忆体与互联资源的需求可能明显下滑，这将成为左右未来 AI 硬体需求结构的关键因素。

分析人士指出，展望后市，产业界真正该追问的问题，或许不再是线性注意力机制能否降低单一环节的资源消耗，而是 AI 应用规模持续扩张所带来的新增需求，究竟能否长期跑赢架构效率提升所节省下来的资源缺口。