辉达 (NVDA-US) 执行长黄仁勋日前受邀出席史丹佛大学课程「CS153：尖端系统」，与学生对谈运算产业的未来走向。他在演讲中抛出一个核心论点：外界普遍把 AI 视为电脑里的一项新应用，例如辨识影像、生成文字、协助写程式，但这样的理解已经过于狭隘。

根据黄仁勋，真正发生的变化，是从晶片、网路、储存设备到资料中心与软体开发模式，整个运算体系都正围绕 AI 重新打造。他将此称为 IBM System/360 问世以来，运算产业首次真正意义上的「重新发明」。

黄仁勋指出，过去数十年的电脑运作逻辑，本质上是程式设计师写好程式码、编译器转成二进位档、处理器按固定指令执行，即便网际网路、云端运算与行动装置陆续问世，也未曾真正撼动这套底层逻辑。

然而，神经网路的出现打破了这个模式：机器不再单纯执行人类写死的规则，而是从资料中学习结构，依当下情境即时生成答案、影像、动作甚至程式码。

黄仁勋认为，「生成式」三个字不该只被理解为生成内容。模型同时也在生成中间思考过程、工具呼叫指令、任务规划与行动序列，并能持续观察环境、调用其他软体、检视执行结果。

换句话说，运算正从「一次性回应需求」转向「持续不断工作」。

以自驾车为例，车辆无法从资料库里调出一段预录好的转向动作，必须即时判读道路、行人与周遭状况并做出决策，这也是黄仁勋认为未来几乎所有能移动的机器都将逐步具备「机器人」特性的原因。

摩尔定律放缓后，系统级协同设计成为提升运算效能的关键

随着运算模式转向 AI，硬体发展已无法单靠延续传统晶片架构来提升效能。黄仁勋多次指出，未来的竞争核心在于「协同设计」，也就是让演算法、AI 模型、编译器、晶片、互连技术、网路、储存设备以及资料中心等各个环节，围绕相同的工作负载进行整体最佳化。

这项理念其实可追溯至早期 RISC 架构的设计哲学，当时便强调编译器与处理器必须相互配合，而非各自独立运作。

进入 AI 时代后，协同设计的范围进一步扩大，不再局限於单一晶片，而是涵盖 CPU、GPU、交换晶片、高速互连、网路与储存系统，打造完整的 AI 运算平台。

背后原因在于，无论是图形渲染、分子动力学、量子化学、流体模拟，或是深度学习训练，都属于高度平行化且运算量庞大的工作，仅依靠通用处理器已难以兼顾效率与扩充性。

随着摩尔定律带来的效能提升逐渐放缓，产业开始透过系统架构创新，重新设计平行运算、资料流与通讯方式，以持续推升整体运算能力。

黄仁勋表示，透过跨软硬体、跨系统层级的整合优化，辉达在过去十年间已让部分 AI 工作负载的运算能力提升约 100 万倍。

不过，这项数据反映的是整体系统效能的进步，而非单一 GPU 性能的大幅跃升。也因此，在后摩尔定律时代，市场竞争的焦点已从「哪颗晶片速度最快」，逐渐转向「哪一套完整运算系统能以最高效率完成实际 AI 工作负载」。

别只盯着 MFU，更重要的是系统真正产出了多少 AI 价值

课堂讨论中，有学生提到大型 AI 丛集常用的指标模型浮点运算利用率（MFU，Model FLOPs Utilization）。

一般认为，MFU 越高代表 GPU 资源利用越充分，昂贵的运算设备没有被闲置。然而，黄仁勋认为，若过度依赖这项指标，反而可能对系统效能产生误判。

他指出，大型 AI 运算平台的效能并非只取决于 GPU 算力，还同时受到显示记忆体频宽、记忆体容量、网路互连以及储存系统等多项因素影响。任何一个环节都可能成为瓶颈，因此系统设计通常会在部分资源上预留余裕，以避免关键流程因单一瓶颈而拖慢整体运算。

换言之，即使部分 GPU 在某些时刻没有满载运作，也不代表系统效率低落。若一味追求更高的 MFU、刻意压缩资源余量，反而可能导致瓶颈放大，使整体任务耗时更长。

这种情况在 AI 推理阶段尤其明显。大型语言模型每生成一个 Token，都必须持续读取模型权重与上下文资讯，因此真正限制推理速度的，往往不是 GPU 的峰值浮点运算能力，而是多颗晶片共同提供的记忆体频宽。

也因此，一套 MFU 并不特别高的系统，仍可能凭借更高的频宽效率与更低的能耗，在相同时间内完成更多推理工作。

黄仁勋因此主张，评估 AI 基础设施时，不应只关注系统拥有多少 FLOPS，而应衡量它在特定能耗下能产生多少有价值的 AI 成果。

即使以「每瓦可生成的 Token 数」作为指标仍无法完全反映不同 Token 的价值差异，但至少比单纯追求硬体利用率，更能贴近实际业务效益。

对 AI 系统而言，真正重要的不是设备是否满载，而是能否以更快、更有效率的方式完成目标工作。

从 Hopper 到 Feynman：辉达每一代架构都瞄准下一波 AI 运算需求

黄仁勋表示，辉达每一代 GPU 架构的设计理念，都是提前因应下一阶段的 AI 运算需求，而非只解决当前瓶颈。Hopper 主要锁定大型 AI 模型预训练，在市场仍未出现数十亿美元级 AI 超级电脑前，就已开始布局相关系统。

随着 AI 产业重心逐渐从训练转向推理，Grace Blackwell NVLink 72 则透过 72 颗 GPU 组成机架级系统，利用高速互连提升记忆体频宽，以加速大型语言模型推理与 Token 生成。黄仁勋指出，相较前一代架构，其相关工作负载效能提升约 50 倍，远高于摩尔定律可带来的增幅。

下一代 Vera Rubin 则瞄准 AI 代理应用。由于代理需要长期记忆、工作记忆及大量工具调用，因此除了 GPU 外，CPU、储存与高速互连也必须同步最佳化，以降低等待时间、提升整体效率。

更长远来看，代号 Feynman 的架构将支援由多个 AI 代理、子代理及各类工具组成的「代理群」。黄仁勋强调，辉达的产品蓝图并非单纯追求硬体升级，而是先预测下一代 AI 软体的运作模式，再据此打造对应的运算平台。

开放模型的价值，不只是打造聊天机器人

黄仁勋认为，开放模型（Open Model）的意义不仅是发展聊天机器人，更是让不同语言、产业与研究领域都能拥有可修改、可微调的 AI 基础模型。由于许多利基市场规模有限，商业闭源模型未必会投入资源，因此开放模型能加速各领域的 AI 创新。

他指出，未来 AI 也将超越自然语言，延伸至生物医学、化学、气候科学、自动驾驶及机器人等领域，这些应用都需要专属的模型架构与训练方式，而非直接套用大型语言模型。

为此，辉达已推出 Nemotron、BioNeMo、Alpamayo、GR00T 及气候模型等多项基础模型，协助建立各领域的 AI 生态。

黄仁勋也强调，未来 AI 将结合语言推理能力与世界模型（World Model），让系统不仅能辨识物体，更能理解环境、推理因果并自主决策，例如提升自动驾驶的安全性。

此外，他认为开放模型也有助于安全研究，让更多研究人员能检验模型行为、发现漏洞，并建立更有效的 AI 防御机制，而非让攻防竞赛局限于少数封闭模型之间。

AI 应融入所有学科，但基础能力依然不可取代

谈到 AI 教育，黄仁勋认为，AI 不应被视为一门独立课程，而应成为所有学科的学习工具，协助学生阅读论文、查找资料、撰写程式、进行实验与解决问题。

不过，他强调，AI 越能快速提供答案，人类越需要扎实的基本功，包括数学、第一性原理、电脑架构与工程思维，才能判断 AI 输出的正确性，理解系统为何成功或失败。

黄仁勋也透露，辉达内部已广泛使用 Anthropic、OpenAI 等公司的 AI 模型，几乎所有工程师都在 AI 代理的协助下工作。

他认为，未来教育将与职场更加接轨，AI 的角色不是取代人的思考，而是减少重复性工作，让人们将更多时间投入分析、判断与创新。

AI 工厂时代，需要重新思考算力基础设施

黄仁勋指出，AI 时代的挑战不只是晶片不足，更在于现有的预算与资源管理模式，难以支撑大规模集中运算。传统由各院系各自建置小型算力资源的方式，已无法满足 AI 训练与推理对大型运算平台的需求。

他认为，AI 运算具有规模经济，研究团队虽然平时不一定需要大量算力，但在关键阶段必须能快速调度庞大资源，因此更适合建立校园级 AI 超级电脑或共享云端算力平台。

黄仁勋更建议，像史丹佛大学等研究机构可投入大型预算建置公共 AI 算力基础设施，让所有研究人员都能共享资源。他强调，AI 时代的核心课题已不只是采购更多硬体，而是重新设计预算分配、治理模式与资源共享机制。

能源将成 AI 时代的核心限制，而非次要因素

黄仁勋指出，随着 AI 从按需运算走向全天候运作的生成式 AI 与代理，未来运算所需的能源将大幅增加，能源供应将成为 AI 发展的重要限制，而非边缘议题。

他表示，提升能源效率是首要任务，透过模型、晶片、互连与散热的协同设计，在相同耗电量下完成更多 AI 运算。以 Blackwell 平台为例，其每瓦可生成的 Token 数较前代提升约 50 倍，展现系统架构创新对能效的提升。

另一方面，黄仁勋也认为，AI 带来的庞大电力需求将加速太阳能、核能等能源发展，以及电网升级投资。未来 AI 的发展速度，不仅取决于晶片效能，更将受到能源效率、发电能力与电网建设等基础设施共同影响。

黄仁勋：AI 风险应理性看待，而非过度神化

谈到 AI 风险，黄仁勋认为，不应将 GPU 与核武等大规模杀伤性武器相提并论，也不赞同将 AI 发展描述为难以预测的「奇点」事件。

他指出，GPU 早已广泛应用于游戏、医疗、科学研究、物流与工业等领域，本质上是一种通用运算基础设施，若政策建立在错误类比之上，恐导致偏离现实的监管方向。

不过，黄仁勋并未否认 AI 带来的风险，而是主张透过开放研究、工程设计、安全机制及市场竞争，逐步降低潜在威胁。

他强调，AI 发展应秉持「理性乐观」的态度，既不过度神化技术，也不因担忧风险而停止创新，唯有维持开放且具竞争力的 AI 生态，才能让更多人共享 AI 带来的成果。

从失败中建立战略：观察现象，再回归第一性原理

黄仁勋在访谈最后回顾辉达过去的两次重大挫折。他表示，早期图形产品在曲面处理、Z-buffer、纹理映射等关键技术选择上曾犯下错误，但这些失败让团队学会如何判断市场、控制资源并调整方向，也成为日后建立战略能力的重要经验。

另一个案例是手机晶片业务。辉达曾投入大量资源布局行动市场，规模一度达到 10 亿美元，但在 3G 转向 4G 时，由于缺乏基频技术优势，最终退出手机晶片市场。黄仁勋坦言，当时应更早看清手机产业的核心价值并非单纯来自图形处理能力。

不过，这段经历累积的低功耗与高效率技术，后来转化为机器人运算平台的重要基础，延续至今日的 Thor 架构。

黄仁勋强调，成功不能替过去错误的判断辩护，真正重要的是从失败中修正认知。

他认为，制定战略的关键不是精准预测未来，而是先观察现象，再回到第一性原理分析趋势，判断哪些事情必然发生、哪些可能发生，并在前进过程中保留调整空间。真正有效的战略，是在不确定环境中持续更新判断，让每一步行动都累积下一阶段的选择权。