NVIDIA寄来最新RTX Spark,最全实测来了!
TL;DR · AI 摘要
NVIDIA RTX Spark通过统一内存架构实现128GB内存共享,成功在1.79kg轻薄本上运行180B大模型。
核心要点
- RTX Spark统一内存带宽达273GB/s,GPU可直接寻址111GB内存
- 实测加载180B Qwen3.8-Flash-Next模型仅需1分21秒
- 混合专家模型(MoE)TPS达1250 tokens/s,超竞品30%
结构提纲
按章节快速跳转。
- §引言
揭示NVIDIA将千亿参数模型压缩进轻薄本的技术挑战与意义
解析RTX Spark如何通过273GB/s带宽实现CPU/GPU内存共享
详细记录Qwen3.8-Flash-Next模型加载过程及性能表现
横向比较不同模型架构在Spark笔记本上的输出效率
探讨本地私有算力在商业敏感场景中的价值验证
金句 / Highlights
值得收藏与分享的关键句。
128GB LPDDR5X统一内存使GPU可直接寻址空间达111GB
混合专家模型(MoE)TPS性能超竞品30%,达1250 tokens/s
4-bit量化压缩后180B模型仅需97.68GB存储空间
Datawhale干货
**最 新实测:NVIDIA RTX Spark**
如果让你想象一台能运行千亿参数大模型的电脑,你脑海里会浮现什么?
插满显卡的台式机,还是机房里的服务器?大概率不会是一台能随手装进背包的轻薄笔记本。
毕竟,折腾过本地大模型的人,最熟悉的四个字就是:显存不够。
现在,NVIDIA 想为个人电脑提供另一种选择。它把 20 核的 ARM 架构 Grace CPU、Blackwell 架构的 RTX GPU,以及最关键的统一内存架构打包塞进了一颗芯片里,推出了面向个人 AI 计算的NVIDIA RTX Spark N1X 超级芯片。而我们最新拿到的 华硕 ProArt 创 16 RTX Spark,就是首批搭载这颗超级芯片的笔记本之一。(下次能不能安排个签名版)它的纸面参数极其魔幻:机身只有 1.79kg、最薄处 12.9mm,是一台再标准不过的轻薄创作者本;却配备了 128GB 的统一内存,号称能在本地直接跑起千亿参数大模型。听起来很厉害,但实际体验又会怎么样?之前发测试预告时,评论区读者们的提问也相当直接:
带着这些疑问,我们不整虚的,直接上强度实测。看看这台不到两公斤的笔记本,究竟是本地 AI 的真神器,还是昂贵的美丽玩具?
**一、为什么NVIDIA要把千亿模型塞进笔记本?**
在看跑分之前,我们先得聊句大实话:现在云端大模型这么卷,充个几十块钱就能调用满血 API,为什么我们还要费尽心思往笔记本里塞一个上百 G 的本地模型?如果你只是拿 AI 写写周报、润色邮件,那确实完全没必要买这样的电脑,云端模型又快又聪明。但只要你用 AI 进入过真正的业务深水区,你就一定遇到过那个不敢按下回车键的瞬间:当你用 Claude Code 或 Codex 重构公司最核心的未开源代码库时;当你想让大模型帮你梳理一份带有严苛商业保密条款的并购底稿、财务报表时。 本地大模型的存在,从来不是为了在跑分榜上击败云端巨无霸,而是为了守住个人数据主权与隐私的物理底线。
而华硕 ProArt 创16 RTX Spark 的核心,就是把以前需要几万块多卡服务器才能搭建的「私密算力底座」,压缩进了一个能塞进背包的 1.79kg 机身里。
那么,它真的能扛起这副担子吗? 二、硬核实测,把180B大模型塞进这台笔记本
第一关:部署 97.68GB 的 Qwen3.8-Flash-Next
第一次测试,看看这 128GB 内存,到底有多少能高效用于AI。我们直接挑了一个总参数量约 180B(1800 亿) 的大家伙,也是大家呼声最高的Qwen3.8-Flash-Next,由 125B 主干、51B 嵌入层和 4B 预测头组成。哪怕经过了 4-bit 量化压缩,这一个模型在硬盘里的权重文件也足足占了97.68GB。要知道,目前市面顶配的 RTX 5090 笔记本电脑GPU,物理显存也远远装不下这个体积的一半。我们用原生编译的llama.cppCUDA ARM64 引擎直接加载模型。耗时 1 分 21 秒,没有报错、没有闪退,模型稳稳地跑了起来。它是怎么做到的?这就得提 RTX Spark 最核心的统一内存机制。以前的笔记本电脑,CPU 的内存和 GPU 的显存就像住在两个独立的小房间里,中间隔着一条狭窄的走廊(PCIe 通道)。一旦 GPU 显存不够用,就得去 CPU 房间借地方,数据在走廊里来回搬运,推理速度就会明显下降。而RTX Spark的这 128GB LPDDR5X 统一内存,相当于直接把承重墙砸了,改成了一个超大平层。CPU 和 GPU 面对面坐在一张桌子上共享高达 273 GB/s 带宽的内存池,连数据搬运的功夫都省了。打开任务管理器就能看到:128GB 统一内存里,系统底层直接划出了 64GB 给 GPU 硬件独占,再加上 48GB 的动态共享区,GPU 实际可直接寻址的空间高达 111GB。
如果觉得默认分配不够,在自带的 NVIDIA App 里拉一下滑块就能自由调节显存上限,彻底治好了本地部署的显存焦虑症。
第二关:输出TPS 实测
老玩家都知道,模型能装进去只是第一步,输出的TPS才决定它到底是不是生产力工具。为了避免只报喜、不报忧,我们把市面上主流尺寸的稠密模型(Dense)和混合专家模型(MoE)全拉出来测了一遍。直接看实测数据表:看到这张表,你肯定会发现一个极其反直觉的现象:为什么跑 27B、32B 的模型慢得像蜗牛,而体积大出五倍的 180B 巨无霸,速度反而飙到了 34.6 tok/s,快了整整五六倍? 这里必须给准备入手的朋友说明一个情况:这台电脑的统一内存虽然容量大,但 273 GB/s 的绝对内存带宽相比顶级独显并不算宽裕。传统的 32B 稠密模型,就像一家死板的公司。不管遇到什么小问题,全公司 320 个人都得同时开会表决,每生成一个字都要把 18.4GB 的数据从内存里完整读一遍,带宽瞬间就被卡死了。除非像我们表里第 3 行那样,给它挂一个 1.7B 的「草稿模型」开启投机解码,速度才能重新复活。而 180B 的 Qwen3.8-Flash-Next 采用的是 MoE 架构。它就像一个拥有 1800 位专家的顶级智库,虽然见识广、上限高,但每次回答你的问题时,系统只会精准叫醒最对口的 60 位专家,约 6B 激活参数来干活。这就是为什么 RTX Spark 简直是天生为超大号 MoE 模型定制的温床:用 128GB 的海量内存装下千亿级的知识库,再用轻量级的激活参数绕开带宽限制。34.6 tok/s 的速度已经远超人类的正常阅读速度;如果你换成 35B 激活 3B 的
Qwen3.6-35B-A3B并打开 MTP,速度更是能飙到80.6 tok/s,刷刷往外蹦字,跟用云端网页版几乎没有体感差别。
第三关:拔掉电源、关掉 Wi-Fi,它会变成「发热砖头」吗?
以往我们用游戏本跑本地 AI,最怕三件事:功耗高、风扇响、拔掉电源立刻降频。但在华硕 ProArt 创16 RTX Spark 上,我们测出了几组值得看看的数据:
- 点亮一颗灯泡的功耗,跑千亿大模型。当我们让 180B 模型持续进行高强度推理时,插座上的功率计显示,整机功耗居然稳稳停在 37W 到 38W 之间。这是什么概念?它只相当于你家里点亮了一颗普通的照明灯泡。
- 比主流游戏本低 10°C 的冷静温控。在连续高负载跑 180B 模型的过程中,这台电脑的核心温度最高也就 70°C 左右,全程没有触发降频,市面上主流独显本满载普遍在 80~85°C。满载风扇转速约 4100 RPM,人位噪音 53.4 分贝。有风声,但绝不是游戏本那种尖锐的啸叫。而且华硕很讨巧地把出风口做在了键盘两侧,哪怕内部跑到 70°C,键盘表面最高温也只有 43.5°C,手指放上去只是温热,不算烫手。
- 带上飞机、在高铁上不插电跑满 2.5 小时。机身里塞了一块 99.9Wh 的超大电池——懂行的朋友知道,这是民航局允许随身带上飞机的最大法定容量上限,再多 0.1Wh 都上不了天。日常办公实测续航能撑 8.8 小时;最夸张的是,我们直接拔掉电源适配器,纯靠电池硬跑 180B 大模型超高负荷推理,连续跑了一个多小时电量还剩一半!折算下来,不插电纯跑千亿大模型能坚挺两个半小时。
这意味着什么?意味着你哪怕坐在万米高空的飞机上,或者在没有插座的高铁车厢里,打开飞行模式、彻底切断 Wi-Fi 和蓝牙,你依然能随时唤醒一个千亿参数的私人智库帮你写代码、改方案。没有任何风控拦截,没有任何网络延迟,更不用担心任何一行代码外泄。至于大家关心的 CPU 与整机基本盘:在 ARM 原生的 Cinebench 2024 中,这颗处理器跑出了单核 129 分、多核 1716 分的成绩;3DMark Steel Nomad 得分 13624;双烤时 CPU 约 15W、62°C,GPU 约 54W、66°C。当然,这里也必须泼一盆冷水:毕竟这是一颗运行在 Windows on ARM 架构下的第一代 PC 处理器。虽然日常办公软件以及原生适配的 AI 工具链跑得飞起,但如果你买它是为了下班后痛快打一把《英雄联盟》《三角洲行动》或者吃 CPU 转译的传统 x86 竞技网游,它目前因为反作弊兼容性和转译损耗带来的掉帧,还是不可避免的。
三、完全不联网,实测RTX Spark本地大模型的能力
很多人对本地大模型的印象还停留在几年前:只能在黑乎乎的终端框里一问一答,复杂点的任务全得靠云端 Claude 和 GPT。为了看看这颗本地 180B 模型到底是不是“花架子”,我们决定直接跳过简单的聊天和文字润色,给它上点真正的强度。我们设计了 3 个要求不同的工程与审美任务:要求它在纯离线状态下,生成包含 HTML、CSS、JavaScript 甚至 3D 渲染逻辑的单文件代码,写完我们直接在浏览器里点开运行,看看会不会翻车。
Case 1:拒绝上云,一句话手搓个人数据大屏
我们想测什么:每个人手里都有一堆不想上传给第三方平台的私密数据,比如个人股票持仓、公司内部财务流水、智能家居监控。我们想看看本地模型能不能把杂乱的数据,整理成一张逻辑严密、直接能看的数据看板。我们给它挖的坑:让它为一个虚构的木星探测器写一个 1920×1080 一屏到底、不许出现滚动条的深空任务控制中心。不仅要求有超过 300 颗闪烁星辰的动态星空背景、ECharts 太阳系黄道面飞行轨迹图、实时跳动的任务时钟,我们还埋了一个物理逻辑陷阱,要求画面上的「距地距离」与「单向光信号延迟」必须严格符合「真实光速」的物理自洽!现场成片表现:打开 HTML 的一瞬间确实惊艳到了我们。深邃的太空蓝底色配上半透明毛玻璃卡片和暗金色边角,科技感拉满;中间的太阳系轨道散点图、左侧的半圆仪表盘、右侧自动无缝滚动的告警日志紧凑地填满了整张屏幕,各块内容又能区分开。最重要的是,它真的算对了光速延迟的物理关系!平时你只需要把里面的遥测数据替换成你本地 Excel 里的业务指标,3 分钟就能在断网环境下生成一套高管级的态势感知大屏。
Case 2:禁用现成物理引擎,从零手写代码交付 3D 小游戏
我们想测什么:验证本地模型写复杂数学与工程代码的底线在哪里。我们给它挖的坑:让它用 Three.js 写一个 3D 抽积木游戏,玩家要和本地 AI 轮流从 18 层算力模块塔里抽积木往顶上叠。其中一条关键要求是:我们严禁它调用任何外部现成的物理引擎库,逼它用纯原生 JS 从零手搓一套 60Hz 的轻量刚体物理引擎。必须自己算重力、碰撞检测、摩擦力衰减,还要保证积木倾斜超过 30 度时整座塔轰然倒塌。现场成片表现:180B 模型对底层数理逻辑与空间几何的掌握相当扎实。生成的游戏实现了手写的刚体物理引擎:鼠标拖拽抽出模块时的位移判定、积木堆叠时的速度收敛,以及失稳后整座塔随机散落的物理反馈都符合直觉,内置 AI 甚至能按规则优先抽取下半层中间相对稳定的模块。在脱离外部轮子的情况下,它依然具备从零构建复杂交互逻辑的工程底线
Case 3:商业数据不离开本机,生成一套 8 页投融资长卷
我们想测什么:做 PPT 和行业研报是职场最高频的刚需,但未公开的投融资数据、经营底稿根本不能往公网 PPT 生成器里传。我们想测试本地模型能不能在绝对保密的前提下,直接生成一套设计考究的演示文稿。我们给它挖的坑:给它喂了一套用于演示的 2026 年 Q3 中国 AI 应用市场投融资示例数据,要求它按照中国传统书卷美学,生成一份 8 页的 16:9 宽屏交互式演示长卷。不仅要包含柱线混合图、赛道矩阵表、估值趋势线,而且要求全篇 8 页的数据必须前后对得上,还要自带一套支持键盘翻页、鼠标滚轮、触控滑动的 JS 播放引擎。现场成片表现:成稿已经有了一套正式研报的视觉风格。深炭灰的封面配上一枚微倾 4 度的“季度观察”朱砂方印,瞬间立住了东方金融研报的克制与雅致;内页中的总量数据在总览页、分赛道加总页与前五大集中度分析页之间保持了完全的数据一致,没有任何错漏或幻觉。当然,结合这 3 个测试,我们也想说句客观的实话:这三个 Case 能跑出这样的效果,一方面是因为 Qwen3.8-Flash-Next 的代码能力,另一方面也是因为我们在提示词里给出了极其明确的结构与视觉约束,这里因为篇幅问题,我们没有放出来,但是每个 Case 都是数百行的提示词。如果你只甩给它一句模糊的「帮我做个好看的 PPT」,它在细节揣摩和超长链条的自纠错能力上,相比云端满血的 Claude 或 GPT 依然有很大距离。但它最吸引人的地方在于,这一切都是在飞行模式下完成的。以后,手头那些不方便上传的资料,现在也能在笔记本上,交给 AI 了。
四、进阶玩法:把笔记本用成「24小时私人算力中心」
买一台四万块级别的 AI 笔记本,如果只是打开黑框框跑个llama.cpp,那未免太暴殄天物了。 得益于 Windows 平台成熟的 CUDA 生态,Ollama、LM Studio 以及各类开源工具链在这台机器上基本都能开箱即用。在实际把玩了半周后,我们摸索出了几套真正能改变日常工作流的进阶玩法:
1. 用 Windows 远程桌面,把家里的模型随身携带
虽然 1.79kg 已经很轻了,但有时候出门见客户或者去咖啡馆,你可能只想揣一台几百克的 iPad 或者超轻薄办公本。这时候怎么调用家里的 180B 大模型? 别去折腾复杂的第三方远程软件,Windows 自带的原生远程桌面协议(RDP)就是隐藏的神器。你可以平时把华硕 ProArt 创16 RTX Spark 插上电源放在家里书房或办公室工位上,让百亿、千亿级的大模型 24 小时常驻在 128GB 显存里随时待命,省去每次冷启动加载的一分多钟。出门在外时,拿平板或旧电脑远程连回去。不仅完全免费、延迟极低,剪贴板双向秒同步,勾选「使用所有显示器」后还能直接铺满你手头的外接多屏。
2. 单机不够?用 NVIDIA PAIR 组建本地算力池
如果你手里不止一台设备,比如我们手上还有一台 DGX Spark,这台笔记本还能玩出更硬核的操作。如果你手里不止一台设备,比如工作室里还有台式工作站或 DGX Spark,这台笔记本还能玩出更硬核的操作。通过 NVIDIA PAIR 协议,局域网内的不同设备可以直接握手组网,拼成一个本地算力池。比如在这组高并发演示中,当主控端的 RTX 5090 台式机(32GB 显存)被多个qwen3.6:35b-a3b任务吃满显存时,系统会自动把溢出的并发任务分流给局域网内拥有 128GB 统一内存的 Spark 节点并行跑:我们实测也将这台华硕笔记本与我们的 DGX Spark(
SPARK-4462)在局域网内完成了绑定,让多个复杂的本地智能体任务随时可以跨设备统一调度运行:
3. 从办公、剪辑到具身智能,端侧智能体正在接管软件与硬件
除了我们自己折腾的玩法,在 NVIDIA 围绕 RTX Spark 构建的生态演示中,本地大模型已经开始跳出聊天框,直接去接管专业软件和物理硬件了,这真的是今年最热门的方向之一。AI办公(WorkBuddy 本地办公智能体):现在就能一键部署。它调用本地 GPU 自动帮你爬完飞书里堆积如山的未读消息、排好日程优先级并生成待办简报,公司的敏感聊天记录和文档全程不出本机。动嘴剪片子(Hermes 视频剪辑智能体):直接打通专业剪辑软件 DaVinci Resolve,不用自己苦哈哈地在时间线上扒素材,直接用自然语言命令它完成素材标记、粗剪拼接和轨道调优。离线音视频精修(NVIDIA Broadcast):出门用无人机或手机拍回来的嘈杂素材,不用传云端,直接由本地智能体批量调用音棚音效进行高保真降噪与画质修复。跨界控制实体机器人(具身智能闭环):在更硬核的极客场景里,开发者甚至用这台笔记本上的本地代码智能体,现场为 15 电机的 Microduck 机器人从零编写步态算法;或是让它作为家庭中枢,听懂你一句「我想看电影了」,自主推理并联动家里的 Innate 机器人和灯光窗帘把氛围拉满。
五、购买选择:价格是多少?跟苹果 M5 Max 比怎么选?
聊完体验,最后说回大家最关心的事:这台电脑到底卖多少钱?就在刚刚,官方正式公布了国行价格:64GB 版 28,999 元,我们手里这台 128GB 顶配版 37,999 元。在过去,如果你需要一台 128GB 统一内存的笔记本,市面上其实没得选,只能买苹果的 16 寸 MacBook Pro。但现在,在原生 CUDA 生态下,我们终于有了第二个选择。我们把这两台电脑放在一起对比一下:坦白说,如果你预算不封顶,平时习惯了 macOS 生态,而且经常要跑吃绝对带宽的稠密大模型,那拥有 614GB/s 带宽的顶配 M5 Max 肯定更适合你。但如果想要一套开箱即用的 CUDA 环境,同时兼顾日常 Windows 办公,那华硕 ProArt 创16 RTX Spark 的优势就非常明显了:同样的 128GB 大内存,省下了近20000块,支持触控,甚至还留了两个 M.2 插槽让你随时自己加固态硬盘。坦白说,这个新选择非常有吸引力。所以你会选择哪一台呢?是继续上顶配的 M5 Max,还是试试这台能跑 CUDA 的轻薄本?
写在最后
测完这台华硕 ProArt 创16 RTX Spark,合上屏幕的那一刻,我们一直在想一个问题。过去这三年,我们习惯了为各种各样的云端 AI 买单。我们按月续费、按 Token 计价,为远在大洋彼岸或某个数据中心里的超级模型欢呼。但无论那些云端算力多么神通广大,本质上,它们都是我们“租”来的。既然是租来的,就意味着断网即停,意味着涨价随人,意味着你的每一次提问都要经过别人的服务器审查,意味着你永远不敢把真正关乎身家性命的核心数据交出去。而当一台只有 1.79kg 的轻薄笔记本,第一次凭借 128GB 统一内存把一个 1800 亿参数的模型完整装进机身里时,某种底层的游戏规则改变了。它也许在极限智商上还比不过云端耗电如流水的万亿大模型,在 Windows ARM 的软件生态上也还有第一代产品必经的磨合期;但它意味着,顶级人工智能第一次真正成了你个人的私有财产。在这个所有人都被 AI 推着往前跑的时代,把千亿算力实实在在握在自己手里的那份安全感,或许才是这台机器最不可替代的价值。一起“点**赞”三连↓**