英伟达发布Nemotron 3.5 Bolt，740亿大模型量化至22.1GB随RTX Spark笔记本同步开售

10月16日，英伟达正式发布搭载Blackwell架构RTX GPU的新一代笔记本，联想与微软等厂商的新机随即在全球发售。与此同时，英伟达开放了Nemotron 3.5 Bolt（简称Bolt）模型的权重文件，标志着740亿参数的大模型正式支持本地化部署。这款名为Bolt的模型源自英伟达同期发布的1200亿参数超大规模视觉语言基座模型Super VL。为适应笔记本环境，团队对模型进行了深度优化：将基础参数量从1200亿压缩至740亿，并采用混合精度量化技术，最终将权重体积大幅缩减至约22.1GB（BF16精度下约为148GB）。为了弥补压缩带来的视觉能力损失，研发团队专门训练了视觉适配器并进行微调，使模型在屏幕定位测试ScreenSpot Pro中的表现从0回升至39.79%。此外，Bolt保留了完整的工具调用、图片及视频输入处理能力，支持代码生成与图表分析等复杂任务。在性能优化方面，Bolt引入了名为LiLiCorr的小模型辅助生成机制，有效降低了主模型逐Token生成的等待时间。测试数据显示，搭载128GB统一内存的RTX Spark笔记本在运行Bolt时，代码生成速度可达约84 token/s。英伟达已提供OpenClaw和Hermes等框架的启动入口，开发者可将本地大模型与联网搜索工具结合，实现在单机上完成文件读取、代码修改及多轮推理任务。此举旨在减少云端交互延迟，让用户在本地设备即可运行高性能AI Agent。与此同时，针对轻量级应用场景，英伟达计划于10月23日推出Nemotron 3.5 Bolt E4B（简称E4B），模型大小控制在4GB以内，专为语音助手和交互角色等低资源设备设计。Super VL负责企业级复杂任务，Bolt接管日常笔记本应用，而E4B则面向更轻量化设备，三者形成互补生态。