GitHub Copilot 支持本地 AI 推理：Surface Laptop Ultra 实测吞吐量达每秒 63 词元

微软于北京时间 10 月 8 日凌晨在美国旧金山举行的发布会上宣布，GitHub Copilot 将于本月底前支持本地 AI 模型推理，开发者可切换云端与设备端模型。

GitHub Copilot 是微软推出的 AI 编程助手，集成于 Visual Studio Code、CLI 等工具，可根据代码上下文生成补全、解释或重构建议。

当前 Copilot 依赖云端托管模型，微软计划扩展路由机制，允许自动选择云端或本地模型，并协调推理任务。

用户可设置自动编排或强制使用设备端模型，支持通过 Windows ML 选择 MAI Code 1.1 Flash，或连接 OpenAI 兼容的本地端点。

微软推出的 MAI Code 1.1 Flash 模型总参数 1370 亿，活跃参数 68 亿，采用量化与推测解码技术优化性能。

实测显示，该模型在 Surface Laptop Ultra 上处理复杂任务时，峰值内存使用率、Token 利用率与处理速度显著提升，吞吐量达每秒 40 至 63 词元。

测试覆盖提示长度 2K 至 256K Token 范围，IT之家附有相关性能测试图片。