苹果 MacBook Pro 外接 iPhone 17 Pro Max 运行 AI 模型,预填充性能最高提升 44%
AI新闻阅读 0

Qwen3.8-27B 是一款性能不错的人工智能模型,但需设备具备足够显存与系统内存。搭载 M4 Pro 芯片的 MacBook Pro 仅有 24GB 统一内存,在运行该 AI 模型时预填充速度受限。
据 Wccftech 报道,一名用户通过 USB-C 接口将 iPhone 17 Pro Max 外接至 MacBook Pro,并借助自制软件,使该 AI 模型预填充性能最高提升 44%。
Reddit 用户“u/StayLameBro”采用拆分运算任务方式,将 Mac 本机与 iPhone 协同处理。MacBook Pro 负责处理每批 256 个 token 的前 40 层,iPhone 利用 A19 Pro GPU 运行后 24 层,实现 2.4 倍速度提升。
在 140K 上下文长度下,单 token 写入耗时从 279 毫秒缩短至 176 毫秒。上下文设为 16K 时,预填充速度从每秒 109 个 token 上涨至 157 个 token,增幅达 44%。
尽管 iPhone 17 Pro Max 可提供性能提升,但 64K 以内场景仍由 Mac 完成文本生成。A20 Pro 芯片双 16 核神经网络引擎或提供更大性能余量,数据吞吐能力超内置 7 核 GPU。
该自制软件已开源,项目名为“backburner”。实验显示预填充速度提升收益显著,未来或面临 iPhone 类设备供货紧缺风险。