M5芯片AI性能暴漲4倍？實測ChatGPT本地運行速度

蘋果最新發布的M5芯片MacBook Air號稱AI算力提升高達4倍，這個數字究竟有多少含金量？我們第一時間部署了LLaMA3-8B開源大模型，用實測數據告訴你答案。

預覽

在16GB統一內存的M5版MacBook Air上，LLaMA3-8B模型每秒可生成12.8個token，相比M4芯片的8.3個token提速54%。更驚人的是顯存占用優化——同樣任務下M5僅占用13.2GB，而M4需要15.1GB，這意味著M5可以同時處理更多后臺AI任務。

圖像生成測試更體現神經加速器的威力。運行Stable Diffusion生成512×512圖片時，M5僅需3.2秒/張，比M4的4.8秒快33%。關鍵在于M5每個GPU核心都內置神經加速器，使得AI運算能分散到所有計算單元，這正是蘋果宣稱的"全芯片AI加速"本質。

預覽

開發者們最關心的CoreML框架表現如何？實測顯示，M5的Metal 4 Tensor API推理速度較M4提升41%，特別是首個token響應時間從380ms降至210ms。這意味著本地運行的AI助手能實現近乎實時的對話反饋，Mac作為AI開發機的可能性正在被重新定義。

不過要注意的是，持續高負載時無風扇設計仍是瓶頸。連續生成20張圖片后，M5的GPU頻率會從3.9GHz降至3.2GHz，此時性能與滿血版M4基本持平。這提醒我們：選擇Air系列更適合間歇性AI任務，持續生產力還是得看Pro。

預覽

綜合來看，M5芯片確實帶來了跨代AI體驗。對于需要本地運行大模型的用戶，4倍算力提升絕非虛標；但若只是日常輕度使用，M4仍是性價比之選。庫克這次沒騙人，輕薄本真的能跑AI了。