IT之家11月21日消息，蘋果機(jī)器學(xué)習(xí)研究博客于11月19日發(fā)布文章，公布了M5芯片的最新性能數(shù)據(jù)，著重展示了其在運(yùn)行本地大語言模型（LLM）方面的突出優(yōu)勢(shì)。

此次性能評(píng)估的核心平臺(tái)是蘋果之前推出的MLX，它是專為Apple Silicon設(shè)計(jì)的開源機(jī)器學(xué)習(xí)框架，借助統(tǒng)一內(nèi)存架構(gòu)，使模型能在CPU和GPU之間高效運(yùn)行。

在關(guān)鍵的文本生成測(cè)試中，蘋果運(yùn)用MLX LM工具包對(duì)多款開源大模型進(jìn)行了基準(zhǔn)測(cè)試，涵蓋不同參數(shù)規(guī)模的Qwen模型和GPT OSS模型。

測(cè)試結(jié)果表明，M5芯片在生成后續(xù)文本token時(shí)的速度比M4提高了19%至27%。蘋果表示，這一性能提升主要得益于內(nèi)存帶寬的增加，M5的內(nèi)存帶寬高達(dá)153GB/s，相較于M4的120GB/s提升了28%，這對(duì)內(nèi)存密集型的token生成任務(wù)十分關(guān)鍵。

報(bào)告進(jìn)一步說明了LLM推理過程中的兩種不同負(fù)載。IT之家援引文章介紹，生成第一個(gè)token主要受計(jì)算能力限制，而生成后續(xù)token則更依賴于內(nèi)存速度。

所以，M5憑借更高的內(nèi)存帶寬，在持續(xù)生成文本的場(chǎng)景中優(yōu)勢(shì)明顯。蘋果還強(qiáng)調(diào)，配備24GB內(nèi)存的MacBook Pro能夠輕松運(yùn)行參數(shù)量達(dá)300億的4 - bit量化混合專家模型（MoE），并將推理負(fù)載控制在18GB以內(nèi)。

第一個(gè)tokens生成速度 后續(xù)tokens生成速度 內(nèi)存 (GB) Qwen3 - 1.7B - MLX - bf16 3.57 1.27 4.40

Qwen3 - 8B - MLX - bf16

3.62 1.24 17.46

Qwen3 - 8B - MLX - 4bit

3.97 1.24 5.61

Qwen3 - 14B - MLX - 4bit

4.06 1.19 9.16

gpt - oss - 20b - MXFP4 - Q4

3.33 1.24 12.08

Qwen3 - 30B - A3B - MLX - 4bit

3.52 1.25 17.31

除了文本處理能力，M5芯片在圖像生成方面的提升更為顯著。報(bào)告指出，M5芯片中集成了全新的GPU神經(jīng)加速器，專門用于處理機(jī)器學(xué)習(xí)負(fù)載中重要的矩陣乘法運(yùn)算。

得益于這一硬件升級(jí)，M5芯片執(zhí)行圖像生成任務(wù)的速度是M4芯片的3.8倍以上。這一巨大提升意味著，未來搭載M5芯片的Mac設(shè)備將在創(chuàng)意設(shè)計(jì)、內(nèi)容生成等視覺AI應(yīng)用領(lǐng)域帶來遠(yuǎn)超以往的流暢體驗(yàn)。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽碓醇白髡呙帧?/p>

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com