這是Apple Silicon歷史上首次，A20 Pro配備雙16核心Neural Engine（雙16核心神經網路引擎），專為處理AI工作負載而設計，其能力是過去其他系統單晶片（SoC）所無法比擬的。如果希望在智慧手機上執行裝置端AI模型，這項升級至關重要。
🔗 延伸閱讀《分析｜史上最貴iPhone Ultra將至！台積電2奈米A20 Pro晶片成成敗關鍵》
🔗 延伸閱讀《花大錢反降級？實測爆1TB iPhone 18 Pro Max改用QLC 高負載恐嚴重掉速》
🔗 延伸閱讀《iPhone18 Pro首傳災情！蘋果證實「2款保護貼」恐讓FaceID失效》
據《wccftech》指出，一支iPhone 18 Pro被展示可執行擁有270億（27B）參數的模型，速度是iPhone 17 Pro的2倍。鑑於iPhone 18 Pro與iPhone 18 Pro Max都配備12GB、96位元的LPDDR5X記憶體，其速度明顯快於iPhone 17 Pro與iPhone 17 Pro Max的記憶體配置，因此這項升級，加上雙16核心Neural Engine的加入，將裝置端AI效能推向新的層次。
Adrien Grondin透過在iPhone 18 Pro上執行Bonsai 27B展示這些效能提升，可以清楚看到其token生成速度有多麼驚人。
當然，就iPhone在無需連接網路的情況下，執行更大型的270億參數AI模型而言，這對iPhone是一大步，但使用者也會面臨一些取捨。
首先，X貼文中提到，既然Bonsai 2已經發布，為什麼還需要繼續執行Bonsai？答案令人失望，但這就是在智慧手機上執行AI模型的殘酷現實：採用2-bit量化的Bonsai 2仍然太大，iPhone 18 Pro的記憶體無法完整容納，因而導致效能下降。
Bonsai是採用1-bit量化的AI模型，因此即使是配備4GB RAM的裝置也能輕鬆執行；而在配備8GB、甚至12GB記憶體的手機上，執行起來更是暢行無阻。
iPhone 18 Pro不僅搭載A20 Pro，還配備速度快得多的記憶體、115.2GB/s 的統一記憶體頻寬，以及雙16 核心Neural Engine；在針對NPU設計的工作負載中，Neural Engine的峰值吞吐量甚至高於SoC的7核心GPU。在這樣的硬體配置下，Bonsai 27B將能夠持續維持高速運作，不會出現效能下滑的情況。
未來如果蘋果採用更大容量的記憶體配置後，就能看到裝置支援更大型的模型。
