讓一個記憶體可以為所有的 CPU、GPU跟這個NPU所用
林東閔表示,今年非常榮幸有被邀請到Apple Park參加Tim Cook主持的最後一場全球大會,叫做Business at the Park,當時就有提到,晶片在同一記憶體之後到底做了什麼事?蘋果做了這麼多,就是為了要讓一個記憶體可以為所有CPU、GPU跟NPU所用。
所以蘋果把記憶體頻寬拓寬50%,並且做了幾件很棒的事情,像是以前的你問Siri一個問題要等他很久,因為他所有的回答通通都是等雲端算完傳給你,但他這聲音的生成還有快速回答一部分的內容,就直接在你的手機上就處理好了。
🔗 延伸閱讀《iPhone Duo為何幾乎看不到摺痕? 蘋果官方這樣回應》
🔗 延伸閱讀《蘋果圖輯|摺疊iPhone Duo最貴11.89萬元 18 Pro漲5千4.49萬元起》
完全做到 On-device AI Ready
換句話說,所有的過程不會傳到伺服器,延遲就會更大的降低,且把它回答你那些內容的過程時間跟雲端連動,也就是說,它可以做到在回答你的過程當中,其實才是它在跟雲端互動的時間,去得到更多的資訊,它用 On-device AI來填滿你不想等待的時間,去換來Cloud AI的資料,這件事情就非常仰賴你的手機能不能一直在運作AI?記憶體頻寬夠不夠?會不會害你的手機的應用delay?會不會過熱?會不會把電都耗光了?所以這次的魔法在這個地方。
林東閔說,從iPhone的設計來講,這一次是完全做到On-device AI Ready的硬體設計,這也是蘋果從沒有過這麼清楚的做,因為以前都是慢慢切、慢慢升級。
舉例來說,當晶片A17、A18、A19透過台積電越來越先進的製程,效能越來越高的時候,這次他把晶片的排列、放的位置跟散熱板是怎麼應對的,講得清清楚楚,這其實是一個訊號,就是蘋果要再一次證明他在全球在硬體供應這一塊投入最大的心力。
蘋果接下來全部都在講什麼?都在講應用跟AI,所以它的順序很重要,如果沒有前面做好的這個底,後面這些事情做不了多久,如果On-device AI,但是算個5分鐘、7分鐘就過熱,或記憶體吃完之後,又要讓使用者等待,那這種體驗就不連續。


