在不久前結束的WWDC2024上,蘋果宣布了自己的AI方案Apple Intelligence,并計劃將其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通過生成式模型來改善用戶的使用體驗。事實上,蘋果一共有兩個自主開發的AI模型,一個用于設備端AI的30億參數模型,以及一個更大的LLM,其服務器資源滿足更多的查詢。
蘋果AI服務器的軟硬件組成
蘋果將其AI服務器稱為私有云計算節點(PCC),這是蘋果基于定制化服務器硬件打造的基礎設施,也是蘋果芯片在數據中心的首度應用。不過PCC并沒有搭載蘋果的任一消費級系統,而是基于iOS和macOS打造了一個強化子集系統,專為支持LLM推理量身定制。
正因其硬件架構的統一性,蘋果在設備端AI和AI服務器做到了高度一致。不過PCC用于推理,并不代表蘋果為其選擇了一樣的訓練設備。根據蘋果的說法,他們在預訓練階段,依然采用的是云端的TPU和GPU資源。由此也可以看出,在大模型的訓練資源上,蘋果選擇了與谷歌合作。
這也完全可以理解,谷歌作為TensorFlow的開發者,不少基于TensorFlow開發的ML模型,都能在谷歌的TPU上獲得極高的訓練效率。不過對于蘋果而言,他們的軟件棧并不會鎖死在一個云服務供應商上,而是可以擴展并運行在其他平臺上。
AI服務器的安全性
相比起AI服務器的性能,用戶可能更在意的是隱私安全問題。畢竟在數據中心的強大AI硬件和大模型,如果沒有對用戶請求的未加密訪問和相關的個人數據,也就很難給到精準的答案。對于終端設備廠商,同時也是這些AI服務器的擁有者而言,如何做好端到端加密,也就成為最大的挑戰。
蘋果也指出了AI服務器面臨的幾大挑戰:1、云端AI安全和隱私保障難以得到驗證和執行;2、很難在云端為AI提供運行時透明;3、云端AI環境很難對特權訪問做出強有力的限制。為了解決這些挑戰,蘋果在AI服務器的設計上下了不少功夫,首先就是無狀態計算。用戶的設備將數據發送到PCC唯一目的就是滿足推理需求,PCC僅使用這些數據來執行用戶請求的操作,且數據只停留在處理請求的PCC節點上,無論是蘋果、管理員都無法獲得用戶數據。
在可驗證的透明度上,蘋果甚至做到了超過一些主流云服務商,他們將會公開PCC的生產版本軟件鏡像用于安全研究。蘋果自己也會發布和維護一套官方軟件工具,供研究人員分析PCC節點上的軟件。除此之外,蘋果的安全賞金計劃也適用于PCC,重要的研究成果同樣可以獲得該計劃的獎勵。
當然了,硬件提供的安全性也不可忽視,由于PCC基于蘋果芯片打造,所以也包含了iPhone中的安全隔區和安全啟動兩大安全子系統。這為其提供了非定位的安全性,攻擊者無法針對特定用戶的數據來發動攻擊,只能靠大規模攻擊來實現,這樣被發現的概率也會一并變高。
寫在最后
蘋果在大規模AI模型上的軟件開發倒是很早就開始了,不過在硬件上,蘋果還是落后于頭部的云服務廠商。不過蘋果只是基于自研芯片打造屬于自己的AI服務器,相較直接采用第三方方案,對于終端的用戶而言,或許這才是保證性能和安全性的最佳路徑。
-
蘋果
+關注
關注
61文章
24411瀏覽量
198748 -
AI服務器
+關注
關注
2文章
107瀏覽量
4901
發布評論請先 登錄
相關推薦
評論