據悉,亞馬遜云服務部門于5月23日宣布,與人工智能新貴Hugging Face達成合作協議,在定制化計算芯片Inferentia2上以更優惠價格運行上千種AI模型。
Hugging Face作為一家估值為45億美元的公司現已成為了眾多AI研究員和開發者分享Chatbot和相關軟件的核心平臺,受到亞馬遜、谷歌、英偉達等巨頭的青睞。
據了解,Hugging Face是開發者獲取和調整諸如Meta Platforms的Llama 3等開源AI模型的首選平臺。
當開發者完成對開源AI模型的調整后,往往希望能利用此模型驅動軟件。因此,亞馬遜和Hugging Face決定聯手,通過在Inferentia2定制化亞馬遜網絡服務(AWS)芯片上實現這一目標。
Hugging Face的產品及增長主管Jeff Boudier表示,對于他們而言,效率至關重要——即確保盡可能多的用戶能夠運行模型,且以最具性價比的方式進行。
盡管英偉達在訓練模型領域處于領先地位,但AWS堅信其芯片有能力以更低成本運行已訓練好的模型。
AWS人工智能產品負責人Matt Wood指出,用戶可能每月僅需訓練一次這些模型,而實際應用中,可能需要每小時對其進行數萬次推理,這正是Inferentia2的獨特優勢所在。
-
AI
+關注
關注
87文章
30887瀏覽量
269066 -
模型
+關注
關注
1文章
3243瀏覽量
48836 -
英偉達
+關注
關注
22文章
3776瀏覽量
91081 -
亞馬遜
+關注
關注
8文章
2666瀏覽量
83350
發布評論請先 登錄
相關推薦
評論