據enterpriseai報道,目前市場上有80多家AI芯片供應商和初創公司,每家公司都表示,在為廣泛的行業和用途構建AI芯片時,他們都有一個更好的主意。
這樣的情況同樣出現在擁有3年歷史的無晶圓廠AI芯片公司SimpleMachines身上。據報道,他們正在憑借自己獨特的設計去挑戰Nvidia和Marvell這樣的芯片巨頭。當然,像他們這樣的初創公司也是其挑戰對象。其說憑借的就是他們所說的不同方法去解決AI計算的難題。
SimpleMachines的創始人兼首席執行官Karu Sankaralingam說,這始于公司所謂的算法自適應AI芯片,程序員可以對其進行定制,以快速,無縫地滿足其工作流程的需求。
這個想法催生了Mozart:該公司的首個AI芯片,該芯片針對推理進行了優化,在設計中使用了16納米工藝,HBM2高帶寬內存和PCIe Gen3x16尺寸。Sankaralingam告訴EnterpriseAI,公司的Mozart芯片現在正在送樣,正在接受客戶評估。他說,Mozart芯片是由芯片制造商臺積電生產的,具有完整的軟件和硬件堆棧,可讓數據科學家運行程序而無需擔心背后的問題。
Sankaralingam說,Mozart之所以能夠在AI芯片領域脫穎而出,是因為它可以在一個芯片上同時運行多個AI模型。
他說:“之所以發生這種情況,是因為我們的芯片在內部分為64個不同的模塊,如果有必要,程序員可以對其進行尋址并同時運行64個不同的應用程序或模型。” “然后,開發人員可以編寫64個不同的模型,并且可以在一芯片硅片上同時運行64個模塊(如果需要)。
Mozart的軟件堆棧包括直接的TensorFlow支持以及C / C ++和Python的API,使程序員和數據科學家可以使用它。
Mozart可以以稱為Accelerando的PCIe卡形式購買,也可以通過SimpleMachines的Symphony Cloud Service進行使用,該服務可以訪問Azure,Google Cloud Platform和AWS等公有云,本質上是一種AI-as-a -服務交付模式。初始測試顯示了可以同時運行的推薦引擎,語音和語言處理以及圖像檢測的用例。將來,帶有Mozart芯片的Accelerando卡將在標準OEM廠商的系統中出售,例如Dell和Supermicro。
不同的方法
Moor Insights&Strategy的HPC和機器學習高級研究分析師Karl Freund表示,近年來他在AI芯片和軟件的“寒武紀大爆發”中看到了十幾種獨特的AI芯片設計,但是SimpleMachines的Mozart設計不同于大多數設計。
“像所有的AI初創公司一樣,他們聲稱性能出色,但是現在還不能斷言他們的說法” Freund說。“他們的內存架構給人留下了深刻的印象,這種架構看上去優雅而簡單,這將使繁重的軟件工作變得更容易解決。在軟件方面,他們還有很多工作要做,例如對PyTorch的支持。但是隨著平臺的成熟,他們似乎正在朝著正確的方向前進,這值得進一步跟蹤。”
AI芯片要求不斷變化
他說,新型Mozart AI芯片的靈感之一是Sankaralingam正在進行的研究,該研究指出需要一種新型的架構,以適應當今的大數據時代。Sankaralingam還是威斯康星大學麥迪遜分校的計算機科學教授,他在那里任教14年。
Sankaralingam說,當前的芯片平臺,甚至包括為特定要求而構建的定制芯片,都無法滿足這些需求。“應用呈爆炸式增長,因此,它不再只是處理圖像了。它是文本到語音乘以重要數據的時間,并且變化迅速且不斷增長,然后每六個月突破一次。公司的機會是市場需要大量的計算效率,而GPU卻無法滿足他們的需求。這些趨勢使我們意識到,針對一個AI問題的專用定制芯片已經面世。”
他說,借助Mozart,這些挑戰得以解決,因為可以通過使用芯片的深度軟件堆棧即時重新編程來更改芯片上的項目需求。
他說:“我們正在與客戶的討論中,他們都說過不同的公司如何使用不同的模型,許多公司正在使用許多模型。” “這使我們再次審視了關于AI計算必要條件的假設。能力和效率并不是唯一的指標,另一個重要的指標是算法適應性。GPU之所以會出現,是因為它們具有很高的適應性。”
Sankaralingam說,使用另一種方法,SimpleMachines的策略是忽略應用正在嘗試執行的操作,而轉向算法。“我們觀察到,許多或所有這些算法從根本上分解為四種行為:數據收集,計算,控制和同步。我們可以使用這些行為對算法進行分類。然后,我們構建一個個可以將應用分解為這些行為的編譯器,并將該信息提供給我們的硬件。”
他說,然后硬件不再執行指令,獲取,分支中斷器和緩存,而是實現了這四種行為。
Sankaralingam說:“這就是我們需要對它們進行編程的全部,作為一名程序員,您可以在TensorFlow中編寫這些代碼,然后提取出這些行為并將其映射到我們的芯片上。” “這是一個很大的平行轉變。”
Mozart的體系結構將任何軟件應用程序抽象為少量已定義的行為,然后使用SimpleMachines自己的編譯器集成到TensorFlow等標準AI框架的后端。據該公司稱,這使得架構可以實時轉換這些程序并重新配置硬件,從而產生一種芯片,其性能就像最初為該應用程序設計的一樣。
SimpleMachines認為其Mozart AI芯片將在公共數據中心,網絡安全,金融和保險市場中看到機遇,并在未來的邊緣和移動設備市場中為其路線圖上即將推出的產品提供更多機遇。
責任編輯:tzh
-
芯片
+關注
關注
456文章
50965瀏覽量
424823 -
晶圓
+關注
關注
52文章
4936瀏覽量
128112 -
AI
+關注
關注
87文章
31155瀏覽量
269481
發布評論請先 登錄
相關推薦
評論