在SEMiBAY2024《HBM與存儲(chǔ)器技術(shù)與應(yīng)用論壇》上,億鑄科技的創(chuàng)始人、董事長(zhǎng)兼CEO熊大鵬博士發(fā)表了題為《超越極限:大算力芯片的技術(shù)挑戰(zhàn)與解決之道》的演講,深入剖析了AI大模型時(shí)代算力芯片所面臨的挑戰(zhàn)與機(jī)遇。
熊大鵬博士指出,AI大模型技術(shù)的快速發(fā)展推動(dòng)了算力需求的急劇增長(zhǎng)。隨著數(shù)據(jù)、算力和模型參數(shù)量的不斷提升,AI大模型的能力顯著增強(qiáng),甚至出現(xiàn)了類(lèi)似人類(lèi)的“涌現(xiàn)”能力,預(yù)示著AI應(yīng)用的廣泛落地即將到來(lái)。然而,現(xiàn)有的芯片硬件性能提升速度已難以滿足這種急劇增長(zhǎng)的算力需求,摩爾定律正面臨前所未有的挑戰(zhàn)。
據(jù)Omdia最新報(bào)告預(yù)測(cè),用于云計(jì)算和數(shù)據(jù)中心人工智能的GPU和其他加速芯片市場(chǎng)規(guī)模將大幅增長(zhǎng),但到2026年市場(chǎng)可能會(huì)出現(xiàn)明顯拐點(diǎn),增長(zhǎng)動(dòng)力將從技術(shù)采用轉(zhuǎn)向人工智能應(yīng)用需求的變化。同時(shí),IDC預(yù)測(cè)未來(lái)人工智能服務(wù)器將更加注重提高計(jì)算能力和處理效率(能效比),以適應(yīng)更復(fù)雜、更大規(guī)模的人工智能應(yīng)用。
面對(duì)這一挑戰(zhàn),熊大鵬博士強(qiáng)調(diào),硬件架構(gòu)的創(chuàng)新成為突破算力瓶頸的關(guān)鍵路徑之一?,F(xiàn)有的AI芯片面臨著“三堵墻”問(wèn)題:存儲(chǔ)墻、能耗墻和編譯墻。存儲(chǔ)墻是指存儲(chǔ)器的數(shù)據(jù)訪問(wèn)速度跟不上計(jì)算單元的數(shù)據(jù)處理速度,導(dǎo)致性能瓶頸;能耗墻則是指隨著芯片性能的提升,能耗和散熱問(wèn)題成為限制性能進(jìn)一步提升的主要因素;編譯墻則是隨著AI模型的復(fù)雜性增加,編譯器需要處理的數(shù)據(jù)量和計(jì)算任務(wù)也急劇增加,使得優(yōu)化變得非常困難。
為了打破這三堵墻,億鑄科技選擇了創(chuàng)新之路。熊大鵬博士介紹,億鑄科技采用“存算一體超異構(gòu)”架構(gòu)這一全新的芯片設(shè)計(jì)思路,極大地減少了數(shù)據(jù)搬運(yùn)的延遲,提升了整體的計(jì)算效率和能效比。這種架構(gòu)通過(guò)將數(shù)據(jù)搬運(yùn)量大幅下降,使得有效算力密度能夠線性增長(zhǎng),從而突破傳統(tǒng)計(jì)算模式的瓶頸。
熊大鵬博士進(jìn)一步指出,未來(lái)算力增長(zhǎng)將以存儲(chǔ)單元為中心,而不是傳統(tǒng)的算力單元。通過(guò)存算一體架構(gòu)等技術(shù),可以打破有效算力的天花板,實(shí)現(xiàn)更高的有效算力。億鑄科技自成立以來(lái),始終致力于通過(guò)存算一體提供更具性價(jià)比、更高能效比、更大算力發(fā)展空間的AI大算力芯片發(fā)展新路徑。
展望未來(lái),熊大鵬博士表示,隨著AI技術(shù)的不斷進(jìn)步和算力需求的不斷增長(zhǎng),億鑄科技將通過(guò)創(chuàng)新的存算一體架構(gòu)為AI芯片的發(fā)展提供新的方向。在大模型時(shí)代,億鑄科技的技術(shù)和產(chǎn)品將為AI技術(shù)的發(fā)展提供強(qiáng)大的支持,推動(dòng)整個(gè)行業(yè)向前發(fā)展。我們有理由期待,隨著億鑄科技技術(shù)的不斷成熟和應(yīng)用的不斷擴(kuò)展,AI芯片技術(shù)將迎來(lái)一個(gè)新的發(fā)展階段,為科技進(jìn)步做出更大的貢獻(xiàn)。
-
芯片
+關(guān)注
關(guān)注
455文章
50816瀏覽量
423613 -
AI
+關(guān)注
關(guān)注
87文章
30894瀏覽量
269085 -
算力
+關(guān)注
關(guān)注
1文章
977瀏覽量
14810
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論