7月13-14日，第三屆中國集成電路設計創(chuàng)新大會暨無錫IC應用博覽會（ICDIA 2023）在無錫舉行。天數(shù)智芯副總裁郭為受邀出席“AIoT與ChatGPT”分論壇并發(fā)表了題為《國產(chǎn)GPU的大模型實踐》的主題演講，全面介紹了天數(shù)智芯通用GPU產(chǎn)品特色以及在大模型上的應用情況。

天數(shù)智芯副總裁郭為

郭為指出，算力關乎大模型產(chǎn)品的成敗。作為中國領先的通用GPU 高端芯片及超級算力系統(tǒng)提供商，天數(shù)智芯先后發(fā)布了訓練產(chǎn)品天垓100、推理產(chǎn)品智鎧100，充分發(fā)揮產(chǎn)品自主可控、性能高、通用性強、靈活性高等特點，廣泛支持主流AI生態(tài)和國內(nèi)外開發(fā)框架，傾力打造了高性價比、廣通用的全棧式集群解決方案，為大模型提供了強大算力支撐。

郭為介紹，去年以來天數(shù)智芯在大模型訓練、推理支持上取得了顯著進展。基于天垓100的自主算力集群已率先完成國內(nèi)70億參數(shù)大模型訓練，200P規(guī)模算力集群正在開展650億參數(shù)大模型預訓練。此外，天垓100正支持各垂直行業(yè)大模型訓練微調(diào)，可支持全量參數(shù)微調(diào)、Lora快速微調(diào)、提示詞微調(diào)等所有訓練微調(diào)方法。智鎧100支持千億級參數(shù)大模型推理，基于智鎧100的推理一體機已應用于法律、金融等行業(yè)客戶大模型推理業(yè)務中，提供較國際主流產(chǎn)品更優(yōu)的性能、性價比及能耗。

郭為表示，天數(shù)智芯將始終以服務國家戰(zhàn)略為主線，持續(xù)推進通用GPU核心技術創(chuàng)新突破，打造更可信、更高效、更綠色的世界一流算力引擎，賦能大模型創(chuàng)新發(fā)展。

作為國內(nèi)集成電路領域推動“創(chuàng)新”與“應用”的重要平臺，ICDIA致力于推動IC設計與芯片應用、促進芯片與系統(tǒng)整機供需對接，實現(xiàn)芯片企業(yè)和整機企業(yè)的互惠發(fā)展。科技部重大專項司副司長邱鋼，江蘇省科技廳二級巡視員楊小平，無錫市副市長周文棟，國家01專項技術總師、中國集成電路設計創(chuàng)新聯(lián)盟理事長、清華大學教授魏少軍等出席了本屆會議。