英特爾通過(guò)開(kāi)放、易獲取的AI系統(tǒng)和生態(tài)協(xié)作,以創(chuàng)新的方式為運(yùn)動(dòng)員提供支持,并助力企業(yè)客戶(hù)創(chuàng)造更多可能。
英特爾分享了與國(guó)際奧林匹克委員會(huì)(IOC)的一些合作細(xì)節(jié),并披露了其以行業(yè)需求為導(dǎo)向所打造的生成式AI(GenAI)檢索增強(qiáng)生成(RAG)解決方案。該成果深度展示了英特爾如何通過(guò)基于英特爾至強(qiáng)處理器和英特爾Gaudi AI加速器的開(kāi)放式AI系統(tǒng)及平臺(tái),幫助開(kāi)發(fā)者和企業(yè)應(yīng)對(duì)AI高速發(fā)展所帶來(lái)的需求。
“
此次與國(guó)際奧委會(huì)的合作,彰顯了英特爾致力于推動(dòng)AI觸手可及。我們正在打造一個(gè)開(kāi)放的環(huán)境以鼓勵(lì)創(chuàng)新,幫助開(kāi)發(fā)者和企業(yè)構(gòu)建定制化的AI解決方案并取得切實(shí)成果。通過(guò)擁抱開(kāi)放、協(xié)作的生態(tài)系統(tǒng),英特爾正以創(chuàng)新的方式為運(yùn)動(dòng)員提供支持,并助力企業(yè)客戶(hù)創(chuàng)造更多可能。
——Justin Hotard
英特爾執(zhí)行副總裁
兼數(shù)據(jù)中心與人工智能事業(yè)部總經(jīng)理
”
基于Athlete365平臺(tái)的聊天機(jī)器人:對(duì)于運(yùn)動(dòng)員而言,獲得奧運(yùn)會(huì)參賽資格僅僅是個(gè)開(kāi)始。為了幫助全球約11,000名擁有不同語(yǔ)言和文化背景的運(yùn)動(dòng)員在奧運(yùn)比賽場(chǎng)地出入,并遵守相關(guān)規(guī)定,國(guó)際奧委會(huì)與英特爾合作開(kāi)發(fā)了基于Athlete365平臺(tái)的聊天機(jī)器人AthleteGPT。這是一款基于英特爾至強(qiáng)處理器和Gaudi加速器的RAG解決方案。AthleteGPT不僅能夠應(yīng)答運(yùn)動(dòng)員的日常詢(xún)問(wèn)并進(jìn)行互動(dòng),同時(shí)將在運(yùn)動(dòng)員入住巴黎奧運(yùn)村期間,為其按需提供信息,使運(yùn)動(dòng)員能夠?qū)W⒂谧陨碛?xùn)練和比賽。
重要意義:部署生成式AI解決方案會(huì)帶來(lái)諸如成本、規(guī)模、準(zhǔn)確性、開(kāi)發(fā)需求、隱私和可靠性等方面的挑戰(zhàn)。作為一種關(guān)鍵的生成式AI工作負(fù)載,RAG可以讓企業(yè)安全地利用專(zhuān)有數(shù)據(jù),增強(qiáng)AI產(chǎn)出結(jié)果的及時(shí)性與可靠性。這將極大地提高AI應(yīng)用的質(zhì)量和實(shí)用性,對(duì)于推動(dòng)當(dāng)下的數(shù)字化發(fā)展意義非凡。
基于AI平臺(tái)、開(kāi)放標(biāo)準(zhǔn)以及強(qiáng)大的軟件和系統(tǒng)生態(tài),英特爾以協(xié)作的方式幫助開(kāi)發(fā)者構(gòu)建定制化的生成式AI RAG解決方案,從而滿(mǎn)足企業(yè)的多樣化需求。此外,英特爾亦將持續(xù)提供開(kāi)放、強(qiáng)大且可組合的多供應(yīng)商生成式AI解決方案。
生成式AI RAG解決方案工作流程:英特爾與行業(yè)合作伙伴共同創(chuàng)建了開(kāi)源、可互操作的解決方案,用于輕松部署RAG。基于企業(yè)AI開(kāi)放平臺(tái)(OPEA),該方案是一種以行業(yè)需求為導(dǎo)向、開(kāi)箱即用,且可立即投產(chǎn)的 RAG解決方案。該生成式AI一站式解決方案在助力企業(yè)便捷地部署數(shù)據(jù)中心RAG的同時(shí),具備高度的靈活性和可定制性,并集成了多個(gè)OEM系統(tǒng)及行業(yè)合作伙伴的產(chǎn)品組件。
該生成式AI一站式解決方案將基于OPEA的微服務(wù)組件集成至用于部署英特爾至強(qiáng)處理器和Gaudi AI系統(tǒng)的、可擴(kuò)展的RAG解決方案中,可通過(guò)Kubernetes、Red Hat OpenShift等經(jīng)驗(yàn)證的編排框架進(jìn)行無(wú)縫擴(kuò)展,并提供兼具可靠性和系統(tǒng)遙測(cè)功能的標(biāo)準(zhǔn)化API。
●以開(kāi)放式軟件堆棧打破壁壘:幾乎所有大語(yǔ)言模型(LLM)的開(kāi)發(fā)都基于高抽象框架PyTorch,該框架由英特爾至強(qiáng)和Gaudi及相關(guān)技術(shù)提供支持,助力在英特爾AI系統(tǒng)及平臺(tái)上實(shí)現(xiàn)輕松開(kāi)發(fā)。同時(shí),英特爾攜手OPEA開(kāi)發(fā)了用于RAG和LLM部署的開(kāi)放式軟件堆棧。該軟件堆棧通過(guò)生成式AI一站式解決方案進(jìn)行優(yōu)化,并基于PyTorch、Hugging Face服務(wù)庫(kù)(TGI和TEI)、LangChain以及Redis向量數(shù)據(jù)庫(kù)所構(gòu)建。
●滿(mǎn)足開(kāi)發(fā)者需求:OPEA為企業(yè)提供開(kāi)源、標(biāo)準(zhǔn)化、模塊化,以及異構(gòu)的RAG流水線(xiàn)(pipeline),并致力于為開(kāi)放式模型及多種編譯器和工具鏈的開(kāi)發(fā)提供支持。其加速了針對(duì)垂直領(lǐng)域用例的容器化AI集成與交付。OPEA通過(guò)創(chuàng)建細(xì)化、可組合的框架,引領(lǐng)堆棧技術(shù)前沿,解鎖AI的全新可能。
憑借生成式AI一站式解決方案與全面的企業(yè)AI堆棧,英特爾提供了完整的解決方案,以應(yīng)對(duì)企業(yè)和數(shù)據(jù)中心在部署和擴(kuò)展RAG與LLM應(yīng)用時(shí)所面臨的挑戰(zhàn)。通過(guò)基于英特爾技術(shù)與產(chǎn)品的AI系統(tǒng)及平臺(tái),以及OPEA的優(yōu)化軟件,企業(yè)可以更高效、快速地發(fā)揮并利用生成式AI的巨大潛力。
現(xiàn)階段,如何將最新的AI計(jì)算技術(shù)應(yīng)用到企業(yè)中,并推動(dòng)關(guān)鍵業(yè)務(wù)成果落地,是企業(yè)亟待解決的問(wèn)題。通過(guò)與廣大行業(yè)合作伙伴的戰(zhàn)略合作,英特爾正為由生成式AI和RAG解決方案驅(qū)動(dòng)的AI服務(wù)創(chuàng)造更多新的可能性。
-
英特爾
+關(guān)注
關(guān)注
61文章
9964瀏覽量
171784 -
生成式AI
+關(guān)注
關(guān)注
0文章
504瀏覽量
475
原文標(biāo)題:英特爾以生成式AI RAG解決方案,為巴黎奧運(yùn)健兒提供便捷體驗(yàn)
文章出處:【微信號(hào):英特爾中國(guó),微信公眾號(hào):英特爾中國(guó)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論