【觀察】軟通動力霍宇：以服務(wù)入局大模型賽道，打通落地“最后一公里”
進入2023年，ChatGPT推動世界步入一個全新時代——大模型時代，它不僅引發(fā)了AI產(chǎn)業(yè)的整體升級換代，同時也讓各種大模型層出不窮，背后的關(guān)鍵原因在于，大模型能普遍提升生產(chǎn)力，而業(yè)內(nèi)眾多公司也都在積極尋找應(yīng)用大模型和生成式AI的機會，希望在產(chǎn)業(yè)端有所作為。確實如此，ChatGPT之所以被稱為AI的“iPhone時刻”，源于ChatGPT為代表的生成式AI能夠讓每個人命令計算機解決問題成為了可能，其可對生產(chǎn)工具、對話引擎、個人助理等各類應(yīng)用，起到協(xié)助人、服務(wù)人甚至超越人的角色，而憑借這項革命性的技術(shù)突破，ChatGPT在搜索引擎與各類工具軟件中率先掀起應(yīng)用熱潮，并引起了行業(yè)用戶對ChatGPT相關(guān)技術(shù)的關(guān)注與學習。同時，海量下游應(yīng)用也因此捕捉到新的技術(shù)與產(chǎn)業(yè)機會，希望通過各類大模型與工程化能力，將類ChatGPT產(chǎn)品能力輸送到原有的應(yīng)用中，更好的賦能企業(yè)的數(shù)智化轉(zhuǎn)型。
但也要看到，要讓大模型從“已有”走向“可用”并不是“一蹴而就”的過程，更多的企業(yè)通常會面臨數(shù)據(jù)資源有限、算力投資難度大、模型泛化能力差、高水平人才稀缺的發(fā)展瓶頸。也正因此，對更多的企業(yè)來說，未來更加“務(wù)實”的做法，就是選擇適合自己的大模型服務(wù)商，“站在巨人的肩膀上”，更好地“用好”大模型。正是洞察到這種迫切的市場需求，作為數(shù)字化轉(zhuǎn)型的實踐者和賦能者，軟通動力近年來始終堅持以全棧式數(shù)字技術(shù)為行業(yè)客戶創(chuàng)造價值，特別是在大模型領(lǐng)域，軟通動力也在積極地探索與實踐，希望憑借自身在AI基礎(chǔ)設(shè)施、AI專業(yè)人才，AI生態(tài)以及在通用領(lǐng)域和專用服務(wù)領(lǐng)域沉淀的豐富應(yīng)用實踐，為行業(yè)客戶提供大模型落地的專業(yè)服務(wù)，打通大模型落地“最后一公里”，更好地加速千行百業(yè)擁抱大模型的新時代。大模型落地的四重挑戰(zhàn)毫無疑問，幾乎沒人會懷疑大模型對未來的顛覆性影響。但現(xiàn)實是，國內(nèi)對大模型的探索仍處于早期階段，無論在研發(fā)、迭代還是使用階段，大模型都是一個消耗資源巨大、使用成本也不低的“奢侈品”。除了成本居高不下之外，企業(yè)想要在實際業(yè)務(wù)場景中部署使用大模型，還面臨著數(shù)據(jù)、參數(shù)調(diào)優(yōu)、人才等諸多的落地難題。
三是，從算法的維度看，AI模型的發(fā)展從AlexNet發(fā)布開始，隨后的研究多數(shù)是圍繞著模型的深度和廣度探索，發(fā)展至今已有BERT、 GPT等典型模型出現(xiàn)，也掀起了預(yù)訓(xùn)練模型的熱潮，目前國內(nèi)的大模型參數(shù)也已經(jīng)攀升至千億、萬億級別，其準確度也在不斷的刷新 SOTA。但與此同時，對于企業(yè)而言，如何選擇合適自身的預(yù)訓(xùn)練模型，如何在具體場景和任務(wù)下，基于成熟的大模型進行微調(diào)能夠快速地產(chǎn)生準確結(jié)果，以及究竟是選擇商用還是開源的大模型服務(wù)，如何平衡成本和訓(xùn)練效果，同樣也是非常讓人“頭疼”的問題。四是，從人才維度看，隨著越來越多的企業(yè)開始廣泛應(yīng)用大模型，相關(guān)的人才需求也成為了新的挑戰(zhàn)。以在人工智能產(chǎn)品實際使用過程中進行數(shù)據(jù)庫管理、算法參數(shù)設(shè)置、人機交互設(shè)計、性能測試跟蹤及其他輔助作業(yè)的AI訓(xùn)練師為例，相關(guān)數(shù)據(jù)顯示，這類人才目前就出現(xiàn)了大量的“缺口”亟待滿足。不難看出，雖然我們已經(jīng)見證了大模型開始與場景、行業(yè)進行深度融合并取得了不錯的成績，驗證了大模型已不僅在科技企業(yè)中應(yīng)用，也邁出了走向千行百業(yè)的步伐，但大模型的落地并不是一件簡單的事情，仍需要解決好算力、數(shù)據(jù)、算法、人才等方面帶來的全新挑戰(zhàn)。以服務(wù)入局大模型賽道基于此，從今年年初開始，軟通動力就積極布局大模型賽道，不僅投資建設(shè)AI算力基礎(chǔ)設(shè)施，同時也站在服務(wù)和落地的視角，希望能夠憑借自身在AI人才資源，AI平臺工具，AI合作生態(tài)以及“躬身實踐”中沉淀的經(jīng)驗和方法論，和行業(yè)客戶共創(chuàng)能夠落地的大模型服務(wù)，更好地幫助企業(yè)迎接大模型時代的到來，具體來說：首先，在AI人才資源方面，這是軟通動力在大模型賽道中獨具特色的優(yōu)勢。公司憑借十余年的技術(shù)積累和行業(yè)經(jīng)驗沉淀，通過將自身的服務(wù)能力橫向拉通、整合之后，目前不僅能夠為行業(yè)客戶提供“全?；钡臄?shù)字技術(shù)服務(wù)，同時更積累了一大批高質(zhì)量的數(shù)字化人才。“我們的第一個切入點就是AI人才方向，投入專門的算力平臺作為培養(yǎng)工程師上手并熟悉大模型的工程實踐環(huán)境，能夠讓相關(guān)開發(fā)語言的工程師和架構(gòu)師更快更熟練玩轉(zhuǎn)大模型，希望通過對算力及人才的投資，讓他們能夠把大模型從產(chǎn)品到落地應(yīng)用之間的鏈條打通，成為大模型領(lǐng)域的專家。而在未來，這批專家資源的能力不僅可以傳遞給更多的員工；另一方面，對企業(yè)來說，也可以直接獲得專家資源的幫助，直接進行企業(yè)所需要的大模型開發(fā)或者提供參數(shù)調(diào)優(yōu)等相關(guān)的服務(wù)?！被粲钫f。
最后，是大模型落地實踐方面，軟通動力也正在和行業(yè)客戶通過“共創(chuàng)”的形式，更好地推動企業(yè)擁抱大模型時代。“現(xiàn)在不少行業(yè)客戶都找到軟通，他們認為目前如果企業(yè)自己要搞一套大模型是有困難的，這些行業(yè)客戶的優(yōu)勢在于他們有不少的行業(yè)數(shù)據(jù)，但是并不知道如何讓這些數(shù)據(jù)更好地實現(xiàn)語料化，或者如何讓大模型在節(jié)省算力的基礎(chǔ)上，更快地實現(xiàn)訓(xùn)練或者推理等等。除此之外，搭建行業(yè)大模型，前期的規(guī)劃以及選型，也是一道門檻，而這些正是軟通動力擅長的工作，因此雙方可以通過共創(chuàng)的形式，共同推進大模型的落地，目前公司已經(jīng)和不少的銀行和保險行業(yè)的客戶展開相關(guān)的合作?！被粲钫f。正如IDC最新發(fā)布的《AI大模型技術(shù)能力評估報告，2023》中提到的：“對于行業(yè)用戶來說，在關(guān)注廠商大模型技術(shù)棧完備性的同時，應(yīng)著重考察廠商的產(chǎn)業(yè)應(yīng)用經(jīng)驗積累，主要發(fā)力點應(yīng)集中在應(yīng)用層，將技術(shù)應(yīng)用到實際業(yè)務(wù)場景中，提前布局，積累行業(yè)、場景經(jīng)驗和數(shù)據(jù)，由此才能‘站在巨人的肩膀上’打造差異化競爭優(yōu)勢?！睆倪@個角度來說，軟通動力在大模型服務(wù)領(lǐng)域積累的四大優(yōu)勢，無疑可以更好地幫助企業(yè)擁抱大模型，加速企業(yè)的數(shù)智化轉(zhuǎn)型。打通落地“最后一公里”事實上，軟通動力以服務(wù)模式“卡位”大模型賽道，本身也是深思熟慮和審慎考量的結(jié)果。霍宇告訴我：“當大模型浪潮襲來之時，我們首先否決掉的就是自己下場做通用大模型平臺，更多還是考慮從行業(yè)大模型的賽道入手，但深入研究之后又發(fā)現(xiàn)，要做行業(yè)大模型，垂直行業(yè)中的數(shù)據(jù)和語料也至關(guān)重要。因此,作為一家服務(wù)型的公司，軟通動力以服務(wù)的模式切入這個市場是最為合適的，我們可以通過專家資源、平臺工具，以及經(jīng)驗和方法論，加上行業(yè)客戶手中的數(shù)據(jù)資源，雙方以共創(chuàng)的形式合作，是能夠以較快方式實現(xiàn)大模型落地的。”同樣，以“服務(wù)”模式入局大模型賽道，也讓軟通動力能夠以更加“全局”的視角來觀察和看待整個大模型市場，并從中沉淀和總結(jié)出了不少大模型落地中值得重視的關(guān)鍵事項。
第一，是關(guān)于開源和商用大模型的選型問題。對此，霍宇認為，基于業(yè)務(wù)的需求情況，中國企業(yè)也會像選擇公有云和私有云部署那樣，既會選擇直接接入商用大模型，也會選擇基于開源大模型部署本地化的服務(wù)。“拋開算力資源問題不說，如果單看模型參數(shù)大小，開源大模型在相對小的規(guī)模上能力已經(jīng)接近商用模型，漸漸有了趕超的勢頭。另外，相對追求大而全的通用商用大模型，在垂直領(lǐng)域的模型訓(xùn)練上，開源模型的數(shù)量已經(jīng)超過商用模型，因此企業(yè)不用太擔心開源大模型會落后于主流的商用大模型平臺。而在行業(yè)大模型領(lǐng)域，應(yīng)該說整個市場都還不太成熟，還處在探索與實踐的階段，這就需要整個產(chǎn)業(yè)鏈通過共創(chuàng)的方式，推動行業(yè)大模型的慢慢成熟，最終打通落地的最后一公里?！被粲钫f。第二，除了算力和模型參數(shù)之外，企業(yè)應(yīng)該把重心放在數(shù)據(jù)以及語料的沉淀上。在霍宇看來，目前語料確實是一個稀缺資源，但很多企業(yè)沒有意識到這一點，未來企業(yè)如果要做大模型，數(shù)據(jù)和語料就是繞不開的問題。也正因此，數(shù)據(jù)和語料的質(zhì)量問題就變得尤為重要，同樣底層數(shù)據(jù)的清洗、標注、治理等一系列的工作也變得更加地迫在眉睫。“我們目前也正在幫助一些行業(yè)客戶做數(shù)據(jù)治理的工作，我們判斷做數(shù)據(jù)和語料的工作還會長久持續(xù)，只不過很多工作如數(shù)據(jù)標注、數(shù)據(jù)收集的工作會變成‘工具+人工’的方式，同時這些數(shù)據(jù)和語料也會更加關(guān)注行業(yè)屬性。不僅如此，在具體的實踐過程中，我們也總結(jié)和沉淀了如何把語料或數(shù)據(jù)形成標準化的方法論，多大的參數(shù)量需要‘喂’它多少的語料能夠達到比較合適的性價比，這都是軟通動力正在做的事情。在此基礎(chǔ)上，業(yè)務(wù)規(guī)則的設(shè)定，數(shù)學建模以及參數(shù)調(diào)優(yōu)，以及后續(xù)長期的優(yōu)化等工作，我們也都是可以為行業(yè)客戶提供相關(guān)服務(wù)的?！彼f。
申耀的科技觀察，由資深科技媒體人申斯基創(chuàng)辦，20年企業(yè)級科技內(nèi)容傳播工作經(jīng)驗，長期專注產(chǎn)業(yè)互聯(lián)網(wǎng)、企業(yè)數(shù)字化、ICT基礎(chǔ)設(shè)施、汽車科技等內(nèi)容的觀察和思考。
原文標題：【觀察】軟通動力霍宇：以服務(wù)入局大模型賽道，打通落地“最后一公里”
文章出處：【微信公眾號：軟通動力】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
軟通動力
+關(guān)注
關(guān)注
1文章
843瀏覽量
15187
原文標題：【觀察】軟通動力霍宇：以服務(wù)入局大模型賽道，打通落地“最后一公里”
文章出處：【微信號：isoftstone-group，微信公眾號：軟通動力】歡迎添加關(guān)注！文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
解決驗證“最后一公里”的挑戰(zhàn)：芯神覺Claryti如何助力提升調(diào)試效率
過程中必不可少的一環(huán)，它幫助工程師找到問題的根源并進行優(yōu)化。隨著設(shè)計復(fù)雜性的提升，調(diào)試作為驗證的“最后一公里”正面臨越來越多的挑戰(zhàn)。如何有效提升調(diào)試效率，已成為行
中軟國際模型工場加速各行業(yè)智能化進程
介紹了中軟國際模型工場如何通過全棧AI場景化服務(wù)，解決大模型在企業(yè)應(yīng)用中的核心痛點，幫助企業(yè)實現(xiàn)從探索到全面實踐的智能化轉(zhuǎn)型，打通AI應(yīng)用
軟通動力聯(lián)合華為助力永鋒臨港建設(shè)鋼鐵行業(yè)大模型
近日，軟通動力憑借AI、大數(shù)據(jù)、云計算等服務(wù)能力成功簽約山東鋼鐵集團永鋒臨港有限公司AI大模型建設(shè)實施項目。作為華為云盤古大模型
亞馬遜云科技與伊克羅德信息攜手，共推AI賦能產(chǎn)業(yè)升級
近日，伊克羅德信息科技，作為業(yè)界領(lǐng)先的數(shù)智化轉(zhuǎn)型服務(wù)商，與亞馬遜云科技正式簽署了一項為期四年的市場拓展戰(zhàn)略合作計劃（SCA）。雙方將深度整合云端前沿技術(shù)與生成式AI解決方案，旨在打通AI應(yīng)用落
言犀智能體平臺上線了！趕緊來試試！連接大模型與企業(yè)應(yīng)用的“最后一公里”
言犀智能體平臺是企業(yè)級一站式 AI 智能體搭建與發(fā)布平臺。聚合大模型、知識庫、插件、工作流等能力，為用戶提供低成本將LLM落地為企業(yè)應(yīng)用的SaaS平臺。無需代碼基礎(chǔ)亦可便捷的使用大模型
億鑄科技談大算力芯片面臨的技術(shù)挑戰(zhàn)和解決策略
隨著人工智能技術(shù)的飛速發(fā)展，算力已成為推動產(chǎn)業(yè)變革的關(guān)鍵力量，但大模型的快速發(fā)展，參數(shù)的爆發(fā)，對于算力需求也提出了更高的要求，帶來了全新的挑戰(zhàn)。那大算力芯片應(yīng)對這些挑戰(zhàn)，如何才能夠助力人工智能技術(shù)的發(fā)展，實現(xiàn)算力的落地和最后
北京靈奧科技基于亞馬遜云科技打造大模型中間件
企業(yè)AI應(yīng)用落地的最后一公里。靈奧科技現(xiàn)已服務(wù)全球超過30,000家用戶，廣泛覆蓋電商、金融、法律、房地產(chǎn)、教育和能源等行業(yè)。 大模型中間件
軟通動力攜手伙伴共創(chuàng)母嬰行業(yè)垂域大模型
業(yè)應(yīng)用領(lǐng)域進行聯(lián)合創(chuàng)新，落地應(yīng)用場景，尤其是在垂域大模型領(lǐng)域，雙方聯(lián)合伙伴展開了積極的探索和緊密的合作，共同助力行業(yè)企業(yè)實現(xiàn)更深層次的數(shù)智轉(zhuǎn)型升級，例如本次大會期間，軟通動力攜手華為云
軟通動力：資產(chǎn)要素驅(qū)動下的數(shù)據(jù)資產(chǎn)入表
當前，數(shù)據(jù)資產(chǎn)作為數(shù)字化轉(zhuǎn)型進程中的新興資產(chǎn)類型，正日益成為加快數(shù)字經(jīng)濟發(fā)展的重要戰(zhàn)略資源。6月16日，以“基于數(shù)據(jù)要素的新質(zhì)生產(chǎn)力”為主題的“2024 CIO百人會高峰論壇”在北京舉辦，軟通動力
云天勵飛正式發(fā)布“深目”AI模盒，讓大模型應(yīng)用平民化
3月28日，云天勵飛舉辦AI大模型產(chǎn)品發(fā)布會，正式發(fā)布“深目”AI模盒。該產(chǎn)品能夠做到“3個90%”——覆蓋場景超過90%、算法精度超過90%，使用成本降低90%，解決大模型在場景落地最后
軟通動力聯(lián)合華為云推出鴻蒙應(yīng)用聯(lián)營商品
近日，軟通動力與華為云推出的聯(lián)營商品“軟通動力鴻蒙應(yīng)用及元服務(wù)定制開發(fā)服務(wù)”正式
華為中國合作伙伴大會2024 | 軟通動力全面布局算力服務(wù)
而生 數(shù)智有為"為主題的華為中國合作伙伴大會2024在深圳舉辦。大會現(xiàn)場， 軟通動力數(shù)字基礎(chǔ)設(shè)施與集成高級解決方案總監(jiān)戴鵬 向與會嘉賓分享了《軟通動力算力
軟通動力榮膺首批“HarmonyOS開發(fā)服務(wù)商”
華為在南京隆重舉辦了以“聚勢謀新，攜手并進”為主題的鴻蒙服務(wù)商政策發(fā)布及先鋒計劃授牌儀式。在這一重要時刻，深度參與鴻蒙生態(tài)建設(shè)的軟通動力受邀
科技賦能，MTW400A為農(nóng)村飲水安全打通“最后一公里”
日前，山東省政府縱深推進國家省級水網(wǎng)先導(dǎo)區(qū)建設(shè)，持續(xù)深化“水網(wǎng)+”行動，著力構(gòu)筑水安全保障網(wǎng)、水民生服務(wù)網(wǎng)、水生態(tài)保護網(wǎng)，建設(shè)水美鄉(xiāng)村示范帶、內(nèi)河航運示范帶、文旅融合示范帶、綠色發(fā)展示范帶，推動形成
科技賦能，MTW400A為農(nóng)村飲水安全打通“最后一公里”
日前，山東省政府縱深推進國家省級水網(wǎng)先導(dǎo)區(qū)建設(shè)，持續(xù)深化“水網(wǎng)+”行動，著力構(gòu)筑水安全保障網(wǎng)、水民生服務(wù)網(wǎng)、水生態(tài)保護網(wǎng)，建設(shè)水美鄉(xiāng)村示范帶、內(nèi)河航運示范帶、文旅融合示范帶、綠色發(fā)展示范帶，推動形成
工商網(wǎng)監(jiān)
評論