卡奧斯智能交互引擎是卡奧斯基于海爾近40年工業生產經驗積累和卡奧斯7年工業互聯網平臺建設的最佳實踐,基于大語言模型和RAG技術,集合海量工業領域生態資源方優質產品和知識服務,旨在通過智能搜索、連續交互,實時生成個性化的內容和智能化產品推薦,為用戶提供快速、可靠的交互式搜索服務,首創了聚焦工業領域的智能交互引擎。
詳情戳:卡奧斯智能交互引擎
現在開發一個APP需要多久?
只需三步,幾分鐘,純靠自然語言和鼠標“點點點”即可。
話不多說,直接展示!
第一步:說出你的想法
我們首先可以直接用自然語言描述一下想要打造APP的需求,例如:
為我的團隊創建一個應用程序,可以通過一個表單提交項目審批。這個表單將接受詳細信息,并允許用戶上傳相關文件。
靜候幾秒之后,這個AI便會根據你的需求,分析總結APP的用例、流程和關鍵特征等信息。
在確認沒問題之后,我們就可以點擊右下角的“生成APP”按鈕。
第二步:編輯APP
在這個可視化的界面中,我們可以進行編輯用戶界面、數據對象和自動化等操作。
無論是給APP添加新元素或者新頁面,都只需要一個“拖拽”的動作——把右邊的組件拉進來。
而且所有的改動都會自動在你開發的APP中實時生效,可以隨時進行預覽。
第三步:準備“上崗”
在完成所有的APP配置工作之后,我們就可以把它部署到測試環境里進行測試。
確認無誤之后,就可以上線使用了。
而且日后要是有內容、功能上的更新,操作上也都是像上面的步驟一樣,是所見即所得的那種。
這便是亞馬遜云科技在深夜的紐約峰會上正式發布的一項新功能App Studio。
亞馬遜云科技AI產品副總裁Matt Wood在現場還表示:
App Studio是構建應用程序最快、最簡單的方式。
△
亞馬遜云科技AI產品副總裁,Matt Wood
然而縱觀亞馬遜云科技的整場活動,App Studio還只是新發布中的一隅。
最為直觀的感受便是塞滿了生成式AI——
應用層、模型層、算力層,層層都有新動作。
用聊天的方式來編程
在生成式AI應用層方面,除了剛才提到的App Studio之外,最具代表性的,便是亞馬遜云科技面向企業和開發者推出的Amazon Q了。
而就在今天的活動上,開發者版本Amazon Q Developer也展示了它非常AI的一面。
例如給定一段代碼,我們現在在IDE中只需點擊“Explain”,它就能快速對代碼做解讀。
選定特定代碼片段,同樣是一個點擊的動作——“Fix”,還可以對其做修正工作。
如果有對代碼不清楚的地方,還可以用自然語言提問,Amazon Q Developer“啪的一下”就可以給你答疑解惑。
除此之外,Amazon Q Developer今天還上新了自定義(Customization)的功能。
簡單來說,就是開發者現在可以在內部庫、API、包、類和方法中找到更加相關的代碼推薦了。
例如一家金融公司的程序員,要編寫一個函數來計算客戶的總投資組合價值,那么他現在僅需在注釋中描述意圖或鍵入函數名稱(如computePortfolioValue(customerId: String))即可。
而后Amazon Q Developer就會從私有代碼庫中學到的示例建議代碼來實現這個功能,是更符合“本公司寶寶體質”的那種。
如此一來便讓生成式AI更加貼近程序員們的訴求:
生成更具個性化風格的代碼
更加理解私有文檔
可以掌握內部軟件包
那么對于這項功能的結果,程序員們買單嗎?
Matt Wood在現場給出了英國BT公司在使用Amazon Q Developer后的真實數據:
代碼接受率達到了37%。
成功將超過20萬行的代碼轉換并部署到了生產環境中。
由此可見,現在編程這件事的門檻,已經被亞馬遜云科技的生成式AI給打下去了。
此外,Amazon Q Apps在今天也正式可用,同樣是只需要自然語言,就可以輕松打造一個企業級App。
Amazon Bedrock:更聰明,也更安全了
亞馬遜云科技的大模型能力對外輸出,主要依靠處于模型層的Amazon Bedrock。
簡單理解,Amazon Bedrock是一個集成了多種先進AI大模型的平臺。
只需單個API,就可以提供包括Claude、Mistral、Llama、Stable Diffusion、自研Titan系列在內的30多個模型的能力。
目前讓大模型變得更聰明的方法之一便是檢索增強生成(RAG),此前的Amazon Bedrock已然是支持這個功能的。
而就在今天,亞馬遜云科技在數據層面上做了進一步的更新——
除了可以選擇原先的Amazon S3之外,現在的數據源開可以pick來自Web爬蟲和第三方的數據。
例如以Confluence作為數據源為例,只需簡單的4步就可以完成操作。
包括為數據源提供名稱和描述,選擇托管方法,并輸入Confluence URL等。
在完成Confluence數據源配置后,便可以通過選擇嵌入模型并配置所選的向量存儲來完成知識庫設置了。
但隨著數據源的增多,安全,便自然而然地成為了一種隱患。
為此,亞馬遜云科技在Amazon Bedrock上還加了一把更安全的“鎖”——Guardrails。
具體而言,是在原先已有的四大安全措施,即被主題過濾器、內容過濾器、敏感信息過濾器和單詞過濾器的基礎上,再新添兩道“安全栓”:
上下文基準檢測(Contextual grounding check)
ApplyGuardrail API
上下文基準檢測的目的,是檢測基于參考源和用戶查詢的模型響應中的幻覺,主要包含Grounding和Relevance,在設置過程中可以對二者的閾值做調整。
ApplyGuardrail API目的,則是評估所有基礎模型的輸入提示和模型響應,實現對所有生成式AI應用的集中治理。
這個功能允許對使用任何自定義或第三方基礎模型構建的所有生成式AI應用程序,采用標準化和一致的保護措施。
如此一來,Guardrails起到了阻止多達85%的有害內容、過濾超過75%的RAG幻覺響應的作用。
除此之外,在Agents方面,亞馬遜云科技為Amazon Bedrock上新了記憶保留(Memory retention)的功能。
簡單來說,這個功能可以保留Agents與用戶對話的摘要,提供流暢的自適應體驗。
這在復雜多步驟任務,如用戶交互和企業自動化解決方案等方面可以發揮重要的作用。
值得注意的是,每個用戶的對話歷史和上下文都安全地存儲在唯一的內存標識符下,并且默認保留30天。
除了記憶變長了,現在Amazon Bedrock上Agents的代碼解釋能力也被增強。
這樣做的目的,同樣是更好地處理數據分析、數據可視化、文本處理、求解方程和優化問題等復雜用例。
具體到Amazon Bedrock上的大模型,亞馬遜云科技則是對Claude 3 Haiku增添了微調(Fine-tuning)的功能。
據了解,Anthropic是在Amazon Bedrock中首發了這個功能。
在微調之后,Claude 3 Haiku現在的“打開方式”是這樣的:
分類準確率從81.5%提高到 99.6%,同時將每個查詢的tokens減少了89%。
最后,在算力和能源方面,亞馬遜云科技也在今天的活動帶來了一個好消息:
提前七年實現100%可再生能源目標!
總而言之,縱觀整場的發布活動,圍繞生成式AI,亞馬遜云科技已然是做到了“多快好省”。
如何評價?
首先,是速度夠迅猛。
以Amazon Bedrock為例,其實它從2023年4月發布到現在也只有一年多的時間而已,但幾乎是保持著每1、2個月一更新的速度:
2023年6月:投資1億美元成立生成式AI創新中心。
2023年7月:宣布支持Meta推出的最新Llama 2基礎模型,并發布7項生成式AI新功能。
2023年9月:宣布與Anthropic展開戰略合作。
2023年11月:推出生成式AI三層架構,并發布企業級生成式AI助手Amazon Q。
2024年2月:Mistral AI登陸Amazon Bedrock。
2024年3月:Claude 3登陸Amazon Bedrock。
2024年4月:Amazon Bedrock功能重磅升級-自定義模型導入,模型評估功能正式可用。
2024年5月:Amazon Bedrock Studio預覽版發布。
尤其是當主流大模型發布重大更新之際,例如Claude 3,Amazon Bedrock幾乎是在第一時間將其囊括了進來。
與之相呼應的,這些主流大模型玩家也是將其功能更新的首發地選在了Amazon Bedrock,正如此次Claude 3 Haiku新增的微調功能。
其次,是技術夠實力。
亞馬遜云科技在AIGC時代與眾多主流大模型玩家還有些許不同的地方,就是它屬于全棧型選手。
也正因如此,每一次的更新迭代是要照顧到算力層、模型層和應用層整套流程。
從這次的發布來看,亞馬遜云科技也是針對每一層分別做了多項功能和能力上的優化,就像拼圖一般,不斷地在擴大生成式AI的版圖。
根據Matt Wood所公布的數據顯示,在過去18個月里,亞馬遜云科技在生成式AI發布的功能數量,是第二、第三名加起來的2倍還要多。
如此數量,可以說是對技術實力的一種認證了。
最后,是市場夠認可。
這一點,同樣是從Matt Wood公布的一組數據中窺知一二:
96%的AI/ML獨角獸企業在使用亞馬遜云科技
2024福布斯評選的AI 50強公司,90%在使用亞馬遜云科技
審核編輯 黃宇
-
云計算
+關注
關注
39文章
7835瀏覽量
137496 -
人工智能
+關注
關注
1791文章
47352瀏覽量
238774 -
prompt
+關注
關注
0文章
14瀏覽量
2680
發布評論請先 登錄
相關推薦
評論