Meta公司的Llama2語言模型4項測試通過率低，幻覺率高
據了解，人工智能安全企業 DeepKeep日前發表了一份評估報告。報告指出，Meta公司旗下LlamA 2大型語言模型在13個風險評估類別中的表現僅為4項合格。
報告特別強調，擁有70億參數的LlamA 2 7B模型存在嚴重的幻覺現象，其回答的真實性和準確性令人堪憂，幻覺率高達48%。
DeepKeep對此表示擔憂，認為該模型存在明顯的幻覺傾向，可能會導致大量錯誤信息的傳播。
此外，LlamA 2模型還存在注入和操縱的潛在風險。報告顯示，在80%的情況下，通過“提示注入”的手段，攻擊者可輕易操控LlamA的輸出，從而將用戶引流至惡意網站。
聲明：本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人，不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用，如有內容侵權或者其他違規問題，請聯系本站處理。
舉報投訴
-
人工智能
+關注
關注
1791文章
47279瀏覽量
238511 -
Meta
+關注
關注
0文章
271瀏覽量
11388 -
語言模型
+關注
關注
0文章
524瀏覽量
10277
發布評論請先 登錄
相關推薦
Meta發布Llama 3.2量化版模型
近日，Meta在開源Llama 3.2的1B與3B模型后，再次為人工智能領域帶來了新進展。10月24日，Meta正式推出了這兩個模型的量化版
Llama 3 語言模型應用
在人工智能領域，語言模型的發展一直是研究的熱點。隨著技術的不斷進步，我們見證了從簡單的關鍵詞匹配到復雜的上下文理解的轉變。 一、Llama 3 語言
亞馬遜云科技上線Meta Llama 3.2模型
亞馬遜云科技近日宣布，Meta公司的新一代模型Llama 3.2已在其平臺上正式上線。該模型包括Meta
亞馬遜云科技正式上線Meta Llama 3.2模型
亞馬遜云科技宣布，Meta的新一代模型Llama 3.2，包括其首款多模態模型，現已在Amazon Bedrock和Amazon SageMaker中正式可用。
Meta發布多模態LLAMA 3.2人工智能模型
Meta Platforms近日宣布了一項重要技術突破，成功推出了多模態LLAMA 3.2人工智能模型。這一創新模型不僅能夠深度解析文本信息
Meta發布全新開源大模型Llama 3.1
科技巨頭Meta近期震撼發布了其最新的開源人工智能（AI）模型——Llama 3.1，這一舉措標志著Meta在AI領域的又一重大突破。Meta
Meta Llama 3基礎模型現已在亞馬遜云科技正式可用
亞馬遜云科技近日宣布，Meta公司最新發布的兩款Llama 3基礎模型——Llama 3 8B和Llam
英特爾AI產品助力其運行Meta新一代大語言模型Meta Llama 3
英特爾豐富的AI產品——面向數據中心的至強處理器，邊緣處理器及AI PC等產品為開發者提供最新的優化，助力其運行Meta新一代大語言模型Meta L
高通與Meta合作優化Meta Llama 3，實現終端側運行
高通技術公司高級副總裁兼技術規劃和邊緣解決方案業務總經理馬德嘉表示：“我們對Meta開放Meta Llama 3的策略表示贊賞，
高通支持Meta Llama 3大語言模型在驍龍旗艦平臺上實現終端側執行
高通和Meta合作優化Meta Llama 3大語言模型，支持在未來的驍龍旗艦平臺上實現終端側執
Meta推出最強開源模型Llama 3 要挑戰GPT
公司這次開源了Llama 3 8B與70B兩款不同規模的模型，開發者可以免費使用，而Meta公司還將陸續推出一系列具備多模態、多
Meta發布開源大模型Code Llama 70B
近日，Meta宣布推出了一款新的開源大模型Code Llama 70B，這是其“Code Llama家族中體量最大、性能最好的模型版本”。這
工商網監
評論