事實(shí)上，微軟、Google 等大型科技公司之間早已拉起 AI 軍備競(jìng)賽，他們?cè)谶^(guò)去的一年里發(fā)布了很多新的人工智能產(chǎn)品。

反對(duì)派：不能停止未來(lái) GPT-5 以及更強(qiáng)模型的訓(xùn)練

除非政府介入，否則沒(méi)有現(xiàn)實(shí)的方法來(lái)實(shí)施暫停令，阻止所有團(tuán)隊(duì)擴(kuò)大 LLM 的規(guī)模。不過(guò)，讓政府來(lái)暫停他們不了解的新興技術(shù)是反競(jìng)爭(zhēng)的，樹立了一個(gè)可怕的先例，是糟糕的創(chuàng)新政策。

不過(guò)，Bender 反駁說(shuō)，"我們?cè)?2020 年底寫了一篇論文（《隨機(jī)鸚鵡》，2021年發(fā)表），指出這種不考慮風(fēng)險(xiǎn)就一頭扎進(jìn)越來(lái)越大的語(yǔ)言模型的做法是一件壞事。但風(fēng)險(xiǎn)和危害從來(lái)都不是關(guān)于'太強(qiáng)大的人工智能'本身，相反：它們是關(guān)于權(quán)力集中在人的手中，關(guān)于壓迫制度的再現(xiàn)，關(guān)于對(duì)信息生態(tài)系統(tǒng)的損害，以及關(guān)于對(duì)自然生態(tài)系統(tǒng)的損害（通過(guò)對(duì)能源資源的暴殄天物）。"

GPT-4 以及后續(xù)更強(qiáng)的大模型為何成為眾矢之的？

他表示，”在現(xiàn)實(shí)世界的對(duì)抗壓力下部署 GPT-4 是對(duì)實(shí)際 AI 對(duì)齊的一次偉大實(shí)踐。雖然剛剛開始，但我們對(duì)迄今為止所取得的一致程度備受鼓舞（以及我們?yōu)楦纳茊?wèn)題而不斷成熟的工程流程）?！?/span>Greg Brockman 說(shuō)，可以通過(guò)一個(gè)例子觀察到，模型在如此廣泛的棘手或?qū)剐?a href="http://www.xsypw.cn/v/tag/" target="_blank">話題中的良好行為，大部分來(lái)自于模型已經(jīng)概括了人類導(dǎo)師的概念，即成為一個(gè)有幫助的人工智能助手。「在 GPT-3 中，它沒(méi)有辦法控制模型的行為?，F(xiàn)在，我們選擇一組問(wèn)題（例如，模型在錯(cuò)誤的答案上頻率非常高——這曾經(jīng)是一個(gè)巨大的問(wèn)題），可以建立評(píng)估，收集數(shù)據(jù)，每周重新訓(xùn)練模型，并進(jìn)行部署。任何人都可以測(cè)試我們是否已經(jīng)改進(jìn)。但是對(duì)齊 GPT-4 只是其中一個(gè)環(huán)節(jié)，而不是終點(diǎn)。這已經(jīng)實(shí)現(xiàn)了很大的進(jìn)步（與早期對(duì) GPT-3 的抱怨相比），但需要進(jìn)一步擴(kuò)展到人類甚至無(wú)法判斷輸出的問(wèn)題?！?/span>其實(shí)，在 OpenAI 官方博客上，該公司也一直強(qiáng)調(diào)，AI 需要對(duì)齊，「對(duì)齊研究旨在使人工智能（AGI）與人類價(jià)值觀保持一致并遵循人類意圖」。不過(guò)，OpenAI 的發(fā)聲并未獲得一些激進(jìn)派的認(rèn)可，而 OpenAI 之所以深陷輿論漩渦，或有兩方面的原因：一是 LLM 技術(shù)發(fā)展速度超出了很多人的意料，其中相關(guān)的法律法規(guī)、道德與使用等規(guī)范制度還存在很大的缺失。正如早些時(shí)候，Deepmind 研究團(tuán)隊(duì)在借鑒了計(jì)算機(jī)科學(xué)、語(yǔ)言學(xué)和社會(huì)科學(xué)的多學(xué)科文獻(xiàn)基礎(chǔ)上發(fā)布的《語(yǔ)言模型危害的倫理和社會(huì)風(fēng)險(xiǎn)》論文中寫道的那樣，LM 會(huì)存在歧視、仇恨言論和排斥；信息泄露；虛假信息；惡意使用；人機(jī)交互；環(huán)境和社會(huì)經(jīng)濟(jì)等多重危害。因此，如何降低這些潛在危害，作為行業(yè)領(lǐng)頭羊的 OpenAI 必須要弄清楚，因?yàn)樗暮芏鄤?dòng)作也是后來(lái)者參考的目標(biāo)。然而，現(xiàn)實(shí)來(lái)看，這也并不是 OpenAI 公司一家所需要考慮的事情，而是需要 AI 的所有參與者共同來(lái)制定。二是 OpenAI 樹大招風(fēng)，尤其是 GPT-4 不透明性引發(fā)了很多人的不滿。自 ChatGPT、GPT-4 發(fā)布以來(lái)，已經(jīng)很多人批評(píng)過(guò)「OpenAI 不再 Open」了。不久前，Nomic AI 信息設(shè)計(jì)副總裁 Ben Schmidt 在推特上直指，OpenAI 在發(fā)布 GPT-4 技術(shù)的 98 頁(yè)論文中，絲毫沒(méi)有提及關(guān)于訓(xùn)練集內(nèi)容的任何信息。也有網(wǎng)友稱，OpenAI 正在”假裝“開放。不過(guò)，對(duì)于 LLM 究竟是應(yīng)該開源還是閉源，又是一個(gè)引發(fā)爭(zhēng)議的問(wèn)題。針對(duì)這一點(diǎn)，據(jù)外媒 The Verge 報(bào)道，OpenAI 首席科學(xué)家、聯(lián)合創(chuàng)始人 Ilya Sutskever 在接受采訪時(shí)也曾回應(yīng)過(guò)，「OpenAI 不分享關(guān)于 GPT-4 的更多信息的原因是“不言而喻的”——害怕競(jìng)爭(zhēng)和對(duì)安全的擔(dān)憂。」Sutskever 表示，“在競(jìng)爭(zhēng)格局方面--外面的競(jìng)爭(zhēng)很激烈。GPT-4 的開發(fā)并不容易。幾乎 OpenAI 的所有人在一起花了很長(zhǎng)時(shí)間才做出了這個(gè)東西，而且（目前）有很多很多公司都想做同樣的事情。安全方面，我想說(shuō)，還沒(méi)有競(jìng)爭(zhēng)方面那么突出。但它將會(huì)改變，基本上是這樣的。這些模型非常強(qiáng)大，而且會(huì)變得越來(lái)越強(qiáng)大。在某種程度上，如果有人想的話，很容易用這些模型造成很大的傷害。隨著（模型）能力的增強(qiáng)，你不想透露它們是有道理的?！?/span>雖然從商業(yè)的角度，OpenAI 不公開大模型架構(gòu)（包括模型大?。⒂布?、訓(xùn)練計(jì)算、數(shù)據(jù)集構(gòu)建、訓(xùn)練方法等細(xì)節(jié)合乎情理，但是也有人表示，不公開訓(xùn)練數(shù)據(jù)，很難知道該系統(tǒng)可以在哪里安全使用并提出修復(fù)方案，不利于大模型的研究。為此，你是否支持暫停更強(qiáng)大模型的訓(xùn)練？你認(rèn)為大模型是開源好，還是閉源好？歡迎留言分享你的看法。參考資料：https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdfhttps://futureoflife.org/open-letter/pause-giant-ai-experiments/https://www.vice.com/en/article/qjvppm/the-open-letter-to-stop-dangerous-ai-race-is-a-huge-messhttps://www.theverge.com/2023/3/15/23640180/openai-gpt-4-launch-closed-research-ilya-sutskever-interview