標(biāo)注多跳問(wèn)答（Multi-hop QA）數(shù)據(jù)集費(fèi)時(shí)費(fèi)力!本文首次研究了無(wú)監(jiān)督的多跳問(wèn)答的可能性，提出了MQG-QA，一種無(wú)監(jiān)督的框架，從同構(gòu)和異構(gòu)數(shù)據(jù)源中自動(dòng)生成多跳問(wèn)答對(duì)。使用生成的數(shù)據(jù)預(yù)先訓(xùn)練QA系統(tǒng)將大大減少對(duì)人工標(biāo)注訓(xùn)練數(shù)據(jù)的需求。
多跳問(wèn)答(QA)訓(xùn)練數(shù)據(jù)的獲取是非常耗時(shí)費(fèi)力的。為了解決這個(gè)問(wèn)題，我們探索了無(wú)監(jiān)督的多跳QA問(wèn)答對(duì)生成的問(wèn)題，可以在沒(méi)有標(biāo)注的QA對(duì)場(chǎng)景下使用，非常的適合真實(shí)場(chǎng)景。
我們模型首先通過(guò)首先從每個(gè)數(shù)據(jù)源中選擇或生成相關(guān)信息，然后將多個(gè)信息整合起來(lái)，形成一個(gè)多跳問(wèn)題。我們發(fā)現(xiàn)，用我們模型產(chǎn)生的訓(xùn)練數(shù)據(jù)訓(xùn)練出來(lái)的模型，性能和完全監(jiān)督模型之間的F1差距較小。這個(gè)現(xiàn)象是非常激動(dòng)人心的，表明我們可以通過(guò)無(wú)監(jiān)督預(yù)的構(gòu)造數(shù)據(jù)來(lái)大大減少對(duì)人工標(biāo)注的訓(xùn)練的需求。
下圖是該方法的簡(jiǎn)易用法演示：
原文標(biāo)題：【NAACL2021】初探無(wú)監(jiān)督的多跳問(wèn)答對(duì)
文章出處：【微信公眾號(hào)：深度學(xué)習(xí)自然語(yǔ)言處理】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
責(zé)任編輯:haq
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
原文標(biāo)題：【NAACL2021】初探無(wú)監(jiān)督的多跳問(wèn)答對(duì)
文章出處：【微信號(hào)：zenRRan，微信公眾號(hào)：深度學(xué)習(xí)自然語(yǔ)言處理】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
相關(guān)推薦
AI(人工智能)對(duì)產(chǎn)品設(shè)計(jì)帶來(lái)了廣泛而深遠(yuǎn)的可能性，這些可能性主要體現(xiàn)在以下幾個(gè)方面 1.創(chuàng)新設(shè)計(jì)的激發(fā) 創(chuàng)意生成:AI能夠?qū)W習(xí)和模仿人類設(shè)計(jì)師的創(chuàng)作過(guò)程，通過(guò)深度學(xué)習(xí)等技術(shù)生成全新的、獨(dú)特
![的頭像]()
發(fā)表于 10-15 11:29
?259次閱讀
客戶使用TI的ADC芯片ADS131A02，發(fā)現(xiàn)從AIN1P采到的ADC值不準(zhǔn)，于是將AIN1P和VREF_2V5相連，發(fā)現(xiàn)也沒(méi)法讀出滿量程的AD值，換算出來(lái)只有2.45V左右。請(qǐng)問(wèn)有哪些可能性會(huì)造成這樣的影響？
謝謝！
發(fā)表于 10-14 07:04
在科技行業(yè)并購(gòu)傳聞?lì)l發(fā)的背景下，高通公司被曝已探索收購(gòu)英特爾部分業(yè)務(wù)的可能性，特別是其客戶端PC芯片設(shè)計(jì)業(yè)務(wù)，旨在進(jìn)一步豐富和增強(qiáng)其產(chǎn)品組合。據(jù)多位知情人士透露，高通對(duì)英特爾的這部分資產(chǎn)表現(xiàn)出濃厚興趣，而英特爾則正積極尋求現(xiàn)金流，考慮剝離非核心業(yè)務(wù)及出售資產(chǎn)以優(yōu)化財(cái)務(wù)結(jié)構(gòu)。
![的頭像]()
發(fā)表于 09-09 17:21
?587次閱讀
芯片設(shè)計(jì)復(fù)雜性的快速指數(shù)級(jí)增長(zhǎng)給開(kāi)發(fā)者帶來(lái)了巨大的挑戰(zhàn)，整個(gè)行業(yè)不僅要向埃米級(jí)發(fā)展、Muiti-Die系統(tǒng)和工藝節(jié)點(diǎn)遷移所帶來(lái)的挑戰(zhàn)，還需要應(yīng)對(duì)愈加緊迫的上市時(shí)間目標(biāo)、不斷增加的制造測(cè)試成本以及人才短缺等問(wèn)題。早在AI大熱之前，芯片設(shè)計(jì)行業(yè)就把目光放到了AI，探索AI+EDA的更多
![的頭像]()
發(fā)表于 08-29 11:19
?524次閱讀
據(jù)韓國(guó)政府方面的最新消息透露，三星電子的越南分公司正積極探討在越南設(shè)立半導(dǎo)體組裝工廠的可能性，盡管具體的選址尚未塵埃落定，但有線索指向富士康投資活躍的北江地區(qū)附近，這一區(qū)域因其得天獨(dú)厚的地理位置而備受矚目。
![的頭像]()
發(fā)表于 08-23 15:19
?637次閱讀
8月7日，國(guó)際媒體傳來(lái)新消息，據(jù)知情人士透露，蘋(píng)果公司正積極探索為即將推出的Apple Watch SE系列引入塑料表殼的可能性，此舉旨在通過(guò)材料創(chuàng)新進(jìn)一步壓縮成本，增強(qiáng)市場(chǎng)競(jìng)爭(zhēng)力。這一變化不僅預(yù)示著成本效益的顯著提升，還可能開(kāi)辟新的市場(chǎng)細(xì)分領(lǐng)域，特別是滿足家長(zhǎng)為孩子選購(gòu)
![的頭像]()
發(fā)表于 08-07 17:03
?614次閱讀
信息有助于模型更深入地理解文本的含義和意圖。
3. 推理與判斷
在問(wèn)答任務(wù)中，大語(yǔ)言模型不僅需要理解問(wèn)題的字面意義，還需要進(jìn)行推理和判斷以得出準(zhǔn)確的答案。例如，在處理多跳推理問(wèn)題時(shí)，模型需要綜合多個(gè)事實(shí)
發(fā)表于 08-02 11:03
神經(jīng)網(wǎng)絡(luò)作為深度學(xué)習(xí)的重要組成部分，其訓(xùn)練方式多樣，其中無(wú)監(jiān)督學(xué)習(xí)是一種重要的訓(xùn)練策略。無(wú)監(jiān)督學(xué)習(xí)旨在從未標(biāo)記的數(shù)據(jù)中發(fā)現(xiàn)數(shù)據(jù)內(nèi)在的結(jié)構(gòu)、模式或規(guī)律，從而提取有用的特征表示。這種訓(xùn)練方
![的頭像]()
發(fā)表于 07-09 18:06
?826次閱讀
應(yīng)用中往往難以實(shí)現(xiàn)。因此，無(wú)監(jiān)督學(xué)習(xí)在深度學(xué)習(xí)中扮演著越來(lái)越重要的角色。本文旨在綜述深度學(xué)習(xí)中的無(wú)監(jiān)督學(xué)習(xí)方法，包括自編碼器、生成對(duì)抗網(wǎng)絡(luò)、聚類算法等，并分析它們的原理、應(yīng)用場(chǎng)景以及優(yōu)
![的頭像]()
發(fā)表于 07-09 10:50
?788次閱讀
，掌握無(wú)創(chuàng)血壓測(cè)量技術(shù)對(duì)于醫(yī)學(xué)研究具有重要意義。
不同動(dòng)物種群之間的差異性：不同動(dòng)物種群之間存在一定的生理差異，這些差異可能會(huì)影響到無(wú)創(chuàng)血壓測(cè)量結(jié)果的準(zhǔn)確
發(fā)表于 04-22 09:40
從延長(zhǎng)便攜式設(shè)備電池壽命，到提高處理效率和響應(yīng)能力，瑞薩的40納米MCU技術(shù)正在重新定義嵌入式系統(tǒng)的可能性。
![的頭像]()
發(fā)表于 03-11 15:11
?508次閱讀
Meta，這家社交媒體和科技巨頭，近日宣布推出一種新型的無(wú)監(jiān)督視頻預(yù)測(cè)模型，名為“V-JEPA”。這一模型在視頻處理領(lǐng)域引起了廣泛關(guān)注，因?yàn)樗ㄟ^(guò)抽象性預(yù)測(cè)生成視頻中缺失或模糊的部分來(lái)進(jìn)行學(xué)習(xí)，提供了一種全新的視頻處理方法。
![的頭像]()
發(fā)表于 02-19 11:19
?1032次閱讀
機(jī)器人是一種擁有無(wú)盡可能性的技術(shù)，尤其是當(dāng)搭配了智能技術(shù)時(shí)。近段時(shí)間創(chuàng)造了許多變革性應(yīng)用的大模型有望成為機(jī)器人的智慧大腦，幫助機(jī)器人感知和理解這個(gè)世界并制定決策和進(jìn)行規(guī)劃。
發(fā)表于 01-26 14:47
?235次閱讀
多跳通信和單跳通信是兩種不同的通信方式，各有優(yōu)缺點(diǎn)。單跳通信簡(jiǎn)單直接，但距離有限；多跳通信可以擴(kuò)
![的頭像]()
發(fā)表于 01-19 17:58
?1806次閱讀
記憶黑板與存儲(chǔ)空間：探討其限制與可能性 在當(dāng)今的數(shù)字化時(shí)代，信息的存儲(chǔ)和管理已經(jīng)成為一項(xiàng)重要的任務(wù)。記憶黑板作為一種信息存儲(chǔ)和展示工具，其存儲(chǔ)空間是否有限制，成為了許多用戶關(guān)心的問(wèn)題。記憶黑板廠家將
![的頭像]()
發(fā)表于 01-17 19:16
?338次閱讀
無(wú)監(jiān)督的多跳問(wèn)答的可能性研究
工商網(wǎng)監(jiān)
評(píng)論