《麻省理工科技評(píng)論》揭曉了2018年“全球十大突破性技術(shù)”,這份全球新興科技領(lǐng)域的權(quán)威榜單至今已有17年的歷史。
自2001年起,我們每年都會(huì)選出我們眼中的“十大突破性技術(shù)”。
人們通常會(huì)問(wèn),你們所說(shuō)的“突破性”指的是什么?這個(gè)問(wèn)題問(wèn)得合情合理:我們選出的技術(shù)中有些并沒(méi)有得到廣泛應(yīng)用,然而有些則即將實(shí)現(xiàn)商業(yè)化。實(shí)際上,我們尋找的是即將對(duì)我們的生活產(chǎn)生深遠(yuǎn)影響的單項(xiàng)技術(shù)或者一系列技術(shù)。
今年,人工智能領(lǐng)域一項(xiàng)被稱作GAN的技術(shù)正在賦予機(jī)器想象力;人造胚胎,盡管面臨棘手的倫理限制,但它正在重新定義生命產(chǎn)生的方式,為關(guān)于人類生命發(fā)展早期階段的研究打開(kāi)了一扇窗戶;在可預(yù)見(jiàn)的未來(lái),天然氣很有可能是我們的主要能源來(lái)源之一,而一家位于德克薩斯州化工產(chǎn)業(yè)中心的實(shí)驗(yàn)性工廠正在嘗試?yán)锰烊粴鈦?lái)創(chuàng)造清潔能源。
這些,以及這份榜單上的其他技術(shù),都值得我們密切關(guān)注。
3D金屬打印
入選理由:新型設(shè)備首次讓3D打印金屬零部件成為實(shí)用型技術(shù)
技術(shù)突破:3D金屬打印機(jī)實(shí)現(xiàn)了低成本快速金屬物體打印
重大意義:按需打印大型復(fù)雜金屬物體的能力將為制造業(yè)帶來(lái)變革
主要研究者:Markforged、Desktop Metal、GE等
成熟期:現(xiàn)在
雖然 3D 打印技術(shù)已經(jīng)存在了幾十年,但它之前仍然局限在業(yè)余愛(ài)好者和設(shè)計(jì)師的小圈子內(nèi),只是用來(lái)制造一次性原型。而且,之前的 3D 打印技術(shù)使用任何非塑料材料(尤其是金屬)時(shí),成本非常昂貴,速度也慢得讓人無(wú)法接受。
不過(guò)現(xiàn)在,隨著成本越來(lái)越低,使用也越來(lái)越簡(jiǎn)單,這項(xiàng)技術(shù)有望成為可用于零部件生產(chǎn)的實(shí)用技術(shù)。如果它被廣泛應(yīng)用,將有可能改變我們大規(guī)模量產(chǎn)產(chǎn)品的方式。
短期來(lái)看,有了這項(xiàng)技術(shù)后,制造商們將不再需要維持大量的庫(kù)存,他們可以按需地打印一個(gè)部件。比如說(shuō),當(dāng)顧客需要給舊車替換一個(gè)零部件的時(shí)候,就可以立即提供給他。
長(zhǎng)期來(lái)看,那些大規(guī)模生產(chǎn)某一特定零部件的大工廠將會(huì)被產(chǎn)品線豐富的小工坊所取代。這些小工坊將能按照顧客的需求隨時(shí)打印出各種各樣的零部件。
這項(xiàng)技術(shù)的優(yōu)勢(shì)在于它可以生產(chǎn)出更輕、更堅(jiān)固的金屬零部件,以及用傳統(tǒng)金屬加工方法無(wú)法制造出來(lái)的復(fù)雜形狀的零部件。它甚至還可以在制造過(guò)程中精確調(diào)控金屬的微觀結(jié)構(gòu)。
2017 年,來(lái)自勞倫斯·利弗莫爾國(guó)家實(shí)驗(yàn)室(Lawrence Livermore National Laboratory)的研究人員宣布他們研發(fā)出了一種 3D 打印不銹鋼零部件的方法,通過(guò)這種方法生產(chǎn)出來(lái)的零部件的強(qiáng)度是通過(guò)傳統(tǒng)方法生產(chǎn)出來(lái)的兩倍。
同樣在 2017 年,位于波士頓附近的 3D 打印初創(chuàng)公司 Markforged 發(fā)布了第一臺(tái)價(jià)格在 10 萬(wàn)美元以下的 3D 金屬打印機(jī)。
而另一家位于波士頓地區(qū)的 3D 打印初創(chuàng)公司 Desktop Metal 也在 2017 年 12 月開(kāi)始交付他們的第一臺(tái) 3D 金屬原型打印機(jī)。該公司還計(jì)劃推出體積更大的、用于工業(yè)制造的打印機(jī),它們的速度將會(huì)比之前的 3D 金屬打印機(jī)快 100 倍。
3D 金屬打印的操作如今也變得越來(lái)越容易。Desktop Metal 公司現(xiàn)在推出了一款用于 3D 金屬打印的軟件。使用者只要在軟件中輸入他們所要打印的物體規(guī)格,軟件就會(huì)生成一個(gè)適用于 3D 打印的計(jì)算機(jī)模型。
GE 公司長(zhǎng)期以來(lái)一直將 3D 打印技術(shù)用于它的航空產(chǎn)品生產(chǎn)中。早在 2013 年“十大突破性技術(shù)”中就曾提到“增材制造”(Additive Manufacturing)。該公司現(xiàn)在也正在測(cè)試一款新型 3D 金屬打印機(jī),該打印機(jī)打印速度很快,可用于大型零部件的生產(chǎn)。而 GE 計(jì)劃在 2018 年開(kāi)始銷售該 3D 金屬打印機(jī)。
完美網(wǎng)絡(luò)隱私
入選理由:原本為加密貨幣的交易過(guò)程開(kāi)發(fā)的一種工具,現(xiàn)在能讓你在上網(wǎng)時(shí)避免透露任何非必要信息
技術(shù)突破:計(jì)算機(jī)科學(xué)家正在完善一款加密工具,可以在不透露非必要信息的前提下完成驗(yàn)證
重大意義:如果你需要透露個(gè)人信息以在網(wǎng)上完成某件事,這個(gè)方法可以讓你在免除隱私泄漏或身份被盜竊風(fēng)險(xiǎn)的同時(shí)輕松實(shí)現(xiàn)
主要研究者:Zcash、摩根大通、荷蘭國(guó)際集團(tuán)等
成熟期:現(xiàn)在
多虧一款新工具的出現(xiàn),真正的互聯(lián)網(wǎng)隱私終于可以實(shí)現(xiàn)了。舉個(gè)例子,該工具可以讓你不用透露出生日期就能證明自己年滿 18 歲,或者不用透露自己的銀行余額或其他細(xì)節(jié),就能證明自己在銀行有足夠的存款可以完成金融交易。這樣就大大降低了隱私泄漏或身份盜用的風(fēng)險(xiǎn)。這款工具是一種叫做“零知識(shí)驗(yàn)證”(zero-knowledge proof)的新密碼協(xié)議。
盡管研究人員已經(jīng)研究了幾十年,但直到去年人們對(duì)零知識(shí)驗(yàn)證的興趣才開(kāi)始暴增,某種程度上,這要得益于人們對(duì)加密貨幣日益增長(zhǎng)的熱情,以及大多數(shù)加密貨幣都為機(jī)構(gòu)所擁有的的現(xiàn)實(shí)。同時(shí),很大一定程度上也得益于 2016 年末建立的電子貨幣——Zcash 把零知識(shí)驗(yàn)證應(yīng)用于實(shí)際。Zcash 的研發(fā)人員使用一種叫做 zk-SNARK(簡(jiǎn)明非交互零知識(shí)驗(yàn)證)的方法讓用戶進(jìn)行匿名交易。通常,這在比特幣以及其他公共區(qū)塊鏈系統(tǒng)中是不可能實(shí)現(xiàn)的,比特幣以及其他公共區(qū)塊鏈系統(tǒng)中的交易對(duì)所有人都是公開(kāi)透明的。
盡管理論上來(lái)說(shuō),這些交易都是匿名的,但通過(guò)與其他數(shù)據(jù)進(jìn)行結(jié)合,還是可以追蹤到甚至識(shí)別出交易人。世界第二大區(qū)塊鏈網(wǎng)絡(luò)以太坊創(chuàng)始人 Vitalik Buterin 將 zk-SNARK 稱為一項(xiàng)“徹底改變游戲規(guī)則的技術(shù)”。對(duì)銀行來(lái)說(shuō),這樣就可以在支付系統(tǒng)中使用區(qū)塊鏈了,同時(shí)還能保護(hù)客戶隱私。
去年,摩根大通將 zk-SNARK 添加到自己基于區(qū)塊鏈的支付系統(tǒng)中。不過(guò)盡管 zk-SNARK 承諾種種好處,但計(jì)算量大,運(yùn)行緩慢。同時(shí),zk-SNARK 需要“信任安裝”,所生成的密鑰如果落入壞人之手就可以破壞整個(gè)系統(tǒng)。不過(guò),研究人員正在努力研究替代方案,希望可以更加高效地部署零知識(shí)驗(yàn)證,同時(shí)不需要上述密鑰。
零碳天然氣發(fā)電
入選理由:一種針對(duì)天然氣發(fā)電廠的新工程學(xué)方法,將二氧化碳回收再利用
技術(shù)突破:一家發(fā)電廠能夠以廉價(jià)高效的方式捕捉天然氣燃燒釋放的碳元素,避免了溫室氣體的排放
重大意義:天然氣發(fā)電為美國(guó)提供了近 32% 的電力,其碳排放量也達(dá)到電力部門總碳排放量的 30%
主要研究者:8 RiversCapital、Exelon 電力公司、CB&I等
成熟期:3-5 年
在可預(yù)見(jiàn)的未來(lái),我們可能要一直將天然氣作為主要的發(fā)電能源之一。現(xiàn)成又便宜的天然氣發(fā)出的電占美國(guó)總發(fā)電量的 30%, 全世界發(fā)電量的 22%。天然氣雖然比煤炭清潔得多,仍造成了大量的碳排放。
在美國(guó)煉油工業(yè)區(qū)的中心休斯頓城外出現(xiàn)了一家前沿發(fā)電廠,他們正在測(cè)試一項(xiàng)可以實(shí)現(xiàn)清潔天然氣能源的技術(shù)。這家公司擁有 50 兆瓦特的項(xiàng)目,他們就是 Net Power。該公司相信他們能捕獲天然氣發(fā)電過(guò)程中釋放的所有二氧化碳,同時(shí)又能夠以低廉的成本發(fā)電,至少和標(biāo)準(zhǔn)天然氣發(fā)電廠的成本相同。
如果此舉真的可以實(shí)現(xiàn),就意味著從此就可以以合理的價(jià)格從化石燃料中獲得零碳能源。這樣的天然氣發(fā)電必會(huì)改善能源供給的局面,因?yàn)樗炔幌窈四苣菢映杀靖咂螅膊幌窨稍偕茉茨菢庸┙o不穩(wěn)。
Net Power 公司是 8 Rivers Capital,Exelon 電力公司以及 CB&I 能源公司合作的產(chǎn)物。這家公司的發(fā)電廠已經(jīng)在試運(yùn)行且開(kāi)始了初始測(cè)試,他們打算在未來(lái)幾個(gè)月內(nèi)就公布初次評(píng)估的結(jié)果。
這家發(fā)電廠將燃燒天然氣產(chǎn)生的二氧化碳放置到高壓高溫的環(huán)境中,并用合成的超臨界二氧化碳作為“工質(zhì)”,驅(qū)動(dòng)一個(gè)特制的渦輪機(jī)。其中,大部分的二氧化碳都能被不斷地再利用,剩下不能利用的可以用一種低成本的方式捕獲。
降低成本的關(guān)鍵在于出售部分二氧化碳。目前二氧化碳主要用于協(xié)助開(kāi)采原油。這個(gè)市場(chǎng)容量有限,也并不環(huán)保。然而最終 Net Power 希望其他行業(yè)對(duì)二氧化碳的需求能夠漲起來(lái),比如水泥制造業(yè)、塑料制造業(yè)及其他碳基材料行業(yè)。
Net Power 的科技并不能解決天然氣帶來(lái)的所有問(wèn)題,尤其是開(kāi)采方面的問(wèn)題,但是只要我們還在使用天然氣,就應(yīng)該讓天然氣變的更清潔。在正在發(fā)展的所有清潔能源技術(shù)中 Net Power 的技術(shù)是最有遠(yuǎn)見(jiàn)的技術(shù)之一,他向我們展示的是一個(gè)真真切切的可減少碳排放的新突破。
人造胚胎
入選理由:科學(xué)家們已經(jīng)開(kāi)始通過(guò)干細(xì)胞制造胚胎
技術(shù)突破:在不使用卵細(xì)胞或精子細(xì)胞的情況下,研究人員僅從干細(xì)胞中就可以培育出類似胚胎的結(jié)構(gòu),為創(chuàng)造人造生命提供了一條全新的途徑
重要意義:人造胚胎將為研究人員研究人類生命神秘起源提供更方便的工具,但該技術(shù)正在引發(fā)新的生物倫理爭(zhēng)議
主要研究者:劍橋大學(xué)、密歇根大學(xué)、洛克菲勒大學(xué)、中國(guó)科學(xué)院等
成熟期:現(xiàn)在
英國(guó)劍橋大學(xué)的胚胎學(xué)家們?cè)谝豁?xiàng)重新定義了如何創(chuàng)造人造生命的突破性研究中,利用干細(xì)胞培育出了一種逼真的小鼠胚胎。該胚胎并不是由卵細(xì)胞與精子結(jié)合而來(lái)的,只使用了從另一個(gè)胚胎中得到的細(xì)胞。
研究人員將這些細(xì)胞小心翼翼地放在三維支架上觀察,細(xì)胞隨后彼此開(kāi)始聯(lián)結(jié),并且排列成幾天大的老鼠胚胎獨(dú)有的子彈形狀,研究人員被這一景象吸引住了。“我們知道干細(xì)胞有著極其強(qiáng)大的潛能,可以展現(xiàn)出近乎魔法般的能力。然而,我們沒(méi)有意識(shí)到,他們可以如此完美地實(shí)現(xiàn)自組織”,團(tuán)隊(duì)負(fù)責(zé)人 Magdelena Zernicka -Goetz 表示。
Zernicka-Goetz 稱,她的“合成”的胚胎可能不會(huì)發(fā)育成老鼠。盡管如此,它們也意味著,我們很快就可以實(shí)現(xiàn)在沒(méi)有卵子的情況下育出哺乳動(dòng)物。
但這并不是 Zernicka-Goetz 的最終目標(biāo)。她想研究早期胚胎的細(xì)胞是如何開(kāi)始分化出其特殊作用的。她說(shuō),研究的下一步是使用人類胚胎干細(xì)胞生成人造胚胎,這也是密歇根大學(xué)和洛克菲勒大學(xué)正在進(jìn)行的研究。
人工合成的人類胚胎將是科學(xué)家們的福音,這可以讓他們梳理出胚胎在早期發(fā)展中經(jīng)歷的過(guò)程。而且,由于這些胚胎是從易操作的干細(xì)胞發(fā)展而來(lái)的,實(shí)驗(yàn)室將能夠使用各種工具,例如基因編輯技術(shù),在它們生長(zhǎng)的過(guò)程中對(duì)它們進(jìn)行研究。
然而,人造胚胎將會(huì)引發(fā)一些倫理問(wèn)題。如果它們最終與真實(shí)的人類胚胎難以區(qū)分,我們?cè)撛趺崔k? 在它們形成痛覺(jué)之前,它們能在實(shí)驗(yàn)室里成長(zhǎng)多久? 生物倫理學(xué)家們說(shuō),我們需要在科學(xué)競(jìng)賽愈演愈烈之前解決這些問(wèn)題。
對(duì)抗性神經(jīng)網(wǎng)絡(luò)
入選理由:兩個(gè) AI 系統(tǒng)通過(guò)玩“貓捉老鼠”游戲來(lái)獲得想象力
技術(shù)突破:兩個(gè) AI 系統(tǒng)可以通過(guò)相互對(duì)抗來(lái)創(chuàng)造超級(jí)真實(shí)的原創(chuàng)圖像或聲音,而在此之前,機(jī)器從未有這種能力
重大意義:這給機(jī)器帶來(lái)一種類似想象力的能力,因此可能讓它們變得不再那么依賴人類,但也把它們變成了一種能力驚人的數(shù)字造假工具
主要研究者:Google Brain、DeepMind、英偉達(dá)、中科院自動(dòng)化所、百度、阿里巴巴、騰訊、商湯科技、依圖科技、云從科技、曠視科技等
成熟期:現(xiàn)在
人工智能識(shí)別物體的能力已經(jīng)越來(lái)越強(qiáng)了:給它看一百萬(wàn)張圖片,它就可以用驚人的準(zhǔn)確度來(lái)告訴你究竟哪張里面有個(gè)行人在過(guò)馬路。但是 AI 幾乎不可能獨(dú)自生成行人的圖片。如果它可以實(shí)現(xiàn)這一點(diǎn),它將可以創(chuàng)造大量看似真實(shí)的合成圖片,把行人放在各種環(huán)境下。而自動(dòng)駕駛系統(tǒng)或許足不出戶就能使用這些圖片進(jìn)行訓(xùn)練。
但問(wèn)題在于,從無(wú)到有創(chuàng)造一個(gè)東西需要想象力,而這正是人工智能技術(shù)一直難以實(shí)現(xiàn)的能力。
直到 2014 年,當(dāng)時(shí)還是蒙特利爾大學(xué)博士生的 Ian Goodfellow 在酒吧里與友人進(jìn)行學(xué)術(shù)辯論時(shí),他突然想到了這個(gè)問(wèn)題的答案。這種名為“對(duì)抗式生成網(wǎng)絡(luò)”(GAN)的手段會(huì)使用兩個(gè)神經(jīng)網(wǎng)絡(luò)(一種簡(jiǎn)化人腦數(shù)學(xué)模型,是現(xiàn)代機(jī)器學(xué)習(xí)基石),然后讓這兩者在數(shù)字版的“貓捉老鼠”游戲中相互拼殺。
這兩個(gè)網(wǎng)絡(luò)會(huì)使用同一個(gè)數(shù)據(jù)集進(jìn)行訓(xùn)練。其中一個(gè)神經(jīng)網(wǎng)絡(luò)叫生成網(wǎng)絡(luò),它的任務(wù)就是依照所見(jiàn)過(guò)的圖片來(lái)生成新的圖片,比如一個(gè)多長(zhǎng)一條手臂的行人。而另外那個(gè)神經(jīng)網(wǎng)絡(luò)叫判別網(wǎng)絡(luò),它的任務(wù)則是判斷它所見(jiàn)得圖片是否與訓(xùn)練時(shí)的圖片相似,還是由生成模型創(chuàng)造出來(lái)的“假貨”,比如,判斷那個(gè)長(zhǎng)著三個(gè)手臂的人有沒(méi)有可能是真的?
慢慢的,生成網(wǎng)絡(luò)創(chuàng)造圖片的能力會(huì)強(qiáng)到無(wú)法被判別網(wǎng)絡(luò)識(shí)破的程度。基本上,經(jīng)過(guò)訓(xùn)練之后,生成網(wǎng)絡(luò)學(xué)會(huì)了識(shí)別并創(chuàng)造看起來(lái)十分真實(shí)的行人圖片。
這項(xiàng)技術(shù)已經(jīng)成為了在過(guò)去十年最具潛力的人工智能突破,幫助機(jī)器產(chǎn)生甚至可以欺騙人類的成果。
目前,GAN 已被用于創(chuàng)造聽(tīng)起來(lái)十分真實(shí)的語(yǔ)音,以及非常逼真的假圖片。就拿一個(gè)很有名的例子來(lái)說(shuō),來(lái)自芯片公司英偉達(dá)的研究人員們用明星照片訓(xùn)練出了一個(gè) GAN 系統(tǒng),而這個(gè)系統(tǒng)則生成了數(shù)百?gòu)埜静淮嬖凇⒌雌饋?lái)十分真實(shí)的人臉照片。另外一個(gè)研究團(tuán)隊(duì)則生成了看起來(lái)十分逼真的梵高油畫(huà)。在進(jìn)一步訓(xùn)練后,GAN 可以對(duì)圖片進(jìn)行各種修改,比如在干凈的馬路上蓋上一層雪,或者把馬變成斑馬。
但是 GAN 的成果并非完美:它們可能生成有兩套把手的自行車,或者眉毛錯(cuò)位的臉。但由于有些圖片與聲音實(shí)在太逼真了,一些專家相信,GAN 在某種程度上已經(jīng)開(kāi)始理解它們所見(jiàn)到,所聽(tīng)到的世界的底層結(jié)構(gòu)。而這意味著,隨著人工智能開(kāi)始獲得想象力,它們也可能開(kāi)始理解它在這世界上所看到的東西。
Ian Goodfellow發(fā)明出GAN后,獲得Facebook首席科學(xué)家Yann LeCun、NVIDIA創(chuàng)辦人黃仁勛、Landing.ai創(chuàng)辦人吳恩達(dá)等大牛的贊賞,吸引了諸多的機(jī)構(gòu)及企業(yè)開(kāi)始研究。在中國(guó)部分,學(xué)術(shù)機(jī)構(gòu)致力于研究GAN理論的近一步改良及優(yōu)化,像是中科院自動(dòng)化所研究人員受人類視覺(jué)識(shí)別過(guò)程啟發(fā),提出了雙路徑GAN(TP-GAN),用于正面人臉圖像合成,而商湯-香港中大聯(lián)合實(shí)驗(yàn)室在國(guó)際學(xué)術(shù)大會(huì)上發(fā)表多項(xiàng)GAN相關(guān)研究成果。
中國(guó)企業(yè)界則是更傾向于把技術(shù)應(yīng)用在服務(wù)中,相關(guān)案例不勝枚舉,比如,百度使用GAN構(gòu)建語(yǔ)音識(shí)別框架,科大訊飛通過(guò)GAN與傳統(tǒng)深度學(xué)習(xí)框架的結(jié)合在語(yǔ)音合成領(lǐng)域獲得了很大的進(jìn)展。而阿里巴巴的城市大腦項(xiàng)目團(tuán)隊(duì)在ACM MM2017會(huì)議上,其中發(fā)表的一篇論文便是使用GAN來(lái)生成用以進(jìn)行車牌識(shí)別的訓(xùn)練數(shù)據(jù)集。
共享AI
入選理由:將機(jī)器學(xué)習(xí)工具搬上云端,將有助于人工智能更廣泛的傳播
技術(shù)突破:基于云端的人工智能正在降低這項(xiàng)技術(shù)的使用難度和價(jià)格
重大意義:目前,人工智能的應(yīng)用是受到少數(shù)幾家公司統(tǒng)治的。但其一旦與云技術(shù)相結(jié)合,那它將可以對(duì)許多人變得觸手可及,從而實(shí)現(xiàn)經(jīng)濟(jì)的爆發(fā)式增長(zhǎng)
主要研究者包括:亞馬遜、谷歌、微軟、百度、騰訊、阿里巴巴、科大訊飛、第四范式等
成熟期:現(xiàn)在
人工智能一直以來(lái)都只是亞馬遜、百度、谷歌和微軟等大型科技公司,以及少數(shù)初創(chuàng)公司的玩物。對(duì)于其他領(lǐng)域的眾多公司來(lái)說(shuō),人工智能太貴也太難,無(wú)法全面普及。
這個(gè)問(wèn)題該如何解決?基于云端的機(jī)器學(xué)習(xí)工具正在將人工智能帶給更廣泛的群體。如今,亞馬遜旗下的 AWS 子公司幾乎統(tǒng)治了云 AI 市場(chǎng)。谷歌則試圖通過(guò) TensorFlow 這款可以開(kāi)發(fā)機(jī)器學(xué)習(xí)系統(tǒng)的開(kāi)源人工智能框架來(lái)挑戰(zhàn)它的地位。而谷歌近日剛公開(kāi)的 Cloud AutoML 也是一套經(jīng)過(guò)預(yù)先訓(xùn)練,可以讓人工智能變得更容易使用的系統(tǒng)。
以 Azure 平臺(tái)加入云服務(wù)大戰(zhàn)的微軟則選擇與亞馬遜合作,推出了一款開(kāi)源深度學(xué)習(xí)框架 Gluon。在理論上,Gluon 可以讓創(chuàng)建神經(jīng)網(wǎng)絡(luò)——一款試圖復(fù)制人腦學(xué)習(xí)方式的重要人工智能技術(shù)——變得和開(kāi)發(fā)手機(jī) APP 一樣簡(jiǎn)單。
雖然我們不知道究竟哪家公司將會(huì)成為人工智能云服務(wù)市場(chǎng)的領(lǐng)頭羊,但贏家一定會(huì)獲得巨大的商業(yè)機(jī)會(huì)。
如果人工智能革命會(huì)擴(kuò)散至經(jīng)濟(jì)領(lǐng)域的各個(gè)角落,那么機(jī)器學(xué)習(xí)工具也將會(huì)隨之成為必需品。
如今的人工智能技術(shù)絕大多數(shù)僅用于科技行業(yè),為這個(gè)領(lǐng)域帶來(lái)了效率的提升以及多種新的產(chǎn)品和服務(wù)。但是其他的公司與行業(yè)一直難以利用人工智能技術(shù)的發(fā)展。如果可以在醫(yī)療、制造以及能源等行業(yè)里更全面地推行人工智能技術(shù),將極大提高各產(chǎn)業(yè)的生產(chǎn)力。
可惜,絕大多數(shù)的公司依然缺乏了解如何使用云端人工智能的人才。所以,亞馬遜與谷歌也創(chuàng)辦了咨詢服務(wù)。當(dāng)這項(xiàng)技術(shù)通過(guò)云端來(lái)到每個(gè)人的面前的時(shí)候,真正的人工智能革命才會(huì)開(kāi)始。
基因占卜
入選理由:大規(guī)模基因研究將讓科學(xué)家能夠預(yù)測(cè)普通疾病及人格特征
技術(shù)突破:科學(xué)家們現(xiàn)在可以利用你的基因組數(shù)據(jù)預(yù)測(cè)你患心臟病或乳腺癌的幾率,甚至你的智商也能被預(yù)測(cè)
重大意義:基于 DNA 的預(yù)測(cè)技術(shù)可能公共健康領(lǐng)域下一個(gè)重大突破,但它將增加歧視的風(fēng)險(xiǎn)
主要研究者:Helix、23andMe、Myriad Genetics、UKBiobank 、Broad Institute、華大基因、奕真生物、WeGene等
成熟期:現(xiàn)在
將來(lái)有一天,嬰兒出生時(shí)就會(huì)得到一份 DNA 檢測(cè)報(bào)告。這些報(bào)告將提供嬰兒患心臟病或癌癥的幾率、是否對(duì)煙草上癮,以及是否比一般人更聰明的預(yù)測(cè)。由于大型基因研究(部分研究涉及人數(shù)超過(guò) 100 萬(wàn)人)的開(kāi)展以及科學(xué)進(jìn)步,這樣的報(bào)告很快就會(huì)從概念變成現(xiàn)實(shí)。
事實(shí)證明,最常見(jiàn)的疾病和人們的許多行為和特征,包括智力水平,都不是一個(gè)或幾個(gè)基因影響的結(jié)果,而是許多基因作用的結(jié)果。利用正在進(jìn)行的大型基因研究的數(shù)據(jù),科學(xué)家們正在創(chuàng)造他們所謂的“多基因風(fēng)險(xiǎn)評(píng)分”指標(biāo)。
盡管新的 DNA 測(cè)試只是提供了概率推斷,而不是直接得出診斷結(jié)論,但依然可以極大地造福醫(yī)學(xué)的發(fā)展。例如,如果那些患乳腺癌幾率高的女性做更多的乳房 X 光檢查,而患病幾率低的女性做更少的乳房 X 光檢查,那么這些檢查可能會(huì)發(fā)現(xiàn)更多真正罹患癌癥的患者,也能降低假警報(bào)發(fā)生的幾率。制藥公司還可以在針對(duì)阿爾茨海默病或心臟病等疾病的預(yù)防性藥物的臨床試驗(yàn)中使用這些分?jǐn)?shù)指標(biāo)。通過(guò)挑選患病風(fēng)險(xiǎn)更高的志愿者,他們可以更準(zhǔn)確地測(cè)試藥物的效果。
問(wèn)題是,這些預(yù)測(cè)遠(yuǎn)非完美。誰(shuí)愿意知道他們未來(lái)可能會(huì)患上阿茲海默癥? 如果癌癥風(fēng)險(xiǎn)指標(biāo)得分低的人推遲接受篩查,然后又患上癌癥怎么辦? 多基因檢查指標(biāo)評(píng)分也存在其他爭(zhēng)議,因?yàn)樗鼈儙缀蹩梢灶A(yù)測(cè)任何個(gè)體特征,不僅僅是疾病。例如,我們現(xiàn)在可能只能預(yù)測(cè)一個(gè)人在智商測(cè)試中表現(xiàn)的 10%。隨著評(píng)分技術(shù)的提升,基于 DNA 的智商預(yù)測(cè)很可能會(huì)成為常態(tài)。
然而,家長(zhǎng)和教育工作者應(yīng)該如何使用這些信息呢? 對(duì)此,行為遺傳學(xué)家 EricTurkheimer 表示,這項(xiàng)新技術(shù)“既令人興奮又令人擔(dān)憂”,因?yàn)榛驍?shù)據(jù)不僅可以造福我們,也有可能會(huì)被用于其他用途,產(chǎn)生不好的影響。
傳感城市
入選理由:Alphabet 旗下的 Sidewalk Labs 計(jì)劃創(chuàng)建一個(gè)高科技社區(qū)來(lái)重新思考到底應(yīng)該如何建設(shè)和運(yùn)營(yíng)一座城市
技術(shù)突破:多倫多的一個(gè)街區(qū)有望成為全球首個(gè)成功將尖端城市設(shè)計(jì)與前沿科技融合在一起的地方
重大意義:智慧城市會(huì)讓都市地區(qū)變得更加可負(fù)擔(dān)、宜居、環(huán)保
主要研究者:Alphabet 旗下的 Sidewalk Labs、多倫多 Waterfront、阿里巴巴等
成熟期:項(xiàng)目 2017 年 10 月對(duì)外公布,預(yù)計(jì)在 2019 年開(kāi)始施工建設(shè)
如今,全球很多智慧城市計(jì)劃都已擱淺,要么下調(diào)了曾經(jīng)雄心勃勃的目標(biāo),要么因?yàn)樯畛杀驹虮谱吡顺?jí)富豪之外的普通居民。而多倫多的一個(gè)叫 Quayside 的項(xiàng)目,卻希望從頭開(kāi)始重新設(shè)計(jì)一個(gè)社區(qū),用最新的數(shù)字技術(shù)將其重建,打破現(xiàn)有的失敗局面。
Alphabet 旗下位于紐約市的 Sidewalk Labs 將和加拿大政府進(jìn)行合作,讓這一高科技項(xiàng)目落地在多倫多 Waterfront 工業(yè)區(qū)。
該項(xiàng)目的目標(biāo)之一就是讓一切關(guān)于設(shè)計(jì)、政策以及信息科技的決策都以一個(gè)巨大的傳感器網(wǎng)絡(luò)為基礎(chǔ)。這個(gè)網(wǎng)絡(luò)將收集各種信息:空氣質(zhì)量、噪聲水平以及人們的行為等數(shù)據(jù)。
在該規(guī)劃中,一切車輛都是自動(dòng)駕駛的共享車輛,地下也將跑著負(fù)責(zé)送快遞這種低級(jí)體力勞動(dòng)的機(jī)器人。Sidewalk Labs 表示,他們計(jì)劃讓正在設(shè)計(jì)的軟件與系統(tǒng)開(kāi)源,可以允許其他公司在其上創(chuàng)建服務(wù),類似為手機(jī)開(kāi)發(fā) APP 的做法。
該公司計(jì)劃密切監(jiān)視公共基礎(chǔ)設(shè)施,然而這卻引起了對(duì)數(shù)據(jù)管理與隱私的擔(dān)憂。但是 Sidewalk Labs 相信,它可以通過(guò)與社區(qū)和當(dāng)?shù)卣暮献鳎徑獠糠謸?dān)憂。
“在 Quayside 項(xiàng)目中,我們所做的最獨(dú)特的一點(diǎn)就是,這個(gè)項(xiàng)目不僅包含我們巨大的野心,也有著一定程度上的謙遜”,負(fù)責(zé)城市系統(tǒng)規(guī)劃的 Sidewalk Labs 高管 RitAggarwala 說(shuō)道。而這種謙遜有望幫助 Quayside 避開(kāi)之前那些智慧城市計(jì)劃時(shí)常遭遇的各種問(wèn)題。
目前,北美已有多個(gè)城市正在爭(zhēng)取成為 Sidewalk Labs 的下一個(gè)標(biāo)的。據(jù)管理 Quayside 開(kāi)發(fā)的某公共部門 CEO WillFleissig 表示:“舊金山、丹佛、洛杉磯以及波士頓都來(lái)聯(lián)系我們,就是為了獲得引薦。”
巴別魚(yú)耳塞
入選理由:雖然現(xiàn)有硬件并不那么好用,但谷歌 Pixel Buds 卻展示了實(shí)時(shí)翻譯的前景
技術(shù)突破:近實(shí)時(shí)翻譯適用于多種語(yǔ)言,而且使用起來(lái)很方便
重大意義:在全球化日益發(fā)展的今天,語(yǔ)言仍是交流的一大障礙
主要研究者:谷歌、科大訊飛、百度、騰訊、搜狗、清華大學(xué)、哈爾濱工業(yè)大學(xué)、蘇州大學(xué)等
成熟期:現(xiàn)在
在風(fēng)靡一時(shí)的科幻經(jīng)典《銀河系漫游指南》中,你把一條黃色的巴別魚(yú)塞到耳朵里,就可以聽(tīng)到實(shí)時(shí)翻譯。在現(xiàn)實(shí)世界中,谷歌已經(jīng)研究出了一個(gè)過(guò)渡性的解決方案:一副叫做 Pixel Buds 價(jià)值 159 美元的耳塞。這副耳塞可以在 Pixel 智能手機(jī)上通過(guò)谷歌翻譯應(yīng)用進(jìn)行實(shí)時(shí)翻譯。需要一個(gè)人佩戴耳塞,另一個(gè)人手持手機(jī)。
佩戴耳塞的人用自己的語(yǔ)言講話——默認(rèn)是英語(yǔ)——然后谷歌翻譯應(yīng)用就會(huì)對(duì)所講的話進(jìn)行翻譯,并在智能手機(jī)上大聲播放。手持手機(jī)的人回應(yīng)后,回答被翻譯,然后在耳塞中播放。
谷歌翻譯之前就已經(jīng)有了對(duì)話功能,其 iOS 和安卓版應(yīng)用都可以自動(dòng)識(shí)別說(shuō)話者的語(yǔ)言,然后自動(dòng)翻譯。但背景噪音會(huì)增加應(yīng)用理解話語(yǔ)的難度,同時(shí)也會(huì)讓應(yīng)用很難判斷說(shuō)話人何時(shí)停頓,何時(shí)開(kāi)始翻譯。Pixel Buds 有效解決了這些問(wèn)題,因?yàn)榕宕魅丝梢栽谡f(shuō)話的同時(shí)用手指點(diǎn)擊和長(zhǎng)按右邊的耳塞。將交互分別放在智能手機(jī)和耳塞上,可以讓雙方都能控制麥克風(fēng),幫助講者保持眼神交流,因?yàn)檫@樣就不用來(lái)回傳遞手機(jī)了。
目前,Pixel Buds 因?yàn)榈陀谛袠I(yè)平均水準(zhǔn)的設(shè)計(jì)而備受抨擊。耳塞看起來(lái)很不智能,也不是很貼合耳朵,而且很難與手機(jī)進(jìn)行適配。不過(guò)硬件笨拙還是有計(jì)可施的。Pixel Buds 讓大家看到了近實(shí)時(shí)翻譯跨語(yǔ)言障礙自由溝通的曙光,而且你還不用把一條巴別魚(yú)塞到耳朵里。
在中國(guó),有許多公司也積極投入發(fā)展,科大訊飛、百度、搜狗可以說(shuō)是這個(gè)領(lǐng)域的領(lǐng)先者,除了提供智能語(yǔ)音、翻譯等服務(wù)外,也將技術(shù)引入硬件中,不過(guò),相較于外國(guó)業(yè)者偏好以耳機(jī)作為切入點(diǎn),中國(guó)企業(yè)則選擇翻譯機(jī),像是科大訊飛推出曉譯翻譯機(jī),百度則有共享 WiFi 翻譯機(jī),搜狗也在日前發(fā)表“旅行翻譯寶”和“速記翻譯筆”。
材料的量子飛躍
入選理由:研究者們最近開(kāi)始使用量子計(jì)算機(jī)對(duì)簡(jiǎn)單分子進(jìn)行建模,而這僅僅是開(kāi)始
技術(shù)突破:IBM 采用 7 量子比特的量子計(jì)算機(jī)對(duì)小分子的電子結(jié)構(gòu)成功地進(jìn)行彷真計(jì)算
重大意義:借助該技術(shù),科學(xué)家能了解分子的各個(gè)方面信息并以此開(kāi)發(fā)出更有效的藥物以及更高效生成或傳輸能源的新材料
主要研究者:IBM、Google、哈佛大學(xué) Alán Aspuru-Guzik 教授、中國(guó)科技大學(xué)、中國(guó)科學(xué)院、浙江大學(xué)、阿里巴巴等
成熟期:5 到 10 年
新型量子計(jì)算機(jī)功能強(qiáng)大,不過(guò)它的發(fā)展道路上依然籠罩著一層迷霧:量子計(jì)算機(jī)有著當(dāng)今計(jì)算機(jī)無(wú)法比擬的計(jì)算力,但是我們至今尚未弄清楚這種能力能被用來(lái)做什么。一個(gè)前景無(wú)限的應(yīng)用方向正在向量子計(jì)算機(jī)招手:精確分子設(shè)計(jì)。
多少年來(lái),化學(xué)家都?jí)粝胫茉O(shè)計(jì)出新型蛋白質(zhì),用于研制更有療效的藥物,或是設(shè)計(jì)出新型高效電池中的電解質(zhì)、直接將太陽(yáng)能轉(zhuǎn)化為液態(tài)燃料的神奇化合物以及更高效的太陽(yáng)能電池。然而,這些技術(shù)中的材料分子都難以在計(jì)算機(jī)上建模和彷真,遑論設(shè)計(jì)和合成了。即使彷真一個(gè)簡(jiǎn)單分子的電子形態(tài)這樣的任務(wù),都會(huì)復(fù)雜到讓現(xiàn)有的計(jì)算機(jī)敗下陣來(lái)。不過(guò),這對(duì)于量子計(jì)算機(jī)而言就是小菜一碟了。
相比傳統(tǒng)計(jì)算機(jī)那樣采用“1”或“0”的數(shù)字比特(Digital Bits)作為計(jì)算和存儲(chǔ)單元,量子計(jì)算機(jī)采用量子系統(tǒng)的量子比特(Qubits)作為運(yùn)算單元。最近,IBM 的研究者應(yīng)用 7 量子比特量子計(jì)算機(jī)針對(duì)一個(gè)三原子分子進(jìn)行了彷真實(shí)驗(yàn)。
如今,科學(xué)家正在打造具有更多量子比特的量子計(jì)算機(jī),量子算法也在提升,我們更感興趣的大分子精確彷真計(jì)算也將成為可能。
實(shí)際上,中國(guó)在量子計(jì)算方面也有相當(dāng)明顯的成長(zhǎng),雖然目前的技術(shù)層次還無(wú)法與前面幾家大企業(yè)相提并論,但是在產(chǎn)業(yè)、學(xué)術(shù)界,以及政府的通力合作之下,也正一步步追趕上領(lǐng)先者的腳步。
2017 年 5 月,中國(guó)科學(xué)院宣布由中科大、中國(guó)科學(xué)院──阿里巴巴量子核算實(shí)驗(yàn)室、浙江大學(xué)、中科院物理所等單位或公司聯(lián)合研製的光量子電腦正式誕生。另外,同年 10 月 11 日,由中科院與阿里云合作發(fā)佈量子計(jì)算云平臺(tái),量子計(jì)算的商業(yè)化已經(jīng)近在咫尺,速度毫不遜色于歐美的腳步。
然而,量子計(jì)算還有不少需要突破的地方,首先,量子計(jì)算的精度相當(dāng)?shù)停m然用在深度學(xué)習(xí)等精度需求不高的計(jì)算上相當(dāng)合適,但要處理傳統(tǒng)計(jì)算機(jī)的通用計(jì)算工作,可能就力有未逮了。其次,量子計(jì)算這種高度并行的計(jì)算環(huán)境需要框架的適配,以及編譯器的針對(duì)性優(yōu)化,這種開(kāi)發(fā)邏輯與現(xiàn)有的計(jì)算架構(gòu)完全不同。
過(guò)去的兩年
每一年,《麻省理工科技評(píng)論》選中的十項(xiàng)突破性技術(shù)均是在過(guò)去一年已到達(dá)一個(gè)里程碑式的階段,或即將到達(dá)這樣一個(gè)階段。
如今,我們站在2018伊始,回顧過(guò)去兩年曾經(jīng)被預(yù)測(cè)的技術(shù),能看到怎樣的發(fā)展規(guī)律?
2016年十大突破性技術(shù)
01免疫工程
突破技術(shù):殺傷性T細(xì)胞可被用來(lái)消滅癌癥。
重要意義:癌癥、多發(fā)性硬化癥和艾滋病毒(HIV)都可以通過(guò)免疫系統(tǒng)工程進(jìn)行治療。
02精確編輯植物基因
突破技術(shù):能夠便宜、 精確地編輯植物基因組,不留下外源 DNA 。
重要意義:提高農(nóng)業(yè)生產(chǎn)率,以滿足日益增長(zhǎng)人口的需要。到2050年世界人口預(yù)計(jì)將達(dá)到 100 億。
03語(yǔ)音接口
突破技術(shù):將語(yǔ)音識(shí)別和自然語(yǔ)言理解相結(jié)合,為世界上最大的互聯(lián)網(wǎng)市場(chǎng)創(chuàng)造切實(shí)可用的語(yǔ)音接口。
重要意義:通過(guò)打字與電腦互動(dòng)是非常耗時(shí)和令人沮喪的。
04可回收火箭
突破技術(shù):可以發(fā)射有效載荷至軌道并安全著陸的火箭。
重要意義:飛行成本的降低可為諸多新的航天事業(yè)打開(kāi)方便之門。
05知識(shí)分享型機(jī)器人
突破技術(shù):有一種機(jī)器人,可以學(xué)習(xí)任務(wù),同時(shí)將知識(shí)傳送到云端,以供其他機(jī)器人學(xué)習(xí)。
重要意義:如果不需要分別對(duì)所有類型的機(jī)器進(jìn)行單獨(dú)編程,那么可以極大地加快機(jī)器人的發(fā)展進(jìn)程。
06DNA應(yīng)用商店
突破技術(shù):新的DNA測(cè)序商業(yè)模式讓在線獲取基因信息成為可能。
重要意義:人的大部分特征都是由基因組決定的,其中也包括罹患特定疾病的可能性。
07SolarCity的超級(jí)工廠
突破技術(shù):通過(guò)一種簡(jiǎn)化的、低成本的制造工藝生產(chǎn)出高效的太陽(yáng)能電池板。
重要意義:太陽(yáng)能產(chǎn)業(yè)需要更便宜、更高效的技術(shù)來(lái)提高其相對(duì)于化石燃料的競(jìng)爭(zhēng)力。
08Slack
突破技術(shù):便捷易用通信軟件正取代電子郵件成為新的工作協(xié)同工具。
重要意義:在很多工作場(chǎng)所,“飲水機(jī)效應(yīng)(指偶然相遇和意想不到的同事對(duì)話會(huì)催生新想法)”可以提升工作效率。
09特斯拉自動(dòng)駕駛儀
突破技術(shù):汽車可以在各種環(huán)境下安全自駕。
重要意義:全球范圍內(nèi),每天都有成千上萬(wàn)人死于人為誤操作引發(fā)的車禍。
10空中取電
突破技術(shù):新型無(wú)線裝置,能夠利用周邊的無(wú)線電信號(hào)(如Wi-Fi)為自身供電并進(jìn)行通信。
重要意義:無(wú)源Wi-Fi通信設(shè)備將擺脫電池和電源線的束縛,開(kāi)拓大量新應(yīng)用。
2017年十大突破性技術(shù)
01強(qiáng)化學(xué)習(xí)
技術(shù)突破:強(qiáng)化學(xué)習(xí)(Reinforcement Learning,RL)是一種人工智能方法,能使計(jì)算機(jī)在沒(méi)有明確指導(dǎo)的情況下像人一樣自主學(xué)習(xí)。
重要意義:假如機(jī)器不能夠自主通過(guò)環(huán)境經(jīng)驗(yàn)?zāi)ゾ毤寄埽詣?dòng)駕駛汽車以及其他自動(dòng)化領(lǐng)域的進(jìn)展速度將受到極大地限制。
02360°自拍
突破技術(shù):消費(fèi)級(jí)360°全景相機(jī),能夠更真實(shí)的還原事件和場(chǎng)景。
重要意義:能提供360°全景拍攝的廉價(jià)相機(jī)將開(kāi)啟攝影的新篇章,也將改變?nèi)藗兎窒砉适碌姆绞健?/p>
03基因療法2.0
技術(shù)突破:美國(guó)即將批準(zhǔn)首個(gè)基因治療技術(shù),更多基因療法正在開(kāi)發(fā)與批準(zhǔn)的進(jìn)程中。
重要意義:很多疾病都是由單個(gè)基因突變導(dǎo)致的,新型基因療法能夠徹底治愈這些疾病。
04細(xì)胞圖譜
技術(shù)突破:這是人體中各種細(xì)胞類型的完全目錄。
為什么重要:超精確的人類生理學(xué)模型將加速新藥研發(fā)與試驗(yàn)。
05自動(dòng)駕駛貨車
技術(shù)突破:可以在高速路上自動(dòng)駕駛的長(zhǎng)途貨車。
重要意義:這項(xiàng)技術(shù)的發(fā)展將幫助貨車司機(jī)更高效地完成運(yùn)輸任務(wù),但這一崗位的薪酬可能會(huì)因此下降,貨車司機(jī)最終也將失業(yè)。
06刷臉支付
技術(shù)突破:人臉識(shí)別技術(shù)如今已經(jīng)可以十分精確,在網(wǎng)絡(luò)交易等相關(guān)領(lǐng)域已被廣泛使用。
重大意義:該技術(shù)提供了一種安全并且十分方便的支付方式,但是或許仍存在隱私泄露問(wèn)題。
07太陽(yáng)能熱光伏電池
技術(shù)突破:一種可以讓太陽(yáng)能電池效率翻倍的技術(shù)。
重要意義:這項(xiàng)新設(shè)計(jì)可能會(huì)催生出在日落后依然可以工作的廉價(jià)太陽(yáng)能發(fā)電技術(shù)。
08實(shí)用型量子計(jì)算機(jī)
技術(shù)突破:制造出穩(wěn)定的量子比特。比特是傳統(tǒng)計(jì)算機(jī)中的信息單位,而量子比特是量子計(jì)算機(jī)的信息單位。
重要意義:在運(yùn)行人工智能程序以及處理復(fù)雜的模擬和規(guī)劃問(wèn)題時(shí),量子計(jì)算機(jī)的速度可能是傳統(tǒng)計(jì)算機(jī)的指數(shù)倍,而量子計(jì)算機(jī)甚至能制造出無(wú)法破解的密碼。
09治愈癱瘓
技術(shù)突破:無(wú)線腦-體電子元件可繞過(guò)神經(jīng)系統(tǒng)的損傷來(lái)實(shí)現(xiàn)運(yùn)動(dòng)。
重要意義:全球有數(shù)百萬(wàn)人被癱瘓所折磨,無(wú)時(shí)不刻都渴望著擺脫疾病的困擾。
10僵尸物聯(lián)網(wǎng)
突破技術(shù):可以感染并控制攝像頭、監(jiān)視器以及其他消費(fèi)電子產(chǎn)品的惡意軟件,可造成大規(guī)模的網(wǎng)絡(luò)癱瘓。
重要意義:基于這種惡意軟件的僵尸網(wǎng)絡(luò)對(duì)互聯(lián)網(wǎng)的破壞能力將會(huì)越來(lái)越大,也會(huì)越來(lái)越難阻止。
正如文章開(kāi)始所說(shuō),我們能看到過(guò)去兩年的預(yù)測(cè),已經(jīng)有一部分成為了現(xiàn)實(shí)。并且,我們能發(fā)現(xiàn)一個(gè)明顯的趨勢(shì):越來(lái)越多的人工智能相關(guān)技術(shù)入選榜單。
2018 年,我們也在人工智能領(lǐng)域看到最具開(kāi)創(chuàng)性的突破點(diǎn),它在于人工智能將脫離需要大量資料喂養(yǎng)設(shè)定的框架,取得足以自行演化出更精細(xì)結(jié)果的能力。
-
MIT
+關(guān)注
關(guān)注
3文章
253瀏覽量
23396
原文標(biāo)題:MIT發(fā)布2018年全球10大突破性技術(shù)!
文章出處:【微信號(hào):gh_0dc21b468171,微信公眾號(hào):康希通信】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論