2017年在人工智能領(lǐng)域取得了顯著的進(jìn)步。 一個(gè)名為L(zhǎng)ibratus的機(jī)器人撲克玩家，連續(xù)擊敗三位人類玩家，成為撲克界的大佬。在現(xiàn)實(shí)世界中, 機(jī)器學(xué)習(xí)已經(jīng)可以識(shí)別雜草、識(shí)別病灶，正被用于改善農(nóng)業(yè)和擴(kuò)大醫(yī)療保健。

但是如果你最近和蘋果設(shè)備上的 Siri 交談過，就會(huì)知道盡管媒體大肆宣傳機(jī)器崛起，埃隆·馬斯克這樣富豪也在表達(dá)擔(dān)憂, 人工智能仍然無法做到或理解許多事情。

2018年，研究者們會(huì)用下面的5個(gè)棘手問題考驗(yàn)機(jī)器大腦。

　一、2018，AI 依然不懂人話

機(jī)器在處理文字和語言方面比以往任何時(shí)候都要好。Facebook 可以把圖片的描述播放給視障人士聽。谷歌郵箱做了很棒的工作，可以對(duì)郵件自動(dòng)做出簡(jiǎn)潔的回復(fù)。然而, 程序仍然不能真正理解我們說話的含義以及我們與之分享的想法。波特蘭州立大學(xué)(Portland State University)教授梅勒妮?米切爾(Melanie Mitchell)表示:"我們?nèi)祟惸軌虬阉鶎W(xué)到的概念以不同的方式結(jié)合起來, 并在新的情況下應(yīng)用。但是這些人工智能和機(jī)器學(xué)習(xí)系統(tǒng)并非如此。"

米切爾將今天的程序描述為數(shù)學(xué)家 Gian Carlo-Rota 所說的"意義障礙"。一些領(lǐng)先的人工智能研究團(tuán)隊(duì)正在試圖找出克服它的方法。

這項(xiàng)工作的一部分，旨在給機(jī)器一種常識(shí)的基礎(chǔ), 以及支撐我們思維的物質(zhì)世界。例如, Facebook 的研究人員正試圖通過讓程序觀看視頻來教它們理解現(xiàn)實(shí)。另一些研究人員正在模擬我們對(duì)這個(gè)世界的認(rèn)知。谷歌一直在調(diào)試程序，讓它們學(xué)習(xí)隱喻。米切爾已經(jīng)讓計(jì)算機(jī)系統(tǒng)嘗試使用類比和儲(chǔ)存的概念，來解釋照片中發(fā)生的事情。

二、“機(jī)器人革命”的障礙：虛擬和現(xiàn)實(shí)的鴻溝

機(jī)器人硬件已經(jīng)相當(dāng)不錯(cuò)。你可以花500美元買到一架配有高清攝像機(jī)的小型無人機(jī)。能搬運(yùn)箱子和兩腿行走的機(jī)器人也有所改進(jìn)。但是為什么現(xiàn)在我們并沒有被熙熙攘攘的機(jī)械助手機(jī)器人包圍？因?yàn)榻裉斓臋C(jī)器人，缺乏一顆與他們復(fù)雜肌肉相匹配的大腦。

讓機(jī)器人做任何事情，都需要針對(duì)特定任務(wù)進(jìn)行特定編程。他們可以從重復(fù)的試驗(yàn)(以及錯(cuò)誤的嘗試)中學(xué)習(xí)像抓取物體這類的操作。但是這個(gè)過程相對(duì)緩慢。一個(gè)有希望的捷徑是讓機(jī)器人在虛擬的模擬世界中訓(xùn)練, 然后把從訓(xùn)練中艱難得到的知識(shí)下載到物理機(jī)器人身上。然而, 這種方法受到現(xiàn)實(shí)與模擬環(huán)境差距的影響——也就是說一個(gè)機(jī)器人從模擬中學(xué)到的技能在轉(zhuǎn)移至物理世界的機(jī)器時(shí)，并不總是有效。

現(xiàn)在這種現(xiàn)實(shí)與模擬環(huán)境的差距正在縮小。10月份, 谷歌報(bào)告了一些有希望的實(shí)驗(yàn)結(jié)果, 在這些實(shí)驗(yàn)中, 模擬機(jī)器人手臂的和真實(shí)的機(jī)器人手臂都學(xué)會(huì)了撿起包括膠帶分配器、玩具和梳子在內(nèi)的各種物體。

這種在模擬環(huán)境中訓(xùn)練機(jī)器人的技術(shù)對(duì)于自動(dòng)駕駛汽車的研發(fā)非常重要。自動(dòng)駕駛公司在機(jī)動(dòng)化駕駛競(jìng)賽中，往往會(huì)在虛擬街道上部署虛擬車輛測(cè)試，以減少在實(shí)際交通道路條件下測(cè)試所花費(fèi)的時(shí)間和金錢。

自動(dòng)駕駛公司 Aurora 的首席執(zhí)行官克里斯 · 厄姆森說, 讓虛擬測(cè)試更適用于真實(shí)車輛是他團(tuán)隊(duì)的優(yōu)先考慮之一。曾經(jīng)領(lǐng)導(dǎo)過谷歌母公司 Alphabet 自動(dòng)汽車項(xiàng)目的Urmson說，"在接下來的一年, 我們會(huì)利用這一點(diǎn)來讓自動(dòng)駕駛加速學(xué)習(xí)"。

　三、人工智能，黑客盯上你了

運(yùn)行我們的電網(wǎng)、監(jiān)控?cái)z像和手機(jī)的軟件都存在安全漏洞。我們不應(yīng)該期望自動(dòng)駕駛汽車和家用機(jī)器人的軟件會(huì)有所不同。事實(shí)上可能更糟: 有證據(jù)表明, 因?yàn)闄C(jī)器學(xué)習(xí)軟件的復(fù)雜性，所以存在新的攻擊途徑。

今年, 研究人員表明, 你可以在機(jī)器學(xué)習(xí)系統(tǒng)中隱藏一個(gè)秘密觸發(fā)器, 這會(huì)導(dǎo)致機(jī)器在看到特定信號(hào)時(shí)轉(zhuǎn)變?yōu)樾皭耗Ｊ健＜~約大學(xué)的研究小組設(shè)計(jì)了一個(gè)正常運(yùn)作的街道標(biāo)志識(shí)別系統(tǒng)ーー除非它看到一個(gè)黃色的便利貼。在布魯克林的一個(gè)停車標(biāo)志上貼上一個(gè)便利貼, 系統(tǒng)就會(huì)報(bào)告這是一個(gè)限速標(biāo)志。這種技巧的潛力可能會(huì)給自動(dòng)駕駛汽車帶來問題。

這一威脅被認(rèn)為很嚴(yán)重, 世界上最著名的機(jī)器學(xué)習(xí)會(huì)議的研究人員在本月早些時(shí)候召開了為期一天的關(guān)于機(jī)器欺騙威脅的研討會(huì)。研究人員討論了諸如“如何生成讓人們看起來很正常但是機(jī)器開起來比較特殊的手寫數(shù)字”這樣的問題。例如, 你所看到的2, 將被機(jī)器視覺系統(tǒng)視為3。研究人員還討論了防止這種攻擊的可能性, 并擔(dān)心人工智能被用來愚弄人類。

組織這次研討會(huì)的 Tim Hwang 預(yù)測(cè), 隨著機(jī)器學(xué)習(xí)變得更容易部署和更強(qiáng)大, 使用這項(xiàng)技術(shù)來操縱人是不可避免的。"你不再需要一個(gè)裝滿博士學(xué)位的房間來進(jìn)行機(jī)器學(xué)習(xí),"他說。Tim Hwang指出, 俄羅斯在2016年總統(tǒng)選舉期間發(fā)起的假情報(bào)運(yùn)動(dòng)可能是 AI 增強(qiáng)信息戰(zhàn)爭(zhēng)的先驅(qū)。"為什么不在這些活動(dòng)中看到機(jī)器學(xué)習(xí)領(lǐng)域的技術(shù)？"他說。Hwang 預(yù)測(cè)的一個(gè)特別有效的方法是利用機(jī)器學(xué)習(xí)來生成虛假的視頻和音頻。

　四、AI 玩家，從桌游到電玩

Alphabet 的圍棋軟件AlphaGo在2017年迅速發(fā)展。今年五月, 一個(gè)更強(qiáng)大的版本擊敗了中國(guó)的圍棋冠軍。它的創(chuàng)造者, DeepMind研究院, 隨后又升級(jí)了一個(gè)版本, AlphaGo Zero, 這個(gè)版本不用研究人類的棋譜，也能有非凡的下期技巧。去年12月, DeepMind的另一項(xiàng)升級(jí)工作誕生了 AlphaZero, 它可以學(xué)習(xí)下國(guó)際象棋和日本象棋 （盡管不是同時(shí)下）。

這種引人注目的結(jié)果令人印象深刻, 但也提醒我們?nèi)斯ぶ悄苘浖木窒扌浴?guó)際象棋、日本象棋和圍棋都很復(fù)雜, 但是其規(guī)則和玩法卻比較簡(jiǎn)單, 對(duì)于兩個(gè)對(duì)手來說都是可見的。它們很好的匹配了計(jì)算機(jī)的能力, 可以快速預(yù)測(cè)許多未來可能的位置。但是, 生活中的大多數(shù)情況和問題并不是那么有“結(jié)構(gòu)性”。

這就是為什么 DeepMind 和 Facebook 都在2017年開始研發(fā)能玩星際爭(zhēng)霸（ StarCraft）的AI。

但是兩者目前都還沒有獲得很好的成果。目前, 即使是表現(xiàn)最好的AI機(jī)器人的游戲水平也無法和一般水平的人類玩家所匹敵。DeepMind研究員 Oriol Vinyals 今年早些時(shí)候告訴《連線》雜志, 他的軟件現(xiàn)在缺乏精心組織和指揮軍隊(duì)所需的計(jì)劃和記憶能力, 同時(shí)對(duì)敵對(duì)方行動(dòng)進(jìn)行預(yù)測(cè)和反應(yīng)的能力也不夠強(qiáng)。并非巧合的是, 這些技能還可以使AI在現(xiàn)實(shí)任務(wù)協(xié)作方面做得更好, 例如辦公室工作或真正的軍事行動(dòng)。如果人工智能研究能在2018年取得重大的進(jìn)展，那么將預(yù)示著人工智能將產(chǎn)生一些更新更強(qiáng)大的應(yīng)用。

　五、人工智能，明辨是非？

即使在上述領(lǐng)域沒有取得新的進(jìn)展, 如果現(xiàn)有的人工智能技術(shù)被廣泛采用, 經(jīng)濟(jì)和社會(huì)的許多方面也會(huì)發(fā)生巨大變化。隨著公司和政府急于采用 AI 技術(shù), 有人開始擔(dān)心人工智能和機(jī)器學(xué)習(xí)造成的意外傷害或故意傷害。

如何將人工智能技術(shù)保持在安全和合乎道德的范圍內(nèi), 是本月美國(guó)國(guó)家科學(xué)院機(jī)器學(xué)習(xí)會(huì)議（NIPS）上討論的主線問題。研究人員發(fā)現(xiàn), 機(jī)器學(xué)習(xí)系統(tǒng)可以由我們這個(gè)不完美世界的數(shù)據(jù)進(jìn)行訓(xùn)練，進(jìn)而捕捉到其中令人討厭或不受歡迎的行為, 比如持久的性別刻板印象。現(xiàn)在, 一些人正在研究可以用來審查人工智能系統(tǒng)內(nèi)部運(yùn)作的技術(shù), 確保它們?cè)诮鹑诨蜥t(yī)療等行業(yè)工作時(shí)做出公平的決定。

2018年, 科技公司會(huì)就“如何讓人工智能更遵守人倫”的問題提出一些想法。谷歌、Facebook、 微軟和其他公司已經(jīng)開始討論這個(gè)問題, 它們都是一個(gè)名為“人工智能伙伴關(guān)系”的新非營(yíng)利機(jī)構(gòu)的成員,  該機(jī)構(gòu)將研究并嘗試塑造人工智能的社會(huì)影響。科技公司的壓力也來自于更多獨(dú)立機(jī)構(gòu)。一個(gè)名為“人工智能倫理與管制基金”的慈善項(xiàng)目正在支持麻省理工學(xué)院、哈佛大學(xué)和其他機(jī)構(gòu)研究人工智能和公共利益。紐約大學(xué)的新研究機(jī)構(gòu)“AI Now”, 也有類似任務(wù)。在最近的一份報(bào)告中, 它呼吁各國(guó)政府承諾，不在刑事司法或社會(huì)福利等公共領(lǐng)域使用"黑箱"算法。

小結(jié)

本文介紹了2018年讓人工智能繼續(xù)頭疼的五大難題：

1、理解人類語言

2、從虛擬世界到現(xiàn)實(shí)世界的差距

3、防止黑客入侵人工智能系統(tǒng)

4、從桌面游戲到電子游戲

5、教人工智能分辨是非

每一個(gè)難題背后都是一系列的技術(shù)、社會(huì)問題。人工智能在勇猛精進(jìn)的路上從何處再下一城？讓我們拭目以待。

來源|億歐