回首人工智能的發(fā)展，深度學(xué)習(xí)無(wú)疑是過(guò)去十年的最大亮點(diǎn)，它在計(jì)算機(jī)視覺(jué)方面的突破性進(jìn)展，使其幾乎等同于人工智能。那么，未來(lái)十年，人工智能將朝著哪個(gè)方向前進(jìn)？通用人工智能會(huì)在何時(shí)以什么樣的形式出現(xiàn)？

在2020北京智源大會(huì)上，北京智源人工智能研究院理事長(zhǎng)張宏江同康奈爾大學(xué)計(jì)算機(jī)教授 Bart Selman、圖靈獎(jiǎng)得主 John Hopcroft 就以上問(wèn)題作出了回答。

人工智能技術(shù)的出現(xiàn)可以追溯到二十世紀(jì)上半葉計(jì)算機(jī)學(xué)科創(chuàng)立之時(shí)，阿蘭圖靈提出 “圖靈測(cè)試”，討論可計(jì)算性的邊界。1956年達(dá)特茅斯會(huì)議上，AI 作為一個(gè)學(xué)科正式宣布誕生。

但很長(zhǎng)時(shí)間以來(lái)，人工智能都未能成功走出象牙塔，在產(chǎn)業(yè)和公共部門(mén)得到廣泛使用，或成為人們?nèi)粘Ｉ畹囊徊糠?。?960年代的符號(hào)推理系統(tǒng)，到1980年代的專(zhuān)家系統(tǒng)，人工智能出現(xiàn)過(guò)幾次破殼而出的跡象，但都未能成功變成產(chǎn)業(yè)級(jí)應(yīng)用。

在過(guò)去十年，一切都改變了。

在北京智源大會(huì)上，北京智源人工智能研究院理事長(zhǎng)張宏江作為主持人，同康奈爾大學(xué)計(jì)算機(jī)教授 Bart Selman、圖靈獎(jiǎng)得主 John Hopcroft 探討了近年來(lái) AI 的飛速發(fā)展和 AI 研究的未來(lái)：過(guò)去十年 AI 領(lǐng)域發(fā)生了什么？接下來(lái)十年 AI 又將如何發(fā)展？

追溯這場(chǎng)革命，一個(gè)繞不開(kāi)的時(shí)間點(diǎn)，是 2012年深度神經(jīng)網(wǎng)絡(luò) AlexNet 在 ImageNet 大規(guī)模圖像識(shí)別挑戰(zhàn)競(jìng)賽中取得的驚人成就。

彼時(shí)，使用8層神經(jīng)元的 AlexNet 把圖像識(shí)別的錯(cuò)誤率從 25% 的水平大幅降到了 15%。自此，僅僅3年之后，人們就學(xué)會(huì)了訓(xùn)練多達(dá)100層神經(jīng)元的深度神經(jīng)網(wǎng)絡(luò) ResNet，將圖像識(shí)別的錯(cuò)誤率降到了3.6%。這個(gè)水平已然超越人類(lèi)的水平 （5%） 。截至2020年6月，AlexNet 的論文被引用次數(shù)已經(jīng)超過(guò)6萬(wàn)4千次。這是深度學(xué)習(xí)技術(shù)的驚人首秀。

如今，深度學(xué)習(xí)幾乎可以和 AI 劃等號(hào)。深度學(xué)習(xí)的基礎(chǔ)：人工神經(jīng)網(wǎng)絡(luò)，在1950年代已經(jīng)出現(xiàn)，用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的反向傳播算法 （backpropagation） 出現(xiàn)在1986年，用于自然語(yǔ)言處理領(lǐng)域的長(zhǎng)短期記憶算法 （LSTM） 出現(xiàn)在1997年。但在過(guò)去的許多年里，訓(xùn)練數(shù)據(jù)和計(jì)算能力都十分匱乏。那時(shí)的研究者縱使有許多思路，也很難去驗(yàn)證。

“在我獲得博士學(xué)位的60年代初，我曾經(jīng)參與手工制作了上千幅100x100 像素的符號(hào)圖像，這在當(dāng)時(shí)看來(lái)就已經(jīng)是巨量數(shù)據(jù)了?！?Hopcroft 說(shuō)。

但摩爾定律和互聯(lián)網(wǎng)時(shí)代的出現(xiàn)終于改變了一切。到了2010年代，基于高性能 GPU 的計(jì)算和互聯(lián)網(wǎng)上產(chǎn)生的大量數(shù)據(jù)，人們終于能大量訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)，去驗(yàn)證自己的想法。這是過(guò)去10年 AI 飛速進(jìn)步的主要原因。

不過(guò)，因?yàn)樯疃葘W(xué)習(xí)技術(shù)的革命性成功，其他 AI 技術(shù)的應(yīng)用被某種程度上忽略了。經(jīng)典的 AI 技術(shù)，例如機(jī)器推理、規(guī)劃、搜索等，在過(guò)去十年同樣取得了很大進(jìn)步。

Selman 說(shuō)， “一個(gè)很好的例子是 AlphaGo。它除了使用了基于深度學(xué)習(xí)的強(qiáng)化學(xué)習(xí)技術(shù)，也使用了2006年左右發(fā)明的蒙特卡洛樹(shù)搜索技術(shù)。這是一個(gè)經(jīng)典的、純粹的符號(hào)邏輯算法。” 另一個(gè)例子是自動(dòng)駕駛系統(tǒng)。雖然對(duì)街道上物體的識(shí)別技術(shù)來(lái)源于深度學(xué)習(xí)，但在設(shè)計(jì)交通路線的時(shí)候，還是需要依靠傳統(tǒng)搜索、規(guī)劃、推理等 AI 技術(shù)。

Selman 認(rèn)為，忽略非數(shù)據(jù)驅(qū)動(dòng)的 AI 技術(shù)，可能會(huì)成為 AI 技術(shù)在未來(lái)十年取得更大突破的障礙。

“如果說(shuō)數(shù)據(jù)是大量標(biāo)注好的圖片，或者語(yǔ)音和文字的對(duì)應(yīng)關(guān)系，那么知識(shí)就好比是牛頓定律，往往只需少數(shù)幾條，就能解釋大量數(shù)據(jù)?！?Selman 說(shuō)。數(shù)據(jù)驅(qū)動(dòng)的 AI 技術(shù)雖然在許多應(yīng)用領(lǐng)域非常有效，但仍然比不上人類(lèi)學(xué)習(xí)的效率。人類(lèi)學(xué)習(xí)過(guò)程是基于 “小樣本” 的，Selman 說(shuō)，“只需要幾個(gè)例子，外加一些老師的指導(dǎo)，人類(lèi)就能理解某個(gè)知識(shí)?！?/p>

2019年8月，Selman 和現(xiàn)任國(guó)際人工智能學(xué)會(huì) （AAAI） 主席 Yolanda Gil 共同起草了《美國(guó)未來(lái)20年人工智能研究路線圖》 （ A 20-Year Community Roadmap for Artificial Intelligence Research in the US） 。該白皮書(shū)強(qiáng)調(diào)未來(lái)的一個(gè)研究重點(diǎn)是 “有自我意識(shí)的學(xué)習(xí)” （self-aware learning） 。 “某個(gè)人在學(xué)習(xí)某個(gè)科目，比如說(shuō)微積分時(shí)，他對(duì)自己的知識(shí)掌握情況會(huì)有一個(gè)評(píng)估，他會(huì)主動(dòng)提問(wèn)，或者針對(duì)自己的弱項(xiàng)進(jìn)行更多的練習(xí)。” Selman 解釋道。這些是目前 AI 欠缺的能力。

僅僅靠數(shù)據(jù)驅(qū)動(dòng)的路徑，雖然能讓 AI 在一些領(lǐng)域達(dá)到接近或者超過(guò)人類(lèi)的水平，例如人臉識(shí)別。但在另一些領(lǐng)域，比如自動(dòng)駕駛，我們需要的是接近100%的安全性。Selman 認(rèn)為，這最后的10%、5%的提升，可能不是深度學(xué)習(xí)本身的進(jìn)展能夠解決的，我們需要不同的思路。

Selman 指出，深度學(xué)習(xí)技術(shù)除了在效率上的不足外，還有更多的問(wèn)題。

例如黑箱問(wèn)題。深度學(xué)習(xí)算法通常只能給出判斷，卻不能給出判斷的理由。假如基于深度學(xué)習(xí)技術(shù)的 AI 是考試的閱卷官，它雖然能夠評(píng)分，卻不能給出評(píng)分的理由，被評(píng)分的學(xué)生可能會(huì)非常不滿(mǎn)。假如這樣的 AI 系統(tǒng)要負(fù)責(zé)給出醫(yī)療診斷的方案，卻不能讓醫(yī)生理解這個(gè)方案的道理，那么醫(yī)生們可能會(huì)拒絕執(zhí)行這樣的治療方案，病人也很難獲得充分的溝通。此外，端到端 （end-to-end） 訓(xùn)練的深度學(xué)習(xí)系統(tǒng)，可能會(huì)過(guò)于復(fù)雜，使得工程師無(wú)法分別針對(duì)其組成部分進(jìn)行質(zhì)量測(cè)試。這對(duì)于需要極高安全性的自動(dòng)駕駛系統(tǒng)而言就會(huì)成為一個(gè)問(wèn)題。

另外，數(shù)據(jù)驅(qū)動(dòng)的 AI 技術(shù)還面臨著數(shù)據(jù)偏見(jiàn)的問(wèn)題。例如當(dāng)前科技領(lǐng)域的從業(yè)者主要是男性，如果 AI 作為招聘官，可能會(huì)認(rèn)為男性更適合從事高科技職業(yè)，從而拒絕合格的女性應(yīng)聘者。這些偏見(jiàn)存在于數(shù)據(jù)之中，人類(lèi)能夠憑借自己對(duì)歷史和社會(huì)的認(rèn)識(shí)，去避免過(guò)分地看重某些經(jīng)驗(yàn)數(shù)據(jù)。但目前的 AI 系統(tǒng)仍然大多處于 “偏見(jiàn)進(jìn)，偏見(jiàn)出” （bias in，bias out） 的狀態(tài)，無(wú)法糾正訓(xùn)練數(shù)據(jù)中的偏見(jiàn)。

事實(shí)上，在《美國(guó)未來(lái)20年人工智能研究路線圖》中，Selman 對(duì)以上問(wèn)題進(jìn)行了更全面的回應(yīng)。該白皮書(shū)確定了三個(gè)需要重點(diǎn)關(guān)注的研究方向：分別是（1）集成化的智能 （Intergrated Intelligence） ，強(qiáng)調(diào)要將各種解決特定問(wèn)題的 AI 技術(shù)模塊組合起來(lái)，同時(shí)要建立 AI 能理解的人類(lèi)知識(shí)庫(kù)；（2）有意義的交互 （Meaningful interaction） 強(qiáng)調(diào)人機(jī)交互時(shí)的隱私問(wèn)題，以及用戶(hù)對(duì)系統(tǒng)的理解、信任和控制能力；（3）有自我意識(shí)的學(xué)習(xí) （Self-aware learning） ，強(qiáng)調(diào)小樣本學(xué)習(xí)、因果推斷、高穩(wěn)定性的學(xué)習(xí)算法，有意圖 （intentional） 的感知和行動(dòng)。這三個(gè)方面均對(duì)目前深度學(xué)習(xí)之外的 AI 技術(shù)，或者深度學(xué)習(xí)的弱點(diǎn)進(jìn)行了補(bǔ)充。

在會(huì)議上，Selman談到，現(xiàn)在 Google，F(xiàn)acebook，Apple 等大公司吸收了大量的 AI 資源，包括有天賦的學(xué)生和教授 ，但商業(yè)利益導(dǎo)向的研究可能會(huì)忽略掉一些重要領(lǐng)域的需求，比如教育和醫(yī)療系統(tǒng)。他提議，美國(guó)在未來(lái)需要更多地支持學(xué)術(shù)界和非 IT 商業(yè)領(lǐng)域的 AI 研究，建立一個(gè) AI 的國(guó)家基礎(chǔ)設(shè)施，包括共享的數(shù)據(jù)集、軟件庫(kù)、計(jì)算資源等等，以便那些因?yàn)橘Y金和影響力的原因而無(wú)法獲得足夠資源的行業(yè)也能為 AI 的發(fā)展做貢獻(xiàn)。

不過(guò)，這些努力是否能讓我們?cè)谖磥?lái)十年看到能夠靈活解決各種問(wèn)題、而非局限于具體任務(wù)的通用人工智能出現(xiàn)呢？

在 Selman 看來(lái)，通用人工智能可能還需要20年以上的時(shí)間才可以實(shí)現(xiàn)。

“不過(guò)如果我們?cè)谖磥?lái)五到十年能在真正的自然語(yǔ)言理解上獲得突破，使得 AI 可以去閱讀圖書(shū)，從互聯(lián)網(wǎng)獲得知識(shí)，那么這個(gè)進(jìn)程可能會(huì)被大大加速?！?Selman 解釋道。

同時(shí)，他表示對(duì)未來(lái) AI 從數(shù)據(jù)到知識(shí)、從大樣本數(shù)據(jù)訓(xùn)練到小樣本知識(shí)獲取的進(jìn)步感到樂(lè)觀。Selman 認(rèn)為，技術(shù)是加速發(fā)展的。人類(lèi)發(fā)展農(nóng)業(yè)技術(shù)用了幾千年，發(fā)展工業(yè)技術(shù)用了幾百年，發(fā)展 AI 技術(shù)只用了幾十年。我們現(xiàn)在有了更高效的編程語(yǔ)言，更方便的計(jì)算設(shè)備，大量的數(shù)據(jù)，基于互聯(lián)網(wǎng)的高效知識(shí)共享，以及產(chǎn)業(yè)界的大量投資，技術(shù)的進(jìn)步將會(huì)越來(lái)越快。

我們無(wú)法在短期內(nèi)達(dá)到通用人工智能的原因，Hopcroft 補(bǔ)充說(shuō)，是因?yàn)槟壳暗?AI 研究普遍是具體工程指標(biāo)驅(qū)動(dòng)的，人們花了很多精力，在特定的領(lǐng)域去改善算法的表現(xiàn)。他認(rèn)為，我們需要更多好奇心驅(qū)動(dòng)的研究，需要更多地回到基礎(chǔ)科學(xué)問(wèn)題上來(lái)?！拔磥?lái)人工智能領(lǐng)域重要的突破，可能并非來(lái)自計(jì)算機(jī)科學(xué)專(zhuān)家，而是生物學(xué)研究者?！?Hopcroft 說(shuō)，畢竟人類(lèi)現(xiàn)在對(duì)于人類(lèi)大腦進(jìn)化歷程和兒童大腦發(fā)育機(jī)制知道得仍然非常有限。

這也提醒了我們?nèi)斯ぶ悄苓@一學(xué)科成立的初衷。我們并非只是為了獲得工程上有效的算法。我們希望能理解人類(lèi)的心靈。如費(fèi)曼所言， “我造不出來(lái)的東西，我就沒(méi)有真的弄懂。”
責(zé)任編輯：tzh