到2021年，幾乎所有日常軟件都將擁有智能，功能也越來越強大，可以取代人類去做越來越多的工作，這會對我們產(chǎn)生什么樣的影響？有些人預(yù)測會引發(fā)大規(guī)模失業(yè)或是人類與人工智能（AI）爆發(fā)全面戰(zhàn)爭，其他人預(yù)測的未來也十分暗淡。然而，卡耐基-梅隆大學(xué)機器學(xué)習(xí)學(xué)院院長曼努拉·維羅索教授（Manuela Veloso）卻認(rèn)為，將來人類與智能系統(tǒng)將是不可分割的，他們需要緊密結(jié)合，不斷交流信息，她稱這種關(guān)系為“共生自治”。維羅索預(yù)測，將來人類代理與自動化助理之間將很難區(qū)分，但是無論是人類還是軟件，缺少任何一方都將玩不轉(zhuǎn)。

　　維羅索已經(jīng)開始在卡耐基-梅隆大學(xué)中測試自己的理論，并制造了類似賽格威外形的漫游機器人Cobot。這種機器人可以自動護送客人前往不同的建筑，在無法滿足客人需求時，還會像其他人求助。這是有關(guān)AI研究的新途徑，在未來5年將產(chǎn)生深遠(yuǎn)影響。維羅索日前在匹茲堡接受專訪，談及機器人、編程自發(fā)性技術(shù)的進展，并挑戰(zhàn)AI對人類造成威脅的說法。以下是采訪摘要：

　　問：在過去5年中，我們看到的大趨勢之一就是自動化。與此同時，我們也看到更多智能系統(tǒng)被植入到已有設(shè)備中，比如智能手機和電腦等。在接下來的5年，你認(rèn)為這種趨勢還會蔓延到哪些領(lǐng)域？

　　維羅索：將來，我認(rèn)為人類與有望為人類提供服務(wù)的AI系統(tǒng)將形成共存關(guān)系。這些AI系統(tǒng)將被植入處理數(shù)字化世界的軟件系統(tǒng)中，同時被植入圍繞物理空間活動的系統(tǒng)中，比如無人機、機器人、自動汽車等。此外，AI也可被用于處理物理空間的系統(tǒng)，比如物聯(lián)網(wǎng)。

　　在物質(zhì)世界，你會看到越來越多的智能系統(tǒng)，不僅僅在智能手機或電腦上，而是存在于我們周圍的各種設(shè)備上，用于處理和傳感有關(guān)物質(zhì)世界的信息，幫助了解物質(zhì)世界的更多特征，以便于我們做出決定。隨著時間推移，我們還將看到這些AI系統(tǒng)對社會上更廣泛的問題產(chǎn)生影響：管理大城市的交通、對氣候做出復(fù)雜預(yù)測、支持人類作出重大決策等。

　　問：現(xiàn)在，有些AI系統(tǒng)的表現(xiàn)還不盡如人意。當(dāng)算法或機器人做出決定時，我們并非總能理解它們?yōu)楹巫龀鲞@種決定，以及哪個決定更值得相信。技術(shù)專家能夠應(yīng)對這樣的問題嗎？

　　維羅索：我的工作之一就是能讓這些機器可以解釋自身行為，它們需要對自己的決定負(fù)責(zé)，決定過程需要保持透明。我們進行的許多研究是讓人類或用戶去查詢系統(tǒng)，而我的機器人Cobot稍晚到達(dá)我的辦公室時，我會問“你為何遲到？”、“你走了哪條路線？”

　　我們正致力于賦予這些AI系統(tǒng)新的能力，以便它們解釋自身行為。它們在學(xué)習(xí)和改進過程中，也將能夠提供不同層次細(xì)節(jié)的解釋。我們希望能與機器人進行更深的互動，最終讓人類能夠更信任AI系統(tǒng)。你可能會問它們：“為何你（AI系統(tǒng)）會那樣說？”或“為何你提供這樣的建議？”

　　提供這些解釋恰好是我正在研究的課題，我相信機器人將能夠做到這一點，這將促使人們更好地理解和信任這些機器人。最終，通過這些互動，人類也可以對AI系統(tǒng)進行糾正。為此，我們正研究試圖對AI系統(tǒng)進行修正，并幫助它們學(xué)習(xí)指令。我認(rèn)為，這對人類與AI系統(tǒng)共存非常重要。

　　問：為何你認(rèn)為這些AI系統(tǒng)正快速進化？過去50多年的AI研究取得了哪些進展？

　　維羅索：你必須知道，對于AI系統(tǒng)來說，要想了解什么是手機、茶杯或某人是否健康，需要學(xué)習(xí)很多知識。而早期的許多AI研究實際上就是如何獲得這些知識。我們可能必須向人類詢問，或者在書上尋找信息，并手動向計算機中輸入信息。

　　令人感到神奇的是，在過去幾年中，越來越多的信息數(shù)字化，似乎整個世界都被搬到了互聯(lián)網(wǎng)上。為此，AI系統(tǒng)現(xiàn)在已經(jīng)擁有大量數(shù)據(jù)可用，它們也有能力處理這些數(shù)據(jù)，并讓數(shù)據(jù)更有意義。而我們必須找出幫助AI系統(tǒng)的最好方式。另一方面，我們對此感到十分樂觀，因為我們知道數(shù)據(jù)已經(jīng)大量存在。

　　現(xiàn)在的問題是，我們?nèi)绾螐臄?shù)據(jù)中獲得見解？你要如何使用它？你如何研究分布，也就是數(shù)據(jù)統(tǒng)計？你如何將這些碎片拼合起來？這就是你需要深入學(xué)習(xí)和深度強化學(xué)習(xí)的。系統(tǒng)可以自動翻譯，機器人可以踢足球，所有這些事情都是可能的，因為我們可以非常高效地處理這些數(shù)據(jù)，而我們無需再花費更多精力來獲取相關(guān)知識。

　　問：過去5年中，像Siri和Alexa等個人助理取得了長足進步，它們都有機器學(xué)習(xí)支持。我很好奇，你認(rèn)為這些系統(tǒng)在未來5年會發(fā)生怎樣的變化？

　　維羅索：你知道，我是Alexa的忠誠粉絲。我家里就有Alexa，我能與它談及的話題越來越廣泛。最初，我只能問“今天天氣怎么樣？”這樣的簡單問題?，F(xiàn)在，我可以問它“我今天有哪些安排？”Alexa正在學(xué)習(xí)，而我也在了解Alexa能做些什么。我對它隨著時間推移將會發(fā)生何種改變也充滿渴望。

　　我可以告訴你一件有趣的事情：當(dāng)我離開家時，我會告訴Alexa：Alexa，請停下來！ 我希望它停止播放正在播放的音樂，因為我正要離開。但是如果我告訴Alexa：Alexa，我要離開了！它還不太理解這句話的意思，因此也不會停止播放音樂。我必須接著補充具體指令，讓它停播音樂。我認(rèn)為，個人助理將會變得越來越有“指令意識”，當(dāng)我說“我要離開了”，它應(yīng)該能理解話外之意，即停止播放音樂?，F(xiàn)在，這種“指令意識”也被納入研究日程中。

　　問：你認(rèn)為個人助理最終可進化到下列程度嗎？比如我們可以問它：檢查下汽車引擎，我能安全乘坐嗎？或我剛剛接到工作邀約，我應(yīng)該接受嗎？

　　維羅索：我認(rèn)為這完全有可能。這些問題都屬于決策問題。假如你必須在哪些健康保險計劃中做出選擇，而你又對所有選項感到困惑時，你可以告訴Alexa自己要去睡覺，然后請求Alexa幫你閱讀所有保險計劃，或你能購買的所有車型，你的孩子能去的所有學(xué)校等。Alexa可以利用晚上時間，為你整理出完整的報告。

　　現(xiàn)在，網(wǎng)上已經(jīng)有大量相關(guān)信息。你可以查找所有學(xué)校的特色，查看其他人對學(xué)校的評價。AI系統(tǒng)可以收集這些信息，比如它們距離你家多遠(yuǎn)，其他人的評論如何等。它們可以了解這些學(xué)校的功能，了解它們過去的歷史，并處理所有可用信息，為你提供答案和指導(dǎo)，這些信息將令你更容易消化。因為目前網(wǎng)上的信息量過于龐大，有時候你根本看不過來。

　　最終，你可能希望個人助理告訴你，為何它們會給你提出當(dāng)前建議。你可能會問：“你為何認(rèn)為我應(yīng)該買那輛車？我真的不太喜歡這個品牌?！蔽艺J(rèn)為這是非常重要的一步，有了AI系統(tǒng)給予人類決策的支持，再結(jié)合你所了解的信息和獲得的企業(yè)反饋，你將可做出更明智的決定。

　　問：除了幫助人們做出決定，這些AI助理還能做什么？

　　維羅索：你可以想象下，類似系統(tǒng)可用于幫助你處理科學(xué)論文。每年都有無數(shù)的科學(xué)論文出版，現(xiàn)在它們都已經(jīng)被發(fā)布到網(wǎng)上。你可以想象AI系統(tǒng)幫助研究人員消化所有信息，并尋找與他們興趣相關(guān)的東西。

　　AI系統(tǒng)將依然是網(wǎng)絡(luò)信息產(chǎn)品。許多人正研究這些信息，比如文本信息、圖像信息、流程圖、圖標(biāo)等，并試圖理解這些信息，最終篩選出你可能需要的信息。舉例來說，機器學(xué)習(xí)有個名為“主動學(xué)習(xí)”的分支領(lǐng)域，如果某個過程中沒有足夠的圖片，它可能希望你添加更多圖片。

　　我認(rèn)為AI系統(tǒng)將可以識別缺失的圖像，并將網(wǎng)上所有信息連接起來，必要時還會請求更多數(shù)據(jù)。你可以想象下，它會問研究人員：“如果你告訴我更多有關(guān)這些細(xì)胞如何與這種化學(xué)物質(zhì)相互作用的信息，我可以獲得更好的相關(guān)模型?！?/p>

　　當(dāng)然，這些自動機器人也存在局限性，它們不可能打開所有世界的大門，因為無法理解所有口語。但我認(rèn)為，人類同樣存在局限性，比如講話有口音等。顯然，對于我們來說，這些機器人和AI系統(tǒng)的主要功能之一將是識別它們不知道的東西，他們不能做的事情，他們不理解的信息，并向人類求助。你能按下電梯按鈕嗎？你能大開門嗎？你能將東西放進我的籃子嗎？這就是我所謂的“共生自治”。當(dāng)有些事情是機器人無法做到、不知道或不理解的，它們可以向人類求助。這是新的思維方式，我們周圍的AI系統(tǒng)將會尋求我們的幫助，需要我們分擔(dān)它們的部分任務(wù)。

　　隨著這些AI系統(tǒng)的增多，這種情況會變得更加復(fù)雜。系統(tǒng)已經(jīng)可實現(xiàn)無線通信，可獲取云端數(shù)據(jù)，或?qū)で筮h(yuǎn)程團隊幫助。你可以想象下，AI系統(tǒng)不斷與任何東西共生，比如互聯(lián)網(wǎng)上的信息、其他AI系統(tǒng)、旁邊的人類、遠(yuǎn)程人類團隊等。這不再是開發(fā)自給自足AI系統(tǒng)的問題，而是AI系統(tǒng)可以識別自己不知道的東西、需要了解更多信息、識別自己不確定的東西。這并非是說AI系統(tǒng)不再注重解決所有問題，而是能夠依賴周圍資源解決問題。

　　問：你怎么看我們正在使用的AI系統(tǒng)與人類共生關(guān)系的改變？

　　維羅索：讓我們回到上述假設(shè)中，即要求AI幫助決定孩子上哪所學(xué)校或我們購買哪份健康保險上。我認(rèn)為在某種情況下，這些AI系統(tǒng)可能需要人類沒有提供的信息。AI系統(tǒng)可能意識到，如果它能知道這些額外信息，可以為你的決策提供更好的幫助。

　　最有意思的是，當(dāng)AI系統(tǒng)能夠自己識別正缺失的信息時。它們實際上已經(jīng)意識到，要想采取具體行動，它們還需要更多信息。舉例來說，如果它們能夠預(yù)定無法網(wǎng)上預(yù)訂的酒店房間，它們就可以在距離你的會場不遠(yuǎn)的地方預(yù)訂酒店。我真的認(rèn)為這種能力非常重要，因為就連我都不知道系統(tǒng)在做出這種決定時需要了解的哪些信息。

　　現(xiàn)在，我們可以將目的地地址輸入到Uber、谷歌地圖或Waze中，這足以幫助我們規(guī)劃出路線?？墒?，Waze無法與你交流，比如詢問你：“你有急事嗎？我需要為你規(guī)劃出最短路徑嗎？還是你只是想要散散心，瀏覽下那里的美景？”如果個人助理知道我非常喜歡蘭花，或我鐘愛某種藝術(shù)，結(jié)果會如何？如果稍微偏離路線，我可能會順便訪問博物館。在規(guī)劃路線時，如果個人助理知道這一點，它可能會為我規(guī)劃通過博物館的路線。

　　通用AI（General AI）面臨的挑戰(zhàn)是艱巨的。我們現(xiàn)在擁有深度學(xué)習(xí)、深度加強學(xué)習(xí)等技術(shù)，這已經(jīng)可以讓它們產(chǎn)生普通智能的感覺。我們還在進行大量研究，試圖理解遷移學(xué)習(xí)的概念。我們?nèi)绾伍_發(fā)出算法？因為它們可以解決特定問題，它們也能學(xué)會去做其他事情嗎？我們還未完全理解AI，我們不知道有關(guān)它們的許多事情。從算法、技術(shù)、概括方法、提供解釋方法等角度來說，我們依然處于AI的早期階段，我們依然需要繼續(xù)努力。

　　但我相信，通用AI將來會集成許多專門的AI系統(tǒng)，將它們?nèi)诤铣擅魉够∕insky）所描述的“心智社會”。在AI研究之初，人工智能先驅(qū)艾倫·紐厄爾（Allen Newell）與赫伯·西蒙（Herb Simon）曾預(yù)測，可能有特殊用途的算法，可以解決非常復(fù)雜的問題。

　　為此，即使研究通用AI可能面臨諸多挑戰(zhàn)，但也令人感到激動萬分，因為現(xiàn)在擁有如此大量的數(shù)據(jù)。還有如此多的人在使用數(shù)字設(shè)備，并不斷生成數(shù)據(jù)。通過越來越多地使用電腦、手機、Alexa以及Uber等，所有這些都有助于我們研究通用AI問題。我們依然有許多研究要做，我們依然不知道通用AI到底是什么，但我們正朝著那個方向邁進。

　　問：這種不確定性讓你感到擔(dān)憂嗎？有些人擔(dān)心AI超越人類智能，人類將會被毀滅。

　　維羅索：我是個樂天派，我認(rèn)為我們正在進行的自動化系統(tǒng)研究（包括自動汽車、自動機器人），都需要人類來負(fù)責(zé)。在某種意義上說，這與技術(shù)沒有任何關(guān)系。技術(shù)將不斷取得進展，它是人類發(fā)明的，而非外星人從天上扔下來的。這些都是我們自己的發(fā)現(xiàn)，是人類大腦設(shè)想出了技術(shù)，同樣取決于人類如何利用它。

　　我之所以對此感到樂觀，是因為人類已經(jīng)意識到，我們需要謹(jǐn)慎應(yīng)對這種技術(shù)。但是最好的方式就是投資教育。機器人可能會越變越好，但投資于教育，人們就可以互相了解，互相照應(yīng)。關(guān)懷社會進步，關(guān)懷地球和自然，改進科學(xué)。解決所有這些問題，包括治愈癌癥、消除貧困。利用人類開發(fā)的這種技術(shù)，我們還可以去做許多事情。

　　在某種意義上說，正是AI的這種人性讓我們走到一起，從此難以割舍。為此，我對未來充滿樂觀。