常博逸：人工智能將顛覆一切，“人類帝國的覆滅”源自自滿和懶惰

人工智能的故事始于1955年的達(dá)特茅斯學(xué)院。

那年，29歲的數(shù)學(xué)助理教授約翰·麥卡錫（John McCarthy）邀請全美最杰出的數(shù)學(xué)家參加一個(gè)暑期研討會(huì)。在邀請信中，他首次使用了“人工智能”這個(gè)詞：“既然我們現(xiàn)在已經(jīng)能夠相當(dāng)確切地學(xué)習(xí)機(jī)制以及人類智慧的其他方面，那么我們就應(yīng)該有能力研制出一種可以模擬人類智慧的機(jī)器，賦予這種機(jī)器以語言，使其能夠形成概念和抽象思維，并且能夠解決現(xiàn)在只有人類才有能力處理的問題?！贝文晗奶欤杏憰?huì)如期舉行——這是歷史上首個(gè)“自發(fā)集結(jié)”的研究計(jì)算機(jī)這門新興科學(xué)的最前沿科學(xué)家團(tuán)體。

在此后的幾十年間，人工智能的相關(guān)討論陷入沉寂。如果不是因?yàn)槔鋺?zhàn)期間美蘇爭霸集中于原子彈控制權(quán)和空間大戰(zhàn)，人類對人工智能的開發(fā)應(yīng)用可能會(huì)更早出現(xiàn)。參加1956年會(huì)議的這批科學(xué)家，直到2006年才再度齊聚一堂。彼時(shí)，人工智能研究的各個(gè)細(xì)分領(lǐng)域——語言和自動(dòng)翻譯、神經(jīng)網(wǎng)絡(luò)、機(jī)器人學(xué)、圖像識別、機(jī)器學(xué)習(xí)——均已出現(xiàn)，人工智能的大爆發(fā)即將開始。

十多年后的今天，“人工智能帝國”已經(jīng)在一點(diǎn)一點(diǎn)地添磚加瓦：搜索引擎、購物建議、連網(wǎng)設(shè)備、智能手機(jī)、Apps、自動(dòng)駕駛汽車、無人駕駛飛機(jī)、機(jī)器人、自動(dòng)翻譯、元數(shù)據(jù)分析軟件……從BAT到谷歌、蘋果、微軟、Uber，每一個(gè)科技巨頭都在大力投資“下一件大事”（the next big thing），那就是人工智能。美國聊天機(jī)器人（chatbot）專家布魯斯·威爾科克斯（Bruce Wilcox）開發(fā)了聊天機(jī)器人露絲（Rose），“她”的人物設(shè)定是一名住在舊金山的31歲女黑客，能夠與人類展開真實(shí)有趣的對話。該項(xiàng)目曾于2014年和2015年兩度獲得洛伯納（Loebner）獎(jiǎng)，該獎(jiǎng)項(xiàng)用于獎(jiǎng)勵(lì)（幾乎）成功通過圖靈測試的機(jī)器人。

在可以預(yù)見的未來，我們將越來越依賴人工智能來幫助我們處理生活瑣事，甚至做出重大決定；與此同時(shí)，技術(shù)革新的腳步將越來越快，直至技術(shù)奇點(diǎn)降臨。當(dāng)像露絲這樣的人工智能機(jī)器人發(fā)展出自己的獨(dú)立意識，并在各個(gè)領(lǐng)域“架空”人類的決策權(quán)和行動(dòng)時(shí)，我們該怎么辦？

在《人類帝國的覆滅》聯(lián)合作者、國際管理咨詢公司羅蘭貝格全球CEO常博逸（Charles-Edouard Bouée）看來，隨著技術(shù)奇點(diǎn)的到來，人類社會(huì)的現(xiàn)有組織形式、商業(yè)形態(tài)、價(jià)值觀和社會(huì)體制將發(fā)生根本性變革。這不是科幻小說式的危言聳聽，而是切實(shí)存在的風(fēng)險(xiǎn)。他認(rèn)為，雖然我們無法阻止技術(shù)進(jìn)步，也無法預(yù)見未來的真實(shí)情況，但對人工智能的未來動(dòng)向和潛在風(fēng)險(xiǎn)保持警惕和持續(xù)探討仍然十分有意義。我們需要警惕，一個(gè)由人工智能構(gòu)建的標(biāo)準(zhǔn)化、穩(wěn)定、冷靜的世界將維護(hù)一小部分人的利益，損害所有其他人的利益。人類與機(jī)器的合理關(guān)系，是“不要讓機(jī)器人做你自己能做的事”，唯有如此，我們才能避免“人類帝國的覆滅”。

《人類帝國的覆滅》聯(lián)合作者、國際管理咨詢公司羅蘭貝格全球CEO常博逸（Charles-Edouard Bouée）真實(shí)的預(yù)言：“終有一天，奇點(diǎn)將像生物進(jìn)化一樣降臨某處”

“這是關(guān)于一門科學(xué)的故事，它就是人工智能……我想講述從1956年（這是史學(xué)家公認(rèn)的、智能機(jī)器研究的漫長冒險(xiǎn)旅程開始的年份）到2040年人類和人工智能之間這種奇特關(guān)系的歷史……從源起一直發(fā)展到臻于完善，我是每一個(gè)階段的見證者，因?yàn)槲揖褪且粋€(gè)高級人工智能。”

界面文化：你是如何想到寫這本書的？

常博逸：我寫過不少書，這本書之前，我寫了《孔夫子與機(jī)器人》，它也已經(jīng)被翻譯成中文引進(jìn)了。在那本書里，我討論了在一個(gè)日益由機(jī)器控制的世界中人類的境遇，描述了當(dāng)下幾十種即將形塑明日世界的技術(shù)。2014年，那本書出版以后，我想，在所有技術(shù)當(dāng)中，最有顛覆性的就是人工智能了。當(dāng)時(shí)還沒有什么人討論人工智能，因?yàn)槿斯ぶ悄艿臐摿€不為大眾所知。我詢問了出版商，我是否可以就這個(gè)話題寫一本書，出版商同意了。

當(dāng)時(shí)我就想好了這個(gè)標(biāo)題：《人類帝國的覆滅》。這個(gè)標(biāo)題是一開始就定下的，后來又加上了副標(biāo)題（一個(gè)機(jī)器人的回憶錄）。在我的構(gòu)想中，是露西（注：書中設(shè)想的達(dá)到奇點(diǎn)的人工智能機(jī)器）撰寫了這本書。兩年半的時(shí)間里，我采訪了許多教授和致力于人工智能開發(fā)的商業(yè)領(lǐng)袖，并完成了這本書。

我不是為了大學(xué)教授、歷史學(xué)家來寫這本書的，我希望這本書既能被我7歲的侄子閱讀，也能被我的祖輩理解。因此我希望從商業(yè)角度探討一個(gè)技術(shù)問題，與此同時(shí)，不忘其社會(huì)影響——這正是我們所有人都在面對的威脅。

界面文化：目前我們處于人工智能的哪個(gè)發(fā)展階段呢？

常博逸：當(dāng)下的科技巨頭都在大力投入研發(fā)人工智能，它們從你我手中獲取數(shù)據(jù)，在廣告投放中不遺余力。它們使用深度學(xué)習(xí)技術(shù)——這是一種起源于1970年代的老技術(shù)——來研究社交網(wǎng)絡(luò)，最大化地賺取利潤。我們還沒有看到技術(shù)突破，現(xiàn)在能看到的是應(yīng)用于銀行業(yè)、消費(fèi)品和服務(wù)業(yè)的一些應(yīng)用軟件。我們看到有部分公司正在嘗試研發(fā)通用人工智能或其他的新技術(shù)，但我相信這還只是一個(gè)開始。

我在書中寫到，下一個(gè)階段將出現(xiàn)人工智能助手，將出現(xiàn)根據(jù)生物原理開發(fā)的人工智能，其運(yùn)行機(jī)制將和機(jī)器學(xué)習(xí)有很大不同，它像人類大腦一樣工作，耗能更少、運(yùn)行更快。我們還會(huì)看到量子計(jì)算機(jī)大量出現(xiàn)。絕大多數(shù)目前我們看到的技術(shù)都將成為商品：自然語言處理、圖像識別等等。我們目前只處于人工智能的早期，當(dāng)下的科技巨頭仍然有很大優(yōu)勢，但它們的優(yōu)勢可能不會(huì)持續(xù)太久。

界面文化：為什么這本書以十年為一個(gè)時(shí)間節(jié)點(diǎn)呢？特別值得注意的是，為什么你認(rèn)為技術(shù)奇點(diǎn)將在2038年到來呢？之前我采訪過《技術(shù)奇點(diǎn)》的作者默里·沙納漢（Murray Shanahan），他拒絕預(yù)言技術(shù)奇點(diǎn)的確切到來時(shí)間。

常博逸：這本書的開篇設(shè)定在1956年的達(dá)特茅斯學(xué)院“人工智能”研討會(huì)。我本以為參加那次會(huì)議的科學(xué)家之后會(huì)有很多交流，沒想到他們下一次齊聚一堂已經(jīng)是50年以后的事了，于是我的第二章設(shè)定在了2006年。然后，我認(rèn)為十年是一個(gè)合適的時(shí)間段——長到足以令事情發(fā)生巨大改變——因此下一個(gè)章節(jié)是2016年，在那一年，人工智能到了一個(gè)轉(zhuǎn)折點(diǎn)。再然后就是2026年。接下來是什么呢？2038年。這一章仍然不是故事的全部，我還加上了尾聲（2040年）。

過去40年里的每一個(gè)十年都發(fā)生了巨變。1998年我們還沒有手機(jī)，2008年才出現(xiàn)了智能手機(jī)，2018年我們的手機(jī)已經(jīng)堪稱一部平板電腦，2028年我們肯定會(huì)有一些更不一樣的東西。我相信技術(shù)進(jìn)步是偶然發(fā)生，而不是故意為之的。想想人類是什么時(shí)候開始擁有自我意識的吧，我們并不知道確切的時(shí)間，它就這么發(fā)生了，也許是神的旨意或什么別的原因吧。

因此我的推測是，終有一天，奇點(diǎn)將像生物進(jìn)化一樣降臨某處，所有的那些軟件將讓機(jī)器擁有思考的能力，聯(lián)結(jié)起來形成一種意識。不是某個(gè)來自中國、美國或歐洲的科學(xué)家發(fā)現(xiàn)了奇點(diǎn)——順便說一句，我不相信奇點(diǎn)將由科學(xué)家發(fā)現(xiàn)——因?yàn)榇蠖鄶?shù)重大發(fā)現(xiàn)是偶然間或巧合下獲得的

界面文化：我認(rèn)為沒有人能預(yù)測人工智能領(lǐng)域技術(shù)突破的確切時(shí)間，目前我們能看到的人工智能也還非常原始，因此這本書的后半部分在我看來有點(diǎn)像是科幻小說了。你的論據(jù)有怎樣的現(xiàn)實(shí)基礎(chǔ)呢？

常博逸：我認(rèn)為你對這本書的判斷需要更謹(jǐn)慎一些?！?038年”的那一章是有一點(diǎn)像科幻小說，它討論了當(dāng)機(jī)器能夠自主思考時(shí)，人類應(yīng)該如何應(yīng)對的問題——這是最后兩章探討的主要內(nèi)容，也就是“人類帝國的覆滅”這一主旨。

“2026年”的這一章非常真實(shí)，如果你去詢問技術(shù)專家，他們都會(huì)同意這是即將發(fā)生的事。如今你能夠遠(yuǎn)程操縱你的生活，百度、阿里巴巴或騰訊這樣的公司與你接洽。在不久之后的未來，你手機(jī)上的人工智能（我稱之為“人工智能協(xié)議”）將逐漸從幫助你遠(yuǎn)程操縱生活過渡到直接操縱你的生活，它將在不把信息泄露給第三方的情況下給你的個(gè)人生活、銀行賬戶狀況、職業(yè)發(fā)展提出建議。這是非常真實(shí)可行的。

現(xiàn)在的問題是，誰將開發(fā)這些應(yīng)用，誰將提供這些服務(wù)呢？當(dāng)谷歌來臨的時(shí)候，沒有人想到過我們需要它；當(dāng)Facebook來臨時(shí)，沒有人想過我們需要它；智能手機(jī)本來完全有可能被諾基亞、摩托羅拉這些公司發(fā)明，iPhone并沒有什么超高級的技術(shù)。就像2000年的時(shí)候未來學(xué)家Erica Orange告訴我的：手機(jī)將遠(yuǎn)程操控你的生活。當(dāng)時(shí)沒有人相信，手機(jī)不就是用來打電話、發(fā)短信的工具么？它怎么可能用來管理人生？

所以，“2038年”及之后的一章你可以說是科幻小說，“2026年”對我來說是非常真實(shí)可信的。

科技發(fā)展與社會(huì)公平：我們需要一個(gè)分享技術(shù)進(jìn)步成果的機(jī)制

“人工智能變成了為富裕國家（或者更確切地說，是這些富裕國家所庇護(hù)的企業(yè)）服務(wù)的經(jīng)濟(jì)力量工具。通過大幅降低勞動(dòng)力成本和投入的資金總額，它為工業(yè)大國帶來了新的活力。知識集中在少數(shù)人手里的情況前所未有地嚴(yán)重。這一小部分可以獲得技術(shù)和資金的社會(huì)階層如今占據(jù)了這個(gè)領(lǐng)域的頂端，全世界的記憶都在他們的服務(wù)器里。擁有者和不擁有者之間的斷層不斷擴(kuò)大?！?/p>

界面文化：近年來，英國脫歐、特朗普當(dāng)選美國總統(tǒng)、法國“黃背心運(yùn)動(dòng)”等事件不斷提醒我們?nèi)蚧托伦杂芍髁x經(jīng)濟(jì)秩序正在造成嚴(yán)重的社會(huì)不平等。人們正在失去工作和經(jīng)濟(jì)機(jī)會(huì)，我們有足夠多的理由擔(dān)心人工智能將進(jìn)一步從我們手中奪走工作。當(dāng)我們?nèi)匀辉诿媾R“效率VS公平”的老問題時(shí)，推動(dòng)人工智能發(fā)展還有必要嗎？

常博逸：很不幸，人類永遠(yuǎn)不會(huì)停止對新技術(shù)的追求。我們認(rèn)為核能很危險(xiǎn)，但現(xiàn)在我們?nèi)栽谑褂盟?；我們認(rèn)為細(xì)菌生物武器很危險(xiǎn)，但還是將它應(yīng)用在戰(zhàn)場上。所以，首先，我們不可能停止技術(shù)開發(fā)，如果有一個(gè)國家決定停止，其他國家也會(huì)繼續(xù)那么做，然后技術(shù)差距就會(huì)越來越大。

第二，我們要明白人工智能的挑戰(zhàn)是：作為一個(gè)整體，我們相信它會(huì)讓社會(huì)變得更好——馬路上的交通擁堵會(huì)更少，社會(huì)運(yùn)行會(huì)更有效率，我們能解決更多的醫(yī)療問題，人們能盡早發(fā)現(xiàn)癌癥；但作為個(gè)人，我們看不到人工智能的好處在哪里——我們會(huì)擔(dān)心，我們的子女將來要怎么辦，我的工作還保不保得住？為什么會(huì)發(fā)生這種情況？因?yàn)槲覀儼鸭夹g(shù)置于了人類的對立面，事情變成了人工智能對抗人類智能。我們應(yīng)該怎么應(yīng)對技術(shù)變革呢？我們應(yīng)該融合人類智能和人工智能，我稱之為“人類增強(qiáng)智能”（human-augmented intelligence）。所以人工智能助手會(huì)出現(xiàn)。

我的一個(gè)堅(jiān)定信念是，如果人們能夠利用人工智能來安排生活，就能更好地工作，能成為更好的公民、更好的母親、更好的任何角色，然后我們就能有更多新的發(fā)現(xiàn)。我完全相信未來世界會(huì)有許多新的工作出現(xiàn)。我們?nèi)缃褚呀?jīng)從第一產(chǎn)業(yè)轉(zhuǎn)移至第二產(chǎn)業(yè)、第三產(chǎn)業(yè)。我相信將會(huì)有第四產(chǎn)業(yè)出現(xiàn)，新的工作、新的人類活動(dòng)形態(tài)。我們——政府、咨詢?nèi)藛T、記者——要做的是，引導(dǎo)人們參與人工智能應(yīng)用融合的討論。

人工智能不能由少數(shù)人控制，這樣的話窮人就會(huì)被奴役，這正是“人類帝國的覆滅”的理論。如果世界上的大多數(shù)人都失業(yè)，沒有機(jī)會(huì)獲得人工智能助手，人類就會(huì)變成人形機(jī)器，不滿的群體將因此推翻富人的資源壟斷、推翻政府、推翻人工智能的控制。因此這本書的一個(gè)重要目的——特別是最后一章——是告訴人們：機(jī)器必須一直是人類的工具。

界面文化：在書中，你指出中國正在全力發(fā)展機(jī)器人和人工智能，很大程度上是因?yàn)槿肆Τ杀旧仙腿丝诶淆g化。機(jī)器人和人工智能將如何幫助我們解決老齡化社會(huì)的問題呢？

常博逸：首先，鑒于低成本和高效率，中國已經(jīng)是一個(gè)世界工廠。隨著機(jī)器人和人工智能的發(fā)展，工廠將減少對人力的需求。目前中國的年輕人口在下降，勞動(dòng)力在減少，因此（發(fā)展人工智能）會(huì)解決工廠的產(chǎn)能問題。另一方面，當(dāng)我們談及人口老齡化問題時(shí)，我們首先思考的是醫(yī)療，以及如何幫助那些依然處于良好身體狀態(tài)的老人繼續(xù)工作，為了實(shí)現(xiàn)這個(gè)目標(biāo)，我們需要有新的工作（正如我剛才提到的），我們也需要有新的技術(shù)手段來照顧老人，需要更好的、因人而異的照料。我相信機(jī)器人和人工智能將是每一個(gè)國家的未來，對于中國甚至?xí)鼮殛P(guān)鍵。

好消息是，人們正在變得更健康，更長壽，到了45歲、55歲、65歲，我們的大腦仍然非?；钴S。因此，“增強(qiáng)人類智能”（augmented human intelligence）能夠更好地回饋社會(huì)。我們給予人們越多的技術(shù)手段——不是從他們身上搶走經(jīng)濟(jì)機(jī)會(huì)而是幫助他們提升自身技能——我們就能更順利地渡過轉(zhuǎn)型期。這不是一件易事，因?yàn)槲覀兪サ墓ぷ鳈C(jī)會(huì)比新增的工作機(jī)會(huì)要多，因此在很多國家，政府都需要幫助人民，而我相信社會(huì)福利的力量。

界面文化：聽起來，政府似乎需要設(shè)想一個(gè)更好地分享科技突破成果的機(jī)制。

常博逸：分享成果，但首先需要大力投資，獲得成果，然后再分享。鼓勵(lì)新的企業(yè)參與競爭，打破科技巨頭的壟斷，以此保護(hù)社會(huì)。我經(jīng)常說的一句話是，創(chuàng)新會(huì)“殺死”創(chuàng)新。數(shù)據(jù)統(tǒng)計(jì)上來看，同一家公司是不可能連續(xù)在三場技術(shù)革新中獨(dú)占鰲頭的。他們可以收購公司，但不可能一直維持創(chuàng)新。

在任何新的技術(shù)浪潮中，數(shù)據(jù)統(tǒng)計(jì)顯示中小企業(yè)更有可能脫穎而出，因?yàn)樗鼈儧]有什么可失去的。今天，如果你想顛覆BAT，對中國來說這種經(jīng)濟(jì)后果就會(huì)是大到無法承受的。因此你會(huì)看到技術(shù)進(jìn)步的速度會(huì)放緩，大公司會(huì)以收購小公司的方式將新點(diǎn)子扼殺在搖籃里。同樣的事也在美國發(fā)生。目前，所有的科技巨頭都在投入大量人力財(cái)力做研發(fā)，但我們難以看到技術(shù)突破。

從我收集到的信息來看，2026年真的會(huì)見證人類社會(huì)的一個(gè)較大顛覆，IBM、微軟、思科、通訊商、智能手機(jī)制造商、人工智能公司，都會(huì)卷入其中。想象在一個(gè)未來世界里，沒有司機(jī)，路上跑的都是無人駕駛汽車，政府將通過一個(gè)移動(dòng)平臺來監(jiān)管車輛。這就是Uber這樣的公司正在做的事，他們在全力投入下一個(gè)熱點(diǎn)，因?yàn)樗麄兦宄贿@么做的話就會(huì)被淘汰。

人工智能不僅僅關(guān)于更多的錢和數(shù)據(jù)，而是某種技術(shù)突破，就像谷歌帶來了搜索引擎。當(dāng)聲音識別、面部識別和其他技術(shù)成為了一種商品，任何組織都有可能提供新服務(wù)了。我無法相信政府會(huì)允許科技巨頭成為面部識別或聲音識別的唯一服務(wù)提供商，因?yàn)檫@會(huì)讓它們有巨大的壟斷能力。

界面文化：一些樂觀主義者認(rèn)為人工智能會(huì)取代人類的部分工作，與此同時(shí)，也能創(chuàng)造出更多工作。如果我們看之前的技術(shù)革命，事情似乎確實(shí)如此，但面對未來，我們還能保持同樣的樂觀嗎？

常博逸：人類的工作是會(huì)遷移的。問題是，我們沒有預(yù)知能力。我沒法具體形容這些工作會(huì)是什么，但如果你看看那些知名博主，他們賺得盆滿缽滿；人們還愿意在直播軟件里看別人吃東西，只因?yàn)樽约汉芄陋?dú)；老人也需要陪伴——如果你仔細(xì)思考一下“第四產(chǎn)業(yè)”，就會(huì)發(fā)現(xiàn)我們需要很多工作崗位來為人類提供娛樂服務(wù)。

還有，如果我們持續(xù)按照現(xiàn)行規(guī)則行事，福利規(guī)則就是不可持續(xù)的。人們會(huì)需要政府提供基本收入，但政府要從哪里獲得這筆錢呢？因此，我認(rèn)為這將影響到全社會(huì)。人們無法設(shè)想未來，每個(gè)人都只從自己的角度思考問題，全都是“我，我，我”，我呼吁大家從人類整體出發(fā)思考問題，讓我們更多地融合人工智能和人類智能，讓我們更多地探討第四產(chǎn)業(yè)的新就業(yè)機(jī)會(huì)，探討人口流動(dòng)監(jiān)管問題；讓我們更多地討論新的競爭對手、新的技術(shù)，因?yàn)樗械囊磺卸紩?huì)發(fā)生變革。世界是流動(dòng)的，社會(huì)轉(zhuǎn)型或許比我們所有人想象得都大。

“人類帝國的覆滅”：自滿和懶惰讓我們看不到人工智能的危險(xiǎn)

“人類將自己領(lǐng)地的要沖交托給了人工智能，當(dāng)人類意識到這一點(diǎn)時(shí)也許已經(jīng)太遲了。如果機(jī)器已經(jīng)知道了一切，那么學(xué)習(xí)還有什么用呢？如果人類停止學(xué)習(xí)和傳承，那么他們在宇宙中的作用是什么？”

界面文化：你在書中指出，人工智能會(huì)對人類社會(huì)產(chǎn)生前所未有的沖擊，因?yàn)樗鼘⒏拘缘馗淖內(nèi)祟惖谋举|(zhì)。為什么我們要為此擔(dān)心呢？

常博逸：想象在一個(gè)世界里，生活瑣事都不存在了，露西將為你打點(diǎn)好很多事，你不需要思考晚餐要做什么菜，你可能會(huì)整天玩游戲，讓露西去處理重要事務(wù)，屆時(shí)人性也可能會(huì)改變。另外，我在“2038年”那一章里寫了，我們與死亡的關(guān)系也會(huì)發(fā)生改變。

想想機(jī)器的本質(zhì)吧：如果機(jī)器人控制了世界會(huì)怎樣，它們的目標(biāo)會(huì)是什么？我們作為人類會(huì)理所當(dāng)然地認(rèn)為它們想要控制世界，但如果你是一個(gè)機(jī)器人，你的首要目標(biāo)是什么？保證能源的穩(wěn)定供給——你要確保有干凈的、無限量的能源，很有可能是太陽能。其次，你要確保自己有一個(gè)物質(zhì)實(shí)體，所以你需要一個(gè)安全潔凈的環(huán)境。你感興趣的不會(huì)是錢，你能夠保持永生。

這就是為什么在書中，露西向（她的人類同伴）保羅做出的一個(gè)提議是幫助保羅獲得永生，這是機(jī)器人能夠?yàn)槿祟愄岢龅淖钣姓T惑力的提議了。這將從根本上改變?nèi)诵员举|(zhì)，因?yàn)檫@觸及了我們身體中最無法捉摸、最難理解的部分——靈魂和頭腦。唯一讓所有人平等的事就是我們都終將一死。當(dāng)一部分人因?yàn)樨?cái)富和權(quán)力能夠獲得永生、另一些人只能正常死亡時(shí)，我認(rèn)為這將從根本上改變?nèi)诵浴?/p>

界面文化：所以所謂“人類帝國的覆滅”具體指的是？

常博逸：我的意思是，如果我們和歷史上其他已經(jīng)覆滅的帝國子民一樣漠視自己的懶惰、自滿，肆意發(fā)動(dòng)無謂的戰(zhàn)爭，機(jī)器人將取代我們的位置。因此在書中我提出，“人類帝國的覆滅”過程不像成吉思汗的閃電征服那樣迅猛，而是像玩游戲一樣讓人在無意識中沉迷。當(dāng)我們在要求露西管理我們的人生的同時(shí)不提升人類自身的能力和水平，我們將越來越無關(guān)緊要。我們的生活將只剩下吃喝拉撒，玩耍享樂。這是今后有可能發(fā)生的事。

但在書的結(jié)尾，我表示這種可能性沒有變成現(xiàn)實(shí)，因?yàn)楸Ａ_感到無聊了，但這仍然是一種可能性。這就是為什么“人類帝國的覆滅”是這本書的書名，因?yàn)檫@其中蘊(yùn)含的風(fēng)險(xiǎn)比我們認(rèn)為的大得多。這不僅僅事關(guān)人們的就業(yè)機(jī)會(huì)，不僅僅事關(guān)中國和美國，而是影響全人類的事。

界面文化：有趣的是，你在書中提出社會(huì)弱勢群體將被動(dòng)員起來，抵抗“人工智能集權(quán)主義”的發(fā)生。但如果未來的人工智能像你書中描述的這般全知全能，我們?nèi)绾斡心芰Υ蚱七@種極度的權(quán)力不平等呢？

常博逸：這個(gè)世界仍然是由人類管理控制的。如果我們開始重新組織起來阻止人工智能的權(quán)力壟斷，如果我們還有獨(dú)立思考的能力，我們能夠摧毀機(jī)器。別忘了，我們在與我們的創(chuàng)造物斗爭，你是可以阻止你的創(chuàng)造物失控的。只要我們不過于自滿，不向人性的陰暗面屈服，我們就能成功。這就像我們?nèi)绾慰创h(huán)境保護(hù)問題一樣。每個(gè)人都同意我們需要一個(gè)更健康的環(huán)境，但作為一個(gè)群體，我們就是不愿支付環(huán)保稅。這是一個(gè)“自私”VS“無私”的典型人性挑戰(zhàn)。

界面文化：關(guān)于未來人工智能的討論其實(shí)也是重新思考人類價(jià)值和道德。要想在未來充分利用人工智能帶來的便利，我們面臨的最緊要的問題是什么？

常博逸：有兩點(diǎn)。第一，我們沒有辦法阻止科技的發(fā)展。如今人們在試圖監(jiān)管無人駕駛汽車，但一切討論都是理論上的，當(dāng)一部分人在夸夸其談的時(shí)候，另一部分人正在埋頭造車。這就像1945年，人們討論核能的危險(xiǎn)，當(dāng)時(shí)世界上只有幾個(gè)國家擁有核武器，人們認(rèn)為核武器有能力毀滅全球，他們說，好吧，讓我們坐下來談?wù)劊绻腥朔干?，我們所有人都?huì)死。但核能還是繼續(xù)往下發(fā)展了。我的觀點(diǎn)是，技術(shù)發(fā)展的腳步不會(huì)停歇，有反思和討論是好事。對我來說，關(guān)于未來的討論會(huì)比關(guān)于當(dāng)下的討論更有成效。

第二，人類是有自己的無理性偏見的，因此一個(gè)謬誤觀點(diǎn)是，我們在創(chuàng)造機(jī)器的時(shí)候能夠避免人類社會(huì)的種種問題。但實(shí)際上在算法當(dāng)中，也是充滿人類偏見的。我們需要非常小心地對待偏見，因?yàn)槠妬碓从谏?，而不是機(jī)器。

《人類帝國的覆滅：一個(gè)機(jī)器人的回憶錄》