來源：搜狐

本文作者亨利·基辛格（Henry Alfred Kissinger）為原美國國家安全顧問，先后擔任尼克松與福特政府的國務卿。他因為促成了中美關系正常化為中國人民熟知。本文出自《大西洋月刊》（The Atlantic）。

基辛格從一位政治和歷史學者以及一位政治家的角度，從互聯(lián)網(wǎng)時代，數(shù)據(jù)對人類的影響談到社交媒體帶來的信息泛濫，大眾缺乏深度的思考，從而引申出對人工智能發(fā)展的擔憂。提出關注人工智能的價值觀、思維過程、意識形態(tài)的塑造等，呼吁關注技術與人文經驗相結合，共同應對未來的發(fā)展。

無論從哲學上還是人類智慧發(fā)展上，我們真的準備好迎接人工智能了么？

三年前，在一個有關跨大西洋問題的會議上，人工智能問題出現(xiàn)在議程中。我本來幾乎要跳過那次會議，因為它超出了我平常所關心的范圍。但演講已經開始，我不得不在座位聽下去。

首先，演講者描述了一個計算機程序的工作原理，并表示這個程序很快將在圍棋比賽中挑戰(zhàn)國際冠軍。我很驚訝計算機竟然可以掌握比國際象棋更復雜的圍棋。

事實上，在演講結束后的幾個月里，一個名為AlphaGo的人工智能程序將徹底擊敗了世界上最偉大的圍棋選手。

當我聽到演講者在慶祝這一技術進步時，作為一名歷史學家和半個政治家，我陷入了沉思。

什么會影響機器學習的歷史呢？

機器通過特定的過程獲取知識，他們能將這些知識應用于人類都不擅長的領域嗎？這些機器能學會彼此交流嗎? 如何在新興的選項中做出抉擇?人類歷史是否有可能走上印加人的道路？一系列的問題讓我懷疑我們是否處在人類歷史新階段的邊緣?

意識到自己在這一領域的技術能力不足，我組織在一些在技術和人文領域的老朋友進行了一次非正式對話。很多觀點讓我對人工智能越來越感興趣。

迄今為止，最能體現(xiàn)出改變了現(xiàn)代歷史進程的技術應該是15世紀印刷機的發(fā)明了吧，它促進了人類對經驗知識的探索取代了禮拜儀式的教條，理性的時代逐漸取代了宗教的時代。

個人見解和科學知識取代了信仰，成為人類意識覺醒的主要標準。知識在不斷拓展的信息庫中得以存儲和系統(tǒng)化。

理性時代便起源于這塑造當時世界秩序的思想和行動之中。

但是，在一場新的、更為徹底的技術革命中，這種秩序正處于動蕩之中。

我們未能充分考慮到這場革命的后果，這場革命的高潮可能是一個依賴于數(shù)據(jù)和算法驅動的機器、不受道德或哲學規(guī)范約束的世界。

互聯(lián)網(wǎng)時代 數(shù)據(jù)的奴隸

在互聯(lián)網(wǎng)時代，人工智能只會讓一些問題變得更加尖銳。

啟蒙運動試圖把傳統(tǒng)的真理交給解放的、善于分析的理性人。而互聯(lián)網(wǎng)則是通過不斷積累和被操控數(shù)據(jù)來傳播知識，人類的認知失去了個性。

我們使用數(shù)據(jù)，卻變成了數(shù)據(jù)的奴隸。

互聯(lián)網(wǎng)用戶強調檢索和操縱信息，而不是將信息的意義進行情境化或概念化。很少有人搜索歷史或哲學。

一般來說，大家搜索與實際需求相關的信息。在這個過程中，搜索引擎算法獲得了預測個人偏好的能力，從而使算法能夠對結果進行個性化處理，并將結果提供給第三方用于政治或商業(yè)目的。

社交媒體信息泛濫，卻缺少深度的思考

許多技術愛好者只是使用互聯(lián)網(wǎng)來逃避他們所害怕的孤獨。逃避這些壓力削弱了培養(yǎng)和維持信念所需的毅力，而信念只有在孤獨的道路上才能實現(xiàn)，這才創(chuàng)造力的本質。

互聯(lián)網(wǎng)技術對政治的影響尤為突出。小群體通過互聯(lián)網(wǎng)來訴諸他們的不滿，并被社交媒體迅速傳播，使得政府不得不把重心轉移到輿論處理上，打破了政府處理事物的優(yōu)先級順序。政府領導們忙于平息輿論不滿，卻很少有時間反思和思考政務，從而限制了職業(yè)發(fā)展的空間。

數(shù)字時代強調快速反應卻抑制了反思，它的激勵機制使激進分子凌駕于深思熟慮者之上。它的價值觀是由小群體的共識達成并傳播，而不是由內省形成的。

人工智能的開始

隨著互聯(lián)網(wǎng)和計算能力的增強，海量數(shù)據(jù)的積累和分析變得越來越容易，人類對數(shù)據(jù)的理解出現(xiàn)了前所未有的前景。

或許最重要的是人工智能的產生項目——一種能夠發(fā)明和解決復雜的、看似抽象的問題的技術，其過程似乎復制了人類的思維。

這遠遠超出了我們所知道的自動化。

自動化處理手段，通過使實現(xiàn)這些目的的工具合理化或機械化，來達到規(guī)定的目標。

相比之下，人工智能確立了自己的目標來進行處理。從某種程度上說，人工智能的成就有一部分是由其自身塑造的，因此它本質上是不穩(wěn)定的。

人工智能系統(tǒng)，通過其自身的運作，在獲取和即時分析新數(shù)據(jù)的過程中不斷變化，然后在分析的基礎上尋求改進。通過這個過程，人工智能發(fā)展出了一種曾經被認為只有人類才能擁有的能力。

它可以對未來做出戰(zhàn)略判斷，有些基于被接收成為了代碼的數(shù)據(jù)（例如游戲規(guī)則），有些則基于它自己收集的數(shù)據(jù)（例如通過反復玩100萬次游戲）。

無人駕駛汽車展示了傳統(tǒng)的人工控制、軟件驅動的計算機與試圖導航的人工智能行為之間的不同。

駕駛汽車需要在許多無法預料的情況下做出判斷，因此需要提前編程。

舉一個著名的假設例子，如果這樣一輛車被環(huán)境逼著在殺死祖父母和殺死孩子之間做出選擇，會發(fā)生什么？它會選擇誰？為什么?它會嘗試優(yōu)化選項中的哪些因素？它能夠解釋它的基本原理嗎？

面對挑戰(zhàn)，它的真實答案很可能是（如果它能夠交流）：“我不知道（因為我遵循的是數(shù)學，而不是人類的原則），”或者“你不會理解（因為我被訓練以某種方式行事，但不必解釋它）?！比欢?，這樣的無人駕駛汽車很可能在未來10年內在道路上普及。

到目前為止，人工智能研究僅限于特定的活動領域，而現(xiàn)在，人工智能研究正試圖實現(xiàn)一種能夠在多個領域執(zhí)行任務的廣義上的人工智能。

在可測量的時間內，越來越多的人類活動將由人工智能算法驅動。但是這些算法，作為對觀測數(shù)據(jù)的數(shù)學解釋，并不能解釋產生它們的潛在現(xiàn)實。

矛盾的是，隨著世界變得更加透明，它也將變得越來越神秘。這個新世界和我們已知的世界有什么不同？我們將如何生活在其中？我們應該如何管理人工智能？如何改進它，或者至少防止它造成傷害，阻止最令人擔憂的結果發(fā)生。人工智能，通過比人類更快速、更明確地掌握某些能力，隨著時間的推移，過度依賴數(shù)據(jù)可能會降低人類的能力。

對人工智能發(fā)展的三個擔憂

在醫(yī)藥科學、清潔能源供應、環(huán)境問題等領域，人工智能為我們帶來更為廣闊的發(fā)展前景。但正因為對人工智能評判是建立在一個不斷變化和發(fā)展的未來，它自身發(fā)展結果也就變得模糊不定。

有三個方面需要特別關注：

第一點，人工智能會創(chuàng)造意想不到的結果。像在科幻小說里就設想了人工智能攻擊創(chuàng)造者的場景。AI可能會因為缺少人類思維聯(lián)想能力而誤解人類的指令，從而變得危險可怕。比如說，近幾年有一款叫做Tay的人工智能機器人。

它會仿照一個19歲的女孩，用特別友好的口吻與人類聊天。但后來事實證明，Tay作為一臺機器，它沒法理解設計者給它編好的“友好”和“合理”語言偏好，反而它的語言里摻雜了種族主義、性別歧視和其他具有煽動性的回應可能有些科學家會說這樣的實驗計劃不周、考慮不足并導致了實驗失敗。

但是正是因為這個實驗說明了一個潛在的問題。比如：在什么范圍下，AI可以理解領會設計者給它發(fā)出的指令？有什么樣的途徑能讓Tay來理解它語言上的攻擊性？用什么樣的詞匯能讓都可以接受？又是否我們可以盡早的發(fā)現(xiàn)并改正這些人工智能在既定框架內的缺陷？又或者讓人工智能自由發(fā)展，最終導致不可逆轉的結果？

第二點，在其發(fā)展的過程中，人工智能可能改變人類思維過程和價值觀。

AlphaGo通過使用史無前例的走法從而戰(zhàn)勝了世界圍棋冠軍，更何況這些走法前人從未考慮，也未曾成功嘗試過。是否因為這些走法超過了人類大腦認知？或者人類需要開始學習已經被這位圍棋大師（AlphaGo）證明的下法？

在AI嘗試圍棋之前，人類圍棋玩家不僅僅要尋求游戲勝利，更是要從中領悟人生的方法論，就像我們所說的棋如人生。但是對于AI來說，只有贏得游戲這一個目的。

就因為這樣，AI不需要通過理論學習，只需要用數(shù)學的方式不斷優(yōu)化調整它的算法，從而判斷出一個可以勝利的最優(yōu)解。

所以AI跟人類在下棋的理念上就完全不同，并因此改變了游戲的本質和所帶來的影響。是否所有AI都是這樣一根筋的處理方式？

其他的AI項目的貢獻方式是幫助人們解決實際問題。除了那些解決實際需求的問題（比如外面氣溫是多少？），AI是否能研究自然本質和探索生命意義以及引發(fā)更深入的問題？

我們是否希望讓孩子通過無約束的算法來確定價值觀？我們是否應該通過限制AI自主學習來保護我們個人隱私？如果是的話，我們應該怎么做？

如果AI的學習速度成指數(shù)型遞增，那我們一定希望加快這種井噴式的學習速度，那么AI犯錯的概率也會比人類高。

正如AI領域的研究員所建議的那樣，這些錯誤將可能是不可調和的，除非在程序里加入“所得出的結果要合乎情理”的警告。

但是整個學術界都無法對這樣的描述達成一致觀點，難道要讓人工智能自己來決定，它們的意識是否合乎情理？

第三點，人工智能會想盡辦法達到目標，但是不會對它做法的合理性進行闡述。比如在圖像識別、大數(shù)據(jù)分析、博弈等領域，人工智能已經逐漸超過人類所能做的。

如果它們的計算能力繼續(xù)快速增長，它們會形成一套與人類完全不同的思考方式。但到那時候，AI會用一種能讓人類理解的方式來向人們解釋為什么那些做法會得到最佳結果么？

縱觀人類歷史，文明締造了解釋周圍世界的方法，比如中世紀向我們解釋了宗教，啟蒙運動向我們揭示了自然科學奧秘，20世紀給我們帶來了意識形態(tài)。

所以接下來我們將要直面這樣一個困難的問題，那就是：如果AI超越了人類意識所能理解的范疇，那它們是否將用自己的意識形態(tài)來取代我們解釋這個世界？

所以在機器的世界里，意識將是如何定義的，是否是把人類的經驗簡化為0、1一樣的數(shù)字，來形成它們自己的記憶，不斷學習、不斷傳承？

誰來對它們的行為負責，又有誰來為它們的錯誤買單？由人類設計的法律體系能否跟上人工智能思考和發(fā)展的步伐？

我們說人工智能應該是不恰當?shù)?。雖然這些機器可以處理那些原本是只有人類認知才能解決的復雜、抽象的問題。但是，他們思考的獨特之處在于，可以跳出那些條條框框和所謂的經驗之談。而且，他們還具有史無前例的記憶力和計算能力，正因為這些內在優(yōu)勢，才讓它們可以贏得各種游戲。

但對于人類來說，游戲的目的不僅僅是為了獲得勝利，更重要的是從中提煉出一種對事物的思考方式。如果把對于事物的思考方式當做一個數(shù)學模型去看待，不斷模仿并且試圖接受這些結果，那我們將會失去我們的認知能力。

AlphaZero項目向我們詮釋這場技術爆炸的威力，AlphaZero不僅技術所有棋師的水平之上，而且會用之前棋譜中從未有過的下法?？梢酝ㄟ^幾個小時自娛自樂，獲得人類曾經1500年來所總結下來的經驗教訓。

而我們只需要做的就是把游戲規(guī)則告訴它。在它自己學習的過程中，完全沒有進行任何人工干預。AlphaZero可以如此快的精通掌握下棋的技巧，那未來五年人工智能將會發(fā)展成什么樣子？會對我們的下一代造成什么樣的影響？

這些問題就留給那些在科學領域的專家們吧。哲學家和其他人文領域的專家，因為缺少對人工智能機制的了解、對它們能力感到害怕，所以塑造了一個不利于人工智能發(fā)展的觀念。

但相反的，科學家們卻一直嘗試推動人工智能的發(fā)展，并讓這些技術在商業(yè)領域推廣利用。所以這些人的動機都是挖掘其潛力而非理解人工智能。

同樣作為政府，最初也是投資于人工智能在安全和情報調查方面的應用，而并未去考慮人工智能會導致人類意識的變化。

啟蒙運動開始于對新技術的哲學探索，但我們正在朝著相反的方向前進。

人工智能的發(fā)展?jié)撘颇刂敢宋覀兯伎嫉姆较颉Ｒ恍﹪野讶斯ぶ悄茏鳛閲野l(fā)展戰(zhàn)略計劃，開始研究人工智能的發(fā)展和應用，這其中當然也不例外地包括美國。人們把人工智能放在至高無上的發(fā)展地位上，但從未思考過這樣將會帶來的沖擊和后果。

雖然說我本人對人工智能的技術可能一竅不通，但在這里我想告誡那些一門心思鉆研技術，而沒有哲學思考和政治理念的人工智能開發(fā)人員，請認真思考這篇文章里我提出來的這些問題，并把這些思考放入到你們的技術研究之中。

審核編輯黃昊宇