數(shù)字信息技術(shù)使幾乎任何人、任何時(shí)間、任何地點(diǎn)都能輕易獲得信息。這對(duì)我們社會(huì)的各個(gè)方面，從工業(yè)生產(chǎn)到分配、到商品和服務(wù)的消費(fèi)，都產(chǎn)生了深遠(yuǎn)的影響。就像之前的技術(shù)革命一樣，數(shù)字信息技術(shù)的影響如此廣泛，我們不再只是簡(jiǎn)單地利用它——做我們以前做過的事情——而是通過改變我們的行為方式來適應(yīng)它。

今天，數(shù)字信息技術(shù)已經(jīng)重新定義了人們?nèi)绾闻c他人進(jìn)行社交互動(dòng)，甚至如何找到伴侶。消費(fèi)者、生產(chǎn)者和供應(yīng)商、實(shí)業(yè)家和勞動(dòng)者、服務(wù)提供者和客戶、朋友和合作伙伴之間重新定義的關(guān)系，已經(jīng)在社會(huì)上造成一場(chǎng)劇變，正在改變后工業(yè)時(shí)代對(duì)道德理性的定義。

我們正站在下一波科技革命的風(fēng)口浪尖：人工智能。20世紀(jì)晚期的數(shù)字革命將信息帶到了我們的指尖，讓我們能夠快速做出決定，而機(jī)構(gòu)做出決定，從根本上說，取決于我們。人工智能正在通過自動(dòng)化決策過程來改變這一狀況，它有望帶來更好的定性結(jié)果和更高的效率。人工智能游戲系統(tǒng)在擊敗國際象棋世界冠軍卡斯帕羅夫（Gary Kasparov）和圍棋世界冠軍柯潔（Ke Jie）方面取得的成功，突顯出人工智能在計(jì)算當(dāng)前決策對(duì)潛在未來棋步的影響方面，在質(zhì)量方面優(yōu)于人類專家。

然而，在這個(gè)決策過程中，人工智能也帶走了人類行為的透明性、可解釋性、可預(yù)測(cè)性、可教性和可審核性，取而代之的是不透明性。這一舉動(dòng)的邏輯不僅不為參與者所知，也不為程序的創(chuàng)造者所知。隨著人工智能為我們做出決策，決策的透明度和可預(yù)測(cè)性可能會(huì)成為過去。

想象一下這樣的情景：你的孩子回家找你，要求你給她零花錢，讓她和朋友一起去看電影。你允許了。一周后，你的另一個(gè)孩子帶著同樣的要求來找你，但這次，你拒絕了。這將立即引起不公平和偏袒的問題。為了避免受到偏袒的指責(zé)，你要向孩子解釋，她必須完成家庭作業(yè)，才有資格獲得零花錢。

沒有任何解釋，家里一定會(huì)有緊張的氣氛?，F(xiàn)在想象一下用一個(gè)人工智能系統(tǒng)取代你的角色，這個(gè)系統(tǒng)已經(jīng)收集了成千上萬個(gè)處于類似情況的家庭的數(shù)據(jù)。通過研究其他家庭的零花錢決定的后果，得出結(jié)論，一個(gè)兄弟姐妹應(yīng)該得到零用錢，而另一個(gè)兄弟姐妹不應(yīng)該。

但人工智能系統(tǒng)無法真正解釋其中的原因，只能說它衡量了你孩子的頭發(fā)顏色、身高、體重以及其他所有它能獲得的屬性，以便做出對(duì)其他家庭似乎最有效的決定。那又怎么會(huì)有效呢？

在法庭上，過去的判決約束法官遵循先例，即使情況不完全相同，但大致相似。一致性在司法、政府、關(guān)系和道德規(guī)范中都很重要。AI沒有遵守先例的法律要求。人類往往只有有限的直接或間接經(jīng)驗(yàn)，而機(jī)器可能可以訪問大量數(shù)據(jù)。

人類無法在一個(gè)長期的時(shí)間尺度內(nèi)篩選他們的經(jīng)歷，而機(jī)器可以很容易地做到這一點(diǎn)。人類會(huì)排除那些被認(rèn)為對(duì)決策無關(guān)緊要的因素，而機(jī)器不會(huì)排除任何因素。這可能導(dǎo)致不尊重先例的決定，其規(guī)模之大是人類可以理解的。隨著企業(yè)和社會(huì)迅速轉(zhuǎn)向人工智能，人工智能實(shí)際上可能比人類在更長的時(shí)間范圍內(nèi)做出更好的決策，而人類在更短的時(shí)間范圍內(nèi)就會(huì)感到困惑和沮喪，并侵蝕一個(gè)正常運(yùn)轉(zhuǎn)的社會(huì)的唯一貨幣，信任。

要理解基于人工智能的決策可能有多人工，研究人類如何做出決策是很重要的。人類的決策可能由一組明確的規(guī)則，或者僅僅基于結(jié)果論的關(guān)聯(lián)，或者由組合來指導(dǎo)。人類對(duì)于與決策相關(guān)的信息也是有選擇性的。由于缺乏選擇性，機(jī)器在做決定時(shí)可能會(huì)考慮人類認(rèn)為不恰當(dāng)?shù)囊蛩亍?/p>

有無數(shù)這樣的例子，從微軟（Microsoft）在其聊天機(jī)器人Tay開始在Twitter上發(fā)表煽動(dòng)性反猶太言論后關(guān)閉它，到波士頓大學(xué)（Boston University）的一項(xiàng)研究，該研究發(fā)現(xiàn)“老板”（boss）、“建筑師”（architect）和“金融家”（financier）等詞與男性、“護(hù)士”（nurse）和“接待員”（接待員）等詞與女性之間存在性別關(guān)聯(lián)。這可能是數(shù)據(jù)造成的，但它與我們的顯式值形成了對(duì)比。如果數(shù)據(jù)驅(qū)動(dòng)的過程依賴于這些人工智能算法生成的輸出，它們將產(chǎn)生有偏見的決策，往往違背我們的道德價(jià)值觀。

鑒于人工智能在醫(yī)療診斷、金融服務(wù)和就業(yè)篩查等領(lǐng)域的應(yīng)用規(guī)模之大，任何一個(gè)偶然事件的后果都是巨大的。隨著算法越來越依賴于提高可預(yù)測(cè)性的特性，控制這類決策的邏輯變得越來越不可思議。因此，我們失去了決策的全局性，拋棄了所有的原則來支持過去的觀察。在某些情況下，這可能是不道德的，在某些情況下是非法的，在某些情況下是短視的?！皯T犯算法”公然藐視無罪推定、機(jī)會(huì)均等等原則。

一致性是道德和正直不可或缺的。我們的決定必須遵循一個(gè)高于統(tǒng)計(jì)準(zhǔn)確性的標(biāo)準(zhǔn)；幾個(gè)世紀(jì)以來，相互信任、減少危害、公平和平等的共同美德已被證明是任何推理系統(tǒng)生存的基本基石。沒有內(nèi)部邏輯的一致性，人工智能系統(tǒng)缺乏健壯性和可問責(zé)性——這是在社會(huì)中建立信任的兩個(gè)關(guān)鍵措施。通過在道德情感和邏輯推理之間制造裂痕，數(shù)據(jù)驅(qū)動(dòng)決策的不可知性阻礙了批判性地參與決策過程的能力。

這是我們生活的新世界，復(fù)雜的決定被削減成反射性的選擇，并被觀察到的結(jié)果所強(qiáng)化；把復(fù)雜的東西簡(jiǎn)化成簡(jiǎn)單的東西，把道德簡(jiǎn)化成實(shí)用的東西。今天，我們的道德感為我們的決策提供了一個(gè)框架。也許不久之后，我們的決定就會(huì)讓人們對(duì)我們的道德產(chǎn)生懷疑。