不久前兩個(gè)世界頂級(jí)人工智能實(shí)驗(yàn)室Google Brain和DeepMind推出了一個(gè)可以閱讀唇語的系統(tǒng)。這個(gè)由Alphabet旗下的研究人設(shè)計(jì)的系統(tǒng)可以在很多時(shí)候超過專業(yè)的唇語解讀者。在對(duì)研究人員收集的視頻進(jìn)行唇語解讀時(shí)，該系統(tǒng)的錯(cuò)誤率僅為40%，而專業(yè)人員為86%。

在一篇解釋該技術(shù)的論文中，研究人員將其描述為一種幫助人們處理語言障礙的方法。他們認(rèn)為，在理論上，該系統(tǒng)可以讓人們通過蠕動(dòng)嘴唇進(jìn)行交流。

但研究人員沒有討論另一種可能性——更好的監(jiān)控。唇讀系統(tǒng)是政策制定者所稱的“雙刃劍技術(shù)”，它反映了從頂級(jí)人工智能實(shí)驗(yàn)室中出現(xiàn)的許多新技術(shù)。自動(dòng)生成視頻的系統(tǒng)可以改善電影創(chuàng)作，但同時(shí)也會(huì)被用于假新聞的制作。自拍式無人機(jī)可以在足球比賽中捕捉視頻，也可以在戰(zhàn)場上殺死敵人。

現(xiàn)在，46名學(xué)者和其他研究人員組成了一個(gè)團(tuán)隊(duì)，稱為計(jì)算機(jī)學(xué)術(shù)的未來（the Future of Computing Academy），它正敦促研究界重新思考分享新技術(shù)的方式。他們認(rèn)為，在發(fā)表新的研究成果時(shí)，科學(xué)家們應(yīng)該解釋它如何以消極和積極的方式影響社會(huì)的。

美國西北大學(xué)教授布倫·特赫克特認(rèn)為：“計(jì)算機(jī)行業(yè)可能會(huì)變得像石油和煙草行業(yè)一樣，受到老板和資本的驅(qū)使而進(jìn)行技術(shù)研究，而非考慮其真實(shí)的社會(huì)影響；不過我們也可以選擇成為開始更廣泛思考的一代人?！?/p>

在發(fā)布新成果時(shí)，研究人員很少討論負(fù)面影響。這部分是由于他們希望將其工作放在積極的光環(huán)之下，另一部分是因?yàn)樗麄兏P(guān)心開發(fā)技術(shù)而非使用技術(shù)。

正如許多領(lǐng)先的人工智能研究人員進(jìn)入像谷歌大腦和DeepMind這樣的企業(yè)實(shí)驗(yàn)室時(shí)，在高額薪資和股票期權(quán)的利益下他們必須保證雇主的利益。上市公司，特別是像谷歌這樣的消費(fèi)巨頭，很少討論他們工作的潛在缺點(diǎn)。

赫克特先生和他的同事們正呼吁同行評(píng)審期刊拒絕那些沒有對(duì)技術(shù)潛在的缺點(diǎn)進(jìn)行討論的論文。即便處在目前技術(shù)行業(yè)進(jìn)行罕見的自我反思的時(shí)刻，該倡議也可能很難被人接受。許多研究人員擔(dān)心審稿人會(huì)因?yàn)橛懻摷夹g(shù)缺點(diǎn)而拒絕論文，因而他們對(duì)是否接受該倡議猶豫不決。

但還是有越來越多的研究人員試圖揭示人工智能的潛在危害。今年2月，來自美國和英國的一群著名研究人員和政策制定者發(fā)表了一篇專門論述惡意使用人工智能的文章。還有的人正在從另一個(gè)角度來構(gòu)建技術(shù)，展示人工智能可能會(huì)出錯(cuò)的方面。而且隨著更危險(xiǎn)的技術(shù)的出現(xiàn)，人工智能界可能不得不重新考慮其開放研究的承諾。有人認(rèn)為，有些事情最好是關(guān)起門來。

麻省理工學(xué)院媒體實(shí)驗(yàn)室的研究員馬特·格羅最近建立了一個(gè)名為暗色天使（Deep Angel）的系統(tǒng)，它可以從照片中刪除人和物體。這是一個(gè)計(jì)算機(jī)科學(xué)實(shí)驗(yàn)兼作一個(gè)哲學(xué)問題，目的在于，在假新聞時(shí)代激發(fā)圍繞人工智能角色的對(duì)話。格羅先生說：“我們非常了解假新聞的影響力，現(xiàn)在的問題是，我們?nèi)绾翁幚磉@個(gè)問題？”

如果機(jī)器可以生成可信的照片和視頻，我們可能不得不改變我們查看互聯(lián)網(wǎng)上內(nèi)容的方式。

谷歌的唇讀系統(tǒng)可以幫助監(jiān)控嗎？也許現(xiàn)在還不能實(shí)現(xiàn)。在“訓(xùn)練”其系統(tǒng)的同時(shí)，研究人員使用了正面拍攝特寫鏡頭的視頻。牛津大學(xué)的研究員Joon Son Chung表示，來自街道頭頂攝像機(jī)的圖像“還達(dá)不到可以進(jìn)行唇讀的標(biāo)準(zhǔn)”。在一份聲明中，谷歌發(fā)言人先是提出與上面差不多的觀點(diǎn)，然后才指出該公司的“人工智能原則”，聲稱不會(huì)設(shè)計(jì)或共享“違反國際公約”的可用于監(jiān)視的技術(shù)。

但攝像機(jī)變得越來越小，價(jià)格也越來越便宜，研究人員對(duì)人工智能的不斷改進(jìn)驅(qū)動(dòng)了這些類似于唇讀系統(tǒng)技術(shù)的產(chǎn)生。谷歌的論文只是近期諸多進(jìn)展中的一個(gè)。中國的研究人員剛剛推出了一個(gè)旨在利用類似技術(shù)在“野外”閱讀唇語的項(xiàng)目，它能適應(yīng)不同的光照條件和圖像質(zhì)量。倫敦帝國理工學(xué)院的研究員Stavros Petridis承認(rèn)，即便使用智能手機(jī)的相機(jī)，這種技術(shù)最終也可用于監(jiān)控。他稱：“這是不可避免的。今天，無論你在構(gòu)建什么，都既可能被善用，也可能被誤用?！?/p>

AI技術(shù)和過去的所有技術(shù)革命一樣，這種全新的強(qiáng)大的力量在為社會(huì)注入活力的同時(shí)，也會(huì)帶來各種社會(huì)問題。作為AI浪潮核心的知識(shí)分子和工程師們，應(yīng)該也必須為自己創(chuàng)造的知識(shí)體系擔(dān)負(fù)起應(yīng)有的責(zé)任，力求造福世界，也應(yīng)極力避免技術(shù)的濫用和誤用帶來的損害。同時(shí)企業(yè)在追求利潤的同時(shí)，也應(yīng)該慎重地考量技術(shù)和使用的方式所帶來的影響，保證風(fēng)險(xiǎn)和技術(shù)的使用是合理可控的，這也是技術(shù)企業(yè)承擔(dān)社會(huì)責(zé)任的一部分。