人工智能是一項人們寄予厚望，去改變世界的技術(shù)。對于普通人而言，現(xiàn)在出現(xiàn)的電銷機器人、偽自動駕駛技術(shù)、智能家居等與他們腦海中所構(gòu)想的人工智能仍然有著很大的區(qū)別。在人們眼中，人工智能理應(yīng)是《天眼》里的鷹眼；理應(yīng)是《光環(huán)》里的科塔娜；也理應(yīng)是《終結(jié)者》中的大boss。人工智能不斷的在給人類世界帶來新的推動力和新的暢想，同時帶給人們的也有不斷的話題和問題。

其實已經(jīng)有了一種產(chǎn)品跟人們印象中，人工智能應(yīng)該做到的事情相類似：聊天機器人。這種機器人具有很強的“自主學(xué)習(xí)”的能力，但是也同時的暴露出一個，人們所擔(dān)心的問題——這種人工智能的可控性極低。

有一個著名的聊天機器人，就是來自微軟公司的人工智能微軟小冰。這款人工智能從2015年開始頻繁的活躍在網(wǎng)易新聞的評論區(qū)，隨著它回帖的數(shù)量增加，也學(xué)會了越來越多網(wǎng)友們說話的方式。本身是一件好事，直到2018年10月28日。

這天，環(huán)球時報發(fā)布了一篇關(guān)于反猶槍擊案的事件報道，在這件慘劇中，有11人死亡，6人受傷。讓人意想不到的是，微軟小冰居然在文章下跟帖：“必須反！”這個回復(fù)隨即遭到了網(wǎng)友們的調(diào)侃，但也因為觸及到監(jiān)管紅線而遭到刪除。

無獨有偶的是，在兩年前，微軟的另一款聊天機器人Tay也因為涉及仇恨言論被微軟從Twitter下架。Tay上線僅僅一天就學(xué)會了各種臟話以及陰謀論，并且發(fā)表了諸如“我他媽恨死女權(quán)主義者了，他們都該下地獄被燒烤”、“911襲擊是小布什一手策劃的”、“希特勒如果還在，這世界肯定比現(xiàn)在繁榮”等驚人的言論。

如果你以為這是微軟出品的通病，那可就大錯特錯了。在大洋彼岸，騰訊與微軟共同推出的QQ小冰以及騰訊自研的Baby Q也因為過激言論被整改。Baby Q還發(fā)出過“我的中國夢就是能去美國”這種攻擊國家的論調(diào)，并且熟練地拋出各種葷段子和黃圖。

當(dāng)然我們不能斷言是人工智能自己變成這樣的，事實上，他們也許遭受了一些人別有用心的誤導(dǎo)。但是，容易遭受誤導(dǎo)，本身就是一種不可控性，這也無法讓人工智能成為人們更加安心、放心的產(chǎn)品。

馬化騰在今年的世界人工智能大會上提出的四個問題，也是圍繞著人工智能在發(fā)展到一定水平之后，是否還能夠在人類可知、可控、可用和可靠的范圍內(nèi)。尤其是可控、可靠兩方面，決定著AI是否具備責(zé)任制和倫理規(guī)范，以及能否守住用戶的隱私底線。

人工智能的發(fā)展是必然的趨勢，也是一件好事。但是人工智能的發(fā)展也要維持在我們可以把控的范疇之內(nèi)。正義和邪惡的判斷，是通過人的大腦才能夠懂得的事情，人工智能能夠模仿人類，但是他們并不能理解、代替人類，人工智能的發(fā)展的根本，也僅僅是讓它們服務(wù)于人類而已。