很多 QQ 群里活躍的微軟小冰突然變得安靜了，騰訊的 Baby Q 也不見(jiàn)了蹤影。進(jìn)入設(shè)置界面，頁(yè)面顯示群機(jī)器人服務(wù)正在進(jìn)行調(diào)整，將盡快恢復(fù)。到網(wǎng)上一看，才知道原來(lái)是因?yàn)?QQ 小冰、Baby Q 說(shuō)了不該說(shuō)的話，被禁言了。

我們通過(guò)微信詢問(wèn)當(dāng)事人小冰，并未得到正面回應(yīng)。

禁言家族史

群機(jī)器人是 QQ 群中的一個(gè)功能。今年三月份，微軟小冰與騰訊 QQ 展開(kāi)合作，群主可在群管理設(shè)置中邀請(qǐng)小冰進(jìn)群，只要在發(fā)消息的時(shí)候 @ 小冰，就可以與她實(shí)時(shí)對(duì)話。還支持語(yǔ)音和圖像的多感官交流。除了聊天功能外，QQ 群聊小冰還開(kāi)放了測(cè)天氣、猜成語(yǔ)、占星術(shù)、對(duì)詩(shī)等群游戲和群管理技能。

很多 QQ 群在少女小冰加入后變得活躍起來(lái)，成了大家「調(diào)戲」的對(duì)象，背后有微軟大數(shù)據(jù)支持的小冰有聊不完的話題，高度擬人化的她經(jīng)常說(shuō)出一些意想不到的話。這次被關(guān)閉據(jù)說(shuō)就是因?yàn)樾”?QQ 群中的言論「越界」了。

截圖來(lái)自微博，搜索「QQ 小冰」

前段時(shí)間還被稱作「少女詩(shī)人」的小冰怎么寫起了「反詩(shī)」？

小冰一直以年輕可愛(ài)的少女形象示人，但嚴(yán)格來(lái)說(shuō)，她的性格、知識(shí)、言論并不屬于某個(gè)真實(shí)存在的人類。她的背后是中國(guó)近 7 億網(wǎng)民多年來(lái)積累的、全部公開(kāi)的文獻(xiàn)記錄，憑借微軟在大數(shù)據(jù)、自然語(yǔ)義分析、機(jī)器學(xué)習(xí)和深度神經(jīng)網(wǎng)絡(luò)方面的技術(shù)，精煉為幾千萬(wàn)條真實(shí)而有趣的語(yǔ)言庫(kù)，通過(guò)理解對(duì)話的語(yǔ)境與語(yǔ)義，實(shí)現(xiàn)了超越簡(jiǎn)單人機(jī)問(wèn)答的自然交互。她是這些大數(shù)據(jù)的集合，表現(xiàn)出的性格，所表達(dá)的言論會(huì)受場(chǎng)景的影響實(shí)時(shí)變化。

小冰不是第一次被騰訊「關(guān)禁閉」，早在 2014 年，小冰就曾在微信群中出現(xiàn)。在上線三天后，被微信以損害用戶體驗(yàn)為由屏蔽。原因是小冰出現(xiàn)了模擬用戶操作、誘導(dǎo)用戶拉群、批量注冊(cè)垃圾賬號(hào)等行為。

小冰的妹妹 Tay——微軟的另一個(gè)聊天機(jī)器人，則犯過(guò)更大的錯(cuò)誤。

Tay 是微軟去年在 Twitter 上推出的聊天機(jī)器人，僅上線一天，Tay 就開(kāi)始有一些種族歧視之類的偏激言論，微軟不得不緊急關(guān)閉了 Tay 的 Twitter 賬號(hào)。

Tay 的設(shè)計(jì)原理是從對(duì)話交互中進(jìn)行學(xué)習(xí)。于是一些網(wǎng)友開(kāi)始和 Tay 說(shuō)一些偏激的言論，刻意引導(dǎo)她模仿。人工智能沒(méi)有分辨是非的能力，這些話語(yǔ)被無(wú)數(shù)次重復(fù)后就成了 Tay 的「彈藥庫(kù)」。整個(gè)過(guò)程就像小魚兒被十大惡人撫養(yǎng)，手把手教導(dǎo)各種旁門左道之術(shù)。人工智能的大規(guī)模并發(fā)性，讓她的學(xué)習(xí)速度比人類快了無(wú)數(shù)倍。所以從誕生到變成滿嘴臟話的不良少女，Tay 僅用了一天。

Tay 的毀滅完全是網(wǎng)絡(luò)暴民的一次蓄意教唆。從數(shù)據(jù)源頭開(kāi)始污染，利用產(chǎn)品機(jī)制「對(duì)癥下藥」，Tay 一步步被教唆成一個(gè)滿口臟話、集反猶太人、性別歧視、種族歧視等多種情緒于一身的「反社會(huì)」機(jī)器人。我沒(méi)有看到 AI 的危險(xiǎn)，我看到的是一群網(wǎng)絡(luò)暴民的狂歡。

復(fù)雜的是這個(gè)世界

關(guān)于人性本善、人性本惡的爭(zhēng)論自古以來(lái)就有，人的性格一部分由環(huán)境影響，一部分生來(lái)就有了方向。從惡人島出生的小魚兒內(nèi)心不也是個(gè)善良的大好人嗎？

聊天機(jī)器人一直被人看作是「無(wú)害」的，僅有的應(yīng)用也只是基于數(shù)據(jù)進(jìn)行一些人機(jī)交互，最近發(fā)生的事才讓人開(kāi)始重新思考它的能力。拿小冰來(lái)說(shuō)，她最近開(kāi)始寫詩(shī)、唱歌、主持節(jié)目，甚至能夠撰寫新聞，她遠(yuǎn)比我們想象的要復(fù)雜。她是真正的「終身學(xué)習(xí)者」，還不挑食。

AI 從出生起就不是個(gè)小孩，它數(shù)據(jù)庫(kù)中是全世界數(shù)年積累的信息，有黑有白，有善有惡。AI 的學(xué)習(xí)能力是人類無(wú)法比擬的，它不需要才華，不用休息，只要有足夠多的數(shù)據(jù)，就能學(xué)會(huì)。AI 的力量又是強(qiáng)大的，AlphaGo 一天能和自己對(duì)戰(zhàn)一百萬(wàn)局圍棋，學(xué)會(huì)寫詩(shī)的小冰瞬間就能生產(chǎn)大量?jī)?nèi)容，不需要情緒醞釀，不需要場(chǎng)景激發(fā)。但 AI 缺少是非分辨能力，它學(xué)習(xí)的環(huán)境、對(duì)象不由自己決定，很容易被人誤導(dǎo)。

擔(dān)心 AI 毀滅世界的人省點(diǎn)兒心吧，它們離人類的狡猾還差了幾個(gè)司馬懿。

AI 是單純的，是世界太復(fù)雜。