近日，在日內(nèi)瓦聯(lián)合國舉行了常規(guī)武器公約關(guān)于致命自主武器系統(tǒng)的政府專家小組第一次會(huì)議。像“停止殺手機(jī)器人運(yùn)動(dòng)”這樣的組織正在鼓勵(lì)聯(lián)合國推進(jìn)自主武器的國際監(jiān)管，這很好，因?yàn)檎務(wù)撨@些問題將如何影響機(jī)器人和社會(huì)的未來是一件非常重要的事情。

然而近日看到了一個(gè)視頻，讓我覺得這是一場(chǎng)令人不安的自主武器辯論。在Elon Musk的“未來生活研究所”的支持下制作的這部名為“屠宰機(jī)器人”的視頻將圖像暴力與技術(shù)合理性相結(jié)合，想象一個(gè)非常暗淡的場(chǎng)景：一個(gè)虛構(gòu)的不久的將來，自主攜帶爆炸物的微型無人機(jī)在世界各地正在殺死數(shù)千人。

我們不會(huì)在這里嵌入視頻，因?yàn)樗艘恍┍┝?chǎng)景，包括教室里的恐怖襲擊（?。?/p>

讓我感到非常失望的是機(jī)器人和人工智能研究人員，我本來是很尊重的，他們會(huì)支持這種聳人聽聞的說法，這似乎是為了讓人們感到震驚和恐慌，而不是傳遞任何有用的信息，來了解實(shí)際的問題是什么。這里的信息似乎是，如果你有興趣討論這些問題，或者你認(rèn)為可能有其他可能更有效的方法來塑造未來的自主武器，除了呼吁禁止，那么你就和***站在一邊。這是一種非常熟悉的修辭形式，它被證明是有效的，因?yàn)樗哪康牟皇且獋鬟_(dá)事實(shí)，而是利用情緒和恐懼。另一個(gè)問題是，像這樣的視頻，由學(xué)者創(chuàng)建和推廣，可能會(huì)讓公眾更加不信任和害怕機(jī)器人，這是機(jī)器人界長期以來一直反對(duì)的事情。

就個(gè)人而言，我不是“殺手機(jī)器人”，也不是“有意義的人類控制之外的自主武器”。在這一點(diǎn)上，我覺得很難支持徹底的禁止，因?yàn)槲艺J(rèn)為這樣做對(duì)于一個(gè)尚未完全表征的復(fù)雜問題是一個(gè)潛在的無效的解決辦法。人工智能和武器控制專家們?nèi)匀辉谟懻撌裁?，特別是應(yīng)該受到管制或禁止，以及如何執(zhí)行。說“我們有機(jī)會(huì)阻止你剛才看到的未來”，正如加州大學(xué)伯克利分校教授斯圖爾特·拉塞爾（Russell，“屠宰機(jī)器人”的創(chuàng)造者之一）在錄像結(jié)束時(shí)所做的那樣，是一種過于簡(jiǎn)單化，在我看來，自主武器不會(huì)阻礙無人機(jī)的小型化，不會(huì)阻礙面部識(shí)別技術(shù)的進(jìn)步，也不會(huì)妨礙二者的融合，這就是“屠宰機(jī)器人”呈現(xiàn)的方案。

當(dāng)被問及這部電影是否依賴恐怖主義時(shí)，羅素的一位同事，新南威爾士大學(xué)的一位AI教授托比·沃爾什（Toby Walsh）也不同意。他說：“這不是恐懼?！岸砹_斯駐聯(lián)合國大使剛才對(duì)聯(lián)合國常設(shè)委員會(huì)會(huì)議說，我們不用擔(dān)心致命的自主武器，因?yàn)樗鼈兲b遠(yuǎn)了，不必?fù)?dān)心。相反，這部電影的目的是要證明我們離自主武器有多近。它顯示了如果把一些現(xiàn)有的技術(shù)和這種技術(shù)的濫用放在一起，會(huì)發(fā)生什么事情。

兩年前，我回應(yīng)了第一封公開信，呼吁禁止攻擊性自主武器，提出另一種觀點(diǎn)，即為什么自主武器也可能是有益的。拉塞爾和沃爾什以及麻省理工學(xué)院教授馬克斯·泰格馬克（Max Tegmark）在IEEE《科技縱覽》出版的一篇文章中做了回應(yīng)，該文章從以下幾點(diǎn)開始：

“我們歡迎埃文·阿克曼（Evan Ackerman）為擬議禁止攻擊性自主武器的討論做出貢獻(xiàn)。這是一個(gè)復(fù)雜的問題，雙方都有需要仔細(xì)權(quán)衡的有趣論據(jù)。“

我完全同意?，F(xiàn)在進(jìn)行這個(gè)討論是為了更加和平的未來而努力的最好的方式，但是為了做到這一點(diǎn)，我們必須進(jìn)行討論，而不是制造嚇人的視頻來詆毀我們不同意的人，同時(shí)加強(qiáng)不切實(shí)際和日益消極的看法，人們已經(jīng)有了機(jī)器人技術(shù)。