谷歌與五角大樓Maven項目合作的項目價值僅900萬美元，但在內(nèi)部引發(fā)了一場大討論，媒體報道谷歌最近正在制定一套準則，將禁止在武器中使用人工智能。

谷歌備受關注的國防部Maven合作項目或許要告一段落。

紐約時報30日報道，谷歌正在制定一套準則，以指導其參與開發(fā)用于軍事的AI工具。這些指導準則究竟會有哪些規(guī)定尚不清楚，但谷歌表示，他們將禁止在武器中使用人工智能。

報道中還披露了谷歌與五角大樓Maven項目合作一些細節(jié)：

交易金額非常少，只有900萬美元；

谷歌內(nèi)部對與軍方的合作爭論非常激烈，所以才引起了十幾人辭職抗議；

李飛飛曾極力反對，但最終決定是由她的老板、谷歌云首席執(zhí)行官Diane Greene做出的。

一場本可以避免的危機事件

去年8月，美國國防部長Jim Mattis到硅谷訪問谷歌高層。

次月，谷歌有史以來第一份與五角大樓的AI合同出現(xiàn)，幾名谷歌高管討論這份合同的可行性，其中包括李飛飛。

李飛飛強烈建議回避“AI”這兩個字母。后來她在給《紐約時報》的一封電子郵件中寫道，谷歌應該“不惜一切代價避免提及或暗示任何人工智能。武器化人工智能可能是人工智能最敏感的話題之一”。如果谷歌與軍方合作，對媒體來說是“red meat”。

“我不知道如果媒體開始錯誤報道谷歌正在秘密制造人工智能武器或人工智能技術來為國防工業(yè)提供武器，會產(chǎn)生什么后果。”李飛飛說，“我相信以人為中心的AI能以積極、善意的方式造福人類。任何AI武器化的項目，都是違背我的原則的?！?/p>

后來發(fā)生的4000人聯(lián)名上書、十幾人集體辭職抗議的事實證明，李飛飛的預見是對的，但她的反對沒有起到作用。最終，李飛飛的上司、谷歌云首席執(zhí)行官Diane Greene決定跟軍方合作。

更嚴重的是，谷歌也沒有將與Maven項目合作的事情對外公布，直到有部分員工開始在谷歌強大的內(nèi)部溝通平臺上反對時，事情才慢慢被更多人知曉，隨后便引發(fā)出了后續(xù)一連串的事件。

被媒體和谷歌員工關注的Maven項目，是使用機器學習來識別無人機鏡頭中的車輛和其他物體，從而減輕分析人員的負擔。谷歌向國防部提供用于機器學習應用的TensorFlow API，以幫助軍事分析人員檢測圖像中的物體。

另據(jù)Wired報道，Maven項目正在拓展，包括更廣泛地部署無人機監(jiān)視算法。Maven項目負責人Jack Shanahan表示，他的團隊現(xiàn)在正在“完善”無人機飛行的算法，并將很快在高空偵察機上工作。

此外，Shanahan還說，Maven項目未來會將人工智能應用于新的軍事領域。其中包括是利用機器學習算法來幫助分析人員在獲取的硬盤上查找最重要的資料。

交易金額“僅”900萬美元，谷歌內(nèi)部大討論

當與國防部合作的消息在內(nèi)部泄露到時，Diane Greene在每周的全公司TGIF（Thanks God, it's Friday）會議上發(fā)言。據(jù)兩名知情人士透露，她解釋說該項目不是為了致命目的，而且這筆交易價值“僅”900萬美元，是一筆相對較小的交易。

不過，Diane Greene的解釋并沒有遏制員工們憤怒。

另據(jù)Gizmodo報道，除了Maven項目外，五角大樓另一項價值上百億美元的云計算JEDI項目（the Joint Enterprise Defense Infrastructure，聯(lián)合企業(yè)國防基建項目）正在競標，IBM和微軟證實了他們對JEDI合同有興趣，谷歌員工擔心谷歌會參與項目招標，因此對谷歌與軍方的任何合作都保持警惕。

谷歌在4月11日舉行了一場討論，參加的有Diane Greene、谷歌AI研究員Meredith Whittaker（反Maven運動的領導者）、以及谷歌副總裁Vint Cerf等。由于關注度非常高，討論在一天內(nèi)進行了三次，以供谷歌在全球不同地區(qū)的員工觀看。

據(jù)觀看討論的員工透露，Greene堅定地認為，Maven項目沒有將AI用于攻擊目的，而Meredith Whittaker認為很難界定如何使用該技術。

上周四，谷歌聯(lián)合創(chuàng)始人SergeyBrin在全公司會議上回答了關于Maven工作的一個問題。

據(jù)兩名谷歌員工稱，SergeyBrin表示他理解這一爭議，并與Larry Page和Sundar Pichai進行了廣泛的討論。不過，他表示，如果世界各國的軍隊都與谷歌這樣的國際組織合作，而不是僅僅與民族主義的國防承包商合作，這將有利于和平。

谷歌擬制定原則：禁止把人工智能應用到武器中

谷歌CEO Pichai也在上周四的全公司會議上表示，谷歌希望制定出“能夠經(jīng)受住時間考驗”的指導原則，這些原則將指導其在國防和情報外包領域的合作。一些員工們透露，谷歌預計在未來幾周內(nèi)將在內(nèi)部宣布這些原則。

紐約時報稱，谷歌新制定的原則禁止人工智能應用到武器中，但目前還不清楚這種禁令將如何在實踐中應用。

谷歌及其母公司Alphabet公司雇傭了許多世界頂級的人工智能研究人員。這些研究人員中的許多人最近都來自學術界，有些人保留了教授職位，其中包括Geoff Hinton。

Geoff Hinton一直公開表示他不愿意為美國政府工作，20世紀80年代后期，Hinton離開美國去加拿大的部分原因是他不愿意從國防部獲得資金。

谷歌人工智能統(tǒng)帥Jeff Dean也在本月的開發(fā)者大會上說，他已經(jīng)簽署了一封反對使用所謂自主武器的聯(lián)名信。

而谷歌旗下的DeepMind的創(chuàng)始人之一Mustafa Suleyman也參與了與谷歌領導層對Maven項目政策的討論。

Maven項目儼然成了谷歌的一場“真理標準問題大討論”。

這件事不僅給谷歌員工造成重創(chuàng)，引發(fā)了激烈的員工會議和內(nèi)部調(diào)換，并促使一些員工辭職。一些人選擇辭職的員工認為，Maven項目讓谷歌鼓勵員工自由表達的工作環(huán)境不復存在了。而在谷歌紐約市辦事處還被貼上了“做正確的事”的貼紙。

這也讓包括李飛飛在內(nèi)的一些谷歌高級人員感到悲痛，他們試圖跨過一個鴻溝：即道德上有強烈反對意見的科學家和對國防合同垂涎的銷售人員之間的鴻溝。

但鴻溝真的容易跨越嗎？