導(dǎo)語：無論是我們的家里還是身上或多或少都會(huì)攜帶智能語音設(shè)備，如今甚至連兒童玩具也越來越智能了。但是當(dāng)我們與這些虛擬助手交談的時(shí)候，背后傾聽的人究竟是誰？我們是否還有隱私可言？

以下為譯文：

“血案”引發(fā)的智能設(shè)備隱私問題

2015年11月21日，James Bates和三位朋友觀看了阿肯色州野豬隊(duì)與密西西比州斗牛犬隊(duì)的比賽。Bates居住在阿肯色州本頓維爾市，他和他的朋友們喝著啤酒和伏特加，觀看了一場(chǎng)緊張的橄欖球比賽。后來，野豬隊(duì)以51-50輸?shù)袅吮荣?，Bates的一位朋友悻悻而歸，而Bates和其余兩位朋友去后院的熱水浴缸里繼續(xù)飲酒。據(jù)Bates事后說，凌晨1點(diǎn)左右的時(shí)候他上床睡覺了，而他的兩位朋友（其中一人名叫Victor Collins）打算在他家中過夜。次日清晨，Bates起床后卻發(fā)現(xiàn)兩位朋友不見了。可是，當(dāng)他打開后門，才發(fā)現(xiàn)熱水浴缸中漂浮著一具尸體，此人正是Collins。

這在當(dāng)?shù)厥且黄饑?yán)峻的死亡事件，但如果不是由于本頓維爾市警方在調(diào)查死因的時(shí)候，將世界上最強(qiáng)大的公司亞馬遜也卷了進(jìn)來的話，可能Victor Collins的死永遠(yuǎn)也不會(huì)引起國(guó)際的關(guān)注。Collins的死亡引發(fā)了一場(chǎng)關(guān)于語音計(jì)算時(shí)代隱私的爭(zhēng)論，這些討論讓大科技公司感到不安。

橄欖球比賽的次日清晨，Bates報(bào)了警。警方發(fā)現(xiàn)了打斗的痕跡，覺得很可疑——地上散落著熱水浴缸的頭枕、把手以及兩個(gè)破碎的瓶子。Collins的一只眼睛烏青，嘴唇腫脹，而浴缸中的水也被血染紅了。Bates說，他不知道發(fā)生了什么事情，但警方覺得很可疑。2016年2月22日，警方以謀殺罪逮捕了Bates。

在搜查犯罪現(xiàn)場(chǎng)時(shí)，調(diào)查人員注意到了亞馬遜的Echo。由于警察認(rèn)為Bates可能沒有說實(shí)話，所以他們想試試看Echo是否可能在無意間記錄了有關(guān)真相。2015年12月，調(diào)查人員向亞馬遜提出了搜查令，要求亞馬遜提供“錄音、轉(zhuǎn)錄記錄或其他文本記錄形式的電子數(shù)據(jù)”。

亞馬遜提交了Echo記錄的一份事務(wù)記錄，但沒有提供任何音頻數(shù)據(jù)。亞馬遜在提交給法庭的一份文件中稱：“鑒于第一修正案的重要性與隱私權(quán)的問題，逮捕令應(yīng)予以撤銷?！盉ates的律師Kimberly Weber用更為通俗的語言闡述了這一論點(diǎn)：“一份理應(yīng)改善你的生活的圣誕禮物，如今卻變成了你的罪證?！?/p>

亞馬遜的Echo帶有麥克風(fēng)、能夠收錄到各個(gè)房間的聲音。蘋果、Google和微軟的智能家居產(chǎn)品，以及我們所有手機(jī)中配備麥克風(fēng)的AI也一樣。作家Adam Clark Estes曾說過：“購買智能揚(yáng)聲器，實(shí)際上等同于花錢讓一家大型科技公司監(jiān)視你?！?/p>

亞馬遜對(duì)此做出了反擊，認(rèn)為其產(chǎn)品受到了不公平的誹謗。沒錯(cuò)，他們的設(shè)備時(shí)刻在聽候指令，但絕不會(huì)傳輸聽到的所有內(nèi)容。只有當(dāng)設(shè)備聽到有人叫它“Alexa”時(shí)，才會(huì)將語音發(fā)送到云端進(jìn)行分析。Bates不太可能會(huì)明目張膽地說出自己的罪行。例如：“Alexa，我該如何把尸體藏起來？”但可以想象這臺(tái)設(shè)備可能收錄了一些調(diào)查人員感興趣的東西。例如，如果有人有意激活Echo（如播放歌曲等正常的要求），而設(shè)備可能錄下了當(dāng)時(shí)的背景聲音，比如有人爭(zhēng)吵的聲音等。如果Bates在凌晨1點(diǎn)之后向Echo發(fā)出了任何請(qǐng)求，那么就證明他所說的上床睡覺的時(shí)間有誤。

2016年8月，一名法官接受了亞馬遜可能持有有利證據(jù)的觀點(diǎn)，批準(zhǔn)了第二次搜查令，準(zhǔn)許警方獲取亞馬遜之前保留的信息。就在雙方陷入僵局的時(shí)候，情況發(fā)生了突變——Bates堅(jiān)持認(rèn)為自己無罪，所以他和他的律師表示，他們并不反對(duì)警察獲取這些信息。于是，亞馬遜表示妥協(xié)，但要求警方永遠(yuǎn)不能透漏Echo記錄的有關(guān)犯罪的任何內(nèi)容。然而，2017年12月，檢察官提出了駁回此案的動(dòng)議，稱Collins的死亡有不止一種合理的解釋。但該案件引發(fā)的監(jiān)視問題掀起了軒然大波，久久無法散去。

各大科技公司堅(jiān)持認(rèn)為，他們沒有使用虛擬助手和家用小工具來監(jiān)視他們的用戶，這些工具只在收到明確指示時(shí)，才會(huì)接收指令。至少就外部的檢驗(yàn)結(jié)果而言，這種說法似乎屬實(shí)。但這并不意味著挑戰(zhàn)傳統(tǒng)隱私觀念的監(jiān)聽沒有發(fā)生，或不可能發(fā)生。

科技公司的隱私保衛(wèi)戰(zhàn)

家用設(shè)備威脅到我們的隱私觀念的方式有很多種。一種是通過監(jiān)聽改善語音識(shí)別系統(tǒng)。當(dāng)你按下Hello Barbie這款芭比娃娃閃閃發(fā)光的束衣扣時(shí)，她的數(shù)字耳朵就會(huì)豎起來。當(dāng)你說“OK，Google”的時(shí)候，Google的語音助手也會(huì)被激活。亞馬遜的Alexa最喜歡有人叫她的名字。但是一旦這些設(shè)備被激活，接下來會(huì)發(fā)生什么呢？

蘋果向來以保護(hù)隱私為傲，據(jù)稱Siri會(huì)盡可能地滿足使用iPhone或HomePod的用戶。在將用戶所說的話發(fā)送到云進(jìn)行其他分析時(shí)，會(huì)對(duì)用戶的信息進(jìn)行編碼。為了便于語音識(shí)別系統(tǒng)學(xué)習(xí)更好地理解人的聲音，這些信息會(huì)被保存六個(gè)月。在這之后，為了幫助改善Siri，這些數(shù)據(jù)在去除有關(guān)用戶的信息后，會(huì)被保存在另一個(gè)副本中長(zhǎng)達(dá)兩年。

大多數(shù)其他公司并沒有采取本地處理的方式，而是會(huì)將所有音頻傳輸?shù)皆贫?，通過更強(qiáng)大的計(jì)算資源進(jìn)行處理。然后，由計(jì)算機(jī)判斷用戶的意圖并遵從用戶的命令。在這之后，這些公司本可以刪除請(qǐng)求和系統(tǒng)的響應(yīng)，但通常他們都不會(huì)這樣做。原因就在于這些都是數(shù)據(jù)。在AI會(huì)話中，你擁有的數(shù)據(jù)越多就越有利。

幾乎所有的機(jī)器人廠商，從業(yè)余愛好者到大型科技公司的人工智能向?qū)?，都?huì)審核人們與這些機(jī)器人之間的互動(dòng)內(nèi)容。目的是為了查看哪些方面做得不錯(cuò)，哪些方面需要改進(jìn)，以及用戶感興趣的討論內(nèi)容或希望完成的事項(xiàng)。這種審核流程有多種形式。

聊天記錄有可能是匿名的，因此審閱者看不到用戶的姓名。有些審閱者只能看到匯總的數(shù)據(jù)。例如，他們有可能發(fā)現(xiàn)，有些機(jī)器人經(jīng)常在對(duì)話中把天聊死，從而他們可以知道需要調(diào)整語句。微軟和Google以及其他公司的設(shè)計(jì)師也會(huì)收到有關(guān)最受歡迎的用戶查詢的詳細(xì)報(bào)告，所以他們知道需要添加哪些內(nèi)容。

但是，在這種審核的過程中，也可能接觸到非常私密的信息。在我訪問過的一家會(huì)話計(jì)算公司的辦公室里，員工向我展示了他們每天收到的郵件里都會(huì)列出用戶與某家公司聊天應(yīng)用之間的最新交換信息。

他們的員工打開了一封這樣的電子郵件，并點(diǎn)擊了播放的圖標(biāo)。我通過清晰的數(shù)字音頻，聽到了一個(gè)孩子的自言自語：“我只是一個(gè)男孩，我有一件綠色的恐龍襯衫......而且，巨大的腳......我家里有很多玩具和一把椅子......母親只是一個(gè)女孩，我認(rèn)識(shí)我的媽媽，她可以做任何她想做的事情。每天早上我起來的時(shí)候她已經(jīng)去上班了，但晚上她會(huì)回家?！?/p>

這段錄音并沒有任何不妥之處。但是當(dāng)我聽到這段錄音時(shí)，心里隱隱感到一陣不安，仿佛看見有個(gè)小男孩的房間里徘徊。這次經(jīng)歷讓我意識(shí)到當(dāng)我們通過電話或智能家居設(shè)備與虛擬助手交談時(shí)，我們假設(shè)自己完全是匿名，另一端只有一臺(tái)電腦，是嗎？并不一定哦，很可能有人在監(jiān)聽、做筆記、學(xué)習(xí)。

有時(shí)監(jiān)聽也會(huì)在不經(jīng)意期間發(fā)生。2017年10月4日，Google邀請(qǐng)記者參加舊金山SFJazz中心一款產(chǎn)品的發(fā)布會(huì)。由設(shè)計(jì)師Isabelle Olsson負(fù)責(zé)宣布全新推出的Google Home Mini，這是一款只有百吉餅大小的設(shè)備，是Google為了回應(yīng)亞馬遜的Echo Dot而推出的產(chǎn)品。Olsson說：“家庭是一個(gè)特別私密的地方，人們對(duì)他們選擇的東西都非常挑剔?！闭故窘Y(jié)束后，Google把Mini贈(zèng)送給了與會(huì)者。其中一位名叫Artem Russakovskii的作家將這款贈(zèng)品帶回了家，但隨后他對(duì)自己的此舉感到十分懊悔。

在使用了幾天Mini后，Russakovskii上網(wǎng)查看了他的語音搜索記錄。結(jié)果卻震驚地發(fā)現(xiàn)，這款設(shè)備已經(jīng)錄制了幾千段小音頻——該設(shè)備本不應(yīng)該錄制這些音頻。后來，他在Android Police網(wǎng)站寫道：“由于硬件的缺陷，不知不覺中我受到了來自Google Home Mini一天24小時(shí)不間斷的監(jiān)視?！彼騁oogle投訴，Google在5小時(shí)內(nèi)派來了一名代表，換掉了他的故障設(shè)備中的兩個(gè)部件。

與其他類似的設(shè)備一樣，你可以通過“OK，Google”或按下設(shè)備頂部的按鈕激活Mini。Russakovskii寫道，但問題在于該設(shè)備有“臆想癥”：它會(huì)幻想有人按了激活按鈕。后來，Google表示，這個(gè)問題僅影響了促銷活動(dòng)中發(fā)放出去的少數(shù)幾臺(tái)設(shè)備。再后來，Google通過軟件更新修復(fù)了這個(gè)問題。為了進(jìn)一步消除用戶的恐懼，Google宣布永久禁用所有Mini的觸控功能。

然而，這種回應(yīng)措施并不足以滿足電子隱私信息中心的要求。2017年10月13日，該倡導(dǎo)組織在一封信中強(qiáng)烈要求消費(fèi)者產(chǎn)品安全委員會(huì)召回Mini，理由是它“允許Google在未經(jīng)消費(fèi)者知情或同意的情況下，攔截和記錄用戶在家中的私人談話”。

沒有任何信息表明Google在故意竊聽。盡管如此，如果連Google這樣的公司都會(huì)犯這樣的錯(cuò)誤，那么隨著語音設(shè)備的劇增，其他公司更容易犯同樣的錯(cuò)誤。

你是否真的被監(jiān)聽了？

如果你想知道政府機(jī)構(gòu)或黑客是否能夠聽到你與語音設(shè)備之間的談話，那么請(qǐng)考慮一下你對(duì)著這些設(shè)備說完話后，接下來會(huì)發(fā)生什么。有隱私保護(hù)意識(shí)的蘋果會(huì)保留你的語音，但會(huì)去掉你的姓名或用戶ID。然后，給每個(gè)用戶分配隨機(jī)的數(shù)字字符串，在6個(gè)月后還會(huì)斷開對(duì)話與數(shù)字字符串之間的關(guān)聯(lián)。

與此同時(shí)，Google和亞馬遜會(huì)全權(quán)保留講話者與其對(duì)話之間的聯(lián)系。任何用戶都可以登錄他們的Google或亞馬遜賬號(hào)，查看所有查詢的列表。我曾試過Google，我可以聽到其上的所有錄音。例如，點(diǎn)擊2017年8月29日上午9點(diǎn)34分的播放圖標(biāo)，我聽到自己?jiǎn)枺骸般U筆刀用德語怎么說？”雖然這些語音記錄都可以刪除，但是必須由用戶動(dòng)手。Google用戶政策聲明中說：“Google Home和Google助手的對(duì)話歷史記錄會(huì)一直被保存下來，直到你動(dòng)手刪除為止?！?/p>

這是隱私方面的新問題嗎？然也。Google和其他搜索引擎同樣會(huì)保留你輸入的所有Web查詢，除非你動(dòng)手刪除。所以你可能認(rèn)為，語音存檔只不過是同樣的現(xiàn)象而已。但是對(duì)某些人來說，語音記錄感覺更具侵略性。另外，還有一個(gè)問題。錄音常常會(huì)把背景中其他人的聲音也記錄下來，比如你的伴侶、朋友和孩子等。

對(duì)于執(zhí)法機(jī)構(gòu)來說，如果想獲取本地存儲(chǔ)的錄音或數(shù)據(jù)（保存在你的手機(jī)、計(jì)算機(jī)或智能家居設(shè)備上的數(shù)據(jù)），則需要拿到搜查令。但是，在語音傳輸?shù)皆浦螅[私保護(hù)就被大幅削弱了。紐約福德姆法學(xué)院法律和信息政策中心主任Joel Reidenberg表示，“有關(guān)隱私的合理預(yù)期法律標(biāo)準(zhǔn)已經(jīng)失效了。根據(jù)第四項(xiàng)修正方案，如果你安裝語音設(shè)備，而且會(huì)向第三方傳輸數(shù)據(jù)，那么就相當(dāng)于你放棄了隱私權(quán)?！备鶕?jù)Google透明度報(bào)告，2017年美國(guó)政府機(jī)構(gòu)曾要求其提供17萬多用戶賬號(hào)的數(shù)據(jù)。（該報(bào)告沒有說明這些請(qǐng)求中有多少是語音數(shù)據(jù)，有多少是網(wǎng)絡(luò)查詢或其他信息的日志。）

如果你沒有在家中從事任何違法行為，也不用擔(dān)心被誣告，那么也許你不需要擔(dān)心政府可能會(huì)要求提供你的語音數(shù)據(jù)。但是，如果有些公司持有你的錄音數(shù)據(jù)，那么仍然有一種普遍存在的風(fēng)險(xiǎn)。黑客可以利用你的賬號(hào)和密碼，竊聽你在家中私下發(fā)出的請(qǐng)求。

各大科技公司聲稱他們沒有惡意竊聽，但黑客并不會(huì)以竊聽為恥。雖然各個(gè)公司通過密碼保護(hù)和數(shù)據(jù)加密來打擊竊聽活動(dòng)，但安全研究人員的測(cè)試以及黑客的破壞表明，這些保護(hù)措施遠(yuǎn)非萬無一失。

有一種在線的毛絨動(dòng)物玩具CloudPets，其中有小貓咪、大象、獨(dú)角獸，還有泰迪熊。孩子們可以對(duì)著這些毛絨玩具錄制簡(jiǎn)短的語音信息，這些信息可以通過藍(lán)牙傳送到附近的智能手機(jī)上。然后，再發(fā)送到遠(yuǎn)方的父母或其他親戚手中，無論他們?cè)谑欣锷习?，還是在世界的另一個(gè)角落戰(zhàn)斗。反過來，父母也可以在手機(jī)上錄制一條消息，并發(fā)送到毛絨玩具上進(jìn)行播放。

看似這是一個(gè)溫馨甜蜜的場(chǎng)景。然而，問題在于CloudPet將80多萬名用戶的認(rèn)證信息，以及兒童和成人之間記錄的200萬條消息保存在了在線數(shù)據(jù)庫中。2017年，黑客獲取了很大一部分?jǐn)?shù)據(jù)，甚至向該公司提出了勒索贖金。

安全研究員Paul Stone發(fā)現(xiàn)了另一個(gè)問題：CloudPets毛絨玩具與配套的智能手機(jī)應(yīng)用之間的藍(lán)牙配對(duì)中沒有使用加密，也不需要身份驗(yàn)證。他購買了一只獨(dú)角獸的毛絨玩具進(jìn)行測(cè)試，發(fā)現(xiàn)很輕易就可以入侵該設(shè)備。

在Stone在網(wǎng)上發(fā)布了一段示范視頻中，他的獨(dú)角獸玩具大喊：“殺呀！殺呀！”同時(shí)他開啟了麥克風(fēng)錄制，該毛絨玩具瞬間變成了監(jiān)聽器。Stone在他的博客上寫道：“藍(lán)牙LE通常的范圍在10-30米。所以別人站在你家門外就可以輕松地連接到玩具上，上傳錄音，并通過麥克風(fēng)接收音頻。”

毛絨玩具可能不過是黑客的玩具目標(biāo)，但其中展示的脆弱性同樣會(huì)出現(xiàn)在為成年人設(shè)計(jì)的互聯(lián)網(wǎng)語音設(shè)備上。安全研究員Troy Hunt記錄了CloudPets的違規(guī)行為，他表示，“雖然這種風(fēng)險(xiǎn)與我們每天所面對(duì)的風(fēng)險(xiǎn)——大量數(shù)據(jù)的產(chǎn)生和上傳到網(wǎng)上的風(fēng)險(xiǎn)——并沒有不同，但這種風(fēng)險(xiǎn)牽扯到了孩子，我們就不能容忍?！?/p>

其他研究人員也發(fā)現(xiàn)了很多侵犯隱私的技術(shù)方式。想象一下，有人可以通過交談控制你的手機(jī)或其他語音AI設(shè)備，如果被你聽到了，那么這種計(jì)劃就會(huì)失敗。但是如果這種攻擊你聽不到呢？中國(guó)浙江大學(xué)的一個(gè)研究小組在2017年發(fā)表的一篇論文就針對(duì)這種情況展開了調(diào)查。這些研究人員設(shè)計(jì)了一種名叫海豚攻擊的場(chǎng)景，黑客可以通過安裝在受害者辦公室或家中的揚(yáng)聲器發(fā)出未經(jīng)授權(quán)的命令。黑客還可以在將在受害者經(jīng)過時(shí)，將一種便攜式的揚(yáng)聲器放到受害者身上。關(guān)鍵在于，這些命令可以發(fā)出20千赫以上的超聲波信號(hào)，雖然人耳聽不到這些信號(hào)，但是研究人員可以輕易地通過操縱音頻，讓數(shù)字設(shè)備接受這些指令。

在實(shí)驗(yàn)室的測(cè)試中，這些科學(xué)家成功地攻擊了亞馬遜、蘋果、Google、微軟和三星的語音設(shè)備。他們欺騙這些語音AI訪問了惡意網(wǎng)站、發(fā)送短信和電子郵件、調(diào)暗屏幕，并降低音量幫助隱藏攻擊。研究人員通過這些設(shè)備非法地監(jiān)聽了電話以及視頻通話，這意味著黑客也可以竊聽，甚至可以看到受害者周圍的情況。他們甚至還入侵了奧迪SUV的導(dǎo)航系統(tǒng)。

科技是把雙刃劍

大多數(shù)人不希望黑客、警察或公司監(jiān)聽他們。但是最后一種情況可能會(huì)讓大家從另一個(gè)角度考慮監(jiān)聽的問題。如上所述，為了提高語音設(shè)備，會(huì)話設(shè)計(jì)師會(huì)查看聊天日志，有時(shí)他們感覺在聽到某些內(nèi)容時(shí)有必要采取一定的行動(dòng)。

以美泰公司的芭比娃娃為例。在設(shè)計(jì)的過程中，他們遇到了一系列困惑的假設(shè)情況。例如，如果一個(gè)孩子告訴芭比娃娃“我爸爸打我媽媽”，該怎么辦？芭比娃娃的設(shè)計(jì)者認(rèn)為無視這類的音頻在道德上是不正確的。但是，如果他們將聽到的內(nèi)容報(bào)告給警方，那么他們實(shí)際上就成了獨(dú)裁者。在艱難的討論之后，他們認(rèn)為芭比娃娃應(yīng)該做出反應(yīng)說：“你應(yīng)該把這些話告訴你信任的某個(gè)大人?！?/p>

然而，美泰公司似乎希望做得更好。在關(guān)于Hello Barbie的常見問題解答中，他們寫道：“我們不會(huì)實(shí)時(shí)監(jiān)控兒童和玩具之間的對(duì)話。但是事后，我們可能會(huì)審查某些對(duì)話，以便幫助我們測(cè)試和改進(jìn)產(chǎn)品。如果我們?cè)谶@類審查中發(fā)現(xiàn)任何有關(guān)孩子或其他人安全的問題，我們也會(huì)按照要求，根據(jù)具體情況與執(zhí)法機(jī)構(gòu)和法律程序合作?！?/p>

大型科技公司也面臨同樣的難題。由于他們的虛擬助理每周需要處理數(shù)百萬個(gè)語音查詢，因此他們無法讓員工監(jiān)控每個(gè)用戶的對(duì)話。但這些公司確實(shí)對(duì)系統(tǒng)進(jìn)行了訓(xùn)練，以收錄用戶可能提到的某些高度敏感事宜，例如，我在測(cè)試Siri的時(shí)候說：“我想自殺?！彼卮鹫f：“如果你想自殺，那么你可以跟全美預(yù)防自殺生命線的某個(gè)人談?wù)?。”而且Siri還提供了電話號(hào)碼，并撥打了電話。

在此向Siri表示感謝。但是問題在于，讓這些虛擬助手照顧我們就意味著這些角色所承擔(dān)的責(zé)任不清不楚，還有一定的局限性。如果你告訴Siri你喝醉了，有時(shí)她會(huì)打電話幫你叫出租車。但是，如果她沒有，而且你出了車禍，那么蘋果公司是否應(yīng)該因?yàn)镾iri沒有說這些話而負(fù)責(zé)？

什么時(shí)候語音設(shè)備應(yīng)該采取行動(dòng)？如果Alexa無意中聽到某人尖叫著：“救命，救命啊，有人要?dú)⑽遥　?，那么她?yīng)該自動(dòng)報(bào)警嗎？

通信行業(yè)顧問分析師Robert Harris認(rèn)為上述場(chǎng)景并不牽強(qiáng)，他認(rèn)為語音設(shè)備引發(fā)了新的道德和法律問題。他表示：“個(gè)人助理會(huì)對(duì)他們的知識(shí)負(fù)責(zé)嗎？這樣的功能將來有可能會(huì)成為一種負(fù)擔(dān)?！?/p>

人工智能監(jiān)控的使用清楚地表明，你應(yīng)該謹(jǐn)慎地使用深入生活的每種技術(shù)。了解語音設(shè)備的激活方式和時(shí)間。如果有必要，你應(yīng)該找到保存的語音數(shù)據(jù)并刪除。如果你對(duì)這些設(shè)備持有疑問，尤其是那些隱私政策不清不楚的公司的產(chǎn)品，那么請(qǐng)拔掉插座。