從黑箱看 AI 人工智能在幫助人類的同時(shí)創(chuàng)造了可怕的危機(jī)

人工智能是這幾年的熱詞，人工智能系統(tǒng)有巨大的潛力，但它們的性能也取決于它們的數(shù)據(jù)。隨著機(jī)器學(xué)習(xí)滲透到我們生活的各個(gè)領(lǐng)域，比如醫(yī)療、自動(dòng)駕駛、執(zhí)法等等，但是如果不對(duì)人工智能加以規(guī)范平衡利弊，那么人工智能技術(shù)將弊大于利。

偏頗的數(shù)據(jù)導(dǎo)致不準(zhǔn)確的結(jié)果

人工智能存在偏見(jiàn)的問(wèn)題是最近比較困擾的一個(gè)問(wèn)題，也是確實(shí)存在的一個(gè)問(wèn)題，麻省理工學(xué)院(MIT)的研究員Joy Buolamwini曾親身體驗(yàn)過(guò)，結(jié)果發(fā)現(xiàn)人工智能識(shí)別淺色皮膚同事的面孔比識(shí)別自己的面孔更輕松。在此之后，她就開始了一項(xiàng)研究，以查明該軟件在識(shí)別她的特定特征方面是否存在一些問(wèn)題，或者是存在于人工智能中的更廣泛的問(wèn)題。

Joy Buolamwini測(cè)試了IBM、微軟和中國(guó)公司Face++的系統(tǒng)，向這些系統(tǒng)展示了1000張臉，并要求其識(shí)別受試者的性別，是男性還是女性。她發(fā)現(xiàn)，所有這些系統(tǒng)識(shí)別男性面孔的準(zhǔn)確度明顯優(yōu)于女性面孔，識(shí)別淺色面孔也比深色面孔表現(xiàn)得更好?，F(xiàn)在隨著面部識(shí)別越來(lái)越融入日常生活，面孔識(shí)別被應(yīng)用于安全、醫(yī)療診斷應(yīng)用和尋找失蹤者等方面，但研究的結(jié)果顯示，膚色較深的人和女性處于劣勢(shì)。

針對(duì)這些，麻省理工學(xué)院(MIT)的研究人員正在研究一種算法，可以通過(guò)發(fā)現(xiàn)隱藏的偏倚并對(duì)數(shù)據(jù)重新采樣。在測(cè)試中，該算法的應(yīng)用有效地降低了人工智能面部識(shí)別的種族歧視，減少了分類偏見(jiàn)的出現(xiàn)，但在不降低總體準(zhǔn)確率的情況下，預(yù)計(jì)減少了60%以上。

英特爾AI開發(fā)者大會(huì)，AI DevCon (AIDC)主要為機(jī)器學(xué)習(xí)提供平臺(tái)，來(lái)自世界各地的公司利用英特爾機(jī)器學(xué)習(xí)平臺(tái)造福社會(huì)，應(yīng)用于醫(yī)療和物理研究領(lǐng)域。英特爾主要為機(jī)器學(xué)習(xí)提供平臺(tái)，而不是開發(fā)應(yīng)用程序，英特爾也很清楚自己工作的規(guī)范倫理，所以它旨在開發(fā)和分享人工智能，目標(biāo)是讓人工智能變得安全、可信、公平、透明和負(fù)責(zé)任，并為社會(huì)服務(wù)。

在AIDC的演講間隙，英特爾技術(shù)計(jì)算、分析和人工智能總監(jiān)Stephan Gillich接受采訪時(shí)表示，“為了學(xué)習(xí)算法，你需要有準(zhǔn)確的數(shù)據(jù)，如果你沒(méi)有廣泛且具有代表性的數(shù)據(jù)，那么就不會(huì)起作用。”因此，從人工智能的角度來(lái)看，這番話的意思就是，公司的數(shù)據(jù)應(yīng)該盡可能準(zhǔn)確無(wú)偏倚。

人工智能的有益方面

英特爾還在與一些合作伙伴合作，展示機(jī)器學(xué)習(xí)在使用高質(zhì)量數(shù)據(jù)并經(jīng)過(guò)仔細(xì)定位的情況下的優(yōu)點(diǎn)。在其中一個(gè)項(xiàng)目中，英特爾與環(huán)保組織Parley For the Oceans合作開發(fā)了一種無(wú)人機(jī)系統(tǒng)，可以在不干擾鯨魚健康的情況下評(píng)估它們的健康狀況。Stephan Gillich解釋說(shuō)，“鯨魚可以通過(guò)拍照來(lái)識(shí)別，就像指紋，拍照之后就不需要再給這些鯨魚貼上標(biāo)簽了。這些鯨魚就擁有自己的標(biāo)簽了。

他們過(guò)去的做法是向鯨魚體內(nèi)注射一些東西。雖然對(duì)鯨魚是無(wú)害的，但操作起來(lái)很困難。所以他們找到了一種方法，趁在鯨魚水面上噴水的時(shí)候采集樣本，然后利用人工智能對(duì)它們進(jìn)行分析，使用AI來(lái)做圖像識(shí)別。由此就產(chǎn)生了一個(gè)系統(tǒng)，Parley SnotBot，可以在不驚擾到它們的情況下，實(shí)時(shí)提供鯨魚的健康數(shù)據(jù)。

另一個(gè)特別項(xiàng)目涉及保護(hù)非洲象，使其不受偷獵者的殺害。目前，非洲森林象的數(shù)量可能會(huì)在未來(lái)10年內(nèi)被偷獵象牙的偷獵者滅絕殆盡，但非洲象的棲息地面積巨大，護(hù)林員不可能保護(hù)所有這些大象。塞倫蓋蒂國(guó)家公園(Serengeti National Park)只有150名護(hù)林員，而他們要巡邏的面積大約相當(dāng)于比利時(shí)的國(guó)土面積。

Stephan Gillich說(shuō)，“這些都是偏遠(yuǎn)地區(qū)，不可能到處都安排上人，因?yàn)槟菢右矔?huì)干擾野生動(dòng)物，而且這也根本不可能，所以我們一直在研究如何解決這個(gè)問(wèn)題”。為了幫助解決這個(gè)問(wèn)題，英特爾與環(huán)保組織Resolve合作開發(fā)了一個(gè)名為TrailGuard的系統(tǒng)，該系統(tǒng)搭配了一種小到可以藏在灌木叢中的低功耗智能相機(jī)。

攝像機(jī)會(huì)被動(dòng)作激活，這時(shí)人工智能會(huì)分析錄像以識(shí)別運(yùn)動(dòng)物體是動(dòng)物、人還是車輛。如果一個(gè)人被識(shí)別到在一個(gè)通常只有動(dòng)物居住的地方，很有可能他們是偷獵者，所以公園的管理員會(huì)對(duì)這些人和車輛保持警惕。將TrailGuard攝像機(jī)捕捉到的每一幀畫面發(fā)送到總部或云服務(wù)器是相當(dāng)麻煩的一件事，而且管理員自己監(jiān)視這么多視頻也是不切實(shí)際的，所以運(yùn)行在攝像機(jī)上的神經(jīng)網(wǎng)絡(luò)實(shí)時(shí)分析每一幀畫面，丟棄那些沒(méi)有活動(dòng)或者只有動(dòng)物的畫面，將那些有人類的畫面發(fā)送給公園管理員，這個(gè)方法大大減少了工作量。

TrailGuard項(xiàng)目取得了相當(dāng)?shù)某晒?，公園管理員依靠這個(gè)系統(tǒng)能夠在動(dòng)物受到傷害之前進(jìn)行干預(yù)并捕獲偷獵者，保護(hù)了瀕危動(dòng)物的安全。Stephan Gillich表示，“人工智能能提供一種創(chuàng)新方式，現(xiàn)在有很多的數(shù)據(jù)，公司可以處理和收集大量的數(shù)據(jù)，程序員可以進(jìn)行函數(shù)式編程，這就是我們所說(shuō)的人工智能?！币虼耍斯ぶ悄芸梢砸砸环N比以前更有效的方式去幫助人類。