?

深度神經(jīng)網(wǎng)絡(luò)（DNNs）已經(jīng)在人工智能領(lǐng)域取得了極大的成功，它們以圖像識(shí)別、自動(dòng)化機(jī)器翻譯、精確醫(yī)療和許多其他解決方案為載體，直接影響著我們的生活。

不僅如此，這些現(xiàn)代人工算法和人腦之間有許多相似之處：首先是兩者在功能上的相似，（比如說(shuō)，它們都可以解決非常復(fù)雜的任務(wù)），以及它們?cè)趦?nèi)在結(jié)構(gòu)上的相似性（比如它們包含許多具有層級(jí)結(jié)構(gòu)的神經(jīng)元）。

既然這兩個(gè)系統(tǒng)很明顯存在眾多相似性，于是人們不禁提出許多問(wèn)題：人類(lèi)視覺(jué)和機(jī)器視覺(jué)到底有多大的相似性？我們可以通過(guò)研究機(jī)器視覺(jué)來(lái)理解人類(lèi)視覺(jué)系統(tǒng)嗎？或者從另一個(gè)角度來(lái)說(shuō)：我們能從人類(lèi)視覺(jué)的研究中獲得一些啟發(fā)來(lái)改進(jìn)機(jī)器視覺(jué)的效能嗎？所有這些問(wèn)題都促使我們對(duì)這兩個(gè)奇妙的系統(tǒng)進(jìn)行比較研究。

雖然比較研究可以增進(jìn)我們對(duì)這兩個(gè)系統(tǒng)的理解，但實(shí)踐起來(lái)并不那么容易。兩個(gè)系統(tǒng)之間存在的眾多差異可能會(huì)使研究工作變得十分復(fù)雜，同時(shí)也帶來(lái)許多挑戰(zhàn)。因此，謹(jǐn)慎地進(jìn)行DNNs與人腦之間的比較研究就顯得至關(guān)重要。

論文地址：https://arxiv.org/pdf/2004.09406.pdf

論文《The Notorious Difficulty of Comparing Human and Machine Perception》（《比較人類(lèi)和機(jī)器感知中最難攻克的困難》）中，作者強(qiáng)調(diào)了容易得出錯(cuò)誤結(jié)論的三個(gè)最常見(jiàn)的陷阱：

人們總是過(guò)于急切地得出結(jié)論：機(jī)器學(xué)習(xí)能夠?qū)W會(huì)和人類(lèi)類(lèi)似的行為。這就好像我們僅僅因?yàn)閯?dòng)物的臉上可能有與人類(lèi)類(lèi)似的表情，就迅速得出結(jié)論認(rèn)為動(dòng)物也會(huì)和人類(lèi)一樣感到快樂(lè)或悲傷。

要得出超出測(cè)試架構(gòu)和訓(xùn)練過(guò)程的一般性結(jié)論可能會(huì)很困難。

在比較人和機(jī)器時(shí)，實(shí)驗(yàn)條件應(yīng)該是完全相同的。

陷阱1：人們總是過(guò)于急切地得出結(jié)論：機(jī)器學(xué)習(xí)能夠?qū)W會(huì)和人類(lèi)類(lèi)似的行為先來(lái)做一個(gè)小實(shí)驗(yàn)：下面的圖像是否包含閉合輪廓？

這張呢？

你可能很容易判斷出這兩幅圖像都有一個(gè)閉合的輪廓。根據(jù)格式塔理論（Gestalt Theory），對(duì)閉合輪廓的知覺(jué)被認(rèn)為是人類(lèi)視覺(jué)系統(tǒng)能夠從外界獲得物體意義的重要原因。人類(lèi)會(huì)利用全局信息以判斷一條線是否是閉合輪廓，因?yàn)閳D像的局部區(qū)域不足以提供完整的信息，這個(gè)過(guò)程通常被稱(chēng)為“輪廓整合”（contour integration）。

我們假設(shè)卷積神經(jīng)網(wǎng)絡(luò)很難完成全局輪廓整合。就其性質(zhì)而言，卷積在其大部分層中主要是處理大量的局部信息，而處理全局信息的能力相對(duì)要弱一些，這就使得在對(duì)象識(shí)別中，相對(duì)于形狀，卷積更擅長(zhǎng)處理紋理信息（相關(guān)工作可參考，Geirhos等人2018年的工作《ImageNet-trained CNNs are biased towards texture; increasing shape bias improves accuracy and robustness》，Brendel 和Bethge 2019年的工作《Approximating CNNs with Bag-of-local-Features models works surprisingly well on ImageNet》）。

我們用下面這組具有閉合和開(kāi)放輪廓的圖像訓(xùn)練模型：

為了測(cè)試DNN能否按有無(wú)閉合輪廓將圖像分類(lèi)，我們創(chuàng)建了自己的數(shù)據(jù)集。

令人驚訝的是，經(jīng)過(guò)訓(xùn)練的模型幾乎完美地完成了這項(xiàng)任務(wù)：它可以很輕易地區(qū)分出圖像中是否包含閉合輪廓。如下圖所示，y軸表示準(zhǔn)確度，即正確預(yù)測(cè)的分?jǐn)?shù)，其值為1意味著模型正確地預(yù)測(cè)了所有圖像，而0.5則是指模型的表現(xiàn)比較隨機(jī)。

我們訓(xùn)練CNN，以讓它按是否包含閉合輪廓進(jìn)行圖像分類(lèi)。繪制的效果表明，它在和訓(xùn)練數(shù)據(jù)一樣獨(dú)立分布的測(cè)試集上表現(xiàn)良好。

這是否意味著DNNs可以像人類(lèi)一樣毫不費(fèi)力地完成全局輪廓整合？如果是這樣的話，即使不用新圖像對(duì)模型進(jìn)行任何訓(xùn)練，它也應(yīng)該能夠很好地處理不同的數(shù)據(jù)集。

遵循這一邏輯，我們繼續(xù)用分布外（OOD.）圖像測(cè)試模型的性能：與原始數(shù)據(jù)集不同的是，這個(gè)樣本中大多數(shù)圖形的輪廓包含更多的邊緣，或者從原來(lái)的直線變成了曲線。

該測(cè)試應(yīng)該能夠揭示我們的模型是真正地學(xué)習(xí)了閉合的概念，還是只是在原始圖像中提取了一些其他的統(tǒng)計(jì)線索（比如，封閉圖像和開(kāi)放圖像可能包含不同數(shù)量的黑白像素等等）。

我們?cè)俅涡老驳匕l(fā)現(xiàn)我們的模型對(duì)于新圖形也處理得很好，也就是說(shuō)，我們的模型在通用性方面表現(xiàn)良好。

我們的DNN通用性較好，不需要再次訓(xùn)練（用o.o.d.測(cè)試）也能很好地處理不同的數(shù)據(jù)集。與原始數(shù)據(jù)集不同，圖形從原來(lái)的直線變成曲線，大多數(shù)圖形輪廓包含更多的邊緣或多個(gè)曲線形狀。

根據(jù)這些數(shù)據(jù)，我們可以得出結(jié)論，DNNs的確可以學(xué)習(xí)“閉合”這一抽象概念。然而，這還不是最后的結(jié)論。我們研究了更多不同的數(shù)據(jù)集。這一次，我們改變了線條的顏色或粗細(xì)。然而對(duì)于這些新圖形，我們的模型就無(wú)法判斷圖像是否包含閉合輪廓了，其準(zhǔn)確率下降到50%左右，相當(dāng)于隨機(jī)猜測(cè)。

雖然我們的DNN可以泛化到一些不同的數(shù)據(jù)集，但對(duì)于其他變化則會(huì)出現(xiàn)問(wèn)題

在這些新圖形上出現(xiàn)的問(wèn)題，表明DNN所學(xué)習(xí)的分辨圖形的策略并不能處理所有不同的數(shù)據(jù)集。接下來(lái)一個(gè)自然的問(wèn)題就是探究模型究竟學(xué)到了什么策略。

正如我們最開(kāi)始所假設(shè)的那樣，模型似乎需要全局信息，才能很好地完成我們的任務(wù)。為了驗(yàn)證這個(gè)假設(shè)，我們使用了一個(gè)只能訪問(wèn)局部區(qū)域的模型。

有趣的是，我們發(fā)現(xiàn)，即使提供給這個(gè)模型的圖塊小于閉合輪廓，DNN 仍然表現(xiàn)良好。這一發(fā)現(xiàn)表明，要讓模型檢測(cè)出我們所使用的這一組圖像刺激中是否含有閉合輪廓，整體信息并不是必須的。下圖展示了模型可能使用的局部特性：某些線的長(zhǎng)度為正確的分類(lèi)任務(wù)提供了線索。

一個(gè)只能訪問(wèn)局部區(qū)域的模型（BagNet）顯示，圖形的整體特性對(duì)于模型完成我們的任務(wù)來(lái)說(shuō)，并不是必需的。相反，局部區(qū)域幾乎已經(jīng)可以為正確的分類(lèi)任務(wù)提供足夠的證據(jù)。更具體地說(shuō)，一條短線和一個(gè)開(kāi)放的尾端為模型將圖形判斷為開(kāi)放輪廓提供了證據(jù)。作為人類(lèi)，我們常常執(zhí)著于弄清一個(gè)特定的任務(wù)是如何被解決的。在這個(gè)案例中，我們認(rèn)為只有通過(guò)輪廓整合才能解決閉合輪廓識(shí)別這一問(wèn)題，然而結(jié)果證明這個(gè)假設(shè)是錯(cuò)的。相反，更簡(jiǎn)單的解決方案是從人類(lèi)的角度基于局部特征進(jìn)行識(shí)別，這是難以預(yù)料得到的。在比較人腦和機(jī)器模型時(shí)，這一點(diǎn)需要謹(jǐn)記于心——DNNs能夠找到與我們期望它們使用的方法完全不同的解決方案。為了避免我們倉(cāng)促得出有人為偏見(jiàn)的結(jié)論，徹底檢查整個(gè)模型，包括其決策過(guò)程和數(shù)據(jù)集，是非常重要的。

陷阱2：很難得出超出測(cè)試架構(gòu)和訓(xùn)練過(guò)程的一般性結(jié)論

下圖顯示了合成視覺(jué)推理測(cè)試（SVRT）的兩個(gè)示例（Fleuret等人 2011年的工作《Comparing machines and humans on a visual categorization test》）。

你能解決下面的問(wèn)題嗎？

SVRT數(shù)據(jù)集的23個(gè)問(wèn)題中，每一個(gè)問(wèn)題都可以相應(yīng)地分配到兩個(gè)任務(wù)類(lèi)別的其中之一。第一類(lèi)稱(chēng)為“相同-不同任務(wù)”，需要模型判斷形狀是否相同。第二類(lèi)稱(chēng)為“空間任務(wù)”，需要根據(jù)形狀在空間上的排列方式做出判斷，例如，根據(jù)一個(gè)形狀是否位于另一個(gè)形狀的中心做出判斷。

人類(lèi)通常非常擅長(zhǎng)解決SVRT問(wèn)題，只需要幾個(gè)示例圖像就可以學(xué)習(xí)潛在的規(guī)則，然后就能正確地對(duì)新圖像進(jìn)行分類(lèi)。

曾有兩個(gè)研究小組用SVRT數(shù)據(jù)集測(cè)試了深度神經(jīng)網(wǎng)絡(luò)。他們發(fā)現(xiàn)這兩個(gè)任務(wù)類(lèi)別的測(cè)試結(jié)果存在很大差異：他們的模型在空間任務(wù)上表現(xiàn)良好，但在“相同-不同任務(wù)”上卻表現(xiàn)不佳。Kim等人在2018年提出，可能是人類(lèi)大腦中像周期性連接這樣的反饋機(jī)制，對(duì)于完成相同-不同任務(wù)來(lái)說(shuō)至關(guān)重要。

這些結(jié)果已經(jīng)被引證為更廣泛的說(shuō)法——DNNs不能很好地完成“相同-不同任務(wù)”。而下面我們將要提到的實(shí)驗(yàn)，將證明事實(shí)并非如此。

Kim等人使用的DNNs只包括2-6層，但通常用于對(duì)象分類(lèi)任務(wù)的DNNs相比之下要大得多。我們想知道標(biāo)準(zhǔn)的DNNs是否也會(huì)出現(xiàn)類(lèi)似的結(jié)果。為此，我們使用ResNet-50進(jìn)行了同樣的實(shí)驗(yàn)。

有趣的是，我們發(fā)現(xiàn)ResNet-50完成的所有任務(wù)（包括相同-不同任務(wù)）的準(zhǔn)確率均達(dá)到90%以上，即使與Kim等人使用的100萬(wàn)張圖像相比，我們只使用了28000張訓(xùn)練圖像。這表明前饋神經(jīng)網(wǎng)絡(luò)確實(shí)可以在“相同-不同任務(wù)”上達(dá)到較高的精度。

Kim等人的研究結(jié)果表明，只包含2-6層的DNNs可以很容易地解決空間任務(wù)，但是對(duì)“相同-不同任務(wù)”表現(xiàn)不佳。我們找到了一個(gè)模型（ResNet-50），它對(duì)兩種類(lèi)型的任務(wù)都能達(dá)到很高的準(zhǔn)確率。這一發(fā)現(xiàn)表明，相同-不同任務(wù)對(duì)前饋模型沒(méi)有固有的限制。

在第二個(gè)實(shí)驗(yàn)中，我們只使用了1000個(gè)訓(xùn)練樣本。在這個(gè)場(chǎng)景中，我們發(fā)現(xiàn)對(duì)于大多數(shù)空間任務(wù)，模型仍然可以達(dá)到較高的準(zhǔn)確度，而對(duì)于相同-不同任務(wù)，準(zhǔn)確度會(huì)下降。這是否意味著相同-不同任務(wù)更加困難？我們認(rèn)為，低數(shù)據(jù)模式并不適合用于決定任務(wù)的難度。學(xué)習(xí)速度很大程度上取決于系統(tǒng)的初始條件。與我們的DNNs不同，人類(lèi)是從終身學(xué)習(xí)中獲益。換言之，如果從零開(kāi)始訓(xùn)練人類(lèi)視覺(jué)系統(tǒng)完成這兩類(lèi)任務(wù)，則人類(lèi)視覺(jué)系統(tǒng)也很可能會(huì)在樣本效率上表現(xiàn)出與ResNet-50相似的差異。那么我們從這個(gè)案例研究中學(xué)到了什么可以用于比較人類(lèi)視覺(jué)和機(jī)器視覺(jué)呢？首先，做出任何關(guān)于DNNs不能很好地執(zhí)行某個(gè)特定任務(wù)的結(jié)論，我們都必須要謹(jǐn)慎。訓(xùn)練DNNs是一個(gè)復(fù)雜的任務(wù)，而且它們的性能很大程度上取決于經(jīng)過(guò)測(cè)試的體系結(jié)構(gòu)和訓(xùn)練過(guò)程的各個(gè)方面。其次，明白DNNs和人類(lèi)有不同的初始條件這一點(diǎn)也很重要。因此，當(dāng)我們從使用很少的訓(xùn)練數(shù)據(jù)的環(huán)境中得出結(jié)論時(shí)，尤其需要小心謹(jǐn)慎?？偠灾诘贸龀鰷y(cè)試架構(gòu)和訓(xùn)練過(guò)程的一般性結(jié)論時(shí)，我們必須保持謹(jǐn)慎。

陷進(jìn)3：在比較人和機(jī)器時(shí)，實(shí)驗(yàn)條件應(yīng)該是完全相同的。請(qǐng)看下面左邊這張圖。很明顯你可以看到一副眼鏡，現(xiàn)在如果稍微裁剪一下照片，我們?nèi)匀豢梢郧逦乜吹绞且桓毖坨R。繼續(xù)裁剪幾次，我們?nèi)匀荒軌蜃R(shí)別出這是一副眼鏡。然而，從某個(gè)時(shí)刻開(kāi)始，情況就發(fā)生了變化：我們不能再識(shí)別出這是副眼鏡了。從可以識(shí)別出物體的裁剪過(guò)渡到無(wú)法識(shí)別出物體的裁剪，其中有趣的一點(diǎn)是它的清晰度的變化：略大的裁剪（我們稱(chēng)之為“最小可識(shí)別裁剪”）能夠被大多數(shù)人正確分類(lèi)（例如90%），而略小的裁剪（最大不可識(shí)別裁剪）只有少數(shù)幾個(gè)人（例如20%）能正確地分類(lèi)。這個(gè)識(shí)別度的降低被稱(chēng)為“可識(shí)別差”（可參考Ullman 等人 2016年的工作）。它的計(jì)算方法是從正確分類(lèi)“最小可識(shí)別裁剪物”的人的比例中減去正確分類(lèi)“最大不可識(shí)別裁剪物”的人的比例。在下面的圖中，可識(shí)別差為：0.9 - 0.2 = 0.7。

當(dāng)裁剪或降低圖像分辨率時(shí)，我們最終會(huì)無(wú)法識(shí)別其中的物體。實(shí)驗(yàn)表明，這個(gè)過(guò)程中可識(shí)別度會(huì)急劇下降，下降的程度被稱(chēng)為“可識(shí)別差”。請(qǐng)注意，此圖中的比例和裁剪是為了示意而編制的。Ullman等人找出了人類(lèi)仍能辨認(rèn)出物體圖像的最小部分，他們還測(cè)試了機(jī)器的視覺(jué)算法是否具有同樣明顯的差距。結(jié)果發(fā)現(xiàn)，在所測(cè)試的機(jī)器視覺(jué)算法中，可識(shí)別差要小得多（等于0.14），并得出結(jié)論，機(jī)器與人類(lèi)視覺(jué)系統(tǒng)的功能有所不同（比較第二個(gè)圖中左邊的兩個(gè)柱形）。在我們的工作中，我們?cè)谝粋€(gè)與Ullman等人的實(shí)驗(yàn)非常相似的實(shí)驗(yàn)設(shè)計(jì)中，重新審視了可識(shí)別差，但兩者之間有一個(gè)關(guān)鍵的區(qū)別：我們是在機(jī)器選擇的圖塊而不是人類(lèi)選擇的圖塊上測(cè)試機(jī)器。具體地說(shuō)，我們利用最先進(jìn)的深卷積神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)了一種搜索算法，它模仿了人類(lèi)實(shí)驗(yàn)。這就確保了機(jī)器在他們選擇的圖塊上被評(píng)估——就像人類(lèi)在他們選擇的圖塊上被評(píng)估一樣。

我們用DNN實(shí)現(xiàn)了一個(gè)模擬人類(lèi)實(shí)驗(yàn)的搜索算法。正確識(shí)別的概率繪制在y軸上，對(duì)應(yīng)于x軸上減少的裁剪。與人類(lèi)實(shí)驗(yàn)類(lèi)似，當(dāng)不能辨別出物體時(shí)，正確識(shí)別概率急劇下降。換句話說(shuō)，我們發(fā)現(xiàn)我們的機(jī)器算法也有很大的可識(shí)別差。我們發(fā)現(xiàn)，在這些條件下，我們的神經(jīng)網(wǎng)絡(luò)確實(shí)在最小可識(shí)別裁剪和最大不可識(shí)別裁剪之間具有同樣大的可識(shí)別差，正如Ullman等人針對(duì)人類(lèi)的實(shí)驗(yàn)結(jié)果一樣。

從左到右的可識(shí)別差：Ullman等人2016年用人類(lèi)選擇的圖塊對(duì)人類(lèi)和機(jī)器算法進(jìn)行測(cè)試；我們的DNN在機(jī)器選擇的圖塊上進(jìn)行測(cè)試。當(dāng)用在機(jī)器選擇的圖塊上進(jìn)行測(cè)試時(shí)，我們的DNN有一個(gè)很大的可識(shí)別差，這與Ullman等人在2016年用人類(lèi)選擇的圖塊測(cè)試機(jī)器算法所得到的結(jié)果不同。這個(gè)案例研究說(shuō)明，適當(dāng)調(diào)整人類(lèi)和機(jī)器的測(cè)試條件對(duì)于比較兩個(gè)系統(tǒng)之間的現(xiàn)象是非常重要的。

總結(jié)上述三個(gè)案例研究突出了在比較人和機(jī)器時(shí)面臨的幾大難點(diǎn)。本文特別強(qiáng)調(diào)了這幾點(diǎn)：確認(rèn)偏差會(huì)導(dǎo)致對(duì)結(jié)果的錯(cuò)誤解釋?zhuān)瑥奶囟ǖ捏w系結(jié)構(gòu)和訓(xùn)練過(guò)程中歸納結(jié)論是很困難的，條件不相等的測(cè)試過(guò)程會(huì)導(dǎo)致錯(cuò)誤的決策行為。綜上所述，在進(jìn)行嚴(yán)謹(jǐn)?shù)娜藱C(jī)比較時(shí)，我們必須保持謹(jǐn)慎，并盡量減少我們習(xí)以為常的人類(lèi)偏見(jiàn)。只有這樣，人工智能和人類(lèi)之間的比較研究才能富有成效?！?/p>