隨著人工智能（AI）技術(shù)的廣泛應(yīng)用，確保AI技術(shù)沒有偏見變得越來越重要。IBM計(jì)劃發(fā)布一個(gè)大型的、無偏見的人臉圖像數(shù)據(jù)集，以推動(dòng)無偏見的人臉識(shí)別研究。

與以往相比，人類社會(huì)對(duì)人工智能系統(tǒng)中的偏見問題更加關(guān)注，尤其是用于識(shí)別和分析人臉圖像的系統(tǒng)。在IBM，科研人員采取以下措施來確保以負(fù)責(zé)任的方式來創(chuàng)建并訓(xùn)練面部識(shí)別技術(shù)：

（1）導(dǎo)致面部分析領(lǐng)域出現(xiàn)偏見的最大問題之一是缺乏訓(xùn)練系統(tǒng)的各種數(shù)據(jù)。因此，科研人員打算在2018年秋天公開以下數(shù)據(jù)集，以作為技術(shù)行業(yè)和研究界的工具：

IBM研究院（IBM Research）的科學(xué)家正在構(gòu)建的一個(gè)超過100萬張圖像的注釋數(shù)據(jù)集，可以用于提高對(duì)面部分析偏見的理解。圖像將使用屬性進(jìn)行注釋，利用Flickr圖像中的地理標(biāo)記來平衡來自多個(gè)國(guó)家/地區(qū)的數(shù)據(jù)和主動(dòng)學(xué)習(xí)工具，以減少樣本選擇偏差。目前，可用的最大面部屬性數(shù)據(jù)集包含20萬個(gè)圖像，因此這個(gè)具有一百萬個(gè)圖像的新數(shù)據(jù)集將是一個(gè)巨大的進(jìn)步。

一個(gè)最多包含3.6萬張圖像的注釋數(shù)據(jù)集—其中膚色、性別和年齡呈均勻分布，由IBM Research注釋，能夠?yàn)槿藗冊(cè)u(píng)估其技術(shù)提供更加多樣化的數(shù)據(jù)集。這將為算法設(shè)計(jì)人員識(shí)別和解決面部分析系統(tǒng)中的偏見提供特別幫助。解決偏見問題的第一步是確認(rèn)存在偏見--這就是該數(shù)據(jù)集的目標(biāo)所在。

（2）2018年早些時(shí)候，IBM極大地增強(qiáng)了用于面部分析的Watson視覺識(shí)別服務(wù)的準(zhǔn)確性，這使得面部分析的錯(cuò)誤率降低了近十倍。IBM正在舉辦一個(gè)技術(shù)研討會(huì)（由IBM Research與馬里蘭大學(xué)合作），以確定并減少將于2018年9月14日與ECCV 2018聯(lián)合使用的面部分析系統(tǒng)中的偏見。使用IBM面部圖像數(shù)據(jù)集的競(jìng)賽結(jié)果將公布在該研討會(huì)上。此外，IBM的研究人員將繼續(xù)與廣大的利益相關(guān)者、用戶和專家合作，以了解可能影響AI決策的其他偏見和漏洞，從而不斷改善系統(tǒng)。

人工智能擁有改善人們生活和工作方式的重要力量，但前提是對(duì)人工智能系統(tǒng)的開發(fā)和培訓(xùn)是負(fù)責(zé)任的，且該類系統(tǒng)能夠產(chǎn)生讓我們信任的結(jié)果。確保系統(tǒng)接受平衡的數(shù)據(jù)培訓(xùn)和消除偏見對(duì)建立這種信任至關(guān)重要。

隨著對(duì)AI應(yīng)用的不斷增加，防止偏見進(jìn)入AI系統(tǒng)正在成為最受關(guān)注的問題。IBM相信任何技術(shù)--無論多么準(zhǔn)確--都不能夠或不應(yīng)該取代人類的判斷力、直覺和專業(yè)知識(shí)。像人工智能這樣的先進(jìn)創(chuàng)新技術(shù)的威力在于它們能夠增強(qiáng)而非取代人類的決策能力。因此，任何使用AI的組織（包括視覺識(shí)別或視頻分析功能）都必須對(duì)使用AI的團(tuán)隊(duì)進(jìn)行培訓(xùn)，以了解偏見（包括隱性和無意識(shí)的偏見），對(duì)其進(jìn)行監(jiān)控，并知道如何消除偏見。