據(jù)外媒報(bào)道，美國南加州大學(xué)維特比工程學(xué)院（USC Viterbi Engineering）的研究人員研發(fā)了一種新工具，如果AI算法生成的數(shù)據(jù)和預(yù)測信息是可靠的，該工具可以自動(dòng)生成指標(biāo)。

神經(jīng)網(wǎng)絡(luò)是一種人工智能（AI）技術(shù)，能夠模仿大腦并產(chǎn)生預(yù)測信息。但是，此類神經(jīng)網(wǎng)絡(luò)產(chǎn)生的預(yù)測真的可信嗎？自動(dòng)駕駛汽車普及的一個(gè)關(guān)鍵障礙是，汽車需要在自動(dòng)駕駛時(shí)作為獨(dú)立的決策者，并快速理解和識別路上的物體，無論該物體是減速帶、無生命物體、寵物還是孩子，并且在遇到另一輛車時(shí)，其需要決定如何采取行動(dòng)避開其他車輛。汽車是否應(yīng)該撞上迎面駛來的車輛、或者撞上無生命的物體或兒童？我們能夠信任車載計(jì)算機(jī)軟件可以在幾分之一秒內(nèi)做出正確決定嗎？特別是當(dāng)不同的傳感器給出相互沖突的信息時(shí)，如攝像頭的計(jì)算機(jī)視覺信息或激光雷達(dá)的數(shù)據(jù)？知道哪個(gè)系統(tǒng)值得信任，哪個(gè)傳感系統(tǒng)最準(zhǔn)確，將有助于確定自動(dòng)駕駛系統(tǒng)應(yīng)該做出什么決定。

于是，研究人員們打造了一個(gè)名為DeepTrust的工具，可以將不確定性進(jìn)行量化，從而確定是否需要人工干預(yù)。

研發(fā)該款工具花費(fèi)了南加州大學(xué)研究團(tuán)隊(duì)近兩年的時(shí)間，他們利用主觀邏輯來評估該神經(jīng)網(wǎng)絡(luò)架構(gòu)。此外，在2016年總統(tǒng)大選的民調(diào)中，DeepTrust發(fā)現(xiàn)，指向希拉里獲勝的預(yù)測有更大的誤差率。

該項(xiàng)研究的另一個(gè)重要意義是，為如何測試AI算法的可靠性提供了見解，因?yàn)榇祟愃惴ㄍǔＰ枰诔汕先f個(gè)數(shù)據(jù)點(diǎn)上進(jìn)行訓(xùn)練。如果去檢查此類指示AI預(yù)測的數(shù)據(jù)點(diǎn)是否進(jìn)行了準(zhǔn)確標(biāo)記將非常耗時(shí)。研究人員表示，更重要的是，此類神經(jīng)網(wǎng)絡(luò)系統(tǒng)的架構(gòu)將具有更高的精確度。此外，如果計(jì)算機(jī)科學(xué)家想要同時(shí)將準(zhǔn)確性和信任度實(shí)現(xiàn)最大化，該項(xiàng)研究也可以作為測試樣本中有多少“噪音”的路標(biāo)。

研究人員還認(rèn)為，他們研發(fā)的模型是首創(chuàng)?！皳?jù)我們所知，目前還沒有用于量化深度學(xué)習(xí)、人工智能和機(jī)器學(xué)習(xí)信任度的模型或工具。作為首個(gè)方法，該工具開辟了新的研究方向，能夠讓AI具有感知能力和適應(yīng)性?！?br /> 責(zé)任編輯:tzh