微軟研究院基于前人對(duì)搭建高效人工智能交互系統(tǒng)等相關(guān)問(wèn)題的研究成果，整合成一份《人工智能交互指南》。該指南共分為四個(gè)板塊，規(guī)定了交互初始階段、用戶(hù)與系統(tǒng)交互過(guò)程中、系統(tǒng)出錯(cuò)情況下以及隨著時(shí)間推移，人工智能系統(tǒng)分別應(yīng)該如何表現(xiàn)。

編者按：隨著人工智能技術(shù)的發(fā)展，越來(lái)越多的AI技術(shù)被應(yīng)用于各類(lèi)產(chǎn)品和服務(wù)中，這也為AI設(shè)計(jì)師帶來(lái)了許多挑戰(zhàn)。微軟研究院的研究人員基于前人對(duì)搭建高效人工智能交互系統(tǒng)等相關(guān)問(wèn)題的研究成果，整合成一份《人工智能交互指南》。該指南共分為四個(gè)板塊，規(guī)定了交互初始階段、用戶(hù)與系統(tǒng)交互過(guò)程中、系統(tǒng)出錯(cuò)情況下以及隨著時(shí)間推移，人工智能系統(tǒng)分別應(yīng)該如何表現(xiàn)。

這份指南不僅為AI設(shè)計(jì)師提供了具體、可操作的建議，還旨在推動(dòng)用戶(hù)體驗(yàn)和工程開(kāi)發(fā)從業(yè)者就設(shè)計(jì)決策的相關(guān)問(wèn)題展開(kāi)討論，推動(dòng)這一領(lǐng)域研究的進(jìn)步。

AI的可用性和準(zhǔn)確性日益提升，激發(fā)了面向用戶(hù)的主流應(yīng)用和服務(wù)采用AI技術(shù)的熱潮，伴隨著各種人工智能服務(wù)產(chǎn)品到來(lái)的，還有對(duì)以人為本設(shè)計(jì)的最佳實(shí)踐方法和實(shí)踐指南的挑戰(zhàn)和質(zhì)疑。為了滿(mǎn)足這方面的需求，由微軟研究人員組成的專(zhuān)門(mén)團(tuán)隊(duì)對(duì)一系列人工智能交互指南進(jìn)行了整合與考證。對(duì)于面對(duì)的各種復(fù)雜局面，AI設(shè)計(jì)師急需一份最佳實(shí)踐指引，而上述研究正是朝著這個(gè)方向邁出的重要一步。

為了整合包括預(yù)測(cè)、識(shí)別和自然語(yǔ)言理解等在內(nèi)的人工智能服務(wù)，AI設(shè)計(jì)師需要思考許多新的問(wèn)題，例如，交互設(shè)計(jì)人員必須解決人工智能系統(tǒng)推理失敗與成功的幾率問(wèn)題，機(jī)器學(xué)習(xí)帶來(lái)的系統(tǒng)行為改變問(wèn)題，以及AI功能的可理解性和可控性問(wèn)題。

當(dāng)前AI設(shè)計(jì)本身存在多變性，而當(dāng)用戶(hù)無(wú)法有效理解或控制人工智能系統(tǒng)時(shí)（例如，半自動(dòng)車(chē)輛事故），就會(huì)出現(xiàn)有關(guān)意外事件的大肆報(bào)道。這些都凸顯了提供更直觀(guān)、更有效的AI用戶(hù)體驗(yàn)的重要意義。有關(guān)設(shè)計(jì)以人為本的人工智能系統(tǒng)的討論從未間斷，AI設(shè)計(jì)師也迫切希望得到可靠的相關(guān)設(shè)計(jì)指南。

在過(guò)去20年間，科學(xué)家和工程師提出了不少有關(guān)AI系統(tǒng)有效交互設(shè)計(jì)的指南和建議。內(nèi)容涵蓋用戶(hù)預(yù)期管理、自主程度調(diào)節(jié)、歧義解決，以及幫助人們認(rèn)識(shí)隨著系統(tǒng)對(duì)用戶(hù)的了解不斷加深而可能發(fā)生的變化。不幸的是，這些設(shè)計(jì)建議多分散在不同的出版物中，而且很少作為指南明確提出。微軟研究團(tuán)隊(duì)收集了150余份設(shè)計(jì)建議，對(duì)它們加以提煉和驗(yàn)證，最終整合成一份統(tǒng)一的指南，讓AI設(shè)計(jì)人員都能夠以現(xiàn)有知識(shí)為基礎(chǔ)，不斷向前發(fā)展。

“此前并沒(méi)有一套針對(duì)人工智能直觀(guān)交互系統(tǒng)的統(tǒng)一指南，而我們正著手創(chuàng)建這樣一套指南，并對(duì)其加以驗(yàn)證，”負(fù)責(zé)《人工智能交互指南》開(kāi)發(fā)項(xiàng)目的研究員Saleema Amershi說(shuō)。

《人工智能交互指南》（及其開(kāi)發(fā)和驗(yàn)證流程）將在蘇格蘭格拉斯哥舉行的2019年CHI大會(huì)上發(fā)布。團(tuán)隊(duì)成員Saleema Amershi、Dan Weld、Mihaela Vorvoreanu、Adam Fourney、Besmira Nushi、Penny Collisson、Jina Suh、Shamsi Iqbal、Paul Bennett、Kori Inkpen、Jaime Teevan、Ruth Kikin-Gil和Eric Horvitz對(duì)20多年來(lái)學(xué)術(shù)界和工業(yè)界在人工智能設(shè)計(jì)方面的認(rèn)知和思考進(jìn)行了整合，使之成為一套精煉而又具有普適性的人工智能交互設(shè)計(jì)指南。

這篇CHI 2019入選論文《人工智能交互指南》將各種涉及面廣泛、內(nèi)容具體的指南整合成一套可以被普遍接受的指南，同時(shí)也是對(duì)Eric Horvitz在CHI 1999上發(fā)表那篇開(kāi)創(chuàng)性論文的20周年紀(jì)念。這篇論文提出了將人類(lèi)和人工智能的能力有機(jī)結(jié)合，以及人工智能和人類(lèi)混合動(dòng)力的原則。

微軟研究人員遵循嚴(yán)格的流程，首先收集了150多份與AI相關(guān)的來(lái)自權(quán)威來(lái)源的設(shè)計(jì)建議，包括學(xué)術(shù)研究論文、博客文章和一些內(nèi)部資料。在對(duì)主題分類(lèi)后，研究人員對(duì)內(nèi)容進(jìn)行了精簡(jiǎn)。然后，他們與用戶(hù)體驗(yàn)（UX）和人機(jī)交互（HCI）專(zhuān)家聯(lián)手，展開(kāi)多輪評(píng)估，以確保這份指南易于理解，并且適用于各種流行的AI產(chǎn)品。

“我們希望確保指南的內(nèi)容具體，并且能夠在UI層面產(chǎn)生可觀(guān)察的效果。因此，我們剔除了一些諸如‘設(shè)定期望’或‘建立信任’之類(lèi)的總體原則，并將其轉(zhuǎn)化為具體、可操作的指南”資深項(xiàng)目經(jīng)理Mihaela Vorvoreanu說(shuō)。

研究人員總結(jié)的18項(xiàng)人工智能交互指南共分為四個(gè)板塊，規(guī)定了交互初始階段、用戶(hù)與系統(tǒng)交互過(guò)程中、系統(tǒng)出錯(cuò)情況下以及隨著時(shí)間推移，人工智能系統(tǒng)分別應(yīng)該如何表現(xiàn)。雖然《人工智能交互指南》旨在為設(shè)計(jì)決策提供支持，但它不是一份簡(jiǎn)單的檢查清單，更是意在支持和推動(dòng)用戶(hù)體驗(yàn)和工程開(kāi)發(fā)從業(yè)者就設(shè)計(jì)決策的相關(guān)問(wèn)題展開(kāi)對(duì)話(huà)，并推動(dòng)該領(lǐng)域更深入的研究。作者也認(rèn)識(shí)到，在很多情況下，AI設(shè)計(jì)師必須在各項(xiàng)指南之間做出取舍，權(quán)衡不同因素的重要性。但同時(shí)，不斷豐富的AI產(chǎn)品功能和用例也需要更多的設(shè)計(jì)指導(dǎo)。

準(zhǔn)則10：有疑問(wèn)時(shí)調(diào)整服務(wù)范圍。當(dāng)Word中的“自動(dòng)替換”功能對(duì)某項(xiàng)更正操作存疑時(shí)，它會(huì)顯示多個(gè)選項(xiàng)供用戶(hù)從中選擇，以此消除歧義。

《人工智能交互指南》的制定和驗(yàn)證以圖形用戶(hù)界面產(chǎn)品為依據(jù)，但也可以針對(duì)語(yǔ)音交互甚至半自動(dòng)駕駛車(chē)輛等特殊的高風(fēng)險(xiǎn)用途加以具體化擴(kuò)展或修改。

微軟研究院院長(zhǎng)Eric Horvitz表示：“我們?nèi)蕴幱诶萌斯ぶ悄芗夹g(shù)擴(kuò)展人類(lèi)能力的早期階段。未來(lái)還有很多機(jī)會(huì)，當(dāng)然也面臨著許多有趣的挑戰(zhàn)。其中的一個(gè)重要方向就是分享和完善有關(guān)將AI功能集成到人機(jī)交互體驗(yàn)中的原則和設(shè)計(jì)?！?/p>

準(zhǔn)則15：鼓勵(lì)細(xì)化的反饋。Ideas in Excel功能幫助用戶(hù)通過(guò)高級(jí)的可視化總結(jié)、趨勢(shì)圖和模式圖來(lái)理解數(shù)據(jù)。通過(guò)“這對(duì)您是否有幫助？”的提問(wèn)，鼓勵(lì)大家對(duì)Excel提供的每項(xiàng)建議給予反饋。

《人工智能交互指南》的意義或許已經(jīng)超越了AI設(shè)計(jì)范疇，延伸至對(duì)“負(fù)責(zé)任和值得信賴(lài)的人工智能”的討論。2018年11月，微軟埃忒爾道德委員會(huì)（Aether Committee）發(fā)布了一份關(guān)于聊天機(jī)器人和虛擬助手等會(huì)話(huà)界面設(shè)計(jì)的指南——《負(fù)責(zé)任的機(jī)器人：對(duì)話(huà)AI開(kāi)發(fā)者的10大指南》。

該委員會(huì)由微軟首席執(zhí)行官薩提亞·納德拉親自宣布成立，專(zhuān)注于A(yíng)I技術(shù)的負(fù)責(zé)任開(kāi)發(fā)與應(yīng)用等議題，以確保公司的AI研發(fā)工作符合微軟的核心價(jià)值觀(guān)和原則，并能夠使整個(gè)社會(huì)受益。埃忒爾道德委員會(huì)下設(shè)幾個(gè)專(zhuān)題工作組，Amershi擔(dān)任人機(jī)交互與協(xié)作工作組的聯(lián)合主席。

人工智能交互設(shè)計(jì)指南

以下是《人工智能交互設(shè)計(jì)指南》的內(nèi)容摘要，想要了解各條指南的詳細(xì)信息和示例，請(qǐng)點(diǎn)擊“閱讀原文”，參閱論文《人工智能交互指南》。

初始階段

01. 明確系統(tǒng)可以做什么

幫助用戶(hù)了解AI系統(tǒng)能夠做什么。

02.明確系統(tǒng)的能力限度

幫助用戶(hù)了解AI系統(tǒng)的出錯(cuò)頻率。

在互動(dòng)期間

03.基于情境為服務(wù)設(shè)定時(shí)間

根據(jù)用戶(hù)當(dāng)前的任務(wù)和環(huán)境，設(shè)定執(zhí)行或中斷操作的時(shí)間。

04.顯示與用戶(hù)使用情境相關(guān)的信息

顯示與用戶(hù)當(dāng)前任務(wù)和環(huán)境相關(guān)的信息。

05.符合相關(guān)社會(huì)規(guī)范

提供符合用戶(hù)社會(huì)文化背景的體驗(yàn)。

06.減少社會(huì)偏見(jiàn)

確保AI系統(tǒng)的語(yǔ)言和行為不會(huì)強(qiáng)化刻板印象及偏見(jiàn)。

系統(tǒng)出錯(cuò)時(shí)

07.支持高效的調(diào)用

在需要時(shí)可以輕松調(diào)用或請(qǐng)求AI系統(tǒng)的服務(wù)。

08.支持高效解除

要能夠輕松解除或忽略不需要的AI系統(tǒng)服務(wù)。

09.支持有效的糾正

當(dāng)AI系統(tǒng)出錯(cuò)時(shí)，能夠輕松編輯、優(yōu)化或恢復(fù)。

10.有疑問(wèn)時(shí)調(diào)整服務(wù)范圍

如果不能確定用戶(hù)的使用目的，調(diào)用消除歧義功能或減少AI系統(tǒng)的服務(wù)。

11.明確解釋系統(tǒng)為什么會(huì)這樣做

讓用戶(hù)能夠訪(fǎng)問(wèn)AI系統(tǒng)行為的原因說(shuō)明。

隨著時(shí)間推移

12.存儲(chǔ)近期互動(dòng)

保留短期互動(dòng)記錄，并允許用戶(hù)有效地查看這些記錄。

13.了解用戶(hù)行為。

逐漸學(xué)習(xí)用戶(hù)行為，實(shí)現(xiàn)用戶(hù)體驗(yàn)的個(gè)性化。

14.謹(jǐn)慎地更新和調(diào)整。

在更新和調(diào)整AI系統(tǒng)的行為時(shí)，盡量避免顛覆性的變化。

15.鼓勵(lì)細(xì)化的反饋

在用戶(hù)與AI系統(tǒng)的交互期間，鼓勵(lì)用戶(hù)提供反映其偏好的反饋。

16.告知用戶(hù)操作的后果

提醒或告知用戶(hù)他們的操作將如何影響AI系統(tǒng)之后的行為。

17.為用戶(hù)提供對(duì)AI系統(tǒng)的完全控制

允許用戶(hù)全權(quán)控制AI系統(tǒng)監(jiān)控的內(nèi)容及其行為方式。

18.將變更信息告知用戶(hù)

當(dāng)AI系統(tǒng)添加或更新功能時(shí)，通知用戶(hù)。