人類如何建立對(duì)AI的信任？ —— 文章正文2017-07-26

 　　更新于2017年7月24日06:29清華大學(xué)全球產(chǎn)業(yè)研究院特約研究員石澤為FT中文網(wǎng)撰稿

 　　【編者按】人工智能（AI）的發(fā)展影響著每個(gè)人的日常生活，經(jīng)歷了過(guò)去一年中對(duì)AI的憂慮和倫理討論之后，新的一年大家越來(lái)越關(guān)注AI領(lǐng)域的創(chuàng)業(yè)機(jī)會(huì)，人工智能隨之成為今年創(chuàng)投圈的新風(fēng)口。那么，國(guó)外的機(jī)器人產(chǎn)業(yè)的發(fā)展對(duì)中國(guó)有什么樣的啟示？以及中國(guó)人工智能創(chuàng)業(yè)中需要注意什么問(wèn)題等，F(xiàn)T中文網(wǎng)近期組織人工智能專題，編輯事宜，聯(lián)系閆曼man.yan@ftchinese.com。 　　AI不僅存在于手機(jī)、電腦、無(wú)人機(jī)和物聯(lián)網(wǎng)上，也存在于ManuelaVeloso教授的協(xié)作機(jī)器人（Cobot）身上。這位前AAAI（國(guó)際人工智能協(xié)會(huì)）主席，美國(guó)卡內(nèi)基梅隆大學(xué)（CarnegieMellonUniversity）機(jī)器學(xué)習(xí)系負(fù)責(zé)人是人工智能和自主機(jī)器人領(lǐng)域的主要學(xué)術(shù)領(lǐng)導(dǎo)人之一。Manuela教授的一個(gè)研究方向是室內(nèi)移動(dòng)機(jī)器人，研究如何讓可以移動(dòng)的機(jī)器人與人對(duì)話、學(xué)習(xí)、像人類一樣具有意識(shí)等。 　　如果你去拜訪Manuela教授，會(huì)在辦公樓門口遇到由她創(chuàng)造的用來(lái)接待客人的協(xié)作機(jī)器人。這些已經(jīng)累計(jì)“行走”了一千多公里的機(jī)器人（協(xié)作機(jī)器人是滾輪式的），會(huì)與你對(duì)話，為你引路，帶你到教授的辦公室門口，還能去茶水間幫你打一杯咖啡，看看會(huì)議室有沒有開門然后發(fā)個(gè)郵件給你。不同于人類的感覺器官，機(jī)器人通過(guò)3D攝像機(jī)等傳感器來(lái)識(shí)別障礙物，能夠拍攝到距周邊六到十米的環(huán)境圖像，并最終將這些圖像轉(zhuǎn)化成選擇路徑所需要的信息。 　　要實(shí)現(xiàn)機(jī)器為人服務(wù)，不可避免地需要解決人機(jī)互動(dòng)的問(wèn)題。時(shí)至今日，人機(jī)互動(dòng)的內(nèi)涵已經(jīng)從傳統(tǒng)的人與電腦交互擴(kuò)展至人與機(jī)器人、AI交互。如何看待人與AI交互的發(fā)展方向？要實(shí)現(xiàn)“讓AI移動(dòng)起來(lái)”在技術(shù)上還有哪些挑戰(zhàn)？AI技術(shù)進(jìn)一步發(fā)展的風(fēng)險(xiǎn)是什么？服務(wù)機(jī)器人可能的應(yīng)用場(chǎng)景有哪些？通過(guò)與Manuela教授的交流，我們深入探討了這些AI發(fā)展中的前沿問(wèn)題。 　　人類需要建立對(duì)AI的信任 　　《致加西亞的信》講的是一個(gè)人徒步三個(gè)星期穿越一個(gè)危機(jī)四伏的國(guó)家，把信交給加西亞將軍的故事。這本發(fā)行量高達(dá)四千萬(wàn)的書，強(qiáng)調(diào)的是“可信任”的品質(zhì)，也就是說(shuō)，我們很難把任務(wù)交給無(wú)法信任的人。同樣的，我們也很難把重要的任務(wù)交給一個(gè)還不夠了解的“黑箱子”。因此，AI全面進(jìn)入人類生活的前提是：人類需要建立起對(duì)AI的信任。 　　人工智能 　　誰(shuí)該為機(jī)器人負(fù)責(zé)？ 　　弗洛里迪：如果我的機(jī)器人打破了鄰居的窗戶，誰(shuí)該為此負(fù)責(zé)？機(jī)器人生產(chǎn)商、銷售商、我本人、還是機(jī)器人？ 　　Manuela教授認(rèn)為，有兩種方式可以增加我們對(duì)AI的信心。一是保證系統(tǒng)更透明可靠。當(dāng)我們讓AI幫助做決定的時(shí)候，需要知道AI給出建議的理由。目前AI給出的是通用解決方案，但無(wú)法做出解釋。AI還不能解釋為什么它所識(shí)別出來(lái)的圖像是貓，為什么走到前面要向右轉(zhuǎn)。如果AI變得更透明，則能獲得更多的信任。二是人類可以指導(dǎo)和糾正AI系統(tǒng)。未來(lái)的十年是人與AI交互的10年，對(duì)人類的挑戰(zhàn)是，知道如何與AI互動(dòng)。對(duì)AI的挑戰(zhàn)是，需要成為可指揮、可糾正、可自我解釋的系統(tǒng)。人類可以通過(guò)互動(dòng)來(lái)增加對(duì)AI的信任，這么做是為了更好地接受AI，更好地理解、使用AI，更好地的滿足人類的需求。人類與AI互動(dòng)的方向是需要理解AI、機(jī)器人這種新的“生物”。 　　AI并不是靜止的，而是動(dòng)態(tài)的、自學(xué)習(xí)系統(tǒng)，它沒有DNA，但有自己的學(xué)習(xí)曲線。雖然開始有可能做的不好，但AI會(huì)在經(jīng)驗(yàn)的基礎(chǔ)上越來(lái)越好。這個(gè)過(guò)程中需要教它，糾正它，最終讓它按我們的期望做事，由于我們?cè)谶@個(gè)過(guò)程中不斷看到的AI新功能，因此將對(duì)AI更加有信心。 　　機(jī)器人之間的合作 　　不但人與AI、機(jī)器人之間有交互的問(wèn)題，機(jī)器人之間也存在這個(gè)問(wèn)題。Manuela教授認(rèn)為，提到機(jī)器人，目前來(lái)說(shuō)是指單一機(jī)器人，而未來(lái)指的是多功能協(xié)作機(jī)器人。很多任務(wù)無(wú)法通過(guò)單一系統(tǒng)完成，比如足球、滅火或者建筑方面的工作，因此需要機(jī)器人之間的協(xié)作。目前Manuela教授的實(shí)驗(yàn)室正在進(jìn)行研究的問(wèn)題之一是協(xié)作機(jī)器人之間的溝通問(wèn)題。比如，請(qǐng)2號(hào)機(jī)器人去9層，而3號(hào)機(jī)器人正在9層，它會(huì)對(duì)2號(hào)機(jī)器人說(shuō)：“不用來(lái)901辦公室了，門是關(guān)的。”機(jī)器人之間的交談內(nèi)容包括分享信息、分配任務(wù)、協(xié)作。機(jī)器人A可以對(duì)B說(shuō)，“我可以幫你把東西拿過(guò)去，你沒必要再過(guò)去了。”通過(guò)相互溝通，他們將學(xué)會(huì)如何協(xié)作，Manuela教授有關(guān)于足球機(jī)器人協(xié)作方面20年的研究經(jīng)驗(yàn)，在她看來(lái)，多任務(wù)機(jī)器人可以學(xué)會(huì)如何協(xié)作。 　　到最后，不同類型的機(jī)器人之間是可以互相說(shuō)話的。雖然亞馬遜音箱已經(jīng)可以和人類對(duì)話，但在移動(dòng)機(jī)器人的協(xié)作領(lǐng)域，距離實(shí)現(xiàn)這個(gè)目標(biāo)還有很多年。就像計(jì)算機(jī)之間通過(guò)協(xié)議和標(biāo)準(zhǔn)來(lái)通信，未來(lái)室內(nèi)機(jī)器人與室外飛行機(jī)器人之間能夠?qū)υ?，討論能量、任?wù)等問(wèn)題。雖然目前還沒有AI之間的協(xié)議，但科學(xué)家正在朝這個(gè)方向努力。 　　目前AI能完成的任務(wù)領(lǐng)域非常窄，雖然它們能夠非常專注于自己的任務(wù)，但其他方面都不行。Manuela教授的協(xié)作機(jī)器人目前能把客人帶到辦公室去，但這些機(jī)器人沒有手臂，不能開門，也不能上樓，在路上有人摔倒或者地板上有水，或者火災(zāi)報(bào)警器響，它們都意識(shí)不到。目前Manuela教授團(tuán)隊(duì)的研究方向之一是讓協(xié)作機(jī)器人有更多的意識(shí)，未來(lái)或許在協(xié)作機(jī)器人2.0時(shí)代，他們能意識(shí)到周邊環(huán)境發(fā)生的事情。也許要到5.0時(shí)代，它能很好的處理周圍環(huán)境中的火災(zāi)、有人摔倒等等所有突發(fā)的情況，然而這個(gè)過(guò)程是艱難而漫長(zhǎng)的。 　　盡管目前協(xié)作機(jī)器人還沒有商用，但Manuela教授提到了一些協(xié)作機(jī)器人可能的應(yīng)用場(chǎng)景。除了解決老齡化問(wèn)題和教育問(wèn)題，協(xié)作機(jī)器人可以應(yīng)用在銀行、機(jī)場(chǎng)、超市、購(gòu)物中心等公共空間。比如，在商場(chǎng)購(gòu)物可以不用購(gòu)物車，而是把東西放在協(xié)作機(jī)器人上，從而解放雙手，它們是自動(dòng)駕駛的，會(huì)通過(guò)接入手機(jī)而跟隨我們。 　　AI的價(jià)值觀 　　自從2007年第一部Iphone問(wèn)世以來(lái)，互聯(lián)網(wǎng)上每年都產(chǎn)生海量的圖片，圖片、視頻、文字以及與Siri的對(duì)話都被保留在了云端，這些數(shù)據(jù)，是AI保持發(fā)展的原因之一。網(wǎng)上的海量數(shù)據(jù)使AI的發(fā)展變得非常實(shí)際。人類無(wú)時(shí)無(wú)刻都在產(chǎn)生數(shù)據(jù)，日常生活中的能源設(shè)備，日常攝入的卡路里數(shù)量、運(yùn)動(dòng)手環(huán)、醫(yī)院里關(guān)于健康的數(shù)據(jù)等等。有人認(rèn)為AI存在泡沫，但Manuela教授認(rèn)為由于持續(xù)增長(zhǎng)的數(shù)據(jù)，AI將繼續(xù)發(fā)展下去。 　　科技的發(fā)展總會(huì)帶來(lái)新的挑戰(zhàn)、風(fēng)險(xiǎn)和擔(dān)憂。如何正確的使用技術(shù)？一方面，什么是正確的事情?采取什么樣的步驟保證AI做正確的事情？在道德方面如何監(jiān)督?另一方面，如何檢查AI做的事情是否合規(guī)？ 　　猶如食物上所貼卡路里值的標(biāo)簽需要有人檢查一樣，從道德的角度，檢查是否合規(guī)的環(huán)節(jié)與規(guī)范、立法是密不可分的。從技術(shù)的角度，在寫程序的時(shí)候，需要建立規(guī)范，同時(shí)定義好計(jì)算機(jī)或者機(jī)器人所代表的價(jià)值取向，并且要保證程序經(jīng)過(guò)修改依然符合這一規(guī)范。 　　比如，如何保證機(jī)器人不會(huì)踩到人身上？寫程序的人開始的時(shí)候知道這段程序在哪里，但經(jīng)過(guò)十個(gè)人的修改，就很難知道了，再經(jīng)過(guò)一段時(shí)間，可能代碼都無(wú)從找起。為了解決這個(gè)問(wèn)題，需要重新設(shè)計(jì)為AI或者機(jī)器人編程的模式。AI系統(tǒng)不能夠只是解決問(wèn)題，他們需要變得更好。我們希望AI能做對(duì)的事情，但萬(wàn)一沒有呢？只要AI還是“黑盒子”就無(wú)法避免這個(gè)風(fēng)險(xiǎn)。AI的價(jià)值、道德和行為選擇是什么？作為創(chuàng)造者，人類希望AI能做和我們一樣正確的事情。Manuela教授認(rèn)為需要一個(gè)組織持續(xù)研究并關(guān)注這方面的挑戰(zhàn)。

(責(zé)任編輯：  來(lái)源：  時(shí)間：2017-07-26)
Keywords（關(guān)鍵詞）： 長(zhǎng)距離皮帶托輥傳輸機(jī)

上一篇：自動(dòng)化大潮下 最快被機(jī)器替代的是職業(yè)白領(lǐng)？！
下一篇：能效變革-開創(chuàng)性無(wú)油變速螺桿壓縮機(jī)