可解釋的AI與規(guī)則的重生 —— 文章正文2019-03-25

人工智能被視為一組“預測機器”。通常，人工智能技術很適合用于生成自動預測。但是，如果你想在受監(jiān)管的行業(yè)中使用人工智能，就最好能解釋機器是如何預測欺詐行為、犯罪嫌疑人、不良信用風險或者某種藥物試驗合適候選人的。

國際律師事務所Taylor Wessing希望把人工智能作為一種分類工具，向他們的客戶提供關于可能存在與“現(xiàn)代奴隸制法案”或“反海外腐敗法”等法規(guī)相關風險的建議。他們的客戶通常有全球供應商或者進行全球收購，需要進行系統(tǒng)性的盡職調查，以確定應該深度調查哪些方面找出潛在風險。有時候供應鏈會涉及到數(shù)百家小型供應商，這種情況尤為復雜。對于律師或者供應鏈管理人員來說，調查其中每一個環(huán)節(jié)是成本極高的。Taylor Wessing采用了Rainbird Technologies的人工智能軟件，與律師一起在相關法律領域對該軟件進行訓練，以找出客戶存在潛在風險的線索。如果該人工智能系統(tǒng)顯示存在沒有正確遵守法規(guī)的高風險因素，系統(tǒng)就會電話通知律師。

“規(guī)則引擎已死”的謠言被夸大了

每一種人工智能都有自己的優(yōu)點和缺點?，F(xiàn)在深度學習是很多人工智能專業(yè)人員的寵兒，但是在透明度和可解釋性方面，深度學習相對于其他AI方法存在明顯的不足。Rainbird的核心是一個規(guī)則引擎，有些人認為，規(guī)則引擎是人工智能領域的“昨日黃花”。確實，規(guī)則其實是支持最新一代人工智能“專家系統(tǒng)”的專家系統(tǒng)之背后的因素。但規(guī)則仍然令人驚訝地受歡迎：2017年德勤進行的一項調查顯示，有49％的美國大型企業(yè)高管表示，他們使用了基于規(guī)則的人工智能技術。

規(guī)則引擎的優(yōu)勢在于它的可解釋性；擁有一定專業(yè)水平的人可以查看規(guī)則，看規(guī)則是否合理，他們可以相對輕松地修改規(guī)則。這非常適合于中低復雜度的決策；在積累了幾百條規(guī)則的基礎上，可以發(fā)展出人類難以理解的相互作用因素，這讓維護這些規(guī)則變得十分具有挑戰(zhàn)性。

從歷史來看，規(guī)則更多地是依賴邏輯而不是依賴大量數(shù)據(jù)。規(guī)則不是從數(shù)據(jù)中學習，而是從人類專家那里學習。從專家那里提取領域專業(yè)知識的過程，被稱為“知識工程”。針對一個簡單知識域構建規(guī)則集合是一件很容易的事情，很多非技術專家也能做到。Rainbird的規(guī)則體現(xiàn)的是實體之間的關系；實體和關系形成特定知識域的“知識圖譜”。要使用大量規(guī)則和大量實體對復雜知識分類進行建模，這可能是十分困難的，需要經過訓練的知識工程師與專家合作才能做到。Rainbird表示，構建中等復雜度的知識圖譜通常需要大約20個工作日。

依靠專家存在一個問題：在“智能”軟件的世界中，專家必須理解和接受軟件訓練、學習和使用的方式。軟件決定了專家如何分享決策規(guī)則以及權衡日常決策中最重要的因素。這種方式或者這個過程花費的時間可能會讓專家感到不滿。

再來說說“知識工程師”。Rightbird的客戶（如Taylor Wessing律師事務所）找到了愛好研究這個領域和這項技術的人才。他們不需要一定是專家。對Taylor Wessing來說，這些人可以是有技術才能的律師助理，也可以是愛好法律的技術專家。知識工程師不僅僅是業(yè)務分析師，他們也充當著專家的助手。他們從專家那里獲取知識，幫助專家使用軟件構建相關的“知識地圖”。知識工程師可以解決專家匱乏或者專家沒有足夠時間的問題，他們可以提出問題，專家來回答。他們會教導企業(yè)組織如何添加更多數(shù)據(jù)。

規(guī)則變得越來越簡單

Rainbird一直努力讓自己的規(guī)則引擎變得比以前更易于使用。例如，Rainbird有一個編輯器，引導用戶完成規(guī)則創(chuàng)建過程，創(chuàng)建一個可視模型和基于規(guī)則的代碼；用戶可以使用任何一個界面。Rainbird表示，客戶通常只通過少量訓練就可以自行開發(fā)應用。與上一代規(guī)則引擎相比，新引擎的另一個優(yōu)點是結構化數(shù)據(jù)可以通過API集成到規(guī)則中。例如，它可以根據(jù)客戶的信用評分或者其他類型的數(shù)據(jù)做出信用決策。雖然規(guī)則引擎通常不是概率性的，但Rainbird確實允許知識工程師將主觀概率輸入到規(guī)則中。

當不需要大量結構化或者非結構化數(shù)據(jù)集來測試和改進軟件的時候，基于人工智能的規(guī)則就克服了構建模型帶來的挑戰(zhàn)。這在讀取醫(yī)學圖像等領域會相對容易一些，因為這種場景可能存在千萬個MRI或CAT掃描相關的示例。對于其他很多領域和任何新的知識領域來說，沒有足夠大的數(shù)據(jù)集可用于訓練或保持軟件的準確性?；谝?guī)則的方法解決了這個問題。

但這導致使用人工智能帶來的第三個挑戰(zhàn)：信任、隱私和數(shù)據(jù)保護。Rainbird的技術是展示規(guī)則引擎可解釋性優(yōu)點的一個很好的例子：它提供了一種“證據(jù)樹”，描述規(guī)則是如何做出特定決策的。Rainbird表示，醫(yī)療和金融服務等行業(yè)的監(jiān)管機構認為這種能力特別有用。

現(xiàn)在我們可以新聞中看到各種關于人工智能存在偏見的報道。展示如何做出決策和選擇目標的透明度，將有助于解決這個問題?？山忉尩娜斯ぶ悄苁亲詈笠淮鶤I，由于具有透明度，它也可能是下一代AI。代價就是，我們必須思考機器做事的方式……也就是規(guī)則。