點擊右上角微信好友

朋友圈

請使用瀏覽器分享功能進行分享

正在閱讀:人工智能倫理建設的目標、任務與路徑:六個議題及其依據
首頁> 論文推薦 > 正文

人工智能倫理建設的目標、任務與路徑:六個議題及其依據

來源:《哲學研究》2021-04-21 13:48

調查問題加載中,請稍候。
若長時間無響應,請刷新本頁面

  作者:陳小平(中國科學技術大學計算機學院)

  內容提要:人工智能倫理建設的必要性已形成全球共識,但建設目標、重點任務和實現路徑仍存在較大分歧,概括為六個議題。本文首先介紹AI的兩大類主要技術——強力法和訓練法,在此基礎上總結AI現有技術的三個特性,作為AI倫理的技術依據。同時,以全球公認的福祉原則作為AI倫理的根本依據。本文立足于這兩個依據,闡述AI倫理建設應具有雙重目標——同時回答應該和不應該讓AI做什么,進而探討另外五個重要議題:AI的安全底線,AI功能的評價原則,AI治理責任的落實路徑,AI主體狀況變遷的可能性,以及一種全新的創新模式——公義創新。

  經過幾年的廣泛討論,人工智能(Artificial Intelligence,簡稱AI)倫理建設的必要性已形成全球共識。但是,關于AI倫理的建設目標、重點任務和落地路徑,仍存在較大的分歧和爭論,也有些關鍵問題尚未引起足夠的重視,文本將這些內容概括為六個議題。顯然,建設目標的定位將決定重點任務和落地路徑的選擇,從而決定AI倫理建設的發展大局。關于AI倫理建設目標的主要分歧是:AI倫理應該是雙重目標(即同時回答應該和不應該讓AI做什么),還是單一目標(即主要回答不應該讓AI做什么)?如果是單一目標,一些重大議題將被完全或部分地排除。引起分歧和爭議的一個重要原因在于,對現階段AI技術特性的認識存在巨大差異,從而導致對AI社會意義和倫理風險的截然不同甚至完全相反的判斷。為此,有必要梳理七十年來AI研究的主要進展,澄清現階段AI技術的主要特性,形成AI倫理的技術依據。同時,以全球公認的福祉原則作為AI倫理的根本依據。本文根據這兩個依據討論AI倫理的六個議題。

  一、人工智能的強力法

  AI經過三次浪潮取得了大量進展,各種技術路線層出不窮,受到研究者較多關注的有兩大類技術——強力法和訓練法。強力法又包含推理法和搜索法兩種主要類型,推理法是在知識庫上進行推理,搜索法是在狀態空間中進行搜索。推理法通常由一個推理機和一個知識庫組成,推理機是一個負責推理的計算機程序,往往由專業團隊長期研發而成,而知識庫則需要研發者針對不同應用自行開發。

  一般來說,推理機的工作方式是:針對輸入的提問,根據知識庫里的知識進行推理,給出問題的回答。下面用一個簡化的例子加以說明。假設我們要用推理法回答“就餐”這個應用場景的有關問題。為此需要編寫一個關于“就餐”的知識庫,其中部分知識如表1所示。表1中的第一條知識是一個邏輯公式,它的含義是:餐具可以盛食物;表中的第二條知識food(rice)也是一個邏輯公式,它的含義是:米飯是食物;表中的其他知識類似。

  表2列舉了一些問題,比如第一個問題“hold(bowl,rice)?”問的是:碗能盛米飯嗎?推理機利用知識庫中的知識進行推理,可以給出此問題的回答yes。表2中的第三個問題稍微復雜一點,它問的是:碗能盛什么?回答一般不是唯一的,但推理機仍然能夠根據知識庫中的知識,找出所有正確的答案:碗能盛米飯、能盛湯……推理機還可以回答更復雜的問題。

  值得注意的是,一般情況下,由推理機得到的回答,并不是知識庫中存貯的知識。例如表2中的三個回答都是推導出來的,在知識庫(表1)中并沒有直接保存“碗能盛米飯”“碗能盛湯”等答案。因此,知識庫推理與數據庫查詢不同,不是提取事先保存的答案,而是推出知識庫中沒有保存的答案,可見知識庫加推理機的組合能力之強大。知識庫上的推理被認為是一種智能功能,是其他信息技術所不具備的。

  目前強力法受到一個條件的限制——封閉性。①封閉性在推理法上的具體表現是:要求存在一組固定、有限的知識,可以完全描述給定的應用場景。對于上面的“就餐”場景,如果存在著不可以盛湯的“破碗”(并且將“破碗”也當作“碗”),那么表1中的知識就不能完全描述這樣的“就餐”場景,因為根據這些知識推出的某些回答(如“碗能盛湯”)在這個場景中是不正確的。

  上述“就餐”場景是特意設計的一個小例子,而實際應用中的場景都很大、很復雜(否則就不必應用AI技術了),有時不滿足封閉性條件。比如一個就餐場景中,一開始沒有破碗,根據知識庫推出的回答都是正確的;可是一段時間之后出現了破碗,根據知識庫推出的某些回答就不正確了。這種情況也是不滿足封閉性條件的。

  關于推理法對于整個AI的重大意義,深度學習的三位領軍學者Geoffrey Hinton、Yann LeCun和Yoshua Bengio(他們共同獲得2018年度圖靈獎)在深度學習的總結性論文中指出:深度學習的根本性局限在于缺乏復雜推理能力。(cf.LeCun et al)而推理法代表著人類關于復雜推理能力的最高研究成果,所以推理法的局限性也代表著整個AI現有技術的局限性,封閉性對推理法的限制也是對整個AI現有技術的限制。

  二、人工智能的訓練法

  訓練法要求首先收集一組原始數據,并對其中的每一條數據都進行人工標準,做成訓練數據集。然后用訓練數據集訓練一個人工神經元網絡,用訓練好的網絡回答問題。

  圖1是一個人工神經網絡的示意圖。圖中每一個圓圈代表一個“神經元”,每一個帶箭頭的線段代表神經元之間的一個“連接”。人工神經元網絡就是由大量神經元和連接組成的網絡。一個連接可理解為一條信息通道,并對通道中傳遞的信息進行加權運算;也就是說,一條連接首先從一個神經元接受輸入數值,經過加權運算,再按照箭頭的指向,向下一個神經元輸出加權計算的結果。圖1省略了所有連接上的權值。

  如圖1所示,一個神經元可以有多個輸入連接,從而同時接受多個輸入值。一個神經元也可以有多個輸出連接,從而同時向多個神經元傳遞輸出值。每個神經元能夠獨立地計算一個簡單函數f,即根據該神經元的所有輸入值,計算得出函數f的值之后,作為輸出值向所有輸出通道同時發送,經過各條連接上的加權運算之后,傳遞給其他神經元。在圖1中,是整個人工神經元網絡的輸入連接,具體輸入值來自網絡外部; 是整個人工神經元網絡的輸出,具體的輸出值就是網絡的計算結果。

  圖1 一個人工神經網絡示意圖

  圖1只畫出了四列神經元,其他列被省略了。每一列神經元稱為一個“網絡層”。如果一個人工神經網絡具有很多層,比如幾十層、幾百層甚至更多層,就稱為“深層網絡”,深層網絡上的機器學習稱為“深度學習”。

  下面以著名的ImageNet圖像分類比賽中的一個任務為例,說明訓練法的工作過程。在比賽之前,組織者收集了一個大型圖片庫,包含1400多萬張圖片,并將其中一部分圖片做了人工標注,這些帶人工標注的圖片作為訓練數據集,參賽隊可以用這些圖片訓練他們的神經網絡。圖片庫中沒有標注的圖片作為測試集。在比賽中,要求每一個參賽的圖像分類軟件,針對測試集中的大量圖片,自動識別這些圖片中動物或物品的種類,按識別正確率的高低決定比賽名次。

  這個測試集中的圖片被人工分為1000類,其中每一個類用0至999中的一個數字進行標注。一個類包含幾十張到一百多張圖片,這些圖片中的動物或物品的種類相同,所以這些圖片被標注為相同的數字。這1000個類包括7種魚,第一種魚的所有圖片標注為0,第二種魚的所有圖片標注為1,……,第七種魚的所有圖片標注為6;還包括公雞和母雞,公雞和母雞的圖片分別標注為7和8;還有26種鳥的圖片分別標注為9至34等等;一直到最后一類——衛生紙圖片,標注為999。原始圖片和人工標注的對照見表3。采集好的原始圖片經過人工標注,訓練集就制作完畢,可以用于人工神經元網絡的訓練了。

  如果訓練之后,一個人工神經元網絡的正確識別率達到了預定的要求(比如95%以上),就認為訓練成功,可以應用了。正確識別指的是:對輸入的任何一張圖片,能夠指認輸出圖片中動物或物品所對應的數字。比如輸入公雞的圖片,人工神經元網絡輸出數字7;輸入衛生紙的圖片,則輸出數字999。從實際效果來看,如果一個人工神經元網絡達到了上述要求,就可以認為,該神經網絡“學會”了識別圖片中的1000類動物或物品。

  訓練法也受封閉性的限制,具體表現為:可以用一組固定、有限、帶人工標注的代表性數據,完全描述給定的應用場景。(參見陳小平,2020年a,2020年b)所謂“代表性數據”,指的是能夠代表所有其他數據的數據。例如,上面的圖像分類比賽例子中,如果只用訓練集中的圖片訓練神經網絡,就可以訓練出合格的網絡,那么這個訓練集就具有代表性,代表了圖片庫中所有1400多萬張圖片。反之,假如一個訓練集不具有代表性,用它訓練出的神經網絡就不合格,比如正確識別率到不了預定的要求,不能實用。

  三、人工智能現有技術的三個特性

  普通算法通常直接計算一個函數。例如,圖2中的算法計算一個自然數x是偶數還是奇數,算法規定了每一步計算過程,根據相關背景知識可以得知每一步計算的含義和作用是什么,進而判斷這個算法是否正確。

  通過“AI算法”與普通算法的對比發現,它們是非常不同的。具體地說,強力法中的推理法是用知識和推理解答問題,要求針對一個應用場景編寫相關的知識庫,然后用推理機回答問題,而不是像普通算法那樣直接計算結果。訓練法則要求首先采集、制作訓練數據集,訓練出一個合格的神經網絡,然后用該網絡回答問題,而網絡內部的運行一般是無法解釋的(至少目前如此)。

  圖2 計算自然數奇偶性的普通算法

  由此可見,AI算法不僅更復雜,更重要的是原理不同,難以直接根據一個AI算法判斷它能做什么、不能做什么、怎么做的、做得是否正確等等。為此,本文給出AI現有技術的三個特性,從而為分析AI倫理的六個議題提供技術依據。

  AI現有技術的第一個特性是封閉性(具體含義如上所述)。一個應用場景如果具有封閉性,則應用AI的強力法或訓練法技術,可以保證應用成功;如果不具有封閉性,則不保證應用成功(但也不一定失敗)。由于大量應用場景是封閉的,或者可以被封閉化,即改造為封閉的(參見陳小平,2020年a),所以封閉性條件對于大量實際應用成立,也為這些應用的研發提供了一個不可忽略的關鍵指標。

  AI現有技術的第二個特性是被動性。這些技術不具備主動應用的能力,只能被動地被人應用。有人認為,AI可以自我學習,從而學會它原來不會做的事情。事實上,這樣的技術確實在研究之中,但目前尚未成熟,無法投入使用,而且強行投入使用會帶來極大風險。還有人認為,圍棋AI程序“阿法狗”可以自學下圍棋,而且通過自學戰勝了人類。其實,圍棋是一個封閉性問題,“阿法狗”技術只對封閉性場景有效(參見陳小平,2020年b),而且“阿法狗”的所謂“自學”完全是它的設計者事先安排好的,與通常人的自學不是一回事。

  AI現有技術的第三個特性是價值中性,也就是說,這些技術本身無所謂善惡,人對它們的應用方式決定其善惡。以推理法為例,推理機給出的回答會不會對人有害,完全取決于知識庫是否包含可能隱含不良后果的知識。由于知識庫是人編寫的,所以是設計者決定了推理法的具體應用的善惡。也有研究者試圖讓AI自動尋找自己所需的知識,即具有自動獲取知識的能力(例如Chen et al,2012),但這些技術目前仍處于基礎研究和實驗測試階段。

  四、人工智能倫理的六個議題

  議題1:AI倫理的建設目標——雙重還是單一?

  根據對倫理學的常識理解,倫理是人的行為準則,以及人與人之間和人對社會的義務。(參見《辭?!房s印本,第221頁)因此,AI倫理要回答兩方面的問題:應該讓AI做什么,不應該讓AI做什么。同時回答兩個問題是雙重目標;只回答“不應該做什么”問題是單一目標。

  鑒于世界各國都將“福祉”作為AI倫理的基本原則甚至第一原則,我們將福祉原則作為AI倫理體系的指導性原則。顯然,福祉的實現主要源于努力而非限制。由于AI具有被動性,AI的發展必須經過人的努力,所以AI倫理應該引導和規范這種努力,這就是雙重目標的根本依據。

  在雙重目標下,AI倫理體系的基礎架構(參見陳小平,2019年)②如圖3所示。在此架構中,AI倫理有三層結構:倫理使命(福祉)、倫理準則(如安全性、公平性等)和實施細則(詳見議題3)。其中,針對不同的應用場景,需要設立不同的實施細則,于是AI倫理與社會及經濟發展相互緊密關聯,不再是空中樓閣。在這個架構中,傳統創新需要受到倫理準則的約束(這種約束過去沒有充分建立起來),從而促使傳統創新更好地服務于社會需求和重大社會問題的解決。

  由于傳統創新并不十分適合社會重大問題的解決,所以我們提出了一種新的創新模式——公義創新(詳見議題6)。公義創新和傳統創新都要接受福祉原則的指導,這是不變的。同時,根據公義創新的成果可以改變現有倫理準則的內涵,也可以增加或減少倫理準則,以反映社會發展對AI倫理的反作用。在兩種創新的促動下,社會需求和社會重大問題不斷得到解決,推動社會進步,形成新的社會需求和重大社會問題,從而實現社會及經濟的螺旋式發展。

  圖3 人工智能倫理體系架構

  議題2:AI的安全底線——技術失控與技術誤用?

  在技術范圍內,AI的倫理風險主要有兩類:技術失控和技術誤用/濫用。技術失控指的是人類無法控制AI技術,反而被AI所控制,成為奴隸或寵物。技術誤用/濫用指的是AI技術的非正當使用,由此帶來對用戶和社會的損害,但達不到失控的嚴重程度。技術誤用/濫用是目前存在的現實倫理問題,亟需加強治理;而技術失控是人們的最大擔憂,相關影視作品的流行大大增強了這種擔憂。

  對于AI技術失控的可能性而言,上文總結的AI三個特性具有關鍵性影響。人類對封閉性或封閉化場景具有根本性乃至完全的掌控力,因此這些場景中的應用不會出現技術失控。根據被動性,AI技術應用都是由人類實施的,只要人類對不成熟、不安全的AI技術不實施應用,這些技術都無法進入應用空間,也就不會引起風險。根據價值中性,只要人類對AI技術的應用符合倫理準則,這些應用就不會對人類造成不可接受的損害。

  因此,在AI三個特性成立,并且AI應用遵守倫理準則的情況下,不會出現技術失控,也不會對人類造成不可接受的損害??墒?,在這三個特性不全成立,或者AI應用不遵守倫理準則的情況下,就可能出現倫理風險。例如,假如未來出現了可以在非封閉性場景中自主進化的AI技術,就無法排除各種倫理風險,甚至包括技術失控的可能性。(參見趙汀陽)再如,如果在AI技術應用中不遵守相關倫理準則,就會出現技術誤用/濫用;數據安全問題、隱私問題、公平性問題等等,都屬于這種情況,而且已經在一定范圍內發生,亟需加強治理。這表明,針對技術誤用/濫用的治理已經成為當務之急,而完整AI倫理體系的建設也必須提上議事日程。

  議題3:AI功能的評價原則——“超越人”與“人接受”?

  對AI技術的功能水平的傳統評價原則是“超越人”,有時具體表現為“戰勝人”,如阿法狗。不過在AI界,這個原則理解為AI與人的同類能力水平的對比,看誰的水平更高,而不是要在現實世界中用AI戰勝人(雖然經常發生這種誤解)。AI研究界和產業界往往認為,當AI的某項能力超過了人,那么就可以在產業中實現該能力的產品化;如果尚未超過,則表示AI的該項能力還不夠強,難以實用化。

  不過,在上述傳統評價原則之外,實際上還存在著另一種評價原則,這就是“人接受、人喜愛”。在一些應用場景中,AI通過人—機器人交互提供服務,而且人—機器人交互以人機情感互動為基礎,例如面向空巢群體的情感機器人、用于自閉癥等人群心理干預的機器人、用于少兒娛樂教育的機器人等。在這些應用中,用戶對機器人的接受度是第一重要的,否則產品的其他功能再好也難以被用戶接受。

  在接受原則下,相關AI產品的主要評價指標不是在某個方面比人強,而是人對AI的接受性和接受度是否滿足用戶的期望。例如,中國科學技術大學研發的情感交互機器人“佳佳”,其智能水平只是她的“姐姐”——“可佳”機器人(cf.Chen et al,2010,2012)的幾分之一,但由于“佳佳”可以識別人(如用戶)通過表情和話語呈現出的情緒,并通過機器人的表情和話語進行即時反饋,在一定程度上實現了機器人與人的情感互動,因而具有更高的用戶接受度,在人機情感交互方面的性能遠遠超過“可佳”。

  兩種AI功能評價原則決定了人類對AI的兩種觀察角度和評判標準,所以它們絕不是單純的技術問題,同時也決定了AI倫理對AI技術的觀察角度和評判依據。因此,AI倫理應該同時從這兩個角度展開自己的研究和實踐。目前對第一個角度的研究較多,而第二個角度的研究基本處于空白狀態。亟待加強。

  議題4:AI治理責任的落實——規范性與自主性?

  目前法學界傾向于認為,AI尚不具備法律主體地位。(參見劉洪華,2019年)因此,與AI相關的法律責任的主體是人,比如產品的研發、運維機構。因此,與AI技術相關的主體責任和治理責任的落實,就成為AI倫理的一個重要議題。

  我們認為,由于AI現有技術的三個特性,法學界的上述判斷是符合現階段實際情況的,AI確實不應該、也不可能承擔主體責任。另一方面,只要倫理規范足夠具體化,以至于成為封閉性條件的一部分,那么在這種場景中,就可以利用AI現有技術,自主地執行這些規范,從而完成部分AI治理任務。對于非封閉的應用場景,或者倫理規范不能成為封閉性條件的一部分的情況下,則不能完全依靠AI技術的自主性,必須堅持人的管理和介入??傮w上,人作為責任主體,絕不能放棄自己的職責。

  根據以上分析可知,在倫理規范和管理體制下,讓AI技術自主或半自主地實現其功能,是一種有效的責任落實方式。例如,利用AI技術,可以對消息的真偽性進行核查和推測,對通過核查的真實消息向目標用戶進行分發推送,對敏感操作流程的合規性進行審核,等等。不過,由于這些應用的場景往往不是完全封閉的,所以仍然需要人工管理,但AI技術的應用能夠大大減輕人工負擔,顯著提高工作效率,整體上明顯改善管理水平。

  產業部門的現行管理體制為主體責任的落實提供了一條可行路徑,尤其其中的技術標準可以作為AI倫理準則的一種實施細則(見圖3)。對于AI相關產品,需要與其他工業品一樣,設立四個層級的技術標準:國際標準、國家標準、行業標準和企業標準,其中企業標準和行業/團體/地方標準不得與國家標準相抵觸,而國家標準與國際標準之間,可以通過國際標準化合作達成協調一致。所有這些層級的技術標準都應符合AI倫理規范的要求。這樣,倫理規范就通過技術標準及相關管理機制得到落實,不再是紙上談兵的空中樓閣。

  議題5:AI主體狀況變遷的可能性——物、人還是“非人非物”?

  上文已說明,目前AI在法律上是物,不是人。但是,由于大量應用需求的推動,以及“接受”評價原則的采納及相關研究的深入和成果推廣,AI技術的發展已形成了一種新的可能性:在不遠的將來,某些AI產品或技術載體如情感交互機器人,會被部分大眾接受為“非人非物、亦人亦物”的第三種存在物。

  在AI發展早期,曾出現少數用戶將AI誤認為人的情況,比如上世紀60年代有人將一個AI對話系統誤認為人。不過,這是在人與物的二分法體系之中出現的混淆,沒有突破二分法的邊界。而現在出現的情況是,人在與某些機器人的交互中,一方面從理智上明確認識到和自己交互的機器人不是人,同時卻在情感中不將機器人視為物,而更傾向于視為某種有情感能力的新型存在物。這種情況實際上比之前的要更復雜。

  出現這種現象的原因在于:與科學和哲學中的默認假設不同,人們通常并不關心機器人表現出的情緒是不是真實的人的情緒,更不去仔細區分人的情緒和機器人的情緒有什么本質區別。(參見胡珉琦)

  這種現象帶來三方面的可能性。第一,有助于AI在某些領域的應用推廣,滿足用戶的大量真實需求(尤其是情感交互方面的需求),從而帶來AI研究和應用的新機遇;第二,為調整、拓展和改善人機關系開辟了新的探索空間;第三,帶來一種新的倫理挑戰——對自古以來從未受到懷疑的人—物二分法的挑戰。雖然科學上可能不承認這種存在物的真實性,哲學上也不承認它的必要性,但如果越來越多的大眾在認知和心理上接受這種存在物,就會形成一種普遍和重要的社會現象,甚至可能對人機關系和人際關系產生廣泛的、震撼性的沖擊和深遠的影響。因此,忽視這些可能性將會造成AI倫理大廈的巨大缺口。AI倫理的雙重目標要求對正、反兩方面的可能性展開積極探索。

  議題6:AI時代的創新模式——傳統創新與公義創新?

  在圖3所示的AI倫理體系架構中,一個核心部分是公義創新。與傳統創新(參見黃陽華)相比,公義創新的主要內涵及特點如下。

  第一,傳統創新主要追求經濟效益的顯著增長,而公義創新追求經濟效益和社會效益的協同提升。傳統創新帶來經濟效益的顯著增長是有目共睹的。與此同時,諸多重大社會問題不斷積累和深化,包括氣候變化、環境污染、人口老化、收入不均、大規模流行病等等。甚至有人認為,正是傳統創新加劇了這些問題的惡化。作為對傳統創新模式的反思和超越,公義創新將以經濟效益和社會效益的協同提升為基本目標,以重大社會問題的解決為重點任務,改變經濟效益和社會效益相互脫節的現象。在現代社會中,公益事業與商業創新是相互分離的,科技成果相對易于進入商業創新,不易進入公益事業,公益事業與商業創新的這種分立式組合,明顯不利于重大社會問題的解決。

  第二,傳統創新的目標對象是滿足用戶需求的具體產品/服務,而公義創新的目標對象是符合社會發展需要的人工/人造系統。③滿用戶需求、且具有顯著經濟利益的產品/服務這個目標對象貫穿于傳統創新的全流程,是該流程一切環節的終極考核指標,因而難以避免各種損害社會效益的副作用。因此,公益創新將不再以產品/服務本身作為目標對象,而是上升到人工/人造系統(參見司馬賀,第30頁)層面,并且全面重構人工/人造系統的設計—實施體系,將其改造為實現經濟效益和社會效益綜合提升的手段。

  例如,很多高新技術的應用在提高經濟效益的同時,也帶來人工崗位的大量減少,④并可能導致新的收入分化,這種情況在傳統創新中比較普遍。而在公義創新的設計考慮中,一個人工/人造系統包含的要素有:產品/服務、制造方式、員工利益、用戶利益……于是,設計方案的評價指標不僅反映經濟效益,同時也反映社會效益。顯然,這種人工/人造系統的設計和實施難度遠遠高于傳統的產品設計和制造。為此,不僅需要將AI技術繼續應用于產品設計環節(類似于傳統創新),更需要將“規劃”(參見李德毅,第216頁)、機制設計、目標優化等AI技術應用于整個人工/人造系統的設計,從而使AI技術發揮更大的作用,幫助人類發現或創造社會經濟發展的更多新機遇,如新的就業崗位、新的人機合作方式、新的生產—生活協同方式以及解決重大社會問題的新途徑。

  第三,傳統創新延續、強化工業文明傳統,而公義創新探索更具包容性的文明路徑。除上面提到的問題之外,傳統創新通過延續、強化工業文明傳統,進一步加劇了人的異化、人機對立等長期存在的難題,甚至可能產生“無用階層”(參見鞏永丹)等文明層面的重大挑戰。尤為重要的是,這些挑戰性問題在工業文明傳統下是無解的,因此有必要探索新的化解路徑。公義創新的思想來源包括三個方面:歷史觀——道家哲學(特別是老子的“道”),文化觀——儒家哲學(特別是孔子的“義”),社會觀——希臘哲學,如梭倫的“正義”理論。(參見廖申白)這些不同文化傳統的融合、發展將構成公義創新的理論基礎,并在其上構建公義創新的方法論體系,最終形成可運行的公義創新模式。在這種新模式下,對人的關注將得到根本性加強,對人和機器的認識將大幅度更新,人與機器的關系將得到重新定義,并在福祉原則的指導下,推動人、機器和環境的更具包容性的一體化發展。

  顯然,在現行市場規則下,公義創新面臨很多困難,因此公義創新的實行要求改變市場規則和管理方式。其次,公義創新也要求設計思維、教育理念及實踐的徹底變革,并帶來人的觀念的重大變革。事實上,公義創新的實施將為社會經濟發展帶來大量新機遇。

  為了實現其基本使命——增進人類福祉,AI倫理要能夠同時解答兩方面的問題:應該讓AI做什么,不應該讓AI做什么,所以AI倫理具有雙重目標。根據雙重目標,結合AI現有技術的特性,本文認為短期內AI的主要風險是技術誤用/濫用,這應成為近期AI倫理治理的重點課題。同時,本文分析了AI功能評價的兩種原則——超過人和人接受,需要同時從這兩個角度展開AI倫理治理。針對以上任務,本文發現,在現行產業管理及技術標準體系的基礎上加以擴展,在適當條件下將AI技術引入到管理過程中,可以更加有效地實施AI倫理治理,從而形成落實AI治理責任的一條切實可行的路徑。一個較長期的挑戰是AI主體狀況的變遷,即某些類型的AI被部分人接受為“非人非物、亦人亦物”的可能性,由此帶來從技術到人機關系再到AI法制的一系列新課題。另一個更大的挑戰是面向重大社會問題,以經濟效益和社會效益的協調統一為基本追求的公義創新,它在人類福祉原則的指導下,廣泛深入地利用AI技術,將傳統的產品設計和制造升級為人工/人造系統的設計和實施,這也是雙重目標下AI倫理體系建設的最大特色和最終標志。

  *本文根據作者在“第二屆全球視野下的人工智能倫理論壇”(杭州,2020年7月25日)上的演講整理而成。作者在與趙汀陽、王蓉蓉關于AI倫理問題的討論中受益良多。本文部分素材來自《人工智能倫理導引》(陳小平主編,中國科學技術大學出版社2020年),劉貴全、顧心怡、葉斌、汪琛、王娟、侯東德、蘇成慧參與了該書編著。謹向以上諸位表示感謝。

  注釋:

 ?、訇P于封閉性具體內涵的詳細描述,通俗性介紹參見陳小平,2020年a;專業性介紹參見陳小平,2020年b。

 ?、谠囊肓恕皞惱韯撔隆钡男g語,后經王蓉蓉建議,改為“公義創新”,但內涵保持不變。

 ?、邸叭斯ぁ钡睦尤纭叭斯そ涤辍?,其結果(降下來的雨)是“真的”(自然的),而導致這個結果的過程是人為的(非自然的);“人造”的例子如“人造衛星”,其結果(衛星)及其過程都不是“真的”。AI中的Artificial包含人工和人造兩種類型,公義創新的目標對象也包括人工系統和人造系統。

 ?、軐Υ诵枰唧w情況具體分析,比如目前在國內工業界,機器人替代的勞動崗位主要是工作環境惡劣、不適合人從事的工種,如噴漆、打磨等。值得重點關注的是經濟效益與社會效益不一致的情況。

  原文參考文獻:

  [1]陳小平,2019年:《人工智能倫理體系:基礎架構與關鍵問題》,載《智能系統學報》第4期。

  2020年a:《封閉性場景:人工智能的產業化路徑》,載《文化縱橫》第1期。

  2020年b:《人工智能中的封閉性和強封閉性——現有成果的能力邊界、應用條件和倫理風險》,載《智能系統學報》第1期。

  [2]《辭?!?縮印本),1979年,上海辭書出版社。

  [3]鞏永丹,2019年:《人工智能催生“無用階級”嗎?——赫拉利“無用階級”斷想引發的哲學審度》,載《國外理論動態》第6期。

  [4]胡珉琦,2020年:《AI與情感》,載《中國科學報》7月23日。

  [5]黃陽華,2016年:《熊彼特的“創新”理論》,載《光明日報》9月20日。

  [6]李德毅主編,2018年:《人工智能導論》,中國科學技術出版社。

  [7]廖申白,2002年:《西方正義概念:嬗變中的綜合》,載《哲學研究》第1期。

  [8]劉洪華,2019年:《論人工智能的法律地位》,載《政治與法律》第1期。

  [9]司馬賀(Herbert Simon),1987年:《人工科學》,商務印書館。

  [10]趙汀陽,2018年:《人工智能會是一個要命的問題嗎?》,載《開放時代》第6期。

  [11]Chen et al,2010,"Developing High-level Cognitive Functions for Service Robots",in Proc.of 9th Int.Conf.on Autonomous Agents and Multi-agent Systems(AAMAS 2010),Toronto,Canada.

  2012,Xiaoping Chen,Jiongkun Xie,Jianmin Ji,and Zhiqiang Sui,"Toward Open Knowledge Enabling for Human-Robot Interaction",in Journal of Human-Robot Interaction 1(2).

[ 責編:王曉秋 ]
閱讀剩余全文(

相關閱讀

您此時的心情

光明云投
新聞表情排行 /
  • 開心
     
    0
  • 難過
     
    0
  • 點贊
     
    0
  • 飄過
     
    0

視覺焦點

  • 核心價值觀百場講壇走進青島嶗山

獨家策劃

推薦閱讀
洪水口村位于北京市門頭溝區清水鎮西部,北京最高峰靈山腳下,面積25.98平方公里,現有村民158戶,313人,黨員33人,素有“靈山門戶”之稱,曾先后榮獲北京市民俗旅游專業村、北京市最美鄉村、北京市“五個好”基層黨組織、中國最美休閑鄉村稱號。
2021-05-07 14:05
加載更多
438yy电影