日前,聯(lián)合國(guó)教科文組織(UNESCO)正式發(fā)布《人工智能倫理建議書(shū)》(以下簡(jiǎn)稱(chēng)《建議書(shū)》)。這是關(guān)于人工智能倫理的首份全球性規(guī)范文書(shū)。
作為UNESCO人工智能倫理特設(shè)專(zhuān)家組成員,中國(guó)科學(xué)院自動(dòng)化研究所中英人工智能倫理與治理研究中心主任、國(guó)家新一代人工智能治理專(zhuān)委會(huì)委員曾毅參與了《建議書(shū)》的起草與修改。
曾毅在接受《中國(guó)科學(xué)報(bào)》采訪時(shí)表示:“《建議書(shū)》是目前全世界在政府層面達(dá)成的最廣泛的共識(shí),是全球人工智能發(fā)展的共同綱領(lǐng),將為進(jìn)一步形成人工智能倫理有關(guān)的國(guó)際標(biāo)準(zhǔn)、國(guó)際法等提供強(qiáng)有力的參考。”
走向全球共識(shí)
隱私、安全、公平、對(duì)人類(lèi)的潛在風(fēng)險(xiǎn)等,人工智能在飛速發(fā)展的同時(shí),也給社會(huì)帶來(lái)了根本性的挑戰(zhàn)。
雖然不同國(guó)家、政府間組織、科研和產(chǎn)業(yè)界已經(jīng)發(fā)布了不少關(guān)于人工智能發(fā)展、倫理與治理原則,但這些原則并沒(méi)有形成統(tǒng)一觀念,人工智能倫理亟待達(dá)成全球共識(shí)。
UNESCO總干事阿祖萊在《建議書(shū)》發(fā)布會(huì)上表示,“我們呼吁所有的成員國(guó)立即行動(dòng)起來(lái)開(kāi)始實(shí)施這份建議書(shū)。民眾、企業(yè)等全社會(huì)都應(yīng)當(dāng)行動(dòng)起來(lái)。這項(xiàng)工作已經(jīng)開(kāi)始了,20余個(gè)國(guó)家已經(jīng)表態(tài)當(dāng)《建議書(shū)》被采納后,將受《建議書(shū)》的啟發(fā)開(kāi)啟評(píng)估。UNESCO將推進(jìn)務(wù)實(shí)的評(píng)估落地工作。”
此次發(fā)布的《建議書(shū)》的核心是價(jià)值觀、倫理原則及相關(guān)的政策建議、監(jiān)測(cè)與評(píng)估。在價(jià)值觀方面,《建議書(shū)》從尊重、保護(hù)和促進(jìn)人權(quán)和基本自由以及人的尊嚴(yán),環(huán)境和生態(tài)系統(tǒng)蓬勃發(fā)展,確保多樣性和包容性,以及在和平、公正與互聯(lián)的社會(huì)中共生等4部分進(jìn)行了闡述。
曾毅認(rèn)為,《建議書(shū)》囊括了針對(duì)現(xiàn)代人工智能(人工智能作為信息處理工具和賦能技術(shù))倫理考慮的最重要方面。
例如,雖然大規(guī)模數(shù)據(jù)處理及算力的提升促進(jìn)了現(xiàn)代人工智能的發(fā)展,但也帶來(lái)了潛在的環(huán)境問(wèn)題。
為此,《建議書(shū)》在價(jià)值觀“環(huán)境和生態(tài)系統(tǒng)蓬勃發(fā)展”部分指出,應(yīng)減少人工智能系統(tǒng)對(duì)環(huán)境的影響,包括但不限于碳足跡,以確保將氣候變化和環(huán)境風(fēng)險(xiǎn)因素降到最低,防止會(huì)加劇環(huán)境惡化和生態(tài)系統(tǒng)退化的對(duì)自然資源的不可持續(xù)開(kāi)采、使用和轉(zhuǎn)化。
此外,《建議書(shū)》還考慮了不適用人工智能的場(chǎng)景,并在“相稱(chēng)性與不損害”的原則部分提出,人工智能技術(shù)本身并不能確保人類(lèi)、環(huán)境和生態(tài)系統(tǒng)蓬勃發(fā)展。在有可能對(duì)人類(lèi)、人權(quán)和基本自由、個(gè)別社區(qū)和整個(gè)社會(huì),或者對(duì)環(huán)境和生態(tài)系統(tǒng)造成損害時(shí),以確保落實(shí)風(fēng)險(xiǎn)評(píng)估程序并采取措施,以防止發(fā)生此類(lèi)損害。
不僅如此,《建議書(shū)》在此部分還明確提出人類(lèi)應(yīng)當(dāng)確保在關(guān)鍵領(lǐng)域進(jìn)行有意義的控制,以確保人類(lèi)的決策權(quán),并對(duì)高風(fēng)險(xiǎn)領(lǐng)域進(jìn)行了警示。
“和諧共生”價(jià)值觀被部分采納
在曾毅看來(lái),《建議書(shū)》在一定程度上體現(xiàn)了全球不同文化的包容性思想。其中,“在和平、公正與互聯(lián)的社會(huì)中共生”的價(jià)值觀充分體現(xiàn)了來(lái)自亞洲和非洲等國(guó)專(zhuān)家的共同愿景與貢獻(xiàn)。
在UNESCO特設(shè)專(zhuān)家組撰寫(xiě)草案期間,鑒于部分國(guó)家和政府間組織的人工智能原則強(qiáng)調(diào)自身的價(jià)值觀和利益優(yōu)先,曾毅提議納入“和諧共生”的價(jià)值觀。
在曾毅看來(lái),“和諧共生”的價(jià)值觀,是倡導(dǎo)人類(lèi)社會(huì)與人工智能技術(shù)和諧發(fā)展,人工智能賦能人類(lèi)、社會(huì)、生態(tài)之間的和諧發(fā)展,號(hào)召各個(gè)國(guó)家通過(guò)人工智能促進(jìn)人類(lèi)命運(yùn)共同體的構(gòu)建。
他告訴記者,“和諧共生”的思想在由國(guó)家新一代人工智能治理專(zhuān)委會(huì)制定的《新一代人工智能治理原則》以及《新一代人工智能倫理規(guī)范》中有以“和諧友好”等形式和內(nèi)容體現(xiàn)的相似表述,是我國(guó)發(fā)展人工智能技術(shù)、處理技術(shù)與社會(huì)關(guān)系的總綱。
雖然“和諧共生”的提議被來(lái)自亞洲和非洲等多國(guó)的特設(shè)專(zhuān)家組專(zhuān)家及部分政府間磋商代表所贊同,但在隨后的環(huán)節(jié),由于部分國(guó)家代表未能接受“和諧”等提法,隨后改為“在和平、公正與互聯(lián)的社會(huì)中共生”,“和諧共生”的核心要義得以部分保留和采納。
例如,《建議書(shū)》在“在和平、公正與互聯(lián)的社會(huì)中共生”部分,強(qiáng)調(diào)“每個(gè)人都屬于一個(gè)更大的整體,當(dāng)這個(gè)整體中的組成部分都能夠繁榮興旺時(shí),整體才會(huì)蒸蒸日上”。
曾毅對(duì)此感到有些遺憾?!啊推焦采c‘和諧共生’的意義并不完全相同?!椭C共生’在和而不同、同舟共濟(jì)的基礎(chǔ)上還有發(fā)展的意義,倡導(dǎo)優(yōu)化共生,而‘和平共生’這種表述難以表達(dá)求同存異、謀求發(fā)展的意義?!?/p>
但他也表示,雖然《建議書(shū)》沒(méi)有直接采納“和諧共生”的表述,但相關(guān)思想得以保留,被各國(guó)專(zhuān)家認(rèn)為是《建議書(shū)》中融入非西方價(jià)值觀的重要體現(xiàn)。
“‘和諧共生’的理念已經(jīng)作為我國(guó)人工智能倫理與治理原則的特色,未來(lái)必然會(huì)成為中國(guó)對(duì)世界的貢獻(xiàn)?!痹惚硎?。
可持續(xù)發(fā)展的共同愿景
可持續(xù)發(fā)展目標(biāo)是聯(lián)合國(guó)各機(jī)構(gòu)力推的全球發(fā)展共同愿景,我國(guó)發(fā)布的《新一代人工智能治理原則》以及《新一代人工智能倫理規(guī)范》都將可持續(xù)發(fā)展作為新一代人工智能的總體愿景和賦能全球人工智能發(fā)展的重要途徑。然而,很多國(guó)家在人工智能發(fā)展和倫理原則中并沒(méi)有明確提出可持續(xù)性。
因此,在《建議書(shū)》原則部分的撰寫(xiě)階段,曾毅提出,雖然可持續(xù)的理念隱含在文本中的若干方面,但作為全球共同愿景,發(fā)展人工智能必須賦能可持續(xù)發(fā)展目標(biāo)的實(shí)現(xiàn),同時(shí)還要密切關(guān)注人工智能應(yīng)用于可持續(xù)發(fā)展相關(guān)目標(biāo)領(lǐng)域時(shí),是否帶來(lái)阻礙該目標(biāo)實(shí)現(xiàn)的風(fēng)險(xiǎn),尋求發(fā)展與治理的協(xié)同?!啊沙掷m(xù)’應(yīng)當(dāng)作為原則明確列入《建議書(shū)》?!?/p>
最終,該意見(jiàn)被《建議書(shū)》不同階段廣泛接受,并在政策部分,特別針對(duì)環(huán)境和生態(tài)系統(tǒng)領(lǐng)域如何通過(guò)人工智能賦能實(shí)現(xiàn)可持續(xù)性給出了具體建議。
實(shí)際上,除了參與起草和修改《建議書(shū)》,曾毅還在UNESCO組織的區(qū)域性專(zhuān)家咨詢(xún)會(huì)上代表UNESCO特設(shè)專(zhuān)家組向亞太地區(qū)各國(guó)政府專(zhuān)家代表宣講了《建議書(shū)》草案,并作為政府間專(zhuān)家磋商的中方專(zhuān)家代表參加磋商。
曾毅告訴記者,起草和宣講《建議書(shū)》時(shí),他從未感到緊張,因?yàn)樵谀莻€(gè)階段,他的角色更多的是貢獻(xiàn)學(xué)術(shù)觀點(diǎn)的獨(dú)立的學(xué)者。但在政府間代表磋商階段,特別是被稱(chēng)為“成員國(guó)中國(guó)代表”時(shí),他倍感責(zé)任重大。
目前,UNESCO正在依據(jù)《建議書(shū)》建立倫理評(píng)估工具和針對(duì)國(guó)家人工智能倫理完備指數(shù)評(píng)估的輔助系統(tǒng),以敦促和幫助各國(guó)落實(shí)倫理規(guī)范。
在曾毅看來(lái),人工智能的國(guó)際協(xié)作是通過(guò)技術(shù)賦能助力實(shí)現(xiàn)人類(lèi)命運(yùn)共同體,而人工智能倫理與治理的國(guó)際交流與協(xié)作是確保人工智能?chē)?guó)際合作能夠達(dá)成共識(shí),并持續(xù)推進(jìn)的基石。
“因此,十分有必要推進(jìn)形成由類(lèi)似于UNESCO這樣的政府間機(jī)構(gòu)、各國(guó)政府、學(xué)術(shù)界、產(chǎn)業(yè)、公眾緊密交互的多利益相關(guān)方人工智能治理體系,通過(guò)深度協(xié)同擴(kuò)大共識(shí)、避免誤解、減少分歧,確保人工智能的全球發(fā)展及其治理最終促進(jìn)人類(lèi)和生態(tài)的整體協(xié)同發(fā)展。”曾毅表示。
來(lái)源:《中國(guó)科學(xué)報(bào)》