本報(bào)訊 近日，歐盟委員會(huì)公布了嚴(yán)格監(jiān)管人工智能（AI）的計(jì)劃。據(jù)《科學(xué)》報(bào)道，該委員會(huì)將起草新的法律，包括禁止人類無(wú)法解釋的“黑匣子”AI系統(tǒng)，以控制該技術(shù)的高風(fēng)險(xiǎn)應(yīng)用，比如用于醫(yī)療設(shè)備和自動(dòng)駕駛汽車。
在宣布該計(jì)劃的新聞發(fā)布會(huì)上，歐盟委員會(huì)主席Ursula von der Leyen說(shuō)，盡管監(jiān)管將比此前任何的歐盟規(guī)定都更廣泛、更嚴(yán)格，但其目標(biāo)是促進(jìn)信任，而不是恐懼。該計(jì)劃還包括更新歐盟2018年AI戰(zhàn)略的措施，以及在未來(lái)10年投入數(shù)10億歐元用于研發(fā)。但這并非最終定案，未來(lái)12周內(nèi)，即在起草具體法律的工作正式啟動(dòng)前，專家、游說(shuō)團(tuán)體和公眾可對(duì)該計(jì)劃發(fā)表意見。
相比美國(guó)，歐洲對(duì)待AI的態(tài)度更謹(jǐn)慎，歐盟官員希望通過(guò)監(jiān)管贏得消費(fèi)者信任，推動(dòng)AI的更廣泛應(yīng)用。
歐盟委員會(huì)AI獨(dú)立顧問小組成員、歐洲政策研究中心AI政策研究員Andrea Renda表示：“歐盟試圖在最擅長(zhǎng)的領(lǐng)域發(fā)揮領(lǐng)導(dǎo)作用，這是一個(gè)非常堅(jiān)實(shí)和全面的監(jiān)管框架。”
該委員會(huì)希望針對(duì)醫(yī)療、交通或刑事司法等領(lǐng)域的AI“高風(fēng)險(xiǎn)”使用，制定有約束力的規(guī)則。確定風(fēng)險(xiǎn)的標(biāo)準(zhǔn)將包括以下考慮因素：某人是否會(huì)受到傷害——被一輛自動(dòng)駕駛汽車或醫(yī)療設(shè)備傷害；或者一個(gè)人是否對(duì)機(jī)器決策的影響幾乎無(wú)發(fā)言權(quán)。
歐盟委員會(huì)還希望通過(guò)人工監(jiān)管來(lái)阻止不可預(yù)測(cè)的AI“黑匣子”。這些規(guī)則還將用于管理訓(xùn)練AI系統(tǒng)的大型數(shù)據(jù)集，以確保這些數(shù)據(jù)集是合法獲取的、可追溯的，并且足夠廣泛。
法律將確定誰(shuí)對(duì)人工智能系統(tǒng)的行為負(fù)責(zé)——使用它的公司還是設(shè)計(jì)它的公司，高風(fēng)險(xiǎn)的應(yīng)用程序在部署到歐盟之前必須符合這些規(guī)則。
另外，歐盟委員會(huì)計(jì)劃提供一種“值得信賴的AI”認(rèn)證，以鼓勵(lì)在低風(fēng)險(xiǎn)使用中自愿遵守，而之后被發(fā)現(xiàn)有違規(guī)行為的認(rèn)證系統(tǒng)可能面臨罰款。
歐盟委員會(huì)還將就面部識(shí)別系統(tǒng)“在歐洲展開一場(chǎng)廣泛的辯論”。這是一種人工智能形式，可以在人群中未經(jīng)同意而識(shí)別個(gè)人。盡管德國(guó)等歐盟國(guó)家已公布了部署該系統(tǒng)的計(jì)劃，但官員們表示，這些系統(tǒng)經(jīng)常違反歐盟隱私法。
該委員會(huì)還將制訂一項(xiàng)“行動(dòng)計(jì)劃”，將AI整合到交通和醫(yī)療等公共服務(wù)中，并更新其2018年AI發(fā)展戰(zhàn)略，該戰(zhàn)略為研究投入了15億歐元。
來(lái)源：《中國(guó)科學(xué)報(bào)》
