4. 歐美、韓國相繼出臺AI治理新規(guī)，嚴(yán)格限制、甚至禁用相關(guān)人工智能技術(shù)在某些場景的發(fā)展和應(yīng)用

得票率：49.73%

案例描述：

歐盟委員會發(fā)布《人工智能白皮書》，希望通過不斷實現(xiàn)科學(xué)突破，維護歐盟的技術(shù)領(lǐng)先地位并確保新技術(shù)在尊重人權(quán)的基礎(chǔ)上，改善人們生活。當(dāng)前歐洲采取了一致的方法來應(yīng)對AI對人類和社會道德的影響，并思考了如何利用大數(shù)據(jù)進行創(chuàng)新。歐盟正在考慮禁止在公共場所使用人臉識別技術(shù)長達(dá)五年，以便有時間研究如何防止這種技術(shù)被濫用。歐盟委員會表示，在為期3至5年的禁令期間，“可以確定和制定評估這一技術(shù)的影響和可能的風(fēng)險管理措施的健全方法”。歐盟文件稱，對于安全項目以及科技研發(fā)活動，禁令可能會有例外。該文件還建議，對人工智能的開發(fā)者和用戶都施加一些義務(wù)，歐盟國家的政府應(yīng)該指定監(jiān)管機構(gòu)來監(jiān)管新規(guī)則。

韓國科學(xué)技術(shù)信息通信部2020年11月27日與情報通信政策研究院（KISDI）共同發(fā)布“國家人工智能倫理標(biāo)準(zhǔn)”，提出理想的人工智能開發(fā)和運用方向，指出人工智能需以人為中心。在開發(fā)和運用人工智能的過程中，需遵守維護人的尊嚴(yán)、社會公益和技術(shù)合乎目的這3大原則。

此外，美國東海岸城市波士頓通過了禁止面部識別技術(shù)用于市政用途的投票。這是自2019年5月舊金山頒布此項禁令以來，采用此項禁令的第二大美國城市。該法令獲得一致通過，這條法令將阻止城市使用面部識別技術(shù)或獲得使用該技術(shù)進行監(jiān)視的軟件。此后，俄勒岡州波特蘭、緬因州波特蘭也均通過了類似禁令以限制該技術(shù)在政府部門的應(yīng)用。（來源：綜合鳳凰網(wǎng)等）

專家點評：

薛瀾 清華大學(xué)人工智能國際治理研究院院長

人工智能治理的核心要素中基本價值觀、治理體系、參與者、治理對象以及效果評價五個方面至關(guān)重要。很多治理問題可以通過技術(shù)本身來解決，目前人工智能發(fā)展面臨的最大挑戰(zhàn)是：人工智能技術(shù)發(fā)展太快，而治理準(zhǔn)則作為一種社會體系，其發(fā)展有其程序，又是緩慢的，因此，我們需要“敏捷治理”。

人工智能可以學(xué)習(xí)已有的國際機制，未來不斷加強AI領(lǐng)域的國際合作，我們可以在合作過程中找到各方的共同點，并不斷探討、溝通，一同尋找人工智能共同的準(zhǔn)則和規(guī)則，引導(dǎo)人工智能的健康發(fā)展，為人類造福。

徐云程 曠視首席發(fā)展官、曠視 AI 治理研究院院長

這個案例非常重要。2020年談到人臉識別技術(shù)，大多是負(fù)面消息，AI治理似乎不是一個“為善”問題，而是帶有風(fēng)險的問題。隨著技術(shù)的發(fā)展，人們逐漸意識到了技術(shù)的一些風(fēng)險。但值得注意的是，當(dāng)輿論一邊倒時，對于技術(shù)的一刀切其實有待考慮，也要思考?xì)W盟和美國所做決定的合理性以及是否應(yīng)該仿效。對于在全世界范圍內(nèi)人臉識別技術(shù)的應(yīng)用場景與其背后的人類福祉、安全隱私等問題，大家在沒有進行深入探討的情況下，不應(yīng)過分否定。同時也應(yīng)考慮，人臉識別技術(shù)只是深度學(xué)習(xí)相對成型和商業(yè)應(yīng)用比較廣泛的一類技術(shù)，在新技術(shù)不斷成熟的過程中，我們應(yīng)該用怎樣的方法來解決不斷涌現(xiàn)出的新問題。個人希望，人臉識別技術(shù)能夠為人工智能時代打造一個樣本，即在面對新出現(xiàn)的倫理問題時，不因噎廢食，同時又能建設(shè)性地解決問題。中國的人臉識別技術(shù)如果能走出這條路，對于我們在全球范圍內(nèi)提出“中國觀點”是很有幫助的。

孫明 俊中關(guān)村智用人工智能研究院執(zhí)行院長、中視科技CEO

面部識別作為自動化分析的代表性應(yīng)用，在政府部門的應(yīng)用中與現(xiàn)有的發(fā)達(dá)國家的法律制度有很大的不兼容性。首先，公眾“棱鏡門”丑聞再次出現(xiàn)的警惕。2007年美國國家安全局啟動的網(wǎng)絡(luò)監(jiān)控計劃“棱鏡（PRISM）”將任何涉外通訊列為監(jiān)聽對象。2013年該項目由美國特工愛德華斯諾登曝出。“棱鏡門”直接使得歐洲美國之間的個人數(shù)據(jù)流通協(xié)議作廢，并增加了美國公民對政府的不信任。其次，隱私權(quán)，即公權(quán)力無權(quán)侵入私人生活，是美國公民和歐盟公民最重要的憲法權(quán)利。面部識別，結(jié)合云計算，具備的強大分析功能，可能會使公權(quán)力完整記錄私人行蹤的軌跡成為可能。歐盟法院曾經(jīng)在“數(shù)字權(quán)利愛爾蘭”一案中，將政府的大范圍數(shù)據(jù)分析裁定為非法。最后，面部識別在公權(quán)力的應(yīng)用是否符合人類中心原則是模糊的。歐盟、日本、韓國和電氣電子工程師學(xué)會（美國）的人工智能文件中都提到了人工智能開發(fā)的人類中心原則，人工智能開發(fā)應(yīng)以增進人類福祉為目的。但基于統(tǒng)計方法的面部識別技術(shù)在公權(quán)力，尤其是行政機關(guān)，的應(yīng)用很可能將機器凌駕于人之上。