歐盟朝著全球首部人工智能（AI）立法又邁出重要一步。

當?shù)貢r間14日，歐洲議會以499票贊成、28票反對和93票棄權，高票通過了歐盟的《人工智能法案》談判授權草案。

(資料圖片)

第一財經(jīng)記者看到的草案文本顯示，歐洲議會對此前版本作出修改，譬如在如何定義人工智能方面，進一步明確了高風險人工智能的場景，同時該版本也保留了此前的法案的重要內(nèi)容，包括禁止在生物識別監(jiān)控中使用人工智能技術，以及ChatGPT等生成式人工智能的披露透明度等問題。

據(jù)悉，接下來各方將正式進入與歐盟委員會進行協(xié)商的程序，以確定最終版本，最快也要在今年年底才能達成共識。

“監(jiān)管中必須有不可跨越的紅線。歐盟的《人工智能法案》中就規(guī)定了不可發(fā)展的部分，比如不可用于社會評分。”歐洲工商管理學院（INSAED）的決策科學和技術管理教授埃夫根尼奧（Theos Evgeniou）對第一財經(jīng)記者表示："不過從某種意義上來說，歐洲更復雜，在解決某些重大問題時，所有成員國需要達成一致，需要考慮到不同成員國之間不同的立法流程、文化背景以及治理體系。所以歐洲的行動相比起來較為緩慢。因此，歐洲希望從一開始就不要在監(jiān)管上犯錯誤。"

人工智能分級管理

歐盟于2021年首次提出《人工智能法案》，旨在制定管理使用人工智能系統(tǒng)的任何產(chǎn)品和服務的規(guī)則。

目前的該法案談判授權草案采取了分級管理的思路，即基于人工智能的四個等級（從風險最小到不可接受），進行區(qū)別管理，風險較高的應用程序將面臨更嚴格的規(guī)則，需要更高的透明度和準確性。

歐洲議會認為，對人類安全造成不可接受風險的人工智能系統(tǒng)將被嚴格禁止，包括部署潛意識或有目的操縱技術、利用人們?nèi)觞c或用于社會評分的系統(tǒng)。

譬如，用于預先確定犯罪發(fā)生地點和犯罪者的警務工具可能將被禁止，除打擊和預防特定恐怖威脅外，遠程面部識別技術也將被禁止。

此次，歐洲議會就批準了全面禁止警察在公共場所使用實時面部識別技術的立法草案文本。具體而言，此次歐洲議會議員擴大了禁止清單，進一步禁止了侵入性和歧視性使用人工智能，其中包括在公共場所的實時遠程生物特征識別監(jiān)控系統(tǒng)，使用敏感特征（例如性別、種族等）的生物識別分類系統(tǒng)，預測性警務系統(tǒng)（基于分析、位置或既往犯罪行為），執(zhí)法、邊境管理、工作場所和教育機構中的情緒識別系統(tǒng)以及從互聯(lián)網(wǎng)或閉路電視錄像中無針對性地抓取面部圖像以創(chuàng)建面部識別數(shù)據(jù)庫的行為。

將立法推進到投票階段的歐洲議會人工智能委員會的聯(lián)合報告員本尼菲（Brando Benifei）表示，在面部識別方面，法律將提供“明確的保障措施，以避免任何大規(guī)模監(jiān)控的風險”。

徹底記錄訓練人工智能版權

需要提到的是，最初的草案并未詳細涵蓋聊天機器人，但由于在立法期間，ChatGPT橫空出世，立法者添加了一項修正案，將ChatGPT和類似的生成式AI與高風險系統(tǒng)置于同一級別。

歐洲議會提出，像ChatGPT這樣的生成基礎模型必須遵守額外的透明度要求，比如披露內(nèi)容是由人工智能生成的，設計模型以防止其生成非法內(nèi)容，以及發(fā)布用于訓練的受版權保護數(shù)據(jù)的摘要。

此外，歐洲議會的議員們還希望提高歐洲公民對人工智能系統(tǒng)提出投訴的權利，并獲得對基于嚴重影響其權利的高風險人工智能系統(tǒng)決策的解釋權利。

在歐盟的定義里，由于生成式人工智能沒有特定用途，因而將其劃分為通用人工智能領域（General Purpose AI），并強制披露受版權保護的人工智能訓練數(shù)據(jù)。

根據(jù)草案文本，開發(fā)商在歐盟市場上發(fā)布之前在歐盟人工智能管理數(shù)據(jù)庫中進行登記。如ChatGPT等工具，必須披露哪些內(nèi)容是人工智能生成的，以便幫助區(qū)分所謂的深度造假圖像和真實圖像，并確保防止生成非法內(nèi)容。

同時，此次在草案中，歐洲議會要求徹底記錄任何用于訓練人工智能系統(tǒng)如何生成類似于人類作品的文本、圖像、視頻和音樂的版權材料，且開發(fā)商還必須證明他們?yōu)橛柧殭C器所做的一切都符合法律。

歐洲議會議員圖朵拉赫表示，如果人工智能的開發(fā)者不這樣做，他們可能會被迫立即刪除應用程序或被罰款，罰款最高可達其收入的 7%，這對科技巨頭來說可能高達數(shù)億歐元。

埃夫根尼奧對第一財經(jīng)記者表示，像ChatGPT這樣的生成性AI技術是所謂“根基模型”（foundation models）。

“人們可以在這種模型的基礎上開發(fā)大量產(chǎn)品，并能夠進行微調(diào)。換言之，它們不是單純的產(chǎn)品，而是核心技術，是人們可以開發(fā)的產(chǎn)品之核心所在。”他解釋道，“這種核心技術本身已經(jīng)非常強大，我們甚至無法預測人們將依靠它們開發(fā)出什么。我們也從未仔細考慮過如何管控和規(guī)范根基模型。這是一種新概念。”

“很明顯，我們需要對其中一些部分進行監(jiān)管。要注意的是，我們要規(guī)范和監(jiān)管的是內(nèi)容審核的過程，而非內(nèi)容本身。”他表示：“一些國家和地區(qū)已著手制定有關內(nèi)容審核的法規(guī)。例如，歐洲提出《數(shù)字服務法》（DSA），涉及規(guī)范在線平臺的內(nèi)容。在我看來，這是一個很好的法規(guī)，因為它帶來了一個公平和透明的內(nèi)容審核程序。”

他并補充道，總之，我們需要法規(guī)來規(guī)范如何公平和透明地審核內(nèi)容，至于內(nèi)容來自人還是來自人工智能，這在某種意義上并不重要。

據(jù)悉，接下來，歐洲議會、歐盟理事會和歐盟委員會的代表將在“三方”會談中商定最終條款。在條款最終確定且該法案成為法律后，將有大約兩年的寬限期。

（記者高雅對本文亦有貢獻）

標簽：