近段時間，國內外科技巨頭紛紛涌入萬億級AIGC（生成式AI）賽道，A股市場上AIGC、ChatGPT等人工智能相關概念也受到熱捧。火爆的同時，相關的風險也越來越不容忽視，各國都開始意識到對人工智能監管的必要性。

(資料圖片僅供參考)

AIGC賽道火熱

自年初以來，以ChatGPT為首的生成式AI應用在全球掀起一場AIGC浪潮。國外方面，已有包括微軟、谷歌、亞馬遜等科技巨頭輪番暗戰。國內包括百度、騰訊、阿里、華為、京東、360等多家科技巨頭均已宣布在生成式AI產業有相應布局。

東吳證券表示，ChatGPT應用空間廣泛，潛在市場規模可觀，到2025年AIGC產生的數據將占所有數據的10%，2030年AIGC市場規模將超過萬億元。

“潘多拉魔盒”同時打開，風險隱患如何預防

ChatGPT在短短時間內吸引了大量用戶，但業內人士也越來越意識到所帶來的風險隱患。3月29日，埃隆·馬斯克等一千多名業界、學界人士則聯署發表公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統，暫停時間至少6個月。一些公司開始采取措施來降低這些風險，其中包括OpenAI公司。

4月初，OpenAI公司表示，將向報告其人工智能系統漏洞的用戶提供高達2萬美元的獎勵。OpenAI發布了一項名為Bug Bounty的計劃，并邀請研究人員審查ChatGPT的某些功能以及OpenAI系統如何與第三方應用程序共享數據的框架。

近日，抖音也開出了自己的藥方。抖音明確，發布者應對人工智能生成內容進行顯著標識。抖音要求，在抖音應用生成式人工智能技術時，發布者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景。同時，發布者需對人工智能生成內容產生的相應后果負責，無論內容是如何生成的。

多國監管機構出手整治

與此同時，各國政府和監管機構開始采取措施限制和管理相關技術，以確保公眾利益和安全。

當地時間3月31日，意大利個人數據保護局宣布，從即日起禁止使用聊天機器人ChatGPT，限制ChatGPT的開發公司OpenAI處理意大利用戶信息，并開始立案調查。該決定使意大利成為首個明確禁用ChatGPT的國家。

當地時間4月11日，美國商務部就ChatGPT等人工智能技術相關的問責措施正式公開征求意見，包括具有潛在風險的新型人工智能模型在發布前是否應進行核準認證程序。

4月11日，中國國家互聯網信息辦公室發布的《生成式人工智能服務管理辦法（征求意見稿）》。依據征求意見稿，利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務。

4月30日，七國集團（G7）的數字和技術部長在日本結束為期兩天的會議后，同意“基于風險”推出一項針對人工智能的監管法案。根據聯合聲明，G7雖同意出臺相應的監管政策，但重申監管也應該為人工智能技術“保持一個開放有利的環境”。

5月4日，英國競爭和市場管理機構宣布，將對人工智能市場展開審查，涉及ChatGPT等工具背后的技術。

5月4日，美國白宮宣布首個AI監管計劃。白宮公告稱，美國國家科學基金會計劃撥款1.4億美元，用于啟動7所新的國家人工智能研究院。同日，美國副總統哈里斯以及多位白宮高級官員與谷歌、微軟、OpenAI和AI初創公司Anthropic的首席執行官會面，集中討論當前和近期的技術發展所帶來的風險。美國政府官員和科技界高管還討論了評估人工智能系統的有效性，以及確保系統免受攻擊的重要性。

5月9日，日本首相岸田文雄透露，擬設置磋商制定利用AI相關規則等的“AI戰略會議”。岸田當天在官邸與研究人員和創業人才等開會時稱，“會著眼于AI的潛力和風險推進舉措”。

5月11日，歐洲議會兩個委員會通過《人工智能法案》提案的談判授權草案。新文本將嚴格禁止“對人類安全造成不可接受風險的人工智能系統”，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特征等進行評價的系統等。談判授權草案還要求人工智能公司對其算法保持人為控制，提供技術文件，并為 “高風險”應用建立風險管理系統。每個歐盟成員國都將設立一個監督機構，確保這些規則得到遵守。該草案為世界上第一部綜合性人工智能法律鋪平道路。這一草案將于6月中旬提交歐洲議會全會表決，之后歐洲議會將與歐盟理事會就法律的最終形式進行談判。

標簽：