在自動駕駛場景中，通過修改錐桶的形狀，就能讓汽車感知模塊失效，徑直撞上去；通過在T恤上打印含特殊的花紋，就能讓目標檢測系統(tǒng)捕捉不到穿這件衣服的人，實現(xiàn)“隱身”；制作帶有特制花紋的眼鏡，就能刷開數(shù)十部商用手機的人臉解鎖等。

上述案例已經(jīng)被研究團隊用來證明人工智能面臨“信任危機”，人們需要更加“可信”的人工智能。

在9月1日舉辦的2022年世界人工智能大會（WAIC）的一場可信AI論壇上，中國信通院聯(lián)合京東探索研究院等近30家政產(chǎn)學研單位共同發(fā)布《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報告》，對人工智能產(chǎn)業(yè)融合可信要素的發(fā)展態(tài)勢進行總體分析，研判發(fā)展趨勢并提出措施建議，為社會各界提供借鑒和參考，推動可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展。

(資料圖片僅供參考)

自2021年以來，歐盟和美國先后發(fā)布了《人工智能法案》和《2022算法問責法案》。在中國，深圳、上海等地也相繼推動人工智能立法條例。各國針對人工智能算法的監(jiān)測、人工智能應用的審查的相關監(jiān)管法規(guī)不斷增加，人工智能治理已進入建章立制階段。

《可信人工智能產(chǎn)業(yè)生態(tài)發(fā)展報告》指出，技術研究上，提升人工智能系統(tǒng)穩(wěn)定性、隱私保護技術占據(jù)可信人工智能技術研究主流，可解釋性、公平性等技術研究緊隨其后。

學界普遍認為，從應用的角度來看，以數(shù)據(jù)驅(qū)動的深度學習技術潛力接近“天花板”的原因是，深度學習的本質(zhì)是利用沒有加工處理過的數(shù)據(jù)用概率學習的“黑箱”處理方法尋找規(guī)律。這一方法本質(zhì)上不可解釋，非常脆弱，帶來了新的風險和問題。如“對抗樣本攻擊”， 通過在輸入數(shù)據(jù)中添加擾動，即可使系統(tǒng)做出錯誤判斷。

當前以對抗訓練、梯度屏蔽為代表的人工智能系統(tǒng)穩(wěn)定性技術穩(wěn)步發(fā)展；以同態(tài)加密、多方安全計算、差分隱私等為代表的隱私安全技術發(fā)展迅速；可解釋性增強技術研究當前仍處于初期階段，科技巨頭推出多個AI可解釋性工具及服務；提升人工智能公平性主流方法為通過構建完整異構數(shù)據(jù)集及引入公平?jīng)Q策量化指標算法，以減輕決策偏差。

清華大學人工智能研究院名譽院長、瑞萊智慧首席科學家張鈸院士提出“第三代人工智能”，要求綜合運用知識、數(shù)據(jù)、算法、算力四個要素，在實現(xiàn)高水平安全的前提下，為人工智能高水平發(fā)展提供動力和支撐。

螞蟻集團大安全機器智能部總監(jiān)、螞蟻集團技術委員會可信AI聯(lián)合工作組組長王維強表示，可信AI的主要屬性有四個，分別是魯棒性、可解釋性、隱私保護和公平性。

可信AI正在走向工業(yè)級應用時代，意味著真正的大規(guī)模應用，需要從數(shù)據(jù)可信，到模型可信，到平臺可信，到運營可信的工業(yè)化生產(chǎn)環(huán)境全鏈路的可信，讓可信成為AI技術發(fā)展中的一個內(nèi)在屬性，帶領AI走向更健康、更加可持續(xù)的未來，這需要產(chǎn)業(yè)界、學術界一起合作。

產(chǎn)業(yè)生態(tài)上，倫理、法律研究也在進一步深入。瑞萊智慧合伙人、高級副總裁朱萌對第一財經(jīng)記者表示，應該加強安全領域的三方面能力建設。“首先是，發(fā)掘現(xiàn)有AI安全風險、預判AI潛在風險；二是針對風險建設治理體系，包括建立AI治理理論、構建治理運轉(zhuǎn)機制、探索技術實踐路徑等；三是在治理體系框架下，重點探尋倫理法規(guī)的技術落地方案。”朱萌說道。

標簽： 人工智能 深度學習 倫理法規(guī)