在人工智能展示了其非凡的創(chuàng)造力以及潛在的危害力之后，越來(lái)越多力量加入了呼吁監(jiān)管的隊(duì)伍之中。

近日，為確保歐洲人工智能以人為本的道德發(fā)展，歐洲議會(huì)內(nèi)部市場(chǎng)委員會(huì)和公民自由委員會(huì)以 84 票贊成、7票反對(duì)、12票棄權(quán)通過(guò)了《人工智能法案》的談判授權(quán)草案。修改后的《人工智能法案》針對(duì)人工智能基礎(chǔ)模型、價(jià)值鏈責(zé)任和最近大熱的生成式人工智能做出回應(yīng)，同時(shí)研究了針對(duì)企業(yè)尤其是中小企業(yè)和初創(chuàng)企業(yè)的豁免條款。

大型網(wǎng)絡(luò)平臺(tái)推薦系統(tǒng)被列入高風(fēng)險(xiǎn)

歐盟關(guān)于人工智能立法的進(jìn)程，最早可以追溯到2018年的《人工智能時(shí)代：確立以人為本的歐洲戰(zhàn)略》報(bào)告，報(bào)告解讀了歐盟在人工智能領(lǐng)域的最新發(fā)展現(xiàn)狀；2021年4月21日，歐盟委員會(huì)正式提出《人工智能法案》提案，世界范圍內(nèi)第一部針對(duì)人工智能進(jìn)行規(guī)制的法律邁開(kāi)制定的腳步。

北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括在接受21世紀(jì)經(jīng)濟(jì)報(bào)道記者采訪時(shí)表示，歐盟的立法強(qiáng)調(diào)結(jié)合歐盟自身的經(jīng)濟(jì)技術(shù)、現(xiàn)狀，同時(shí)服務(wù)于歐盟打造世界級(jí)經(jīng)濟(jì)體和確保數(shù)字主權(quán)、技術(shù)主權(quán)的政策目標(biāo)，在強(qiáng)調(diào)保障創(chuàng)新發(fā)展的同時(shí)突出體現(xiàn)了以風(fēng)險(xiǎn)管理為導(dǎo)向的監(jiān)管思路，它的制定出臺(tái)會(huì)對(duì)世界人工智能產(chǎn)業(yè)發(fā)展生態(tài)和人工智能監(jiān)管走向帶來(lái)非常大的影響。

監(jiān)管框架定義了人工智能的4個(gè)風(fēng)險(xiǎn)級(jí)別：不可接受的風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、風(fēng)險(xiǎn)有限、最小或無(wú)風(fēng)險(xiǎn)。這些規(guī)則基于風(fēng)險(xiǎn)制定，并根據(jù)人工智能可能產(chǎn)生的風(fēng)險(xiǎn)級(jí)別為提供者和用戶規(guī)定義務(wù)。

風(fēng)險(xiǎn)級(jí)別上，所有被認(rèn)為對(duì)人們的安全、生計(jì)和權(quán)利構(gòu)成明顯威脅的人工智能系統(tǒng)都被認(rèn)為是不可接受的風(fēng)險(xiǎn)而將被禁止，包括部署潛意識(shí)或有目的地操縱技術(shù)、利用人們的弱點(diǎn)或用于社會(huì)評(píng)分。

這次法案大幅修改了不可接受的風(fēng)險(xiǎn)相關(guān)名單，禁止侵入性和歧視性地使用人工智能系統(tǒng)，例如公共場(chǎng)所的“實(shí)時(shí)”遠(yuǎn)程生物特征識(shí)別系統(tǒng)，使用敏感特征的生物識(shí)別分類系統(tǒng)，預(yù)測(cè)性警務(wù)系統(tǒng)等都被禁止。

而在高風(fēng)險(xiǎn)級(jí)別方面，歐洲議會(huì)議員擴(kuò)大了高風(fēng)險(xiǎn)領(lǐng)域的分類，對(duì)人們健康、安全、基本權(quán)利或環(huán)境造成危害的人工智能屬于此類。高風(fēng)險(xiǎn)人工智能系統(tǒng)在投放市場(chǎng)之前將受到嚴(yán)格的義務(wù)約束。同時(shí)他們認(rèn)為，被認(rèn)定為大型網(wǎng)絡(luò)平臺(tái)的社交媒體平臺(tái)（根據(jù)《數(shù)字服務(wù)法》擁有超過(guò) 4500 萬(wàn)用戶）所使用的推薦系統(tǒng)，會(huì)對(duì)網(wǎng)絡(luò)安全、公眾輿論、選舉等產(chǎn)生強(qiáng)烈影響，也被列入高風(fēng)險(xiǎn)的人工智能。

值得注意的是，《人工智能法案》認(rèn)為，人工智能系統(tǒng)的概念應(yīng)明確定義，并與從事人工智能工作的國(guó)際組織的工作密切一致，以確保法律的確定性、統(tǒng)一性和廣泛接受性，同時(shí)提供靈活性以適應(yīng)該領(lǐng)域的快速技術(shù)發(fā)展。此外，它應(yīng)該基于人工智能的關(guān)鍵特征，如學(xué)習(xí)、推理或建模能力，以便將其與更簡(jiǎn)單的軟件系統(tǒng)或編程方法區(qū)分開(kāi)來(lái)。

厘清產(chǎn)業(yè)鏈各主體責(zé)任分配

《人工智能法案》針對(duì)人工智能價(jià)值鏈責(zé)任的義務(wù)劃分、基礎(chǔ)模型提供者和生成式AI等最新問(wèn)題做了相應(yīng)回應(yīng)。

在人工智能價(jià)值鏈責(zé)任分配上，法案中提到，任何分發(fā)者、進(jìn)口者、部署者或其他第三方應(yīng)被視為高風(fēng)險(xiǎn)人工智能系統(tǒng)的提供者，需要履行相應(yīng)的義務(wù)。如在高風(fēng)險(xiǎn)人工智能系統(tǒng)上標(biāo)明名稱、聯(lián)系方式，提供數(shù)據(jù)規(guī)格或數(shù)據(jù)集相關(guān)信息，保存日志等。

“在AIGC產(chǎn)業(yè)鏈中，具有多種形態(tài)。例如，在模型即服務(wù)（MaaS）的產(chǎn)業(yè)模式下，可能上游基礎(chǔ)模型的服務(wù)提供者是供應(yīng)者，中間會(huì)有中間層負(fù)責(zé)對(duì)點(diǎn)工具的開(kāi)發(fā)；到了下游也就是具體的應(yīng)用場(chǎng)景中，可能會(huì)有進(jìn)一步的直接面向個(gè)人用戶的服務(wù)提供者。此外，開(kāi)源模式下，有人利用開(kāi)源軟件結(jié)合數(shù)據(jù)進(jìn)行微調(diào)和部署，在這個(gè)領(lǐng)域當(dāng)中，這個(gè)供應(yīng)者、分發(fā)者、進(jìn)口者和部署者可能就又是不一樣的。”對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣介紹，歐盟的《人工智能法案》較為清晰地厘清了AIGC產(chǎn)業(yè)鏈上的主體責(zé)任，同時(shí)根據(jù)主體之間的具體角色、具體特質(zhì)進(jìn)行了劃分，很大程度上體現(xiàn)了公平的責(zé)任。

在吳沈括看來(lái)，在立法思路上，歐盟慣常于剖析分解生態(tài)當(dāng)中上下游不同角色之間的作用地位，并根據(jù)這些因素劃定義務(wù)和責(zé)任范圍。對(duì)于責(zé)任的劃分基于調(diào)研得出，上下游不同企業(yè)發(fā)揮什么樣的作用就承擔(dān)什么樣的角色。同時(shí)，根據(jù)他們對(duì)于這個(gè)生態(tài)的影響和價(jià)值，依據(jù)比例原則配置相應(yīng)的義務(wù)內(nèi)容，設(shè)定相應(yīng)的處罰強(qiáng)度。

而在通用人工智能方面，《人工智能法案》也對(duì)基礎(chǔ)模型提供者的義務(wù)進(jìn)行了規(guī)定，如需要評(píng)估和降低風(fēng)險(xiǎn)，遵守設(shè)計(jì)、信息和環(huán)境要求，在歐盟數(shù)據(jù)庫(kù)中注冊(cè)。通用型人工智能是指非為特殊目的進(jìn)行特別設(shè)計(jì)的具有廣泛適用性的人工智能系統(tǒng)，其一般功能包括但不限于圖像和語(yǔ)音識(shí)別、音頻和視頻生成、模式檢測(cè)、問(wèn)答、翻譯和其他功能。

對(duì)于GPT這樣的生成式基礎(chǔ)模型來(lái)說(shuō)，基礎(chǔ)模型的設(shè)計(jì)和開(kāi)發(fā)必須有足夠的保障措施，確保其符合歐盟法律。同時(shí)，根據(jù)透明度規(guī)則的要求，只要文本是 AI 生成的，它就必須披露；需要設(shè)計(jì)模型以防止其生成非法內(nèi)容；對(duì)于訓(xùn)練數(shù)據(jù)，需要提供版權(quán)法所涵蓋的詳細(xì)摘要。

張欣提示，關(guān)于人工智能所使用的數(shù)據(jù)，此次法案存在算法透明度和知識(shí)產(chǎn)權(quán)兩條路徑。未來(lái)生成式人工智能的產(chǎn)業(yè)鏈發(fā)展當(dāng)中，從知識(shí)產(chǎn)權(quán)角度來(lái)說(shuō)，對(duì)于數(shù)據(jù)集的訓(xùn)練、所著圖片文字如何進(jìn)行合理的利益分配提供了借鑒的思路。

關(guān)切中小企業(yè)和初創(chuàng)企業(yè)

21世紀(jì)經(jīng)濟(jì)報(bào)道記者梳理發(fā)現(xiàn)，在監(jiān)管方式上，《人工智能法案》除提出監(jiān)管沙盒外，還提到了高風(fēng)險(xiǎn)人工智能系統(tǒng)數(shù)據(jù)庫(kù)。這是由歐盟與各成員國(guó)合作建立的一個(gè)公共數(shù)據(jù)庫(kù)，相關(guān)供應(yīng)商應(yīng)按照相應(yīng)要求將規(guī)定的數(shù)據(jù)輸入該庫(kù)中。同時(shí)規(guī)定，數(shù)據(jù)庫(kù)中的信息應(yīng)向公眾免費(fèi)提供。

在張欣看來(lái)，該數(shù)據(jù)庫(kù)是對(duì)算法透明度、公眾知情權(quán)、商業(yè)秘密三者之間一個(gè)較為平衡的做法。目前來(lái)看，結(jié)合商業(yè)秘密的考量，算法可解釋性非常低。在這種情況下，對(duì)于公眾來(lái)說(shuō)要想去理解它的運(yùn)行邏輯、預(yù)見(jiàn)可能產(chǎn)生的風(fēng)險(xiǎn)，其實(shí)是非常難的?！斑@種做法類似于我們國(guó)家的算法備案，通過(guò)建立數(shù)據(jù)庫(kù)向公眾進(jìn)行公開(kāi)，建立了一個(gè)比較好的合理的透明度。在人工智能領(lǐng)域，深度神經(jīng)網(wǎng)絡(luò)雖然可解釋性有限，但用于訓(xùn)練的數(shù)據(jù)集通?？梢酝ㄟ^(guò)數(shù)據(jù)解釋的方式提升整體的透明度?！?/p>

“這是一個(gè)比較前沿的實(shí)踐方式，目的是建立有關(guān)高風(fēng)險(xiǎn)系統(tǒng)的一個(gè)信息數(shù)據(jù)池，匯聚各種信息和數(shù)據(jù)，幫助各層級(jí)監(jiān)管執(zhí)法乃至社會(huì)監(jiān)督的過(guò)程當(dāng)中，對(duì)于高風(fēng)險(xiǎn)系統(tǒng)有一個(gè)更為直觀、更為動(dòng)態(tài)和前沿的認(rèn)知，而且這個(gè)數(shù)據(jù)庫(kù)處于持續(xù)更新的狀態(tài)?！眳巧蚶▽?duì)21世紀(jì)經(jīng)濟(jì)報(bào)道記者表示。

同時(shí)，《人工智能法案》對(duì)于中小企業(yè)、初創(chuàng)企業(yè)也給予了相應(yīng)的豁免。如“第28（a）條 單方面強(qiáng)加給中小企業(yè)或初創(chuàng)企業(yè)的不公平合同條款”規(guī)定，一個(gè)企業(yè)單方面強(qiáng)加給中小企業(yè)或初創(chuàng)企業(yè)的相關(guān)合同條款或措施，如果是不公平的，則對(duì)后一企業(yè)沒(méi)有約束力。同時(shí)監(jiān)管沙盒的其中一個(gè)很重要目標(biāo)，便是要確保中小企業(yè)和初創(chuàng)企業(yè)能夠輕松訪問(wèn)沙盒，積極參與開(kāi)發(fā)和測(cè)試。

就像聯(lián)合報(bào)告員Dragos Tudorache所表示的，“我們一直致力于支持歐洲的人工智能創(chuàng)新，為初創(chuàng)企業(yè)、中小企業(yè)和行業(yè)提供發(fā)展和創(chuàng)新的空間”。

支持中小企業(yè)創(chuàng)新，在張欣看來(lái)非常重要。一方面，大模型的研發(fā)可能出現(xiàn)新一輪的技術(shù)壁壘，對(duì)于監(jiān)管來(lái)說(shuō)，相關(guān)政策在制定過(guò)程中需要對(duì)相關(guān)利益分配進(jìn)行適當(dāng)平衡，否則就可能對(duì)于中小企業(yè)和初創(chuàng)企業(yè)產(chǎn)生擠壓作用。另一方面，人工智能技術(shù)的創(chuàng)新和組織規(guī)模、架構(gòu)之間有著非常重要的相關(guān)性。以O(shè)penAI為例，作為一個(gè)只有300人團(tuán)隊(duì)的中小企業(yè)研發(fā)了ChatGPT。

吳沈括認(rèn)為這是歐盟關(guān)于平衡安全監(jiān)管和發(fā)展創(chuàng)新之間的一個(gè)機(jī)制創(chuàng)新。反映了歐盟一貫以來(lái)對(duì)于中小企業(yè)發(fā)展的扶持優(yōu)待政策，同時(shí)也跟歐盟境內(nèi)超過(guò)95%以上屬于中小企業(yè)的經(jīng)濟(jì)基礎(chǔ)是相匹配的，它的核心是在監(jiān)管的同時(shí)為中小企業(yè)的創(chuàng)新，留下必要的發(fā)展空間。

針對(duì)最近的談判授權(quán)草案，歐洲議會(huì)預(yù)計(jì)將在 6 月 12 日至 15 日的會(huì)議期間進(jìn)行表決。得到批準(zhǔn)之后，相關(guān)法案便可進(jìn)入下一立法環(huán)節(jié)，一旦獲得批準(zhǔn)，歐盟《人工智能法案》將有望成為全球首部有關(guān)人工智能的法規(guī)。

張欣表示，歐盟的人工智能法案為相關(guān)國(guó)家立法提供制度參考，規(guī)則與規(guī)則之間的嵌套和搭配非常精細(xì)，踐行了基于風(fēng)險(xiǎn)的人工智能分類分級(jí)治理思路。除此之外，該治理規(guī)則得到一整套人工智能的監(jiān)管和治理工具，如認(rèn)證、評(píng)估等進(jìn)行支撐，

但是她也提出了一個(gè)更加值得思考的問(wèn)題。“歐盟雖然立法精細(xì)，但是歐盟的整個(gè)人工智能企業(yè)、數(shù)字化企業(yè)的發(fā)展卻沒(méi)有那么的先進(jìn)。所以從更廣泛、更宏觀的角度來(lái)講，人工智能或者說(shuō)高新科技領(lǐng)域的立法，和高新科技領(lǐng)域的創(chuàng)新之間，相關(guān)性到底是怎么樣的，也可能值得我們?nèi)ビ^察、思考。”