全球科技巨頭在AI大模型領(lǐng)域不斷推出新品之際，中國(guó)監(jiān)管部門的步伐正迎頭趕上,。

4月11日,，國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》（下稱《管理辦法》），并向社會(huì)公開(kāi)征求意見(jiàn),，截止期為5月10日,。

如果《管理辦法》獲得通過(guò)，中國(guó)將正式開(kāi)啟對(duì)AIGC（人工智能生成式內(nèi)容）的專門監(jiān)管,。

根據(jù)國(guó)家網(wǎng)信辦發(fā)布的通知,，制定《管理辦法》的目的是促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用。整體共分21條,，涵蓋內(nèi)容監(jiān)管,、算法監(jiān)管、數(shù)據(jù)監(jiān)管等維度,，其中內(nèi)容安全條款占據(jù)篇幅最多,。

有知情人士向財(cái)經(jīng)E法透露，《管理辦法》自2022年下半年即開(kāi)始醞釀,，但ChatGPT在今年的火爆“出圈”加速了制定進(jìn)程,。

這與全球主要法域的步伐一致。當(dāng)?shù)貢r(shí)間4月11日,，美國(guó)商務(wù)部就ChatGPT等AI大模型監(jiān)管措施公開(kāi)征求意見(jiàn),，其中涉及存在潛在風(fēng)險(xiǎn)的新AI模型在發(fā)布前是否要走認(rèn)證核準(zhǔn)程序,。根據(jù)財(cái)經(jīng)E法此前文章（意大利封禁加拿大調(diào)查,，ChatGPT會(huì)面臨新“禁令”嗎？）,，一些歐洲國(guó)家正采取針對(duì)ChatGPT的風(fēng)險(xiǎn)防控措施,，歐盟成員也在提議磋商《人工智能法案》有關(guān)生成式人工智能的條款,。

那么，《管理辦法》的推出體現(xiàn)了哪些意圖,，釋放了哪些信號(hào),，又會(huì)給產(chǎn)業(yè)界帶來(lái)哪些影響？

包含諸多“微迭代”內(nèi)容

隨著中國(guó)市場(chǎng)上生成式人工智能玩家相繼入局,，監(jiān)管時(shí)機(jī)也逐步成熟,。

《管理辦法》第2條顯示了適用范圍和基本定義：適用于“研發(fā)、利用生成式人工智能產(chǎn)品,，面向中華人民共和國(guó)境內(nèi)公眾提供服務(wù)的”,；“生成式人工智能”，是指基于算法,、模型,、規(guī)則生成文本、圖片,、聲音,、視頻、代碼等內(nèi)容的技術(shù)

正如財(cái)經(jīng)E法此前文章（科技巨頭搶占ChatGPT風(fēng)口, 數(shù)據(jù)安全挑戰(zhàn)不可掉以輕心）,，今年1月,，伴隨微軟宣布對(duì)研發(fā)了ChatGPT的OpenAI公司進(jìn)行的一筆大額投資，ChatGPT爆火出圈,，席卷全球,。隨后，由于ChatGPT上線兩個(gè)月即達(dá)到上億用戶的規(guī)模,，谷歌也迅速跟隨發(fā)布類似ChatGPT的聊天機(jī)器人項(xiàng)目,，帶動(dòng)了全球資本市場(chǎng)對(duì)這一領(lǐng)域的持續(xù)追捧。與此同時(shí),，ChatGPT已經(jīng)開(kāi)始沖擊全球教育業(yè),，并可能帶來(lái)法律、安全,、倫理風(fēng)險(xiǎn),，甚至滋生犯罪。

進(jìn)入4月,，中國(guó)互聯(lián)網(wǎng)公司開(kāi)始密集推出各自的AI大模型,。目前已上線內(nèi)測(cè)的產(chǎn)品除了百度的“文心一言”，還有阿里云的“通義千問(wèn)”,、?商湯科技的“日日新”等,。

北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括指出,，AIGC等新技術(shù),、新應(yīng)用快速發(fā)展,，在全社會(huì)引起了高度的、廣泛的關(guān)注和突出的風(fēng)險(xiǎn)關(guān)切,。他認(rèn)為,，《管理辦法》是全球第一款“GPT法”。中國(guó)監(jiān)管部門的介入是現(xiàn)實(shí)的,，《管理辦法》開(kāi)始征求意見(jiàn),，本身就是一個(gè)重大的信號(hào)，體現(xiàn)了提前研判,、提前介入,、提前監(jiān)管的思路。有助于企業(yè)及早構(gòu)建合規(guī)解決方案,，提前布局必要的合規(guī)機(jī)制和工具,，有效減少風(fēng)險(xiǎn)；同時(shí)也為國(guó)外參與者進(jìn)入中國(guó)市場(chǎng)的合規(guī)運(yùn)營(yíng)提供了明確規(guī)范,，有助于各方更好地理解中國(guó)的監(jiān)管要求和核心價(jià)值訴求,，及時(shí)調(diào)整和適配自身的產(chǎn)品和服務(wù)。

吳沈括分析說(shuō),，現(xiàn)階段AIGC的中外監(jiān)管思路的明顯區(qū)別是,，歐美各國(guó)側(cè)重從數(shù)據(jù)安全、數(shù)據(jù)保護(hù),、數(shù)據(jù)治理的角度來(lái)介入和推動(dòng)監(jiān)管落地,；中國(guó)則是一種綜合治理的思路，強(qiáng)調(diào)權(quán)益保護(hù),、數(shù)據(jù)治理,、內(nèi)容治理等多個(gè)維度。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣認(rèn)為,，在ChatGPT熱潮帶動(dòng)下,，未來(lái)的兩三年，中國(guó)相關(guān)技術(shù)將會(huì)產(chǎn)生大突破,，也會(huì)出現(xiàn)成熟的商業(yè)化應(yīng)用落地,。同時(shí)，生成式人工智能也會(huì)對(duì)互聯(lián)網(wǎng)內(nèi)容治理會(huì)帶來(lái)較大沖擊,。

張欣注意到,，《管理辦法》體現(xiàn)了技術(shù)治理上“小而靈”的立法范式。張欣解釋說(shuō),，由于技術(shù)發(fā)展非?？欤灰欢ㄒ人谢A(chǔ)條件成熟之后再立法，可以在制度設(shè)計(jì)上及時(shí)進(jìn)行有針對(duì)性的,、垂直領(lǐng)域的立法,，從而實(shí)現(xiàn)新興科技創(chuàng)新與治理的雙輪驅(qū)動(dòng),，避免治理的滯后性,。

競(jìng)天公誠(chéng)律師事務(wù)所合伙人袁立志也認(rèn)為，《管理辦法》有不少“微迭代”的內(nèi)容,。

袁立志舉例說(shuō),，《管理辦法》規(guī)定了AIGC服務(wù)提供者承擔(dān)內(nèi)容生產(chǎn)者責(zé)任；服務(wù)提供者承擔(dān)數(shù)據(jù)處理者責(zé)任——應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù),、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé),；限制數(shù)據(jù)使用要求——不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像；AIGC服務(wù)提供者承擔(dān)應(yīng)急處置義務(wù)——對(duì)于運(yùn)行中發(fā)現(xiàn),、用戶舉報(bào)的違法違規(guī)生成內(nèi)容,，除采取內(nèi)容過(guò)濾等措施外，還應(yīng)在3個(gè)月內(nèi)通過(guò)模型優(yōu)化訓(xùn)練等方式防止再次生成,。

部分條款受關(guān)注

雖然監(jiān)管只涉及到“微迭代”,，《管理辦法》的部分條款仍引發(fā)關(guān)注,。

《管理辦法》第4條第4項(xiàng)確立了內(nèi)容真實(shí)性要求：利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息,。

“這項(xiàng)與AIGC固有屬性可能存在一定沖突,。”袁立志認(rèn)為,，防止虛假信息的重點(diǎn)不應(yīng)在技術(shù)前端直接管死,，而應(yīng)著眼于應(yīng)用層面，避免生成的虛假信息公開(kāi)傳播誤導(dǎo)輿論,。

另外,，內(nèi)容責(zé)任設(shè)置上，《管理辦法》僅針對(duì)生成式人工智能服務(wù)提供者,，但未涉及產(chǎn)品的使用者,，袁立志認(rèn)為，這意味著合規(guī)責(zé)任主要由平臺(tái)承擔(dān),。

《管理辦法》雖重在監(jiān)管,，但第三條顯著凸顯鼓勵(lì)A(yù)IGC行業(yè)發(fā)展的態(tài)度：國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新,、推廣應(yīng)用,、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件,、工具,、計(jì)算和數(shù)據(jù)資源,。

上海大邦律師事務(wù)所高級(jí)合伙人游云庭認(rèn)為，AIGC產(chǎn)業(yè)涉及國(guó)家競(jìng)爭(zhēng)力,，出臺(tái)監(jiān)管辦法,，是為了應(yīng)對(duì)可能產(chǎn)生的問(wèn)題，給產(chǎn)業(yè)一個(gè)引導(dǎo)方向,，不代表要把這個(gè)產(chǎn)業(yè)管死,。

為何內(nèi)容監(jiān)管條款占據(jù)篇幅最多？

袁立志表示,，著重強(qiáng)調(diào)內(nèi)容安全,，有兩方面因素：?一方面，AIGC本身是一款重內(nèi)容的技術(shù),，無(wú)論中外,，內(nèi)容合規(guī)都是AIGC 監(jiān)管的重點(diǎn)。另一方面,，還與中國(guó)一向重視網(wǎng)絡(luò)內(nèi)容安全相關(guān),。

財(cái)經(jīng)E法注意到，《管理辦法》不少條款都可以在《網(wǎng)絡(luò)安全法》《數(shù)據(jù)保護(hù)法》《個(gè)人信息保護(hù)法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)中找到出處,。

比如,，《管理辦法》第9條明確了用戶實(shí)名制要求，上位法為《網(wǎng)絡(luò)安全法》第24條,；第16條要求服務(wù)提供者對(duì)生成的圖片,、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)，依據(jù)是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第16至18條,。

此外,，《管理辦法》還寫入多個(gè)算法公平條款?！豆芾磙k法》第4條規(guī)定,，在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇,、模型生成和優(yōu)化,、提供服務(wù)等過(guò)程中，采取措施防止出現(xiàn)種族,、民族,、信仰、國(guó)別,、地域,、性別、年齡、職業(yè)等歧視,；第21條再次明確,，AIGC服務(wù)提供者不得根據(jù)用戶的種族、國(guó)別,、性別等進(jìn)行帶有歧視性的內(nèi)容生成,。

張欣表示，以往,，中國(guó)在算法及人工智能相關(guān)立法中對(duì)于“算法公平”的強(qiáng)調(diào)偏弱,。2022年3月1日起施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,，在征求意見(jiàn)稿階段曾經(jīng)包含以下表述：“不得設(shè)置歧視性或者偏見(jiàn)性用戶標(biāo)簽,。”但最終版本刪除了這一表述,。

此前,，已有金融領(lǐng)域行業(yè)協(xié)會(huì)發(fā)布針對(duì)ChatGPT等工具的倡議行動(dòng)。

4月10日,，中國(guó)支付清算協(xié)會(huì)明確指出,，“ChatGPT這類智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風(fēng)險(xiǎn)?！辈l(fā)出“謹(jǐn)慎使用ChatGPT等工具”的倡議,，該倡議強(qiáng)調(diào)支付行業(yè)從業(yè)人員要提高思想認(rèn)識(shí)，依法依規(guī)使用ChatGPT等智能化工具,，正確認(rèn)識(shí)相關(guān)工具的機(jī)遇和風(fēng)險(xiǎn),，全面評(píng)估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險(xiǎn)；倡議支付行業(yè)從業(yè)人員在使用ChatGPT等工具時(shí),，要嚴(yán)格遵守國(guó)家及行業(yè)相關(guān)法律法規(guī)要求,，不上傳國(guó)家及金融行業(yè)涉密文件及數(shù)據(jù)、不上傳非公開(kāi)的資料及數(shù)據(jù),、客戶資料,、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等內(nèi)容；倡議各會(huì)員單位要進(jìn)一步健全信息安全內(nèi)控管理制度,，開(kāi)展有針對(duì)性的數(shù)據(jù)風(fēng)險(xiǎn)防控工作,，加強(qiáng)宣傳和引導(dǎo)，提升員工的風(fēng)險(xiǎn)防范和數(shù)據(jù)保護(hù)意識(shí),，切實(shí)維護(hù)國(guó)家金融及支付行業(yè)安全,。