近日,，國(guó)家網(wǎng)信辦聯(lián)合國(guó)家發(fā)展改革委,、教育部,、科技部,、工業(yè)和信息化部、公安部,、廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱(chēng)《辦法》）,，自今年8月15日起施行。

國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示,，出臺(tái)《辦法》,，旨在促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護(hù)國(guó)家安全和社會(huì)公共利益,，保護(hù)公民,、法人和其他組織的合法權(quán)益。

采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展

作為關(guān)鍵通用技術(shù),，生成式人工智能對(duì)人民福祉,、經(jīng)濟(jì)發(fā)展、國(guó)家安全和戰(zhàn)略競(jìng)爭(zhēng)均具有重要意義,。國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人說(shuō),，《辦法》提出國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展,。

《辦法》第一條開(kāi)宗明義將“促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用”作為目標(biāo)，第三條進(jìn)一步闡明：“國(guó)家堅(jiān)持發(fā)展和安全并重,、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則,，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對(duì)生成式人工智能服務(wù)實(shí)行包容審慎和分類(lèi)分級(jí)監(jiān)管”,。

“《辦法》立足于促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,，除了在總則中明確了國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則外,，在‘技術(shù)發(fā)展與治理’一章中專(zhuān)門(mén)提出了一系列鼓勵(lì)措施,。”中國(guó)信息通信研究院政策與經(jīng)濟(jì)研究所所長(zhǎng)辛勇飛說(shuō),。

第五條規(guī)定,，鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容,，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系,。支持行業(yè)組織,、企業(yè)、教育和科研機(jī)構(gòu),、公共文化機(jī)構(gòu),、有關(guān)專(zhuān)業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè),、轉(zhuǎn)化應(yīng)用,、風(fēng)險(xiǎn)防范等方面開(kāi)展協(xié)作。

第六條規(guī)定,，鼓勵(lì)生成式人工智能算法,、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新,，平等互利開(kāi)展國(guó)際交流與合作,，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定。推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè),。促進(jìn)算力資源協(xié)同共享,，提升算力資源利用效能。

劃定底線(xiàn),，推動(dòng)生成式人工智能向上向善

生成式人工智能技術(shù)的快速發(fā)展,，為經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)新機(jī)遇的同時(shí)，也產(chǎn)生了傳播虛假信息,、侵害個(gè)人信息權(quán)益,、數(shù)據(jù)安全和偏見(jiàn)歧視等問(wèn)題。對(duì)此,，國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人說(shuō)：“《辦法》堅(jiān)持目標(biāo)導(dǎo)向和問(wèn)題導(dǎo)向,，明確了促進(jìn)生成式人工智能技術(shù)發(fā)展的具體措施，規(guī)定生成式人工智能服務(wù)的基本規(guī)范,?！?/p>

《辦法》對(duì)生成式人工智能服務(wù)提供者和使用者提出了要求：

——應(yīng)當(dāng)遵守法律、行政法規(guī),，尊重社會(huì)公德和倫理道德,。

《辦法》在總則中就將該內(nèi)容置于重要地位，明確規(guī)定,，堅(jiān)持社會(huì)主義核心價(jià)值觀,，不得生成煽動(dòng)顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度,，危害國(guó)家安全和利益,、損害國(guó)家形象,，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定,，宣揚(yáng)恐怖主義,、極端主義，宣揚(yáng)民族仇恨,、民族歧視,，暴力、淫穢色情,，以及虛假有害信息等法律,、行政法規(guī)禁止的內(nèi)容,。

——尊重知識(shí)產(chǎn)權(quán)和他人合法權(quán)益,。

生成式人工智能在個(gè)人信息的處理過(guò)程中，可能存在違法收集,、使用個(gè)人信息等風(fēng)險(xiǎn),；生成式人工智能的訓(xùn)練數(shù)據(jù)中如包括他人已發(fā)表并享有著作權(quán)的作品，也可能給知識(shí)產(chǎn)權(quán)造成侵害,。

為防止侵權(quán)的發(fā)生,，《辦法》第四條規(guī)定，尊重知識(shí)產(chǎn)權(quán),、商業(yè)道德,，保守商業(yè)秘密，不得利用算法,、數(shù)據(jù),、平臺(tái)等優(yōu)勢(shì)，實(shí)施壟斷和不正當(dāng)競(jìng)爭(zhēng)行為,；尊重他人合法權(quán)益,，不得危害他人身心健康，不得侵害他人肖像權(quán),、名譽(yù)權(quán),、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益,。第七條規(guī)定“涉及知識(shí)產(chǎn)權(quán)的,，不得侵害他人依法享有的知識(shí)產(chǎn)權(quán)”等內(nèi)容。

——提高生成內(nèi)容準(zhǔn)確性和可靠性,。

如何保障生成內(nèi)容的真實(shí)性,，既是產(chǎn)業(yè)界為進(jìn)一步擴(kuò)大生成式人工智能商用范圍需要克服的技術(shù)難題，也是監(jiān)管部門(mén)需要重點(diǎn)考慮的問(wèn)題,。對(duì)此,，《辦法》規(guī)定：“基于服務(wù)類(lèi)型特點(diǎn),，采取有效措施，提升生成式人工智能服務(wù)的透明度,，提高生成內(nèi)容的準(zhǔn)確性和可靠性,。”

——完善處置措施,。

除了規(guī)定相關(guān)實(shí)體義務(wù),，還需要使生成式人工智能服務(wù)提供者完善處置措施，這樣才能讓“紙上”的規(guī)定落到實(shí)處,。對(duì)此,，《辦法》明確：“提供者發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取停止生成,、停止傳輸,、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改,，并向有關(guān)主管部門(mén)報(bào)告,。”“提供者應(yīng)當(dāng)建立健全投訴,、舉報(bào)機(jī)制,，設(shè)置便捷的投訴、舉報(bào)入口,，公布處理流程和反饋時(shí)限,，及時(shí)受理、處理公眾投訴舉報(bào)并反饋處理結(jié)果,?！?/p>

采取更精細(xì)化監(jiān)管舉措

生成式人工智能具有此前技術(shù)不具有的諸多特征。針對(duì)其技術(shù)特點(diǎn),，《辦法》完善了與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式,，促使監(jiān)管部門(mén)采取更精細(xì)化的管理措施，實(shí)現(xiàn)技術(shù)創(chuàng)新與監(jiān)管創(chuàng)新的同步演化,、協(xié)同共振,。

辛勇飛介紹，人工智能算法具有“黑箱”特性,，表現(xiàn)為行為不可控,、決策機(jī)制難以解釋?zhuān)o人工智能監(jiān)管帶來(lái)了一定困難。為此,，《辦法》與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等現(xiàn)有規(guī)范一脈相承,，延續(xù)了此前監(jiān)管手段，同時(shí)明確了分類(lèi)分級(jí)監(jiān)管的原則,，健全了我國(guó)人工智能治理體系,。一是明確了安全評(píng)估與算法備案要求,。為有效應(yīng)對(duì)算法“黑箱”問(wèn)題，《辦法》明確,，提供具有輿論屬性或者社會(huì)動(dòng)員能力的生成式人工智能服務(wù)的,，應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更,、注銷(xiāo)備案手續(xù),。二是明確了信息披露要求?！掇k法》明確規(guī)定,，有關(guān)主管部門(mén)依據(jù)職責(zé)對(duì)生成式人工智能服務(wù)開(kāi)展監(jiān)督檢查，提供者應(yīng)當(dāng)依法予以配合,，按要求對(duì)訓(xùn)練數(shù)據(jù)來(lái)源,、規(guī)模、類(lèi)型,、標(biāo)注規(guī)則,、算法機(jī)制機(jī)理等予以說(shuō)明，并提供必要的技術(shù),、數(shù)據(jù)等支持和協(xié)助。

針對(duì)生成式人工智能的其他技術(shù)特點(diǎn),，《辦法》也作出了規(guī)定,。例如，第七條即充分考慮到訓(xùn)練數(shù)據(jù)的海量性和異質(zhì)性,，規(guī)定生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法開(kāi)展預(yù)訓(xùn)練,、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動(dòng)……采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性,、準(zhǔn)確性,、客觀性、多樣性,。

此外,，《辦法》還針對(duì)相關(guān)產(chǎn)業(yè)特點(diǎn)，鼓勵(lì)其發(fā)展,?！掇k法》規(guī)定：“鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用,，生成積極健康,、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景,，構(gòu)建應(yīng)用生態(tài)體系”,，“鼓勵(lì)生成式人工智能算法,、框架、芯片及配套軟件平臺(tái)等基礎(chǔ)技術(shù)的自主創(chuàng)新,，平等互利開(kāi)展國(guó)際交流與合作,，參與生成式人工智能相關(guān)國(guó)際規(guī)則制定”等。（記者 金歆）