國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，9月1日起將正式施行，所有AI生成的文字、圖片、視頻等內(nèi)容都要“亮明身份”。針對(duì)這些內(nèi)容在傳播過程中該由誰來管？怎么管？

　　《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》明確，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息。人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。

　　平臺(tái)在服務(wù)提供者的內(nèi)容上架或上線時(shí)要進(jìn)行審核，核驗(yàn)生成合成內(nèi)容標(biāo)識(shí)，對(duì)未標(biāo)識(shí)或疑似生成內(nèi)容要添加風(fēng)險(xiǎn)提示，從而在傳播端阻斷虛假信息擴(kuò)散。

　　中國人民大學(xué)未來法治研究院執(zhí)行院長 張吉豫：“標(biāo)識(shí)辦法”中進(jìn)行檢測(cè)分三個(gè)層次，如果平臺(tái)是從元數(shù)據(jù)中檢測(cè)出隱式標(biāo)簽，那么平臺(tái)就可以標(biāo)識(shí)這個(gè)內(nèi)容是AI生成的，但是如果它只是通過一些算法推測(cè)這個(gè)內(nèi)容是AI生成的，它應(yīng)該是標(biāo)識(shí)為疑似AI生成。

　　針對(duì)目前由于技術(shù)的局限性而導(dǎo)致的部分原創(chuàng)內(nèi)容被誤判為AI生成，創(chuàng)作者權(quán)益受損等情況，法學(xué)專家指出，當(dāng)前的算法仍然存在數(shù)據(jù)偏差和場(chǎng)景適配不足等問題，在誤判率難以歸零的情況下，應(yīng)當(dāng)建立相應(yīng)的保障機(jī)制。

　　張吉豫：未來相關(guān)平臺(tái)進(jìn)行了分級(jí)標(biāo)識(shí)后，其實(shí)也應(yīng)該建立分級(jí)的處理辦法，比如說對(duì)于明確它是AI生成的，通過隱式標(biāo)識(shí)確定的，應(yīng)該采取更嚴(yán)格的措施，但是對(duì)于很多應(yīng)該標(biāo)識(shí)為疑似AI生成的，應(yīng)該提供更便捷的用戶反饋渠道，也不宜對(duì)用戶進(jìn)行嚴(yán)肅的懲罰。

　　法學(xué)專家建議，首先網(wǎng)絡(luò)服務(wù)提供者要公開算法原理及誤判樣本數(shù)據(jù)，提升透明度；其次要設(shè)立申訴渠道，允許用戶提交證據(jù)申請(qǐng)復(fù)核，從而保證監(jiān)管與創(chuàng)作自由的平衡。

　　讓生成內(nèi)容看得見查得著 以規(guī)范促發(fā)展

　　據(jù)記者了解，截至目前，我國已有490余款大模型在國家網(wǎng)信辦完成備案，240余款大模型在省級(jí)網(wǎng)信辦完成登記，我國生成式人工智能產(chǎn)品的用戶規(guī)模已達(dá)2.3億人。“標(biāo)識(shí)辦法”的施行，會(huì)對(duì)行業(yè)、個(gè)人用戶，以及相關(guān)技術(shù)的發(fā)展帶來哪些影響？

　　據(jù)記者了解，作為我國人工智能領(lǐng)域首部“辦法+強(qiáng)標(biāo)”的組合拳，強(qiáng)制性的國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》將于9月1日與《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》同步施行，在監(jiān)管維度建立審核、監(jiān)測(cè)、追責(zé)的閉環(huán)機(jī)制，在技術(shù)維度規(guī)范標(biāo)識(shí)體系并預(yù)留創(chuàng)新空間。

　　中國社科院法學(xué)所研究員 支振鋒：特別要提出的是這種生成式人工智能治理，我們一系列國家法律法規(guī)，還有規(guī)范性文件以及標(biāo)準(zhǔn)，一個(gè)很重要的治理目的是以規(guī)范促發(fā)展，通過治理和規(guī)范去凈化互聯(lián)網(wǎng)市場(chǎng)，凈化網(wǎng)絡(luò)信息內(nèi)容、生態(tài)空間，從而促進(jìn)人工智能特別是生成式人工智能，它的規(guī)范運(yùn)用和健康良性的發(fā)展，實(shí)際上還是通過規(guī)范去促進(jìn)發(fā)展的。

　　另外，據(jù)專家介紹，高質(zhì)量數(shù)據(jù)對(duì)生成式人工智能產(chǎn)業(yè)發(fā)展至關(guān)重要，基于錯(cuò)誤或不完整的數(shù)據(jù)作出的決策可能偏離正確方向，不符合法規(guī)要求的數(shù)據(jù)可能帶來法律風(fēng)險(xiǎn)。如果未經(jīng)標(biāo)識(shí)的內(nèi)容進(jìn)入公開數(shù)據(jù)領(lǐng)域，被大模型用于預(yù)訓(xùn)練會(huì)出現(xiàn)數(shù)據(jù)污染等情況，最終會(huì)導(dǎo)致技術(shù)可信度的大大降低，而“標(biāo)識(shí)辦法”的出臺(tái)，正是從源頭破解這一困局的關(guān)鍵舉措。

　　張吉豫：對(duì)于人工智能企業(yè)去選擇相應(yīng)的訓(xùn)練數(shù)據(jù)能夠起到很好的指引，特別是所有的這樣的生成內(nèi)容都需要進(jìn)行隱式的標(biāo)識(shí)，這些標(biāo)識(shí)是很便捷的，可以被機(jī)器檢測(cè)的，就可以很便捷的去篩選哪些可能的內(nèi)容是機(jī)器產(chǎn)生的，也便于他們?nèi)ミM(jìn)行訓(xùn)練的選擇。

　　有利于公平競(jìng)爭(zhēng) 減少侵權(quán)詐騙等問題

　　據(jù)專家介紹，在《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》以及強(qiáng)制性的國家標(biāo)準(zhǔn)同步施行的情況下，標(biāo)識(shí)的存在也會(huì)對(duì)大規(guī)模搬運(yùn)人工智能直接生成內(nèi)容的行為進(jìn)行攔截，讓內(nèi)容平臺(tái)有了更明確的合規(guī)要求和管理程序，有利于降低總體的審核運(yùn)營成本。

　　據(jù)法學(xué)專家介紹，《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》的施行有利于公平競(jìng)爭(zhēng)和有效管理。

　　首先，強(qiáng)制“標(biāo)識(shí)”有利于保護(hù)傳統(tǒng)內(nèi)容產(chǎn)業(yè)，能在一定程度上降低AI技術(shù)帶來的沖擊；

　　另外，通過標(biāo)識(shí)可以追溯AI生成內(nèi)容的來源，減少因AI生成內(nèi)容引發(fā)的侵權(quán)、詐騙等問題，維護(hù)個(gè)人隱私和財(cái)產(chǎn)安全。

　　支振鋒：這些生成人工智能服務(wù)的使用者，比如說自媒體賬號(hào)、博主，他們要使用這些服務(wù)的話，他們自己也有合規(guī)的要求，特別是一些MCN機(jī)構(gòu)，一些自媒體賬號(hào)，它其實(shí)背后有公司在運(yùn)營，他們都有這樣的合規(guī)義務(wù)，都要按照這個(gè)辦法，還有國家標(biāo)準(zhǔn)去做生成合成內(nèi)容的標(biāo)識(shí)。

　　據(jù)法學(xué)專家介紹，“標(biāo)識(shí)辦法”與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等法規(guī)充分銜接。其中，服務(wù)提供者在履行算法備案、安全評(píng)估等手續(xù)時(shí)，相關(guān)材料可能涉及標(biāo)識(shí)的技術(shù)細(xì)節(jié)，如水印算法、元數(shù)據(jù)格式、服務(wù)商編碼等，這些信息能夠幫助執(zhí)法部門在發(fā)現(xiàn)違法內(nèi)容時(shí)快速識(shí)別內(nèi)容來源，追蹤到服務(wù)提供者或者用戶。