學(xué)者看法

　　AI生成內(nèi)容 為什么要強制標(biāo)識

　　人工智能的迅猛發(fā)展正在重塑人類社會的生產(chǎn)和生活方式。它能夠進行邏輯推理并生成高質(zhì)量的文本、圖像和視頻，甚至能為人類提供很好的決策建議，為人類的生活與工作帶來諸多便利。但是，與其相伴而生的還有虛假信息、錯誤信息、權(quán)益侵害等一系列顯性與潛在的風(fēng)險。它既會誤導(dǎo)廣大普通用戶，也會嚴(yán)重污染信息生態(tài)和網(wǎng)絡(luò)輿論場。為防范該顛覆性技術(shù)所導(dǎo)致的信息風(fēng)險，推動AI健康發(fā)展，智能服務(wù)提供者應(yīng)當(dāng)承擔(dān)內(nèi)容標(biāo)識的義務(wù)。這既是社會各界的期望所在，也是許多國家在技術(shù)發(fā)展與公共利益之間所作的價值權(quán)衡。

　　義務(wù)論：內(nèi)容標(biāo)識源于對特定危險的防范

　　在義務(wù)論層面，智能服務(wù)提供者負(fù)有內(nèi)容標(biāo)識的義務(wù)，源于對特定危險的控制與防范。智能服務(wù)提供者作為技術(shù)開發(fā)與部署的核心主體，其算法設(shè)計和數(shù)據(jù)訓(xùn)練直接決定了生成內(nèi)容的性質(zhì)與潛在社會影響。根據(jù)危險控制論，作為危險的開創(chuàng)者和控制者，應(yīng)當(dāng)對可能發(fā)生的危險后果采取必要措施并承擔(dān)相應(yīng)的責(zé)任。在現(xiàn)代網(wǎng)絡(luò)空間，智能服務(wù)提供者通過向廣大用戶提供大語言模型的交互服務(wù)，讓互聯(lián)網(wǎng)與智能算法實現(xiàn)了深度融合，開啟了一種全新的信息服務(wù)與交流活動。借由該類服務(wù)與實踐活動，智能服務(wù)提供者和相關(guān)平臺的運營者可以從該活動中獲利。作為這種特定、抽象危險的開啟者，智能服務(wù)提供者在提供相關(guān)服務(wù)的過程中理應(yīng)根據(jù)實際情況采取必要措施，以保護廣大用戶的相關(guān)權(quán)益免受侵害。

　　同時，智能服務(wù)提供者作為智能系統(tǒng)的實際控制者，通過數(shù)據(jù)訓(xùn)練、模型優(yōu)化、參數(shù)設(shè)置等環(huán)節(jié)深度介入內(nèi)容生成過程，實質(zhì)上掌握著技術(shù)權(quán)力的“閥門”，發(fā)揮著現(xiàn)代社會信息生產(chǎn)和篩選的“把關(guān)人”角色。它直接決定著向用戶提供怎樣的信息，并影響著用戶的信息接收、思考和決策方式。相較普通用戶，智能服務(wù)提供者擁有強大的專業(yè)知識與能力，能夠預(yù)見可能發(fā)生的危險和損害，有能力采取必要的技術(shù)措施防止損害的發(fā)生或減輕損害?！度斯ぶ悄苌珊铣蓛?nèi)容標(biāo)識辦法》要求AI服務(wù)提供者對生成內(nèi)容添加標(biāo)識，本質(zhì)上是將技術(shù)風(fēng)險轉(zhuǎn)化為可追溯的法律責(zé)任，重點解決“哪些是生成的”“誰生成的”以及“從哪里生成的”的問題。這種設(shè)定將技術(shù)黑箱轉(zhuǎn)化為可追溯的責(zé)任鏈條，不僅是對個體侵權(quán)行為的預(yù)防，更是對技術(shù)異化風(fēng)險的系統(tǒng)性遏制，體現(xiàn)了技術(shù)權(quán)力與責(zé)任相匹配的正義原則。

　　功利論：內(nèi)容標(biāo)識能夠促進社會福祉的最大化

　　在現(xiàn)代社會，人類并不缺乏規(guī)制技術(shù)發(fā)展的手段，缺少的是能夠促進社會福祉的治理手段。換言之，在規(guī)制技術(shù)的同時，需要做到既不影響技術(shù)的創(chuàng)新發(fā)展，又不損害國家、社會和他人的合法權(quán)益。對AI進行治理，要求其履行內(nèi)容標(biāo)識義務(wù)，目的即是為了實現(xiàn)社會福祉的最大化。同時，人工智能的廣泛應(yīng)用還可能導(dǎo)致個人利益和社會公共利益之間的沖突，為實現(xiàn)最大多數(shù)人的最大幸福，就應(yīng)當(dāng)平衡該利益沖突。在這種情況下，國家既應(yīng)維護公共利益，又需保護個人權(quán)益，對技術(shù)所施加的限制盡可能地保持在最低限度，以不妨害個體最大限度地追求幸福。

　　在人工智能全面介入信息生產(chǎn)的背景下，未標(biāo)識的AI內(nèi)容不僅可能消解真實與虛構(gòu)的邊界，削弱公共討論的理性基礎(chǔ)，而且會導(dǎo)致責(zé)任主體的模糊，加劇法律追責(zé)與權(quán)利救濟的困難。現(xiàn)行制度通過強制內(nèi)容標(biāo)識，在技術(shù)效率與風(fēng)險防控之間建立平衡機制。從成本收益分析看，標(biāo)識義務(wù)的履行并不會給企業(yè)增加實質(zhì)性負(fù)擔(dān)，其成本遠遠低于提供智能服務(wù)所帶來的社會收益。對智能服務(wù)提供者而言，標(biāo)識系統(tǒng)能夠增強產(chǎn)品可信度，可避免因內(nèi)容失實導(dǎo)致的聲譽損失和法律處罰。對于智能服務(wù)使用者而言，明確標(biāo)識既能規(guī)避欺詐指控，也有助于建立負(fù)責(zé)任的技術(shù)使用形象。此外，內(nèi)容標(biāo)識制度更深層的效用在于，它能喚醒民眾的媒介素養(yǎng)意識，為公眾提供信息認(rèn)知的識別工具。當(dāng)人們明確知曉內(nèi)容的AI屬性時，會本能地啟動批判性思維和解碼，從而有助于抑制虛假信息的傳播效能。這種集體認(rèn)知免疫力的提升，正是功利主義追求的社會福祉最大化的體現(xiàn)。

　　德性論：內(nèi)容標(biāo)識是誠實信用美德的體現(xiàn)

　　在人工智能深度介入信息生產(chǎn)的時代，智能服務(wù)提供者對人工智能生成內(nèi)容進行標(biāo)識，是誠實信用美德的體現(xiàn)。與要求防范風(fēng)險的義務(wù)論和追求保護公共利益的目的論不同，美德論倡導(dǎo)智能服務(wù)提供者對內(nèi)容進行標(biāo)識，其本質(zhì)上是通過制度設(shè)計引導(dǎo)企業(yè)培育誠實、責(zé)任、審慎的德性?！度斯ぶ悄苌珊铣蓛?nèi)容標(biāo)識辦法》要求服務(wù)提供者對AI生成內(nèi)容添加標(biāo)識，即是將誠實、善良等品質(zhì)作為美德進行倡導(dǎo)，特別是在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標(biāo)識，只是鼓勵企業(yè)自覺標(biāo)識，而非強制規(guī)定。這一要求并非簡單的合規(guī)操作，而是意圖通過實踐持續(xù)塑造企業(yè)的道德行為。

　　內(nèi)容標(biāo)識，特別是對數(shù)據(jù)來源標(biāo)注的要求，促使企業(yè)以美德標(biāo)準(zhǔn)自我約束，避免利用技術(shù)優(yōu)勢掩蓋內(nèi)容生成過程，從而維護信息生態(tài)的真實性與可信賴性。作為信息傳播的重要主體，智能服務(wù)提供者生成的內(nèi)容若缺乏標(biāo)識，本質(zhì)上是對信息真實性的遮蔽，違背了誠實信用的美德。企業(yè)在對合成內(nèi)容進行標(biāo)識時，需根據(jù)不同場景(如新聞報道、藝術(shù)創(chuàng)作)靈活選擇標(biāo)識方式，既需遵守法律規(guī)范，又得兼顧用戶體驗與商業(yè)倫理?，F(xiàn)行制度允許服務(wù)提供者在不影響內(nèi)容消費的前提下采用隱式標(biāo)識，這要求企業(yè)在技術(shù)實現(xiàn)中平衡透明度與實用性，體現(xiàn)了實踐智慧的中道精神。

　　【作者系中國人民大學(xué)新聞學(xué)院教授。本文系教育部人文社科研究規(guī)劃基金項目“生成式人工智能的傳播侵權(quán)問題研究”(24YJA860012)階段性成果】

　　盧家銀 來源：中國青年報

　　2025年04月27日 03版