中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境

随着生(shēng)成式人工智(zhì)能技术快速发展，利用人工智能技术生成或合成文字、图像、音乐、视频、3D等数字内(nèi)容(róng)成为网络空间内容的主要生产方式(shì)，不断为数字经济、产业发展甚至社会变革注入强大动力。然而，伴随内(nèi)容生成合成门槛的不断降低，新技术的滥(làn)用也(yě)对网络(luò)空间治理提出了更大挑战。当前，中(zhōng)美欧等均探索将内容披露和标(biāo)识义务入法，国(guó)内外多家互联(lián)网公司也逐步推进标识嵌入和管理举(jǔ)措，内容标识已(yǐ)然成为全球打击虚假有害信(xìn)息的通行做法。为顺应这一实践趋势和(hé)产业需求，国(guó)家互联网信息办公室等部门适时发(fā)布《人工智能生成合成(chéng)内(nèi)容标识办法》（下称《办法》）及配套国家(jiā)标(biāo)准《网络安全技术(shù) 人工智能生成(chéng)合成内容(róng)标识方法》（下称《标识方法》），全方位、多层次地规(guī)范人工智能内容标识要求和方法，迈出了完善我国人工智能治(zhì)理制度的重要(yào)一步(bù)。

一、问题导向，破解人工(gōng)智能生成合成(chéng)内容(róng)新需求新风险

立足于(yú)生成式人工智能健(jiàn)康(kāng)发展和规范应用，《办法》以问题为导(dǎo)向，通过系统(tǒng)性、创新性制度设计，全(quán)面回应了对人(rén)工智能生成合成(chéng)内容标识的要求。

一(yī)是先行提出(chū)生成(chéng)合成内容标识(shí)的中国方案。针(zhēn)对人工智(zhì)能内(nèi)容生成(chéng)合成带来的颠覆(fù)性风险挑战，国(guó)际层面也在(zài)不断探索(suǒ)内容标识方法和(hé)路径。欧盟2024年8月(yuè)正式生效的《人(rén)工智能法案(àn)》规定了要确保人工智能生成合成内容(róng)的透明度义务，要(yào)求平台添加强制性水印。美(měi)国加州2024年8月发布(bù)《数字内(nèi)容溯(sù)源标(biāo)识法案》，要求在人工智能生成物中嵌入可(kě)溯源数据，以确保内容来源的透明度。国际电信联盟2024年7月(yuè)发布《检测深度伪造和(hé)生成(chéng)式人(rén)工智能：人(rén)工智能水印和多媒体真实性标准研讨会的报告》，包括内容标识在内，初步探讨(tǎo)了深(shēn)度合成内容检测的标准协作安排。《办法》根(gēn)植于我国发展实践，立足长远、着眼前瞻、行(xíng)动快速，率先通过标准完善(shàn)补(bǔ)充生成(chéng)式(shì)人工智能综合治理机制，有力支撑(chēng)了科技向善的治(zhì)理理念，为世界(jiè)贡献发展(zhǎn)与安全并行的人工智能(néng)治理中国方案。

二是(shì)着力加强服务商生成(chéng)合成内容标识的规范性(xìng)。随着人工智能生成合成内容工(gōng)具的(de)普及化和可及(jí)化发展，技术应用的(de)门槛较(jiào)之前(qián)大(dà)大(dà)降低。早(zǎo)在(zài)2022年中(zhōng)央网信(xìn)办等(děng)就发布了《互联网信息服务深度合(hé)成管理规定》（以(yǐ)下简(jiǎn)称《规定》），明确指出深度合成服务提(tí)供者应(yīng)当在生成或(huò)者编辑的信息内容(róng)的合理位置、区域进行显著标(biāo)识，向公众提示深度合成情况。但《规定(dìng)》主要明确了需要添加标识的情况(kuàng)，对于添加标识的位置、字(zì)型(xíng)和表达并(bìng)未做(zuò)出具体要求，因此各类(lèi)企(qǐ)业在实施过程(chéng)中出现了文本内容显式标识不明显、难察(chá)觉(jué)，音频、视频等(děng)内容(róng)显式标识未(wèi)插入(rù)、浅提示，隐式标识少信息、难校验等问题，对于落实监管提出了挑战(zhàn)。出台《办法》，是进一步推进生成合成内容标识工作的必要举措，对规范互联网信息服(fú)务深度合成(chéng)管理、解决生成合成内容标识突出问题、推进信息网络生态环(huán)境(jìng)治理意(yì)义重(zhòng)大，影响深远。

三是进一步(bù)完(wán)善生成式(shì)人(rén)工智能监管问责体系。生成式人工智能生成合成内容涉及多种类型的主体，清晰界定各主体义务更(gèng)有利于压实主体责任，便利技术检测实施，进而落实精准问责。《办法》不仅界定了人工智能生成合(hé)成内容的基本概念，更针对(duì)服务提供者、传播平台、应用服务分发平(píng)台(tái)和用(yòng)户分别规定(dìng)了具体标识要求，为各相关主体落实合规指明了方向。由此，《办法》就现行责任制度作出补充，充分细化了《规定》提出的深度合(hé)成(chéng)服(fú)务提供者(zhě)和技术支持者行为规范，为促进新技术新(xīn)应用的规范发展提供了有益范例。

二、明确要求(qiú)，促进人工智能生成合成内容精细化治理

人工智能(néng)生成合成内容(róng)不仅(jǐn)包括文本、图像、音(yīn)频、视频等多(duō)种表现形式，更在“元宇宙”等交互式、沉浸式场景中提供(gōng)了更多实现方案。《标识方法》对于人工智能生成合成内容进行了全方位(wèi)覆盖，并且进一步(bù)明确(què)了《办法》要求和(hé)具体操作指引。

一是区(qū)分显式标(biāo)识和隐式标识规范要(yào)求(qiú)。为满足当前(qián)可感知和不可(kě)感知的两类标识方法(fǎ)需要，《标识方法》清晰阐述了各自的关(guān)键要(yào)素(sù)要求，对于显式标(biāo)识主(zhǔ)要围绕文字(zì)要素、位(wèi)置、字型、颜色(sè)、音频节奏、视(shì)频像素和交互提示等提(tí)出要求，对于元(yuán)数据(jù)和内容(róng)隐式(shì)标识提出生(shēng)成(chéng)合成标签要素(sù)、服(fú)务提供者要(yào)素和内容编号要素等(děng)关键指引。

二是列(liè)举显式标识典型应用场景。《标识方(fāng)法》通过列举式的方式对于显式标识的应用场景做出(chū)了(le)进一步(bù)细化，在《规定》中提到(dào)的五类显著标识应用场(chǎng)景之外加(jiā)以(yǐ)补(bǔ)充，包括文生图(tú)片等(děng)图片内容生成服务；音乐等音频内容生成服务；文生(shēng)视频、图(tú)生视(shì)频等视频内容生成服务。新列举的(de)三类典型(xíng)应用场景属于2022年后迅速发(fā)展(zh中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境ǎn)起来新型生成(chéng)合成内容形式，尤其是ChatGPT、Sora展示(shì)出视频内容生成的强大潜能。《标识(shí)方法》囊括此三类典型应用场景有利于针对性(xìng)、前(qián)瞻性开展监管，符合生成式人工智能的技(jì)术原理与产(chǎn)业需要。

三是(shì)规范元(yuán)数据隐式标识格式要(yào)求。此前(qián)生成合成内容隐(yǐn)式标识方法在不同规模、不(bù)同技术水平的企业间应用各不相同，标识(shí)的标签信息也未有一致，这就导致识(shí)别隐式标识对于监管主体(tǐ)和内容平(píng)台而言(yán)面临挑战。《标识方法》为(wèi)解决这(zhè)一问题，对(duì)于隐式标识(shí)扩展字段关键(jiàn)词和应包括的标(biāo)签、编号、预留字段的值等添加了(le)具体说明，为行业(yè)统一、稳定、持续落实隐式标识要求提供了有效措施。

四是展示显式和(hé)隐式标识各要求对应示例(lì)。《标识方法(fǎ)》以图片示例的形式对于各(gè)类显式和隐式标识要求(qiú)进(jìn)行了(le)展示(shì)，有助于企业直观了(le)解标准要求，避免因文字表述引发的模(mó)糊和(hé)歧义，从(cóng)而推动行业协同落实，提(tí)升治理效能。

三、守正创(chuàng)新，兼顾内容生成合成服务管理与技术创新(xīn)应用(yòng)

人工智能生成合成技(jì)术应在安全(quán)的(de)前提下(xià)规范(fàn)使用、加(jiā)速发展，以高水平的治理保障高质量发展。《办法》及《标识方法》充分考虑(lǜ)“用”和(hé)“管”两侧需求，最大限度减少内容标识对于用户(hù)使用的影(yǐ中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境or: #ff0000; line-height: 24px;'>中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境ng)响，推动企(qǐ)业自主自愿展示标识(shí)。一是提供多种标识方法，适应更多产品形态。《标识方法(fǎ)》对于(yú)文本内容显式标识创新提出角标(biāo)形式，仅需在内容末尾加注(zhù)角标(biāo)“AI”即可高效满足要求，对于音频内容(róng)则首(shǒu)次提出音频节奏(zòu)标识，在音频适当位置加(jiā)入“短(duǎn)长短短”节奏(zòu)的摩斯码表(biǎo)示即可达到(dào)提示作用。此类标识方法不仅对于企业而言(yán)便于打造不同产品样态，也能保障用户使用体验和认(rèn)知效果，在实现监(jiān)管(guǎn)目的的同时也为技术发(fā)展提供了有效保(bǎo)障。二是划分不同主体(tǐ)责任，精细化避风港原则适用。《办法》虽然(rán)将标识添加的责任主要施加于服务提(tí)供者和上(shàng)传内容的用户，但未(wèi)对传播平台和应用分发平台实施“一刀切 ”式的避风港规则。《办法》采取一种更为精细化的路径，详细规定传播平台应当对文件元数据中的扩展字段进行核验，提示用户(hù)生成合成内容信息，并(bìng)在文件元数(shù)据(jù)中添加传播要素信息；应用(yòng)服务分发平台应在应用程(chéng)序上架或上线审核前核验服务提供者是否按(àn)要求提供生成合成内容标识功能(néng)。此举有助于适当调(diào)整服务提供者、使(shǐ)用者和(hé)传播分发平台的(de)义务分配，避免相关平台“隐身”于深度合成监管体系，从而真正(zhèng)实现齐抓共(gòng)管(guǎn)、协同共治的治理机制，有效维护(hù)健康向善的信息(xī)网(wǎng)络生态环境。

作者(zhě)：魏凯，中国信息通信研究(jiū)院人工智能研究(jiū)所所长(zhǎng)

来源：“网信中国”微信公众号

校审 | 谨言、珊珊

编辑(jí) | 凌霄

未经允许不得转载：橘子百科-橘子都知道中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境