中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境

随着生成式人工(gōng)智(zhì)能(néng)技(jì)术快速发展，利用人工智(zhì)能技术生(shēng)成或(huò)合成文字(zì)、图像、音(yīn)乐、视频、3D等数字内容成为网络空间内(nèi)容的主要生(shēng)产方式，不断(duàn)为数字经济、产业发展甚至社会变革注入强大动力。然而，伴(bàn)随内容生成合成门槛的不断(duàn)降低，新技术的滥用也对网络空间(jiān)治理提出了更大挑战(zhàn)。当前，中美欧等均探索将内容披露和标(biāo)识(shí)义务入法，国内外多家互联网公(gōng)司也逐步推进(jìn)标识嵌入和管理举(jǔ)措，内(nèi)容标识(shí)已然成为全球打击虚假有害(hài)信(xìn)息的(de)通行(xíng)做法。为顺应这一实践趋(qū)势和产(chǎn)业需(xū)求，国(guó)家互联网信息办公室等部门适时发布《人工智能生成合成内容标识办法》（下称《办法》）及配套(tào)国家标准《网络安全技术人工智能(néng)生成合成内容标识(shí)方法(fǎ)》（下称《标识方法》），全方位、多层次地(dì)规范人工智能内(nèi)容标识要求和方法，迈(mài)出了完善我国人工智能治理制度的重要(yào)一步。

一、问题(tí)导向，破解人工智能生成合成内容(róng)新需求新风险

立足于生成式人工智能健康发(fā)展和规范应用，《办法》以问题(tí)为导向，通过系统(tǒng)性、创新性制度设计，全(quán)面回应了对人工智能生(shēng)成合成内容标识的要求。

一(yī)是先(xiān)行提出生成合成内容标识的中国方案。针对人工智能内(nèi)容生成(chéng)合(hé)成带来的颠覆性(xìng)风险挑战，国际层面也在不断探索内容标识方法(fǎ)和路径。欧盟(méng)2024年8月正(zhèng)式生效的《人工智能法案》规定(dìng)了要确保人工智能(néng)生成合成内容的透明度(dù)义务，要求平台添加强制性(xìng)水印。美国加州(zhōu)2024年8月发布《数字内容溯源标识法案》，要求在人工智能生成(chéng)物中嵌入可溯源数据，以(yǐ)确保内容来(lái)源的透明度。国际电信(xìn)联盟2024年7月发布《检测深度伪造和生成(chéng)式人工智能：人工智能水印和多媒体真(zhēn)实性标准研讨会的报告》，包括内容标识在内，初步探讨了深度合成内容检(jiǎn)测的标准协作安排。《办法》根植于(yú)我国发展实践，立足长远、着眼前瞻、行动快速，率先通过标准完善补充生成式(shì)人工智能(néng)综合治理机制，有(yǒu)力支撑了科技向善的治理理念，为世界(jiè)贡献(xiàn)发展(zhǎn)与安全并(bìng)行的人工智能治理中国方案。

二是着(zhe)力加强服务商生成合成内容(róng)标识的规范性。随着人工智能生成合成内容工具(jù)的普(pǔ)及化和可及化(huà)发展，技术应用的门槛较之前大大降低。早在2022年中央网信办等就(jiù)发布(bù)了《互联网信息服务深(shēn)度合成管理(lǐ)规定》（以下简称《规定》），明确指出深(shēn)度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识(shí)，向公众提示深度合成情况。但《规定》主要明确了需要添加标(biāo)识(shí)的情况(kuàng)，对于添加标识的(de)位(wèi)置、字型和(hé)表达并未做出具体要求，因此各类企业在实施过程中出现了文本内容显式(shì)标识不明显、难察觉，音(yīn)频、视频等内容显式标识未插入、浅提示，隐(yǐn)式标(biāo)识少信息、难校验等问题，对于落(luò)实监管提出了挑战。出台《办法》，是进一(yī)步(bù)推进生成合成内容标识工作的必要举措，对规范互联网信(xìn)息服务深度(dù)合成(chéng)管理、解决(jué)生成(chéng)合成内容标识突(tū)出问题、推进信息网络生(shēng)态(tài)环境治理意义(yì)重大，影响深远。

三是(shì)进一步完善生成式人工智(zhì)能(néng)监管问责体系。生成式人工(gōng)智能生(shēng)成合成内容涉及多(duō)种类型的主体，清晰界定各主体义务更有利于压实主(zhǔ)体责任，便利技术检测实施，进而落实精(jīng)准问责。《办法》不仅界定了人工智能生成合成内容的基(jī)本(běn)概念，更针对服务提供者、传播平台、应用服务(wù)分发平台和用户分别规定了具体标识要求，为各相关主体(tǐ)落实合规指明(míng)了方向。由(yóu)此，《办法》就现行责任制度(dù)作出补充，充分细化了《规定》提出(chū)的深(shēn)度合成服务提供者和技术支持者行为规范，为促进新技术新(xīn)应用(yòng)的规(guī)范发(fā)展提供了(le)有益(yì)范例。

二、明确要求，促进人(rén)工智能生成合成内容(róng)精细化治理

人工智能生成合成内(nèi)容不仅(jǐn)包括文本、图像、音(yīn)频、视频等(děng)多种表现形式(shì)，更在“元宇宙(zhòu)”等交互式、沉浸式场景中提供了更多实现方案。《标识方法》对于人工智能生(shēng)成合成内容进行了全方位覆盖，并且进一步明确了《办(bàn)法》要求和(hé)具体操作指引。

一是区分显式标识和隐式标识规范要求。为满足当前可感知和不可感知(zhī)的两类标识(shí)方法需要，《标(biāo)识方法》清晰阐述了各自的关键要(yào)素(sù)要求(qiú)，对(duì)于显式标识主要围绕文字要素、位置、字(zì)型、颜色、音(yīn)频(pín)节奏(zòu)、视频像素和交互提示等提(tí)出要求，对于元数据(jù)和(hé)内容隐(yǐn)式标识提出生成合(hé)成(chéng)标签要素(sù)、服务提供者要素和内容编号要素等关键指(zhǐ)引。

二是列举显式标识典型应(yīng)用场景。《标识方(fāng)法》通(tōng)过列举式的方(fāng)式对于显(xiǎn)式标识的应用(yòng)场(chǎng)景(jǐng)做出了进一步细化，在《规定》中提到的五(wǔ)类(lèi)显著(zhù)标识(shí)应用(yòng)场(chǎng)景之外加以补(bǔ)充(chōng)，包括文生图(tú)片等(děng)图片内容生成(chéng)服务(wù)；音乐等音频(pín)内容生成服务；文生视频、图生视(shì)频(pín)等视频内容生成服务。新列举的三(sān)类典型应用场景属于2022年后迅速发展起(qǐ)来新型生成合成内容形式，尤其是ChatGPT、Sora展(zhǎn)示出视频内容生成的强大潜能。《标识方法》囊括此三类典型(xíng)应用场景(jǐng)有利于(yú)针对性、前瞻(zhān)性开展监管，符合生成式人工智能的技术原理(lǐ)与产业需要。

三(sān)是规范元(yuán)数据隐(yǐn)式标识格式要求。此前生成合成内(nèi)容隐式标识方法在(zài)不同规模、不(bù)同技术水平的企业间应(yīng)用各不相同，标识的(de)标签信(xìn)息也未有一(yī)致，这就导致识别隐式标识对于监管主体和内容(róng)平(píng)台而言面临挑战。《标识方法》为解决这一问(wèn)题，对于隐式标识扩展字段关键词和应包括的(de)标(biāo)签、编(biān)号、预留字(zì)段(duàn)的(de)值等添加了具(jù)体说(shuō)明，为行业统(tǒng)一、稳定、持续落实隐式标识要求(qiú)提供了有效措施(shī)。

四是展示显式和隐式标识各要求(qiú)对应示例(lì)。《标识(shí)方法》以图片示例的形式对于各类显式和隐式标识要求进行(xíng)了展示，有助于企业直观了解标(biāo)准要求，避免(miǎn)因(yīn)文字表述引发的模糊和歧义，从而推动行业协同落(luò)实，提升(shēng)治理效能。

三、守正(zhèng)创新，兼顾(gù)内容生成合成服务管理与技术创新应用(yòng)

人工智能生(shēng)成合成技术应在安全的前提下规范使(shǐ)用、加速发展(zhǎn)，以高水平的(de)治理保障高质量发展(zhǎn)。《办法》及《标(biāo)识(shí)方法》充分(fēn)考虑“用”和“管(guǎn)”两侧需求，最大(dà)限度减少内(nèi)容标识(shí)对于用户使用的影响，推动(dòng)企业自主自愿展(zhǎn)示(shì)标识(shí)。一是提(tí)供多种标(biāo)识方法，适(shì)应更多产品形态。《标识方法(fǎ)》对于文本内容显式标识创新提出(chū)角标形式，仅需在内容(róng)末(mò)尾加注角标“AI”即可高效满足要求，对于音频内容则首(shǒu)次提出音频节奏标识，在音频适当位(wèi)置加(jiā)入“短长短短”节奏的摩斯(sī)码表示即可达到提示作用。此类标识方法(fǎ)不(bù)仅(jǐn)对于企业而言便于打造不同产品样态，也能保(bǎo)障用户(hù)使用体(tǐ)验和认知效果，在实现(xiàn)监管目的的同时也为(wèi)技(jì)术发展提供了有效保障。二是划分不同(tóng)主体责任，精细化避风港原则适(shì)用。《办(bàn)法》虽然将标识(shí)添加的责任主要施加于(yú)服务提供(gōng)者和上传内容(róng)的用户，但未对传播平台和(hé)应用分发平台实施“一刀切”式(shì)的避风港规则。《办法》采(cǎi)取一种更为精细化的路径，详细规定传播平台应当对文件元数(shù)据中的扩展字段进行(xíng)核验，提示用户生成合成内容信息，并在文件元(yuán)数据中添(tiān)加传播要素信息；应用服务分发平台应在应用程序上架或上(shàng)线审核前核(hé)验服(fú)务提供者是否按要(yào)求提供生成合(hé)成内容标(biāo)识功能。此举有(yǒu)助于适当调整中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境(zhěng)服(fú)务提供者、使用者和传播(bō)分发平台的义务(wù)分配，避免相关平台“隐身”于(yú)深度合成监管体系，从(cóng)而真正实现齐抓共管、协(xié)同(tóng)共(gòng)治的治理机制，有效维护健康向善的信息网(wǎng)络(luò)生态环(huán)境。

作者：魏凯，中国信息通信研究院(yuàn)人工智能研究所所长

来源：“网信中国(guó)”微信公众号

校审(shěn) | 谨(jǐn)言、珊珊

编辑 | 凌(líng) 霄(xiāo)

未经允许不得转载：橘子百科-橘子都知道中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境