整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见

　　随着生(shēng)成式(shì)AI的爆发，社(shè)交媒体上的内容越来越真假难(nán)辨，人们很(hěn)难确信某张照(zhào)片或视(shì)频是真(zhēn)实存在(zài)的瞬间，以往的一句(jù)“眼见为实”在当下(xià)已经需要(yào)打上问号。

　　为应对这一(yī)冲击，9月14日，国家互联网信息办公(gōng)室发布《人(rén)工智能生成合成内容标识 办法（征求意(yì)见稿）》（下文简称(chēng)《意见稿(gǎo)》），在《互联网信息服务(wù)深度合(hé)成管理规定》《生成式人工智能(néng)服务管 理暂行办法》等法(fǎ)律法(fǎ)规上，进一(yī)步细化了AI合成(chéng)内容的标识办法。

　　“这(zhè)是全球范(fàn)围内第(dì)一部关于人工智能生成(chéng)合成内容标识的国家标准，是(shì)关于人工(gōng)智能内容治(zhì)理机制建设的(de)重(zhòng)要探索，对人工智能内容产业的有序发(fā)展和业(yè)务(wù)规则具有(yǒu)重要的指引意义，也有助(zhù)于人(rén)工智能良性(xìng)生态的培育。”北京师范大学法学院副教授、中国互联网协会研究中心副主(zhǔ)任吴沈括(kuò)对第一财经表示。

　　细化内容生成标识

　　此 次的《意见稿》提出，人(rén)工智能生成合成内(nèi)容标(biāo)识包括显式(shì)标识和隐式标识。显式(shì)标(biāo)识是指在生成合成内容或者(zhě)交互场景界面中添加的，以文字、声音(yīn)、图形等方式呈现并可被用户明显感知到的标(biāo)识。隐式标识是指采取技(jì)术措施在生成合成内容(róng)文件数据中添加的，不易被用(yòng)户明显感知到(dào)的标识。

　　不同互联网平台的(de)义务不尽相同。垦丁律所创始合伙人朱骏超告诉记者，网络信息服务提供者的义务
包括确保显式标(biāo)识、添加隐式(shì)标识；提供网络信息内容传播平台服务(wù)的服务(wù)提供者的义务(wù)包(bāo)括核验隐式标识、添加提示标 识、管理疑似内容，管理疑似内容包括(kuò)在(zài)疑似生成合成内容的文件(jiàn)元数据 中添加生成合成(chéng)内容属(shǔ)性信息、传播平台名称或编码、内容编号等传播要素信息(xī)；互
联网应用程序分发平台的义务包(bāo)括核验标识功能，即在应用程序(xù)上架或上(shàng)线审(shěn)核时，核验服务提供者是否按要求(qiú)提(tí)供生成合成内容标识
功能。

　　具体(tǐ)而言，针对提供(gōng)生成合(hé)成服务的网络信息服务提(tí)供者，《意见稿》第(dì)四条提(tí)出，如果(guǒ)提供《互联网信息服务深度合成管理规定》第十七条第一款(kuǎn)情形规定的深度合成服务，可能导致(zhì)公众混淆(xiáo)或者误(wù)认的，应(yīng)当按要求对生成合(hé)成内容添(tiān)加显式标识。

　　《互联网信息服务深度合成管理规定》第十七条第一款提到的具体情形包括：智能对话、智能(néng)写作等模拟自然人进行文本的生成或者编辑服务；合成人声、仿声等语音生(shēng)成或(huò)者显著改变个人身份特征的编辑服务；人脸(liǎn)生成、人(rén)脸替换、人脸操控、姿态操(cāo)控等人物图像、视频生(shēng)成或者显(xiǎn)著改变(biàn)个人身份特征的编辑服(fú)务(wù)等。

　　显(xiǎn)式标识方式根据内容(róng)表现形式有所差异(yì)。如果是图片，则(zé)需在(zài)适当位置(zhì)添加显著的提示标识；如果是视频，则在视频起始画面和视频(pín)播放(fàng)周边的适当位置添(tiān)加显著的提(tí)示标识(shí)，可在视频末尾(wěi)和中间适当位置添加(jiā)显著(zhù)的提示(shì)标识，等等。

　　《意见稿》还要求提供生成合成服务的网络信息服务提供者，在生成合成内容的文件元(yuán)数据中添加隐(yǐn)式标识，隐式标识需包(bāo)含生成合(hé)成(chéng)内容属性信息、服务提供者名称或编(biān)码、内容编号等制作
要素信息。同时，提供网络信(xìn)息内容传播平台应当采取(qǔ)措施(shī)，规范生成合成(chéng)内容传播活动。包括提供必要的标识功能，并提醒用户主动
声明发(fā)布内容(róng)中是否包含(hán)生成合成内容等。

　　如果(guǒ)违(wéi)反这一规定，未对生成合成内容进行标(biāo)识造成严重后果(guǒ)的(de)，将由网信等有(yǒu)关主管部门按照有关法律、行政法规(guī)、部(bù)门(mén)规章的规 定予(yǔ)以处罚。整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见>

　　新壹科技副总裁陈鹏对记者表示，《意见稿》保护(hù)了用户(hù)权益，通(tōng)过显(xiǎn)式和隐式标识，用户可以更容(róng)易地识别出内容是否由(yóu)人工(gōng)智能生成，有助于保护用(yòng)户(hù)的知情权和选择权(quán)。另外，通过这一规范能增强内容可信度，减少误导和滥用的可能(néng)性。

　　吴沈括对记者(zhě)提到，内容标识是(shì)目前关于人工智能内容治理中的一种非常重要(yào)的机制设计(jì)，它对(duì)于避免深度伪造带来(lái)的安(ān)全风险有非常大的价值，且通过标准的统一也有(yǒu)助(zhù)于引导各方的(de)业务规则、业务设计和业(yè)务(wù)模式，对于全链条的风险防范具(jù)有非常重要的作用，也(yě)能有助于公众识(shí)别AI内容的(de)真伪和权(quán)威性(xìng)。

　　汉王科
技(jì)天地大模型算法负责人彭菲认为，这一办法的出台具有重要意义和积极作用，不仅保护了公民、法人以及其 他组织的(de)合法权益，而且维护国家安全和社会 公共利益。

　　“比如数据(jù)安全方面，显示和(hé)隐式标识有助于提高数(shù)据的可追溯性，从而增强数据安全；通过(guò)明确标识(shí)AI生成的内(nèi)容，有效(xiào)防止误导(dǎo)性信(xìn)息的传播，减少因技术滥(làn)用而引发的社会问题。版权管理方面，办法明确AI生(shēng)成内容的来源和版(bǎn)权归属，维护了创作者的合法(fǎ)权益。”彭菲认为，通过这些标(biāo)识(shí)，用户能更容易识别(bié)出合成内(nèi)容(róng)，从而规(guī)范(fàn)和负责地使(shǐ)用这些内容，减少虚假信息的传(chuán)播。该办法有助于促使行业服
务提供者规范地(dì)开展业(yè)务，推动人工智能技术(shù)的健康发展(zhǎn)和广泛应用。

　　防范AI犯罪

　　“《意见稿》大意是说生成相关(guān)内容如图(tú)片、视频、文字、语音必须标识说明为(wèi)AI生成，防止有人恶意造(zào)谣(yáo)、诈骗，引发不良(liáng)影响的社会舆论，防止(zhǐ)相关犯罪发生(shēng)。之前有人非法用他(tā)人头像(xiàng)或(huò)者脸部做合成，通过AI转换语音进行诈骗，类似这(zhè)种恶(è)性事(shì)件(jiàn)应该杜绝。”AI视频制作者冯彬(bīn)告诉记者。

　　就在8月底，韩国出现多起利用AI换脸伪造女性色(sè)情露骨图像的犯(fàn)罪案，在这背后，犯罪者(zhě)用深度伪造技术（Deepfake）合成色情照片和视(shì)频，并在通信软件(jiàn)Telegram的群聊中传播(bō)，参与者多达22万人，引发韩国民众恐慌，有人将其称之为(wèi)韩(hán)国又一“N号房”丑闻(wén)整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见。

　　深度伪造这一技(jì)术(shù)犯(fàn)罪，不仅(jǐn)仅(jǐn)出现在韩国，这(zhè)两年(nián)在全球都有出现在国内(nèi)，今年6月(yuè)，“男子
用AI伪造学生同(tóng)事近7000张裸照”冲上微博热搜。据央视新闻(wén)消息，犯罪(zuì)嫌疑人(rén)用AI“一(yī)键(jiàn)去衣”技术，深度伪造淫秽图片近7000张，再每张1.5元卖出，赚了将近一万元。图(tú)片涉及女性人数多，包括(kuò)学生、教师、同事。

　　冯彬表示，现在多个视频平台(tái)都有向视频上(shàng)传者(zhě)提供类似(shì)“作者声 明：内容为AI生(shēng)成”的标识选项，包括抖音、b站(zhàn)、快手、视频号，但是没有强制创作者选择。据他(tā)观察，没有标识为(wèi)AI内容的(de)视频(pín)，平台(tái)会识别出一些并标识类似“疑似AI生成”的字段。

　　冯彬 认为 ，平台在标识、提(tí)醒内容是否为AI生成方面，应(yīng)该更严格一些。相比视(shì)频(pín)、图(tú)片，平台应该更难识别文本是否为AI生(shēng)成，而从传播效果看，视频(pín)可能(néng)是“假(jiǎ)新闻”更多采用的载体，AI换脸、AI语音这些有可能滋(zī)生诈骗的内容也(yě)尤其值得关注(zhù)。

　　目前国内外已经达成共识，要(yào)对AI生成内容进行标识和管理。去年7月，美国(guó)白宫与(yǔ)大型科技公司达成协议，为人(rén)工智能的开发设置更多
防护措施(shī)，包括开发水印(yìn)系统等。欧盟委员(yuán)会也要求社交媒体公司标记所有由人工智能生成的内容。

　　科技公司已(yǐ)经开始尝试用技(jì)术制衡AI滥(làn)用。今年2月，OpenAI 团(tuán)队推出(chū)“AI 生(shēng)成内容识别器”，旨在识别文本是由电脑自动生(shēng)成还是人(rén)类撰写，其本质上是(shì)一个区别真实内容和 AI 生成 内容的分类器。不过，OpenAI 在(zài)博客中指出，此识别器对 AI 撰写内容的检出(chū)成功率仅为 26%。

　　今
年5 月，谷歌在 Google I/O 大会上公布了AI 生成图像识别工具，用户可以(yǐ)通过上传来(lái)源不明的图片、执行反向图片(piàn)搜索，了解到这张图片被谷歌初(chū)次收录的时间、最早出现的网站。谷歌还宣布，它自己的生(shēng)成式 AI 工(gōng)具将在每张图片中(zhōng)包含元数据、嵌入(rù)水印，以表明这是整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见 AI 生成的图像，而(ér)不是真(zhēn)实照片。相比AI 生成内容(róng)识别器，数字水印被认为可能是更有效的(de)方法。

　　更早前，微软(ruǎn)在(zài)Build 2023开发(fā)者(zhě)大会上，宣布增加一项功(gōng)能，让任何人(rén)都能识别Bing Image Creator和(hé)Microsoft Designer生成的图像或视频片段是否是由AI生成(chéng)的。该技术使用密码学(xué)方法对AI生成(chéng)的内(nèi)容(róng)进行标记和签名，并附上有关其来源(yuán)的元数据信息。

　　吴沈括表(biǎo)示(shì)，企业方面的是微生态，此次出台的(de)标识办法标准则是国家和(hé)产(chǎn)业的大生态，“力度很大”。

　　（本文来自第一财经）

责任编(biān)辑：刘万里 SF014

未经允许不得转载：橘子百科-橘子都知道 整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见