整治AI时代的信任危机，网信办就AI合成内容的标识办法征求 意见

　　随着生成式AI的爆(bào)发，社交媒体上的(de)内容越来越真(zhēn)假难辨，人们很难确信某张照片或视频是真实存在的瞬间，以往的一句“眼见为实”在当下已经需要打上问号
。

　　为应对这(zhè)一冲击，9月14日，国家互联网信(xìn)息办公室(shì)发布《人工(gōng)智(zhì)能生成合成内容标识办法（征(zhēng)求(qiú)意见稿）》（下文简称《意见稿》），在《互联网信(xìn)息服务(wù)深度合成管理规定》《生成式人工智能服务管理暂行办法
》等法律(lǜ)法规上，进一步细化(huà)了(le)AI合成内容的标识办法。

　　“这(zhè)是全球范围内第(dì)一部关于人工智能生成合成内(nèi)容标识的国家标(biāo)准，是关于人工智(zhì)能内容(róng)治理机制建设(shè)的 重要探索，对人工智能内容产业的(de)有序发展和业务(wù)规则具有重要的指(zhǐ)引意义，也(yě)有助于人工智能良性(xìng)生态(tài)的培育(yù)。”北京师(shī)范大学法学院副教授、中国(guó)互联网协会研究中心副主任吴沈括对(duì)第一财经表示。

　　细化内容生成标识

　　此次的《意见稿》提出，人(rén)工智能生成合成内容(róng)标识包
括显式标识和(hé)隐式(shì)标识。显式标(biāo)识是指在生(shēng)成合成内容或者(zhě)交互场
景界(jiè)面中添加的(de)，以文字、声(shēng)音、图形等方(fāng)式呈现并(bìng)可被用 户(hù)明显(xiǎn)感知到的标识。隐式标识是指采取技(jì)术措施在生成合
成内容文件(jiàn)数据中添加的(de)，不易被(bèi)用(yòng)户(hù)明显感知到的标识。

　　不同互(hù)联网平台的义务不尽相同。垦丁律所创始合伙人朱骏(jùn)超告诉记者，网络信息(xī)服(fú)务提供者
的义务包括确保显式标识(shí)、添(tiān)加隐式标(biāo)识；提(tí)供(gōng)网络信息内容传(chuán)播平台服(fú)务的服务提(tí)供者的义务包括核(hé)验隐式标(biāo)识(shí)、添加提示标(biāo)识、管理疑似内容，管理疑似(shì)内容包括在疑似生成合成内容的文件元数据中添加生(shēng)成合成内容(róng)属(shǔ)性信息、传播平台名称或编码、内(nèi)容编号等传播要素(sù)信(xìn)息；互(hù)联网应用程序分发平台的义(yì)务包括核验(yàn)标识功能，即在应(yīng)用程序上架或上线审核时，核验服务提供者是否按要求提供生成(chéng)合成内容标识功能。

　　具体而言(yán)，针对(duì)提(tí)供(gōng)生(shēng)成合成(chéng)服务的网络信(xìn)息服务提供者，《意见稿》第四条提出，如果(guǒ)提供《互联(lián)网信息服务深度(dù)合成(chéng)管(guǎn)理规定》第十七(qī)条第一款情(qíng)形规定的深度合成服务(wù)，可能导致公众混淆或者误认的，应当按要求(qiú)对生成合成内容添(tiān)加显式标识。

　　《互联网信(xìn)息服务深度 合成管理规定》第十七(qī)条第一款提到的具体情(qíng)形包括：智能对话、智能写作等模拟自然(rán)人进行文
本(běn)的生成或者编辑服务(wù)；合成人声、仿声等语(yǔ)音生成(chéng)或者显(xiǎn)著改变个人身份(fèn)特征的编辑服务(wù)；人脸生成、人脸(liǎn)替换、人脸操控、姿态操控等人物图像(xiàng)、视频生成或者显著改变个人身份特征的编辑服务等。

　　显式标识方式(shì)根据内容表现形式有所差异。如果是图片，则(zé)需(xū)在适当位(wèi)置(zhì)添加显著的提示标识；如果是视频，则(zé)在视频(pín)起始画面和视频播放周边的适当(dāng)位置添加(jiā)显著的提示标识(shí)，可在视频末尾和中间适当位置添加显著的提示标识，等等。

　　《意见稿》还要求提供生成合成服务的网络(luò)信(xìn)息服务提供者(zhě)，在(zài)生成合成内容的文件元数据中添加隐式标识，隐式标识需包含生(shēng)成合成(chéng)内容属性(xìng)信息、服务提供者名称或编(biān)码、内容
编号等制作要素信息。同时，提供网络信息内容传播平台(tái)应(yīng)当采取措施，规范生
成合成内(nèi)容传播活动。包括提供必要的标识功能(néng)，并(bìng)提醒用户主动声明发布(bù)内(nèi)容中是否包含生成(chéng)合成内容等。

　　如果违反(fǎn)这一规(guī)定(dìng)，未对生成合成内容进行标(biāo)识(shí)造成严(yán)重后果的，将由网信等(děng)有关主管部门按照有关(guān)法律、行政法规、部门规章的规定予以处罚。

　　新壹科技副总裁陈鹏对记者表示，《意见稿》保护(hù)了用户(hù)权益，通过显式和(hé)隐式标识(shí)，用户可以更容易地识别出内容是否(fǒu)由人工智能生成，有助于保护用户的知情权和选择权。另外，通过这一规范能增(zēng)强内容可信度，减少误导和滥用的可能性。

　　吴沈括对记者提到(dào)，内容标识是目前关于人工智能内容治理中的(de)一种非常重要的机制设计，它对于避免(miǎn)深度伪(wěi)造带来的安全风险有非常大的(de)价值，且通过(guò)标(biāo)准的统一也(yě)有助于引(yǐn)导各方的(de)业(yè)务规则、业(yè)务设计和业务模式，对于全链条的风险防范具有非(fēi)常重要的作用，也能有助于公众识别AI内容的真伪和权威性。

　　汉王科技天(tiān)地大模型算法(fǎ)负(fù)责人彭菲认为，这一办法的(de)出台具(jù)有重要意义和积极作用，不(bù)仅保(bǎo)护(hù)了公民、法人以及其他组织的合(hé)法权益(yì)，而且维(wéi)护国家安全和社会公共利(lì)益。

　　“比如数据安全(quán)方面，显(xiǎn)示和隐式标识有助于提高数据的可追溯性，从而增强数据安全；通过明确标识AI生成的内(nèi)容，有效防(fáng)止误(wù)导性(xìng)信息(xī)的(de)传播(bō)，减少因技术滥(làn)用而引(yǐn)发的社会问题。版权管理方面，办法明确AI生成内容(róng)的来源和版权归(guī)属，维护了创作(zuò)者的合法权(quán)益(yì)。”彭菲认(rèn)为，通过这些标识，用户(hù)能更容易(yì)识别出(chū)合成内(nèi)容，从而规范(fàn)和负(fù)责地使用(yòng)这(zhè)些内容，减少虚假信(xìn)息的传(chuán)播。该办法有助于促使行业服务(wù)提(tí)供者(zhě)规范地开展业务，推动人工智能技术的健(jiàn)康发展和广泛应(yīng)用 。

　　防
范AI犯罪

　　“《意见稿》大意是说生(shēng)成相关内容如图片、视频、文字、语音必须标(biāo)识说(shuō)明(míng)为AI生成，防止有人恶意(yì)造谣、诈骗，引发不(bù)良影响的(de)社会舆论，防(fáng)止(zhǐ)相关犯罪发生。之前
有人非法用(yòng)他人头像 或者脸部做合(hé)成，通过AI转换语音进行诈骗，类似
这种恶性事件应该杜(dù)绝。”AI视(shì)频(pín)制作者冯彬(bīn)告诉记(jì)者。

　　就在8月(yuè)底 ，韩国出现多起利用AI换脸伪造女性色情露骨图像的(de)犯罪案，在这背后，犯罪者用(yòng)深度伪造技术（Deepfake）合成(chéng)整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见色情照片和视频，并在通信(xìn)软件(jiàn)Telegram的群聊中传播，参与者多达22万人，引发韩国民众恐(kǒng)慌，有人将其称之为(wèi)韩国又一“N号房”丑闻。

　　深度伪造这(zhè)一技术犯罪，不仅仅出现在韩国，这两(liǎng)年在全球都有(yǒu)出现在国内，今年6月，“男子用(yòng)AI伪造(zào)学生同事近7000张裸照”冲上微博热搜。据央视新闻消息，犯(fàn)罪嫌疑人用AI“一键(jiàn)去衣”技术，深度伪造淫(yín)秽(huì)图片(piàn)近7000张，再每张1.5元卖出，赚(zhuàn)了将近一万元。图(tú)片涉及女性(xìng)人数多(duō)，包(bāo)括学生(shēng)、教师、同事。

　　冯彬表示(shì)，现在多个视频平台都有向(xiàng)视(shì)频(pín)上传者提供(gōng)类似“作者声明：内容为AI生成”的标(biāo)识选项，包括抖音、b站、快(kuài)手、视频号，但是没有强制创作(zuò)者选择。据他观察，没有标识为AI内容的视频，平台会识别出一些并标识类(lèi)似“疑似AI生成”的字段。

　　冯彬认为，平台在标识、提(tí)醒内容是否为AI生成(chéng)方面(miàn)，应该更严(yán)格(gé)一些。相比(bǐ)视(shì)频、图片，平台应该更难识别文本是否为AI生成，而从传播效果(guǒ)看，视频可能是“假新闻”更多(duō)采用的 载体，AI换脸、AI语音
这些有可能滋生诈骗(piàn)的内容也尤其值(zhí)得关注。

　　目前国内外已(yǐ)经达成(chéng)共识，要(yào)对AI生成内(nèi)容进行(xíng)标识和管理。去年7月，美国白宫与大型科技公司(sī)达成协议，为人工(gōng)智能的开发(fā)设置更多防护措施，包括开(kāi)发水印系统等。欧盟委员会也要求社交媒体公司标记所有由人工(gōng)智能生成(chéng)的内容。

　　科技公
司已经开始(shǐ)尝试用技 术制衡AI滥用。今年2月，OpenAI 团队推出“AI 生成内容识别器”，旨在识别文本是(shì)由电脑自(zì)动生成(chéng)还是人类撰写，其本质上是一(yī)个区别真实内容和 AI 生成(chéng)整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见内容的(de)分(fēn)类(lèi)器。不过，OpenAI 在(zài)博客
中(zhōng)指出，此识别器对 AI 撰写内容的(de)检出(chū)成功率仅为 26%。

　　今年5 月，谷歌在 Google I/O 大会(huì)上公布了AI 生成图像识别工具，用户可以 通
过上传来(lái)源(yuán)不明(míng)的图片、执行(xíng)反向图片搜索，了解到这张图片被谷歌初次收录(lù)的时间(jiān)、最(zuì)早出(chū)现的网站。谷歌还宣布，它自己的生成式 AI 工具将(jiāng)在每张图片中(zhōng)包含(hán)元数据、嵌入水印，以表明这是 AI 生成的图(tú)像，而不(bù)是真(zhēn)实照片。相比AI 生成内容识别(bié)器，数(shù)字水印被认(rèn)为可能是更有效的方(fāng)法。

　　更早前，微软在(zài)Build 2023开发者大会上，宣(xuān)布增加一项功能，让任何人都能(néng)识别Bing Image Creator和Microsoft Designer生成的图像或视频片段是否是由AI生成的。该技术使用(yòng)密码学方法对(duì)AI生成的内容进行标记(jì)和签名，并附上有关其来源的元数据信(xìn)息。

　　吴沈括表示，企业方面的是微(wēi)生态，此(cǐ)次出台的标识办(bàn)法标准则是国家和产(chǎn)业的大(dà)生态，“力度很大”。

　　（本文来自第一(yī)财经）

责任编辑(jí)：刘万里 SF014

未经允许不得转载：橘子百科-橘子都知道 整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见