整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见

　　随着生成式(shì)AI的爆(bào)发，社交媒体上的内容(róng)越来越真假难辨，人们很难确信某张照片或视频(pín)是真实存在的瞬间，以往的一句“眼见为实”在(zài)当下(xià)已经需要打上问号。

　　为应对这(zhè)一冲击，9月14日，国家互联(lián)网信息办公室发布《人(rén)工智能生成合成内容标识办(bàn)法（征求意见(jiàn)稿）》（下(xià)文简称《意(yì)见稿》），在《互联网信息(xī)服(fú)务深度合成管理规定》《生成式人工智能(néng)服务管理暂行办(bàn)法》等法律法规上，进一步细化(huà)了AI合成内容的标(biāo)识办法。

　　“这是全球范围内(nèi)第一部(bù)关于人(rén)工智能(néng)生成合成内(nèi)容标识的国家标准，是关于人工智能内容治理机制建设的(de)重要探索，对人工智能(néng)内容产业的有序发展和业务规则具有重要(yào)的指引意义，也有助于人工智能良(liáng)性生态的培育。”北京师范大学法学院副教授、中国(guó)互联(lián)网(wǎng)协会(huì)研究中心副(fù)主任吴沈括对第一财经表(biǎo)示。

　　细化内容生成标识

　　此次的(de)《意见稿(gǎo)》提出，人工智能生成合(hé)成内容标识包括显(xiǎn)式标识和隐式标(biāo)识。显式标识(shí)是指在生成合成内容或者交互场景(jǐng)界面(miàn)中添加的，以文字、声音、图形等方式呈现并可被(bèi)用户明显感知(zhī)到的标识。隐式标识(shí)是指采取技术措施在生成合成内容文件数据(jù)中添(tiān)加的，不易(yì)被用户明显感知到的标识。

　　不同互联网平台的(de)义务不尽相同。垦丁律所创始合伙人朱骏超告诉记者，网络信息服务提供者的义务包括确保显式标(biāo)识、添加隐式(shì)标识；提(tí)供网络信息内容传播平台服务的(de)服务提供者的义务包(bāo)括核验隐式标识、添加提示标识(shí)、管(guǎn)理疑似内容，管理疑似内容包括(kuò)在疑似生成(chéng)合成内(nèi)容的文件元数据中添加生成合成内容属整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见性信息、传播平台名称整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见或(huò)编码、内容编号等传播(bō)要素信(xìn)息；互联网应用程序分发(fā)平台的义务包括核验标识(shí)功能，即在应用程序上(shàng)架(jià)或上线审核时，核验服务(wù)提供者是否按要求提供生成合成内容标识(shí)功(gōng)能(néng)。

　　具体而言，针对提供(gōng)生成合成服务的网络(luò)信息服(fú)务提供者，《意见稿》第四条提出，如果提供《互联网(wǎng)信(xìn)息服务(wù)深度合成管理(lǐ)规(guī)定》第十七(qī)条第一款(kuǎn)情形规定的深度合成服务，可能导致公(gōng)众(zhòng)混淆或(huò)者误认的，应当按要求对生成合成内容添加显式标识。

　　《互联网信息服务深度(dù)合成管理规定》第十七(qī)条第一款(kuǎn)提到的具体情形包(bāo)括：智能对(duì)话、智能写作等模(mó)拟自然(rán)人进(jìn)行文本的生成(chéng)或者编辑服务；合成(chéng)人声、仿声等语音生成或者显(xiǎn)著改变个人身份特征的编(biān)辑服(fú)务；人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务(wù)等。

　　显式标识方式根据内容表现形式有所差异。如果是图片，则需在适当位(wèi)置添加显著的提示标识；如果是视频，则在视频起始画面和(hé)视频(pín)播放周边的适当位(wèi)置(zhì)添(tiān)加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识，等等。

　　《意(yì)见稿》还要(yào)求提供生成(chéng)合成服务的网络信息服务提供者，在生成合成(chéng)内容的文件元(yuán)数据(jù)中添加隐式标识，隐式标识需包含生成合(hé)成内容(róng)属性信息、服务提供者名称或编(biān)码、内容编号等制作要素信息。同时，提供网络信息内容传播平台应当采取措施，规(guī)范生成合成内容(róng)传播活动。包括提供必要的标识(shí)功能，并提醒用户主动声明发布内容(róng)中是(shì)否包含生成合成(chéng)内容等。

　　如果违反这(zhè)一规定，未对(duì)生成(chéng)合成内容进行标识造成严重后(hòu)果的，将由网信等有关(guān)主(zhǔ)管部门按(àn)照(zhào)有关法律(lǜ)、行政法规、部门规章的规定予以处罚。

　　新壹科技副(fù)总裁(cái)陈鹏对记者表示，《意见稿》保护了用户权益，通过显(xiǎn)式和隐式标识，用(yòng)户可以更容易地识(shí)别出内容是否由(yóu)人工智能(néng)生成，有助于保护用户的知情权和选择(zé)权。另外，通过这一规范能增强内容可信度(dù)，减少误导和滥(làn)用的(de)可能性。

　　吴沈括对记者提到，内容标识是目前关于人工智能内容治理中的一(yī)种非常重要的机制设计，它对于避免深度伪造(zào)带(dài)来的安(ān)全风险有非常大的价值，且通过标准的统(tǒng)一(yī)也有助于引导各方的业务规(guī)则、业务设计和业务模式，对于全链条的风险防范具有非常重要(yào)的作用，也能有助于公(gōng)众识别AI内容(róng)的真伪和权威性。

　　汉王科技天地大模型算法负责人(rén)彭(péng)菲认为，这一(yī)办法的出台具有重要意义和积极作用，不仅保护了公民、法人以及(jí)其他组织的合法(fǎ)权益，而且维护国家安(ān)全和社会公共利益。

　　“比如数据安全方面，显示(shì)和隐式标识有助于提高数据的可追溯性(xìng)，从而增强数(shù)据安(ān)全；通过明确标识AI生成的内(nèi)容，有效防止误导性信息的传播，减少因技术(shù)滥用而引发的社会问题。版(bǎn)权管理方(fāng)面，办法明确(què)AI生成内容的来(lái)源和版权归(guī)属，维护了创作者的合法权益。”彭菲认为，通过这(zhè)些标识，用户能更容易识别出合成内(nèi)容，从而规范和负责地使用这些(xiē)内容，减少虚假(jiǎ)信息的(de)传播。该办法有助于促使(shǐ)行业服务(wù)提供者规范地(dì)开展业务，推动人工智能技(jì)术的健康发展和广泛应用。

　　防范AI犯罪

　　“《意见稿》大意是说生成(chéng)相关内容如图(tú)片、视频、文字(zì)、语音(yīn)必须标识(shí)说明(míng)为AI生成，防止有人恶意造谣、诈骗，引发不良影响的社会舆论，防止(zhǐ)相关犯罪发生。之前有人非法用他人头像或者脸(liǎn)部做合成，通过AI转换语音进行(xíng)诈骗，类似这种恶性事(shì)件(jiàn)应该(gāi)杜绝。”AI视频制作者冯(féng)彬告(gào)诉(sù)记者。

　　就在8月底(dǐ)，韩国出现多起利用AI换(huàn)脸(liǎn)伪造女性(xìng)色情露骨图像的犯(fàn)罪案，在这背后(hòu)，犯罪者用深(shēn)度伪(wěi)造技术（Deepfake）合成色情照片(piàn)和视频，并在通信软件Telegram的群聊中传播，参与者多达22万人(rén)，引发韩国民众(zhòng)恐慌，有人将其称之为韩国又一“N号(hào)房”丑闻。

　　深度伪(wěi)造这一(yī)技术犯罪，不仅仅出现在韩国，这两年在全球都有出现在国内，今年6月(yuè)，“男子用AI伪造学生同事近7000张裸照”冲(chōng)上(shàng)微(wēi)博热搜(sōu)。据(jù)央视新闻消息，犯罪(zuì)嫌(xián)疑人用AI“一键去衣”技术，深度伪造淫秽图片近7000张，再每张(zhāng)1.5元卖出，赚了将近一万元。图片涉及女性人数多，包括(kuò)学生(shēng)、教师(shī)、同事。

　　冯彬表示，现在多(duō)个视频平台都有向视频(pín)上传者提供类(lèi)似“作者声明：内(nèi)容为AI生成”的标识选(xuǎn)项，包括抖(dǒu)音、b站、快手、视频号，但是没有强制(zhì)创作者选择。据他(tā)观察，没有标识为AI内容的视频，平台会(huì)识(shí)别出一些并标(biāo)识类似(shì)“疑似AI生成”的字段。

　　冯彬认为，平(píng)台在(zài)标识、提醒(xǐng)内(nèi)容是否为AI生成方面，应该更严(yán)格一些。相比(bǐ)视频(pín)、图片，平台应(yīng)该(gāi)更难识(shí)别文本是否为AI生成，而从传播效(xiào)果(guǒ)看，视(shì)频可能是“假新(xīn)闻”更多采用(yòng)的(de)载(zài)体，AI换脸、AI语(yǔ)音这(zhè)些有可(kě)能滋生诈骗的内容(róng)也尤整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见其值得关注。

　　目前国(guó)内外已经达成共(gòng)识(shí)，要对AI生成内容进行标(biāo)识和管理。去年7月，美国白宫(gōng)与大型科技公(gōng)司达(dá)成协议，为人工智能的开发设置更多防护措施(shī)，包括开发水印系统等。欧盟委(wěi)员(yuán)会也要求社交(jiāo)媒体公司标记所有由人工智能生(shēng)成(chéng)的内容。

　　科技公司已经开始尝试用(yòng)技术制衡AI滥用。今年2月，OpenAI 团队推出“AI 生成内容识别器”，旨在识别文本是由电脑自动生成还是人(rén)类撰(zhuàn)写，其本质上是一个区别真实内(nèi)容和 AI 生成内容的分类器(qì)。不过，OpenAI 在博客中指出(chū)，此识(shí)别器对(duì) AI 撰写内容(róng)的检出成功(gōng)率(lǜ)仅为 26%。

　　今年5 月，谷(gǔ)歌在 Google I/O 大会上公布了AI 生(shēng)成图像识别工具，用户可以通过上(shàng)传来源(yuán)不(bù)明的图片(piàn)、执行反向图片搜索，了解到(dào)这张图片被谷歌初次收录(lù)的时间、最早出(chū)现的网站(zhàn)。谷(gǔ)歌还宣布，它自己的生成(chéng)式 AI 工具将在每(měi)张图片中(zhōng)包含元数(shù)据、嵌入水印，以表明这是 AI 生成的图像，而不是真实照片(piàn)。相比AI 生成内容识别(bié)器，数字水印被认为可(kě)能是更有效的方法(fǎ)。

　　更早前，微软在Build 2023开发者(zhě)大会上，宣(xuān)布(bù)增加(jiā)一项功能，让任何人都能识别Bing Image Creator和Microsoft Designer生成的图(tú)像或视频片段是(shì)否是由AI生成的。该技术使用密码(mǎ)学方法对(duì)AI生成的内容进行标记和签名，并附上有关其来源的元数据信息。

　　吴沈括表示，企业方面的是微生态，此次出台(tái)的(de)标识办法标准则是国家和产业的大(dà)生态，“力度(dù)很大”。

　　（本文来自第一财经(jīng)）

责任编辑：刘万里 SF014

未经允许不得转载：橘子百科-橘子都知道整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见