整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见

　　随着生成式(shì)AI的爆发，社(shè)交媒体上的内容越来越真假难辨，人们很难确信某张整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见照片或视频是真实存在的瞬(shùn)间，以往的(de)一句“眼见为实”在当下(xià)已经需要打上问号。

　　为应对这一冲击(jī)，9月14日，国(guó)家互(hù)联网信(xìn)息办公室发布《人工智能(néng)生成合成(chéng)内容标识办法（征求意见(jiàn)稿）》（下文简称《意见(jiàn)稿(gǎo)》），在《互联网信息服务深度合成管理(lǐ)规定》《生成式人工智能服务管理暂行办法》等法律法规上，进一步细化了AI合成内容的标识办法。

　　“这是全球范围内第一部关于人工智能生成合成内容标识的(de)国家标准，是关于人工智能内容治理(lǐ)机制建设的重要探(tàn)索，对人工智能内容(róng)产业的有序发展和业务(wù)规则具有重要的指引意义，也有助于人工智能良性生态的培育。”北京师范大学法学院副教授、中国互联(lián)网协会研究(jiū)中心(xīn)副主任吴沈括(kuò)对(duì)第一财经表(biǎo)示。

　　细化内容生成(chéng)标识

　　此次(cì)的《意见稿》提(tí)出，人(rén)工智能生成(chéng)合成内(nèi)容标识包括显式标识(shí)和隐(yǐn)式标识。显式标识是指(zhǐ)在生成合成内容或者交(jiāo)互场景界面中添(tiān)加的(de)，以(yǐ)文字、声音(yīn)、图(tú)形等方式呈现并可被用户明显感知到(dào)的标识。隐式标识是指采取技术(shù)措施在生成合成(chéng)内容文件数据中添加的，不易被用户明显感知到的标识。

　　不同互联网平台的(de)义务(wù)不尽(jǐn)相同。垦(kěn)丁律所创始合(hé)伙人朱骏超告诉记者，网络信息服务提(tí)供者的义务包括确保显式标识、添加隐式标识(shí)；提(tí)供网络信息内容传播平台服(fú)务的服务提供者的义务包括核验隐式标(biāo)识、添加提示标识、管理疑似内容，管理(lǐ)疑似内容(róng)包括在疑似生成合成内(nèi)容的文件元数据中(zhōng)添加(jiā)生成合成内(nèi)容属性信息、传播(bō)平(píng)台名称或编码、内容(róng)编号等传播要素信息；互联网应用程序分发平台的(de)义务包括核验标识功能，即在应(yīng)用程序上架或上线(xiàn)审(shěn)核时，核(hé)验服务提(tí)供者(zhě)是否按要求提供生(shēng)成(chéng)合(hé)成内容(róng)标识功能。

　　具体而言，针对提供生成合成服务的(de)网络信息服务提供者，《意见稿(gǎo)》第四(sì)条(tiáo)提出，如果提供《互联网信息服务深度合成管理规定》第十七(qī)条第一款情形规定的深度合成(chéng)服务(wù)，可能导致公众混淆或者误认的，应当按要求对生成合成内容添加显式标识。

　　《互(hù)联(lián)网信息服(fú)务深度合成管理规定(dìng)》第(dì)十七条第一款提到的具体情形包括：智能对话、智能写作等(děng)模拟自然人进行文本的生成(chéng)或者(zhě)编辑服务；合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；人脸(liǎn)生成、人脸替换、人脸(liǎn)操控、姿态操控(kòng)等人物图像、视频生成或者显著改变个(gè)人身份特征的编辑服务等。

　　显式标识方(fāng)式根据内容表(biǎo)现形式有(yǒu)所差(chà)异。如果是(shì)图片，则需在适当位置添(tiān)加显著(zhù)的提示标识；如果是视(shì)频(pín)，则(zé)在视频起始(shǐ)画面和(hé)视频播(bō)放周(zhōu)边的适当位置(zhì)添加显著的提示(shì)标(biāo)识，可在视频末尾和中间适当位置添(tiān)加显著的提示标识，等(děng)等。

　　《意见稿》还要求提供生成合成服(fú)务的网络信息服务提供者，在(zài)生成合成内容的文件元数据中添加隐式标识，隐式标识需(xū)包含(hán)生成合成内容属性信息、服务提供(gōng)者名(míng)称或编码、内(nèi)容编号(hào)等制作要素(sù)信(xìn)息(xī)。同时，提供网(wǎng)络信息内容(róng)传播平台应当采取措施，规范生成合成内容传播活动。包括提供必要的标识(shí)功能(néng)，并提醒用户主动(dòng)声明发布内容中是否包含生成合成内(nèi)容等。

　　如果违反这一规定，未对生成合(hé)成内容进(jìn)行标识造成严(yán)重后果的，将由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚(fá)。

　　新壹科技副(fù)总裁陈鹏对记者表示，《意见稿》保护了用户权益，通过显式和隐式标识，用户可以更容易地识别(bié)出内容是否由人工智能生成(chéng)，有助于保护用户的知情权和选择权。另外，通过这一(yī)规范能增强内容可信(xìn)度，减少误导和(hé)滥用的可能(néng)性。

　　吴沈括对记者提到，内容标识是目前关于人工智(zhì)能内容治理中的(de)一种非常(cháng)重要的机制设计，它对于(yú)避免深(shēn)度伪造带来的(de)安(ān)全风险有非常大的价(jià)值，且通过标准的统一也有助于引(yǐn)导各(gè)方的业(yè)务规(guī)则、业务设计和业务模式，对于全链条的风险防(fáng)范具(jù)有非(fēi)常重要的作用，也能有助于公众(zhòng)识别AI内容的真伪和(hé)权威性。

　　汉(hàn)王科技天地大模型算法负责人彭菲认为，这(zhè)一办法的出台具有重要意(yì)义和积极作(zuò)用，不(bù)仅保(bǎo)护(hù)了(le)公民、法(fǎ)人以及其他组织的合法权益，而且维护国家安全和社会公(gōng)共利益。

　　“比(bǐ)如数(shù)据(jù)安(ān)全方面，显(xiǎn)示和隐式标识有助于(yú)提高数据的(de)可追溯性，从而增(zēng)强(qiáng)数据安全；通过(guò)明确标识AI生成的内容，有效防止误导性信息的传播，减少因技(jì)术滥用(yòng)而引发的(de)社会问题。版权管理方面，办法明(míng)确AI生成内容的来源和版权归属，维护了创作者的合法权益(yì)。”彭菲认为，通过(guò)这些(xiē)标识，用户能更容(róng)易识别出(chū)合成内容，从而规范和负责地使用这些内容，减少虚假信息的传播。该办法有助于促使行业服务提供者规范(fàn)地开展业务，推动人工智能(néng)技(jì)术的健康发展和广泛应用。

　　防(fáng)范AI犯罪

　　“《意见稿》大意是说生成相关内容如图(tú)片、视频、文字(zì)、语音必须标识说明为(wèi)AI生成，防止有人恶意造谣、诈骗，引发(fā)不良影响的社会舆论(lùn)，防止相关犯罪发生。之前(qián)有人非法用他人头(tóu)像或者脸部做合成，通过AI转(zhuǎn)换语音(yīn)进(jìn)行诈骗，类似这种恶性事件(jiàn)应该(gāi)杜绝。”AI视频制作者(zhě)冯(féng)彬告诉记者。

　　就在(zài)8月底，韩国出现多起利用AI换脸伪造女性色情露骨图像的犯(fàn)罪案，在这背后，犯罪者用深度伪造技术(shù)（Deepfake）合成色情照片(piàn)和视频，并在通信软件Telegram的群(qún)聊中传播，参与者多达22万人，引发韩国民众恐(kǒng)慌，有人将其称之为韩国又一(yī)“N号(hào)房”丑闻。

　　深度伪造这一技术犯罪，不仅仅(jǐn)出现在韩(hán)国(guó)，这两年在全球(qiú)都有出现在国内，今年6月，“男子用(yòng)AI伪造(zào)学生同(tóng)事近7000张裸照”冲上微博热搜。据央视(shì)新闻消息，犯(fàn)罪嫌疑人用AI“一键去衣”技术(shù)，深度伪造淫秽图片近7000张，再每张(zhāng)1.5元卖出，赚了将近一万元。图片(piàn)涉及(jí)女(nǚ)性人数多，包括学生、教师、同(tóng)事(shì)。

　　冯彬表示，现在多个视频平台都有向视频上(shàng)传者(zhě)提供类似“作者声明：内容为AI生成”的标识选(xuǎn)项，包括抖音(yīn)、b站、快手、视频(pín)号，但是没有强(qiáng)制创作者选择。据他(tā)观(guān)察，没有(yǒu)标识为AI内容的视频，平台会识别出一些并标(biāo)识类似(shì)“疑似AI生成”的字段。

　　冯彬认为，平台(tái)在标(biāo)识(shí)、提醒内容是否为AI生成方面，应(yīng)该(gāi)更(gèng)严格一些。相(xiāng)比视频、图片(piàn)，平台应该更难识别文本是(shì)否为AI生成，而(ér)从传播(bō)效果看，视频可能(néng)是“假新闻”更多采用的载体，AI换脸(liǎn)、AI语音这些有可能滋生诈(zhà)骗(piàn)的内容也尤其值得关注。

　　目(mù)前国内外已经达成共识，要对(duì)AI生成内容进行标识和管理。去年7月，美国白宫与大型科技公司达成协议，为人工智能的开发设置更多防护措施，包(bāo)括开发水印系统等。欧盟委员会(huì)也要求社交(jiāo)媒体公(gōng)司标记(jì)所有由(yóu)人工智(zhì)能生成的内容。

　　科(kē)技公(gōng)司已经开始尝(cháng)试用技术制衡AI滥用。今(jīn)年(nián)2月，OpenAI 团队推出(chū)“AI 生(shēng)成内容识别(bié)器”，旨在识别文本是由电脑自动生成还是人类撰(zhuàn)写，其本(běn)质上是一(yī)个区别真实(shí)内容和(hé) AI 生成内容的分类(lèi)器。不过，OpenAI 在博客中指出(chū)，此识别器对 AI 撰写内容的检出成(chéng)功率仅为 26%。

　　今年(nián)5 月，谷歌在 Google I/O 大会上公布(bù)了AI 生成(chéng)图像识别工(gōng)具，用户可以通过上传来源不明的图片、执(zhí)行反向图片搜索，了解到这(zhè)张图片被(bèi)谷歌初(chū)次收录的时间、最早出现的网站(zhàn)。谷歌(gē)还宣布，它自己的生成式(shì) AI 工具将在每张图片中包含元数(shù)据、嵌入水印，以(yǐ)表明这是 AI 生成的图像(xiàng)，而(ér)不是真(zhēn)实照片。相(xiāng)比AI 生成内容识别器，数字(zì)水印被认为可能(néng)是更有效的方法。

　　更(gèng)早前，微软在Build 2023开发者大会上，宣布增加一项功能(néng)，让(ràng)任何人都能识别Bing Image Creator和Microsoft Designer生(shēng)成的图像或(huò)视频片段(duàn)是否是由AI生成的(de)。该技术使用密码学方法(fǎ)对AI生成的内(nèi)容进行标记和签名，并附上有(yǒu)关其(qí)来源的元数据信息。

　　吴沈括表示(shì)，企业方面的(de)是微生态(tài)，此次出台的标识办法标准则是国家和产业(yè)的大生(shēng)态，“力度很大”。

　　（本文来自第一财经）

责(zé)任编辑：刘万里 SF014

未经允许不得转载：橘子百科-橘子都知道整治AI时代的信任危机，网信办就AI合成内容的标识办法征求意见