从0到1 国内首个金融领域“Deepfake”检测标准来了

　　21世纪(jì)经(jīng)济报(bào)道见(jiàn)习记者(zhě) 郭聪聪北京报道

　　人(rén)工智能技术广泛应用于金融领域，在(zài)提高金融服务效(xiào)率和质量的(de)同时，其黑暗面也日渐显现。由人工智能技术演化而来的Deepfake（深度(dù)伪造）技术欺诈日益猖獗，奇安信集团发(fā)布的《2024人工智能安全报(bào)告》中显示，在2023年，基于AI的深(shēn)度伪造(zào)欺诈暴增了3000%。在这过程中，首当其冲(chōng)的就是广泛适用“人脸识别”系统的金融行业。

　　为提升金融信息系统的安全(quán)性，9月6日北京国家金融科技认证中心联合10多家金融机构发布的《虚假数字人脸检测金融(róng)应用技术规范》（下称《应用(yòng)规范》）正式施行。《应用规范》规定了(le)面向金融领域应用的虚假数字(zì)人脸检(jiǎn)测服务(wù)的(de)技术框架、功能要求、性能要求(qiú)等，并提出对应的测试评估方法，为金融机(jī)构防御虚假数字人脸攻击提(tí)供了重要参考，这是国内(nèi)首个(gè)面向Deepfake进行安全检测的标(biāo)准。

　　Deepfake正在冲(chōng)击银行(xíng)“人脸识(shí)别”系统

　　Deepfake由(yóu)“Deep learning”和“fake”组成，最早出现在 2017 年(nián)。其名称最初源于一个名为“Deepfakes”的用户在Reddit社交网站上(shàng)，发布了一系列名人的深度(dù)伪造视频，并声称这是一个新的合成技术。

　　作为一种新兴的黑产攻击手段，Deepfake能(néng)够快速学习被仿冒者的样貌及声音，十(shí)分(fēn)狡猾且具迷惑性(xìng)，在其背后支撑的(de)是日益精进化的人工智能(néng)技术。在金融账户开户、账户登录、移动支(zhī)付、理(lǐ)财(cái)保险身份鉴别等各种金融应用(yòng)场景中都需要“人脸(liǎn)识(shí)别”的今天，Deepfake对“人脸识别”系统的攻击给金融(róng)行业带来了巨大的潜伏(fú)风险。

　　就以银行业为例， Deepfake就成为了攻击银行外围防火墙的工具。通(tōng)常银行网上银行的登录系统往往需要个人信息、验证码、密码与(yǔ)人脸识别，作为最后一层保障，人(rén)脸识别系统正在面临Deepfake的冲击。

　　今年2月，国外某安全公(gōng)司就(jiù)发现(xiàn)了名(míng)为“GoldPickaxe”的恶意手机木马软件。不同于传统的窃(qiè)取资金方式(shì)，不法分子通(tōng)过该木(mù)马软件窃(qiè)取手(shǒu)机使用(yòng)者的面部肖像(xiàng)等生(shēng)物识别(bié)数据、拦截短信等(děng)，继而伪造人脸(liǎn)动态视频，登录用户的银行账号进行转账、消费、修改账号密码等操作(zuò)。目(mù)前(qián)，GoldPickaxe木马(mǎ)病(bìng)毒活(huó)跃在越南(nán)和泰国，支持iOS和Android版本，十分值(zhí)得警惕。

　　本报记者也(y从0到1 国内首个金融领域“Deepfake”检测标准来了ě)曾对国内(nèi)部分银行的手机银行展开了一次Deepfake测(cè)试。利用(yòng)Deepfake技术(shù)，持卡(kǎ)人(rén)的(de)肖像特征被抓取，再通过技(jì)术合(hé)成(chéng)到非持卡人(rén)的面庞之上，非持卡人能够顺畅的以持卡人的面容执行(xíng)“张嘴、点头、摇头”等指(zhǐ)令，不过并未能(néng)突破银行的防御机制。但实现这一操(cāo)作，仅拿到持卡人的一张照片就可做到。

　　国内首个金融领域“Deepfake”检测标准

　　中(zhōng)信银行信息技术管理(lǐ)部创新科学家张然是《应用(yòng)规范》的起草者之一(yī)，在(zài)接受(shòu)本(běn)报记者采访时他提到：“《应用规(guī)范》是(shì)国内金融领域(yù)首个(gè)虚假数字(zì)人脸检(jiǎn)测标准，实现了从0 到(dào)1的突破，是数字金融方向的重要研究成果。该标准目前属于团体标准(zhǔn)，但在未来将在此标准的基础上申请国家标准及国际标(biāo)准。”

　　该标准的核(hé)心特点在于其为金融领域的虚假(jiǎ)数字人脸检测提供了系统化的技术框架(jià)、功能要求、性能评估方法等，专门针对通过(guò)生成式人工智能、深度伪造等技术制作的虚假人脸内容进行检测。

　　同(tóng)时，《应用规范》注重识别不同类型(xíng)的虚假人脸内(nèi)容，包括图像、视频等形式，提出了基(jī)于深度(dù)学习、卷积神经网(wǎng)络等技术的检测方法，并强调了对检测准确性、鲁棒性和泛化(huà)性的全面评估（如下图）。

　　张然在介绍《应用规范》的具(jù)体应用场景(jǐng)时提到，《应用规范》在身份识别、交易验证的(de)场景中均制(zhì)定了相应评(píng)估方(fāng)法(fǎ)。

身份识别。在金融机构进行开户或身(shēn)份(fèn)验证时(shí)，虚假数字人(rén)脸(liǎn)检(jiǎn)测技术可以(yǐ)有效识别使用虚假(jiǎ)数字人脸企图(tú)冒用(yòng)他人(rén)身份的行为。通过检(jiǎn)测虚假面部特(tè)征，系统可以准确判断并拒(jù)绝虚(xū)假的开户申请。
交易验证。在高额交易中，特(tè)别(bié)是涉及(jí)远程身份验证时，该技术可以通过实时视(shì)频对话或者(zhě)图像(xiàng)验证用户身份，防止恶意攻击者使用虚假人脸视频(pín)进(jìn)行交易验证，从而提高金融交易的安全性。

　　在(zài)谈到《应用规范》对于银(yín)行业的影响时，张然说：“银(yín)行业对于(yú)《应用规范》的反馈很好(hǎo)，工商银行、建设银行(xíng)、邮储(chǔ)银行等银行将参与应用。”

　　张然表示，该标准(zhǔn)的应用将持续提升银行业(yè)在防范虚假(jiǎ)身份认证和(hé)金(jīn)融欺诈方面的(de)能力。虚假(jiǎ)数字人脸检(jiǎn)测技术(shù)可以有效抵御深度伪造等技(jì)术的攻击，确(què)保(bǎo)用(yòng)户(hù)身份的真实性(xìng)，保护银行系统免受(shòu)伪造人脸攻击的威胁。此外，通过这种技术的应用，银行可以进一步优化远程服务和(hé)数(shù)字化交易的安全性，为用户提(tí)供更安全的线上金融服务体验。

责任编辑：王(wáng)馨茹

未经允许不得转载：橘子百科-橘子都知道从0到1 国内首个金融领域“Deepfake”检测标准来了