从0到1 国内首个金融领域“Deepfake”检测标准来了

　　21世纪经济报(bào)道见习记者郭聪聪北京报道

　　人工智能技术广泛应用于金(jīn)融领域，在提高金融服务效率和质量的同(tóng)时，其(qí)黑暗面也日渐显现(xiàn)。由人工智能技术演化(huà)而来的Deepfake（深度伪造）技术欺诈日益猖獗，奇安信集团发布的《2024人工(gōng)智能安全报告(gào)》中显示，在2023年，基于AI的深(shēn)度伪造欺诈暴增了3000%。在这过程中，首当(dāng)其冲的(de)就是广泛适用“人脸识别(bié)”系统的金融行业。

　　为提升金融信息系(xì)统的安全性，9月6日(rì)北京国家金融科技认证中心联合10多家金融机构发布的《虚假数字人脸检测金融(róng)应用技术规范》（下称《应(yīng)用规范》）正式(shì)施行。《应用规范》规定了(le)面向金融领域应用的(de)虚假数(shù)字(zì)人脸检测服务(wù)的技术框架、功能(néng)要求、性能要求等，并提出对(duì)应(yīng)的测试评估(gū)方法，为金融(róng)机构防御虚假(jiǎ)数字人脸攻击提供了重要参考，这是国内首(shǒu)个面向Deepfake进(jìn)行安全检测(cè)的标准。

　　Deepfake正(zhèng)在冲击银行“人脸识别”系统

　　Deepfa从0到1 国内首个金融领域“Deepfake”检测标准来了ke由“Deep learning”和“fake”组成，最(zuì)早出现在 2017 年。其名称最初(chū)源于一个名为“Deepfakes”的用户(hù)在Reddit社交网站上，发布(bù)了(le)一系列名(míng)人(rén)的深度伪造视频，并声称这(zhè)是一个新的合成技术。

　　作为一(yī)种新兴的黑产攻击手段，Deepfake能够快速学习被仿冒者的样貌及声音，十分狡(jiǎo)猾且具(jù)迷惑性，在其背后支撑的(de)是日益精进化的人(rén)工(gōng)智能技术。在(zài)金融账户(hù)开户(hù)、账户登录(lù)、移动支付(fù)、理财保险身份鉴别等各种金融应用场景中都需要“人脸识别”的今(jīn)天，Deepfake对“人脸识(shí)别”系统的攻(gōng)击给金融(róng)行业(yè)带来了巨大的潜伏风险。

　　就以银行业为例， Deepfake就成为了攻击银行外(wài)围防火墙的工具。通(tōng)常银(yín)行网上(shàng)银行的登录系统往往需要个(gè)人信息、验证码、密码与人脸识别，作为最后一(yī)层(céng)保障，人脸识别系统正在(zài)面临Deepfake的冲(chōng)击。

　　今年2月(yuè)，国外某安全公司就发现了名为“GoldPickaxe”的恶(è)意手机(jī)木马软件。不(bù)同于(yú)传统的(de)窃取资金方式，不法分子通过该(gāi)木马软件窃取手机(jī)使用者的(de)面部肖像等生物(wù)识(shí)别数据、拦截短信等(děng)，继而伪造人脸动态(tài)视频，登录用户的银行账号进行转账、消费、修改(gǎi)账号密码等操作(zuò)。目前(qián)，GoldPickaxe木马病毒(dú)活跃(yuè)在越南和泰国，支持iOS和Android版本(běn)，十分值得(dé)警惕。

　　本报记(jì)者也曾(céng)对国内部分银行(xíng)的(de)手机(jī)银行展开了一次Deepfake测试。利用Deepfake技术，持(chí)卡人的肖像特征被抓取，再通过技术合成到非持卡人的面庞之上，非持卡人能够顺畅的(de)以持卡人的面容执行“张嘴、点头、摇头”等指令，不过(guò)并未能突破银(yín)行(xíng)的防(fáng)御机制。但实(shí)现这一操作，仅拿到持卡人的一张照片就可做(zuò)到。

　　国(guó)内首个金融领(lǐng)域“Deepfake”检测标准(zhǔn)

　　中信银(yín)行(xíng)信息技(jì)术管(guǎn)理部创新(xīn)科学家张然是《应用规范》的起草者之一(yī)，在接受(shòu)本报记者采访时他提到：“《应用规范》是国内金融领域首个虚假数字人脸检测标准，实现了从0 到1的突破，是数字金融方(fāng)向的重要研究成果。该标准目前属于团体标准，但在未来将在此标(biāo)准(zhǔn)的基础上申请(qǐng)国(guó)家标准及国际标准。”

　　该标准的核心特点在于其为金融领域的虚假数字人脸检测提供了系统化的技术(shù)框架、功能要求、性能(néng)评估方法(fǎ)等，专门针对通过(guò)生成式人工智能、深度伪造等技术制作的虚(xū)假人脸内容进行检测。

　　同时，《应用规范》注(zhù)重识别不同类型(xíng)的虚假人脸内容，包(bāo)括图像(xiàng)、视频等(děng)形式，提出了基于深度学习、卷积神经网(wǎng)络(luò)等(děng)技术的检测(cè)方法，并强调了对检测准确性、鲁棒性和泛化性的全面评估（如下图）。

　　张然在介绍《应用规范(fàn)》的具体应用场景时提到，《应用规范》在身份识别、交(jiāo)易验证的场(chǎng)景中均制定了(le)相(xiāng)应评估方法。

身份识别。在金融机构进行(xíng)开户或身份验证时，虚假数字人脸检测技(jì)术可以有效(xiào)识别(bié)使用虚假数字人脸企图冒用他人身份的行(xíng)为。通过(guò)检测虚假面部特征，系统可以准确判断(duàn)并拒绝虚假的开户(hù)申请(qǐng)。
交易验证。在高额交易中，特别是(shì)涉及远程身份验证时，该技术可以通过实时视频对话或者图像验证用户身份，防止(zhǐ)恶(è)意攻击者使用虚(xū)假人脸视频进行交易验证，从而提高金融交易的安(ān)全性。

　　在谈到《应用规范》对于银(yín)行业的影响(xiǎng)时，张然说：“银行业对于《应用(yòng)规范》的反馈很好，工商(shāng)银行、建设银行、邮储银行等银行将参与应用。”从0到1 国内首个金融领域“Deepfake”检测标准来了>

　　张然表(biǎo)示，该标准的应用将持续提升银行业在防范虚假身(shēn)份认证和金融欺诈方面的能力(lì)。虚假(jiǎ)数字人脸检测技术可以有效抵御深度伪造等技术的攻击，确保用(yòng)户身份的真实性，保护银行系统免受伪造人脸攻击的威胁。此外，通过这种技术的应用，银行可以进一(yī)步优化远程服务和数字化交易的安全性(xìng)，为用(yòng)户提供更安全(quán)的线上金融服务(wù)体验。

责任编辑：王馨茹

未经允许不得转载：橘子百科-橘子都知道从0到1 国内首个金融领域“Deepfake”检测标准来了