从0到1 国内首个金融领域“Deepfake”检测标准来了

　　21世纪经济报道见习记者(zhě) 郭聪聪北京报道

　　人工智能技术广泛应用于金融领域，在提高金融服务效率和质量的同时，其(qí)黑暗面也日渐显现。由(yóu)人工智能技术演(yǎn)化而来的Deepfake（深度伪造）技术欺诈日益猖獗，奇安信集团发布的《2024人工智能安全报告(gào)》中显示，在2023年，基于AI的深度(dù)伪造欺诈暴增了3000%。在这过程中，首当其冲的就是(shì)广泛适用“人脸(liǎn)识别”系(xì)统的(de)金融行业。

　　为提升金融信息系统的安全性，9月6日北(běi)京国家金融科技认(rèn)证中心联合10多家(jiā)金融机构(gòu)发布的《虚假数字人脸检测金融(róng)应用技术规范》（下称《应用规范》）正式施行(xíng)。《应用(yòng)规范》规定了面向金融领(lǐng)域应用的虚假数字(zì)人(rén)脸检测服务的技(jì)术框架、功能要求、性能要求等，并提(tí)出对应的测试评估方法，为金融机(jī)构防御虚假数字(zì)人脸攻击(jī)提供了重要参(cān)考，这是(shì)国内首个面向Deepfake进行安全(quán)检测的标准。

　　Deepfake正(zhèng)在冲(chōng)击银行“人脸识别”系统

　　Deepfake由“Deep learning”和“fake”组成，最早出现在 2017 年。其(qí)名称最初源于一个名为“Deepfakes”的(de)用户(hù)在Reddit社交网(wǎng)站上，发布了一系列名人的深度伪造视频，并声称(chēng)这是一个新的合成技术。

　　作为一种新兴的黑产攻击手段，Deepfake能够快速学习被仿冒(mào)者的样貌及(jí)声(shēng)音(yīn)，十分狡(jiǎo)猾且具迷惑性，在其背后(hòu)支撑的是日益精进化的人工智能技术。在金融账户开户、账户登录、移动支付、理财保险(xiǎn)身份鉴别等各(gè)种金融应用场景中都(dōu)需要“人脸识别”的今天，Deepfake对“人脸识(shí)别”系统的攻击(jī)给金融行业带来了巨大的潜伏风险。

　　就以银行(xíng)业为例， Deepfake就成为(wèi)了攻击银行外(wài)围防火墙的工具。通常银行网上银行的登录系统往往需要个人信息、验证码(mǎ)、密(mì)码与人脸识别，作(zuò)为最后(hòu)一层保障，人脸识别系统正在面临Deepfake的冲击。

　　今年2月，国外某(mǒu)安全公司就发现了名为“GoldPickaxe”的恶(è)意手机木马软(ruǎn)件。不同于(yú)传统的窃取资金方式，不法分子通过该木马软件窃取手机使(shǐ)用者(zhě)的面部肖像等生(shēng)物识别数据、拦截短信等，继而伪(wěi)造人脸动态视频，登录用(yòng)户的银行账号进行转账、消(xiāo)费、修改账号密码等操作。目前，GoldPickaxe木(mù)马病(bìng)毒活跃在(zài)越南和泰国，支持(chí)iOS和Android版(bǎn)本，十分值得警惕。

　　本报记者也曾对国内部分银行的手机银行展开了一次Deep从0到1 国内首个金融领域“Deepfake”检测标准来了fake测试。利(lì)用从0到1 国内首个金融领域“Deepfake”检测标准来了Deepfake技术，持卡人(rén)的肖像特征被抓(zhuā)取，再通过技术合成到非持卡人的面庞之上，非持卡人能够顺畅的以持卡(kǎ)人的面容执行“张嘴、点头、摇头”等指令，不过并(bìng)未能突(tū)破(pò)银行的防御机制(zhì)。但实现这一操作，仅拿到持卡人的一张照(zhào)片就(jiù)可做到。

　　国(guó)内首个金融(róng)领域“Deepfake”检测标准

　　中信银行信息技术管理部创新科学(xué)家张然是《应用规范》的起草(cǎo)者之一，在接受本(běn)报(bào)记者采访时(shí)他提到：“《应用规范(fàn)》是国内金融领域首个虚假数字人脸检测标准，实(shí)现了从0 到1的突破，是数字金融方向的(de)重要研究成果。该标准目(mù从0到1 国内首个金融领域“Deepfake”检测标准来了)前属于团体标准，但在未来将在此(cǐ)标准的基础(chǔ)上申(shēn)请国家标准及国(guó)际标准。”

　　该标准(zhǔn)的核心特点在于(yú)其为金融(róng)领域的虚假数字人脸检测提供了系(xì)统化的技术框架(jià)、功能要求(qiú)、性能(néng)评估方法等，专门(mén)针对通过生成式人工智能、深度伪造等技术制作的(de)虚假人脸内容进行检测。

　　同时，《应用规范》注重识别不(bù)同(tóng)类型的虚假人脸内容，包括图像、视频等形式，提出了基于深度学习、卷积神(shén)经网络等技(jì)术的检测方法，并强调了对检测准确性、鲁棒性和泛化性的全面评估(gū)（如下图）。

　　张然在介绍《应用规(guī)范》的具(jù)体应用场景时提到，《应用规范》在身份识别、交易验证的场景(jǐng)中均制定了相应评估方法。

身份识别。在金融机构进行(xíng)开户或身(shēn)份验证时，虚假数字人(rén)脸(liǎn)检测技术可以有效识别使用虚假(jiǎ)数字(zì)人(rén)脸(liǎn)企图冒用他人身份的行为。通过检测虚假面部特征，系统可(kě)以准确判断并拒绝虚假的开户申(shēn)请。
交易(yì)验证。在高额交(jiāo)易中(zhōng)，特别是涉及远程身份验证时(shí)，该技(jì)术可以通过实时(shí)视频对(duì)话或者图像验证用户身份，防止恶(è)意攻击者使用虚(xū)假(jiǎ)人脸视频进行交易验证，从(cóng)而提高金(jīn)融交易的(de)安全性。

　　在谈到《应用(yòng)规范》对(duì)于银行(xíng)业的影响时，张然说：“银行业(yè)对于《应用规(guī)范》的反馈很好，工商银行、建设银行、邮储银(yín)行等银行(xíng)将参与(yǔ)应用。”

　　张然表示，该标准的应用将持续(xù)提升银行业在防范虚假(jiǎ)身份认(rèn)证(zhèng)和(hé)金融(róng)欺诈方面的能力。虚假数字人脸(liǎn)检测技术(shù)可以有效抵(dǐ)御深度伪造等技术的攻(gōng)击，确保用户身(shēn)份的真实性，保护银行系统免受伪造人(rén)脸攻(gōng)击的威胁。此外，通过(guò)这(zhè)种技术的应用，银行可以进一步优化远(yuǎn)程服务和(hé)数字化(huà)交易的安全(quán)性，为用户提供更安全的线上金融服务体(tǐ)验。

责任编辑：王馨茹(rú)

未经允许不得转载：橘子百科-橘子都知道从0到1 国内首个金融领域“Deepfake”检测标准来了