从0到1 国内首个金融领域“Deepfake”检测标准 来了

　　21世(shì)纪经济报(bào)道见(jiàn)习记者 郭聪聪 北京报道

　　人工智(zhì)能技(jì)术广泛应用于金融领域，在提(tí)高金(jīn)融服务效率和质量(liàng)的同时，其黑(hēi)暗(àn)面也(yě)日渐显现。由人工智能技(jì)术演化而(ér)来(lái)的Deepfake（深度伪造）技术欺诈(zhà)日益猖獗，奇安信集团发(fā)布的《2024人工智能安(ān)全报告》中显示，在2023年，基于(yú)AI的(de)深度伪 造欺诈暴增了3000%。在这过程(chéng)中，首当其冲的就是广泛适用“人脸识(shí)别”系(xì)统的金(jīn)融行业。

　　为提升金融信息系(xì)统的安全性，9月(yuè)6日北京国家金融科技认证中心联合10多(duō)家金融机构发布的《虚假数字人脸检测金融应用技(jì)术规范(fàn)》（下称《应(yīng)用规范》）正式施行。《应用规范
》规定了面向金(jīn)融领域应用的虚(xū)假数字人脸检测(cè)服务的技术框架、功(gōng)能要求、性能(néng)要求等，并(bìng)提出对应的测试评估方法，为金融机构防(fáng)御虚假数字人脸(liǎn)攻击提供了重要参考，这是国内(nèi)首(shǒu)个面向Deepfake进行安全检测的标(biāo)准。

　　Deepfake正在冲击银行“人脸识别”系统

　　Deepfake由“Deep learning”和“fake”组成，最早出(chū)现在(zài) 2017 年(nián)。其(qí)名称最初源于一个名为“Deepfakes”的用户在Reddit社交网站上，发布了一系列名(míng)人的深度伪造视频，并声称(chēng)这是一(yī)个新的合成(chéng)技术。

　　作(zuò)为一种新(xīn)兴的黑产攻击手段，Deepfake能够快速学习被仿冒者的样貌及声音，十分狡猾(huá)且具迷惑(huò)性，在(zài)其背后(hòu)支撑的是日益精进化的人工智能技(jì)术。在(zài)金融账户(hù)开户、账户登录(lù)、移动支付、理财保险身份鉴别等(děng)各种金(jīn)融应用场景中都需要“人脸识别”的今天，Deepfake对“人脸(liǎn)识别”系统的攻击(jī)给金融行业带(dài)来(lái)了(le)巨大的潜伏风险。

　　就以银 行业为例， Deepfake就成为了攻击银(yín)行外围防火墙的工具。通常(cháng)银(yín)行网(wǎng)上银行的登录系(xì)统往往需要个人信息、验证码、密(mì)码与人(rén)脸识(shí)别，作为最后一层保障，人脸识别系统正在面临(lín)Deepfake的冲击。

　　今年2月，国外某安全公司就发现了
名为“GoldPickaxe”的恶意手机木马软件。不同于传
统的(de)窃(qiè)取资金方式(shì)，不法分子通(tōng)过该木(mù)马软件(jiàn)窃取手机使(shǐ)用者的面部肖像等生物识别数据、拦截短信等(děng)，继而伪造人脸动态视频，登录用(yòng)户的银行账号进行转账、消费、修改账号从0到1 国内首个金融领域“Deepfake”检测标准来了密码等(děng)操(cāo)作。目前，GoldPickaxe木马病毒活跃在越南和泰国，支持iOS和Android版本，十分值得警惕。

　　本报记者也曾对国内部分银行的(de)手机银行展开了一次(cì)Deepfake测试。利用Deepfake技术，持卡人的肖像特征被抓取，再通过技术合(hé)成到非持卡人的面庞(páng)之上，非持卡人能够顺畅的(de)以持卡人的面容执行“张嘴、点头、摇头”等指(zhǐ)令，不过(guò)并未能突破银行的防御机制。但实现(xiàn)这一操作，仅(jǐn)拿到(dào)持卡(kǎ)人的一(yī)张照片就可做到(dào)。

　　国(guó)内首个金融领(lǐng)域“Deepfake”检测标准

　　中信银行信息技术管理部创新科学(xué)家张 然是《应用规(guī)范(fàn)》的起草(cǎo)者之一，在接受本报记者采访时他(tā)提到：“《应用规范》是(shì)国内金融领域首个虚假数字人脸检测标准，实现了从0 到(dào)1的突破，是数字金融(róng)方向的(de)重要研(yán)究成果(guǒ)。该标准目前属于团体标准，但在未来(lái)将在(zài)此标准的(de)基础上申请国家标准及国际标准。”

　　该标准的核心特点(diǎn)在于其为金融(róng)领域的虚假数字(zì)人脸检测提供(gōng)了系
统化的技术框架(jià)、功能要求、性能评估方(fāng)法等，专门针对通(tōng)过生成式人工(gōng)智能、深
度(dù)伪造(zào)等技术制(zhì)作的(de)虚假人脸内容进行检(jiǎn)测。

　　同(tóng)时，《应用规范》注重识
别不同类型的虚(xū)假人脸内容，包括图像、视频等形式，提出了基于深度(dù)学(xué)习、卷(juǎn)积神经网(wǎng)络等技(jì)术的(de)检测(cè)方法，并强
调了对检测准确(què)性、鲁棒性和泛化性的全(quán)面评估（如下图）。

　　张然在介绍《应用规范》的具体(tǐ)应用(yòng)场景时(shí)提到，《应用规范》在身份识别、交易验证的场景(jǐ从0到1 国内首个金融领域“Deepfake”检测标准来了ng)中(zhōng)均制定了相应评(píng)估方法。

• 身份(fèn)识(shí)别。在金融机构进行(xíng)开户或身(shēn)份验证时，虚假数字人脸检测技术可以有效(xiào)识别使用虚假数字人脸企图冒用他人身份的行为。通过检测虚假面部特征，系(xì)统可以准确判断并拒绝虚假的开户申请。
• 交易验证。在
  高额交易中，特别是(shì)涉及远程身份验证时，该技术可以通过实时(shí)视频对话或者图像验证用(yòng)户身份(fèn)，防止恶意攻击者使(shǐ)用虚假人(rén)脸视频进行交(jiāo)易验(yàn)证，从而提高金融(róng)交易的安全性(xìng)。

　　在谈(tán)到《应用规范》对于银行业的影响时，张然说：“银行业对于《应用(yòng)规范》的反馈很好，工商银行、建设银行(xíng)、邮储银行等银行将参(cān)与应(yīng)用。”

　　张然表示，该标准的应用将(jiāng)持(chí)续提(tí)升(shēng)银行业在防范虚假身份(fèn)认证和金融欺诈方(fāng)面的(de)能力。虚假数字(zì)人脸检测技术可以 有效抵御深度伪造等技术的攻击，确保(bǎo)用户身份的真实性，保护银行系(xì)统免受伪造人脸攻击的威(wēi)胁
。此外，通(tōng)过这种技术(shù)的应用，银行可以进一步优化远程服务和数字化交(jiāo)易的(de)安全性，为用户提供更安全的线上金融服务体验。

责任编辑：王馨茹

未经允许不得转载：橘子百科-橘子都知道 从0到1 国内首个金融领域“Deepfake”检测标准来了