从0到 1 国内首个金融领域“Deepfake”检测标准来了

　　21世纪经济报(bào)道见习记者(zhě) 郭聪聪 北京报 道

　　人工智能技术(shù)广(guǎng)泛应用于金融领域，在提高金融 服务效率和质量的(de)同时，其黑暗面也日(rì)渐显现。由人工(gōng)智能技术演化而来的Deepfake（深度伪造）技(jì)术欺(qī)诈日益猖獗，奇安信集团发布的《2024人工智能(néng)安全报告》中显示(shì)，在2023年，基于AI的深度伪造欺诈暴增了3000%。在这过程中(zhōng)，首(shǒu)当其冲的就是广泛适(shì)用“人(rén)脸(liǎn)识别”系统的(de)金融行业。

　　为提升金融信息系统的(de)安全性，9月6日北京国家(jiā)金融科技认证中心联(lián)合
10多家金融机构发布的《虚假数字人脸检测金融应用技术规范》（下称《应用规范》）正式(shì)施行。《应用规范 》规(guī)定了面向金融领域应用的虚假数(shù)字人脸(liǎn)检测服务的技术框架、功能要求、性能要求等，并提出对应的测试(shì)评估方(fāng)法，为金融机构防御虚假(jiǎ)数(shù)字人(rén)脸攻击提供了重要参考，这(zhè)是国内首个面向(xiàng)Deepfake进行安全检测的标(biāo)准。

　　Deepfake正在冲击银行“人脸识别”系(xì)统

　　Deepfake由“Deep learning”和“fake”组成，最早出(chū)现在 2017 年。其(qí)名(míng)称最初源从0到1 国内首个金融领域“Deepfake”检测标准来了于一个名为“Deepfakes”的用(yòng)户在Reddit社(shè)交网站上，发布了一系列名人的深度伪造视(shì)频，并声(shēng)称(chēng)这是一个新的合成技术。

　　作(zuò)为
一种新兴的黑产攻击(jī)手段，Deepfake能够快速学习被仿冒者的样貌及(jí)声(shēng)音，十分狡猾且具迷惑性，在(zài)其背后支撑(chēng)的(de)是日益精进化的人工智能技术。在金融账户开户、账户(hù)登录、移动支付、理(lǐ)财保险身份鉴别等各(gè)种(zhǒng)金融应用(yòng)场(chǎng)景中(zhōng)都需要“人脸识别”的今天，Deepfake对“人脸识别”系统的攻击
给金融行(xíng)业带来(lái)了巨大的潜伏风险。

　　就以银行业为例， Deepfake就成为了(le)攻击银行外围防火墙的工具(jù)。通常银行网上银(yín)行的(de)登(dēng)录系(xì)统往往需要(yào)个人信息(xī)、验证码、密(mì)码与人脸识别，作为最后一层保障，人脸识别系统正在面临(lín)Deepfake的冲击。

　　今(jīn)年2月，国外某安全公司就发现(xiàn)了名为“GoldPickaxe”的恶意手机木马软件。不同于传统的窃取资金方式(shì)，不法(fǎ)分(fēn)子通过该木马软件窃取手(shǒu)机使用者的面部肖像等生(shēng)物识别数据、拦截短信等，继而伪(wěi)造(zào)人脸动态视频(pín)，登录(lù)用户的银行账(zhàng)号进行转账、消费、修改账号密码等操作。目前，GoldPickaxe木马(mǎ)病毒活跃(yuè)在越南和泰国，支持iOS和Android版本(běn)，十(shí)分值得警惕。

　　本报记者也曾对(duì)国内(nèi)部分(fēn)银行的手机银行展开了一
次Deepfake测试。利用(yòng)Deepfake技
术，持卡人的肖像特征
被(bèi)抓取，再通过技术(shù)合成到非持卡人的面庞之
上，非(fēi)持卡人能够顺畅的(de)以持卡人的(de)面容执行“张(zhāng)嘴、点头、摇头
”等指令，不过并未能(néng)突破银行的防御机制。但实现这一操作(zuò)，仅(jǐn)拿到持卡人的一张(zhāng)照片就可做到。

　　国内首个金融(róng)领域“Deepfake”检测标准

　　从0到1 国内首个金融领域“Deepfake”检测标准来了中信银行信息技(jì)术管理(lǐ)部创新科学(xué)家张然是《应用规范》的起(qǐ)草者之一，在接(jiē)受本报记者采访时他提到：“《应用规范》是国(guó)内金融领域首(shǒu)个虚假数字人脸检测标(biāo)准，实现了从(cóng)0 到1的(de)突破，是数字金融方向的重要研究成果。该标(biāo)准目前属于团体(tǐ)标准，但在未(wèi)来将在此标准的基础上申(shēn)请国家标准及国际标准。”

　　该标准的核心特点在于其为(wèi)金(jīn)融领域(yù)的虚假数 字人脸检测(cè)提供了系统化的技(jì)术框 架、功能要求(qiú)、性能评估方法等，专门(mén)针(zhēn)对通过生成式人工智能、深度伪造等技术制作的虚假人脸内容进(jìn)行(xíng)检测。

　　同时，《应用规(guī)范》注重识别不(bù)同类型的虚假人脸内容，包括图像(xiàng)、视频(pín)等形式，提出了基于(yú)深度学(xué)习、卷(juǎn)积神经网络(luò)等技(jì)术的检测方(fāng)法，并强调了对(duì)检测准确性、鲁(lǔ)棒性和泛(fàn)化性(xìng)的全面(miàn)评估（如(rú)下图）。

　　张然在(zài)介绍《应用(yòng)规范》的具体应用场(chǎng)景时(shí)提到，《应用规范》在身份识别、交(jiāo)易(yì)验证的场景中均制定了相应评估方法(fǎ)。

• 身份识别。在金融机构进行开户或身份(fèn)验证时，虚假数(shù)字人脸检测(cè)技术可以有(yǒu)效识别使用虚假数字人脸企图冒用他(tā)人身份的(de)行(xíng)为。通过检测(cè)虚假面部特征，系统可以准确判断并拒绝虚假的开户申
  请。
• 交易验证。在(zài)高额交易中，特别是涉及远程身份验证 时，该技术可以通过实时视(shì)频对话或者(zhě)图像验(yàn)证用户身 份，防止恶意攻击者使用虚假人脸视频进行(xíng)交易验(yàn)证，从而提高金融交易(yì)的安全性。

　　在谈到《应用规范》对于(yú)银行业的影响(xiǎng)时，张然说：“银行业对于《应(yīng)用规范(fàn)》的反馈很好，工(gōng)商银行、建设银行、邮储银
行等银行将参与应用。”

　　张然表示，该标(biāo)准的应(yīng)用将持续提升银行业在防范虚假(jiǎ)身份认证和金融欺诈方(fāng)面的能力。虚假数字(zì)人脸检测技术可(kě)以有效抵御深(shēn)度(dù)伪造等技术的攻(gōng)击，确保用户身(shēn)份的真实性，保护银行系统免受伪(wěi)造人脸攻击的威胁。此外，通 过这种技术的应用，银行可以(yǐ)进一步(bù)优化远程服(fú)务和数(shù)字化交易的安全性，为用户提供更安(ān)全的线上金融服务体验。

责任编辑：王馨茹

未经允许不得转载：橘子百科-橘子都知道 从0到1 国内首个金融领域“Deepfake”检测标准来了