从0到1 国内首个金融领域“Deepfake”检测标准来了

　　21世(shì)纪经济报道见习(xí)记(jì)者郭聪聪北京报道

　　人工智(zhì)能(néng)技术广泛(fàn)应用于金融(róng)领域，在(zài)提高金融服(fú)务效(xiào)率和质量(liàng)的同时，其黑暗面也日(rì)渐显现。由人工智能(néng)技术演化而来的Deepfake（深度伪造）技术欺诈日益猖獗，奇安信集团发布的《2024人工智能安全报告》中显示，在2023年，基于(yú)AI的深度伪(wěi)造欺诈暴增了(le)3000%。在这过程中，首当其冲的就是广泛适(shì)用“人脸识别”系统的金融(róng)行业。

　　为提升金融信息系统(tǒng)的安全性，9月6日北京国家金融(róng)科技认证中心联合10多家金融机构发布的《虚假数字(zì)人脸检测金融应用技(jì)术规(guī)范》（下称《应用规范》）正式(shì)施行。《应用规(guī)范》规定了(le)面向金融(róng)领域应用的虚假数字人脸检测服(fú)务的技术框架(jià)、功(gōng)能要求(qiú)、性(xìng)能要求等，并提(tí)出(chū)对(duì)应的测试评估方法，为金融机构防御虚假数字人(rén)脸攻击提供了(le)重要参从0到1 国内首个金融领域“Deepfake”检测标准来了考，这是国内首(shǒu)个面向Deepfake进行安全检测的标(biāo)准。

　　Deepfake正在冲击银行“人脸识别”系统

　　Deepfake由(yóu)“Deep learning”和“fake”组成，最早出现在 2017 年。其名称最(zuì)初(chū)源于一个名为“Deepfakes”的用户在Reddit社(shè)交(jiāo)网站(zhàn)上，发布了一系列名人的深度伪造(zào)视频，并声称这是(shì)一个新的合成技术。

　　作为一种新兴(xīng)的(de)黑产攻击手段(duàn)，Deepfake能(néng)够快速学习被仿冒(mào)者的样貌及声音，十分狡猾且具迷惑性，在其背后支撑的是(shì)日益精(jīng)进化的人工智能技术。在金融账户开户、账户(hù)登录、移动支付、理财保险身份鉴别等(děng)各种金(jīn)融应用场景中都需要“人脸识(shí)别”的今天，Deepfake对“人脸识别”系统的攻击给金融行业带来了巨大的(de)潜伏风险(xiǎn)。

　　就以银行业为例， Deepfake就成为了攻击(jī)银行外围防火墙的工具。通常银行网上银行的登录系统往往需(xū)要个人信息、验(yàn)证码、密(mì)码与人脸识别，作(zuò)为最后一层保障(zhàng)，人脸识别系统正在面临Deepfake的冲击。

　　今年2月，国外某安全公(gōng)司就发现了名(míng)为“GoldPickaxe”的(de)恶意手(shǒu)机木马软件(jiàn)。不(bù)同于传统的窃取资金方式，不法分子(zi)通过该木马软件窃取手机使用者的面部(bù)肖像等生(shēng)物识别数据、拦截短信等，继而伪造人脸动态视频(pín)，登录用(yòng)户的银行(xíng)账号进行转账、消费、修改账号密码等(děng)操作。目前，GoldPickaxe木马病毒活跃在越南和泰国，支持iOS和Android版本，十分值得警惕。

　　本报记(jì)者也(yě)曾对国内部分银行的手机银行(xíng)展开了一次Deepfake测试。利用Deepfake技术，持卡人的肖(xiào)像(xiàng)特征被抓取，再通过技(jì)术合成到非持卡人(rén)的面(miàn)庞(páng)之上，非持(chí)卡人能够顺畅的以持卡人(rén)的面容执行“张嘴、点头、摇头”等(děng)指令，不过并未能突破(pò)银行的防御机制。但实现(xiàn)这一操作，仅拿到持卡人的一张照片就可做到(dào)。

　　国内首个金融领域“Deepfake”检测标准(zhǔn)

　　中信银行信息技术管理部创新科学家张然是《应用规范》的起草者之一(yī)，在(zài)接受本报记者采访时他提到：“《应用规(guī)范》是国内金融领域首个虚假数(shù)字人脸检测标准，实现了从0 到1的突破，是数字金融(róng)方向的重要研究成果(guǒ)。该标(biāo)准目前属于团体标(biāo)准，但(dàn)在(zài)未来将在此标准的基础上申(shēn)请国家标准及国际标准。”

　　该标准(zhǔn)的核心特点在于其为金融领(lǐng)域的虚假数(shù)字人脸检测提供了系统(tǒng)化的技术框架、功能要求、性能评估方(fāng)法等，专门针对通过生(shēng)成式人工智能、深度伪造等技术制(zhì)作的虚(xū)假人脸内容进行检测。

　　同时，《应用规范》注重识别不同类型的虚假人脸(liǎn)内容，包括图从0到1 国内首个金融领域“Deepfake”检测标准来了(tú)像、视频(pín)等形式，提出了基于(yú)深度(dù)学习、卷积(jī)神经(jīng)网络等技术的(de)检测方法，并强调了对检测准(zhǔn)确性(xìng)、鲁棒性和泛化性的全面评估（如下图）。

　　张然在(zài)介绍《应用(yòng)规范(fàn)》的具体应(yīng)用场景(jǐng)时提(tí)到(dào)，《应用规范》在身份识别、交(jiāo)易验证的场景中均制定了相(xiāng)应评估方法。

身份识(shí)别。在金融机构进行开户或(huò)身(shēn)份(fèn)验证时，虚假数(shù)字人脸检测(cè)技术可以有效识别(bié)使用虚假数字人脸企图(tú)冒用他人身份的行为。通(tōng)过检测虚假面部特征，系统可(kě)以准确(què)判断并拒绝虚假的开(kāi)户申请。
交易验证。在(zài)高额交易中，特别是涉(shè)及远程身份验证(zhèng)时(shí)，该技术可以通(tōng)过实时视频对话(huà)或者图像验证用户身份，防止恶意攻(gōng)击者(zhě)使用虚假人脸视频进行交易验证，从而(ér)提高金融交易的(de)安全性。

　　在谈到(dào)《应用规(guī)范》对于银行业(yè)的影响时，张然说：“银行业对于《应用规范》的反馈很好，工商银(yín)行(xíng)、建设银行、邮(yóu)储银行(xíng)等银行(xíng)将参(cān)与应用。”

　　张然表示，该标准的应用将持续提升银行业(yè)在防范虚假身份认证和金融欺诈方面的能力。虚假(jiǎ)数字(zì)人脸检测技术可以有效抵御深度伪造等技术的攻击，确(què)保用户身份的真实(shí)性，保护银(yín)行系统免受伪造人脸(liǎn)攻击的威胁。此外，通过这种技术(shù)的(de)应用，银行可以进一步(bù)优化远程服务和数字化交(jiāo)易的安全性，为(wèi)用户提供更安全的线(xiàn)上金融服务体验。

责(zé)任编(biān)辑：王馨(xīn)茹

未经允许不得转载：橘子百科-橘子都知道从0到1 国内首个金融领域“Deepfake”检测标准来了