这家初创公司声称能分辨真人声音还是AI假冒

　　最新的人(rén)工智能技术几乎可以模仿任何人的(de)声音——总(zǒng)统、某位亲属或银行客户(hù)。

　　这就(jiù)是成(chéng)立已有十年(nián)的音频(pín)技术初创公司Pindrop Security 要解决的问题和机遇(yù)。该(gāi)公(gōng)司长期为银行和保险(xiǎn)公司(sī)提供语音认证服务。最近(jìn)，它发布了一款(kuǎn)新 产品，称其可以检测电话和数字媒体内容中由(yóu)人工智能生成的语音。该公司正向媒体、政(zhèng)府机构和社交网络(luò)推销这项功能。

　　Pindrop是越来越多具有安全意识、意欲打击人工智能造假和欺诈威胁的公司之一。Protect AI 和萨姆·奥尔(ěr)特曼（Sam Altman）麾下的Tools For Humanity Cor这家初创公司声称能分辨真人声音还是AI假冒p．（即Worldcoin，通过扫描眼睛来(lái)识别人的身份(fèn)）等都属于这类公司。

　　Pindrop专注于(yú)音频领(lǐng)域(yù)，今年1月，该公(gōng)司(sī)因检测到(dào)美国(guó)总统拜登的声音(yīn)通(tōng)过自动语音电话唆使人们不要(yào)在新罕布什尔州初选(xuǎn)中(zhōng)投票的深度伪造来源 而登上了
新闻(wén)头条。攻击的规模在(zài)不断扩大：该公司称，自去年(nián)以来(lái)，针对其客户的未遂攻(gōng)击数量增加了五倍多(duō)。

　　SocialProof Security的首席执行官雷切尔·托巴(bā)克（Rachel Tobac）说(shuō)：“把语(yǔ)音克隆(lóng)和欺骗软件结合起(qǐ)来，伪装成其他人在打电话，非(fēi)常容易办到。”

　　Pindrop从一批知(zhī)名投资者那里获得了融资，包括Andreessen Horowitz和GV。今(jīn)年，该公司又从Hercules Capital 获得了1亿美元(yuán)债务融资。其最(zuì)新(xīn)估值为9.25亿美元。

　　联合创始人(rén)维贾伊·巴(bā)拉这家初创公司声称能分辨真人声音还是AI假冒苏布拉马尼扬(yáng)（Vijay Balasubramaniyan）攻读 博士期间在印度 旅行时曾(céng)想购(gòu)买(mǎi)一(yī)套西装，之后(hòu)他(tā)开始思考音(yīn)频造假问题。他开(kāi)户的某美国银行在当地时间(jiān)凌晨3点左右打电话给他(tā)核实(shí)交易，问他(tā)的社保(bǎo)号码。由于无法(fǎ)核(hé)实来电者是(shì)谁，银(yín)行也没有提供(gōng)太多信(xìn)息，他就(jiù)挂断了(le)电话。

　　“这太奇怪了，”巴(bā)拉苏布拉马尼扬回忆起他在回(huí)美国的飞机上的想(xiǎng)法，“亚历山大·格雷厄姆·贝尔（Alexander Graham Bell）发明电话已(yǐ)经很久了(le)，但我们仍 然没有办(bàn)法识别(bié)电(diàn)话的另一(yī)头是谁。”（他没买到那套西装。）

　　Pindrop的技(jì)术通过分析音频来判断声音是属(shǔ)于真人，还是与人相像。巴拉苏布拉马尼扬说，人类通过发(fā)出特定(dìng)的声音来说话，用声音(yīn)组成单词。但机器的发音不(bù)像人类，偶尔会(huì)产生一些变化，超出人(rén)嘴发音 的物(wù)理限(xiàn)制。由于每秒(miǎo)钟的语音音频可(kě)以采集8000个样本，人工智能有(yǒu)可能在几千个地方出错(cuò)。

　　巴拉苏布拉马(mǎ)尼扬说：“随着你获得(dé)的音频越来越多，你就会发现这些异常现象。”他补充说，由于人类
的(de)发音方式都一样(yàng)，因此他们(men)的检测软件与语言种类无关
。

　　该公司称，其新工具可识别人工智能生成(chéng)的音频，准确率在99%，但业(yè)内对人(rén)工智(zhì)能检 测的(de)局限性仍(réng)有争议。对于教师(shī)、研究人员和社交媒体 用户来说，随着技术的进步，识别人工智能生成的文字和图像一直是令人头疼的(de)问题。今年3月
，OpenAI发布了一款(kuǎn)可(kě)以复制人声的工具(jù)，该公司在(zài)一篇博文(wén)中(zhōng)建议，企(qǐ)业(yè)对于访问银行账(zhàng)户和其他敏感信息应逐步(bù)淘汰基于语音的身份验证方法。

　　在Pindrop担任董事的思科(kē)系统公司(sī)前(qián)总裁约翰·钱伯斯（John Chambers）认为(wèi)，语音ID是一种异常(cháng)安全的在线身份验证方式。钱(qián)伯斯通过他的公司JC2 Ventures投资了这家初(chū)创(chuàng)公(gōng)司。“语音(yīn)将成为未来识 别身份的主(zhǔ)要网络安全验(yàn)证方式，”他说，当语音与生物特征识别和所使(shǐ)用(yòng)设备的相(xiāng)关(guān)数据结合起来时，“几乎不可能有人完全破解。”

　　一些业内人士对应(yīng)对人工智能问题的人工智能公司数量增多表达了疑虑。身份盗窃研究中心（Identity Theft Research Center）的詹姆斯·李（James E． Lee）说，除非通过法律来减少网上可获得的个人数据数量，否(fǒu)则业界就可能卷入好坏人工智能之间的长期争斗之中。

　　安全技术的发展同时，威胁也会随之而来。斯坦福大学的网络安全政策专家(jiā)安德鲁·格(gé)罗(luó)托（Andrew Grotto）说，坏人有可能训练出一种算法，来逃避Pindrop等公司用来识别(bié)深度伪造的检查。格罗托说：“你最终会陷(xiàn)入(rù)这(zhè)场军备竞赛，即防御(yù)者(zhě)和威胁者之间 的猫鼠游戏。”编辑/陈佳靖

责任编辑：刘明亮

未经允许不得转载：橘子百科-橘子都知道 这家初创公司声称能分辨真人声音还是AI假冒