这家初创公司声称能分辨真人声音还是AI假冒

　　最新的人工(gōng)智能(néng)技术几乎可以模仿任何人的声音——总统、某位亲属(这家初创公司声称能分辨真人声音还是AI假冒shǔ)或银行客户。

　　这就是成立已有十年的音频技(jì)术初创公(gōng)司Pindrop Security 要解决(jué)的问题和机遇。该公司长期为银行和保(bǎo)险(xiǎn)公司提供语音认(rèn)证(zhèng)服务。最近，它发
布了一款(kuǎn)新产品，称其可以检(jiǎn)测电话和数字(zì)媒体内容(róng)中由人(rén)工智(zhì)能生成的语(yǔ)音 。该公(gōng)司正向媒体、政府机构和社交网(wǎng)络推销这项功能(néng)。

　　Pindrop是越来越多具有安全(quán)意识、意欲打击人工智能造假和欺诈威胁的公司之一。Protect AI 和萨姆·奥尔特曼（Sam Altman）麾下的Tools For Humanity Corp．（即Worldcoin，通过扫(sǎo)描眼睛来识(shí)别人的身份）等都属于这类公(gōng)司。

　　Pindrop专注于音频领域，今年1月 ，该公司因检测到美国总统拜登的声音 通过自动语音电话唆使人们不要在新(xīn)罕布什(shén)尔州初(chū)选中投票的深度伪(wěi)造来源而登上了新闻头条
。攻(gōng)击的规模在不断(duàn)扩大：该公司称，自去年以来，针(zhēn)对(duì这家初创公司声称能分辨真人声音还是AI假冒)其客户的(de)未遂攻击(jī)数量增加了五倍多(duō)。

　　SocialProof Security的首席执行官(guān)雷切尔·托巴克(kè)（Rachel Tobac）说(shuō)：“把语音克隆和欺骗软件结(jié)合起来，伪装成其他人在打电话，非常容易办到。”

　　Pindrop从一批知名投资者(zhě)那里获得了融资，包括Andreessen Horowitz和(hé)GV。今年，该公司(sī)又从Hercules Capital 获得了
1亿美元债务融资。其最新估值为9.25亿美元(yuán)。

　　联合创始人维贾(jiǎ)伊·巴拉苏布拉马(mǎ)尼扬（Vijay Balasubramaniyan）攻(gōng)读博士期间(jiān)在印度旅行(xíng)时曾想购买一套西(xī)装，之后他开始思考音频造假问题。他开(kāi)户的某美国银行(xíng)在(zài)当地时间凌晨3点左右打电话给他核实交易，问他的社保号 码。由于无法核实来电者是谁，银(yín)行(xíng)也没有提供太多信息
，他(tā)就挂断了电话。

　　“这太奇怪了，”巴拉苏布拉马尼扬回忆起他在(zài)回美国的飞机上(shàng)的想法，“亚历山大·格(gé)雷厄姆·贝尔（Alexander Graham Bell）发明电话已经很(hěn)久了，但
我(wǒ)们仍然没有办法识别电话的另一头是(shì)谁。”（他没(méi)买到那套西装。）

　　Pindrop的技术通(tōng)过分析音频来判断声音是属于真(zhēn)人(rén)，还是与(yǔ)人相像(xiàng)。巴拉(lā)苏布拉马尼扬说(shuō)，人类通过发出特(tè)定(dìng)的声音来(lái)说话，用声音(yīn)组成单词。但机器的发(fā)音(yīn)不像人类，偶尔会产生一些变化，超出人(rén)嘴发音的物理限制。由于每(měi)秒钟的语(yǔ)音音频可以采(cǎi)集(jí)8000个样本，人工智能有可能在几千个地方出错。

　　巴拉苏布(bù)拉马尼扬说：“随着你获(huò)得的音频(pín)越来(lái)越多，你就会发现(xiàn)这些异常(cháng)现(xiàn)象。”他(tā)补充说(shuō)，由于(yú)人类的发音方式(shì)都一样，因此他们的检测软件与(yǔ)语言种(zhǒng)类无关。

　　该公司称，其新工具可识别人工智能(néng)生成的音频，准确率在99%，但业(yè)内对人工智能检测的局限性仍有(yǒu)争议。对于教师、研究人员(yuán)和社交媒(méi)体用户来说，随着技术的进步，识别人工智能生成的(de)文字(zì)和图像一直是令人头疼的问题。今年3月，OpenAI发布了一款可以复制人(rén)声的工具，该(gāi)公司在一篇博(bó)文中建议，企业对(duì)于访问(wèn)银行账户和其他(tā)敏感信息应逐 步淘汰
基于语音的身份(fèn)验证(zhèng)方法。

　　在Pindrop担任(rèn)董事(shì)的思(sī)科系统公司前总(zǒng)裁约翰·钱伯斯（John Chambers）认为，语音(yīn)ID是一种异常(cháng)安全的(de)在线身份验证方式。钱伯斯通过他(tā)的公(gōng)司JC2 Venture这家初创公司声称能分辨真人声音还是AI假冒s投资了(le)这家初创(chuàng)公司。“语音将(jiāng)成为未来识别身份(fèn)的(de)主(zhǔ)要(yào)网络(luò)安全验证方式，”他说(shuō)，当语音与生物(wù)特征识(shí)别和所使用设备的相关(guān)数 据结合起来(lái)时，“几乎(hū)不(bù)可能有人完全破解。”

　　一些业内人士对应对人工智能问题的(de)人工智(zhì)能(néng)公司数量增多(duō)表达了疑虑。身份盗窃研究(jiū)中心(xīn)（Identity Theft Research Center）的詹(zhān)姆斯·李（James E． Lee）说，除非通过法律来减少网上可获得的个人(rén)数据数量，否则业界就可能卷入好(hǎo)坏人工智能之(zhī)间的长期争斗之中。

　　安全技术的(de)发展(zhǎn)同时，威胁也会随之而来。斯(sī)坦福大学的网络安全政策专家(jiā)安德鲁·格罗托（Andrew Grotto）说
，坏人有可(kě)能(néng)训(xùn)练出一种算法，来逃(táo)避Pindrop等公司(sī)用来识别深度伪 造(zào)的检查(chá)。格罗托说：“你(nǐ)最终会陷入这(zhè)场军(jūn)备竞赛，即防御者和威胁者(zhě)之间的猫鼠游(yóu)戏。”编辑/陈佳靖(jìng)

责任编辑：刘(liú)明亮

未经允许不得转载：橘子百科-橘子都知道 这家初创公司声称能分辨真人声音还是AI假冒