为了应对即将到来的2024年美国总统选举,电话筛选和欺诈检测公司Hiya推出了一款免费的Chrome插件——Hiya Deepfake Voice Detector,该插件能够可靠地检测出AI生成的声音。这款插件通过分析视频或音频流中的声音,给出一个真实性评分,帮助用户判断声音是否为真实的或伪造的。
Hiya表示,第三方测试者验证了该插件的准确性超过99%,即使是对未训练过的AI生成声音也能有效检测。此外,Hiya声称该插件能够识别新合成模型生成的声音,即使这些模型刚刚发布。在插件正式上线前,Engadget进行了测试,发现其表现良好。例如,当播放一段疑似使用AI配音的关于布鲁斯音乐家Howlin’ Wolf的YouTube视频时,插件给出了1/100的真实性评分,确认该视频为深度伪造。
Hiya总裁Kush Parikh在一份新闻稿中批评了社交媒体公司在防止深度伪造内容传播方面的不足:“显然,社交媒体网站有责任提醒用户他们消费的内容有很大可能是AI深度伪造。目前,这一责任落在了个人身上,要求他们保持警惕并使用像我们的Deepfake Voice Detector这样的工具来检查可疑内容。这是一个很高的要求,因此我们很高兴能够提供一种解决方案,帮助用户夺回一些主动权。”
该插件只需几秒钟即可完成声音检测,并采用信用系统来防止服务器过载。用户每天将获得20个信用点,这可能不足以覆盖社交媒体上大量存在的操纵性AI内容。尽管如此,这款插件仍为用户提供了一个有效的工具,帮助他们在信息泛滥的时代辨别真伪。
参考链接:
https://www.engadget.com/ai/a-new-chrome-extension-can-reliably-detect-ai-generated-voices-130059842.html