找回密码
 点击注册
搜索
查看: 578|回复: 0

只要5美元,你的声音就会被AI偷走..更可怕的...

[复制链接]
发表于 2024-5-18 14:01:03 | 显示全部楼层 |阅读模式

只要5美元,你的声音就会被AI偷走...更可怕的在后面

华人生活网

人工智能技术的发展给骗子带来新的诈骗花招,AI语言克隆便是其中之一,在这种诈骗中,骗子通常会用AI克隆你的家人或亲友的声音,向你发出求助,让你信以为真,当你把钱汇出去时,才恍然发现原来是骗局。

根据CBS2NY报道,美国联邦贸易委员会的数据显示,过去四年,涉及商业冒名顶替者的诈骗不断增加。去年,损失超过 7.52亿美元。

CBS2NY进行了调查,发现克隆某人的声音非常容易。

AI语音技术是一把双刃剑,它可以帮助失去声音的人发声,也会被利用来行骗。图为一名失去声音的女孩输入文字,AI用她的声音说出。(美联社图)

由人工智能支持的网站允许任何人克隆亲人的声音,步骤简单快捷。用 Google搜索,很快就可以找到一个人工智能网站,仅需支付五美元,就可以使用其语音克隆服务。

接下来只需要某人一段 30秒的音频片段,然后输入你想说的话,AI便能克隆出这个人的语音。整个过程只需二到四分钟。

骗子可以从发布到社交媒体的视频,或从语音邮件中提取你的声音,或者他们可以给你打电话并录音,让你防不胜防。

骗子通常会用AI克隆你的家人或亲友的声音,向你发出求助

骗子通常会用AI克隆你的家人或亲友的声音,向你发出求助


AI语音克隆是如此逼真,甚至连经验丰富的人也可能受骗上当。

据CBS2NY报道,加里·希尔霍恩 (Gary Schildhorn)是一位律师,他本人也差点成为声音克隆骗局的受害者。

某天他接到儿子的来电,说“爸爸,我遇到麻烦了,我出了事故。我想我鼻子骨折了。我撞到了一名孕妇。他们逮捕了我,我进了监狱。快帮帮我”

希尔霍恩说,他真的以为就是儿子,因为那就是他的声音。“我知道那是我的儿子。我心里毫无疑问。”

他赶紧开车去银行提取 9000美元现金,同时向儿子的妻子通报了最新情况。然后他接到儿子通过 FaceTime打来的电话。儿子说,“爸爸,我很好。你被骗了。”

由于他没有损失金钱,所以没有法律追索权。

希尔霍恩联系了执法部门,但被告知犯罪分子无法追踪,因为骗子使用一次性手机来获取加密货币。

AI骗局这么厉害,怎么防范呢?

国会众议员伊维特·克拉克(Yvette D.Clarke)代表纽约第九选区,也是美国众议院人工智能工作组的成员。她提出了一项立法,要求公司对人工智能生成的内容添加数字水印。

如果该法案通过,消费者将被警告他们正在听假的语音,如果他们受到假语音内容的伤害,他们可以提起诉讼。

克拉克说:“对于普通人来说,辨别人工智能生成的内容和真实的内容将非常困难……采取防范措施的时间很紧迫。”

一家AI合成音频的初创公司对制定法规表示支持:“非常支持引入监管,这将有助于确定数字内容的起源,包括水印。”

执法部门建议民众,您应该创建一个密码并与家人分享。在紧急情况下,代码将帮助您验证电话上的人是真还是假。

执法人员还表示,如果有人向你索要金钱或敏感信息,请暂停。

皇后区检察官凯兹说:“尊重你的感觉,相信你的直觉,相信你的判断并仔细检查。”

看完骗子的手段只想说,人类科技发展越来越迅猛,但彼此之间也越来越安全,如今我们已经回到了“家人分享秘密”的时代,以后还有什么可以相信呢!


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 点击注册

本版积分规则

QQ|Archiver|SiXiang.com 思乡思想 ( 京ICP备05055065号-1 )

GMT+8, 2024-6-16 04:48

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表