Quantcast
AI 技术进步神速实在太好用 但它竟害人差点失去亲人? – 洛杉矶周报 – 亚洲版

AI 技术最近越来越火,现在好多软件都有更新 AI 功能,未来只会更多不会更少!不过呢,科技进步的唯一缺点,大概就是那些不法人士也会随之进化!

日前就有一位住在 Phonix 的女性 Jennifer DeStefano,某天接到一通陌生来电。电话那头传来一个女儿声音尖叫与哭泣声,并哭着说「妈妈,我完蛋了!」,声音超像她 15 岁女儿 Brianna 。身为妈妈的 DeStefano,听到女儿哭泣声当然不疑有他,随即反问女儿发生了什么事,这时却出现了一名男性声音,威胁说「听好,你女儿在我手上,如果你打电话给警察、打给任何人,我就会用毒品灌她,随便对待她,还会送她到墨西哥,让你再也见不到她。」

DeStefano 听到这里完全崩溃,真的以为女儿遭绑架,立马跟绑匪协商并答应给出 100 万元赎金来救宝贝女儿。幸运的是,DeStefano 还算是很理智,在跟绑匪讲完电话后,还是拨打了 911 电话报警,并试图联系女儿。还好最终连络上了真的女儿,才发现原来女儿根本平安无事。

DeStefano 向媒体强调,当下那个女生的声音跟哭泣声真的就像是她女儿的,她不敢相信女儿的声音完美被 AI 技术成功复制。她觉得超级可怕,也很担心将来有可能会有越来越多人会上当受骗。

根据政府机关 FTC 统计资料显示,全美去年被诈骗集团骗取的金额高达 26 亿元。 UC Berkeley 的电脑科学教授 Hany Farid 也说,拜 AI 技术所赐,现在每月只需要花 5 元,其实任何人都可以轻易利用语音复制功能进行诈骗,现在诈骗集团也纷纷开始,转向使用 AI 软体当最新的诈骗武器,几乎不需要用到 1 分钟就可以变造声音。

你可能会想说,这绑匪到底是怎么知道别人家女儿的声音听起来是怎样?这你就有所不知了!现在社群平台这么发达,只要你有在社群帐号上发过任何东西,譬如说在 Tiktok 上录制过短音频,歹徒就可以公开在你帐号上撷取短音频,并透过语音复制软体变造声音。这些工具很好用可是如果用在不对的地方上,也真的是蛮可怕的!

据说, DeStefano 的女儿 Brianna 只有在 TikTok 私人帐户及 Instagram 帐户,上传个人照片和视频。追踪者也大都是亲朋好友而已。但是即便是这样,意图不轨之人还是有版法撷取到她的声音,真的是超级变态!

总而言之,大家在自己的社群媒体上发任何东西前,现在千万要多加小心谨慎~以防诈骗及团再想出什么新的花样来耍大家!