bg
搜索
简
APP

Tech先知

会员专区

会员文

财经爆点

文 文 文

会员文:Tech先知|3秒仿造人声、视频换脸?AI衍生更多新型骗局

3秒仿造人声?AI换脸以假当真?这些你以为电影中才出现的高科技场面,如今却频繁在现实中发生。

人工智能(AI)的兴起为大家打开了方便之门,但也为不法分子提供更多钻空子的机会,特别是AI的克隆技术(Cloning)已形成新型骗局。

近期就常有报导,骗子通过设立钓鱼网站,然后骇入用户的WhatsApp户头或其他通讯平台,假冒家人借钱等。

会员文:Tech先知|3秒仿造人声、视频换脸?AI衍生更多新型骗局
不法分子如今善用科技,在WhatsApp从事各种诈骗活动。

骗子善用AI掌握克隆伪造技术,使真假更难辨。因此大家也必须与时并进,了解骗子的作案手法和AI技术带来的潜在风险,才能避免掉入陷阱。

卓豪ManageEngine研究总监兰布拉卡斯在接受《中国报》电邮访问时指出,由于AI能够在很大程度上生成与人类语言相似的内容,不法分子如今能设法创造看似合法和令人信服的网络钓鱼骗局。


“骗局常出现的错误,如语言错误、拼写错误和笨拙的句子结构,可以通过生成式AI技术消除,这加剧了分辨欺诈和真实的困难性。”

随着越来越多不法份子利用ChatGPT等AI工具从事诈骗活动,他相信,我国的诈骗案件数量恐怕会增加并恶化。

兰布拉卡斯说,普华永道一项研究显示,92%的大马企业将数码化带来的网络风险增加视为2020年至2023年的主要挑战。79%的受访高管认为网络罪犯是公司最大的威胁。

尽力避免技术遭滥用

此外,大马电脑紧急应变小组(MyCERT)一份网络罪犯谘询报告显示,ChatGPT和其他类似工具可能被滥用来创建编程代码,从而找出计算机系统中的漏洞,或者生成诱骗他人披露个人信息的网络钓鱼电子邮件。

兰布拉卡斯说:“虽然ChatGPT具有某些保护措施来帮助防止恶意软件或其他形式的恶意代码的生成,但这些保护措施并非万无一失和可以规避的。因此,即使ChatGPT明确拒绝直接请求创建恶意软件,网络犯罪份子也有可能利用此工具来生成恶意软件特定功能的代码,进行必要的调整以提高其有效性,并独立编译代码。”

他说,尽管不断努力加强保护措施,但AI工具创造者是不太可能完全消除被滥用的厄运。因此,须尽最大可能避免有关技术遭到滥用。

全国诈骗回应中心(NSRC)数据显示,从去年10月至今年4月共记录了1万1858起骗局案例。

他认为,通过认知和了解AI技术带来的风险,才能减轻滥用AI带来的潜在危害。

双重验证 防泄漏个资

网络诈骗层出不穷,近期最常见的就是WhatsApp遭到骇客入侵,然后骗子佯装用户亲友借钱诈财!

兰布拉卡斯说,越来越多骗子滥用Deepfakes技术,以及AI生成视频或声音技术来进行诽谤或勒索,凸显AI技术更容易获得,而这些事件也变得更加普遍。

他说,AI不断进步,文字转语音平台Murf、自回归语言模型GPT-4和AI绘画神器Midjourney等工具可被用于操控和欺骗,多数人对这些骗局还无防备。

“许多人不知道什么是Deepfakes,也可能无法发现此技术,因此提高醒觉和教育在应对人工智能诈骗方面至关重要。”

为避开这些骗局,他指出,若突然收到借钱请求时,通讯平台用户应谨慎行事,并通过其他方式来验证发送信息者的身份。

“当收到信息、电话或借钱请求时,务必联系与验证对方身分,尤其是这些请求看似不寻常时,避免通过应用程式泄露个人和财务资讯,尤其在未经请求情况下。”

此外,在消息传递应用程式上启用双重要素验证(2FA)并对网络安全保持警惕,也有助于防止泄露户头信息。

克隆技术 提高逼真度

兰布拉卡斯指出,AI支持的模仿和克隆技术的兴起催生了一种新的骗局,这种骗局是由人工冒充身分。

“随着深度伪造技术的普及,逼真度的提高令人担忧。”

他说,早期只有拥有专业技能和专业知识的人才能创造出这些技术,而当中不少专家提出AI生成的模拟技术的潜在危险。

然而,随着AI工具被广泛使用,情况发生了巨大变化。这些工具,比如Wombo.ai和Avatarify,允许任何人轻松地把指定人物的图像添加动画。

“虽然这些工具产生的效果不如AI换脸“Deepfakes”技术专业制作那般完善,但这些工具正迅速发展。我们有理由预测,这些简单工具的进步,最终或会完全模糊真实与操控内容。”

同时,语音克隆工具使得真假辨认变得更具挑战。市面上流传的无辜和有趣的克隆工具,如今已被滥用来冒充某国家领导、行业领袖,甚至是亲人等。

用户难辨真假
通讯应用成理想狩猎场

CiMS Tech创办人兼总执行长蔡尚筠指出,我国有多达1380万人使用WhatsApp,此平台已成为诈骗分子的理想狩猎场。

“不法分子通常使用该平台进行各种诈骗,从网络钓鱼到欺骗性慈善捐款,甚至验证码诈骗。甚至有骗子冒充人力资源招聘人员。”

他说,人工智能技术的最新进展也使骗局更以假乱真。

“可怕的是,电脑病毒防卫软件公司McAfee的研究人员发现,网络犯罪分子现在只采集3秒钟的人声,就可以成功克隆和效仿,并用于诈骗上。这将让普通人在辨认真假方面难上加难。”

根据普华永道的《2022年全球经济犯罪和欺诈调查》,高达51%的企业在2年内曾遭遇欺诈,其中高达40%的案件与平台欺诈有关。最常见欺诈形式涉包括欺诈性转账,包括身分盗窃、设备克隆和合成ID等情况。

事实上,网络诈骗占我国商业犯罪的大部分。从2020年到2023年,被举报的商业罪案近7万2000起,造成52亿令吉的损失,其中68%是网络欺诈案件。

高兴
高兴
惊讶
惊讶
愤怒
愤怒
悲伤
悲伤
关怀
关怀

Tech先知

会员专区

会员文

财经爆点

相关文章

会员文:钓游天地|神州团队游云冰 乘风破浪战旗鱼

甄子曰专栏:先告别不正常|会员文

会员文:心见闻|夺回女性权益的电影《五月雪》

会员文:性爱教室|更年期后一样有春天

会员文|黄泉安:IT 大当机,谈我国数字银行安危

会员文|周若鹏:全球电脑大当机,你会不会是未来的受害者?

mywheels