有鉴于AI深伪技术被不法集团滥用,武吉阿曼商业罪案调查局总监拿督斯里南利建议政府需拟定一套新法律,专门对付涉及人工智能技术的骗案!
深伪技术是强大的工具,可用于各种恶意目的,包括诈欺、身分盗窃和宣传。欧盟已于3月31日对此设立新条规,虽然可作为大马的参考,但若要为此立法还需要根据自身情况调整。
对于防范深伪技术罪的法律框架需清晰明确,例如对深伪技术的定义和非法使用的处罚、有关识别和删除深伪内容的规定等,以有效的保护国人免受深伪技术伤害。
AI深伪技术受害的案例就包括美国天后泰勒丝,不法之徒以此技术伪造她煽情火辣照片,并在网路上流传。
事实上,AI深伪技术是双刃剑,本有其优质一面,如在娱乐领域,深伪技术可以用于制作虚拟偶像、电影特效等;在教育领域,深伪技术可以用于制作虚拟教师、互动式教学内容;在医疗领域,深伪技术可以用于制作医学模拟、患者教育、制作电影、电视节目和电子游戏中的特效等。
由此来看,AI深伪技术是一项具有巨大潜力的技术,只是犯罪分子或诈骗集团也利用这项能力,使得好处也变成危险,民众和各国政府不得不被劝告需为迎接这个趋势带来优点时,也需防范于未然,不能忽视其被滥用的缺点。
好处变成危险
早于今年2月初,总部设在英国的跨国企业香港分公司遭遇AI深伪诈骗,被骗走港币2亿元(约1.21亿令吉)。成为香港首宗AI“多人变脸”骗案例,也是迄今损失金额最大的“变脸”案例。
有句话说,水能载舟,亦能覆舟。AI深伪技术就像其中形容的水,价值与危险共存,关键或许在于能够抢先以其优势控制其缺点与否。例如,政府组织科研力量,开发深伪技术检测工具,提高对深伪内容的识别准确率。
更刻不容缓的是:政府应建立深伪技术监控平台,对网上传播的深伪内容实时监控,以及时发现和处置违法违规的深伪内容。
不仅如此,政府还需提高公众对深伪技术的辨识能力,避免落入不法分子的陷阱。至于处在AI深伪技术时代的民众,也应随时自我警戒,避免成为AI深伪技术变脸、变声、变身后的受害者。