315晚会曝光AI换脸诈骗黑产后,其背后隐藏的完整犯罪链条彻底浮出水面,不法分子分工明确、配合默契,形成了从素材获取、视频伪造,到诈骗实施、资金转移的规模化黑产模式,而娱乐圈作为明星聚集的领域,成为受AI换脸诈骗影响较大的行业之一,不少明星及相关从业者都面临着个人信息泄露、身份被伪造、形象被抹黑的风险,给娱乐圈的健康发展带来了负面影响。据了解,这一黑产链条分工细致,有专门负责收集明星面部素材的人员,有擅长AI换脸技术、负责伪造视频的技术人员,还有专门负责伪装身份、实施诈骗的人员,以及负责转移诈骗资金的人员,各环节紧密配合,使得诈骗行为更加隐蔽、高效,也给警方的打击整治工作带来了一定难度。

在整个黑产链条中,素材获取是首要环节,不法分子通过多种非法渠道,大量收集明星的面部素材,包括爬取明星社交平台发布的自拍、日常动态,截取影视剧中的高清片段、综艺节目的镜头,录制明星线下活动、演唱会、发布会的直播录像,甚至通过非法手段获取明星的私人照片、视频。获取素材后,技术人员利用专业的AI换脸工具,快速提取明星的面部特征,将其替换到提前录制好的视频中,经过后期修饰,让换脸视频达到以假乱真的效果。这些伪造的视频不仅被用于诈骗粉丝,不法分子还会恶意伪造明星参与不良活动、发表不当言论的视频,以此抹黑明星形象,破坏明星的公众口碑,甚至以此向明星本人或工作室索要钱财,实施敲诈勒索。此外,部分不法分子还会将明星换脸视频用于虚假广告、虚假宣传,误导消费者购买产品或服务,进一步扩大了诈骗行为的危害范围。

针对此次315晚会曝光的AI换脸诈骗黑产问题,娱乐圈相关主体迅速做出响应,积极采取措施防范风险、守护权益。多家明星工作室第一时间发布官方声明,明确提醒广大公众警惕AI换脸诈骗,切勿轻信任何伪造的明星相关视频、语音和信息,同时告知粉丝官方的沟通渠道和联系方式,引导粉丝提高防诈意识。与此同时,明星工作室也加强了自身信息和素材的保护,对明星的高清照片、视频进行严格管理,减少素材泄露的可能,从源头防范被不法分子利用。此外,部分影视公司也纷纷表态,将加强影视素材的管理和保护,建立完善的素材审核和保密机制,防止影视片段被不法分子截取、滥用,从源头遏制AI换脸诈骗的发生,共同维护娱乐圈的正常秩序。

315晚会强调,AI技术本身并无对错,其初衷是为了便利人们的生活、推动行业的发展,但如果被不法分子滥用,就会成为侵害他人合法权益、扰乱社会秩序的工具。目前,相关部门已经针对AI换脸诈骗黑产开展专项整治行动,严厉打击非法获取、买卖面部素材的行为,严查AI换脸工具的非法流通,加大对换脸诈骗行为的惩处力度,全力遏制此类违法犯罪行为的蔓延。对于娱乐圈而言,更需要联动发力、协同配合,明星要做好自身信息保护,主动引导粉丝理性追星、提高防诈意识;娱乐平台要履行主体责任,加强内容审核和防诈宣传,阻断诈骗信息传播;粉丝要保持理性,增强防诈意识,切勿轻信陌生渠道的虚假信息。只有各方协同发力、形成合力,才能筑牢防诈屏障,彻底击碎AI换脸诈骗黑产,守护好明星和粉丝的合法权益,推动娱乐圈和AI行业的健康有序发展,让不法分子无机可乘、无处遁形。