025-52816006
邮 箱:328750080@qq.com
手 机:13917802777
电 话:025-52816006
地 址:南京市建邺区嘉陵江东街50号4幢611室
当17岁的奥运冠军全红婵在训练基地水中完成第50次康复训练时,62岁的退休教师王女士正盯着手中发霉的“全红婵推荐土鸡蛋”发呆。 这场科技与道德的博弈,正在无数家庭中上演。
2025年夏季,一场利用AI克隆技术仿冒奥运冠军带货的诈骗风暴席卷互联网。 全红婵、孙颖莎、王楚钦等体育明星成为不法分子的主要目标。 央视在8月18日的报道中曝光了这一乱象,揭露了不法商家如何用AI伪造运动员声音推销商品。
在抖音平台一个名为“我是小助理吖”的账号中,17个作品全部是利用AI仿冒全红婵声音带货土鸡蛋的视频。 其中一个视频点赞量达1.1万,商品链接显示已售出4.7万件。 评论区大量粉丝误以为这就是全红婵本人,纷纷下单购买这些所谓的“冠军同款”产品。
全红婵并不是唯一的受害者。 在名为“小兔真可爱”的账号中,AI合成的孙颖莎声音宣称:“大家好,我是莎莎,我为婵宝家农家土鸡蛋代言。 ”而王楚钦的克隆声音则配合着剧情:“昨天收到婵妹私信,说他们家土鸡蛋大丰收...”
今年4月,全红婵家人就曾向媒体证实,全红婵从未给相关农产品代言或授权。 全红婵的父亲回应媒体称,有人用AI伪造一家人声音卖蜂蜜,他们也没有办法,只能请媒体帮忙辟谣。
8月27日,全红婵的哥哥全进华在直播中气愤表示:“我妹妹在训练基地她怎么卖鸡蛋? 那是AI声音,全平台一大堆这样的切片,我现在告都告不过来,一个一个都在告。 ”他明确强调:“我妹妹是在役运动员,不能去做直播卖货,大家注意甄别。 ”
AI语音克隆的技术门槛已大幅降低。 网络安全专家潘季明介绍,基于开源的语音大模型,只需一段清晰的语音样本,任何人的声音都可能在极短时间内被克隆,并能被操纵说出攻击者设定的任意内容。 记者调查发现,在各大平台以“声音克隆”为关键词搜索,能轻易找到大量相关教程和软件下载信息。 部分博主详细演示操作过程甚至直接提供软件资源。
这种诈骗手段不仅针对名人。 武扬是一位从业十多年的职业配音演员,主要从事影视和广告配音。 今年6月中旬,他突然在某餐饮企业的宣传片中听到了自己的声音,但这段配音并不是他录制的。 该视频的转发量当时已达2800多次。 面对武扬的质问,对方承认利用了AI克隆武扬声音的事实,但仅愿意支付5000元赔偿,拒绝公开道歉。
另一位配音演员浩洋的维权陷入了“自证循环”,侵权方不仅拒绝承认侵权,还试图采取拖延的方式蒙混过关。 浩洋告诉记者,从今年年初开始,他已遭遇多次侵权,而他的遭遇在配音行业并非个例。
更令人担忧的是,AI克隆声音技术已被用于直接诈骗。 天津市公安局反诈中心通报,一位独居老人接到“女儿”紧急求救电话,对方声称自己车祸急需手术费,声音腔调与女儿如出一辙。 老人情急之下匆忙转账86万元,事后才知女儿根本安然无恙,那逼真声音正是骗子利用平日偷录的老人声音片段克隆而来。
腾讯安全实验室数据显示,仅2023年AI语音诈骗案件暴增237%,70%受害者是50岁以上中老年。 这些新型诈骗暗藏多种手段:视频来电里“亲人”痛哭求救;老同学突然发来“换号通知”;“客服”准确报出购物信息;“高回报理财”配上伪造数据。
骗子们的诈骗手法呈现出精准的“技术 人性”双重操控特征。 他们捕捉到全红婵家人此前公开表达的“希望盖个房子,让孩子回来的时候有房间住”的朴素愿望,利用AI生成高度仿真的家人声音与场景,虚构“建房庆典带货”的虚假剧情以推销商品。
从法律角度看,我国民法典将人格权独立成编,首次以立法形式将保护“声音”写入其中。 在第1023条中明确,对自然人声音的保护,参照适用肖像权保护的有关规定。 北京航空航天大学法学院副教授赵精武指出,利用AI合成的声音如果能让公众关联到特定自然人,就构成侵权行为。
今年3月,国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》将于2025年9月1日起施行,其中明确了服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识等。
平台层面需要切实履行监管责任,建立健全对AI声音的审核和侵权举报机制,及时发现和拦截侵权、虚假、违法等不良内容。
对于普通民众,特别是老年人,需要提高防范意识。 子女应该教会父母守住“声音大门”:家中座机来电,陌生号码接起来后可先保持沉默片刻;无论电话那一端的声音多么像亲人,但凡提到转账汇款、借钱、索要验证码,必须警惕;挂断电话,用自己的手机亲自拨打子女或亲属本人的常用号码进行双重确认。
全红婵的案例只是AI技术被滥用的一个缩影。 此前,明星刘晓庆、古天乐、张馨予等,都有声音、视频被AI合成用于代言、带货。
当技术能够轻易复制人类的声音与形象,当算法可以批量生产以假乱真的“虚拟人生”,我们既需要筑牢技术治理的“防火墙”,更要重构技术应用的伦理坐标系。图文作者引入激励计划返回搜狐,查看更多
Copyright © 2025 九游(南京)娱乐有限公司 版权所有 备案号:苏ICP备2022015555号-1