点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:让哪吒扛枪?AI魔改太离谱
首页> 文娱频道> 资讯 > 正文

让哪吒扛枪?AI魔改太离谱

来源:北京晚报2025-03-14 10:19

  记者 孙奇茹 鹿杨

  时而街边撸串、时而T台走秀、时而举起机关枪扫射……你能想象这是哪吒和敖丙吗?随着《哪吒之魔童闹海》摘得全球动画电影票房冠军,AI魔改也蹭上了电影中的角色。在广电总局网络视听司发布针对“AI魔改”的管理提示新规出台3个月后,记者调查发现,互联网上仍频繁有AI魔改的音频、视频出现,影视角色、明星、企业家都成了被魔改的对象。

  乱象

  “老奶奶抱着哪吒过马路”

  “天雷滚滚我好怕怕,劈得我浑身掉渣渣。”电影中的经典台词一出场,市民陈女士眼前的短视频里,哪吒就手持机关枪在土肥坡对着土拨鼠们狂轰滥炸。

  “要不是我看过电影,没准真会以为这个场景是真的。”陈女士一边说一边向下滑动,系统竟一连给她推送了好几条有哪吒、敖丙、申公豹等角色的视频,其中一些画面令人啼笑皆非。“这个老奶奶抱着哪吒过马路的视频,就更不像话了!”陈女士气愤地说。只见视频中,哪吒不仅出现在了现代城市场景中,身旁还有一位穿着西服套装、满头白发的老奶奶,一把抱起哪吒在马路上狂奔。“这样的魔改视频我一定不会让孩子看到,容易影响他的价值观。”

  AI魔改,即将经典影视剧通过人工智能技术进行篡改和恶搞的行为。记者在社交媒体平台搜索“哪吒”后发现,使用AI技术对《哪吒2》进行魔改的短视频不在少数,其中最火的一条转发量已超164万。在该视频中,哪吒出现在了《甄嬛传》的入宫选秀场景中,和甄嬛、沈眉庄、安陵容一同面圣选秀,并表演踢毽子等才艺。

  而在另一条获赞4.4万、转发达3万的短视频里,申公豹戴上了墨镜、穿上了西装,穿梭在写字楼中,嘴里还念叨着“凡是让你不惜代价的,你就是那个代价”等鸡汤语录。一些不明所以的网友留言“越来越喜欢申公豹,太通透了”“哪吒台词太精辟”,错把利用AI技术嫁接的台词当做原片。

  探因

  离谱魔改只为了引流收费

  实际上,AI魔改从去年开始便甚嚣尘上,甄嬛开上摩托车、林黛玉变成拳击手和贾宝玉对打、唐僧对妖精点头哈腰……只有想不到,没有变不了。广电总局去年12月发布的《管理提示(AI魔改)》提出,要严格落实生成式人工智能内容审核要求,对各平台开发的大模型或AI特效功能等进行自查,对在平台上使用、传播的各类相关技术产品严格准入和监看,对AI生成内容做出显著提示。

  新规执行3个月,平台对AI魔改视频的主动审核有所加强,但也有不少“漏网之鱼”。记者注意到,有两条高赞魔改视频在发布之初,并未被主动注明“此视频为AI生成”,等它们的热度飙升后,平台才在视频下方用小字发布了“疑似使用了AI生成技术,请谨慎甄别”的提示。即便如此,由于平台标识并不显眼,仍有网友被误导。

  同时,不少靠发布魔改视频招揽流量的账号开始转型AI魔改视频教学,企图再收割一波流量。“用AI一天做一百个视频,原创视频起号行不行”“AI生成魔改视频教学,掌握流量密码”“AI影视恶搞,抓住兴起的蓝海项目”……在各大社交媒体平台,这样的吸睛话术并不罕见。

  记者随机点进了一个生成甄嬛打架情节的教学视频,被引导添加了博主微信,领取工具包。添加微信后,记者发现,领取免费AI工具包只是噱头,这名博主实际上做的是收费带学徒、拉人头赚佣金的生意。“99元进AI训练营,流量变现后轻松赚回学费。”博主向记者展示了几名“学员”取得的成绩,声称有人发布4个AI视频一周就涨粉一万,有人新账号起号只用3天就突破10万浏览量。

  不过,记者进群后发现,所谓的AI训练营只是现成信息的简单集纳,例如,群主会提供哪吒AI走秀的图片素材以及一些AI工具的下载网址,让学员生成恶搞短视频并发布。“蹭哪吒这种有热度的话题,吃一个月(流量)还是可以的。”

  随后,记者又私信了一些发布AI魔改教学视频的博主,发现他们的套路很相似,都是为了将流量引至自己的社交群内,开设课程或者用同类所谓的“训练营”变现。

  在这些所谓AI训练营老师的指导下,学员发布AI魔改视频的目的也只有一个,就是博得更多流量并接广告变现。一名学员告诉记者,他进群的目的就是为了快速涨粉。然而,自己从年初开始发布AI视频,目前却只有几百个粉丝,离变现还有十万八千里。

  起底

  花9块9就能让“雷军”带货

  记者调查发现,不论雷军、马云、刘强东等知名企业家,还是刘晓庆、刘德华等文娱明星,只需要花9块9,就能让他们“开口”说话,至于说些什么,个人就能定。

  “仅需几句话,克隆任何声音,立等可取,还原度95%。”在电商平台上一家提供AI声音克隆服务的店铺页面,商家用显眼的字眼招揽着生意。

  商家负责人告诉记者,只需要提供时长1分钟左右的电话录音、录屏等包含人声的音频信息以及文案,他就能在半小时左右完成对任何声音的克隆。当记者提出克隆明星或雷军、马云等企业家的声音后,商家也表示没问题。定价方面,300字以内的“1条体验”9.9元,“4条优惠装”19.9元,10条特惠装39.9元,1500字以内的长音频则为59.9元。

  记者花费9.9元下单,将一段用手机在雷军视频号上录制的1分钟时长音频内容,以及一段提前用DeepSeek写好的“雷军推销某产品的文案”提供给商家后,不到半小时,一条从文本到音频都由AI工具生成的“克隆版雷军”语音就完成了。“各位米粉和女性朋友们,今天我们要做一件重新定义‘安心’的事——不玩材质虚标、不搞溢价,让厚道守护每个月的特殊时刻!”商家提供的这段音频中,不仅音色高度仿真,连咬字习惯、语气停顿等都与在公开场合中讲话的雷军极为相似。

  “有一说一,太像了!”“只给了几句话,就给我完美地复刻声音了,太厉害了吧。”“声音克隆得挺像的,这个价钱很划算!”页面显示,这项克隆AI声音的服务已成功售出超400单,而在电商平台上,售卖同类服务的商家至少有数十家。

  反思

  如何避免AI被滥用

  AI魔改为何总是屡禁不止?长期从事生成式人工智能内容检测技术研究的瑞莱智慧联合创始人、算法科学家萧子豪分析,除了流量等商业利益考虑外,从技术角度看,一大原因在于AI工具获取难度不断降低。

  “随着技术快速进步,AI工具易获取性越来越强,AI技术的使用门槛降低,这对行业发展来说是好事,但也意味着以各种动机生成AI内容的成本降低了。”萧子豪透露,对于有一定技术基础的个人或公司来说,基于开源社区里的免费资源,只需要花费万余元,就能在家中配置一台小型服务器,并让一些能够进行智能语音合成、视频生成的开源模型在服务器上“跑”起来,产出各种AI音视频内容。

  “AI工具本身是中性的,如何避免工具被不良动机的人滥用,是监管部门、平台需要进一步探索的。”在萧子豪看来,由于个人用户判别能力有限,平台应尽可能对于所有的人工智能生成内容进行明显标注,并提醒用户或观众进行交叉验证,以免被误导。但目前来看,各平台尚未对此做出足够的投入。

  侵权主体及其手段隐蔽性强等特点,也给AI魔改的治理带来较大挑战。记者体验一些视频生成平台发现,非会员用户制作的AI生成视频会自动打上“某某AI”的水印,但如果用户花上十余元到数十元不等的会员月费,就能实现无水印。“当你看到一段AI魔改视频时,早已不知转手了多少次,而最初制作这个视频的人和AI工具也极难溯源。”萧子豪说。

  小米创始人雷军发文建议加强对AI换脸拟声的治理。他建议,应明确AI换脸拟声应用的边界红线,完善侵权证据规则,加大对利用人工智能技术实施犯罪行为的处罚力度。相关部门应支持平台企业开发可精准识别人工智能深度合成内容的技术,优化升级通信软件和内容平台巡查审核机制、投诉举报机制、应急处理机制,确保及时阻断问题内容传播。

[ 责编:张晓荣 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 河北曹妃甸“湿地优雅精灵”

  • 河北丰南:春暖农事忙

独家策划

推荐阅读
据《自然》杂志近日报道,美国新兴技术观察站(ETO)一项分析报告发现,中国目前正在进行的大部分芯片设计和制造研究方面的基础研究,有望为未来的计算硬件奠定基础。
2025-03-14 09:46
车市竞争从价格战转向智驾战。近期上市的几款新车上搭载或升级智驾功能,包括15万元级的深蓝L07,长安汽车董事长朱华荣表示:“今年8月将智驾覆盖到10万元级车型。“比亚迪多款车型搭载了基于地平线征程6M的天神之眼C高阶智驾系统。
2025-03-14 09:39
此项研究中,团队将金属熔化,并利用团队前期制备的高质量单层二硫化钼压砧进行挤压,实现了多种二维金属的普适制备。
2025-03-14 09:38
近日,来自浙江中医药大学第一附属医院的陈喆研究员团队,联合浙江大学化学系白宏震、汤谷平教授及海洋学院王楠副教授团队,在材料科学领域的国际顶级期刊Advanced Materials上发表最新研究成果。
2025-03-14 09:38
北京大学生命科学学院、北大—清华生命科学联合中心白洋团队13日凌晨在国际学术期刊《细胞》发表成果,构建首个作物根际细菌基因组数据库以及作物根际病毒基因组数据库,
2025-03-14 04:10
我出生在安徽寿县农村,幼时目睹父老乡亲缺医少药的困境,长大后便下定决心做一名医生,治病救人。
2025-03-14 04:25
2025年3月13日是第20个世界肾脏日,本届主题是“您的肾脏还好吗?早检查,保健康”,旨在呼吁全社会关注肾脏健康,提高对慢性肾脏病的早期认识,强调了早期发现和干预对肾脏健康的重要性。
2025-03-13 09:15
从中国农业科学院棉花研究所获悉,该所王占彪研究员团队定量解析了童装、针织衫、工作服、T恤和作训服等棉质纺织品“从种子到成衣”全阶段的碳排放情况,即碳足迹,并提出对应的具体“减碳”策略,为我国棉花纺织服装产业的可持续发展提供了重要思路和线索,也为全球棉花纺织产业减排策略的制定提供了科学依据。相关研究成果近日发表在环境科学类国际期刊《资源、保护与回收》上。
2025-03-13 04:40
刚开学,我和学生聊天,询问他们假期有啥进步。有学生说深入钻研了英语六级通关秘籍,自信本学期六级必定取得高分;有学生讲潜心研究了高压绝缘,C刊论文胜券在握;
2025-03-13 05:15
这个春天,越来越多“Z世代”新农人走进田间地头,带来春耕新气象。如今,他接到了3000多亩农田的服务“订单”,周边农户都乐意把农田托付给这个老练的“新农人”来打理。
2025-03-13 09:01
在总结11个术前免穿刺手术案例的基础上,邢念增在国际上首创“前列腺癌免穿刺理念”。
2025-03-13 09:01
人工智能的快速发展和广泛应用,能够推动数实深度融合,释放需求潜力,提升产出效率,推动全要素生产率持续提高。
2025-03-13 09:00
2025年世界移动通信大会(MWC2025)虽已落幕,但引发的思考和争论仍在持续。
2025-03-12 10:11
龙泉又多了一张新名片——汽车空调热管理产业,全市不到30万的人口中,就有近2万人从事汽车空调行业。
2025-03-12 10:01
发展新质生产力,抢占科技创新与产业创新制高点已成为各国在新一轮科技革命和产业变革中抢占先机的“首选项”。
2025-03-12 09:59
新一轮科技革命和产业变革带来的机遇之下,找准产业发展需求的“钉子”,砸实科技成果转化的“锤子”,是实施创新驱动发展战略的关键。
2025-03-12 09:58
代表委员之声——创新引领推动未来产业
2025-03-12 09:53
CGT25型燃气轮机额定输出功率25兆瓦,具有功率密度大、结构紧凑、地域适应性强、双燃料适配及在线切换等特点。
2025-03-11 09:05
科普事业的发展,是一场与时代共进的征程。把科普这一“翼”做强做优,在全社会形成崇尚科学、追求创新的良好风尚,就能更好助力科技创新的腾飞。
2025-03-11 09:04
从伦理治理的角度看,研发者应在数据收集、模型训练和算法设计阶段,引入多样性、多元化的视角,避免单一文化或群体偏见主导AI。
2025-03-11 09:04
加载更多