继中央网信办重点整治“编造毒动画,利用AI技术恶搞经典动画形象”后,8月12日,南都N视频记者从“抖音黑板报”获悉,近期平台巡查发现仍有账号利用AI技术恶意魔改经典动画,已处置违规内容3.9万条,处置违规账号超6000个。南都N视频持续推出《AI魔性侵权乱象系列调查》,起底滥用AI生成技术的侵权现象背后产业链。


AI恶搞动画形象。

据“抖音黑板报”,平台巡查发现,仍有账号利用AI技术恶意魔改经典动画,另有部分账号借助动漫人物形象演绎血腥、暴力、恐怖等有害场景,传递不良价值观,制作并传播“毒动画”,影响未成年人身心健康。其中部分账号批量发布同质化内容,相互引流、养号牟利,呈现明显的组织化运营特征。

近期,平台已处置违规内容3.9万条,处置违规账号超6000个;对于涉嫌违法犯罪的线索,平台将上报至主管部门。据披露,“6*3”“5*0”等账号以“儿童益智动画”为名,批量发布同质化AI生成“毒动画”内容,以低龄暗示话术等方式诱导用户互动,多个账号间相互引流,借此养号涨粉。平台识别后,立即下架相关违规内容,并深挖账号间的关联,对此类违规账号均予以禁言处置。

南都此前报道,7月20日,“网信中国”曾发文指出,中央网信办部署启动“清朗·未成年人网络保护”专项行动,重点整治“编造毒动画,利用AI技术恶搞经典动画形象,刻意放大暴力恐怖元素”等突出问题。

南都N视频持续推出《AI魔性侵权乱象系列调查》,起底滥用AI生成技术的侵权现象背后产业链。

面对AI魔性侵权乱象,4月2日,中国广电联合会演员委员会发布严正声明,坚决维护演员声音、形象等人格权益,呼吁加快完善法律法规,遏制技术滥用。声明指出,应强化平台监管责任,建立健全侵权内容的快速识别与下架机制。

“AI角色撞脸真人明星”现象、利用AI技术伪造视频推荐产品也持续引发各界关注。南都记者此前调查发现,“AI明星换脸”在网络上有不同的消费套餐,价格在28元至138元不等,68元即可购买一套AI技术明星换脸淫秽视频,共500部左右。

2025年5月,孙俪、邓超工作室发文,针对近期网络上大量利用AI技术伪造两人形象和声音进行虚假广告宣传的行为公开打假。南都记者搜索发现,有账号将克隆的明星声音“做一些鸡汤、人生哲理”视频引流变现。

采写:南都N视频记者 彭雨欣