近4万条AI魔改动画内容被处置！南都曾揭滥用AI侵权乱象

继中央网信办重点整治“编造毒动画，利用AI技术恶搞经典动画形象”后，8月12日，南都N视频记者从“抖音黑板报”获悉，近期平台巡查发现仍有账号利用AI技术恶意魔改经典动画，已处置违规内容3.9万条，处置违规账号超6000个。南都N视频持续推出《AI魔性侵权乱象系列调查》，起底滥用AI生成技术的侵权现象背后产业链。 据“抖音黑板报”，平台巡查发现，仍有账号利用AI技术恶意魔改经典动画，另有部分账号借助动漫人物形象演绎血腥、暴力、恐怖等有害场景，传递不良价值观，制作并传播“毒动画”，影响未成年人身心健康。其中部分账号批量发布同质化内容，相互引流、养号牟利，呈现明显的组织化运营特征。 近期，平台已处置违规内容3.9万条，处置违规账号超6000个；对于涉嫌违法犯罪的线索，平台将上报至主管部门。据披露，“6*3”“5*0”等账号以“儿童益智动画”为名，批量发布同质化AI生成“毒动画”内容，以低龄暗示话术等方式诱导用户互动，多个账号间相互引流，借此养号涨粉。平台识别后，立即下架相关违规内容，并深挖账号间的关联，对此类违规账号均予以禁言处置。 南都此前报道，7月20日，“网信中国”曾发文指出，中央网信办部署启动“清朗·未成年人网络保护”专项行动，重点整治“编造毒动画，利用AI技术恶搞经典动画形象，刻意放大暴力恐怖元素”等突出问题。 面对AI魔性侵权乱象，4月2日，中国广电联合会演员委员会发布严正声明，坚决维护演员声音、形象等人格权益，呼吁加快完善法律法规，遏制技术滥用。声明指出，应强化平台监管责任，建立健全侵权内容的快速识别与下架机制。 “AI角色撞脸真人明星”现象、利用AI技术伪造视频推荐产品也持续引发各界关注。南都记者此前调查发现，“AI明星换脸”在网络上有不同的消费套餐，价格在28元至138元不等，68元即可购买一套AI技术明星换脸淫秽视频，共500部左右。 2025年5月，孙俪、邓超工作室发文，针对近期网络上大量利用AI技术伪造两人形象和声音进行虚假广告宣传的行为公开打假。南都记者搜索发现，有账号将克隆的明星声音“做一些鸡汤、人生哲理”视频引流变现。