抖音集团副总裁李亮近日公开披露，今年第一季度平台监测到大量利用人工智能技术仿冒企业家"于东来"语音及形象进行违规营销的账号。这些黑灰产团伙通过AI生成虚假内容，在抖音平台进行带货活动，不仅侵害了相关企业的合法权益，更对消费者权益造成严重损害。
针对此类新型网络违法现象，抖音安全团队立即启动专项整治行动。据李亮介绍，平台累计封禁违规账号超过1000个，并将相关违法线索同步移交至市场监管部门。经泉州市丰泽区市场监督管理局调查认定，涉事企业通过AI技术实施虚假宣传的行为违反《反不正当竞争法》，最终被处以没收违法所得并罚款15万元的行政处罚。
抖音电商安全与信任中心于9月2日发布的治理公告显示，平台已建立AI内容识别系统，对违规生成的音视频内容实施"发现即下架"的管控措施。公告特别强调，任何利用AI技术进行误用、滥用的行为，包括但不限于虚假身份冒用、深度伪造等，都将面临账号清退、限制功能等严厉处置。
李亮在声明中指出，当前AI技术发展带来的治理挑战日益凸显。抖音平台将持续升级技术检测手段，建立跨部门协作机制，对利用AI实施网络诈骗、虚假营销等违法行为保持高压态势。同时呼吁广大用户积极参与监督，共同维护清朗的网络空间。
据技术专家分析，深度伪造技术的门槛持续降低，使得普通用户也能生成以假乱真的音视频内容。这种技术滥用不仅扰乱市场秩序，更可能引发金融诈骗、名誉侵权等连锁反应。监管部门提醒消费者，面对AI生成的营销内容要保持审慎态度，通过官方渠道核实信息真伪。
