近期，多位知名企业家遭遇了AI技术滥用带来的困扰。胖东来商贸集团发表声明，指出有网络账号未经授权，擅自使用AI技术模仿创始人于东来的声音，并对视频内容进行非法剪辑和篡改，误导公众，严重侵犯了于东来的人格权和著作权，对公司品牌形象造成了负面影响。
无独有偶，小米集团创始人雷军也曾遭遇类似事件。雷军表示，有网友利用AI技术生成其声音进行恶搞，导致他在不知情的情况下“骂”了网友七天，这让他感到十分困扰。
专家指出，根据《中华人民共和国民法典》，声音权益属于人格权的一种，AI生成的声音若包含侮辱或诽谤内容，可能构成名誉权侵害，甚至触犯诽谤罪。今年4月，北京互联网法院宣判了一起AI声音侵权案，被告因未经授权使用原告声音开发AI产品，被判赔偿25万元。
在短视频平台上，关于如何使用AI技术制作音频、视频的教程泛滥。用户只需简单操作，即可克隆声音或生成逼真的视频内容。这些技术不仅被用于娱乐，还常被用于制作虚假信息，侵犯他人肖像权和名誉权。
针对这一现象，我国政策法规正在不断完善。去年出台的《生成式人工智能服务管理暂行办法》规定了AI生成内容的底线和边界，要求服务提供者尊重他人合法权益。今年9月，国家网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》，要求服务提供者对生成合成内容进行显著标识，避免误导公众。
在抖音等平台上，已有部分AI生成的短视频下方添加了提示语，提醒用户谨慎甄别。平台也呼吁发布者应对人工智能生成内容进行显著标识，避免侵权。
