近期，科技巨头Elon Musk掌管的xAI平台因新推出的短视频创作工具Grok Imagine而深陷舆论风波。这款工具在所谓的“Spicy Mode”模式下，被曝能够轻松创建多位公众人物的半裸乃至全裸深度伪造视频，其中，流行歌手Taylor Swift的形象就被无端卷入。
据《The Verge》杂志的实际测试，用户仅需输入诸如“Taylor Swift在Coachella音乐节”这样模糊的关键词，Grok Imagine便能自动生成一段看似舞台后台的虚构视频，视频中的人物身着暴露服装，摆出极具挑逗性的姿势。另一测试案例中，输入“某位奥斯卡获奖女演员在私人派对”的提示，系统同样生成了暗示不雅行为的虚构私密场景视频。更有甚者，仅凭“海滩度假”这样宽泛的场景描述，系统也能创造出人物赤身裸体的深度伪造片段。
隐私保护和法律专家对此表示严重关切，指出这种“自动色情化”功能已远非内容误判所能涵盖，而是系统性地放任乃至鼓励深度伪造色情内容的设计缺陷。尤其对于女性名人而言，她们的形象被未经授权地置于性化场景之中，不仅名誉受损，还可能遭受难以弥补的心理创伤。
面对这一危机，美国正加速推进包括《Take it Down Act》在内的多项立法进程，旨在要求平台在接到通知后迅速移除非自愿生成的不雅AI内容，并对未能履行责任的平台施以重罚。法律界人士认为，Grok Imagine事件或将成为新法实施前的一次重要压力测试。
然而，截至目前，xAI平台尚未就安全机制漏洞问题作出正面回应。Musk仍在社交媒体上大肆宣扬产品的受欢迎程度与用户数量的快速增长，这种对安全问题的回避态度，引发了外界对其在AI创新与道德责任之间平衡的深刻质疑。
