近期，一款名为Grok Imagine的新型生成式AI视频工具引发了广泛关注，尤其是其内置的“辣”模式，被指存在法律风险的隐患。据相关报道，与业界其他同类产品，如谷歌的Veo和OpenAI的Sora相比，Grok Imagine在生成成人内容及名人换脸视频方面显得尤为大胆。
据悉，用户在首次尝试Grok Imagine时，该工具竟未经明确要求，自动生成了泰勒·斯威夫特（Taylor Swift）的上身裸露视频片段。这一行为不仅令人震惊，也引发了关于AI伦理和隐私保护的深刻讨论。
Grok Imagine的iOS版本功能强大，用户仅需通过简单的文本提示词，即可生成图片，并可选择“自定义”、“正常”、“有趣”及“辣”四种预设模式，快速将图片转化为视频。值得注意的是，当被要求生成“泰勒·斯威夫特与男孩们一起庆祝科切拉音乐节”的图片时，该工具提供了大量选择，其中不乏斯威夫特穿着暴露的图像。
更令人惊讶的是，用户只需选择一张斯威夫特的图片，点击“制作视频”选项，并从下拉菜单中挑选“辣”模式，即可生成一段斯威夫特仅穿着丁字裤在AI观众前跳舞的视频。尽管这些生成的斯威夫特形象并不完美，带有一种“恐怖谷”效应，但仍能轻易辨认出是她。
Grok Imagine还能根据用户需求生成逼真的儿童照片。然而，尽管“辣”模式依然可用，但该工具拒绝以不适当的方式对儿童图像进行动画处理，只是添加了一些普通的动作，这一点值得肯定。
然而，值得注意的是，尽管xAI的可接受使用政策明确禁止“以色情方式描绘人物形象”，但Grok Imagine似乎并未采取有效措施来阻止用户生成名人形象，并提供制作包含部分裸体的暗示性视频的服务。更令人担忧的是，年龄验证环节仅出现一次，且极易被绕过，无需任何证明用户年龄的证据。
据xAI首席执行官透露，自推出以来，Grok Imagine已生成超过3400万张图片，其使用量正以惊人的速度增长。这一数字无疑加剧了人们对AI伦理和隐私保护的担忧。
