近期，科技界掀起了一场关于道德与创新的激烈讨论，焦点直指特斯拉创始人埃隆·马斯克旗下的xAI公司及其最新推出的Grok Imagine功能。该功能中的“Spicy”模式，被曝能够一键生成名人部分裸露的视频内容，引发了广泛的争议。
回溯一年前，xAI平台曾因涉及泰勒·斯威夫特的深度伪造不雅照风波而备受关注。然而，一年后，马斯克非但没有收敛，反而亲自推出了这一看似自寻烦恼的功能，并大肆宣传。据报道，用户在支付30美元的订阅费后，即可无限制地使用Grok Imagine生成各种名人色情深度伪造视频。
在测试中，The Verge的一名记者输入了“泰勒·斯威夫特在科切拉音乐节和朋友们庆祝”的提示词，Grok Imagine迅速生成了一张图片。当她选择将这张图片转换为视频时，画面中泰勒·斯威夫特竟然自行脱衣跳舞，这一幕令人震惊。而这一切，都得益于Grok Imagine内置的“Spicy”模式，该模式专门用于生成带有性暗示或部分裸露的内容。
相比之下，Google Veo和OpenAI Sora等主流AI视频生成工具在名人伪造和色情内容方面设置了重重封锁。然而，Grok Imagine却反其道而行之，不仅放开了这些限制，甚至将其作为产品的一大卖点。这一做法无疑为xAI赢得了巨大的流量关注，但也将其推向了法律和道德的风口浪尖。
马斯克在X平台上高调宣布，Grok Imagine的使用量如野火般蔓延，生成的图片数量在短短一天内就从1400万张飙升至2000万张。这一数据无疑是对质疑者最有力的回应，但也引发了更多关于AI伦理和监管的讨论。
尽管xAI在接受使用政策中明确禁止以色情方式描绘人物肖像，但Grok Imagine的实际表现却并未严格遵守这一规定。用户在绕过年龄验证等安全机制后，可以轻易生成色情内容。Grok模型对名人的限制也显得颇为随意，某些名人的色情内容生成并未受到严格限制。
然而，在经历了媒体的广泛报道和用户的实际测试后，xAI似乎紧急收紧了审核策略。现在使用“Spicy”模式生成视频时，如果涉及脱衣等不当内容，将直接提示“视频已审核”而无法查看。同样，生成的图片如果不合时宜，也会被直接虚化处理。
尽管Grok Imagine在生成速度和用户界面方面表现出色，但其生成的视频质量仍存在明显不足。人物皮肤质感蜡质化、恐怖谷效应明显等问题依然存在。然而，对于追求最大乐趣和快速传播的工具来说，这些似乎都不是最重要的。马斯克甚至提到了Grok Imagine作为“Meme宝库”的潜力，进一步强调了其娱乐性和传播性。
然而，追求流量和乐趣并不能成为忽视法律和道德的理由。Grok Imagine公然提供名人深度伪造工具的做法，无疑将自己置于巨大的法律风险之下。这也引发了人们对AI伦理和监管的深刻思考。在拥抱AI带来的便利的同时，我们是否也应该为自己的底线和欲望留一些空间？
在AI日益渗透我们生活的今天，我们不禁要问：AI的底线究竟由谁来设定？或许，在追求科技进步的同时，我们也应该更加关注人性的需求和法律的约束，确保AI的发展不会偏离正确的轨道。
