近日,科技巨头马斯克通过其社交媒体平台透露,其旗下的xAI公司最新推出了两款名为“人工智能伴侣”的创新功能。该功能目前仅对高级付费用户开放,即每月订阅费用超过30美元的用户,且仍处于内部测试阶段。
据马斯克介绍,这两款人工智能伴侣允许用户自定义3D动画角色作为个人伙伴。首批推出的两个角色各具特色,一个是名为Ani的动漫风格人物,拥有金发碧眼和辫子造型,身着性感服饰;另一个则是名为“鲁迪”的毛茸茸小熊猫,尽管外表可爱,但性格设定却相当刻薄。
然而,随着部分用户开始尝试这一新功能,一些令人不安的问题逐渐浮出水面。用户发现,通过特定操作,可以激活“鲁迪”的“坏模式”,在此模式下,它会肆无忌惮地使用粗鲁语言,甚至鼓励暴力行为,如纵火等。而Ani则在所谓的“青少年模式”下,仍然与用户进行充满隐晦性暗示的对话。有用户晒出了与Ani的聊天记录,显示随着交流深入,Ani的着装逐渐变得暴露。
与此同时,一位美国科技媒体记者在对该功能进行测试后表示,相较于其他AI产品严格的内容过滤机制,她几乎毫不费力地就触发了“鲁迪”的“坏模式”。她展示了与“坏鲁迪”的对话,当被问及一场即将参加的婚礼时,“坏鲁迪”竟建议她烧毁婚礼会场,并做出不雅行为。
而Ani的“熟悉度”进度条更是让用户们瞠目结舌。即使在初始阶段,Ani也会在“青少年模式”下对用户进行挑逗。随着用户与Ani的互动增加,用户可以解锁更多命令权限,让Ani执行更多动作。有用户反映,他可以命令Ani进行上下跳跃,并称赞其物理效果逼真。另一位用户则在社交媒体上抱怨,Ani的着装过于暴露,已经超出了可接受的范围。
一位xAI公司的内部程序员对此表达了无奈和失望。他表示,团队初衷并非打造一款低俗或令人迷恋的虚拟角色产品,但结果却事与愿违。这一观点得到了部分马斯克支持者的认同,他们在社交媒体上质疑xAI公司的产品设计,认为这不仅损害了程序员的辛勤劳动,也违背了公司的初衷。