【ITBEAR科技资讯】3月18日消息,近日,马斯克旗下的人工智能创新企业xAI宣布,他们开发的大型语言模型Grok-1已经实现开源,并向全球公众开放下载。这一消息在科技界引起了广泛关注。
Grok-1是一款采用混合专家系统(Mixture-of-Experts,MoE)技术构建的大型语言模型,其参数数量高达3140亿,这一数字远超过了OpenAI的GPT-3.5模型的1750亿参数,成为迄今为止参数量最大的开源大型语言模型。根据Apache 2.0协议的条款,xAI已经开放了Grok-1的模型权重和架构,供全球开发者共同研究和使用。
据ITBEAR科技资讯了解,xAI强调Grok-1完全由公司内部团队自行训练完成,其预训练阶段已于2023年10月圆满结束。此次公开发布的是Grok-1在预训练阶段结束时的原始基础模型检查点,这意味着该模型还未经过任何针对特定应用场景的微调。对于开发者而言,这无疑提供了一个极具潜力的研究起点。
xAI的成立旨在与OpenAI、谷歌、微软等科技巨头在大型模型领域展开竞争。其团队成员均来自业界顶尖的研究机构和知名企业,如OpenAI、谷歌DeepMind、谷歌研究院以及微软研究院等。这样一支强大的团队背景无疑为xAI在大型模型领域的竞争提供了坚实的支持。
尽管xAI目前还没有公布Grok-1的具体测试成绩,但业内对于这款大型语言模型的性能表现充满期待。随着各大科技巨头在人工智能领域的竞争日益激烈,xAI的Grok-1无疑将成为这场竞争中的一大看点。