ITBear旗下自媒体矩阵:

马斯克旗下xAI开源3140亿参数大语言模型Grok-1,挑战OpenAI GPT系列

   时间:2024-03-18 10:12:13 来源:ITBEAR编辑:瑞雪 发表评论无障碍通道

【ITBEAR科技资讯】3月18日消息,近日,马斯克旗下的人工智能创新企业xAI宣布,他们开发的大型语言模型Grok-1已经实现开源,并向全球公众开放下载。这一消息在科技界引起了广泛关注。

Grok-1是一款采用混合专家系统(Mixture-of-Experts,MoE)技术构建的大型语言模型,其参数数量高达3140亿,这一数字远超过了OpenAI的GPT-3.5模型的1750亿参数,成为迄今为止参数量最大的开源大型语言模型。根据Apache 2.0协议的条款,xAI已经开放了Grok-1的模型权重和架构,供全球开发者共同研究和使用。

据ITBEAR科技资讯了解,xAI强调Grok-1完全由公司内部团队自行训练完成,其预训练阶段已于2023年10月圆满结束。此次公开发布的是Grok-1在预训练阶段结束时的原始基础模型检查点,这意味着该模型还未经过任何针对特定应用场景的微调。对于开发者而言,这无疑提供了一个极具潜力的研究起点。

迄今最大!马斯克AI大模型Grok开源:参数量达3140亿

xAI的成立旨在与OpenAI、谷歌、微软等科技巨头在大型模型领域展开竞争。其团队成员均来自业界顶尖的研究机构和知名企业,如OpenAI、谷歌DeepMind、谷歌研究院以及微软研究院等。这样一支强大的团队背景无疑为xAI在大型模型领域的竞争提供了坚实的支持。

尽管xAI目前还没有公布Grok-1的具体测试成绩,但业内对于这款大型语言模型的性能表现充满期待。随着各大科技巨头在人工智能领域的竞争日益激烈,xAI的Grok-1无疑将成为这场竞争中的一大看点。

 
标签: 马斯克
举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  网站留言  |  RSS订阅  |  违规举报  |  开放转载  |  滚动资讯  |  English Version