【ITBEAR科技资讯】7月24日消息,NVIDIA近日宣布推出全新的NVIDIA AI Foundry服务及NVIDIA NIM推理微服务,这两项新服务与刚刚发布的Llama 3.1系列开源模型相辅相成,旨在为全球的生成式AI应用提供坚实的后盾。
就在前日,meta发布了Llama 3.1开源模型,此模型包含三个版本:Llama 3.1 405B、Llama 3.1 70B以及Llama 3.1 8B。Llama 3.1 405B版本在常识推理、可操作性、数学能力、工具使用以及多语言翻译等方面,均展现出了与GPT-4、Claude 3.5 Sonnet以及Gemini Ultra等顶尖AI模型相匹敌的实力。
据ITBEAR科技资讯了解,借助NVIDIA AI Foundry,各企业和组织如今能够结合Llama 3.1以及NVIDIA的软件、计算能力和专业知识,为特定行业用例打造定制化的“超级模型”。这些超级模型可以利用企业内部数据,以及由Llama 3.1 405B和NVIDIA Nemotron Reward模型生成的合成数据进行训练。
NVIDIA AI Foundry的核心驱动力来自NVIDIA DGX Cloud AI平台。该平台是NVIDIA与全球领先的公有云服务提供商共同设计的,旨在为企业提供弹性计算资源,这些资源可以根据AI需求的变化进行灵活扩展。
NVIDIA的创始人兼首席执行官黄仁勋强调:“meta推出的Llama 3.1开源模型标志着生成式AI在全球企业中的广泛采用已经迈入关键阶段。Llama 3.1将激发各企业和行业创造先进的生成式AI应用。NVIDIA AI Foundry已经将Llama 3.1整合到其服务中,助力企业构建和部署定制的Llama超级模型。”
meta的创始人兼首席执行官马克·扎克伯格也表示:“全新的Llama 3.1模型是开源AI发展的重要一步。通过NVIDIA AI Foundry,企业能够轻松地创建和定制用户期望的最前沿AI服务,并通过NVIDIA NIM进行部署。我很高兴能将这一成果交付到大家手中。”