周一,英伟达(Nvidia)发布了一款名为Lepton的全新软件平台,旨在构建一个集中化的AI计算力市场,此举正值市场对该公司高性能图形处理器(GPU)需求持续高涨之际。
Lepton平台旨在将提供英伟达GPU的云服务商与寻求AI模型训练计算能力的软件开发者连接起来。英伟达GPU在人工智能工作负载领域被公认为行业标准。
近年来,诸如CoreWeave和Nebius Group等专注于租赁英伟达GPU给开发者的“新云”(neocloud)提供商如雨后春笋般涌现。这些公司,以及Crusoe、Firmus、Foxconn、GMI Cloud、Lambda、Nscale、SoftBank Corp和Yotta Data Services等,已成为首批加入Lepton市场的企业。
尽管需求激增,但寻找可用GPU的过程仍然效率低下,英伟达云业务副总裁亚历克西斯·比约林(Alexis Bjorlin)表示。“这几乎就像每个人都在互相打电话,询问有哪些计算能力可用,”她说,“我们正在努力使其无缝衔接,从而扩大生态系统,并向英伟达开发者社区开放访问。”
值得注意的是,在Lepton发布时,微软、亚马逊网络服务(Amazon Web Services)和谷歌云等大型云服务商并未参与。然而,比约林表示,该平台向他们开放,如果他们选择加入,可以列出自己的计算能力。
Lepton最终将支持地理筛选功能,使开发者能够在特定国家定位GPU,以满足数据驻留和存储要求。它还将使已经拥有英伟达硬件的公司能够轻松找到额外的租赁容量。
国际数据公司(IDC)集团副总裁马里奥·莫拉莱斯(Mario Morales)表示,该平台是英伟达的一项战略举措。“他们拥有近500万名开发者。这是为了让他们更广泛、更方便地访问英伟达技术,”他指出。
英伟达尚未透露Lepton的商业模式,包括是否会收取佣金或费用。然而,比约林证实,开发者将继续与他们签约的计算提供商保持直接关系。