H100是目前训练大语言模型最需要的图形处理器

近日，《巴伦周刊》资深作家TaeKim在社交媒体平台上写道，据投行瑞杰金融(RaymondJames)估计，每枚英伟达H100芯片的制造成本为3，320美元，而给客户的售价却高达25000至30000美元。

(资料图)

知名科技媒体Tom‘sHardware称，这份报告意味着对英伟达公司来说，H100芯片的成本利润率高达1，000%，即十倍。由于不清楚瑞杰金融的成本分析有多深入，英伟达可能还需要在其他方面支付额外的费用，但费用空间是比较大的。

据了解，H100是目前训练大语言模型最需要的图形处理器(GPU)，因为它对于大模型的推理和训练都是速度最快的，通常也是推理方面性价比最高的。它可以应用于各种AI场景，如AI聊天机器人、推荐引擎、视觉AI、数据分析、高性能计算等。

H100芯片还可以搭配英伟达AIEnterprise软件套件，为企业提供端到端的AI就绪型基础架构。英伟达CEO黄仁勋将其描述为“世界上第一款专为生成式人工智能而设计的计算机芯片”。

报道指出，产品开发需要时间和资源，在得出最终的平均产品开发成本之前，英伟达的研发成本也必须考虑在内。

这一类别包括工程师和其他参与H100等产品开发生命周期的人员。据匿名评论平台Glassdoor的数据，英伟达电子硬件工程师的平均年薪约为20.2万美元，而开发H100等芯片很可能需要数千位这样薪资水平的专业人员。

但即使这样，“十倍成本利润率”也足以令人叹为观止，凸显了公司充分享受到了AI时代“卖铲人”的超额红利。然而，H100的供应却十分紧张，据称英伟达的订单量已经排满到2024年，但这一消息尚未得到公司的确认。

本周，沙特和阿联酋被曝正在“疯狂下单”英伟达的。知情人士透露，沙特已通过公共研究机构阿卜杜拉国王科技大学购买了至少3000枚H100;阿联酋也已经确保自己将获得数千枚芯片。

上周还有消息称，百度、字节跳动、腾讯和阿里巴巴等互联网巨头在争相购买英伟达的高性能芯片，订单总和价值高达50亿美元。先前，OpenAICEO山姆·阿尔特曼和特斯拉CEO埃隆·马斯克也先后抱怨GPU不够用。

周一，摩根士丹利分析师JosephMoore表示，他依然看好英伟达公司的股票，并将其视为“首选”(toppick)，目标价为每股500美元。

Moore提到，英伟达定于美股8月23日盘后(北京时间8月24日凌晨)公布业绩，“尽管供应紧张，我们仍然预计业绩会显著超越预期并获得上调，更重要的是，未来三至四个财季的业绩会有很强的可见性。”

关键词：