英伟达推出NeMo Megatron模型框架以及新的Triton推理服务器等

11月9日消息，在今天举行的英伟达NVIDIA GTC大会上，英伟达推出了为训练具有数万亿参数的语言模型而优化的 NVIDIA NeMo Megatron 框架、为新领域和语言进行训练的可定制大型语言模型（LLM）Megatron 530B以及具有多GPU、多节点分布式推理功能的NVIDIA Triton推理服务器等，这些工具与NVIDIA DGX系统相结合，提供了一个可部署到实际生产环境的企业级解决方案，以简化大型语言模型的开发和部署。 此外，英伟达还宣布推出NVIDIA Omniverse Avatar，一个用于生成交互式AI化身的技术平台。Omniverse Avatar集合了该公司在语音AI、计算机视觉、自然语言理解、推荐引擎和模拟技术方面的技术。该平台为创建人工智能助手打开了大门，可以帮助处理数十亿的日常客户服务互动。

关键词： 英伟 框架 模型