生活在边缘:NVIDIAFleet Command 的新功能为企业提供一体化的边缘AI管理和维护
NVIDIAFleet Command增加了远程管理、多实例GPU和更多集成,以维护和优化边缘的全球AI部署。
NVIDIAFleet Command——一个用于部署、管理和扩展边缘AI应用的云服务——现在包含了增强全球边缘AI部署无缝管理的功能。
随着边缘AI部署的规模,组织可以拥有多达数千个独立的边缘位置,这些位置必须由IT团队管理——有时位于遥远的位置,如石油钻井平台、气象测量仪、分布式零售商店或工业设施。
NVIDIAFleet Command提供了一个简单的、可管理的容器编配平台,可以轻松地在数千个分布式环境中提供和部署AI应用程序和系统,所有这些都来自一个基于云的控制台。
但部署只是管理边缘AI应用的第一步。优化这些应用程序是一个持续的过程,包括应用补丁、部署新应用程序和重新启动边缘系统。
为了在管理环境中实现这些工作流程的无缝衔接,Fleet Command现在提供了高级远程管理、多实例GPU供应以及与行业合作者的工具的额外集成。
先进的远程管理
IT管理员现在可以访问具有复杂安全特性的系统和应用程序。Fleet Command的远程管理提供访问控制和定时会话,消除了传统VPN连接的漏洞。管理员可以安全地在舒适的办公室中监控远程边缘位置的活动并排除问题。
边缘环境是非常动态的——这意味着负责边缘AI部署的管理员需要高度灵活,以跟上快速变化,并确保很少的部署停机时间。这使得远程管理成为每个边缘AI部署的关键特性。
请查看新的远程管理特性的完整演练,以及如何使用它们来帮助管理员维护和优化甚至最大的边缘部署。
多实例GPU供应
多实例GPU (Multi-Instance GPU),即MIG,将一个NVIDIA GPU划分为多个独立的实例。MIG现在可以在Fleet Command使用,让管理员可以轻松地从Fleet Command的用户界面为每个实例分配应用程序。通过允许组织在同一GPU上运行多个AI应用程序,MIG让组织合理规模的部署,并最大限度地利用他们的边缘基础设施。
了解更多关于管理员如何在Fleet Command中使用MIG来更好地优化边缘资源,以轻松地扩展新的工作负载的信息。
携手发展AI
新的Fleet Command协作还帮助企业创建从开发到边缘部署的无缝工作流。
Domino Data Lab提供了一个企业MLOps平台,允许数据科学家使用他们首选的工具、语言和基础设施大规模协作开发、部署和监控AI模型。Domino平台与Fleet Command的集成为数据科学和IT团队提供了一个记录和一致工作流的单一系统,可以使用该系统管理部署到边缘位置的模型。
Milestone Systems是一家领先的视频管理系统提供商,也是NVIDIA Metropolis的精英合作伙伴,它创建了AI Bridge,这是一个应用程序编程接口网关,可以让AI应用程序轻松访问来自几十个摄像机流的整合视频源。现在与Fleet Command集成,里程碑AI桥可以轻松部署到任何边缘位置。
IronYun是NVIDIA Metropolis的精英合作伙伴和NVIDIA合作伙伴网络的顶级成员,其Vaidio AI平台应用了先进的AI,经过几代人的进化,在全球范围内的安全、安全和运营应用。Vaidio是一个开放的平台,可与任何IP摄像头工作,并集成了几十个市场领先的视频管理系统。Vaidio可以部署在办公场所、云端、边缘和混合环境中。Vaidio的相机数量从1个到数千个不等。Fleet Command使Vaidio AI更容易部署在边缘,并简化大规模管理。
通过这些新功能和扩展的协作,Fleet Command确保了维护、监控和优化边缘部署的日常过程是直接和轻松的。
试用Fleet Command
要在Fleet Command上尝试这些功能,请免费访问NVIDIA LaunchPad。
LaunchPad提供了对Fleet Command实例的即时、短期访问,可以轻松地在真实的服务器上部署和监控真实的应用程序,使用实践实验室引导用户完成整个过程——从基础设施配置和优化到用例的应用程序部署