使用NVIDIA AI軟件構建企業級AI
隨著ChatGPT的引入，全球的企業正在意識到人工智能的好處和能力，並競相將其應用到他們的工作流程中。
隨著這種采用的加速，企業不僅要跟上人工智能的快速發展，還要解決相關的挑戰，如優化、可擴展性和安全性。
企業AI開發旅程通常從數據ETL(提取、轉換、加載)階段開始，在此期間，數據準備用於訓練。接下來是訓練人工智能模型。壹旦對模型進行了訓練，接下來的步驟包括部署和運行推理。企業需要為每個階段使用優化和安全的軟件來構建生產就緒的人工智能應用程序。
使用NGC目錄加速AI開發
NVIDIA NGC目錄通過提供壹套以容器形式的gpu優化軟件和sdk，使企業能夠加速其AI開發。
目錄中壹些流行的容器包括用於數據ETL階段的RAPIDS，用於模型開發階段的TensorFlow和PyTorch，以及用於模型部署階段的NVIDIA TensorRT和NVIDIA Triton Inference Server。
圖1顯示了用於各種用例的不同容器，例如NLP、對象檢測、推薦等等。探索NGC目錄，為您的用例找到合適的軟件。
NGC目錄上各種用例可用容器的屏幕截圖。
圖1所示。NGC目錄為各種各樣的用例提供了容器
NGC容器的好處
目錄中的所有容器都經過優化，可以在最新的NVIDIA加速計算堆棧上運行，並定期更新，以在相同的硬件上提供增強的性能。容器經過測試，以確保各種NVIDIA gpu的兼容性和性能。
企業可以在任何地方部署這些容器，包括內部部署以及多雲和混合雲環境。這些容器可以與各種容器編排系統壹起部署，包括廣泛使用的開源平臺Kubernetes。此外，該目錄還提供了壹系列Helm圖表，以方便Kubernetes集群上容器的部署和管理。
安全性和信任也是目錄中可用的容器和模型的組成部分。所有容器都經過cve掃描，並被賦予安全等級，以便企業可以對他們下載的軟件充滿信心。圖2顯示了容器的不同安全等級。
NGC目錄中容器的不同安全等級的截圖。
圖2。NGC目錄中容器的不同安全等級
容器通常還提供其他壹些好處，例如:
- 依賴性的封裝:容器封裝了所有的依賴性，比如庫和其他軟件組件，以確保應用程序可以在任何環境下可靠地運行，而無需額外的配置。
- 可重復性:容器包含運行應用程序所需的壹切，因此無論部署在何處，它們的行為都是相同的。這減少了與特定於環境的配置相關的問題的可能性。
- 節省時間和資源:通過簡化部署過程和確保跨環境的壹致性，容器節省了大量的時間和資源，否則將花費在手動設置和故障排除上。
使用目錄軟件，企業開發人員可以開始構建poc並測試他們的解決方案。當企業準備投入生產時，他們需要確保將AI集成到其業務應用程序中的需求得到滿足。
這些需求包括企業級安全性、軟件堆棧穩定性、企業支持和可管理性。在從開發到生產的過渡過程中，擁有壹條清晰的路徑是時間到價值的成功要素之壹。
從開發到生產的無縫過渡
各種各樣的軟件組件和相關的相互依賴關系使得維護壹個安全、可靠的人工智能軟件堆棧成為壹項艱巨的任務，特別是當人工智能需要部署和集成到企業應用程序中時。NGC目錄通過為開發提供基於社區的軟件和為生產提供企業級軟件分支，使企業開發人員能夠無縫過渡。
例如，該目錄為NVIDIA Triton Inference Server提供了多個容器(圖3)。NVIDIA Triton Inference Server Feature Branch是最新版本，每月發布壹次，為開發人員提供最新功能和性能優化。
圖片顯示了NVIDIA Triton推理服務器查詢的搜索結果。
圖3。不同的NGC容器可用於NVIDIA Triton Inference Server
NVIDIA Triton Inference Server Production Branch是NVIDIA AI Enterprise獨家提供的生產級版本，旨在為構建關鍵任務AI應用程序提供穩定和安全的環境。生產分支每6個月發布壹次，生命周期為9個月，以確保API的穩定性。在9個月的生命周期內，NVIDIA持續跟蹤關鍵漏洞，並每月發布CVE補丁和錯誤修復，而不會破壞軟件堆棧。
通過不同的優化人工智能軟件選項，企業開發人員可以利用目錄選擇適當的軟件包，以支持給定的人工智能管道，同時保持安全性。
使用NVIDIA AI Enterprise實現不間斷的卓越AI
安全性、可靠性和可管理性對企業級AI至關重要。為了應對這些挑戰，NVIDIA推出了NVIDIA AI Enterprise，這是壹個企業級軟件平臺，可加速數據科學管道並簡化生產級AI應用程序的開發和部署。
NVIDIA AI Enterprise以開源為基礎，由NVIDIA策劃、優化和支持，提供多個支持分支(生產、功能和長期支持)。它還包括企業級的安全性，穩定性，可管理性，並在整個AI旅程中支持NGC。
NGC目錄和NVIDIA AI Enterprise為企業提供必要的工具，以跟上人工智能的快速發展，同時解決優化、可擴展性和安全性等相關挑戰。
訪問NGC目錄，瀏覽數百個預先訓練的模型，容器，Helm圖和木星筆記本。要開始使用NVIDIA AI Enterprise，請申請90天免費試用。
作者:Nirmal Kumar Juluru和Phoebe Lee鱷MVDIA
