人工智能正在改變企業管理邊緣應用的方式
今天，幾乎所有的企業都開髮或採用應用軟件，將諸如髮票、人力資源配置文件或産品規範等信息的處理編入流程。整個行業已經崛起，可以在集中式數據中心或雲，以及在邊緣位置(如商店、工廠和家用電器)部署和執行這些企業應用程序。
最近，隨着開髮人員將AI融入到他們的應用程序中，企業軟件的性質髮生了變化。據Gartner預測，到2027年，深度學習形式的機器學習將被納入超過65%的邊緣使用案例，而2021年這一比例還不到10% *。使用AI，你不需要爲每個可能的輸入編冩輸出。相反，人工智能模型從訓練數據中學習模式，然後將這些模式應用於新的輸入。
自然，管理基於人工智能的應用程序所需的流程不同於爲純粹確定性的、基於代碼的應用程序髮展的管理流程。這是正確的，特別是對於邊緣的基於人工智能的應用程序，在這些應用程序中，計算資源和網絡帶寬稀缺，容易訪問設備會帶來安全風險。
基於人工智能的應用程序受益於新的工具和流程，可以安全地部署、管理和擴展。
傳統企業軟件與AI邊緣應用的區別
傳統企業軟件和處於前沿的AI應用程序的設計和管理方式有四個根本區別:
集成繫統化
數據策略
更新
安全
容器化： 虛擬化已經成爲企業在世界各地的數據中心部署傳統應用程序的主要部署和管理工具。對於傳統應用程序和環境，虛擬化爲這些工作負載在管理程序上運行提供了結構、管理和安全性。
雖然虛擬化仍然在幾乎每個數據中心中使用，但我們看到AI應用程序正在廣泛採用容器技術，特別是在邊緣。在最近的一份關於雲原生開髮狀態的報告中，雲原生計算基金會強調:“從事邊緣計算的開髮人員對容器和Kubernetes的使用率最高。76%的邊緣AI應用使用容器，63%使用Kubernetes。
爲什麼這麼多開髮者在邊緣AI工作中使用集成器?
性能
可伸縮性
彈性
可移植性
性能
容器虛擬化主機操作繫統的內核，而在傳統虛擬化中，管理程序虛擬化物理硬件並在每個實例中創建客戶操作繫統。與接近裸金屬性能相比，這允許容器以完全裸金屬性能運行。這對於許多邊緣AI應用程序至關重要，尤其是那些與安全相關的用例，其中響應時間以毫秒爲單位進行測量。
集成繫統還可以在同一個繫統上運行多個應用程序，提供整合，而不需要虛擬化的性能開銷。
可伸縮性： 邊緣AI“數據中心”可能分佈在數百個地點。基於雲的管理平颱爲管理員提供了集中管理環境的工具，這些環境可以擴展到成百上千個位置。通過利用網絡和智能軟件進行擴展，而不是讓人員前往每個邊緣位置，可以降低成本、提高效率和彈性。
彈性：AI應用程序通常通過伸縮提供彈性。同一個應用程序的多個克隆在負載均衡器後運行，當一個克隆失敗時，服務將繼續。
即使邊緣環境隻有一個節點，容器策略也可以確保應用程序自動重啟，使停機時間最小化。
可移植性：在將應用程序容器化之後，可以將其部署在任何基礎設施上，無論是裸機、虛擬機還是各種公共雲。它們還可以根據需要放大或縮小。有了容器，應用程序就可以像在任何雲中一樣輕鬆地運行在邊緣的服務器上。
虛擬機和容器在很多方麵有所不同，但它們是在單一平颱上部署多個隔離服務的兩種方法。許多供應商提供的解決方案可用於兩種環境，如Red Hat OpenShift和VMware Tanzu。
邊緣環境可以同時實現虛擬化和容器化，但隨着越來越多的邊緣AI工作負載投入生産，我們有望看到向裸金屬和容器的轉變。
數據策略
下一個區別是數據在傳統邊緣應用和邊緣AI應用生命週期中的作用。
傳統的邊緣應用程序通常會吸收少量的結構化數據流，如購銷點交易、患者醫療記錄或指令。在處理之後，應用程序返回類似的結構化信息流，例如支付授權、分析結果或記錄蒐索。當數據被使用時，它對應用程序不再有用。
與傳統應用程序不同，人工智能應用程序的生命週期超越了分析和推斷，包括再培訓和持續更新。人工智能應用程序從傳感器(通常是攝像頭)傳輸數據，並對數據進行推斷。在邊緣位置收集一部分數據，並將其共享回集中式數據中心或雲，以便用於重新培訓應用程序。
由於依賴數據來改進應用程序，所以強大的數據策略至關重要。
將數據從邊緣傳輸到數據中心或雲的成本會受到數據大小、網絡帶寬和應用程序更新頻率的影響。以下是人們在邊緣AI應用程序中使用的一些不同的數據策略:
- 收集錯誤的推論
- 收集所有的數據
- 收集有趣的數據
- 收集錯誤的推論
至少，一個組織應該收集所有不正確的推論。當人工智能做出錯誤推斷時，需要對數據進行識別、重新標記，並用於再訓練，以提高模型的準確性。
然而，如果隻使用錯誤的推論進行再訓練，模型可能會經曆一種稱爲模型漂移的現象。
收集所有的數據
選擇將所有數據髮送到中央存儲庫的組織通常處於帶寬和延遲不是限製因素的情況下。這些組織使用這些數據重新培訓或調整並建立新的模型。或者他們可能會用它來批量處理數據，以收集不同的見解。
收集所有數據的好處是可以利用巨大的數據池。缺點是成本非常高。通常，移動這麼多數據都是不可行的。
收集有趣的數據
這是數據收集的最佳點，因爲它平衡了對有價值數據的需求與傳輸和存儲這些數據的成本。
有趣的數據可以包含組織預期對當前或未來模型或數據分析項目有價值的任何數據。例如，對於自動駕駛汽車，從相同的街道和相似的天氣收集的大部分數據不會徹底改變模型的訓練。然而，如果下雪了，這些數據將有用地髮送回中央存儲庫，因爲它可以改善在極端天氣下駕駛的模型。
更新
傳統邊緣軟件的功能內容是通過代碼實現的。開髮人員編冩並編譯在邊緣設備上執行的指令序列。任何管理和編製平颱都必須對軟件進行更新，以修複缺陷、添加功能和修複漏洞。
開髮團隊通常每個月、每個季度或每個年髮佈新代碼，但並不是每個新版本都會立即被推向邊緣繫統。相反，IT團隊傾向於等待臨界量的更新，並隻在必要時進行更實質性的更新。
相比之下，邊緣人工智能應用程序遵循不同的軟件生命週期，以人工智能模型的訓練和再訓練爲中心。每一次模型更新都有可能提高準確性和精度，或者增加或調整功能。模型更新的頻率越高，它就變得越準確，從而爲組織提供額外的價值。
例如，如果一個檢查AI應用程序的準確率從75%提高到80%，那麼該組織就會髮現更少的缺陷被遺漏，從而提高産品質量。
邊緣AI解決方案的生命週期圖。模型在雲和數據中心進行訓練，然後部署到繫統分析流數據的邊緣。然後數據被送回雲端或數據中心進行再培訓。
部署邊緣AI解決方案的組織應該預料到頻繁的模型更新。通過從一開始就通過雲本地部署實踐(如容器)構建再培訓流程，並實施強大的數據策略，組織可以開髮出可持續的邊緣AI解決方案。
安全
邊緣計算代表了許多IT團隊在安全範式方麵的重大轉變。在城堡和護城河網絡安全模型中，網絡之外的任何人都不能訪問內部的數據，但網絡內的每個人都可以。相反，邊緣環境本質上是不安全的，因爲幾乎每個人都有物理訪問權。
邊緣人工智能應用加劇了這一問題，因爲它們是使用高度寶貴的企業知識産權構建的，這是企業的生命線。它代表了企業差異化的競爭優勢，是其功能的核心。
雖然安全性對所有應用程序都很重要，但在處理AI應用程序時，提高邊緣的安全性也很重要。有關更多信息，請參閱邊緣計算:安全架構師的注意事項。
- 物理安全
- 數據隱私
- 公司知識産權
- 訪問控製
- 物理安全
因爲邊緣設備位於物理數據中心之外，所以在設計邊緣計算站點時必須假設噁意行爲者可以獲得對機器的物理訪問。爲了解決這個問題，可以採用物理篡改檢測和安全引導等技術作爲額外的安全檢查。
數據隱私
邊緣人工智能應用程序通常會存儲真實世界的數據，比如聲音和圖像，這些數據傳達了有關人們生活和身份的高度隱私信息。邊緣AI開髮人員肩負着保護這些私人數據寶庫的重任，以維護用戶的信任並遵守法規。
企業知識産權
推理引擎結合了對大量專有數據的學習，以及機器學習團隊的專業知識和工作。失去對競爭對手的這些推理引擎的控製會大大削弱公司在市場上的競爭力。
訪問控製
由於這些環境的分佈式特性，幾乎可以肯定有人需要遠程訪問它們。即時(JIT)訪問是一種策略，用於確保一個人被授予在有限時間內完成任務所需的最少權限。
設計邊緣AI環境
隨着企業從部署傳統企業應用轉向部署邊緣的AI應用，維護支持傳統應用的相同基礎設施並不是一個可伸縮的解決方案。
對於一個成功的邊緣AI應用程序，更新組織的部署方法、數據策略、更新節奏和安全策略是非常重要的。
