Nvidia正在推出一個(gè)名為EGX平臺的新平臺，旨在為邊緣網(wǎng)絡(luò )提供實(shí)時(shí)人工智能(AI)。我們的想法是讓AI計算更接近傳感器在發(fā)送到大型數據中心之前收集數據的位置。

邊緣用作發(fā)送到數據中心的數據的緩沖區。它對所收集的數據進(jìn)行了優(yōu)化，只發(fā)送與主要數據中心相關(guān)的內容進(jìn)行處理。這可能意味著(zhù)丟棄超過(guò)90%的收集數據，但訣竅是知道要保留哪些數據以及丟棄哪些數據。

“在這個(gè)數據驅動(dòng)的世界中需要AI，”Nvidia企業(yè)和邊緣計算高級主管Justin Boitano在上周五的新聞發(fā)布會(huì )上表示。“我們分析源頭附近的數據，捕獲異常情況并將異常情況報告給母艦進(jìn)行分析。”

Boitano說(shuō)，我們正在進(jìn)行交叉，因為邊緣計算比云計算更多，因為那里需要做更多的工作。

EGX來(lái)自14家服務(wù)器供應商，提供各種外形尺寸，將AI與網(wǎng)絡(luò )，安全性和Mellanox存儲相結合。Boitano表示，這些機架適用于任何符合行業(yè)標準的機架，因此它們可以裝入Vapor IO和Schneider Electric等邊緣容器中。

EGX使用Nvidia的低功耗Jetson Nano處理器，同時(shí)也一直使用Nvidia T4處理器，可以提供超過(guò)10,000萬(wàn)億次操作(TOPS)的實(shí)時(shí)語(yǔ)音識別和其他實(shí)時(shí)AI任務(wù)。

Nvdia正在開(kāi)發(fā)名為Nvidia Edge Stack的軟件堆棧，可以不斷更新，軟件在容器中運行，因此不需要重新啟動(dòng)，只需重新啟動(dòng)容器即可。EGX運行企業(yè)級Kubernetes容器平臺，如Red Hat Openshift。

Edge Stack是優(yōu)化的軟件，包括Nvidia驅動(dòng)程序，CUDA Kubernetes插件，CUDA容器運行時(shí)，CUDA-X庫和容器化AI框架和應用程序，包括TensorRT，TensorRT推理服務(wù)器和DeepStream。

該公司擁有40多家早期采用者，其中包括寶馬集團物流公司，該公司使用EGX和自己的Isaac機器人平臺，以實(shí)時(shí)高效處理日益復雜的物流。