惊!谷歌發布Edge TPU是為了AIY項目?

Google通過AIY項目套件向成千上萬的人們介紹了人工智能和機器學習概念,例如帶語音識別的AIY Voice Kit和用于計算機視覺應用的AIY Vision Kit。
該公司現已進一步推出Edge TPU,它自己的專用ASIC芯片設計用于在邊緣運行TensorFlow Lite ML模型,以及相應的AIY Edge TPU開發板,以及AIY Edge TPU加速器USB添加到任何USB兼容硬件。
Edge TPU是一款用于機器學習(ML)的小型芯片,針對每瓦性能和每美元性能進行了優化。 它既可以加速設備上的ML推理,也可以與Google Cloud配對,創建完整的云端到邊緣ML堆棧。 在任何一種情況下,本地處理都可以減少延遲,消除對持久網絡連接的需求,增加隱私,并使用更少的功率實現更高的性能。
該芯片將支持新的Cloud IoT Edge軟件,該軟件允許您在Edge TPU或基于GPU和CPU的加速器上執行在Google Cloud中訓練的ML模型。Cloud IoT Edge可以在Android Things或基于Linux OS的設備上運行。
它有三個主要組件:
具有至少一個CPU的網關類設備的運行時,用于在本地存儲,轉換,處理和從邊緣數據中獲取智能,同時與其余的Cloud IoT平臺進行互操作。
Edge IoT Core運行時可以更安全地將邊緣設備連接到云。
基于TensorFlow Lite的Edge ML運行時,使用預先訓練的模型執行本地ML推理
用戶在邊緣做得越多越好,但對于像培訓和更強大的框架這樣的任務,仍然需要云。
谷歌還將提供一個帶有系統級模塊(SoM)的開發板,該系統將Edge TPU與NXP i.MX 8M處理器以及基板暴露端口和I/O相結合。
該板采用Raspberry Pi的一些提示,信用卡外形和40針連接器,但連接器的位置不會使其與RPI配件兼容。
Edge TPU Dev Board將運行Debian Linux或Android Things,并支持TensorFlow Lite。
但是,如果您已經熟悉特定的開發板和環境,那么您可能不想再購買另一個,并再次學習。 就像英特爾的Movidius神經計算棒一樣,AIY Edge TPU加速器是一種USB棒,旨在通過USB接口為現有主板增加機器學習加速功能。 但是,Edge TPU加速器不依賴于Myriad 2 VPU和USB 3.0 A型端口,而是配備了Edge TPU芯片和USB C型端口。
AIY Edge TPU加速器規格:
ML加速器 - Google Edge TPU協處理器
連接器 - USB Type-C(數據/電源)僅與USB 2.0速度的Raspberry Pi板兼容
尺寸 - 65毫米x 30毫米
外殼包括用于連接主機板的安裝孔,例如Raspberry Pi Zero,即將推出的Libre Computer AML-S805X-AC板或您的定制板。就像開發板一樣,Edge TPU加速器可以與Debian,Android Things和TensorFlow Lite框架一起使用。
TensorFlow目前還沒有利用Broadcom VideoCore圖形處理器的潛在ML功能,因為Nvidia使用更強大的Pascal GPU。他接著建議,可能有可能為單核Raspberry Pi Zero電路板開發一個特殊的GPU相關端口,但目前Pi的四個CPU內核上有足夠的電量。談到GPU的潛在鉤子,他寫道:“在最新的Pi上使用四核CPU和Neon,雖然在Pi Zeroes上仍然很有趣,但沒有那么大的優勢。”
另一種解釋是谷歌正在跳過 GPU,因為它希望 Raspberry Pi 用戶和其他嵌入式開發商能夠利用其最近宣布的,適用于 TensorFlow 的 Linux 友好型 Edge TPU ML 加速器芯片。今年秋季將推出 Edge TPU以及基于恩智浦 i.MX8M 的 Linux 開發套件和 Edge TPU加速器USB加密狗,它可以適用于包括Pi在內的任何Linux計算機。
Edge TPU是其企業級云量程處理單元(Cloud TPU)AI協處理器的輕量級嵌入式版本。與新的Cloud IoT Edge堆棧相結合,該芯片設計用于在基于ARM Linux或Android Things的物聯網網關上運行TensorFlow Lite ML模型,這些網關連接到Google Cloud服務。

Comments

Popular posts from this blog