谷歌AI芯片驚艷亮相!TPU處理速度提升71倍!

人工智能(AI)的爆發性增長是以強大的計算能力為基礎的,而提供計算力的載體是芯片。隨著市場對芯片計算能力的需求提高,芯片制造工藝也在不斷提高,與之而來的是芯片制造成本也隨著漲高。

有業內人士稱,如今設計制造一顆10nm芯片的成本要幾千萬美元,就算目前寒武紀、深鑒科技等專門做AI芯片的企業,即使采用28nm的芯片工藝,前期從投入到流片的成本都要超過400萬美元。也就是說,單一品類的芯片出貨量沒有百萬級很難收回成本。

AI芯片是AI技術發展過程中不可逾越的關鍵階段,不管有什么好的AI算法,要想最終得到應用,都必然通過芯片來實現。谷歌、微軟、亞馬遜、IBM等全球科技巨頭紛紛投入巨資加速人工智能核心芯片的研發。
Edge_TPU_chip.max-1000x1000.png

今年8月份,谷歌的一款Edge TPU芯片,一塊AIY Edge TPU開發板,一個AIY Edge TPU加速器,讓開發者狂歡,將國內AI芯片公司徹底打入寒冬!

Google蓄力的Edge TPU終于正式對外公布!不僅如此,此次Google還帶來了基于Edge TPU的AIY Edge TPU開發板以及AIY Edge TPU加速器,全面幫助工程師將機器學習部署到AI產品開發中去。

其實,在 2016 年 6 月的時候 Google 就透露了自己研發了一款在云端使用的專用 AI 芯片,TPU(Tensor Processing Unit)。Google 做 AI 芯片當然是吸引眼球的新聞,但苦于一直沒有公布細節,大家也只能猜測和等待。沒過多久,在2017年5 月 17 日,在 Google I/O 大會上,Google 公布了第二代 TPU。雖然 TPU2 的細節公布的并不多,但指標確實看起來很不錯,而且具有非常好的可擴展性。唯一的遺憾就是它并不對外銷售,只能以 TPU Cloud 的方式供大家使用。
Edge_TPU_development_kit.max-1000x1000 (1).png

谷歌表示,其AI芯片正變得更具戰略重要性。在AI領域,研究人員正用大量數據訓練模型,以便機器能夠在新數據到來時進行預測。

今年,谷歌在I/O大會發布了其第三代TPU,并宣稱其性能比去年的TUP 2.0提升8倍之多,達到每秒1000萬億次浮點計算,同時谷歌展示了其一系列基于TPU的AI應用。

這款芯片也是AlphaGo背后的功臣,即AlphaGo能以超人的熟練度下圍棋都要靠訓練神經網絡來完成,而這又需要計算能力(硬件越強大,得到的結果越快),TPU就充當了這個角色,更重要的是借此顯現出了在AI芯片領域相對于英特爾CPU和英偉達GPU的優勢。也就是說,采用TPU之后的AlphaGo的運算速度和反應更快。

5年前,谷歌內部就開始使用消耗大量計算資源的深度學習模型,這對CPU、GPU組合而言是一個巨大的挑戰,谷歌深知如果基于現有硬件,他們將不得不將數據中心數量翻一番來支持這些復雜的計算任務。
微信截图_20180726131636.png

相比之下,TPU使用8位整數數學運算器,擁有256GB的主機內存以及32GB的內存,能夠實現34GB/秒的內存帶寬,處理速度高達92 TOPS ,這比Haswell提升了71倍,此外,TPU的熱功率只有384瓦。

現在谷歌又推出了Edge TPU,這是專門用來處理AI預測部分的微型芯片,它比訓練模型的計算強度要小。Edge TPU可以自己運行計算,而不需要與多臺強大計算機相連,因此應用程序可以更快、更可靠地工作。它們可以在傳感器或網關設備中與標準芯片或微控制器共同處理AI工作。

反觀國內,科技企業蜂擁做AI芯片,AI芯片那么好做嗎?芯片從設計到量產都只有3年多時間,這與“一個芯片產業需要幾十年技術沉淀”的普遍印象相差甚遠。一方面,AI芯片的門檻比通用芯片門檻低,另一方面,目前大多數都說可以做出來AI芯片,但能否用得好能不能大批量賣出去還有待時間驗證。

被寄予厚望的華為,以及華為秘密的“D計劃”,成為大眾熱門話題。據爆料,華為內部已經制定了代號“達芬奇”(Project Da Vinci)的項目,也被一些華為高管稱為“D計劃”。“D計劃”的內容包括為數據中心開發新的華為AI芯片,能夠支持云中的語音和圖像識別等應用,這是華為涉足競爭激烈的人工智能市場的第一關。

說到谷歌的Edge TPU,谷歌表示它已經構建了工具包,其中包括Edge TPU、NXP芯片和Wi-Fi連接,供開發人員試用。Edge TPU可能會“顛覆云計算競爭”,因為許多計算現在可以在設備上進行,而不是全部發送到數據中心。在成本和能耗方面,谷歌芯片在某些類型的計算上比傳統芯片更加高效。
創作者介紹

Comments

Popular posts from this blog