耐能推出最新款 AI 晶片 KL730 驅動輕量級 GPT 解決方案的大規模應用

記者黃俊育 / 綜合報導

總部位於聖地亞哥,以開創性的神經處理單元(NPU)而聞名的 AI 公司耐能,今日宣佈發佈 KL730 晶片。整合了車規級 NPU 和影像訊號處理器(ISP),並將安全而低耗能的 AI 能力賦能到邊緣伺服器、智慧家居及汽車輔助駕駛系統等各類應用場景中。

KL730 作為耐能最新款晶片,從設計之初就以實現 AI 功能為目的,並更新了多項節能及安全的技術創新。該晶片具備多通道介面,可無縫接入圖像、影片、聲音和毫米波等各種數位訊號,支持各產業的人工智慧應用開發。

該晶片還解決了目前人工智慧的廣泛瓶頸之一:普遍的低效能硬體導致的系統高成本。

在這個晶片的開發工作中,KL730 在效能方面取得了極大的進步,效能比相較於過往耐能的晶片提升了 3 至 4 倍,且比主要產業同等產品提高了 150% 至 200%。

▲劉峻誠表示:「KL730 將會是邊緣 AI 的革新者。憑藉其前所未有的效率和對 Transformer 等框架的支持,我們正在為各行各業提供強大的 AI 能力,在極具安全性和保護資料隱私的情況下充分發揮人工智慧的潛力。」。(圖/業者 提供)

耐能創辦人兼執行長劉峻誠表示:「運行 AI 功能需要專用 AI 晶片,其體系架構與我們以前瞭解的晶片完全不同。簡單地重新使用相鄰技術(如圖形處理專用的 GPU 晶片),不能很好地勝任這項工作。KL730 將會是邊緣 AI 的革新者。憑藉其前所未有的效率和對 Transformer 等框架的支持,我們正在為各行各業提供強大的 AI 能力,在極具安全性和保護資料隱私的情況下充分發揮人工智慧的潛力。」

耐能長期專注於邊緣 AI,並研發了一系列輕量且可擴展的 AI 晶片,以安全地推動 AI 能力的發展。2021 年,耐能發佈了首款支援 Transformer 神經網路架構的邊緣 AI 晶片 KL530。而 Transformer 神經網路架構是所有 GPT(Generative Pre-trained Transformer)模型的基礎。KL730 晶片進一步豐富該產品系列,提供每秒 0.35 – 4 tera 有效計算能力,擴展了支援最先進的輕量級 GPT 大型語言模型(如 nanoGPT)的能力。

KL730 具有獨特的定位,可以改變 AIoT 領域的安全性,從而使用戶能夠部分或完全離線地在終端運行 GPT 模型。該晶片配合耐能的私有安全邊緣 AI 網路 KNEO,讓 AI 運行在用戶的邊緣設備上,從而讓他們更好地保護資料隱私。這些應用是全行業的:從企業伺服器解決方案到智慧駕駛車輛再到以 AI 驅動的醫療設備,所增加的安全性允許設備之間進行更大的協作,同時保護資料的安全。例如,工程師可以設計新的半導體晶片,而無需與大型雲端公司營運的資料中心共用機密數據。

自 2015 年成立以來,耐能以可重構的 NPU 架構獲得諸多產業內認可,並獲得獎項,例如 IEEE Darlington Award。使用耐能晶片的終端產品已進入多個產業,從 AIoT 到智慧駕駛安全及邊緣伺服器,包括豐田、廣達電子、中華電信、Panasonic、韓華等。

KL730 不久後即可提供樣品給設備製造商。欲瞭解更多資訊,並探討 KL730 的無限可能性,請造訪耐能官方網站。