《台南Web3產業國際博覽會》Kneron創辦人暨執行長劉峻誠:期望NPU可以帶來更簡潔、友善,以及對環境更好、碳排放更低的世界
「就像大家提到CPU會聯想到Intel,談到GPU就會想到NVIDIA,在NPU領域,Kneron是第一個從智慧型移動裝置開始投入,而現在國際大廠才開始關注NPU。」Kneron創辦人暨執行長劉峻誠,在第二屆台南Web3產業國際博覽會中表示。
劉峻誠指出,據摩根士丹利和摩根大通最新研究報告顯示,2020年至2023年間,因為生成式AI出現帶動全球AI硬體市場預計在2026至2027年間將達到5.2兆美元規模。如同過去從CPU到GPU的演進,現在產業正向NPU進行移轉。
劉峻誠表示,Kneron的任務如同在影像處理、遊戲處理時代有個專用硬體 GPU 出現,而 NVIDIA 引領 GPU 時代的概念。
劉峻誠解釋,就像過去從錄影帶到DVD的演進,NPU的普及就是下個世代晶片的出現,對於基礎的顛覆能讓小型設備擁有雲端超強的 Chat-GPT 等級的能力,意思是NPU將造就手機、無人機、智慧車等小型設備的能力,未來生活中類人機器也將開始出現。
針對目前AI發展所面臨的挑戰,劉峻誠特別提到能源消耗問題。他指出,目前採用GPU運算的ChatGPT年耗電量高達50億度,相當於台灣核電廠年發電量的一半,對比之下NPU重要性就很高,目前NPU在運作功耗相較GPU降低30%。
實際應用方面,Kneron已開發出一系列與NPU相關的解決方案。劉峻誠分享,公司正在為多位客戶開發生成式AI模型,包括銀行、醫療人事資源管理的應用,也協助各產業大型公司如Naver、Toyota、中華電信、安華等配置NPU。
劉峻誠認為,未來不會只有CPU或GPU、NPU個別存在的世界,而是像GPU崛起時,筆電設備同時擁有Intel的CPU、NVIDIA的GPU,也期望NPU可以帶來更簡潔、友善,以及對環境更好、碳排放更低的世界。