算力就是國力!國網中心推生成式AI平台TAIWAN AI RAP
國家實驗研究院國家高速網路與計算中心推動「TAIWAN AI RAP生成式AI應用開發服務」,希望降低AI開發流程的門檻,變成企業與團隊可直接使用的一站式平台,加速各產業導入人工智慧。
國家實驗研究院國家高速網路與計算中心推動「TAIWAN AI RAP生成式AI應用開發服務」,希望降低AI開發流程的門檻,變成企業與團隊可直接使用的一站式平台,加速各產業導入人工智慧。
國網中心表示,TAIWAN AI RAP由團隊自主開發,結合國家級高效能運算、雲端環境與機敏資料儲存,提供整合算力、模型與工具鏈的AI開發環境,名稱中的RAP是「Resilient and high‑performance AI Platform」縮寫,強調運算效能、服務穩定與彈性擴充,讓模型部署、資源調度與安全控管都能在同一入口完成。
[caption id="attachment_201629" align="aligncenter" width="963"]
由國研院國網中心所打造,專為加速台灣生成式AI的開發與應用TAIWAN AI RAP。(圖/國網中心NCHC)[/caption]
延伸閱讀:
在服務設計上,國網中心打造客製化流程設計前台,把多種AI工具與開發流程模組化,使用者不用會AI,就能用視覺化介面串接模型與資料,快速建置可實際運作、可對外提供的應用服務。
TAIWAN AI RAP內建多款開源大型語言模型,並與TAIDE語言模型整合,提供標準化API服務,國網中心說,企業與系統整合商可將平台視為在地化LLM API供應來源,將客服機器人、文件助理、知識檢索或自動摘要等功能嵌入既有系統,同時確保資料留在國內、可稽核控管,呼應主權AI需求。
對想打造專屬領域模型的團隊,平台提供資料前處理、模型微調與結果評估的一條龍流程,協助開發者導入醫療紀錄、法規或產線文件等專業語料,提升模型在特定領域的理解與回應品質,並用評估工具量化不同版本表現。
在基礎設施方面,TAIWAN AI RAP整合GPU加速運算、CPU虛擬機、儲存與網路資源,提供多層級推論與部署模式,從前端應用、API代理到推論加速皆可在單一平台管理。
國網中心表示,已有部分自建系統的單位可把RAP當作模型與推論服務供應者,尚未建置相關基礎設施的中小企業與新創,則可直接依賴平台雲端環境完成開發與上線。
國研院指出,TAIWAN AI RAP自3月底啟動試營運以來,已吸引逾百家公私部門用戶,應用橫跨約25個領域,包括醫療、教育、農牧與日常生活等。
實際案例涵蓋結合TAIDE台語模型協助農民掌握豬隻健康的服務,以及智慧醫療與天氣問答系統等,國科會表示,在全球AI競逐下,主權AI已成科技政策關鍵字,TAIWAN AI RAP被納入「AI新十大建設」的重要一環,未來將持續結合在地算力、模型與資料,推進AI平台技術與應用生態,國網中心期望,透過這項服務,協助各行各業在兼顧資料安全與產業自主前提下,把握生成式AI帶來的效率與創新機會。
資料來源:TAIWAN AI RAP
這篇文章 算力就是國力!國網中心推生成式AI平台TAIWAN AI RAP 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。