加強AI助理安全控制 輝達推出3項全新NIM微服務葉芳筑 (2025-01-20 14:23:14)

輝達推出這些安全強化措施，無疑希望降低企業對AI助理技術的疑慮，讓其看起來更安全、成熟，而非僅僅停留在實驗階段。至於這些措施能否有效促進企業採用AI助理，仍需時間來驗證。編譯／黃竣凱

輝達近日宣布推出3項全新的NIM微服務，目的在幫助企業提升AI助理（AI agents）的控制能力與安全防護。其中，第一項服務專注於內容安全，能夠防止AI代理生成有害或帶有偏見的內容；第二項服務則可確保對話僅限於已批准的主題範圍；第三項服務則能防止AI助理被「越獄」（jailbreak）、解除軟體限制的嘗試。

[caption id="attachment_160440" align="alignnone" width="1200"]

輝達近日宣布推出3項全新的NIM微服務,目的在幫助企業提升AI助理（AI agents）的控制能力與安全防護。（示意圖／123RF）[/caption]

NeMo Guardrails強化AI應用安全性

這三項新推出的NIM微服務，均隸屬於輝達現有的開源軟體工具與微服務的整合NeMo Guardrails，專為幫助企業加強AI應用的安全性與可控性。輝達表示，透過應用多個輕量化且專業化的模型作為防護措施，能有效彌補僅依賴一般性全球策略可能產生的漏洞，避免「一刀切」方法，無法充分應對複雜的AI助理工作流程。

更多新聞：2025年AI助理競爭白熱化 蘋果、Google、三星引領未來

以安全性為切入點促進AI助理普及

輝達推出這些安全強化措施，無疑希望降低企業對AI助理技術的疑慮，讓其看起來更安全、成熟，而非僅僅停留在實驗階段。至於這些措施能否有效促進企業採用AI助理，仍需時間來驗證。

企業對AI助理採用速度低於預期

儘管市場對AI助理充滿期待，但企業的實際採用速度並未如AI產業所預期的那麼迅速。以Salesforce執行長Marc Benioff為例，他預測在未來12個月內，將有超過10億個AI助理基於Salesforce運行。然而，市場現況顯示出不同趨勢。

2025年僅25%企業將採用AI助理

根據德勤（Deloitte）最近的一項研究顯示，目前約有25%的企業已經採用或計畫在2025年導入AI助理，並預測到了2027年，這一比例將增至50%。儘管AI助理備受關注，但企業採用的步調，仍與AI技術創新的速度存在落差。

參考資料：Tech Crunch

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

這篇文章 加強AI助理安全控制 輝達推出3項全新NIM微服務 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。