生成式AI成資安工具 但企業仍應考量風險管理李佩璇 (2024-10-21 10:51:53)

藉由生成式AI，企業能更有效地進行事件偵測、風險評估，並應對深偽（Deepfake）攻擊等威脅，這些AI工具不僅能加快事件處理速度，還能協助團隊預測潛在風險。

編譯／Cynthia

2024年生成式AI（GenAI）技術快速成為網路安全的重要工具，帶動企業在事件管理流程上的變革。藉由生成式AI，企業能更有效地進行事件偵測、風險評估，並應對深偽（Deepfake）攻擊等威脅，這些AI工具不僅能加快事件處理速度，還能協助團隊預測潛在風險。隨著生成式AI的發展，企業在導入這類解決方案時，必須謹慎考量相關風險，確保技術的實際效果，才能真正發揮其優勢並減少潛在問題。

生成式AI的準確性與風險管理

雖然生成式AI具備強大的分析與自動化功能，但其結果的準確性仍有待提升。廠商通常建議用戶在使用這類技術時，務必對生成的結果進行驗證，特別是遇到複雜的網路安全問題時。如果輸出不準確，可能會造成事件管理中的誤判，浪費時間與資源，部分廠商過度樂觀宣稱AI能以「機器速度」處理問題，但實際效果未必如預期。因此，企業在導入生成式AI時，需確保技術可靠，避免因誤判帶來更大的安全風險。

更多新聞：量子運算武藝高強 誰能保護網路安全

降低使用障礙成企業評估AI因素

儘管生成式AI能提高效率，但要獲得理想結果，撰寫精確的提示仍具挑戰性。用戶可能需要多次調整指令，這無形中削弱AI所宣稱的「機器速度」優勢。當遇到即興或開放式的安全問題時，AI的反應速度與準確性常無法滿足需求，特別是當系統未整合足夠的紀錄資料時問題更為嚴重，故降低使用過程中的障礙是企業評估生成式AI時的重要因素，確保這項技術能有效提升安全防護能力，而不因操作困難而影響效能。

成本控制與生成式AI治理的重要性

生成式AI的計費模式是企業導入時需謹慎考量的問題，一些廠商會根據使用頻率收費，若企業疏忽管理，可能在不經意間累積高額成本。例如，若未關閉AI功能，企業即使未使用，仍可能產生額外費用，企業必須建立完善的治理機制，有效管理生成式AI的使用，避免資源浪費。角色導向的存取控制和精確的成本追蹤都是必要的治理措施，確保每次使用都能合理控管成本，並將資源集中在關鍵的網路安全防護上。

生成式AI的未來與三大關鍵考量

生成式AI在網路安全領域有著巨大的應用潛力，但企業在導入這項技術時，必須特別關注使用信心、使用障礙以及使用治理這三大關鍵因素。隨著技術的逐漸成熟，企業將不再抱持最初的過高期待，而是轉向更加實際的應用，最終達到Gartner所描述的「生產力平衡點」階段，生成式AI不僅能大幅增強企業的網路安全防護能力，還將成為應對新興威脅的重要防禦武器，幫助企業更有效地迎接未來的挑戰。

資料來源：CSO Online

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

這篇文章 生成式AI成資安工具 但企業仍應考量風險管理 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。