資訊安全攻防戰 2025年AI革命如何塑造資安新局面？李佩璇 (2024-12-01 08:30:00)

Snowflake資安長Brad Jones指出，生成式AI的崛起不僅提升資安作業的效率與效能，也為攻擊者創造新的攻擊機會。

編譯／Cynthia

隨著科技快速發展，資安挑戰也日益複雜。未來2025年，資安版圖將進一步變化，帶來全新且艱鉅的攻防課題。Snowflake資安長Brad Jones指出，生成式AI的崛起不僅提升資安作業的效率與效能，也為攻擊者創造新的攻擊機會。雖然AI應用潛力巨大，但如何在創新技術與資安防護之間取得平衡，將是未來的關鍵議題，本文將深入分析生成式AI在資安領域的影響，並探討企業應如何因應其中的機遇與風險，確保數據安全與業務穩定性。

生成式AI成資安運營助手

生成式AI雖因安全風險備受討論，但其在資安領域的實用價值已逐漸浮現。作為資安運營中心（SOC）的有力輔助，AI工具能有效緩解人力短缺。例如，AI可自動生成事件摘要，讓分析師快速掌握重點，避免翻閱大量日誌，不僅提升效率，還降低錯誤率。AI的運用須建立在嚴謹的訓練基礎上，確保其符合企業的政策、標準與認證。隨著技術不斷進步，越來越多企業將採用AI工具，以提高效率並解決人力資源不足的持續挑戰。

更多新聞：AI開始主導資安攻防 2025年不可忽視的7大趨勢

AI模型成為攻擊新焦點

隨著AI應用日益普及，攻擊者的目標也從傳統的容器層升級至機器學習基礎設施層。Brad Jones警告，未來可能出現攻擊者干擾AI模型訓練的情況，導致模型回應錯誤，甚至洩露敏感訓練數據。更甚者，攻擊者可能利用漏洞對模型進行惡意操控，對企業造成重大損失。面對這些威脅，企業需要制定完善的AI操作化計畫，確保技術創新在風險可控的環境下運行。唯有平衡技術進步與風險管理，才能保護數據完整性，並確保業務穩定發展，應對AI相關的安全挑戰。

生成式AI數據外洩風險

生成式AI是否會帶來新的數據外洩風險？Brad Jones認為，問題更多源自用戶操作，而非技術本身。實際上，使用生成式AI處理資料的風險，與利用Google搜尋或填寫客服表單相差無幾，而企業仍需重視這些潛在威脅。未經授權的AI技術使用正成為影子IT問題的重要來源，對此企業應加強監控以避免數據外洩。未來制定完善的政策與操作框架，確保生成式AI合法運營，是防範法律與聲譽風險的關鍵。雖AI帶來新的挑戰，資安領域一向具備迎難而上的能力，透過有效管理，企業能在技術革新中鞏固資安基石，迎接更多發展機會。

資料來源：Bisinfotech

※探索職場，透視薪資行情，請參考【科技類-職缺百科】幫助你找到最適合的舞台！

這篇文章 資訊安全攻防戰 2025年AI革命如何塑造資安新局面？ 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。