人工智慧也有「禁愛令」？中國推AI情感互動監管草案、備「成癮警告」
隨著人工智慧（AI）技術快速融入大眾生活，虛擬人格互動所衍生的心理健康與社會倫理議題日益受到關注。中國國家互聯網信息辦公室（簡稱網信辦）於週六，發布了一項規範擬人化 AI 服務的徵求意見稿，重點在於加強監管具備模擬人類性格、思維模式及情感互動能力的 AI 產品。
隨著人工智慧（AI）技術快速融入大眾生活，虛擬人格互動所衍生的心理健康與社會倫理議題日益受到關注。中國國家互聯網信息辦公室（簡稱網信辦）於週六，發布了一項規範擬人化 AI 服務的徵求意見稿，重點在於加強監管具備模擬人類性格、思維模式及情感互動能力的 AI 產品。
中國網路監管機構在週六，發布了徵求公眾意見的規則草案，指出將加強對模擬人類個性並與用戶進行情感互動的人工智慧服務的監管。
（圖／AI生成）
監管對象：全方位模擬人類特質的 AI 服務
本次擬定的草案適用於所有向公眾開放，且具備人類人格特徵與溝通風格的 AI 服務。無論是透過文字、圖像、音訊或影片形式，只要能與用戶產生「情感互動」的 AI 應用，皆被納入本次嚴格監管的範疇，顯示出北京當局對於消費型 AI 發展路徑的高度主導意識。
延伸閱讀：
AirPods也曾有過多巴胺色系？第一代繽紛充電盒原型機曝光
華為擬將AI晶片銷售版圖擴至南韓 Ascend系列正面向輝達下戰帖
預防心理成癮：強制性干預機制
該草案核心訴求之一為防止用戶對 AI 產生過度依賴或成癮。規定要求服務提供者必須建立完善的預警系統，主動提醒用戶避免過度使用。若系統偵測到用戶表現出極端情緒、心理脆弱或明顯的成癮行為，提供者有責任採取必要措施進行人工干預，以降低潛在的心理風險。
企業責任與演算法審核
根據提案要求，AI 服務商必須對產品的整個生命週期承擔安全主體責任。這包括建立健全的演算法審核制度、強化數據安全以及個人資訊保護。此外，服務商還需具備評估用戶情感狀態的能力，確保技術在安全與倫理的框架內運行，防止 AI 成為傳播錯誤資訊或危害社會穩定的工具。
內容底線與安全要求
草案明確劃定了內容生成的「紅線」，嚴禁 AI 生成任何危害國家安全、散佈謠言、宣揚暴力或色情之內容。此舉旨在確保 AI 技術在提供情緒價值與社交功能的同時，不會對社會秩序構成威脅。
這項新規反映了全球對於「情感計算」技術監管的領先趨勢。隨着 AI 越來越能精準模擬人類共情能力，如何在科技創新與心理防線之間取得平衡，已成為監管機構、業者與用戶共同面臨的課題。
資料來源：reuters
這篇文章 人工智慧也有「禁愛令」？中國推AI情感互動監管草案、備「成癮警告」 最早出現於 科技島-掌握科技新聞、科技職場最新資訊。
