據「網信上海」微信公眾號發布，生成式人工智能技術蓬勃發展，賦能千行百業為社會生產生活帶來巨大便利，但違規濫用問題也逐漸突出，AI換臉、AI變聲、AI偽造等侵權和破壞網絡生態現象層出不窮，給新技術新應用安全帶來諸多風險挑戰。
上海市網信辦在執法辦案工作中發現，部分企業開發使用生成式人工智能功能，未依法開展安全評估工作、未採取必要的安全防護措施防範違規資訊生成、未採取限制措施防止被濫用，導致相關功能被用於「換臉變聲」、「變裝造假」等侵犯他人個人資訊權益行為，產出「開盒」、「洗錢」等違法違規內容，以及生成色情低俗圖片等資訊內容。
內文提及，專項行動期間，網信辦指導屬地應用商店下線違規應用生成式人工智能技術的APP共54款。對前期要求下線功能的26家生成式人工智能服務網站，進行「回頭看」巡查，防範問題復發。對3家拒不整改的生成式人工智能服務網站，首次適用《生成式人工智能服務管理暫行辦法》予以立案處罰。
此外，網信辦督促5家首次發現存在未按國家規定開展安全評估工作或違規提供「論文代寫」功能等違法違規問題的網站下線相關功能，並就生成式人工智能服務備案工作提供指導。
下一步，上海市網信辦將鞏固專項行動成果，持續對「AI濫用」、「算法推薦」等存在侵犯個人資訊權益、危害網絡生態的違法違規行為予以重點打擊和糾治，促進新技術新應用在法治的軌道上健康有序發展。(hc/a)~
阿思達克財經新聞
網址: www.aastocks.com
新聞
