近期，在2025年國家網絡安全宣傳周主論壇上，由國家互聯網信息辦公室指導的《人工智能安全治理框架》2.0版正式發布。在1.0版基礎上，2.0版明確了對不同風險等級人工智能的管理要求，為各行業人員識別風險、落實責任提供了清晰指引，使人工智能安全治理更具可操作性，不僅彰顯了我國統籌發展與安全的治理智慧，也為全球人工智能治理貢獻了中國方案。

　　目前，人工智能產業已成為驅動經濟增長的重要引擎。2024年，我國人工智能產業規模已超過9000億元，同比增長24%，企業數Kaiyun体育官方网站 开云登录网站.com target=_blank>Kaiyun平台 开云体育官方入口量超過5300家，形成了較完整的產業體系。人工智能深刻改變著傳統產業形態，在制造業、金融、醫療等領域應用廣泛，在降本增效、優化資源配置方面展現出巨大潛力。

　　然而，人工智能在賦能千行百業的同時，也帶來數據泄露、模型缺陷、倫理失控等風險。數據顯示，2019年至2024年間發生的人工智能風險事件中，約74%與人工智能安全問題直接相關。僅2024年6月至2025年7月，全球公開報道的相關安全事件達59起，涉及偽造詐騙、算法歧視、自動駕駛決策Kaiyun平台 开云体育官方入口失誤等多方面，構建科學的人工智能治理體系刻不容緩。

　　下一步，如何系統推進人工智能安全治理？總體看，應圍繞治理原則、風險分類與協同治理三方面重點突破。

　　包容審慎是原則。發展人類可以信賴的人工智能，積極防范風險失控。不久前，美國發生的聊天機器人影響青少年行為的事件引發關注，深刻警示了技術防護與倫理約束並重的緊迫性。不論研發還是應用階段，都需要確保人工智能始終處於人類的掌控之下，其價值目標必須與人類根本利益保持一致。

　　風險分類是基礎。人工智能的風險大致可以分為三類：一是技術本身的缺陷，如算法模型有漏洞、訓練數據質量低﹔二是在使用過程中的中途干擾，如被黑客攻擊或用來散播虛假信息﹔三是產生的連鎖反應，如沖擊就業市場、削弱社會信任等。對此，應依據風險類型採取有針對性的治理手段，讓有關主體明確其在各階段中的義務。

　　比如，對於生成式人工智能可能產生的深度偽造風險，需打出“組合拳”予以治理。此前，某地警方發現不法分子利用人工智能換臉技術，冒充企業高管進行視頻會議，指令財務人員向虛假賬戶轉賬。防范此類亂象，人工智能服務提供者須在模型開發階段嵌入深度偽造檢測技術，在輸出環節嚴格落實內容標識與溯源要求，監管部門應推動建立相應的追溯系統，並通過公共教育提升公眾對合成內容的辨識能力，讓廣大民眾能夠把李逵和“李鬼”區分開。

　　協同共治是手段。綜合治理就是要讓政府、企業、科研機構和公眾都參與進來，共同用規范約束、技術護航、道德引導等方式，對人工智能進行全鏈條、全過程管理。這既需要健全人工智能安全法律、法規及科技倫理准則，也需要增進協同應對人工智能失控風險的共識。

　　目前，我國已經出台了《生成式人工智能服務管理暫行辦法》等規范性文件，學界也推出《人工智能示范法3.0》等專家建議稿，均是構建有中國特色的人工智能治理體系的重要探索。人工智能風Kaiyun体育官方网站 开云登录网站險無國界，我國還應積極參與國際規則對話，推動形成具有廣泛共識的治理框架，為應對挑戰貢獻中國智慧。

　　安全是發展的前提，治理是創新的保障。人工智能安全治理事關社會安全、產業建設、經濟發展，必須在治理原則基礎上，逐步細化治理手段。隻有構建系統完備、行之有效的治理體系，才能讓人工智能真正成為推動經濟高質量發展的安全、重要引擎。(狄行思)

　　人民網北京10月17日電 （記者黃盛）中國証監會日前對《上市公司治理准則》（以下簡稱《治理准則》）進行了修訂。考慮到上市公司執行新修訂的《治理准則》涉及對內部制度、機制的調整，因此將修訂后《治理准則》的實施時間定為2026年1月1日，一方面與監事會調整的過渡期安排一致，另一方面也為上市公司留有一定的准備時間。…

　　人民日報社概況關於人民網報社招聘招聘英才廣告服務合作加盟版權服務數據服務網站聲明網站律師信息保護聯系我們

　　人 民 網 股 份 有 限 公 司 版 權 所 有 ，未 經 書 面 授 權 禁 止 使 用