鄭萃穎

近日，電商智能體、醫療健康智能體、辦公智能體接連發布，AI應用迎來爆發式增長，正成為推動各行業發展的新引擎。從電商平臺到醫療健康，從制造業到能源生產，AI技術正加速賦能千行百業。然而，隨著技術的廣泛應用，AI帶來的安全風險也引發廣泛關注。近日，我國發布《人工智能生成合成內容標識辦法》，中國信通院也啟動了2025年對AI智能體和大模型的安全評估工作，為AI應用劃定安全邊界，推動人工智能在合法、安全、可控的框架內發展。

AI應用加速落地 賦能千行百業

近日，AI智能體產品接連發布，AI應用加速落地。在電商平臺，探域科技于3月17日發布“探域電商智能體”，成為“智能客服”，幫助商家智能回復買家提問，并可執行營銷任務。在辦公領域，釘釘宣布推出AI智能體客服，作為企業的“電子員工”，AI智能體客服可接入企業官網、公眾號直接服務消費者和企業客戶。在醫藥領域，中康科技于3月15日正式發布“醫療健康全場景智能體”，輔助醫生提升診斷效率和精準度，幫助連鎖藥店優化庫存與運營效率。

今年一季度，互聯網企業在AI板塊競相發力，進一步推高了AI應用熱度。華鑫證券研究報告顯示，阿里、騰訊、字節跳動等企業積極布局AI產業鏈。例如，阿里正式發布并開源推理模型通義千問QwQ-32B，并宣布未來三年將在云和AI領域投入超過3800億元;騰訊借接入DeepSeek的熱度，持續投放廣告;字節跳動利用自家豆包模型，圍繞自身生態打造營銷策略。

“2025年可能會成為AI智能體爆發的元年。”百度創始人、董事長兼首席執行官李彥宏近日發文稱。他提到，推理大模型的深度思考能力將推動“AI智能體”落地。隨著大模型技術的迭代和應用成本的下降，人工智能應用將迎來大爆發，加速賦能工業、制造、能源、交通、政務等行業。

AI正加速重構生產力，在眾多行業中發揮著不可小覷的作用。在化工領域，中國化學黨委書記、董事長莫鼎革表示，AI可提高化學工程中的建模速度、計算效率與準確性，解放勞動力。在裝備制造業，中國中車董事長孫永才表示，要推動AI技術深度融入中車全產業鏈、供應鏈和創新鏈，全面賦能22個方向、106個業務、369個場景，發揮人工智能對產業發展的“乘數倍增效應”。在能源生產領域，中國核電董事長盧鐵忠稱，中國核電旗下兩家單位將AI技術融入原本的大數據模型，將智能回答和數據分析效率提升了45%。在醫療領域，圣湘生物董事長戴立忠說，AI技術與生命科技加速融合，將推動藥物研發、基因組學、醫學影像分析、臨床決策支持、生物制造、健康管理、合成生物學等領域迎來爆發式增長。

構筑安全邊界 應對AI風險挑戰

AI技術廣泛應用，也帶來安全風險。從國家法律法規到行業企業舉措，各界積極探索如何在充分發揮AI效能的同時構筑堅實的安全邊界。

在剛剛過去的3·15國際消費者權益日，AI深度偽造引發的新型騙局引發網民熱議。AI生成內容帶來的安全風險日益凸顯，小米集團創始人、董事長兼CEO雷軍近日表示，AI換臉、擬聲等技術，帶來新的違法重災區，他本人就是AI換臉擬聲的“受害者”。

針對這一問題，近日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》，為AI生成的內容劃定安全邊界。《標識辦法》明確，人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式，并強調任何組織和個人不得惡意刪除、篡改、偽造、隱匿標識，不得通過不正當標識手段損害他人合法權益。

在行業應用中，大模型也可能帶來安全風險。在醫療應用領域，科大訊飛董事長劉慶峰表示，大模型技術在醫療臨床、服務、管理等領域應用廣泛，但面臨著數據安全、醫學專業性及倫理風險等問題，如部分AI應用不具備專業認證的醫療能力卻能回答相關問題，造成極大認知誤解，應制定醫療健康行業大模型應用技術標準與測試規范。

個人與企業的數據安全同樣面臨威脅。奇安信董事長齊向東說，當下許多企業和個人部署私有化大模型時，服務器未采取安全措施，數據隱私和基礎設施安全風險巨大。要系統提升安全能力，確保人工智能安全發展，“安全”必須要“快一步”。面對AI應用帶來的多個層面網絡安全挑戰，360集團創始人周鴻祎提出“以模制模” 思路，通過研發安全大模型，管理企業知識庫的使用、智能體的調用，并管理基座模型產生幻覺的問題。

中國信通院人工智能所安全與具身智能部主任石霖指出，近年來，語言大模型、多模態模型、智能體和具身智能等領域不斷出現突破性創新，推動人工智能邁向通用智能初始階段。然而，人工智能也帶來了諸多潛在的風險和挑戰，規范人工智能應用安全邊界的核心在于守住安全底線，確保人工智能技術在合法、安全、可靠、可控和向善的框架內發展。為此，我國圍繞統籌“發展與安全”兩項重要議題，先后頒布一系列重要文件，加強頂層設計，推動人工智能產業良性發展，針對重點領域開展敏捷治理實踐，通過“小快精”的治理模式，應對技術帶來的復雜挑戰。

平衡創新與安全 迎接AI時代

據今年發布的第55次《中國互聯網絡發展狀況統計報告》，我國生成式人工智能產品用戶規模達2.49億人。AI技術成為未來競爭力的重要一環。

為AI健康發展塑造根基，需要更完善的治理框架。2024年9月，全國網絡安全標準化技術委員會發布《人工智能安全治理框架》1.0版，以鼓勵人工智能創新發展為第一要務，以有效防范化解人工智能安全風險為出發點和落腳點，提出了包容審慎、確保安全，風險導向、敏捷治理，技管結合、協同應對，開放合作、共治共享等人工智能安全治理的原則。

“實現推動技術創新和保障安全的平衡，一方面要加強多元共治;另一方面要充分發揮產業界的自治自律能力。”石霖說。中國信通院正在推動人工智能安全治理方面的研究。一是開展基于風險的安全治理框架研究，愈發聚焦識別、評估、應對人工智能“真風險”。二是緊隨前沿應用，布局安全測試方案。三是關注產業訴求，凝聚產業力量。