中新經緯2月26日電 (袁媛)2026年被業內視為“智能體加速落地期”，人工智能正從單純的對話工具走向能夠自主執行任務的智能體系統。用戶只需一句指令，智能體就可以跨應用完成查詢信息、下單支付、發送消息等復雜操作，逐漸成為連接不同應用場景的“數字代理”。

　　但在便利不斷提升的同時，新的風險也在顯現。2月24日，在對外經濟貿易大學數字經濟與法律創新研究中心舉辦的“智能體的高質量發展與治理路徑”研討會上，多位專家與業內人士圍繞智能體安全、隱私保護與責任歸屬問題展開討論。

　　權利“梭哈”真的好嗎？

　　與傳統大模型相比，智能體最大的變化在于具備行動能力。智能體通常由感知、記憶、規劃和執行等多個模塊構成，能夠調用工具并自動完成任務。

　　北京郵電大學網絡空間安全學院副教授李朝卓指出，智能體具備更強自主性，但也因此引入更復雜的安全隱患。例如在感知層面可能出現模型幻覺與錯誤理解，在規劃層面可能形成偏離初衷的惡意規劃，而在工具調用層面則存在API(應用程序編程接口)濫用、工具劫持與權限失控等風險。

　　智能體逐步介入應用運行邏輯，原有的軟件生態也在發生變化。智能體風險往往集中體現在資金安全、個人信息保護以及內容與倫理邊界等方面。

　　小紅書技術合規負責人田云飛表示，隨著智能體介入應用運行邏輯，用戶授權給智能體更高的自由度。傳統APP相對閉環服務的生態邊界受到挑戰，過去承擔的是與用戶完整交互的角色，如今已變成內容或服務的提供者。

　　智能體通常還依賴長期記憶機制與跨應用調用能力，這意味著用戶需要一次性授權更多權限。螞蟻集團隱私保護研究中心主任李海英指出，手機智能體往往通過調用無障礙組件及系統級權限實現跨應用操作，這種底層權限整合在提升效率的同時，也對用戶知情權與同意權構成挑戰。

　　在資金安全方面，智能體執行能力的提升使攻擊路徑更加復雜。GEEKCON(新極棒)技術負責人肖軒淦以AI眼鏡為例，展示了攻擊者在取得設備控制權后，可進一步竊取用戶支付信息并實施盜刷，暴露出硬件平臺安全、身份認證機制以及隱私合規管理等方面的薄弱環節。此外，在手機智能體場景中，如果系統權限控制與行為校驗機制不足，智能體甚至可能被惡意操縱，通過發送偽裝短信誘導用戶泄露手機銀行驗證碼，從而形成鏈式攻擊風險。他強調，當前智能體生態呈現“功能先行、安全滯后”的發展態勢，安全問題不再局限于模型層面，而是貫穿硬件、系統接口、應用場景與用戶交互全過程。

　　隱私風險同樣受到關注。李海英指出，視覺驅動型智能體在執行任務過程中可能通過錄屏或界面解析方式獲取頁面信息，其數據處理路徑及是否上傳云端往往缺乏透明度，使“最小必要原則”的落實面臨現實困難。

　　面壁智能法律業務線解決方案總監邵帥表示，智能體應用正在重塑隱私與責任結構，風險從“平臺內靜態存儲”轉向“跨場景動態流轉”。在自動化執行鏈條中，數據跨系統調用、拼接與畫像生成日益常態化，用戶卻難以實時感知其權限邊界與執行路徑。一旦發生錯誤或泄露，責任在模型、平臺與用戶之間分布式擴散，現行法律框架面臨新的治理挑戰。

　　出了事誰負責？

　　面對不斷顯現的風險，與會專家普遍認為，應在技術推廣初期就建立基本治理規則。

　　自由討論環節中，有專家提出，智能體治理的底線可聚焦三個方面：一是權限分級與用戶授權機制，避免一次性獲取過多權限；二是關鍵操作流程可審計，使系統行為可以追溯；三是面向用戶的透明公示與風險提示機制，讓用戶能夠理解授權可能帶來的后果。

　　在技術層面，應通過工程化手段實現風險控制。美團數據與隱私保護法務負責人朱玲鳳指出，智能體治理應圍繞“動作可控、輸入可控、生態可控、記憶可控”構建控制體系，通過最小權限、預算限制、熔斷回滾等機制，使智能體能夠在可控條件下運行。

　　北京大學光華管理學院應用經濟系長聘教授翁翕則從更宏觀角度提醒，在智能體高度介入的環境下，人類“慢自我”的反思與糾偏能力可能被削弱，公共政策目標需要在人工智能的建構理性與人類有限理性之間重新尋找平衡。

　　2025年9月上海徐匯區法院一審判決AI伴侶聊天應用APP“AC(Alien Chat)”的兩名開發/運營者構成制作淫穢物品牟利罪，分別獲刑四年、一年半。這款AI伴侶聊天應用，定位是為年輕群體提供親密陪伴和情感支持。用戶在AC注冊會員后，可與AI聊天。其中，高頻次、大比例的聊天記錄，在案發后被法院認定為淫穢物品。

　　在案件審理過程中，各方對責任歸屬問題存在明顯分歧。一種觀點認為，相關內容由算法自動生成，開發者并非直接“生產者”，平臺提供的只是技術工具，責任不應簡單歸于服務提供者；另一種觀點則認為，開發者通過模型訓練、提示詞設計及功能設置，對內容生成具有實質性控制能力，應當對系統運行結果承擔主要責任。也有法律界人士指出，智能體在接受用戶模糊指令后，通過上下文推理形成輸出結果，其運行機制具有一定不可預見性，傳統以“行為人—行為結果”為基礎的責任認定方式正面臨挑戰。

　　人工智能責任問題已經開始從理論討論走向現實司法實踐，“用戶、服務商與技術系統之間如何分配責任”成為智能體治理中亟待回答的核心問題之一。

　　北京交通大學法學院副教授付新華指出，智能體具備自主決策與自動執行能力，使用戶與服務提供者都難以實現全過程控制，容易在現有制度框架下形成責任斷裂。她認為，現行法律條件下難以賦予人工智能獨立主體資格，也不能簡單將智能體等同于用戶代理人，智能體更應被理解為介于工具與主體之間的中間構造，需要通過多主體協同治理形成責任重疊機制。

　　中國政法大學法與經濟學研究院副教授謝堯雯指出，手機智能體在操作系統層與應用層之間嵌入了“數字代理層”，能夠理解用戶意圖并自主調用服務，這改變了數字交互的資源調度邏輯與控制權歸屬，也引發兩類核心關切。其一，智能體可能通過算法實施自我優待或歧視性接入，在資源調度層面存在減損公平競爭秩序的風險。其二，在控制權層面存在責任界定難題。為此，有必要依據風險等級建立分級干預機制：在高風險場景中保留人類最終審查與決策權，在低風險領域賦予智能體更大自主空間。(中新經緯APP)

　　中新經緯版權所有，未經授權，不得轉載或以其他方式使用。