世界互联网大会聚焦智能体安全，360作为核心成员单位持续推动AI安全治理

本文作者：

Nemo

导语：11月2日，世界互联网大会人工智能专业委员会2026年全体会议在乌镇召开，2027年度工作计划（草案）提出聚焦智能体安全可控与协同治理。

11月2日，世界互联网大会人工智能专业委员会2026年全体会议及第三次主任委员会议在浙江乌镇召开。360集团首席科学家、高级副总裁潘剑锋以人工智能专委会副主任委员身份出席会议。会议审议的2027年度工作计划（草案）提出，专委会安全与治理推进计划将进一步聚焦“智能体安全可控与协同治理”，推动AI安全治理进一步向智能体行为管控、治理能力建设和全球治理机制延伸。作为专委会成员单位，360在智能体安全领域的持续研究与实践，与这一方向高度呼应。

图示人工智能专委会会议现场

随着AI从内容生成走向自主执行，智能体开始调用工具、访问数据并自主完成任务，安全风险也从内容层面延伸到权限管理和行为管控。围绕这一变化，专委会计划在2027年就智能体权限管理、自主决策与人类管控、多智能体协作安全、全周期安全管理等方向开展专题研讨和联合研究。

围绕这些议题，360持续参与专委会相关工作。2026年，专委会安全与治理推进计划先后赴华为、360集团、阿里云智能集团、百度等成员单位开展实地调研；7月，潘剑锋在专委会举办的“前沿人工智能安全风险的协同治理”研讨会上发表主旨演讲。这些交流与研究，也建立在360长期的技术实践基础之上。

针对智能体安全，360以“以模治模、以智能体对抗智能体”为防护思路，推出360智能体安全防护与管理系统。该系统覆盖智能体资产发现、行为管控、威胁检测、事件响应和损失恢复等关键环节，可对智能体、技能插件及模型链路进行识别管理，并对文件访问、网络连接、命令执行等行为实施运行时管控，帮助企业把智能体运行过程纳入安全管理。

据悉，智能体安全只是360 AI安全体系的一部分。在更广的AI安全领域，360还布局了大模型安全、AI应用治理等重点方向。其中，自研的AI安全攻防系统“图龙锋”通过中国信通院“互联网智能体治理——漏洞挖掘智能体能力评估”，成为首个通过该项评估的产品；同时，360参与多项AI安全国家标准和行业标准研制，形成从产品到标准的完整能力支撑。

随着智能体从“能回答问题”走向“能执行任务”，AI安全治理正从原则讨论走向对权限、行为和执行过程的具体管理，治理重心也从“管内容”转向“管行为”。360将结合自身在人工智能与数字安全领域的积累，持续探索智能体安全可控的技术路径，为行业治理提供实践参考。

雷峰网 雷峰网 (公众号：雷峰网)

0 人收藏

分享：

相关文章

世界互联网大会

智能体安全

360

潘剑锋

AI安全治理

破解智能体跨端协同办事难题，支付宝AHA方案获世界互 ...

阿里Qoder获世界互联网大会领先科技奖，已服务超800 ...

世界互联网大会乌镇峰会首设智慧农业论坛 拼多多分 ...

安顿生命预警表亮相世界互联网大会“AI中医”点亮主 ...

Nemo

发私信

当月热门文章

海尔官宣孙颖莎成为全球品牌代言人

京东采销员工发布谣言诋毁其他平台被起诉，法院已立案

豆包工作上线新功能，支持跨AI产品一键导入已有配置

豆包工作新增画布功能，并接入豆包2.1 Lite模型

腾讯AI办公再进一步，企业微信与WorkBuddy深度联合

最新文章

淘宝短剧xWan3.0，温碧霞授权形象亮相AI短剧

天猫双11东南亚战场开打：Lazada加码本地流量助力中国品牌

速卖通双11开门红！品牌成交同比大涨200%

速卖通双11开门红！品牌成交同比大涨200%

跨境生意也能做“减法”？Shopee轻出海为卖家打开增长新路径

半小时卖出2万亿Token，李佳琦直播卖千问办公爆火

热门搜索

Android

阿里

激光雷达

iPhone5

锤子科技

运营商

平板电脑

ARM

DIY

沃尔沃

Nexus 7

为了您的账户安全，请 验证邮箱

您的邮箱还未验证,完成可获20积分哟！

重发邮箱 修改邮箱

请验证您的邮箱

立即验证

完善账号信息

您的账号已经绑定，现在您可以 设置密码 以方便用邮箱登录

立即设置

以后再说