（上接第一版）

面对新的风险形态，安全能力建设正在从理念走向具体工具和方法。此次论坛上，安远AI联合相关机构和企业发布多项研究成果。其中，前沿AI风险监测平台2.0覆盖网络攻击、生物、化学、有害操纵和失控五类风险，目前已监测16家公司的80多个模型；相关风险测评基准数据库收录200多项测评基准。会上还发布了《前沿AI风险与应急响应研究报告（征求意见稿）》，该报告聚焦前沿AI风险及其应急响应体系建设，重点关注全球前沿AI模型与系统可能引发风险后的应急响应机制和安全能力建设。业内专家认为，智能体安全不能再依靠一次性的上线前测试，而需要贯穿运行全过程。中国信息通信研究院人工智能研究所所长魏凯表示，评估既是技术演进的“指南针”，也是连接技术创新和产业应用的纽带，并为安全治理提供依据。未来，身份识别、权限控制、行为审计、异常监测和实时响应等能力，将成为智能体落地的重要支撑。

在产业现场，安全问题也日益受到更多关注。在酒店、制造、交通等领域，智能体已经开始承担真实任务。云迹科技主要面向酒店等服务场景提供机器人服务。不同于传统软件，机器人不仅要处理信息，还要在真实环境中行动，这也让企业更早感受到智能体安全正在从保护数据，转向保障AI决策可靠、行动可控。云迹科技首席发展官谢云鹏表示，随着机器人服务智能体应用扩大，企业客户关注点正在变化：过去更多关注数据是否泄露，如今开始关注“AI为什么作出这一决策”“出现异常后能否追溯”。这也反映出产业对于智能体安全的关注，正在从数据保护延伸到决策可信和过程可控。

人工智能竞争正进入新阶段：模型能力定义了AI的“高度”，而安全可信能力则定义了AI的“广度”。未来，安全能力或将成为人工智能走向规模化应用的关键支撑。