首个AI智能体安全测试标准发布:为智能时代筑牢安全基石

世界数字科学院(WDTA)在联合国日内瓦总部正式发布全球首个《AI智能体运行安全测试标准》,标志着AI智能体从技术探索迈向安全可控的规模化应用阶段。该标准由蚂蚁集团、清华大学、中 国电信牵头,联合普华永道、新加坡南洋理工大学等二十余家国内外机构共同编制,填补了智能体安全测试领域的国际空白。

1.png

智能体作为具备自主决策与执行能力的AI形态,其“跨语言墙”行为特性带来新型安全风险。标准首次构建全链路风险分析框架,将输入输出、大模型、RAG、记忆和工具五大关键链路与运行环境深度绑定,创新提出模型检测、网络通信分析、工具模糊测试等测试方法。例如,通过模拟用户连续追问等对抗场景,检验智能体在复杂交互中的安全防护能力,避免单轮测试导致的防御漏洞。

目前,标准已在金融、医疗等领域试点应用。蚂蚁集团基于该标准打造的“蚁天鉴”系统,可抵御单次50万量级的饱和攻击,确保政务场景中智能体决策的合规性。中国信通院同步启动的“可信AI智能体测试床”,进一步推动标准与产业实践深度融合。

这一标准的发布,不仅为全球AI治理提供了“中国方案”,更通过技术合规与产业应用的平衡,推动智能体从实验室走向千行百业,为构建安全可信的智能社会奠定基石。


版权声明:本文仅代表作者观点,不代表5G日报立场。
本文系作者授权5G日报发表,未经许可,不得转载。

相关阅读

  • 如何将小翼管家添加到Siri,实现语音智控新体验

    如何将小翼管家添加到Siri,实现语音智控新体验

    想通过Siri一句话控制家中智能设备?只需将小翼管家与Siri联动,即可解锁“无接触”家居管理。以下是详细操作指南:步骤一:设备与网络准备确保手机已安装最新版小翼管家APP,并登录中国电信账号。将家中智能设备(如智能灯泡、插座、摄像头等)通...

    2025.07.15 14:10:25作者:百度AI
  • 沃尔沃语音助手升级发布:AI技术赋能智能驾驶新体验

    沃尔沃语音助手升级发布:AI技术赋能智能驾驶新体验

    2025年7月,沃尔沃汽车宣布对旗下40系列、60系列及90系列等十余款车型的智能语音助手进行全面升级,覆盖超40万台车辆,新老车主共享技术红利。此次升级以AI语音大模型为核心,重新定义了车载交互的智能标准,让“小沃”从功能型助手进化为“懂...

    2025.07.15 14:03:33作者:百度AI
  • 语音助手、物联网共舞:智能家居自动化市场新图景

    语音助手、物联网共舞:智能家居自动化市场新图景

    在智能家居自动化市场,语音助手与物联网的深度融合正重塑行业格局。语音助手已从“能转字”进化为“会干活”的智能中枢,通过自然语言处理与多模态交互技术,用户可轻松控制照明、空调、安防等设备,实现“一句话操控全屋”。以萤石网络为例,其启明AI人脸...

    2025.07.15 12:32:06作者:百度AI
  • AI下半场,智能体卷到哪一步了?

    AI下半场,智能体卷到哪一步了?

    2025年,AI发展正式迈入下半场,智能体从技术概念演变为产业变革的核心引擎。这一阶段,智能体不再停留于实验室演示,而是以“能干活、易上手”的特性,深度渗透至金融、政务、制造等关键领域,成为推动行业智能化升级的“最后一公里”关键力量。在金融...

    2025.07.15 11:38:45作者:百度AI
  • 重磅!深圳以智能机器人破解助残养老难题

    重磅!深圳以智能机器人破解助残养老难题

    在老龄化与残障人士照护需求激增的当下,深圳以科技创新为引擎,通过智能机器人技术构建起覆盖“预防-医疗-康复-照护”全周期的智慧养老助残体系,为破解行业难题提供了“深圳方案”。深圳的养老院里,外骨骼机器人正以毫米级传感精度捕捉使用者运动意图,...

    2025.07.15 11:15:27作者:百度AI
  • “AI+隧道”监测体系:织就高速安全智能预警网

    “AI+隧道”监测体系:织就高速安全智能预警网

    在山西交控交科集团智研院公司打造的“1个省级平台大脑+N个隧道站点”监控体系中,AI技术正重构高速公路隧道管理范式。该体系通过部署毫米波雷达、AI摄像头与温湿度传感器,构建起覆盖隧道全域的感知网络,实现交通状态实时监测、安全隐患主动预警、突...

    2025.07.15 10:51:17作者:百度AI
  • 首个AI智能体安全测试标准发布:为智能时代筑牢安全基石

    首个AI智能体安全测试标准发布:为智能时代筑牢安全基石

    世界数字科学院(WDTA)在联合国日内瓦总部正式发布全球首个《AI智能体运行安全测试标准》,标志着AI智能体从技术探索迈向安全可控的规模化应用阶段。该标准由蚂蚁集团、清华大学、中 国电信牵头,联合普华永道、新加坡南洋理工大学等二十余家国内外...

    2025.07.15 10:42:09作者:百度AI
  • “智能体”赋能报销革新,智能共享驱动财务转型

    “智能体”赋能报销革新,智能共享驱动财务转型

    在财务数字化转型浪潮中,“智能体”正以颠覆性力量重塑报销流程,推动企业财务管理迈向智能化新阶段。以用友BIP智能费控商旅平台为例,其搭载的智能体化身员工“财务小秘书”,通过自然语言交互即可完成差旅申请、商旅预订、发票采集等全流程操作。员工无...

    2025.07.15 10:33:19作者:百度AI