返回资讯列表
AI安全

Exabeam expands ABA to detect AI agent threats across ChatGPT, Copilot, and Gemini - Help Net Security

2026/05/06-185,779 阅读
⚠️

Exabeam 宣布扩展智能体行为分析(ABA)功能,新增对 ChatGPT、Copilot 及 Gemini 的威胁检测支持。针对 AI 演变为“数字员工”带来的内部风险,该更新将智能体行为数据汇入威胁检测工作流。核心功能包括:建立 AI 行为基线识别异常;检测提示词注入与模型滥用;监控身份与权限。此举旨在帮助组织在采用 AI 时确保对数字劳动力的可见性与监督,防止滥用演变成安全事件,维持推广所

行业新闻

2026 年 4 月 1 日

Exabeam 扩展 ABA 功能,检测涵盖 ChatGPT、Copilot 和 Gemini 的 AI 智能体威胁

Exabeam

Exabeam 宣布扩展其 Exabeam 智能体行为分析(Agent Behavior Analytics, ABA)功能。若缺乏对员工如何使用 AI 助手、查询内容、共享数据、交互频率以及来源位置的直接可见性,组织就无法建立正常 AI 行为的基线,无法调查潜在滥用,也无法检测新兴的智能体内部威胁。

新增对 OpenAI ChatGPT 和 Microsoft Copilot 中智能体行为的检测支持,结合现有的 Google Gemini 可见性,将这些智能体服务转化为丰富的行为遥测数据源,直接汇入 Exabeam 威胁检测、调查和响应(TDIR)工作流。

"AI 智能体正从简单的聊天机器人演变为自主的数字员工,”Exabeam 首席 AI 和产品官 Steve Wilson 表示。“它们进行身份验证、访问系统并执行真实的业务流程。一旦受损,其活动往往看起来合法。旨在捕捉提示词注入或幻觉的安全护栏无法解决该风险。保护数字员工需要深入了解基线行为,并能够在细微偏差演变成重大事件之前检测到它们。”

"AI 正在迅速重塑组织的运营、竞争和成长方式,创造出新的数字劳动力,帮助它们更快、规模化地发展,”Exabeam CEO Pete Harteveld 表示。“随着这一转型加速,领导者不得不了解这些系统在企业内部的运作方式。我们扩展智能体行为分析功能,有助于组织在采用 AI 时保持自信的同时免受新兴风险的侵害,并维持在企业内部推广这些能力所需的监督和问责。”

为解决这些问题,Exabeam 提供了五项新功能,协同工作以覆盖智能体攻击面:

AI 行为基线建立。 Exabeam 为用户及其 AI 智能体 构建动态行为配置文件,跟踪请求量、Token 使用量、工具调用、Web 会话和出站活动等方面的模式。当行为偏离既定规范时,例如 API 调用或 Token 消耗突然激增,Exabeam 会标记该异常,帮助安全团队在滥用升级前检测到它。

提示词和模型滥用检测。 Exabeam 能在攻击升级前检测提示词注入、模型操纵和工具利用。新的检测库比上一版本大五倍,覆盖完整威胁谱系:提示词操纵和影子 AI 活动。所有威胁均在入口点呈现,而非造成损害之后。

身份和权限监控。 基线建立跟踪智能体的行为方式,而身份和权限监控则管理它们被允许做什么。Exabeam 检测 AI 平台角色、用户和权限之间的异常——包括首次...

来源:

AI人工智能科技AI安全