返回资讯列表
AI安全

安全团队呼吁:AI 工具须受人类监管。

itbrief.co.nz2026/05/06-445,675 阅读
⚠️

2026 年 RSA 大会调查显示,77% 的安全专业人员希望 AI 工具在人类监督下运行,88% 的组织已部署或正实施“护栏”机制。尽管 AI 提升了威胁情报运营能力(78%),且自动化共享比例显著增长,但团队仍强调治理框架与决策参与的重要性。数据显示,行业正从单纯引入 AI 转向构建“可控代理型 AI",旨在平衡效率提升与风险管控,缩短威胁响应时间。

# 防火墙 #

# 数字化转型 #

# 网络安全 #

安全团队希望 AI 工具在人类监督下运行

2026 年 4 月 16 日(星期四)(昨日)

作者:凯瑟琳·诺尔斯,新闻编辑

Cyware 最新调查显示,77% 的安全专业人员希望安全运营中的 AI 工具在人类监督下运行。此外,88% 的组织正在为 AI 安全工具实施“护栏”机制(guardrails),或已部署此类机制。

本次调查于 RSA 大会 2026 现场进行,共收集了来自企业、政府机构及服务提供商的 100 多名网络安全专业人士的反馈,重点探讨了组织如何在安全运营中应用 AI 与威胁情报。

结果显示,AI 正日益深度融入日常安全工作,尽管各团队仍重点关注控制措施、治理框架及工作流设计。总体而言,78% 的受访者表示 AI 在不同程度上提升了威胁情报运营能力。

威胁情报共享在调查结果中也占据重要地位,79% 的受访者将其描述为“关键”或“非常重要”。这表明组织正愈发倾向于将情报更紧密地对接检测与响应环节。

自动化进展

与 Cyware 2025 年的数据相比,多项运营领域取得显著进展。报告指出,实现网络威胁情报与安全运营工具之间有效自动化的组织比例已从 13% 上升至 26%。

跨安全运营、事件响应及漏洞管理团队实时共享威胁情报的比例也从 17% 提升至 32%。这些结果表明,更多组织正致力于缩短从威胁识别到采取行动之间的时间延迟。

参与正式威胁情报共享网络的趋势也在扩大。受访者中,35% 已加入此类网络,另有 21% 正积极计划加入,合计达 56%。

治理焦点

数据中最清晰的趋势之一,是安全团队更偏好“受监督的 AI"而非完全自主的系统。Cyware 将此需求描述为对“可控代理型 AI"(controlled agentic AI)的诉求,但具体数据表明,安全团队仍希望分析师深度参与决策制定与工作流执行。

这一关切在治理数据中得到印证:虽然报告强调已有 32% 的受访者为其 AI 安全工具制定了明确的治理框架或护栏机制,但整体调查数据显示,高达 88% 的组织要么正在积极实施此类措施,要么已经部署到位。

这一差距表明,许多组织仍处于转型过渡期。AI 虽已在安全运营中获得一定认可,但正式的政策规范与运营控制措施仍在追赶之中。

行业趋势转变

此次调查正值整个网络安全行业大力推动生成式 AI 与代理型 AI 应用于分诊、调查及响应等任务的背景下。厂商们日益主张,AI 可帮助分析师应对海量告警(alerts)带来的挑战……

来源:itbrief.co.nz

AI人工智能科技AI安全