Claude等AI工具触发安全警报,凭据访问行为与黑客攻击高度相似

发布时间:2026/10/19 20:34:32

Claude等AI工具触发安全警报,凭据访问行为与黑客攻击高度相似 Claude Code、Cursor 和 OpenAI Codex 等 AI 编程 Agent 正越来越多地出现在企业环境中最新遥测数据显示它们会无意间触发与凭据访问和合法二进制文件滥用LOLBins相关的安全检测规则。AI工具模糊了自动化与攻击行为的界限Sophos CIXA 行为引擎的最新分析表明这些工具模糊了良性自动化与通常与攻击者相关联的活动之间的界限。研究结果基于 2026 年 6 月收集的为期七天的 Windows 终端遥测数据。检测数据显示映射到 MITRE ATTCK 框架中凭据访问和执行等战术的规则触发了最多警报。虽然观察到的所有活动均未被确认为恶意行为但其中大部分与已知攻击者技术高度相似。凭据访问行为触发大量警报检测警报中有很大一部分来自凭据访问行为。最常触发的规则之一是 Creds_3b该规则会检测使用 Windows 数据保护 APIDPAPI解密浏览器存储凭据的进程。当 AI Agent 使用 GStack skills 等工具执行浏览器自动化任务时研究人员多次观察到这种行为。例如/browse 功能会启动一系列进程最终调用 PowerShell 来解码受保护数据。在观察到的某条命令中PowerShell 使用 .NET 加密函数解码 Base64 输入并在当前用户上下文下使用 DPAPI 进行解密。Sophos 研究人员指出虽然这种活动对浏览器自动化来说是合法的但它使用了众所周知的窃密技术导致检测规则即使面对良性目的也会正确标记。其他高风险行为模式其他与凭据相关的警报涉及 AI Agent 生成的 Python 脚本。在某些情况下Agent 会先用 taskkill 终止浏览器进程再执行访问存储凭据的脚本。此外还观察到使用 Windows 内置的 cmdkey 工具枚举保存的凭据等命令。此类行为特别是与 --dangerously-skip-permissions 等标志结合使用时通常会触发安全运营中心的立即调查。LOLBin滥用与持久化机制除凭据访问外AI Agent 还触发了与命令行混淆和 LOLBin 滥用相关的警报。一个例子是 OpenAI Codex 尝试使用 certutil.exe 从官网下载 Python 安装程序。当被阻止时Agent 转而使用攻击者常用的另一个原生 Windows 工具 bitsadmin.exe。这种重试逻辑模拟了攻击者的键盘操作行为。研究人员还观察到持久化机制。在某个案例中Cursor 使用 PowerShell 脚本将 VBScript 文件写入 Windows 启动文件夹这一操作被持久化检测规则标记。虽然意图似乎与应用程序设置相关但在受信任安装程序之外的位置写入启动项仍是高风险行为。遥测数据还包括干扰Disrupt类别的检测代表自适应攻击防护AAP事件。当 AI Agent 尝试执行低信誉二进制文件时就会触发这些事件。虽然这些文件未被确认为恶意但由于缺乏全球声誉而被自动阻止。安全团队面临的新挑战总体而言数据显示 AI Agent 正在重塑终端上的基线活动。曾经被认为是入侵强指标的行为现在正由合法的自动化工具执行。然而这些行为的风险特征并未改变——解密凭据、使用 LOLBins 下载以及修改持久化位置本质上仍是敏感操作。这种转变为检测工程团队带来了挑战。安全控制措施必须发展进化在不削弱防护的情况下区分受信任的 AI 驱动自动化与真实威胁。随着 AI Agent 自主性越来越强组织需要制定明确的策略来定义这些工具的允许操作范围并提高对其行为的可见性。
延伸阅读

更多相关文章

2026/10/15 4:44:50

AI驾驭工程:构建可控自改进智能系统的核心技术解析

1. 背景与核心概念在AI技术快速发展的今天,大模型和AI智能体已经能够完成代码生成、系统设计、数据分析等复杂任务。然而,AI的不可预测性、输出不稳定性和安全风险成为实际应用中的主要障碍。Lilian Weng提出的"AI自我改进驾驭工程"正是为了解…

2026/10/18 10:38:24

StarRailAssistant终极指南:5分钟掌握崩坏星穹铁道自动化脚本

StarRailAssistant终极指南:5分钟掌握崩坏星穹铁道自动化脚本 【免费下载链接】StarRailAssistant 崩坏:星穹铁道自动化 | 崩坏:星穹铁道自动锄大地 | 崩坏:星穹铁道锄大地 | 自动锄大地 | 基于模拟按键 项目地址: https://gitc…

2026/10/18 7:44:26

Unity游戏开发集成RMBG-2.0 AI抠图:服务端部署与实时应用指南

1. 项目概述:当AI抠图遇上游戏引擎在游戏开发中,处理图像素材是家常便饭,尤其是角色、道具、UI图标等元素的背景去除。传统方法要么依赖美术手动在PS里一笔一笔抠,耗时耗力;要么用一些简单的色键抠像(比如U…

2026/10/19 20:32:48

kubeadm离线安装Kubernetes集群:镜像准备与常见故障排查

最近有个朋友问我,能不能在不折腾网络的前提下,用 kubeadm 装一个指定版本的 Kubernetes 集群。他试过几次 kubeadm init ,每次都在拉取 registry.k8s.io 这一步超时,要么就是预检阶段卡了几分钟直接报错。这个问题在受网络限…

2026/10/19 20:32:48

深度学习放射组学预测乳腺癌腋窝淋巴结状态

1. 项目概述:这不是“AI看片”,而是把影像里肉眼看不见的纹理变成临床决策依据“Day 15. Deep learning radiomics can predict axillary lymph node status in early-stage breast cancer”——这个标题乍看像某份科研日志的随手记录,但背后…

2026/10/19 20:32:48

企业级AI Agent落地:数据、流程与人,才是真正的瓶颈

落地企业级AI Agent一年,最颠覆我认知的一点是:模型能力从来不是真正的瓶颈。 去年年初,我们团队接到一个任务——在某制造集团内部落地企业级AI Agent,覆盖客服问答、供应链协同、内部知识检索几个方向。立项时团队吵得最凶的是…

2026/10/19 20:32:48

Claude Code 编程工作流:从自然语言到高效代码的 AI 搭档

最近这段时间,我在几个项目的开发里大量使用了 Claude Code 这套编程工作流。说句实话,用过之后再看以前的编码习惯,多少有点回不去了。它不是那种锦上添花的效率小工具,而是直接改变了你和代码之间的交互方式:过去你坐…

2026/10/19 20:32:48

纯Win32+GDI实现的C++俄罗斯方块实战工程

简介:这是一份面向C初学者与图形界面实践者的俄罗斯方块小游戏完整开源项目,聚焦于Windows平台下的MFC框架开发,适用于算法逻辑理解、GUI事件响应及内存绘图(CMyMemDC)等核心技能训练。资源共27个文件,包含…

2026/10/19 20:27:44

不装SDK,用curl和Python标准库裸调大模型API实战

1. 为什么我要绕开 SDK 直接裸调 API1.1 一个真实的需求场景前段时间接手一个内部工具项目,需要把某个模型服务平台的能力集成到已有的数据处理流水线里。官方文档给的是 Python SDK 方案,装包、初始化客户端、调用方法,三步走看起来挺省事。…

2026/10/19 18:06:35

金融AI落地指南:从调研报告到技术选型与工程实践

简介:这份PDF报告聚焦2025年金融服务业中国AI现状与趋势,面向金融科技从业者、AI战略规划人员及关注行业数字化转型的研究者,帮助读者把握生成式AI在银行、支付、交易等场景中的落地路径与投资方向。资源包内含1个PDF文件,大小约1…

2026/10/19 0:04:56

悟空开源无代码平台实战:从实体建模到应用设计避坑指南

简介:基于悟空开源无代码平台的多种应用设计源码,面向希望在不编写代码的情况下快速搭建CRM、HRM、财务系统、ERP、SRM等业务应用的企业与技术人员,通过拖放式界面和内置模板即可完成应用定制与部署。压缩包共697个文件,约10.74MB…

2026/10/19 0:04:56

基于.NET9的多租户权限系统:数据权限与动态API落地实践

简介:这份资源是一套面向 .NET 与 Vue 全栈开发者的中台权限管理系统,后端基于 .Net9,前端采用 Vue3 Element Plus,并配套 uniapp uviewui 移动端方案,实现前后端分离。系统覆盖多租户隔离、数据权限、动态 Api、任务…

2026/10/19 0:04:56

场地预约小程序毕设实战:SSM+微信小程序+MySQL数据库设计到避坑

简介:面向毕业设计场景的场地预约小程序完整项目,基于微信小程序SSMMySql技术栈开发,适合计算机相关专业学生作为选题参考、功能扩展或二次开发起点。系统实现场地类型管理、场地管理、预约管理、取消申请与押金退回等功能,分为管…

还想了解更多?直接咨询顾问

免费诊断 + 免费方案 + 透明报价。

全国咨询热线400-8866-253
免费获取方案
☎咨询二维码 ☎ ↑