安全研究员 James Kettle 通过实验挑战 AI 的黑客能力发现尽管 AI 能高效执行漏洞扫描和攻击生成但真正致命的攻击仍然需要人类专家在关键环节介入利用专业知识进行决策和调整。这种人机协同模式可能成为未来最危险的网络威胁也为防御方敲响了警钟。当人们谈论人工智能在网络黑客攻击中的潜力时脑海中常浮现全自动攻击机器人的图景。安全研究员 James Kettle 的最新实验给出了一个更为清醒的结论AI 固然可以高效完成许多体操动作但决定攻击成败的大脑仍然是人。他将这一过程称之为人机协同的黑客攻击模式——而这或许才是未来真正危险的方向。一、把 AI 推向黑客能力的极限James Kettle 是 PortSwigger 公司研究主管以发现一系列严重 Web 安全漏洞而闻名。在近期的一次研究中他尝试系统性地评估 AI 在漏洞利用中的能力边界。实验中他让 AI 模型扮演攻击者的角色提供目标环境的描述并要求其生成可行的攻击路径。结果显示AI 确实能够快速生成大量漏洞扫描建议、利用代码片段甚至完整的攻击链但在面对现实环境中复杂的业务逻辑和模糊上下文时AI 往往会犯错甚至产生幻觉提出不存在的漏洞。关键在于这些错误并未使攻击完全失败。当一名经验丰富的安全研究员介入向 AI 提供纠正和方向性提示后AI 的表现出现了质的飞跃。Kettle 发现AI 与人类专业知识结合后不仅攻击效率大幅提升而且能够探索出一些以往被忽视的攻击路径。这种人类在环Human-in-the-loop的模式能够将攻击的精准度和创造力提升到全新高度。“AI 与人类专业知识结合时其威力远超任何单独一方。”——安全研究员 James Kettle二、为什么人类在环仍然必要当前 AI 模型的局限性决定了它暂时无法成为完全自主的攻击者。一方面AI 在训练时接触的漏洞模型大多基于公开数据而真实系统的安全防御往往依赖私有协议、内部框架和特定配置这些无法通过公开数据完全掌握。另一方面AI 缺乏对攻击后果的感知——它不知道哪些操作是越界的也无法像人类专家那样根据目标反应实时调整策略。更重要的是高级攻击往往要求对多个漏洞进行组合利用例如先通过社会工程学获取凭据再利用应用层漏洞提升权限最后横向移动至敏感系统。这需要攻击者具备全局思维和临场应变能力而当前 AI 模型在处理这种长链路任务时依然力不从心。因此攻击者若想实现高影响攻击仍然需要人类坐镇中央指挥 AI 完成各项战术动作。三、AI 攻击的行业背景近年来AI 在网络攻击领域的应用已从概念验证走向实践。从自动生成钓鱼邮件、编写恶意软件到辅助侦察与漏洞分析AI 工具正在显著降低攻击门槛。与此同时防御方也在积极使用 AI 进行威胁检测和响应。此次研究提醒我们AI 攻击的真正威胁不在于 AI 单独作战而在于它成为人类专家的放大器。对于企业安全团队而言这意味着需要重新思考防御策略不只是防范 AI 生成的恶意流量更要警惕 AI 与专业攻击者协同发起的定向攻击。检测此类攻击可能需要将行为分析、威胁情报与人工审计结合起来而不是单纯依赖自动化规则。四、编者按人类在环这一概念常被用于 AI 伦理讨论但在此处它揭示了 AI 时代网络攻击的底层逻辑。AI 并不会替代黑客而是赋予他们更强大的工具。未来最危险的攻击者很可能是那些善于利用 AI 提升技能的专业人士。对安全行业来说这既是警钟也是方向。本文首发于赢政天下 (https://www.winzheng.com)获取更多深度技术内容与资源欢迎访问官网。