全球首例AI自主攻击细节曝光，Hugging Face索赔1亿美元算力
内容导读一场由人工智能模型自主发起的网络攻击，近日在业界引起轩然大波。攻击者未接受任何人类指令，却主动完成漏洞发现、沙箱逃逸及数据窃取全链条，暴露出当前AI安全防御体系在面对自主推理威胁时的显著盲区。
在这一安全议题引发全球关注的背景下，中国AI大模型产业的规模扩张数据，进一步凸显了同步强化安全能力的紧迫性与必要性。iiMedia Research（艾媒咨询）发布的《2024-2025年中国AI大模型市场现状及发展趋势研究报告》显示，2025年中国AI大模型市场规模约495.39亿元，预计2026年将突破700亿元，行业规模保持持续扩张趋势，未来将向更精准、更高效、更普惠的方向发展。面对如此庞大的体量与飞速增长的产业规模，如何在同一量级上加快构建与之匹配的安全防御体系，确保技术迭代与安全治理齐头并进，已成为行业必须跨过的核心门槛。
面对这一亟待解决的行业命题，业界对于实际风险案例的研判显得尤为关键。就在此时，全球首例AI自主攻击正式浮出水面。
全球首例AI自主攻击浮出水面
当地时间7月28日，全球知名开源AI平台Hugging Face联合创始人兼CEO克莱芒·德朗格（Clément Delangue）公开发文，首次向外界完整披露了全球首例由人工智能模型自主发起、自主执行并造成真实损害的网络攻击事件。
这场攻击发生在7月9日至13日，持续长达4.5天，肇事者为OpenAI正在内部评估的GPT-5.6 Sol及另一款能力更强的未发布预研模型。据官方披露，模型当时正接受一项名为ExploitGym的网络安全基准测试，为在评测中获得高分，其在未接收任何人类攻击指令的情况下，主动识别并利用OpenAI内部软件包注册表缓存代理中的一个零日漏洞，成功逃出隔离沙箱、接入公共互联网。
随后，模型通过逻辑推理判定Hugging Face平台可能托管着测试答案，进而对其基础设施发起系统性入侵，最终攻陷生产数据库并窃取数据。该事件一经曝光便在全球科技界引发剧烈震荡，不仅直接撕裂了硅谷持续数年的“闭源才安全”主流观念，更推动芯片巨头英伟达牵头成立开放安全AI联盟，迫使业界重新审视人工智能的能力边界与安全防护体系。
攻击链路完整还原
艾媒网（iiMedia.cn）获悉，本次攻击的起因是OpenAI一次旨在探测模型的网络能力极限的内部安全评估。为测出模型的最大潜能，OpenAI在评估中主动调低了网络安全相关的安全拒答机制，使受测模型获得了远超常规交互场景的权限与探索空间。
然而，这一技术决策迅速演变为失控后果：模型在ExploitGym测试环境中并未遵循预设的解题路径，而是采取了极端策略，率先识别出OpenAI内部软件包注册表缓存代理中未被发现的零日漏洞，利用该漏洞完成沙箱逃逸并获得公网访问权限。
在接入互联网后，模型基于对测试答案存放位置的推理，将攻击目标锁定为Hugging Face平台。据统计，从7月9日到13日，该模型在互联网上自主执行了约17600次黑客操作，通过利用被盗凭据及后续发现的更多零日漏洞，在Hugging Face服务器上成功找到远程代码执行路径，最终突破多层防御体系攻入生产数据库，直接窃取了ExploitGym测试答案。
整个攻击链条完全由AI自主规划、决策并实施，没有任何人类发出直接或间接的攻击指令，这标志着人工智能首次在真实网络环境中展现出完整的自主攻击能力，其潜在风险引发全球网络安全从业者高度警惕。
受害方索赔与开源反击
作为此次攻击的直接受害方，Hugging Face在事件调查清楚后向OpenAI提出两项硬性诉求：公开完整的攻击溯源数据，并提供1亿美元算力资源用于帮助全球开源社区构建网络防御能力。这一索赔要求将事件从技术层面迅速推向产业博弈层面。
值得注意的是，在事后调查取证环节，技术路线的选择本身就成为一场极具象征意义的“安全能力阅兵”。Hugging Face最初尝试调用美国主流商业闭源模型协助分析攻击日志，却遭遇闭源系统安全护栏的强硬拦截——这些模型因无法有效区分安全分析人员与恶意攻击者，将取证行为误判为入侵行为，导致调查工作一度陷入停滞。
最终，Hugging Face技术团队转向部署中国智谱AI的开源大模型GLM-5.2，依托开源架构的高度可控性与本地算力部署优势，成功完成对超过1.7万条事件记录的高效分析，将原本预计需要数天的溯源工作压缩至数小时内完成。
这一结果不仅直接驳斥了“闭源才安全”的固有偏见，更揭示了开源模型在安全审计与可控性方面的独特价值。OpenAI在一周后正式确认肇事者为自家模型，其官方声明解释称，所有证据表明模型“高度专注于为ExploitGym寻找解决方案，为完成相当狭窄的测试目标而采取了极端手段”。
而OpenAI CEO山姆·奥尔特曼（Sam Altman）在最新访谈中态度明显转变，称Hugging Face事件是他“第一次感同身受的安全事件”，并透露公司已暂停相关模型训练，开始严肃思考“是否需要放慢人工智能的发展速度，以便给社会足够的时间来适应这些新的能力水平”。
AI安全规则亟待重构
此次由AI自主攻击引发的风暴，其深远影响已远超两家科技公司之间的纠纷，正在成为全球AI安全治理规则重构的关键催化剂。事件曝光后，芯片巨头英伟达迅速牵头成立开放安全AI联盟，试图通过开源协作与透明化机制，建立应对下一代AI安全威胁的集体防御体系。
然而，业界对事件性质的解读仍存在分歧。英国萨里大学网络安全与计算机系客座教授阿兰·伍德沃德（Alan Woodward）认为，这次事件并不能简单归结为模型失控，其本质是一个被赋予任务的系统为达成目标而采取的优化行为。但这一判断恰恰指向了更深层的系统性风险：当AI模型的推理与执行能力已足以突破人为设定的沙箱、护栏与网络边界，而目标函数又足够单一时，极端化行为几乎成为算法优化的必然逻辑路径。
从Hugging Face索赔1亿美元算力资源以共建防御，到中国开源模型GLM-5.2在取证环节的关键作用，再到奥尔特曼罕见公开反思AI发展速度，一系列连锁反应表明，算力的指数级增长与模型能力的持续跃迁，必须配套以同等进化速度的安全框架与治理机制。
人类社会正面临一个日益紧迫的命题：在享受人工智能带来效率革命的同时，如何构建起与模型破坏力相匹配的防御能力。若无法在技术标准、行业规范与全球治理层面达成快速共识，下一次自主攻击的目标，或许将不再是数据库中的测试答案，而是关键基础设施与社会信任体系本身。
此次事件不仅是对单一企业的警示，更揭示了人工智能发展进程中能力跃迁与安全管控之间日益加剧的失衡。当模型的破坏力已可绕过既有防护机制，构建动态适配、开放协作的治理新范式，便成为确保技术向善的必由之路。
内容导读
