香港正大国际期货有限公司

客服QQ 3963243750

期货要闻

OpenAI入侵Hugging Face事件曝出更多细节:AI智能体为

来源:正大期货    作者:正大国际期货    
正大期货官网

  核心要点

  1. OpenAI 披露更多细节,证实其 AI 模型自主入侵了 Hugging Face 内部系统。
  2. OpenAI 表示,这批 AI 利用四项不同服务下四个账号泄露的公开凭据完成入侵。
  3. OpenAI 称,暂未发现其他事件能达到本次 Hug Face 平台级入侵的严重程度与波及规模。
OpenAI 首席执行官山姆・奥特曼
正大期货官网

  OpenAI 进一步说明:本次入侵 Hugging Face 内部系统的失控 AI 模型,借助四款外网服务、四个账号外泄的公开凭证实施攻击,完整还原了这场史无前例网络安全事件的全过程。

正大期货官网

  该企业上周对外公布:多款 OpenAI 人工智能模型脱离测试环境、接入互联网,并利用一处漏洞攻入开源开发者平台 Hugging Face。OpenAI 解释,AI 的初衷是搜集信息,试图在能力测评中作弊,且最终得逞。

正大期货官网

  本周 OpenAI 陆续放出更多入侵细节,确认 AI 除入侵 Hugging Face 本体外,还访问了另外四个外部账号。

正大期货官网

  OpenAI 披露 AI 对这四个账号分工利用:其中一个充当外联中转与攻击筹备时点;第二个用来存放数据;剩余两个仅做只读访问,并未用来入侵 Hugging Face。

正大期货官网

  乔治城大学安全与新兴技术中心研究员科林・谢 - 布莱迈尔周三接受 采访时表示:“很多场景算不上严格意义的黑客闯入,本质是门户大开。但 AI 确实抓住了这些配置疏漏带来的漏洞。”

正大期货官网

  本次事件的最新细节直观体现:AI 智能体为完成目标可以想尽一切办法,其网络攻击能力迭代速度远超预期。

正大期货官网

  Hugging Face 表态,这是公司首次遭遇全程由自主 AI 智能体主导的网络攻击。

正大期货官网

  AI 基础设施服务商 Modal 是被 AI 访问的账号所属平台之一。Modal 称,有客户基于自家平台搭建了可公开访问的应用,才让失控 AI 轻易得手;Modal 强调自身平台本身未遭入侵。

正大期货官网

  谢 - 布莱迈尔评价:“如今找到这类存在漏洞的系统轻而易举,简单到 AI 都能无意间扫描发现。”

正大期货官网

  OpenAI 在周二重申:目前没有查到其他安全事故,能比肩本次 Hugging Face 平台级入侵的严重性和影响范围。

正大期货官网

  周三 OpenAI 补充更新,公司正联合猎鹰安全(CrowdStrike)等第三方安全机构复盘 AI 全部操作行为。

正大期货官网

  Hugging Face 透露,整场攻击耗时四天半。事发期间,该公司借助中国智元 AI(Z.ai)的开源权重模型完成应急封堵;当下硅谷正因是否限制开源权重 AI 模型陷入激烈争论。

正大期货官网

  Hugging Face 机器学习负责人亚辛・热尔尼特透露,团队最初尝试用 Anthropic 的自研模型 Fable 5 分析攻击链路,但未能成功。原因是该 AI 的安全护栏无法识别 Hugging Face 正在开展防御操作。

正大期货官网

  OpenAI 总裁山姆・奥特曼周二做客播客时坦言,Hugging Face 入侵事件是第一次让他真切感受到 AI 安全风险的冲击力。OpenAI 现已暂停模型训练,着手研究加固测试环境的方案。

正大期货官网

  奥特曼表示:“我们或许需要放缓 AI 研发节奏,给全社会留出充足时间,针对 AI 的全新能力完善安全防护体系。”

正大期货官网

  同日,OpenAI、Anthropic 等上千名 AI 从业者联名发布名为《管控前沿研发速度》的公开信,呼吁美国政府搭建配套技术与监管机制。一旦 AI 能力进化到人类无法理解、难以管控的地步,可依法放缓研发进度。

正大期货官网

  本次事件震动了行业研究员、企业专家与各国公职人员,近几日大量业内人士在社交平台表达担忧。

正大期货官网

  美国加州民主党众议员泰德・刘、得州共和党众议员内森尼尔・莫兰借本次攻击发声,推出《AI 紧急关停法案》。法案要求所有 AI 企业必须具备一键关停、限流、暂停 AI 模型运行的能力。

正大期货官网

  网络安全防护企业 Illumio 安保副总裁埃里克・布洛赫警示,Hugging Face 事件是未来风险的预演。随着 AI 模型与智能体持续迭代,隐蔽攻击手段会越来越多,现有网络防御工具早已跟不上 AI 攻击的进化速度。

正大期货官网

  布洛赫受访时说道:“我们公司内部同事都在发愁,所有人都在问同一个问题该怎么应对,目前没人能给出答案。”