香港正大国际期货有限公司

客服QQ 3963243750

期货要闻

亚马逊贾西在特朗普政府出台限制前,就已对A

来源:正大期货    作者:正大国际期货    
Anthropic 首席执行官达里奥・阿莫迪(左)、亚马逊首席执行官安迪・贾西
正大期货官网

  据两名知情人士透露,本周亚马逊首席执行官安迪・贾西与一众科技企业高管一同向特朗普政府高层官员反映,Anthropic 两款顶尖大模型存在国家安全隐患。

正大期货官网

  知情人士称,这位 Anthropic 最大投资方与核心云服务商的负责人,近日与政府官员展开多轮沟通,直接推动特朗普政府于上周五晚间出台针对 Anthropic 克劳德神话 5(Claude Mythos 5)、寓言 5(Fable 5)两大模型的全新出口管制措施,管制理由为国家安全风险。新规禁止外籍人员访问上述两款模型;Anthropic 表示,为遵守监管要求,公司已暂停所有客户对两款模型的访问权限。

正大期货官网

  亚马逊发言人向行业媒体《The Information》回应:“作为服务大量政企客户的头部云服务商,政府时常就潜在安全风险征询我方意见。针对此类沟通细节,我们不予对外披露。”

正大期货官网

  此次出口管制是 Anthropic 与特朗普政府持续博弈中遭遇的又一重挫。近几个月,这家克劳德大模型开发商与美国政府关系持续恶化,导火索是今年 3 月美国国防部将其模型列入供应链风险清单。矛盾根源在于双方存在核心分歧:Anthropic 大模型是否可用于国内大规模监控、自主致命武器等高危场景。

正大期货官网

  一名美国政府高层官员周六透露,白宫暂无计划将针对 Anthropic 高端模型的出口管制扩大至其他 AI 企业。

正大期货官网

  Anthropic 上周五表示,公司已联合美国及多国政府机构排查寓言系列模型的安全漏洞。该企业此前曾预警,旗下 AI 系统能力已高度发达,甚至能比人类更高效挖掘软件程序漏洞。一名接近 Anthropic 的消息人士称,政府此前并未反对寓言 5 模型对外发布。

正大期货官网

  贾西与政府的沟通、以及白宫出台模型访问限制,也反映出科研人员与网络安全专家的普遍担忧:Anthropic 最新两款大模型具备极强能力,可快速挖掘各类新型安全漏洞与系统利用缺陷。本周二,Anthropic 推出克劳德寓言 5 精简版,刻意阉割核心能力,禁止其解答网络安全、前沿 AI 研究相关问题。

正大期货官网

  Anthropic 上周五晚间发布官方博客称,美国政府已掌握一套可绕过寓言 5 内置安全护栏的提示词越狱攻击方法。

正大期货官网

  Anthropic 证实,已有演示案例证明该越狱手段能够挖掘系统漏洞,但强调被挖出的漏洞 “技术门槛较低”,市面上其他公开大模型同样能识别同类漏洞。

正大期货官网

  两名知情人士透露,在听完贾西与其他科技高管的反馈后,美国国家网络总监肖恩・凯恩斯克罗夫特上周五召集白宫高层开会,与会官员认定,实施出口管制是管控 Anthropic 风险最直接有效的手段。

正大期货官网

  美国国家网络总监办公室发言人暂未就此置评。

正大期货官网

  四名熟悉通话流程的人士表示,会议结束后,Anthropic 首席执行官达里奥・阿莫迪于上周五与政府官员进行通话。会谈中,Anthropic 团队解释,此次越狱手段挖出的漏洞难度偏低,其他大模型均可实现同类漏洞挖掘;但美方告知企业,政府已敲定落地出口管制的决定,不会更改。

正大期货官网

  Anthropic 与亚马逊构建了深度多元的合作关系。这家电商巨头今年 4 月披露,自 2023 年起已向 Anthropic 投资 130 亿美元,并计划根据商业化里程碑再追加 200 亿美元投资。亚马逊自研 Trainium 芯片为 Anthropic 大模型提供训练与算力支撑,Anthropic 全部模型均部署在亚马逊云科技(AWS)平台。

正大期货官网

  今年亚马逊同时大手笔布局 Anthropic 竞品 OpenAI,承诺最高投资 500 亿美元,并首次通过 AWS 渠道对外分销 OpenAI 最新大模型。

正大期货官网

  特朗普政府此番出台 AI 出口管制,距离其两周前签署人工智能行政令仅隔数日。该行政令推出一套自愿协作框架,要求 AI 企业在向合作伙伴、公众发布高端模型前,主动将模型交由政府提前评测。

正大期货官网

  《The Information》此前报道,这份行政令诞生于白宫内部激烈博弈:政府内部曾争论,是否要对发布前沿大模型的 AI 企业实施更严苛的许可审批制度。