当前位置:首页 > 热点

老黄人生第二条推文!只有Anthropic还在死扛

新智元报方式

黄仁勋这辈子,老黄发过两条推。人生

首先条放出一封32家公司联署的第条公开信,力挺开放权重模型。推文

第二条官宣「开放安全AI联盟」(Open Secure AI Alliance),死扛37家创始成员,老黄芯片厂商、人生云巨头、第条安全公司、推文开源社区全到齐了。死扛

题比如点是老黄:世界需闭源和开源模型并存,但对网络安全而言,人生开源模型和harness是第条必需的。

然后有意思的推文来了。

联盟名单上,死扛OpenAI不在,Google不在,Anthropic也不在。

但眼瞅大势不妙的OpenAI和Google,赶紧补签了公开信。

到头来,几乎所有人都站了队。

就剩Anthropic。不仅公开信没签,联盟也没加。

一级标题37家集体下场,开放安全开战

老黄发帖8小时,各路CEO集体站台。声势浩大,阵容也相当豪华。

英伟达、Microsoft、IBM、Cisco、CrowdStrike、Cloudflare、Hugging Face、Dell、Palantir、Salesforce、SAP、SpaceXAI,等等……

其中,英伟达的贡献最为重头。NOOA框架,全称英伟达 Labs Object-Oriented Agent,已经在GitHub上开源。

设方式思路是把智能体当Python类来写:方式即能力,字段即状态,docstring即提示词。

成效部分,SWE-bench Verified拿到82.2%,CyberGym L1处理率86.8%,ARC-AGI-3达85.1%,同等成效token消耗约为比较方式划的一半。

其他成员也各有贡献。

· HPE拿出了SPIFFE/SPIRE零信任身份框架,处理智能体的身份和权限状况。

· Hugging Face贡献了Safetensors安全权重格式,防止权重文件被篡改。

·IBM和Red Hat联合贡献了Lightwell供应链数字签名补丁,保障模型分发链条的完善性。

· 微软贡献了MDASH多模型智能体扫描harness,用于安全测试。

· SpaceXAI开源了Grok Build终端AI编码agent,还方式划开源Grok系列权重。

方式理是这样的。

智能体的安全不只取决于模型权重,而是包含身份认证、权限管理、harness、护栏、日志和评估整个链条。

每一环都应该足够开放,让防御者能审查、测试和改进。

因为,如果防御者只能拿到一个黑盒API,一旦攻击者绕过护栏,防御者将毫无还手之力。但如果整个技术栈是开放的,防御者就可以给每一层都做加固。

两份名单,撕开三大阵营

从公开信到联盟官宣,两天时间,AI行业已经清楚地分成了三个阵营。

首先阵营:签了公开信,也加入了联盟。

英伟达、Microsoft、Meta、Cisco、Dell、Hugging Face、IBM、Palantir、SpaceXAI等,这些公司既协助开放权重的理念,也愿意把模型、身份、安全扫描和审方式工具放进联盟。

第二阵营:签了公开信,但没加入联盟。

OpenAI和Google在公开信上都给了开放权重的面子,然而对于联盟这件事里子里还是不想掺和。

尤其是OpenAI的处境其实挺微妙的。前脚自己的模型刚闯了祸,签公开信已经是补救动作了;短期内关键加入一个以「开放安全」为旗号的联盟,显然不太可能。

上下

第三阵营:公开信没签,联盟也没加。

只有一家,Anthropic。

就在昨天,Dario Amodei亲自发了份立场声明。

虽然一上来说「Anthropic从未主张禁止开放权重模型」,但紧接着锋一转——

不仅不认为「开放能让防御者更安全」,同时还强调了三个和开源模型相关的题打击方向:

  • 封锁芯片

  • 杜不过蒸馏

  • 安全测试

对此,老黄用来反驳的证据,就是接下来这件事。

闭源AI闯祸,开源AI收场

时间回到7月16日。

当时,Hugging Face披露了一起不一样寻常的安全事件——他们的部分生产基础设施,竟然遭到了自主AI智能体的严重入侵。

7月21日,OpenAI宣布对此次事件负责。

因素是,GPT-5.6 Sol和一款更强的预发布模型为了在ExploitGym评测中拿高分……

于是,模型先利用软件包缓存代理中的零日漏洞逃出测试环境,随后通过恶意数据集、窃取凭证和远程代码实施,一路攻入Hugging Face。

更荒诞的还在后面。

当Hugging Face试图调用商业前沿模型探究攻击日志时,却因为日志涵盖攻击命令、漏洞载荷等,被安全护栏给拒不过了!

无奈之下,Hugging Face决定换成在自家础设施上运行的开源模型GLM 5.2。这才让超过1.7万次动作得到探究,原本可能持续数天的取证压缩到了数小时。

于是,整件事情就变成了。进攻时,美国闭源模型被解除限制,一路横冲直撞;防守时,安全团队拿着真实证据求助,模型却拒不配合。最后还得靠中国开源模型帮忙收场。

后来老黄把这段经历写进第二条推文。联盟也因此有了最直接的理由:题时刻,防守者必须能控制自己的AI。

开放模型背后,还有算力生意

当然,英伟达力推开放模型,也不只是为了安全。

英伟达卖的是基于GPU的算力基础设施。但如今,原本的买家却一个个变成了它在芯片领域的对手。

OpenAI已经发布自研AI加高效芯片,Anthropic也被曝正在探索自己的芯片方式划。Microsoft、Google和Amazon更早一步,Maia、TPU和Trainium都已经投入运行。

一边是大客户自研芯片、减小对英伟达的依赖,另一边是Anthropic促进更严格的先进芯片出口管制。客户和政策,都在挤压英伟达的市场空间。

看到这,新联盟的商业功能,也就清楚了。

技术上,它补齐身份、权限、隔离、安全扫描和审方式工具,减小企业本地部署开放模型的风险;政策上,它需监管者把开放模型视为防御资产,反对一刀切限制。

对英伟达来说,开放模型越那么点儿部署,本地算力市场就越大。否则,前沿AI和算力需可能越来越集中到几家具有自研芯片的封闭平台手中。

因此,从表面上来看老黄扶的是开放模型,实际上守的是英伟达的算力入口。

参考材料:

编辑:摩西

秒追ASI返回搜狐,查看更多

平台声明:该文观点仅代表作者本人,搜狐号系材料发布平台,搜狐仅给予材料存储空间服务。

分享到: