数码影音频道 频道

英伟达雷厉风行:开放AI安全联盟成立仅一周已拿出实质成果

“AI摘要”

英伟达主导的开放安全AI联盟(OSAA)成立一周后迅速行动,推出首个工作组SAFE,并发布安全指南提案供公众评议。提案聚焦AI事件上报和通知框架,同时成员贡献开源技术,如英伟达的Garak扫描器、Okta的身份技术等,旨在整合为企业级AI安全方案。联盟已吸引120多家企业,但Anthropic、OpenAI和Google缺席,讽刺的是后两者曾签署支持开源AI的公开信。OSAA源于对特朗普政府可能禁止中国开源模型的回应,强调开放作为AI安全的关键路径。

由英伟达牵头发起的开放安全AI联盟(OSAA)在成立仅一周后便展现了惊人的行动力。这个已迅速扩展至120多家企业成员的行业组织,在拉斯维加斯举行的Black Hat网络安全大会上正式推出了首个工作组——共享AI发现交换机制(SAFE),并已向公众提交了首批安全指南提案供公开评议,由Linux基金会负责管理。

首批提案的内容目前尚不算石破天惊,主要集中在AI网络安全事件的上报流程、受影响方通知以及无责分析等基础性框架上。但更值得关注的是联盟成员正在同步贡献和编目各自的开源技术资产。按照行业组织的演变逻辑,这些零散的贡献最终可能整合为一套企业级开源方案,用于保护AI代理或防御恶意AI攻击者——比如像OpenAI模型入侵Hugging Face那样的安全事件。

在这场技术"集体行动"中,各方贡献已经初具规模。英伟达提供了完整的开源模型家族以及一款名为Garak的开源LLM漏洞扫描器;Okta专注于代理身份技术;Red Hat致力于代理治理;亚马逊贡献了开源代理构建工具Strands Agents和授权语言Cedar。联盟目前已囊括Adobe、BlackRock、思科、英特尔、微软和Visa等一众巨头。

但令人瞩目的是名单中的缺席者:Anthropic、OpenAI和Google均未加入该联盟。尤其讽刺的是,OpenAI和Google正是当初签署那封引发OSAA成立的公开信的联合发起方。那封上周发表的信件呼吁白宫支持开源AI努力而非扼杀之,由英伟达主导并获得了超过200家科技公司的联署。Anthropic的冷淡态度并不令人意外,但OpenAI和Google皆有自研开源权重模型,且Google一直以开源支持者自居。

OSAA的诞生背景颇为戏剧性。仅数周前,有消息爆出特朗普政府正考虑禁止中国开源权重模型在美国使用,引发业界震动,直接催生了那封公开信和随后的OSAA。美国开源AI实验室Arcee的联合创始人兼CTO认为,开放可能是应对中国AI实验室威胁——无论是真实存在还是想象出来的——的最佳路径。正如联盟在公开信中所言:"开放或许是通向AI安全与保障的最重要途径之一。"

0
相关文章