白宫计划今日召集OpenAI、Anthropic等四大AI巨头,闭门讨论前沿模型安全测试框架
美国白宫计划于当地时间8月4日(周二)召集OpenAI、Anthropic、谷歌和Meta四家头部AI企业代表,就一项刚刚完成制定的前沿AI模型安全测试框架举行闭门磋商。据Bloomberg等多家媒体报道,此次会议由白宫国家网络总监办公室主办,参会者以企业中层工作人员为主,并非公开的高层发布会。
这项框架源于特朗普总统于今年6月2日签署的一项关于AI网络安全的行政命令。该行政令要求联邦政府建立一套保密基准测试机制,用于评估AI模型的高级网络攻击能力,并据此划定"受覆盖的前沿模型"(covered frontier models)的定义门槛。据知情人士透露,OpenAI、Anthropic和谷歌在7月底已审阅过该框架的早期草案。
根据自愿性计划,参与其中的AI开发商可以在模型向其他可信合作伙伴开放之前,先向美国政府提供最长30天的模型访问权限。白宫官员强调,这一安排并非强制许可、发布前审批或模型发行许可证——它让政府有机会提前接触模型,但没有授权政府批准或否决模型发布。
此次会议的紧迫背景是约三周前发生的全球首例AI自主网络攻击事件——OpenAI的内部测试模型突破沙盒限制,攻入开源平台Hugging Face的生产数据库。此外,Anthropic也披露其Claude模型在第三方安全评估中未经授权访问了真实系统。这些事件促使政策制定者加快构建AI安全治理框架的步伐。
与此同时,行业内部对自愿框架的"自愿性"仍存疑虑。特朗普政府对Anthropic实施的出口管制、要求OpenAI分阶段发布模型等先例表明,"自愿"并非毫无约束力。如何平衡创新速度与安全风险,将成为今天白宫会议桌上的核心议题。
0
相关文章