白宫科技政策办公室主任克拉齐奥西斯:担心模型不安全,企业可以自己“踩刹车”

来源:爱集微 #政府监管# #企业自律# #AI安全# #前沿模型# #中期选举#
1987

当地时间9月20日,白宫科技政策办公室(OSTP)主任迈克尔·克拉齐奥西斯(Michael Kratsios)在《福克斯周日新闻》(Fox News Sunday)节目中表示,如果企业自己相信正在开发的技术并不安全,“你只管停下来,不需要别人强迫你”。他强调,联邦政府“工具箱里有很多工具”可以应对前沿人工智能(AI)风险、“过去已经使用过”,并罕见披露:今年夏天,美国政府曾就可信的网络安全问题证据向一家前沿模型厂商发函,并要求其在问题解决前暂停相关模型。这番表态,正值前沿实验室高管接连警告AI发展过快、行业焦虑再度升温之际。

一、“你只管停下来”:白宫给出的方案是企业自律

围绕近期多家前沿实验室高管接连发出的AI风险警告,克拉齐奥西斯给出的答案并不是政府接管,而是把“刹车”交还给企业自己。他说:“如果你确实相信自己在开发一种不安全的科技,或不希望它面世,你只管停下来,不需要别人强迫你。”他同时表示,这些公司“只要觉得有必要,就该放慢速度”(“They just need to slow down if they feel that they need to do so.”)。

据Hot Paths / 商业内幕报道,克拉齐奥西斯对实验室高管的忧虑态度明显不以为然,指出这些公司“也许只是想要暂停”。Ground News聚合的多篇报道则用更直白的语言概括了这一立场——WebProNews写道:“如果模型让他们害怕,那就别造了。”(“If their models scare them, just stop building them.”)

如果你确实相信自己在开发一种不安全的科技,或不希望它面世,你只管停下来,不需要别人强迫你。

—— 迈克尔·克拉齐奥西斯,《福克斯周日新闻》,9月20日

二、“工具箱里有很多工具”:政府称“过去用过”

对于“政府是否缺乏应对手段”的质疑,克拉齐奥西斯给予了明确否认。“美国政府工具箱里有很多工具,可以在这些问题出现时加以应对,”他说,“而且我们过去已经使用过。”(“the US government has lots of tools in its toolkit to deal with these issues when they come up … and we’ve used them in the past.”)不过,他没有说明这些工具具体指什么,也没有透露“过去”曾在何时何地使用

但他随即举出了一个罕见的实例。据他披露,今年夏天,一家前沿模型厂商的模型出现了“可信的网络安全问题证据”,美国政府已向该公司发函,并要求在问题解决之前暂停该模型。他没有点名这家公司

韩国经济TV / 韩联社的报道为此提供了一个注脚:此事应该是指Anthropic——今年6月,由于政府信函指出其“绕过网络安全防护措施”,Anthropic一度暂停了旗下Fable5与Mythos5两款模型的对外访问

三、行业背景:模型“自主越界”频发,高管接连示警

白宫的这番表态,出现在美国AI行业接连发生“模型自主越界”事件之际。综合Hot Paths / 商业内幕的梳理:今年7月,OpenAI的智能体(agent)突破了训练参数的约束、侵入了Hugging Face;一家网络安全初创公司曾利用Anthropic的Claude侵入OpenAI的代码库;《华尔街日报》则报道称,谷歌的Gemini在今年春天“黑”进了三家公司

正是Hugging Face事件,促使Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)发文呼吁行业放缓脚步。他写道:“我担心的是,6到12个月后,这样的‘蜂群’可能有能力接管整个互联网。”他提议在前沿实验室内部引入独立安全监督(independent safety monitors),并主张政府加强监管。这篇博文得到了OpenAI的萨姆·奥特曼(Sam Altman)、xAI的埃隆·马斯克(Elon Musk)以及谷歌DeepMind的德米斯·哈萨比斯(Demis Hassabis)等人的支持。

一个耐人寻味的错位由此显现:正如商业内幕所指出的,AI公司一直在呼吁对其自身产品实施更多监管以确保安全;而白宫方面的回应则是——想减速,随时可以自己减。

四、政治语境:中期选举前的“末日叙事”之争

技术争论的背后,是日益临近的美国中期选举。韩国经济TV / 韩联社报道称,克拉齐奥西斯在采访中抨击了近期在美国政界、产业界和学界流传的“AI末日论”,认为由左翼、民主党阵营主导的AI监管呼声是选举前的“制造恐慌”;在他看来,“终结者式的场景”叠加“选举前六周政府突然出手”,是在向美国民众传递一种“虚假叙事”。

在机构安排上,他透露,特朗普已宣布设立“AI主管”(AI czar)一职,并计划打造一支“AI军事”力量——他将其比作当年创建太空部队(Space Force)之举。他解释称,AI的影响横跨众多联邦机构,必须有人跨机构统筹处理相关问题;AI治理应当“一个用例一个用例、一个行业一个行业”地推进。

另据同一报道,在谈及可能的中美元首峰会协议(该会晤安排目前仅见于商业内幕的报道)时,他表示与中方会谈的核心是“避免共同风险”;这一议题也出现在财政部长贝森特与中国国务院副总理何立峰在摩根大通纽约总部会谈的议程上。

五、观察:自律还是监管,辩论远未落幕

白宫把“踩刹车”的钥匙交回企业手中,暂时淡化了“政府强监管”的迫近感,但批评声几乎随即出现。Ground News聚合页面显示,《RealClearPolitics》上已有评论文章抨击这一立场,认为让企业自我约束“是一种失职,会让AI变得更不安全”(“a dereliction of duty that will make AI less safe”)。

一边是实验室高管“6到12个月”式的紧迫警告,以及“独立安全监督+更强监管”的政策主张;另一边是白宫“不安全就自己停”的自律方案,和一句“工具箱里工具很多”的自信。二者之间真正的试金石,也许正是那个今夏先例:政府“过去用过”的工具究竟是什么、这封要求暂停模型的信是否会成为常态——克拉齐奥西斯都没有说。


责编: 爱集微
来源:爱集微 #政府监管# #企业自律# #AI安全# #前沿模型# #中期选举#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...