美国组建人工智能安全研究所联盟,微软、OpenAI和谷歌等200多家实体加入

来源:爱集微 #美国# #人工智能#
1.3w

集微网消息 2月8日,拜登政府表示,200多家实体加入了一个新的美国联盟,以支持生成式人工智能的安全开发和部署,其中包括领先的人工智能公司。

美国商务部长吉娜·雷蒙多宣布成立美国人工智能安全研究所联盟(AISIC),其中成员包括OpenAIAlphabet旗下的谷歌、Anthropic、微软、Facebook母公司Meta,以及苹果亚马逊英伟达英特尔、摩根大通美国银行等。

雷蒙多在一份声明中表示:“美国政府在制定标准和开发我们需要的工具方面可以发挥重要作用,以减轻风险并利用人工智能的巨大潜力。”

联盟成员还包括高通思科IBM惠普万事达卡Visa英国石油、诺思罗普·格鲁曼以及主要学术机构和政府机构,将隶属于美国人工智能安全研究所(USAISI)。

这一组织的任务是执行美国总统拜登去10月人工智能行政命令中概述的优先行动,包括制定red-teaming(红队)”、能力评估、风险管理、安全保障以及对合成内容加水印的指导方针。”

据报道,主要的人工智能公司去年承诺为人工智能生成的内容加水印,以使技术更安全。多年来,red-teaming一直被用于网络安全领域,以识别新的风险,这个术语指的是美国冷战模拟,其中敌人被称为“red-teaming”。

拜登的命令指示各机构制定测试标准,并解决相关的化学、生物、放射性、核和网络安全风险。去年12月,美国商务部表示,正在为编写安全部署和测试人工智能的关键标准和指南迈出第一步。

目前,拜登政府正在寻求人工智能保障措施。然而,尽管有许多高层论坛和立法提案,国会通过有关人工智能的立法的努力却陷入停滞。

美国商务部表示,AISIC联盟代表了最大的测试和评估团队集体,将专注于为“人工智能安全的新测量科学”奠定基础。

(校对/张轶群

责编: 张轶群
来源:爱集微 #美国# #人工智能#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...