美国政府设立AI安全委员会 成员包括黄仁勋、奥尔特曼等科技巨头高管

财联社4月26日讯，据最新报道，OpenAI、英伟达、微软和Alphabet等科技行业公司的首席执行官将加入美国新设的人工智能(AI)安全委员会，该委员会的工作重点是如何在美国关键的基础设施中安全地使用AI。美国官员介绍称，AI安全委员会是美国政府努力保护经济、公共卫生和重要行业免受AI威胁伤害的举措之一。

该委员会将与美国国土安全部合作，为电网运营商、运输服务提供商和制造工厂等制定建议，说明如何在充分发挥AI作用的同时，保护自身系统免受技术进步可能带来的潜在破坏。除了OpenAI的奥尔特曼、英伟达的黄仁勋、微软的纳德拉、Alphabet的皮查伊以及AI行业的其他领导者之外，这个近20人的委员会的成员还包括学者、民权领袖以及一个关键基础设施领域工作的公司高层管理人员。

其他成员为政府官员，如马里兰州州长Wes Moore和西雅图市长Bruce Harrell。美国国家安全官员长期以来一直对美国关键基础设施的脆弱性发出警告，包括潜在的物理攻击、网络入侵等事故。虽然AI可以提高燃料管道、通信网络、航空和医院的效率和安全性，但它也可能产生意想不到的问题。

美国国土安全部部长亚历杭德罗·马约卡斯在接受采访时表示，将AI技术嵌入美国的供水设施、交通系统和银行，为改善服务、造福美国人的日常生活提供了“巨大的机会”，但也带来了巨大的风险。在去年4月份，美国国土安全部就宣布将成立一个AI特别工作组，一方面将研究如何利用AI来处理如保护关键基础设施、检查货物等事务；另一方面，也将调查AI可能造成的威胁。

马约卡斯警告称，在关键基础设施方面，如果不能以安全、可靠和负责任的方式部署AI，可能会造成毁灭性的后果。而美国总统拜登在去年秋季发布了关于成立AI安全委员会的行政命令，要求对强大的AI系统进行监督，还命令AI公司在开发任何“对国家安全、国家经济安全或国家公共卫生与安全构成严重风险”的系统时，必须通知政府。

长期以来，美国政府在很大程度上避免了对科技行业的监管，但近年来，由于对消费者数据隐私、反垄断问题和虚假信息等担忧，两党对硅谷的看法出现了变化。马约卡斯指出，AI安全委员会中存在大量科技巨头高管是有必要的，他们理解委员会的使命。美国国土安全部的一位官员说，该委员会计划于5月召开第一次会议，然后预计每季度召开一次会议。

新闻来源：财联社           作者：牛占林

编辑：Audrey

（声明：请读者严格遵守所在地法律法规，本文不代表任何投资建议）