特朗普与科技领袖签署AI道德协议,重新定义“人工智能
美国总统特朗普于29日在白宫会见了黄仁勋、马斯克、扎克伯格等科技巨头,就人工智能的发展进行了深入讨论,随后共同签署了一份带有“道德约束力”的文件,同时正式将“人工智能”的称谓改为“超级智能”。特朗普表示,此次签署的文件如同一部“宪法”,由全球重要科技领袖的签字可以为AI的发展建立保护机制。
特朗普提到,政府拟组成一个由约10人组成的监督委员会,来监管AI领域的进展。他此前表示美国无需特定的AI监管措施,并在联合国大会上反对全球规范。晚些时候,他在社交媒体分享了这一文件,并提出了企业需建立四层管控机制的要求:
一是企业需与外部审核机构协作,对AI控制和监测系统评估其正常运行情况。 二是企业应在董事会中设立独立委员会,监督内部及外部审计机构及负责AI控制的团队,并接收其报告。 三是企业需建立内部控制机制,在AI模型训练和部署期间监测其能力及安全性,关注网络、生物、化学等威胁,确保模型不以非预期方式进入技术系统。 四是要求企业设立内部团队,以确保所有控制、监测和检测机制的正常运作。 龙8头号玩家国际
参与签署的科技公司包括谷歌、Anthropic、Meta、OpenAI、xAI和英伟达等。协议中提到,随着时间的推移,将这些措施纳入法律或法规将是有意义的,虽然是否强制企业实施这些措施尚待商榷,但落实这些管控和审计被认为是确保安全未来的重要步骤。协议还指出,参与企业将定期召开会议,以制定提升系统安全性的标准和最佳实践。
扎克伯格在会后解释了此次会议达成的AI框架,强调其中的核心在于建立内部管控机制、进行内部风险评估、引入外部审计以及董事会独立审查审计报告。他表示,这只是一个开始,旨在建立行业共识,增强公众对这些技术正常运作的信心。