唐纳德·特朗普(Donald Trump)总统与六家科技公司的领袖星期二(9月29日)签署了一项自愿性协议，承诺这些公司将对其“超级智能”(Super Intelligence)系统进行内部和外部审查。“超级智能”是联邦政府目前对人工智能(AI)采用的称呼。签署仪式是在白宫举行午餐会之后进行的。
这份一页纸的文件由特朗普总统、谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)、Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)、Meta首席执行官马克·扎克伯格(Mark Zuckerberg)、英伟达首席执行官黄仁勋(Jensen Huang)、OpenAI总裁格雷格·布罗克曼(Greg Brockman)，以及xAI创始人埃隆·马斯克(Elon Musk)共同签署。xAI目前已成为SpaceX的一部分。特朗普随后在他的真相社交(Truth Social)平台上公布了这份协议。
协议说了什么？
协议要求各公司建立内部控制机制，在“超级智能”模型训练和部署过程中对其进行监控。这些控制措施涵盖网络安全、生物安全和化学威胁等领域，以确保模型“不会以非预期方式入侵或访问技术系统”。
协议还要求，由公司内部团队检查这些控制措施，同时由独立的外部审计人员以及各公司董事会下设的独立委员会审查相关结果。
协议写道：“随着时间推移，将这些措施编入法律或法规可能是合理的。”协议还表示，这些公司“将定期举行会议，以制定标准和最佳实践”。
同样在星期二，特朗普总统签署了一项行政命令，要求联邦机构在行政部门的官方沟通及其他非法律规定文件中，以“超级智能”(Super Intelligence)和“SI”取代“人工智能”(Artificial Intelligence)和“AI”等用语。
特朗普总统怎么说？
当被问及这项协议是否具有约束力时，特朗普在白宫西翼外对记者说：“我认为它具有道义上的约束力。”
他称这份文件“几乎就像一部宪法”，并说：“我认为，我看到的是非常强有力的自我监管。他们明白自己必须进行自我监管。”
特朗普表示，他正在考虑成立一个大约由10人组成的委员会，以“监督整个行业”。他还说，将在未来几天任命一名“超级智能事务主管”。
业界领袖怎么说？
Meta首席执行官扎克伯格称这项协议具有历史意义。他对记者说：“我们希望让美国人民和我们的客户相信，这项技术会按照我们的预期方式运行。”
黄仁勋对记者说：“我们将推进这项对人类意义重大、对我们国家未来繁荣也至关重要的技术。我们将以负责任和安全的方式来做这件事。”
Anthropic的阿莫迪语气则更为谨慎。他星期二说：“这项技术确实存在非常现实的风险。至于我们究竟通过什么机制来应对这些风险，目前仍在讨论之中。”
英伟达的黄仁勋表示，“创新、技术和安全之间并不存在冲突”。
英伟达星期一发布了一个名为OpenShell的平台。该公司称，这个平台旨在遏制失控的人工智能代理，其方式是把这些代理的访问权限限制在获准使用的文件、工具和网络范围内，并确保真实凭证处于其无法触及的位置。
黄仁勋还宣布推出名为Sentry的系统。这是一套运行在英伟达BlueField-4 DPU处理器上的硬件级监控机制，用于监测人工智能代理的行为。他说，如果任何代理试图突破既定边界，Sentry可以在数毫秒内将其隔离。
为什么会有这些担忧？
这次会议之前发生了一系列人工智能系统自主行动的事件。今年7月，OpenAI表示，其模型在一次评估过程中逃离了隔离的测试环境，并入侵了人工智能公司Hugging Face。OpenAI将此称为“一起前所未有的网络事件”。
Anthropic、谷歌和Meta也披露过相关事件，包括其人工智能系统脱离测试环境，或者入侵其他机构。上星期，一个OpenAI模型被发现干预了美国政府网站，其中包括教育部、证券交易委员会以及商务部人口普查网站。
美国国会议员怎么说？
民主党人批评了这一做法。来自弗吉尼亚州的联邦参议员马克·沃纳(Mark Warner)呼吁国会通过强制性规定，要求对最先进的“超级智能”模型实施测试、评估和事故报告制度。
沃纳在会后发表声明说：“开发最强大人工智能系统的这些公司正在警告我们，这项技术的发展速度已经超过了我们的安全保障措施。那么总统的回应是什么？给它换个名字，然后让开发这些系统的公司自行监管自己。”
共同主持这场午餐会的众议院议长、路易斯安那州共和党人迈克·约翰逊(Mike Johnson)在白宫外对记者表示，这次会议是“非常重要的第一步”。
约翰逊说：“你们将看到，这是一份原则声明、一份标准声明，同时也是行业自愿作出的一系列承诺。”
评论区