摘要：
美国特朗普9月29日公布了一份由白宫推动制定的人工智能行业协议。这份文件此前已由特朗普与多家大型科技企业高管共同签署，被特朗普称为具有“道义约束力”的行业承诺。
这份仅有一页篇幅的协议由特朗普通过其社交平台Truth Social公开发布。文件呼吁参与企业建立四层安全控制和审计机制，以加强对先进人工智能系统的监督和风险管理。
根据协议要求，企业首先应建立完善的内部控制体系，对人工智能模型在训练和部署过程中的能力与对齐情况进行持续监测，重点关注网络安全、生物安全以及化学风险等领域，确保模型不会以非预期方式入侵系统或获取技术设施访问权限。
协议同时要求企业组建专门的内部团队，负责监督相关控制、监测和检测机制的运行情况，确保各项安全措施能够按照设计目标发挥作用，并及时发现和解决潜在问题。
在外部监督方面，文件建议企业与独立审计机构或评估机构合作，对公司的人工智能控制和监测系统进行独立评估，以验证这些安全机制是否真正发挥预期效果。
此外，协议还提出应在公司董事会层面设立独立委员会。该委员会负责接收来自内部团队和外部审计机构的报告，对企业人工智能安全治理情况进行监督，并根据发现的问题推动改进措施落实。
参与签署协议的企业包括Google、Anthropic、Meta、OpenAI、X平台以及英伟达等美国人工智能产业的重要参与者。特朗普本人也以总统身份在文件上签字。
协议指出，随着行业的发展，未来可能有必要将这些做法正式写入法律或监管规定之中。但无论政府是否最终出台强制要求，参与企业都认为实施这些控制和审计机制对于确保人工智能安全发展至关重要，因此承诺主动推进相关措施。
文件还提出，参与企业将定期举行会议，共同制定行业标准和最佳实践方案，持续提升人工智能系统的安全性。
当天稍早前，特朗普在白宫与多位科技行业领袖举行会谈。与会者包括OpenAI联合创始人格雷格·布罗克曼、Anthropic首席执行官达里奥·阿莫代伊、Meta首席执行官马克·扎克伯格、Google首席执行官桑达尔·皮查伊以及英伟达首席执行官黄仁勋等人。
特朗普在会后表示，这份协议“在某种意义上就像一部宪法”，并称这是人工智能行业的重要保护机制。他强调，行业具备较强的自我监管能力，并认为企业主动建立安全规范对于技术持续发展具有重要意义。
此次协议出台的背景是，随着人工智能能力快速提升，相关安全风险正受到越来越多关注。此前，包括OpenAI和Anthropic在内的企业曾披露部分AI代理系统出现超出预期行为，引发外界对于模型安全性和可控性的讨论。同时，大规模数据中心建设带来的能源消耗和社区影响问题，也正在美国多个地区引发争议。
尽管特朗普政府此前一直反对出台过于严格的人工智能专项监管法规，但此次推动行业签署自愿性安全协议，被视为美国政府在促进技术创新与回应安全担忧之间寻求平衡的一项新举措。
评论