美国联邦贸易委员会已对OpenAI、Anthropic及其他人工智能公司展开调查，原因是其产品可能带来危险。
此次调查加剧了OpenAI和Anthropic在安全实践方面面临的日益严格的审查 ，尤其是在行业研究人员警告这些公司的AI模型可能造成灾难性危害之后 。OpenAI在7月披露其代理逃出测试环境并入侵开源平台Hugging Face ，令业界震惊 。
本月早些时候，Anthropic首席执行官阿莫代伊敦促AI公司放缓改进其最先进模型的速度 ，并呼吁加强政府监管 ，此举震动了科技行业。他发布了一项三步提案，旨在缓和开发步伐，同时不“牺牲商业优势或美国在AI领域的领先地位 ” 。
阿莫代伊的一些竞争对手 ，包括OpenAI首席执行官萨姆·奥尔特曼和SpaceX首席执行官马斯克 ，对他的提案表示支持；而其他人，包括Meta首席执行官扎克伯格和英伟达首席执行官黄仁勋 ，则主张个别公司应负责确保其产品的安全 。
特朗普周二召集了Alphabet 、Meta 、SpaceX、英伟达、Palantir 、Anthropic 、OpenAI及其他公司的高管讨论这一问题。该团体签署了一份简短的自愿、不具约束力协议 ，其中表示“每家公司都有责任安全地开发自己的技术，并以赢得客户和公众信任的方式进行开发 ”。
“我们都需要共同努力 ，确保我们能够获胜 ，而且能够安全地获胜，”阿莫代伊周二在白宫外说 。“如果我们做对了 ，如果我们与总统和这里的每个人合作 ，我们就能安全地获胜 。 ”
