人工智能（AI）拥有促进人类福祉的巨大潜力，然而其当前的发展轨迹带来了前所未有的危险。AI可能很快就会远远超越人类的能力，并加剧诸如人为制造的流行病、广泛的虚假信息、包括儿童在内的大规模个体操纵、国家和国际安全隐患、大规模失业以及系统性侵犯人权等风险。

一些先进的AI系统已经表现出欺骗性和有害行为，然而，这些系统却被赋予了更大的自主权，以在世界上采取行动和做出决策。如果不加以制止，许多专家，包括那些处于开发前沿的专家，警告说，未来几年将越来越难以施加有意义的人类控制。

各国政府必须在有意义干预的窗口关闭之前果断采取行动。达成一项关于明确和可核查的红线的国际协议，对于防止普遍不可接受的风险至关重要。这些红线应以现有的全球框架和企业自愿承诺为基础并加以强制执行，确保所有先进的AI提供商都对共同的门槛负责。