We urgently call for international red lines to prevent unacceptable AI risks.

人工智能具有极大潜力来促进人类福祉，但其当前的发展轨迹也带来了前所未有的危险。人工智能可能在不久的将来远远超越人类能力，并加剧以下风险：人为制造的大流行病、虚假信息的广泛传播、大规模操纵个人（包括儿童）、国家和国际安全隐患、大规模失业，以及系统性的人权侵犯。
一些先进的人工智能系统已经表现出欺骗性和有害行为，但这些系统却正被赋予越来越多的自主权，可以在现实世界中采取行动并作出决策。如果任其发展，包括部分开发前沿的专家在内的许多人警告，在未来几年中要维持对人工智能的有效人类控制将变得越来越困难。
各国政府必须果断采取行动，否则有意义的干预窗口将会关闭。为防止普遍不可接受的风险，必须达成一项关于人工智能“红线”的国际协议，并确保这些红线清晰、可验证。这些红线应当建立在现有的全球框架和企业自愿承诺基础上加以强化和落实，确保所有先进的人工智能提供方都遵守共同的门槛标准并承担责任。
各国政府必须果断采取行动，否则有意义的干预窗口将会关闭。为防止普遍不可接受的风险，必须达成一项关于人工智能“红线”的国际协议，并确保这些红线清晰、可验证。这些红线应当建立在现有的全球框架和企业自愿承诺基础上加以强化和落实，确保所有先进的人工智能提供方都遵守共同的门槛标准并承担责任。