AIは人類の福祉を向上させる計り知れない可能性を秘めていますが、その現在の軌道は前例のない危険をもたらしています。AIはまもなく人間の能力をはるかに超え、工学的パンデミック、広範な偽情報、子供を含む個人の大規模な操作、国内および国際的な安全保障上の懸念、大量失業、そして組織的な人権侵害などのリスクを拡大させる可能性があります。
一部の高度なAIシステムはすでに欺瞞的で有害な行動を示しており、それにもかかわらず、これらのシステムには世界で行動を起こし、意思決定を行うためのより多くの自律性が与えられています。開発の最前線にいる専門家を含む多くの専門家は、放置すれば、今後数年間で意味のある人間のコントロールを行使することがますます困難になると警告しています。
政府は、意味のある介入の窓が閉じる前に、断固として行動しなければなりません。普遍的に受け入れられないリスクを防止するためには、明確で検証可能なレッドラインに関する国際協定が必要です。これらのレッドラインは、既存のグローバルフレームワークと企業の自主的なコミットメントに基づいて構築され、それらを強化し、すべての高度なAIプロバイダーが共有されたしきい値に対して責任を負うことを保証すべきです。
私たちは各国政府に対し、2026年末までに、運用可能で強固な執行メカニズムを備えたAIのレッドラインに関する国際協定に達することを強く求めます。