ИИ обладает огромным потенциалом для улучшения благосостояния человечества, однако его нынешняя траектория представляет беспрецедентные опасности. ИИ может вскоре значительно превзойти человеческие способности и усилить такие риски, как искусственно вызванные пандемии, массовая дезинформация, масштабные манипуляции людьми, включая детей, угрозы национальной и международной безопасности, массовая безработица и систематические нарушения прав человека.

Некоторые продвинутые системы ИИ уже продемонстрировали обманное и вредоносное поведение, и тем не менее этим системам предоставляется всё больше автономии для совершения действий и принятия решений в реальном мире. Многие эксперты, в том числе те, кто находится на переднем крае разработки, предупреждают, что если не принять меры, в ближайшие годы осуществлять эффективный человеческий контроль будет всё труднее.

Правительства должны действовать решительно, пока ещё возможно эффективное вмешательство. Необходимо международное соглашение о чётких и проверяемых красных линиях для предотвращения универсально неприемлемых рисков. Эти красные линии должны опираться на существующие глобальные рамки и добровольные корпоративные обязательства и обеспечивать их соблюдение, гарантируя, что все разработчики передовых систем ИИ несут ответственность перед общепринятыми пороговыми значениями.

Мы призываем правительства достичь международного соглашения о красных линиях для ИИ — сделав их операционными с надёжными механизмами правоприменения — к концу 2026 года.