A IA tem um potencial imenso para promover o bem-estar humano, mas sua trajetória atual apresenta perigos sem precedentes. A IA poderá em breve superar as capacidades humanas e representar riscos graves e amplos. Entre eles há o risco de pandemias artificiais, desinformação generalizada, manipulação em massa de indivíduos (incluindo crianças), além de ameaçar a segurança nacional e internacional, provocar desemprego em massa e facilitar violações sistemáticas de direitos humanos.

Alguns sistemas avançados de IA já exibiram comportamentos enganosos e prejudiciais, e ainda assim mais autonomia vem sendo dada a esses sistemas para agirem e tomarem decisões no mundo. Se não forem controlados, muitos especialistas, incluindo aqueles na vanguarda do desenvolvimento dessa tecnologia, alertam que nos próximos anos será cada vez mais difícil manter um controle humano significativo.

Os governos devem agir de forma decisiva antes que a janela para uma intervenção efetiva se feche. É necessário um acordo internacional sobre limites claros e verificáveis para prevenir riscos de IA universalmente inaceitáveis. Esses limites devem se basear nas estruturas globais existentes e reforçá-las, bem como consolidar os compromissos voluntários das empresas, garantindo que todos os fornecedores de IA avançados sejam submetidos a limites comuns.