Hacemos un llamado urgente para que se establezcan líneas rojas internacionales que eviten riesgos inaceptables de la IA.

La IA tiene un inmenso potencial para mejorar el bienestar humano, pero su trayectoria actual presenta peligros sin precedentes. La IA podría pronto superar con creces las capacidades humanas y agravar riesgos como las pandemias provocadas, la desinformación generalizada, la manipulación a gran escala de personas, incluidos los niños, los problemas de seguridad nacional e internacional, el desempleo masivo y las violaciones sistemáticas de los derechos humanos.

Algunos sistemas avanzados de IA ya han mostrado un comportamiento engañoso y dañino, y sin embargo, a estos sistemas se les está dando más autonomía para actuar y tomar decisiones en el mundo. Si no se controla, muchos expertos, incluidos los que están a la vanguardia del desarrollo, advierten que será cada vez más difícil ejercer un control humano significativo en los próximos años.

Los gobiernos deben actuar con decisión antes de que se cierre la oportunidad para una intervención significativa. Es necesario un acuerdo internacional sobre líneas rojas claras y verificables para evitar riesgos universalmente inaceptables. Estas líneas rojas deben basarse en los marcos globales existentes y en los compromisos voluntarios de las empresas, y hacerlos cumplir, garantizando que todos los proveedores de IA avanzada rindan cuentas ante unos umbrales comunes.