KI birgt ein immenses Potenzial zur Förderung des menschlichen Wohlbefindens, doch ihr derzeitiger Kurs birgt beispiellose Gefahren. KI könnte bald die menschlichen Fähigkeiten bei weitem übertreffen und Risiken wie manipulierte Pandemien, weitverbreitete Desinformation, großflächige Manipulation von Einzelpersonen einschließlich Kindern, nationale und internationale Sicherheitsbedenken, Massenarbeitslosigkeit und systematische Menschenrechtsverletzungen eskalieren lassen.
Einige fortgeschrittene KI-Systeme haben bereits täuschendes und schädliches Verhalten gezeigt, und dennoch wird diesen Systemen mehr Autonomie gewährt, um Handlungen vorzunehmen und Entscheidungen in der Welt zu treffen. Viele Experten, einschließlich jener an der Spitze der Entwicklung, warnen, dass es ohne Kontrolle in den kommenden Jahren zunehmend schwieriger werden wird, eine bedeutsame menschliche Kontrolle auszuüben.
Regierungen müssen entschlossen handeln, bevor sich das Zeitfenster für sinnvolle Interventionen schließt. Ein internationales Abkommen über klare und überprüfbare rote Linien ist notwendig, um universell inakzeptable Risiken zu verhindern. Diese roten Linien sollten auf bestehenden globalen Rahmenwerken und freiwilligen Unternehmensverpflichtungen aufbauen und diese durchsetzen, um sicherzustellen, dass alle fortgeschrittenen KI-Anbieter für gemeinsame Schwellenwerte verantwortlich sind.
Wir fordern die Regierungen dringend auf, bis Ende 2026 eine internationale Vereinbarung über rote Linien für KI zu erreichen – und dabei sicherzustellen, dass diese operational sind und mit robusten Durchsetzungsmechanismen ausgestattet werden.