KI kann falsche Ergebnisse liefern und bei selbstständigen Aktionen unmittelbar Schaden auslösen. Davon zu unterscheiden sind weitergehende Szenarien eines dauerhaften Kontrollverlusts. Der International AI Safety Report 2026 beschreibt große Unsicherheit und unterschiedliche Fachmeinungen zu deren Wahrscheinlichkeit. Er berichtet außerdem, dass bestehende Schutzmaßnahmen keine vollständige Zuverlässigkeit garantieren. Diese Unsicherheit gehört offen in die Debatte.
Was du konkret tun kannst
- Einsatzgrenzen und Abbruchkriterien vorab bestimmen.
- Systeme mit realistischen Fehlersituationen testen.
- Ungewöhnliches Verhalten erfassen und überprüfbare Abschaltwege vorsehen.