Der Internationale KI-Sicherheitsbericht 2025 ist eine umfassende wissenschaftliche Bewertung fortgeschrittener KI-Fähigkeiten und -Risiken. Wichtige Punkte sind:

  1. Der Bericht wurde von 96 internationalen KI-Experten verfasst, unter dem Vorsitz von Yoshua Bengio, und von einem Expertenbeirat mit Vertretern aus 30 Ländern, der UN, EU und OECD unterstützt.
  2. Ziel ist es, ein gemeinsames internationales Verständnis der Risiken fortschrittlicher KI und Methoden zu deren Bewältigung zu schaffen.
  3. Der Bericht konzentriert sich auf universell einsetzbare KI und vermerkt bedeutende jüngste Fortschritte in Bereichen wie Programmierung und wissenschaftlichem Denken.
  4. Er hebt die Entwicklung von KI-'Agenten' hervor - Systeme, die autonom planen und handeln können, um Ziele mit minimaler menschlicher Aufsicht zu erreichen.
  5. Die Studie gibt keine Politikempfehlungen, sondern fasst wissenschaftliche Erkenntnisse zur KI-Sicherheit zusammen, um die Politikgestaltung zu informieren.
  6. Zentrale untersuchte Bereiche umfassen:
    • Aktuelle Fähigkeiten universell einsetzbarer KI
    • Damit verbundene Risiken
    • Mögliche Risikominderungstechniken
  7. Der Bericht betont die Notwendigkeit weiterer Forschung in Bereichen wie:
    • Vorhersage der Geschwindigkeit des KI-Fähigkeitsfortschritts
    • Verständnis der internen Funktionsweise universell einsetzbarer KI-Modelle
    • Gestaltung von KI-Systemen für zuverlässiges Verhalten
  8. Er wurde auf dem KI-Aktionsgipfel in Paris im Februar 2025 vorgestellt, nach einer Zwischenversion, die im Mai 2024 veröffentlicht wurde.
  9. Der Bericht zielt darauf ab, die Lücke zwischen rasanten KI-Fortschritten und dem Verständnis der politischen Entscheidungsträger zu schließen und eine wissenschaftliche Grundlage für Entscheidungen zu bieten.

Diese umfassende Studie dient als globales Handbuch zur KI-Sicherheit und setzt einen neuen Standard für wissenschaftliche Gründlichkeit bei der Bewertung der Risiken und Potenziale fortgeschrittener KI-Systeme.

 

Den vollständigen Report in englisch können Sie sich hier herunterladen: