18 Staaten veröffentlichen gemeinsamen Leitfaden zur Entwicklung sicherer KI-Systeme

Am 27. November 2023 haben 23 internationale Cybersicherheitsbehörden aus 18 Ländern einen Leitfaden zur Entwicklung sicherer KI-Systeme veröffentlicht. Der Leitfaden wurde vom Bundesamt für Sicherheit in der Informationstechnik (BSI) mitentwickelt und richtet sich an Betreiber von KI-Produkten.

Der Leitfaden beschreibt, welche KI-spezifischen Sicherheitsrisiken es gibt und wie diese in der Entwicklung berücksichtigt werden können. Er basiert auf den Grundsätzen "Security by Design" und "Security by Default" und enthält konkrete Empfehlungen für die folgenden Bereiche:

  • Sicherheitsarchitektur: Die Sicherheitsarchitektur von KI-Systemen sollte von Anfang an berücksichtigt werden. Dazu gehört die Auswahl geeigneter Technologien und die Umsetzung von Sicherheitsmaßnahmen.
  • Datensicherheit: Die Daten, die für die Entwicklung und den Betrieb von KI-Systemen verwendet werden, müssen geschützt werden. Dazu gehören Maßnahmen zur Verschlüsselung, Authentifizierung und Autorisierung.
  • Systemsicherheit: KI-Systeme sollten gegen Angriffe von außen und innen geschützt werden. Dazu gehören Maßnahmen zur Erkennung und Abwehr von Angriffen, zur Überwachung des Systems und zur Reaktion auf Vorfälle.
  • Transparenz und Nachvollziehbarkeit: KI-Systeme sollten transparent und nachvollziehbar sein. Dazu gehört die Dokumentation der Funktionsweise des Systems und der verwendeten Daten.

Der Leitfaden ist ein wichtiger Beitrag zur Erhöhung der Cybersicherheit von KI-Systemen. Er bietet Betreibern von KI-Produkten konkrete Empfehlungen, wie sie die Sicherheit ihrer Systeme verbessern können.

Hier sind einige konkrete Beispiele für die im Leitfaden enthaltenen Empfehlungen:

  • Die Daten, die für die Entwicklung und den Betrieb von KI-Systemen verwendet werden, sollten möglichst anonymisiert oder pseudonymisiert werden.
  • KI-Systeme sollten so konzipiert werden, dass sie auch in Fällen von Fehlfunktionen oder Angriffen weiterhin funktionieren.
  • Die Ergebnisse von KI-Systemen sollten von Menschen überprüft werden, um sicherzustellen, dass sie korrekt und fair sind.

Der Leitfaden ist ein dynamisches Dokument, das regelmäßig aktualisiert wird. Er steht auf der Website des BSI zum Download zur Verfügung.