In den von Daniel Schnurr erstellten “Rules for High-Risk AI Systems under the AI Act” wurden 2 seiner Policy Paper mit den Titeln ”Information Sharin and Cooperation along the AI Value Chain" & “Evolving AI Systems under the AI Act: Substantial Modification and AI Value Chain” veröffentlicht (externer Link, öffnet neues Fenster).
Wie man Verantwortung entlang der KI-Wertschöpfungskette verteilt
Der KI-Gesetz der Europäischen Union (EU) ist jetzt in Kraft, aber seine Auswirkungen hängen davon ab, wie er umgesetzt wird. Moderne künstliche Intelligenz (KI)-Systeme sind selten statisch: Sie werden aktualisiert, umfunktioniert und beziehen Eingaben von verschiedenen Unternehmen ein, einschließlich allgemeiner Modelle, Cloud-Dienste und Daten.
Das wirft zwei zentrale Fragen für Politiker und Unternehmen auf: Wann führt eine Änderung eines KI-Systems zu neuen rechtlichen Pflichten, und wie sollte die Verantwortung zwischen den Akteuren verteilt werden, die KI-Systeme entwickeln, bereitstellen, anpassen und einsetzen?
Herausforderungen
Der AI Act legt unterschiedliche Regeln für verschiedene KI-Systeme basierend auf einer Risikokategorisierung fest. Allerdings kann sich das Risiko eines Systems im Laufe der Zeit ändern. Ein routinemäßiges Update, ein neuer Datensatz oder ein neuer Anwendungsfall könnten ein System in die Kategorie der Hochrisiko-Systeme verschieben, während ein Tool, das ursprünglich für einen Zweck entwickelt wurde, später für einen anderen Zweck angepasst werden könnte. Diese Änderungen könnten vom ursprünglichen Anbieter des KI-Systems oder von einer anderen Partei vorgenommen werden.
Diese Fragen sind besonders komplex bei KI-Systemen für allgemeine Zwecke und agentischen KI-Systemen, die keinen einzigen festen Zweck haben. Unklarheit darüber, wann eine wesentliche Änderung eintritt oder wann eine Zweckänderung neue Pflichten für den Anbieter schafft, kann zu Unsicherheit führen und Investitionen in wertvolle Bereiche hemmen. Dies ist besonders relevant für den Einsatz von KI in Bereichen wie Gesundheit und Bildung, wo KI erhebliche gesellschaftliche Vorteile bieten kann.
Richtlinienansätze
Um diese Probleme anzugehen, braucht es klarere Vorgaben dazu, wann Änderungen an KI-Systemen neue Pflichten auslösen. Das AI-Büro sollte praktische Kriterien bereitstellen, um zu beurteilen, wann eine solche ‚wesentliche Änderung‘ auftreten könnte, und Änderungen des Zwecks, einschließlich beispielhafter Hinweise darauf, was dazu gehört und was nicht.
Klarere Vorgaben würden den Unternehmen berechenbare Bezugspunkte geben und helfen sicherzustellen, dass rechtliche Pflichten auf bedeutende Risikoveränderungen reagieren, und nicht auf kleine technische Anpassungen.
Außerdem muss die Verantwortung entlang der KI-Wertschöpfungskette auf eine praktikable Weise verteilt werden – mit klaren Regeln, wie verschiedene Akteure in der Wertschöpfungskette zusammenarbeiten und sich gegenseitig über Änderungen informieren sollen. Mit zunehmender Komplexität der Wertschöpfungsketten kann ein Anbieter von Hochrisiko-KI-Systemen womöglich nicht jeden vorgelagerten Lieferanten identifizieren geschweige denn vertraglich binden.
Ein pragmatischer Ansatz würde Verpflichtungen an bestehende Vertragsbeziehungen knüpfen. Informationen sollten über direkte Vertragsverbindungen fließen, unterstützt durch verschiedene Formen der Offenlegung: öffentliche Offenlegung, vertraulicher Austausch und Offenlegung gegenüber Aufsichtsbehörden für besonders sensible Materialien. Freiwillige Mustervertragsbedingungen vom KI-Büro könnten helfen, dies zur gängigen Praxis zu machen.
Eine zeitgerechte Gelegenheit
Das KI-Büro entwickelt gerade die Richtlinien, die festlegen werden, wie diese Regeln in der Praxis funktionieren, während der vorgeschlagene Digitale Omnibus das Hochrisikoregime möglicherweise weiter verändern könnte.
Es wird entscheidend sein, dies richtig hinzubekommen. Klarere Regeln zu erheblichen Änderungen, Zweckänderungen und Informationsaustausch können rechtliche Unsicherheiten verringern, Innovationen fördern und sicherstellen, dass die Verantwortung bei den Akteuren liegt, die am besten in der Lage sind, Risiken zu managen.
Hier können Sie die Paper lesen:
Information Sharing and Cooperation along the AI Value Chain (externer Link, öffnet neues Fenster)
