Umgang mit künstlicher Intelligenz
EU-Parlament verabschiedet "AI Act“:
Die Verordnung zu Künstlicher Intelligenz (KI) wurde nun im März 2024 vom Europäischen Parlament angenommen. Die Verordnung stellt sicher, dass KI-Systeme die Grundrechte, Sicherheit und ethischen Grundsätze achten, geht aber gleichzeitig auch Risiken von KI-Modellen an, um vertrauenswürdige KI in Europa und darüber hinaus zu fördern. Die Verordnung wird in allen Europäischen Mitgliedstaaten auf der Grundlage einer zukunftssicheren Definition von KI unmittelbar angewandt. Die Vorschriften teilen KI-Systeme in Risiko-Kategorien ein, je nachdem, ob ein minimales, hohes oder unannehmbares Risiko für die Rechte oder Sicherheit von Bürgerinnen und Bürgern vorliegt, müssen Auflagen erfüllt werden.
- KI-Systeme mit minimalen Risiken wie KI-gestützte Empfehlungssysteme oder Spam-Filter müssen keinen Verpflichtungen, bzw. nur auf freiwilliger Basis nachkommen.
- KI-Systeme mit hohen Risiken müssen strenge Anforderungen erfüllen, wie beispielsweise Cybersicherheit, klare Benutzerinformationen, menschliche Aufsicht und eine starke Robustheit. Hierfür gibt es dann regulatorische Vorgaben. Als hochriskant gelten beispielsweise biometrische Identifizierungs-, Kategorisierungs- und Emotionserkennungssysteme. Risikoreiche KI-Systeme werden in manchen kritischen Infrastrukturen eingesetzt, z.B. der Versorgung mit Wasser, Gas und Strom, und medizinischen Geräten, sowie in den Bereichen der Strafverfolgung, Grenzkontrolle, Rechtspflege und demokratischen Prozessen.
- KI-Systeme, welche Grundrechte bedrohen, werden verboten, z. B. Anwendungen, die das menschliche Verhalten manipulieren, um den freien Willen des Nutzers zu umgehen und Systeme, die "Social Scoring" ermöglichen. Einige Anwendungen zur Emotionserkennung und Kategorisierung werden auch verboten.
Ein neues Amt für KI auf EU-Ebene soll, zusammen mit nationalen Aufsichtsbehörden, die Umsetzung und Durchsetzung der neuen Vorschriften überwachen. Nach einer abschließenden Prüfung durch Rechts- und Sprachwissenschaftler wird die Verordnung voraussichtlich noch vor Ende der Legislaturperiode im Rahmen des so genannten Korrigendumverfahrens endgültig verabschiedet. Auch der Rat muss dies noch förmlich billigen.
Richtlinien zur Verwendung von künstlicher Intelligenz in Forschungsprojekten:
Künstliche Intelligenz ist nicht nur ein Thema für innovative Forschungs- und Innovationsprojekte, sondern auch ein Instrument zur Unterstützung verschiedener Prozesse im Arbeitsleben. Die Europäische Kommission hat am 20. März 2024 Richtlinien zur Verwendung von KI in Forschung und Innovation veröffentlicht.
Weitere Informationen finden Sie hier und hier.
