Das KI-Gesetz der EU: einschränkend oder stimulierend?

Wenn sogar Entwickler von KI-Systemen vor deren potenziellen Gefahren warnen, ist diese Technologie risikobehaftet. Daher tendieren immer mehr Staaten und Staaten-Verbände weg von freiwilligen Selbstregulierungen und hin zur Gesetzgebung. Ein Vorreiter in der Reglementierung von KI ist die Europäische Union, die zurzeit einen möglichen Gesetzestext abstimmt. Die erforderlichen Gremien der EU und der Mitgliedsstaaten entwickeln den Text nun weiter, bis ein Gesetz daraus wird. Alle Beteiligten möchten dabei eine Leitlinie entwickeln, um zukünftige Entwicklungen und Verwendungen von KI-basierten Anwendungen zu lenken. Wirtschaft und Verbraucherverbände begrüßen diese Entwicklung, formulieren jedoch konkrete Erwartungen.

Ein risikobasiertes System

Als erstes Parlament weltweit hat das europäische Parlament ein KI-Gesetz auf den Weg gebracht. Zentral ist dabei die Forderung, dass Menschen diese Systeme beaufsichtigen – und nicht von KI kontrolliert werden. Die Anforderungen an Sicherheit, Datenschutz und Transparenz sollen den europäischen Standards entsprechen: Niemand wird diskriminiert und Gesellschaft und Umwelt werden nicht geschädigt. Dazu wurde ein risikobasiertes System entwickelt, dass den Umgang mit der KI vorgibt. Im nächsten Schritt wird dieses Gesetz mit den Mitgliedsländern abgestimmt.

Die EU hat ein System entwickelt, das bestehende und zukünftige KI-Systeme in vier Risikogruppen einteilt. Diese geben vor, wie mit den Systemen umzugehen ist.

• Gruppe 1: KI-Systeme als inakzeptables Risiko

  Nach Plänen des EU-Parlaments sollen einige KI-Systeme verboten werden, die den EU-Zielen entgegenstehen sowie Menschen bedrohen. Dazu zählen Systeme, die beispielsweise folgendes ermöglichen:

  • Kognitive Manipulation von Personen (Bsp. Sprachgesteuertes Spielzeug, das gefährliches Verhalten von Kindern fördert)
  • Soziales Scoring (Bsp. Systeme, die biometrische Klassifizierung anhand von Geschlecht, ethnischer Zugehörigkeit oder Religion ermöglichen)
  • Biometrische Fernidentifizierungssysteme (Bsp. Gesichtserkennung. Ausnahmen sind die Aufklärung schwerer Straftaten, wenn eine gerichtliche Genehmigung vorliegt)

  Diese Systeme werden verboten.

• Gruppe 2: KI-Systeme als Hochrisikoanwendungen

  In diese Kategorie werden alle KI-Systeme eingeordnet, welche die Gesundheit, die Sicherheit und die Grundrechte von Menschen und Umwelt erheblich gefährden. Hier gibt es zwei Unterkategorien:

  • KI-Systeme, die in Produkten zum Einsatz kommen, die unter die Produktsicherheitsvorschriften der EU fallen. (Bsp. Spielzeug, Luftfahrt, medizinische Geräte)
  • KI-Systeme aus acht spezifischen Bereichen, diese müssen in einer EU-Datenbank registriert werden:
    • Biometrische Identifizierung und Kategorisierung von natürlichen Personen,
    • Verwaltung / Betrieb von kritischen Infrastrukturen,
    • Bildung – allgemein und beruflich,
    • Beschäftigung und Verwaltung von Arbeitnehmern und Zugang zur Selbstständigkeit,
    • Zugang zu und Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen,
    • Strafverfolgung,
    • Verwaltung von Migration, Asyl und Grenzkontrollen,
    • Unterstützung bei der Auslegung und Anwendung von Gesetzen.

  Als zusätzliches Beispiel nennt das europäische Parlament KI-Systeme, die Wahlen und Wahlergebnisse beeinflussen. Die Regulierung sieht hier eine strenge Zertifizierung vor. Pflichten zur Transparenz und Dokumentation soll es geben. Diese Systeme werden unter menschliche Aufsicht gestellt.

• Gruppe 3: KI-Systeme mit begrenztem Risiko

  Gesondert wird die Generative KI, wie ChatGPT, genannt. Diese müssen zusätzliche Anforderungen hinsichtlich der Transparenz erfüllen:

  • Offenlegung, dass der Inhalt durch KI generiert wurde,
  • Die KI muss so gestaltet werden, dass illegale Inhalte nicht erzeugt werden können,
  • Eine Zusammenfassung urheberrechtlich geschützter Trainings-Daten muss erfolgen.

  Aufgrund dieser Informationen sollen Menschen fundierte Entscheidungen treffen können. Unternehmen, die Chatbots zur Verfügung stellen, KI zur Emotionserkennung nutzen oder mit deren KI-Systemen Deepfakes möglich sind, haben Pflichten zur Transparenz und Dokumentation.

• Gruppe 4: KI-Systeme mit minimalem Risiko

  Suchalgorithmen, Spamfilter oder Systeme der Predictive Maintenance gibt es bereits. Für diese ist ein Verhaltenskodex empfohlen.

Verschiedene Positionen

Viele Personen, Unternehmen und Verbände sehen und bewerten den Vorschlag für einen Gesetzestext des Europäischen Parlaments aus unterschiedlichen Perspektiven. Darüber hinaus diskutieren sie mögliche Konsequenzen. Einige argumentieren, dass Freiwillige Verpflichtungen ausreichen, um künftige Innovationen nicht zu gefährden. Allerdings fordern einige Akteure nationale und internationale Gesetze zur Eindämmung der inhärenten Risiken.

• Die Position der deutschen Politik

  Das deutsche Bundesministerium für Digitales und Verkehr (BMDV) befürwortet ein KI-Gesetz der EU. Sie ist sich der zahlreichen positiven Möglichkeiten bewusst, die durch KI geschaffen werden. Ein Beispiel hierfür ist die medizinische Diagnostik. Gleichzeitig befürchtet das BMDV eine Beschränkung der Innovationskraft durch übermäßige Regulierung. Das wiederum hätte klare Wettbewerbsnachteile zur Folge.

  Grundlagenmodelle sind hierbei ein zentraler Punkt, denn diese Modelle können relativ einfach für negative Zwecke genutzt werden. In einem Positionspapier fordert die Bundesregierung, dass sich diese Grundlagenmodelle selbst anhand von gewissen Transparenzstandards regulieren sollen. Die darauf aufbauenden Anwendungen müssten hingegen reglementiert werden. Sie verspricht sich davon Rechtssicherheit für Unternehmen und das Fördern von Innovationen.

• Reaktionen aus der Wirtschaft

  In einem offenen Brief an Gremien-Vertreter der Europäischen Union beschreiben zahlreiche Führungskräfte renommierter Unternehmen ihre Bedenken bezüglich dieses Gesetzentwurfes. Dieser gefährde die Wettbewerbsfähigkeit und die technologische Souveränität Europas, ohne den gegenwärtigen und zukünftigen Herausforderungen etwas entgegenzusetzen. Die Unternehmenslenker befürchten unverhältnismäßig hohe Kosten und Haftungsrisiken. Alles das würde einhergehen mit hohen bürokratischen Einflüssen. Als Folge würden innovative Unternehmen aus Europa abwandern. Diese Gruppe fordert eine Regulierung basierend auf allgemeinen Grundsätzen, die einem risikobasierten Ansatz folgen. Eine neu aufzubauende Regulierungsinstanz sollte in einem agilen Verfahren in enger transatlantischer Zusammenarbeit entsprechend der akuten Herausforderung agieren können. Weiterhin erfordern die Unternehmenslenker einen Dialog mit der Wirtschaft hierzu.

• Reaktionen der Nutzer

  Auch der Verbraucherzentrale Bundesverband (vzbv) spricht sich für eine Regulierung aus. Dabei fordert der vzbv, die Rechte von Verbrauchern gegenüber Betreibern zu stärken und die Transparenz noch weiter zu erhöhen. Unabhängige Experten müssten die Risikobewertung vornehmen. Dabei sollten Betroffene von KI-basierten Entscheidungen das Recht auf eine Erklärung erhalten. Der vzbv sieht Lücken beim Verbot von KI-basierter Manipulation und Ausnutzung persönlicher Schwächen, wie ökonomische Faktoren. Diese Lücken müssten geschlossen werden. Schließlich sollte dieses Gesetz in die europäische Verbandsklage-Richtlinie aufgenommen werden, um kollektive Rechtsdurchsetzung möglich zu machen.

• Weitere Reaktionen Einzelner

  In den SocialMedia-Portalen wird immer wieder zu diesem Thema diskutiert: Teils haben sich einzelne Unternehmen oder Institute sehr genau mit der Thematik auseinandergesetzt. Sie kommen zum Ergebnis, dass gegenwärtige KI-Systeme nicht den Forderungen der EU nachkommen könnten. Also müssten alle Systeme nachträglich bearbeitet werden. Andere warnen massiv davor, weitere bürokratische Hürden aufzubauen und damit Innovationen zu ersticken. Des Weiteren werden Forderungen nach einer Menschen-zentralisierten Lösung laut.

Zusammengefasst: Regulierung ja bitte, aber …

Künstliche Intelligenz bietet unvorstellbare Möglichkeiten. Leider sind nicht alle dieser Möglichkeiten positiv. Selbst die Entwickler einiger KI-Systeme warnen vor deren Potenzial. Das führte dazu, dass mehr und mehr Gesetzgeber zur Regulierung tendieren. Vorreiter möchte die EU werden und hat eine Gesetzesinitiative auf den Weg gebracht, die von den EU-Gremien und Mitgliedsstaaten diskutiert wird. Genau jetzt ist die Chance von Wirtschaft, Verbänden und anderen Gruppen darauf einzuwirken. Es gibt Forderungen nach Transparenz sowie einer Regulierung von Grundsatzmodellen. Auf der anderen Seite sehen Gruppierungen die Innovationskraft und nachfolgend die Wirtschaftskraft aus Europa abfließen.