Die KI und die superschlauen EU-Bürokraten

Die EU hat gerade ein Gesetz für die Künstliche Intelligenz (KI) erlassen. Ein europäisches KI-Amt soll folgen. Man glaubt tatsächlich auf diese Weise die Führung „im weltweiten Wettlauf um vertrauenswürdige KI“ zu übernehmen. 

Ursula von der Leyen wird nicht müde zu betonen, dass sie Europa in den ersten klimaneutralen Kontinent der Erde transformieren will. Doch damit nicht genug. Nun hat die EU auch noch beschlossen, dass Europa der erste Kontinent sein soll, der als globaler Vorreiter ein Gesetz für die Künstliche Intelligenz (KI) erlässt. Bereits im April 2021 hatte die EU-Kommission einen entsprechenden Entwurf zum sogenannten AI-Act vorgelegt. Am 8. Dezember dieses Jahres wurde das Gesetz nun von Parlament und Rat angenommen. In einer Pressemitteilung vom 9. Dezember bezeichnet die EU-Kommission die Einigung von Parlament und Rat als „historischen Moment“. Ursula von der Leyen äußerte sich dazu voller Stolz: „Das EU-Gesetz über die Künstliche Intelligenz ist der erste umfassende Rechtsrahmen für Künstliche Intelligenz weltweit. Dies ist also ein historischer Moment. Mit dem KI-Gesetz werden die europäischen Werte in eine neue Ära überführt.“ Künstliche Intelligenz verändere schon heute den Alltag, doch das sei erst der Anfang. Klug und breit eingesetzt, verspreche KI enorme Vorteile für die Wirtschaft und die Gesellschaft der EU.

Weiter erklärte die Kommissionspräsidentin:

„Durch die Konzentration der Regulierung auf erkennbare Risiken wird die heutige Einigung eine verantwortungsvolle Innovation in Europa fördern. Indem sie die Sicherheit und die Grundrechte von Menschen und Unternehmen garantiert, wird sie die Entwicklung, den Einsatz und die Einführung vertrauenswürdiger KI in der EU unterstützen. Unser KI-Gesetz wird einen wesentlichen Beitrag zur Entwicklung globaler Regeln und Grundsätze für menschenzentrierte KI leisten.“

Věra Jourová, Vizepräsidentin für Werte und Transparenz, ergänzte:

„KI ist bereits ein echter Wandel, und wir, die Europäer, müssen eine rechtliche Möglichkeit haben, uns vor den schädlichsten Auswirkungen der KI zu schützen. Unser Ansatz ist risikobasiert und innovationsfreundlich. Wir wollen einfach, dass die Menschen ihre Rechte behalten und die Grundrechte im digitalen Zeitalter gewahrt bleiben. Das können wir nicht nur durch Gesetze erreichen, sondern auch durch die Wertschätzung von Technologieentwicklern und die Zusammenarbeit mit ihnen, damit sie bei der Entwicklung und Implementierung von KI-Technologie einen menschenzentrierten Ansatz verfolgen.“

„Regulatorische Sandkästen“

Auch EU-Binnenmarktkommissar Thierry Breton unterstrich:

„Das KI-Gesetz ist viel mehr als ein Regelwerk – es ist eine Startrampe für Start-ups und Forscher in der EU, um im weltweiten Wettlauf um vertrauenswürdige KI die Führung zu übernehmen. Dieses Gesetz ist kein Selbstzweck, sondern der Beginn einer neuen Ära der verantwortungsvollen und innovativen KI-Entwicklung, die Wachstum und Innovation in Europa fördert.“

Lauter schöne Floskeln also. Aber was verbirgt sich hinter Begriffen wie „risikobasiert“ oder „menschenzentriert“? Kurz gesagt: Künftig sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen an die Anbieter sein. 

Dieser risikobasierte Ansatz sieht ein konkretes Stufenmodell vor: Die überwiegende Mehrheit der KI-Systeme fällt demnach unter die Kategorie „Minimales Risiko“. Dazu gehören beispielsweise Spam-Filter. Solche KI-Systeme mit „minimalem Risiko für die Rechte oder die Sicherheit der EU-Bürger“ sollen keinen Verpflichtungen unterliegen. Allerdings können Unternehmen auf freiwilliger Basis zusätzliche Verhaltenskodizes beschließen.

Zur Kategorie „Hohes Risiko“ zählen dagegen kritische Infrastrukturen wie die Versorgungssicherheit mit beispielsweise Wasser, Gas, Strom und Medizin, aber auch der Zugang zu Bildungseinrichtungen sowie die Bereiche Strafverfolgung und Grenzkontrolle. Außerdem spielen die Möglichkeit der biometrischen Identifizierung und „Emotionserkennungssysteme“ eine wichtige Rolle. Hier sollen strenge Anforderungen greifen wie etwa detaillierte Aktivitätenprotokolle. Darüber hinaus sollen „Regulatorische Sandkästen“ („Regulatory Sandboxes“) eingesetzt werden: ein kontrolliertes und überwachtes Umfeld, in dem Unternehmen neue Anwendungen testen und mit ihnen experimentieren können. Auch öffentliche Einrichtungen, die KI-Systeme mit „hohem Risiko“ nutzen, werden künftig verpflichtet sein, sich in der EU-Datenbank für Hochrisiko-KI-Systeme zu registrieren.

In die Kategorie „Unannehmbares Risiko“ schließlich werden KI-Systeme eingestuft, die eine „eindeutige Bedrohung für die Grundrechte der Menschen“ darstellen. Dazu gehört Künstliche Intelligenz, die „das menschliche Verhalten manipuliert, um den freien Willen des Nutzers zu umgehen“, wie beispielsweise Spielzeug mit Sprachassistenz, das gefährliches Verhalten von Minderjährigen fördert, oder bestimmte Anwendungen der „vorausschauenden Polizeiarbeit“ („Predictive Policing“). So werden biometrische Systeme, die etwa Emotionen am Arbeitsplatz erkennen können oder der „Fernidentifizierung für Strafverfolgungszwecke in öffentlich zugänglichen Räumen“ dienen, gänzlich verboten. Konkret soll die KI-basierte biometrische Identifizierung von Personen im öffentlichen Raum nur bei der gezielten Suche nach einzelnen Verdächtigen, etwa im Zusammenhang mit Terroranschlägen, möglich sein.

Europäisches Amt für Künstliche Intelligenz

Zudem müssen Unternehmen Transparenzverpflichtungen eingehen: Beim Umgang mit KI-Systemen wie Chatbots (bekanntes Beispiel dafür ist ChatGPT) muss den Nutzern bewusst sein können, dass sie es mit einer Maschine zu tun haben. KI-generierte Inhalte müssen generell als solche gekennzeichnet werden und künstlich erzeugte Audio-, Video-, Text- und Bildinhalte mit entsprechenden Hinweisen versehen werden. Nicht zuletzt müssen die Nutzer informiert werden, wenn Systeme zu biometrischer Kategorisierung oder Emotionserkennung verwendet werden. 

Unternehmen, die diese Vorschriften nicht einhalten, werden mit Geldstrafen belegt. Diese können bei Verstößen gegen das Verbot von KI-Anwendungen bis zu 35 Millionen Euro respektive 7 Prozent des weltweiten Jahresumsatzes betragen; bei Verstößen gegen Verpflichtungen 15 Millionen Euro oder 3 Prozent des Jahresumsatzes und bei der Verbreitung von Fehlinformationen 7,5 Millionen Euro oder 1,5 Prozent des Umsatzes. Im Zweifel gilt der höhere Betrag. Geldbußen für kleine und mittlere Unternehmen (KMU) und Start-ups sollen mit verhältnismäßigen Obergrenzen versehen werden. Stellt sich unweigerlich die Frage: Wer definiert diese Verhältnismäßigkeit, und wer definiert, was „Fehlinformationen“ sind? Letztlich die EU-Kommission? 

Mit dem KI-Gesetz soll auch für Transparenz „entlang der Wertschöpfungskette“ gesorgt werden. So sollen Verhaltenskodizes umgesetzt werden, die von „der Industrie, der Wissenschaft, der Zivilgesellschaft und anderen Interessenträgern“ gemeinsam mit der Kommission aufgestellt werden. Zwar sollen die zuständigen nationalen Marktüberwachungsbehörden die Anwendung der neuen Vorschriften auf nationaler Ebene beaufsichtigen, doch gleichzeitig wird ein neues Europäisches Amt für Künstliche Intelligenz innerhalb der Europäischen Kommission eingerichtet, das für die Koordinierung auf europäischer Ebene zuständig ist und die Umsetzung der EU-Verordnung überwachen soll. Da dieses Amt weltweit das erste seiner Art sein wird, das verbindliche Vorschriften für KI durchsetzt, werde es darüber hinaus – so zumindest der fromme Wunsch der EU-Kommission – zu einer internationalen Bezugsstelle werden.

„Drehkreuz von Weltrang für KI“

Bei sogenannten „Modellen mit allgemeinem Verwendungszweck“ soll dazu noch ein wissenschaftliches Gremium unabhängiger Sachverständiger eingesetzt werden, das zur „Klassifizierung und Erprobung der Modelle“ beitragen und „Warnungen über systemische Risiken“ ausgeben soll. Als „Modelle mit allgemeinem Verwendungszweck“ („Multi-Purpose AI“) werden KI-Systeme bezeichnet, die als eine Art Allzweck-Anwendung verschiedene Aufgaben wie Bild- oder Spracherkennung, Audio- und Videogenerierung sowie Mustererkennung erfüllen. Sie lassen sich in andere KI-Systeme integrieren und bieten vielseitige Anwendungsmöglichkeiten in Bereichen wie Medizin, Automobilindustrie oder Unterhaltung. Die Begriffe „Multi-Purpose AI“, „KI-System mit allgemeinem Verwendungszweck“, „General Purpose AI“ (GPAI), „Basismodell“ und „Foundation Model“ werden allerdings oft unscharf verwendet. Doch nicht nur die Regulierung der Multi-Purpose-AI war in den sogenannten Trilog-Verhandlungen von Kommission, Parlament und Rat umstritten, sondern generell der Ausgleich zwischen Innovationsförderung auf der einen und Datenschutz auf der anderen Seite. Dabei geht es unter anderem um das EU-Urheberrecht und die Offenlegung von Informationen darüber, mit welchen Daten Unternehmen ihre KI-Modelle trainieren.

Die Einigung auf das KI-Gesetz muss nun noch vom Parlament und vom Rat förmlich verabschiedet werden. 20 Tage nach der Veröffentlichung im EU-Amtsblatt tritt das Gesetz dann in Kraft und kommt zwei Jahre später zur Anwendung. Verbote gelten allerdings bereits nach sechs Monaten; die Vorschriften für „KI mit allgemeinem Verwendungszweck“ nach 12 Monaten. Bis dahin will die Kommission einen KI-Pakt ins Leben rufen, der KI-Entwickler aus Europa und der ganzen Welt zusammenbringen soll, die die wichtigsten Verpflichtungen des KI-Gesetzes freiwillig schon früher umsetzen sollen. Außerdem will die EU in Foren wie der G7, der OECD, dem Europarat, der G20 und den Vereinten Nationen dafür werben. Erst im Oktober begrüßte die Kommission die Vereinbarung der Staats- und Regierungschefs der G7 über internationale Leitprinzipien für KI und einen freiwilligen Verhaltenskodex für fortgeschrittene KI-Systeme im Rahmen des Hiroshima-KI-Prozesses.

Die europäische KI-Strategie zielt laut EU-Kommission insgesamt darauf ab, die EU zu einem „Drehkreuz von Weltrang für KI zu machen und dafür zu sorgen, dass KI menschlich und vertrauenswürdig ist“. Mangelndes Selbstvertrauen kann man der EU-Kommission eben nicht gerade vorwerfen. Es melden sich jedoch schon Kritiker aus verschiedenen Richtungen zu Wort: Wirtschaftsvertreter befürchten, dass die EU-Verordnung Innovationen hemmen wird; Verbraucherschützer befürchten, dass die Risiken mancher KI-Anwendungen nicht ernst genug genommen werden.

Nach Ansicht des Bundesverbands der Deutschen Industrie (BDI) droht die EU bei der Schlüsseltechnologie KI nun ins Hintertreffen zu geraten. So kommentierte BDI-Geschäftsführungsmitglied Iris Plöger das Gesetz: „Mit der umfassenden Regulierung von KI-Basismodellen und KI-Anwendungen gefährdet der AI Act die Wettbewerbs- und Innovationsfähigkeit sowohl auf Hersteller- als auch auf Anwenderseite.“ Die Regulierung basiere auf unausgereiften Kriterien, die den Unternehmen weniger statt mehr Rechtssicherheit brächten. Die europäische Verbraucherschutzorganisation Beuc kritisierte dagegen, dass sich die EU zu sehr auf die Selbstregulierung der Unternehmen verlasse. 

Wie auch immer: Das KI-Gesetz der EU lädt Unternehmen zusätzlichen Bürokratieaufwand auf. Außerdem drohen nicht gerade unerhebliche Strafzahlungen. In Kombination mit anderen Regulierungen der EU wie etwa dem Gesetz über digitale Dienste (Digital Services Act, kurz: DSA), das ab dem 17. Februar 2024 in vollem Umfang gelten wird, müssen Unternehmen nun vor allem aufpassen, dass sie keine Informationen verbreiten, die nach Einschätzung der EU-Kommission „falsch“ sind. Sonst kann es ziemlich teuer für sie werden.

 

Martina Binnig lebt in Köln und arbeitet u.a. als Musikwissenschaftlerin (Historische Musikwissenschaft). Außerdem ist sie als freie Journalistin tätig.

Foto: Montage Achgut.com

Sie lesen gern Achgut.com?
Zeigen Sie Ihre Wertschätzung!

via Paypal via Direktüberweisung
Leserpost

netiquette:

Wolfgang Richter / 18.12.2023

Verwirrte im Größenwahn. So eine Figur wurde uns schon mal als Migrant aufs Auge gedrückt, Ende bekannt.

Boris Kotchoubey / 18.12.2023

Man muss so blöd sein wie ein Politiker, um zu glauben, dass die KI alle Probleme lösen kann.

Peter Robinson / 18.12.2023

Ich erwarte demnächst dass ChatGPT (Künstliche Intelligenz) das Sozialgesetzbuch (alle 6.000 Seiten) zum füttern gegeben wird. UFC 666: KI gegen Verwaltung. Dann kann jeder den Staat von Timbuktu aus in die Ruine treiben. Man muss dann Deutschland nicht mal besucht haben um Bürgergeld zu erhalten (gibt es auch Millionen schon in Arabien und Afrika, die der deutscher Steuerzahler unfreiwillig durchfüttert). Falls die Irren in der Ampel das vorher noch nicht von alleine geschafft haben. Treiben schon heute die Einkäufe ins Online-Geschäft.  Jede Online-Rechnung wird in New York abgerechnet und mit Gebühren und Umtauschkursen belastet (Visa, Mastercard). Die «Europäer»  (Deutschland haftet) geben so viel Geld aus als ob es morgen nicht gäbe. Ich fürchte daher, dass sie tatsächlich demnächst die Digitalwährung fest einplanen. Die Politiker sind die Feinde der freiheitlichen demokratischen Ordnung.

G. Männl / 18.12.2023

Was will man erwarten von Leuten die keine Ahnung von Computer haben. Für die sind das bestimmt irgendwelche Zauberkästen. Das was es bis jetzt als solches den Leuten als KI weiß gemacht wird ist nichts anderes als ein Paar Algorithmen die relativ schnell in hinterlegten Datenspeichern Antworten in ganzen Sätzen liefern. Ich habe schon öfters die Antwort bekommen das der Datenbestand nur bis 2021 hinterlegt ist. Man kann die Software sogar mit Fragen soweit bringen das sie sich abmeldet. Für diesen Quatsch werden dann in Brüssel gleich mal neue Verwaltungsstellen erfunden. Dort wuchert der Amtsschimmel.

Lutz Liebezeit / 18.12.2023

Die Sekretärin in den 50er Jahren bei Mercedes, die hatte wahrscheinlich mehr drauf, als alle Bürokräfte heute zusammen?

Karsten Dörre / 18.12.2023

Die anderen Kontinente bemühen sich, nicht lauthals Lachkrämpfe zu bekommen.

Sam Lowry / 18.12.2023

OT. Gestern, in der Kommentarspalte: “E.Braun / 17.12.2023 Ich wars nicht, dieses Land ist nämlich nur noch im Suff zu ertragen.” So sehe ich das auch… Prosit

Ralf.Michael / 18.12.2023

AI/KI ? Man versucht hier mit Vehemenz und jüdischer Hast das Fell eines Bären zu verteilen, den es überhaupt nicht gibt. Sorry, Waschmaschinen haben kein eigenes Denkvermögen und kommunizieren auch nicht mit mir. Dies bleibt auch so.  Und, übrigens….wer eine KI hat und kann Sie mir zeigen….der mag Sie behalten, Sie sei sein Eigen. Die Deutschen werden ohne eine vollständige Digitalisierung mit festgestellter Sicherheit Keine haben, da sind Andere viel schneller.

Weitere anzeigen Leserbrief schreiben:

Leserbrief schreiben

Leserbriefe können nur am Erscheinungstag des Artikel eingereicht werden. Die Zahl der veröffentlichten Leserzuschriften ist auf 50 pro Artikel begrenzt. An Wochenenden kann es zu Verzögerungen beim Erscheinen von Leserbriefen kommen. Wir bitten um Ihr Verständnis.

Verwandte Themen
Martina Binnig, Gastautorin / 14.06.2024 / 12:00 / 33

EU kauft Impfstoffe ein: Geht es wieder los?

Nach dem desaströsen Corona-Impfstoffdeal sollte man meinen, die EU könnte dazugelernt haben. Stattdessen kümmert sie sich schon um den Kauf neuer Impfstoffe gegen eine nächste…/ mehr

Martina Binnig, Gastautorin / 12.06.2024 / 10:00 / 33

Welche Auswirkungen hat die Agenda 2030?

Die Bundesregierung stellt ihre Politikgestaltung insgesamt unter das Diktat der Agenda 2030. Das geht jedenfalls aus dem aktuellen Entwurf der Deutschen Nachhaltigkeitsstrategie hervor. Wem die…/ mehr

Martina Binnig, Gastautorin / 21.05.2024 / 09:16 / 40

Namentliche Abstimmung zum Pandemievertrag im Bundestag

Der AfD-Antrag lautete: „Ablehnung des WHO-Pandemievertrags sowie der überarbeiteten Internationalen Gesundheitsvorschriften“. Wer hat wie abgestimmt und warum? Am vergangenen Donnerstag wurde im Bundestag über den…/ mehr

Martina Binnig, Gastautorin / 14.05.2024 / 06:00 / 65

Früher sterben für eine glückliche Welt?

Hinter der harmlos klingenden Initiative „Happy Planet Index“ verbergen sich menschenverachtende Pläne von Klimafanatikern, für die die Lebenserwartung eines Menschen weniger zählt als dessen ökologischer…/ mehr

Martina Binnig, Gastautorin / 23.04.2024 / 06:00 / 62

Die EU-Konvolute des Grauens – und die Ahnungslosigkeit der Bürger

Die EU hat jetzt Gesetze zu Verbrennungsmotoren, Wohngebäuden und vieles mehr endgültig beschlossen. Ziemlich unbeeindruckt von fachlichen Einwänden und versteckt in unverdaulichen Gesetzes-Konvoluten. Wir haben für…/ mehr

Martina Binnig, Gastautorin / 25.03.2024 / 16:00 / 11

EU-Gipfel: Krieg und Kasse

Die Ukraine wird weiterhin unterstützt, die UNRWA trotz Verstrickung mit der Hamas weiter finanziert und Beitrittsverhandlungen mit Bosnien und Herzegowina sollen aufgenommen werden. Am 21.…/ mehr

Martina Binnig, Gastautorin / 15.03.2024 / 06:00 / 30

EU fördert ihr genehme Journalisten

Die EU-Kommission mischt sich mit Hilfe von Förderprogrammen derzeit bereits zum vierten Mal aktiv in den Journalismus ein. Schauen wir uns die deutschen Förderkandidaten einmal…/ mehr

Martina Binnig, Gastautorin / 12.03.2024 / 06:00 / 37

Vom Green-Deal zur EU-Rüstungswirtschaft?

Bislang hatten die EU-Staaten ihr Militär eigenständig mit Ausrüstung, Waffen und Munition versorgt. Jetzt will sich die EU um mehr "gemeinsame Beschaffung" kümmern. Für Beteiligte…/ mehr

Unsere Liste der Guten

Ob als Klimaleugner, Klugscheißer oder Betonköpfe tituliert, die Autoren der Achse des Guten lassen sich nicht darin beirren, mit unabhängigem Denken dem Mainstream der Angepassten etwas entgegenzusetzen. Wer macht mit? Hier
Autoren

Unerhört!

Warum senken so viele Menschen die Stimme, wenn sie ihre Meinung sagen? Wo darf in unserer bunten Republik noch bunt gedacht werden? Hier
Achgut.com