Die neu vereinbarte europäische Verordnung schafft vier Risikostufen und verbietet jene Aktivitäten, die als “inakzeptabel” riskant eingestuft werden. Zuwiderhandlungen gegen das Gesetz werden mit Sanktionen geahndet.
Brüssel feiert: Nach vier Jahren des Hin und Hers hat die Europäische Union ihr KI-Gesetz verabschiedet. Dieses Gesetz entstand in einer Welt, in der ChatGPT für die Allgemeinheit völlig unbekannt war und nur einige Experten von Großmodellen der Sprache – den LLMs – sprachen. In der ersten Fassung wurden Chatbot-ähnliche KI-Systeme kaum erwähnt.
Um einen Kontext zu geben: OpenAI, das Unternehmen hinter ChatGPT, wurde im Dezember 2015 gegründet, und GPT-1, die erste Iteration der GPT-Serie, die die grundlegende Architektur für ChatGPT etablierte, wie wir es heute kennen, wurde erst im Juni 2018 vorgestellt. Derzeit wird der Chatbot von GPT-4 Turbo angetrieben.
Weiterführend, ChatGPT hat weltweit 100 Millionen aktive Nutzer pro Woche, allein in Spanien sind es laut den neuesten verfügbaren Daten 4 Millionen.
Aber zurück zum europäischen KI-Gesetz. Als es vorgeschlagen wurde, wurde das Gesetz als weltweit erstes seiner Art gefeiert, doch der Prozess wurde durch die Entwicklungen in der Branche und den Aufstieg der generativen KI, verursacht durch das bereits erwähnte Tool ChatGPT und die darauf folgenden Wettbewerber, ins Stocken gebracht. Angesichts ihrer Popularität haben die großen Technologieunternehmen, die hinter dieser Technologie stehen, Druck ausgeübt, um zu verhindern, was sie als übermäßige Regulierung ansahen.
Was sind die wichtigsten Neuerungen des KI-Gesetzes?
Die neue EU-Gesetzgebung über künstliche Intelligenz, bekannt als KI-Gesetz, zielt darauf ab, sicherzustellen, dass KI in Europa sicher ist und grundlegende Rechte sowie die Demokratie respektiert, während gleichzeitig Innovation gefördert wird. Zu den Schlüsselpunkten gehören:
- Verbote bestimmter KI-Anwendungen, wie die biometrische Kategorisierung auf Basis sensibler Merkmale, Emotionserkennung am Arbeitsplatz, Social Scoring und KI, die menschliches Verhalten manipuliert oder Schwächen ausnutzt.
- Spezifische Erlaubnisse und Schutzmaßnahmen für den Einsatz biometrischer Identifikationssysteme durch Strafverfolgungsbehörden, unterliegen strengen Bedingungen und gerichtlicher Genehmigung.
- Verpflichtungen für “KI-Systeme mit hohem Risiko”, einschließlich obligatorischer Bewertungen der Auswirkungen auf die Grundrechte.
- Transparente Anforderungen für allgemeine KI-Systeme mit strengeren Verpflichtungen für Modelle mit hoher Wirkung.
- Unterstützung von Innovation und KMUs durch regulatorische Testumgebungen und Tests im realen Leben.
- Sanktionen für Verstöße, mit Geldstrafen von bis zu 35 Millionen Euro oder 7% des weltweiten Umsatzes.
Welche spezifischen Risiken für Menschen sollen mit dem KI-Gesetz gemildert werden und welche Vorteile werden erwartet?
Der Schwerpunkt dieser Verhandlungen lag auf bestimmten KI-Anwendungen, die als Bedrohung für die Rechte der Bürger und die Demokratie angesehen wurden. Tatsächlich sind die Hauptneuerungen dieses neuen Gesetzes die Sicherheitsvorkehrungen und begrenzten Ausnahmen für den Einsatz von biometrischen Identifikationssystemen in öffentlichen Räumen zu Strafverfolgungszwecken.
“Die Hauptgefahren, die abgemildert werden sollen, sind sozialer und nationaler Sicherheitsnatur, da die meisten Ausnahmen für die Suche nach einer verurteilten oder verdächtigen Person gelten werden”, erklärt der KI-Experte José Antonio Pinilla, Vorsitzender und CEO der Asseco Spain Group.
Pinilla betont, dass auch KI-Systeme mit hohem Risiko für Grundrechte, Umwelt, Gesundheit, Sicherheit, Demokratie und Rechtsstaatlichkeit identifiziert wurden. “Dieses Vereinheitlichungsbestreben zielt darauf ab, deren Auswirkungen auf die Grundrechte zu mildern”, fügt er hinzu.
Eine der Neuerungen in diesem Gesetz ist eine obligatorische Bewertung der Auswirkungen auf die Grundrechte. Zudem haben Bürger das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen über auf KI-Systemen basierende Entscheidungen zu erhalten, die ihre Rechte beeinflussen.
Ein Schlüsselelement der neuen Gesetzgebung ist, dass sie diese Technologie nach dem Risiko ihrer Systeme klassifiziert. Wie die Europäische Kommission in ihrer Mitteilung angibt, werden vier Risikostufen festgelegt, von niedrig bis inakzeptabel.
Verbotene Verwendung von KI durch das neue Geset
Die Verordnung verbietet unter anderem Systeme zur biometrischen Kategorisierung aufgrund politischer, religiöser, philosophischer Überzeugungen oder aufgrund von Rasse und sexueller Orientierung. Dies ist einer der umstrittensten Punkte des Gesetzes.
Wie das Gesetz vorschreibt, werden KI-Systeme, “die als klare Bedrohung für die Grundrechte der Menschen angesehen werden”, direkt verboten. Dies umfasst künstliche Intelligenzsysteme oder -anwendungen, “die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen, wie Spielzeuge, die Sprachassistenz nutzen, um gefährliches Verhalten bei Minderjährigen zu fördern, oder Systeme, die ‘Social Scoring’ durch Regierungen oder Unternehmen und bestimmte Anwendungen der prädiktiven Polizeiüberwachung ermöglichen”.
Zudem werden einige Nutzungen biometrischer Systeme verboten, zum Beispiel “Systeme zur Emotionserkennung am Arbeitsplatz und einige Systeme zur Kategorisierung von Personen oder zur Echtzeit-Fernbiometrie für polizeiliche Zwecke in öffentlich zugänglichen Räumen (mit begrenzten Ausnahmen)”.
Letztendlich müssen Benutzer, die künstliche Intelligenzsysteme wie Chatbots verwenden, sich bewusst sein, dass sie mit einer Maschine interagieren. “Deepfakes und andere durch KI generierte Inhalte müssen als solche gekennzeichnet und Benutzer müssen informiert werden, wenn Systeme zur biometrischen Kategorisierung oder Emotionserkennung verwendet werden”.
Wie wird dies Unternehmen beeinflussen, die KI-Modelle entwickeln? Wird die Auswirkung für große und kleine Unternehmen gleich sein?
Der CEO von Asseco Spain Group erklärt, dass “es noch zu früh ist, um die Konsequenzen dieses neuen Gesetzes für Unternehmen, die bereits mit KI-Modellen arbeiten, abzuschätzen, abgesehen von der Feststellung, dass die Implementierung der Maßnahmen versuchen muss, den inhärenten Wert des Unternehmens zu schützen”.
Er betont jedoch, dass der Einfluss auf das Geschäftsleben “kleine und mittlere Unternehmen nicht erschrecken sollte”, da, wie Europaabgeordnete erklärt haben, kleine und mittlere Unternehmen, die Modelle wie das bekannte ChatGPT integrieren, “nicht unnötig regulativ belastet” werden. Jedes Unternehmen muss, abhängig von seiner Nutzung und Beziehung zur künstlichen Intelligenz, bestimmten Verpflichtungen nachkommen.
In diesem Sinne meint Pinilla auch, dass man noch nicht abschätzen kann, ob und in welchem Umfang der Fortschritt in diesem Unternehmensökosystem beeinträchtigt wird. Er wagt nur zu behaupten, dass “seine Implementierung den Einsatz von Unternehmen erfordern wird, die zudem ihre übliche Tätigkeit fortsetzen müssen, um sicherzustellen, dass die Innovation nicht beeinträchtigt wird”.
Schließlich glaubt der KI-Experte nicht, dass die neue europäische Vorschrift eine ‘Abwanderung’ von Talenten oder Unternehmen in Regionen mit lockereren Vorschriften verursachen könnte. Es könnte eher das Gegenteil passieren: “Angesichts der Rolle dieser europäischen Gesetzgebung als Pioniergesetzgebung nehmen zahlreiche Länder anderer Kontinente ihren Inhalt bereits zur Kenntnis, um ihn an ihre eigene wirtschaftliche Tätigkeit anzupassen”.
Er besteht darauf: “Diese Initiative der EU in Form eines Pioniergesetzes wird als Modell für die Regulierung anderer außereuropäischer Länder dienen, die bereits Notiz davon nehmen, um den Inhalt der Gesetzgebung zu imitieren und anzupassen, um nicht gegenüber anderen Märkten ins Hintertreffen zu geraten”.
Werden Verstöße gegen das Gesetz geahndet?
Verstöße gegen die im Gesetz festgelegten Richtlinien können für Unternehmen teuer werden, mit Bußgeldern von 7,5 Millionen Euro oder 1,5 % des Geschäftsvolumens bis zu anderen Strafen von 35 Millionen oder 7 % des Geschäftsvolumens, je nach begangener Zuwiderhandlung und Größe des Unternehmens.
Welche realen Auswirkungen kann das neue KI-Gesetz auf die Nutzer haben?
Die Hauptänderung, die europäische Nutzer und Bürger bemerken werden, ist, dass sie Inhalte, die durch künstliche Intelligenz generiert wurden, beim Surfen im Internet klar identifizieren können.
Außerhalb der Online-Welt werden europäische Bürger mit Videokameras zusammenleben, “aber es sollte keine Panik ausbrechen, da deren Einsatz sorgfältig eingeschränkt wird, um die Sicherheit der Menschen zu verstärken”, sagt Pinilla.
Das KI-Gesetz wird auf fast 450 Millionen Einwohner der EU angewendet, aber Experten sagen, dass seine Auswirkungen weit darüber hinaus spürbar sein könnten, aufgrund der führenden Rolle Brüssels bei der Ausarbeitung von Regeln, die als globaler Standard fungieren.
Welche Herausforderungen bringt die Regulierung künstlicher Intelligenz mit sich?
Zunächst muss, so der CEO von Asseco Spain Group, dieses Gesetzesprojekt in juristische Sprache übertragen werden, „in der alle Anforderungen, Maßnahmen und die entsprechenden Sanktionen detailliert beschrieben werden“. Erst dann, fährt er fort, können wir genauer verstehen, was für die Implementierung und Einhaltung dieser Gesetzgebung notwendig ist.
„Bisher können wir nur sagen, dass es aufgrund seines Pioniercharakters eine echte Neuheit für europäische Unternehmen und solche, die auf dem Kontinent tätig sind, darstellt. Daher besteht die Hauptaufgabe darin, die erste Phase der Erwartung und Skepsis zu überwinden, um die wirtschaftliche Tätigkeit an die neuen Bedürfnisse europäischer Nutzer anzupassen“, schließt er.
Welche Schritte liegen noch vor uns in diesem Prozess und wann wird das Gesetz Anwendung finden?
Nach der Überführung dieses Gesetzesentwurfs in juristische Sprache muss es vom Europäischen Parlament und den Regierungen der Mitgliedstaaten vor der Auflösung der Kammern wegen der bevorstehenden Europawahlen ratifiziert werden. Daher wird erwartet, dass seine Ratifizierung im ersten Quartal 2024 stattfinden wird.
Es tritt 20 Tage nach seiner Veröffentlichung im Amtsblatt in Kraft und unter Berücksichtigung der Fristen der europäischen parlamentarischen Verfahren – Gesetze sind zwei Jahre nach ihrem Inkrafttreten anwendbar – könnte die KI-Regulierung nicht vor 2026 angewendet werden.
Einige spezifische Bestimmungen gelten bereits nach 6 Monaten, während die Vorschriften über die allgemeine Verwendung von KI nach 12 Monaten anwendbar sein werden.
No Responses