Statement zum AI Act der EU
Von Peter van der Putten, Director AI Lab bei Pegasystems
Nach jahrelangen Verhandlungen ist der AI Act der EU nun unter Dach und Fach. Auch wenn sich der Gesetzestext noch in der Feinabstimmung befindet, sind zentrale Streitpunkte rund um die Themen Generative AI und KI in der Strafverfolgung geklärt. Der umfassende AI Act ist ein historischer Schritt, um den vertrauenswürdigen Einsatz der Technologie zu fördern und sicherzustellen, dass sowohl Unternehmen und öffentliche Einrichtungen als auch Kunden und Bürger von ihr profitieren. Unternehmen, die gegen das Gesetz verstoßen, müssen mit Strafen von bis zu sieben Prozent ihres weltweiten Umsatzes rechnen.
Das Thema wurde bereits 2018 mit dem Bericht der „Hochrangigen Expertengruppe für Künstliche Intelligenz“ angestoßen, der den Fokus auf ethische Grundsätze wie Transparenz, Fairness, Robustheit, Datenschutz, Rechenschaftspflicht und Nachhaltigkeit legte. Ein Vorschlag vom April 2021 konzentrierte sich hingegen verstärkt auf die Regulierung dedizierter KI-Systeme und nicht auf die Technologie im Allgemeinen. Rückblickend war dies ein sinnvoller Schritt, da es für Kunden und Bürger doch weniger wichtig ist, welche Art von KI-Technologie genau zu einer Entscheidung führt – beispielsweise ob Maschinelles Lernen oder statistisch basierte prädiktive Analysen zur Ablehnung von Krediten oder Sozialleistungen führen. Darüber hinaus wurde ein risikobasiertes Framework eingeführt, das auf dem Zweck des KI-Systems und seinem Risiko, Schaden anzurichten, basiert, um eine Über- oder Unterregulierung zu vermeiden.
Obwohl das Europäische Parlament bis zuletzt über den Einsatz von KI-Systemen in den Bereichen Strafverfolgung und Biometrie diskutiert hat, konnte eine Einigung erzielt werden – jetzt geht es nur noch um die Details. Die EU-Gesetzgebung soll den sinnvollen Einsatz von KI fördern und ist darauf ausgelegt, Innovationen im Bereich der vertrauenswürdigen KI zu unterstützen, anstatt sie einzuschränken. Ohne die jetzt beschlossenen Regelungen kann es schlicht keine gleichen Wettbewerbsbedingungen geben und letztlich keine nachhaltige Zukunft für die KI.
Es wird spannend sein, die Auswirkungen dieses „Brüsseler Effekts“ zu beobachten. Ich gehe davon aus, dass die Global Player die Kernideen als De-facto-Standard übernehmen werden, da sie diese ohnehin anwenden müssen, wenn sie mit Kunden und Bürgern in der EU zusammenarbeiten. Organisationen sind nun gesetzlich verpflichtet, sich ernsthaft mit dem verantwortungsvollen Einsatz von KI auseinanderzusetzen. Der KI-Gesetzesentwurf wird die notwendige Struktur und Orientierung bieten, um KI für die richtigen Zwecke und auf die richtige Art und Weise einzusetzen. Darüber hinaus soll er alle Beteiligten in die Lage versetzen, die zahlreichen Vorteile effektiv zu nutzen. Beispielsweise müssen Unternehmen expliziter und transparenter darlegen, wie sie automatisierte Entscheidungen treffen. Dazu gehört auch, welche Regeln und andere Lösungen sie verwenden und wie wichtige automatisierte Entscheidungen auf Voreingenommenheit getestet werden.
Der AI Act ist ein wichtiger erster Schritt, der sowohl auf Rechtssicherheit als auch auf mehr Transparenz im Umgang mit der KI-Technologie abzielt. Die weitere Entwicklung bleibt auch vor dem Hintergrund der sich schnell verändernden Möglichkeiten und Anwendungsfälle von KI-Lösungen spannend zu beobachten. Für den Moment hat die EU aber die dringend benötigten Richtlinien auf den Weg gebracht.
Über Pegasystems
Die leistungsstarke Low-Code-Plattform von Pegasystems (NASDAQ: PEGA) macht führende Unternehmen weltweit agiler, so dass sie schneller auf Veränderungen reagieren können. Durch KI-gestützte Entscheidungsfindung und Workflow-Automatisierung lösen Anwender vielfältige geschäftliche Herausforderungen – von der Optimierung des Kundenservice über die Automatisierung von Dienstleistungen bis hin zur Steigerung der betrieblichen Effizienz. Pegasystems entwickelt seit 1983 seine skalierbare und flexible Architektur ständig weiter, um Unternehmen dabei zu helfen, die heutigen Kundenanforderungen zu erfüllen und sich gleichzeitig kontinuierlich auf die Zukunft vorzubereiten. Weitere Informationen sind unter www.pega.com/de verfügbar.
Ansprechpartner
Christina Haslbeck
Brandmacher GmbH
Sendlinger-Tor-Platz 6
80336 München
Telefon: 089-59997-702
christina.haslbeck@brandmacher.de