„Durch die Förderung von Innovation und die Wahrung der Grundrechte positioniert sich Europa als weltweit führend bei der verantwortungsvollen Einführung von künstlicher Intelligenz“, schließt Paul Berenguer (Business Innovation Manager), der Autor dieses Tribunals.
Künstliche Intelligenz (KI) hat sich rasch zu einer Schlüsseltechnologie entwickelt, die die Art und Weise verändert, wie Industrien arbeiten, und die sowohl revolutionäre Fortschritte als auch große Herausforderungen mit sich bringt, mit wirtschaftlichen und sozialen Auswirkungen, die ebenso offensichtlich wie in ihrer mittel- und langfristigen Umsetzung ungewiss sind. Um dieser Komplexität zu begegnen, hat die Europäische Union (EU) mit der KI-Verordnung einen visionären Ansatz gewählt, der darauf abzielt, ein Gleichgewicht zwischen Innovation und dem Schutz der Grundrechte der Bürger herzustellen, um eine sichere und nutzbringende Integration der Technologie in unsere Gesellschaft zu gewährleisten.
Der Rechtsrahmen der EU, der durch Initiativen wie die EU-Verordnung über KI, die Datenschutz-Grundverordnung (GDPR) und den Cyber Resilience Act veranschaulicht wird, bietet einen umfassenden Fahrplan für die Entwicklung der künstlichen Intelligenz, bei dem Sicherheit, Transparenz und ethische Unternehmensführung im Vordergrund stehen. Bei diesem risikobasierten, ganzheitlichen Ansatz werden KI-Systeme als Produkte behandelt, wobei der Schwerpunkt auf ihrer Anwendung und Vermarktung und nicht auf der Entwicklung der Technologie selbst liegt. Aus diesem Grund werden sie in der Verordnung in drei Kategorien eingeteilt – geringes Risiko, hohes Risiko und unannehmbares Risiko -, um ein angemessenes Maß an Aufsicht und Intervention festzulegen.
Die erste Kategorie (oder KI mit geringem Risiko) wird auf der Grundlage von Systemen konfiguriert, die ein geringes Risiko für die Grundrechte und die persönliche Sicherheit darstellen, und umfasst Anwendungen, die audiovisuelle Inhalte oder Bilder generieren, ohne einen signifikanten Einfluss auf wichtige Entscheidungen zu haben. ChatBots oder virtuelle Assistenten, die auf generativer KI basieren, wie ChatGPT von OpenAI oder Copilot von Microsoft, wären einige Beispiele für den Einsatz dieser Art von künstlicher Intelligenz in dieser Kategorie.
An zweiter Stelle stehen KI-Anwendungen mit hohem Risiko, d.h. Systeme, die sich unmittelbar auf die Rechte und Freiheiten des Einzelnen auswirken können und in sensiblen Bereichen wie Gesundheit (z.B. medizinische Diagnostik und Patientenverwaltung), Verkehr (autonome Fahrzeuge und Navigationssysteme), kritische Infrastrukturen (Energie- und Wasserversorgung), Bank- und Versicherungswesen (Kreditwürdigkeitsprüfung und Betrugserkennung), Personalverwaltung (Auswahl- und Beurteilungsverfahren für Mitarbeiter) usw. eingesetzt werden.
Und schließlich KI-Produkte mit unannehmbarem Risiko. Hierbei handelt es sich um Systeme, deren Einführung und Vermarktung (nicht aber deren Entwicklung) in Europa aufgrund ihres Potenzials zur Verletzung von Grundrechten verboten wäre. Beispiele hierfür sind unterschwellige Manipulation (Systeme, die das Verhalten ohne Einwilligung beeinflussen), Social Scoring (Bewertung von Personen aufgrund ihres Verhaltens oder persönlicher Merkmale) und biometrische Echtzeit-Identifizierung im öffentlichen Raum ohne rechtliche Rechtfertigung.
Diese Verordnungen zeigen das Engagement der EU für eine proaktive Governance angesichts der raschen technologischen Entwicklung. In dem Maße, in dem KI-Technologien in sensible Bereiche des täglichen Lebens vordringen, wird der Bedarf an klaren, anpassungsfähigen und durchsetzbaren Regeln immer größer. In dieser Hinsicht ist die Entscheidung der EU, KI-Risiken nach der Schwere ihrer potenziellen Auswirkungen zu klassifizieren, ein Beispiel für eine umsichtige Regulierungspraxis, der andere Regionen folgen könnten (oder sollten).
Die Regulierung bringt jedoch auch Herausforderungen mit sich, insbesondere im Hinblick auf die Einhaltung bestehender Rechtsvorschriften wie der Datenschutz-Grundverordnung. Die unersättliche Nachfrage nach Daten durch KI steht im Widerspruch zu rechtlichen Grundsätzen wie Datenminimierung und Transparenz, die für den gesamten europäischen Rechtsrahmen spezifisch sind.
Dies gilt zwar zunächst nur für den europäischen Kontext, die Akzeptanz und Anwendung von KI gewinnt jedoch international an Boden und wird als bewährte Praxis in andere Rechtsrahmen und Unternehmensumgebungen übernommen. Der „Blackbox“-Charakter der KI erschwert es den Nutzern, nachzuvollziehen, wie Entscheidungen getroffen werden, was letztlich die Gewährleistung der Rechenschaftspflicht und der Rechte der Betroffenen erschwert.
Eine weitere Überlegung ist, dass es bei der Regulierung nicht darum geht, Innovationen zu ersticken, sondern vielmehr darum, Vertrauen in die Nutzung dieser Technologie aufzubauen. Für Unternehmen ist die Anpassung an diese neue Realität nicht nur eine Frage der Einhaltung von Vorschriften, sondern auch eine Chance, verantwortungsvoll zu handeln und einen Wettbewerbsvorteil zu erlangen. Durch ein proaktives Engagement für einen verantwortungsvollen Umgang mit künstlicher Intelligenz können Unternehmen ihren Kunden und anderen Stakeholdern zeigen, dass sie sich für ethische, sichere und transparente Praktiken einsetzen.
Darüber hinaus erfordert die verantwortungsvolle Einführung von KI die Zusammenarbeit aller Sektoren: Technologieentwickler, politische Entscheidungsträger und Endnutzer müssen zusammenarbeiten, um diese Vorschriften kontinuierlich zu verbessern. Eine solche Zusammenarbeit ist unerlässlich, um sicherzustellen, dass diese Technologie ein nützliches Instrument für die Gesellschaft bleibt und gleichzeitig unsere Rechte und unsere Sicherheit schützt.
Zusammenfassend lässt sich sagen, dass der KI-Rechtsrahmen der EU einen ausgewogenen Ansatz zur Bewältigung der Risiken und Chancen darstellt, die die künstliche Intelligenz zweifellos mit sich bringt. Durch die Förderung von Innovation und den Schutz von Grundrechten positioniert sich Europa als globaler Vorreiter bei der verantwortungsvollen Einführung von KI. Nun ist es an den Unternehmen, diese Veränderungen anzunehmen und nicht nur die Einhaltung der Vorschriften zu gewährleisten, sondern auch mit Integrität in einer zunehmend von KI geprägten Welt zu agieren.
