Die Europäische Union treibt mit der geplanten KI-Verordnung (Artificial Intelligence Act) die Regulierung von Künstlicher Intelligenz (KI) voran. Diese Regelung ist die erste ihrer Art weltweit. Das Ziel der EU: Innovation fördern und gleichzeitig Risiken für Unternehmen und Gesellschaft minimieren. In diesem Blogbeitrag beleuchten wir, was die Verordnung regelt, wann sie in Kraft tritt und welche Konsequenzen sie speziell für Automobilzulieferer hat.
Was ist die KI-Verordnung der EU?
Die KI-Verordnung ist ein umfassendes Regelwerk, das den verantwortungsvollen Einsatz von KI-Systemen in der Europäischen Union sicherstellen soll. Dazu definiert die Verordnung klare Anforderungen für KI-Systeme. Dies sind im Wesentlichen:
Datensicherheit: Systeme müssen mit qualitativ hochwertigen und diskriminierungsfreien Datensätzen trainiert werden. Risikobewertung: Hersteller müssen potenzielle Risiken identifizieren und Maßnahmen zur Risikominderung ergreifen. Transparenz: Nutzer müssen darüber informiert werden, wenn sie mit einer KI interagieren. Nachhaltigkeit: Unternehmen müssen die Umweltverträglichkeit ihrer KI-Systeme nachweisen.
Verstöße gegen die Verordnung können erhebliche Bußgelder nach sich ziehen – bis zu 35 Millionen Euro oder sieben Prozent des globalen Jahresumsatzes.
Wen betrifft die KI-Verordnung der EU?
Die KI-Verordnung betrifft alle Anbieter, die KI-Systeme entwickeln, in den Verkehr bringen oder in Betrieb nehmen. Dies können Unternehmen sein, Behörden oder Forschungsinstitute. Wo die Anbieter ihren Sitz haben, ist dabei egal. Die KI-Verordnung muss erfüllt werden, sobald das KI-Produkt oder die KI-Anwendungin der Europäischen Union verwendet und in Umlauf gebracht werden. Auch für gewerbliche Nutzer von KI-Systemen gilt die Verordnung. Ausnahmen gelten etwa für KI-Systeme, die ausschließlich militärisch genutzt werden.
In welche Kategorien teilt die KI-Verordnung KI-Systeme ein?
Die EU verfolgt bei der Regulierung von KI einen risikobasierten Ansatz und unterteilt KI-Anwendungen in vier Kategorien:
KI-Systeme mit unannehmbarem Risiko: Darunter fallen Anwendungen, die als Bedrohung für Menschen gesehen werden, beispielsweise Social Scoring und die biometrische Identifizierung und Kategorisierung von natürlichen Personen. Diese KI-Systeme mit unannehmbarem Risiko sind verboten.KI-Systeme mit hohem Risiko: Dies sind Systeme, die ein hohes Risiko für die Gesundheit und Sicherheit von Menschen oder für deren Grundrechte darstellen. Dazu gehören zum einen KI-Systeme, die in Produkten eingesetzt sind, die unter die Produktsicherheitsvorschriften der EU fallen. Beispiele dafür sind Spielzeug, Fahrzeuge, medizinische Geräte und Aufzüge. Zum anderen hat die EU eine Liste mit weiteren Hochrisiko-Systemen in sensiblen Bereichen erstellt. Diese enthält beispielsweise Systeme in kritischer Infrastruktur, in der Strafverfolgung und im Bildungssystem. KI-Systeme mit hohem Risiko unterliegen strengen Auflagen und werden kontinuierlich bewertet. Anbieter müssen etwa Konformitätserklärungen abgeben und Qualitäts- und Risikomanagementsysteme einführen, um die Einhaltung der Anforderungen sicherzustellen.KI-Systeme mit geringem Risiko: Diese Kategorie umfasst Anwendungen, die als nicht risikoreich eingestuft werden, bei denen aber trotzdem eine gewisse Manipulationsgefahr besteht. Beispiele dafür sind KI-basierte Chatbots und KI-Basismodelle mit allgemeinem Verwendungszweck wie ChatGPT, Claude oder Gemini. KI-Systeme mit geringem Risiko müssen Transparenzanforderungen und das EU-Urheberrecht erfüllen. Unter anderem muss dafür offengelegt werden, dass der Inhalt (Text, Bild o.ä.) durch KI erzeugt wurde. Damit soll Nutzern jederzeit bewusst gemacht werden, dass sie es mit einer Maschine und nicht mit Menschen zu tun haben. KI-Systeme mit Minimalrisiko: Dazu zählen unkritische Anwendungen, etwa KI-gestützte Spiele. Diese KI-Systeme mit Minimalrisiko unterliegen keinen besonderen Vorschriften.
Wo liegt der Schwerpunkt der KI-Verordnung der EU?
Die KI-Verordnung der EU deckt mit den vier Risikokategorien eine breite Palette von Anwendungen ab. Je nach Risikostufe werden die KI-Anwendungen unterschiedlich reguliert. Besonders im Fokus stehen die KI-Technologien der Kategorie 2: Hochrisiko-KI-Systeme mit Gefahrenpotenzial für die menschliche Gesundheit, Sicherheit oder für die Grundrechte. Ein konkretes Beispiel für den Gesundheitsbereich sind KI-Systeme, die in der medizinischen Diagnostik eingesetzt werden. In den Bereich Grundrechtsgefährdung fallen unter anderem KI-Systeme in der Personalrekrutierung und im Bildungssystem. Breit gefächert ist der Risikobereich Sicherheit. Dieser betrifft alle Produkte, für die auch die EU-Verordnung zur allgemeinen Produktsicherheit (EU-Verordnung 2023/988) gilt. Darunter fallen bis auf wenige Ausnahmen alle Verbraucherprodukte, ohne Unterschied, ob sie für Geschäftskunden oder für Endkunden bestimmt sind.
Ab wann gilt die KI-Verordnung?
Die KI-Verordnung der EU ist am 1. August 2024 in Kraft getreten. Die meisten der Regelungen müssen zwei Jahre nach Inkrafttreten tatsächlich angewendet werden, also ab dem 2. August 2026. Davon gibt es drei Ausnahmen:
Ab dem 2. Februar 2025 gelten die Regeln zu den verbotenen KI-Systeme mit unannehmbarem Risiko.Ab dem 2. August 2025 gelten die Regelungen zu KI-Systemen mit allgemeinem Verwendungszweck und geringem Risiko.Ab dem 2. August 2027 gelten die Vorgaben zu KI-Systemen mit hohem Risiko.
Was bedeutet die KI-Verordnung für Automobilzulieferer?
Über die Risikokategorie 2 – KI-Systeme mit hohem Risiko – sind die Automobilindustrie und ihre Zulieferer direkt von der KI-Verordnung der EU betroffen. Diese Rubrik greift für den Anwendungsbereich Fahrzeuge und damit für alle in Pkws, Lkws, Zweirädern und sonstigen Fahrzeugen eingesetzte KIs. Das bedeutet: Unternehmen, die KI-Systeme für Fahrzeuge entwickeln, verbauen oder in Umlauf bringen, müssen sicherstellen, dass ihre KI-Systeme die regulatorischen Anforderungen der EU erfüllen. Dies schließt eine gründliche Risikobewertung, die Integration von Transparenzmechanismen und die kontinuierliche Überwachung der Systeme ein. Die notwendigen Anpassungen bedeuten zusätzliche Investitionen, die insbesondere kleinere Unternehmen vor Herausforderungen stellen können. Besonders betroffen sind autonome Fahrtechnologien und Fahrerassistenzsysteme, die als Hochrisiko-Anwendungen gelten und daher besonders strengen Anforderungen unterliegen. Von Vorteil für Automobilzulieferer ist, dass mit der Verordnung klare und einheitliche Standards eingeführt werden, die zu einer Steigerung der Produktqualität und einem Vertrauensgewinn bei Endkunden beitragen können.
Mehr erfahren
Unternehmen sollten sich frühzeitig über die Anforderungen der europäischen KI-Verordnung informieren, um die Übergangsfristen optimal zu nutzen.
Nützliche Anlaufstellen sind:
Europäische Union: Offizielle Informationen zur KI-Verordnung finden Sie auf den Internetseiten der EU Europäischer Ansatz für Künstliche Intelligenz
– KI-Gesetz: https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai
– KI-Gesetz: erste Regulierung der künstlichen Intelligenz: https://www.europarl.europa.eu/topics/de/article/20230601STO93804/ki-gesetz-erste-regulierung-der-kunstlichen-intelligenz
– Künstliche Intelligenz – Fragen und Antworten: https://ec.europa.eu/commission/presscorner/detail/de/qanda_21_1683
IHK Rheinhessen:
AI-Act: Die EU reguliert künstliche Intelligenz (KI): https://www.ihk.de/rheinhessen/innovation-umwelt/innovation-und-technologie/ai-act-die-eu-reguliert-ki-6224332
Bitkom:
Umsetzungsleitfaden zur KI-Verordnung (EU) 2024/1689: https://www.bitkom.org/Bitkom/Publikationen/Umsetzungsleitfaden-zur-KI-Verordnung-EU-2024-1689
