Der TÜV-Verband begrüßt die heutige Zustimmung des Rats zur europäischen KI-Verordnung (AI Act), mit der der erste europäische Rechtsrahmen für sichere und vertrauenswürdige KI geschaffen wird. Vor der Abstimmung war ungewiss, ob der AI Act eine Mehrheit im Rat finden würde, da unter anderem Deutschland und Frankreich Vorbehalte geäußert hatten. „Ein Scheitern des AI Acts hätte zur Folge gehabt, dass KI-Systeme auf absehbare Zeit unreguliert – und damit unsicher – geblieben wären. Die jetzige Einigung zeigt die Entschlossenheit der EU-Mitgliedstaaten, Künstliche Intelligenz sicher zu machen“, sagt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands. „Mit dem AI Act positioniert sich die EU klar als Vorreiter für sichere und vertrauenswürdige KI.“ Das bringe einen entscheidenden Wettbewerbsvorteil.
Risikobasierter Ansatz schafft Balance zwischen Innovation und Sicherheit
Ein zentrales Element des AI Acts ist der risikobasierte Ansatz. Nur KI-Systeme, die als hochriskant eingestuft werden, müssen verpflichtende Sicherheitsanforderungen erfüllen. Dazu zählen zum Beispiel KI-Systeme in Medizinprodukten oder in kritischen Infrastrukturen. Aus Sicht des TÜV-Verbands ist es wichtig, dass bestimmte hochriskante KI-Systeme zwingend von einer unabhängigen Prüfstelle geprüft werden müssen. So kann sichergestellt werden, dass alle Anforderungen an Transparenz, Datenqualität oder Cybersicherheit eingehalten werden. Weniger risikobehaftete KI-Systeme fallen dagegen nicht in den Anwendungsbereich der Regulierung.
Bühler: „Mit dem risikobasierten Ansatz schafft der EU-Gesetzgeber die richtige Balance zwischen Innovationsoffenheit und dem notwendigen Schutzniveau. Der AI Act wird den Erfolg europäischer KI-Anbieter fördern, indem er Sicherheit und Vertrauen als wichtiges Alleinstellungsmerkmal von KI ‚Made in Europe‘ fördert.“
Allzweck-KI-Systeme wie ChatGPT müssen verpflichtende Anforderungen erfüllen
Ausdrücklich positiv zu bewerten ist ebenfalls, dass künftig auch sogenannte Allzweck-KI, zum Beispiel generative KI-Modelle wie ChatGPT, bestimmte Mindestanforderungen erfüllen müssen. Bühler: „Insbesondere leistungsstarke KI-Modelle können für Fake News, Deepfakes oder die Manipulation vulnerabler Gruppen genutzt werden und bergen damit große Risiken für Sicherheit und Demokratie. Mit der Regulierung dieser Systeme geht der EU-Gesetzgeber entschlossen gegen diese Bedrohungen unserer Demokratie vor, was im Superwahljahr 2024 mit Blick auf mögliche Wahlkampfbeeinflussung umso wichtiger ist.“
TÜV-Verband fordert einheitliche Umsetzung und klare Leitfäden
Nun gilt es, die Weichen für eine erfolgreiche Umsetzung des AI Acts auf nationaler und europäischer Ebene zu stellen. Die Anforderungen des AI Acts müssen zeitnah durch harmonisierte europäische Normen konkretisiert werden, um Rechtssicherheit für KI-Anbieter, Prüforganisationen und Behörden zu schaffen. Darüber hinaus müssen Rechtsunsicherheiten bei der genauen Klassifizierung von Hochrisiko-KI-Systemen beseitigt werden. Der TÜV-Verband drängt darauf, dass die EU-Kommission zeitnah klare Umsetzungsleitfäden mit konkreten Beispielen veröffentlicht, um möglichen Fehleinschätzungen durch die Anbieter vorzubeugen.
Prüfbereitschaft von KI-Systemen muss von allen Akteuren hergestellt werden
Der Umsetzungserfolg des AI Acts wird wesentlich von der rechtzeitigen und vollständigen Prüfbereitschaft aller Akteure im KI-Ökosystem abhängen. „Anbieter von KI-Systemen sind aufgefordert, sich bereits heute mit den Anforderungen des AI Acts auseinanderzusetzen“, sagt Bühler. Viele Anforderungen können von Anbietern in bestehende Qualitäts- und Risikomanagementsysteme integriert werden.
Der TÜV-Verband begrüßt dabei auch die Verpflichtung der Mitgliedstaaten, entsprechende Reallabore (sogenannte „Regulatory Sandboxes“) einzurichten, in denen Anbieter ihre KI-Systeme entwicklungsbegleitend testen können. Für solche KI-Qualitätszentren, die auch KMU und Start-ups zugutekommen sollen, setzt sich der TÜV-Verband seit mehreren Jahren mit den AI Quality & Testing Hubs ein.
Die TÜV-Prüforganisationen bereiten sich intensiv auf den Aufbau von entsprechendem Prüf-Know-How vor. Bereits Anfang 2021 wurde das TÜV AI.Lab gegründet, um regulatorische und technische Anforderungen an KI zu begleiten und die Entwicklung von Prüfkriterien voranzutreiben. Das TÜV AI.Lab engagiert sich dabei unter anderem als Partner in der Nationalen Initiative für Künstliche Intelligenz und Datenökonomie (MISSION KI) des Bundesministeriums für Digitales und Verkehr und der Deutschen Akademie der Technikwissenschaften.
Hintergrund: Die EU-Institutionen haben sich im Dezember 2023 auf einen politischen Kompromisstext zum AI Act geeinigt. Mit der Ratsabstimmung haben die EU-Mitgliedsstaaten diesem Kompromiss nun offiziell zugestimmt. Nun muss noch das EU-Parlament - voraussichtlich im April - über den Text abstimmen. Anschließend wird der Text im Amtsblatt der EU veröffentlicht und tritt damit offiziell in Kraft. Nach einer Übergangsfrist von zwei Jahren sind die meisten Anforderungen ab voraussichtlich Mitte 2026 verpflichtend anzuwenden.
Risikobasierter Ansatz schafft Balance zwischen Innovation und Sicherheit
Ein zentrales Element des AI Acts ist der risikobasierte Ansatz. Nur KI-Systeme, die als hochriskant eingestuft werden, müssen verpflichtende Sicherheitsanforderungen erfüllen. Dazu zählen zum Beispiel KI-Systeme in Medizinprodukten oder in kritischen Infrastrukturen. Aus Sicht des TÜV-Verbands ist es wichtig, dass bestimmte hochriskante KI-Systeme zwingend von einer unabhängigen Prüfstelle geprüft werden müssen. So kann sichergestellt werden, dass alle Anforderungen an Transparenz, Datenqualität oder Cybersicherheit eingehalten werden. Weniger risikobehaftete KI-Systeme fallen dagegen nicht in den Anwendungsbereich der Regulierung.
Bühler: „Mit dem risikobasierten Ansatz schafft der EU-Gesetzgeber die richtige Balance zwischen Innovationsoffenheit und dem notwendigen Schutzniveau. Der AI Act wird den Erfolg europäischer KI-Anbieter fördern, indem er Sicherheit und Vertrauen als wichtiges Alleinstellungsmerkmal von KI ‚Made in Europe‘ fördert.“
Allzweck-KI-Systeme wie ChatGPT müssen verpflichtende Anforderungen erfüllen
Ausdrücklich positiv zu bewerten ist ebenfalls, dass künftig auch sogenannte Allzweck-KI, zum Beispiel generative KI-Modelle wie ChatGPT, bestimmte Mindestanforderungen erfüllen müssen. Bühler: „Insbesondere leistungsstarke KI-Modelle können für Fake News, Deepfakes oder die Manipulation vulnerabler Gruppen genutzt werden und bergen damit große Risiken für Sicherheit und Demokratie. Mit der Regulierung dieser Systeme geht der EU-Gesetzgeber entschlossen gegen diese Bedrohungen unserer Demokratie vor, was im Superwahljahr 2024 mit Blick auf mögliche Wahlkampfbeeinflussung umso wichtiger ist.“
TÜV-Verband fordert einheitliche Umsetzung und klare Leitfäden
Nun gilt es, die Weichen für eine erfolgreiche Umsetzung des AI Acts auf nationaler und europäischer Ebene zu stellen. Die Anforderungen des AI Acts müssen zeitnah durch harmonisierte europäische Normen konkretisiert werden, um Rechtssicherheit für KI-Anbieter, Prüforganisationen und Behörden zu schaffen. Darüber hinaus müssen Rechtsunsicherheiten bei der genauen Klassifizierung von Hochrisiko-KI-Systemen beseitigt werden. Der TÜV-Verband drängt darauf, dass die EU-Kommission zeitnah klare Umsetzungsleitfäden mit konkreten Beispielen veröffentlicht, um möglichen Fehleinschätzungen durch die Anbieter vorzubeugen.
Prüfbereitschaft von KI-Systemen muss von allen Akteuren hergestellt werden
Der Umsetzungserfolg des AI Acts wird wesentlich von der rechtzeitigen und vollständigen Prüfbereitschaft aller Akteure im KI-Ökosystem abhängen. „Anbieter von KI-Systemen sind aufgefordert, sich bereits heute mit den Anforderungen des AI Acts auseinanderzusetzen“, sagt Bühler. Viele Anforderungen können von Anbietern in bestehende Qualitäts- und Risikomanagementsysteme integriert werden.
Der TÜV-Verband begrüßt dabei auch die Verpflichtung der Mitgliedstaaten, entsprechende Reallabore (sogenannte „Regulatory Sandboxes“) einzurichten, in denen Anbieter ihre KI-Systeme entwicklungsbegleitend testen können. Für solche KI-Qualitätszentren, die auch KMU und Start-ups zugutekommen sollen, setzt sich der TÜV-Verband seit mehreren Jahren mit den AI Quality & Testing Hubs ein.
Die TÜV-Prüforganisationen bereiten sich intensiv auf den Aufbau von entsprechendem Prüf-Know-How vor. Bereits Anfang 2021 wurde das TÜV AI.Lab gegründet, um regulatorische und technische Anforderungen an KI zu begleiten und die Entwicklung von Prüfkriterien voranzutreiben. Das TÜV AI.Lab engagiert sich dabei unter anderem als Partner in der Nationalen Initiative für Künstliche Intelligenz und Datenökonomie (MISSION KI) des Bundesministeriums für Digitales und Verkehr und der Deutschen Akademie der Technikwissenschaften.
Hintergrund: Die EU-Institutionen haben sich im Dezember 2023 auf einen politischen Kompromisstext zum AI Act geeinigt. Mit der Ratsabstimmung haben die EU-Mitgliedsstaaten diesem Kompromiss nun offiziell zugestimmt. Nun muss noch das EU-Parlament - voraussichtlich im April - über den Text abstimmen. Anschließend wird der Text im Amtsblatt der EU veröffentlicht und tritt damit offiziell in Kraft. Nach einer Übergangsfrist von zwei Jahren sind die meisten Anforderungen ab voraussichtlich Mitte 2026 verpflichtend anzuwenden.
