Stärkung des Vertrauens: Unabhängige Prüfungen für Hochrisiko-KI-Systeme

Mit dem AI Act hat Europa die Chance, eine führende Rolle in der vertrauenswürdigen und sicheren Anwendung von künstlicher Intelligenz einzunehmen. Dabei sollen die Vorteile von KI-Systemen genutzt und gleichzeitig mögliche Risiken begrenzt werden. Es gibt jedoch noch einige offene Fragen, die im Rahmen der aktuellen Verhandlungen geklärt werden müssen, um eine umfassende Regulierung zu gewährleisten.

Mangelnde Prüfpflicht: AI Act lässt Verbraucherprodukte ungeschützt

Eine Schwierigkeit im Rahmen des AI Acts besteht darin, dass hochriskante KI-Systeme nur dann als solche eingestuft werden, wenn die physischen Produkte, in die sie integriert werden, einer verpflichtenden Prüfung unterliegen. Dies bedeutet, dass Verbraucherprodukte wie Spielzeug oder Smart-Home-Geräte nicht von dieser Regelung erfasst werden. Um die Sicherheitsanforderungen für KI-basierte Verbraucherprodukte zu gewährleisten, müssen entsprechende Maßnahmen ergriffen werden, um diese Regelungslücke zu schließen.

Wichtigkeit klarer Klassifizierungskriterien für KI-Produkte betonen

Ein Problem ergibt sich bei der Klassifizierung von eigenständiger KI-Software, die auf den Markt gebracht wird. Die Entscheidung darüber, ob ein Produkt als hochrisikobasiert einzustufen ist oder nicht, obliegt den Anbietern selbst, was zu potenziellen Fehleinschätzungen führen kann. Um die Effektivität der verpflichtenden Anforderungen sicherzustellen, müssen klare Klassifizierungskriterien definiert werden.

Mehr Sicherheit durch unabhängige Prüfungen von KI-Technologien

Um das Vertrauen in KI-Systeme zu stärken, ist es entscheidend, dass unabhängige Prüfungen bei hochriskanten Systemen durchgeführt werden. Durch eine verpflichtende Zertifizierung durch benannte Stellen wird sichergestellt, dass die Technologie den erforderlichen Sicherheitsanforderungen entspricht. Dies ist von großer Bedeutung, da hochriskante KI-Systeme potenzielle Gefahren für Nutzer und Umwelt darstellen können. Eine solche Zertifizierung schafft Vertrauen und positioniert Europa als führenden Akteur in der sicheren Nutzung von künstlicher Intelligenz.

Interdisziplinäre „AI Quality & Testing Hubs“ auf Landes- und Bundesebene

Bei der Entwicklung und Nutzung von Reallaboren ist es entscheidend, unabhängige Prüforganisationen als Partner einzubeziehen. Der TÜV-Verband setzt sich aktiv dafür ein, technische und regulatorische Anforderungen an Künstliche Intelligenz zu identifizieren und Prüfstandards für sicherheitskritische KI-Anwendungen zu entwickeln. Um eine umfassende Überprüfung zu ermöglichen, sollten interdisziplinäre „AI Quality & Testing Hubs“ sowohl auf Landes- als auch auf Bundesebene etabliert werden.

Potenzial und Risiken: EU-Parlament möchte KI-Technologie regulieren

Basismodelle und generative KI-Systeme haben in den letzten Monaten bewiesen, dass sie ein erhebliches Potenzial besitzen. Jedoch dürfen wir nicht die Risiken aus den Augen verlieren, die mit ihrer Nutzung verbunden sind. Es ist daher ermutigend, dass das EU-Parlament plant, diese Technologie direkt im AI Act zu regulieren. Dennoch sollten wir sorgfältig prüfen, welche Basismodelle als besonders kritisch angesehen werden sollten und den strengen Anforderungen des AI Acts, einschließlich unabhängiger Drittprüfungen, unterliegen sollten.

KI-Sicherheit: EU-Regulierung stärkt Vertrauen und Wettbewerbsvorteile

Der AI Act bietet Europa die Chance, in der vertrauenswürdigen und sicheren Anwendung künstlicher Intelligenz weltweit führend zu werden. Durch eine verpflichtende Prüfung von hochriskanten KI-Systemen durch unabhängige Stellen wird das Vertrauen der Menschen gestärkt und „AI Made in Europe“ kann zu einem echten Qualitätsstandard und einem globalen Wettbewerbsvorteil avancieren. Es gibt jedoch noch Raum für Verbesserungen, insbesondere in Bezug auf die Einbeziehung von Verbraucherprodukten, die Klassifizierung von KI-Systemen und die Durchführung unabhängiger Prüfungen. Nur durch diese Maßnahmen kann Europa sein Potenzial im Bereich der künstlichen Intelligenz vollständig ausschöpfen.