AI Act tritt in Kraft: Keine Gesichtserkennung mehr

Mit dem AI Act hat die EU einen bedeutenden Schritt unternommen, um die Regulierung von künstlicher Intelligenz voranzutreiben. Durch die Verschärfung der Regelungen soll insbesondere die Gesichtserkennung von Suchmaschinen wie PimEyes eingeschränkt werden, um die Privatsphäre und Sicherheit vieler Menschen zu schützen und potenzielle Missbräuche zu verhindern.

Pionierarbeit geleistet: Weltweit erster regulierter KI-Wirtschaftsraum

Durch die Vorlage eines Gesetzesentwurfs zur Regulierung von künstlicher Intelligenz am 21. April 2021 hat die EU ihre Führungsposition im Bereich der gesetzlichen Vorschriften untermauert. Nach der Abstimmung des Europäischen Parlaments am 14. Juni 2023 stehen nun Verhandlungen zwischen der Europäischen Kommission, dem Parlament und dem Rat bevor, um das Gesetz final zu gestalten.

Mit dem Fokus auf die Entwicklung und den Einsatz von KI innerhalb der EU sollen die Vorschriften sicherstellen, dass KI-Technologien menschlichen Werten entsprechen. Dies wird erreicht durch die Förderung von Transparenz, um das Vertrauen der Öffentlichkeit zu stärken, sowie durch die Einführung von Mechanismen zur Vermeidung von Diskriminierung und zum Schutz der Privatsphäre.

Was deckt das geplante Gesetz ab?

Die Definition eines KI-Systems, wie sie vom Europäischen Parlament vorgeschlagen wird, ermöglicht es, verschiedene Arten von Software in den Anwendungsbereich des Gesetzes einzubeziehen. Durch den Fokus auf den Grad der Gefahr, den ein KI-System darstellen kann, werden die Vorschriften in Kategorien unterteilt, um die Risiken angemessen zu berücksichtigen.

Verstoß gegen Ethik: Verbotene KI-Praktiken unterbinden

Einige KI-Praktiken haben das Potenzial, die Integrität von Finanzmärkten zu gefährden, indem sie automatisierte Handelsalgorithmen einsetzen, um unfair von Marktvolatilität oder anderen Faktoren zu profitieren. Dies stellt nicht nur eine Bedrohung für die finanzielle Sicherheit von Anlegern dar, sondern kann auch zu einer Instabilität der gesamten Wirtschaft führen.

• Beeinflussende KI-Techniken können Personen absichtlich schaden, mit Ausnahme von therapeutischen Zwecken.
• Durch die Anwendung von Techniken werden Personen aufgrund ihrer bekannten oder vorhergesagten Persönlichkeitsmerkmale, sozialen oder wirtschaftlichen Situationen, ihres Alters oder ihrer körperlichen/geistigen Fähigkeiten ausgebeutet, indem ihre Schwächen oder ihr Schutzbedarf gezielt ausgenutzt werden.
• Die biometrische Kategorisierung von Personen anhand sensibler Merkmale wie Geschlecht und ethnischer Zugehörigkeit wird durch spezialisierte Systeme ermöglicht. Diese Systeme nutzen fortschrittliche Technologien, um Merkmale zu erfassen und zu analysieren, dienen jedoch nicht therapeutischen Zwecken. Ihre Anwendungsfelder umfassen beispielsweise die Sicherheitsüberwachung, die Erforschung sozialer Trends oder die Erstellung von Bevölkerungsstatistiken.
• Das Ziel von Systemen zur Bewertung des sozialen Verhaltens besteht darin, objektive und quantifizierbare Maßstäbe für das soziale Verhalten von Menschen zu entwickeln. Diese Systeme erfassen und analysieren Informationen wie Gestik, Mimik, Tonfall und verbale Ausdrucksweise, um Muster und Trends im Verhalten von Individuen zu identifizieren. Dadurch können sie Einblicke in soziale Fähigkeiten, emotionale Zustände oder Verhaltensstörungen liefern.
• Biometrische Systeme bieten die Möglichkeit, Personen in Echtzeit oder nachträglich aus der Ferne an öffentlich zugänglichen Orten zu identifizieren. Dabei kommen Technologien wie die Analyse der Gangart oder die Erfassung von Venenstrukturen zum Einsatz, um eine präzise Identifizierung von Individuen zu gewährleisten.
• KI-Systeme setzen auf Profile und Standortinformationen von Einzelpersonen, um das Risiko von strafrechtlicher Aktivität oder Rückfälligkeit vorherzusagen. Durch die Verknüpfung von verschiedenen Datenquellen und die Anwendung fortschrittlicher Algorithmen können Behörden und Organisationen präventive Maßnahmen entwickeln, um das individuelle Verhalten zu beeinflussen und potenzielle Straftaten zu verhindern.
• Mithilfe von KI-Systemen können Datenbanken zur Gesichtserkennung durch das Extrahieren von Informationen aus dem Internet oder Überwachungskameras erstellt und aktualisiert werden. Dieser Ansatz bietet eine automatisierte Lösung, um große Mengen an Bildern zu verarbeiten und Identitäten effizient zu verifizieren oder zu überprüfen.
• Von der Strafverfolgung bis zur Bildung spielen KI-Systeme eine zunehmend wichtige Rolle bei der Emotionserkennung. Durch die Integration von maschinellem Lernen und Datenanalyse können diese Systeme dazu beitragen, verdächtiges Verhalten frühzeitig zu erkennen, die Sicherheit an Grenzen zu verbessern, das Arbeitsumfeld zu optimieren und emotionale Zustände von Schülern und Studenten besser zu verstehen.

Die Schattenseiten der hochriskanten KI-Technologie

Einige KI-Systeme werden aufgrund ihres hohen Risikopotenzials für die Gesundheit, Sicherheit und Grundrechte von Personen oder für die Umwelt als hochriskant eingestuft. Der Anhang III des Gesetzesentwurfs enthält acht Kategorien von solchen Systemen, zu denen beispielsweise autonome Roboter oder KI-Systeme für kritische Infrastrukturen gehören. Unternehmen sollten ihre KI-Anwendungen sorgfältig überprüfen, um sicherzustellen, dass sie keine hochriskanten Merkmale aufweisen, die einer zusätzlichen Regulierung unterliegen könnten.

Umfangreiche Anforderungen passen sich dem Risiko an

Um den rechtlichen und ethischen Rahmen bei KI-Anwendungen einzuhalten, sind verschiedene Maßnahmen erforderlich. Dazu gehören die vorherige Registrierung in einer EU-Datenbank, die Implementierung von Risiko- und Qualitätsmanagementstrategien, die Aufsicht durch menschliche Experten sowie die Offenlegung der Generierungsprozesse bei der Erstellung von Deepfake-Fotos zur Unterscheidung von realen Bildern.

Aktuelle Risikostufen: Bürgerförderung und -schutz im Fokus

Im Gesetzesentwurf für KI mit minimalem oder keinem Risiko sind Einschränkungen kaum vorhanden, da der Schwerpunkt auf allgemeinen Prinzipien liegt, die gewährleisten sollen, dass die KI unter menschlicher Aufsicht steht und vor technischen Störungen, Schäden und Cyberangriffen geschützt ist. Zusätzlich sind Datenschutzbestimmungen von großer Bedeutung, um die Privatsphäre zu wahren, und Diskriminierung soll verhindert werden.

Mit dem Ziel, den Einsatz von KI-Anwendungen zu verbessern, werden Ausnahmen für Forschungstätigkeiten gewährt, insbesondere durch die Förderung von Reallaboren. Diese Reallabore bieten Behörden die Möglichkeit, KI-Anwendungen unter realen Bedingungen zu testen und ihre Wirksamkeit sowie ihre Einsatzmöglichkeiten zu analysieren.

Der AI Act der EU ist eine wegweisende Regelung, die wichtige Vorteile bietet. Er schützt die Privatsphäre und Sicherheit der Menschen, indem er den Einsatz von KI-Systemen mit bedenklichen Praktiken einschränkt und verbietet. Zudem gewährleistet der AI Act, dass KI in Europa im Einklang mit den europäischen Werten steht und von menschlicher Aufsicht begleitet wird.

Die Verwendung von Gesichtserkennungssoftware wie PimEyes hat die Fähigkeit, die Anonymität von Personen ernsthaft zu gefährden und ihre Sicherheit zu beeinträchtigen. Besonders Menschen, die aufgrund ihrer beruflichen oder persönlichen Situation auf Anonymität angewiesen sind, müssen vor den potenziellen Risiken geschützt werden. Die Europäische Union hat daher den AI Act entwickelt, ein Gesetz zur Regulierung künstlicher Intelligenz, um die Verwendung von Gesichtserkennungssoftware einzuschränken und den Schutz der Privatsphäre zu gewährleisten.

Die Europäische Union hat einen wegweisenden Schritt unternommen, indem sie die gesetzliche Regulierung von Künstlicher Intelligenz vorantreibt. Der Entwurf des KI-Gesetzes, der im April 2021 von der Europäischen Kommission vorgelegt wurde, wurde vom Europäischen Parlament im Juni 2023 in einer Abstimmung behandelt, wodurch nun die Verhandlungen zwischen Kommission, Parlament und Rat zur finalen Ausgestaltung des Gesetzes beginnen können.

Um sicherzustellen, dass in der Europäischen Union entwickelte und eingesetzte Künstliche Intelligenz den Werten und Grundsätzen der EU entspricht, wurden Vorschriften eingeführt. Diese Vorschriften betreffen die Überwachung durch Menschen, die Sicherheitsanforderungen, den Schutz der Privatsphäre und die Transparenz, die Vermeidung von Diskriminierung sowie den Schutz von Gesellschaft und Umwelt vor potenziellen Schäden.

Beschreibung: Gemäß dem Europäischen Parlament wird ein KI-System als ein System beschrieben, das maschinengestützt agiert und in der Lage ist, Vorhersagen, Empfehlungen oder Entscheidungen zu generieren, die Auswirkungen auf das physische oder virtuelle Umfeld haben. Diese Definition schließt eine Vielzahl von Software ein und ermöglicht die Einteilung von KI-Systemen in verschiedene Kategorien basierend auf ihrem Gefährdungsgrad.

Gemäß einer Pressemitteilung sollen bestimmte KI-Praktiken untersagt werden, da sie als inakzeptable Bedrohung der menschlichen Sicherheit angesehen werden. Diese Praktiken umfassen den Einsatz von KI-Systemen, die aufgrund bekannter oder vorhergesagter Persönlichkeitsmerkmale oder sozialer, wirtschaftlicher, alters- oder körperlicher/geistiger Merkmale die Schwäche oder Schutzbedürftigkeit von Personen ausnutzen.

Zusätzlich sollen auch KI-Systeme verboten werden, die Datenbanken zur Gesichtserkennung aus dem Internet oder von Überwachungskameras erstellen oder erweitern. Solche Technologien können zu einem umfassenden Überwachungssystem führen, das die Privatsphäre der Menschen verletzt und ihre Bewegungsfreiheit einschränkt.

Bestimmte KI-Systeme wurden aufgrund ihres hohen Risikopotenzials für die Gesundheit, Sicherheit, Grundrechte von Personen oder die Umwelt als hochriskant eingestuft. Der Gesetzesentwurf hat im Anhang III acht spezifische Kategorien dieser Systeme aufgeführt, die Unternehmen berücksichtigen sollten, da sie Änderungen und Aktualisierungen unterliegen können, die von der Kommission vorgenommen werden.

Um den Schutz geistigen Eigentums zu gewährleisten, müssen KI-Systeme eine detaillierte Dokumentation und öffentliche Zugänglichkeit der verwendeten urheberrechtlich geschützten Daten sicherstellen. Dies ermöglicht es den Rechteinhabern, die Nutzung ihrer Werke zu überwachen und gegebenenfalls rechtliche Schritte einzuleiten.

Die vorgeschlagenen Einschränkungen im Gesetzesentwurf für Künstliche Intelligenz mit minimalem oder keinem Risiko sind äußerst begrenzt. Die einzigen Anforderungen sind die Einhaltung grundlegender Grundsätze wie menschliche Kontrolle und Überwachung, technische Robustheit, Schutz vor Schäden und Cyberangriffen, Datenschutzkonformität sowie die Vermeidung von Diskriminierung.

Im Hinblick auf die Förderung von Forschungstätigkeiten sollen gezielte Ausnahmen geschaffen werden, wobei ein besonderes Augenmerk auf die Förderung von Reallaboren gelegt wird. Durch die Bereitstellung solcher Testumgebungen erhalten Behörden die Möglichkeit, KI-Anwendungen unter realen Bedingungen zu evaluieren und Erkenntnisse über ihre Leistungsfähigkeit und Einsatzmöglichkeiten zu gewinnen.

Der AI Act, eine bedeutende Verordnung zur Regulierung von KI-Systemen, bietet maßgebliche Vorteile, um die Privatsphäre und Sicherheit der Menschen zu schützen. Durch die Einschränkung und das Verbot von KI-Systemen mit fragwürdigen Praktiken gewährleistet es, dass KI den europäischen Werten entspricht und einer menschlichen Aufsicht unterliegt. Unternehmen sollten daher frühzeitig ihre eigenen Systeme auf Konformität mit der Verordnung prüfen, um hohe Geldbußen zu vermeiden, die bei der Verwendung nicht zulässiger KI-Systeme drohen können. Obwohl die Anwendbarkeit der Verordnung voraussichtlich frühestens 2026 beginnen wird, ist es wichtig, bereits jetzt die erforderlichen Schritte zur Einhaltung der Vorschriften einzuleiten.