Der AI Act, der von den EU-Institutionen verabschiedet wurde, bietet Europa die Möglichkeit, weltweit führend in der vertrauenswürdigen und sicheren Anwendung von künstlicher Intelligenz zu werden. Das Ziel besteht darin, die Chancen von KI-Systemen zu nutzen und gleichzeitig die Risiken zu minimieren. Allerdings gibt es noch einige Herausforderungen, die im Rahmen der aktuellen Verhandlungen angegangen werden müssen, um eine umfassende Regulierung zu gewährleisten.
Inhaltsverzeichnis: Das erwartet Sie in diesem Artikel
AI Act: Verbraucherprodukte sollten Prüfpflicht für KI-Systeme unterliegen
Der AI Act sieht vor, dass hochriskante KI-Systeme nur dann als solche eingestuft werden, wenn die physischen Produkte, in die sie integriert werden, bereits einer verpflichtenden Prüfung unterliegen. Dies führt zu einer Regelungslücke, da Verbraucherprodukte wie Spielzeug oder Smart-Home-Geräte nicht in diese Kategorie fallen. Um die Sicherheitsanforderungen für KI-basierte Verbraucherprodukte zu gewährleisten, müssen entsprechende Gesetzesänderungen vorgenommen werden.
Klassifizierung von KI-Systemen erfordert einheitliche Richtlinien und Vorgaben
Bei der Klassifizierung von eigenständigen KI-Systemen, die als eigenständige Software auf den Markt kommen, besteht ein Problem. Die Anbieter sind für die Risikobewertung und die Entscheidung, ob ihr Produkt als hochrisikobasiert einzustufen ist oder nicht, selbst verantwortlich. Dies kann zu Fehleinschätzungen führen. Um die Wirksamkeit der verpflichtenden Anforderungen sicherzustellen, ist es wichtig, klare Klassifizierungskriterien festzulegen.
Verpflichtende Zertifizierung schafft Vertrauen in KI-Technologien
Um das Vertrauen in KI-Systeme zu stärken, sollten bei hochriskanten Systemen unabhängige Prüfungen durchgeführt werden. Eine verpflichtende Zertifizierung durch benannte Stellen stellt sicher, dass die Technologie den erforderlichen Sicherheitsstandards entspricht. Dies ist von großer Bedeutung, da hochriskante KI-Systeme erhebliche Risiken für Nutzer und Umwelt bergen können. Durch eine solche Zertifizierung wird das Vertrauen in die Technologie gestärkt und Europa kann sich als weltweit führend in der vertrauenswürdigen und sicheren Nutzung von künstlicher Intelligenz positionieren.
Prüforganisationen als Partner für sichere KI-Anwendungen in Reallaboren
Um die Entwicklung und Nutzung von Reallaboren sicherer zu machen, sollten unabhängige Prüforganisationen als Partner einbezogen werden. Der TÜV-Verband engagiert sich aktiv bei der Identifizierung technischer und regulatorischer Anforderungen an Künstliche Intelligenz und entwickelt Prüfstandards für sicherheitskritische KI-Anwendungen. Um eine ganzheitliche Überprüfung zu gewährleisten, sollten interdisziplinäre „AI Quality & Testing Hubs“ auf Landes- und Bundesebene eingerichtet werden.
KI-Regulierung: Untersuchung hochkritischer Basismodelle gefordert
Basismodelle und generative KI-Systeme haben in den letzten Monaten gezeigt, dass sie ein erhebliches Potenzial besitzen, aber auch mit Risiken verbunden sind. Daher ist es zu begrüßen, dass das EU-Parlament plant, diese Technologie direkt im AI Act zu regulieren. Es ist jedoch wichtig, eine genaue Bewertung der Basismodelle vorzunehmen, um festzustellen, welche als hochkritisch einzustufen sind und den Anforderungen des AI Acts, einschließlich unabhängiger Drittprüfungen durch benannte Stellen, gerecht werden sollten.
Unabhängige Prüfungen: Schlüssel zur maximalen Nutzung von KI-Potenzial
Europa hat durch den AI Act die Chance, weltweit führend in der vertrauenswürdigen und sicheren Nutzung von künstlicher Intelligenz zu werden. Durch eine verpflichtende Prüfung von hochriskanten KI-Systemen durch unabhängige Stellen wird das Vertrauen der Menschen gestärkt und „AI Made in Europe“ kann zu einem echten Qualitätsstandard und einem globalen Wettbewerbsvorteil werden. Es gibt jedoch noch einige Herausforderungen, die gelöst werden müssen, wie die Einbeziehung von Verbraucherprodukten, die Klassifizierung von KI-Systemen und die Durchführung unabhängiger Prüfungen. Nur durch diese Maßnahmen kann Europa sein volles Potenzial im Bereich der künstlichen Intelligenz ausschöpfen.
