In einer Zeit, in der künstliche Intelligenz (KI) zunehmend in unser tägliches Leben und unsere Geschäftstätigkeit integriert wird, ist das Verständnis und die Einhaltung von Regelungsrahmen entscheidend. Die EU-KI-Verordnung stellt einen Pionierschritt der Europäischen Union dar, um einen globalen Massstab in der KI-Regulierung zu setzen. Diese umfassende Gesetzgebung zielt darauf ab, dass KI-Systeme sicher, transparent und innerhalb strenger ethischer Grenzen arbeiten. Da sich KI-Technologien weiterentwickeln und verbreiten, müssen Unternehmen, Entwickler und Nutzer diese Vorschriften verstehen, um nicht nur Innovation zu fördern, sondern auch grundlegende Menschenrechte zu schützen und Produktsicherheitsstandards im digitalen Zeitalter einzuhalten.
Die EU-KI-Verordnung ist besonders bedeutsam, da sie bestehende Gesetze wie Datenschutz, digitale Dienste, Vertragsrecht und Immaterialgüterrecht ergänzt und dabei einen besonderen Fokus auf hochrisiko- und sicherheitskritische Systeme legt. Das Verständnis dieser Verordnung ist für alle Beteiligten, die an der Entwicklung und dem Einsatz von KI in der EU und darüber hinaus beteiligt sind, unerlässlich, da sie die Landschaft prägt, in der sie tätig sind.
1 Die KI-Verordnung: Was ihr wissen müsst
In diesem Abschnitt tauchen wir ins Herz der EU-KI-Verordnung ein und erkunden ihre grundlegenden Elemente. Ihr werdet Einblicke in die Definitionen und den Geltungsbereich der Verordnung gewinnen und verstehen, nicht nur wer davon betroffen ist, sondern auch wie sie eure Pflichten prägt. Durch einen genaueren Blick werden wir die wesentlichen Verpflichtungen und Schutzbestimmungen erkunden, die für die Compliance erforderlich sind.
1.1 Definition und Geltungsbereich der EU-KI-Verordnung
Um die Details der Verordnung zu verstehen, ist es wichtig, die Schlüsselkonzepte zu verstehen, die sie verwendet. Aus diesem Grund werden wir euch zuerst dabei helfen zu verstehen, ob und wie die KI-Verordnung auf euch anwendbar ist, um sicherzustellen, dass eure KI-Anwendungen nicht nur innovativ, sondern auch konform und ethisch sind.
1.1.1 KI-Systeme
KI-Systeme sind der Eckpfeiler der KI-Verordnung, was Systeme bedeutet, die fünf Schlüsselkriterien erfüllen, um als KI zu gelten:
- Sie sind maschinengestützte Systeme;
- Sie sind so konzipiert, dass sie mit unterschiedlichem Autonomiegrad arbeiten und nach der Bereitstellung Anpassungsfähigkeit aufweisen können;
- Sie sind auf explizite oder implizite Ziele ausgerichtet;
- Sie leiten aus den eingegebenen Daten ab, wie sie Ausgaben generieren;
- Ihr könnt physische oder virtuelle Umgebungen beeinflussen.
In der Praxis nutzen diese Systeme maschinelles Lernen, um Aufgaben mit einem gewissen Mass an Autonomie auszuführen. Ein KI-System könnte von einem einfachen Chatbot auf eurer Website bis zu einem komplexen Algorithmus zur Vorhersage von Verbraucherverhalten reichen. Die KI-Verordnung regelt diese Systeme mit einem risikobasierten Ansatz, bei dem die verschiedenen Akteure in der Lieferkette je nach dem dem System innewohnenden Risiko unterschiedlichen Verpflichtungen unterliegen, die innerhalb des territorialen Geltungsbereichs der Verordnung verfügbar oder verwendet werden.
1.1.2 Allgemeine KI-Modelle
Allgemeine KI-Modelle (GPAIs) unterliegen einer besonderen Regulierung gemäss der KI-Verordnung. Diese werden mit den folgenden Elementen definiert:
- KI-Modelle, die eine signifikante Allgemeinheit aufweisen und in der Lage sind, eine breite Palette unterschiedlicher Aufgaben kompetent auszuführen;
- KI-Modelle, die in verschiedenste nachgelagerte Systeme oder Anwendungen integriert werden können;
- KI-Modelle, die trainiert wurden, nämlich mit einer grossen Datenmenge unter Verwendung von Self-Supervision in grossem Massstab.
Auf diese Weise konzentriert sich die KI-Verordnung auf KI-Modelle, die mehrere Aufgaben bewältigen können, von der Sprachverarbeitung bis zur Bilderkennung, die flexibel genug sind, um verwendet zu werden und verschiedene Sektoren erheblich zu beeinflussen.
Wenn euer Unternehmen solche Modelle nutzt oder sie in andere Systeme integriert, müsst ihr proaktiv ihre Auswirkungen auf ihre vorhersehbaren Anwendungen bewerten. Dies umfasst die Durchführung von Auswirkungsbewertungen und die Sicherstellung, dass die Anpassungsfähigkeit des Modells nicht beeinträchtigt, z.B. die Privatsphäre oder Sicherheit der Nutzer, wie wir im Folgenden erötern werden.
1.2 Rollen gemäss der KI-Verordnung
Wenn die verwendete Software das erste Schlüsselkonzept der KI-Verordnung ist, ist das andere die Rolle, die Unternehmen einnehmen, die diese Software nutzen oder verfügbar machen. Auf diese Weise sind Anbieter, Nutzer, Importeure und Distributoren alle wichtige Akteure gemäss der KI-Verordnung. Jede Rolle trägt spezifische Verantwortungen, um sicherzustellen, dass KI-Systeme sicher und konform sind, bevor sie auf den Markt gelangen.
Das bedeutet, dass ihr nach dem Abschluss, dass ihr mit einem KI-System oder GPAI konfrontiert seid, und um konkret zu bestimmen, wie die KI-Verordnung eure Geschäftstätigkeit beeinflusst, euch der Rolle bewusst sein müsst, die ihr erfüllt:
- Anbieter entwickeln und bieten die Software auf dem EU-Markt an. Sie erfüllen folgende Kriterien: Sie entwickeln ein KI-System/GPAI (oder lassen es entwickeln);
Sie bringen es auf dem EU-Markt in Verkehr, setzen es unter ihrem eigenen Namen/ihrer Marke in Betrieb, oder die vom KI-System erzeugte Leistung wird in der EU genutzt;
Ihr könnt eine natürliche oder juristische Person, Behörde, Agentur usw. sein;
Sie bieten das System/Modell entweder gegen Entgelt oder kostenlos an.
- Nutzer nutzen KI-Systeme und/oder GPAIs professionell und müssen folgende spezifische Anforderungen erfüllen: Nutzen ein KI-System/GPAI unter ihrer eigenen Autorität, oder die vom KI-System erzeugte Leistung wird in der EU genutzt;
Nutzen das System nicht für private/nicht-professionelle Aktivitäten (z.B. private Nutzung);
Sind eine natürliche oder juristische Person, Behörde, Agentur usw.
- Importeure, die KI-Systeme von Drittanbietern auf dem EU-Markt platzieren, müssen die folgenden Kriterien erfüllen:
Das Unternehmen ist in der EU ansässig oder etabliert;
Das Unternehmen ist eine natürliche oder juristische Person, Behörde, Agentur usw.
Das Unternehmen bringt ein KI-System auf dem EU-Markt in Verkehr;
Das KI-System trägt den Namen/die Marke einer Person oder eines in einem Drittland zur EU ansässigen Unternehmens.
- Distributoren machen KI-Systeme auf dem EU-Markt verfügbar und sind nicht bereits als Importeure oder Anbieter abgedeckt. Sie müssen folgende Richtlinien einhalten: Machen das KI-System auf dem EU-Markt verfügbar;
Sind nicht für die Nutzung verantwortlich (sind nicht der Anbieter) und nicht für den Import des Systems (Importer);
Sind eine natürliche oder juristische Person, Behörde, Agentur usw.
“Nach dem Abschluss, dass ihr mit einem KI-System oder GPAI konfrontiert seid, und um konkret zu bestimmen, wie die KI-Verordnung eure Geschäftstätigkeit beeinflusst, müsst ihr euch der Rolle bewusst sein, die ihr erfüllt, von Anbieter, Nutzer, Importer und Distributor”
2 Verständnis der wichtigsten Anforderungen der EU-KI-Verordnung
Nach der Feststellung, dass die KI-Verordnung auf euch anwendbar ist, müsst ihr verstehen, wie. Die KI-Verordnung definiert unterschiedliche Verpflichtungen, von einem allgemeineren Niveau (KI-Kompetenz) bis zu KI-System-spezifischen Verpflichtungen und dann bis zu GPAI-Anforderungen.
2.1 KI-Kompetenz
Auf der allgemeineren Ebene ist die KI-Kompetenz eine erste Verpflichtung gemäss der KI-Verordnung, die die Bedeutung von Bewusstsein und Verständnis bei denjenigen anerkennt, die KI-Systeme einsetzen und mit ihnen interagieren. Unternehmen, auf die die Verordnung anwendbar ist, müssen sicherstellen, dass ihr Personal und alle Drittnutzer angemessen über die KI-Systeme, die sie nutzen, informiert werden.
Dies beinhaltet klare Kommunikation darüber, wie die KI funktioniert, ihre Grenzen und ihre beabsichtigten Anwendungsfälle. Praktische Schritte umfassen die Entwicklung von Schulungsprogrammen und die Bereitstellung zugänglicher Ressourcen, die KI-Technologien entmystifizieren.
Zum Beispiel sollte ein Unternehmen, das ein KI-System zur Kreditbewertung einsetzt, seine Mitarbeiter darüber aufklären, wie das System die Kreditwürdigkeit bewertet und welche Faktoren es berücksichtigt.
2.2 Kategorisierung von KI-Systemen und Risikoniveaus
KI-Systeme werden gemäss der EU-KI-Verordnung auf Basis der Risiken, die sie darstellen, spezifisch zielgerichtet und kategorisiert. Diese Klassifizierung ist entscheidend, da sie direkt beeinflusst, wie Unternehmen KI-Technologien verwalten und einsetzen sollten.
Die EU-KI-Verordnung identifiziert vier Hauptrisiokategorien für KI-Systeme, jede mit spezifischen regulatorischen Anforderungen.
2.2.1 KI-Systeme mit minimalem Risiko
KI-Systeme mit minimalem Risiko bieten die meiste Freiheit, erfordern aber immer noch die Einhaltung bestehender Gesetze. Diese Kategorie bedeutet ein niedriges Besorgnisniveau aus Sicht der KI-Verordnung, einschliesslich Systeme wie E-Mail-Spam-Filter, die ohne zusätzliche Lasten eingesetzt werden können. Unternehmen müssen jedoch sicherstellen, dass diese Systeme andere anwendbare Vorschriften nicht verletzen, wie z.B. Datenschutzgesetze. Regelmässige Datenschutz-Compliance-Checks und Aktualisierungen der Datenschutzerklärungen könnten notwendig sein, um mit den Rechtsstandards Schritt zu halten.
Diese können z.B. automatisierte Kundenservice-Bots, KI-gestützte E-Mail-Sortierung und Inhaltsempfehlungsalgorithmen für unkritische Inhalte betreffen. Diese Systeme sind weit verbreitet in verschiedenen Sektoren, einschliesslich Einzelhandel, Gastgewerbe und allgemeiner Unternehmenskommunikation. Sie bieten Komfort und Effizienz ohne bedeutende Risiken für individuelle Rechte oder Sicherheit zu schaffen. Aus diesem Grund ist die durch die KI-Verordnung auferlegte regulatorische Last auf ihnen begrenzt (z.B. KI-Kompetenz-Verpflichtungen).
2.2.2 KI-Systeme mit spezifischen Verpflichtungen
Bei KI-Systemen, die spezifische Transparenzrisiken darstellen, ist die Gewährleistung von Klarheit gegenüber den ihnen ausgesetzten Personen entscheidend. Solche Systeme können Entscheidungen oder Verhaltensweisen von Personen beeinflussen, was es entscheidend macht, Nutzer zu informieren, dass sie mit KI interagieren. Zum Beispiel, wenn euer Unternehmen einen Chatbot für Kundeninteraktionen einsetzt, sollte dieser explizit als KI-gesteuert gekennzeichnet werden. Dies beinhaltet Aktualisierungen von Benutzerschnittstellen und klare Kommunikationsstrategien. Transparenz baut nicht nur Vertrauen auf, sondern entspricht auch rechtlichen Anforderungen und schützt vor möglichen Manipulationen. Durch die Begrüssung von Transparenz verstärken Unternehmen ihr Engagement für ethische KI-Nutzung.
Diese Kategorie umfasst KI-gesteuerte Inhaltserstellungswerkzeuge (wie solche, die Nachrichtenartikel generieren oder Kunstwerke erstellen) und virtuelle Assistenten. Diese Anwendungen finden sich in Sektoren wie Marketing, Kundenservice, Medien und Unterhaltung. Die wichtigste Anforderung hier ist, dass Unternehmen die Nutzung von KI klar gegenüber Nutzern offenlegen und sicherstellen, dass Menschen wissen, wenn sie mit einer Maschine anstelle eines Menschen interagieren.
2.2.3 KI-Systeme mit hohem Risiko
KI-Systeme mit hohem Risiko erfordern umfassende Massnahmen aufgrund ihrer potenziellen Auswirkungen auf grundlegende Rechte und Sicherheit. Diese Kategorie umfasst KI-Systeme, die in kritischen Infrastrukturen, bei der Beschäftigung und anderen sensiblen Bereichen eingesetzt werden. Die Compliance erfordert detaillierte Risikobewertungen, Dokumentation und Einhaltung strenger regulatorischer Standards. Zum Beispiel muss ein KI-System, das zur Screenung von Bewerbungen verwendet wird, transparent und fair sein und darf Bewerber nicht diskriminieren. Unternehmen müssen strenge Testprotokolle einrichten und detaillierte Aufzeichnungen über die Entwicklung, den Einsatz und die Auswirkungen ihrer KI-Systeme führen. Im Wesentlichen erfordert der Umgang mit KI mit hohem Risiko einen proaktiven Ansatz, um sicherzustellen, dass Innovation nicht auf Kosten ethischer Überlegungen oder Sicherheit geht.
Die hochrisiko-Systeme werden auch in mehreren Sektoren existieren, auch wenn die KI-Verordnung einen besonderen Fokus auf Sektoren wie Versorgungsunternehmen, Personal und Rekrutierung, Bildung, Finanzen und Versicherungen legt. Ihr könnt beispielsweise KI-Anwendungen in kritischer Infrastruktur-Überwachung (wie Stromnetzverwaltungssysteme), Rekrutierungssoftware zur Analyse von Bewerbungen, KI-Tools in Bildungseinrichtungen zur Prüfungsüberwachung oder zur Anpassung von Lernwegen und KI-Systemen zur Bewertung der Kreditwürdigkeit oder zur Bestimmung von Versicherungsprämien umfassen.
2.2.4 Verbotene KI-Systeme
Schliesslich setzt die KI-Verordnung nicht verhandelbare Grenzen mit einem Satz verbotener KI-Systeme. Diese umfassen Anwendungen, die als zu schädlich angesehen werden, wie einige Systeme der Echtzeitüberwachung biometrischer Daten im öffentlichen Raum. Unternehmen müssen ihre KI-Anwendungen überprüfen, um sicherzustellen, dass keine dieser Verbote verletzen. Die Eliminierung oder Änderung solcher Systeme ist nicht nur eine Compliance-Frage; es geht darum, sich mit gesellschaftlichen Werten auszurichten und grundlegende Rechte zu schützen. Die Botschaft ist klar: Innovation muss ethische Grenzen respektieren.
Die KI-Verordnung konzentriert sich hauptsächlich auf Kernbereiche, die anfällig für umfangreiche Überwachung, Manipulation oder invasive Profilierung sein können, z.B. in der Strafverfolgung, im Marketing und in der öffentlichen Verwaltung. Hier können wir Systeme der Sozialkreditbewertung, die von öffentlichen oder privaten Stellen verwendet werden, KI-Anwendungen, die Anfälligkeit von Personen ausnutzen oder unterschwellige Techniken zur Manipulation von Entscheidungen einsetzen, Echtzeitfernsystem für biometrische Identifikation in öffentlich zugänglichen Räumen (mit bestimmten Ausnahmen), Systeme, die Personen auf Basis biometrischer Daten kategorisieren, um sensible Informationen abzuleiten, und Systeme, die Gesichtserkennungsdatenbanken durch ungezielte Scraping von Gesichtsbildern aus dem Internet oder von CCTV-Aufnahmen erstellen oder erweitern, einbeziehen.
2.3 Detaillierter Überblick über die Regulierung von KI-Systemen mit hohem Risiko
Innerhalb dieser Kategorien sind KI-Systeme mit hohem Risiko die am stärksten regulierten, da sie erhebliche Auswirkungen auf individuelle Rechte und gesellschaftliche Werte haben. In diesem Sinne qualifizieren sich KI-Systeme als hochrisiko, wenn sie entweder:
- Vorgesehen sind, als Sicherheitskomponente eines Produkts verwendet zu werden, oder selbst das Produkt darstellen, das von spezifischer EU-Harmonisierungsgesetzgebung (z.B. Richtlinie 2009/48/EG zur Sicherheit von Spielzeug, Verordnung (EU) 2017/745 über Medizinprodukte) abgedeckt ist, und einer Konformitätsbewertung durch Dritte unterliegen müssen, um auf dem Markt in Verkehr gebracht oder in Betrieb genommen zu werden gemäss dieser Gesetzgebung;
- Vorgesehen sind, in spezifischen in der KI-Verordnung enthaltenen Sektoren (z.B. Biometrie, kritische Infrastrukturen, Bildung und Berufsausbildung, Beschäftigung) eingesetzt zu werden, es sei denn, sie stellen kein signifikantes Risiko für Schaden an der Gesundheit, Sicherheit oder grundlegenden Rechten natürlicher Personen dar.
Wie wir unten sehen werden, sind Anbieter für die anfänglichen Konformitätsbewertungen verantwortlich, um sicherzustellen, dass ihre KI-Systeme die strengen Standards der EU erfüllen, bevor sie auf den Markt gelangen. Nutzer hingegen müssen sicherstellen, dass die KI-Systeme in Übereinstimmung mit diesen Standards verwendet werden, unter Berücksichtigung des operativen Kontexts und der Nutzerinteraktionen. Dies umfasst die Implementierung transparenter Benutzerschnittstellen und die Bereitstellung klarer Informationen über die Fähigkeiten und die Entscheidungslogik des KI-Systems.
2.3.1 Bewertung von KI-Systemen mit hohem Risiko
Bewertungen sind ein besonders wichtiges Element der Regulierung von KI-Systemen mit hohem Risiko. Durch einen detaillierteren Blick auf diese Prozesse können Unternehmen Einblicke gewinnen, nicht nur um rechtliche Anforderungen zu erfüllen, sondern auch ethische und transparente Praktiken in ihre KI-Lösungen einzubetten.
Gemäss der KI-Verordnung unterliegen KI-Systeme mit hohem Risiko verschiedenen Bewertungen, die hauptsächlich Anbieter erfüllen müssen. Diese umfassen:
- Konformitätsbewertungen durch Dritte mit dem Ziel, das KI-System auf dem Markt in Verkehr zu bringen oder in Betrieb zu nehmen gemäss anderer EU-Sektorgesetzgebung, wie Verordnung (EG) Nr. 300/2008 über gemeinsame Grundsätze auf dem Gebiet der Flugsicherheit und Verordnung (EU) 2018/858 über die Genehmigung und die Marktüberwachung von Kraftfahrzeugen und ihren Anhängern sowie von Systemen, Bauteilen und separaten technischen Einheiten;
- Bewertung durch den Anbieter, das sein System, das ursprünglich durch die KI-Verordnung als hochrisiko angesehen wurde (Anlage III der Verordnung), tatsächlich nicht hochrisiko ist, bevor es auf dem Markt in Verkehr gebracht oder in Betrieb genommen wird;
- Bewertung der Verfügbarkeit, Qualität und Eignung der Datensätze, die zum Trainieren des KI-Systems mit hohem Risiko erforderlich sind;
- Eine Strategie für die Einhaltung von Vorschriften, einschliesslich der Einhaltung von Konformitätsbewertungsverfahren und Verfahren zur Verwaltung von Änderungen am KI-System mit hohem Risiko.
Es gibt jedoch zwei besondere Bewertungen, auf die Anbieter und Nutzer besonders achten müssen, bevor sie KI-Systeme mit hohem Risiko einsetzen: Konformitätsbewertungen und Bewertungen der Auswirkungen auf grundlegende Rechte.
2.3.2 Konformitätsbewertungen
Konformitätsbewertungen sind wesentlich, um sicherzustellen, dass KI-Systeme mit hohem Risiko die strengen Anforderungen der KI-Verordnung erfüllen. Dieser Schritt ist entscheidend, da er die Einhaltung des Systems mit den strengen EU-Standards für Datenqualität, Transparenz und Sicherheit überprüft.
Die KI-Verordnung schafft zwei Verfahren für die Konformitätsbewertung, die in den Anlagen VI und VII enthalten sind. Das erste basiert auf interner Kontrolle. Hier muss der Anbieter überprüfen:
- Dass das etablierte Qualitätsmanagementsystem mit den Anforderungen der KI-Verordnung konform ist (siehe Artikel 17);
- Dass die in der technischen Dokumentation enthaltenen Informationen den relevanten Anforderungen entsprechen (siehe Kapitel III, Abschnitt 2);
- Dass der Entwurfs- und Entwicklungsprozess des KI-Systems und seine Marktüberwachung nach dem Inverkehrbringen mit der technischen Dokumentation konsistent sind.
Das in Anlage VII enthaltene Verfahren basiert auf einer Bewertung des Qualitätsmanagementsystems und der technischen Dokumentation, die vor der Bereitstellung oder Inbetriebnahme hochrisiko-Systeme vorbereitet werden müssen. In diesem Verfahren müssen beide Elemente die darin festgelegten Anforderungen erfüllen, damit sie anschliessend von einer dritten Partei (was die KI-Verordnung als “benannte Stelle” bezeichnet) bewertet werden, die überprüft, ob sie mit den Standards der KI-Verordnung konform sind oder nicht.
Es ist auch wichtig zu beachten, dass hochrisiko-Systeme, die bereits einer Konformitätsbewertung unterzogen wurden, einer neuen unterliegen, falls sie wesentlich geändert werden.
2.3.3 Bewertungen der Auswirkungen auf grundlegende Rechte
In bestimmten Fällen müssen Unternehmen auch die Auswirkungen ihrer KI-Systeme auf grundlegende Rechte durch einen weiteren kritischen Prozess adressieren.
Dies ist eine Bewertung, die Nutzer, die öffentliche Behörden sind, oder private Einrichtungen, die öffentliche Dienstleistungen erbringen, sowie Nutzer von KI-Systemen mit hohem Risiko, auf die in Anlage III (Punkte 5(b) und (c)) verwiesen wird, vor der Bereitstellung des Systems durchführen müssen. Diese Bewertung muss Folgendes umfassen:
- eine Beschreibung der Prozesse des Nutzers, in denen das KI-System mit hohem Risiko in Übereinstimmung mit seinem beabsichtigten Zweck verwendet wird;
- eine Beschreibung des Zeitraums und der Häufigkeit, innerhalb derer bzw. mit der jedes KI-System mit hohem Risiko vorgesehen ist, verwendet zu werden;
- die Kategorien natürlicher Personen und Gruppen, die wahrscheinlich von seiner Verwendung in dem spezifischen Kontext betroffen sind;
- die spezifischen Schadensrisiken, die wahrscheinlich einen Einfluss auf die identifizierten Kategorien von Personen oder Personengruppen haben;
- eine Beschreibung der Implementierung von Massnahmen zur menschlichen Überwachung, gemäss den Gebrauchsanweisungen;
- die Massnahmen, die ergriffen werden sollen, wenn diese Risiken realisiert werden, einschliesslich der Vorkehrungen für die interne Governance und Beschwerdeverfahren.
Mit anderen Worten erfordert es eine detaillierte Untersuchung, wie das KI-System funktionieren wird, die Häufigkeit seiner Verwendung und die Personen, die es beeinflussen wird. Zum Beispiel muss ein Gesichtserkennungssystem, das im öffentlichen Raum von einer öffentlichen Behörde verwendet wird, sein Potenzial zur Verletzung von Datenschutzrechten bewerten und Massnahmen zur Risikominderung skizzieren. Dies umfasst die Dokumentation des Zwecks der Technologie, der Daten, die sie verarbeitet, und der Schutzvorkehrungen gegen Missbrauch. Der Prozess unterstreicht die Notwendigkeit, dass KI-Systeme innerhalb der von der Gesellschaft gesetzten ethischen Grenzen arbeiten, um sicherzustellen, dass sie keine grundlegenden Menschenrechte gefährden.
2.4 Allgemeine KI-Modelle
Wenn es um GPAIs geht, unterscheidet die KI-Verordnung je nach ihrem systemischen Risiko.
Zunächst setzt sie einen anfänglichen Satz von Verpflichtungen fest, die auf Anbieter von GPAIs im Allgemeinen anwendbar sind. Anbieter, die diese Modelle nutzen möchten, müssen wesentliche Informationen bereitstellen, um Sicherheit und Compliance mit der EU-KI-Verordnung zu gewährleisten. Insbesondere schreibt sie Anbietern vor, kritische Informationen gegenüber denjenigen, die KI-Systeme auf Grundlage dieser Modelle aufbauen, offenzulegen, um Transparenz und Verständnis zu fördern. Darüber hinaus müssen Modellanbieter Richtlinien implementieren, die das Urheberrecht während der Modelltrainingsphase respektieren.
Zusätzlich zu diesem grundlegenden Satz von Verpflichtungen regelt die KI-Verordnung weiter GPAIs mit systemischem Risiko, was das dem hohen Leistungspotenzial allgemeiner KI-Modelle innewohnende Risiko bedeutet, das den EU-Markt, die öffentliche Gesundheit, Sicherheit, Sicherheitsbelange, grundlegende Rechte oder die Gesellschaft insgesamt erheblich beeinflusst, mit Potenzial zur grossflächigen Verbreitung.
Diese Modelle werden auf Grundlage zweier Hauptkriterien identifiziert: hohe Leistungsfähigkeiten, die durch technische Instrumente und Methodologien bewertet werden, oder eine Entscheidung durch die Kommission. Darüber hinaus wird ein Modell vermutungsweise hohe Leistungsfähigkeiten haben, wenn die für sein Training verwendete Rechenleistung 10^25 FLOPs übersteigt, was auf ein erhebliches Potenzial für systemisches Risiko hinweist.
Wenn ihr unsicher seid, ob die KI-Verordnung auf euch anwendbar ist, oder bucht einen kostenlosen Anruf mit einem unserer Experten, um eure Reise zur KI-Compliance zu beginnen!
3 Wie ihr die EU-KI-Verordnung einhält
3.1 Schritte zur Sicherung der Compliance mit den Vorschriften der Verordnung zu KI-Systemen mit hohem Risiko
In diesem Abschnitt tauchen wir in die Besonderheiten ein, was erforderlich ist, um die EU-KI-Verordnung für Unternehmen einzuhalten, die in der Lieferkette von KI-Systemen mit hohem Risiko beteiligt sind. Ihr werdet über die entscheidenden Verantwortungen lernen, die Anbieter, Nutzer, Importeure und Distributoren übernehmen müssen, um ihre Geschäftstätigkeit mit EU-Vorschriften auszurichten.
3.1.1 KI-Verordnungs-Verpflichtungen für Anbieter
Sicherung der Compliance mit der KI-Verordnung
Anbieter sind verantwortlich dafür, dass ihre KI-Systeme vor der Bereitstellung der KI-Verordnung entsprechen. Dies umfasst die Durchführung detaillierter Risikobewertungen, die Implementierung von Risikominderungsmassnahmen und die Führung umfassender Dokumentation, um die Einhaltung der Verordnung nachzuweisen. Durch die Erfüllung dieser Verpflichtungen können Anbieter garantieren, dass ihre KI-Systeme die hohen EU-Standards für Sicherheit, Transparenz und Verantwortlichkeit erfüllen.
Annahme von Qualitätsmanagementsystemen
Für Anbieter von KI-Systemen mit hohem Risiko ist die Annahme robuster Qualitätsmanagementsysteme wesentlich. Diese Systeme bieten kontinuierliche Überwachung und Verbesserung und umfassen Verfahren für die Entwicklung, Bereitstellung und Wartung von KI-Systemen. Regelmässige Leistungsbewertungen und Aktualisierungen sind entscheidende Teile dieser Systeme und helfen, potenzielle Probleme zu verhindern und die laufende Compliance mit der KI-Verordnung sicherzustellen.
Dokumentation und Führung von Protokollen
Die KI-Verordnung erfordert von Anbietern, detaillierte Dokumentation und Protokolle zu führen. Dies umfasst alle Phasen von der Konzeption und Entwicklung bis zur Bereitstellung und Marktüberwachung nach dem Inverkehrbringen des KI-Systems. Die Dokumentation muss klar und zugänglich sein und Einblicke in die Abläufe des KI-Systems und seine Compliance mit Rechtsstandards bieten. Protokolle sind andererseits auch lebenswichtig, um Transparenz und Verantwortlichkeit aufrechtzuerhalten und dienen als wichtige Aufzeichnungen bei Zwischenfällen oder Streitigkeiten.
Konformitätsbewertungen und CE-Kennzeichnung
Konformitätsbewertungen sind entscheidend, um zu bestimmen, ob ein KI-System die spezifischen Anforderungen der KI-Verordnung erfüllt. Erfolgreiche Bewertungen ermöglichen es Anbietern, die CE-Kennzeichnung auf ihren Produkten anzubringen, was die Compliance mit EU-Standards anzeigt. Dies erleichtert nicht nur den Marktzugang, sondern verbessert auch die Glaubwürdigkeit des Produkts unter Nutzern.
3.1.2 KI-Verordnungs-Verpflichtungen für Nutzer
Ausrichtung der KI-System-Nutzung an rechtlichen und ethischen Standards
Nutzer haben die Aufgabe, sicherzustellen, dass ihre Nutzung von KI-Systemen mit hohem Risiko den bereitgestellten Anweisungen und Richtlinien entspricht. Dies gewährleistet sowohl den Schutz von Nutzerrechten als auch die öffentliche Sicherheit. Entscheidend für diese Anstrengung ist die Implementierung angemessener technischer und organisatorischer Massnahmen, die die Nutzung des KI-Systems innerhalb seiner beabsichtigten rechtlichen und ethischen Grenzen halten. Zum Beispiel sind regelmässige Leistungsbewertungen und ein dediziertes Team zur Überwachung der Compliance lebenswichtig, um die Effizienz, Zuverlässigkeit und Einhaltung des Systems mit Vorschriften sicherzustellen.
Sicherung der menschlichen Überwachung
Es ist grundlegend für Nutzer, kompetente menschliche Überwachung der KI-Operationen zuzuweisen, insbesondere in kritischen Szenarios. Diese Überwachung gewährleistet, dass Entscheidungen, die von KI getroffen werden, immer einer menschlichen Überprüfung unterliegen. Die ausgewählten Personen sollten gut geschult und befugt sein, mit laufender Unterstützung und Aktualisierungen zu den neuesten KI-Entwicklungen und ethischen Überlegungen. Dieser Ansatz garantiert verantwortungsvolle KI-Nutzung und Ausrichtung mit menschlichen Werten.
Aufrechterhaltung der Qualität und Vielfalt von Eingabedaten
Nutzer müssen auch die Qualität und Repräsentativität der Eingabedaten für KI-Systeme verwalten. Regelmässige Überprüfungen auf die Genauigkeit und Vielfalt der Daten sind wesentlich, um zuverlässige und ethische KI-Ergebnisse zu erzeugen. Dies hilft, Risiken im Zusammenhang mit verzerrten oder ungenauen KI-Vorhersagen zu verhindern.
Kontinuierliche Überwachung und Berichterstattung
Die kontinuierliche Überwachung der KI-System-Operation ist entscheidend. Nutzer sollten die von KI-System-Anbietern bereitgestellten Gebrauchsanweisungen gewissenhaft befolgen und eventuelle Abweichungen oder Probleme umgehend entweder an den Anbieter oder die zuständige Behörde melden. Dies umfasst die Aussetzung der KI-System-Operation, wenn sie ein potentielles Risiko darstellt, wie z.B. ungewöhnliches Verhalten, das Sicherheit oder Datenschutz gefährden könnte.
Zusammenfassend lässt sich sagen, dass Nutzer eine Schlüsselrolle bei der sicheren und verantwortungsvollen Operation von KI-Systemen mit hohem Risiko spielen. Durch die Durchsetzung technischer und organisatorischer Massnahmen, die Sicherung der menschlichen Überwachung, die Aufrechterhaltung der Datenintegrität und die sorgfältige Überwachung können Nutzer ihre Verpflichtungen unter der EU-KI-Verordnung wirksam erfüllen.
3.1.3 KI-Verordnungs-Verpflichtungen für Importeure
Importeure von KI-Systemen mit hohem Risiko haben spezifische Verantwortungen gemäss der EU-KI-Verordnung, die entscheidend für die Sicherung von Compliance und Sicherheit auf dem Markt sind. Im Folgenden sind diese Verantwortungen zur Klarheit und Leichtigkeit des Verständnisses detailliert:
Überprüfung von Konformität und Dokumentation
- Konformitätsbewertung: Sicherstellen, dass das KI-System die erforderlichen Konformitätschecks erfolgreich bestanden hat;




