Was ist das EU-KI-Gesetz? Zusammenfassung der wichtigsten Erkenntnisse in 5 Minuten

Die Europäische Union (EU) hat eine umfassende Richtlinie zum Einsatz künstlicher Intelligenz (KI) eingeführt, bekannt als EU KI-Verordnung.

Sie ermutigt Europäer, KI-Systeme und allgemeine KI-Modelle (GPAI), die vergleichsweise geringes Risiko darstellen, zu vertrauen. Dieser Artikel fasst die Verordnung zusammen und macht sie für Fachleute und Laien verständlicher.

‍Haftungsausschluss: Expertise KI ergänzt die Verpflichtungen der EU KI-Verordnung, bietet jedoch keine Rechtsberatung. Konsultieren Sie einen Anwalt, wenn Sie Beratung oder Vorschläge im Zusammenhang mit der Verordnung benötigen, oder beziehen Sie sich auf die tatsächliche Europäische Union Künstliche Intelligenz Verordnung.

Was ist die EU KI-Verordnung?

Die Europäische Union Künstliche Intelligenz-Verordnung wird die Entwicklung und/oder Nutzung von KI regeln. Sie wendet unterschiedliche Regeln und Vorschriften auf künstliche Intelligenz an, basierend auf dem Risiko, das sie darstellt.

Sie gilt für Anbieter, Betreiber, Importeure, Händler und Hersteller von Produkten im Zusammenhang mit KI und umfasst alle Parteien, die KI-Systeme entwickeln, verwenden, importieren, vertreiben oder herstellen. Die Verordnung beschränkt sich nicht auf die Grenzen der EU. Wenn eine Region eine Ausgabe außerhalb der EU produziert, gilt die Verordnung, wenn die Ausgabe in der EU verwendet werden soll.

Es ist ein umfassender Regulierungsrahmen für KI, der strenge Governance-Mechanismen implementiert, um Risiko und Transparenz für die an KI Beteiligten zu steuern. Je nach Art der Nichteinhaltung können die Strafen für Verstöße gegen die Verordnung zwischen 7,5 Mio. EUR oder 1,5 % des weltweiten Jahresumsatzes und 35 Mio. EUR oder 7 % des Umsatzes liegen.

Erkundung des Bedarfs an der EU-Künstliche-Intelligenz-Verordnung

Das Rückverfolgen der Vorhersagen, die KI trifft, ist schwierig. Es ist möglicherweise nicht möglich, genau zu bestimmen, warum eine bestimmte Entscheidung getroffen wurde. Obwohl die meisten KI-Systeme ein geringes bis kein Risiko darstellen, gibt es möglicherweise riskante, denen man bei kritischen Entscheidungen nicht vertrauen kann. Zum Beispiel wäre es bei einer Einstellungsentscheidung schwierig, den Grund für die Auswahl eines bestimmten Kandidaten zu verstehen. Man weiß nicht sicher, ob jemand ungerecht benachteiligt wurde.

Die KI-Verordnung hilft Europäern, KI-Systeme mit minimalem oder begrenztem Risiko zu vertrauen und ihre wünschenswerten Beiträge zu menschlichen und maschinellen Operationen zu schätzen. Die Verordnung klärt, was in der KI-Praxis akzeptiert und was verboten ist.

Die KI-Verordnung unterstützt Unternehmen und Institutionen bei

• Verboten von KI-Praktiken, die unakzeptable Risiken darstellen
• Bestimmung von Hochrisiko-KI-Systemen und Festlegung präziser Anforderungen für diese
• Festlegung von Verpflichtungen für Anbieter und Betreiber von Hochrisiko-KI-Systemen
• Erfordernis einer Konformitätsbewertung vor Inbetriebnahme oder Markteinführung der KI.
• Einrichtung einer Governance-Struktur auf nationaler und europäischer Ebene.

Diese Governance hilft Europäern, KI-Systeme zu vertrauen und sie mit Zuversicht zu nutzen. Auf europäischer Ebene wird der Europäische Ausschuss für Künstliche Intelligenz die Kommission und die Mitgliedstaaten beraten und unterstützen, um eine einheitliche Durchsetzung der Vorschriften sicherzustellen.

Der Ausschuss berät und unterstützt die Kommission und die Mitgliedstaaten, um die einheitliche und wirksame Anwendung dieser Verordnung zu erleichtern.

Wer wäre von der EU-KI-Verordnung betroffen?

Die Verpflichtungen der EU-KI-Verordnung gelten für:

• Jeden Anbieter, der innerhalb der EU oder in einem Drittland ansässig ist oder sich dort befindet und ein KI-System oder ein allgemeines KI-Modell (GPAI) auf den EU-Markt bringt oder in Betrieb nimmt.
• Jede/r Betreiber/in von KI-Systemen mit Sitz oder Niederlassung in der EU. Sie können in der EU ansässig sein.
• Wenn der/die Anbieter/in oder Betreiber/in eines KI-Systems seinen/ihren Sitz in einem Drittland hat (oder dort ansässig ist) und eine Ausgabe des KI-Systems produziert, die in der EU verwendet wird.

Was fordert die KI-Verordnung?

Die Europäische Union Künstliche Intelligenz-Verordnung verlangt von Unternehmen und Institutionen:

Den aktuellen Stand verstehen

Überprüfen Sie, ob Sie bereits KI-Systeme im Einsatz oder in Entwicklung haben. Prüfen Sie, ob Sie bald KI-Systeme von Drittanbietern beziehen können. Falls ja, fügen Sie diese Systeme Ihrem Modell-Repository hinzu.

Wenn Sie kein Modell-Repository haben, sollten Sie eines erstellen, nachdem Sie Ihre Exposition gegenüber KI-Systemen verstanden haben. Auch wenn Sie derzeit keine KI-Systeme verwenden, werden Sie sie wahrscheinlich in naher Zukunft nutzen, angesichts der zunehmenden Akzeptanz von KI. Es ist ratsam, das Modell-Repository unter Berücksichtigung der aktuellen und potenziellen Exposition gegenüber KI-Systemen vorzubereiten.

Risiken in Ihren KI-Systemen klassifizieren

Unter der EU-KI-Verordnung gibt es vier Risikokategorien: Unakzeptables Risiko, hohes Risiko, begrenztes Risiko und minimales Risiko.

Quelle: EY

Unakzeptable Risiken

KI-Systeme, die unakzeptable Risiken darstellen, sind verboten. Diese Systeme könnten verwenden:

• Fernbiometrische Identifikation (RBI) im öffentlichen Raum. Diese Systeme verwenden KI, um Menschen anhand ihrer biometrischen Daten in öffentlichen Räumen zu erkennen. Gesichtserkennung ist am häufigsten, aber es kann auch Identifikation basierend auf physischen, physiologischen oder verhaltensbezogenen Merkmalen umfassen.
• Verwundbarkeiten einer natürlichen Person. Diese Systeme nutzen eine Person oder eine Gruppe aus, basierend auf Alter, Behinderung oder sozialer bzw. wirtschaftlicher Lage. Sie sind nach der EU-KI-Verordnung verboten.
• Subliminale Beeinflussungstechniken. Systeme, die die Verwundbarkeiten einer bestimmten Gruppe auf einem Niveau ausnutzen, das unter ihrer bewussten Wahrnehmung liegt, sind verboten. Dazu gehören täuschende Techniken, die darauf abzielen, das Verhalten einer Person oder Gruppe zu verzerren, indem ihre Entscheidungsfähigkeit beeinträchtigt wird.
• Soziale Bewertungssysteme. Solche Systeme vergeben eine Punktzahl für jeden Bürger basierend auf positiven und negativen Handlungen. Positive Handlungen sind wünschenswert, wie Steuern zahlen, während negative Handlungen strafrechtliche Vergehen umfassen.

Hohes Risiko:

Die EU-KI-Verordnung erlaubt Hochrisikosysteme, aber diese müssen mehrere Anforderungen erfüllen und eine Konformitätsbewertung durchlaufen. Sie müssen die Bewertung abschließen, bevor das Produkt auf den Markt gebracht wird.

Solche Systeme müssen in einer EU-Datenbank registriert werden. Diese Systeme können umfassen:

• Infrastrukturen, die das Leben und die Gesundheit der Bürger gefährden können.
• Bildung oder berufliche Ausbildung bestimmt den Zugang der Menschen zu Bildung und Berufskursen. Zum Beispiel Prüfungen.
• Produkte mit Sicherheitselementen, die KI verwenden
• Systeme, die mit Beschäftigung arbeiten oder den Zugang zu Beschäftigung kontrollieren.
• Wesentliche öffentliche und private Dienste wie Bonitätsprüfungsysteme, die die Chance auf einen Kredit verwalten.
• Systeme, die die Migration von Personen steuern und verwalten oder ihnen Asyl gewähren.
• Verwaltungssysteme, die mit Justiz- und demokratischen Prozessen arbeiten.

Diese Systeme unterliegen strengen Verpflichtungen wie Risikoabschätzung und -minderung. Sie erfordern die Nutzung hochwertiger Datensätze und die Nachverfolgung von Protokollierungsaktivitäten. Wenn Sie mit Hochrisiko-KI-Systemen arbeiten, dokumentieren Sie alles sorgfältig und sorgen Sie für ein hohes Maß an Sicherheit und Genauigkeit.

Begrenztes oder geringes Risiko:

Bei Systemen mit begrenztem Risiko müssen Sie Transparenz gegenüber dem Nutzer wahren. Sie sollten wissen, dass sie mit KI interagieren. Häufige Beispiele sind Chatbots, die kein Hochrisiko darstellen. Sie müssen die Nutzer darüber informieren, dass sie mit KI arbeiten.

Was das minimale Risiko betrifft, erlaubt die EU-KI-Verordnung die freie Nutzung. Diese Systeme können Spam-Filter oder KI-gestützte Spiele umfassen.

Einhaltung der KI-Verordnung

Wenn das System in die Hochrisikokategorie fällt, stellen Sie sicher, dass Ihre KI-Praktiken die KI-Verordnung ergänzen und die erforderlichen Vorschriften einhalten.

Wann tritt die EU-KI-Verordnung in Kraft?

Das Europäische Parlament und die EU-Mitgliedstaaten haben die Verordnung am 22. April 2024 bzw. am 21. Mai 2024 genehmigt. Nach der Veröffentlichung im Amtsblatt der EU tritt sie nach 20 Tagen in Kraft.

• Nach sechs Monaten treten die Verbote für Systeme mit unakzeptablem Risiko in Kraft.
• Allgemeine KI-Systeme (GPAI), die seit 12 Monaten auf dem Markt sind, haben 36 Monate Zeit, um die Vorschriften einzuhalten.
• Nach 12 Monaten treten die Regeln für Hochrisiko-KI-Systeme in Kraft.
• Am Ende von 36 Monaten werden KI-Systeme, die Produkte oder Sicherheitskomponenten eines Produkts sind, unter die EU-KI-Verordnung fallen.

Durchsetzung der EU-KI-Verordnung

Verschiedene Behörden setzen die KI-Verordnung durch. Jedes EU-Mitgliedsland richtet mindestens eine Benachrichtigungsbehörde und eine Marktüberwachungsbehörde ein oder benennt diese, um sicherzustellen, dass sie die notwendigen Ressourcen für ihre Aufgaben haben.

Die Benachrichtigungsbehörde legt unparteiisch die erforderlichen Bewertungs- und Benennungsverfahren fest und führt sie durch. Die Marktüberwachungsbehörde setzt die Verordnung auf nationaler Ebene durch. Diese Stelle kann bei Hochrisiko-KI-Systemen variieren. Wenn ein KI-System nicht konform ist, berichtet die Marktüberwachungsbehörde jährlich an die Kommission und die entsprechenden nationalen Behörden.

Wenn eine Nicht-Einhaltung der Verpflichtungen der EU-KI-Verordnung vorliegt oder ein Hochrisiko-KI-System die Verordnung einhält, aber dennoch eine Gefahr für die Gesundheit und Sicherheit von Personen darstellt, kann die Marktüberwachungsbehörde:

• Einen relevanten Betreiber auffordern, Korrekturmaßnahmen zu ergreifen, um sicherzustellen, dass die KI-Systeme keine ähnlichen Risiken darstellen.
• Wenn der Betreiber versagt, kann das betreffende KI-System vom Markt genommen werden.

Auf EU-Ebene überwacht ein KI-Büro innerhalb der Kommission die Vorschriften. Diese Kommission wird von den Mitgliedstaaten beraten und unterstützt, um die KI-Verordnung effektiv durchzusetzen. Die Kommission und der KI-Ausschuss erhalten technische Expertise von einem Forum beratender Stakeholder. Die nationalen Gerichte der EU-Mitgliedstaaten werden die KI-Haftungsrichtlinie umsetzen, wenn zivilrechtliche Ansprüche auf unerlaubte Handlungen vor ihnen verhandelt werden.

Nationale Gerichte können auch Beweise für Hochrisiko-KI-Systeme verlangen, die mutmaßlich Schaden verursacht haben.

Verwendung von KI, die die Verordnung einhält

Expertise, ein KI-Vertriebsagent für Ihre Website, erfüllt die Verpflichtungen der EU-KI-Verordnung. Wenn Sie die Verkaufsfähigkeiten von KI auf Ihrer Website hinzufügen möchten, probieren Sie Expertise AI, ohne sich um die Einhaltung der neuen KI-Verordnung in der EU sorgen zu müssen.

Mit einem Expertise KI-Vertriebsagenten können Sie:

• Jeden Besucher mit KI ansprechen, um ihnen in Sekundenschnelle Antworten zu helfen.
• Die Absprungrate reduzieren und gleichzeitig Vertrauen und Glaubwürdigkeit aufbauen.
• Lead-Generierung erhöhen und nahtlos Termine mit qualifizierten Leads vereinbaren.

Expertise AI ist sicher und effektiv gemäß der EU-KI-Verordnung.

30 Minuten festlegen um zu verstehen, wie Sie das Beste daraus in Ihrem Geschäft machen können.

‍