EU AI Act Checkliste für Enterprise Voice AI

I. Unzulässige KI-Praktiken (Art. 5)

Diese Praktiken sind in der EU streng verboten. Ein „Nein“ bedeutet hier meist ein sofortiges Projekt-Stopp.

Manipulationsverbot: Können Sie sicherstellen, dass Ihre KI-Systeme (z. B. Voicebots) keine unterschwelligen Techniken einsetzen, um das Verhalten von Kunden oder Patienten in einer Weise zu manipulieren, die diesen Schaden zufügt?

Ja Nein Unsicher

Schutz vulnerabler Gruppen: Ist gewährleistet, dass Ihre KI-Systeme keine Schwächen von Anrufern ausnutzen, die auf Alter, Behinderung oder einer spezifischen sozialen/wirtschaftlichen Lage beruhen?

Ja Nein Unsicher

Social Scoring: Verzichtet Ihr Unternehmen darauf, KI-gestützte Bewertungen des sozialen Verhaltens von Kunden zu erstellen, die zu einer Schlechterstellung in nicht zusammenhängenden Kontexten führen?

Ja Nein Unsicher

Emotionserkennung am Arbeitsplatz: Sofern Sie KI zur Analyse der Emotionen Ihrer Call-Center-Agenten nutzen: Dient dies ausschließlich medizinischen oder Sicherheitszwecken (z. B. Übermüdungserkennung bei kritischer Infrastruktur) und nicht der allgemeinen Leistungsüberwachung?

Ja Nein Unsicher

II. Klassifizierung als Hochrisiko-KI (Art. 6 & Anhang III)

Wenn Sie eines dieser Systeme nutzen, gelten strenge Auflagen.

Notruf-Triage (z. B. Energieanbieter/Bahn): Falls Sie KI zur Bewertung und Klassifizierung von Notrufen oder zur Priorisierung von Rettungseinsätzen nutzen: Behandeln Sie dieses System als „Hochrisiko“ und erfüllen alle Anforderungen aus Kapitel III?

Ja Nein Unsicher

Personalmanagement: Nutzen Sie KI für die Rekrutierung, Beförderung oder Kündigung von Contact-Center-Mitarbeitern oder zur Überwachung von deren Leistung? Wenn ja, ist dieses System als Hochrisiko-KI registriert und dokumentiert?

Ja Nein Unsicher

Kreditwürdigkeit: Falls Ihr Contact Center (z. B. für Online-Shops oder Banken) KI zur Bewertung der Bonität von Kunden einsetzt: Erfüllt das System die Hochrisiko-Standards (außer bei reiner Betrugserkennung)?

Ja Nein Unsicher

Öffentliche Leistungen (z. B. Behörden-Hotlines): Nutzt Ihre KI-Lösung Daten, um über den Zugang zu grundlegenden öffentlichen Diensten (Sozialhilfe, Wohngeld) zu entscheiden? Wenn ja, wird sie als Hochrisiko-System geführt?

Ja Nein Unsicher

III. Transparenzpflichten (Art. 50)

Dies gilt für fast alle modernen Contact Center.

KI-Offenlegung: Werden Kunden oder Patienten beim Kontakt mit einem Voice- oder Chatbot klar und rechtzeitig darüber informiert, dass sie mit einer KI interagieren (außer dies ist offensichtlich)?

Ja Nein Unsicher

Emotionserkennung (Kunden): Wenn Sie Sentiment-Analysen nutzen, um die Stimmung von Anrufern zu erfassen: Werden die betroffenen Personen über den Einsatz dieser biometrischen Datenverarbeitung informiert?

Ja Nein Unsicher

Deepfake-Kennzeichnung: Falls Sie künstlich erzeugte Audio- oder Videoinhalte verwenden (z. B. Avatare), die echtem Personal täuschend ähnlich sehen: Werden diese Inhalte eindeutig als „künstlich erzeugt“ markiert?

Ja Nein Unsicher

IV. Pflichten für Betreiber (Deployer) von Hochrisiko-KI (Art. 26 & 27)

Wichtig für Unternehmen, die KI-Lösungen von Drittanbietern kaufen.

Nutzung nach Anweisung: Haben Sie technische und organisatorische Maßnahmen getroffen, um sicherzustellen, dass die KI strikt nach der Betriebsanleitung des Herstellers verwendet wird?

Ja Nein Unsicher

Menschliche Aufsicht: Sind die Mitarbeiter, die die KI überwachen, ausreichend qualifiziert, geschult und befugt, die Ausgaben der KI bei Bedarf zu ignorieren oder das System zu stoppen?

Ja Nein Unsicher

Datenqualität: Stellen Sie sicher, dass die in das System eingespeisten Eingabedaten (z. B. Kundenanfragen) für den vorgesehenen Zweck relevant und ausreichend repräsentativ sind?

Ja Nein Unsicher

Protokollierung: Bewahren Sie die automatisch erzeugten Logs des KI-Systems für mindestens sechs Monate auf, um die Rückverfolgbarkeit zu gewährleisten?

Ja Nein Unsicher

Grundrechte-Folgenabschätzung (FRIA): Falls Sie eine öffentliche Stelle sind oder wesentliche private Dienste (z. B. Banken/Versicherungen) erbringen: Haben Sie vor dem Einsatz der Hochrisiko-KI eine Bewertung der Auswirkungen auf die Grundrechte durchgeführt?

Ja Nein Unsicher

V. Übergreifende Governance & AI Literacy (Art. 4)

KI-Kompetenz: Haben Sie Maßnahmen ergriffen, um sicherzustellen, dass Ihre Mitarbeiter (vom Agent bis zum Management) über ein Mindestmaß an Wissen verfügen, um KI-Systeme, deren Vorteile und Risiken zu verstehen?

Ja Nein Unsicher

Registrierung: Ist Ihr Hochrisiko-KI-System (sofern zutreffend) in der EU-Datenbank registriert worden?

Ja Nein Unsicher

Ist Ihre Voice AI bereit für den EU AI Act?