Rechtlicher Hinweis
Die Inhalte dieses Artikels dienen ausschließlich allgemeinen Informationszwecken und stellen keine Rechtsberatung dar. Obwohl wir die Informationen mit größter Sorgfalt erstellen, übernehmen wir keine Gewähr für deren Richtigkeit, Vollständigkeit und Aktualität. Für eine verbindliche Beratung zu Deiner spezifischen Situation, wende Dich bitte an eine qualifizierte Rechtsanwältin oder einen qualifizierten Rechtsanwalt.
Die wichtigste Frage: Hochrisiko oder nicht?
Bei der Einführung eines KI-Systems im Unternehmen ist eine Frage entscheidender als alle anderen: Fällt das System in die Kategorie “Hochrisiko”? Die Antwort auf diese Frage bestimmt über Aufwand, Kosten und Dein rechtliches Risiko. Ein Hochrisiko-System unterliegt extrem strengen und teuren Auflagen. Ein System mit begrenztem Risiko hingegen hat nur überschaubare Transparenzpflichten.
Die gute Nachricht zuerst: Einfache Chat- und Sprachassistenten, deren Hauptzweck die Beantwortung von Kundenfragen ist, werden vom EU AI Act grundsätzlich als “begrenztes Risiko” eingestuft.
Die Komplexität beginnt jedoch, wenn fortschrittlichere Funktionen ins Spiel kommen. Könnte eine Stimmungsanalyse oder eine automatische Dringlichkeitserkennung Deinen KI-Assistenten zu einem Hochrisiko-System machen?
Wann wird ein Kommunikations-Tool zum Hochrisiko-System?
Der AI Act listet in seinem Anhang III die Bereiche auf, in denen KI-Systeme potenziell als hochriskant gelten. Für den Kundenservice sind vor allem zwei Punkte relevant: Systeme, die über den Zugang zu wesentlichen Dienstleistungen entscheiden, oder Systeme, die ein Profiling natürlicher Personen durchführen.
Hier entstehen die typischen Sorgenfalten:
- Wird eine Stimmungsanalyse (“Anrufer klingt verärgert”) als verbotene “Emotionserkennung” oder riskantes “Profiling” gewertet?
- Wenn die KI eine Dringlichkeit erkennt (“dringendes Anliegen”), entscheidet sie dann über den Zugang zu einer wesentlichen Dienstleistung?
Diese Befürchtungen sind verständlich, aber eine differenzierte Betrachtung zeigt, warum sie in den meisten Fällen unbegründet sind.
Der Schlüssel: Ist die KI nur ein Assistent für den Menschen?
Der AI Act sieht gezielte Ausnahmen vor, wann ein System trotz einer potenziellen Listung in Anhang III nicht als hochriskant gilt. Zwei dieser Ausnahmen sind für den Kundenservice entscheidend:
- Die KI dient dazu, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern.
- Die KI führt eine vorbereitende Aufgabe für eine Bewertung durch, die letztlich von einem Menschen vorgenommen wird.
Genau hier liegt der Schlüssel. Die Funktionen eines gut konzipierten KI-Assistenten sind exakt auf diese Ausnahmen ausgelegt. Die Stimmungsanalyse trifft keine autonome Entscheidung. Sie führt eine vorbereitende Aufgabe aus, indem sie einem menschlichen Mitarbeiter einen zusätzlichen Datenpunkt liefert (z. B. “Anrufer wirkt verärgert”). Der Mitarbeiter kann diese Information nutzen, um das Gespräch besser zu führen. Die KI verbessert also das Ergebnis der menschlichen Tätigkeit, ohne die Kontrolle zu übernehmen.
Dieses Prinzip der “Human-in-the-Loop-Augmentation” ist der entscheidende Faktor zur Vermeidung der Hochrisiko-Klassifizierung. Solange die KI den Menschen unterstützt und nicht ersetzt, bleibt sie in der Regel ein System mit begrenztem Risiko.
Der EU AI Act: Ein praxisnaher Guide für deutsche Unternehmen
Bewusst auf der sicheren Seite bleiben
Das Fazit für Dich als Unternehmer ist klar: Du kannst innovative KI-Funktionen im Kundenservice nutzen, ohne die massive Last der Hochrisiko-Compliance auf Dich nehmen zu müssen.
Der entscheidende Faktor ist die Wahl eines Anbieters, dessen Produkt von Grund auf als Assistenzsystem für Menschen konzipiert ist. Ein KI-Assistent wie beispielsweise Safina, der Informationen aufbereitet und dem Menschen zur Entscheidung vorlegt, ist bewusst so gestaltet, dass er die Kriterien für ein Hochrisiko-System nicht erfüllt. So kannst Du die Vorteile der KI nutzen und bleibst dabei auf der rechtlich sicheren Seite.