Definition
Systematische Verzerrung der Vorhersagen oder Empfehlungen eines KI-Systems gegenüber bestimmten Gruppen oder Merkmalen. Quellen: unausgewogene Trainingsdaten, problematische Feature-Auswahl, Algorithmen-Design, Anwendungs-Kontext. Beispiele: rassistische Gesichtserkennung, gender-diskriminierende Bewerberauswahl. Regulatorisch adressiert durch EU AI Act (Hochrisiko-KI) und ISO 24027. Im AIMS nach ISO 42001 zentrales Risikofeld.
In der Praxis
Bias ist das KI-Risiko, das Mittelständler für ein Großkonzern-Problem halten — bis es im eigenen Haus auftaucht. Der Denkfehler: „Wir machen ja keine Bewerberauswahl per Algorithmus." Aber Bias lauert auch im Kleinen: im KI-sortierten Lieferanten-Ranking, das historische Einkaufsmuster zementiert, im Textgenerator, der Stellenanzeigen unbewusst männlich formuliert, im Prognosemodell, das Standorte mit wenig Datenhistorie systematisch schlechter bewertet. Die Quelle ist fast nie der Algorithmus selbst, sondern die Daten: Wer aus zehn Jahren Vergangenheit lernt, lernt deren Verzerrungen mit. In der Beratung zeige ich deshalb zuerst die Datenherkunft, nicht das Modell. Zweiter Punkt: Bias ist kein einmaliger Test, sondern Dauerzustand — Daten und Märkte verschieben sich, und das Modell verschiebt sich mit. Wer KI in personenbezogenen oder entscheidungsrelevanten Prozessen einsetzt, braucht eine dokumentierte Prüfung auf Verzerrungen — im KI-Managementsystem nach ISO/IEC 42001 ist das ohnehin Kern der Risikobeurteilung.
Verwandte Begriffe
Häufige Fragen zu Bias in KI-Systemen
Was genau ist unter Bias zu verstehen — und woher kommt er?
Bias ist eine systematische Verzerrung — kein Zufallsfehler, sondern ein reproduzierbarer Fehler in eine Richtung, der bestimmte Gruppen oder Fälle strukturell benachteiligt. Die Norm ISO/IEC 24027 systematisiert das Thema und zeigt die typischen Quellen: unausgewogene Trainingsdaten, in denen Gruppen unterrepräsentiert sind; problematische Merkmalsauswahl, bei der scheinbar neutrale Variablen als Stellvertreter für Geschlecht, Alter oder Herkunft wirken; und der Anwendungskontext, in dem ein unverzerrtes Modell verzerrend eingesetzt wird. Der wichtigste Punkt für die Praxis: Bias ist nicht nur ein Fairness-Problem, sondern ein Qualitätsproblem — ein verzerrtes Modell liefert schlicht schlechtere Ergebnisse für die Fälle, die in den Daten fehlen. Wer das ernst nimmt, prüft die Datenbasis vor dem Modell und den Anwendungskontext vor der Einführung (ISO/IEC 24027:2021).
Welche rechtlichen Anforderungen an Bias und Datenqualität gelten für uns?
Das hängt von der Risikoklasse Ihrer Anwendung ab. Der EU AI Act stellt an Hochrisiko-KI-Systeme — dazu gehören etwa Systeme in der Personalauswahl und im Beschäftigtenmanagement — konkrete Anforderungen an Daten und Datengovernance: Art. 10 verlangt, dass Trainings-, Validierungs- und Testdatensätze den Qualitätskriterien der Verordnung entsprechen und dass mögliche Verzerrungen untersucht und adressiert werden. Diese Hochrisiko-Pflichten gelten nach der Änderung durch die Digital-Omnibus-Verordnung (EU) 2026/1744 ab dem 02.12.2027. Für einfache Büroanwendungen ohne Personenbezug greifen sie nicht — dort bleibt es bei der KI-Kompetenz-Maßnahmenpflicht und der Sorgfalt des Anwenders. Aber Vorsicht bei der Selbsteinschätzung: Wer KI in der Vorauswahl von Bewerbungen oder bei Leistungsbeurteilungen einsetzt, ist schnell im Hochrisiko-Bereich. Prüfen Sie die Einstufung, bevor das System läuft, nicht nach der ersten Beschwerde (Verordnung (EU) 2024/1689, Art. 10; Frist: Art. 113 i. d. F. der Verordnung (EU) 2026/1744).
Wie prüfen wir ein KI-System praktisch auf Verzerrungen, ohne ein Data-Science-Team zu haben?
Mit denselben Mitteln, mit denen Sie jeden anderen Prozess prüfen: Stichprobe, Vergleich, Dokumentation. Erster Schritt: Definieren Sie, welche Gruppen oder Fälle benachteiligt werden könnten — bei einer KI-gestützten Dokumentensuche etwa Standorte, deren Unterlagen anders strukturiert sind, bei Textgenerierung die sprachliche Ansprache. Zweiter Schritt: Bauen Sie Testfälle, die diese Gruppen gezielt abdecken, und vergleichen Sie die Ergebnisqualität — kommen für Gruppe A systematisch schlechtere Antworten als für Gruppe B, haben Sie einen Bias-Befund. Dritter Schritt: Dokumentieren Sie Test und Ergebnis — im KI-Managementsystem nach ISO/IEC 42001 gehört genau das zur Risikobeurteilung und zu den Anforderungen an Datenqualität. Vierter Schritt: Wiederholung einplanen, denn Daten und Modelle ändern sich. Bei eingekauften Systemen: Fragen Sie den Anbieter nach seinen Bias-Tests — wer keine Antwort hat, hat nicht getestet.