Definition
ISO/IEC-Norm zu Bias in KI-Systemen. Definiert verschiedene Bias-Typen (statistischer Bias, kognitiver Bias, systemischer Bias), beschreibt Quellen (Trainingsdaten, Algorithmusdesign, Anwendungskontext) und Minderungsstrategien. Pflichtreferenz bei AIMS-Aufbau nach ISO 42001 und bei EU-AI-Act-Konformitätsbewertungen für Hochrisiko-Systeme.
In der Praxis
Bias wird in Grundsatzerklärungen gern als ethisches Feigenblatt behandelt — „wir achten auf Fairness" —, während das Rekrutierungstool systematisch Lebensläufe abwertet, weil die Trainingsdaten aus einer Belegschaft ohne Vielfalt stammen. Bias ist kein Haltungsproblem, sondern ein messbares Risiko: Er entsteht in den Daten, im Algorithmusdesign und im Anwendungskontext, und er zeigt sich erst, wenn Sie mit Testfällen und Kennzahlen danach suchen. ISO/IEC 24027 liefert dafür die Systematik — Bias-Typen, Quellen und Minderungsstrategien über den Lebenszyklus. In der Praxis sehe ich zwei Extreme: Unternehmen, die das Thema komplett ignorieren, weil „unsere KI trifft ja keine Personalentscheidungen" — bis der erste Kunde oder die erste Behörde fragt. Und Unternehmen, die Bias-Prüfung als einmaliges Zertifikatsprojekt verstehen, statt sie in Daten-Governance und Modell-Monitoring zu verankern. Richtig ist: Bias-Management gehört in die KI-Risikobeurteilung und wird bei Hochrisiko-Systemen über die Datenqualitäts-Anforderungen der KI-VO ohnehin zum Prüfgegenstand.
Verwandte Begriffe
Häufige Fragen zu ISO/IEC 24027
Was genau meint „Bias" bei KI-Systemen — und warum ist das mehr als ein Ethik-Thema?
Bias bezeichnet systematische Verzerrungen in KI-Systemen, die zu ungerechtfertigt unterschiedlichen Ergebnissen für Personen oder Gruppen führen. ISO/IEC 24027 unterscheidet dabei die Quellen: verzerrte Trainingsdaten, Design-Entscheidungen im Algorithmus und der Anwendungskontext, in den das System hineingerät. Das ist mehr als Ethik, weil die Folgen messbar und haftbar sind: Ein Qualitätsprüf-Modell, das Bauteile einer Charge systematisch schlechter bewertet, erzeugt Fehlentscheidungen; ein Bewerber-Tool mit Bias erzeugt Diskriminierung mit rechtlichen Konsequenzen. Die Norm macht daraus eine Managementaufgabe: Bias-Quellen identifizieren, Auswirkungen messen, Minderungsmaßnahmen definieren und deren Wirksamkeit überwachen. Wer Bias nur in der Unternehmensbroschüre adressiert, hat das Risiko nicht verstanden.
Verlangt der EU AI Act konkret, dass wir Bias in unseren KI-Systemen behandeln?
Für Hochrisiko-Systeme ja, über die Datenanforderungen: Art. 10 KI-VO verpflichtet Anbieter, Trainings-, Validierungs- und Testdaten so zu steuern, dass sie relevant, repräsentativ und möglichst fehlerfrei sind — einschließlich der Prüfung auf mögliche Verzerrungen. Dazu kommt das Risikomanagementsystem nach Art. 9, das bekannte und vorhersehbare Risiken erfassen muss, und die Genauigkeitsanforderungen des Art. 15. Für Betreiber gilt über Art. 26 die Pflicht, das System gemäß Gebrauchsanweisung zu nutzen und die Eingabedaten im eigenen Verantwortungsbereich zu kontrollieren. ISO/IEC 24027 ist dafür die fachliche Referenz: Sie liefert die Methodik, mit der Sie die gesetzlichen Anforderungen konkret umsetzen und dokumentieren. Bei Systemen ohne Hochrisiko-Einstufung bleibt Bias-Management freiwillig — aber aus Produkthaftungs- und Reputationsgründen selten verzichtbar (Verordnung (EU) 2024/1689, Art. 10; ISO/IEC 24027:2021).
Wie prüfen wir ein KI-System praktisch auf Bias, ohne ein Forschungsprojekt daraus zu machen?
Beginnen Sie bei den Daten: Prüfen Sie, ob die Trainings- und Testdaten die Gruppen repräsentieren, die das System später betrifft — bei einem visuellen Prüfsystem etwa alle Materialvarianten, Beleuchtungen und Randbedingungen. Definieren Sie dann wenige, konkrete Testfälle mit erwartbarem Ergebnis und messen Sie, ob die Fehlerraten über Gruppen hinweg auseinanderlaufen. Dokumentieren Sie das als Teil Ihrer KI-Risikobeurteilung nach ISO/IEC 42001 — mit Befund, Bewertung und Maßnahme. Wichtig ist die Wiederholung: Modelle driften, Daten ändern sich, also gehört die Bias-Prüfung ins Monitoring, nicht in den Projektabschluss. Und halten Sie die Verantwortung fest: Wer das Modell freigibt, unterschreibt auch, dass die Bias-Prüfung stattgefunden hat. Das ist keine Forschung, sondern angewandte Qualitätssicherung (ISO/IEC 24027:2021; ISO/IEC 42001:2023, Kap. 8.2).