Wer KI-Systeme baut, bestimmt, für wen sie funktionieren – und für wen nicht. Während der globale KI-Sektor weiterhin von Männern dominiert wird, wächst der wirtschaftliche und regulatorische Druck auf Unternehmen, Diversität als strategischen Faktor ernst zu nehmen.
KI-Entwicklung ohne Diversität: Ein unterschätztes Unternehmensrisiko
Der globale KI-Sektor wird nach wie vor fast ausschließlich von Männern gestaltet. Studien zeigen, dass Frauen in technischen KI-Rollen bei führenden Technologieunternehmen und Forschungseinrichtungen teils unter 15 Prozent der Belegschaft ausmachen. Was auf den ersten Blick wie ein gesellschaftspolitisches Thema wirkt, hat handfeste wirtschaftliche und rechtliche Konsequenzen für Unternehmen, die KI-Systeme einsetzen oder entwickeln.
Verzerrte Systeme als Haftungsrisiko
Homogene Entwicklerteams produzieren nachweislich Systeme mit blinden Flecken. Gesichtserkennungssoftware, die bei dunkelhäutigen Frauen deutlich schlechtere Erkennungsraten aufweist, oder Sprachmodelle, die bestimmte Berufsfelder mit einem bestimmten Geschlecht assoziieren – solche Muster sind keine Zufälle, sondern strukturelle Folgen mangelnder Vielfalt in Entwicklung und Testing.
Für Unternehmen in der EU entstehen daraus konkrete Risiken: Der EU AI Act, der seit August 2024 schrittweise in Kraft tritt, verpflichtet Anbieter und Betreiber von Hochrisiko-KI-Systemen ausdrücklich zur Prüfung auf diskriminierende Outputs.
Systeme, die bestimmte demografische Gruppen benachteiligen, können schnell zur Haftungsfrage werden.
Warum Diversität in der KI-Entwicklung zählt
Das Problem beginnt bereits bei den Trainingsdaten und setzt sich in der Produktentwicklung fort. Wenn Teams nicht die Vielfalt ihrer späteren Nutzerinnen und Nutzer widerspiegeln, bleiben bestimmte Anwendungsfälle, Sprachvarianten und Nutzungskontexte systematisch unterrepräsentiert.
Large Language Models, die primär von englischsprachigen Männern aus dem Silicon Valley trainiert und bewertet werden, können in anderen kulturellen und sprachlichen Kontexten anders performen – ein Aspekt, der für international agierende Unternehmen im deutschsprachigen Raum besonders relevant ist.
Über 50 Prozent der Kaufentscheidungen in vielen Branchen werden von Frauen getroffen. KI-gestützte Produkte, die diese Nutzergruppe systematisch schlechter bedienen, verlieren nachweislich Marktpotenzial.
Strukturelle Maßnahmen statt symbolischer Gesten
Expertinnen und Experten aus dem Bereich KI-Governance empfehlen drei konkrete Ansätze:
- Diversitätskennzahlen bei der Beschaffung – Unternehmen sollten aktiv nach der Zusammensetzung von Entwicklungsteams bei KI-Anbietern fragen, analog zu ESG-Kriterien im Investitionsbereich.
- Diverse Testgruppen – Bias lässt sich frühzeitig identifizieren, bevor Systeme produktiv gehen, wenn Testgruppen die reale Nutzervielfalt abbilden.
- Interne Fairness-Audits – Audit-Prozesse sollten nicht nur technische Performance, sondern auch Fairness-Metriken über verschiedene demografische Gruppen hinweg messen.
Auf Nachwuchsebene investieren einige Unternehmen gezielt in Programme, die Mädchen und junge Frauen früh an technische KI-Ausbildungen heranführen – ein Hebel mit langfristiger Wirkung, aber kurzfristig begrenzter Reichweite.
Regulatorischer Druck erhöht den Handlungsbedarf
Die EU-Kommission hat das Thema algorithmischer Diskriminierung fest auf der Agenda. Neben dem AI Act greifen auch die KI-Haftungsrichtlinie und die überarbeitete Produkthaftungsrichtlinie in diesen Bereich ein.
Unternehmen, die frühzeitig Diversitätsstandards in ihre KI-Governance integrieren, positionieren sich nicht nur ethisch, sondern auch regulatorisch günstiger.
Für deutsche Unternehmen empfiehlt sich eine pragmatische Bestandsaufnahme: Welche KI-Systeme sind im Einsatz, wer hat sie entwickelt, und wurden sie auf Fairness über unterschiedliche Nutzergruppen hinweg getestet? Diese Fragen sind längst keine Fragen der Unternehmenskultur mehr – sie sind Teil eines soliden Risikomanagements.
Quelle: New Scientist Tech – „AI is nearly exclusively designed by men – here’s how to fix it”
