Eine UNESCO-Untersuchung von 2024 fand geschlechtsspezifische und kulturelle Stereotype in mehreren damaligen Sprachmodellen. Das Ergebnis beschreibt diese untersuchten Systeme und Aufgaben; jedes andere Modell braucht eigene Tests. Wenn Organisationen KI für folgenreiche Bewertungen einsetzen, sollten sie prüfen, welche Gruppen schlechtere Ergebnisse erhalten und wer Entscheidungen anfechten kann.
Was du konkret tun kannst
- Ergebnisse nach relevanten Nutzergruppen getrennt auswerten.
- Betroffene Menschen in Tests und Gestaltung einbeziehen.
- Beschwerdeweg und verantwortliche Ansprechperson festlegen.