Pressemitteilung | 30.09.2019

Diskriminierung durch KI – Grüne fragen nach

P R E S S E M I T T E I L U N G

Stadträtin Anja Berger hat in einer Anfrage die Risiken thematisiert, die aus der Anwendung Künstlicher Intelligenz entstehen können. Dies, so Berger, gelte gerade dann, wenn die entsprechende Anwendung große Datenbestände analysiert und daraus selbstständig Schlüsse zieht oder gar Entscheidungen trifft. Da Algorithmen meist systematisch die herrschenden gesellschaftlichen Verhältnisse als Norm betrachten, drohen unterrepräsentierte Gruppen Benachteiligungen.
Bergers Fragenkatalog widmet sich daher dem Einsatz von KI bei Bewerbungsverfahren der Stadt, ihrer Tochtergesellschaften und von ihr beauftragter Unternehmen. Sie will außerdem wissen, ob der Einsatz von KI betroffenen Bürgern und Bürgerinnen transparent gemacht wird und wie die Diskriminierung bestimmter Gruppen verhindert wird.
Anja Berger: „Der Einsatz von KI ist vor allem bei Bewerbungs- und Einstellungsverfahren nicht unproblematisch. So faszinierend selbstlernende Systeme auch erscheinen mögen – sie bilden zunächst einmal nur die gesellschaftliche Realität ab, einschließlich bekannter Missstände und Defizite. Aber wir dürfen Algorithmen nicht erlauben, für alle Zukunft die Tatsache festzuschreiben, dass Frauen, People of Colour und andere Minderheiten heute in Führungspositionen unterrepräsentiert sind. Leider gibt es genügend Beispiele für solche systematische Diskriminierung, sowohl in der Privatwirtschaft als auch im öffentlichen Bereich.“