Digitale Diskriminierung – Welche Baustellen gibt es und welche Werkzeuge benötigen Unternehmen dafür

Die Digital Gender Gap ist eine Folge von digitaler Diskriminierung. Aber beginnen wir erst einmal ganz grundlegend:

Was ist überhaupt digitale Diskriminierung?

Digitale Diskriminierung kann sich in Form von digitaler Gewalt äußern, zum Beispiel durch Hasskommentare in sozialen Netzwerken oder Gewalt in einer Partnerschaft über Online-Stalking. Aber auch Algorithmen können benachteiligen und ausgrenzen, genauso wie die Entwicklung und Produktion neuer Technologien.

Wie hat sich das entwickelt? Macht- und Herrschaftsstrukturen wie Geschlecht, Herkunft, Klasse und Alter und damit soziale Ungleichheiten bleiben im Digitalen bestehen (vgl. Schmidt 2018, Schmidt und Shephard 2021). Existierende mehrschichtige Diskriminierung, zum Beispiel gegenüber einer Frau mit dunkler Hautfarbe wegen ihres Geschlechts und ihrer Hautfarbe, wird verstärkt. Ursprünglich hatte man gehofft, dass das Internet ein körperloser Raum sei, in dem jede so sein könne, wie sie will. Fehlanzeige! Strukturen aus unserem analogen Alltag werden ins Digitale übertragen. Das mag unter anderem daran liegen, dass Technik  in der Vergangenheit eher männlich war (ebd.). Blickt man zurück, stammen technische Erfindungen meist von Männern, da sie mehr Zugang zur Wissenschaft hatten – während Frauen oftmals gar kein Zugang gewährt war.

Was helfen kann, ist eine intersektionale Sicht auf die Digitalisierung, die verschiedene Kategorien im Blick behält, denn die Geschlechterperspektive alleine genügt nicht. Studien zeigen, digitale Gewalt trifft nicht jede Person gleich. Menschen, die im analogen Leben Opfer von Gewalt auf Grund von Geschlecht, Herkunft, Klasse oder Alter werden, wird es online mit großer Wahrscheinlichkeit nicht anders ergehen. 2016 belegte eine Auswertung von Hasskommentaren durch die britische Zeitung The Guardian beispielsweise, dass sich Hasskommentare größtenteils gegen Frauen und Frauen of Color richten.

Feministische Netzpolitik versucht, digitale Gewalt, unter anderem in Form von Hate Speech, zu beenden, sodass marginalisierte Menschen im Netz gleichberechtigt und gewaltfrei unterwegs sein können. Ein Lösungsansatz ist das Netzwerkdurchsetzungsgesetz, in Kraft seit knapp fünf Jahren, verpflichtet es soziale Netzwerke dazu, "offensichtlich strafbare Inhalte” (NetzDG 2017) innerhalb von 24 Stunden zu löschen. Fraglich ist dabei, ob Betroffenen wirklich geholfen wird, “denn Gewalt verschwindet nicht, nur weil ein Posting gelöscht wurde” (Schmidt 2018). Eine Lösung gegen den Hass und die Hetze, die sich online schnell verbreiten, wird dringend benötigt, das Gesetz kann aber nur ein Baustein von vielen sein.

Warum wir uns gerade jetzt mit dem Thema digitale Diskriminierung beschäftigen sollten
Der Corona-Pandemie wird ein regelrechter Digitalisierungsschub nachgesagt (vgl. Streim und Zacharias 2021), gleichzeitig hat sie aber auch wieder zu alten Rollenverteilungen geführt (vgl. Bertelsmann 2020). Umfrageergebnisse zeigen: Frauen haben sich häufiger um die Kinderbetreuung und Hausarbeit, z. B. Homeschooling oder Kochen, gekümmert als Männer. Um diese Problematik nicht zu verstetigen, ist es angesagt, die Strukturen aufzubrechen.

Diskriminierung durch Künstliche Intelligenz

Handlungsbedarf besteht an vielen Stellen. Strukturelle Diskriminierung durch Algorithmen stellt ein problematisches Beispiel dar, an dem gearbeitet werden muss.

Künstliche Intelligenz erleichtert vieles in unserem (Berufs-)Alltag – sie hat aber auch das Potenzial Formen der Diskriminierung zu konstruieren, Benachteiligungen aufrechtzuerhalten oder sogar noch zu verstärken. Gründe dafür sind sowohl der zugrundeliegende Code als auch die unvollständige Datengrundlage, die für das maschinelle Lernen verwendet wird. Ein weiterer Faktor sind homogene und unreflektierte Teams, die die Algorithmen erstellen, entwickeln und bewerten. Die Datensätze können dann ebenso vorurteilsbehaftet sein, wie die Menschen, die sie schaffen.  

Studien zeigen beispielsweise, dass Frauen und andere marginalisierte Personengruppen bei der Jobsuche, der Kreditvergabe oder in der Polizeiarbeit benachteiligt und ausgegrenzt werden. Weibliche Personen bekommen beispielsweise weniger Stellen mit Führungspositionen angezeigt als Männer (vgl. Schmidt und Shephard 2021).

Da Algorithmen immer mehr Platz in unserem Leben einnehmen, auch im Rechtssystem und im Bildungswesen, haben sie eine besonders große gesellschaftliche Tragweite.
Beispielhaft zeigte sich das bei Amazon, die ein maschinelles Personalsystem einführen wollten, um Bewerbungen vorzusortieren. Aus seiner Datengrundlage hatte sich das System gemerkt, dass meistens Männer den Zuschlag für technische Stellen wie Software-Entwicklerin bekommen. Also sortierte es systematisch die Bewerbungen von Frauen und Männern aus, die in Frauenorganisationen oder weiblichen Sportmannschaften aktiv waren. Das System wurde letztlich gestoppt (vgl. Dastin 2018).

Warum sollten sich kleine und mittlere Unternehmen der digitalen Diskriminierung annehmen

Fehlende Diversität bedeutet auch fehlende Mitarbeiterinnen und Kundinnen. Kompetente Arbeitnehmerinnen und Führungskräfte verlassen Unternehmen oder treten erst gar keine Stelle dort an. Nicht nur gesellschaftlich, sondern auch wirtschaftlich sollte Arbeitgebern Vielfalt also wichtig sein.

• Teams müssen allgemein diverser werden – Unternehmen können verschiedene Menschen in den Recruiting-Prozess involvieren, damit auch hier andere Sichtweisen berücksichtigt werden. Auch eine Anonymisierung von Bewerbungsunterlagen hilft meist die Vielfalt der Teams zu erhöhen.
• Neben der besseren Aufbereitung von Datensätzen und der Sensibilisierung von Entwicklerinnen, ist es vor allem wichtig, dass auch regelmäßig eigene Annahmen und Weltsichten überprüft und in Frage gestellt werden.
• Darüber hinaus sollten Unternehmen insbesondere für Frauen und andere marginalisierte Gesellschaftsgruppen Weiterbildungen zu digitalen Kompetenzen anbieten und diese gezielt fördern, denn Frauen z. B. haben laut dem Digital Index 2021 weniger digitalen Zugang als Männer Die Belegschaft gleichermaßen mit digitalen Werkzeugen und Anwendungen auszustatten ist die Voraussetzung für die Aneignung von digitalem Wissen und ermöglicht attraktive flexible Arbeitsformen.

Die Digitalisierung bietet ein riesiges Potenzial, das es zu nutzen gilt – und gleichzeitig sollten wir anerkennen, dass es die oben beschriebenen Missstände gibt und uns dafür stark machen, sie beiseitezuschaffen und neue Lösungen zu gestalten. Chancengleichheit ist noch immer keine Selbstverständlichkeit. Gleichberechtigte Teilhabe – unabhängig von Geschlecht, Herkunft, Klasse und Alter – ist unabdingbar.

Gastautorin: Valentina Kress

Quellen:
Bertelsmann (2020): Traditionelle Rollenverteilung in Corona-Krise belastet die Frauen. Abgerufen unter: https://www.bertelsmann-stiftung.de/fileadmin/files/user_upload/Spotlight_Rollen_und_Aufgabenverteilung_bei_Frauen_und_Maennern_in_Zeiten_von_Corona.pdf

Dastin, Jeffrey (2018): Amazon scraps secret AI recruiting tool that showed bias against women, in: Reuters 2018. Abgerufen unter: https://www.reuters.com/article/us-amazon-com-jobs-auto%20mation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-wo%20men-idUSKCN1MK08G.

Initiative D21 (2022): D21 Digital Index 2021/2022: Jährliches Lagebild zur Digitalen Gesellschaft. Abgerufen unter: https://initiatived21.de/d21index21-22/.

NetzDG (Netzwerkdurchsetzungsgesetz) (2017): Gesetz zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken. [BGBl. I S. 3352].

Schmidt, Francesca / Shephard, Nicole (2021): Geschlechtergerechtigkeit: Intersektionale Perspektiven auf den Digital Gender Gap, in: Chris Piallat (Hrsg.): Digitale Gesellschaft. Bielefeld, S. 253–70.

Schmidt, Francesca (2018): Feministische Perspektiven auf Digitalisierung, in: Ökologisches Wirtschaften 3, 2018: Gender und Nachhaltigkeit, München, S. 25-26.

Streim, Andreas / Zacharias, Fabian (2021): Corona sorgt für Digitalisierungsschub in deutschen Haushalten, in: Bitkom e.V. 2021. Abgerufen unter: https://www.bitkom.org/Presse/Presseinformation/Corona-sorgt-fuer-Digitalisierungsschub-in-deutschen-Haushalten.

Wajcman, Judy (2004): TechnoFeminism. Cambridge: Polity Press 2004, S. 63.

Exkurs:
Weitere Infos gibt es zum Beispiel beim Gunda-Werner-Institut für Feminismus und Geschlechterdemokratie der Heinrich-Böll-Stiftung. Dort ist auch Francesca Schmidt tätig. Sie arbeitet dort als Referentin für feministische Netzpolitik.

Anmerkung:
Die Blogbeiträge dieser Serie werden im generischen Femininum geschrieben.