© Bild von F. Schaumayer /CC BY-SA 4.0

D-2 “Big-Data - Big Problems” - Automatisierte Bewerbungsverfahren fair gestalten; zur Weiterleitung an: Juso Bundeskongress, SPD Bundestagsfraktion

AntragstellerInnen: Heilbronn

“Big-Data - Big Problems” - Automatisierte Bewerbungsverfahren fair gestalten; zur Weiterleitung an: Juso Bundeskongress, SPD Bundestagsfraktion

Die Digitale Revolution auf dem Arbeitsmarkt
Die Auswirkungen der digitalen Revolution und die fortschreitende Automatisierung von Arbeitsprozessen, die ursprünglich von menschlichen MitarbeiterInnen übernommen wurden bedeuten einen Umbruch für den Arbeitsmarkt. Diese Automatisierung beginnt allerdings nicht erst innerhalb eines Betriebes, sich auf die Arbeitswelt auszuwirken:
Technische Fortschritte und Forschungsergebnisse im Bereich des “machine learnings” machen es bereits heute möglich, auch die Auswahl, geeigneter BewerberInnen für eine Stelle zu treffen, ohne die Beteiligung eines Menschen und ausschließlich durch Computerprogramme zu treffen.
Eine solche Technologie ermöglicht es, gerade großen Unternehmen, die in reaktion auf ihre Stellenausschreibungen eine Vielzahl von Bewerbungen erhalten, diese schnell, effizient und vor allem kostengünstig vorzusortieren.
Dabei werden entsprechende Programme mit zunehmenden Datenmengen immer präziser. So besteht über den Bewerbungsprozess hinaus die Möglichkeit, die Leistungen der eingestellten ArbeitnehmerInnen zu messen und diese dem System wieder zuzuführen. Das macht es möglich, gezielt die Merkmale neuer KandidatInnen mit denen der bisherigen “Top-Performer” zu vergleichen und danach auszuwählen.
Maschinen sind frei von Vorurteilen?
Grundsätzlich werten Computerprogramme Bewerbungen vollständig neutral und nur anhand der Informationen aus, die ihnen aus früheren Datensätzen vorliegen. Die Gefahr einer Diskriminierung aufgrund äußerer Merkmale, wie Hautfarbe, Geschlecht oder Herkunft erscheint daher nicht gegeben zu sein.
Gerade aus dieser Auswertung großer Datensätze und deren Bezug auf Einzelfälle resultiert allerdings ein erhebliches Risiko der Diskriminierung. “Maschinelles Lernen” entgegen der weitläufigen Überzeugung nicht neutral, sondern wird durch menschliche Verhaltensweisen stark beeinflusst.
Entscheidet ein Algorithmus auf der Grundlage der bereits vorhandenen Daten, so ist es wahrscheinlich, dass BewerberInnen, deren Profile große Schnittmengen mit dem Profil der bisherigen MitarbeiterInnen haben eher eingestellt werden, als solche, die von diesem Profil abweichen. Statt Vielfalt zu fördern, indem Entscheidungen neutral getroffen werden reproduziert sich auf diese Weise die vorherige Struktur immer wieder selbst.
Gleichzeitig wird es aufgrund der scheinbaren Neutralität solcher Programme und der, für die BewerberInnen undurchsichtigen Arbeitsweise der Algorithmen einfach, tatsächlich entstandene Diskriminierung zu verschleiern.
Die politischen Konsequenzen
Die digitale Revolution lässt sich nicht aufhalten. Gerade deswegen muss sie von politischer Seite gestaltet werden, indem die entsprechenden Forschungs- und vor allem Anwendungsbereiche reguliert und regelmäßig überprüft werden.
Hierzu ist es notwendig, unabhängige Stellen zu schaffen, die eine neutrale Überprüfung und damit den Schutz der ArbeitnehmerInnen vor Diskriminierung garantieren.
Wir fordern daher:
Die Verpflichtung von Unternehmen, ihren Bewerbungsprozess offenzulegen und für alle potentiellen BewerberInnen vor der Bewerbung einsehbar zu machen.
Sofern vorhanden muss die ArbeitnehmerInnen-Vertretung des jeweiligen Unternehmens vor dem Einsatz eines automatisierten Bewerbungsverfahrens an der Entscheidung über dessen Einführung beteiligt werden.
Eine Normierung digitaler Bewerbungsverfahren und regelmäßige Überprüfungen der verwendeten Software durch unabhängige Stellen.
Die Kontrolle der für die Überprüfungen zuständigen Stellen durch das Bundesministerium für Justiz und Verbraucherschutz (BMJV).
Die Schaffung eines Prüfsiegels, das nach für die BewerberInnen transparenten Maßstäben vergeben wird und die Unbedenklichkeit der verwendeten Algorithmen zertifiziert.
Die Möglichkeit für VerbraucherInnen-Schutzverbände, im Rahmen einer Verbandsklage gegen die Verwendung unzulässiger und diskriminierender Programme im Bewerbungsverfahren vorzugehen und das betreffende Unternehmen zur Unterlassung und Beseitigung möglicher Diskriminierung zu verpflichten
Die Prüfung, in welcher Form und welchem Umfang die Schaffung oder Erhöhung entsprechender Bußgelder für Verstöße gegen Datenschutzauflagen und Diskriminierungsverbote möglich und notwendig ist.
Insbesondere die Prüfung, inwiefern die Schaffung von Bußgeldern möglich ist, die nicht als Festbetrag, sondern in Relation zum gesamten weltweit erzielten Jahresumsatzes des betroffenen Unternehmens verhängt werden.

Beschluss

geändert angenommen

PDF

Download (pdf)

Änderungsanträge zu D-2

Nr Zeile AntragstellerInnen Text Begründung Status
D-2-1 - 36 1 - 36 Mannheim

Versetze Zeile 1 – 36 in Begründung

D-2-1 - 36 1 - 36 Mannheim

Versetze Zeile 1 – 36 in Begründung

D-2-1-31 1-31 Göppingen

Verschiebe in Begründung

D-2-37 37 Mannheim

Streiche “daher“

D-2-43-44 43-44 Konstanz

Ersetzte Z43 ab “Eine“ bis Z44“ Stellen“ durch “Die gleichzeitige Implementierung des Anonymisierten Bewerbungsverfahres, sobald ein digitales Bewerbungsverfahren benutzt wird.“

D-2-45 45 Freiburg

Ersetze in Z. 45 „Bundesministerium für Justiz und Verbraucherschutz“ durch „Bundesministerium für Arbeit“

D-2-49 49 Freiburg

Ersetze in Z. 49 „VerbraucherInnenschutzverbände“ durch „Arbeitnehmer*innenvertretungen, wie z.B. Gewerkschaften oder die DGB Rechtschutz GmbH“

D-2-51 51 Freiburg

Ergänze nach Z. 51: „Die Beweislast für die Zulässigkeit der Programme liegt bei den verwendenden Unternehmen.“

Änderungsantrag zu D-2 erstellen

Um einen Änderungsantrag einreichen zu können, benötigt ihr einen Delegiertenzugang für das Konferenzsystem. Dieser wird vom Landesbüro an die Vorsitzenden der einzelnen Kreisverbände versendet. Zum Anmelden müsst ihr das Widget in der rechten Spalte verwenden.