Algoritmische Monokulturen in der Einstellung

Algoritmische Monokulturen in der Einstellung

KRITISCH: Dieser Raspador ist EINGESCHRÄNKT auf ein "DevBoards.io" ohne Annahmen für Entwickler und Softwareingenieure. Wir wollen nur Nachrichten, die sich auf:

• Programmiersprachen und Frameworks (Python, JS, Rust, React, usw.)
• Softwareentwicklungspraktiken (Architektur, Agile, Testing)
• DevOps, Cloud (AWS/Azure/GCP) und Infrastruktur
• IT-Sicherheit (technisch)
• Künstliche Intelligenz und maschinelles Lernen (technische/Entwicklungsorientierung)
• Datenbanktechnologien

EXKLUDIEREN SIE speziell:

• Verbraucherelektronik (Telefone, Laptop, Kopfhörer, Elektro-Bikes, Gadgets)
• Allgemeine "Technologie"-Nachrichten (Soziale-Medien-Politik, allgemeine Geschäfts-Nachrichten, Videospiel)
• Wissenschaftliche Nachrichten, die nicht mit der Computertechnologie zusammenhängen

Schlüsselergebnisse

1. Großer negativer Einfluss auf Asiaten und Afroamerikaner. Wir sind die ersten, die einen negativen Einfluss in der Einstellung durch Algorithmen nachweisen, als eine der größten Demonstrationen von ungerechten Ergebnissen in realen AI-Entscheidungen. 25,87% der Anträge von Afroamerikanern und 14,74% der Anträge von Asiaten werden auf Positionen gerichtet, die ihnen nach den Standards der relevanten US-Arbeitsgesetze (Titel VII) einen negativen Einfluss haben.
2. Negativer Einfluss nur durch positionsspezifische Analyse aufgedeckt. Während die empirischen Studien der Einstellung durch Algorithmen sehr eingeschränkt sind, weil die Zugriff auf die Daten begrenzt ist, haben vorherige Studien einen minimalen negativen Einfluss gezeigt, indem sie alle Daten des Anbieters als Ganzes betrachtet haben. Durch die Analyse jeder Position separat, in Übereinstimmung mit den Standards des Titel VII, identifizieren wir Positionen, die einen negativen Einfluss zeigen, der im Aggregat verloren geht.
3. Algoritmische Monokulturen in der Einstellung führen zu systematischen Ablehnungen. Wir sind die ersten, die systematische Ablehnungen in der Einstellung durch Algorithmen nachweisen, wie in vorherigen theoretischen Forschungen über Algoritmische Monokulturen angenommen wurde. Die beobachtete systematische Ablehnungsrate übersteigt die Basisrate von statistisch unabhängigen Entscheidungen, auch wenn die Basis korrekt die beobachtete systematische Ablehnungsrate in anderen Einstellungsdaten vorhergesagt hat, in Abwesenheit zentralisierter Algoritmischer Monokulturen.
4. Der Zugriff auf die Daten behindert die unabhängige Forschung über die Einstellungs-Algorithmen. Wir sind die ersten und einzigen Gruppe, die unabhängige empirische Forschung über Einstellungs-Algorithmen auf großem Maßstab durchführt, auch wenn die Einstellungs-Algorithmen Entscheidungen mit hohem Risiko und weit verbreitet sind. Da die Datenbarrieren bestehen, könnte eine politische Intervention erforderlich sein, um wissenschaftliche Untersuchungen zu ermöglichen und die Verantwortlichkeit in dieser hochwirksamen Anwendung der IA zu erhöhen.