Monoculturas algorítmicas en la contratación

Monoculturas algorítmicas en la contratación

CRÍTICO: Este raspador es ESTRICTO para un "DevBoards.io" sin suposiciones para desarrolladores y ingenieros de software. Solo queremos noticias relacionadas con:

• Lenguajes de programación y marcos (Python, JS, Rust, React, etc.)
• Prácticas de desarrollo de software (Arquitectura, Agile, Testing)
• DevOps, Nube (AWS/Azure/GCP) e Infraestructura
• Seguridad informática (técnica)
• Inteligencia artificial y aprendizaje automático (focalización técnica/ desarrollo)
• Tecnologías de bases de datos

EXCLUYAMOS específicamente:

• Electrónica de consumo (Teléfonos, Laptop, Cascos, Bicicletas eléctricas, Gadget)
• Noticias "Tecnología" generales (Políticas de redes sociales, noticias de negocio generales, videojuegos)
• Noticias científicas no relacionadas con la computación

Resultados clave

1. Impacto negativo a gran escala para asiáticos y negros. Somos los primeros en demostrar el impacto negativo en contrataciones algorítmicas en uso como una de las mayores demostraciones de resultados injustos en decisiones AI a alto riesgo reales. 25,87% de las solicitudes presentadas por candidatos negros y 14,74% de las solicitudes presentadas por candidatos asiáticos son dirigidas a posiciones que tienen un impacto negativo sobre ellos en función de los estándares de la ley de empleo de los Estados Unidos (Título VII).
2. Impacto negativo revelado solo por análisis posicional desagregado. Mientras que los estudios empíricos de contrataciones algorítmicas están muy limitados debido a las limitaciones de acceso a los datos, los estudios anteriores mostraron un impacto negativo mínimo al estudiar todos los datos del proveedor como un todo. Al estudiar cada posición por separado, en conformidad con los estándares del Título VII, identificamos posiciones que demuestran un impacto negativo que se pierde en el agregado.
3. Monoculturas algorítmicas en la contratación producen rechazos sistémicos. Somos los primeros en demostrar rechazos sistémicos en contrataciones algorítmicas en uso como se postuló en investigaciones teóricas anteriores sobre monocultura algorítmica. La tasa de rechazo sistémico observada supera significativamente la de base de decisiones independientes estadísticas, incluso si la base predice correctamente las tasas de rechazo sistémico observadas en otras informaciones de contratación en ausencia de monoculturas algorítmicas centralizadas.
4. El acceso a los datos obstaculiza la investigación independiente sobre los algoritmos de contratación. Somos los primeros y el único grupo que conduce investigaciones empíricas independientes sobre los algoritmos de contratación a gran escala, incluso si los algoritmos de contratación median decisiones a alto riesgo y son adoptados ampliamente. Dadas las barreras de datos, puede ser necesario un intervención de política para permitir la investigación científica y aumentar la responsabilidad en esta aplicación de alto impacto de la IA.