La construcción de Ética de la IA para la Gestión del Talento

la inteligencia Artificial se ha interrumpido cada área de nuestras vidas — desde el comisariado de compras en las experiencias que hemos llegado a esperar de las empresas como Amazon y Alibaba a las recomendaciones personalizadas que canales como YouTube y Netflix usa para comercializar sus contenidos más recientes. Pero, cuando se trata de el lugar de trabajo, en muchas maneras, la IA está todavía en su infancia. Esto es particularmente cierto cuando se considera las formas en que se está comenzando a cambiar la gestión del talento. Usar un familiar analogía: AI en el trabajo es en el dial de modo. El 5G WiFi fase todavía tiene que llegar, pero no tenemos ninguna duda de que lo hará.

Para estar seguro, hay mucha confusión en torno a lo que AI puede y no puede hacer, así como diferentes perspectivas sobre cómo definirlo. En la guerra por el talento, sin embargo, la IA juega un rol muy específico: proporcionar a las organizaciones más exacta y más eficiente de las predicciones de un candidato a la labor relacionada con los comportamientos y potencial de rendimiento. A diferencia de los tradicionales métodos de reclutamiento, tales como las referencias de los empleados, CV de detección, y cara a cara, entrevistas, AI es capaz de encontrar patrones invisibles para el ojo humano.

Muchos de AI uso de los sistemas de gente real como modelos de lo que se ve el éxito en ciertos roles. Este grupo de individuos que se conoce como un “conjunto de datos de entrenamiento”, y a menudo incluye los administradores o el personal que se han definido como de “alto desempeño.” La IA de los sistemas de proceso y comparar los perfiles de varios solicitantes de empleo en el “modelo” de los empleados se ha creado basándose en el conjunto de entrenamiento. Luego, le da a la empresa una estimación probabilística de cómo de cerca de un candidato atributos coinciden con los de el empleado ideal.

en Teoría, este método podría ser utilizado para encontrar la persona adecuada para el puesto adecuado más rápido y más eficientemente que nunca antes. Pero, como te habrás dado cuenta, se ha convertido en una fuente de promesa y peligro. Si el conjunto de entrenamiento es diversa, si demográficamente imparcial de datos se utiliza para medir a la gente en ella, y si los algoritmos son también debiased, esta técnica puede atenuar los humanos, los prejuicios y ampliar la diversidad socioeconómica y la inclusión mejor que los humanos nunca podrían. Sin embargo, si el conjunto de entrenamiento, los datos, o ambos son parciales y algoritmos no son lo suficientemente auditados, AI va a agravar el problema de sesgo en la contratación y la homogeneidad en las organizaciones.

con el fin De mejorar rápidamente la gestión del talento y aprovechar al máximo el poder y el potencial de la IA ofrece, entonces, tenemos que cambiar nuestro enfoque de desarrollo más ético sistemas de recursos humanos para el desarrollo de más ético AI. Por supuesto, la eliminación de los prejuicios de la IA no es fácil. De hecho, es muy difícil. Pero nuestro argumento se basa en nuestra creencia de que es mucho más factible que la eliminación de los seres humanos en sí mismos.

Cuando se trata de identificar el talento o potencial, la mayoría de las organizaciones todavía jugar por el oído. Los reclutadores pasan sólo unos segundos mirando un curriculum vitae antes de decidir que para “eliminar.” La contratación de gerentes de hacer juicios rápidos y los llamamos “intuición” o pasar por alto datos duros y contratar sobre la base de cultural fit — un problema que se ve agravado por la ausencia general de objetivo y riguroso de las medidas de desempeño. Además, el inconsciente sesgo de capacitación implementado por un número creciente de empresas a menudo se ha encontrado para ser ineficaz, y, a veces, puede incluso empeorar las cosas. A menudo, la formación se centra demasiado en el individuo sesgo y muy poco sobre los sesgos estructurales estrechamiento de la tubería de grupos insuficientemente representados.

a Pesar de que los críticos argumentan que la IA no es mucho mejor, se suele olvidar que estos sistemas son el reflejo de nuestro propio comportamiento. Somos rápidos para culpar a la IA para la predicción de que los hombres blancos recibirán más alto de los índices de rendimiento de su (probablemente también del varón blanco) a los gerentes. Pero esto sucede, es porque hemos fallado para corregir el sesgo en la clasificación de desempeño que se utilizan a menudo en conjuntos de datos de entrenamiento. Nos sorprendemos de que la IA puede hace sesgada de las decisiones de contratación, pero vivir bien en un mundo donde las inclinaciones humanas dominan. Basta con echar un vistazo en Amazon. El clamor de la crítica sobre su sesgada de reclutamiento algoritmo ignorado la evidencia contundente de que la actual impulsado por humanos a emplear en la mayoría de las organizaciones es ineradicably peor. Es parecido a la expresión de las más preocupación por un número muy pequeño de coche sin conductor de muertes que de los 1,2 millones de muertes por accidentes de tránsito al año causadas por fallas y posiblemente también distraído o intoxicado los seres humanos.

de manera Realista, tenemos una mayor capacidad para asegurar la precisión y la equidad en el sistema de IA que podemos hacer para influir o iluminar a los reclutadores y los gerentes de contratación. Los seres humanos son muy buenos para el aprendizaje, pero muy mal en olvidar. Los mecanismos cognitivos que nos hacen sesgada a menudo son las mismas herramientas que utilizamos para sobrevivir en nuestro día a día. El mundo es demasiado complejo para que podamos procesar de manera lógica y deliberadamente todo el tiempo; si lo hiciéramos, estaríamos abrumado por la sobrecarga de información e incapaz de tomar decisiones simples, tales como la compra de una taza de café (después de todo, ¿por qué deberíamos confiar en el barista si no le conocemos?). Por eso es más fácil para asegurarse de que nuestros datos y los conjuntos de entrenamiento son imparciales que es cambiar los comportamientos de Sam o Sally, de quien no puede eliminar el sesgo ni extraer un listado de las variables que influyen en sus decisiones. Esencialmente, es más fácil para desempaquetar los algoritmos de comprender y cambiar la mente humana.

Para ello, las organizaciones que utilizan la IA para la gestión del talento, en cualquier etapa, debe comenzar por tomar los siguientes pasos.

1) Educar a los candidatos y obtener su consentimiento. Pedir a los futuros empleados a aceptar o a facilitar sus datos personales a la empresa, sabiendo que va a ser analizada, almacenada y utilizada por los sistemas de AI para hacer de RRHH decisiones. Esté preparado para explicar el lo, que, cómo y ¿por qué. No es ético que la IA de los sistemas que se basan en la caja negra de los modelos. Si un candidato tiene un atributo que se asocia con el éxito en un papel, que la organización necesita para no sólo entender por qué ese es el caso, sino también ser capaz de explicar los vínculos causales. En resumen, la IA de los sistemas deben ser diseñados para predecir y explicar la “causalidad”, no acaba de encontrar “la correlación.” Usted también debe asegurarse de preservar candidato anonimato para proteger los datos personales y cumplir con GDPR, leyes de privacidad de California, y regulaciones similares.

2) Invertir en sistemas que optimizan para la equidad y precisión. Históricamente, los psicólogos organizacionales han señalado una disminución en la precisión al candidato evaluaciones están optimizados para la equidad. Por ejemplo, gran parte de la investigación académica indica que mientras que la capacidad cognitiva de las pruebas son una consistente predictor del rendimiento en el trabajo, particularmente en la alta complejidad de los trabajos, su implementación tiene un impacto adverso en los grupos menos representados, en particular, los individuos con un nivel socioeconómico más bajo. Esto significa que las empresas interesadas en el fomento de la diversidad y la creación de una cultura inclusiva a menudo dejan de enfatizar tradicionales pruebas cognitivas a la hora de contratar a nuevos trabajadores para que diversos candidatos no están en desventaja en el proceso. Esto se conoce como la imparcialidad y precisión de trade-off.

sin Embargo, este compromiso se basa en las técnicas de la mitad de hace un siglo, antes de la llegada de la IA de los modelos que pueden tratar los datos de forma muy diferente a los modelos tradicionales. Hay evidencia creciente de que la IA podría superar este trade-off mediante la implementación de más dinámicos y personalizados algoritmos de puntuación que son sensibles tanto a la precisión como a la equidad, la optimización de una mezcla de ambos. Por lo tanto, los desarrolladores de AI no tienen excusa para no hacerlo. Además, debido a que estos nuevos sistemas que existen actualmente, deberíamos preguntarnos si el uso generalizado de las tradicionales evaluaciones cognitivas, que se sabe que tienen un impacto adverso sobre las minorías, debe continuar sin algún tipo de sesgo de mitigación.

3) Desarrollar sistemas de código abierto y auditorías externas. responsabilizar a las empresas y a los desarrolladores responsables por permitir que otros de auditoría de las herramientas que se utilizan para analizar sus aplicaciones. Una solución es open-sourcing de no propiedad, sin embargo, aspectos críticos de la tecnología de la IA de la organización. De propiedad de los componentes de terceros, las auditorías realizadas por creíble expertos en el campo son una herramienta que las empresas pueden utilizar para mostrar al público cómo se mitigación de sesgo.

4) Sigue las mismas leyes, así como la recopilación de datos y las prácticas de uso utilizados en la tradicional contratación. los datos que no deben ser recogidos o incluido en un tradicional proceso de contratación por causas jurídicas o éticas no deben ser utilizados por los sistemas de AI. La información privada sobre física, mental o emocional condiciones, la información genética y el uso o abuso de sustancias debe ser nunca entró.

Si las organizaciones a abordar estas cuestiones, creemos que la ética de la IA podría mejorar enormemente las organizaciones no sólo a reducir el sesgo en la contratación, sino también por la mejora de la meritocracia y hacer que la asociación entre el talento, el esfuerzo y el éxito de los empleados mucho mayor que la que ha sido en el pasado. Más aún, será bueno para la economía global. Una vez que mitigar el sesgo, nuestro candidato a la piscinas crecerá más allá de referencias de los empleados y de la Ivy League graduados. La gente de una amplia gama de orígenes socioeconómicos tendrá más acceso a mejores puestos de trabajo, lo que puede ayudar a crear el equilibrio y comenzar a remediar la clase se divide.

Para hacer lo anterior suceda, sin embargo, las empresas necesitan que el derecho de las inversiones, no sólo en el corte-borde de IA tecnologías, sino también (y especialmente) en la experiencia humana — personas que saben cómo aprovechar las ventajas que estas nuevas tecnologías ofrecen, minimizando los posibles riesgos y desventajas. En cualquier área de desempeño, una combinación de artificial y la inteligencia humana, es probable que produzca un resultado mejor que el uno sin el otro. Ética AI debe ser visto como una de las herramientas que podemos utilizar para contrarrestar nuestros propios prejuicios, no como una panacea.