agosto 18, 2023
Documento de la EEOC advierte contra los efectos discriminatorios de la inteligencia artificial
La Comisión de Igualdad de Oportunidades en el Empleo (EEOC) ha emitido una advertencia a los empleadores que utilizan sistemas automatizados, incluida la inteligencia artificial (IA), para monitorear a los empleados y tomar decisiones sobre una variedad de asuntos laborales. El documento dice que su intención es centrarse en prevenir la discriminación contra quienes buscan empleo y trabajadores, de conformidad con el Título VII de la Ley de Derechos Civiles (Título VII).
Los empleadores utilizan cada vez más sistemas automatizados, incluidos aquellos con inteligencia artificial, para ayudarlos con una amplia gama de asuntos laborales, como seleccionar nuevos empleados, monitorear el desempeño y determinar salarios o ascensos. Sin las salvaguardias adecuadas, según la EEOC, su uso corre el riesgo de violar las leyes de derechos civiles existentes.
"A medida que los empleadores recurren cada vez más a la IA y otros sistemas automatizados, deben garantizar que el uso de estas tecnologías se alinee con las leyes de derechos civiles y nuestros valores nacionales de equidad, justicia e igualdad", dijo la presidenta de la EEOC, Charlotte A. Burrows. "Este nuevo documento de asistencia técnica ayudará a los empleadores y desarrolladores de tecnología a diseñar y adoptar nuevas tecnologías".
La EEOC no se avergüenza de utilizar su autoridad
"No tengo reparos en utilizar nuestra autoridad para hacer cumplir la ley cuando es necesario", dijo Burrows al Insurance Journal. "Queremos trabajar con los empleadores, pero ciertamente no hay ninguna exención a las leyes de derechos civiles porque se practica discriminación de alguna manera con alta tecnología".
Burrows dijo que un ejemplo de cómo los sistemas automatizados pueden violar el Título VII involucra a los examinadores de currículums cuando producen un resultado sesgado si se basan en datos sesgados.
"Lo que sucederá es que hay un algoritmo que busca patrones que reflejen patrones con los que está familiarizado", dijo. “Será capacitado con datos que provengan de sus empleados existentes. Y si actualmente tiene un conjunto de empleados no diverso, es probable que termine expulsando sin darse cuenta a personas que no se parecen a sus empleados actuales”.
Amazon, por ejemplo, tuvo que abandonar su herramienta de escaneo de currículums para reclutar a los mejores talentos después de descubrir que favorecía a los hombres para puestos técnicos, en parte porque estaba comparando a los candidatos con la propia fuerza laboral tecnológica dominada por hombres de la compañía.
Las empresas también deben tener cuidado con los “algoritmos draconianos de seguimiento de horarios” que penalizan los descansos para las mujeres embarazadas o los musulmanes que toman tiempo para orar o permiten que un software defectuoso excluya a los graduados de universidades para mujeres o históricamente negras. El mensaje es: No culpen a la IA cuando la EEOC llame.
Cuando la EEOC tenga conocimiento de estas situaciones, tomará medidas, dijo Burrows. En marzo, el sitio web tecnológico de búsqueda de empleo Dice.com llegó a un acuerdo con la EEOC para poner fin a una investigación sobre acusaciones de que estaba permitiendo que los anunciantes de empleo excluyeran a trabajadores de origen nacional estadounidense en favor de inmigrantes que buscaban visas de trabajo.
Impacto adverso
El nuevo documento de asistencia técnica de la EEOC analiza el impacto adverso, un concepto clave de derechos civiles, para ayudar a los empleadores a evitar que el uso de la IA conduzca a discriminación en el lugar de trabajo. Este documento se basa en publicaciones anteriores de la EEOC sobre asistencia técnica sobre IA y la Ley de Estadounidenses con Discapacidades y un compromiso conjunto de la agencia. También responde preguntas que los empleadores y los desarrolladores de tecnología puedan tener sobre cómo se aplica el Título VII al uso de sistemas automatizados en las decisiones laborales y ayuda a los empleadores a evaluar si dichos sistemas pueden tener un impacto adverso o desigual sobre una base prohibida por el Título VII.
"Animo a los empleadores a realizar un autoanálisis continuo para determinar si están utilizando la tecnología de una manera que pueda resultar en discriminación", dijo Burrows. "Este recurso de asistencia técnica es otro paso para ayudar a los empleadores y proveedores a comprender cómo se aplican las leyes de derechos civiles a los sistemas automatizados utilizados en el empleo".
El documento de asistencia técnica de la EEOC es parte de su Iniciativa de Justicia Algorítmica e Inteligencia Artificial, que trabaja para garantizar que el software (incluida la IA) utilizado en la contratación y otras decisiones laborales cumpla con las leyes federales de derechos civiles que hace cumplir la EEOC. El nombre del documento es "Evaluación del impacto adverso en el software, los algoritmos y la inteligencia artificial utilizados en los procedimientos de selección de empleo según el Título VII de la Ley de Derechos Civiles de 1964".