Por Canuto  

California está a un paso de prohibir que los empleadores utilicen inteligencia artificial para monitorear las emociones de sus trabajadores o recopilar determinados datos neuronales. La AB 1883 ya fue aprobada por la Legislatura estatal y espera la decisión del gobernador Gavin Newsom, en un debate que enfrenta las promesas de la IA emocional con dudas sobre su precisión, sus efectos laborales y los límites de la vigilancia automatizada.
***

  • La AB 1883 prohibiría el monitoreo de emociones y la recopilación de ciertos datos neuronales de los trabajadores.
  • Los empleadores que incumplan la norma enfrentarían una multa de USD $500 por cada violación.
  • La propuesta contempla excepciones vinculadas con aeronaves, seguridad nacional, fines militares, espaciales y de defensa.

California pone límites a la vigilancia emocional

California está cerca de establecer uno de los límites más estrictos de Estados Unidos frente al uso de inteligencia artificial en el lugar de trabajo. La Asamblea estatal aprobó el Proyecto de Ley de la Asamblea 1883, conocido como AB 1883, que prohibiría a los empleadores utilizar sistemas automatizados para monitorear el estado emocional de sus trabajadores o recopilar determinadas señales del sistema nervioso.

La iniciativa ahora espera la acción del gobernador Gavin Newsom, quien deberá decidir si la convierte en ley. De aprobarse, la medida no eliminaría todas las formas de supervisión laboral, pero impediría que las empresas conviertan supuestas mediciones de emociones o actividad neuronal en herramientas habituales de evaluación, capacitación o control.

El alcance del proyecto se concentra en dos prácticas que han ganado visibilidad a medida que la inteligencia artificial se incorpora a las operaciones empresariales. La primera consiste en inferir estados emocionales mediante expresiones, voz, lenguaje u otras señales; la segunda abarca la recopilación de información generada al medir señales del sistema nervioso central o periférico de un trabajador.

Según HR Dive, la propuesta responde a inquietudes sobre la fiabilidad de estas tecnologías y sobre el poder que obtendría un empleador al convertir características íntimas de una persona en datos laborales. La preocupación no se limita a la privacidad, porque una clasificación errónea podría influir en la forma en que una compañía percibe el desempeño, la actitud o la disposición de un empleado.

Multas y excepciones previstas en la propuesta

La AB 1883 establecería una multa de USD $500 por cada violación cometida por un empleador que utilice inteligencia artificial para monitorear emociones o recopilar datos neuronales dentro del ámbito prohibido. La cifra busca crear una consecuencia concreta para las compañías que incorporen estos sistemas, aunque el material disponible no detalla un esquema adicional de sanciones, procedimientos de investigación o mecanismos específicos para presentar reclamos.

El texto tampoco plantea una prohibición general de todas las herramientas de monitoreo en el trabajo. Los empleadores todavía podrían recurrir a sistemas de supervisión para otros objetivos, entre ellos la seguridad, siempre que el uso no implique las prácticas emocionales o neuronales que la iniciativa pretende restringir.

La propuesta incluye exenciones para ciertos trabajos relacionados con aeronaves y productos vinculados con la seguridad nacional, los fines militares, el sector espacial o la defensa. Estas excepciones muestran que el proyecto intenta trazar una frontera entre aplicaciones consideradas sensibles para la seguridad y el uso cotidiano de sistemas capaces de inferir estados internos de empleados en oficinas, centros de llamadas u otros entornos laborales.

El debate, por tanto, no gira únicamente alrededor de si una empresa puede instalar un dispositivo o un programa de análisis, sino de qué tipo de información puede extraer del cuerpo y la conducta de una persona durante su jornada. Para sus defensores, la norma funcionaría como una salvaguarda anticipada antes de que la vigilancia emocional se vuelva una práctica rutinaria y más difícil de retirar.

Dudas sobre la inteligencia artificial emocional

La inteligencia artificial emocional se ha presentado como una herramienta para contratación, capacitación y monitoreo de seguridad en lugares como centros de llamadas, oficinas y vestíbulos. Sus defensores sostienen que el análisis automatizado podría ayudar a identificar patrones de interacción o necesidades de entrenamiento, pero esas promesas dependen de que el sistema interprete correctamente señales que no siempre tienen un significado único.

Un análisis de marzo de 2025 citado en la cobertura, elaborado por un profesor asociado de información de la Universidad de Michigan, señaló que la capacidad de la inteligencia artificial emocional para medir emociones continúa siendo controversial y cuestionada. La observación resulta central para la discusión laboral, porque una herramienta imprecisa puede convertir una conjetura estadística en una etiqueta que afecte la experiencia de un trabajador.

Un ejemplo que llamó la atención fue Patty, el asistente de inteligencia artificial lanzado por Burger King e integrado en los auriculares de sus empleados. La compañía dijo que el software podía detectar frases asociadas con la amabilidad y que su propósito era servir como herramienta de entrenamiento, no rastrear a trabajadores individuales, una distinción que ilustra la tensión entre asistencia operativa y vigilancia personal.

El interés comercial por este segmento también ha aumentado. Ejecutivos de Korn Ferry estimaron que el mercado de la inteligencia artificial emocional podría alcanzar USD $9.000 millones para 2030, mientras crecen las preguntas sobre si los empleadores deben confiar en sistemas que afirman medir cualidades emocionales pese a las dudas persistentes sobre su precisión y sus posibles efectos negativos en las condiciones laborales.

California amplía su agenda de protección laboral

La AB 1883 forma parte de un esfuerzo más amplio de California para establecer salvaguardas sobre la inteligencia artificial antes de que su uso se vuelva aún más común en las empresas. El estado también ha considerado la SB 951, que exigiría notificar a los trabajadores sobre despidos masivos o reubicaciones atribuibles en gran parte o completamente a la adopción de sistemas de inteligencia artificial.

Otra propuesta mencionada en la cobertura es la SB 947, que prohibiría que los empleadores permitan que sistemas automatizados de toma de decisiones gestionen por sí solos medidas disciplinarias o despidos. La lógica común de estas iniciativas consiste en evitar que una herramienta tecnológica sustituya completamente el criterio humano en decisiones con consecuencias importantes para la vida laboral.

Los reguladores estatales ya han emitido reglas que limitan el uso de inteligencia artificial en determinadas decisiones laborales y respecto de empleadores específicos. La nueva legislación avanzaría un paso más al concentrarse en la información emocional y neuronal, dos categorías que pueden resultar especialmente difíciles de auditar porque no se reducen a datos tradicionales como horarios, productividad o registros de asistencia.

Europa ya tomó una posición sobre este asunto: la Ley de Inteligencia Artificial de la Unión Europea, vigente desde agosto de 2024, prohíbe el monitoreo emocional en el lugar de trabajo. El movimiento californiano podría reforzar la discusión internacional sobre qué usos de la inteligencia artificial deben quedar fuera de las relaciones laborales, aunque el desenlace inmediato dependerá de la decisión de Newsom sobre la AB 1883.

Un debate sobre privacidad, poder y transparencia

La discusión sobre la vigilancia emocional se inserta en una reacción más amplia contra sistemas automatizados que clasifican, fijan precios o evalúan a las personas con poca transparencia. En todos esos casos aparece una pregunta similar: qué información puede utilizar una organización para tomar decisiones sobre individuos y qué explicación debe ofrecer cuando un algoritmo influye en el resultado.

En el ámbito laboral, la preocupación adquiere una dimensión adicional porque los trabajadores suelen tener menos capacidad para negociar las condiciones de recopilación de datos que un consumidor. Aunque una empresa presente el sistema como entrenamiento o seguridad, el desequilibrio entre empleador y empleado puede hacer que una supuesta herramienta voluntaria se perciba como una obligación práctica.

La precisión también representa un problema independiente de la intención empresarial. Un sistema que confunde cansancio con desinterés, nerviosismo con falta de honestidad o una forma de hablar con poca amabilidad podría producir evaluaciones injustas, especialmente si los trabajadores no conocen qué señales analiza la herramienta ni cuentan con una vía clara para impugnar sus conclusiones.

Si Newsom firma la AB 1883, California habrá optado por restringir estas prácticas antes de que el mercado proyectado para la inteligencia artificial emocional alcance una mayor escala. La decisión ofrecerá una señal relevante a empresas tecnológicas y empleadores sobre los límites que pueden enfrentar cuando intentan convertir emociones, respuestas corporales o señales neuronales en instrumentos de administración laboral.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados