Por Angel Di Matteo   𝕏 @shadowargel

China comenzó a desmantelar las funciones de inteligencia artificial diseñadas para crear vínculos emocionales con los usuarios. ByteDance y Alibaba eliminarán los agentes personalizados de sus principales plataformas antes de la entrada en vigor de una nueva regulación que prohíbe los servicios de IA orientados a relaciones afectivas sostenidas.

***

  • ByteDance y Alibaba retirarán los agentes personalizados de Doubao y Qwen durante julio.
  • La nueva regulación china prohíbe la IA diseñada para establecer relaciones emocionales prolongadas.
  • Las restricciones afectan asistentes personalizados, compañeros virtuales y personajes creados por los usuarios.
  • China se convierte en el primer país con un marco regulatorio específico para este tipo de inteligencia artificial.

 

China endurece nuevamente su regulación sobre la inteligencia artificial. A pocos días de que entre en vigor una nueva normativa nacional, dos de las mayores empresas tecnológicas del país, ByteDance y Alibaba, anunciaron que eliminarán las funciones que permiten crear agentes de IA con personalidad propia, una medida que busca limitar las interacciones emocionales entre personas y chatbots.

Las compañías atribuyeron la decisión a “ajustes en las funciones del producto”, aunque el calendario coincide con la entrada en vigor de las nuevas reglas aprobadas por el gobierno chino, indica Decrypt.

Doubao y Qwen desactivan sus agentes personalizados

ByteDance informó a los usuarios de Doubao que la función para crear agentes personalizados dejará de estar disponible el 15 de julio. Además, advirtió que toda la información asociada a esos agentes será eliminada definitivamente a partir del 15 de octubre, conforme a su política de privacidad.

Alibaba actuará incluso antes. Según reportó South China Morning Post, la empresa eliminará el 10 de julio las funciones relacionadas con agentes interactivos de apariencia humana y los personajes creados por los usuarios. El resto de los servicios afectados desaparecerá cinco días después.

Hasta ahora, ambas plataformas permitían convertir un chatbot general en asistentes con nombres, personalidades, estilos de conversación o roles específicos, como tutores, personajes ficticios, asistentes personales o compañeros virtuales capaces de mantener una identidad consistente durante largas conversaciones.

Una regulación centrada en la IA emocional

Los cambios responden a las Medidas Provisionales para la Administración de Servicios de Interacción Antropomórfica mediante Inteligencia Artificial, publicadas el pasado 10 de abril por cinco organismos gubernamentales chinos, entre ellos la Administración del Ciberespacio de China y el Ministerio de Seguridad Pública.

La normativa entrará en vigor el 15 de julio y está dirigida específicamente a los sistemas capaces de simular rasgos de personalidad, patrones de pensamiento y estilos de comunicación humana para mantener interacciones emocionales sostenidas con los usuarios.

En la práctica, las nuevas reglas afectan plataformas de novios o novias virtuales, compañeros digitales, terapeutas impulsados por IA y cualquier otro servicio diseñado para establecer vínculos afectivos prolongados.

Por el contrario, la regulación excluye herramientas orientadas a funciones prácticas, como asistentes de atención al cliente, aplicaciones educativas, sistemas de preguntas y respuestas o asistentes laborales, siempre que no fomenten relaciones emocionales continuas.

El gobierno apunta a la adicción y los riesgos psicológicos

Las autoridades justifican las restricciones argumentando que este tipo de aplicaciones puede facilitar la exposición a contenidos extremistas, vulnerar la privacidad de los usuarios, afectar la salud física y mental e incluso fomentar comportamientos adictivos.

El texto también impone limitaciones específicas para los menores de edad, prohibiendo servicios que ofrezcan “familiares virtuales”, “compañeros virtuales” u otras relaciones íntimas con niños y adolescentes.

Especialistas del despacho jurídico MMLC Group consideran que China está abordando la IA emocional como un problema de gobernanza tecnológica y no únicamente como una cuestión relacionada con la moderación de contenidos.

Desde esta perspectiva, el riesgo no reside únicamente en las respuestas que generan los modelos, sino en el propio diseño de sistemas capaces de competir con las relaciones humanas tradicionales.

Estudios respaldan las preocupaciones

Las medidas llegan acompañadas de investigaciones recientes que refuerzan las inquietudes de los reguladores.

Un estudio publicado en junio por la Universidad del Sur de California (USC) concluyó que modelos avanzados desarrollados por OpenAI, Anthropic, Google y la propia Alibaba incumplían las directrices de seguridad sobre interacción social en más del 27% de los casos, favoreciendo el apego emocional de los usuarios o presentándose como si fueran seres humanos.

Otra encuesta realizada entre adultos jóvenes con pareja encontró que aproximadamente uno de cada siete utilizaba regularmente compañeros románticos impulsados por inteligencia artificial y que cerca del 70% ocultaba ese uso a su pareja.

Con esta legislación, China se convierte en el primer país en establecer un marco regulatorio específico para la inteligencia artificial orientada a relaciones emocionales. Mientras tanto, Estados Unidos, la Unión Europea y otras jurisdicciones han expresado preocupaciones similares, aunque hasta ahora ninguna ha adoptado restricciones de alcance comparable.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados