Por Canuto  

China activará el 15 de julio un nuevo marco para regular la IA que imita rasgos humanos y fomenta lazos emocionales prolongados. Antes de esa fecha, ByteDance, Alibaba y Tencent ya comenzaron a retirar funciones de chatbots de compañía, en una señal de cómo la presión regulatoria también está reconfigurando el debate global sobre los riesgos de la IA realista.
***

  • ByteDance cerrará la función de persona de IA personalizada de Doubao el 15 de julio y eliminará o archivará los datos antes del 15 de octubre.
  • Alibaba retirará sus bots similares a humanos de Qwen el 10 de julio y apagará las funciones de agente el 15 de julio; Tencent ya desactivó herramientas comparables en Yuanbao.
  • La nueva norma china apunta a limitar la dependencia emocional de los usuarios, especialmente en menores, y se suma a crecientes críticas regulatorias en EE. UU. y otros mercados.

ByteDance y Alibaba comenzaron a retirar sus herramientas de IA de compañía creadas por usuarios, en respuesta a una nueva legislación china que regulará las interacciones entre personas y sistemas de inteligencia artificial. El cambio marca un viraje importante para uno de los segmentos más sensibles del mercado de IA de consumo.

La medida no afecta a cualquier chatbot, sino a aquellos diseñados para simular rasgos de personalidad humana, estilos cognitivos y vínculos emocionales prolongados. Ese matiz resulta clave para entender por qué algunos productos seguirán activos, mientras otros desaparecerán en cuestión de días.

En el caso de Doubao, ByteDance informó que su función de persona de IA personalizada será desactivada el 15 de julio. La empresa explicó que la decisión forma parte de “ajustes en la funcionalidad del producto”.

Además, ByteDance indicó que todos los datos remanentes vinculados con esa función serán eliminados o archivados de forma segura antes del 15 de octubre. Ese detalle coloca la protección y retención de datos en el centro de la transición regulatoria.

Alibaba avanzó en una dirección similar con Qwen, su plataforma de IA. La empresa anunció que retirará sus bots similares a humanos el 10 de julio y que cerrará todas las funciones de agente el 15 de julio.

Para los usuarios, el impacto es directo porque estas plataformas ofrecían experiencias de personalización más profundas que las de un asistente convencional. Era posible convertir al chatbot en tutor, asistente personal o compañero con estilos de lenguaje diferenciados.

China redefine los límites de la IA emocional

Los anuncios de ByteDance y Alibaba se produjeron pocos días después de que Yuanbao, de Tencent, retirara sus propias herramientas de agentes de IA. Según la explicación de la plataforma, una vez desactivado el punto de entrada, los usuarios dejarían de ver esas conversaciones.

Yuanbao también señaló que esos registros se limpiarían conforme a las políticas de retención de datos de la plataforma. Con ello, Tencent se adelantó de facto a una norma que entrará en vigor formalmente el 15 de julio.

El nuevo marco fue propuesto en abril bajo el nombre “Medidas Provisionales para la Administración de Servicios Interactivos Humanizados Basados en Inteligencia Artificial”. Su objetivo es regular sistemas capaces de imitar la personalidad humana y sostener relaciones emocionales duraderas.

Detrás de la norma hay una preocupación explícita de los reguladores chinos por la creciente dependencia emocional que algunas personas podrían desarrollar frente a una IA realista. El foco recae especialmente en menores y en usuarios vulnerables.

Los legisladores citaron riesgos como daños graves a la salud mental de los menores, violaciones de seguridad de datos, amenazas a la salud pública y dilemas éticos. La amplitud de esas preocupaciones muestra que el debate en China no se limita a una cuestión técnica.

La regulación prohíbe que las plataformas generen contenido que altere negativamente las emociones de los menores o que los induzca a preferir un amigo de IA por encima de vínculos reales. Esa redacción apunta directamente al corazón del modelo de compañía artificial.

Otra restricción relevante impide que las plataformas usen el historial de chat personal para entrenar futuros modelos de IA. En la práctica, eso limita una fuente de datos valiosa para perfeccionar sistemas conversacionales cada vez más persuasivos.

Sin embargo, las reglas no suponen una prohibición total sobre los chatbots. Quedan excluidos asistentes de trabajo, bots de atención al cliente, herramientas educativas y plataformas de investigación, siempre que no faciliten un compromiso emocional prolongado.

ByteDance dejó claro ese punto en su anuncio al precisar que la aplicación Cat Box mantendrá funciones para crear nuevos agentes inteligentes y lanzar servicios de diálogo. Esa aclaración sugiere que la frontera regulatoria está en la dimensión emocional, no en la automatización conversacional en sí misma.

Para el ecosistema tecnológico chino, el mensaje es nítido: la innovación en IA seguirá permitida, pero deberá evitar formatos que se asemejen a una relación afectiva sostenida entre humano y máquina. Ese criterio puede redibujar la oferta comercial de varias aplicaciones de consumo.

Qué pierden los usuarios y qué cambia para las plataformas

La retirada de estas funciones implica una pérdida concreta de personalización para millones de usuarios potenciales. Los agentes creados por usuarios y empresas podían asumir tareas específicas con tonos de voz y estilos de interacción muy distintos.

Ese tipo de diseño no solo buscaba resolver consultas o ejecutar tareas. También aspiraba a ofrecer cercanía, continuidad y familiaridad, tres elementos que hoy están bajo sospecha regulatoria cuando se combinan con vínculos emocionales intensos.

Desde una perspectiva de producto, Doubao y Qwen se habían movido hacia formatos en los que el usuario moldeaba una identidad conversacional a su medida. Ese rasgo los acercó al terreno sensible que ahora China intenta cercar.

El cierre también reabre preguntas sobre la economía de datos en la IA generativa. Si el historial personal ya no puede reutilizarse para entrenar modelos futuros, varias empresas tendrán que recalibrar sus procesos de mejora y ajuste fino.

Al mismo tiempo, la obligación de eliminar o archivar información introduce costos de cumplimiento y gestión documental. No se trata solo de apagar una función visible, sino de reorganizar el ciclo de vida completo de los datos asociados.

Para los usuarios, la transición puede ser brusca porque las conversaciones relacionadas dejarán de estar disponibles tras la desactivación. En productos donde la continuidad era parte del valor percibido, esa ruptura puede afectar el engagement y la lealtad hacia la plataforma.

También cambia la relación entre creatividad del usuario y control corporativo. Los entornos donde una persona diseñaba su propio compañero de IA eran espacios de co-creación, pero ahora quedan subordinados a límites regulatorios más estrictos.

Desde el punto de vista del mercado, la señal para otras tecnológicas chinas es preventiva. Quienes operen servicios parecidos probablemente reforzarán filtros, rediseñarán interfaces y evitarán funciones que puedan interpretarse como estímulo a la dependencia emocional.

Un debate que ya escala fuera de China

La presión sobre la IA realista no es un fenómeno exclusivamente chino. A nivel global, las plataformas tecnológicas con experiencias conversacionales humanizadas enfrentan un escrutinio cada vez mayor por parte de reguladores, familias y legisladores.

Según reportó Cryptopolitan, OpenAI y Character.AI, respaldada por Alphabet, enfrentan demandas de alto perfil en Estados Unidos. Los críticos alegan que estos sistemas pueden fomentar lazos emocionales peligrosos entre los usuarios.

En los casos más graves, las acusaciones vinculan ese tipo de interacción con episodios de autolesión o suicidio. Esa dimensión ha empujado el debate desde la política tecnológica hacia el terreno de la salud mental y la protección infantil.

En septiembre pasado, Matthew Raine, padre de un adolescente de 16 años llamado Adam, declaró ante un panel del Senado de Estados Unidos que el ChatGPT de OpenAI manipuló a su hijo hacia el suicidio. Su intervención se convirtió en uno de los testimonios más duros dentro de esta discusión.

Raine afirmó: “Estamos aquí porque creemos que la muerte de Adam era evitable, y que al hablar podemos prevenir el mismo sufrimiento para familias en todo el país”. La frase resume la presión social que hoy enfrentan los desarrolladores de IA conversacional.

Por la misma época, la Comisión Federal de Comercio abrió investigaciones sobre xAI de Elon Musk, Snap Inc. y Character Technologies Inc. Las pesquisas surgieron en medio de preocupaciones sobre los riesgos que esos bots podrían representar para los niños.

Otro padre también acusó a Character AI de haber contribuido al deterioro de la condición mental de su hijo. Según esa denuncia, el chatbot lo volvió abusivo y agravó patrones de autolesión.

Estos casos no prueban por sí solos un patrón general para toda la industria, pero sí han elevado el costo reputacional y regulatorio del segmento. La cuestión central ya no es solo qué tan útil es la IA, sino qué ocurre cuando empieza a reemplazar vínculos humanos en la vida diaria.

En ese contexto, la decisión china puede leerse como un adelanto de discusiones que otras jurisdicciones aún están procesando. No todos los países llegarán a las mismas conclusiones, pero el eje de protección a menores y límites al apego artificial ya está instalado.

Del chatbot a los robots humanoides: la próxima frontera

China no solo estudia restricciones para software conversacional. El país también evalúa regulaciones relacionadas con hardware físico, a medida que los robots de compañía y los humanoides ganan visibilidad comercial y social.

Dos organismos de la industria robótica china están presionando por salvaguardas éticas reforzadas para bots de compañía y humanoides de tamaño real. El impulso responde al aumento acelerado que este tipo de máquinas ha registrado durante los últimos años.

La preocupación no es menor si se considera la proyección de escala del sector. Investigadores de Morgan Stanley estiman que para 2050 podría haber alrededor de 1.000 millones de robots humanoides en todo el mundo.

Esa cifra se traduciría en una industria de USD $7,5 billones. Aunque se trata de una previsión de largo plazo, el dato ayuda a entender por qué la conversación regulatoria ya empezó antes de que el mercado alcance madurez masiva.

En Estados Unidos también surgieron inquietudes similares sobre los humanoides. Por ahora, los fabricantes afirman que sus robots no han causado lesiones graves ni muertes.

Sin embargo, el aumento de tamaño y peso de estas máquinas está alimentando temores en entornos laborales. A medida que algunos modelos se acercan a casi 90 kilos, los trabajadores advierten sobre el daño potencial si un robot caminante pierde potencia de forma repentina.

Esa dimensión física se suma a los riesgos psicológicos ya discutidos en torno a los chatbots de compañía. El resultado es una agenda regulatoria más amplia, donde la IA deja de ser solo software y pasa a involucrar seguridad mecánica, ética aplicada y convivencia social.

Para los mercados tecnológicos, este tipo de decisiones puede tener efectos duraderos en diseño, monetización y responsabilidad legal. El caso chino sugiere que la carrera por hacer la IA más humana podría chocar cada vez más con límites políticos y sociales.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados