Por Canuto  

La autoridad de protección de datos de Italia impuso una multa a Character Technologies, propietaria de Character.AI, por varias infracciones vinculadas al tratamiento de datos personales y a sus controles de edad. El caso vuelve a poner bajo presión a las plataformas de IA generativa que permiten interacción con menores en Europa.

***

  • Italia multó a Character Technologies con € 158.000 por violaciones de privacidad relacionadas con Character.AI.
  • El regulador cuestionó la información entregada a usuarios, las salvaguardias para menores y la eficacia de la verificación de edad.
  • La autoridad italiana también señaló retrasos en la evaluación de impacto de datos y en el nombramiento de un representante de la UE.

 

La autoridad de protección de datos de Italia multó a Character Technologies, empresa estadounidense propietaria de la plataforma generativa Character.AI, por incumplimientos vinculados al manejo de información personal y a sus mecanismos de control de edad.

La sanción fue de € 158.000, equivalentes a unos USD $180.500 según la conversión citada en la información original. El anuncio se conoció este jueves 9 de julio a través de un comunicado del regulador italiano.

El caso tiene relevancia más allá de una sola empresa, porque vuelve a exponer uno de los puntos más sensibles del auge de la inteligencia artificial generativa: la interacción entre sistemas conversacionales, recopilación de datos personales y acceso de menores.

Character.AI permite a los usuarios conversar con personajes virtuales generados por IA. Esa característica, que ha impulsado su popularidad, también ha elevado la atención regulatoria sobre el tipo de experiencia ofrecida y sobre las barreras aplicadas a públicos vulnerables.

De acuerdo con Reuters, la autoridad italiana encontró varias violaciones de privacidad dentro del servicio. Entre ellas identificó deficiencias en la información suministrada a los usuarios sobre cómo se procesan sus datos personales.

La multa y los puntos observados por el regulador

Garante, la autoridad italiana, indicó que la empresa incurrió en fallos relacionados con las normas de protección de datos. El foco del expediente estuvo en la transparencia, la protección de menores y el cumplimiento de obligaciones regulatorias dentro del marco europeo.

Uno de los cuestionamientos centrales se refirió a la calidad de la información entregada a los usuarios. Según el regulador, esa información presentaba deficiencias respecto al tratamiento de los datos personales recopilados por la plataforma.

Ese punto es clave en Europa, donde las empresas digitales deben explicar con claridad qué datos recogen, para qué los usan y bajo qué base legal se apoyan. En servicios de IA conversacional, esa exigencia gana peso porque los intercambios pueden incluir información sensible o íntima.

El Garante también expresó preocupaciones específicas sobre las salvaguardias destinadas a menores de edad. En su evaluación, las protecciones existentes no resultaban suficientes frente a los riesgos derivados del uso del servicio por parte de ese grupo.

Además, la autoridad cuestionó la efectividad de los procedimientos de verificación de edad implementados por Character.AI. El regulador sostuvo que hacían falta protecciones adicionales más allá de las que ya estaban en vigor.

La decisión refleja una postura cada vez más dura frente a plataformas que dependen de declaraciones de edad poco robustas o de barreras fáciles de eludir. En la práctica, este tipo de observaciones apunta a que el simple acceso digital no puede desligarse de medidas reales de prevención.

Menores, datos personales y presión sobre la IA generativa

El expediente contra Character.AI se inscribe en un debate más amplio sobre cómo deben operar los servicios de inteligencia artificial cuando son accesibles para adolescentes o niños. La cuestión no es solo tecnológica, sino también jurídica y social.

Las plataformas conversacionales pueden recopilar grandes volúmenes de texto generado por usuarios durante sus interacciones. Esos intercambios, dependiendo del caso, pueden revelar hábitos, preferencias, emociones o datos personales que requieren resguardos más sólidos.

Cuando además el producto se presenta como un espacio de conversación con personajes virtuales, el atractivo para públicos jóvenes suele aumentar. Eso incrementa la responsabilidad de la empresa en materia de controles de acceso y diseño de protecciones adecuadas.

El regulador italiano subrayó precisamente esa preocupación al mencionar que el servicio permite el uso por parte de menores. Desde esa perspectiva, la verificación de edad no aparece como un detalle administrativo, sino como un elemento central del cumplimiento.

En Europa, el escrutinio sobre este tipo de productos ha venido creciendo al ritmo de la adopción de la IA generativa. La discusión incluye desde la legalidad del tratamiento de datos hasta el posible impacto psicológico o conductual de sistemas conversacionales sofisticados en usuarios jóvenes.

Para empresas del sector, estos expedientes son una señal de que el crecimiento de usuarios ya no basta como indicador de éxito. La capacidad para documentar controles, justificar procesos y demostrar prevención puede convertirse en un factor determinante para operar sin sanciones.

Otros incumplimientos señalados por Italia

La autoridad italiana no limitó sus observaciones a la transparencia informativa y a la protección de menores. También señaló retrasos en dos obligaciones formales relevantes dentro de la arquitectura regulatoria europea.

Según el comunicado, Character Technologies demoró en realizar una Evaluación de Impacto en la Protección de Datos, conocida como DPIA por sus siglas en inglés. Ese instrumento se utiliza para identificar y mitigar riesgos cuando una actividad de tratamiento puede afectar significativamente los derechos de las personas.

En términos prácticos, una DPIA funciona como una revisión previa del impacto que un producto o servicio puede generar sobre la privacidad. Para sistemas de IA que procesan grandes flujos de interacción humana, este análisis suele considerarse especialmente importante.

El Garante también dijo que la compañía se retrasó en nombrar a un representante de la Unión Europea. Esa figura resulta relevante para empresas de fuera del bloque que ofrecen servicios a personas ubicadas en territorio europeo.

Ambos puntos muestran que la sanción no se limitó a un problema puntual de producto o de interfaz. También abarcó aspectos de gobernanza y estructura de cumplimiento, áreas donde muchos desarrolladores de IA han tenido que adaptarse con rapidez ante el avance regulatorio europeo.

Character Technologies no respondió de inmediato a una solicitud de comentarios, según la información reportada. Por ahora, no se conocieron en esa misma cobertura detalles adicionales sobre una eventual apelación o sobre medidas correctivas específicas asumidas por la compañía.

Italia y su historial de intervención en casos de IA

La actuación del Garante no llega en un vacío regulatorio. Italia ha sido uno de los países europeos más activos en la supervisión de herramientas de inteligencia artificial con acceso masivo al público.

El antecedente más conocido ocurrió en 2023, cuando la autoridad italiana prohibió brevemente el uso de ChatGPT, el chatbot de OpenAI. En ese momento, el regulador apuntó a problemas relacionados con la verificación de edad y la recolección de datos.

Ese episodio marcó una referencia importante para el mercado tecnológico, porque mostró que un regulador nacional europeo estaba dispuesto a actuar de forma rápida frente a productos de alto crecimiento. La decisión sobre Character.AI refuerza esa imagen de vigilancia proactiva.

Para el ecosistema de IA, el mensaje es claro: la innovación no neutraliza las exigencias legales sobre privacidad. Al contrario, cuanto más inmersiva o masiva es una herramienta, mayor tiende a ser la atención de las autoridades de protección de datos.

El caso también importa a inversores y operadores del sector tecnológico porque anticipa posibles costos de cumplimiento más altos. En una industria que compite por velocidad de despliegue, la presión regulatoria puede alterar hojas de ruta, prioridades de producto y estrategias de expansión internacional.

En el corto plazo, la multa de Italia no destaca por su tamaño en comparación con otras sanciones europeas más cuantiosas. Sin embargo, sí tiene peso simbólico, porque vuelve a ubicar la protección de menores y la transparencia de datos en el centro del debate sobre IA generativa.

La equivalencia cambiaria incluida en la cobertura original fijó que USD $1 equivale a € 0,8754. Con esa referencia, la sanción de € 158.000 fue presentada como aproximadamente USD $180.500.

El expediente contra Character.AI sugiere que las autoridades europeas seguirán examinando no solo qué pueden hacer los modelos de IA, sino también bajo qué condiciones llegan a los usuarios. En especial, cuando esos usuarios pueden ser menores y cuando el producto procesa conversaciones personales a escala.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados