Por Canuto  

Desde el 2 de agosto, la Unión Europea exigirá que los usuarios sepan cuándo interactúan con una máquina y que el contenido generado o manipulado por IA incluya marcas legibles por sistemas.
***

  • Chatbots y agentes de IA deberán informar a las personas que están interactuando con una máquina.
  • Deepfakes y ciertos textos generados por IA tendrán que revelarse y llevar marcas legibles por máquina.
  • La mayor parte de la Ley de IA comenzará a aplicarse el 2 de agosto, aunque varias reglas de alto riesgo fueron aplazadas.

 

Desde agosto, los proveedores de sistemas de inteligencia artificial que operen en la Unión Europea deberán informar a las personas cuando interactúen con una máquina. La obligación forma parte de las nuevas reglas de transparencia de la Ley de IA del bloque.

Las normas también exigirán incorporar marcas legibles por máquina al contenido generado o manipulado mediante inteligencia artificial. El objetivo es facilitar que los usuarios reconozcan materiales sintéticos y que las herramientas tecnológicas puedan identificarlos de manera automática, informa The Register.

Transparencia obligatoria para chatbots y contenido sintético

Las nuevas obligaciones alcanzarán a sistemas interactivos como chatbots y agentes de IA. Cuando una persona converse con uno de estos sistemas, la organización responsable deberá dejar claro que detrás de la interacción no existe un interlocutor humano.

La medida busca reducir la confusión en servicios capaces de responder preguntas, ejecutar tareas o mantener conversaciones prolongadas. Para los usuarios, el aviso deberá ofrecer una señal clara antes de que la interacción pueda interpretarse como una conversación entre dos personas.

Las reglas también cubren audio sintético, imágenes, videos y textos producidos mediante IA. En estos casos, los proveedores tendrán que añadir mecanismos de identificación que puedan ser leídos por sistemas informáticos, además de las señales que correspondan para informar al público.

Los deepfakes estarán sujetos a una obligación específica de revelación. Las organizaciones que implementen sistemas relevantes en la Unión Europea deberán informar a las personas que se expongan a material audiovisual o visual manipulado de forma artificial.

La regulación contempla asimismo el texto generado o manipulado por IA que se publique para informar al público sobre asuntos de interés público. Sin embargo, ese contenido quedará exceptuado cuando haya pasado por una revisión humana o por un control editorial.

El alcance de las excepciones y los sistemas biométricos

La excepción para materiales revisados por personas introduce una diferencia importante entre la generación automática y la publicación editorial. La norma no trata de la misma manera un texto difundido sin supervisión y otro que haya sido verificado o editado por responsables humanos.

La regulación también incluye los sistemas de reconocimiento de emociones y los sistemas de categorización biométrica. Estas tecnologías pueden analizar rasgos físicos o señales humanas para clasificar a individuos, por lo que quedaron dentro del marco de transparencia y control de la ley.

No todas las herramientas que incorporan inteligencia artificial tendrán las mismas obligaciones. Los sistemas dedicados a tareas estándar de edición, como corregir ortografía o gramática, estarán exentos cuando no modifiquen de manera sustancial el contenido de entrada.

La distinción intenta separar las funciones de asistencia editorial limitada de aquellas que producen o transforman material con capacidad de alterar la percepción del público. Una corrección menor no tendrá el mismo tratamiento que la creación de una imagen, un audio o un texto completamente nuevo.

El alcance práctico de estas reglas será amplio porque abarca formatos muy distintos. La lista incluye conversaciones automatizadas, voces sintéticas, imágenes, videos, deepfakes y textos vinculados con asuntos de interés público, además de los sistemas biométricos mencionados.

La Comisión Europea prepara la aplicación de la ley

Henna Virkkunen, vicepresidenta ejecutiva de la Comisión Europea para la soberanía tecnológica, la seguridad y la democracia, afirmó que la institución apoya una aplicación fluida y efectiva de la Ley de IA.

“La Comisión apoya la aplicación fluida y efectiva de la Ley de IA para hacer que los sistemas de IA que interactúan con las personas, como chatbots y agentes de IA, así como el contenido de IA, sean más transparentes y confiables”, dijo Virkkunen.

La funcionaria añadió que las directrices buscan apoyar a proveedores y organizaciones que implementan estos sistemas en el cumplimiento de sus obligaciones. También señaló que las reglas ayudarán a los ciudadanos a saber cuándo están interactuando con una inteligencia artificial.

La Comisión Europea publicó las directrices antes de la fecha límite del 2 de agosto. La institución, que funciona como rama ejecutiva de la Unión Europea, obtendrá además poderes para hacer cumplir las reglas aplicables a los modelos de IA de propósito general.

Según The Register, a partir de esa fecha comenzará a aplicarse la mayor parte de la Ley de IA. La entrada en vigor marca una nueva etapa para proveedores tecnológicos, empresas que incorporan IA a sus productos y organizaciones que despliegan los sistemas.

Una ley diseñada antes del auge de ChatGPT

La Ley de IA de la Unión Europea entró en vigor en agosto de 2024 y se convirtió en la primera legislación de este tipo. Su diseño establece obligaciones para quienes desarrollan la tecnología, quienes la integran en productos de software y quienes la utilizan en sus operaciones.

La Comisión Europea propuso inicialmente la ley en 2021. En ese momento, la inteligencia artificial generativa todavía no había alcanzado la visibilidad pública que obtuvo después del lanzamiento de ChatGPT.

Los legisladores incorporaron las reglas para la IA de propósito general en el último tramo del proceso. La inclusión buscó asegurar que el marco también cubriera modelos generativos como ChatGPT y otros sistemas capaces de producir texto, imágenes, audio o código.

Las disposiciones para modelos de IA de propósito general comenzaron a entrar en vigor en 2025. Con las reglas de transparencia de agosto de 2026, el marco europeo avanzará desde las obligaciones generales hacia controles más visibles en la experiencia cotidiana de los usuarios.

La aplicación escalonada refleja la complejidad de regular una tecnología que evoluciona con rapidez. También permite que las instituciones y las empresas ajusten sus procesos, aunque el calendario ha generado críticas y solicitudes de cambios por parte de la industria.

El calendario europeo tendrá nuevos aplazamientos

En mayo, los negociadores del Parlamento Europeo y del Consejo acordaron posponer partes de la Ley de IA. La decisión llegó después de meses de quejas de la industria sobre el calendario y las exigencias regulatorias.

Las reglas para sistemas de IA de alto riesgo independientes ya no comenzarán a aplicarse en el calendario inicial. Su nueva fecha de aplicación será el 2 de diciembre de 2027.

También se aplazaron las disposiciones para sistemas de alto riesgo integrados en productos regulados. Estas normas comenzarán a aplicarse el 2 de agosto de 2028, según el calendario descrito en la información original.

Los aplazamientos no modifican la entrada en vigor de las obligaciones de transparencia previstas para el 2 de agosto de 2026. Por ello, los proveedores deberán prepararse para identificar interacciones y contenidos de IA aunque otras partes de la ley tengan más tiempo de adaptación.

La diferencia entre las fechas muestra que la legislación avanzará por etapas. Mientras los avisos sobre chatbots, deepfakes y contenido sintético se acercan, los controles más amplios sobre determinados sistemas de alto riesgo dispondrán de plazos posteriores.

El precedente de las prohibiciones biométricas

La Ley de IA comenzó a introducir sus reglas de manera escalonada. Entre las primeras medidas estuvo la prohibición de actividades que incluyen sistemas de categorización biométrica destinados a clasificar a personas según su política, religión, orientación sexual o raza, entre otros criterios.

Estas prohibiciones reflejan la preocupación europea por los usos que pueden afectar derechos fundamentales. La regulación no se limita a informar al usuario sobre la presencia de IA, sino que también establece límites para aplicaciones consideradas especialmente problemáticas.

El reconocimiento de emociones y la categorización biométrica aparecen ahora junto con las obligaciones de transparencia. Su presencia dentro del marco confirma que la Unión Europea analiza tanto la forma en que se presenta la IA como los efectos que puede producir sobre las personas.

Para las empresas, el cumplimiento requerirá revisar productos, interfaces y flujos de publicación. También será necesario identificar qué materiales se generan o manipulan mediante IA y cuándo una revisión humana o editorial cambia el tratamiento regulatorio.

Para los ciudadanos, la consecuencia más visible será la aparición de avisos y señales en servicios digitales. La efectividad de la norma dependerá de que esas indicaciones sean comprensibles, consistentes y suficientemente claras para distinguir una interacción automatizada de una conversación humana.

La nueva fase de la legislación europea convierte la transparencia en una condición operativa para numerosos servicios de inteligencia artificial. A partir del 2 de agosto, la identidad de la máquina y el origen sintético de ciertos contenidos dejarán de ser aspectos opcionales para los sistemas alcanzados por la ley.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados