Dos especialistas en gobernanza de IA sostienen que la normativa europea ya alcanza a los agentes autónomos: su argumento es que la ley regula funciones y riesgos, no etiquetas tecnológicas.
***
- Las autoras sostienen que los agentes pueden quedar comprendidos por la Ley de IA si cumplen la definición de sistema de IA.
- Los requisitos pueden variar según la función y el riesgo, con obligaciones adicionales para ciertas aplicaciones y modelos de riesgo sistémico.
- Las autoras advierten que presentar la IA agéntica como imposible de regular puede favorecer la autorregulación empresarial y debilitar la confianza en la ley.
La inteligencia artificial agéntica, capaz de ejecutar tareas con cierto grado de autonomía, no queda fuera de la Ley de IA de la Unión Europea por no aparecer con ese nombre en el texto legal. Esa es la posición defendida por la especialista en gobernanza Ley Muller y la asesora sénior Gyda Grodås Christiansen, quienes sostienen que la norma ya puede cubrir estos sistemas mediante su definición general de inteligencia artificial y un enfoque basado en las funciones y los riesgos.
En un artículo de opinión publicado por Unite.AI, las autoras cuestionan la idea, difundida en parte del debate público noruego, de que los agentes de IA ocupan un vacío regulatorio. Su argumento también tiene una dimensión política: advierten que describir la tecnología como demasiado compleja para las reglas vigentes puede fortalecer las propuestas de autorregulación de las grandes empresas que desarrollan estos sistemas.
Una norma que regula funciones y riesgos
La Ley de IA no necesita nombrar cada arquitectura o producto para incluirlo en su alcance, según la interpretación expuesta por Muller y Christiansen. La regulación establece un marco basado en el riesgo para usos específicos de la IA y, a partir de las características y los usos de cada sistema, determina qué obligaciones pueden corresponder a quienes lo desarrollan o lo implementan.
Las autoras sostienen que los agentes entran en el ámbito de la norma cuando cumplen la definición de sistema de IA. Rechazan que la autonomía, por sí sola, cree una excepción regulatoria: el punto relevante, afirman, es qué hace el sistema y qué riesgos puede generar.
En muchos casos, los agentes se construyen sobre grandes modelos de lenguaje, que la ley aborda también como modelos de IA de propósito general. Esa relación no significa que todos los agentes reciban idéntico tratamiento, sino que una misma aplicación puede quedar sujeta a requisitos asociados tanto al modelo subyacente como a las tareas que realiza.
La interacción con personas también puede activar obligaciones de transparencia, de acuerdo con el análisis de las autoras. Además, si un modelo se clasifica como de riesgo sistémico, su proveedor enfrenta requisitos adicionales que incluyen evaluar sus capacidades, entre ellas las características autónomas y agénticas.
El riesgo depende de lo que el sistema hace
El enfoque basado en riesgos permite que la ley preste atención a aplicaciones con posibles efectos sobre la salud, la seguridad y los derechos fundamentales. Muller y Christiansen recuerdan que el propósito del marco no consiste en anticipar cada forma futura de inteligencia artificial, sino en establecer obligaciones para usos que puedan afectar esos ámbitos.
Entre las áreas que la norma clasifica de antemano como de alto riesgo, el artículo menciona la contratación de personal y la asignación de servicios esenciales. También incluye los dispositivos médicos y los sistemas incorporados en infraestructuras críticas, donde la seguridad ocupa un lugar central.
La categoría de alto riesgo no depende de que una aplicación se presente como un agente autónomo, sino de su contexto y de las consecuencias que pueda tener. Por eso, las autoras sostienen que los proveedores de sistemas de IA que puedan afectar derechos deben establecer una gestión integral de riesgos, incluso cuando el sistema no se describa con la etiqueta de IA agéntica.
Ese trabajo de gestión incluye valorar de qué manera los usuarios podrían hacer un mal uso del sistema, según el texto. La obligación importa porque los efectos de una herramienta no dependen únicamente de su diseño: también pueden surgir de la forma en que las personas la utilizan, por lo que anticipar escenarios de uso indebido forma parte de la evaluación propuesta.
Innovación, derechos y límites de la regulación
Las autoras reconocen que ninguna norma puede prever con precisión todos los riesgos que aparecerán con tecnologías futuras. En lugar de presentar esa limitación como una prueba de que la regulación resulta inútil, plantean que la Ley de IA concentra su atención en impactos potenciales sobre la salud, la seguridad y los derechos fundamentales.
El marco también tiene un propósito de mercado: busca impulsar el uso de la inteligencia artificial y apoyar la innovación, según la descripción de Muller y Christiansen. Desde esa perspectiva, no se trata de prohibir la tecnología en general, sino de fijar condiciones para determinadas aplicaciones y de equilibrar el desarrollo con la protección de las personas.
Las críticas a la ley suelen apuntar, según el artículo, a que no puede eliminar por completo todos los riesgos asociados a la IA. Las especialistas no niegan que algunos sistemas puedan generar consecuencias difíciles de prever, pero sostienen que esa incertidumbre refuerza la necesidad de procedimientos de gestión de riesgos en lugar de justificar que las empresas asuman por sí solas la tarea de supervisarse.
Muller participa en un comité que trabaja en el estándar armonizado de gestión de riesgos identificado como 18228, cuyo desarrollo, según el artículo, está casi terminado. Ese dato sitúa su postura en el debate sobre cómo traducir los requisitos legales en estándares para proveedores, aunque las autoras también reconocen que la propia Ley de IA probablemente tendrá que evolucionar.
La disputa por la autorregulación
El artículo advierte que algunas grandes compañías tecnológicas sostienen que la IA agéntica es demasiado avanzada o peligrosa para quedar bajo las reglas existentes. Las autoras mencionan a Anthropic, OpenAI y Meta entre las empresas que, a su juicio, han hecho lobby para lograr una implementación menos estricta de la ley y ahora plantean la autorregulación como alternativa.
Muller y Christiansen describen ese argumento como un riesgo de captura regulatoria: la posibilidad de que las entidades sujetas a las reglas influyan gradualmente en su diseño o aplicación para favorecer sus propios intereses. En su lectura, insistir en que los sistemas son demasiado complejos para la supervisión pública puede erosionar el apoyo social a la aplicación de la ley, incluso antes de que se evalúen sus resultados.
Como contraste, las autoras mencionan el Acuerdo de la Casa Blanca sobre la Superinteligencia. La ficha de la Casa Blanca sobre el acuerdo, publicado el 29 de septiembre de 2026, identifica a Meta, Anthropic, xAI, Google, Nvidia y OpenAI entre las compañías participantes. El compromiso es voluntario; las especialistas subrayan la diferencia entre esa vía y un marco vinculante en Europa.
La discusión no resuelve por sí sola cómo se aplicará cada requisito a cada agente, pero sí establece el punto central de la postura de las autoras: la autonomía no equivale automáticamente a una exención. La Ley de IA puede requerir ajustes y, al mismo tiempo, ofrecer una base para gestionar riesgos; presentar la IA agéntica como una zona ajena a la norma, concluyen, puede generar incertidumbre en lugar de protección.
Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.
Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.
ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.
Suscríbete a nuestro boletín
Artículos Relacionados
billonarios
Los siete cofundadores de Anthropic rozan los USD $20.000 millones al precio de IPO
Estados Unidos
Legisladores de EE. UU. admiten que el Congreso perdió la ventana para aprobar la Clarity Act
Empresas
AMD pierde casi USD $100.000 millones mientras crece la presión por sus chips en China
Bancos y Pagos
