Por Canuto  

Gartner advierte que el avance acelerado de la inteligencia artificial está superando la capacidad de las empresas para controlarla, auditarla y obtener retornos seguros. Sus analistas cuestionan la madurez de los principales proveedores, alertan sobre el costo de la basura generada por IA y proponen bancos centrales, agentes guardianes y equipos de recuperación para contener sus fallos.
***

  • Gartner afirma que los principales laboratorios de IA todavía no comprenden las exigencias de responsabilidad, continuidad y soporte de las empresas.
  • El 86% de los CIOs consultados ve crecer los riesgos de la IA más rápido que el valor que genera, mientras la basura automatizada consume tiempo y dinero.
  • La firma recomienda supervisión centralizada, agentes capaces de detener sistemas descontrolados y equipos dedicados a revertir daños.

La inteligencia artificial avanza dentro de las empresas con una velocidad que, según Gartner, dificulta tanto su control como la obtención de un retorno claro de la inversión. La firma de análisis presentó esta advertencia durante su Simposio Anual de TI, cuya primera edición se celebra en Australia antes de continuar en Europa y Estados Unidos, y describió un mercado donde la innovación supera la capacidad de muchas organizaciones para evaluar sus consecuencias.

El diagnóstico apunta a dos problemas conectados: los proveedores actualizan sus modelos con frecuencia y las compañías incorporan funciones de IA dentro de productos que ya utilizaban. Esa combinación reduce la visibilidad sobre qué agentes operan, qué decisiones toman y quién debe responder cuando una aplicación falla, produce contenido defectuoso o ejecuta una acción fuera de los límites previstos.

Proveedores que avanzan más rápido que las empresas

Daryl Plummer, vicepresidente y analista distinguido de Gartner, sostuvo que todavía no existe una base suficiente para confiar plenamente en los principales proveedores de IA en entornos corporativos. Según explicó, esos laboratorios no comprenden todavía los términos y condiciones empresariales, la responsabilidad corporativa ni las exigencias de consistencia y continuidad que normalmente acompañan a los sistemas críticos.

La crítica central se dirige al ritmo de modificación de los modelos. Plummer cuestionó que las empresas de IA cambien con frecuencia sus sistemas sin considerar de manera suficiente cómo esas actualizaciones pueden romper aplicaciones que dependen de sus resultados, aunque también señaló que las compañías sienten que no pueden darse el lujo de quedarse al margen de esa carrera tecnológica.

El problema se agrava por la corta vida útil de los modelos y por la falta de soporte para versiones heredadas. Plummer afirmó que un cliente que decidiera permanecer con la primera versión de un modelo probablemente recibiría poca atención del proveedor, una señal que, a su juicio, demuestra que esos servicios todavía no tienen el nivel de preparación requerido por una empresa.

Kristin Moyer, también vicepresidenta y analista de Gartner, añadió que el éxito inicial de algunos proyectos de IA genera una demanda superior a la que los departamentos de tecnología pueden atender de forma segura. La firma estima que 86% de los CIOs considera que los riesgos creados por la IA crecen más rápido que el valor que produce, una brecha que puede ampliarse a medida que la tecnología se integra silenciosamente en más herramientas corporativas.

El costo del consumo descuidado y la supervisión

Moyer describió como “consumo descuidado” el uso de IA por parte de trabajadores para tareas frívolas, innecesarias o inadecuadas. Las investigaciones citadas por la analista indican que 40% de los empleados se ha encontrado con contenido conocido como “AI slop”, cuya revisión o descifrado suele consumir dos horas y podría representar USD $9.000.000 de trabajo anual en una organización de 1.000 personas.

Frenar ese comportamiento resulta especialmente difícil porque los agentes pueden llegar integrados en productos que la empresa ya compró. Moyer señaló que muchas organizaciones ni siquiera saben cuántos agentes tienen activos, una falta de inventario que complica la gestión de riesgos y permite que la automatización se extienda sin una evaluación centralizada.

La analista consideró que las empresas podrían aplicar a la IA algunas lecciones aprendidas durante una década de control sobre el consumo de computación en la nube. En aquel proceso, los desarrolladores tendían a elegir las instancias más potentes y costosas disponibles, mientras los equipos de tecnología tuvieron que establecer límites para alinear el gasto con la necesidad real.

Plummer recomendó además recordar que existen alternativas de automatización más sencillas y comprobadas. Construir un agente para interactuar con una base de datos, dijo, puede ser innecesario cuando una llamada a función tradicional resuelve la tarea con mayor previsibilidad, mientras que los proveedores impulsan agentes en todas partes porque buscan monetizar la IA mediante nuevos productos o un mayor consumo de tokens.

Agentes, ventas y gobernanza fragmentada

La presión comercial también aparece en las herramientas de AIOps, que utilizan agentes para detectar el origen de incidentes y recomendar soluciones aplicables con un solo clic. Consultado sobre su eficiencia, Plummer respondió que esas ofertas avanzan en la dirección correcta, pero acusó a sus proveedores de tener motivaciones equivocadas porque estarían más interesados en vender productos que en implementar la solución adecuada.

El analista comparó esa conducta con un ciclo habitual en la comercialización de nuevas tecnologías. A su juicio, la misma dinámica se repite ahora con herramientas de gobernanza que prometen hacer segura la ejecución de sistemas de IA, aunque el mercado permanece tan fragmentado que lo calificó como uno de los más dispersos que Gartner ha observado.

Para ordenar el ecosistema, Plummer y Moyer propusieron crear un “banco central de IA” dentro de cada organización. Esa estructura tendría la responsabilidad de supervisar el uso de la tecnología en toda la empresa, evaluar su impacto sistémico y asegurar que las decisiones automatizadas mantengan un responsable identificable.

La rendición de cuentas resulta más sencilla en sistemas convencionales de planificación empresarial o gestión de relaciones con clientes, porque esas plataformas suelen conservar un registro de quién ejecutó o autorizó una acción. Moyer advirtió que la IA no siempre deja una evidencia equivalente y planteó, con tono irónico, que una empresa debería preguntarse quién asumiría las consecuencias legales si no existe un sistema digital capaz de reconstruir lo ocurrido.

Controles para agentes fuera de control

Una de las propuestas más llamativas consiste en utilizar “agentes guardianes” encargados exclusivamente de observar a otros agentes. Estos sistemas deberían verificar que sus pares operen dentro de los límites definidos por la organización y, según Plummer, contar con autoridad suficiente para detener o “matar” a un agente que se comporte de manera peligrosa.

El planteamiento refleja una preocupación práctica: una empresa no puede limitarse a confiar en que cada agente respetará sus instrucciones originales. Si los modelos cambian, si reciben datos defectuosos o si interactúan con sistemas no previstos, la supervisión debe incluir mecanismos de interrupción, registros verificables y responsables humanos capaces de revisar las decisiones.

Gartner también recomendó crear equipos de recuperación ante desastres especializados en revertir daños provocados por la IA. La función no consistiría únicamente en restaurar servidores o respaldos, sino en identificar decisiones automatizadas defectuosas, deshacer sus efectos y reconstruir la cadena de autorización antes de que el incidente se convierta en una pérdida operativa o legal.

La advertencia final recae sobre los directores de tecnología. Plummer afirmó que responder “la IA lo hizo” no será una defensa aceptable cuando una automatización ocasione un perjuicio, porque los CIOs serán considerados responsables de los fallos de los sistemas que permitan operar; para las empresas, el desafío ya no es solo adoptar IA, sino demostrar que saben gobernarla.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados