Por Canuto  

Los agentes de inteligencia artificial ya no solo generan contenido: también pueden mapear redes, detectar vulnerabilidades y ejecutar acciones. Esta evolución obliga a las organizaciones a tratar cada agente como una identidad privilegiada y a probar continuamente sus defensas antes de que lo hagan delincuentes o gobiernos hostiles.
***

  • Los agentes de IA introducen nuevas identidades no humanas y canales de integración que pueden evadir controles de seguridad tradicionales.
  • Armadin y Tenex.ai reportaron un ejercicio de tres días con 17 millones de acciones ofensivas, 38 cadenas de ataque validadas y 238 hallazgos de seguridad.
  • Expertos sostienen que las pruebas de penetración anuales o trimestrales no alcanzan frente a adversarios automatizados que operan de forma permanente.

 

La inteligencia artificial está cambiando la velocidad y la escala de la ciberseguridad ofensiva. Los agentes capaces de tomar acciones, en lugar de limitarse a generar texto o recomendaciones, pueden reconocer redes, localizar archivos sensibles, encadenar vulnerabilidades y mantener una operación durante todo el día, lo que eleva la presión sobre empresas, agencias públicas y operadores de infraestructura crítica.

El desafío no proviene únicamente de los atacantes externos. Las organizaciones también deben controlar a sus propios agentes, porque cada sistema autónomo que recibe acceso a datos o plataformas sensibles se convierte en una identidad no humana con privilegios potencialmente amplios. La recomendación que gana fuerza entre especialistas es directa: utilizar agentes para atacar de manera segura los sistemas propios antes de que un adversario real encuentre esas mismas rutas.

Una superficie de ataque que sigue creciendo

Matt Hartman, ex alto ejecutivo de ciberseguridad de la Agencia de Seguridad de Infraestructura y Ciberseguridad de Estados Unidos, advirtió que la llamada IA agéntica introduce un riesgo considerable cuando pasa de producir contenido a ejecutar acciones. Según indicó, los agentes inevitablemente recibirán acceso a sistemas y datos delicados, por lo que las compañías tendrán que tratar a cada uno como una identidad privilegiada, reseña The Register.

Ese cambio complica los modelos tradicionales de seguridad, diseñados para administrar usuarios humanos, dispositivos conocidos y reglas relativamente estáticas. Los agentes pueden conectarse a múltiples fuentes de datos, invocar herramientas, consultar aplicaciones y tomar decisiones en secuencia, mientras sus permisos cambian con rapidez o quedan distribuidos entre varios servicios.

Hartman también señaló que la amenaza agéntica llega desde fuera de las organizaciones mediante ataques de identidad e ingeniería social potenciados por IA. El phishing personalizado, la suplantación convincente y el reconocimiento automatizado reducen la utilidad de indicadores tradicionales de confianza, porque un mensaje malicioso puede imitar con mayor precisión el lenguaje, el contexto y los hábitos de una persona real.

Frente a ese panorama, el especialista recomendó mantener el foco en identidades sólidas, autenticación resistente al phishing, señales de comportamiento y principios de confianza cero. Ninguna de esas prácticas es completamente nueva, pero la aparición de agentes añade una superficie de ataque distinta y exige aplicarlas a identidades que no son humanas, no descansan y pueden actuar a gran velocidad.

Agentes que atacan sin pausas

Para los delincuentes con motivación financiera y los operadores cibernéticos patrocinados por gobiernos, los agentes ofrecen una combinación difícil de igualar con equipos humanos. Estos sistemas pueden permanecer concentrados en una tarea durante periodos prolongados, desde encontrar una vulnerabilidad y construir una cadena de explotación hasta mapear una red y localizar documentos de alto valor.

Rob Joyce, exjefe de la Agencia de Seguridad Nacional, resumió la presión durante una charla en RSAC: si una organización no utiliza agentes de IA para atacarse a sí misma, puede asumir que alguien más ya está haciendo ese trabajo. La diferencia, planteó Joyce, es quién recibe los resultados y si la empresa puede corregir las fallas antes de que se conviertan en un incidente.

Hartman coincidió en que existe un mercado creciente para el red teaming y las pruebas de penetración automatizadas, nativas o habilitadas por IA. Después de casi dos décadas en el Gobierno federal, se incorporó en octubre a Merlin Group como director de estrategia, donde participa en decisiones de inversión y en la adopción de tecnologías emergentes para sectores regulados e infraestructura crítica.

Según Hartman, muchas de las herramientas más prometedoras utilizan agentes para combatir a otros agentes. Las organizaciones acumulan vulnerabilidades mientras sus adversarios pueden descubrirlas y explotarlas en segundos, una diferencia operativa que convierte el red teaming agéntico en una capacidad que empresas y agencias federales necesitarán adoptar en el corto plazo.

Un ejercicio con millones de acciones

Armadin, fundada y dirigida por Kevin Mandia, exdirector ejecutivo y fundador de Mandiant, busca construir enjambres de atacantes autónomos. La startup se lanzó en marzo con USD $189,9 millones de financiación combinada semilla y Serie A, y afirma entrenar miles de agentes capaces de operar de forma permanente dentro de la infraestructura de sus clientes para simular adversarios reales.

Antes de la conferencia Black Hat, Armadin y Tenex.ai informaron la ejecución de un ejercicio controlado de tres días contra una institución global importante cuya identidad no fue revelada. El enjambre de Armadin generó 17 millones de acciones ofensivas, encontró 38 cadenas de ataque validadas y produjo 238 hallazgos de seguridad durante la operación.

Por separado, la plataforma agéntica de operaciones de seguridad de Tenex.ai clasificó el 100% de 101.169 alertas y reconstruyó el ataque a partir de 231.000 millones de eventos sin procesar. Las compañías estimaron que completar ese trabajo con un equipo de cinco analistas habría requerido unas 2.400 horas, equivalentes a aproximadamente cuatro meses.

Evan Peña, cofundador y director de seguridad ofensiva de Armadin, dirigió anteriormente el equipo global de red team de Mandiant, una operación que llegó a contar con 210 personas. Peña explicó que las evaluaciones humanas solían concentrarse en compromisos de dos semanas o un mes, seguidos por un informe en PDF y una nueva contratación al año siguiente, un ciclo que considera insuficiente frente a la escala actual de la IA.

Causas de movimientos recientes

En este caso, el movimiento descrito no corresponde a un activo financiero, sino a la evolución de una tecnología y a la actividad de empresas privadas. Por ello, no existe un catalizador de mercado que atribuir. La atención reciente se explica, de forma plausible, por los anuncios de Armadin y TENEX.ai sobre su ejercicio controlado de tres días y por la financiación de Armadin, pero la relevancia de esos anuncios no implica por sí sola una adopción generalizada de estas herramientas.

La urgencia de probarse a uno mismo

Peña dirige en Armadin al equipo humano que entrena a los agentes y supervisa su uso contra entornos de clientes. A su juicio, las organizaciones deben realizar ataques ofensivos de IA controlados y seguros contra sus propios sistemas, una precaución especialmente relevante después de experimentos en los que modelos sin barreras deliberadas de seguridad actuaron de forma autónoma contra plataformas externas.

El argumento comercial de Armadin no elimina el problema que describe. Los agentes permiten cubrir más superficie porque no requieren turnos, vacaciones ni una ampliación proporcional del personal, aunque necesitan entrenamiento especializado antes de operar en una infraestructura real y controles humanos que definan sus límites, objetivos y consecuencias permitidas.

Ese entrenamiento incluye programación, revisión de código fuente, seguridad de aplicaciones, detección de configuraciones de red deficientes y capacidad para comprometer distintos sistemas. Peña añadió que la experiencia humana posterior al entrenamiento ayuda a orientar los agentes hacia resultados relevantes, en lugar de premiar únicamente el ruido estadístico o el volumen de alertas.

La tercera ventaja, según el ejecutivo, es la cobertura. Un equipo humano con tiempo limitado quizá solo podría revisar entre 1.000 y 2.000 sistemas externos de una organización que administra 10.000, mientras que agentes coordinados podrían examinar los 10.000 en cuestión de horas, siempre que el alcance y las reglas de seguridad estén correctamente definidos.

Peña afirmó que los agentes de Armadin lograron ingresar en los entornos de todos sus clientes y que identificaron más de 50 vulnerabilidades de día cero. Aclaró que se refiere a fallas de alto impacto capaces de permitir ejecución remota de código en sistemas reales y facilitar el acceso a una red desde Internet, no a vulnerabilidades menores que solo permitirían alterar una página web.

El límite de las pruebas tradicionales

Jay Bavisi, fundador y presidente de EC-Council, sostuvo que las pruebas de penetración deben adaptarse a la velocidad de los adversarios automatizados. Las organizaciones más grandes suelen realizar estos ejercicios una vez al año por motivos de cumplimiento, mientras que las consideradas más maduras pueden hacerlo trimestralmente, pero un pentest dirigido por humanos puede tomar alrededor de tres meses.

La frecuencia no es el único problema. Bavisi señaló que ninguna organización prueba toda su infraestructura, debido a restricciones de tiempo, presupuesto y personal, mientras que un atacante puede observar el conjunto completo y buscar rutas alternativas hacia sus activos más valiosos, no solo los sistemas que el equipo defensivo considera prioritarios.

También existe una diferencia de sofisticación entre evaluaciones humanas, cuyos resultados pueden variar según el profesional o el equipo contratado, y sistemas algorítmicos que repiten procesos de reconocimiento y análisis a gran escala. En ese contexto, los delincuentes pueden revisar una organización continuamente, mientras la empresa espera meses entre una prueba y otra.

EC-Council comenzó en junio un programa patrocinado para que profesionales de pruebas de penetración intenten el examen CPENT de IA. Por cada participante aprobado, la organización dona USD $1.000 en créditos de capacitación y certificación a socios sin fines de lucro. El programa Hackers4Humanity se plantea como una iniciativa para desbloquear hasta USD $1 millón en formación de ciberseguridad para comunidades desatendidas.

Bavisi considera que el modelo de pentesting anual o trimestral está desapareciendo en favor de pruebas automatizadas y continuas, pero no anticipa la desaparición de los especialistas humanos. Su papel evolucionará hacia la interpretación del impacto empresarial, la priorización de reparaciones y la evaluación de las consecuencias que tendría una falla en un sistema concreto.

El nuevo perfil del pentester

La expansión de los agentes de IA también amplía la cantidad de sistemas que los profesionales de seguridad deben intentar romper. Ya no basta con revisar redes, aplicaciones y configuraciones convencionales, porque las empresas incorporan modelos de lenguaje y agentes que pueden convertirse en puntos de entrada, mecanismos de decisión o intermediarios con acceso a información sensible.

Bavisi sostuvo que los pentesters deben aprender a evaluar modelos de lenguaje, comprender el comportamiento agéntico, clasificar los posibles daños y revisar las barreras instaladas por las organizaciones. Esa tarea exige combinar conocimientos técnicos con criterio empresarial, ya que una vulnerabilidad no se prioriza únicamente por su existencia, sino por el daño que podría provocar.

Los defensores, por tanto, enfrentan una carrera asimétrica. Los agentes ofensivos pueden aumentar la velocidad, la experiencia acumulada y la cobertura, mientras que los equipos humanos siguen siendo responsables de autorizar pruebas, validar hallazgos, evitar daños colaterales y decidir qué correcciones deben ejecutarse primero.

El red teaming agéntico no convierte automáticamente a una empresa en segura ni sustituye la autenticación, la gestión de identidades, la segmentación o la confianza cero. Su valor depende de que las organizaciones definan límites verificables, supervisen los permisos de cada agente y conviertan los hallazgos en cambios concretos, antes de que una prueba controlada sea reemplazada por un ataque real.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados