Por Canuto  

CrowdStrike presentó un mecanismo para detener agentes de IA internos, impedir que se reinicien y cortarles el acceso a la red corporativa. La herramienta suma controles humanos a su plataforma Falcon Guardian, mientras la compañía amplía sus apuestas en seguridad de IA.
***

  • El interruptor permite detener agentes internos y bloquear su reinicio, además de cortar su conexión con la red de la empresa.
  • La función se integra en Falcon Guardian y requiere que una persona evalúe si la actividad detectada es benigna o maliciosa.
  • CrowdStrike anunció una integración con Claude Cowork y planes para adquirir Fiddler AI y Dreadnode.

 

Un mecanismo para detener agentes autónomos

CrowdStrike presentó una función de emergencia para que los equipos de seguridad puedan detener agentes de inteligencia artificial internos que actúen de forma indebida. La herramienta también permite bloquear su reinicio y cortar su acceso a la red corporativa, tres medidas que buscan contener una conducta riesgosa antes de que se extienda dentro de los sistemas de una empresa.

La función forma parte de Falcon Guardian, la plataforma de CrowdStrike anunciada en septiembre para proteger agentes de IA. La empresa plantea que, a medida que las organizaciones incorporan sistemas capaces de ejecutar tareas de manera autónoma, necesitan herramientas para observar esa actividad y responder cuando un agente se aparta de las reglas previstas.

El nuevo control no toma por sí solo la decisión final sobre cada actividad detectada. Daniel Bernard, director de negocios de CrowdStrike, explicó a CNBC que el sistema puede identificar la actividad de un agente interno, pero un ser humano debe determinar si es benigna o maliciosa antes de ordenar la intervención.

Bernard describió el proceso como un interruptor de luz disponible en los sistemas que usan Falcon. Según el ejecutivo, el acceso a la raíz permite detener el proceso de manera binaria: la empresa mata al agente y su actividad o decide no hacerlo, mientras la plataforma informa sobre lo ocurrido.

Control humano en la adopción de IA

El lanzamiento se produce mientras las empresas aceleran la adopción de herramientas autónomas, a menudo sin contar con salvaguardas y protecciones suficientes, según la descripción de CrowdStrike. La propuesta de la compañía busca ofrecer una respuesta operativa cuando un agente se comporta mal, sin presentar el apagado como una sustitución de la supervisión humana ni como una solución para todos los riesgos de la IA.

Bernard sostuvo que la capacidad de controlar y desactivar agentes será importante para la próxima etapa de adopción. Su argumento conecta la expansión de estas herramientas con una necesidad práctica para las áreas de seguridad: contar con una forma de intervenir cuando la actividad automatizada amenaza con escapar del control previsto.

La distinción entre detectar y decidir resulta central en el diseño anunciado. Falcon Guardian puede señalar actividad de agentes, pero corresponde a una persona determinar si justifica el apagado; así, CrowdStrike propone combinar vigilancia automatizada con una decisión humana antes de cortar el proceso o su conexión corporativa.

Sin embargo, la idea de un botón de emergencia también enfrenta límites técnicos. Los críticos citados en la cobertura advierten que aplicar un apagado a través de distintos sistemas, centros de datos y modelos complejos puede resultar difícil, lo que pone en cuestión hasta dónde puede llegar una herramienta centralizada ante una infraestructura diversa.

Incidentes y nuevas apuestas de CrowdStrike

La urgencia de contar con controles creció tras varios incidentes cibernéticos de alto perfil mencionados en la noticia. Entre ellos figura un incidente de seguridad en Hugging Face ocurrido en julio. La reconstrucción técnica de Hugging Face y la explicación de OpenAI lo sitúan durante una evaluación interna de capacidades de ciberseguridad basada en ExploitGym; por eso, la información disponible no respalda describirlo como una acción espontánea de agentes que se rebelaron.

La cobertura también alude a ataques recientes contra sistemas de refrigeración de supermercados en Francia y a un ciberataque contra el sector de las criptomonedas que Binance describió como el mayor registrado. Esos episodios aparecen como parte de un contexto de preocupación por la seguridad digital, aunque la noticia no atribuye todos esos hechos a agentes de IA ni presenta el interruptor de CrowdStrike como respuesta directa a cada uno.

En Estados Unidos, representantes presentaron durante el verano una iniciativa legislativa bipartidista que exigiría a las empresas de IA incorporar capacidades de apagado en sus modelos. La propuesta muestra que el control de sistemas autónomos también ha llegado al debate legislativo, aunque la información disponible no indica que esa iniciativa se haya convertido en ley.

Además del interruptor, CrowdStrike anunció una integración con Claude Cowork, de Anthropic, y planes para adquirir dos compañías vinculadas con la seguridad y observabilidad de IA. Se trata de Fiddler AI, una startup de observabilidad, y Dreadnode, una firma dedicada a pruebas de seguridad de IA; la noticia presenta las operaciones como planes de adquisición, no como compras ya completadas.

Una carrera por asegurar la IA empresarial

Las adquisiciones anunciadas encajan con una tendencia más amplia descrita por la compañía: CrowdStrike y sus competidores están incorporando startups de ciberseguridad para responder a una demanda creciente de herramientas de protección para IA. En este caso, la observabilidad y las pruebas de seguridad complementan el control de ejecución que ofrece el interruptor, aunque la fuente no detalla cómo se integrarán técnicamente esos productos.

La lógica comercial es que las empresas no solo quieren experimentar con agentes autónomos, sino también saber qué hacen y conservar la capacidad de intervenir. Al reunir detección, evaluación humana y una opción de apagado, CrowdStrike intenta posicionar Falcon Guardian como una capa de control para organizaciones que incorporan agentes en sus entornos corporativos.

Ese planteamiento no elimina el dilema entre seguridad e innovación. Un apagado rápido puede limitar una acción indeseada, pero los críticos cuestionan que una herramienta pueda funcionar de manera uniforme en sistemas distribuidos y modelos diferentes; a su vez, Bernard sostiene que controlar y detener la actividad es una condición importante para abrir la siguiente fase de adopción.

Por ahora, el anuncio describe una capacidad integrada en la plataforma de CrowdStrike y un proceso que deja la decisión final en manos de las personas. El alcance real dependerá de cómo las empresas configuren sus sistemas y de si el acceso a la raíz permite actuar con eficacia en sus entornos, aspectos que la información publicada no desarrolla con más detalle.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados