Por Canuto  

Advanced AI Society anunció su incorporación a Linux Foundation y LF Decentralized Trust, además de publicar el borrador de Proof-of-Control, un estándar abierto que busca demostrar de forma continua qué autoridad tienen los agentes de IA y si realmente actuaron dentro de sus límites.
***

  • Advanced AI Society publicó el borrador de Proof-of-Control v0.1 para comentarios públicos hasta el 7 de octubre de 2026.
  • El estándar será alojado como laboratorio de LF Decentralized Trust y pretende permitir auditorías abiertas de la ejecución de agentes.
  • Más de 80 líderes de seguridad y expertos como Bruce Schneier y J. Christopher Giancarlo respaldaron la iniciativa.

 

Advanced AI Society anunció el 17 de septiembre de 2026 su incorporación a Linux Foundation y a LF Decentralized Trust, junto con el lanzamiento de un ecosistema abierto para verificar agentes de inteligencia artificial. La alianza también publicó el borrador de trabajo de Proof-of-Control v0.1, que permanecerá disponible para comentarios públicos hasta el 7 de octubre de 2026 en el sitio de la organización.

El proyecto aparece mientras propuestas bipartidistas en el Congreso de Estados Unidos plantean controles verificables para agentes y evaluaciones de terceros, en un contexto donde los laboratorios de frontera también enfrentan llamados a moderar el crecimiento de las capacidades de la IA. Según la información difundida por The Next Web, el objetivo central consiste en reducir la distancia entre la velocidad de actuación de las máquinas y la capacidad humana para supervisarlas.

Un estándar para comprobar la autoridad de los agentes

Los agentes de IA pueden ejecutar tareas, tomar decisiones y operar sobre sistemas empresariales o públicos con una velocidad que dificulta la revisión manual de cada paso. Proof-of-Control propone que esa actividad no dependa únicamente de declaraciones del operador, registros internos del proveedor o auditorías puntuales que podrían quedar desactualizadas frente a cambios rápidos en el comportamiento del sistema.

La iniciativa parte de un principio de seguridad conocido: la entidad que debe ser verificada no debería controlar por completo el mecanismo de verificación. Por esa razón, Advanced AI Society plantea que terceros neutrales, desarrolladores y organizaciones que despliegan agentes puedan revisar abiertamente la autoridad asignada a cada sistema y la evidencia producida durante su ejecución.

El borrador busca definir la autoridad de un agente antes de que actúe, registrar evidencia en tiempo de ejecución y permitir que esos datos sean auditables durante todo el ciclo de vida del sistema. En términos prácticos, la propuesta intenta separar lo que un agente estaba autorizado a hacer de lo que efectivamente hizo, una distinción relevante cuando la máquina maneja información sensible, infraestructura crítica o recursos económicos.

Ken Huang, copresidente de Proof-of-Control, sostuvo que un registro de ejecución solo representa una afirmación hasta que otras partes pueden comprobarlo por sí mismas. A su juicio, el estándar convertiría la verificación abierta en una práctica operativa capaz de demostrar si el agente se mantuvo dentro de sus límites, sin depender de cajas negras propietarias.

Linux Foundation como espacio neutral

Proof-of-Control será alojado por LF Decentralized Trust como un laboratorio, una estructura que busca situar sus estándares en un espacio neutral y compartido. La alianza sostiene que este modelo evita que una sola empresa controle el mecanismo utilizado para decidir si un agente actuó correctamente, un riesgo especialmente relevante cuando los proveedores también diseñan, operan y evalúan sus propios sistemas.

Tricia Wang, cofundadora y CEO de Advanced AI Society, afirmó que el proyecto reúne tecnologías de IA verificable probadas en producción por empresas miembros y las integra en un estándar abierto. También señaló que los controles tradicionales y las auditorías siguen siendo necesarios, pero pueden resultar insuficientes cuando los agentes actúan en milisegundos y requieren monitoreo continuo.

Daniela Barbossa, gerente general de Tecnologías Descentralizadas de Linux Foundation y directora ejecutiva de LF Decentralized Trust, describió los mecanismos descentralizados como una respuesta a la posibilidad de que un proveedor controle o altere la evidencia sobre sus propios sistemas. Hart Montgomery, CTO de LF Decentralized Trust, vinculó la propuesta con el principio criptográfico de no confiar ciegamente, sino verificar.

Montgomery también indicó que la inspección humana pierde eficacia cuando máquinas no deterministas toman decisiones a gran velocidad. En su lectura, Proof-of-Control trasladaría al ecosistema agéntico el rigor probatorio asociado con proyectos como AnonCreds y Trust Over IP, mediante herramientas que permitan verificar la autoridad de las máquinas sin revelar necesariamente todos los datos privados involucrados.

Respaldo de sectores regulados y financieros

La propuesta recibió apoyo de participantes vinculados con salud, ciberseguridad, mercados financieros, infraestructura crítica y activos digitales. Charles Iheagwara, director global de IA y ciberseguridad de AstraZeneca y miembro del Distinguished Review Board de Proof-of-Control, cuestionó un modelo basado en afirmaciones de proveedores cuando están en juego la seguridad de pacientes y la propiedad intelectual.

Bruce Schneier, criptógrafo, asesor técnico y miembro del mismo consejo, afirmó que será fundamental conocer quién controla cada agente y qué acciones tiene permitidas a medida que estos sistemas ganen capacidad y presencia. Sus comentarios reflejan una preocupación que atraviesa la propuesta: la responsabilidad no puede limitarse a identificar al proveedor, sino que debe incluir evidencia sobre los permisos y las acciones concretas del sistema.

J. Christopher Giancarlo, ex presidente de la Commodity Futures Trading Commission y asesor senior de Advanced AI Society, relacionó el estándar con las exigencias de los mercados financieros y los marcos regulatorios. Según su planteamiento, los agentes que adquieran autoridad económica necesitarán pruebas verificables y listas para auditoría, especialmente cuando intervengan en redes digitales y procesos capaces de mover dinero.

Patrick Duffy, fundador y CEO de Solv Labs, sostuvo que las instituciones necesitan algo más que explicaciones convincentes cuando un agente puede transferir fondos. Solv respalda el desarrollo del estándar porque considera útil distinguir entre la autoridad que el sistema tenía asignada y la evidencia que demuestra las operaciones que realmente ejecutó.

Salud, redes e infraestructura crítica

Otros participantes subrayaron que la verificación abierta también puede ser importante fuera del sector financiero. Erynn Petersen, CEO de Emme, afirmó que los agentes que toman decisiones relacionadas con salud y dinero deberían poder demostrar qué decisiones adoptaron, cómo utilizaron los datos y qué se facturó, cuándo ocurrió y por qué.

Anoop Nannra, cofundador y CEO de Oko Labs, explicó que su empresa busca incorporar blockchain en la infraestructura de Internet para que la verificación resida en la propia red. Desde su perspectiva, demostrar el control en la capa de red podría convertir el riesgo asociado con las máquinas en una variable que los mercados puedan medir, valorar y asegurar a la velocidad de los sistemas agénticos.

Noah Ringler, ex líder de Política de IA del Departamento de Seguridad Nacional de Estados Unidos y asesor senior de Advanced AI Society, calificó la verificación abierta como un imperativo para la seguridad nacional cuando los agentes operan en infraestructura crítica. Su argumento es que los equipos de seguridad y los auditores no deberían tener que aceptar la versión del agente sobre sus propias acciones después de los hechos.

Jim Schwoebel, director de investigación de Advanced AI Society y CEO de Quome, comparó el despliegue de agentes sin controles abiertos con pilotar un avión sin frenos ni grabadora de vuelo. También señaló que los errores que se multiplican a gran velocidad pueden convertirse en crisis sistémicas, razón por la cual el Open Verification Lab busca ofrecer herramientas, estándares e investigación abiertos y resistentes a manipulaciones.

La agenda de la verificación abierta

Advanced AI Society presentó la verificación abierta como una extensión de los principios del código abierto al llamado stack agéntico. La lógica es que las organizaciones no pueden garantizar aquello que no pueden inspeccionar y tampoco deberían delegar autoridad relevante si no cuentan con mecanismos para comprobarla de manera independiente.

Michael Casey, cofundador de Advanced AI Society, afirmó que la infraestructura criptográfica descentralizada puede demostrar que un agente respetó sus límites sin obligar a exponer datos privados o sensibles. Bettina Warburg, también cofundadora, sostuvo que la evidencia sobre qué controlan las máquinas, qué ocurrió y qué acciones pueden atribuirse a ellas será necesaria a medida que los agentes entren en negocios y actividades cotidianas.

Sheila Warren, cofundadora de la organización, criticó la dependencia de auditorías cerradas y sellos de aprobación escogidos por las propias partes interesadas. En su opinión, la responsabilidad de las máquinas debería mantenerse como un bien público y no convertirse en una capacidad encerrada dentro de jardines tecnológicos controlados por proveedores.

La organización anunció que organizará junto con LF Decentralized Trust el evento público Who’s Watching the Machines? el miércoles 23 de septiembre de 2026. La actividad reunirá a líderes de la alianza, desarrolladores, organizaciones que despliegan agentes y expertos en políticas para discutir el lanzamiento del estándar y el papel de la verificación abierta en la era agéntica.

El siguiente paso será el periodo de comentarios públicos sobre Proof-of-Control v0.1, que concluirá el 7 de octubre de 2026. La respuesta de empresas, auditores, reguladores y comunidades técnicas ayudará a determinar si la propuesta puede convertirse en una base interoperable para demostrar el comportamiento de agentes en entornos donde las promesas del operador ya no bastan.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados