Por Canuto  

Seis grandes empresas tecnológicas firmaron el Acuerdo de IA Fronteriza de la Casa Blanca, pero un investigador cuestiona que el documento deje en manos de cada compañía decisiones centrales sobre sus auditorías. La crítica apunta a quién elige a los revisores, qué examinan, si publican sus conclusiones y qué ocurre ante un incumplimiento.
***

  • Nvidia, OpenAI, Anthropic, Google, Meta y xAI firmaron el acuerdo el 29 de septiembre.
  • Samuel Vance-Law cuestionó que el texto no defina quién selecciona a los auditores ni qué contenido revisan.
  • La crítica también señala que no se aclara si los hallazgos serán públicos ni qué sanciones habría por incumplimiento.

Seis empresas de IA pactan auditorías con la Casa Blanca, pero dejan vacíos clave

Un acuerdo con preguntas abiertas

Nvidia, OpenAI, Anthropic, Google, Meta y xAI firmaron el Acuerdo de IA Fronteriza de la Casa Blanca el 29 de septiembre. Sin embargo, el compromiso quedó bajo cuestionamiento por no precisar aspectos básicos de las auditorías que contempla, según una crítica de Samuel Vance-Law, director de Investigación del Decentralization Research Center, citada en una nota de CoinDesk y recogida por KuCoin. El señalamiento no se centra en la cantidad de compañías adheridas, sino en quién controlará el proceso de revisión y con qué garantías.

Vance-Law indicó que el texto no especifica quién selecciona a los auditores, qué contenido queda sujeto a revisión, si los resultados se harán públicos ni qué sanciones se aplicarían ante un incumplimiento. Son cuatro preguntas distintas, pero conectadas: determinan quién vigila, qué puede observar, qué información llega a terceros y qué consecuencias tendría apartarse de lo acordado. La ausencia de esas definiciones deja, según su análisis, una distancia entre anunciar auditorías y establecer un mecanismo verificable.

La crítica agrega que, en la práctica, cada empresa elige por separado a sus propios auditores y determina el alcance de la revisión. Ese esquema pone en manos de las compañías decisiones que el documento, de acuerdo con el comentario citado, no asigna mediante criterios comunes. La observación no demuestra por sí sola que una auditoría concreta haya sido deficiente; plantea que el acuerdo no explica cómo impedir que el diseño de cada revisión dependa de la entidad examinada.

El dato central, por tanto, no es que las seis empresas hayan firmado un mismo compromiso, sino que la firma compartida no necesariamente equivale a un procedimiento uniforme. Si cada compañía establece quién revisa y qué se revisa, los resultados podrían no ser comparables entre sí, aunque todas participen bajo el mismo acuerdo. Esa es una consecuencia posible del modelo descrito por Vance-Law, no una constatación sobre auditorías ya realizadas ni sobre conclusiones específicas de las empresas.

La independencia del auditor y el alcance de la revisión

La selección del auditor importa porque afecta la independencia que puede atribuirse a una evaluación. Cuando el documento no aclara quién debe nombrarlo, queda sin resolver si la designación corresponde a un tercero, a una autoridad o a la propia empresa revisada; la crítica sostiene que, en la práctica, cada firma escoge a su auditor. El material disponible no describe los criterios usados para esa selección, por lo que no permite afirmar qué vínculos, requisitos profesionales o salvaguardas aplican en cada caso.

También resulta decisivo definir el objeto de la auditoría. El comentario señala que el acuerdo no precisa qué contenido debe examinarse, un vacío que puede dejar abiertas preguntas sobre el alcance concreto de una revisión y sobre qué elementos quedarían fuera. Sin esa delimitación, el término “auditoría” puede referirse a ejercicios diferentes entre compañías, de modo que la existencia de una revisión no informa por sí sola qué se evaluó ni permite comparar su cobertura.

La combinación de un auditor elegido por cada empresa y un alcance que cada compañía determina plantea una cuestión de gobernanza, más que una conclusión sobre la calidad de los sistemas de IA. En este contexto, gobernanza significa quién establece las reglas del examen y quién puede verificar que se cumplan. Vance-Law cuestiona precisamente que el acuerdo no identifique esos responsables; no afirma, según el resumen disponible, que las compañías hayan ocultado hallazgos o incumplido obligaciones concretas.

Para lectores que no siguen de cerca este debate, conviene distinguir una auditoría de una garantía absoluta de seguridad. Una revisión puede aportar información sobre los aspectos que examina, pero su utilidad depende del alcance, de la independencia del revisor y de la forma en que se comunican los resultados. La crítica al acuerdo apunta a que esos elementos no aparecen suficientemente definidos en el texto descrito, por lo que firmar el compromiso no responde automáticamente a las preguntas sobre qué evidencia produciría cada evaluación.

Transparencia, cumplimiento y consecuencias

La publicación de los hallazgos es otro punto pendiente. Si el acuerdo no establece si los resultados serán públicos, no queda claro qué información podría conocer la ciudadanía ni si las conclusiones circularían únicamente entre las compañías y otros participantes. El reporte no detalla si existen mecanismos alternativos de divulgación, así que no corresponde asegurar que las auditorías serán confidenciales o que se mantendrán ocultas; la objeción es, precisamente, que el documento no despeja esa cuestión.

La transparencia puede influir en la posibilidad de evaluar si el compromiso produjo revisiones sustantivas. Cuando los resultados se comparten públicamente, terceros pueden conocer al menos qué se examinó y qué conclusiones se comunicaron; si no se fija una obligación de divulgación, esa expectativa queda indeterminada. Esto no significa que toda información deba difundirse sin límites, sino que el acuerdo, según la crítica, no aclara si habrá resultados públicos ni qué nivel de detalle podrían ofrecer.

El último vacío señalado se refiere a las consecuencias de un incumplimiento. El comentario sostiene que el acuerdo no establece qué sanciones se aplicarían si una compañía no cumple, pero la información disponible no identifica obligaciones específicas cuya infracción ya se haya producido. Sin una consecuencia descrita, queda abierta la pregunta de cómo se respondería ante una desviación del compromiso y quién tendría autoridad para determinarla; la crítica no aporta ejemplos de sanciones existentes o de casos concretos.

En conjunto, los puntos cuestionados dibujan una cadena de decisiones aún poco clara: quién escoge al auditor, qué examina, quién puede conocer el resultado y qué sucede si una empresa no cumple. El acuerdo fue firmado por seis compañías el 29 de septiembre, pero el señalamiento de Vance-Law advierte que la participación común no resuelve por sí misma esas preguntas de procedimiento. La información citada tampoco permite concluir que el pacto carezca de todo efecto, ni anticipar cambios futuros; sí muestra cuáles son los vacíos que sus críticos consideran centrales.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados