Por Canuto  

El CEO de Google DeepMind, Demis Hassabis, propone crear un organismo independiente y financiado por la industria para evaluar los modelos de IA de frontera antes de su lanzamiento.
***

  • La propuesta contempla que los laboratorios compartan voluntariamente sus modelos con el organismo hasta 30 días antes del lanzamiento.
  • El esquema tomaría como referencia a FINRA y buscaría sustituir revisiones gubernamentales consideradas opacas y con poca experiencia técnica.
  • La iniciativa surge en medio del rechazo de sectores de la administración Trump a crear una agencia federal equivalente a una FDA para la IA.

 

El CEO de Google DeepMind, Demis Hassabis, pidió la creación de un organismo independiente de estándares para supervisar los lanzamientos de modelos de inteligencia artificial de frontera. Su propuesta busca establecer una evaluación técnica más consistente antes de que los sistemas lleguen al mercado.

Hassabis presentó la iniciativa en una publicación difundida el martes por la mañana. El texto, titulado “Un marco para la IA de frontera y el amanecer de una nueva era”, plantea una estructura de supervisión inspirada en la Autoridad Reguladora de la Industria Financiera, conocida como FINRA.

Los modelos de frontera son sistemas avanzados que pueden ofrecer capacidades superiores en áreas como razonamiento, generación de contenido y automatización. Su creciente complejidad ha impulsado debates sobre la forma adecuada de comprobar sus riesgos antes de un despliegue masivo.

El organismo propuesto evaluaría estos modelos y desarrollaría mejores prácticas para sus lanzamientos. La idea central consiste en combinar experiencia técnica, independencia operativa y una relación formal con los laboratorios que desarrollan los sistemas, detalla TechCrunch.

La propuesta llega en un momento de tensión entre la necesidad de regular la IA y el temor de que una supervisión excesiva frene la innovación. También intenta responder a las críticas contra mecanismos de revisión que, según el planteamiento de Hassabis, carecen de suficiente transparencia y especialización.

Revisión previa y respuesta a vulnerabilidades

En una primera etapa, los laboratorios de frontera compartirían sus modelos de manera voluntaria con el organismo de estándares. La entrega ocurriría hasta 30 días antes del lanzamiento comercial o público de cada sistema.

Ese periodo permitiría realizar evaluaciones técnicas antes de que el modelo se despliegue en el mercado estadounidense. El organismo también tendría la función de identificar riesgos y recomendar medidas correctivas antes de la disponibilidad general.

Hassabis plantea que el esquema comenzaría como un protocolo de evaluación voluntario. Una vez que el mecanismo demostrara ser efectivo y sólido, el gobierno estadounidense podría formalizarlo con rapidez.

En esa fase posterior, los modelos de frontera tendrían que superar la evaluación para poder desplegarse en el mercado de Estados Unidos. La propuesta no detalla un conjunto específico de pruebas, umbrales técnicos o sanciones para los laboratorios que no cumplieran.

El organismo también trabajaría con las empresas después del lanzamiento. Su responsabilidad incluiría abordar vulnerabilidades críticas que aparecieran cuando los modelos ya estuvieran disponibles para los usuarios.

Un modelo inspirado en FINRA

La estructura imaginada por Hassabis se parecería a una organización autorreguladora como FINRA. Este tipo de entidad puede establecer estándares para una industria, coordinar revisiones y operar con respaldo institucional sin formar parte directa del poder ejecutivo.

El organismo tendría apoyo del gobierno estadounidense, pero recibiría su financiamiento de la industria de IA. Al mismo tiempo, funcionaría de manera independiente respecto de los laboratorios que pagarían por sostener sus operaciones.

Hassabis propone integrar a representantes del ecosistema de código abierto y a expertos técnicos de la industria. La composición buscaría evitar que las decisiones quedaran concentradas exclusivamente en las compañías más grandes de inteligencia artificial.

El plan también contempla que el organismo pueda contratar evaluaciones externas. Para ello, recurriría a los grupos de seguridad de IA que están surgiendo y que podrían especializarse en riesgos concretos.

Según la visión del CEO de DeepMind, la financiación de los laboratorios sería necesaria para atraer y retener talento técnico. Sin embargo, la independencia de la entidad dependería de reglas claras que limiten los conflictos de interés entre sus evaluadores y las empresas revisadas.

Las críticas a las revisiones gubernamentales

El sistema planteado por Hassabis tomaría como referencia las revisiones ad hoc realizadas por el gobierno de Estados Unidos sobre Mythos, de Anthropic, y Sol, de OpenAI. Ambos procesos se presentan como ejemplos recientes de la intervención gubernamental en los lanzamientos de modelos avanzados.

Esas revisiones recibieron críticas significativas por la falta de experiencia técnica atribuida a los evaluadores. También generaron cuestionamientos por la opacidad en las decisiones sobre cuándo podía lanzarse cada modelo.

La propuesta busca trasladar esas decisiones a una organización especializada. En lugar de depender de revisiones puntuales del gobierno, los lanzamientos pasarían por un marco técnico con procedimientos más previsibles.

Hassabis sostiene que un organismo independiente podría seguir el ritmo de la aceleración de la IA. Su estructura tendría que adaptarse a nuevos riesgos conforme aparezcan capacidades más avanzadas y usos potencialmente dañinos.

El diseño también permitiría intensificar los controles si la gravedad de una situación lo exigiera. No obstante, la propuesta deja abierta la discusión sobre quién definiría esa gravedad y qué autoridad tendría el organismo para bloquear o condicionar un lanzamiento.

El debate político sobre una agencia de IA

La regulación de la inteligencia artificial continúa siendo un asunto controvertido dentro de la industria tecnológica y de la administración Trump. Parte del debate se concentra en si la supervisión debe depender de una agencia federal o de mecanismos autorreguladores respaldados por el Estado.

Recientemente, Sriram Krishnan, asesor de IA de la Casa Blanca y socio general de a16z, descartó la posibilidad de crear un regulador de IA dentro del poder ejecutivo. Krishnan afirmó que “no habrá una FDA para la IA”.

La referencia a la FDA alude a la Administración de Alimentos y Medicamentos de Estados Unidos. Una agencia con ese nivel de autoridad podría revisar productos antes de su comercialización, aunque el gobierno ha mostrado resistencia a replicar ese modelo para la inteligencia artificial.

Crear el organismo como una organización autorreguladora, siguiendo el ejemplo de FINRA, podría ofrecer una salida intermedia. El gobierno conservaría un papel de respaldo, mientras la industria aportaría recursos y conocimiento especializado.

Ese equilibrio también plantea riesgos, porque las empresas reguladas financiarían la entidad que debe evaluarlas. La inclusión de expertos independientes, representantes del código abierto y grupos externos de seguridad sería clave para fortalecer la credibilidad del sistema.

Innovación, seguridad e independencia

Hassabis argumenta que su enfoque combinaría una orientación técnica con incentivos para mantener la innovación. La propuesta no pretende detener el desarrollo de modelos avanzados, sino establecer condiciones para que sus lanzamientos sean más responsables.

El organismo podría actualizar sus protocolos conforme surgieran nuevos riesgos. Esta capacidad de adaptación resulta importante en un sector donde las capacidades de los modelos avanzan con rapidez y los métodos de evaluación pueden quedar obsoletos.

La externalización de pruebas permitiría dividir el trabajo entre grupos especializados. Un equipo podría concentrarse en ciberseguridad, otro en riesgos biológicos y otro en posibles fallas de alineación, aunque la propuesta no asigna áreas concretas a cada organización.

El esquema también tendría que definir cómo protegería la información sensible compartida por los laboratorios. Los modelos de frontera pueden contener secretos comerciales, por lo que las revisiones necesitarían reglas para equilibrar transparencia y confidencialidad.

Por ahora, la iniciativa representa una propuesta de política pública y no un organismo establecido. Su eventual adopción requeriría acuerdos entre empresas, expertos técnicos, representantes del código abierto y autoridades estadounidenses.

El planteamiento de Hassabis refleja la presión que enfrenta la industria para demostrar que puede gestionar los riesgos de sus propios productos. También muestra la disputa entre quienes prefieren controles especializados y quienes temen que cualquier sistema regulatorio se convierta en una barrera para el progreso tecnológico.

TechCrunch informó que el CEO de Google DeepMind imagina un organismo centrado en la experiencia técnica, respaldado por el gobierno y financiado por los laboratorios de IA. La propuesta busca ofrecer una alternativa a las revisiones gubernamentales ad hoc y responder a la aceleración del desarrollo de modelos de frontera.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados