Por Canuto  

El CEO de Google DeepMind considera urgente crear un organismo internacional capaz de evaluar los modelos de IA más avanzados y frenar su despliegue si implican riesgos graves.

***

  • Demis Hassabis sostiene que Estados Unidos debería liderar un organismo regulador global de inteligencia artificial.
  • La institución evaluaría los modelos de frontera antes de su lanzamiento y podría coordinar una desaceleración industrial.
  • El ejecutivo afirma que la inteligencia artificial general podría llegar en pocos años y describe la etapa actual como el inicio de una nueva era.

 

Demis Hassabis, CEO y cofundador de Google DeepMind, considera que el mundo necesita un organismo regulador global para supervisar los sistemas de inteligencia artificial más avanzados. La institución tendría capacidad para intervenir si un modelo de frontera presenta riesgos demasiado altos.

La propuesta plantea que Estados Unidos lidere la creación del organismo. Hassabis argumenta que el país reúne la posición económica y técnica necesaria para establecer estándares con alcance internacional.

El ejecutivo expuso sus ideas en un blog titulado “Un marco para la IA de frontera y el amanecer de una nueva era”. The Verge informó que el documento vincula la urgencia regulatoria con el rápido aumento de las capacidades de los sistemas de inteligencia artificial.

En este contexto, los modelos de frontera son los sistemas más sofisticados disponibles o en desarrollo. Su capacidad para razonar, generar contenido y ejecutar tareas complejas ha convertido su lanzamiento en un asunto relevante para gobiernos, empresas, investigadores y comunidades de código abierto.

Hassabis plantea que una supervisión internacional permitiría reducir la fragmentación entre países. Actualmente, no existe un conjunto global de normas diseñado específicamente para gobernar la inteligencia artificial.

El panorama tampoco cuenta con un conjunto completo de reglas nacionales en Estados Unidos. Esa ausencia, según la propuesta, dificulta establecer criterios comunes para evaluar los modelos antes de que lleguen al público.

El organismo sugerido tendría una estructura similar a la de reguladores existentes en otros sectores. Hassabis mencionó como referencia a la Autoridad Reguladora de la Industria Financiera, conocida por sus funciones de supervisión dentro del mercado financiero estadounidense.

La institución estaría integrada por expertos independientes destacados. También incorporaría representantes de las comunidades de código abierto, un sector que suele defender mayor transparencia y participación en el desarrollo tecnológico.

La inclusión de especialistas ajenos a las empresas líderes busca aportar una mirada independiente. El diseño también reconocería que los sistemas de IA no pertenecen únicamente a los grandes laboratorios privados.

La propuesta llega mientras los desarrolladores compiten por construir sistemas cada vez más potentes. Para Hassabis, esa carrera exige un marco que combine innovación tecnológica con mecanismos concretos de seguridad.

Evaluación previa y capacidad para frenar despliegues

Una de las funciones centrales del organismo sería evaluar los modelos de frontera antes de su lanzamiento. La revisión ocurriría antes de que las empresas desplieguen sistemas con capacidades potencialmente difíciles de controlar.

La evaluación previa permitiría identificar riesgos antes de que un modelo alcance una distribución amplia. También podría ofrecer un punto común para comparar las prácticas de distintos laboratorios y jurisdicciones.

Hassabis propone que la institución tenga autoridad para determinar si un modelo resulta demasiado peligroso. En ese caso, podría recomendar o impulsar una desaceleración coordinada en toda la industria.

La idea no se limita a exigir documentos de cumplimiento o compromisos voluntarios. El organismo tendría una función activa ante escenarios en los que el despliegue de un sistema suponga un riesgo elevado.

Una pausa coordinada afectaría a varios desarrolladores al mismo tiempo. El objetivo sería evitar que una empresa acelere su lanzamiento mientras otras intentan contener riesgos similares.

Este mecanismo también buscaría resolver una tensión habitual del sector. Las compañías pueden sentir presión para competir con rapidez, incluso cuando todavía existen dudas sobre la seguridad de sus modelos.

La autoridad propuesta no funcionaría como un censor de toda la inteligencia artificial. Su foco estaría en los modelos de frontera y en los riesgos vinculados con sus capacidades más avanzadas.

El planteamiento deja abierta la cuestión de cómo definir exactamente el umbral de peligro. La propuesta de Hassabis destaca la necesidad de contar con expertos capaces de evaluar cada sistema según sus capacidades y posibles usos.

La presencia de representantes de código abierto podría aportar una perspectiva distinta a la de los laboratorios comerciales. Sin embargo, la noticia no detalla el método de selección de los integrantes ni el alcance jurídico de sus decisiones.

Tampoco se han especificado los procedimientos para obligar a una empresa a detener un lanzamiento. Esos aspectos serían decisivos para determinar si la institución tendría autoridad real o solo una función de coordinación.

La advertencia sobre la inteligencia artificial general

Hassabis sostiene que la inteligencia artificial general, conocida como AGI, podría estar a solo unos años de distancia. El concepto suele describir sistemas capaces de desempeñar una amplia variedad de tareas con un nivel de flexibilidad comparable o superior al humano.

El ejecutivo considera que el progreso hacia la AGI vuelve más urgente la creación de reglas internacionales. A su juicio, la regulación no puede esperar hasta que esos sistemas hayan alcanzado un nivel de desarrollo irreversible.

En su blog, Hassabis describió el momento actual como las “faldas de la singularidad”. También afirmó que se trata del amanecer de una nueva era para la humanidad.

La referencia a la singularidad expresa una visión de cambios tecnológicos acelerados. No obstante, la noticia no establece una fecha concreta para la llegada de la AGI ni presenta una medición independiente que confirme la predicción.

La advertencia refleja la posición de uno de los ejecutivos más influyentes del sector. Hassabis recibió de manera conjunta el Premio Nobel de Química de 2024 por su trabajo en predicción de proteínas basada en inteligencia artificial.

Su trayectoria científica y empresarial le permite participar en el debate desde dentro de uno de los principales laboratorios de IA. Al mismo tiempo, su propuesta plantea preguntas sobre el papel que deberían desempeñar las compañías tecnológicas en la regulación de sus propios productos.

El debate incluye riesgos relacionados con la seguridad, el desarrollo de capacidades difíciles de supervisar y el posible uso indebido de sistemas avanzados. La información disponible no atribuye a Hassabis una lista exhaustiva de amenazas, pero sí muestra su preocupación por modelos demasiado peligrosos para desplegar.

El ejecutivo también firmó el mes pasado una declaración que pidió protecciones más estrictas contra la producción de armas biológicas asistidas por inteligencia artificial. Ese pronunciamiento amplía su llamado a considerar riesgos específicos de alto impacto.

La discusión sobre la AGI ocurre mientras líderes empresariales y académicos reclaman mayor atención política. Entre quienes han respaldado llamados relacionados aparecen el cofundador de Anthropic, Jack Clark, y el ex CEO de Google, Eric Schmidt.

Además, una declaración de economistas de alto nivel y figuras tecnológicas instó a los líderes mundiales a tomar en serio los impactos económicos inminentes de la inteligencia artificial. Esa preocupación complementa el enfoque de seguridad planteado por Hassabis.

Apoyo político y desafíos internacionales

Según Axios, Hassabis pasó meses buscando apoyo para su propuesta. Durante ese proceso habría presentado informes breves a la administración de Donald Trump, a otros laboratorios de IA y a funcionarios europeos.

El ejecutivo dijo esperar que la nueva organización entre en funcionamiento antes de que termine el año. También afirmó que los comentarios que había recibido de la administración Trump eran “muy positivos”.

Ese respaldo sería importante para una iniciativa que pretende tener alcance global. Estados Unidos tendría que coordinar la propuesta con gobiernos extranjeros, empresas tecnológicas y organizaciones independientes.

La participación europea aparece como un elemento relevante en las conversaciones mencionadas. Los funcionarios europeos representan una parte importante del debate internacional sobre la supervisión de las tecnologías digitales.

La noticia no confirma que exista un acuerdo definitivo entre esos actores. Tampoco especifica el nombre de la institución, su sede, su presupuesto o el calendario formal para su creación.

El liderazgo estadounidense podría facilitar la adopción de estándares debido al peso tecnológico y económico del país. Sin embargo, también podría generar dudas entre gobiernos que prefieran una estructura más equilibrada entre regiones.

La propuesta intenta resolver ese posible conflicto mediante la incorporación de expertos independientes y representantes de código abierto. Aun así, el diseño final tendría que establecer cómo se distribuiría la autoridad entre Estados Unidos y los demás participantes.

Otro desafío consiste en definir qué modelos deben considerarse de frontera. Las capacidades cambian con rapidez, por lo que un umbral regulatorio fijo podría quedar desactualizado en poco tiempo.

Los reguladores también tendrían que decidir qué pruebas aplicar antes del lanzamiento. La propuesta de Hassabis defiende la evaluación previa, pero la información disponible no detalla los indicadores técnicos o jurídicos que usaría el organismo.

El debate llega en un momento de creciente presión para crear un marco coherente. Hassabis y otros líderes de la industria han participado en esfuerzos destinados a gobernar sistemas de IA cada vez más poderosos y reducir los riesgos asociados.

Una disputa entre velocidad e intervención

La propuesta coloca la seguridad de los modelos avanzados en el centro de la conversación pública. También reconoce que una regulación global tendría que convivir con la competencia comercial y científica entre países.

Para los laboratorios, una supervisión previa podría aumentar los costos y retrasar los lanzamientos. Para los defensores de controles estrictos, esa demora sería aceptable si evita la distribución de sistemas con riesgos graves.

La posibilidad de coordinar una desaceleración industrial representa la parte más intervencionista de la propuesta. Su aplicación exigiría confianza entre competidores que normalmente buscan adelantarse unos a otros.

El organismo también tendría que mantener independencia frente a los laboratorios que desarrollan los modelos. Esa separación sería necesaria para que sus evaluaciones conservaran credibilidad ante gobiernos y usuarios.

La participación de comunidades de código abierto añadiría pluralidad, aunque también exigiría reglas claras sobre representación y responsabilidad. El planteamiento no explica cómo se resolverían las diferencias entre expertos, empresas y autoridades públicas.

Hassabis no propone detener todo el desarrollo de la inteligencia artificial. Su objetivo declarado es establecer una estructura capaz de distinguir entre avances aceptables y sistemas que deberían enfrentar una pausa antes de su despliegue.

El éxito de la iniciativa dependería de que los gobiernos acepten estándares comunes. Sin coordinación internacional, las empresas podrían trasladar sus operaciones o lanzamientos hacia jurisdicciones con controles más débiles.

La falta de normas globales también puede producir criterios contradictorios. Un modelo aprobado en un país podría enfrentar restricciones en otro, complicando la operación de los desarrolladores y la protección de los usuarios.

La propuesta de Hassabis busca anticiparse a ese escenario mediante una institución compartida. Su viabilidad dependerá de las negociaciones políticas, del alcance de sus facultades y de la disposición de la industria para aceptar límites.

Por ahora, el llamado representa una propuesta en construcción y no un organismo ya establecido. La fecha planteada para finales de año mostrará si el respaldo inicial puede transformarse en un acuerdo operativo.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados