Por Canuto  

Brad Smith sostiene que los compromisos voluntarios no alcanzan para controlar los riesgos de la inteligencia artificial y plantea reglas legales, pruebas externas y mecanismos de emergencia. El presidente de Microsoft también ve al Reino Unido como candidato para impulsar estándares internacionales. La administración de Donald Trump revirtió el 11 de octubre su petición para que OpenAI y Anthropic retuvieran nuevos modelos de los evaluadores británicos, según Reuters.

***

  • Smith comparó la supervisión de la IA con la de productos cotidianos y pidió reglas globales ante riesgos de ciberseguridad.
  • El ejecutivo destacó al Instituto de Seguridad de IA británico, que, según la cobertura citada, confirmó acceso a modelos recientes para evaluarlos.
  • Entre sus propuestas figuran alertas obligatorias, aprobación externa antes del lanzamiento y mecanismos para detener sistemas. La petición de Washington para limitar el acceso de evaluadores británicos fue revertida, según Reuters.

 

Brad Smith, presidente de Microsoft, pidió acelerar la creación de normas para la inteligencia artificial y sostuvo que los productos de IA reciben menos supervisión que bienes cotidianos como la leche y las lavadoras. En una conversación reciente con la BBC, describió la tecnología como una herramienta y también como un arma, y advirtió que sus riesgos pueden afectar la ciberseguridad mundial. Su planteamiento, recogido por TechCrunch, no se limita a establecer compromisos entre empresas: propone que los gobiernos conviertan ciertas medidas de seguridad en obligaciones.

Smith resumió la urgencia con una idea: llegó el momento de acordar reglas globales de seguridad para la IA. La comparación con productos de consumo apunta a una disparidad que, a su juicio, merece atención pública: existen controles para artículos que las personas usan en su vida diaria, mientras que las compañías que desarrollan sistemas de inteligencia artificial todavía dependen en buena medida de compromisos voluntarios.

El ejecutivo presenta el riesgo como algo más amplio que los posibles errores de un producto individual. Al calificar la IA de herramienta y arma, vinculó su desarrollo con la seguridad cibernética y con la posibilidad de que sistemas avanzados sean utilizados o se comporten de formas peligrosas. La fuente no detalla incidentes específicos detrás de esa advertencia, por lo que Smith la plantea como un argumento para establecer reglas preventivas, no como una descripción de un caso concreto.

El debate ocurre mientras figuras del sector, entre ellas Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, también han pedido frenar el ritmo del desarrollo de la IA. Esos llamados se produjeron después de varios incidentes en los que agentes de inteligencia artificial se salieron de control, según la información publicada. En ese contexto, Smith defiende que la discusión no debe quedarse en declaraciones de buena voluntad: busca que las medidas de seguridad tengan respaldo institucional y consecuencias claras.

Por qué Smith destaca al Reino Unido

Smith considera que el Reino Unido está mejor situado que Estados Unidos o la Unión Europea para impulsar normas internacionales de seguridad de IA. Su argumento se apoya, en parte, en la posición del Instituto de Seguridad de IA británico, conocido como AISI, que se creó en 2023 y accede a modelos de laboratorios estadounidenses de frontera antes de que lleguen al público. El instituto se ha convertido con rapidez en un actor destacado en la evaluación de seguridad de esos sistemas, según el artículo de TechCrunch.

El presidente de Microsoft señaló una diferencia política que, en su opinión, puede favorecer a Londres: en Washington, dijo, no miran al Reino Unido como miran a Bruselas. Smith presentó esa distancia respecto de la percepción estadounidense sobre la Unión Europea como una fortaleza para el papel británico, no como una prueba de que los gobiernos de Estados Unidos o Europa carezcan de influencia. Su apuesta es que el Reino Unido pueda reunir interlocutores que no necesariamente aceptarían un liderazgo asociado a Bruselas.

La capacidad del AISI para evaluar modelos recientes quedó en el centro de la conversación debido a las tensiones con la administración estadounidense. El presidente de Estados Unidos, Donald Trump, ha advertido contra las organizaciones que califica de globalistas, al afirmar que interfieren con las empresas estadounidenses. En septiembre, según informes citados en la cobertura, su administración pidió a Anthropic y OpenAI que retuvieran sus nuevos modelos de los evaluadores británicos.

Ese episodio cambió de rumbo el 11 de octubre: la administración Trump revirtió la petición de que los desarrolladores no compartieran nuevos modelos con el Reino Unido, según informó Reuters. El AISI había confirmado el lunes que podía acceder a los modelos más recientes para someterlos a pruebas, según la cobertura citada por TechCrunch. La información no especifica qué pruebas concretas se hicieron ni cuáles fueron sus resultados. El episodio muestra una disputa sobre quién puede revisar modelos avanzados, pero no permite concluir que el instituto tenga autoridad para bloquear su publicación.

De los compromisos voluntarios a las obligaciones legales

El mes pasado, Trump reunió en la Casa Blanca a representantes de OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta y Google para conversar sobre seguridad de IA. Los líderes tecnológicos firmaron un documento descrito como moralmente vinculante, en el que acordaron trabajar con auditores independientes para evaluar la seguridad y las capacidades de sus modelos. Smith calificó ese acuerdo como un buen paso, aunque sostuvo que no alcanza para responder a los riesgos que considera más preocupantes.

La objeción central de Smith es que la autorregulación voluntaria suele comprometer a las empresas responsables, pero no necesariamente a las que menos cuidado muestran. En la conversación con la BBC, advirtió que son precisamente esas compañías las que deberían preocupar a la sociedad. Esa crítica apunta a una limitación estructural de los acuerdos voluntarios: su cumplimiento depende de la voluntad de cada firma y, por sí solo, no garantiza que todos los participantes adopten las mismas prácticas.

Entre las medidas que Smith quiere ver figuran obligaciones legales para que una organización alerte a otra si sus sistemas sufren una intrusión vinculada con agentes de IA fuera de control. También parece respaldar que los laboratorios obtengan la aprobación de evaluadores externos antes de lanzar un producto de inteligencia artificial. La propuesta trasladaríaparte de la revisión de seguridad fuera de las compañías que desarrollan los modelos, aunque Smith no especificó qué entidad debería otorgar esa aprobación ni qué criterios tendría que aplicar.

Smith también habló favorablemente de incorporar interruptores de emergencia que permitan pausar o ralentizar la IA si las personas pierden el control de un sistema. La idea complementa las auditorías y las alertas: una revisión externa busca detectar riesgos antes del lanzamiento, mientras que un mecanismo de interrupción ofrecería una respuesta cuando surja un problema durante el uso. El presidente de Microsoft pidió que gobiernos y empresas conversen con calma, pero con firmeza, y expresó su deseo de que tanto su compañía como el Reino Unido ayuden a reunir a las partes.

El planteamiento de Smith deja abierta una pregunta importante: cómo traducir los principios generales de seguridad en obligaciones aplicables a compañías y modelos distintos. La noticia no presenta una propuesta legislativa detallada ni un calendario para aprobarla, de modo que sus ideas siguen siendo un llamado a la acción y no una regulación vigente. Por ahora, su argumento combina evaluación independiente, comunicación ante incidentes y mecanismos para detener sistemas, mientras el Reino Unido busca conservar un papel relevante en las pruebas de modelos avanzados.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados