Por Canuto  

El CEO de Nvidia sostiene que su compañía debe dialogar con investigadores y empresas chinas para abordar los riesgos de una tecnología que considera potencialmente peligrosa.
***

  • Jensen Huang dijo que Nvidia debería trabajar con empresas chinas de IA para impulsar la tecnología de forma segura.
  • El CEO afirmó que conversa con investigadores en China y defendió reforzar el diálogo entre países.
  • Estados Unidos y China acordaron establecer un canal de comunicación para gestionar incidentes relacionados con la IA, según reportes publicados en septiembre.

Huang pide cooperación con empresas chinas para abordar los riesgos de la IA

Jensen Huang, CEO de Nvidia, afirmó que la compañía debe trabajar con empresas chinas de inteligencia artificial para monitorear los riesgos asociados con esta tecnología. Durante una sesión informativa con medios en Londres, el miércoles por la tarde, sostuvo que la cooperación es necesaria para impulsar la IA de manera segura y la describió como potencialmente peligrosa.

La propuesta llega mientras investigadores y líderes de laboratorios debaten cuánto debe acelerarse el desarrollo de estos sistemas y qué medidas de protección conviene adoptar. Huang planteó el diálogo como una vía para abordar riesgos compartidos, aunque no anunció un acuerdo formal ni detalló un programa conjunto entre Nvidia y compañías chinas.

Huang defiende el diálogo sobre riesgos

“Absolutamente deberíamos trabajar juntos para que avancemos la tecnología de forma segura”, dijo Huang a CNBC en Londres. Su llamado se dirigió a la cooperación entre empresas de inteligencia artificial de China y Nvidia, fabricante de chips cuyos productos se emplean en el desarrollo y la operación de sistemas de IA.

El ejecutivo sostuvo que mantiene conversaciones con numerosos investigadores en China y pidió fortalecer esos intercambios. También señaló que Estados Unidos debería participar en ese diálogo y afirmó que había defendido una iniciativa similar para el Reino Unido, sin presentar la cooperación entre Nvidia y compañías chinas como un mecanismo ya establecido.

La propuesta de Huang pone el foco en la comunicación entre investigadores, en lugar de describir una estructura regulatoria concreta o una política técnica determinada. En sus declaraciones no especificó qué riesgos deberían priorizarse, qué compañías participarían ni cómo se compartirían hallazgos o alertas si surgiera un problema.

Ese límite importa para interpretar el alcance de su planteamiento: pedir conversaciones no equivale a anunciar controles comunes ni a resolver desacuerdos sobre el uso de la IA. La afirmación central del CEO fue que los actores de distintos países deberían mantener contactos y cooperar para reducir la posibilidad de que la tecnología avance sin suficiente atención a la seguridad.

El debate entre seguridad y regulación

Las discusiones sobre seguridad de la IA se han intensificado, según el reporte de CNBC, después de que investigadores de laboratorios como OpenAI y Anthropic pidieran desacelerar el desarrollo y advirtieran sobre riesgos existenciales para la humanidad. Esas advertencias reflejan preocupaciones expresadas por investigadores, no una conclusión demostrada sobre un desenlace inevitable.

El artículo también contrasta las posturas de algunos líderes del sector: Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, han pedido una mayor regulación, mientras Huang ha surgido como una voz destacada contra un aumento de las normas. La diferencia no elimina el terreno común entre ambos enfoques, que es la preocupación por las consecuencias de una tecnología en rápida evolución.

La información no atribuye a Huang una oposición a toda forma de seguridad, sino a la expansión de la regulación como respuesta política. En Londres, su argumento fue que la colaboración internacional y el intercambio entre investigadores pueden contribuir a un desarrollo más seguro, aunque no explicó cómo deberían relacionarse esas medidas con las reglas que proponen otros líderes del sector.

Por eso, el desacuerdo descrito no es simplemente entre quienes consideran peligrosa la IA y quienes la consideran inocua. La discusión gira también en torno a los instrumentos: algunos promueven mayor regulación y Huang enfatiza el diálogo, sin que la nota detalle un marco compartido que permita comparar la eficacia de cada opción.

Estados Unidos y China ante la cooperación

La seguridad de la inteligencia artificial se ha convertido en un asunto de interés para los gobiernos de Estados Unidos y China. Tras la cumbre entre Donald Trump y Xi Jinping, ambos países acordaron establecer un canal para gestionar incidentes relacionados con la IA, según informó Los Ángeles Times en español el 26 de septiembre.

Antes de la reunión, el secretario del Tesoro estadounidense Scott Bessent conversó con su homólogo chino, He Lifeng, sobre la posibilidad de un diálogo bilateral en materia de IA. Entre los temas mencionados figuraba un canal de comunicación para incidentes, incluso aquellos que pudieran alcanzar el nivel de seguridad nacional. El acuerdo posterior para establecerlo representa un avance respecto de aquella posibilidad.

Una versión china de la reunión entre Trump y Xi indicó que el presidente chino consideró posible que los dos países compitieran y, a la vez, cooperaran más en inteligencia artificial. Según esa versión, Xi sostuvo que podían continuar el diálogo, intercambiar opiniones sobre los riesgos y beneficios y prevenir conjuntamente el uso indebido y el abuso de la tecnología.

El acuerdo para establecer el canal ofrece un marco político para la propuesta de Huang, pero los reportes disponibles no detallan cómo funcionará, qué tipo de incidentes cubrirá ni qué compromisos técnicos implica. Acordar la creación de un mecanismo no permite concluir, por sí solo, cómo se aplicará en la práctica.

El Reino Unido como posible convocante

Huang también describió al Reino Unido como un país con capacidad para convocar conversaciones internacionales sobre inteligencia artificial. Atribuyó esa posibilidad al capital intelectual del país y dijo que había abogado por que Londres promoviera el diálogo, una propuesta que complementa su llamado a los contactos entre Estados Unidos y China.

En este planteamiento, el papel británico sería facilitar encuentros y conversaciones, no sustituir a los gobiernos ni a las empresas que participan en el desarrollo de la tecnología. Huang no identificó una iniciativa específica, participantes previstos o una fecha para organizar esos intercambios, por lo que sus comentarios expresan una recomendación y no el anuncio de un foro confirmado.

La dimensión internacional de la seguridad resulta central porque las conversaciones descritas involucran investigadores, compañías y autoridades de distintos países. Sin embargo, el reporte no indica que compartir opiniones sobre riesgos baste para resolverlos, ni que exista consenso sobre los límites adecuados para el desarrollo de sistemas de IA.

Por ahora, la posición pública de Huang combina una advertencia sobre los peligros potenciales de la tecnología con un rechazo a que la respuesta se limite a más regulación. Su apuesta es ampliar el diálogo entre empresas y países, mientras el canal acordado por Estados Unidos y China y las diferencias entre líderes del sector mantienen abierto el debate sobre cómo convertir esa cooperación en medidas concretas.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados