Por Canuto  

En la conferencia Ai4, Geoffrey Hinton, Fei-Fei Li y Andrew Ng expusieron visiones contrastantes sobre los modelos de peso abierto, la regulación y el control corporativo de la inteligencia artificial.
***

  • Geoffrey Hinton admite que los modelos de peso abierto ya no pueden revertirse, aunque advierte sobre su mal uso.
  • Andrew Ng defiende la apertura para evitar guardianes y competir con China en el poder blando tecnológico.
  • Fei-Fei Li propone un enfoque matizado con diferentes niveles de apertura según la capa del ecosistema.

 

El debate sobre la seguridad y la apertura en la IA

La conferencia Ai4 en Las Vegas reunió la semana pasada a tres de los investigadores de inteligencia artificial más respetados del mundo. Geoffrey Hinton, Fei-Fei Li y Andrew Ng abordaron uno de los debates más espinosos del sector: la apertura de los modelos de IA.

Mientras proyectos como Pacing the Frontier recurren a grandes laboratorios para mantener segura la investigación, los modelos de código abierto se han convertido en un punto conflictivo. La distribución gratuita y el escaso control sobre su uso generan temor en algunos laboratorios.

Estos tres pioneros no coincidieron en tácticas concretas. Sin embargo, los tres presentaron poderosos argumentos para mantener la inteligencia artificial abierta, aunque con matices muy distintos.

La preocupación central fue permitir que un puñado de grandes empresas de IA controlaran el ritmo del progreso. Cuando unas pocas empresas dominan el acceso a una tecnología, la innovación puede ralentizarse y las plataformas influyen en lo que se construye sobre ellas.

Andrew Ng comparó ese riesgo con lo que ocurre con los sistemas operativos móviles de Apple y Google. Esa dinámica le preocupa profundamente para el futuro de la inteligencia artificial.

Hinton: La batalla por los modelos abiertos ya se perdió

Geoffrey Hinton, ganador del Premio Nobel, estableció una distinción crucial entre el software de código abierto y los modelos de peso abierto. El código abierto permite inspeccionar y modificar el código subyacente, mientras que el peso abierto libera los parámetros de un modelo entrenado.

“El código abierto es genial. Le muestras el código a la gente, y muchos miran las líneas de código y dicen: ‘Oh, hay un error'”, explicó Hinton. En cambio, el peso abierto implica entrenar un gran modelo y entregar sus pesos al público, algo muy diferente.

Hinton afirmó que estaba en contra del peso abierto porque facilita que se tomen modelos fundacionales costosos y se reentrenen con poco dinero para actividades maliciosas. Mencionó los ciberataques como ejemplo concreto de ese riesgo.

A pesar de sus reservas, Hinton reconoció que los modelos de peso abierto ya son un elemento permanente de la inteligencia artificial. “Creo que esa batalla ya se perdió”, declaró con resignación.

Según Hinton, la barrera del costo de entrenar modelos fundacionales ha desaparecido. “Es demasiado tarde”, sentenció, aunque aceptar la realidad no significaba ignorar los riesgos.

Hinton defendió que la IA continuará avanzando y que eso es en gran medida algo bueno. Destacó que aumentará la productividad y mejorará la educación y la atención médica.

También rechazó las etiquetas de alarmismo. “Preocuparse por los posibles efectos negativos de la IA y por lo que los seres inteligentes podrían hacer cuando sean más inteligentes que nosotros no es injusto”, insistió. “Es injusto etiquetar a cualquiera que piense así como alarmista”.

Ng: La apertura como arma competitiva y contra los guardianes

Andrew Ng adoptó una visión diferente sobre la cuestión. Para él, el problema no era si los modelos abiertos son riesgosos, sino quién controla el acceso y quién ganará el mercado.

“No quiero que haya guardianes. Eso limita cómo todos podemos acceder a la IA”, afirmó Ng. Según él, las empresas tienen un incentivo para proteger sus ventajas competitivas, incluso influyendo en las reglas de la industria.

Ng advirtió que esa dinámica podría favorecer solo a las empresas más grandes y mejor capitalizadas, capaces de construir los sistemas de IA más avanzados. Su solución era mantener múltiples proveedores compitiendo en lugar de permitir un puñado de actores dominantes.

“Si tuviera que dar una receta, sería promover la apertura”, dijo Ng. “Porque la IA es una tecnología increíble y quiero que esté en manos de todos”.

El cofundador de Coursera también puso el foco en la competencia geopolítica. Explicó que la IA es una tremenda fuente de poder blando y puso como ejemplo el éxito de los modelos chinos en África.

“Una cosa que espero que hagamos es fomentar la competitividad estadounidense y la IA de código abierto”, señaló Ng. Su preocupación era que el cabildeo y el alarmismo en Estados Unidos dificultaran competir con los modelos de peso abierto de China.

Ng advirtió que si China encuentra una forma fundamentalmente más rentable de construir IA, las soluciones más rentables tendrán una ventaja fundamental en la adopción empresarial global. Eso podría influir en cómo miles de millones de personas encuentran ideas sobre democracia, libertad y derechos humanos.

Li: Ni apertura total ni cierre total, un camino intermedio

Fei-Fei Li, CEO y cofundadora de World Labs, cuestionó el enfoque binario de Ng. “Es muy peligroso convertirlo en una dicotomía entre apertura total y cierre total”, afirmó.

Li argumentó que en sistemas de software complejos y en sistemas científicos la realidad es mucho más matizada. Usó la física nuclear como analogía para explicar su postura.

Los artículos científicos sobre física nuclear se publican abiertamente, pero el uranio está regulado. El trabajo de laboratorio opera en un punto intermedio entre ambos extremos.

La lección, según Li, es que la apertura no tiene que ser una elección de todo o nada. Diferentes capas del ecosistema pueden operar en diferentes niveles de apertura.

Li también destacó colaboraciones entre instituciones públicas y privadas, como el Proyecto Genoma Humano. El conocimiento resultante se convirtió en una plataforma sobre la que otros pudieron construir.

Eso permitió que las empresas farmacéuticas obtuvieran ganancias, que los científicos avanzaran en su trabajo y que la sociedad se beneficiara. Para Li, la IA debería funcionar como ese tipo de infraestructura.

“Necesitamos ciertos niveles de apertura, tanto en el descubrimiento científico, en la educación, en la asociación global, como en modelos de negocio lucrativos para emprendedores”, explicó. “Pero también aceptaremos sistemas de código cerrado”.

Li calificó el debate de “solo podemos tolerar uno” como un falso debate. “Necesitamos llegar a un nivel de matiz”, concluyó.

Regulación: El consenso necesario entre los pioneros

A pesar de sus diferencias sobre la apertura, los tres pioneros coincidieron en que algún nivel de regulación será necesario para mantener la IA en el camino correcto. La regulación, según Hinton, ayudará a desarrollar la IA en una dirección que beneficie a las personas.

“Lo que queremos es desarrollar la IA en una dirección que ayude a las personas, y la regulación nos ayudará a hacerlo”, afirmó Hinton. También lanzó una advertencia contundente sobre quién no debería decidir el futuro de la IA.

“No se puede dejar que personas como Elon Musk y Mark Zuckerberg decidan cómo se debe hacer la IA”, sentenció el premio Nobel. La frase refleja la desconfianza hacia el poder concentrado en manos de pocos empresarios tecnológicos.

El debate en Ai4 dejó claro que la tensión entre seguridad, apertura y control corporativo no se resolverá pronto. Las posturas de Hinton, Ng y Li representan tres enfoques que probablemente seguirán chocando en los próximos años.

La comunidad de inteligencia artificial enfrenta ahora el desafío de traducir estas visiones en políticas concretas. El equilibrio entre innovación abierta y mitigación de riesgos sigue siendo una asignatura pendiente.

Según reportó TechCrunch, los tres investigadores presentaron argumentos poderosos pero divergentes. La discusión refleja la complejidad de un campo en rápida evolución y con implicaciones globales profundas.

El futuro de la IA en una encrucijada

La conversación en Ai4 demostró que no existe una respuesta única sobre cómo manejar los modelos de peso abierto. Cada pionero ofreció una perspectiva válida, pero incompleta por sí sola.

Hinton aportó una mirada realista sobre los riesgos y la inevitabilidad de la apertura. Ng insistió en la necesidad de competencia y en evitar la concentración de poder.

Li, por su parte, aportó la visión más matizada, abogando por capas de apertura adaptadas a cada contexto. Su analogía con la física nuclear y el genoma humano ofreció un marco práctico para avanzar.

El desafío para los reguladores y la industria será integrar estas perspectivas sin caer en extremos. Un cierre total sofocaría la innovación, mientras que una apertura sin controles podría facilitar usos maliciosos.

La advertencia de Ng sobre el poder blando de China añade una dimensión geopolítica ineludible. La carrera por la IA no solo definirá mercados, sino también valores e influencia global.

TechCrunch destacó que los tres pioneros defendieron en última instancia la apertura, pero con advertencias y condiciones muy distintas. Esa tensión seguirá dando forma al desarrollo de la inteligencia artificial en los próximos años.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados