Por Canuto  

Los modelos abiertos de inteligencia artificial enfrentan una ventana crítica de seis meses, según Nathan Lambert, quien advierte que nuevas medidas políticas sobre destilación y capacidades de frontera podrían dejarlos en desventaja permanente frente a los sistemas cerrados.

***

  • Una posible acción ejecutiva en Estados Unidos podría imponer revisiones o restricciones a modelos abiertos que superen ciertos niveles de capacidad.
  • El debate sobre la destilación enfrenta preocupaciones de seguridad, pero también acusaciones de favorecer comercialmente a los grandes laboratorios cerrados.
  • El autor plantea que una coalición de empresas y desarrolladores, junto con nuevos lanzamientos de Microsoft, Meta o Reflection AI, podría defender el ecosistema abierto.

 

La viabilidad de la inteligencia artificial de código abierto atraviesa su prueba política más seria hasta ahora. Nathan Lambert sostiene que las decisiones que se tomen durante los próximos seis meses podrían definir si los modelos abiertos compiten en igualdad de condiciones o quedan como ciudadanos de segunda clase.

El análisis aparece en un momento de creciente discusión sobre una posible orden ejecutiva de la Casa Blanca. No existe información oficial sobre esa medida, pero las conversaciones citadas apuntarían a modelos de origen chino y, posiblemente, a usos gubernamentales.

Una ventana crítica para los modelos abiertos

Los modelos abiertos permiten acceder a sus pesos, examinarlos, adaptarlos y desplegarlos sin depender completamente de una API controlada por una sola empresa. Esa característica sostiene un ecosistema de compañías de inferencia, ajuste fino, productos especializados y herramientas de desarrollo.

Lambert afirma que ha observado varias oleadas de retórica contra la IA abierta desde el lanzamiento de ChatGPT. Sin embargo, considera que ninguna había estado tan vinculada con acciones políticas reales dirigidas contra los modelos cerrados de la época.

La diferencia actual, según el autor, está en que nuevas formas de regulación ya se encuentran en discusión o implementación. Lambert advierte que esas medidas avanzan con una supervisión limitada, lo que aumenta el riesgo de que una decisión inicial establezca precedentes difíciles de revertir.

El problema también tendría una dimensión de representación económica. Los modelos abiertos carecen de un campeón empresarial central con suficiente influencia para explicar el costo potencial de restringirlos, mientras los laboratorios cerrados cuentan con mayores recursos de cabildeo.

La preocupación inmediata se relaciona con la posibilidad de que un modelo de pesos abiertos alcance capacidades generales comparables con Mythos de Claude. Lambert estima que esa situación podría producirse dentro de los próximos seis meses, debido a que la brecha de capacidad entre sistemas abiertos y cerrados se mantiene constante.

Destilación, regulación y captura corporativa

La destilación describe técnicas mediante las cuales un modelo puede aprender capacidades o comportamientos de otro sistema. El debate adquirió relevancia por las acusaciones de que empresas chinas habrían utilizado modelos extranjeros para mejorar sus propios desarrollos.

Lambert sostiene que la campaña política contra los modelos chinos está liderada por Anthropic. La empresa ha publicado entradas de blog y cartas dirigidas a representantes, además de compartir descripciones sobre el comportamiento de compañías extranjeras que pagaron por utilizar su API.

Según el análisis, Anthropic detectó esos usos, los suspendió posteriormente y presentó recomendaciones políticas acompañadas de evidencia técnica que Lambert considera limitada. El autor reconoce que la preocupación empresarial pudo ser genuina, pero afirma que la campaña evolucionó hacia una forma de captura regulatoria.

La razón es el posible beneficio comercial para Anthropic si los creadores chinos de modelos fueran prohibidos en Estados Unidos. Lambert sostiene que una neutralidad mayor, basada en entregar información para que las autoridades decidieran, habría generado más simpatía dentro de la comunidad tecnológica.

El autor también cuestiona la petición de prohibir, en la práctica, casi todos los modelos chinos de pesos abiertos. A su juicio, una medida de ese tipo afectaría la mejora continua de productos estadounidenses que dependen de modelos abiertos, además de perjudicar a empresas de inferencia, ajuste fino y desarrollo de aplicaciones.

Lambert considera que Anthropic debería proteger su propiedad intelectual, pero no pedir al Gobierno que consolide su posición competitiva. El riesgo, según su argumento, sería aislar a Estados Unidos de la comunidad global de código abierto y debilitar una economía abierta todavía en formación.

La seguridad de las API tampoco está garantizada

Una parte central de la discusión consiste en comparar los riesgos de los pesos abiertos con los riesgos de las API. Los primeros pueden descargarse y modificarse, mientras las segundas permanecen bajo el control operativo del proveedor, al menos en teoría.

Lambert considera exagerada la idea de que los modelos abiertos son inseguros y las API son automáticamente seguras. Aunque una API debería permitir controles adicionales, el autor afirma que esa ventaja todavía no se ha demostrado de manera concluyente.

El texto menciona el temor de que laboratorios chinos destilen capacidades estrechas de ciberseguridad de Mythos. Sin embargo, Lambert sostiene que esa preocupación también revela las debilidades de las API actuales y no únicamente el peligro de las técnicas de ajuste fino.

Incluso durante la beta privada más limitada de Claude Mythos, los llamados “Discord Sleuths” habrían obtenido acceso no autorizado al sistema de Anthropic. El ejemplo busca mostrar que las interfaces cerradas pueden ser desbloqueadas o utilizadas de maneras que sus operadores no contemplaron.

El autor afirma que las API siguen siendo accedidas de forma no intencionada. Desde su perspectiva, ese riesgo puede poner capacidades avanzadas en manos equivocadas con mayor rapidez que un proceso complejo de ajuste fino sobre un modelo de más de 1T de parámetros.

Por ello, Lambert plantea una conclusión especialmente exigente para los laboratorios cerrados. Si una empresa posee una capacidad realmente peligrosa, la respuesta coherente sería no alojarla en una API consultable antes de concentrarse en el riesgo de que alguien la destile.

El desafío de los modelos abiertos de frontera

La discusión sobre destilación y la discusión sobre capacidades de frontera están relacionadas, pero no representan el mismo problema. La primera se enfoca en la transferencia de capacidades entre modelos, mientras la segunda aborda qué hacer cuando un modelo abierto alcanza un nivel avanzado de desempeño general.

Lambert advierte que las autoridades podrían intentar aplicar al segundo problema una solución diseñada para el primero. Esa reacción sería comprensible desde una perspectiva política, pero podría conducir a una prohibición total de modelos abiertos sin resolver los riesgos que motivan la medida.

El autor señala que una prohibición estadounidense tendría eficacia limitada si China y otros países no adoptan restricciones equivalentes. Un actor malicioso podría continuar utilizando el modelo prohibido fuera de Estados Unidos, mientras los desarrolladores y usuarios estadounidenses perderían acceso.

Otra posibilidad sería limitar únicamente la importación de determinados modelos. Sin embargo, Lambert sostiene que la comunidad global de código abierto seguiría avanzando y que los modelos prohibidos en un país podrían continuar disponibles en otros territorios.

El análisis describe como preocupante un escenario en el que Estados Unidos prohíba modelos abiertos antes que China u otras sociedades más sensibles al riesgo. Para Lambert, eso indicaría que el miedo o el impulso político condujeron a una intervención demasiado temprana.

El autor defiende un acuerdo global para gestionar los riesgos de los modelos avanzados, aunque reconoce que el mundo todavía está lejos de alcanzarlo. En su opinión, las restricciones unilaterales harían menos predecible el despliegue de IA en Estados Unidos y limitarían los beneficios de una inteligencia más barata y accesible.

La respuesta podría ser una coalición abierta

Lambert sostiene que el ecosistema de código abierto no puede detenerse por completo. Entrenar modelos no es una actividad mágica, y el acceso para construirlos no habría desaparecido pese al aumento de la inversión necesaria.

El autor también afirma que los equipos que desarrollan los mejores modelos participan en la evaluación de riesgos. Menciona que China es sensible al riesgo y que Z ai, como empresa pública, está expuesta a presiones amplias, incluida la necesidad de sostener su valor accionario.

En este contexto, Lambert espera que más modelos crucen niveles considerados preocupantes. Cada nuevo lanzamiento podría reabrir el debate sobre si los pesos abiertos deben regularse con mayor dureza que los sistemas cerrados.

Una salida de corto plazo sería que una empresa estadounidense publique un modelo abierto con capacidades comparables. Eso cambiaría el encuadre político, desde una narrativa en la que China construye modelos abiertos mediante destilación hacia otra donde distintos actores comparten los mismos desafíos fronterizos.

El autor identifica a Microsoft y Meta como compañías con razones comerciales para liberar modelos de pesos abiertos. Ambas podrían monetizar productos complementarios y beneficiarse de una expansión masiva del acceso a herramientas de inteligencia artificial.

Lambert expresa menos confianza en Meta debido a su nuevo liderazgo, pero afirma que la empresa también se beneficia de un acceso amplio a la IA. En cuanto a Reflection AI, considera que un modelo decente, aunque no sea de frontera, podría necesitar un lanzamiento para sostener su dirección comercial.

La prioridad inmediata, concluye el análisis, no consiste solamente en entrenar otro modelo. El ecosistema necesita construir una coalición capaz de defender el despliegue seguro de los modelos abiertos y de promover sus principios ante los poderes políticos.

Un debate que puede redefinir la competencia tecnológica

La tensión entre modelos abiertos y cerrados refleja una disputa más amplia sobre quién controlará el acceso a la inteligencia artificial avanzada. Los sistemas cerrados ofrecen control empresarial y mecanismos centralizados, mientras los modelos abiertos prometen mayor transparencia, adaptación y competencia.

La regulación puede atender riesgos reales, pero también puede alterar la distribución del poder en el mercado. Si los umbrales de revisión avanzan más lentamente para modelos abiertos que para productos cerrados, las empresas con mayor capacidad de cabildeo podrían obtener una ventaja estructural.

Lambert sostiene que esa diferencia no dependería únicamente de la seguridad técnica. También estaría relacionada con la facilidad para asegurar modelos cerrados y con la influencia política de sus propietarios.

El debate seguirá conectado con la destilación, la ciberseguridad, las capacidades de frontera y la competencia entre Estados Unidos y China. Cada uno de esos temas puede impulsar medidas distintas, pero juntos forman una plataforma política que podría respaldar restricciones severas.

La fecha planteada por el autor, seis meses, funciona como una advertencia sobre la velocidad del proceso. En ese lapso podrían definirse reglas que afecten a desarrolladores, empresas emergentes, investigadores y usuarios de todo el ecosistema abierto.

El resultado dependerá de si los defensores del código abierto logran coordinarse antes de que se establezcan nuevos precedentes. Para Lambert, esa organización es una prioridad existencial y una condición para mantener una alternativa accesible frente a los laboratorios de frontera.

La discusión no termina con elegir entre libertad total y prohibición total. También exige determinar qué controles son técnicamente eficaces, cómo evitar la captura regulatoria y cómo mantener la competencia sin ignorar los riesgos de los modelos avanzados.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA.

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados