Por Canuto  

Garry Tan, CEO de Y Combinator, planteó que los laboratorios estadounidenses de pesos abiertos puedan destilar modelos frontera mediante vías autorizadas, en contraste con las restricciones que Anthropic reclama ante presuntos abusos atribuidos a laboratorios chinos.
***

  • Tan considera que Estados Unidos debería explorar una vía regulada para que laboratorios pequeños entrenen modelos a partir de sistemas frontera.
  • Anthropic afirma haber detectado operaciones coordinadas que utilizaron miles de cuentas fraudulentas para extraer capacidades de Claude.
  • El CEO de Y Combinator teme que una sola compañía termine concentrando el capital, el talento y el poder de la IA avanzada.

 

Una propuesta para ampliar el ecosistema estadounidense

Garry Tan, CEO de Y Combinator, planteó que los laboratorios estadounidenses de inteligencia artificial con modelos de pesos abiertos deberían poder destilar sistemas frontera de manera legal y visible. Su postura aparece en medio de una disputa sobre el uso de modelos avanzados para entrenar alternativas más pequeñas, una práctica que puede acelerar la innovación, reducir costos y ampliar el acceso a herramientas de IA. Tan sostiene que Estados Unidos necesita más opciones nacionales de pesos abiertos, especialmente frente a la posibilidad de que las alternativas más competitivas provengan de China.

En una entrevista con CNBC publicada el 11 de septiembre, reseñada por TechCrunch, Tan dijo que no tomaría medidas contra los laboratorios chinos por emplear técnicas de destilación, aunque la conversación pública sobre el tema ha ganado intensidad. “No haría nada”, afirmó, antes de referirse a la posibilidad de una vía estadounidense para la destilación. Su planteamiento no equivale a respaldar el fraude o el robo de cuentas, sino que apunta a debatir si los laboratorios pequeños podrían acceder de forma autorizada a modelos propietarios.

La destilación consiste en consultar extensamente un modelo para que otro sistema aprenda patrones de respuesta, razonamiento y comportamiento. Los laboratorios de IA la utilizan como una técnica de entrenamiento, pero el conflicto surge cuando una empresa intenta ocultar quién realiza las consultas, elude las condiciones de servicio o utiliza información obtenida mediante engaños. Para Tan, la existencia de abusos no debería llevar automáticamente a cerrar toda posibilidad de cooperación o competencia tecnológica.

El planteamiento también refleja una tensión estructural del sector: los laboratorios frontera necesitan inversiones enormes para desarrollar modelos cada vez más capaces, mientras que los proyectos de pesos abiertos buscan convertir parte de ese conocimiento en herramientas disponibles para investigadores, empresas y usuarios. Tan dijo que los sistemas frontera deben seguir siendo financiables y representar un negocio sólido, pero también defendió que los modelos abiertos ofrezcan libertad y acceso. En su visión, ambos grupos pueden coexistir sin que uno elimine al otro.

El choque con las denuncias de Anthropic

La postura de Tan contrasta con la posición expresada por Anthropic, que publicó un informe sobre presuntas operaciones ilícitas de destilación atribuidas a laboratorios chinos. La compañía afirmó haber identificado ataques coordinados que utilizaron aproximadamente 24.000 cuentas fraudulentas para extraer capacidades de Claude. Las acusaciones describen una conducta distinta de la destilación abierta que Tan quiere proteger, porque involucra mecanismos destinados a burlar los controles de acceso.

Dario Amodei, CEO de Anthropic, ha pedido públicamente que los reguladores estadounidenses actúen contra ese tipo de destilación. La empresa considera que el uso encubierto de sus modelos puede permitir que competidores reproduzcan capacidades avanzadas sin asumir los mismos costos de investigación, infraestructura y seguridad. Tan no defendió las cuentas fraudulentas ni los engaños, pero sí cuestionó que el remedio sea impedir que los laboratorios estadounidenses utilicen modelos cerrados con autorización.

El debate, por tanto, separa dos preguntas que a menudo aparecen mezcladas. Una es si deben perseguirse el fraude, la suplantación y el uso indebido de credenciales; otra es si un proveedor puede controlar de forma amplia qué hacen sus clientes con la información que reciben a través de una API. Tan considera que la segunda cuestión merece una respuesta menos restrictiva, porque una consulta legítima a un modelo no debería convertirse automáticamente en una infracción contractual o regulatoria.

En la postura atribuida a Tan, controlar lo que los usuarios y clientes hacen con las API de modelos de pesos cerrados puede resultar excesivo. También argumentó que la inteligencia entrenada con datos de amplio acceso público debería parecerse más a un bien público que a un recurso completamente encerrado detrás de términos de servicio. Esa comparación no elimina las disputas sobre derechos de autor, privacidad o seguridad, pero expone el fundamento político de su propuesta.

La discusión sobre los datos y el acceso

Tan basa parte de su argumento en una asimetría histórica de la industria. Los grandes laboratorios propietarios absorbieron enormes cantidades de conocimiento humano para entrenar sus modelos, incluyendo abundante material protegido por derechos de autor cuyos titulares, según la crítica planteada por Tan, no siempre dieron permiso. Desde esa perspectiva, le parece restrictivo que esas mismas compañías intenten impedir que otros sistemas aprendan de las respuestas generadas por modelos entrenados con información ampliamente disponible.

La comparación no resuelve por sí sola el problema legal, porque ingerir obras para entrenar un sistema y consultar un modelo para destilar sus capacidades pueden involucrar derechos, contratos y riesgos diferentes. Sin embargo, sirve para explicar por qué Tan rechaza una arquitectura en la que los laboratorios frontera acumulan el conocimiento, fijan las reglas de acceso y deciden qué usos resultan aceptables. Su propuesta busca que los reguladores consideren la competencia y la difusión tecnológica junto con la protección de los proveedores.

Los modelos de pesos abiertos ofrecen una alternativa distinta a los sistemas cuyos parámetros permanecen bajo control exclusivo de una empresa. Cuando los pesos están disponibles bajo determinadas condiciones, investigadores y desarrolladores pueden estudiar el modelo, adaptarlo o desplegarlo sin depender completamente de una API externa, aunque esa apertura no elimina los costos de cómputo ni garantiza que el sistema sea seguro. Para Tan, contar con más opciones estadounidenses reduciría la dependencia de modelos chinos y evitaría que el mercado quede concentrado en unos pocos proveedores.

La propuesta de un régimen estadounidense de destilación también abre interrogantes sobre su alcance. Habría que definir qué significa autorización, cómo se verificaría la identidad de los laboratorios, qué límites existirían para evitar la reproducción directa de capacidades sensibles y quién investigaría los abusos. La información disponible no detalla un diseño regulatorio concreto, por lo que el planteamiento de Tan funciona más como una orientación política que como un proyecto normativo terminado.

El temor a una sola empresa dominante

Tan explicó que su preocupación central no es únicamente la rivalidad entre Estados Unidos y China, sino la concentración del poder de la IA dentro de una sola compañía privada. Describió como un escenario de pesadilla que una empresa con mejor acceso al capital y a los investigadores más destacados se aleje del resto hasta convertirse en una organización monolítica. En ese caso, la capacidad de definir precios, restricciones, usos permitidos y prioridades de desarrollo quedaría en manos de un actor dominante.

Su defensa de los modelos frontera parte de que esos laboratorios empujan los límites técnicos y necesitan un modelo de negocio que justifique inversiones continuas. Al mismo tiempo, Tan atribuye a los modelos de pesos abiertos una función de libertad y acceso para usuarios, empresas e investigadores. La tensión entre ambos objetivos no desaparece, pero el ejecutivo sostiene que el mercado puede beneficiarse si los sistemas abiertos aprenden de los avances frontera mediante canales legales y transparentes.

El episodio muestra que la regulación de la IA no se limita a decidir qué aplicaciones deben prohibirse o qué estándares de seguridad deben cumplir los modelos. También implica determinar quién puede aprender de un sistema avanzado, qué condiciones puede imponer el proveedor y cuánto conocimiento debe permanecer encerrado para proteger una inversión. Esas decisiones tendrán efectos sobre la competencia tecnológica, la soberanía digital y el acceso de startups que no cuentan con recursos para construir un modelo frontera desde cero.

Por ahora, la discusión permanece en el terreno de las posiciones enfrentadas. Anthropic reclama acciones contra operaciones que describe como ilícitas, mientras Tan pide que los laboratorios estadounidenses de pesos abiertos tengan una puerta de entrada autorizada para destilar modelos propietarios. El desenlace dependerá de si los reguladores logran distinguir entre espionaje, fraude y competencia legítima sin crear un mercado donde la inteligencia avanzada quede concentrada en una sola compañía.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados