Por Canuto  

El lanzamiento público de Sol, el nuevo modelo avanzado de OpenAI, volvió a poner bajo la lupa un problema delicado en Estados Unidos: no está claro quién decide que una IA frontier es lo bastante segura para salir al mercado, ni bajo qué criterios técnicos o políticos se otorga ese visto bueno.
***

  • OpenAI lanzó Sol con acceso público amplio, pese a que expertos dicen no entender el proceso oficial de evaluación.
  • La administración Trump todavía no define con claridad qué modelos deben revisarse ni qué agencia debe liderar ese examen.
  • Analistas y científicos advierten que la opacidad favorece conexiones políticas y deja fuera a especialistas clave en seguridad de IA.

 

El lanzamiento de Sol, el nuevo gran modelo de lenguaje de OpenAI, abrió otra vez una discusión central para la industria tecnológica de Estados Unidos. La pregunta no es solo qué puede hacer el sistema, sino cómo determinó el gobierno que era seguro para un despliegue público amplio.

La inquietud crece porque Sol es presentado como un modelo al menos comparable con Fable, de Anthropic. Ese antecedente es importante, ya que Fable llegó a generar suficiente preocupación en la Casa Blanca como para ser retirado brevemente del acceso general.

En teoría, una revisión estatal de modelos frontier debería aclarar responsabilidades, riesgos y condiciones de uso. En la práctica, según describen analistas, investigadores y figuras del propio sector, el proceso sigue siendo confuso, fragmentado y poco transparente, detalla TechCrunch.

Ese vacío regulatorio importa mucho más allá de Silicon Valley. La IA avanzada ya incide en ciberseguridad, defensa, finanzas, automatización empresarial y producción de conocimiento, por lo que una supervisión incierta tiene implicaciones económicas y políticas de gran alcance.

La información disponible sugiere que la aprobación de Sol no respondió a un marco estable y público, sino a un mecanismo ad hoc. Eso alimenta dudas sobre si la seguridad técnica fue realmente el criterio dominante, o si también pesaron factores de acceso político y relaciones con la administración.

Un proceso que ni los expertos dicen comprender

Mina Narayanan, analista de investigación senior en el Centro para la Seguridad y la Tecnología Emergente de Georgetown, dijo que no tiene visibilidad sobre los procesos exactos usados para estas aprobaciones. Por eso, afirmó que no siente tener información suficiente para juzgar si son adecuados o no.

Según explicó, Anthropic había señalado que mantenía conversaciones con el gobierno. También indicó que desarrolló un clasificador para detectar intentos de jailbreak y desplegó estrategias de defensa en profundidad para reducir futuras vulneraciones.

Sin embargo, Narayanan subrayó que sigue sin estar claro cómo fue ese diálogo entre el gobierno, Anthropic y OpenAI. Tampoco se conocen con precisión los criterios que se aplicaron para decidir si los modelos podían pasar a una fase de acceso más amplio.

Dean W. Ball, exasesor de políticas de Trump y ahora empleado de OpenAI, resumió el problema con una frase tajante en su boletín del mes pasado. Escribió que “nadie sabe cuáles son los requisitos para obtener una licencia”.

Andy Konwinski, cofundador de Databricks, Perplexity y el Instituto Laude, fue incluso más lejos. Dijo que nunca ha hablado con alguien que comprenda realmente el proceso, ni siquiera entre empleados de laboratorios frontier.

Para Konwinski, el problema no es meramente administrativo. En declaraciones recogidas por la fuente, sostuvo que se trata de una cuestión existencial porque pone sobre la mesa quién tiene el poder efectivo para conceder permisos sobre una tecnología de gran impacto.

La administración Trump aún no define reglas claras

Dieciocho meses después del inicio de la administración Trump, la ruta regulatoria sigue siendo borrosa. Esa falta de definición persiste pese a la influencia directa de figuras de la propia industria en el diseño de políticas públicas sobre IA.

El mes pasado se publicó una orden ejecutiva, tras semanas de disputas internas, con un plan general para evaluar modelos frontier. Aun así, los detalles concretos de implementación siguen sin materializarse.

Lo poco claro convive con una certeza política importante. Sriram Krishnan, exsocio de Andreessen Horowitz y exasesor senior para IA en la Casa Blanca hasta el mes pasado, dijo al Financial Times que “no habrá una FDA para la IA”.

Esa frase sintetiza una orientación de no intervención que resulta atractiva para parte del sector privado. Pero también deja abierto un problema básico: todavía no existe consenso sobre qué tipos de modelos requieren examen gubernamental y cuáles no.

Tampoco está resuelto qué agencia, o qué combinación de agencias, debería hacerse cargo de esa revisión. Por ahora, el Centro para Estándares e Innovación de IA del Departamento de Comercio parece liderar el esfuerzo, aunque sin un esquema final consolidado.

La propia orden ejecutiva instruye a seis agencias del gabinete a definir un proceso final antes de comienzos de agosto. Hasta que eso ocurra, el esquema vigente luce más improvisado que institucionalizado.

Qué dijo OpenAI sobre Sol y qué sigue sin saberse

Sam Altman, CEO de OpenAI, dijo en CNBC que el proceso incluyó conversaciones con el secretario de Comercio Howard Lutnick. También mencionó al secretario del Tesoro Scott Bessent y al director nacional de ciberseguridad de Estados Unidos, Sean Cairncross.

Esos contactos muestran que hubo interlocución de alto nivel dentro del gobierno. Pero siguen sin responder una cuestión central: quiénes fueron los expertos que probaron Sol y bajo qué metodología técnica se realizó esa evaluación.

OpenAI no compartió con la fuente detalles adicionales sobre el proceso gubernamental. En cambio, remitió a los resultados de varias evaluaciones externas incluidas en la tarjeta de seguridad de su más reciente modelo.

Entre las organizaciones citadas por la empresa aparecen AISI del Reino Unido, SecureBio e Irregular. Esas referencias sugieren que hubo pruebas complementarias, aunque no despejan la incógnita sobre el peso real que esas evaluaciones tuvieron en la decisión oficial.

Como ya había ocurrido con Fable, OpenAI presentó el modelo al gobierno y a usuarios selectos antes del despliegue más amplio. No obstante, no se sabe quiénes integraron ese grupo de usuarios ni cómo fueron elegidos.

En una publicación de blog a finales de junio, la compañía dijo que no cree que este tipo de acceso gubernamental previo deba convertirse en el esquema predeterminado a largo plazo. Allí mismo afirmó que trabajaría con el gobierno para desarrollar una vía distinta hacia adelante.

Política, exportaciones y el fantasma de la influencia

El problema de fondo no es solo la ausencia de reglas, sino el contexto político que rodea esas conversaciones. Eso complica separar una evaluación técnica de la posible influencia ejercida por relaciones personales o afinidades con la administración.

Según la información citada, Altman habría ofrecido hasta un 5% de la participación de OpenAI para las llamadas “Cuentas Trump” de la administración. A eso se suma el papel de Greg Brockman, presidente de OpenAI, como mayor donante públicamente conocido de la operación política de medio término de Trump.

Para observadores externos, ese trasfondo vuelve más difícil interpretar por qué Sol parece haber recibido un trato regulatorio más flexible. La sospecha no prueba favoritismo, pero sí alimenta una percepción de arbitrariedad.

En contraste, Fable de Anthropic fue retirado brevemente del acceso más amplio cuando el gobierno de Estados Unidos prohibió su uso por ciudadanos extranjeros. La medida respondió en parte a preocupaciones reales por jailbreaks que habilitaban capacidades de hacking.

La fuente también señala que influyeron choques de personalidad entre Anthropic y la administración Trump. Eso refuerza la idea de que el terreno regulatorio puede estar siendo moldeado tanto por criterios de seguridad como por fricciones políticas.

Además, la amenaza de una prohibición de exportación podría haber empujado a OpenAI a mostrarse más cooperativa ante solicitudes gubernamentales que siguen siendo desconocidas para el público. Ese posible incentivo ilustra cómo la política comercial y la seguridad nacional se cruzan con la carrera por la IA.

La industria pide más apertura y más expertos independientes

Desde la perspectiva empresarial, un enfoque regulatorio ligero puede parecer conveniente. El problema, según varios críticos, es que si ese modelo depende de conexiones con funcionarios, entonces crea incertidumbre y malos incentivos para todos los actores del mercado.

Konwinski dijo que le preocupa la falta de protagonismo de quienes mejor conocen los riesgos reales de estos sistemas. Mencionó a investigadores de seguridad, alineación e interpretabilidad, así como a especialistas de datos y de toda la cadena de desarrollo.

Su propuesta apunta a un “commons abierto” como vía para equilibrar seguridad e innovación. La idea es inspirarse en instituciones como la FDA, los Institutos Nacionales de Salud o los laboratorios nacionales, donde convergen sector público, academia y empresa privada.

Ese tipo de espacios, en su visión, permitiría construir consensos más sólidos sobre evaluación y despliegue. También ofrecería un contrapeso a la lógica cerrada que hoy domina el desarrollo de los modelos más poderosos.

Parte del problema, sin embargo, responde a los incentivos del propio capitalismo tecnológico. La carrera por entrenar modelos es costosa, y las compañías necesitan recuperar gran parte de esa inversión poco después del lanzamiento para sostener su ventaja competitiva.

Ball sostuvo en su publicación que esa dinámica condiciona de forma estructural la toma de decisiones. Konwinski añadió que, incluso con buenas intenciones, existen obligaciones legales y responsabilidades fiduciarias incorporadas en los procedimientos operativos de estas empresas.

Hacia auditorías externas, pero con una confianza pública debilitada

Una de las salidas que gana terreno es la de auditorías de terceros con licencia gubernamental. Ball planteó que ese podría ser el camino para que laboratorios frontier sometan sus enfoques de seguridad a evaluaciones externas más estables.

Konwinski también se mostró optimista con nuevos formatos institucionales. Entre ellos mencionó organizaciones de investigación enfocadas, capaces de abrir acceso a más expertos desinteresados del mundo académico y sin fines de lucro.

El desafío es que el secretismo no parece destinado a desaparecer pronto. Y mientras ese hermetismo continúe, también crecerán los costos políticos para una industria que muchos estadounidenses observan con un escepticismo cada vez mayor.

La profesora de ciencias de la computación de la Universidad de Wisconsin-Madison, Remzi Arpaci-Dusseau, dijo la semana pasada en la conferencia Open Frontier que no existe la sensación de que personas responsables estén impulsando estos cambios. Su comentario resume una ansiedad pública que ya no es marginal.

En el mismo evento, David Siegel, fundador de Two Sigma, pidió imaginar un escenario muy malo donde un pequeño número de firmas controla la tecnología. A eso sumó la imagen de un gobierno que la evalúa en laboratorios secretos mientras el público y la comunidad científica quedan sin acceso real.

La conclusión implícita es incómoda para Washington y para las grandes firmas de IA. Ese escenario, más que una advertencia teórica, empieza a parecerse bastante a la realidad que rodeó la liberación pública de Sol.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados