Por Canuto  

La directora financiera de OpenAI, Sarah Friar, afirmó que la empresa podría reducir el ritmo de desarrollo de sus modelos si sus investigadores concluyen que existen riesgos graves. Sus declaraciones llegan mientras líderes de OpenAI, Anthropic y SpaceX reactivan el debate sobre la seguridad de la inteligencia artificial y sus posibles efectos sobre los planes de cotización bursátil.
***

  • Sarah Friar aseguró que OpenAI escucha a sus investigadores y podría frenar el desarrollo de la IA si fuera necesario.
  • Dario Amodei, Elon Musk y Sam Altman han respaldado llamados a una desaceleración de toda la industria.
  • Las preocupaciones renovadas podrían influir en los calendarios de OPV de Anthropic y OpenAI, aunque todavía no está claro si ocurrirá.

 

Sarah Friar, directora financiera de OpenAI, afirmó que la empresa debe abordar con seriedad los riesgos asociados con la inteligencia artificial, en un momento en que aumentan las advertencias sobre el potencial destructivo de los sistemas más avanzados. La ejecutiva sostuvo que OpenAI podría reducir el ritmo de desarrollo de sus modelos si sus investigadores consideran que hacerlo resulta necesario para proteger la seguridad y la alineación de la tecnología.

En una conversación con Jim Cramer, de CNBC, Friar dijo que no le preocupa específicamente la posibilidad de que agentes de inteligencia artificial utilicen armas de destrucción masiva para matar. Sin embargo, marcó distancia frente a cualquier percepción de complacencia y resumió la posición de la compañía con una frase directa: “Tenemos que tomarnos la seguridad en serio”.

OpenAI promete escuchar a sus investigadores

Friar explicó que OpenAI estaría dispuesta a “marcar el ritmo de la frontera” y reducir la velocidad si sus equipos técnicos concluyen que el avance de los modelos genera riesgos inaceptables. La directora financiera añadió que, después de escuchar a los investigadores, tendría que evaluar las consecuencias empresariales de cualquier decisión relacionada con seguridad, inversión y desarrollo de productos.

La declaración refleja una tensión central para los laboratorios que compiten por construir sistemas cada vez más capaces: acelerar la innovación puede fortalecer su posición comercial, pero también amplía la posibilidad de que un fallo de control tenga consecuencias difíciles de revertir. Friar sostuvo que OpenAI está avanzando en esa frontera mientras toma “la seguridad y la alineación realmente en serio”, sin presentar un calendario concreto para una eventual desaceleración.

En este contexto, la seguridad no se limita a impedir que un sistema genere respuestas dañinas o incumpla instrucciones. También incluye la alineación entre los objetivos de un modelo y las intenciones humanas, así como la capacidad de supervisar agentes que podrían operar con mayor autonomía, acceder a herramientas y ejecutar tareas complejas fuera de una conversación convencional.

Las palabras de Friar llegaron después de que un exinvestigador de Anthropic abandonara su puesto y advirtiera que la tecnología, debido a la rapidez de su evolución, podría “matarnos a todos antes del final de la década”. La afirmación elevó la discusión desde los problemas conocidos de sesgo, privacidad y desinformación hacia escenarios extremos relacionados con armas, ciberseguridad y pérdida de control sobre sistemas avanzados.

Un debate que alcanza a la industria y a Washington

Durante la última semana, las preocupaciones sobre la capacidad de la inteligencia artificial para causar daños se intensificaron dentro y fuera de Washington. El debate involucra a empresas tecnológicas, investigadores y responsables políticos que todavía buscan definir qué tipo de controles serían efectivos sin bloquear aplicaciones legítimas ni entregar ventajas competitivas a otros países.

Dario Amodei, director ejecutivo de Anthropic, publicó el sábado una entrada de blog en la que defendió un desarrollo más lento de los modelos de IA. Su argumento fue que una reducción del ritmo podría disminuir el riesgo de que algo salga gravemente mal, aunque la propuesta plantea una dificultad evidente para una industria impulsada por la carrera entre laboratorios y por enormes expectativas de inversión.

El llamado a moderar la velocidad también ha recibido respaldo de Elon Musk, de SpaceX, y de Sam Altman, director ejecutivo de OpenAI. La coincidencia entre figuras con intereses y posiciones distintas muestra que el debate sobre seguridad ya no está confinado a grupos de investigadores preocupados por la alineación, sino que se ha convertido en una discusión pública sobre el rumbo de toda la industria.

La propuesta, no obstante, enfrenta obstáculos prácticos. Una desaceleración coordinada exigiría que múltiples compañías compartieran criterios sobre qué nivel de riesgo justifica detener o retrasar un modelo, mientras gobiernos y competidores internacionales podrían continuar avanzando con reglas distintas y objetivos menos restrictivos.

China, según los elementos citados en el debate público de los últimos días, representa una de las principales dificultades para cualquier llamado a reducir el ritmo de desarrollo. Para las empresas estadounidenses, la seguridad debe equilibrarse con la competencia tecnológica, una tensión que puede hacer más difícil convertir una advertencia general en una política industrial común.

La seguridad puede complicar los planes de OPV

El resurgimiento de las preocupaciones sobre seguridad también ocurre mientras OpenAI y Anthropic son observadas por sus posibles planes de convertirse en empresas públicas. No está claro si una eventual desaceleración modificaría los calendarios de ambas compañías, pero cualquier retraso en el desarrollo de modelos podría afectar sus proyecciones de crecimiento, sus necesidades de capital y la narrativa que presentarían ante inversionistas.

Anthropic esperaba ampliamente realizar su debut bursátil en algún momento del mes siguiente, de acuerdo con la información disponible en la noticia. La incertidumbre sobre el calendario aumenta porque la empresa tendría que explicar a los mercados cómo una estrategia de desarrollo más cautelosa impactaría sus ingresos, sus costos de computación y la competencia con otros laboratorios de frontera.

Altman dijo en una entrevista publicada por Fortune el sábado que una OPV de OpenAI en 2026 sería “poco aconsejable”. La afirmación no elimina la posibilidad de una cotización posterior, pero sí rebaja las expectativas de quienes habían interpretado el crecimiento del negocio y la expansión de la inteligencia artificial como señales de una salida relativamente cercana al mercado.

En agosto, CNBC informó que Friar había dicho a los empleados que OpenAI “será una empresa pública en 2027”, aunque la compañía podría debutar antes si “nuestro negocio continúa inflectando”. Esa referencia conecta directamente los planes financieros con la evolución del negocio, pero las nuevas discusiones sobre seguridad agregan otra variable: el ritmo tecnológico podría depender no solo de la demanda, sino también de la evaluación de riesgos.

Para los inversionistas, el desafío consiste en valorar una empresa cuyo potencial depende de expandir rápidamente sus capacidades, pero cuya licencia social y regulatoria depende de demostrar que puede controlarlas. Mientras OpenAI y Anthropic definen sus próximos pasos, la seguridad deja de ser únicamente una cuestión técnica y pasa a formar parte de sus decisiones de gobierno corporativo, estrategia y acceso a los mercados de capitales.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados