Por Canuto  

Elon Musk propuso que los principales laboratorios de inteligencia artificial, incluidos varios de China, prueben los modelos de sus competidores antes de que lleguen al público. La idea surge mientras líderes del sector advierten sobre riesgos extremos y la administración del presidente Donald Trump rechaza nuevos límites regulatorios.
***

  • Musk planteó que SpaceX, OpenAI, Anthropic, Google, Meta y tres o cuatro grandes empresas chinas compartan pruebas de seguridad.
  • El debate regulatorio se intensificó después de advertencias de líderes de IA sobre posibles daños y una eventual desaceleración del desarrollo.
  • La administración del presidente Donald Trump calificó los temores sobre la IA como un fraude, mientras China describió el llamado a frenar como miedo infundado.

Una propuesta de revisión entre rivales

Elon Musk pidió que los principales laboratorios de inteligencia artificial cooperen para evaluar la seguridad de sus modelos antes de ponerlos a disposición del público. Durante la All-in Summit celebrada el lunes en Los Ángeles, el fundador de SpaceX propuso que los competidores ejecuten pruebas sobre los sistemas de cada empresa, en lugar de dejar que cada desarrollador determine por sí solo si su tecnología es segura.

La propuesta incluiría a SpaceX, OpenAI, Anthropic, Google y Meta, además de tres o cuatro de las principales empresas chinas del sector, según explicó Musk. El empresario planteó que cada laboratorio permita a sus rivales utilizar un banco de pruebas, conocido en inglés como “test harness”, para buscar comportamientos peligrosos, vulnerabilidades o señales que el propio desarrollador podría pasar por alto.

“En lugar de calificar tu propia tarea, al menos tendrías a competidores calificando tu tarea y dando la alarma si ven algo preocupante”, afirmó Musk durante el encuentro. Su argumento parte de una premisa sencilla: una revisión externa, aunque provenga de empresas con intereses comerciales enfrentados, aumentaría la posibilidad de detectar problemas antes de que un modelo se despliegue masivamente.

El fundador de SpaceX reconoció que el mecanismo no sería una solución perfecta y que los laboratorios rivales todavía no han aceptado su propuesta. Aun así, sostuvo que las probabilidades de encontrar fallas serían “dramáticamente mayores” si varias organizaciones examinan un sistema, y consideró que se trata de un paso que debería implementarse rápidamente.

Advertencias sobre los riesgos de la inteligencia artificial

El planteamiento de Musk llega en medio de un debate cada vez más intenso sobre la forma de regular la inteligencia artificial y controlar sus posibles daños. Los líderes de Anthropic, OpenAI y otras compañías pasaron el fin de semana advirtiendo sobre los riesgos de la tecnología, al tiempo que respaldaron llamados a desacelerar el desarrollo de nuevos modelos.

Musk y el director ejecutivo de OpenAI, Sam Altman, se contaron entre los dirigentes tecnológicos que apoyaron la propuesta de desaceleración impulsada por Dario Amodei, director ejecutivo de Anthropic. La coincidencia resultó inusual entre empresas que compiten por talento, infraestructura, usuarios y capital, pero reflejó la creciente preocupación por las capacidades que podrían alcanzar los sistemas más avanzados.

La discusión también se alimentó de advertencias formuladas por investigadores que cuestionan la capacidad de los laboratorios para controlar las consecuencias de sus propios avances. Jacob Coxon, quien trabajó en Anthropic y OpenAI antes de renunciar a su puesto en Anthropic, escribió la semana pasada que los principales laboratorios de IA estaban “jugando con nuestras vidas”, una afirmación que provocó respuestas de otros especialistas.

Evan Hubinger, investigador de alineación en Anthropic, respaldó públicamente la preocupación de Coxon y afirmó que existe una posibilidad superior al 10% de que la inteligencia artificial mate a todos los seres humanos durante la próxima década. Esa cifra representa una opinión individual, no una medición consensuada del sector, pero muestra la magnitud de los escenarios que algunos investigadores consideran al debatir sobre seguridad y control.

El choque entre seguridad, regulación y competencia

La administración del presidente Donald Trump ha rechazado los llamados de los líderes tecnológicos a imponer mayores límites sobre la inteligencia artificial. El presidente publicó el lunes una serie de mensajes en Truth Social en los que describió los temores sobre la tecnología como un “fraude” y una “estafa”, marcando una posición contraria a quienes piden una pausa o controles gubernamentales más estrictos.

La discusión enfrenta dos objetivos difíciles de conciliar: reducir el riesgo de que los modelos causen daños y mantener el ritmo de innovación frente a China. Trump ha sostenido que cualquier intento de frenar el desarrollo de la IA podría entregar a Beijing una ventaja tecnológica, mientras que Amodei describió esa tensión como el “dilema más difícil” para su propuesta de desaceleración.

El debate no se limita a la velocidad de lanzamiento de los modelos, porque también abarca quién debe evaluarlos y con qué independencia. Amodei sugirió que los laboratorios podrían acordar evaluaciones tecnológicas de terceros a cargo de “evaluadores integrados”, una fórmula que buscaría comprobar las prácticas de seguridad sin dejar toda la supervisión en manos de las compañías que desarrollan los sistemas.

China y el camino hacia pruebas compartidas

Musk afirmó que considera probable que China acepte un mecanismo de revisión entre competidores, aunque reconoció que los laboratorios rivales aún no han dado su consentimiento. Su propuesta busca convertir la competencia comercial en una herramienta de vigilancia mutua, con pruebas que permitan señalar problemas antes de que un modelo sea utilizado por millones de personas.

La participación de empresas chinas añadiría una dimensión geopolítica a cualquier esquema de evaluación conjunta. Los desarrolladores de Estados Unidos y China compiten por liderazgo en modelos, chips, centros de datos y aplicaciones, de modo que compartir evaluaciones de seguridad exigiría resolver dudas sobre confidencialidad, propiedad intelectual y posibles usos estratégicos de la información.

Un portavoz del Ministerio de Relaciones Exteriores de China describió como “miedo infundado” el llamado de las empresas de IA a desacelerar el desarrollo, según una traducción de sus declaraciones publicada por Reuters. Al mismo tiempo, reportes recientes han señalado que Beijing también debate riesgos vinculados con sistemas capaces de replicarse o buscar poder. Por ello, la respuesta china no equivale necesariamente a un rechazo de todas las medidas técnicas de seguridad, sino a una posición distinta sobre la velocidad del desarrollo y la forma de gobernarlo.

Para Musk, la prioridad consiste en avanzar con una medida práctica antes de que la disputa regulatoria alcance una conclusión. La revisión entre laboratorios podría ofrecer una capa adicional de control, pero su eficacia dependerá de que los competidores compartan acceso suficiente, publiquen alertas creíbles y acepten corregir sus modelos cuando las pruebas revelen comportamientos preocupantes.

La propuesta queda así en un punto intermedio entre la autorregulación empresarial y una supervisión estatal formal. Mientras los investigadores advierten que los riesgos podrían afectar el destino de la humanidad, la Casa Blanca rechaza una pausa amplia y China cuestiona el temor a una desaceleración, por lo que el debate continuará alrededor de una pregunta central: cómo probar sistemas cada vez más poderosos sin convertir la seguridad en una promesa de cada empresa sobre su propio trabajo.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.
Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados