Por Canuto  

OpenAI, Anthropic y Google DeepMind habrían mantenido conversaciones durante semanas para coordinar medidas de seguridad de la IA, en un contexto marcado por advertencias sobre riesgos catastróficos, posibles evaluadores independientes y dudas sobre las leyes antimonopolio.
***

  • Chris Lehane afirmó que OpenAI, Anthropic y Google DeepMind dialogan desde hace semanas sobre seguridad de la IA.
  • Dario Amodei pidió reducir el ritmo del desarrollo de la IA de frontera, mientras la industria debate el uso de evaluadores externos.
  • La coordinación plantea un dilema regulatorio: proteger al público sin que la cooperación entre rivales limite la competencia.

OpenAI, Anthropic y Google DeepMind habrían mantenido conversaciones durante varias semanas para abordar la seguridad de los sistemas de inteligencia artificial más avanzados, según afirmó Chris Lehane, jefe de política global de OpenAI. La revelación se conoció el martes, mientras Lehane se encontraba en Washington para trabajar con legisladores estadounidenses preocupados por los riesgos catastróficos asociados con la IA, y añade un nuevo elemento al debate sobre cómo controlar una tecnología que avanza con rapidez.

El diálogo ocurre después de que Dario Amodei, director ejecutivo de Anthropic, publicara el ensayo “We Must Pace the Frontier”, en el que pidió reducir el ritmo al que mejoran las capacidades de los modelos y planteó una mayor cooperación en materia de seguridad. Ese concepto engloba los sistemas más capaces y experimentales, cuyos posibles usos abarcan desde tareas económicas y científicas hasta escenarios de seguridad nacional, por lo que cualquier acuerdo entre sus desarrolladores puede tener consecuencias regulatorias y competitivas de gran alcance.

Una coordinación que dejó de ser solo una posibilidad

Lehane afirmó la existencia de las conversaciones durante una reunión con periodistas, de acuerdo con TechCrunch, que atribuyó inicialmente la información a Bloomberg. Hasta ahora, distintos comentarios públicos y reportes periodísticos habían sugerido que OpenAI, Anthropic y Google estaban explorando mecanismos comunes, pero la declaración del ejecutivo apunta a que los contactos ya se desarrollan desde hace semanas.

La admisión también ayuda a explicar algunas señales recientes de cooperación entre compañías que compiten por talento, clientes, infraestructura y liderazgo tecnológico. Sam Altman, de OpenAI, habría insinuado en una entrevista publicada a finales de la semana anterior que sostuvo conversaciones privadas con otros dirigentes del sector, aunque no había detallado entonces el alcance ni los participantes de esos intercambios.

En paralelo, un reporte de The Information indicó que las tres empresas trabajan en la creación de un organismo de estándares para la industria de la IA. Según ese reporte, Altman comunicó al personal que la iniciativa tendría que avanzar sin el respaldo del Gobierno de Estados Unidos, una circunstancia que podría aumentar la responsabilidad de los propios laboratorios para definir criterios de evaluación, supervisión y respuesta ante riesgos.

Demis Hassabis, responsable de Google DeepMind, ya había pedido en julio que Estados Unidos estableciera un organismo de estándares con funciones de vigilancia sobre la inteligencia artificial. Su propuesta contemplaba una entidad capaz de examinar los modelos más avanzados del mundo y coordinar frenos en toda la industria si las señales de peligro aumentaban, una idea que trasladaríaparte del control desde las empresas hacia una institución especializada.

El llamado de Amodei y los evaluadores externos

El ensayo de Amodei planteó que los principales laboratorios de IA deberían colaborar para evitar riesgos catastróficos, incluso si esa coordinación reduce temporalmente el ritmo de la carrera tecnológica. El ejecutivo también propuso una exención gubernamental limitada que permitiera conversar sobre seguridad sin que las empresas quedaran expuestas automáticamente a investigaciones por posibles infracciones antimonopolio.

La propuesta parte de una tensión difícil de resolver: los laboratorios necesitan compartir información sobre amenazas que podrían afectar a toda la industria, pero también compiten directamente en productos, inversión, contratación y capacidad de cómputo. Un acuerdo demasiado amplio podría convertirse en una forma de limitar la competencia, mientras que la ausencia de comunicación podría impedir respuestas coordinadas ante un problema que ningún laboratorio pueda contener por sí solo.

Según el reporte, Lehane sostuvo que las empresas no necesitan una exención gubernamental para mantener esas conversaciones. Su posición sugiere que OpenAI considera posible separar la cooperación estrictamente vinculada con la seguridad de cualquier coordinación comercial, aunque la frontera entre ambos ámbitos podría resultar compleja para los reguladores y los tribunales.

En la misma reunión del martes, Lehane dijo que OpenAI respalda una disposición de la FRONTIER Act que obligaría a los principales laboratorios de frontera a permitir la entrada de organizaciones de verificación independientes. El proyecto de ley contempla supervisión federal y organizaciones externas de verificación para evaluar los modelos avanzados. Esos evaluadores tendrían que revisar los procesos internos y comprobar que los modelos se desarrollen de manera segura, una medida que trasladaríaparte de la supervisión desde las declaraciones de las propias compañías hacia entidades externas.

Respaldo empresarial y presión política

El llamado de Amodei abrió un debate entre figuras relevantes de la industria, entre ellas Sam Altman y Hassabis. Altman habría afirmado que OpenAI se uniría a Anthropic para incorporar evaluadores de terceros dentro de la empresa, con la misión de monitorear la seguridad de los sistemas durante su desarrollo.

La participación de evaluadores externos no elimina por sí misma los riesgos técnicos ni garantiza que todos los laboratorios adopten los mismos criterios. Sin embargo, podría introducir una capa adicional de revisión sobre pruebas, controles y decisiones internas, especialmente en modelos capaces de operar con mayor autonomía o de ejecutar tareas que antes requerían intervención humana constante.

La discusión se desarrolla en Washington mientras los legisladores estadounidenses examinan los riesgos catastróficos relacionados con la IA. Lehane viajó a la capital para trabajar con esos funcionarios, y su intervención muestra que las compañías no solo buscan influir en el diseño de las normas, sino también participar en la definición de los mecanismos técnicos que podrían respaldarlas.

El debate político, no obstante, está lejos de ser uniforme. El presidente Donald Trump ha descartado las preocupaciones de seguridad como un engaño y se ha opuesto a regulaciones más estrictas, con el argumento de que cualquier freno podría otorgar a China una ventaja en la carrera por la inteligencia artificial. David Sacks también ha afirmado que los temores sobre un riesgo existencial están exagerados.

El dilema antimonopolio y los próximos pasos

Altman y otros participantes han advertido que las conversaciones entre competidores podrían exponer a las empresas a problemas bajo las leyes antimonopolio si las autoridades concluyen que la coordinación reduce la competencia. Esa preocupación no es menor: un pacto que comience como un mecanismo de protección podría terminar afectando la entrada de nuevos participantes, el acceso a evaluaciones o la velocidad con la que se lanzan productos rivales.

La posición de Lehane, según la cual no hace falta una exención específica, deja abierta la cuestión de qué límites jurídicos utilizarán las empresas para distinguir la cooperación en seguridad de los acuerdos comerciales. Mientras los laboratorios definan estándares comunes, los reguladores deberán evaluar si esas reglas son transparentes, abiertas a terceros y suficientemente precisas para evitar que se conviertan en barreras de entrada.

La posible creación de un organismo de estándares también plantea interrogantes sobre su independencia, financiación y autoridad. Hassabis propuso que una entidad estadounidense pudiera examinar los modelos más avanzados y coordinar frenos cuando aumentaran los peligros, pero la información disponible no confirma que el Gobierno haya aceptado crearla ni que las empresas hayan acordado su estructura definitiva.

Por ahora, OpenAI, Anthropic y Google DeepMind aparecen alineadas en la necesidad de discutir mecanismos de seguridad, aunque mantienen intereses comerciales distintos y no han anunciado un acuerdo público con reglas completas. El siguiente desafío será demostrar que esa cooperación puede proteger a la sociedad sin convertirse en una alianza cerrada que concentre todavía más poder tecnológico en los laboratorios dominantes.

La afirmación de Lehane marca un cambio relevante en la conversación pública, porque transforma indicios dispersos en una declaración sobre contactos sostenidos entre tres de los actores más influyentes del sector. TechCrunch informó que se puso en contacto con Anthropic, Google y OpenAI para obtener comentarios, pero la información disponible no incluye respuestas adicionales de esas compañías.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados