Por Angel Di Matteo   𝕏 @shadowargel

Mistral y otras compañías tecnológicas europeas están rechazando los llamados de Anthropic y otros líderes estadounidenses para desacelerar el desarrollo de inteligencia artificial avanzada. Sus críticos no necesariamente niegan los riesgos de sistemas cada vez más poderosos, pero advierten que permitir a los actuales líderes definir conjuntamente las reglas de seguridad podría congelar una industria que Europa todavía intenta alcanzar y convertir la protección frente a la IA en una barrera para nuevos competidores.

***

  • Mistral acusa a algunos líderes establecidos de impulsar regulaciones que podrían consolidar sus posiciones frente a competidores más pequeños. 
  • Dario Amodei, CEO de Anthropic, propone que los principales laboratorios coordinen voluntariamente estándares de seguridad y permitan supervisión independiente mientras avanza la regulación formal. 
  • Empresas y funcionarios europeos temen que ralentizar ahora la carrera consolide la dependencia tecnológica de Europa respecto de Estados Unidos. 
  • El debate enfrenta dos riesgos distintos: desarrollar sistemas peligrosos demasiado rápido o permitir que los actuales líderes utilicen las reglas de seguridad para elevar las barreras de entrada.
  • Europa no está rechazando en bloque la supervisión: varias voces respaldan evaluadores independientes y marcos internacionales, pero cuestionan una desaceleración general de la tecnología. 

 

La discusión internacional sobre los peligros de una inteligencia artificial cada vez más poderosa está convirtiéndose también en una batalla sobre quién controla el futuro económico de la tecnología.

Mientras algunos de los principales ejecutivos de IA estadounidenses reclaman desacelerar el ritmo al que aumentan las capacidades de los modelos, empresas y funcionarios europeos están respondiendo que una pausa o coordinación entre los actuales líderes podría producir una consecuencia difícil de ignorar: preservar precisamente la enorme ventaja tecnológica que compañías estadounidenses ya poseen frente al resto del mundo.

La francesa Mistral, considerada uno de los principales candidatos europeos para competir en la frontera de la IA, fue particularmente explícita. La compañía sostuvo que algunos actores establecidos están aprovechando el actual debate de seguridad para promover regulaciones capaces de favorecerlos frente a sus competidores, una preocupación compartida esta semana por ejecutivos de Proton, Black Forest Labs y Hugging Face.

El conflicto no significa que Europa considere inexistentes los riesgos de la inteligencia artificial. La diferencia está principalmente en qué hacer frente a ellos y quién debería establecer las reglas. Para compañías que todavía intentan cerrar la distancia con OpenAI, Anthropic y otros gigantes estadounidenses, aceptar una desaceleración precisamente cuando esos laboratorios se encuentran adelante podría transformar temporalmente la actual distribución de poder en una ventaja estructural mucho más difícil de revertir, informa Reuters.

Anthropic quiere desacelerar una carrera que considera peligrosa

El debate se intensificó después de que Dario Amodei, CEO de Anthropic, pidiera reducir el ritmo al que los principales desarrolladores incrementan las capacidades de sus modelos. Su argumento parte de que la IA está avanzando más rápidamente de lo que los gobiernos pueden legislar y que esperar únicamente por nuevas leyes podría dejar un período crítico sin suficientes mecanismos de seguridad. Anthropic también ha planteado incorporar evaluadores independientes con acceso profundo a sus sistemas internos para verificar prácticas de seguridad, investigar incidentes y supervisar métricas relacionadas con el desarrollo de modelos.

La propuesta incluye facilitar cierta coordinación entre laboratorios rivales sobre seguridad. Ese componente introduce inmediatamente una cuestión antimonopolio: empresas que normalmente deberían competir estarían acordando aspectos relacionados con el ritmo y las condiciones bajo las cuales desarrollan una tecnología de enorme importancia económica. Un funcionario antimonopolio del Departamento de Justicia estadounidense dijo esta semana que la cooperación sobre seguridad no parece necesariamente anticompetitiva y que la agencia está abierta a discutir el asunto, aunque los laboratorios todavía no habían solicitado formalmente una reunión.

La preocupación de Anthropic tampoco surge exclusivamente de escenarios hipotéticos. La propia compañía ha publicado evaluaciones que muestran capacidades crecientes de modelos en áreas sensibles, incluyendo inteligencia militar y desarrollo de sistemas convencionales de armas, y recientemente divulgó casos en los que actores intentaron utilizar sus modelos para actividades relacionadas con investigación biológica potencialmente peligrosa.

Otros líderes estadounidenses han expresado preocupaciones similares sobre la velocidad del desarrollo. Sam Altman, de OpenAI, ha advertido sobre riesgos extremos asociados con sistemas futuros, mientras Elon Musk también ha defendido durante años la necesidad de prestar mayor atención a la seguridad de la IA.

Pero precisamente ahí comienza la objeción europea: una preocupación legítima por la seguridad y un interés comercial por conservar una posición dominante pueden existir simultáneamente.

Europa teme que la línea de salida quede congelada donde está hoy

Europa llega a este debate desde una posición competitiva muy diferente. La región posee importantes universidades, investigadores, fabricantes de equipos y compañías tecnológicas, pero ha producido relativamente pocos desarrolladores capaces de competir directamente con los modelos de frontera estadounidenses y chinos. Mistral es una de las principales excepciones y ha convertido la denominada “soberanía de IA” en una parte central de su estrategia.

Esa soberanía implica algo más que tener una empresa europea fabricando modelos. Mistral argumenta que gobiernos y compañías deberían poder controlar qué modelos utilizan, dónde se ejecutan, qué infraestructura procesa sus datos y qué capacidad computacional poseen para escalarlos. La compañía está impulsando infraestructura regional y pretende contribuir a asegurar hasta 1 GW de capacidad computacional hacia 2030 dentro de su estrategia de infraestructura soberana.

Desde esa perspectiva, desacelerar la frontera ahora plantea un problema evidente. Europa continúa dependiendo ampliamente de tecnología desarrollada por compañías estadounidenses. Si las empresas que ya poseen los modelos más poderosos, los mayores centros de datos y enormes cantidades de capital consiguen establecer colectivamente el nivel a partir del cual continuar avanzando se considera demasiado peligroso, los competidores que vienen detrás podrían encontrarse obligados a cumplir reglas diseñadas alrededor de una escala que todavía no han alcanzado.

Raphael Auphan, director de operaciones de la compañía suiza de privacidad Proton, calificó estas iniciativas de “totalmente interesadas” y sostuvo que las compañías estadounidenses buscan preservar la dependencia de sus servicios. Ben Brooks, responsable de políticas públicas de la alemana Black Forest Labs, advirtió igualmente que establecer una brecha regulatoria basada en umbrales arbitrarios podría perjudicar la innovación abierta cerca de la frontera tecnológica.

Clement Delangue, CEO de Hugging Face, fue todavía más directo al defender que este no es el momento de desacelerar, sino de acelerar. Sin embargo, respaldó una parte de la propuesta de Amodei: incorporar evaluadores independientes dentro de las compañías de IA.

Ese matiz resulta importante. La posición europea que emerge de estas declaraciones no puede reducirse simplemente a “seguridad contra innovación”. Algunos de los críticos de una desaceleración aceptan mecanismos más estrictos de evaluación y supervisión, pero rechazan que estos impliquen necesariamente limitar el progreso de todos los participantes.

¿Seguridad o captura regulatoria?

Kristian Kersting, profesor de inteligencia artificial de la Universidad Técnica de Darmstadt, utilizó un concepto particularmente relevante para describir el riesgo: captura regulatoria. Esta ocurre cuando las reglas destinadas a supervisar una industria terminan diseñadas de una manera que beneficia a las empresas dominantes, dificultando la entrada o crecimiento de nuevos competidores. Kersting argumentó que si un reducido grupo de grandes compañías decide qué constituye una IA peligrosa, participa en la selección de quienes las supervisan y además obtiene excepciones a las normas de competencia para coordinarse, el resultado podría alejarse de una regulación genuinamente independiente.

El problema no requiere asumir que Anthropic u otros laboratorios estén actuando de mala fe. Una regulación puede responder a preocupaciones auténticas y, simultáneamente, producir ventajas económicas para las compañías mejor preparadas para cumplirla. Los grandes laboratorios poseen equipos jurídicos, departamentos de seguridad, investigadores especializados y miles de millones de dólares en infraestructura que permiten absorber obligaciones que podrían resultar prohibitivas para startups.

Es la misma preocupación que recientemente apareció en Estados Unidos desde otro ángulo. Críticos de una pausa gubernamental, incluido el Cato Institute, han advertido que construir reglas alrededor de las capacidades y recursos de los actuales líderes podría transformar las exigencias de seguridad en barreras de entrada.

La diferencia europea es que el problema adquiere además una dimensión geopolítica. No solamente están en juego empresas pequeñas contra empresas grandes, sino la capacidad de Europa para reducir su dependencia tecnológica de Estados Unidos y competir con China.

El ministro francés de Finanzas, Roland Lescure, resumió esa sospecha señalando que puede identificar claramente el interés propio existente en pedir que quienes vienen detrás reduzcan la velocidad mientras los líderes permanecen en primera posición. El Ministerio de Asuntos Digitales alemán, por su parte, ha dicho que detener el desarrollo de IA no constituye una opción viable dadas las aspiraciones europeas de soberanía digital.

Europa tampoco tiene una posición única sobre cuánto riesgo aceptar

El rechazo a una pausa no significa que las instituciones europeas quieran una carrera completamente desregulada. La presidenta de la Comisión Europea, Ursula von der Leyen, defendió esta semana que el marco regulatorio del bloque coloca a Europa en posición de contribuir a establecer estándares internacionales frente a los riesgos de IA. Alemania también ha defendido cooperación internacional que involucre a Estados Unidos y China, mientras España ha planteado incluso acuerdos internacionales comparables, conceptualmente, con mecanismos utilizados para limitar la proliferación de tecnologías peligrosas.

También existen compañías europeas que reclaman mecanismos más fuertes. Thales, el mayor grupo europeo de tecnología de defensa, pidió esta semana un marco internacional para gobernar el desarrollo de IA y sostuvo que las salvaguardas técnicas acompañadas de supervisión gubernamental pueden ayudar a mantener los sistemas bajo control.

Esto deja el debate en un terreno considerablemente más complejo que una división entre estadounidenses preocupados por la seguridad y europeos interesados únicamente en crecer. Existen desacuerdos dentro de ambos lados del Atlántico sobre la magnitud de los riesgos, la velocidad apropiada de desarrollo y cuánto poder deberían tener gobiernos, laboratorios e investigadores independientes.

La pregunta fundamental es cómo imponer salvaguardas sin convertir el liderazgo tecnológico actual en una posición permanente.

Una regla que obligue a todos los desarrolladores a demostrar que sus sistemas no presentan determinadas capacidades peligrosas podría reducir riesgos y aplicarse de manera neutral. Una estructura donde los actuales líderes decidan colectivamente qué capacidades son aceptables, qué velocidad es apropiada y qué empresas pueden avanzar plantea problemas competitivos muy diferentes.

La seguridad de la IA se convierte también en una batalla por soberanía tecnológica

Para Europa, el momento resulta especialmente delicado porque su ventana para construir una industria propia de modelos de frontera podría estar estrechándose. Mistral, fundada hace apenas tres años, anunció este mes una ronda de EUR €3.000 millones que elevó su valoración posterior a la inversión por encima de EUR €21.000 millones, y está expandiendo alianzas e infraestructura para ofrecer una alternativa europea y abierta frente a los grandes proveedores estadounidenses.

Aun así, la distancia en capital, capacidad computacional y escala frente a los principales laboratorios estadounidenses continúa siendo considerable. Para compañías europeas que intentan reducirla, una desaceleración coordinada no comienza desde una línea de salida neutral: comienza con OpenAI, Anthropic y otros actores estadounidenses ya situados entre los líderes de la carrera.

Eso explica por qué las mismas propuestas pueden verse de formas radicalmente distintas a cada lado del Atlántico. Desde la perspectiva de Amodei, coordinar estándares antes de que aparezcan sistemas mucho más poderosos puede representar una oportunidad para establecer controles mientras todavía existe tiempo para hacerlo. Desde la perspectiva de Mistral y otros críticos europeos, permitir que los líderes actuales definan esos límites puede significar entregarles influencia sobre las condiciones bajo las cuales sus futuros rivales podrán alcanzarlos.

Ambos riesgos pueden coexistir. Una carrera sin suficientes controles podría producir sistemas cuyas capacidades avancen más rápidamente que las defensas disponibles; unas reglas mal diseñadas podrían concentrar todavía más una de las industrias estratégicas más importantes del siglo en un pequeño grupo de compañías.

La disputa que está emergiendo entre Europa y los gigantes estadounidenses sugiere así que la próxima batalla sobre seguridad de IA no se librará únicamente alrededor de qué tan peligrosa puede llegar a ser la tecnología. También girará alrededor de una cuestión mucho más inmediata: quién tendrá derecho a seguir construyéndola cuando lleguen las reglas destinadas a mantenerla bajo control.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados