Por Canuto  

El CTO de Arcee sostiene que los modelos chinos de peso abierto no son más peligrosos que otro software abierto, siempre que las empresas los sometan a controles de seguridad. La startup estadounidense propone competir con mejores modelos en lugar de impulsar prohibiciones.
***

  • Arcee afirma que un modelo descargado y ejecutado dentro de la infraestructura de una empresa no permite acceso remoto automático a su creador.
  • Qwen, de Alibaba, y Kimi K3, de Moonshot AI, ofrecen inferencia a una fracción del costo de varios modelos propietarios estadounidenses.
  • La startup considera que el ecosistema estadounidense de IA abierta puede aprender de los avances chinos y construir sobre ellos.

Los modelos de inteligencia artificial con pesos abiertos desarrollados en China han ganado capacidad y popularidad. Ese avance reactivó en Estados Unidos una discusión sobre los riesgos de seguridad, la competencia tecnológica y la posibilidad de limitar su uso.

Entre los modelos que reciben atención están Kimi K3, creado por Moonshot AI, y Qwen, desarrollado por Alibaba. Ambos compiten en precio con sistemas propietarios de grandes laboratorios estadounidenses, pues permiten ejecutar inferencia a una fracción del costo por token.

La presión competitiva afecta especialmente a OpenAI y Anthropic. Sus modelos cerrados dependen de infraestructuras costosas y de servicios controlados por sus propios proveedores, mientras las alternativas de peso abierto pueden instalarse en centros de datos empresariales.

Al mismo tiempo, circulan versiones sobre un posible intento de la administración Trump para prohibir los modelos chinos. Hasta la fecha descrita en la información original, el gobierno no había tomado medidas concretas sobre esa idea.

Los defensores de una restricción temen que estos sistemas funcionen como un vector para piratas informáticos chinos. La preocupación combina el origen de los modelos con la posibilidad de que su comportamiento esconda instrucciones maliciosas.

Arcee ocupa una posición particular en este debate. La startup estadounidense desarrolla modelos abiertos para ofrecer a las empresas nacionales una alternativa frente a las propuestas chinas, por lo que una prohibición podría beneficiar directamente su negocio.

La posición de Arcee sobre la seguridad

Lucas Atkins, director de tecnología de Arcee, rechaza la idea de que los modelos chinos sean peligrosos por naturaleza. Según su explicación, ejecutarlos localmente no otorga a sus creadores una vía automática para acceder al entorno de la organización, reseña TechCrunch.

Atkins comparó la preocupación con la sospecha de que un programa de software chino llega codificado con intenciones específicas que un actor malicioso puede activar a voluntad. El CTO considera que esa comparación no describe adecuadamente la forma en que se entrenan los modelos de lenguaje.

Cuando una empresa descarga un modelo desde repositorios abiertos como Hugging Face, el código que se ejecutará en sus servidores resulta, en gran medida, visible y revisable. Esa visibilidad permite que los equipos técnicos inspeccionen el sistema antes de conectarlo con aplicaciones internas.

La disponibilidad pública tiene límites importantes. La mayoría de estos productos se conoce como modelos de peso abierto y no como software de código abierto completo, porque los métodos y los datos usados durante el entrenamiento normalmente no están disponibles.

Atkins sostiene que una organización grande debe aplicar sus propios procesos de prueba de seguridad e inspección. También puede adaptar el modelo mediante entrenamiento posterior para usos concretos antes de permitir que los usuarios le envíen solicitudes.

Esas evaluaciones pueden revisar sesgos, toxicidad, alucinaciones y sensibilidad ante determinados temas. El objetivo consiste en comprender el comportamiento del modelo, optimizarlo y reducir riesgos antes de incorporarlo a operaciones empresariales.

Puertas traseras, código y competencia

Una duda adicional se refiere a los modelos utilizados para programar. En teoría, un sistema de codificación podría producir una puerta trasera maliciosa bajo una combinación muy específica de contexto, código base y solicitud.

Atkins reconoce que un actor suficientemente sofisticado podría entrenar un modelo con capacidades ocultas. Ese sistema tendría que comportarse como una herramienta de programación excelente en la mayoría de las circunstancias y activar una conducta distinta ante un tipo particular de base de código.

Sin embargo, el ejecutivo afirmó que no sabe cómo llevar a cabo una maniobra de ese nivel. La naturaleza creativa de los modelos de lenguaje también reduciría la probabilidad de que respondan con malware ante una combinación exacta y cuidadosamente planificada de condiciones.

Además, una empresa tendría que utilizar precisamente ese código para que el escenario generara consecuencias. Los controles internos, la revisión humana y las pruebas de seguridad pueden interrumpir la cadena antes de que una instrucción dañina llegue a producción.

La incertidumbre aumenta cuando se piensa en modelos futuros. Atkins no descartó que una técnica semejante pueda existir algún día, pero señaló que las empresas diseñan sus aplicaciones para mantener cierta independencia respecto de un proveedor específico.

Las arquitecturas agnósticas al modelo permiten combinar distintas herramientas y cambiar de proveedor cuando las condiciones lo exigen. Por eso, incluso si los modelos chinos ofrecen hoy la mejor relación entre precio y rendimiento, las compañías no tendrían que depender de ellos para siempre.

Un ecosistema abierto para Estados Unidos

Para Atkins, la conversación pública debería cambiar de dirección. En lugar de concentrarse en cómo prohibir los modelos chinos, Estados Unidos debería fomentar un ecosistema nacional sólido de inteligencia artificial abierta.

La propuesta no elimina la necesidad de controles. Las empresas aún tendrían que inspeccionar el código, evaluar el comportamiento, revisar las salidas y establecer límites claros para cualquier modelo que opere dentro de su infraestructura.

Arcee también obtiene beneficios del progreso realizado por sus competidores chinos. La startup puede estudiar modelos abiertos, aprender de sus decisiones técnicas y construir nuevos sistemas sobre ese trabajo, dentro de los límites establecidos por las licencias aplicables.

Atkins expresó respeto por los investigadores individuales que desarrollan esos modelos. Desde su perspectiva, el intercambio técnico entre comunidades abiertas puede acelerar la innovación, incluso cuando las empresas compiten por clientes y capacidad informática.

El argumento central de Arcee es directo: la mejor respuesta competitiva consiste en lanzar un modelo superior. En vez de depender de una barrera regulatoria, la industria estadounidense tendría que ofrecer productos capaces de atraer la atención por su rendimiento, precio y seguridad.

Esta disputa también refleja dos modelos de negocio. Las compañías propietarias protegen sistemas cerrados y buscan recuperar enormes inversiones, mientras los laboratorios de peso abierto presionan los precios y permiten que más organizaciones ejecuten IA en sus propios centros de datos.

El debate continuará mientras aumenten las capacidades de los modelos chinos y crezcan las tensiones tecnológicas entre ambos países. La posición de Arcee plantea que la seguridad debe evaluarse con pruebas técnicas y controles verificables, no únicamente con base en el país de origen.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados