Por Canuto  

Satya Nadella advirtió que las empresas podrían estar pagando dos veces por la inteligencia artificial: primero con dinero y luego con datos estratégicos. Su propuesta incluye conservar la propiedad de las indicaciones y retroalimentación, usar capas de orquestación y acelerar la adopción de modelos abiertos.
***

  • El CEO de Microsoft alertó que las empresas entregan conocimiento institucional cada vez que corrigen o utilizan modelos de IA.
  • Nadella cuestionó que los laboratorios entrenen modelos con datos públicos, pero restrinjan la destilación de sus propios sistemas.
  • Modelos de código abierto instalados en las empresas ganan popularidad por sus menores costos y mayor control.

 

El uso empresarial de inteligencia artificial enfrenta un nuevo debate sobre privacidad, dependencia tecnológica y control del conocimiento. Satya Nadella, CEO de Microsoft, advirtió que las compañías podrían estar pagando dos veces por acceder a estas herramientas.

Según Nadella, las empresas pagan por los tokens que consumen, pero también entregan información comercial valiosa para que los modelos funcionen mejor. Esa segunda forma de pago puede incluir indicaciones, correcciones, procesos internos y detalles difíciles de obtener por otros medios, reseña TechCrunch.

La advertencia sobre el conocimiento empresarial

La preocupación central gira alrededor de los modelos propietarios desarrollados por laboratorios como OpenAI y Anthropic. Las empresas utilizan estos sistemas para automatizar tareas, analizar información y crear agentes, pero cada interacción puede revelar aspectos específicos de sus operaciones.

Varios participantes de Silicon Valley temen que esos laboratorios funcionen como una especie de caballo de Troya. La inquietud consiste en que los proveedores de modelos podrían acumular suficiente conocimiento sobre sus clientes para convertirse, eventualmente, en competidores de ellos.

Entre quienes han expresado advertencias similares se encuentran inversionistas de capital de riesgo como Jason Calacanis y Alex Karp, CEO de Palantir. Nadella se sumó ahora a ese grupo mediante una publicación en su blog, difundida el lunes.

El ejecutivo describió la situación con una frase contundente: las compañías pagan por inteligencia con dinero y, al mismo tiempo, con conocimiento propietario. También señaló que cuanto más útil quieren hacer un modelo, más información deben proporcionarle.

La advertencia adquiere relevancia porque el aprendizaje no depende únicamente de los documentos que una empresa carga en una plataforma. Los modelos también pueden recibir señales mediante las indicaciones escritas por los empleados, las herramientas utilizadas por los agentes y las correcciones realizadas después de un error.

Indicaciones, correcciones y datos sensibles

Para Nadella, las correcciones humanas tienen un valor especial. Cada ajuste puede condensar conocimiento institucional sobre la forma en que funciona una compañía, sus prioridades y las sutilezas de sus negocios.

Ese tipo de conocimiento, según su argumento, difícilmente podría comprarlo un competidor. Sin embargo, las empresas pueden entregarlo durante el uso cotidiano de sistemas de inteligencia artificial sin considerar que cada interacción representa un activo estratégico.

La preocupación no implica que toda utilización de modelos propietarios produzca automáticamente una filtración. El punto de Nadella se enfoca en los derechos sobre los datos de uso y de interacción, así como en las condiciones que los proveedores establecen para almacenarlos o aprender de ellos.

El debate también incluye una discusión sobre la destilación. Esta práctica utiliza las respuestas de un modelo para comprender su comportamiento y entrenar otro sistema, normalmente con un costo menor y tomando como referencia el conocimiento obtenido del modelo original.

En febrero, Anthropic acusó a modelos de código abierto chinos de enviar millones de indicaciones a Claude para mejorar sus propios sistemas. La empresa pidió al gobierno de Estados Unidos que impusiera controles de exportación en respuesta a esa actividad.

Nadella considera que los creadores de modelos no pueden reclamar un acceso amplio a los datos del mundo y, al mismo tiempo, prohibir que otros estudien sus sistemas. A su juicio, existe una contradicción entre defender el entrenamiento con información pública y establecer restricciones estrictas sobre la destilación.

La propuesta de Microsoft y el avance de los modelos abiertos

La solución planteada por Nadella comienza con la propiedad de los datos. El ejecutivo instó a las compañías a conservar el control sobre sus indicaciones, comentarios, correcciones y demás información generada durante el uso de la inteligencia artificial.

También recomendó construir entornos de aprendizaje propietarios en la nube. Muchas empresas ya almacenan allí parte de su información, una circunstancia que puede favorecer el uso de infraestructuras de proveedores como Azure.

La propuesta incluye además capas de orquestación. Estas herramientas permiten cambiar entre modelos de distintos proveedores y reducen el riesgo de que una compañía quede atada a un único sistema de inteligencia artificial.

Las puertas de enlace de IA cumplen una función semejante. Permiten dirigir solicitudes hacia diferentes modelos según el costo, la capacidad, el tipo de tarea o las políticas internas de cada organización.

Aunque Nadella no presentó el código abierto como la única forma de conservar la propiedad, ese enfoque aparece como un subtexto evidente de su argumento. Las empresas pueden instalar modelos abiertos en sus propios centros de datos y mantener un mayor control sobre la información.

Idit Levine, fundadora y CEO de Solo.io, aseguró a TechCrunch que observa ese cambio entre sus clientes. Después de experimentar con proveedores propietarios, varias compañías comienzan a preguntarse si pueden ejecutar un modelo abierto localmente y obtener casi el mismo rendimiento con un costo menor.

Levine explicó que los clientes valoran dos elementos: la reducción de gastos y el control. La tecnología de Solo.io fue seleccionada el año pasado para impulsar el proyecto Agentgateway de la Fundación Linux, y la empresa cuenta con clientes como T-Mobile, ADP y SAP.

La ejecutiva considera que la instalación de modelos abiertos en las propias empresas representa la próxima gran ola de adopción corporativa de IA. Esta estrategia puede resultar especialmente atractiva para organizaciones que manejan información regulada, secretos comerciales o procesos internos complejos.

El tráfico hacia modelos de código abierto

La tendencia también aparece en plataformas que facilitan el cambio entre modelos. Vercel, conocida principalmente por sus herramientas para construir y alojar sitios web, incorporó recientemente funciones de enrutamiento para sistemas de inteligencia artificial.

OpenRouter, por su parte, ayuda a los desarrolladores a dirigir solicitudes a través de distintos modelos. Ambas compañías observan un aumento del interés por alternativas de código abierto.

Los modelos abiertos representaron el 29% de todo el tráfico enrutable a través de la puerta de enlace de Vercel durante el mes pasado. La cifra muestra que estas opciones ya participan de manera significativa en los flujos de trabajo que utilizan múltiples sistemas.

El crecimiento no significa que las empresas hayan abandonado los modelos propietarios. Estos continúan ofreciendo capacidades avanzadas y acceso sencillo mediante plataformas en la nube, pero la dependencia de un solo proveedor genera inquietudes operativas y estratégicas.

La posibilidad de alternar entre modelos puede fortalecer la posición negociadora de los compradores. También permite combinar un sistema de alto rendimiento para tareas complejas con otro abierto para procesos internos que exijan mayor control.

El respaldo público de Nadella resulta llamativo por la posición de Microsoft dentro del sector. La empresa ha invertido tanto en OpenAI como en Anthropic, dos de los laboratorios mencionados en el debate sobre modelos propietarios.

Por esa razón, sus advertencias pueden influir en las decisiones de grandes compañías que todavía evalúan cómo organizar sus arquitecturas de IA. El mensaje no plantea abandonar la nube, sino evitar que los datos y las operaciones queden concentrados en un único proveedor.

La discusión tendrá consecuencias para los contratos empresariales, las políticas de entrenamiento y el diseño de agentes. También puede intensificar la competencia entre proveedores propietarios y desarrolladores de modelos abiertos.

La frase final de Nadella resume su posición: al consumir inteligencia, las empresas también crean inteligencia. Para el ejecutivo, aquello que crean debería pertenecerles.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados