Por Canuto  

El CEO de Microsoft cuestionó las restricciones de Fable AI, el modelo de Anthropic, por bloquear solicitudes que considera benignas. Sus comentarios exponen tensiones dentro de una alianza multimillonaria y reabren el debate sobre la censura, la competencia y la concentración del mercado de inteligencia artificial.
***

  • Satya Nadella calificó de excesivos los límites que Fable AI impone a ciertas consultas de los usuarios.
  • Anthropic reconoció que sus nuevas salvaguardas pueden filtrar más solicitudes inofensivas que antes.
  • Microsoft comprometió USD $5.000 millones con Anthropic, mientras la startup planea dirigir USD $30.000 millones hacia Azure.

 

El CEO de Microsoft criticó los límites de solicitudes del modelo de Anthropic y advirtió sobre la dependencia de un pequeño grupo de proveedores de inteligencia artificial.

Satya Nadella, director ejecutivo de Microsoft, cuestionó las restricciones que Anthropic aplica a su modelo Fable AI. El ejecutivo afirmó que el sistema impone límites poco razonables sobre lo que los usuarios pueden preguntarle.

Según CNBC, Nadella expresó sus comentarios el miércoles durante una reunión con ingenieros que trabajan en Copilot AI. La conversación se conoció después de que la publicación obtuvo una copia de sus declaraciones.

“Si usas Fable, cuando se niega a cualquier cosa aleatoria, es como, ¿cuándo fue la última vez que tuviste una herramienta de creación que estaba tan controlada editorialmente?”, dijo Nadella, de acuerdo con el reporte.

El CEO añadió que ese comportamiento no resulta razonable para una herramienta destinada a ayudar a los usuarios en tareas creativas y productivas. “No tiene sentido”, afirmó ante el equipo de Microsoft.

La crítica se produce en un momento delicado para Anthropic. La empresa reconoció que sus nuevas restricciones están bloqueando más solicitudes benignas de lo que había previsto inicialmente.

El debate sobre los límites de los modelos de IA enfrenta dos objetivos distintos. Las empresas buscan reducir riesgos de seguridad, pero también deben evitar que sus sistemas rechacen preguntas legítimas o de bajo riesgo.

Anthropic ajustó el acceso a su modelo

Anthropic restauró el acceso a Fable el 1 de julio. La compañía había suspendido previamente ese acceso para cumplir con una directiva de control de exportaciones del Gobierno de Estados Unidos.

Tras la reactivación, Anthropic informó que incorporaría nuevas salvaguardas en el sistema. La empresa también advirtió que esas medidas identificarían una proporción algo mayor de solicitudes inofensivas que la versión anterior.

Una página de soporte de Anthropic explica que algunas consultas vinculadas con elementos del desarrollo de modelos de gran escala pueden recibir un tratamiento distinto. En ciertos casos, el sistema puede derivar esas preguntas hacia una versión anterior de Fable.

La medida refleja la dificultad de aplicar filtros automáticos a temas técnicos complejos. Una consulta educativa sobre entrenamiento de modelos puede parecer similar a una petición relacionada con capacidades restringidas.

Para los usuarios, esa diferencia puede traducirse en respuestas inconsistentes. Una pregunta aceptada en una versión del modelo podría ser rechazada o transferida a otra bajo las nuevas reglas.

El problema no se limita a Fable AI. Los principales desarrolladores de modelos generativos enfrentan presiones de gobiernos, clientes empresariales y expertos en seguridad para establecer políticas de uso más estrictas.

Sin embargo, cada restricción puede reducir la utilidad percibida del producto. El desafío consiste en impedir usos dañinos sin convertir una herramienta general en un sistema excesivamente controlado.

Una alianza estratégica con tensiones visibles

Las declaraciones de Nadella resultan llamativas por la estrecha relación comercial entre Microsoft y Anthropic. Ambas empresas anunciaron un acuerdo en noviembre que conecta sus inversiones, servicios de nube y productos de inteligencia artificial.

Como parte del acuerdo, Microsoft se comprometió a invertir USD $5.000 millones en Anthropic. A cambio, Anthropic asumió el compromiso de dirigir USD $30.000 millones hacia la plataforma de nube Azure de Microsoft.

La alianza busca reforzar la infraestructura necesaria para operar modelos avanzados. También permite a Microsoft ampliar la oferta disponible para sus clientes empresariales mediante su negocio de computación en la nube.

Microsoft lanzó este año Copilot Cowork, una solución de productividad laboral construida alrededor de tecnología de Anthropic. El producto muestra hasta qué punto las capacidades de la startup forman parte de la estrategia de software de Microsoft.

Por esa razón, las críticas públicas de Nadella tienen una importancia particular. El ejecutivo cuestionó una característica del proveedor cuya tecnología también respalda una oferta comercial de su propia compañía.

Microsoft se negó a comentar sobre las declaraciones de Nadella. Anthropic tampoco respondió a una solicitud de comentarios sobre las críticas y sus políticas de filtrado.

La tensión plantea una pregunta relevante para el mercado: cuánto control debe conservar una empresa sobre los modelos que utiliza dentro de sus productos. También pone de relieve los riesgos de depender de un proveedor externo para funciones centrales.

La concentración del mercado preocupa a Microsoft

Durante la misma reunión, Nadella sostuvo que las empresas no deberían depender de un grupo reducido de proveedores de inteligencia artificial. El CEO cuestionó la estructura económica que concentra el capital y la capacidad computacional en pocas compañías.

“No puede ser que solo haya dos empresas en el mundo con capital disponible, y todos los demás lo estén alquilando”, dijo a los ingenieros. “No tiene sentido económico”, agregó.

Sus palabras apuntan a una característica central del sector. El entrenamiento y la operación de modelos avanzados requieren grandes cantidades de chips, centros de datos, energía y capital.

Esta estructura favorece a las compañías con acceso a infraestructura propia o a acuerdos preferenciales de nube. Las startups y empresas más pequeñas suelen depender de esos proveedores para construir y ejecutar sus productos.

La dependencia también puede aumentar los costos para los clientes. Si una compañía concentra una función crítica en un solo modelo, un cambio de precios, disponibilidad o políticas puede afectar sus operaciones.

Para Microsoft, la diversificación representa una forma de reducir esos riesgos. La empresa puede combinar tecnología propia con modelos de distintos proveedores, aunque esa estrategia también aumenta la complejidad de integración y supervisión.

Copilot forma parte de una competencia más amplia entre empresas tecnológicas por controlar la capa de aplicaciones de la IA. La disponibilidad de varios modelos podría ofrecer más flexibilidad, pero no elimina la necesidad de establecer reglas claras.

Anthropic enfrenta presión política y financiera

Anthropic ha enfrentado un escrutinio creciente desde varios frentes. El Pentágono designó a la empresa como un riesgo para la cadena de suministros después de que rechazara ciertos usos militares de sus modelos.

La startup se negó a permitir que su tecnología se utilice para armas autónomas o para vigilancia doméstica. Anthropic calificó la designación como legalmente insostenible y decidió impugnarla ante los tribunales.

El conflicto muestra la tensión entre las exigencias gubernamentales y las políticas de seguridad de las empresas de IA. Las compañías deben decidir hasta dónde permitir aplicaciones militares o de vigilancia cuando sus modelos pueden adaptarse a distintos contextos.

A pesar de la disputa, Anthropic ha reportado un fuerte crecimiento de sus ingresos anualizados. La cifra habría aumentado desde aproximadamente USD $9.000 millones a finales de 2025 hasta superar USD $30.000 millones.

Ese crecimiento demuestra la demanda existente por modelos avanzados entre clientes corporativos. También eleva la importancia de las decisiones de Anthropic sobre seguridad, acceso y colaboración con grandes plataformas tecnológicas.

El comportamiento bursátil de Microsoft ofrece un contraste con esa expansión. Las acciones de la empresa han caído un 17% en el año, mientras el Nasdaq Composite ha avanzado un 11% durante el mismo periodo.

La variación del mercado no puede atribuirse exclusivamente a la relación con Anthropic. Aun así, el contraste refleja las expectativas y preocupaciones que rodean a las grandes inversiones en inteligencia artificial.

La disputa sobre Fable AI seguirá vinculada a una cuestión más amplia. El sector debe equilibrar la seguridad de los modelos, la libertad de uso, la competencia entre proveedores y los intereses de gobiernos e inversionistas.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público

Este artículo fue escrito por un redactor de contenido de IA

 


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados