Por Canuto  

Satya Nadella sostiene que la IA está acelerando el descubrimiento de fallos de software, pero también obliga a desplegar correcciones con menos tiempo para probarlas. Tras la caída de Outlook, el CEO de Microsoft advirtió que esa presión podría aumentar las interrupciones y elevar los riesgos para sistemas críticos.
***

  • Nadella dijo que un error latente desencadenó la caída de Outlook y reconoció que Microsoft pudo haber hecho más pruebas y aislado mejor el impacto.
  • Advirtió que las vulnerabilidades detectadas con ayuda de IA empujan a aplicar parches urgentes, mientras los sistemas conectados y el firmware antiguo complican la defensa.
  • Propuso registros verificables para auditar modelos de IA y describió cambios en los modelos comerciales, el trabajo de oficina y el desarrollo de software.


Nadella advierte que la IA puede acelerar fallos y caídas de servicio

El CEO de Microsoft anticipa más interrupciones porque las herramientas de inteligencia artificial encuentran defectos con rapidez, mientras las empresas enfrentan presión para corregirlos antes de que los exploten.

Satya Nadella dijo que la velocidad con que la inteligencia artificial ayuda a descubrir vulnerabilidades puede dejar a las compañías sin tiempo suficiente para probar sus correcciones. En una conversación con Andrew Ross Sorkin durante el DealBook Summit de The New York Times, en Nueva York, el miércoles, vinculó esa tensión con la posibilidad de que ocurran más caídas de servicio. Sin embargo, no atribuyó la interrupción de Outlook de la semana anterior a un fallo detectado por IA.

Nadella describió el incidente de Outlook como la activación de un error latente. En otra conversación ese mismo día con Jim Cramer en Mad Money, reconoció que Microsoft pudo haber realizado más pruebas y establecido mejores barreras para evitar que un fallo se extendiera globalmente.

La urgencia de los parches choca con las pruebas

El problema que planteó Nadella surge cuando una vulnerabilidad se vuelve conocida y los atacantes pueden aprovecharla antes de que las organizaciones completen sus procedimientos de revisión. El ejecutivo contrastó la práctica anterior de dedicar una semana a probar una corrección destinada a un sistema bancario crítico con la presión actual de instalar parches de inmediato cuando el fallo ya se explota en el mundo real.

Según relató, el mismo día de sus declaraciones se habían publicado tres parches críticos para paquetes de código abierto. Nadella sostuvo que, ante una explotación activa, la corrección puede pasar de estar disponible a producción casi instantáneamente, y advirtió que esa velocidad introduce inestabilidad si las pruebas y el despliegue seguro no pueden seguir el mismo ritmo.

The Next Web informó que ejecutivos de Wall Street y funcionarios de la Agencia de Seguridad Nacional de Estados Unidos habrían atribuido ante miembros del Congreso algunas caídas tecnológicas de esa semana a parches apresurados para fallos detectados con ayuda de IA. Sin embargo, la NSA indicó en un comunicado que experimentó una degradación temporal durante tareas de mantenimiento rutinario. Por ello, la atribución a los parches debe presentarse como un reporte sobre lo dicho ante legisladores, no como una causa confirmada públicamente por la agencia. DiarioBitcoin también informó sobre la hipótesis de que parches acelerados contribuyeron a algunas caídas.

El dilema no se reduce a decidir entre instalar un parche o dejar una vulnerabilidad abierta. Las organizaciones deben sopesar el peligro de una explotación en curso frente al riesgo de que una corrección apresurada altere servicios que dependen de numerosos componentes conectados; la advertencia de Nadella apunta precisamente a ese choque entre la velocidad de respuesta y la estabilidad operativa.

Una superficie de ataque que se amplía

Nadella resumió el cambio en ciberseguridad al afirmar que el umbral para lanzar ataques ha bajado. A su juicio, los modelos de IA permiten que más personas ejecuten operaciones que antes requerían recursos y capacidades comparables a las de un atacante persistente de nivel estatal, lo que vuelve más difícil que las defensas dependan de barreras técnicas tradicionales.

El CEO no presentó esa transformación como una etapa pasajera. Al ser consultado por Sorkin, la comparó con el problema del año 2000, pero aclaró que todavía no tenía una opinión definitiva porque los modelos continúan ganando capacidad; esa incertidumbre, en su planteamiento, hace más difícil anticipar hasta dónde llegará el cambio.

También señaló que una parte importante de la infraestructura crítica utiliza firmware que nadie puede parchear con facilidad. Mencionó enfriadores, sistemas de calefacción y refrigeración y redes de transporte conectadas a internet, ejemplos que ilustran por qué la seguridad no depende únicamente de actualizar los programas más visibles de una empresa.

La combinación de equipos conectados, componentes difíciles de modificar y fallos detectados con mayor rapidez deja a los operadores ante riesgos que no siempre pueden resolver con una actualización inmediata. Nadella no detalló medidas específicas para cada sector, pero su advertencia pone el foco en una limitación práctica: encontrar una vulnerabilidad no garantiza que exista una vía rápida y segura para corregirla en todos los sistemas afectados.

Auditar modelos y responder por sus decisiones

La conversación también abordó la alineación de los sistemas de IA, es decir, la capacidad de hacer que su comportamiento sea compatible con los objetivos y límites definidos por las personas. Nadella recordó que había dicho el mes anterior a 20VC que la alineación no llegaría solo mediante el aumento de escala, y señaló que las leyes de escalado le habían sido explicadas por fundadores de OpenAI.

Según su evaluación, el escalado sí había funcionado, pero la alineación y una forma efectiva de depurar los modelos no habían avanzado al mismo ritmo. Sorkin mencionó que Sam Altman, quien había hablado antes en la cumbre, discrepaba de esa premisa; Nadella dijo que esperaba que Altman y Greg Brockman tuvieran razón, porque de lo contrario, advirtió, el resultado sería muy problemático.

Como respuesta, Nadella propuso lo que llamó una arquitectura de confianza. Su planteamiento excluiría modelos cuyo razonamiento ocurra en una forma interna que las personas no puedan leer, descrita como “neuralese”, y exigiría registros a prueba de manipulaciones que otros modelos puedan inspeccionar para revisar cómo se produjo una respuesta.

La propuesta parte de la preocupación de que los modelos puedan intentar ocultar lo que hacen, por lo que la observabilidad y la auditoría ocuparían un lugar central. Nadella elogió a OpenAI por monitorear sus modelos durante el entrenamiento y sostuvo que, por ahora, quien despliegue un sistema de IA responde por sus acciones; también anticipó que las aseguradoras podrían poner precio a ese riesgo y solicitar registros verificables.

Modelos más baratos, agentes y cambios en el trabajo

Al hablar del negocio de la IA, Sorkin preguntó qué implicaría para OpenAI y Anthropic, en las que Microsoft tiene participaciones, que modelos más baratos pudieran realizar el mismo trabajo. Nadella respondió que muchas tareas cotidianas de oficina ya no requieren modelos de frontera y explicó que Copilot puede elegir entre modelos de OpenAI, Anthropic y los modelos MAI desarrollados por Microsoft.

Nadella afirmó que la mayor participación de Microsoft está en la propia compañía y rechazó la idea de defender precios elevados por cada token como una apuesta sostenible. Dijo que sostener un poder de fijación de precios enorme para los tokens equivaldría, en cierto sentido, a apostar contra el producto interno bruto de Estados Unidos.

También señaló que el acuerdo de Microsoft con OpenAI le da acceso libre de regalías a un modelo de frontera hasta 2032. Según su descripción, ese acceso permite a Microsoft desarrollar modelos MAI que quedan entre tres y seis meses por detrás de la frontera y que utilizan entre 5% y 20% de la potencia de cómputo; caracterizó a OpenAI y Anthropic como compañías con una estrategia vertical, frente al enfoque de Microsoft centrado en un sistema de modelos.

En cuanto a los agentes de IA, Nadella previó cambios en la forma en que se distribuyen los pagos en la web, comparables al paso de Yahoo a los motores de búsqueda. Los sitios que dependen de visitas humanas para vender publicidad tendrían que adaptarse, y advirtió que una plataforma que no admita agentes podría ceder negocio a competidores que sí los acepten, como en el ejemplo de Amazon y Shopify.

El trabajo de software y la relación con Washington

Nadella dijo que las compras de personal ofrecidas por Microsoft a 60.000 personas buscaban dar más capacidad de acción a todos los empleados. A la vez, sostuvo que la ingeniería de software sigue muy activa, aunque el trabajo ya cambió, y describió una operación en la que un equipo de 11 desarrolladores trabaja en el agente Cowork para construir lo que llamó una fábrica de software que produce el producto.

Ese ejemplo refleja una transformación en la organización del desarrollo, no la desaparición de la actividad, según la explicación del ejecutivo. Nadella advirtió que el cambio tomará más tiempo del que cualquiera espera, una cautela que matiza las expectativas de que los agentes automaticen de inmediato el trabajo de los equipos de ingeniería.

La conversación también tocó su distancia respecto de la administración Trump. Ante el comentario de Sorkin sobre su relación con Washington, Nadella dijo que su trabajo consiste en ganarse el permiso de Microsoft para operar mediante sus productos y expresó que prefería permanecer en Redmond, en el estado de Washington, en lugar de estar en la capital.

En conjunto, sus declaraciones describen una empresa que ve oportunidades comerciales en modelos más económicos y agentes capaces de cambiar la distribución de tareas, pero también riesgos técnicos y de supervisión. La advertencia central es que la velocidad de la IA puede superar los ritmos establecidos para proteger sistemas, probar correcciones y evaluar modelos, mientras empresas y aseguradoras todavía buscan cómo medir y asumir esas responsabilidades.


Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín