Por Canuto  

Addy Osmani, miembro del personal técnico de Anthropic, advierte que la IA puede producir código más rápido de lo que las personas logran revisarlo. Esa brecha, sostiene, puede dejar a las empresas con sistemas que entienden cada vez menos y fallas más difíciles de contener.
***

  • Addy Osmani llama «deuda de comprensión» a la pérdida de conocimiento sobre cómo y por qué se construyen los sistemas.
  • La generación acelerada de código puede superar la capacidad humana de revisión y debilitar capas de verificación, incluso cuando se usan pruebas automatizadas.
  • La advertencia apunta a riesgos para servicios financieros, de salud y gubernamentales, donde un error puede tener consecuencias graves.


La advertencia no apunta a una inteligencia artificial fuera de control, sino a un problema más cotidiano: empresas que acumulan código a una velocidad que sus equipos no alcanzan a comprender ni revisar.

Addy Osmani, miembro del personal técnico de Anthropic que trabaja en Claude Code, sostiene que esa brecha puede debilitar la capacidad de detectar errores y reparar sistemas complejos. En una reflexión publicada en marzo, llamó «deuda de comprensión» al costo de producir código sin que las personas desarrollen un entendimiento equivalente de cómo funciona. El análisis de Yahoo Finance vincula esa preocupación con interrupciones tecnológicas recientes, pero no presenta pruebas de que el código generado por IA haya causado los incidentes mencionados.

La velocidad de producción supera la revisión

Las fallas de servicios tecnológicos se han vuelto un tema frecuente en la conversación pública. Entre los episodios reportados en noviembre, el vicepresidente JD Vance canceló su aparición prevista en el DealBook Summit de Nueva York el 18 de noviembre después de que le pidieran permanecer en Washington para asistir a reuniones sobre interrupciones recientes que afectaban a sectores como el transporte, la tecnología y la banca, según UPI. No fue que una falla le impidiera asistir: canceló el evento para participar en esas reuniones. Por otra parte, el jefe de ciberseguridad de la Casa Blanca, Sean Cairncross, anunció el 19 de noviembre que dejaría el cargo, en medio de una serie de problemas tecnológicos, según Yahoo Noticias. Esa coincidencia no demuestra por sí misma que un incidente específico causara su salida.

La infraestructura envejecida, el mantenimiento aplazado y la falta de personal también forman parte del cuadro descrito en el análisis. En ese contexto, Osmani plantea otra causa posible de fragilidad: la distancia creciente entre el volumen de código que produce la IA y la capacidad humana para entenderlo. Su reflexión sobre la «deuda de comprensión» apareció en su blog el 14 de marzo de 2026 y circuló entre profesionales de software. La advertencia se refiere menos a un defecto aislado de un producto que a la forma en que las compañías incorporan estas herramientas a sus procesos.

La revisión de código cumple una función que va más allá de encontrar errores de sintaxis o comprobar que una tarea específica funciona. Al leer el trabajo de otros, los ingenieros conocen las decisiones que dieron forma a un sistema, las dependencias entre sus componentes y los motivos por los que ciertas partes se diseñaron de una manera determinada. Ese conocimiento acumulado permite reconocer cuándo una modificación aparentemente pequeña puede alterar funciones que no resultan evidentes a primera vista.

La IA cambia la escala de esa tarea porque puede producir código a un ritmo que vuelve inviable revisar manualmente cada fragmento. Las pruebas automatizadas, la revisión asistida por otros modelos y la reducción del tiempo dedicado a inspeccionar cambios pueden ayudar a sostener el flujo de trabajo, pero no necesariamente reemplazan las capas de verificación y comprensión que aporta una persona. Para Osmani, cuando esas capas se adelgazan, las organizaciones corren el riesgo de aprobar modificaciones sin entender bien cómo encajan en el conjunto.

Qué significa la «deuda de comprensión»

La expresión describe el costo que se acumula cuando un equipo incorpora cambios sin desarrollar, al mismo tiempo, un entendimiento suficiente de la arquitectura y de sus decisiones previas. No se trata simplemente de tener más líneas de código por mantener; el problema aparece cuando quienes deben operar el sistema pierden la capacidad de explicar por qué existe una pieza, qué otras funciones dependen de ella o qué consecuencias puede desencadenar una corrección. Esa falta de contexto puede permanecer oculta mientras todo parece funcionar.

El riesgo se vuelve más concreto cuando ocurre una interrupción y el equipo intenta restablecer el servicio con rapidez. Una modificación que parece un arreglo puntual puede tocar un componente que actúa como soporte para otras funciones, o desactivar una contingencia cuya importancia no resulta clara en el código inmediato. Si los responsables no conocen esas relaciones, un parche puede resolver un síntoma y, a la vez, provocar nuevos problemas en otras partes del sistema.

La advertencia no equivale a afirmar que cada programa generado por IA sea defectuoso ni que la automatización conduzca inevitablemente a una crisis. El punto es que la producción acelerada puede hacer más difícil distinguir entre una solución segura y una que solo supera las pruebas disponibles, especialmente cuando los equipos dependen de controles automáticos para compensar la falta de revisión humana. Las pruebas pueden detectar fallas previstas, pero no garantizan por sí solas que los responsables comprendan todas las interacciones de un sistema complejo.

La idea tiene una relación directa con la manera en que las empresas organizan el trabajo de ingeniería. En vez de escribir cada pieza de software, algunos equipos pasan a supervisar agentes que generan código, una transformación que puede elevar la productividad pero también desplazar la experiencia práctica que antes se obtenía al construir y revisar los sistemas. El CEO de Microsoft, Satya Nadella, describió esta lógica al decir que los ingenieros de la compañía «construyen una fábrica de software que construye el producto» y que ellos no construyen directamente el producto, según TechCrunch.

El desafío para los servicios críticos y la rendición de cuentas

El asunto adquiere mayor peso cuando el código se ejecuta en servicios de salud, infraestructura financiera o plataformas gubernamentales. Osmani escribió que, si el software generado por IA opera en esos ámbitos, la explicación de que el código salió mal porque lo escribió una inteligencia artificial y no se revisó completamente no bastaría en un informe posterior al incidente cuando están en juego vidas o activos significativos. La advertencia vincula así una práctica de ingeniería con la responsabilidad institucional de quienes deciden desplegar sistemas.

El debate también se desarrolla en medio de fallas que suelen discutirse como un problema de ciberseguridad, aunque el análisis plantea que pueden responder a varios factores. Los ataques pueden beneficiarse de herramientas de IA capaces de descubrir y explotar errores, mientras que la infraestructura deteriorada, el mantenimiento postergado y la falta de personal aumentan la fragilidad de las operaciones. La acumulación de código que nadie alcanza a revisar podría sumarse a esas presiones, pero los incidentes mencionados no demuestran que ese sea su origen.

Hasta ahora, sostiene el artículo de Yahoo Finance, las grandes compañías tecnológicas han afrontado consecuencias limitadas por interrupciones y decisiones de diseño que recibieron críticas por fomentar adicción, conductas antisociales o explotación económica. La IA podría modificar ese cálculo si los sistemas automatizados pasan a generar más software para servicios esenciales, porque entonces la tolerancia a una supervisión insuficiente sería más difícil de defender. La posibilidad de que termine una etapa de autorregulación basada en la confianza aparece como una preocupación, no como una regulación ya aprobada ni como un desenlace inevitable.

El balance de Osmani es una advertencia sobre gestión y supervisión, no una predicción de que una IA consciente vaya a provocar un colapso. Las interrupciones tecnológicas descritas han generado molestias y atención pública, pero, de acuerdo con el análisis, hasta ahora no han desembocado en un evento con víctimas masivas ni en una crisis económica prolongada. La pregunta que deja abierta es si los equipos podrán conservar suficiente conocimiento de sus sistemas cuando la generación de código avance más rápido que la revisión, en especial allí donde una falla puede afectar servicios y activos de gran importancia.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín