Por Canuto  

BNY afirma que desarrolló herramientas para seguir su consumo de tokens de IA y dirigir cada tarea al modelo más conveniente. La medida busca contener costos mientras el banco opera unos 400 agentes y destina USD $4.000 millones anuales a tecnología.
***

  • El director financiero Dermot McDonogh dijo que BNY mide el uso de tokens y evita recurrir a modelos costosos para consultas sencillas.
  • El banco utiliza modelos de grandes proveedores de nube, pero McDonogh aseguró que no está comprometido con uno solo.
  • El nuevo énfasis en el control de costos contrasta con declaraciones anteriores de McDonogh, quien decía que el banco priorizaba los resultados.

BNY construyó herramientas de telemetría para observar cuánto gasta en tokens de inteligencia artificial y asignar cada tarea a un modelo adecuado. La decisión apunta a controlar costos en un momento en que el banco opera unos 400 agentes de IA y mantiene un presupuesto tecnológico anual de USD $4.000 millones.

BNY mide su gasto en tokens de IA para contener costos

Telemetría para vigilar el consumo

BNY desarrolló herramientas para rastrear cuánto gasta en inteligencia artificial y cómo utiliza los tokens, según dijo su director financiero, Dermot McDonogh, en una entrevista con Bloomberg Television. El banco también enruta las tareas hacia los modelos que considera más apropiados, una práctica que, de acuerdo con el ejecutivo, busca evitar que solicitudes sencillas generen gastos innecesarios.

McDonogh describió la supervisión como una telemetría sofisticada y afirmó que el banco adoptó disciplina para seguir tanto el gasto como el uso de sus tokens. Su criterio, explicó, es no emplear modelos costosos para consultas baratas; así, la selección del sistema depende de la tarea y no de una preferencia fija por una herramienta.

En este contexto, los tokens son unidades que los modelos de IA procesan al recibir instrucciones y producir respuestas. Medir su consumo permite a una organización observar con más detalle qué tareas demandan recursos y, según el planteamiento de BNY, decidir cuándo conviene asignarlas a modelos de mayor o menor costo.

El seguimiento adquiere relevancia porque las empresas pueden enfrentar facturas de IA más altas incluso cuando baja el precio por token, si sus agentes consumen muchos más tokens. McDonogh sostuvo que dirigir cada solicitud al modelo correcto será cada vez más importante a medida que los costos pesen en las decisiones de uso.

Un banco con cientos de agentes y varios proveedores

BNY ejecuta unos 400 agentes de inteligencia artificial, mientras que la IA representa solo una parte de su presupuesto tecnológico anual de USD $4.000 millones. La cifra dimensiona el marco de inversión tecnológica del banco, aunque la información divulgada no desglosa cuánto corresponde específicamente a modelos, tokens o agentes.

El banco utiliza modelos ofrecidos por grandes proveedores de servicios en la nube, pero McDonogh dijo que BNY no está atado a ninguno. Esa flexibilidad resulta relevante para su estrategia de enrutamiento, porque la entidad afirma que puede elegir modelos según las necesidades de cada tarea y no limitarse a una sola opción.

La posición también fue destacada pese a que Robin Vince, director ejecutivo de BNY, se incorporó en julio a la junta directiva de OpenAI. McDonogh sostuvo que la relación de Vince con esa compañía no implica que el banco dependa exclusivamente de sus modelos, y reiteró que BNY trabaja con proveedores de nube diferentes.

La información divulgada no identifica qué modelos utiliza el banco ni detalla sus tarifas, el volumen total de tokens o el ahorro que produciría la telemetría. Por eso, las declaraciones describen el enfoque de gestión de BNY, pero no permiten calcular cuánto dinero ha evitado gastar ni comparar el desempeño de sus proveedores.

Un cambio de énfasis en el debate sobre costos

Las declaraciones recientes marcan un cambio frente a lo que McDonogh había dicho en julio a Fortune. En esa ocasión, señaló que el banco no rastreaba el uso de tokens y que se concentraba en los resultados; ahora, en cambio, describe herramientas específicas para observar el consumo y orientar las tareas.

La diferencia no implica necesariamente que BNY haya abandonado su foco en los resultados, pero sí muestra que el control del gasto ocupa un lugar más explícito en la conversación. McDonogh vinculó la importancia de asignar modelos con el peso creciente de los costos, sin presentar la vigilancia de tokens como una meta separada del uso de la IA.

El ejecutivo también quiso distinguir esa gestión de costos de una estrategia de recorte de empleos. Dijo que BNY no aborda la IA en términos de eficiencia o reducción de puestos, sino de capacitación y de intentar hacer mejor el trabajo; la declaración delimita cómo el banco presenta internamente la adopción, aunque no ofrece cifras sobre empleo o formación.

Otros actores citados en el reporte han hablado de presiones y efectos laborales con mayor franqueza. En junio, el director ejecutivo de Commonwealth Bank of Australia advirtió sobre facturas crecientes; en julio, Atlassian puso a sus ingenieros bajo presupuestos mensuales de IA, mientras Jane Fraser, directora ejecutiva de Citi, dijo que las pérdidas de empleo vinculadas con IA ya habían comenzado en ese banco.

El reto de equilibrar adopción y gasto

La experiencia de BNY refleja una tensión que atraviesa la adopción empresarial de la IA: ampliar el uso de herramientas puede elevar el consumo total, incluso si cada unidad resulta menos costosa. En ese escenario, la telemetría ofrece una forma de observar qué se utiliza y de ajustar la asignación, aunque la información disponible no cuantifica los resultados económicos de esa política.

El banco intenta evitar que cada tarea termine automáticamente en el modelo más caro y, al mismo tiempo, afirma que no quiere frenar el uso de la tecnología por controlar los costos. La estrategia que describe McDonogh busca compatibilizar ambas prioridades mediante la selección del modelo según la consulta, no mediante una reducción general del acceso a la IA.

La decisión de medir tokens también señala que el gasto tecnológico ya no se evalúa únicamente por el presupuesto agregado. Para BNY, el seguimiento del consumo y la elección de modelos forman parte de la gestión cotidiana de sus herramientas, aunque el banco no detalló cómo evalúa la calidad de las respuestas frente al costo de cada opción.

Por ahora, el mensaje de McDonogh combina supervisión presupuestaria con una defensa de la capacitación y de mejores resultados, en lugar de presentar la IA principalmente como un mecanismo de reducción de personal. La próxima señal relevante será si BNY comparte datos sobre el impacto de sus controles, algo que permitiría entender cuánto contribuye el enrutamiento de tareas a contener las facturas mientras crece el uso de agentes.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados