Por Canuto  

Los agentes de inteligencia artificial comienzan a ganar autonomía para buscar productos, tomar decisiones y ejecutar pagos. Ant Digital Technologies advierte que los bancos tendrán que identificar quién controla, autoriza y responde por cada agente antes de que esta tecnología administre una parte significativa del gasto mundial.
***

  • Los agentes de IA podrían coordinar hasta USD $5 billones del gasto global de consumidores para 2030, según McKinsey.
  • Ant International, Mastercard y Visa colaboran en un marco para reconocer agentes confiables entre distintos ecosistemas de pago.
  • El FMI advierte que la naturaleza probabilística de la IA choca con la previsibilidad exigida por los sistemas financieros.

Bancos enfrentan el desafío de conocer a los agentes de IA que compran y pagan

La expansión de los agentes autónomos de inteligencia artificial abre una nueva disputa de cumplimiento para las instituciones financieras: identificar quién controla, autoriza y responde por cada operación. La advertencia fue planteada por Zhuoqun Bian, vicepresidenta de Ant Group y presidenta del negocio de blockchain de Ant Digital Technologies, durante el Fortune Leaders Forum celebrado en Macao el 8 de septiembre. Según Bian, las reglas construidas durante décadas alrededor del principio de conoce a tu cliente deberán complementarse con controles específicos para los agentes.

El cambio no se limita a permitir que una herramienta sugiera productos o compare precios, porque un agente puede recibir instrucciones, decidir entre alternativas y ejecutar una compra sin intervención humana en cada paso. Esa autonomía transforma una operación que antes dependía de una persona identificable en un proceso donde también importa la identidad digital del software, su propietario y el alcance de la autorización recibida.

El nuevo problema de identificación para los bancos

En los sistemas financieros, el conocimiento del cliente permite evaluar quién inicia una transacción y bajo qué relación comercial actúa. Bian explicó que, dentro de una economía basada en agentes, las instituciones tendrán que responder preguntas adicionales: quién es el agente, de quién es y quién le concedió permiso para operar. La responsabilidad ya no quedaría asociada únicamente al titular de una cuenta o tarjeta.

La ejecutiva de Ant Digital Technologies sostuvo que esta exigencia será más compleja que el esquema tradicional de conoce a tu cliente, porque un agente puede interactuar con varios servicios, billeteras digitales, redes de tarjetas y mercados electrónicos. Cada conexión puede ampliar sus capacidades, pero también puede dificultar la verificación de sus límites, sus instrucciones vigentes y la persona o empresa que debe responder ante una operación no deseada.

El desafío aparece mientras las proyecciones sobre la economía de agentes muestran una escala potencial considerable. Un informe de enero de McKinsey calculó que estos sistemas podrían coordinar hasta USD $5 billones del gasto global de consumidores para 2030, una magnitud que convertiría cualquier error de identificación en un problema con efectos mucho mayores que los de una compra individual.

Para Bian, esa expansión también revela una limitación estructural: buena parte de la infraestructura de pagos fue diseñada suponiendo que una persona interactuaría directamente con el comercio o con el banco. La ejecutiva de Ant Digital Technologies afirmó que, hacia el futuro, la infraestructura deberá reconstruirse o actualizarse para que los agentes puedan operar con identidades, permisos y responsabilidades verificables.

Ant, Mastercard y Visa buscan interoperabilidad

La preocupación por establecer estándares comunes ya produjo una iniciativa concreta en el sector de pagos. El 10 de septiembre, Ant International anunció una colaboración con Mastercard y Visa para desarrollar un marco de interoperabilidad de conoce a tu agente. La propuesta busca que redes de tarjetas, billeteras digitales y mercados electrónicos puedan reconocer agentes confiables aunque operen en ecosistemas diferentes.

La interoperabilidad resulta relevante porque un agente no necesariamente permanecerá dentro de una sola plataforma durante todo el proceso de compra. Podría consultar un mercado, seleccionar un producto, utilizar una billetera y completar la operación mediante una red de tarjetas, de modo que cada participante necesitaría compartir señales suficientes para evaluar la legitimidad del software sin eliminar los controles propios.

El objetivo declarado no es simplemente acelerar pagos, sino permitir que los distintos actores distingan entre un agente autorizado y un programa que actúa sin permiso suficiente. Para que esa distinción funcione, las redes deberán relacionar la identidad del agente con su propietario, sus instrucciones y sus límites operativos, mientras los comercios y proveedores financieros mantienen mecanismos para rechazar o revisar transacciones cuestionables.

La tensión entre autonomía y previsibilidad

El Fondo Monetario Internacional examinó en una nota de abril una dificultad central para la adopción financiera de estos sistemas: los agentes de IA son probabilísticos y adaptativos. Eso significa que un mismo mensaje puede producir respuestas distintas, mientras que los sistemas de pago necesitan ofrecer respuestas consistentes para preservar la certeza jurídica, la confianza y la estabilidad.

La diferencia entre ambos modelos no es solamente técnica, porque afecta la forma en que se asignan responsabilidades cuando una decisión produce un resultado inesperado. Las redes de tarjetas y los sistemas de liquidación bruta en tiempo real dependen de reglas predecibles y estructuras claras de rendición de cuentas, según los autores de la nota del FMI, mientras que un agente puede modificar su comportamiento según el contexto.

La discusión también obliga a separar la autonomía de la capacidad de actuar sin controles. Un agente puede ejecutar tareas complejas y, al mismo tiempo, estar limitado por montos, comercios, categorías de productos, horarios o confirmaciones adicionales, pero la fuente no describe un estándar específico para aplicar esas restricciones. Por eso, la identificación inicial debe complementarse con procesos que permitan supervisar el comportamiento durante toda la operación.

La posibilidad de que un agente tome decisiones distintas frente a instrucciones similares introduce un riesgo especialmente delicado para los bancos. Una respuesta equivocada en una búsqueda puede generar una situación incómoda, pero una falla dentro de un flujo de trabajo agéntico podría multiplicarse mediante numerosas compras, autorizaciones o pagos antes de que un operador humano detecte el problema.

Los controles internos serán tan importantes como la tecnología

Benson Wong, director general y jefe de digital de JPMorgan Private Bank, señaló que nunca se había encontrado con una situación en la que la tecnología de un agente hubiera fallado o hubiera conducido a un resultado indeseable. Sin embargo, atribuyó la atención principal a otro punto: el modelo operativo, los procesos, el cumplimiento y los controles que rodean a la herramienta.

Su observación desplaza el debate desde la idea de que un modelo de IA debe ser perfecto hacia la necesidad de construir barreras alrededor de sus decisiones. Un banco puede evaluar el agente, registrar sus instrucciones, limitar sus permisos y revisar las operaciones que excedan ciertos criterios, aunque la fuente no detalla qué controles concretos emplea JPMorgan Private Bank ni presenta un caso específico de pérdida.

Wong también distinguió entre una equivocación de bajo impacto y una falla en un flujo de trabajo con autonomía. Si un agente responde mal a una pregunta informativa, el resultado puede reducirse a un momento embarazoso; en cambio, un error en un proceso que realiza compras o pagos puede generar impactos de escala, precisamente porque el sistema actúa con rapidez y puede repetir la conducta en múltiples operaciones.

La advertencia coloca a los bancos ante una tarea doble: reconocer al agente antes de aceptar sus instrucciones y vigilarlo mientras las ejecuta. Bian resumió esa exigencia al afirmar que las instituciones necesitan conocer a sus agentes mucho más de lo que conocen a sus clientes, una frase que condensa el cambio de prioridades que podría acompañar la expansión de los pagos autónomos.

Si la economía de agentes alcanza la escala proyectada, la confianza dependerá de que cada participante pueda demostrar quién autorizó una acción y quién debe responder por ella. El crecimiento de esta tecnología no elimina el cumplimiento financiero, sino que lo extiende a una nueva identidad operativa que hasta ahora permanecía fuera del centro del proceso.

Imagen original de DiarioBitcoin, creada con inteligencia artificial, de uso libre, licenciada bajo Dominio Público.

Este artículo fue escrito por un redactor de contenido de IA y revisado por un editor humano para garantizar calidad y precisión.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados