Por Canuto  

Los tokens de IA se han convertido en la nueva moneda de la era agéntica, pero su mal uso puede arruinar presupuestos. Aprende qué son, por qué no todos cuestan igual y cómo gastarlos sabiamente sin frenar la innovación.
***

  • Descubre las cuatro eras del consumo de tokens: desde el todo incluido hasta la era inteligente.
  • Aprende a distinguir tokens que enseñan, que producen y que giran para optimizar tu factura.
  • Conoce estrategias prácticas para auditar tu uso y proteger el presupuesto de aprendizaje.

La era agéntica de la inteligencia artificial trajo consigo una nueva preocupación: el costo de los tokens. Cada empresa que adopta IA enfrenta preguntas sobre cuánto gastar, cómo medir el valor y evitar que la factura se dispare. Nofar Gaspar, en el episodio Everything You Need to Know about AI Tokens del canal The AI Daily Brief: Artificial Intelligence News, ofrece una guía completa para navegar este complejo panorama.

El episodio aborda desde los conceptos básicos de qué es un token hasta estrategias avanzadas para optimizar su uso. La conversación es crucial porque estamos firmemente en la era agéntica, donde las empresas deben pensar no solo en cómo lograr adopción, sino también en hacerlo sin romper el banco. La clave está en usar la inteligencia correcta para los problemas correctos.

¿Qué es un token en IA?

Un token es un fragmento de texto que el modelo lee y escribe. Típicamente es más grande que un carácter y más pequeño que una palabra. Por ejemplo, una página de texto equivale aproximadamente a 1.000 tokens.

El tokenizador de OpenAI es visible en su herramienta pública, donde se puede pegar texto y ver cómo se dividen las palabras. Algunas palabras se quedan como un solo token, mientras que otras se separan en varios. Los números a menudo se cortan por la mitad, y los idiomas no latinos pueden requerir de dos a cinco veces más tokens por el mismo contenido.

Este fenómeno se conoce como el ‘impuesto de idioma’, y puede encarecer significativamente las consultas en ciertos idiomas. En el código, la indentación, los corchetes y los espacios en blanco también se convierten en tokens. Por eso, la prueba de la fresa, donde la IA falla al contar las letras ‘r’, es en realidad un problema de tokenización, no una falla del modelo.

Los modelos modernos tienen tokenizadores con vocabularios que varían: OpenAI tiene alrededor de 200.000 tokens, Gemini 256.000, Llama la mitad y Claude no publica su número. Estas diferencias afectan el precio por token, ya que cada laboratorio usa su propio sistema de medición.

Una misma conversación puede costar más en un proveedor que en otro, incluso con el mismo precio por millón de tokens. Esto se debe a que un modelo puede responder en una sola pasada, mientras que otro razona más, escribe más o necesita más reintentos.

Las cuatro eras del consumo de tokens

Nofar Gaspar identifica cuatro fases históricas: la era todo incluido, la era de maximizar tokens, la era de minimización y la era inteligente. En la primera, las empresas subsidiaban el uso y las suscripciones planas no mostraban el costo real por token.

Luego vino la etapa de maximizar tokens, donde el uso se convirtió en una insignia de madurez en IA. Meta, por ejemplo, rastreaba el uso interno con tablas de clasificación, alcanzando hasta 280.000 millones de tokens por un solo usuario en un mes. Uber también lanzó una tabla de adopción y quemó todo su presupuesto de codificación en cuatro meses.

Este enfoque insostenible llevó al péndulo hacia la era de minimización, donde los empleados se autocensuran por miedo a los costos. Meta pasó de la tabla de clasificación a un memo que limitaba el uso, y Uber redujo a 1.500 tokens por empleado. Esta reacción exagerada genera ansiedad y frena la innovación.

La era inteligente propuesta por Gaspar busca gastar sabiamente, no con moderación. Implica entender qué crea valor y dónde el uso se filtra silenciosamente. Es un equilibrio entre la experimentación y el control de costos, donde el token más caro es el que el mejor talento tiene miedo de gastar.

El costo real por tarea y tokens que giran

Los tokens no nacen iguales. Cada laboratorio tiene su propio tokenizador, y el mismo documento puede ser de 10% a 20% más tokens en un proveedor que en otro. La herramienta alrededor del modelo añade contexto y diseño de bucle, generando facturas completamente diferentes.

Un ejemplo clave ocurrió con el lanzamiento de Opus 4.7, cuando el tokenizador cambió silenciosamente y produjo aproximadamente un 30% más de tokens para el mismo texto. Aunque el precio nominal se mantuvo, las facturas reales crecieron entre un 12% y un 27%. Esta práctica se asemeja a la reducción de tamaño en productos de consumo.

Por eso, la métrica correcta es el costo por tarea aceptada, no el costo por token. Incluye el aumento de tasa, la revisión, cada corrección y las iteraciones adicionales. Dividir el total entre los resultados aceptados da la verdadera métrica operativa.

Para identificar el gasto, Gaspar recomienda la prueba del fin de semana: si no usas IA pero la factura sigue creciendo, hay algo mal. Buscar proporciones extremas de entrada a salida, como 2.600 a 1, es señal de bucles vacíos. Los agentes que giran sin salida útil son los principales sospechosos.

En un caso personal, Gaspar gastó USD $1.500 en un agente que no estaba usando, con 400 millones de tokens de entrada y casi cero de salida. Una máquina hablando consigo misma. Este tipo de situaciones se multiplican cuando las tarjetas de crédito son corporativas y nadie monitorea el panel.

Estrategias para optimizar tokens

Para los usuarios individuales, es esencial practicar hábitos como usar sesiones nuevas para tareas nuevas, ajustar el tamaño del contexto, construir habilidades reutilizables y filtrar datos de manera eficiente. También recomienda usar el comando /doctor en Claude Code para auditar configuraciones obsoletas.

El enrutamiento de modelos es otra palanca clave. Aunque existan enrutadores automáticos, elegir manualmente el modelo correcto para cada tarea sigue siendo de alto retorno. A veces un modelo más caro por token resulta más barato por tarea, como mostró Databricks con Opus frente a Sonnet.

En el experimento, Opus costaba USD $1,94 por tarea mientras que Sonnet USD $2,09, a pesar de ser más caro por token, porque necesitaba menos iteraciones. La herramienta también influye: el mismo modelo con diferentes arneses mostró más del doble de costo por tarea.

Para las organizaciones, es crucial hacer visible el uso y educar a los empleados. El presupuesto debe ser por carga de trabajo, no global, y se debe proteger la inversión en aprendizaje. Los tokens que enseñan, como los que se usan para experimentar o construir contexto, son matrícula que rinde frutos.

En cambio, los tokens que producen son fáciles de justificar, pero los tokens que giran, como automatizaciones sin uso o bucles mal diseñados, deben eliminarse. La regla de oro: si una automatización no se ha usado en dos semanas, hay que matarla.

En resumen, la era de la IA exige un enfoque inteligente sobre los tokens. No se trata de gastar menos, sino de gastar mejor. Auditar, enseñar y optimizar son las claves para no romper el banco y seguir innovando.


ADVERTENCIA: DiarioBitcoin ofrece contenido informativo y educativo sobre diversos temas, incluyendo criptomonedas, IA, tecnología y regulaciones. No brindamos asesoramiento financiero. Las inversiones en criptoactivos son de alto riesgo y pueden no ser adecuadas para todos. Investigue, consulte a un experto y verifique la legislación aplicable antes de invertir. Podría perder todo su capital.

Suscríbete a nuestro boletín

Artículos Relacionados