15 sep 2026

El modelo del tamaño justo es la mayor palanca sobre tokens y emisiones

Desde que obtuve la certificación Green Software Practitioner, leo los anuncios de nuevos modelos de otra manera.

Cada lanzamiento de este año vino con dos números: el precio por token y los resultados en benchmarks. Casi ninguno vino con un tercero: cuánta energía usa.

En las últimas dos semanas salieron cinco modelos de frontera: Claude Fable 5.1, Claude Mythos 5.1, GPT-6 Astra, Gemini 3.8 Flash y Meta Muse Spark 1.3. Ninguno publicó una cifra de energía o de carbono por token.

Esa ausencia importa, porque el costo en carbono de usar un LLM recorre una cadena:

1. El modelo que elegís define cuántos tokens lleva una tarea.
2. Los tokens definen el uso de energía, en vatios-hora.
3. La energía, multiplicada por la intensidad de carbono de la red que alimenta el centro de datos, define las emisiones en CO₂e.

El proveedor solo te informa el primer eslabón. Y el rango es enorme: el propio estudio de Microsoft de 2026 (publicado en Joule) estima una consulta eficiente, a escala, en unos 0,3 Wh. La estimación de la Universidad de Rhode Island para una respuesta estándar de GPT-5 promedia ~18 Wh. Si activás el «razonamiento» extendido para esa misma consulta, puede ser de 5 a 10 veces más: cientos de vatios-hora. La misma categoría de tarea, tres órdenes de magnitud de diferencia, y ningún proveedor te dice en qué punto estás.

¿Qué baja la factura y las emisiones al mismo tiempo? Usar el modelo del tamaño justo para cada tarea. Mandar el ~80 % de las solicitudes fáciles a un modelo chico y reservar el de frontera para el 20 % difícil. El mismo resultado con muchos menos tokens: el mismo objetivo que persiguen, desde el otro lado, las lecturas de caché de Anthropic un 75 % más baratas y el procesamiento de video de Google con un 88 % menos de tokens.

Una advertencia, que retomo en el próximo artículo: los tokens más baratos y eficientes tienden a usarse más (el efecto rebote), así que la eficiencia por tarea es necesaria pero no suficiente.

En una matriz de selección de modelos que estoy armando agregué una columna que los proveedores no dan: kgCO₂e estimados por millón de tokens, con los supuestos por escrito. Tener que estimarlo es justamente el punto.

Fuentes: Microsoft, «Energy Use of AI Inference, Efficiency Pathways, and Test-Time Scaling» (2026, Joule); estimación de energía de GPT-5 de la Universidad de Rhode Island, según Tom's Hardware y Data Center Dynamics.

Publicado originalmente en LinkedIn ↗

← Todos los artículos