Adopción de la inteligencia artificial en las organizaciones: lo que revelan los datos de uso.

Muchos debates públicos sobre inteligencia artificial aún giran en torno a clasificaciones: qué modelo ocupa el primer puesto, qué proveedor es el "ganador" y qué puntuación de referencia es la más importante. Sin embargo, para las organizaciones que desarrollan e implementan soluciones de IA, estas cuestiones son cada vez menos relevantes que la comprensión de cómo se utiliza la IA en escenarios reales.

Una de las razones es la creciente controversia en torno al concepto de "tokenmaxxing", una práctica destinada a maximizar el uso de la inteligencia artificial, a menudo impulsada por objetivos de adopción internos, incentivos o competencia basada en clasificaciones.

Sin embargo, centrarse en el consumo de tokens puede fomentar la actividad por la actividad misma, en lugar de medir el verdadero valor comercial que ofrece la inteligencia artificial.

Ejemplos recientes, como los informes sobre el cierre de una clasificación interna de IA por parte de Amazon y la limitación del gasto en IA de sus empleados por parte de Uber tras agotar rápidamente su presupuesto anual, ponen de manifiesto los riesgos de considerar el uso como la principal medida de éxito.

Sin embargo, los datos más recientes sugieren una perspectiva más matizada. Según los datos de AI Gateway de Vercel correspondientes a julio, el volumen de tokens creció un 29 % en junio, mientras que el gasto aumentó un 27 %, manteniéndose estable el precio promedio de los tokens. En lugar de simplemente consumir IA, las organizaciones están siendo más selectivas a la hora de determinar dónde implementar los diferentes modelos y cómo equilibrar el costo y el rendimiento.

Los equipos que desarrollan sistemas de IA propiamente dichos están optando cada vez más por enrutar tareas de forma dinámica entre múltiples modelos, en función del coste, la fiabilidad y las capacidades de inferencia. Por ejemplo, un modelo de bajo coste podría ser útil para resumir tareas, mientras que un modelo de inferencia de alto rendimiento se reserva para decisiones de gran importancia.

En la práctica, la inteligencia artificial consiste más en coordinar capas a través de múltiples modelos que en construir sistemas en torno a un único proveedor.

Los datos más recientes de AI Gateway muestran que las organizaciones están distribuyendo las cargas de trabajo entre diferentes categorías de modelos en lugar de depender de un único proveedor. Los modelos de peso abierto ahora gestionan el 29 % de los tokens de la puerta de enlace, aunque representan menos del 4 % del gasto, mientras que los modelos de vanguardia siguen dominando las cargas de trabajo de inferencia de mayor valor.

En lugar de adoptar un enfoque único para todos los casos, las organizaciones eligen diferentes modelos en función de la tarea a realizar.

Superando los primeros puestos de las listas

En las primeras etapas de la adopción de la IA en las empresas, se alentó a los equipos a experimentar activamente, desarrollar prototipos y explorar nuevos casos de uso. Esto ayudó a acelerar la adopción, que requiere llevar la IA de la etapa experimental a la aplicación práctica, pero también creó una suposición simplista: que más IA significa automáticamente más valor.

El volumen y el gasto en tokens crecieron aproximadamente un 30 % en junio; sin embargo, el precio promedio de los tokens se mantuvo estable. Las organizaciones siguen invirtiendo fuertemente en IA, pero están adoptando un enfoque más estratégico en la asignación de cargas de trabajo entre modelos de bajo costo y modelos premium.

Este patrón refleja cambios tecnológicos anteriores, como los inicios de la computación en la nube, donde las empresas se expandieron agresivamente antes de mejorar su eficiencia. La adopción de la IA sigue una trayectoria similar, pero a un ritmo mucho más rápido.

Para los equipos de IA, la métrica más útil no es el costo, sino los resultados, que son la base del éxito de la IA . Un flujo de trabajo que puede automatizar semanas de trabajo de ingeniería puede ser mucho más eficiente que un flujo de trabajo de menor costo que produce resultados poco fiables y genera costos operativos posteriores que superan el ahorro inicial.

La cuestión no es cuánta inteligencia artificial puede utilizar el equipo, sino con qué eficacia se puede implementar para resolver problemas importantes.

La inteligencia artificial está cambiando las cargas de trabajo.

Los chatbots tradicionales funcionan con flujos de trabajo relativamente sencillos: se introduce un comando y se recibe una respuesta. Los sistemas de agentes, que representan agentes de IA más inteligentes , se comportan de forma muy diferente.

Los agentes de IA piensan, utilizan herramientas, ejecutan código, recuperan información, consultan bases de datos y repiten operaciones en múltiples pasos antes de completar la tarea. Cada una de estas acciones consume tokens.

Como resultado, las cargas de trabajo de IA dependen cada vez más de agentes. Una sola solicitud ahora puede implicar cadenas de llamadas a herramientas, bucles de validación y cambios de proveedor que ocurren en segundo plano, lo que altera por completo la economía del sistema.

Los agentes de back-office son los tokens más caros por portal, representando el 5 % del total de tokens, pero el 14 % del gasto total. Las cargas de trabajo más complejas y sensibles al negocio requieren una mayor inferencia que las tareas de IA más sencillas.

Esto significa que un mayor uso no siempre es un indicador de ineficiencia. En muchos casos, refleja la creciente complejidad y las capacidades de los propios sistemas de IA.

La infraestructura como factor diferenciador

A medida que las organizaciones dependen cada vez más de múltiples modelos de IA y proveedores de servicios, mantener la fiabilidad se convierte en una tarea más compleja.

Las tareas de inferencia, los flujos de trabajo multiagente y las complejas cadenas de coordinación pueden suponer una carga considerable para los proveedores de modelos. Si un solo modelo falla durante su ejecución, todo el flujo de trabajo podría colapsar.

Como resultado, el enrutamiento alternativo se ha convertido en una infraestructura de IA fundamental en entornos de producción. El informe AI Gateway de Vercel, publicado en mayo, reveló que aproximadamente el 3.5 % de las solicitudes requieren redirección debido a fallos, tiempos de espera agotados o problemas de determinación de la tasa de solicitudes.

Sin un enrutamiento dinámico entre proveedores de servicios, esas solicitudes simplemente fallarán. Y para los usuarios finales, la inestabilidad del proveedor de servicios es invisible; no les importa el origen del problema, solo si la aplicación sigue funcionando.

Por lo tanto, a medida que los sistemas de IA se vuelven cada vez más capaces de operar como agentes independientes, la flexibilidad y la coordinación se vuelven tan importantes como la capacidad del propio modelo, lo que subraya la importancia del cambio de la IA hacia agentes más inteligentes.

El fin de la era de los modelos únicos

Las estrategias basadas en depender de un único proveedor de servicios se han vuelto difíciles de mantener. Constantemente se lanzan nuevos modelos, los precios cambian rápidamente y el rendimiento de cada modelo varía según el tipo de tarea.

El mejor modelo de programación hoy puede no ser el mejor para las tareas de recuperación de información, la atención al cliente o los flujos de trabajo de inferencia del mañana.

No se trata de elegir un único modelo como ganador absoluto. Se trata de crear sistemas de IA capaces de adaptarse y asimilar el mejor modelo cada semana, porque esta preferencia cambia rápidamente y seguirá cambiando.

Los equipos que consideran el formato multimodelos como una infraestructura son los que no necesitarán reconstruir sus sistemas al lanzar un nuevo modelo.