Ampliación de la inteligencia artificial: La necesidad urgente de una nueva estrategia económica.

La narrativa predominante sobre la IA en las empresas está cambiando rápidamente, pasando del entusiasmo de la fase piloto a las duras realidades de la producción. A medida que las organizaciones se apresuran a integrar la IA generativa en sus flujos de trabajo, se topan con un obstáculo que no reside tanto en las capacidades de la tecnología en sí, sino más bien en cómo implementar estos modelos.

Las empresas están descubriendo cada vez más que el problema no reside en la inteligencia artificial en sí, sino en la suposición de que cada tarea requiere el modelo más potente disponible. Esto ha dado lugar al fenómeno generalizado del "tokenmaxing": la tendencia a utilizar por defecto modelos más grandes y costosos, incluso cuando un modelo más pequeño y económico podría realizar la misma tarea.

En lugar de asignar el modelo adecuado a la tarea adecuada, muchas organizaciones asumen que cada flujo de trabajo requiere una capacidad de inferencia al nivel de los modelos líderes.

Este excesivo diseño de la automatización supone una carga estructural para la rentabilidad. Cuando las empresas abordan cada problema como si requiriera un modelo revolucionario, los costes de infraestructura inevitablemente superan el valor del resultado.

El mercado está presenciando las consecuencias de este enfoque, y algunos informes indican que las principales organizaciones están agotando por completo sus presupuestos de IA en cuestión de meses y cancelando licencias internas a medida que aumentan los costes.

A medida que las organizaciones lidian con el impacto del costo de la IA, resulta evidente que el gasto en IA a menudo supera el valor tangible que aporta. Este desafío exige nuevas estrategias, como se analizó en un artículo anterior sobre la disminución del gasto en IA.

Superar la trampa de los proyectos piloto

El problema fundamental radica en que el éxito de los proyectos piloto aislados y controlados suele considerarse el estándar para las iniciativas actuales de IA empresarial. En un proyecto piloto, las variables son limitadas y el coste por operación parece manejable. Sin embargo, una vez que se generaliza su uso en toda la empresa, emerge la caótica realidad de la producción, los estados límite, los múltiples reintentos y las grandes fluctuaciones de escala.

Debido a que la IA probabilística genera un costo diferente para cada operación, crea gastos imprevistos que los departamentos financieros no pueden predecir. Con el software tradicional, un presupuesto fijo corresponde a un costo previsto para cada tarea. Con la IA, esta estabilidad no existe. Si una misma operación cuesta un dólar un día y cien dólares al siguiente, no se puede incluir de forma segura en el presupuesto operativo.

Por este motivo, el 80 % de las organizaciones admiten haber calculado mal el coste de la IA en más del 25 %, y más del 95 % de los proyectos piloto de IA generativa no llegan a producción. Actualmente, las organizaciones no están trabajando para mejorar su relación coste-beneficio; en cambio, lo están descubriendo por las malas, a menudo cuando el daño financiero ya está hecho. Para muchos líderes, la única opción que les queda es «usar menos», es decir, restringir el uso o bloquear el acceso.

Pero esta respuesta es errónea. Lo realmente impactante no es el monto de la factura en sí, sino la constatación de que la única herramienta de gestión que queda es restringir el consumo. Al racionar el acceso, la organización admite, de hecho, que su implementación de IA es demasiado costosa para escalarla, convirtiendo una potencial ventaja competitiva en una debilidad defensiva.

Repensando la economía de la automatización

Actualmente, la mayoría de las organizaciones se centran en mejorar la selección de modelos (es decir, identificar el modelo adecuado para una tarea específica), pero la mayor oportunidad reside en optimizar el trabajo en sí. Dado que los costos se reajustan cada vez que una solicitud se inicia desde cero dentro de un modelo extenso, asumir que cada tarea requiere un modelo de lenguaje extenso (LLM) en el nivel principal se convierte rápidamente en un error costoso.

Las herramientas de enrutamiento estándar operan a nivel de solicitud: analizan la tarea entrante y la dirigen al modelo que consideran más apropiado, pero dicho modelo sigue realizando la tarea completa como una única generación opaca. Lo único que se optimiza es el modelo que proporciona la respuesta; nada de lo que se obtiene reduce los costos de la siguiente ejecución. La verdadera escalabilidad requiere ir un paso más allá.

Este cambio requiere una estructura que controle el proceso de negocio en lugar de depender únicamente del modelo subyacente. En vez de simplemente dirigir el trabajo a un punto final, este enfoque arquitectónico gestiona el proceso en sí. Trasciende los modelos individuales, desglosando el flujo de trabajo en pasos discretos, definidos mediante código, para generar un registro de auditoría en cada etapa.

Esta única elección arquitectónica es lo que distingue la optimización estructural de la gestión superficial de costes, proporcionando una eficiencia que las herramientas de orientación tradicionales no pueden alcanzar. Este cambio conduce a una estructura de costes más eficiente. En lugar de depender de un único modelo para cada tarea, los cálculos se distribuyen en pasos especializados basados ​​en código, lo que mejora la utilización de los recursos y transforma la ejecución del flujo de trabajo.

En el flujo de trabajo para el procesamiento de préstamos de gran volumen, por ejemplo, este enfoque mejora la rentabilidad general al reducir la dependencia de costosos modelos de razonamiento donde no son necesarios. La transición hacia esta arquitectura estandarizada y orientada a procesos proporciona una vía sostenible para gestionar los costos de las operaciones de gran volumen.

Dado que el proceso no depende de ningún proveedor específico, las organizaciones conservan total flexibilidad. Pueden implementar libremente estrategias de optimización, alternando entre los principales modelos LLM, ponderaciones de código abierto y modelos más pequeños y especializados según evolucionen sus necesidades de rendimiento y costes, sin tener que reconstruir su infraestructura subyacente. Para obtener más información sobre la gestión de los costes de la IA, puede leer nuestro artículo sobre la disminución del gasto en IA.

Dado que cada proceso de ejecución produce una secuencia de pasos, invocaciones de herramientas y resultados específicos y verificables, estos registros se convierten en valiosos activos de datos que mejoran las alternativas especializadas que ya saben cómo manejar las tareas previstas sin recurrir a invocaciones generales.

Mejorar las capacidades humanas mediante la precisión

El objetivo de este nuevo enfoque es transformar la inteligencia artificial, pasando de ser un experimento limitado a un método estandarizado de trabajo. Cuando la automatización digital se encarga de tareas cognitivas repetitivas , como la verificación de datos o la confirmación de información, el rol humano se transforma por completo. Los analistas ya no tienen que dedicar su jornada laboral a abrir archivos e introducir datos manualmente; su atención se centra en las excepciones que requieren un juicio de alto nivel, estrategias complejas y una resolución creativa de problemas.

Esta es la promesa de una adopción sostenible de la IA. Al transformar los gastos imprevistos en una base de costos conocida y centrarse en la reingeniería de los flujos de trabajo en lugar de simplemente cambiar de modelo, las empresas pueden finalmente liberar todo su potencial. Esto les brinda a las organizaciones un camino hacia un retorno de la inversión sostenible y medible a medida que se expande la adopción, lo que permite a su personal concentrarse en tareas de alto valor y evaluación que la tecnología no puede replicar.

El futuro de la IA en las empresas no dependerá únicamente de las capacidades del modelo, sino de la capacidad de implementar sistemas de IA integrados que hagan que la tecnología sea económicamente viable a gran escala. Es hora de dejar atrás la experimentación insostenible y adoptar un enfoque arquitectónico y disciplinado para la adopción de la IA. Para las organizaciones preparadas para superar la fase experimental, el desafío ya no reside en demostrar que la IA funciona, sino en lograr que sea lo suficientemente viable económicamente como para escalar.