¿Por qué se desbordan los presupuestos destinados a la IA?
El error es administrar la IA como un gasto tecnológico en lugar de un sistema económico. La IA no es similar al software, que tiene una estructura de costos mucho más predecible: compras asientos, pagas tarifas de licencia, conoces la factura y los costos aumentan solo cuando el personal crece o se renuevan los contratos.
Con la IA, esa previsibilidad desaparece. Los costos no solo aumentan con la cantidad de personas, sino con lo que piden, cuán profundamente razonan los modelos y cuánto trabajo se enruta a través de los sistemas de IA. Cada vez más, los usuarios no son personas, sino agentes y flujos de trabajo automatizados que consumen inferencia a toda hora, sin asiento humano que contar ni licencia que limitar.
En casi todas las implementaciones que hemos examinado, incluida la nuestra, una pequeña participación hace la mayor parte del gasto: menos del 10 % de los usuarios y flujos de trabajo impulsan la mayoría de la factura. La demanda es implacable; en algunos de nuestros entornos, las solicitudes para elevar los límites de gastos individuales llegan a cientos cada día.
A medida que la IA se acerca más a la empresa, el consumo aumenta con cada nuevo flujo de trabajo, agente y modalidad. Los chatbots se convierten en agentes. Los agentes se convierten en equipos de agentes. El texto se expande a la generación multimodal con imágenes, videos y audio. Y en el borde físico, los robots autónomos se basan en la misma infraestructura de inferencia, donde cada decisión y excepción conlleva un costo de tokens que la empresa no había previsto. A medida que se multiplican los casos de uso, la curva de consumo crece de forma exponencial. Goldman Sachs prevé que el consumo de tokens alcance aproximadamente los 120 mil billones de tokens al mes para 2030, unas 24 veces el nivel actual. Las empresas que toman el consumo actual como referencia están planificando en función de un mundo que no va a existir.
La seguridad añade otro costo oculto, y no es algo que ninguna organización pueda permitirse ignorar. Cuantos más modelos, agentes, datos y sistemas conectados añada una empresa, más tendrá que defender. Ese trabajo de defensa, el escaneo constante, los controles de acceso más estrictos, el monitoreo de amenazas y la respuesta rápida, pone un precio sombra en cada implementación. Rara vez aparece en el primer plan de costos, pero crece con cada agente nuevo y conexión.
Esta es la paradoja de Jevons en forma de IA: al igual que los motores de vapor más eficientes expandieron el uso del carbón de Gran Bretaña en lugar de reducirlo, los precios de los tokens que caen impulsan a las empresas a ejecutar más IA, no menos, ya que el trabajo que alguna vez era demasiado caro para justificar repentinamente tiene sentido financiero.
En nuestra simulación[3] descubrimos que si los precios de los tokens cayeran un 25 % en la actualidad, solo el 15 % de las organizaciones dejaría los ahorros en el banco. El resto volvería a invertir en nuevos casos de uso, cargas de trabajo expandidas o modelos de mayor calidad. Decirles a los empleados que utilicen menos IA no es la respuesta; eso limita las mejoras en la productividad que la IA está destinada a generar. La respuesta es dirigir esa nueva demanda al modelo más barato que hace bien el trabajo, por lo que el mismo presupuesto compra más trabajo útil y más retorno medible.
Una segunda fuerza es igualmente importante: la frontera de Pareto, el mejor intercambio entre costo y valor. La mayoría de las empresas gastan en exceso cuando el trabajo no lo justifica o enruta mal las tareas y deja valor en la mesa. Las empresas más sofisticadas cierran esa brecha y hacen coincidir cada tarea con el modelo correcto al costo correcto. Luego, cambian la curva a través de la compresión de indicaciones, el almacenamiento en caché más inteligente y la destilación de modelos.
Este es un ejemplo concreto: un resumen trimestral, que antes les tomaba 15 horas a tres analistas de finanzas, ahora le toma dos horas a una persona, a un costo de tokens de un par de dólares en comparación con miles de dólares de tiempo libre. Ese es el cambio que mide la vanguardia. El retorno no es el token guardado; es la capacidad liberada que se redirige a tareas de mayor valor. Medido en comparación con un resultado que la empresa ya rastrea, esa reinversión es donde el gasto del token se convierte en retorno.
Juntos, estos factores son la razón por la cual la economía de tokens ahora es importante estratégicamente. A medida que las empresas optimizan para lograr más por menos, la vanguardia se mueve hacia fuera: la calidad mejora, los costos disminuyen, surgen nuevos casos de uso y el consumo aumenta. La disciplina es saber dónde la IA crea valor, cuándo aprovechar los ahorros y cómo reinvertirlos.
La regla del modelo
La primera regla es hacer coincidir el nivel de inteligencia con el valor y el riesgo del trabajo. Este es un punto de partida: en todas las industrias, estimamos que solo entre el 10 % y el 20 % de las tareas empresariales son lo suficientemente complejas como para justificar la capacidades de vanguardia o casi de vanguardia.
La prueba útil: si una tarea se divide en pasos bien definidos, es probable que un modelo más pequeño sirva; apunta a la vanguardia solo cuando el trabajo sea irreduciblemente complejo, cuando la descomposición destruya la perspectiva, cuando los errores se componen en cadenas de agentes largas o cuando la respuesta se encuentra en la intersección del criterio legal, financiero y regulatorio.
Unos pocos patrones despejan este umbral. El razonamiento complejo es uno; cuando un director de estrategia pesa la posición competitiva, las macrotendencias y las finanzas de un objetivo de adquisición para nombrar el riesgo estratégico real, la tarea tiene evidencia contradictoria en tensión para llegar a un juicio no obvio. Además, los flujos de trabajo agénticos con un alto costo de error; cuando una falla de cadena media rompe todo el resultado. Otra es la síntesis de contexto largo; un paquete de debida diligencia de 200 páginas exige rigor y coherencia en todo el documento.
Dirigir el trabajo a la inteligencia correcta es una opción estratégica, no una preferencia técnica. Los líderes necesitan una disciplina operativa: clasificar el trabajo por complejidad y riesgo, asignarlo al nivel correcto de inteligencia, luego ajustar y monitorear el consumo con el tiempo. La parte difícil es saber qué trabajo es más importante.
Las empresas que no pueden distinguir las tareas de rutina del trabajo de mayor valor y exigencia cognitiva tendrán una asignación incorrecta en ambas direcciones: usarán modelos costosos donde no son necesarios y modelos más débiles donde la ventaja está en juego. La experiencia de Accenture muestra que la capacidad del modelo por sí sola no determinará quién gana la carrera de la IA. La disciplina económica lo hará.
La misma disciplina ayudó a un operador de telecomunicaciones a reducir el gasto anual de IA en un 68 %. En cada caso, el avance surgió de ver el consumo a nivel de flujo de trabajo, luego de enrutar, ajustar o rediseñar el trabajo antes de que los desperdicios se convirtieran en un costo operativo normal.
El mandato de los directivos
En la mayoría de las empresas, los costos de IA se encuentran en el presupuesto tecnológico, mientras que el valor aparece en otro lugar: en servicio al cliente, ingeniería, marketing o cualquier unidad de negocios que utilice la herramienta. El director financiero ve el costo, el director de informática ve el uso y los líderes de negocios ven los resultados, pero estas perspectivas rara vez se conectan a nivel empresarial.