Por qué no funcionan los presupuestos de IA
El error consiste en gestionar la IA como un gasto tecnológico en lugar de como un sistema económico. La IA no es como el software, que tiene una estructura de costes mucho más predecible: se pagan suscripciones, se compran licencias, se sabe cuánto se va a pagar y los costes solo aumentan cuando crece la plantilla o se renuevan contratos.
Con la IA, esa previsibilidad desaparece. Los costes no aumentan solo por el número de personas, sino también por las consultas que realizan, la capacidad de razonamiento del modelo y la cantidad de trabajo que se asigna a través de los sistemas de IA. Cada vez es más común que los usuarios no sean personas, sino agentes y flujos de trabajo automatizados que consumen inferencia de forma ininterrumpida, sin usuarios humanos ni límites de licencia.
En casi todas las implementaciones que hemos examinado, incluida la nuestra, un porcentaje pequeño supone la mayor parte del gasto, y es que la mayoría del contenido de la factura lo constituyen menos del 10% de los usuarios y flujos de trabajo. El esfuerzo es incesante: en algunos de los entornos de Accenture, se reciben cientos de solicitudes para elevar los límites de gasto individuales cada día.
A medida que la IA va adentrándose en la empresa, el consumo aumenta con cada nuevo flujo de trabajo, agente y modalidad. Los chatbots se convierten en agentes y los agentes pasan a ser equipos de agentes. El texto se expande y se vuelve multimodal, con imágenes, vídeos y audio. Y en el perímetro físico, los robots autónomos recurren a la misma infraestructura de inferencias, en la que cada decisión y excepción conlleva un coste en materia de tokens que la empresa no llegó a planificar. A medida que se multiplican los casos de uso, la curva de consumo se vuelve más compleja de forma exponencial. Goldman Sachs estima que el consumo aproximado de tokens será de 120.000 billones al mes en 2030, unas 24 veces superior al de la actualidad. Las empresas que basan sus planes en el uso actual se quedarán atrás cuando este se incremente.
A su vez, la seguridad supone otro coste oculto y ninguna organización puede permitirse omitirlo. Cuantos más modelos, agentes, datos y sistemas conectados añada una empresa, más importante será que estén bien protegidos. Ese trabajo de defensa (análisis constantes, controles de acceso más restringidos, supervisiones de amenazas y respuestas rápidas) conlleva un precio añadido a cada implementación. Este rara vez aparece en el primer plan de costes, pero aumenta con cada nuevo agente y conexión añadida.
Esta es la paradoja de Jevons en forma de IA: del mismo modo que los motores de vapor más eficientes incrementaron el uso del carbón en Gran Bretaña en lugar de reducirlo, la caída de los precios de los tokens empuja a las empresas a hacer un mayor uso de la IA, no a reducirlo, ya que el trabajo que en un principio implicaba unos costes difíciles de justificar ahora tiene sentido desde un punto de vista financiero.
Nuestra simulación[3] reveló que, si los precios de los tokens bajaran un 25% hoy, solo el 15% de las organizaciones optaría por conservar esos ahorros. El resto los invertirían en nuevos casos de uso, cargas de trabajo ampliadas o modelos de mayor calidad. La respuesta no pasa por decir a los profesionales que usen menos la IA, ya que eso limita las ganancias en materia de productividad que la IA pretende impulsar. La respuesta consiste en dirigir esa nueva demanda al modelo más barato que cumpla su propósito de manera adecuada, de forma que el mismo presupuesto sirva para generar más trabajo útil y un rendimiento más cuantificable.
Hay una segunda fuerza igual de importante: el frente de Pareto, el mejor equilibrio entre coste y valor. La mayoría de las empresas gastan demasiado en trabajos donde no está justificado o asignan las tareas al recurso equivocado desaprovechando el valor. Las empresas más sofisticadas salvan esa brecha al emparejar cada tarea con el modelo adecuado al precio que corresponde; a continuación, desvían la curva mediante una compresión rápida, un almacenamiento en caché más inteligente y la destilación de modelos.
He aquí un ejemplo concreto: una presentación a modo de resumen de final de trimestre que antes requería la implicación de tres analistas financieros durante 15 horas ahora puede prepararla una sola persona en dos horas, con un coste de tokens de un par de cientos de dólares, que compensan con creces los miles de dólares que se ahorran al disponer de más tiempo. Esa es la compensación que calcula el frente. El retorno no lo conforman los tokens que se han guardado, sino el disponer de más tiempo libre para realizar trabajo que aporte más valor. Si se compara con un resultado que la empresa ya está siguiendo, es en esa reinversión donde el gasto en tokens se convierte en algo rentable.
Juntas, estas fuerzas son la razón por la que, ahora, la economía de tokens es algo importante desde un punto de vista estratégico. A medida que las empresas se van optimizando para conseguir más a cambio de menos, el frente se va expandiendo: mejora la calidad, disminuyen los costes, surgen nuevos casos de uso y aumenta el consumo. La disciplina consiste en saber dónde genera valor la IA, cuándo aprovechar lo ahorrado y cómo reinvertirlo.
La regla de los modelos
La primera regla es que el nivel de conocimientos coincida con el valor y el riesgo del trabajo. Empecemos por aquí: en cada sector, Accenture estima que solo entre el 10 y el 20% de las tareas empresariales presentan la complejidad suficiente como para justificar la capacidad del frente o una similar a ella.
Para determinar si es necesaria, puedes comprobar lo siguiente: si una tarea se divide en pasos detallados, es probable que un modelo más pequeño baste; solo hay que apostar por el modelo más avanzado cuando el trabajo es complejo y no se puede descomponer, cuando esta descomposición destruiría información, cuando los errores se acumulan en largas cadenas de agentes o cuando la respuesta se encuentra en la intersección de consideraciones legales, financieras y normativas.
En algunos casos, sí puede hacer falta. Por ejemplo, cuando se producen razonamientos complejos: si un responsable de estrategia valora la posición competitiva, las macrotendencias y las finanzas de un objetivo de adquisición para determinar el riesgo estratégico real, la tarea consta de pruebas contradictorias que podrían acarrear decisiones que no resultan obvias. Asimismo, están los flujos de trabajo agénticos que acarrearían costes elevados en caso de error, cuando un fallo en mitad de la cadena corrompe el resultado en su totalidad. Otro ejemplo es la síntesis de largo contexto: un paquete de due dilligence de 200 páginas exige rigor y coherencia en todo el documento.
Asignar el trabajo a la inteligencia adecuada es una elección estratégica, no una preferencia técnica. Los líderes necesitan una disciplina operativa: clasificar el trabajo por su complejidad y riesgo, asignarlo al nivel adecuado de inteligencia y ajustar y supervisar el consumo a lo largo del tiempo. Lo difícil es saber qué trabajo es más importante.
Las empresas que no distingan entre las tareas rutinarias y el trabajo de mayor valor y más complejo desde un punto de vista cognitivo realizarán la asignación de manera equivocada en ambas direcciones; es decir, utilizarán modelos caros donde no se necesitan y modelos más débiles donde hay posibilidades de obtener una ventaja. La experiencia de Accenture demuestra que la capacidad del modelo por sí sola no determinará quién saldrá victorioso en la carrera de la IA. En cambio, la disciplina económica sí lo hará.
Dicha disciplina ayudó a un operador de telecomunicaciones a reducir el gasto anual en IA en un 68%. En cada caso, el avance se produjo al contemplar el consumo a nivel de flujo de trabajo para después asignar, ajustar o rediseñar el trabajo antes de que lo superfluo se convirtiese en un coste operativo normal.
El mandato del equipo directivo
En la mayoría de las empresas, los costes de la IA se reflejan en el presupuesto tecnológico, mientras que el valor aparece en otros ámbitos, como el servicio de atención al cliente, la ingeniería, el marketing o cualquier unidad de negocio que utilice la herramienta. El CFO ve el coste, el CIO observa el uso y los responsables de negocio contemplan los resultados, pero esa visibilidad rara vez se vincula con el resto de la empresa.