El CEO de la división de inteligencia artificial de Microsoft, Mustafa Suleyman, ha afirmado a través de su cuenta en X que el futuro de la industria no lo definirá el desarrollo del modelo más avanzado. En cambio, postula, la clave estará en que empresa tenga la capacidad de brindar sus servicios a mayor escala.
El ejecutivo vaticina que durante los próximos 2 a 3 años viviremos un periodo de escasez en cuanto a capacidad de computo. Por lo tanto el costo marginal de los tokens con los que trabajan los sistemas será elevado. Las empresas se verán obligadas a racionar sus recursos.
“Durante los próximos dos años, como mínimo, toda la industria de la IA estará definida por este hecho: la demanda va a superar notablemente el suministro. Y por eso lo que importará será cuáles empresas y productos tendrán la capacidad para pagar por los tokens”.
Escala y entrenamiento
Lo dicho por Suleyman contradice un poco lo especulado durante los últimos años en la industria. El costo más alto siempre había sido el entrenamiento de los modelos; el trabajo en sí, las operaciones de inferencia, siempre fueron un esfuerzo menor.
Dado que las empresas competían por producir el modelo más avanzado, y para tal fin escalaban cada vez más el entrenamiento, la deducción fue que era en esa instancia que se iban a definir los ganadores y perdedores.
Actualmente la inferencia supone dos tercios del costo total de los modelos.
Tokens, personas y datos
Suleyman apunta que las empresas que sean capaces de pagar más tokens para los servicios mejorarán sus productos más rápido. La lógica es que bajos niveles de latencia (velocidad de respuesta ante las consultas de los usuarios) suponen una mayor retención. La retención genera datos, simplemente porque hay más gente interactuando con el sistema. Y los datos impulsan las mejoras del modelo y por tanto su adopción.
Lo señalado implica que las empresas que tengan ingresos marginales más elevados estarán mejor posicionadas. Para ellas comprar tokens adicionales tendrá más sentido a nivel económico. Por otro lado, las empresas que brindan IA para el consumidor final, que obtienen menos beneficio por el esfuerzo extra, deberán racionar sus ofertas.
