La IA es un gasto empresarial de rápido crecimiento. Algunas empresas están recortando costos cambiando a modelos chinos de IA más baratos.
Imen Ben Youssef/Hans Lucas/AFP vía Getty Images
ocultar título
alternar título
Imen Ben Youssef/Hans Lucas/AFP vía Getty Images
SAN FRANCISCO – Lindy.ai, la startup de Flo Crivello con sede en San Francisco, crea “asistentes” de inteligencia artificial para administrar su correo electrónico y calendario. Al principio, la empresa se apoyó en gran medida en los modelos de inteligencia artificial de última generación de Anthropic.
Pero en reunión tras reunión con su encargado de finanzas, dijo Crivello, una cosa quedó clara: “Por lejos, nuestro gasto número uno fue antrópico”, dijo. “Más que nómina”.
Más que nómina, para más de dos docenas de empleados. Más que alquiler. Más que por cualquier otra cosa. Así que el mes pasado, Crivello anunciado que Lindy había migrado el 100% de su tráfico al modelo de IA chino DeepSeek-V4.
“Era simplemente 10 veces más barato”, dijo, añadiendo que le había ahorrado a la empresa millones de dólares. “Así que fue una decisión comercial muy, muy simple”.
La inteligencia artificial se ha convertido en una de las… no el – costos de más rápido crecimiento para las empresas estadounidenses. Pero para muchas empresas es un arma de doble filo: necesaria pero costosa. Para sobrevivir, un número cada vez mayor de empresas está cambiando los modelos estadounidenses por una IA china más barata.
En la carrera por crear los mejores modelos de IA, empresas estadounidenses como Anthropic, OpenAI y Google lideran el mundo. Los expertos dicen que los modelos chinos están retrasados entre seis y 12 meses en términos de capacidades.
Pero China se ha hecho un hueco en los modelos de código abierto, que se pueden descargar y adaptar de forma gratuita. “La escena del código abierto en este momento está absolutamente dominada por los chinos. Ni siquiera está cerca”, dijo Crivello.
Dijo que todos los fundadores que conoce que trabajan en el espacio de la IA están pensando en cambiar a modelos chinos o ya lo han hecho.
Y los crecientes costos de la IA tampoco son sólo un problema inicial. El director ejecutivo de Uber, Dara Khosrowshahi, habló de ello el mes pasado en el Invierta como los mejores podcast. “Hemos desperdiciado nuestro presupuesto de IA en un trimestre, ya sabes, durante todo el año, básicamente. Y eso nos está obligando a hacer ajustes”, dijo.
(Uber no respondió a la solicitud de información de NPR sobre si utiliza modelos chinos).
Bloomberg reportado El director general de Airbnb, Brian Chesky, afirmó que el año pasado la empresa confió en el modelo Qwen de Alibaba, que era “bueno”, “rápido y barato”. Perplejidad y NVIDIA También he hecho uso de Qwen.
Como un Ferrari o un Honda
Muchas empresas se muestran cautelosas a la hora de pregonar su uso de modelos chinos debido a sensibilidades políticas, pero los modelos están ampliamente disponibles en los centros de modelos de IA. como Hugging Face, en la plataforma de alojamiento de códigos GitHub y a través de agregadores de modelos y proveedores de inferencias con sede fuera de China.
Eso incluye a la empresa Featherless, con sede en San Francisco, que ofrece acceso a unos 30.000 modelos de IA. El fundador y director ejecutivo, Eugene Cheah, dijo que los modelos chinos son populares, incluso si no son modelos “de frontera” ni los mejores de su clase.
“Es como la diferencia entre conducir un Ferrari y un Honda. Puedes tener el mejor auto de lujo o simplemente puedes tener un Honda a escala que funcione”, dijo.
“En realidad, muchos grupos de IA de código abierto están perfectamente bien siendo N-1, siendo N donde está la frontera”, continuó. “Porque a medida que la brecha sigue reduciéndose, en algún momento la pregunta es: ¿realmente importa?”
Para muchos, como Lindy, no importa. El Honda de AI es perfectamente bueno.
OpenRouter, otra plataforma donde las nuevas empresas pueden acceder a una variedad de modelos de IA, informó que el uso de DeepSeek de China ha aumentado de alrededor del 9% a casi el 20% desde enero. También ha aumentado el uso de modelos de las empresas chinas MiniMax, Xiaomi y Tencent.
Algunos usuarios descargan y alojan ellos mismos modelos de IA chinos de código abierto, pero muchos los utilizan a través de empresas pagas de alojamiento de IA, como Featherless y OpenRouter, para que los datos de los usuarios se mantengan en los Estados Unidos.
Víctor Su-Ortiz, que se encarga del marketing global de productos en MiniMax, con sede en Shanghai, asistió recientemente a una conferencia de ingenieros de inteligencia artificial en San Francisco. Las empresas pagan por utilizar modelos de IA pagando por tokens o unidades de trabajo de IA. Su-Ortiz dijo que todo se reduce al costo por token.
“Se pueden realizar muchas tareas repetitivas con un modelo que tiene el mismo rendimiento pero que tiene un costo por token mucho menor” en comparación con los principales modelos de IA, dijo. “Y esto es esencialmente lo que ha traído estos modelos de peso abierto a los Estados Unidos”.
Dijo que las empresas están pasando de “tokenmaxxing” (usar tanta IA como sea posible) a ahorrar costos limitando el uso, cambiando a modelos más baratos o dirigiendo diferentes tipos de trabajo de IA a diferentes tipos de modelos.
Para la investigación o el “razonamiento profundo”, por ejemplo, los modelos de vanguardia pueden funcionar mejor, dijo Su-Ortiz. “Pero si estás realizando una tarea de codificación repetitiva y de gran volumen… ahí es donde uno de nuestros modelos, especialmente el MiniMax M3, funcionará excepcionalmente bien por sólo una décima parte del costo”.
Ahorrar unos cuantos dólares no vale la pena para todos
Para algunas empresas, los modelos chinos todavía no son lo suficientemente buenos. Jon Gordner es director ejecutivo y cofundador de Comment.io, que se fundó hace apenas unas semanas y está desarrollando un producto que, según él, es como Google Docs para codificadores y agentes de inteligencia artificial.
“Necesitamos crear el mejor software posible lo más rápido posible. Y para nosotros, ahorrar unos pocos dólares en un modelo más barato no vale la pena si tenemos que pasar dos o tres semanas más arreglando sus errores”, afirmó.
Gordner dijo que su empresa está obteniendo valor de los modelos Anthropic y OpenAI en parte porque ambas empresas están subsidiando a los usuarios para enganchar a los clientes. Dijo que las suscripciones mensuales ahora ofrecen tokens con un gran descuento, pero que probablemente eso no durará para siempre.
“Entonces, para nosotros, tendrá mucho más sentido empezar a evaluar los modelos chinos y los modelos de código abierto”, afirmó.
Ara Kharazian es economista principal de Ramp, una empresa que ayuda a las empresas a rastrear, controlar y automatizar el gasto. Tiene información sobre el gasto en IA, y Kharazian dijo que cree que las empresas estadounidenses seguirán adaptándose; en otras palabras, pueden mantener los precios bajo control o introducir modelos de código abierto de alta calidad en un intento por superar a sus rivales chinos.
“El auge de estos modelos chinos es indicativo del hecho de que las empresas quieren algo que hoy no ofrecen las empresas modelo estadounidenses”, afirmó. “La única razón por la que soy pesimista con respecto a los modelos chinos es porque supongo que las empresas modelo estadounidenses responderán de manera competitiva”.
Gordner, de Comment.io, está menos seguro. Cree que las principales empresas de IA de EE. UU. podrían tener que empezar a cobrar más para la IA a medida que aumenta la presión para demostrar la rentabilidad, posiblemente a medida que se acercan a salir a bolsa. Ambos antrópico y OpenAI han presentado documentación confidencial ante el gobierno de EE. UU. para poner en marcha eventuales ofertas públicas iniciales.
“En algún momento”, dijo Gordner, “la música se detendrá”.
Anthropic apoya financieramente a NPR.
