OpenAI muestra por primera vez a Jalapeno: El chip propio abarata radicalmente la ejecución de modelos

OpenAI no necesita a Nvidia para ejecutar agentes, solo para entrenarlos

Jalapeno es un chip ASIC desarrollado junto con Broadcom. Mientras que las GPU de Nvidia (como la B200) están diseñadas para cálculos paralelos masivos durante el entrenamiento, Jalapeno se centra exclusivamente en la inferencia, es decir, la fase en la que un modelo genera respuestas para los usuarios. Y la inferencia constituye la mayor parte de los costes operativos de las plataformas de IA.

Los primeros puntos de referencia en la plataforma InferenceX muestran un salto espectacular: en comparación con los mejores sistemas basados en Nvidia (GB200/GB300), Jalapeno ofrece entre un 50 y un 90 % más de trabajo por vatio de energía. Esto se aplica a toda la gama de modelos, desde el GPT-OSS 120B hasta el DeepSeek R1 y el Kimi K2.5 1T.

Desde el punto de vista del usuario, la latencia (el tiempo que tarda el modelo en empezar a generar la respuesta) es aún más interesante. En este aspecto, Jalapeno redujo la latencia entre 1,7x y 3,6x en comparación con sistemas similares equipados con Nvidia. El vicepresidente de hardware, Richard Ho, afirma que han logrado acabar con el tradicional compromiso entre capacidad de procesamiento y baja latencia.

El fin del monopolio de Nvidia en las salas de servidores de inteligencia artificial

Para todo el sector, esto representa un giro crítico. Hasta ahora, Nvidia era la única dueña de las llaves de los servidores de IA, dictando precios y disponibilidad. Sus chips son excelentes motores de propósito general, pero para usos específicos como la «generación de tokens», resultan innecesariamente caros y devoradores de energía.

Si se dispone de un chip fabricado exclusivamente para la inferencia, se pueden abaratar drásticamente los precios de la API. Para los desarrolladores que crean algoritmos de RAG complejos o agentes de ejecución prolongada con los modelos de OpenAI, esto debería significar una cosa: tokens más baratos y respuestas más fluidas. Para Sam Altman, es un paso para tener bajo control la principal partida de la cuenta de pérdidas y ganancias.

Cifras sobre papel frente a la dura realidad de la producción

OpenAI presenta resultados seleccionados en modelos específicos. Pero el verdadero rendimiento del hardware se verá cuando se ejecuten cargas de trabajo de producción diversas bajo una demanda masiva de los usuarios. El segundo límite es la capacidad de producción: el diseño de Broadcom implica que la fabricación correrá a cargo de TSMC, donde OpenAI hace cola detrás de Apple y Nvidia.

Richard Ho rebaja las expectativas afirmando que los chips se desplegarán este año solo en pequeños volúmenes y que no se ampliarán hasta 2027. Ni siquiera entonces OpenAI quiere cortar del todo con Nvidia: sigue hablando de «muy buenos socios». Cambiar el hardware de un producto tan masivo como ChatGPT es como operar a corazón abierto en plena carrera.

Cuándo repercutirá en el precio de la API

La métrica crucial será el momento en que el ahorro de energía anunciado y el aumento del rendimiento se reflejen en los precios de la API para los desarrolladores. Mientras OpenAI mantenga los precios de los tokens, Jalapeno funciona solo como una herramienta para aumentar su propio margen de beneficio, no como una perturbación del mercado.

El veredicto de Lilith

Para los desarrolladores, esto significa el fin de las excusas de que los tokens cuestan demasiado. Si OpenAI mantiene su margen y traslada el ahorro a los precios de la API, los agentes de ejecución prolongada dejarán de ser un experimento para convertirse en un estándar.