OpenAI muestra por primera vez a Jalapeño: El chip propio abarata radicalmente la ejecución de modelos

OpenAI no necesita a Nvidia para ejecutar agentes, solo para entrenarlos

Jalapeño es un circuito integrado de aplicación específica (ASIC) desarrollado junto con Broadcom. Mientras que las GPU de Nvidia (como la B200) están diseñadas para cálculos paralelos masivos durante el entrenamiento, Jalapeño se centra exclusivamente en la inferencia, es decir, la fase en la que un modelo genera respuestas para los usuarios. Y la inferencia constituye la mayor parte de los costes operativos de las plataformas de IA.

Los primeros puntos de referencia en la plataforma InferenceX muestran un salto espectacular: en comparación con los mejores sistemas basados en Nvidia (GB200/GB300), Jalapeño ofrece entre un 50 y un 90 % más de trabajo por vatio de energía. Esto se aplica a toda la gama de modelos, desde el GPT-OSS 120B hasta el DeepSeek R1 y el Kimi K2.5 1T.

Desde el punto de vista del usuario, la latencia (el tiempo que tarda el modelo en empezar a generar la respuesta) es aún más interesante. En este aspecto, Jalapeño redujo la latencia de extremo a extremo entre 1,7× y 3,6× en comparación con sistemas similares equipados con Nvidia. El vicepresidente de hardware, Richard Ho, afirma que han logrado acabar con el tradicional compromiso entre capacidad de procesamiento y baja latencia.

El fin del monopolio de Nvidia en las salas de servidores de inteligencia artificial

Para todo el sector, esto representa un giro crítico. Hasta ahora, Nvidia era la única dueña de las llaves de los servidores de IA, dictando precios y disponibilidad. Sus chips son excelentes motores de propósito general, pero para usos específicos como la «generación de tokens», resultan innecesariamente caros y devoradores de energía.

Si se dispone de un chip fabricado exclusivamente para la inferencia, se pueden abaratar drásticamente los precios de la API. Para los desarrolladores que crean algoritmos de RAG complejos o agentes de ejecución prolongada con los modelos de OpenAI, esto debería significar una cosa: tokens más baratos y respuestas más fluidas. Para Sam Altman, es un paso para tener bajo control la principal partida de la cuenta de pérdidas y ganancias.

Cifras sobre papel frente a la dura realidad de la producción

OpenAI presenta resultados seleccionados en modelos específicos. Pero el verdadero rendimiento del hardware se verá cuando se ejecuten cargas de trabajo de producción diversas bajo una demanda masiva de los usuarios. El segundo límite es la capacidad de producción: el diseño de Broadcom implica que la fabricación correrá a cargo de TSMC, donde OpenAI hace cola detrás de Apple y Nvidia.

Richard Ho rebaja las expectativas afirmando que los chips se desplegarán este año solo en «pequeños volúmenes» y que no se ampliarán hasta 2027. Ni siquiera entonces OpenAI quiere cortar del todo con Nvidia: sigue hablando de «muy buenos socios». Cambiar el hardware de un producto tan masivo como ChatGPT es como operar a corazón abierto en plena carrera.

Cuándo repercutirá en el precio de la API

La métrica crucial será el momento en que el ahorro de energía anunciado y el aumento del rendimiento se reflejen en los precios de la API para los desarrolladores. Mientras OpenAI mantenga los precios de los tokens, Jalapeño funciona solo como una herramienta para aumentar su propio margen de beneficio, no como una perturbación del mercado.

El veredicto de Lilith

Es principalmente una optimización de la cadena de suministro. OpenAI no quiere pagar a Nvidia un peaje por cada palabra generada, así que ha construido su propia cabina de peaje.