OpenAI опубликовала первые результаты испытаний собственного ИИ-ускорителя Jalapeño, разработанного совместно с Broadcom специально для инференса — работы уже обученных языковых моделей.
В тестах SemiAnalysis InferenceX система на базе Jalapeño обеспечила в 1,5–1,9 раза больше вычислительной работы на киловатт, чем решения Nvidia GB200 и GB300. Задержка от запроса до ответа оказалась ниже в 1,7–3,6 раза. Испытания проводились на моделях GPT-OSS 120B, DeepSeek R1 и Kimi K2.5 с триллионом параметров.
Сам ускоритель потребляет около 700 Вт, тогда как участвовавшие в сравнении ускорители Nvidia рассчитаны на 1200–1400 Вт. Преимущество OpenAI объясняет специализированной архитектурой: Jalapeño создавался не как универсальный GPU, а непосредственно под обслуживание больших языковых моделей — с оптимизацией вычислительных ядер, перемещения данных, памяти, сетевого обмена и типичных сценариев генерации ответа.
Однако заголовки о том, что «чип OpenAI победил Nvidia», требуют оговорки. Речь идёт о собственных тестах OpenAI, ограниченном наборе моделей и конкретной задаче инференса. Новый ускоритель не предназначен для обучения моделей, а в сравнении участвовало поколение Blackwell, но не более новая архитектура Nvidia Vera Rubin.
OpenAI рассчитывает начать ограниченное внедрение Jalapeño в своих дата-центрах до конца 2026 года и наращивать масштабы в 2027-м. Продавать ускоритель сторонним заказчикам компания пока не собирается. Nvidia при этом останется одним из ключевых поставщиков вычислительной инфраструктуры OpenAI, особенно для обучения моделей.
Главное значение Jalapeño заключается даже не в зафиксированных 1,9 раза, а в смене модели рынка. Крупнейшие разработчики ИИ постепенно перестают довольствоваться универсальными ускорителями и проектируют собственное «железо» под свои модели и инфраструктуру. Для Nvidia это пока не потеря клиента, но уже потеря монополии на определение того, каким должно быть вычислительное ядро искусственного интеллекта.
#tech @digitaltimeslv
Original in Telegram: https://t.me/digitaltimeslv/10236