Cerebras и Gimlet строят облако для быстрых ответов ИИ мощностью 100 МВт

Cerebras и Gimlet строят облако для быстрых ответов ИИ мощностью 100 МВт

Cerebras и Gimlet Labs объявили о развёртывании вычислительной инфраструктуры с энергопотреблением около 100 МВт. Первый дата-центр с оборудованием Cerebras планируется запустить до конца 2026 года, а доступ к новому поколению систем CS‑4 через Gimlet Cloud — открыть в 2027-м.

Облако объединит GPU с процессорами Cerebras размером почти с кремниевую пластину. Этапы обработки запроса будут распределяться между разными ускорителями в зависимости от их сильных сторон. Компании рассчитывают выдавать до 3000 токенов в секунду для ИИ-агентов и приложений реального времени; это заявленная цель проекта, а не универсальная скорость для любой модели.

«Мы можем выполнять каждый этап инференса на наиболее подходящем для него оборудовании», — объясняет глава Gimlet Labs Зейн Асгар в совместном заявлении компаний.

#новости #Cerebras #Gimlet #ИИ #датацентры
@digitaltimeslv

Original in Telegram: https://t.me/digitaltimeslv/10765

Поделиться

TelegramFacebookLinkedInWhatsAppX