🔴 Nvidia ставит Groq 3 в серию: сделка на $20 млрд выходит в быстрый инференс

🔴 Nvidia ставит Groq 3 в серию: сделка на $20 млрд выходит в быстрый инференс

Через восемь месяцев после крупнейшей покупки Nvidia технологии Groq выходят в дата-центр. Компания объявила о серийном производстве стоек Groq 3 LPX: до конца года они заработают у Nebius вместе с процессорами Vera и ускорителями Rubin. За активы стартапа Nvidia заплатила $20 млрд.

Ставка — на ту часть работы модели, где задержку замечает сам пользователь. Быстрый инференс делает AI-агентов отзывчивее, особенно при написании кода. Nvidia считает, что облачные сервисы смогут продавать минимальную задержку как премиальную услугу клиентам с жёсткими требованиями ко времени ответа.

На кристалле Groq 3 размещено 500 МБ быстрой SRAM, а одна стойка объединяет 256 чипов. Заявленная скорость — 3400 токенов в секунду по тесту Artificial Analysis. Но LPX рассчитан главным образом на декодирование: он не заменяет GPU, которые подходят и для обучения моделей, и для инференса.

Дженсен Хуанг говорил, что отдаст Groq четверть площадей дата-центра, предназначенных для кодинга, а остальное оставит Vera Rubin. Так быстрый ответ становится отдельным классом инфраструктуры — со своим процессором, местом в стойке и более дорогим тарифом для пользователя.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

#ИИ #Nvidia #Groq #AIчипы #Инференс #AravanaAI