🔴 Nvidia предлагает считать AI-фабрики по цене токена, а не числу чипов

🔴 Nvidia предлагает считать AI-фабрики по цене токена, а не числу чипов

Отдельный ускоритель больше не объясняет экономику AI-кластера. В техническом разборе архитектуры NVLink Fusion Nvidia предлагает смотреть на всю фабрику: токены в секунду и на ватт, стоимость токена, загрузку и время безотказной работы.

Ключевым ограничением становится связь между ускорителями. Если scale-up-сеть не справляется с моделями на триллион параметров, mixture-of-experts и агентными системами, загрузка падает, а токен дорожает. По данным Nvidia, NVLink шестого поколения объединяет 72 XPU: задержка при передаче между ними втрое ниже, а пакетная производительность вдесятеро выше, чем у решений на базе готового Ethernet. Компания также заявляет, что NVLink-C2C до шести раз энергоэффективнее PCIe.

Решение о фабрике при этом принимают раньше решения о чипах. Электроснабжение, охлаждение, стойки и сеть проектируют до утверждения окончательного набора ускорителей. NVLink Fusion позволяет XPU- и GPU-системам использовать общую инфраструктуру, а оператору — начать строительство, отложив точный выбор кремния, и позже перераспределять мощности под спрос, поставки и задачи.

В этом и ставка Nvidia: свобода остаётся на уровне ускорителя, но фундамент — сеть, питание, охлаждение и управление — выбирают заранее. Сменный чип оказывается возможен только внутри уже выбранной фабрики.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

#ИИ #Nvidia #AIинфраструктура #ДатаЦентры #Чипы #AravanaAI