🔴 Игровой ПК предлагают сдавать в аренду для инференса ИИ

🔴 Игровой ПК предлагают сдавать в аренду для инференса ИИ

Ноутбук, который простаивает дома, хотят превратить в оплачиваемый узел для ИИ. Домашние серверы и игровые компьютеры тоже подходят: владельцам предлагают деньги за инференс ИИ. Evolving Edge уже запустила открытую бету, а Far Labs собирается открыть Far AI в ближайшие недели.

Владелец устанавливает приложение, задаёт расписание — и разрешает сети выполнять задания на своей машине. Небольшая открытая модель может целиком поместиться на одном устройстве. Более крупные задачи Evolving Edge распределяет с помощью Ray, а Far Labs делит модель на части и сводит результаты через оркестратор. Передовые модели по-прежнему остаются работой для дата-центров: речь прежде всего об инференсе на менее крупных специализированных моделях.

У домашних узлов слабее железо, нестабильнее связь и больше различий в конфигурации. К этому добавляется риск запуска чужого кода. Evolving Edge открыла код планировщика, а Far Labs заявляет об изолированных заданиях и зашифрованной связи: клиент не получает произвольного доступа к компьютеру, хозяин может ограничить ресурсы, остановить узел и удалить программу.

Разработчики рассчитывают снизить цену за счёт уже купленного оборудования; Far Labs также заявляет задержку не более 100 мс. Однако в публикации нет тарифов, средней загрузки и расчёта расходов на электричество. Владельцу обещают доход с простаивающего ноутбука, но пока невозможно понять, останется ли что-нибудь после оплаты розетки.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

#ИИ #Инференс #Вычисления #GPU #AravanaAI