27 миллиардов параметров прямо в кармане: стартап уместил большую ИИ-модель в iPhone

🔴 27 миллиардов параметров прямо в кармане: стартап уместил большую ИИ-модель в iPhone

Пока обновлённая Siri для сложных задач до сих пор ходит в облако Google и работает на моделях Gemini, стартап PrismML пошёл ровно в обратную сторону. По данным Yahoo Finance, компания взяла модель Alibaba Qwen 3.6 на 27 миллиардов параметров и заставила её целиком работать локально, на одном iPhone 17 Pro, вообще без интернета.

Как это влезло. Модель ужали с 54 гигабайт до менее чем 4, при этом все 27 миллиардов параметров остаются активными. PrismML заявляет о сокращении требуемой памяти до 14 раз и ускорении работы до 8 раз. По сути это спор двух миров: одни строят всё более гигантские дата-центры под ИИ, другие впихивают сопоставимый интеллект в устройство у вас в руке.

И интерес рынка уже виден. По тем же данным, Apple вышла на связь с PrismML. Локальный ИИ означает полную приватность, мгновенный ответ и ноль зависимости от связи. Ещё недавно «большая модель на телефоне» звучало как оксюморон, теперь разрыв между «ИИ в облаке» и «ИИ в кармане» сократился на глазах.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

#нейросети #LLM #модели #Apple #Google #стартапы #ИИ #технологии #AravanaAI