Токеновый аппетит AI-агентов превращает цену в преимущество китайских моделей

Автономные агенты многократно увеличивают число обращений к моделям, поэтому дешёвый инференс может дать китайским разработчикам преимущество — хотя новым ограничением становится человеческая проверка.

Aravana··1 мин

🔴 Токеновый аппетит AI-агентов превращает цену в преимущество китайских моделей

На OpenRouter агентные задачи обогнали людей по расходу токенов: к августу их ежедневное потребление было более чем в пять раз выше. Сами агентные запросы требовали примерно в 15 раз больше токенов, чем обычные обращения пользователей.

Дело не в одном длинном ответе. Агент планирует задачу, ищет данные, вызывает программы и проверяет результат — одно поручение превращается в каскад обращений к модели. Большая часть прироста пришлась на кешированные инструкции, историю диалога и описания инструментов. Их обработка дешевле, но огромный объём всё равно способен увеличить счета компаний.

Поэтому рутинные операции всё чаще направляют в недорогие модели, оставляя передовые системы для сложных рассуждений. DeepSeek V4-Flash берёт $0,28 за миллион выходных токенов против $20 у OpenAI GPT-5.6 Sol. На момент публикации DeepSeek уже занимала крупнейшую долю текстовых запросов на OpenRouter — 22,7%. Чем длиннее цепочка действий агента, тем весомее разница в цене каждого шага.

Однако дешёвый инференс не решает проблему контроля. По данным MIT Sloan, агенты могут создавать код, документы и аналитику быстрее, чем сотрудники успевают их оценивать. Значит, ценовое преимущество китайских моделей способно ускорить внедрение — но одновременно увеличить очередь результатов, которые должен перепроверить человек.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

#ИИ #AIAgents #DeepSeek #Инференс #AIмодели #AravanaAI

Тип материала: Пост из Telegram

Поделиться:TelegramXLinkedIn
Как вам материал?
Теги:MODELSAI

Хотите получать подобные материалы раньше?

Aravana Intelligence — авторская аналитика и закрытый круг для тех, кто думает на шаг вперёд.

Узнать про Intelligence

Не пропускайте важное

Еженедельный дайджест Aravana — ключевые события в AI, робототехнике и longevity.

Похожие материалы

Tmall выставил подписки на китайские ИИ-модели рядом со смартфонами и косметикой

Tmall превращает доступ к китайским ИИ-моделям в обычный товар маркетплейса, но вместе с массовой дистрибуцией разработчики получают зависимость от поиска, скидок и распродаж.

·1 мин

🔴 Аварийный выключатель для ИИ хотят передать британскому правительству

Группа британских лордов предлагает разрешить правительству отключать мощные ИИ-системы и дата-центры при угрозе национальной безопасности, но процедура такого вмешательства пока не раскрыта.

·1 мин

Mostik связала ИИ-модели без слов — общего языка для них пока нет

Mostik объединила большую и мобильную модели через числовые значения в их весах, снизив стоимость гибридной системы, но универсального математического языка для такого взаимодействия ещё нет.

·1 мин