В ИИ-индустрии поняли, что одну универсальную «самую умную модель» создать не получится, и перешли к умному роутингу: теперь правильный выбор модели для каждого запроса становится частью технологии продукта. Lang Chain это позволило снизить стоимость генерации на 74%.
По этому пути идут как на мировом рынке (AWS, Lang Chain, Perplexity, Cursor), так и в России. Яндекс заявил о внедрении умного роутера в Алису AI — нейросеть по умолчанию сама выберет наиболее подходящую модель под задачу. Сбер начал расширять линейку доступных моделей в своих бизнес-продуктах — в ГигаАгенте работают три мощные зарубежные модели для сложных и больших задач.
В роутерах разработчики моделей наравне со своими решениями задействуют и общедоступные модели с открытыми весами. «Суверенный ИИ не означает изоляции — то есть, исключительно создания собственной фундаментальной модели», — заявлял на бизнес-форуме БРИКС первый зампред правления Сбера Александр Ведяхин. Он подчеркнул, что нужен целый технологический стек: вычислительная инфраструктура, специалисты, данные, регулирование.
Роутинг позволяет позволяет разработчикам давать пользователям лучшее качество за счет комбинации разных моделей, при этом разработка собственных моделей, по мнению экспертов, остается необходимым условием устойчивости. Недавно Яндекс выложил в опенсорс свою суверенную языковую модель Alice AI Search Pretrain, обученную с нуля, а Сбер — GigaChat 3.5 Reasoning.
Подписывайтесь на Мейстер в МАХ