Я думаю, что нас ждет локальная llm как часть операционной системы.
Мы в Steelman тренируем модели на computer use тректориях, поэтому активно догфудим дату. У нас есть навайбкоженный мной рекордер для записи экрана и системных ивентов с тонной кастомной логики.
Установщик у него такой: "дай своему клоду/кодексу эту ссылку и скажи поставить, вот конфиг и ключи." Для обновления: "скажи своему этому пусть обновит."
Я уже не помню когда последний раз разбирался в деталях как что-то поставить или настроить. А помните старые времена, до докера, когда частью навыков программиста было понять как на одной машине установить две версии постгресса? Хорошо, что этот кошмар позади.
Другой пример. Я поставил себе на Rog Ally X Готику 2 (точнее фанатский мод Archolos), но она жутко лагала. Запряг клода, он там нашел какой-то патч, чтобы перевести игру на современный DirectX. Все стало летать и графика стала лучше. Думаю смержить мегапак модов на New Vegas и заставить их запуститься оно тоже может.
В общем, я думаю это новая норма. Причём мне кажется такой помощник/инсталлятор не обязан быть Фейбл 5.1. Я думаю и небольшая модель справится. Поэтому можно ожидать, что это будет локальная моделька, работающая как часть ядра оси.
И я думаю это может поменять как делается и дистрибьютится софт. Раньше вся работа ложилась на разработчика. Он должен сделать билд под все платформы которые хочет поддерживать и постоянно всё тестировать. Предполагается, что клиент не может и пальцем пошевелить.
Однако в мире, где к каждому компьютеру прилагается LLM, разработчик может делать лишь некоторое ядро функционала. Затем каждый клиент допилит под себя всё необходимое, чтобы это запустилось на конкретно его утюге. Возможно это будет частью процесса инсталляции. В детстве мы смотрели за ползунком прогресса установщика где в основном была распаковка. А в будущем будем смотреть за тем же ползунком, но под капотом там пережатый в 300 шакалов GLM Flash пишет драйвера.
Так же интересно как изменятся операционные системы. Текущие построены вокруг "программ" и "приложений" которые поставляются как зафиксированные артефакты. К ним со стороны приделывают AI фичи и идет криво. Возможно происходит попытка приделать двигатель к лошади.
Но что если все приложения теперь пластелин который каждый может допилить под себя? Это требует поменять основы, хотя как именно никто пока не придумал.