Несколько наблюдений/гипотез про Gen AI и кодинг, в частности:
Есть вероятность, что мы близки к выходу на плато в некоторых сценариях и быстрому снижению маржинальности в них.
-- С одной стороны, +- все крупные ИИ-вендора говорят о том, что они предоставляют спектр моделей под разные нужды и кошельки, и на каждом цикле они повышают качество всей линейки. -- С другой стороны, если посмотреть на облачных вендоров, Microsoft и Google, в частности, они все чаще оперируют термином "рабочая лошадка" применительно к "слабым" flash моделям.
Буквально: -- когда уже про-версия? -- погодите, смотрите, мы выпустили новую флеш-версию... -- ок, а когда уже про-версия? -- погодите, новая флеш-версия лучше старой про и дешевле...
Спекулянты говорят, что тот же Google (снова) отстал от фронтира. Но Google, помимо "ждите и оно появится", активно двигается в сторону "заморозки" моделей в чипах (Frozen V2).
Это имеет смысл только в том случае, если цикл обновления железа (2-3 года) совпадает с циклом обновления моделей (исключая софтверные оптимизации на последних слоях). А это в свою очередь требует, чтобы был достаточный стабильный спрос, не требующий переезда на более новые модели.
Другими словами, мы близки к тому, что для некоторых сценариев условной Gemini 4 Flash (а то и 3.x) будет достаточно еще очень долго. Microsoft со своими чипами идет примерно тем же путем: вертикальная оптимизация инференса под самые массовые задачи. LLM is just Compute.
Скорее всего, порогом будет возможность топовой консьюмерской железки. Плюс где-то рядом стоит вопрос стоимости/скорости тюнинга модели.
ИИ-лабы, которые не умеют в вертикальную оптимизацию на уровне чипов, сети, облака и т.п., если это верно, будут вынуждены либо в этом сегменте демпинговать (отдавать даром, чтобы затащить пользователей), либо и вовсе из него уйти. В этом сегменте конкуренция будет не между Anthropic/OAI vs DeepSeek/MoonshotAI/..., а между облачными вендорами.
В этой логике ИИ-лабы будут вынуждены идти в три стороны: 1) Диверсифицироваться в принципиально другие ниши типа роботов и био, но Демис не дурак -- и Google там уже впереди. Вообще тут такой момент, что неверно судить об "отставании" Google только потому, что они все никак не выпустят конкурентную фронтирную LLM. С тем же успехом можно спрашивать, а где GPT-Robotics. 2) Продолжать идти вверх по "времени работы" и сложности задачи, решаемой комплексом LLM. Вот все эти Sol/Mythos. Проблема в том, что в этих задачах резко растет чек и нужны очень специальные клиенты, которые готовы нести свои денюжки за работу. 3) Надеяться, что они смогут удержать аудиторию просто в центральном оферинге типа ChatGPT/Claude и что клиенты не разбегутся, даже если рядом станет на 20-30% дешевле. Как будто бы тут очень легко переоценить "прилипчивость" текущего офера.
Возможно, есть и другие пути, но конечный итог -- расслоение: -- Толстый слой массового "низкого" интеллекта, в котором выиграют облака и частично расползется на конечные устройства. Здесь маржинальность будет стремиться к облачной. -- Тонкий слой нишевого "высокого" интеллекта, в котором ИИ-лабы могут задержаться и укрепиться. Здесь может быть сильное плечо.
Подвох в том, что на "высокий" интеллект уже тоже пошла атака в духе "не смейте отдавать свой корпоративный интеллект этим ИИ-лабам, они вас реверс-дистилируют". 🙂