Джефф Дин: правило 1% для AI-продуктов (Рубрика #AI)
Видео с Джеффом Дином смотреть всегда интересно и познавательно. Он умеет начать с истории про MapReduce или расчёта на салфетке, а через несколько минут вывести разговор к архитектуре следующего поколения систем. Раньше я уже рассказывал про его TED-выступление, большую лекцию в Rice University, интервью с Ноамом Шазиром и ретроспективу развития AI в Stanford AI Club. А теперь посмотрел новый разговор Джеффа с Дианой Ху на YC Startup School 2026 - «The 1% Rule for Building in AI». Если в предыдущих лекциях он объяснял, как мы пришли к современным моделям, то здесь вопрос практичнее: что ещё имеет смысл строить небольшой команде, когда универсальные модели быстро забирают всё больше задач.
Самая полезная мысль выпуска - то самое правило 1%. По мнению Дина ⚠️ Опасно выбирать область, где frontier-модель уже справляется примерно в 20% случаев: это признак, что способность появилась и через полгода или год базовая модель может съесть значительную часть продукта. ✅ Лучше смотреть туда, где сегодня она успешна лишь в 0–1% случаев, а у команды есть способ превратить этот один процент в работающую систему.
Таким способом могут стать закрытые предметные данные, узкая специализированная модель, хороший интерфейс или инженерная обвязка: инструменты, память, skills и проверяемый цикл исполнения. Это не гарантия защиты от больших лабораторий, а дисциплина выбора задачи: искать не красивую надстройку над текущей моделью, а устойчивое преимущество вокруг неё.
Другая важная мысль была о том, что модель - это только часть системы. Дин говорит о контекстной инженерии как о пространстве, где небольшая команда ещё может конкурировать. Знания внутри весов перемешаны с триллионами токенов обучения, а информация в контексте дана модели прямо сейчас и для конкретной задачи. Поэтому качество системы всё сильнее определяется тем, какие данные она достала, какие инструменты выбрала, как разложила задачу и чем проверила результат.
Хороший пример - работа самого Дина с Санджаем Гемаватом. Они описали для агента привычный цикл оптимизации низкоуровневого кода: запустить микробенчмарки, изменить реализацию, снова измерить производительность, проверить более широкий набор сценариев и размер кэша, затем повторить. По сути, многолетний инженерный опыт превратился в skill. Их публичный документ «Performance Hints» можно использовать как исходный материал для похожей обвязки.
Для долгих задач одной инструкции мало. По словам Дина, агенты уже могут работать днями и неделями, но легко уходят за границы знакомого распределения и начинают ошибаться. Надёжность появляется из чёткой спецификации, тестов, skills, нескольких параллельных попыток и отдельного оценщика, который отбрасывает неудачные ветки. Особенно хорошо работает перенос программы с одного языка на другой: исходный код и тесты становятся подробной исполняемой спецификацией.
И, конечно, разговор с Джеффом не мог обойтись без железа. Он снова рассказывает историю TPU: в 2013 году расчёт показал, что всего три минуты распознавания речи в день на каждого пользователя потребовали бы удвоить серверный парк Google. Ответом стал специализированный чип для низкоточной линейной алгебры; опубликованный Google разбор первого TPU показывал в 30–80 раз лучшую производительность на ватт относительно тогдашних CPU и GPU.
Сейчас, по прогнозу Дина, следующий большой сдвиг произойдёт в специализированном железе для inference: меньше перемещений данных, ниже точность вычислений там, где это допустимо, и радикально меньше latency. Это важная поправка к разговорам о «качестве модели»: многие ограничения AI-продукта на практике оказываются ограничениями памяти, энергии, пропускной способности и стоимости ответа.
Наконец, Дин ожидает, что в 2027 году заметно вырастет автоматизация самого ML: система будет раскладывать задачу, запускать множество экспериментов, оценивать результаты и собирать улучшенную версию. AlphaEvolve уже показывает форму такого цикла, хотя результаты Google здесь стоит воспринимать именно как данные компании, а не как независимое подтверждение универсальности подхода.
В общем, интересно было послушать мысли Джеффа о том, что ждет индустрию в будущем.
#AI #Agents #Engineering #Architecture #Infrastructure #Product