Смотрите, по обсуждаемым уходам специалистов по безопасности ИИ из DeepMind и Anthropic — меня просили прокомментировать, но я из-за нехватки времени ответил пока отпиской.
Естественно, после этих увольнений, жёлтая пресса тут же подхватила привычную шарманку про «МЫ ВСЕ УМРЁМ!!!1111», и кто-то даже стал из-за этого переживать.
Я вам сейчас примерную механику этих увольнений объясню, но прямо не хочется потом к этой теме возвращаться, поэтому, что называется, «один раз».
В действительности эти увольнения значат примерно одно: реально лаборатории оценивают риски как очень низкие. И вот почему.
Представьте себе, что вы молодой талантливый специалист, вам дают место, которое выглядит как «работа мечты». С высоких трибун, включая даже Капитолийский холм, все говорят о чрезвычайной важности проблемы безопасности ИИ. ИИ-риски, экзистенциальные угрозы, смерть мерзкая от Антропиков, гроб, гроб, кладбище, Сэм Альтман, Билл Гейтс, Илон Маск, nomen illis legio, имена их же, Господи, Ты Сам веси.
Итак, вас берут в топовую лабу, на самую горячую тему, на входе говорят: будет тебе дружный коллектив нобелевских лауреатов, тьма GPU, общественное признание и т. д.
И вот вы начинаете работать, делаете что-то, рисуете презы, разрабатываете гайды, гардрейлы, протоколы пишете, эксперименты проводите. И тут у вас потихоньку начинают забирать ресурсы — людей, GPU. Сначала говорят, что временно, потом временное происходит всё чаще, а где-то превращается в постоянное. Людей к вам в команду набирают по остаточному принципу, новые ставки не дают, GPU-бюджеты не растят, а то и режут в пользу экспериментов, направленных на улучшение позиций в ИИ-гонке. На ваши презы кивают, говорят: «Да, да, отлично, молодцы!», но проблема в том, что из ваших результатов скорее следует вывод о том, что чёрт не так страшен, как его малюют. Особо громкого пиара не выходит уже из ваших экспериментов, реальная опасность, как всем видно, скорее не экзистенциальная, а социальная (алгоритмическое неравенство, локальная техбезработица, усиление социальной сегрегации и пр.), в итоге вы понимаете, что ваша карьера идёт не туда. Обещали, но не женились, дело тухляк. И тут вы увольняетесь. А чтобы привлечь к себе внимание рынка труда делаете несколько громких заявлений — publicity, как говорится, is prosperity.
Если бы экзистенциальные риски реально были так велики, как кажется после прочтения материалов жёлтой прессы и думеров, то, поверьте, никаких уходов специалистов по ИИ-рискам из топовых компаний не было бы. Наоборот, был бы быстрый рост этих направлений, рост зарплат в них, ресурсов и т. д.
