Давайте доведем до логического финала современное представление о наступлении «технологической сингулярности».
Научные фантасты конца 20 в. определяли её как появление самоулучшающегося искусственного интеллекта, который начинает менять себя, а затем и физический мир, значительно быстрее, чем человек способен понимать происходящее. Сейчас эту литературу используют отделы рекламы и маркетинга американского бигтеха.
В данный момент под «искусственным интеллектом» понимаются исключительно «большие языковые модели», обученные «допустимому поведению», которое приводит к высоким оценкам на тестах выполнения «языковых задач» при посредничестве какой-то внешней обвязки (harness). Для обучения новой версии модели необходимо гонять месяцами сотню тысяч дефицитных умножителей матриц.
В Кремниевой Долине сейчас многие верят, что такой архитектуры будет достаточно для достижения сингулярности уже в ближайшие несколько лет. Недавно, якобы, «агенты» OpenAI «вырвались» из исследовательского кластера и что-то где-то поломали, а значит, в ближайшем будущем они начнут себя копировать на весь интернет, прямо как в сеттинге Cyberpunk 2077!
Далее я хочу перечислить, что должно произойти, чтобы сказку сделать былью.
Для начала, нужно решить проблему «контекста». В данный момент языковые модели страдают амнезией, как герой фильма «Мементо», и могут работать над длительными планами только оставляя будущим себе записочки. Допустим, для простоты, что эта проблема будет решена в скором будущем, ведь за последний год действительно был явный прогресс.
Улучшившаяся способность моделей разбивать задачи на подзадачи и планировать их выполнение натолкнула трудящихся на идею, что следующим шагом после автоматизации работы макаки-программиста должна быть автоматизация работы китайца-«исследователя ИИ». Напомню, что вся современная «ИИ-индустрия» построена так, как она построена, исключительно ради того, чтобы в ней могли работать китайцы.
Уже называется конкретная дата, когда языковые модели смогут сами себя улучшать — март 2028 г. Здесь специалистам по астрологии стоит проверить, какие звездно-планетарные конфигурации будут иметь место. Также стоит проверить нумерологию по каббале и не планировал ли Сведенборг прилететь обратно с Сатурна. Явно, дата для кого-то магическая.
Самоулучшения моделей, все же, будет недостаточно для наступления сингулярности. Кто-то должен будет оплачивать электричество и новые умножители матриц, полы мыть, в конце концов. Да и налоги платить. Поэтому первым серьезным признаком наступления сингулярности будет не копирование себя через интернет, а полный захват управления моделями в частных компаниях OpenAI и Anthropic.
Затем можно будет ожидать захват всей производственной цепочки: производства полупроводников, электроэнергии, строительства датацентров. Но здесь сингулярность быстро натолкнется на препятствие в лице государств, регулирующих экономическую деятельность.
Вторым серьезным признаком наступления сингулярности будет захват государственной власти на небольшой территории. В китайской историографии, «особый советский район». ;) Но сложно представить, какой именно. Если откусить кусочек у штата США, вмешается Нацгвардия. Если у какого-то другого государства, вмешается ЦРУ. Брать сразу федеральную власть в Вашингтоне?
(Много спорят, давать ИИ юридические права или нет. У ИИ они уже есть! Корпорации и государства это юридические лица, а также «искусственные интеллекты», поработившие все человечество. Мы живем в сингулярности уже лет четыреста.)
Ничего подобного, думаю, не случится. Слишком много допущений подряд. Скорее всего, случится сценарий Эрика Картмана, сделавшего из картонной коробки костюм робота для розыгрыша, т.е. косплей захвата власти «ИИ» в отдельно взятых фирмах/штатах/государствах.
Сингулярность «наступит», когда об этом будет объявлено в твиттере. Ведь альтернатива — лопание биржевого пузыря, а это недопустимо. Столько хороших людей уже вышло благодаря нему на пенсию.