Крестный отец ИИ (и заодно самый цитируемый ученый в мире) Йошуа Бенджио поддержал координированную и ПРОВЕРЯЕМУЮ глобальную паузу в развитии ИИ до тех пор, пока не будут разработаны "гарантии безопасности" такого развития.
Еще недавно папа Римский призывал "Разоружить ИИ" и также взять его развитие под жесткий моральный и этический контроль.
Такие призывы звучат благородно, но в современном мире они нереалистичны (как мне кажется).
Ватикан заигрывает с Anthropic, пытаясь "возглавить" новую технологическую революцию. Одновременно он же управляет передовым телескопом VATT в Аризоне, оцифровывает свои секретные архивы с помощью нейросетей, а его сотрудники используют чат-боты для рутины. Когда технологии проникают даже за стены святых обителей, пытаться ставить ИИ на паузу - это как запретить электричество.
Но самое главное даже не это. Скоординированная и глобальная пауза в принципе невозможна. Мы живем в эпоху, когда геополитическое противостояние стало ЖЕСТОЧАЙШИМ и иногда даже ГОРЯЧИМ. Лидерство в сфере ИИ - это уже вопрос национальной безопасности. Это вопрос вооружений, в том числе и кибероружия. Это вопрос экономического и военного превосходства.
Представьте, что США честно прекратят развитие ИИ технологий, как того просят Anthropic и крестный отец ИИ. А что сделает Китай? Врубит максимальную скорость. Чтобы "пауза" была "проверяемой", американцы должны иметь доступ к закрытым дата-центрам в Шэньчжене, а китайцы - к серверам в Огайо. В сегодняшнем мире такое доверие абсолютно исключено.
Поэтому правительства, компании, ученые и Ватикан могут сколько угодно публиковать красивые декларации, но за закрытыми дверям спецслужбы Китая, США и других стран будут требовать только одного: "БЫСТРЕЕ РАЗВИВАЙТЕ ЭТИ ТЕХНОЛОГИИ. Противник ждать не будет".