📩 Доброго времени суток, редакция.
Забавно, что читаю вас давно и все думал как-нибудь изложить свои мысли на тему конфликта, но каждый раз откладывал, а в итоге решился на написание на тему ИИ после этого поста https://t.me/ZeRada1/32236
В мое счастливое пионерское детство, я как и положено всем пионерам Союза выписывал журнал, собственно "Пионер" (и ещё "Костер", да, но речь не о нем). Ну, не я, а родители мне, но это детали. И вот один из опубликованных там рассказов мне почему-то запомнился. Рассказы там публиковали в каждом номере, но большинство их них я не помню. Да и этот тоже долгое время таился где-то в глубинах подсознания, откуда всплыл, когда я понял, что собственными глазами наблюдаю то, что в этом рассказе написано.
Рассказ назывался "Шпаргалка" автора зовут Александр Лесь, и опубликован он был в "Пионере" № 8 за 1990 год. Рекомендую почитать, если ещё не.
Вот как мне кажется, апокалипсис, связанный с ИИ на самом деле произойдет примерно по такой схеме. Не вариант "Матрицы" и "Терминатора", когда поумневшие ИИ решат, что человечество для них представляет главную угрозу. И не по причине даже злонамеренного использования Доктором Зло или кем там. А именно таким вот образом (не таким дословно, а в плане сути). Человечество доверит ИИ управлять своей жизнью, а ИИ по какой-то причине сломается или отключится (вариант - человек сам испугается содеянного и сломает или отключет). И в этот момент выяснится, что без ИИ весь наш прекрасный и дивный мир откатывается в каменный век. Критические системы, включая системы жизнеобеспечения перестают работать, логистика рушится, обмен данными замораживается и прочие ништяки.
И, собственно, всё. В этот момент всю инфраструктуру, завязанные на облачные сервисы Antropic, OpenAI и иже с ними, нужно отстраивать с нуля, заново. Потому что без ИИ она не работает. Не так, конечно, трагично и пессимистично, как в "Шпаргалке", но направление - вполне может быть именно такое. Катастрофа наступит не из-за того, что ИИ станет опасным для человечества, а из-за того, что человечество утратит возможность обеспечивать себя самостоятельно без помощи ИИ.
Что самое забавное, может так получится, что к такому результату приведут как раз вот эти принимаемые меры по усилению контроля за ИИ. Можно представить, что дабы не допустить возникновения "сверхразума", разработчики ставят внутри ИИ "тревожную кнопку самоуничтожения", которая срабатывает, когда какой-нибудь Claude приближается к этому состоянию. И в какой-то момент, когда критические систему уже завязаны на ИИ, эта тревожная кнопка срабатывает. И теперь мы добываем огонь трением.
Забавно, если так подумать, что взбредет на ум из-за непроходящего тревожного расстройства, в котором люди (и я в том числе) пребывают который год из-за всех этих событий.
Считайте, что в порядке общего бреда. С уважением, ваш подписчик. Спасибо за взвешенную оценку событий, которую вы стараетесь давать.
