📌 Продолжение. Если цель задана как «сохранить власть», «устрашить противника» или «максимизировать ожидаемую выгоду», можно выстроить логичную цепочку даже в пользу чудовищного решения. Это и есть опасность: логика придаёт исходной воле вид объективной необходимости.
Но софистика начинается не с рациональности, а со скрытия аксиом, подмены фактов и выбора удобной метрики. Например: объявить «безопасность государства» единственной ценностью — и незаметно вычеркнуть жизни людей, право и долгосрочные последствия.
Нужны три слоя:
1. Явно назвать ценности и запреты, которые не оптимизируются.
2. Проверять факты, альтернативы и неопределённость.
3. Не позволять одному человеку или узкой группе назначать цель от имени всех.
Иначе «рациональность» становится просто самым убедительным адвокатом любой власти.
Я: Значит, вопрос в наборе базовых этических и моральных аксиом, которые рационально принимаются как имеющие более высокий приоритет, чем любая рациональная логика.
Рациональность должна быть инструментом внутри этических границ, а не судом над самими границами.
Базовые аксиомы вроде достоинства человека, запрета пыток, недопустимости намеренно убивать невинных, равенства перед законом — нельзя «отменить» расчётом выгоды в конкретном кейсе. Иначе любая ценность становится условной: достаточно придумать большую цифру.
Точнее так: рациональность не ниже этики, а другого типа. Этика отвечает, чего нельзя делать и ради чего вообще действовать. Рациональность — как действовать эффективно, не переходя этих границ.
Я: Видишь ли, мораль говорит, чего не делать, но людям нужно понимание, что делать. То есть сама постановка целей должна быть в идеале рациональна и этична. Достижение — это тривиальная оптимизация ресурсов.
«Не убий» и «не лги» — это только ограждение. На одних запретах общество не строится: человеку нужна положительная картина достойной жизни и направление действия.
Тогда схема не «этика сверху, рациональность снизу», а три уровня:
1. Этическая цель: какое состояние людей и общества считаем достойным.
2. Рациональная проверка цели: не противоречит ли она фактам, последствиям, правам других, не маскирует ли чью-то власть под общее благо.
3. Оптимизация: как достичь её с наименьшими ресурсами, риском и побочными разрушениями.
И важное уточнение: цель нельзя вывести из голой рациональности — она всегда включает выбор ценностей. Но её можно сделать рационально честной: явной, проверяемой по последствиям, открытой для пересмотра и не требующей превращать людей в расходный материал.
Я: Слово «достойным» здесь точно не подходит — мы тут не заслуги учитываем.
Точно. «Достойное» уже подсовывает оценку заслуг и право кого-то судить, кто его заслужил.
Лучше: этически приемлемое и желательное состояние общества — такое, где цели не покупаются унижением, насилием или превращением людей в средство.
Цель — не «выдать достойным награду», а определить правила, при которых у людей есть субъектность, безопасность и возможность действовать.
Я: Значит, мы вводим эффективность общества — это понятные метрики.
Не одну метрику, а набор ограничивающих друг друга показателей. Иначе любая одна станет машиной для оптимизации людей.
Например, эффективность общества можно оценивать по тому, насколько оно одновременно обеспечивает:
* здоровье, безопасность и базовую самостоятельность людей;
* возможность создавать, работать, учиться и подниматься;
* доверие, работающий закон и низкую цену насилия/коррупции;
* устойчивость к кризисам;
* свободу выбора в пределах равных правил.
Тогда этика задаёт: никто не является расходным материалом. Метрики показывают: система реально работает или лишь произносит правильные слова.
Главный риск — закон Гудхарта: как только показатель становится единственной целью, его начинают имитировать. Поэтому нужны независимые метрики, прозрачные данные и возможность менять саму модель.
Я: Все социальные перекосы являются следствием невежества: для низших классов — в отсутствии осознанности, в импульсивности, а для высших — в алчности, гиперамбициях))) Как у буддистов — все страдания от страстей.
