Меньше правил, лучшие люди: Лэм о моральной цене легизма

Книга Лэма « Меньше правил, лучшие люди: аргументы в пользу дискреции» полна конкретных примеров случаев, когда отсутствие дискреции заставляет людей совершать действия, противоречащие справедливости или даже просто здравому смыслу. В одной из глав он рассказывает о женщине, которая через свою организацию проводила круглый стол на конференции. Она хотела заказать кофе для мероприятия, но в ее учреждении было правило, что все заказы на питание должны проходить через определенного поставщика. Но возникла проблема — круглый стол начался в 9:30, но поставщик даже не начал принимать заказы до 10:00. Однако прямо за углом был Starbucks, и оказалось, что поставщик, о котором идет речь, передал заказы на кофе в Starbucks по субподряду — действительно, в это конкретное место Starbucks. Поэтому женщина, проводившая мероприятие, пыталась заставить свое учреждение просто разрешить ей сделать заказ напрямую в Starbucks, но безуспешно:

Конечно, мой хозяин утверждал, что это было достаточным доказательством того, что эта покупка кофе была в духе правил. Администратор не согласился и не одобрил покупку. Это было против правил.

Можно было бы легко отмахнуться от такого рода правил, как от чего-то большего, чем просто раздражение, но не указывающего на что-то существенное. Но Лэм не согласен. Он считает, что нахождение под правлением администраторов, преданных неуклонному подчинению политическим руководствам и сводам правил, может быть столь же разрушительным для структуры гражданского общества и морального развития, как и жизнь под тиранией:

Тирания сделала столько же, сколько и все остальное, чтобы помешать человечеству процветать. Западные либералы меньше всего были обеспокоены фигурой, которая является противоположностью тирана по характеру, но не менее страшной. Это бюрократ, действующий по правилам. Эти бюрократы по природе своей склонны к легализму и глубоко боятся выносить дискреционные суждения. Они не хотят ответственности; они боятся любой отдачи, поэтому они крайне не расположены к риску. Столкнувшись с решением, в котором они не уверены, они ищут язык управления и успокаиваются, когда обнаруживают, что проблема вышла из-под их контроля. Если кто-то идет к бюрократу, действующему по правилам, с новой идеей, единственный способ заставить его согласиться — это наличие явных правил в пользу этой идеи.

Критическая способность для нас как отдельных людей и для развития процветающего общества заключается не только в способности распознавать правило и знать, как его соблюдать, но и в способности понимать причину и цель, стоящие за правилами. Правила не являются самооправдывающими просто потому, что они правила, — по своей природе правила предназначены для того, чтобы служить какой-то другой, более крупной цели. Обязательство жить, просто применяя правила, какими бы они ни были, притупляет наше моральное развитие и нашу способность проявлять добродетель. Это касается не только бюрократов, работающих по правилам. Это также касается граждан, чье поведение определяется подчинением легалистическим алгоритмам:

Но я думаю, что еще хуже, чем это, то, как такие общества влияют на послушных. Целью легализма государства надзора является превращение всех граждан в роботов-послушников, а каждого бюрократа — в бюрократа, работающего по инструкции. Он делает это, превращая человеческую мотивацию во всей ее богатой сложности в страх выйти за рамки и в любовь к действиям ради правил. Это настоящий ужас легализма.

Он проводит личную аналогию, размышляя о своей ответственности как родителя за то, чтобы научить свою дочь не просто следовать списку предписанных действий, но и понимать причины, стоящие за этими действиями:

Цель создания обязанностей и принуждения ее к ним заключается не в том, чтобы она действовала ради правил и наказания и вознаграждения, которые они приносят. Мы хотим, чтобы она кормила, поила и расчесывала своих кроликов, потому что они уязвимые живые существа, благополучие которых полностью зависит от их опекунов. Мы хотим, чтобы она вовремя опустошала посудомоечную машину, потому что важно, чтобы кухня была чистой и полезной, потому что важно не быть безбилетником в доме, и потому что у вас есть обязательства перед другими людьми. Мы хотим воспитать в ней дух и рассуждения, лежащие в основе правил, особенно когда они хорошие.

Мы также хотим, чтобы она обладала способностью рассуждать и определять, когда правила неэффективны, либо потому, что их обоснование ошибочно, либо потому, что она нашла лучший способ что-то сделать.

Он признает, что было бы проще просто юридически навязать правила своему ребенку. Но это было бы ошибкой с его стороны:

Сделайте наказания достаточно суровыми и последовательными, и я уверен, что смогу добиться лучшего, более последовательного соблюдения. Но если мой ребенок окажется администратором, который откажется одобрить покупку кофе, я не смог воспитать порядочного, разумного человека, как я бы не смог, если бы воспитал тирана. Выбирайте между миром аппаратчиков, которые следуют букве закона, и миром несовершенных лиц, принимающих решения, которые обладают суждением и мотивацией, чтобы преуспеть в духе правил, которые готовы найти лучшие способы делать вещи, я выберу последнее в 100 процентах случаев.

Легализм не только снижает нашу способность развиваться как моральных агентов, но и делает людей неподготовленными и неспособными действовать в ситуациях, которые правила не учитывали или не могли учесть:

Новые обстоятельства потребуют суждений, основанных на причинах, лежащих в основе правил. Люди, живущие из страха несоблюдения, не будут знать, что делать в таких обстоятельствах. Хуже того, они будут применять правила способами, противоречащими причинам, по которым эти правила существуют изначально. Они будут действовать несправедливо под прикрытием закона, будь то отказ в кофе или отказ в свободе.

Лэм также особенно обеспокоен растущей тенденцией принимать решения с помощью алгоритмов, созданных ИИ, в качестве замены человеческого суждения. Использование алгоритмов ИИ в принятии решений лишает нас даже возможности понять причину правил:

Это уравнения, для которых нет объяснения на человеческом языке. Программист может показать вам это уравнение, хотя вы никогда не сможете прочитать его во всей его длине, и единственное связное описание того, что оно означает, это «это уравнение, которое лучше всего подходит ко всем прошлым вердиктам». Глубокое обучение не просто непрозрачно, оно непостижимо для человека. Правила глубокого обучения являются логической конечной точкой распространения правил. Это конечная точка легализма, где законы бюродинамики приводят нас в самый крайний случай, где никто даже не понимает правил, которые нами управляют.

Таким образом, использование правил, созданных искусственным интеллектом, мало способствует решению проблем бюрократов, работающих по шаблону:

ИИ похож на любого бюрократа, который, установив правило, запрещающее покупать кофе у любого поставщика, кроме A, не даст вам никаких объяснений, почему поставщик A может покупать кофе Starbucks, а вы нет. На вопрос, почему это правило является правильным, они только настаивают, что это правило.

В конечном итоге Лэм считает, что Хань Фэй меняет истинное соотношение между посредственностью и правилами:

Хань Фэй считал, что легизм был противоядием от посредственности. Я думаю, что легизм является его причиной. Стандартизированная еда, стандартизированные дома, стандартизированная оценка эссе и стандартизированные бюрократы в лучшем случае приемлемы , просто приемлемые объекты, которые можно терпеть. Они никогда не бывают превосходными и не вдохновляют на совершенство.

Но эта дискуссия требует чего-то большего, чем просто второсортные, абстрактные дискуссии о том, почему дискреция должна набирать силу против легализма и правил. Чтобы идеи в книге были значимы в практическом смысле, резина должна будет отправиться в путь в какой-то момент. С этой целью у Лэма есть ряд идей о том, как и где расширить роль дискреции. Я расскажу об этом в следующем посте.