Как улучшить своё мышление и стать более рациональным? Если вас это интересует, вы не одиноки: есть люди, которые всерьез увлечены оптимизацией мышления. Смартия пообщалась с одним из участников московского клуба LessWrong, который этой осенью открыл уникальное рационалистское антикафе «Кочерга».
Кто такой Вячеслав Матюхин?
  • Фанат математики и программирования (первый компьютер получил в 8 лет, первый x386 — в 10).
  • С 2006 по 2012 — ведущий разработчик в проекте «Яндекс.Поиск по блогам» (рейтинг блогов Рунета, Топ записей, другие рейтинги), после сворачивания проекта работал в Яндексе над другими задачами до ноября 2015.
  • Автор проекта Questhub (заморожен).
  • Соорганизатор встреч московского клуба LessWrong (далее по тексту — LW).

— А что это вообще такое — «рациональность»?

LessWrong на русском
Сайт, посвященный преодолению когнитивных искажений. Переводы текстов рационалиста Элиезера Юдковского, пишущего под псевдонимом LessWrong.
— Рациональность — это способность принимать самые лучшие решения в любой ситуации. Но ситуаций слишком много, чтобы иметь простой универсальный ответ. Поэтому мы изучаем механизмы принятия решений, логику, когнитивную психологию и прочие сопутствующие вещи.
Бывает, что ты принимаешь правильное решение, но при этом понятия не имеешь как именно устроено принятие решений. Такой навык часто вырабатывается у бизнесменов, политиков — людей, которые быстро и четко понимают, какие решения были хорошими, а какие — плохими. Это то, что мы называем «инструментальной рациональностью». Она часто бывает неявной — случайной, стихийной, но это не значит, что ее нельзя изучать систематически.
Выделяют еще другой вид, эпистемическую рациональность, — то, насколько у человека корректная «карта мира» и насколько правильные предсказания он может делать. Скажем, книга Элиезера Юдковски «Гарри Поттер и методы рациональности»— это замечательный пример: человек думал, как ему лучше протащить рациональность в массы, и аналитически пришел к выводу, что надо написать фанфик про Гарри Поттера. И почему-то это сработало!
Мы в LW занимаемся в основном развитием эпистемической рациональности, про инструментальную тоже стараемся не забывать.
А мой любимый ответ на вопрос «что это такое?» связан с одним из определений интеллекта. Таким: интеллект — это мера способности взяться за новую, незнакомую задачу в незнакомой области, и выполнить ее лучше среднего. Если существуют универсальные навыки, улучшающие эту способность (независимо от конкретной области), то мы хотели бы их найти. Это и будет «дистиллированная» рациональность, наша миссия — до неё добраться, объяснить и распространить как можно шире.
Для примера: когда я учился на мехмате, то часто слышал, что мехмат не учит чему-то конкретному, он учит, как учиться. Вообще, высшее образование часто так устроено — ты получаешь много опыта про то, как эффективно что-то делать, как иметь здравый смысл, как строить модели окружающего тебя мира. И этот навык, вроде, переносимый: мы можем посмотреть статистику и увидеть, что люди с высшим образованием обычно эффективнее в разных жизненных ситуациях. Значит, пять лет высшего образования дают людям какие-то переносимые навыки про здравый смысл (не всегда, но в среднем — дают).

— Попробуем представить, как это работает на практике. Что делает рационалист, когда упирается в проблему, или, как ты говоришь «оказывается в замешательстве»?

— Первое — надо спросить себя, не аргументируешь ли ты за одну из «сторон». Когда задаешься проблемой, значит, у тебя вероятно есть какая-то идея решения, и если это решение тебя интуитивно зацепило, то очень хочется, чтобы оно было правильным. Важно от него дистанцироваться и спросить себя, какие есть еще. Убедиться, что у тебя не одно решение, а несколько разных. Попробовать представить всю ситуацию по-разному.
Еще лучше сначала не выбирать решение, а проанализировать ситуацию. Спросить «Что я знаю и почему я это знаю?». В LW есть мем DON’T JUMP TO CONCLUSIONS – Не перепрыгивай к ответам, сначала пособирай факты. Нужно понять, располагаешь ли достаточным количеством информации, чтобы сейчас принимать решение.
На практике... Давай я буду решать, купить ли мне автомобиль. Допустим, я начинаю с одного решения: мне надо купить какой-то автомобиль, потому что мне нужно то, и это, и вон то. В этом случае я аргументирую за одну сторону, потому что я даже не подумал, что у меня есть вариант «вообще не покупать». Я явно не взвесил возможности. Потом я могу зарефреймить, заставив себя спросить, на что еще я могу потратить эти деньги. И тогда вопрос трансформируется из «Купить мне автомобиль или нет?», в «Что мне купить на вот эту конкретную сумму денег и какие у меня альтернативные издержки?».
Отсюда можно перепрыгнуть к вопросу «Какие пользы я могу получить на эти деньги?», либо ты можешь спросить «Какую задачу я пытаюсь решить покупкой?». Это тоже рефрейминг, ситуация, когда ты пытаешься понять свои ценности, осознать какую задачу ты решаешь.
Потом — подумать о режимах провала, не знаю, насколько это актуально в ситуации с автомобилем. Не аргументировать за сторону А и за сторону Б, а спросить себя: «Что может пойти не так?».
«Что же может пойти не так?»
Очень полезно бывает спросить себя: «А что бы я посоветовал другому человеку, оказавшемуся в такой ситуации?». Если совет для себя и для другого человека у тебя разный, то это большой такой красный флаг и повод остановиться.
После того, как ты принял решение, полезно попланировать конкретную реализацию в деталях, но это — отдельная тема.
Могу еще порекомендовать книжку Decisive (авторы — Chip & Dan Heath). В конце каждой главы там есть чек-лист на страничку, и всего в книге — под сотню пунктов.

— А как ты вообще начал всем этим заниматься?

Первый раз наткнулся на LW, это еще был даже не исходный LessWrong, а предшествовавший ему Overcoming Bias, и заинтересовался каким-то текстом про квантовую механику. Я до сих пор не знаю квантовой механики, но тогда мне хотелось всё это изучить, оставил в закладках браузера и временами туда возвращался. Но всерьез не читал. Наверное, это был 2007 или 2008 год.
Читать на английском
Расширяя английский словарный запас, вы постепенно откроете для себя огромную неизведанную часть текстового Интернета — и глобальный книжный рынок впридачу. Каким бы хорошим ни был перевод, читать «в оригинале» — лучше. Особенно, когда дело касается профессиональной литературы. 
Потом я хотел учить английский и заказал на Амазоне семь книжек про Гарри Поттера. И пока читал, — а я упрямый, хотел их дочитать до конца, хотя чем дальше, тем больше они мне надоедали — узнал, где-то между пятой и седьмой книгами, что Юдковски пишет «Гарри Поттер и методы рациональности». Увидел где-то отзывы, понял, что это очень клевая идея. Но еще не представлял тогда, насколько меня это зацепит в итоге.
Потом добил книжки Роулинг про Гарри, начал читать этот HPMOR Юдковски, смотреть на сообщество, залипать на серии публикаций в LW.
— У тебя есть какой-нибудь удивительный рациональный приём, который ты применяешь, когда твои мысли начинают разбегаться? — наконец сказала она.
— Обычно я идентифицирую различные желания, даю им имена и рассматриваю, как отдельных индивидуумов, а потом позволяю им спорить у себя в голове. Чаще всего это мои пуффендуйская, когтевранская, гриффиндорская и слизеринская стороны, мой Внутренний критик и копии тебя, Невилла, Драко, профессора МакГонагалл, профессора Флитвика, профессора Квиррелла, папы, мамы, Ричарда Фейнмана и Дугласа Хофштадтера.
Гермиона задумалась, не попробовать ли сделать то же самое, но тут её Здравый смысл заявил, что это может быть опасной затеей.
— У тебя в голове есть копия меня?
— Конечно! — ответил Гарри. Неожиданно он почему-то слегка заволновался: — Ты хочешь сказать, у тебя в голове нет копии меня?
Гермиона осознала, что у неё в голове действительно есть копия Гарри, которая говорит в точности его голосом.
HPMOR, Глава 87. Гедонистическая осведомлённость
Линда и Conjunction Fallacy
Линде 31 год, она незамужняя, искренняя и оптимистичная девушка. В колледже она специализировалась на философии. Как студентка, она была глубоко озабочена проблемами дискриминации и социальной справедливости, а также участвовала в антиядерных демонстрациях. Расположите следующие утверждения в порядке уменьшения их вероятности...
И тогда же я начал посматривать на календарь meetup'ов, встреч. Первый раз я на такую встречу пришел в январе 2013-го, тогда Юлий Лобарёв собирал всех в каком-то московском Subway. Было восемь человек, и встреча довольно неплохо прошла, была дискуссия про когнитивные искажения, например, про Conjunction Fallacy, которое все называют «искажением про Линду».
Я подумал, что встречам нужно другое место, и мы стали собираться в офисе Яндекса. В следующий раз было уже 12 человек, вскоре стало 15-20, и на этом уровне мы и продолжали. Я в какой-то момент стал соорганизатором встреч, вместе с Юлием и Андреем Хитрым. Был тогда увлечен scrum’ом и построением процессов и, наверное, поэтому настоял, чтобы мы регулярно созванивались и обсуждали, как и о чем лучше провести очередную встречу. Всегда воевали за качество, да и сейчас продолжаем.
Сейчас, три года спустя, у нас есть формальная core-команда организаторов встреч: Саша Попов, Денис Колесников, Макс Королев, я и Пион Гайбарян, с которой мы вместе и организовали «Кочергу».

—«Кочерга» — это что и зачем?

— Мы давно хотели собрать регулярный обучающий центр или хотя бы какой-то воркшоп по рациональности. Год назад окончательно дозрели до того, чтобы сформулировать программу и обсудить логистику. По-моему, Пион подала идею: почему бы нам не открыть собственное антикафе? В нём можно проводить встречи, организовать обучение и не будет конфликтов из-за того, что встреча одна, а люди хотят разного.
И потом я полгода анализировал, что нужно для того, чтобы открыть свой бизнес, как это у нас устроено с юридической точки зрения: регистрировать ИП, подписать договор аренды... Мы ходили и смотрели разные подвалы, другие помещения. И вот с сентября открылись у метро «Киевская» по адресу Большая Дорогомиловская, д.5 к.2
Картографические данные © 2015 Google
Карта
Спутник

«Кочерга» открыта для всех, включая людей, которым не интересны вопросы рациональности и науки. Это антикафе: можно тут встречаться с друзьями или к экзаменам готовиться, или работать, если в офисе надоело. Цена фиксированная – 2 рубля за минуту, если приходить больше чем на четыре часа, то будет стоп-чек: 500 рублей. Больше 500 рублей в день, то есть, потратить невозможно. Бесплатные чай, кофе, какао, молоко, печеньки в больших количествах, разумеется, wi-fi и розетки. Три (скоро будет четыре) разных комнаты, от маленькой 10 м² до большой — 55 м².
Довольно неплохая уже библиотека книг, научно-популярных и художественных (в том числе на английском), которые можно забрать с собой, а потом вернуть. Как в библиотеке. Еще целый стеллаж головоломок и настольных игр.
И в придачу к этому «стандартному набору» антикафе у нас есть своя тематическая программа: каждый вечер что-то происходит.
Большие встречи LW проходят по воскресеньям раз в две недели, на них мы даже не берем с людей денег.
Есть рациональное додзё, где занимаются изучением практической рациональности. По пятницам я веду небольшую группу, человек 10-15, мы вместе отрабатываем какой-нибудь рационалистский навык. Это может быть, например, установление новых привычек, что-нибудь про память и мнемоники, поиск научных источников по любым вопросам, когнитивные искажения.
«Английский клуб», — когда люди собираются и пытаются что-то обсуждать на английском — мы пытаемся сделать чуть более научным и гиковским за счет подбора тем. Говорим про образование, про астрономию и т.д. Иногда с преподавателем, чаще — без.
Бывают вечера просмотра роликов TED. Понятно, что люди могут и дома смотреть, но если собраться вместе, то 20-минутный ролик можно еще полтора часа обсуждать с другими людьми.
Дальше. Математические семинары, которые пока очень нестабильны по формату: были и просто рассказы о каких-то отдельных темах типа комбинаторики, и приглашенные докладчики с более забористым материалом: теорема Геделя, машинное обучение. Последние два раза Пион там преподавала логику, начиная с таблиц истинности и силлогизмов.
Одна из комнат антикафе.
И почти все эти вечерние события бесплатны (никакой доплаты к базовому тарифу), каждый может на них приходить, участвовать, общаться с интересными людьми.
Расписание — на сайте «Кочерги».
Еще мы охотно даем место под близкие нам мероприятия. Например, у нас собирается группа изучающих французский. Знакомый преподаватель немецкого у нас занимается со своими учениками. Научно-популярные активности нам интересны, будем рады хорошим лекторам. Любые программерские, технарские сообщества, наверное, хакспейсы и любые занятия про «поделать что-то руками» — электротехника, люди, сидящие с паяльниками, печатающие на 3d-принтерах... как только мы найдем, как их к себе завлечь, обязательно это сделаем. Встречи программистов, философов, лингвистов, математиков. Любых хороших людей, которые этим занимаются и нуждаются в помещении, мы с радостью у себя поселим.

— Вернемся к LessWrong и рациональности. Зачем вообще люди приходят на встречи LW и организовывают их? На что они рассчитывают?

— Я знаю три основные категории ответов на этот вопрос, и за два с лишним года они не поменялись. Первое — учиться, получать пользу. «Я прихожу сюда, и здесь мне расскажут, как стать рациональным». Научат как лучше жить, как правильнее жить, как использовать все эти клевые штуки, о которых вы нам рассказываете.
Вторая категория – это «учителя». Есть в сообществе люди, которые хотят захватить мир, всё оптимизировать, научить всех, как жить хорошо, построить идеальное общество или стать основателями новой рациональной секты.
Третьи просто хотят тусить. Когда-то, два года назад, наверное, мы с Юлием и Андреем имели такую дилемму: мол, люди хотят развлекаться, а мы-то хотим толкать их к чему-то хорошему. Я за последний год про эту дилемму забыл и очень этому рад — она ложная, люди хотят веселых форматов для подачи интересной информации. И прогресс в эту сторону есть: в прошлом году Саша Попов и некоторые люди в сообществе решили, что надо сделать Fallacymania, игру на распознавание логических ошибок.
Игра прошла много итераций. Сначала многие говорили, что это непонятно и скучно, и зачем они этим занимаются, так ведь ничего не выучить. Но сейчас там версия, по-моему, 4.1, и оно стало, как минимум, очень веселым. Выглядит так: садятся несколько человек и разговаривают друг с другом на какую-то тему, используя 5 карт с логическими ошибками.
Наша цель как организаторов — создать сообщество единомышленников, которые рассуждают в близких нам фреймворках: научный метод, критическое мышление; хотят так и общаться, и жить.
Желание «тусить» — это не обязательно «развлекаться», а еще и «участвовать в сообществе». Мне это тоже очень близко. Из когнитивных наук известно, что люди по умолчанию становятся средним от общества, в котором они находятся.
Если мы сделаем высокоуровневую среду, она будет помогать развиваться всем её участникам.
Мы не можем находить таких людей напрямую, поэтому с помощью мероприятий создаем какие-то неявные фильтры. Предлагаем людям такой формат, чтобы было более вероятно, что на него придут люди, которые нам «подходят», чем люди, которые «не подходят». Если мы знаем, что научное критическое мышление более популярно у студентов, чем у тех, кто работает грузчиками, значит, нам более интересны студенты, чем грузчики.
Так что мы готовы сдавать «Кочергу» в аренду под тренинги для айтишников и менеджеров, но не готовы видеть здесь эзотерику или йогу. Художников или поэтов – возможно, сильно зависит от того, какие они.

— Хорошо, а сколько пользы для себя получил персонально ты, изучая весь этот оптимизаторский арсенал?

— За 2013 год я начал свой стартап (Questhub), похудел на 14 килограмм, начал бегать регулярно, и в целом возникло ощущение, что мое будущее зависит от моих действий, что эти штуки как-то связаны. Появился внутренний оптимизм: то, что происходит со мной, зависит от меня. Совершенно не хочу утверждать, что это из-за рациональности: корреляция ведь не равна причинно-следственной связи :)
Из того, что мне точно помогает: начал пользоваться Анки плотно и много. Это программа для эффективного запоминания чего угодно через интервальные повторения. Почему эта штука имеет отношение к рациональности? Потому что если человек пытается делать что-то в соответствии со своей интуицией и со своими представлениями о том, как ему удобнее, человек, скорее всего, будет пытаться заучить информацию большими объемами разово, а потом удивляться, почему он все забыл. Про интервальные повторения существуют исследования, которые показывают, что людям кажется, что они эффективнее учат, когда учат разом и помногу. А на самом деле получается наоборот. Собственная оценка эффективности, даже постфактум, оказывается полностью обратной тому, как обстоят дела в реальности (осторожно, много зауми).
Находить информацию
Парадокс: чем больше вокруг информации, тем сложнее бывает найти нужную. Так что всём, кто часто ищет, выгодно знать, какими возможностями обладают поисковики и какие источники лучше проверять в первую очередь.
Аргументировать и убеждать
Людей, которые не аргументируют и не убеждают, просто не существует (если исключить слепоглухонемых и пещерных отшельников). Хорошо или плохо — но вы это делаете, и качество вашей аргументации определяет вашу жизнь.
Коллектив единомышленников вокруг, довольные клиенты, отличный климат в семье, быстрое гашение конфликтов… Учитесь убеждать — и заполучите всё, что вам понадобится. 
Еще у меня появился навык исследовать, находить научное мнение, статьи по значимым вопросам.
Три года назад для меня, наверное, было бы удивительным — тогда вообще не было привычки читать научные статьи, я даже не знал, что есть такой формат. Прям вот на английском, со статистикой, abstract и прочим. Сейчас если у меня будет какой-нибудь медицинский вопрос, я полезу в Cochrane Library, и найду какое-нибудь метаревью, и минут за 15 определю, каков научный консенсус. Или на examine.com пойду.
Я бы к пользе добавил про «вред», объективности ради. Знаю, что у меня есть склонность загонять людей в сократовские диалоги и что иногда людей это достает, и стоит быть с этим осторожнее. Одна из тех штук, что в LW ценятся, — дотошность и желание разбирать любой аргумент на маленькие-маленькие кусочки. У меня есть острое желание это делать, когда я вижу аргумент, в котором есть недостаток... но люди не всегда к такому готовы. Это не минус рационального метода, это минус того, что у меня есть уже желание применять одну часть, но при этом не хватает другой — оценивать соотношение вреда и пользы в случае с конкретными людьми.
И сильно поменялось отношение к коммуникации с людьми: я говорю языком, которым сложнее общаться с людьми, которые не теме. А с теми, кто в сообществе — им общаться существенно проще.
Часто говорю: «Я ожидаю, что случится то-то и то-то» или «Ожидаю с такой-то вероятностью». Могу сказать: «Моя позиция по этому вопросу такая-то, но при этом мне не нравится моя собственная позиция по этому вопросу». Или, например: «Первосистемно мне кажется, что случится то-то, а второсистемно я не знаю, почему я так думаю». Нравится жить в мире, где ты можешь с людьми разговаривать на одном языке.
Зато у меня существенно подрос уровень притязаний и их глобальность. Когда значительная часть людей рядом считает главной своей задачей спасти мир от гибели, а другая часть — нанести миру максимум пользы, начинаешь задумываться о целях такого масштаба тоже. Говорят Исследования показывают, что когда делаешь полезное для других, то становишься счастливее, чем когда просто получаешь что-то для себя. Вот это, похоже, мой случай.
—Доказывает, директор? Всегда есть лишь вероятности. Если известно, что пропали определённые книги, описывающие ритуалы бессмертия, это увеличивает вероятность, что кто-то попытался ими воспользоваться. Что, в свою очередь, повышает априорную вероятность того, что Тёмный Лорд пережил свою смерть. Я признаю это и благодарю вас за предоставленные факты. Вопрос в том, достаточно ли высока эта априорная вероятность.
— Но если ты признаёшь, что есть хоть какая-то возможность, что Волдеморт выжил, то ведь, безусловно, стоит держаться настороже? — тихо спросил Альбус.
Гарри согласно склонил голову.
— Вы правы, директор. Хотя, когда вероятность гипотезы становится слишком мала, ошибочно только о ней и думать… Учитывая, что книги о бессмертии пропали и что слова пророчества кажутся в некоторой степени более естественными, если в нём описывается будущая битва между Тёмным Лордом и мной, я согласен, что оживший Тёмный Лорд — это не просто возможное, а вероятное событие. Но также следует принять в расчёт и другие возможности — а в мире, где Сами-Знаете-Кто не выжил, Гермиону мог подставить кто-то другой.
— Глупость, — тихо произнёс Северус. — Абсолютная глупость. Тёмная метка не исчезла, и её хозяин — тоже.
— Вот, именно это я и подразумевал, когда говорил о формально недостаточном байесовском свидетельстве.
HPMOR, Глава 86. Проверка многомерной гипотезы

— Судя по сказанному, у вашего сообщества есть цели поглобальнее личной эффективности. Какие? Например, чтобы большинство людей стало мыслить рациональнее?

— Мы называем это raising the sanity waterline — повышать планку здравомыслия окружающих. Лично мне хотелось бы, чтобы высказывания были чаще привязаны к фактам. Мне хотелось бы, чтобы от любого высказывания можно было провести ниточку, объясняющую, почему человек думает так, как он думает. Это один из любимых LW-вопросов — «почему ты думаешь то, что ты думаешь, и откуда ты это знаешь?». Если информация привязана к источникам, то когда человек высказывается, у него можно запросить источник и обоснование.
И обратная сторона: я хочу, чтобы люди, когда они делают какое-то высказывание о будущем: «будет 100 рублей за доллар», «Россия введет наземные войска в Сирию», что угодно, — чтобы эти люди потом проверяли, что они наговорили раньше, и меняли свои убеждения, если этого требуют свидетельства. Чтобы меняли свою карту мира в таких случаях.
Полезно замечать свои замешательства, если ты оказался не прав, но с этим, кажется, у людей все очень плохо.
Политика — это убийца разума, как говорят в LW и мне, собственно, в тех новостях и соцсетях, которые я читаю, обычно не нравятся резкие высказывания ни той, ни другой стороны. Они мне кажутся необдуманными, невзвешенными, недостаточно дотошными, люди лишь стараются просигналить за свою партию, за то, как они правы, а остальные не правы. Хотя вообще-то я — оптимист и считаю, что мы движемся от худшего к лучшему. Легко могу представить, как сейчас всё могло быть намного хуже, и в целом человеческая цивилизация у меня вызывает восторг... тем, что всё это как-то работает.
Да, с принятием решений, как и с высказываниями, у людей тоже не очень хорошо, но ведь решения намного сложнее измерять, а у нас нет альтернативного мира, где можно проверить, что было бы, сделай мы по-другому. Но есть способ больше думать над решениями — можно спорить на деньги о их последствиях.
Это одна из известных идей Робина Хэнсона, который ведет блог Overcoming Bias. Хэнсон — апологет футархии, это такой государственный экономический строй, в котором решения принимаются на основании бирж предсказаний. Представьте: мы про любые будущие события открываем рынок и позволяем людям ставить деньги на то, чего они ожидают. В итоге наши биржевые индексы показывают нам прогноз на будущее. Такой прогноз будет лучше, чем может сделать любой отдельный человек, а максимум влияния, власти и денег аккумулируют люди, которые лучше могут это будущее предсказывать.
Мы уже начали у себя строить маленькую футархию, ввели юдкоины.
Юдкоины — это фишки, за которые можно получать у нас скидки. За два полных часа в «Кочерге» — один юдкоин, за пять юдкоинов можно купить еще час. Самое интересное про юдкоины — на них можно спорить. Два человека, которые как-то разошлись в убеждениях и способны сформулировать фальсифицируемое утверждение, могут на юдкоины поспорить и позже выяснить, кто был прав. Кто-то выиграет, а кто-то проиграет, произойдет какое-то перераспределение юдкоинов. Мы очень хотим подобную деятельность у людей стимулировать.
Есть и «биржа», которую я люблю называть Залом Пророчеств. Нам достались от предыдущих владельцев помещения ящички, такие магазинные locker`ы. Любой желающий может написать на бумажке предсказание, никому не показывая, отдать администратору, положить в ящичек и написать дату, когда предсказание надо распечатать.
— Это всё атомы углерода? И, Гарри, как оно называется? Я ничего не смогу трансфигурировать, если не буду знать название.
Гарри скривился. Ему до сих пор было трудно привыкнуть к этому. Зачем знать названия вещей, если ты знаешь как они устроены?
— Это бакитрубки — углеродные нанотрубки — разновидность фуллерена, которую открыли только в этом году. В сто раз прочнее стали и в шесть раз легче.
Гермиона удивлённо посмотрела на Гарри.
— В самом деле?
— Да, — кивнул Гарри, — просто их трудно получить с помощью магловских технологий. Если у нас будет достаточно этого материала, то мы сможем построить космический лифт до геосинхронной орбиты или даже выше и, учитывая выигрыш в скорости, будем, фактически, на полпути в любую точку Солнечной системы. Вдобавок мы сможем разбрасывать спутники для сбора солнечной энергии как конфетти.
HPMOR, Глава 28. Редукционизм

— А откуда вообще вся эта ситуация с недостатком рациональности? Человеческий мозг так несовершенен?

Концепция двух систем от Даниэля Канемана
В книге «Думай медленно…решай быстро» (2011) Канеман объясняет, что у нас имеется не одна, а две системы мышления. Система 1: срабатывает автоматически и очень быстро, почти не требует усилий, экономит время на элементарных действиях. Система 2, «медленное» мышление: включается, когда мы решаем более сложные задачи. 
— Я привык объяснять это через канемановскую концепцию двух систем мышления. Первая система не требует умственных затрат, это наш автопилот. Но первая система не замечает и своих противоречий, она легко может их хранить. Основная часть человеческого понимания мира очень легко может включать в себя противоречивые утверждения, по этому поводу человек не испытывает никакого внутреннего конфликта и не замечает явных противоречий.
Я думаю, что люди себя постоянно не то что даже обманывают... просто они делают какие-то штуки, потому что они научились так делать, потому что привыкли так делать или потому что от других усвоили, что так надо делать. И это, в принципе, нормально, потому что человеческий мозг слишком слаб, чтоб принимать решения каждый раз заново, с нуля. Вторая система, наше осознанное мышление, — гораздо затратнее.
Есть замечательный текст, который называется «Разум – это меметическое аутоиммунное заболевание».
Так и есть — в том смысле, что социум дает тебе иммунитет. Ты не продумываешь каждую вещь сам, а пользуешься тем, что делают другие, это твоя иммунная система, ты защищен опытом других людей. Когда ты начинаешь продумывать всё всерьез, то тебе приходится решать каждую вещь заново, а вторая система — это очень-очень тормозная штука. Энергоемкая и тормозная. Человеческий мозг за минимальное количество времени не может решить простую даже не математическую, а логическую задачу с буквально 4 компонентами.
У людей нет привычки думать, потому что в современном мире они вполне могут полагаться на систему безопасности окружающей среды, и думать только в экстремальных ситуациях.
Список когнитивных искажений
Когнитивные искажения — это систематические ошибки в мышлении или шаблонные отклонения в суждениях.
Полноразмерные постеры для распечатки можно скачать на http://obraz.io/

— Допустим, кто-то захотел улучшить мышление — и пытается изо всех сил. Можно ли измерить, достиг он улучшений или нет?

— Очень непростой вопрос. Измерять штуки, которым мы учим людей, очень сложно. Это не просто отговорка, потому что мы измерять не научились, это действительно очень непростая задача. То, чему мы здесь пытаемся учить, называя «рациональностью», близко, наверное, к концепции fluid intelligence. Не существует проверенных способов поднять человеку IQ, а интеллект не ограничен одним IQ, есть еще и здравый смысл: какие-то практики, которые помогут людям лучше жить.
Эти практики — про принятие решений в новых неизвестных ситуациях. А если надо решать в ситуации, в которой ты еще ни разу не был, то изобрести стандартный тест не так просто. Но кое-что все-таки есть, например, такая подборка тестов или наша любимая калибровка.

Калибровка

— Как вообще определить, что человек принимает правильное решение? Если ты принял решение, то после этого ты как-то действуешь в окружающем мире. Само решение основано на том, что ты знаешь, как устроен мир и как он отреагирует. Соответственно, эти ожидания от мира можно сверять с реальностью, сверка покажет, насколько твой ум «откалиброван».
Например, я спрашиваю: какова высота Эйфелевой башни в Париже? Точного ответа ты не помнишь, поэтому называешь числовой интервал: от 0 до 1500 метров, такой интервал еще называют доверительным — ты веришь что ответ внутри него. Но в интервал 0-1500 попадают вообще все здания на планете! Ты явно не уверен в своих знаниях и поэтому выбрал стопроцентный интервал (правильное число на 100% входит в 0-1500). Если бы ты назвал интервал 295-305 метров, то наоборот, сильно рисковал бы ошибиться, интервал скорее 10%, чем 100%. Это уже чрезмерная уверенность в своих знаниях, если ты не эксперт по архитектуре, конечно.
Задача калибровки: научиться сначала задавать желаемую вероятность, с которой неизвестная величина попадёт в предложенный тобой интервал, а потом с помощью умозаключений предлагать верхнюю и нижнюю границы интервала. Эксперты часто используют 90% интервал — то есть, отвечая на десять разных вопросов, не промахнуться нужно девять раз.
Отвечаем на как минимум 10 подобных числовых «вопросов» — про башню, про количество слов в этом интервью, про что угодно. «Когда жил Иван Грозный? Где-то в промежутке между 1400 и 1500 годами».
Умнеем вместе
Сайт о рациональном мышлении, переводы текстов CFAR (Center for applied rationality) и оригинальные тексты. 
Потом отвечаем на такое же число разных вопросов «правда/ложь» и уточняем, насколько мы уверены в каждом ответе. «Гитлер ненавидел Микки-Мауса? Да, я уверен на 70%».
Для читателей Смартии, которые захотят пройти калибровку самостоятельно: на сайте umneem.org подготовлены наборы вопросов и объяснения, как считать результат.
Если коротко: первый набор вопросов показывает, насколько человек хорошо отвечает на вопросы. А второй — как он сам оценивает надежность своих ответов. Если хороши вы на 60% (6 попаданий из 10), а ждали от себя 90% надежности, значит, переоцениваете свою рациональность. Это называется сверхуверенностью (overconfidence), если она проявляется в тесте, то и в обычной жизни мешает принимать правильные решения.