Навигация по убеждениям верованиям: Учебный курс для рациональных бесед
Бесплатный курс по уличной эпистемологии (уличным дискуссиям). Читаю сейчас «Как разговаривать с плоскоземельцами», там восхитительные сюжеты, надо будет сравнить с этим курсом по рекомендациям. Без трёх букв не читается. И вместо «убеждений» читайте «верования».
Интересная статья. С точки зрения онтокритики — резкое всплывание на поверхность, благодаря современным технологиям коммуникации и самовыражения, тех реальных реальностей, в которых люди живут фактически. Возникла ситуация их прямого предъявления и прямого столкновения друг с другом. Обретение рационализмом и просвещением государственно-правовой формы в виде современной демократии подтолкнули своих противников на бой, первым раундом которого стала Первая мировая война (по сути, первый раунд мировой войны мировоззрений). Коммунизм и фашизм были попытками создания мировоззренческих и государственных альтернатив демократическому рационализму, К.Поппер в «Открытом обществе» это описал и объяснил почти исчерпывающе. Исламский и скрепный фундаментализмы пытаются дать арьергардные бои на межгосударственном уровне в условиях победы демократических форм государственности. И тут побеждающая демократия оказывается на войне мировоззрений внутри своих границ, внутри своих союзов. Различия языков почти не имеют значения — подлинное вавилонское столпотворение заключается в различиях онтологий.
Критическая рациональность и критический рационализм
Рациональность порождается, формируется и поддерживается в первую очередь критикой. Последовательная и надёжная рациональность может быть только критической и самокритично рефлексивной. Игнорирование критики и попперовской концепции критического рационализма как фундаментальнейших оснований рациональности представляется крайне некритично нерациональным. Рациональность начинается с критики, реализуется критикой и заканчивается там, где заканчивается критика.
Мои архитектурные требования к мышлению – это его абстрактность, адекватность, осознанность, рациональность. Я ничего не говорю о том, как устроено мышление внутри, но я требую от мышления полезного внешнего поведения на его внешней границе: мышление должно быть абстрактно, адекватно, осознанно и рационально.
Абстрактность -- это главное требование, мне в мышлении нужно абстрагироваться от неважного и сосредоточиться на важном. Мышление моделирует мир, а не отражает его в полноте всех ненужных деталей. Мышление должно отделять зёрна от плевел и оперировать зёрнами. Мышление должно уметь отвязываться от индивидов и мыслить типами, прототипами, общими образами: я не знаю, что там у него внутри, но я требую какого-то обобщения с опусканием ненужных для предмета мышления деталей. Мне нужна абстрактность, с конкретными предметами и кошечка справится, и собачка. Абстрагировать кошечке и собачке не удаётся, они работают только с конкретными ситуациями, а я хочу уметь планировать и проектировать, я хочу работать с целыми классами и типами ситуаций. Без абстрагирования я не смогу переносить опыт одних ситуаций на другие, я не смогу эффективно учиться, я не смогу создавать языки.
Адекватность -- это возможность проверить, связано ли моё абстрактное мышление с реальным миром, или оно всё остаётся в отвязанности от вещного мира и у меня не будет способов проверить его результаты, соотнести его результаты с реальным миром. Адекватны ли мои мыслительные представления о ситуациях реальному (т.е. существующему независимо от меня, материальному) миру? Или мышление меня обманывает и предлагает какие-то неадекватные представления? Мне нужно практичное, применимое для действия мышления, я хочу быть адекватным и не отрываться от реальности.
Осознанность -- это возможность понять, как я мыслю, как я рассуждаю. Если я просто "имею интуицию", это меня не удовлетворит. Я не смогу научить мыслить других, повторять их мои рассуждения. Я не смогу заметить ошибку в моём мышлении, не смогу его улучшить или изменить, не смогу выучить другой способ мылсить, ибо я его не буду замечать, не буду его осознавать. Я не смогу удерживать внимание в мышлении, ибо нельзя удерживать внимание на том, чего не осознаёшь. Я не смогу предъявить неосознаваемое мной мышление для проверки со стороны логики и рациональности, не смогу сознательно принять решение о том, что в той или иной ситуации мне достаточно от мышления интуитивной догадки, а не строгого рационального рассуждения. Я хочу знать, о чём я размышляю, как я это делаю, я хочу иметь возможность выбирать -- мыслить мне о чём-то или не мыслить, я не хочу быть бессознательным мыслящим автоматом. Я хочу быть осознанным в мышлении.
Рациональность -- это возможность провести рассуждение по правилам, логичное рассуждение. Это возможность отстроиться от своей биологической и социальной природы, не делать связанных с этим ошибок. Рациональность -- это возможность проверить результаты быстрого образного интуитивного мышления на отсутствие ошибок рассуждения по правилам, возможность задействовать опыт человечества в мышлении. Это возможность явно (хотя бы в диалоге с самим собой, то есть осознанно) обсудить эти выработанные цивилизацией правила хорошего мышления, обсудить логические основания мышления, обсудить допустимость или недопустимость использования каких-то отдельных приёмов мышления. Я не хочу ошибок мышления, поэтому я должен быть рациональным, я должен уметь распознавать ошибки мышления у себя и других, я должен уметь выразить результаты мышления так, чтобы уменьшить число ошибок в их восприятии. Я хочу быть рациональным, мне нужно уметь делить задачи на части (рацио -- это ведь "деление"), я не хочу чистой образности и эмоциональности кошек и собак, мне нужна цивилизованность в мышлении, использование лучших достижений цивилизации в том, как мыслить.
Все остальные требования к мышлению -- это декомпозиция представленных, или разные варианты их сочетания (так, "сильное мышление" обычно сводится к хорошему абстрагированию и адекватности, "мудрость" это просто другие слова для адекватности, "творческое мышление" -- это задействование правильного абстрагирования).
И уже потом должна обсуждаться архитектура мышления, те важнейшие решения (осознанность!) по основным принципам его организации, по его структуре, составу частей и их взаимосвязей, которые должны удовлетворить архитектурным требованиям. И в этой архитектуре мышления выделяется "цивилизационная платформа", которая и должна обеспечивать выполнение этих архитектурных требований абстрактности, адекватности, осознанности, рациональности.
Научение мозга работать с мышлением на уровне этой платформы -- основа обучения любому мышлению, это интеллектуальный фитнес (fitness), готовность к мыслительному действию. Это всё в мышлении нужно "накачать" и "разработать" (как мышцы и суставы для готовности тела к движению -- мозг ведь тоже тренируем, он пластичен!) для того, чтобы дальше иметь возможность абстрактно, адекватно, осознанно и рационально мыслить в какой-то культуре, в каких-то паттернах мышления, на следующем уровне специализации мышления: будь это более специальная по отношению к "просто мышлению" культура системного мышления, вычислительного мышления (computational thinking), танцевального или спортивного мышления в его многочисленных изводах разных жанров танца и видов спорта, или какого-то ещё более специального и быстро меняющегося в своих самых разнообразных мыслительных практиках инженерного или менеджерского мышления. Дальше можно обсуждать, насколько само мышление паттернировано, насколько оно импровизационно в части комбинирования паттернов, насколько спонтанно и хороша ли эта спонтанность, и много чего ещё обсуждать. Впрочем, я всё это обсуждал уже не раз в своих самых разных текстах про мышление (хотя и немного в другой терминологии), и ещё буду не раз это обсуждать. Ссылок не даю, их всё одно будет слишком много.
> Адекватны ли мои мыслительные представления о ситуациях реальному (т.е. > существующему независимо от меня, материальному) миру? Или мышление > меня обманывает и предлагает какие-то неадекватные представления? Мне > нужно практичное, применимое для действия мышления, я хочу быть > адекватным и не отрываться от реальности.
А тут вот проблемка... Кроманьонскому охотникособирателю адекватные представления не предусмотрены особенностями ттх конструкции... Потому как взаправду все не так, как на самом деле (ц)Ежи Лец, кажется.
Вот как доросла наука до зачатков квантовой механики и нейрофизиологии, так вот и полезли всякие махизмы с эмпириокритицизмами, а на микроуровне никто вообще ничего в принципе не способен понять, а описывается все только забубенными математическими формулами... И вот современная физика вплотную уже подбирается к буддистским космогоническим концепциям, а бозон Хихиксггса полгода голосованием выбирают.
Нейросети, опять же, многоуровневые - угу, скоро вместо программистов одни заклинатели демонов останутся.
На днях решил плотно изучить логику, для чего выбрал The art of reasoning (4ed) для ознакомления с самыми основами, выделив Fundamentals of logic design (7ed) как одно из возможных завершения первого шага, так как последняя книга является вводным курсом логики для инженеров.
Для этой же записи приведу выписки из первых двух глав The art of reasoning. Почему? -- запись о концепции "мышление" с фокусом на differentia при отсутствующем genus.
=Classification= ==Rules== 1. A single principle or set of principles should be used consistently so that the categories (species) are mutually exclusive and jointly exhaustive. 2. The principle or principles used should be essential.
==Strategy, organizing concepts== 1. Find the highest-level (most abstract) genus. 2. Identify concepts that are species of that genus; they should all have the same degree of abstractness. 3. Identify the principle of division that applies to the concepts in step 2; put the principle in brackets. 4. For each concept in step 2, identify any other concepts that are its species, and identify the principle of division (the single priciiple by which the concepts has been divided into species). 5. Repeat step 4 for as many levels as necessary.
==Key terms== Classify - to group things into species and genuses according to their similarities and differences. Referents - the class of things for which a concept stands. Genus - a class of things regarded as having various subcategories (its species). Species - a class of things regarded as a subcategory of a wider class (a genus) Mutually exclusive - in a classification, the property that each species excludes the members of every other species. Jointly exhaustive - in a classification, the property that the species taken together cover all the objects int he genus.
=Definitions= ==Main functions== 1. State the criteria for membership in the class of referends 2. Indicate the relationship between a concept and other concepts. 3. Condense the knowledge we have about the referents of a concept.
==Rules== A definition should: 1. Include a genus and a differentia. 2. Not be too broad or too narrow. 3. State the essential attributes of the concept's referents. 4. Not be circular. 5. Not use negative terms unnecessarily. 6. Not use vague, obscure, or metaphorical language.
=Strategy:= ==constructing definitions== 1. Find the genus of the concepts-the broader concept that includes C and other, related concepts from which one needs to distinguish C. 2. Choose a differential that distinguish C from other concepts in the same genus. If there is more than one distinguishing attribute, choose the most essential one. 3. Check to make sure that the resulting definition is not circular, unnecessarily negative or unclear.
==Key terms== Definition - a statement that identifies the referents of a concept by specifying the genus they belong to and the essential characteristics (differentia) that distinguish those referents from other members of the genus. Genus - a class of things regarded as having various subcategories (its species). Differentia - the element in a definition that specifies the attribute(s) distinguishing a species from other species of the same genus. Counterexample - a specific instance that proves a definition wrong. Stipulative definition - a stipulative definition introduces a new concept (or a new meaning for an existing concept) by specifying the criteria for inclusion in the concept.
5 марта 2017 г., неделю назад, я провёл мастерскую «Как я делаю себя рациональным (критически мыслящим): случайные данности эволюции и слепые пробы социоинженерии» в антикафе «Кочерга». Даю ссылку на видеозапись и отзыв на мастерскую одного из участников.
Как обещал — пишу обратную связь по воскресному мероприятию в Кочерге. Мне было интересно услышать историю эксперта, который после многолетней научной карьеры решил глубоко заняться критическим и рациональным мышлением. Думаю, что многие интеллектуалы, которые связаны с высшей школой задумывались над этим рано или поздно. И то, что это стало не мимолетным увлечением на этапе очередного "разочарования в своем деле" заставляет серьезно отнестись к накопленным результатам. Десятки лет в теме - это точно интересно.
Концепция нерационального от природы человека, не очень "зашла" на самом мероприятии. С самой идеей я склонен согласиться, а вот логическое построение, откуда это выросло - мне кажется немного хаотичным со многими смелыми заявлениями-заключениями без достаточной для меня аргументации. Но повторюсь, что согласен с тем, что люди скорее нерациональны и хаотичны изначально, а рациональное думание это приобретаемый и тяжело развиваемый навык. Идея назвать это верой мне тоже симпатична, по внутреннему ощущению это именно так.
Но также я рассчитывал на более инструментальное рассмотрение вопроса обучения рациональности на мероприятии. Даже с точки зрения лично вас: как вы ей учились, какие этапы обучения выделяете, какие стратегии и приемы дали наибольший результат, как собственно оцениваете текущий результат и какие планы на ближайшее и отдаленное будущее. Этого не хватило. В этом смысле все мероприятие было некой подводкой к главному, но именно это не получил. Но время провел с пользой. Рад, что познакомился с вами, надеюсь на продолжение общения.
Как говорил в конце мероприятия, я действительно рациональность воспринимаю как некий здоровый образ жизни для мозга. С которого постоянно срываешься на лень и нездоровые активности, но понимаешь лучше бы "держать себя в руках". Регулярные посещения "тренажерки" для рациональности и критического мышления меня очень привлекает. При этом не хотелось бы любую интеллектуальную активность признавать за удачную тренировку. Хотелось бы формировать привычку именно тренировок, которые интенсивно и контролируемо повышают желаемые навыки.
В этом смысле благодарен вам за ссылки на материалы по критическому мышлению, особенно понравилось начало материала Поля про 35 аспектов критического мышления. Именно в такой логике я бы хотел им заниматься: макро и микро навыки. Микро-навыки в режиме тренировки прокачивать, а макронавыки нарабатывать на сложных рабочих задачах. Мне кажется, что именно в тренажерах для микронавыков сейчас узкое место. Но 35 аспектов могут помочь выбрать области, где хотелось бы сконцентрировать прокачку микронавыков. Полагаю, что мне имеет смысл сформулировать более конкретный вопрос к вам после прочтения некоторого количества из предложенных материалов. Еще раз благодарю за интересную встречу!
Константин Тютюнов
Руководитель направлений «Производство — Качество — ИТ — Инновации — Проекты» в Русская Школа Управления
Добрый вечер, Константин! Огромное спасибо за столь развёрнутый отзыв! При работе со многими десятками и даже сотнями людей это большая редкость в моей практике. На эту мастерскую я ставил только те задачи, которые вроде бы и решил, судя по Вашим же словам. Практические подробности — это ещё на пару таких мастерских, если не больше, но не вижу в них смысла вне рамок включения в саму эту практику научения КМ. Будет практикующая аудитория — будет и смысл это всё обсуждать, так я считаю. Что касается природы нерациональности человека, то мои построения полностью базируются на современных научных знаниях и моделях, которые, конечно же, без более близкого знакомства с ними, могут в чём-то показаться слишком смелыми и не совсем аргументированными. Но если бы я стал разворачивать эту аргументацию, то это была бы мастерская на другую тему.
Переждать. Пересидеть. Не думать об идиотах. Строить собственную жизнь. Понимать, что жизнь сложнее — и устойчивее — чем то, что о ней говорят. Она сильнее. Она всегда может превозмочь тех, кто не в состоянии придумать ничего нового, кроме того, чтобы играть — день ото дня, ночь от ночи — на то, чтобы стать слабее, на ослабление.
И это пройдет. Будут новые люди, новые цены, новые силы, новые ресурсы. Придет новая жизнь, но пусть эта жизнь сможет превозмочь весь этот бред, когда страна со 145 миллионами людей, обладающая всеми немыслимыми ресурсами мира, полностью зависит от пары резервных валют и цен на пару видов сырья и не может выстроить своей собственной политики на усиление, изображая, что всё нормально, что так жизнь сложилась.
Какой позор! Конечно, придет время, когда цены двинутся вверх, и заранее известно, что это случится, и снова, с еще большей силой начнутся изображения того, как мы всё выдержали, как вынесли, как выдюжили и идем вперед.
Но это очень далеко от нормальности.
Что делать рациональному, действительно взрослому человеку?
Строить собственную жизнь в сложившихся обстоятельствах. Играть на усиление. Иметь свою профессиональную гордость. Держаться дальше от идиотов, в каких бы обличьях они ни выступали. Плыть против течения. Расти через асфальт. Понимать, что жизнь меняет свои оболочки несколько раз даже в одном поколении. Что жизнь — не ценовая катастрофа, а способ получения удовольствия от всего, что можешь, от сложности, которую создаешь, от физической реальности, в которую погружен. Счастье переполоха, которое можешь внести в космос. Счастье сложности мышления, истории, будущего, дыхания, новых идей, новых построек.
Однажды давным-давно три человека, изучающие человеческую рациональность, шли вместе пыльной дорогой. Первый был новичок, только приступивший к изучению этого искусства. Второй практиковался уже некоторое время. Третий был их учитель.
И вот во время этого путешествия им встретилась женщина, сидящая рядом с большой лотерейной корзиной, приделанной к огромной штуковине. Она поприветствовала путешественников и, когда они выразили интерес, объяснила, что она несла эту штуковину в город (где она надеялась заработать с её помощью денег), после чего предложила им посмотреть поближе.
Она показала им, что у неё было сто шариков, идентичных за исключением цвета: один был белый и 99 были красными. Она положила их в урну и затем показала им, как работает механизм: он состоял из встряхивателя (который сильно тряс корзину, достаточно для того, чтобы никто не смог определить, где какой шарик) и механической руки, которая вытаскивала шарик из корзины.
«Я дам каждому из вас 10 долларов, если выпадет белый шарик», сказала она сквозь рёв встряхивателя. «Обычно игра стоит 1 доллар, но я вам сделаю демонстрацию бесплатно».
Когда тряска замедлилась, новичок сказал: «Я хочу, чтобы рука вытащила белый шарик, поэтому я верю, что она вытащит белый шарик. У меня есть вера, что выпадет белый шарик, и есть шанс, что я прав, поэтому вы не можете сказать, что я ошибаюсь!»
Когда тряска остановилась, ученик ответил: «Я изучаю рациональность и я знаю, что добродетель состоит в том, чтобы не отклоняться от данных. В этой урне больше красных шариков, чем белых, значит, данные говорят, что красный шарик выпадет с большей вероятностью, чем белый. Поэтому я верю, что выпадет красный шарик».
Когда рука начала раскрываться, учитель улыбнулся и сказал только: «Я отвожу вероятность 1% утверждению 'выпадет белый шарик' и вероятность 99% утверждению 'выпадет красный шарик'».
Чтобы изучать искусство человеческой рациональности, необходимо заключить с собой важную сделку. Нужно дать обет прекратить пытаться желать, чтобы реальность соответствовала чему-либо; нужно дать обет слушать, что говорит реальность о том, какая она есть. Нужно считать «веру» попыткой отсоединить свои верования от голоса данных; нужно дать обет защищать эфемерное соответствие между реальным миром и своей картой этого мира.
Ученику легко, заключая с собой эту сделку, перепутать её с другой. Многие рационалисты считают, что они дают обет всегда слушать доказательства и позволять доказательствам выбирать, во что им верить. Они считают, что добродетель состоит в том, чтобы взвешивать доказательства и затем верить в наиболее вероятную гипотезу, и неважно, что это может быть.
Но нет: это мышление-красного-шарика.
Путь к рациональности — это не путь, где доказательство выбирает верования. Путь к рациональности — это путь без верований.
На пути к рациональности есть только вероятности.
Наш язык представляет верования, как «качественные», мы говорим о них, как если бы они были бинарными. Ты либо знаешь что-то, либо нет. Ты либо веришь мне, либо нет. Ты либо прав, либо не прав.
Традиционная наука, как ей учат в школе, репродуцирует эту ошибку. Задача статистиков (как они говорят) — установить две гипотезы (нулевую и альтернативную), потом их обязанность (по их мнению) поверить той гипотезе, которую подтвердят данные. Ученый должен делать свои верования фальсифицируемыми (как они говорят), и если есть достаточное количество данных против этих верований, ученый должен поменять свою точку зрения (с одного бинарного верования на другое). До тех пор, пока учёный конструирует свои верования проверяемыми и фальсифицируемыми, он выполняет свой долг и имеет право верить в что-то. Так или иначе, у всех сохраняется их собственное мнение, — по крайней мере, так учит традиционная наука.
Но это не путь рационалиста.
Мозг — машина для обработки информации, и человечество уже узнало пару вещей о том, как делать точные машины для обработки информации. Одна из этих вещей, которые мы познали: чтобы построить точную модель мира, нужно убрать «качественные» верования и использовать вместо них «количественное» доверие.
Идеальный рационалист не скажет: «Я хочу, чтобы следующий шарик был белым, поэтому я верю, что он будет белым». Идеальный рационалист также не скажет: «Большинство шариков красные, поэтому я верю, следующий будет красным». Идеальный рационалист отставит веру и определит значение вероятности.
Чтобы построить точную модель мира, вы должны не отклоняться от свидетельств. Вы должны использовать данные, чтобы выяснить вероятность каждой из гипотез. Но после этого нельзя просто выбрать наиболее вероятную гипотезу. Нет.
Вероятности не говорят вам, во что верить. Вероятности заменяют верование. Они являются верой. Вы высказываете вероятности и останавливаетесь, потому что всё сказано.
Многие, кому я рассказываю эту притчу, думают, что это очевидно. Почти все, кому я это рассказываю, просто кивают, но большинство не может глубоко понять и усвоить этот урок.
Они слышат притчу и продолжают думать в терминах «знаю» или «не знаю» (вместо того, чтобы думать в терминах степени уверенности). Они кивают в ответ на эту притчу, но продолжают думать в рамках «быть правым» или «ошибаться» (вместо того, чтобы думать, насколько они хорошо откалиброваны). Они знают притчу, но в следующем разговоре они по-прежнему настаивают: «ты не можешь доказать это!» или «хорошо, это не доказывает, что я не прав», как будто высказывания о реальности вообще могут быть «доказаны», как будто полная определённость вообще возможна.
Никакое утверждение о мире не может быть доказано. Нет никакой определённости. Всё, что у нас есть — вероятности.
Большинство людей, когда они сталкиваются с событиями, противоречащими тому, во что они верят, решают, что эти события не являются достаточно сильными данными, чтобы поменять одно бинарное верование на другое, поэтому они не могут поменять мнение вообще. Многие не могут осознать, что все свидетельства против гипотезы снижают её вероятность, даже если ненамного, потому что многие люди продолжают думать качественно, а не количественно.
На самом деле многие продолжают думать, что они должны выбрать, какой вывод сделать из свидетельства, которое они видели. И это так, но только для тех, кто не против допускать неточности, которых можно было бы избежать.
Многих это удивит, но человечество открыло много законов рассуждения.
Данная вам исходная структура знания, плюс наблюдения, которые вы совершаете — вот единственная максимально точная, обновленная структура знания.
Невозможно достичь этого состояния — совершенного опытного (постерирорного) знания. Построить идеальную информационно-вычислительную машину так же невозможно, как построить идеальный тепловой двигатель. Но идеал известен. Уже известное вам плюс то, что вы видите — единственная максимально точная структура знания.
Вопреки распространённому мнению, вы не обязаны быть привязанными к своей точке зрения, не обязаны выбирать, во что верить. Нет, если вы хотите быть точными. Говорить, что знаешь и что видел — наилучшая структура опытного знания. Вычислить эту структуру практически невозможно, но процесс хорошо понятен. Мы не можем использовать информацию идеально, но мы знаем, в каком направлении двигаться, чтобы знать лучше.
Если вы хотите пройти этот путь, если вы хотите взрастить эфемерное соответствие между вашим сознанием и реальным миром, если вы хотите научиться составлять точную карту этой прекрасной, запутанной, вдохновляющей территории, на которой мы живём, тогда запомните:
Путь количественнен.
Чтобы пройти этот путь, вам нужно оставить позади верования и позволить вероятностям направлять вас. Они — это всё, что у вас есть.
Если это путь, который вы хотите пройти, то теперь я официально рекомендую начать с книги «Рациональность: от ИИ до зомби» (Юдковский, «Rationality: AI to Zombies Book I: Map and Territory.», http://wiki.lesswrong.com/wiki/Rationality:_From_AI_to_Zombies)
... Когда рука, доставшая шарик, начала открываться, учитель улыбнулся и сказал: «Я отвожу вероятность 1% утверждению 'выпадет белый шарик' и вероятность 99% утверждению 'выпадет красный шарик'».
Женщина с урной склонила голову и сказала: «Хм, вы трое одеты как рационалисты, но при этом кажетесь слишком уверенными, что я сказала правду о руке, которая вытаскивает из корзины шарики...»
Работа: владелец антикафе «Кочерга» (о котором читайте ниже).
Как улучшить своё мышление и стать более рациональным? Если вас это интересует, вы не одиноки: есть люди, которые всерьез увлечены оптимизацией мышления. Смартия пообщалась с одним из участников московского клуба LessWrong, который этой осенью открыл уникальное рационалистское антикафе «Кочерга».
Кто такой Вячеслав Матюхин?
Фанат математики и программирования (первый компьютер получил в 8 лет, первый x386 — в 10).
С 2006 по 2012 — ведущий разработчик в проекте «Яндекс.Поиск по блогам» (рейтинг блогов Рунета, Топ записей, другие рейтинги), после сворачивания проекта работал в Яндексе над другими задачами до ноября 2015.
Сайт, посвященный преодолению когнитивных искажений. Переводы текстов рационалиста Элиезера Юдковского, пишущего под псевдонимом LessWrong.
— Рациональность — это способность принимать самые лучшие решения в любой ситуации. Но ситуаций слишком много, чтобы иметь простой универсальный ответ. Поэтому мы изучаем механизмы принятия решений, логику, когнитивную психологию и прочие сопутствующие вещи.
Бывает, что ты принимаешь правильное решение, но при этом понятия не имеешь как именно устроено принятие решений. Такой навык часто вырабатывается у бизнесменов, политиков — людей, которые быстро и четко понимают, какие решения были хорошими, а какие — плохими. Это то, что мы называем «инструментальной рациональностью». Она часто бывает неявной — случайной, стихийной, но это не значит, что ее нельзя изучать систематически.
Выделяют еще другой вид, эпистемическую рациональность, — то, насколько у человека корректная «карта мира» и насколько правильные предсказания он может делать. Скажем, книга Элиезера Юдковски «Гарри Поттер и методы рациональности»— это замечательный пример: человек думал, как ему лучше протащить рациональность в массы, и аналитически пришел к выводу, что надо написать фанфик про Гарри Поттера. И почему-то это сработало!
Мы в LW занимаемся в основном развитием эпистемической рациональности, про инструментальную тоже стараемся не забывать.
А мой любимый ответ на вопрос «что это такое?» связан с одним из определений интеллекта. Таким: интеллект — это мера способности взяться за новую, незнакомую задачу в незнакомой области, и выполнить ее лучше среднего. Если существуют универсальные навыки, улучшающие эту способность (независимо от конкретной области), то мы хотели бы их найти. Это и будет «дистиллированная» рациональность, наша миссия — до неё добраться, объяснить и распространить как можно шире.
Для примера: когда я учился на мехмате, то часто слышал, что мехмат не учит чему-то конкретному, он учит, как учиться. Вообще, высшее образование часто так устроено — ты получаешь много опыта про то, как эффективно что-то делать, как иметь здравый смысл, как строить модели окружающего тебя мира. И этот навык, вроде, переносимый: мы можем посмотреть статистику и увидеть, что люди с высшим образованием обычно эффективнее в разных жизненных ситуациях. Значит, пять лет высшего образования дают людям какие-то переносимые навыки про здравый смысл (не всегда, но в среднем — дают).
— Попробуем представить, как это работает на практике. Что делает рационалист, когда упирается в проблему, или, как ты говоришь «оказывается в замешательстве»?
— Первое — надо спросить себя, не аргументируешь ли ты за одну из «сторон». Когда задаешься проблемой, значит, у тебя вероятно есть какая-то идея решения, и если это решение тебя интуитивно зацепило, то очень хочется, чтобы оно было правильным. Важно от него дистанцироваться и спросить себя, какие есть еще. Убедиться, что у тебя не одно решение, а несколько разных. Попробовать представить всю ситуацию по-разному.
Еще лучше сначала не выбирать решение, а проанализировать ситуацию. Спросить «Что я знаю и почему я это знаю?». В LW есть мем DON’T JUMP TO CONCLUSIONS – Не перепрыгивай к ответам, сначала пособирай факты. Нужно понять, располагаешь ли достаточным количеством информации, чтобы сейчас принимать решение.
На практике... Давай я буду решать, купить ли мне автомобиль. Допустим, я начинаю с одного решения: мне надо купить какой-то автомобиль, потому что мне нужно то, и это, и вон то. В этом случае я аргументирую за одну сторону, потому что я даже не подумал, что у меня есть вариант «вообще не покупать». Я явно не взвесил возможности. Потом я могу зарефреймить, заставив себя спросить, на что еще я могу потратить эти деньги. И тогда вопрос трансформируется из «Купить мне автомобиль или нет?», в «Что мне купить на вот эту конкретную сумму денег и какие у меня альтернативные издержки?».
Отсюда можно перепрыгнуть к вопросу «Какие пользы я могу получить на эти деньги?», либо ты можешь спросить «Какую задачу я пытаюсь решить покупкой?». Это тоже рефрейминг, ситуация, когда ты пытаешься понять свои ценности, осознать какую задачу ты решаешь.
Потом — подумать о режимах провала, не знаю, насколько это актуально в ситуации с автомобилем. Не аргументировать за сторону А и за сторону Б, а спросить себя: «Что может пойти не так?».
«Что же может пойти не так?»
Очень полезно бывает спросить себя: «А что бы я посоветовал другому человеку, оказавшемуся в такой ситуации?». Если совет для себя и для другого человека у тебя разный, то это большой такой красный флаг и повод остановиться.
После того, как ты принял решение, полезно попланировать конкретную реализацию в деталях, но это — отдельная тема.
Могу еще порекомендовать книжку Decisive (авторы — Chip & Dan Heath). В конце каждой главы там есть чек-лист на страничку, и всего в книге — под сотню пунктов.
— А как ты вообще начал всем этим заниматься?
Первый раз наткнулся на LW, это еще был даже не исходный LessWrong, а предшествовавший ему Overcoming Bias, и заинтересовался каким-то текстом про квантовую механику. Я до сих пор не знаю квантовой механики, но тогда мне хотелось всё это изучить, оставил в закладках браузера и временами туда возвращался. Но всерьез не читал. Наверное, это был 2007 или 2008 год.
Расширяя английский словарный запас, вы постепенно откроете для себя огромную неизведанную часть текстового Интернета — и глобальный книжный рынок впридачу. Каким бы хорошим ни был перевод, читать «в оригинале» — лучше. Особенно, когда дело касается профессиональной литературы.
Потом я хотел учить английский и заказал на Амазоне семь книжек про Гарри Поттера. И пока читал, — а я упрямый, хотел их дочитать до конца, хотя чем дальше, тем больше они мне надоедали — узнал, где-то между пятой и седьмой книгами, что Юдковски пишет «Гарри Поттер и методы рациональности». Увидел где-то отзывы, понял, что это очень клевая идея. Но еще не представлял тогда, насколько меня это зацепит в итоге.
Потом добил книжки Роулинг про Гарри, начал читать этот HPMOR Юдковски, смотреть на сообщество, залипать на серии публикаций в LW.
— У тебя есть какой-нибудь удивительный рациональный приём, который ты применяешь, когда твои мысли начинают разбегаться? — наконец сказала она.
— Обычно я идентифицирую различные желания, даю им имена и рассматриваю, как отдельных индивидуумов, а потом позволяю им спорить у себя в голове. Чаще всего это мои пуффендуйская, когтевранская, гриффиндорская и слизеринская стороны, мой Внутренний критик и копии тебя, Невилла, Драко, профессора МакГонагалл, профессора Флитвика, профессора Квиррелла, папы, мамы, Ричарда Фейнмана и Дугласа Хофштадтера.
Гермиона задумалась, не попробовать ли сделать то же самое, но тут её Здравый смысл заявил, что это может быть опасной затеей.
— У тебя в голове есть копия меня?
— Конечно! — ответил Гарри. Неожиданно он почему-то слегка заволновался: — Ты хочешь сказать, у тебя в голове нет копии меня?
Гермиона осознала, что у неё в голове действительно есть копия Гарри, которая говорит в точности его голосом. HPMOR, Глава 87. Гедонистическая осведомлённость
Линде 31 год, она незамужняя, искренняя и оптимистичная девушка. В колледже она специализировалась на философии. Как студентка, она была глубоко озабочена проблемами дискриминации и социальной справедливости, а также участвовала в антиядерных демонстрациях. Расположите следующие утверждения в порядке уменьшения их вероятности...
И тогда же я начал посматривать на календарь meetup'ов, встреч. Первый раз я на такую встречу пришел в январе 2013-го, тогда Юлий Лобарёв собирал всех в каком-то московском Subway. Было восемь человек, и встреча довольно неплохо прошла, была дискуссия про когнитивные искажения, например, про Conjunction Fallacy, которое все называют «искажением про Линду».
Я подумал, что встречам нужно другое место, и мы стали собираться в офисе Яндекса. В следующий раз было уже 12 человек, вскоре стало 15-20, и на этом уровне мы и продолжали. Я в какой-то момент стал соорганизатором встреч, вместе с Юлием и Андреем Хитрым. Был тогда увлечен scrum’ом и построением процессов и, наверное, поэтому настоял, чтобы мы регулярно созванивались и обсуждали, как и о чем лучше провести очередную встречу. Всегда воевали за качество, да и сейчас продолжаем.
Сейчас, три года спустя, у нас есть формальная core-команда организаторов встреч: Саша Попов, Денис Колесников, Макс Королев, я и Пион Гайбарян, с которой мы вместе и организовали «Кочергу».
—«Кочерга» — это что и зачем?
— Мы давно хотели собрать регулярный обучающий центр или хотя бы какой-то воркшоп по рациональности. Год назад окончательно дозрели до того, чтобы сформулировать программу и обсудить логистику. По-моему, Пион подала идею: почему бы нам не открыть собственное антикафе? В нём можно проводить встречи, организовать обучение и не будет конфликтов из-за того, что встреча одна, а люди хотят разного.
И потом я полгода анализировал, что нужно для того, чтобы открыть свой бизнес, как это у нас устроено с юридической точки зрения: регистрировать ИП, подписать договор аренды... Мы ходили и смотрели разные подвалы, другие помещения. И вот с сентября открылись у метро «Киевская» по адресу Большая Дорогомиловская, д.5 к.2
«Кочерга» открыта для всех, включая людей, которым не интересны вопросы рациональности и науки. Это антикафе: можно тут встречаться с друзьями или к экзаменам готовиться, или работать, если в офисе надоело. Цена фиксированная – 2 рубля за минуту, если приходить больше чем на четыре часа, то будет стоп-чек: 500 рублей. Больше 500 рублей в день, то есть, потратить невозможно. Бесплатные чай, кофе, какао, молоко, печеньки в больших количествах, разумеется, wi-fi и розетки. Три (скоро будет четыре) разных комнаты, от маленькой 10 м² до большой — 55 м².
Довольно неплохая уже библиотека книг, научно-популярных и художественных (в том числе на английском), которые можно забрать с собой, а потом вернуть. Как в библиотеке. Еще целый стеллаж головоломок и настольных игр.
И в придачу к этому «стандартному набору» антикафе у нас есть своя тематическая программа: каждый вечер что-то происходит.
Большие встречи LW проходят по воскресеньям раз в две недели, на них мы даже не берем с людей денег.
Есть рациональное додзё, где занимаются изучением практической рациональности. По пятницам я веду небольшую группу, человек 10-15, мы вместе отрабатываем какой-нибудь рационалистский навык. Это может быть, например, установление новых привычек, что-нибудь про память и мнемоники, поиск научных источников по любым вопросам, когнитивные искажения.
«Английский клуб», — когда люди собираются и пытаются что-то обсуждать на английском — мы пытаемся сделать чуть более научным и гиковским за счет подбора тем. Говорим про образование, про астрономию и т.д. Иногда с преподавателем, чаще — без.
Бывают вечера просмотра роликов TED. Понятно, что люди могут и дома смотреть, но если собраться вместе, то 20-минутный ролик можно еще полтора часа обсуждать с другими людьми.
Дальше. Математические семинары, которые пока очень нестабильны по формату: были и просто рассказы о каких-то отдельных темах типа комбинаторики, и приглашенные докладчики с более забористым материалом: теорема Геделя, машинное обучение. Последние два раза Пион там преподавала логику, начиная с таблиц истинности и силлогизмов.
Одна из комнат антикафе.
И почти все эти вечерние события бесплатны (никакой доплаты к базовому тарифу), каждый может на них приходить, участвовать, общаться с интересными людьми.
Еще мы охотно даем место под близкие нам мероприятия. Например, у нас собирается группа изучающих французский. Знакомый преподаватель немецкого у нас занимается со своими учениками. Научно-популярные активности нам интересны, будем рады хорошим лекторам. Любые программерские, технарские сообщества, наверное, хакспейсы и любые занятия про «поделать что-то руками» — электротехника, люди, сидящие с паяльниками, печатающие на 3d-принтерах... как только мы найдем, как их к себе завлечь, обязательно это сделаем. Встречи программистов, философов, лингвистов, математиков. Любых хороших людей, которые этим занимаются и нуждаются в помещении, мы с радостью у себя поселим.
— Вернемся к LessWrong и рациональности. Зачем вообще люди приходят на встречи LW и организовывают их? На что они рассчитывают?
— Я знаю три основные категории ответов на этот вопрос, и за два с лишним года они не поменялись. Первое — учиться, получать пользу. «Я прихожу сюда, и здесь мне расскажут, как стать рациональным». Научат как лучше жить, как правильнее жить, как использовать все эти клевые штуки, о которых вы нам рассказываете.
Вторая категория – это «учителя». Есть в сообществе люди, которые хотят захватить мир, всё оптимизировать, научить всех, как жить хорошо, построить идеальное общество или стать основателями новой рациональной секты.
Третьи просто хотят тусить. Когда-то, два года назад, наверное, мы с Юлием и Андреем имели такую дилемму: мол, люди хотят развлекаться, а мы-то хотим толкать их к чему-то хорошему. Я за последний год про эту дилемму забыл и очень этому рад — она ложная, люди хотят веселых форматов для подачи интересной информации. И прогресс в эту сторону есть: в прошлом году Саша Попов и некоторые люди в сообществе решили, что надо сделать Fallacymania, игру на распознавание логических ошибок.
Игра прошла много итераций. Сначала многие говорили, что это непонятно и скучно, и зачем они этим занимаются, так ведь ничего не выучить. Но сейчас там версия, по-моему, 4.1, и оно стало, как минимум, очень веселым. Выглядит так: садятся несколько человек и разговаривают друг с другом на какую-то тему, используя 5 карт с логическими ошибками.
Наша цель как организаторов — создать сообщество единомышленников, которые рассуждают в близких нам фреймворках: научный метод, критическое мышление; хотят так и общаться, и жить.
Желание «тусить» — это не обязательно «развлекаться», а еще и «участвовать в сообществе». Мне это тоже очень близко. Из когнитивных наук известно, что люди по умолчанию становятся средним от общества, в котором они находятся.
Если мы сделаем высокоуровневую среду, она будет помогать развиваться всем её участникам.
Мы не можем находить таких людей напрямую, поэтому с помощью мероприятий создаем какие-то неявные фильтры. Предлагаем людям такой формат, чтобы было более вероятно, что на него придут люди, которые нам «подходят», чем люди, которые «не подходят». Если мы знаем, что научное критическое мышление более популярно у студентов, чем у тех, кто работает грузчиками, значит, нам более интересны студенты, чем грузчики.
Так что мы готовы сдавать «Кочергу» в аренду под тренинги для айтишников и менеджеров, но не готовы видеть здесь эзотерику или йогу. Художников или поэтов – возможно, сильно зависит от того, какие они.
— Хорошо, а сколько пользы для себя получил персонально ты, изучая весь этот оптимизаторский арсенал?
— За 2013 год я начал свой стартап (Questhub), похудел на 14 килограмм, начал бегать регулярно, и в целом возникло ощущение, что мое будущее зависит от моих действий, что эти штуки как-то связаны. Появился внутренний оптимизм: то, что происходит со мной, зависит от меня. Совершенно не хочу утверждать, что это из-за рациональности: корреляция ведь не равна причинно-следственной связи :)
Из того, что мне точно помогает: начал пользоваться Анки плотно и много. Это программа для эффективного запоминания чего угодно через интервальные повторения. Почему эта штука имеет отношение к рациональности? Потому что если человек пытается делать что-то в соответствии со своей интуицией и со своими представлениями о том, как ему удобнее, человек, скорее всего, будет пытаться заучить информацию большими объемами разово, а потом удивляться, почему он все забыл. Про интервальные повторения существуют исследования, которые показывают, что людям кажется, что они эффективнее учат, когда учат разом и помногу. А на самом деле получается наоборот. Собственная оценка эффективности, даже постфактум, оказывается полностью обратной тому, как обстоят дела в реальности (осторожно, много зауми).
Парадокс: чем больше вокруг информации, тем сложнее бывает найти нужную. Так что всём, кто часто ищет, выгодно знать, какими возможностями обладают поисковики и какие источники лучше проверять в первую очередь.
Людей, которые не аргументируют и не убеждают, просто не существует (если исключить слепоглухонемых и пещерных отшельников). Хорошо или плохо — но вы это делаете, и качество вашей аргументации определяет вашу жизнь.
Коллектив единомышленников вокруг, довольные клиенты, отличный климат в семье, быстрое гашение конфликтов… Учитесь убеждать — и заполучите всё, что вам понадобится.
Еще у меня появился навык исследовать, находить научное мнение, статьи по значимым вопросам.
Три года назад для меня, наверное, было бы удивительным — тогда вообще не было привычки читать научные статьи, я даже не знал, что есть такой формат. Прям вот на английском, со статистикой, abstract и прочим. Сейчас если у меня будет какой-нибудь медицинский вопрос, я полезу в Cochrane Library, и найду какое-нибудь метаревью, и минут за 15 определю, каков научный консенсус. Или на examine.com пойду.
Я бы к пользе добавил про «вред», объективности ради. Знаю, что у меня есть склонность загонять людей в сократовские диалоги и что иногда людей это достает, и стоит быть с этим осторожнее. Одна из тех штук, что в LW ценятся, — дотошность и желание разбирать любой аргумент на маленькие-маленькие кусочки. У меня есть острое желание это делать, когда я вижу аргумент, в котором есть недостаток... но люди не всегда к такому готовы. Это не минус рационального метода, это минус того, что у меня есть уже желание применять одну часть, но при этом не хватает другой — оценивать соотношение вреда и пользы в случае с конкретными людьми.
И сильно поменялось отношение к коммуникации с людьми: я говорю языком, которым сложнее общаться с людьми, которые не теме. А с теми, кто в сообществе — им общаться существенно проще.
Часто говорю: «Я ожидаю, что случится то-то и то-то» или «Ожидаю с такой-то вероятностью». Могу сказать: «Моя позиция по этому вопросу такая-то, но при этом мне не нравится моя собственная позиция по этому вопросу». Или, например: «Первосистемно мне кажется, что случится то-то, а второсистемно я не знаю, почему я так думаю». Нравится жить в мире, где ты можешь с людьми разговаривать на одном языке.
Зато у меня существенно подрос уровень притязаний и их глобальность. Когда значительная часть людей рядом считает главной своей задачей спасти мир от гибели, а другая часть — нанести миру максимум пользы, начинаешь задумываться о целях такого масштаба тоже. Говорят Исследования показывают, что когда делаешь полезное для других, то становишься счастливее, чем когда просто получаешь что-то для себя. Вот это, похоже, мой случай.
—Доказывает, директор? Всегда есть лишь вероятности. Если известно, что пропали определённые книги, описывающие ритуалы бессмертия, это увеличивает вероятность, что кто-то попытался ими воспользоваться. Что, в свою очередь, повышает априорную вероятность того, что Тёмный Лорд пережил свою смерть. Я признаю это и благодарю вас за предоставленные факты. Вопрос в том, достаточно ли высока эта априорная вероятность.
— Но если ты признаёшь, что есть хоть какая-то возможность, что Волдеморт выжил, то ведь, безусловно, стоит держаться настороже? — тихо спросил Альбус.
Гарри согласно склонил голову.
— Вы правы, директор. Хотя, когда вероятность гипотезы становится слишком мала, ошибочно только о ней и думать… Учитывая, что книги о бессмертии пропали и что слова пророчества кажутся в некоторой степени более естественными, если в нём описывается будущая битва между Тёмным Лордом и мной, я согласен, что оживший Тёмный Лорд — это не просто возможное, а вероятное событие. Но также следует принять в расчёт и другие возможности — а в мире, где Сами-Знаете-Кто не выжил, Гермиону мог подставить кто-то другой.
— Глупость, — тихо произнёс Северус. — Абсолютная глупость. Тёмная метка не исчезла, и её хозяин — тоже.
— Вот, именно это я и подразумевал, когда говорил о формально недостаточном байесовском свидетельстве. HPMOR, Глава 86. Проверка многомерной гипотезы
— Судя по сказанному, у вашего сообщества есть цели поглобальнее личной эффективности. Какие? Например, чтобы большинство людей стало мыслить рациональнее?
— Мы называем это raising the sanity waterline — повышать планку здравомыслия окружающих. Лично мне хотелось бы, чтобы высказывания были чаще привязаны к фактам. Мне хотелось бы, чтобы от любого высказывания можно было провести ниточку, объясняющую, почему человек думает так, как он думает. Это один из любимых LW-вопросов — «почему ты думаешь то, что ты думаешь, и откуда ты это знаешь?». Если информация привязана к источникам, то когда человек высказывается, у него можно запросить источник и обоснование.
И обратная сторона: я хочу, чтобы люди, когда они делают какое-то высказывание о будущем: «будет 100 рублей за доллар», «Россия введет наземные войска в Сирию», что угодно, — чтобы эти люди потом проверяли, что они наговорили раньше, и меняли свои убеждения, если этого требуют свидетельства. Чтобы меняли свою карту мира в таких случаях.
Полезно замечать свои замешательства, если ты оказался не прав, но с этим, кажется, у людей все очень плохо.
Политика — это убийца разума, как говорят в LW и мне, собственно, в тех новостях и соцсетях, которые я читаю, обычно не нравятся резкие высказывания ни той, ни другой стороны. Они мне кажутся необдуманными, невзвешенными, недостаточно дотошными, люди лишь стараются просигналить за свою партию, за то, как они правы, а остальные не правы. Хотя вообще-то я — оптимист и считаю, что мы движемся от худшего к лучшему. Легко могу представить, как сейчас всё могло быть намного хуже, и в целом человеческая цивилизация у меня вызывает восторг... тем, что всё это как-то работает.
Да, с принятием решений, как и с высказываниями, у людей тоже не очень хорошо, но ведь решения намного сложнее измерять, а у нас нет альтернативного мира, где можно проверить, что было бы, сделай мы по-другому. Но есть способ больше думать над решениями — можно спорить на деньги о их последствиях.
Это одна из известных идей Робина Хэнсона, который ведет блог Overcoming Bias. Хэнсон — апологет футархии, это такой государственный экономический строй, в котором решения принимаются на основании бирж предсказаний. Представьте: мы про любые будущие события открываем рынок и позволяем людям ставить деньги на то, чего они ожидают. В итоге наши биржевые индексы показывают нам прогноз на будущее. Такой прогноз будет лучше, чем может сделать любой отдельный человек, а максимум влияния, власти и денег аккумулируют люди, которые лучше могут это будущее предсказывать.
Мы уже начали у себя строить маленькую футархию, ввели юдкоины.
Юдкоины — это фишки, за которые можно получать у нас скидки. За два полных часа в «Кочерге» — один юдкоин, за пять юдкоинов можно купить еще час. Самое интересное про юдкоины — на них можно спорить. Два человека, которые как-то разошлись в убеждениях и способны сформулировать фальсифицируемое утверждение, могут на юдкоины поспорить и позже выяснить, кто был прав. Кто-то выиграет, а кто-то проиграет, произойдет какое-то перераспределение юдкоинов. Мы очень хотим подобную деятельность у людей стимулировать.
Есть и «биржа», которую я люблю называть Залом Пророчеств. Нам достались от предыдущих владельцев помещения ящички, такие магазинные locker`ы. Любой желающий может написать на бумажке предсказание, никому не показывая, отдать администратору, положить в ящичек и написать дату, когда предсказание надо распечатать.
— Это всё атомы углерода? И, Гарри, как оно называется? Я ничего не смогу трансфигурировать, если не буду знать название.
Гарри скривился. Ему до сих пор было трудно привыкнуть к этому. Зачем знать названия вещей, если ты знаешь как они устроены?
— Это бакитрубки — углеродные нанотрубки — разновидность фуллерена, которую открыли только в этом году. В сто раз прочнее стали и в шесть раз легче.
Гермиона удивлённо посмотрела на Гарри.
— В самом деле?
— Да, — кивнул Гарри, — просто их трудно получить с помощью магловских технологий. Если у нас будет достаточно этого материала, то мы сможем построить космический лифт до геосинхронной орбиты или даже выше и, учитывая выигрыш в скорости, будем, фактически, на полпути в любую точку Солнечной системы. Вдобавок мы сможем разбрасывать спутники для сбора солнечной энергии как конфетти. HPMOR, Глава 28. Редукционизм
— А откуда вообще вся эта ситуация с недостатком рациональности? Человеческий мозг так несовершенен?
В книге «Думай медленно…решай быстро» (2011) Канеман объясняет, что у нас имеется не одна, а две системы мышления. Система 1: срабатывает автоматически и очень быстро, почти не требует усилий, экономит время на элементарных действиях. Система 2, «медленное» мышление: включается, когда мы решаем более сложные задачи.
— Я привык объяснять это через канемановскую концепцию двух систем мышления. Первая система не требует умственных затрат, это наш автопилот. Но первая система не замечает и своих противоречий, она легко может их хранить. Основная часть человеческого понимания мира очень легко может включать в себя противоречивые утверждения, по этому поводу человек не испытывает никакого внутреннего конфликта и не замечает явных противоречий.
Я думаю, что люди себя постоянно не то что даже обманывают... просто они делают какие-то штуки, потому что они научились так делать, потому что привыкли так делать или потому что от других усвоили, что так надо делать. И это, в принципе, нормально, потому что человеческий мозг слишком слаб, чтоб принимать решения каждый раз заново, с нуля. Вторая система, наше осознанное мышление, — гораздо затратнее.
Так и есть — в том смысле, что социум дает тебе иммунитет. Ты не продумываешь каждую вещь сам, а пользуешься тем, что делают другие, это твоя иммунная система, ты защищен опытом других людей. Когда ты начинаешь продумывать всё всерьез, то тебе приходится решать каждую вещь заново, а вторая система — это очень-очень тормозная штука. Энергоемкая и тормозная. Человеческий мозг за минимальное количество времени не может решить простую даже не математическую, а логическую задачу с буквально 4 компонентами.
У людей нет привычки думать, потому что в современном мире они вполне могут полагаться на систему безопасности окружающей среды, и думать только в экстремальных ситуациях.
— Допустим, кто-то захотел улучшить мышление — и пытается изо всех сил. Можно ли измерить, достиг он улучшений или нет?
— Очень непростой вопрос. Измерять штуки, которым мы учим людей, очень сложно. Это не просто отговорка, потому что мы измерять не научились, это действительно очень непростая задача. То, чему мы здесь пытаемся учить, называя «рациональностью», близко, наверное, к концепции fluid intelligence. Не существует проверенных способов поднять человеку IQ, а интеллект не ограничен одним IQ, есть еще и здравый смысл: какие-то практики, которые помогут людям лучше жить.
Эти практики — про принятие решений в новых неизвестных ситуациях. А если надо решать в ситуации, в которой ты еще ни разу не был, то изобрести стандартный тест не так просто. Но кое-что все-таки есть, например, такая подборка тестов или наша любимая калибровка.
Калибровка
— Как вообще определить, что человек принимает правильное решение? Если ты принял решение, то после этого ты как-то действуешь в окружающем мире. Само решение основано на том, что ты знаешь, как устроен мир и как он отреагирует. Соответственно, эти ожидания от мира можно сверять с реальностью, сверка покажет, насколько твой ум «откалиброван».
Например, я спрашиваю: какова высота Эйфелевой башни в Париже? Точного ответа ты не помнишь, поэтому называешь числовой интервал: от 0 до 1500 метров, такой интервал еще называют доверительным — ты веришь что ответ внутри него. Но в интервал 0-1500 попадают вообще все здания на планете! Ты явно не уверен в своих знаниях и поэтому выбрал стопроцентный интервал (правильное число на 100% входит в 0-1500). Если бы ты назвал интервал 295-305 метров, то наоборот, сильно рисковал бы ошибиться, интервал скорее 10%, чем 100%. Это уже чрезмерная уверенность в своих знаниях, если ты не эксперт по архитектуре, конечно.
Задача калибровки: научиться сначала задавать желаемую вероятность, с которой неизвестная величина попадёт в предложенный тобой интервал, а потом с помощью умозаключений предлагать верхнюю и нижнюю границы интервала. Эксперты часто используют 90% интервал — то есть, отвечая на десять разных вопросов, не промахнуться нужно девять раз.
Отвечаем на как минимум 10 подобных числовых «вопросов» — про башню, про количество слов в этом интервью, про что угодно. «Когда жил Иван Грозный? Где-то в промежутке между 1400 и 1500 годами».
Сайт о рациональном мышлении, переводы текстов CFAR (Center for applied rationality) и оригинальные тексты.
Потом отвечаем на такое же число разных вопросов «правда/ложь» и уточняем, насколько мы уверены в каждом ответе. «Гитлер ненавидел Микки-Мауса? Да, я уверен на 70%».
Если коротко: первый набор вопросов показывает, насколько человек хорошо отвечает на вопросы. А второй — как он сам оценивает надежность своих ответов. Если хороши вы на 60% (6 попаданий из 10), а ждали от себя 90% надежности, значит, переоцениваете свою рациональность. Это называется сверхуверенностью (overconfidence), если она проявляется в тесте, то и в обычной жизни мешает принимать правильные решения.
«Что же может пойти не так?»
Одна из комнат антикафе.
Игра прошла много итераций. Сначала многие говорили, что это непонятно и скучно, и зачем они этим занимаются, так ведь ничего не выучить. Но сейчас там версия, по-моему, 4.1, и оно стало, как минимум, очень веселым. Выглядит так: садятся несколько человек и разговаривают друг с другом на какую-то тему, используя 5 карт с логическими ошибками.
Полноразмерные постеры для распечатки можно скачать на http://obraz.io/
> существующему независимо от меня, материальному) миру? Или мышление
> меня обманывает и предлагает какие-то неадекватные представления? Мне
> нужно практичное, применимое для действия мышления, я хочу быть
> адекватным и не отрываться от реальности.
хиксггса полгода голосованием выбирают.В СТРРАНЕ БАРРДАК!