Однажды давным-давно три человека, изучающие человеческую рациональность, шли вместе пыльной дорогой. Первый был новичок, только приступивший к изучению этого искусства. Второй практиковался уже некоторое время. Третий был их учитель.
И вот во время этого путешествия им встретилась женщина, сидящая рядом с большой лотерейной корзиной, приделанной к огромной штуковине. Она поприветствовала путешественников и, когда они выразили интерес, объяснила, что она несла эту штуковину в город (где она надеялась заработать с её помощью денег), после чего предложила им посмотреть поближе.
Она показала им, что у неё было сто шариков, идентичных за исключением цвета: один был белый и 99 были красными. Она положила их в урну и затем показала им, как работает механизм: он состоял из встряхивателя (который сильно тряс корзину, достаточно для того, чтобы никто не смог определить, где какой шарик) и механической руки, которая вытаскивала шарик из корзины.
«Я дам каждому из вас 10 долларов, если выпадет белый шарик», сказала она сквозь рёв встряхивателя. «Обычно игра стоит 1 доллар, но я вам сделаю демонстрацию бесплатно».
Когда тряска замедлилась, новичок сказал: «Я хочу, чтобы рука вытащила белый шарик, поэтому я верю, что она вытащит белый шарик. У меня есть вера, что выпадет белый шарик, и есть шанс, что я прав, поэтому вы не можете сказать, что я ошибаюсь!»
Когда тряска остановилась, ученик ответил: «Я изучаю рациональность и я знаю, что добродетель состоит в том, чтобы не отклоняться от данных. В этой урне больше красных шариков, чем белых, значит, данные говорят, что красный шарик выпадет с большей вероятностью, чем белый. Поэтому я верю, что выпадет красный шарик».
Когда рука начала раскрываться, учитель улыбнулся и сказал только: «Я отвожу вероятность 1% утверждению 'выпадет белый шарик' и вероятность 99% утверждению 'выпадет красный шарик'».
Чтобы изучать искусство человеческой рациональности, необходимо заключить с собой важную сделку. Нужно дать обет прекратить пытаться желать, чтобы реальность соответствовала чему-либо; нужно дать обет слушать, что говорит реальность о том, какая она есть. Нужно считать «веру» попыткой отсоединить свои верования от голоса данных; нужно дать обет защищать эфемерное соответствие между реальным миром и своей картой этого мира.
Ученику легко, заключая с собой эту сделку, перепутать её с другой. Многие рационалисты считают, что они дают обет всегда слушать доказательства и позволять доказательствам выбирать, во что им верить. Они считают, что добродетель состоит в том, чтобы взвешивать доказательства и затем верить в наиболее вероятную гипотезу, и неважно, что это может быть.
Но нет: это мышление-красного-шарика.
Путь к рациональности — это не путь, где доказательство выбирает верования. Путь к рациональности — это путь без верований.
На пути к рациональности есть только вероятности.
Наш язык представляет верования, как «качественные», мы говорим о них, как если бы они были бинарными. Ты либо знаешь что-то, либо нет. Ты либо веришь мне, либо нет. Ты либо прав, либо не прав.
Традиционная наука, как ей учат в школе, репродуцирует эту ошибку. Задача статистиков (как они говорят) — установить две гипотезы (нулевую и альтернативную), потом их обязанность (по их мнению) поверить той гипотезе, которую подтвердят данные. Ученый должен делать свои верования фальсифицируемыми (как они говорят), и если есть достаточное количество данных против этих верований, ученый должен поменять свою точку зрения (с одного бинарного верования на другое). До тех пор, пока учёный конструирует свои верования проверяемыми и фальсифицируемыми, он выполняет свой долг и имеет право верить в что-то. Так или иначе, у всех сохраняется их собственное мнение, — по крайней мере, так учит традиционная наука.
Но это не путь рационалиста.
Мозг — машина для обработки информации, и человечество уже узнало пару вещей о том, как делать точные машины для обработки информации. Одна из этих вещей, которые мы познали: чтобы построить точную модель мира, нужно убрать «качественные» верования и использовать вместо них «количественное» доверие.
Идеальный рационалист не скажет: «Я хочу, чтобы следующий шарик был белым, поэтому я верю, что он будет белым». Идеальный рационалист также не скажет: «Большинство шариков красные, поэтому я верю, следующий будет красным». Идеальный рационалист отставит веру и определит значение вероятности.
Чтобы построить точную модель мира, вы должны не отклоняться от свидетельств. Вы должны использовать данные, чтобы выяснить вероятность каждой из гипотез. Но после этого нельзя просто выбрать наиболее вероятную гипотезу. Нет.
Вероятности не говорят вам, во что верить. Вероятности заменяют верование. Они являются верой. Вы высказываете вероятности и останавливаетесь, потому что всё сказано.
Многие, кому я рассказываю эту притчу, думают, что это очевидно. Почти все, кому я это рассказываю, просто кивают, но большинство не может глубоко понять и усвоить этот урок.
Они слышат притчу и продолжают думать в терминах «знаю» или «не знаю» (вместо того, чтобы думать в терминах степени уверенности). Они кивают в ответ на эту притчу, но продолжают думать в рамках «быть правым» или «ошибаться» (вместо того, чтобы думать, насколько они хорошо откалиброваны). Они знают притчу, но в следующем разговоре они по-прежнему настаивают: «ты не можешь доказать это!» или «хорошо, это не доказывает, что я не прав», как будто высказывания о реальности вообще могут быть «доказаны», как будто полная определённость вообще возможна.
Никакое утверждение о мире не может быть доказано. Нет никакой определённости. Всё, что у нас есть — вероятности.
Большинство людей, когда они сталкиваются с событиями, противоречащими тому, во что они верят, решают, что эти события не являются достаточно сильными данными, чтобы поменять одно бинарное верование на другое, поэтому они не могут поменять мнение вообще. Многие не могут осознать, что все свидетельства против гипотезы снижают её вероятность, даже если ненамного, потому что многие люди продолжают думать качественно, а не количественно.
На самом деле многие продолжают думать, что они должны выбрать, какой вывод сделать из свидетельства, которое они видели. И это так, но только для тех, кто не против допускать неточности, которых можно было бы избежать.
Многих это удивит, но человечество открыло много законов рассуждения.
Данная вам исходная структура знания, плюс наблюдения, которые вы совершаете — вот единственная максимально точная, обновленная структура знания.
Невозможно достичь этого состояния — совершенного опытного (постерирорного) знания. Построить идеальную информационно-вычислительную машину так же невозможно, как построить идеальный тепловой двигатель. Но идеал известен. Уже известное вам плюс то, что вы видите — единственная максимально точная структура знания.
Вопреки распространённому мнению, вы не обязаны быть привязанными к своей точке зрения, не обязаны выбирать, во что верить. Нет, если вы хотите быть точными. Говорить, что знаешь и что видел — наилучшая структура опытного знания. Вычислить эту структуру практически невозможно, но процесс хорошо понятен. Мы не можем использовать информацию идеально, но мы знаем, в каком направлении двигаться, чтобы знать лучше.
Если вы хотите пройти этот путь, если вы хотите взрастить эфемерное соответствие между вашим сознанием и реальным миром, если вы хотите научиться составлять точную карту этой прекрасной, запутанной, вдохновляющей территории, на которой мы живём, тогда запомните:
Чтобы пройти этот путь, вам нужно оставить позади верования и позволить вероятностям направлять вас. Они — это всё, что у вас есть.
Если это путь, который вы хотите пройти, то теперь я официально рекомендую начать с книги «Рациональность: от ИИ до зомби» (Юдковский, «Rationality: AI to Zombies Book I: Map and Territory.», http://wiki.lesswrong.com/wiki/Rationality:_From_AI_to_Zombies)
... Когда рука, доставшая шарик, начала открываться, учитель улыбнулся и сказал: «Я отвожу вероятность 1% утверждению 'выпадет белый шарик' и вероятность 99% утверждению 'выпадет красный шарик'».
Женщина с урной склонила голову и сказала: «Хм, вы трое одеты как рационалисты, но при этом кажетесь слишком уверенными, что я сказала правду о руке, которая вытаскивает из корзины шарики...»
Механическая рука зажужжала и пришла в действие.
