Мысленные эксперименты по анализу разума

При конструировании разумных машин не следует удивляться, если они окажутся столь же непоследовательными и упрямыми, как и люди, в вопросах разума, сознания, свободы воли и т. д.
Марвин Минский

Кто обладает сознанием? Подлинная история вашего сознания начинается с первой лжи.
Иосиф Бродский

Страдание — единственная причина сознания.
Федор Достоевский

Есть растения, которые питаются органической пищей при по­мощи своих цветов: когда муха садится на цветок, лепестки закрываются и удерживают ее, пока растение не всосет насекомое в себя; но цветок закрывается только тогда, когда в него попадает что-то пригодное для еды; капля дождя или кусок веточки не привлекают его внимания. Удивительно, что столь несознательное существо с таким вниманием преследует свои интересы. Если это отсутствие сознания, то в чем же заключается сознание?
Сэмюэл Батлер, 1871

До сих пор мы рассматривали мозг как некую систему, способную осуществлять функции определенного уровня сложности. Однако в таком ракурсе мы сами оставались вне поля зрения. Кажется, что мы живем в нашем мозге, что наша жизнь субъективна. Как объективный взгляд на мозг, которого мы придерживались до сих пор, связан с нашими ощущениями, с нашим существом, обладающим некоторым опытом? Британский философ Колин Макгинн (род. в 1950 г.) пишет, что «сознание может довести даже самого утонченного мыслителя до бессвязного бормотания». Суть в том, что люди часто не понимают точного смысла этого термина.

Многие наблюдатели рассматривают сознание в качестве формы проявления личности, например способности обдумывать собственные мысли и объяснять их. Я предпочитаю определять сознание как способность думать о своем мыслительном процессе. Казалось бы, мы в состоянии оценить эту способность и применить данный тест для того, чтобы отличать сознательное от несознательного. Однако выясняется, что применить этот подход достаточно сложно. Сознателен ли новорожденный ребенок? Сознательна ли собака? Они не могут описать свой мыслительный процесс. Некоторые люди полагают, что младенцы и собаки не являются сознательными существами именно по той причине, что не могут объясниться. А что можно сказать о компьютере по имени Ватсон? В определенном режиме он может объяснить, каким образом он пришел к тому или иному ответу. Поскольку у Ватсона есть модель собственного мышления, выходит, он является сознательным существом, а младенцы и собаки — нет?

Прежде чем глубже изучить этот вопрос, важно рассмотреть один его важный аспект: что говорит нам на эту тему наука и что остается в ведении философии? Одна точка зрения заключается в том, что философия занимается вопросами, для которых еще не выработан научный метод изучения. Если это так, то по мере прогресса науки, достаточного для разрешения определенного круга вопросов, философы переключаются на другие проблемы, пока наука не доберется и до них. В вопросах, касающихся сознания, такая точка зрения весьма популярна. В том числе она относится к вопросу о том, кто и что обладает сознанием.

Вот что пишет на эту тему философ Джон Серль: «Мы знаем, что мозг формирует сознание при помощи специфических биологических механизмов... Важно признать, что сознание — это биологический процесс, как пищеварение, лактация, фотосинтез или митоз... Мозг — это машина, точнее, биологическая машина, но все же машина. Так что на первом этапе нужно понять, как действует мозг, а затем создать искусственную машину, обладающую столь же эффективным механизмом формирования сознания». Люди часто удивляются, прочтя это высказывание, поскольку считают, что Серль трепетно защищает тайну сознания от таких редукционистов, как Рэй Курцвейл. Австралийский философ Дэвид Чалмерс (род. в 1966 г.) придумал термин «трудная проблема сознания» для отражения сложностей, возникающих при попытках точно сформулировать эту неясную концепцию. Иногда емкое выражение вбирает в себя всю суть какого-либо направления мысли, так что оно становится эмблематичным (как выражение Ханны Арендт «банальность зла»). Знаменитое выражение Чалмерса тоже прекрасно справляется с этой задачей.

При обсуждении проблем сознания очень легко соскользнуть на рассмотрение тех наблюдаемых и измеряемых атрибутов, которые мы связываем с сознанием, но при этом теряется сама суть идеи. Это концепция метакогнитивности (осмысление собственного мышления). Другие наблюдатели объединяют сознание и эмоциональный или моральный интеллект. Но и тут, опять же, наша способность выражать любовь, шутить или быть сексуально привлекательным — просто проявления нашей натуры, возможно, впечатляющие и разумные, но именно те, что можно наблюдать и измерить (даже если способы их оценки неочевидны).

Понимание того, как мозг выполняет эти функции и что в нем в это время происходит, относится, в терминологии Чалмерса, к разряду «легких» проблем сознания. Конечно, эту проблему неправильно назвать «легкой»; она относится к числу самых сложных и важных научных вопросов современности. Однако «трудная» проблема Чалмерса настолько трудна, что ее практически невозможно сформулировать. Чтобы продемонстрировать это разграничение, Чалмерс использует мысленный эксперимент с участием «зомби». «Зомби» из этого эксперимента действует абсолютно так же, как человек, но только не имеет субъективного опыта, то есть является существом несознательным. Чалмерс утверждает, что раз мы в состоянии выдумать зомби, то по крайней мере логически их существование возможно. Представьте себе, что вы на вечеринке, где присутствуют и зомби, и «нормальные» люди. Как вы их различите? Возможно, вы даже бывали на такой вечеринке.

Многие люди считают, что следовало бы расспросить «испытуемых» об их эмоциональных реакциях на события или идеи. Они полагают, что зомби проявят отсутствие субъективного опыта, так как затруднятся ответить на некоторые эмоциональные вопросы. Однако ответы такого рода просто не учитывают допущений мысленного эксперимента. В эксперименте мы можем встретить неэмоционального человека (подобный эмоциональный дефицит, например, бывает у людей с некоторыми формами аутизма), аватара или робота, не обладающего человеческими эмоциями, но они не зомби. Вспомним: в соответствии с определением Чалмерса, зомби совершенно нормально отвечает на вопросы и способен эмоционально реагировать, у него нет только субъективного опыта. Проблема в том, что идентифицировать зомби нам не удастся, поскольку по определению в его поведении не проявляются никакие признаки его натуры. Так что же это за разграничение без различий?

Чалмерс не пытается ответить на трудный вопрос, но предоставляет несколько возможностей. Одна возможность — это вариант дуализма, в рамках которого сознание существует в физическом мире не само по себе, а скорее как отдельная онтологическая реальность. В соответствии с этой формулировкой суть личности определяется процессами в головном мозге этой личности. Поскольку мозг — закрытая система, мы можем полностью объяснить действия человека, включая его мысли, через происходящие в мозге процессы. Тогда получается, что сознание относится к другому миру или отделено от физического мира. В рамках этой концепции разум (то есть сознательное свойство мозга) не способен влиять на мозг. Другая рассмотренная Чалмерсом возможность логически не противоречит описанному выше варианту дуализма. Эта идея, которую часто называют панпротопсихизмом, подразумевает, что все физические системы обладают сознанием, хотя человек более сознателен, чем, скажем, электрический выключатель.

Я, безусловно, согласен с тем, что у человеческого мозга есть гораздо больше тем для осознания, чем у выключателя. Мое собственное мнение, которое, возможно, совпадает с неким течением в рамках панпротопсихизма, заключается в том, что сознание — это свойство, возникающее на уровне сложных физических систем. С этой точки зрения собака тоже обладает сознанием, хотя и меньшим, чем человек. И у муравья есть некий уровень сознания, но гораздо более низкий, чем у собаки. С другой стороны, можно считать, что колония муравьев обладает более высоким уровнем сознания, чем один муравей: большая группа муравьев, безусловно, более разумна, чем один муравей. Так мы приходим к выводу, что компьютер, успешно моделирующий сложный человеческий разум, должен обладать таким же сознанием, что и сам человек. Еще один путь определения сознания заключается в том, чтобы охарактеризовать его через понятие «квалиа». Что такое квалиа? В соответствии с одним определением, это «осознанный опыт». Однако данная формулировка не позволяет нам продвинуться вперед. Давайте проведем такой мысленный эксперимент.

Один нейробиолог полностью лишен способности различать цвета. Это не дальтонизм, при котором человек не различает оттенки, скажем, красного и зеленого (как я). Это такое состояние, когда человек живет в полностью черно-белом мире. (В крайней версии такого сценария человек вырос в черно-белом мире и никогда не видел никаких цветов. Короче говоря, в его мире цвета отсутствуют.) Однако этот человек активно изучал физические основы цвета и знает, что красный свет — это свет с длиной волны 700 нм, а также ему известна суть неврологических процессов в мозге человека, способного нормально воспринимать цвета.

Он знает о цвете больше, чем обычно знают люди. Если бы вы захотели объяснить этому человеку, что же такое на самом деле «красный цвет», как бы вы поступили? Возможно, вы прочли бы фрагмент из стихотворения «Красный» нигерийского поэта Олусейи Олусеуна:

Красный — цвет крови
символ жизни
Красный — цвет опасности
символ смерти
Красный — цвет роз
символ красоты
Красный — цвет любовников
символ слияния
Красный — цвет томатов
символ здоровья
Красный — цвет огня
символ желания

Это действительно может помочь человеку представить себе, с чем ассоциируется красный цвет у других людей, и даже позволит поддержать беседу о цветах. («Да, я люблю красный цвет, он столь горяч и горд, столь опасно прекрасен...») И если этот человек захочет, он в принципе может убедить других людей в том, что у него есть личный опыт, связанный с красным цветом, но никакие в мире стихи не помогут ему этот опыт пережить.

Аналогичным образом, как вы объясните человеку, никогда не касавшемуся воды, что испытывает ныряльщик? Вам опять придется прибегать к стихам, но это не поможет обзавестись личным опытом. Именно этот опыт мы и называем словом квалиа. Многие из тех, кто читает мою книгу, по собственному опыту знают, что такое красный цвет. Но откуда мне знать, не испытываете ли вы при виде красного цвета то же самое, что я испытываю при виде синего? Мы оба смотрим на красный предмет и утверждаем, что он красный, но это не ответ на вопрос. Может быть, я при этом испытываю то, что вы испытываете,
когда смотрите на синий, просто мы оба выучили, что этот цвет называется красным. Мы опять можем прибегнуть к помощи стихов, но они лишь отражают ассоциации людей с тем или иным цветом и ничего не говорят о реальной природе квалиа.

На самом деле слепые от рождения люди много читают о цветах, поскольку о цветах часто пишут, и поэтому у них есть некоторый собственный опыт, связанный с цветами. Как сравнить их опыт «красного цвета» с опытом зрячего человека? Это, по сути, тот же вопрос, что и вопрос о человеке, живущем в черно-белом мире. Удивительно, что столь распространенные в нашей жизни явления настолько сложны, что даже невозможно утверждать, что мы имеем один и тот же чувственный опыт (квалиа). Другое определение квалиа — субъективный опыт. Однако это определение тоже ведет в тупик, как и наши попытки дать
определение сознания, поскольку слова и выражения «ощущение», «личный опыт» и «сознание», по сути, являются синони­мами. Что есть сознание и что есть квалиа — фундаментальные, возможно, последние вопросы философии (хотя есть еще более важный вопрос, связанный с определением личности, мы поговорим об этом в заключительном разделе данной главы).

Возвращаясь к теме сознания, постараемся точнее сформулировать волнующий нас вопрос. Он звучит так: кто или что обладает сознанием? В заглавии книги я использовал слово «разум», а не слово «мозг», поскольку разум — свойство сознательного мозга. Мы также можем сказать, что разум обладает свободой воли и идентифицирует себя. Утверждение, что эти вопросы относятся к разряду философских вопросов, не совсем очевидно. Я имею в виду, что эти вопросы не могут быть разрешены исключительно научными методами. Другими словами, нет таких фальсифицируемых экспериментов, которые могли бы ответить на эти вопросы — без привлечения философских приемов. В математической терминологии фальсифицируемость (принципиальная возможность опровержения) является критерием научности теории; то есть теория является научной, если существует методологическая возможность ее экспериментального опровержения.

Если бы мы построили детектор сознания, Серль обязательно пожелал бы убедиться, что он испускает биологические нейромедиаторы. Американский философ Дэн Деннет (род. в 1942 г.) был бы более податлив, но, возможно, захотел бы установить, содержит ли система модель самой себя и своих возможностей. Эта точка зрения ближе к моей собственной, но в своей основе по-прежнему является философской. Регулярно возникает идея связать сознание с каким-то из­меряемым физическим параметром; Серль называет это «механизмом стимуляции сознания». Американский ученый, философ и анестезиолог Стюарт Хамерофф (род. в 1947 г.) писал, что «филаменты цитоскелета — это корни сознания». Речь идет об имеющихся во всех клетках (в том числе и в нейронах) тонких нитях, называемых микротрубочками, которые обеспечи­
вают структурную целостность клетки и играют важную роль в ее делении. Книги и статьи Хамероффа на эту тему содержат подробные описания и уравнения, объясняющие возможную роль микротрубочек в информационных процессах в клетке.

Но, чтобы перейти от микротрубочек к сознанию, нужно сделать очень смелый шаг, не менее смелый, чем религиозная идея о том, что высшее существо наградило сознанием (иногда именуемым душой) некоторых существ (главным образом человека). Идея Хамероффа подтверждается одним доказательством, заключающимся в том, что неврологические процессы, которые могли бы поддерживать данные клеточные перестройки, прекращаются под действием наркоза. Однако это наблюдение нельзя считать исчерпывающим доказательством, учитывая значительное количество процессов, которые останавливаются в этих условиях. Мы даже не знаем точно, обладает ли сознанием находящийся под наркозом человек. Нам известно только, что, проснувшись после наркоза, люди ничего не помнят. Однако даже это не совсем верно, поскольку некоторые люди достаточно отчетливо помнят какие-то события, происходившие, пока они были под наркозом, например разговоры врачей. Такие случаи «бодрствования под наркозом» в США отмечаются примерно 40 тыс. раз в год. Но речь вообще-то не об этом, сознание и память — совершенно не одно и то же. Как я уже писал, если я пытаюсь вспомнить прошедший день во всех подробностях, я нахожу множество чувственных ощущений, но помню лишь некоторые вызвавшие их события. Означает ли это, что большую часть дня я был без сознания? Это очень хороший вопрос, и ответ на него совсем не очевиден.

Английский физик и математик Роджер Пенроуз (род. в 1931 г.) делает другой смелый шаг для объяснения происхождения сознания, но тоже связанный с микротрубочками, в данном случае как с носителями некоторых квантовых свойств. Суть его рассуждений мне не совсем ясна, но в целом сводится к тому, что, поскольку сознание является загадочным феноменом и квантовые явления тоже загадочны, между ними должна существовать какая-то связь. Пенроуз начал свои исследования с изучения теоремы Тьюринга о неразрешимых задачах и теоремы Геделя о неполноте. Тьюринг утверждал, что существуют алгоритмические задачи, которые можно сформулировать, но нельзя решить с помощью машины Тьюринга. Учитывая универсальность вычислительных способностей машины Тьюринга, приходится заключить, что эти «неразрешимые задачи» не под силу никакой машине. Теорема Геделя о неполноте приводит к тому же результату в приложении к формальной арифметике. Пенроуз же утверждает, что человеческий мозг способен решить эти неразрешимые задачи, то есть может делать вещи, которые такие детерминистские машины, как компьютеры, делать не в состоянии. Его мотивация, по крайней мере отчасти, заключается в том, чтобы поставить человека выше машины. Однако его главный тезис — о том, что человек может решить неразрешимые задачи Тьюринга и Геделя, — просто-напросто неверен.

Одна из таких неразрешимых задач, известная как задача про усердного бобра (Busy Beaver), заключается в следующем: нужно найти максимальное число единиц, которое машина Тьюринга с определенным числом состояний (n) может записать на своей ленте. Для ответа на вопрос нужно создать все возможные машины Тьюринга с «-состояниями (это конечное число, если значение n — конечное число) и определить максимальное число единиц, которые эти машины печатают на своей ленте, за исключением зациклившихся машин Тьюринга. Ответить на этот вопрос нельзя, поскольку при попытке моделирования всех этих машин наш симулятор зациклится при попытке симулировать машину, которая уже зациклилась. Тем не менее компьютеры решают эту задачу для некоторых значений n. Справляются с задачей и математики, но компьютеры решают задачу для гораздо большего числа n, чем не вооруженные вычислительной машиной люди. Вообще обычно компьютеры лучше людей решают неразрешимые задачи Тьюринга и Геделя.

Пенроуз связал эти «трансцендентные способности» человеческого мозга с квантовыми вычислениями, которые, с его точки зрения, там происходят. В соответствии с этой точкой зрения, квантовые явления в нейронах по какой-то причине доступны не компьютерам, а только человеческому мозгу. На самом деле многие электронные устройства используют квантовые явления (транзисторы применяют квантовое явление туннельного эффекта), а вот квантовые явления в головном мозге пока никто не обнаружил. Человеческие мыслительные возможности удовлетворительно объясняются классическими вычислительными методами, и в любом случае ничто не мешает нам применять квантовые вычисления в компьютерах. Однако ни одну из этих задач Пенроуз перед собой не ставил. Хамерофф и Пенроуз объединили свои усилия, когда критики заявили, что мозг — это не то место, где могут производиться квантовые вычисления. Пенроуз нашел в нейронах подходящий элемент для осуществления квантовых вычислений — те самые микротрубочки, в которых, по мнению Хамероффа, происходит обработка информации. Таким образом, тезис Хамероффа—Пенроуза заключается в том, что микротрубочки нейронов совершают квантовые вычисления, что и является основой сознания.

Этот тезис подвергся критике, например со стороны шведско-американского физика и космолога Макса Тегмарка (род. в 1967 г.), который определил, что квантовые явления в микротрубочках могут продолжаться лишь 10^-13 с, что слишком мало и для того, чтобы произвести сколько-нибудь значимые вычисления, и для того, чтобы как-то повлиять на процессы в нейронах. Существует ряд задач, для решения которых квантовые вычисления имеют преимущества перед классическими методами, например для дешифровки кодов путем факторизации больших чисел. Однако известно, что человеческий мозг очень плохо справляется с такими задачами и не может соперничать даже с обычными компьютерными вычислениями, и это подтверждает, что мозг не имеет никаких способностей к квантовым вычислениям. Более того, если бы даже возможность квантовых вычислений в головном мозге существовала, она вовсе не обязательно имела бы отношение к сознанию.

Отрывок из книги Рэя Курцвейла "Эволюция разума"