Как ИИ может изменить мир к лучшему

 

Я много размышляю и говорю о рисках, связанных с мощным ИИ. Компания Anthropic, генеральным директором которой я являюсь, проводит обширные исследования по снижению этих рисков. Из-за этого люди иногда приходят к выводу, что я пессимист или «пророк гибели», считающий, что ИИ принесет в основном вред или опасность. Я совершенно так не думаю. На самом деле, одна из главных причин, по которой я уделяю столько внимания рискам, заключается в том, что они — единственное, что стоит между нами и тем, что я считаю фундаментально позитивным будущим. Я думаю, что большинство людей недооценивают, насколько радикальными могут быть положительные стороны ИИ, точно так же, как, по моему мнению, большинство людей недооценивают, насколько серьезными могут быть риски.

 

В этой статье я постараюсь набросать, как могут выглядеть эти положительные стороны — как может выглядеть мир с мощным ИИ, если все пойдет как надо. Конечно, никто не может знать будущее с какой-либо уверенностью или точностью, и последствия мощного ИИ, вероятно, будут еще более непредсказуемыми, чем прошлые технологические изменения, поэтому все это неизбежно будет состоять из догадок. Но я стремлюсь к тому, чтобы это были, по крайней мере, обоснованные и полезные догадки, которые передают суть того, что произойдет, даже если большинство деталей в итоге окажутся неверными. Я включаю много деталей в основном потому, что считаю, что конкретное видение больше способствует продвижению дискуссии, чем очень осторожные и абстрактные представления.

 

Однако сначала я хотел бы кратко объяснить, почему я и Anthropic не так много говорили о положительных сторонах мощного ИИ и почему мы, вероятно, в целом будем продолжать много говорить о рисках. В частности, я сделал этот выбор из желания:

 

Максимизировать эффект рычага. Базовое развитие технологий ИИ и многие (не все) его преимущества кажутся неизбежными (если только риски не сорвут все) и в основном движимы мощными рыночными силами. С другой стороны, риски не предопределены, и наши действия могут значительно изменить их вероятность.

 

Избежать восприятия как пропаганды. Компании, занимающиеся ИИ, которые говорят обо всех удивительных преимуществах ИИ, могут выглядеть как пропагандисты или как будто они пытаются отвлечь внимание от минусов. Я также считаю, что в принципе вредно для души тратить слишком много времени на «рекламу собственной книги».

 

Избегайте грандиозности. Меня часто отталкивает то, как многие публичные фигуры, занимающиеся рисками ИИ (не говоря уже о руководителях компаний, занимающихся ИИ), говорят о мире после появления ОИИ, как будто их миссия — в одиночку воплотить его в жизнь, словно пророк, ведущий свой народ к спасению. Я считаю опасным рассматривать компании как односторонних формирователей мира, а также опасным рассматривать практические технологические цели в сугубо религиозных терминах.

 

Избегайте «научно-фантастического» багажа. Хотя я считаю, что большинство людей недооценивают преимущества мощного ИИ, небольшое сообщество людей, которые действительно обсуждают радикальное будущее ИИ, часто делает это в чрезмерно «научно-фантастическом» тоне (с упоминанием, например, загруженных сознаний, освоения космоса или общей киберпанковской атмосферы). Я считаю, что это заставляет людей относиться к этим утверждениям менее серьезно и наделять их некой нереальностью. Чтобы было ясно: вопрос не в том, возможны ли или вероятны ли описанные технологии (в основном эссе это обсуждается в мельчайших деталях) — дело скорее в том, что эта «атмосфера» коннотативно вносит кучу культурного багажа и невысказанных предположений о том, какое будущее желательно, как будут развиваться различные социальные проблемы и т. д. В результате текст часто читается как фантазия для узкой субкультуры, отталкивая при этом большинство людей.

 

Однако, несмотря на все вышеперечисленные опасения, я действительно считаю важным обсуждать, как мог бы выглядеть хороший мир с мощным ИИ, при этом делая все возможное, чтобы избежать вышеупомянутых ловушек. На самом деле я считаю, что крайне важно иметь по-настоящему вдохновляющее видение будущего, а не просто план по тушению пожаров. Многие последствия появления мощного ИИ носят враждебный или опасный характер, но в конечном итоге должно быть что-то, за что мы боремся, какой-то результат с положительной суммой, при котором всем будет лучше, что-то, что сможет сплотить людей, чтобы они смогли подняться над своими ссорами и противостоять предстоящим вызовам. Страх — это один из видов мотивации, но его недостаточно: нам нужна и надежда.

 

Список положительных применений мощного ИИ чрезвычайно длинный (и включает робототехнику, производство, энергетику и многое другое), но я сосредоточусь на небольшом числе областей, которые, на мой взгляд, имеют наибольший потенциал для непосредственного улучшения качества жизни человека. Пять категорий, которые меня больше всего вдохновляют:

 

1. Биология и физическое здоровье

2. Нейробиология и психическое здоровье

3. Экономическое развитие и бедность

4. Мир и государственное управление

5. Труд и смысл 

 

Мои прогнозы будут радикальными по большинству меркам (за исключением научно-фантастических представлений о «сингулярности»[2]), но я отношусь к ним со всей серьезностью и искренностью. Все, что я говорю, может оказаться совершенно неверным (повторю свою мысль, высказанную выше), но я, по крайней мере, попытался обосновать свои взгляды полуаналитической оценкой того, насколько может ускориться прогресс в различных областях и что это может означать на практике. Мне повезло иметь профессиональный опыт как в биологии, так и в нейробиологии, и я являюсь осведомленным любителем в области экономического развития, но я уверен, что во многом ошибусь. Написание этого эссе помогло мне понять, что было бы полезно собрать группу экспертов в различных областях (биологии, экономики, международных отношений и других) для написания гораздо лучшей и более обоснованной версии того, что я создал здесь. Вероятно, лучше всего рассматривать мои усилия здесь как отправную точку для этой группы.

 

 

Чтобы сделать всю эту статью более точной и обоснованной, полезно четко определить, что мы понимаем под мощным ИИ (т. е. порог, с которого начинается отсчет 5–10 лет), а также изложить концептуальную основу для размышлений о последствиях появления такого ИИ.

 

Как будет выглядеть мощный ИИ (мне не нравится термин «ОИИ»)[3] и когда (или если) он появится — это огромная тема сама по себе. Я уже публично обсуждал ее и мог бы написать об этом отдельное эссе (скорее всего, я это сделаю в какой-то момент). Очевидно, что многие люди скептически относятся к тому, что мощный ИИ будет создан в ближайшее время, а некоторые сомневаются, что он вообще когда-нибудь появится. Я думаю, что это может произойти уже в 2026 году, хотя есть и варианты, при которых это может занять гораздо больше времени. Но для целей этой статьи я бы хотел отложить эти вопросы в сторону, предположить, что это произойдет достаточно скоро, и сосредоточиться на том, что произойдет в течение 5–10 лет после этого. Я также хочу принять определение того, как будет выглядеть такая система, каковы ее возможности и как она взаимодействует, хотя по этому поводу могут быть разногласия.

 

Под мощным ИИ я имею в виду модель ИИ — вероятно, похожую по форме на современные LLM, хотя она может быть основана на другой архитектуре, может включать несколько взаимодействующих моделей и может быть обучена по-другому — со следующими свойствами:

 

- С точки зрения чистого интеллекта[4], он умнее лауреатов Нобелевской премии в большинстве соответствующих областей – биологии, программирования, математики, инженерии, литературы и т. д. Это означает, что он может доказывать нерешенные математические теоремы, писать чрезвычайно хорошие романы, создавать сложные кодовые базы с нуля и т. д.

 

- Помимо того, что это просто «умная штука, с которой можно поговорить», у него есть все «интерфейсы», доступные человеку, работающему виртуально, включая текст, аудио, видео, управление с помощью мыши и клавиатуры, а также доступ в Интернет. Он может выполнять любые действия, осуществлять коммуникацию или удаленные операции, поддерживаемые этим интерфейсом, включая действия в Интернете, получение или предоставление указаний людям, заказ материалов, руководство экспериментами, просмотр видео, создание видео и так далее. Оно выполняет все эти задачи, опять же, с мастерством, превосходящим способности самых способных людей в мире.

 

- Оно не просто пассивно отвечает на вопросы; вместо этого ему можно поручить задачи, на выполнение которых уходят часы, дни или недели, после чего оно приступает к выполнению этих задач автономно, как это сделал бы умный сотрудник, обращаясь за разъяснениями при необходимости.

 

- У него нет физического воплощения (кроме как на экране компьютера), но он может управлять существующими физическими инструментами, роботами или лабораторным оборудованием через компьютер; теоретически он мог бы даже проектировать роботов или оборудование для собственного использования.

Ресурсы, использованные для обучения модели, можно перенаправить на запуск миллионов ее экземпляров (это соответствует прогнозируемому размеру кластеров к ~2027 году), и модель может усваивать информацию и генерировать действия примерно в 10–100 раз быстрее, чем человек[5]. Однако она может быть ограничена временем отклика физического мира или программного обеспечения, с которым она взаимодействует.

 

- Каждая из этих миллионов копий может действовать независимо над несвязанными задачами или, при необходимости, все могут работать вместе, как люди, возможно, с разными подгруппами, специально настроенными для выполнения определенных задач.

 

Можно было бы охарактеризовать это как «страну гениев в центре обработки данных».

 

Очевидно, что такая структура была бы способна очень быстро решать очень сложные проблемы, но определить, насколько быстро, не так просто. Две «крайние» позиции кажутся мне ложными. Во-первых, можно подумать, что мир мгновенно преобразится за считанные секунды или дни («сингулярность»), поскольку высший интеллект будет развиваться сам по себе и почти мгновенно решать все возможные научные, инженерные и операционные задачи. Проблема здесь заключается в том, что существуют реальные физические и практические ограничения, например, связанные с созданием аппаратного обеспечения или проведением биологических экспериментов. Даже новая страна гениев столкнется с этими ограничениями. Интеллект может быть очень мощным, но это не волшебная феерическая пыль.

 

Во-вторых, и наоборот, можно поверить, что технологический прогресс насыщен или ограничен по темпам реальными данными или социальными факторами, и что интеллект, превосходящий человеческий, добавит очень мало [6]. Мне это кажется столь же неправдоподобным — я могу придумать сотни научных или даже социальных проблем, где большая группа действительно умных людей резко ускорила бы прогресс, особенно если они не ограничены анализом и могут воплощать идеи в реальном мире (что может наша гипотетическая страна гениев, в том числе путем руководства или помощи командам людей).

 

Я думаю, что правда, скорее всего, заключается в некотором беспорядочном смешении этих двух крайних картин, в чем-то, что варьируется в зависимости от задачи и области и очень тонко в деталях. Я считаю, что нам нужны новые рамки, чтобы продуктивно обдумывать эти детали.

 

Экономисты часто говорят о «факторах производства»: таких вещах, как труд, земля и капитал. Фраза «предельная отдача от труда/земли/капитала» отражает идею о том, что в данной ситуации тот или иной фактор может быть ограничивающим, а может и нет — например, военно-воздушным силам нужны и самолеты, и пилоты, и нанимать больше пилотов не имеет большого смысла, если у вас нет самолетов. Я считаю, что в эпоху ИИ нам следует говорить о предельной отдаче от интеллекта [7] и пытаться выяснить, какие еще факторы дополняют интеллект и становятся ограничивающими, когда уровень интеллекта очень высок. Мы не привыкли думать таким образом — задавать вопрос «насколько повышение интеллекта помогает в решении этой задачи и в каких временных рамках?» — но это кажется правильным подходом к осмыслению мира с очень мощным ИИ.

 

Мой список факторов, которые ограничивают интеллект или дополняют его, включает:

 

- Скорость внешнего мира. Интеллектуальные агенты должны взаимодействовать с окружающим миром, чтобы достигать целей и обучаться [8]. Но мир движется с ограниченной скоростью. Клетки и животные функционируют с фиксированной скоростью, поэтому эксперименты с ними занимают определенное время, которое, возможно, невозможно сократить. То же самое верно в отношении аппаратного обеспечения, материаловедения, всего, что связано с общением с людьми, и даже нашей существующей программной инфраструктуры. Кроме того, в науке часто требуется последовательное проведение многих экспериментов, каждый из которых учится на предыдущем или основывается на нем. Все это означает, что скорость, с которой может быть завершен крупный проект — например, разработка лекарства от рака — может иметь несокращаемый минимум, который нельзя уменьшить еще больше, даже если интеллект продолжает расти.

 

- Потребность в данных. Иногда не хватает исходных данных, и в их отсутствие более высокий уровень интеллекта не помогает. Сегодняшние физики-частицы очень изобретательны и разработали широкий спектр теорий, но им не хватает данных, чтобы выбрать между ними, потому что данные ускорителя частиц очень ограничены. Неясно, смогли бы они добиться значительно лучших результатов, если бы были сверхинтеллектуальными — разве что ускорить строительство более крупного ускорителя.

 

- Внутренняя сложность. Некоторые вещи по своей сути непредсказуемы или хаотичны, и даже самый мощный ИИ не может предсказать или распутать их существенно лучше, чем человек или компьютер сегодня. Например, даже невероятно мощный ИИ мог бы предсказать лишь незначительно дальше в хаотической системе (такой как задача трех тел) в общем случае [9], по сравнению с сегодняшними людьми и компьютерами.

 

- Ограничения со стороны людей. Многие вещи невозможно сделать, не нарушив законы, не навредив людям или не разрушив общество. Согласованный ИИ не захотел бы делать эти вещи (а если у нас будет несогласованный ИИ, мы вернемся к разговору о рисках). Многие человеческие социальные структуры неэффективны или даже активно вредны, но их трудно изменить, уважая такие ограничения, как законодательные требования к клиническим испытаниям, готовность людей изменить свои привычки или поведение правительств. Примеры достижений, которые хорошо работают в техническом смысле, но чье влияние было существенно снижено регулированием или необоснованными страхами, включают атомную энергетику, сверхзвуковые полеты и даже лифты.

 

- Законы физики. Это более резкая версия первого пункта. Существуют определенные законы физики, которые кажутся нерушимыми. Невозможно путешествовать быстрее света. Пудинг не перестает быть перемешанным. Чипы могут иметь только определенное количество транзисторов на квадратный сантиметр, прежде чем они станут ненадежными. Вычисления требуют определенного минимального количества энергии на удаленный бит, что ограничивает плотность вычислений в мире.

 

Существует ещё одно различие, основанное на временных масштабах. То, что в краткосрочной перспективе представляет собой жесткие ограничения, в долгосрочной перспективе может стать более поддающимся влиянию искусственного интеллекта. Например, искусственный интеллект можно использовать для разработки новой экспериментальной парадигмы, которая позволит изучать in vitro то, что раньше требовало экспериментов на живых животных, или для создания инструментов, необходимых для сбора новых данных (например, более мощного ускорителя частиц), или (в рамках этических ограничений) найти способы обойти ограничения, связанные с человеческим фактором (например, помогая улучшить систему клинических испытаний, содействуя созданию новых юрисдикций, где клинические испытания сопровождаются меньшей бюрократией, или совершенствуя саму науку, чтобы сделать клинические испытания на людях менее необходимыми или более дешевыми).

 

Таким образом, мы должны представить себе картину, в которой интеллект изначально сильно сдерживается другими факторами производства, но со временем сам интеллект все больше обходит другие факторы, даже если они никогда полностью не исчезнут (а некоторые вещи, такие как законы физики, являются абсолютными) [10]. Ключевой вопрос заключается в том, как быстро все это происходит и в каком порядке.

 

Учитывая вышеуказанную структуру, я постараюсь ответить на этот вопрос для пяти областей, упомянутых во введении.

 

 

Биология, пожалуй, является той областью, где научный прогресс обладает наибольшим потенциалом для непосредственного и однозначного улучшения качества жизни человека. В прошлом веке некоторые из самых древних человеческих недугов (такие как оспа) были наконец побеждены, но многие другие по-прежнему остаются, и их преодоление стало бы огромным гуманитарным достижением. Помимо лечения болезней, биологическая наука в принципе может улучшить базовое качество здоровья человека, продлив продолжительность здоровой жизни, увеличив контроль и свободу над нашими собственными биологическими процессами и решая повседневные проблемы, которые мы в настоящее время считаем неизменными составляющими человеческого существования.

 

Говоря языком «ограничивающих факторов» из предыдущего раздела, основными проблемами при непосредственном применении интеллекта к биологии являются данные, скорость физического мира и внутренняя сложность (на самом деле все три фактора связаны друг с другом). Человеческие ограничения также играют роль на более позднем этапе, когда речь заходит о клинических испытаниях. Рассмотрим их по очереди.

 

Эксперименты на клетках, животных и даже химических процессах ограничены скоростью физического мира: многие биологические протоколы включают культивирование бактерий или других клеток или просто ожидание химических реакций, что иногда может занимать дни или даже недели, и нет очевидного способа ускорить этот процесс. Эксперименты на животных могут занимать месяцы (или больше), а эксперименты на людях часто занимают годы (или даже десятилетия для долгосрочных исследований результатов). В некоторой степени это связано с тем, что часто не хватает данных — не столько по количеству, сколько по качеству: всегда существует нехватка четких, однозначных данных, которые бы изолировали интересующий биологический эффект от 10 000 других мешающих факторов, которые происходят, или которые каузально вмешиваются в данный процесс, или которые непосредственно измеряют какой-либо эффект (в отличие от косвенного или неточного вывода о его последствиях). Даже обширные количественные молекулярные данные, такие как данные протеомики, которые я собирал, работая над методами масс-спектрометрии, содержат много шума и упускают многое (в каких типах клеток находились эти белки? В какой части клетки? На какой фазе клеточного цикла?).

 

Отчасти причиной этих проблем с данными является внутренняя сложность: если вы когда-нибудь видели схему, показывающую биохимию человеческого метаболизма, вы знаете, что очень трудно изолировать эффект любой части этой сложной системы, и еще труднее вмешиваться в систему точным или предсказуемым образом. И, наконец, помимо времени, необходимого для проведения эксперимента на людях, реальные клинические испытания сопряжены с большим количеством бюрократических и нормативных требований, которые (по мнению многих людей, включая меня) добавляют ненужное дополнительное время и задерживают прогресс.

 

Учитывая все это, многие биологи уже давно скептически относятся к ценности ИИ и «больших данных» в целом в биологии. Исторически сложилось так, что математики, информатики и физики, применившие свои навыки в биологии за последние 30 лет, добились значительных успехов, но не оказали того по-настоящему революционного влияния, на которое изначально надеялись. Частично скептицизм был развеян благодаря крупным и революционным прорывам, таким как AlphaFold (который только что заслуженно принес своим создателям Нобелевскую премию по химии) и AlphaProteo [11], но все еще существует мнение, что ИИ полезен (и будет полезен) лишь в ограниченном наборе обстоятельств. Часто можно услышать фразу: «ИИ может лучше анализировать ваши данные, но он не может генерировать больше данных или улучшать их качество. Что заложено, то и получится».

 

Но я считаю, что такая пессимистичная точка зрения — неправильный подход к ИИ. Если наша основная гипотеза о прогрессе ИИ верна, то правильно рассматривать ИИ не как метод анализа данных, а как виртуального биолога, выполняющего все задачи, которые выполняют биологи, включая разработку и проведение экспериментов в реальном мире (путем управления лабораторными роботами или просто указания людям, какие эксперименты проводить — как это делает главный исследователь со своими аспирантами), изобретение новых биологических методов или техник измерения и так далее. Именно ускорив весь исследовательский процесс, ИИ может по-настоящему ускорить развитие биологии. Я хочу повторить это, потому что это самое распространенное заблуждение, которое возникает, когда я говорю о способности ИИ преобразовать биологию: я не говорю об ИИ как о простом инструменте для анализа данных. В соответствии с определением мощного ИИ, приведенным в начале этой статьи, я говорю об использовании ИИ для выполнения, управления и улучшения практически всего, чем занимаются биологи.

 

Чтобы уточнить, откуда, по моему мнению, может произойти ускорение, следует отметить, что удивительно большая часть прогресса в биологии происходит благодаря действительно небольшому числу открытий, часто связанных с широкими инструментами или методами измерения [12], которые позволяют осуществлять точное, но обобщенное или программируемое вмешательство в биологические системы. Ежегодно происходит примерно одно из таких крупных открытий, и в совокупности они, по всей вероятности, обеспечивают более 50% прогресса в биологии. Эти открытия настолько мощны именно потому, что они преодолевают внутреннюю сложность и ограничения данных, напрямую увеличивая наше понимание и контроль над биологическими процессами. Несколько открытий за десятилетие обеспечили как основную часть нашего фундаментального научного понимания биологии, так и стали движущей силой многих из самых эффективных методов лечения.

 

Вот некоторые примеры:

 

- CRISPR: метод, позволяющий осуществлять редактирование любого гена в живых организмах в режиме реального времени (замена любой произвольной последовательности гена на любую другую произвольную последовательность). 

 

- С момента разработки первоначальной технологии ведется постоянная работа по ее усовершенствованию с целью нацеливания на конкретные типы клеток, повышения точности и снижения вероятности редактирования не того гена — все это необходимо для безопасного применения у людей.

 

- Различные виды микроскопии для наблюдения за происходящим на микроуровне: современные световые микроскопы (с различными видами флуоресцентных технологий, специальной оптикой и т. д.), электронные микроскопы, атомно-силовые микроскопы и т. д.

 

- Секвенирование и синтез генома, стоимость которых за последние пару десятилетий снизилась на несколько порядков.

 

- Оптогенетические технологии, позволяющие вызвать импульс нейрона путем воздействия на него светом.

мРНК-вакцины, которые, в принципе, позволяют нам разработать вакцину против чего угодно, а затем быстро адаптировать ее (мРНК-вакцины, конечно, стали известны во время пандемии COVID).

 

- Клеточные терапии, такие как CAR-T, которые позволяют извлекать иммунные клетки из организма и «перепрограммировать» их для атаки, в принципе, чего угодно.

 

- Концептуальные открытия, такие как микробиологическая теория заболеваний или осознание связи между иммунной системой и раком [13].

 

Я беру на себя труд перечислить все эти технологии, потому что хочу высказать по поводу них важнейшее утверждение: я считаю, что темпы их открытия можно было бы увеличить в 10 раз и более, если бы было гораздо больше талантливых и творческих исследователей. Или, говоря иначе, я считаю, что в случае этих открытий доходность интеллектуальных вложений высока, и что все остальное в биологии и медицине в основном вытекает из них.

 

Почему я так считаю? Из-за ответов на некоторые вопросы, которые мы должны привыкнуть задавать, когда пытаемся определить «доходность интеллекта». Во-первых, эти открытия, как правило, делаются крошечным числом исследователей, часто одними и теми же людьми снова и снова, что указывает на мастерство, а не на случайный поиск (последнее могло бы означать, что длительные эксперименты являются ограничивающим фактором). Во-вторых, они часто «могли бы быть сделаны» на годы раньше, чем были: например, CRISPR был естественным компонентом иммунной системы бактерий, известным с 1980-х годов, но потребовалось еще 25 лет, чтобы люди поняли, что его можно перепрофилировать для общего редактирования генов. Кроме того, они часто задерживаются на много лет из-за отсутствия поддержки со стороны научного сообщества в отношении многообещающих направлений (см. этот профиль изобретателя мРНК-вакцин; подобных историй множество). В-третьих, успешные проекты часто носят импровизированный характер или являются результатом последующих идей, которые изначально не считались многообещающими, а не результатом масштабных финансируемых усилий. Это говорит о том, что открытия стимулирует не только концентрация огромных ресурсов, но и изобретательность.

 

Наконец, хотя некоторые из этих открытий имеют «последовательную зависимость» (нужно сначала сделать открытие А, чтобы получить инструменты или знания для открытия Б) — что опять же может привести к задержкам в экспериментах — многие, возможно большинство, являются независимыми, а это означает, что над многими из них можно работать параллельно. И эти факты, и мой общий опыт как биолога убедительно свидетельствуют о том, что сотни таких открытий ждут своего часа, если бы ученые были умнее и лучше умели устанавливать связи между огромным объемом биологических знаний, которыми обладает человечество (опять же, вспомните пример CRISPR). Успех AlphaFold/AlphaProteo в решении важных задач гораздо более эффективно, чем люди, несмотря на десятилетия тщательно разработанного физического моделирования, предоставляет доказательство принципа (хотя и с помощью узкого инструмента в узкой области), которое должно указывать путь вперед.

 

Таким образом, я предполагаю, что мощный ИИ мог бы увеличить скорость этих открытий как минимум в 10 раз, обеспечив нам биологический прогресс следующих 50–100 лет за 5–10 лет. [14]

 

Почему не в 100 раз? Возможно, это и возможно, но здесь важны как последовательная зависимость, так и время, необходимое для экспериментов: чтобы получить 100 лет прогресса за 1 год, необходимо, чтобы многое удалось с первого раза, включая эксперименты на животных и такие вещи, как разработка микроскопов или дорогостоящего лабораторного оборудования. На самом деле я открыт к (возможно, абсурдно звучащей) идее, что мы могли бы получить 1000 лет прогресса за 5–10 лет, но очень скептически отношусь к тому, что мы сможем получить 100 лет за 1 год. Другими словами, я считаю, что существует неизбежная постоянная задержка: эксперименты и проектирование оборудования имеют определенную «задержку» и должны повторяться определенное «несократимое» количество раз, чтобы узнать то, что нельзя вывести логически. Но на этом фоне возможен массивный параллелизм [15].

 

А как насчет клинических испытаний? Хотя с ними связано много бюрократии и задержек, правда в том, что большая часть (хотя и далеко не вся!) их медлительности в конечном итоге проистекает из необходимости тщательно оценивать лекарства, которые едва ли работают или работают неоднозначно. К сожалению, это верно для большинства современных методов лечения: средний противораковый препарат увеличивает выживаемость на несколько месяцев, при этом имея значительные побочные эффекты, которые необходимо тщательно оценивать (аналогичная ситуация наблюдается с препаратами от болезни Альцгеймера). Это приводит к проведению масштабных исследований (для достижения статистической значимости) и сложным компромиссам, которые регулирующие органы, как правило, не очень хорошо умеют принимать, опять же из-за бюрократии и сложности противоречивых интересов.

 

Когда что-то работает действительно хорошо, процесс идет гораздо быстрее: существует ускоренная процедура одобрения, и вероятность получения разрешения значительно выше при более выраженном эффекте. МРНК-вакцины от COVID были одобрены за 9 месяцев — гораздо быстрее, чем обычно. Тем не менее, даже в этих условиях клинические испытания по-прежнему проходят слишком медленно — МРНК-вакцины, пожалуй, следовало одобрить примерно за 2 месяца. Но такие задержки (около 1 года от начала до конца для одного препарата) в сочетании с массовой параллелизацией и необходимостью некоторого, но не слишком большого количества итераций («несколько попыток») вполне совместимы с радикальной трансформацией в течение 5–10 лет. Еще более оптимистично, возможно, что биологическая наука, опирающаяся на ИИ, снизит потребность в итерациях в клинических испытаниях за счет разработки лучших экспериментальных моделей на животных и клетках (или даже симуляций), которые более точно предсказывают, что произойдет у людей. Это будет особенно важно при разработке лекарств против процесса старения, который разворачивается на протяжении десятилетий и где нам нужен более быстрый цикл итераций.

 

Наконец, что касается клинических испытаний и социальных барьеров, стоит прямо отметить, что в некоторых отношениях биомедицинские инновации имеют необычайно успешный опыт внедрения, в отличие от некоторых других технологий [16]. Как упоминалось во введении, многие технологии сталкиваются с препятствиями со стороны общества, несмотря на то, что технически работают хорошо. Это может наводить на пессимистические мысли о том, чего может достичь ИИ. Но биомедицина уникальна тем, что, хотя процесс разработки лекарств чрезмерно обременителен, после разработки они, как правило, успешно внедряются и используются.

 

Подводя итог вышесказанному, мой основной прогноз заключается в том, что биология и медицина, основанные на ИИ, позволят нам сжать прогресс, которого биологи-люди достигли бы в течение следующих 50–100 лет, до 5–10 лет. Я буду называть это «сжатым 21 веком»: идея заключается в том, что после разработки мощного ИИ мы за несколько лет добьемся всего прогресса в биологии и медицине, которого мы могли бы достичь за весь 21 век.

 

Хотя предсказать, на что способен мощный ИИ через несколько лет, по-прежнему сложно и носит спекулятивный характер, вопрос «чего могли бы достичь люди без посторонней помощи в ближайшие 100 лет?» имеет под собой некоторую конкретику. Простое рассмотрение того, чего мы достигли в 20-м веке [17], или экстраполяция на основе первых двух десятилетий 21-го века, или вопрос о том, что нам дадут «10 CRISPR и 50 CAR-T», — все это предлагает практические, обоснованные способы оценить общий уровень прогресса, которого мы можем ожидать от мощного ИИ.

 

Ниже я попытаюсь составить список того, чего мы можем ожидать. Он не основан на какой-либо строгой методологии и почти наверняка окажется неверным в деталях, но он пытается передать общий уровень радикальности, которого мы должны ожидать:

 

- Надежная профилактика и лечение практически всех¹⁷ естественных инфекционных заболеваний. Учитывая огромные успехи в борьбе с инфекционными заболеваниями в XX веке, не будет преувеличением предположить, что мы сможем более или менее «довести дело до конца» в ускоренном темпе XXI века. МРНК-вакцины и аналогичные технологии уже указывают путь к «вакцинам от всего». Будут ли инфекционные заболевания полностью искоренены во всем мире (а не только в отдельных местах), зависит от решения проблем бедности и неравенства, которые обсуждаются в разделе 3.

 

- Искоренение большинства видов рака. Уровень смертности от рака снижается примерно на 2% в год в течение последних нескольких десятилетий; таким образом, при нынешних темпах развития науки мы находимся на пути к искоренению большинства видов рака в XXI веке. Некоторые подтипы уже в значительной степени излечимы (например, некоторые виды лейкоза с помощью CAR-T-терапии), и я, пожалуй, еще больше воодушевлен появлением очень селективных лекарств, которые воздействуют на рак на самой ранней стадии и предотвращают его рост. ИИ также сделает возможными схемы лечения, очень точно адаптированные к индивидуальному геному рака — сегодня это возможно, но требует огромных затрат времени и человеческих знаний, которые ИИ должен позволить нам масштабировать. Возможно снижение как смертности, так и заболеваемости на 95% и более. Тем не менее, рак чрезвычайно разнообразен и адаптивен и, вероятно, является самым сложным из этих заболеваний для полного уничтожения. Не было бы удивительно, если бы сохранился ряд редких, трудноизлечимых злокачественных новообразований.

 

- Очень эффективная профилактика и эффективное лечение генетических заболеваний. Значительно улучшенный скрининг эмбрионов, вероятно, позволит предотвратить большинство генетических заболеваний, а какой-то более безопасный и надежный наследник CRISPR может вылечить большинство генетических заболеваний у уже живущих людей. Однако заболевания всего организма, затрагивающие большую часть клеток, могут оказаться последними, которые не поддаются лечению.

 

- Профилактика болезни Альцгеймера. Нам было очень трудно выяснить, что вызывает болезнь Альцгеймера (это как-то связано с бета-амилоидным белком, но фактические детали, похоже, очень сложны). Похоже, это именно тот тип проблемы, который можно решить с помощью более совершенных инструментов измерения, изолирующих биологические эффекты; поэтому я оптимистично настроен относительно способности ИИ решить ее. Есть большая вероятность, что в конечном итоге болезнь можно будет предотвратить с помощью относительно простых мер, как только мы действительно поймем, что происходит. Тем не менее, повреждения, вызванные уже развившимся Альцгеймером, может быть очень сложно обратить вспять.

 

- Улучшение лечения большинства других заболеваний. Это общая категория для других заболеваний, включая диабет, ожирение, сердечно-сосудистые заболевания, аутоиммунные заболевания и многое другое. Большинство из них кажутся «легче» решаемыми, чем рак и болезнь Альцгеймера, и во многих случаях их распространенность уже резко снижается. Например, смертность от сердечно-сосудистых заболеваний уже снизилась более чем на 50%, а простые меры, такие как агонисты GLP-1, уже позволили добиться огромного прогресса в борьбе с ожирением и диабетом.

 

- Биологическая свобода. Последние 70 лет ознаменовались достижениями в области контрацепции, фертильности, контроля веса и многого другого. Но я подозреваю, что биология, ускоренная искусственным интеллектом, значительно расширит границы возможного: вес, внешний вид, репродуктивность и другие биологические процессы будут полностью под контролем людей. Мы будем называть это биологической свободой: идеей, что каждый должен иметь право выбирать, кем он хочет стать, и жить так, как ему больше всего нравится. Конечно, возникнут важные вопросы о глобальном равенстве доступа; см. раздел 3.

 

- Удвоение продолжительности жизни человека [18]. Это может показаться радикальным, но ожидаемая продолжительность жизни увеличилась почти в 2 раза в XX веке (с ~40 лет до ~75), так что вполне «в тренде», что «сжатый XXI век» удвоит ее снова до 150 лет. Очевидно, что меры, направленные на замедление самого процесса старения, будут отличаться от тех, которые были необходимы в прошлом веке для предотвращения преждевременной смертности (в основном детской) от болезней, но масштаб этих изменений не является беспрецедентным [19]. Конкретно, уже существуют препараты, которые увеличивают максимальную продолжительность жизни крыс на 25–50 % с ограниченными побочными эффектами. А некоторые животные (например, некоторые виды черепах) уже живут 200 лет, так что люди явно не достигли какого-то теоретического верхнего предела. По моим предположениям, самое важное, что может понадобиться, — это надежные биомаркеры старения человека, не подверженные эффекту Гудхарта, поскольку это позволит быстро проводить эксперименты и клинические испытания. Как только продолжительность жизни человека достигнет 150 лет, мы, возможно, сможем достичь «скорости ухода», выиграв достаточно времени, чтобы большинство из тех, кто живет сегодня, смогли прожить столько, сколько захотят, хотя, конечно, нет никакой гарантии, что это биологически возможно.

 

Стоит взглянуть на этот список и поразмыслить о том, насколько изменится мир, если все это будет реализовано через 7–12 лет (что соответствовало бы амбициозному графику развития ИИ). Само собой разумеется, что это стало бы невообразимым гуманитарным триумфом — единовременное избавление от большинства бедствий, преследовавших человечество на протяжении тысячелетий. Многие из моих друзей и коллег воспитывают детей, и когда эти дети вырастут, я надеюсь, что любое упоминание о болезни будет звучать для них так же, как для нас звучат слова «цинга», «оспа» или «бубонная чума». Это поколение также выиграет от расширения биологической свободы и самовыражения, а при удачном стечении обстоятельств, возможно, сможет жить столько, сколько захочет.

 

Трудно переоценить, насколько неожиданными будут эти изменения для всех, кроме небольшого сообщества людей, которые ожидали появления мощного ИИ. Например, тысячи экономистов и экспертов по вопросам политики в США в настоящее время обсуждают, как сохранить платежеспособность систем социального обеспечения и медицинского страхования, а в более широком плане — как сдержать рост затрат на здравоохранение (которые в основном несут люди старше 70 лет и особенно те, кто страдает неизлечимыми заболеваниями, такими как рак). Ситуация с этими программами, вероятно, радикально улучшится, если все это произойдет [20], поскольку соотношение населения трудоспособного возраста к пенсионерам резко изменится. Несомненно, эти проблемы будут заменены другими, такими как обеспечение широкого доступа к новым технологиям, но стоит задуматься о том, насколько изменится мир, даже если биология будет единственной областью, успешно ускоренной ИИ.

 

 

В предыдущем разделе я сосредоточился на физических заболеваниях и биологии в целом и не затронул нейробиологию или психическое здоровье. Но нейробиология является подразделом биологии, а психическое здоровье не менее важно, чем физическое. Более того, психическое здоровье влияет на благополучие человека даже более непосредственно, чем физическое. Сотни миллионов людей имеют очень низкое качество жизни из-за таких проблем, как зависимость, депрессия, шизофрения, аутизм с низким уровнем функционирования, посттравматическое стрессовое расстройство (ПТСР), психопатия [21] или интеллектуальные нарушения. Еще миллиарды людей борются с повседневными проблемами, которые часто можно интерпретировать как гораздо более легкие версии одного из этих серьезных клинических расстройств. И, как и в случае с общей биологией, возможно, можно выйти за рамки решения проблем и улучшить базовое качество человеческого опыта.

 

Основная концепция, которую я изложил для биологии, в равной степени применима к нейробиологии. Эта область развивается благодаря небольшому числу открытий, часто связанных с инструментами измерения или точного вмешательства — в приведенном выше списке оптогенетика была открытием в области нейробиологии, а в последнее время CLARITY и микроскопия расширения являются достижениями в том же духе, в дополнение ко многим методам общей клеточной биологии, напрямую переносимым в нейробиологию. Я полагаю, что темпы этих достижений будут аналогичным образом ускорены ИИ, и поэтому концепция «100 лет прогресса за 5–10 лет» применима к нейробиологии так же, как и к биологии, и по тем же причинам. Как и в биологии, прогресс в нейробиологии XX века был огромным — например, до 1950-х годов мы даже не понимали, как и почему возбуждаются нейроны. Таким образом, кажется разумным ожидать, что ускоренная ИИ нейробиология приведет к стремительному прогрессу в течение нескольких лет.

 

К этой общей картине следует добавить ещё один момент: некоторые из знаний, которые мы приобрели (или приобретаем) о самом ИИ за последние несколько лет, скорее всего, помогут продвинуть вперед нейробиологию, даже если заниматься ею по-прежнему будут только люди. Интерпретируемость — очевидный пример: хотя биологические нейроны на первый взгляд работают совершенно иначе, чем искусственные (они общаются посредством импульсов и часто — частоты импульсов, так что здесь присутствует временной элемент, отсутствующий в искусственных нейронах, а множество деталей, связанных с физиологией клеток и нейротрансмиттерами, существенно модифицирует их работу), основной вопрос о том, «как распределенные, обученные сети простых единиц, выполняющих комбинированные линейные/нелинейные операции, работают вместе для выполнения важных вычислений», остается тем же, и я сильно подозреваю, что детали коммуникации отдельных нейронов будут абстрагированы в большинстве интересных вопросов о вычислениях и схемах [22]. В качестве всего лишь одного примера этого вычислительный механизм, открытый исследователями интерпретируемости в системах ИИ, был недавно вновь обнаружен в мозгах мышей.

 

Проводить эксперименты на искусственных нейронных сетях гораздо проще, чем на реальных (последнее часто требует вскрытия мозга животных), поэтому интерпретируемость вполне может стать инструментом для улучшения нашего понимания нейробиологии. Более того, мощные ИИ, вероятно, сами смогут развивать и применять этот инструмент лучше, чем люди.

 

Однако помимо простой интерпретируемости то, что мы узнали от ИИ о том, как обучаются интеллектуальные системы, должно (хотя я не уверен, что это уже произошло) вызвать революцию в нейробиологии. Когда я работал в нейробиологии, многие люди сосредоточивались на том, что я сейчас считаю неправильными вопросами об обучении, потому что концепция гипотезы масштабирования / горького урока еще не существовала. Идея о том, что простая целевая функция плюс большой объем данных могут приводить к невероятно сложному поведению, делает более интересным понимание целевых функций и архитектурных смещений и менее интересным понимание деталей возникающих вычислений. В последние годы я не следил за этой областью внимательно, но у меня есть смутное ощущение, что нейроинформатики до сих пор не усвоили этот урок полностью. Мое отношение к гипотезе масштабирования всегда было таким: «Ага — это объяснение на высоком уровне того, как работает интеллект и как он так легко эволюционировал», но я не думаю, что это точка зрения среднестатистического нейробиолога, отчасти потому, что гипотеза масштабирования как «секрет интеллекта» не полностью принята даже в рамках ИИ.

 

Я считаю, что нейробиологи должны пытаться объединить это базовое понимание с особенностями человеческого мозга (биофизическими ограничениями, эволюционной историей, топологией, деталями моторных и сенсорных входов/выходов), чтобы попытаться разгадать некоторые ключевые загадки нейробиологии. Некоторые, вероятно, этим и занимаются, но я подозреваю, что этого пока недостаточно, и что нейробиологи, занимающиеся ИИ, смогут более эффективно использовать этот подход для ускорения прогресса.

 

Я ожидаю, что ИИ ускорит прогресс в нейробиологии по четырем различным направлениям, которые, как можно надеяться, смогут работать вместе для лечения психических заболеваний и улучшения функций:

 

- Традиционная молекулярная биология, химия и генетика. По сути, это та же история, что и общая биология, описанная в разделе 1, и ИИ, вероятно, сможет ускорить эти процессы с помощью тех же механизмов. Существует множество лекарственных препаратов, которые модулируют нейротрансмиттеры с целью изменения функций мозга, влияния на бдительность или восприятие, изменения настроения и т. д., и ИИ может помочь нам создать ещё больше таких препаратов. Вероятно, ИИ также сможет ускорить исследования генетических основ психических заболеваний.

 

- Точные нейронные измерения и вмешательство. Это способность измерять, что делают многие отдельные нейроны или нейронные цепи, и вмешиваться, чтобы изменить их поведение. Оптогенетика и нейронные зонды — это технологии, способные как измерять, так и вмешиваться в живые организмы, и был предложен ряд очень передовых методов (таких как молекулярные ленты для считывания паттернов активности большого количества отдельных нейронов), которые в принципе кажутся возможными.

 

- Передовая вычислительная нейробиология. Как отмечалось выше, как отдельные открытия, так и общая картина современного ИИ, вероятно, могут быть плодотворно применены к вопросам системной нейробиологии, в том числе, возможно, для выявления истинных причин и динамики сложных заболеваний, таких как психозы или расстройства настроения.

 

- Поведенческие вмешательства. Я не особо упоминал об этом, поскольку основное внимание уделял биологической стороне нейробиологии, но психиатрия и психология, конечно же, разработали широкий репертуар поведенческих вмешательств на протяжении XX века; вполне логично, что ИИ мог бы ускорить и их развитие, как разработку новых методов, так и помощь пациентам в соблюдении существующих методов. В более широком смысле идея «тренера с ИИ», который всегда помогает вам стать лучшей версией себя, изучает ваши взаимодействия и помогает вам научиться быть более эффективным, кажется очень многообещающей.

 

Я полагаю, что эти четыре направления прогресса, действуя совместно, — как и в случае с физическими заболеваниями — приведут к излечению или профилактике большинства психических заболеваний в течение следующих 100 лет, даже если искусственный интеллект не будет задействован, — и, следовательно, эта задача вполне может быть решена за 5–10 лет при помощи ИИ. Конкретно я предполагаю, что произойдет примерно следующее:

 

- Вероятно, большинство психических заболеваний можно вылечить. Я не являюсь экспертом в области психиатрии (в ходе своей работы в нейробиологии я занимался созданием датчиков для изучения небольших групп нейронов), но, по моему предположению, такие заболевания, как посттравматическое стрессовое расстройство, депрессия, шизофрения, зависимость и т. д., можно понять и очень эффективно лечить с помощью некоторого сочетания четырех вышеупомянутых подходов. Ответ, скорее всего, будет заключаться в некотором сочетании «что-то пошло не так на биохимическом уровне» (хотя это может быть очень сложно) и «что-то пошло не так с нейронной сетью на высоком уровне». То есть это вопрос системной нейробиологии — хотя это не отрицает влияния поведенческих вмешательств, обсуждавшихся выше. Инструменты для измерения и вмешательства, особенно в отношении живых людей, скорее всего, приведут к быстрой итерации и прогрессу.

 

- Случаи, носящие явно «структурный» характер, могут оказаться более сложными, но не безнадежными. Имеются данные, свидетельствующие о том, что психопатия связана с явными нейроанатомическими различиями — что у психопатов некоторые области мозга просто меньше по размеру или менее развиты. Также считается, что психопаты лишены эмпатии с раннего возраста; какими бы ни были особенности их мозга, вероятно, так было всегда. То же самое может быть верно в отношении некоторых форм умственной отсталости и, возможно, других состояний. Перестройка мозга звучит сложно, но это также кажется задачей, которая может принести большую пользу для развития интеллекта. Возможно, существует какой-то способ вернуть взрослый мозг в более раннее или более пластичное состояние, в котором его можно переформировать. Я не совсем уверен, насколько это возможно, но интуиция подсказывает мне, что стоит с оптимизмом смотреть на то, что искусственный интеллект может изобрести в этой области.

 

- Эффективная генетическая профилактика психических заболеваний представляется возможной. Большинство психических заболеваний частично наследуется, и исследования ассоциаций по всему геному начинают давать результаты в выявлении соответствующих факторов, которых зачастую бывает много. Вероятно, удастся предотвратить большинство этих заболеваний с помощью скрининга эмбрионов, аналогично тому, как это происходит с соматическими заболеваниями. Одно из отличий заключается в том, что психические заболевания чаще всего являются полигенными (в их развитии участвуют многие гены), поэтому из-за сложности существует повышенный риск неосознанно отсеять положительные черты, которые коррелируют с заболеванием. Однако, как ни странно, в последние годы исследования GWAS, похоже, указывают на то, что эти корреляции могли быть преувеличены. В любом случае, ускоренная искусственным интеллектом нейробиология может помочь нам разобраться в этих вопросах. Конечно, скрининг эмбрионов на наличие сложных признаков поднимает ряд социальных вопросов и будет вызывать споры, хотя я полагаю, что большинство людей поддержали бы скрининг на наличие тяжелых или инвалидизирующих психических заболеваний.

 

- Будут решены и повседневные проблемы, которые мы не считаем клиническими заболеваниями. У большинства из нас есть повседневные психологические проблемы, которые обычно не воспринимаются как достигающие уровня клинического заболевания. Некоторые люди быстро выходят из себя, у других возникают проблемы с концентрацией внимания или они часто испытывают сонливость, а кто-то страдает от страхов или тревоги либо плохо реагирует на изменения. Сегодня уже существуют препараты, помогающие, например, повысить бдительность или сосредоточенность (кофеин, модафинил, риталин), но, как и во многих других областях, вероятно, возможно гораздо больше. Вероятно, существует гораздо больше таких препаратов, которые еще не открыты, и могут появиться совершенно новые методы воздействия, такие как целевая световая стимуляция (см. оптогенетику выше) или магнитные поля. Учитывая, сколько препаратов, регулирующих когнитивные функции и эмоциональное состояние, мы разработали в XX веке, я с большим оптимизмом смотрю на «сжатый XXI век», когда каждый сможет заставить свой мозг работать немного лучше и получать большее удовлетворение от повседневной жизни.

 

- Базовый опыт человека может быть гораздо лучше. Если пойти ещё дальше, то многие люди испытывали необыкновенные моменты озарения, творческого вдохновения, сострадания, удовлетворения, превосходства, любви, красоты или медитативного покоя. Характер и частота этих переживаний значительно различаются от человека к человеку и у одного и того же человека в разное время, а иногда могут вызываться различными психоактивными веществами (хотя часто сопровождаются побочными эффектами). Все это говорит о том, что «пространство возможного опыта» очень широко и что значительная часть жизни людей могла бы состоять из этих необыкновенных моментов. Вероятно, также возможно улучшить различные когнитивные функции по всем направлениям. Это, возможно, нейробиологическая версия «биологической свободы» или «продления жизни».

 

Одна из тем, которая часто поднимается в научно-фантастических произведениях об ИИ, но которую я намеренно не затрагивал здесь, — это «загрузка сознания», то есть идея фиксации структуры и динамики человеческого мозга и их воплощения в программном обеспечении. Эта тема могла бы стать предметом отдельного эссе, но достаточно сказать, что, хотя я считаю, что загрузка в принципе почти наверняка возможна, на практике она сталкивается со значительными технологическими и социальными проблемами, даже при наличии мощного ИИ, что, вероятно, выводит ее за пределы обсуждаемого нами 5–10-летнего периода.

 

Подводя итог, можно сказать, что нейробиология, ускоренная ИИ, вероятно, значительно улучшит лечение или даже излечит большинство психических заболеваний, а также значительно расширит «когнитивную и психическую свободу» и когнитивные и эмоциональные способности человека. Это будет столь же радикальным, как и улучшения физического здоровья, описанные в предыдущем разделе. Возможно, с внешней стороны мир не будет заметно отличаться, но мир, как его воспринимают люди, станет гораздо лучшим и более гуманным местом, а также местом, предлагающим больше возможностей для самореализации. Я также подозреваю, что улучшение психического здоровья смягчит многие другие социальные проблемы, включая те, которые кажутся политическими или экономическими.

 

 

Два предыдущих раздела посвящены разработке новых технологий, позволяющих лечить болезни и улучшать качество жизни людей. Однако с гуманитарной точки зрения возникает очевидный вопрос: «Будет ли доступ к этим технологиям у всех?»

 

Одно дело — разработать лекарство от болезни, и совсем другое — искоренить эту болезнь в мире. В более широком смысле, многие существующие меры в области здравоохранения еще не применяются повсеместно во всем мире, и, кстати, то же самое верно в отношении технологических усовершенствований (не связанных со здравоохранением) в целом. Другими словами, уровень жизни во многих частях мира по-прежнему крайне низок: ВВП на душу населения составляет около 2 000 долларов в странах Африки к югу от Сахары по сравнению с примерно 75 000 долларов в Соединенных Штатах. Если ИИ будет способствовать дальнейшему экономическому росту и повышению качества жизни в развитых странах, при этом практически не помогая развивающимся странам, мы должны рассматривать это как ужасную моральную неудачу и пятно на подлинных гуманитарных победах, описанных в предыдущих двух разделах. В идеале мощный ИИ должен помочь развивающимся странам догнать развитые, даже если он при этом революционизирует последние.

 

Я не настолько уверен в том, что ИИ способен решить проблемы неравенства и экономического роста, насколько я уверен в его способности создавать фундаментальные технологии, поскольку в сфере технологий интеллект приносит столь очевидную высокую отдачу (в том числе благодаря способности обходить сложности и преодолевать недостаток данных), тогда как экономика сопряжена с множеством ограничений, налагаемых людьми, а также с большой долей внутренней сложности. Я несколько скептически отношусь к тому, что ИИ сможет решить знаменитую «проблему социалистического расчета» [23], и не думаю, что правительства передадут (или должны передать) свою экономическую политику такой системе, даже если она сможет это сделать. Есть также проблемы, такие как то, как убедить людей применять методы лечения, которые эффективны, но к которым они могут относиться с подозрением.

 

Проблемы, с которыми сталкиваются развивающиеся страны, еще более усложняются повсеместной коррупцией как в частном, так и в государственном секторах. Коррупция создает замкнутый круг: она усугубляет бедность, а бедность, в свою очередь, порождает еще больше коррупции. Планы экономического развития, основанные на ИИ, должны учитывать коррупцию, слабые институты и другие чисто человеческие проблемы.

 

Тем не менее, я вижу веские основания для оптимизма. Некоторые болезни были искоренены, а многие страны прошли путь от бедности к богатству, и очевидно, что решения, связанные с этими задачами, демонстрируют высокую отдачу от интеллектуальных усилий (несмотря на человеческие ограничения и сложность). Следовательно, ИИ, вероятно, сможет решать эти задачи лучше, чем это делается сейчас. Возможно, существуют и целенаправленные меры, позволяющие обойти человеческие ограничения, на которых ИИ мог бы сосредоточиться. Но что ещё важнее — мы должны попытаться. Как компании, занимающиеся ИИ, так и политики развитых стран должны будут внести свой вклад, чтобы развивающиеся страны не остались в стороне; моральный императив слишком велик. Поэтому в этом разделе я продолжу высказывать оптимистичные прогнозы, но при этом всегда буду помнить, что успех не гарантирован и зависит от наших коллективных усилий.

 

Ниже я выскажу некоторые предположения о том, как, по моему мнению, могут развиваться события в развивающихся странах в течение 5–10 лет после создания мощного ИИ:

 

- Распространение медицинских мер. Область, в которой я, пожалуй, испытываю наибольший оптимизм, — это распространение медицинских мер по всему миру. Некоторые болезни действительно были искоренены благодаря кампаниям, проводимым «сверху вниз»: оспа была полностью ликвидирована в 1970-х годах, а полиомиелит и гинея-червь практически искоренены — ежегодно регистрируется менее 100 случаев. Математически сложные эпидемиологические модели играют активную роль в кампаниях по искоренению болезней, и кажется весьма вероятным, что у систем ИИ, умнее человека, есть возможность справиться с этой задачей лучше, чем люди. Логистика распределения, вероятно, также может быть значительно оптимизирована. Одно из того, чему я научился как один из первых доноров GiveWell, — это то, что некоторые благотворительные организации в сфере здравоохранения гораздо эффективнее других; есть надежда, что усилия, ускоренные ИИ, будут еще более эффективными. Кроме того, некоторые биологические достижения фактически значительно упрощают логистику распределения: например, малярию было трудно искоренить, поскольку она требует лечения каждый раз, когда человек заражается; вакцина, которую нужно вводить только один раз, значительно упрощает логистику (и такие вакцины от малярии в настоящее время действительно разрабатываются). 

 

- Возможны и еще более простые механизмы распространения: некоторые болезни в принципе можно искоренить, воздействуя на животных-переносчиков, например, выпуская комаров, зараженных бактерией, которая блокирует их способность переносить болезнь (а те, в свою очередь, заражают всех остальных комаров), или просто используя генные приводы для уничтожения комаров. Для этого требуется одно или несколько централизованных действий, а не скоординированная кампания, в рамках которой необходимо индивидуально лечить миллионы людей. В целом, я считаю, что 5–10 лет — это разумный срок для того, чтобы значительная часть (возможно, 50 %) преимуществ для здоровья, обусловленных ИИ, распространилась даже на самые бедные страны мира. Хорошей целью для развивающихся стран через 5–10 лет после появления мощного ИИ могло бы стать то, чтобы они были по крайней мере существенно здоровее, чем развитые страны сегодня, даже если они и будут по-прежнему отставать от них. Достижение этой цели, конечно, потребует огромных усилий в области глобального здравоохранения, благотворительности, политической защиты интересов и многих других направлений, в которых должны помогать как разработчики ИИ, так и политики.

 

- Экономический рост. Смогут ли развивающиеся страны быстро догнать развитые не только в сфере здравоохранения, но и по всем экономическим показателям? Для этого есть прецедент: в последние десятилетия XX века несколько стран Восточной Азии достигли устойчивых темпов роста реального ВВП на уровне около 10 % в год, что позволило им догнать развитый мир. Экономические планировщики приняли решения, которые привели к этому успеху, не путем прямого контроля над всей экономикой, а путем использования нескольких ключевых рычагов (таких как промышленная политика роста, ориентированного на экспорт, и сопротивление искушению полагаться на богатство природных ресурсов); вполне вероятно, что «министры финансов и руководители центральных банков на базе ИИ» смогут повторить или превзойти этот 10-процентный результат. Важный вопрос заключается в том, как убедить правительства развивающихся стран принять эти меры, уважая при этом принцип самоопределения — одни могут отнестись к этому с энтузиазмом, а другие, скорее всего, будут настроены скептически. С оптимистичной точки зрения, многие из мер в области здравоохранения, упомянутых в предыдущем пункте, скорее всего, органично ускорят экономический рост: искоренение СПИДа, малярии и глистных инфекций окажет трансформирующее влияние на производительность труда, не говоря уже об экономических выгодах, которые некоторые меры в области нейробиологии (такие как улучшение настроения и концентрации внимания) принесут как в развитых, так и в развивающихся странах. Наконец, технологии, не связанные со здравоохранением, ускоренные ИИ (такие как энергетические технологии, транспортные дроны, улучшенные строительные материалы, более эффективная логистика и дистрибуция и т. д.), могут просто естественным образом проникнуть во все сферы жизни; например, даже мобильные телефоны быстро распространились в странах Африки к югу от Сахары благодаря рыночным механизмам, без необходимости благотворительных усилий. 

 

С другой стороны, несмотря на то что ИИ и автоматизация обладают множеством потенциальных преимуществ, они также создают проблемы для экономического развития, особенно для стран, которые ещё не прошли процесс индустриализации. Поиск путей, позволяющих этим странам продолжать развивать и укреплять свою экономику в эпоху растущей автоматизации, является важной задачей, которую предстоит решить экономистам и политикам. В целом, идеальным сценарием — и, возможно, целью, к которой следует стремиться, — был бы годовой рост ВВП в развивающихся странах на уровне 20%, причем по 10% приходилось бы на экономические решения, основанные на ИИ, и на естественное распространение технологий, ускоренных ИИ, включая, помимо прочего, здравоохранение. Если это удастся, то через 5–10 лет страны Африки к югу от Сахары достигнут текущего уровня ВВП на душу населения Китая, а большая часть остального развивающегося мира поднимется на уровень, превышающий текущий ВВП США. Опять же, это идеальный сценарий, а не то, что происходит по умолчанию: это то, над чем мы все должны работать вместе, чтобы сделать его более вероятным.

 

- Продовольственная безопасность [24]. Достижения в области агротехники, такие как более качественные удобрения и пестициды, расширение автоматизации и более эффективное использование земель, позволили в XX веке резко повысить урожайность сельскохозяйственных культур, спасая миллионы людей от голода. В настоящее время генная инженерия способствует дальнейшему улучшению многих сельскохозяйственных культур. Поиск новых способов достижения этой цели, а также повышение эффективности сельскохозяйственных цепочек поставок могут привести к новой «зеленой революции», основанной на ИИ, что поможет сократить разрыв между развивающимися и развитыми странами.

 

- Смягчение последствий изменения климата. Изменение климата будет ощущаться гораздо сильнее в развивающихся странах, сдерживая их развитие. Можно ожидать, что ИИ приведет к усовершенствованию технологий, замедляющих или предотвращающих изменение климата, от технологий удаления углерода из атмосферы и технологий чистой энергии до выращенного в лаборатории мяса, которое снижает нашу зависимость от углеродоемкого промышленного животноводства. Конечно, как обсуждалось выше, технологии — не единственное, что сдерживает прогресс в борьбе с изменением климата — как и во всех других вопросах, обсуждаемых в этой статье, важны социальные факторы. Но есть веские основания полагать, что исследования, усиленные ИИ, дадут нам средства сделать смягчение последствий изменения климата гораздо менее затратным и разрушительным, сделав многие возражения бессмысленными и освободив развивающиеся страны для достижения большего экономического прогресса.

 

- Неравенство внутри стран. Я в основном говорил о неравенстве как о глобальном явлении (которое, на мой взгляд, является его наиболее важным проявлением), но, конечно, неравенство существует и внутри стран. С появлением передовых медицинских технологий и, в особенности, благодаря радикальному увеличению продолжительности жизни или препаратам для улучшения когнитивных функций, несомненно возникнут обоснованные опасения, что эти технологии будут доступны «только для богатых». Я более оптимистично смотрю на неравенство внутри стран, особенно в развитом мире, по двум причинам. Во-первых, рынки в развитом мире функционируют лучше, а рынки, как правило, со временем хорошо снижают стоимость высокотехнологичных решений [25]. Во-вторых, политические институты развитого мира более чутко реагируют на запросы своих граждан и обладают большим государственным потенциалом для реализации программ всеобщего доступа — и я ожидаю, что граждане будут требовать доступа к технологиям, которые так радикально улучшают качество жизни. Конечно, не предрешено, что такие требования будут удовлетворены — и здесь мы все вместе должны сделать все возможное, чтобы обеспечить справедливое общество. Существует отдельная проблема неравенства в богатстве (в отличие от неравенства в доступе к технологиям, спасающим и улучшающим жизнь), которая кажется более сложной и которую я обсуждаю в разделе 5.

 

- Проблема отказа от технологий. Одной из проблем, актуальной как для развитых, так и для развивающихся стран, является отказ людей от преимуществ, предоставляемых искусственным интеллектом (по аналогии с движением противников вакцинации или, в более общем плане, с движением луддитов). В результате могут возникнуть порочные циклы обратной связи, когда, например, люди, которые менее всего способны принимать правильные решения, отказываются от тех самых технологий, которые улучшают их способности к принятию решений, что приводит к постоянно растущему разрыву и даже создает антиутопический низший класс (некоторые исследователи утверждают, что это подорвет демократию — эту тему я обсужу подробнее в следующем разделе). Это, опять же, наложит моральное пятно на положительные достижения ИИ. Это сложная проблема, поскольку я не считаю этически приемлемым принуждать людей, но мы можем, по крайней мере, попытаться повысить научную осведомленность людей — и, возможно, сам ИИ может нам в этом помочь. Один обнадеживающий признак заключается в том, что исторически антитехнологические движения были скорее громкими словами, чем реальными действиями: критиковать современные технологии популярно, но в конце концов большинство людей принимают их, по крайней мере, когда речь идет об индивидуальном выборе. Люди, как правило, принимают большинство технологий в сфере здравоохранения и потребительских товаров, в то время как технологии, которые действительно сталкиваются с препятствиями, такие как атомная энергетика, обычно являются предметом коллективных политических решений.

 

В целом я с оптимизмом смотрю на возможность скорейшего донесения достижений ИИ в области биологии до жителей развивающихся стран. Я надеюсь, хотя и не уверен, что ИИ также сможет обеспечить беспрецедентные темпы экономического роста и позволит развивающимся странам как минимум догнать уровень, на котором сейчас находятся развитые страны. Меня беспокоит проблема «отказа от участия» как в развитых, так и в развивающихся странах, но я подозреваю, что со временем она сойдет на нет и что ИИ сможет помочь ускорить этот процесс. Мир не станет идеальным, и те, кто отстает, не смогут полностью наверстать упущенное, по крайней мере в первые несколько лет. Но приложив значительные усилия, мы, возможно, сможем направить события в нужное русло — и сделать это быстро. Если нам это удастся, мы сможем хотя бы частично выполнить обещания о достоинстве и равенстве, которые мы обязаны каждому человеку на Земле.

 

 

Предположим, что в первых трёх разделах всё идёт хорошо: болезни, бедность и неравенство значительно сокращаются, а базовый уровень человеческого благосостояния существенно повышается. Из этого не следует, что все основные причины человеческих страданий устранены. Люди по-прежнему представляют угрозу друг для друга. Хотя и наблюдается тенденция к технологическому прогрессу и экономическому развитию, ведущая к демократии и миру, эта тенденция весьма неустойчива и сопровождается частыми (в том числе недавними) отступлениями. На заре XX века люди думали, что оставили войны в прошлом; затем последовали две мировые войны. Тридцать лет назад Фрэнсис Фукуяма писал о «конце истории» и окончательном триумфе либеральной демократии; этого пока не произошло. Двадцать лет назад американские политики полагали, что свободная торговля с Китаем приведет к его либерализации по мере обогащения; этого вовсе не произошло, и сейчас мы, похоже, движемся к второй холодной войне с возрождающимся авторитарным блоком. А правдоподобные теории предполагают, что интернет-технологии могут на самом деле сыграть на руку авторитаризму, а не демократии, как первоначально полагали (например, в период «арабской весны»). Важно попытаться понять, как мощный ИИ будет пересекаться с этими вопросами мира, демократии и свободы.

 

К сожалению, я не вижу веских оснований полагать, что ИИ будет преимущественно или системно способствовать развитию демократии и мира, так же как я считаю, что он системно будет способствовать улучшению здоровья людей и сокращению бедности. Человеческие конфликты носят противоборческий характер, и ИИ в принципе может помочь как «хорошим», так и «плохим». Скорее наоборот, некоторые структурные факторы вызывают беспокойство: ИИ, по всей видимости, позволит значительно улучшить пропаганду и слежку — два основных инструмента в арсенале автократов. Поэтому именно от нас, как отдельных участников, зависит, в каком направлении пойдут дела: если мы хотим, чтобы ИИ способствовал развитию демократии и защиты прав личности, нам придется бороться за этот результат. Я убежден в этом даже больше, чем в вопросе международного неравенства: триумф либеральной демократии и политической стабильности не гарантирован, возможно, даже маловероятен, и потребует от всех нас больших жертв и самоотдачи, как это часто бывало в прошлом.

 

Я считаю, что этот вопрос состоит из двух частей: международный конфликт и внутренняя структура государств. С международной точки зрения, мне кажется чрезвычайно важным, чтобы на мировой арене преобладали демократические страны к моменту появления мощного ИИ. Авторитаризм, опирающийся на ИИ, представляется слишком ужасным, чтобы даже думать об этом, поэтому демократические страны должны иметь возможность устанавливать условия, на которых мощный ИИ будет внедряться в мир, — как для того, чтобы не оказаться под властью авторитарных режимов, так и для предотвращения нарушений прав человека в авторитарных странах.

 

На данный момент я полагаю, что лучший способ добиться этого — применить «стратегию Антанты» [26], в рамках которой коалиция демократических государств стремится получить явное преимущество (пусть даже временное) в сфере мощного ИИ за счет обеспечения безопасности своей цепочки поставок, быстрого расширения масштабов деятельности, а также блокирования или задержки доступа противников к ключевым ресурсам, таким как микросхемы и оборудование для производства полупроводников. С одной стороны, эта коалиция будет использовать ИИ для достижения значительного военного превосходства (кнут), а с другой — предлагать распределение выгод от мощного ИИ (пряник) все более широкому кругу стран в обмен на поддержку стратегии коалиции по продвижению демократии (это будет чем-то напоминать программу «Атом для мира»). Коалиция будет стремиться заручиться поддержкой все большего числа стран мира, изолируя наших злейших противников и в конечном итоге ставя их в положение, когда им будет выгоднее принять те же условия, что и остальному миру: отказаться от конкуренции с демократиями, чтобы получить все выгоды и не воевать с превосходящим противником.

 

Если нам удастся все это осуществить, мы получим мир, в котором демократии будут играть ведущую роль на мировой арене и обладать достаточной экономической и военной мощью, чтобы не подвергаться подрывной деятельности, завоеванию или саботажу со стороны автократий, а также, возможно, смогут превратить свое превосходство в области ИИ в устойчивое преимущество. В оптимистичном сценарии это может привести к «вечному 1991 году» — миру, в котором демократии будут иметь преимущество, а мечты Фукуямы станут реальностью. Опять же, этого будет очень трудно достичь, и для этого, в частности, потребуется тесное сотрудничество между частными компаниями, занимающимися ИИ, и демократическими правительствами, а также чрезвычайно мудрые решения о балансе между «кнутом и пряником».

 

Даже если все пойдет хорошо, остается вопрос о борьбе между демократией и автократией внутри каждой страны. Очевидно, трудно предсказать, что здесь произойдет, но я испытываю некоторый оптимизм в отношении того, что в глобальной среде, где демократии контролируют самый мощный ИИ, ИИ может фактически структурно благоприятствовать демократии повсюду. В частности, в таких условиях демократические правительства смогут использовать свой передовой ИИ для победы в информационной войне: они смогут противостоять операциям автократий по оказанию влияния и пропаганде и, возможно, даже смогут создать глобально свободную информационную среду, предоставляя каналы информации и услуги ИИ таким образом, что у автократий не будет технической возможности их блокировать или контролировать. Вероятно, нет необходимости заниматься пропагандой, а лишь противостоять злонамеренным атакам и разблокировать свободный поток информации. 

 

Хотя это и не произойдет сразу, такие равные условия имеют все шансы постепенно склонить глобальное управление в сторону демократии по нескольким причинам.

 

Во-первых, повышение качества жизни, о котором говорится в разделах 1–3, при прочих равных условиях должно способствовать развитию демократии: исторически это действительно так было, по крайней мере в некоторой степени. В частности, я ожидаю, что улучшение психического здоровья, благополучия и образования будет способствовать укреплению демократии, поскольку все эти три фактора находятся в обратной корреляции с поддержкой авторитарных лидеров. В целом люди стремятся к большему самовыражению, когда их другие потребности удовлетворены, а демократия, помимо прочего, является одной из форм самовыражения. И наоборот, авторитаризм процветает на страхе и недовольстве.

 

Во-вторых, есть большая вероятность, что свободная информация действительно подрывает авторитаризм, при условии, что авторитарные режимы не могут её подвергнуть цензуре. А ИИ, не подвергающийся цензуре, также может предоставить людям мощные инструменты для подрыва репрессивных правительств. Репрессивные правительства выживают за счёт того, что лишают людей определённого рода общеизвестных фактов, не давая им осознать, что «король голый». Например, Срджа Попович, который помог свергнуть правительство Милошевича в Сербии, много писал о методах психологического лишения авторитарных лидеров их власти, о том, как развеять чары и мобилизовать поддержку против диктатора. Сверхчеловечески эффективная версия Поповича в виде ИИ (чьи навыки, похоже, приносят высокую отдачу от интеллекта), которая будет у каждого в кармане и которую диктаторы не смогут заблокировать или подвергнуть цензуре, может стать ветерком в спину диссидентам и реформаторам по всему миру. Повторим: это будет долгая и затяжная борьба, победа в которой не гарантирована, но если мы правильно спроектируем и создадим ИИ, это, по крайней мере, может быть борьба, в которой сторонники свободы повсюду будут иметь преимущество. 

 

Как и в нейробиологии и биологии, мы можем задаться вопросом, как сделать ситуацию «лучше, чем обычно» — не просто как избежать автократии, но и как сделать демократии лучше, чем они есть сегодня. Даже в демократических странах несправедливость встречается повсеместно. Общества, основанные на верховенстве закона, обещают своим гражданам, что все будут равны перед законом и что каждый имеет право на основные права человека, но, очевидно, на практике люди не всегда получают эти права. То, что это обещание выполняется хотя бы частично, — повод для гордости, но может ли ИИ помочь нам добиться большего?

 

Например, может ли ИИ улучшить нашу правовую и судебную систему, сделав принятие решений и процессы более беспристрастными? Сегодня в правовом или судебном контексте люди в основном опасаются, что системы ИИ станут причиной дискриминации, и эти опасения важны и требуют защиты. В то же время жизнеспособность демократии зависит от использования новых технологий для улучшения демократических институтов, а не только от реагирования на риски. По-настоящему зрелое и успешное внедрение ИИ может снизить предвзятость и стать более справедливым для всех.

 

На протяжении веков правовые системы сталкивались с дилеммой: закон стремится быть беспристрастным, но по своей сути субъективен и, следовательно, должен толковаться людьми, подверженными предвзятости. Попытки сделать закон полностью механическим не увенчались успехом, поскольку реальный мир хаотичен и не всегда поддается математическим формулам. Вместо этого правовые системы опираются на известные своей неточностью критерии, такие как «жестокое и необычное наказание» или «полностью лишенное социальной значимости», которые затем интерпретируются людьми — и зачастую с проявлением предвзятости, фаворитизма или произвола. «Умные контракты» в криптовалютах не произвели революцию в праве, потому что обычный код недостаточно умный, чтобы выносить решения по всем вопросам, представляющим интерес. Но ИИ может быть достаточно умным для этого: это первая технология, способная выносить широкие, нечеткие суждения повторяемым и механическим образом.

 

Я не предлагаю буквально заменить судей системами искусственного интеллекта, но сочетание беспристрастности со способностью понимать и обрабатывать сложные ситуации реального мира, как мне кажется, должно иметь серьезные положительные последствия для права и правосудия. По крайней мере, такие системы могли бы работать бок о бок с людьми, помогая в принятии решений. Прозрачность будет важна в любой такой системе, и зрелая наука об ИИ вполне может ее обеспечить: процесс обучения таких систем можно тщательно изучить, а передовые методы интерпретации можно использовать для того, чтобы заглянуть внутрь конечной модели и оценить ее на наличие скрытых предубеждений, что просто невозможно в случае с людьми. Такие инструменты ИИ также можно использовать для мониторинга нарушений основных прав в судебной или полицейской сфере, что сделает конституции более самоисполняемыми.

 

В том же духе ИИ можно использовать как для обобщения мнений, так и для достижения консенсуса среди граждан, разрешения конфликтов, поиска точек соприкосновения и компромиссов. Некоторые первые идеи в этом направлении были реализованы в рамках проекта «Вычислительная демократия», в том числе в сотрудничестве с компанией Anthropic. Более информированное и вдумчивое гражданское общество, безусловно, укрепит демократические институты.

 

Существует также явная возможность использования ИИ для оказания государственных услуг — таких как медицинские льготы или социальные услуги — которые в принципе доступны всем, но на практике часто серьезно недостаточны, а в некоторых местах ситуация еще хуже, чем в других. Сюда входят медицинские услуги, услуги ГИБДД, налоги, социальное обеспечение, контроль за соблюдением строительных норм и т. д. Наличие очень вдумчивого и информированного ИИ, чья задача — предоставить вам все, на что вы имеете законное право со стороны правительства, в понятной для вас форме, — и который также помогает вам соблюдать зачастую запутанные правительственные правила, — имело бы огромное значение. Увеличение возможностей государства помогает как выполнить обещание равенства перед законом, так и укрепить уважение к демократическому управлению. Неэффективно предоставляемые услуги в настоящее время являются одной из главных причин циничного отношения к правительству [27].

 

Все это довольно расплывчатые идеи, и, как я уже говорил в начале этого раздела, я далеко не так уверен в их осуществимости, как в достижениях в области биологии, нейробиологии и борьбы с бедностью. Возможно, они носят нереалистично утопический характер. Но главное — иметь амбициозное видение, быть готовым мечтать о большом и пробовать новое. Видение ИИ как гаранта свободы, индивидуальных прав и равенства перед законом — это слишком мощная идея, чтобы не бороться за нее. Политическая система XXI века, основанная на ИИ, могла бы стать как более сильным защитником индивидуальной свободы, так и маяком надежды, помогающим сделать либеральную демократию той формой правления, которую хочет принять весь мир.

 

 

Даже даже если всё, о чём говорилось в предыдущих четырёх разделах, пойдёт хорошо — то есть мы не только избавимся от болезней, бедности и неравенства, но и либеральная демократия станет доминирующей формой правления, а существующие либеральные демократии превратятся в свои лучшие версии, — останется по крайней мере один важный вопрос. «Замечательно, что мы живем в таком технологически продвинутом мире, а также в справедливом и достойном», — может возразить кто-то, — «но если ИИ будет делать все, какой смысл будет у жизни людей? И, кстати, как они будут выживать в экономическом плане?».

 

Мне кажется, этот вопрос сложнее остальных. Я не имею в виду, что отношусь к нему обязательно более пессимистично, чем к другим вопросам (хотя я действительно вижу здесь проблемы). Я имею в виду, что он более расплывчат и его сложнее предсказать заранее, поскольку он касается макроскопических вопросов организации общества, которые, как правило, решаются только со временем и децентрализованно. Например, исторические общества охотников-собирателей, возможно, считали бы, что жизнь бессмысленна без охоты и различных связанных с ней религиозных ритуалов, и полагали бы, что наше сытое технологическое общество лишено смысла. Они, возможно, также не поняли бы, как наша экономика может обеспечить всех, или какую полезную функцию люди могут выполнять в механизированном обществе.

 

Тем не менее, стоит сказать об этом хотя бы несколько слов, при этом имея в виду, что краткость этого раздела ни в коем случае не следует рассматривать как признак того, что я не отношусь к этим вопросам серьезно — напротив, это свидетельствует об отсутствии однозначных ответов.

 

Что касается вопроса о смысле, я считаю, что, скорее всего, ошибочно полагать, что задачи, которые вы выполняете, бессмысленны просто потому, что ИИ мог бы справиться с ними лучше. Большинство людей не являются лучшими в мире ни в чем, и это, похоже, не особо их беспокоит. Конечно, сегодня они все еще могут вносить свой вклад благодаря сравнительному преимуществу и, возможно, черпают смысл в создаваемой ими экономической ценности, но люди также получают огромное удовольствие от деятельности, не приносящей экономической выгоды.

 

Я провожу много времени за видеоиграми, плаванием, прогулками на свежем воздухе и общением с друзьями — и все это не приносит никакой экономической выгоды. Я могу целый день пытаться улучшить свои навыки в видеоигре или быстрее подняться на велосипеде в гору, и мне совершенно неважно, что где-то есть кто-то, кто делает это гораздо лучше. В любом случае, я считаю, что смысл жизни в основном заключается в человеческих отношениях и связях, а не в экономическом труде. Люди действительно хотят ощущения выполненного долга, даже духа соперничества, и в мире после появления ИИ вполне возможно будет годами пытаться решить какую-то очень сложную задачу с помощью комплексной стратегии, подобно тому, как люди поступают сегодня, когда берутся за исследовательские проекты, пытаются стать голливудскими актерами или открывают компании [28]. Тот факт, что (а) где-то ИИ в принципе мог бы выполнить эту задачу лучше, и (б) эта задача больше не является экономически вознаграждаемым элементом глобальной экономики, мне кажется, не имеет большого значения.

 

Мне кажется, что экономическая составляющая представляет собой более сложную проблему, чем составляющая, связанная со смыслом. Под «экономической» в данном разделе я подразумеваю возможную проблему, заключающуюся в том, что большинство или все люди могут оказаться неспособными внести значимый вклад в достаточно развитую экономику, управляемую ИИ. Это проблема более макроэкономического характера, чем отдельная проблема неравенства, особенно неравенства в доступе к новым технологиям, которую я рассмотрел в разделе 3.

 

Прежде всего, в краткосрочной перспективе я согласен с аргументами о том, что сравнительное преимущество будет и дальше обеспечивать людям востребованность и фактически повышать их производительность, а в некоторых случаях даже выравнивать условия между людьми. Пока ИИ превосходит человека лишь в 90% той или иной работы, остальные 10% приведут к тому, что люди станут высокоэффективными, что повысит их вознаграждение и фактически создаст множество новых рабочих мест для людей, дополняющих и усиливающих то, в чём силен ИИ, так что эти «10%» расширятся и позволят продолжать трудоустраивать почти всех. 

 

На самом деле, даже если ИИ сможет выполнять 100 % задач лучше, чем люди, но при этом останется неэффективным или дорогостоящим при решении некоторых задач, либо если затраты ресурсов на людей и ИИ будут существенно различаться, то логика сравнительных преимуществ по-прежнему будет действовать. Одной из областей, в которой люди, вероятно, сохранят относительное (или даже абсолютное) преимущество в течение значительного времени, является физический мир. Таким образом, я полагаю, что человеческая экономика может сохранять смысл даже немного после того, как мы достигнем «страны гениев в дата-центре».

 

Однако я действительно считаю, что в долгосрочной перспективе ИИ станет настолько широко эффективным и дешевым, что это больше не будет иметь значения. В этот момент наша нынешняя экономическая система перестанет иметь смысл, и возникнет необходимость в более широком общественном обсуждении того, как должна быть организована экономика.

 

Хотя это может показаться безумным, факт остается фактом: в прошлом цивилизация успешно преодолевала крупные экономические переломы — от охоты и собирательства к земледелию, от земледелия к феодализму, а от феодализма к индустриализму. Я подозреваю, что потребуется нечто новое и более необычное, и что сегодня никто еще не смог этого должным образом представить. Это может быть что-то простое, например, большой универсальный базовый доход для всех, хотя я подозреваю, что это будет лишь небольшой частью решения. Это может быть капиталистическая экономика систем искусственного интеллекта, которые затем будут распределять ресурсы (огромные объемы, поскольку общий экономический пирог будет гигантским) среди людей на основе некой вторичной экономики, определяемой тем, что, по мнению систем искусственного интеллекта, имеет смысл вознаграждать в людях (на основе суждений, в конечном счете вытекающих из человеческих ценностей). Возможно, экономика будет работать на базе баллов Whuffie (экономика основанная на репутации). 

 

Или, возможно, люди всё-таки сохранят свою экономическую ценность — пусть и каким-то образом, не предусмотренным обычными экономическими моделями. Все эти решения сопряжены с огромным количеством потенциальных проблем, и без многократных итераций и экспериментов невозможно понять, будут ли они иметь смысл. И, как и в случае с некоторыми другими вызовами, нам, вероятно, придётся бороться за благоприятный исход: очевидно, что возможны и эксплуататорские или дистопические сценарии, и их необходимо предотвратить. Об этих вопросах можно было бы написать гораздо больше, и я надеюсь сделать это позже.

 

 

Рассматривая вышеперечисленные разнообразные темы, я постарался наметить видение мира, который будет вполне возможен, если с ИИ всё пойдёт как надо, и который будет намного лучше сегодняшнего мира. Я не знаю, насколько этот мир реалистичен, и даже если он возможен, его не удастся построить без огромных усилий и упорной работы многих смелых и преданных своему делу людей. Каждому (включая компании, занимающиеся ИИ!) придётся внести свой вклад как в предотвращение рисков, так и в полную реализацию преимуществ.

 

Но это мир, за который стоит бороться. Если все это действительно произойдет в течение 5–10 лет — победа над большинством болезней, рост биологической и когнитивной свободы, вывод миллиардов людей из бедности, чтобы они могли воспользоваться новыми технологиями, возрождение либеральной демократии и прав человека — я подозреваю, что все, кто будет наблюдать за этим, будут удивлены тем, какое влияние это окажет на них. Я не имею в виду опыт личной выгоды от всех новых технологий, хотя это, безусловно, будет потрясающим. Я имею в виду опыт наблюдения за тем, как набор давно вынашиваемых идеалов материализуется перед нами сразу. Думаю, многих это буквально растрогает до слез.

 

В процессе написания этого эссе я заметил интересную противоречивость. С одной стороны, изложенная здесь концепция чрезвычайно радикальна: она не соответствует тому, чего почти все ожидают от следующего десятилетия, и многим, скорее всего, покажется абсурдной фантазией. Некоторые могут даже не считать его желательным; оно воплощает ценности и политические выборы, с которыми не все согласятся. Но в то же время в нем есть что-то ослепительно очевидное — нечто сверхдетерминированное, — как будто многие различные попытки представить себе хороший мир неизбежно приводят примерно к этому.

 

В романе Иэна М. Бэнкса «Игрок в игры» [29] главный герой — член общества под названием «Культура», основанного на принципах, не отличающихся от тех, что я изложил здесь, — отправляется в репрессивную, милитаристскую империю, в которой лидерство определяется конкуренцией в сложной боевой игре. Игра, однако, настолько сложна, что стратегия игрока в ней, как правило, отражает его собственные политические и философские взгляды. Главный герой умудряется победить императора в игре, показав, что его ценности (ценности «Культуры») представляют собой выигрышную стратегию даже в игре, разработанной обществом, основанным на безжалостной конкуренции и выживании сильнейшего. Известный пост Скотта Александра содержит ту же тезу — что конкуренция саморазрушительна и, как правило, ведет к обществу, основанному на сострадании и сотрудничестве. «Дуга моральной вселенной» — еще одно похожее понятие.

 

Я считаю, что ценности «Культуры» — это выигрышная стратегия, поскольку они представляют собой совокупность миллиона мелких решений, обладающих явной моральной силой и способных сплотить всех на одной стороне. С базовыми человеческими интуициями — такими как справедливость, сотрудничество, любознательность и самостоятельность — трудно поспорить, и они обладают кумулятивным эффектом, чего зачастую не скажешь о наших более деструктивных импульсах. Легко утверждать, что дети не должны умирать от болезней, если мы можем это предотвратить, и отсюда легко сделать вывод, что дети всех людей в равной степени заслуживают этого права. Отсюда нетрудно сделать вывод, что мы все должны объединиться и применить свой интеллект для достижения этого результата. Мало кто не согласится с тем, что люди должны нести наказание за необоснованные нападения на других или причинение им вреда, и отсюда недалеко до идеи, что наказания должны быть последовательными и систематическими по отношению ко всем людям. Столь же интуитивно понятно, что люди должны обладать автономией и нести ответственность за свою жизнь и выбор. Эти простые интуиции, если довести их до логического завершения, в конечном итоге приводят к верховенству закона, демократии и ценностям Просвещения. Если не неизбежно, то, по крайней мере, как статистическая тенденция, именно туда человечество и так уже направлялось. ИИ просто дает возможность добраться туда быстрее — сделать логику более четкой, а конечную цель более ясной.

 

Тем не менее, это явление обладает непревзойденной красотой. У нас есть возможность сыграть свою скромную роль в том, чтобы оно стало реальностью.

 

Благодарю Кевина Эсвельта, Парага Маллика, Стюарта Ричи, Мэтта Иглесиаса, Эрика Бринйольфссона, Джима Макклейва, Аллана Дафо и многих сотрудников компании Anthropic за рецензирование черновых вариантов этой статьи.

 

Победителям Нобелевской премии по химии 2024 года за то, что они показали нам путь.