Турбулентная эра ИИ и ключевые решения, которые нам предстоит принять

За всю свою жизнь я поменял всего две основные работы. В первой я играл роль в разработке программного обеспечения, которое должно было расширить возможности каждого человека благодаря моей работе в Microsoft. Во второй я сосредоточился на глобальном здравоохранении и развитии в рамках работы нашего благотворительного фонда. Однако сегодня я вижу, что мы вступаем в совершенно новую эпоху, масштаб изменений в которой превосходит всё, с чем человечество сталкивалось ранее.

Турбулентная эра искусственного интеллекта уже наступила. Выбор, который мы сделаем прямо сейчас, имеет решающее и критическое значение для будущего цивилизации. Нам необходим чёткий и осмысленный план, который гарантирует, что положительные стороны технологии перевесят её разрушительные последствия.

Когда мы размышляем о социальной справедливости и будущем человечества, искусственный интеллект предстает в двойственном свете: он станет либо величайшим уравнителем социальных возможностей и доступа к ресурсам за всю историю, либо самым жестоким и разрушительным источником неравенства. Масштаб этой задачи невероятно велик. Переход к эпохе генеративного и автономного ИИ станет одним из самых турбулентных, сложных и непредсказуемых периодов в истории — даже при реализации наиболее благоприятных и оптимистичных сценариев.

«Если бы у кого-то был убедительный и реалистичный план по замедлению развития ИИ в глобальном масштабе, я, скорее всего, поддержал бы его. Однако я не верю, что это произойдет. Геополитические и экономические стимулы слишком сильны, чтобы двигаться вперед на полной скорости. Подготовка к последствиям ИИ должна стать приоритетом номер один. Если мир сделает правильные шаги, ИИ станет грандиозной силой во благо. К сожалению, прямо сейчас мы абсолютно не готовы к этому переходу.»

Я не вижу свидетельств того, что мировые лидеры, отраслевые эксперты, законодатели и общество осознают весь масштаб надвигающихся вызовов. У нас нет чёткого плана, как смягчить вхождение общества в эпоху ИИ. Каждому из нас хотелось бы быстро получать все преимущества и при этом как можно дольше откладывать возникающие проблемы, однако специфика ИИ заключается в том, что его колоссальные выгоды и серьёзнейшие угрозы возникают одновременно.

РАЗДЕЛ 1. Почему революция ИИ принципиально отличается от всех прошлых технологических сдвигов

Ещё относительно недавно фундаментальные модели ИИ испытывали затруднения при решении базовых логических головоломок, таких как судоку, или при подсчете количества конкретных букв в простых словах. Однако сегодня ИИ невероятно способен и продолжает совершенствоваться с головокружительной скоростью. Искусственный интеллект кардинально отличается от прежних масштабных технологических волн — таких как промышленная революция, появление ПК или распространение интернета — по трем ключевым причинам:

1. Мгновенный и глобальный охват инфраструктуры

Во время предыдущих промышленных революций для внедрения новых технологий требовались десятилетия: необходимо было строить фабрики, прокладывать железные дороги, электросети, создавать физические линии связи и производственные цеха. В отличие от этого, развертывание систем ИИ происходит на уже готовой глобальной инфраструктуре — миллиардах смартфонов, персональных компьютеров, серверов и облачных дата-центров. Новые модели распространяются по всему миру за считанные секунды и не требуют ожидания обновления материальной базы.

2. Естественный человеческий интерфейс взаимодействия

Ранее для работы с вычислительной техникой людям приходилось учить языки программирования, осваивать сложные интерфейсы и подстраивать свой стиль мышления под жесткую логику компьютера. ИИ полностью перевернул эту парадигму: он использует естественный человеческий язык. Человеку больше не нужно подстраиваться под технологию — технология сама подстраивается под человека. ИИ может посмотреть то же обучающее видео, что и сотрудник, и научиться выполнять задачу на основе существующих данных.

3. Непосредственное замещение и превышение человеческого интеллекта

Все предыдущие волны автоматизации в первую очередь заменяли или усиливали физическую силу человека или рутинные математические расчеты. При этом создававшиеся новые рабочие места все равно требовали человеческого мышления. ИИ впервые в истории напрямую замещает, дополняет и в ряде аспектов превосходит само человеческое когнитивное мышление: способность к анализу, синтезу информации, творчеству, принятию решений и логическим рассуждениям.

В результате этих факторов трансформация ключевых отраслей экономики произойдет не за смену нескольких поколений, а на протяжении одного единственного десятилетия, что создает беспрецедентное давление на социальные и государственные институты.

РАЗДЕЛ 2. Три ключевых риска эпохи искусственного интеллекта

Риск 1. Массовая структурная безработица и уничтожение начального звена карьеры

Первой очевидной угрозой является то, что многие рабочие места исчезнут навсегда. Автоматизация когнитивных задач начнется с секторов, где работа связана с обработкой текстов, стандартными операциями и анализом данных. Первыми под масштабное сокращение попадут сферы продаж, клиентской поддержки (онлайн-чаты и колл-центры), базовое программирование, юридическая рутина (параюристы) и административный учет.

Однако по мере развития автономных ИИ-агентов трансформация затронет высококвалифицированные профессии: банковский скоринг, финансовый анализ, медицинскую диагностику, логистику и корпоративное управление.

В 1933 году, во время Великой депрессии, безработица в США достигала примерно 25% и оставалась двузначной на протяжении десятилетия, пока экономика не восстановилась за счет роста спроса и новых инвестиций. ИИ может и не привести к такому уровню одномоментной безработицы, но его воздействие не уйдет вместе с обычным экономическим циклом. Это структурный сдвиг.

— Исчезновение "точек входа" в профессии: Меня особенно беспокоит уничтожение начального звена карьеры (entry-level jobs). Если ИИ выполняет большинство рутинных задач, которые традиционно поручались младшим сотрудникам, как стажёры и новички смогут получить опыт, необходимый для того, чтобы стать высококлассными специалистами и руководителями?

— Рыночные силы и неизбежность внедрения: Внедрение ускоряется рыночными силами. Как только один из конкурентов снижает издержки за счет ИИ и автоматизации, остальные компании отрасли сталкиваются с жестким выбором: либо внедрять ИИ, либо обанкротиться.

— Больше чем просто зарплата: Ошибочно сводить работу исключительно к чеку на оплату труда. Работа обеспечивает человеку идентичность, социальные связи, цель и чувство личного вклада в общество. Мы не можем просто отмахнуться от этого как от неэффективного пережитка прошлой экономики и сказать уволенным людям "просто идите учиться новому".

— Концентрация капитала: При отсутствии специальной политики колоссальные доходы от роста производительности сконцентрируются у узкой группы владельцев технологий и капитала, что разрушит налоговую базу государств, построенную на налогах с фонда оплаты труда.

Риск 2. ИИ как масштабируемый усилитель угроз и вреда

Искусственный интеллект предоставляет отдельным злоумышленникам, преступным группировкам и даже автономным агентам возможности причинять вред в масштабах, ранее доступных только мощным государствам:

— Кибератаки на критическую инфраструктуру: Модели ИИ, обученные находить уязвимости в программном коде для их устранения, с таким же успехом могут быть использованы хакерами для создания невидимых кибератак. Под угрозой находятся системы жизнеобеспечения городов, финансовые институты, электросети, водоснабжение и больницы.

— Биологические угрозы и биотерроризм: ИИ-платформы для проектирования лекарственных препаратов значительно ускоряют медицину, но одновременно снижают порог знаний и ресурсов для конструирования новых опасных биологических агентов и искусственных патогенов.

— Дипфейки и подрыв доверия: Порог ресурсов для проведения масштабных кампаний по дезинформации, финансовому мошенничеству и подрыву доверия к демократическим институтам снижается практически до нуля.

Риск 3. Деградация человеческого капитала, эмоциональная изоляция и риски для детей

Третий комплекс проблем лежит в социальной и психологической плоскостях:

Применение ИИ в образовании несёт в себе риск «когнитивной разгрузки» (cognitive offloading). Если школьники и студенты с раннего возраста перепоручают написание эссе, решение задач и аналитическую работу алгоритмам, у них перестают формироваться базовые навыки критического мышления, способность к глубокой концентрации и самостоятельным выводам.

Второй фактор — появление гипериндивидуализированных ИИ-компаньонов, имитирующих эмпатию. Замена реальных человеческих отношений безупречными, всегда соглашающимися цифровыми собеседниками может привести к массовой социальной изоляции, снижению устойчивости к стрессу и деформации институтов семьи и дружбы.

РАЗДЕЛ 3. Стратегический план действий: Ключевые решения и управление переходом

Пытаться просто остановить прогресс ИИ нереалистично из-за жесткой геополитической и экономической конкуренции. Ответственный подход заключается в подготовке к множеству сценариев развития и формировании четких границ использования технологии.

1. Реорганизация государственного управления и международный контроль

Масштаб необходимой институциональной перестройки государств превосходит реорганизацию органов национальной безопасности США после терактов 11 сентября 2001 года. Если события 2001 года затрагивали узкие сферы разведки и обороны, то ИИ одновременно меняет экономику, рынок труда, налогообложение, образование, здравоохранение, выборы и правопорядок.

Нам необходим новый международный орган управления ИИ. В мире существует инспекционный режим для ядерного оружия, регулирование международной авиации и соглашения по защите озонового слоя. Новая глобальная организация по ИИ должна включить элементы всех трех систем.

2. Концепция «Human Reserved» и «Человеко-центричный труд»

Вместо того чтобы постоянно задаваться вопросом "Что ещё может автоматизировать новая модель?", общество должно серьезно рассмотреть возможность закрепления определенной ответственности исключительно за людьми (Human Reserved):

— ИИ делает анализ — человек принимает решение: ИИ может подготовить глубокую аналитику или порекомендовать действие, но человек должен нести полную ответственность за судьбоносные решения.

— Сохранение человечности в критических сферах: Приведем пример из медицины или ухода за пожилыми людьми. ИИ-система может быть технически безупречна при сообщении смертельного диагноза или уходе за больным. Но нет никакой технической причины, почему это должна делать машина. Когда мой отец тяжело болел, в уходе, который ему оказывали, было что-то незаменимо человеческое. Ни один робот не мог и не должен был этого делать. Ни один человек не должен узнавать о неизлечимой болезни от сухого алгоритма без участия другого человека.

— Учет культурных особенностей: Границы этой концепции могут разниться в зависимости от общества. Например, Япония с её сокращающимся населением и нехваткой молодежи может с радостью принять роботов-сиделок для ухода за пожилыми, в то время как другие культуры предпочтут оставить эти роли людям.

Целью труда должна стать не полностью человеческая работа, а человеко-центричная работа, где ИИ расширяет возможности учителя, врача или социальным работника, но человек остается ответственным за человека.

3. Переосмысление экономики, переобучение и налоговая политика

Нам нужны агрессивные инвестиции в грамотность в сфере ИИ, непрерывное обучение и развитие навыков на протяжении всей жизни. Мы должны пересмотреть налоговые системы. Возможно, налогообложение капитала и автоматизации станет не самым идеальным с точки зрения классической экономической эффективности, но нам придется смириться с небольшой неэффективностью как с платой за сохранение занятости и социальной стабильности людей.

4. Равный доступ и преодоление глобального неравенства

Если ИИ останется достоянием только богатых стран и крупных корпораций, это приведет к невиданному в истории уровню глобального расслоения. Мы должны гарантировать, что созидательные возможности ИИ в медицине, сельском хозяйстве и образовании будут доступны развивающимся странам с первого дня.

«Главный вопрос нашей эпохи заключается не в том, насколько умными и автономными станут машины в ближайшие годы. Главный вопрос состоит в том, какое общество мы сможем построить с их помощью, сохраним ли мы свою человечность и сможем ли защитить тех, кто наиболее уязвим перед лицом перемен»