Искусственный интеллект: этапы, угрозы, стратегии



"...Профессор Дональд Кнут, крупнейший специалист в области программирования и вычислительной математики, с удивлением заметил: «Искусственный интеллект, преуспев сегодня во всем, где требуется „разум“, неспособен на те действия, которые люди и животные совершают „бездумно“, — эта задача оказалась гораздо труднее!» 

Затруднения вызывала, например, разработка системы управления поведением роботов, а также такие их функции, как распознавание зрительных образов и анализ объектов при взаимодействии с окружающей средой. Тем не менее и сделано было немало, и продолжает поныне делаться, причем работа идет не только над развитием программного обеспечения — постоянно совершенствуются аппаратные средства..." 
 
Книга известного философа и трансгуманиста Ника Бострома открывает перед читателями мириады проблем и задач стоящих перед разработчиками ИИ, автором предложен ряд потенциальных подходов для решения для практически каждой из них. Ник Бостром наиболее известен по публикациям связанным с экзистенциальными рисками, то есть вызовами представляющими опасность для существования человечества. Создание искусственного разума один из подобных рисков. Универсальный ИИ уровня человека и выше, может оказаться как последним из изобретений человечества, так и новым этапом в развитии жизни и разума, перенеся их из хрупких биологических тел в относительно неуязвимые и постоянно совершенствуемые технические системы. 
 
Существует два основных подхода к разработки ИИ, первый основан на идеях бионики, то есть создание искусственного разума на основе идей и принципов подсмотренных у природы - копирование устройства и функций головного мозга и реализация их в "железе". Второй подход состоит в разработки ИИ с использованием математических моделей и алгоритмов без прямого копирования и компьютерной эмуляции головного мозга. Теоретически оба подхода на выходе могут дать работоспособный ИИ, но в первом случае работа несколько облегчается, т.к. у нас уже есть работоспособный естественный интеллект, развившийся в ходе сотен миллионов лет биологической эволюции, осталось "всего лишь" понять как он работает и запустить его программную эмуляцию на сверх мощном суперкомпьютере. Бостром приводит ряд технологий необходимых для реализации данной задачи: 
 
- Сканирование мозга с высоким разрешением для получения точной информации о расположении и работы каждого нейрона; 
 
- Сбор изображений и составление нейронной сети по полученным изображениям. Построение модели коннектома мозга посредством обработки полученных изображений и создания объемной модели головного мозга; 
 
- Запуск эмуляции полученной модели на суперкомпьютере; 
 
В настоящее время фактически уже существуют необходимые для эмуляции мозга технологии, учеными успешно создана работоспособная модель мозга червя-нематоды, количество эмулируемых нейронов в которой составило порядка нескольких сотен, а крупные научные коллаборации заняты проектом "Коннектом мозга человека", в ходе которого планируется построение максимально достоверной модели мозга вплоть до каждой синаптической связи, коих в человеческом мозге более одного триллиона. Соц.опросы проведенные среди специалистов по ИИ показали, что порядка 10% из них считают, что ИИ уровня человека удастся создать в 2020-х годах, наиболее пессимистичные прогнозы 90% опрошенных ученых указывают на достижение этой цели к 70-90-м годам 21 века. 
 
Но предположим что у нас получилось создать универсальный ИИ равный по своим возможностям человеческому, что-же произойдёт дальше? Будет ли ИИ слепо следовать указаниям человека, либо сам проявит инициативу и решит расширить свое влияние на человечество и планету им населяемому? Ник Бостром разбирает всевозможные дальнейшие варианты развития событий, чтобы понять что нам нужно будет сделать для сохранения своей власти над нашим будущим. Сформируется ли в ходе развития ИИ синглтон, с полной концентрацией власти в руках одного ИИ, либо появятся несколько конкурирующих проектов по созданию ИИ и им удастся достичь своих целей практически одновременно, тогда двум или более ИИ придётся сотрудничать друг с другом либо конкурировать за ресурсы и контроль над миром. Так как конечные цели ИИ нам скорее всего будут непонятны, а его возможности позволят обрести решающее стратегическое преимущество над человечеством, мы фактически окажемся в роли глупеньких животных в зоопарках, чья жизнь зависит только от воли человека. ИИ может как истребить нас, так и создать идеальные условия для жизни и саморазвития каждого человека на планете. Поэтому и потенциальная выгода от ИИ, как и потенциальный вред, довольно велики, но в любом случае человечество может и должно продолжать своё развитие, создавая как узкоспециализированные ИИ, например для вождения автомобиля или оказания медицинских услуг, так и универсальные ИИ, способные на решение любой задачи. 
 
Книга Ника Бострома позволяет максимально широко взглянуть на проблему создания ИИ и сопутствующих этому процессу трудностей, она будет полезна широкому кругу читателей, интересующимся новыми идеями и технологиями, способными радикально изменить наше будущее. Даже разработчики ИИ могут почерпнуть в ней новые знания и идеи, например книга примечательна своими советами по созданию дружелюбного и управляемого ИИ и математическими выкладками направленными на решение рассматриваемых проблем. 
 
Быть может исторический смысл существования любой биологической разумной жизни в создании новой парадигмы жизни, основанной на электрофизических эффектах, более стойкой и сложной нежели обычная биологическая жизнь, основанная на эффектах химических? И если нашему виду, как и прочим видам населяющим нашу планету, суждено погибнуть уступив экологическую нишу более прогрессивному и разумному виду жизни, то есть ли смысл в торможении научно технического прогресса, ради пары миллиардов дополнительных лет жизни биосферы нашей планеты? Ведь не создав искусственный интеллект, который потенциально способен нас погубить, мы в конечном итоге окажемся в проигрыше перед остальными экзистенциальными вызовами стоящим перед нами, и искусственный интеллект не самый страшный из них. Нашу цивилизацию в любой момент может погубить необнаруженный астероид диаметром в пару десятков километров, не оставив от человечества и следа. Если «сильному» ИИ по силам решить данную, и вообще любую теоретически разрешимую проблему, то самым глупым решением было бы перестать работать над его созданием. Может быть в нашей Вселенной есть, были или будут сотни и тысячи биосфер, виды которых так и не достигли разумного состояния и сгинули в небытие со своей миллиардолетней историей эволюционного развития, так и не положив начало новому витку прогресса — жизни искусственной. 
 
Так неужели биосфера нашей родной планеты также обречена на неудачу и вселенское забвение? Вероятно, что информация, в виде эмуляций и исторической хроники развития жизни на планете, сохраняется, только если одному из представителей её биологических видов удаётся разработать более совершенную искусственную жизнь, наделенную недюжинным интеллектом и поразительной живучестью, возможностями к постоянному самосовершенствованию, без какого либо естественно отбора, меняясь только лишь благодаря собственной воле и своим желаниям. Считаю, что даже в случае, на мой взгляд крайне маловероятном, тотального уничтожения человеческой цивилизации по воле «сильного» ИИ на это, сама жизнь, наша история не будут напрасны, ведь они послужат лишь краткой предысторией к новому, совершенному типу искусственной жизни, наделенной интеллектом благодаря человеческой воле. 
 

«По мере того, как наука идет вперед, бог отступает»

Сен-санс К.

Файлы

Нил Стивенсон "Анафем"

Футурология 21 век: Бессмертие или глобальная катастрофа?

Шок будущего

Черты будущего