Искусственный интеллект: этапы, угрозы, стратегии



"...Профессор Дональд Кнут, крупнейший специалист в области программирования и вычислительной математики, с удивлением заметил: «Искусственный интеллект, преуспев сегодня во всем, где требуется „разум“, неспособен на те действия, которые люди и животные совершают „бездумно“, — эта задача оказалась гораздо труднее!» 

Затруднения вызывала, например, разработка системы управления поведением роботов, а также такие их функции, как распознавание зрительных образов и анализ объектов при взаимодействии с окружающей средой. Тем не менее и сделано было немало, и продолжает поныне делаться, причем работа идет не только над развитием программного обеспечения — постоянно совершенствуются аппаратные средства..." 
 
Книга известного философа и трансгуманиста Ника Бострома открывает перед читателями мириады проблем и задач стоящих перед разработчиками ИИ, автором предложен ряд потенциальных подходов для решения для практически каждой из них. Ник Бостром наиболее известен по публикациям связанным с экзистенциальными рисками, то есть вызовами представляющими опасность для существования человечества. Создание искусственного разума один из подобных рисков. Универсальный ИИ уровня человека и выше, может оказаться как последним из изобретений человечества, так и новым этапом в развитии жизни и разума, перенеся их из хрупких биологических тел в относительно неуязвимые и постоянно совершенствуемые технические системы. 
 
Существует два основных подхода к разработки ИИ, первый основан на идеях бионики, то есть создание искусственного разума на основе идей и принципов подсмотренных у природы - копирование устройства и функций головного мозга и реализация их в "железе". Второй подход состоит в разработки ИИ с использованием математических моделей и алгоритмов без прямого копирования и компьютерной эмуляции головного мозга. Теоретически оба подхода на выходе могут дать работоспособный ИИ, но в первом случае работа несколько облегчается, т.к. у нас уже есть работоспособный естественный интеллект, развившийся в ходе сотен миллионов лет биологической эволюции, осталось "всего лишь" понять как он работает и запустить его программную эмуляцию на сверх мощном суперкомпьютере. Бостром приводит ряд технологий необходимых для реализации данной задачи: 
 
- Сканирование мозга с высоким разрешением для получения точной информации о расположении и работы каждого нейрона; 
 
- Сбор изображений и составление нейронной сети по полученным изображениям. Построение модели коннектома мозга посредством обработки полученных изображений и создания объемной модели головного мозга; 
 
- Запуск эмуляции полученной модели на суперкомпьютере; 
 
В настоящее время фактически уже существуют необходимые для эмуляции мозга технологии, учеными успешно создана работоспособная модель мозга червя-нематоды, количество эмулируемых нейронов в которой составило порядка нескольких сотен, а крупные научные коллаборации заняты проектом "Коннектом мозга человека", в ходе которого планируется построение максимально достоверной модели мозга вплоть до каждой синаптической связи, коих в человеческом мозге более одного триллиона. Соц.опросы проведенные среди специалистов по ИИ показали, что порядка 10% из них считают, что ИИ уровня человека удастся создать в 2020-х годах, наиболее пессимистичные прогнозы 90% опрошенных ученых указывают на достижение этой цели к 70-90-м годам 21 века. 
 
Но предположим что у нас получилось создать универсальный ИИ равный по своим возможностям человеческому, что-же произойдёт дальше? Будет ли ИИ слепо следовать указаниям человека, либо сам проявит инициативу и решит расширить свое влияние на человечество и планету им населяемому? Ник Бостром разбирает всевозможные дальнейшие варианты развития событий, чтобы понять что нам нужно будет сделать для сохранения своей власти над нашим будущим. Сформируется ли в ходе развития ИИ синглтон, с полной концентрацией власти в руках одного ИИ, либо появятся несколько конкурирующих проектов по созданию ИИ и им удастся достичь своих целей практически одновременно, тогда двум или более ИИ придётся сотрудничать друг с другом либо конкурировать за ресурсы и контроль над миром. Так как конечные цели ИИ нам скорее всего будут непонятны, а его возможности позволят обрести решающее стратегическое преимущество над человечеством, мы фактически окажемся в роли глупеньких животных в зоопарках, чья жизнь зависит только от воли человека. ИИ может как истребить нас, так и создать идеальные условия для жизни и саморазвития каждого человека на планете. Поэтому и потенциальная выгода от ИИ, как и потенциальный вред, довольно велики, но в любом случае человечество может и должно продолжать своё развитие, создавая как узкоспециализированные ИИ, например для вождения автомобиля или оказания медицинских услуг, так и универсальные ИИ, способные на решение любой задачи. 
 
Книга Ника Бострома позволяет максимально широко взглянуть на проблему создания ИИ и сопутствующих этому процессу трудностей, она будет полезна широкому кругу читателей, интересующимся новыми идеями и технологиями, способными радикально изменить наше будущее. Даже разработчики ИИ могут почерпнуть в ней новые знания и идеи, например книга примечательна своими советами по созданию дружелюбного и управляемого ИИ и математическими выкладками направленными на решение рассматриваемых проблем. 
 
Быть может исторический смысл существования любой биологической разумной жизни в создании новой парадигмы жизни, основанной на электрофизических эффектах, более стойкой и сложной нежели обычная биологическая жизнь, основанная на эффектах химических? И если нашему виду, как и прочим видам населяющим нашу планету, суждено погибнуть уступив экологическую нишу более прогрессивному и разумному виду жизни, то есть ли смысл в торможении научно технического прогресса, ради пары миллиардов дополнительных лет жизни биосферы нашей планеты? Ведь не создав искусственный интеллект, который потенциально способен нас погубить, мы в конечном итоге окажемся в проигрыше перед остальными экзистенциальными вызовами стоящим перед нами, и искусственный интеллект не самый страшный из них. Нашу цивилизацию в любой момент может погубить необнаруженный астероид диаметром в пару десятков километров, не оставив от человечества и следа. Если «сильному» ИИ по силам решить данную, и вообще любую теоретически разрешимую проблему, то самым глупым решением было бы перестать работать над его созданием. Может быть в нашей Вселенной есть, были или будут сотни и тысячи биосфер, виды которых так и не достигли разумного состояния и сгинули в небытие со своей миллиардолетней историей эволюционного развития, так и не положив начало новому витку прогресса — жизни искусственной. 
 
Так неужели биосфера нашей родной планеты также обречена на неудачу и вселенское забвение? Вероятно, что информация, в виде эмуляций и исторической хроники развития жизни на планете, сохраняется, только если одному из представителей её биологических видов удаётся разработать более совершенную искусственную жизнь, наделенную недюжинным интеллектом и поразительной живучестью, возможностями к постоянному самосовершенствованию, без какого либо естественно отбора, меняясь только лишь благодаря собственной воле и своим желаниям. Считаю, что даже в случае, на мой взгляд крайне маловероятном, тотального уничтожения человеческой цивилизации по воле «сильного» ИИ на это, сама жизнь, наша история не будут напрасны, ведь они послужат лишь краткой предысторией к новому, совершенному типу искусственной жизни, наделенной интеллектом благодаря человеческой воле. 
 

«Один человек не может доказать что бога не существует, но наука делает бога ненужным»

Стивен Хокинг

Файлы

Мастера иллюзий. Как идеи превращают нас в рабов

Маркс, Энгельс и Ленин о науке и технике

Религиозно-идеалистическая культурология: идейные тупики

Тюремные тетради