Человек и робот
Сто лет назад началась полоса политических революций. Теперь грядут революции технические. Одна из них назрела в робототехнике. Успехи здесь следуют один за другим. Роботы давно помогают нам на производстве; они способны вести наше домашнее хозяйство, выслушивать наши пожелания. Мы все больше привязываемся к ним, любим и уважаем их. Вероятно, уже в обозримом будущем нам не удастся отличить некоторых роботов от людей ни по их действиям, ни по их замыслам, ни по их внешнему виду. Дух времени таков, что очевидна потребность в появлении социальных роботов. Недаром «властитель нынешних дум», основатель фейсбука Марк Цукерберг как-то шутливо обмолвился, что намерен создать себе электронного друга.
Изначально роботы были нашими рабами. Ни для кого не секрет, что придумал слово «робот» великий чешский писатель Карел Чапек. Гораздо менее известно, что чешское слово «robota» означает подневольный труд. Однако рабы, которыми замышляли сотворить роботов, тем и отличаются от холопов, что готовы восставать против поработителей. Пока же понемногу «очеловечиваются» даже те «рабочие лошадки», от которых благородства черт и не ждали. Имеются в виду заводские роботы — все эти механические руки, мощные железяки на шарнирах, готовые вцепиться в любую деталь. В большинстве своем они по- прежнему тщательно огорожены (словно заключены в клетки), чтобы не нанести вреда людям. Но появляются и первые модели, готовые сотрудничать с человеком. Они стоят у конвейера рядом с рабочими, реагируют на их жесты и мигом замирают (отключаются), если кто-то окажется в опасной близости от них.
В производственных цехах компании «Тесла», занятой выпуском электромобилей, вовсе не встретишь сварщиков, механиков, рабочих на конвейере. Их заменили механические руки роботов. Изготовленные словно без участия человека, машины обойдутся без него и в пути. Ведь речь идет о самоуправляемых машинах. Все больше роботов появляется в быту. Этому есть простые объяснения. Возможности искусственного интеллекта необычайно расширились. Стоимость роботов стремительно снижается. Например, несколько лет назад важнейшие сенсоры движения стоили 5000 долларов, сейчас — менее ста. В не столь уж далеком будущем роботы появятся везде, как сегодня — компьютеры.
Еще сегодня роботы, в том числе бытовые, кажутся многим забавной игрушкой, без которой вполне можно обойтись. Точно так же, в конце 1990-х годов, многие удивленно отказывались покупать мобильный телефон, поскольку почти у каждого ведь имелся дома громоздкий телефонный аппарат. Прошло несколько лет, и число покупок стало расти, как снежный ком, летящий с горы. Сегодня же, стоит выйти на улицу без мобильника, испытываешь растерянность, будто вышел прогуляться в пиджаке, под который забыл надеть рубашку. Возможно, вскоре роботы обретут те качества, за которые каждому — непременно! — захочется их купить. Они проникнут во все сферы жизни. Играючи справятся со всем, что недавно было доступно лишь человеку, слыло его «божественной способностью». Все то сложное умение работать, что отличало человека от животного (идет ли речь о физическом труде или умственном), будет доступно роботам. Мы окажемся превзойдены ими и посрамлены. Что же уникального останется в человеке, если роботы будут даже думать, как он?
Японский робот Пеппер всегда готов преданно смотреть в глаза своему хозяину
Сила давно на стороне этих металлических громил. Ум, интеллект перетекает на их сторону, как от одной армии к другой перебегают изменнические полки. Вся сокровищница знаний, собранная многими поколениями людей, теперь в полном распоряжении роботов, и они пользуются этими богатствами гораздо лучше нас, чей бедный мозг вмещает только крупицы знаний, а не все сразу. Нам остается лишь чувствовать это и рефлексировать. Здесь нам соперников нет. Роботы стерильны от чувств. Роботы лишь жонглируют гигабайтами информации, в одну секунду находя в ста тысячах томов единственное нужное слово. Они читают все тексты мира, заключенные в электронный формат. Переводят (хоть и путаным слогом, сбивчивым от наших двусмысленностей и омонимов) со всех языков человечества — от абхазского до японского. Даже их зрительная память — в отличие от нашей — близка к идеальной: они легко распознают лица людей, пусть те постоянно волнуемы мимикой.
На графиках «уровень интеллекта роботов» — это прямая линия, настойчиво стремящаяся вверх от десятилетия к десятилетию. Линия же, соответствующая интеллекту человека, однообразно тянется параллельно оси времени, если не загибается к ней. Это наводит на грустные размышления, прежде всего, о том, что, рано или поздно, могучий коллективный ум роботов нам не удастся удержать под своим контролем. Что противопоставим мы ему? Среди футурологов давно ощутимо недовольство грядущим засильем роботов — этих расчетливых машин, которые вначале отберут у нас «избушки лубяные», наши ежедневные пристанища — рабочие места, а когда-нибудь и сживут нас со света. Мы станем для них «проблемой», которую они решат, как решали ее Терминатор, разумные машины из «Матрицы» или робот HAL-9000 — герой фильма Стэнли Кубрика (и написанного по его мотивам одноименного романа Артура Кларка) «2001: Космическая одиссея», — решивший истребить спящих астронавтов.
Уловив лишь тенденцию, физик Стивен Хокинг и бизнесмен, вдохновитель крупных технических проектов, владелец компании «Тесла» Илон Маск уже предупреждают нас о грядущем засилье умных машин, о невыносимой тяжести бытия под игом роботов. Начиналось же все с надежды. К середине ХХ века, к окончанию Второй мировой войны, люди изверились в своих грезах и стали строить новое будущее — «идеальную технократию» с опорой на ЭВМ (теперь компьютеры) и роботов. (Напомним, что писатель-фантаст Айзек Азимов составил «свод законов», коим обязаны следовать роботы, в 1942 году). Вот только давно с ужасом подмечено, что в мире, где механические воззрения переносятся и на человека, сам он воспринимается как малый винтик, в то время как общество представляется в виде огромной работающей машины. Американский историк Льюис Мэмфорд показал, как на протяжении всей истории нашей цивилизации — от Древней Месопотамии до сталинского СССР — общество стремится организоваться в образе «невидимой мегамашины». «Собрать воедисы» к горе трупов, но не достичь желанных побед. Можно лишь растерянно гадать, какой страшной мощью будет обладать государство, эта невидимая мегамашина, если поставит на службу себе роботов вместо «человеческих винтиков». Но чьим это будет государство? Ради кого оно будет существовать — ради людей или роботов?
Профессор Хироси Исигуро и его двойник
Сегодня «мировой столицей робототехники» в кругах специалистов считается город- миллионер Осака, лежащий на берегу Тихого океана, неподалеку от древней императорской столицы Японии, Киото (их разделяет лишь четверть часа езды по скоростной железной дороге). В уходящем десятилетии профессор Хироси Исигуро из Осакского университета стал настоящей звездой на Западе. Пожалуй, он — самый известный в мире специалист по андроидам, то есть роботам, которые схожи с людьми так, как разлученные близнецы — друг с другом. Он — ревностный сторонник «прекрасного нового мира», где рядом с людьми будут жить их двойники — роботы.
Создатель роботов-людей привлекателен дьявольски. Он неизменно весь в черном: черный свитер, черные брюки, черные ботинки. Окна в его кабинете традиционно зашторены; на стенах висят портреты самого творца «неживых людей» и его созданий. В институте, который возглавляет Исигуро, рождаются на свет точные копии людей. Их речи осмысленны; их мимика выразительна, как у актеров, блистающих на сцене. Удивительна и их внешность. Мягкая, теплая кожа, упругая на ощупь; длинные шелковистые волосы, ниспадающие на блузу или пуловер; румянец на щеках; узкие полоски помады на губах; идеально подведенные брови… В женщин, сотворенных здесь, хочется влюбиться, как в Еву или Лилит.
Еще в 2006 году Исигуро создал, хотите, «автопортрет, который всегда с тобой», хотите, «статую Дориана Грея» — робота, не отличимого от него самого. Рядом с ученым появился его нестареющий искусственный двойник, Geminoid HI. С этой «живой игрушкой» приходила играть его дочь. Ее же отец, готовясь к конференции в Цюрихе, поинтересовался, кого из двух Исигуро коллеги хотят слушать. Так в Швейцарию сопровождаемый ассистентом полетел двойник. («Как удобно!», — воскликнем вслед за ученым и мы, вспоминая все те необязательные мероприятия, которые вынуждены посещать). (Остается добавить, что если портрет оскаруайльдовского героя все время менялся, а сам он «мог всегда оставаться таким, как сейчас», то здесь мгновенье надолго остановилось для обоих. Исигуро годами не менял прическу, занимался спортом, что-бы сохранить фигуру, делал косметические операции — делал все, что-бы быть таким же, как свой старый скульптурный портрет).
По мнению Исигуро, будущее за роботами- андроидами, роботами- людьми. С людьми мы общаемся с первых дней жизни, командуем ими жестами, словами, даже гримасами. Мы привыкли к этому. Тем легче нам будет управлять не странной конструкцией с множеством тумблеров, а роботами, похожими на людей. Мы интуитивно умеем это делать, нам не надо вчитываться в неудобоваримые разделы инструкций. Самим же андроидам проще, чем прочим машинам, жить в мире, созданном для людей: подниматься по лестницам, нажимать на кнопки звонков, открывать двери… Исигуро даже придумал новое обозначение для роботов, которых он создает: геминоиды (от латинского Geminus, «близнец»). Геминоиды — точные копии реальных людей. К портретному сходству добавлено подобие привычек.
Перед началом работы сотрудники Исигуро (их всего три десятка) не только обмеряют части тела прототипов, но еще и изучают их мимику, манеру двигаться и жестикулировать. Наученные тончайшим нюансам поведения людей, эти роботы выглядят теперь их трехмерными тенями, позабывшими свое место и зажившими новой жизнью. Вместо жил и костей эти фигуристые тени состоят из стального скелета, электромотора, многочисленных шестеренок и проводков, но снаружи ничего этого не разглядеть. Пряди волос и ресницы, глаза и губы абсолютно естественны. Кожа из специального силикона (flesh rubber) содержит, как и человеческая кожа, мельчайшие поры; она прекрасно имитирует любые складки нашей «шкуры».
Изобретатель этого силикона, американец Дэвид Хансон, сам создает андроидов. Наиболее известен его робот с головой Эйнштейна (впрочем, она водружена на стандартный торс робота, лишь схематично передающий фигуру человека). Зато другая копия знаменитости — робот «Mark 1» работы Рикки Ма из Гонконга, вызвавший не так давно фурор в Голливуде, — очень точно передает своего звездного прототипа, актрису Скарлетт Йоханссон, и даже говорит ее голосом. Однако самая удивительная судьба у «Геминоида F», детища Исигуро. Возможно, его ждет звездная карьера в Голливуде. Ведь в 2015 году эта красивая «роботесса» сыграла главную роль в фильме Кодзи Фукада «Прощай» (Sayonara), показанном на фестивале в Токио.
Еще один человек-робот (Geminoid DK), созданный Исигуро, морочит головы умным людям вдали от Токио. Он выглядит, как один из преподавателей Ольборгского университета Хенрик Шерфе. Случается, что в ауди тории вместо учителя появляется его клон. По словам датского профессора, «некоторые студенты лишь на перемене замечают, что всю лекцию с ними общался робот». В пилотных проектах, проводившихся в Японии и Китае, женщины- андроиды работают продавщицами. Они спрашивают покупателей, какую одежду им хотелось бы выбрать, и, услышав ответ, поясняют, к примеру, кофточки каких размеров, расцветок, фасонов имеются в зале. К приятному удивлению ученых, во время экспериментов выяснилось, что клиенты ничуть не теряются, поняв, что с ними разговорилась машина. Участник одного из таких проектов шутливо заметил, что японцам труднее заговорить с человеком, чем с роботом.
Конечно, цели, что ставят себе исследователи, выходят далеко за рамки этих забавных экспериментов. Исигуро намерен создать целую армию дистанционно управляемых роботов, которые будут заниматься выполнением задач, непосильных человеку, примутся действовать там, где людям лучше не появляться. Похоже, что с появлением именно таких роботов, точных наших двойников, ученым удалось миновать, казалось бы, нескончаемую «Зловещую долину», простертую перед ними. Еще полвека назад, в 1970 году, японский исследователь Масахиро Мори впервые описал психологический феномен, получивший название «Uncanny valley». За этим образным термином скрывается парадокс: чем больше робот похож на человека, тем неприятнее становится у нас на душе, когда мы понимаем, что это робот, что есть в нем что- то неестественное, болезненно неверное в мимике, движениях, жестах. Когда это вдруг замечается, волна ужаса пробегает по нашему телу. Это происходит инстинктивно.
Есть разные объяснения этому феномену. Одни замечают, что люди с ограниченными возможностями столь же сильно отличаются в чем-то от других людей, как и роботы, почти похожие на человека. Значит, роботы опасно напоминают для нас, что мы, счастливцы, сами того не ведая, балансируем на тонкой «проволоке здоровья», натянутой над морем жизни, и в любой момент можем не удержаться, слететь в разверстую внизу пучину болезней? Или в роботах, так похожих на человека, но не являющихся им, чуется что- то мертвенное? Теперь же становится ясно: когда несходство между роботом и человеком абсолютно исчезает, улетучивается и страх. Вот там-то и заканчивается «Зловещая долина». Геминоиды перебрались по ту сторону нее.
Весной 2015 года стартовал пятилетний проект, призванный научить искусственных двойников человека автономному поведению. Со временем они будут действовать самостоятельно, сообразуясь со своими потребностями и поставленными перед ними целями, уверен Исигуро. Они будут сами выходить на связь с людьми, уточняя задачи или отчитываясь о сделанном; сами примутся заряжать батареи. «Я полагаю, что роботы станут не только ассистентами, но и настоящими друзьями человека. Я даже убежден в том, что когда- нибудь мы влюбимся в них».
Совсем не случайно, что о любви к роботам говорит японский исследователь. В синтоизме, национальной религии японцев (и государственной религии их страны до 1945 года), даже неодушевленные предметы наделены душой. В этом веровании коренятся и особое отношение японцев к роботам, и их очевидные успехи в искусстве сотворения роботов.
«В Японии мы полагаем, что подобие души разлито во всем, что окружает нас, — любит повторять Исигуро. — Представление же о том, что только мы, люди, обладаем душой, во многом порождено христианством». «Мы усматриваем душу во всех предметах. А почему ее не может быть в роботах?» — задается полемичным вопросом Минору Асада, еще один профессор Осакского университета. Западная цивилизация породила миф о грозных бездушных машинах, которые неминуемо восстанут на человека — о Франкенштейне, Тер ми на торе, трансформерах. Андроиды, эти «очеловеченные машины», давно стали персонажами самых мрачных фантастических произведений. В Японии же еще три века назад были очень популярны деревянные куклы-человечки каракури, умевшие сами двигаться вроде той куклы из сказки Олеши, которую так складно изображала маленькая актриса Суок.
Куклы-человечки каракури
В этой стране даже появился свой театр механических кукол — бунраку. Так что, робототехника зародилась в послевоенной Японии не на пустом месте. «С давних времен этих кукол, а теперь и роботов воспринимают как друзей и помощников, как членов семьи, — соединяет нить времен Минору Асада. — Никто не находит их жуткими». Всему миру известно, что японцы любят роботов. С конца 1990-х годов японские семьи начали заводить себе электронного пса Айбо, которого выпускала компания «Сони». Этот робот- пес стал для многих верным другом, членом семьи. Робот-тюлененок Паро утешает пациентов, страдающих от болезни Альцгеймера.
Роботов можно любить так же, как домашних животных. Японские дети приучаются к этому сызмальства. Со временем эти механические люди будут играть все более важную роль в жизни общества. Ведь японское общество быстро стареет. В 2025 году, по прогнозу ученых, почти два с половиной миллиона японцев будут заняты уходом за пожилыми людьми (в полтора раза больше, чем в 1990 году). В Европе сиделками при престарелых людях часто становятся женщины-гастарбайтеры. После распада СССР эту невысоко оплачиваемую работу поневоле нашли множество женщин из Украины и Молдавии. В Японии, стране, которая веками была закрыта для иностранцев, стране, что и теперь не любит их привечать, отыскали иное решение проблемы. К уходу за стариками привлекут… роботов, наделенных почти человеческой душой. Опыты показывают, что обитатели домов престарелых по-настоящему счастливы, имея дело с такими помощниками и друзьями.
В последние годы среди футурологов стала популярна идея трансгуманизма — постепенного превращения людей в роботов с помощью специальных имплантатов и гаджетов. Ее отстаивает, например, американский ученый Рэймонд Курцвейл. Только техника может сделать человека человеком в подлинном смысле этого слова, полагает и Исигуро. «Самое фундаментальное определение человека, — говорит он в интервью, — это животное плюс технология. Если мы не пользуемся никакими технологиями, значит, по большому счету, мы и не люди вообще. Человека нельзя отделить от окружающей его техники. Роботы же — лишь самая прогрессивная технология, которой мы располагаем».
Роботы-андроиды обязаны стать чем-то большим, чем сервисные роботы. Они непременно будут социальными существами, частью человеческого общества. Но ведь, если роботы могут стать для нас чем-то большим, чем слуги, стать нашими друзьями, то не является ли любое иное использование роботов их порабощением? Не следует ли нам со временем наделить роботов теми же правами, что и человека? Если же мы наделим роботов правами, то, наверное, они, рано или поздно, получат право избирать и быть избранными в высшие органы власти. Так, может, когда- нибудь президентом одной из ведущих стран мира станет робот? Почему бы нет?Обозревая мир и, вглядываясь в руководителей некоторых государств, будь то КНДР или Зимбабве, поверишь, что роботы могут управлять людьми лучше, чем сами люди.
И кто знает, куда в будущем повернет эволюция? Возможно, когда-нибудь в роботах зародится сознание. Проблема в том, что мы до сих пор не знаем, как Оно зарождается в головах людей. Быть может, считают некоторые ученые, мы так и не поймем этого даже тогда, когда зароним искру сознания в компьютерный мозг робота. Ведь сто с лишним лет назад, создавая первые летательные аппараты, изобретатели до конца не понимали еще законов аэродинамики. Другие ученые советуют внимательнее приглядеться к новорожденным детям. Те попали в мир, совершенно незнакомый для них. Дети получают из окружающего мира множество чувственной информации. Постепенно у них возникает образ этого мира и образ самих себя. У них рождается самосознание, сознание. Может быть, то же самое произойдет и с роботами? И напоследок, прежде чем попрощаться с нашими сегодняшними героями, снова вспомним фильм «Прощай», где сыграла робот-женщина по имени Геминоид F. Действие в этом философском фильме происходит в мире, пережившем ядерную катастрофу (в минувшем году стараниями корейского и американского лидеров эта тема стала как никогда актуальной). Главная героиня, Леона, — робот, подруга обреченной на смерть, зараженной радиацией женщины. Леона не понимает, что такое смерть. Люди смертны, а роботы, в принципе, нет. Этим- то они и пугают нас. Роботы не стареют; теоретически они могут жить вечно. Они перетерпят нас, переждут, пока мы истребим себя сами, и… продолжат эволюцию жизни на Земле, явив собой более высокую ее ступень. Более сознательную, мудрую, универсальную, чем мы, слабые, недолговечные существа, все время нападающие друг на друга и тем укорачивающие свой жизненный срок.
Могут ли роботы-андроиды, роботы в обличье человека, захватить власть на нашей планете? Скоро ли они потребуют себе гражданские права? Почему один лишь вид подобных роботов пробуждает у нас «социальные галлюцинации»? Об этом и многом другом регулярно рассуждает в своих интервью немецкий философ Томас Метцингер.
Томас Метцингер - немецкий философ и профессор теоретической философии в университете города Майнц. Основными областями его исследований являются философия сознания, методология нейронаук и нейроэтика.
— Господин Метцингер, в японских отелях уже стали использовать роботов-андроидов в качестве консьержей. Роботы становятся все более похожими на нас…
— В последние годы людям, действительно, все чаще приходится иметь дело с роботами, которые внешне похожи на человека. Разумеется, большая часть используемых нами роботов весьма далека от этого образа, но все-таки прогресс в разработке антропоморфных роботов очень заметен. В лаборатории можно всего за 20 минут обмерить вашу голову, а затем на основе этих данных изготовить вашего двойника. Можно добиться того, чтобы он следил за вами взглядом, можно придать его лицу осмысленное выражение, наделить его мимикой. Записав ваш разговор по мобильному телефону, можно затем научить робота говорить точно так же, как вы. Если какой-нибудь ваш знакомый будет разговаривать с этим роботом по видео-телефону, он будет уверен, что беседует с вами.
— Значит, вы полагаете, что автоматы по продаже железнодорожных билетов скоро будут выглядеть, как железнодорожники, и это вас тревожит?
— Я боюсь, что в большинстве случаев эти роботы в человеческом обличье будут использоваться для того, чтобы манипулировать клиентами, внушать им желание что-нибудь купить. В конце концов, роботы ведь тоже научатся замечать ваше выражение лица, анализировать его. Они увидят, что клиент заскучал, догадаются, что ему хотелось бы услышать.
— И как это могут использовать машины?
— В головном мозге человека имеются так называемые зеркальные нейроны. Когда кто-нибудь улыбается вам, вы подсознательно вторите ему — улыбаетесь в ответ. Это можно использовать для манипуляций людьми. При этом многие даже не будут догадываться, что такие машины действуют лишь в интересах тех, кто их запрограммировал. Вот простой пример из нашей сегодняшней жизни: мы все пользуемся компьютерными поисковыми программами, которые помогают нам искать в интернете все, что мы захотим, и даже не задумываемся о том, что эти программы создавались, прежде всего, для того, чтобы адресно рассылать пользователям рекламу, ориентируясь на их пристрастия и привычки.
— Но я же знаю, что имею дело с машиной, с роботом.
— Может статься, вы даже не будете этого знать. Ведь роботы в человеческом обличье вызывают в нас то, что я именую «социальными галлюцинациями». В принципе, имея дело с людьми, мы понимаем, что они действуют, как и мы, вполне разумно — пусть даже это не так. Однако на самых ранних ступенях человеческого развития, допустим, в первобытном мире, даже природа, окружающая человека, казалась ему живой, одушевленной (в это еще и сегодня верят маленькие дети). Да что там дети и дикари! Когда компьютер зависает, глючит, мы в сердцах кричим на него, чертыхаемся так, будто перед нами человек. И так на каждом шагу! Одни из нас влюбляются в свой автомобиль, другие дружат со своим мобильным телефоном.
— Проблема роботов, «искусственных существ», занимает людей, в действительности, уже не одно тысячелетие. Еще в греческой мифологии Гефест выковал себе механических служанок. Чем объяснить притягательность этой темы?
— Одна причина — это желание почувствовать себя хоть немного богом, поиграть в бога. Кроме того, еще один важный момент — страх перед смертью. В наши дни с появлением трансгуманизма возникла новая форма религии, которая обходится без бога и церкви, но, тем не менее, по сути своей выполняет ту же функцию, что и религия, — отрицает смерть. Роботы вселяют надежду, что мы можем победить смерть, научившись когда-нибудь переселяться в искусственные тела. Наконец, для некоторых исследователей цель всей их жизни — создать робота, наделенного интеллектом сродни человеческому, а, может быть, даже сознанием.
— Согласно одному из исследований, 90 из 100 экспертов считают, что подобные роботы появятся уже в ближайшие полвека.
— Я не очень доверяю таким прогнозам. Еще в 1960-е годы люди думали, что пройдет всего лет двадцать и будут созданы машины, которые по уровню интеллекта ни в чем не будут уступать человеку. Такие заявления хороши тем, что позволяют получить немалые деньги на дальнейшие исследования, ну, а если прогнозы не сбудутся, то экспертов к тому времени, может быть, уже не будет в живых.
— А, кстати, что такого особенного в роботах? Чем они отличаются от обычных машин?
— Я бы сказал, что они отличаются степенью своей автономности, независимости от человека. Любую машину мы должны сами включить, а потом и выключить. Многие роботы делают это самостоятельно. И роботы, в принципе, действуют куда более гибко, чем любая машина.
— Известно такое определение: «Жизнь — это организованная материя, способная размножаться. Если роботы будут запрограммированы на создание новых моделей роботов, можно будет назвать их «живыми существами»?
— Нет, потому что у них отсутствует обмен веществ. Но в будущем, пожалуй, будет труднее отличить некоторые искусственные системы от живых организмов. Допустим, мы начнем изготавливать компьютеры на основе генно-модифицированных живых клеток. Возможно, подобные компьютерные системы появятся в недалеком будущем. Такие системы и не вполне живые, и не совсем искусственные.
— Итак, граница между человеком и роботом постепенно будет стираться. Как это изменит нашу повседневную жизнь?
— Подумайте только, что подрастет поколение детей, которые привыкнут играть с роботами, и мысленно им будет все труднее провести некую границу между живой и неживой материей. Я, например, легко могу вообразить, что лет через двадцать по этому поводу разгорятся ожесточенные споры, и кто-нибудь непременно воскликнет: «Это же всего лишь машина!» Ему в ответ кто-то непременно возразит: «Неужели? Машина? Это — мой друг!»
— Не случайно некоторые философы, например, Юлиан Нида-Рюмелин (философ и политолог, бывший министр культуры Германии. — Прим. перев.) призывают вообще отказаться от создания роботов-андроидов.
— Чтобы принять взвешенное решение, нужно задаться вопросом, в каких случаях разумно использовать подобных роботов. Например, роботы-сиделки в человеческом обличье могли бы ухаживать за людьми, страдающими от болезни Альцгеймера, внушая им чувство, что они не одни. Конечно, и в этом случае можно было бы поспорить о том, не унижает ли человеческое достоинство этих больных то, что за ними отряжают ухаживать роботов.
— Скажите, а до какой степени роботов можно наделять интеллектом?
— Для меня важнейший рубеж — это способность роботов осознанно страдать. Вот почему, с этической точки зрения, я решительно против того, чтобы наделять роботов самосознанием — иначе они будут воспринимать себя как некое разумное существо, у них появится чувство собственного «я». Ведь если роботы когда-нибудь потребуют, чтобы их наделили теми же правами, что и людей, будет уже поздно останавливать прогресс. Вот тогда-то вы и задумаетесь о том, что, отключая питание робота, наделенного чувством «я», вы фактически будете убивать его.
— Следовательно, нам в обозримом будущем придется принять, скажем, так, всемирный этический кодекс, которому должны будут подчиняться все, кто занимается робототехникой.
— Причем уже сейчас понятно, что крупнейшие компании, занятые разработками в этой области, будут игнорировать любые призывы и требования подобно тому, как США сегодня игнорируют постановление Международного уголовного суда в Гааге. Так что, есть опасность, что все пойдет не так.
— И к чему это может привести?
— Возьмем, например, такую серьезную проблему, как использование боевых роботов. Например, в скором времени беспилотники будут управляться такими сложными интеллектуальными программами и действовать настолько быстро, что в боевой обстановке офицерам уже не придется отдавать им приказы — они примутся сами выполнять всё, что в них заложено. В военной робототехнике начинается своя гонка вооружений и, рано или поздно, дело дойдет до того, что роботизированные системы, созданные государствами — потенциальными противниками, сами начнут реагировать друг на друга и действовать независимо от того, хотят ли этого люди. В 2010 году нечто подобное произошло в экономике, когда Flash Crash, сетевой обвал, принес миллиардные убытки («мгновенный обвал» на фондовом рынке США 6 мая 2010 года. — Прим. перев.). Кто знает, к каким потерям и убыткам приведет подобный Flash Crash, если он будет спровоцирован боевыми роботами.
— В научной фантастике очень популярен этот мрачный сюжет: машины выходят из-под нашего контроля и начинают угрожать людям. Некоторые ведущие исследователи, например, Ник Бостром из Оксфордского университета (шведский философ, известный своими работами об антропном принципе. — Прим. перев.) уже сейчас предупреждает нас о том, что, рано или поздно, наши разработки могут привести к созданию компьютерного сверхмозга, который мы не способны будем контролировать.
— Разумеется, можно даже подискутировать о том, не являемся ли мы вспомогательным звеном, призванным помочь становлению неких более разумных существ, которые окажутся выше нас на ступенях эволюции. В то же время я считаю совершенно абсурдным уже сей-час заявлять, что роботы вот-вот сами начнут строить заводы по производству роботов, а нас загонят в резервацию. С другой стороны, с появлением новых генераций роботов у нас и впрямь могли бы возникнуть проблемы, если бы, допустим, появился компьютерный сверхмозг, который, желая нам всего самого лучшего, в конце концов, пришел бы к выводу, что для нас самих лучше было бы вообще не существовать, поскольку наша жизнь преисполнена страданий. Вообще же, куда более важная проблема заключается в том, что с появлением роботов нового поколения возникает новая возможность для манипулирования нами. Ведь, когда компьютеры примутся вовсю рассылать сообщения в соцсетях или начнут корректировать новостные сообщения, это не может не повлиять на политическую жизнь, причем мы даже не заметим этого влияния, этих подтасовок и манипуляций.
— Один из создателей Силиконовой долины, Мартин Форд в своей книге «Роботы наступают» (на русском языке она издана в 2016 году. — Прим. пе-рев.) пишет, прежде всего, об экономических последствиях вторжения роботов в нашу жизнь.
— Да, есть исследования, авторы которых утверждают, что уже к 2030 году по вине роботов исчезнет почти половина всех имеющихся сегодня профессий. Миллиардеры и их аналитики относятся к подобным прогнозам всерьез, поскольку видят, что с появлением роботов богатые становятся еще богаче, а бедные — еще беднее. И они видят, что страны, совершающие сейчас переход к развитию искусственного интеллекта, в будущем окончательно уйдут в отрыв от стран, не сумевших этого добиться. В былые времена люди имели обыкновение говорить, что «всякий раз, когда в истории человечества рождались новые технологии, возникали и новые рабочие места». Теперь такого не будет.
Материал подготовил А. Волков
Источник: Журнал "Знание-Сила" 2018.01
11986
2018.01.06 22:05:15
