Искусственный интеллект от Джеффа Хоукинса

"Если вдруг на смертном одре мне станет ясно, что я недостаточно вложился в теорию функционирования мозга, - это будет печально".

"Как только вы узнаете, как работает мозг, вы тут же сможете описать это с помощью математики, а дальше уже дело программистов перевести это на язык, понятный компьютеру".



Джефф Хоукинс (Jeff Hawkins), изобретатель PalmPilot и сооснователь Numenta. Несмотря на некоторую девальвацию самого понятия "искусственный интеллект", Хоукинс уверен, что ренессанс здесь неизбежен. При этом он не сомневается, что очередной этап в развитии искусственного интеллекта будет основываться на новом теоретическом уровне понимания оперативных возможностей нашего мозга.

Новая теория Джефа Хоукинса называется Иерархическая Временная Память, или Hierarchical Temporal Memory (HTM), и основана на принципах работы человеческого мозга. Разработка новой технологии искусственного интеллекта позволит в будущем решать такие сложные задачи, как распознавание образов, искусственный интеллект, робототехника и машинное обучение.


Джефф Хоукинс (Jeff Hawkins), автор карманного компьютера PalmPilot и сооснователь Numenta, родился в Лонг-Айленде (Long Island, New York) в 1957 году. В 1982 году он закончил Корнеллский технический университет и поступил на работу в Grid Systems, занимавшуюся лэптопами. Именно тогда у скромного инженера-электрика появилась "одна, но пламенная страсть" к науке о нейронах.

В те годы искусственный интеллект, который впервые привлек к себе внимание программистов в 1960-е годы, почувствовал первый спад интереса. К середине 1980-х годов охватившее разработчиков воодушевление уступило место разочарованию и от технологий с использованием принципов искусственного интеллекта стали постепенно отказываться.

В 1985 году Джефф, бросив все, то есть Grid Systems, поступил в Калифорнийский университет (Беркли). Через два года, когда Джеффа уже не ждали в Grid, он снова вернулся туда. Оплодотворенный открытиями в нейробиологии, Джефф решил использовать их в неживой чип-материи. Технология распознавания рукописного текста стала побочным результатом изысканий Хоукинса в теории нейросоединений.

"Будучи в Беркли в середине 80-х, когда нейронные сети вошли в моду, я узнал, что компания Nestor предлагает нейронно-сетевой анализатор рукописного текста "всего лишь" за миллион долларов. "Однако!" - сказал я себе. Используя некоторые математические выкладки, над которыми работал в то время, я создал классификатор паттернов (образцов). И запатентовал его. Только ради шутки я сделал на этой основе систему распознавания рукописного текста (графологический анализатор каракулей)".

В 1994 Джефф Хоукинс создал Graffiti - систему ввода текста, которая решала проблему рукописного распознавания. В тот же год Хоукинс обозначил некоторые основные черты карманного компьютера, который вскоре получит название PalmPilot. Кроме того, что в него будет встроена Graffiti, новый КПК должен: помещаться в карман рубашки; иметь возможность обмениваться данными с настольным компьютером; быть достаточно быстрым; быть доступным по цене.

Основанная Хоукинсом компания Palm Computing (впоследствии переименованная в PalmOne), начала поиск финансирования для воплощения своих идей в жизнь. Только в сентябре 1995 года US Robotics, увидев перспективность направления, купила Palm Computing. Первый PalmPilot появился на рынке в апреле 1996, а летом 1997 года 3Com Corporation приобрела US Robotics.

По доброй традиции, Джефф оставил свою "золотую жилу", компанию Palm, в 1998 году, чтобы искать новых приключений. Джефф Хоукинс, Донна Дубински (Donna Dubinsky) и Эд Коллигэн (Ed Colligan) - ядро команды, придумавшей PalmPilot в 1998 году, основали компанию Handspring. Первый продукт, основанный на платформе Palm - Visor, продолжил традиции PalmPilot. Несколькими годами позже, в одном из своих интервью Хоукинс сделает весьма смелые предсказания о ближайшем будущем персональных компьютеров. Он заявит, что компьютеры, возможно, и не исчезнут совсем, однако их роль будет менее заметна, так как обычным пользователям гораздо более привлекательными покажутся устройства, которые включаются моментально и не тратят время на загрузку. Компактным компьютерам и умным телефонам, по его мнению, будет суждено вытеснить или же существенно потеснить ПК.

В 2003 Хоукинс был избран членом Национальной Академии Проектирования (National Academy of Engineering) "за создание парадигмы наладонного компьютера и создания первого коммерчески успешного примера карманного компьютерного устройства".

Наряду со всеми успехами на ниве маленьких компьютеров Хоукинс не забывал о своих увлечениях искусственным интеллектом. Не оставляя своей должности в PalmOne, он становится членом научного совета директоров лаборатории Cold Spring Harbor - одного из ведущих в мире биологических исследовательских учреждений, а в 2002 году создает собственный некоммерческий институт - Redwood Neuroscience Institute, занимающийся изучением того, как работает человеческий мозг. (В июле 2005 институт переименован в The Redwood Center for Theoretical Neuroscience.)

Занимаясь исследованиями в области искусственного интеллекта, Хоукинс предложил считать, что главные функции мозга сосредоточены в области неокортекса (neocortex), и предположил, как эта область функционирует. На основе этих предположений он пришел к выводу, что для моделирования деятельности мозга можно применить некоторые уже существующие статистические методы (теорию байесовских сетей).

Ключевые места теории Хоукинса базируются на теории работы коры головного мозга, предложенной в конце 1970-х Верноном Маунткаслом (Vernon Mountcastle) - нейробиологом из университета Джона Хопкинса (Johns Hopkins University) в Балтиморе. Анатомические исследования обнаружили, что тип и размещение ячеек на любом небольшом участке коры головного мозга очень схожи, на основании чего Маунткасл предположил, что каждый участок коры выполняет схожие базисные функции. Что говорит о том, что область, отвечающая за визуальное распознавание, и область, отвечающая за распознавание речи, отличаются только типом информации, которую они получают, но не тем, что они делают с этой информацией. "В моем представлении, это один из наиболее фундаментальных прорывов в нейрологии", - говорит Хоукинс. "Что такое кора головного мозга или ее новообразования? Это, в сущности, большой пласт толщиной несколько миллиметров, состоящий из нейронов. Хотя в нем есть зоны, отвечающие за зрение, слух, осязание, это удивительно универсальная структура. Зрительные зоны почти идентичны слуховым. Такое сходство означает, что все сенсорные процессы основаны на одном механизме. Этого пока никто не замечает".



Свою новую теорию о функционировании человеческого мозга, искусственном интеллекте и возможности создания компьютеров нового поколения Джефф описал в книге с длинным названием "On Intelligence: How a New Understanding of the Brain Will Lead to the Creation of Truly Intelligent Machines" ("О разуме: как новое понимание устройства мозга приведет к созданию по-настоящему умных машин"), которая привлекла к нему внимание специалистов всего мира.

В On Intelligence Хоукинс рассуждает о том, что природа интеллекта базируется на первичной функции коры головного мозга - предсказании будущего на основании памяти, и о том, что случилось в прошлом. По мнению Хоукинса, мозг - не просто ящик с входными и выходными каналами. "Я думаю, что интеллект - это способность организма правильно предчувствовать входной сигнал. Интеллект измеряется степенью внутреннего предчувствования, а не степенью внешних проявлений. Когда вы, например, смотрите на меня, ваши глаза не только совершают хаотическое движение. Они следят за определенными вещами. Поскольку мозг предполагает, что перед вами человеческое лицо, то ,"сканируя" его и встретив глаз, мозг ожидает встретить и другой глаз на соответствующем месте. В этот момент мозг ожидает нейронного импульса с определенным паттерном. Если же на месте второго глаза вы обнаружите на моем лице нос, мозг повторит сканирование подозрительного места".

"Итак, модель мозга - это... не традиционная база данных. Там есть механизм мгновенной оценки всех параметров. Возможно, что это механизм аутоассоциативных воспоминаний, которые срабатывают, предощущая все входные параметры. В сущности, интеллект это способность системы предугадывать паттерны входных сигналов. Чем больше сложных паттернов может предугадать ваш мозг в течение длительного времени, тем лучше ваше осознание окружающей среды и, соответственно, выше интеллект".

В книге Хоукинс убежденно доказывает, что кора головного мозга хорошо приспособлена для выполнения прогнозов и описывает, как цепи нейронов, находящиеся в коре, образуют иерархическую структуру, в которой высшие уровни постоянно посылают информацию назад к нижним уровням, что позволяет сравнивать поступающую последовательность образов (например, строку устных слов) с последовательностями из предыдущего опыта. К примеру, чтобы на основании последовательности "Восемьдесят семь лет" предсказать, что следующая последовательность будет "тому назад".



Numenta simulation program распознает объекты, даже когда они не явно выражены.

Эта пространственная и временная структура прогнозирования, основанная на предыдущей памяти, по мнению Хоукинса, позволяет мозгу легко делать определенные задания, которые ставят компьютер в тупик. "Нет машины в мире, которой вы можете показать изображение чего-либо и получить ответ, что это собака, кошка или горилла", - пишет Хоукинс, но человек может делать это за доли секунды.

Кроме прочего, в книге рассказывается о вычислительном устройстве, созданном на базе оригинальной гипотезы о том, как устроен и действует человеческий мозг. Многим читателям наверняка с детства знакома подобная головоломка: найти в заполняющей всю площадь бумажного листа густой путанице непрерывных линий контуры неизвестных растений, животных или каких-то неодушевленных предметов. Аналогичную задачу решает компьютер с принципиально новыми программами, позволяющими ему самостоятельно вычленять из такого клубка рисунок собаки или кошки. Конечно, разгадывание головоломок - всего лишь показательный пример того, на что будет способна будущая технология.

До сих пор некоторые теоретики нейрологии ворчат, что книга Хоукинса - просто повторение идей других ученых и что его модель не является достаточно конкретной, чтобы предложить эксперименты, проверяющие ее. Однако истина в том, что Джефф Хоукинс связал вместе различные существующие концепции в интересную теорию. "Его идеи обеспечивают внушающий доверие концептуальный каркас для много других типов данных", - говорит Мриганка Суа (Mriganka Sur) - нейробиолог из MIT, занимающийся корой головного мозга. "Он соединил все в единую большую картину, которую исследователи мозга часто упускают из вида".



Соучредители Numenta: Джефф Хоукинс (слева), Дилип Джордж (в центре) и Донна Дабински.

В 2005 году Хоукинс вместе с Донной Дабински (Donna Dubinsky), президентом компьютерной компании PalmOne, и закончившим Стэнфордский университет Дилипом Джорджем (Dileep George), еще студентом помогавшим Джеффу перевести его изыскания в практическую плоскость, основали в Калифорнии компанию Numenta.

Название Numenta происходит от латинского слова mentis ("разум"). Новая компания сосредоточила усилия на разработке систем искусственного интеллекта, базирующихся на памяти нового типа, работающей аналогично клеткам коры головного мозга.

Первый продукт компании называется Hierarchical Temporal Memory (HTM), что можно перевести как "иерархическая временная память", и основывается на теоретических изысканиях Хоукинса. Слово "иерархическая" в названии отражает способ объединения модулей памяти, а "временная" - принцип работы, когда каждый модуль служит для временного хранения информации. Целью Numenta является воплощение теории в практику. По ожиданиям разработчиков, память нового типа поможет решить сложные задачи искусственного интеллекта, которые пока не поддаются традиционным технологиям. В качестве примеров можно привести компьютерное зрение и понимание естественной речи.

Высоко оценивая перспективы проекта, основатели компании подчеркивают его долгосрочный характер и не рассчитывают на скорый результат. Для получения первых коммерческих продуктов понадобится, по меньшей мере, несколько лет.

Компания Numenta скорее разработчик технической платформы для практических приложений, нежели разработчик самих приложений. Компания создает масштабный программный продукт, который будет служить инструментом для решения сложных практических задач. В настоящее время ведется проектирование программного инструментария, который позволит адаптировать архитектуру HTM к требованиям конкретных задач. Предполагается, что в ходе работы вокруг технологии HTM сформируется сообщество разработчиков. С этой целью Numenta предлагает бесплатные лицензии на использование своего программного продукта. Цель этой акции - расширить круг исследователей и получить соответствующую помощь в развитии новой технологии.

"Джефф делает интересную работу, и он вполне может внести существенные новации в математическое программирование, независимо от того, какое значение будут иметь его специфические алгоритмы, - сказал Гэри Брэдски, нейролог, который руководит исследовательской группой в компании Intel Corporation. - Как показала его деятельность на двух последних постах, он обладает для этого совсем неплохой интуицией".

Сам Хоукинс говорит: "Моя цель в Numenta - реализовать теорию на практике. У нас есть возможность строить интеллектуальные системы памяти, чтобы решить трудные проблемы в информатике и искусственном интеллекте, как например, машинное зрение, понимание речи и робототехника, для которых никакие другие известные решения не подходят".

Статья, описывающая технологию Hierarchical Temporal Memory.
"Hierarchical Temporal Memory - Concepts, Theory, and Terminology" PDF (150 KB) by Jeff Hawkins and Dileep George, Numenta Inc., 2006-05-17

Источник