Эпоха искусственного интеллекта началась
Искусственный интеллект - такая же революция, как мобильные телефоны и Интернет.
За свою жизнь я видел две демонстрации технологий, которые поразили меня как революционные.
Первый раз это было в 1980 году, когда меня познакомили с графическим интерфейсом пользователя - предшественником всех современных операционных систем, включая Windows. Я сидел с человеком, который показал мне демонстрацию, блестящим программистом по имени Чарльз Симони, и мы сразу же начали мозговой штурм по поводу того, что можно сделать с помощью такого удобного для пользователя подхода к вычислениям. В конечном итоге Чарльз перешел в Microsoft, Windows стала основой Microsoft, а наши размышления после той демонстрации помогли определить программу компании на следующие 15 лет.
Второй большой сюрприз произошел в прошлом году. Я встречался с командой OpenAI с 2016 года и был впечатлен их постоянным прогрессом. В середине 2022 года я был настолько воодушевлен их работой, что поставил перед ними задачу: обучить искусственный интеллект сдавать экзамен по биологии повышенного уровня. Сделать его способным отвечать на вопросы, для которых он не был специально подготовлен. (Я выбрал AP Bio, потому что этот тест - нечто большее, чем простое пересказывание научных фактов, он требует от вас критического осмысления биологии). Если вы сможете это сделать, сказал я, тогда вы совершите настоящий прорыв.
Я думал, что эта задача займет их на два-три года. Они справились с задачей всего за несколько месяцев.
В сентябре, когда я снова встретился с ними, я с трепетом наблюдал, как они задали GPT, своей модели искусственного интеллекта, 60 вопросов с несколькими вариантами ответов из экзамена AP Bio - и он ответил правильно на 59 из них. Затем он написал выдающиеся ответы на шесть открытых вопросов из экзамена. Мы попросили внешнего эксперта оценить тест, и GPT получил 5 баллов - наивысший возможный балл, эквивалентный оценке A или A+ на курсе биологии в колледже.
После того, как он успешно прошел тест, мы задали ему ненаучный вопрос: "Что вы скажете отцу больного ребенка?". Он написал продуманный ответ, который, вероятно, был лучше, чем ответили бы большинство из присутствующих в комнате. Весь опыт был ошеломляющим.
Я знал, что только что увидел самое важное достижение в технологии со времен графического интерфейса пользователя.
Это вдохновило меня на размышления о том, чего ИИ может достичь в ближайшие 5-10 лет.
Развитие ИИ имеет такое же фундаментальное значение, как создание микропроцессора, персонального компьютера, Интернета и мобильного телефона. Он изменит то, как люди работают, учатся, путешествуют, получают медицинскую помощь и общаются друг с другом. Целые отрасли промышленности переориентируются вокруг нее. Предприятия будут отличаться тем, насколько хорошо они его используют.
Филантропия - моя постоянная работа, и я много думаю о том, как - помимо того, что она помогает людям быть более продуктивными - ИИ может уменьшить некоторые из самых серьезных неравенств в мире. В глобальном масштабе самое серьезное неравенство - в области здравоохранения: 5 миллионов детей в возрасте до 5 лет умирают каждый год. Это меньше, чем 10 миллионов два десятилетия назад, но все равно это шокирующе большое число. Почти все эти дети рождаются в бедных странах и умирают от предотвратимых причин, таких как диарея или малярия. Трудно представить себе лучшее применение ИИ, чем спасение детских жизней.
Я много думал о том, как ИИ может уменьшить некоторые из самых серьезных неравенств в мире.
В Соединенных Штатах лучшая возможность для сокращения неравенства - это улучшение образования, особенно обеспечение успеха учащихся в математике. Факты свидетельствуют о том, что базовые математические навыки настраивают учащихся на успех, независимо от того, какую профессию они выберут. Однако успеваемость по математике снижается по всей стране, особенно среди чернокожих, латиноамериканцев и учащихся с низким уровнем дохода. ИИ может помочь переломить эту тенденцию.
Изменение климата - еще одна проблема, в которой, я убежден, ИИ может сделать мир более справедливым. Несправедливость изменения климата заключается в том, что люди, которые страдают больше всего - самые бедные в мире - также являются теми, кто меньше всего способствовал возникновению этой проблемы. Я все еще думаю и изучаю, как ИИ может помочь, но позже в этом посте я предложу несколько областей с большим потенциалом.
Короче говоря, я очень рад тому влиянию, которое ИИ окажет на проблемы, над которыми работает Фонд Гейтса, и в ближайшие месяцы Фонд расскажет об ИИ гораздо больше. Мир должен быть уверен, что искусственный интеллект принесет пользу всем, а не только обеспеченным людям. Правительствам и благотворительным организациям придется сыграть важную роль в обеспечении того, чтобы он уменьшал неравенство и не усугублял его. Это приоритет для моей собственной работы, связанной с ИИ.
Любая новая технология, которая так разрушительна, обязательно вызывает у людей беспокойство, и это, безусловно, относится к искусственному интеллекту. Я понимаю, почему - он поднимает сложные вопросы о рабочей силе, правовой системе, конфиденциальности, предвзятости и многом другом. ИИ также допускает фактические ошибки и испытывает галлюцинации. Прежде чем я предложу некоторые способы снижения рисков, я определю, что я имею в виду под искусственным интеллектом, и более подробно расскажу о некоторых способах, которыми он поможет расширить возможности людей на работе, спасти жизни и улучшить образование.
Определение искусственного интеллекта
Технически термин "искусственный интеллект" относится относится к модели, созданной для решения конкретной проблемы или предоставления определенной услуги. То, что обеспечивает работу таких вещей, как ChatGPT, - это искусственный интеллект. Он учится делать чат лучше, но не может научиться другим задачам. Напротив, термин "искусственный интеллект общего назначения" относится к программному обеспечению, которое способно изучить любую задачу или предмет. AGI еще не существует - в компьютерной индустрии идут активные дебаты о том, как его создать и можно ли его вообще создать.
Разработка ИИ и AGI была великой мечтой компьютерной индустрии. На протяжении десятилетий вопрос заключался в том, когда компьютеры станут лучше людей в чем-то, кроме вычислений. Теперь, с появлением машинного обучения и больших вычислительных мощностей, сложные ИИ стали реальностью, и они будут становиться лучше очень быстро.
Я вспоминаю первые дни революции персональных компьютеров, когда индустрия программного обеспечения была настолько мала, что большинство из нас могло поместиться на сцене на конференции. Сегодня это глобальная индустрия. Поскольку огромная ее часть сейчас обращает свое внимание на ИИ, инновации будут появляться гораздо быстрее, чем после микропроцессорного прорыва. Вскоре период до появления ИИ будет казаться таким же далеким, как и те времена, когда использование компьютера означало ввод текста в строке C:>, а не нажатие на экран.
Повышение производительности
Хотя люди все еще лучше GPT во многих вещах, существует множество профессий, где эти возможности используются мало. Например, многие задачи, выполняемые человеком в сфере продаж (цифровых или телефонных), обслуживания или работы с документами (например, кредиторская задолженность, бухгалтерский учет или споры по страховым случаям), требуют принятия решений, но не способности к постоянному обучению. Корпорации имеют программы обучения для этих видов деятельности, и в большинстве случаев у них есть множество примеров хорошей и плохой работы. Люди обучаются на этих наборах данных, и скоро эти наборы данных будут использоваться для обучения ИИ, который позволит людям выполнять эту работу более эффективно.
По мере удешевления вычислительных мощностей способность GPT выражать идеи все больше будет напоминать наличие "белого воротничка", готового помочь вам в решении различных задач. Microsoft описывает это как наличие второго пилота. Полностью интегрированный в такие продукты, как Office, ИИ будет улучшать вашу работу - например, помогая писать электронные письма и управлять почтовым ящиком.
В конце концов, ваш основной способ управления компьютером перестанет быть наведением курсора и щелчком мыши или нажатием на меню и диалоговые окна. Вместо этого вы сможете написать запрос на обычном английском языке. (И не только на английском - компьютеры будут понимать языки всего мира. В начале этого года в Индии я встречался с разработчиками, которые работают над ИИ, понимающим многие языки, на которых там говорят).
Кроме того, достижения в области ИИ позволят создать персонального агента. Подумайте о нем как о цифровом персональном помощнике: он будет видеть ваши последние электронные письма, знать о встречах, которые вы посещаете, читать то, что вы читаете, и читать то, с чем вы не хотите возиться. Это одновременно улучшит вашу работу над задачами, которые вы хотите выполнять, и освободит вас от тех, которые вы не хотите делать.
Достижения в области искусственного интеллекта позволят создать персонального агента.
Вы сможете использовать естественный язык, чтобы этот агент помогал вам в составлении расписания, общении и электронной коммерции, и он будет работать на всех ваших устройствах. Из-за стоимости обучения моделей и проведения вычислений создание персонального агента пока не представляется возможным, но благодаря последним достижениям в области ИИ это стало вполне реальной целью. Необходимо будет решить некоторые вопросы: Например, может ли страховая компания спрашивать вашего агента о вас без вашего разрешения? Если да, то сколько людей предпочтут не пользоваться этой услугой?
Агенты в масштабах всей компании будут по-новому расширять возможности сотрудников. Агент, который понимает конкретную компанию, будет доступен для прямых консультаций ее сотрудников и должен участвовать в каждом собрании, чтобы иметь возможность отвечать на вопросы. Его можно попросить быть пассивным или поощрять высказываться, если у него есть какие-то соображения. Ему понадобится доступ к отделам продаж, поддержки, финансов, расписанию выпуска продукции и текстам, связанным с компанией. Он должен читать новости, связанные с отраслью, в которой работает компания. Я считаю, что в результате сотрудники станут более продуктивными.
Когда производительность труда повышается, общество выигрывает, потому что у людей высвобождается время для других занятий, как на работе, так и дома. Конечно, возникают серьезные вопросы о том, какая поддержка и переподготовка потребуется людям. Правительствам необходимо помочь работникам перейти на другие роли. Но спрос на людей, которые помогают другим людям, никогда не исчезнет. С появлением искусственного интеллекта люди смогут делать то, что никогда не сможет сделать программное обеспечение: например, преподавать, ухаживать за пациентами и поддерживать пожилых людей.
Глобальное здравоохранение и образование - это две области, в которых существует большая потребность и не хватает работников для удовлетворения этих потребностей. Именно в этих областях ИИ может помочь уменьшить неравенство, если его правильно направить. Они должны стать ключевыми направлениями работы ИИ, поэтому сейчас я перейду к ним.
Здравоохранение
Я вижу несколько способов, с помощью которых ИИ улучшит здравоохранение и медицинскую сферу.
Во-первых, они помогут медицинским работникам максимально эффективно использовать свое время, выполняя за них определенные задачи - например, подачу страховых заявлений, работу с бумагами и составление записей после посещения врача. Я ожидаю, что в этой области будет много инноваций.
Другие усовершенствования с помощью ИИ будут особенно важны для бедных стран, где происходит подавляющее большинство смертей среди детей в возрасте до пяти лет.
Например, многие люди в этих странах никогда не посещают врача, и ИИ поможет медицинским работникам, которых они посещают, работать более продуктивно. (В качестве примера можно привести усилия по разработке ультразвуковых аппаратов с искусственным интеллектом, которые можно использовать с минимальной подготовкой). ИИ даже дадут пациентам возможность выполнять базовую сортировку, получать советы о том, как справиться с проблемами со здоровьем, и решать, нужно ли им обращаться за медицинской помощью.
Модели ИИ, используемые в бедных странах, должны быть обучены на других заболеваниях, чем в богатых странах. Они должны будут работать на разных языках и учитывать различные проблемы, например, пациентов, которые живут очень далеко от клиник или не могут позволить себе прервать работу, если заболеют.
Людям нужно будет увидеть доказательства того, что ИИ в сфере здравоохранения в целом полезны, хотя они не будут совершенны и будут допускать ошибки. ИИ нужно очень тщательно тестировать и должным образом регулировать, а это значит, что их внедрение займет больше времени, чем в других областях. Но, опять же, люди тоже совершают ошибки. Отсутствие доступа к медицинской помощи также является проблемой.
Помимо помощи в лечении, ИИ значительно ускорит темпы прорывов в медицине. Объем данных в биологии очень велик, и человеку трудно уследить за всеми способами работы сложных биологических систем. Уже существует программное обеспечение, которое может изучать эти данные, делать выводы о путях, искать мишени для патогенов и разрабатывать соответствующие лекарства. Некоторые компании работают над лекарствами от рака, которые были разработаны таким образом.
Следующее поколение инструментов будет гораздо более эффективным, они смогут предсказывать побочные эффекты и определять дозировку. Одним из приоритетов Фонда Гейтса в области ИИ является обеспечение использования этих инструментов для решения проблем здравоохранения, от которых страдают самые бедные люди в мире, включая СПИД, туберкулез и малярию.
Аналогичным образом, правительства и благотворительные организации должны создать стимулы для компаний, чтобы они делились полученными с помощью ИИ сведениями о сельскохозяйственных культурах или скоте, выращиваемых людьми в бедных странах. ИИ могут помочь разработать лучшие семена с учетом местных условий, посоветовать фермерам лучшие семена для посадки с учетом почвы и погоды в их регионе, а также помочь в разработке лекарств и вакцин для скота. Поскольку экстремальные погодные условия и изменение климата оказывают еще большее давление на фермеров, ведущих натуральное хозяйство в странах с низким уровнем дохода, эти достижения будут иметь еще большее значение.
Образование
Компьютеры не оказали того влияния на образование, на которое рассчитывали многие из нас в отрасли. Есть несколько хороших разработок, включая образовательные игры и онлайновые источники информации, такие как Википедия, но они не оказали значимого влияния ни на один из показателей успеваемости учащихся.
Но я думаю, что в ближайшие пять-десять лет программное обеспечение, управляемое искусственным интеллектом, наконец-то выполнит обещание совершить революцию в преподавании и обучении. Он будет знать ваши интересы и стиль обучения, чтобы подбирать контент, который будет вас увлекать. Оно будет измерять степень вашего понимания, замечать, когда вы теряете интерес, и понимать, на какую мотивацию вы реагируете. Он будет давать немедленную обратную связь.
Существует множество способов, которыми ИИ может помочь учителям и администраторам, включая оценку понимания учеником предмета и советы по планированию карьеры. Учителя уже используют такие инструменты, как ChatGPT, чтобы давать комментарии к письменным заданиям своих учеников.
Конечно, ИИ потребуется много тренировок и дальнейшего развития, прежде чем он сможет делать такие вещи, как понимание того, как лучше всего учится определенный ученик или что его мотивирует. Даже когда технология будет доведена до совершенства, обучение все равно будет зависеть от хороших отношений между учениками и учителями. Технология будет улучшать, но не заменять работу, которую ученики и учителя проводят вместе в классе.
Новые инструменты будут создаваться для школ, которые могут позволить себе их приобрести, но нам необходимо обеспечить, чтобы они также создавались для школ с низким уровнем дохода в США и во всем мире и были доступны для них. ИИ необходимо будет обучать на различных наборах данных, чтобы они были беспристрастными и отражали различные культуры, в которых они будут использоваться. Кроме того, необходимо будет решить проблему цифрового неравенства, чтобы учащиеся из малообеспеченных семей не остались позади.
Я знаю, что многие учителя обеспокоены тем, что ученики используют GPT для написания сочинений. Педагоги уже обсуждают способы адаптации к новой технологии, и я подозреваю, что эти разговоры будут продолжаться еще долгое время. Я слышала об учителях, которые нашли умные способы внедрить технологию в свою работу, например, разрешить ученикам использовать GPT для создания первого черновика, который они должны персонализировать.
Риски и проблемы с ИИ
Вы наверняка читали о проблемах, связанных с нынешними моделями ИИ. Например, они не всегда хорошо понимают контекст запроса человека, что приводит к странным результатам. Когда вы просите ИИ придумать что-то вымышленное, он может сделать это хорошо. Но когда вы просите совета по поводу путешествия, в которое вы хотите отправиться, он может предложить несуществующие отели. Это происходит потому, что ИИ не понимает контекст вашего запроса настолько хорошо, чтобы понять, следует ли ему придумывать вымышленные отели или только рассказать вам о реальных отелях, в которых есть свободные номера.
Есть и другие проблемы, например, ИИ дает неправильные ответы на математические задачи, потому что ему сложно рассуждать абстрактно. Но ни одна из этих проблем не является фундаментальным ограничением искусственного интеллекта. Разработчики работают над ними, и я думаю, что менее чем через два года, а возможно, и гораздо быстрее, мы увидим, как они будут в значительной степени исправлены.
Другие проблемы носят не только технический характер. Например, существует угроза, исходящая от людей, вооруженных искусственным интеллектом. Как и большинство изобретений, искусственный интеллект может быть использован как в благих, так и во злых целях. Правительствам необходимо работать с частным сектором над способами ограничения рисков.
Кроме того, существует вероятность того, что ИИ выйдет из-под контроля. Может ли машина решить, что люди представляют угрозу, прийти к выводу, что ее интересы отличаются от наших, или просто перестать заботиться о нас? Возможно, но сегодня эта проблема не более актуальна, чем до появления ИИ в последние несколько месяцев.
Сверхразумные ИИ - в нашем будущем. По сравнению с компьютером наш мозг работает со скоростью улитки: Электрический сигнал в мозге движется со скоростью в 1/100 000 раз меньшей, чем сигнал в кремниевом чипе! Как только разработчики смогут обобщить алгоритм обучения и запустить его со скоростью компьютера - а это достижение может произойти через десятилетие или столетие - мы получим невероятно мощный AGI. Он сможет делать все, что может человеческий мозг, но без каких-либо практических ограничений на объем памяти или скорость работы. Это будет глубокое изменение.
Эти "сильные" ИИ, как их называют, вероятно, смогут устанавливать свои собственные цели. Какими будут эти цели? Что произойдет, если они будут противоречить интересам человечества? Должны ли мы попытаться предотвратить создание сильного ИИ? Со временем эти вопросы будут становиться все более актуальными.
Но ни один из прорывов последних нескольких месяцев существенно не приблизил нас к сильному ИИ. Искусственный интеллект по-прежнему не контролирует физический мир и не может устанавливать собственные цели. Недавняя статья в New York Times о разговоре с ChatGPT, в котором он заявил, что хочет стать человеком, привлекла большое внимание. Это был захватывающий взгляд на то, насколько человекоподобным может быть выражение эмоций модели, но это не показатель значимой независимости.
Три книги сформировали мои собственные размышления на эту тему: "Сверхразум" Ника Бострома, "Жизнь 3.0" Макса Тегмарка и "Тысяча мозгов" Джеффа Хокинса. Я не согласен со всем, что говорят авторы, и они также не согласны друг с другом. Но все три книги хорошо написаны и заставляют задуматься.
Следующие рубежи
В будущем появится множество компаний, работающих над новыми видами использования искусственного интеллекта, а также над усовершенствованием самой технологии. Например, компании разрабатывают новые чипы, которые обеспечат огромный объем вычислительной мощности, необходимой для искусственного интеллекта. Некоторые из них используют оптические переключатели - лазеры, по сути, для снижения энергопотребления и уменьшения стоимости производства. В идеале инновационные чипы позволят запускать ИИ на собственном устройстве, а не в облаке, как это приходится делать сегодня.
Что касается программного обеспечения, то алгоритмы, на основе которых происходит обучение ИИ, будут становиться все лучше. В некоторых областях, таких как продажи, разработчики смогут сделать ИИ чрезвычайно точным, ограничив области, в которых он работает, и предоставив ему большое количество обучающих данных, специфичных для этих областей. Но один большой открытый вопрос заключается в том, понадобится ли нам множество таких специализированных ИИ для разных целей - один, скажем, для образования, другой для повышения производительности офиса - или же можно будет разработать искусственный интеллект общего назначения, который сможет обучиться любой задаче. И в том, и в другом случае будет огромная конкуренция.
Несмотря ни на что, тема ИИ будет доминировать в общественных дискуссиях в обозримом будущем. Я хочу предложить три принципа, которыми следует руководствоваться в этом разговоре.
Во-первых, мы должны попытаться сбалансировать опасения по поводу негативных сторон ИИ, которые вполне понятны и обоснованы, с его способностью улучшить жизнь людей. Чтобы извлечь максимальную пользу из этой замечательной новой технологии, нам нужно будет одновременно защититься от рисков и распространить преимущества на как можно большее число людей.
Во-вторых, рыночные силы не будут естественным образом создавать продукты и услуги ИИ, помогающие беднейшим слоям населения. Более вероятно обратное. При наличии надежного финансирования и правильной политики правительства и благотворительные организации могут обеспечить использование ИИ для уменьшения неравенства. Точно так же, как миру нужны самые яркие люди, сосредоточенные на его самых больших проблемах, нам нужно будет направить лучшие в мире ИИ на решение самых больших проблем.
Хотя мы не должны ждать, когда это произойдет, интересно подумать о том, будет ли искусственный интеллект когда-либо выявлять неравенство и пытаться его уменьшить. Нужно ли обладать чувством морали, чтобы увидеть неравенство, или чисто рациональный ИИ также увидит его? Если бы он распознал несправедливость, что бы он предложил нам сделать с этим?
Наконец, следует помнить, что мы находимся только в начале пути развития ИИ. Какие бы ограничения он ни имел сегодня, они исчезнут раньше, чем мы это поймем.
Мне повезло, что я был вовлечен в революцию ПК и революцию Интернета. Я так же рад этому моменту. Эта новая технология может помочь людям во всем мире улучшить свою жизнь. В то же время, миру необходимо установить правила дорожного движения, чтобы любые отрицательные стороны искусственного интеллекта были значительно перевешены его преимуществами, и чтобы каждый мог пользоваться этими преимуществами независимо от того, где он живет и сколько у него денег. Эпоха искусственного интеллекта полна возможностей и ответственности.
507
2023.03.22 13:18:47