Корпорация IBM создавала суперкомпьютер Deep Blue, чтобы победить в шахматах, но в дальнейшем при построении систем искусственного интеллекта стала отдавать предпочтение сотрудничеству, а не конкуренции.
11 мая 1997 года вычислительная машина показала, что способна превзойти человека даже в самом выигрышном для того состязании – в играх. Чемпиона мира по шахматам Гарри Каспарова обыграл компьютер IBM Deep Blue, разработка которого начиналась в Университете Карнеги-Меллона в рамках работы над системой ChipTest.
Один из создателей Deep Blue, Мюррей Кемпбелл, рассказал корреспонденту Службы новостей IDG и о других вещах, которые компьютеры научились делать не хуже, а во многих случаях и лучше человека, а также о том, чем все это обернется для нас в будущем.
- Правда ли, что вы пришли в IBM одновременно с появлением там Deep Blue?
Не совсем. Наша группа, включая меня, присоединилась к IBM, перейдя туда в 1989 году из Университета Карнеги-Меллона, а название Deep Blue появилось годом позже.
- И вы все время занимались созданием Deep Blue?
С момента прихода в IBM и до матча, состоявшегося с чемпионом мира в 1997 году, моя работа заключалась в создании и совершенствовании Deep Blue.
- Поговаривают, что одной из причин победы Deep Blue над Каспаровым была ошибка, которая привела к тому, что система совершила странный ход и тем самым вывела чемпиона из психологического равновесия.
Не могу с уверенностью утверждать, так ли это. Случилось следующее: в конце первой партии матча Deep Blue был обречен на поражение. У него была заведомо проигрышная позиция, но игра продолжалась. Каспарову еще нужно было доказать, что в этой позиции он способен выиграть, что, несомненно, он бы и сделал. Однако из-за ошибки Deep Blue сделал ход наугад, а в такой игре ход наугад особенно плох, и после ответа Каспарова мы сдали партию.
Многие потом утверждали, что из-за этого Каспаров составил себе неверную картину о том, на что Deep Blue способен при игре в шахматы, а на что нет, но я думаю, что это всего лишь спекуляции.
- А почему произошла ошибка? Вам удалось это выяснить?
Да, мы поняли, в чем дело, и все исправили. Но произошло это только после второй партии, так что условия для ее появления сохранялась на протяжении двух партий. Правда, больше она уже не проявляла себя. Такие ситуации возникают очень редко.
Происходило это лишь при определенном стечении обстоятельств. На поиск очередного хода Deep Blue выделялось определенное время, и если компьютер не укладывался в него, то мог совершить ход наугад. За несколько месяцев до матча мы уже регистрировали ошибку подобного рода и полагали, что все исправили. Думаю, что четыре из пяти возможных условий ее проявления нам удалось устранить, но одно все же осталось. И вот в матче с чемпионом мира она вылезла снова.
- За прошедшее с тех пор время мы видели, как машина DeepMind Alpha Go одолела сильнейших в мире игроков в го, а компьютер IBM Watson стал победителем викторины Jeopardy. Какие вершины, на ваш взгляд, искусственный интеллект готов покорить на следующем этапе?
Настольные игры – и шахматы, и го – сослужили искусственному интеллекту очень хорошую службу, но я полагаю, что время настольных игр уходит и сегодня нам пора переходить к решению более сложных и актуальных проблем. Игры наподобие шахмат очень четко формализованы: все здесь находится прямо перед вами, вы обладаете всей полнотой информации, знаете, какие возможны ходы, знаете, что представляет собой состояние мата и т. д.
В реальном мире все не так: при выборе любого пути возникают те или иные сложности. Думаю, нам следует добавлять дополнительные сложности к тем вызовам и задачам, которые рассматриваются сегодня.
Много интересного появляется в области компьютерных игр. Недавно я видел, к примеру, как программа была побеждена группой профессиональных игроков в покер, и это весьма интересно, поскольку сюда привносится неполная, или скрытая, информация, когда ваши соперники видят свои карты, а вы их не видите. Это лишь один из способов добавления сложности. Существуют и другие.
.jpg) |
|
IBM Deep Blue торопится в Рокфеллеровский центр в Нью-Йорке, чтобы принять участие в телешоу NBC в мае 1997 года
Источник: IBM
|
Но в долгосрочной перспективе мы хотим создавать системы, не заменяющие (пусть даже с более высокой эффективностью) людей, а дополняющие их и помогающие людям принимать решения.
В шахматах наша цель заключалась в том, чтобы продемонстрировать систему, не уступающую лучшим игрокам в мире. И Deep Blue играл совсем не так, как человек. Очевидно, что у человека имеются свои сильные и слабые стороны, а у компьютера свои. Объединяя их сильные качества, очень быстро можно получить игрока, который окажется лучше как отдельно взятого человека, так и отдельно взятого компьютера.
Прошло двадцать лет, но утверждение это по-прежнему справедливо. Думаю, что усвоенный нами урок применим практически к любой проблеме реального мира, которую только можно себе представить.
В медицине, например, врач осматривает пациента, ставит диагноз и назначает лечение. Но представьте, что у него есть помощник, который рассматривает задачу под другим углом, обладает другими навыками, способен проанализировать все недавние публикации в области медицины, знает все существующие лекарственные препараты и ставит альтернативный диагноз либо предлагает альтернативное лечение. Эксперт-человек, врач, рассматривает его предложения и принимает либо отвергает их. Это позволяет раздвинуть горизонты мышления и получить более высокий уровень эффективности, чем человек и компьютер демонстрируют поодиночке.
- Но в случае применения такой системы «дополненного» интеллекта, где в конечном итоге решение принимает врач, не следует ли сделать пояснение с юридической точки зрения, на ком лежит ответственность?
Дело в том, что далеко не всегда речь идет о жизни и смерти. Если вы установите систему, которая будет рекомендовать кому-либо фильмы или книги, то в случае ошибки никакого конца света не наступит. Вместе с тем некоторые решения действительно могут оказаться очень важными. Полагаю, что на протяжении еще многих десятилетий решающее слово при совершении ответственных шагов будет оставаться за людьми. Но чем больше информации мы станем получать о разумных альтернативах, а также о преимуществах и недостатках этих альтернатив, тем лучше будет для всех.
- Вы обнаружили ошибку в Deep Blue, но в сравнении с ним системы искусственного интеллекта последнего поколения с точки зрения проведения аудита кажутся еще более непостижимыми и сложными. Нельзя вернуться к рассматривавшемуся ими дереву поиска ходов и проверить правильность полученного ответа, особенно если речь идет о задачах реального мира, о которых вы только что говорили.
Пожалуй, это главная проблема сегодняшнего искусственного интеллекта. Но даже система Deep Blue, в основе функционирования которой лежала не нейронная сеть, а масштабный поиск наилучшего варианта среди миллиардов возможных, не могла точно сообщить, почему был сделан тот или иной ход. Получив рекомендации от Deep Blue, нам предстояло проделать еще немало работы, чтобы понять, почему система выдала такие рекомендации. Думаю, что это справедливо и для современных систем искусственного интеллекта. В группе, где я работаю, одна из ключевых исследовательских задач заключается в обеспечении возможности интерпретации выводов, сделанных системами искусственного интеллекта. Системы дополненного интеллекта, о которых я говорил ранее, могут стать более эффективными, если они окажутся способными разъяснить человеку, принимающему решение, что именно заставило их выдать те или иные рекомендации.
- Какие подходы для этого применяются?
Машинное обучение может использоваться сегодня для описания самого машинного обучения. Допустим, у вас есть система, которая выдает решения или прогнозы. Проделав определенную работу, вы пытаетесь понять, чем обусловлено то или иное ее решение, и находите понятную для себя причину, разъясняющую, почему его следует считать удачным или почему оно было принято. После этого можно построить систему, которая на основании примеров решений и разъяснений к ним будет учиться выдавать собственные полезные пояснения. Вот вам один подход.
Существует несколько стандартных подходов к машинному обучению, позволяющих повышать степень интерпретируемости систем за счет правил, поскольку правила интуитивно понятны людям. Например, если температура больше заданной величины, а влажность равна заданному показателю, то человек будет чувствовать себя в таких условиях некомфортно.
Конечно, имеются и ограничения. Многие явления реального мира весьма сложны, и простого набора правил для их описания недостаточно. Это важная тема для исследований, и множество людей заняты сегодня в этой области. Необходимо, чтобы пояснения были не только верны, но и полезны. В настоящее время мы ищем приемлемые компромиссы.
- Ранее уже звучала мысль о юридической ответственности. Что можно сказать о надежности пояснений и их привязке к мотивировочной части системы искусственного интеллекта, позволяющей использовать их в судебных процессах?
Вопрос этот находится вне сферы моей компетенции, поскольку лежит в юридической плоскости, но я полагаю, что в ближайшие десятилетия ответственность за решения должны нести принимавшие их люди. Рекомендации компьютера наряду с пояснениями к этим рекомендациям превращаются в полезный инструмент, но это всего лишь инструмент, а в конечном итоге ответственность лежит на принявшем решение человеке.
- Расскажите, пожалуйста, о предлагаемых вами подходах, которые помогают компьютерам работать с людьми, а также об областях, в которых они могут быть использованы.
Коснемся немного сферы здравоохранения. Используя подходы глубинного обучения, мы в IBM разработали систему распознавания рака кожи по фотографии. На основании снимка пораженного участка рак диагностируется с очень высокой точностью, которая превышает точность заключений, выданных специалистами.
Но это не позволяет оценить состояние пациента полностью, то есть речь идет лишь об определенной части информации, которая должна быть предоставлена врачу. Врач лично проводит осмотр пациента, изучает историю его болезней и выдает, например, такое заключение: «С вероятностью 85% пораженный участок является злокачественной опухолью, требуется биопсия». Это только рекомендация, но врач может прийти к выводу, что «никаких проблем нет, поскольку…». Вот вам лишь один пример.
Интересную тему представляет и поддержка стареющего населения по месту жительства. Дома стареющих людей оборудуются датчиками и технологиями Интернета вещей, а системы искусственного интеллекта проверяют состояние этих датчиков, выявляя признаки аномального поведения, что может свидетельствовать о наличии проблем, которые должны привлечь внимание ухаживающих за ними опекунов.
Современный мир очень сложен, и мы не знаем, на чем сосредоточить свое внимание. Информации так много, что если бы у нас была система, помогающая сфокусироваться на важных вещах, то можно было бы развивать технологии искусственного интеллекта совместными усилиями.
- Что вас больше всего интересует в области искусственного интеллекта с точки зрения дальнейшего влияния на вашу жизнь?
Надеюсь, что к тому времени, когда я выйду на пенсию, системы поддержки стареющего населения по месту жительства будут уже достаточно проработаны, и я смогу воспользоваться их преимуществами.
По мере развития искусственного интеллекта многие из систем, существующих сегодня в весьма ограниченном виде, станут гораздо более полезными в условиях реального мира.
Системы глубинного обучения стремительно набирают популярность, но, на мой взгляд, сегодня они ориентированы преимущественно на процессы восприятия. Вы получаете изображение, какой-то фрагмент аудиозаписи или что-то еще и классифицируете изображение или преобразуете аудиозапись в текст.
Однако реальные многоступенчатые рассуждения, планирование и стратегическое мышление не относятся к числу сильных сторон современных систем искусственного интеллекта, и вот здесь-то на помощь приходит человек. Ранее я уже говорил о том, как системы искусственного интеллекта помогли людям сосредоточиться на главном. Думаю, вполне можно было бы нацелить системы искусственного интеллекта на решение существующих проблем и поиск направлений, которые способны принести что-то полезное.
Скорее всего, в следующем десятилетии люди начнут использовать свои сильные стороны, а машины будут привносить свой вклад в их совместную деятельность. Я вижу, что это происходит практически в каждой области: в здравоохранении, образовании, поддержке стареющего населения... и далее вы можете продолжить сами.
- Вы создаете системы искусственного интеллекта для решения тех или иных задач, а помогают ли они вам в вашей работе?
Будучи исследователем, я, естественно, использую какие-то инструменты. К ним относятся, в частности, средства поиска в Интернете, анализа технических публикаций и выявления среди них тех, которые могли бы меня заинтересовать. Что же касается определения вопросов, на которых мне следовало бы сосредоточиться, и поиска наиболее перспективных и прибыльных направлений исследований, здесь я не вижу инструмента, который мог бы реально мне помочь. Если бы мне удалось разработать такой инструмент, то результатом его применения, очевидно, станет какой-то крупный проект, который продемонстрирует существенное повышение эффективности моей исследовательской деятельности.
- Может быть, именно это окажется следующим серьезным вызовом?
Безусловно, это одна из актуальных задач, стоящих перед нами, но она не единственная. В мире есть масса проблем, которые ежедневно затрагивают миллионы и даже миллиарды людей. В сообществе, связанном с искусственным интеллектом, нас каждый день захлестывают информационные потоки, точно так же, как и миллиарды других людей. Число публикуемых ежедневно технических документов поражает даже в сравнении с тем, что было пять лет назад, и мы, как и все, нуждаемся в помощи.
