В списке из шести основных направлений исследований, перечисленных в отчете AI100, аппаратное обеспечение стоит на последнем месте, однако это никак не умаляет его важности, — программное обеспечение должно на чем-то работать, а традиционные компьютеры для этих задач не подходят, нужно что-то поближе к мозгу.

Идея гипотетической машины, имитирующей мозг, впервые была высказана Аланом Тьюрингом в 1948 году в отчете «Intelligent Machinery». В представлении Тьюринга она состояла из искусственных нейронов и модифицируемых устройств, которые могли бы пропускать или не пропускать проходящий через них сигнал.

В 1958 году Фрэнк Розенблатт опубликовал статью «Перцептрон: Вероятная модель хранения и организации информации в головном мозге», на онове которой в 1960 году в Корнелльском университете был собран нейрокомпьютер «Марк-1», способный распознавать буквы.

Примерно в то же время профессор Стэнфордского университета Бернгард Уидроу и его аспирант Тед Хофф, в будущем — один из создателей первого микропроцессора, создали машину ADALINE, реализующую нейронную сеть на трехпозиционных элементах, известных как меристоры (не путать с мемристорами). Стоит посмотреть запись демонстрации работы ADALINE в доме Уидроу с его участием. Меристоры (резисторы, сохраняющие свое состояние после прохождения заряда) были разработаны Леоном Чуа для построения ячеистых нейронных сетей (Cellular Neural Network, CNN). В современных условиях они используется и для иных целей, прежде всего в проекте The Machine компании HP.

Как бы ни были велики научные достижения в области искусственного интеллекта, до мозга им было очень далеко, это особенно остро чувствуется при просмотре сюжета с участием Уидроу. Его ADALINE, как и «Марк-1» Розенблатта, — даже не модели, а некоторые иллюстрации к идее. Одним из первых это понял Карвер Мид, возможно, один из немногих современных универсальных гениев. Он писал: «Я верю в то, что отцы-основатели искусственного интеллекта Марвин Минский и Джон Маккарти были правы в своих взглядах, но когда дошло до дела, выяснилось, что им для реализации своих взглядов требуются компьютеры, как минимум на восемь-девять порядков более мощные, чем те, которыми они располагали. Осознав наличие этого барьера, сообщество искусственного интеллекта распалось на две группы, одни отправились на поиски этих порядков, а другие продолжили делать вид, что они занимаются наукой искусственного интеллекта. Я из тех, кто пошел на поиски этих восьми-девяти порядков». В результате он решил задачу перевода логического описания полупроводниковых устройств в кремний, ее еще называют задачей кремниевой компиляции. В начале 1970-х Мид осознал, что необходимо отделить проектирование от производства и выделить автоматизацию проектирования электроники (Electronic Design Automation, EDA) в самостоятельную дисциплину. Кремниевая компиляция лежит в основе всех современных средств проектирования.

Но автоматизация проектирования при всей ее значимости была побочным продуктом, потому что основной целью было создание больших интегральных схем для нейроморфных компьютеров. По первоначальному замыслу нейроморфный компьютер представлялся как сверхбольшая интегральная схема (Very-Large-Scale Integration, VLSI), состоящая из аналоговых элементов, имитирующих мозг. Однако здесь Мид столкнулся с препятствием. Полупроводниковое производство по природе своей не приспособлено к выпуску уникальных изделий, оно экономически оправданно лишь в том случае, если возможно массовое тиражирование, — слишком велики инвестиции в технологии. Как бы ни были интересны замыслы Мида, они, как и замыслы первопроходцев искусственного интеллекта, оказались нереализуемыми, во всяком случае на технологическом уровне 1990-х годов. Миду не удалось создать нейроморфный компьютер, и в этом направлении примерно на 20 лет наступило затишье.

Успехи в технологиях полупроводников, наблюдаемые в последние годы (новые поколения GPU, FPGA и ASIC), позволили возвратиться к идее нейроморфных компьютеров, а «весна искусственного интеллекта» опередила практическую потребность в них. В мире есть несколько государственных проектов по созданию компьютеров для искусственного интеллекта, среди них Human Brain Project (Евросоюз), IARPA (США) и Darwin (Китай).

На данный момент можно выделить три направления в развитии аппаратного обеспечения для систем искусственного интеллекта.

Первое — возродившиеся универсальные нейроморфные компьютеры, в том числе европейские проекты BrainScaleS (Институт физики Гейдельбергского университета) и SpiNNaker (Манчестерский университет), а также проект TtueNorth (IBM). Все они чрезвычайно интересны, но при взгляде на них возникает тот же вопрос: не станет ли тормозом для них вышеупомянутая врожденная особенность полупроводниковых производств — сложность и дороговизна выпуска мелкосерийных изделий.

Второе направление — графические процессоры и различные надстройки над ними, позволяющие создавать системы, близкие по смыслу к нейроморфным компьютерам, но использующие преимущества массовых технологий. На данный момент это направление развивается в компании Nvidia и в проектах Big Sur (Facebook) и TensorFlow (Google).

Третье направление — специализированные системы, прежде всего адаптированные для глубинного обучения. Над их созданием работает, в частности, стартап Nervana, который унаследовал традиции Sun Microsystems и в августе перешел в собственность Intel. Известная процессорами для мобильных устройств Qualcomm несколько лет развивает свой проект Zeroth NPU. Компания Numenta, основанная Джеффом Хокинсом, который вошел в историю со своими опередившими время компьютерами Palm, разрабатывает платформу NuPIC (Numenta Platform for Intelligent Computing). А в Knowm адаптируют мемристоры для целей машинного обучения.

Программа «100 лет изучения ИИ» (One Hundred Year Study on Artificial Intelligence, AI100) служит подтверждением корректности разделения искусственного интеллекта на Сильный и Слабый и большей перспективности последнего. Она была предложена в 2014 году большой группой экспертов во главе с Эриком Гурвицем, руководителем исследовательской лаборатории Microsoft в Редмонде. Со стороны индустрии AI100 поддержана Apple, Facebook, Google, IBM, Microsoft, Amazon, IBM и другими компаниями.

AI100 стала продолжением предшествующей программы, которая называлась AAAI Asilomar Study и сложилась в результате регулярных встреч членов ассоциации Association for the Advancement of Artificial Intelligence (AAAI) в историческом центре конгрессов Asilomar Conference Grounds.

По программе AI100 предполагается оценить влияние искусственного интеллекта на автоматизацию всех видов человеческой деятельности, на национальную безопасность, психологию, этику, закон, права личности, демократию и многое другое. Коллега Гурвица, профессор биоинженерии и компьютерных наук в Стэнфордском университете Русс Алтман описал программу так: «Наша цель состоит в создании такого процесса, который бы позволил заглянуть в будущее на 30, 50 и 70 лет, хотя сейчас еще не совсем понятно, что такое искусственный интеллект и как его следует изучать».

Ключевым моментом для понимания позиции AAAI служит определение искусственного интеллекта, данное Нильсом Нильсоном, ветераном Центра исследований искусственного интеллекта в составе Стэнфордского исследовательского института (SRI International), в 2010 году. Оно звучит следующим образом: «Искусственный интеллект — это деятельность, нацеленная на создание умных машин, то есть таких машин, которые могут действовать соответствующим образом и прогнозировать изменения в окружающей среде». Ранее в 1971 году он дал следующую формулировку: «Цель работ по искусственному интеллекту – создать машины, которые будут выполнять функции, обычно требующие применения человеческого интеллекта». Оба определения ограничиваются областью действия Слабого ИИ.

1 сентября по программе AI100 был выпущен первый отчетный документ. Отчет включает итоги дискуссий, которые происходили на конференции, организованной в 2015 году. В нем определены области исследования и области практического применения искусственного интеллекта.

Основные области исследований

— Широкомасштабное машинное обучение (Large-scale machine learning). Основные положения машинного обучения (с учителем и без учителя) хорошо известны. Сейчас важно адаптировать их к новым условиям с учетом специфики работы с Большими Данными. Основы широкомасштабного машинного обучения изложены в книге Джефа Ульмана и работах Стэнфорда.

— Глубинное машинное обучение (Deep machine learning). Сочетание возможностей сверточных нейронных сетей, предложенных Яном Лекуном, с доступным аппаратным обеспечением на основе GPU открыло возможности для практических работ в таких областях, как компьютерное зрение, разметка видео, распознавание изображений и звука, обработка текстов на естественном языке (NLP). Содержательное введение в Deep learning можно найти в работе Андрея Куренкова A 'Brief' History of Neural Nets and Deep Learning, Part 1.

— Обучение с подкреплением (Reinforcement learning). В отличие от традиционного машинного обучения, сосредоточенного на распознавании и поиске образов, фокус обучения с подкреплением сдвинут в сторону принятия решений. Эти технологии предполагают познание внешнего мира, с кибернетической точки зрения это называют откликом на принятые решения, которые являются сигналы подкрепления. Данный вид обучения известен довольно давно — фундаментальный учебник Reinforcement Learning: An Introduction издан в конце 90-х годов, но практические результаты были получены совсем недавно, когда программа AlphaGo одержала победу над человеком. На первых порах AlphaGo тренировалась на реальных играх человека с человеком, а впоследствии играла сама с собой.

— Робототехника (Robotics). Основные усилия в этой области направлены на обеспечение предсказуемого взаимодействия робота с окружающей средой. Успехи последних лет связаны с достижениями в описанных выше трех подходах к машинному обучению.

— Машинное зрение (Computer vision). Это наиболее продвинутое направление в восприятии машиной внешней среды развивается на протяжении почти полувека, но практические результаты стали возможны с появлением GPU и успехами в области машинного обучения, достигнутыми за последние несколько лет.

— Обработка естественного языка (Natural Language Processing, NLP). Еще одно важное направление в развитии восприятия машиной внешней среды. Оно известно с работ Алана Тьюринга, проводимых еще в 50-х годах ХХ века, и сегодня содержит внутри себя десятки разных ветвей. Особое внимание в последние годы привлекают к себе автоматическое распознавание речи, перевод в реальном времени и создание новых систем взаимодействия человека с машиной. Классиком этого направления является Кристофер Мэннинг.

— Системы взаимодействия (Collaborative Systems, СS). Объектами исследования в области CS служат модели и алгоритмы, позволяющие разрабатывать автономные системы, способные взаимодействовать с другими системами и с человеком. Цель CS — в создании таких систем, где человеческий интеллект мог бы усиливать возможности искусственного интеллекта, и наоборот, технологии искусственного интеллекта помогали бы работе человека.

— Краудсорсинг и вычисления с использованием способностей человека (Crowdsourcing and human computation). Краудсорсинг — технологии, поддерживающие совместную интеллектуальную деятельность людей, а вычисления с использованием способностей человека (Human-Based Computation, HBC) — это задействование человеческих возможностей в тех приложениях, где они превосходят возможности компьютера. Работы, объединяющие оба направления, начались относительно недавно, примерно 15 лет назад. Они поддерживаются средствами машинного зрения, NLP и другими, обеспечивающими доступ к большим объемам данных.

— Сочетание теории игр с теорией общественного выбора (Algorithmic game theory and computational social choice).

— Интернет вещей (Internet of Things, IoT).

— Нейроморфные компьютеры (Neuromorphic Computing). Компьютеры, построенные по образу и подобию мозга, имеют многолетнюю историю. С появлением GPU и распространением технологий машинного обучения, прежде всего глубинного обучения, эта область активно трансформируется из узкой, академической в практическую, обеспечивающую реальную работу приложений.

Практические приложения искусственного интеллекта

Скорее всего, первым массовым приложением искусственного интеллекта, которое радикально изменит образ жизни людей, станут интеллектуальные транспортные системы.

— Умные автомобили, поддерживающие водителя многочисленными сервисами (контроль работы механизмов и систем, навигация, автоматизация движения и парковки, взаимодействие с другими участниками движения и прочее).

— Самоуправляемые автомобили, способные не только повысить безопасность перевозок, но и изменить в целом модель пользования автомобилями: люди могут отказаться от владения ими и перейти к сервисной модели. Уже сегодня предпосылки к этой модели демонстрируют Uber, Lyft и другие аналогичные компании.

— Автоматизированное управление транспортными потоками в городской среде в сочетании с разнообразными способами организации совместных перемещений (ridesharing), частным случаем чего является совместное использование автомобиля (сarpooling).

К 2030 году с внедрением домашних роботов, прежде всего роботов-уборщиков, заметно изменится быт.

Технологии искусственного интеллекта радикально изменят систему здравоохранения, охватят все ее составляющие — организацию клиник, медицинскую аналитику, медицинских роботов, мобильную медицину, средства для ухода.

Образование пополнится технологиями интеллектуального обучения и онлайнового контроля и средствами аналитики, позволяющими индивидуализировать процесс обучения.

Смена парадигмы искусственного интеллекта

Авторы отчета связывают будущее искусственного интеллекта со сменой основной парадигмы. Прежде доминировал подход, основанный на моделях (model-based), в том числе физический подход к машинному зрению, традиционное представление об управлении в робототехнике, традиционные алгоритмы NLP. Сегодня его сменяет альтернативный подход, основанный на данных (data-driven). Возможность обрабатывать большие объемы данных в сочетании с методами машинного обучения вытесняют ставшие популярными совсем недавно решения, в основе которых байесовская вероятность и графические модели. Системы искусственного интеллекта будут в большей степени ориентированы на человека.

В то же время в отчете есть обращение к молодым ученым, в котором их призывают не только взять на вооружение актуальные на сегодняшний день методы, но и не отвергать и изучать опыт из предшествующих пятидесяти лет искусственного интеллекта, а также из смежных наук — теории управления, когнитивных наук и психологии.

Наблюдаемые метаморфозы искусственного интеллекта по логике напоминают разделенный на четыре стадии жизненный цикл бабочек: яйцо, гусеница, куколка, бабочка, только в данном случае стадий три. Исторически первая — Сильный ИИ (Strong AI), затем Слабый ИИ (Weak AI), из которого разлетаются разнообразные интеллектуальные приложения.

Искусственный интеллект (ИИ) полвека пребывал в том периоде начального становления, который наблюдался практически во всех естественных науках — физике, биологии, астрономии и др., — в медицине и продолжается до сих пор в некоторых гуманитарных науках, особенно в истории и, конечно же, в экономике. В этот совершенно закономерный с точки зрения науковедения период становления науки возникает огромное количество объяснительных теоретических подходов. Часть из них слабо, а чаще всего вообще никак не подкреплены ни экспериментами, ни практикой. Но эти подходы-заблуждения объективно необходимы, в последующем они помогают формированию рациональных теорий и практик. Полвека искусственного интеллекта по меркам истории наук — совсем небольшой срок, гораздо дольше этот период продолжался в физике, там он начался в античные времена, бурно расцвел в XVII — XVIII веках, а в некоторых направлениях продолжался до середины XX века, в чем можно убедиться, почитав, например, воспоминания академика А.Д. Сахарова.

В качестве образного примера для иллюстрации такого рода эволюции в науке можно обратиться к теории флогистона. Будучи ошибочной по существу, флогистонная теория горения оказала благотворное влияние на развитие химии. Согласно этой теории, процесс горения объясняется наличием в горючих телах особого вещества — флогистона. Теория была логичной и простой, поэтому она позволила с единой точки зрения рассматривать химические реакции как процессы перехода флогистона от вещества, богатого флогистоном, к веществу бедному им. Таким образом, любая реакция требовала всегда не менее двух веществ: одного, способного отдать флогистон, и другого, способного его принять. Вторая половина XVIII века была отмечена грандиозной дискуссией между сторонниками и противниками флогистонной теории, из которой выросла современная химия. Она обрела нынешнее положение лишь в 1860 году после конгресса в Карлсруэ, где собрались несколько сотен выдающихся химиков; членом российской делегации был Дмитрий Менделеев. До этого собрания химия не имела согласованного базиса, что отличало ее от физики, построенной на известных законах, не было единой нотации, даже такое структурно простое соединение, как вода, имело несколько форм записи, что говорить о более сложных.

Своего рода «флогистоном» в приложении к ИИ является идея, предполагающая возможность создания интеллектуальных, или разумных машин. Возможны они или нет — непонятно, видимо, все-таки нет, но обсуждение этой темы в конечном итоге приводит к созданию новых машин и технологий — не будь этого смутного периода, не было бы сегодня того, что мы называем «весной ИИ».

Идея разумной машины принадлежит Джону Маккарти. В 1956 году он выступил с докладом, где дал определение: «ИИ – это наука и инженерное искусство создания интеллектуальных машин, в частности – интеллектуального программного обеспечения», чем поднял волну увлечения идеей разумности машин. У многих убеждение в возможности создания разумных машин сохранилось по сей день. Среди тех, кто не только верит в потенциальную разумность машин, но и предостерегает от опасности ИИ в будущем, есть люди, вызывающие доверие. Наиболее радикальных взглядов придерживается выдающийся британский астрофизик Стивен Хокинг, убежденный в том, что попытки создания думающих машин станут угрозой существования человека. Пару лет назад он заявил следующее: «Разработка полноценного ИИ станет концом человеческой расы». Он считает, что разработка примитивных форм ИИ, наблюдаемая сегодня, полезна, но рано или поздно приведет к созданию машин, которые станут умнее человека, поскольку машины эволюционируют быстрее, чем живые существа. Примерно такую же позицию занимает Илон Маск, который назвал ИИ одной из наиболее значительных угроз человечеству, не меньшей, чем ядерное оружие, и призвал к принятию мер регламентации. Что же касается Билла Гейтса, то он демонстрирует непоследовательность: в 2015 году солидаризировался с Маском, а в 2016-м утверждает, что не видит в ИИ никакой угрозы. Самый известный сегодня футуролог и автор пяти популярных книг по ИИ Рэй Курцвейл верит в разумность машин, но не видит в них опасности.

Тем не менее есть вполне обоснованные сомнения в возможности создания разумных машин, во всяком случае при нынешнем уровне развития технологий. Считается, что отрицательный теоретический ответ на вопрос о возможности создания разумной машины дает теорема Геделя. Все современные компьютеры — это в конечном счете программируемые автоматы, в основе которых лежит машина Тьюринга. Если удастся создать нейронную машину Тьюринга (Neural Turing Machine), связанную с внешней средой, то можно будет говорить о технической основе разумной машины, но это лишь одна сторона вопроса, поскольку разум — это результат эволюционного процесса.

Не подвергая критике труды Маккарти и его последователей и не вступая в полемику, можно лишь удивляться их наивной вере в близкие результаты в те далекие времена. Вот такой пример. В Америке из готовых наборов полуфабрикатов собирают всевозможные вещи, от легких самолетов до домашней утвари. Вот почему Маккарти в 1966 году в качестве задания студентам на лето (!) предложил создать такой робот, который бы смог собрать цветной телевизор из соответствующего комплекта деталей. Задание на лето — не меньше и не больше! — так он оценил сложность проблемы. Набор был куплен, но прошло отнюдь не одно лето, а дело так и не сдвинулось с мертвой точки. В конечном счете телевизор, как и было задумано, собрали, но вручную, и он украсил холл общежития.

Романтическое отношение к ИИ не минуло и CCCР. Еще в 1960-х математик Рудольф Зарипов разработал набор математических правил для составления мелодий на ЭВМ «Урал-1». В 70-80 годы сложилось несколько школ — прежде всего в академических НИИ, в МГУ, в Московском энергетическом институте (МЭИ). Конечные результаты этих работ сравнимы с успехами в автоматизации сборки телевизора. К тому же у нас английское Artificial Intelligence по созвучию, которое называют ложным другом переводчика, ввели термин «искусственный интеллект», забыв, что два слова Intellect и Intelligence действительно близки по смыслу, но далеко не тождественны. Intellect в большей мере означает способность мозга к познанию и логическим выводам, а Intelligence — практическую способность к реализации этих знаний. Кроме того, оно имеет целый ряд иных смыслов, в том числе, «сообразительность», «смышленость», «получение информации» и даже «разведка». У нас сделали упор на Intellect, и это обстоятельство спровоцировало большое число психологических и философских исследований, чрезвычайно эффектных по форме и сомнительных по содержанию. Скорее всего, следовало бы переводить intelligence как «умственные способности», а не «интеллект», но уж что сделано, то сделано.

Среди тех, кто начинал работы по ИИ, нашлись и более здраво и рационально мыслящие люди. Среди них Нильс Нильсон из Центра исследований ИИ в составе Стэнфордского исследовательского института (SRI International). В 1971 году он дал более определенную формулировку: «Цель работ по ИИ – создать машины, которые будут выполнять функции, обычно требующие применения человеческого интеллекта». Сравним это определение с определением Маккарти: Нильсон делает ставку не на гипотетические интеллектуальные машины, а на те машины, которые всего лишь способны подменить или дополнить возможности человека. Казалось бы, отличие в нескольких словах, но постановка задачи качественно иная! Наиболее полно концепция Нильсона изложена в трудах его учеников. В 2007 году на русском языке была издана книга Стюарта Рассела и Питера Норвига «Искусственный интеллект: современный подход». Учебник используется в курсах ИИ во многих университетах мира.

Другой видный специалист в области ИИ Карвер Мид перешел в область создания технологий для разработки электронных компонентов (Electronic Design Automation, EDA). Он писал: «Я верю в то, что отцы-основатели искусственного интеллекта Марвин Минский и Джон Маккарти были правы в своих взглядах, но когда дошло до дела, выяснилось, что им для реализации своих взглядов требуются компьютеры, как минимум на восемь-девять порядков более мощные, чем те, которыми они располагали. Осознав наличие этого барьера, сообщество ИИ распалось на две группы, одни отправились на поиски этих порядков, а другие продолжили делать вид, что они занимаются наукой ИИ. Я из тех, кто пошел на поиски эти восьми-девяти порядков».

Чтобы отделить глобальные замыслы от утилитарных практических задач, все поле ИИ делят на «сильный ИИ» (general AI, wide AI, strong AI) и «слабый ИИ» (specialized AI, narrow AI, weak AI). С философской точки зрения разногласие между сильным ИИ и слабым ИИ связано с гипотезой о том, что некоторые формы искусственного интеллекта могут действительно обосновывать и решать проблемы Сторонники сильного ИИ предполагают, что компьютеры смогут приобрести способность мыслить и осознавать себя, хотя и не обязательно их мыслительный процесс будет подобен человеческому. Сторонники слабого ИИ сосредотачивают свои исследования и практическую работу на прикладных вещах. Термин «сильный ИИ» был введен Джоном Серлем, который охарактеризовал его следующим образом: «...такая программа будет не просто моделью разума; она в буквальном смысле слова сама и будет разумом, в том же смысле, в котором человеческий разум — это разум». Итак:

Сильным ИИ (Strong AI) называют обобщенный искусственный разум (Artificial general intelligence), материализованный в форме некоторой гипотетической машины, которая проявляет мыслительные способности, сравнимые с человеческими способностями, а также исследования в этом направлении. Сильный ИИ наделяют такими чертами, как способность ощущать (sentience), способность выносить суждения (sapience), самосознание (self-awareness) и даже самосознание (consciousness).

Слабым ИИ (Weak AI) называют не имеющий разума и компьютерные умственные способности (Non-sentient computer intelligence), ориентированный на решение прикладных задач.

Самый известный и доступный пример слабого ИИ — разработанная Apple для iOS вопросно-ответная система Siri (Speech Interpretation and Recognition Interface). Это приложение использует обработку естественной речи, чтобы отвечать на вопросы и давать рекомендации. Siri приспосабливается к каждому пользователю индивидуально, изучая его предпочтения в течение долгого времени, но оно в полном смысле узкое. К слабому ИИ относятся работы по автоматизации вождения автомобиля, системы глубинного машинного обучения. обработки данных на естественных языках (Natural Language Processing, NLP).

Наблюдая за происходящим, можно обнаружить интересную закономерность. Как только в областях, которые можно отнести к слабому ИИ, удается получить значимые результаты, связь между ними и ИИ по сути рвется, они превращаются в автономные направления. Можно сказать, что зачатые в ИИ, они продолжат самостоятельное существование, а слабый ИИ остается всего лишь зонтичным термином для группы современных технологий. Ученые старой школы сетуют на это обстоятельство, они называют его специальным термином «дефундаментализация науки», но что поделать, такова логика технического прогресса.

Нельзя исключать, что когда-нибудь успехи слабого ИИ сделают возможным создание сильного ИИ, и тогда цикл бабочки замкнется.

Все предыдущие шестьдесят лет искусственного интеллекта — это не что иное, как череда громких обещаний с последующими неизбежными фиаско, приведшая к явлению, названному «зимой искусственного интеллекта» по аналогии с более известной «ядерной зимой». Выделяют несколько циклов подъема и спада, поэтому можно говорить более чем об одной «зиме ИИ», а основным признаком зимы считают отказ государств от финансирования исследований, так или иначе связанных с искусственным интеллектом. Так было и в СССР, и в других странах. Наиболее заметны два основных цикла: первый пришелся на 1974-й –1980 годы, когда стало ясно, что обещанное решение глобальных задач типа перевода с естественных языков и понимания речи, а также достижение других великих целей, предвещаемых первопроходцами, откладывается на неопределенный срок. Затем был период относительного подъема, вызванный появлением языка LISP и японского проекта «компьютера пятого поколения», за которым, однако, тоже последовала зима.

В Википедии есть большая статья "AI winter", в ней подробно рассказывается о кризисе искусственного интеллекта на Западе и его причинах. О происходившем в СССР, например, можно узнать из материалов круглого стола «Парадигмы ИИ» или из статьи, опубликованной в «Науке в Сибири».

Казалось бы, все в прошлом и искусственный интеллект свернулся до узких групповых интересов немногочисленных академических ученых: все еще есть публикации, проводятся скромные по своим масштабам конференции, но эта жизнь не выходит за академические рамки. На таком фоне примерно десять лет назад обнаружилось нечто неопределенное, что повисло в воздухе, появились признаки грядущих изменений, и тогда в статье «Весна придет» была высказана уверенность в неизбежности очередного подъема искусственного интеллекта. Вскоре это мнение получило подтверждение тем обстоятельством, что к искусственному интеллекту обратились гранды индустрии. Важно отметить, что новая волна вызвана успехами в технологиях и прикладной науке, а не достижениями в тех областях, которые апологеты «старого» искусственного интеллекта считают фундаментальной наукой. К теме соотношения науки и технологий в этом контексте мы еще вернемся в последующих публикациях, здесь же остановимся на внешних проявлениях нынешнего интереса к искусственному интеллекту, что позволит лучше представить «массовое» актуальное видение искусственного интеллекта.

Зима закончилась, когда появились деньги и реальный практический интерес к искусственному интеллекту. Заметнее всего огромные инвестиции, которые вкладывают гиганты в приобретение успешных частных малых компаний. В сумме на покупку перспективных компаний в данной сфере Google, Facebook, Microsoft, Baidu и им подобные затратили более 8,5 млрд долл. Это не очень много в сравнении с тем, что происходит в индустрии, например, если соотнести с размером сделки между Dell и EMC, однако не следует забывать, что это качественно иное, это вложения на перспективу. Что же касается инвестиций в исследования и разработки, то здесь опубликованной статистики пока нет, но косвенно об интересе к этой сфере говорит хотя бы то, что только одна Toyоta, далеко не самая профильная компания, объявила о намерении инвестировать в искусственный интеллект 1 млрд долл.

О масштабах происходящего можно судить по состоянию рынка ИИ-компаний. Венчурный капитал начал поддержку таких компаний, казалось бы, совсем недавно, в 2011 году, но уже сейчас 60% из числа созданных с того времени стартапов раскуплены, причем первая покупка состоялась практически сразу же, в 2012 году. Всего за пять лет было куплено 30 частных компаний, и пять фирм — только в первой половине текущего года, то есть темпы возрастают. Главными покупателями, которые приобрели по меньшей мере три компании, являются Google, IBM, Yahoo, Intel, Apple, AOL, Twitter и Salesforce. Что касается Facebook, то она не попала в этот список потому, что не раскрыла два своих приобретения. Больше всех, девять компаний, купила Google, из них самая известная — британская DeepMind Technologies, чей продукт стал чемпионом в игре го. Ниже приводится список купленных компаний и тематика их работ.

Cleversense — Рекомендательное приложение для ресторанов

DNNresearch — Глубинное обучение и нейронные сети для поиска в изображениях

Indisys — Обработка текстов на естественных языках (Natural Language Processing, NLP)

IQ Engines — Распознавание изображений

LookFlow — Распознавание изображений

SkyPhrase — NLP

DeepMind — Самообучающиеся алгоритмы

Convertro — Интеллектуальный маркетинг

Cogenea — Виртуальные помощники с искусственным интеллектом

Madbits — Глубинное обучение с ориентацией на NLP и анализ изображений

Emu — Системы мгновенного обмена изображениями с искусственным интеллектом

Jetpac — Агрегирование изображений из социальных сетей с целью создания путеводителей

Dark Blue Labs — Глубинное обучение для извлечения смысла из естественных языков

Vision Factory — Распознавание текстов и изображений средствами глубинного обучения

Timeful — Умные расписания

Explorys — Предсказательная аналитика в медицине

Granata Decision Systems — Предсказательная аналитика в маркетинге

AlchemyAPI — Облачная платформа для NLP

Sociocast — Предсказательная аналитика

TellApart — Предсказательная аналитика в электронной коммерции

Whetlab — Развитие технологий глубинного обучения

Tempo AI — Умный календарь

Perceptio — Технологии искусственного интеллекта для смартфонов

Vocal IQ — Распознавание речи

Saffron — Когнитивные компьютерные платформы

Emotient — Распознавание эмоций и анализ тональности текста

PredictionIO — Сервер с открытым кодом для машинного обучения

MetaMind — Персонализация и поддержка клиентов

Itseez — Машинное зрение и распознавание образов

Magic Pony — Машинное обучение и обработка изображений

Вторая тенденция последних лет — смещение фокуса исследований в области искусственного интеллекта в сторону индустрии, о чем можно судить по месту работы авторов статей. Известна следующая статистика публикаций 100 наиболее цитируемых ученых в области нейронных сетей: в 2006 году около 80 из них работали в академических учреждениях, примерно 20 были так или иначе аффилированы с индустрией и только несколько человек работало в компаниях. Спустя 10 лет картина совершенно иная: примерно по 40 работают в компаниях или как-то связаны с ними, менее 10 остались в академии. Показательны и личные примеры наиболее заметных фигур. Ян ЛеКун (Yann LeCun), создатель сверточных нейронных сетей (convolutional neural network, CNN), стал сотрудником Facebook после того, как та купила основанную им компанию DeepMind. Эндрю Ын (Andrew Ng) — профессор Стэнфордского университета, специалист в области робототехники и машинного обучения — в 2014 году перешел в исследовательское подразделение Baidu Research китайской корпорации Baidu, расположенное в Кремниевой долине.

Примеру мэтров следуют выпускники университетов. Если раньше большинство из них оставались в академии, других вариантов не было, то сейчас компании буквально объявили охоту на них. Так, Uber в прошлом году приняла 40 из 140 выпускников Робототехнического центра при университете Карнеги-Меллон. Преподаватели огорчены тем, что компании делают свои предложения раньше, чем студенты успевают закончить курс.

Все это может не радовать ревнителей чистоты искусственного интеллекта, но такова жизнь. В следующих материалах попытаемся проанализировать причины происходящего.

Есть несколько возможных путей для тех, кто хочет защитить свои данные в киберпространстве. Первые два очевидны — применять криптографию при переписке в электронной почте и при использовании сервисов мгновенного обмена сообщениями. Третий — не оставлять на дисках лишних данных, учитывая, что удаление файла командой Delete в большинстве случаев уничтожает только его имя в таблице, а сами данные остаются на месте (на этом основано восстановление разрушенных дисков). Если файл полностью стерт, при проникновении в компьютер не произойдет неожиданностей. И четвертое, о чем пойдет речь ниже, — поддерживать режим анонимности при обращении к сайтам, а владельцам сайтов скрывать свои IP-адреса.Такую возможность дает уникальная технология «луковой» маршрутизации Tor (The onion router); она отличается присущей только ей коннотацией — как отрицательной, так и положительной.

Коннотацией со знаком минус, потому что на Tor держится «темная сторона Web», а как известно, заметную часть сервисов Dark Web составляют те, что связаны с распространением наркотиков, детской порнографии, оружия и т. п. Самым известным примером такого рода является Silk Road, торговая площадка по распространению наркотиков. Она была создана в 2011 году, а прикрыта в 2013-м, что было неоднозначно воспринято «либерториански» настроенной частью общества. Так или иначе, ее создатель Росс Ульбрихт, безусловно талантливый человек, вполне заслуженно получил в 2015 году пожизненное заключение. Его деятельность пытались всячески обелить, но никакие юридические трюки, оправдывающие его, не сработали. Осуществлявшее расследование ФБР сначала уничтожило первый вариант Silk Road, затем второй, Silk Road 2, но сейчас предпринимаются попытки создания еще более защищенной версии Silk Road 3. В общем — очередная игра «сыщик ищи вора» с положительной обратной связью.

Коннотацией со знаком плюс, потому что защитниками Tor стали борцы за свободу из разных общественных организаций вроде Electronic Frontier Foundation, а самыми ярыми противниками оказываются не слишком симпатичные персонажи из стран с авторитарными режимами. Кроме них выражают недовольство Tor спецслужбы ряда государств, которым эта технология мешает осуществлять слежку. Да, перлюстрация и «черные кабинеты» существуют с XVI века, но не настолько же явно, как сейчас, когда эти функции закреплены и насаждаются законодательно. К тому же против Tor выступают многие корпорации, включая IBM.

На редкость двойственное отношение к Tor демонстрирует администрация США: с одной стороны, правительство финансирует развитие Tor, а с другой — Агентство национальной безопасности США этому противодействует. Правда, по размерам финансирования они отличаются на порядки. Штаб-квартира The Tor Project насчитывает около дюжины сотрудников и имеет годовой бюджет около 2 млн долл., тогда как АНБ стоит налогоплательщикам десятки миллионов долларов. Все источники финансирования Tor отражены в его «Секретной истории» (The Secret History of Tor). Отношения между Tor и АНБ — этими Давидом и Голиафом — неплохо иллюстрирует картинка Дэвида Паркинса в духе Мориса Эшера, заимствованная из отчета Bloomberg «Внутренняя история Tor, лучшее средство для анонимности в Интернете, когда-либо построенное государством» (The Inside Story of Tor, the Best Internet Anonymity Tool the Government Ever Built).

The Onion Router служит для сохранения личной неприкосновенности (privacy), защищает пользователей от сетевой слежки и анализа трафика. Логика Tor достаточно проста и близка к бытовой. Обеспечение анонимности при обмене данными складывается из двух приемов: digital mixing, скрывающего адрес конечного получателя, и anonymizing proxy server, скрывающего маршрут передачи.

Показать, что такое цифровое смешивание (digital mixing), проще всего на картинке. Пакеты исходящего сообщения «упаковываются» в криптографические конверты, созданные на основе методов шифрования с открытым ключом. Адрес конечного получателя скрыт во внутреннем конверте. Прохождению через очередной маршрутизатор предшествует обмен ключами, в случае успешного декодирования с пакета верхний конверт снимается и он посылается по адресу, указанному в следующем конверте.

Проще всего обеспечить анонимность трафика, если использовать один прокси-сервер (anonymizing proxy server), но такой прием требует абсолютного доверия к нему, поэтому предпочтительнее использовать цепочку из прокси-серверов. Простейший вариант показан на рисунке. Если использовать посылающий компьютер в качестве еще одного прокси, тогда можно закольцевать маршрут и еще больше усложнить анализ трафика.

Зная, как устроена «луковая» маршрутизация, легко понять принципы работы Dark Web. «Темный Web» образует набор общедоступных сайтов, отличающихся от обычных тем, что они скрывают IP-адреса серверов, на которых они работают, и по этой причине не обнаруживаются обычными поисковыми машинами. Для работы с ними используют модернизированные браузеры, обычно созданные на основе Firefox.

Если бы Tor был чисто хакерским инструментом, то «прикрыть» его было бы намного проще. Но несмотря на все плохое, что о нем было сказано, Tor на протяжении многих лет поддерживается правительством США. Почему?

Поиск ответа на этот вопрос уходит в двадцатилетнюю историю. Изучение возможностей анонимизации началось в 1995 году по заказу Управления по военно-морским исследованиям США. С 1997 года стали появляться публикации в авторитетных научных журналах. Список литературы можно найти по адресу https://www.onion-router.net/Publications.html . В финансировании Tor участвовало агентство DARPA. А десять лет назад судьба Tor заметно изменилась, его основные разработчики пустились в свободное плавание, образовав независимую организацию Tor Project и сделав ПО открытым. Но этот шаг только внешне похож на отделение MILNet от ARPANet, военные по-прежнему пользуются Tor наравне с гражданскими. И что удивительно: одна и та же технология помогает террористам и тем, кто с ними борется, более того, могущественное АНБ направляет свои усилия на взлом Tor. Казалось бы, ситуация феноменальная, но не совсем. Превращение Tor в общедоступный сервис выгодно государственным органам, которые его используют. Для анонимности нужна толпа, в которой можно затеряться.

И последний вопрос, насколько надежна защита, предоставляемая Tor? На него ответили ученые из Университета Неймегена (Голландия). В своем исследовании «Tor vs the NSA» они приходят к выводу, что АНБ обладает достаточным потенциалом, чтобы взломать защиту, но лишь ограниченного числа пользователей. Это трудоемкая работа, и те, кто не привлекают к себе особого внимания, могут пользоваться Tor для обеспечения личной неприкосновенности без каких-либо опасений.

Этот термин предложил в 1984 году популярный американский писатель-фантаст Уильям Гибсон в книге «Neuromancer» (в русском переводе «Нейромант»). Чаще вместо киберпространства используют слово «интернет» (в таком случае его для строгости надо писать со строчной буквы), что тоже не очень логично, но живому языку невозможно ничего насильно навязать.

Есть философские определения: «Киберпространство — метафорическая абстракция, используемая в философии и в компьютерных технологиях, является (виртуальной) реальностью, которая представляет Ноосферу» (http://elibrary.ru/item.asp?id=18772767). Или военно-политические: «Принципиально новая среда противоборства конкурирующих государств — киберпространство, которое не является географическим в общепринятом смысле этого слова, тем не менее, в полной мере является международным» (http://s3r.ru/wp-content/uploads/2013/12/Kiber_Bezop_---1_2013_02.pdf). Но, если отбросить наукообразие, то скорее всего можно сказать, что киберпространство — это множество сервисов, которые предоставляются по сети Интернет (WWW, мобильные приложения, социальные сети, интернет-телефония, электронная почта, совместное использование файлов — file sharing, многопользовательские онлайновые игры, онлайновые банковские и другие услуги, телемедицина и многое другое). Здесь Интернет пишем с заглавной буквы, такая сеть одна и Интернет — ее имя собственное.

Основные сервисы, предоставляемые по сети Интернет

Удобство пользования информационными ресурсами, доставляемыми по сети Интернет, провоцируют упрощенное отношение к технологиям и истории среды, образующей киберпространство, среди пользователей, в том числе на самом высоком уровне. Например российский президент недавно утверждал, что «Интернет возник как спецпроект ЦРУ США, так и развивается» . А намного раньше вице-президент США Альбер Гор, который бесспорно внес заметный вклад в создание Интернета, позволил себе странное высказывание, из которого следовало, что именно он «создал интернет» . А в обычной жизни мы постоянно слышим расхожее «сходить в интернет» , «поискать в интернете», «посмотри в интернете» и тому подобное.

Поэтому необходимо уточнение. Создание сети ARPANet, ставшей прообразом Интернета, действительно финансировалось известным агентством, которое теперь называется DARPA, где D означает deffence, то есть оборонное. Но с 1980-х годов, точнее c момента принятия протокола TCP/ IP, подчеркнем: Пентагон, а отнюдь не ЦРУ, решает построить собственную сеть на основе ARPANet, и происходит разделение на ARPANet и MILNet. То есть Интернет не имел прямых связей со спецслужбами, а то, что социальные сети или поисковые машины могут иметь двойное назначение — это секрет Полишинеля социо-лингвистические технологии были разработаны давным-давно, но тщательно скрывались.

Фундаментальная техническая основа Интернета — технология коммутации пакетов, гениальное изобретение, сделанное еще в 1960-е - 1970-е годы, как и кем — отдельный вопрос. Оно, и еще, пожалуй, сотовая связь, принципиально изменили представления о коммуникациях и позволили сделать наш мир таким, каким он стал. Благодаря технологии пакетной коммутации удалось создать Интернет как огромный набор компьютеров, коммутационной аппаратуры, кабельных и беспроводных каналов передачи данных, обеспечивающий передачу пакетов.

В целом Интернет не принадлежит никому, естественно, что у каждого отдельного сегмента есть собственники. Точно так же ни одно правительство не имеет права на общее руководство Интернетом, хотя есть отдельные национальные регламентирующие акты, в одних случаях они имеют коммерческий характер, в других — политический. В терминах семиуровневой модели OSI Интернет реализует  шесть нижних уровней, а сервисы поддерживаются протоколами прикладного уровня. Для идейного и технического руководства Интернетом, без которого обойтись невозможно, в 1992 году было создано общество Internet Society (ISOC), это некоммерческая организация. Ее кредо - «Обеспечение открытых разработки, эволюции и использования Интернета в интересах людей всего мира». Что несколько противоречит представлениям высших российских официальных лиц. В состав ISOC входят несколько комитетов: Internet Engineering Task Force (IETF), Internet Architecture Board (IAB), Internet Engineering Steering Group (IESG), Internet Research Task Force (IRTF) и Internet Research Steering Group (IRSG).

Всемирная паутина, или World Wide Web, или WWW — наиболее популярный сервис Интернета, представляющий собой гигантский распределенный набор страниц, созданных на языке HTML. Настолько популярный, что большинство пользователей не делают между ними различия и отождествляет WWW и интернет. Для доступа к сервисам WWW используются свободно распространяемые программы, известные как браузеры. За создание WWW в 2004 году Тим Бернерс-Ли получил от королевы Великобритании звание Сэр, он же — разработчик первого браузера, написанного им в 1990 году в ЦЕРНе. Соавтором Бернерса-Ли был остающийся в тени Роберт Калио, разработавший в том числе и логотип WWW. В 1994 году был организован международный консорциум World Wide Web Consortium (W3C) с тремя штаб-квартирами: в Массачусетском технологическом институте (США), в Университете Кео (Япония) и в исследовательском центре INRIA (Франция). Последний является основным, он расположен в наукограде София-Антиполис, недалеко от Канн. Должен отметить по собственному опыту пребывания там, что более открытую и не испытывающую на себе чьего-то влияния организацию трудно представить, во всяком случае с российским опытом работы.

Эмблема WWW

Web постоянно развивается. Поначалу Web 1.0 был соершенно статичным, он состоял из текстов и простых картинок. В конце 90-х Web 1.0 преобразовался в Web 2.0, отличающийся интерактивными сервисами, возможностью веб-программирования пользовательских сервисов, что открыло возможность для создания большинства привычных сегодня веб-услуг. Подмножеством Web 2.0 является невидимый Web (Invisible Web, или Deep Web, или Hidden Web), его содержание недоступно поисковым машинам, обычно это разного рода базы данных, чаще всего служащие целям бизнеса и скрытые в силу естественных причин. По оценкам объем данных невидимой части на два и более порядка превосходит видимую часть. Следует отличать «хороший» Invisible Web от «плохого» Dark Web, той части Web, которая доступна с помощью специальных технологий и содержит данные сомнительного характера. Контент Dark Web распространяется от банальной преступности до терроризма. Dark Web — предмет заботы спецслужб.

Сегодня помимо WWW к числу наиболее популярных сервисов, использующих Интернет, относятся электронная почта (Email), социальные сети (Social Networking), поисковые машины (Search Engines) и средства мгновенного обмена сообщениями (Instant Messenger, IM). Все они совместно образуют киберпространство.

Принцип проектирования KISS, или «Keep it short and simple» («Сохраняй простоту и краткость»), со временем превратился в ироническое «Keep It Simple, stupid» («Делай просто, тупица»). Потом эта лаконичная формула неоднократно преобразовывалась и некоторое время назад актуальным стал вариант «It's the data, stupid», отражающий значение данных. Ну а совсем недавно случилась очередная метаморфоза, и теперь еще есть «It’s Not Just the Data, stupid», что значит: «Это не просто данные, тупица». В такой интерпретации под тупицами подразумеваются, наверное, все те, кто пытается применить аналитические методы без должного понимания природы происхождения данных и ограничений аналитических методов. В последнее время серьезные эксперты по искусственному интеллекту жалуются на распространение упрощенных подходов к решению аналитических задач с использованием нейронных сетей, машинного обучения и других подобных приемов. Эта слабость особенно характерна для менее образованных специалистов с гипертрофированной практической ориентацией.

Однако такое «вульгарное» обращение с данными и безоговорочная ориентация на все то, что так или иначе движимо данными (data-driven), в том числе при приятии решений, чревато серьезными методологическими ошибками и приводит к ложным результатам. Реальная жизнь и окружающая природа обычно сложнее, чем их любое отражение в наборе данных. Неожиданные повороты не следуют из формального анализа накопленных данных любого объема. Например, когда лет десять назад появились технологии онлайнового банковского обслуживания, руководство многих финансовых учреждений посчитало, что число локальных отделений будет сокращаться, и приняло соответствующие меры. Практика показала обратное, и тот, кто принял решение о немедленном закрытии офисов на местах, в итоге заметно проиграл. Пожалуй, самый яркий пример нелепости тривиальной опоры на данные — ошибка, допущенная Google в 2012 году в глобальной программе Google Flu Trends (GFT). В итоге программа была бесславно и без лишнего шума свернута.

На пару лет GFT стала символом апофеоза больших данных. GFT стала центральным моментом книги «Большие Данные — революция, которая изменит то, как мы живем, работаем и думаем» (Big Data: A Revolution That Will Transform How We Live, Work, and Think), изданной в 2013 году. По-английски название звучит более утвердительно, чем по-русски. Сказать, что книга стала бестселлером, мало. Успеху способствовало паническое ожидание пандемии вируса H1N1, но, как мы теперь знаем, апокалиптические прогнозы не оправдались.

Основная идея GFT тривиальна. Эта программа базируется на предположении, что анализ количества поисковых запросов, содержащих слово flu и его переводы, и привязка к адресу может дать объективную картину распространения болезни. Авторам GFT никто вовремя не сказал «It’s Not Just the Data, stupid», судить по данным из сети нельзя и делать из этого глубоко идущие выводы — действительно тупизм. Причину провала GFT с полноценной научной глубиной анализируют авторы статьи «Сказание о Google Flu — ловушки аналитики Больших Данных» (The Parable of Google Flu: Traps in Big Data Analysis), она была опубликована в марте 2014 года и не где-нибудь, а в журнале Science. Авторы, профессора ведущих университетов, показывают банальную ошибочность замыслов, не случайно про GFT в Google больше не вспоминают. При этом они подчеркивают, что обнаруженные ими закономерности распространяются на все исследования, где используются социальные данные, заимствованные из Сети, выделяя две основные причины ошибок.

Big Data Hubris. Слово hubris переводится и как «гордыня» или «высокомерие», и как «завышенная оценка», и даже как «гипертрофированное самолюбие». В данном случае подходит и первое, и второе, и третье. Этими качествами отличаются представители не только Google, но и других интернет-компаний, те, кто используют «в лоб» методы работы с большими данными, гиперболизируют значение объемов собранных данных, не задействуют свои методы в сочетании с традиционными. В случае GFT были допущены элементарные методические ошибки, по запросу невозможно, например, определить, кто его сделал — уже заболевший или просто обеспокоенный человек. Традиционная наука преуспела немало в части обеспечения достоверности используемых экспериментальных данных, чего нельзя сказать об аналитиках больших данных. Стоит заметить, что в характеристике специальности data scientist в равной степени учитывают знания и навыки в предметной области и в области анализа данных.

Algorithm Dynamics. Под динамикой алгоритмов в данном случае понимается постоянное совершенствование поисковых машин с целью получения наилучших коммерческих результатов. С точки зрения простого поиска — это прекрасно, но использование неподконтрольно меняющегося по ходу исследования научного инструмента с методической точки зрения невозможно.

Статья завершается выводом о том, что нужно ориентироваться на сочетание потенциала Больших Данных с анализом небольших данных (small data), то есть таких данных, которые получены иными способами и не входят в состав больших. Общественность немедленно отреагировала.

Американцы с удивительной скоростью умеют писать книги солидного объема, при этом качество большинства из них вызывает сомнение. В 2016 году вышла книга Мартина Линдстрема «Малые Данные» (Small Data). Автор показывает, что самые удачные бизнес-решения и фундаментальные научные открытия совершались без привлечения большого количества данных, творческое начало человека устроено совсем иначе, чем искусственный интеллект. Даже в наше компьютеризированное время из 100 наиболее важных инноваций 60-65 были созданы с опорой на Small Data. Линдстрем объясняет это тем, что Big Data прежде всего позволяют обнаруживать скрытые связи и делать на их основе соответствующие выводы. А Small Data позволяют обнаружить причины явлений с использованием свойственных человеку способностей. Он делает очевидные выводы о необходимости продуктивно сочетать большие и малые данные.

В статье «Малые Данные против Больших Данных. Назад к основам» (Small Data vs. Big Data: Back to the basics) есть определение: «Малые данные — это данные в таком объеме и формате, которые делают их доступными, информативными и пригодными для приятия решений. Малые данные извлекаются из локальных источников или из больших данных, они выступают в роли связующего между людьми при выполнении каких-то действий» .

В таблице, заимствованной из этой статьи, сравниваются малые данные с большими.

Руфус Поллок, основатель Open Knowledge Foundation (всемирная некоммерческая сеть организаций, продвигающих и распространяющих на безвозмездной основе информацию, включая как содержимое, так и данные), большие данные сравнивает с централизованным подходом, называя их по образу мэйнфреймов «big iron», а малые — с децентрализованным подходом. Суть революции малых данных, по Поллоку, в демократизации доступа к хранилищам данных и вычислительной мощности. Он считает, что следующее десятилетие станет временем распределенных моделей, а не централизованной, не централизованного управления, а коллабораций.

В этих определениях просматривается позиция гражданского активиста, но та же логика обнаруживается и в таком сугубо техническом направлении, как Интернет вещей (IoT). Если мы собираемся объединять миллиарды вещей, то данные должны образовывать иерархические структуры, IoT и Big Data должны отождествляться, иначе мир захлебнется в данных. IoT и Big Data называют двумя сторонами одной медали. На самом деле небольшие наборы данных, полученных из локальных источников, будут обрабатываться на месте, а выжимка из них будет по необходимости передаваться в»озера данных" (data lake) для последующего анализа на глобальном уровне. Такой подход применим к любому объединению вещей, от агрегатов ветровых электростанций до бытовых приборов. В IoT малые данные позволяют получить ответ на вопрос «Как работает объект», а большие данные — на вопрос следующего уровня, касающийся природы объекта.

Поэтому, по сложившейся в психиатрии традиции, назовем это болезненное состояние части ИТ-сообщества датаманией. Заметим, что использование термина data-mania компанией Informatica и блогом http://www.data-mania.com/blog/ к медицинской трактовке этого термина отношения не имеют. Для жертв датамании характерно примерно то же, что и для любых заболевших вообще, — сосредоточенность на симптомах без должного понимания природы болезни.

Главным симптомом датамании стала массовая переоценка ценностей и выход на авансцену компьютинга прежде мало популярного понятия «данные». О данных говорят все и везде. Удивительно, что еще совсем недавно данные были в загоне. На вопрос: «Как вы понимаете, что такое данные» уверенные в себе специалисты, снисходительно глядя на вопрошавшего, отвечали: «Мешок битов и байтов». И вот вмиг все перевернулось, из каждого утюга звучат уверенные слова, так или иначе связанные с данными. Мы узнали, что все сущее задается и определяется данными (data driven everything), в том числе: экономика, приятие решений, маркетинг, культура, менеджмент, инновации, бизнес-модель и многое другое. По-английски это: data driven с добавкой economy, decision making, marketing, culture, management, innovation, business model. Но самым расхожим стал термин «Большие Данные» (Big Data) и связанные с ним названия направления и специальности: наука о данных (data science), специалист по данным (data scientist), стратегическое управление данными (data governance), журналистика данных (data journalism), разведка данных (data scouting). А еще — data modernization и data hub. И все эти неологизмы сосуществуют с традиционной скромной, но по-настоящему научной разработкой данных (data mining).

Специально назначенные люди, главным образом из числа маркетологов, со свойственной им особенностью ментальности, называют данные основным активом предприятия. Когда спрашиваешь у такого рода проповедников данных: «А что, собственно говоря с материалистической точки зрения, является этим активом? В чем он содержится? Это биты и байты, записанные на диски, ленты и тведотельные накопители? Это метаданные? В какой форме существуют данные-активы?» После этого все происходит, как в замечательной песне «Ответ уносит ветер» («Blowin' in the Wind»), написанной Бобом Диланом в 1962 году.

И все это при том, что еще недавно рассуждения о самостоятельном значении данных (см. «Третья опора компьютинга») воспринимались как досужие. Показательно, что даже в трудах, посвященных реляционным базам, практически невозможно было найти ничего относительно природы данных, в том числе о связи данных с информацией. На протяжении десятилетий, вплоть до нынешнего времени, развивались прежде всего инженерные методы, обеспечивающие передачу, хранение и обработку данных. Все то, что необходимо было знать о них, сводилось к двоичным или десятичным единицам измерения количества данных, форматам и организационным формам (массивы, байты, блоки и файлы).

Из-за маркетинговой шумихи может сложиться превратное представление о месте и значении данных. Особенно не повезло «Большим Данным», термин оказался замылен раньше, чем понят. Чтобы восстановить истину, уяснить, как оно сложилось, обратимся к хронологии эволюции отношения к данным. Тайм-лайн можно разделить на два периода — до 2000 года и после.

В первый период, с 1944-1945 годов, когда появились первые компьютеры, и до рубежа 2000 года ученые пытались осознать соотношение данных с информацией и знание (триада Data — Information — Knowledge) а также проблемы, обусловленные ростом порождаемых человечеством данных. Эволюция шла по двум направлениям — гуманитарному и технологическому. Гуманитарное направление называют информатикой, то есть наукой об информации и методах информационного поиска. Ей посвящена статья «Неожиданная информатика, или must be read». Эту в подлинном смысле науку об информации не следует путать с той информатикой, которой нас одарила группа советских ученых в начале 80-х. До сегодняшнего дня внимания заслуживает не потерявшая актуальности книга «Угроза личной тайне, компьютеры, банки данных и досье» (The Assault on Privacy: Computers, Data Banks, and Dossiers). Провидческий труд был написан в 1970 (!) году профессором Артуром Миллером, почти полным тезкой драматурга Артура Миллера, мужа Мерлин Монро. Профессор прозорливо предвидел те явления, которые мы можем наблюдать сейчас.

Альтернативное направление — технологическое, связанное с практическими решениями проблемы хранения больших объемов данных. Одну из самых провидческих работ этого направления «Сохранение всех битов» (Saving All the Bits) написал Питер Деннинг. Он предостерегает от попыток сохранить все возможные биты и байты, говорит о необходимости создания машин, которые могли бы в режиме реального времени фильтровать потоки данных и выделять заданные образы. Сейчас мы называем это обработкой сложных событий CEP.

Что же касается самого словосочетания Big Data, то, скорее всего, его впервые в 1999 году употребил Джон Мэши, главный ученый компании SGI, хотя есть утверждения, что определение Big Data встречалось еще в 1987 году. Свое выступление Мэши озаглавил «Big data and the next wave of infrastress», понимая под «инфрастрессом» качественно новую нагрузку на компьютерные системы, которую создает работа с Большими Данными. В то время каналы не соответствовали процессорам по производительности.

Граница между двумя периодами образовалась из-за повышенного интереса специалистов по макроэкономике к использованию данных для прогнозирования будущего в экономике. Родоначальницей нового подхода к данным считают «королеву цифр» итальянку Лукрецию Рейчлин. Использование больших объемов данных для прогнозирования началось с нее, все последующие статьи, опубликованные в 2000-х и посвященные феномену, который ее последователи назвали Big Data, цитируют ее работы. По части Big Data экономисты на несколько лет опередили ученых других специальностей. Ситуация начала меняться в 2008 году, когда вышел специальный номер журнала Nature, посвященный проблеме больших данных. В 2010 году в журнале Economist была опубликована еще одна нашумевшая статья «Данные, везде данные» (Data, data everywhere) со ссылками на ведущих специалистов: Джеймса Кортада, исследователя из корпорации IBM, автора нескольких книг о роли информации в обществе, он писал: «Мы вступили в принципиально новый период существования, потому что никогда не было так много информации», и Джоя Хеллерстайна, профессора Калифорнийского университета в Беркли, специалиста по базам данных, который сформулировал: «Это индустриальная революция данных».

Очень быстро сообщество профессионалов повернулось лицом к данным, и вовсю стали говорить об «Эпохе данных» (Age of Data) и «Мире, движимом данными» (Data-Driven World), а корпоративные службы маркетинга с такой скоростью ассимилировали термин Big Data, что он даже для тех, кто еще не до конца понял его смысл, превратился в жупел.

Рисунок из отчета Лэни

Новейший период истории данных начался в 2001 году с публикации Дага Лэни, аналитика из компании Meta Group, позже купленной Gartner. Статья называется «Трехмерный менеджмент данными...» (3D Data Management: Controlling Data Volume, Velocity, and Variety). В этой работе впервые были сформулированы три основных признака Big Data — объем (Volume), скорость обработки (Velocity) и разнообразие (Variety). Иногда добавляют четвертый признак — достоверность (Veracity).

В 2005 году Тим О'Рэйли, объясняя, «Что такое Web 2.0» (What is Web 2.0), сформулировал несколько образных тезисов:

• данные — это новый Intel;
• SQL — это новый HTML;
• приложения — это не только software, но и infoware.

В истории Big Data особое место занимает 2008 год. В январе известные визионеры Брет Свансон и Джордж Гилдер опубликовали прогнозируемую оценку роста трафика в американском сегменте Интернета до 2015 года — Estimating the Exaflood. В сентябре вышел специальный номер журнала Nature, посвященный данной проблеме, а в декабре — статья Big-Data Computing: Creating Revolutionary Breakthroughs in Commerce, Science and Society. В ней мы находим: « Подобно тому, как поисковые машины изменили наш доступ к информации, компьютинг, основанный на больших данных (big-data computing), изменит деятельность компаний, научных исследователей, медиков и других. Big-data computing станет важнейшей инновацией последнего десятилетия » .

К 2012 году сложилось зрелое представление о том, что такое Big Data. Оно великолепно изложено в труде «Критически важные вопросы по поводу Больших Данных» (Critiсal quiestions for Big Data). Его авторы выделяют три аспекта Big Data. Помимо понятных технического и аналитического, они предлагают еще мифологический. Под последним они подразумевают один из симптомов датамании, выражающийся в слепой безоговорочной вере в возможности анализа больших данных, в то, что из больших данных можно извлечь новые истины.

По ходу пьесы Джоан Роулинг «Гарри Поттер и проклятое дитя» ее персонажи делают вывод о том, что «иногда тьма приходит с неожиданной стороны». И вот, наблюдая за происходящим в области информационно-коммуникационных технологий, по их примеру хочется сказать: «В некоторых случаях темная сторона будущего тоже приходит совсем не оттуда, откуда можно было ожидать». Разумеется, речь идет лишь о некоторых случаях, основной поток новаций вполне предсказуем и закономерен. О том, чего ждать, можно судить, например, по широкомасштабной акции Change is happening («Изменения происходят»), которую проводит популярный портал Gigaom. В ней планируется затронуть семь тем: искусственный интеллект, виртуальная реальность, роботы, нанотехнология, 3D-печать, человеко-машинный интерфейс и кибербезопасность.

Темная сторона обнаруживается не в высоких технологиях, а на стыке обыденной жизни и ИКТ. Достаточно посмотреть на то, куда устремлены взгляды доброй половины пассажиров метро, а если поднять голову на улице, то непременно увидишь смотрящие на тебя камеры, ну а о воздействии на жизнь социальных сетей и игромании говорить излишне. Буквально каждый день приходят сообщения об утечках данных, о новых системах слежки, последний пример — скандальная инициатива компании Infowatch по прослушиванию личных мобильных телефонов. В итоге приходится признать, что наряду с классическими, скажем так — «благородными» ИКТ огромное место занимают технологии, нарушающие конфиденциальность (privacy-shattering technology).

Сложившаяся ситуация весьма неутешительна. Волей-неволей приходится согласиться с тем, что более 15 лет назад сказал Скотт Макнили: «Личная тайна сведена до нуля, забудьте о ней». Крылатую фразу одного из основателей Sun Microsystems часто повторяют многие пишущие на тему охраны личных данных. Например, авторы книги «Личная тайна в XX веке» (Privacy in the 21st Century) согласились с Макнили: «Это шокирующее утверждение, но в нем есть доля истины». Некоторые считают, что личную тайну вообще следует отменить: порядочному человеку, мол, скрывать нечего. Но, согласитесь, даже самому наипорядочнейшему человеку не возбраняется сохранять в секрете свои личные, финансовые или медицинские сведения. Однако в эпоху Сети с каждым годом делать это становится все сложнее, и надежду на то, что законодательными мерами можно исправить положение, могут питать только наивные люди. Эрозию тайны персональных данных не приостановить усилием воли: это системное явление. Мы живем во все более и более опасной среде, мы вынуждены разглашать свои персональные данные повсеместно, начиная от оформления заказа в химчистке и вызова такси. Если вы пользуетесь услугами одной избранной службы такси, то сделать определенные выводы о вашем образе жизни несложно. А на сайт вуза, где учится ваш ребенок, выкладываются все данные о его академических успехах и условиях обучения.

Перечень нарушений права на конфиденциальность безграничен, поэтому против них нет лекарства, и каким-то нормативным актом изменить существующее положение нельзя. Тем не менее гражданские активисты сопротивляются, дело дошло до того, что 28 января в США, Канаде и 27 европейских странах отмечается День конфиденциальности данных (Data Privacy Day).

Примеры разглашения личных данных регулярно публикуются в СМИ, вот некоторые из них.

Шедевр 2016 года — публикация «Панамских документов», которая произвела особо сильное впечатление на мировую общественность: оказалось, что наивная надежда самых богатых и сильных мира сего скрыть свои сверхдоходы не оправдалась. Показательна в этом отношении опубликованная в авторитетном политическом издании Politico статья «Грядет эра мегаутечек», ее перевод дается на сайте «ИноСМИ». Автор публикации, Джейкоб Силвермэн, известный журналист-фрилансер, утверждает, что слив «Панамского досье» — это лишь первый звонок, а дальше будет больше. Силвермэн показывает динамику утечек начиная с 1971 года, когда Даниэль Эллсберг предал гласности документы Пентагона, относящиеся к Вьетнамской войне, их содержание стало причиной первого в ряду политических скандалов-разоблачений. Свою основную мысль автор выразил следующим образом: «Появляется какой-то хакер-одиночка, сливает мировым СМИ огромный массив секретных данных о сверхбогатых и влиятельных людях планеты, а потом из страха за свою безопасность и свободу исчезает из вида — вероятно, навсегда. Добро пожаловать в эру мегаутечек информации».

Взлом панамских серверов был произведен посредством DROWN-атаки (Decrypting RSA with Obsolete and Weakened eNcryption, или в переводе: расшифровка RSA с устаревшим и ослабленным шифрованием). DROWN относится к так называемым кросс-протокольным атакам, которые используют уязвимости в реализации SSLv2 в случае применения этого протокола для соединений, установленных по другому протоколу, например TLS. Создатели DROWN воспользовались отсутствием должной защиты RSA-шифрования в SSLv2. Ослабленные версии шифров 20-летней давности предполагают использование 40-битных ключей RSA. В современных условиях на вскрытие такого ключа потребуется не более восьми часов работы арендованного сервера на облачном сервисе Amazon EC2 и сумма в 440 долл Полное описание сущности DROWN и возможных методов защиты от этой атаки можно найти на сайте drownattack.com. На 1 марта, когда были опубликованы первые сведения о DROWN, треть общего числа серверов в мире не были защищены от этой атаки. Незначительность затрат позволяет допустить справедливость гипотезы о хакере-одиночке, но по здравом размышлении сложно поверить в существование одного злоумышленника, умудрившегося скачать 2,6 Тбайт данных. Также трудно предположить, что разработка DROWN проведена силами одиночки, сомнения связаны с тем, что авторами статьи о «контроружии» — «DROWN: Breaking TLS using SSLv2» являются 15 экспертов восьми уважаемых университетов и компаний.

Еще более уязвимы файлы и переписка обычных законопослушных граждан. Свои личные данные мы пытаемся защитить паролями, но еще несколько лет назад в культовом журнале The Wired была опубликована статья «Уничтожьте пароли, строка символов вас не защитит» (http://www.wired.com/2012/11/ff-mat-honan-password-hacker/all/). Как оказывается, анализ цифровых следов, оставленных человеком, позволяет раскрыть его самые сложные пароли. И хотя надежда на квантовую криптографию сохраняется, проекты типа Secure Communication based on Quantum Cryptography (SECOQC) затягиваются на долгие годы и о доступных средствах говорить пока не приходится.

Особое место занимают системы слежения. Слежка со стороны государства за гражданами так же стара, как сам институт государства, факт ее существования известен со времен Древнего Египта, но слежка стала воистину массовой (mass surveillance) в наше время, прежде всего с появлением в США в 1970-е годы системы Echelon и ее последователей. Сейчас посредством аналогов Echelon той или иной мощности поддерживается работа спецслужб в большинстве стран, а обществами с повальной слежкой (endemic surveillance societies) признаны, в частности, США, Великобритания, Россия и пять азиатских стран, включая Китай.

Однако в XXI веке, возможно, самую серьезную угрозу для конфиденциальности представляют камеры слежения (surveillance cameras), расположенные на транспорте, на улицах и в местах общего пользования, особенно в сочетании с современными системами идентификации по лицу (facial recognition). Объемы данных, собираемых такими негосударственными видеорегистраторами, явно превосходят потенциал традиционных систем слежения, принадлежащих спецслужбам, хотя сложно делать какие-либо суждения по поводу последних из-за скрытности их методов. К тому же граждане и сами делают заметный вклад в дело слежения, для этой деятельности существует специальный термин sousveillance — парафраз от surveillance. Оба термина имеют французские корни, отличие в том, что sur означает «сверху», а sous — «снизу», эти префиксы можно понимать в прямом и переносном смысле. Sousveillance может быть слежкой за окружающей средой (видеорегистраторы) и за самим собой (селфи).

Потенциал sousveillance заметно усилили социальные сети. Не секрет, что группа Bellingcat смогла раскрыть тайну сбитого Boeing MH17, используя данные из соцсетей, прежде всего фотографии, выложенные военнослужащими. Возможность sousveillance многократно усиливают такие сервисы, как Findface, включенный в сеть «ВКонтакте». Он разработан компанией «НТех Лаб» (http://ntechlab.ru/), специализирующейся в области искусственных нейронных сетей и машинного обучения. Эффективность Findface подтвердил студент Московской школы фотографии и мультимедиа им. А. Родченко Егор Цветков, он сделал 100 фотографий пассажиров метро и с помощью этого приложения нашел 70 персонажей в соцсети «ВКонтакте». Публикация об этой работе справедливо названа «Конец анонимности». Результаты «НТех Лаб» заметно взволновали мировую общественность, о них написала, например, лондонская Observer. Нетрудно представить себе, к чему приведет эта технология, будучи примененной к уличным камерам слежения.

Каждый отдельно взятый из приведенных эпизодов можно как-то объяснить: в одном случае — ошибками сисадминов, в другом — жаждой славы, в третьем — разгильдяйством и попросту глупостью. Можно искать и назначать виновных, но мощность потока событий заставляет искать какие-то иные, более общие причины и закономерности. Большинство разумных экспертов сходятся во мнении — нарушение конфиденциальности вне зависимости от того, чем оно вызвано (антикоррупционная, антитеррористическая, репрессивная и противозаконная деятельность), базируется на privacy-shattering technology, но этого мало. Технологии — это всего лишь инструменты, которые могут быть использованы в определенных условиях для тех или иных объектов или информационных сред.

Очевидно, что для всего происходящего есть более фундаментальные основания, о них в следующих материалах.