Третья эра компьютинга и нейроморфные компьютеры

18:57 01.10.2016   |  Леонид Черняк |

|   1749 прочтений



К когнитивному компьютингу относят всё, что так или иначе связано с моделированием мозговых процессов, в том числе системы с обучением, майнинг данных, распознавание образов, обработка текстов на естественных языках и многое другое.

 

Ширятся предположения о том, что близится третья эра компьютинга, ее называют когнитивной. Первая эра ассоциируется с механическими табуляторами, началась она с машин Германа Холлерита (1880 год), вторая — с программируемых электронных компьютеров (1945-й). Третья, по всей видимости, не будет иметь точной даты начала.

К когнитивному компьютингу относят всё, что так или иначе связано с моделированием мозговых процессов, в том числе системы с обучением, майнинг данных, распознавание образов (фото, видео, речь), обработка текстов на естественных языках (Natural Language Processing, NLP) и многое другое. Нацелен когнитивный компьютинг на создание таких систем, которые могут решать поставленные задачи без участия человека.

Из видимых сейчас приложений когнитивного компьютинга можно назвать распознавание речи, сентимент-анализ, распознавание лиц. В отличие от компьютеров второй эры, где доминирует программирование, взаимодействие с когнитивными компьютерами будет осуществляться посредством обучения. Алгоритмы машинного обучения могут извлекать информацию из данных, обрабатывать ее и тем самым способствовать получению новых знаний.

Ближе всего к человеческому мозгу нейроморфные (то есть «мозгоподобные») компьютеры, но станут ли именно они основой для будущего, неизвестно. С инженерной точки зрения гораздо больше перспектив у графических процессоров (GPU) и у близких к ним архитектур, но мы начнем именно с нейроморфных, так будет исторически правильнее.

На сегодняшний день известно о четырех значительных проектах, нацеленных на создание нейроморфных компьютеров, из них два — в Европе: BrainScaleS (Институт физики Гейдельбергского университета) и SpiNNaker (Манчестерский университет) и два — в США: исследования в области когнитивного компьютинга IBM и NeuroGrid (Стэнфордский университет). Они находятся на разных стадиях, но важно заметить, что все четыре так или иначе воплощены «в железе» и служат стендами для моделирования мозга и для разработки соответствующего программного обеспечения. Впрочем, термин «программное обеспечение» применительно к ним носит условный характер: в нейроморфных компьютерах схемы Тьюринга и фон Неймана, на которых строятся все универсальные процессоры (CPU), либо вообще не реализуются, либо реализуются частично, поэтому нейроморфные компьютеры не являются в полном смысле программируемыми; скорее, они способны к обучению, и в этом смысле они аналогичны мозгу.

Два европейских проекта составляют содержание девятого из тринадцати пунктов более крупного проекта Human Brain Project, финансируемого Евросоюзом. Он называется SP9; гейдельбергский компьютер именуется NM-PM-1, а манчестерский — NM-MC-1 (PM расшифровывается как физическая модель, а MC — как многоядерная, обе имеют общий интерфейс). И тот и другой поддерживают PyNN, платформенно-независимый язык, служащий для создания нейронных сетей. (PyNN, произносится как «пайн», — аббревиатура от Python package for simulator-independent specification of Neuronal Network models; проект, как следует из названия, объединяет Python с нейронными сетями.)

Цель SP9 — создание компьютерной платформы Neuromorphic Computing Platform, которая позволит ученым проводить эксперименты с платформой, моделирующей мозг (Brain Simulation Platform).

BrainScaleS из Гейдельберга

По архитектуре BrainScaleS ближе всех к «мозгоподобным» компьютерам, какими они представлялись на протяжении последних двадцати лет, BrainScaleS можно охарактеризовать как «систему, инспирированную мозгом» (brain-inspired computing system), она в кремнии воспроизводит мозг. Руководитель проекта профессор Карл-Хейнц Мейер характеризует ее следующим образом: «BrainScaleS выходит за рамки парадигмы машины Тьюринга и архитектуры фон-Неймана, в ней не выполняется последовательность команд (Тьюринг) и нет разделения на процессор и память (фон Нейман), в ней непосредственно в кремнии отображается существующая в природе нейронная сеть».

Главный компонент BrainScaleS — так называемая цельно-пластинная интегральная микросхема (wafer-scale hardware system), то есть неразрезанная полупроводниковая схема на подложке. На ней размещены эмулирующие спайковые нейроны (узлы сети) и динамические синапсы (связи). Их называют High Input Count Analog Neural Network chips (HICANN). Вместе они образуют конфигурируемую среду. Всего на подложке размещается 384 взаимосвязанных микросхем HICANN, каждая из которых поддерживает работу 512 нейронов и 114 688 программируемых синапсов. Для управления и коммуникаций каждый HICANN поддерживается программируемыми матрицами FPGA в количестве 48 штук. Связка FPGA-HICANN реализует модель мозга. Как бы не были велики эти цифры, они на несколько порядков меньше, чем число нейронов в головном мозге человека, состоящем из 85-100 млрд нейронов и потребляющем не более 20 ватт.

Каждая из таких сверх-сверхбольших интегральных микросхем со всем необходимым окружением монтируется в корпус, занимающий немного меньше четверти объема стандартной 19-дюймовой стойки, система насчитывает всего 20 таких корпусов, то есть она занимает всего пять стоек, плюс к тому стойка кластера для управления и стойка питания.

Весной 2016 года после примерно пяти лет, ушедших на разработку, компьютер BrainScaleS был запущен в опытную эксплуатацию. В конструкции BrainScaleS можно обнаружить немало оригинальных решений, в том числе микрокомпьютеры Raspberry Pi в качестве контроллеров питания.

SpiNNaker из Манчестера

SpiNNaker (Spiking Neural Network architecture) разрабатывается более десяти лет, его основные особенности описаны в статье «Курс на тайны мозга». За пять лет с момента ее опубликования радикально в SpiNNaker ничего не изменилось, и статья сохранила актуальность, поэтому тех, кому интересно, можно адресовать к ней. В 2014 году вышла гораздо более фундаментальная статья Biologically-Inspired Massively-Parallel Architectures – computing beyond a million processors, в ней развернуто описаны и устройство, и предназначение SpiNNaker. Стив Фарбер, один из авторов статьи и руководитель проекта, — едва ли не самый яркий персонаж британской компьютерной индустрии инга, его называют «дедушкой процессоров ARM». На этих процессорах и построен SpiNNaker, далекой не самой современной на сегодня версии ARM968, всего система включает в себя 2500 процесоров, притом каждое из 32 ядер может эмулировать примерно тысячу нейронов. В целом на компьютере можно моделировать мозг объемом 1% от человеческого головного мозга. При всей экономичности он потребляет 74 киловатт. По мнению Фарбера, испопьзование CPU обеспечивает гибкий подход к моделированию и создание разных моделей мозга.

NeuroGrid из Пало-Альто

По своим масштабам стэнфордский проект NeuroGrid, о котором стало известно в 2009 году, существенно уступает проектам, описанным выше. Он выполняется небольшим коллективом Brains in Silicon, ставящим перед собой задачу создания небольшой платы размером с iPad для моделирования мозга. На плате Neurogrid монтируются 16 специализированных микросхем Neurocores, представляющих собой нейронную матрицу размером 256 x 256 узлов, что позволяет моделировать аналог мозга с одним миллионом нейронов. В Neurocores аналоговые вычисления сочетаются с цифровыми коммуникациями, а для моделирования используются смешанные аналого-цифровые методы.

И снова IBM

Первая компьютерная эра началась с табуляторов, то есть с IBM. Не исключено, что корпорация может стать одним из лидеров при переходе к третьей эре. В IBM ведутся широкомасштабные исследования в области когнитивного компьютинга, ими вплотную занимается исследовательская группа Cognitive Computing Group. Эта команда работает над проектом SyNAPSE (Systems of Neuromorphic Adaptive Plastic Scalable Electronics), чье название явным образом адресует к синапсу, соединяющему нейроны.

В IBM разрабатывается принципиально новая концепция компьютера. В основе оригинальная архитектура, элементами которой служат так называемые корлеты (от core – «ядро») – объектно-ориентированные представления нейросинаптического ядра. Компания Samsung изготовила соответствующий процессор, или нейроморфную микросхему TrueNorth (это название можно перевести как «истинный курс»). Разработан соответствующий язык программирования, он так и называется Corelet. На новом компьютере, возможно, удастся делать то, что невозможно на нынешних — работать с размытыми множествами, моделировать сети Петри и многое другое. По мнению лидера проекта Дхармендра Модха, компьютер на оcнове TrueNorth может стать дополнением к традиционным компьютерам.

«Современные компьютеры, — говорит Модх, — очень хорошо справляются с 'перемалыванием' цифр, в сочетании с TrueNorth, образующим единый 'мозг', они будут выступать в роли левого, а TrueNorth — правого полушария». Более детально с проектом IBM можно ознакомиться в статье «Cognitive Computing Programming Paradigm: A Corelet Language for Composing Networks of Neurosynaptic Cores».


Теги: Авторские колонки