IBM представляет первые в мире искусственные нейроны
IBM представляет первые в мире искусственные нейроны

Создание искусственного нейрона — важный этап в процессе разработки нейронных сетей высокой плотности с малым энергопотреблением, которые могли бы найти применение при организации когнитивных вычислений

Источник: IBM Research


13:41 26.08.2016   |  Лукас Мериан |  Computerworld, США

Рубрика Технологии |   1658 прочтений



Нейроны и синапсы, построенные с использованием технологии PCM, способны выдерживать миллиарды циклов переключения и работать на протяжении многих лет.

Используя технологию памяти с изменением фазового состояния (phase change memory, PCM), ученые из IBM представили искусственные нейроны и синапсы, моделирующие когнитивные способности мозга.

На основе материалов, меняющих фазовое состояние, исследователям из IBM Research впервые удалось получить нейроны с произвольным доступом, предназначенные для хранения и обработки данных. Это открытие является важным этапом в процессе разработки нейронных сетей высокой плотности с пониженным энергопотреблением, которые могли бы найти применение при организации когнитивных вычислений.

Новая технология может быть использована для улучшения вычислений, направленных на обнаружение корреляции данных в приложениях Интернета вещей, организацию биржевой торговли и ускорение распространения информации в социальных сетях.

Результаты исследования IBM были представлены в статье «Стохастические нейроны с изменением фазового состояния», опубликованной в рецензируемом журнале Nature Nanotechnology.

По словам ученого из IBM Евангелоса Элефтериу, до момента создания полноценного процессора PCM пройдет еще по крайней мере несколько лет, но совершенное открытие обещает стать важнейшим прорывом в ходе реализации этого проекта.

Имитация работы нейронов мозга

Томас Тума
Томас Тума: «В микросхемах PCM все происходит в точности так же, как работает мозг: короткие электрические импульсы, проходящие через синапсы, возбуждают нейроны»

Вдохновленные примером человеческого мозга ученые на протяжении десятилетий разрабатывали теории о моделировании вычислительных возможностей крупных популяций нейронов. Однако реализовать их на практике с той же плотностью и минимальными по своей мощности электрическими импульсами, которые характерны для биологических систем, до сих пор так и не удалось.

Ключевое значение для технологии имеет случайная вариация искусственных нейронов или их стохастическое (случайное) поведение.

В статистике возможные результаты анализа данных определяются с помощью случайной переменной. Другими словами, рассчитывается вероятность корреляции данных.

«По сути, все должно работать так же, как работает мозг: короткие электрические импульсы, проходящие через синапсы, возбуждают нейроны, – пояснил ведущий сотрудник подразделения IBM Research в Цюрихе и один из авторов статьи Томас Тума. – Для изменения фазового состояния материала мы используем короткий импульс продолжительностью, скажем, в наносекунду. Стохастичность PCM играет ключевую роль при организации популяционных вычислений, где каждый нейрон реагирует на воздействие по-разному, открывая новые способы представления сигналов и вычислений. В обычной ситуации люди пытаются скрывать стохастичность. Для получения стохастичности хорошего качества вызывать ее нужно искусственно. Нам же благодаря пониманию процессов перехода ячеек в кристаллическое или аморфное состояние удалось продемонстрировать очень хорошую естественную стохастичность».

Размеры созданных искусственно нейронов с изменением фазового состояния составляют всего 90 нм, однако исследователи утверждают, что их вполне можно довести до 14 нм (нанометр – это одна миллиардная часть метра).

Ученые из IBM объединили сотни искусственных нейронов в «популяции», которые используются для представления быстрых и сложных сигналов. Было показано, что искусственные нейроны выдерживают миллиарды переключений, что позволяет говорить о возможности их многолетнего использования при частоте обновления 100 Гц. Энергия, требуемая для обновления каждого нейрона, не превышала пяти пикоджоулей, а средняя мощность – 120 микроватт. Для сравнения, чтобы зажечь 60-ваттную электрическую лампочку, требуется 60 миллионов микроватт.

Неврологические процессоры

Искусственные нейроны будут применяться для создания нейропроцессоров, которые станут важным дополнением для уже существующих, стандартных процессоров, избавляя их от нагрузки, связанной с решением аналитических задач.

«Мы показали, что ячейки с изменением фазового состояния позволяют создавать как синапсы, так и нейроны, – отметил Тума. – Это открытие имеет очень большое значение для вывода памяти с изменением фазового состояния на новый уровень и использования ее при организации вычислений».

Память PCM, известная также как память произвольного доступа с изменением фазового состояния (phase-change random access memory, PRAM), представляет собой энергонезависимую память, в основе работы которой лежит перевод стекловидного материала из кристаллического состояния в аморфное под воздействием электрического импульса.

При подаче напряжения ячейки памяти PCM переходят из одного состояния в другое, что соответствует нулям и единицам битов данных. При этом ячейки PCM могут принимать более двух состояний, не ограничиваясь только нулями и единицами.

Пытаясь создать новый тип энергонезависимой памяти, в IBM, Micron, Samsung и Everspin активно экспериментируют с технологией PCM, которая опережает флеш-память NAND по быстродействию в 100 раз и значительно превосходит ее по надежности. Конечно, памяти PCM еще предстоит доказывать свою состоятельность, в том числе и из-за дороговизны. Но в отличие от памяти NAND, хранящей в одной ячейке несколько битов данных, информация в ячейках PCM не разрушается.

Впрочем, последние исследования направлены на создание не нового типа энергонезависимой памяти, а нового типа процессоров.

«На протяжении десяти лет мы изучали материалы с изменением фазового состояния, на основе которых можно было бы создавать память, и в последние два года достигнутый прогресс был особенно заметен, – подчеркнул Элефтериу. – В этот период мы открыли новые технологии памяти, впервые записали в ячейку PCM три бита данных, а теперь демонстрируем мощные возможности искусственных нейронов, созданных на базе изменения фазового состояния».

Искусственные нейроны состоят из материалов с фазовым переходом, в том числе из теллурида сурьмы и германия. Из тех же материалов изготавливаются сегодня и перезаписываемые диски Blu-ray. Однако искусственные нейроны не хранят цифровой информации; они являются аналоговыми, точно так же, как синапсы и нейроны нашего мозга.

В ходе демонстрации команда исследователей воздействовала на искусственные нейроны серией электрических импульсов, которые вызывали прогрессивный переход материала в кристаллическое состояние, заставляя нейроны срабатывать. В нейробиологии эта функция известна как свойство интеграции и возбуждения (integrate-and-fire) биологических нейронов. Она является основой для вычислений на базе событий и похожа на реакцию мозга на наше прикосновение к чему-то горячему.

Обладая свойством интеграции и возбуждения, даже один нейрон может использоваться для поиска закономерностей и обнаружения корреляции потоков данных на основе событий в реальном времени.

Анализ за долю секунды

В мире Интернета вещей для ускорения составления прогнозов погоды можно использовать удаленные датчики, которые будут собирать большие объемы информации, подвергаемые анализу. Искусственные нейроны способны выявлять также закономерности в финансовых транзакциях при поиске расхождений и использовать данные из социальных сетей для поиска в реальном времени новых культурных тенденций. Большие популяции высокоскоростных нейронов наномасштаба с низким энергопотреблением могут быть использованы и в нейроморфных сопроцессорах, включающих в себя память и вычислительные блоки.

Отличительной особенностью искусственных нейронов IBM является также их способность к самообучению с последующим использованием в энергоемких приложениях анализа данных, позволяющих выявлять в социальных сетях или на фондовом рынке произвольные тенденции.

Например, торговля на бирже одними акциями может повлиять на другие, причем распознать эту корреляцию будет весьма непросто.

Для пояснения работы системы машинного обучения, построенной на базе искусственных нейронов, Элефтериу рассказал известную специалистам по прогнозному анализу байку о памперсах и пиве. Согласно легенде, исследование, проводившееся в универмаге, выявило связь между приобретениями мужской частью клиентов памперсов и пива. Набрав памперсов, покупатели тут же компенсировали характерную для женщин заботу о детях присущим мужчинам пристрастием к пиву.

Исследователи выяснили, что если в универмаге пиво будет находиться рядом с памперсами, продажи и того, и другого вырастут на 35%. Другие универмаги тоже последовали этому примеру.

«Используя искусственные нейроны, можно выявить и корреляцию между двумя видами акций, – добавил Элефтериу. – Каким образом они связаны друг с другом? Мы не знаем. Не знаем и почему так происходит, но данные свидетельствуют о наличии связи, а синапсы демонстрируют эту корреляцию».


Теги: показывать на главной Самое интересное Нейронные сети IBM PCM Бионика

На ту же тему: