Представляя чипы Ryzen 7 2700U и Ryzen 5 2500, в AMD назвав их «самыми быстрыми в мире процессорами для ультрабуков». Ryzen 7 имеет четыре ядра, поддерживающих одновременную многозадачность, и 10 «вычислительных модулей» — графических ядер архитектуры Vega. У Ryzen 5 меньше вычислительных модулей и ниже максимальная тактовая частота.

Расчетное теплоотведение у обоих процессоров — 15 Вт, что соответствует чипам Intel Core i5 и i7, используемым сегодня в большинстве ноутбуков. В AMD внесли ряд доработок в архитектуру Ryzen для мобильного применения. В частности, технология Precision Boost 2 варьирует тактовую частоту чипа с шагом 25 МГц с учетом температуры и характера нагрузки чипа, а функция Mobile XFR дает прибавку сразу 100 МГц, если позволяет температура системы.

В компании прогнозировали, что в сравнении с ее чипами Bristol Ridge седьмого поколения у мобильных Ryzen будет на 50% выше производительность центрального процессора и на 40% — графического, а потреблять они будут на 50% меньше. Реальные же показатели, подчеркивают в AMD, составили 200%, 128% и 58% соответственно.

Заявление о самых быстрых чипах в мире в AMD подкрепляют результатами тестов. В однопоточном тесте Cinebench R15 процессор Ryzen 7 демонстрирует показатели почти на равных с Intel Core i7-7500U и чуть-чуть отстает от Core i7-8550U, а в многопоточных четырехъядерный Ryzen 7 оставляет далеко позади двухъядерный Core i7-7500U в ноутбуке HP Envy x360 и опережает четырехъядерный Core i7-8550U в Acer Spin 5. При этом в AMD утверждают, что это не самые лучшие из возможных результаты, так как Ryzen 5 и 7 могут работать еще быстрее, если позволяет система охлаждения ноутбука. В компании привели результаты и других тестов — Ryzen 7 лидирует в POVRay, PCMark 10 и TrueCrypt и лишь немного уступает новым чипам Intel в PassMark 9.

Кроме того, как утверждают в AMD, мобильные Ryzen превосходят чипы Intel по быстродействию графики. Например, в тесте 3DMark Time Spy старшая модель Ryzen демонстрирует более высокие результаты, чем встроенная графическая подсистема 15-ваттных чипов Intel, выходя на один уровень с Nvidia GeForce GTX 950M в сверхтонком ноутбуке. Что касается реальных игр, в AMD обещают достаточную частоту кадров в ряде популярных наименований.

В компании не стали публиковать показатели экономии электроэнергии в сравнении с чипами Intel, но отметили, что ноутбук с батареей на 50 Вт*ч и новым Ryzen работает в режиме проигрывания видео VP9 в течение 9,2 ч, почти вдвое дольше, чем с чипом AMD FX 9800P, а время воспроизведения видео H.264 1080p увеличилось с 10,6 до 12,2 ч.

Мобильные Ryzen имеют модульную конструкцию, что позволяет быстрее модернизировать процессор, объясняют в AMD. Например, сейчас Ryzen совместим только с памятью DDR4, а в дальнейшем можно будет легко обеспечить поддержку более быстрой LPDDR4.

На презентации чипов были представлены три ноутбука с ними — от компаний Lenovo, Acer и HP, и еще немало моделей, как сообщили в AMD, находится в разработке.

Рост рабочей нагрузки ЦОД, приходящейся на системы искусственного интеллекта, высокопроизводительные вычисления и бизнес-анализ, заставляет крупнейших в мире производителей серверов и провайдеров облачных сервисов спешно закупать новейшие графические ускорители Tesla V100, созданные на базе архитектуры Nvidia Volta.

Компания Nvidia заставила говорить о новых Tesla V100 всю экосистему, включая разработчиков программного обеспечения, закрепив свое доминирующее положение в области графических процессоров для ЦОД.

На конференции Strata Data Conference в Нью-Йорке компании IBM, HPE, Dell EMC и Supermicro анонсировали интеграцию новых графических ускорителей в свои продукты. Чуть ранее на конференции GPU Technology Conference, организованной Nvidia в Пекине, об использовании референсной архитектуры Nvidia HGX и внедрении систем на базе архитектуры Volta в гипермасштабные ЦОДы заявили Lenovo, Huawei и Inspur.

Разработчики графической архитектуры Volta сделали гигантский шаг вперед по сравнению с архитектурой Nvidia Pascal. Продукты Tesla V100, созданные на базе Volta, имеют 21 млрд транзисторов и 5100 ядер CUDA. Их тактовая частота может достигать 1455 МГц. Для сравнения, ускорители Tesla P100, построенные на основе архитектуры Pascal, содержат 3840 ядер CUDA и 15 млрд транзисторов.

Nvidia контролирует около 70% рынка дискретных графических плат и практически весь рынок графических процессоров для машинного обучения. Впрочем, одним только оборудованием дело здесь не ограничивается. Экосистема, выстраиваемая на базе платформы параллельных вычислений CUDA и модели API, помогает воздвигать барьеры, которые конкурентам Nvidia, компаниям Intel и AMD вряд ли удастся преодолеть.

«Хотя мы сосредоточены в основном на оборудовании, и Volta занимает здесь очень важное место, не меньшее внимание следует уделять и дополнительным продуктам – компиляторам, системам, программным инструментам и т.д., которые Nvidia активно развивает на протяжении уже нескольких лет», – заявил Дин Маккеррон из Mercury Research.

Среди дополнительных инструментов следует выделить новую версию Nvidia TensorRT – оптимизирующего компилятора и исполняемой среды для развертывания систем машинного обучения в ЦОД гипермасштабов, а также на встроенных и автомобильных графических платформах.

Независимые разработчики программного обеспечения также анонсировали на конференции Strata приложения, которые будут работать на графических процессорах с архитектурой Volta. Программа искусственного интеллекта Driverless AI, представленная H2O.ai, специально адаптирована к архитектуре Nvidia Volta. Она уже работает на суперкомпьютере DG-X1, представленном в начале сентября, и будет запускаться на любом сервере с новой версией Tesla V100 (поддерживая при этом обратную совместимость с системами с архитектурой Pascal).

Разработчики графической архитектуры Volta сделали гигантский шаг вперед по сравнению с архитектурой Nvidia Pascal Источник: Nvidia

По словам генерального директора и одного из основателей H2O.ai Срисатиша Амбати, программное обеспечение Driverless AI позволит получать логические выводы на основе анализа данных, не имея специальных знаний в области машинного обучения. Оно может найти применение в сферах страхования, здравоохранения и финансовых услуг.

Графические процессоры с массово-параллельной архитектурой хороши в первую очередь при решении задач машинного обучения и настройке нейронных сетей, но серверы с этими процессорами могут выполнять и многие другие операции.

«Прежде всего речь идет обо всем, где нужны графические процессоры, но одним лишь искусственным интеллектом дело здесь не ограничивается, – подчеркнул Маккеррон. – Искусственный интеллект, машинное обучение, виртуализация, рендеринг, множество функций параллельного поиска – все эти задачи весьма востребованы в ЦОД, и у Nvidia есть много пространства для дальнейшего развития».

Приложение Kinetica, предназначенное для работы с базами данных в оперативной памяти и активно использующее вычислительные мощности графических процессоров, также устанавливается на системах Nvidia DGX и на других серверах с графическими процессорами Pascal или Volta. «Пявление Volta способствовало несомненному росту производительности», – заявил директор Kinetica по совместному с партнерами проектированию Вуди Кристи.

Kinetica ускоряет выполнение запросов Tableau и используется в сфере финансовых услуг, розничной торговли, здравоохранения и в государственном секторе для оперативной аналитической обработки (OLAP), выполнения приложений искусственного интеллекта, бизнес-анализа и геопространственной аналитики.

Серверы с графическими ускорителями Tesla V100

Производители серверов анонсировали целый ряд систем на базе Volta V100.

• Dell EMC. Серверы PowerEdge R740 поддерживают до трех графических ускорителей V100 с интерфейсом PCIe; PowerEdge R740XD – до трех V100 с интерфейсом PCIe; а PowerEdge C4130 – до четырех V100 с интерфейсом PCIe или до четырех V100 с интерфейсом Nvidia NVlink типоразмера SXM2.
• HPE. Серверы HPE Apollo 6500 поддерживают до восьми графических ускорителей V100 с интерфейсом PCIe, а системы HPE ProLiant DL380 – до трех V100 с интерфейсом PCIe.
• Supermicro. Поддержку новых графических процессоров обеспечивают следующие продукты этой компании: рабочая станция 7048GR-TR, предназначенная для высокопроизводительных вычислений общего назначения; серверы 4028GR-TXRT, 4028GR-TRT и 4028GR-TR2, служащие для управления приложениями машинного обучения; и серверы 1028GQ-TRT, выпускаемые для построения современных аналитических систем.
• IBM. Новые серверы IBM Power System с процессорами POWER9 будут поддерживать сразу несколько ускорителей V100 с интерфейсом NVLink. Архитектура межпроцессорного обмена OpenPower обеспечит максимальную пропускную способность. Более подробная информация об этом будет доступна в конце текущего года.

На конференции GPU Technology Conference в Пекине о своей поддержке архитектуры Volta объявили провайдеры облачных сервисов Alibaba, Baidu и Tencent, начинающие перевод своих ЦОД и облачной инфраструктуры с Pascal на Volta.

Отныне разработчикам доступна библиотека JavaScript, позволяющая выполнять нейронные сети непосредственно на веб-страницах с использованием интерфейса программирования аппаратного ускорения обработки графики, доступного в современных браузерах.

Библиотека, получившая название TensorFire, создана группой ученых Массачусетского технологического института. Она позволяет выполнять модели машинного обучения, совместимые с фреймворком Google TensorFlow, на любом графическом процессоре. При этом, в отличие от других библиотек машинного обучения вроде Keras-js, ей не требуется связующее ПО для конкретных видеочипов.

TensorFire — это очередной шаг к тому, чтобы сделать машинное обучение доступным максимально широкой пользовательской аудитории. Библиотека рассчитана на ПО и оборудование, которое уже, скорее всего, есть у большинства, и обеспечивает высокую точность результатов, используя в разы меньше ресурсов, чем требовалось раньше.

Вся мощь машинного обучения — в вашем браузере

TensorFire работает, пользуясь стандартом WebGL, который представляет собой кросс-платформенную систему рендеринга графики в браузере, ускоряемого с помощью видеопроцессора. WebGL поддерживает GLSL, Си-подобный язык программирования, используемый для написания шейдеров — коротких программ для преобразования данных непосредственно на графическом процессоре.

Обычно шейдеры используются в конвейере WebGL для преобразования изображений, например для рендеринга теней и других визуальных эффектов. Но в TensorFire шейдеры применяются для параллельного выполнения вычислений, необходимых для формирования умозаключений на основе моделей TensorFlow. Система также комплектуется библиотекой для импорта существующих моделей TensorFlow и Keras.

Фреймворк позволяет развернуть обученную модель в браузере и в нем же генерировать на ее основе прогнозы. При этом пользователю не нужно ничего загружать, устанавливать или компилировать — вся работа выполняется непосредственно в браузере. Данные, используемые для формирования умозаключений, тоже целиком обрабатываются на клиентской системе. Не имеет значения и марка графического процессора — поддерживаются чипы как AMD, так и Nvidia.

На сайте TensorFire приводится пример веб-приложения, реализующего нейронную сеть, которая позволяет стилизовать одно изображение под другое. Наиболее медленная часть демонстрации — загрузка модели и компиляция шейдерного конвейера, само же выполнение занимает не больше пары секунд.

Создатели TensorFire утверждают, что библиотека работает быстрее, чем другие подобные решения, одно из узких мест которых — перенос данных между графическим и центральным процессором; TensorFire избегает этой процедуры, стараясь обрабатывать максимально возможный объем данных на графическом процессоре.

Всю работу делает ваш компьютер

Наиболее важные преимущества TensorFire — переносимость и удобство. Современные браузеры существуют практически для всех операционных систем и аппаратных платформ, при этом даже у смартфонов эконом-класса ресурсы графического процессора доступны в избытке. Значительная часть работы по получению полезных результатов от моделей машинного обучения состоит в создании конвейера для обучения или предоставления выводов. Здесь же этот процесс, по крайней мере для некоторых видов задач, сведен к открытию браузера и выполнению пары щелчков мышью, что весьма удобно.

Еще одно преимущество, заявленное создателями TensorFire, — возможность получения прогнозов с использованием ресурсов только клиентского устройства. Когда обученная модель и данные уже находятся в облаке, это не имеет большого значения, но когда модель компактна, данные находятся на клиенте, а пользователь не желает загружать что-либо в облако, польза есть.

Третий плюс TensorFire состоит в том, что библиотека не накладывает ограничений на тип поддерживаемых видеопроцессоров, давая возможность пользоваться ускорителями как Nvidia, так и AMD.

На сегодня технология Nvidia CUDA считается предпочтительной для ускорения машинного обучения средствами графических процессоров, поскольку она обеспечивает более высокую производительность, чем открытый стандарт OpenCL, поддерживающий более широкий круг оборудования. У AMD есть идеи по преодолению нехватки производительности OpenCL, но TensorFire дает разработчикам возможность полностью обойти проблему.

Библиотека использует в работе прием, набирающий популярность среди разработчиков подобных систем: повышение компактности и эффективности моделей машинного обучения за счет небольшой, практически незаметной потери точности. В итоге на клиентах развертываются модели меньшего размера, а результаты генерируются быстрее.

Тот же подход, по утверждению создателей TensorFire, позволяет фреймворку работать и на тех видеопроцессорах и браузерах, которые не поддерживают весь спектр расширений WebGL.

Разработчики TensorFire собираются опубликовать библиотеку в виде проекта с открытым кодом по лицензии MIT, благодаря чему механизмы ускорения, реализованные в TensorFire, можно будет использовать во многих видах приложений, в том числе не относящихся к машинному обучению. Создатели фреймворка отмечают, что низкоуровневый API GLSL в TensorFire также можно использовать для выполнения произвольных параллельных вычислений общего назначения, то есть на базе библиотеки можно создавать другие фреймворки для клиентских вычислений в браузере, выполняемых на графическом ускорителе.

Функции рендеринга в OptiX 5.0, новом комплекте разработчика от Nvidia, основаны на технологиях искусственного интеллекта.

Недавно компания также представила напольную рабочую станцию DGX, предназначенную для дизайнеров, аниматоров и представителей других творческих профессий. Как утверждают в компании, программисты, используя OptiX, смогут предоставить таким специалистам приложения, которые обеспечат свободу раскрытия творческого потенциала за счет кардинального повышения продуктивности.

Nvidia DGX — бесшумная система, основанная на графических процессорах и стоящая в США 75 тыс. долл. Как утверждают в компании, чтобы получить такую же мощность рендеринга на центральных процессорах, понадобится ферма из 150 серверов, расходующих 200 кВт. Покупка и эксплуатация такой фермы обошлась бы в 4 млн долл. за три года, добавляют в Nvidia.

Основанные на алгоритмах искусственного интеллекта функции трассировки лучей OptiX 5.0 ускоряют рендеринг сцен и персонажей, позволяя менять их в интерактивном режиме. SDK также предлагает новые эффективные средства очистки изображения от шума и создания эффекта нерезкости при движении для реалистичных анимационных эффектов. Разработчикам доступ к OptiX 5.0 будет предоставлен в ноябре.

Сегодня рынок графических процессоров, используемых в системах машинного обучения, является, по сути, рынком всего одной компании — Nvidia.

Единственным ее крупным конкурентом в сегменте дискретных графических процессоров остается компания AMD, на чью долю приходится 30% от общего объема продаж (Nvidia сохраняет за собой 70%). Что же касается машинного обучения, здесь Nvidia практически полностью контролирует ситуацию. И не только потому, что все крупные облака, поддерживаемые графическими процессорами, работают на оборудовании Nvidia, но и потому, что связующее программное обеспечение для графических процессоров, используемое в системах машинного обучения, в основном построено на основе архитектуры Nvidia CUDA.

В компании AMD долго размышляли над тем, как отвоевать у конкурента кусок пирога себе. Наряду с проектированием оборудования, которое составило бы Nvidia конкуренцию по производительности и цене, она готовила платформу для нейтральных по отношению к производителю графических процессоров программных ресурсов. Благодаря этому разработчики смогут свободно использовать в своих решениях продукцию AMD, не беспокоясь о программной поддержке.

В конце мая компания сообщила об очередных шагах, которые должны приблизить ее к поставленной цели. Во-первых, продемонстрирован очередной процессор Radeon Vega, построенный на основе новой графической архитектуры. Во-вторых, представлена переработанная версия программной платформы с открытым кодом ROCm, которая позволяет создавать фреймворки машинного обучения и другие приложения, использующие преимущества масштабного применения графических процессоров.

Обе составляющие – и аппаратная, и программная – одинаково важны.

Новая звезда AMD: Vega

На протяжении долгого времени компания AMD занимается созданием центральных и графических процессоров, а также их комбинаций, приносящих покупателю максимальную отдачу за его деньги. И новое семейство графических процессоров Vega — не является исключением. Это не просто рациональная по затратам альтернатива семейству Nvidia Pascal – Vega бьет Pascal вчистую.

Предварительные результаты тестирования, опубликованные Хасаном Муджтабой на сайте WCCFTech, показывают, что Radeon Vega Frontier Edition (профессиональная версия графического процессора) опережает Nvidia Tesla P100 в тесте DeepBench в 1,38-1,51 раза в зависимости от используемых драйверов Nvidia.

К эталонным тестам всегда следует относиться с осторожностью, но, глядя на такие улучшения, трудно остаться равнодушным. Вместе с тем важно, по какой цене AMD собирается предлагать эти улучшения. Tesla P100 продается примерно за 13 тыс. долл., цена же на Vega Frontier пока не объявлена.

«Рок-м-ролл» против CUDA

Впрочем, для AMD важнее даже не обойти Nvidia по соотношению между ценой и производительностью, а гарантировать, что ее оборудование в популярных приложениях машинного обучения будет поддерживаться не хуже, чем аппаратные средства Nvidia.

Сегодня программное обеспечение, предназначенное для графических ускорителей, использует по большей части библиотеки Nvidia CUDA, которые работают только с оборудованием Nvidia. Библиотека с открытым кодом OpenCL предлагает поддержку устройств различных типов, не зависящую от поставщика, но производительность при этом оказывается ниже.

Вместо того чтобы вступать в борьбу за улучшение OpenCL – а это довольно медленный процесс, находящийся под контролем специального комитета, – в AMD предпочли создать свою собственную платформу с открытым кодом для вычислений с использованием графических процессоров. Платформа получила название ROCm – Radeon Open Compute Platform. По замыслу разработчиков, она должна представлять собой независимое от конкретного языка и поставщика оборудования связующее программное обеспечение для графических процессоров, рассчитанное в первую очередь на собственные технологии AMD, однако теоретически подходящее для любого графического процессора. При необходимости ROCm может взаимодействовать с графическими процессорами посредством OpenCL, но есть и собственные средства взаимодействия.

Остается узнать лишь, насколько ROCm превосходит OpenCL по производительности при машинном обучении. После переноса фреймворка Caffe на платформу ROCm производительность по сравнению с версией OpenCL выросла на 80%. Более того, конвертацию кода при использовании ROCm можно значительно автоматизировать, а значит, есть дополнительный стимул опробовать фреймворки на этой платформе. В перспективе планируется и поддержка других фреймворков, в частности TensorFlow и MxNet.

Долгая игра

Конечную цель AMD уяснить несложно. Это создание среды, в которой графические процессоры AMD могли бы заменить оборудование Nvidia при машинном обучении. Компании достаточно предложить за те же деньги похожую или более высокую производительность оборудования и обеспечить работу существующей программной экосистемы машинного обучения со своими собственными графическими процессорами.

В определенном смысле перенос программного обеспечения можно считать самой легкой частью предстоящей работы. Надо найти лишь программистов, которые конвертировали бы требуемый код для наиболее популярных фреймворков машинного обучения и поддерживали его в актуальном состоянии по мере дальнейшего развития аппаратного обеспечения и самих фреймворков.

Труднее всего для AMD – заручиться поддержкой в местах масштабного применения графических процессоров. Все графические процессоры, предлагаемые сегодня в Amazon Web Services, Azure и Google Cloud Platform, разработаны компанией Nvidia. Но если следующая итерация программного обеспечения машинного обучения станет гораздо более независимой от графических процессоров конкретного производителя, то у поставщиков облачных решений будет меньше поводов отказаться от процессора Vega или его наследников.

Как бы то ни было, любые планы AMD должны нацеливаться на рост спроса. На то чтобы набрать нужные темпы, у компании уйдут годы, ведь сражаться приходится фактически со всем уже завоеванным Nvidia миром.