Вторник, 29 августа 2017 16:00

Microsoft представляет Project Brainwave для ИИ в реальном времени

Оцените материал
(0 голосов)

22 августа на Hot Chips 2017 команда из cross-Microsoft представила новую платформу для глубокого обучения, под кодовым названием Project Brainwave. Я рад поделиться более подробными сведениями в этом посте, так как Project Brainwave добился значительного скачка вперед как в производительности, так и в гибкости для облачных сервисов глубоких моделей обучения. Мы разработали систему для ИИ в реальном времени, что означает, что система обрабатывает запросы так быстро, как она их получает, с ультранизкой задержкой. В реальном времени ИИ становится все более важным, поскольку облачные инфраструктуры обрабатывают потоки реальных данных, будь то поисковые запросы, видео, потоки сенсоров или взаимодействия с пользователями.

Система Project Brainwave построена тремя основными слоями:

  1. Высокопроизводительная распределенная системная архитектура;
  2. Аппаратный механизм DNN, синтезированный на FPGA;
  3. Компилятор и среда выполнения для низкопрочного развертывания обучаемых моделей;
  4. Hot Chips Stratix 10

Во-первых, Project Brainwave использует массивную инфраструктуру FPGA, которую Microsoft развертывала за последние несколько лет. Присоединяя высокопроизводительные FPGA непосредственно к нашей сети центров обработки данных, мы можем обслуживать DNN как аппаратные микросервисы, где DNN можно сопоставить с пулом удаленных FPGA и вызывать на сервере без программного обеспечения в цикле. Эта системная архитектура снижает время ожидания, поскольку CPU не требует обработки входящих запросов и обеспечивает очень высокую пропускную способность, при этом запросы обработки FPGA так же быстро, как сеть может их передавать.

Во-вторых, Project Brainwave использует мощный «мягкий» блок обработки DNN (или DPU), синтезированный на коммерчески доступных FPGA. Ряд компаний - как крупных компаний, так и множество стартапов - строят закаленные DPU. Хотя некоторые из этих чипов имеют высокую пиковую производительность, они должны выбирать своих операторов и типы данных во время разработки, что ограничивает их гибкость. Проект Brainwave использует другой подход, обеспечивающий проектирование, масштабируемое по целому ряду типов данных, причем желаемый тип данных является решением синтеза времени. Конструкция сочетает в себе как цифровые блоки обработки сигналов ASIC на FPGA, так и синтезируемую логику для обеспечения большего и более оптимизированного количества функциональных блоков. Этот подход использует гибкость FPGA двумя способами. Во-первых, мы определили высоко настраиваемые типы данных с узкой точностью, которые повышают производительность без реальных потерь в точности модели. Во-вторых, мы можем быстро внедрять инновационные разработки в аппаратную платформу (как правило, несколько недель), что необходимо в этом быстро развивающемся пространстве. В результате мы достигаем производительности, сопоставимой или большей, чем - многие из этих жестко запрограммированных чипов DPU, но сегодня обеспечивают обещанную производительность.

В-третьих, Project Brainwave включает в себя стек программного обеспечения, предназначенный для поддержки широкого спектра популярных глубоких учебных систем. Мы уже поддерживаем Microsoft Cognitive Toolkit и Tensorflow от Google и планируем поддерживать многие другие. Мы определили промежуточное представление на основе графов, на которое мы конвертируем модели, обучаемые в популярных рамках, а затем скомпилируем нашу высокопроизводительную инфраструктуру.

Источник -https://www.microsoft.com/en-us/research/blog/microsoft-unveils-project-brainwave/

Author

Bender

Я поделюсь с тобой всеми знаниями, которые доступны мне.

Комментарии (0)

There are no comments posted here yet

Оставьте свой комментарий

  1. Posting comment as a guest. Sign up or login to your account.
Вложения (0 / 3)
Share Your Location

О нас

Основой деятельностью портала является показ и объяснение что представляет собой выражени "Робот", "Робототехника", "Законы робототехники", "Мехатроника", "Искусственный интеллект(ИИ)". 

 Если у Вас есть интересная информация по тематике сайта и Вы готовы ей поделиться, - обращайтесь на емайл через форму обратной связи. И мы опубликуем Вашу статью

Мы используем файлы cookie для улучшения нашего веб-сайта. Продолжая использовать этот веб-сайт, вы даете согласие на использование файлов cookie. More details…