«Резистивный» процессор IBM ускорит обучение нейросетей в 30 тыс. раз

Системе Google AlphaGo для того, чтобы добиться знаменательной победы над чемпионом мира по игре Го, потребовались тысячи чипов. Инженеры IBM уже работают над технологией, которая позволит вместить такие и ещё большие интеллектуальные способности всего в одну микросхему.

Сотрудники компании Тайфун Гокмен (Tayfun Gokmen) и Юрий Власов предложили концепцию нового чипа Resistive Processing Unit (RPU), способного обеспечить ускорение обучения нейросетей (Deep Neural Networks, GNN) в 30 тыс. раз по сравнению с традиционными процессорами.

«Системе, состоящей из кластера ускорителей RPU, окажутся по плечу нерешаемые сегодня проблемы больших данных с триллионами параметров, такие как распознавание и перевод естественной речи между всеми существующими в мире языковыми парами, аналитика в реальном времени интенсивных потоков деловой и научной информации, интеграция и анализ разнородных потоков данных от огромных массивов сенсоров IoT», — написали они в статье, размещённой на ресурсе Arxiv.org.

qlihx923.jpg

На протяжении последней пары десятилетий достигнут значительный прогресс в увеличении скорости машинного обучения за счёт использования графических процессоров, массивов программируемой логики FPGA и даже специализированных микросхем (ASIC). Дальнейшее ускорение, по мнению авторов, требует использование локальности и параллельности алгоритмов. Для этого команда IBM позаимствовала нужный принцип у технологий энергонезависимой памяти следующего поколения — фазовой (PCM) и резистивной (RRAM).

Сама по себе такая память способна ускорить DNN в 27–2140 раз, однако исследователи считают, что, убрав некоторые конструкционные ограничения запоминающих ячеек, можно получить ещё более впечатляющий результат. Они утверждают, что если создать новый чип, базирующийся на новой памяти, но по их собственным спецификациям, скорость работы алгоритма может быть увеличена в 30 тыс. раз. При этом размеры и энергопотребление устройства будут оставаться в разумных пределах.

Реализовать новую концепцию в коммерческом решении, вероятно, получится только через несколько лет, когда указанные технологии памяти достигнут рыночного уровня. Тем не менее, исследование выглядит многообещающим и, помимо самой IBM, несомненно привлечёт внимание многих других компаний, таких как Google, заинтересованных в максимальном совершенствовании технологий искусственного интеллекта.

Пожалуйста, оцените статью:
Ваша оценка: None Средняя: 4.9 (7 votes)
Источник(и):

ko.com.ua