Резистивные soc и будущее нейронных сетей

28 июня 2006

smart

Нейронные сети за последние годы из прекрасной теоретической концепции превратились в чуть ли не главный вектор развития машинного обучения и связанных с ИИ разработок. Мысль эмуляции процессов, протекающих в центральной головном мозге и нервной системе человека на практике выясняется не столь уж фантастичной. А плоды машинного обучения, орагнизованного на НС, уже дешёвы и рядовому пользователю. Но, как и у любой технологии, у нейронных сетей имеется и собственные недочёты.

Яблоком раздора в этом случае есть довольно принятия решений и невысокая скорость обучения на базе усвоенной информации. Корни оных неприятностей наряду с этим уходят не столько в алгоритмическую составляющую, сколько в ограничения существующей аппаратной части. Разные научно-рабочие группы и исследовательские институты больших корпораций на сегодня трудятся над очень широким спектром вероятных ответов.

Но уже на данный момент наметилось два главных направления предстоящих разработок. Первое из них – квантовые компьютеры. Находящиеся еще в зачаточном состоянии разработки предлагают решать проблему за счет очевидного повышения производительности на пара порядков довольно существующих совокупностей.

Второе же делает ставку на мемристоры и применение энергонезависимой резистивной памяти в сочетании с бинарными процессорами. Как раз тут и наметился столь долгожданный прорыв!

Нет, вот прямо на следующий день кардинальные перемены к лучшему не наступят. Изучения все еще пребывают в стадии математически обоснованной теоретической концепции и ожидают рассчетных эволюционных трансформаций в производственной сфере. Но значение таких работ уже успели подтверждать такие гиганты как IBM и Google. При чем первая действительно разглядывает возможности применения оных в последующих поколениях суперкомьютеров проекта Watson. Но обо всем по порядку.

В чем же фактически содержится сущность идеи? Исследовательский центр проекта Watson под руководством IBM пару дней назад представил доклад, посвященный так называемым резистивным чипам. Согласно точки зрения его работников Тайфуна (да, это имя) Гокмена и Юрия Власова, гибридные многоядерные SoC с применением кремниевых процессоров и мемристорной памяти способны ускорить исполнение методов машинного обучения в ~30 000 раз если сравнивать с простыми кластерными совокупностями. Затратив наряду с этим намного меньше энергии.

Желающие ознакомиться с теорией из источника смогут почерпнуть все данные тут. Мы же не будем уделять через чур много времени теории и перейдем к самоё интересным “металлическим” нюансам разработок.

Наглядная демонстрация числа количества ошибок и уменьшения повторений в связи с применением резистивных SoC

Сущность мемристорной памяти содержится в реализации ее запоминающих функций при помощи трансформации сопротивления диэлектрика в каждой ячейке. Как раз возможность перехода намерено синтезированного вещества из разряда диэлектриков в проводники электрического тока под действием довольно большого напряжения с последующим сохранением новообретенного состояния кроме того при отключении электропитания открывает перед инженерами и учёными невиданные ранее возможности.

Практически мы говорим об объединении двух разных классов компьютерной памяти – своевременной и постоянной. Стремительная, энергонезависимая и весьма экономичная память нового поколения разрешит совокупностям сохранять данные на постоянной базе и обращаться к ней с невиданной ранее скоростью, практически исключив из цепочки нужных действий ее выгрузу в работу и оперативную память с кэшем доктора наук. Таковой подход открывает путь к отказу от всевозможных второстепенных системных шин.

Прямое обращение CPU, GPU и других процессорных ядер к единому пулу памяти приведет в отдельных случаях к экспоненциальному росту производительности. Так: миниатюрное многоятерное ответ, основанное на таковой резистивной технологии и помещаюещееся в карман штанов, и воображающее из себя нейронную сеть, способно по рассчетам ученых за час совладать с теми задачами, каковые "настойчиво попросили" бы от нескольких аппаратных шакфов с серверными модулями пары недель постоянной работы.

Резистивные soc и будущее нейронных сетей

Устройство мемристора

Казалось бы, пора без промедлений производить резистивные SoC и серверные кластеры на их базе. Но не все так легко. Дело в том, что для серийного производства памяти на мемристорах в текущий техпроцесс потребуется внести очень значительные трансформации.

Что влечет за собой доукомплектацию производственных мощностей, переобучение персонала и другие очень важные накладные затраты. Не говоря уже о пересмотре существующей базы методов, усовершенствовании существующих языков и сред программирования. Всё это неизбежно растянется на годы.

И первые серийные экземпляры экономически целесообразных резистивных SoC направляться ожидать не раньше 2021 года. А до тех пор такие разработки останутся только дорогими игрушками в проектах, подобных Watson. До скорого!

Если вы нашли неточность, прошу вас, выделите фрагмент текста и надавите Ctrl+Enter.