Особенности аппаратной реализации нейросетей

При использовании нейросетевых алгоритмов плохо формализуемых задач моделирования, прогнозирования и распознавания достаточно малоразрядных представлений входов и весов и операций с фиксированной точкой. Это обусловлено тем, что значения входов нормируются (приводятся к интервалу 0, 1 или -1,1), и число различных значений каждого входа, как правило, не велико.

При решении хорошо формализуемых задач, сформулированных в нейросетевом базисе, существенна точность вычислений, что требует полноразрядных представлений чисел и операций с плавающей точкой.

Таким образом, специализация вычислительных средств на выполнение нейроалгоритмов заключается с одной стороны в повышении обмена между памятью и операционными устройствами, а с другой стороны – в уменьшении времени выполнения умножения и накопления за счет укорочения операндов.

Лекции 14. Аппаратная реализация на примере нейрочипа NeuroMatrix NM6403.

Пример аппаратной реализации (нейрочип NeuroMAtrix NM6403 НТЦ «Модуль»)

Выбор и обоснование принципов построения нейрочипа

Основными предпосылками, которыми руководствовались разработчики при создании архитектуры нейрочипа, были следующие:

· нейрочип должен быть программируемым устройством, имеющим в своем составе операционные узлы специально, разработанные для эффективной поддержки нейровычислений;

· нейрочип должен обеспечивать вычисление значений выходов нейронов как можно большего участка нейросети за один процессорный такт;

· нейрочип должен производить вычисления над данными (синапсами и весами) произвольной разрядности (от 1 до 64 бит);

· нейрочип должен иметь в своем составе средства комплексирования для создания распределенных параллельных вычислительных систем, состоящих из любого количества процессорных узлов;

· нейрочип должен иметь достаточно развитую систему команд, способную поддерживать наиболее часто используемые конструкции современных языков высокого уровня. Любая команда (кроме команд загрузки/выгрузки массивов данных) должна выполняться за один процессорный такт.

Далее описаны архитектурные решения, принятые разработчиками, удовлетворяющие приведенным выше требованиям.