Будущее микропроцессорного дизайна с нейроморфными вычислительными принципами

Переосмысление микропроцессорной архитектуры с помощью нейроморфного дизайна

Неустанное стремление к более быстрым и эффективным вычислениям на протяжении десятилетий приводило к разработке микропроцессоров, следуя траектории масштабирования Moore’s Law и Dennard. Однако, поскольку размеры транзисторов приближаются к атомным масштабам, традиционные архитектуры фон Неймана сталкиваются с фундаментальными физическими и энергетическими ограничениями. В ответ исследователи и инженеры аппаратного обеспечения обращаются к радикально другому подходу: нейроморфным вычислениям. Заимствуя принципы из биологических нейронных систем, эта парадигма стремится создавать процессоры, которые не только выполняют вычисления по-разному, но и превосходят в задачах, где обычные чипы борются, таких как сенсорная обработка в реальном времени, распознавание образов и адаптивное обучение. В этой статье рассматриваются основные концепции нейроморфных вычислений, их потенциал для изменения дизайна микропроцессоров и препятствия, которые должны быть преодолены, прежде чем чипы, вдохновленные мозгом, станут основными.

Пределы обычного микропроцессорного дизайна

Классическая микропроцессорная архитектура, основанная на модели фон Неймана, разделяет память и процессоры. Данные перемещаются между ними, создавая узкое место, известное как , узкое место фон Неймана. В то время как тактовые частоты увеличились, а количество транзисторов взлетело, энергетическая стоимость перемещения данных стала доминирующим фактором общего энергопотребления. Современные процессоры потребляют огромное количество энергии для передачи данных между кэшем, ОЗУ и арифметическими логическими блоками. Более того, конец масштабирования Dennard означает, что меньшие транзисторы больше не автоматически дают меньшую мощность на функцию. В результате, повышение производительности все чаще происходит из параллелизма— через многоядерные процессоры и расширения SIMD— но они по-прежнему работают в рамках жесткой, часовой парадигмы, которая принципиально отличается от асинхронных, событийных вычислений мозга’.

Основы нейроморфных вычислений

Нейроморфные вычисления, термин, придуманный Карвером Мидом в конце 1980-х, относится к дизайну электронных систем, которые имитируют нейронные и синаптические структуры биологических нервных систем. Вместо того, чтобы представлять информацию как бинарные состояния (0 или 1) и обрабатывать ее в последовательных инструкциях, нейроморфные системы используют , подскакивающие нейронные сети (SNN) , где информация кодируется во времени и скорости электрических всплесков, так же как потенциалы действия в нейронах. Эти всплески передаются через синапсы, сильные стороны (весы) которых могут быть изменены с помощью правил обучения, таких как спайк-тиминг-зависимая пластичность (STDP). Устраняя жесткое разделение памяти и вычислений, нейроморфные чипы позволяют колокейшн обработки и памяти, резко снижая затраты на перемещение данных.

Ключевые биологические вдохновения

• Шаговые нейроны:] Нейроны в нейроморфном оборудовании активируются только тогда, когда вход превышает порог, создавая событие (спайк). Это вычисление, основанное на событии, означает, что система остается в значительной степени неактивной до тех пор, пока не потребуется, экономя энергию.
• Синаптическая пластичность: Синаптические веса корректируются на основе относительного времени до- и постсинаптических всплесков, что позволяет учиться непосредственно на аппаратном обеспечении.
• Масштабный параллелизм:] Один мозг содержит миллиарды нейронов и триллионы синапсов, работающих одновременно. Нейроморфные чипы воспроизводят этот параллелизм с массивами нейронных цепей и матрицами кроссбарных синапсов.
• Асинхронная сигнализация: В отличие от тактовых цифровых схем, нейроморфные системы часто используют асинхронную или событийную связь, устраняя мощность, потраченную впустую переключением глобальных часов.

Чем нейроморфное оборудование отличается от обычных процессоров

Традиционные процессоры выполняют инструкции последовательно (или с ограниченным параллелизмом посредством трубопроводирования и многопоточности) и полагаются на точные часы. Память доступна через иерархию кэша и DRAM, несущую задержку и энергетические штрафы. Напротив, нейроморфные чипы обычно строятся как крестовые массивы энергонезависимых запоминающих устройств (например, мемристоры или память с фазовым изменением), которые действуют как синапсы, подключенные к нейронным цепям, реализованным с CMOS транзисторами. Вычисления выполняются там, где находится память, архитектура, известная как в памяти вычисления . Кроме того, нейроморфные системы работают непрерывным, аналоговым образом: нейронные мембранные потенциалы интегрируют входные токи, и когда порог пересекается, генерируется скачок. Этот аналоговый смешанный сигнал конструкции может быть более энергоэффективным в каждой операции, чем чисто цифровая логика, хотя он вводит проблемы шума и изменчивости.

Цифровая и аналоговая нейроморфная реализация

Нейроморфные чипы могут быть разработаны в цифровой или аналоговой областях (или гибриде). Цифровые нейроморфные конструкции, такие как Intel’s Loihi 2, представляют динамику нейронов с дискретными числами и используют детерминированную логику. Они предлагают лучший помехоустойчивость, масштабируемость и более легкую интеграцию с обычными цифровыми системами. Аналогичные конструкции, как некоторые исследовательские чипы из Стэнфорда и IBM, используют транзисторы в субпороговых режимах для более прямого моделирования поведения нейронов, потенциально достигая более низкой мощности на скачок, но страдая от изменчивости производства и чувствительности к температуре. Оба подхода разделяют основную идею вычислений на основе событий и локального обучения.

Основные преимущества будущих микропроцессоров

Беспрецедентная энергоэффективность

Наиболее убедительным преимуществом нейроморфных вычислений является их потенциал для снижения энергопотребления на порядки для определенных рабочих нагрузок. Биологический мозг работает на около 20 Вт, в то время как современные суперкомпьютеры требуют мегаватт для имитации даже части этой нейронной активности. Нейроморфные чипы достигают этой эффективности, потому что они потребляют энергию только тогда, когда происходят всплески, а не в периоды простоя. Более того, доступ к памяти является локальным, устраняя энергию, потраченную на передачу данных на большие расстояния. Для приложений, таких как краевой ИИ, автономные дроны и носимые устройства, эта эффективность является преобразующей.

Сенсорная обработка в реальном времени

Нейроморфные датчики, такие как камеры на основе событий (например, датчик динамического видения), выводят потоки пиковых событий, а не полные кадры с фиксированной скоростью. Нейроморфный процессор может обрабатывать эти события по мере их поступления, реагируя с задержкой в микросекунде. Это идеально подходит для быстро движущейся робототехники, автономного управления транспортным средством и промышленной автоматизации, где обычная обработка на основе кадра вводит задержки. Временная точность пиков позволяет точно отслеживать движение и быстро принимать решения без накладных расходов на буферизацию и обработку целых изображений.

Обучение на чипе и адаптивность

Традиционные микропроцессоры работают с предварительно обученными нейронными сетями; обучение осуществляется в автономном режиме на отдельном оборудовании (обычно графических процессорах). Нейроморфные чипы могут реализовывать локальные правила обучения, такие как STDP, непосредственно на оборудовании, что позволяет системе адаптироваться к новым данным в режиме реального времени, не требуя хост-компьютера. Это позволяет постоянно учиться, где устройство может обновлять свои знания на лету, что делает его идеальным для персонализированных пользовательских интерфейсов, обнаружения аномалий и развивающихся сред.

Виновата терпимость и хрупкость

Поскольку нейронные вычисления распределены и избыточны, нейроморфные системы по своей природе устойчивы к ошибкам. Потеря одного нейрона или синапса в сети обычно изящно ухудшает производительность, а не вызывает катастрофический сбой. Это свойство ценно для длительных космических миссий, глубоководных исследований или любого приложения, где ремонт оборудования невозможен. Более того, аналоговый характер некоторых нейроморфных конструкций может естественным образом обрабатывать шум, превращая его в полезный источник стохастичности, а не ответственности.

Нейроморфные процессоры и проекты

Intel Loihi 2

Loihi 2 от Intel’ — это цифровой нейроморфный исследовательский процессор, который поддерживает до 1 миллиона нейронов и 120 миллионов синапсов на чип. Он имеет программируемые синаптические задержки, градуированные шипы и нейроны с несколькими отсеками. Loihi 2 также вводит собственный интерфейс в программную структуру Intel’ Lava, что позволяет исследователям разрабатывать алгоритмы SNN. Он демонстрирует до 1000x энергоэффективность по сравнению с обычными процессорами для определенных рабочих нагрузок нейронных сетей.

IBM TrueNorth

TrueNorth от IBM’, представленный в 2014 году, содержит 4096 нейросинаптических ядер, каждое с 256 нейронами и 256×256 синапсами, общей мощностью 1 млн нейронов и 256 млн синапсов. Он работает на чрезвычайно низкой мощности (примерно 70 мВт) и использует архитектуру, управляемую событиями. В то время как TrueNorth был разработан в первую очередь для исследований когнитивных вычислений, он показал возможность крупномасштабной нейроморфной интеграции.

BrainScaleS и SpiNNaker

Эти европейские проекты используют разные подходы. BrainScaleS (Heidelberg) - это аналоговая нейроморфная система, которая работает в 10 000 раз быстрее, чем биологическое реальное время, что делает ее полезной для изучения долгосрочной нейронной динамики. SpiNNaker (Манчестер) - это цифровая система, предназначенная для моделирования в реальном времени больших колеблющихся нейронных сетей, использующая множество ядер ARM, связанных между собой пользовательской сетью с коммутацией пакетов. Оба являются частью Европейского проекта человеческого мозга.

Проблемы, с которыми сталкиваются нейроморфные микропроцессоры

Алгоритмическое и программное несоответствие

Большинство современных программ ИИ построено для обычных, не вращающихся нейронных сетей (CNN, RNN). Преобразование их в SNN часто приводит к потере точности или требует переподготовки. Кроме того, обучение SNN с обратной пропагандой является сложной задачей из-за недифференцируемого характера событий всплеска. Появились методы суррогатного градиента, но стандартизация инструментов и рамок (например, поддержка PyTorch) все еще продолжается. Без надежной экосистемы принятие остается ограниченным специализированными исследовательскими группами.

Масштабируемость и изготовление

В то время как нейроморфные чипы могут быть изготовлены с использованием стандартных процессов CMOS, интеграция плотных мембранных поперечных панелей с нейронными цепями CMOS вводит сложность производства. Вариабельность и выносливость новых энергонезависимых запоминающих устройств (мемристоры, PCM, STT-RAM) еще не на уровне, необходимом для коммерческого производства больших объемов. Кроме того, подключение многих нейроморфных чипов в более крупные сети (например, в масштабе коры) требует эффективных межчиповых протоколов связи, таких как представление адресных событий (AER), которые могут стать узким местом.

Отсутствие стандартизированных архитектур

В отличие от модели фон Неймана, которая имеет четко определенный набор инструкций и интерфейс памяти, нейроморфные архитектуры широко варьируются. Каждая исследовательская группа реализует различные модели нейронов, правила обучения и схемы связи. Эта фрагментация затрудняет разработку портативного программного обеспечения или сравнение производительности. Такие усилия, как структура Intel & #8217 и программный стек BrainScaleS-2, направлены на обеспечение некоторой абстракции, но единый отраслевой стандарт находится на расстоянии нескольких лет.

Ограниченная способность общего назначения

Нейроморфные процессоры преуспевают в задачах, вдохновленных нейронами, но плохо выполняют традиционные рабочие нагрузки (например, обработка текстов, базы данных, математика с плавающей запятой). В результате они, вероятно, будут служить сопроцессорами или ускорителями наряду с обычными процессорами, так же, как и GPU сегодня. Эффективная интеграция обоих на одном и том же кристалле или пакете создает проблемы проектирования на системном уровне, включая согласованность памяти, управление питанием и модели программирования.

Пути интеграции: гибридные вычислительные системы

Наиболее реалистичным ближайшим будущим для нейроморфных микропроцессоров является как специализированные ускорители внутри гетерогенных вычислительных платформ. Например, мобильная система на чипе может включать в себя обычный процессор для задач общего назначения, графический процессор для графики и параллельных рабочих нагрузок, так и нейроморфное ядро для обработки датчиков и адаптивного вывода. Эта комбинация позволяет устройствам использовать сильные стороны каждой архитектуры. Такие компании, как Intel и IBM, уже преследуют такое направление, интегрируя нейроморфные исследовательские чипы в испытательные стенды с x86-хостами. Со временем, по мере созревания производства и программного обеспечения, нейроморфные блоки могут стать стандартным IP в высокопроизводительных вычислительных пакетах.

Приложения, готовые к трансформации

Edge AI и Интернет вещей

Нейроморфные процессоры с низким энергопотреблением позволяют ИИ напрямую работать на датчиках, камерах и микрофонах с батарейным питанием без облачного подключения. Например, нейроморфный чип в устройстве умного дома может непрерывно слушать ключевые слова при потреблении микроватт, позволяя всегда включенные голосовые команды без разрядки батарей. Аналогично, промышленные датчики IoT могут обнаруживать аномалии в вибрации или температуре в режиме реального времени, предотвращая сбои.

Автономные автомобили и робототехника

Взгляд на события в сочетании с нейроморфной обработкой обеспечивает сверхнизкое восприятие задержки для автономных транспортных средств. Нейроморфный чип может обрабатывать каждое пиксельное событие с камеры DVS по мере его возникновения, позволяя избегать препятствий в миллисекундное время отклика. Кроме того, нейроморфные контроллеры могут реализовывать сенсомоторные петли, которые непрерывно адаптируются к изменяющимся средам, имитируя биологические рефлексы.

Медицинские и нейронные протезы

Нейроморфное оборудование естественным образом взаимодействует с биологической нервной тканью. Исследователи разрабатывают нейроморфные интерфейсы, которые используют нейроморфные чипы для декодирования нейронных сигналов в реальном времени, контролируя протезы конечностей или компьютерные курсоры. Низкая мощность и малый форм-фактор также делают их пригодными для имплантируемых устройств, таких как стимуляторы глубокого мозга с замкнутым контуром, которые адаптируют модели стимуляции на основе нейронной обратной связи.

Научная симуляция

Нейроморфные чипы могут ускорить моделирование крупномасштабных нейронных сетей, помогая исследованиям в области нейробиологии. Традиционные симуляции на суперкомпьютерах медленные и энергоемкие, потому что они эмулируют каждый синапс и нейрон в программном обеспечении. Нейроморфное оборудование запускает эти модели изначально, предлагая ускорения на несколько порядков. Такие проекты, как BrainScaleS и SpiNNaker, уже используются для моделирования областей мозга для изучения эпилепсии, памяти и обучения.

Будущее: за пределами кремния

В то время как современные нейроморфные чипы полагаются на CMOS и возникающие воспоминания, долгосрочное видение включает в себя новые материалы и устройства, которые более точно имитируют биологические синапсы. Мемристоры , например, могут хранить континуум состояний проводимости и эмулировать синаптическую пластичность напрямую. Другие исследовательские технологии включают спинтронные нейроны, фотонные нейронные сети и молекулярную электронику. По мере их созревания они могут привести к процессорам с плотностью и эффективностью, конкурирующим с человеческим мозгом. Однако многие из них остаются на лабораторной стадии; практические интегрированные чипы находятся по крайней мере в десятилетнем возрасте.

Усилия по стандартизации также ускорят внедрение. Такие организации, как Нейроморфный вычислительный консорциум и рабочие группы IEEE, разрабатывают бенчмарки, метрики и коммуникационные протоколы. После стандартизации нейроморфные микропроцессоры можно легче сравнивать и интегрировать в более крупные системы, подобно тому, как стандартизированные GPU вычисления CUDA.