TrueNorth

Отладочная плата с 16 нейроморфическими процессорами IBM TrueNorth, каждый из которых содержит более 5 млрд транзисторов и имитирует работу до 1 миллиона модельных «нейронов» и до 250 миллионов связей между ними («синапсов»).

TrueNorth — исследовательский проект нейроморфического процессора второго поколения от компании IBM. Микрочип TrueNorth был разработан к лету 2014 года в рамках программы DARPA SyNAPSE. Процессор имеет неклассическую архитектуру (не основан на архитектуре фон Неймана) и вдохновлен некоторыми моделями работы неокортекса.[1]

Характеристики

Чип TrueNorth изготовлен по планарной полупроводниковой технологии по техпроцессу 28 нм на заводе Samsung. Он содержит 5.4 миллиарда транзисторов (что делает его одним из крупнейших на момент выпуска), с помощью которых реализованы:[1]

  • один миллион эмулируемых «нейронов»
  • 256 миллионов эмулируемых связей между нейронами — «синапсов».
  • около 400 мегабит SRAM памяти (приблизительно 50 мегабайт)

Для организации такого количества элементов использовалось 4096 блоков («ядер») в двухмерном массиве размером 64 на 64. Каждый блок («ядро») содержит планировщик, модуль управления токенами, около 100 килобит SRAM памяти для хранения состояния «синапсов» и «нейронов», модуль коммуникации с соседними ядрами (маршрутизатор, router), и логическую реализацию «нейронов»[1], которая позволяет каждому блоку моделировать 256 «нейронов» с частотой 1 кГц[2]. Чип построен по асинхронной технологии, созданной в Cornell University.[3]

Моделируются «нейроны» с двоичным состоянием (Spiking neurons; Integrate-and-fire). Вес каждого синапса кодируется 2 битами. То есть, фактически, синапс может быть возбуждающим (с фиксированным для данного нейрона весом), тормозным (тоже - с одним и тем же весом для всех синапсов одного нейрона) или отсутствующим. Синаптические связи имеют 4-битную временную задержку.[2]

Энергопотребление чипа составляет 70—100 милливатт (при анализе видео 400×240 30 fps), производительность систем на базе чипа оценивается авторами в 46 млрд «синаптических операций в секунду на ватт»[1]

Применение

TrueNorth подходит для исполнения рекуррентных нейронных сетей, которые могут применяться для классификации различной информации, в том числе, изображений, речи и видео.[1]

Для программирования TrueNorth используется новый объектно-ориентированный язык Corelet.[4][5]

Примечания

  1. ↑ 1 2 3 4 5 Introducing a Brain-inspired Computer TrueNorth's neurons to revolutionize system architecture (англ.). IBM (август 2014). Дата обращения: 9 августа 2014. Архивировано 12 октября 2020 года.
  2. ↑ 1 2 Comments on the IBM TrueNorth neural net chip. Архивировано 5 октября 2014 года. // Yann LeCun, Google Plus  (англ.)
  3. ↑ Asynchronous VLSI and Architecture Архивная копия от 21 августа 2014 на Wayback Machine // Cornell University
  4. ↑ Cognitive Computing Programming Paradigm: A Corelet Language for Composing Networks of Neurosynaptic Cores (англ.). IBM, DARPA. Дата обращения: 9 августа 2014. Архивировано 12 апреля 2015 года.
  5. ↑ IBM creates Corelet programming language to make software that operates like the human brain | ExtremeTech  (неопр.). Дата обращения: 9 августа 2014. Архивировано 10 августа 2014 года.

Литература

  • Introducing a Brain-inspired Computer TrueNorth's neurons to revolutionize system architecture (англ.). IBM (август 2014). Дата обращения: 9 августа 2014.
  • Cognitive Computing Programming Paradigm: A Corelet Language for Composing Networks of Neurosynaptic Cores (англ.). IBM, DARPA. Дата обращения: 9 августа 2014.
  • A million spiking-neuron integrated circuit with a scalable communication network and interface // Science 8 August 2014: Vol. 345 no. 6197 pp. 668—673 DOI: 10.1126/science.1254642  (англ.)  (платн.), The brain chip
  • Real-Time Scalable Cortical Computing at 46 Giga-Synaptic OPS/Watt with ~100x Speedup in Time-to-Solution and ~100,000x Reduction in Energy-to-Solution // Proceedings of Supercomputing 2014, November 2014 (abstract)
  • Building Block of a Programmable Neuromorphic Substrate: A Digital Neurosynaptic Core // Neural Networks (IJCNN), The 2012 International Joint Conference on, DOI:10.1109/IJCNN.2012.6252637 (описание первого поколения нейроморфического процессора IBM)

Ссылки

  • A Cognitive Information Superhighway // IBM Research, Aug 7, 2014 (видео)  (англ.)
  • Tiny chip mimics brain, delivers supercomputer speed // Phys.org, AFP, Aug 07, 2014 by Rob Lever  (англ.)
  • IBM TrueNorth: чип, имитирующий устройство человеческого мозга // Tom's Hardware, 08 августа 2014  (рус.)
  • Учится, но не мыслит. Создан нейронный чип для будущих суперкомпьютеров // Lenta.ru  (рус.)