IBM представляет энергоэффективный процессор машинного обучения NorthPole
NorthPole разрабатывался в течение восьми лет сотрудниками исследовательской лаборатории IBM в Альмадене, Калифорния. Чип основан на более раннем исследовательском проекте компании, в рамках которого был создан оптимизированный для искусственного интеллекта процессор TrueNorth. По данным IBM, NorthPole примерно в 4000 раз быстрее чем TrueNorth.
Новый чип состоит из 22 миллиардов транзисторов, изготовленных по 12-нанометровому техпроцессу. По данным IBM, эти транзисторы объединены в 256 ядер, каждое из которых может выполнять 2048 вычислений за такт с восьмибитной точностью. Это означает, что вычисления выполняются над относительно небольшими числами, занимающими до восьми бит пространства.
Каждое из 256 ядер NorthPole включает в себя интегрированный пул памяти, в котором хранится информация, используемая в вычислениях. Поскольку схемы памяти и ядра чипа расположены рядом друг с другом, данные могут перемещаться между ними за короткий промежуток времени. Это уменьшает задержки, связанные с перемещением данных, и тем самым повышает производительность.
«С архитектурной точки зрения NorthPole стирает границу между вычислениями и памятью», — сказал Дхармендра Модха, главный научный сотрудник IBM по вычислениям, основанным на использовании мозга. «На уровне отдельных ядер NorthPole выглядит как память, близкая к вычислительной, а снаружи чипа, на уровне ввода-вывода, она выглядит как активная память».
Еще одним преимуществом схем памяти, встроенных в ядра NorthPole, является повышение энергоэффективности. Перемещение данных между различными частями чипа не только задерживает обработку, но и потребляет электроэнергию. Минимизируя расстояние, которое данные должны пройти между схемами памяти и ядрами, архитектура NorthPole существенно экономит энергию.
IBM измерила энергопотребление NorthPole, запустив на нем модель распознавания изображений с открытым исходным кодом под названием ResNet-50. Модель обычно используется для сравнения возможностей различных процессоров искусственного интеллекта. По данным IBM, NorthPole использовала ResNet-50 с энергоэффективностью в 25 раз выше, чем у видеокарт и центральных процессоров, основанных на 12- и 14-нанометровых узлах, соответственно.
Энергоэффективность NorthPole ограничена тем, что он также изготовлен с использованием 12-нанометрового узла, отставая на несколько поколений от новейшего 3-хнанометрового процесса, доступного производителям микросхем. Однако процессор можно модернизировать до более новых производственных технологий. По оценкам исследователей IBM, такое обновление может позволить NorthPole обеспечить в 25 раз более высокую энергоэффективность, чем конкурирующие чипы, основанные на «текущих разработках».
Энергопотребление процессора напрямую влияет на количество выделяемого им тепла. IBM заявляет, что энергоэффективность NorthPole ограничивает его максимальную температуру, а это означает, что для работы чипа требуется только простое внешнее охлаждающее оборудование. В результате чип можно потенциально использовать в системах с ограниченным пространством, таких как автономные автомобили, в которых мало места для охлаждающего оборудования.
