В Китае учёные создали новый тип тензорного процессора (TPU) — специального компьютерного чипа, — используя для этого углеродные нанотрубки вместо традиционного полупроводника на основе кремния. Они утверждают, что этот новый чип может открыть путь к более энергоэффективному искусственному интеллекту (ИИ).
Для своей работы модели ИИ требуют огромных объёмов данных и вычислительных мощностей. Это создаёт серьёзное препятствие для обучения и масштабирования моделей машинного обучения, особенно с ростом спроса на приложения ИИ. Именно поэтому учёные работают над созданием новых компонентов — от процессоров до вычислительной памяти — которые будут потреблять на порядки меньше энергии при выполнении необходимых вычислений.
Учёные Google для решения этой задачи разработали TPU в 2015 году. Эти специализированные чипы выполняют роль ускорителей аппаратного обеспечения для тензорных операций — сложных математических вычислений, используемых для обучения и работы моделей ИИ. Перенося эти задачи с центрального процессора (CPU) и графического процессора (GPU), TPU позволяют быстрее и эффективнее обучать модели ИИ.
В отличие от традиционных TPU, новый чип стал первым, использующим углеродные нанотрубки — крошечные цилиндрические структуры, состоящие из атомов углерода, расположенных в шестиугольном порядке, — вместо привычных полупроводниковых материалов, таких как кремний. Такая структура позволяет электронам (заряженным частицам) проходить через неё с минимальным сопротивлением, что делает углеродные нанотрубки отличными проводниками электричества. Учёные опубликовали результаты своего исследования 22 июля в журнале Nature Electronics.
По словам учёных, их TPU потребляет всего 295 микроватт (μW) энергии (где 1 Вт = 1 000 000 μW) и может выполнять 1 триллион операций на ватт — единицу измерения энергоэффективности. Для сравнения, Google Edge TPU способен выполнять 4 триллиона операций в секунду (TOPS), используя 2 Вт энергии. Это делает углеродный TPU из Китая почти в 1 700 раз более энергоэффективным.
«От ChatGPT до Sora, искусственный интеллект начинает новую революцию, но традиционная полупроводниковая технология на основе кремния всё больше не справляется с потребностями обработки огромных объёмов данных, — сказал в интервью TechXplore Чжиюн Чжан (Zhiyong Zhang), соавтор исследования и профессор электроники Пекинского университета. — Пребывая перед лицом этого глобальной проблемы, мы нашли решение.»
Новый TPU состоит из 3000 транзисторов на основе углеродных нанотрубок и построен на архитектуре систолического массива — сети процессоров, организованных в виде решётки.
Систолические массивы передают данные через каждый процессор в синхронизированной, пошаговой последовательности, подобно предметам, движущимся по конвейерной ленте. Это позволяет TPU выполнять несколько вычислений одновременно, координируя поток данных и гарантируя, что каждый процессор одновременно работает над небольшой частью задачи.
Такое параллельное выполнение вычислений значительно ускоряет процесс, что крайне важно для моделей ИИ, обрабатывающих большие объёмы данных. Это также снижает частоту обращения к памяти — в частности, к типу памяти, называемой статической оперативной памятью (SRAM), — для чтения и записи данных, отметил Чжан. Минимизируя эти операции, новый TPU способен выполнять вычисления быстрее и с меньшим энергопотреблением.
Для тестирования нового чипа учёные создали нейронную сеть с пятью слоями — совокупность алгоритмов машинного обучения, имитирующих структуру человеческого мозга, — и использовали её для задач распознавания изображений.
TPU достиг точности 88%, при этом энергопотребление составило всего 295 μW. В будущем, по словам исследователей, подобные технологии на основе углеродных нанотрубок могут стать более энергоэффективной альтернативой кремниевым чипам.
Учёные планируют продолжить совершенствование чипа, чтобы улучшить его производительность и повысить масштабируемость, в том числе исследовать возможности интеграции TPU в кремниевые процессоры (CPU).
