Yandex Metrika
0

Новейший суперкластер Huawei, построенный на революционной архитектуре Peerium, способен объединить колоссальный массив из 1 миллиона вычислительных ускорителей в монолитный суперкомпьютер для обучения нейросетей масштабом до 40 триллионов параметров.

Суперкластер Huawei и вызов эпохи мультитриллионных моделей

Глобальная гонка в области генеративного искусственного интеллекта вплотную подошла к жесткому физическому барьеру: традиционные методы объединения вычислительных серверов исчерпывают свою масштабируемость. Современные флагманские языковые модели требуют для обучения сотен тысяч графических процессоров, однако их коллективная производительность катастрофически падает из-за сетевых задержек при межсерверном обмене градиентами и весами. В ответ на этот вызов технологический гигант Huawei представил принципиально новую парадигму суперкомпьютерных кластеров под названием Peerium.

Архитектура суперкластера суперкомпьютера Huawei Atlas на миллион чипов искусственного интеллекта
Концептуальная визуализация вычислительного суперкластера Atlas SuperPoD для обучения ИИ. Фото: Getty Images / MirageC

Презентация архитектуры состоялась в рамках ежегодной флагманской конференции Huawei CONNECT. Согласно официальным заявлениям руководства компании, вычислительные комплексы на базе Peerium спроектированы для тренировки фундаментальных языковых систем объемом от 10 до 40 триллионов параметров. Для сравнения: современные американские аналоги высочайшего уровня — серверная стойка NVIDIA GB200 NVL72 или вафельный суперкомпьютер Cerebras CS-3 — сегодня оптимизированы преимущественно под шкалу в 1 триллион параметров.

Как пояснил Ляо Хэн (Liao Heng), главный научный сотрудник подразделения по разработке полупроводников HiSilicon (Huawei), в ближайшие два года в Китае развернут работу как минимум 6–7 передовых лабораторий искусственного интеллекта мирового уровня. Каждая из них нацелена на обучение моделей следующего поколения, что делает инфраструктуру масштаба в миллион взаимодействующих ядер безальтернативной необходимостью для национальной технологической автономии.

Проблема обучения моделей столь гигантского масштаба упирается не только в сырую вычислительную мощность тензорных ядер (TFLOPS), но и в так называемый закон убывающей отдачи распределенных вычислений. Если задержка передачи пакетов по оптоволокну превышает время расчета прямого и обратного проходов нейросети, дорогостоящие графические чипы до 70% времени простаивают в ожидании синхронизации весов (all-reduce synchronization barrier).

Три столпа Peerium: как миллион ядер работают как один компьютер

Классическая компоновка дата-центров предполагает размещение процессоров в изолированных блейд-серверах, которые связываются через стандартные сетевые интерфейсы Ethernet или коммутаторы InfiniBand. При лавинообразном росте кластера львиная доля машинного времени тратится не на матричные вычисления, а на ожидание синхронизации пакетов между соседними стойками. Архитектура Peerium ликвидирует эту проблему за счет трех фундаментальных технологических инноваций.

Первым элементом стало вложенное параллельное исполнение (nested parallelism). Вычислительный процесс иерархически дробится на вложенные уровни: локальные блоки тензоров обрабатываются группами чипов внутри модуля, сводные слои распределяются по стойкам, а глобальная координация выполняется на уровне макромодулей SuperPoD. Это напоминает структуру международной корпорации, где оперативные решения принимаются автономными отделами, не перегружая центральный совет директоров.

Вторым компонентом выступает единая унифицированная адресация памяти (unified memory addressing). Любой процессорный узел в кластере получает возможность прямого считывания и записи в память ускорителей, физически находящихся в других стойках, минуя промежуточную загрузку в оперативную память центрального хост-сервера. Третьим столпом стали прямые одноранговые интерконнекты (peer-to-peer interconnects), позволяющие чипам связываться напрямую без участия промежуточных сетевых шлюзов.

Благодаря такой компоновке устраняется узкое горлышко централизованных хост-контроллеров. Память миллионов микросхем логически превращается в колоссальный общий пул емкостью десятки петабайт с микросекундным временем произвольного доступа, что критически важно для работы алгоритмов внимания (flash attention) при длине контекста в миллионы токенов.

Характеристика системыHuawei Peerium SuperClusterNVIDIA GB200 NVL72 ClusterCerebras CS-3 Scale
Предельный масштаб моделиДо 40 триллионов параметровОколо 1 триллиона параметровДо 1–2 триллионов параметров
Межбазовая полоса интерконнектаUnifiedBus: до 800 ГБ/сInfiniBand: ~200 ГБ/сСобственный SwarmX интерконнект
Максимальное число чиповДо 1 000 000 ускорителейДесятки тысяч (до 32 000+)До 2 048 вафельных модулей
Базовый вычислительный модульAtlas 950 SuperPoD (8000+ Ascend)GB200 NVL72 (72 Blackwell GPU)Wafer-Scale Engine 3 (WSE-3)
Серверные стойки дата-центра с высокой плотностью размещения процессоров для обучения нейросетей
Серверные шкафы дата-центра для гипермасштабируемых вычислений и обучения базовых моделей ИИ. Фото: Unsplash

«Когда миллион процессоров работают как один компьютер, это закладывает фундамент для принципиально более эффективного обучения и инференса ИИ. UnifiedBus — это магистральный путь будущей эпохи искусственного интеллекта.»

Эрик Сюй (Eric Xu), сменяющийся председатель совета директоров Huawei

UnifiedBus против InfiniBand: прорыв в межбазовой пропускной способности

Главным слабым местом существующих суперкластеров остается так называемое «бутылочное горлышко» межбазовых соединений. Например, передовые серверные экосистемы NVIDIA используют скоростную шину NVLink внутри отдельной серверной стойки, однако обмен между стойками по-прежнему опирается на оптические каналы InfiniBand. В такой конфигурации эффективная пропускная способность межбазового обмена составляет около 200 ГБ в секунду на стойку.

Эрик Сюй (Eric Xu), сменяющийся председатель совета директоров Huawei, открыто заявил: при столь скромной межбазовой полосе пропускания в 200 ГБ/с заставить 1 миллион процессоров функционировать как единый слаженный вычислительный организм с математической точки зрения невозможно. Потеря синхронизации при обучении 40-триллионной модели приведет к полной остановке процесса градиентного спуска.

В качестве ответа инженеры компании создали собственный оптический интерфейс связи — шину UnifiedBus. Она обеспечивает пропускную способность межбазовых магистралей до 800 ГБ в секунду, что в четыре раза превосходит показатели традиционных решений. По словам Эрика Сюя, объединение миллиона процессоров в единую виртуальную фабрику заложит основу для качественного скачка в рассуждениях (reasoning) и инференсе моделей общего интеллекта (AGI).

Оптические коммутаторы UnifiedBus используют технологию кремниевой фотоники и мультиплексирования по длине волны (WDM), сводя к минимуму энергопотребление на бит передаваемой информации. Это позволяет масштабировать физическую топологию дата-центра на десятки машинных залов без деградации времени отклика.

Вложенный параллелизм

Иерархическое разделение вычислительных графов позволяет кластеру обрабатывать локальные слои внутри SuperPoD без глобальной сетевой блокировки.

Шина UnifiedBus 800 ГБ/с

Четырехкратный прирост скорости межбазового обмена по сравнению с InfiniBand ликвидирует простои при синхронизации весов нейросети.

Единое адресное пространство

Прямой доступ к памяти удаленных стоек снижает нагрузку на центральные CPU и минимизирует задержки доступа к контексту.

Архитектурный паритет

Интеграция 1 миллиона чипов позволяет достигать высочайшей вычислительной плотности даже в условиях санкционных ограничений на литографию.

Atlas 950 SuperPoD и развертывание кластеров на 256 000 ускорителей

Материальным воплощением архитектуры Peerium стал вычислительный блок Atlas 950 SuperPoD. Этот комплекс объединяет в едином шасси с жидкостным охлаждением свыше 8 000 новейших фирменных нейропроцессоров Ascend 950DT. Кластеры SuperPoD масштабируются модульно, формируя мегаструктуры SuperCluster.

В настоящее время инженеры уже развернули и тестируют экспериментальный суперкластер, насчитывающий 256 000 ускорительных карт. Первые бенчмарки демонстрируют существенно более высокий коэффициент полезного действия (FLOPs utilization efficiency) по сравнению с аналогичными массивами на базе стандартных интерконнектов. О том, как концепция самосовершенствования меняет будущее технологий, читайте в нашем материале про рекурсивное самообучение и последний ИИ человека.

Особое внимание в конструкции Atlas 950 уделено замкнутому прямому жидкостному охлаждению (Direct Liquid Cooling). Циркуляция диэлектрического теплоносителя непосредственно через микроканалы на поверхности кремниевых кристаллов позволяет отводить киловатты тепла от каждого вычислительного лезвия при минимальном уровне энергозатрат (PUE менее 1.15).

💡 Ключевые факты об архитектуре Huawei Peerium
  • Целевая емкость: Обучение моделей искусственного интеллекта размером от 10 до 40 триллионов параметров для ведущих азиатских лабораторий.
  • Супермодуль Atlas 950: Содержит свыше 8 000 специализированных нейроускорителей Ascend 950DT в едином блоке SuperPoD.
  • Текущий масштаб: В тестовой эксплуатации уже находится комплекс из 256 000 вычислительных плат.
  • Компенсация техпроцесса: Сверхбыстрый интерконнект нивелирует отставание в плотности транзисторов за счет масштабирования системы.

Геополитический и технологический контекст кремниевой независимости

Разработка Peerium и шины UnifiedBus имеет критическое значение в условиях жестких экспортных ограничений на поставки передовых чипов с литографией 3 нм и 2 нм. Лишенная прямого доступа к литографическим сканерам EUV от ASML, китайская полупроводниковая отрасль сделала стратегическую ставку на архитектурную компенсацию — агрегацию огромного числа зрелых кристаллов за счет сверхскоростного оптического интерконнекта.

Если мегакластер на миллион чипов покажет устойчивость к сбоям отдельных узлов (fault tolerance) и сохранит линейный прирост производительности, мировая индустрия искусственного интеллекта получит вторую полноценную технологическую экосистему, способную на равных соперничать с доминированием кремниевых гигантов Кремниевой долины.

Такой подход радикально меняет правила игры на глобальном рынке вычислений: победу определяет не способность вытравить мельчайший единичный транзистор, а мастерство системной интеграции, материаловедения и оптической маршрутизации терабитных потоков данных.

Исследование работы глубоких нейронных сетей и пределов масштабирования ИИ. Видео: CGP Grey
Заметили ошибку в тексте? Выделите её мышкой и нажмите Ctrl + Enter

Следите за нашими новостями:


Понравилось? Поделитесь с друзьями!

✏️ Сообщить об ошибке

Вы заметили ошибку в следующем тексте: