Сервер Supermicro SYS-821GE-TNHR с 8 GPU NVIDIA H100 с воздушным охлаждением для ИИ

Описание сервера Supermicro с 8 GPU H100:

Supermicro SYS-821GE-TNHR — это передовой сервер для ИИ с воздушным охлаждением, разработанный для обеспечения исключительной производительности при выполнении ресурсоемких задач, особенно в области приложений искусственного интеллекта и машинного обучения.

Он сочетает в себе мощные вычислительные возможности с масштабируемыми вариантами хранения данных, обеспечивая бесшовную интеграцию в существующие ИТ-инфраструктуры. SYS-821GE-TNHR также может похвастаться улучшенными системами управления тепловым режимом, которые обеспечивают надежную работу даже при интенсивных вычислительных нагрузках. Ключевые особенности включают поддержку нескольких GPU, обширные конфигурации памяти и гибкие слоты расширения, все направлено на оптимизацию эффективности центра обработки данных.

Критически важные особенности Supermicro SYS-821GE-TNHR включают его масштабируемую архитектуру, которая позволяет гибко интегрировать дополнительные GPU или варианты хранения данных. Сервер также предлагает увеличенную емкость памяти и поддержку нескольких слотов расширения PCIe, что обеспечивает возможность беспрепятственного обновления с течением времени. Кроме того, его надежная система питания обеспечивает непрерывную работу даже при высоких нагрузках.

Сервер Supermicro с 8 GPU H100 Спецификация:

Подробности о сервере Supermicro с 8 GPU H100:

Первая большая особенность этого сервера заключается в том, что это платформа 8U. Мы видим много систем 6U и некоторых 7U в отрасли, но платформа 8U на самом деле имеет вескую причину. Благодаря более высокому корпусу Supermicro может использовать большие вентиляторы и распределять ввод-вывод в более крупном форм-факторе.

Supermicro создала эту платформу 8U, потому что она достаточно плотная для большинства стоек, которые обеспечивают менее 60 кВт мощности даже с дополнительной высотой. Увеличив размер, она получила лучшее в своем классе обслуживание, а также на несколько процентов меньшее энергопотребление по сравнению с более коротким корпусом 6U.

Мы получаем около 4,22 Тбит/с пропускной способности сети от этого сервера, что больше, чем может обработать коммутатор 100GbE с 32 портами. Это одна из движущих сил сетевого спроса в отрасли прямо сейчас.

Процессоры в этой системе — Intel Xeon, в частности процессоры Intel Xeon Scalable 4-го и 5-го поколений. Для кодовых названий, если вы хотите поискать в архивах STH, это Sapphire Rapids и Emerald Rapids. В то время как эталонная платформа DGX от NVIDIA использует процессоры Intel Xeon, некоторые предпочитают AMD EPYC, и у Supermicro есть такой же сервер и на EPYC.
Процессоры здесь немного отличаются, так как у них радиаторы с вентиляторами. Они по-прежнему будут получать воздушный поток, если активный вентилятор выйдет из строя, но эти модули вентиляторов довольно легко заменить, так как они удерживаются на месте одним винтом.
Одна из причин, по которой, даже при наличии 8-канальных процессоров на рынке от AMD и Intel, люди предпочитают 8-канальные процессоры памяти, заключается в том, что с разъемами меньшей ширины можно получить 2 DIMM на канал. Это означает 16 DIMM на процессор или 32 DIMM всего.