Воздуха недостаточно?
Фрикулинг — это как ветер в парусах: практически бесплатно, красиво, неприхотливо в эксплуатации и очень эффективно. Кроме как в южных регионах, если мы говорим о России, ЦОДы могут работать в режиме 100% фрикулинга круглогодично. В своей практике мы комбинируем фрикулинг с DX-системами (прямое испарение) и адиабатическим охлаждением, делая охлаждение еще надежнее и устойчивее к внешним изменениям. Фрикулинг, приправленный продуманной архитектурой и инженерной инфраструктурой, не подводит: PUE в диапазоне 1,1–1,15 — не рекламный буклет, а практика в наших проектах. Фрикулинг — это по-прежнему рабочая лошадка отрасли.
У фрикулинга тоже есть границы. Как только в стойках появляются AI-нагрузки и растет тепловая плотность, воздушный контур упирается в физику: поток просто не успевает снять тепло. Разгонять вентиляторы — это как лечить усталость кофе. При высокой плотности воздух перестает отводить тепло. Здесь в игру вступают жидкости: direct-to-chip и иммерсия.
Спа для железа
Что такое сервер? Железо с вентиляторами. Но это раньше. Сегодня всё чаще вентиляторы снимают и опускают серверы в диэлектрическую жидкость — и они работают дольше, тише и предсказуемее. Звучит как спа-день для IT-железа, но это серьезный сдвиг в инженерии и, видимо, будущее вычислений для AI. Нас ждет неизбежный рост доли жидкостных решений (DLC — Direct Liquid Cooling): по последнему опросу Uptime Institute, 22% операторов уже применяют DLC, еще 61% рассматривают внедрение в перспективе.
Иммерсионное (погружное) охлаждение позволяет снимать тепло напрямую. ЦОД получает сразу три бонуса. Во-первых, меньше паразитного потребления на самого себя — вентилятор на сервере тратит до 15–20% энергии. В удачных конфигурациях суммарная энергоэффективность подбирается к очень низким PUE — рекордным 1,03–1,05, 3–5% энергии идет на охлаждение. Просто сравните это с охлаждением классическими способами, где PUE может быть в районе 1,6 — 60% энергии уходит на охлаждение. Что это, если не ВАУ!
Во-вторых, серверы получаются плотнее и компактнее, что важно для высокоплотных кластеров с высокоскоростными соединениями: короткие трассы, меньше «змейки» кабелей — выше скорость вычислений. Компактность позволяет в два-три раза повысить производительность на единицу площади в ряде сценариев.
В-третьих, иммерсионное охлаждение невероятно тихое. Насосы и циркуляция работают тише традиционных «воздушных» систем охлаждения. И как бонус, тепловая инерция жидкости помогает переживать кратковременные сбои охлаждения, например при поломках электросети. Но, конечно, жидкость не заменяет ИБП/генераторы — электрическую надежность по-прежнему обеспечивают силовые системы.
А что с direct-to-chip?
D2C, когда жидкость подводится по трубкам к холодным плитам, — двоюродный брат иммерсионного охлаждения, дает отличные плотности и также массово внедряется. Иммерсия выигрывает в компактности и равномерности теплоотвода «от всего узла», D2C — в совместимости с существующей стойкой и экосистемой серверов. Выбор зависит от профиля нагрузки и операционных ограничений.
Жидкость — узкое место
Рынок диэлектрических жидкостей для ЦОД только формируется. Важна совместимость материалов, пожарная безопасность, экологические регламенты и предсказуемость. Картину меняет и то, что ряд жидкостей, которые раньше использовали для иммерсионного охлаждения, ушел с рынка из-за своей вредности. Отрасль перестраивает цепочки поставок и формулы. Любая ошибка в подборе жидкости может привести к отказу оборудования или пожарной опасности. Скорость испарения и в целом поведение таких электрических жидкостей с течением времени тоже мало изучена.
Мы активно работаем над концепциями высокоплотных центров обработки данных для обучения моделей искусственного интеллекта. Использование иммерсионных технологий меняет подход к компоновке зданий и инфраструктуры в целом и дает множество новых возможностей. WildTeam проектирует ЦОД с использованием всех технологий охлаждения и предлагает комбинации иммерсии, фрикулинга и D2C, чтобы получить минимальный PUE и высочайшую отказоустойчивость. Мы также занимаемся разработкой своей диалектической жидкости.
И что выбрать?
Сегодня не стоит вопрос о победе воздуха или жидкости. Если мы говорим об охлаждении для AI и HPC (высокопроизводительные вычисления), то ответ очевиден — иммерсионное охлаждение. А вот дальше нужно думать. Типичные сценарии я вижу так:
- Классический ЦОД без AI в подходящем климате — фрикулинг как основа, с DX-системами и адиабатическим охлаждением.
- Мини-ЦОД в офисе или лаборатории, когда не хочется жить в турбинном цехе. Вот тут иммерсия — компактно и тихо. Для локальных «умных» кластеров — попадание в яблочко.
- ЦОД в удаленных регионах — иммерсионное охлаждение. Здесь классические чиллеры и вентиляторы дороги и сложны в обслуживании, а жидкость и простая насосная система позволяют собрать эффективный ЦОД. Экономия денег и сокращение углеродного следа.
Иммерсия стала ответом на высокие плотности вычислений. При этом фрикулинг остается надежным фундаментом во всем, что не требует экстремума. Побеждает не «вода» и не «воздух». Побеждает портфельный подход: правильная технология в правильном месте. И чем раньше мы перестанем мыслить бинарно, тем быстрее получим ЦОДы, которые и экономят энергию, и вмещают больше вычислений, и нормально живут в городе.