Владельцы ИИ

Крис Шарп, технический директор Digital Realty

: Почему модульность будет иметь решающее значение для центров обработки данных и экономики искусственного интеллекта

Внезапное появление в прошлом году крупномасштабного коммерческого ИИ, особенно новых генеративных приложений ИИ, таких как ChatGPT, привело к появлению нового набора технических требований к объектам центров обработки данных, в которых размещаются эти приложения. Инфраструктура, которая их поддерживает, будет потреблять больше энергии, обрабатывать больше данных и использовать больше пропускной способности, чем когда-либо прежде, и все это на объектах, которые, возможно, были построены 20 лет назад. Этим объектам теперь необходимо адаптироваться для поддержки увеличения потребляемой мощности на стойку, которое в некоторых случаях может достигать порядка величины.

Статья из семи частей о том, какие большие языковые модели и что означает следующая волна рабочих нагрузок для проектирования вычислений, сетей и центров обработки данных.

Единственный способ добиться этого – использовать модульную конструкцию.

Центры обработки данных могут показаться очень статичными объектами. Как правило, это огромные кирпичные здания с рядом рядов генераторов и другого оборудования снаружи, и все они тщательно спроектированы так, чтобы поддерживать работу объекта в любых условиях: от типичных повседневных условий до полного отключения электрической сети, без каких-либо ограничений. прерывание. Однако современный центр обработки данных далеко не статичен; многие объекты с самого начала проектируются как высокомодульные, и конкретный этаж центра обработки данных может быть адаптирован к изменениям в топологии сети, соображениям воздушного потока и физическому резервированию несколько раз в год, если это необходимо. Что движет этой потребностью и как она удовлетворяется?

Широкое распространение внедрения искусственного интеллекта в центрах обработки данных показывает, насколько быстро могут меняться требования клиентов. Если только в прошлом году оператор центра обработки данных мог планировать потребление электроэнергии в среднем на 10 киловатт на стойку клиентского оборудования, возникла необходимость во все более крупных блоках по 25, 50 или даже 100 киловатт стоек в разных местах этого центра. тот же центр обработки данных уже существует и будет только расти. Традиционный статический дизайн может создать множество проблем с точки зрения производительности, обслуживания и резервирования.

Во-первых, такие стойки с высокой плотностью размещения часто требуют большей пропускной способности сети для работы с наивысшим уровнем эффективности. Это часто упускается из виду, и клиент будет очень недоволен, если он развернет такую ​​плотную стойку (или 10, или 100), а затем не сможет получить необходимую ему полосу пропускания.

Во-вторых, неравномерное увеличение энергопотребления по всему помещению центра обработки данных часто может привести к нагрузке на систему охлаждения, которая не предназначена для работы с такими типами горячих точек. Плотная стойка на одном конце ряда в центре обработки данных может легко привести к повышению температуры на другом конце.

Наконец, меры по обеспечению устойчивости и резервированию основаны на том, где на объекте находятся конкретные электрические нагрузки и как они распределяются. Если в одной зоне добавлен очень плотный кластер оборудования, статические конструкции могут оказаться не в состоянии гарантировать, что он будет покрыт достаточно надежной генераторной мощностью.

Как вы можете себе представить, для заказчика ИИ каждая из этих проблем представляет собой серьезную проблему: от неспособности эксплуатировать свое ИИ-оборудование с максимальной производительностью до потенциальных нежелательных простоев в случае отключения электроэнергии или другой нагрузки на систему. местная электрическая сеть. Используя легко адаптируемую модульную структуру проектирования, эти проблемы можно решить в центрах обработки данных любого возраста.

Во-первых, помещения могут быть перепрофилированы или спроектированы с самого начала объекта для использования в качестве дополнительных сетевых помещений, что позволит установить больше сетевых цепей, коммутаторов и маршрутизаторов для увеличения пропускной способности сети для клиента с течением времени. Кроме того, модульный метод проектирования и развертывания подвесных кабельных лотков позволяет оператору центра обработки данных физически донести эту возможность подключения до клиента, что часто упускается из виду в статичных, негибких конструкциях. Некоторые технологии с поддержкой искусственного интеллекта, такие как InfiniBand, могут использовать большие и тяжелые кабели, которые можно установить только модульно, чтобы избежать реальных проблем с производительностью и эксплуатационными проблемами в дальнейшем.