NVIDIA 데이터 센터 하드웨어, 113도 물로 냉각

NVIDIA는 이제 데이터 센터 하드웨어를 113°F(화씨 113도)에 달하는 물로 냉각하고 있습니다. 이는 일반적인 온수 욕조보다 더 뜨거운 온도입니다. H100 및 B200과 같은 회사의 최신 GPU는 이러한 높은 온도에서 효율적으로 작동하도록 설계되어 데이터 센터가 냉각수를 사용하는 대신 따뜻한 물을 냉각에 사용할 수 있습니다. 이러한 변화는 데이터 센터가 물을 사용하기 전에 냉각하는 데 전력을 소비할 필요가 없어 에너지 소비와 운영 비용을 크게 줄일 수 있기 때문에 중요합니다. NVIDIA에 따르면 이 접근 방식은 직접 칩 액체 냉각을 활용하며, 113°F의 물이 GPU에 부착된 콜드 플레이트를 통해 순환됩니다. 배경은 기존 데이터 센터 냉각이 약 45~50°F의 냉각수에 의존하며, 이는 에너지 집약적인 냉각기가 필요하다는 것입니다. 대조적으로 NVIDIA의 방법은 추가 냉각 없이 냉각탑이나 다른 소스에서 직접 물을 사용할 수 있습니다. 다음 단계로는 NVIDIA의 데이터 센터 파트너들이 이 온수 냉각 방식을 더 널리 채택하여 잠재적으로 수백만 달러의 에너지 비용을 절감하고 AI 및 고성능 컴퓨팅 작업의 탄소 발자국을 줄이는 것입니다.