GPU 서버 성능 100% 활용하는 방법 (Nvidia V100) - 매니코어소프트 딥가젯 tranplant

매니코어소프트의 dg-Transplant 서비스는 고성능 GPU 서버의 발열 문제를 해결하고 성능을 최대 50%까지 향상시킵니다. 기존 부품을 보존하면서 AI 연구를 가속화하는 혁신적인 액체냉각 솔루션을 경험하세요.

MANYCORESOFT

Jun 11, 2024

GPU 서버 성능 100% 활용하는 방법 (Nvidia V100) - 매니코어소프트 딥가젯 tranplant

dg-Transplant는 고성능 GPU 서버를 매니코어소프트의 딥가젯 액체냉각 기술로 업그레이드하는 혁신적인 서비스입니다.

많은 고객들이 고가의 GPU 서버를 구입했지만, 과도한 발열로 인해 성능을 제대로 발휘하지 못하는 문제를 겪고 있습니다. 일반적으로 GPU는 온도가 80°C를 초과하면 성능 제한(쓰로틀링, throttling)이 발생하여 장기적으로 성능과 안정성에 영향을 미칠 수 있습니다. 즉, 냉각 효율성에 따라 같은 GPU라도 성능이 최대 50%까지 차이가 날 수 있습니다.

또한, dg-TP 제품을 사용하면 다른 부품 및 기존 정보들이 그대로 보존되어, TP 제품을 받자마자 원래의 연구에 다시 몰두할 수 있습니다.

dg-TP 제품은 출고 전 당사의 엔지니어들이 철저히 검수합니다. ‘E’ 대학교에 출고된 제품 실험 결과를 통해 dg-TP 적용 전후의 GPU 풀로드 시 칩셋 온도와 성능 변화를 확인할 수 있습니다. 아래의 그래프에서 dg-Transplant의 효과를 직접 확인해 보세요.

테스트 환경

os: ubuntu 20.04
gpu driver 515.86.01
cuda 11.8
gpu-burn 1.0

CPU: Xeon® Processor E5 v3 x 1 (Intel)
GPU: Tesla V100 x 4 (NVIDIA)