+ admin 2025.11.27 NVIDIA B200 SXM NVIDIA B200 서버 구축이 있어 몇장 사진을 담아본다 B200 제품의 경우 스펙이 180GB이며 전력 소비량은 개당 1000W (1KW)이다 SXM 소켓 방식이다 국내에 몇대 들어오지 않은 서버인데 잠시 테스트를 진행해봤다 B200 1개당 전력 사용량이 거의 1000W 이다 그럼 해당 GPU서버를 운영하려면 기본 최소 8KW인데 쿨링 및 기타까지 하면 기본 12KW 이상 지원을 해줘야 운영이 가능하다 전기먹는 하마가 이런게 아닐까 Read More..
+ admin 2025.11.27 NVIDIA H100 NVL 94GB (NVLINK) NVIDIA H100 94GB NVL 제품이다 제품 1개당 약 4000만원이 넘는 제품이다 해당 제품 2개를 nvlink로 연결해서 대역폭을 확장하려고 한다 서버 구매 가격이 후덜덜 하다. 1억2천정도 구매 위 2개의 VGA카드를 장착하고 NVLINK를 활용해서 대역폭을 확장한다 필요한 제품은 NVLINK 제품 3개 GPU서버 베어본은 ASUS GPU 서버를 활용했다 서버 뒷면에 H100 NVL 94GB 제품 2장이 장착되어 있으며 NVLINK도 연결했다 2개의 H100 NVL 94GB 제품이 장착된 것을 확인 GPU 2장이 VN12 로 연결된 것을 확인 GPU0번과 GPU1번이 연결된것을 체크 마지막으로 대역폭을 체크해보면 최대 528GB/s 까지 통신이 되는것을 확인 할 수 있다. 추가적으로 부하테스... Read More..
+ admin 2025.11.27 NVIDIA RTX PRO 6000 Blackwell Server Edition NVIDIA L40S 단종이 이루어지면서 차세대 주목받는 GPU가 RTX PRO6000 Blackwell GPU이다 서버 에디션 ,워크스테이션 에디션 다양하지만 스펙이나 성능은 SERVER EDITION 더 높다 일반 워크스테이션은 전력이 300~350W 정도이지만 서버 에디션은 600W 전력소모이다 구매한 본체 전면 2U 사이즈 이다 후면에는 기본 포트와 2000W 파워2개 및 RTX PRO6000 Blackwell Server Edition 96GB GPU가 장착되어 있다 그래픽카드 RTX PRO 6000 서버의 스펙은 다음과 같다 드라이버 버전과 모델명 표시 기본 600W 모델이다 GPU BURN GIT 받아서 부하 테스트를 위해서 make xinet@xinet:~$ sudo apt inst... Read More..