Loading summary...
Grace Blackwell 칩을 사용하는 다양한 제품 존재. Dell의 GB10은 GB가 Grace Blackwell에서 유래. 10은 10개의 고성능 ARM 코어 또는 10개의 에너지 효율 코어를 의미할 수 있음. 각 제품은 20개의 코어를 가지고 있으며, 128GB의 메모리를 공유하여 대규모 모델, 비전 모델, 에이전트, 비디오 생성, 훈련 등을 실행 가능.
GTC에서 여러 제품을 확인. 동일한 보드를 사용하지만, 냉각 솔루션, NVME 드라이브 크기, 디자인, 비용 등에서 차이. 섀시 디자인의 물리적 차이가 발열 성능, 전력 소모에 영향을 미치는지 확인하고자 함.
모든 제품은 DGXOS 운영체제 사용. DGXOS는 기본적으로 Ubuntu에 여러 AI 도구가 사전 설치된 형태.
DJX Spark, Asus GX10 (Ascent GX10), Dell GB10 (Dell Pro Max GB10), MSI Edge Expert 존재.
Grace Blackwell 칩을 사용한 다양한 AI 슈퍼컴퓨터들의 디자인, 기능, 성능 차이를 비교 분석하는 내용.
Nvidia에서 GTC 참석자에게 DJX Spark를 증정하는 이벤트 진행 예정. GTC는 3월에 가상 또는 직접 참석 가능. 채널 구독 시 자세한 정보 확인 가능.
Chat LLM Teams는 GPT, Claude Sonnet, Gemini Pro 등 다양한 LLM 모델을 하나의 대시보드에서 사용 가능하게 해주는 서비스. Gemini 3 및 GPT 5.1도 추가될 예정.
그래프, 차트, 심층 연구 자료를 활용한 전문적인 프레젠테이션 제작 가능. Humanize 기능을 통해 AI 탐지기를 회피하는 텍스트 생성 가능. Nano banana, Midjourney, Flux 등을 통해 이미지 생성 가능. Magnific upscaling, VO WAN, Sora 등을 통해 비디오 제작 가능.
Abacus AI Deep Agent를 통해 풀 스택 앱, 웹사이트, 보고서 등을 텍스트 프롬프트만으로 구축하고 즉시 배포 가능. Abacus AI Desktop 코딩 에디터 및 어시스턴트 제공. 월 10달러의 저렴한 비용으로 사용 가능.
Chat LLM Teams는 다양한 LLM 모델과 AI 도구를 통합하여 효율적인 작업 환경을 제공하는 서비스.
모든 제품이 랙 공간에 맞지 않음. Asus가 Spark, Dell보다 3~4mm 더 높음. Spark와 Dell은 거의 동일한 높이.
Spark는 레퍼런스 디자인. Dell은 전면 그릴 디자인을 개선. Asus는 상단을 제외하고 전체가 금속 재질. MSI는 전체가 플라스틱 재질.
Asus는 전면에 전원 버튼이 있어 편리. 랙에 장착된 상태에서도 전원 관리가 용이.
DJX Spark는 후면 패널에 라벨이 없음. Asus, Dell, MSI는 일부 포트에 라벨링. MSI는 PD 출력, DisplayPort, 20Gbit/s 등 상세한 라벨링 제공. Dell은 HDMI 포트에 라벨링 X.
Asus가 1,474g으로 가장 무거움 (Dell, Spark 대비 220g 더 무거움). Dell과 Spark는 각각 1,256g, 1,255g. MSI는 1,257g.
제품별 외관 디자인, 재질, 편의 기능, 무게 등을 비교 분석.
RAM 교체는 불가능하지만, SSD 업그레이드는 가능. Asus의 1TB 버전을 구매 후 4TB 드라이브로 교체하면 비용 절감 가능.
Spark는 자석 커버로 쉽게 분리 가능. Dell은 자석 커버 방식은 동일하나, Spark보다 분리하기 어려움. Dell은 법적 고지 사항을 가리기 위해 자석 플레이트 사용.
Dell과 Spark는 Wi-Fi 안테나가 후면 패널 내부에 위치. 패널 개방 시 주의 필요.
모든 제품에 2242 사이즈 드라이브가 장착. Asus는 SSD 접근이 약간 더 어려움.
SSD 업그레이드 가능성, 후면 패널 접근성, Wi-Fi 안테나 위치 등을 비교 분석.
팬 소음은 50 시리즈 GPU보다 훨씬 조용함. DJX Spark가 가장 조용하고, MSI가 가장 시끄러움.
온도는 대체로 비슷. 특정 부분에서 약간의 온도 차이 발생. 완전히 열이 흡수된 상태에서 약 50도 유지. Asus는 플라스틱 커버 때문에 표면 온도가 낮게 느껴짐.
각 머신의 전력 사용량은 거의 비슷.
단발성 추론 작업 외에 장기간 훈련 또는 에이전트 호스팅에 사용될 가능성이 높으므로, 장시간 구동 시 발열 상태 확인 필요. 30분 정도 구동 후 온도 변화를 확인.
팬 소음, 온도, 전력 사용량 등을 비교 분석하고, 장시간 구동 시 발열 상태를 확인할 필요성을 강조.
John Carmack은 DJX Spark의 전력 소모가 정격 240W의 절반 수준인 100W에 불과하며, 코딩 성능도 절반 수준이라고 지적.
일부 언론은 John Carmack의 발언을 "DJX Spark에 발열 조절 문제가 있다"고 왜곡 보도.
열 스로틀링은 시스템 온도가 너무 높아 CPU 속도가 느려지는 현상. 예를 들어, CPU가 3GHz로 작동해야 하지만 100~110도에 도달하면 속도가 2GHz 이하로 느려짐.
Llama CPP를 사용하여 340억 파라미터 모델을 45분간 실행. GPU 사용률은 약 96%, GPU 온도는 80도, GPU 전력 소모는 65W. 전체 시스템 전력 소모는 140~160W. 토큰 생성 및 프롬프트 처리 속도는 기기 간에 거의 차이 X.
최근 600초 동안의 평균 전력 소모는 Spark가 66W로 약간 높음. GX10과 MSI는 약 60W, Dell은 62.7W. 클럭 속도는 스로틀링 X.
Dell의 경우, 온도는 상승 후 안정화. 전력은 약간의 변동은 있지만 큰 변화 X. 클럭 속도는 스로틀링 X. GX10, MSI, Spark도 유사한 결과.
John Carmack의 DJX Spark 관련 지적과 실제 테스트 결과를 비교 분석.
Neotron 300억 파라미터 모델 (비양자화 버전)을 사용하여 테스트.
Dell, GX10, MSI는 1,680 토큰/초, Spark는 1,070 토큰/초. 전력 사용량은 Spark가 약간 더 높음.
온도는 서서히 상승. 전력 사용량은 비교적 일정. MSI에서 클럭 속도 저하가 나타났지만, 차트상의 오류일 가능성 존재.
더 큰 모델을 사용하여 테스트한 결과, 모델 크기에 따라 차트 결과가 약간 다르게 나타남.
GPU Burn을 사용하여 시스템에 과부하를 줌.
GX10은 다른 시스템보다 전력 제한이 더 오래 지속. CPU 클럭은 모든 시스템에서 일정하게 유지.
온도는 70~81도까지 상승. SW Power Cap 스위치가 켜지면서 시스템이 전력 제한을 시작. GPU 전력은 100W (99.12W)로 제한.
소프트웨어에 의해 인위적으로 전력 제한이 걸려 있음. Nvidia가 소프트웨어 업데이트를 통해 제한을 해제하면 성능 향상 가능.
GX10에서 소프트웨어 전력 제한 후 열 스로틀링 발생. 전력 소모가 96W에서 76W로 감소. 클럭 속도에는 큰 변화 X.
MSI와 Spark는 전력 제한이 빠르게 시작. GX10은 전력 제한이 빠르게 시작된 후 열 스로틀링 발생.
차트상으로는 성능 저하가 크게 나타나지 않음.
GPU Burn 테스트를 통해 시스템별 전력 제한 및 열 스로틀링 발생 여부를 확인.
Storage Review에서도 유사한 테스트 진행. Gigabyte, Acer, Asus, Dell 시스템 테스트. Acer 시스템이 76도로 가장 낮은 온도 기록. 다른 시스템은 80도 중후반 기록.
Storage Review의 테스트 결과를 인용하여 Acer 시스템의 우수한 냉각 성능을 언급.
DJX Spark는 Gen 5 드라이브와 컨트롤러를 사용. 다른 제품은 Gen 4 드라이브 사용.
Spark (Gen 5)는 32GB/s, Asus, Dell, MSI (Gen 4)는 16GB/s.
Gen 5 드라이브는 13,000MB/s 이상, Gen 4 드라이브는 약 7,000MB/s.
모델을 디스크에서 처음 로드할 때 (콜드 스타트 시나리오) 차이 발생. 에이전트가 여러 모델을 사용하는 경우 속도 저하 발생 가능.
Neotron 300억 파라미터 모델 로딩 시간: Spark (Gen 5)는 8.49초, 다른 시스템은 약 11.5초. 모델 크기가 클수록 로딩 시간 차이 증가.
NVME 드라이브 종류에 따른 성능 차이를 분석하고, 실제 사용 시 모델 로딩 시간에 미치는 영향을 설명.