Nvidia RTX Spark의 암호화된 펌웨어, Linux 추론 속도를 35% 수준으로 낮춤

1 day ago 7

RTX Spark 노트북에 네이티브 Linux를 설치하고 CUDA 가속을 사용할 수 있지만, 전원을 연결하면 GPU 클럭이 약 780MHz로 제한돼 추론 성능이 크게 떨어짐 CPU와 GPU의 전력 배분을 담당하는 Nvidia Platform Controllers and Framework에 대응하는 기능이 Linux에는 없으며, 펌웨어의 암호화된 전력 설정 표도 읽지 못함 GPT-OSS-120B 테스트에서 Windows는 초당 65.4토큰, WSL은 65.1토큰을 기록했지만, 같은 노트북의 네이티브 Linux는 13.9토큰에 그침 전원을 뽑으면 Linux에서도 Windows에 가까운 성능을 냄. 전원 연결 상태에서도 온도가 낮게 유지돼 발열에 따른 스로틀링은 아님 WSL은 정상적인 GPU 부스트와 Linux 중심 AI 도구를 함께 사용할 수 있는 현재의 실용적 대안이며, 근본적인 해결에는 Nvidia의 Linux 전력 관리 지원이 필요함 RTX Spark 노트북과 Linux 수요 RTX Spark는 MSI Prestige, Asus ProArt, Dell XPS 등의 노트북에 탑재되며, Nvidia의 데스크톱 DGX Spark와 같은 GPU 설계를 사용함 DGX Spark는 Nvidia의 Linux 빌드를 기본 제공하지만, 이들 노트북은 모두 Windows on ARM을 탑재함 ARM 기반 Windows 기기는 이전에도 있었지만, 이 칩을 통해 해당 아키텍처와 Nvidia CUDA 스택의 결합이 가능해짐 CPU와 GPU가 공유하는 통합 메모리를 최대 128GB까지 지원하며, 이는 AI 개발자를 겨냥한 핵심 특성임 vLLM과 SGLang 등 AI 도구 상당수가 Linux 중심으로 개발돼, Windows를 대체하거나 듀얼 부팅할 때 성능을 유지할 수 있는지가 중요함 설치 과정과 메모리 예약 문제 MSI Prestige N16 Flip AI Plus에서 처음 시도한 Arch 계열 배포판 Omarchy는 부팅 중 화면 깜박임과 불안정한 표시 문제가 발생함 Omarchy가 이미 같은 칩을 사용하는 Asus와 Dell 하드웨어를 지원했지만, MSI 기기에서는 다르게 동작함 Debian은 상대적으로 안정적으로 설치됐으나, 네트워크와 하드웨어 지원에 우회 조치가 필요했음 설치 프로그램이 Wi-Fi에 연결하지 못해 USB 이더넷 어댑터를 사용함 기본 커널에 노트북 전용 하드웨어 지원이 없어 키보드, 터치패드, GPU를 인식하지 ...

Read Entire Article




피플앤툴즈 네트워크
🛍 샵