💻 Proxmox VE 강좌 V-5. Pass-Through (VT-d/IOMMU) 설정: GPU/NIC 직접 할당

자료 기본정보

- 설명

🚀 가상화의 한계를 넘는 퍼포먼스, 패스스루의 세계

가상화 환경을 운영하다 보면 가상 장치의 에뮬레이션 속도만으로는 해결되지 않는 고성능 작업들이 있습니다 딥러닝을 위한 GPU 가속, 초고속 데이터 전송을 위한 10G/40G NIC 할당, 혹은 고성능 스토리지 컨트롤러 직접 제어 등이 대표적입니다 Proxmox VE의 Pass-Through 기능을 활용하면 호스트의 물리적인 하드웨어를 특정 가상 머신(VM)에 직접 연결하여 마치 네이티브 PC처럼 자원을 사용할 수 있습니다 오늘 #강좌에서는 복잡해 보이지만 한 번 설정하면 차원이 다른 성능을 제공하는 VT-d 및 IOMMU 설정법을 완벽하게 정리해 드립니다

1. 패스스루 구현을 위한 하드웨어 요구사항

하드웨어를 직접 할당하기 위해서는 단순히 소프트웨어 설정뿐만 아니라 물리적인 부품의 지원이 필수적입니다

A. CPU와 메인보드의 VT-d/AMD-Vi 지원

• Intel은 VT-d, AMD는 AMD-Vi라고 불리는 기술이 바이오스(BIOS/UEFI)에서 활성화되어 있어야 합니다 이는 I/O 가상화를 처리하는 핵심 #시스템 기술로, 하드웨어 수준에서 주소 변환을 도와줍니다

B. IOMMU 그룹의 분리

• 하드웨어 장치들은 IOMMU 그룹이라는 단위로 묶여 있습니다 특정 장치만 VM에 넘겨주려면 해당 장치가 독자적인 그룹에 속해 있거나, ACS 패치를 통해 논리적으로 분리할 수 있는 #기능이 필요합니다

C. 장치 전용 모드(DDA)의 이해

• 패스스루된 장치는 호스트 운영체제에서 더 이상 사용할 수 없습니다 즉, GPU를 VM에 할당하면 호스트의 화면 출력이나 가속 #데이터 처리는 불가능해진다는 점을 미리 인지하고 인프라 설계를 해야 합니다

2. 호스트 커널 설정 및 드라이버 차단

Proxmox가 하드웨어 장치를 VM에 넘겨줄 수 있도록 커널 수준에서 준비 작업이 필요합니다

A. GRUB 커널 매개변수 수정

• /etc/default/grub 파일에서 intel_iommu=on 또는 amd_iommu=on 옵션을 추가해야 합니다 이 설정은 부팅 시 IOMMU 기능을 활성화하여 하드웨어 직접 할당을 위한 #전략의 기초가 됩니다

B. VFIO 모듈 활성화

• 장치를 직접 가로채기 위해 vfio, vfio_iommu_type1, vfio_pci 등의 커널 모듈을 로드해야 합니다 시스템이 부팅될 때 해당 장치가 호스트 드라이버에 의해 점유되지 않도록 하는 #안정성 확보 단계입니다

C. 블랙리스트(Blacklist) 설정

• 특히 GPU 패스스루 시, 호스트가 NVIDIA나 AMD 드라이버를 먼저 로드하지 못하도록 블랙리스트에 등록해야 합니다 그래야만 VM이 실행될 때 깨끗한 상태의 장치를 #최적화된 성능으로 점유할 수 있습니다

3. 실전! VM에 장치 할당 및 드라이버 설치

준비가 끝났다면 이제 Proxmox GUI와 CLI를 통해 장치를 연결할 차례입니다

A. PCI 장치 추가와 Raw Device 설정

• VM 설정 메뉴의 'Hardware' 탭에서 PCI Device를 추가합니다 이때 'All Functions'와 'ROM-Bar' 옵션을 적절히 선택하여 장치의 모든 하위 #정책 기능이 정상 작동하도록 구성합니다

B. 하드웨어 ID 확인 및 매핑

• lspci -nn 명령어를 통해 장치의 고유 ID(Vendor/Device ID)를 확인하고, 이를 vfio 설정에 정확히 입력해야 합니다 복잡한 클러스터 #인프라 환경일수록 정확한 ID 매핑이 장애 발생을 줄이는 길입니다

C. 게스트 OS 드라이버 설치 및 테스트

• Windows VM의 경우 장치 관리자에서 해당 장치가 정상적으로 인식되는지 확인한 후 최신 드라이버를 설치합니다 성공적으로 설정되면 네트워크 카드(NIC)의 경우 지연 시간이 극적으로 줄어드는 #네트워크 퍼포먼스를 경험할 수 있습니다

4. 고난도 GPU 패스스루의 트러블슈팅

GPU는 일반적인 장치보다 설정이 까다로운 경우가 많습니다

A. 'Error 43' 및 가상화 숨기기

• 일부 그래픽 드라이버는 가상화 환경임을 감지하면 작동을 멈춥니다 이를 방지하기 위해 VM 구성 파일에서 CPU 타입을 'host'로 설정하고 가상화 상태를 숨기는 #보안 및 우회 설정이 필요할 수 있습니다

B. 전력 관리 및 자원 경합 해결

• 패스스루된 장치가 절전 모드에 빠지거나 호스트의 다른 인터럽트와 충돌하면 VM이 멈출 수 있습니다 적절한 물리 #자원 할당과 MSI(Message Signaled Interrupts) 설정을 통해 시스템의 가동률을 높여야 합니다

C. 복구 및 롤백 시나리오

• 설정 실수로 호스트 부팅이 안 되거나 화면이 나오지 않을 때를 대비해 SSH 접속 환경을 항상 열어두고 #대응 절차를 마련해 두는 것이 전문가의 자세입니다

Pass-Through 기술은 Proxmox VE를 단순한 서버 가상화 도구를 넘어 워크스테이션, 게이밍 서버, AI 연산 노드로 변모시키는 핵심 열쇠입니다 물리 하드웨어와 가상화 기술이 결합되는 지점인 만큼 초기 설정은 까다롭지만, 그 결과로 얻는 압도적인 성능은 충분한 보상이 될 것입니다 여러분의 로컬 서버에 잠들어 있는 GPU와 고성능 NIC에 날개를 달아주십시오 인프라의 잠재력을 100% 끌어올리는 순간, 여러분의 서비스 경쟁력은 한 단계 더 도약할 것입니다 다음 시간에는 CLI 활용의 마지막 정점인 'Proxmox 커스텀 후크(Hook) 스크립트를 이용한 고급 자동화'에 대해 알아보겠습니다

강좌, 시스템, 기능, 데이터, 전략, 안정성, 최적화, 정책, 인프라, 네트워크, 보안, 자원, 대응

최적의 성능, 최고의 비용 효율성! 당신의 프로젝트에 딱 맞는 Proxmox VE 기반 호스팅을 경험해 보세요. 루젠호스팅 바로가기