什么是GPU直通？
GPU直通是一种虚拟化技术，可将物理图形处理单元（GPU）直接分配给单个虚拟机（VM）。这使虚拟机能够像在裸机硬件上运行一样，充分调用GPU的全部性能。GPU直通技术绕过了虚拟机监控程序的抽象层，为图形密集型或计算密集型工作负载提供接近原生性能的运行体验。
此功能在虚拟桌面基础设施（VDI）、人工智能（AI）、机器学习（ML）和高性能计算（HPC）等应用场景中至关重要，这些场景需要GPU加速才能实现最佳性能。与共享或模拟的GPU资源不同，直通模式为单个虚拟机专属分配整块GPU，可提供最大吞吐量和最低延迟。
GPU直通技术通常通过虚拟化平台实现，例如基于内核的虚拟机（KVM）、VMware ESXi和Citrix Hypervisor，并常与现代中央处理器（CPU）和主板中提供的输入输出内存管理单元（IOMMU）技术相结合。
GPU直通的工作原理
GPU直通技术通过软硬件层面的虚拟化支持得以实现，具体而言是利用IOMMU技术实现PCI Express（PCIe）设备的直通。这使得物理GPU能够直接映射到客户机虚拟机，绕过主机系统的控制，使虚拟机能够直接、低延迟地访问GPU。
硬件配置
要使GPU直通功能正常工作，服务器必须支持IOMMU（输入输出内存管理单元），该技术可实现设备隔离并为PCIe设备进行内存地址重映射。在英特尔平台上，此功能称为Intel VT-d；AMD 则称为AMD。CPU、主板芯片组及固件均需同时支持这两项技术。
要启用IOMMU，用户必须在系统BIOS或UEFI设置中进行启用。这通常需要开启虚拟化扩展功能（AMD），并确保平台支持PCIe访问控制服务（ACS）时将其启用。部分系统还可能需要禁用安全启动或快速启动等功能，以实现完整的直通功能。
驱动程序安装
在将GPU分配给虚拟机后，必须在客户操作系统（OS）中安装相应的厂商专用驱动程序，例如NVIDIA、 AMD或英特尔GPU驱动程序。这些驱动程序使客户机操作系统能够识别并充分利用物理GPU的全部功能，包括3D加速、用于并行计算的CUDA核心以及硬件加速的渲染管道。
在某些情况下，可能需要在客户机内禁用虚拟机监控程序级别的图形接口，以防止驱动程序冲突，确保仅使用直通GPU。
虚拟机监控程序设置
一旦IOMMU激活，下一步就是配置支持PCIe直通的虚拟化管理程序。常见选择包括KVM/QEMU、VMware ESXi和Citrix Hypervisor（原XenServer）。这些平台通过低级虚拟化驱动程序和API实现PCIe设备直接分配给客户机虚拟机。
例如，在KVM环境中，设备直通通过vfio-pci内核模块进行配置，该模块确保了安全且隔离的设备访问。VMware ESXi则采用DirectPath I/O技术将GPU直接暴露给虚拟机，在最小化虚拟化开销的同时实现接近原生性能的运行效果。
设备绑定
GPU直通的关键步骤是将GPU从主机系统中分离，并将其绑定到虚拟机。具体操作是解除GPU的PCIe地址与任何默认主机驱动程序的绑定，将其绑定到直通驱动程序（如vfio-pci）。
一旦绑定，主机操作系统将完全无法访问该GPU，仅能由指定虚拟机使用。此机制可避免资源冲突，确保GPU的独占访问权限，这对实时渲染、仿真或深度学习模型训练等对延迟敏感的工作负载至关重要。
GPU直通的优势与挑战
GPU直通技术使虚拟机能够直接访问物理GPU，通过绕过虚拟机管理程序的抽象层实现接近原生性能的运行。这使其特别适用于计算密集型工作负载，例如人工智能训练、计算机辅助设计（CAD）渲染以及实时仿真。为虚拟机分配专用GPU还能提升隔离性与性能一致性，这对生产环境至关重要。
除了提升原始性能外，直通技术通过在虚拟桌面、远程工作站和容器化应用中启用GPU加速，进一步扩展了虚拟化能力。该技术使企业能够在更少的物理服务器上整合工作负载，同时保持每台虚拟机的高性能，从而实现更优的硬件利用率和更高效的运营效率。
然而，GPU直通技术存在技术挑战。它需要CPU和主板层面的IOMMU支持、正确的BIOS或UEFI配置，以及支持直通功能的GPU。许多消费级GPU缺乏完整的虚拟化支持，这可能导致在客户操作系统中出现兼容性受限或驱动程序问题。
配置复杂度是另一关键因素，通常需要修改内核、精确绑定设备以及在虚拟机监控程序层面进行调优。故障排查往往耗时费力，尤其在无头服务器上，且变更通常需要重启系统——因为直通GPU的热插拔支持有限或不可用。
GPU直通的硬件要求
实现GPU直通需要支持IOMMU虚拟化功能的服务器硬件（如IntelAMD），并配合正确的BIOS或UEFI配置。CPU、主板芯片组和固件必须完全兼容，且GPU需支持直通功能——这类功能通常存在于企业级显卡中，例如NVIDIA A100AMD MI系列。
此外，系统应提供充足的PCIe通道和供电能力以支持全尺寸GPU。需要采用针对高密度GPU工作负载优化的服务器平台，这类平台通常具备先进的PCIe拓扑结构、强大的散热架构以及固件级直通支持，从而在规范管理的数据中心环境中实现高效的直通配置。
常见问题
- 如何启用GPU直通？
启用GPU直通需在系统BIOS或UEFI中激活IOMMU支持（AMD），随后配置虚拟化管理程序（如KVM或VMware ESXi）将GPU直接分配给虚拟机。同时需解除GPU与主机驱动程序的绑定，并在客户机虚拟机中安装适配的GPU驱动程序。 - 需要两块GPU才能实现GPU直通吗？
虽然并非严格要求，但建议配备两块GPU。其中一块专用于主机系统，另一块则专用于虚拟机。这样既能确保主机维持显示输出和系统稳定性，又能让直通GPU完全隔离供虚拟机使用。 - GPU直通功能是否支持容器？
是的，若在具备直接GPU访问权限的虚拟机中进行配置，GPU直通功能可与容器协同工作。此外，针对容器的专用解决方案（如NVIDIA Docker或GPU操作框架）也能在Kubernetes环境中提供GPU访问支持。