使用 NVIDIA CUDA 13.4 在 Kubernetes 中实现内存强制执行的 GPU 共享

许多 AI 工作负载仅需 GPU 的一小部分。若为每个工作负载分配整块设备，可能会导致资源闲置；通过 GPU 共享，平台团队能够利用现有基础设施服务更多工作负载。NVIDIA GPU 本身已支持多种共享方案。多实例 GPU（MIG）可将单个 GPU 划分为硬件隔离的多个实例，对应用程序透明……

来源