本文へ移動
AI NEWS JOURNAL
NVIDIA DeveloperAI NEWS / JOURNAL

NVIDIA CUDA 13.4を用いたKubernetesにおけるメモリ強制GPU共有

多くのAIワークロードは、GPUの一部しか必要としません。各ワークロードに専用のデバイスを割り当てると、リソースが遊休状態になることがあります。GPUを共有することで、プラットフォームチームはより多くのワークロードに対応できるようになります…

AI 自動翻訳

多くのAIワークロードは、GPUのほんの一部しか必要としません。各ワークロードに専用のデバイスを割り当てると、リソースが遊んでいる状態になることがあります。GPUを共有することで、プラットフォームチームは既存のインフラストラクチャを活用して、より多くのワークロードに対応できるようになります。NVIDIA GPUはすでに、GPU共有のための複数の手法をサポートしています。マルチインスタンスGPU(MIG)は、GPUをハードウェア的に分離されたインスタンスに分割し、アプリケーションからは透過的に利用できるようにします…

出典

情報源

NVIDIA Developer
← すべてのニュースへ