多实例GPU（MIG）——单卡化身为七巧板

多实例GPU技术将一张物理GPU安全划分为多个独立、隔离的计算实例。Hopper架构延续并强化了这一能力，最多支持7个MIG实例，每个实例分配约18 GB的HBM内存和对应的计算资源。7个实例的配置对应于将GPU的L2缓存、内存控制器、计算簇等资源进行非均等切分，每个实例获得约1/7的算力和1/7的显存容量。

18 GB的单实例容量非常具有工程智慧：它恰好可以容纳主流的中型模型或批量推理任务，同时保持实例间的完美隔离——某个实例的错误或超额内存访问不会影响到其他实例。对于云服务提供商而言，MIG意味着可以将一颗昂贵的H100级GPU出租给最多7个小客户，显著提升利用率。对于多租户推理场景，每个实例独立运行各自的模型，避免了互相干扰。

MIG的调度粒度比传统虚拟GPU更细、隔离性更强，而比完整卡更适合中小工作负载。Hopper的MIG模块还支持动态资源重配，允许管理员在线调整实例数量和大小，在不重启服务器的情况下灵活满足业务波动的需求。

纵横数据www.170yun.com专业提供H200、H200服务器、H200显卡服务器、H200服务器租用、8卡H200、H200GPU服务器、H200多少钱、H200服务器价格、算力服务器、算力服务器租用、H200算力、H200GPU算力可以联系客服QQ:609863413，微信：17750597993