智能云域名资讯|域名门户|域名新闻中心
【置顶推荐】 终于有人把云计算、大数据和人工智能讲明白了！
一般谈云计算的时候会提到大数据、谈人工智能的时候会提大数据、谈人工智能的时候会提云计算……感觉者之间相辅相成又不可分割。但如果是非技术的人员，就可能比较难理解这三者之间的相互关系，所以有必要解释一下。 今天跟大家讲讲云计算、大数据和人工智能。这三个词现在非常火，并且它们之间好像互相有关[……]
最新文章
全互联的超集：NVLink NVL72 与 GPU 集群的变革
全互联的超集：NVLink NVL72 与 GPU 集群的变革 单机柜容纳72颗GPU直接互联，并以统一内存池对外呈现——这就是NVL72的颠覆性所在。借助第五代NVLink，每对GPU之间的双向带宽高达1.8TB/s，NVL72系统总聚合带宽达到惊人的130TB/s。通过NVLink[……]
双光刻版的晶体管雄心：2080亿的架构挑战
双光刻版的晶体管雄心：2080亿的架构挑战 当一个GPU集成2080亿个晶体管，芯片设计的每一根线条都在考验技术的极限。B300正是这样一款突破工艺藩篱的杰作，其双光刻版设计（双光罩Designdie）将两个计算单元通过NV-HBI高速接口连接，以10TB/s的惊人带宽融合为单颗GPU。[……]
热能革命：从 H100 到 B300 的功耗演进
热能革命：从 H100 到 B300 的功耗演进 从H100到B300，三代GPU的热设计功耗勾勒出一条陡峭的“电力曲线”。H100的TDP约为700W；B200将这一数字推向1000W，迈入“千瓦时代”；而B300则以1400W将风冷技术的天花板彻底撞碎。短短两代产品之间，单卡功耗几乎[……]
从 8-Hi 到 12-Hi：显存堆叠的技术跃迁
从 8-Hi 到 12-Hi：显存堆叠的技术跃迁 HBM3E技术的演进是B300实现288GB海量显存的关键密码。正是通过将HBM内存的堆叠层数从B200的8-Hi提升至12-Hi，NVIDIA才在同样的物理封装内实现了高达50%的容量飞跃。 同样的针脚速率下，B300的内存[……]
数字红利的“阶梯”：B300 与 B200 的全面参数对比
数字红利的“阶梯”：B300 与 B200 的全面参数对比 从B200到B300的升级，是一场全面的规格革命。B300集成高达2080亿个晶体管，相比B200实现了约30%的理论密度提升。显存与带宽的提升最为直观——B200配备192GB HBM3E内存和8TB/s带宽，而B300直接将[……]
H200 CUDA与软件栈：深度优化释放硬件潜力
H200 CUDA与软件栈：深度优化释放硬件潜力 硬件性能需要软件榨取极致。H200延续了NVIDIA CUDA平台的强大生态，并针对大模型场景推出了深度优化的推理软件栈。TensorRT-LLM为H200专门优化了Attention内核、量化策略与并行解码，在FP8精度下可实现数倍于标[……]
H200部署成本（TCO）：较H100方案更优的长期性价比
H200部署成本（TCO）：较H100方案更优的长期性价比 H200在提供更高显存带宽与容量同时，通过架构优化实现了更高的能效比。同性能目标下（例如训练相同模型到相同精度），H200集群相较于H100方案可节省约20-30%的电力消耗。主要得益于HBM3e内存的高带宽与低能耗设计，以及更[……]
H200集群扩展：NVSwitch+胖树架构释放横向扩展潜力
H200集群扩展：NVSwitch+胖树架构释放横向扩展潜力 单台H200服务器虽强，但训练超大规模模型往往需要数百甚至数千GPU协同。H200集群采用NVSwitch与胖树（Fat-Tree）无阻塞网络架构，实现了高效的横向扩展。NVSwitch在节点内部和节点间提供了GPU全互联能力[……]
服务器与整机：HGX H200与MGX设计加速部署
服务器与整机：HGX H200与MGX设计加速部署 NVIDIA HGX H200整机是面向大规模AI计算的标准平台，集成8张H200 GPU，通过板载NVSwitch实现全互联，并配备高速CPU与网络接口。与之互补的MGX（模块化参考设计）为服务器厂商提供了灵活、可复用的构建模块，支持[……]
8卡H200集群：万亿模型训练的性能基石
8卡H200集群：万亿模型训练的性能基石 单个H200 GPU已拥有惊人的141 GB HBM3e高带宽显存，而8卡H200集群更将总算力推至31.6 PFLOPS（FP8精度），总显存达到1.1 TB。这一量级的算力与显存组合，专为万亿参数级大模型训练而设计。训练万亿模型时，模型状态（[……]