集群是什么意思？

炼丹超大型LLM，需要千颗以上的GPU协同工作，这种量级针对LLM的集群软硬件生态，目前只有英伟达独此一家。即使说到几颗GPU的小集合，英伟达都是遥遥领先，这就是我们看到的Hopper架构，GPU之间连接的NVLink和NVSwitch是英伟达私有技术，AMD用的PCIe并不能与之抗衡。H200首家采用的HBM3e，有恐怖的4.8TB/s带宽来有效突破内存墙。再过两天英伟达开GTC，不知道还会有什么东西拿出来吓人。