大模型AI芯片群雄逐鹿，谁主沉浮？英伟达NVIDIA？AMD？华为？

随着人工智能、大数据、高性能计算、生成式AI和大语言模型的快速发展，芯片技术和服务器市场变得越来越重要。大模型需要高性能芯片支持，而芯片技术的发展又为大模型应用和推广提供可能。在这篇文章中，我们将探讨推进芯片快速发展的技术（稳态微聚束加速器光源）、华为和英伟达显卡的对比以及赋能生成式AI和LLM大模型负载L40S服务器。

阅读全文 → 2023-10-19

高性能计算与多模态处理的探索之旅：英伟达GH200性能优化与GPT-4V的算力加速未来

随着人工智能技术的不断发展，多模态大模型成为越来越重要的发展趋势。GPT-4V（GPT-4 近日开放的视觉模态）大型多模型（LMMs）扩展大型语言模型（LLMs）以增强多感知技能（如视觉理解等）从而实现更强大的通用智能。本文着重对GPT-4V进行深入分析，以进一步深化对LMM的理解。在此本文分析核心是GPT-4V可以执行的任务，同时包含用于探测其能力质量和通用性的测试样本。

阅读全文 → 2023-10-19

深度学习模型部署与优化：策略与实践；L40S与A100、H100的对比分析

随着生成式AI应用的迅猛发展，我们正处在前所未有的大爆发时代。在这个时代，深度学习模型的部署成为一个亟待解决的问题。尽管GPU在训练和推理中扮演着关键角色，但关于它在生成式AI领域的误解仍然存在。近期英伟达L40S GPU架构成为了热门话题，那么与A100和H100相比，L40S有哪些优势呢？

阅读全文 → 2023-10-06

高性能计算环境下的深度学习异构集群建设与优化实践

随着人工智能在工业和学术界大规模的应用，深度学习训练需求日益迫切。各组织机构投入大量资金购置和搭建配置GPU和InfiniBand网卡异构计算集群。集群管理系统(也称平台)支持模型训练，提供作业、数据和模型管理，并提供资源隔离。资源管理系统是深度学习系统的基础，企业级场景下，上层框架和应用通常在资源管理系统提供的资源上运行。

阅读全文 → 2023-09-24

Stable Diffusion的完整指南：核心基础知识、制作AI数字人视频和本地部署要求

Stable Diffusion是一种扩散模型（diffusion model）的变体，叫做“潜在扩散模型”（latent diffusion model; LDM）。扩散模型是在2015年推出的，其目的是消除对训练图像的连续应用高斯噪声，可以将其视为一系列去噪自编码器。Stable Diffusion由3个部分组成：变分自编码器（VAE）、U-Net和一个文本编码器。添加和去除高斯噪声的过程被应用于这个潜在表示，然后将最终的去噪输出解码到像素空间中。在前向扩散过程中，高斯噪声被迭代地应用于压缩的潜在表征

阅读全文 → 2023-09-17

揭秘英伟达A100、A800、H100、H800 GPU如何实现高性能大模型的百倍训练加速

本文主要介绍大模型的内部运行原理、我国算力发展现状。大模型指具有巨大参数量的深度学习模型，如GPT-4。其通过在大规模数据集上进行训练，能够产生更加准确和有创造性的结果。大模型的内部运行原理包括输入数据的处理、多层神经网络计算和输出结果生成。这些模型通常由数十亿个参数组成，需要庞大的计算资源和高速的存储器来进行训练和推理。

阅读全文 → 2023-09-09