一种用于私募 AI HPC 集群的 GPU 监控方案
2023-07-28 17:25:34 267
如今，GPU 领域玩起了“文艺复兴”！私募很显然，没办法利用云厂商的 GPU，因为性能太低了，大部分实现原理还都是池化后远程 API 转发方案或者 MIG，一个函数调用延迟可达 5ms 以上。RDMA 也很难拯救 AI 模型的训练的网络延迟，更多的还是直接“交电费” —— 买物理机直接裸金属调度。
从零构建AI训练推理的GPU集群
2023-07-27 18:36:46 203
写在前面： 偶然看到了这个内容，AI训练推理的GPU集群搭建的详细入门指南。很少见的资料。 对于希望自己搭建GPU集群的团队来说，这是一份很有价值的参考；对于高端个人用户而言，或许可以考虑如何在家里搭建一个几GPU的小集群玩玩，毕竟多搞几个30或40系显卡成本还是可以相对接受的。
英伟达Quantum-2 Infiniband技术A&Q
2023-07-26 14:51:03 299
随着大数据和人工智能等技术的快速发展，高性能计算需求日益增长。英伟达Quantum-2 Infiniband平台应运而生，为用户提供高速、低延迟的数据传输和处理能力，实现卓越的分布式计算性能。 Quantum-2采用最新一代NVIDIA Mellanox HDR 200Gb/s Infiniband网络适配器，支持高速数据传输和低延迟计算。结合NVIDIA GPU，实现加速计算和分布式存储，提高计算效率和资源利用率。
NIDAO准系统 安装Windows 10操作系统时如何安装RAID控制器驱动程序？
2023-07-25 10:24:38 385
NIDAO准系统 安装Windows 10操作系统时如何安装RAID控制器驱动程序？