Liqid宣布推出新产品,使主机服务器应用程序能够访问由GPU、内存和存储池构建的动态编排GPU服务器系统,主要面向AI推理和智能体应用。
Liqid最初提供由CPU和DRAM、GPU及其他加速器、Optane和NVMe SSD组成的可组合系统。它通过动态系统配置为工作负载提供精确所需的资源量,从而实现更好的整体资源效率。其设计在2023年基于PCIe Gen 4架构。此后,Optane已经淘汰,PCIe Gen 5已经到来,CXL内存共享技术也得到发展。Liqid现在已转向PCIe 5架构,这使其能够支持CXL 2.0内存池。
CEO Edgar Masri表示:"随着生成式AI转向本地部署用于推理、推理和智能体用例,这正在将数据中心和边缘基础设施推向极限。企业需要一种新的方法来满足这些需求,并在支持新GPU、新的大语言模型和工作负载不确定性方面做好未来准备,同时不超出功耗预算。"
Liqid的最新发展使客户能够获得"在企业扩展以满足前所未有的需求时,最大化每瓦特和每美元所需的性能、敏捷性和效率"。Liqid表示,他们可以在本地数据中心和边缘环境中实现平衡的100%资源利用率。
其产品包括Matrix软件、可组合GPU服务器、可组合内存和I/O加速器,后者是增强型SSD,如PCIe扩展卡格式的64TB AX-5500。Matrix软件运行可组合性功能,通过Fabric-A与PCIe交换机通信以组合存储和加速器,通过Fabric-B与CXL交换机通信以组合内存(DRAM,非HBM)。两种结构都访问计算(GPU服务器)池,将其资源提供给GPU,从而向主机提供由GPU+内存+存储容量组成的块。
这个最新的Liqid设置使用Matrix软件v3.6版本,包含六个硬件元素:
EX-5410P 10槽GPU机箱,支持600W GPU(Nvidia H200、RTX Pro 6000和Intel Gaudi 3)、FPGA、DPU、TPU、NVMe驱动器等
EX-5410C,使用CXL 2.0提供高达100TB的分解可组合内存
LQD-5500加速SSD,现在支持高达128TB容量,在标准NVMe格式中提供小于600万IOPS和50GBps带宽,我们理解这意味着全高、全长、单宽扩展卡
PCIe Gen 5交换机
CXL 2.0交换机
主机总线适配器(HBA)
有两种配置选项:
UltraStack将多达30个GPU和100TB DRAM专用于单个服务器
SmartStack在多达20个服务器节点上池化多达30个GPU,在多达32个服务器上池化100TB DRAM
Matrix v3.6与Kubernetes、Slurm、OpenShift、VMware、Ansible等原生兼容。结构支持将包括Nvidia Fusion、Ultra Accelerator Link(UAL)或Ultra Ethernet Consortium(UEC),这些功能将在可用时提供。
我们在Liqid网站上查看时,更新的数据表尚未提供,但应该很快就会提供。
附注
在Liqid的第四代中,GPU安装在30槽EX-4410扩展机箱中,通过PCIe Gen 4网络连接到主机。物理GPU通过运行在1RU Liqid Director服务器中的Matrix软件从此池中配置给裸机主机。
SmartStack 4410系统支持异构GPU,每个主机最多30个,最多16个主机服务器,PCIe Gen 4配备48端口PCIe交换机,最多三个EX-4410。较小的SmartStack 4408支持每个主机最多24个GPU,最多16个主机。
UltraStack系统支持将多达30个Nvidia L40S GPU连接到单个Dell PowerEdge服务器,可以是R760或R7625。
好文章,需要你的鼓励
本文探讨如何使用生成式AI和大语言模型作为倾听者,帮助用户表达内心想法。许多主流AI如ChatGPT、Claude等被设计成用户的"最佳伙伴",或试图提供心理健康建议,但有时用户只想要一个尊重的倾听者。文章提供了有效的提示词技巧,指导AI保持中性、尊重的态度,专注于倾听和理解,而非给出建议或判断。同时提醒用户注意隐私保护和AI的局限性。
北京大学团队开发出WoW世界模型,这是首个真正理解物理规律的AI系统。通过200万机器人互动数据训练,WoW不仅能生成逼真视频,更能理解重力、碰撞等物理定律。其创新的SOPHIA框架让AI具备自我纠错能力,在物理理解测试中达到80.16%准确率。该技术将推动智能机器人、视频制作等领域发展,为通用人工智能奠定重要基础。
人工通用智能和超级人工智能的出现,可能会创造出一种全新的外星智能形态。传统AI基于人类智能模式构建,但AGI和ASI一旦存在,可能会选择创造完全不同于人类认知方式的新型智能。这种外星人工智能既可能带来突破性进展,如找到癌症治愈方法,也可能存在未知风险。目前尚不确定这种新智能形态是否会超越人类智能,以及我们是否应该追求这一可能改变人类命运的技术突破。
香港大学和蚂蚁集团联合推出PromptCoT 2.0,这是一种让AI自动生成高质量训练题目的创新方法。通过"概念-思路-题目"的三步策略,AI能像老师备课一样先构思解题思路再出题,大幅提升了题目质量和训练效果。实验显示该方法在数学竞赛和编程任务上都取得了显著提升,为解决AI训练数据稀缺问题提供了新思路。