Liqid宣布推出新产品,使主机服务器应用程序能够访问由GPU、内存和存储池构建的动态编排GPU服务器系统,主要面向AI推理和智能体应用。
Liqid最初提供由CPU和DRAM、GPU及其他加速器、Optane和NVMe SSD组成的可组合系统。它通过动态系统配置为工作负载提供精确所需的资源量,从而实现更好的整体资源效率。其设计在2023年基于PCIe Gen 4架构。此后,Optane已经淘汰,PCIe Gen 5已经到来,CXL内存共享技术也得到发展。Liqid现在已转向PCIe 5架构,这使其能够支持CXL 2.0内存池。
CEO Edgar Masri表示:"随着生成式AI转向本地部署用于推理、推理和智能体用例,这正在将数据中心和边缘基础设施推向极限。企业需要一种新的方法来满足这些需求,并在支持新GPU、新的大语言模型和工作负载不确定性方面做好未来准备,同时不超出功耗预算。"
Liqid的最新发展使客户能够获得"在企业扩展以满足前所未有的需求时,最大化每瓦特和每美元所需的性能、敏捷性和效率"。Liqid表示,他们可以在本地数据中心和边缘环境中实现平衡的100%资源利用率。
其产品包括Matrix软件、可组合GPU服务器、可组合内存和I/O加速器,后者是增强型SSD,如PCIe扩展卡格式的64TB AX-5500。Matrix软件运行可组合性功能,通过Fabric-A与PCIe交换机通信以组合存储和加速器,通过Fabric-B与CXL交换机通信以组合内存(DRAM,非HBM)。两种结构都访问计算(GPU服务器)池,将其资源提供给GPU,从而向主机提供由GPU+内存+存储容量组成的块。
这个最新的Liqid设置使用Matrix软件v3.6版本,包含六个硬件元素:
EX-5410P 10槽GPU机箱,支持600W GPU(Nvidia H200、RTX Pro 6000和Intel Gaudi 3)、FPGA、DPU、TPU、NVMe驱动器等
EX-5410C,使用CXL 2.0提供高达100TB的分解可组合内存
LQD-5500加速SSD,现在支持高达128TB容量,在标准NVMe格式中提供小于600万IOPS和50GBps带宽,我们理解这意味着全高、全长、单宽扩展卡
PCIe Gen 5交换机
CXL 2.0交换机
主机总线适配器(HBA)
有两种配置选项:
UltraStack将多达30个GPU和100TB DRAM专用于单个服务器
SmartStack在多达20个服务器节点上池化多达30个GPU,在多达32个服务器上池化100TB DRAM
Matrix v3.6与Kubernetes、Slurm、OpenShift、VMware、Ansible等原生兼容。结构支持将包括Nvidia Fusion、Ultra Accelerator Link(UAL)或Ultra Ethernet Consortium(UEC),这些功能将在可用时提供。
我们在Liqid网站上查看时,更新的数据表尚未提供,但应该很快就会提供。
附注
在Liqid的第四代中,GPU安装在30槽EX-4410扩展机箱中,通过PCIe Gen 4网络连接到主机。物理GPU通过运行在1RU Liqid Director服务器中的Matrix软件从此池中配置给裸机主机。
SmartStack 4410系统支持异构GPU,每个主机最多30个,最多16个主机服务器,PCIe Gen 4配备48端口PCIe交换机,最多三个EX-4410。较小的SmartStack 4408支持每个主机最多24个GPU,最多16个主机。
UltraStack系统支持将多达30个Nvidia L40S GPU连接到单个Dell PowerEdge服务器,可以是R760或R7625。
好文章,需要你的鼓励
Queen's大学研究团队提出结构化智能体软件工程框架SASE,重新定义人机协作模式。该框架将程序员角色从代码编写者转变为AI团队指挥者,建立双向咨询机制和标准化文档系统,解决AI编程中的质量控制难题,为软件工程向智能化协作时代转型提供系统性解决方案。
苹果在iOS 26公开发布两周后推出首个修复更新iOS 26.0.1,建议所有用户安装。由于重大版本发布通常伴随漏洞,许多用户此前选择安装iOS 18.7。尽管iOS 26经过数月测试,但更大用户基数能发现更多问题。新版本与iPhone 17等新机型同期发布,测试范围此前受限。预计苹果将继续发布后续修复版本。
西北工业大学与中山大学合作开发了首个超声专用AI视觉语言模型EchoVLM,通过收集15家医院20万病例和147万超声图像,采用专家混合架构,实现了比通用AI模型准确率提升10分以上的突破。该系统能自动生成超声报告、进行诊断分析和回答专业问题,为医生提供智能辅助,推动医疗AI向专业化发展。