推理时代到来,AI数据中心如何应对内存扩展挑战
随着AI工作负载从训练转向推理,数据中心面临新的基础设施挑战。推理阶段需要持久化存储键值缓存、嵌入向量和会话上下文等数据,内存需求随用户活动而非模型大小增长。传统计算与内存紧耦合架构导致资源浪费和成本攀升。CXL(计算快...
随着AI工作负载从训练转向推理,数据中心面临新的基础设施挑战。推理阶段需要持久化存储键值缓存、嵌入向量和会话上下文等数据,内存需求随用户活动而非模型大小增长。传统计算与内存紧耦合架构导致资源浪费和成本攀升。CXL(计算快...
ST Telemedia全球数据中心(STT GDC)在韩国首尔金川区加山洞正式启用首座数据中心STT Seoul 1,IT负载容量达30MW,总建筑面积4万平方米。该项目由STT GDC(持股60%)与本地合作伙伴效星...
美国抵押贷款服务商Pennymac Financial Services扩大与AWS的合作,引入生成式AI工具,基于Amazon Nova Sonic基础模型开发自然语言虚拟助手,支持全天候实时语音交互,可识别贷款机会、...
Freshworks首席信息官Ashwin Ballal拥有材料科学博士学位,职业生涯横跨市场营销、工程、产品与运营,2009年才转型进入IT领域。他将自己的跨业务经验视为成功关键,认为CIO需要深入理解业务才能推动转型...
据基准测试公司Evident发布的保险业AI采用指数显示,尽管整体员工数量下降2.2%,保险公司去年对AI专家的招聘却增长了32%,目前每50个岗位中就有1个AI相关职位。采用指数排名最高的安联(Allianz)拥有的A...
微软总裁布拉德·史密斯近日发文回应美国学生对AI的抵触情绪。此前,多所高校毕业典礼上,学生曾对谈论AI的演讲嘉宾发出嘘声。史密斯在博客中将AI比作摄影术的出现,认为就业市场同样能够适应AI带来的冲击,并鼓励年轻人拥抱变化...
MIT研究人员开发出一种名为DAAAM的长期时空记忆框架,使机器人能够在大规模环境中快速构建并调用详细的三维语义地图。该系统将计算机视觉与机器人地图技术结合,让机器人在移动过程中为所见物体附加丰富描述,并通过大语言模型实...
英伟达CEO黄仁勋将物理AI与机器人定义为50万亿美元的市场机遇,并与LG集团达成多万亿美元合作,专注人形机器人与物理AI工厂建设。当前AI正从数据中心向边缘设备迁移,形成端侧AI(PC/移动)与分布式微型数据中心两条路...
AI初创公司Probably完成900万美元种子轮融资,投资方为Andreessen Horowitz。该公司致力于解决大语言模型幻觉问题,目标是实现99.99%的准确率。其首款产品为数据科学工具,通过"确定性验证器"系...
SpaceX股价周一上涨20%、周二早盘再涨逾8%,市值突破2.7万亿美元,超越亚马逊成为全球第五大最具价值公司。尽管亚马逊2025年营收达7170亿美元、净利润780亿美元,SpaceX营收仅187亿美元且亏损49亿美...
Robinhood CEO Vlad Tenev在宣布裁员约290人(占全职员工10%)的内部信中,刻意回避了AI字眼,仅以"精简组织架构"为由。这与亚马逊、Coinbase等科技公司借AI重组之名裁员的惯常做法形成鲜明...
AI芯片初创公司SiMa Technologies发布了Palette Neat,这是一款专为物理AI打造的智能体开发环境。该工具可与公司的Modalix MLSoC系统模块及新款PCIe扩展卡配合使用,帮助开发者快速构...
慧与科技(HPE)在拉斯维加斯HPE Discover大会上宣布大幅扩展其私有云AI产品组合。新产品包括搭载英伟达Vera CPU的ProLiant DL394 Gen12服务器(预计2027年初上市)、英伟达Agent...
据独立记者获取的经审计财务报表显示,OpenAI营收虽快速增长,从2024年的37亿美元跃升至2025年的130.7亿美元,但支出增速更为惊人。2025年仅研发费用就高达191.8亿美元,运营亏损达209.2亿美元。扣除...
WordPress VIP发布的最新报告显示,60%的美国消费者对在品牌宣传中使用"AI"字眼感到反感,86%的消费者不完全信任AI,仍倾向于查阅原始资料。42%的受访者表示,缺乏明确来源的AI生成内容可信度极低。尽管如...
高通今日发布全新骁龙Reality Elite芯片,这是XR2+ Gen 2的继任产品,标志着该公司从XR芯片向AI平台的战略转型。新芯片支持48 TOPS端侧算力,可运行30亿参数大语言模型,同时GPU性能提升60%,...
惠普企业(HPE)在Discover客户大会上发布了一系列网络与AI基础设施升级方案,核心包括:将Juniper网络组合深度整合至AI数据中心解决方案,推出面向AI推理集群的QFX5140交换机,以及支持AMD Heli...
Snap正式发布新款AR眼镜Specs,售价2195美元,今秋上市。眼镜无需连接手机,搭载自研操作系统,支持手势控制,提供51度视场角的3D增强现实体验。重量约132至136克,续航约4小时,携带盒可额外提供16小时续航...
Xreal Aura智能眼镜将于今秋正式上市,内置高通全新Snapdragon Reality Elite芯片。该芯片相比三星Galaxy XR所用的上一代产品,GPU性能提升60%,CPU提升30%,AI神经处理单元性...
据Sensor Tower《2026年AI行业报告》,ChatGPT月活用户超11亿,仍居全球首位,但市场份额已从1月的50%以上降至5月底的46.4%。Gemini以27.7%位居第二,Claude以10.3%紧随其后...