韩国电信巨头SK Telecom(SKT)正在建设主权人工智能基础设施,该基础设施采用来自Supermicro的英伟达Blackwell服务器和Vast Data的AI操作系统。
这一被命名为"Haein Cluster"的新基础设施是SKT从传统电信公司向AI优先公司转型的核心。该基础设施专为支持电信公司的Petasus AI云服务而设计,将满足AI模型开发的需求,同时确保所有数据和处理都在韩国境内进行。该基础设施已被选为科学技术部AI计算租赁项目,将用于开发国家AI基础模型。
传统的基于物理裸机环境的AI基础设施通常需要几天或几周时间来配置新的工作负载,这对开发者和企业来说是一个主要瓶颈。SKT通过部署虚拟化AI基础设施显著缩短了这一时间,可以在短短10分钟内启动GPU环境,同时保持与物理裸机系统相当的性能水平。
SKT AI数据中心实验室副总裁兼负责人DK Lee表示,Vast Data在帮助电信公司从传统物理裸机部署转向完全虚拟化的生产级AI云方面发挥了重要作用。"Vast AI操作系统提供了支持下一代主权AI工作负载所需的性能、简便性和灵活性,让我们有信心快速、安全地扩展。"他补充道。
Petasus AI云本质上是一种GPU即服务,构建在Vast的分解式共享一切(DASE)架构上,运行在Supermicro的英伟达HGX服务器上。这创建了一个高吞吐量、安全的多租户环境,能够同时支持大规模AI训练和实时推理。
该服务专为企业级正常运行时间和弹性而设计,运营开销极小,允许为每个租户动态分配GPU、存储和网络资源。AI应用程序开发者还可以期望获得用于完整生命周期AI开发和部署的统一管道。还有协议灵活性,无需客户端网关,简化了韩国政府、研究机构和企业AI客户的访问。
"SK Telecom正在定义国家级AI基础设施的未来,Vast很自豪能够支持他们的愿景,"Vast Data亚太地区副总裁Sunil Chavan说。"通过消除数据移动、配置和安全方面的传统瓶颈,Vast正在帮助SKT推出一个主权且安全的AI基础设施,提供规模化的速度和灵活性。"
SKT一直在通过其"AI to Everywhere"倡议推动AI在其业务中的使用,从提供AI驱动的服务到改善客户体验和扩展机器人能力。
该倡议建立在SKT多年来推出的一系列AI能力基础上,包括使用OpenAI GPT模型处理客户请求的AI聊天机器人。该电信公司还开发了自己的Sapeon AI芯片,这些芯片正在其自己的神经处理单元农场中使用,也被基于OpenStack的云服务提供商NHN Cloud和半导体公司SK海力士的智能工厂使用。
Q&A
Q1:Haein Cluster是什么?有什么作用?
A:Haein Cluster是SK Telecom建设的主权人工智能基础设施,采用英伟达Blackwell服务器和Vast Data的AI操作系统。它是SKT从传统电信公司向AI优先公司转型的核心,专为支持Petasus AI云服务而设计,确保所有数据和处理都在韩国境内进行,并将用于开发国家AI基础模型。
Q2:Petasus AI云服务相比传统AI基础设施有什么优势?
A:传统的AI基础设施通常需要几天或几周时间来配置新的工作负载,而Petasus AI云通过虚拟化技术可以在短短10分钟内启动GPU环境,同时保持与物理裸机系统相当的性能水平。它本质上是一种GPU即服务,能够同时支持大规模AI训练和实时推理。
Q3:SK Telecom在AI领域还有哪些布局?
A:SKT通过"AI to Everywhere"倡议在多个领域推动AI应用,包括提供AI驱动的服务、改善客户体验和扩展机器人能力。公司还开发了使用OpenAI GPT模型的AI聊天机器人处理客户请求,以及自主研发的Sapeon AI芯片,这些芯片被应用于神经处理单元农场、云服务和智能工厂。
好文章,需要你的鼓励
本文探讨如何使用生成式AI和大语言模型作为倾听者,帮助用户表达内心想法。许多主流AI如ChatGPT、Claude等被设计成用户的"最佳伙伴",或试图提供心理健康建议,但有时用户只想要一个尊重的倾听者。文章提供了有效的提示词技巧,指导AI保持中性、尊重的态度,专注于倾听和理解,而非给出建议或判断。同时提醒用户注意隐私保护和AI的局限性。
北京大学团队开发出WoW世界模型,这是首个真正理解物理规律的AI系统。通过200万机器人互动数据训练,WoW不仅能生成逼真视频,更能理解重力、碰撞等物理定律。其创新的SOPHIA框架让AI具备自我纠错能力,在物理理解测试中达到80.16%准确率。该技术将推动智能机器人、视频制作等领域发展,为通用人工智能奠定重要基础。
人工通用智能和超级人工智能的出现,可能会创造出一种全新的外星智能形态。传统AI基于人类智能模式构建,但AGI和ASI一旦存在,可能会选择创造完全不同于人类认知方式的新型智能。这种外星人工智能既可能带来突破性进展,如找到癌症治愈方法,也可能存在未知风险。目前尚不确定这种新智能形态是否会超越人类智能,以及我们是否应该追求这一可能改变人类命运的技术突破。
香港大学和蚂蚁集团联合推出PromptCoT 2.0,这是一种让AI自动生成高质量训练题目的创新方法。通过"概念-思路-题目"的三步策略,AI能像老师备课一样先构思解题思路再出题,大幅提升了题目质量和训练效果。实验显示该方法在数学竞赛和编程任务上都取得了显著提升,为解决AI训练数据稀缺问题提供了新思路。