MemVerge推出了开源MemMachine软件项目,为大语言模型和智能体AI提供跨平台长上下文内存层。
MemVerge提供的Memory Machine软件可以虚拟化DRAM,将服务器CPU的内存与外部内存层相结合。该软件使数据能够加载到本地超负荷的内存容量中。公司声称MemMachine软件及其企业版本将提供世界上最准确的AI内存系统,具备快速回调功能,为机器提供类人记忆基础。
MemVerge联合创始人兼首席执行官Charles Fan表示:"没有记忆的AI是不完整的。MemMachine提供的内存层使智能体真正变得智能、个性化且适用于企业。这是下一代智能体AI的开始,我们自豪地提供世界上最强大的AI内存系统。"
MemVerge对其新软件寄予厚望,称:"MemMachine的长远愿景是媲美并超越人类记忆的丰富性。就像人类一样,它将使智能体能够保留情景体验、语义知识和程序技能。与人类不同的是,它将提供无限回忆、即时上下文检索、完美保真度,以及在智能体、应用程序和企业间的安全共享。结果是:AI成为真正的协作者,记住一切重要的事情,不遗忘任何关键信息,并远超生物限制。"
MemVerge声称MemMachine不是另一个KV缓存卸载引擎,而是"提供持久的智能内存层,在会话、模型、智能体和环境间保留情景、个人和程序知识。结果是:助手从一次性聊天机器人演变为值得信赖、具有上下文感知能力的协作者。"
Fan在博客中写道:"当我说记忆时,我不是指长提示或固定在聊天机器人上的向量存储。我指的是跨模型、多智能体、策略感知、低延迟的内存层,能够有意图地捕获、组织和检索知识。具体来说,该层应支持四种互补模式:
情景记忆 - "发生了什么?"过去交互和结果的持久记录,带时间戳且可追踪。
语义记忆 - "这意味着什么?"从原始数据中提取的概念、实体和关系。
程序记忆 - "我们如何做到?"智能体可以重用和适应的步骤、手册和技能。
档案记忆 - "我在与谁合作?"用户身份、角色、偏好和约束的持久知识,实现个性化和连续性。
"企业需要所有四种类型。情景记忆用于连续性,语义记忆用于理解,程序记忆用于行动,档案记忆用于个性化。它们共同将助手从单回合工具转变为可靠、具有上下文感知的协作者。"
他补充说:"要使AI记忆真正达到企业级,它必须以与其他核心基础设施相同的严格性能执行。它必须提供足够快的检索速度以保持GPU充分利用,但同样重要的是,它必须准确和相关——在正确的时间返回正确的上下文片段。它应该在设计上是安全的,具有加密、细粒度访问和完全可审计性。它应该在不同云和模型间无缝工作,避免供应商锁定,并且必须具有企业期望的生产系统的可观察性、配额和服务级别保证。记忆不是玩具或演示功能。它是基础设施,必须相应地行为。"
MemVerge使用LoCoMo长上下文记忆系统测试对MemMachine与ChatGPT、zep、LangMem等AI内存系统进行了基准测试。MemMachine以85%的得分领先。
MemMachine软件特性包括:
- 采用Apache 2.0许可证的开源软件
- 为用户、AI助手和智能体提供情景记忆和档案记忆
- 支持所有基础大语言模型,包括OpenAI、Claude、Gemini、Grok和开源模型
- 能够在任何环境、云端或本地部署
MemVerge表示,每个部署智能体AI的企业——在客户服务、医疗保健、金融等领域——都需要安全的内存基础设施来实现生产力、个性化、合规性和信任。其MemMachine软件"使智能体和应用程序能够通过实时个性化、更快的任务执行和复杂工作流的流畅编排来访问、存储和检索上下文。"
Fan写道:"我们的目标是使AI记忆像数据库或存储系统一样基础——一个企业可以在未来几十年标准化的可靠层,并将MemMachine作为最强大且最易于开发者使用的AI记忆提供...AI模型将继续改进,但持久的优势将来自于您的AI对业务的了解程度、召回的可靠性,以及在人员、智能体和应用程序间安全共享知识的能力。这是下一个前沿——也是我们打算引领的地方。"
开源MemMachine项目现已在www.memmachine.ai上线,MemVerge的商业版本也同步提供。
Q&A
Q1:MemMachine是什么?它能做什么?
A:MemMachine是MemVerge推出的开源软件项目,为大语言模型和智能体AI提供跨平台长上下文内存层。它能提供持久的智能内存层,在会话、模型、智能体和环境间保留情景、个人和程序知识,使AI助手从一次性聊天机器人演变为值得信赖、具有上下文感知能力的协作者。
Q2:MemMachine支持哪四种记忆模式?
A:MemMachine支持四种互补的记忆模式:情景记忆(记录过去交互和结果)、语义记忆(提取概念、实体和关系)、程序记忆(保存步骤、手册和技能)、档案记忆(存储用户身份、角色、偏好和约束信息)。这四种模式共同实现连续性、理解、行动和个性化功能。
Q3:如何获取和使用MemMachine?
A:开源MemMachine项目现已在www.memmachine.ai上线,采用Apache 2.0许可证。它支持所有主流大语言模型包括OpenAI、Claude、Gemini、Grok和开源模型,能够在任何云端或本地环境部署。MemVerge同时提供具有企业级功能的商业版本。
好文章,需要你的鼓励
AI初创公司Modular完成2.5亿美元C轮融资,估值达16亿美元。该公司提供统一平台,让开发者无需重写代码即可在不同芯片上运行AI应用,包括CPU、GPU、ASIC和定制芯片。公司旨在打破英伟达CUDA的垄断局面,为企业提供更多硬件选择自由。其平台已支持英伟达、AMD和苹果架构,在新一代加速器上性能提升20%-50%。
OpenAI团队的最新研究揭示了大语言模型产生幻觉的根本原因:AI就像面临难题的学生,宁愿猜测也不愿承认无知。研究发现,即使训练数据完全正确,统计学原理也会导致AI产生错误信息。更重要的是,现有评估体系惩罚不确定性表达,鼓励AI进行猜测。研究提出了显式置信度目标等解决方案,通过改革评估标准让AI学会诚实地说"不知道",为构建更可信的AI系统指明方向。
谷歌发布Data Commons模型上下文协议服务器,为AI开发者提供标准化访问公共数据集的新工具。该服务器连接谷歌2018年推出的开放知识库Data Commons,整合经济、健康、人口和环境等领域的公共数据集。通过标准化接口,AI系统可直接查询数据而无需管理复杂API,有效减少模型幻觉问题,为构建数据驱动的智能体应用奠定基础,提升AI输出的准确性和可信度。
字节跳动AI实验室提出"逆向工程推理"新范式,通过从优质作品反推思考过程的方式训练AI进行创意写作。该方法创建了包含2万个思考轨迹的DeepWriting-20K数据集,训练的DeepWriter-8B模型在多项写作评测中媲美GPT-4o等顶级商业模型,为AI在开放性创意任务上的应用开辟了新道路。