人工智能开发初创公司 webAI Inc. 今天宣布推出一款名为 Companion 的新型 AI 助手,旨在帮助大型组织"大幅提升"其生产力。
webAI 声称,Companion 是一款"突破性"的 AI 助手,可以定制化支持几乎任何类型的企业工作负载。该公司以专注于私有 AI 系统而闻名,提供的工具使企业能够在 Apple Inc. 的设备上(如 Mac 电脑、iPad 和 iPhone)本地部署 AI 模型。
这样做的目的是减少对云基础设施的依赖,因为这些基础设施并不受使用它们的组织控制。通过这种方式,webAI 特别强调数据隐私和更低的延迟。
Companion 作为 webAI 平台冬季版本的一部分推出,公司表示这是对客户强烈需求的回应,他们需要一个超越现有通用云托管模型的 AI 助手工具。
它为企业提供了一个私有且高度可定制的 AI 助手,可以直接嵌入到员工的工作流程中。客户可以使用自己的企业数据训练 Companion 来增强其功能和知识,同时确保数据不会落入他人之手。
将trained on 公共数据的大语言模型与专有数据相结合的能力,对于开发更强大的 AI 系统(如具有专业领域知识并能代表用户执行任务的 AI 代理)至关重要。企业渴望采用这种能力,但许多企业也有重要的隐私考虑,需要完全控制其知识产权。Companion 正是针对这些企业而设计的。
据 webAI 称,Companion 超越了大多数人熟悉的简单聊天体验。它可以在任何 OSX 台式机或笔记本电脑上运行,其上下文感知特性意味着它可以轻松融入员工的工作流程中。通过这种方式,它使企业能够将世界上最强大的大语言模型与自己的商业机密相结合,从而提高其潜力。
由于 Companion 运行在客户的设备上或企业的私有网络中,这意味着他们的数据不可能泄露到外部。
"隐私是 webAI 的创立原则,它存在于我们的 DNA 中,"创始人兼首席执行官 David Stout 表示。"我们正在开创一种私有 AI,它了解你的业务,在你的设备上运行,在你的防火墙内,完全在你的控制之下。"
公司表示,Companion 可以与其 Navigator 产品配合使用,Navigator 是一个 AI 开发平台,使团队能够设计、构建、训练和部署自己的大语言模型和其他类型的 AI 模型,且无需任何云依赖。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。