随着AI技术的发展速度远超企业缓慢的采购周期,许多公司都在努力采用合适的AI工具。
企业信用卡公司Brex也面临同样的挑战。这家初创公司发现自己与其他企业同行面临相同的问题。结果是:Brex彻底改变了其软件采购方式,以确保不会落后于时代。
Brex首席技术官James Reggio在3月份的HumanX AI会议上告诉TechCrunch,公司最初试图通过常规采购策略评估这些软件工具。但这家初创公司很快发现,其长达数月的试点流程根本行不通。
"在ChatGPT发布后的第一年,当所有这些新工具涌现时,采购流程本身耗时如此之长,以至于请求采购工具的团队在我们完成所有必要的内部控制流程时,已经对该工具失去了兴趣,"Reggio说。
正是在那时,Brex意识到必须彻底重新思考其采购流程。
Reggio表示,公司首先为引入AI工具制定了新的数据处理协议框架和法律验证程序。这使Brex能够更快地审核潜在的AI工具,并更迅速地将它们交到测试人员手中。
Reggio说,公司使用"超人级产品市场匹配测试"来确定哪些工具值得在试点项目之外继续投资。这种方法让员工在决定公司应该采用哪些工具方面发挥更大作用,基于他们发现价值的地方。
"我们与从工具中获得最大价值的人员深入合作,以确定该工具是否真正独特到值得保留,"Reggio说。"我们基本上已经进入这个新时代大约两年了,公司内部有1000种AI工具。我们确实已经取消并未续约可能5到10个不同的大型部署。"
Brex为其工程师提供每月50美元的预算,让他们从批准清单中选择想要的软件工具。
"通过将支出权限委托给将要使用这些工具的个人,他们能够为优化工作流程做出最佳决策,"Reggio说。"这实际上非常有趣,我们没有看到趋同现象。我认为这也验证了让人们轻松尝试各种不同工具的决定是正确的,因为我们没有看到每个人都冲进来说'我想要Cursor'。"
这种方法还帮助公司根据更准确的工程师使用情况统计,确定在哪些软件上需要更广泛的许可协议。
总的来说,Reggio表示,在他看来,企业应对当前AI创新周期的最佳方式是"拥抱混乱",并认识到确定采用哪些工具将是一个颠簸的过程,这是可以接受的。
"知道你不会总是在一开始就做出正确的决定,这对确保你不会落后至关重要,"Reggio说。"我认为我们可能犯的一个错误是过度思考,花费六到九个月时间在部署前非常仔细地评估一切。而你不知道九个月后世界会是什么样子。"
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。