快手正在进行智能问答产品的内测,在搜索场景中为用户带来智能问答和文本创作等新功能。据悉,这是短视频直播行业首个基于大语言模型落地的应用产品。
据媒体7月8日消息,打开快手APP,进入快手搜索输入问题,就有机会获得来自智能问答产品提供的信息和答案。如用户搜索“西瓜怎么挑”、“PPI指数是什么意思”、“高中怎样才能高效学习”,快手搜索智能问答产品可以生成相关的文字回复,未来也会提供短视频结果展示,加深用户对答案的理解。该功能在原有搜索结果基础上提供了更加直接有效的信息补充,大幅提升用户搜索体验。
在传统的搜索场景中,用户需要对输入的关键词进行提炼和加工,以使得搜索引擎更好的理解自己的问题,并且在找的更多和找的更准之间进行权衡。对大多数用户来说,这个过程具备一定的操作成本。而基于大语言模型的快手搜索智能问答产品可以很好的理解用户通过自然语言表达的各种需求和提问,大大降低了用户获取信息的门槛,让用户“搜得容易”。
快手搜索智能问答产品利用大语言模型对于超长文本的理解和分析,可以帮助用户在海量内容中迅速锚定所需答案,更可以根据用户搜索需求直接定位到短视频内容的关键信息所在,提升获取效率。同时,针对大语言模型常见的AI幻觉问题,快手搜索利用站内海量内容进行矫正,尤其在事实性问题上,通过内容校验,可以更好地帮助用户完成高难度的内容辨别。
简言之,此次智能问答产品内测,也可看成是快手在推动AI技术普惠层面的有力探索。对比传统搜索场景,通过大语言模型技术能力在搜索场景的应用落地,智能问答产品不仅可以让用户“搜得容易”,还能“搜得满意”,切实享受到技术普惠带来的搜索的智能化体验。
据悉,快手还将基于搜索产品,不断探索更多利用大语言模型满足用户需求、提升搜索体验的可能性,在持续降低用户检索和使用门槛的同时,该能力未来还有望接入图文、直播及电商购物等多个场景,持续促进短视频+直播行业搜索智能化和技术应用普惠化。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。