2月2-9日,AAAI 2021于线上隆重召开。AAAI(美国人工智能协会)作为人工智能领域的主要学术组织之一,其主办的年会被列为国际人工智能领域的 A 类顶级会议。深兰科技DeepBlueAI团队首次参加AAAI挑战赛,便在NLP(自然语言处理)领域的“首字母缩写词消歧”赛道中与阿里巴巴等知名机构同台竞技,并获得冠军。而深兰科技自研的智能数据标注平台、自动化机器学习平台和AI开放平台中,都已对NLP的进行了有效应用。
NLP是人工智能中最困难的问题之一。“首字母缩写词消歧”是词义消歧的一种,用于确定多义词在给定上下文语境中的意义,也是NLP领域中重要的研究课题。它在许多英文文献和文档中,特别是在科学和医疗领域十分常见,且在诸多领域都具有实际应用价值。
首字母缩写词可用于信息检索,能实现在搜索文档时,查询结果中不仅包含缩写词内容,同时也包含缩写词对应扩展全称的内容,反之亦然;可用于机器翻译,当文本从一种语言翻译至另一种语言时,如果源文本包含首字母缩写词,那么其对应含义也能够被正确翻译;也可应用于阅读理解,当理解缩写词的正确扩展全称时,能够使上下文的语义理解更为准确;还可应用于文本摘要,通过使用正确的缩写词实现更精简的摘要。
DeepBlueAI团队在竞赛中,根据预训练模型BERT,融合了多种训练策略,提出一种基于二分类思想的模型,有效解决了首字母缩写词消歧的问题。团队选用SCIBERT作为基础预训练模型,然后利用任务自适应预训练方式得到新的预训练模型,在此模型上再利用动态负采样技术和对抗训练的方式得到二分类模型。随后,利用该分类模型对未标注的数据集进行伪标签判断,得到新的可以加入训练的数据,再以此为新的训练集重复上述训练过程,得到最终的二分类模型。
语言是人类智慧的结晶,而NLP正是人工智能工具与人类进行交流的重要桥梁,深兰科技自成立以来始终厚植科研沃土,已在CVPR、ICCV、ECCV、NeurIPS、KDD等多个人工智能国际顶会上拔得头筹。今后,将继续秉持“人工智能,服务民生”的理念,矢志不渝地从事人工智能核心技术的基础研究,为人工智能应用落地持续注入强劲能量。
好文章,需要你的鼓励
清华大学团队突破性开发"零样本量化"技术,让AI模型在不接触真实数据的情况下完成高效压缩,性能反超传统方法1.7%,为隐私保护时代的AI部署开辟新路径。
普林斯顿大学研究团队开发出"LLM经济学家"框架,首次让AI学会为虚拟社会制定税收政策。系统包含基于真实人口数据的工人AI和规划者AI两层,通过自然语言交互找到最优经济政策,甚至能模拟民主投票。实验显示AI制定的税收方案接近理论最优解,为AI参与社会治理提供了新路径。
K Prize是由Databricks和Perplexity联合创始人推出的AI编程挑战赛,首轮比赛结果显示,获胜者巴西工程师Eduardo Rocha de Andrade仅答对7.5%的题目就获得5万美元奖金。该测试基于GitHub真实问题,采用定时提交系统防止针对性训练,与SWE-Bench 75%的最高得分形成鲜明对比。创始人承诺向首个在该测试中得分超过90%的开源模型提供100万美元奖励。
南开大学研究团队提出了一种新的3D高斯泼溅重光照方法,通过在高斯原语上直接编码离散化SDF值,避免了传统方法需要额外SDF网络的问题。该方法设计了投影一致性损失来约束离散SDF样本,并采用球形初始化避免局部最优。实验表明,新方法在保持高质量重光照效果的同时,仅需现有方法20%的显存,显著提升了训练和渲染效率。