2月2-9日,AAAI 2021于线上隆重召开。AAAI(美国人工智能协会)作为人工智能领域的主要学术组织之一,其主办的年会被列为国际人工智能领域的 A 类顶级会议。深兰科技DeepBlueAI团队首次参加AAAI挑战赛,便在NLP(自然语言处理)领域的“首字母缩写词消歧”赛道中与阿里巴巴等知名机构同台竞技,并获得冠军。而深兰科技自研的智能数据标注平台、自动化机器学习平台和AI开放平台中,都已对NLP的进行了有效应用。
NLP是人工智能中最困难的问题之一。“首字母缩写词消歧”是词义消歧的一种,用于确定多义词在给定上下文语境中的意义,也是NLP领域中重要的研究课题。它在许多英文文献和文档中,特别是在科学和医疗领域十分常见,且在诸多领域都具有实际应用价值。
首字母缩写词可用于信息检索,能实现在搜索文档时,查询结果中不仅包含缩写词内容,同时也包含缩写词对应扩展全称的内容,反之亦然;可用于机器翻译,当文本从一种语言翻译至另一种语言时,如果源文本包含首字母缩写词,那么其对应含义也能够被正确翻译;也可应用于阅读理解,当理解缩写词的正确扩展全称时,能够使上下文的语义理解更为准确;还可应用于文本摘要,通过使用正确的缩写词实现更精简的摘要。
DeepBlueAI团队在竞赛中,根据预训练模型BERT,融合了多种训练策略,提出一种基于二分类思想的模型,有效解决了首字母缩写词消歧的问题。团队选用SCIBERT作为基础预训练模型,然后利用任务自适应预训练方式得到新的预训练模型,在此模型上再利用动态负采样技术和对抗训练的方式得到二分类模型。随后,利用该分类模型对未标注的数据集进行伪标签判断,得到新的可以加入训练的数据,再以此为新的训练集重复上述训练过程,得到最终的二分类模型。
语言是人类智慧的结晶,而NLP正是人工智能工具与人类进行交流的重要桥梁,深兰科技自成立以来始终厚植科研沃土,已在CVPR、ICCV、ECCV、NeurIPS、KDD等多个人工智能国际顶会上拔得头筹。今后,将继续秉持“人工智能,服务民生”的理念,矢志不渝地从事人工智能核心技术的基础研究,为人工智能应用落地持续注入强劲能量。
好文章,需要你的鼓励
自从亚马逊云科技去年推出这一服务以来,Amazon Bedrock已经彻底改变了生成式AI领域,引领着技术前沿。最近,亚马逊云科技的官方博客发布了8篇关于Amazon Bedrock的相关文章,阐述了最新的更新内容。
关注IT支出的朋友可能发现一个悖论:用于支持生成式AI的基础设施开销正在迅速提升,英伟达收入与利润两路狂飙的现实已经清楚证明了这一点。然而数据中心硬件层面的总支出并没有发生太大变化,且目前来看支出的主要增长点将集中在服务领域,其更多是为了减轻其他类型的工作、而非指望生成式AI独力支撑起销售预期。
一种基于人工智能(AI)的新策略正显著加快为帕金森病发现潜在新药的速度。这项发表在《自然化学生物学》杂志上的研究,可能意味着帕金森病新疗法将更快进入临床阶段并与患者见面。