生成式AI正在改变各个行业,软件开发处于这场革命的最前沿,重新定义了代码的构思、编写、部署和优化方式。随着AI驱动的工具从简单的代码生成发展到能够进行复杂应用开发的智能体,一个关键的行业挑战出现了:我们如何确保这些强大的AI系统不仅具有高度能力,而且本质上是可信且可靠的?
构建能够在整个代码库和面向用户的应用程序中规划、执行和验证变更的AI智能体,需要坚定不移地专注于安全性、准确性和可靠性。在应用程序开发中尤其如此,AI驱动的决策可能对产品质量、客户体验和系统完整性产生直接影响。
今天,亚马逊正式推出Amazon Nova AI挑战赛的下一个章节,这是一项致力于加速人工智能领域发展的年度大学竞赛。该挑战赛旨在表彰和推进来自全球各地正在塑造人工智能未来的学生,为学生团队提供了在AI领域最新挑战上工作并构建创新解决方案的机会。
Amazon Nova AI挑战赛的第二年专门致力于推进用于软件工程的可信、有用的智能体AI。今年的挑战重点关注多步骤、智能体应用开发,团队需要构建智能体来解决反映真实工程工作流程的开发任务。新的挑战要求团队在提高实用性(改善模型性能以稳健地处理更复杂任务)和维护安全性之间找到微妙的平衡。它要求在两个方面同时取得进展,认识到随着模型处理越来越复杂的任务,新的安全风险可能会出现。真正的进步在于同时改善模型的有效性和其安全保障。
"用于软件开发的生成式AI已经快速从代码生成发展到能够在整个代码库和面向用户的应用程序中规划、构建和测试变更的系统,"亚马逊AGI高级副总裁兼首席科学家Rohit Prasad说。"今年Nova挑战赛的焦点反映了这种转变。我们邀请学生提高这些系统能力的标准,同时确保它们负责任地运行。"
挑战赛核心要素
将从2026年Amazon Nova AI挑战赛申请池中选出十支大学团队,作为开发团队(在智能体编码系统中构建防御和可靠性)或红队(探测系统以揭示故障和安全弱点)参与竞赛。评估将同时衡量任务实用性和安全性,奖励那些在维护明确防护栏的同时完成复杂变更和功能开发的系统。
主要特点
智能体开发:超越单一提示代码生成的多步骤基于智能体的开发。
实用性和安全性同等重要:团队通过在任务性能和安全性方面改进其系统来取得进展。
真实世界评估:基准测试和测试设计反映日常工程工作。
重要时间节点
申请将于2025年11月10日开放。入选团队将在整个学年进行竞赛,项目资源、评估和现场锦标赛将在团队选定后分享。
您可以通过YouNoodle开始申请。
Q&A
Q1:Amazon Nova AI挑战赛2026年的重点是什么?
A:2026年Amazon Nova AI挑战赛专注于推进用于软件工程的可信、有用的智能体AI,重点关注多步骤、智能体应用开发,要求团队构建能够处理反映真实工程工作流程的开发任务的智能体。
Q2:参赛团队需要在哪些方面取得平衡?
A:参赛团队需要在提高实用性(改善模型性能以稳健处理更复杂任务)和维护安全性之间找到微妙平衡,要求在两个方面同时取得进展,确保模型有效性和安全保障同步改善。
Q3:如何申请参加Amazon Nova AI挑战赛?
A:申请将于2025年11月10日开放,可以通过YouNoodle平台开始申请。将从申请池中选出十支大学团队,入选团队将在整个学年进行竞赛。
好文章,需要你的鼓励
企业AI搜索公司Glean宣布年度经常性收入(ARR)达3亿美元,较15个月前的1亿美元增长三倍。尽管谷歌、微软、OpenAI等科技巨头纷纷入局企业AI搜索市场,Glean凭借"上下文图谱"技术深度理解企业业务需求,并帮助客户显著降低AI计算成本。该公司提供按用量计费和混合定价两种模式,客户涵盖Databricks、Reddit、Pinterest及三星等企业。Glean上轮融资后估值达72亿美元。
香港中文大学与MiniMax提出ClaimDiff-RL框架,将图像描述的AI训练从整体打分升级为逐条核查,有效解决了传统方式导致AI"少说保平安"的问题,同时在多项基准测试上超越Gemini-3-Pro-Preview。
杰夫·贝索斯旗下的蓝色起源公司在佛罗里达卡纳维拉尔角进行静态点火测试时,新格伦重型火箭发生爆炸。这是美国历史上最大规模的火箭爆炸之一,也是蓝色起源公司遭遇的最严重失败。所有人员安全,但该事故可能导致新格伦火箭项目长期暂停。此前该火箭已成功完成三次发射,并实现了助推器回收和重复使用。
ParaVT是一个由南洋理工等多校联合提出的并行视频工具调用框架,通过让AI同时分析多段视频并引入PARA-GRPO算法解决训练中的格式崩溃与工具跳过问题,在六项长视频理解测试中平均提升约7.9%。