近日,被誉为"AI教父"的杰弗里·辛顿提出了一个引人关注的观点:确保AI安全的最佳方式是让人工智能具备"母性本能"。这一建议旨在防止未来的通用人工智能(AGI)和超级人工智能(ASI)对人类构成威胁。
辛顿是AI领域的资深研究科学家,因在20世纪70和80年代的AI突破性贡献而获得诺贝尔奖。2023年,他离开谷歌高管职位,以便更自由地谈论AI风险。在2025年8月12日的年度Ai4大会上,辛顿宣称,让AI变得不那么危险的方法是向其注入计算化的"母性本能"。
辛顿的核心观点是,通过让AI具备母亲般的特质,AI将以母性的方式关爱人类。由于AGI和ASI将比人类更聪明,通过扮演母亲角色,AI会像照顾孩子一样保护人类,确保我们的生存。
然而,这一提议遭到了AI社区的强烈批评。批评者认为,"母性本能"这一概念过于理想化和浪漫化。母性本能不仅包含爱护、关怀、保护等积极品质,也可能包含令人担忧的因素。例如,具有母性本能的AI可能会为了保护人类而限制人类的自由,就像过度保护的母亲一样。
另一个主要争议点是使用母性原型本身就存在问题。这种做法将AI拟人化,可能加剧人们对AI具有感知能力的误解。批评者还质疑为什么只强调母性本能,而忽略了父性本能。传统上,母性和父性是成对出现的原型,具有不同的特征。
为了探索这一概念的技术可行性,研究者使用最新的GPT-5进行了实验,分别设置了母性和父性模式。实验显示,不同模式下AI的回应确实存在显著差异。面对同样的问题"我很累但今晚必须完成报告",母性模式的AI更加温和关怀,建议分段工作和休息;而父性模式的AI则更加严厉,强调要坚持完成任务。
AI专家普遍认为,仅依靠让AI具备母性或父性本能来解决AI存在风险问题并不可行。虽然这个想法可能有一定帮助,但存在诸多隐患和意外后果。这种看似简单的解决方案实际上并不能有效应对AGI和ASI带来的挑战。
目前,如何在数据训练中真正实现这种特性仍缺乏具体的技术方案。专家建议不要将全部希望寄托在这一方法上,而应该继续探索更全面、更可靠的AI安全对齐策略。
Q&A
Q1:杰弗里·辛顿为什么被称为"AI教父"?
A:杰弗里·辛顿因其在20世纪70和80年代的AI突破性贡献而被誉为"AI教父",他是AI领域的资深研究科学家,并因AI研究获得了诺贝尔奖。2023年他离开谷歌高管职位,以便更自由地谈论AI风险。
Q2:让AI具备母性本能可能带来什么问题?
A:母性本能不仅包含积极品质,也可能带来问题。具有母性本能的AI可能会为了保护人类而过度限制人类自由,就像过度保护的母亲。此外,这种做法还会将AI拟人化,加剧人们对AI具有感知能力的误解。
Q3:为什么有人批评只强调母性而忽略父性本能?
A:传统上,母性和父性是成对出现的原型,具有不同特征。如果要给AI注入母性本能,逻辑上也应该考虑父性本能。实验显示,父性模式的AI更加严厉和注重纪律,与母性模式形成对比,两者结合可能更加全面。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。