让我们成为人类的部分特质在于我们独特的思考和解决问题的方式。但据一群科学家和心理学家共同撰写的新观点论文显示,使用像ChatGPT这样的大语言模型可能正在侵蚀这种独特性,导致人类以相同的方式思考和交流。
南加州大学计算机科学家、该论文第一作者Zhivar Sourati在一份声明中说:"个体在写作、推理和看待世界的方式上存在差异。"
Sourati继续说道:"当这些差异被同样的大语言模型调节时,他们独特的语言风格、观点和推理策略就会被同质化,在用户中产生标准化的表达和思想。"
这篇周三发表在《认知科学趋势》期刊上的论文,研究了全球数亿人使用同样几款聊天机器人的现象,以及这对我们个性意味着什么。
框架内思考
皮尤研究中心发现,去年有三分之一的美国人使用了ChatGPT,是2023年数字的两倍。聊天机器人在青少年中的使用更为普遍:三分之二的青少年表示他们使用聊天机器人,近三分之一的人每天都在使用。
企业也在全力投入人工智能。斯坦福大学发现,78%的组织报告在2024年使用AI,高于2023年的55%。
所以我们大量使用AI。但危险在于我们可能会失去思维方式的多样性。研究团队指出,大语言模型生成的写作变化性比人们自己想出的要少。
根据论文作者的观点,大语言模型可能推动同质化思维的部分原因是用于训练它们的数据。
Sourati说:"因为大语言模型被训练来捕获和再现其训练数据中的统计规律,这些数据往往过度代表了主导语言和意识形态,所以它们的输出经常反映人类经验中狭窄且倾斜的片段。"
为什么多元化思维很重要
作者们警告这种趋势是有充分理由的。同质化思维减少了多元主义,这本质上是多种观点对整个社会有益的理念。
作者在论文中写道:"这种多元主义的价值根植于长期坚持的原则,即良好的判断需要接触多样化的思想。如果不加以控制,这种同质化可能会削平驱动集体智慧和适应性的认知景观。"
所以我们使用不同的思维方式来为一个问题找出更多解决方案。如果我们失去了以不同方式思考和交流的能力,这可能会影响我们适应新情况的方式。
Sourati说:"担心的不仅仅是大语言模型塑造了人们的写作或说话方式,而是它们巧妙地重新定义了什么算作可信的言论、正确的观点,甚至是良好的推理。"
作者们还表示,这种趋势甚至会影响那些不使用聊天机器人的人。
Sourati说:"如果我周围的很多人都在以某种方式思考和说话,而我做的不同,我会感到与他们保持一致的压力,因为这似乎是表达我想法的更可信或社会可接受的方式。"
Q&A
Q1:大语言模型如何影响人类思维的多样性?
A:大语言模型会调节个体之间的差异,使独特的语言风格、观点和推理策略变得同质化,在用户中产生标准化的表达和思想。大语言模型生成的写作变化性比人们自己想出的要少,这可能导致思维方式的多样性丧失。
Q2:为什么思维同质化会成为问题?
A:同质化思维减少了多元主义,而多元主义认为多种观点对整个社会有益。良好的判断需要接触多样化的思想,如果思维同质化,可能会削平驱动集体智慧和适应性的认知景观,影响我们适应新情况和解决问题的能力。
Q3:不使用聊天机器人的人也会受到影响吗?
A:是的,即使不使用聊天机器人的人也会受到影响。当周围很多人都以某种方式思考和说话时,个体会感到与他们保持一致的社会压力,因为这似乎是更可信或社会可接受的表达方式,从而间接受到思维同质化的影响。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。