在谈到人工智能时,这里有一个较为哲学性的问题 - 我们该如何看待这些技术对我们世界的影响?我们应该如何理解大语言模型及其能力的发现,以及它们不仅对商业,还对我们生活的社会会产生什么影响?
一个相关的问题是我们如何将其应用于商业和发展,以及我们如何看待这些技术在到达消费者之前的实际开发和完善过程。
最近在听取 Alvin Graylin 的观点时,我思考了他提出的一些有助于理解的类比和框架,这些对于我们考虑未来如何与强大的数字智能共存很有启发意义。
三种 AI 方法 - 以及第四种
首先,Graylin 列举了人们对待新技术的三种不同方法。
第一种是放慢脚步,尽可能以蜗牛般的速度前进。这种观点最强调对 AI 项目和部署的严格监管 - 主张普遍谨慎,认为我们不能让这些事情失控。
然而还有另一种思维流派,可以称之为"加速派"。他们认为尽可能快速发展符合我们的最佳利益,可以以最快的速度改善世界。
第三种观点是选择性加速派。
"我们正在走向一个丰富的世界,我们明白这就是未来,"他说。"我们将改变我们的思维方式。"
但 Graylin 还有自己的构想,这很独特。他让我们设想所有人都站在一座桥上,无论是否有安全绳,都在思考如何留在桥上而不是坠入深渊。
"我们已经有 80 亿人口,每个人都紧密相连,"他说。"所以如果我们失败,就是集体的失败。这是这三个概念都没有包含的观点。"
我认为,当我们试图弄清楚如何实施快速发展的人工智能能力时,这一点很值得思考。
重大议题
Graylin 提到的这一点也给我留下深刻印象:最大的影响之一将是就业替代。他指出,不仅仅是就业替代本身,还有随之而来的心理健康问题。
这在美国尤其明显,因为在那里人们的工作与其身份、日常生活甚至医疗保健都紧密相连。对大多数人来说,工作就是我们的身份标识 - 它塑造着我们的自我认知。因此,如果我们的工作被 AI 取代,这将带来相当大的焦虑和不适,甚至可能导致各种令人不安的存在主义绝望。
他还提到了 AI 可能带来的错误信息传播和混乱。
此外,Graylin 指出,围绕 AI 技术发展存在地缘政治竞争。我们听到有人将 DeepSeek 的发布称为美国的"卫星时刻",因为美国官员试图加强出口管制并在这方面遏制中国。毫无疑问,美国和中国在 AI 发展的某些方面存在竞争。
不过,Graylin 也谈到了 AI 走向成熟的前景。他认为,最初会出现某些问题,但随着技术的成熟,这些问题最终会消退。考虑到 AI 的力量似乎在呈指数级增长,这给了我们希望。
所有这些都影响着我们在各类活动和会议中、在课堂上和商业世界中的行为。我们必须同时应对 AI 带来的积极和消极影响,并在问题恶化之前找到解决方案。我们必须自信地向前迈进,同时坚持我们的人性,确保在机器人几乎可以做任何事情的世界中,人性仍然受到重视。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。