随着特斯拉计划本周在德克萨斯州奥斯汀推出配备安全驾驶员的试点无人驾驶出租车服务(特斯拉员工坐在副驾驶座位上进行监督和干预),现在是回顾安全驾驶员历史以及其他用于帮助自动驾驶汽车解决"长尾"问题的技术的好时机。
制造一辆能够完美安全地处理每种可能道路情况的汽车是一个科幻目标——没有人知道如何实现这一点。因此,所有无人驾驶汽车都以某种方式依赖人类,从清洁和充电等简单任务到在做出不安全行为时进行干预。
移除安全驾驶员是将车辆从测试原型变为真正无人驾驶出租车的"重大步骤"。虽然还有许多其他步骤,但与车辆首次在没有人类监督和控制的情况下上路相比,这些都是小步骤。
最早的无人驾驶汽车相当原始且经常失效,被设置为人类驾驶员可以坐在驾驶员座位上随时抓住方向盘或踩踏板。这会立即断开自动驾驶系统,汽车变为手动驾驶。许多汽车还配备"大红按钮",这是一个紧急停止按钮,在抓住控制装置失败时使用。
除了DARPA大挑战等封闭赛道外,从第一天开始,所有无人驾驶汽车测试都是这样工作的。所有团队都希望有一天能够移除安全驾驶员,因为这是整个目标。它通常工作得很好。有了行为恰当的安全驾驶员,测试无人驾驶汽车具有很好的安全记录。
在早期,汽车通常配备两名工作人员,一名在方向盘后面,另一名有时被称为软件操作员,监控驾驶软件以确保其正确运行。安全驾驶员可以随时接管方向盘,并被告知如果感觉到任何异常情况时要这样做。
特斯拉在发布Autopilot和FSD时将事情提升到了新的水平。这些系统让普通未经培训的客户充当车辆的监督员。当特斯拉这样做时,人们非常怀疑依赖普通客户是否不安全,但实际上,它成功了。
除了驾驶员座位,一些车辆将安全操作员放在其他位置,如副驾驶座位。在没有控制装置的车辆中(如某些班车),员工可能只能访问紧急停止按钮,该按钮命令车辆停止并靠边停车。
令人惊讶的是,今天道路上有远程驾驶的汽车。德国公司Vay使用这种技术在拉斯维加斯为客户送车。其他几家公司也为远程驾驶构建了不同的工具。
远程驾驶通过公共数据网络完成,当然面临中断、丢包和有时长延迟。因此,它通常配备能够在没有远程输入的情况下执行安全基本操作的系统,在最坏情况下,如果通信变得太糟糕,它只会停下来。
远程监督实际上是将安全驾驶员变为远程的。汽车主要自动驾驶,但远程监督员始终在观看(通常使用一组屏幕或可能是VR头戴设备),如果他们看到需要接管的情况,会虚拟地"抓住方向盘"。
大多数公司都有连接到汽车并观察其行为的能力,即使在完全自主模式下也是如此。虽然公司拒绝对此发表评论,但当他们首次敢于在没有安全驾驶员的情况下派出汽车时,所有公司可能都这样做了。
所有公司都倾向于拥有远程辅助操作室。在那里,操作员可以帮助车辆在遇到困惑时解决问题。他们通常不能直接驾驶车辆,只能给出战略建议,如"掉头并采用这条新路线"或"在第二个路口左转",最常见的是"继续你当前的计划,没问题"。
为了使远程辅助规模化,你需要道路上的车辆数量比远程辅助操作员多得多,这样每辆车平均只需要在很小一部分时间内进行主动辅助。
当其他一切都失败时,大多数团队可以派遣人类开车营救车辆,通过手动驾驶或在最坏情况下拖车。对于没有控制装置的汽车,这些团队将配备插入式视频游戏风格控制器。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。