我是十多年前特斯拉Autopilot正式发布前首批试驾的记者之一,此后测试过每一个版本的Autopilot和"完全自动驾驶"(FSD)系统。FSD v14无疑是迄今最令人印象深刻的版本——但这恰恰也是它最危险的地方。
危险并不在于FSD v14表现不佳,而在于它已经好到足以让你开始放松警惕,而特斯拉却没有采取足够措施来遏制这种自满情绪。事实上,我认为该公司的营销方式正在主动助长这种自满。
过去十年里,我无数次在危险情况下对Autopilot和FSD进行人工干预,亲眼目睹这套系统从一个需要频繁介入的基础车道保持辅助功能,逐渐演变为能够真正驾驭复杂城市路况的驾驶辅助系统。在整个过程中,我始终在坚持同一个立场:FSD是L2级驾驶辅助系统,驾驶员在任何时候都负有完全责任。
我一直铭记这一点,也一直保持专注。
然而,过去几周每天使用FSD v14的经历让我产生了些许变化。这套系统已经达到了令人叹服的水准,我现在经常能够行驶数百英里而无需任何干预。当这种情况一再发生,要保持不懈的警觉就变得越来越难。
就连我这个在这一话题上呼吁谨慎超过十年的人,也发现自己开始变得有些自满,而这让我感到不安。
这正是研究人员自20世纪80年代起就已警示的"自动化反讽"问题:一个不可靠的系统因为频繁出错而让你始终保持警惕;而一个近乎完美的系统则让你逐渐失去监督的动力——驾驶员的信任程度恰好足以让他们停止专注,但系统仍会以无法预测且有时极为严重的方式发生故障。
目前已有数据显示,FSD v14每行驶数千英里才需要一次关键干预,这听起来固然令人印象深刻,但请想想这对驾驶员的警觉性意味着什么。
如果你行驶了2000英里都不需要干预,那大约意味着30到40小时的驾驶时间都是由系统全权处理的。人类的心理结构根本无法支撑在这段时间内持续保持警觉。心理学家将这一现象称为"警觉性递减"——监控一个近乎完美的系统极为枯燥,枯燥会导致注意力涣散,而研究表明,在自动驾驶系统将控制权交还之后,驾驶员需要5到8秒才能重新集中注意力。
当真正需要人工干预的时刻到来——突然出现障碍物、混乱的路口、FSD无法识别的施工区域——如果你在那几秒钟内没有集中注意力,后果可能极为严重。即便FSD v14比前一版本性能提升了三倍,在错误时机出现的一瞬间疏忽,也可能酿成致命事故。
这一点在前Uber自动驾驶部门负责人拉菲·克里科里安的事故中得到了戏剧性的印证。这位亲手构建过自动驾驶系统的专业人士,同样被FSD近乎完美的表现所麻痹,产生了虚假的安全感。当系统在一个弯道中突然失去方向感时,他来不及做出反应,车辆当场报废。
如果连前Uber自动驾驶部门负责人都无法幸免于自动化带来的自满情绪,那么任何人都可能中招。
美国公路安全保险协会(IIHS)已警告汽车制造商需要从根本上重新设计L2系统,以防范此类问题。美国国家公路交通安全管理局(NHTSA)也扩大了对L2级高级驾驶辅助系统的事故报告要求。路透社近期更披露,特斯拉自身的AI训练人员并不信任这套系统——九名前数据标注员中有七人表示,他们不会信任FSD来驾驶自己。
我强烈认为特斯拉并没有采取足够措施来应对这一自满问题,事实上,该公司正在主动使其恶化。
特斯拉官方账号在X平台上持续发起宣传攻势,将FSD塑造成一个替你驾驶的系统,而非一个需要你监督的系统。特斯拉和埃隆·马斯克的发文包括:声称FSD"能还给你自由"和"让驾驶不再有压力",称其为"你的私人司机",马斯克还表示"特斯拉自动驾驶能大幅提升你在车内数千小时的生活质量和安全性"。
这些内容都在向驾驶员传递同一个信息:放松,车子会搞定一切。而这恰恰与操作L2系统时应有的态度背道而驰。
更让人担忧的是,特斯拉还在向那些可能无法始终保持监督能力的人群推广FSD:官方账号宣传一位视力衰退的71岁老人购买Cybertruck是为了使用FSD,并回复"自由";分享一位93岁老人用FSD开车去教堂,因为她"不再因年龄带来的恐惧或疲劳而担心驾驶";还推广了一位天生无臂者称FSD"改变了他的生活"。这些内容都在传达一个信息:FSD将帮助人们在年老或无法自行驾驶时保持独立。
我相信自动驾驶技术终将对残障人士的生活产生深远影响,但顾名思义,特斯拉的"完全自动驾驶"目前并非如此。它只是一套L2级驾驶辅助系统,要求一名具备完整驾驶能力的司机随时准备接管。而特斯拉反复展示的每一位用户,恰恰都与这一要求相悖。这些推文在未来某起特斯拉FSD事故的诉讼中,很可能成为呈堂证供。
此外,马斯克在被问及FSD是否允许边开车边发短信时回答"视周围交通情况而定,可以"。发短信驾车在美国几乎所有州都属于违法行为,而特斯拉自己的用户条款仍然要求驾驶员全程监督。马斯克还发文称"到V14.3版本,你的车将会让人感觉它拥有了意识",这并非技术层面的表述,而是一种心理暗示,旨在让驾驶员将系统拟人化,从而产生过度信任。
FSD v14是一项真正令人印象深刻的技术,我每天都在使用。但在尚未实现真正自动驾驶、特斯拉也未承担相应责任之前,系统越先进,驾驶员对其能力的认知与实际能力之间的落差就越危险。
特斯拉面临两个选择:继续放松驾驶员监控、发布"零干预"里程记录、向视障人士宣传FSD带来"自由"、鼓励驾驶员发短信——同时在小字条款中写明"L2级,驾驶员随时负责";或者认真对待自满问题,强化驾驶员监控机制,停止将FSD营销为专注驾驶员的替代品,并坦诚告知用户系统的真实局限性。
目前,特斯拉正在选择前者。而这应当让所有行驶在公共道路上的人感到忧虑——无论你是否拥有一辆特斯拉。因为当一名自满的FSD驾驶员在2000英里中错过那唯一一次关键干预时,被撞上的那个人,并没有同意参与特斯拉的公开测试。
Q&A
Q1:FSD v14的"自动化反讽"问题是什么?
A:这是自20世纪80年代起研究人员就已警示的现象:一个不可靠的系统因频繁出错而让驾驶员保持警觉,而一个近乎完美的系统则会让驾驶员逐渐放松监督。FSD v14性能越强,驾驶员越容易产生过度信任,一旦系统在某一时刻出现意外失误,驾驶员因注意力涣散而无法及时接管,就可能酿成严重事故。
Q2:特斯拉的FSD v14到底是什么级别的自动驾驶系统?
A:FSD v14是L2级驾驶辅助系统,并非真正意义上的自动驾驶。这意味着驾驶员在任何时候都必须保持对车辆的监督和控制,随时准备接管。尽管该系统能力已大幅提升,可在复杂城市环境中自主导航,但它并不能完全替代驾驶员的判断与操作。
Q3:特斯拉在FSD营销上存在哪些争议?
A:特斯拉官方账号和马斯克本人的多次发言,将FSD描述为"私人司机"、能"还给你自由"的系统,并向视力衰退老人、高龄驾驶者等无法始终保持监督能力的群体推广该功能。批评者认为,这与L2系统要求驾驶员全程专注的规定相悖,可能误导用户产生过度依赖,从而引发安全风险,相关内容甚至可能成为日后诉讼的证据。
好文章,需要你的鼓励
AI公司Anthropic周一宣布已秘密向美国证券交易委员会提交IPO申请。该公司开发的Claude聊天机器人深受软件工程师和企业客户欢迎,今年发展迅猛。公司未披露目标估值,但上周四刚完成650亿美元融资,投后估值达9650亿美元,成为全球最高估值AI初创企业,超越竞争对手OpenAI。随着SpaceX、OpenAI和Anthropic今年陆续上市,AI竞赛的财务赌注不断攀升。
中科院软件所提出LiteCoder-Terminal-Gen,一套无需外部数据、完全自动合成终端训练环境的框架,用11255条专家轨迹训练出能独立操控命令行的AI模型。
Netskope近日在其One SASE平台中推出AI Command Center,为企业提供集中化的AI风险管理能力。该平台可发现、评估并应对AI应用、模型及自主代理带来的安全威胁,涵盖已授权与未授权的AI服务。依托全球120余个数据中心组成的NewEdge网络,平台能实时关联用户行为、数据与安全策略。据报告显示,目前94%的企业在信息不完整的情况下做出AI安全决策,该产品现已正式上线。
来自中国科大的研究团队构建了AsyncTool评测基准,首次系统考察AI模型在工具响应延迟情况下并发处理多任务的能力,发现几乎所有主流模型都存在明显性能退化。