ChatGPT不是万能的：11个不应该依赖AI的重要领域

随着ChatGPT和Sora等AI工具以令人眼花缭乱的速度改变着我们的世界，人们很容易开始将它们视为解决生活中每个问题的全知先知。

但问题在于：ChatGPT是一个自信地编造内容的大师。它擅长"令人信服地犯错"，提供有偏见、过时或完全错误的答案，同时听起来像博士一样权威。

如果你只是让它写一首关于你的猫的诗，这无害。但如果你向它寻求关于金钱、健康或严重法律问题的建议，那就是灾难。在这些领域的错误答案可能会产生严重的现实后果。在你犯下重大错误之前，你需要知道这个AI在哪些方面表现糟糕。以下是11个你应该避免向ChatGPT寻求建议的领域。

诊断身体健康问题

我确实曾出于好奇向ChatGPT输入我的症状，但返回的答案可能读起来像你最糟糕的噩梦。当你仔细研究可能的诊断时，你可能会从脱水和流感摆动到某种类型的癌症。我胸口有一个肿块，将这个信息输入ChatGPT。果不其然，它告诉我可能患有癌症。实际上，我患有脂肪瘤，这不是癌性的，每1000人中有一个人会患此病。这是我的执业医生告诉我的。

我并不是说ChatGPT在健康方面没有好的用途：它可以帮助你为下次预约起草问题、翻译医学术语并整理症状时间线，这样你可以更好地准备。这可以让医生就诊不那么令人不知所措。然而，AI不能开实验室检查或检查你，它绝对没有医疗事故保险。要了解它的局限性。

照顾心理健康

ChatGPT确实可以提供稳定技巧，但当你在心理健康方面遇到真正的麻烦时，它不能拿起电话。我知道一些人将ChatGPT用作替代治疗师。CNET的Corin Cesaric发现它在处理悲伤方面有轻微帮助，只要她始终牢记其局限性。但作为一个有真实人类治疗师的人，我可以告诉你，ChatGPT最多只是一个苍白的模仿，最坏情况下是极其危险的。

ChatGPT没有生活经验，不能读懂你的身体语言或语调，完全没有真正同情的能力。它只能模拟。执业治疗师在法律授权和专业准则下运作，保护你免受伤害。ChatGPT没有。它的建议可能失误、忽略危险信号或无意中强化其训练数据中的偏见。把更深层的工作——艰难、混乱的人类工作——留给真正受过专业训练处理它的人类。如果你或你爱的人处于危机中，请在美国拨打988或你当地的热线。

做出紧急安全决定

如果你的一氧化碳报警器开始鸣叫，请不要打开ChatGPT询问你是否真的处于危险中。我会先出去，后问问题。大语言模型无法闻到气体、检测烟雾或派遣紧急救援队。在危机中，你花在打字上的每一秒都是你没有撤离或拨打911的一秒。ChatGPT只能处理你提供给它的信息碎片，在紧急情况下，这可能太少太晚。因此，将你的聊天机器人视为事后解释者，绝不是第一响应者。

获得个性化财务或税务规划

ChatGPT可以解释什么是ETF，但它不知道你的债务收入比、州税等级、申报状态、扣除、退休目标或风险偏好。由于其训练数据可能不包括当前税年和最新的利率上调，当你按下回车键时，其指导很可能是过时的。

我有朋友将他们的1099总额输入ChatGPT进行DIY申报。聊天机器人根本无法取代能够发现价值几百美元的隐藏扣除或标记可能花费你数千美元错误的注册会计师。当涉及真钱、申报截止日期和IRS处罚时，请致电专业人士，而不是AI。另外，要意识到你与AI聊天机器人分享的任何内容都可能成为其训练数据的一部分，包括你的收入、社会保障号码和银行路由信息。

处理机密或受监管数据

作为一名科技记者，我每天都会在收件箱中看到禁令，但我从来没想过将任何这些新闻稿投入ChatGPT来获得摘要或进一步解释。这是因为如果我这样做，该文本将离开我的控制并落在保密协议护栏之外的第三方服务器上。

同样的风险适用于客户合同、医疗图表或受《加州消费者隐私法》、HIPAA、GDPR或普通商业机密法保护的任何内容。这适用于你的所得税、出生证明、驾照和护照。一旦敏感信息进入提示窗口，你无法保证它存储在哪里、谁可以在内部审查它或是否可能用于训练未来模型。ChatGPT也不能免受黑客和安全威胁。如果你不会将其粘贴到公共Slack频道中，就不要将其粘贴到ChatGPT中。

做任何非法的事情

这一点是不言自明的。

在学校作业中作弊

如果我说我从未在考试中作弊，那我就是在撒谎。在高中时，我使用第一代iPod Touch偷偷查看AP微积分中我难以记住的一些复杂方程式，这是我并不特别引以为豪的事情。但是有了AI，现代作弊的规模使那看起来相当温和。

Turnitin和类似的检测器每学期都在更好地发现AI生成的散文，教授已经可以从一英里外听到"ChatGPT声音"（谢谢你毁了我心爱的长破折号）。停学、开除和吊销执照是真实的风险。最好将ChatGPT用作学习伙伴，而不是代笔人。如果你让ChatGPT为你做工作，你也只是在欺骗自己失去教育机会。

监控信息和突发新闻

自从OpenAI在2024年末推出ChatGPT搜索（并在2025年2月向所有人开放）以来，聊天机器人可以在你询问的那一刻获取新鲜网页、股票报价、汽油价格、体育比分和其他实时数据，完整的可点击引用使你可以验证来源。然而，它不会自行流式传输持续更新。每次刷新都需要新的提示，因此当速度至关重要时，实时数据源、官方新闻稿、新闻网站、推送警报和流媒体报道仍然是你最好的选择。

赌博

我实际上在NCAA男子篮球锦标赛期间通过ChatGPT幸运地击中了三路过关，但我绝不会向任何人推荐它。我见过ChatGPT出现幻觉并提供关于球员统计数据、误报伤病和输赢记录的错误信息。我只是兑现了，因为我根据实时赔率仔细检查了每个声明，即便如此我还是很幸运。ChatGPT看不到明天的比分表，所以不要仅仅依靠它来让你获胜。

起草遗嘱或其他法律约束力合同

ChatGPT非常擅长分解基本概念。如果你想了解更多关于可撤销生前信托的信息，尽管问。然而，当你要求它起草实际法律文本时，你就是在赌博。房产和家庭法规则因州而异，有时甚至因县而异，因此跳过证人签名或省略公证条款可能会让你的整个文件被拒绝。相反，让ChatGPT帮助你为律师建立问题清单，然后付费让律师将该清单转化为在法庭上站得住脚的文件。

制作艺术

这不是客观事实，只是我自己的观点，但我不相信AI应该用来创作艺术。我绝不是反人工智能。我使用ChatGPT进行头脑风暴新想法和帮助我的标题，但这是补充，不是替代。尽管使用ChatGPT，但请不要用它来制作艺术，然后将其作为你自己的作品。这有点令人恶心。

Q&A

Q1：为什么不能用ChatGPT诊断健康问题？

A：ChatGPT在健康诊断方面极不可靠，它可能将简单症状误诊为严重疾病，比如将普通肿块诊断为癌症。AI无法进行体检、开实验室检查，也没有医疗事故保险。它只能基于有限信息提供可能过于悲观或错误的诊断。真正的医疗诊断需要执业医生的专业判断。

Q2：在紧急情况下为什么不能依赖ChatGPT？

A：在紧急情况下，大语言模型无法感知真实环境，不能闻到气体、检测烟雾或派遣救援队。每秒钟都很关键，花时间向AI询问可能延误逃生或报警的最佳时机。ChatGPT只能基于你提供的有限信息工作，在紧急情况下信息往往不足且为时已晚。

Q3：为什么不能向ChatGPT透露机密信息？

A：任何输入ChatGPT的信息都可能离开你的控制，存储在第三方服务器上，甚至可能被用于训练未来模型。这包括收入、社会保障号码、银行信息等敏感数据。ChatGPT也不能免受黑客攻击，且不受保密协议、HIPAA或GDPR等法规保护。如果你不会在公共平台分享某信息，就不应该告诉ChatGPT。