ChatGPT使用禁忌：11种不宜场景
快速阅读: ChatGPT自2022年发布以来，极大改变了日常生活，从日程安排到邮件重写表现优异。但其在处理敏感问题如健康、财务和法律方面存在局限，需谨慎使用。
2022年发布的ChatGPT，自问世以来已经改变了数百万人的日常生活。从安排日程到重写邮件，它在很多方面都表现出色。然而，这个聊天机器人并不能处理你生活或业务的每一个方面。
大型语言模型如ChatGPT有时会生成错误或过时的信息，尽管听起来非常自信。如果只是为聚会主题集思广益或撰写练习邮件，这可能不是什么大问题。但在涉及金钱（尤其是税收）、健康或法律问题等敏感领域时，错误的答案可能会造成严重的问题。
因此，了解何时应避免使用ChatGPT，与了解如何充分利用它一样重要。为了帮助你避开最大的陷阱，以下是11种情况下转向AI聊天机器人可能弊大于利的具体情况。
1. 诊断身体问题
我曾出于好奇向ChatGPT输入我的症状，但得到的回答可能像噩梦一般。当你浏览潜在的诊断结果时，可能会从脱水或流感跳到某种癌症。我胸部有一个肿块，输入这些信息后，ChatGPT告诉我可能是癌症。事实上，这只是脂肪瘤，不具癌性，每1000人中就有1人患有此病。这是我的持证医生告诉我的。
我并不是说ChatGPT对健康没有好的用途：它可以帮你起草下次就诊的问题，翻译医学术语，整理症状的时间线，以便你更好地准备就诊。这可以让你的医生访问更加轻松。然而，AI无法下令进行实验室检查或对你进行检查，它也没有医疗事故保险。了解它的局限性。
2. 照顾心理健康
ChatGPT确实可以提供一些稳定情绪的方法，但它不能在你心理上遇到真正麻烦时接听电话。我知道有些人将ChatGPT用作替代治疗师。CNET的Corin Cesaric发现，只要记住其局限性，它在处理悲伤方面有些许帮助。但作为一个有真实、有人性的治疗师的人，我可以告诉你，ChatGPT充其量只是一个很浅薄的模仿，最坏的情况下极其危险。
ChatGPT没有生活经验，无法理解你的肢体语言或语气，也没有真正的同理心。它只能模拟同理心。持证治疗师在法律和职业规范下工作，以保护你不受伤害。而ChatGPT不具备这些。它的建议可能会失误，忽略警示信号或无意中强化其训练数据中的偏见。把深层次的工作——那些艰难、混乱、人性化的工作——留给真正受过训练的人来处理。如果你或你爱的人处于危机中，请拨打美国的988热线，或当地的求助热线。
3. 做出即时安全决策
如果一氧化碳报警器开始响起，请不要打开ChatGPT询问你是否真的处于危险之中。我建议先出去再说。大型语言模型无法嗅到气体、检测烟雾或派遣应急队伍。在危机中，你花在打字上的每一秒都是你没有用于撤离或拨打911的时间。ChatGPT只能根据你提供的有限信息工作，在紧急情况下，这些信息可能太少也太迟了。因此，将聊天机器人视为事后解释者，而不是第一响应者。
4. 获取个性化财务或税务规划
ChatGPT可以解释ETF是什么，但它不知道你的债务收入比、州税等级、申报状态、扣除项、退休目标或风险偏好。由于其训练数据可能截止于当前纳税年度之前，最新的利率上调等信息可能不在其数据范围内，因此在你按下回车键时，它的指导可能是陈旧的。
我有朋友将他们的1099总额输入ChatGPT来自行报税。但聊天机器人无法取代能够发现隐藏扣减项或标记可能导致数千美元损失错误的专业会计师。当涉及到真实的钱、申报截止日期和IRS罚款时，应该咨询专业人士，而不是AI。此外，要注意，你与AI聊天机器人分享的任何信息，包括你的收入、社会保障号和银行路由信息，可能会成为其训练数据的一部分。
5. 处理机密或受监管的数据
作为一名科技记者，我每天都会收到大量的新闻稿，但我从未考虑过将这些新闻稿输入ChatGPT以获取摘要或进一步的解释。这是因为，如果我这样做，这些文本将超出我的控制范围，落入第三方服务器，违反了我的保密协议。
同样的风险也适用于客户合同、医疗记录或受加州消费者隐私法、HIPAA、GDPR或普通商业秘密法保护的任何资料。这同样适用于您的所得税申报表、出生证明、驾照和护照。一旦敏感信息出现在提示窗口中，您就无法保证这些信息存储在哪里，谁可以在内部查看，或者它们是否会被用于训练未来的模型。ChatGPT同样存在被黑客攻击和安全威胁的风险。如果您不愿意将某些信息粘贴到公共Slack频道，那么也不要将其粘贴到ChatGPT中。
从事任何非法活动
这一点不言自明。
利用ChatGPT作弊完成学业
如果我说我从未在考试中作弊，那我就是在撒谎。高中时，我曾用第一代iPod Touch偷偷查看了几条难以记忆的AP微积分公式，对此我并不感到自豪。然而，借助AI，现代作弊的规模让这看起来相当温和。Turnitin和其他类似检测器每学期都在提高识别AI生成文本的能力，教授们也能远远地听出“ChatGPT风格”（感谢破坏了我对破折号的喜爱）。停学、开除甚至吊销执照都是真实存在的风险。最好把ChatGPT当作学习伙伴，而不是代笔者。如果你让ChatGPT替你做作业，实际上是在剥夺自己的教育机会。
监控信息和突发新闻
自OpenAI于2024年底推出ChatGPT搜索功能（并于2025年2月向所有人开放）以来，聊天机器人可以即时获取网页、股票报价、汽油价格、体育比分等实时数据，附带可点击的引用链接以便验证来源。不过，它不会自动提供持续更新。每次刷新都需要新的提示，因此在速度至关重要的情况下，实时数据流、官方新闻稿、新闻网站、推送警报和直播报道仍然是最佳选择。
赌博
我确实曾通过ChatGPT成功押注NCAA男子篮球锦标赛的一场三重博，但我绝不会推荐任何人这样做。我见过ChatGPT在球员统计数据、误报伤病和胜负记录上提供错误信息。我之所以能赢，是因为我逐一核实了所有信息的真实赔率，即便如此，我也只是运气好。ChatGPT无法预测未来的结果，所以不要仅依赖它来赢得赌局。
起草遗嘱或其他具有法律约束力的合同
ChatGPT擅长解释基本概念。如果你想了解更多关于可撤销生前信托的信息，尽管提问。但是，当你要求它起草实际的法律文本时，你就等于在掷骰子。遗产和家庭法律规则因州而异，有时甚至因县而异，因此省略见证人签名或遗漏公证条款都可能导致整个文件无效。不如让ChatGPT帮助你列出需要咨询律师的问题清单，然后支付律师费，让律师将这些问题转化为能在法庭上站得住脚的文件。
创作艺术作品
这不是客观真理，只是我个人的观点，我认为不应该使用AI来创作艺术。我并非反对人工智能，我用ChatGPT来头脑风暴新想法和撰写标题，但这只是补充，而非替代。当然，你可以使用ChatGPT，但请不要用它来制作你声称是自己原创的艺术作品。这有点令人反感。
(以上内容均由Ai生成)
