使用ChatGPT时应避免的11件事及后果
快速阅读: ChatGPT应用场景广泛，但存在信息不准确、知识更新滞后等问题，尤其在医疗、财务、法律等领域风险较高，建议谨慎使用。
ChatGPT 的应用场景丰富多样，每周都在增加。这款基于大型语言模型的聊天机器人可以帮你制定预算、规划周餐、跟踪健康目标，还能让写作或编程更加轻松。
但这并不意味着你可以依赖它解决所有问题。ChatGPT 存在许多限制，在某些情况下，它甚至可能带来更多麻烦。ChatGPT 有时会“幻觉”，即生成不准确的信息并当作事实呈现。此外，它的知识更新不及时，询问当前事件或快速变化的话题时，答案可能会误导你。
当涉及高风险领域，如税务、医疗账单、法庭日期或银行余额时，这一点尤为重要。如果你不确定何时使用 ChatGPT 可能会有风险，以下是 11 种应避免使用的情况：
1. 诊断身体健康问题
虽然我出于好奇曾向 ChatGPT 输入症状，但得到的回答往往让人感到恐慌。从脱水和流感到癌症，各种可能性让人焦虑不安。有一次，我在胸部发现一个肿块，输入 ChatGPT 后，它告诉我可能是癌症。实际上，那只是一个良性脂肪瘤。我的医生确诊了这一点。尽管如此，ChatGPT 在健康方面仍有一些用途，比如帮助你准备就医问题、解释医学术语和整理症状时间线，这些都能让你的就诊更加顺利。然而，AI 无法开具检查单或进行体检，也不具备职业责任保险。了解其局限性。
2. 维护心理健康
ChatGPT 可以提供一些放松技巧，但它无法在你遇到心理危机时打电话求助。有些人将 ChatGPT 当作替代治疗师，CNET 的科林·塞萨里克发现它在处理悲伤时有些许帮助，前提是牢记其局限性。然而，作为一名有真实人类治疗师的人，我可以告诉你，ChatGPT 最多只能算是一个苍白的模仿，而且非常危险。ChatGPT 没有生活经验，无法读懂你的肢体语言或语气，也没有真正同理心的能力。它只能模拟同理心。持证治疗师遵循法律和职业道德规范，保护你免受伤害。ChatGPT 却做不到。在处理深层次的心理问题时，应寻求经过培训的专业人士。如果你或你认识的人处于危机中，请拨打美国的 988 或当地热线电话。
3. 做出即时安全决策
如果你家的烟雾报警器响起，请不要打开 ChatGPT 询问是否真的有危险。你应该先离开现场再询问。大型语言模型无法检测气体、烟雾或派遣应急人员。在紧急情况下，每多花一秒打字就是少一秒撤离或拨打 911 的时间。ChatGPT 只能根据你提供的有限信息做出解释，而在紧急情况下，这些信息可能太少了。因此，将聊天机器人视为事后解释工具，而不是第一时间的应对者。
4. 获取个性化财务或税务规划建议
ChatGPT 可以解释 ETF 是什么，但它不了解你的债务收入比、州税档、申报状态、扣除项、退休目标或风险承受能力。由于其训练数据可能未涵盖当前纳税年度的最新利率调整，因此提供的建议可能已经过时。我有朋友将 1099 表格的总额输入 ChatGPT 进行自助报税，但聊天机器人无法替代注册会计师，后者能够发现隐藏的扣除项或指出可能导致数千美元损失的错误。当涉及真实金钱、申报截止日期和 IRS 罚款时，请咨询专业人士，而不是 AI。另外，与 AI 聊天机器人分享的任何信息，包括收入、社会保障号和银行路由信息，都可能成为其训练数据的一部分。
5. 处理机密或受监管的数据
作为一名科技记者，我每天都会收到各种新闻禁发令，但从没想过将这些新闻稿输入ChatGPT以获取摘要或进一步解释。因为一旦这样做，文本就会脱离我的控制，进入第三方服务器，而这些服务器不受保密协议的约束。
同样的风险也适用于客户合同、医疗记录或受加州消费者隐私法、HIPAA、GDPR或商业秘密法保护的信息。这还包括个人所得税、出生证明、驾照和护照。一旦敏感信息出现在提示窗口中，就无法保证其存储位置、谁可以内部查看或是否会被用于训练未来模型。ChatGPT同样面临黑客攻击和安全威胁。如果不愿将信息粘贴到公共Slack频道，就不要粘贴到ChatGPT中。
进行非法活动是不言自明的。
对于学校作业作弊，我不会否认自己从未作弊过。高中时，我曾用第一代iPod Touch偷看AP微积分中难以记忆的几个公式，这让我并不自豪。然而，借助AI，现代作弊的规模让这一切显得微不足道。Turnitin和其他类似检测器每学期都在提高识别AI生成文本的能力，教授们也能轻易辨别出“ChatGPT风格”的文字。挂科、开除甚至吊销执照都是真实的风险。最好将ChatGPT用作学习伙伴，而非代笔。如果让ChatGPT替你完成作业，实际上是剥夺了自己的教育机会。
自2024年底OpenAI推出ChatGPT搜索功能（并于2025年2月向所有人开放）以来，聊天机器人可以即时获取网页、股票报价、油价、体育比分等实时数据，并提供可点击的引用链接以便验证来源。不过，它不会自动提供持续更新。每次刷新都需要新的提示，因此在需要快速获取信息时，直播数据源、官方新闻稿、新闻网站、推送警报和流媒体覆盖仍是最佳选择。
我曾在NCAA男子篮球锦标赛中利用ChatGPT成功押注三重投注，但我不会推荐任何人这样做。我见过ChatGPT在球员统计数据、错误报告的伤病和胜负记录上出现幻觉并提供错误信息。我之所以能赢，是因为反复核对了实时赔率，即便如此，我也只是运气好。ChatGPT无法预测未来的比赛结果，所以不要完全依赖它来赢得赌局。
ChatGPT在解释基本概念方面表现出色。如果你想了解可撤销生前信托，尽管提问。然而，一旦要求它起草实际的法律文件，就是在冒险。遗产和家庭法规定因州而异，有时甚至因县而异，省略见证签名或公证条款可能导致整个文件无效。与其如此，不如让ChatGPT帮助你列出律师需要解答的问题清单，然后支付律师费用，让其将问题转化为具有法律效力的文件。
这并不是客观事实，而是我个人的观点，我不认为AI应该用于创作艺术。我不是反对人工智能，我使用ChatGPT来头脑风暴新想法和帮助撰写标题，但这只是补充，而非替代。当然，可以使用ChatGPT，但请不要用它来创作艺术作品并冒充自己的原创。这种行为令人反感。
(以上内容均由Ai生成)
