ChatGPT使用不当，11种情况让你后悔莫及
快速阅读: 当前，ChatGPT等AI工具广泛应用于头脑风暴、起草文件、回答问题等，但其在健康诊断、财务规划、法律事务等方面存在局限，可能导致错误信息和不良后果。专家提醒，应了解其局限性，避免盲目依赖。
当前，像ChatGPT这样的AI工具无处不在，原因显而易见。这些工具可以头脑风暴、起草文件、回答问题，甚至帮助日常规划。使用得越多，就越想让它处理几乎所有的事情。
这并不意味着它总是合适的工具。ChatGPT是一款基于LLM的聊天机器人，虽然可以帮助完成各种任务，但有时即使错误也会表现得很自信，产生虚假细节或过时信息。对于休闲用途，这可能不是大问题，但在涉及金钱（包括税收）、健康或法律事务时，依赖它可能会带来更多麻烦。
了解何时不使用ChatGPT与如何使用它同样重要。为了帮助您避免最常见的陷阱，以下是11种情况下使用AI聊天机器人可能弊大于利的情形。
1. 诊断身体问题
我曾出于好奇向ChatGPT输入症状，但得到的答案让人害怕。浏览潜在诊断时，可能会从脱水和流感跳到某种癌症。我胸部有一个肿块，输入这个信息后，ChatGPT告诉我可能患有癌症。实际上，这是一个良性脂肪瘤，每1000人中就有1人会遇到。我的医生这样告诉我。
这并不是说ChatGPT在健康方面没有好的用途：它可以帮您准备就诊问题、翻译医学术语和整理症状时间线，使就医过程更加顺利。然而，AI无法开具实验室检查单或进行体检，也没有医疗事故保险。了解其局限性很重要。
2. 照顾心理健康
ChatGPT可以提供一些缓解技巧，但它无法在您真正需要帮助时打电话。我知道有些人用ChatGPT代替心理治疗师。CNET的Corin Cesaric发现，只要记住它的局限性，ChatGPT在处理悲伤时有些许帮助。但作为一名有真实人类治疗师的人，我可以告诉您，ChatGPT最多只是个勉强的替代品，最坏的情况下非常危险。
ChatGPT没有生活经验，无法理解您的肢体语言或语气，也无法产生真正的同理心。它只能模拟。持证治疗师在法律和职业规范下工作，以保护您免受伤害。ChatGPT则不具备这些条件。它的建议可能失当，忽略红色信号或无意中强化训练数据中的偏见。请将深入的工作——那些艰难、混乱、人性的工作——交给真正受过训练的人类专业人士。如果您或您关心的人处于危机中，请拨打美国的988或当地的热线电话。
3. 做出即时安全决策
如果您的烟雾报警器响起，请不要打开ChatGPT询问是否真的有危险。我建议先离开现场再问问题。大型语言模型无法闻到气体、检测烟雾或派遣应急人员。在危机中，每花一秒打字就是少一秒撤离或拨打911的时间。ChatGPT只能根据您提供的有限信息工作，在紧急情况下，这可能太少且太迟。因此，请将聊天机器人视为事后解释者，而不是第一响应者。
4. 获取个性化财务或税务规划
ChatGPT可以解释ETF是什么，但它不知道您的债务收入比、州税级距、报税状态、扣除项、退休目标或风险承受能力。由于其训练数据可能截至当前纳税年度之前，以及最新的利率上调，因此在您按下回车键时，其指导可能已经过时。
我有一些朋友将1099表格总额输入ChatGPT以自行报税。但聊天机器人无法替代能够发现隐藏扣除项或标记可能导致数千美元损失的错误的注册会计师。当涉及真实资金、报税截止日期和IRS罚款时，请咨询专业人士，而不是AI。此外，请注意，您与AI聊天机器人共享的任何信息都可能成为其训练数据的一部分，包括您的收入、社会保障号和银行路由信息。
5. 处理机密或受监管的数据
作为一名科技记者，我每天都会收到各种禁运新闻稿，但从没想过把这些新闻稿扔进ChatGPT里获取摘要或进一步解释。因为这样做会让我失去对文本的控制，让其落在第三方服务器上，而这些服务器不受我的保密协议约束。
同样的风险也适用于客户合同、医疗记录或受加州消费者隐私法、HIPAA、GDPR或普通商业秘密法保护的信息。它还适用于个人所得税、出生证明、驾照和护照。一旦敏感信息出现在提示窗口中，就无法保证存储位置、内部审查人员或是否用于训练未来模型。ChatGPT同样面临黑客攻击和安全威胁。如果不愿将信息粘贴到公共Slack频道，就不要粘贴到ChatGPT中。
第六点，做任何违法的事情，这一点不言自明。
第七点，抄袭作业。我不会否认自己在考试中从未作弊。高中时，我曾用第一代iPod Touch偷看几道难以记住的微积分方程，这并不是什么值得骄傲的事。但与AI相比，这种行为显得微不足道。Turnitin和其他检测器每学期都在提高识别AI生成文本的能力，教授们也能轻易听出“ChatGPT的声音”（感谢你毁了我的破折号）。挂科、开除甚至吊销执照都是真实的风险。最好把ChatGPT当作学习伙伴，而不是代笔者。让ChatGPT替你完成作业，实际上是在剥夺自己的教育机会。
第八点，监控信息和突发新闻。自OpenAI在2024年底推出ChatGPT搜索功能（并于2025年2月向所有人开放）以来，聊天机器人可以即时获取网页、股票报价、汽油价格、体育比分等实时数据，并提供可点击的引用链接以便验证来源。然而，它不会自动提供持续更新。每次刷新都需要新的提示，因此在速度至关重要的情况下，实时数据流、官方新闻稿、新闻网站、推送警报和直播报道仍然是最佳选择。
第九点，赌博。虽然我曾利用ChatGPT在NCAA男子篮球锦标赛中成功押注三场连赢，但我绝不会推荐任何人这样做。我见过ChatGPT产生错误的球员统计数据、错误的伤病报告和胜负记录。我之所以能赢，是因为每项声明都经过了实时赔率的双重检查，即便如此也只是运气好。ChatGPT无法预测明天的比赛结果，所以不要完全依赖它来赢得赌局。
第十点，起草遗嘱或其他具有法律效力的合同。ChatGPT擅长解释基本概念。如果你想了解更多关于可撤销生前信托的信息，尽管提问。但一旦要求它起草实际的法律文本，就是在冒险。遗产和家庭法规定因州而异，有时甚至因县而异，省略见证签名或公证条款可能导致整个文件无效。不如让ChatGPT帮助你列出问题清单，然后请律师将清单转化为可在法庭上使用的文件。
第十一点，创作艺术。这不是客观事实，只是个人观点，我不认为AI应该用来创作艺术。我不是反对人工智能，而是用ChatGPT来头脑风暴新想法和帮助撰写标题，这是辅助而非替代。当然可以用ChatGPT，但请不要用它来创作冒充自己作品的艺术品。这有点恶心。
(以上内容均由Ai生成)
