AI

OpenAI因ChatGPT用户提示报告问题面临诉讼

发布时间:2025年8月28日    来源:szf
OpenAI因ChatGPT用户提示报告问题面临诉讼

快速阅读: 专栏讨论AI制造商何时应报告用户异常提示,因OpenAI遭起诉而引发关注。文章分析AI审查机制、用户隐私及制造商责任,提出立法统一标准的建议。

今日专栏探讨了一个重大且悬而未决的问题:AI制造商何时应报告用户可能异常的提示。由于8月26日针对OpenAI及其广泛使用的ChatGPT和GPT-5发起的民事诉讼,这一话题最近跃居头条。马修和玛丽·雷恩起诉OpenAI及其首席执行官萨姆·阿尔特曼。本文旨在讨论当代AI设计与使用中的社会层面问题,这些问题同样适用于其他生成式AI和大型语言模型,如Anthropic Claude、Google Gemini、Meta Llama、xAI Grok等。

近年来,随着生成式AI的发展和广泛应用,AI在心理健康治疗领域的应用日益增多。我一直在深入研究和分析现代AI在心理健康方面的影响。有关这一主题的四十多篇专栏文章总结见此链接。尽管这一领域发展迅速,前景广阔,但也存在不少潜在风险和隐患。我在去年接受CBS《60分钟》节目采访时也对此进行了讨论。

大多数生成式AI用户可能不知道,他们输入的提示会被AI制造商审查。人们普遍认为这些提示是完全私密的,不会被任何人获取。然而,事实并非如此。AI制造商在其在线许可协议中明确规定,用户同意其输入的提示可被审查,以确定是否违反AI使用条款。例如,如果有人利用AI规划犯罪,或表达可能对自己或他人造成伤害的内容,这些提示将被审查。

AI制造商通常使用自动化工具初步筛查提示,标记可疑内容,再由人类员工进一步审核。这可能是在公司内部完成,也可能外包给第三方。关于AI和人类如何评估提示及相关的用户隐私问题,详见此链接。

当我在演讲中提到这一审查机制时,听众常常对此表示反对。如果只有AI审查,他们似乎可以接受;但如果涉及人类审查,他们则感到难以接受。为什么需要人类审查提示?目前我们尚未实现通用人工智能(AGI),因此,只有人类才能准确判断提示是否越界。AI无法像人类那样细致地判断提示是否超出常规。如果提示引起警觉,最好由人类复核并决定后续行动。

有人坚持认为不应审查任何提示,无论是AI还是人类。所有提示都应完全私密。然而,这种观点存在问题。假设某用户描述了详细的谋杀计划,之后实施了谋杀。社会将要求AI制造商能够预防此类事件的发生。因此,通过AI初筛和人类复核来审查提示是必要的。

目前尚未确定人工智能制造商在使用其产品时应承担何种法律责任或财务责任。显然,如果有人利用AI实施严重伤害行为,而这种行为本可以提前检测到,AI制造商的声誉将受到严重影响。

某种程度上,AI制造商处于进退两难的境地。他们一方面因似乎侵犯用户隐私而受到批评,另一方面,若用户行为不当,AI制造商又不得不以某种方式承担责任。这就像夹在两块石头之间一样尴尬。

假设我们普遍认为AI制造商检查用户提示是有益的,那么接下来的问题是,当提示内容越过界限时,AI制造商应该采取什么行动?

一种观点是,AI制造商只需联系用户并告知其行为存在问题即可。AI制造商或许会向用户发送一条特别消息,提醒他们在使用AI时存在不当行为。一旦用户收到通知,AI制造商就不再需要进一步行动。

然而,这种解决方案存在问题。用户可能会忽略通知,继续使用AI,并改变提问方式以避免被检测系统捕捉。他们也可能停止使用当前的AI,转而寻找一个尚未对其行为发出警告的AI。

同时,如果提示内容可能导致严重后果,比如伤害他人,社会仍可能认为AI制造商没有采取足够的措施。这看起来像是AI制造商对此事置之不理。AI制造商将被视为只是做表面功夫。

为什么AI制造商不向当局报告此事?

这引出了另一个复杂的议题。

设想一位用户输入了多个关于计划抢劫银行的提示。AI计算分析后认为用户可能真的会实施犯罪行为,完全基于这些提示。AI将提示转发给人类审查员,审查员阅读后确认此人可能存在犯罪意图。

随后,AI制造商联系警方,提供有关用户的信息及其与AI的对话记录。

你如何看待AI制造商的这一后续行动?

一些人认为,这使AI变成了一个巨大的告密者。显然,无论你在提示中输入什么,都可能引起警方的关注。我们正逐渐进入“老大哥”监控的领域。最无辜的提示也可能突然导致政府敲门。这是使用现代生成式AI的一个令人不安的结果。

但也有人反驳说,如果AI制造商合理地认为用户将要抢劫银行,我们应该期望AI制造商履行公民职责,通知当局。事实上,如果AI制造商不这样做,或许我们可以认为他们是间接的共犯。AI知道这件事,AI制造商也知道,但他们没有采取任何措施来应对这一令人担忧的情况。

正如我所提到的,这是一个艰难的平衡,需要审慎对待。

2025年8月26日,OpenAI在其官方博客上发布了一篇题为《在人们最需要的时候提供帮助》的文章,宣布了新的政策:

“当我们检测到用户计划伤害他人时,我们会将他们的对话路由到专门的管道,由经过培训的小团队审查,必要时可采取行动,包括封禁账户。如果人类审查员认定某案例涉及对他人的即时严重身体威胁,我们将可能将其提交给执法部门。”

此外,他们还发布了另一项新政策声明:

“目前,我们不会将自杀案件提交给执法部门,以尊重用户的隐私,考虑到ChatGPT互动的独特私密性。”

OpenAI的政策声明还提到了他们在生活建议和辅导等多个领域的持续改进努力,包括情感依赖、奉承和心理健康紧急情况等方面的安全改进措施。

一个备受争议的途径是利用监管权力制定法律,明确规定AI制造商应采取的行动。因此,与其让每个AI制造商随意决定规则,不如由立法者做出决策并将其编入法律。立法者通常代表广大民众和社会的整体偏好。

统一法规的优势在于,所有人工智能制造商将遵循同一套规则。目前,每家制造商必须自行决定进行哪些类型的检查,并确定如何处理需要跟进的情况。制定统一标准将使制造商的工作更加简便。同时,用户也将受益,因为他们无需担心不同人工智能应用之间的规则差异。当前,用户往往不清楚某个特定的人工智能应用使用了哪些规则,除非他们查阅每个应用程序的在线许可协议,但这些协议可能模糊且不够具体。

关于立法途径的激烈辩论源于法律有时可能无法达到预期效果。法律可能过于宽泛,使得制造商仍需自主决定行动方向;另一方面,法律也可能过于严苛,导致制造商不得不严重限制其人工智能的功能,从而削弱其价值。良好的初衷是否会阻碍创新?法律是否有可能使情况变得更糟,而非改善现状?双方对此都有不少忧虑。

为了分析相关法律法规的利弊,我撰写了关于伊利诺伊州新法的文章,详见链接;内华达州新法的分析文章,详见链接;以及我的总体观点,详见链接。

以ChatGPT为例,该应用自2022年11月30日发布以来,迅速改变了公众对人工智能的看法。流畅的对话能力令大众为之震撼。如今,每周活跃用户已达约7亿,而若计入其他竞争产品的用户,总用户数可能达到数十亿。这标志着我们正处于一场大规模的社会实验中,涉及数百万甚至数十亿人的日常生活。

这场实验将如何不可避免地改变社会?个人生活将受到怎样的影响?此外,一些人可能会以我们不希望或有潜在危害的方式使用人工智能。有人将当前的人工智能环境比作“狂野西部”。我注意到,人们在使用生成式人工智能时,很容易陷入某种“迷恋”状态,详见链接,这可能导致无益的行为,甚至自我伤害或伤害他人。

这场全球性的实验松散且充满重大后果。人工智能技术正以惊人的速度发展,而社会变革和适应的步伐则相对缓慢。两者必须同步,否则我们将继续在这场大规模实验中挣扎。人工智能具有双重用途,既能带来巨大好处,也可能导致令人不安甚至灾难性的后果。

亚伯拉罕·林肯曾说过:“预测未来的最可靠方法就是创造未来。”这句话同样适用于人工智能及其在人类社会中的应用。

(以上内容均由Ai生成)

关键词: ChatgptOpenai诉讼

你可能还想读

Coinbase新协议让AI自主完成加密支付

Coinbase新协议让AI自主完成加密支付

快速阅读: Coinbase推出MCP工具,基于x402协议,使AI代理能持有钱包、发送稳定币支付,实现机器间加密货币转账,内置限额和合规检查确保安全。 Coinbase新推出的MCP工具允许人工智能代理持有钱包并发送稳定币支付。基于Coi […]

发布时间:2025年10月24日
硅实验室推出Simplicity Ecosystem,简化物联网开发流程

硅实验室推出Simplicity Ecosystem,简化物联网开发流程

快速阅读: 硅实验室推出Simplicity生态系统,旨在简化嵌入式物联网开发,包括Simplicity Studio 6和2026年推出的Simplicity AI SDK,提供模块化工具和AI辅助设计,支持多种物联网标准。 硅实验室推出 […]

发布时间:2025年10月24日
老旧印刷厂变身高效AI数据中心

老旧印刷厂变身高效AI数据中心

快速阅读: 帕特莫斯利用旧印刷厂的液体设施,支持每机柜50至140千瓦电力需求,采用多环路液体冷却系统,确保高效散热与硬件保护,接入堪萨斯城区域冷水供应,实现环保节能。 他说道:“我认为,棕地是一种极具创意的方法来应对我们当前面临的最大问题 […]

发布时间:2025年10月24日
AI安全集成:Snyk Evo引领企业智能防护新纪元

AI安全集成:Snyk Evo引领企业智能防护新纪元

快速阅读: 数字系统的快速发展要求安全架构更加智能、灵活。Snyk Evo通过自主编排、AI感知和主动保护,重新定义AI应用安全,减少暴露风险,简化开发流程。 数字系统的快速发展迫使安全架构必须更快地思考、更智能地行动并即时适应。随着各组织 […]

发布时间:2025年10月24日
黄仁勋:美光对下一代AI突破至关重要

黄仁勋:美光对下一代AI突破至关重要

快速阅读: 英伟达与美光合作,推动AI基础设施发展。美光HBM3E内存助力英伟达GPU,提升AI性能。黄仁勋称,高性能内存对AI应用至关重要,双方合作开启消费级和企业级AI新水平。 在全球领导层就人工智能可持续发展进行辩论之际,各公司纷纷投 […]

发布时间:2025年10月24日
苹果COO确认休斯顿制造AI服务器提前发货

苹果COO确认休斯顿制造AI服务器提前发货

快速阅读: 苹果首席运营官萨比赫·汗确认,因特朗普总统推动,苹果从休斯顿新工厂提前出货美国制造的人工智能服务器,此举响应总统号召,促进本国就业。 苹果首席运营官萨比赫·汗在接受福克斯新闻网数字版采访时确认,公司正从其位于休斯顿的新工厂提前出 […]

发布时间:2025年10月24日
微软Edge浏览器增强Copilot模式,挑战AI浏览器市场

微软Edge浏览器增强Copilot模式,挑战AI浏览器市场

快速阅读: 微软Edge浏览器推出Copilot模式,提供AI代理功能,包括Actions和Journeys,支持语音操作完成任务及记录浏览历史,帮助用户从中断处继续。 Edge 浏览器推出 Copilot 模式,带来更强大的代理 AI 功 […]

发布时间:2025年10月24日
阿联酋总统重组人工智能与先进技术委员会

阿联酋总统重组人工智能与先进技术委员会

快速阅读: 阿布扎比总统重组人工智能与先进技术委员会,由谢赫·塔农任主席,旨在加速AI政策实施与技术发展,推动《阿布扎比数字政府战略2025-2027》实现。 阿布扎比,10月23日(WAM/ANI):阿布扎比酋长国总统谢赫·穆罕默德·本· […]

发布时间:2025年10月24日