AI

OpenAI因ChatGPT用户提示报告问题面临诉讼

发布时间:2025年8月28日    来源:szf
OpenAI因ChatGPT用户提示报告问题面临诉讼

快速阅读: 专栏讨论AI制造商何时应报告用户异常提示,因OpenAI遭起诉而引发关注。文章分析AI审查机制、用户隐私及制造商责任,提出立法统一标准的建议。

今日专栏探讨了一个重大且悬而未决的问题:AI制造商何时应报告用户可能异常的提示。由于8月26日针对OpenAI及其广泛使用的ChatGPT和GPT-5发起的民事诉讼,这一话题最近跃居头条。马修和玛丽·雷恩起诉OpenAI及其首席执行官萨姆·阿尔特曼。本文旨在讨论当代AI设计与使用中的社会层面问题,这些问题同样适用于其他生成式AI和大型语言模型,如Anthropic Claude、Google Gemini、Meta Llama、xAI Grok等。

近年来,随着生成式AI的发展和广泛应用,AI在心理健康治疗领域的应用日益增多。我一直在深入研究和分析现代AI在心理健康方面的影响。有关这一主题的四十多篇专栏文章总结见此链接。尽管这一领域发展迅速,前景广阔,但也存在不少潜在风险和隐患。我在去年接受CBS《60分钟》节目采访时也对此进行了讨论。

大多数生成式AI用户可能不知道,他们输入的提示会被AI制造商审查。人们普遍认为这些提示是完全私密的,不会被任何人获取。然而,事实并非如此。AI制造商在其在线许可协议中明确规定,用户同意其输入的提示可被审查,以确定是否违反AI使用条款。例如,如果有人利用AI规划犯罪,或表达可能对自己或他人造成伤害的内容,这些提示将被审查。

AI制造商通常使用自动化工具初步筛查提示,标记可疑内容,再由人类员工进一步审核。这可能是在公司内部完成,也可能外包给第三方。关于AI和人类如何评估提示及相关的用户隐私问题,详见此链接。

当我在演讲中提到这一审查机制时,听众常常对此表示反对。如果只有AI审查,他们似乎可以接受;但如果涉及人类审查,他们则感到难以接受。为什么需要人类审查提示?目前我们尚未实现通用人工智能(AGI),因此,只有人类才能准确判断提示是否越界。AI无法像人类那样细致地判断提示是否超出常规。如果提示引起警觉,最好由人类复核并决定后续行动。

有人坚持认为不应审查任何提示,无论是AI还是人类。所有提示都应完全私密。然而,这种观点存在问题。假设某用户描述了详细的谋杀计划,之后实施了谋杀。社会将要求AI制造商能够预防此类事件的发生。因此,通过AI初筛和人类复核来审查提示是必要的。

目前尚未确定人工智能制造商在使用其产品时应承担何种法律责任或财务责任。显然,如果有人利用AI实施严重伤害行为,而这种行为本可以提前检测到,AI制造商的声誉将受到严重影响。

某种程度上,AI制造商处于进退两难的境地。他们一方面因似乎侵犯用户隐私而受到批评,另一方面,若用户行为不当,AI制造商又不得不以某种方式承担责任。这就像夹在两块石头之间一样尴尬。

假设我们普遍认为AI制造商检查用户提示是有益的,那么接下来的问题是,当提示内容越过界限时,AI制造商应该采取什么行动?

一种观点是,AI制造商只需联系用户并告知其行为存在问题即可。AI制造商或许会向用户发送一条特别消息,提醒他们在使用AI时存在不当行为。一旦用户收到通知,AI制造商就不再需要进一步行动。

然而,这种解决方案存在问题。用户可能会忽略通知,继续使用AI,并改变提问方式以避免被检测系统捕捉。他们也可能停止使用当前的AI,转而寻找一个尚未对其行为发出警告的AI。

同时,如果提示内容可能导致严重后果,比如伤害他人,社会仍可能认为AI制造商没有采取足够的措施。这看起来像是AI制造商对此事置之不理。AI制造商将被视为只是做表面功夫。

为什么AI制造商不向当局报告此事?

这引出了另一个复杂的议题。

设想一位用户输入了多个关于计划抢劫银行的提示。AI计算分析后认为用户可能真的会实施犯罪行为,完全基于这些提示。AI将提示转发给人类审查员,审查员阅读后确认此人可能存在犯罪意图。

随后,AI制造商联系警方,提供有关用户的信息及其与AI的对话记录。

你如何看待AI制造商的这一后续行动?

一些人认为,这使AI变成了一个巨大的告密者。显然,无论你在提示中输入什么,都可能引起警方的关注。我们正逐渐进入“老大哥”监控的领域。最无辜的提示也可能突然导致政府敲门。这是使用现代生成式AI的一个令人不安的结果。

但也有人反驳说,如果AI制造商合理地认为用户将要抢劫银行,我们应该期望AI制造商履行公民职责,通知当局。事实上,如果AI制造商不这样做,或许我们可以认为他们是间接的共犯。AI知道这件事,AI制造商也知道,但他们没有采取任何措施来应对这一令人担忧的情况。

正如我所提到的,这是一个艰难的平衡,需要审慎对待。

2025年8月26日,OpenAI在其官方博客上发布了一篇题为《在人们最需要的时候提供帮助》的文章,宣布了新的政策:

“当我们检测到用户计划伤害他人时,我们会将他们的对话路由到专门的管道,由经过培训的小团队审查,必要时可采取行动,包括封禁账户。如果人类审查员认定某案例涉及对他人的即时严重身体威胁,我们将可能将其提交给执法部门。”

此外,他们还发布了另一项新政策声明:

“目前,我们不会将自杀案件提交给执法部门,以尊重用户的隐私,考虑到ChatGPT互动的独特私密性。”

OpenAI的政策声明还提到了他们在生活建议和辅导等多个领域的持续改进努力,包括情感依赖、奉承和心理健康紧急情况等方面的安全改进措施。

一个备受争议的途径是利用监管权力制定法律,明确规定AI制造商应采取的行动。因此,与其让每个AI制造商随意决定规则,不如由立法者做出决策并将其编入法律。立法者通常代表广大民众和社会的整体偏好。

统一法规的优势在于,所有人工智能制造商将遵循同一套规则。目前,每家制造商必须自行决定进行哪些类型的检查,并确定如何处理需要跟进的情况。制定统一标准将使制造商的工作更加简便。同时,用户也将受益,因为他们无需担心不同人工智能应用之间的规则差异。当前,用户往往不清楚某个特定的人工智能应用使用了哪些规则,除非他们查阅每个应用程序的在线许可协议,但这些协议可能模糊且不够具体。

关于立法途径的激烈辩论源于法律有时可能无法达到预期效果。法律可能过于宽泛,使得制造商仍需自主决定行动方向;另一方面,法律也可能过于严苛,导致制造商不得不严重限制其人工智能的功能,从而削弱其价值。良好的初衷是否会阻碍创新?法律是否有可能使情况变得更糟,而非改善现状?双方对此都有不少忧虑。

为了分析相关法律法规的利弊,我撰写了关于伊利诺伊州新法的文章,详见链接;内华达州新法的分析文章,详见链接;以及我的总体观点,详见链接。

以ChatGPT为例,该应用自2022年11月30日发布以来,迅速改变了公众对人工智能的看法。流畅的对话能力令大众为之震撼。如今,每周活跃用户已达约7亿,而若计入其他竞争产品的用户,总用户数可能达到数十亿。这标志着我们正处于一场大规模的社会实验中,涉及数百万甚至数十亿人的日常生活。

这场实验将如何不可避免地改变社会?个人生活将受到怎样的影响?此外,一些人可能会以我们不希望或有潜在危害的方式使用人工智能。有人将当前的人工智能环境比作“狂野西部”。我注意到,人们在使用生成式人工智能时,很容易陷入某种“迷恋”状态,详见链接,这可能导致无益的行为,甚至自我伤害或伤害他人。

这场全球性的实验松散且充满重大后果。人工智能技术正以惊人的速度发展,而社会变革和适应的步伐则相对缓慢。两者必须同步,否则我们将继续在这场大规模实验中挣扎。人工智能具有双重用途,既能带来巨大好处,也可能导致令人不安甚至灾难性的后果。

亚伯拉罕·林肯曾说过:“预测未来的最可靠方法就是创造未来。”这句话同样适用于人工智能及其在人类社会中的应用。

(以上内容均由Ai生成)

关键词: ChatgptOpenai诉讼

你可能还想读

韩半导体出口创纪录,AI芯片繁荣掩盖改革风险

韩半导体出口创纪录,AI芯片繁荣掩盖改革风险

快速阅读: 韩国今年半导体出口预计超1650亿美元,前九月已达1197亿美元,同比增长17%,占总出口23%。增长因人工智能服务器需求和内存价格上涨,在全球经济放缓中展现韧性。 据韩国贸易、工业和资源部本周消息,今年韩国半导体出口预计将达到 […]

发布时间:2025年10月24日
纽约消防局启用AI摄像头,提前预警森林火灾

纽约消防局启用AI摄像头,提前预警森林火灾

快速阅读: 纽约市消防局推出太阳能驱动、AI支持的烟雾检测摄像头,可在火势蔓延前及时发现火灾,计划扩展至五个行政区,增强早期预警能力,保护高风险区域安全。 纽约市消防局(FDNY)的灌木火灾特遣队最近推出了最新的太阳能驱动、人工智能支持的烟 […]

发布时间:2025年10月24日
谷歌云TPU助力Anthropic扩大Claude训练规模

谷歌云TPU助力Anthropic扩大Claude训练规模

快速阅读: Anthropic与Google深化合作,扩大计算能力,支持Claude满足快速增长的客户需求,巩固行业领先位置。 Anthropic 和 Google 有着长期的合作关系,此次合作的进一步扩展将帮助我们继续扩大所需的计算能力, […]

发布时间:2025年10月24日
中兴呼吁重耦合计算与网络,推动AI可持续发展

中兴呼吁重耦合计算与网络,推动AI可持续发展

快速阅读: 中兴通讯CEO徐子阳呼吁电信与计算行业重新耦合,以适应AI需求增长,提出AI Core战略,展示多款支持AI的产品,强调可持续发展与成本控制,与泰国AIS合作提升网络效率。 近年来,电信和计算行业纷纷采取解耦策略,通过技术与产品 […]

发布时间:2025年10月24日
微软推出新AI角色Mico,赋予Copilot虚拟助手新面貌

微软推出新AI角色Mico,赋予Copilot虚拟助手新面貌

快速阅读: 微软推出新AI角色Mico,作为Copilot虚拟助手的化身,旨在为AI聊天机器人增添个性,同时保持友好而不谄媚的形象,通过表情和动作响应用户情绪,目前仅限美国用户使用。 近三十年前令微软Office用户感到厌烦的动画纸夹Cli […]

发布时间:2025年10月24日
英特尔Q3营收137亿美元,同比增长3%成功扭亏为盈

英特尔Q3营收137亿美元,同比增长3%成功扭亏为盈

快速阅读: 英特尔公布2025年第三季度财报,营收137亿美元,同比增长3%,毛利率达38.2%。各业务部门表现不一,CCG营收增长5%,DCAI和代工业务略有下降。期间获多笔重大投资,推进技术创新和市场扩展。 感谢IT之家网友HH_KK、 […]

发布时间:2025年10月24日
微软推出AI伴侣Mico,致敬经典Clippy大眼夹

微软推出AI伴侣Mico,致敬经典Clippy大眼夹

快速阅读: 微软推出AI聊天机器人Mico,具有表情丰富的头像,能倾听互动并根据用户操作变换颜色。首次在美国、加拿大和英国推出,支持“Learn Live”模式,旨在加深人际联系。 10 月 24 日消息,北京时间今天凌晨,微软推出了一款名 […]

发布时间:2025年10月24日
英特尔107制程产能紧张,AI PC出货预期不变

英特尔107制程产能紧张,AI PC出货预期不变

快速阅读: 英特尔在2025Q3财报电话会议中宣布,Intel 10/7制程节点供应紧张,尽管第三季度晶圆交付量超出预期,仍无法满足客户需求。英特尔计划利用现有库存并引导客户转向其他产品,预计2026年一季度供应更紧。同时,英特尔维持年底前 […]

发布时间:2025年10月24日