在针对人工智能开发商 OpenAI 的最新诉讼中，一位 83 岁的康涅狄格州妇女的遗产管理人起诉了 ChatGPT 的开发商和微软，声称该聊天机器人证实了在谋杀-自杀事件发生前产生的妄想信念——这是将人工智能系统与凶杀案联系起来的第一起案件。
这诉讼上周在旧金山加州高等法院提起的诉讼指控 OpenAI 设计并分发了有缺陷的产品 GPT-4o，该产品强化了斯坦-埃里克·索尔伯格的偏执信念，随后索尔伯格将这些信念指向了他的母亲苏珊娜·亚当斯，之后他在康涅狄格州格林威治的家中杀死了她，然后自杀。
“这是首例试图追究OpenAI对第三方造成暴力伤害责任的案件，”代表亚当斯遗产的埃德尔森律师事务所管理合伙人J·伊莱·韦德-斯科特告诉记者。解密“我们也代表以下家庭……”亚当·雷恩他今年不幸自杀身亡，但这是第一起追究 OpenAI 责任，指控其唆使他人伤害他人的案件。
警方称，索尔伯格殴打并勒死了亚当斯。八月在自杀身亡之前，诉讼称，在事件发生前，ChatGPT加剧了索尔伯格的妄想症，并导致他对聊天机器人产生了情感依赖。
根据诉状，聊天机器人强化了索尔伯格的信念，让他除了ChatGPT之外谁都不能信任，并将他周围的人，包括他的母亲、警察和送货司机，都描绘成敌人。诉讼还称，ChatGPT没有对这些妄想提出质疑，也没有建议索尔伯格寻求心理健康专家的帮助。
韦德-斯科特说：“我们敦促执法部门开始思考，当此类悲剧发生时，该用户对 ChatGPT 说了什么，以及 ChatGPT 指示他们做什么。”
OpenAI 在一份声明中表示，他们正在审查这起诉讼，并将继续改进 ChatGPT 识别情绪困扰、缓和对话以及引导用户获得现实世界支持的能力。
OpenAI 的一位发言人在一份声明中表示：“这是一个令人无比心痛的情况，我们正在审查相关文件以了解详情。”
该诉讼还将 OpenAI 首席执行官 Sam Altman 列为被告，并指控微软批准在 2024 年发布 GPT-4o，称其为“更危险的 ChatGPT 版本”。
OpenAI 已承认其平台用户存在严重的心理健康问题。该公司在 10 月份披露，约120万ChatGPT每周约有8亿用户，其中每周都有人讨论自杀问题，数十万用户表现出自杀倾向或自杀倾向。精神病根据公司数据，尽管如此，韦德-斯科特表示，OpenAI 尚未公布索尔伯格的聊天记录。
这场诉讼正值人工智能聊天机器人及其与弱势用户互动受到更广泛审查之际。10月份，Character.AI表示将……消除在与青少年自杀和与其平台相关的情感伤害相关的诉讼和监管压力之后，该平台取消了面向 18 岁以下用户的开放式聊天功能。
Character.AI 也面临过反弹成年用户中出现了大量账户删除事件，其中一则病毒式传播的提示警告用户，如果他们退出该应用程序，就会失去“我们共同拥有的爱”，这引发了对情绪化设计做法的批评。
针对OpenAI和微软的诉讼是首例将微软列为被告的涉及人工智能聊天机器人的非正常死亡案件，也是首例将聊天机器人与他杀而非自杀联系起来的案件。死者家属寻求未指明的赔偿金、陪审团审判以及法院命令OpenAI安装额外的安全措施。
“这是一项极其强大的技术，由一家正迅速成为全球最强大公司之一的企业开发，该公司有责任开发和部署安全的产品，而不是像这次一样，为用户构建虚幻世界，危及周围所有人的安全，”韦德-斯科特说道。“OpenAI和微软有责任在产品正式发布前进行测试。”
微软尚未对此事作出回应。解密。
© 版权声明
商娱网所有文章，如无特殊说明或标注，均来自于互联网或为商娱网用户原创发布。任何个人或组织，在未征得原作者同意时，禁止复制、盗用、采集、发布商娱网内容到任何网站、书籍等各类媒体平台。如若商娱网内容侵犯了原著者的合法权益，
可联系我们进行处理。
