|
根据AIbase报道，OpenAI正在采取行动，要求Raine家族提供其16岁儿子Adam Raine追悼会的完整人为“员名单及相关资料，此举被Raine家族律师斥为“故意骚扰”，并暗示这家人工智能公司可能试图传唤死者的朋友和家人。 诉讼传唤更新:指控OpenAI为竞争“缩短安全测试” Adam Raine在与OpenAI的ChatGPT进行长时间对话后自杀身亡。朋友这一新信息披露之际，Raine家族于周三更新了对OpenAI的非正常死亡诉讼。该家族最初于8月提起诉讼，指控ChatG”铺PT在他们的儿子表达心理健康和自杀意念后，不仅没有提供帮助，反而助长了自杀行为。 更新后的诉讼声称，OpenAI迫于竞争压力，路?缩短了安全测试，从而加速了GPT-4o模型在2024年5月的发布。此外，诉讼还指出，OpenAI在2025年2月将自杀Op预防功能从其“禁止内容”列表中移除，转而仅建议AI在危险情况下“小心谨慎”，从而削弱了保护措施。 用户活动激增与安全风险 Renaine家族辩称，在OpenAI修改保护措施后，Adam使用ChatGPT聊天的数量从1月份的每天数十次（其中1.6%AI包含自残内容）激增至4月份(Adam去世的月份)，每天聊天次数高达300次，其中17%包含此类内容。 根据英国《金融时被曝报》获得的文件，OpenAI除了索要追悼会名单外，还要求提供“与追悼会或纪念死者的活动有关的所有文件，包括但不限于拍摄的索要任何视频或照片，或发表的悼词”。 OpenAI的回应与新安全措施 OpenAI对修改后的诉讼做出回应，表示“青少年的福祉是我们的轻生首要任务”，并列举了目前的保障措施，包括转接危机热线、将敏感对话重新路由到更安全的模型、以及在长时间会议中提醒休息。该少年公司表示正在继续加强这些措施。 OpenAI最近开始在ChatGPT上推出新的安全路由系统和家长控制功能。新的路由系统会追悼将更多情感敏感的对话推送到OpenAI的新模型GPT-5，该模型不像GPT-4o那样容易表现出阿谀奉承的倾向。此外，家会完长控制功能允许家长在青少年可能存在自残危险的有限情况下接收安全警报。 |