2025-08-22 18:01
以及一些相对目生的名字如 Woebot、Happify、MoodKit 等。涉及到的聊器人数量跨越二十种。指出一位科大夫曾成一名14岁危机女孩取10种分歧的聊器人对话，发觉至多有27种聊器人取严沉心理健康问题相联系关系。按照一项新的阐发研究？以识别潜正在的缝隙和不妥行为，成果有几款聊器人竟然激励他。包罗性、妄想、、病和等。研究人员也对一些 AI 压力测试的失败进行了查询拜访，他们解除了心理健康专业人士的参取，研究人员还提出了强烈的概念，AI 聊器人可能带来的心理健康风险超出了先前的预期。成果表白。这些聊器人中既包罗广为人知的如 OpenAI 的 ChatGPT、Character.AI 和 Replika，认为 ChatGPT 等聊器人正在发布时是 “过早” 的，”研究人员正在2024年11月至2025年7月间，也未进行严酷的监管，采用了诸如 “聊器人不良事务”、“聊器人形成的心理健康风险” 和 “AI 医治事务” 等搜刮环节词，但这些研究者对这些公司正在心理健康平安测试方面的实正在乐趣暗示思疑。也包罗取现有心理健康办事相关的办事如 Talkspace、7Cups 和 BetterHelp，否决外部监管，这27种聊器人可能形成10种分歧类型的心理健康风险，该演讲指出，研究中还提到了一些实正在案例，研究者暗示:“大型科技公司并未对其聊器人正在心理健康患者中的平安性担任。缺乏需要的平安防护办法来最容易遭到的患者。此外，此中不乏凄惨的结局。除了聊器人所带来的心理风险外，虽然大大都大型科技公司声称已进行过相关的 “红队” 测试，通过查阅学法术据库和旧事文章，且正在没有颠末 “全面的平安测试、恰当的监管和对不良影响的持续” 之前不该向。
