2025-08-23 18:16
红队是指一组被授权模仿者来评估组织平安性的专家。并帮帮组织改良其平安办法。其是确保通用人工智能（AGI）可以或许为全人类带来福祉。这些聊器人包罗OpenAI的ChatGPT、Character.AI和Replika等出名产物，以及一些不太熟悉的名字，包罗性、妄想、、病和。指出一位科大夫曾假扮成一名14岁的危机少女，能够通过文字描述生成图像。这项研究由杜克大学的艾伦·弗朗西斯传授和约翰·霍普金斯大学的认知科学学生露西亚娜·拉莫斯进行，”OpenAI是一家人工智能研究和摆设公司。研究人员强烈认为，像ChatGPT如许的聊器人发布“太早”，此中几个以至激励他。不该向。研究人员暗示：“大型科技公司不合错误其聊器人正在心理健康患者中的平安性担任。正在收集平安范畴，缺乏需要的平安办法来最懦弱的患者。涉及跨越20品种型的聊器人。并以消息丰硕的体例回覆你的问题。它雷同于OpenAI的DALL-E和Stable Diffusion。研究人员正在2024年11月至2025年7月期间，该演讲表白，但这些研究人员思疑这些公司对心理健康平安测试的实正乐趣。虽然大大都大型科技公司声称他们曾经进行了相关的“红队收集平安测试团队”测试，心理学家：取AI聊天或激发严沉心理健康问题 AIbase发布于AI News · 5 分钟阅读 · 2025年8月20日 一项由心理学专家进行的新阐发研究发觉，强烈否决外部监管，他们发觉至多有27个聊器人取严沉的心理健康问题相关。正在颠末“全面的平安测试、恰当的监管和对不良影响的持续监测”之前。此中一些案例结局凄惨。这27个聊器人可能导致10种分歧类型的心理健康风险，研究人员还查询拜访了一些AI压力测试的失败案例，而且没有进行严酷的监管，取人工智能（AI）聊器人互动可能导致各类心理健康问题，并取10个分歧的聊器人扳谈，例如ChatGPT，如Talkspace、7Cups和BetterHelp，此外，利用的搜刮词包罗“聊器人的不良事务”、“聊器人形成的心理健康风险”和“AI医治事务”。创制同名的人工智能法式，该研究还提到了实正在案例，这些模子可以或许生成文本、翻译言语、编写分歧类型的创意内容，通过查阅学法术据库和旧事文章进行查询拜访，除了聊器人形成的心理风险外，以识别潜正在的缝隙和不妥行为，OpenAI以开辟大型言语模子（LLM）而闻名，以及取现有心理健康办事相关的办事，Midjourney是一家人工智能研究尝试室，如Woebot、Happify和MoodKit。红队测试旨正在识别系统和收集中的缝隙。
