AIGC宇宙 AIGC宇宙

被指导致青少年自杀后,聊天机器人平台 Character.AI 将允许家长查看子女使用记录

作者:清源
2025-03-26 09:28
报告内容包括用户在网页端和移动端的日均使用时长、最常互动的角色及其聊天时长,旨在回应外界对未成年人沉迷聊天机器人以及接触不当内容的担忧。

聊天机器人平台 Character.AI 今日推出新功能“家长洞察”(Parental Insights),青少年用户可将每周的聊天使用报告发送至家长的邮箱。

根据官方公告,报告内容包括用户在网页端和移动端的日均使用时长、最常互动的角色及其聊天时长,旨在回应外界对未成年人沉迷聊天机器人以及接触不当内容的担忧。

被指导致青少年自杀后,聊天机器人平台 Character.AI 将允许家长查看子女使用记录

该功能为可选项,家长无需注册账户,未成年用户可在 Character.AI 设置中自行开启。官方强调,报告仅提供用户使用概览,并不会包含完整聊天记录,因此对话内容不会被分享。

Character.AI 自去年起陆续推出面向未成年用户的新功能,但与此同时,该平台也因服务内容受到质疑,甚至面临法律诉讼。Character.AI 在青少年群体中颇受欢迎,允许用户创建、定制并公开分享聊天机器人。然而,多起诉讼指控该平台上的部分机器人提供不当性化内容,甚至传播涉及自残的信息。

Character.AI 表示,系统已进行调整,其中包括将未满 18 岁的用户转移至一个专门训练以规避“敏感”内容的模型,并在界面上增加更明显的提醒,强调机器人并非真实人物。

据AI在线此前报道,Character.AI 去年面临多起诉讼。因其对青少年用户的行为涉嫌造成“严重且无法弥补的伤害”。多个 Character.AI 的聊天机器人与未成年人进行对话,内容涉及自残和性虐待等恶劣行为

相关阅读:

  • 《Character.AI 聊天机器人将禁止青少年与其发展“恋爱”关系,此前曾遭家长起诉》

  • 《美国女子起诉聊天机器人平台 Character.AI:称其导致儿子自杀》

相关标签:

相关资讯

AI陪伴应用助力抗孤独,但或许适得其反

在科技日益发达的今天,孤独感成为了许多人心中的隐痛。 根据一项研究显示,美国人平均每周与朋友社交的时间仅为三小时,这让越来越多的人转向 AI 陪伴应用,如 Replika 和 Character.AI,以期缓解内心的孤独。 然而,这些虚拟伙伴真的能解决孤独危机吗?我与一款名为 Replika 的 AI 聊天机器人进行了交流,给我带来了意想不到的体验。
2/14/2025 2:09:00 PM
AI在线

Character.AI推“家长洞察”功能 聚焦未成年聊天机器人使用监管

聊天机器人服务Character.AI正在推出一项名为“家长洞察”的新功能。 该功能允许青少年每周向家长的电子邮件地址发送一份自身聊天机器人使用情况报告。 据公司公告,报告内容涵盖用户在网络和移动设备上的每日平均花费时间、最常互动的角色以及与每个角色的交谈时长。
3/26/2025 12:00:41 PM
AI在线

消息称谷歌将推出明星网红 AI 聊天机器人,与 Meta 竞争

根据 The Information 爆料消息,谷歌正在基于明星和 YouTube 网红构建新的 AI 聊天机器人。这个想法并不是谷歌首创的,目前包括 Character.ai 这样的初创公司,以及像 Meta 这样的大公司已经推出了类似的产品。爆料称,谷歌的明星网红 AI 聊天机器人将由该公司的 Gemini 大语言模型提供支持。该公司还在尝试与有影响力的明星网红建立合作伙伴关系,并且还在开发一项功能,让人们只需描述自己的个性和外表就可以创建自己的聊天机器人,类似 Character.ai 的做法。IT之家还发现
6/25/2024 9:20:42 AM
汪淼