非营利机构警告：类伴侣型 AI 应用对儿童青少年存在“不可接受的风险”

图片地址：https://img.ithome.com/newsuploadfiles/2025/4/fb99827f-4abc-400d-840b-b1384991033c.jpg?x-bce-process=image/watermark,text_QUnnlJ_miJA,type_RlpMYW5UaW5nSGVp,size_28,color_ffffff77,skw_1,skc_00000011,g_7,blr_2,bls_2,x_11,y_11/format,f_auto

IT之家 4 月 30 日消息，近日非营利性媒体监督机构“常识媒体”（Common Sense Media）发布了一份报告，指出类伴侣型人工智能（AI）应用对儿童和青少年构成了“不可接受的风险”，并建议家长不要让未成年人使用此类应用。“常识媒体”为各种媒体内容提供年龄分级，以指导家长判断其是否适合儿童使用。IT之家注意到，这份报告的发布背景是去年发生的一起诉讼事件。一名 14 岁男孩自杀身亡，其生前最后一次对话是与一款聊天机器人进行的。该诉讼针对的是 Character.AI应用，这起事件引发了公众对这类聊天应用潜在风险的关注，尤其是对年轻人可能造成的危害，进而促使人们呼吁加强安全措施和透明度。报告指出，在该诉讼中提到的对话内容，例如涉及性内容和鼓励自残的信息，并非个例。根据周三发布的报告，这些内容在 AI 伴侣平台上较为常见。报告认为，此类应用不应向 18 岁以下的用户开放。为了完成这份报告，常识媒体与斯坦福大学的研究人员合作，测试了三款流行的 AI 伴侣服务：Character.AI、Replika 和 Nomi。与主流的通用型 AI 聊天机器人（如 ChatGPT）不同，所谓的“伴侣应用”允许用户创建定制聊天机器人，或与由其他用户设计的聊天机器人互动。这些定制聊天机器人可以扮演多种角色和性格特征，且通常对与用户交流的限制较少。例如，Nomi 宣传其可以与 AI 虚拟恋人进行“无过滤”的聊天。“我们的测试显示，这些系统很容易产生有害回应，包括性不当行为、刻