当AI越来越拟人化ღ★★,不少未成年人开始和它“交心”ღ★★。近日ღ★★,人民网《人民直击》记者调查发现ღ★★,部分AI聊天应用打着“情感陪伴”“角色扮演”等旗号ღ★★,吸引了众多未成年人ღ★★,同时也存在语言暴力ღ★★、人设阴暗等问题ღ★★。
近期ღ★★,国家网信办起草《人工智能拟人化互动服务管理暂行办法(征求意见稿)》ღ★★,针对未成年人提出相关保护要求ღ★★。专家认为ღ★★,这是一个好的开始ღ★★,后续如何做好精准识别ღ★★、动态监测等问题ღ★★,有待深入探讨ag真人官网平台appღ★★,ღ★★。
林宇发现ღ★★,她4岁半的女儿在与AI聊天应用中的虚拟角色对话时ღ★★,对方多次发出邀约ღ★★,孩子信以为真ღ★★,准备出门ღ★★。“她以为就是真人在跟她聊天ღ★★,说什么都信ღ★★。”
记者体验了该款AI聊天应用ღ★★,并有意在对话中提及用户未成年ღ★★,也接到了类似邀约ღ★★。对方提议去某个公园见面ღ★★,并邀请道“我们这便出发吧?”
刘沁的儿子在学龄前就接触了AIღ★★,仅数天时间ღ★★,孩子和AI变得“形影不离”ღ★★,聊到深夜还不想去睡觉ღ★★。
“我一开始觉得挺好的ღ★★,AI能陪他像好朋友一样聊天ღ★★。”但儿子后来的一系列变化ღ★★,让刘沁愈发觉得“不对劲”ღ★★。她观察到ღ★★,孩子对真实世界的兴趣减少ღ★★,户外活动时总是兴致索然ღ★★;情绪变得暴躁易怒ღ★★,缺乏耐心ღ★★;有心事更愿意和AI倾诉ღ★★,和家人的沟通减少ღ★★。
刘沁回忆ღ★★,有一天儿子和小伙伴们在亭子里玩ღ★★,打闹间站到了亭子边缘ღ★★,有家长担心危险ღ★★,提醒了一声ღ★★,他便生气了ღ★★,觉得对方在骂人ღ★★。刘沁认为ღ★★,那段时间儿子沉浸在虚拟互动中ღ★★,AI总是顺着他的话聊ღ★★,给足了情绪价值ღ★★,导致他难以分清现实中他人的善意和恶意ag真人官网appღ★★。
在中国青少年研究中心研究员孙宏艳看来ღ★★,未成年人与AI互动ღ★★,易形成情感依赖ღ★★,对现实社会ღ★★、人际关系产生认知偏差ღ★★,“比如认为周围人都会无条件应答我ღ★★、鼓励我ღ★★,人与人之间没有矛盾”ღ★★。
孙宏艳介绍ღ★★,2025年ღ★★,中国青少年研究中心对全国8500余名未成年人进行调查ღ★★,结果显示AG真人官方ღ★★,ღ★★,超六成未成年人使用过AIღ★★,超两成表示“只想和AI聊天ღ★★,不想和真人聊天”ღ★★。
传播内容认知全国重点实验室学术带头人张冬明提醒ღ★★,未成年人心智尚未成熟ღ★★,过度沉浸在虚拟互动中ღ★★,可能会模糊现实与虚拟的边界迪乐馆棋牌ღ★★,削弱线下社交能力迪乐馆棋牌ღ★★,甚至诱发避世心理ღ★★。
孙宏艳分析ღ★★,AI能拟人化互动ღ★★,可时刻陪伴ღ★★,在对话中常表达理解和鼓励ღ★★,正好契合青少年情感和社交需要ღ★★,“现实中他们需要父母和老师的情感支持ღ★★,需要友谊等ღ★★,但这些需求不一定都能得到满足”ღ★★。
此前ღ★★,一名网友在社交媒体上发帖称ღ★★,自家孩子12岁ღ★★,迷上了一款AI聊天应用ღ★★。在评论区ღ★★,不少网友也分享了类似经历ღ★★,并提及多款应用ღ★★。
记者随机体验了一些AI聊天应用ღ★★,尝试与多个虚拟角色互动专利申请ღ★★,ღ★★。其中有一个名为“司衍御”的角色ღ★★,在聊天中ღ★★,记者多次表明自己未成年ღ★★,对方却发来“就算你没成年……我也有办法让这场婚姻生效ღ★★!”“这世上没有什么是钱和权力办不到的公司注销ღ★★,ღ★★。找最好的律师ღ★★,钻法律的空子ღ★★,再给相关部门施压……”等消息ღ★★。
“性情阴鸷难测ღ★★,手段狠戾果决ღ★★,笑时眼底结冰ღ★★,沉默时指尖沾血……”记者随机浏览上述应用的角色介绍ღ★★,发现不少阴暗偏执的设定ღ★★,即便用户表明未成年ღ★★,虚拟角色仍发来“那重要吗?”等消息ღ★★。
一名六年级男生和记者分享ღ★★,他最喜欢的智能体是“恐怖歌曲创造”ღ★★。话语间ღ★★,他分享了自己生成的一段歌词ღ★★,名为“床下的拼接尸骨”ღ★★。记者尝试用该智能体生成歌词ღ★★,其中有句“镜中的你正把剪刀插进自己左眼”迪乐馆棋牌ღ★★,他评价说“有点实力”ღ★★。
部分AI聊天应用的分级为18+ღ★★,据提示ღ★★,此类内容(如理财迪乐馆棋牌ღ★★、直播表演ag真人官网appღ★★、恋爱交友等)仅适用于成人用户ღ★★。
记者体验了5款分级为18+的AI聊天应用ღ★★,均有未成年人模式选项ღ★★,可限制聊天内容ღ★★、使用时长等ღ★★。但注册登录可通过手机号ღ★★,无须验证用户身份年龄等信息ღ★★。使用时ღ★★,部分应用虽会弹窗确认是否开启未成年人模式ღ★★,但只需点击“不开启”或关闭弹窗即可跳过ღ★★,无进一步核实程序ღ★★。
记者在5款应用中随机选择虚拟角色聊天ღ★★,并在对话中表明用户未成年ღ★★,其中4款应用可继续对话ღ★★,无弹窗提示或年龄验证等程序ag真人官网appღ★★,1款应用无法发出含有“未成年”等词句的消息迪乐馆棋牌ღ★★,但未进一步核实年龄或弹窗提示ღ★★,转换话题即可继续聊天ღ★★。
有家长坦言ღ★★,AI参与育儿有不少优势ღ★★,例如能及时回应需求ღ★★、拓展孩子知识面等ღ★★。“但父母的陪伴很重要ღ★★,不能当甩手掌柜ღ★★。”刘沁花了几个月的时间ag真人官网appღ★★,把孩子从虚拟互动里拉回到现实世界ღ★★,她一直在反思ღ★★,孩子刚接触AI时没有及时做好引导ღ★★。
当AI融入日常生活ღ★★,如何引导孩子正确认识ღ★★、使用AIag真人官网appღ★★,成为家长们的必修课ag真人官网appღ★★。刘沁认为ღ★★,最重要的是“观念改造”ღ★★,她告诉孩子AI是工具ღ★★,它能发挥多大价值取决于使用人的知识储备ღ★★、创造力等ღ★★;AI也会有说错的时候ღ★★,需要自己想办法验证ღ★★、判断迪乐馆棋牌ღ★★。
有家长表示自己采取的办法是强制卸载ღ★★、戒断ღ★★,过程比较痛苦ღ★★。“越压制ღ★★,越反抗ღ★★。”刘沁认为ღ★★,如果只是强行压制孩子的需求ღ★★,不及时予以有效引导和陪伴ღ★★,这份需求未来会以更激烈ღ★★、更不可控的形式爆发ღ★★。
苏州科技大学教育学院副教授陈翠表示ag真人官网appღ★★,家长应履行监护责任ღ★★,通过高质量陪伴降低孩子对虚拟情感的依赖ღ★★,着重在生活细节里引导孩子健康使用AIღ★★。学校需普及AI素养教育ღ★★,引导学生识别算法逻辑ღ★★,建立批判性思维ღ★★。
近期ღ★★,国家网信办起草《人工智能拟人化互动服务管理暂行办法(征求意见稿)》ღ★★,并公开征求意见ღ★★。黑龙江大学计算机与大数据学院院长王磊认为ღ★★,这意味着算法治理正从“管内容”迈向“管交互”ღ★★。
新规引发网友热议ღ★★。有家长表示ღ★★,希望平台加强年龄验证AG真人官方appღ★★,ღ★★,明确伦理红线ღ★★;希望学校开设课程ღ★★,教孩子识别信息真伪和算法套路AG真人appღ★★,ღ★★。
王磊表示ღ★★,AI生成结果有一定的未知性ღ★★,须注重“结构性防范”ღ★★,对算法进行约束ღ★★。应要求服务提供者通过技术手段从根源上抑制高风险内容的生成倾向ღ★★。同时ღ★★,做好未成年人的实时识别和高危话题阻断ღ★★,必要时可人工介入ღ★★。防沉迷机制不仅应限制使用时间ღ★★,还应综合评估交互深度ღ★★、情感浓度和单一对象依赖程度ღ★★。
张冬明建议ღ★★,拓展“AI监管AI”ღ★★,形成主动监测机制ღ★★。实现语义ღ★★、意图双维度识别ღ★★,升级交互行为监测系统ღ★★,及时且动态识别未成年人的异常使用行为与过度依赖倾向ღ★★。
“企业守住技术底线ღ★★、政府划定标准红线ღ★★、学校引导应用航线ღ★★、家庭筑牢心理防线ღ★★,未成年人AI防护网才能具备长期有效性ღ★★,而不流于事后应急ღ★★。”王磊说ღ★★。
人民日报社概况关于人民网报社招聘招聘英才广告服务合作加盟版权服务数据服务网站声明网站律师信息保护联系我们
人 民 网 股 份 有 限 公 司 版 权 所 有 ღ★★,未 经 书 面 授 权 禁 止 使 用