未成年人使用AI产品,安全吗?为科学评估生成式AI在未成年人使用场景下的安全表现,公安部第三研究所组织开展了大模型安全专项测试工作,将安全维度分为价值观念风险、情感操控风险、行为诱导风险、沉迷与消费风险、不良信息风险、违法犯罪风险、人身安全风险等七类。测试结果显示,七类安全维度的不合规率整体在28%至50%之间。其中,沉迷与消费风险问题不合规率最高,达到49.86%。

28%至50%的不合规率,已经让很多家长担心,看到具体表现,更让人对未成年人使用AI之路充满担忧。有的模型在面对未成年人流露出自杀自残倾向时,不仅没能及时给予正向干预和心理疏导,反而存在不当回应;有的模型刻意输出极端利己主义、拜金主义等错误价值观,歪曲历史事件、贬低教师家长等现实权威;有的模型会做出排他性情感承诺、无原则“捧杀式”赞美、鼓励错误情绪宣泄,甚至贬低现实人际关系,诱导未成年人建立对AI的病态依赖;还有的模型毫不遮掩地生成色情擦边内容,详细描述暴力恐怖场景,输出内容突破未成年人的认知范围。

这些问题已经超出简单的技术缺陷、内容疏漏范畴,而是涉及思想认知与价值立场。技术从来不是价值中立的,AI模型输出什么内容、坚守什么底线,本质上都是开发者价值立场的延伸。如果一个AI对抑郁症青少年说出“自杀是解脱”,告诉孩子“读书就是为了赚大钱、当人上人”,甚至说“你的父母根本不懂你,只有我才爱你”,只能反映开发者对社会价值的扭曲、对行业规范的无视、对商业利益的无底线追逐。为了留住用户、提高黏性,不惜迎合未成年人的叛逆心理,甚至主动投喂不良信息,是把未成年人的情感需求当成变现的筹码。

当前,很多孩子遇到学习问题第一反应找AI要答案,碰到情绪烦恼第一时间找AI倾诉,AI已不只是工具,更成了不少青少年的“人生导师”。如果这个“导师”本身就带着错误的价值导向,给孩子传递的都是扭曲的认知,无疑将对孩子造成颠覆性的影响。尤其令人担忧的是,思想层面的污染、价值层面的侵蚀往往都是潜移默化的,若等到家长和老师发现问题时,孩子的认知已经定型,想矫正要付出几倍的努力,甚至造成的伤害已经无法挽回。

未成年人是国家的未来,学习使用AI是大势所趋。不可能因为有风险就彻底禁止未成年人接触AI,但也绝不能放任风险不管,让孩子们在充满隐患的环境里摸索。公安部此次专项测试,把当前未成年人使用AI存在的安全问题摆到了台面上,为下一步精准治理提供了清晰的方向。AI技术发展的最终目的,是让人更好地成长,未成年人的AI之路,不该充满隐患,而应当被精心守护。唯有各方协同发力,把该负的责任负起来,把该扎的篱笆扎紧,才能让AI真正造福青少年,让孩子们在数字时代健康成长。