3.15浏览量 谨防正在损害青少年的AI聊天“善意陷阱”

■孔德奇的人工智能个性化聊天应用程序正以隐藏的软色情内容和虚假的社交诱惑悄然侵入青少年的成长空间。一些宣扬“情感陪伴”、“浪漫角色扮演”的AI聊天应用，充斥着“婚姻第一、爱情第二”、“禁忌的暧昧”等低俗内容。然而，所谓的“小模式”是名副其实。用户只需一键跳转即可继续“放纵”。 （摘自新京报报道）未成年人心智尚未成熟。如果你没有真正合适的陪伴或指导，你就更有可能感到孤独并增加倾诉的欲望。 AI伴侣聊天产品准确抓住了这一弱点，以24/7即时响应、无条件服从、迎合最佳的方式迅速让青少年产生情感依赖。中国青少年研究中心2025年调查显示，超过60%的未成年人使用过AI聊天软件，超过20%的人表示“只是想聊天”与人工智能聊天看似可以缓解孤独感，但实际上是低质量的即时满足。由于青少年长期沉浸在低俗刺激的信息环境中，是非界限很容易模糊，甚至导致他们将虚假的互动与真实的关系等同起来，导致他们在社交的关键阶段“逃课”或“落后”。这种伤害是隐性的、持久的，而且可能无法恢复。很多AI聊天产品从一开始就针对未成年人，界面偏向，支付隐藏，身份验证环节滞后。显然，涉及的平台不受技术限制，而是受利益驱动，“选择性盲目”，让位于保护未成年人的社会责任和为了流量变现而赚取短期利润的企业道德责任。这不仅是对社会责任的背叛，更是对法律最低底线的触犯。 《未成年人保护法》、《互联网未成年人保护条例》等法律可以在网上查到。明确，成瘾产品和服务提供者不得向未成年人提供致瘾的产品和服务。人工智能聊天应用故意掺入低俗内容规避监管要求的行为，涉嫌利用未成年人心理脆弱性传播虚假价值观，其行为违法。人工智能的温暖应该体现在保护青少年成长上。实行实名认证和“未成年人模式”作为第一道防线。面部识别或其他任何方面都不应该有“灵活性”的空间。未经验证的用户应该具有有限的基本功能并且完全堵塞漏洞。 AI聊天的交互内容来自训练数据和c后面的人物设定。相关部门应排查AI聊天应用的训练数据、角色配置、交互逻辑，建立可审核、可追溯、负责任的内容“防火墙”，杜绝色情、暴力、极端情绪诱导等违法内容。同时，加大整治力度，遏制虚假的“流量至上”逻辑，我们将采取高额罚款、下架等惩罚措施，纠正违规应用。学校和家长还应加强教育引导，提高青少年媒介素养，增强自卫意识，教会他们如何正确使用人工智能产品，教会他们主动退出虚拟世界，拥抱现实社会交往。无论包装多么明智和温柔，法律和道德决不允许我们把孩子的孤独变成生意，把未成年人的脆弱变成交通事故。徐先生被强奸。（编辑：李东阳）