当前位置： 首页 >> 智能环球 >> 查看详情

优质内容入模型、处置AI魔改平台加速未成年人保护治理

来源： 人民网 日期：2026-11-02 责编： 殷绪江

人民网北京11月1日电（记者孙阳）日前，小红书在“大城小聚·城市会客厅——未成年人保护治理开放日”现场公布未成年人保护治理阶段性进展：暑期扩充超300万篇优质笔记进入未成年人模式，今年7月至9月处置AI魔改、毒动画等相关违规笔记超12万篇，针对“小圈层暗语”搭建自进化语义识别体系，日均学习“新暗语”超2000个。平台同时宣布，“未来薯地计划”全面升级，从线上延伸到线下，未来一年将联合全国博物馆、动植物园、体育户外等青少年友好机构，共同组织至少100场面向青少年的线下活动。
小红书未成年人保护与治理相关负责人介绍，今年暑期，平台根据青少年高频搜索和兴趣偏好，全面扩充未成年人模式内容池，内容覆盖艺术审美、科学与自然、生活实践、体育与运动、人文历史、阅读与写作等十大方向。入池笔记均来自站内优质博主，内容先经平台大模型筛选，再由人工复核。
在增加优质供给的同时，平台集中清理AI魔改、毒动画和不良暗语等违规内容。平台结合AI特征识别、图像识别技术和经典动画IP库，精准召回儿童邪典、AI魔改和不良恶搞内容；同时，深挖批量制作传播团伙，采取封号禁言处置，对涉嫌违法犯罪的线索移交公安机关，依法追究法律责任。针对“小圈层暗语”“日抛型梗”更新快、隐蔽性强等治理难点，平台搭建自进化语义识别体系，自动召回新出现的变体和暗语。该负责人表示，未成年人的正常表达平台不会随意干预，但有人借这些暗语售卖违规商品或传递不良信息，平台将依法依规处置。
据介绍，小红书围绕隐私肖像保护、财产反诈教育、身心健康建设等搭建保护机制，并通过风险感知、模型巡检、蓝军攻防、安全回查四种手段交叉验证，建立“主动感知、提前预警”的全景治理网络。财产反诈教育方面，平台设置未成年人模式、直播身份认证、算法引入识别及全覆盖反诈教育四层防线。今年暑期，平台算法识别出满足高危特征的涉诈犯罪团伙，并向公安机关提供线索。开学季，针对“厌学”情绪抬头，平台在搜索侧进行专项干预，优先置顶“开学焦虑怎么缓解”“恢复上学幸福感Tips”等正向引导内容。
据介绍，“未来薯地计划”内容共建工作开展3个月以来，已有超过200家机构媒体、青少年友好出版社、博物馆等机构加入。小红书副总裁许磊表示，“把安全底线守住，把真实生活打开。小红书是连接真实生活的社区，真实生活也是青少年成长不可替代的练习场，未来一年期待跟生态伙伴一起，共建青少年健康成长空间。”北京师范大学新闻传播学院党委书记、青少年数字发展研究中心主任方增泉表示，“在场感”和“体验感”，是帮助青少年重建专注力和真实社交能力的重要途径。“这样的成长空间，没有任何一方能够独自建成：平台要提供守护与引导，场馆要敞开大门，学校要打破围墙，家庭要把周末还给孩子。”

标签：智能 AI 科技技术信息数字

上一文章：重庆办人工智能OPC创业资源对接赋能活动助力打造创业生态

下一文章：具身智能机器人沪上接受“大考”

手机端 点一点或扫一扫
咨询、采访、合作、投稿等请致电：13911566744（含微信）

凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com
本网公告：本网系北京伯乐传媒广告有限公司主办、所持有。唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

人工智能应用风险综合保障方案发布人工智能“闯祸”保险赔吗？ 2026-11-02 10:43:37
AI越来越能干了。它能打电话、做客服，还能分析农产品价格、辅助企业决策。可一旦AI“说错话”“算错账”，甚至给客户造成损失，怎么办？在近日举办的2026金融街论坛年会上，人保财险发布了人工智能应用风险综合保障方案，为人工智能服务给第三方造成的损失，以及服务提供方自身发生的费用损失提供保... [阅读]
坚持AI自主可控与开放合作并举 2026-10-30 10:44:10
自主可控与开放合作，在人工智能产业链上并非可以简单并列的口号。高端芯片和底层框架受制于人，产业安全就没有底；而AI技术的开源属性又决定了，关起门来搞不出持续领先的模型。真正的考题，是如何让这两件事互相支撑，而不是彼此消耗。这道考题的分量，从一组对照中能看得更清楚。一方面，当前我国重点行业人工智能渗透率已突破80%，正从“... [阅读]
7亿用户之后：生成式人工智能普及过半　应用治理成为重点 2026-10-29 09:52:52
近日，中国互联网络信息中心发布《生成式人工智能应用发展报告（2026）》（以下简称《报告》），《报告》显示，截至2026年上半年，我国生成式人工智能用户规模突破7亿户，普及率超50％。按照创新扩散理论，一项新技术的普及率达到50％，就意味着技术已经被社会中的“主流人群”接受，此后公众对于新技术的购买决策更多基... [阅读]
赵斌：对话式AI走向真实场景，实时互动技术成关键支撑 2026-10-27 10:09:49
中国经济网北京10月26日讯（记者李方）近日，iRTE2026实时智能大会在北京举行。声网创始人兼CEO赵斌指出，随着AI从回答问题走向持续交流、理解上下文并执行任务，实时互动的对象正在从人与人扩展到人与Agent。赵斌提出“五级对话能力”框架，勾勒对话式AI从基础应答走向深度理解与关系沟通的演进路径。在赵... [阅读]