当前位置： 首页  >> 智能环球  >> 查看详情

“技术标准+管理制度”规范人工智能发展

来源： 科技日报   日期：2025-03-17  责编： 殷绪江  
分享:
   近日，国家网信办联合多部门发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自9月1日起施行。生成式人工智能、深度合成等新技术快速发展，为生成合成文本、图片、音视频等提供了便利工具，在促进经济发展、丰富网上内容、便利公众生活的同时，也造成虚假信息传播、破坏网络生态等问题。
　　国家网信办有关负责人表示，《标识办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地。同时，减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。
　　探索显隐双标识机制
　　“生成合成内容标识已成为国际惯例。”公安部第三研究所副所长金波介绍，欧盟《人工智能法》、美国《编辑和深度伪造内容来源保护完整性法案》、英国《人工智能（监管）法案》等均对水印、标识义务有要求。在我国，2023年1月施行的《互联网信息服务深度合成管理规定》提出针对文本、图像、音频、视频、虚拟场景等信息内容的标识要求，2023年8月施行的《生成式人工智能服务管理暂行办法》承袭相关规定。
　　此次《标识办法》明确，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
　　《标识办法》要求，服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照要求对生成合成内容添加显式标识；服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识；提供网络信息内容传播服务的服务提供者应当采取技术措施，规范生成合成内容传播活动。
　　“我国迄今已备案生成式人工智能产品300余款，生成合成服务3000余个，有力推动了人工智能行业的快速发展。”国家计算机网络应急技术处理协调中心正高级工程师张震表示，《标识办法》是对我国人工智能算法治理体系的进一步完善。
　　实现全链条治理
　　《标识办法》明确，互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求服务提供者说明是否提供人工智能生成合成服务。对此，张震谈到，《标识办法》明确了文本、图像、音频、视频等多模态的标识要求，将安全治理深入到内容模态层面，并创新性地将传播平台纳入监管范畴，实现从生成到传播的全链条治理。
　　值得注意的是，配套《标识办法》，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》（以下简称《标识标准》）将于9月1日同步实施，以更好指导相关主体规范开展标识活动。
　　“这开创了技术标准与管理制度配合实施的新型治理模式，标志着我国人工智能安全治理迈入‘技管双强’的新阶段。”中国电子技术标准化研究院副院长范科峰认为，二者协同发布，破解了以往治理中管理规范与技术标准衔接不畅的问题。
　　在他看来，作为我国人工智能领域首部“办法+强标”组合拳，其在管理维度明确生成、传播、分发全链条主体责任，在监管维度建立审核、监测、追责的闭环机制，在技术维度规范显隐标识体系并预留创新空间，这种三位一体的治理架构为人工智能安全治理提供了清晰的实施路径。（记者 崔 爽）



 
标签：人工智能科技AI大模型GPT

【免责声明】：
   凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com 
本网公告
环球科技网从不发布负面新闻资讯，也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。
本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

咨询、采访、合作、投稿等请致电：13911566744（含微信）
     
 
 


 

相关文章

  • 给“AI造”加标识，应对AI作假的有效之举 给“AI造”加标识，应对AI作假的有效之举 2025-03-17 11:12:12

       近日，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起施行，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也将同步实施。 　　近年来，人工智能（AI）技术突飞猛进，AI生成合成的文字、图片、音视频等在网络平台迅速传播，在丰富信息内容的同时，也成为编造虚... [阅读]

  • 新松工业机器人产业促进峰会沈阳顺利召开 新松工业机器人产业促进峰会沈阳顺利召开 2025-03-14 20:40:33

       【环球科技网】3月14日，新松工业机器人产业促进峰会暨合作伙伴大会在沈阳成功召开，超200家机器人产业链上下游企业代表及多位行业专家齐聚一堂，面向工业机器人产业前沿发展趋势、技术革新方向和市场需求热点探讨交流。    新松公司副总裁刘子军为大会致欢迎辞。他表示，广大合作伙伴在新松公司的产业发展进程中发挥了至关重... [阅读]

  • 深圳出台具身智能机器人产业发展行动计划 深圳出台具身智能机器人产业发展行动计划 2025-03-14 10:46:44

       3月12日，记者从深圳市科技创新局了解到，该局日前印发《深圳市具身智能机器人技术创新与产业发展行动计划（2025—2027年）》（以下简称《行动计划》），旨在抢抓全球人工智能与机器人技术融合发展的战略机遇，加速构建具身智能机器人产业创新生态，推动具身智能机器人产业高质量跨越式发展，加快建设国际国内领先的具身智能机器人产业... [阅读]

  • 从“新奇玩具”到“实用好物”：智能机器人成为中国消费市场新热点 从“新奇玩具”到“实用好物”：智能机器人成为中国消费市场新热点 2025-03-14 10:26:02

       清晨的泰山南天门，山风裹着寒意掠过海拔1460米的石阶。当第一批游客还在艰难攀登时，一只银灰色四足机器狗已驮着半人高的储物箱，在陡峭的“十八盘”上完成多个来回。这段视频在中国的社交媒体上走红，“它居然会侧身避让！”一位游客举着手机追拍机器狗，镜头里这个最大载重120公斤的智能机器狗在4... [阅读]

新闻排行榜

热门新闻

推荐新闻