当前位置： 首页  >> 智能环球  >> 查看详情

给“AI造”加标识，应对AI作假的有效之举

来源： 科技日报   日期：2025-03-17  责编： 殷绪江  
分享:
   近日，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》（以下简称《标识办法》），自2025年9月1日起施行，强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也将同步实施。
　　近年来，人工智能（AI）技术突飞猛进，AI生成合成的文字、图片、音视频等在网络平台迅速传播，在丰富信息内容的同时，也成为编造虚假信息、扰乱传播秩序、实施新型诈骗的帮凶。有利用AI撰写假新闻、造谣博眼球者；有假手AI发表评论，打造“智能水军”者；还有深度造假知名院士视频，带货宣传护肤品者；更有借助AI假冒明星，骗取老人钱财者……
　　AI技术给虚假信息披上高科技“伪装衣”，使“耳听未必为真、眼见未必为实”，且技术还在不断迭代，迷惑性越来越强。防范AI造假，不仅仅是网络平台的责任，依靠公众的“火眼金睛”去识别造假行为更不现实。
　　给AI生成合成内容添加标识，是从源头上治理AI造假的有效手段。如果把AI生成合成内容比作一种特殊产品，制作内容的AI服务商就是厂家，传播内容的网络平台就是商店。《标识办法》规定，厂家在产品出厂时要贴上标识引起商店关注，商店也要在销售时通过贴标识等方式提醒消费者注意。其作用就是从内容生产和传播的源头入手，给“AI造”打上识别码，使其更容易被网络平台检得出、被社会公众看得见。公众知道眼前信息源自AI，也就不会轻易上当受骗。
　　AI正在蓬勃发展，我们既要加强对其有违伦理方面的治理，但又不能因这种治理而阻碍技术进步。显然，制订《标识办法》注意到了这种平衡。比如，并未强制要求AI服务提供者采取难度过大、成本过高的标识技术，而是创新提出多种低成本标识方法，以避免增加企业负担、导致其对AI技术研发的投入受到影响。制订强制性国家标准，也充分吸纳了AI领域高科技企业的专业意见。相关部门的这些举措，体现了“统筹发展和安全”的治理理念。
　　当然，治理AI造假，除了信息标识，技术防范同样不可忽视。比如，对网络平台上没有依规标识的AI生成合成内容该如何检测？怎样提升检测能力？如果未检测识别出来且造成不良社会影响的，责任应当如何划分？还有，对那些我国法规约束之外的境外AI工具生成合成内容，其发布和传播该怎样管理？这些，都是在《标识办法》实施中值得关注和解决的问题。
　　AI可以拟人、助人，但不能骗人、坑人。我们相信，《标识办法》的发布和施行，将有效治理“AI造假迷人眼”的乱象，还网络空间以清朗，促AI发展之健康。（作者 胡定坤）





 
标签：人工智能科技AI大模型GPT

【免责声明】：
   凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com 
本网公告
环球科技网从不发布负面新闻资讯，也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。
本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

咨询、采访、合作、投稿等请致电：13911566744（含微信）
     
 
 


 

相关文章

  • 当DeepSeek学会说“人话”人类会被AI取代吗？ 当DeepSeek学会说“人话”人类会被AI取代吗？ 2025-03-07 10:37:50

       日前，一段普通用户与AI工具DeepSeek的对话截图在中文互联网广泛传播。一位网友提问：“我该选择普通一本还是985院校的冷门专业？”DeepSeek没有直接对比高校的学术资源或就业前景，而是以过来人的口吻写道：“人生是长跑，平台重要，但热爱和坚持才是燃料。如果冷门专业是你的‘光&r... [阅读]

  • 识别AI造假，只靠网友眼尖？ 识别AI造假，只靠网友眼尖？ 2025-03-06 10:24:57

       3月3日，著名演员刘晓庆通过微博澄清，微信视频号“晓庆人生”并非她的账号，直言相关账号“画面是我，声音很像我”。上海辟谣平台初步调查发现，相关账号使用AI技术，生成刘晓庆的声音、视频等。截至发稿，该账号已经不可见。但是，类似使用AI技术“傍名人”的帖子在社交平台... [阅读]

  • 深圳：加快推进人工智能终端产业发展 深圳：加快推进人工智能终端产业发展 2025-03-04 11:25:31

       3月3日，深圳市工业和信息化局发布《深圳市加快推进人工智能终端产业发展行动计划（2025—2026年）》。行动计划提到，推动智能电视、智能音响、智能门锁、扫地机器人等家电家居产品全面接入AI能力，在家庭娱乐、家庭安防、家务自动化、健康管理等重点场景，实现智慧家电、智慧安防、节能管理的无感联动，推动家庭空间从“... [阅读]

  • 从仿冒域名到仿冒程序 恶意软件“蹭热度”瞄上DeepSeek 从仿冒域名到仿冒程序 恶意软件“蹭热度”瞄上DeepSeek 2025-03-03 11:26:43

       伴随DeepSeek热度狂飙，各种仿冒网站、钓鱼网站也趁机“搭车”。安全专家提醒，这些“山寨网站”极易令不明真相的网友蒙受损失，甚至会肆意传播恶意软件，广大用户需加强终端安全防护，避免因误装恶意程序而造成敏感数据和隐私泄露。   日前，不少网友反映，搜索DeepSe... [阅读]

新闻排行榜

热门新闻

推荐新闻