当前位置： 首页  >> 智能环球  >> 查看详情

识别AI造假，只靠网友眼尖？

来源： 解放日报   日期：2025-03-06  责编： 殷绪江  
分享:
   3月3日，著名演员刘晓庆通过微博澄清，微信视频号“晓庆人生”并非她的账号，直言相关账号“画面是我，声音很像我”。上海辟谣平台初步调查发现，相关账号使用AI技术，生成刘晓庆的声音、视频等。截至发稿，该账号已经不可见。但是，类似使用AI技术“傍名人”的帖子在社交平台还有很多。演员靳东、医生张文宏、企业家雷军等，都曾被“AI造假”。造假者手段百出，或觊觎名人光环吸引流量增加粉丝，或假借名人形象、语音带货牟利，更有不法分子用AI数字人炮制诈骗陷阱，利用公众对名人的信任骗取钱财。
  值得注意的是，社交平台的AIGC（人工智能生成内容）不止于“傍名人”。很多服务行业、自媒体越发频繁使用AIGC为自己“添光”，有些场景的AIGC更是让观看者真假难辨。比如，在餐饮、设计、摄影等行业，用AI照片取代实景照片的现象越来越普遍。商家用这些技术生成的美图、美景招揽顾客。商家造假成本越来越低，效果却很好，普通人几乎难辨真伪。
  再比如，社交平台的分享等板块，美轮美奂的城市风光、鬼斧神工的自然景致让网友心潮澎湃。可当满心期待的网友向发布者追问具体地点时，得到的往往是沉默。直至有眼尖的网友一语道破天机：这些“照片”大概率是AI虚构的，发布者自然无法给出真实地址。面对AIGC渗透到生活的方方面面，如果只是提醒观看者提高警惕、加以辨别，不足以从根本上解决问题。对很多并不了解AI等新技术的网友来说，更是不可能完成的任务。
  所以，要解决AIGC充斥网络的问题，必须从源头上采取举措。
  一方面，相关平台必须正视目前AIGC充斥网络的现状，直面平台自己的问题，而不是一味将责任推卸给发布者。不难发现，一些商家、自媒体之所以热衷于AIGC，是因为这些内容能够躲过平台的审核机制，以“真实”的形象出现在社交平台上，甚至利用平台现有算法，为它们的扩散获得机会。以“傍名人”类AIGC为例，不法分子利用名人效应吸引眼球，与此同时，平台也成为名人效应的受益者。所以，“傍名人”的现象层出不穷，平台做的却只是“账号被举报甚至被官方查处后才封号”的事后管理，而没有从发布伊始就拒绝相关虚假信息。
  再比如，AIGC之所以出现在“分享”板块中，与传统算法不辨真伪有关。传统算法过度聚焦用户即时反响，单纯依据互动量等指标推荐内容，却忽视了AIGC带来的虚假性问题，反而为虚假内容扩散大开绿灯。
  要解决以上问题，必须有的放矢，精准施策。
  首当其冲的是名人账号监管亟待强化。名人作为公众焦点，一旦账号被盗用、造假，危害深远。所以，平台应该构建更加严格的名人账号认证体系，确保账号创建与运营的真实性。
  其实，现有的很多技术已经可以帮上忙，比如通过面部动态识别、声纹加密比对等生物技术手段，判断是“真人”还是“数字人”；或者用最简单的方式——人工审核，加大对各种冠以名人名号的账号审查，发现“傍名人”“假名人”后立刻下架，将负面影响扼杀在萌芽状态。
  其次，给AIGC打上技术“烙印”势在必行。AI生成的文字、图片、视频混杂在信息流中，普通用户很难凭肉眼甄别。指望造假者主动标注，也无异于与虎谋皮。所以，大模型开发者等提供AIGC服务的企业有必要与信息发布平台联手，用技术手段为AIGC生成人眼不可识别但技术能够鉴定的“隐形标签”、特殊标志。这样一来，只要用户在平台上发布AIGC，平台就能自动识别，并添加水印、标签，注明“AI制造”身份，既让用户在浏览时心中有数，避免被虚假信息误导，也便于后续的内容追溯与管理。对于故意隐匿AIGC标志、企图鱼目混珠的发布者，则可以施以惩罚，如限流、封禁账号等，以儆效尤。
  最后，针对那些缺乏关键要素却博人眼球的信息，平台可以要求发布者补充关键信息；若发布者无法按照要求完成，则可以采取公开提示、流量限制、封号清退等方式，督促发布者上传真实信息。
  更进一步，法律法规也要快步跟上AIGC的“狂飙”速度。相关部门应加快制定针对AI造假、虚假信息传播的法律法规，明确造假者、平台方、传播者等各方的责任边界。对利用AI实施诈骗等违法犯罪行为严惩不贷，震慑不法之徒；对平台疏于管理导致虚假信息泛滥的情况，以巨额罚款倒逼平台守土有责。（记者 任翀）




 
标签：智能技术科技AI云计算5G

【免责声明】：
   凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com 
本网公告
环球科技网从不发布负面新闻资讯，也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。
本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

咨询、采访、合作、投稿等请致电：13911566744（含微信）
     
 
 


 

相关文章

  • 深圳：加快推进人工智能终端产业发展 深圳：加快推进人工智能终端产业发展 2025-03-04 11:25:31

       3月3日，深圳市工业和信息化局发布《深圳市加快推进人工智能终端产业发展行动计划（2025—2026年）》。行动计划提到，推动智能电视、智能音响、智能门锁、扫地机器人等家电家居产品全面接入AI能力，在家庭娱乐、家庭安防、家务自动化、健康管理等重点场景，实现智慧家电、智慧安防、节能管理的无感联动，推动家庭空间从“... [阅读]

  • 从仿冒域名到仿冒程序 恶意软件“蹭热度”瞄上DeepSeek 从仿冒域名到仿冒程序 恶意软件“蹭热度”瞄上DeepSeek 2025-03-03 11:26:43

       伴随DeepSeek热度狂飙，各种仿冒网站、钓鱼网站也趁机“搭车”。安全专家提醒，这些“山寨网站”极易令不明真相的网友蒙受损失，甚至会肆意传播恶意软件，广大用户需加强终端安全防护，避免因误装恶意程序而造成敏感数据和隐私泄露。   日前，不少网友反映，搜索DeepSe... [阅读]

  • 高通AI白皮书：DeepSeek-R1模型凸显科技行业创新趋势 高通AI白皮书：DeepSeek-R1模型凸显科技行业创新趋势 2025-02-21 10:22:33

       新华社洛杉矶2月20日电（记者谭晶晶）美国高通公司20日发布中文版人工智能（AI）白皮书，认为尖端AI推理模型DeepSeek-R1的推出在整个科技行业引起巨大反响，颠覆了关于AI发展的传统认知。 　　这份名为《AI变革正在推动终端侧推理创新》的白皮书说，该模型凸显科技行业在打造高质量小语言模型和多模态推理模型方面的创新，以及这些创... [阅读]

  • AI加速接入生活 究竟会带来什么 AI加速接入生活 究竟会带来什么 2025-02-21 10:18:27

       DeepSeek在多家医院完成本地化部署；微信测试接入DeepSeek；部分地区政务系统已接入……众多行业产业与DeepSeek“联姻结对”的消息接踵而至，令人不禁想问：AI正在加速接入我们的生活，究竟会带来什么？    国家治理教研部研究员、博士生导师翟云指出... [阅读]

新闻排行榜

热门新闻

推荐新闻