当前位置： 首页  >> 智能环球  >> 查看详情

深度思维为AI生成文本“打水印”

来源： 科技日报   日期：2024-10-29  责编： 殷绪江  
分享:
   最新一期《自然》杂志发表的一篇论文称，谷歌深度思维团队开发了一种能为大语言模型生成文本添加水印的工具，可提高对合成内容的鉴别和追溯能力。
　　大语言模型（LLM）是广泛使用的人工智能（AI）工具，能为聊天机器人、文章写作和其他目的生成文本。不过，人们很难识别并追溯AI生成文本的来源，使信息的可靠性受到质疑。水印被认为能解决这一问题，但生产系统对质量和计算效率的严格要求阻碍了其规模化应用。
　　深度思维团队此次利用一种全新采样算法，开发出一个给AI生成文本添加水印的系统——SynthID-Text。该工具通过采样算法对LLM的词汇选择进行巧妙偏移，插入一个能被相关检测软件识别的签名。这既可以通过一种“扭曲”路径实现（能提高水印质量但会轻微影响输出质量），也可以通过另一种能保留文本质量的“非扭曲”路径实现。
　　深度思维已在多个公开模型上评估了这些水印的可检测性，结果显示，SynthID-Text的可检测性优于当前其他方法。他们还用Gemini LLM的近2000万次在线对话，评估了这些文本的质量，最终认为非扭曲水印形式不会降低文本质量。此外，使用SynthID-Text对LLM运行所需算力的影响可忽略不计，从而减少了应用上的障碍。
　　该研究证明，为生成式文本添加水印是可行的，其可提高AI使用的责任和透明度。 （记者张梦然）



 
标签：智能技术科技AI云计算5G


 
 
【免责声明】：
   凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com 
本网公告
环球科技网从不发布负面新闻资讯，也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。
本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

咨询、采访、合作、投稿等请致电：13911566744（含微信）
     
 
 


 

相关文章

  • 推动人工智能成为“底座技术”从中国计算机大会看人工智能发展趋势 推动人工智能成为“底座技术”从中国计算机大会看人工智能发展趋势 2024-10-29 10:33:25

       人工智能如何赋能新质生产力发展？如何补足大模型“能力缺陷”？……24日至26日在浙江省东阳市横店镇举办的2024中国计算机大会上，如何推动人工智能与各行各业不断融合，使其成为驱动经济社会数字化转型和创新发展的“底座技术”，引发与会专家热议。  &e... [阅读]

  • 周鸿祎谈AI前景：革新基础科学、自动驾驶、机器人和能源产业 周鸿祎谈AI前景：革新基础科学、自动驾驶、机器人和能源产业 2024-10-28 14:15:33

       【环球科技网】日前，嘉宾商学旗下标杆企业深度访学课程嘉宾派携国内知名企业家学员赴360集团访学，并接受360集团创始人周鸿祎授课。此次周鸿祎的授课内容主要围绕“拥抱大模型，打造新质生产力”这一主题，从大模型的发展趋势、运行机制以及应用落地方法论等角度进行阐述，旨在呼吁企业建立AI认知，抓住人工智能时代带来的高... [阅读]

  • 韩国餐饮业越来越多使用机器人“帮工” 韩国餐饮业越来越多使用机器人“帮工” 2024-10-28 09:28:18

       韩国餐饮业近年出现一个新趋势：越来越多餐饮企业使用机器人“帮工”，以应对劳动力短缺、人工成本上升的问题。据《韩国先驱报》报道，早在2019年，韩国就有少数餐饮企业开始尝试使用机器人；如今，更多企业效仿，机器人煮面条、削土豆皮、磨咖啡的场面越发常见。 　　韩国研发机器人的初创企业Robros2023年在首都首尔... [阅读]

  • 老牌工业城广西柳州培育智能终端及机器人产业 老牌工业城广西柳州培育智能终端及机器人产业 2024-10-28 09:27:12

        10月27日，广西柳州市召开智能终端及机器人产业发展合作大会，推动柳州传统产业焕新，因地制宜发展新质生产力，加力将智能终端及机器人产业打造成为柳州新的支柱产业。 　　作为西南工业重镇，汽车、钢铁、机械“老三样”是柳州市传统支柱产业。当前，柳州以“智”兴“质”，... [阅读]

新闻排行榜

热门新闻

推荐新闻