当前位置： 首页 >> 数字生态 >> 查看详情

蚂蚁集团成立天象安全实验室搭建大模型安全研究体系

来源： 新华网 日期：2024-06-24 责编： 殷绪江

6月24日，记者从蚂蚁集团方面获悉，蚂蚁集团成立天象安全实验室，围绕大模型、Web3等新技术和场景背后的数字基础设施的安全做重点投入，并关注在人才建设、场景赋能、生态开放以及产学研技术融合落地。
据了解，天象安全实验室将重点聚焦下一代基础设施安全前沿探索，构建领先的大模型、Web3基础设施领域的安全研究体系以及自动化安全解决方案。
在大模型基础设施安全方向，重点针对大模型供应链安全，包括模型训练、微调、部署、运维的完整生命周期内涉及的三方库、插件、框架等的问题；在Web3基础设施安全方向，围绕在链平台安全、合约安全、链上攻防以及C端攻防开展工作，确保Web3技术能够稳健且安全地运行，保护去中心化应用和用户的资产安全。
同时，天象安全实验室设立了专家委员会，邀请来自电子科技大学、华中科技大学、中山大学、北京理工大学、上海交通大学等多所高校的专家学者力量，共同参与实验室建设，探索下一代数字基础设施安全科技，通过在web3安全以及大模型基础设施安全等技术方向形成合力，推动产学研技术融合落地。
目前，随着大模型（如大规模人工智能模型）和Web3技术的快速发展，这些新技术和场景对数字基础设施的安全提出了更高要求。对此，蚂蚁集团副总裁、大安全技术部总裁李俊奎表示，AGI、Web3等数字技术的发展和融合创新带来了全新的应用场景和生活方式，并为产业数字化带来了无限的想象力。如何以安全科技守护新技术、新场景发展高度依赖的数据要素、基础软件等基础设施的安全，也是我们当前必须面临的问题。安全必须跑到业务发展的前面，在黑灰产渗透之前，通过科技防范手段前置，夯实发展新质生产力的坚强保障。
公开信息显示，蚂蚁集团与OpenAI、谷歌、科大讯飞等企业联合编制的大模型安全国际标准已在瑞士举行的第27届联合国科技大会上正式发布。这些标准旨在提升大语言模型和生成式AI应用的安全测试水平，为行业提供统一的测试框架和方法，推动AI技术的负责任发展。
2023年，蚂蚁集团已经推出了名为“蚁天鉴”的大模型安全一体化解决方案，包含“蚁鉴2.0”安全检测平台，能够对文本和图像等所有类型的数据进行AI安全检测。该方案利用智能进攻对抗技术生成诱导性问题，对大模型进行诱导式问答，以检测模型回答的安全性，持续寻找潜在漏洞。

标签：数字经济数字金融智慧场景数字产业

上一新闻：机遇与挑战并存：夏季达沃斯论坛聚焦企业数字化转型

下一新闻：1秒钟千万亿次计算构筑“最强大脑”

【免责声明】：

凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com

本网公告
环球科技网从不发布负面新闻资讯，也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。
本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

咨询、采访、合作、投稿等请致电：13911566744（含微信）