当前位置: 首页  >> 智能环球  >> 查看详情

发展金融大模型需注重安全可信

来源: 科技日报   日期:2023-08-29  责编: 殷绪江  
分享:

  “作为人工智能应用的重要场景,金融行业是大模型技术和算法突破的沃土。”8月28日,在重庆两江新区举行的金融大模型发展论坛暨马上消费金融大模型发布会上,中国工程院院士倪光南表示。

  论坛上,多位院士专家围绕生成式人工智能和金融大模型展开了讨论。

  中国工程院院士、浙江大学求是特聘教授谭建荣讲解了大模型的关键技术与发展趋势。他介绍,过去的人工智能强调因果关系,而现在大数据强调关联关系,从不确定性中寻找确定性,从变量中找出不变量。

  “生成式人工智能的三大技术特征就是大数据、大模型和大算力。”谭建荣表示,生成式人工智能是基于知识工程和知识图谱的大模型,知识工程就是从数据里凝练出知识,这是人工智能的核心,其目的还是提高人们借助现代化工具利用信息的能力。

  “生成式人工智能的基本定位还是智力劳动者的助手。”欧洲科学院外籍院士、清华大学人工智能研究院常务副院长孙茂松表示,生成式人工智能不会把一个行业整体取代。通用大模型ChatGPT对文本语言比较重视,对数字其实不敏感,所以有时候会答非所问。另外,通用大模型的落地也是一大挑战,如用在金融领域就很有可能出现“鸡同鸭讲”的情况。

  “坦诚地讲,在工业领域、金融领域,通用大模型还有4个关键的难题。”马上消费金融股份有限公司(以下简称马上消费)首席信息官蒋宁表示,这4大难题包括关键性任务和动态适应性、个性化要求和隐私保护、群体智能与安全可信以及基础设施的能力。

  应对人工智能风险方面,国际系统与控制科学院院士、重庆国家应用数学中心主任杨新民表示,随着大模型的开放开源,深度合成技术的非法使用存在加速积聚的风险。

  针对提升大模型应用的可信实践,中国信息通信研究院副总工程师王爱华在致辞中表示:“可信人工智能实践的路径逐步清晰。人工智能发挥作用越大,对于安全可信的要求也就越高。”

  会上,马上消费发布全国首个零售金融大模型——“天镜”。“我们希望在任何情况下‘天镜’给客户的回答、给所有员工的回答是合规的,并且在任何不可预期的情况下是稳定的。”蒋宁表示,马上消费已形成“三纵三横”的大模型发展技术布局。所谓三纵,是指实时人机协作、多模态智能、数据决策智能,在数据领域实现智能化和结构性数据判别式模型的综合能力。三横是指持续学习、模型合规、组合式AI形成安全合规可信的鲁棒性技术能力,确保让模型越用越聪明,同时更稳定、更安全可控。

  基于此,中国信息通信研究院、重庆国家应用数学中心和马上消费牵头发起,阿里云、复旦大学金融科技研究院、腾讯云、中国科学院自动化研究所等单位联合倡议发起“金融大模型可信安全验证与联合创新行动计划”。(记者 雍 黎)



 


 
 
【免责声明】:
   凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿,如需转载图片请保留 “环球科技网” 水印,转载文字内容请注明来源“环球科技网”;凡本网注明“来源:XXX(非环球科技网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其作品内容的实质真实性负责,转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题,请投诉至邮箱;1978751725@qq.com 
本网公告
环球科技网从不发布负面新闻资讯,也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。
本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名(www.hqkjw.cn),其它域名链接均为假冒。望广大网民及企业主认真甄别。


咨询、采访、合作、投稿等请致电:13911566744(含微信)

     
 
 


 

相关文章

  • 大模型的高速发展和渗透带来生成式人工智能的广泛应用 大模型的高速发展和渗透带来生成式人工智能的广泛应用 2023-08-29 14:10:50

       正如数十年前计算机技术、互联网革命引领了技术与生产方式的历史性变革,生成式人工智能开始深刻地影响人们生活的方方面面。当我们使用生成式人工智能高效搜索、生成文本、提高工作效率,当我们感受训练聊天机器人的新鲜感,当我们在文本之上使用图像生成、音频视频生成,生成式人工智能的潜在风险也在不知不觉中逐渐渗透。    科技... [阅读]

  • 新研究利用人工智能将大脑信号转换成语音和动画表情 新研究利用人工智能将大脑信号转换成语音和动画表情 2023-08-29 14:08:43

       新华社北京8月28日电美国加利福尼亚大学旧金山分校近日发布公报说,该校参与的研究团队开发出一种脑机接口,通过训练人工智能算法,成功将一名因脑干中风而严重瘫痪的女性的大脑信号转换成语音和动画表情,使这名女性患者能够通过“数字化身”与人交流。   加州大学旧金山分校和伯克利分校等机构研究人员在这名瘫痪女性大脑表面植入一个... [阅读]

  • 硬科技与人工智能创新成果最热门 硬科技与人工智能创新成果最热门 2023-08-28 14:12:23

       日前,在HICOOL 2023全球创业者峰会分舞台,30余个获奖项目和优秀项目同台路演,为创业者提供与投资机构零距离对接的机会。路演现场,高端装备、新能源、人工智能、虚拟现实等细分领域的项目团队轮番登台,硬科技与人工智能领域的创新成果备受关注。   新材料推动节能环保   “我们的技术受到了撒哈拉沙漠中一种蚂... [阅读]

  • 欧盟人工智能发展的探索与困扰 欧盟人工智能发展的探索与困扰 2023-08-23 09:03:57

       近年来,欧盟把绿色和数字转型视为经济发展的两大抓手。作为数字战略的一部分,欧盟一直在积极推进人工智能的发展和监管,将目标锚定在赶超世界领先的人工智能发展大国上。    2018年4月,欧盟委员会发布相关文件,概述了协调人工智能发展和部署方法,旨在增加对人工智能研究和创新的投资。此外,欧盟通过“地平线... [阅读]