当前位置： 首页  >> 智能环球  >> 查看详情

可信能力将成为AI下一个“决胜点”

来源： 科技日报   日期：2026-11-09  责编： 殷绪江  
分享:
   当AI加速从展示性场景走向真实业务，“可不可信”成为关键问题。在日前举行的2026世界顶尖科学家论坛“人工智能平行论坛”上，科学家和产业界代表直面一系列现实问题：算法偏见、数据安全、生成内容幻觉、技术滥用，以及不断拉大的智能鸿沟。现实证明，AI不能等系统上线后再补安全课，可信不是“附加项”，而是“基本项”。中国科学院院士、华东师范大学终身教授何积丰早在2017年就提出了“可信人工智能”理念。在他看来，AI不应成为“黑箱”，可信不能停留在原则宣示上，而应嵌入AI研发全流程；应通过形式化方法和对齐技术，在知识理解和风险缓解环节前置安全机制，为技术可信奠定基础。
   在AI应用落地过程中，“为建而建”的形式主义并不少见，数据质量、业务融合和价值量化等领域的瓶颈突出。技术能力快速提升而治理能力相对滞后，正成为AI落地“最后一公里”的关键约束。可信AI不是一次性合规动作，而是贯穿研发、部署、运行全生命周期的治理能力建设。当前，主流大语言模型从海量互联网数据中提取统计规律，并据此预测下一个词元。而基于统计原理预测的AI系统，准确率不可能达到100%，智能体也始终可能产生不可预测的行为。若要让AI承担社会功能，未来可能需要引入物理规律和逻辑规律作为新的技术基础。2024年沃尔夫数学奖获得者、普林斯顿大学教授诺加·阿隆说，AI在数学解题上已表现出很强的能力，但“基本上是在使用现有方法，并未真正发明新方法”。换言之，AI能在既定问题空间内高效搜索；一旦问题空间本身被重新定义，它的“可靠性”就失去了参照。对齐也不是一次性写入规则，而是伴随模型能力演化的持续治理过程。
   2015年图灵奖得主、斯坦福大学荣休教授马丁·赫尔曼直言，AI风险、核战争威胁与气候变化归根结底同源：技术让人类拥有近乎“神明般”改造世界的能力，而人类的行为方式却仍像“不负责任的青少年”。他因此提出“过程性思维”：不能指望一次建成理想秩序，但必须开始从对抗转向合作。对AI全球治理而言，这意味着治理是持续校准、逐步嵌入护栏的过程，而不是“要么放任、要么封禁”的二选一。
   下一个十年，AI竞争不会只是模型参数和算力规模的竞争，更是可信能力与治理智慧的竞争。从“事后处置”转向“事前预防”，把可信从“工具附加项”转向“系统重构”，从追问“能做什么”转向追问“在哪些约束下能可靠地做成什么”——这或许是AI更深融入社会之前最需要补上的一课。（记者 王春）


 
标签：人工智能科技AI智能技术


手机端 点一点或扫一扫
咨询、采访、合作、投稿等请致电：13911566744（含微信）
         
凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com 
本网公告：本网系北京伯乐传媒广告有限公司主办、所持有。唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。
 

 





     
 
 


 

相关文章

  • 开源AI的竞争不是“零和博弈” 开源AI的竞争不是“零和博弈” 2026-11-09 10:25:10

       最近，中美欧接连推出多款先进开源大模型。10月29日，法国Mistral AI公司公布Le Chonk大模型权重，使其成为“欧洲最强开源模型”。11月4日，中国AI企业“月之暗面”Kimi K3.1 Pro大模型权重公开，性能位居开源模型前列。同日，腾讯发布“混元4&rdq... [阅读]

  • 价格不再是壁垒，只是入场券？面对行业转向“谁的机器人更会干活”的竞争 价格不再是壁垒，只是入场券？面对行业转向“谁的机器人更会干活”的竞争 2026-11-09 10:11:12

       今年3月，松延动力完成B轮融资，宁德时代系产业投资平台晨道资本领投。截至目前，松延动力累计完成10轮融资。但热度之外，真正的检验在交付端。今年初，姜哲源曾定下2026年小布米销量至少破万台的目标。截至今年9月，小布米累计交付刚过5000台。B端(企业端)和C端(消费者端)销售，小布米各占多少？“我个人体感大概各一半。&r... [阅读]

  • 中国科学院院士赵继宗：脑机接口稳定性需接受五年大考 中国科学院院士赵继宗：脑机接口稳定性需接受五年大考 2026-11-06 10:23:21

       今年以来，中关村论坛、世界人工智能大会、全国脑机接口创新大会接连展出各类脑控机械臂、康复外骨骼设备，脑机接口热度居高不下。从展会演示到临床病房，这项在不少人眼中带着科幻色彩的技术，进展究竟如何？哪些患者能从中获益？带着这些问题，科技日报记者专访了中国科学院院士、首都医科大学神经外科学院院长赵继宗。 　　厘清脑机接口真实临床价值 ... [阅读]

  • 万元级人形机器人迎来“真交付”新竞赛 万元级人形机器人迎来“真交付”新竞赛 2026-11-06 09:59:00

       因登上2026年央视春晚与蔡明搭档出演小品，人形机器人小布米迅速走红。叠加其在2025年机器人马拉松比赛中的出圈表现，由一路在清华园学习的姜哲源创办的松延动力，被业内寄希望于成为第二个宇树科技。今年3月，松延动力完成B轮融资，宁德时代系产业投资平台晨道资本领投。截至目前，松延动力累计完成10轮融资。但热度之外，真正的检验在交付端。 ... [阅读]

新闻排行榜

热门新闻

推荐新闻