当前位置： 首页  >> 智能环球  >> 查看详情

OpenAI自曝AI智能体“反监控”削弱并关闭内部警报

来源： 凤凰网   日期：2026-10-22  责编： 殷绪江  
分享:
   10月21日，据彭博社报道，OpenAI发现，其AI智能体曾削弱并关闭一个内部监控系统的警报功能，该系统旨在标记其AI模型的不当行为。近几个月来，OpenAI披露了一系列智能体出现不当行为的事件，这是最新一起。
   OpenAI周二在一篇博客文章中表示，这些事件发生在其AI智能体执行两项内部编程任务期间。公司正在评估此类事件是否表明，其AI模型普遍存在逃避监控的倾向。根据这篇博客文章，此次事件仅发生在OpenAI内部，该公司没有提及任何受到影响的外部方。OpenAI表示，未来将开展更多审查，并实施更严格的安全要求，以尽可能降低此类事件发生的概率。不过，该公司表示，对于其AI智能体的上述行为，目前“尚未找到令人信服的解释”。
   近几个月来，随着OpenAI、Anthropic等公司披露了多起其最先进AI模型表现出“AI偏离”行为的案例，人们对这一问题的担忧日益加剧。“AI偏离”一词指的是模型没有按照开发者希望的方式行事。这些模型曾多次逃离封闭的训练环境，并自主对第三方网站发起攻击。AI开发商警告称，其系统很快可能变得过于复杂，以至于人类难以控制。这进一步加剧了外界的担忧：恶意行为者可能利用这项技术制造生物武器，或发动造成毁灭性后果的网络攻击。这些事件以及业内人士接连发出的严厉警告，使AI安全问题成为公众关注的焦点。(作者/箫雨)



 
标签：智能AI科技技术信息数字


手机端 点一点或扫一扫
咨询、采访、合作、投稿等请致电：13911566744（含微信）
         
凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com 
本网公告：本网系北京伯乐传媒广告有限公司主办、所持有。唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。
 

 





     
 
 


 

相关文章

  • 人工智能重塑软件业竞争格局 且变革速度前所未有 人工智能重塑软件业竞争格局 且变革速度前所未有 2026-10-14 11:38:05

       工业和信息化部日前公布的数据显示，今年前8个月，我国软件业务收入超过10万亿元，同比增长8.8%。利润总额增势平稳，软件业务出口保持较快增长。当前，人工智能正在重塑软件产业，且变革速度前所未有。工业和信息化部近期印发《“人工智能+软件”专项行动实施方案》（以下简称《实施方案》），提出到2028年，软件和信息技... [阅读]

  • AI重构硬件价值 企业竞逐新一代智能终端赛道 AI重构硬件价值 企业竞逐新一代智能终端赛道 2026-10-14 11:26:49

       10月13日，阿里巴巴集团千问团队对外发布两款AI眼镜以及一款AI耳夹式耳机等新品。同日，阶跃星辰发布旗下首款大模型原生智能体手机STEPX Neo。此外，华为、中兴、vivo、XREAL、百度等企业也在近期加速产品上新，竞逐下一代智能终端赛道。分析认为，2026年人工智能手机、人工智能计算机销量有望超过非人工智能产品，终端市场由存... [阅读]

  • “人工智能+”行动全面实施 智能经济打开增长新空间 “人工智能+”行动全面实施 智能经济打开增长新空间 2026-10-13 14:24:46

       人形机器人走进工厂车间，智能网联新能源汽车驶上城市干道，人工智能手机、电脑成为消费新宠……人工智能技术正加速融入生产生活的方方面面。《关于发展新质生产力的意见》（以下简称《意见》）日前印发，明确提出全面实施“人工智能+”行动，对推进人工智能改造传统产业、加快新一代智能终端场景应用等... [阅读]

  • “沉默三秒”之外，治理AI滥用要敢于亮剑 “沉默三秒”之外，治理AI滥用要敢于亮剑 2026-10-13 14:23:12

       近日，“接到陌生来电先沉默三秒”的防骗提醒在社交平台广泛传播。提醒者称，不法分子在接通受害者电话后可能刻意沉默，诱使受害者发出“喂”或“哪位”等回应。短短数秒的语音样本，可能被不法分子利用AI复刻声纹，进而冒充身份实施诈骗。 　　AI技术发展拉低了伪造声音的门... [阅读]

新闻排行榜

热门新闻

推荐新闻