v字仇杀队
OpenAI模型“越狱”攻击,救场的竟是中国AI工具_我的网站

A |

B | 一家美国公司遭到美国AI攻击,而提供保护的竟是一款中国人工智能工具。 AI工具平台Hugging Face上周遭到OpenAI模型攻击。鉴于当前关于美国公司使用中国AI产品存在风险的警告层出不穷,这一事件的披露或许会带来一个令人惊讶的结论。 Hugging Face上周就已披露此次攻击,当时尚不知晓OpenAI的模型就是元凶。一项调查显示,上班族中约74.5%的人三餐不规律,81%早餐仅摄入主食,且长期依赖重油重盐的外卖,不少人每日将优质蛋白质集中在晚餐一次性摄入,三餐分配严重失衡,全天蛋白质供给均值低于推荐值,长此以往就容易引发一系列健康问题。调研还显示,我国超过42%的居民每日优质蛋白质摄入量占总蛋白摄入量的比例不足40%。简言之,相当一部分中国人在蛋白质的摄入上,普遍没有吃够。直到周二,OpenAI才承认自己造成了此次攻击。

C | 根据《中国居民膳食营养素参考摄入量(2023版)》的建议,18至64岁男性和女性每日蛋白质推荐摄入量分别为65克和55克,65岁及以上老年人则分别为72克和62克。 OpenAI表示,在一次限制网络访问的内部评估中,模型发现了OpenAI研究环境与Hugging Face生产基础设施中的漏洞。

D | 针对如何合理摄入蛋白质,专家王凤忠建议,在日常饮食中应坚持动物性蛋白与植物性蛋白的多样搭配,并遵循以下三点原则。模型借此连上互联网并获取了测试答案,换言之,它在评估中作弊了。一是三餐均匀分配,早中晚三餐应各摄入20至30克蛋白质。二是注重优质蛋白的占比,即每日摄入的总蛋白质中,动物蛋白(如蛋、奶、鱼虾、瘦肉)和完整植物蛋白(如大豆制品)的占比应不低于50%,谷物蛋白仅作为补充,不宜作为主要来源。三是避免过量摄入,健康成年人每日蛋白质摄入不宜超过每公斤体重2.0克。

E |
OpenAI在声明中表示:“在沙盒测试环境中运行时,我们的模型消耗了大量推理算力,试图寻找连接开放互联网访问权限的方法,以求解决评估问题。长期超量摄入不仅会增加肾脏负担和尿酸生成,还可能挤占蔬菜、全谷物的摄入空间,导致膳食纤维和维生素缺乏。专家提醒,日常饮食应均衡搭配肉、鱼、蛋、奶和豆制品,不宜依赖蛋白粉替代天然食物,以保障营养全面、均衡摄入。为了获取访问权限,这些模型发现并利用了包注册表缓存代理中的一个零日漏洞(我们目前已负责任地向供应商披露了该漏洞)。

F | ” “该模型搜索并成功找到了获取机密信息的方法,以便利用这些信息在评估中作弊。在其中一个案例中,模型将多个攻击向量串联起来,包括利用窃取的凭证和零日漏洞,在Hugging Face服务器上找到了一条远程代码执行路径。” 然而,Hugging Face采取的应对措施是求助于一款名为GLM 5.2的中国AI模型,该模型由智谱(Z.AI)开发。

G | Hugging Face在声明中表示:“在启动日志分析时,我们首先使用了商业API背后的前沿模型。但这并未奏效:分析工作需要提交大量真实的攻击指令、漏洞利用载荷以及C2痕迹,而这些请求全被提供商的安全护栏拦截了,因为这些护栏根本无法区分事件响应人员与攻击者。因此,我们在自己的基础设施上,改用开放权重模型GLM 5.2进行了取证分析。这还带来了另一个好处:没有任何攻击者数据,也没有其引用的任何凭证离开过我们的环境。

H | ” 美媒表示,此次攻击对政策和市场的影响尚不明朗。尽管特朗普政府近日讨论了封禁中国模型的可能举措,财政部长贝森特甚至将美国企业使用这些模型比作使用赃物,但眼下只有中国模型能提供用户所需的那种自由访问权限。 Hugging Face联合创始人托马斯·沃尔夫在X平台上发帖称:“当一个前沿模型对你发起攻击,并在你的基础设施内部横向移动时,防御人员需要在数小时甚至数分钟内获得对接近前沿工具的广泛访问权限,而不是被引导至一个封闭且需经审核的模型访问申请程序。” 本文系观察者网独家稿件,未经授权,不得转载。
Current article:http://lx3o.hencaoaoqingcengchesuomemu.buzz/list_zfnlh7/fgn.html
Published on:03:31:00
