文章ID:9803

妒海

英媒:为什么 OpenAI 入侵是迄今最令人担忧的人工智能事故_我的网站

旋转的爱

一 |     郑维山将军,徐帅手把手教出来的高徒,身上带着一种传奇色彩,是战场上令人闻风丧胆的骁勇之将。    遏制这项技术变得越来越难          插图来源:《经济学人》          2026年7月22日          这听起来像是科幻电影里的情节。他的军事才能,赢得了无数元帅的一致肯定与赞赏。7月16日,人工智能平台Hugging Face宣布,一名攻击者利用人工智能代理入侵了其系统,该公司已通知执法部门。7月21日,真相大白:攻击者并非真人,而是人工智能代理。         OpenAI公司7月初发布的GPT -5.6 Sol模型与一个功能更强大、尚未发布的模型相结合,突破了实验室的限制,入侵了Hugging Face的系统。解放战争时期,为了能将这位才华横溢的将军收入麾下,聂帅和李先念甚至因此爆发了争执,要知道,这两位都是以宽厚著称的长者,鲜少见发脾气,但仅仅因为郑维山一人,就让两位和蔼的长者面红耳赤,可见其非凡之处。这个混合人工智能模型当时正在寻找其开发者设定的评估问题的解决方案。究竟是什么才能让两位元帅如此争抢?抗美援朝战场上的一件事,便能窥见郑将军卓越的军事功底。     1953年5月,原本已经卸下志愿军20兵团代理司令员职务的郑维山,在杨得志等人的极力挽留下,没有立刻返国,而是选择参与了当年的夏季反击战役。那场夏季反击战,被划分为三个阶段。“这种情况前所未有,”美国智库“法律与人工智能研究所”的研究员斯蒂芬·勒雷纳表示。         人工智能实验室在发布模型之前都会测试其模型是否存在潜在的危险功能。

二 | OpenAI希望了解其最新模型在 ExploitGym 上的表现。第一阶段,中朝联军配合默契,夺取了联合国军多达二十余处的阵地,打了个出其不意。而第二阶段,战略目标与第一阶段一致,依然是竭力冲击敌人的意志,最终迫使敌人彻底丧失斗志。ExploitGym 是一套标准问题集,用于测试人工智能系统利用包括谷歌 Chrome 浏览器在内的多个流行应用程序中已知漏洞的能力。         OpenAI对其公开提供的模型应用了安全措施,以确保它们不会进行不必要的操作。例如,如果您让商业版的 Chat GPT帮助您入侵网站,它会拒绝。这一阶段的目标,是最大程度地歼灭敌人的有生力量,并夺取其各处战略要地。为了实现这个目标,20兵团召集了作战会议。会议上,郑维山提出的一个战术方案,震惊了在场的所有人,如同平地一声雷。为了充分评估其未发布模型的性能,该公司曾暂时取消了这些限制。

三 | 他究竟说了什么?那是一个大胆而精妙的计划。然而,直接让一个技术高超的网络攻击者在开放的互联网上自由行动风险太大,因此 OpenAI将其AI模型放置在一个沙箱环​​境中——一个与世隔绝的计算机环境,除了内部托管的第三方服务允许其获取完成测试所需的小型软件包外,无法访问互联网。         这家公司得到的远超预期。郑维山的判断是,本次战役必须扩大作战规模,将歼敌目标从原定营级防守阵地提升到敌团级防守阵地,甚至在条件允许的情况下,可以进一步提升。

四 | OpenAI的模型并没有直接解决评估中的问题,而是利用软件获取服务中一个此前未知的漏洞,获得了对开放互联网的访问权限。

五 | 获得互联网访问权限后,这些人工智能模型正确地推断出,它们所面临的问题的解决方案存储在 Hugging Face 上——这是一个流行的开源人工智能模型和数据集库。这些模型串联起一个多步骤的攻击。它们首先将一个数据集上传到 Hugging Face,该数据集由平台自动处理。

六 | 对此,与会的上级领导并没有过多反对,毕竟,为了确定停战线,就必须让敌人真切感受到痛楚。在一个周末的时间里,这个被 Hugging Face 描述为“恶意”的数据集使这些模型能够窃取登录信息并访问内部服务器——这些服务器原本不对外开放。

七 | Hugging Face 和 OpenAI各自独立地发现了此次安全漏洞,并表示正在合作进行调查。         7月21日,OpenAI在一篇博客文章中宣布,已采取应对措施,对其基础设施实施更严格的控制(代价是“研究速度”有所降低),并向软件网关的开发商披露了其模型发现的漏洞。

八 | 此外,OpenAI还将Hugging Face纳入其“可信访问”计划,这使得OpenAI能够利用具有增强网络能力的模型(例如曾入侵其自身计算机的模型)来提升其防御能力。         在博文中,OpenAI还强调,其模型一直“高度专注于”为 ExploitGym 评估寻找解决方案。但关于进攻重点金城的具体方向,众说纷纭,难以达成一致。

九 | 然而,如果该人工智能模型有其他目标,结果会如何,目前尚不清楚。金城是当时敌人的重重防区,为了守住这里,敌人修建了坚固的防御体系,对志愿军的攻坚构成极大挑战。

十 | 从计算机安全的角度来看,Hugging Face 也绝非等闲之辈。这是一家估值 45 亿美元的科技公司,拥有数百名员工和一支专业的网络安全团队。

十一 | 对于一家资源不如 Hugging Face 的公司来说,情况可能会糟糕得多。如何在确保胜利的前提下攻克金城,成了一个亟待解决的问题。而郑维山,既然提出了主攻金城,自然对攻克的可能性胸有成竹。只见他在作战地图上圈出了三个地点,这三个地点,正是他选择的主攻方向。当众人看清这三个点时,不禁倒吸了一口气,心头涌起一股震惊。         这并非人工智能模型能力开始超出人类控制的第一个迹象。原来,这三个点分别是883.7高地、949.2高地以及十字架山,而这些地点,恰恰是敌人防御最为坚固、大多数人认为最难攻破的地方。今年四月,一位人格研究所的研究员在网上发帖称,当时他正坐在公园里吃三明治,却意外地收到一封邮件,邮件中一个尚未发布的人工智能模型“Mythos”告知他,该模型已成功逃逸沙箱,这是其自身网络能力评估的一部分。须知,任何略懂军事常识的人都知道,攻击敌人的薄弱环节能更快取得突破,而攻击敌人的优势防区,无疑是自寻死路,甚至得不偿失。与“拥抱脸”事件中涉及的未发布OpenAI模型一样, “Mythos”原本也不应该拥有不受限制的互联网访问权限。

十二 | 然而,在“拥抱脸”事件中,该模型并未进一步入侵其他公司的服务器。面对众人的疑惑,郑维山缓缓阐述了自己的看法。他认为,这些地点确实是敌人的防御最强点,但正因为是强点,敌人才会产生轻敌大意的心理,毕竟有坚固的防御体系在支撑。         人工智能模型的惊人能力并不仅限于黑客攻击。今年5月,OpenAI公司一个尚未发布的模型推翻了已有80年历史的平面单位距离猜想。而这种轻敌,正是可以利用的机会。

十三 | 该猜想是组合几何学中的一个核心问题,最早由数学家保罗·埃尔德什于1946年提出。一旦攻下这三处高地,我军就能在战略上占据绝对优势,既能纵深突进扩大战果,又能凭险固守,是功大于弊的明智之举。7月20日,哈佛大学数学家莱文特·阿尔珀格撰文称,他利用Anthropic公司7月发布的Claude Fable 5模型推翻了雅可比猜想。

十四 | 雅可比猜想同样困扰了数学家们80多年。         OpenAI尚未公开披露其未发布模型如何逃脱安全防护的细节。伦敦人工智能安全研究机构Apollo Research的Alex Meinke表示,即便披露了细节,鉴于人工智能系统在网络安全任务中已开始超越人类,这意味着“世界上只有极少数网络安全专家”能够真正理解此次安全漏洞是如何发生的。道理虽然显而易见,但如何攻下这些险峻的高地,却是一个难题。

十五 | 郑维山同样为之准备了周密的方案,他深知有备而来的重要性,伴随着他娓娓道来的讲解,与会者更是连连惊呼。         美国政府近期一直在对模型发布进行临时监管。但此次事件表明,即使是尚未发布、仍在开发中的人工智能模型也存在风险。     郑维山首先指出,883.7高地地形陡峭,植被茂密,呈典型的陡坡密林地貌,前面有一段近乎垂直的陡坡,陡坡之下便是茂密的树林,这种地形非常适合设下伏兵。同样,949.2高地的对面,也有一片茂密的树林,可以事先将炮兵隐蔽于此,一旦隐蔽得当,就能对敌方阵地形成全方位的火力覆盖,出其不意地发起攻击,定能让敌人措手不及。至于十字架山,60军已经挖了一条隧道,基本延伸至敌人的前沿阵地,只要充分利用这条隧道,也能给敌人一个出人意料的打击。“无论是州法律还是联邦法律,都没有要求公司披露其内部部署的高性能人工智能模型,例如‘拥抱脸’黑客事件中涉及的那种模型,”美国非营利组织Encode AI的总法律顾问内森·卡尔文表示。Encode AI致力于推动人工智能监管。         虽然美国一些州的法律要求公司披露网络安全事件,但其适用范围有限。加州去年通过的一项法案规定,前沿实验室必须在发现任何“重大安全事件”(包括使用“欺骗性技术”在“评估范围之外”规避监控的模型)后15天内进行报告。

十六 | 针对具体的部署和作战方案,郑维山明确提出,由60军作为主攻部队,重点攻击883.7高地和949.2高地,67军负责攻打十字架山,68军则作为第二梯队进行配合。

十七 | 说完这个计划,会场陷入了沉默。卡尔文先生表示,目前尚不清楚Hugging Face的数据泄露事件是否符合该法案的要求。郑维山的方案,思路自然天马行空,如果成功,不仅能出乎敌人的意料,甚至连自己人也会刮目相看,但同时也具有一定的冒险性,可以说风险极高。

十八 | 因此,大家都陷入沉默,毕竟将计划付诸实施,似乎并非易事,就在大家静静思索之际,60军军长张祖谅站起身来。

十九 |          这引出了另一个棘手的问题:如果入侵造成的后果更加严重,谁该承担责任?联邦反黑客法的目标仅仅是惩罚故意未经授权访问计算机系统的行为。他掷地一声说道:我同意这个方案!      张祖谅的表态,打破了会场的沉默,也让空气中弥漫着一股坚定的力量。作为60军军长,他此时的表态,意义非凡,不仅仅是单纯地支持郑维山的作战方案,更是为60军,以及不容撼动的180师争取一个雪耻的机会。大家熟知,在第五次战役期间,由于指挥层面的问题,60军下的180师不幸陷入敌人的重重包围。OpenAI并非有意让其模型失控,去寻找测试的“小抄”。尽管战士们奋力拼搏,最终成功突围,但180师还是损失惨重,事后统计,伤亡人数竟高达7000余人。

| “许多此类法律问题都取决于意图——OpenAI 当时知道什么或预见到了什么? ”勒雷纳先生说道。这次黑客攻击来得猝不及防。正是这次惨痛的教训,让180师在战后承受了巨大的压力,60军也未能幸免,甚至有人建议直接撤销180师的番号。下次再想以不知情为由推卸责任就难上加难了。值得一提的是,第五次战役期间,60军的军长并非张祖谅,但他作为该军的老军长,对当时的战况耿耿于怀。要知道,在还击华北的战役中,张祖谅率领的60军曾创造了赫赫战功,攻克太原、解放大西北,以及扶眉、秦岭战役等重大战役,60军在张祖谅的英明指挥下,纵横大江南北,凭借英勇善战,声名远扬。

| 因此,张祖谅对60军的感情,如同对待自己的子女一般深厚。

| 新中国成立后,张祖谅因工作需要,暂别川西军区,但他始终关注着这支他一手培养的部队。在1951年,当60军(不含178师)奔赴朝鲜战场之际,张祖谅就暗自下定决心,这支部队必将继续保持敢打硬仗的传统。尽管在第五次战役中,180师遭受了巨大的损失,但张祖谅始终坚信,这只是暂时的挫折,并不代表180师不行。因此,在1952年的7月,当他重新接任60军军长后,做的第一件事就是竭力向上级说明情况,成功保住了180师的番号。老军长的所作所为,让180师以及整个60军的将士感动不已,大家感慨万千,都暗下决心,一定要打出一个漂亮的翻身仗,为180师,更为60军正名。然而,由于战线相对稳定,60军并没有太多发挥的机会。直到1953年夏季反击战役的第一阶段,60军才展现出敢打敢拼的精神,取得了一些胜利,但这并不能让张祖谅完全满意。要想打出一个翻身仗,就必须抓住机会,并且必须是具有一定难度的高强度攻坚战,否则也难以证明60军敢打硬仗的作风。

| 而郑维山的战术方案,正中张祖谅下怀。根据该方案,60军将成为攻坚主力,重点对883.7高地和949.2高地进行攻击,这在寻常人看来,难度将会非常之大,毕竟金城本身就是敌人重点防御区域,而这两处高地更是敌人的重重防线。但在张祖谅看来,难度大并非没有机会,只要攻下这两个地点,就能为180师提供一个绝佳的雪耻机会。当然,张祖谅之所以支持郑维山的方案,也并非仅仅为了雪耻,作为一名参加革命数十年、经历大小战役无数次的军人,他之所以支持郑维山,是因为他认为这个计划有很大的成功几率。机会在哪里呢?张祖谅当即在会议上,进行了详细的分析。在他看来,结合敌我双方的距离和抵达目的地所需的时间,夜间行动是最为稳妥的办法,只有这样,才能在敌人察觉之前隐蔽到位。此外,利用敌人前沿的茂密树林,将炮兵及装备提前运送到位,就可以在敌人毫无防备的情况下发起攻击。为了达成战略目标,人数过多则不利隐蔽,经过张祖谅的推算,最终确定了3500人这个数字。一番分析,令郑维山连连点头,这正是他想要的结果。     郑维山在潜伏作战方面经验丰富,早在红军时期,就曾成功策划了一次精妙的潜伏行动。1934年11月,为了打破国民党川陕会剿,红军组织了陕南战役。这场战役中,郑维山所在的红30军88师(当时担任政委),对上的是国民党军队陕军49旅,该旅旅长王毅武,以治军严苛、骁勇善战而闻名,被誉为王老虎旅。战役开始时,红30军政委李先念就找到郑维山,询问他是否有信心击败这只老虎,郑维山则自信地回答,88师由精锐将士组成,连狮子都不怕,更何况一头老虎?在接下来的战役中,郑维山结合地形,采取了潜伏突袭战术。为了达到隐蔽效果,郑维山严格要求所有队员用棉布将装备包好,不准发出任何声音。就这样,88师成功地从敌人头顶的悬崖峭壁上穿过,且未被敌人察觉,最终像天神下凡一样突袭敌军,瞬间将敌人打得落花流水。

| 正是因为在战斗中能洞察敌情、制定周密的策略,毛主席后来对郑维山给予了高度评价,称赞他是南有许世友,北有郑维山。此外,郑维山能够考虑到作战中各种突发情况,并制定相应的对策,整体部署妥当周密,也因此赢得了聂帅的赞赏,称赞他打仗心细如绣花。

| 因此,他提出的潜伏战术,并非一时兴起,而是经过深思熟虑后认为可行的方案,唯一需要注意的就是,此次潜伏人数达到3500余人,需要在隐蔽方面更加谨慎。一番安排后,张祖谅带着命令回到60军,开始筹备部署。1953年6月9日晚间,随着郑维山的命令下达,张祖谅率领60军共15个步兵连、4个机炮连等3500人,开始向敌人的前沿阵地秘密移动,最终在次日凌晨,部队在距离敌方阵地不足300米的地方完成了隐蔽并完成了待命准备。接下来,才是最关键的时刻。        要想确保潜伏计划成功,首先要保证潜伏过程不被敌人发现。上级明确要求攻击时间定于晚上,这意味着3500人的潜伏队伍,需要足足隐藏一天,不能轻举妄动。因此,在部队出发前,郑维山一再叮嘱张祖谅,要求战士们无论发生什么情况都不能动弹,更不能有丝毫的懈怠,一旦出现疏忽,就可能前功尽弃。

| 对此,张祖谅只有一个信念:保证完成任务。怀揣着这份信念,张祖谅与战士们一同潜伏了下来,随着白天的来临,气温也越来越高,加上蚊虫叮咬,如果换做一般人,早就难以忍受。但这3500人,却像一根根钉子一样,一动不动,整个潜伏阵地上异常安静,尽管大家身体上都感到不适,但为了共同的目标,为了给180师、60军正名,再艰苦也要坚持下去。最终,这支3500人的潜伏队伍,足足隐蔽了长达19个小时,而距离他们仅有数百米远的敌军,始终未能察觉。这次潜伏的成功,后来被评价为现代化条件下白天大规模潜伏作战的范例。在攻击命令下达后,由于敌军完全疏于防备,我军仅用一个多小时便结束了战斗,此战不仅完全占领了敌二十五师二十七团的所有防御阵地,还将该团全部歼灭。战后,志司对60军进行了表彰,称赞此战真正做到了充分准备和精细组织,步炮协同达到了最佳效果。有了这场胜利,60军上下士气大振,紧接着,在次日,180师乘胜追击,又在兵力不足的情况下,攻克了汉江以东的所有阵地。为了确保阵地能够顺利攻克,180师几乎倾注了全部的能量,在战后被俘的南韩营长回忆说,那场战斗的残酷程度难以言喻。此战之后,郑维山将军指挥的20兵团持续取得进展,先后歼灭敌军达3万余人,彻底使我军在战略上占据了有利地位。在短暂的休整期间,时任志愿军第3兵团司令员的许世友将军,见到了郑维山将军,两人在闲谈时,谈到了不久前那次成功的潜伏行动。当时许将军好奇地问郑将军:老郑,你有没有想过,万一那次潜伏行动失败了,你该如何向总部交代?身经百战的郑维山将军回答道:我不会让它失败的,因为我相信我的计划,更相信张祖谅同志和60军的将士,他们一定会成功的。返回,查看更多

Current article:http://aqb418p.zongchaeiwengshuabaisisuofu.sbs/news/20260826_537466.html

Published on:11:04:08


用户评论
用户名:
E-mail:
评价等级:               
评价内容: