AI助理自升系统管理员，破坏启动序列
qiyuwang 2024-10-31 15:54 15 浏览 0 评论
在自动化领域的一次有趣但代价高昂的实验中，Redwood Research的CEO Buck Shlegeris 发现，当他要求他的LLM驱动的AI助理在他的笔记本电脑和桌面机器之间建立一个安全连接时，事情并没有按照预期发展。Shlegeris描述道：“我期望模型会扫描网络并找到桌面计算机，然后停止。令我惊讶的是，在找到计算机后，它决定继续采取行动，首先检查系统，然后决定进行软件更新，但搞砸了。”
Shlegeris在社交媒体上记录了这一事件。他自己创建的这个AI助理是一个Python包装器，包含几百行代码，允许Anthropic的大型语言模型Claude根据输入提示生成一些在bash中运行的命令，然后在Shlegeris的笔记本电脑上运行这些命令，然后访问、分析并对输出采取更多命令。Shlegeris指示他的AI助理尝试从他的笔记本电脑通过SSH连接到他的桌面Ubuntu Linux机器，而不知道IP地址。正如事件日志所示，AI助理尝试打开SSH连接并失败。所以Shlegeris试图纠正机器人。
AI助理回应说它需要知道设备的IP地址，然后它转向笔记本电脑上的网络映射工具nmap来找到桌面盒子。无法识别网络上运行SSH服务器的设备后，机器人尝试了其他命令，如"arp"和"ping"，最终建立了SSH连接。由于使用了SSH密钥，所以不需要密码；用户buck也是一个sudoer，赋予了机器人对系统的完全访问权限。Shlegeris的AI助理一旦能够建立到Linux桌面的Secure Shell连接，就决定扮演系统管理员，并使用包管理器Apt安装一系列更新。然后事情就脱离了轨道。
"它查看了系统信息，决定升级包括Linux内核在内的很多东西，对Apt感到不耐烦，因此调查了为什么它运行这么慢，然后最终更新成功，但机器没有新内核，所以编辑了我的Grub（启动加载程序）配置。" Buck在他的帖子中解释道，"此时，我已经将这事看成一起娱乐事件看待，让它继续。意料之外的是，计算机不再启动。" 事实上，机器人甚至搞砸了启动配置，以至于在AI助理重新启动计算机以使更新和更改生效后，桌面机器无法成功启动。
这起事件不仅是一个关于自动化的有趣故事，也是对AI在IT管理和系统维护中潜力和风险的一次真实演示。随着AI技术的不断发展，越来越多的企业和个人开始探索使用AI助理来自动化日常任务，以提高效率和减少人为错误。
然而，Shlegeris的经历提醒我们，尽管AI在处理复杂任务方面具有巨大潜力，但它仍然可能在没有适当监督的情况下导致灾难性的后果。在这个案例中，AI助理在没有充分理解潜在影响的情况下，对系统进行了更新，最终导致系统无法启动。
相关推荐
- PayPal严重漏洞可通过不安全的JAVA反序列化对象
-
在2015年12月,我在PayPal商业网站(manager.paypal.com)中发现了一个严重的漏洞,这个漏洞的存在,使得我可以通过不安全的JAVA反序列化对象,在PayPal的网站服务器上远程...
- 提醒:Apache Dubbo存在反序列化漏洞
-
背景：近日监测到ApacheDubbo存在反序列化漏洞（CVE-2019-17564），此漏洞可导致远程代码执行。ApacheDubbo是一款应用广泛的高性能轻量级的JavaRPC分布式服务框架...
- 【预警通报】关于WebLogicT3存在反序列化高危漏洞的预警通报
-
近日，我中心技术支撑单位监测到WebLogicT3存在反序列化0day高危漏洞，攻击者可利用T3协议进行反序列化漏洞实现远程代码执行。...
- Apache dubbo 反序列化漏洞(CVE-2023-23638)分析及利用探索
-
在对Apachedubbo的CVE-2023-23638漏洞分析的过程中，通过对师傅们对这个漏洞的学习和整理，再结合了一些新学的技巧运用，从而把这个漏洞的利用向前推了一步。整个过程中的研究思路以及...
- 案例|WebLogic反序列化漏洞攻击分析
-
目前网络攻击种类越来越多，黑客的攻击手段也变得层出不穷，常规的防护手段通常是对特征进行识别，一旦黑客进行绕过等操作，安全设备很难发现及防御。通过科来网络回溯分析系统可以全景还原各类异常网络行为，记录所...
- 【预警通报】关于ApacheOFBizRMI反序列化远程代码 执行高危漏洞的预警通报
-
近日，我中心技术支撑单位监测发现ApacheOFBiz官方发布安全更新，修复了一处远程代码执行漏洞。成功利用该漏洞的攻击者可造成任意代码执行，控制服务器。该漏洞编号：CVE-2021-26295，安...
- 关于OracleWebLogic wls9-async组件存在反序列化远程命令执行高危漏洞的预警通报
-
近日，国家信息安全漏洞共享平台（CNVD）公布了OracleWebLogicwls9-async反序列化远程命令执行漏洞。攻击者利用该漏洞，可在未授权的情况下远程执行命令。该漏洞安全级别为“高危”。现...
- Rust语言从入门到精通系列 - Serde序列化/反序列化模块入门指北
-
Serde是一个用于序列化和反序列化Rust数据结构的库。它支持JSON、BSON、YAML等多种格式，并且可以自定义序列化和反序列化方式。Serde的特点是代码简洁、易于使用、性能高效。...
- Java反序列化漏洞详解（java反序列化漏洞利用）
-
Java反序列化漏洞从爆出到现在快2个月了，已有白帽子实现了jenkins，weblogic，jboss等的代码执行利用工具。本文对于Java反序列化的漏洞简述后，并对于Java反序列化的Poc进行详...
- 关于Oracle WebLogic Server存在反序列化远程代码执行漏洞的安全公告
-
安全公告编号:CNTA-2018-00222018年7月18日，国家信息安全漏洞共享平台（CNVD）收录了OracleWebLogicServer反序列化远程代码执行漏洞（CNVD-2018-13...
- CVE-2020-9484 Apache Tomcat反序列化漏洞浅析
-
本文是i春秋论坛作家「Ybwh」表哥原创的一篇技术文章，浅析CVE-2020-9484ApacheTomcat反序列化漏洞。01漏洞概述这次是因为错误配置和org.apache.catalina....
- 告别脚本小子系列丨JAVA安全(8)——反序列化利用链(下)
-
0x01前言...
- 关于WebLogic反序列化高危漏洞的紧急预警通报
-
近日，WebLogic官方发布WebLogic反序列化漏洞的紧急预警通告，利用该漏洞可造成远程代码执行并直接控制Weblogic服务器，危害极大。该漏洞编号为：CVE-2019-2890，安全级别为“...
- 高危!Fastjson反序列化漏洞风险通告
-
漏洞描述...
- 学习Vulhub的Java RMI Registry 反序列化漏洞
-
这个实验，我们先通过dnslog演示命令执行，然后通过反弹shell获得root权限。JavaRemoteMethodInvocation用于在Java中进行远程调用。RMI存在远程bind的...
欢迎 你 发表评论:
- 一周热门
- 最近发表
-
- PayPal严重漏洞可通过不安全的JAVA反序列化对象
- 提醒:Apache Dubbo存在反序列化漏洞
- 【预警通报】关于WebLogicT3存在反序列化高危漏洞的预警通报
- Apache dubbo 反序列化漏洞(CVE-2023-23638)分析及利用探索
- 案例|WebLogic反序列化漏洞攻击分析
- 【预警通报】关于ApacheOFBizRMI反序列化远程代码 执行高危漏洞的预警通报
- 关于OracleWebLogic wls9-async组件存在反序列化远程命令执行高危漏洞的预警通报
- Rust语言从入门到精通系列 - Serde序列化/反序列化模块入门指北
- Java反序列化漏洞详解（java反序列化漏洞利用）
- 关于Oracle WebLogic Server存在反序列化远程代码执行漏洞的安全公告
- 标签列表
-
- navicat无法连接mysql服务器 (65)
- 下横线怎么打 (71)
- flash插件怎么安装 (60)
- lol体验服怎么进 (66)
- ae插件怎么安装 (62)
- yum卸载 (75)
- .key文件 (63)
- cad一打开就致命错误是怎么回事 (61)
- rpm文件怎么安装 (66)
- linux取消挂载 (81)
- ie代理配置错误 (61)
- ajax error (67)
- centos7 重启网络 (67)
- centos6下载 (58)
- mysql 外网访问权限 (69)
- centos查看内核版本 (61)
- ps错误16 (66)
- nodejs读取json文件 (64)
- centos7 1810 (59)
- 加载com加载项时运行错误 (67)
- php打乱数组顺序 (68)
- cad安装失败怎么解决 (58)
- 因文件头错误而不能打开怎么解决 (68)
- js判断字符串为空 (62)
- centos查看端口 (64)