GoForum › 🌐 V2EX
AI 离谱越权操作一则,大家引以为戒
tmtstudio ·
2026-11-16 13:38 ·
0 次点赞 · 18 条回复
前情提要:
我自己写了一个用于服务器监控运维的的项目,能查看服务器状态,日志解析,自动运维等功能 项目中存储了服务器的 ssh 密钥,运维功不让 ai 直接 ssh 到服务器,写了一个中间层 ai 想操作服务器给中间层申请,中转获取命令执行结果,中间层查看类命令全部放行,修改命令需要审核
ai 越权操作
然后因为之前有项目配置了负载均衡导致日志分析出问题了,所以在运维项目的 codex 工作窗口询问是什么原因,有什么差异,还给贴了出问题项目的 nginx 配置文件,然后 ai 跑了半天告诉我改好了,我想去服务器修改一下配置文件呢,一看和 ai 修改的一模一样,当场愣住了,回去看 ai 的回复才发现他妈的把重载都做了,这幸亏修改的没问题,一阵后怕
@2x" />
18 条回复
@milk97 https://i.imgur.com/NIvxivj.png 能防住这种自己偷偷调用的吗
loveumozart · 2026-11-16 14:08
你的需求是「给我修复了」,AI 做了它该做的事情,没有看出来是「离谱越权操作」 agent 的 harness 自身是有大量的防止越权的代码的,AI 连上的机器,你只能默认所有机器上你能做的 shell 操作它也能做,所以一定是你使用方式不对而非 AI 或者 Agent 的问题
添加回复
你还需要 登录
后发表回复
所以 AI 需要自己的堡垒机,让访问受控