GoForum🌐 V2EX

Hermes Agent 多用户 / Multi-tenant 应该怎么设计?一个实例服务多个用户可行吗?

anamulhaque1268 · 2026-08-18 22:27 · 0 次点赞 · 0 条回复

最近在研究 Hermes Agent ,准备把它作为一个多用户应用的 Agent runtime ,想请教一下熟悉 Hermes / MCP / Agent 架构的朋友。

我的需求比较简单:

多个用户使用同一套 AI 能力,例如:

相同的 system prompt 相同的模型 公共 Skills 公共 MCP Web Search 公共知识库

但是每个用户必须拥有独立的:

conversation/session long-term memory user profile/preferences reminders / cron jobs private data MCP credentials / permissions

例如:

         Hermes
            │
    ┌───────┼───────┐
    ▼       ▼       ▼
  User A  User B  User C

我目前主要纠结两个方案。

方案一:多个用户共享一个 Hermes instance

通过:

user_id session_key

来区分用户。

例如:

user:10001 user:10002 user:10003

Hermes 本身负责:

reasoning skills MCP tool calling

用户相关的数据则由应用层隔离。

这种方式看起来最合理,也方便以后横向扩展。

但我比较担心 Hermes 内部的一些状态,例如:

USER.md memory session cron MCP context

是否完全适合 multi-tenant 环境。

例如 User A 告诉 Agent:

我叫张三,我住上海。

有没有可能由于 memory / context 设计问题,后面 User B 的 context 中出现 User A 的信息?

方案二:每个用户一个 Hermes Profile User A → Hermes Profile A User B → Hermes Profile B User C → Hermes Profile C

隔离肯定更简单。

但是如果未来有:

10,000 users 100,000 users

显然不太希望维护 10 万个 Hermes profiles 。

而且实际上大部分用户使用的是完全相同的 Agent ,只是 personal memory / credentials 不一样。

我目前比较倾向的结构

把 Hermes 当成一个 stateless / semi-stateless Agent runtime 。

例如:

           Hermes Worker Pool
          /        |        \
    Hermes 1   Hermes 2   Hermes 3
          \        |        /
               Backend
                  │
    ┌─────────────┼─────────────┐
    ▼             ▼             ▼
  User DB      Memory DB     Job/Cron DB

每次请求:

request ↓ identify user_id ↓ load user context/memory ↓ Hermes executes ↓ save updated state

也就是说:

Hermes = Agent execution/runtime

Application = identity + isolation + persistence

而不是:

1 user = 1 Hermes

另外还有一个我比较关心的问题:private MCP 。

公共 MCP 比较简单:

Search MCP Knowledge MCP Weather MCP

大家共享即可。

但是如果不同用户连接自己的服务:

User A → Obsidian User B → Google Calendar User C → Notion

这种情况下大家一般怎么处理?

例如:

根据 user_id 动态加载对应 credentials ? MCP Server 自己做 multi-tenant ? 每个用户启动一个 MCP Server ? 在 Hermes 外面增加一层 MCP gateway ? Hermes 有没有推荐的设计方式?

想请教一下:

Hermes 一个 instance 服务多个用户是否可靠? Hermes 的 memory/session 是否真正支持 user-level isolation ? USER.md 这种全局状态在 multi-user 环境应该怎么处理? 长期 memory 最好放 Hermes ,还是放外部 DB ? user-specific MCP credentials 大家会怎么隔离? 大规模部署时,是不是应该采用 Hermes worker pool ,而不是一个用户一个 profile ? 有没有人已经用 Hermes 做过类似的 multi-tenant 架构?

目前还在做 POC ,主要想先把架构方向确定下来,避免后面因为 memory / permissions / MCP isolation 重新设计。

如果有踩坑经验,非常欢迎分享。

0 条回复
添加回复
你还需要 登录 后发表回复

登录后可发帖和回复

登录 注册
主题信息
作者: anamulhaque1268
发布: 2026-08-18
点赞: 0
回复: 0