GoForum🌐 V2EX

LLM 思考过程导致提示此泄露该如何处理?

dandankele · 2026-07-14 15:03 · 0 次点赞 · 0 条回复

开发的智能体开启了 LLM 的深度思考过程,但是其思考输出的内容里会带有一些 system prompt 的内容,

例如 system prompt 写了“注意,不要编撰”,那么 LLM 在思考中就会把这句要求讲出来:“我不能编撰 xxx”,实际上就是把提示词泄露了

这个有啥方法可以解决吗?

0 条回复
添加回复
你还需要 登录 后发表回复

登录后可发帖和回复

登录 注册
主题信息
作者: dandankele
发布: 2026-07-14
点赞: 0
回复: 0