其实主要还是大部分人用 llm 只会输出一长串 json 不会使用原始 logprobs 而已
@heganj 实际测试不做这些直接用 LLM 已经可以达到足够理想的结果,你还可以很容易的微调小模型适合自己的场景
登录后可发帖和回复
其实主要还是大部分人用 llm 只会输出一长串 json 不会使用原始 logprobs 而已