加载微调模型，应该在LLM对话加载，还是知识库问答加载？ #4217
zixiaotan21
started this conversation in
Ideas
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
-
目标是做一个知识库问答机器人，我想通过Llama Factory微调后的模型，来提高问答的准确率。
模型微调后，我发现有两种方法可以加载出我的微调模型。
方法一：因为我已经有知识库文档，选择“知识库问答”，加载微调模型。
由于我提的问题都在知识库里面，这样问答的时候，能用上原来知识库的知识。
方法二：在“LLM对话”加载微调模型
我觉得方法二，是更自然的加载微调模型的方法。但方法一似乎也行？两种方法问答的准确率似乎也差不多？
Beta Was this translation helpful? Give feedback.
All reactions