本例主要参考 langchain-ChatGLM 和 langchain-GLM_Agent 。在此基础上,部分模块进行了自定义替换,以搭建一个基于本地知识库、在线检索、本地LLM服务的问答系统,
详细解读参考:https://zhuanlan.zhihu.com/p/636741983
- 本例采用 13B 的 LLama-base 的模型,用户可根据需要在
models/custom_llm.py
中替换 - 使用在线搜索需要在
models/custom_search.py
中设置你的RapidAPIKey = ""
,可在这里申请
代码checkout下来后,执行
python cli.py
即可实现全过程