Skip to content

Latest commit

 

History

History
67 lines (50 loc) · 1.47 KB

readme.md

File metadata and controls

67 lines (50 loc) · 1.47 KB

可以本地部署的联网助手

项目逻辑流程: 1、根据用户的query,抽取关键词\n 2、搜索百度,并浏览相关的网页、总结相关网页信息\n 3、根据用户query和网页搜索总结的内容,形成结果\n

目前模型使用的是chatglmv3-32k

搜索引擎使用的是百度——基于puppeteer的模拟浏览,使用无头chrome浏览器(也可以自己尝试有头调试)

效果

image image image

下载、准备模型

git clone https://github.com/AwsomeName/private_web_gpt.git
cd private_web_gpt
mkdir models
cd models
# 下载chatglm
git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b-32k.git
cd chatglm3-6b-32k
git lfs fetch
git lfs checkout

# 下载emb model
cd ..
git clone https://www.modelscope.cn/bensonpeng/all-MiniLM-L6-v2.git
cd all-MiniLM-L6-v2
git lfs fetch
git lfs checkout

也可以下载量化模型,但是目前不推荐 git clone https://www.modelscope.cn/MaxLeton13/chatglm3-6B-32k-int4.git

安装

默认已经拥有conda环境

conda create -n web_gpt python=3.10
conda activate web_gpt
pip install -r requirement.txt

运行

运行前准备!请务必先调试ppeteer,第一次运行的时候,会自动下载chrome无头浏览器

python apis/ppeter_search_api.py

正式运行

bash run.sh

后续计划

【】阅读图片 【】多模态问答

欢迎关注公众号 image