项目简介
本项目是基于Streamlit框架开发的RAG聊天机器人系统。用户可上传PDF文件,系统从中提取文本,并借助大型语言模型(LLM)实现问答交互。系统具备友好的用户界面,方便用户与机器人对话。
项目的主要特性和功能
- 支持用户上传PDF文件,自动提取文件中的文本信息。
- 对提取的文本进行处理,分割成小块并创建向量存储,便于与大型语言模型交互。
- 集成大型语言模型,支持使用Hugging Face或本地LLM作为问答后端,提供智能问答功能。
- 通过Streamlit框架构建友好的用户界面,操作简便。
- 记录并显示聊天历史,方便用户追踪之前的对话内容。
安装使用步骤
- 进入已下载的项目源码文件所在目录。
- 创建并激活虚拟环境:使用conda创建并激活名为RAG的虚拟环境。
- 安装依赖:在终端中运行
pip install -r requirements.txt
安装项目所需依赖。 - 运行应用:执行
streamlit run main.py
启动Streamlit应用,通过网页浏览器访问。 - 配置LLM端点:选择使用Hugging Face或本地LLM作为问答后端,并配置相应的API密钥(若使用Hugging Face端点)。
- 上传PDF文件并开始聊天:在上传文件区域选择PDF文件,系统提取文本并与LLM交互,提供问答功能。
注意:使用本项目时,可能会遇到某些依赖项无法安装的情况,如llama_cpp_python
,可根据提供的YouTube视频链接,按视频中的指导进行安装和配置。
下载地址
点击下载 【提取码: 4003】【解压密码: www.makuang.net】