项目简介
本项目借助PyTorch和GPT框架构建中文聊天机器人,利用预训练的GPT模型生成对话,为用户带来互动式聊天体验。项目支持560m、1b7和3b等多种模型规模,还能直接在Hugging Face上部署和使用。
项目的主要特性和功能
- 多语言支持:主要微调Bloom模型,可进行多语言对话生成。
- 轻量级部署:提供560m大小的轻量级模型,便于快速部署与测试。
- 预训练模型:预训练模型全部开源,可直接下载或从远端读取。
- 丰富的数据集:总结多个中英文对话数据集,支持模型进一步训练和微调。
- Gradio界面:用Gradio搭建机器人交互界面,方便用户测试和使用。
安装使用步骤
假设用户已下载本项目的源码文件。
1. 复制项目:将项目代码库复制到本地。
shell
cd chatbot
2. 安装依赖:使用pip安装项目所需依赖。
shell
pip install -r requirements.txt
3. 加载模型:可选择加载本地模型或直接使用远端模型。
```python
from chatbot import Bot
model = Bot()
model.load('szzzzz/chatbot_bloom_1b7') # 使用远端模型
```
- 生成对话:使用模型生成对话回复。
python inputs = "Human : 你好啊! \nAssistant: " response = model.generate(inputs) print(response)
- 运行Gradio界面:运行
examples/gradio_demo.py
文件,启动Gradio界面进行交互测试。shell python examples/gradio_demo.py
通过上述步骤,可快速部署和使用本项目的中文聊天机器人。
下载地址
点击下载 【提取码: 4003】【解压密码: www.makuang.net】