项目简介
本项目结合深度强化学习(DRL)和Maude形式化验证工具,旨在训练智能体在复杂环境中进行决策,并通过Maude对智能体的决策模型进行形式化验证,保证决策的正确性和可靠性。
项目的主要特性和功能
- 智能体训练:运用深度强化学习(DRL)方法(如DQN)训练智能体,使其在特定环境中学习并优化决策策略。
- 模型生成:将训练好的智能体策略转换为Maude建模代码,方便后续形式化验证。
- 形式化验证:利用Maude工具对生成的Maude代码进行验证,确保智能体在特定环境中的决策符合预期。
- 结果分析:通过脚本分析Maude验证的结果,并进行可视化展示,助力理解验证过程和结果。
安装使用步骤
环境准备
- 操作系统:建议使用Linux系统。
- Python:确保安装Python 3.8或更高版本。
- Maude:在本地安装Maude工具,并确保能运行Maude脚本。
安装依赖
bash
pip install -r requirements.txt
项目运行步骤
- 训练智能体:
- 用DRL方法训练智能体,将策略保存在
map
文件夹下的对应地图文件夹中,如map/8x8/0/1/actions.txt
。 - 运行
train.py
脚本进行训练。
- 用DRL方法训练智能体,将策略保存在
- 生成Maude代码:
- 选中某个训练得到的智能体数据路径,运行
generate_maude.py
,例如map/4x4/0.3/6
。 - 生成的Maude代码将保存在
maude_files/4x4
目录下。
- 选中某个训练得到的智能体数据路径,运行
- 运行Maude验证:
- 运行
eval.sh
脚本,提供生成的Maude代码路径、model-checker.maude
文件路径以及Maude程序的路径。 - 示例:
bash ./eval.sh maude_files/4x4/1.maude /path/to/model-checker.maude /path/to/maude
- 验证结果将保存在
out.txt
文件中,并在终端展示可视化结果。
- 运行
- 结果分析:
- 运行
analyse.py
脚本分析Maude验证的结果,并生成可视化效果。
- 运行
下载地址
点击下载 【提取码: 4003】【解压密码: www.makuang.net】