尧图建网站 尧图建网站 YAOTU WEB BUILD 免费咨询
ARTICLE DETAIL

资讯详情

深耕网站建设与建站编程的一线实战洞察。

环境支持全指南:EPyMARL如何一键运行SMAC、LBF、RWARE与MPE

环境支持全指南:EPyMARL如何一键运行SMAC、LBF、RWARE与MPE 环境支持全指南EPyMARL如何一键运行SMAC、LBF、RWARE与MPE【免费下载链接】epymarlAn extension of the PyMARL codebase that includes additional algorithms and environment support项目地址: https://gitcode.com/gh_mirrors/ep/epymarlEPyMARLExtended PyMARL是目前最受欢迎的多智能体强化学习MARL框架之一它的最大亮点就是强大的环境支持能力开箱即用地支持SMAC星际争霸、LBF觅食、RWARE仓库与MPE粒子环境四大经典基准还额外支持矩阵博弈与MARBLER机器人仿真环境。本文是一份专为新手准备的 EPyMARL环境配置教程无需修改任何源码只需几行命令就能在你的机器上跑起全部主流多智能体环境。 EPyMARL支持哪些多智能体环境EPyMARL在原始PyMARL的基础上扩展了算法与环境支持目前可以运行的环境包括环境类别说明典型任务ID️ SMAC星际争霸II多智能体挑战3m、8m、2s3z LBF等级制觅食任务Foraging-8x8-2p-3f-v2 RWARE多机器人仓库调度rware-tiny-2ag-v1 MPE多智能体粒子环境SimpleSpread-v0、SimpleTag-v0 Matrix Games矩阵博弈含惩罚博弈penalty-100-nostate-v0 MARBLER机器人Sim2Real仿真PredatorCapturePrey-v0更重要的是EPyMARL不仅支持共同奖励common reward环境还新增了对个体奖励individual rewards环境的训练支持如LBF、RWAREIA2C、IPPO、MAA2C、MAPPO、IQL、PAC等算法均可在个体奖励设定下训练只需在启动命令中加上common_rewardFalse即可。 第一步一键安装全部环境依赖EPyMARL的环境安装异常简单项目贴心地把所有环境依赖打包在了一个文件里。克隆仓库后执行以下三条命令即可pip install -r requirements.txt pip install -r env_requirements.txt pip install -r pac_requirements.txt其中 env_requirements.txt 会一次性安装 LBF、RWARE、SMAC、MPEEPyMARL专用fork版本和矩阵博弈的全部依赖pac_requirements.txt 则用于Pareto Actor-Critic算法的额外依赖。 提示如果你使用Docker仓库根目录还提供了 Dockerfile 和 run.sh可以直接构建包含全部依赖的镜像配合GPU使用./run.sh 0 你的命令即可在容器内运行实验。️ SMAC星际争霸环境配置方法SMACStarCraft Multi-Agent Challenge是MARL研究中使用最广泛的基准环境之一。EPyMARL完整保留了SMAC支持环境参数集中在 sc2.yaml 中包括地图名map_name、游戏难度difficulty、奖励设置等均可直接调整。安装SMAC需要两个步骤先通过 env_requirements.txt 安装pysc2、s2clientprotocol和smac包再下载StarCraft II游戏本体与SMAC地图。项目提供了现成的 install_sc2.sh 脚本运行后会自动下载游戏并放置地图。完成后用以下命令运行SMACpython3 src/main.py --configqmix --env-configsc2 with env_args.map_name3m--configqmix指定算法也可换成mappo、ippo等--env-configsc2指定使用SMAC环境env_args.map_name决定地图。 LBF环境一键运行教程LBFLevel-Based Foraging等级制觅食是衡量智能体协作能力的经典网格环境智能体需要合作搬运食物。得益于Gym封装运行LBF只需通过--env-configgymma切换到Gym环境接口python3 src/main.py --configqmix --env-configgymma with env_args.time_limit25 env_args.keylbforaging:Foraging-8x8-2p-3f-v2命令中的lbforaging:前缀表示模块名EPyMARL会自动导入该包env_args.key填入环境IDenv_args.time_limit设置单局最大步数。如果你想用个体奖励训练追加common_rewardFalse即可。 RWARE仓库环境运行步骤RWAREMulti-Robot Warehouse多机器人仓库模拟真实仓库中机器人的取货送货调度同样由EPyMARL的Gym接口原生支持python3 src/main.py --configmappo --env-configgymma with env_args.time_limit500 env_args.keyrware:rware-tiny-2ag-v1RWARE默认提供每个机器人的独立奖励因此非常适合体验EPyMARL的个体奖励训练特性例如将--configmappo配合common_rewardFalse使用即可让每个仓库机器人都拥有自己的奖励信号。 MPE粒子环境运行说明MPEMulti-Agent Particle Environment是一组轻量级的二维粒子博弈任务包含SimpleAdversary-v0、SimpleTag-v0、SimpleSpeakerListener-v0、SimpleSpread-v0等9个标准任务。EPyMARL专门维护了一个MPE的fork版本修复了Gym兼容性、种子设定与动作空间问题随 env_requirements.txt 自动安装。运行MPE同样是一条命令的事python3 src/main.py --configqmix --env-configgymma with env_args.time_limit25 env_args.keympe:SimpleSpeakerListener-v0更酷的是仓库的 src/pretrained 目录内置了预训练智能体如adversary.py、tag.py你可以直接加载它们与自己的算法对战python3 src/main.py --configqmix --env-configgymma with env_args.time_limit25 env_args.keympe:SimpleAdversary-v0 env_args.pretrained_wrapperPretrainedAdversary 更多环境与自定义扩展除了四大主流环境EPyMARL还支持矩阵博弈通过matrixgames:penalty-100-nostate-v0等ID运行是测试Pareto-AC等算法对抗次优均衡能力的利器MARBLER机器人环境使用robotarium_gym:PredatorCapturePrey-v0进行Sim2Real评估自定义Gym环境任何注册到Gym的环境都可直接使用只需注意将返回的奖励改为每个智能体一个奖励值的元组形式。所有环境参数都以YAML形式存放在src/config/envs/目录如 gymma.yaml、sc2_beta.yaml算法配置则在src/config/algs/目录中修改起来非常直观。实验日志会自动保存在results文件夹下还可以通过 plot_results.py 一键绘制训练曲线。✅ 总结环境支持开箱即用总的来说EPyMARL把多智能体环境支持做到了极致一条pip install -r env_requirements.txt装齐SMAC、LBF、RWARE、MPE与矩阵博弈一个--env-config参数自由切换环境一行命令开启实验。无论你是刚入门MARL的新手还是需要横向对比算法的研究者这份环境支持全指南都能帮你用最少的配置成本快速在真实基准环境中验证你的想法。【免费下载链接】epymarlAn extension of the PyMARL codebase that includes additional algorithms and environment support项目地址: https://gitcode.com/gh_mirrors/ep/epymarl创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表