2020-05-31 2分 read (About 318 words)

PyBullet - 3D物理シミュレーション環境学習編

前回は、四足歩行のシミュレーションをランダム行動で実行しましたが、今回は学習させて正しく歩けるようにしてみます。

学習して実行

AntBulletEnv-v0 を学習させるコードは次のようになります。

[コード]

import gym
import os
import pybullet_envs
from stable_baselines.common.vec_env import DummyVecEnv
from stable_baselines import PPO2
from stable_baselines.bench import Monitor

# ログフォルダの生成
log_dir = './logs/'
os.makedirs(log_dir, exist_ok=True)

# 環境の作成
env = gym.make('AntBulletEnv-v0')
env = Monitor(env, log_dir, allow_early_resets=True)
env = DummyVecEnv([lambda: env])

# モデルの作成
model = PPO2('MlpPolicy', env, verbose=1)

# モデルの読み込み
#model = PPO2.load('pybullet_model')

# モデルの学習
model.learn(total_timesteps=1280000)

# モデルの保存
model.save('pybullet_model')

# モデルのテスト
env.render(mode='human')
state = env.reset()
total_reward = 0
while True:
    # モデルの推論
    action, _ = model.predict(state)
    # 1ステップ実行
    state, reward, done, info = env.step(action)
    total_reward += reward[0]
    # エピソード完了
    if done:
        print('reward:', total_reward)
        state = env.reset()
        total_reward = 0

学習には時間がかかりますが、学習が成功すると3Dモデルが四足歩行で歩く様子を確認することができます。

実行結果

2020-05-30 2分 read (About 330 words)

PyBullet - 3D物理シミュレーション環境（オープンソース）

PyBullet環境 は、オープンソースの3D物理エンジン Bullet で実装された強化学習環境です。

オープンソースのため無料で利用することができます。

インストール

PyBullet をインストールするために次のコマンドを実行します。

1
2
3

pip install pybullet
pip install tensorflow
pip install gym

ランダムに実行

今回は、四足歩行の3Dモデルを歩かせる AntBulletEnv-v0環境 を利用します。

ランダムで行動するコードは下記のようになります。

[コード]

import gym
import pybullet_envs

# 環境の作成
env = gym.make('AntBulletEnv-v0')

# ランダム行動による動作確認
env.render(mode='human')
env.reset()
while True:
    # 1ステップ実行
    state, reward, done, info = env.step(env.action_space.sample())
    print('reward:', reward)
    # エピソード完了
    if done:
        print('done')
        state = env.reset()