9月, 2018 | 個人用メモ帳

2018年9月30日

PyTorch の動作確認をしてみた（５）

1. 環境は、Window 10 Home (64bit) 上で行った。

2. Anaconda3 (64bit) – Spyder上で、動作確認を行った。

3. python のバージョンは、python 3.6.5 である。

4. pytorch のバージョンは、pytorch 0.4.1 である。

5. GPU は, NVIDIA社の GeForce GTX 1050 である。

6. CPU は, Intel社の Core(TM) i7-7700HQ である。

今回確認した内容は、現場で使える! PyTorch開発入門深層学習モデルの作成とアプリケーションへの実装 (AI & TECHNOLOGY) の 3.3.1 Dropoutによる正則化(P.052 – P.055) である。
Dropoutによる正則化について書かれていたので, 少し動作確認を行った.

※プログラムの詳細は、書籍を参考(P.052 – P.055)にして下さい。

■Dropout無し.

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch
from torch import nn, optim
import matplotlib.pyplot as plt
from sklearn.datasets import load_digits
from torch.utils.data import TensorDataset, DataLoader
from sklearn.model_selection import train_test_split
import time

# 2. build a network.
start = time.time()
l = 100
net = nn.Sequential(
        nn.Linear(64, l),
        nn.ReLU(),
        nn.Linear(l, l),
        nn.ReLU(),
        nn.Linear(l, l),
        nn.ReLU(),
        nn.Linear(l, l),
        nn.ReLU(),
        nn.Linear(l, 10)
    )

～(略)～

# 9. display graph.
plt.title('not Regularization')
plt.plot(train_losses, label='train')
plt.plot(test_losses, label='test')
plt.legend(loc='upper right')

# 10. classify digits data.
end = time.time()
print('--------------------------------------------------')
print('Elapsed Time: ' + str(end - start) + "[sec]")

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

from torch import nn, optim

import matplotlib.pyplot as plt

from sklearn.datasets import load_digits

from torch.utils.data import TensorDataset, DataLoader

from sklearn.model_selection import train_test_split

import time

# 2. build a network.

start = time.time()

l = 100

net = nn.Sequential(

nn.Linear(64, l),

nn.ReLU(),

nn.Linear(l, l),

nn.ReLU(),

nn.Linear(l, l),

nn.ReLU(),

nn.Linear(l, l),

nn.ReLU(),

nn.Linear(l, 10)

)

～(略)～

# 9. display graph.

plt.title('not Regularization')

plt.plot(train_losses, label='train')

plt.plot(test_losses, label='test')

plt.legend(loc='upper right')

# 10. classify digits data.

end = time.time()

print('--------------------------------------------------')

print('Elapsed Time: ' + str(end - start) + "[sec]")

■実行結果(Dropout無し).

■Dropout有り.

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch
from torch import nn, optim
import matplotlib.pyplot as plt
from sklearn.datasets import load_digits
from torch.utils.data import TensorDataset, DataLoader
from sklearn.model_selection import train_test_split
import time

# 2. build a network.
start = time.time()
l = 100
r = 0.5
net = nn.Sequential(
        nn.Linear(64, l),
        nn.ReLU(),
        nn.Dropout(r),
        nn.Linear(l, l),
        nn.ReLU(),
        nn.Dropout(r),
        nn.Linear(l, l),
        nn.ReLU(),
        nn.Dropout(r),
        nn.Linear(l, l),
        nn.ReLU(),
        nn.Dropout(r),
        nn.Linear(l, 10)
    )

～(略)～

# 9. display graph.
t = 'Regularization (r=' + str(r) + ')'
plt.title(t)
plt.plot(train_losses, label='train')
plt.plot(test_losses, label='test')
plt.legend(loc='upper right')

# 10. classify digits data.
end = time.time()
print('--------------------------------------------------')
print('Elapsed Time: ' + str(end - start) + "[sec]")

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

from torch import nn, optim

import matplotlib.pyplot as plt

from sklearn.datasets import load_digits

from torch.utils.data import TensorDataset, DataLoader

from sklearn.model_selection import train_test_split

import time

# 2. build a network.

start = time.time()

l = 100

r = 0.5

net = nn.Sequential(

nn.Linear(64, l),

nn.ReLU(),

nn.Dropout(r),

nn.Linear(l, l),

nn.ReLU(),

nn.Dropout(r),

nn.Linear(l, l),

nn.ReLU(),

nn.Dropout(r),

nn.Linear(l, l),

nn.ReLU(),

nn.Dropout(r),

nn.Linear(l, 10)

)

～(略)～

# 9. display graph.

t = 'Regularization (r=' + str(r) + ')'

plt.title(t)

plt.plot(train_losses, label='train')

plt.plot(test_losses, label='test')

plt.legend(loc='upper right')

# 10. classify digits data.

end = time.time()

print('--------------------------------------------------')

print('Elapsed Time: ' + str(end - start) + "[sec]")

■実行結果①(Dropout有り, r = 0.3).

■実行結果②(Dropout有り, r = 0.5 ※書籍と同じ).

■実行結果③(Dropout有り, r = 0.7).

■以上の実行結果から, 以下のことが分かった.
① Dropout を設定しないと, 過学習が発生していることが分かった.

② Dropout を設定すると, 過学習を抑制できる分かった.

③ Dropout に設定する r の値を変えると, 表示されるグラフも大きく変わってくることが分かった.

■参考書籍
現場で使える! PyTorch開発入門深層学習モデルの作成とアプリケーションへの実装 (AI & TECHNOLOGY)

2018年9月29日2018年9月29日

C++ の動作確認をしてみた（２２）

C++の練習を兼ねて, AtCoder Beginner Contest 068 の問題D（Decrease (Contestant ver.)）を解いてみた.

■感想.
1. 問題を読んでも, 方針が全く見えなかった.
2. 解説を読んだところ, 目から鱗で, なるほど, と感心させられ, 大変勉強になったと思う.

本家のサイトAtCoder Regular Contest 079 Editorialをご覧下さい.

■C++版プログラム.

// 解き直し.
// AtCoder Regular Contest 079 Editorial
// https://atcoder.jp/img/arc079/editorial.pdf
#include <iostream>

using namespace std;

#define FOR(i, a, b) for(int i=(a); i<(b); ++i)

typedef long long LL;

int main() {
    
    // 1. 入力情報取得.
    LL K;
    cin >> K;
    
    // 2. 数列 0, 1, ..., N - 1 を 考え, 
    // 1, 2, ..., N, 1, 2, ..., N, の 順番で, 逆操作を行えばよいとのこと.
    // 2-1. N = 50 として, 確認することにする.
    int N = 50;
    LL sequence[N] = {};
    FOR(i, 0, N) sequence[i] = i;
    
    // 2-2. K回繰り返すには...
    
    // 試しに, N = 10 と置いて, 10回繰り返す.
    // -> 0回目 と比べて, 各要素 が 1ずつ増加している.
    // 0回目 …  0  1  2  3  4  5  6  7  8  9
    // 1回目 … 10  0  1  2  3  4  5  6  7  8
    // 2回目 …  9 10  0  1  2  3  4  5  6  7
    // ...
    // 9回目 …  2  3  4  5  6  7  8  9 10  0
    // 10回目 …  1  2  3  4  5  6  7  8  9 10 <--- 0回目 から, 全体が, 1ずつ増加している.
    // N = 10;
    // int loop = 0;
    // int index = 0;
    // while(loop < N) {
    //     FOR(i, 0, N) {
    //         if(index == i) sequence[i] += N;
    //         else           sequence[i]--;
    //     }
    //     loop++;
    //     index++;
    //     index %= N;
    // }
    // FOR(i, 0, N) cout << sequence[i] << " ";
    
    // 2-3. 数列の base を作り, 全体 を increment. 
    // K が, 非常に大きな数なので, K を N で 割ったときの商, 余りを計算してみる.
    LL quotient = K / N;
    LL remainder = K % N;
    
    // base.
    int index = 0;
    while(index < remainder) {
        FOR(i, 0, N) {
            if(index == i) sequence[i] += N;
            else           sequence[i]--;
        }
        index++;
    }
    
    // increment.
    FOR(i, 0, N) sequence[i] += quotient;

    // 3. 出力 ～ 後処理.
    cout << N << endl;
    FOR(i, 0, N) cout << sequence[i] << " ";
    return 0;
    
}

// 解き直し.

// AtCoder Regular Contest 079 Editorial

// https://atcoder.jp/img/arc079/editorial.pdf

#include <iostream>

using namespace std;

#define FOR(i, a, b) for(int i=(a); i<(b); ++i)

typedef long long LL;

int main() {

// 1. 入力情報取得.

LL K;

cin >> K;

// 2. 数列 0, 1, ..., N - 1 を考え,

// 1, 2, ..., N, 1, 2, ..., N, の順番で, 逆操作を行えばよいとのこと.

// 2-1. N = 50 として, 確認することにする.

int N = 50;

LL sequence[N] = {};

FOR(i, 0, N) sequence[i] = i;

// 2-2. K回繰り返すには...

// 試しに, N = 10 と置いて, 10回繰り返す.

// -> 0回目と比べて, 各要素が 1ずつ増加している.

// 0回目 … 0 1 2 3 4 5 6 7 8 9

// 1回目 … 10 0 1 2 3 4 5 6 7 8

// 2回目 … 9 10 0 1 2 3 4 5 6 7

// ...

// 9回目 … 2 3 4 5 6 7 8 9 10 0

// 10回目 … 1 2 3 4 5 6 7 8 9 10 <--- 0回目から, 全体が, 1ずつ増加している.

// N = 10;

// int loop = 0;

// int index = 0;

// while(loop < N) {

// FOR(i, 0, N) {

// if(index == i) sequence[i] += N;

// else sequence[i]--;

// }

// loop++;

// index++;

// index %= N;

// }

// FOR(i, 0, N) cout << sequence[i] << " ";

// 2-3. 数列の base を作り, 全体を increment.

// K が, 非常に大きな数なので, K を N で割ったときの商, 余りを計算してみる.

LL quotient = K / N;

LL remainder = K % N;

// base.

int index = 0;

while(index < remainder) {

FOR(i, 0, N) {

if(index == i) sequence[i] += N;

else sequence[i]--;

}

index++;

}

// increment.

FOR(i, 0, N) sequence[i] += quotient;

// 3. 出力～後処理.

cout << N << endl;

FOR(i, 0, N) cout << sequence[i] << " ";

return 0;

}

■参照サイト
AtCoder Beginner Contest 068

2018年9月25日

C++ の動作確認をしてみた（２１）

C++の練習を兼ねて, AtCoder Beginner Contest 068 の問題C（Cat Snuke and a Voyage）を解いてみた.

■感想.
島1 から島N に行くために経由する島を如何にして, 探索するか, という点が, 面白いと思った.

本家のサイトAtCoder Regular Contest 079 Editorialをご覧下さい.

■C++版プログラム.

#include <iostream>
#include <map>

using namespace std;

#define FOR(i, a, b) for(int i=(a); i<(b); ++i)

typedef long long LL;

int main() {
    
    // 1. 入力情報取得.
    LL N, M;
    cin >> N >> M;
    
    // 2. 島1 -> 島x -> 島N となる 島x は, 存在するか？
    // 島1 は, ai から探索し, 見つかったら, 対応する bi を すべて map1 に 保存.
    // 島N は, bi から探索し, 見つかったら, 対応する ai を すべて mapN に 保存.
    // -> このとき, map1 と mapN に, 共通する値が存在する場合, 島x が見つかったと判定できる.
    map<LL, LL> map1, mapN;
    
    FOR(i, 0, M) {
        LL ai, bi;
        cin >> ai >> bi;
        if(ai == 1LL) map1[bi]++;
        if(bi == N)   mapN[ai]++;
    }
    
    // 3. 判定.
    // map1, mapN に共通の値が存在しているかチェック.
    bool ok = false;
    for(auto i = map1.begin(); i != map1.end(); ++i){
        if(mapN.count(i->first) > 0) {
            ok = true;
            break;
        }
    }
    
    // 4. 出力 ～ 後処理.
    cout << (ok ? "POSSIBLE" : "IMPOSSIBLE") << endl;
    return 0;
    
}

#include <iostream>

#include <map>

using namespace std;

#define FOR(i, a, b) for(int i=(a); i<(b); ++i)

typedef long long LL;

int main() {

// 1. 入力情報取得.

LL N, M;

cin >> N >> M;

// 2. 島1 -> 島x -> 島N となる島x は, 存在するか？

// 島1 は, ai から探索し, 見つかったら, 対応する bi をすべて map1 に保存.

// 島N は, bi から探索し, 見つかったら, 対応する ai をすべて mapN に保存.

// -> このとき, map1 と mapN に, 共通する値が存在する場合, 島x が見つかったと判定できる.

map<LL, LL> map1, mapN;

FOR(i, 0, M) {

LL ai, bi;

cin >> ai >> bi;

if(ai == 1LL) map1[bi]++;

if(bi == N) mapN[ai]++;

}

// 3. 判定.

// map1, mapN に共通の値が存在しているかチェック.

bool ok = false;

for(auto i = map1.begin(); i != map1.end(); ++i){

if(mapN.count(i->first) > 0) {

ok = true;

break;

}

// 4. 出力～後処理.

cout << (ok ? "POSSIBLE" : "IMPOSSIBLE") << endl;

return 0;

}

■参照サイト
AtCoder Beginner Contest 068

2018年9月23日2018年11月28日

PyTorch の動作確認をしてみた（４）

1. 環境は、Window 10 Home (64bit) 上で行った。

2. Anaconda3 (64bit) – Spyder上で、動作確認を行った。

3. python のバージョンは、python 3.6.5 である。

4. pytorch のバージョンは、pytorch 0.4.1 である。

5. GPU は, NVIDIA社の GeForce GTX 1050 である。

6. CPU は, Intel社の Core(TM) i7-7700HQ である。

今回確認した内容は、現場で使える! PyTorch開発入門深層学習モデルの作成とアプリケーションへの実装 (AI & TECHNOLOGY) の 3.1 MLPの構築と学習(P.046 – P.049) である。
GPU転送の方法について書かれていたので, 少し動作確認を行った.

※プログラムの詳細は、書籍を参考(P.046 – P.049)にして下さい。

■①MLPの構築例(CPU版／合計2層).

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch
from torch import nn, optim
import matplotlib.pyplot as plt
from sklearn.datasets import load_digits
import time

# 2. build a network.
start = time.time()
net = nn.Sequential(
        nn.Linear(64, 32),
        nn.ReLU(),
        nn.Linear(32, 10)
    )

# 3. set data and convert ndarray of numpy to pytorch tensor.
X, y = load_digits(return_X_y = True)
X = torch.tensor(X, dtype=torch.float32)
y = torch.tensor(y, dtype=torch.int64)   # dtype=torch.float32 でないことに注意.

～(略)～

# 13. display correct answer rate.
print(out)
end = time.time()
print('--------------------------------------------------')
print('Elapsed Time: ' + str(end - start) + "[sec]")

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

from torch import nn, optim

import matplotlib.pyplot as plt

from sklearn.datasets import load_digits

import time

# 2. build a network.

start = time.time()

net = nn.Sequential(

nn.Linear(64, 32),

nn.ReLU(),

nn.Linear(32, 10)

)

# 3. set data and convert ndarray of numpy to pytorch tensor.

X, y = load_digits(return_X_y = True)

X = torch.tensor(X, dtype=torch.float32)

y = torch.tensor(y, dtype=torch.int64) # dtype=torch.float32 でないことに注意.

～(略)～

# 13. display correct answer rate.

print(out)

end = time.time()

print('--------------------------------------------------')

print('Elapsed Time: ' + str(end - start) + "[sec]")

■実行結果(CPU版／合計2層).

0.998330550918197
--------------------------------------------------
Elapsed Time: 1.666921854019165[sec]

0.998330550918197

--------------------------------------------------

Elapsed Time: 1.666921854019165[sec]

■②MLPの構築例(GPU版／合計2層).

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch
from torch import nn, optim
import matplotlib.pyplot as plt
from sklearn.datasets import load_digits
import time

# 2. build a network.
start = time.time()
net = nn.Sequential(
        nn.Linear(64, 32),
        nn.ReLU(),
        nn.Linear(32, 10)
    )

# 3. set data and convert ndarray of numpy to pytorch tensor.
X, y = load_digits(return_X_y = True)
X = torch.tensor(X, dtype=torch.float32)
y = torch.tensor(y, dtype=torch.int64)   # dtype=torch.float32 でないことに注意.

# 4. CPU to GPU.
# PyTorch (6) Convolutional Neural Network.
# http://aidiary.hatenablog.com/entry/20180205/1517832760
use_gpu = torch.cuda.is_available()
print("torch.cuda.current_device() = " + str(torch.cuda.current_device()))
if use_gpu:
    print('cuda is available!')    
X = X.to("cuda:0")
y = y.to("cuda:0")
net.to("cuda:0")

～(略)～

# 13. display correct answer rate.
print(out)
end = time.time()
print('--------------------------------------------------')
print('Elapsed Time: ' + str(end - start) + "[sec]")

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

from torch import nn, optim

import matplotlib.pyplot as plt

from sklearn.datasets import load_digits

import time

# 2. build a network.

start = time.time()

net = nn.Sequential(

nn.Linear(64, 32),

nn.ReLU(),

nn.Linear(32, 10)

)

# 3. set data and convert ndarray of numpy to pytorch tensor.

X, y = load_digits(return_X_y = True)

X = torch.tensor(X, dtype=torch.float32)

y = torch.tensor(y, dtype=torch.int64) # dtype=torch.float32 でないことに注意.

# 4. CPU to GPU.

# PyTorch (6) Convolutional Neural Network.

# http://aidiary.hatenablog.com/entry/20180205/1517832760

use_gpu = torch.cuda.is_available()

print("torch.cuda.current_device() = " + str(torch.cuda.current_device()))

if use_gpu:

print('cuda is available!')

X = X.to("cuda:0")

y = y.to("cuda:0")

net.to("cuda:0")

～(略)～

# 13. display correct answer rate.

print(out)

end = time.time()

print('--------------------------------------------------')

print('Elapsed Time: ' + str(end - start) + "[sec]")

■実行結果(GPU版／合計2層).

torch.cuda.current_device() = 0
cuda is available!
0.9977740678909294
--------------------------------------------------
Elapsed Time: 3.92018461227417[sec]

torch.cuda.current_device() = 0

cuda is available!

0.9977740678909294

--------------------------------------------------

Elapsed Time: 3.92018461227417[sec]

■③MLPの構築例(CPU版／合計20層).

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch
from torch import nn, optim
import matplotlib.pyplot as plt
from sklearn.datasets import load_digits
import time

# 2. build a network.
start = time.time()
net = nn.Sequential(
        nn.Linear(64, 32),
        nn.ReLU(),
        nn.Linear(32, 32),
        nn.ReLU(),
～(略)～
        nn.Linear(32, 32),
        nn.ReLU(),
        nn.Linear(32, 10)
    )

# 3. set data and convert ndarray of numpy to pytorch tensor.
X, y = load_digits(return_X_y = True)
～(略)～

# 13. display correct answer rate.
print(out)
end = time.time()
print('--------------------------------------------------')
print('Elapsed Time: ' + str(end - start) + "[sec]")

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

from torch import nn, optim

import matplotlib.pyplot as plt

from sklearn.datasets import load_digits

import time

# 2. build a network.

start = time.time()

net = nn.Sequential(

nn.Linear(64, 32),

nn.ReLU(),

nn.Linear(32, 32),

nn.ReLU(),

～(略)～

nn.Linear(32, 32),

nn.ReLU(),

nn.Linear(32, 10)

)

# 3. set data and convert ndarray of numpy to pytorch tensor.

X, y = load_digits(return_X_y = True)

～(略)～

# 13. display correct answer rate.

print(out)

end = time.time()

print('--------------------------------------------------')

print('Elapsed Time: ' + str(end - start) + "[sec]")

■実行結果(CPU版／合計20層).

0.7907623817473567
--------------------------------------------------
Elapsed Time: 7.015232563018799[sec]

0.7907623817473567

--------------------------------------------------

Elapsed Time: 7.015232563018799[sec]

■④MLPの構築例(GPU版／合計20層).

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch
from torch import nn, optim
import matplotlib.pyplot as plt
from sklearn.datasets import load_digits
import time


# 2. build a network.
start = time.time()
net = nn.Sequential(
        nn.Linear(64, 32),
        nn.ReLU(),
        nn.Linear(32, 32),
        nn.ReLU(),
～(略)～
        nn.Linear(32, 32),
        nn.ReLU(),
        nn.Linear(32, 10)
    )

# 3. set data and convert ndarray of numpy to pytorch tensor.
X, y = load_digits(return_X_y = True)
X = torch.tensor(X, dtype=torch.float32)
y = torch.tensor(y, dtype=torch.int64)   # dtype=torch.float32 でないことに注意.

# 4. CPU to GPU.
# PyTorch (6) Convolutional Neural Network.
# http://aidiary.hatenablog.com/entry/20180205/1517832760
use_gpu = torch.cuda.is_available()
print("torch.cuda.current_device() = " + str(torch.cuda.current_device()))
if use_gpu:
    print('cuda is available!')    
X = X.to("cuda:0")
y = y.to("cuda:0")
net.to("cuda:0")

～(略)～

# 13. display correct answer rate.
print(out)
end = time.time()
print('--------------------------------------------------')
print('Elapsed Time: ' + str(end - start) + "[sec]")

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

from torch import nn, optim

import matplotlib.pyplot as plt

from sklearn.datasets import load_digits

import time

# 2. build a network.

start = time.time()

net = nn.Sequential(

nn.Linear(64, 32),

nn.ReLU(),

nn.Linear(32, 32),

nn.ReLU(),

～(略)～

nn.Linear(32, 32),

nn.ReLU(),

nn.Linear(32, 10)

)

# 3. set data and convert ndarray of numpy to pytorch tensor.

X, y = load_digits(return_X_y = True)

X = torch.tensor(X, dtype=torch.float32)

y = torch.tensor(y, dtype=torch.int64) # dtype=torch.float32 でないことに注意.

# 4. CPU to GPU.

# PyTorch (6) Convolutional Neural Network.

# http://aidiary.hatenablog.com/entry/20180205/1517832760

use_gpu = torch.cuda.is_available()

print("torch.cuda.current_device() = " + str(torch.cuda.current_device()))

if use_gpu:

print('cuda is available!')

X = X.to("cuda:0")

y = y.to("cuda:0")

net.to("cuda:0")

～(略)～

# 13. display correct answer rate.

print(out)

end = time.time()

print('--------------------------------------------------')

print('Elapsed Time: ' + str(end - start) + "[sec]")

■実行結果(GPU版／合計20層).

torch.cuda.current_device() = 0
cuda is available!
0.887590428491931
--------------------------------------------------
Elapsed Time: 14.03317642211914[sec]

torch.cuda.current_device() = 0

cuda is available!

0.887590428491931

--------------------------------------------------

Elapsed Time: 14.03317642211914[sec]

■注意点として, 以下のことが分かった.
① 層の数を増やしても, 必ずしも, 正解率が上がらない点が分かった.
実行結果(CPU版／合計2層): 0.998330550918197
実行結果(CPU版／合計20層): 0.7907623817473567
を比較すると, 実行結果(CPU版／合計2層) の前者の方が, 正解率が高いことが分かる.

実行結果(GPU版／合計2層): 0.9977740678909294
実行結果(GPU版／合計20層): 0.887590428491931
を比較すると, 実行結果(GPU版／合計2層) の前者の方が, 正解率が高いことが分かる.

② ここでのMLPにおいては, GPU転送しても, 高速化するわけではないことが分かった.
実行結果(CPU版／合計2層): Elapsed Time: 1.666921854019165[sec]
実行結果(GPU版／合計2層): Elapsed Time: 3.92018461227417[sec]
比較すると, 実行結果(CPU版／合計2層) の前者の方が, 処理が早く完了していたことが分かる.

実行結果(CPU版／合計20層): Elapsed Time: 7.015232563018799[sec]
実行結果(GPU版／合計20層): Elapsed Time: 14.03317642211914[sec]
比較すると, 実行結果(CPU版／合計20層) の前者の方が, 処理が早く完了していたことが分かる.

■参考書籍
現場で使える! PyTorch開発入門深層学習モデルの作成とアプリケーションへの実装 (AI & TECHNOLOGY)

■参照サイト
PyTorch (6) Convolutional Neural Network.

2018年9月22日2018年9月22日

PyTorch の動作確認をしてみた（３）

1. 環境は、Window 10 Home (64bit) 上で行った。

2. Anaconda3 (64bit) – Spyder上で、動作確認を行った。

3. python のバージョンは、python 3.6.5 である。

4. pytorch のバージョンは、pytorch 0.4.1 である。

5. GPU は, NVIDIA社の GeForce GTX 1050 である。

今回確認した内容は、現場で使える! PyTorch開発入門深層学習モデルの作成とアプリケーションへの実装 (AI & TECHNOLOGY) の 2.3.2 PyTorchで線形回帰モデル(P.032 – P.034) である。
線形回帰について, 少し理解を深めるため, 書籍例から, 若干異なるパターンについて, 線形回帰モデルのパラメータを求める動作確認を行った.

※プログラムの詳細は、書籍を参考(P.032 – P.034)にして下さい。

■線形回帰モデル例.

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch
import matplotlib.pyplot as plt

# 2. 線形回帰モデル の 挙動確認.
# y = 2 + 3 * x1 * x1 + 4 * x2 * x2
# 
# torch.Tensor
# https://pytorch.org/docs/stable/tensors.html
# torch.Tensor is an alias for the default tensor type (torch.FloatTensor).
#
# w_true = torch.tensor([2, 3, 4]) # tensor([2, 3, 4])
w_true = torch.Tensor([2, 3, 4])   # tensor([2., 3., 4.])

# 3. prepare data.
data_count = 500
X0 = torch.randn(data_count, 2)
print(X0)
print('--------------------------------------------------')
X1 = X0 * X0 # Broadcasting.
X = torch.cat([torch.ones(data_count, 1), X1], 1)
print(X)
print('--------------------------------------------------')

# 4. compute the true coefficient and the inner product of each X in batch 
# by the product of matrix and vector.
y = torch.mv(X, w_true) + torch.randn(data_count) * 0.5
# y = torch.mv(X, w_true)
print(y)
print('--------------------------------------------------')

～(略)～

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

import matplotlib.pyplot as plt

# 2. 線形回帰モデルの挙動確認.

# y = 2 + 3 * x1 * x1 + 4 * x2 * x2

# torch.Tensor

# https://pytorch.org/docs/stable/tensors.html

# torch.Tensor is an alias for the default tensor type (torch.FloatTensor).

# w_true = torch.tensor([2, 3, 4]) # tensor([2, 3, 4])

w_true = torch.Tensor([2, 3, 4]) # tensor([2., 3., 4.])

# 3. prepare data.

data_count = 500

X0 = torch.randn(data_count, 2)

print(X0)

print('--------------------------------------------------')

X1 = X0 * X0 # Broadcasting.

X = torch.cat([torch.ones(data_count, 1), X1], 1)

print(X)

print('--------------------------------------------------')

# 4. compute the true coefficient and the inner product of each X in batch

# by the product of matrix and vector.

y = torch.mv(X, w_true) + torch.randn(data_count) * 0.5

# y = torch.mv(X, w_true)

print(y)

print('--------------------------------------------------')

～(略)～

■実行結果①(data_count = 10).

～(略)～
        [1.0000, 0.7955, 0.2763],
        [1.0000, 0.5319, 1.3277]])
--------------------------------------------------
tensor([ 2.8867,  7.3405,  7.5650, 12.5030, 11.2085, 17.1577, 15.5873,  2.8067,
         5.7816,  9.2496])
--------------------------------------------------
tensor([2.8924, 2.0340, 4.0582], requires_grad=True)

～(略)～

[1.0000, 0.7955, 0.2763],

[1.0000, 0.5319, 1.3277]])

--------------------------------------------------

tensor([ 2.8867, 7.3405, 7.5650, 12.5030, 11.2085, 17.1577, 15.5873, 2.8067,

5.7816, 9.2496])

--------------------------------------------------

tensor([2.8924, 2.0340, 4.0582], requires_grad=True)

■実行結果②(data_count = 10).

～(略)～
        [1.0000, 1.0873, 0.0707],
        [1.0000, 0.3970, 3.4036]])
--------------------------------------------------
tensor([20.8009, 30.3586,  3.3634,  9.0505,  5.7447,  3.9322,  2.7843,  2.1391,
         5.4978, 17.1587])
--------------------------------------------------
tensor([-0.0309, -9.4697,  2.3776], requires_grad=True)

～(略)～

[1.0000, 1.0873, 0.0707],

[1.0000, 0.3970, 3.4036]])

--------------------------------------------------

tensor([20.8009, 30.3586, 3.3634, 9.0505, 5.7447, 3.9322, 2.7843, 2.1391,

5.4978, 17.1587])

--------------------------------------------------

tensor([-0.0309, -9.4697, 2.3776], requires_grad=True)

■実行結果③(data_count = 500).

～(略)～
         6.7367,  7.7044,  5.6503,  6.4688,  3.9203,  6.6951,  9.7749,  8.9205,
         5.0567,  3.1883,  2.4842, 11.1703, 14.5386, 13.3721,  2.0347,  6.0471,
         8.7057,  3.3889,  2.8237,  8.5143])
--------------------------------------------------
tensor([2.0220, 3.0041, 4.0148], requires_grad=True)

～(略)～

6.7367, 7.7044, 5.6503, 6.4688, 3.9203, 6.6951, 9.7749, 8.9205,

5.0567, 3.1883, 2.4842, 11.1703, 14.5386, 13.3721, 2.0347, 6.0471,

8.7057, 3.3889, 2.8237, 8.5143])

--------------------------------------------------

tensor([2.0220, 3.0041, 4.0148], requires_grad=True)

■注意点として, 以下のことが分かった.
① torch.tensor([2, 3, 4]) と torch.Tensor([2, 3, 4]) は, 別物であること(※tensor／Tensor の誤記ではない点に注意).
※参照サイトに, “torch.Tensor is an alias for the default tensor type (torch.FloatTensor).” の説明があった.

② サンプル数(data_count) が, 10 の場合は, 実行結果②(data_count = 10) にあるように, 正解値 [2., 3., 4.] から, 大きく外れた値 (ここでは, [-0.0309, -9.4697, 2.3776]) で出力される場合が確認された.

③ サンプル数(data_count) が, 500 の場合は, 正解値 [2., 3., 4.] から, 大きく外れた値を確認出来なかったので, サンプル数を増やすことで, 線形回帰の精度が高まったと理解される.
※[F5]キー連打で, 200回程度試してみた.

■参考書籍
現場で使える! PyTorch開発入門深層学習モデルの作成とアプリケーションへの実装 (AI & TECHNOLOGY)

■参照サイト
torch.Tensor

2018年9月22日

C++ の動作確認をしてみた（２０）

C++の練習を兼ねて, AtCoder Beginner Contest 069 の問題D（Grid Coloring）を解いてみた.

■感想.
1. 一筆書きのアイデアが, AtCoder Beginner Contest 109 の問題D (Make Them Even) に類似していたので, 興味深かった.
2. コーディング後, 解説を見たら, 全く同じ方針だったので, 良かったと思う.

本家のサイトABC #069 / ARC #080 Editorialをご覧下さい.

■C++版プログラム.

#include <iostream>

using namespace std;

#define FOR(i, a, b) for(int i=(a); i<(b); ++i)

int main() {
    
    // 1. 入力情報取得.
    int H, W, N;
    cin >> H >> W;
    cin >> N;
    int A[N] = {};
    FOR(i, 0, N) cin >> A[i];
    
    // 2. A[i] の 累積和 を 保管.
    int B[N] = {};
    B[0] = A[0];
    FOR(i, 1, N) B[i] += (B[i - 1] + A[i]);
    
    // 3. サイズが, H×W の 1次元配列に, 1, 1, 1, ..., 2, 2, ..., 3, 3, ..., N を, 格納.
    int C[H * W] = {};
    int index = 0;
    FOR(i, 0, H * W) {
        if(B[index] > i) C[i] = (index + 1);
        else             C[i] = (++index + 1);
    }
    
    // 4. 一次元配列Cの要素を, ジグザグに出力させる.
    // C11 -> C12 -> ... -> C1W -> C2W -> ... -> C21 -> C31 -> ...
    bool evenLine = true;
    FOR(i, 0, H) {
        if(evenLine) {
            int start = W * i;
            FOR(j, 0, W) cout << C[start + j] << " ";
        } else {
            int start = W * (i + 1) - 1;
            FOR(j, 0, W) cout << C[start - j] << " ";
        }
        cout << endl;
        evenLine = !evenLine;    // 反転.
    }
    
    // 5. 後処理.
    return 0;
    
}

#include <iostream>

using namespace std;

#define FOR(i, a, b) for(int i=(a); i<(b); ++i)

int main() {

// 1. 入力情報取得.

int H, W, N;

cin >> H >> W;

cin >> N;

int A[N] = {};

FOR(i, 0, N) cin >> A[i];

// 2. A[i] の累積和を保管.

int B[N] = {};

B[0] = A[0];

FOR(i, 1, N) B[i] += (B[i - 1] + A[i]);

// 3. サイズが, H×W の 1次元配列に, 1, 1, 1, ..., 2, 2, ..., 3, 3, ..., N を, 格納.

int C[H * W] = {};

int index = 0;

FOR(i, 0, H * W) {

if(B[index] > i) C[i] = (index + 1);

else C[i] = (++index + 1);

}

// 4. 一次元配列Cの要素を, ジグザグに出力させる.

// C11 -> C12 -> ... -> C1W -> C2W -> ... -> C21 -> C31 -> ...

bool evenLine = true;

FOR(i, 0, H) {

if(evenLine) {

int start = W * i;

FOR(j, 0, W) cout << C[start + j] << " ";

} else {

int start = W * (i + 1) - 1;

FOR(j, 0, W) cout << C[start - j] << " ";

}

cout << endl;

evenLine = !evenLine; // 反転.

}

// 5. 後処理.

return 0;

}

■入力／出力例

[入力例]
2 2
3
2 1 1

[出力例]
1 1 
3 2 

[入力例]
3 5
5
1 2 3 4 5

[出力例]
1 2 2 3 3 
4 4 4 4 3 
5 5 5 5 5 

[入力例]
1 1
1
1

[出力例]
1

[入力例]
4 4
7
1 2 3 4 3 2 1

[出力例]
1 2 2 3 
4 4 3 3 
4 4 5 5 
7 6 6 5 

[入力例]
9 4
11
1 2 3 4 5 6 5 4 3 2 1

[出力例]
1 2 2 3 
4 4 3 3 
4 4 5 5 
6 5 5 5 
6 6 6 6 
7 7 7 6 
7 7 8 8 
9 9 8 8 
9 10 10 11

[入力例]

2 2

2 1 1

[出力例]

1 1

3 2

[入力例]

3 5

1 2 3 4 5

[出力例]

1 2 2 3 3

4 4 4 4 3

5 5 5 5 5

[入力例]

1 1

[出力例]

[入力例]

4 4

1 2 3 4 3 2 1

[出力例]

1 2 2 3

4 4 3 3

4 4 5 5

7 6 6 5

[入力例]

9 4

1 2 3 4 5 6 5 4 3 2 1

[出力例]

1 2 2 3

4 4 3 3

4 4 5 5

6 5 5 5

6 6 6 6

7 7 7 6

7 7 8 8

9 9 8 8

9 10 10 11

■参照サイト
AtCoder Beginner Contest 069

2018年9月18日

C++ の動作確認をしてみた（１９）

C++の練習を兼ねて, AtCoder Beginner Contest 069 の問題C（4-adjacent）を解いてみた.

■感想.
1. 解答方針が決まるまで, 試行錯誤したものの, 何とかACになったので良かったと思う.
2. コーディング後, 解説を見たら, 多分同じ方針だったので, とりあえず良かったと思う.

本家のサイトABC #069 / ARC #080 Editorialをご覧下さい.

■C++版プログラム.

#include <iostream>

using namespace std;

#define FOR(i, a, b) for(int i=(a); i<(b); ++i)

typedef long long LL;

int main() {
    
    // 1. 入力情報取得.
    int N;
    cin >> N;
    
    // 2. a(i) と a(i+1) の積が, 4の倍数になるには？.
    LL a;
    int odd = 0;    // 奇数の個数.
    int m2  = 0;    // 2の倍数の個数.
    int m4  = 0;    // 4の倍数の個数.
    
    FOR(i, 0, N) {
        LL ai;
        cin >> ai;
        if(ai % 2 != 0) {
            odd++;
        } else {
            if(ai % 4 == 0) {
                m4++;
            } else {
                m2++;
            }
        }
    }
    
    // 3. 判定.
    bool ok = false;
    // N = 2 の 場合, 
    // 1 1 は, NG. (合計 2)
    // 2 2 は, OK. (合計 4)
    // 1 4 は, OK. (合計 5)
    // 
    // N = 3 の 場合, 
    // 1 4 1 は, OK. (合計 6)
    // 2 2 2 は, OK. (合計 6)
    // 1 4 2 は, OK. (合計 7)
    // 1 2 2 は, NG. (合計 5)
    // 
    // N = 4 の 場合, 
    // 2 2 2 2 は, OK. (合計 8)
    // 1 2 4 1 は, NG. (合計 8)
    // 1 4 4 1 は, OK. (合計 10)
    
    // N = 5 の 場合, 
    // 2 2 2 1 2 は, NG. (合計  9)
    // 2 2 2 2 2 は, OK. (合計 10)
    // 2 2 2 4 1 は, OK. (合計 11)
    // 2 2 4 1 4 は, OK. (合計 13)
    // 1 4 2 4 1 は, OK. (合計 12)
    // 1 4 1 4 1 は, OK. (合計 11)
    // 
    // -> 上記のように, 合計を考えるアプローチは, 厳しそう.
    // 
    // 1 と 4 の 組み合わせを, どんどん削除していくことを考える.
    // 1 4 1 4 2 2 2 のような並びなら,
    // 1 4 1 4 2 2 2 -> 1 4 2 2 2 -> 2 2 2 のイメージ(目標達成).
    // 
    // 1 4 1 4 1 4 1 4 1 2 のような並びなら,
    // 1 4 1 4 1 4 1 4 1 2 -> 1 4 1 4 1 4 1 2 -> 1 4 1 4 1 2 -> 1 4 1 2 -> 1 2 のイメージ(目標達成不可能).
    // 
    // 1 4 1 4 1 のような並びなら,
    // 1 4 1 4 1 -> 1 4 1 -> 1 のイメージ(目標達成).
    // 
    // 1 4 1 4 のような並びなら,
    // 1 4 1 4 -> 1 4 -> "" のイメージ(目標達成).
    
    // 3-1. 1 が存在しない場合は, すでに目標達成.
    if(odd == 0) ok = true;
    
    // 3-2. 1 と 4 のペアを消していって, 最終的に, 
    // ① 何も残らない.
    // ② 1 が, 1個だけ残る.
    // ③ 2, 4 の 片方, もしくは, 両方 が残る.
    // の場合は, 目標達成と判定できる.
    if(odd <= m4) ok = true;
    if(odd - m4 == 1 && m2 == 0) ok = true;
    
    // 4. 出力 ～ 後処理.
    cout << (ok ? "Yes" : "No") << endl;
    return 0;
    
}

#include <iostream>

using namespace std;

#define FOR(i, a, b) for(int i=(a); i<(b); ++i)

typedef long long LL;

int main() {

// 1. 入力情報取得.

int N;

cin >> N;

// 2. a(i) と a(i+1) の積が, 4の倍数になるには？.

LL a;

int odd = 0; // 奇数の個数.

int m2 = 0; // 2の倍数の個数.

int m4 = 0; // 4の倍数の個数.

FOR(i, 0, N) {

LL ai;

cin >> ai;

if(ai % 2 != 0) {

odd++;

} else {

if(ai % 4 == 0) {

m4++;

} else {

m2++;

}

// 3. 判定.

bool ok = false;

// N = 2 の場合,

// 1 1 は, NG. (合計 2)

// 2 2 は, OK. (合計 4)

// 1 4 は, OK. (合計 5)

// N = 3 の場合,

// 1 4 1 は, OK. (合計 6)

// 2 2 2 は, OK. (合計 6)

// 1 4 2 は, OK. (合計 7)

// 1 2 2 は, NG. (合計 5)

// N = 4 の場合,

// 2 2 2 2 は, OK. (合計 8)

// 1 2 4 1 は, NG. (合計 8)

// 1 4 4 1 は, OK. (合計 10)

// N = 5 の場合,

// 2 2 2 1 2 は, NG. (合計 9)

// 2 2 2 2 2 は, OK. (合計 10)

// 2 2 2 4 1 は, OK. (合計 11)

// 2 2 4 1 4 は, OK. (合計 13)

// 1 4 2 4 1 は, OK. (合計 12)

// 1 4 1 4 1 は, OK. (合計 11)

// -> 上記のように, 合計を考えるアプローチは, 厳しそう.

// 1 と 4 の組み合わせを, どんどん削除していくことを考える.

// 1 4 1 4 2 2 2 のような並びなら,

// 1 4 1 4 2 2 2 -> 1 4 2 2 2 -> 2 2 2 のイメージ(目標達成).

// 1 4 1 4 1 4 1 4 1 2 のような並びなら,

// 1 4 1 4 1 4 1 4 1 2 -> 1 4 1 4 1 4 1 2 -> 1 4 1 4 1 2 -> 1 4 1 2 -> 1 2 のイメージ(目標達成不可能).

// 1 4 1 4 1 のような並びなら,

// 1 4 1 4 1 -> 1 4 1 -> 1 のイメージ(目標達成).

// 1 4 1 4 のような並びなら,

// 1 4 1 4 -> 1 4 -> "" のイメージ(目標達成).

// 3-1. 1 が存在しない場合は, すでに目標達成.

if(odd == 0) ok = true;

// 3-2. 1 と 4 のペアを消していって, 最終的に,

// ① 何も残らない.

// ② 1 が, 1個だけ残る.

// ③ 2, 4 の片方, もしくは, 両方が残る.

// の場合は, 目標達成と判定できる.

if(odd <= m4) ok = true;

if(odd - m4 == 1 && m2 == 0) ok = true;

// 4. 出力～後処理.

cout << (ok ? "Yes" : "No") << endl;

return 0;

}

■参照サイト
AtCoder Beginner Contest 069

2018年9月18日

PyTorch の動作確認をしてみた（２）

1. 環境は、Window 10 Home (64bit) 上で行った。

2. Anaconda3 (64bit) – Spyder上で、動作確認を行った。

3. python のバージョンは、python 3.6.5 である。

4. pytorch のバージョンは、pytorch 0.4.1 である。

5. GPU は, NVIDIA社の GeForce GTX 1050 である。

今回確認した内容は、現場で使える! PyTorch開発入門深層学習モデルの作成とアプリケーションへの実装 (AI & TECHNOLOGY) の 1.3 Tensorと自動微分(P.022 – P.023) である。
自動微分について, 少し理解を深めるため, 簡単な動作確認を行った.

※プログラムの詳細は、書籍を参考(P.022 – P.023)にして下さい。

■自動微分例①.

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch

# 2. automatic differentiation の 挙動確認.
# Autograd: automatic differentiation.
# https://pytorch.org/tutorials/beginner/blitz/autograd_tutorial.html#gradients
#
# requires_grad=False とすると, 以下のような実行時エラーが表示される.
# RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn
# a = torch.randn(2, 2, requires_grad=False)
a = torch.randn(3, 2, requires_grad=True)
# b = a11 * a11 + a12 * a12 + a21 * a21 + a22 * a22 + a31 * a31 + a32 * a32
# のように計算している.
# 但し, aij で, テンソルa の i行j列目 を表しているとする. 
b = (a * a).sum()
print(a)
print('--------------------------------------------------')
print(b)
print('--------------------------------------------------')
print(b.grad_fn)
print('--------------------------------------------------')
b.backward()
# a.grad で, ∂b/∂a11 = a11 * 2, ..., ∂b/∂a32 = a32 * 2 といった計算が行われ, 計算結果が表示される.
print(a.grad)

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

# 2. automatic differentiation の挙動確認.

# Autograd: automatic differentiation.

# https://pytorch.org/tutorials/beginner/blitz/autograd_tutorial.html#gradients

# requires_grad=False とすると, 以下のような実行時エラーが表示される.

# RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn

# a = torch.randn(2, 2, requires_grad=False)

a = torch.randn(3, 2, requires_grad=True)

# b = a11 * a11 + a12 * a12 + a21 * a21 + a22 * a22 + a31 * a31 + a32 * a32

# のように計算している.

# 但し, aij で, テンソルa の i行j列目を表しているとする.

b = (a * a).sum()

print(a)

print('--------------------------------------------------')

print(b)

print('--------------------------------------------------')

print(b.grad_fn)

print('--------------------------------------------------')

b.backward()

# a.grad で, ∂b/∂a11 = a11 * 2, ..., ∂b/∂a32 = a32 * 2 といった計算が行われ, 計算結果が表示される.

print(a.grad)

■実行結果①.

tensor([[ 0.4537,  0.2061],
        [-0.5527, -2.7338],
        [-0.1388,  1.5524]], requires_grad=True)
--------------------------------------------------
tensor(10.4567, grad_fn=<SumBackward0>)
--------------------------------------------------
<SumBackward0 object at 0x0000029B936FD3C8>
--------------------------------------------------
tensor([[ 0.9074,  0.4122],
        [-1.1054, -5.4676],
        [-0.2775,  3.1047]])

tensor([[ 0.4537, 0.2061],

[-0.5527, -2.7338],

[-0.1388, 1.5524]], requires_grad=True)

--------------------------------------------------

tensor(10.4567, grad_fn=<SumBackward0>)

--------------------------------------------------

--------------------------------------------------

tensor([[ 0.9074, 0.4122],

[-1.1054, -5.4676],

[-0.2775, 3.1047]])

■自動微分例②.

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch

# 2. automatic differentiation の 挙動確認.
# Autograd: automatic differentiation.
# https://pytorch.org/tutorials/beginner/blitz/autograd_tutorial.html#gradients
# 
# a = torch.tensor([[1, 2, 3], [4, 5, 6]], requires_grad=True)
# -> 以下のような実行時エラーが表示される.
# RuntimeError: Only Tensors of floating point dtype can require gradients
# 
a = torch.tensor([[1, 2, 3], [4, 5, 6.]], requires_grad=True)
# b = (a11 + a12 + a13 + a21 + a22 + a23) / 6
# のように計算している.
# 但し, aij で, テンソルa の i行j列目 を表しているとする. 
b = a.mean()
print(a)
print('--------------------------------------------------')
print(b)
print('--------------------------------------------------')
print(b.grad_fn)
print('--------------------------------------------------')
b.backward()
# a.grad で, ∂b/∂a11 = 1 / 6, ..., ∂b/∂a23 = 1 / 6 といった計算が行われ, 計算結果が表示される.
print(a.grad)

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

# 2. automatic differentiation の挙動確認.

# Autograd: automatic differentiation.

# https://pytorch.org/tutorials/beginner/blitz/autograd_tutorial.html#gradients

# a = torch.tensor([[1, 2, 3], [4, 5, 6]], requires_grad=True)

# -> 以下のような実行時エラーが表示される.

# RuntimeError: Only Tensors of floating point dtype can require gradients

a = torch.tensor([[1, 2, 3], [4, 5, 6.]], requires_grad=True)

# b = (a11 + a12 + a13 + a21 + a22 + a23) / 6

# のように計算している.

# 但し, aij で, テンソルa の i行j列目を表しているとする.

b = a.mean()

print(a)

print('--------------------------------------------------')

print(b)

print('--------------------------------------------------')

print(b.grad_fn)

print('--------------------------------------------------')

b.backward()

# a.grad で, ∂b/∂a11 = 1 / 6, ..., ∂b/∂a23 = 1 / 6 といった計算が行われ, 計算結果が表示される.

print(a.grad)

■実行結果②.

tensor([[1., 2., 3.],
        [4., 5., 6.]], requires_grad=True)
--------------------------------------------------
tensor(3.5000, grad_fn=<MeanBackward1>)
--------------------------------------------------
<MeanBackward1 object at 0x0000029B937199B0>
--------------------------------------------------
tensor([[0.1667, 0.1667, 0.1667],
        [0.1667, 0.1667, 0.1667]])

tensor([[1., 2., 3.],

[4., 5., 6.]], requires_grad=True)

--------------------------------------------------

tensor(3.5000, grad_fn=<MeanBackward1>)

--------------------------------------------------

--------------------------------------------------

tensor([[0.1667, 0.1667, 0.1667],

[0.1667, 0.1667, 0.1667]])

■自動微分例③.

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch

# 2. automatic differentiation の 挙動確認.
# Autograd: automatic differentiation.
# https://pytorch.org/tutorials/beginner/blitz/autograd_tutorial.html#gradients
# 
a = torch.tensor([[1, 2, 3], [5, 6, 4.]], requires_grad=True)
# b = max(a11, a12, a13, a21, a22, a23) = a22
# のように計算している.
# 但し, aij で, テンソルa の i行j列目 を表しているとする. 
b = torch.max(a)
print(a)
print('--------------------------------------------------')
print(b)
print('--------------------------------------------------')
print(b.grad_fn)
print('--------------------------------------------------')
b.backward()
# a.grad で, ∂b/∂a11 = 0, ..., ∂b/∂a22 = 1, ∂b/∂a23 = 0 といった計算が行われ, 計算結果が表示される.
print(a.grad)

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

# 2. automatic differentiation の挙動確認.

# Autograd: automatic differentiation.

# https://pytorch.org/tutorials/beginner/blitz/autograd_tutorial.html#gradients

a = torch.tensor([[1, 2, 3], [5, 6, 4.]], requires_grad=True)

# b = max(a11, a12, a13, a21, a22, a23) = a22

# のように計算している.

# 但し, aij で, テンソルa の i行j列目を表しているとする.

b = torch.max(a)

print(a)

print('--------------------------------------------------')

print(b)

print('--------------------------------------------------')

print(b.grad_fn)

print('--------------------------------------------------')

b.backward()

# a.grad で, ∂b/∂a11 = 0, ..., ∂b/∂a22 = 1, ∂b/∂a23 = 0 といった計算が行われ, 計算結果が表示される.

print(a.grad)

■実行結果③.

tensor([[1., 2., 3.],
        [5., 6., 4.]], requires_grad=True)
--------------------------------------------------
tensor(6., grad_fn=<MaxBackward1>)
--------------------------------------------------
<MaxBackward1 object at 0x0000029B93719320>
--------------------------------------------------
tensor([[0., 0., 0.],
        [0., 1., 0.]])

tensor([[1., 2., 3.],

[5., 6., 4.]], requires_grad=True)

--------------------------------------------------

tensor(6., grad_fn=<MaxBackward1>)

--------------------------------------------------

--------------------------------------------------

tensor([[0., 0., 0.],

[0., 1., 0.]])

■自動微分例④.

# -*- coding: utf-8 -*-
# 1. library import.
from __future__ import print_function
import torch

# 2. automatic differentiation の 挙動確認.
# Autograd: automatic differentiation.
# https://pytorch.org/tutorials/beginner/blitz/autograd_tutorial.html#gradients
# 
a = torch.tensor([[1, 3], [4, 2.]], requires_grad=True)
# b が, スカラーでない場合は, 以下のような実行時エラーが出力される.
# RuntimeError: grad can be implicitly created only for scalar outputs
# b = torch.mm(a.t(), a)
# 
# b11 = a11 * a11 + a21 * a21
# b12 = a12 * a11 + a22 * a21
# b21 = a11 * a12 + a21 * a22
# b22 = a12 * a12 + a22 * a22
# のように計算している.
# 但し, aij で, テンソルa の i行j列目 を表しているとする. 
b = torch.mm(a.t(), a)
# c = (b11 + b12 + b21 + b22) / 4 のように計算している.
c = b.mean()
print(a)
print('--------------------------------------------------')
print(b)
print('--------------------------------------------------')
print(c)
print('--------------------------------------------------')
print(c.grad_fn)
print('--------------------------------------------------')
c.backward()
# a.grad で, ∂c/∂a11 = (∂b11/∂a11 + ∂b12/∂a11 + ∂b21/∂a11 + ∂b22/∂a11) / 4
# = (a11 * 2 + a12 + a12) / 4, 
# ∂c/∂a12 = (∂b11/∂a12 + ∂b12/∂a12 + ∂b21/∂a12 + ∂b22/∂a12) / 4
# = (a11 + a11 + a12 * 2) / 4, ...
# など計算が行われ, ∂c/∂a11, ..., ∂c/∂a22 の各計算結果が表示される.
print(a.grad)

# -*- coding: utf-8 -*-

# 1. library import.

from __future__ import print_function

import torch

# 2. automatic differentiation の挙動確認.

# Autograd: automatic differentiation.

# https://pytorch.org/tutorials/beginner/blitz/autograd_tutorial.html#gradients

a = torch.tensor([[1, 3], [4, 2.]], requires_grad=True)

# b が, スカラーでない場合は, 以下のような実行時エラーが出力される.

# RuntimeError: grad can be implicitly created only for scalar outputs

# b = torch.mm(a.t(), a)

# b11 = a11 * a11 + a21 * a21

# b12 = a12 * a11 + a22 * a21

# b21 = a11 * a12 + a21 * a22

# b22 = a12 * a12 + a22 * a22

# のように計算している.

# 但し, aij で, テンソルa の i行j列目を表しているとする.

b = torch.mm(a.t(), a)

# c = (b11 + b12 + b21 + b22) / 4 のように計算している.

c = b.mean()

print(a)

print('--------------------------------------------------')

print(b)

print('--------------------------------------------------')

print(c)

print('--------------------------------------------------')

print(c.grad_fn)

print('--------------------------------------------------')

c.backward()

# a.grad で, ∂c/∂a11 = (∂b11/∂a11 + ∂b12/∂a11 + ∂b21/∂a11 + ∂b22/∂a11) / 4

# = (a11 * 2 + a12 + a12) / 4,

# ∂c/∂a12 = (∂b11/∂a12 + ∂b12/∂a12 + ∂b21/∂a12 + ∂b22/∂a12) / 4

# = (a11 + a11 + a12 * 2) / 4, ...

# など計算が行われ, ∂c/∂a11, ..., ∂c/∂a22 の各計算結果が表示される.

print(a.grad)

■実行結果④.

tensor([[1., 3.],
        [4., 2.]], requires_grad=True)
--------------------------------------------------
tensor([[17., 11.],
        [11., 13.]], grad_fn=<MmBackward>)
--------------------------------------------------
tensor(13., grad_fn=<MeanBackward1>)
--------------------------------------------------
<MeanBackward1 object at 0x0000029B936DCDA0>
--------------------------------------------------
tensor([[2., 2.],
        [3., 3.]])

tensor([[1., 3.],

[4., 2.]], requires_grad=True)

--------------------------------------------------

tensor([[17., 11.],

[11., 13.]], grad_fn=<MmBackward>)

--------------------------------------------------

tensor(13., grad_fn=<MeanBackward1>)

--------------------------------------------------

--------------------------------------------------

tensor([[2., 2.],

[3., 3.]])

■注意点として, 以下のことが分かった.
① a に, requires_grad=False を指定すると,
RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn
のようなエラーが出力されること.

② a が float型でないと,
RuntimeError: Only Tensors of floating point dtype can require gradients
のようなエラーが出力されること.

③ b がスカラーでないと,
RuntimeError: grad can be implicitly created only for scalar outputs
のようなエラーが出力されること.

■参考書籍
現場で使える! PyTorch開発入門深層学習モデルの作成とアプリケーションへの実装 (AI & TECHNOLOGY)

■参照サイト
Autograd: automatic differentiation

2018年9月16日2018年10月3日

PyTorch の動作確認をしてみた（１）

1. 環境は、Window 10 Home (64bit) 上で行った。

2. Anaconda3 (64bit) – Spyder上で、動作確認を行った。

3. python のバージョンは、python 3.6.5 である。

4. pytorch のバージョンは、pytorch 0.4.1 である。

5. GPU は, NVIDIA社の GeForce GTX 1050 である。

今回確認した内容は、現場で使える! PyTorch開発入門深層学習モデルの作成とアプリケーションへの実装 (AI & TECHNOLOGY) の該当ページ(P.002 – P.016) である。
pytorch の install から簡単な動作確認を行った.

※プログラムの詳細は、書籍を参考(P.002 – P.016)にして下さい。

■PyTorch の install.

1. PyTorch環境設定(仮想環境: base(root)).
1-1. [Anaconda Navigator] から [Environments] - [base(root)] の 右三角ボタンを押下し, [Open Terminal]押下.

1-2. 以下のコマンドを確認.
(base) >conda install -c soumith pytorch
Solving environment: -
Warning: 8 possible package resolutions (only showing differing packages):
～(略)～
Proceed ([y]/n)? y


Downloading and Extracting Packages
conda-4.5.11         | 1.0 MB    | ################################################################ | 100%
pytorch-0.4.1        | 590.8 MB  | ################################################################ | 100%
Preparing transaction: done
Verifying transaction: done
Executing transaction: done

(base) >exit
-> [Enter]キー押下で, Terminal終了.

1. PyTorch環境設定(仮想環境: base(root)).

1-1. [Anaconda Navigator] から [Environments] - [base(root)] の右三角ボタンを押下し, [Open Terminal]押下.

1-2. 以下のコマンドを確認.

(base) >conda install -c soumith pytorch

Solving environment: -

Warning: 8 possible package resolutions (only showing differing packages):

～(略)～

Proceed ([y]/n)? y

Downloading and Extracting Packages

conda-4.5.11 | 1.0 MB | ################################################################ | 100%

pytorch-0.4.1 | 590.8 MB | ################################################################ | 100%

Preparing transaction: done

Verifying transaction: done

Executing transaction: done

(base) >exit

-> [Enter]キー押下で, Terminal終了.

2. PyTorch環境設定(仮想環境: tf_env_3.6).
2-1. [Anaconda Navigator] から [Environments] - [tf_env_3.6] の 右三角ボタンを押下し, [Open Terminal]押下.

2-2. 以下のコマンドを確認.
(tf_env_3.6) >conda install -c soumith pytorch
Solving environment: -
Warning: 4 possible package resolutions (only showing differing packages):
～(略)～
Proceed ([y]/n)? y


Downloading and Extracting Packages
certifi-2018.8.24    | 140 KB    | ################################################################ | 100%
Preparing transaction: done
Verifying transaction: done
Executing transaction: done

(tf_env_3.6) >exit
-> [Enter]キー押下で, Terminal終了.

2. PyTorch環境設定(仮想環境: tf_env_3.6).

2-1. [Anaconda Navigator] から [Environments] - [tf_env_3.6] の右三角ボタンを押下し, [Open Terminal]押下.

2-2. 以下のコマンドを確認.

(tf_env_3.6) >conda install -c soumith pytorch

Solving environment: -

Warning: 4 possible package resolutions (only showing differing packages):

～(略)～

Proceed ([y]/n)? y

Downloading and Extracting Packages

certifi-2018.8.24 | 140 KB | ################################################################ | 100%

Preparing transaction: done

Verifying transaction: done

Executing transaction: done

(tf_env_3.6) >exit

-> [Enter]キー押下で, Terminal終了.

■対象プログラム(Spyder上).

# -*- coding: utf-8 -*-
# pytorch を 下記コマンドで, install.
# conda install -c soumith pytorch
# 1. library import.
from __future__ import print_function
import torch

# What is PyTorch?
# https://pytorch.org/tutorials/beginner/blitz/tensor_tutorial.html
x = torch.rand(3, 3)
print(x)
print('--------------------------------------------------')
x = torch.zeros(3, 4, 2, dtype=torch.long)
print(x)
print('--------------------------------------------------')
x = torch.tensor([[5.5, 4.4, 3.3], [2.2, 1.1, 0.0]])
print(x)
print('--------------------------------------------------')
print(x.size())

# -*- coding: utf-8 -*-

# pytorch を下記コマンドで, install.

# conda install -c soumith pytorch

# 1. library import.

from __future__ import print_function

import torch

# What is PyTorch?

# https://pytorch.org/tutorials/beginner/blitz/tensor_tutorial.html

x = torch.rand(3, 3)

print(x)

print('--------------------------------------------------')

x = torch.zeros(3, 4, 2, dtype=torch.long)

print(x)

print('--------------------------------------------------')

x = torch.tensor([[5.5, 4.4, 3.3], [2.2, 1.1, 0.0]])

print(x)

print('--------------------------------------------------')

print(x.size())

■実行結果

tensor([[0.7610, 0.7807, 0.4209],
        [0.7069, 0.7736, 0.8407],
        [0.7584, 0.4032, 0.5651]])
--------------------------------------------------
tensor([[[0, 0],
         [0, 0],
         [0, 0],
         [0, 0]],

        [[0, 0],
         [0, 0],
         [0, 0],
         [0, 0]],

        [[0, 0],
         [0, 0],
         [0, 0],
         [0, 0]]])
--------------------------------------------------
tensor([[5.5000, 4.4000, 3.3000],
        [2.2000, 1.1000, 0.0000]])
--------------------------------------------------
torch.Size([2, 3])

tensor([[0.7610, 0.7807, 0.4209],

[0.7069, 0.7736, 0.8407],

[0.7584, 0.4032, 0.5651]])

--------------------------------------------------

tensor([[[0, 0],

[0, 0],

[0, 0]],

[[0, 0],

[0, 0],

[0, 0]],

[[0, 0],

[0, 0],

[0, 0]]])

--------------------------------------------------

tensor([[5.5000, 4.4000, 3.3000],

[2.2000, 1.1000, 0.0000]])

--------------------------------------------------

torch.Size([2, 3])

※ちなみに, Spyder上で, 出力に, runfile(…) が表示されるので, 非表示に出来ないのかを調べたところ, 下記, 参照サイト③ にあるように, Spyder 4, to be released in 2019 で対応する可能性があるとのこと.

■参考書籍
現場で使える! PyTorch開発入門深層学習モデルの作成とアプリケーションへの実装 (AI & TECHNOLOGY)

■参照サイト
【参照サイト①】Welcome to PyTorch Tutorials
【参照サイト②】What is PyTorch?
【参照サイト③】hidding the runfile() command in Spyder

2018年9月15日

C++ の動作確認をしてみた（１８）

C++の練習を兼ねて, AtCoder Beginner Contest 071 の問題D（Coloring Dominoes）を解いてみた.

■感想.
1. 動的計画法(DP)の練習問題と見て, 時間かかったものの(汗), 何とかACになったので良かったと思う.
2. コーディング後, 解説を見たら, おおよそ同じ方針だったので, とりあえず良かったと思う.

本家のサイトAtCoder Beginner Contest 071 / AtCoder Regular Contest 081 解説をご覧下さい.

■C++版プログラム.

#include <iostream>
#include <string>

using namespace std;

typedef long long LL;

#define FOR(i, a, b) for(int i=(a); i<(b); ++i)

int main() {
    
    // 1. 入力情報取得.
    int N;
    cin >> N;
    string S1, S2;
    cin >> S1;
    cin >> S2;
    
    // 2. 動的計画法(DP)が使えるか検証.
    // d[0] = 0 として, d[j] が, j列目までのドミノの塗り方総数(mod 1000000007)と設定する.
    // d[1] は, S1[0], S2[0] が, 等しいかどうかで分岐する.
    LL d[53] = {};
    if(S1[0] != S2[0]) d[1] = 6;    // 塗り方について, S1[0] … 3色, S2[0] … 2色 を選べるので, 6通り.
    else               d[1] = 3;    // 塗り方について, S1[0], S2[0] を同じ色にする必要があり, 3通り.

    // 3. d[i] は, 以下のパターンに分類できると考えられる.
    // 3-1. S1[i-1] と S2[i-1] が等しく, S1[i] と S2[i] が等しい(パターン①).
    // 例)
    // .ab...
    // .ab...
    // 
    // S1[i](=S2[i]) は, S1[i-1](=S2[i-1]) と異なる色を選択すればよいので, 2通り選択可能.
    // -> d[i+1] = 2 * d[i]
    // 
    // 3-2. S1[i-1] と S2[i-1] が等しく, S1[i] と S2[i] が異なる(パターン②).
    // 例)
    // .ab...
    // .ac...
    // 
    // S1[i] は, S2[i] 及び S1[i-1](=S2[i-1]) と異なる色を選択すればよいので, 2通り選択可能.
    // S2[i] は, S1[i] の塗り方に依存して決まるので, 1通り.
    // -> d[i+1] = 2 * d[i]
    // 
    // 3-3. S1[i-1] と S2[i-1] が異なり, S1[i] と S2[i] が等しい(パターン③).
    // 例)
    // .ac...
    // .bc...
    // 
    // S1[i](=S2[i]) は, S1[i-1], S2[i-1] と異なる色を選択すればよいので, 1通りだけ選択可能.
    // -> d[i+1] = d[i]
    // 
    // 3-4. S1[i-1] と S2[i-1] が異なり, S1[i-1] と S1[i], S2[i-1] と S2[i] が, それぞれ等しい(パターン④).
    // 例)
    // .aa...
    // .bb...
    // 
    // S1[i], S2[i] は, それぞれ S1[i-1], S2[i-1] と同じ色を選択すればよいので, 1通りだけ選択可能.
    // -> d[i+1] = d[i]
    // 
    // 3-5. S1[i-1] と S2[i-1] が異なり, S1[i-1] と S1[i], S2[i-1] と S2[i], S1[i] と S2[i] が, それぞれ異なる(パターン⑤).
    // 例)
    // .ac...
    // .bd...
    // 
    // S1[i-1] と S2[i-1] が, それぞれ, 赤, 緑 で塗られていたとすると, 
    // S1[i] は, 緑 or 青 を塗ることが可能, S2[i] は, 赤 or 青 を塗ることが可能.
    // -> まとめると, (S1[i-1], S2[i-1], S1[i], S2[i]) = (赤, 緑, 緑, 赤), (赤, 緑, 緑, 青), (赤, 緑, 青, 赤) の 3通り.
    // -> d[i+1] = 3 * d[i]
    
    FOR(i, 1, N) {
        // パターン①.
        if(S1[i-1] == S2[i-1] && S1[i] == S2[i]) d[i+1] = 2 * d[i];

        // パターン②.
        if(S1[i-1] == S2[i-1] && S1[i] != S2[i]) d[i+1] = 2 * d[i];
        
        // パターン③.
        if(S1[i-1] != S2[i-1] && S1[i] == S2[i]) d[i+1] = d[i];

        // パターン④.
        if(S1[i-1] != S2[i-1] && S1[i-1] == S1[i] && S2[i-1] == S2[i]) d[i+1] = d[i];

        // パターン⑤.
        if(S1[i-1] != S2[i-1] && S1[i-1] != S1[i] && S2[i-1] != S2[i] && S1[i] != S2[i]) d[i+1] = 3 * d[i];

        // d[i+1] に, mod 1000000007 を適用.
        d[i+1] %= 1000000007;
    }
    
    // 4. 出力 ～ 後処理.
    cout << d[N] << endl;
    return 0;
    
}

#include <iostream>

#include <string>

using namespace std;

typedef long long LL;

#define FOR(i, a, b) for(int i=(a); i<(b); ++i)

int main() {

// 1. 入力情報取得.

int N;

cin >> N;

string S1, S2;

cin >> S1;

cin >> S2;

// 2. 動的計画法(DP)が使えるか検証.

// d[0] = 0 として, d[j] が, j列目までのドミノの塗り方総数(mod 1000000007)と設定する.

// d[1] は, S1[0], S2[0] が, 等しいかどうかで分岐する.

LL d[53] = {};

if(S1[0] != S2[0]) d[1] = 6; // 塗り方について, S1[0] … 3色, S2[0] … 2色を選べるので, 6通り.

else d[1] = 3; // 塗り方について, S1[0], S2[0] を同じ色にする必要があり, 3通り.

// 3. d[i] は, 以下のパターンに分類できると考えられる.

// 3-1. S1[i-1] と S2[i-1] が等しく, S1[i] と S2[i] が等しい(パターン①).

// 例)

// .ab...

// S1[i](=S2[i]) は, S1[i-1](=S2[i-1]) と異なる色を選択すればよいので, 2通り選択可能.

// -> d[i+1] = 2 * d[i]

// 3-2. S1[i-1] と S2[i-1] が等しく, S1[i] と S2[i] が異なる(パターン②).

// 例)

// .ab...

// .ac...

// S1[i] は, S2[i] 及び S1[i-1](=S2[i-1]) と異なる色を選択すればよいので, 2通り選択可能.

// S2[i] は, S1[i] の塗り方に依存して決まるので, 1通り.

// -> d[i+1] = 2 * d[i]

// 3-3. S1[i-1] と S2[i-1] が異なり, S1[i] と S2[i] が等しい(パターン③).

// 例)

// .ac...

// .bc...

// S1[i](=S2[i]) は, S1[i-1], S2[i-1] と異なる色を選択すればよいので, 1通りだけ選択可能.

// -> d[i+1] = d[i]

// 3-4. S1[i-1] と S2[i-1] が異なり, S1[i-1] と S1[i], S2[i-1] と S2[i] が, それぞれ等しい(パターン④).

// 例)

// .aa...

// .bb...

// S1[i], S2[i] は, それぞれ S1[i-1], S2[i-1] と同じ色を選択すればよいので, 1通りだけ選択可能.

// -> d[i+1] = d[i]

// 3-5. S1[i-1] と S2[i-1] が異なり, S1[i-1] と S1[i], S2[i-1] と S2[i], S1[i] と S2[i] が, それぞれ異なる(パターン⑤).

// 例)

// .ac...

// .bd...

// S1[i-1] と S2[i-1] が, それぞれ, 赤, 緑で塗られていたとすると,

// S1[i] は, 緑 or 青を塗ることが可能, S2[i] は, 赤 or 青を塗ることが可能.

// -> まとめると, (S1[i-1], S2[i-1], S1[i], S2[i]) = (赤, 緑, 緑, 赤), (赤, 緑, 緑, 青), (赤, 緑, 青, 赤) の 3通り.

// -> d[i+1] = 3 * d[i]

FOR(i, 1, N) {

// パターン①.

if(S1[i-1] == S2[i-1] && S1[i] == S2[i]) d[i+1] = 2 * d[i];

// パターン②.

if(S1[i-1] == S2[i-1] && S1[i] != S2[i]) d[i+1] = 2 * d[i];

// パターン③.

if(S1[i-1] != S2[i-1] && S1[i] == S2[i]) d[i+1] = d[i];

// パターン④.

if(S1[i-1] != S2[i-1] && S1[i-1] == S1[i] && S2[i-1] == S2[i]) d[i+1] = d[i];

// パターン⑤.

if(S1[i-1] != S2[i-1] && S1[i-1] != S1[i] && S2[i-1] != S2[i] && S1[i] != S2[i]) d[i+1] = 3 * d[i];

// d[i+1] に, mod 1000000007 を適用.

d[i+1] %= 1000000007;

}

// 4. 出力～後処理.

cout << d[N] << endl;

return 0;

}

■補足.
以下のような, 入力例のテストケースが, 通過するようにプログラムの修正等を実施している.

[入力例]
4
aabb
ccdd
-> 18 通りのはず(パターン④, ⑤ に分岐させて解決).

[入力例]
5
aabbe
ccdde
-> 18 通りのはず(パターン⑤ を修正して解決).

[入力例]
52
RvvttdWIyyPPQFFZZssffEEkkaSSDKqcibbeYrhAljCCGGJppHHn
RLLwwdWIxxNNQUUXXVVMMooBBaggDKqcimmeYrhAljOOTTJuuzzn
-> 958681902 通り(※AtCoderテストケースより)になる必要がある(上記までの入出力例が解決したことで, 自動的に解決).

[入力例]

aabb

ccdd

-> 18 通りのはず(パターン④, ⑤ に分岐させて解決).

[入力例]

aabbe

ccdde

-> 18 通りのはず(パターン⑤ を修正して解決).

[入力例]

RvvttdWIyyPPQFFZZssffEEkkaSSDKqcibbeYrhAljCCGGJppHHn

RLLwwdWIxxNNQUUXXVVMMooBBaggDKqcimmeYrhAljOOTTJuuzzn

-> 958681902 通り(※AtCoderテストケースより)になる必要がある(上記までの入出力例が解決したことで, 自動的に解決).

■参照サイト
AtCoder Beginner Contest 071

C++の練習を兼ねて, AtCoder Beginner Contest 068 の 問題D（Decrease (Contestant ver.)）を解いてみた.

C++の練習を兼ねて, AtCoder Beginner Contest 068 の 問題C（Cat Snuke and a Voyage）を解いてみた.

C++の練習を兼ねて, AtCoder Beginner Contest 069 の 問題D（Grid Coloring）を解いてみた.

C++の練習を兼ねて, AtCoder Beginner Contest 069 の 問題C（4-adjacent）を解いてみた.

C++の練習を兼ねて, AtCoder Beginner Contest 071 の 問題D（Coloring Dominoes）を解いてみた.

C++の練習を兼ねて, AtCoder Beginner Contest 068 の問題D（Decrease (Contestant ver.)）を解いてみた.

C++の練習を兼ねて, AtCoder Beginner Contest 068 の問題C（Cat Snuke and a Voyage）を解いてみた.

C++の練習を兼ねて, AtCoder Beginner Contest 069 の問題D（Grid Coloring）を解いてみた.

C++の練習を兼ねて, AtCoder Beginner Contest 069 の問題C（4-adjacent）を解いてみた.

C++の練習を兼ねて, AtCoder Beginner Contest 071 の問題D（Coloring Dominoes）を解いてみた.