Deep Learningキーワード

1780 ワード
CNN DeepLearning 強化学習 DeepLearning テキストリンク

[識別モデル]CNN

CNNの歴史

・1982年　ネオコグニトロン　福島邦彦
・1998年　LeNet　ヤン・ルカン
・2012年　AlexNet 　ILSVRC トロント大学　ジェフリー・ヒントン(SuperVision)
・2014年　VGG　ILSVRC　Oxford大学
・2014年　GoogleNet　ILSVRCで優勝したモデル・・・Inceptionモジュール

CNNの問題点

・[問題点１]畳み込み／プーリングの増加（深いネットワーク）だけではだめ
・[問題点２]層を深くすると計算量が増加、勾配消失
・[解決法１]小さなサイズの畳み込みフィルターを差し込み次元圧縮
・[解決法２]Inceptionモジュール
・[解決法３]ResNet・・・Skipconnection「層を飛び越えた結合」

転移学習

・巨大なネットワークをイチから学習することはない
・学習済みのネットワークがあればそれを用い新たに学習する必要なし
・ImageNetですでに学習済みモデルが公開
・学習済みネットワークを利用して新しいタスクの識別に活用すること＝＞転移学習

[識別モデル]RNN

強化学習

ただの強化学習

・Q学習(Q learning)

深層強化学習

・DQN(Deep Q-Network)・・・2013年 Deep Mind社　Deep Learning+強化学習
・Double DQN
・Dueling Network
・Categorical DQN
・Rainbow

深層強化学習の歴史

・2013年 Deep Mind社　DQN
・2015～2017年 Deep Mind社　AlphaGo
・2017年10月 Deep Mind社　AlphaGo　Zero

[生成モデル]

その他

・画像認識精度競技会「ILSVRC(Imagenet Large Scale Visual Recognition Challenge)」
・ImageNet・・・自然画像認識研究のための研究用標準データセット
・MNIST・・・手書き文字画像認識研究のための研究用標準データセット

***