Mask R CNN をAnacondaを使って RTX-2070Super上で動かしてみた


 目的

噂に聞いたMask R CNN をデスクトップPCに入れてみたところ、GPUかなりが比較的新しいせいか、はまってしまったので、自分のメモがてらシェアします

 環境

Windwos10
CPU Corei7 9700
RAM 16GB
GPU RXT-2070 Super 8GB

 やったこと

Anaconda上に新しい環境を作成
Git Hubから
https://github.com/matterport/Mask_RCNN
をダウンロードして、
pip install -r requirements.txt
で環境のインストール
途中Shapelyでエラーがでたので、いろいろ調べた挙句
https://www.lfd.uci.edu/~gohlke/pythonlibs/#shapely
Shapely-1.6.4.post2-cp37-cp37m-win_amd64.whl
をpip install でインストール
https://github.com/cocodataset/cocoapi
をダウンロードして
その中のPythonAPIの中で
python setup.py build_ext install
を実行
https://github.com/matterport/Mask_RCNN/releases/download/v2.0/mask_rcnn_coco.h5
をダウンロードして、MASK_RCNNフォルダに移動
ここまでは順調だったのですが、いざsamplesの中のdemo.ipynb
を実行しようとjupyter notebookを立ち上げると画面が真っ白で動かない
ここは
https://qiita.com/TaroNakasendo/items/b03216c0e2b611f1823e
を参考にさせていただきなんとか凌ぎました
それでも、実行中にKernelが落ちてしまい結局は解決していませんでした
その後はトライアンドエラーを繰り返しましたが、なかなかデモをうごかせませんでした

解決方法

Anaconda上で新しく仮想環境をつくった際に先に、Tensorflow1.14.0,Tensorflow-gpu.14.0,Keras,Keras-gpuを入れてCuda toolkit 10.0(.130),cudnn7.6.0が入っていることを確認し、その後上記の一連の手順を実施してようやく動くようになりました
色々と試しましたが結局は何が悪いのかは不明でした