量子化yolov 3 tiny tensorflow liteに基づく


最近の指導者も突発的に奇想天外で、意外にも深い学習検査ネットワークの二値化をしたいと思っています.このタイプは位置決めが正確で、位置決めが細かいネットワークが必要だと思います.定点化はまだいいですが、二値化はおそらくできないと思います.
仕方がなくて、彼は1つのリンクを投げて師弟にあげて、師弟はまた私に投げて、私も酔っ払って、自分で何が学生にむやみに詰め込んだのか分かりません.まず,量子化(定点化は特殊な量子化方式である)について,ネットワークモデル圧縮は,量子化と剪定の2つに分類できることを明らかにした.
まずgithubリンクを示します.https://github.com/caslabai/yolov3tiny_tensorflow_int8_quantized中のコードも実は何もありません.事前に訓練されたモデルと重みにすぎません.作成したスクリプトは、runの後にtensorflow liteサポートデバイスに適応した配置モデルファイルを得ることができます.しかし、その中の変換スクリプトは、浮動小数点モデルを定点モデルに変換する過程であり、実際には.つまり行コードのことです.詳細:https://github.com/caslabai/yolov3tiny_tensorflow_int8_quantized/blob/master/tf_int8.pyの中
converter = tf.lite.TocoConverter.from_saved_model(saved_models_root )

このコードはすべての作業を完了し、デフォルトの8ビット整形に重み値しか量子化できないようで、ハイブリッドカーネル計算をサポートする必要があります.つまり、この定点化モデルは、内部の実装が見えないだけでなく(上のAPIのカーネル実装を深く理解する必要があるかもしれません..)、また、tensorflow liteをサポートするデバイスにしか配備できませんが、tensorflow liteプラットフォームをサポートしないサポートをさらに実現しています.これは専用チップで、cpuプロセッサやメモリがサポートされていない場合、まったく卵が使えないのではないでしょうか.唯一役に立つのはその量子化方法だが、一言のコードで省略されている.
いくつかのリンクを貼りましょう.他の組み込みプラットフォームデバイスの友达に役立つかもしれません.https://blog.csdn.net/TensorFlowers/article/details/82871551 http://www.zhuanzhi.ai/document/49c5e9fefaf4ece27640ed1413d981df http://www.myzaker.com/article/5ba9906c77ac640ced2f18f5/