アリ雲ossからテンセント雲cosへの移行方法2(強く推奨)


移行ツールの使用方法
移行ツールは、S 3、OSS、Qiniu、ファイルリストなどのファイルをCOSオブジェクトストレージに移行することをサポートします.ツールはlinux/macosでのみサポートされ、システムに付属するPythonバージョンは2.6以上です.
システム依存
ツール実行プラットフォームは*nixで、Python 2.7以上の環境が必要で、同時に機械はpip、gccとpython-devをインストールしなければならない.システムに付属のパッケージマネージャを使用して、依存関係をインストールできます.
centosで、次のコマンドを使用してインストールします.
sudo yum install python-pip python-devel gcc gcc-c++ libxml2-devel

ubuntu/debianで、次のコマンドを使用してインストールします.
sudo apt-get install python-pip python-dev gcc gcc-c++ libxml2-devel

インストール方法
pipを使ってインストールしたり、pipをインストールしたりする方法をお勧めします.公式サイトやapt/yumなどのパッケージ管理ツールを使ってpython-pipパッケージをインストールすることができます.
 pip install -U cos_migrate_tool

上記のコマンドを実行した後、次のコマンドを使用してインストールに成功したかどうかを検出してみます.
cos_migrate_tool -h

アンインストール方法
次のコマンドを実行します.
pip uninstall cos_migrate_tool

使用方法
インストールに成功すると、実行可能なコマンドが表示されます.  cos_migrate_tool以降の移行プロセスでは、このコマンドが使用されます.コマンドを実行する方法は次のとおりです.
    cos_migrate_tool -c /path/to/your/conf

プロファイルは自分で作成し、テンプレートは下章の内容を参照します.プロファイルでは、作業ディレクトリを構成する必要があります.その後、移行中に生成された一時ファイルがディレクトリに配置されます.ディレクトリのスペースが十分に大きいことを保証してください.複数の移行タスクを並列に実行する場合は、異なるディレクトリを使用することをお勧めします.
移行中に設定した作業ディレクトリの下にあるfail_を表示できます.file.txtでは、移行に失敗したファイルのリストを表示します.
プロファイル
プロファイルテンプレート、common部分構成基本構成、workspaceは上記の作業ディレクトリです.sourceセクションでは、ossをcosに移行する場合にデータソースの情報を構成します.このセクションはossを構成するプロパティです.destinationセクションではcosプロパティを構成します.
!! プロファイルコメントテキストを削除してください.  #  部分、空白テンプレートリファレンス リンク
[common]
workspace=/tmp/tmp6   #     threads=20            #      ,     ,  10  [source]
type=oss
accesskeyid=
accesskeysecret=
bucket=
endpoint=

[destination]
type=cosv4
region=shanghai
accesskeyid=
appid=
accesskeysecret=
bucket=sdktest

OSSの移行
[common] 
  
workspace=/tmp/tmp6

[source]
type=oss

accesskeyid=         # oss accesskey id

accesskeysecret=     # oss accesskey secret

bucket=              # 要迁移的bucket名

endpoint=            # oss 的endpoint,例如 oss-cn-beijing.aliyuncs.com


[destination]

type=cosv4

region=shanghai            # cos 的 region,如shanghai, guangzhou

accesskeyid=               # cos 的 secretid

appid=                     # cos 的 appid

accesskeysecret=           # cos 的 secretkey

bucket=sdktest             # cos 的 bucket

prefix_dir=/dir21/         # cos 的目录,迁移的文件都会位于该目录下,不配置该项则迁移到根目录overwrite=true             # 覆盖cos上已有的同名文件,如果不需要,请删除该行

迁移qiniu

[common]
workspace=/tmp/tmp11
       

[source]
type=qiniu
accesskeyid=               # qiniu   accesskeyid
accesskeysecret=           # qiniu   accesskeysecret
bucket=                    #     qiniu bucket
domain_url=                # qiniu      
prefix=dir1                #       ,       bucket,    

[destination]
type=cosv4
region=shanghai            # cos   region, shanghai, guangzhou
accesskeyid=               # cos   secretid
appid=                     # cos   appid
accesskeysecret=           # cos   secretkey
bucket=sdktest             # cos   bucket
prefix_dir=/dir21/         # cos    ,             ,            
overwrite=true             #       ,     ,    

移行S 3
[common]
workspace=/tmp/tmp21

[source]
type=s3
accesskeyid=               # s3   accesskey id
accesskeysecret=           # s3   accesskey secret
bucket=                    # s3      bucket 
prefix=dir1                # s3        ,       bucket,    

[destination]
type=cosv4
region=shanghai
accesskeyid=

appid=
accesskeysecret=
bucket=

リストファイルの移行
[common]
workspace=

[source]
type=url
url_list_file=/tmp/urllist.txt   #       url    ,           url
timeout=3                        # http       

[destination]
type=cosv4
region=
accesskeyid=
appid=
accesskeysecret=
bucket=

COSv 3の移行
[common]
workspace=

[source]
type=cosv3
accesskeyid=
appid=
accesskeysecret=
bucket=                     # http       

[destination]
type=cosv4
region=
accesskeyid=
appid=
accesskeysecret=
bucket=

COS v 3からCOS v 4へ移行
[common]
workspace=

[source]
type=cosv3
accesskeyid=
appid=
accesskeysecret=
bucket=           

[destination]
type=cosv4
region=
accesskeyid=
appid=
accesskeysecret=
bucket=

COS v 4からCOS v 4へ移行
[common]
workspace=

[source]
type=cosv4
accesskeyid=
region=
appid=
accesskeysecret=
bucket=         
prefix_dir=/foo   # cos    ,             ,            

[destination]
type=cosv4
region=
accesskeyid=
appid=
accesskeysecret=
bucket=

よくあるエラーと解決策
  • pipコマンドは存在しません.apt install python-pipまたはyum install python-pipコマンドを使用してPIPをインストールします.
  • pipを使用して移行ツールをインストールできませんでした.sudo pip install cosを実行してみます.migrate_tool.
  • argparseが見つからないことを示し、pipを使用してsudo pip install argparse
  • をインストールします.
  • 移行が失敗しているファイルについては、COSに同名の破損ファイルがある可能性があります.  overwrite=true  パラメータで上書きします.
  • 移行前にツールは、ファイルがCOS上にあるかどうかを判断し、ファイルに存在しないエラーを示す正常な
  • を提示する.