トランスフォーマーバート-神話を解く:10行のコードの中で再生と展開
2168 ワード
バートは素晴らしいモデルと遊ぶことです.それは文の中に行方不明の単語を推論することができます.
記事では、Google T 5モデルをREST APIサービスとして展開します.海千山千?私はあなたに言うだろう:あなただけのコードの6行を書く必要がありますか?
Pinferenciaは、それがちょうど3つの余分の線でどんなモデルでもサーブするのがとても簡単にします.
HuggingFaceは、ちょうどいくつかの線で訓練されたモデルを使いやすくします.
まず、アプリを作成しましょう.サービスを定義するPy :
< div >
クラスをハイライト表示する
< p >モデルがダウンロードされるのを待ちます.終了したら、< tt/を表示します.
<堀田>
< tt > Pinferencia .から/インタラクティブなAPIページを使用できます.p >
<堀田>
結果: < P >
<堀田>
最高のスコアを持つ文は:ペンギンは飛ぶことができません.正しい意味を持ちますかp >
curl以外にも、 を使うことができます.
<堀田>
<堀田>
記事では、Google T 5モデルをREST APIサービスとして展開します.海千山千?私はあなたに言うだろう:あなただけのコードの6行を書く必要がありますか?
Pinferenciaは、それがちょうど3つの余分の線でどんなモデルでもサーブするのがとても簡単にします.
HuggingFaceは、ちょうどいくつかの線で訓練されたモデルを使いやすくします.
依存関係のインストール
ハギンフェース
pip install "transformers[pytorch]"
それが働かないならば、Installation (huggingface.co)を訪問して、彼らの公式文書をチェックしてください.ピンフェルニア
pip install "pinferencia[uvicorn]"
それが働かないならば、Install — Pinferencia (underneathall.app)を訪問して、彼らの公式文書をチェックしてください.サービス定義
まず、アプリを作成しましょう.サービスを定義するPy :
< div >
サービスを開始する
クラスをハイライト表示する
uvicorn app:service --reload
< div >< p >モデルがダウンロードされるのを待ちます.終了したら、< tt/を表示します.
<堀田>
サービスを呼び出す
< tt > Pinferencia .から/インタラクティブなAPIページを使用できます.p >
カール
<堀田>
結果: < P >
<堀田>
最高のスコアを持つ文は:ペンギンは飛ぶことができません.正しい意味を持ちますかp >
curl以外にも、 を使うことができます.
インタラクティブAPIページ
<堀田>
<堀田>
Reference
この問題について(トランスフォーマーバート-神話を解く:10行のコードの中で再生と展開), 我々は、より多くの情報をここで見つけました https://dev.to/wjiuhe/transformers-bert-unmask-the-myth-play-and-deploy-within-10-lines-of-codes-4jk7テキストは自由に共有またはコピーできます。ただし、このドキュメントのURLは参考URLとして残しておいてください。
Collection and Share based on the CC Protocol