nginx + fastcgi を使用して画像認識サーバーを実装する

nginx + fastcgi を使用して画像認識サーバーを実装する

背景

ディープラーニング モデルの推論には、特定のデバイスが使用されます。マシンは、モデルの読み込み、起動、推論を行うための C++ カプセル化 API のみを提供します。モデルのトレーニングには、引き続き Caffe が使用されます。モデルは、デバイスでサポートされている形式に変換する必要があります。モデルの変換については、ここでは説明しません。モデル推論をサービスにするためには、C++ を使用して HTTP サービスを構築する必要がありました。これにより、ユーザーは HTTP サービスを通じて写真を投稿でき、サーバーはモデル推論を開始し、モデル予測を実装して、結果をクライアントに返すことができます。

全体的な枠組み

ショートサービスのサービス内容は、受信した画像を前処理し、モデル推論を行うことです。今必要なのは、HTTPサービスを導入することです。

予備調査

C++ 初心者にとって、最初の調査は当然ながらまず検索することです。http サーバー C++ 検索処理の結果もさまざまです。http サーバーの実装方法を教えてくれるものもあれば、サードパーティのライブラリを使用するもの、大量のコードを直接扱うものもあります。 。 。私はstackoverflowでこれを見ました:

なぜ

fcgi-function マッピングで NGINX を試してみませんか?

実装手順

Nginx はプロキシ用の魔法のツールであり、負荷分散によく使用されます。クライアントのコンテンツが nginx に送信され、nginx がデータを fcgi 関連のアプリケーションに転送する限り、必要なのは fcgi と推論プログラムを組み合わせることだけです。

nginx

簡単に言えば、nginx は仲介者です。クライアントは仲介者にリクエストを送信し、仲介者は商品の供給元に行って商品を受け取り、顧客に応答します。

顧客は nginx に ** 製品を購入したいと伝え、nginx は対応するサービス プロバイダーにアクセスして対応するサービスを取得し、顧客に返します。

今必要なのは fcgi 部分を実装することですが、fcgi とは何でしょうか?

CG-10 ...

Common Gateway Interface (CGI) は、クライアントが Web ブラウザーからネットワーク サーバー上で実行されるプログラムにデータを要求できるようにする重要なインターネット テクノロジです。 CGI は、サーバーと要求処理プログラム間でデータを転送するための標準を記述します。

ここでの標準入力と出力はいくつかの環境変数に対応しており、主にリクエスト関連の環境変数、サーバー関連の環境変数、クライアント関連の環境変数の 3 つのカテゴリが含まれます。

ファストcgi

FastCGI は実際にはいくつかの拡張機能が追加された CGI です。これは CGI の改良版です。また、クライアントと Web サーバー プログラム間のデータ転送を記述するための標準でもあります。

FastCGI は、Web サーバーと CGI プログラム間のやり取りのオーバーヘッドを削減し、Web サーバーがより多くの Web 要求を同時に処理できるようにすることを目的としています。 Web 要求ごとに新しいプロセスを作成する CGI とは異なり、FastCGI は永続的なプロセスを使用して一連の Web 要求を処理します。これらの要求は、Web サーバーではなく FastCGI プロセス マネージャーによって管理されます。

なぜインタラクションのコストが削減されると言えるのでしょうか?これは、2つの治療法の違いによって異なります。

cgi のワークフロー:

クライアントが新しいリクエストを送信するたびに、まず CGI 子プロセスを作成する必要があります。CGI がリクエストを処理した後、接続の数と同じ数の CGI 子プロセスが開始されます。リクエストの数が多いと、大量のシステム リソースが占有されます。

ファストcgi

Fastcgi は、連続したプロセスを使用して一連のリクエストを処理します。これらのプロセスは、fastcgi プロセス マネージャーによって管理されます。具体的なプロセスは次のとおりです。

次のように比較することもできます。

cgi は卵入りパンケーキを販売しています。お客様が食べたいときに、火をつけ、卵を溶き、パンケーキを広げ、火を止めます。そして次の顧客を待ちます

fastcgi は、朝食店の古いバージョンです。その場で調理する必要がある食事を準備するために、ウェイターのグループを雇います。店長は注文を整理するだけでよく、ウェイターはお粥とパンケーキを提供する責任があります。

具体的な手順

  • C++開発環境の構築
  • nginxをビルドする
  • fastcgiをインストールする
  • fastcgiのプロセスマネージャspawn-cgiをインストールする
  • プログラムの作成と実行
  • コンパイルして実行する

仕事をうまくやり遂げたいなら、まずは道具を磨き、環境を整えなければなりません。

多くのブログコンテンツを読んで、最も簡単なインストール手順を見つけました。その多くは、ソース コードをダウンロードし、make でコンパイルするというものです。ただし、これらのより一般的に使用されるライブラリは、すでにソフトウェア パッケージに統合されています。

C++ 開発環境のインストール

apt-get インストールビルド必須

nginx

nginxをインストール

ファストcgi

sudo apt-get で libfcgi-dev をインストールします

スポーン-fcgi

apt-get をインストール spawn-fcgi

プログラムの作成と実行

#include <iostream>
#include "fcgio.h"
 
名前空間 std を使用します。
 
int main(void) {
 // stdioストリームバッファをバックアップする
 ストリームバッファ * cin_streambuf = cin.rdbuf();
 ストリームバッファ * cout_streambuf = cout.rdbuf();
 ストリームバッファ *cerr_streambuf = cerr.rdbuf();
 
 FCGX_Request リクエスト;
 
 FCGX_Init();
 FCGX_InitRequest(&request, 0, 0);
 
 (FCGX_Accept_r(&request) == 0) の間 {
  fcgi_streambuf cin_fcgi_streambuf(リクエスト.in);
  fcgi_streambuf cout_fcgi_streambuf(リクエスト.out);
  fcgi_streambuf cerr_fcgi_streambuf(リクエスト.err);
 
  cin.rdbuf(&cin_fcgi_streambuf);
  cout.rdbuf(&cout_fcgi_streambuf);
  cerr.rdbuf(&cerr_fcgi_streambuf);
 
  cout << "コンテンツタイプ: text/html\r\n"
    << "\r\n"
    << "<html>\n"
    << " <head>\n"
    << " <title>Hello, World!</title>\n"
    << " </head>\n"
    << " <本文>\n"
    << " <h1>こんにちは、世界！</h1>\n"
    << " </body>\n"
    << "</html>\n";
 
 }
 cin.rdbuf(cin_streambuf);
 cout.rdbuf(cout_streambuf);
 cerr.rdbuf(cerr_streambuf);
 0を返します。

プログラムのコンパイル

g++ cgi.cpp -o cgidemo -lfcgi

nginx設定ファイルを変更する

vi /usr/local/nginx/conf/nginx.conf

nginxを起動する

nginx -c /usr/local/nginx/conf/nginx.conf

ブラウザ http://*******:80 から nginx が正常に起動していることを確認します。

spwan-cgiプロセスを開始する

spawn-fcgi -a 127.0.0.1 -C 20 -p 7070 ./cgidemo

要約する

上記はこの記事の全内容です。この記事の内容が皆さんの勉強や仕事に一定の参考学習価値を持つことを願っています。ご質問があれば、メッセージを残してコミュニケーションしてください。123WORDPRESS.COM を応援していただきありがとうございます。

以下もご興味があるかもしれません:
  • Ubuntu で Nginx+PHP5 FastCGI サーバー構成を構成する
  • 128M の小メモリ VPS サーバー上の Nginx 0.7.x + PHP 5.2.6 (FastCGI) + MySQL 5.1 の構成の最適化
  • Nginx+PHP (FastCGI) で高並列WEBサーバーを構築する (自動インストールスクリプト) 第2版
  • Nginx0.5.33+PHP5.2.5 (FastCGI) は、Apache より 10 倍優れた Web サーバーを構築します。
  • CentOS 6.1 環境に nginx、php (fastcgi を含む)、仮想ホスト構成をデプロイする
  • Nginx + PHP (FastCGI) で発生する 502 Bad Gateway エラーを解決する
  • Nginx (PHP/fastcgi) の PATH_INFO の問題

<<:  Vue.js ソースコード解析のカスタム手順の詳細な説明

>>:  MySQLのジョイントインデックス機能の分析と使用例

推薦する

Vue は検証コードのカウントダウンボタンを実装します

この記事では、検証コードカウントダウンボタンを実装するためのVueの具体的なコードを例として紹介しま...

LAMP ソースコードを使用したエンタープライズレベルのインストールチュートリアル

目次LAMPアーキテクチャ1.ランプの紹介2. WebサービスワークフローWebサーバーのリソースは...

js を使用して画像をモザイク化する方法の例

この記事では、主に js を使用して画像をモザイク化する方法の例を紹介し、次のように共有します。効果...

Tomcat コアコンポーネントとアプリケーションアーキテクチャの詳細な説明

目次Web コンテナとは何ですか? HTTP の性質HTTP リクエスト応答の例クッキーとセッション...

JavaScript 組み込みオブジェクトの概要

目次1. 組み込みオブジェクト2. 数学オブジェクト1. Mathオブジェクトの使用2. 指定された...

CSS のサイズ単位についての簡単な説明

ブラウザの互換性はどんどん良くなってきています。モバイル端末は基本的にすべてWebKitベースです。...

CSS でリスト スタイル属性を設定する方法 (この記事を読むだけ)

リストスタイルのプロパティHTMLには、順序なしリストと順序ありリストの2種類のリストがあります。仕...

VUEのデータプロキシとイベントの詳細な説明

目次Object.defineProperty メソッドのレビューデータブローカーとは何ですか? V...

Linux での scp および sftp コマンドの詳細な説明

目次序文1. SCPの使用法2. sftpを使用する3. scp と sftp の違いは何ですか?ど...

プレーンな JS オブジェクトの代わりに Map を使用する場合

目次1. マップは任意のタイプのキーを受け入れます2. マップにはキー名に関する制限はありません3....

JavaScript における変数と関数の昇格の詳細な例

js 実行字句解析フェーズ: 形式パラメータ解析、変数宣言解析、関数宣言解析の 3 つの部分が含まれ...

HTML 言語百科事典

123WordPress.com-HTML noscriptオブジェクトolオプションPパラントプレ...

MySQL 自動インクリメント ID 枯渇の例

ディスプレイ定義IDテーブルに定義された自動増分IDが上限に達した場合、次のIDを申請する際に得られ...

MySQL の削除に基づく構文エイリアスの問題

目次MySQL 削除構文エイリアスの問題mysql の delete ステートメントでエイリアスを使...

CocosCreatorがスキル冷却効果を実装

CocosCreatorがスキルCD効果を実現多くのゲームにはスキルがあります。プレイヤーがスキルボ...