JDKネイティブスレッドプールのバグを修正するTomcatの実装原理

JDKネイティブスレッドプールのバグを修正するTomcatの実装原理

処理能力と同時実行性を向上させるために、Web コンテナは通常、リクエストを処理するタスクをスレッド プールに配置します。JDK のネイティブ スレッド プールは、CPU を集中的に使用するタスクに本質的に適しているため、Tomcat はこれを変更しました。

Tomcat スレッドプールの原則

実際、ThreadPoolExecutor のパラメータには主に次の重要なポイントがあります。

スレッド数を制限する

キューの長さを制限する

Tomcat はこれら 2 つのリソースを制限する必要があります。そうしないと、同時実行性が高い場合に CPU とメモリが枯渇する可能性があります。
したがって、Tomcat のスレッド プールは次のパラメータを渡します。

// カスタマイズされたタスク キュー taskqueue = new TaskQueue(maxQueueSize);

// カスタマイズされたスレッドファクトリー TaskThreadFactory tf = new TaskThreadFactory(namePrefix,
							                 デーモン、
							                 スレッド優先度を取得します。
);

// カスタム スレッド プール executor = new ThreadPoolExecutor(getMinSpareThreads(),
								  getMaxThreads()、
				 			      最大アイドル時間、 
				 			      時間単位.ミリ秒、
				 			      タスクキュー、
				 			      tf);

Tomcat にはスレッド数制限もあり、次のように設定します。

  • コアスレッド数 (minSpareThreads)
  • スレッドプールの最大数 (maxThreads)

Tomcat スレッド プールには独自の特別なタスク処理フローもあり、execute メソッドを書き換えることで独自の特別なタスク処理ロジックを実装します。

  1. corePoolSize タスクがある場合、タスクごとに新しいスレッドが作成されます。
  2. さらにタスクがある場合は、それらをタスク キューに入れて、すべてのスレッドが取得できるようにします。キューがいっぱいの場合は、一時的なスレッドを作成します
  3. スレッドの総数がmaximumPoolSizeに達すると、タスクをタスクキューに入れようとし続けます。
  4. バッファキューもいっぱいの場合、挿入は失敗し、拒否戦略が実行されます。

Tomcat と JDK スレッド プールの違いは、ステップ 3 にあります。スレッドの総数が最大数に達すると、Tomcat はすぐに拒否戦略を実行せず、タスク キューにタスクを追加しようとします。追加が失敗すると、拒否戦略が再度実行されます

具体的にはどのように実現されるのでしょうか?

public void execute(実行可能なコマンド、長いタイムアウト、TimeUnit 単位) {
    送信されたCountを増加して取得します。
    試す {
        //タスクを実行するには、JDK ネイティブ スレッド プールの execute 関数を呼び出します。super.execute(command);
    } キャッチ (RejectedExecutionException rx) {
       // スレッドの総数がmaximumPoolSizeに達すると、JDKネイティブスレッドプールはデフォルトの拒否ポリシーを実行します。if (super.getQueue() instanceof TaskQueue) {
            最終的な TaskQueue キュー = (TaskQueue)super.getQueue();
            試す {
                // タスクをタスクキューに追加し続ける if (!queue.force(command, timeout, unit)) {
                    送信されたCountを減分して取得します。
                    // バッファ キューがまだいっぱいの場合、挿入は失敗し、拒否戦略が実行されます。
                    新しい RejectedExecutionException("...") をスローします。
                }
            } 
        }
    }
}

タスクキューのカスタマイズ

Tomcat スレッド プールの execute メソッドの最初の行:

送信されたCountを増加して取得します。

タスクが失敗して例外がスローされると、カウンターは 1 つ減ります。

送信されたCountを減分して取得します。

Tomcat スレッド プールは、 submittedCount変数を使用して、スレッド プールに送信されたが実行されていないタスクの数を維持します。

なぜそのような変数を維持するのでしょうか?

Tomcat のタスク キュー TaskQueue は、JDK の LinkedBlockingQueue を拡張します。Tomcat はこれに容量を与え、それを親クラス LinkedBlockingQueue のコンストラクターに渡します。

パブリッククラスTaskQueueはLinkedBlockingQueue<Runnable>を拡張します。

  パブリックタスクキュー(int 容量) {
      スーパー(容量);
  }
  ...
}

容量パラメータは Tomcat の maxQueueSize パラメータによって設定されますが、maxQueueSize のデフォルト値はInteger.MAX_VALUE です。現在のスレッド数がコア スレッド数に達した後、別のタスクがある場合、スレッド プールはタスクをタスク キューに追加し、常に成功するので、新しいスレッドを作成する機会はありません。

この問題を解決するために、TaskQueue は LinkedBlockingQueue#offer を書き換え、適切なタイミングでタスクの追加が失敗したことを示す false を返します。このとき、スレッド プールは新しいスレッドを作成します。

適切な時期はいつですか?

パブリッククラスTaskQueueはLinkedBlockingQueue<Runnable>を拡張します。

  ...
   @オーバーライド
  // スレッドプールがタスクキューメソッドを呼び出すと、現在のスレッド数 > コアスレッド数 public boolean offer(Runnable o) {

      // スレッド数が最大に達した場合、新しいスレッドは作成できず、(parent.getPoolSize() == parent.getMaximumPoolSize()) の場合にのみタスク キューに追加できます。 
          super.offer(o) を返します。
          
      // これまでのところ、最大スレッド数 > 現在のスレッド数 > コアスレッド数であることを示しています // 新しいスレッドを作成できることを示しています:
      
      // 1. 送信されたタスクの数 < 現在のスレッド数の場合 // アイドル状態のスレッドがまだ存在し、新しいスレッドを作成する必要がないことを意味します if (parent.getSubmittedCount()<=(parent.getPoolSize())) 
          super.offer(o) を返します。
          
      // 2. 送信されたタスクの数 > 現在のスレッド数の場合 // スレッドが足りない場合は、false を返して新しいスレッドを作成します if (parent.getPoolSize()<parent.getMaximumPoolSize()) 
          false を返します。
          
      // デフォルトでは、タスクは常にタスクキューに入れられます。 return super.offer(o);
  }
  
}

したがって、Tomcat は、タスク キューの長さが無限の場合にスレッド プールが新しいスレッドを作成できるように、送信されたタスクの数を維持します。

Tomcat が JDK ネイティブ スレッド プールのバグを修正する方法について説明したこの記事はこれで終わりです。Tomcat JDK ネイティブ スレッド プールの詳細については、123WORDPRESS.COM の以前の記事を検索するか、以下の関連記事を引き続き参照してください。今後とも 123WORDPRESS.COM をよろしくお願いいたします。

以下もご興味があるかもしれません:
  • Tomcatはスレッドプールを使用してリモート同時リクエストを処理します。
  • Tomcat ベースの接続数とスレッドプールの詳細な説明
  • JDK スレッド プールと Spring スレッド プールの使用例の分析
  • jdk独自のスレッドプールインスタンスの詳細な説明

<<:  ウェブサイトの速度を上げる6つの方法

>>:  Vue での props の使い方の紹介

推薦する

MySQL で左結合を使用して where 条件を追加する問題の詳細な分析

現在の需要:グループとファクターの 2 つのテーブルがあります。1 つのグループは複数のファクターに...

流星効果を実現する JavaScript キャンバス

この記事では、JavaScriptキャンバスで流星の特殊効果を表示するための具体的なコードを参考まで...

onfocus="this.blur()" は視覚障害のあるウェブマスターに嫌われている

スクリーン リーダー ソフトウェアの操作ページについて話しているとき、彼はフロントエンドの学生たちに...

Nginx 静的ファイル サービスの構成と最適化の詳細な説明

ルートディレクトリとインデックスファイルroot ディレクティブは、ファイルの検索に使用するルート ...

MySQLシリーズ マルチテーブル結合クエリ92および99構文例詳細チュートリアル

目次1. デカルト積現象2. 接続クエリの知識ポイントのまとめ1) 結合クエリとは何ですか? 2) ...

Vue における Vue.use() の原理と基本的な使用法

目次序文1. 例で理解する2. ソースコードを分析する3. まとめ要約する序文他の人のコンポーネント...

JavaScript で実装された 6 つの Web ページ画像カルーセル効果の詳細な説明

目次1. マウスがカルーセル モジュール上を通過すると、左右のボタンが表示され、モジュールを離れると...

JavaScript ECharts の使用方法の説明

以前、プロジェクトを行う際に ECharts を使用しました。今日はそれをメモとして整理し、より多く...

CSSプリコンパイル言語とその違いの詳細な説明

1. 何ですか マークアップ言語として、CSSは比較的シンプルな構文とユーザーに対する要件が低いが、...

初心者向けBootstrap 3.0学習ノート

この学習ノートの最初の記事として、シリーズの他の記事と同様に、Bootstrap の紹介から始め、そ...

Vue要素ヘッダーにスラッシュを追加するための実装コード

<テンプレート> <div class="アプリコンテナ"&...

VUE ユニアプリライフサイクルに関する簡単な説明

目次1. アプリケーションライフサイクル2. ページのライフサイクルコンポーネントライフサイクル要約...

springcloud alibaba nacos linux 設定の詳細なチュートリアル

まず、github から nacos の圧縮パッケージをダウンロードします: https://git...

2つのウェブサイトページ翻訳プラグインの共有

TranslateThis URL: http://translateth.is Google 翻訳...

MySQL ページング分析の原理と効率改善

MySQL ページング分析の原理と効率改善PERCONA PERFORMANCE CONFERENC...