Node.jsとCPUを多用するリクエスト

Node.js HTTPサーバーをいじくり始めて、サーバー側のJavascriptを書きたいと思っていますが、何かが原因で、自分のWebアプリケーションでNode.jsを使い始められません。

非同期I / Oの概念全体を理解していますが、画像の操作や大きなデータセットの並べ替えなど、手続き型コードが非常にCPUを集中的に使用するエッジケースについて少し心配しています。

私が理解しているように、サーバーは、ユーザーのリストの表示やブログ投稿の表示などの単純なWebページ要求に対して非常に高速です。ただし、グラフィックを生成したり、数千の画像のサイズを変更したりする非常にCPU集中型のコード（たとえば、管理バックエンド）を記述したい場合、リクエストは非常に遅くなります（数秒）。このコードは非同期ではないため、数秒の間にサーバーに送られるすべてのリクエストは、遅いリクエストが完了するまでブロックされます。

1つの提案は、CPU集中型のタスクにWebワーカーを使用することでした。ただし、別のJSファイルを含めることで機能するため、Webワーカーがクリーンなコードを作成するのが難しくなると思います。CPU集中型のコードがオブジェクトのメソッドにある場合はどうなりますか？CPUを集中的に使用するメソッドごとにJSファイルを作成するのはちょっと面倒です。

もう1つの提案は、子プロセスを生成することでしたが、これによりコードの保守性がさらに低下します。

この（認識された）障害を克服するための提案はありますか？CPU負荷の高いタスクが非同期で実行されることを確認しながら、Node.jsでクリーンなオブジェクト指向コードをどのように記述しますか？

必要なのはタスクキューです。長時間実行されているタスクをWebサーバーから移動するのは良いことです。各タスクを「個別の」jsファイルに保存すると、モジュール性とコードの再利用が促進されます。長期的にはデバッグと保守が容易になるような方法でプログラムを構造化する方法を考える必要があります。タスクキューのもう1つの利点は、ワーカーを別の言語で記述できることです。タスクをポップして、作業を行い、応答を書き戻すだけです。

このようなhttps://github.com/resque/resque

彼らがなぜそれを作ったかについてのgithubからの記事はここにありますhttp://github.com/blog/542-introducing-resque

これはWebサーバーの定義を誤解しています-クライアントとの「会話」にのみ使用してください。高負荷のタスクはスタンドアロンプ​​ログラムに委任する必要があります（もちろん、JSで作成することもできます）。
あなたはおそらくそれが汚いと言うでしょうが、画像のサイズ変更で動かなくなったWebサーバープロセスがさらに悪いことを保証します（他のクエリをブロックしない場合、Apacheと言っても）。それでも、コードの冗長性を回避するために共通ライブラリを使用できます。

編集：私は類推を思いつきました。Webアプリケーションはレストランとして存在する必要があります。ウェイター（Webサーバー）と料理人（ワーカー）がいます。ウェイターはクライアントと連絡を取り、メニューを提供したり、菜食主義の料理があるかどうかを説明したりといった簡単なタスクを行います。一方、彼らはより難しい仕事を台所に委任します。ウェイターは簡単なことしかやっていないので、反応が速く、料理人は仕事に集中できます。

ここでのNode.jsは、一度に多くのリクエストを処理できる単一の非常に才能のあるウェイターであり、Apacheは、それぞれ1つのリクエストを処理するだけのダムウェイターのギャングです。この1つのNode.jsウェイターが料理を始めたら、それはすぐに大惨事になります。それでも、調理はアパッチウェイターの大量の供給さえも枯渇させる可能性があり、キッチンの混乱と責任の漸進的な低下については言及していません。

CPUを集中的に使用するコードで非同期に実行するのではなく、並列に実行する必要があります。HTTPリクエストを処理しているスレッドから処理作業を引き出す必要があります。これがこの問題を解決する唯一の方法です。NodeJSでの答えはクラスターモジュールです、重いプロセスを実行するために子プロセスを生成するため。（AFAIKノードには、スレッド/共有メモリの概念はありません。プロセスまたは何もありません）。アプリケーションの構成方法には2つのオプションがあります。80/20ソリューションを取得するには、8つのHTTPサーバーを生成し、子プロセスで計算集約型のタスクを同期的に処理します。それを行うのはかなり簡単です。あなたはそのリンクでそれについて読むのに1時間かかるかもしれません。実際、そのリンクの冒頭にあるサンプルコードを削除するだけで、その方法の95％が得られます。

これを構成するもう1つの方法は、ジョブキューを設定し、大きな計算タスクをキューに送信することです。ジョブキューのIPCには多くのオーバーヘッドが関連付けられていることに注意してください。これは、タスクがオーバーヘッドよりもかなり大きい場合にのみ役立ちます。

これらの他の回答のいずれもクラスターについて言及していないことに驚いています。

背景：非同期コードは、何かが別の場所で発生するまで中断するコードで、その時点でコードが起動し、実行を継続します。何かが遅い場所で発生しなければならない非常に一般的なケースの1つはI / Oです。

非同期コードは、作業を行うのがプロセッサの責任である場合は役に立ちません。それはまさに「計算集約型」タスクの場合です。

さて、非同期コードはニッチであるように見えるかもしれませんが、実際には非常に一般的です。計算集中型のタスクには役に立たないだけです。

たとえば、I / Oの待機は、常にWebサーバーで発生するパターンです。サーバーに接続するすべてのクライアントはソケットを取得します。ほとんどの場合、ソケットは空です。ソケットがデータを受信するまでは何もしたくないので、その時点でリクエストを処理します。内部では、NodeのようなHTTPサーバーは、何千ものオープンソケットを追跡するためにイベントライブラリ（libev）を使用しています。OSはlibevに通知し、ソケットの1つがデータを取得するとlibevにNodeJSに通知します。次に、NodeJSがイベントキューにイベントを配置します。この時点でhttpコードが起動し、次々とイベントを処理します。ソケットにデータがあるまでイベントはキューに入れられないので、イベントはデータを待機することはありません-それはすでにそこにあります。

シングルスレッドのイベントベースのWebサーバーは、ボトルネックがほとんど空のソケット接続の束を待機していて、すべてのアイドル接続に対してスレッド全体またはプロセスが不要で、250kをポーリングしたくない場合のパラダイムとして理にかなっています。データのある次のソケットを見つけるためのソケット。

使用できるいくつかのアプローチ。

@Timが指摘するように、メインのサービングロジックの外部または並列に配置する非同期タスクを作成できます。正確な要件によって異なりますが、cronでさえキューイングメカニズムとして機能できます。

WebWorkersは非同期プロセスで機能しますが、現在node.jsではサポートされていません。サポートを提供する拡張機能がいくつかあります。例：http : //github.com/cramforce/node-worker

それでも、標準の「必要」メカニズムを使用して、モジュールとコードを再利用できます。ワーカーへの最初のディスパッチが結果の処理に必要なすべての情報を確実に渡すようにする必要があるだけです。

使用child_processは1つのソリューションです。ただし、生成された各子プロセスは、Goに比べて大量のメモリを消費する可能性がありますgoroutines

kueなどのキューベースのソリューションを使用することもできます