JP7384215B2 - 負荷分散システム、負荷分散装置、負荷分散方法、及び負荷分散プログラム - Google Patents

Description

本開示は、負荷分散システム、負荷分散装置、負荷分散方法、及びコンピュータ可読媒体に関する。

近年、映像認識の分野では、認識対象や適用場所が多様化しており、それに伴い、機能追加やカメラ数の拡大等のシステムの変更・拡張を柔軟に行いたいというニーズがある。このニーズを受けて、システムの処理を複数の処理に分散させ、複数の処理を疎結合させた、マイクロサービスアーキテクチャと呼ばれるシステムが注目されている。

複数の処理を疎結合させたシステムでは、複数の処理の各々が、前段の処理結果を順次処理していくことになる。例えば、映像認識システムの場合、映像取得処理、物体検出処理、物体照合処理等の複数の処理を疎結合させてシステムを構築する。

ここで、各処理の処理能力を高める手法としては、該当する処理のリソースを増加させる、スケールアウトと呼ばれる手法が存在する。リソースのスケールアウトを行う関連技術としては、例えば、特許文献１に開示された技術が挙げられる。

特許文献１に開示された技術によれば、サーバ装置が過負荷傾向にあり、かつ、サーバ装置による情報処理の実行時のセキュリティ違反が増加傾向にない場合は、サーバ装置をスケールアウトする。

特開２０１５－２１９７５３号公報

しかし、複数の処理を疎結合させたシステムに、特許文献１に開示された技術を適用した場合、対象段の処理に過負荷が発生したことに起因して、対象段の処理のリソースを増加させると、後段の処理の負荷が急激に増加してしまう。その結果、処理対象がデータサイズの大きな映像等である場合には、後段の処理に過負荷が発生してしまうおそれがある。

そこで本開示の目的は、上述した課題を解決し、後段に過負荷を発生させることなく、対象段のリソースのスケールアウトを実現することができる負荷分散システム、負荷分散装置、負荷分散方法、及びコンピュータ可読媒体を提供することにある。

一態様による負荷分散システムは、
第１の処理部と、
前記第１の処理部の処理結果を処理する第２の処理部と、
前記第２の処理部の処理結果を処理する第３の処理部と、
前記第１の処理部のリソースを管理する第１のリソース管理部と、
前記第２の処理部のリソースを管理する第２のリソース管理部と、
前記第３の処理部のリソースを管理する第３のリソース管理部と、を備え、
前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したか否かを検出し、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースの追加を開始し、
前記第３のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出した場合、前記第３の処理部のリソースの追加を開始し、
前記第１のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出した場合、前記第１の処理部の処理量の抑制を開始し、
前記第１のリソース管理部は、前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する。

一態様による負荷分散装置は、
第１の処理部と、
前記第１の処理部の処理結果を処理する第２の処理部と、
前記第２の処理部の処理結果を処理する第３の処理部と、
前記第１の処理部のリソースを管理する第１のリソース管理部と、
前記第２の処理部のリソースを管理する第２のリソース管理部と、
前記第３の処理部のリソースを管理する第３のリソース管理部と、を備え、
前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したか否かを検出し、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースの追加を開始し、
前記第３のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出した場合、前記第３の処理部のリソースの追加を開始し、
前記第１のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出した場合、前記第１の処理部の処理量の抑制を開始し、
前記第１のリソース管理部は、前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する。

一態様による負荷分散方法は、
第１の処理部と、前記第１の処理部の処理結果を処理する第２の処理部と、前記第２の処理部の処理結果を処理する第３の処理部と、を備える負荷分散装置が行う負荷分散方法であって、
前記第２の処理部に過負荷が発生したか否かを検出する第１のステップと、
前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部及び前記第３の処理部のリソースの追加を開始すると共に、前記第１の処理部の処理量の抑制を開始する第２のステップと、
前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する第３のステップと、
を含む。

一態様によるコンピュータ可読媒体は、
第１の処理部と、前記第１の処理部の処理結果を処理する第２の処理部と、前記第２の処理部の処理結果を処理する第３の処理部と、を備えるコンピュータに、
前記第２の処理部に過負荷が発生したか否かを検出する第１の手順と、
前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部及び前記第３の処理部のリソースの追加を開始すると共に、前記第１の処理部の処理量の抑制を開始する第２の手順と、
前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する第３の手順と、
を実行させるための負荷分散プログラムが格納された非一時的なコンピュータ可読媒体である。

上述の態様によれば、後段に過負荷を発生させることなく、対象段のリソースのスケールアウトを実現可能な負荷分散システム、負荷分散装置、負荷分散方法、及びコンピュータ可読媒体を提供できるという効果が得られる。

実施の形態の概要に係る負荷分散システムの構成例を示すブロック図である。 実施の形態の概要に係る負荷分散システムの動作例を示す図である。 実施の形態に係る負荷分散システムの構成例を示すブロック図である。 実施の形態に係る負荷分散システムにおいて、複数の処理部のいずれかに過負荷が発生した場合に行われるリソース追加処理の例を示すフローチャートである。 図４のステップＳ２０２の律速開始処理の例を示すフローチャートである。 図４のステップＳ２０９の律速解除処理の例を示すフローチャートである。 図４のステップＳ２０６のリソース調整処理の例を示すフローチャートである。 実施の形態の具体例に係る負荷分散システムの構成例を示すブロック図である。 実施の形態の具体例に係る映像取得処理部が取得する映像の例を示す図である。 実施の形態の具体例に係る負荷分散システムの動作例を示すタイミングチャートである。 実施の形態に係る負荷分散システムを実現するコンピュータのハードウェア構成例を示すブロック図である。

以下、本開示の実施の形態について図面を参照して詳細に説明する。なお、以下の記載及び図面は、説明の明確化のため、適宜、省略及び簡略化がなされている。また、以下の各図面において、同一の要素には同一の符号が付されており、必要に応じて重複説明は省略されている。また、以下の実施の形態に示す具体的な数値等は、本開示の理解を容易とするための例示にすぎず、それに限定されるものではない。

＜実施の形態の概要＞
本実施の形態を説明する前に、本実施の形態の概要について説明する。
まず、図１を参照して、本実施の形態の概要に係る負荷分散システム１の構成例について説明する。
図１に示されるように、本実施の形態の概要に係る負荷分散システム１は、互いに疎結合された処理部１０－１～１０－３と、リソース管理部２０－１～２０－３と、を備えている。以下、処理部１０－１～１０－３を特に区別することなく言及する場合には、単に「処理部１０」と呼ぶことがある。同様に、リソース管理部２０－１～２０－３は、単に「リソース管理部２０」と呼ぶことがある。なお、図１は、３つの処理部１０－１～１０－３が疎結合された例、すなわち、処理の段数が３段の例であるが、処理の段数は３段以上であれば良い。

処理部１０－２は、処理部１０－１の処理結果を処理する。
処理部１０－３は、処理部１０－２の処理結果を処理する。
なお、処理部１０－１～１０－３は、不図示のバッファを備えており、処理対象をバッファに一時的に格納した後に、その処理対象の処理を行うものとする。ただし、バッファは、処理部１０の内部に設けることには限定されず、処理部１０の前段に設けても良い。

リソース管理部２０－１は、処理部１０－１のリソースを管理する。
リソース管理部２０－２は、処理部１０－２のリソースを管理する。
リソース管理部２０－３は、処理部１０－３のリソースを管理する。

続いて、図２を参照して、本実施の形態の概要に係る負荷分散システム１の動作例について説明する。
図２に示されるように、リソース管理部２０－２は、処理部１０－２に過負荷が発生したことを検出したとする（ステップＳ１０１）。

すると、リソース管理部２０－２は、リソース管理部２０－１に対し、処理部１０－１の処理量を抑制すること（すなわち、処理部１０－１を律速すること）を依頼する律速依頼を送信する（ステップＳ１０２）。リソース管理部２０－１は、リソース管理部２０－２から律速依頼を受信した場合、処理部１０－１の処理量の抑制を開始する（ステップＳ１０３）。例えば、リソース管理部２０－１は、処理部１０－１の処理速度を下げる。

また、リソース管理部２０－２は、リソース管理部２０－３に対し、処理部１０－３のリソースを追加することを依頼するリソース追加依頼を送信する（ステップＳ１０４）。リソース管理部２０－３は、リソース管理部２０－２からリソース追加依頼を受信した場合、処理部１０－３のリソースの追加を開始する（ステップＳ１０５）。また、リソース管理部２０－３は、処理部１０－３のリソースの追加が完了した場合、リソース管理部２０－２に対し、処理部１０－３のリソースの追加が完了したことを通知するリソース追加完了通知を送信する（ステップＳ１０６）。

また、リソース管理部２０－２は、処理部１０－２のリソースの追加を開始する（ステップＳ１０７）。
リソース管理部２０－２は、処理部１０－２のリソースの追加が完了し、かつ、リソース管理部２０－３からリソース追加完了通知を受信した場合、リソース管理部２０－１に対し、処理部１０－１の処理量の抑制を解除すること（すなわち、処理部１０－１の律速を解除すること）を依頼する律速解除依頼を送信する（ステップＳ１０８）。リソース管理部２０－１は、リソース管理部２０－２から律速解除依頼を受信した場合、処理部１０－１の処理量の抑制を解除する（ステップＳ１０９）。例えば、リソース管理部２０－１は、処理部１０－１の処理速度を元に戻す。

なお、図２の例では、処理部１０－２，１０－３のリソースの追加を開始する前に、処理部１０－１の処理量の抑制を開始しているが、これには限定されない。例えば、処理部１０－２，１０－３のリソースの追加の開始と、処理部１０－１の処理量の抑制の開始と、を同時に行っても良い。又は、処理部１０－２，１０－３のリソースの追加を開始した後に、処理部１０－１の処理量の抑制を開始しても良い。

上述したように、本実施の形態の概要に係る負荷分散システム１によれば、対象段の処理部１０－２に過負荷が発生したことを検出した場合、対象段の処理部１０－２に加えて、後段の処理部１０－３のリソースも追加を開始し、対象段及び後段の処理部１０－２，１０－３のリソースの追加が完了するまで、前段の処理部１０－１の処理量を抑制する。

これにより、対象段の処理部１０－２に過負荷が発生した場合に、後段の処理部１０－３に過負荷を発生させることなく、対象段の処理部１０－２のリソースのスケールアウトを実現することができる。

また、対象段の処理部１０－２のリソースをスケールアウトしても、３つの処理部１０－１～１０－３の疎結合性を維持できるため、スケールアウトによるシステムの変更範囲を最小限に維持することができる。

なお、本実施の形態の概要に係る負荷分散システム１は、処理部１０－２に過負荷が発生したことを検出した場合、処理部１０－２に加えて、処理部１０－３のリソースも追加している。しかし、処理部１０－２のリソースを追加しても、処理部１０－３に過負荷が発生しない場合もあり得る。このような場合にまで、処理部１０－３のリソースを追加すると、追加したリソースが無駄になる、リソース効率が悪化する、等の問題が発生してしまう。

そこで、リソース管理部２０－２は、処理部１０－２に過負荷が発生したことを検出した場合、処理部１０－２のリソースを追加することにより、後段の処理部１０－３に過負荷が発生する可能性があるか否かを判断しても良い。そして、リソース管理部２０－２は、後段の処理部１０－３に過負荷が発生する可能性があると判断した場合に、処理部１０－３のリソースを追加することを決定し、リソース管理部２０－３に対し、リソース追加依頼を送信しても良い。

＜実施の形態＞
続いて、本実施の形態について説明する。
まず、図３を参照して、本実施の形態に係る負荷分散システム１Ａの構成例について説明する。

図３に示されるように、本実施の形態に係る負荷分散システム１Ａは、互いに疎結合された処理部１０－１～１０－ｎ（ｎは３以上の整数）と、内容監視部２１－１～２１－ｎと、負荷監視部２２－１～２２－ｎと、リソース制御部２３－１～２３－ｎと、リソース調整部２４－１～２４－ｎと、を備えている。以下、内容監視部２１－１～２１－ｎを特に区別することなく言及する場合には、単に「内容監視部２１」と呼ぶことがある。同様に、負荷監視部２２－１～２２－ｎは、単に「負荷監視部２２」と呼び、リソース制御部２３－１～２３－ｎは、単に「リソース制御部２３」と呼び、リソース調整部２４－１～２４－ｎは、単に「リソース調整部２４」と呼ぶことがある。なお、内容監視部２１、負荷監視部２２、リソース制御部２３、及びリソース調整部２４からなる構成が、図１のリソース管理部２０に対応する。

処理部１０は、例えば、映像や前段の処理部１０による映像の解析処理結果に対する解析処理を行い、解析処理結果を後段の処理部１０に出力する。

内容監視部２１は、自段の処理部１０の処理内容を監視し、監視結果を自段のリソース調整部２４に出力する。
負荷監視部２２は、自段の処理部１０の処理負荷を監視し、監視結果を自段のリソース調整部２４に出力する。
リソース制御部２３は、自段のリソース調整部２４の制御の下で、自段の処理部１０の処理量の増減及びリソースの増減を行う。

リソース調整部２４は、自段の負荷監視部２２から、自段の処理部１０の処理負荷の監視結果を取得する。そして、リソース調整部２４は、自段の処理部１０の処理負荷に基づいて、自段の処理部１０に過負荷が発生したか否かを検出する。

リソース調整部２４は、自段の処理部１０に過負荷が発生したことを検出した場合、前段のリソース調整部２４に対し、律速依頼を送信する。また、リソース調整部２４は、自段のリソース制御部２３を制御して、自段の処理部１０のリソースの追加を開始する。

リソース調整部２４は、自段の処理部１０に過負荷が発生したことを検出した場合、自段の内容監視部２１及び負荷監視部２２から、自段の処理部１０の処理内容及び処理負荷の監視結果を取得すると共に、後段の負荷監視部２２から、後段のリソース調整部２４を介して、後段の処理部１０の処理負荷の監視結果を取得する。そして、リソース調整部２４は、自段の処理部１０の処理内容及び処理負荷と、後段の処理部１０の処理負荷と、に基づいて、自段の処理部１０にリソースを追加することにより、後段の処理部１０に過負荷が発生する可能性があるか否かを判断する。

リソース調整部２４は、後段の処理部１０に過負荷が発生する可能性があると判断した場合、後段のリソース調整部２４に対し、リソース追加依頼を送信する。

リソース調整部２４は、前段のリソース調整部２４からリソース追加依頼を受信した場合、自段のリソース制御部２３を制御して、自段の処理部１０のリソースの追加を開始する。また、リソース調整部２４は、自段の処理部１０のリソースの追加が完了した場合、前段のリソース調整部２４に対し、リソース追加完了通知を送信する。

リソース調整部２４は、自段の処理部１０のリソースの追加が完了した場合、又は、自段の処理部１０のリソースの追加が完了し、かつ、後段のリソース調整部２４からリソース追加完了通知を受信した場合、前段のリソース調整部２４に対し、律速解除依頼を送信する。

リソース調整部２４は、後段のリソース調整部２４から律速依頼を受信した場合、自段のリソース制御部２３を制御して、自段の処理部１０の処理量の抑制を開始する。また、リソース調整部２４は、後段のリソース調整部２４から律速解除依頼を受信した場合、自段のリソース制御部２３を制御して、自段の処理部１０の処理量の抑制を解除する。

なお、リソース調整部２４は、自段の処理部１０のリソースを追加する場合、自段の処理部１０の処理内容及び処理負荷に基づいて、自段の処理部１０にリソースを追加するタイミング及び追加するリソース量を決定しても良い。そして、リソース調整部２４は、決定したタイミングで決定したリソース量を自段の処理部１０に追加しても良い。

また、リソース調整部２４は、後段の処理部１０のリソースを追加する場合、後段の処理部１０の処理内容及び処理負荷に基づいて、後段の処理部１０にリソースを追加するタイミング及び追加するリソース量を決定しても良い。そして、リソース調整部２４は、後段のリソース調整部２４に送信するリソース追加依頼において、決定したタイミングで決定したリソース量を後段の処理部１０に追加することを依頼しても良い。

また、最前段のリソース調整部２４－１は、自段の処理部１０－１に過負荷が発生したことを検出した場合、律速依頼や律速解除依頼の送信を省略する。これ以外は、リソース調整部２４－１は、他のリソース調整部２４と同様の動作を行えば良い。

また、最後段のリソース調整部２４－ｎは、自段の処理部１０－ｎに過負荷が発生したことを検出した場合、後段の処理部１０の過負荷の判断やリソース追加依頼の送信を省略する。これ以外は、リソース調整部２４－ｎは、他のリソース調整部２４と同様の動作を行えば良い。

続いて、本実施の形態に係る負荷分散システム１Ａの動作例について説明する。
まず、図４を参照して、処理部１０－１～１０－ｎのいずれかに過負荷が発生した場合に行われるリソース追加処理の例について説明する。以下では、処理部１０－２に過負荷が発生した場合のリソース追加処理の例について説明する。

図４に示されるように、リソース調整部２４－２は、処理部１０－２に過負荷が発生したことを検出すると、前段のリソース調整部２４－１に対し、律速依頼を送信する（ステップＳ２０１）。これを受けて、リソース調整部２４－１は、律速開始処理を行う（ステップＳ２０２）。律速開始処理については後述する。

続いて、リソース調整部２４－２は、処理部１０－２のリソースを追加することにより、後段の処理部１０－３に過負荷が発生する可能性があるか否かを判断する（ステップＳ２０３）。

ステップＳ２０３において、後段の処理部１０－３に過負荷が発生する可能性がない場合（ステップＳ２０３のＮｏ）、リソース調整部２４－２は、リソース制御部２３－２を制御して、処理部１０－２のリソースの追加を開始する（ステップＳ２０４）。

一方、ステップＳ２０３において、後段の処理部１０－３に過負荷が発生する可能性がある場合（ステップＳ２０３のＹｅｓ）、リソース調整部２４－２は、後段のリソース調整部２４－３に対し、リソース追加依頼を送信する（ステップＳ２０５）。これを受けて、リソース調整部２４－３は、リソース調整処理を行う（ステップＳ２０６）。リソース調整処理については後述する。以降、リソース調整部２４－２は、後段のリソース調整部２４－３から、リソース追加完了通知を受信するまで待機する（ステップＳ２０７）。リソース調整部２４－２は、後段のリソース調整部２４－３からリソース追加完了通知を受信すると、リソース制御部２３－２を制御して、処理部１０－２のリソースの追加を開始する（ステップＳ２０４）。ただし、これには限定されず、リソース調整部２４－２は、後段のリソース調整部２４－３からのリソース追加完了通知を待たずに、処理部１０－２のリソースの追加を開始しても良い。

リソース調整部２４－２は、処理部１０－２のリソースの追加が完了した場合、又は、処理部１０－２のリソースの追加が完了し、かつ、後段のリソース調整部２４－３からリソース追加完了通知を受信した場合、前段のリソース調整部２４－１に対し、律速解除依頼を送信する（ステップＳ２０８）。これを受けて、リソース調整部２４－１は、律速解除処理を行う（ステップＳ２０９）。律速解除処理については後述する。
以上で、リソース追加処理が終了する。

続いて、図５を参照して、図４のステップＳ２０２の律速開始処理の例について説明する。以下では、処理部１０－２に過負荷が発生した場合に行われる律速開始処理の例について説明する。

図４のステップＳ２０１で説明したように、処理部１０－２に過負荷が発生した場合、リソース調整部２４－２からリソース調整部２４－１に対し、律速依頼が送信される。

そのため、図５に示されるように、リソース調整部２４－１は、後段のリソース調整部２４－２から律速依頼を受信する（ステップＳ３０１）。
続いて、リソース調整部２４－１は、リソース制御部２３－１を制御して、処理部１０－１の処理量の抑制を開始する（ステップＳ３０２）。例えば、リソース調整部２４－１は、処理部１０－１の処理速度を下げる。
以上で、律速開始処理が終了する。

続いて、図６を参照して、図４のステップＳ２０９の律速解除処理の例について説明する。以下では、処理部１０－２に過負荷が発生した場合に行われる律速解除処理の例について説明する。

図４のステップＳ２０８で説明したように、処理部１０－２に過負荷が発生し、その後、処理部１０－２のリソースの追加が完了した場合、又は、処理部１０－２のリソースの追加が完了し、かつ、後段のリソース調整部２４－３からリソース追加完了通知を受信した場合、リソース調整部２４－２からリソース調整部２４－１に対し、律速解除依頼が送信される。

そのため、図６に示されるように、リソース調整部２４－１は、後段のリソース調整部２４－２から律速解除依頼を受信する（ステップＳ４０１）。
続いて、リソース調整部２４－１は、リソース制御部２３－１を制御して、処理部１０－１の処理量の抑制を解除する（ステップＳ４０２）。例えば、リソース調整部２４－１は、処理部１０－１の処理速度を元に戻す。
以上で、律速解除処理が終了する。

続いて、図７を参照して、図４のステップＳ２０６のリソース調整処理の例について説明する。以下では、処理部１０－２に過負荷が発生した場合に行われるリソース調整処理の例について説明する。

図４のステップＳ２０５で説明したように、処理部１０－２に過負荷が発生し、かつ、処理部１０－３に過負荷が発生する可能性がある場合、リソース調整部２４－２からリソース調整部２４－３に対し、リソース追加依頼が送信される。

そのため、図７に示されるように、リソース調整部２４－３は、前段のリソース調整部２４－２からリソース追加依頼を受信する（ステップＳ５０１）。
続いて、リソース調整部２４－３は、処理部１０－３の処理量を抑制中であるか否か（すなわち、律速中であるか否か）を判断する（ステップＳ５０２）。

ステップＳ５０２において、処理部１０－３の処理量を抑制中ではない場合（ステップＳ５０２のＮｏ）、リソース調整部２４－３は、処理部１０－３のリソースを追加することにより、後段の処理部１０－４に過負荷が発生する可能性があるか否かを判断する（ステップＳ５０３）。

一方、ステップＳ５０２において、処理部１０－３の処理量を抑制中である場合（ステップＳ５０２のＹｅｓ）、リソース調整部２４－３は、後段のリソース調整部２４－４から律速解除依頼を受信するまで待機する（ステップＳ５０４）。リソース調整部２４－３は、後段のリソース調整部２４－４から律速解除依頼を受信すると、リソース制御部２３－３を制御して、処理部１０－３の処理量の抑制を解除する。続いて、リソース調整部２４－３は、処理部１０－３のリソースを追加することにより、後段の処理部１０－４に過負荷が発生する可能性があるか否かを判断する（ステップＳ５０３）。ただし、これには限定されず、リソース調整部２４－３は、後段のリソース調整部２４－４からの律速解除依頼を待たずに、後段の処理部１０－４に過負荷が発生する可能性を判断しても良い。

ステップＳ５０３において、後段の処理部１０－４に過負荷が発生する可能性がない場合（ステップＳ５０３のＮｏ）、リソース調整部２４－３は、リソース制御部２３－３を制御して、処理部１０－３のリソースの追加を開始する（ステップＳ５０５）。

一方、ステップＳ５０３において、後段の処理部１０－４に過負荷が発生する可能性がある場合（ステップＳ５０３のＹｅｓ）、リソース調整部２４－３は、後段のリソース調整部２４－４に対し、リソース追加依頼を送信する（ステップＳ５０６）。これを受けて、リソース調整部２４－４は、リソース調整処理を行う（ステップＳ５０７）。以降、リソース調整部２４－３は、後段のリソース調整部２４－４からリソース追加完了通知を受信するまで待機する（ステップＳ５０８）。リソース調整部２４－３は、後段のリソース調整部２４－４からリソース追加完了通知を受信すると、リソース制御部２３－３を制御して、処理部１０－３のリソースの追加を開始する（ステップＳ５０５）。ただし、これには限定されず、リソース調整部２４－３は、後段のリソース調整部２４－４からのリソース追加完了通知を待たずに、処理部１０－３のリソースの追加を開始しても良い。

リソース調整部２４－３は、処理部１０－３のリソースの追加が完了した場合、又は、処理部１０－３のリソースの追加が完了し、かつ、後段のリソース調整部２４－４からリソース追加完了通知を受信した場合、前段のリソース調整部２４－２に対し、リソース追加完了通知を送信する（ステップＳ５０９）。
以上で、リソース調整処理が終了する。

上述したように、本実施の形態に係る負荷分散システム１Ａによれば、対象段の処理部１０に過負荷が発生したことを検出した場合、対象段の処理部１０のリソースの追加を開始する。また、対象段の処理部１０のリソースを追加することにより、後段の処理部１０に過負荷が発生する可能性があれば、後段の処理部１０のリソースも追加を開始する。そして、対象段の処理部１０のリソースの追加が完了するまで、又は、対象段及び後段の処理部１０のリソースの追加が完了するまで、前段の処理部１０の処理量を抑制する。

これにより、対象段の処理部１０に過負荷が発生した場合に、後段の処理部１０に過負荷を発生させることなく、対象段の処理部１０のリソースのスケールアウトを実現することができる。

また、対象段の処理部１０のリソースをスケールアウトしても、対象段及び前後段の処理部１０の疎結合性を維持できるため、スケールアウトによるシステムの変更範囲を最小限に維持することができる。

＜実施の形態の具体例＞
続いて、本実施の形態の具体例について説明する。ここでは、本実施の形態を顔解析に適用する場合の具体例について説明する。
まず、図８を参照して、本実施の形態の具体例に係る負荷分散システム１Ｘの構成例について説明する。

図８に示されるように、本実施の形態の具体例に係る負荷分散システム１Ｘは、図３の構成と比較して、処理の段数を３段にした点と、処理部１０－１～１０－３の具体例として、映像取得処理部１０Ｘ－１、顔検出処理部１０Ｘ－２、及び顔特徴抽出処理部１０Ｘ－３を設けた点と、が異なる。

映像取得処理部１０Ｘ－１は、映像（映像フレーム）を取得する。図９に、映像取得処理部１０Ｘ－１が取得する映像の例を示す。
顔検出処理部１０Ｘ－２は、映像取得処理部１０Ｘ－１が取得した映像から顔を検出する。
顔特徴抽出処理部１０Ｘ－３は、顔検出処理部１０Ｘ－２が検出した顔から顔特徴を抽出する。

顔検出処理部１０Ｘ－２及び顔特徴抽出処理部１０Ｘ－３は、映像取得処理部１０Ｘ－１が取得した映像に含まれる顔の数に応じて、処理負荷が変動する。
本実施の形態の具体例に係る負荷分散システム１Ｘは、例えば、映像に含まれる顔の数が増えたことに起因して、顔検出処理部１０Ｘ－２に過負荷が発生した場合、概略的には、以下の動作を行う。

まず、顔検出処理部１０Ｘ－２のリソースの追加を開始する。本実施の形態の具体例では、リソースは、プロセス数やＶＭ（virtual machine。仮想マシン）数等である。また、顔検出処理部１０Ｘ－２のリソースを追加することにより、顔特徴抽出処理部１０Ｘ－３に過負荷が発生する可能性があれば、顔特徴抽出処理部１０Ｘ－３のリソースの追加も開始する。

そして、顔検出処理部１０Ｘ－２のリソースの追加が完了するまで、又は、顔検出処理部１０Ｘ－２及び顔特徴抽出処理部１０Ｘ－３のリソースの追加が完了するまで、映像取得処理部１０Ｘ－１の処理量を抑制する。例えば、映像取得処理部１０Ｘ－１の処理速度（ＦＰＳ：frames per second）を下げる。

続いて、図１０を参照して、本実施の形態の具体例に係る負荷分散システム１Ｘの詳細な動作例について説明する。図１０は、映像取得処理部１０Ｘ－１、顔検出処理部１０Ｘ－２、及び顔特徴抽出処理部１０Ｘ－３毎に、各処理部１０に割り当てられた割り当てリソース数及び各処理部１０の処理負荷の時系列変化の例を示している。また、図１０は、顔検出処理部１０Ｘ－２に過負荷が発生した場合の例を示している。

図１０に示されるように、時刻ｔ１において、リソース調整部２４－２は、顔検出処理部１０Ｘ－２に過負荷が発生したことを検出したとする。すると、リソース調整部２４－２は、前段のリソース調整部２４－１に対し、律速依頼を送信する。これを受けて、リソース調整部２４－１は、リソース制御部２３－１を制御して、映像取得処理部１０Ｘ－１の処理量の抑制を開始する。ここでは、リソース調整部２４－１は、映像取得処理部１０Ｘ－１のＦＰＳを下げて動作させている。

続いて、時刻ｔ２において、リソース調整部２４－２は、リソース制御部２３－２を制御して、顔検出処理部１０Ｘ－２のリソースの追加を開始する。また、ここでは、リソース調整部２４－２は、顔検出処理部１０Ｘ－２のリソースを追加することにより、後段の顔特徴抽出処理部１０Ｘ－３に過負荷が発生する可能性があると判断し、後段のリソース調整部２４－３に対し、リソース追加依頼を送信する。これを受けて、リソース調整部２４－３は、リソース制御部２３－３を制御して、顔特徴抽出処理部１０Ｘ－３のリソースの追加を開始する。

続いて、時刻ｔ３において、顔特徴抽出処理部１０Ｘ－３のリソースの追加が完了すると、リソース調整部２４－３は、リソース調整部２４－２に対し、リソース追加完了通知を送信する。

続いて、時刻ｔ４において、顔検出処理部１０Ｘ－２のリソースの追加が完了する。この時点では、リソース調整部２４－２は、リソース調整部２４－３からのリソース追加完了通知を既に受信している。そのため、リソース調整部２４－２は、前段のリソース調整部２４－１に対し、律速解除依頼を送信する。これを受けて、リソース調整部２４－１は、リソース制御部２３－１を制御して、映像取得処理部１０Ｘ－１の処理量の抑制を解除する。ここでは、リソース調整部２４－１は、映像取得処理部１０Ｘ－１のＦＰＳを元に戻している。

なお、図１０の例では、顔検出処理部１０Ｘ－２及び顔特徴抽出処理部１０Ｘ－３のリソースの追加を開始する前に、映像取得処理部１０Ｘ－１の処理量の抑制を開始しているが、これには限定されない。例えば、顔検出処理部１０Ｘ－２及び顔特徴抽出処理部１０Ｘ－３のリソースの追加の開始と、映像取得処理部１０Ｘ－１の処理量の抑制の開始と、を同時に行っても良い。又は、顔検出処理部１０Ｘ－２及び顔特徴抽出処理部１０Ｘ－３のリソースの追加を開始した後に、映像取得処理部１０Ｘ－１の処理量の抑制を開始しても良い。

続いて、本実施の形態の具体例に係る内容監視部２１、負荷監視部２２、及びリソース調整部２４の具体的な動作例について説明する。

まず、内容監視部２１が、自段の処理部１０の処理内容を監視する動作の具体例について説明する。
上述のように、内容監視部２１は、自段の処理部１０の処理内容を監視する。
さらに、内容監視部２１は、自段の処理部１０の処理内容に基づいて、自段の処理部１０の処理の実績を示すスケール値を算出する。

例えば、顔検出処理部１０Ｘ－２に対応する内容監視部２１－２は、顔検出処理部１０Ｘ－２の処理内容として、映像取得処理部１０Ｘ－１が取得した映像から検出した顔の数を示す検出顔数を監視する。また、内容監視部２１－２は、顔検出処理部１０Ｘ－２の検出顔数の履歴を示す内容履歴情報を保持する。表１に、内容監視部２１－２が保持する内容履歴情報の例を示す。

表１の内容履歴情報は、時刻と、その時刻における検出顔数と、を対応付けた情報になっている。
この例では、顔検出処理部１０Ｘ－２のスケール値を、検出顔数とするものとする。
そして、内容監視部２１－２は、直近の単位時間（以下では、ｍ秒間とする）における顔検出処理部１０Ｘ－２のスケール値の平均値として、検出顔数の平均値を算出する。

例えば、ｍ＝１の場合、内容監視部２１－２は、表１の行のうちの時刻の最新値から１秒以内の行から、検出顔数を抽出する。そして、内容監視部２１－２は、以下のように、抽出した検出顔数の平均値を算出する。
ｓｃａｌｅ＝ａｖｅｒａｇｅ（１０＋９＋…）＝１０
この例では、直近の１秒間における顔検出処理部１０Ｘ－２のスケール値の平均値は、“１０”となる。

また、顔特徴抽出処理部１０Ｘ－３に対応する内容監視部２１－３は、顔特徴抽出処理部１０Ｘ－３の処理内容として、顔検出処理部１０Ｘ－２が検出した顔から顔特徴の抽出を試行した回数（すなわち、顔特徴の抽出を試行した顔の数）を示す特徴抽出処理数と、そのうち顔特徴の抽出に成功した回数（すなわち、顔特徴の抽出に成功した顔の数）を示す特徴抽出成功数と、を監視する。また、内容監視部２１－３は、顔特徴抽出処理部１０Ｘ－３の特徴抽出処理数及び特徴抽出成功数の履歴を示す内容履歴情報を保持する。表２に、内容監視部２１－３が保持する内容履歴情報の例を示す。

表２の内容履歴情報は、時刻と、その時刻における特徴抽出処理数及び特徴抽出成功数と、を対応付けた情報になっている。
この例では、顔特徴抽出処理部１０Ｘ－３のスケール値を、顔特徴の抽出に成功した成功率を示す特徴抽出成功率とするものとする。
そして、内容監視部２１－３は、直近のｍ秒間における顔特徴抽出処理部１０Ｘ－３のスケール値の平均値として、特徴抽出成功率の平均値を算出する。

例えば、ｍ＝１の場合、内容監視部２１－３は、表１の行のうちの時刻の最新値から１秒以内の行から、特徴抽出処理数及び特徴抽出成功数を抽出する。そして、内容監視部２１－３は、以下のように、抽出した特徴抽出処理数の平均値及び特徴抽出成功数の平均値をそれぞれ算出し、それぞれの平均値の比を算出する。
ｓｃａｌｅ＝ａｖｅｒａｇｅ（１００＋９０＋…）／ａｖｅｒａｇｅ（８３＋８０＋…）＝０．９
この例では、直近の１秒間における顔特徴抽出処理部１０Ｘ－３のスケール値の平均値は、“０．９”となる。

続いて、負荷監視部２２が、自段の処理部１０の処理負荷を監視する動作の具体例について説明する。
上述のように、負荷監視部２２は、自段の処理部１０の処理負荷を監視する。
具体的には、負荷監視部２２は、自段の処理部１０の処理負荷として、自段の処理部１０の処理を待機している処理対象の数を示す処理待ち数と、自段の処理部１０が１秒あたりに処理した処理対象の数を示す秒間処理数と、を監視する。

例えば、顔検出処理部１０Ｘ－２に対応する負荷監視部２２－２は、顔検出処理部１０Ｘ－２の処理待ち数として、映像取得処理部１０Ｘ－１が取得した映像フレームのうち顔検出処理部１０Ｘ－２の処理を待機している映像フレームの数を監視する。また、負荷監視部２２－２は、顔検出処理部１０Ｘ－２の秒間処理数として、顔検出処理部１０Ｘ－２が１秒あたりに処理した映像フレームの数を監視する。また、負荷監視部２２－２は、顔検出処理部１０Ｘ－２の処理待ち数及び秒間処理数の履歴を示す負荷履歴情報を保持する。表３に、負荷監視部２２－２が保持する負荷履歴情報の例を示す。

表３の負荷履歴情報は、時刻と、その時刻における処理待ち数及び秒間処理数と、を対応付けた情報になっている。
負荷監視部２２－２は、直近のｍ秒間における顔検出処理部１０Ｘ－２の処理待ち数の平均値を算出すると共に、直近のｍ秒間における顔検出処理部１０Ｘ－２の秒間処理数の最大値を算出する。

例えば、ｍ＝１の場合、負荷監視部２２－２は、表１の行のうちの時刻の最新値から１秒以内の行から、処理待ち数及び秒間処理数を抽出する。そして、負荷監視部２２－２は、以下のように、抽出した処理待ち数の平均値を算出すると共に、抽出した秒間処理数の最大値を算出する。
処理待ち数＝ａｖｅｒａｇｅ（１０＋４＋…）＝７
秒間処理数＝ｍａｘ（３０＋３３＋…）＝３３
この例では、直近の１秒間における顔検出処理部１０Ｘ－２の処理待ち数の平均値は、“７”となり、秒間処理数の最大値は、“３３”となる。

また、顔特徴抽出処理部１０Ｘ－３に対応する負荷監視部２２－３は、顔特徴抽出処理部１０Ｘ－３の処理待ち数として、顔検出処理部１０Ｘ－２が検出した顔のうち顔特徴抽出処理部１０Ｘ－３の処理を待機している顔の数を監視する。また、負荷監視部２２－３は、顔特徴抽出処理部１０Ｘ－３の秒間処理数として、顔特徴抽出処理部１０Ｘ－３が１秒あたりに処理した顔の数を監視する。また、負荷監視部２２－３は、顔特徴抽出処理部１０Ｘ－３の処理待ち数及び秒間処理数の履歴を示す負荷履歴情報を保持する。表４に、負荷監視部２２－３が保持する負荷履歴情報の例を示す。

表４の負荷履歴情報は、時刻と、その時刻における処理待ち数及び秒間処理数と、を対応付けた情報になっている。
負荷監視部２２－３は、直近のｍ秒間における顔特徴抽出処理部１０Ｘ－３の処理待ち数の平均値を算出すると共に、直近のｍ秒間における顔特徴抽出処理部１０Ｘ－３の秒間処理数の最大値を算出する。

例えば、ｍ＝１の場合、負荷監視部２２－３は、表１の行のうちの時刻の最新値から１秒以内の行から、処理待ち数及び秒間処理数を抽出する。そして、負荷監視部２２－３は、以下のように、抽出した処理待ち数の平均値を算出すると共に、抽出した秒間処理数の最大値を算出する。
処理待ち数＝ａｖｅｒａｇｅ（１２０＋１１０＋…）＝１００
秒間処理数＝ｍａｘ（４３＋２２＋…）＝４３
この例では、直近の１秒間における顔特徴抽出処理部１０Ｘ－３の処理待ち数の平均値は、“１００”となり、秒間処理数の最大値は、“４３”となる。

続いて、リソース調整部２４が、自段の処理部１０の過負荷を検出する動作の具体例について説明する。
上述のように、リソース調整部２４は、自段の処理部１０の処理負荷に基づいて、自段の処理部１０に過負荷が発生したか否かを検出する。

例えば、リソース調整部２４は、自段の処理部１０の処理負荷として、自段の負荷監視部２２で算出された、直近のｍ秒間における処理待ち数の平均値を取得する。そして、リソース調整部２４は、直近のｍ秒間における処理待ち数の平均値が閾値を超えている場合に、自段の処理部１０に過負荷が発生したことを検出する。

又は、リソース調整部２４は、自段の処理部１０の処理負荷として、自段の負荷監視部２２で算出された、直近のｍ秒間における秒間処理数の最大値を取得する。そして、リソース調整部２４は、直近のｍ秒間における秒間処理数の最大値が閾値を超えている場合に、自段の処理部１０に過負荷が発生したことを検出する。このとき、リソース調整部２４は、自段の処理部１０に割り当てられた割り当てリソース数に基づいて、自段の処理部１０の秒間処理数の上限値がわかる。そのため、上記の閾値は、例えば、秒間処理数の上限値の所定の割合（例えば、８０％）に設定することができる。

続いて、リソース調整部２４が、後段の処理部１０に過負荷が発生する可能性があるか否かを判断する動作の具体例について説明する。
上述のように、リソース調整部２４は、自段の処理部１０の処理内容及び処理負荷と、後段の処理部１０の処理負荷と、に基づいて、後段の処理部１０に過負荷が発生する可能性があるか否かを判断する。

より詳細には、リソース調整部２４は、自段の処理部１０の処理内容及び処理負荷に基づいて、後段の処理部１０に期待される負荷を示す負荷期待値を算出する。そして、リソース調整部２４は、後段の処理部１０の負荷期待値が、後段の処理部１０の処理負荷を超えている場合に、後段の処理部１０に過負荷が発生する可能性があると判断する。

このとき、リソース調整部２４は、自段の処理部１０の処理負荷として、自段の負荷監視部２２で算出された、直近のｍ秒間における処理待ち数の平均値を取得する。また、リソース調整部２４は、自段の処理部１０の処理内容として、自段の内容監視部２１で算出された、直近のｍ秒間におけるスケール値の平均値を取得する。また、リソース調整部２４は、後段の処理部１０の処理負荷として、後段の負荷監視部２２で算出された、直近のｍ秒間における秒間処理数の最大値を取得する。

そして、リソース調整部２４は、直近のｍ秒間における自段の処理部１０の処理待ち数の平均値と、直近のｍ秒間における自段の処理部１０のスケール値の平均値と、を乗算することにより、後段の処理部１０の負荷期待値を算出する。そして、リソース調整部２４は、後段の処理部１０の負荷期待値が、直近のｍ秒間における後段の処理部１０の秒間処理数の最大値を超えている場合に、後段の処理部１０に過負荷が発生する可能性があると判断する。

例えば、顔検出処理部１０Ｘ－２に対応するリソース調整部２４－２は、後段の顔特徴抽出処理部１０Ｘ－３の負荷期待値を、以下のように算出する。
後段の顔特徴抽出処理部１０Ｘ－３の負荷期待値
＝直近のｍ秒間における顔検出処理部１０Ｘ－２の処理待ち数の平均値×直近のｍ秒間における顔検出処理部１０Ｘ－２のスケール値の平均値
＝直近のｍ秒間における顔検出処理部１０Ｘ－２の処理待ち数の平均値×直近のｍ秒間における顔検出処理部１０Ｘ－２の検出顔数の平均値

表１及び表３の例では、ｍ＝１の場合、直近の１秒間における顔検出処理部１０Ｘ－２の処理待ち数の平均値は“１０”であり、検出顔数の平均値は“７”である。
そのため、リソース調整部２４－２は、後段の顔特徴抽出処理部１０Ｘ－３の負荷期待値“７０（＝１０×７）”を算出する。

また、表４の例では、ｍ＝１の場合、直近の１秒間における後段の顔特徴抽出処理部１０Ｘ－３の秒間処理数の最大値は“４３”である。
そこで、リソース調整部２４－２は、後段の顔特徴抽出処理部１０Ｘ－３の負荷期待値“７０”と、後段の顔特徴抽出処理部１０Ｘ－３の秒間処理数の最大値“４３”と、を比較する。その結果、後段の顔特徴抽出処理部１０Ｘ－３の負荷期待値“７０”は、後段の顔特徴抽出処理部１０Ｘ－３の秒間処理数の最大値“４３”を超えている。
そのため、リソース調整部２４－２は、後段の顔特徴抽出処理部１０Ｘ－３に過負荷が発生する可能性があると判断する。

上述したように、本実施の形態の具体例に係る負荷分散システム１Ｘによれば、顔検出処理部１０Ｘ－２に過負荷が発生したことを検出した場合、顔検出処理部１０Ｘ－２のリソースの追加を開始する。また、顔検出処理部１０Ｘ－２のリソースを追加することにより、後段の顔特徴抽出処理部１０Ｘ－３に過負荷が発生する可能性があれば、後段の顔特徴抽出処理部１０Ｘ－３のリソースも追加を開始する。そして、顔検出処理部１０Ｘ－２の顔特徴抽出処理部１０Ｘ－３のリソースの追加が完了するまで、又は、顔検出処理部１０Ｘ－２及び後段の顔特徴抽出処理部１０Ｘ－３のリソースの追加が完了するまで、前段の映像取得処理部１０Ｘ－１の処理量を抑制する。

これにより、顔検出処理部１０Ｘ－２に過負荷が発生した場合に、後段の顔特徴抽出処理部１０Ｘ－３に過負荷を発生させることなく、顔検出処理部１０Ｘ－２のリソースのスケールアウトを実現することができる。

また、顔検出処理部１０Ｘ－２のリソースをスケールアウトしても、映像取得処理部１０Ｘ－１、顔検出処理部１０Ｘ－２、及び顔特徴抽出処理部１０Ｘ－３の疎結合性を維持できるため、スケールアウトによるシステムの変更範囲を最小限に維持することができる。

＜実施の形態の他の具体例＞
以上の説明では、本実施の形態を顔解析に適用する具体例について説明したが、これには限定されない。
例えば、本実施の形態は、解析対象が顔ではなく、人物又は物体である場合にも適用可能である。解析対象が人物又は物体である場合、顔検出処理部１０Ｘ－２は、映像取得処理部１０Ｘ－１が取得した映像から、人物又は物体を検出する検出処理部に置き換えれば良い。また、顔特徴抽出処理部１０Ｘ－３は、検出処理部が検出した人物又は物体から、人物又は物体の特徴を抽出する特徴抽出処理部に置き換えれば良い。

また、処理部１０のスケール値、処理待ち数、及び秒間処理数は、処理部１０の処理種別に応じて決まるものであり、上述した例には限定されない。
例えば、処理部１０のスケール値は、顔、人物、物体等の解析対象の数、大きさ、位置、向き、傾き、速度、進行方向、鮮明さ等であっても良い。

＜実施の形態のハードウェア構成＞
上述した実施の形態に係る負荷分散システム１，１Ａ，１Ｘは、１台のコンピュータ（負荷分散装置）で実現することもできる。以下、図１１を参照して、上述した実施の形態に係る負荷分散システム１，１Ａ，１Ｘを実現するコンピュータ３０のハードウェア構成について説明する。

図１１に示されるように、上述した実施の形態に係る負荷分散システム１，１Ａ，１Ｘは、コンピュータ３０で実現することができる。コンピュータ３０は、プロセッサ３１、メモリ３２、ストレージ３３、入出力インタフェース（入出力Ｉ／Ｆ）３４、及び通信インタフェース（通信Ｉ／Ｆ）３５等を備えている。プロセッサ３１、メモリ３２、ストレージ３３、入出力インタフェース３４、及び通信インタフェース３５は、相互にデータを送受信するためのデータ伝送路で接続されている。

プロセッサ３１は、例えば、ＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等の演算処理装置である。メモリ３２は、例えば、ＲＡＭ（Random Access Memory）やＲＯＭ（Read Only Memory）等のメモリである。ストレージ３３は、例えば、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、又はメモリカード等の記憶装置である。また、ストレージ３３は、ＲＡＭやＲＯＭ等のメモリであっても良い。

ストレージ３３は、上述した負荷分散システム１，１Ａ，１Ｘが備える各構成要素の機能を実現するプログラム（負荷分散プログラム）を記憶している。プロセッサ３１は、これら各プログラムを実行することで、上述した負荷分散システム１，１Ａ，１Ｘが備える各構成要素の機能をそれぞれ実現する。ここで、プロセッサ３１は、上記各プログラムを実行する際、これらのプログラムをメモリ３２上に読み出してから実行しても良いし、メモリ３２上に読み出さずに実行しても良い。また、メモリ３２やストレージ３３は、上述した負荷分散システム１，１Ａ，１Ｘが備える各構成要素が保持する情報やデータを記憶する役割も果たす。

また、上述したプログラムは、様々なタイプの非一時的なコンピュータ可読媒体（non-transitory computer readable medium）を用いて格納され、コンピュータ（コンピュータ３０を含む）に供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体（tangible storage medium）を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体（例えば、フレキシブルディスク、磁気テープ、ハードディスクドライブ）、光磁気記録媒体（例えば、光磁気ディスク）、ＣＤ－ＲＯＭ（Compact Disc-Read Only Memory）、ＣＤ－Ｒ（CD-Recordable）、ＣＤ－Ｒ／Ｗ（CD-ReWritable）、半導体メモリ（例えば、マスクＲＯＭ、ＰＲＯＭ（Programmable ROM）、ＥＰＲＯＭ（Erasable PROM）、フラッシュＲＯＭ、ＲＡＭ（Random Access Memory））を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体（transitory computer readable medium）によってコンピュータに供給されても良い。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。

入出力インタフェース３４は、不図示の表示装置や入力装置等と接続される。表示装置は、例えば、ＬＣＤ（Liquid Crystal Display）やＣＲＴ（Cathode Ray Tube）ディスプレイのような、プロセッサ３１により処理された描画データに対応する画面を表示する装置である。また、入力装置は、例えば、オペレータの操作入力を受け付ける装置であり、例えば、キーボード、マウス、およびタッチセンサ等である。表示装置及び入力装置は一体化され、タッチパネルとして実現されていても良い。
通信インタフェース３５は、外部の装置との間でデータを送受信する。例えば、通信インタフェース３５は、有線ネットワーク又は無線ネットワークを介して外部装置と通信する。

以上、実施の形態を参照して本開示を説明したが、本開示は上記の実施の形態に限定されるものではない。本開示の構成や詳細には、本開示のスコープ内で当業者が理解し得る様々な変更をすることができる。

また、上記の実施の形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
（付記１）
第１の処理部と、
前記第１の処理部の処理結果を処理する第２の処理部と、
前記第２の処理部の処理結果を処理する第３の処理部と、
前記第１の処理部のリソースを管理する第１のリソース管理部と、
前記第２の処理部のリソースを管理する第２のリソース管理部と、
前記第３の処理部のリソースを管理する第３のリソース管理部と、を備え、
前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したか否かを検出し、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースの追加を開始し、
前記第３のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出した場合、前記第３の処理部のリソースの追加を開始し、
前記第１のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出した場合、前記第１の処理部の処理量の抑制を開始し、
前記第１のリソース管理部は、前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する、
負荷分散システム。
（付記２）
前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースを追加することにより、前記第３の処理部に過負荷が発生する可能性があるか否かを判断し、
前記第３のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出し、かつ、前記第２のリソース管理部が前記第３の処理部に過負荷が発生する可能性があると判断した場合に、前記第３の処理部のリソースの追加を開始する、
付記１に記載の負荷分散システム。
（付記３）
前記第２のリソース管理部は、前記第２の処理部の処理内容及び処理負荷を監視し、
前記第３のリソース管理部は、前記第３の処理部の処理負荷を監視し、
前記第２のリソース管理部は、前記第２の処理部の処理負荷に基づいて、前記第２の処理部に過負荷が発生したか否かを検出し、
前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部の処理内容及び処理負荷と、前記第３の処理部の処理負荷と、に基づいて、前記第３の処理部に過負荷が発生する可能性があるか否かを判断する、
付記２に記載の負荷分散システム。
（付記４）
前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部の処理内容及び処理負荷に基づいて、前記第３の処理部に期待される処理負荷を示す負荷期待値を算出し、前記第３の処理部の前記負荷期待値が前記第３の処理部の処理負荷を超えている場合に、前記第３の処理部に過負荷が発生する可能性があると判断する、
付記３に記載の負荷分散システム。
（付記５）
前記第２のリソース管理部は、前記第２の処理部の処理負荷として、前記第２の処理部の処理を待機している処理対象の数を示す処理待ち数及び前記第２の処理部が１秒あたりに処理した処理対象の数を示す秒間処理数を監視し、
前記第２のリソース管理部は、直近の単位時間における前記第２の処理部の前記処理待ち数の平均値を算出すると共に、直近の単位時間における前記第２の処理部の前記秒間処理数の最大値を算出し、
前記第２のリソース管理部は、直近の単位時間における前記第２の処理部の前記処理待ち数の平均値又は前記秒間処理数の最大値が閾値を超えている場合に、前記第２の処理部に過負荷が発生したことを検出する、
付記４に記載の負荷分散システム。
（付記６）
前記第２のリソース管理部は、前記第２の処理部の処理内容に基づいて、直近の単位時間における前記第２の処理部の処理の実績を示すスケール値の平均値を算出し、
前記第３のリソース管理部は、前記第３の処理部の処理負荷として、前記第３の処理部が１秒あたりに処理した処理対象の数を示す秒間処理数を監視し、
前記第３のリソース管理部は、直近の単位時間における前記第３の処理部の前記秒間処理数の最大値を算出し、
前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したことを検出した場合、直近の単位時間における前記第２の処理部の前記処理待ち数の平均値と前記スケール値の平均値とを乗算することにより、前記第３の処理部の前記負荷期待値を算出し、前記第３の処理部の前記負荷期待値が、直近の単位時間における前記第３の処理部の前記秒間処理数の最大値を超えている場合に、前記第３の処理部に過負荷が発生する可能性があると判断する、
付記５に記載の負荷分散システム。
（付記７）
前記第１の処理部は、映像を取得する映像取得処理部であり、
前記第２の処理部は、前記映像取得処理部が取得した映像から解析対象を検出する検出処理部であり、
前記第３の処理部は、前記検出処理部が検出した解析対象から特徴を抽出する特徴抽出処理部である、
付記１から６のいずれか１項に記載の負荷分散システム。
（付記８）
第１の処理部と、
前記第１の処理部の処理結果を処理する第２の処理部と、
前記第２の処理部の処理結果を処理する第３の処理部と、
前記第１の処理部のリソースを管理する第１のリソース管理部と、
前記第２の処理部のリソースを管理する第２のリソース管理部と、
前記第３の処理部のリソースを管理する第３のリソース管理部と、を備え、
前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したか否かを検出し、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースの追加を開始し、
前記第３のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出した場合、前記第３の処理部のリソースの追加を開始し、
前記第１のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出した場合、前記第１の処理部の処理量の抑制を開始し、
前記第１のリソース管理部は、前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する、
負荷分散装置。
（付記９）
前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースを追加することにより、前記第３の処理部に過負荷が発生する可能性があるか否かを判断し、
前記第３のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出し、かつ、前記第２のリソース管理部が前記第３の処理部に過負荷が発生する可能性があると判断した場合に、前記第３の処理部のリソースの追加を開始する、
付記８に記載の負荷分散装置。
（付記１０）
第１の処理部と、前記第１の処理部の処理結果を処理する第２の処理部と、前記第２の処理部の処理結果を処理する第３の処理部と、を備える負荷分散装置が行う負荷分散方法であって、
前記第２の処理部に過負荷が発生したか否かを検出する第１のステップと、
前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部及び前記第３の処理部のリソースの追加を開始すると共に、前記第１の処理部の処理量の抑制を開始する第２のステップと、
前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する第３のステップと、
を含む、負荷分散方法。
（付記１１）
前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースを追加することにより、前記第３の処理部に過負荷が発生する可能性があるか否かを判断する第４のステップをさらに含み、
前記第２のステップでは、前記第２の処理部に過負荷が発生したことを検出し、かつ、前記第３の処理部に過負荷が発生する可能性があると判断した場合に、前記第３の処理部のリソースの追加を開始する、
付記１０に記載の負荷分散方法。
（付記１２）
第１の処理部と、前記第１の処理部の処理結果を処理する第２の処理部と、前記第２の処理部の処理結果を処理する第３の処理部と、を備えるコンピュータに、
前記第２の処理部に過負荷が発生したか否かを検出する第１の手順と、
前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部及び前記第３の処理部のリソースの追加を開始すると共に、前記第１の処理部の処理量の抑制を開始する第２の手順と、
前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する第３の手順と、
を実行させるための負荷分散プログラムが格納された非一時的なコンピュータ可読媒体。
（付記１３）
前記負荷分散プログラムは、
前記コンピュータに、
前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースを追加することにより、前記第３の処理部に過負荷が発生する可能性があるか否かを判断する第４の手順をさらに実行させるものであり、
前記第２の手順では、前記第２の処理部に過負荷が発生したことを検出し、かつ、前記第３の処理部に過負荷が発生する可能性があると判断した場合に、前記第３の処理部のリソースの追加を開始する、
付記１２に記載のコンピュータ可読媒体。

１，１Ａ，１Ｘ 負荷分散システム
１０－１～１０－ｎ 処理部
１０Ｘ－１ 映像取得処理部
１０Ｘ－２ 顔検出処理部
１０Ｘ－３ 顔特徴抽出処理部
２０－１～２０－３ リソース管理部
２１－１～２１－ｎ 内容監視部
２２－１～２２－ｎ 負荷監視部
２３－１～２３－ｎ リソース制御部
２４－１～２４－ｎ リソース調整部
３０ コンピュータ
３１ プロセッサ
３２ メモリ
３３ ストレージ
３４ 入出力インタフェース
３５ 通信インタフェース

Claims (7)

1. 第１の処理部と、
   前記第１の処理部の処理結果を処理する第２の処理部と、
   前記第２の処理部の処理結果を処理する第３の処理部と、
   前記第１の処理部のリソースを管理する第１のリソース管理部と、
   前記第２の処理部のリソースを管理する第２のリソース管理部と、
   前記第３の処理部のリソースを管理する第３のリソース管理部と、を備え、
   前記第２のリソース管理部は、前記第２の処理部の処理内容及び処理負荷を監視し、
   前記第３のリソース管理部は、前記第３の処理部の処理負荷を監視し、
   前記第２のリソース管理部は、前記第２の処理部の処理負荷に基づいて、前記第２の処理部に過負荷が発生したか否かを検出し、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースの追加を開始し、
   前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部の処理内容及び処理負荷と、前記第３の処理部の処理負荷と、に基づいて、前記第２の処理部のリソースを追加することにより、前記第３の処理部に過負荷が発生する可能性があるか否かを判断することとして、前記第２の処理部の処理内容及び処理負荷に基づいて、前記第３の処理部に期待される処理負荷を示す負荷期待値を算出し、前記第３の処理部の前記負荷期待値が前記第３の処理部の処理負荷を超えている場合に、前記第３の処理部に過負荷が発生する可能性があると判断し、
   前記第３のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出し、かつ、前記第２のリソース管理部が前記第３の処理部に過負荷が発生する可能性があると判断した場合に、前記第３の処理部のリソースの追加を開始し、
   前記第１のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出した場合、前記第１の処理部の処理量の抑制を開始し、
   前記第１のリソース管理部は、前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する、
   負荷分散システム。
2. 前記第２のリソース管理部は、前記第２の処理部の処理負荷として、前記第２の処理部の処理を待機している処理対象の数を示す処理待ち数及び前記第２の処理部が１秒あたりに処理した処理対象の数を示す秒間処理数を監視し、
   前記第２のリソース管理部は、直近の単位時間における前記第２の処理部の前記処理待ち数の平均値を算出すると共に、直近の単位時間における前記第２の処理部の前記秒間処理数の最大値を算出し、
   前記第２のリソース管理部は、直近の単位時間における前記第２の処理部の前記処理待ち数の平均値又は前記秒間処理数の最大値が閾値を超えている場合に、前記第２の処理部に過負荷が発生したことを検出する、
   請求項１に記載の負荷分散システム。
3. 前記第２のリソース管理部は、前記第２の処理部の処理内容に基づいて、直近の単位時間における前記第２の処理部の処理の実績を示すスケール値の平均値を算出し、
   前記第３のリソース管理部は、前記第３の処理部の処理負荷として、前記第３の処理部が１秒あたりに処理した処理対象の数を示す秒間処理数を監視し、
   前記第３のリソース管理部は、直近の単位時間における前記第３の処理部の前記秒間処理数の最大値を算出し、
   前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したことを検出した場合、直近の単位時間における前記第２の処理部の前記処理待ち数の平均値と前記スケール値の平均値とを乗算することにより、前記第３の処理部の前記負荷期待値を算出し、前記第３の処理部の前記負荷期待値が、直近の単位時間における前記第３の処理部の前記秒間処理数の最大値を超えている場合に、前記第３の処理部に過負荷が発生する可能性があると判断する、
   請求項２に記載の負荷分散システム。
4. 前記第１の処理部は、映像を取得する映像取得処理部であり、
   前記第２の処理部は、前記映像取得処理部が取得した映像から解析対象を検出する検出処理部であり、
   前記第３の処理部は、前記検出処理部が検出した解析対象から特徴を抽出する特徴抽出処理部である、
   請求項１から３のいずれか１項に記載の負荷分散システム。
5. 第１の処理部と、
   前記第１の処理部の処理結果を処理する第２の処理部と、
   前記第２の処理部の処理結果を処理する第３の処理部と、
   前記第１の処理部のリソースを管理する第１のリソース管理部と、
   前記第２の処理部のリソースを管理する第２のリソース管理部と、
   前記第３の処理部のリソースを管理する第３のリソース管理部と、を備え、
   前記第２のリソース管理部は、前記第２の処理部の処理内容及び処理負荷を監視し、
   前記第３のリソース管理部は、前記第３の処理部の処理負荷を監視し、
   前記第２のリソース管理部は、前記第２の処理部の処理負荷に基づいて、前記第２の処理部に過負荷が発生したか否かを検出し、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースの追加を開始し、
   前記第２のリソース管理部は、前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部の処理内容及び処理負荷と、前記第３の処理部の処理負荷と、に基づいて、前記第２の処理部のリソースを追加することにより、前記第３の処理部に過負荷が発生する可能性があるか否かを判断することとして、前記第２の処理部の処理内容及び処理負荷に基づいて、前記第３の処理部に期待される処理負荷を示す負荷期待値を算出し、前記第３の処理部の前記負荷期待値が前記第３の処理部の処理負荷を超えている場合に、前記第３の処理部に過負荷が発生する可能性があると判断し、
   前記第３のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出し、かつ、前記第２のリソース管理部が前記第３の処理部に過負荷が発生する可能性があると判断した場合に、前記第３の処理部のリソースの追加を開始し、
   前記第１のリソース管理部は、前記第２のリソース管理部が前記第２の処理部に過負荷が発生したことを検出した場合、前記第１の処理部の処理量の抑制を開始し、
   前記第１のリソース管理部は、前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する、
   負荷分散装置。
6. 第１の処理部と、前記第１の処理部の処理結果を処理する第２の処理部と、前記第２の処理部の処理結果を処理する第３の処理部と、を備える負荷分散装置が行う負荷分散方法であって、
   前記第２の処理部の処理内容及び処理負荷を監視する第１のステップと、
   前記第３の処理部の処理負荷を監視する第２のステップと、
   前記第２の処理部の処理負荷に基づいて、前記第２の処理部に過負荷が発生したか否かを検出する第３のステップと、
   前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースの追加を開始する第４のステップと、
   前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部の処理内容及び処理負荷と、前記第３の処理部の処理負荷と、に基づいて、前記第２の処理部のリソースを追加することにより、前記第３の処理部に過負荷が発生する可能性があるか否かを判断することとして、前記第２の処理部の処理内容及び処理負荷に基づいて、前記第３の処理部に期待される処理負荷を示す負荷期待値を算出し、前記第３の処理部の前記負荷期待値が前記第３の処理部の処理負荷を超えている場合に、前記第３の処理部に過負荷が発生する可能性があると判断する第５のステップと、
   前記第２の処理部に過負荷が発生したことを検出し、かつ、前記第３の処理部に過負荷が発生する可能性があると判断した場合に、前記第３の処理部のリソースの追加を開始する第６のステップと、
   前記第２の処理部に過負荷が発生したことを検出した場合、前記第１の処理部の処理量の抑制を開始する第７のステップと、
   前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する第８のステップと、
   を含む、負荷分散方法。
7. 第１の処理部と、前記第１の処理部の処理結果を処理する第２の処理部と、前記第２の処理部の処理結果を処理する第３の処理部と、を備えるコンピュータに、
   前記第２の処理部の処理内容及び処理負荷を監視する第１の手順と、
   前記第３の処理部の処理負荷を監視する第２の手順と、
   前記第２の処理部の処理負荷に基づいて、前記第２の処理部に過負荷が発生したか否かを検出する第３の手順と、
   前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部のリソースの追加を開始する第４の手順と、
   前記第２の処理部に過負荷が発生したことを検出した場合、前記第２の処理部の処理内容及び処理負荷と、前記第３の処理部の処理負荷と、に基づいて、前記第２の処理部のリソースを追加することにより、前記第３の処理部に過負荷が発生する可能性があるか否かを判断することとして、前記第２の処理部の処理内容及び処理負荷に基づいて、前記第３の処理部に期待される処理負荷を示す負荷期待値を算出し、前記第３の処理部の前記負荷期待値が前記第３の処理部の処理負荷を超えている場合に、前記第３の処理部に過負荷が発生する可能性があると判断する第５の手順と、
   前記第２の処理部に過負荷が発生したことを検出し、かつ、前記第３の処理部に過負荷が発生する可能性があると判断した場合に、前記第３の処理部のリソースの追加を開始する第６の手順と、
   前記第２の処理部に過負荷が発生したことを検出した場合、前記第１の処理部の処理量の抑制を開始する第７の手順と、
   前記第２の処理部及び前記第３の処理部のリソースの追加が完了した場合、前記第１の処理部の処理量の抑制を解除する第８の手順と、
   を実行させるための負荷分散プログラム。

Images