JP2017049311A - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム Download PDF

Info

Publication number
JP2017049311A
JP2017049311A JP2015170552A JP2015170552A JP2017049311A JP 2017049311 A JP2017049311 A JP 2017049311A JP 2015170552 A JP2015170552 A JP 2015170552A JP 2015170552 A JP2015170552 A JP 2015170552A JP 2017049311 A JP2017049311 A JP 2017049311A
Authority
JP
Japan
Prior art keywords
parameter determination
information
information processing
unit
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015170552A
Other languages
English (en)
Inventor
貴司 丸山
Takashi Maruyama
貴司 丸山
増田 誠
Makoto Masuda
誠 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2015170552A priority Critical patent/JP2017049311A/ja
Publication of JP2017049311A publication Critical patent/JP2017049311A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Exposure Control For Cameras (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Analysis (AREA)

Abstract

【課題】明るさの変化する環境において注目領域をより確実に検出すること。【解決手段】撮像画像内から注目領域を検出する注目領域検出部と、上記注目領域内の画素に関する情報に基づいて、明るさの調整に関する撮像パラメータを決定するパラメータ決定部と、を備え、上記撮像画像内から上記注目領域が検出されなかった場合、上記パラメータ決定部は、過去の上記注目領域の検出結果に基づいて上記撮像パラメータを決定する情報処理装置が提供される。【選択図】図3

Description

本発明は、情報処理装置、情報処理方法及びプログラムに関する。
近年、撮像画像に写った運転者の顔を画像処理により検出し、その検出結果に基づいて運転者の安全を確保するための対応を行う技術の開発が進められている。
しかし、屋外を移動する移動体内に存在する運転者の顔を撮像する場合、日光の照射やトンネルへの進入により、撮像画像の一部の領域が極端に明るくなったり、または暗くなったりすることがある。この場合、例えば、撮像画像に写っている運転者の顔に対応する注目領域が黒つぶれし、または白とびする可能性がある。この場合、注目領域を検出できない場合が存在する。そこで、明るさが変化しやすい環境において注目領域を精度高く検出するために、運転手の顔を撮像する撮像装置の撮像パラメータを適切な値に調整するための技術が開発されている。
例えば、下記特許文献1では、撮像画像に対応する空間のうち、日光が照射されにくい空間に対応する領域、つまり明るさがほとんど変化しない領域を検出枠として設定し、検出枠内の輝度情報に基づいて撮像装置の露光を調整する技術が開示されている。かかる構成により、撮像画像内に輝度の高い領域が存在しても、明るさがほとんど変化しない領域に基づいて露光調整が実施されるため、注目領域が黒つぶれすることを防ぐことができる。これにより、注目対象を鮮明に撮像することができる。
特開2006−264404号公報
しかし、屋外を移動する移動体の内部の明るさは、移動体の位置、もしくは走行方向等の環境、または時刻等に応じて変化する。例えば、移動体の走行方向の変化に応じて、移動体の内部に照射される日光の照射方向が変化する。そうすると、上記特許文献1に開示された検出枠に相当する領域の明るさも変化することも考えられる。この場合、当該検出枠を用いて撮像パラメータを決定すると、当該検出枠の明るさの変化に応じて注目領域の明るさも変化してしまう。したがって、注目領域の検出が困難となる。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、明るさの変化する環境において注目領域をより確実に検出することが可能な、新規かつ改良された情報処理装置を提供することにある。
上記課題を解決するために、本発明のある観点によれば、撮像画像内から注目領域を検出する注目領域検出部と、上記注目領域内の画素に関する情報に基づいて、明るさの調整に関する撮像パラメータを決定するパラメータ決定部と、を備え、上記撮像画像内から上記注目領域が検出されなかった場合、上記パラメータ決定部は、過去の上記注目領域の検出結果に基づいて上記撮像パラメータを決定する情報処理装置が提供される。
上記情報処理装置は、過去の上記注目領域の検出結果に基づいてパラメータ決定領域を特定するパラメータ決定領域特定部をさらに備え、上記パラメータ決定部は、上記パラメータ決定領域内の画素に関する情報に基づいて、上記撮像パラメータを決定してもよい。
上記パラメータ決定領域特定部は、過去の上記注目領域の位置情報に基づいて上記パラメータ決定領域を特定してもよい。
過去に検出された上記注目領域に対応する注目対象が特定されている場合、上記パラメータ決定領域特定部は、上記注目対象に対応する過去の上記注目領域の位置情報に基づいて上記パラメータ決定領域を特定してもよい。
過去に上記注目領域が検出されていない場合、上記パラメータ決定領域特定部は、上記撮像画像内の所定の位置に上記パラメータ決定領域を設定してもよい。
上記注目領域が複数検出された場合、上記パラメータ決定領域特定部は、過去における上記撮像パラメータの決定に用いられた、過去の上記注目領域または過去の上記パラメータ決定領域の少なくともいずれかに基づいて上記パラメータ決定領域を特定してもよい。
上記情報処理装置は、上記注目領域に対応する注目対象が搭乗する移動体に関する情報を取得する情報取得部をさらに備え、上記パラメータ決定部は、上記情報取得部により得られた情報をさらに用いて上記撮像パラメータを決定してもよい。
上記情報処理装置は、上記注目領域が検出されなかった場合に、上記注目領域の未検出が許容される状況か否かを判定する状況判定部と、上記状況判定部による判定結果に基づいて、上記移動体により実行される処理の内容を決定する処理決定部と、をさらに備え、上記状況判定部は、上記情報取得部から取得される情報に基づいて、上記注目領域の未検出の状況について判定してもよい。
上記移動体により実行される処理は、上記移動体による、上記注目対象に対する動作、または安全を確保するための動作の少なくともいずれかに係る処理を含んでもよい。
上記移動体に関する情報は、時刻情報、または上記移動体の環境に関する情報の少なくともいずれかを含んでもよい。
上記移動体に関する情報は、上記移動体の作動状態に関する情報を含んでもよい。
上記移動体に関する情報は、少なくとも一のセンサによる上記注目対象の検出結果に基づいて得られる情報を含んでもよい。
上記移動体は、車両、船舶、または航空機のいずれかを含んでもよい。
上記画素に関する情報は、上記画素の輝度情報を含んでもよい。
上記注目領域に対応する注目対象は、人物の身体の一部であってもよい。
上記人物の身体の一部は、上記人物の顔を含んでもよい。
上記撮像パラメータは、露光時間、ゲイン、ガンマ補正値、または絞り値の少なくともいずれかを含んでもよい。
また、上記課題を解決するために、本発明の別の観点によれば、撮像画像内から注目対象に対応する注目領域を検出するステップと、上記注目領域内の画素に関する情報に基づいて、明るさの調整に関する撮像パラメータを決定するステップと、を含み、上記撮像画像内から上記注目領域が検出されなかった場合、過去の上記注目領域の検出結果に基づいて上記撮像パラメータを決定するステップをさらに含む情報処理方法が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、撮像画像内から注目対象に対応する注目領域を検出する注目領域検出部と、上記注目領域内の画素に関する情報に基づいて、明るさの調整に関する撮像パラメータを決定するパラメータ決定部と、として機能させるためのプログラムであって、上記撮像画像内から上記注目領域が検出されなかった場合、上記パラメータ決定部は、過去の上記注目領域の検出結果に基づいて上記撮像パラメータを決定するプログラムが提供される。
以上説明したように本発明によれば、明るさの変化する環境において注目領域をより確実に検出することが可能である。
本発明の第1の実施形態に係る情報処理システムの構成を示す概要図である。 同実施形態に係る情報処理装置の構成の一例を示すブロック図である。 同実施形態に係る情報処理装置の制御部の構成の一例を示すブロック図である。 同実施形態に係る画像解析部による人物の顔の検出処理の一例を示す図である。 注目領域が検出されない場合の一例を示す図である。 同実施形態に係るパラメータ決定領域特定部によるパラメータ決定領域の特定処理の第1の例を示す図である。 同実施形態に係るパラメータ決定領域特定部によるパラメータ決定領域の特定処理の第2の例を示す図である。 同実施形態に係るパラメータ決定領域特定部によるパラメータ決定領域の特定処理の第3の例を示す図である。 同実施形態に係る情報処理装置の動作例を示すフローチャートである。 本発明の第2の実施形態に係る情報処理システムの構成を示す概要図である。 同実施形態に係る情報処理装置の構成の一例を示すブロック図である。 同実施形態に係る情報処理装置の制御部の構成の一例を示すブロック図である。 同実施形態に係る情報処理装置の動作例を示すフローチャートである。 本発明の実施形態に係る情報処理装置のハードウェア構成例を示すブロック図である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。ただし、同一の構成要素について各実施形態に応じて明確に区別して説明する必要がある場合は、1−1、1−2、・・・のように、構成要素を示す符号の後にさらに他の符号を付すものとする。
<1.第1の実施形態>
[1.1.情報処理システムの構成]
はじめに、本発明の第1の実施形態に係る情報処理システム1−1、および情報処理装置20−1について、図1〜図9を参照しながら説明する。図1は、本発明の第1の実施形態に係る情報処理システム1−1の構成を示す概要図である。図1を参照すると、情報処理システム1−1は、撮像装置10、および情報処理装置20−1を備える。
(撮像装置)
撮像装置10は、撮像画像を生成する装置である。図1では撮像装置10の例としてデジタルカメラが示されているが、撮像装置10は、他にもスマートフォンやタブレット、ゲーム機、ウェアラブル装置など、撮像機能を有するあらゆる装置を含み得る。また、撮像装置10は、暗所において被写体を確実に撮像するために、近赤外線カメラであってもよい。撮像装置10は、撮像素子と、撮像素子に関連する光学系および駆動系と、画像処理回路とを含む。また、撮像装置10は、情報処理装置20−1との間で撮像画像や撮像パラメータ等を送受信するための通信装置を含む。さらに、様々な環境において被写体の撮像を可能とするために、撮像装置10は、レンズ、フィルタ、または偏光板等を備えてもよい。本実施形態において、撮像装置10は、移動体Tを操縦する人物Pの顔を撮像するために移動体Tの運転席付近に設けられるが、他の実施形態において撮像装置10の設置位置は特に限定されない。
(情報処理装置)
情報処理装置20−1は、画像処理や撮像パラメータの調整処理に用いられる装置である。情報処理装置20−1は、ネットワーク上の一または複数の情報処理装置によって実現されてもよい。より具体的には、情報処理装置20−1は、サーバやPC(Personal Computer)等により実現されてもよい。また、情報処理装置20−1は、スマートフォンやタブレット等により実現されてもよい。情報処理装置20−1は、例えば、撮像装置10より得られる撮像画像の画像解析により人物Pの顔に対応する注目領域を検出する。また、情報処理装置20−1は、当該注目領域の検出結果等に基づいて、撮像装置10の露光時間またはゲインなど、撮像画像の明るさを調整するための撮像パラメータを決定する機能を有する。また、情報処理装置20−1は、決定した撮像パラメータを撮像装置10に送信する。
なお、撮像装置10と情報処理装置20−1とは有線または無線により通信が実施される。また、情報処理装置20−1は必ずしも移動体Tに搭載される必要はなく、遠隔のサーバにより実現されてもよい。また、本実施形態においては撮像装置10と情報処理装置20−1とが分離されて情報処理システム1−1が構成されているが、撮像装置10と情報処理装置20−1とが一体となった情報処理システム1−1(情報処理装置)が構成されてもよい。
なお、情報処理システム1−1が適用される移動体Tは、例えば、自家用車、商用車、二輪車、自転車、鉄道車両、船舶、航空機等、人員や貨物を搭載する移動体であってもよい。さらに、移動体Tは、撮像装置10、および情報処理装置20−1のみを搭載する移動体であってもよい。例えば、移動体Tは、レール軌道上を走行するロボットや、自律制御式、または遠隔操作式の飛行物体等であってもよい。
[1.2.情報処理装置の構成]
図2は、本実施形態に係る情報処理装置20−1の構成の一例を示すブロック図である。図2を参照すると、情報処理装置20−1は、通信部210、記憶部220、および制御部230−1を備える。
(通信部)
通信部210は、情報処理装置20−1が備える通信手段であり、ネットワークNWを介して(あるいは直接的に)、外部装置と無線または有線により各種通信を行う。例えば、図2を参照すると、通信部210は、撮像装置10と直接的に通信を行ってもよい。具体的には、通信部210は、撮像装置10と無線または有線により接続されている場合、撮像装置10から撮像画像を受信し、制御部230−1に当該撮像画像を提供してもよい。また、通信部210は、撮像パラメータ等の情報を制御部230−1から取得し、当該撮像パラメータ等の情報を撮像装置10に送信してもよい。また、通信部210は、撮像装置10以外の外部装置と通信を行ってもよい。例えば、通信部210は、外部装置から受信した情報を制御部230−1に提供してもよいし、制御部230−1から取得した情報を外部装置に提供してもよい。
(記憶部)
記憶部220は、情報処理装置20−1が備える記憶手段であり、各種データを記憶する。記憶部220は、制御部230−1が使用するプログラムや演算パラメータ等を記憶するROM(Read Only Memory)、制御部230−1が行う処理において使用するプログラムや、その処理において適宜変化するパラメータ等を一時記憶するRAM(Random Access Memory)、データ等を記憶するHDD(Hard Disk Drive)装置、またはSSD(Solid State Drive)装置などのデータ格納用記憶装置等で構成される。記憶部220は、例えば、撮像装置10から取得した撮像画像を時系列に記憶してもよい。また、記憶部220は、後述する制御部230−1の有する各機能部により得られたデータ等を記憶してもよい。また、記憶部220に記憶されたデータが制御部230−1により呼び出されてもよい。
(制御部)
制御部230−1は、通信部210、および記憶部220、並びに情報処理装置20−1の有するその他の機能部の動作制御等を行う。より具体的には、制御部230−1は、通信部210、および/または記憶部220から得られた各種情報に基づき処理を実行し、処理結果を通信部210、および/または記憶部220に出力する。制御部230−1は、情報処理装置20−1に含まれるCPU(Central Processing Unit)等の処理回路によって実現される。
また、本実施形態において情報処理装置20−1による撮像パラメータの決定等の情報処理は、制御部230−1に含まれる各機能部により実現される。図3は、本実施形態に係る情報処理装置20−1の制御部230−1の構成の一例を示すブロック図である。図3を参照すると、制御部230−1は、画像取得部231、画像解析部232、パラメータ決定領域特定部233、撮像パラメータ決定部234、および撮像パラメータ更新部235を含む。
(画像取得部)
画像取得部231は、撮像装置10により生成された撮像画像を、通信部210を介して取得する。画像取得部231は、取得した撮像画像を画像解析部232に出力する。
(画像解析部)
画像解析部232は、画像取得部231から出力された撮像画像の画像解析を行い、撮像画像内から注目領域を検出する。具体的には、画像解析部232は、撮像装置10が撮像する空間に存在する注目対象に対応する注目領域を撮像画像内から検出する。本実施形態において、注目対象とは、移動体Tに搭乗している人物の身体の一部である。人物の身体の一部とは、本実施形態において、特に人物の顔である。つまり、本実施形態において画像解析部232は、撮像画像内から人物の顔に対応する注目領域を検出する。これにより、移動体Tに搭乗する人物の存在を判定することができる。なお、人物の顔の検出手法については、公知の技術が用いられてもよい。例えば、顔の検出手法として、「P.Viola and M.Jones,“Rapid Object Detection using a Boosted Cascade of Simple Features,”Proc.of IEEE Conf.CVPR,1,pp.511−518,2001.」に開示されている、いわゆるViola−Jones法が用いられてもよい。画像解析部232により検出される注目領域の大きさは特に限定されない。例えば、注目領域の大きさは、検出される人物の顔の大きさに応じて自動的に設定され得る。なお、画像解析部232は、注目領域検出部の一例である。
図4は、本実施形態に係る画像解析部232による人物の顔の検出処理の一例を示す図である。図4を参照すると、撮像画像9001には、画像解析部232により検出された人物90の顔に対応する注目領域9002(補助線9003を含む)が描画されている。図4に示した例において、人物90の顔は移動体Tに設置される撮像装置10に対向しているので、画像解析部232は人物90の顔に対応する注目領域を検出することができる。後述するパラメータ決定領域特定部233は、注目領域9002をパラメータ決定領域として設定し、注目領域9002内の画素に関する情報に基づいて撮像パラメータが設定される。
また、画像解析部232は、撮像画像内から人物の顔に対応する注目領域を検出した場合、当該顔について顔認識処理を行い、当該顔を有する人物を特定してもよい。顔認識処理を行う対象の人物の顔は、例えば予め記憶部220に記憶されている特定の人物の顔であってもよいし、画像解析部232が過去に検出したことのある人物の顔であってもよい。なお、顔認識処理方法については、公知の技術が用いられてもよい。例えば、顔認識処理方法として、「河原智一,西山正志,山口修,“直交相互部分空間法を用いた顔認識,”情報処理学会研究報告 CVIM,pp.17−24,2005.」に開示されている手法が用いられてもよい。
撮像画像内から人物の顔に対応する注目領域を検出した場合、画像解析部232は、人物の顔に対応する注目領域を含む検出結果をパラメータ決定領域特定部233に出力する。上記検出結果には、例えば、検出された顔の向きや顔の位置等が含まれてもよい。また、画像解析部232は、上記検出結果を記憶部220に時系列に出力する。さらに、上記検出された顔を有する人物が顔認識処理により特定されている場合、画像解析部232は、顔認識結果を上記検出結果とひも付けて記憶部220に出力してもよい。
一方で、画像解析部232が撮像画像内から人物の顔に対応する注目領域を検出しない、または検出できない場合が存在する。図5は、注目領域が検出されない場合の一例を示す図である。図5を参照すると、撮像画像1001には、人物91が撮像装置10に向かって横を向いている状態が示されている。この場合、人物91の輪郭、眼、鼻または口等の特徴的な形状を捉えることができないので、画像解析部232は人物91の顔に対応する注目領域を検出することが困難となる。また、撮像画像2001には、人物92の顔が白とびしている状態が示されている。これにより、人物92の輪郭、目、鼻または口等の特徴的な形状がぼやけてしまうため、画像解析部232は人物92の顔に対応する注目領域を検出することが困難となる。また、図5に示した例の他にも、撮像画像に写っている人物の顔が黒くつぶれている状態、人物がうつむいている状態、または天を仰ぎ見ている状態等である場合に、人物の顔に対応する注目領域を検出することが困難となる。
この場合、画像解析部232は、人物の顔に対応する注目領域が未検出である旨をパラメータ決定領域特定部233に出力する。また、画像解析部232は、注目領域が未検出である旨を記憶部220に時系列に記憶してもよい。
(パラメータ決定領域特定部)
パラメータ決定領域特定部233は、後述する撮像パラメータ決定部234が明るさの調整に関する撮像パラメータを決定するためのパラメータ決定領域を特定する。パラメータ決定領域とは、撮像パラメータを決定するのに最適な領域を意味する。最適な領域とは、例えば、人物の顔が存在し得る領域であることが好まれる。これにより、後述する撮像パラメータ決定部234は、人物の顔が存在し得る領域内の画素に関する情報に基づいて、撮像パラメータを決定することができる。よって、人物の顔を撮像するのに適した撮像パラメータが決定されるので、画像解析による注目領域の検出精度を維持することができる。
例えば、画像解析部232により撮像画像内から注目領域が検出された場合、パラメータ決定領域特定部233は、当該注目領域をパラメータ決定領域として特定する。かかる構成において、撮像パラメータ決定部234は、人物の顔に対応する注目領域内の画素に関する情報(例えば画素の輝度情報)に基づいて撮像パラメータを決定する。これにより、人物の顔に相当する領域が適切な明るさに設定されるので、画像解析による注目領域の検出精度を維持することができる。
一方、画像解析部232において注目領域が検出されなかった場合、本実施形態に係るパラメータ決定領域特定部233は、過去の注目領域の検出結果に基づいてパラメータ決定領域を特定する。例えば、パラメータ決定領域特定部233は、過去に検出された注目領域の位置情報に基づいてパラメータ決定領域を特定してもよい。より具体的には、パラメータ決定領域特定部233は、過去に検出された注目領域の座標の変化に基づいてパラメータ決定領域を特定してもよい。これにより、人物の顔が検出されていない状態においても、人物の顔の移動位置に対応する領域にパラメータ決定領域を合わせこむことができる。
図6は、本実施形態に係るパラメータ決定領域特定部233によるパラメータ決定領域の特定処理の第1の例を示す図である。図6を参照すると、撮像画像1001には、人物91が撮像装置10に向かって横方向を向いており、かつ画像解析部232により人物91の顔が検出されなかった状態が示されている(図6に示す撮像画像1001は図5のAに示す撮像画像1001と同一である)。ここで、過去の時点において、画像解析部232により注目領域1010a、1010b、および1010cが検出されていたとする。なお、図6に示した例においては、注目領域1010aがもっとも古い時刻に検出された注目領域であり、注目領域1010cがもっとも新しい時刻に検出された注目領域である。この場合、時刻の経過に伴って注目領域が撮像画像1001の中央部から図中の矢印の方向に沿って移動しているので、人物91の顔が同様に撮像画像1001の左下の領域に対応する空間へ移動していると考えられる。そのため、パラメータ決定領域特定部233は、注目領域1010a、1010b、および1010cの座標の変化に基づいて、注目領域1010cよりもさらに左下方向の領域をパラメータ決定領域1002として特定してもよい。これにより、注目領域が未検出である場合においても、人物の顔が存在し得る領域に基づいて撮像パラメータを決定することが可能となる。
また、パラメータ決定領域特定部233は、過去の注目領域のサイズの変化に基づいてパラメータ決定領域のサイズを決定してもよい。例えば、注目領域のサイズが時刻の経過に伴って大きくなっている場合、人物の顔に対応する領域が撮像画像内において拡大していると考えられる。そのため、パラメータ決定領域特定部233は、パラメータ決定領域のサイズを過去の注目領域よりも大きくしてもよい。これにより、人物の顔に相当する領域をより適切に推定することが可能である。
なお、パラメータ決定領域の大きさパラメータ決定領域特定部233は、過去の所定の時刻範囲において検出された注目結果を用いてパラメータ決定領域を特定してもよい。例えば、パラメータ決定領域特定部233は、過去数秒間、または数分間に検出された注目領域を用いられてパラメータ決定領域を特定してもよい。また、パラメータ決定領域特定部233は、情報処理装置20−1の起動時から現在までに取得された検出結果を用いてパラメータ決定領域を特定してもよい。
また、過去の注目領域の検出結果が特定の人物の顔認識結果とひも付けられて記憶部220に記憶されている場合、パラメータ決定領域特定部233は、特定の人物の過去の注目領域の結果に基づいてパラメータ決定領域を特定してもよい。例えば、移動体Tに搭乗している人物の顔の存在し得る範囲は、当該人物の座高等によってある程度限定される。そのため、特定の人物の顔が存在し得る領域内においてパラメータ決定領域を特定することにより、より適切な撮像パラメータを決定することができる。
図7は、本実施形態に係るパラメータ決定領域特定部233によるパラメータ決定領域の特定処理の第2の例を示す図である。図7を参照すると、撮像画像3001および4001には、それぞれ人物93および人物94の像が含まれている。ここで、人物93および人物94は、過去に画像解析部232により特定されているとする。このとき、パラメータ決定領域特定部233は、パラメータ決定領域を特定する前に、人物93または人物94の顔に対応する注目領域の過去の検出結果に基づいて、人物93または94の顔が存在すると推定される領域(推定領域)を設定する。この推定領域は、例えば、特定の人物の顔に対応する過去の注目領域の検出結果に基づいて設定される。より具体的には、推定領域は、特定の人物に対応する過去の注目領域の位置に基づいて推定される特定の人物の顔の移動し得る範囲であってもよい。また、推定領域は、特定の人物の座高、顔の大きさ、または顔の動かし具合など、人物の特徴に応じて設定されてもよい。図7に示した例においては、撮像画像3001内において、人物93に対応する推定領域3002が設定される。また、撮像画像4001内において、人物94に対応する推定領域4002が設定される。
パラメータ決定領域特定部233は、上記の推定領域に基づいてパラメータ決定領域を特定してもよい。例えば、パラメータ決定領域特定部233は、過去の検出結果の位置情報により特定されるパラメータ決定領域のうち、特定の人物に対応する推定領域と重なる領域を、真のパラメータ決定領域として特定してもよい。これにより、人物が特定されている場合において、その特定の人物の顔に対応する注目領域の検出に適切な撮像パラメータをより精度高く決定することができる。
また、所定の時刻範囲において一度も注目領域が検出されなかった場合、パラメータ決定領域特定部233は、撮像画像内における既定の領域をパラメータ決定領域として特定してもよい。例えば、パラメータ決定領域特定部233は、撮像画像の中央付近の領域、または移動体Tの運転席付近の領域などを、パラメータ決定領域として設定してもよい。これにより、人物の顔の位置について手がかりがない状態であっても撮像パラメータを決定することができる。
図8は、本実施形態に係るパラメータ決定領域特定部233によるパラメータ決定領域の特定処理の第3の例を示す図である。図8を参照すると、撮像画像2001には、人物92の顔が白とびしている状態が示されている(図8に示した撮像画像2001は図5のBに示した撮像画像2001と同一である)。図8に示した例においては、過去に人物92の顔が検出されていなかった場合、パラメータ決定領域特定部233は、撮像画像2001の中心の近傍をパラメータ決定領域2002として特定する。そうすると、パラメータ決定領域2002は人物92の顔に相当する領域を全て含んではいないものの、人物92の顔に相当する領域の一部を含み得る。そのため、後述する撮像パラメータ決定部234は、人物92の顔に相当する領域を含む領域に基づいて撮像パラメータを決定することができる。したがって、人物92の顔に対応する注目領域を検出するための撮像パラメータの調整にかかる時間を短縮することが可能である。
また、撮像画像に複数の人物の顔が写り込んでいる場合、複数の人物の顔が注目領域として検出されることも考えられる。そのため、どの人物の顔に相当する領域をパラメータ決定領域とすべきかを決める必要がある。そこで、パラメータ決定領域特定部233は、複数の人物の顔が注目領域として検出された場合、過去において撮像パラメータの決定に用いられたパラメータ決定領域に基づいて、いずれかの顔に対応する注目領域をパラメータ決定領域として特定する。例えば、一時刻前にパラメータ決定領域として用いられた一の人物の顔に対応する注目領域を、現在のパラメータ決定領域として特定してもよい。これにより、複数の人物が撮像画像に写り込んでいても、継続的に同一人物の顔に対応する領域を用いて撮像パラメータを決定することができる。そのため、同一人物の顔を継続的に検出することが可能となる。
なお、撮像画像に複数の人物の顔が写り込んでいる場合において、パラメータ決定領域を特定するために用いられる注目領域に相当する人物については、特に限定されない。例えば、本実施形態において、移動体Tに複数の人物(運転者と同乗者)が搭乗しており、複数の人物が撮像画像に写り込んでいる場合、パラメータ決定領域特定部233は、移動体Tの運転者の顔が存在し得る領域を推定領域として設定し、推定領域に写り込んでいる人物の顔に対応する領域をパラメータ決定領域として特定してもよい。これにより、運転席に座っている人物の顔を継続的に検出することができる。また、目的によっては、パラメータ決定領域特定部233は、他の位置に存在する人物(同乗者)の顔に対応する注目領域をパラメータ決定領域として特定してもよい。さらに、上述した推定領域において複数の人物の顔が検出される場合、例えば、パラメータ決定領域特定部233は、推定領域の位置情報(具体的には推定領域の中心位置等)、および人物の顔が検出された位置情報等に基づいてパラメータ決定領域を特定してもよい。
以上、パラメータ決定領域特定部233について説明した。パラメータ決定領域特定部233は、特定したパラメータ決定領域に係る情報を、撮像パラメータ決定部234に出力する。
(撮像パラメータ決定部)
撮像パラメータ決定部234は、パラメータ決定領域特定部233により特定されるパラメータ決定領域内の画素に関する情報に基づいて、撮像パラメータを決定する。ここで、撮像パラメータとは、例えば、撮像装置10の露光時間、絞り値、ゲインまたはガンマ補正値等である。また、画素に関する情報とは、例えば、画素の輝度情報を意味する。
例えば、本実施形態に係る撮像パラメータ決定部234は、パラメータ決定領域内の画素の輝度が全体的に高い場合、撮像画像の輝度を低くするように撮像パラメータを決定する。より具体的には、撮像パラメータ決定部234は、撮像パラメータの一つである露光時間を短縮するよう決定してもよい。これにより、注目領域を検出するのに適した輝度を有する撮像画像を生成することができる。
なお、注目領域を検出するのに適した輝度の値は、固定値であってもよいし、撮像装置10の撮像特性等に応じて適宜調整されてもよい。また、撮像パラメータ決定部234が一度に決定することができる撮像パラメータの数は、単数または複数であってもよい。また、複数の撮像パラメータを調整することが可能である場合、撮像パラメータの調整順位が、撮像装置10の撮像特性または撮像環境等に応じて予め決められてもよい。さらに、撮像パラメータの調整量の大きさも、オーバーシュート等を考慮して適宜変更されてもよい。
また、パラメータ決定領域内において、極端に輝度の高い/低い画素を含む領域(異常領域)が存在する場合、当該異常領域において日光による白とびまたは黒つぶれが起こっている可能性が高い。そのため、撮像パラメータ決定部234は、異常領域をパラメータ決定領域から除去した上で撮像パラメータを決定してもよい。これにより、撮像パラメータの決定精度を向上することができる。
撮像パラメータ決定部234は、決定した撮像パラメータに係る情報を、撮像パラメータ更新部235に出力する。
(撮像パラメータ更新部)
撮像パラメータ更新部235は、撮像パラメータ決定部234により決定された撮像パラメータを更新する。例えば、撮像パラメータ更新部235は、通信部210を介して撮像パラメータに係る情報を撮像装置10に送信することにより、撮像装置10の撮像パラメータを更新してもよい。これにより、撮像装置10により取得される撮像画像の明るさを、注目領域の検出に適した明るさに設定することができる。
[1.3.動作例]
図9は、本実施形態に係る情報処理装置20−1の動作例を示すフローチャートである。図9を参照しながら、本実施形態に係る情報処理装置20−1の動作例について説明する。
まず、画像取得部231は、通信部210を介して撮像装置10から撮像画像を取得する(S101)。次に、画像解析部232は、撮像画像を解析し、撮像画像から注目領域を検出する(S103)。このとき、画像解析部232は、人物の顔に対応する注目領域を検出した場合、当該人物の顔認識処理を行ってもよい。
次いで、画像解析部232は、人物の顔に対応する注目領域の検出結果をパラメータ決定領域特定部233に出力する(S105)。ここで、画像解析部232において人物の顔に対応する注目領域が検出された場合(S105/YES)、パラメータ決定領域特定部233は、注目領域をパラメータ決定領域として特定する(S107)。一方、画像解析部232において注目領域が検出されなかった場合(S105/NO)、パラメータ決定領域特定部233は、人物の顔の過去の検出結果に基づいてパラメータ決定領域の特定を行う(S109)。
過去に人物の顔が検出されている場合(S109/YES)、過去の注目領域の検出結果が特定の人物の顔認識結果とひも付けられているか否かがさらに判定される(S111)。過去の注目領域の検出結果が特定の人物の顔認識結果とひも付けられている場合(S111/YES)、パラメータ決定領域特定部233は、過去の注目領域の検出結果、または特定の人物の顔が存在し得る領域(推定領域)の少なくともいずれかに基づいてパラメータ決定領域を特定する(S113)。過去の注目領域の検出結果が特定の人物の顔認識結果とひも付けられていない場合(S111/NO)、パラメータ決定領域特定部233は、過去の注目領域の検出結果に基づいてパラメータ決定領域を特定する(S115)。一方で、過去に人物の顔が検出されていない場合(S109/NO)、パラメータ決定領域特定部233は、撮像画像内の既定の領域をパラメータ決定領域として特定する(S117)。
次に、撮像パラメータ決定部234は、パラメータ決定領域特定部233により特定されたパラメータ決定領域内の画素に関する情報に基づいて撮像パラメータを決定する(S119)。そして、撮像パラメータ更新部235は、決定された撮像パラメータに係る情報を撮像装置10に通信部210を介して送信する(S121)。
[1.4.効果・補足]
以上、本発明の第1の実施形態に係る情報処理システム1−1、および情報処理装置20−1について説明した。本実施形態によれば、情報処理装置20−1は、撮像画像から人物の顔に対応する注目領域が検出されない場合において、過去に検出された注目領域等の情報を用いて、人物の顔が存在し得る位置に対応する領域をパラメータ決定領域として特定し、当該パラメータ決定領域内の画素に関する情報(例えば輝度情報)を用いて撮像パラメータの決定を行う。これにより、環境の劇的な変化により撮像画像の明るさが急激に変化し、人物の顔が検出することが困難になった状態においても、人物の顔が存在し得る領域を特定し、当該領域内の明るさが適正な明るさとなるように調整することができる。したがって、人物の顔に対応する注目領域が検出されなかった場合でも、当該注目領域を検出することができる状態に素早く修正することが可能となる。よって、明るさの変化する環境においても、注目領域をより確実に検出することができる。
さらに、本実施形態に係る情報処理装置20−1は、顔認識処理によって過去の検出結果を特定の人物とひも付けることにより、当該人物の顔の存在し得る領域を用いてパラメータ決定領域を特定することができる。これにより、人物の顔が存在し得る領域にパラメータ決定領域をより適切に合わせこむことができる。なお、本実施形態においては、画像解析部232の顔認識処理によって人物が特定されていたが、本発明はかかる例に限定されない。例えば、他のセンサ(重量センサ、人感センサ、超音波センサ)、または他の認証方法(IDカード等)を用いることにより、注目領域の検出結果に対応する人物が特定されてもよい。
<2.第2の実施形態>
続いて、本発明の第2の実施形態に係る情報処理システム1−2、および情報処理装置20−2について、図10〜図13を参照しながら説明する。本実施形態における情報処理装置20−2は、移動体Tの駆動装置、操舵装置、制動装置、および各種車内機器を制御する移動体制御装置30と通信を行うことにより、パラメータ決定領域を精度高く特定すること、および注目領域の検出結果を用いた処理を実施することができる。
[2.1.情報処理システムの構成]
図10は、本発明の第2の実施形態に係る情報処理システム1−2の構成を示す概要図である。図10を参照すると、情報処理システム1−2は、撮像装置10、情報処理装置20−1、および移動体制御装置30を備える。本実施形態に係る撮像装置10、および情報処理装置20−2の構成および機能の概要は、本発明の第1の実施形態に係る各構成要素と同一であるため、説明を省略する。
(移動体制御装置)
移動体制御装置30は、移動体Tに設けられる情報処理装置によって実現される。本実施形態に係る移動体制御装置30は、例えば、移動体Tの駆動装置、操舵装置、制動装置、および各種車内機器(パワーウィンドウ、エアコンディショナー、音響機器、カーナビゲーション、施錠機器等)を制御する。また、移動体制御装置30は、移動体Tに設けられた各種センサからセンサ情報を取得し、取得した情報を処理し、処理した情報に基づいて各種装置および各種車内機器を制御してもよい。例えば、移動体Tが自動車である場合、移動体制御装置30は、いわゆるECU(Electronic Control Unit)であってもよい。この場合、移動体制御装置30は、移動機械用バス(Vehicle Bus)を介して、車内機器や情報処理装置20−2等と通信を行ってもよい。これにより、移動体制御装置30は、情報処理装置20−2から取得した情報に基づいて、各種装置、または各種車内機器を制御することができる。
なお、本実施形態においては情報処理装置20−2と移動体制御装置30とが分離されて、撮像装置10を含めた情報処理システム1−2が構成されているが、情報処理装置20−2と移動体制御装置30とが一体となった情報処理装置が構成されてもよい。
[2.2.情報処理装置の構成]
図11は、本実施形態に係る情報処理装置20−2の構成の一例を示すブロック図である。図11を参照すると、情報処理装置20−2は、通信部210、記憶部220、および制御部230−2を備える。本実施形態に係る通信部210、記憶部220、および制御部230−2の機能の概要は、本発明の第1の実施形態に係る各構成要素と同一であるため、説明を省略する。
なお、本実施形態に係る通信部210は、移動体制御装置30と直接的に通信を行ってもよい。具体的には、通信部210は、移動体制御装置30と無線または有線により接続されている場合、移動体制御装置30が移動体Tに設けられたセンサから取得したセンサ情報を含む外部情報(移動体に関する情報)を受信し、制御部230−2に当該外部情報を提供してもよい。また、通信部210は、注目領域の検出結果に関する情報を、制御部230−2から取得し、移動体制御装置30に送信してもよい。
また、本実施形態において情報処理装置20−2による注目領域の未検出状況の判定等の情報処理は、制御部230−2に含まれる各機能部により実現される。図12は、本実施形態に係る情報処理装置20−2の制御部230−2の構成の一例を示すブロック図である。図12を参照すると、制御部230−2は、画像取得部231、画像解析部232、パラメータ決定領域特定部233、撮像パラメータ決定部234、および撮像パラメータ更新部235に加え、情報取得部236、状況判定部237、および処理決定部238をさらに含む。
(情報取得部)
情報取得部236は、移動体制御装置30が移動体Tに設けられたセンサから取得したセンサ情報を含む外部情報を、通信部210を介して取得する。センサ情報とは、例えば、移動体Tの操舵状態、駆動状態、制動状態、各種車内機器等の作動状態等を示す情報であってもよい。また、外部情報は、移動体Tに設けられた画像センサにより検出される検出結果、移動体Tの位置、もしくは進行方向等を含む環境に関する情報、または時刻情報等であってもよい。情報取得部236は、取得した外部情報を、パラメータ決定領域特定部233、撮像パラメータ決定部234、および状況判定部237に出力する。なお、外部情報を用いたパラメータ決定領域特定部233によるパラメータ決定領域の特定処理、および撮像パラメータ決定部234による撮像パラメータの決定処理については後述する。
(状況判定部)
状況判定部237は、画像解析部232から画像解析処理による人物の顔に対応する注目領域の検出結果を取得し、注目領域が未検出だった場合に、情報取得部236から取得した外部情報に基づいて、注目領域の未検出が許容されるか否かを判定する。
状況判定部237は、例えば、情報取得部236から取得した移動体Tの駆動状態に関する情報を用いて、注目領域の未検出が許容されるか否かを判定してもよい。ここで、注目領域の未検出が許容される状況とは、移動体Tにおいて人物の顔が検出されない(例えば、人物が移動体Tの内部に存在していない、または人物が居眠りや発作を起こしたことによりうつぶせの状態になっている)場合において、移動体Tが停止している、または徐行しているなど、移動体Tにより発生し得る危険やリスクが低い状況等を意味する。
より具体的には、移動体Tが自動車である場合、自動車の運転手の顔に対応する注目領域が未検出であり、かつ、情報取得部236から取得した移動体Tの駆動状態が停止状態であれば、移動体Tにより危険が生じ得ない。そのため、状況判定部237は、当該状況について、注目領域の未検出は許容されると判定する。また、注目領域が未検出であり、かつ、自動車の駆動状態が後退状態であれば、自動車の運転手は後方を確認していると考えられる。この場合、状況判定部237は、当該状況について、注目領域の未検出は許容されると判定する。一方で、注目領域が未検出であり、かつ自動車の駆動状態が走行状態である場合、運転手は居眠りや発作等によりハンドル等に突っ伏している可能性が考えられる。この場合、移動体Tは危険な状態であるため、状況判定部237は、当該状況について、注目領域の未検出は許容されないと判定する。
状況判定部237は、判定結果を処理決定部238に出力する。
(処理決定部)
処理決定部238は、状況判定部237から取得した判定結果に基づいて、移動体Tにより実行される所定の処理を決定する。例えば、状況判定部237によって移動体Tの状況が注目領域の未検出が許容されない状況であると判定された場合に、処理決定部238は、移動体Tに搭乗する人物に対する動作や、人物の安全を確保するための動作のいずれかを決定する。上記の所定の処理とは、上記人物に対して警告を発する動作や、エアコンディショナーの温度を下げる動作に係る処理を含む。これにより、上記人物が居眠りしている場合において、当該人物を覚醒させることができる。また、移動体Tの自動操舵が可能である場合は、上記の所定の処理は、移動体Tを安全な場所へ移動させる動作に係る処理であってもよい。これにより、上記人物が覚醒しない場合においても、上記人物の安全を確保することができる。
また、処理決定部238は、個々の状況に応じて、移動体Tにより実行される所定の処理を決定してもよい。例えば、状況判定部237によって注目領域の未検出が許容されないと判定された場合においても、移動体Tの状況によっては実行すべき処理が異なる。移動体Tの状況とは、例えば、移動体Tに搭乗する人物の有無であってもよい。移動体Tに搭乗する人物の有無は、移動体Tに設けられる画像センサ等により判別されてもよい。
例えば、注目領域の未検出が許容されないと判定された場合において移動体Tに人物が搭乗している場合、人物が居眠りしている状態であると考えられる。この場合、処理決定部238は、人物を覚醒させるための処理(警告音の発生等)を実行してもよい。一方で、注目領域の未検出が許容されないと判定された場合において移動体Tに人物が搭乗していない場合、移動体Tが勝手に移動している状態であると考えられる。この場合、処理決定部238は、移動体Tの速度を低減させ、または、路肩などの安全な場所に停止させるための処理を決定する。このように、個々の状況に基づいて実行すべき処理を決定することにより、移動体Tに搭乗する人物、または移動体Tの周囲の安全をより確実に確保することができる。
なお、処理決定部238は、注目領域の未検出が許容されない状況が所定時間続いた場合に、所定の処理を決定してもよい。これにより、注目領域が瞬間的に検出されない場合において、移動体Tが安全のための処理を頻繁に実施することを防ぐことができる。なお、所定の時間とは、例えば10秒〜1分程度であってもよい。
処理決定部238により決定された処理の内容は、移動体制御装置30に出力される。移動体制御装置30は、取得した内容に係る処理を実行する。
(パラメータ決定領域特定部・撮像パラメータ決定部)
なお、本実施形態において、パラメータ決定領域特定部233は、情報取得部236から取得した外部情報を用いてパラメータ決定領域を特定してもよい。また、撮像パラメータ決定部234は、当該外部情報を用いて撮像パラメータを決定してもよい。
例えば、本実施形態に係るパラメータ決定領域特定部233は、情報取得部236から取得した画像センサによる検出情報に基づいて、パラメータ決定領域を特定してもよい。具体的には、画像解析部232により注目領域が検出されない際に、注目領域に対応すべき人物が移動体Tに設けられる画像センサにより検出された場合、パラメータ決定領域特定部233は、画像センサによる人物の検出位置に基づいて、パラメータ決定領域を特定してもよい。これにより、人物の顔に対応する領域にパラメータ決定領域を合わせることができる。なお、パラメータ決定領域特定部233は、過去の検出結果と画像センサによる検出情報の双方に基づいて、パラメータ決定領域を特定してもよい。
また、本実施形態に係る撮像パラメータ決定部234は、情報取得部236から取得した時刻情報、移動体Tの位置、および走行方向等の環境に関する情報等に基づいて、撮像パラメータを決定してもよい。例えば、移動体Tに差し込まれる日光の照射方向は、移動体Tが走行している位置、方向、および時刻に応じて特定される。そのため、移動体Tに搭乗している人物の顔に相当する注目領域を検出する場合に、これらの時刻情報または位置情報等を用いることにより、人物の顔に日光が照射され得るか否かを予測することができる。よって、撮像パラメータ決定部234は、人物の顔への日光の照射具合を予め考慮して、撮像パラメータを適切に決定することができる。
また、撮像パラメータ決定部234は、移動体Tが走行している位置の特性に応じて撮像パラメータを決定してもよい。例えば、移動体Tがトンネルに進入する際、またはトンネルから脱出する際に、移動体Tに差し込む光量が劇的に変化するため、撮像画像が白とびしたり黒つぶれする現象が発生しやすい。そのため、撮像パラメータ決定部234は、移動体Tがトンネルに進入するタイミング、またはトンネルから脱出するタイミングに応じて、撮像パラメータの調整量を大きくしてもよい。これにより、撮像画像の白とびや黒つぶれの状態を早期に解消し、注目領域が検出されない時間を短くすることができる。
また、撮像パラメータ決定部234は、移動体Tに設けられる画像センサにより検出される移動体Tの窓付近の輝度情報に基づいて、撮像パラメータを決定してもよい。これにより、撮像画像全体の明るさを、パラメータ決定領域だけではなく、窓付近の輝度に応じて決定することができる。これにより、撮像画像の明るさをより適切に調整することができる。
[2.3.動作例]
図13は、本実施形態に係る情報処理装置20−2の動作例を示すフローチャートである。図13を参照しながら、本実施形態に係る情報処理装置20−2の動作例について説明する。
まず、画像取得部231は、通信部210を介して撮像装置10から撮像画像を取得する(S201)。また、情報取得部236は、通信部210を介して移動体制御装置30から外部情報を取得する(S203)。次に、画像解析部232は、撮像画像を解析し、撮像画像から注目領域を検出する(S205)。また、画像解析部232は、人物の顔に対応する注目領域を検出した場合、当該人物の顔認識処理を行ってもよい。
次いで、画像解析部232は、人物の顔に対応する注目領域の検出結果をパラメータ決定領域特定部233、および状況判定部237に出力する(S207)。ここで、画像解析部232において注目領域が検出された場合(S207/YES)、パラメータ決定領域特定部233は、注目領域をパラメータ決定領域として特定する(S209)。
一方、画像解析部232において注目領域が検出されなかった場合(S207/NO)、まず、状況判定部237は、注目領域の未検出が許容される状況であるか否かを判定する(S211)。注目領域の未検出が許容されない状況であると状況判定部237が判定した場合(S211/NO)、処理決定部238は、注目領域の未検出が許容されない状況であるという判定結果を状況判定部237から取得する(S213)。処理決定部238は、所定時間連続して注目領域の未検出が許容されない状況であるという判定結果を取得した場合(S213/YES)、状況判定部237の判定結果に基づいて移動体Tにより実施される処理の内容を決定する(S215)。処理決定部238は、決定した処理の内容を移動体制御装置30に出力する。なお、注目領域の未検出が許容される状況であると状況判定部237が判定した場合(S211/YES)、または注目領域の未検出が許容されない状況であるという判定結果を処理決定部238がまだ所定時間以上連続して取得していない場合(S213/NO)、処理決定部238による処理内容の決定は実行されない。
続いて、パラメータ決定領域特定部233は、人物の顔の過去の検出結果に基づいてパラメータ決定領域の特定を行う(S217)。過去に人物の顔が検出されている場合(S217/YES)、過去の注目領域の検出結果が特定の人物の顔認識結果とひも付けられているか否かがさらに判定される(S219)。過去の注目領域の検出結果が特定の人物の顔認識結果とひも付けられている場合(S219/YES)、パラメータ決定領域特定部233は、過去の注目領域の検出結果、特定の人物の顔が存在し得る領域(推定領域)、または情報取得部236から取得した外部情報の少なくともいずれかに基づいてパラメータ決定領域を特定する(S221)。過去の注目領域の検出結果が特定の人物の顔認識結果とひも付けられていない場合(S219/NO)、パラメータ決定領域特定部233は、過去の注目領域の検出結果、または情報取得部236から取得した外部情報の少なくともいずれかに基づいてパラメータ決定領域を特定する(S223)。一方で、過去に人物の顔が検出されていない場合(S217/NO)、パラメータ決定領域特定部233は、撮像画像内の既定の領域をパラメータ決定領域として特定する(S225)。このとき、パラメータ決定領域特定部233は、情報取得部236から取得した外部情報を用いてパラメータ決定領域を特定してもよい。
次に、撮像パラメータ決定部234は、パラメータ決定領域特定部233により特定されたパラメータ決定領域内の画素に関する情報に基づいて撮像パラメータを決定する(S227)。このとき、撮像パラメータ決定部234は、情報取得部236から取得した外部情報を用いて撮像パラメータを決定してもよい。そして、撮像パラメータ更新部235は、決定された撮像パラメータに係る情報を撮像装置10に通信部210を介して送信する(S229)。
なお、ステップS211〜S215における状況判定部237による判定処理、およびステップS217〜S225におけるパラメータ決定領域特定部233による特定処理の順序は入れ替わってもよい。
[2.4.効果]
以上、本発明の第2の実施形態に係る情報処理システム1−2、および情報処理装置20−2について説明した。本実施形態によれば、情報処理装置20−2は、撮像画像から移動体Tに搭乗する人物の顔に対応する注目領域が検出されない場合において、注目領域が未検出であることが許容されるか否かを、外部情報に基づいて判定し、その判定結果に基づいて移動体Tに対する処理内容を決定する。これにより、移動体Tが走行状態であるのに移動体Tの運転手の顔が検出されないという危険な状況を検出することができ、移動体Tに対して運転手や移動体Tの周囲の安全を確保するための動作を行うことができる。
また、本実施形態に係る情報処理装置20−2は、外部情報に基づいてパラメータ決定領域を特定し、または撮像パラメータを決定する。外部情報を用いることにより、注目領域が未検出の場合であっても、パラメータ決定領域の特定精度、または撮像パラメータの決定精度を向上させることができる。
<3.ハードウェア構成>
以上、本発明の各実施形態に係る情報処理システム1、および情報処理装置20について説明した。次に、図14を参照して、本発明の実施形態に係る情報処理装置のハードウェア構成について説明する。図14は、本発明の実施形態に係る情報処理装置900のハードウェア構成例を示すブロック図である。図示された情報処理装置900は、例えば、上記の実施形態における情報処理装置20を実現しうる。
図14を参照すると、情報処理装置900は、CPU(Central Processing Unit)901と、ROM(Read Only Memory)902と、RAM(Random Access Memory)903と、ホストバス904と、を備える。また、情報処理装置900は、ブリッジ905と、外部バス906と、インタフェース907と、入力装置908と、出力装置909と、ストレージ装置910と、ドライブ911と、ネットワークインタフェース912と、を備える。
CPU901は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置900内の動作全般を制御する。また、CPU901は、マイクロプロセッサであってもよい。なお、CPU901は、情報処理装置900内の各機能部を含む機能の動作全般またはその一部を制御する。例えば、CPU901は、ROM902は、CPU901が使用するプログラムや演算パラメータ等を記憶する。なお、CPU901は、制御部230の機能を実現する。RAM903は、CPU901の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一時記憶する。これらはCPUバスなどから構成されるホストバス904により相互に接続されている。
ホストバス904は、ブリッジ905を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス906に接続されている。なお、必ずしもホストバス904、ブリッジ905および外部バス906を分離構成する必要はなく、1つのバスにこれらの機能を実装してもよい。
入力装置908は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチおよびレバーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU901に出力する入力制御回路などから構成されている。情報処理装置900のユーザは、当該入力装置908を操作することにより、情報処理装置900に対して各種のデータを入力したり処理動作を指示したりすることができる。
出力装置909は、例えば、CRTディスプレイ装置、液晶ディスプレイ(LCD)装置、OLED装置およびランプなどの表示装置を含む。さらに、出力装置909は、スピーカ及びヘッドホンなどの音声出力装置を含む。出力装置909は、例えば、再生されたコンテンツを出力する。具体的には、表示装置は再生された映像データ等の各種情報をテキストまたはイメージで表示する。一方、音声出力装置は、再生された音声データや表示装置に表示されたテキストデータ等を音声に変換して出力する。
ストレージ装置910は、本発明の実施形態に係る情報処理装置900におけるデータ格納用の装置である。ストレージ装置910は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読み出し装置および記憶媒体に記憶されたデータを削除する削除装置などを含んでも良い。ストレージ装置は、例えば、HDD(Hard Disc Drive)やSSD(Solid State Drive)で構成される。このストレージ装置910は、CPU901が実行するプログラムや各種データを格納する。なお、ストレージ装置910は、信号DB111など、各情報処理装置に備えられている各DBを格納する。なお、ストレージ装置910は、記憶部220の機能を実現する。
ドライブ911は、記憶媒体用リーダライタであり、情報処理装置900に内蔵、あるいは外付けされる。ドライブ911は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体96に記録されている情報を読みだして、RAM903に出力する。また、ドライブ911は、リムーバブル記憶媒体96に情報を書き込むこともできる。
ネットワークインタフェース912は、例えば、他の装置に接続するための通信デバイス等で構成された通信インタフェースである。また、ネットワークインタフェース912は、無線LAN(Local Area Network)対応通信装置、LTE(Long Term Evolution)対応通信装置、またはブルートゥース通信装置であってもよい。また、ネットワークインタフェース912は、有線による通信を行うワイヤー通信装置であってもよい。なお、ネットワークインタフェース912は、通信部210の機能を実現する。
以上、情報処理装置900のハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。かかる構成は、実施する時々の技術レベルに応じて適宜変更され得る。
<4.まとめ>
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
例えば、上記実施形態では、注目領域の対象である注目対象を人物の身体の一部(特に、人物の顔)としたが、本発明はかかる例に限定されない。例えば、注目領域に対応する注目対象は、人物の胴体、腕、手、足等であってもよい。さらに、注目対象は、人物以外の物体であってもよい。より具体的には、注目対象は、動物等の生体、または自動車、トラック、二輪車、鉄道車両、船舶、もしくは航空機等の移動体であってもよい。上記のような物体を画像処理を用いて検出する処理において、本発明は適用可能である。
また、本明細書の情報処理装置20の処理における各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。例えば、情報処理装置20の処理における各ステップは、フローチャートとして記載した順序と異なる順序で処理されても、並列的に処理されてもよい。
また、情報処理装置20に内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上記の情報処理装置20の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
1−1、1−2 情報処理システム
10 撮像装置
20−1、20−2 情報処理装置
30 移動体制御装置
210 通信部
220 記憶部
230−1、230−2 制御部
231 画像取得部
232 画像解析部
233 パラメータ決定領域特定部
234 撮像パラメータ決定部
235 撮像パラメータ更新部
236 情報取得部
237 状況判定部
238 処理決定部

Claims (19)

  1. 撮像画像内から注目領域を検出する注目領域検出部と、
    前記注目領域内の画素に関する情報に基づいて、明るさの調整に関する撮像パラメータを決定するパラメータ決定部と、
    を備え、
    前記撮像画像内から前記注目領域が検出されなかった場合、前記パラメータ決定部は、過去の前記注目領域の検出結果に基づいて前記撮像パラメータを決定する情報処理装置。
  2. 過去の前記注目領域の検出結果に基づいてパラメータ決定領域を特定するパラメータ決定領域特定部をさらに備え、
    前記パラメータ決定部は、前記パラメータ決定領域内の画素に関する情報に基づいて、前記撮像パラメータを決定する、請求項1に記載の情報処理装置。
  3. 前記パラメータ決定領域特定部は、過去の前記注目領域の位置情報に基づいて前記パラメータ決定領域を特定する、請求項2に記載の情報処理装置。
  4. 過去に検出された前記注目領域に対応する注目対象が特定されている場合、
    前記パラメータ決定領域特定部は、前記注目対象に対応する過去の前記注目領域の位置情報に基づいて前記パラメータ決定領域を特定する、請求項3に記載の情報処理装置。
  5. 過去に前記注目領域が検出されていない場合、
    前記パラメータ決定領域特定部は、前記撮像画像内の所定の位置に前記パラメータ決定領域を設定する、請求項2〜4のいずれか1項に記載の情報処理装置。
  6. 前記注目領域が複数検出された場合、
    前記パラメータ決定領域特定部は、過去における前記撮像パラメータの決定に用いられた、過去の前記注目領域または過去の前記パラメータ決定領域の少なくともいずれかに基づいて前記パラメータ決定領域を特定する、請求項2〜5のいずれか1項に記載の情報処理装置。
  7. 前記注目領域に対応する注目対象が搭乗する移動体に関する情報を取得する情報取得部をさらに備え、
    前記パラメータ決定部は、前記情報取得部により得られた情報をさらに用いて前記撮像パラメータを決定する、請求項1〜6のいずれか1項に記載の情報処理装置。
  8. 前記注目領域が検出されなかった場合に、前記注目領域の未検出が許容される状況か否かを判定する状況判定部と、
    前記状況判定部による判定結果に基づいて、前記移動体により実行される処理の内容を決定する処理決定部と、
    をさらに備え、
    前記状況判定部は、前記情報取得部から取得される情報に基づいて、前記注目領域の未検出の状況について判定する、請求項7に記載の情報処理装置。
  9. 前記移動体により実行される処理は、前記移動体による、前記注目対象に対する動作、または安全を確保するための動作の少なくともいずれかに係る処理を含む、請求項8に記載の情報処理装置。
  10. 前記移動体に関する情報は、時刻情報、または前記移動体の環境に関する情報の少なくともいずれかを含む、請求項7〜9のいずれか1項に記載の情報処理装置。
  11. 前記移動体に関する情報は、前記移動体の作動状態に関する情報を含む、請求項7〜10のいずれか1項に記載の情報処理装置。
  12. 前記移動体に関する情報は、少なくとも一のセンサによる前記注目対象の検出結果に基づいて得られる情報を含む、請求項7〜11のいずれか1項に記載の情報処理装置。
  13. 前記移動体は、車両、船舶、または航空機のいずれかを含む、請求項7〜12のいずれか1項に記載の情報処理装置。
  14. 前記画素に関する情報は、前記画素の輝度情報を含む、請求項1〜13のいずれか1項に記載の情報処理装置。
  15. 前記注目領域に対応する注目対象は、人物の身体の一部である、請求項1〜14のいずれか1項に記載の情報処理装置。
  16. 前記人物の身体の一部は、前記人物の顔を含む、請求項15に記載の情報処理装置。
  17. 前記撮像パラメータは、露光時間、ゲイン、ガンマ補正値、または絞り値の少なくともいずれかを含む、請求項1〜16のいずれか1項に記載の情報処理装置。
  18. 撮像画像内から注目対象に対応する注目領域を検出するステップと、
    前記注目領域内の画素に関する情報に基づいて、明るさの調整に関する撮像パラメータを決定するステップと、
    を含み、
    前記撮像画像内から前記注目領域が検出されなかった場合、過去の前記注目領域の検出結果に基づいて前記撮像パラメータを決定するステップをさらに含む情報処理方法。
  19. コンピュータを、
    撮像画像内から注目対象に対応する注目領域を検出する注目領域検出部と、
    前記注目領域内の画素に関する情報に基づいて、明るさの調整に関する撮像パラメータを決定するパラメータ決定部と、
    として機能させるためのプログラムであって、
    前記撮像画像内から前記注目領域が検出されなかった場合、前記パラメータ決定部は、過去の前記注目領域の検出結果に基づいて前記撮像パラメータを決定するプログラム。
JP2015170552A 2015-08-31 2015-08-31 情報処理装置、情報処理方法及びプログラム Pending JP2017049311A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015170552A JP2017049311A (ja) 2015-08-31 2015-08-31 情報処理装置、情報処理方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015170552A JP2017049311A (ja) 2015-08-31 2015-08-31 情報処理装置、情報処理方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2017049311A true JP2017049311A (ja) 2017-03-09

Family

ID=58280240

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015170552A Pending JP2017049311A (ja) 2015-08-31 2015-08-31 情報処理装置、情報処理方法及びプログラム

Country Status (1)

Country Link
JP (1) JP2017049311A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019083390A (ja) * 2017-10-30 2019-05-30 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、移動体、制御方法、及びプログラム
WO2020170915A1 (ja) * 2019-02-18 2020-08-27 日本電気株式会社 画像処理装置、方法、システム、及びコンピュータ可読媒体
WO2021001942A1 (ja) * 2019-07-02 2021-01-07 三菱電機株式会社 運転者監視装置及び運転者監視方法
JP2021014227A (ja) * 2019-07-16 2021-02-12 株式会社Subaru 車両の乗員保護システム
JP7066082B1 (ja) * 2021-11-10 2022-05-12 三菱電機株式会社 情報処理装置、情報処理方法、および情報処理プログラム
WO2023005450A1 (zh) * 2021-07-30 2023-02-02 哲库科技(上海)有限公司 图像处理方法、装置、终端及存储介质

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019083390A (ja) * 2017-10-30 2019-05-30 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、移動体、制御方法、及びプログラム
WO2020170915A1 (ja) * 2019-02-18 2020-08-27 日本電気株式会社 画像処理装置、方法、システム、及びコンピュータ可読媒体
CN113615150A (zh) * 2019-02-18 2021-11-05 日本电气株式会社 图像处理装置、方法、系统和计算机可读介质
US11734957B2 (en) 2019-02-18 2023-08-22 Nec Corporation Image processing apparatus, method, system, and computer readable medium
CN113615150B (zh) * 2019-02-18 2023-12-12 日本电气株式会社 图像处理装置、方法、系统和计算机可读介质
WO2021001942A1 (ja) * 2019-07-02 2021-01-07 三菱電機株式会社 運転者監視装置及び運転者監視方法
JPWO2021001942A1 (ja) * 2019-07-02 2021-12-16 三菱電機株式会社 運転者監視装置及び運転者監視方法
JP2021014227A (ja) * 2019-07-16 2021-02-12 株式会社Subaru 車両の乗員保護システム
JP7285155B2 (ja) 2019-07-16 2023-06-01 株式会社Subaru 車両の乗員保護システム
WO2023005450A1 (zh) * 2021-07-30 2023-02-02 哲库科技(上海)有限公司 图像处理方法、装置、终端及存储介质
JP7066082B1 (ja) * 2021-11-10 2022-05-12 三菱電機株式会社 情報処理装置、情報処理方法、および情報処理プログラム
WO2023084644A1 (ja) * 2021-11-10 2023-05-19 三菱電機株式会社 情報処理装置、情報処理方法、および情報処理プログラム

Similar Documents

Publication Publication Date Title
JP2017049311A (ja) 情報処理装置、情報処理方法及びプログラム
CN104573623B (zh) 人脸检测装置、方法
JP5761074B2 (ja) 撮像制御装置及びプログラム
WO2019028798A1 (zh) 驾驶状态监控方法、装置和电子设备
JP5666383B2 (ja) 眠気推定装置及び眠気推定方法
WO2018046015A1 (zh) 车辆报警方法、装置及终端
JP5233322B2 (ja) 情報処理装置および方法、並びに、プログラム
US20200169678A1 (en) Driver's eye position detecting device and method, imaging device having image sensor with rolling shutter driving system, and illumination control method thereof
AU2015276536A1 (en) Device, method, and computer program for detecting momentary sleep
JP2007200298A (ja) 画像処理装置
JP2013045317A (ja) 顔画像検出装置
JP2014071519A (ja) 状態判定装置、運転支援システム、状態判定方法及びプログラム
US11227152B2 (en) Recognition apparatus, recognition method, and recognition program
US11861842B2 (en) Information processing method, program, and information processing system
JP2014056295A (ja) 車両周辺監視装置
CN108304764B (zh) 模拟飞行驾驶过程中疲劳状态检测装置及检测方法
CN112046497B (zh) 驾驶辅助设备、驾驶辅助方法和驾驶辅助程序
KR20150106986A (ko) 서버기반 졸음감지 시스템 및 그 방법
JP2020194227A (ja) 顔遮蔽判定装置、顔遮蔽判定方法、顔遮蔽判定プログラム及び乗員監視システム
JP2020101869A (ja) 制御装置及びプログラム
JP2009159568A (ja) 異常検出装置および方法、並びに、プログラム
KR102084329B1 (ko) 차량 내 유아 모니터링 방법 및 시스템
JP7068156B2 (ja) 情報処理装置及びプログラム
Nair et al. Smart System for Drowsiness and Accident Detection
JP2010108167A (ja) 顔認識装置