JP2019179288A - 処理装置、及びプログラム - Google Patents

Abstract

【課題】人体の特徴点を特定する技術において、その特徴点の特定精度を向上させる処理装置、及びプログラムを提供する。【解決手段】車両８の乗員５を含む撮像領域を撮像対象とした距離画像であって、撮像対象までの距離情報を画素に割り当てた距離画像を取得する取得部としてのＴＯＦカメラ１０と、車両８の車室内空間における座標系と距離画像における座標系との対応関係に従って、特定の座標系を有した検出画像へと変換し、その検出画像において、乗員５の特徴点を少なくとも１つ検出する特徴点検出処理を実行する制御部２０と、を有して処理装置１を構成する。【選択図】図９

Description

本発明は、処理装置、及びプログラムに関し、特に、撮像画像に基づいて検出処理を行なう処理装置、及びプログラムに関する。

従来、２次元平面における座標情報を有する乗員が映り込んだ画像を撮像し、その撮像した画像を画像処理することで、乗員の特徴点（例えば、関節点）を特定する技術がある（例えば、特許文献１参照）。

特許文献１の処理装置は、複数の操作対象，および，該操作対象を操作可能な位置に存在する操作者を含む画像を繰り返し取得する画像取得手段と、該画像取得手段により繰り返し取得される画像毎に、該画像に含まれる操作者における所定の人体特徴点を特定する人体特徴点特定手段と、該人体特徴点特定手段により特定された画像毎の人体特徴点それぞれに基づいて、操作者が実施しようとしている操作内容を推定する操作推定手段と、を備えており、該操作推定手段は、操作対象を操作する操作者が辿ると推定される姿勢軌跡（推定姿勢軌跡）をその操作内容毎にモデル化してなる遷移推定モデルそれぞれと、前記人体特徴点特定手段により特定された画像毎の人体特徴点それぞれから求められる操作者の姿勢軌跡（実姿勢軌跡）とを照合し、前記遷移推定モデルでモデル化された推定姿勢軌跡のうち、前記実姿勢軌跡との近似度が所定のしきい値を満たす前記推定姿勢軌跡につき、該推定姿勢軌跡に対応する操作内容を操作者が実施しようとしていると推定するように処理装置が構成されている。

特開２００８−１４０２６８号公報

しかし、特許文献１の技術では、乗員の特徴点を、２次元平面での座標情報を有した画像から特定しているため、その特徴点の特定精度を向上させることが要求されている。

したがって、本発明の目的は、人体の特徴点を特定する技術において、その特徴点の特定精度を向上させる処理装置、及びプログラムを提供することにある。

［１］上記目的を達成するため、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を画素に割り当てた距離画像を取得する取得部と、前記車両の車室内空間における座標系と前記距離画像における座標系との対応関係に従って、特定の座標系を有した検出画像へと変換し、その検出画像において、前記乗員の特徴点を少なくとも１つ検出する特徴点検出処理を実行する制御部と、を有する処理装置を提供する。
［２］前記制御部は、規定された１つの特徴点を特定し、その規定された１つの特徴点を基準として、予め規定された特徴点探索モデルを順次照合して残りの特徴点を検出することを、前記特徴点検出処理として実行する、上記［１］に記載の処理装置であってもよい。
［３］また、前記制御部は、前記特徴点の周囲に位置するボクセルを含めたボクセルの集合を考え、前記ボクセルの集合におけるボクセル値の合計が閾値未満かどうかにより、前記特徴点の確からしさを判断する閾値処理を、前記特徴点検出処理の１つとして実行する、上記［１］又は［２］に記載の処理装置であってもよい。
［４］また、前記制御部は、前記ボクセル値の合計が閾値未満かどうかを判定する、前記ボクセルの集合を、規定された１つの特徴点である起点から当該特徴点とは別の特徴点である対象特徴点までの間を所定間隔で存在するボクセル群とする、上記［３］に記載の処理装置であってもよい。
［５］また、前記制御部は、前記起点から前記対象特徴点までの全てのボクセル群の各々におけるボクセル値の合計が閾値以上であれば、前記対象特徴点を確からしいものとする、上記［４］に記載の処理装置であってもよい。
［６］また、前記制御部は、前記起点から前記対象特徴点までのボクセル群において、規定された距離を示す個数のボクセル群におけるボクセル値の合計が閾値未満であっても、前記対象特徴点を確からしいものとする、上記［４］又は［５］に記載の処理装置であってもよい。
［７］また、前記制御部は、前記特徴点が未検出の場合、前フレームまでの検出結果を用いて補完処理を行う、上記［１］から［６］のいずれか１に記載の処理装置であってもよい。
［８］また、前記規定された１つの特徴点は、頭部である、上記［１］から［７］のいずれか１に記載の処理装置であってもよい。
［９］上記目的を達成するため、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を画素に割り当てた距離画像を取得する取得ステップと、車両の車室内空間における座標系と距離画像における座標系との対応関係に従って、特定の座標系を有した検出画像へと変換し、その検出画像において、乗員の特徴点を少なくとも１つ検出する特徴点検出処理を実行する制御ステップとを、コンピュータに実行させるためのプログラムを提供する。
［１０］前記制御ステップは、規定された１つの特徴点を特定し、その規定された１つの特徴点を基準として、予め規定された特徴点探索モデルを順次照合して残りの特徴点を検出することを、前記特徴点検出処理として実行する、上記［９］に記載のプログラムであってもよい。
［１１］前記制御ステップは、前記特徴点の周囲に位置するボクセルを含めたボクセルの集合を考え、前記ボクセルの集合におけるボクセル値の合計が閾値未満かどうかにより、前記特徴点の確からしさを判断する閾値処理を、前記特徴点検出処理の１つとして実行する、上記［９］又は［１０］に記載のプログラムであってもよい。
［１２］また、前記制御ステップは、前記ボクセル値の合計が閾値未満かどうかを判定する、前記ボクセルの集合を、規定された１つの特徴点である起点から当該特徴点とは別の特徴点である対象特徴点までの間を所定間隔で存在するボクセル群とする、上記［１１］に記載のプログラムであってもよい。
［１３］また、前記制御ステップは、前記起点から前記対象特徴点までの全てのボクセル群の各々におけるボクセル値の合計が閾値以上であれば、前記対象特徴点を確からしいものとする、上記［１２］に記載のプログラムであってもよい。
［１４］また、前記制御ステップは、前記起点から前記対象特徴点までのボクセル群において、規定された距離を示す個数のボクセル群におけるボクセル値の合計が閾値未満であっても、前記対象特徴点を確からしいものとする、上記［１２］又は［１３］に記載のプログラムであってもよい。
［１５］また、前記制御ステップは、前記特徴点が未検出の場合、前フレームまでの検出結果を用いて補完処理を行う、上記［９］から［１４］のいずれか１に記載のプログラムであってもよい。
［１６］また、前記制御ステップは、前記規定された１つの特徴点は、頭部である、上記［９］から［１５］のいずれか１に記載のプログラムであってもよい。

本発明の処理装置、及びプログラムによれば、人体の特徴点を特定する技術において、その特徴点の特定精度を向上させることができる。

図１（ａ）は、人体の各骨格のサイズ、関節の可動範囲を定義したスケルトンモデルの図であり、図１（ｂ）は、人体の各骨格のサイズ、関節の可動範囲の定義例を示す図表であり、図１（ｃ）は、各部位（肩、肘、手首、手）の可動範囲（スケルトンモデル定義の中で規定しているなす角）の一例として、前腕部を示した図である。 図２は、本発明の実施の形態に係る処理装置が車両に搭載された状態の座標系の関係を３次元的に示す座標図である。 図３は、３次元画素群の例を示す図である。 図４（ａ）は、車室内空間の広さを考慮したボクセル作成の一例を示す図であり、図４（ｂ）は、ボクセル作成パラメータ設定例を示す図表である。 図５（ａ）は、スケルトンモデルで定義した長さおよび可動範囲に含まれるボクセルの探索範囲を示す図であり、図５（ｂ）は、探索範囲絞り込みパラメータの例を示す図表である。 図６は、周囲１ボクセルを含めた３×３×３のボクセルの例を示す図である。 図７は、起点Ｐとの間をＸ［ｍｍ］間隔で、３×３×３のボクセルが並べられた例を示す図である。 図８は、各部位検出におけるパラメータ設定の例を示す図表である。 図９は、本発明の実施の形態に係る処理装置の動作を示すフローチャートである。 図１０は、検出した肩、肘、手首、手の位置を画像上に表示した図である。

（本発明の実施の形態）
本発明の実施の形態に係る処理装置１は、車両８の乗員５を含む撮像領域を撮像対象とした距離画像であって、撮像対象までの距離情報を画素に割り当てた距離画像を取得する取得部としてのＴＯＦカメラ１０と、車両８の車室内空間における座標系と距離画像における座標系との対応関係に従って、特定の座標系を有した検出画像へと変換し、その検出画像において、乗員５の特徴点を少なくとも１つ検出する特徴点検出処理を実行する制御部２０と、を有して構成されている。

本実施の形態に係る処理装置１は、ＴＯＦカメラ１０を用いて、車室内乗員の肩、肘、手首、手といった部位を特徴点として検出する特徴点検出処理を行なうものである。ＴＯＦカメラ１０から得られる距離画像の各画素を３次元空間上に変換した画素群（３次元画素群）を作成し、頭部を起点として、スケルトンモデル（人体の骨格サイズ、可動範囲の定義）をもとに肩、肘、手首、手といった部位を特徴点として検出する。

なお、画素群とは、ＴＯＦカメラ１０により撮像された画素に対応する点の集合であって、車両８の車室内空間における座標系、ＴＯＦカメラ１０における座標系等により位置が表示される３次元空間の点の集合である。

（スケルトンモデル）
スケルトンモデルは、図１（ａ）に示すように、人体の各骨格のサイズ、関節の可動範囲を定義したものであって、一例を図１（ｂ）に示す。この定義は例えば、産業技術総合研究所が公開している人体寸法データベースや、独立行政法人製品評価技術基盤機構が公開している人間特性データベース等の情報をもとに決めることができる。各部位（肩、肘、手首、手）の可動範囲（スケルトンモデル定義の中で規定しているなす角）は、前腕部を例として図１（ｃ）のように定義する。

（ＴＯＦカメラ１０）
取得部としては撮像対象の３次元認識が可能なものであれば使用可能であるが、本実施の形態では、取得部としてＴＯＦ（Time Of Flight）カメラ１０を使用する。ＴＯＦカメラ１０は、光源の光が測定対象物に当たって戻るまでの時間を画素毎に検出し、奥行き方向の距離に相当する位置情報を含む立体的な画像を撮影できる。ＴＯＦカメラ１０は、赤外光等を発光後、その光が物体に反射して戻ってきた反射光を受光し、発光から受光までの時間を測定して、画素ごとに撮像対象物までの距離を検出する。

取得部としてのＴＯＦカメラ１０は、車両８の乗員５を含む撮像領域を撮像対象とした距離画像であって、撮像対象までの距離情報を各画素に割り当てた距離画像を取得する。この距離画像は、所定の時間間隔で撮像されたフレームの１フレームとして取得することができる。取得された距離画像は、以下の処理における入力（３次元画素群）として機能する。距離画像は、上記説明したカメラ座標系、車両座標系へ変換される。これにより、検出エリアに含まれる３次元画素群を抽出できる。

ＴＯＦカメラ１０は、例えば、図２に示すように、ルームミラー付近に取り付け、車両８の乗員５を含む撮像領域を撮像対象とする。ＴＯＦカメラ１０による撮像画像は、座標（ｕ，ｖ）と、この座標（ｕ，ｖ）における奥行情報としての画素値ｄ（ｕ，ｖ）を含む。取得された画素値ｄ（ｕ，ｖ）（ｕ＝０、１、…Ｕ−１，ｖ＝０、１、…Ｖ−１）は、撮像対象としての物体（ここで言う物体は、運転者や車載機器など）までの距離を意味する。なお、実施形態における符号Ｕは、撮像画像における横幅［ｐｉｘｅｌ］を意味し、符号Ｖは、撮像画像における縦幅［ｐｉｘｅｌ］を意味する。つまり、ＴＯＦカメラ１０で撮像された画像における各画素に、３次元空間における距離情報を割り当てることで距離画像が生成される。

（距離画像から得られるカメラ座標系）
距離画像における座標値ｕ，ｖと、座標（ｕ，ｖ）における画素値ｄ（ｕ，ｖ）は、以下の式を用いて３次元空間上の点（ｘ，ｙ，ｚ）に変換することで、図２に示すカメラ座標系（ｘ，ｙ，ｚ）における３次元画素群を作成することができる。
なお、（ｃ_ｘ、ｃ_ｙ）は、画像中心座標、ｆは、レンズ焦点距離である。

（車両座標系）
カメラ座標系（ｘ，ｙ，ｚ）は、検出対象であるドライバ（例えば腰骨の位置）を原点とする車両座標系（ｗ，ｌ，ｈ）に変換することができる。変換方法は、一般的な座標回転変換、平行移動変換、スケール変換の組み合わせである。変換後の座標軸は、ドライバ右方向をｗ軸、前方をｌ軸（エル軸）、上方をｈ軸とし、原点はドライバの腰骨位置２０３とする。図３に３次元画素群の例を示す。

（ボクセル作成）
制御部２０は、図４（ａ）に示すように、車室内空間の広さを考慮し、図４（ｂ）に一例として示すボクセル作成パラメータ設定例のサイズでボクセル（３次元空間を一定サイズで格子状に分割し、離散的にエリアを表現する方法）を作成する。各ボクセルは、ボクセル値を持ち、３次元画素群の密度情報（ここでは、各ボクセルに含まれる３次元画素群の数×３、とする）をボクセル値とする。

（制御部２０）
制御部２０は、座標変換、頭頂部特定処理、頭部特定処理等を行なうための、例えばマイクロコンピュータを備えている。制御部２０は、図２に示すように、ＴＯＦカメラ１０と接続されている。制御部２０は、記憶されたプログラムに従って、取得したデータに演算、加工などを行うＣＰＵ（Central Processing Unit）２１、半導体メモリであるＲＡＭ（Random Access Memory）２２及びＲＯＭ（Read Only Memory）２３などを備えている。

（頭部の検出、特定）
頭部は、規定された１つの特徴点であり、本実施の形態では、予め規定された特徴点探索モデルを順次照合して残りの特徴点（左右の肩部、肘部、手首、手）を検出するための基準となるものである。頭部の検出、特定の手法は任意であり、公知の方法により頭部の検出、特定を行なうことができる。また、制御部２０による検出、特定でなく、頭部の３次元データ（ｗ，ｌ，ｈ）を制御部２０に入力してもよい。

（探索範囲絞り込み）
制御部２０は、図５（ａ）に示すように、スケルトンモデルで定義した長さおよび可動範囲に含まれるボクセルを探索し、抽出する。可動範囲は、前部位起点から現在部位起点Ｐの方向を基準とし、図５（ａ）に示す母線２５０で規定される円錐形状として定義する。探索は、図５（ｂ）に示すような、探索範囲絞り込みパラメータに基づいて行なう。

（特徴点としての部位候補抽出）
（１）閾値処理
制御部２０は、探索範囲を絞り込んだ各ボクセルについて、周囲のボクセルを含めたボクセルの集合を考える。ここでは、図６に示すように、周囲１ボクセルを含めた３×３×３のボクセルとする。ここで、当該ボクセルのボクセル値の合計が閾値未満の場合、候補から除外する。すなわち、閾値処理は、特徴点の周囲に位置するボクセルを含めたボクセルの集合を考え、このボクセルの集合におけるボクセル値の合計が閾値未満かどうかにより、特徴点の確からしさを判断するものである。

（２）連続性チェック
制御部２０は、（１）の閾値処理で抽出した各ボクセルについて、図７に示すように、起点Ｐとの間をＸ［ｍｍ］間隔で、（１）と同じ領域（３×３×３のボクセル）を考え、全ての位置でボクセル値の合計が閾値以上の場合、当該ボクセルを部位候補とする。ただし、腕時計等、ＴＯＦカメラで情報が取得できない可能性がある装着物を考慮して、起点Ｐとの間でボクセル値の閾値を満たさない点が存在しても許容できるよう、許容ギャップ数を定義する。例えば、許容ギャップ数が１の場合、閾値を満たさない点が１つまでなら連続性があると判定する。

制御部２０は、ボクセル値の合計が閾値未満かどうかを判定する、ボクセルの集合を、規定された１つの特徴点である起点から当該特徴点とは別の特徴点である対象特徴点までの間を所定間隔で存在するボクセル群とすることができる。これにより、確からしさが高い場合に、対象特徴点を確からしいものとできる。

さらに、制御部２０は、上記の起点から対象特徴点までの全てのボクセル群の各々におけるボクセル値の合計が閾値以上であれば、対象特徴点を確からしいものとすることができる。これにより、ノイズなどによって一部が欠損したとしても、対象特徴点を確からしいものとできる。

図８は、各部位検出におけるパラメータ設定の例であり、以下に示す各部位の検出は、これらのパラメータに基づいて実行される。上記示した（１）閾値処理、（２）連続性チェックは、部位検出共通ロジックとして各部位の検出に使用される。なお、単位立方体サイズは、密度計算に利用するボクセルの立方体サイズである。また、密度閾値は、終端候補の棄却、連続性の確認に利用する密度の閾値である。また、連続性ステップ長は、連続性確認時に単位立方体をずらしていく際の中心ボクセル間の幅である。また、許容ギャップ数は、連続性確認時に許容する、密度が閾値以下だったステップの数である。

（肩検出）
制御部２０は、検出あるいは特定した頭部位置から首位置を算出する。ここでは、頭部位置の座標から真下にオフセットした点を首位置とする。オフセット値は例えば１００ｍｍとする。前部位起点を頭部位置、起点Ｐを首位置として、部位検出共通ロジックを用いて肩候補を抽出する。ただし、首位置がボクセル値の低いボクセルに位置する可能性を考慮し、連続性チェックはしない。首位置より左側（−ｗ軸側）の肩候補を左肩候補、右側（＋ｗ軸側）の肩候補を右肩候補とし、各候補の重心位置をそれぞれ左肩位置、右肩位置とする。

（肘検出）
制御部２０は、前部位起点を首位置、起点を肩位置として、部位検出共通ロジックを用いて肘候補を抽出する。制御部２０は、連続性チェックを行なう。連続性チェックがＮＧとなり、肘候補点が０の場合、肩が宙に浮いている（ボクセル値の低い位置にある）と考えられ、位置を補正して再探索する。補正方法は例えば、最も近い閾値以上のボクセル値を持つボクセルを選択することで行う。抽出した肘候補の重心を肘位置とする。左肩を起点とした位置を左肘、右肩を起点とした位置を右肘とする。

（手首検出）
制御部２０は、前部位起点を肩位置、起点を肘位置として、部位検出共通ロジックを用いて手首候補を抽出する。制御部２０は、連続性チェックを行ない、連続性チェックがＮＧの場合は、位置を補正して再探索を行なう。抽出した手首候補の重心を手首位置とする。左肘を起点とした位置を左手首、右肘を起点とした位置を右手首とする。

（手検出）
制御部２０は、前部位起点を肘位置、起点を手首位置として、部位検出共通ロジックを用いて手候補を抽出する。制御部２０は、連続性チェックを行ない、連続性チェックがＮＧの場合は、位置を補正して再探索を行なう。抽出した手候補の重心を手位置とする。左手首を起点とした位置を左手、右手首を起点とした位置を右手とする。

（未検出時の対応）
制御部２０は、各部位が特徴点として未検出の場合（肩が隠れた時、手首が腕時計等で切れた時、等）、前フレームまでの検出結果を用いて補完処理を行う。例えば、１フレーム前の検出結果をそのまま再利用する方法や、ＫＣＦ法等のトラッキング技術を活用する方法などがある。

（処理装置１の動作）
図９で示す本発明の実施の形態に係る処理装置１の動作を示すフローチャートに基づいて、説明する。制御部２０は、フローチャートに従って以下の演算、処理を実行する。

（前処理、Ｓｔｅｐ１）
制御部２０には、ＴＯＦカメラ１０からのカメラ画像が入力される。このカメラ画像は、連続するフレーム画像の１フレームとして入力される。制御部２０は、特徴点検出処理の前処理として、カメラ画像を車両座標系へ変換して、図３に示すような３次元画素群を抽出する。また、ボクセル作成パラメータ設定例に基づいてボクセルを作成する。また、特徴点探索の基準となる頭部の検出、特定を行なう。

（肩の検出、Ｓｔｅｐ２）
制御部２０は、図１０に示すように、基準となる規定された１つの特徴点である、頭部位置３００から、所定の距離だけオフセットした点を首位置３０５として算出する。起点を首位置３０５として、部位検出共通ロジックを用いて肩候補を抽出する。図１０に示すように、首位置より左側（−ｗ軸側）の肩候補を左肩候補、右側（＋ｗ軸側）の肩候補を右肩候補とし、各候補の重心位置をそれぞれ左肩位置３１１、右肩位置３１０とする。

（Ｓｔｅｐ３）
制御部２０は、肩の検出に成功したかどうかを判断する。制御部２０は、上記説明した、（１）閾値処理、及び（２）連続性チェックにより、肩の検出に成功したかどうかを判断することができる。ただし、肩の検出に限って、首位置がボクセル値の低いボクセルに位置する可能性を考慮し、連続性チェックはしないものとする。肩の検出に成功した場合は、Ｓｔｅｐ５へ進み（Ｓｔｅｐ３：Ｙｅｓ）、肩の検出に成功しない場合は、Ｓｔｅｐ４へ進む（Ｓｔｅｐ３：Ｎｏ）。

（補完処理、Ｓｔｅｐ４）
制御部２０は、肩の部位が未検出の場合（肩が隠れた時、等）、前フレームまでの検出結果を用いて補完処理を行う。例えば、１フレーム前の検出結果をそのまま再利用する方法や、ＫＣＦ法等のトラッキング技術を活用する方法などがある。

（肘の検出、Ｓｔｅｐ５）
制御部２０は、前部位起点を首位置３０５、起点を肩位置３１０、３１１として、部位検出共通ロジックを用いて肘候補を抽出する。連続性チェックがＮＧとなり、肘候補点が０の場合、肩が宙に浮いている（ボクセル値の低い位置にある）と考えられ、位置を補正して再探索する。補正方法は例えば、最も近い閾値以上のボクセル値を持つボクセルを選択することで行う。抽出した肘候補の重心を肘位置とする。図１０に示すように、左肩を起点とした位置を左肘３２１、右肩を起点とした位置を右肘３２０とする。

（Ｓｔｅｐ６）
制御部２０は、肘の検出に成功したかどうかを判断する。制御部２０は、上記説明した、（１）閾値処理、及び（２）連続性チェックにより、肘の検出に成功したかどうかを判断することができる。肘の検出に成功した場合は、Ｓｔｅｐ８へ進み（Ｓｔｅｐ６：Ｙｅｓ）、肘の検出に成功しない場合は、Ｓｔｅｐ７へ進む（Ｓｔｅｐ６：Ｎｏ）。

（補完処理、Ｓｔｅｐ７）
制御部２０は、肘の部位が未検出の場合（肘が隠れた時、等）、前フレームまでの検出結果を用いて補完処理を行う。例えば、１フレーム前の検出結果をそのまま再利用する方法や、ＫＣＦ法等のトラッキング技術を活用する方法などがある。

（手首の検出、Ｓｔｅｐ８）
制御部２０は、前部位起点を肩位置３１０、３１１、起点を肘位置３２０、３２１として、部位検出共通ロジックを用いて手首候補を抽出する。抽出した手首候補の重心を手首位置とする。図１０に示すように、左肘を起点とした位置を左手首３３１、右肘を起点とした位置を右手首３３０とする。

（Ｓｔｅｐ９）
制御部２０は、手首の検出に成功したかどうかを判断する。制御部２０は、上記説明した、（１）閾値処理、及び（２）連続性チェックにより、手首の検出に成功したかどうかを判断することができる。手首の検出に成功した場合は、Ｓｔｅｐ１１へ進み（Ｓｔｅｐ９：Ｙｅｓ）、手首の検出に成功しない場合は、Ｓｔｅｐ１０へ進む（Ｓｔｅｐ９：Ｎｏ）。

（補完処理、Ｓｔｅｐ１０）
制御部２０は、手首の部位が未検出の場合（手首が腕時計等で切れた時、等）、前フレームまでの検出結果を用いて補完処理を行う。例えば、１フレーム前の検出結果をそのまま再利用する方法や、ＫＣＦ法等のトラッキング技術を活用する方法などがある。

（手の検出、Ｓｔｅｐ１１）
制御部２０は、前部位起点を肘位置３２０、３２１、起点を手首位置３３０、３３１として、部位検出共通ロジックを用いて手候補を抽出する。抽出した手候補の重心を手位置とする。図１０に示すように、左手首を起点とした位置を左手３４１、右手首を起点とした位置を右手３４０とする。

（Ｓｔｅｐ１２）
制御部２０は、手の検出に成功したかどうかを判断する。制御部２０は、上記説明した、（１）閾値処理、及び（２）連続性チェックにより、手の検出に成功したかどうかを判断することができる。手の検出に成功した場合は、Ｓｔｅｐ１４へ進み（Ｓｔｅｐ１２：Ｙｅｓ）、手の検出に成功しない場合は、Ｓｔｅｐ１３へ進む（Ｓｔｅｐ１２：Ｎｏ）。

（補完処理、Ｓｔｅｐ１３）
制御部２０は、手の部位が未検出の場合（手が隠れた時、等）、前フレームまでの検出結果を用いて補完処理を行う。例えば、１フレーム前の検出結果をそのまま再利用する方法や、ＫＣＦ法等のトラッキング技術を活用する方法などがある。

（Ｓｔｅｐ１４）
制御部２０は、部位検出結果として、図１０に示すように、左右の肩、肘、手首、手の位置を出力することができる。なお、それぞれの位置は、車両座標系（ｗ，ｌ，ｈ）で出力されるが、座標変換により、カメラ座標系（ｘ，ｙ，ｚ）等の他の座標系での値としても出力可能である。

上記の処理実行は、上記示した一連の動作として繰り返して実行することができる。

（プログラムとしての実施形態）
コンピュータに、処理装置１で示した、車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を画素に割り当てた距離画像を取得する取得ステップと、車両８の車室内空間における座標系と距離画像における座標系との対応関係に従って、特定の座標系を有した検出画像へと変換し、その検出画像において、乗員５の特徴点を少なくとも１つ検出する特徴点検出処理を実行する制御ステップとを、コンピュータに実行させるためのプログラムも、本発明の実施の形態の一つである。

処理装置１の動作で説明したＳｔｅｐ１が距離画像を取得する取得ステップの一例であり、Ｓｔｅｐ２からＳｔｅｐ１４が特定処理を実行する制御ステップの一例であり、図９で示したフローチャートを実行する処理制御を、コンピュータに実行させるためのプログラムの実施形態とすることができる。

また、上記のようなプログラムを記録したコンピュータ読み取り可能な記録媒体も、本発明の実施の形態の一つである。

（実施の形態の効果）
本発明の実施の形態によれば、以下のような効果を有する。
（１）本発明の実施の形態に係る処理装置は、車両８の乗員５を含む撮像領域を撮像対象とした距離画像であって、撮像対象までの距離情報を画素に割り当てた距離画像を取得する取得部としてのＴＯＦカメラ１０と、車両８の車室内空間における座標系と距離画像における座標系との対応関係に従って、特定の座標系を有した検出画像へと変換し、その検出画像において、乗員５の特徴点を少なくとも１つ検出する特徴点検出処理を実行する制御部２０と、を有して構成されている。これにより、人体の特徴点を特定する技術において、その特徴点の特定精度を向上させることができる。
（２）３次元情報を活用することで、外乱光等による濃淡変化の影響によらず人の骨格を精度良く検出することができる。
（３）他の物体で隠れにくい頭部位置を検出の起点としているため、胴体の隠れによらず検出することができる。
（４）スケルトンモデルを用いて部位の探索範囲を絞り込むことで、処理の高速化が可能となる。
（５）前処理でボクセルを作成することで、３次元画素群の密度情報を容易に取得することができ、処理の高速化が可能となる。
（６）３次元情報を用いて前部位との連続性を確認することで、部位の位置を精度良く検出できる。
（７）連続性チェックで説明したように、許容ギャップ数を設けることで、腕時計等の影響による３次元情報の途切れにも対応できる。
（８）補完処理により、各部位の隠れなどにより未検出となった場合でも検出結果を出力することができ、ロバスト性が向上する。

以上、本発明のいくつかの実施の形態を説明したが、これらの実施の形態は、一例に過ぎず、特許請求の範囲に係る発明を限定するものではない。また、これら新規な実施の形態は、その他の様々な形態で実施されることが可能であり、本発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更等を行うことができる。

例えば、カメラ設置位置、角度は上記説明で示した例に限らない。また、カメラはＴＯＦカメラに限らない。また、ステレオカメラ等、他の距離センサでもよい。また、スケルトンモデルの定義で示したパラメータはそれに限らない。また、補完処理はここで示した例に限らない。また、検出する部位は肩、肘、手首、手に限らない。例えば、肩、肘、手としてもよい。また、首位置の算出は上記した方法に限らない。例えば、頭部の傾きを考慮した算出方法としてもよい。

また、これら実施の形態の中で説明した特徴の組合せの全てが発明の課題を解決するための手段に必須であるとは限らない。さらに、これら実施の形態は、発明の範囲及び要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

１…処理装置、５…乗員、８…車両、１０…ＴＯＦカメラ、２０…制御部、２０３…腰骨位置、２５０…母線、３００…頭部位置、３０５…首位置、３１０、３１１…肩位置、３２０、３２１…肘位置、３３０、３３１…手首位置、３４０、３４１…手位置、Ｐ…起点

Claims (16)

1. 車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を画素に割り当てた距離画像を取得する取得部と、
   前記車両の車室内空間における座標系と前記距離画像における座標系との対応関係に従って、特定の座標系を有した検出画像へと変換し、その検出画像において、前記乗員の特徴点を少なくとも１つ検出する特徴点検出処理を実行する制御部と、
   を有する処理装置。
2. 前記制御部は、規定された１つの特徴点を特定し、その規定された１つの特徴点を基準として、予め規定された特徴点探索モデルを順次照合して残りの特徴点を検出することを、前記特徴点検出処理として実行する、請求項１に記載の処理装置。
3. 前記制御部は、前記特徴点の周囲に位置するボクセルを含めたボクセルの集合を考え、前記ボクセルの集合におけるボクセル値の合計が閾値未満かどうかにより、前記特徴点の確からしさを判断する閾値処理を、前記特徴点検出処理の１つとして実行する、請求項１又は２に記載の処理装置。
4. 前記制御部は、前記ボクセル値の合計が閾値未満かどうかを判定する、前記ボクセルの集合を、規定された１つの特徴点である起点から当該特徴点とは別の特徴点である対象特徴点までの間を所定間隔で存在するボクセル群とする、請求項３に記載の処理装置。
5. 前記制御部は、前記起点から前記対象特徴点までの全てのボクセル群の各々におけるボクセル値の合計が閾値以上であれば、前記対象特徴点を確からしいものとする、請求項４に記載の処理装置。
6. 前記制御部は、前記起点から前記対象特徴点までのボクセル群において、規定された距離を示す個数のボクセル群におけるボクセル値の合計が閾値未満であっても、前記対象特徴点を確からしいものとする、請求項４または請求項５に記載の処理装置。
7. 前記制御部は、前記特徴点が未検出の場合、前フレームまでの検出結果を用いて補完処理を行う、請求項１から６までのいずれか１項に記載の処理装置。
8. 前記規定された１つの特徴点は、頭部である、請求項１から７までのいずれか１項に記載の処理装置。
9. 車両の乗員を含む撮像領域を撮像対象とした距離画像であって、前記撮像対象までの距離情報を画素に割り当てた距離画像を取得する取得ステップと、
   車両の車室内空間における座標系と距離画像における座標系との対応関係に従って、特定の座標系を有した検出画像へと変換し、その検出画像において、乗員の特徴点を少なくとも１つ検出する特徴点検出処理を実行する制御ステップとを、コンピュータに実行させるためのプログラム。
10. 前記制御ステップは、規定された１つの特徴点を特定し、その規定された１つの特徴点を基準として、予め規定された特徴点探索モデルを順次照合して残りの特徴点を検出することを、前記特徴点検出処理として実行する、請求項９に記載のプログラム。
11. 前記制御ステップは、前記特徴点の周囲に位置するボクセルを含めたボクセルの集合を考え、前記ボクセルの集合におけるボクセル値の合計が閾値未満かどうかにより、前記特徴点の確からしさを判断する閾値処理を、前記特徴点検出処理の１つとして実行する、請求項９又は１０に記載のプログラム。
12. 前記制御ステップは、前記ボクセル値の合計が閾値未満かどうかを判定する、前記ボクセルの集合を、規定された１つの特徴点である起点から当該特徴点とは別の特徴点である対象特徴点までの間を所定間隔で存在するボクセル群とする、請求項１１に記載のプログラム。
13. 前記制御ステップは、前記起点から前記対象特徴点までの全てのボクセル群の各々におけるボクセル値の合計が閾値以上であれば、前記対象特徴点を確からしいものとする、請求項１２に記載のプログラム。
14. 前記制御ステップは、前記起点から前記対象特徴点までのボクセル群において、規定された距離を示す個数のボクセル群におけるボクセル値の合計が閾値未満であっても、前記対象特徴点を確からしいものとする、請求項１２又は１３に記載のプログラム。
15. 前記制御ステップは、前記特徴点が未検出の場合、前フレームまでの検出結果を用いて補完処理を行う、請求項９から１４までのいずれか１項に記載のプログラム。
16. 前記制御ステップは、前記規定された１つの特徴点は、頭部である、請求項９から１５までのいずれか１項に記載のプログラム。