JP4259418B2

JP4259418B2 - 画像処理装置

Info

Publication number: JP4259418B2
Application number: JP2004224482A
Authority: JP
Inventors: 健一萩尾; 素生井狩
Original assignee: Panasonic Corp; Matsushita Electric Works Ltd
Current assignee: Panasonic Corp; Panasonic Electric Works Co Ltd
Priority date: 2004-07-30
Filing date: 2004-07-30
Publication date: 2009-04-30
Anticipated expiration: 2024-07-30
Also published as: JP2006046960A

Description

本発明は、対象空間の画像を用いて対象空間に存在する対象物の特徴を抽出する画像処理装置に関するものである。

従来から、対象空間を撮像した画像を用いて対象空間を監視したり対象空間内の対象物の外観を抽出したりする技術が種々提案されている（たとえば、特許文献１参照）。
特開平１１−２８４９９７号公報

ところで、上述した技術において用いている画像は、対象空間の明暗を反映した濃淡画像であって、外光の光量変化の影響を受けるから、光量にほとんど変化の生じない環境でしか使用できないという問題がある。また、濃淡画像では画像内に含まれる対象物までの距離を知ることができないから、対象物の実寸を濃淡画像から求めることは困難である。

本発明は上記事由に鑑みて為されたものであり、その目的は、対象空間の光量変化の影響を受けることなく対象物を抽出できるようにし、しかも対象物の実寸の推算を可能とした画像処理装置を提供することにある。

請求項１の発明は、対象空間に光を照射する発光源と、対象空間を受光光学系を通して撮像する光検出素子と、発光源から対象空間に照射され対象空間内の対象物で反射された反射光に対応する光検出素子の出力により対象物までの距離を求め画素値が距離値である距離画像を生成する画像生成部と、距離画像から着目する対象物を抽出する対象物抽出部と、対象物抽出部で抽出された対象物までの距離値と受光光学系および光検出素子の構成と距離画像内での対象物の寸法とから対象物の実寸を推算する実寸推算部と、前記距離画像から抽出される対象物の特徴量をあらかじめ登録されている複数種類のテンプレートから選択したテンプレートと照合し類似度を算出する類似度算出部と、類似度算出部で算出された類似度が最大になる部位をテンプレートに相当する対象物として判定する対象物判定部とを備え、類似度算出部では、対象物の実寸に応じてテンプレートをあらかじめ分類しておき、実寸推算部で求めた対象物の実寸に対応するテンプレートを選択することにより、対象物と照合するテンプレートの選択範囲を絞り込んだ後に、対象物とテンプレートとを照合することを特徴とする。

この構成によれば、光検出素子のダイナミックレンジの範囲内であれば外光光量の変化の影響を受けることなく同じ距離値を得ることができるから、対象物を正確に検出することが可能になるという利点がある。しかも、対象物までの距離値がわかるから対象物の実寸を推算することが可能になる。

さらに、複数種類のテンプレートが用意されているときに、対象物の実寸に応じてテンプレートをあらかじめ分類しておき、実寸推算部で求めた対象物の実寸によって対象物と照合するテンプレートの選択範囲を絞り込むから、対象物と照合すべきテンプレートの個数を削減することができ、対象物の特徴量とテンプレートとの照合に要する時間の短縮になる。

なお、対象物抽出部において対象物を抽出する技術としては、距離画像において対象物を含む領域の指定（領域の指定は、人が行う場合と、自動化する場合とがある）、距離画像の画素値を微分して得られる距離微分画像を２値化することによる対象物のエッジの抽出などを用いることができる。また、距離画像から抽出される対象物の特徴量としては、対象物の距離値の分布、対象物内の距離値の度数分布などを用いることができる。

本発明の構成によれば、光検出素子のダイナミックレンジの範囲内であれば外光光量の変化の影響を受けることなく同じ距離値を得ることができるから、対象物を正確に検出することが可能になるという利点がある。しかも、対象物までの距離値がわかるから対象物の実寸を推算することが可能になるという利点がある。加えて、複数種類のテンプレートが用意されているときに、対象物の実寸に応じてテンプレートをあらかじめ分類しておき、実寸推算部で求めた対象物の実寸によって対象物と照合するテンプレートの選択範囲を絞り込むから、対象物と照合すべきテンプレートの個数を削減することができ、対象物の特徴量とテンプレートとの照合に要する時間の短縮になるという利点がある。

本発明の実施形態を説明するにあたり、まず本実施形態で用いる距離画像センサの構成について説明する。

距離画像センサは、図１に示すように、対象空間に光を照射する発光源２を備えるとともに、対象空間からの光を受光し受光光量を反映した出力値の電気出力が得られる光検出素子１を備える。対象空間に存在する対象物Ｏｂまでの距離は、発光源２から対象空間に光が照射されてから対象物Ｏｂでの反射光が光検出素子１に入射するまでの時間（「飛行時間」と呼ぶ）によって求める。ただし、飛行時間は非常に短いから、対象空間に照射する光の強度が一定周期で周期的に変化するように変調した強度変調光を用い、強度変調光を受光したときの位相を用いて飛行時間を求める。なお、本発明の技術思想は、距離画像センサとして、飛行時間により距離画像を生成する構成のほか、三角測量法の原理によって距離画像を生成する構成においても採用可能である。ただし、以下に説明する構成の距離画像センサは、三角測量法の原理を用いる距離画像センサに比較して短時間で（ほぼ実時間）で距離画像を生成できるから、三角測量法の原理を採用した距離画像センサよりも好ましい。

図２（ａ）に示すように、発光源２から空間に放射する光の強度が曲線イのように変化し、光検出素子１で受光した受光光量が曲線ロのように変化するとすれば、位相差ψは飛行時間に相当するから、位相差ψを求めることにより対象物Ｏｂまでの距離を求めることができる。また、位相差ψは、曲線イの複数のタイミングで求めた曲線ロの受光光量を用いて計算することができる。たとえば、曲線イにおける位相が０度、９０度、１８０度、２７０度の位相で求めた曲線ロの受光光量がそれぞれＡ０、Ａ１、Ａ２、Ａ３であるとする（受光光量Ａ０、Ａ１、Ａ２、Ａ３を斜線部で示している）。ただし、各位相における受光光量Ａ０、Ａ１、Ａ２、Ａ３は、瞬時値ではなく所定の時間Ｔｗで積算した受光光量を用いる。いま、受光光量Ａ０、Ａ１、Ａ２、Ａ３を求める間に、位相差ψが変化せず（つまり、対象物Ｏｂまでの距離が変化せず）、かつ対象物Ｏｂの反射率にも変化がないものとする。また、発光源２から放射する光の強度を正弦波で変調し、時刻ｔにおいて光検出素子１で受光される光の強度がＡ・ｓｉｎ（ωｔ＋δ）＋Ｂで表されるものとする。ここに、Ａは振幅、Ｂは外光成分、ωは角振動数、δは位相である。光検出素子１で受光する受光光量Ａ０、Ａ１、Ａ２、Ａ３を時間Ｔｗの積算値ではなく瞬時値とすれば、受光光量Ａ０、Ａ１、Ａ２、Ａ３は、次のように表すことができる。
Ａ０＝Ａ・ｓｉｎ（δ）＋Ｂ
Ａ１＝Ａ・ｓｉｎ（π／２＋δ）＋Ｂ
Ａ２＝Ａ・ｓｉｎ（π＋δ）＋Ｂ
Ａ３＝Ａ・ｓｉｎ（３π／２＋δ）＋Ｂ
ここに、δ＝−ψであるから、Ａ０＝−Ａ・ｓｉｎ（ψ）＋Ｂ、Ａ１＝Ａ・ｃｏｓ（ψ）＋Ｂ、Ａ２＝Ａ・ｓｉｎ（ψ）＋Ｂ、Ａ３＝−Ａ・ｃｏｓ（ψ）＋Ｂであり、結果的に、各受光光量Ａ０、Ａ１、Ａ２、Ａ３と位相差ψとの関係は、次式のようになる。
ψ＝ｔａｎ^−１｛（Ａ２−Ａ０）／（Ａ１−Ａ３）｝ …（１）
（１）式では受光光量Ａ０、Ａ１、Ａ２、Ａ３の瞬時値を用いているが、受光光量Ａ０、Ａ１、Ａ２、Ａ３として時間Ｔｗにおける積算値を用いても（１）式で位相差ψを求めることができる。

上述のように対象空間に照射する光の強度を変調するために、発光源２としては、たとえば多数個の発光ダイオードを一平面上に配列したものや半導体レーザと発散レンズとを組み合わせたものなどを用いる。また、発光源２は、制御回路部３から出力される所定の変調周波数である変調信号によって駆動され、発光源２から放射される光は変調信号により強度が変調される。制御回路部３では、たとえば２０ＭＨｚの正弦波で発光源２から放射する光の強度を変調する。なお、発光源２から放射する光の強度は正弦波で変調する以外に、三角波、鋸歯状波などで変調してもよく、要するに、一定周期で強度を変調するのであれば、どのような構成を採用してもよい。

光検出素子１は、規則的に配列された複数個の感光部１１を備える。また、感光部１１への光の入射経路には受光光学系１０が配置される。感光部１１は光検出素子１において対象空間からの光が受光光学系１０を通して入射する部位であって、感光部１１において受光光量に応じた量の電荷を生成する。また、感光部１１は、平面格子の格子点上に配置され、たとえば垂直方向（つまり、縦方向）と水平方向（つまり、横方向）とにそれぞれ等間隔で複数個ずつ並べたマトリクス状に配列される。

受光光学系１０は、光検出素子１から対象空間を見るときの視線方向と各感光部１１とを対応付ける。すなわち、受光光学系１０を通して各感光部１１に光が入射する範囲を、受光光学系１０の中心を頂点とし各感光部１１ごとに設定された頂角の小さい円錐状の視野とみなすことができる。したがって、発光源２から放射され対象空間に存在する対象物Ｏｂで反射された反射光が感光部１１に入射すれば、反射光を受光した感光部１１の位置により、受光光学系１０の光軸を基準方向として対象物Ｏｂの存在する方向を知ることができる。

受光光学系１０は一般に感光部１１を配列した平面に光軸を直交させるように配置されるから、受光光学系１０の中心を原点とし、感光部１１を配列した平面の垂直方向と水平方向と受光光学系１０の光軸とを３軸の方向とする直交座標系を設定すれば、対象空間に存在する対象物Ｏｂの位置を球座標で表したときの角度（いわゆる方位角と仰角）が各感光部１１に対応する。なお、受光光学系１０は、感光部１１を配列した平面に対して光軸が９０度以外の角度で交差するように配置することも可能である。

本実施形態では、上述のように、対象物Ｏｂまでの距離を求めるために、発光源２から対象空間に照射される光の強度変化に同期する４点のタイミングで受光光量Ａ０、Ａ１、Ａ２、Ａ３を求めている。したがって、目的の受光光量Ａ０、Ａ１、Ａ２、Ａ３を得るためのタイミングの制御が必要である。また、発光源２から対象空間に照射される光の強度変化の１周期において感光部１１で発生する電荷の量は少ないから、複数周期に亘って電荷を集積することが望ましい。そこで、図１のように各感光部１１で発生した電荷をそれぞれ集積する複数個の電荷集積部１３を設けるとともに、各感光部１１において利用できる電荷を生成する領域の面積を変化させることにより各感光部１１の感度をそれぞれ調節する複数個の感度制御部１２を設けている。

各感度制御部１２では、感度制御部１２に対応する感光部１１の感度を上述した４点のうちのいずれかのタイミングで高め、感度が高められた感光部１１では当該タイミングの受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を主として生成するから、当該受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を当該感光部１１に対応する電荷集積部１３に集積させることができる。

ところで、感度制御部１２は感光部１１において利用できる電荷を生成する領域の面積（実質的な受光面積）を変化させることにより各期間の電荷の生成量を変化させるものであるから、電荷集積部１３に集積された電荷は必ずしも受光光量Ａ０、Ａ１、Ａ２、Ａ３が得られる期間に生成された電荷だけではなく、他の期間に生成された電荷も混入することになる。いま、感度制御部１２において、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応した電荷を生成する期間の感度をα、それ以外の期間の感度をβとし、感光部１１は受光光量に比例する電荷を生成するものとする。この条件では、受光光量Ａ０に対応した電荷を集積する電荷集積部１３には、αＡ０＋β（Ａ１＋Ａ２＋Ａ３）＋βＡｘ（Ａｘは受光光量Ａ０、Ａ１、Ａ２、Ａ３が得られる期間以外の受光光量）に比例する電荷が蓄積され、受光光量Ａ２に対応した電荷を集積する電荷集積部１３には、αＡ２＋β（Ａ０＋Ａ１＋Ａ３）＋βＡｘに比例する電荷が蓄積される。上述したように、位相差ψを求める際には（Ａ２−Ａ０）を求めており、Ａ２−Ａ０＝（α−β）（Ａ２−Ａ０）になり、同様にしてＡ１−Ａ３＝（α−β）（Ａ１−Ａ３）になるから、（Ａ２−Ａ０）／（Ａ１−Ａ３）は電荷の混入の有無によらず理論上は同じ値になるのであって、電荷が混入しても求める位相差ψは同じ値になる。

感光部１１と感度制御部１２と電荷集積部１３とを備える光検出素子１は１つの半導体装置として構成され、光検出素子１には電荷集積部１３に集積された電荷を半導体装置の外部に取り出すために電荷取出部１４が設けられる。電荷取出部１４はＣＣＤイメージセンサにおける垂直転送部および水平転送部と同様の構成を有する。

電荷取出部１４から取り出された電荷は画像生成部４に画像信号として与えられ、画像生成部４において対象空間内の対象物Ｏｂまでの距離が上述した（１）式を用いて受光光量Ａ０、Ａ１、Ａ２、Ａ３から算出される。すなわち、画像生成部４では各感光部１１に対応した各方向における対象物Ｏｂまでの距離が算出され、対象空間の三次元情報が算出される。この三次元情報を用いると、対象空間の各方向に一致する画素の画素値が距離値である距離画像を生成することができる。

以下に光検出素子１の具体的構造例を説明する。図３に示す光検出素子１は、複数個（たとえば、１００×１００個）の感光部１１をマトリクス状に配列したものであって、たとえば１枚の半導体基板上に形成される。感光部１１のうち垂直方向の各列では一体に連続する半導体層２１を共用するとともに半導体層２１を垂直方向への電荷（本実施形態では、電子を用いる）の転送経路として用い、さらに各列の半導体層２１の一端から電荷を受け取って水平方向に電荷を転送するＣＣＤである水平転送部Ｔｈを半導体基板に設ける構成を採用することができる。

すなわち、図４に示すように、半導体層２１が感光部１１と電荷の転送経路とに兼用された構造であって、フレーム・トランスファ（ＦＴ）方式のＣＣＤイメージセンサと類似した構造になる。また、ＦＴ方式のＣＣＤイメージセンサと同様に、感光部１１を配列した撮像領域Ｄａに隣接して遮光された蓄積領域Ｄｂを設けてあり、蓄積領域Ｄｂに蓄積した電荷を水平転送部Ｔｈに転送する。撮像領域Ｄａから蓄積領域Ｄｂへの電荷の転送は垂直ブランキング期間に一気に行い、水平転送部Ｔｈでは１水平期間に１水平ライン分の電荷を転送する。図１に示した電荷取出部１４は、半導体層２１における垂直方向への電荷の転送経路としての機能とともに水平転送部Ｔｈを含む機能を表している。ただし、電荷集積部１３は蓄積領域Ｄｂを意味するのではなく、撮像領域Ｄａにおいて電荷を集積する機能を表している。言い換えると、蓄積領域Ｄｂは電荷取出部１４に含まれる。

半導体層２１は不純物が添加してあり、半導体層２１の主表面は酸化膜からなる絶縁膜２２により覆われ、半導体層２１に絶縁膜２２を介して複数個の制御電極２３を配置している。この光検出素子１はＭＩＳ素子として知られた構造であるが、１個の光検出素子１として機能する領域に複数個（図示例では５個）の制御電極２３を備える点が通常のＭＩＳ素子とは異なる。絶縁膜２２および制御電極２３は発光源２から対象空間に照射される光と同波長の光が透過するように材料が選択され、絶縁膜２２を通して半導体層２１に光が入射すると、半導体層２１の内部に電荷が生成される。図示例の半導体層２１の導電形はｎ形であり、光の照射により生成される電荷として電子ｅを利用する。図３は１個の感光部１１に対応する領域のみを示したものであり、半導体基板（図示せず）には上述したように図３の構造を持つ領域が複数個配列されるとともに電荷取出部１４となる構造が設けられる。電荷取出部１４として設ける垂直転送部は、図３の左右方向に電荷を転送することを想定しているが、図３の面に直交する方向に電荷を転送する構成を採用することも可能である。また、電荷を図の左右方向に転送する場合には、制御電極２３の左右方向の幅寸法を１μｍ程度に設定するのが望ましい。

この構造の光検出素子１では、制御電極２３に正の制御電圧＋Ｖを印加すると、半導体層２１には制御電極２３に対応する部位に電子ｅを集積するポテンシャル井戸（空乏層）２４が形成される。つまり、半導体層２１にポテンシャル井戸２４を形成するように制御電極２３に制御電圧を印加した状態で光が半導体層２１に照射されると、ポテンシャル井戸２４の近傍で生成された電子ｅの一部はポテンシャル井戸２４に捕獲されてポテンシャル井戸２４に集積され、残りの電子ｅは半導体層２１の深部での再結合により消滅する。また、ポテンシャル井戸２４から離れた場所で生成された電子ｅも半導体層２１の深部での再結合により消滅する。

ポテンシャル井戸２４は制御電圧を印加した制御電極２３に対応する部位に形成されるから、制御電圧を印加する制御電極２３の個数を変化させることによって、半導体層２１の主表面に沿ったポテンシャル井戸２４の面積（言い換えると、受光面において利用できる電荷を生成する領域の面積）を変化させることができる。つまり、制御電圧を印加する制御電極２３の個数を変化させることは感度制御部１２における感度の調節を意味する。たとえば、図３（ａ）のように３個の制御電極２３に制御電圧＋Ｖを印加する場合と、図３（ｂ）のように１個の制御電極２３に制御電圧＋Ｖを印加する場合とでは、ポテンシャル井戸２４が受光面に占める面積が変化するのであって、図３（ａ）の状態のほうがポテンシャル井戸２４の面積が大きいから、図３（ｂ）の状態に比較して同光量に対して利用できる電荷の割合が多くなり、実質的に感光部１１の感度を高めたことになる。このように、感光部１１および感度制御部１２は半導体層２１と絶縁膜２２と制御電極２３とにより構成されていると言える。ポテンシャル井戸２４は光照射により生成された電荷を保持するから電荷集積部１３として機能する。

ポテンシャル井戸２４から電荷を取り出すには、ＦＴ方式のＣＣＤと同様の技術を採用すればよく、ポテンシャル井戸２４に電子ｅが集積された後に、電荷の集積時とは異なる印加パターンの制御電圧を制御電極２３に印加することによってポテンシャル井戸２４に集積された電子ｅを一方向（たとえば、図の右方向）に転送することができる。つまり、半導体層２１をＣＣＤの垂直転送部と同様に電荷の転送経路に用いることができる。さらに、電荷は図４に示した水平転送部Ｔｈを転送され、半導体基板に設けた図示しない電極から光検出素子１の外部に取り出される。要するに、制御電極２３への制御電圧の印加パターンを制御することにより、各感光部１１ごとの感度を制御するとともに、光照射により生成された電荷を集積し、さらに集積された電荷を転送することができる。

本実施形態における感度制御部１２は、利用できる電荷を生成する面積を大小２段階に切り換えることにより感光部１１の感度を高低２段階に切り換えるのであって、受光光量Ａ０、Ａ１、Ａ２、Ａ３のいずれかに対応する電荷を感光部１１で生成しようとする期間にのみ高感度とし（電荷を生成する面積を大きくし）、他の期間には低感度にする。高感度にする期間と低感度にする期間とは、発光源２を駆動する変調信号に同期させて設定される。また、変調信号の複数周期に亘ってポテンシャル井戸２４に電荷を集積した後に電荷取出部１４を通して光検出素子１の外部に電荷を取り出すようにしている。変調信号の複数周期に亘って電荷を集積しているのは、変調信号の１周期内では感光部１１が利用可能な電荷を生成する期間が短く（たとえば、変調信号の周波数を２０ＭＨｚとすれば５０ｎｓの４分の１以下）、生成される電荷が少ないからである。つまり、変調信号の複数周期分の電荷を集積することにより、信号電荷（発光源２から照射された光に対応する電荷）と雑音電荷（外光成分および光検出素子１の内部で発生するショットノイズに対応する電荷）との比を大きくとることができ、大きなＳＮ比が得られる。

ところで、位相差ψを求めるのに必要な４種類の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を１個の感光部１１で生成するとすれば、視線方向に関する分解能は高くなるが、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を求める時間差が大きくなるという問題が生じる。一方、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を４個の感光部１１でそれぞれ生成するとすれば、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を求める時間差は小さくなるが、４種類の電荷を求める視線方向にずれが生じ視線方向に関する分解能は低下する。そこで、本実施形態では、２個の感光部１１を用いることにより、変調信号の１周期内で受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を２種類ずつ生成する構成を採用している。つまり、２個の感光部１１を組にして用い、組になる２個の感光部１１に同じ視線方向からの光が入射するようにしている。

上述の構成を採用することにより、視線方向の分解能を比較的高くし、かつ受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する時間差を少なくすることができる。つまり、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する時間差を少なくしていることにより、対象空間の中で移動している対象物Ｏｂについても距離の検出精度を比較的高く保つことができる。なお、本実施形態の構成では、１個の感光部１１で４種類の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する場合よりも視線方向の分解能が低下するが、視線方向の分解能については感光部１１の小型化や受光光学系１０の設計によって向上させることが可能である。

以下に動作を具体的に説明する。図３に示した例では、１個の感光部１１について５個の制御電極２３を設けた例を示しているが、両側の２個の制御電極２３は、感光部１１で電荷（電子ｅ）を生成している間に隣接する感光部１１に電荷が流出するのを防止するための障壁を形成するものであって、２個の感光部１１を組にして用いる場合には隣接する感光部１１のポテンシャル井戸２４の間には、いずれかの感光部１１で障壁が形成されるから、各感光部１１には３個ずつの制御電極２３を設けるだけで足りることになる。この構成によって、感光部１１の１個当たりの占有面積が小さくなり、２個の感光部１１を組にして用いながらも視線方向の分解能の低下を抑制することが可能になる。

ここでは、図５に示すように、組にした２個の感光部１１にそれぞれ設けた３個ずつの制御電極２３を区別するために各制御電極２３に（１）〜（６）の数字を付す。（１）〜（６）の数字を付与した制御電極２３を有する２個の感光部１１は、１つの視線方向に対応しておりイメージセンサにおける画素を構成する。なお、１画素ずつの感光部１１に対応付けて、それぞれオーバフロードレインを設けるのが望ましい。

図５（ａ）（ｂ）はそれぞれ制御電極２３に異なる印加パターンで制御電圧＋Ｖを印加した状態（半導体基板に設けた図示しない基板電極と制御電極２３との間に制御電圧＋Ｖを印加した状態）を示しており、ポテンシャル井戸２４の形状からわかるように、図５（ａ）では１画素となる２個の感光部１１のうち制御電極（１）〜（３）に正の制御電圧＋Ｖを印加するとともに、残りの制御電極（４）〜（６）のうちの中央の制御電極（５）に正の制御電圧＋Ｖを印加している。また、図５（ｂ）では制御電極（１）〜（３）のうちの中央の制御電極（２）に正の制御電圧＋Ｖを印加するとともに、残りの制御電極（４）〜（６）に正の制御電圧＋Ｖを印加している。つまり、１画素を構成する２個の感光部１１に印加する制御電圧＋Ｖの印加パターンを交互に入れ換えている。２個の感光部１１に印加する制御電圧＋Ｖの印加パターンを入れ換えるタイミングは、変調信号における逆位相の（位相が１８０度異なる）タイミングになる。なお、各感光部１１に設けた３個の制御電極２３に同時に制御電圧＋Ｖを印加している期間以外は、各感光部１１に設けた中央部の１個の制御電極２３（つまり、制御電極（２）（５））にのみ制御電圧＋Ｖを印加し、他の制御電極２３は０Ｖに保つ状態とする。

たとえば、１画素を構成する２個の感光部１１において受光光量Ａ０、Ａ２に対応する電荷を交互に生成する場合は、図２のように、一方の感光部１１で受光光量Ａ０に対応する電荷を生成するために３個の制御電極（１）〜（３）に制御電圧＋Ｖを印加している間に、他方の感光部１１では受光光量Ａ２に対応する電荷を保持するために１個の制御電極（５）にのみ制御電圧＋Ｖを印加する。同様にして、一方の感光部１１で受光光量Ａ２に対応する電荷を生成するために３個の制御電極（４）〜（６）に制御電圧＋Ｖを印加している間には、他方の感光部１１では受光光量Ａ０に対応する電荷を保持するために１個の制御電極（２）にのみ制御電圧＋Ｖを印加する。また、受光光量Ａ０、Ａ２に対応する電荷を生成する期間以外では制御電極（２）（５）にのみ制御電圧＋Ｖを印加する。図２（ｂ）（ｃ）に受光光量Ａ０、Ａ２に対応する電荷を蓄積する際の各制御電極（１）〜（６）に制御電圧＋Ｖの印加のタイミングを示す。図において斜線部が制御電圧＋Ｖを印加している状態を示し、空白部が制御電極（１）〜（６）に電圧を印加していない状態を示している。

１画素を構成する２個の感光部１１において受光光量Ａ１、Ａ３に対応する電荷を生成する場合も同様であって、受光光量Ａ０、Ａ２に対応する電荷を生成する場合とは制御電極２３に制御電圧＋Ｖを印加するタイミングが、変調信号の位相における９０度異なる点が相違するだけである。また、受光光量Ａ０、Ａ１に対応する電荷を生成する期間と、受光光量Ａ１、Ａ３に対応する電荷を生成する期間との間で撮像領域から蓄積領域に電荷を転送する。つまり、受光光量Ａ０に対応する電荷が制御電極（１）〜（３）に対応するポテンシャル井戸２４に蓄積されるとともに、受光光量Ａ２に対応する電荷が制御電極（４）〜（６）に対応するポテンシャル井戸２４に蓄積されると、これらの受光光量Ａ０、Ａ２に対応する電荷を外部に取り出す。次に、受光光量Ａ１に対応する電荷が制御電極（１）〜（３）に対応するポテンシャル井戸２４に蓄積されるとともに、受光光量Ａ３に対応する電荷が制御電極（４）〜（６）に対応するポテンシャル井戸２４に蓄積されると、これらの受光光量Ａ１、Ａ３に対応する電荷を外部に取り出す。このような動作を繰り返すことによって、４区間の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を２回の読出動作で光出力素子１の外部に取り出すことができ、取り出した電荷を用いて位相差ψを求めることが可能になる。なお、たとえば３０フレーム毎秒の画像を得るためには、受光光量Ａ０、Ａ１に対応する電荷を生成する期間と受光光量Ａ１、Ａ３に対応する電荷を生成する期間とは６０分の１秒よりも短い期間とする。

上述の例では３個の制御電極２３（（１）〜（３）または（４）〜（６））に同時に印加する制御電圧と、１個の制御電極２３（（２）または（５））にのみ印加する制御電圧とを等しくしているから、ポテンシャル井戸２４の面積は変化するもののポテンシャル井戸２４の深さは等しくなっている。この場合、制御電圧を印加していない制御電極２３（（１）（３）または（４）（６））において生成された電荷は、同程度の確率でポテンシャル井戸２４に流れ込む。つまり、感光部１１を構成する３個の制御電極２３のうちの１個にのみ制御電圧＋Ｖを印加することによって電荷集積部１３として機能している領域と、３個の制御電極２３のすべてに制御電圧＋Ｖを印加している領域との両方に同程度の量の電荷が流れ込む。つまり、電荷を保持しているポテンシャル井戸２４に流れ込む雑音成分が比較的多いものであるから、ダイナミックレンジを低下させる原因になる。

そこで、図６のように、組になる２個の感光部１１に設けた各３個の制御電極（１）〜（３）または（４）〜（６）に同時に印加する制御電圧が、１個の制御電極（２）または（５）にのみ印加する制御電圧よりも高くなるように設定し、大面積のポテンシャル井戸２４を小面積のポテンシャル井戸２４よりも深く設定するのが望ましい。このように、主として電荷（電子ｅ）を生成しているポテンシャル井戸２４を、主として電荷の保持を行っているポテンシャル井戸２４よりも深くすることにより、制御電圧を印加していない制御電極（１）（３）または（４）（６）に対応する部位で生じた電荷は、深いほうのポテンシャル井戸２４に流れ込みやすくなる。つまり、制御電極２３に一定の制御電圧＋Ｖを印加する場合に比較すると、電荷を保持するポテンシャル井戸２４に流れ込む雑音成分を低減することができる。

なお、上述した距離画像センサの構成例では、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する４期間を変調信号の１周期内で位相の間隔が９０度ずつになるように設定しているが、変調信号に対する位相が既知であれば４期間は９０度以外の適宜の間隔で設定することが可能である。ただし、間隔が異なれば位相差ψを求める算式は異なる。また、４期間の受光光量に対応した電荷を取り出す周期は、対象物Ｏｂの反射率および外光成分が変化せず、かつ位相差ψも変化しない時間内であれば、変調信号の１周期内で４個の信号電荷を取り出すことも必須ではない。さらに、太陽光や照明光のような外乱光の影響があるときには、発光源２から放射される光の波長のみを透過させる光学フィルタを感光部１１の前に配置するのが望ましい。図５、図６を用いて説明した構成例では、感光部１１ごとに３個ずつの制御電極２３を対応付けているが、制御電極２３を４個以上設けるようにしてもよい。また、上述の例ではＦＴ方式のＣＣＤイメージセンサと同様の構成を採用しているが、インターライン・トランスファ（ＩＴ）方式、フレーム・インターライン・トランスファ（ＦＩＴ）方式と同様の構成を採用することも可能である。

次に、上述した距離画像センサを用いて対象空間に存在する対象物Ｏｂの実寸を推算する技術について説明する。ここでは、距離画像を生成する際の光検出素子１への外光成分の入射を低減するために、発光源２から赤外線を対象空間に照射し、光検出素子１の前方に赤外線透過フィルタを配置しているものとする。

図１に示すように、画像生成部４で生成された距離画像は対象物抽出部５に与えられ、対象物抽出部５において距離画像から対象物Ｏｂが抽出される。距離画像から対象物Ｏｂを抽出する方法には種々の方法がある。もっとも簡単な方法としては距離画像をモニタ装置の画面に表示し、所望の対象物Ｏｂを含む矩形領域をマウスなどによって指定する方法を採用することができる。対象物Ｏｂを自動的に抽出する場合には、たとえば距離画像の距離値を微分した後に２値化して対象物Ｏｂのエッジに相当する領域を抽出し、抽出された領域のうち対象物Ｏｂを抽出しようとする距離範囲内に存在する領域を対象物Ｏｂの候補領域とし、さらに候補領域がひとかたまりになるか否かを評価し（たとえば、隣接する２個の候補領域間の三次元空間での距離差が閾値以下である場合に、両候補領域を連続した１つの対象物Ｏｂに含まれる領域とみなす）、さらに、ひとかたまりになる領域（つまり、連結領域）に囲まれる画素数と距離値とを用いて対象物Ｏｂの大きさを評価すればよい（同じ対象物Ｏｂであれば、画素数は距離の二乗に反比例する）。あるいはまた、対象物Ｏｂが移動する場合には、距離画像の距離値を微分した後に２値化し、異なる時刻の距離画像から得られる２値化した画像の差分をとれば、移動した対象物Ｏｂを抽出することができる。さらにまた、着目する対象物Ｏｂを背景から分離するために、あらかじめ対象物Ｏｂの存在しない状態で背景のみから生成した距離画像と、対象物Ｏｂが存在する状態で生成した距離画像との差分画像（対応する各画素ごとの差分を画素値に持つ画像）を生成し、この差分画像について微分および２値化を行えば対象物Ｏｂの存在する領域の抽出が容易になる。

距離値の微分は以下のように行う。距離値を微分したときの微分値は、着目する画素の８近傍を用いて求められる値であって、本実施形態では、図７のような３×３平方領域の中央の画素ｐ５を着目する画素とするときに、他の画素ｐ１〜ｐ４，ｐ６〜ｐ９の距離値Ｂ１〜Ｂ４，Ｂ６〜Ｂ９を用いることにより（２）式で表される。
（ΔＸ^２＋ΔＹ^２）^１／２ …（２）
ただし、
ΔＸ＝（Ｂ１＋Ｂ４＋Ｂ７）−（Ｂ３＋Ｂ６＋Ｂ９）
ΔＹ＝（Ｂ１＋Ｂ２＋Ｂ３）−（Ｂ７＋Ｂ８＋Ｂ９）
（２）式によって求めた距離微分値を画素値に持つ距離微分画像においては距離画像における距離差の大きい部位ほど距離微分値が大きくなる。

上述したように対象物抽出部５において対象物Ｏｂの存在領域が抽出されると、対象物Ｏｂの存在領域と距離画像とは実寸推算部７に与えられ、実寸推算部７では対象物Ｏｂまでの距離値と受光光学系１０および光検出素子１の構成と距離画像内での対象物の寸法とから対象物の実寸を推算する。すなわち、光検出素子１の画素の位置は対象空間に対する視線方向に対応しており、距離画像センサにより得られる距離画像と合わせることによって、対象空間に存在する対象物Ｏｂの三次元の位置を特定することができるから、距離画像の距離値を対象空間の実寸に合致するように校正してあれば、対象物Ｏｂの各部位の三次元空間での座標位置を求めることによって、対象物Ｏｂについて実寸を算出することができる。

ところで、対象物Ｏｂまでの距離値は対象物Ｏｂの各部位で異なり、とくに対象物Ｏｂの形状が複雑であるときには、対象物Ｏｂの各部位について三次元空間での座標位置を求める演算は処理量の増加につながる。ここで、移動する対象物Ｏｂを追跡する場合のように、対象物Ｏｂの実寸を求める精度が比較的低くてもよい場合には、対象物Ｏｂの実寸を求める演算の処理量を低減することが可能である。そこで、本実施形態では、実寸推算部６において、距離画像から得られる三次元空間を複数の判定領域に分割し、対象物Ｏｂが移動し対象物Ｏｂの存在する判定領域が変わると実寸を推算するようにし、このときに用いる対象物Ｏｂまでの距離として判定領域の代表点の位置を用いている。判定領域の代表点としては、判定領域の領域内の平均距離を用いたり、判定領域の重心位置を用いたりすることができる。この技術を採用した場合に、対象空間を斜め上方から俯瞰して撮像することにより得られる距離画像では対象物Ｏｂの実寸として求められる値に含まれる誤差成分が距離によって変化するが、対象物Ｏｂが移動する平面に平行または直交する方向から対象空間を撮像する場合には大きな誤差成分の変化は少なくなる。

実寸推算部６で推算された対象物Ｏｂの実寸は、本実施形態では、追跡処理部７に与える。追跡処理部７では、実寸推算部６で推算した各判定領域における対象物Ｏｂの実寸の差分を求め、この差分が規定範囲内であれば、実寸のほぼ等しい対象物Ｏｂが判定領域間で移動したことになるから、両判定領域に存在する対象物Ｏｂは同一の対象物Ｏｂであると判断する。このように各判定領域における対象物Ｏｂの同一性の判断を対象物Ｏｂの実寸によって行うことで、対象物Ｏｂの追跡が可能になる。なお、対象物Ｏｂの同一性を判断する他の技術とこの技術とを併用すれば、移動する対象物Ｏｂの同一性をより確実に保証することができる。

上述した例では距離画像から得られる三次元空間を複数の判定領域に分割しているが、本実施形態の距離画像は時系列で得られるから、追跡処理部７では異なる時刻に撮像した距離画像に含まれる対象物Ｏｂの実寸について差分を求め、差分が規定範囲内である対象物Ｏｂを同一の対象物Ｏｂとみなす構成を採用してもよい。この構成を採用すると、判定領域の分割が不要になる。

ところで、対象物抽出部５で抽出した対象物Ｏｂについて着目している対象物Ｏｂか否かを判断する技術として、従来からテンプレートとの照合を行う技術が知られている。テンプレートと照合する場合には、対象物抽出部５で対象物Ｏｂの特徴量を抽出しておき、この特徴量を類似度算出部８においてテンプレートと照合する。対象物Ｏｂの特徴量としては、対象物Ｏｂの存在領域における距離値の分布（位置ごとの距離値、あるいは距離値の度数分布）を用いたり、距離微分画像から得られる対象物Ｏｂの存在領域における距離微分値の分布（位置ごとの距離微分値、あるいは距離微分値の度数分布）を用いたりすることができる。

テンプレートと照合するには、距離画像内の対象物Ｏｂの大きさに一致するようにテンプレートの大きさを変化させる必要があり、一般にはテンプレートの大きさを数段階に変化させて、各大きさで対象物Ｏｂとの類似度を求め、類似度が最大になる大きさのテンプレートを選択している。これに対して、本実施形態における類似度算出部８では、実寸推算部６で推算された対象物Ｏｂの実寸と対象物抽出部５で抽出された対象物Ｏｂまでの距離値とから距離画像内での対象物Ｏｂの拡大縮小率を求め、求めた拡大縮小率を用いてテンプレートを拡大縮小した後に対象物Ｏｂの特徴量をテンプレートと照合する。要するに、対象物Ｏｂの実寸がわかっているから、対象物Ｏｂまでの距離値によって着目している対象物Ｏｂの距離画像内での大きさに対応するテンプレートの大きさを一意に決定することができるのである。このようにテンプレートの大きさを一意に決定して類似度を算出するから、テンプレートの大きさを複数段階に変化させる場合に比較してテンプレートとの照合に要する処理量を大幅に低減することができる。

テンプレートは、欠陥のない基準となる対象物Ｏｂに関する距離画像から対象物抽出部５において抽出した対象物Ｏｂの特徴量であって、類似度算出部８に設けたテンプレート記憶部８ａにあらかじめ登録される。テンプレートが登録された後に、類似度算出部８では対象物Ｏｂの距離画像から抽出した対象物Ｏｂの特徴量に対してテンプレートを走査し、テンプレートに含まれる各特徴量とテンプレートに重複する部位の特徴量との差分の総和を類似度を評価する値として算出する。算出された値は対象物抽出部９に与えられ、対象物抽出部９では、類似度算出部８で得られた値が最小値（類似度が最大）になり、かつ当該値が規定の閾値以下であるときに、テンプレートに一致する対象物Ｏｂが存在すると判断し、このときのテンプレートの代表点の位置を対象物Ｏｂの位置とする。

上述した例では１種類のテンプレートとの照合について説明したが、複数種類のテンプレートと対象物Ｏｂとを照合した結果の類似度に基づいて、対象物判定部９において対象物Ｏｂの種類を特定する場合もある。この場合、テンプレート記憶部８ａには複数種類のテンプレートが登録され、類似度算出部８では対象物Ｏｂに照合するテンプレートをテンプレート記憶部８ａに登録されたテンプレートの中から選択することが必要になる。テンプレートの選択にあたっては、あらかじめテンプレートを対象物Ｏｂの実寸に応じて分類しておき、実寸推算部６で推算した対象物Ｏｂの実寸に対応するテンプレートを選択すればテンプレートの選択が容易になり、対象物Ｏｂと照合するテンプレートの種類が絞り込まれるから、対象物Ｏｂとテンプレートとの照合に要する処理量を低減することができる。

たとえば、テンプレートを対象物Ｏｂとしての人と照合する場合に、身長階層別に複数のテンプレートをあらかじめ記憶しておき、実寸推算部６で推算した実寸に対応するテンプレートを選択することができる。この構成によって、身長が１３０ｃｍ以上か否かというような判定が可能になり、遊園地の乗り物での入場規制などに応用できる。

なお、上述した例では、テンプレートとのマッチングする対象を対象物Ｏｂの距離画像から抽出した特徴量としているが、濃淡画像から抽出した特徴量をテンプレートと照合する場合でも、距離画像から求めた対象物Ｏｂの実寸を用いることにより、テンプレートの大きさを対象物Ｏｂに一致させたり複数種類のテンプレートから対象物Ｏｂに照合するテンプレートを絞り込んだりすることが可能である。

本発明の実施形態を示すブロック図である。同上の動作説明図である。同上に用いる光検出素子の要部の動作説明図である。同上に用いる光検出素子の平面図である。同上に用いる光検出素子の要部の動作説明図である。同上に用いる光検出素子の要部の動作説明図である。同上の微分処理部の動作説明図である。

符号の説明

１光検出素子
２発光源
３制御回路部
４画像生成部
５対象物抽出部
６実寸推算部
７追跡処理部
８類似度算出部
９対象物判定部
１０受光光学系
Ｏｂ対象物

Claims

対象空間に光を照射する発光源と、対象空間を受光光学系を通して撮像する光検出素子と、発光源から対象空間に照射され対象空間内の対象物で反射された反射光に対応する光検出素子の出力により対象物までの距離を求め画素値が距離値である距離画像を生成する画像生成部と、距離画像から着目する対象物を抽出する対象物抽出部と、対象物抽出部で抽出された対象物までの距離値と受光光学系および光検出素子の構成と距離画像内での対象物の寸法とから対象物の実寸を推算する実寸推算部と、前記距離画像から抽出される対象物の特徴量をあらかじめ登録されている複数種類のテンプレートから選択したテンプレートと照合し類似度を算出する類似度算出部と、類似度算出部で算出された類似度が最大になる部位をテンプレートに相当する対象物として判定する対象物判定部とを備え、類似度算出部では、対象物の実寸に応じてテンプレートをあらかじめ分類しておき、実寸推算部で求めた対象物の実寸に対応するテンプレートを選択することにより、対象物と照合するテンプレートの選択範囲を絞り込んだ後に、対象物とテンプレートとを照合することを特徴とする画像処理装置。