JP4645177B2

JP4645177B2 - 計測装置

Info

Publication number: JP4645177B2
Application number: JP2004347713A
Authority: JP
Inventors: 裕司高田; 裕介橋本; 扶美常定
Original assignee: Panasonic Corp; Matsushita Electric Works Ltd
Current assignee: Panasonic Corp; Panasonic Electric Works Co Ltd
Priority date: 2004-11-30
Filing date: 2004-11-30
Publication date: 2011-03-09
Anticipated expiration: 2024-11-30
Also published as: JP2006153771A

Description

本発明は、対象物を撮像した画像を用いて対象物の実寸を計測する計測装置に関するものである。

一般に対象物を撮像することにより得られる画像は、対象空間の明暗を反映した濃淡画像であって、この種の濃淡画像を用いることにより、対象物の形状を認識したり、対象物の外観上の欠陥を検出したりする技術が従来から知られている（たとえば、特許文献１参照）。

一方、対象物の特定部位の実寸を遠方から求めるには、対象物の特定部位までの距離を求める必要がある。対象物の特定部位までの距離を求める技術としては、点状ないし線状の光パターンを対象物の特定部位に照射するとともに、光パターンの反射光をＰＳＤのような位置検出素子で受光し、三角測量法の原理を用いて位置検出素子の出力を距離に換算する技術が知られている（たとえば、特許文献２参照）。
特開平１１−２８４９９７号公報特開昭６４−１０１０８号公報

上述した両技術を組み合わせれば、対象物を撮像した濃淡画像の中で対象物の所望位置間の距離を計測するに際して、三角測量法の原理により求めた対象物の特定部位までの距離と、濃淡画像を撮像する際の構成と、濃淡画像の中での対象物の特定部位の位置とを用いることによって、対象物の特定部位の間の実寸を求めることが可能になる。

しかしながら、対象物の特定部位の間の実寸を求めるために、濃淡画像を撮像するＴＶカメラのような撮像装置と位置検出素子を用いた測距装置とを併用するとすれば、装置の構成が複雑になり装置が大型化するという問題が生じる上に、撮像装置により撮像された濃淡画像の画像内での各位置と測距装置で距離を求めた位置とを対応付けることが必要になり、実寸を求めるための処理量が多くなるという問題が生じる。

本発明は上記事由に鑑みて為されたものであり、その目的は、撮像装置と測距装置とをを組み合わせて用いる必要がなく１種類の装置で対象物の特定部位の実寸を求めることを可能として簡単な構成で実寸を求めることができ、しかも対象物の濃淡画像における画像内での各位置への距離の対応付けの処理を不要とした計測装置を提供することにある。

請求項１の発明は、強度が周期的に変化する強度変調光を対象空間に照射する発光源と、受光光量に応じた電気出力を発生する複数個の感光部が配列され対象空間を撮像する光検出素子と、発光源から対象空間に照射された光が対象空間内の対象物で反射され各感光部で受光されるまでの強度変調光の位相差を対象物までの距離に換算した距離値を画素値とする距離画像と各感光部の受光光量である濃淡値を画素値とする濃淡画像とを同じ感光部の受光光量からそれぞれ生成する画像生成部と、画像生成部で生成された距離画像と濃淡画像とについてそれぞれ微分を行い距離画像と濃淡画像とからそれぞれ求めた輪郭線の一致部分または両方の輪郭線を対象物の輪郭線として抽出し対象物について輪郭線上で複数の計測点を指定する計測点抽出部と、計測点抽出部で指定された前記計測点の位置の画素について画像生成部で生成された距離画像から求めた距離値と距離画像内での前記計測点の位置とから対象物において前記複数の計測点に対応する部位間の実寸を算出する実寸算出部とを備え、計測点抽出部は、画像生成部で生成された濃淡画像を画面上に表示するモニタ装置と、モニタ装置の画面上で所望位置を前記計測点として指定する操作が可能な位置指定装置とを備えることを特徴とする。
請求項２の発明は、強度が周期的に変化する強度変調光を対象空間に照射する発光源と、受光光量に応じた電気出力を発生する複数個の感光部が配列され対象空間を撮像する光検出素子と、発光源から対象空間に照射された光が対象空間内の対象物で反射され各感光部で受光されるまでの強度変調光の位相差を対象物までの距離に換算した距離値を画素値とする距離画像と各感光部の受光光量である濃淡値を画素値とする濃淡画像とを同じ感光部の受光光量からそれぞれ生成する画像生成部と、画像生成部で生成された距離画像と濃淡画像とについてそれぞれ微分を行い距離画像と濃淡画像とからそれぞれ求めた輪郭線の一致部分または両方の輪郭線を対象物の輪郭線として抽出し対象物の輪郭線上で複数の計測点を指定する計測点抽出部と、計測点抽出部で指定された前記計測点の位置の画素について画像生成部で生成された距離画像から求めた距離値と距離画像内での前記計測点の位置とから対象物において前記複数の計測点に対応する部位間の実寸を算出する実寸算出部とを備え、計測点抽出部は、画像生成部で生成された濃淡画像から規定の形状の対象物を抽出するとともに、当該形状についてあらかじめ複数箇所に設定されている計測点を前記計測点として指定することを特徴とする。

請求項１、請求項２の構成によれば、光検出素子の各感光部で受光した受光光量によって対象物の濃淡画像と距離画像とを生成するから、対象物に関する濃淡画像を得る構成と対象物に関する距離を得る構成とを１種類の装置で実現することができ、個々に設けた撮像装置と測距装置とを組み合わせるものに比較すれば構成が簡単になる。しかも、光検出素子の各感光部の１つの出力から対象空間の各位置に関する濃度値と距離値とを得ることができ、濃度値と距離値とが同じ画素から得られるから、濃淡画像内での対象物の位置と距離値との対応付けの処理が不要になる。さらに、距離画像と濃淡画像とについてそれぞれ微分を行うことにより抽出した対象物の輪郭線上で計測点を抽出しているから、同じ対象物について同じ計測点を指定できる可能性が高くなる。
加えて、請求項１の構成では、利用者が、モニタ装置に表示された濃淡画像によって対象物を確認し、位置指定装置によって計測点を指定することができるから、必要箇所のみ実寸を算出することができる。
また、請求項２の構成では、濃淡画像から規定の形状の対象物を抽出し、その形状についてあらかじめ設定されている計測点に対応する部位の実寸を算出するから、実寸の計測が自動化され、しかも利用者による計測点の指定を行わないから、計測の再現性が期待でき、計測結果のばらつきが少なくなる。

請求項３の発明では、請求項１または請求項２の発明において、前記画像生成部で生成された距離画像と濃淡画像との少なくとも一方から対象物の三次元形状を推定する形状推定部と、形状推定部で推定された形状について実寸算出部で求められる特徴寸法を用いて対象物の体積を算出する体積算出部とが付加されていることを特徴とする。

この構成によれば、対象物の三次元形状を推定し、実寸算出部で求めた対象物の特徴寸法を用いて対象物の体積を算出するから、立体的な対象物について一方向から撮像しているにもかかわらず対象物の体積を求めることができる。ここに、対象物の三次元形状の推定において、距離画像と濃淡画像との一方のみを用いる場合でも、輪郭線の形状と対象物の三次元形状との関係に関する知識を用いたり、テンプレートとのマッチングを行うことによって三次元形状を特定することができるが、距離画像と濃淡画像との両方を用いる場合には、対象物に関する情報量が多くなるから、対象物の三次元形状をより正確に推定することが可能になる。

本発明の構成によれば、光検出素子の各感光部で受光した受光光量によって対象物の濃淡画像と距離画像とを生成するから、対象物に関する濃淡画像を得る構成と対象物に関する距離を得る構成とを１種類の装置で実現することができ、個々に設けた撮像装置と測距装置とを組み合わせるものに比較すれば構成が簡単になるという利点がある。しかも、光検出素子の各感光部の１つの出力から対象空間の各位置に関する濃度値と距離値とを得ることができ、濃度値と距離値とが同じ画素から得られるから、濃淡画像内での対象物の位置と距離値との対応付けの処理が不要になるという利点を有する。

まず、本実施形態で用いる距離画像センサの基本構成について説明する。距離画像センサ１０は、図１に示すように、対象空間に光を照射する発光源２を備えるとともに、対象空間からの光を受光し受光光量を反映した出力が得られる光検出素子１を備える。対象空間に存在する対象物Ｏｂまでの距離は、発光源２から対象空間に光が照射されてから対象物Ｏｂでの反射光が光検出素子１に入射するまでの時間（「飛行時間」と呼ぶ）によって求める。ただし、飛行時間は非常に短いから、対象空間に照射する光の強度が一定周期で周期的に変化するように変調した強度変調光を用い、強度変調光を受光したときの位相を用いて飛行時間を求める。

図２（ａ）に示すように、発光源２から空間に放射する光の強度が曲線イのように変化し、光検出素子１で受光した受光光量が曲線ロのように変化するとすれば、位相差ψは飛行時間に相当するから、位相差ψを求めることにより対象物Ｏｂまでの距離を求めることができる。また、位相差ψは、曲線イの複数のタイミングで求めた曲線ロの受光光量を用いて計算することができる。たとえば、曲線イにおける位相が０度、９０度、１８０度、２７０度の位相で求めた曲線ロの受光光量がそれぞれＡ０、Ａ１、Ａ２、Ａ３であるとする（受光光量Ａ０、Ａ１、Ａ２、Ａ３を斜線部で示している）。ただし、各位相における受光光量Ａ０、Ａ１、Ａ２、Ａ３は、瞬時値ではなく所定の受光期間Ｔｗで積算した受光光量を用いる。いま、受光光量Ａ０、Ａ１、Ａ２、Ａ３を求める間に、位相差ψが変化せず（つまり、対象物Ｏｂまでの距離が変化せず）、かつ対象物Ｏｂの反射率にも変化がないものとする。また、発光源２から放射する光の強度を正弦波で変調し、時刻ｔにおいて光検出素子１で受光される光の強度がＡ・ｓｉｎ（ωｔ＋δ）＋Ｂで表されるものとする。ここに、Ａは振幅、Ｂは直流成分（外光成分と反射光成分との平均値）、ωは角振動数、δは初期位相である。光検出素子１で受光する受光光量Ａ０、Ａ１、Ａ２、Ａ３を受光期間Ｔｗの積算値ではなく瞬時値とし、変調信号の周期に同期した時刻ｔ＝ｎ／ｆ（ｎ＝０、１、２、…、ｆは変調の周波数）における受光光量を、Ａ０＝Ａ・ｓｉｎ（δ）＋Ｂとすれば、受光光量Ａ０、Ａ１、Ａ２、Ａ３は、次のように表すことができる。なお、反射光成分とは、発光源２から放射され対象物Ｏｂにより反射された後に光検出素子１に入射する光の成分を意味する。
Ａ０＝Ａ・ｓｉｎ（δ）＋Ｂ
Ａ１＝Ａ・ｓｉｎ（π／２＋δ）＋Ｂ
Ａ２＝Ａ・ｓｉｎ（π＋δ）＋Ｂ
Ａ３＝Ａ・ｓｉｎ（３π／２＋δ）＋Ｂ
図２では位相差がψであるから、光検出素子１で受光する光の強度変化の波形における初期位相δ（時刻ｔ＝０の位相）は−ψになる。つまり、δ＝−ψであるから、Ａ０＝−Ａ・ｓｉｎ（ψ）＋Ｂ、Ａ１＝Ａ・ｃｏｓ（ψ）＋Ｂ、Ａ２＝Ａ・ｓｉｎ（ψ）＋Ｂ、Ａ３＝−Ａ・ｃｏｓ（ψ）＋Ｂであり、結果的に、各受光光量Ａ０、Ａ１、Ａ２、Ａ３と位相差ψとの関係は、次式のようになる。
ψ＝ｔａｎ^−１｛（Ａ２−Ａ０）／（Ａ１−Ａ３）｝ …（１）
（１）式では受光光量Ａ０、Ａ１、Ａ２、Ａ３の瞬時値を用いているが、受光光量Ａ０、Ａ１、Ａ２、Ａ３として受光期間Ｔｗにおける積算値を用いても（１）式で位相差ψを求めることができる。

また、光検出素子１で受光される光の強度をＡ・ｃｏｓ（ωｔ＋δ）＋Ｂとする場合、つまり変調信号の周期に同期した時刻ｔ＝ｎ／ｆ（ｎ＝０、１、２、…）における受光光量を、Ａ０＝Ａ・ｃｏｓ（δ）＋Ｂとすれば、位相差ψを次式で求めることができる。
ψ＝ｔａｎ^−１｛（Ａ１−Ａ３）／（Ａ０−Ａ２）｝
この関係は、変調信号に同期させるタイミングを９０度ずらした関係である。また、距離値の符号は正であるから、位相差ψを求めたときに符号が負になる場合には、ｔａｎ^−１の括弧内の分母または分子の各項の順序を入れ換えるか括弧内の絶対値を用いるようにしてもよい。

上述のように対象空間に照射する光の強度を変調するために、発光源２としては、たとえば多数個の発光ダイオードを一平面上に配列したものや半導体レーザと発散レンズとを組み合わせたものなどを用いる。また、発光源２は、制御回路部３から出力される所定の変調周波数である変調信号によって駆動され、発光源２から放射される光は変調信号により強度が変調される。制御回路部３では、たとえば２０ＭＨｚの正弦波で発光源２から放射する光の強度を変調する。なお、発光源２から放射する光の強度は正弦波で変調する以外に、三角波、鋸歯状波などで変調してもよく、要するに、一定周期で強度を変調するのであれば、どのような構成を採用してもよい。

光検出素子１は、規則的に配列された複数個の感光部１１を備える。また、感光部１１への光の入射経路には受光光学系９が配置される。感光部１１は光検出素子１において対象空間からの光が受光光学系９を通して入射する部位であって、感光部１１において受光光量に応じた量の電荷を生成する。つまり、感光部１１は受光光量に応じた電気出力を発生する。また、感光部１１は、平面格子の格子点上に配置され、たとえば垂直方向（つまり、縦方向）と水平方向（つまり、横方向）とにそれぞれ等間隔で複数個ずつ並べたマトリクス状に配列される。

受光光学系９は、光検出素子１から対象空間を見るときの視線方向と各感光部１１とを対応付ける。すなわち、受光光学系９を通して各感光部１１に光が入射する範囲を、受光光学系９の中心を頂点とし各感光部１１ごとに設定された頂角の小さい円錐状の視野とみなすことができる。したがって、発光源２から放射され対象空間に存在する対象物Ｏｂで反射された反射光が感光部１１に入射すれば、反射光を受光した感光部１１の位置により、受光光学系９の光軸を基準方向として対象物Ｏｂの存在する方向を知ることができる。

受光光学系９は一般に感光部１１を配列した平面に光軸を直交させるように配置されるから、受光光学系９の中心を原点とし、感光部１１を配列した平面の垂直方向と水平方向と受光光学系９の光軸とを３軸の方向とする直交座標系を設定すれば、対象空間に存在する対象物Ｏｂの位置を球座標で表したときの角度（いわゆる方位角と仰角）が各感光部１１に対応する。なお、受光光学系９は、感光部１１を配列した平面に対して光軸が９０度以外の角度で交差するように配置することも可能である。

本実施形態では、上述のように、対象物Ｏｂまでの距離を求めるために、発光源２から対象空間に照射される光の強度変化に同期する４点のタイミングで受光光量Ａ０、Ａ１、Ａ２、Ａ３を求めている。したがって、目的の受光光量Ａ０、Ａ１、Ａ２、Ａ３を得るためのタイミングの制御が必要である。また、発光源２から対象空間に照射される光の強度変化の１周期において感光部１１で発生する電荷の量は少ないから、複数周期に亘って電荷を集積することが望ましい。そこで、図１のように各感光部１１で発生した電荷をそれぞれ集積する複数個の電荷集積部１３を設けるとともに、各感光部１１の感度をそれぞれ調節する複数個の感度制御部１２を設けている。

各感度制御部１２では、感度制御部１２に対応する感光部１１の感度を上述した４点のうちのいずれかのタイミングで高め、感度が高められた感光部１１では当該タイミングの受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を主として生成するから、当該受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を当該感光部１１に対応する電荷集積部１３に集積させることができる。

以下では、感度制御部１２の具体的な構成として、感光部１１で生成された電荷のうち電荷集積部１３に与える電荷の割合を調節する技術と、実質的に感光部１１として機能する部位の面積を変化させる技術とを示す。電荷集積部１３に与える電荷の割合を調節する技術には、感光部１１から電荷集積部１３への通過率を調節する技術と、感光部１１から電荷を廃棄する廃棄率を調節する技術と、通過率と廃棄率との両方を調節する技術とがある。

感度制御部１２において通過率と廃棄率とを調節する技術では、図３に示すように、感光部１１と電荷集積部１３との間にゲート電極１２ａを設け、ゲート電極１２ａに印加する通過電圧を変化させることにより、感光部１１から電荷集積部１３への電荷の移動（つまり、通過率）を制御する。また、電荷廃棄部１２ｃを設け、電荷廃棄部１２ｃに付設した廃棄電極１２ｂに印加する廃棄電圧を変化させることにより、感光部１１から電荷廃棄部１２ｃへの電荷の移動（つまり、廃棄率）を制御する。電荷集積部１３は感光部１１ごとに一対一に対応するように設けられ、電荷廃棄部１２ｃは複数個の感光部１１に共通させて一対多に対応するように設けられる。図示例では、光検出素子１のすべての感光部１１で１組の廃棄電極１２ｂおよび電荷廃棄部１２ｃを共用している。

感度を制御するために、感光部１１からの電荷の廃棄を行わずに感光部１１から電荷集積部１３への通過率の制御のみを行うことが考えられるが、電荷の廃棄を行わなければ感光部１１において電荷が暫時残留するから、感光部１１で生成された電荷のうち不要な残留電荷が、利用する電荷（以下、信号電荷という）に雑音成分として混入する。したがって、信号電荷への残留電荷の混入を防止するために、ゲート電極１２ａに印加する通過電圧だけでなく廃棄電極１２ｂに印加する廃棄電圧を制御する。

ゲート電極１２ａと廃棄電極１２ｂとを用いて感度を制御するには、ゲート電極１２ａに印加する通過電圧を一定電圧に保つことにより感光部１１で生成された電荷を電荷集積部１３に通過可能としておき、感光部１１で生成された電荷のうち信号電荷に用いる電荷が生成される期間以外には感光部１１から電荷廃棄部１２ｃに電荷が移動するように廃棄電極１２ｂに廃棄電圧を印加する。要するに、感光部１１において信号電荷として用いる電荷が生成される期間にのみ電荷廃棄部１２ｃへの電荷の廃棄を行わず、他の期間には電荷廃棄部１２ｃに電荷を廃棄することにより、信号電荷として用いようとする期間に生成された電荷のみを電荷集積部１３に集積する。

いま、図４（ａ）のような変調信号により発光源２から空間に照射される光の強度が変調されているとする。電荷集積部１３には変調信号の複数周期（数万〜数十万周期）において変調信号に同期する特定の区間の受光光量Ａ０，Ａ１，Ａ２，Ａ３に相当する電荷を集積し、各区間の電荷の集積毎に集積した信号電荷を取り出して次の区間の電荷を集積する。たとえば、受光光量Ａ０に相当する電荷を変調信号の数万周期について集積すると、この受光光量Ａ０に相当する信号電荷を一旦外部に取り出し、その後、受光光量Ａ１に相当する電荷を変調信号の数万周期について集積する。

図４は受光光量Ａ０に相当する電荷を集積している状態を示しており、図４（ｂ）に示すようにゲート電極１２ａに印加する通過電圧を一定電圧に保っている。また、受光光量Ａ０に相当する電荷としては、変調信号の位相が０〜９０度の区間において感光部１１で生成された電荷を採用している。つまり、廃棄電極１２ｂには、図４（ｃ）のように変調信号の位相が９０〜３６０度の区間において、感光部１１で生成される電荷を不要電荷とするように廃棄電圧を印加する。この制御により、図４（ｄ）のように所望の区間の受光光量Ａ０に対応した信号電荷を電荷集積部１３に集積することが可能になる。図４に示す処理は変調信号の数万〜数十万周期について行われ、この期間に電荷集積部１３に得られた信号電荷は受光光量Ａ０に対応する受光出力として電荷取出部１４により取り出される。

電荷取出部１４から取り出された電荷は画像生成部４に画像信号として与えられ、画像生成部４において、対象空間内の対象物Ｏｂまでの距離が、上述した（１）式を用いて受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する受光出力から算出される。すなわち、画像生成部４では各感光部１１に対応した各方向における対象物Ｏｂまでの距離が算出され、対象空間の三次元情報が算出される。この三次元情報を用いると、対象空間の各方向に一致する画素の画素値が距離値である距離画像を生成することができる。

なお、上述の制御では、廃棄電極１２ｂに廃棄電圧を印加している期間においてゲート電極１２ａにも一定電圧である通過電圧を印加しているが、廃棄電圧と通過電圧との大小関係を適宜に設定すれば、不要電荷を廃棄している期間には信号電荷がほとんど集積されないようにすることができる。また、変調信号の数万〜数十万周期について電荷を集積しているのは、集積する電荷量を多くすることによって高感度化するためであり、変調信号をたとえば２０ＭＨｚと設定すれば、３０フレーム／秒で信号電荷を取り出すとしても、数十万周期以上の集積が可能になる。

上述したように、廃棄電極１２ｂを備えた電荷廃棄部１２ｃを設け、感光部１１に生じた電荷のうち信号電荷として利用しない不要電荷を電荷廃棄部１２ｃに積極的に廃棄しているから、感光部１１において電荷集積部１３に信号電荷を与えていない期間に感光部１１で生成される電荷はほとんどが不要電荷として廃棄されることになり、信号電荷への雑音成分の混入が大幅に抑制される。

上述の例では、ゲート電極１２ａに一定電圧である通過電圧を印加している期間に廃棄電極１２ｂに廃棄電圧を印加する期間と印加しない期間とを設けることによって、廃棄電圧が印加されていない期間において感光部１１に生成された電荷を信号電荷として用いているが、図５に示すように、ゲート電極１２ａに通過電圧を印加する期間と廃棄電極１２ｂに廃棄電圧を印加する期間とが重複しないように制御してもよい。

図５は受光光量Ａ０に対応する信号電荷を集積する場合の動作を示している。図５（ａ）は発光源２から空間に照射される光の強度を変調する変調信号を示しており、ゲート電極１２ａには、図５（ｂ）のように、受光光量Ａ０に対応するタイミングで通過電圧を印加する。ゲート電極１２ａに通過電圧を印加する期間は、変調信号の位相における０度から一定期間（図示例では０〜９０度）に設定され、この期間において感光部１１から電荷集積部１３への電荷の移動が可能になる。一方、廃棄電極１２ｂには、図５（ｃ）のように、電荷集積部１３に受光光量Ａ０に相当する信号電荷を集積する期間以外において廃棄電圧を印加し、信号電荷を集積する期間以外では感光部１１で生成した電荷を不要電荷として電荷廃棄部１２ｃに廃棄する。このような制御によって、図５（ｄ）のように受光光量Ａ０に相当する信号電荷を取り出すことが可能になる。

図５に示す制御では、ゲート電極１２ａに通過電圧を印加している期間と廃棄電極１２ｂに廃棄電圧を印加している期間とが異なるから、図４に示した制御例のように通過電圧と廃棄電圧との大小関係を考慮しなくとも通過電圧と廃棄電圧との大きさを独立して制御することができ、結果的に通過電圧および廃棄電圧の制御が容易になり、感光部１１で受光した光量に対して信号電荷を取り込む割合である感度の制御が容易になるとともに、感光部１１で生成された電荷のうち不要電荷として廃棄する割合の制御が容易になる。また、図５に示す制御例では、電荷集積部１３に信号電荷を集積する期間はゲート電極１２ａに印加する通過電圧により規定されるから、廃棄電極１２ｂに廃棄電圧を印加する期間を短縮することが可能であり、たとえば、ゲート電極１２ａに通過電圧を印加する直前の所定期間にのみ廃棄電極１２ｂに廃棄電圧を印加することも可能である。

図５に示す制御を行えば、感光部１１で生成した電荷を電荷集積部１３に信号電荷として集積していない期間において感光部１１で生成される電荷をほとんど不要電荷として廃棄するから、信号電荷への雑音成分の混入が大幅に抑制されることになる。

通過電圧と廃棄電圧との制御例としては、図６に示すように、廃棄電極１２ｂに印加する廃棄電圧を一定電圧に保って感光部１１で生成された電荷の一部をつねに廃棄するようにしてもよい。図６の制御例では、ゲート電極１２ａに通過電圧を印加する期間と印加しない期間とを設け、通過電圧を印加する期間を電荷集積部１３に信号電荷を集積する期間としている。

図６は受光光量Ａ０に相当する信号電荷を集積する場合の動作を示している。図６（ａ）は発光源２から空間に照射される光の強度を変調する変調信号を示しており、電荷集積部１３に設けたゲート電極１２ａには、図６（ｂ）のように、受光光量Ａ０に対応する期間に通過電圧が印加され、感光部１１において生成された電荷を受光光量Ａ０に相当する信号電荷として電荷集積部１３に集積する。つまり、ゲート電極１２ａに通過電圧を印加する期間は、変調信号の位相における０度から一定期間（図示例では０〜９０度）に設定され、この期間において感光部１１から電荷集積部１３への電荷の移動が可能になる。一方、廃棄電極１２ｂには、図６（ｃ）のように、直流電圧である一定電圧の廃棄電圧がつねに印加され、感光部１１で生成された電荷の一部をつねに不要電荷として電荷廃棄部１２ｃに廃棄する。上述の制御では、信号電荷を電荷集積部１３に集積する期間にのみゲート電極１２ａに通過電圧を印加しているから、図６（ｄ）のように受光光量Ａ０に相当する信号電荷を取り出すことが可能になる。

図６に示す制御では、ゲート電極１２ａに通過電圧を印加しているか否かにかかわらず廃棄電極１２ｂに一定電圧の廃棄電圧を印加しているから、感光部１１において生成された電荷のうち電荷集積部１３に信号電荷として集積されなかった不要電荷は、廃棄電荷として電荷廃棄部１２ｃに廃棄される。ここで、感光部１１で生成された電荷の一部を信号電荷として電荷集積部１３に集積する期間においても感光部１１から電荷廃棄部１２ｃへの電荷の廃棄が継続しているから、信号電荷を電荷集積部１３に適正に集積するために、通過電圧と廃棄電圧との大小関係を考慮する必要がある。ただし、廃棄電圧は一定電圧であって廃棄電極１２ｂにつねに印加しているだけであるから、実際には通過電圧のみを制御すればよく、制御自体は容易である。

図３に示した感度制御部１２を備える光検出素子１は、オーバーフロードレインを備えたＣＣＤイメージセンサにより実現することができる。ＣＣＤイメージセンサにおける電荷の転送方式はどのようなものでもよく、インターライントランスファ（ＩＴ）方式、フレームトランスファ（ＦＴ）方式、フレームインターライントランスファ（ＦＩＴ）方式のいずれであってもよい。

図７に縦型オーバーフロードレインを備えるインターライントランスファ方式のＣＣＤイメージセンサの構成を示す。図示例は、感光部１１となるフォトダイオード４１を水平方向と垂直方向とに複数個ずつ（図では３×４個）配列した２次元イメージセンサであって、垂直方向に配列したフォトダイオード４１の各列の右側方にＣＣＤからなる垂直転送レジスタ４２を備え、フォトダイオード４１および垂直転送レジスタ４２が配列された領域の下方にＣＣＤからなる水平転送レジスタ４３を備える。垂直転送レジスタ４２は各フォトダイオード４１ごとに２個ずつの転送電極４２ａ，４２ｂを備え、水平転送レジスタ４３は各垂直転送レジスタ４２ごとに２個ずつの転送電極４３ａ，４３ｂを備える。

フォトダイオード４１と垂直転送レジスタ４２と水平転送レジスタ４３とは１枚の半導体基板４０上に形成され、半導体基板４０の主表面には、フォトダイオード４１と垂直転送レジスタ４２と水平転送レジスタ４３との全体を囲む形でアルミニウム電極であるオーバーフロー電極４４が、半導体基板４０の全周に亘って絶縁膜を介さずに半導体基板４０に直接接触するように設けられる。オーバーフロー電極４４に半導体基板４０に対して正極性になる適宜の廃棄電圧を印加すればフォトダイオード４１で生成された電子（電荷）はオーバーフロー電極４４を通して廃棄される。オーバーフロー電極４４は、感光部１１であるフォトダイオード４１において生成した電荷のうち不要電荷を廃棄する際に廃棄電圧が印加されるから廃棄電極１２ｂとして機能し、オーバーフロー電極４４に廃棄電圧を印加する電源が感光部１１で生成された電子（電荷）を廃棄する電荷廃棄部１２ｃとして機能する。半導体基板４０の表面はフォトダイオード４１に対応する部位を除いて遮光膜４６（図８参照）により覆われる。

図７に示したＣＣＤイメージセンサについて、１個のフォトダイオード４１に関連する部分を切り出して図８に示す。半導体基板４０にはｎ形半導体を用い、半導体基板４０の主表面にはフォトダイオード４１と垂直転送レジスタ４２とに跨る領域にｐ形半導体からなるウェル領域３１を形成している。ウェル領域３１は、フォトダイオード４１に対応する領域に比較して垂直転送レジスタ４２に対応する領域の厚み寸法が大きくなるように形成してある。ウェル領域３１のうちフォトダイオード４１に対応する領域にはｎ^＋形半導体層３２を重ねて設けてあり、ウェル領域３１とｎ^＋形半導体層３２とのｐｎ接合によってフォトダイオード４１が形成される。フォトダイオード４１の表面にはｐ^＋形半導体からなる表面層３３を積層してある。表面層３３はフォトダイオード４１で生成された電荷を垂直転送レジスタ４２に移動させる際に、ｎ^＋形半導体層３２の表面付近が電荷の通過経路にならないように制御する目的で設けてある。このような構造は、埋込フォトダイオードとして知られている。

ウェル領域３１のうち垂直転送レジスタ４２に対応する領域にはｎ形半導体からなる蓄積転送層３４を重ねて設けてある。蓄積転送層３４の表面と表面層３３の表面とは略同一平面であって、蓄積転送層３４の厚み寸法は表面層３３の厚み寸法よりも大きくしてある。蓄積転送層３４は、表面層３３とは接触しているが、ｎ^＋形半導体層３２との間には、表面層３３と不純物濃度が等しいｐ^＋形半導体からなる分離層３５が介在する。蓄積転送層３４の表面には、絶縁膜４５を介して転送電極４２ａ，４２ｂが配置される。転送電極４２ａ，４２ｂは１個のフォトダイオード４１に対して２個ずつ設けられ、垂直方向において２個の転送電極４２ａ，４２ｂのうちの一方は他方よりも広幅に形成される。具体的には、図９のように、１個のフォトダイオード４１に対応する２個の転送電極４２ａ，４２ｂのうち狭幅の転送電極４２ｂは平板状に形成されており、広幅の転送電極４２ａは、幅狭の転送電極４２ｂと同一平面上に配列され一対の転送電極４２ｂの間に配置される平板状の部分と、平板状の部分の垂直方向（図９の左右方向）における両端部からそれぞれ延長され転送電極４２ｂの上に重複する湾曲した部分とを備える。ここに、絶縁膜４５はＳｉＯ_２により形成され、また転送電極４２ａ，４２ｂはポリシリコンにより形成され、各転送電極４２ａ，４２ｂは絶縁膜４５を介して互いに絶縁されている。さらに、フォトダイオード４１に光を入射させる部位を除いて光検出素子１の表面は遮光膜４６により覆われる。ウェル領域３１において垂直転送レジスタ４２に対応する領域および蓄積転送層３４は垂直転送レジスタ４２の全長に亘って形成され、したがって、蓄積転送層３４には広幅の転送電極４２ａと狭幅の転送電極４２ｂとが交互に配列される。

上述した光検出素子１では、フォトダイオード４１が感光部１１に相当し、転送電極４２ａがゲート電極１２ａに相当し、オーバーフロー電極４４が廃棄電極１２ｂに相当し、垂直転送レジスタ４２が電荷集積部１３および電荷取出部１４の一部として機能する。また、水平転送レジスタ４３も電荷取出部１４の一部になる。すなわち、フォトダイオード４１に光が入射すれば電荷が生成され、フォトダイオード４１で生成された電荷のうち垂直転送レジスタ４２に信号電荷として引き渡される電荷の割合は転送電極４２ａに印加する通過電圧とオーバーフロー電極４４に印加する廃棄電圧との関係によって決めることができる。転送電極４２ａに通過電圧を印加すると蓄積転送層３４にポテンシャル井戸が形成され、通過電圧の制御によりポテンシャル井戸の深さを制御することができる。したがって、ポテンシャル井戸の深さおよび通過電圧を印加する時間とを制御すれば、フォトダイオード４１から垂直転送レジスタ４２に引き渡される電荷の割合を調節することができる。また、オーバーフロー電極４４に印加する廃棄電圧を制御すれば、フォトダイオード４１と半導体基板４０との間の電位勾配を制御することができるから、電位勾配と廃棄電圧を印加する時間とを制御すれば、垂直転送レジスタ４２に引き渡される電荷の割合を調節することができる。通過電圧と廃棄電圧とは図４ないし図６に示した制御例のように制御すればよい。

フォトダイオード４１から垂直転送レジスタ４２に引き渡された信号電荷は、上述した４区間の受光光量Ａ０，Ａ１，Ａ２，Ａ３のうちの各１区間の受光光量Ａ０，Ａ１，Ａ２，Ａ３に相当する信号電荷が集積されるたびに読み出される。たとえば、受光光量Ａ０に相当する信号電荷が各フォトダイオード４１に対応して形成されるポテンシャル井戸に集積されると信号電荷を読み出し、次に受光光量Ａ１に相当する信号電荷がポテンシャル井戸に集積されると再び信号電荷を読み出すという動作を繰り返す。なお、各受光光量Ａ０，Ａ１，Ａ２，Ａ３に相当する信号電荷を集積する期間は等しく設定しておく。

ところで、上述した制御例のうち、図４に示す制御例では、感光部１１（フォトダイオード４１）で生成された電荷（電子）を電荷集積部１３（垂直転送レジスタ４２）に対してつねに引き渡しているから、電荷集積部１３に集積された電荷は必ずしも目的の受光光量Ａ０、Ａ１、Ａ２、Ａ３が得られる期間に生成された電荷だけではなく、目的外の期間に生成された電荷も混入することになる。いま、感度制御部１２において、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応した電荷を生成する期間（つまり、受光期間Ｔｗ）の感度をα、それ以外の期間（以下では、「保持期間」と呼ぶ）の感度をβとし、感光部１１は受光光量に比例する電荷を生成するものとする。この条件では、受光光量Ａ０に対応した電荷を集積する電荷集積部１３には、αＡ０＋β（Ａ１＋Ａ２＋Ａ３）＋βＡｘ（Ａｘは受光光量Ａ０、Ａ１、Ａ２、Ａ３が得られる期間以外の受光光量）に比例する電荷が集積され、受光光量Ａ２に対応した電荷を集積する電荷集積部１３には、αＡ２＋β（Ａ０＋Ａ１＋Ａ３）＋βＡｘに比例する電荷が集積される。上述したように、位相差ψを求める際には（Ａ２−Ａ０）を求めており、（Ａ２−Ａ０）に相当する値を電荷集積部１３に集積した電荷から求めると（α−β）（Ａ２−Ａ０）になり、同様にして（Ａ１−Ａ３）に相当する値は（α−β）（Ａ１−Ａ３）になるから、（Ａ２−Ａ０）／（Ａ１−Ａ３）は電荷の混入の有無によらず理論上は同じ値になるのであって、電荷が混入しても求める位相差ψは同じ値になる。

上述した構成例では、ＣＣＤイメージセンサを光検出素子１に用い、電荷集積部１３に通過させる電荷の量と、電荷廃棄部１２ｃに廃棄する電荷の量との少なくとも一方を制御することにより感度制御部１２を構成する例を示したが、以下に示す感度制御部１２は、感光部１１において利用できる電荷を生成する領域の面積（実質的な受光面積）を変化させるものである。

以下に光検出素子１の具体的構造例を説明する。図１０に示す光検出素子１は、複数個（たとえば、１００×１００個）の感光部１１をマトリクス状に配列したものであって、たとえば１枚の半導体基板上に形成される。１個の感光部１１は不純物を添加した半導体層２１に酸化膜からなる絶縁膜２２を介して複数個（図では５個）の制御電極２３を配列した構成を有する。図示例では制御電極２３が並ぶ方向（左右方向）が垂直方向であり、感光部１１で生成した電荷（本実施形態では、電子を用いる）を取り出す際には、垂直転送レジスタにより電荷を垂直方向に転送した後、水平転送レジスタを用いて水平方向に転送される。つまり、垂直転送レジスタと水平転送レジスタとにより電荷取出部１４が構成される。垂直転送レジスタおよび水平転送レジスタの構成には、ＣＣＤイメージセンサにおけるインターライントランスファ（ＩＴ）方式、フレームトランスファ（ＦＴ）方式、フレームインターライントランスファ（ＦＩＴ）方式と同様の構成を採用することができる。

すなわち、垂直方向に並ぶ各感光部１１が一体に連続する半導体層２１を共用するとともに半導体層２１を垂直転送レジスタに用いれば、半導体層２１が感光部１１と電荷の転送経路とに兼用された構造になり、ＦＴ方式のＣＣＤイメージセンサと同様にして電荷を垂直方向に転送することができ、また、感光部１１から転送ゲートを介して垂直転送レジスタに電荷を転送すれば、ＩＴ方式またはＦＩＴ方式のＣＣＤイメージセンサと同様にして電荷を転送することができる。

上述のように、半導体層２１は不純物が添加してあり、半導体層２１の主表面は酸化膜からなる絶縁膜２２により覆われ、半導体層２１に絶縁膜２２を介して複数個の制御電極２３を配置している。この光検出素子１はＭＩＳ素子として知られた構造であるが、１個の光検出素子１として機能する領域に複数個（図示例では５個）の制御電極２３を備える点が通常のＭＩＳ素子とは異なる。絶縁膜２２および制御電極２３は発光源２から対象空間に照射される光と同波長の光が透過するように材料が選択され、絶縁膜２２を通して半導体層２１に光が入射すると、半導体層２１の内部に電荷が生成される。図示例の半導体層２１の導電形はｎ形であり、光の照射により生成される電荷として電子ｅを利用する。図１０は１個の感光部１１に対応する領域のみを示したものであり、半導体基板（図示せず）には上述したように図１０の構造を持つ領域が複数個配列されるとともに電荷取出部１４となる構造が設けられる。電荷取出部１４として設ける垂直転送レジスタは、図１０の左右方向に電荷を転送することを想定しているが、図１０の面に直交する方向に電荷を転送する構成を採用することも可能である。また、電荷を図の左右方向に転送する場合には、制御電極２３の左右方向の幅寸法を１μｍ程度に設定するのが望ましい。

この構造の光検出素子１では、制御電極２３に正の制御電圧＋Ｖを印加すると、半導体層２１には制御電極２３に対応する部位に電子ｅを集積するポテンシャル井戸（空乏層）２４が形成される。つまり、半導体層２１にポテンシャル井戸２４を形成するように制御電極２３に制御電圧を印加した状態で光が半導体層２１に照射されると、ポテンシャル井戸２４の近傍で生成された電子ｅの一部はポテンシャル井戸２４に捕獲されてポテンシャル井戸２４に集積され、残りの電子ｅは半導体層２１の深部での再結合により消滅する。また、ポテンシャル井戸２４から離れた場所で生成された電子ｅも半導体層２１の深部での再結合により消滅する。

ポテンシャル井戸２４は制御電圧を印加した制御電極２３に対応する部位に形成されるから、制御電圧を印加する制御電極２３の個数を変化させることによって、半導体層２１の主表面に沿ったポテンシャル井戸２４の面積（言い換えると、受光面において利用できる電荷を生成する領域の面積）を変化させることができる。つまり、制御電圧を印加する制御電極２３の個数を変化させることは感度制御部１２における感度の調節を意味する。たとえば、図１０（ａ）のように３個の制御電極２３に制御電圧＋Ｖを印加する場合と、図１０（ｂ）のように１個の制御電極２３に制御電圧＋Ｖを印加する場合とでは、ポテンシャル井戸２４が受光面に占める面積が変化するのであって、図１０（ａ）の状態のほうがポテンシャル井戸２４の面積が大きいから、図１０（ｂ）の状態に比較して同光量に対して利用できる電荷の割合が多くなり、実質的に感光部１１の感度を高めたことになる。このように、感光部１１および感度制御部１２は半導体層２１と絶縁膜２２と制御電極２３とにより構成されていると言える。ポテンシャル井戸２４は光照射により生成された電荷を保持するから電荷集積部１３として機能する。

上述したように、ポテンシャル井戸２４から電荷を取り出すには、ＣＣＤイメージセンサと同様の技術を採用する。たとえば感光部１１を垂直転送レジスタとして用いる場合は、ポテンシャル井戸２４に電子ｅが集積された後に、電荷の集積時とは異なる印加パターンの制御電圧を制御電極２３に印加することによってポテンシャル井戸２４に集積された電子ｅを一方向（たとえば、図の右方向）に転送することができる。あるいはまた、感光部１１とは別に設けた垂直転送レジスタに転送ゲートを介して感光部１１から電荷を転送する構成を採用することもできる。垂直転送レジスタからは水平転送レジスタに電荷を引き渡し、水平転送レジスタを転送された電荷は、半導体基板に設けた図示しない電極から光検出素子１の外部に取り出される。

図１０に示す構成における感度制御部１２は、利用できる電荷を生成する面積を大小２段階に切り換えることにより感光部１１の感度を高低２段階に切り換えるのであって、受光光量Ａ０、Ａ１、Ａ２、Ａ３のいずれかに対応する電荷を感光部１１で生成しようとする受光期間にのみ高感度とし（電荷を生成する面積を大きくし）、他の期間である保持期間には低感度にする。高感度にする受光期間と低感度にする保持期間とは、発光源２を駆動する変調信号に同期させて設定される。具体的には、変調信号に同期する特定の区間（特定位相の区間）において、電荷を生成する面積を大きくして感光部１１で生成した電荷を集積し、上記特定区間以外の他の区間において、電荷を生成する面積を小さくして感光部１１で生成した電荷を蓄積する。すなわち、感光部１１において、電荷を集積する機能と蓄積する機能とが交互に実現される。ここで、集積とは電荷を集めることを意味し、蓄積とは電荷を保持することを意味する。言い換えると、図１０に示す構成では、感光部１１に設けた電荷集積部１３の大きさ（面積）を変化させることにより、電荷を集積する期間には感光部１１で生成された電荷の集積率を大きくし、電荷を蓄積する期間には感光部１１で生成された電荷の集積率を小さくするのである。

また、変調信号の複数周期に亘ってポテンシャル井戸２４に電荷を集積した後に電荷取出部１４を通して光検出素子１の外部に電荷を取り出すようにしている。変調信号の複数周期に亘って電荷を集積しているのは、変調信号の１周期内では感光部１１が利用可能な電荷を生成する期間が短く（たとえば、変調信号の周波数を２０ＭＨｚとすれば５０ｎｓの４分の１以下）、生成される電荷が少ないからである。つまり、変調信号の複数周期分の電荷を集積することにより、信号電荷（発光源２から照射された光に対応する電荷）と不要電荷（主に外光成分および光検出素子１の内部で発生するショットノイズに対応する電荷）との比を大きくとることができ、大きなＳＮ比が得られる。

ところで、位相差ψを求めるのに必要な４区間の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を１個の感光部１１で生成するとすれば、視線方向に関する分解能は高くなるが、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を求める時間差が大きくなるという問題が生じる。一方、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を４個の感光部１１でそれぞれ生成するとすれば、各受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を求める時間差は小さくなるが、４区間の電荷を求める視線方向にずれが生じ視線方向に関する分解能は低下する。そこで、２個の感光部１１を用いることにより、変調信号の１周期内で受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を２種類ずつ生成する構成を採用してもよい。つまり、２個の感光部１１を組にして用い、組になる２個の感光部１１に同じ視線方向からの光が入射するようにしてもよい。

この構成を採用することにより、視線方向の分解能を比較的高くし、かつ受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する時間差を少なくすることができる。つまり、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する時間差を少なくしていることにより、対象空間の中で移動している対象物Ｏｂについても距離の検出精度を比較的高く保つことができる。なお、この構成では、１個の感光部１１で４区間の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する電荷を生成する場合よりも視線方向の分解能が低下するが、視線方向の分解能については感光部１１の小型化や受光光学系９の設計によって向上させることが可能である。

図１０に示した例では、１個の感光部１１について５個の制御電極２３を設けた例を示しているが、両側の２個の制御電極２３は、感光部１１で電荷（電子ｅ）を生成している間に隣接する感光部１１に電荷が流出するのを防止するための障壁を形成するものであって、２個の感光部１１を組にして用いる場合には隣接する感光部１１のポテンシャル井戸２４の間には、いずれかの感光部１１で障壁が形成されるから、各感光部１１には３個ずつの制御電極２３を設けるだけで足りることになる。この構成によって、感光部１１の１個当たりの占有面積が小さくなり、２個の感光部１１を組にして用いながらも視線方向の分解能の低下を抑制することが可能になる。

なお、上述した距離画像センサ１０の構成例では、受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応する４区間を変調信号の１周期内で位相の間隔が９０度ずつになるように設定しているが、変調信号に対する位相が既知であれば４区間は９０度以外の適宜の間隔で設定することが可能である。ただし、間隔が異なれば位相差ψを求める算式は異なる。また、４区間の受光光量Ａ０、Ａ１、Ａ２、Ａ３に対応した信号電荷を取り出す周期は、対象物Ｏｂの反射率および外光成分が変化せず、かつ位相差ψも変化しない時間内であれば、変調信号の１周期内で４区間の信号電荷を取り出すことも必須ではない。さらに、太陽光や照明光のような外乱光の影響があるときには、発光源２から放射される光の波長のみを透過させる光学フィルタを感光部１１の前に配置するのが望ましい。

ところで、上述した距離画像センサ１０では、各感光部１１において受光光量に応じた量の電荷を生成（電気出力を発生）するから、各受光光量Ａ０、Ａ１、Ａ２、Ａ３は対象物Ｏｂの明るさを反映している。つまり、受光光量Ａ０、Ａ１、Ａ２、Ａ３から得られる直流成分Ｂは濃淡画像における濃度値に相当する。換言すれば、各感光部１１での受光光量Ａ０、Ａ１、Ａ２、Ａ３を用いると、対象物Ｏｂまでの距離を求めるほか、対象物Ｏｂの濃度値も得ることが可能になる。しかも、同じ位置の感光部１１を用いて対象物Ｏｂの距離と濃度値とを求めるから、同じ位置について濃度値と距離値との両方の情報を得ることが可能になる。そこで、本実施形態の画像生成部４では距離画像とともに濃淡画像を生成し、同じ感光部１１から距離画像と濃淡画像とを生成する。したがって、画像生成部４では、対象空間の同じ位置についてほぼ同時刻の距離値と濃度値とを求めることが可能になる。濃度値としては、受光光量Ａ０、Ａ１、Ａ２、Ａ３の平均値（つまり、直流成分Ｂ）を用いるから、発光源２からの強度変調の光の影響を除去できる。ただし、距離画像を生成する際の光検出素子１への外光成分の入射を低減するために、発光源２から赤外線を対象空間に照射し、光検出素子１の前方に赤外線透過フィルタを配置してあり、濃淡画像は赤外線に対する濃淡画像になる。

次に、上述した距離画像センサ１０を用いて対象空間における所望の部位の実寸を算出する技術について説明する。図１に示すように、画像生成部４で生成された距離画像は計測点抽出部５に与えられ、計測点抽出部５では、対象空間において実寸を計測しようとする部位が濃淡画像内の複数の計測点として指定される。計測点は、利用者が指定する方法と、利用者によらず自動的に指定する方法とがある。図１に示す構成例では、利用者が濃淡画像から計測点を指定するために、濃淡画像を表示するモニタ装置５ａと、モニタ装置５ａの画面内で所望の計測点を指定するためのマウスのようなポインティングデバイスからなる位置指定装置５ｂとを備える。モニタ装置５ａに表示される濃淡画像は赤外線による濃淡画像であるが、人が目視した対象物Ｏｂに近い形状で表示されるから、距離画像に対して計測点を指定する場合よりも、対象物Ｏｂと計測点との位置関係がわかりやすくなる。

計測点抽出部５において濃淡画像の画面上で指定した計測点は、画像生成部４で生成された距離画像とともに実寸算出部６に与えられる。実寸算出部６では、計測点抽出部５で指定された計測点に対応する画素の距離値を距離画像から求め、また、実寸を計測しようとする距離画像内での各２個の計測点の位置を求める。距離画像内での計測点の位置と距離とがわかれば、対象空間において計測点に対応する部位の位置を三次元で特定することができるから、実寸算出部６では、計測点に対応する部位の三次元位置から２個の計測点に対応する部位間の実寸を求める。実寸算出部６で求めた実寸は、モニタ装置５ａに表示したり、プリンタにより印刷したり、他装置で利用したりすることができる。とくに、モニタ装置５ａに表示された濃淡画像において２個の計測点間を結ぶ直線を表示し、この直線の長さとして実寸を示すようにすれば、対象物Ｏｂのどの部位の実寸を計測したかがわかりやすくなる。

上述のように計測点を２個指定すれば対象空間において両計測点間に対応する部位の実寸を求めることができるが、複数箇所の実寸を次々に計測したい場合もある。そこで、計測点を指定する方法を選択できるように、モニタ装置５ａの画面上にパレットを表示し、パレットに計測点を指定する方法を選択するための複数のシンボルを配列しておくのが望ましい。たとえば、計測点を２点指定すれば実寸を計測する方法のほか、３個以上の計測点を次々に指定すると、指定した順に時系列で並ぶ各２個ずつの計測点間の実寸を次々に計測する方法、対象物Ｏｂの輪郭に沿って多数の計測点を指定することにより対象物Ｏｂを囲むと輪郭線上の最大および最小の幅に相当する計測点間の実寸を求める方法など種々の計測方法を選択可能とするのが望ましい。

また、計測点抽出部５に設けた位置指定装置５ｂでは、モニタ装置５ａの画面上で利用者が適宜の位置を指定するから、同じ対象物Ｏｂであっても必ずしも同じ計測点を指定することはできない。そこで、濃淡画像と距離画像との少なくとも一方を用いて対象物Ｏｂの輪郭線を抽出し、輪郭線に対して所定距離内で計測点を指定すると、計測点を輪郭線上に配置する処理を行ってもよい。輪郭線の抽出にあたって、濃淡画像については濃度変化の大きい部位を空間微分のような周知の技術で抽出すればよい。また、距離画像についても距離の変化が大きくなる部位を距離値に関する微分によって抽出する。微分後に２値化すれば濃度変化や距離変化が極大になる部位を抽出できるから、抽出した部位の細線化によって輪郭線となるエッジを抽出すればよい。輪郭線の抽出に関する技術について詳述しないが、濃淡画像については周知技術であり、距離画像については濃淡画像における濃度値を距離値に代えて同様の処理を行えば輪郭線を抽出することが可能である。濃淡画像と距離画像とをともに用いて輪郭線を抽出する場合には、濃淡画像と距離画像とから得られる輪郭線のうち一致する輪郭線のみを採用したり、それぞれから得られる輪郭線を両方とも採用したりすることができる。

上述したようにモニタ装置５ａの画面上で計測点を利用者が指定する場合には、任意の形状の対象物Ｏｂについて実寸を計測することができるが、対象物Ｏｂの形状が既知である場合には、濃淡画像から規定した形状の対象物Ｏｂの位置を自動的に抽出し、対象物Ｏｂの形状に応じてあらかじめ設定されている計測点を用いて実寸を算出するようにしてもよい。対象物Ｏｂの位置を濃淡画像から抽出するには、対象物Ｏｂの全体形状をあらかじめ用意したテンプレートと照合する技術を用いればよい。このように、規定の形状の対象物Ｏｂについて実寸を求める方法についても、モニタ装置５ａの画面上に表示するパレットに選択肢として設けておけばよく、その場合には、パレット内に対象物Ｏｂの形状も選択肢として用意しておくのが望ましい。また、上述の例では濃淡画像によって対象物Ｏｂの位置を抽出しているが、距離画像によっても濃淡画像と同様の技術で対象物Ｏｂの位置を抽出し、両者で得られた位置の平均の位置を対象物Ｏｂの位置として採用するようにしてもよい。

ところで、図１に示す構成では、対象空間において２個の計測点に対応する部位間の実寸を算出するだけでなく、対象物Ｏｂの体積も求めるために体積算出部８を設けている。体積算出部８は、三次元形状が既知である対象物Ｏｂについて体積を推定して算出することができる。対象物Ｏｂの三次元形状が既知である対象物Ｏｂとは、たとえば直方体状の箱、飲料用の容器、人などであって、実寸と向きとがわかれば体積を推定して算出することが可能なものを対象にしている。種々形状の箱の体積を算出すれば運搬車に箱を効率よく積載する組合せを考えることができ、また飲料用の容器の体積を算出すれば洗浄して再利用する容器の種類を判断する際の情報として用いることができ、人の体積を寸法（身長など）と併せて算出すれば遊技施設などにおいて利用可能か否かの判断に役立てることができる。

対象物Ｏｂが既知形状であっても体積算出部８において体積を算出するには、まず濃淡画像または距離画像の画像内において対象物Ｏｂを特定し、特定した対象物Ｏｂから実寸と向きとを知る必要がある。そこで、画像生成部４で生成された濃淡画像と距離画像との少なくとも一方を形状推定部７に入力し、形状推定部７において対象物Ｏｂの形状を推定する。形状推定部７において濃淡画像と距離画像との少なくとも一方を用いて対象物Ｏｂを抽出する方法には種々の方法がある。対象物Ｏｂを抽出するもっとも簡単な方法としては濃淡画像をモニタ装置の画面に表示し、所望の対象物Ｏｂを含む矩形領域をマウスなどによって指定する方法を採用することができる。

一方、対象物Ｏｂを自動的に抽出する場合には、たとえば濃淡画像と距離画像との少なくとも一方に対して微分処理を行った後に２値化して対象物Ｏｂのエッジに相当する領域を抽出し、抽出された領域のうち対象物Ｏｂを抽出しようとする距離範囲内に存在する領域を対象物Ｏｂの候補領域とし、さらに候補領域がひとかたまりになるか否かを評価し（たとえば、隣接する２個の候補領域間の三次元空間での距離差が閾値以下である場合に、両候補領域を連続した１つの対象物Ｏｂに含まれる領域とみなす）、さらに、ひとかたまりになる領域（つまり、連結領域）に囲まれる画素数と距離値とを用いて対象物Ｏｂの大きさを評価すればよい（同じ対象物Ｏｂであれば、画素数は距離の二乗に反比例する）。あるいはまた、対象物Ｏｂが移動する場合には、距離画像の距離値を微分した後に２値化し、異なる時刻の距離画像から得られる２値化した画像の差分をとれば、移動した対象物Ｏｂを抽出することができる。さらにまた、着目する対象物Ｏｂを背景から分離するために、あらかじめ対象物Ｏｂの存在しない状態で背景のみから生成した距離画像と、対象物Ｏｂが存在する状態で生成した距離画像との差分画像（対応する各画素ごとの差分を画素値に持つ画像）を生成し、この差分画像について微分および２値化を行えば対象物Ｏｂの存在する領域の抽出が容易になる。

上述のような方法で対象物Ｏｂの存在する領域を抽出した後、形状推定部７では対象物Ｏｂの濃淡画像と距離画像との少なくとも一方を用いて対象物Ｏｂのエッジを抽出する。エッジの抽出は上述したように濃淡画像または距離画像に対して微分処理を行った後に２値化すればよい。濃淡画像の微分はたとえば着目する画ぞの８近傍の画像を用いて求める周知の方法を採用すればよいが、エッジを抽出する際にはソーベルフィルタのようなエッジ強調フィルタを用いて微分処理を行ってもよい。また、距離画像によってエッジを抽出する場合も濃淡画像と同様の演算を行うことにより、画素間の距離差の大きい部位を抽出することができる。なお、微分処理によって抽出したエッジは分断されていることがあるので、適宜に延長処理を行うとともに細線化処理を行うことにより、対象物Ｏｂのエッジを連続した１画素幅のエッジとして抽出するのが望ましい。

形状推定部７ではエッジを抽出した後に、対象物Ｏｂを構成しているエッジの特徴を用いて対象物Ｏｂの形状および向きを判別する。たとえば、直方体状の箱を上方から斜め下向きに撮像しているとすれば、画像内での対象物Ｏｂの二次元形状は２個または３個の平行四辺形の集合になるから、このような形状の特徴に関する知識の集合である知識ベース（ここではｉｆ−ｔｈｅｎルールを想定する）を構築しておき、エッジの特徴を知識ベースに照合することによって着目する形状の対象物Ｏｂか否かを判断し、さらに対象物Ｏｂの向きを求める。対象物Ｏｂの実寸については実寸算出部６で求められるから、体積算出部８では、形状推定部７で求めた対象物Ｏｂの形状および向きと、実寸算出部６で求めた対象物Ｏｂの形状と実寸（高さと幅と奥行き）とを用いて対象物Ｏｂの体積を算出する。なお、体積を求める際の対象物Ｏｂの実寸は、体積を求めるのに必要な部位を知識ベースとの照合により抽出し、当該部位の寸法をエッジから求めるようにすれば、体積の演算を自動化することができる。また、実寸を算出する場合と同様に、計測点抽出部５を用いて利用者が体積を求めるのに必要な計測点を濃淡画像から指定してもよい。

本発明の実施形態を示すブロック図である。同上の動作説明図である。同上における感度制御部の構成例を示すブロック図である。同上の動作例を示す説明図である。同上の他の動作例を示す説明図である。同上のさらに他の動作例を示す説明図である。同上に用いる光検出素子の構成例を示す平面図である。図７に示した光検出素子の要部分解斜視図である。図８のＡ−Ａ線断面図である。同上に用いる光検出素子の要部の動作説明図である。

符号の説明

１光検出素子
２発光源
３制御回路部
４画像生成部
５計測点抽出部
５ａモニタ装置
５ｂ位置指定装置
６実寸算出部
７形状推定部
８体積算出部
９受光光学系
１１感光部
Ｏｂ対象物

Claims

強度が周期的に変化する強度変調光を対象空間に照射する発光源と、受光光量に応じた電気出力を発生する複数個の感光部が配列され対象空間を撮像する光検出素子と、発光源から対象空間に照射された光が対象空間内の対象物で反射され各感光部で受光されるまでの強度変調光の位相差を対象物までの距離に換算した距離値を画素値とする距離画像と各感光部の受光光量である濃淡値を画素値とする濃淡画像とを同じ感光部の受光光量からそれぞれ生成する画像生成部と、画像生成部で生成された距離画像と濃淡画像とについてそれぞれ微分を行い距離画像と濃淡画像とからそれぞれ求めた輪郭線の一致部分または両方の輪郭線を対象物の輪郭線として抽出し対象物の輪郭線上で複数の計測点を指定する計測点抽出部と、計測点抽出部で指定された前記計測点の位置の画素について画像生成部で生成された距離画像から求めた距離値と距離画像内での前記計測点の位置とから対象物において前記複数の計測点に対応する部位間の実寸を算出する実寸算出部とを備え、計測点抽出部は、画像生成部で生成された濃淡画像を画面上に表示するモニタ装置と、モニタ装置の画面上で所望位置を前記計測点として指定する操作が可能な位置指定装置とを備えることを特徴とする計測装置。
強度が周期的に変化する強度変調光を対象空間に照射する発光源と、受光光量に応じた電気出力を発生する複数個の感光部が配列され対象空間を撮像する光検出素子と、発光源から対象空間に照射された光が対象空間内の対象物で反射され各感光部で受光されるまでの強度変調光の位相差を対象物までの距離に換算した距離値を画素値とする距離画像と各感光部の受光光量である濃淡値を画素値とする濃淡画像とを同じ感光部の受光光量からそれぞれ生成する画像生成部と、画像生成部で生成された距離画像と濃淡画像とについてそれぞれ微分を行い距離画像と濃淡画像とからそれぞれ求めた輪郭線の一致部分または両方の輪郭線を対象物の輪郭線として抽出し対象物の輪郭線上で複数の計測点を指定する計測点抽出部と、計測点抽出部で指定された前記計測点の位置の画素について画像生成部で生成された距離画像から求めた距離値と距離画像内での前記計測点の位置とから対象物において前記複数の計測点に対応する部位間の実寸を算出する実寸算出部とを備え、計測点抽出部は、画像生成部で生成された濃淡画像から規定の形状の対象物を抽出するとともに、当該形状についてあらかじめ複数箇所に設定されている計測点を前記計測点として指定することを特徴とする計測装置。
前記画像生成部で生成された距離画像と濃淡画像との少なくとも一方から対象物の三次元形状を推定する形状推定部と、形状推定部で推定された形状について実寸算出部で求められる特徴寸法を用いて対象物の体積を算出する体積算出部とが付加されていることを特徴とする請求項１または請求項２記載の計測装置。