JP2005090958A - 三次元画像撮像装置および方法 - Google Patents

三次元画像撮像装置および方法 Download PDF

Info

Publication number
JP2005090958A
JP2005090958A JP2003312932A JP2003312932A JP2005090958A JP 2005090958 A JP2005090958 A JP 2005090958A JP 2003312932 A JP2003312932 A JP 2003312932A JP 2003312932 A JP2003312932 A JP 2003312932A JP 2005090958 A JP2005090958 A JP 2005090958A
Authority
JP
Japan
Prior art keywords
imaging
light
principal point
unit
projection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003312932A
Other languages
English (en)
Other versions
JP4379056B2 (ja
Inventor
Yoshinori Yamaguchi
義紀 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Priority to JP2003312932A priority Critical patent/JP4379056B2/ja
Priority to US10/778,092 priority patent/US7078720B2/en
Publication of JP2005090958A publication Critical patent/JP2005090958A/ja
Application granted granted Critical
Publication of JP4379056B2 publication Critical patent/JP4379056B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2545Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with one projection direction and several detection directions, e.g. stereo
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2509Color coding
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/499Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using polarisation effects

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Input (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 物体にテクスチャがある場合でも計測エラーを低減し,ズームの際などに使い勝手を向上させ,さらに装置の小型化を実現する。
【解決手段】 投射手段10,第1の撮像手段20,第2の撮像手段30により物体の三次元画像を撮像する。投射手段10は光源11と,パターン発生部12と,第1の撮像手段20と光学的に同主点に配置させるための同主点配置手段13と,第1の撮像手段20と共用される結像光学系14とを含んで構成される。第1の撮像手段20はテクスチャ・パターン撮像部21と,同主点配置手段13と,結像光学系14とを含んで構成されている。第1の撮像手段20と第2の撮像手段30から取得される画像を基に三次元形状計測が行われる。
【選択図】 図1

Description

本発明は複数のカメラによる三角測量法により輝度情報とともに距離情報を一括にて入手するのに最適な三次元画像撮影技術に係り,とくに,計測エラーの低減,使い勝手の向上,装置の小型化を図るようにしたものである。
物体の形状を測定する手法は,パッシブ手法(三角測量法,shape from X)とアクティブ手法(光飛行時間測定法,三角測量法)に大別される。パッシブ手法とアクティブ手法の違いは,物体に対し何らかのエネルギーを照射するか否かの差である。一般的にアクティブ手法は,計測のあいまいさを除去できるためパッシブ手法に比べてノイズに強い計測手法と言える。両者の手法においてそれぞれ存在する三角測量法は,基線長とその両端から物体上の計測点を結んだ直線のなす角により,計測点までの距離を求める幾何学的手法である。アクティブ型の三角測量法の中には複数のコード化されたストライプパターン光を照射する計測手法が提案されている(特許文献1)。この方式の構成図を図19に示す。図19おいて,投射系により光の色にて符号化された複数のストライプ光を物体に投射し,撮像系により物体上のストライプ光を観測する。投射されたストライプ光と撮像されたストライプ像の輝度値を比較し,同一ストライプを見つけ三角原理にて距離を算出する。
ところで,物体にテクスチャ(色や模様)がある場合,距離測定が困難になる。すなわち,撮像されたストライプ像は物体上のテクスチャによる影響を受け,色/明るさが投射されたストライプ光と異なるため,投射されたどのストライプ光に相当するかを判断することが困難となる。よって誤対応が発生し距離が算出できない。
これを解決するため本発明者等は鋭意研究を重ね投射系と撮像系をハーフミラーにて光学的に同主点位置に配置することにより,これらの問題を解決した(特許文献3,特許文献4)。この構成を図20に示す。符号化されたストライプ光を物体に投射し,投射系と同主点位置に配置した撮像系および非同主点位置に配置した撮像系により物体上のストライプ光をモニタする。同主点の撮像系および非同主点の撮像系により撮像されたストライプ像はともに物体のテクスチャ情報を含んでいるので,両者を比較し対応点抽出する際,エラーの発生を抑制できる。よって物体のテクスチャによる計測劣化の影響を低減できる。また,テクスチャ情報自体も正確に取得でき,テクスチャ付きの三次元画像を取得できる。
しかしながらこのような投射系と撮像系の光学系がそれぞれ独立している構成であると,物体の大きさに合わせて光学系のズーム比を変えたい場合に以下のような煩わしい作業が発生する。物体の3次元形状を高解像度にて取得したい場合などでは撮像系における光学系のズームを望遠側にするが,これに合わせて投射系における光学系のズーム比を調整する手間を必要とする。また撮像系における光学系のズームを変更した場合,光学系の主点位置が移動するので,それに合わせて一度配置した投射系と撮像系の配置をそれぞれの光学系が同主点になるように再調整しなければならないといった非常に煩わしい作業が発生し,使い勝手が悪いという問題がある。
また別の問題としてハーフミラーにて撮像系と投影系の同主点性を実現しているが,このハーフミラーの汚れが計測劣化に大きく影響することが確認されており,解決すべき大きな問題となっているのが現状である。
さらに物体の表面に光沢(反射光の強度分布の偏り)がある場合,距離測定が困難になる。
すなわち,光沢物など鏡面性が高い計測面では,正反射方向には鏡面反射光が観測される。この鏡面反射光は正反射方向から外れると減少する。図21はこのような反射特性を説明する図である。投光系から照射される投射光は一般に自然光であり,偏光方位はランダムである。ここで正反射方向に位置している視点Aに配置された撮像系Aには,拡散反射光に加えて鏡面反射光を含んだ非常に強度の強い反射光が観測される。撮像画像には正反射位置にハイライトとして現れる。よって投射されたストライプ光は,表面光沢の影響を受けた非常に明るい輝度を持つストライプ像として観測されるので,撮像されたストライプ像が投射されたどのストライプ光に相当するかを判断することが困難となる。よって誤対応が発生し,正しい距離が算出できない。
正反射方向に位置していない視点B,Cに配置された撮像系B,Cでは拡散反射光のみを含んだ反射光が観測される。よって撮像画像にはハイライトは現れない。このように視点位置を工夫することにより,誤対応は減少するケースは存在する。しかしながら,このような構成であると撮像系のレイアウトに制約がある,複数の傾きを持つ計測面の測定には適応不可能といった問題がある。また鏡面反射光の強度分布が図21に示した比較的狭い場合(鏡面性が高い光沢物)ではなく,強度分布に広がり持つ場合には(鏡面性が低い光沢物),撮像系Bにおいても鏡面反射光の一部が観測され,誤対応の発生により正しい距離が算出できなくなる。
図22は撮像系の手前に偏光フィルタを設置することにより上記鏡面反射光を取り除こうとした装置の構成図である。しかしながらこの構成においても,正反射方向である視点Aにおける反射光は偏光方位がランダムな自然光であるため,偏光フィルタの透過軸をどのように回転調整しても鏡面反射光は除去できない。よって上述した問題は解決できないのが現状である。
特許文献2では,このような物体に光沢がある場合に計測劣化が発生するのを防ぐことを目的とした構成が提案されている。この構成を説明する図を図23に示す。PBS(Polarized Beam Splitter)プリズムにより偏光光を形成し光沢物にスポット状の光を投射する。光沢面における反射光をPBSプリズムを経由して検出部にて検出する。光沢面における反射光は鏡面反射光と拡散反射光からなる。PBSプリズムの特性から鏡面反射光は反射され,拡散反射光の一部が検出部に進入し,光沢面上のスポットに対応した点として検出される。検出部にて検出された位置により,物体の三次元位置を算出する。反射光をPBSプリズムを経由しないで検出部にて検出すると,鏡面反射光による点と拡散反射光による点が検出されるため,物体の三次元位置を同定することができないという問題が発生する。このような光沢物特有の問題を解決した構成である。しかしながらこの構成では,投射光がスポット状なので物体全体を計測する場合には投射光の走査が必要であるため,走査を行うための装置が必要になり計測装置全体が大掛かりになる事や走査に時間がかかり,使い勝手が悪い,特に動きにある物体には適用できないといった問題が発生する。
先に説明した引用文献3,4のような同主点性に特徴を持つ光学レイアウトをもってしても,物体に光沢がある場合には,先に示した理由により距離計測ができないのが現状である。
特開平3−192474号公報 特許公報第2983318号 特開2000−65542公報 特開2000−9442公報
本発明は,以上の事情を考慮してなされたものであり,物体にテクスチャがある場合や光学系に汚れがある場合でも計測劣化が発生せず,物体の大小に合わせた光学系のズームを簡便なシステムにて実現し,物体の三次元画像を一括にて入手することができる三次元画像撮像技術を提供することを第1の目的としている。また,本発明は,物体に光沢がある場合でも計測劣化が発生せず,物体の大小に合わせた光学系のズームを簡便なシステムにて実現し,物体の三次元画像を一括にて入手することができる三次元画像撮像技術を提供することを第2の目的としている。
本発明によれば,上述の目的を達成するために,特許請求の範囲に記載のとおりの構成を採用している。ここでは,発明を詳細に説明するのに先だって,特許請求の範囲の記載について補充的に説明を行なっておく。
すなわち,本発明の一側面によれば,上述の目的を達成するために,物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記第1の撮像手段と光学的に異なる主点をとるように配置され前記物体からの反射像を撮像する第2の撮像手段とを有し,前記物体の三次元形状を測定する三次元画像撮像装置において,前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,前記投射手段と前記第1の撮像手段において共用される結像光学系とを設けるようにしている。
この構成においては,物体にテクスチャがある場合や光学系に汚れがある場合でも計測劣化が発生せず,物体の大小に合わせた光学系のズームを簡便なシステムにて三次元画像を撮像することができる。
この構成において,前記結像光学系はズーム手段を備え,前記ズーム手段によりズーム比が変更された場合に前記投射手段と前記第1の撮像手段の同主点位置関係が不変であるように構成されてもよい。
また,前記投射手段は,光源と,パターン発生部と,前記同主点配置手段と前記結像光学系とを含んで構成することが好ましい。
また,前記投射手段は,光源と,光整形光学系と,パターン発生部と,前記同主点配置手段と,前記結像光学系とを含んで構成することが好ましい。
また,前記第1の撮像手段は,前記物体のテクスチャおよびパターン反射像を撮像するテクスチャ・パターン撮像部と,前記同主点配置手段と,前記結像光学系とを含んで構成することが好ましい。
また,前記第2の撮像手段は,前記物体のテクスチャおよびパターン反射像を撮像するテクスチャ・パターン撮像部と,結像光学系とを含んで構成することが好ましい。
前記パターン光は,例えば,符号化されたストライプ光である。
前記投射手段においてパターン光を発生するパターン発生部は液晶パネルを含んでなり,あるいは,デジタルマイクロミラーデバイスを含んでなり,あるいは,透過フィルムを含んでなることが好ましい。
この構成において,前記同主点配置手段はプレート型あるいはキューブ型の形状を有するビームスプリッタを用いて構成することが好ましい。
また,少なくとも前記結像光学系および前記同主点配置手段を,前記第1の撮像手段および前記第2の撮像手段への反射光の投射を妨げることがない部分において,遮蔽するカバー部材を設けることが好ましい。
また,前記結像光学系が,前記同主点配置手段より前記物体側に配置されることが好ましい。
また,本発明の他の側面によれば,三次元画像撮像方法において,物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,前記投射手段と前記第1の撮像手段において共用される結像光学系と,前記第1の撮像手段と光学的に異なる主点をとるように配置され前記物体からの反射像を撮像する第2の撮像手段とを用い,投射手段から投射したパターン光を物体に投射し,反射光を第1の撮像手段および第2の撮像手段で撮像し,前記第1の撮像手段により取得した物体からの反射像と前記第2の撮像手段により取得した物体からの反射像に基づいて三次元形状を計測するようにしている。
この構成においても,物体にテクスチャがある場合や光学系に汚れがある場合でも計測劣化が発生せず,物体の大小に合わせた光学系のズームを簡便なシステムにて三次元画像を撮像することができる。
また,本発明のさらに他の側面によれば,物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記第1の撮像手段と光学的に異なる主点をとるように配置され前記物体からの反射像を撮像する第2の撮像手段とを有し,前記物体の三次元形状を測定する三次元画像カメラにおいて,前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,前記投射手段と前記第1の撮像手段において共用される結像光学系と,前記投射手段と,前記第1の撮像手段と,前記第2の撮像手段を取り付ける筐体とを設けるようにしている。
この構成においても,物体にテクスチャがある場合や光学系に汚れがある場合でも計測劣化が発生せず,物体の大小に合わせた光学系のズームを簡便なシステムにて実現し,物体の三次元画像を一括にて入手することができ,さらに装置全体を筐体に配置して携帯することが可能になる。
前記投射手段は,フラッシュ光を投射することが好ましい。
前記投射手段は,パターンのない光を前記物体に投射することができ,パターンのない光の前記物体からの反射光を前記第1の撮像手段または前記第2の撮像手段により撮像して前記物体の輝度情報を得ることが好ましい。
また,前記物体を可視領域で撮像する第3の撮像手段を設け,前記投射手段は,パターン光として赤外光を投射し,前記第1の撮像手段および前記第2の撮像手段は赤外光の反射像を撮像して前記物体の三次元形状を測定し,前記第3の撮像手段により前記物体の輝度情報を得るようにすることが好ましい。
また,前記赤外光の反射情報と前記物体の輝度情報とを同時に取得することにより,前記物体の距離情報と輝度情報とを同時に取得するようにすることが好ましい。
また,前記結像光学系が,前記同主点配置手段より前記物体側に配置されることが好ましい。
また,本発明のさらに他の側面によれば,上述の目的を達成するために,物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記第1の撮像手段と光学的に同主点でない位置に配置され前記物体からの反射像を撮像する第2の撮像手段とを有し,前記物体の三次元形状を測定する三次元画像撮像装置において,前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,前記投射手段と前記第1の撮像手段において共用される結像光学系とを設け,さらに,前記同主点配置手段は,前記投射手段からの光を偏光光に変換する偏光変換機能と,前記物体からの反射光のうち前記第1の撮像手段に導く光を選択する偏光方位選択機能とを有するようにしている。
この構成においては,物体にテクスチャや光沢がある場合や光学系に汚れがある場合でも計測劣化が発生せず,物体の大小に合わせた光学系のズームを簡便なシステムにて三次元画像を撮像することができる。
この構成において,前記結像光学系はズーム手段を備え,前記ズーム手段によりズーム比が変更された場合に前記投射手段と前記第1の撮像手段の同主点位置関係が不変であるように構成されることが好ましい。
また,前記同主点配置手段はプレート型あるいはキューブ型の形状を有する偏光ビームスプリッタを用いて構成することが好ましい。
前記投射手段は,光源と,パターン発生部と,前記同主点配置手段と前記結像光学系とを含んで構成することが好ましい。
また,前記投射手段は,光源と,光整形光学系と,パターン発生部と,前記同主点配置手段と,前記結像光学系とを含んで構成することが好ましい。
また,前記第1の撮像手段は,前記物体のテクスチャおよびパターン反射像を撮像するテクスチャ・パターン撮像部と,前記同主点配置手段と,前記結像光学系とを含んで構成することが好ましい。
また,前記第2の撮像手段は,前記物体のテクスチャおよびパターン反射像を撮像するテクスチャ・パターン撮像部と,結像光学系と,前記物体からの反射光のうち前記第2の撮像手段に導く光を選択する偏光方位選択手段とを含んで構成することが好ましい。
前記第2の撮像手段における前記偏光方位選択手段は前記同主点配置手段の偏光変換機能により偏光変換された偏光光の偏光方位に対し,前記偏光方位選択手段が選択する偏光方位の角度を相対的に変化させる角度調整機能を備えることが好ましい。
前記パターン光は,例えば,符号化されたストライプ光である。
また,前記偏光変換機能と前記偏光方位選択機能を備える前記同主点配置手段に入射する光は略平行化された光であることが好ましい。
また,少なくとも前記結像光学系および前記同主点配置手段を,前記第1の撮像手段および前記第2の撮像手段への反射光の投射を妨げることがない部分において,遮蔽するカバー部材を設けることが好ましい。
また,前記結像光学系が,前記同主点配置手段より前記物体側に配置されることが好ましい。
また,本発明のさらに他の側面によれば,三次元画像撮像方法において,物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,前記投射手段と前記第1の撮像手段において共用される結像光学系と,前記第1の撮像手段と光学的に異なる主点をとるように配置され前記物体からの反射像を撮像する第2の撮像手段とを用い,さらに,前記同主点配置手段に設けた偏光変換機能により,前記投射手段からの光を偏光光に変換し,前記同主点配置手段に設けた偏光方位選択機能により,前記物体からの反射光のうち前記第1の撮像手段に導く光を選択し,前記第2の撮像手段に設けた偏光方位選択手段により,前記物体からの反射光のうち前記第2の撮像手段に導く光を選択し,前記第1の前記第1の撮像手段により取得した物体からの反射像と前記第2の撮像手段により取得した物体からの反射像に基づいて三次元形状を計測するようにしている。
この構成においても,物体にテクスチャや光沢がある場合や光学系に汚れがある場合でも計測劣化が発生せず,物体の大小に合わせた光学系のズームを簡便なシステムにて三次元画像を撮像することができる。
また,本発明のさらに他の側面によれば,物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記第1の撮像手段と光学的に同主点でない位置に配置され前記物体からの反射像を撮像する第2の撮像手段とを有し,前記物体の三次元形状を測定する三次元画像カメラにおいて,前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,前記投射手段と前記第1の撮像手段において共用される結像光学系と,前記投射手段と,前記第1の撮像手段と,前記第2の撮像手段を取り付ける筐体とを設け,さらに,前記同主点配置手段は,前記投射手段からの光を偏光光に変換する偏光変換機能と,前記物体からの反射光のうち前記第1の撮像手段に導く光を選択する偏光方位選択機能とを有するようにしている。この場合,前記筐体内に前記投射手段と前記第1,第2の撮像手段とを納めることが好ましい
この構成においては,物体にテクスチャや光沢がある場合や光学系に汚れがある場合でも計測劣化が発生せず,物体の大小に合わせた光学系のズームを簡便なシステムにて実現し,物体の三次元画像を一括にて入手することができ,さらに装置全体を筐体に配置して携帯することが可能になる。
前記投射手段は,フラッシュ光を投射することが好ましい。
前記投射手段は,パターンのない光を前記物体に投射することができ,パターンのない光の前記物体からの反射光を前記第1の撮像手段または前記第2の撮像手段により撮像して前記物体の輝度情報を得ることが好ましい。
また,前記物体を可視領域で撮像する第3の撮像手段を設け,前記投射手段は,パターン光として赤外光を投射し,前記第1の撮像手段および前記第2の撮像手段は赤外光の反射像を撮像して前記物体の三次元形状を測定し,前記第3の撮像手段により前記物体の輝度情報を得るようにすることが好ましい。
また,前記赤外光の反射情報と前記物体の輝度情報とを同時に取得することにより,前記物体の距離情報と輝度情報とを同時に取得するように構成することが好ましい。
また,前記結像光学系が,前記同主点配置手段より前記物体側に配置されることが好ましい。
なお,この発明は装置またはシステムとして実現できるのみでなく,方法としても実現可能である。また,そのような発明の一部をソフトウェアとして構成することができることはもちろんである。またそのようなソフトウェアをコンピュータに実行させるために用いるソフトウェア製品もこの発明の技術的な範囲に含まれることも当然である。
この発明の上述の側面および他の側面は特許請求の範囲に記載され以下実施例を用いて詳述される。
本発明の三次元画像撮像技術によれば,物体にテクスチャがある場合でも計測エラーを低減し,ズームの際などに使い勝手が向上し,装置の小型化を実現できる。輝度情報とともに距離情報を一括にて入手することも可能である。また物体に光沢がある場合でも計測エラーを低減させることができる。
以下,図面を参照しながら本発明の実施例を具体的に説明する。
図1に,本発明の実施例1の三次元画像撮像装置の主要部分である投射手段10と,投射手段10に対し光学的に同主点に配置された第1の撮像手段20を模式的に示す。なお,本実施例の三次元画像撮像装置の全体の構成の概略は図4に示し,後に説明する。
図1において,投射手段10は光を射出する光源11と,符号化されたパターン光を発生するパターン発生部12と,第1の撮像手段20と光学的に同主点に配置させるための同主点配置手段13と,第1の撮像手段20と共用される結像光学系14とを含んで構成される。パターン発生部12は液晶パネルあるいは透過フィルムを用いた。液晶パネルを用いればパターンを構成するストライプの濃淡や色,ストライプのピッチの変更が容易であることから,三次元測定したい物体に合わせてパターン変更する際にも使い勝手が良い。透過フィルムでは,予め濃淡あるいは色,ストライプピッチの異なるストライプのセットを複数作製しておき,物体に合わせて交換する。ストライプの符号化は濃淡や色の違いを用いて行う。また透過フィルムの変わりにガラスなどの透明な部材に大きさやピッチを変えた網点を形成して,網点の面積率を変えることにより,光の透過率を変えたストライプパターンを用いてもよい。
第1の撮像手段20は物体のテクスチャと物体からのパターン反射像を撮像するテクスチャ・パターン撮像部21と投射手段10と光学的に同主点に配置させるための同主点配置手段13と,投射手段10と共用される結像光学系14とを含んで構成されている。テクスチャ・パターン撮像部21から取得される画像を基に三次元形状計測が行われる。
同主点配置手段13には偏光ビームスプリッター(PBS)プリズムを用いた。これはキューブ型のビームスプリッタであり,ランダム偏光である自然光を直線偏光に変換する機能がある。PBSプリズムは例えば図8に示すように,1対の45°直角プリズムの間に偏光変換膜を配置したものである。本実施例では,PBSプリズムを投射手段10と第1の撮像手段20が光学的に同主点になるように配置した。同主点に配置するための細かな説明は後ほど示す。このビームスプリッタの先(物体側)に結像光学系14を配置した。光源11から射出した光(ランダム偏光光)はパターン発生部12を通過し,PBSプリズム(同主点配置手段13)に入射する。PBSプリズムにて結像光学系14方向に直進する光とそれに対し直角な方向(テクスチャ・パターン撮像部21と反対側の方向)に進行する光に分かれる。この二つの光は直線偏光に変換されおり,その偏光方位は互いに直角である。
このような同主点の構成にて,偏光変換された符号化パターン光を物体に一括にて投射・撮像することを説明する図を図2に示す。パターン発生部12から射出した濃淡あるいは色により符号化された偏光パターン光がPBSプリズム(同主点配置手段13)を通過し,その一部が結像光学系14を経由して物体上に結像される。物体上のパターン反射光は結像光学系14を再び経由して,PBSプリズム(同主点配置手段13)にてその一部が第1の撮像手段20におけるテクスチャ・パターン撮像部21に結像される。結像されたパターン反射光を撮像部21にて画像変換を行うことにより,パターン反射像を取得する。
図3は本実施例にて投射手段10と第1の撮像手段20が光学的に同主点位置に配置できることを説明するための図である。
まずパターン発生部12の位置が物体の位置に対して結像関係になるように結像光学系14の主点位置を調整する(パターン発生部12の位置を調整しても良い)。次に結像光学系14の主点位置からPBSプリズム(同主点配置手段13)経由の撮像部21までの光学的距離が,結像光学系14の主点位置からパターン発生部12までの光学的距離と等しくなるように撮像部21を配置する。これにて投射手段10と第1の撮像手段20とは同主点の位置関係が成立する。また物体の位置に対し撮像部21の位置においても結像関係が成立する。以上の作業は結像光学系14の光軸方向に沿って行なうことのが望ましいが,光軸方向から多少ずれても,結像光学系14の主点位置からの距離が一定であれば問題はない。
図3では説明の関係上,撮像エリアが投射エリアより小さく示されているが,当然のことながら両者を等しくしても構わない。その場合テクスチャ・パターン撮像部21の面積とパターン発生部12の面積を同一にする。また図に示した光トラップ15はパターン発生部から射出された光のうち,PBSプリズム(同主点配置手段13)にて分岐された物体に投射されない光の戻り光を除去するために配置してある。
なお,図から明らかなように,PBSプリズム(同主点配置手段13)を結像光学系14の奥に配置しているため,図20にて示した従来の装置における同主点配置手段であるハーフミラーに比べてその大きさを小さくすることができる。
図4は本実施例の三次元画像撮像装置の全体像を示した図である。図1に示した主要な構成要素に第1の撮像手段20と光学的に同主点でない位置に配置された第2の撮像手段30を加え,また投射手段10に光整形光学系16を加えた構成である。投射手段10から物体に偏光変換された符号化パターン光を照射し,第1の撮像手段20および第2の撮像手段30により物体からの反射像を撮像する。
第2の撮像手段30は物体のテクスチャおよびパターン反射像を撮像するテクスチャ・パターン撮像部31と結像光学系32と偏光方位選択手段33からなる。偏光方位選択手段33には偏光フィルタを用いた。偏光フィルタは第2の撮像手段30における結像光学系32にマウントされ,この結像光学系32の光軸を中心として回転が可能であるような機構が具備されてある。
投射手段10に加えられた光整形光学系16にはインテグレータロッドとコンデンサレンズを用いた。インテグレータロッドは内面が鏡面状である筒型光学部材である。インテグレータロッドとコンデンサレンズの組み合わせにて,集光性を向上させかつ光源の光強度のムラを低減した。
また以上説明した二つの実施例では,同主点配置手段にキューブ型のビームスプリッタ(PBSプリズム。図8)を用いたが偏光変換機能を有するプレート型ビームスプリッター(図9)を用いても構わない。プレート型ビームスプリッターを用いた場合,より安価,小型な三次元画像撮像装置を実現できる。
このように構成された本発明の三次元画像撮像装置において,投射手段にて偏光変換された符号化パターン光を物体に投射し,投射手段と同主点位置に配置した第1の撮像手段と,投射手段に対し非同主点位置に配置した第2の撮像手段により物体上のパターン光を観測した。
次に本実施例により計測エラーが減少するメカニズムを説明する。まず物体にテクスチャがある場合について示す。
同主点の特性から第1の撮像手段20にて観測されたストライプ光は,物体の形状に撹乱されることなく元の投射ストライプ光と同様に観測される。また第1の撮像手段20および第2の撮像手段30により撮像されたストライプ像はともに物体のテクスチャ情報を含んでいるので,両者を比較し対応点抽出する際,エラーの発生を抑制できる。よって物体のテクスチャによる計測劣化の影響を低減できる。
次に物体に光沢がある場合について図5を用いて説明する。
図5において,同主点配置手段13における偏光変換機能により直線偏光光を形成し,符号化された複数のストライプ光を光沢がある物体に投射する(投射光:直線偏光光)。光沢面は一般に鏡面と完全拡散面が重畳された面と考えられるので反射光は鏡面反射光と拡散反射光の和となる。鏡面反射光は正反射方向に偏った反射強度分布を持ち,拡散反射光は偏りのない一様な反射強度分布を持つ。従って光沢面上の反射強度分布は図5に示すような正反射方向に偏りのある反射強度分布を示す。ここで説明の便宜上,第2の撮像手段30の撮像方法を先に説明し,その後,第1の撮像手段20について説明する。また第2の撮像手段30をその視点により第2の撮像手段30−1,第2の撮像手段30−2と呼ぶことにする。
第2の撮像手段30が正反射方向に位置している場合(第2の撮像手段30−1に相当),第2の撮像手段30方向には鏡面にて反射した鏡面反射光と完全拡散面にて反射した拡散反射光が進行する。鏡面において反射する光は偏光状態が維持されるので,この鏡面反射光は投射光の偏光方位と同一の直線偏光光である。また完全拡散面にて反射した拡散反射光は,偏光方位が一定でないランダム偏光に変化する。ここで,第2の撮像手段30における偏光方位選択手段33である偏光フィルタの透過軸を直線偏光投射光の偏光方位と略垂直になるように回転調整すると,鏡面反射光はカットされ,拡散反射光のうち偏光フィルタの透過軸と同一方位の光のみが第2の撮像手段30に進入する。
次に第2の撮像手段30が正反射方向に位置していない場合(第2の撮像手段30−2に相当),第2の撮像手段30方向には完全拡散面にて反射した拡散反射光が進行する。第2の撮像手段30における偏光方位選択手段33である偏光フィルタの透過軸を直線偏光投射光の偏光方位と略垂直になるように回転調整すると,拡散反射光のうち偏光フィルタの透過軸と同一方位の光のみが第2の撮像手段30に進入する。
よってこのように投射光に直線偏光光を用い偏光フィルタの透過軸を調整すれば,第2の撮像手段30の視点によらず鏡面反射光を除去でき,拡散反射光のみからなるストライプ光を観測できる。
また鏡面反射光の強度分布が図5に示した比較的狭い場合(鏡面性が高い光沢物)ではなく,ブロードな広がり(鏡面性が低い光沢物)を示す場合には,第2の撮像手段30−2の視点位置においても鏡面反射光が反射される場合がある。しかしながらこのような場合でも,偏光フィルタの透過軸を直線偏光投射光の偏光方位と略垂直になるように調整すれば,拡散反射光のみからなるストライプ光を観測できる。
図6は第1の撮像手段20が鏡面反射光を除去でき,拡散反射光のみからなるストライプ光を観測できることを説明するための図である。
光源から射出した光(ランダム偏光)がパターン発生部を通過することにより符号化された複数のスリット光となり,同主点配置手段13であるPBSプリズムに進入する。PBSプリズムによりランダム偏光が直線偏光であるP偏光とS偏光に分岐される。ここではP偏光は物体側に直進し,S偏光はそれと直角な方向でテクスチャ・パターン撮像部21と反対側に進行する。P偏光からなる符号化スリット光は結像光学系により光沢を有した物体上に結像される。光沢面にて反射した光は第2の撮像手段30に関して説明したのと同様の理由により,鏡面反射光と拡散反射光から構成される。これら鏡面反射光と拡散反射光は結像光学系を再び経由してPBSプリズムに進入する。鏡面反射光はP偏光のままであるためPBSプリズムの特性から鏡面反射光は光源に向かって直進する。拡散反射光はランダム偏光であるため拡散反射光がPBSプリズムに進入すると,拡散反射光のうち鏡面反射光(P偏光)の偏光方位と同一偏光方位を持つ光は光源に向かって直進する。これに対しP偏光と直角な偏光方位を持つS偏光と同一な偏光方位を持つ光だけがテクスチャ・パターン撮像部21に進入する。テクスチャ・パターン撮像部21とパターン発生部12は同主点に配置されているので,テクスチャ・パターン撮像部21上に光沢面上のストライプ反射像が結像される。よってPBSプリズムに第2の撮像手段30における偏光方位選択手段33である偏光フィルタと同様な機能を持たせることができ,第1の撮像手段20においても光沢面上にて反射した鏡面反射光を除去でき,拡散反射光のみからなるストライプ光を観測できる。(図5では第1の撮像手段に拡散反射光のみが進入する場合を示しているが,当然のことながら,この場合においても第1の撮像手段では拡散反射光のみからなるストライプ光が観察される。)
以上のことから,第1,第2の撮像手段20,30において光沢面上にて反射した鏡面反射光が除去された拡散反射光のみからなるストライプ光の観測が可能なり,第1,第2の撮像手段20,30から撮像されたストライプ像を比較する際に誤対応は抑えられ,結果として計測精度は飛躍的に向上する。
また本発明おける理想的な状態を実現させる手段としてPBSプリズムに入射する光を平行化することが有効である。これを説明する図を図7に示す。平行化された入射光(ランダム偏光)はPBSプリズムにてP偏光とS偏光に分離される。PBSプリズムは偏光変換機能において入射角依存性を持ち,PBSの偏光変換膜が形成された面への入射角が45°に近づく程,偏光変換効率を100%に近づけることができる。よって入射光(ランダム偏光)を平行化すれば最も効率良くP偏光とS偏光に変換することができる。先に説明した通りP偏光光は直進し,結像光学系を経由し物体(図示していない)に投射される。S偏光光はP偏光光の進行方向に対し直角でテクスチャ・パターン撮像部と反対側に進行する。
ここで直進したP偏光光はPBSプリズムの全反射面1にて,S偏光光は全反射面2にて僅かながらだが全反射される。全反射した光はそれぞれの偏光状態を維持している。全反射面1にて反射した光はP偏光のままであるため,偏光変換膜を通過し光源に向かって進行する。全反射面2にて反射した光はS偏光のままであるため,偏光変換膜にて反射し光源に向かって進行する。従って全反射面1,2にて反射した光(全反射光)はテクスチャ・パターン撮像部に進入することはない。結果として全反射光がノイズとなることはなく高いSN比を維持できる。
一方PBSプリズムへの入射光(ランダム偏光)が,偏光変換膜が形成された面に対し45°から外れる程,物体側に直進する光およびそれと直角に進行する光には,ランダム偏光光を多く含んだ状態となる。よって全反射光にもランダム偏光光が多く含まれ,その一部がテクスチャ・パターン撮像部に進入しSN比を大幅に劣化させる事となる。
ここではPBSプリズムの全反射面について説明したが,当然のことながら結像光学系を構成するレンズ群の全反射面についても入射光を平行化することにより,全反射光を防ぐことができる。
入射光を平行化するためには光源のリフレクタにパラボリック型を使用する,数種のレンズを組み合わせた光整形光学系を使用する,光整形光学系の瞳位置に絞りを挿入するなどを適宜,組み合わせることにより実現させる。レーザ光をエクスパンダとその他の光学部材にて組み合わせれば精度のよい平行光を実現できる。
その他の理想的な状態を実現させる手段として,PBSプリズムに入射する光の狭帯域化が挙げられる。入射光の帯域を狭め,その帯域に対応したPBSプリズムを使用することによりPBSプリズムの偏光変換効率を最大限に引き出すことができる。
本発明の実施例ではさらに以下示すメリットを持つ。
投射手段10の結像光学系と第1の撮像手段20の結像光学系とは共通なので光学系のズームを連動させることができる。この利点として従来型の光学系が独立している場合と比較して説明する。物体の三次元データを高解像度にて取得したい場合や対象となる物体が小さい場合などにおいて,撮像系を望遠側にズームインする際,光学系が独立している場合では,ストライプのピッチが粗くなり,撮像系における光学系のズーム比に合わせて投射系における光学系も望遠側に調整しなければならない。これに対して本実施例の光学系では,撮像系を望遠側にズームした際に投射側も全く等しく望遠側にズームインされるので,撮像されるストライプのピッチは一定となり投射系における光学系の調整が不要となる。また撮像系における光学系のズーム比を変更すると光学系の主点位置が移動するので,光学系が独立している場合では,一度配置した投射系と撮像系の配置をそれぞれの光学系が同主点になるように再調整しなければならない。これに対して本実施例の光学系では,結像光学系が共通なのでズーム比を変更しても,主点位置は移動するが,投射系と撮像系の同主点位置関係は不変であるため,同主点にするために調整作業は全く必要がなく使い勝手が非常に良い。
別の利点として,本実施例では同主点配置手段であるビームスプリッターが結像光学系の奥(撮像部側)に配置されているため,従来型のビームスプリッターが結像光学系の手前(物体側)に配置されている場合に比べてビームスプリッターの位置は結像位置からより遠くなる。よってビームスプリッターの汚れは撮像面により結像しにくくなり,汚れによる計測精度への影響は低減される。
また,パターン発生部のパターンを拡大して物体に投射するので,ビームスプリッターを従来のものに比べてパターン発生部側に配置する本実施例によれば,ビームスプリッターを小型化することができる。
さらに結像光学系を共有することにより,光学系を1つ減らすことができ小型,安価な三次元画像撮像装置を実現できる。
本発明の実施例では形状計測ともに物体の輝度情報も取得可能である。投射光を符号化パターン光から白色光に切り替えるか外部の照明装置を用いて最適な照明光を照射することにより物体の質感を高めた状態で,本実施例で示した装置により物体の輝度情報を取得する。撮像手段は第1の撮像手段でも第2の撮像手段を用いてもよい。第2の撮像手段を用いる時は偏光フィルタを装着したままでもよいが,物体の質感をよりリアルに表現したい場合には偏光フィルタを取り外した状態で撮像するのがよい。これにより距離情報のみならず輝度情報も取得が可能になり,物体の形状データに輝度データを貼り付けて表示する3Dコンテンツ制作の際のデータ提供も可能になる。もちろん,第1の撮像手段や第2の撮像手段以外の撮像手段を用いて輝度情報を取得しても良い。
つぎに本発明の実施例2について説明する。図10は本発明の実施例2の三次元画像撮像装置を説明する図である。実施例2は,投射手段10に光源11と光整形光学系16とパターン発生部12であるDMD(Digital Micro−mirror Device)を用いた構成である。DMDは小さな鏡面体の集合であり,1つの鏡面体が1つの画素に相当する。また鏡面体は傾きを変えることができる。鏡面体に光を入射させ,鏡面体の傾きの角度を制御することにより1画素ごとに光のオンオフを制御する。ストライプの符号化に必要な階調制御は,光のオンオフの回数を制御することにより行う。色にて符号化する際には,DMDの前にRGBなどの色のついたカラーホイールを回転させ,光のオンオフに同期させるとか,色ごとにDMDを用意しておいて,クロスプリズムなどを用いて後で色合成するなどの手段を用いる。DMDの詳細な構成例は,例えば,「From ICs To DMDs」(M.A.Mignardi,TI Technical Journal July−September,1998,pp.56−63)に紹介されている。これは,数十μm角の微小ミラーを,半導体チップ上に,数百個×数百個などの規模で並べた,2次元アレイを用いる。各ミラーは,その下の駆動回路によって,正負に傾斜できる可動構造になっている。これに照明光をあて,個々のミラーの角度に応じて,スクリーン上に所望のパターンを投光するものである。DMDで投光器を構成し,高精度に所望の縞模様パターンを投光し,空間コード化法で3次元画像を求める例は「Real−time 3D Shape Measurementwith Digital Stripe Projection by Texas Instruments micro Mirror Devices DMD」(G. Frankowski et.al.,SPIE 3598 Feb.2001,pp.90−105)。に詳細が記載されている。ここでは輝度が正弦波状に,連続変化する縞模様パターンを,DMDによって高精度に投光する。DMDは,投光がパルス動作であるため,受光素子(CCD)の受光動作と,同期をとる制御などをしている。
図10において図4と対応する箇所には対応する符号を付して詳細な説明は省略する。実施例2においても実施例1と同様な効果が達成される。
つぎに本発明の実施例3について説明する。実施例3は,図11に示すように,上述の実施例1と同様の構成を採用した上で,投射手段10および第1の撮像手段20を囲むようにカバー部材40を設けたものである。この実施例3によれば,実施例1と同様の効果に加え,光学系等の汚れを防止できるという効果も達成する。上述したように小型化が実現されるため,小さなカバー部材40を用いることができる。なお,図11においても図4と対応する箇所には対応する符号を付した。
つぎに本発明の実施例4について説明する。実施例4によれば,図12に示すように,投射手段10,第1の撮像手段20,第2の撮像手段30等を収容する筐体50を設け,小型,携帯型の三次元画像撮像用のカメラとして機能する装置(三次元画像カメラ,3Dカメラともいう)を実現できる。図12の例では,輝度情報のモニタ用に第2の撮像手段30または第1の撮像手段20を用い,第2の撮像手段30または第1の撮像手段20からの撮像情報をスイッチ61を介して液晶表示装置60に供給してモニタできるようにしている。もちろん,別途,結像光学系を設けて光学的にモニタするようにしても良い。撮像をおこなうときには,パターン画像を投射して距離画像を取得し,この後,パターン画像の投射をやめて第1の撮像手段20または第2の撮像手段30から輝度情報を取得する。この場合,十分な光量が得られない場合には,光源11から一様な白色光を投射することができる。図12においても図4と対応する箇所には対応する符号を付した。
つぎに本発明の実施例5について説明する。実施例5によれば,図13に示すように,モニタ用かつ輝度情報取得用の第3の撮像手段70を設けている。第1の撮像手段20および第2の撮像手段30として赤外線撮像素子(赤外領域に感度を持つCCD等)を用い,光源11から赤外光からなるパターン光を投射する。このようにすれば,第1の撮像手段20および第2の撮像手段30による距離画像の取得と第3の撮像手段70による輝度画像の取得とを同時におこなうことができる。また光源駆動部80が連続駆動するのでなく,フラッシュ駆動するようにすることも好ましい。このようにすれば電源90の消費を抑えることができ,携帯用として使用できる3Dカメラとして使い勝手がよい。図12においても図4および図12と対応する箇所には対応する符号を付した。
つぎに本発明の実施例6について説明する。上述の実施例1〜5では,同主点配置手段として偏光ビームスプリッタを用い,その偏光変換機能および偏光方位選択機能を利用したが,物体の光沢がさほど問題にならない場合には,あるいは,別途,光沢の問題を解決する手段を採用する場合には,偏光変換機能および偏光方位選択機能を省略することができる。以降の実施例は,偏光変換機能および偏光方位選択機能を具備しない同主点配置手段を採用する。
図14は,実施例6の三次元画像撮像装置を示しており,この図において図4と対応する箇所には体操する符号を付した。この例では,同主点配置手段13Aとしてビームスプリッタ(キューブ型またはプレート型)を用いた。第2の撮像手段30Aはテクスチャ・パターン撮像部31と結像光学系32とを具備し,他方,偏光方位選択手段(図4に符号33で示す)は設けられていない。
実施例6の三次元画像撮像装置においても,第1の撮像手段20および第2の撮像手段30Aにより撮像されたストライプ像はともに物体のテクスチャ情報を含んでいるので,両者を比較し対応点抽出する際,エラーの発生を抑制できる。よって物体のテクスチャによる計測劣化の影響を低減できる。
また,撮像系を望遠側にズームした際に投射側も全く等しく望遠側にズームされるので,撮像されるストライプのピッチは一定となり投射系における光学系の調整が不要となる。また,結像光学系14が共通なのでズーム比を変更しても,主点位置は移動するが,投射系と撮像系の同主点位置関係は不変であるため,同主点にするために調整作業は全く必要がなく使い勝手が非常に良い。
また,ビームスプリッター(同主点配置手段13A)が結像光学系14の奥(撮像部側)に配置されているため,従来型のビームスプリッターが結像光学系の手前(物体側)に配置されている場合に比べてビームスプリッターの位置は結像位置からより遠くなる。よってビームスプリッターの汚れは撮像面により結像しにくくなり,汚れによる計測精度への影響は低減される。
また,パターン発生部のパターンを拡大して物体に投射するので,ビームスプリッターを従来のものに比べてパターン発生部側に配置する本実施例によれば,ビームスプリッターを小型化することができる。
さらに結像光学系を共有することにより,光学系を1つ減らすことができ小型,安価な三次元画像撮像装置を実現できる。
この実施例6でも,形状計測ともに物体の輝度情報も取得可能である。投射光を符号化パターン光から白色光に切り替えるか外部の照明装置を用いて最適な照明光を照射することにより物体の質感を高めた状態で,本実施例で示した装置により物体の輝度情報を取得する。撮像手段は第1の撮像手段でも第2の撮像手段を用いてもよい。また別途用意しても良い。これにより距離情報のみならず輝度情報も取得が可能になり,物体の形状データに輝度データを貼り付けて表示する3Dコンテンツ制作の際のデータ提供も可能になる。
つぎに本発明の実施例7について説明する。図15は本発明の実施例7の三次元画像撮像装置を説明する図である。実施例7は,基本的には実施例6と同様の構成を採用し,その上で,投射手段10に光源11と光整形光学系16とパターン発生部12であるDMDを用いている。
図15において図14と対応する箇所には対応する符号を付して詳細な説明は省略する。実施例7においても実施例6と同様な効果が達成される。
つぎに本発明の実施例8について説明する。実施例8においては,図16に示すように,投射手段10および第1の撮像手段20を囲むようにカバー部材40を設け光学系等が汚れないようにしている。上述したように小型化が実現されるため,小さなカバー部材40を用いることができる。図16において図14と対応する箇所には対応する符号を付した。
つぎに本発明の実施例9について説明する。実施例9においては,図17に示すように,投射手段10,第1の撮像手段20,第2の撮像手段30等を収容する筐体50を設け,小型,携帯型の三次元画像撮像用のカメラとして機能する装置(三次元画像カメラ,3Dカメラともいう)を実現している。実施例9では,輝度情報のモニタ用に第2の撮像手段30または第1の撮像手段20を用い,第2の撮像手段30または第1の撮像手段20からの撮像情報をスイッチ61を介して液晶表示装置60に供給してモニタできるようにしている。もちろん,別途,結像光学系を設けて光学的にモニタするようにしても良い。撮像をおこなうときには,パターン画像を投射して距離画像を取得し,この後,パターン画像の投射をやめて第1の撮像手段20または第2の撮像手段30から輝度情報を取得する。この場合,十分な光量が得られない場合には,光源11から一様な白色光を投射することができる。図17において図14と対応する箇所には対応する符号を付した。
つぎに本発明の実施例10について説明する。実施例10においては,図18に示すように,モニタ用かつ輝度情報取得用の第3の撮像手段70を設けている。この場合,第1の撮像手段20および第2の撮像手段30を赤外線撮像素子(赤外領域に感度を持つCCD等)を用い,光源11から赤外光からなるパターン光を投射する。このようにすれば,第1の撮像手段20および第2の撮像手段30による距離画像の取得と第3の撮像手段70による輝度画像の取得とを同時におこなうことができる。また光源駆動部80が連続駆動するのでなく,フラッシュ駆動するようにすることも好ましい。このようにすれば電源90の消費を抑えることができ,携帯用として使用できる3Dカメラとして使い勝手がよい。図18において図14と対応する箇所には対応する符号を付した。
以上で実施例の説明を終了する。なお,この発明は上述の実施例に限定されるものではなくその趣旨を逸脱しない範囲で種々変更が可能である。
本発明の実施例1における主要部分である投射手段と,投射手段に対し光学的に同主点に配置された第1の撮像手段を模式的に示した図である。 上述実施例1の同主点の構成にて符号化されたパターン光を物体に投射・撮像することを説明する図である。 上述実施例1にて投射手段と第1の撮像手段が光学的に同主点位置に配置できることを説明するための図である。 上述実施例1の三次元画像撮像装置の全体像を示した図である。 上述実施例1において物体に光沢がある場合でも計測劣化を防ぐことが可能であることを説明する図である。 上述実施例の第1の撮像手段にて鏡面反射光を除去できることを説明する図である。 上述実施例1の装置を理想的な状態にするための構成図である。 上述実施例1に用いるPBSプリズムの例を説明する図である。 上述実施例1のPBSプリズムに代えて用いるプレート型PBSの例を説明する図である。 本発明の実施例2の三次元画像撮像装置を説明する図である。 本発明の実施例3の三次元画像撮像装置を説明する図である。 本発明の実施例4の三次元画像カメラを説明する図である。 本発明の実施例5の三次元画像カメラを説明する図である。 本発明の実施例6の三次元画像撮像装置を説明する図である。 本発明の実施例7の三次元画像撮像装置を説明する図である。 本発明の実施例8の三次元画像撮像装置を説明する図である。 本発明の実施例9の三次元画像カメラを説明する図である。 本発明の実施例10の三次元画像カメラを説明する図である。 従来の三次元画像撮像装置の構成を説明する図である。 従来の三次元画像撮像装置にて物体にテクスチャがある場合に計測劣化を防ぐことが可能であることを説明する図である。 従来の三次元画像撮像装置にて物体に光沢がある場合に計測劣化が発生することを説明する図である。 従来の三次元画像撮像装置にて物体に光沢がある場合に計測劣化が発生することを説明する図である。 物体に光沢がある場合に計測劣化が発生しない形状計測装置の従来例を説明する図である。
符号の説明
10 投射手段
11 光源
12 パターン発生部
13,13A 同主点配置手段
14 結像光学系
15 光トラップ
16 光整形光学系
20 第1の撮像手段
21 テクスチャ・パターン撮像部
30,30A 第2の撮像手段
31 テクスチャ・パターン撮像部
32 結像光学系
33 偏光方位選択手段
40 カバー部材
50 筐体
60 液晶表示装置
61 スイッチ
70 第3の撮像手段
80 光源駆動部
90 電源

Claims (29)

  1. 物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記第1の撮像手段と光学的に異なる主点をとるように配置され前記物体からの反射像を撮像する第2の撮像手段とを有し,前記物体の三次元形状を測定する三次元画像撮像装置において,
    前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,
    前記投射手段と前記第1の撮像手段において共用される結像光学系とを有することを特徴とする三次元画像撮像装置。
  2. 前記結像光学系はズーム手段を備え,前記ズーム手段によりズーム比が変更された場合に前記投射手段と前記第1の撮像手段の同主点位置関係が不変であるように構成された請求項1記載の三次元画像撮像装置。
  3. 前記投射手段は,光源と,パターン発生部と,前記同主点配置手段と前記結像光学系とを有する請求項1記載の三次元画像撮像装置。
  4. 前記投射手段は,光源と,光整形光学系と,パターン発生部と,前記同主点配置手段と,前記結像光学系とを有する請求項1記載の三次元画像撮像装置。
  5. 前記第1の撮像手段は,前記物体のテクスチャおよびパターン反射像を撮像するテクスチャ・パターン撮像部と,前記同主点配置手段と,前記結像光学系とを有する請求項1記載の三次元画像撮像装置。
  6. 前記第2の撮像手段は,前記物体のテクスチャおよびパターン反射像を撮像するテクスチャ・パターン撮像部と,結像光学系とを有する請求項1記載の三次元画像撮像装置。
  7. 前記パターン光は符号化されたストライプ光からなる請求項1記載の三次元画像撮像装置。
  8. 前記投射手段においてパターン光を発生するパターン発生部は液晶パネルを含んでなる請求項1記載の三次元画像撮像装置。
  9. 前記投射手段においてパターン光を発生するパターン発生部はデジタルマイクロミラーデバイスを含んでなる請求項1記載の三次元画像撮像装置。
  10. 前記投射手段においてパターン光を発生するパターン発生部は透過フィルムを含んでなる請求項1記載の三次元画像撮像装置。
  11. 少なくとも前記結像光学系および前記同主点配置手段を,前記第1の撮像手段および前記第2の撮像手段への反射光の投射を妨げることがない部分において,遮蔽するカバー部材を設けた請求項1記載の三次元画像撮像装置。
  12. 前記結像光学系が,前記同主点配置手段より前記物体側に配置される請求項1記載の三次元画像撮像装置。
  13. 前記同主点配置手段はプレート型ビームスプリッタを用いて構成される請求項1記載の三次元画像撮像装置。
  14. 前記同主点配置手段はキューブ型ビームスプリッタを用いて構成される請求項1記載の三次元画像撮像装置。
  15. 物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,前記投射手段と前記第1の撮像手段において共用される結像光学系と,前記第1の撮像手段と光学的に異なる主点をとるように配置され前記物体からの反射像を撮像する第2の撮像手段とを用い,投射手段から投射したパターン光を物体に投射し,反射光を第1の撮像手段および第2の撮像手段で撮像し,前記第1の撮像手段により取得した物体からの反射像と前記第2の撮像手段により取得した物体からの反射像に基づいて三次元形状を計測することを特徴とする三次元画像撮像方法。
  16. 物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記第1の撮像手段と光学的に異なる主点をとるように配置され前記物体からの反射像を撮像する第2の撮像手段とを有し,前記物体の三次元形状を測定する三次元画像撮像装置において,
    前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,
    前記投射手段と前記第1の撮像手段において共用される結像光学系と,
    前記投射手段と,前記第1の撮像手段と,前記第2の撮像手段を取り付ける筐体とを有することを特徴とする三次元画像カメラ。
  17. 前記投射手段は,フラッシュ光を投射する請求項16記載の三次元画像カメラ。
  18. 前記投射手段は,パターンのない光を前記物体に投射することができ,パターンのない光の前記物体からの反射像を前記第1の撮像手段または前記第2の撮像手段により撮像して前記物体の輝度情報を得る請求項16記載の三次元画像カメラ。
  19. 前記物体を可視領域で撮像する第3の撮像手段を設け,前記投射手段は,パターン光として赤外光を投射し,前記第1の撮像手段および前記第2の撮像手段は赤外光の反射像を撮像して前記物体の三次元形状を測定し,前記第3の撮像手段により前記物体の輝度情報を得る請求項16記載の三次元画像カメラ。
  20. 前記赤外光の反射情報と前記物体の輝度情報とを同時に取得することにより,前記物体の距離情報と輝度情報とを同時に取得する請求項19記載の三次元画像カメラ。
  21. 前記結像光学系が,前記同主点配置手段より前記物体側に配置される請求項16記載の三次元画像カメラ。
  22. 物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記第1の撮像手段と光学的に異なる主点をとるように配置され前記物体からの反射像を撮像する第2の撮像手段とを有し,前記物体の三次元形状を測定する三次元画像撮像装置において,
    前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,
    前記投射手段と前記第1の撮像手段において共用される結像光学系とを有し,
    さらに,前記同主点配置手段は,
    前記投射手段からの光を偏光光に変換する偏光変換機能と,
    前記物体からの反射光のうち前記第1の撮像手段に導く光を選択する偏光方位選択機能とを有することを特徴とする三次元画像撮像装置。
  23. 前記結像光学系はズーム手段を備え,前記ズーム手段によりズーム比が変更された場合に前記投射手段と前記第1の撮像手段の同主点位置関係が不変であるように構成された請求項22記載の三次元画像撮像装置。
  24. 前記同主点配置手段はプレート型あるいはキューブ型の形状を有する偏光ビームスプリッタを用いて構成される請求項22記載の三次元画像撮像装置。
  25. 前記第2の撮像手段は,前記物体のテクスチャおよびパターン反射像を撮像するテクスチャ・パターン撮像部と,結像光学系と,前記物体からの反射光のうち前記第2の撮像手段に導く光を選択する偏光方位選択手段とを有する請求項22記載の三次元画像撮像装置。
  26. 前記第2の撮像手段における前記偏光方位選択手段は前記同主点配置手段の偏光変換機能により偏光変換された偏光光の偏光方位に対し,前記偏光方位選択手段が選択する偏光方位の角度を相対的に変化させる角度調整機能を備える請求項25記載の三次元画像撮像装置。
  27. 前記偏光変換機能と前記偏光方位選択機能を備える前記同主点配置手段に入射する光は略平行化された光である請求項22記載の三次元画像撮像装置。
  28. 物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,前記投射手段と前記第1の撮像手段において共用される結像光学系と,前記第1の撮像手段と光学的に異なる主点をとるように配置され前記物体からの反射像を撮像する第2の撮像手段とを用い,さらに,前記同主点配置手段に設けた偏光変換機能により,前記投射手段からの光を偏光光に変換し,前記同主点配置手段に設けた偏光方位選択機能により,前記物体からの反射光のうち前記第1の撮像手段に導く光を選択し,前記第2の撮像手段に設けた偏光方位選択手段により,前記物体からの反射光のうち前記第2の撮像手段に導く光を選択し,前記第1の撮像手段により取得した物体からの反射像と前記第2の撮像手段により取得した物体からの反射像に基づいて三次元形状を計測することを特徴とする三次元画像撮像方法。
  29. 物体にパターン光を投射する投射手段と,前記物体からの反射像を撮像する第1の撮像手段と,前記第1の撮像手段と光学的に異なる主点をとるように配置され前記物体からの反射像を撮像する第2の撮像手段とを有し,前記物体の三次元形状を測定する三次元画像カメラにおいて,
    前記投射手段と前記第1の撮像手段を光学的に同主点位置に配置させるための同主点配置手段と,
    前記投射手段と前記第1の撮像手段において共用される結像光学系と,
    前記投射手段と,前記第1の撮像手段と,前記第2の撮像手段を取り付ける筐体とを有し,
    さらに,前記同主点配置手段は,
    前記投射手段からの光を偏光光に変換する偏光変換機能と,
    前記物体からの反射光のうち前記第1の撮像手段に導く光を選択する偏光方位選択機能とを有することを特徴とする三次元画像カメラ。
JP2003312932A 2003-08-12 2003-09-04 三次元画像撮像装置および方法 Expired - Fee Related JP4379056B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003312932A JP4379056B2 (ja) 2003-08-12 2003-09-04 三次元画像撮像装置および方法
US10/778,092 US7078720B2 (en) 2003-08-12 2004-02-17 Range finder for measuring three-dimensional geometry of object and method thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2003292543 2003-08-12
JP2003312932A JP4379056B2 (ja) 2003-08-12 2003-09-04 三次元画像撮像装置および方法

Publications (2)

Publication Number Publication Date
JP2005090958A true JP2005090958A (ja) 2005-04-07
JP4379056B2 JP4379056B2 (ja) 2009-12-09

Family

ID=34137963

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003312932A Expired - Fee Related JP4379056B2 (ja) 2003-08-12 2003-09-04 三次元画像撮像装置および方法

Country Status (2)

Country Link
US (1) US7078720B2 (ja)
JP (1) JP4379056B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007029443A1 (ja) * 2005-09-09 2007-03-15 Matsushita Electric Industrial Co., Ltd. 画像処理方法、画像記録方法、画像処理装置および画像ファイルフォーマット
JP2007101275A (ja) * 2005-09-30 2007-04-19 Topcon Corp 三次元計測用投影装置及びシステム
JP2008042781A (ja) * 2006-08-09 2008-02-21 Fuji Xerox Co Ltd 画像処理装置
KR20130114313A (ko) * 2012-04-09 2013-10-18 엘지전자 주식회사 3차원 영상 카메라
CN103782129A (zh) * 2011-09-09 2014-05-07 (株)茵斯派托 利用投影光栅振幅的三维形状测量装置及方法
JP2016093511A (ja) * 2009-06-03 2016-05-26 ケアストリーム ヘルス インク 口腔内撮像装置
KR20220113085A (ko) * 2021-02-05 2022-08-12 경북대학교 산학협력단 광 시야각 플래시 라이다 장치

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1294189A3 (en) * 2001-09-18 2004-01-14 Sony Corporation Optical state modulation
ATE406850T1 (de) 2004-06-17 2008-09-15 Cadent Ltd Verfahren und gerät zur farbbildformung einer dreidimensionalen struktur
DE602005021520D1 (de) * 2004-07-30 2010-07-08 Fischer Imaging Corp Bildgebungseinrichtung für die fusionierte mammographie mit unabhängig beweglichen bildgebungssystemen verschiedener modalitäten
DE102006030356B4 (de) * 2006-06-30 2012-03-29 Bremer Institut für angewandte Strahltechnik GmbH Verfahren zur optischen Vermessung von Objekten
US8265343B2 (en) * 2006-12-25 2012-09-11 Nec Corporation Apparatus, method and program for distance measurement
DE102007022361A1 (de) * 2007-05-04 2008-11-06 Friedrich-Schiller-Universität Jena Vorrichtung und Verfahren zum berührungslosen Erfassen räumlicher Koordinaten einer Oberfläche
FR2940423B1 (fr) * 2008-12-22 2011-05-27 Noomeo Dispositif de numerisation tridimensionnelle a reconstruction dense
US8396685B2 (en) * 2009-09-15 2013-03-12 Qualcomm Incorporated Small form-factor distance sensor
US8497981B2 (en) * 2009-09-15 2013-07-30 Qualcomm Incorporated Small form-factor size sensor
CN102455825B (zh) * 2010-10-25 2016-03-30 中山市云创知识产权服务有限公司 多媒体简报指示系统及方法
KR101798063B1 (ko) 2010-12-14 2017-11-15 삼성전자주식회사 조명 광학계 및 이를 포함하는 3차원 영상 획득 장치
US9098147B2 (en) 2011-12-29 2015-08-04 Industrial Technology Research Institute Ranging apparatus, ranging method, and interactive display system
US9186470B2 (en) * 2012-02-08 2015-11-17 Apple Inc. Shape reflector and surface contour mapping
TWI467242B (zh) 2012-05-29 2015-01-01 Delta Electronics Inc 提供複數視角影像之投影裝置
EP2728306A1 (en) 2012-11-05 2014-05-07 Hexagon Technology Center GmbH Method and device for determining three-dimensional coordinates of an object
CN103983981A (zh) * 2013-10-11 2014-08-13 北京理工大学 基于相位测距原理的三维压缩成像方法及装置
US9675430B2 (en) 2014-08-15 2017-06-13 Align Technology, Inc. Confocal imaging apparatus with curved focal surface
DE102017208839A1 (de) * 2017-05-24 2018-11-29 Cst Gmbh Vorrichtung und Verfahren zur Messung der Profiltiefe eines Reifens
CN112930468B (zh) * 2018-11-08 2022-11-18 成都频泰鼎丰企业管理中心(有限合伙) 三维测量设备
EP3708948B1 (en) * 2019-03-12 2021-09-22 Sick Ag A light line triangulation apparatus

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02146534A (ja) * 1988-11-29 1990-06-05 Canon Inc 画像表示装置
JPH10311950A (ja) * 1997-05-14 1998-11-24 Olympus Optical Co Ltd 走査型顕微鏡
JP2000065542A (ja) * 1998-08-18 2000-03-03 Fuji Xerox Co Ltd 3次元画像撮影装置
JP2002218505A (ja) * 2001-01-17 2002-08-02 Fuji Xerox Co Ltd 3次元画像撮像装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2815910B2 (ja) * 1989-07-19 1998-10-27 シャープ株式会社 投影形画像表示装置
JPH03192474A (ja) 1989-12-22 1991-08-22 Fujitsu Ltd 3次元形状計測方式
JP2983318B2 (ja) 1991-03-29 1999-11-29 群馬県 形状測定装置及び測定法
DE59306619D1 (de) * 1992-01-29 1997-07-10 Thomson Brandt Gmbh Videokamera, wahlweise als Projektor betreibbar
US5783833A (en) * 1994-12-12 1998-07-21 Nikon Corporation Method and apparatus for alignment with a substrate, using coma imparting optics
JPH09128818A (ja) * 1995-11-02 1997-05-16 Sony Corp 露光装置
US6034803A (en) * 1997-04-30 2000-03-07 K2 T, Inc. Method and apparatus for directing energy based range detection sensor
JP3614001B2 (ja) * 1997-12-03 2005-01-26 セイコーエプソン株式会社 投影装置
JP3610764B2 (ja) * 1998-02-25 2005-01-19 セイコーエプソン株式会社 光学装置、及びこれを備えた投写型表示装置
DE19911419A1 (de) * 1998-03-16 1999-10-14 Cyberoptics Corp Digitales Bereichssensorsystem
WO1999061948A1 (fr) * 1998-05-25 1999-12-02 Matsushita Electric Industrial Co., Ltd. Telemetre et appareil photographique
JP3384329B2 (ja) 1998-06-22 2003-03-10 富士ゼロックス株式会社 3次元画像撮影装置
JP2001324327A (ja) * 2000-05-12 2001-11-22 Asahi Optical Co Ltd 分岐光学系を用いたaf測量機
US6856446B2 (en) * 2001-12-12 2005-02-15 Texas Instruments Incorporated Digital micromirror device having mirror-attached spring tips

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02146534A (ja) * 1988-11-29 1990-06-05 Canon Inc 画像表示装置
JPH10311950A (ja) * 1997-05-14 1998-11-24 Olympus Optical Co Ltd 走査型顕微鏡
JP2000065542A (ja) * 1998-08-18 2000-03-03 Fuji Xerox Co Ltd 3次元画像撮影装置
JP2002218505A (ja) * 2001-01-17 2002-08-02 Fuji Xerox Co Ltd 3次元画像撮像装置

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007029443A1 (ja) * 2005-09-09 2007-03-15 Matsushita Electric Industrial Co., Ltd. 画像処理方法、画像記録方法、画像処理装置および画像ファイルフォーマット
US7636393B2 (en) 2005-09-09 2009-12-22 Panasonic Corporation Image processing method, image recording method, image processing device and image file format
US8249370B2 (en) 2005-09-09 2012-08-21 Panasonic Corporation Image processing method, image recording method, image processing device and image file format
JP2007101275A (ja) * 2005-09-30 2007-04-19 Topcon Corp 三次元計測用投影装置及びシステム
JP2008042781A (ja) * 2006-08-09 2008-02-21 Fuji Xerox Co Ltd 画像処理装置
JP4697087B2 (ja) * 2006-08-09 2011-06-08 富士ゼロックス株式会社 画像処理装置
JP2016093511A (ja) * 2009-06-03 2016-05-26 ケアストリーム ヘルス インク 口腔内撮像装置
CN103782129A (zh) * 2011-09-09 2014-05-07 (株)茵斯派托 利用投影光栅振幅的三维形状测量装置及方法
KR20130114313A (ko) * 2012-04-09 2013-10-18 엘지전자 주식회사 3차원 영상 카메라
KR20220113085A (ko) * 2021-02-05 2022-08-12 경북대학교 산학협력단 광 시야각 플래시 라이다 장치
KR102547049B1 (ko) * 2021-02-05 2023-06-26 경북대학교 산학협력단 광 시야각 플래시 라이다 장치

Also Published As

Publication number Publication date
US7078720B2 (en) 2006-07-18
US20050035314A1 (en) 2005-02-17
JP4379056B2 (ja) 2009-12-09

Similar Documents

Publication Publication Date Title
JP4379056B2 (ja) 三次元画像撮像装置および方法
US10254111B2 (en) Device for optical 3D measuring of an object
US8199335B2 (en) Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, three-dimensional shape measuring program, and recording medium
US9479757B2 (en) Structured-light projector and three-dimensional scanner comprising such a projector
JP5431312B2 (ja) プロジェクタ
US6600168B1 (en) High speed laser three-dimensional imager
US7349104B2 (en) System and a method for three-dimensional imaging systems
US20060164526A1 (en) Image processing device and image capturing device
US7236256B2 (en) Range finder and method
CN104614925B (zh) 投影装置与深度测量系统
KR102531282B1 (ko) 대치 채널을 갖는 3-차원 센서
US20190166348A1 (en) Optically offset three-dimensional imager
JP2014106094A (ja) 形状測定装置
JP2006267031A (ja) 3次元入力装置および3次元入力方法
CN114898038A (zh) 一种图像重建方法、装置及设备
US11326874B2 (en) Structured light projection optical system for obtaining 3D data of object surface
WO2020102658A2 (en) Laser projection system
US20240167811A1 (en) Depth data measuring head, computing device and measurement method
JP6060729B2 (ja) 三次元投射装置
JP2007155600A (ja) 三次元形状計測用投光装置及び三次元形状計測装置
JP6626552B1 (ja) マルチ画像プロジェクタ及びマルチ画像プロジェクタを有する電子デバイス
JP2004053532A (ja) 光学的形状測定装置
JP2006277023A (ja) 3次元情報取得装置、パターン光生成方法、3次元情報取得方法、プログラム及び記録媒体
JP3652012B2 (ja) 自動焦点検出用の投光系
JP2004170305A (ja) 3次元形状計測方法および3次元形状計測装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060824

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090415

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090825

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090907

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121002

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4379056

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121002

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131002

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees