JPWO2012026180A1 - 情報取得装置および物体検出装置 - Google Patents

情報取得装置および物体検出装置 Download PDF

Info

Publication number
JPWO2012026180A1
JPWO2012026180A1 JP2012530563A JP2012530563A JPWO2012026180A1 JP WO2012026180 A1 JPWO2012026180 A1 JP WO2012026180A1 JP 2012530563 A JP2012530563 A JP 2012530563A JP 2012530563 A JP2012530563 A JP 2012530563A JP WO2012026180 A1 JPWO2012026180 A1 JP WO2012026180A1
Authority
JP
Japan
Prior art keywords
area
pattern
update
segment
information acquisition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012530563A
Other languages
English (en)
Other versions
JP5143314B2 (ja
Inventor
孝明 森本
孝明 森本
楳田 勝美
勝美 楳田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2012530563A priority Critical patent/JP5143314B2/ja
Application granted granted Critical
Publication of JP5143314B2 publication Critical patent/JP5143314B2/ja
Publication of JPWO2012026180A1 publication Critical patent/JPWO2012026180A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/46Indirect determination of position data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating

Abstract

レーザ光のドットパターンが、回折光学素子の形状や位置、および、レーザ光の波長等によって変化しても、検出対象物体までの距離を適正に検出し得る情報取得装置およびこれを搭載する物体検出装置を提供する。情報取得装置(1)は、波長830nm程度のレーザ光を出射するレーザ光源(111)と、レーザ光を前記目標領域に向けて投射する投射光学系(11)と、前記目標領域からの反射光を受光して信号を出力するCMOSイメージセンサ(124)と、CMOSイメージセンサ(124)によって受光される光の基準パターンを、マトリックス状に並ぶ基準セグメント領域で区分した基準テンプレートを保持するメモリ(25)と、基準テンプレートを更新する更新部(21b)とを有する。更新部(21b)は、基準テンプレートに設定された参照セグメント領域の実測時における変位に基づいて、基準テンプレートを更新する。

Description

本発明は、目標領域に光を投射したときの反射光の状態に基づいて目標領域内の物体を検出する物体検出装置およびこれに用い好適な情報取得装置に関する。
従来、光を用いた物体検出装置が種々の分野で開発されている。いわゆる距離画像センサを用いた物体検出装置では、2次元平面上の平面的な画像のみならず、検出対象物体の奥行き方向の形状や動きを検出することができる。かかる物体検出装置では、レーザ光源やLED(Light Emitting Device)から、予め決められた波長帯域の光が目標領域に投射され、その反射光がCMOSイメージセンサ等の受光素子により受光される。距離画像センサとして、種々のタイプのものが知られている。
所定のドットパターンを持つレーザ光を目標領域に照射するタイプの距離画像センサでは、目標領域から反射されたドットパターンをイメージセンサで受光し、イメージセンサ上におけるドットパターンの受光位置に基づいて、三角測量法を用いて、検出対象物体の各部までの距離が検出される(たとえば、非特許文献1)。
この方式では、たとえば、レーザ光の照射部から所定の距離の位置に反射平面が配置された状態で、ドットパターンを持つレーザ光が出射され、そのときにイメージセンサ上に照射されたレーザ光のドットパターンがテンプレートとして保持される。そして、実測時にイメージセンサ上に照射されたレーザ光のドットパターンとテンプレートに保持されたドットパターンとが照合され、テンプレート上のドットパターンのセグメント領域が実測時のドットパターン上のどの位置に移動したかが検出される。この移動量に基づいて、各セグメント領域に対応する目標領域の各部までの距離が算出される。
第19回日本ロボット学会学術講演会(2001年9月18−20日)予稿集、P1279−1280
上記物体検出装置では、ドットパターンのレーザ光を生成するために回折光学素子が用いられる。レーザ光のドットパターンは、回折光学素子の形状や位置、および、レーザ光の波長等に依存する。しかしながら、これらの要素は、温度によって変化し易く、また、時間の経過によっても変化し得る。特に、回折光学素子が樹脂材料により形成された場合には、温度によって回折光学素子の特性が変わり易く、これに伴いドットパターンも変化し易い。このようにドットパターンが変化すると、テンプレートとして保持されたドットパターンが適正でなくなり、実測時のドットパターンとテンプレートに保持されたドットパターンとの照合が適正に行われなくなる。その結果、検出対象物体に対する距離の検出精度が低下する惧れがある。
本発明は、かかる問題を解消するためになされたものであり、レーザ光のドットパターンが、回折光学素子の形状や位置、および、レーザ光の波長等によって変化しても、検出対象物体までの距離を適正に検出し得る情報取得装置およびこれを搭載する物体検出装置を提供することを目的とする。
本発明の第1の態様は、光を用いて目標領域の情報を取得する情報取得装置に関する。この態様に係る情報取得装置は、所定波長帯域の光を出射する光源と、前記光源から出射された光を、所定のドットパターンでもって、前記目標領域に向けて投射する投射光学系と、前記目標領域から反射された反射光を受光して信号を出力する受光素子と、前記受光素子によって受光される前記光の基準パターンに複数の基準セグメント領域を設定した基準テンプレートを保持する記憶部と、前記基準テンプレートを更新する更新部と、を有する。前記更新部は、前記基準テンプレートに設定された参照セグメント領域の実測時における変位に基づいて、前記基準テンプレートを更新する。
本発明の第2の態様は、物体検出装置に関する。この態様に係る物体検出装置は、上記第1の態様に係る情報取得装置を有する。
本発明によれば、レーザ光のドットパターンが、回折光学素子の形状や位置、および、レーザ光の波長等によって変化しても、検出対象物体までの距離を適正に検出し得る情報取得装置およびこれを搭載する物体検出装置を提供することができる。
本発明の特徴は、以下に示す実施の形態の説明により更に明らかとなろう。ただし、以下の実施の形態は、あくまでも、本発明の一つの実施形態であって、本発明ないし各構成要件の用語の意義は、以下の実施の形態に記載されたものに制限されるものではない。
実施の形態に係る物体検出装置の構成を示す図である。 実施の形態に係る情報取得装置と情報処理装置の構成を示す図である。 実施の形態に係る目標領域に対するレーザ光の照射状態とイメージセンサ上のレーザ光の受光状態を示す図である。 実施の形態に係る基準テンプレートの設定方法を説明する図である。 実施の形態に係る距離検出方法を説明する図である。 実施の形態に係る距離検出エラーが起こる状態を説明する図である。 実施の形態に係るテンプレートの更新処理を示すフローチャートである。 実施の形態に係るテンプレートの更新方法を示す図である。 実施の形態に係るテンプレートの更新例を示す図である。 実施の形態に係るテンプレートの更新例を示す図である。 実施の形態に係るテンプレートの更新方法の変更例を示す図である。 実施の形態に係るテンプレートの更新方法の変更例を示す図である。 実施の形態に係る参照セグメント領域の他の設定方法を示す図である。
以下、本発明の実施の形態につき図面を参照して説明する。本実施の形態は、所定のドットパターンを持つレーザ光を目標領域に照射するタイプの情報取得装置に本発明を適用したものである。
まず、図1に本実施の形態に係る物体検出装置の概略構成を示す。図示の如く、物体検出装置は、情報取得装置1と、情報処理装置2とを備えている。テレビ3は、情報処理装置2からの信号によって制御される。
情報取得装置1は、目標領域全体に赤外光を投射し、その反射光をCMOSイメージセンサにて受光することにより、目標領域にある物体各部の距離(以下、「3次元距離情報」という)を取得する。取得された3次元距離情報は、ケーブル4を介して情報処理装置2に送られる。
情報処理装置2は、たとえば、テレビ制御用のコントローラやゲーム機、パーソナルコンピュータ等である。情報処理装置2は、情報取得装置1から受信した3次元距離情報に基づき、目標領域における物体を検出し、検出結果に基づきテレビ3を制御する。
たとえば、情報処理装置2は、受信した3次元距離情報に基づき人を検出するとともに、3次元距離情報の変化から、その人の動きを検出する。たとえば、情報処理装置2がテレビ制御用のコントローラである場合、情報処理装置2には、受信した3次元距離情報からその人のジェスチャを検出するとともに、ジェスチャに応じてテレビ3に制御信号を出力するアプリケーションプログラムがインストールされている。この場合、ユーザは、テレビ3を見ながら所定のジェスチャをすることにより、チャンネル切り替えやボリュームのUp/Down等、所定の機能をテレビ3に実行させることができる。
また、たとえば、情報処理装置2がゲーム機である場合、情報処理装置2には、受信した3次元距離情報からその人の動きを検出するとともに、検出した動きに応じてテレビ画面上のキャラクタを動作させ、ゲームの対戦状況を変化させるアプリケーションプログラムがインストールされている。この場合、ユーザは、テレビ3を見ながら所定の動きをすることにより、自身がテレビ画面上のキャラクタとしてゲームの対戦を行う臨場感を味わうことができる。
図2は、情報取得装置1と情報処理装置2の構成を示す図である。
情報取得装置1は、光学系として、投射光学系11と受光光学系12とを備えている。投射光学系11と受光光学系12は、X軸方向に並ぶように、情報取得装置1に配置される。
投射光学系11は、レーザ光源111と、コリメータレンズ112と、アパーチャ113と、回折光学素子(DOE:Diffractive Optical Element)114、温度センサ115とを備えている。また、受光光学系12は、アパーチャ121と、撮像レンズ122と、フィルタ123と、CMOSイメージセンサ124とを備えている。この他、情報取得装置1は、回路部の構成として、CPU(Central Processing Unit)21と、レーザ駆動回路22と、撮像信号処理回路23と、入出力回路24と、メモリ25を備えている。
レーザ光源111は、波長830nm程度の狭波長帯域のレーザ光を出力する。コリメータレンズ112は、レーザ光源111から出射されたレーザ光を平行光に変換する。アパーチャ113は、レーザ光の光束断面を所定の形状に調整する。DOE114は、入射面に回折パターンを有する。この回折パターンによる回折作用により、アパーチャ113からDOE114に入射したレーザ光は、ドットパターンのレーザ光に変換されて、目標領域に照射される。温度センサ115は、レーザ光源111の周囲の温度を検出する。
目標領域から反射されたレーザ光は、アパーチャ121を介して撮像レンズ122に入射する。アパーチャ121は、撮像レンズ122のFナンバーに合うように、外部からの光に絞りを掛ける。撮像レンズ122は、アパーチャ121を介して入射された光をCMOSイメージセンサ124上に集光する。
フィルタ123は、レーザ光源111の出射波長(830nm程度)を含む波長帯域の光を透過し、可視光の波長帯域をカットするバンドパスフィルタである。CMOSイメージセンサ124は、撮像レンズ122にて集光された光を受光して、画素毎に、受光光量に応じた信号(電荷)を撮像信号処理回路23に出力する。ここで、CMOSイメージセンサ124は、各画素における受光から高レスポンスでその画素の信号(電荷)を撮像信号処理回路23に出力できるよう、信号の出力速度が高速化されている。
CPU21は、メモリ25に格納された制御プログラムに従って各部を制御する。かかる制御プログラムによって、CPU21には、レーザ光源111を制御するためのレーザ制御部21aと、後述する更新部21bと、3次元距離情報を生成するための3次元距離演算部21cの機能が付与される。
レーザ駆動回路22は、CPU21からの制御信号に応じてレーザ光源111を駆動する。撮像信号処理回路23は、CMOSイメージセンサ124を制御して、CMOSイメージセンサ124で生成された各画素の信号(電荷)をライン毎に順次取り込む。そして、取り込んだ信号を順次CPU21に出力する。CPU21は、撮像信号処理回路23から供給される信号(撮像信号)をもとに、情報取得装置1から検出対象物の各部までの距離を、3次元距離演算部21cによる処理によって算出する。入出力回路24は、情報処理装置2とのデータ通信を制御する。
情報処理装置2は、CPU31と、入出力回路32と、メモリ33を備えている。なお、情報処理装置2には、同図に示す構成の他、テレビ3との通信を行うための構成や、CD−ROM等の外部メモリに格納された情報を読み取ってメモリ33にインストールするためのドライブ装置等が配されるが、便宜上、これら周辺回路の構成は図示省略されている。
CPU31は、メモリ33に格納された制御プログラム(アプリケーションプログラム)に従って各部を制御する。かかる制御プログラムによって、CPU31には、画像中の物体を検出するための物体検出部31aの機能が付与される。かかる制御プログラムは、たとえば、図示しないドライブ装置によってCD−ROMから読み取られ、メモリ33にインストールされる。
たとえば、制御プログラムがゲームプログラムである場合、物体検出部31aは、情報取得装置1から供給される3次元距離情報から画像中の人およびその動きを検出する。そして、検出された動きに応じてテレビ画面上のキャラクタを動作させるための処理が制御プログラムにより実行される。
また、制御プログラムがテレビ3の機能を制御するためのプログラムである場合、物体検出部31aは、情報取得装置1から供給される3次元距離情報から画像中の人およびその動き(ジェスチャ)を検出する。そして、検出された動き(ジェスチャ)に応じて、テレビ3の機能(チャンネル切り替えやボリューム調整、等)を制御するための処理が制御プログラムにより実行される。
入出力回路32は、情報取得装置1とのデータ通信を制御する。
図3(a)は、目標領域に対するレーザ光の照射状態を模式的に示す図、図3(b)は、CMOSイメージセンサ124におけるレーザ光の受光状態を模式的に示す図である。なお、同図(b)には、便宜上、目標領域に平坦な面(スクリーン)が存在するときの受光状態が示されている。
投射光学系11からは、ドットパターンを持ったレーザ光(以下、このパターンを持つレーザ光の全体を「DP光」という)が、目標領域に照射される。同図(a)には、DP光の光束領域が実線の枠によって示されている。DP光の光束中には、DOE114による回折作用によってレーザ光の強度が高められたドット領域(以下、単に「ドット」という)が、DOE114による回折作用によるドットパターンに従って点在している。
なお、図3(a)では、便宜上、DP光の光束が、マトリックス状に並ぶ複数のセグメント領域に区分されている。各セグメント領域には、ドットが固有のパターンで点在している。一つのセグメント領域におけるドットの点在パターンは、他の全てのセグメント領域におけるドットの点在パターンと相違する。これにより、各セグメント領域は、ドットの点在パターンをもって、他の全てのセグメント領域から区別可能となっている。
目標領域に平坦な面(スクリーン)が存在すると、これにより反射されたDP光の各セグメント領域は、同図(b)のように、CMOSイメージセンサ124上においてマトリックス状に分布する。たとえば、同図(a)に示す目標領域上におけるセグメント領域S0の光は、CMOSイメージセンサ124上では、同図(b)に示すセグメント領域Spに入射する。なお、図3(b)においても、DP光の光束領域が実線の枠によって示され、便宜上、DP光の光束が、マトリックス状に並ぶ複数のセグメント領域に区分されている。
上記3次元距離演算部21cでは、CMOSイメージセンサ124上における各セグメント領域の位置が検出され、検出された各セグメント領域の位置から、三角測量法に基づいて、検出対象物体の各セグメント領域に対応する位置までの距離が検出される。かかる検出手法の詳細は、たとえば、上記非特許文献1(第19回日本ロボット学会学術講演会(2001年9月18−20日)予稿集、P1279−1280)に示されている。
図4は、上記距離検出に用いられる基準テンプレートの生成方法を模式的に示す図である。
図4(a)に示すように、基準テンプレートの生成時には、投射光学系11から所定の距離Lsの位置に、Z軸方向に垂直な平坦な反射平面RSが配置される。この状態で、投射光学系11からDP光が所定時間Teだけ出射される。出射されたDP光は、反射平面RSによって反射され、受光光学系12のCMOSイメージセンサ124に入射する。これにより、CMOSイメージセンサ124から、画素毎の電気信号が出力される。出力された画素毎の電気信号の値(画素値)が、図2のメモリ25上に展開される。
こうしてメモリ25上に展開された画素値に基づいて、図4(b)に示すように、CMOSイメージセンサ124上におけるDP光の照射領域を規定する基準パターン領域が設定される。さらに、この基準パターン領域が、縦横に区分されてセグメント領域が設定される。上記のように、各セグメント領域には、固有のパターンでドットが点在する。よって、セグメント領域の画素値のパターンは、セグメント領域毎に異なっている。なお、各セグメント領域は、他の全てのセグメント領域と同じサイズである。
基準テンプレートは、このようにCMOSイメージセンサ124上に設定された各セグメント領域に、そのセグメント領域に含まれる各画素の画素値を対応付けて構成される。
具体的には、基準テンプレートは、CMOSイメージセンサ124上における基準パターン領域の位置に関する情報と、基準パターン領域に含まれる全画素の画素値と、基準パターン領域をセグメント領域に分割するための情報を含んでいる。基準パターン領域に含まれる全画素の画素値は、基準パターン領域に含まれるDP光のドットパターンに相応するものになる。また、基準パターン領域に含まれる全画素の画素値のマッピング領域をセグメント領域に区分することで、各セグメント領域に含まれる画素の画素値が取得される。なお、基準テンプレートは、さらに、各セグメント領域に含まれる画素の画素値を、セグメント領域毎に保持していても良い。
構成された基準テンプレートは、図2のメモリ25に、消去不可能な状態で保持される。
こうしてメモリ25に保持された基準テンプレートは、投射光学系11から検出対象物体の各部までの距離を算出する際に参照される。
たとえば、図4(a)に示すように距離Lsよりも近い位置に物体がある場合、基準パターン上の所定のセグメント領域Snに対応するDP光(DPn)は、物体によって反射され、セグメント領域Snとは異なる領域Sn’に入射する。投射光学系11と受光光学系12はX軸方向に隣り合っているため、セグメント領域Snに対する領域Sn’の変位方向はX軸に平行となる。同図の場合、物体が距離Lsよりも近い位置にあるため、領域Sn’は、セグメント領域Snに対してX軸正方向に変位する。物体が距離Lsよりも遠い位置にあれば、領域Sn’は、セグメント領域Snに対してX軸負方向に変位する。
セグメント領域Snに対する領域Sn’の変位方向と変位量をもとに、投射光学系11からDP光(DPn)が照射された物体の部分までの距離Lrが、距離Lsを用いて、三角測量法に基づき算出される。同様にして、他のセグメント領域に対応する物体の部分について、投射光学系11からの距離が算出される。
かかる距離算出では、基準テンプレートのセグメント領域Snが、実測時においてどの位置に変位したかを検出する必要がある。この検出は、実測時にCMOSイメージセンサ124上に照射されたDP光のドットパターンと、セグメント領域Snに含まれるドットパターンとを照合することによって行われる。
図5は、かかる検出の手法を説明する図である。同図(a)は、CMOSイメージセンサ124上における基準パターン領域とセグメント領域の設定状態を示す図、同図(b)は、実測時におけるセグメント領域の探索方法を示す図、同図(c)は、実測されたDP光のドットパターンと、基準テンプレートのセグメント領域に含まれるドットパターンとの照合方法を示す図である。
たとえば、同図(a)のセグメント領域S1の実測時における変位位置を探索する場合、同図(b)に示すように、セグメント領域S1が、範囲P1〜P2において、X軸方向に1画素ずつ送られ、各送り位置において、セグメント領域S1のドットパターンと、実測されたDP光のドットパターンのマッチング度合いが求められる。この場合、セグメント領域S1は、基準パターン領域の最上段のセグメント領域群を通るラインL1上のみをX軸方向に送られる。これは、上記のように、通常、各セグメント領域は、実測時において、基準テンプレートにより設定された位置からX軸方向にのみ変位するためである。すなわち、セグメント領域S1は、最上段のラインL1上にあると考えられるためである。このように、X軸方向にのみ探索を行うことで、探索のための処理負担が軽減される。
なお、実測時には、検出対象物体の位置によっては、セグメント領域が基準パターン領域の範囲からX軸方向にはみ出すことが起こり得る。このため、範囲P1〜P2は、基準パターン領域のX軸方向の幅よりも広く設定される。
上記マッチング度合いの検出時には、ラインL1上に、セグメント領域S1と同じサイズの領域(比較領域)が設定され、この比較領域とセグメント領域S1との間の類似度が求められる。すなわち、セグメント領域S1の各画素の画素値と、比較領域の対応する画素の画素値との差分が求められる。そして、求めた差分を比較領域の全ての画素について加算した値Rsadが、類似度を示す値として取得される。
たとえば、図5(c)のように、一つのセグメント領域中に、m列×n行の画素が含まれている場合、セグメント領域のi列、j行の画素の画素値T(i,j)と、比較領域のi列、j行の画素の画素値I(i,j)との差分が求められる。そして、セグメント領域の全ての画素について差分が求められ、その差分の総和により、値Rsadが求められる。すなわち、値Rsadは、次式により算出される。
Figure 2012026180
値Rsadが小さい程、セグメント領域と比較領域との間の類似度が高い。
探索時には、比較領域が、ラインL1上を1画素ずつずらされつつ順次設定される。そして、ラインL1上の全ての比較領域について、値Rsadが求められる。求めた値Rsadの中から、閾値より小さいものが抽出される。閾値より小さい値Rsadが無ければ、セグメント領域S1の探索はエラーとされる。そして、抽出されたRsadの中で最も値が小さいものに対応する比較領域が、セグメント領域S1の移動領域であると判定される。ラインL1上のセグメント領域S1以外のセグメント領域も、上記と同様の探索が行われる。また、他のライン上のセグメント領域も、上記と同様、そのライン上に比較領域が設定されて、探索が行われる。
こうして、実測時に取得されたDP光のドットパターンから、各セグメント領域の変位位置が探索されると、上記のように、その変位位置に基づいて、三角測量法により、各セグメント領域に対応する検出対象物体の部位までの距離が求められる。
ところで、DP光のドットパターンは、DOE114の形状や位置、および、レーザ光源111から出射されるレーザ光の波長等に依存して変わり得る。しかしながら、これらの要素は、温度によって変化し易く、また、時間の経過によっても変化し得る。特に、DOE114が樹脂材料により形成された場合には、温度によってDOE114の特性が変わり易く、これに伴いドットパターンも変化し易い。このようにドットパターンが変化すると、基準テンプレートとして保持されたドットパターンが適正でなくなり、実測時のドットパターンと基準テンプレートに保持されたドットパターンとの照合が適正に行われなくなる。その結果、検出対象物体に対する距離の検出精度が低下する惧れがある。
図6は、上記のような要因により、実測時のセグメント領域S1がラインL1から外れた状態を示す図である。同図(a)では、セグメント領域S1がラインL1の上側(Y軸正方向)に外れ、同図(b)では、セグメント領域S1がラインL1の下側(Y軸負方向)に外れている。このような場合、上記のようにラインL1上を探索しても、セグメント領域S1の変位領域を抽出できない。よって、セグメント領域S1の探索結果はエラーとなり、これにより、検出対象物体に対する距離検出の精度が劣化する。
本実施の形態では、かかる問題を解消するために、実測時のDP光のドットパターンに基づいて、基準テンプレートを更新したテンプレートが生成され、この更新テンプレートを用いて、セグメント領域の探索が行われる。
図7は、テンプレート更新時の処理を示す図である。図7の処理は、図2の更新部21bによって行われる。更新部21bは、実測時において、所定の時間間隔で、図7(a)の処理を行う。
図7(a)を参照して、更新部21bは、前回の更新時に温度センサ115から取得した温度(前回温度)と現在温度センサ115により検出された温度(現在温度)との差分が閾値Tsを超えるかを判定する(S101)。なお、情報取得装置1の起動時には、基準テンプレートを構成したときの基準温度と現在温度との差分が閾値Tsを超えるかが判定される。
S101の判定がYESであれば、テンプレートの更新が行われる(S103)。S101の判定がNOであれば、直近の実測時におけるセグメント領域の探索において、探索がエラーとなったセグメント領域の全セグメント領域に対する割合が閾値Esを超えるかが判定される。S102の判定がYESであれば、テンプレートの更新が行われ(S103)、NOであれば、テンプレートの更新が終了する。
図7(b)は、図7(a)のS103における更新処理を示すフローチャートである。図7(b)の処理は、メモリ25に予め保持された上記基準テンプレートと、実測時に取得されメモリ25に展開されたドットパターンの情報とを参照して行われる。基準テンプレートは、上記のように、基準パターン領域の位置に関する情報と、基準パターン領域に含まれる全画素の画素値と、基準パターン領域をセグメント領域に分割するための情報を含んでいる。以下では、説明の便宜上、ドットパターンをベースに、説明行う。
図7(b)を参照して、更新部21bは、まず、実測時のDP光のCMOSイメージセンサ124上のドットパターンから、予め設定された参照セグメント領域の変位位置を探索する(S201)。
本実施の形態では、図8(a)に示す如く、基準テンプレートの基準パターン領域の4隅に、参照セグメント領域Sr1〜Sr4が設定されている。これら参照セグメント領域Sr1〜Sr4が、図8(b)に示す探索領域MA内のどの位置にあるかが探索される。探索領域MAは、CMOSイメージセンサ124の受光領域の略全てをカバーする。また、探索は、参照セグメント領域Sr1〜Sr4のそれぞれについて、探索領域MAの全てを照合することにより行われる。すなわち、探索領域MAの最上段に対して探索が行われた後、最上段よりも1画素だけ下にある次の段について探索が行われ、以下同様に、下の段へと探索が行われる。探索は、図5(c)を参照して説明したと同様の方法で行われる。
図7(b)に戻り、S201において、参照セグメント領域Sr1〜Sr4の変位位置が取得されると、更新部21bは、取得された変位位置に基づいて、CMOSイメージセンサ124上の現在のドットパターンに適する領域(更新パターン領域)を設定する(S202)。本実施の形態では、参照セグメント領域Sr1〜Sr4の変位位置から参照セグメント領域Sr1〜Sr4のY軸方向の変位量が求められる。そして、基準パターン領域の四隅をそれぞれ参照セグメント領域Sr1〜Sr4のY軸方向の変位量だけ変位させた位置を結ぶ矩形状の領域が、更新パターン領域として設定される。
次に、更新部21bは、設定された更新パターン領域に、基準テンプレートのドットパターンを適用する(S203)。さらに、更新パターン領域を分割してセグメント領域を設定する(S204)。そうして、更新部21bは、更新パターン領域の位置に関する情報と、更新パターン領域に含まれるドットパターンに関する情報(全画素の画素値)と、更新パターン領域をセグメント領域に分割するための情報を、更新テンプレートとして、メモリ25に保持する。更新パターン領域に含まれる全画素の画素値のマッピング領域をセグメント領域に区分することで、各セグメント領域に含まれる画素の画素値(ドットパターン)が取得される。
こうして、更新テンプレートが構成された後は、更新テンプレートを用いて、上述のセグメント領域の探索が行われる。
図9および図10に、更新テンプレートの構成例を示す。
図9(a)は、図7(b)のS201にて探索された参照セグメント領域Sr1〜Sr4の位置が、基準パターン領域に対して、上方向(Y軸正方向)に同じ量だけずれた場合を示している。この場合、図9(b)のように、基準パターン領域の四隅をそれぞれ参照セグメント領域Sr1〜Sr4のY軸方向の変位量だけ上方向(Y軸正方向)変位させた位置を結ぶ矩形状の領域が、更新パターン領域として設定される。
そして、設定された更新パターン領域に、基準テンプレートのドットパターンが適用される。この場合、基準パターン領域と更新パターン領域は同じサイズであるため、基準パターン領域のドットパターンがそのまま更新パターン領域に割り当てられる。しかる後、更新パターン領域がセグメント領域にマトリックス状に分割される。こうして、更新テンプレートが構成される。
図9(c)は、図7(b)のS201にて探索された参照セグメント領域Sr1、Sr2の位置が、基準パターン領域に対して、上方向(Y軸正方向)に同じ量だけずれ、参照セグメント領域Sr3、Sr4の位置が、基準パターン領域に対して、下方向(Y軸負方向)に同じ量だけずれた場合を示している。この場合、図9(d)のように、基準パターン領域の上の二隅をそれぞれ参照セグメント領域Sr1、Sr2のY軸方向の変位量だけ上方向(Y軸正方向)変位させた位置と、基準パターン領域の下の二隅をそれぞれ参照セグメント領域Sr3、Sr4のY軸方向の変位量だけ下方向(Y軸負方向)変位させた位置とを結ぶ矩形状の領域が、更新パターン領域として設定される。
そして、設定された更新パターン領域に、基準テンプレートのドットパターンが適用される。この場合、更新パターン領域は基準パターン領域がY軸方向に引き伸ばされた形状であるため、基準パターン領域のドットパターンが、Y軸方向に均等に引き延ばされるようにして、更新パターン領域に割り当てられる。しかる後、更新パターン領域がセグメント領域にマトリックス状に分割される。本実施の形態では、更新テンプレートのセグメント領域は、基準テンプレートのセグメント領域と同じサイズである。このため、更新テンプレートは、セグメント領域の数が増加している。こうして、更新テンプレートが構成される。
図10(a)は、図7(b)のS201にて探索された参照セグメント領域Sr1、Sr2の位置が、基準パターン領域に対して、下方向(Y軸負方向)に同じ量だけずれ、参照セグメント領域Sr3、Sr4の位置が、基準パターン領域に対して、上方向(Y軸正方向)に同じ量だけずれた場合を示している。この場合、図10(b)のように、基準パターン領域の上の二隅をそれぞれ参照セグメント領域Sr1、Sr2のY軸方向の変位量だけ下方向(Y軸負方向)変位させた位置と、基準パターン領域の下の二隅をそれぞれ参照セグメント領域Sr3、Sr4のY軸方向の変位量だけ上方向(Y軸正方向)変位させた位置とを結ぶ矩形状の領域が、更新パターン領域として設定される。
そして、設定された更新パターン領域に、基準テンプレートのドットパターンが適用される。この場合、更新パターン領域は基準パターン領域がY軸方向に縮められた形状であるため、基準パターン領域のドットパターンが、Y軸方向に均等に縮められるようにして、更新パターン領域に割り当てられる。しかる後、更新パターン領域がセグメント領域にマトリックス状に分割される。本実施の形態では、更新テンプレートのセグメント領域は、基準テンプレートのセグメント領域と同じサイズである。このため、更新テンプレートは、セグメント領域の数が減少している。こうして、更新テンプレートが構成される。
図10(c)は、図7(b)のS201にて探索されたSr2の位置が、基準パターン領域に対して、上方向(Y軸正方向)にずれ、参照セグメント領域Sr4の位置が、基準パターン領域に対して、下方向(Y軸負方向)にずれた場合を示している。この場合、図10(d)のように、基準パターン領域の右の二隅をそれぞれ参照セグメント領域Sr2、Sr4のY軸方向の変位量だけ上方向(Y軸正方向)と下方向(Y軸負方向)に変位させた位置と、基準パターン領域の左の二隅とを結ぶ矩形状の領域が、更新パターン領域として設定される。この場合、更新パターン領域は、台形となる。
そして、設定された更新パターン領域に、基準テンプレートのドットパターンが適用される。この場合、更新パターン領域は基準パターン領域がY軸方向に引き伸ばされた形状であるため、基準パターン領域のドットパターンが、更新パターン領域のY軸方向の距離に応じてY軸方向に引き延ばされるようにして、更新パターン領域に割り当てられる。しかる後、更新パターン領域がセグメント領域にマトリックス状に分割される。
本実施の形態では、更新パターン領域内に最大の矩形領域が設定され、この領域がセグメント領域にマトリックス状に分割される。こうして、更新テンプレートが構成される。
なお、図10(c)、(d)では、更新パターン領域内に設定される最大の矩形領域は、基準パターン領域と同じサイズである。また、更新パターン領域と基準パターン領域は、位置が同じである。さらに、本実施の形態では、更新テンプレートのセグメント領域は、基準テンプレートのセグメント領域と同じサイズであるため、更新テンプレートは、基準テンプレートとセグメント領域の数が同じである。しかしながら、更新テンプレートでは、基準パターン領域のドットパターンが台形状に引き伸ばされたドットパターンであるため、各セグメント領域のドットパターンは、基準テンプレートの対応するセグメント領域のドットパターンと相違している。
なお、図10(c)、(d)には、更新パターン領域が台形になる場合の一つの例を示したが、更新パターン領域が他の形状の台形になる場合も、上記と同様、更新パターン領域に基準テンプレートのドットパターンが適用された後、更新パターン領域内に最大の矩形領域が設定され、この領域がセグメント領域にマトリックス状に分割されて、更新テンプレートが構成される。
以上、本実施の形態によれば、前記基準テンプレートに設定された参照セグメント領域の実測時における変位に基づいて、前記基準テンプレートが更新され、更新後のテンプレート(更新テンプレート)を用いてセグメント領域の探索が行われるため、レーザ光のドットパターンが、DOE114の形状や位置、および、レーザ光の波長等によって変化しても、適正に、セグメント領域の探索が行われ得る。よって、検出対象物体までの距離を適正に検出することができる。
また、本実施の形態によれば、図7(a)に示すように、温度変化が大きい場合やセグメント領域の探索がエラーとなった割合が大きい場合等、レーザ光のドットパターンが変化する可能性が高い場合に、基準テンプレートに対する更新処理が行われるため、基準テンプレートの更新を、効果的に行うことができる。
以上、本発明の実施の形態について説明したが、本発明は、上記実施の形態に何ら制限されるものではなく、また、本発明の実施の形態も上記の他に種々の変更が可能である。
たとえば、上記実施の形態では、基準パターン領域を上下方向(Y軸方向)にのみシフト・変形させることにより、更新パターン領域が構成された。これは、X軸方向に基準パターン領域を変形させなくても、更新テンプレートによって、セグメント領域を探索できるためである。すなわち、上記実施の形態による更新テンプレートでは、セグメント領域の位置が、適正な位置からX軸方向にずれる可能性がある。しかし、X軸方向のずれであるため、上記のようにX軸方向に探索が行われると、実測時におけるセグメント領域の変位位置は、エラーとならずに取得され得る。この場合、取得された変位位置は、本来の位置からずれることが起こり得るが、通常、このずれは、それほど大きくない。よって、距離情報の取得は、さほど問題なく行われ得る。
しかしながら、セグメント領域の変位位置のX軸方向のずれをも解消する場合には、図11に示すように、基準パターン領域をX軸方向にも変形させて更新パターン領域を構成しても良い。図11(a)、(b)は、基準パターン領域をX軸方向にも拡張させて更新パターン領域を構成した例を示し、図11(c)、(d)は、基準パターン領域をX軸方向にも縮小させて更新パターン領域を構成した例を示す。
この場合、基準パターン領域を、Y軸方向と同様の割合でX軸方向に拡張・縮小する方法がとられ得る。この他、実測時に検出された温度に基づいて、基準パターン領域をX軸方向に拡張・縮小させて更新パターン領域を構成しても良い。この場合、温度と、X軸方向の拡張・縮小の割合とが対応付けられて、メモリ25に格納される。かかる温度による調整は、更新パターン領域が基準パターン領域に対してY軸方向に拡張・縮小されなくても適用され得る。
また、上記実施の形態では、更新パターン領域が基準パターン領域に対して拡張・縮小されても、更新テンプレートのセグメント領域のサイズは、基準テンプレートのセグメント領域のサイズと同じとされた。これに代えて、図12に示すように、更新テンプレートのセグメント領域の数と、基準テンプレートのセグメント領域の数を同じとしても良い。図12(a)、(b)は、基準パターン領域をY軸方向に拡張させて更新パターン領域を構成した例を示し、図12(c)、(d)は、基準パターン領域をY軸方向に縮小させて更新パターン領域を構成した例を示す。この場合、更新テンプレートのセグメント領域は、基準テンプレートのセグメント領域がY軸方向に拡張・縮小された形状となる。
また、上記実施の形態では、参照セグメント領域Sr1〜Sr4として、基準テンプレートのセグメント領域の一部が用いられたが、基準テンプレートのセグメント領域とは別の領域が、参照セグメント領域として設定されても良い。
また、上記実施の形態では、参照セグメント領域Sr1〜Sr4が基準パターン領域の四隅に設定されたが、参照セグメント領域は、このように四隅に設定する他、Y軸方向に離れた2つの領域と、Y軸方向に離れるとともに前記2つの領域とY軸方向において重ならない他の2つの領域に設定されても良い。こうすると、上記実施の形態と同様、基準パターン領域を、Y軸方向にシフトさせるのみならず、Y軸方向に変形させて、更新パターン領域を構成することができる。
また、図13(a)のように、基準パターン領域の辺部分に参照セグメント領域Sr5〜Sr8を追加し、参照セグメント領域の設定数を増加させても良い。こうすると、さらに細かく基準レイアウト領域を変形させて更新パターン領域を設定することができる。また、図13(b)のように、基準パターン領域の中心に参照セグメント領域Sr9を追加してもよい。こうすると、参照セグメント領域Sr9の変位位置を重心として、更新パターン領域を設定することができる。
なお、図13(c)のように、上下に2つのみ参照セグメント領域Sr10、Sr11を設定しても良い。ただし、この場合は、Y軸方向に基準パターン領域をシフト、拡張または縮小させて更新パターン領域を構成することはできるが、図10(c)、(d)のように、基準パターン領域を台形状に変形させて更新パターン領域を構成することはできない。
また、図13(d)のように、基準パターン領域の対角の2つの隅と中心に、3つの参照セグメント領域Sr12、Sr13、Sr14を設定しても良い。この場合も、図10(c)、(d)のように、基準パターン領域を台形状に変形させて更新パターン領域を構成することはできないが、参照セグメント領域Sr14の変位位置を重心として、更新パターン領域を設定することができる。
また、上記実施の形態では、図4(b)に示すように各セグメント領域が互いに重なることなく設定されたが、各セグメント領域が、その上下のセグメント領域と一部重なるように設定されても良い。また、各セグメント領域が、その左右のセグメント領域と一部重なってマトリックス状に並ぶように設定されても良い。この場合の基準テンプレートは、CMOSイメージセンサ124上における基準パターン領域の位置に関する情報と、基準パターン領域に含まれる全画素の画素値と、セグメント領域のサイズ(縦横の幅)に関する情報と、各セグメント領域の基準パターン領域上の位置に関する情報を含む。
また、基準パターン領域の形状は、上記実施の形態のように長方形である他、正方形等、他の形状であっても良い。また、更新パターン領域の形状も適宜変更可能である。
さらに、上記実施の形態では、受光素子として、CMOSイメージセンサ124を用いたが、これに替えて、CCDイメージセンサを用いることもできる。
本発明の実施の形態は、特許請求の範囲に示された技術的思想の範囲内において、適宜、種々の変更が可能である。
1 情報取得装置
11 投射光学系
111 レーザ光源(光源)
112 コリメータレンズ(投射光学系)
113 アパーチャ(投射光学系)
114 DOE(投射光学系)
115 温度センサ
124 CMOSイメージセンサ(受光素子)
21 CPU
21b 更新部
25 メモリ(記憶部)

Claims (6)

  1. 光を用いて目標領域の情報を取得する情報取得装置において、
    所定波長帯域の光を出射する光源と、
    前記光源から出射された光を、所定のドットパターンでもって、前記目標領域に向けて投射する投射光学系と、
    前記目標領域から反射された反射光を受光して信号を出力する受光素子と、
    前記受光素子によって受光される前記光の基準パターンに複数の基準セグメント領域を設定した基準テンプレートを保持する記憶部と、
    前記基準テンプレートを更新する更新部と、を有し、
    前記更新部は、前記基準テンプレートに設定された参照セグメント領域の実測時における変位に基づいて、前記基準テンプレートを更新する、
    ことを特徴とする情報取得装置。
  2. 請求項1に記載の情報取得装置において、
    前記更新部は、前記基準パターンと、実測時に前記受光素子によって受光された前記光の実測パターンとを照合し、前記基準パターン上に設定された参照セグメント領域の前記実測パターン上の位置から更新パターン領域を設定し、設定した前記更新パターン領域に前記基準パターンを適用して更新パターンを設定し、設定した更新パターンに複数の更新セグメント領域を設定して更新テンプレートを構成する、
    ことを特徴とする情報取得装置。
  3. 請求項2に記載の情報取得装置において、
    前記更新パターン領域は、前記光源と前記受光素子との並び方向に垂直な方向における、前記受光素子上の前記参照セグメント領域の変位量に基づいて、前記基準パターンの基準パターン領域を、前記垂直な方向に、シフトまたは変形させることにより設定される、
    ことを特徴とする情報取得装置。
  4. 請求項3に記載の情報取得装置において、
    前記参照セグメント領域は、前記垂直な方向に離れた2つの領域と、前記垂直な方向に離れるとともに前記2つの領域と前記垂直な方向において重ならない他の2つの領域に設定される、
    ことを特徴とする情報取得装置。
  5. 請求項1ないし4の何れか一項に記載の情報取得装置において、
    当該情報取得装置内部の温度を検出する温度センサを更に備え、
    前記更新部は、前記温度センサにより検出された温度の変化が所定閾値を超えると、前記基準テンプレートの更新を行う、
    ことを特徴とする情報取得装置。
  6. 請求項1ないし5の何れか一項に記載の情報取得装置を有する物体検出装置。
JP2012530563A 2010-08-25 2011-06-02 情報取得装置および物体検出装置 Expired - Fee Related JP5143314B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012530563A JP5143314B2 (ja) 2010-08-25 2011-06-02 情報取得装置および物体検出装置

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2010188925 2010-08-25
JP2010188925 2010-08-25
JP2011116701 2011-05-25
JP2011116701 2011-05-25
JP2012530563A JP5143314B2 (ja) 2010-08-25 2011-06-02 情報取得装置および物体検出装置
PCT/JP2011/062663 WO2012026180A1 (ja) 2010-08-25 2011-06-02 情報取得装置および物体検出装置

Publications (2)

Publication Number Publication Date
JP5143314B2 JP5143314B2 (ja) 2013-02-13
JPWO2012026180A1 true JPWO2012026180A1 (ja) 2013-10-28

Family

ID=45723196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012530563A Expired - Fee Related JP5143314B2 (ja) 2010-08-25 2011-06-02 情報取得装置および物体検出装置

Country Status (4)

Country Link
US (1) US20120327310A1 (ja)
JP (1) JP5143314B2 (ja)
CN (1) CN102686975A (ja)
WO (1) WO2012026180A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5550670B2 (ja) * 2012-03-28 2014-07-16 株式会社デンソーアイティーラボラトリ 情報処理装置
JP6537237B2 (ja) * 2013-11-05 2019-07-03 キヤノン株式会社 情報処理装置および方法
RU2580908C1 (ru) * 2014-11-10 2016-04-10 Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования "Московский государственный университет геодезии и картографии" (МИИГАиК) Способ определения пространственного положения объектов и устройство для его осуществления
CN109974976B (zh) * 2017-12-28 2021-09-21 舜宇光学(浙江)研究院有限公司 多温度标定系统以及多温度标定方法
CN108917639A (zh) * 2018-05-15 2018-11-30 深圳奥比中光科技有限公司 深度成像系统及其温度误差校正方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AUPO798697A0 (en) * 1997-07-15 1997-08-07 Silverbrook Research Pty Ltd Data processing method and apparatus (ART51)
JP4110501B2 (ja) * 1999-11-22 2008-07-02 ソニー株式会社 ランダムパターン生成装置とその方法、距離画像生成装置とその方法、およびプログラム提供媒体
JP3704706B2 (ja) * 2002-03-13 2005-10-12 オムロン株式会社 三次元監視装置
JP4024719B2 (ja) * 2003-04-14 2007-12-19 株式会社トプコン 電子式測量装置
US7526103B2 (en) * 2004-04-15 2009-04-28 Donnelly Corporation Imaging system for vehicle
JP2006214816A (ja) * 2005-02-02 2006-08-17 Nikon Corp 半導体検査装置
JP4940800B2 (ja) * 2006-07-12 2012-05-30 オムロン株式会社 変位センサ
JP5073256B2 (ja) * 2006-09-22 2012-11-14 株式会社トプコン 位置測定装置及び位置測定方法及び位置測定プログラム
JP5251419B2 (ja) * 2008-10-22 2013-07-31 日産自動車株式会社 距離計測装置および距離計測方法

Also Published As

Publication number Publication date
WO2012026180A1 (ja) 2012-03-01
JP5143314B2 (ja) 2013-02-13
US20120327310A1 (en) 2012-12-27
CN102686975A (zh) 2012-09-19

Similar Documents

Publication Publication Date Title
WO2012137674A1 (ja) 情報取得装置、投射装置および物体検出装置
JP5138116B2 (ja) 情報取得装置および物体検出装置
JP5138119B2 (ja) 物体検出装置および情報取得装置
JP5143314B2 (ja) 情報取得装置および物体検出装置
JP5214062B1 (ja) 情報取得装置および物体検出装置
JP5143312B2 (ja) 情報取得装置、投射装置および物体検出装置
JP2012237604A (ja) 情報取得装置、投射装置および物体検出装置
WO2014108976A1 (ja) 物体検出装置
JP5138115B2 (ja) 情報取得装置及びその情報取得装置を有する物体検出装置
JPWO2015125300A1 (ja) 自己位置算出装置及び自己位置算出方法
JP2014238259A (ja) 情報取得装置および物体検出装置
JP2014044113A (ja) 情報取得装置および物体検出装置
WO2012144340A1 (ja) 情報取得装置および物体検出装置
JP2014085257A (ja) 情報取得装置および物体検出装置
WO2013015146A1 (ja) 物体検出装置および情報取得装置
JP2013234956A (ja) 情報取得装置および物体検出装置
WO2013046928A1 (ja) 情報取得装置および物体検出装置
JP5138120B2 (ja) 物体検出装置および情報取得装置
JP2014035304A (ja) 情報取得装置および物体検出装置
WO2013031447A1 (ja) 物体検出装置および情報取得装置
JP2014021017A (ja) 情報取得装置および物体検出装置
CN110209016A (zh) 曝光装置、曝光方法和制造物品的方法
JP2013234957A (ja) 情報取得装置および物体検出装置
WO2013031448A1 (ja) 物体検出装置および情報取得装置
JP2016048454A (ja) 表示体、位置算出装置、情報処理方法、プログラム及び情報処理装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121023

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121120

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151130

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees