JP2002152779A - 3次元画像検出装置 - Google Patents

3次元画像検出装置

Info

Publication number
JP2002152779A
JP2002152779A JP2000343695A JP2000343695A JP2002152779A JP 2002152779 A JP2002152779 A JP 2002152779A JP 2000343695 A JP2000343695 A JP 2000343695A JP 2000343695 A JP2000343695 A JP 2000343695A JP 2002152779 A JP2002152779 A JP 2002152779A
Authority
JP
Japan
Prior art keywords
dimensional image
image
stereo
dimensional
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000343695A
Other languages
English (en)
Other versions
JP3986748B2 (ja
Inventor
Shinichi Kakiuchi
伸一 垣内
Shuzo Seo
修三 瀬尾
Nobuhiro Tani
信博 谷
Kiyoshi Yamamoto
山本  清
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Pentax Corp
Original Assignee
Asahi Kogaku Kogyo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Asahi Kogaku Kogyo Co Ltd filed Critical Asahi Kogaku Kogyo Co Ltd
Priority to JP2000343695A priority Critical patent/JP3986748B2/ja
Publication of JP2002152779A publication Critical patent/JP2002152779A/ja
Application granted granted Critical
Publication of JP3986748B2 publication Critical patent/JP3986748B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 ステレオ画像の対応点の探索を迅速かつ簡略
にする。 【解決手段】 デジタルカメラ10の鏡筒部13に、ス
テレオアダプタ20を装着する。デジタルカメラ10で
は、ステレオアダプタ20の2次元画像用ステレオレン
ズ21を介してのステレオ画像を撮像する。2次元画像
用ステレオレンズ21の下側に同一のレンズ間距離を持
つ3次元画像用ステレオレンズ22を設ける。光源装置
23から測距光を照射し、その反射光を3次元画像用ス
テレオレンズ22を介してステレオアダプタ20内に設
けられたCCDで受光することにより、画素値が被写体
までの距離に対応する3次元画像を検出する。3次元画
像から被写体の座標値を求め、これに基づきデジタルカ
メラ10で撮像されたステレオ画像における対応点の探
索を行う。3次元画像の検出動作をホットシュー11か
らのトリガ信号に同期させる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、ステレオ画像及び
光伝播時間測定法を用いて被計測物体の3次元形状等を
検出する3次元画像検出装置に関する。
【0002】
【従来の技術】ステレオ画像を用いた写真測量では、計
測物体を2つの異なる視点から撮影し、撮影された2枚
の画像の視差を利用して計測点までの距離を三角測量の
原理に基づいて計測する。このとき2枚の画像のエピポ
ーラ・ライン上で対応点を探索する必要がある。従来、
エピポーラ・ライン上の対応点の探索は、例えば撮影さ
れたステレオ画像に画像処理を施して特徴点を抽出し、
これらの特徴点の間で対応関係を求めることにより行わ
れている。
【0003】一方、光伝播時間測定法を用いた測量とし
ては、測距光を計測物体に照射し、その反射光を所定の
タイミングでCCDなどの撮像素子で受光・検出するこ
とにより、計測物体までの距離を画素毎に検出可能な3
次元画像検出装置が知られている。
【0004】
【発明が解決しようとする課題】しかし、ステレオ画像
を用いる写真測量では、例えば被写体に模様がなく、そ
の形状が平坦であるときなど特徴点の抽出が困難な場合
や、視差が大きく2枚の画像が共有する領域が少ないと
きなどには、両画像間における対応付けが困難となる。
これに対し、上記3次元画像検出装置を用いた測距方法
では、各画素の画素値が対応する計測物体までの距離に
直接対応しているので、ステレオ画像を用いたときのよ
うな対応付けの問題は生じない。しかし、この方法では
必ずしも計測精度を十分に得られないという問題があ
る。
【0005】本発明は、ステレオ画像における対応点探
索処理を高速かつ簡略にするための3次元画像検出装置
を得ることを目的としている。
【0006】
【課題を解決するための手段】本発明の3次元画像検出
装置は、画素値が被写体までの距離に対応する3次元画
像を検出可能な距離測定手段と、通常の視覚的な画像で
ある2次元画像のステレオ画像を撮像するための2次元
画像用ステレオ光学系と、2次元画像用ステレオ光学系
を用いて撮像された2次元画像のステレオ画像における
対応点の探索を、距離測定手段により検出された3次元
画像に基づいて行うための対応点探索手段とを備えるこ
とを特徴としている。
【0007】また、3次元画像検出装置は、3次元画像
をステレオ画像として撮像するための3次元画像用ステ
レオ光学系を備えることが好ましい。また、このとき対
応点探索手段は、3次元画像用ステレオ光学系を用いて
撮像された3次元画像のステレオ画像において画素間の
対応関係を求めることが好ましく、3次元画像のステレ
オ画像における画素間の対応関係は、3次元画像から算
出される3次元座標値に基づいて行われることが好まし
い。これにより、簡略かつ高速に3次元画像のステレオ
画像における画素間の対応関係が求められ、この対応関
係に基づいて2次元画像のステレオ画像における画素間
の対応関係がより簡略かつ高速に求められる。また、3
次元画像のステレオ画像から2次元画像のステレオ画像
への対応がより直接的に求められることから、2次元画
像のステレオ画像における画素間の対応関係も、より簡
略、高速かつ高い精度で求めることができる。
【0008】3次元画像検出装置は、2次元画像用ステ
レオ光学系をカメラの光学系と接続するための接続部を
備えることが好ましい。この接続部により2次元画像用
ステレオ光学系とカメラの光学系とが接続されることに
より、カメラにおいて2次元画像のステレオ画像の撮像
が可能となり、3次元画像検出装置を既存のカメラに着
脱自在なステレオアダプタ型とすることができる。この
とき接続部は、カメラのレンズ鏡筒先端開口部に設けら
れたネジマウントに装着されるネジマウントであること
が好ましい。これにより既存のカメラに変更を加えるこ
となく簡単にステレオアダプタ型の3次元画像検出装置
を装着することができる。
【0009】また、3次元画像検出装置は、例えばカメ
ラのホットシューから出力される外部トリガ信号を検知
するための外部トリガ入力手段を備え、距離測定手段の
駆動が、この外部トリガ信号に基づいて制御される。あ
るいは、3次元画像検出装置は、ストロボ光を受光トリ
ガ信号として検知するためのストロボ光検知手段を備
え、距離測定手段の駆動が受光トリガ信号に基づいて制
御される。これにより、既存のカメラに変更を加えるこ
となく、カメラでの2次元画像の撮像動作と、3次元画
像検出装置における3次元画像の検出動作を同期させて
行うことが可能となる。
【0010】
【発明の実施の形態】以下、本発明の実施の形態を図面
を参照して説明する。図1は、本発明の一実施形態であ
るステレオアダプタ型の3次元画像検出装置を従来型の
デジタルカメラに装着したときの状態を模式的に示す斜
視図である。図1を参照して本実施形態において用いら
れるステレオアダプタ型の3次元画像検出装置について
説明する。
【0011】デジタルカメラ10は従来型のデジタルカ
メラであり、デジタルカメラ10の上面にはホットシュ
ー11及びレリーズスイッチ14が設けられ、側面には
インターフェースケーブルを接続するためのオプション
コネクタ12、例えばUSB、が設けられている。デジ
タルカメラ10の鏡筒13の先端にはステレオアダプタ
型の3次元画像検出装置(以後ステレオアダプタと呼
ぶ)20が装着されている。ステレオアダプタ20の鏡
筒13への装着には、例えば鏡筒13の先端開口部に形
成され、例えばフィルタやフード等を取り付けるために
利用されるネジマウントが用いられる。
【0012】ステレオアダプタ20の前面には上下2段
にそれぞれ一対のステレオ撮影用のレンズが設けられて
いる。上段に設けられた一対のレンズ21は、デジタル
カメラの光軸を二分し、視差のある通常のステレオ画像
をデジタルカメラ10に設けられたCCDにおいて撮影
するための2次元画像用ステレオレンズである。一方、
下段に設けられた一対のレンズ22は、後述する3次元
画像のステレオ画像を撮影するための3次元画像用ステ
レオレンズである。ステレオアダプタ20の両側面に
は、測距用の赤外レーザ光を拡散して照射するため光源
装置23が設けられている。また、ステレオアダプタ2
0の上面中央には、フラッシュライトの反射光を検出す
る受光トリガ検出装置24が設けられている。なお、3
次元画像用ステレオレンズ22におけるレンズ間の距離
は、2次元画像用ステレオレンズ21におけるレンズ間
の距離に等しい。
【0013】ステレオアダプタ20の裏面には外部トリ
ガ用ケーブル18及びインターフェースケーブル19の
一方の端が接続されており、ケーブル18、19のもう
一方の端はホットシュー11及びオプションコネクタ1
2にそれぞれ接続されている。なお、図1において、デ
ジタルカメラ10には、ホットシュー11、オプション
コネクタ12及び鏡筒13のみが図示されており、その
他の部分に関しては省略されている。
【0014】図2、図3(a)、(b)は、本実施形態
におけるステレオアダプタ20の光学系の構造を概略示
す図である。図2は、2次元画像用ステレオレンズ21
(21a及び21b)に係る光学系(2次元画像用ステ
レオ光学系)の構造を示し、図3(a)、(b)は3次
元画像用ステレオレンズ22(22a及び22b)に関
する光学系の構造を示す。
【0015】ステレオアダプタ20の光学系はデジタル
カメラの光軸Lに関し左右対称である。2次元ステレオ
画像の左側画像を撮影するための2次元画像用ステレオ
レンズ21aから入射した光は、光軸Laに沿ってデジ
タルカメラ10内に搭載されたCCD50の右半分の領
域に投影される。一方、2次元ステレオ画像の右側画像
を撮影するための2次元画像用ステレオレンズ21bか
ら入射した光は、光軸Lbに沿ってCCD50の左半分
の領域に投影される。
【0016】すなわち、2次元画像用ステレオレンズ2
1aにおいて光軸Lに平行な光軸Laは、この軸に対し
45°傾けられて配置された反射ミラー25aにより光
軸Lに向けて90°屈曲される。反射ミラー25aによ
り屈曲された光軸Laは、この軸に対して傾けられて配
置された反射ミラー26aによりCCD50の方向へ屈
曲される。反射ミラー26aにより屈曲された光軸La
は、デジタルカメラ10の撮像レンズ51を介しCCD
50の右側の受光面に達する。一方、2次元画像用ステ
レオレンズ21bにおいて光軸Lに平行な光軸Lbは、
この軸に対し45°傾けられて配置された反射ミラー2
5bにより光軸Lに向けて90°屈曲される。反射ミラ
ー25bにより屈曲された光軸Lbは、この軸に対して
傾けられて配置された反射ミラー26bによりCCD5
0の方向へ屈曲される。反射ミラー26bにより屈曲さ
れた光軸Lbは、デジタルカメラ10の撮像レンズ51
を介しCCD50の左側の受光面に達する。
【0017】上述したように、図3(a)、(b)は、
ステレオアダプタ20のうち、3次元画像用ステレオレ
ンズ22(22a及び22b)に関する光学系の構造を
模式的に示す図であり、図3(a)は、ステレオアダプ
タ20を上方から見たときの模式図であり、図3(b)
は、正面から見たときの模式図である。
【0018】3次元ステレオ画像の左側画像を撮影する
ための3次元画像用ステレオレンズ22aから入射した
光は、光軸La’に沿ってステレオアダプタ20の底部
28に搭載されたCCD27の左半分の領域に投影され
る。一方、3次元ステレオ画像の右側画像を撮影するた
めの3次元画像用ステレオレンズ22bから入射した光
は、光軸Lb’に沿ってCCD27の右半分の領域に投
影される。
【0019】すなわち、3次元画像用ステレオレンズ2
2aにおいて、デジタルカメラ10の光軸Lに平行な光
軸La’は、この軸に対し45°傾けられて配置された
反射ミラー29aによりレンズ30a方向へ90°屈曲
される。反射ミラー29aにより屈曲された光軸La’
はレンズ30aの中心を通って、この光軸に対して45
°傾けられて配置された反射ミラー31aによりCCD
27の方向へ90°屈曲され、ステレオアダプタ20の
底部28に装置されたCCD27の左側の受光面に達す
る。一方、3次元画像用ステレオレンズ22bにおいて
光軸Lに平行な光軸Lb’は、この軸に対し45°傾け
られて配置された反射ミラー29bによりレンズ30b
方向へ90°屈曲され、反射ミラー29bにより屈曲さ
れた光軸Lb’はレンズ30bの中心を通って、この光
軸に対して45°傾けて配置された反射ミラー31bに
よりCCD27の方向へ90°屈曲される。その後光軸
Lb’は、ステレオアダプタ20の底部28に装置され
たCCD27の右側の受光面に達する。
【0020】図4は、図1〜図3に示されたステレオア
ダプタ20の回路構成を概略示すブロック図である。図
4を参照して本実施形態のステレオアダプタ型の3次元
画像検出装置について説明する。なお、図4における撮
像光学系の構成は模式的なものである。
【0021】本実施形態のステレオアダプタ20には、
デジタルカメラ10のホットシュー11からの信号をト
リガとしてCCD27を用いた3次元画像の撮影を行う
外部トリガモードと、デジタルカメラ10のストロボ
(図示せず)の発光をフォトダイオード(PD)24で
検知し、これをトリガとして3次元画像の撮影を行う受
光トリガモードとがある。図4では、ホットシュー11
に外部トリガ用ケーブル18を接続したときの構成が示
されている。
【0022】外部トリガモードに設定されているとき、
デジタルカメラ10のレリーズスイッチ14が押され、
ホットシュー11からストロボ発光のためのトリガ信号
が出力されると、ホットシュー11から出力されたトリ
ガ信号はホットシュー11及びコネクタ70に接続され
た外部トリガ用ケーブル18を介してステレオアダプタ
20の外部トリガ入力回路61に入力される。その後、
外部トリガ入力回路61からトリガ信号が、システムコ
ントロール回路60へ出力される。外部トリガ入力回路
61からのトリガ信号がシステムコントロール回路60
に入力されると、システムコントロール回路60は発光
素子制御回路62及びCCD駆動回路63を制御して、
3次元画像に対するステレオ画像の撮像を開始する。す
なわち、発光素子23aと照明用レンズ23bとからな
る発光装置23では、赤外レーザダイオードなどの発光
素子23aが発光素子駆動制御回路62の制御信号に基
づいてパルス状の測距光を照射し、赤外領域の測距光が
照明用レンズ23bを介して被写体の全体に照射され
る。また、CCD27では、CCD駆動回路63からの
CCD駆動信号に基づいて、発光装置23の発光に合わ
せた電荷の蓄積及び電荷の読み出し動作が行われる。
【0023】CCD27から読み出された電荷信号、す
なわち画像信号はアンプ64において増幅され、A/D
変換器65においてアナログ信号からデジタル信号に変
換される。デジタルの画像信号は、撮像信号処理回路6
6においてガンマ補正等の処理を施され、画像メモリ6
7に一時的に格納される。その後画像信号は画像メモリ
67から読み出され、システムコントロール回路60、
インターフェース回路68及びコネクタ69に接続され
たインターフェースケーブル19を介してデジタルカメ
ラ10に出力され、デジタルカメラ10の画像メモリ
や、メモリカード等の記録媒体に記録される。
【0024】モードが受光トリガモードに設定されてい
るときには、受光トリガ検出回路73に接続されたフォ
トダイオード(PD)24においてカメラ本体に内蔵ま
たは装着されたストロボから照射されたストロボ光が検
出され、トリガ信号としてシステムコントロール回路6
0に入力される。このときシステムコントロール回路6
0では、外部トリガモードのときと同様に、発光素子制
御回路62及びCCD駆動回路63を制御して、3次元
画像に対するステレオ画像の撮像を開始する。なお、受
光トリガモードは、ステレオアダプタ20を例えばカメ
ラボディにストロボが一体的に装備され、ホットシュー
を備えないデジタルカメラとともに用いるときや、2次
元画像の撮影にストロボ光が必要なためストロボをホッ
トシューに取り付けているときなど、ホットシューに外
部トリガ用ケーブルを接続できないときに利用される。
【0025】なお、システムコントロール回路60に
は、液晶等からなる表示素子71及び、外部トリガモー
ドと受光トリガモードとの間の切換を行うためのモード
切換スイッチ72も接続されている。また、ステレオア
ダプタ20はネジマウント32を、デジタルカメラ10
のレンズ鏡筒13に設けられたネジマウント15に装着
することにより接続される。
【0026】図5、図6は、本実施形態のステレオアダ
プタ20において実行されるプログラムのフローチャー
トである。図5、図6を参照して本実施形態のステレオ
アダプタ型の3次元画像検出装置において実行される3
次元画像の検出動作について説明する。
【0027】まず、ステップ101において、ステレオ
アダプタ20の電源スイッチがオン状態にあるか否かが
判定され、電源スイッチがオン状態に設定されるまでス
テップ101が繰り返し実行される。ステップ101に
おいて電源スイッチがオン状態にあると判定されるとス
テップ102において、接続されたデジタルカメラ10
のモードがPC通信モードに設定されているか否かが判
定される。PC通信モードは、従来のデジタルカメラに
設けられた1つのモードであり、デジタルカメラとコン
ピュータ本体10と間をオプションコネクタ12に接続
されたインターフェースケーブルを介して接続し、デー
タ通信を行うためのモードである。ステップ102で
は、インターフェース回路68を介してデジタルカメラ
10のシステムコントロール回路との通信を行い、デジ
タルカメラがPC通信モードに設定されているか否かが
判定される。
【0028】ステップ102においてデジタルカメラ1
0がPC通信モードに設定されていると判定されると、
ステップ106において画像メモリ67に記憶された画
像データ等のデータがインタフェース回路68を介して
デジタルカメラ10に転送される。ステップ107で
は、画像メモリ67に記憶されている画像データの転送
が終了したか否かが判定される。画像データの転送が終
了していないときにはステップ106に戻り、再び画像
データの転送動作が実行される。画像データの転送が終
了すると処理はステップ103へ移る。
【0029】ステップ103では、ステレオアダプタ2
0のモード切換スイッチ72が受光トリガモードに設定
されているか否かが判定される。モード切換スイッチ7
2が受光トリガモードに設定されていると判定される
と、ステップ108において、ストロボ光がフォトダイ
オード24で受光されたかが判定される。フォトダイオ
ード24でのストロボ光の受光検知動作は、ストロボ光
が受光されるまで繰り返し行われる。すなわち、ストロ
ボ光による受光トリガ信号を受信するための待機状態と
なる。フォトダイオード24においてストロボ光が受光
されると処理はステップ109へ移る。なお、このとき
デジタルカメラ10では、CCD50により通常の画像
(例えばカラー画像)からなるステレオ画像が撮像され
る。このステレオ画像は、デジタルカメラ10内に設け
られたメモリなどの記録媒体に記録される。
【0030】一方、ステップ103において、モード切
換スイッチ72が受光トリガモードに設定されていない
と判定されると、処理はステップ104へ移り、モード
切換スイッチ72の設定が、外部トリガモードであるか
否かが判定される。モード切換スイッチ72の設定が外
部トリガモードでないときには、処理はステップ101
へ戻り、再び上述のステップが繰り返し実行される。一
方、モード切換スイッチ72の設定が外部トリガモード
であると判定されると、処理はステップ105へ移る。
【0031】ステップ105では、デジタルカメラ10
のホットシュー11からの外部トリガ信号が外部トリガ
入力回路に入力されたか否かが判定される。ステップ1
05の判定動作は、外部トリガ入力回路61に外部トリ
ガ信号が入力されるまで繰り返される。外部トリガ信号
がステップ105において、外部トリガ入力回路61に
入力されたと判定されると処理はステップ109へ移
る。なお、このときデジタルカメラ10では、ステップ
108においてストロボ光がフォトダイオード24で受
光されたときのように通常のステレオ画像がCCD50
において撮像され、デジタルカメラ10内に設けられた
メモリなどの記録媒体に記録される。
【0032】ステップ109では、測距光を照射するた
めの発光装置23を用いた発光制御がオン状態に定めら
れる。すなわち発光素子制御回路62による発光素子2
3aの駆動が開始される。ステップ200では、測距光
の照射タイミングに合わせたCCD27の駆動が開始さ
れ、被写体までの距離に対応した信号電荷を画素毎に画
像データとして検出する。すなわち、CCD駆動回路6
3によるCCD27の駆動を開始し3次元画像を検出す
る。なお、本実施形態では、大きな信号出力を得るため
に、パルス状の測距光が断続的に繰り返し被写体に照射
され、この測距光の照射に合わせてCCD27における
信号電荷の蓄積動作が制御される。すなわち、後に図
7、図8を参照して説明される距離測定の原理が、例え
ば1フィールド期間に渡り繰り返し実行される。繰り返
し実行される距離測定動作の各々において検出される信
号電荷はCCD27の垂直転送部(図示せず)において
積分され、これにより大きな信号出力が得られる。
【0033】ステップ201では、ステップ109にお
いてオン状態に定められた発光装置23に対する発光制
御がオフ状態に定められ、ステップ200において実行
された距離測定動作が終了する。ステップ202では、
検出された3次元画像の画素値(画像データ)に基づい
て演算処理が行われ、被写体までの距離データが画素毎
に算出されるとともに、各画素に対応する被写体の座標
データが算出される。なお、ステップ200での距離測
定(3次元画像検出)動作及びステップ202の距離デ
ータ、座標データの算出方法に関しては後述する。ま
た、上記距離データ及び座標データの算出は、左右のス
テレオ画像毎に行われる。すなわち、左右のステレオ画
像にそれぞれに対応するCCD28の撮像面の右側領
域、左側領域毎に行われる。
【0034】ステップ203では、ステップ200でス
テレオ画像として撮像された左側画像と右側画像との間
において、各画素間の対応関係が画素対応データとして
求められる。すなわち、被写体のある点を、右側画像に
投影したときの画素と、左側画像に投影したときの画素
との間の対応が、ステップ202において各画素毎に算
出された被写体の座標データに基づいて求められる。
【0035】ステップ204では、ステップ200にお
いて検出された3次元画像に画像圧縮処理が施される。
ステップ205では、画像圧縮処理を施された3次元画
像、ステップ202において算出された距離データや座
標データ、ステップ203で求められた左右の画像にお
ける画素の対応関係を示す画素対応データが画像メモリ
67に記憶される。この後、処理は再びステップ101
へ戻り、以上に述べた処理を繰り返し実行する。
【0036】なお、画像メモリ67に記憶された画像デ
ータ、距離データ、座標データや画素対応データ等は、
ステップ106においてデジタルカメラ10のメモリ等
の記録媒体に転送され一時的に記憶される。デジタルカ
メラ10のメモリに記憶されたこれらのデータは、その
後、デジタルカメラ10において撮像されたステレオ画
像(2次元画像)の画像データとともにコンピュータに
転送される。
【0037】3次元画像による被写体までの距離の測定
では、CCD27を極めて高速に駆動しなければならな
い等の理由から、その精度は必ずしも高くない。また、
CCDの高速駆動を実現するには、CCD回路の漂遊容
量を低減することが望まれ、このためにはCCDの画素
数を減らすことが望まれる。これらのことから、3次元
画像の検出には、2次元画像を検出するためのCCD5
0よりも画素数の少ないCCD27が用いられる。以上
のことから、データが転送されたコンピュータでは、ま
ず3次元画像により求められた画素対応データから大ま
かに2次元画像の左右の画像における画素間の対応関係
を求め、この対応関係を基礎として左右の2次元画像に
対して従来公知のパターンマッチング等を適用する。こ
れにより、より正確な画素間の対応関係が求められ、こ
の対応関係に基づいて被写体の3次元空間における座標
値を、従来公知の立体写真測量の原理を用いてより高い
精度で算出することが可能となる。なお、3次元画像に
より求められた画素対応データから2次元画像の左右の
画像における画素間の対応関係を求める方法に関しては
後述する。
【0038】次に図7、図8を参照して本実施形態のス
テレオアダプタ20において実行される距離測定動作
(3次元画像検出動作)の原理について説明する。な
お、図8において横軸は時間である。
【0039】距離測定装置Bから出力された測距光は被
写体Sにおいて反射し、図示しないCCDによって受光
される。測距光は所定のパルス幅Hを有するパルス状の
光であり、したがって被写体Sからの反射光も、同じパ
ルス幅Hを有するパルス状の光である。また反射光のパ
ルスの立ち上がりは、測距光のパルスの立ち上がりより
も時間δ・t(δは遅延係数)だけ遅れる。測距光と反
射光は距離測定装置Bと被写体Sの間の2倍の距離rを
進んだことになるから、その距離rは r=δ・t・C/2 ・・・(1) により得られる。ただしCは光速である。
【0040】例えば測距光のパルスの立ち上がりから反
射光を検知可能な状態に定め、反射光のパルスが立ち下
がる前に検知不可能な状態に切り換えるようにすると、
すなわち反射光検知期間Tを設けると、この反射光検知
期間Tにおける受光量Aは距離rの関数である。すなわ
ち受光量Aは、距離rが大きくなるほど(時間δ・tが
大きくなるほど)小さくなる。
【0041】本実施形態における3次元計測では、上述
した原理を利用してCCD27に設けられ、2次元的に
配列された複数のフォトダイオードにおいてそれぞれ受
光量Aを検出することにより行われる。すなわち、各フ
ォトダイオード(各画素)において検出された受光量A
に基づいて、ステレオアダプタ20から被写体Sの表面
の各フォトダイオードに対応する点までの距離情報をフ
ォトダイオード(画素)毎に画像信号(3次元画像)と
して検出し、この画像信号から被写体Sの表面形状を表
わす距離データをフォトダイオード(画素)毎に算出す
る。
【0042】次に図9、図10を参照して、3次元画像
により求められた画素対応データから2次元画像の左右
の画像における画素間の対応関係を求める方法に関して
説明する。
【0043】図9は、ステレオ画像を用いた従来の距離
測定の原理を模式的に表している。点OL、点ORは、そ
れぞれ左側画像(左側投影面)SL及び右側画像(右側
投影面)SRの視点であり、半直線LL、LRは視点OL
Rをそれぞれ通り、互いに平行な光軸である。2つの
光軸LL、LRの距離hは、視点OL、ORを結ぶ基線の長
さ(基線長)に対応する。被写体S上の任意の点を代表
する点Pは、画像SL、SRにおいてそれぞれ点PL、点
Rに投影される。点PL、点PRを通る直線LE L、LER
は、2つの視点OL、ORと被写体上の点Pとで定義され
るエピポーラ面と、画像SL、SRとが交わるエピポーラ
線である。被写体上の点Pの位置を、視点OLを座標原
点とした3次元座標系XYZで表し、画像SL、SRへの
点Pの投影点PL、PRの位置をそれぞれ2次元の写真座
標系XLL、及び写真座標系XRRで表すとき、点Pの
3次元座標値(x,y,z)は、点PLの座標値
(xL ,yL)及び点PRの座標値(xR ,yR)を用い
て、 x=xL・h/(xL―xR) ・・・(2) y=yR・h/(xL―xR) ・・・(3) z= f・h/(xL―xR) ・・・(4) のように求められる。なお、fは焦点距離であり、視点
L、ORと画像SL、SRとの間の距離に対応する。ま
た、座標系XYZは、光軸LLがZ軸として採られ、X
軸が視点OLから視点ORの方向へ採られた左手系座標系
である。左右の画像上に設けられた写真座標系XLL
及び写真座標系XRRの原点は、各画像を貫く光軸
L、LR上にそれぞれあり、XL軸、XR軸はX軸に、Y
L軸、YR軸はY軸にそれぞれ平行に採られている。な
お、図9において、左側投影面に対応する左側画像SL
と右側投影面に対応する右側画像SRとは、分離した面
として描かれているが、本実施形態のように、1つのC
CDの撮像面を左右二分して左右の投影面とした場合の
ように、左右の画像SR、SLが隣接していても何ら変わ
るところはない。
【0044】このように、立体写真測量では、左右の画
像の同一のエピポーラ線上において対応する点PL、PR
を求めることにより被写体の3次元座標が求められる。
しかし、左右の画像の視差が大きい場合や、撮像された
画像に特徴点が余り見出せないときなどには、従来のよ
うに2次元画像のみを用いて上記対応点の探索を行うこ
とは困難となる。
【0045】次に本実施形態における対応点の探索方法
について、図10を参照して説明する。図10におい
て、曲線Sは、ステレオ画像として撮像された3次元画
像の1つのエピポーラ線に対応する被写体の断面形状を
表している。直線LELは左側画像のエピポーラ線、直線
ERは右側画像のエピポーラ線である。また、破線で囲
まれた領域は、左右の画像において共通する領域を示し
たものである。
【0046】エピポーラ線LEL、LER上の任意の画素の
画素値は、その画素に対応する被写体までの距離に対応
しているため、図7、図8を参照して説明した距離測定
原理に基づいてその距離が求められる。CCDの各画素
と焦点(視点)との位置関係は既知なので、これに基づ
いて各画素に対応する被写体上の点の3次元座標値が求
められる。例えば、左側画像においてエピポーラ線LEL
上の任意の画素(点)PL(xL ,yL)を指定すると、
その画素に対応する被写体上の点Pの3次元座標(x,
y,z)が求められる。右側画像では、3次元座標
(x,y,z)に対応する画素PR(xR ,yR)が求め
られ、これにより、左側画像の任意の点PLに対応する
右側画像の点PRが求められる。CCD27の画素とC
CD50の画素との間の対応関係は、各CCDの画素数
等の情報から既知なので、上述の3次元画像を用いた方
法により求められた左右の画像の画素間の対応関係か
ら、2次元画像における画素間の対応が求められる。ま
た、左右の画像において共通して撮影されている領域
(破線で囲まれた領域)も容易に判別できる。なお、本
実施形態の2次元画像に対するステレオ画像の撮影で
は、CCD50の右半分の受光面で左側画像を撮像し、
左半分の受光面で右側画像を撮像している。これに対し
て、本実施形態の3次元画像に対するステレオ画像の撮
像では、左側画像がCCD27の左半分の受光面、右側
画像が右半分の受光面で撮像されている。したがって、
本実施形態において、CCD27の右半分の画素はCC
D50の左半分の画素に対応し、左半分の画素は右半分
の画素に対応している。
【0047】なお、本実施形態では、左右の画像におけ
るエピポーラ線LL、LRは、CCDの同一水平ライン上
にあるので、左右の写真座標系(xL ,yL)、
(xR ,yR)においてyL=yRであり、探索の対象と
なるのは、xLとxRとの間の対応関係のみである。
【0048】以上のように、本実施形態によれば、従来
のステレオアダプタに、3次元画像(各画素値が被写体
までの距離に対応する画像)をステレオ画像として検出
する3次元画像検出装置を搭載することにより、従来の
ステレオ画像における対応点の探索処理を高速・簡略に
することができる。また、本実施形態のステレオアダプ
タ型の3次元画像検出装置によれば、通常のデジタルカ
メラに着脱自在なので、ステレオ写真、又は3次元画像
が必要でないときには、デジタルカメラからステレオア
ダプタを取り外すことができるため、デジタルカメラは
通常のデジタルカメラとして利用できる。一方、ステレ
オアダプタ型の3次元画像検出装置においては、通常の
2次元画像を検出するための構成や、ファインダ、レリ
ーズスイッチ等の機構を省くことができる。
【0049】更に、本実施形態では、ステレオアダプタ
における距離測定動作(3次元画像検出動作)のトリガ
信号として、デジタルカメラに装備されたホットシュー
からの信号、またはストロボ光を用いているので、既存
のデジタルカメラに特別の変更を加えることなく、デジ
タルカメラの撮影に同期して3次元画像の検出を行うこ
とができる。
【0050】なお、本実施形態では、3次元画像もステ
レオ画像として撮像した。これにより3次元画像と2次
元画像との対応付けが直接的に行えるため、より高速か
つ高精度にこれらの対応付けが可能となる。しかし、3
次元画像はステレオ画像でなくともよく、例えば、1つ
の3次元画像から算出された被写体の3次元座標値を、
2次元画像の左右の視点を原点とした座標系にそれぞれ
変換することにより、2次元画像のステレオ画像におけ
る画素間の対応関係を概略求めてもよい。
【0051】また、本実施形態では、3次元画像から算
出される3次元座標値を用いてステレオの3次元画像に
おける画素間の対応関係を求めたが、ステレオ画像の画
素値に対して直接に従来公知のパターンマッチ処理等を
施して、画素間の対応関係を求めてもよい。
【0052】本実施形態において、3次元画像検出装置
は、例えば通常のデジタルカメラに装着可能なステレオ
アダプタに搭載されていたが、ステレオ写真専用のステ
レオカメラに一体的に搭載されていてもよい。
【0053】本実施形態において、2次元画像はデジタ
ルカメラにより撮像されたが、2次元のステレオ写真は
銀塩フィルムを用いるカメラにより撮影されてもよい。
このときには、3次元画像検出用のCCDの各画素と銀
塩フィルム上の点との対応が既知であれば本実施形態と
同様の方法により左右の銀塩フィルムの対応関係が概略
求められる。
【0054】
【発明の効果】以上のように、本発明によれば、ステレ
オ画像における対応点探索処理を高速かつ簡略にするた
めの3次元画像検出装置を得ることができる。
【図面の簡単な説明】
【図1】本発明の一実施形態であるステレオアダプタ型
3次元画像検出装置が、従来のデジタルカメラに装着さ
れたときの斜視図である。
【図2】図1に示されたステレオアダプタの撮像光学系
のうち、デジタルカメラにおけるステレオ画像の撮影に
係る光学系の構造を模式的に示す水平断面である。
【図3】図1に示されたステレオアダプタの撮像光学系
のうち、ステレオアダプタ内に設けられた3次元画像撮
像用CCDにおいてステレオ画像を撮影するための光学
系の構造を模式的に示す水平断面図及び垂直断面図であ
る。
【図4】本実施形態のステレオアダプタの回路構成を概
略示すブロック図である。
【図5】本実施形態のステレオアダプタにおいて実行さ
れるプログラムフローチャートの前半部である。
【図6】図5に示されたフローチャートの後半部であ
る。
【図7】測距光による距離測定の原理を説明するための
図である。
【図8】測距光、反射光、ゲートパルス、及びCCDが
受光する光量分布を示す図である。
【図9】ステレオ画像を用いた立体写真測量の原理を説
明するための図である。
【図10】本実施形態において、ステレオ画像として撮
像された左右の3次元画像の間において画素間の対応を
求めるときの原理を説明するための図である。
【符号の説明】
10 デジタルカメラ 13 鏡筒 20 ステレオアダプタ 21 2次元画像用ステレオレンズ 22 3次元画像用ステレオレンズ 23 光源装置 27、50 CCD
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G03B 15/00 G03B 15/00 H 2H101 M 2H104 17/12 Z 5B047 17/12 17/38 B 5B057 17/38 17/48 5C022 17/48 19/02 5C061 19/02 19/07 5L096 19/07 35/18 35/18 G06T 1/00 315 G06T 1/00 315 400M 400 7/00 C 7/00 H04N 5/225 F H04N 5/225 G01B 11/24 N (72)発明者 谷 信博 東京都板橋区前野町2丁目36番9号 旭光 学工業株式会社内 (72)発明者 山本 清 東京都板橋区前野町2丁目36番9号 旭光 学工業株式会社内 Fターム(参考) 2F065 AA04 AA53 BB05 DD06 FF05 FF12 GG04 GG08 JJ03 JJ05 JJ18 JJ26 LL12 NN02 QQ03 QQ24 QQ31 QQ38 SS13 2F112 AC06 AD01 BA05 CA08 DA32 DA40 EA11 FA03 FA07 FA21 FA29 FA38 FA45 2H020 FA00 FB03 FC06 2H054 AA01 BB02 BB05 BB07 BB08 BB11 CD00 2H059 AA07 AA18 2H101 EE01 EE31 EE37 EE51 FF01 FF02 FF09 2H104 AA01 AA16 CC09 CC12 5B047 AA07 BB04 BC05 BC09 5B057 AA20 BA02 BA15 CA12 CA16 CB13 CB16 5C022 AA13 AB00 AB68 AC54 AC69 AC77 5C061 AB04 AB08 AB24 5L096 AA09 CA04 FA66 HA01

Claims (8)

    【特許請求の範囲】
  1. 【請求項1】 画素値が被写体までの距離に対応する3
    次元画像を検出可能な距離測定手段と、 通常の視覚的な画像である2次元画像のステレオ画像を
    撮像するための2次元画像用ステレオ光学系と、 前記2次元画像用ステレオ光学系を用いて撮像された2
    次元画像のステレオ画像における対応点の探索を、前記
    3次元画像に基づいて行うための対応点探索手段とを備
    えることを特徴とする3次元画像検出装置。
  2. 【請求項2】 前記3次元画像をステレオ画像として撮
    像するための3次元画像用ステレオ光学系を備えること
    を特徴とする請求項1に記載の3次元画像検出装置。
  3. 【請求項3】 前記対応点探索手段が、前記3次元画像
    用ステレオ光学系を用いて撮像された3次元画像のステ
    レオ画像において画素間の対応関係を求めることを特徴
    とする請求項2に記載の3次元画像検出装置。
  4. 【請求項4】 前記3次元画像のステレオ画像における
    画素間の対応関係が前記3次元画像から算出される3次
    元座標値に基づいて行われることを特徴とする請求項3
    に記載の3次元画像検出装置。
  5. 【請求項5】 前記2次元画像用ステレオ光学系をカメ
    ラの光学系と接続するための接続部を備えることを特徴
    とする請求項1に記載の3次元画像検出装置。
  6. 【請求項6】 前記接続部が、カメラのレンズ鏡筒先端
    開口部に設けられたネジマウントに装着されるネジマウ
    ントであることを特徴とする請求項5に記載の3次元画
    像検出装置。
  7. 【請求項7】 カメラのホットシューから出力される外
    部トリガ信号を検知するための外部トリガ入力手段を備
    え、前記距離測定手段の駆動が前記外部トリガ信号に基
    づいて制御されることを特徴とする請求項1に記載の3
    次元画像検出装置。
  8. 【請求項8】 ストロボ光を受光トリガ信号として検知
    するためのストロボ光検知手段を備え、前記距離測定手
    段の駆動が前記受光トリガ信号に基づいて制御されるこ
    とを特徴とする請求項1に記載の3次元画像検出装置。
JP2000343695A 2000-11-10 2000-11-10 3次元画像検出装置 Expired - Fee Related JP3986748B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000343695A JP3986748B2 (ja) 2000-11-10 2000-11-10 3次元画像検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000343695A JP3986748B2 (ja) 2000-11-10 2000-11-10 3次元画像検出装置

Publications (2)

Publication Number Publication Date
JP2002152779A true JP2002152779A (ja) 2002-05-24
JP3986748B2 JP3986748B2 (ja) 2007-10-03

Family

ID=18818022

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000343695A Expired - Fee Related JP3986748B2 (ja) 2000-11-10 2000-11-10 3次元画像検出装置

Country Status (1)

Country Link
JP (1) JP3986748B2 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002236332A (ja) * 2001-02-09 2002-08-23 Olympus Optical Co Ltd ステレオアダプタ、パターン投影アダプタ、発光部材用アダプタ
WO2003103276A1 (en) * 2002-06-03 2003-12-11 Young Hwa Lee Adapter for three-dimensional moving image photographing device
US6819869B2 (en) 2001-10-15 2004-11-16 Pentax Corporation Three-dimensional image-capturing device and adapter for three-dimensional image-capturing
US6915073B2 (en) 2001-10-12 2005-07-05 Pentax Corporation Stereo camera and automatic convergence adjusting device
JP2008008687A (ja) * 2006-06-27 2008-01-17 Toyota Motor Corp 距離測定システム及び距離測定方法
JP2008116308A (ja) * 2006-11-02 2008-05-22 Fujifilm Corp 距離画像生成方法及びその装置
JP2009300268A (ja) * 2008-06-13 2009-12-24 Nippon Hoso Kyokai <Nhk> 3次元情報検出装置
JP2010177921A (ja) * 2009-01-28 2010-08-12 Fujifilm Corp 立体撮像装置および立体撮像方法
WO2010097572A3 (en) * 2009-02-25 2010-11-04 Ugcs (University Of Glamorgan Commercial Services) Limited Method and apparatus for stereoscopic imaging, and adaptor therefor
WO2011011353A3 (en) * 2009-07-21 2011-04-14 Gtech Corporation Stereoscopic form reader
JP2013513842A (ja) * 2009-12-11 2013-04-22 アルカテル−ルーセント 改善された画像マッチングのための方法および構成
WO2013136607A1 (ja) * 2012-03-13 2013-09-19 富士フイルム株式会社 プロジェクタ付き撮影装置及びその制御方法
JP2015163913A (ja) * 2014-02-28 2015-09-10 日本電産コパル株式会社 撮像装置、実装部品撮像装置
JP2016509220A (ja) * 2013-02-04 2016-03-24 デー・エヌ・ファオ.ゲー・エル.エス・エーDnv Gl Se 内部を検査する検査カメラ・ユニット、内部を検査する方法、およびセンサ・ユニット

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130015326A (ko) * 2011-08-03 2013-02-14 삼성전기주식회사 카메라 시스템 및 이를 이용한 거리 인식 방법

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002236332A (ja) * 2001-02-09 2002-08-23 Olympus Optical Co Ltd ステレオアダプタ、パターン投影アダプタ、発光部材用アダプタ
US6915073B2 (en) 2001-10-12 2005-07-05 Pentax Corporation Stereo camera and automatic convergence adjusting device
US6819869B2 (en) 2001-10-15 2004-11-16 Pentax Corporation Three-dimensional image-capturing device and adapter for three-dimensional image-capturing
WO2003103276A1 (en) * 2002-06-03 2003-12-11 Young Hwa Lee Adapter for three-dimensional moving image photographing device
US7218376B2 (en) 2002-06-03 2007-05-15 Young Hwa Lee Adapter for three-dimensional moving image photographing device
JP2008008687A (ja) * 2006-06-27 2008-01-17 Toyota Motor Corp 距離測定システム及び距離測定方法
JP2008116308A (ja) * 2006-11-02 2008-05-22 Fujifilm Corp 距離画像生成方法及びその装置
JP2009300268A (ja) * 2008-06-13 2009-12-24 Nippon Hoso Kyokai <Nhk> 3次元情報検出装置
JP2010177921A (ja) * 2009-01-28 2010-08-12 Fujifilm Corp 立体撮像装置および立体撮像方法
WO2010097572A3 (en) * 2009-02-25 2010-11-04 Ugcs (University Of Glamorgan Commercial Services) Limited Method and apparatus for stereoscopic imaging, and adaptor therefor
WO2011011353A3 (en) * 2009-07-21 2011-04-14 Gtech Corporation Stereoscopic form reader
JP2013513842A (ja) * 2009-12-11 2013-04-22 アルカテル−ルーセント 改善された画像マッチングのための方法および構成
WO2013136607A1 (ja) * 2012-03-13 2013-09-19 富士フイルム株式会社 プロジェクタ付き撮影装置及びその制御方法
CN104204940A (zh) * 2012-03-13 2014-12-10 富士胶片株式会社 带投影仪摄影装置及其控制方法
JP5719967B2 (ja) * 2012-03-13 2015-05-20 富士フイルム株式会社 プロジェクタ付き撮影装置及びその制御方法
US9332208B2 (en) 2012-03-13 2016-05-03 Fujifilm Corporation Imaging apparatus having a projector with automatic photography activation based on superimposition
JP2016509220A (ja) * 2013-02-04 2016-03-24 デー・エヌ・ファオ.ゲー・エル.エス・エーDnv Gl Se 内部を検査する検査カメラ・ユニット、内部を検査する方法、およびセンサ・ユニット
JP2015163913A (ja) * 2014-02-28 2015-09-10 日本電産コパル株式会社 撮像装置、実装部品撮像装置

Also Published As

Publication number Publication date
JP3986748B2 (ja) 2007-10-03

Similar Documents

Publication Publication Date Title
KR101706093B1 (ko) 3차원 좌표 추출 시스템 및 그 방법
EP3416370B1 (en) Photography focusing method, device, and apparatus for terminal
CN102494609B (zh) 一种基于激光探针阵列的三维摄影方法及装置
US6987531B2 (en) Imaging system, photographing device and three-dimensional measurement auxiliary unit used for the system
JP3986748B2 (ja) 3次元画像検出装置
US20140168424A1 (en) Imaging device for motion detection of objects in a scene, and method for motion detection of objects in a scene
EP1792282B1 (en) A method for automated 3d imaging
JP4115801B2 (ja) 3次元撮影装置
US8144974B2 (en) Image processing apparatus, method, and program
US20210150744A1 (en) System and method for hybrid depth estimation
JP3414624B2 (ja) 実時間レンジファインダ
KR101296601B1 (ko) 지리 정보 파노라마 사진의 제작을 위한 카메라 제어 시스템 및 방법
JP2001311619A (ja) 測距装置及び測距方法
JP3991501B2 (ja) 3次元入力装置
JP2001124544A (ja) 測距装置
JP2002022425A (ja) 3次元画像入力装置
CN111277811B (zh) 一种三维空间相机及其拍照方法
CN112929519B (zh) 深度相机、成像装置和电子设备
JP4085720B2 (ja) デジタルカメラ
JPH11223516A (ja) 3次元画像撮像装置
JP3905696B2 (ja) 3次元画像入力装置
JP2004132759A (ja) 三次元画像生成用データ撮像装置、および三次元画像生成用データ撮像方法、並びにコンピュータ・プログラム
JP3954300B2 (ja) 3次元画像検出装置
JP4413342B2 (ja) 3次元画像検出装置
JP2001235314A (ja) 撮影システムおよびそれに用いる2次元撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070711

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100720

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110720

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110720

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120720

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120720

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120720

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120720

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120720

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130720

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees