JP2003284098A - 立体画像表示装置及び方法 - Google Patents

立体画像表示装置及び方法

Info

Publication number
JP2003284098A
JP2003284098A JP2002077997A JP2002077997A JP2003284098A JP 2003284098 A JP2003284098 A JP 2003284098A JP 2002077997 A JP2002077997 A JP 2002077997A JP 2002077997 A JP2002077997 A JP 2002077997A JP 2003284098 A JP2003284098 A JP 2003284098A
Authority
JP
Japan
Prior art keywords
image
stereo
contour
unit
boundary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002077997A
Other languages
English (en)
Other versions
JP4005395B2 (ja
Inventor
Nobuo Takachi
伸夫 高地
Hitoshi Otani
仁志 大谷
Hiroyuki Aoki
弘幸 青木
Mitsuharu Yamada
光晴 山田
Koichi Sato
宏一 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Topcon Corp
Original Assignee
Topcon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2002077997A priority Critical patent/JP4005395B2/ja
Application filed by Topcon Corp filed Critical Topcon Corp
Priority to AT05004317T priority patent/ATE466454T1/de
Priority to DE60316738T priority patent/DE60316738T2/de
Priority to DE60332353T priority patent/DE60332353D1/de
Priority to EP03004930A priority patent/EP1343334B1/en
Priority to EP05004317A priority patent/EP1534021B1/en
Priority to AT03004930T priority patent/ATE375687T1/de
Priority to US10/383,260 priority patent/US7193626B2/en
Publication of JP2003284098A publication Critical patent/JP2003284098A/ja
Application granted granted Critical
Publication of JP4005395B2 publication Critical patent/JP4005395B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 一対のステレオ画像を構成する左画像と右画
像を立体視する場合に、長時間立体視しても疲労の伴わ
ない立体画像表示装置を提供すること。 【解決手段】 ステレオ画像取得部10で取得された一
対のステレオ画像における左画像の輪郭と右画像の輪郭
から、当該左画像及び右画像で重複して撮影されている
範囲の輪郭を決定する輪郭決定部45と、輪郭決定部4
5によって決定された重複範囲の輪郭に基づき、ステレ
オ画像から有効ステレオ画像を抽出する有効画像領域抽
出部46と、有効画像領域抽出部46で抽出された有効
ステレオ画像を立体視可能な画像として表示する表示部
60とを備えている。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、ステレオ撮影された画
像から撮影対象物の三次元画像を作成して立体表示する
のに用いる立体画像表示装置及び方法に関し、特に長時
間の立体視が容易に行える立体画像表示装置及び方法に
関する。
【0002】
【従来の技術】ステレオ撮影された画像を立体視する立
体画像表示装置として、液晶シャッター方式と液晶フィ
ルターシャッター方式が存在している。液晶シャッター
方式は、1枚の画面に左右画像を交互に表示させ、それ
ら画像を液晶眼鏡によって同期させて左右画像を切り替
えるものである。液晶フィルターシャッター方式は、画
面上に液晶偏向フィルターを取り付け、左右画像を切り
替え表示しながら液晶偏向フィルターも同時に切り替
え、偏向眼鏡で観察するものである。
【0003】図7は一対のステレオ画像を構成する左画
像と右画像のオーバーラップ部と非オーバーラップ部の
説明図で、(A)は左画像と右画像を組合せて立体視す
る状態、(B)は左画像と右画像で撮影された領域を示
している。立体視可能な画像は、航空写真測量などで用
いられているように、内部標定、相互標定、絶対標定と
いう三段階の処理をへて、実際の地形図や被写体の寸法
を計測できる状態に変換される。そして、一対のステレ
オ画像を構成する左画像と右画像においては、オーバー
ラップ部と左画像又は右画像だけに写っている非オーバ
ーラップ部が存在している。このうち、オーバーラップ
部は立体画像表示装置による立体視の対象となる。
【0004】
【発明が解決しようとする課題】しかし、従来の立体画
像表示装置では、左画像又は右画像だけに写っている非
オーバーラップ部も立体視の対象として、オペレータが
視認可能な状態で写している。すると、立体視している
オペレータは、立体視の対象であるオーバーラップ部
と、立体視できない非オーバーラップ部を同時に見るこ
とになる。そこで、オペレータは、ちらつきや不快感を
訴えたり、疲労を伴うため長時間の立体視作業が困難で
あるという課題があった。
【0005】本発明は、上述する課題を解決したもの
で、一対のステレオ画像を構成する左画像と右画像を立
体視する場合に、長時間立体視しても疲労の伴わない立
体画像表示装置及び方法を提供することを目的とする。
【0006】
【課題を解決するための手段】上記目的を達成する本発
明の立体画像表示装置は、図1に示すように、ステレオ
画像取得部10で取得された一対のステレオ画像におけ
る左画像の輪郭と右画像の輪郭から、当該左画像及び右
画像で重複して撮影されている範囲の輪郭を決定する輪
郭決定部45と、輪郭決定部45によって決定された重
複範囲の輪郭に基づき、ステレオ画像から有効ステレオ
画像を抽出する有効画像領域抽出部46と、有効画像領
域抽出部46で抽出された有効ステレオ画像を立体視可
能な画像として表示する表示部60とを備えている。
【0007】このように構成された装置においては、輪
郭決定部45によって一対のステレオ画像を構成する左
画像及び右画像で重複して撮影されている範囲の輪郭が
決定されるので、有効画像領域抽出部46によるステレ
オ画像から有効ステレオ画像を抽出することが容易に行
える。抽出された有効ステレオ画像は、表示部60によ
って立体表示される。好ましくは、ステレオ画像取得部
10で取得された一対のステレオ画像を格納する画像デ
ータ記憶部20を設けると、輪郭決定部45により左画
像及び右画像の重複範囲の輪郭を決定する処理に用いる
一対のステレオ画像データとして、画像データ記憶部2
0に格納されたステレオ画像を用いて行える。
【0008】好ましくは、輪郭決定部45は、一対のス
テレオ画像のうち一方の画像を基準画像とし、前記ステ
レオ画像の他方の画像を従画像として設定する基準画像
設定部452を有し、前記基準画像側に設定した境界範
囲に応じて、従画像上に前記基準画像の境界範囲に対応
した対応境界領域を設定するように構成されているとよ
い。この場合、基準画像設定部452は、オペレータの
利き目側に対応する側の画像を基準画像とする構成とす
ると、オペレータの個性に適合する側の画像を基準画像
に選定でき、オペレータにとって負担の少ない立体視作
業が行える。
【0009】好ましくは、輪郭決定部45は、前記基準
画像側に基準カーソルを表示し、前記従画像には従属カ
ーソルを表示させるカーソル表示制御部454を有し、
カーソル表示制御部454は、前記基準画像上で移動表
示される前記基準カーソルと対応する位置に、前記従属
カーソルを前記従画像上で移動表示させるように構成さ
れているとよい。オペレータが基準画像側に表示される
基準カーソルに注目して操作していると、カーソル表示
制御部454によって従画像に表示される従属カーソル
は基準カーソルの移動表示に対応して自動的に移動表示
されるので、例えば特徴点、境界点等の指定が円滑に行
える。
【0010】好ましくは、輪郭決定部45は、さらに前
記基準カーソルによる指示により基準画像側に境界範囲
が設定されると、前記基準画像側の境界範囲に応じて従
画像上に対応境界領域を設定する境界領域設定部456
を有する構成とすると、立体視の対象領域の指定が境界
領域設定部456により円滑に行える。そこで、例えば
基準画像側に表示される基準カーソルを用いて重複範囲
を抽出する場合には、従画像上の対応境界領域から所定
の形状、例えば矩形に切抜くような作業がやりやすい。
【0011】好ましくは、輪郭決定部45は、前記重複
範囲の決定にあたり、前記右画像の左端部の輪郭に対応
する輪郭を前記左画像の輪郭に対応させ、前記左画像の
右端部の輪郭に対応する輪郭を前記右画像の輪郭に対応
させるように構成されていると、重複範囲の決定にあた
って基準とする側の画像と輪郭が明確となり、重複範囲
の決定処理が円滑に行える。
【0012】好ましくは、輪郭決定部45は、一対のス
テレオ画像を構成する一方の画像の指定境界が指定され
ると、当該指定境界に基づき他方の画像の対応境界を演
算により求める構成とすると、境界の指定が自動化され
て円滑に行える。演算の内容は、例えば境界点の標高差
や奥行きの差異に起因する左画像と右画像における視差
差の補償や、相関処理による重複範囲の決定である。重
複範囲の決定に相関処理演算を用いる場合には、立体視
可能な範囲を成るべく多く含むように対応境界を定める
運用や、画像歪の大きな範囲を除いて正確な形状で立体
視できる範囲を切出すような運用ができる。
【0013】好ましくは、輪郭決定部45は、一対のス
テレオ画像を構成する一方の画像に対して、指定された
境界点を補間して指定境界線を演算し、当該補間された
指定境界線に基づき他方の画像の対応境界を演算により
求める構成とすると、境界点を指定する密度を粗くで
き、オペレータの作業効率が高まる。
【0014】上記目的を達成する本発明の立体画像表示
方法は、図3に示すように、一対のステレオ画像におけ
る左画像の輪郭と右画像の輪郭から、当該左画像及び右
画像で重複して撮影されている範囲の輪郭を決定し(S
118)、決定された重複範囲の輪郭に基づき、ステレ
オ画像から有効ステレオ画像を抽出し(S120)、抽
出された有効ステレオ画像を立体視可能な画像として表
示する(S122)工程を有するとよい。
【0015】
【発明の実施の形態】以下図面を用いて本発明を説明す
る。図1は本発明の第1の実施の形態を説明する全体構
成ブロック図である。立体画像表示装置は、ステレオ画
像取得部10、画像データ記憶部20、画像標定部3
0、特徴要素指定部40、データ入力部50並びに表示
部60を備えている。
【0016】ステレオ画像取得部10は、ステレオカメ
ラのような精密機器でも良く、またデジタルカメラやデ
ジタルビデオカメラ等のような簡易なレンズを用いた機
器でもよい。ステレオカメラは、ステレオ計測するため
のもので、各カメラが相対的に動かないように固定され
ている。そこで、カメラ間隔に対応する基線長は不変で
あり、カメラの撮影距離も各カメラ間で正確に一致させ
る必要があるため、固定焦点距離式のレンズが使用され
ているが、可変焦点距離式のズームレンズを用いても良
い。また、カメラの分解能に依存して、ステレオカメラ
の計測精度が定まるため、収差の少ない高精度レンズが
使用されている。
【0017】他方、デジタルカメラやデジタルビデオカ
メラは、同じ光学的性質を有するレンズを用いた2台の
機器をステレオバーに取り付けて、ステレオカメラとす
ることが可能である。あるいは、デジタルカメラやデジ
タルビデオカメラを一台として、測定対象物に対して右
撮影方向と左撮影方向から撮影しても良い。一台で右撮
影方向と左撮影方向から撮影する場合には、左右撮影の
カメラ間隔が一定になるように留意する。デジタルカメ
ラやデジタルビデオカメラでは、レンズ収差がステレオ
カメラのレンズ収差に比較して大きいので、レンズ収差
を補償して画像データ記憶部20に格納するとよい。
【0018】画像データ記憶部20は、ステレオ画像取
得部10にて取得した画像を記憶するもので、デジタル
カメラやデジタルビデオカメラであればデジタル画像情
報を記憶するフレキシブルディスク、CD−ROM、ハ
ードディスク等を用いるとよい。ステレオカメラとして
フィルムに焼付けたアナログ画像情報を用いる場合に
は、アナログ画像情報をスキャナー等でデジタル化して
デジタル画像情報化して、記憶するとよい。
【0019】画像標定部30は、特徴要素指定部40で
指定された画像の位置を用いてカメラの位置と傾き(外
部標定要素)を計算し、立体視可能なステレオ画像(偏
位修正画像)を作成するもので、典型的には航空写真測
量でいうところの内部標定、相互標定、絶対標定のうち
相互標定と絶対標定を行う機能に相当している。画像標
定部30はパソコン上のソフトウェアとしても良いし、
あるいはマイコン等の組込み型ソフトとして表示部60
に組み込んでも良い。あるいはハードウェアで構成して
も良い。なお、立体画像作成の原理に関しては後で詳細
に説明する。
【0020】また、ステレオ画像取得部10にて、ステ
レオアタッチメント等に2台のカメラを取り付けステレ
オカメラ撮影した場合も、ステレオ撮影における対応点
を求めて、ステレオモデルを作成できる。すると、オペ
レータの熟練度に依存せず安定したステレオ撮影とステ
レオモデル作成が可能となる。ステレオカメラの場合に
は、基線長やカメラの傾きが既知なので、該当するパラ
メータを用いればステレオモデルが一義的に得られる。
【0021】さらに、画像標定部30は、特徴要素指定
部40で指示する画像の特徴点に対して、データ入力部
50より実際又は仮想の座標又は寸法を入力することに
より、立体視可能なステレオ画像において実際又は仮想
の縮尺又は寸法になったステレオ画像に変換する。この
ように立体視可能なステレオ画像を作成して、寸法を与
えれば、ステレオ法の原理に従って三次元計測が可能と
なる。
【0022】特徴要素指定部40は、ステレオ画像を立
体視可能なように修正する際に、左右画像上で画像の特
徴点を指示するものである。画像の特徴点とは、標定を
可能とするために左右画像上で重なった領域に少なくと
も6点設ける必要のあるもので、特徴点の分布密度は左
右画像上の重なった領域で概ね均等になるように定める
とよい。画像の特徴点は、オペレータや自動捜索処理部
44で認識しやすい形状や模様であることが好ましく、
例えばターゲットと呼ばれる標識を被写体に設けると良
い。
【0023】特徴要素指定部40は、立体画像を作成す
る際や計測する際に左右画像の対応点を指示する対応点
指示部42、自動で対応点を探索するための自動捜索処
理部44、ステレオ表示・計測する際のオーバーラップ
部を決定する輪郭決定部45、オーバーラップ部を抽出
する有効画像領域抽出部46、三次元計測をする際の演
算を施す演算処理部48を備えている。ここで、対応点
とは、画像の特徴点の中で左画像と右画像の双方で認識
された同一の特徴点をいう。
【0024】対応点指示部42は、画像上の平面方向と
してのXY方向の指示や奥行き方向の指示をするもの
で、PCのマウスや奥行きを指示するダイヤルをつけた
ものなどを使用する。対応点指示部42には、表示部6
0のカーソル位置が対応点位置に対して近傍になると、
表示部60に表示されているカーソルマーク表示を変更
する機能を持たせるとよい。自動捜索処理部44での対
応点探索には、例えば画像相関処理を用いて行う。即
ち、左画像上で特徴点として指示した点をテンプレート
として、右画像上を探索する。画像相関処理は、相互相
関係数法や残差逐次検定法(SSDA法)などどれを用
いても良い。
【0025】輪郭決定部45は、基準画像設定部45
2、カーソル表示制御部454、境界領域設定部456
を備えている。基準画像設定部452は、左右のステレ
オ画像のうち一方の画像を基準画像とし、ステレオ画像
の他方の画像を従画像として設定する。この場合、オペ
レータの利き目側に対応する側の画像を基準画像とする
構成とすると、オペレータの個性に適合する側の画像を
基準画像に選定でき、オペレータにとって負担の少ない
立体視作業が行える。カーソル表示制御部454は、基
準画像側に基準カーソルを表示し、従画像には従属カー
ソルを表示させるもので、さらにオペレータによる動的
な操作を容易にするために、基準画像上で移動表示され
る基準カーソルと対応する位置に、従属カーソルを従画
像上で移動表示させるとよい。境界領域設定部456
は、基準カーソルによる指示により基準画像側に境界範
囲が設定されると、基準画像側の境界範囲に応じて従画
像上に対応境界領域を設定する。境界範囲の設定には、
境界点がオペレータによって主画像側で指定されると、
従画像側で対応境界点を生成する機能、指定された境界
点を補間して主画像側の境界範囲の輪郭を生成する機
能、並びに生成された対応境界点を補間して従画像側の
境界範囲の輪郭を生成する機能が含まれる。
【0026】データ入力部50は、実際の寸法と合わせ
るのに基準量等を入力する。なお、立体画像を作成する
だけであれば、データ入力部50を設ける必要はない。
データ入力部50により、立体視可能なように修正され
たステレオ画像に寸法をいれれば、その寸法にあった立
体画像を作成可能となる。
【0027】表示部60は、取得された画像や立体視可
能になった画像を表示するもので、操作表示部64と立
体画像表示部66を備えている。操作表示部64は、画
像標定部30に用いるパソコン用のモニタを用いるとよ
い。立体画像表示部66は、偏向眼鏡をかけて立体視可
能とするデュアルディスプレイ方式の立体ディスプレイ
である。
【0028】図2はデュアルディスプレイ方式の立体画
像表示部を説明する構成斜視図である。デュアルディス
プレイ方式は、左右画像を2枚の偏光ディスプレイ66
2、664にそれぞれ表示させ、ハーフミラー666に
よって合成する。ハーフミラー666によって合成され
た画像は、偏光眼鏡668によって左右それぞれの画像
を分離できる偏光状態となっている。即ち、偏光ディス
プレイ662、664で表示される画像の偏光状態は光
学的に直交していて、偏光眼鏡668による分離が可能
となっている。観察者が偏光眼鏡668を用いて立体画
像表示部66に表示された画面を観察すると、左右の目
に左右画像を同時に表示する状態が実現される。そこ
で、観察者は左右画像を立体的に観察できる。デュアル
ディスプレイ方式は、従来の液晶シャッター方式や液晶
フィルターシャッター方式と比較して、左右画像を同時
に観察しているため、蛍光灯や照明条件等の外部環境ノ
イズに影響されず、安定して長時間立体視できるという
利点がある。
【0029】表示部60には、立体画像だけでなく、計
測点の指示、装置の操作用の表示、取得された生画像等
も表示するとよい。これら表示は、立体画像表示部66
にあわせて表示しても良いし、あるいは操作表示部64
に表示させても良い。
【0030】次に、このように構成された装置の使用に
ついて説明する。図3は図1の装置におけるステレオ画
像計測の手続きの流れを説明するフローチャートであ
る。まず、市販のデジタルカメラやデジタルビデオカメ
ラを用いて、立体表示したい対象物のステレオ撮影を行
う(S100)。ステレオ撮影に用いるカメラは1台と
して撮影方向を右方向と左方向で撮影してもよく、また
カメラを2台固定して右方向と左方向からステレオ撮影
してもよい。
【0031】次に、ステレオ撮影した左右画像を画像デ
ータ記憶部20に読み込む(S102)。そして、画像
データ記憶部20に読み込まれた撮影画像を表示部60
に表示する(S104)。ここで、表示部60には左右
2枚の画像を並べて表示すると、その後の操作が容易に
なる。表示部60に操作表示部64が設けられている場
合には、操作表示部64に表示するとよい。この状態で
あっても、固定されたステレオアッタチメントで対象物
に対し平行に撮影した画像であれば、立体画像表示部6
6に表示すれば、立体視することも可能である。
【0032】続いて、ステレオ撮影した左右画像上で対
応点の座標値や特徴点において関連する寸法がある場合
は、該関連する寸法をデータ入力部50から入力する
(S106)。例えば、実際の座標として3点が既知で
あれば、データ入力部50から既知の3点の座標値を入
力することができる。すると、S110で処理される左
右画像の対応点決定において既知の座標系に変換可能で
き、三次元計測が可能となる。データ入力部50から入
力する他のデータとしては、撮影したカメラの傾き(方
向)、既知の画像上の寸法、ステレオ撮影した際のカメ
ラ間距離(基線長)がある。これらデータを入力すれ
ば、作成されたステレオ画像を計測することが可能とな
る。なお、データ入力部50からデータ入力に代えて、
基準となる寸法となる部位を予めステレオ画像として写
し込んでおいてもよい。
【0033】また、データ入力部50から入力するデー
タは実際の寸法でなくとも、仮想値を入力して仮想寸法
のステレオモデルを作成することも可能である。あるい
は、S106にて、データ入力部50からデータを何も
いれないくても、ステレオモデルを作成することは可能
であり、立体画像表示部66に立体視可能なステレオ画
像を表示することが可能である。ただし寸法は、基準と
なる寸法を別途定めないと、現実の寸法に対して相似の
ステレオ画像が得られるだけとなり、絶対値は得られな
い。なお、データ入力部50へのデータ入力は、S10
6の位置に代えて、初期設定値として予め入力しても良
く、S110で処理される左右画像の対応点決定の際に
入力しても良く、あるいは、左右画像の対応点決定処理
の後に入力してもよい。
【0034】続いて、主画像と従画像の選択を行う(S
108)。ここで、主画像とは、自動相関処理の際に、
基準カーソルが現れる画像をいう。また、従画像とは、
自動相関処理の際に、基準カーソルの位置に対応した相
関値の高い位置にカーソルが自動的に移動する従カーソ
ルが現れる画像をいう。基準画像設定部452は、左右
画像のうち選択された側を主画像として扱う。
【0035】ステレオ撮影した左右画像のどちらを主画
像とするかは、オペレータに任せられる。主画面とする
画像は、基準画像設定部452にて説明したように、オ
ペレータが物の形を認識するための利き目側の画像を選
択することが望ましい。何故なら、人間の目は両眼で立
体視をしているが、物の形を認識するために、左右の何
れかが利き目となっているからである。なお、両眼のう
ち何れが利き目か判断するためには、立体視をしている
状態で所定のマークを指差し、一方の目を閉じても所定
のマークを指差している側の目を求める。以下の説明に
おいては、主画像は左画像とし、従画像を右画像とする
場合を例に説明する。
【0036】次に、立体画像を作成するために特徴要素
指定部40の対応点指示部42により左右画像の対応点
を指示決定する(S110)。左右画像上の同一点を最
低6点以上対応付けすることによって、先に説明した立
体視の原理を適用する画像標定部30により、カメラの
位置と傾き(外部標定要素)を求めることができる。対
応点決定は、画像上で特徴のあるところを左右画像上で
決定すれば良いが、明確なターゲットを対象物周辺にプ
リンタ等で印刷、配置しておけば作業自体は楽なものに
なる。明確なターゲットマークとしては、黒丸”●”、
四角”■”、菱形”◆”、三角形”▲”などがある。な
お、この対応点決定から外部標定要素計算までの一連の
作業は標定と呼ばれている。
【0037】続いて、左右画像の対応点を決定する具体
的な処理過程を、図4を参照して説明する。図4は、対
応点決定処理を説明するフローチャートである。対応点
決定処理に入ると(S200)、対応点決定処理として
のマニュアルモード、半自動モード、自動モードと3つ
のモードの何れか一つを選択する(S202)。なお、
以下に説明する左画像と右画像は、その逆の右画像と左
画像と逆に置き換えても処理は全く同様であり、そのよ
うに読替えて処理してもよい。
【0038】マニュアルモードが選択されると、マニュ
アルモードでの処理が開始される(S210)。まず、
表示部60上の左画像の特徴となるところを対応点指示
部42のマウスによって指示し、確定する(S21
2)。確定は、例えばマウスのボタンを押すことなどに
行う。確定処理により左画像座標が読み込まれる。次
に、左画像と同じ特徴点を表示部60の右画像上で対応
点指示部42のマウスにより指示・確定する(S21
4)。これにより、右画像座標が読み込まれる。このよ
うにマニュアルモードでは、左右画像上で別々に対応点
指示部42により指示、確定させる。そして、対応点と
して6点以上対応付けをしたか判断し(S216)、6
点未満であればS202のモード選択に戻る。なお、S
212に戻ってマニュアルモードによる対応点決定処理
を継続するようにプログラムを作成してもよい。6点以
上対応付けしていれば、戻しとする。
【0039】半自動モードが選択されると、半自動モー
ドでの処理が開始される(S220)。半自動モードで
は、特徴要素指定部40の自動捜索処理部44による自
動捜索モードにうつる(S222)。そこで、オペレー
タは表示部60の左画像上で特徴点を対応点指示部42
のマウスにより指示する(S224)。すると、自動捜
索処理部44は、右画像上の対応点を自動で探索する
(S226)。
【0040】そして、オペレータは自動捜索処理部44
にて検索された右画像上の対応点が適切であるか、判断
する(S228)。この場合、自動捜索処理部44にて
演算された相互相関係数が、ある閾値以上であればOK
と決定する(例えば0.7以上等)。表示部60には、
対応点指示部42により、例えば右画像上で左画像上に
対応した探索位置にOKなら緑表示の点、NGなら赤表
示の点を表示したり、カーソルマークの図形を変えたり
(例えば、矢印”⇒”から二重丸”◎”にカーソルマー
ク表示を変更する)、相互相関係数値を表示させたりす
ることに、オペレータが判定する。右画像探索OKか否
かの表示は、オペレータが判断容易であればどのような
表示によっても良い。
【0041】OKでなかった場合、対応点が他の位置で
もよいか判断し(S230)、他の位置でもよければS
224へもどり他の点を指示する。他方、どうしてもそ
の位置を特徴点としたい場合は、右画像上のカーソルを
マニュアルにて移動させて指示する(S232)。即
ち、例えば対応点指示部42の奥行き方向を合わせるダ
イヤル等を回せば、等価的に右画像上のカーソルが動く
ことになるので、それを調整して、左画像と同じ特徴点
のところへ持って行き、あわせる。
【0042】そして、S228で右画像探索OKの場
合、あるいはS232にて右画像を指示した場合は、そ
の点の画像座標を読み込む(S234)。例えばマウス
のボタンを押すなどして確定させる。そして、対応点と
して6点以上対応付けをしたか判断し(S236)、6
点未満であればS202のモード選択に戻る。なお、S
222に戻って半自動モードによる対応点決定処理を継
続するようにプログラムを作成してもよい。6点以上対
応付けしていれば、戻しとする。
【0043】上述した半自動モードでは、左画像上で特
徴点をマウスにより指示することにより、自動で右画像
の対応点を探索し、OKかどうか表示する。オペレータ
はカーソルマーク表示の表示を見て、自動捜索処理部4
4にて検索された右画像上の対応点が適切であれば、検
索された対応点を対応点として確定させる(例えば矢
印”⇒”から”◎”に変更されている場合)。半自動モ
ードを用いることにより、オペレータは片方の画像を指
示するだけでよいので、対応点決定処理を簡単に処理で
きる。なお、マウスによる指示と確認のための判定は、
ボタンを押すことによっても良いが、更にマウスカーソ
ルを移動して左画像上をなぞるだけで、右画像上の対応
点を常に判定表示させるように構成しても良い。左画像
上のマウスカーソルに対応する右画像上の対応点を判定
表示させると、対応点決定処理をさらに容易に処理でき
る。
【0044】自動モードが選択されると、自動モードで
の処理が開始される(S240)。自動モードは、対応
点となるターゲットを予め対象物周辺に配置すること
で、自動でターゲットを検出するモードである。ターゲ
ットとなるものは、予め特徴点として認識しやすいもの
を対象物周辺に配置する。ターゲットは認識しやすいも
のであればなんでもよい。例えば、前述した”●”よう
なターゲットマークをプリンタにより印刷したり、作成
したりして配置する。この場合、ターゲットの正確な位
置が予めわかっていれば、正確な三次元計測がその後可
能となる。
【0045】まず、表示部60により左右画像上に6点
以上のターゲットが含まれているか確認する(S24
2)。もし左右画像上で6点以上のターゲットが含まれ
ていなければ、マニュアルもしくは半自動モードへ行く
(S244)。なお、左右画像に対応する6点以上のタ
ーゲットが撮影されていない場合には、ターゲットが6
点以上入るように撮影しなおす。そして、自動モード処
理に移行する(S246)。
【0046】自動モード処理では、自動ターゲット検出
を行うために、配置したターゲット画像の一つを対応点
指示部42により指示し、特徴要素指定部40にテンプ
レート画像として登録する(S248)。そして、テン
プレート画像を元に、左画像、右画像それぞれターゲッ
トの位置を探索する(S250)。このターゲットの位
置を探索処理は、例えば先に説明した相互相関係数法等
を利用して自動検出させる。そして、探索されたターゲ
ット位置を表示部60上に表示する(S252)。
【0047】探索されたターゲット位置がOKであるか
判断し(S254)、OKであれば戻しとする。NGで
あれば、ターゲット位置の修正を行う(S256)。こ
の修正には、マニュアルモードあるいは半自動モードに
よる処理を用いる。仮に、NGであった場合でも、ター
ゲットを配置してあるので修正は容易である。
【0048】そして、修正されたターゲット位置を用い
て、左右画像上での対応点を検出する(S258)。こ
の作業は、特徴要素指定部40の対応点指示部42によ
り左右画像の対応点を表示部60を見ながら指示するこ
とにより行う。あるいは、図5(A)のように予めター
ゲットの配置を決めて、概略平行にステレオ撮影する。
すると、ターゲットの配置は撮影した画像上でも保たれ
るため、対応付けを自動で行うことも可能である。更に
は、6点以上のターゲットマークを別々に決め、予めテ
ンプレート指定しておいても、対応付けを自動で行うこ
とが可能である。左右画像上での対応点の点数は、最小
6点なので作業はマニュアルで行っても簡単にできる。
【0049】図3にもどり、S110にて左右画像の対
応点の対応付けが終了したら、該対応点を元に画像標定
部30にて外部標定要素(カメラの位置、傾き)を計算
する(S112)。外部標定要素の詳細については、後
述する立体画像作成の原理の該当箇所に説明されてい
る。
【0050】S112にて外部標定要素が求まったら、
求めた外部標定要素値により画像の偏位修正(ステレオ
画像作成)を行う(S114)。そして、立体画像表示
部66にステレオ画像を表示する(S116)。以上の
ようにして、ステレオ画像が作成される。
【0051】次に立体視を容易にするため、オーバーラ
ップ部の輪郭又は対応境界を抽出するかのオペレータ判
断を待つ(S118)。輪郭又は対応境界を抽出する場
合は、輪郭決定部45と有効画像領域抽出部46によ
り、オーバーラップ部の輪郭もしくはステレオ視したい
部分の境界をオーバーラップ部の中で抽出する(S12
0)。輪郭又は対応境界を抽出しない場合は、輪郭又は
対応境界抽出処理をスキップしてS124へいく。
【0052】続いて、オーバーラップ部の輪郭又は対応
境界を抽出する具体的な処理過程を、図6を参照して説
明する。図6は輪郭又は対応境界の抽出処理を説明する
フローチャートである。左右画像のオーバーラップ部の
輪郭を抽出する場合も、切り出したい対応境界を決めて
抽出する場合も、以下と同様の処理で行う。
【0053】輪郭決定部45を用いたオペレータの操作
は、左右画像二つ同時に表示した操作表示部64により
行う場合と、立体画像表示部66を見ながら行う場合が
ある。立体画像表示部66を見ながら行う場合には、所
望の形に輪郭または対応境界をひくことができる。例え
ば、オペレータは直線状に立体画像を切り取りたいと
き、立体画像上で操作を行うと、カーソル表示制御部4
54によりカーソルの表示が左右の画像で一致する。そ
して、境界領域設定部456の処理において、奥行き方
向を確認しながら切り取ることができる。この場合、比
高差があるため、左画像では直線であっても、右画像上
では直線とならない。しかし、立体画像表示部66では
左右画像をステレオ合成することで、立体的にかつ直線
を考慮しながら作業を行えるから、有効画像領域抽出部
46での作業は容易に行える。
【0054】輪郭又は対応境界の抽出処理に入ると(S
300)、輪郭又は対応境界の抽出処理としてのマニュ
アルモード、半自動モード、自動モードと3つのモード
の何れか一つを選択する(S302)。マニュアルモー
ドが選択されると、マニュアルモードでの処理が開始さ
れる(S310)。まず、立体画像表示部66を見なが
ら、対応点指示部42のマウスを動かすことによりカー
ソルを移動させ、抽出したい輪郭や対応境界の点を指示
する(S312)。すると、カーソル表示制御部454
によりカーソルの表示が左右の画像で一致する。
【0055】次に、抽出したい輪郭や対応境界に対する
奥行きを合わせる(S314)。奥行きは、対応点指示
部42の奥行き方向を指示するダイヤル等を回すことに
より、カーソルが立体画像表示部66上で奥行き方向に
浮いたり沈んだりして見える。そこで、オペレータはカ
ーソル位置を調整して、実際の対象物の表面上にカーソ
ルが位置するように奥行き方向を合わせる。奥行き方向
が合ったら、例えばマウスのボタンを押すこと等により
確定させて、左右画像の座標を読み込ませる(S31
6)。なお、奥行き方向を調整することは、例えば左画
像で指示したマウスを基準位置として、その対応点の位
置を右画像上から探していることと同じである。カーソ
ル位置の調整を立体画像表示部66に映し出すと、奥行
き方向の変化となって観察される。なお、奥行き方向が
左右の座標で大きく外れていると、カーソルが左右二つ
となって、別のところにカーソルがいってしまったよう
に見える。次に、抽出したい輪郭や対応境界が完了した
か判断し(S318)、未了であればS302に戻り次
の特徴点の処理を、何れのモードで行うか選択する。
【0056】次半自動モードが選択されると、半自動モ
ードでの処理が開始される(S330)。ここでは、立
体画像表示部66を観察しながら操作する場合を例に説
明する。半自動モード処理での特徴点は、オーバーラッ
プ部の輪郭、又は切り出したい対応境界となる。そこ
で、輪郭決定部45は自動捜索処理部44にて対応点探
索を行う自動捜索モードに入る(S332)。対応点探
索処理では、オペレータは立体画像表示部66の左画像
上で抽出したい特徴点として、輪郭または切り出し境界
を対応点指示部42のマウスにより指示する(S33
4)。すると、自動捜索処理部44は、右画像上の対応
点を自動で探索する(S336)。
【0057】そして、オペレータは自動捜索処理部44
にて検索された右画像上の対応点、特に奥行きが適切で
あるか、判断する(S338)。奥行きが適切でないと
きは、カーソル位置を調整して、実際の対象物の表面上
にカーソルが位置するように奥行き方向を合わせる(S
340)。奥行き方向が合ったら、例えばマウスのボタ
ンを押すこと等により確定させて、左右画像の座標を読
み込ませる(S342)。すると、境界領域設定部45
6では、読込んだ左右画像の座標を境界点並びに対応境
界点の座標として扱う。次に、抽出したい輪郭や対応境
界が完了したか判断し(S344)、未了であればS3
34に戻り次の特徴点の処理をする。
【0058】完了していれば、境界領域設定部456の
境界点並びに対応境界点の補間結線機能を用いて、左右
画像の対応点を結線して表示する(S346)。例えば
図5(B)は、対応境界を指定、結線、表示させたもの
である。そして、オペレータは立体画像表示部66を観
察して、自動捜索処理部44にて検索された右画像上の
対応点による輪郭や対応境界が適切であるか判断する
(S348)。適切であれば、有効画像領域抽出部46
が輪郭や対応境界を基準として、画像を切り取ってオー
バーラップ表示領域とする(S350)。適切でない場
合は、該当する左右画像の対応点をクリアして(S35
2)、S334に戻り、再び半自動モードで点指定処理
を繰り返す。半自動モードでの点指定処理の場合、対応
点は細かくとってもよい。さらに、結線処理をS346
の時点ではなく、S342とS344の間で対応点が指
示・確定するたびに結線していっても良い。オーバーラ
ップ表示領域が定まると、戻しとして、S122の切り
取り領域のステレオ画像表示へいく。
【0059】自動モードが選択されると、自動モードで
の処理が開始される(S360)。自動モードでは、対
応点決定の自動処理のために使ったターゲットと同じよ
うに、明確なマークを印刷もしくは作成したものを利用
する。従って、配置したマークの範囲内が有効画像領域
抽出部46による切り出し部となる。あるいは、例えば
図5(B)に示すように、自動対応点決定のために使用
したターゲットで囲まれた領域内を、オーバーラップ表
示領域としてよければ、ターゲットの位置をそのまま使
用する。オーバーラップ表示領域として、自動対応点決
定のために使用したターゲットの範囲とは別の範囲とす
る場合は、ターゲットと違うマークを配置して、ステレ
オ画像に写りこむように撮影する。この場合、配置する
マークは何点でもよく、またマークを結線した一番外側
がオーバーラップ表示領域として切り取る領域となる。
【0060】自動モードでの処理において、輪郭決定部
45はターゲットマークの画像をテンプレートとして登
録し、左右画像探索を行う。即ち、自動ターゲット検出
を行うために、配置したターゲット画像の一つを対応点
指示部42により指示し、特徴要素指定部40にテンプ
レート画像として登録する(S362)。そして、テン
プレート画像を元に、左画像、右画像それぞれターゲッ
トの位置を探索する(S364)。このターゲットの位
置を探索処理は、例えば先に説明した相互相関係数法等
を利用して自動検出させる。そして、探索されたターゲ
ット位置を表示部60上に表示する(S366)。
【0061】探索されたターゲット位置がOKであるか
判断し(S368)、OKであればS374に行く。N
Gであれば、境界領域設定部456によりターゲット位
置の修正を行う(S370)。この修正には、マニュア
ルモードあるいは半自動モードによる処理を用いる。仮
に、NGであった場合でも、ターゲットを配置してある
ので修正は容易である。そして、修正されたターゲット
位置を用いて、左右画像上での対応点を検出する(S3
72)。
【0062】次に、対応点として検出された検出点を境
界領域設定部456により結線し、表示部60に表示す
る(S374)。オペレータは有効画像領域抽出部46
による切取り部が適切か判断し(S376)、切取り部
が適切でなければ、S332へゆき、半自動モードでの
輪郭抽出処理により指定しなおす。有効画像領域抽出部
46による切取り部が適切であれば、有効画像領域抽出
部46が輪郭や対応境界により切り取ってオーバーラッ
プ表示領域とする(S378)。オーバーラップ表示領
域が定まると、戻しとして、S122の切り取り領域の
ステレオ画像表示へいく。
【0063】図3に戻り、有効画像領域抽出部46にて
抽出された輪郭もしくは境界部をオーバーラップしたス
テレオ画像として、表示部60に表示する(S12
2)。これにより、オーバーラップ表示領域は立体視が
容易な画像として表示される。従って、以下の計測作業
もオーバーラップ表示領域で行えば楽なものになる。
【0064】続いて、表示されたステレオ画像を用いて
画像計測をするか、オペレータの指示に従い(S12
4)、Yesであれば、計測位置指定を行う(S12
6)。次に、ステレオ画像における計測位置指定をする
具体的な処理過程を図8を参照して説明する。図8は、
計測位置指定処理を説明するフローチャートである。計
測位置指定処理に入ると(S400)、計測位置指定処
理としてのマニュアルモード、半自動計測モード、自動
計測モードの3モードのうち何れか一つを選択する(S
402)。
【0065】なお、計測位置指定処理の各モードにおい
て、入力データ部により入力されたデータによって、指
定された点の三次元座標値、あるいは2点間の距離等が
計測できる。ここでは、立体画像表示部66にて、立体
画像が表示されているので、それを見て、確認しながら
計測することが可能となる。更に、操作表示部64上に
左右画像別々に表示し、それを見ながら計測することも
可能であるが、立体画像表示部66にて確認しながら行
えば、さらに確実な計測が可能になる。また、対応点指
示部42の立体画像上における奥行き方向の指示は、マ
ウスについたダイヤルやダイヤル単体等により指示す
る。
【0066】マニュアルモードが選択されると、マニュ
アルモードでの計測位置指定の処理が開始される(S4
10)。ここでは、オペレータが立体画像表示部66を
見ながら操作表示部64を用いて計測点を指示する手順
を説明する。オペレータは、立体画像表示部66を見な
がら、操作表示部64で表示されている左画像につい
て、計測したい位置を特徴点として指示する(S41
2)。次に、操作表示部64で表示されている右画像に
ついて、同一点と思われる位置を特徴点として指示する
(S414)。そして、立体画像表示部66を見て、左
画像の特徴点と右画像の特徴点がカーソルの指し示す計
測したい点として、一致する特徴点の上にあるか確認す
る(S416)。このカーソルが計測したい点の位置に
は、画面の平面方向の他に、奥行き方向も含まれる。も
し違っていれば、対応点指示部42のマウスを利用して
計測したい位置を指示する(S418)。
【0067】オペレータが立体画像表示部66を見てい
ると、奥行き方向も同時に観察できるため、奥行き方向
の位置も合わせる(S420)。即ち、奥行き方向があ
っていなければカーソルが対象点より浮いたり沈んだり
して見える。この場合、奥行き方向を合わせるダイヤル
があれば、それらを利用して対象点の上にカーソル位置
を合わせることができる。このカーソル位置合わせ作業
は、実質的には、左右画像の位置あわせをしていること
と同じであるが、立体視をしながら行っているので間違
いがないのと同時に確実である。即ち、特徴が少ないと
ころでもあわせることができる。そして、左画像の特徴
点と右画像の特徴点が一致していてOKであれば、マウ
スのボタンなどにより位置確定して、座標位置を読み込
ませる(S422)。
【0068】半自動計測モードが選択されると、半自動
計測モードでの計測位置指定の処理が開始される(S4
30)。半自動計測モードでは、操作表示部64もしく
は立体画像表示部66どちらを見ながら行ってもよい。
半自動計測モードでは、特徴要素指定部40は、自動捜
索処理部44に移行する(S432)。そして、オペレ
ータは左画像上の計測点をマウスにより指示する(S4
34)。すると、自動捜索処理部44によって、左画像
上の計測点と同一計測点を右画像上で探索する(S43
6)。なお、この自動捜索処理部44による左画像上の
計測点と同一計測点を右画像上で探索することは、S2
26にて説明した内容と全く同様である。そして、右画
像の探索位置がOKか確認する(S438)。
【0069】もし右画像の探索位置が左画像上の計測点
と違っていれば、マニュアルモードと同様に対応点指示
部42のマウスを利用して計測したい位置を指示する
(S440)。この時、オペレータは立体画像表示部6
6上で奥行き方向と画像平面方向と同時に観察できるた
め、奥行き方向の位置も一致させる(S442)。そし
て、左画像の特徴点と右画像の特徴点が一致していてO
Kであれば、マウスのボタンなどにより位置確定して、
座標位置を読み込ませる(S444)。この時、操作表
示部64上には、OKであれば対応する右画像の位置に
OK表示をするとよい。また、立体画像表示部66上で
あれば、OK表示もカーソルの色、形状をかえることな
どにより確認できるが、実際にあっているかどうかも本
人の目で確認することができる。
【0070】自動計測モードが選択されると、自動計測
モードでの計測位置指定の処理が開始される(S45
0)。自動計測モードでは、指定した領域の三次元座標
値を一括して計測することが可能である。そこでまず、
計測領域はオーバーラップ部全体か判断し(S45
1)、全体であればS462へジャンプする。他方、オ
ーバーラップ部の一部であるときは、計測したい領域に
ついて指定する計測領域指定処理を行う(S452)。
即ち、計測領域の一番外側となる左右画像の境界点を指
示する。例えば、大略五角形の領域を一括計測したい場
合は、図5(B)のように対応境界となる境界点を5点
指示する。ここでは、オペレータによって指示された境
界点を黒丸で表している。そして、オペレータは境界点
の表示を参照して、左右画像の境界点を指示する点が適
切か判断し(S454)、指定した境界点を間違えた
り、気に入らなければS452に戻り指示しなおす。
【0071】左右画像の境界点の指定が適切であれば、
各指定点を結線し、立体画像表示部66に表示して計測
領域を明確にする(S456)。すると、図5(B)の
ように、立体画像表示部66の表示は対応境界となる境
界点を結線した表示となる。そして、オペレータは境界
点及び結線表示を参照して、計測領域の指定が適切であ
るかを確認する(S458)。適切でない場合は、不適
切な指定点と対応する結線をクリアして(S460)、
S452に戻り指示しなおす。計測領域の指定が適切で
あれば、計測領域として確定する(S462)。このよ
うにして、計測領域を決めれば、その領域において左右
画像の対応点が間違いなく決まっているので、確実な一
括計測が可能となる。また、一括計測において、これら
の左右画像の対応点を利用すれば、信頼性、速度ともに
あげることが可能となる。
【0072】次に、計測領域指定された領域内の対応点
に対して、自動で対応点検出を一括処理する(S46
4)。ここでは、画像相関処理により行う。例えば先に
説明した、相互相関係数法を利用して、左画像をテンプ
レート、右画像をその探索領域として各点の対応点検出
を行えばよい。なお、画像相関処理として、粗密探索相
関法やその他の画像相関処理として利用される通常の処
理方法を用いても良い。
【0073】図3にもどり、対応点の左右座標値から計
測値を演算処理部48によって算出する(S128)。
演算は、先に説明したステレオ法の原理により計算され
る。自動計測モードで、計測領域の対応点を自動検出し
た場合は、その対応点検出したすべての点について計算
する。そして、計測値を表示部60上に表示する(S1
30)。そして、S124に戻り、さらに計測を続ける
か判断し(S124)、続けるのであれば繰り返し測定
する。計測を続けない場合は、終了する。
【0074】なお、自動計測により領域を計測した場合
であれば、表示は、数値でなく鳥瞰図や等高線図等で表
示することも可能である。また、これら領域の計測値デ
ータを他のCAD(Computer Aided Design)等にわたし
て、CAD側で処理してもよい。
【0075】次に、上記の実施の形態において用いたス
テレオ画像計測における基本原理を項目毎に説明する。 1.[ステレオ法の原理] ステレオ法の原理について以下説明する。図9はステレ
オ法の原理の説明図である。図9に示すように、2台の
カメラ1、2が、光軸が平行で、カメラレンズの主点か
ら撮像面としてのCCD面までの距離aが等しく、CC
Dは光軸に直角に置かれているものとする。また、カメ
ラ1、2の間隔と等しい、2つの光軸間距離(基線長)
をlとする。
【0076】このとき、物体上の点P1(x1、y
1)、P2(x2、y2)の座標の間には、以下のよう
な関係がある。 x1=ax/z −−−(1) y1=y2=ay/z −−−(2) x2−x1=al/z −−−(3) 但し、全体の座標系(x、y、z)の原点をカメラ1の
レンズ主点にとるものとする。(3)式よりzを求め、
これを用いて(1)式、(2)式よりx、yが求められ
る。以上で、左右画像の対応点を求めれば、その位置の
三次元座標を計測することが可能となる。
【0077】2.[立体画像作成の原理] 次に立体画像作成についての原理を説明する。立体画像
作成の原理は、ステレオ法が成立するように画像を修正
すれば、立体視が可能になるということである。立体視
可能な画像とは、対象物に対して2枚の画像が平行であ
りかつ縦視差が除去されているものである。例えば、図
10に示されている画像では、左右の画像間でいくらオ
ーバーラップしている領域があっても、左右画像の縮尺
が異なり、さらに回転や縦視差があるために、人間の目
では立体視することができない。しかしながら、図11
のように左右画像の倍率をあわせ、回転を補正し縦視差
を除去すれば、人間が立体視可能な画像とすることがで
き、ステレオ法を成り立たせることができる。
【0078】ステレオ画像(ステレオモデル)は、左右
画像中に6点以上の同一の対応点を求めることにより作
成することができる。即ち、左右の画像上で6点対応す
る点の画像座標があれば、二つのカメラの相対的な位置
と傾きを求めることができるので、それにより左右画像
の縮尺、回転、縦視差を補正し、立体視可能なステレオ
画像(ステレオモデル)を作成することができる。
【0079】2.1[相互標定]相互標定は、画像中の
6点以上の対応点によりカメラの相対的な位置と傾きを
求める原理である。図12は相互標定の説明図である。
相互標定では、以下の共面条件式により各パラメータを
求める。
【数1】
【0080】図12に示すように、モデル座標系の原点
を左側の投影中心にとり、右側の投影中心を結ぶ線をX
軸にとるようにする。縮尺は、基線長を単位長さにと
る。このとき求めるパラメータは、左側のカメラのZ軸
の回転角κ1、Y軸の回転角φ1、右側のカメラのZ軸
の回転角κ2、Y軸の回転角φ2、X軸の回転角ω2の
5つの回転角となる。この場合左側のカメラのX軸の回
転角ω1は0なので、考慮する必要ない。このような条
件にすると、の共面条件式は式のようになり、この
式を解けば各パラメータが求まる。
【数2】
【0081】ここで、モデル座標系XYZとカメラ座標
系xyzの間には、次に示すような座標変換の関係式が
成り立つ。
【数3】
【0082】これらの式を用いて、次の手順により、未
知パラメータを求める。 2−:初期近似値は通常0とする。 2−:共面条件式を近似値のまわりにテーラー展開
し、線形化したときの微分係数の値を、式により求
め、観測方程式をたてる。 2−:最小二乗法をあてはめ、近似値に対する補正量
を求める。 2−:近似値を補正する。 2−:補正された近似値を用いて、2−〜2−ま
での操作を収束するまで繰り返す。
【0083】以上により、カメラの相対的な3次元位置
ならびに3軸の傾きが求まり、立体視可能なステレオ画
像(ステレオモデル)が作成できるようになる。また、
ステレオ撮影したカメラ間の距離(基線長)を入力して
やれば、実寸のステレオモデルとすることができる。さ
らに、6点のうち3点のXYZ座標を与えてやることが
できれば、実際の座標系変換し、実座標における三次元
計測が可能となる。
【0084】3.[相互相関係数法] 相互相関係数による方法では、次式を用いた以下の手順
による。
【数4】 3−:例えば、特徴要素指定部40の対応点指示部4
2により指示された特徴点となる点を中心とした、N1
×N1画素の画像をテンプレート画像として左画像から
切出す。図13は切出されたテンプレート画像の一例を
示す図である。 3−:テンプレート画像より大きい右画像中のM1×
M1画素を探索範囲(M1−N1+1)として、探索
範囲上でテンプレート画像を動かす。 3−:上式の相互相関係数C(a,b)が最大になるよう
な画像位置を求めて、テンプレート画像に対し探索され
たとみなす。完全に左画像と右画像が一致していれば、
相互相関係数値C(a,b)が1.0となる。 一般的には、標定作業により撮影カメラの位置と傾きを
求めて、その結果を用いて偏位修正画像を作成する作業
が行われる。本実施の形態においては、画像標定部30
により、偏位修正画像を作成する処理を行わせている。
【0085】
【発明の効果】以上説明したように、本発明のステレオ
画像用処理装置によれば、ステレオ画像取得部で取得さ
れた一対のステレオ画像における左画像と右画像の重複
範囲の輪郭に基づき、ステレオ画像から有効ステレオ画
像を抽出する有効画像領域抽出部と、前記有効画像領域
抽出部で抽出された有効ステレオ画像を立体視可能な画
像として表示する立体画像表示部とを備える構成として
いるので、有効画像領域抽出部により重複範囲として抽
出された範囲を立体画像表示部に表示させることがで
き、オペレータは立体視できない非オーバーラップ部を
見ることがない為、疲れることなく長時間の立体視作業
が行える。
【0086】さらに、輪郭決定部により一対のステレオ
画像を構成する一方の画像に対して、指定された境界点
を補間して指定境界線を演算し、当該補間された指定境
界線に基づき他方の画像の対応境界を演算により求める
構成とすると、オペレータは簡単な境界点の指示だけに
より立体視可能なステレオ画像領域が指定でき、ステレ
オ画像の表示が簡便に行える。
【図面の簡単な説明】
【図1】 本発明の第1の実施の形態を説明する全体構
成ブロック図である。
【図2】 デュアルディスプレイ方式の立体ディスプレ
イを説明する構成斜視図である。
【図3】 図1の装置におけるステレオ画像計測の手続
きの流れを説明するフローチャートである。
【図4】 対応点決定処理を説明するフローチャートで
ある。
【図5】 (A)はターゲットの配置の一例、(B)は
対応境界の指示及び結線の表示例を説明する図である。
【図6】 輪郭又は対応境界の抽出処理を説明するフロ
ーチャートである。
【図7】 左画像と右画像におけるオーバーラップ部と
非オーバーラップ部の説明図である。
【図8】 計測位置指定処理を説明するフローチャート
である。
【図9】 ステレオ法の原理の説明図である。
【図10】 人間の目では立体視することができない画
像の一例を示す図である。
【図11】 人間が立体視可能な画像の一例を示す図で
ある。
【図12】 相互標定の説明図である。
【図13】 切出されたテンプレート画像の一例を示す
図である。
【符号の説明】
10 ステレオ画像取得部 20 画像データ記憶部 30 画像標定部 40 特徴要素指定部 42 対応点指示部 44 自動捜索処理部 45 輪郭決定部 452 基準画像設定部 454 カーソル表示制御部 456 境界領域設定部 46 有効画像領域抽出部 60 表示部 66 立体画像表示部
───────────────────────────────────────────────────── フロントページの続き (72)発明者 青木 弘幸 東京都板橋区蓮沼町75番1号 株式会社ト プコン内 (72)発明者 山田 光晴 東京都板橋区蓮沼町75番1号 株式会社ト プコン内 (72)発明者 佐藤 宏一 東京都板橋区蓮沼町75番1号 株式会社ト プコン内 Fターム(参考) 2H088 EA07 MA01 5C061 AA02 AB04 AB18 AB20

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】 ステレオ画像取得部で取得された一対の
    ステレオ画像における左画像の輪郭と右画像の輪郭か
    ら、当該左画像及び右画像で重複して撮影されている範
    囲の輪郭を決定する輪郭決定部と;当該輪郭決定部によ
    って決定された重複範囲の輪郭に基づき、ステレオ画像
    から有効ステレオ画像を抽出する有効画像領域抽出部
    と;当該有効画像領域抽出部で抽出された有効ステレオ
    画像を立体視可能な画像として表示する表示部とを備え
    る;立体画像表示装置。
  2. 【請求項2】 前記輪郭決定部は、一対のステレオ画像
    のうち一方の画像を基準画像とし、前記ステレオ画像の
    他方の画像を従画像として設定する基準画像設定部を有
    し;前記基準画像側に設定した境界範囲に応じて、従画
    像上に前記基準画像の境界範囲に対応した対応境界領域
    を設定するように構成されている;請求項1に記載の立
    体画像表示装置。
  3. 【請求項3】 前記基準画像設定部は、オペレータの利
    き目側に対応する側の画像を基準画像とする請求項2に
    記載の立体画像表示装置。
  4. 【請求項4】 前記輪郭決定部は、前記基準画像側に基
    準カーソルを表示し、前記従画像には従属カーソルを表
    示させるカーソル表示制御部を有し;前記カーソル表示
    制御部は、前記基準画像上で移動表示される前記基準カ
    ーソルと対応する位置に、前記従属カーソルを前記従画
    像上で移動表示させるように構成されている;請求項2
    又は請求項3に記載の立体画像表示装置。
  5. 【請求項5】 前記輪郭決定部は、さらに前記基準カー
    ソルによる指示により基準画像側に境界範囲が設定され
    ると、前記基準画像側の境界範囲に応じて従画像上に対
    応境界領域を設定する境界領域設定部を有する請求項4
    に記載の立体画像表示装置。
  6. 【請求項6】 前記輪郭決定部は、前記重複範囲の決定
    にあたり、前記右画像の左端部の輪郭に対応する輪郭を
    前記左画像の輪郭に対応させ、前記左画像の右端部の輪
    郭に対応する輪郭を前記右画像の輪郭に対応させるよう
    に構成されている;請求項1乃至請求項5の何れか1項
    に記載の立体画像表示装置。
  7. 【請求項7】 前記輪郭決定部は、一対のステレオ画像
    を構成する一方の画像の指定境界が指定されると、当該
    指定境界に基づき他方の画像の対応境界を演算により求
    める請求項1乃至請求項5の何れか1項に記載の立体画
    像表示装置。
  8. 【請求項8】 前記輪郭決定部は、一対のステレオ画像
    を構成する一方の画像に対して、指定された境界点を補
    間して指定境界線を演算し、当該補間された指定境界線
    に基づき他方の画像の対応境界を演算により求める請求
    項1乃至請求項5の何れか1項に記載の立体画像表示装
    置。
  9. 【請求項9】 一対のステレオ画像における左画像の輪
    郭と右画像の輪郭から、当該左画像及び右画像で重複し
    て撮影されている範囲の輪郭を決定し;決定された重複
    範囲の輪郭に基づき、ステレオ画像から有効ステレオ画
    像を抽出し;抽出された有効ステレオ画像を立体視可能
    な画像として表示する;工程を有する立体画像表示方
    法。
JP2002077997A 2002-03-08 2002-03-20 立体画像表示装置及び方法 Expired - Fee Related JP4005395B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2002077997A JP4005395B2 (ja) 2002-03-20 2002-03-20 立体画像表示装置及び方法
DE60316738T DE60316738T2 (de) 2002-03-08 2003-03-07 Vorrichtung und Verfahren zur stereoskopischen Bildwiedergabe
DE60332353T DE60332353D1 (de) 2002-03-08 2003-03-07 Vorrichtung und Verfahren zur stereoskopischen Bildwiedergabe
EP03004930A EP1343334B1 (en) 2002-03-08 2003-03-07 Device and method for displaying stereo image
AT05004317T ATE466454T1 (de) 2002-03-08 2003-03-07 Vorrichtung und verfahren zur stereoskopischen bildwiedergabe
EP05004317A EP1534021B1 (en) 2002-03-08 2003-03-07 Device and method for displaying stereo image
AT03004930T ATE375687T1 (de) 2002-03-08 2003-03-07 Vorrichtung und verfahren zur stereoskopischen bildwiedergabe
US10/383,260 US7193626B2 (en) 2002-03-08 2003-03-07 Device and method for displaying stereo image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002077997A JP4005395B2 (ja) 2002-03-20 2002-03-20 立体画像表示装置及び方法

Publications (2)

Publication Number Publication Date
JP2003284098A true JP2003284098A (ja) 2003-10-03
JP4005395B2 JP4005395B2 (ja) 2007-11-07

Family

ID=29228196

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002077997A Expired - Fee Related JP4005395B2 (ja) 2002-03-08 2002-03-20 立体画像表示装置及び方法

Country Status (1)

Country Link
JP (1) JP4005395B2 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006079521A (ja) * 2004-09-13 2006-03-23 Tobishima Corp 正射投影画像の形成システム
JP2006121229A (ja) * 2004-10-19 2006-05-11 Fuji Photo Film Co Ltd ステレオカメラ
JP2007101276A (ja) * 2005-09-30 2007-04-19 Topcon Corp 三次元計測用投影装置及びシステム
JP2008154950A (ja) * 2006-12-26 2008-07-10 Topcon Corp 眼底画像処理装置、眼底撮影装置及びプログラム
JP2009213519A (ja) * 2008-03-07 2009-09-24 Kowa Co 画像処理方法および画像処理装置
US7746377B2 (en) 2003-11-28 2010-06-29 Topcon Corporation Three-dimensional image display apparatus and method
JP2011120233A (ja) * 2009-11-09 2011-06-16 Panasonic Corp 3d映像特殊効果装置、3d映像特殊効果方法、および、3d映像特殊効果プログラム
JP2012059042A (ja) * 2010-09-09 2012-03-22 Mega Chips Corp 3次元画像生成装置
US8218857B2 (en) 2007-12-05 2012-07-10 Topcon Corporation Color-coded target, color code extracting device, and three-dimensional measuring system
JP2012213605A (ja) * 2011-03-31 2012-11-08 Fujifilm Corp 立体視表示装置
JP2013501255A (ja) * 2009-08-03 2013-01-10 ヒューマンアイズ テクノロジーズ リミテッド 再構成3d画像の印刷を表示する方法およびシステム
WO2013168736A1 (ja) * 2012-05-09 2013-11-14 Necカシオモバイルコミュニケーションズ株式会社 立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム
US8854684B2 (en) 2010-01-14 2014-10-07 Humaneyes Technologies Ltd. Lenticular image articles and method and apparatus of reducing banding artifacts in lenticular image articles
JP2019144154A (ja) * 2018-02-22 2019-08-29 株式会社スペースビジョン 三次元計測装置

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7746377B2 (en) 2003-11-28 2010-06-29 Topcon Corporation Three-dimensional image display apparatus and method
JP2006079521A (ja) * 2004-09-13 2006-03-23 Tobishima Corp 正射投影画像の形成システム
JP2006121229A (ja) * 2004-10-19 2006-05-11 Fuji Photo Film Co Ltd ステレオカメラ
JP2007101276A (ja) * 2005-09-30 2007-04-19 Topcon Corp 三次元計測用投影装置及びシステム
JP2008154950A (ja) * 2006-12-26 2008-07-10 Topcon Corp 眼底画像処理装置、眼底撮影装置及びプログラム
US8218857B2 (en) 2007-12-05 2012-07-10 Topcon Corporation Color-coded target, color code extracting device, and three-dimensional measuring system
JP2009213519A (ja) * 2008-03-07 2009-09-24 Kowa Co 画像処理方法および画像処理装置
JP2013501255A (ja) * 2009-08-03 2013-01-10 ヒューマンアイズ テクノロジーズ リミテッド 再構成3d画像の印刷を表示する方法およびシステム
JP2011120233A (ja) * 2009-11-09 2011-06-16 Panasonic Corp 3d映像特殊効果装置、3d映像特殊効果方法、および、3d映像特殊効果プログラム
US8854684B2 (en) 2010-01-14 2014-10-07 Humaneyes Technologies Ltd. Lenticular image articles and method and apparatus of reducing banding artifacts in lenticular image articles
US8953871B2 (en) 2010-01-14 2015-02-10 Humaneyes Technologies Ltd. Method and system for adjusting depth values of objects in a three dimensional (3D) display
US9071714B2 (en) 2010-01-14 2015-06-30 Humaneyes Technologies Ltd. Lenticular image articles and method and apparatus of reducing banding artifacts in lenticular image articles
US9438759B2 (en) 2010-01-14 2016-09-06 Humaneyes Technologies Ltd. Method and system for adjusting depth values of objects in a three dimensional (3D) display
JP2012059042A (ja) * 2010-09-09 2012-03-22 Mega Chips Corp 3次元画像生成装置
JP2012213605A (ja) * 2011-03-31 2012-11-08 Fujifilm Corp 立体視表示装置
WO2013168736A1 (ja) * 2012-05-09 2013-11-14 Necカシオモバイルコミュニケーションズ株式会社 立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム
JPWO2013168736A1 (ja) * 2012-05-09 2016-01-07 日本電気株式会社 立体画像表示装置、そのカーソル表示方法及びコンピュータプログラム
US9594436B2 (en) 2012-05-09 2017-03-14 Nec Corporation Three-dimensional image display device, cursor display method therefor, and computer program
JP2019144154A (ja) * 2018-02-22 2019-08-29 株式会社スペースビジョン 三次元計測装置

Also Published As

Publication number Publication date
JP4005395B2 (ja) 2007-11-07

Similar Documents

Publication Publication Date Title
EP1343334B1 (en) Device and method for displaying stereo image
US11223820B2 (en) Augmented reality displays with active alignment and corresponding methods
US10869024B2 (en) Augmented reality displays with active alignment and corresponding methods
JP4979928B2 (ja) 三次元形状演算装置及び三次元形状演算方法
CN106846415B (zh) 一种多路鱼眼相机双目标定装置及方法
JP4147059B2 (ja) キャリブレーション用データ測定装置、測定方法及び測定プログラム、並びにコンピュータ読取可能な記録媒体、画像データ処理装置
US6276799B1 (en) Stereo optic disc analyzer
JP7379704B2 (ja) 視覚化カメラ及び光学コヒーレンストモグラフィを統合するシステム及び方法
US6628820B2 (en) Image forming method and apparatus
JP4005395B2 (ja) 立体画像表示装置及び方法
JP4593730B2 (ja) ステレオ画像の測定装置
JP4306006B2 (ja) 3次元データ入力方法及び装置
JP7404534B2 (ja) 一体化された視覚化カメラ及び光学コヒーレンストモグラフィを用いた外科的応用
JP2002232913A (ja) 複眼カメラ及び立体視画像観察システム
JP4166993B2 (ja) 立体画像表示装置及び方法
JPH08147497A (ja) 画像処理方法及びその装置
JP2006017632A (ja) 3次元画像処理装置、光軸調整方法、光軸調整支援方法
JP4221808B2 (ja) 3次元データ入力方法及び装置
AU767947B2 (en) Stereo display with colour matching and positional registering
JP2006033294A (ja) 画像処理装置
JPH07274063A (ja) 画像処理方法及びその装置
AU744773C (en) Stereo optic disc analyser
JP2020140519A (ja) 画像生成装置およびその制御方法
WO2014175217A1 (ja) 図化システム、図化方法及びプログラム
JP2006017633A (ja) ステレオ写真解析機

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050304

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070507

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070515

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070807

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070823

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100831

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110831

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110831

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120831

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120831

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130831

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees