JP2003016477A - 3次元画像情報生成装置、3次元画像情報生成方法並びに3次元画像情報生成プログラム - Google Patents

3次元画像情報生成装置、3次元画像情報生成方法並びに3次元画像情報生成プログラム

Info

Publication number
JP2003016477A
JP2003016477A JP2001200143A JP2001200143A JP2003016477A JP 2003016477 A JP2003016477 A JP 2003016477A JP 2001200143 A JP2001200143 A JP 2001200143A JP 2001200143 A JP2001200143 A JP 2001200143A JP 2003016477 A JP2003016477 A JP 2003016477A
Authority
JP
Japan
Prior art keywords
image
information
dimensional
processing
dimensional image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001200143A
Other languages
English (en)
Other versions
JP4740481B2 (ja
Inventor
Kazuhiko Takahashi
和彦 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP2001200143A priority Critical patent/JP4740481B2/ja
Publication of JP2003016477A publication Critical patent/JP2003016477A/ja
Application granted granted Critical
Publication of JP4740481B2 publication Critical patent/JP4740481B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Image Generation (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】画像変換処理の回数を減らしてステレオマッチ
ングを行う際の計算量を減らすことができる3次元画像
情報生成装置を提供する。 【解決手段】撮像対象を撮像した画像に基づいて撮像対
象の3次元情報を取得し、撮像対象の3次元画像情報を
生成する3次元画像情報生成装置であって、少なくとも
1枚のカラー画像を含み、複数視点から撮像対象を撮像
した画像を入力するステレオ撮像系1と、カラー画像の
輝度情報を抽出し、輝度情報に前処理を行ない、前処理
された画像から3次元情報を取得し、3次元情報に前処
理の効果を補償する処理を行ない、補償処理された3次
元情報にカラー画像をテクスチャとして貼付して3次元
画像を生成する計算装置12とを具備する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、3次元画像情報生
成装置、3次元画像情報生成方法並びに3次元画像情報
生成プログラムに関する。
【0002】
【従来の技術】従来、ステレオ撮像系により取得したス
テレオ画像に基いて3次元情報を獲得する場合、1つの
基準となる画像上の点がその他の画像上のどの点に対応
しているかを対応点探索によって認識し、そのずれ(以
下、視差)量と複数の撮像系の視点位置、視線方向から
三角測量の原理によって対応した点までの距離情報を得
ている。これは複数の視点からの画像を獲得し、各視点
の位置関係と各画像の見え方の違いから3次元情報を得
るというものである。
【0003】ここで、「ステレオ撮像系」とは、複数の
視点からの撮像系を意味している。さらに1台の撮影装
置からステレオコンバータ等を用いて複数視点の画像を
得る物や、複数の撮像装置を使用したものも含む。ま
た、「ステレオ撮像系によって得られたステレオ画像」
とは複数視点からの画像を意味する。複数の撮像装置か
らの複数の画像だけでなく、1枚の画像の中に複数の視
点の画像が埋め込まれているものも含む。
【0004】例えば図8で示すように、複数(この場合
カメラ100,101)の視点からステレオ画像2−
1,2−2を獲得し、その中の1枚を基準画像3とする
(ここではステレオ画像2−1)。次に被撮影物4上の
点Aの、基準画像3座標上での位置と、ステレオ画像2
−2座標上での位置の差(以下、視差)の量と視点位置
と視線方向から三角測量の原理に基づいて被撮影物4上
の点Aまでの距離が算出できる。
【0005】従来、ステレオ画像により3次元情報の取
得を行う場合、1つの基準となる画像上の点がその他の
画像上のどの点に対応しているかを対応点探索によって
認識する。例えば特開平6−215111号公報にこの
ような手法の一例が開示されている。
【0006】図9は、ステレオ撮像系で得た画像から3
次元画像を生成する手順を説明するための図である。
【0007】複数台(ここでは2台)のカメラで構成さ
れるステレオ撮像系1(テクスチャ貼り付けの為少なく
とも1台のカメラはカラーカメラ)によって撮像された
ステレオ画像2−1,2−2を取得して格納する。ここ
ではステレオ画像2−1を基準画像3とする(ステップ
S1)。次に、前処理として、ステレオマッチングを簡
易に行うためにレンズ歪み(レンズディストーション)
の除去と平行投影(レクティフィケーション)を行い歪
みを除去した画像5−1,5−2を生成する(ステップ
S2)。このうち基準画像3の歪みが除去された画像を
歪み除去基準画像6とする。
【0008】次にカラー画像5−1,5−2をそれぞれ
モノクロ画像7−1,7−2に変換する(ステップS
3)。次にモノクロ画像7−1,7−2に対してステレ
オマッチングを行い距離画像7を取得して収納する(ス
テップS4)。次に距離画像7の3次元情報にステップ
S2−1で取得した歪み除去基準画像6をテクスチャと
して貼り付ける(ステップS5)。
【0009】この際、各処理に必要な処理時間は装置構
成や、レンズディストーション除去及びレクティフィケ
ーション処理(ステップS2)、ステレオマッチング
(ステップS4)の各アルゴリズムによって異なる。出
願人の実験によればステップS2やステップS4の処理
に少なからぬ時間を要することがわかっており、特にカ
ラー画像に対してステップS2の処理を行なう場合はモ
ノクロ画像と比較して3倍の時間を要する。したがって
システムの高速化を図るためにはステップS2の計算量
削減が非常に重要な課題となる。
【0010】図10はレクティフィケーション処理につ
いて説明するための図である。ここで言うレクティフィ
ケーションとは、カメラ100,101からなる撮像系
1により被撮影物4を撮像して得られたステレオ画像2
−1,2−2を同一平面に平行投影することによりレク
ティフィケーション処理した画像5を得ることである。
【0011】図11(A)〜(D)はレンズディストー
ション除去について説明するための図である。レンズデ
ィストーション除去とは、ピンホールレンズを仮定した
場合には存在しない画像の歪みを除去することである。
まずステレオ撮像系により本来の画像(図11(A))
を撮像すると、ステレオ撮像系のレンズによる歪みを含
んだ画像(図11(B)、(C))が得られる。この画
像に対してレンズディストーション除去による画像変形
を行なってもとの画像を得る(図11(D))。
【0012】これらの処理を行う事によってステレオマ
ッチングを行う際に対応点の存在し得る領域はステレオ
画像上の直線上(エピポーラライン)に限定される。こ
のことによって対応点探索が容易になる。
【0013】形状の絶対値が決まっている画像を撮影
し、画像変形(レンズディストーション除去やレクティ
フィケーション)のパラメータを決定し、そのパラメー
タに従って画像を変形させる等の手法がある。
【0014】
【発明が解決しようとする課題】しかしながら、レクテ
ィフィケーションやレンズディストーション等の画像変
形処理は非常に計算量の多い作業であり、高速な処理を
行なう場合の妨げになっていた。
【0015】本発明はこのような課題に着目してなされ
たものであり、その目的とするところは、画像変換処理
の回数を減らしてステレオマッチングを行う際の計算量
を減らすことができる3次元画像情報生成装置、3次元
画像情報生成方法並びに3次元画像情報生成プログラム
を提供することにある。
【0016】
【課題を解決するための手段】上記の目的を達成するた
めに、第1の発明は、撮像対象を撮像した画像に基づい
て撮像対象の3次元情報を取得し、前記撮像対象の3次
元画像情報を生成する3次元画像情報生成装置であっ
て、少なくとも1枚のカラー画像を含み、複数視点から
撮像対象を撮像した画像を入力する入力手段(ステレオ
撮像系)と、前記カラー画像の輝度情報を抽出する抽出
手段(モノクロ化、グレースケール画像化手段)と、前
記抽出手段により抽出された輝度情報に前処理(レンズ
ディストーション処理、レクティフィケーション処理)
行う前処理手段と、前記前処理手段により処理された画
像から3次元情報を取得する3次元情報取得手段(ステ
レオマッチング手段)と、前記3次元情報に、前記前処
理の効果を補償する処理を行う補償処理手段(逆レンズ
ディストーション処理、逆レクティフィケーション処
理、または拡大縮小、平行移動処理)と、前記補償処理
された3次元情報に前記カラー画像をテクスチャとして
貼付して3次元画像を生成する3次元画像生成手段とを
具備する。
【0017】また、第2の発明は、第1の発明に係る3
次元画像情報生成装置において、前記補償処理手段は、
前記前処理の逆変換処理を行う。
【0018】また、第3の発明は、第1の発明に係る3
次元画像情報生成装置において、前記補償処理手段は、
前記前処理結果を打ち消すように拡縮処理および平行移
動処理、あるいはその一方を行う。
【0019】また、第4の発明は、撮像対象を撮像した
画像に基づいて撮像対象の3次元情報を取得し、前記撮
像対象の3次元画像情報を生成する3次元画像情報生成
方法であって、少なくとも1枚のカラー画像を含み、複
数視点から撮像対象を撮像した画像を入力し、前記カラ
ー画像の輝度情報を抽出し、前記抽出した輝度情報に前
処理を行い、前記前処理により処理された画像から3次
元情報を取得し、前記取得した3次元情報に、前記前処
理の効果を補償する処理を行い、前記補償処理された3
次元情報に前記カラー画像をテクスチャとして貼付して
3次元画像を生成する。
【0020】また、第5の発明は、第4の発明に係る3
次元画像情報生成方法において、前記補償処理は、前記
前処理の逆変換処理である。
【0021】また、第6の発明は、第4の発明に係る3
次元画像情報生成方法において、前記補償処理は、前記
前処理結果を打ち消す拡縮処理および平行移動処理、あ
るいはその一方である。
【0022】また、第7の発明は、コンピュータによっ
て撮像対象を撮像した画像に基づいて撮像対象の3次元
情報を取得し、前記撮像対象の3次元画像情報を生成す
る3次元画像情報生成プログラムであって、少なくとも
1枚のカラー画像を含み、複数視点から撮像対象を撮像
した画像を入力する入力ステップと、前記カラー画像の
輝度情報を抽出する抽出ステップと、前記抽出した輝度
情報に前処理を行う前処理ステップと、前記前処理ステ
ップにより処理された画像から3次元情報を取得する3
次元情報取得ステップと、前記取得した3次元情報に、
前記前処理の効果を補償する処理を行う補償処理ステッ
プと、前記補償処理された3次元情報に前記カラー画像
をテクスチャとして貼付して3次元画像を生成する3次
元画像生成ステップとを実行する。
【0023】また、第8の発明は、第7の発明に係る3
次元画像情報生成プログラムにおいて、前記補償処理ス
テップは、前記前処理の逆変換処理を実行する。
【0024】また、第9の発明は、第7の発明に係る3
次元画像情報生成プログラムにおいて、前記補償処理ス
テップは、前記前処理結果を打ち消す拡縮処理および平
行移動処理、あるいはその一方を実行する。
【0025】
【発明の実施の形態】以下、図面を参照して本発明の実
施形態を詳細に説明する。
【0026】(第1実施形態)図1は、本発明の3次元
画像情報生成装置の概略構成を示すブロック図であり、
記憶装置10を備えた計算装置12と、これに接続され
た入力手段としてのステレオ撮像系1と、表示装置11
とから構成される。ステレオ撮像系1の構成は図8と同
様であり、レクティフィケーション処理では図10の構
成を用い、レンズディストーション除去では図11の構
成を用いる。また、図2、図3は3次元画像情報生成の
手順を説明するためのフローチャートである。
【0027】図8に示すカラーカメラ100とモノクロ
カメラ101によって構成されるステレオ撮像系1によ
って被撮影物4を撮影してステレオ画像2−1,2−2
(図3の(A))を取得して記憶装置10に格納する
(ステップS1)。ここではカラーカメラ100によっ
て撮影されたステレオ画像2−1を基準画像3とする。
次に計算装置12はこの基準画像3をモノクロ化してモ
ノクロ画像7(図3の(B))を取得する(ステップS
3)。
【0028】次にモノクロ画像7及びステレオ画像2−
2に対する前処理としてレクティフィケーション処理及
び/又はレンズディストーション処理を行い(ステップ
S2’、図3の(C))、歪みを除去したステレオ画像
5−1,5−2を生成して記憶装置10に格納する。
【0029】次に計算装置12は歪みが除去されたステ
レオ画像5−1,5−2にステレオマッチング処理を行
い被撮影物4に関する3次元情報としての距離画像8
(図3の(D))を取得して、これを記憶装置10に格
納する(ステップS4)。次に計算装置12は、距離画
像8に対してステップ2’で行ったレクティフィケーシ
ョン及び/又はレンズディストーション処理の逆変換処
理(補償処理)を行い距離画像9(図3の(E))を生
成して記憶装置10に格納する(ステップS2”)。計
算装置12は距離画像9から得られる3次元情報にステ
ップS1で取得した基準画像3をテクスチャとして貼り
付けて(ステップS5)表示装置11に表示する(図3
の(F))。
【0030】図6(A)、(B)は、上記した第1実施
形態の効果を従来例と比較して示す図である。この例で
はカラーカメラ4台、モノクロカメラ4台からなるステ
レオ撮像系を想定している。
【0031】図6(A)、(B)において、S2、S
2’、S2”、S3、S4は図2及び図8に示す各ステ
ップを意味する。3Aはカラー画像を前処理するのに要
する時間、Aはモノクロ画像を前処理するのに要する時
間、Bはカラー画像をモノクロ画像に変換するのに要す
る時間、Cはステレオマッチング処理に要する時間であ
る。
【0032】ステップS3、S4を実行するのに要する
時間は本発明と従来例とで同じである。また、図示して
いないが、ステップS1、S5を実行するのに要する時
間も本発明と従来例とで同じである。
【0033】一方、カラーカメラ4台、モノクロカメラ
4台の場合、従来方式によりステップS2を実行するの
に要する時間は、3A×4+A×4=16Aであるが、
本発明の方式によりステップS2’、S2”を実行する
のに要する時間はA×4+A×4+A=9Aである。
【0034】このことをカラーカメラをx台、モノクロ
カメラをy台に一般化して両者を比較してみる。
【0035】カラーカメラの台数:x モノクロカメラの台数:y モノクロ画像1枚当たりの歪み除去処理時間:A カラー画像1枚当たりのモノクロ変換処理時間:B ステレオマッチング処理時間:C とすると、従来例では、 3Ax+Ay+Bx+C=A(3x+y)+Bx+C 本発明の場合 Bx+A(x+y)+C+A=A(x+y+1)+Bx
+C となり、その差はA(2x−1)である。
【0036】この結果から明らかなように、カラーカメ
ラの台数が多いほど、かつ歪み除去処理時間が大きいほ
ど本発明と従来との差が大きくなることがわかる。
【0037】A,B,Cの値は使用する計算装置とアル
ゴリズムによって大きく変化するが、例えば出願人によ
る実験システム(CPU:Pentium III-733 RAM:256M)
では、 カラーカメラ4台(x=4)、 モノクロカメラ4台(y=4) モノクロ画像サイズ(640×800×8) カラー画像サイズ(640×800×24) モノクロ画像1枚当たりの歪み除去処理時間A=2.5
秒 カラー画像1枚当たりのモノクロ変換処理時間B=0.
005秒 ステレオマッチング処理時間 C=20秒 であり、従来例で A(3x+y)+Bx+C=2.5×(12+4)+(0.005×
4)+20=60.02秒 本発明で A(x+y+1)+Bx+C=2.5×(4+4+1)+(0.005
×4)+20=42.52秒 となり30%の高速化になる。
【0038】なお、この発明の実施の形態の各構成は当
然各種の変形、変更が可能である。例えばカメラの台数
は上記したように任意で良く、テクスチャは基準画像3
からだけでなく、その他の複数のステレオ画像2から合
成しても良い。また、ステレオ撮像系1と計算装置12
はオンラインで接続されている必要はなく、オフライン
で画像を送っても良い。また、処理の途中で生成される
距離画像等はデータとして存在すれば良く必ずしも画像
として存在する必要はない。
【0039】(第2実施形態)以下に図4及び図5を参
照して本発明の第2実施形態を説明する。第2実施形態
に係る3次元画像情報生成装置の構成は、前記した第1
実施形態と同様に、図1及び前記した図8,図10,図
11である。
【0040】図8に示すカラーカメラ100とモノクロ
カメラ101によって構成されるステレオ撮像系1によ
って撮影された被撮影物4を撮影してステレオ画像2−
1,2−2(図5の(A))を取得して記憶装置10に
格納する(ステップS1)。ここではカラーカメラ10
0によって撮影されたステレオ画像2−1を基準画像3
とする。次に計算装置9はこの基準画像3をモノクロ化
してモノクロ画像7(図5の(B))を取得する(ステ
ップS3)。
【0041】次にモノクロ画像7及びステレオ画像2−
2に対する前処理としてレクティフィケーション処理及
び/又はレンズディストーション処理を行い(ステップ
S2’、図5の(C))、歪みを除去したステレオ画像
5−1、5−2を生成して記憶装置10に格納する。
【0042】次に計算装置12はステレオ画像5−1,
5−2にステレオマッチング処理を行い被撮影物4に関
する3次元情報としての距離画像8(図5の(D))を
生成して記憶装置10に格納する(ステップS4)。次
に計算装置12は距離画像8に対して前もって格納され
ている値で拡大縮小及び平行移動処理(補償処理)を行
い距離画像9(図5の(E))を生成して記憶装置10
に格納する(ステップS6)。次に計算装置9は距離画
像9から得られる3次元形状情報にステップS1で取得
した基準画像3をテクスチャとして貼り付けて(ステッ
プS5)画像(図5の(F))を表示装置11に表示す
る。
【0043】以下にステップS6で説明した拡大縮小及
び平行移動処理で用いられる拡大率と平行移動量の決定
方法について説明する。通常、レンズディストーション
(歪み)は光軸から離れるほど大きくなる。歪みの少な
いレンズで撮像された画像であってもステレオマッチン
グをするには歪み除去処理が必須であるが、人間が画像
として鑑賞するためであれば歪み除去処理を行わなくと
も実用に耐えることができる(ホームビデオの撮影や鑑
賞など)。
【0044】このような考えのもとに本実施形態では、
既に取得した3次元情報に貼り付けるテクスチャ画像に
対する歪み除去を省略することで計算量を削減する方法
を図7を参照して説明する。
【0045】1.前もって形状の既知な物(あるパター
ンを記載したボード等が好ましい)を撮像し、その画像
(歪み有り)13と既知な形状の関係から画面上の歪み
量を獲得する。
【0046】2.ある許容量e1を設定し歪み量が許容
量e1以下の領域15を処理対象とする。この場合は矩
形領域を抽出する。
【0047】3.画像13に対して歪み除去を行った画
像14を用意する。
【0048】4.歪み有り画像13の領域15と歪み除
去画像14の領域15の差が最小になる画像13の拡大
率と平行移動量を探索する。
【0049】探索された拡大率と平行移動量を使用して
領域15に対して図4及び図5の処理を行う。
【0050】このような方法によれば、複雑な歪み除去
を行う必要がなくなる。レンズディストーションの大き
さと許容量e1の値によっては処理を行わずに(拡大率
1、平行移動0)貼り付けることが可能である。しかし
この方法により正確な画像が提供されるわけではなく、
かつ画像中央(殆どの場合光軸)から離れたところに撮
像されているものに対しては適用できない。
【0051】なお、この発明の実施の形態の各構成は当
然各種の変形、変更が可能である。
【0052】例えばカメラの台数は任意で良く、テクス
チャは基準画像3からだけでなく、その他の複数のステ
レオ画像2から合成しても良い。また、ステレオ撮像系
1と計算装置12はオンラインで接続されている必要は
なく、オフラインで画像を送っても良い。また、処理の
途中で生成される距離画像等はデータとして存在すれば
良く必ずしも画像として存在する必要はない。
【0053】上記した第2実施形態における処理時間を
計算すると以下のようになる。
【0054】カラーカメラの台数:x モノクロカメラの台数:y モノクロ画像1枚当たりの歪み除去処理時間:A カラー画像1枚当たりのモノクロ変換処理時間:B ステレオマッチング処理時間:C 画像1枚当たりの縮小及び平行移動処理時間:D とすると、 Bx+A(x+y)+C+D で求めることができる。ここでAとDの処理時間は同じ
オーダである。
【0055】(付記) 1. ステレオ撮像系によって得られた複数視点からの
画像に対してステレオマッチングを行う事によって被撮
影物の立体情報を取得する方法において、各画像の持っ
ている情報量を減らした後、各画像に対する変換処理を
行い、その後、変換後の複数の画像に対してステレオマ
ッチング処理を行う事で距離情報を獲得し、その獲得し
た距離情報に対して前記変換処理に対する逆変換処理を
行い元の画像に適用する事を特徴とするステレオ画像か
らの3次元画像情報生成方法。
【0056】(対応する発明の実施の形態)この発明に
関する実施の形態は上記した第1及び第2実施形態が対
応する。
【0057】(作用)ステレオ撮像系1によって得られ
た被撮影物4の複数の画像2−1,2−2に対して、そ
の中の1枚の画像を基準画像3とする。(例えば左右ス
テレオ画像ならば左画像等)(図8) 複数の画像2−1,2−2に対して情報量の削減(カラ
ー画像のモノクロ化、フィルタ処理等)を行う。その
後、情報量を減らした画像2−1,2−2をステレオマ
ッチングを行うのに適した形に変形させた複数の画像5
−1,5−2を生成する。画像5−1、5−2に対して
ステレオマッチング処理を行い被撮影物4に対する距離
情報を獲得し、距離画像8を生成する。
【0058】距離画像8に対して前記変換処理に対する
逆変換処理を行い距離画像9を生成する。
【0059】距離画像9を3次元情報とし、画像2−1
(基準画像3)をテクスチャとして貼り付ける(図3、
図5)。
【0060】(効果)情報量の削減を行う前の画像2に
対してステレオマッチングを行うのに適した形に画像変
形させる必要がなく、情報量の削減を行った後に画像変
形を行う為、必要とされる計算量が削減される。
【0061】2. 少なくとも1つはカラー撮像系を含
むステレオ撮像系によって得られた複数視点からの画像
に対してステレオマッチングを行う事によって被撮影物
の立体情報を取得する方法において、カラー撮像系によ
って撮影された画像はグレー画像に変換した後、各画像
に対して画像歪みを修正する変換処理を行い、その後、
変換後の複数の画像に対してステレオマッチング処理を
行う事で距離情報を獲得し、その獲得した距離情報に対
して前記変換処理に対する逆変換処理を行い元のカラー
画像に対する距離情報として使用する事を特徴とするス
テレオ画像からの3次元画像情報生成方法。
【0062】(対応する発明の実施の形態)この発明に
関する実施の形態は第1の実施の形態が対応する。
【0063】(作用)ステレオ撮像系1によって得られ
た被撮影物4の複数の画像2−1,2−2(少なくとも
1つはカラー画像)に対して、その中の1枚のカラー画
像(ここでは2−1)を基準画像3とする。(例えば左
右ステレオ画像ならば左画像等)(図8) 複数の画像2−1,2−2の中でカラー画像2−1に関
してモノクロ化してモノクロ画像7に変換する。
【0064】モノクロ画像7,2−2に対してレクティ
フィケーション及び/又はレンズディストーション処理
を行い複数の画像5−1,5−2を生成する。複数の画
像5−1,5−2に対してステレオマッチング処理を行
い被撮影物4に対する距離情報を獲得し、距離画像8を
生成する。
【0065】距離画像8に対して前記変換処理(レクテ
ィフィケーション及びレンズディストーション)に対す
る逆変換処理を行い距離画像9を生成する。
【0066】距離画像9を3次元情報とし、カラー情報
を持った画像2−1(基準画像3)をテクスチャとして
貼り付ける。(図2) (効果)カラー画像に対してレクティフィケーション及
び/又はレンズディストーション処理を行う必要が無い
為、必要とされる計算量が削減される。
【0067】3. 少なくとも1つはカラー撮像系を含
むステレオ撮像系によって得られた複数視点からの画像
に対してステレオマッチングを行う事によって被撮影物
の立体情報を取得する方法において、カラー撮像系によ
って撮影された画像をグレー画像に変換した後、各画像
に対して画像歪みを修正する変換処理を行い、その後、
変換後の複数の画像に対してステレオマッチング処理を
行う事で距離情報を獲得し、その獲得した距離情報に対
してスケール変換及び又は平行移動を行い元のカラー画
像に対する距離情報として使用する事を特徴とする3次
元画像情報生成方法。
【0068】(対応する発明の実施の形態)この発明に
関する実施の形態は第2実施形態が対応する。
【0069】(作用)ステレオ撮像系1によって得られ
た被撮影物4の複数の画像2−1,2−2(少なくとも
1つはカラー画像)に対して、その中の1枚(ここでは
2−1)のカラー画像を基準画像3とする。(例えば左
右ステレオ画像ならば左画像等)(図8) 複数の画像2−1,2−2の中でカラー画像2−1に関
してモノクロ化してモノクロ画像7に変換する。
【0070】モノクロ画像7,2−2に対してレクティ
フィケーション及び/又はレンズディストーション処理
を行い複数の画像5−1,5−2を生成する。
【0071】複数の画像5−1,5−2に対してステレ
オマッチング処理を行い被撮影物4に対する距離情報を
獲得し、距離画像8を生成する。
【0072】距離画像8に対してスケール変換及び又は
平行移動処理を行い距離画像9を生成する。
【0073】距離画像9を3次元情報とし、カラー情報
を持った画像2−1(基準画像3)をテクスチャとして
貼り付ける。
【0074】(効果)カラー画像に対してレクティフィ
ケーション及び/又はレンズディストーション処理を行
う必要が無い為、必要とされる計算量が削減される。
【0075】4. ステレオ撮像系によって得られた複
数視点からの画像に対してステレオマッチングを行う事
によって被撮影物の立体情報を取得する装置において、
各画像の持っている情報量を減らした後、各画像に対す
る変換処理を行い、その後、変換後の複数の画像に対し
てステレオマッチング処理を行う事で距離情報を獲得
し、その獲得した距離情報に対し変換処理を行い元の画
像に適用する事を特徴とする3次元画像情報生成装置。
【0076】5.少なくとも1つはカラー撮像系を含む
ステレオ撮像系によって得られた複数視点からの画像に
対してステレオマッチングを行う事によって被撮影物の
立体情報を取得する装置において、カラー撮像系によっ
て撮影された画像はグレー画像に変換した後、各画像に
対して画像歪みを修正する変換処理を行い、その後、変
換後の複数の画像に対してステレオマッチング処理を行
う事で距離情報を獲得し、その獲得した距離情報に対し
て前記変換処理に対する逆変換処理を行い元のカラー画
像に対する距離情報として使用する事を特徴とする3次
元画像情報生成装置。
【0077】6. 少なくとも1つはカラー撮像系を含
むステレオ撮像系によって得られた複数視点からの画像
に対してステレオマッチングを行う事によって被撮影物
の立体情報を取得する装置において、カラー撮像系によ
って撮影された画像をグレー画像に変換した後、各画像
に対して画像歪みを修正する変換処理を行い、その後、
変換後の複数の画像に対してステレオマッチング処理を
行う事で距離情報を獲得し、その獲得した距離情報に対
してスケール変換及び又は平行移動を行い元のカラー画
像に対する距離情報として使用する事を特徴とする3次
元画像情報生成装置。
【0078】7. ステレオ撮像系によって得られた複
数視点からの画像に対してステレオマッチングを行う事
によって被撮影物の立体情報を取得するプログラムにお
いて、各画像の持っている情報量を減らした後、各画像
に対する変換処理を行い、その後、変換後の複数の画像
に対してステレオマッチング処理を行う事で距離情報を
獲得し、その獲得した距離情報に対して変換処理を行い
元の画像に適用する事を特徴とする3次元画像情報生成
プログラム。
【0079】8. 少なくとも1つはカラー撮像系を含
むステレオ撮像系によって得られた複数視点からの画像
に対してステレオマッチングを行う事によって被撮影物
の立体情報を取得するプログラムにおいて、カラー撮像
系によって撮影された画像をグレー画像に変換した後、
各画像に対して画像歪みを修正する変換処理を行い、そ
の後、変換後の複数の画像に対してステレオマッチング
処理を行う事で距離情報を獲得し、その獲得した距離情
報に対して前記変換処理に対する逆変換処理を行い元の
カラー画像に対する距離情報として使用する事を特徴と
する3次元画像情報生成プログラム。
【0080】9. 少なくとも1つはカラー撮像系を含
むステレオ撮像系によって得られた複数視点からの画像
に対してステレオマッチングを行う事によって被撮影物
の立体情報を取得するプログラムにおいて、カラー撮像
系によって撮影された画像をグレー画像に変換した後、
各画像に対して画像歪みを修正する変換処理を行い、そ
の後、変換後の複数の画像に対してステレオマッチング
処理を行う事で距離情報を獲得し、その獲得した距離情
報に対してスケール変換及び又は平行移動を行い元のカ
ラー画像に対する距離情報として使用する事を特徴とす
る3次元画像情報生成プログラム。
【0081】
【発明の効果】本発明によれば、画像変換処理の回数を
減らしてステレオマッチングを行う際の計算量を減らす
ことができるという効果を奏する。
【図面の簡単な説明】
【図1】本発明の3次元画像情報生成装置の概略構成を
示すブロック図である。
【図2】本発明の第1実施形態における3次元画像情報
生成の手順を説明するためのフローチャートである。
【図3】本発明の第1実施形態における3次元画像情報
生成の手順を説明するための図である。
【図4】本発明の第2実施形態における3次元画像情報
生成の手順を説明するためのフローチャートである。
【図5】本発明の第2実施形態における3次元画像情報
生成の手順を説明するための図である。
【図6】本発明の第1実施形態の効果を従来例と比較し
て示す図である。
【図7】計算量を削減する方法を説明するための図であ
る。
【図8】ステレオ撮像系の一構成例を示す図である。
【図9】ステレオ撮像系で得た画像から3次元画像を生
成する手順を説明するための図である。
【図10】レクティフィケーション処理について説明す
るための図である。
【図11】レンズディストーション除去について説明す
るための図である。
【符号の説明】
1 ステレオ撮像系 2−1,2−2 ステレオ画像 3 基準画像 4 被撮影物 10 記憶装置 11 表示装置 12 計算装置 13 歪み有り画像 14 歪み除去画像 15 領域
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G06T 15/00 300 G06T 15/00 300 Fターム(参考) 5B050 AA08 AA09 BA09 DA02 DA04 DA07 EA07 EA09 EA12 EA13 EA28 FA02 5B057 AA20 BA02 CA01 CA08 CA13 CA16 CB01 CB08 CB13 CB16 CC01 CD02 CD05 CD12 CE18 5B080 BA08 FA02 GA22

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】 撮像対象を撮像した画像に基づいて撮像
    対象の3次元情報を取得し、前記撮像対象の3次元画像
    情報を生成する3次元画像情報生成装置であって、 少なくとも1枚のカラー画像を含み、複数視点から撮像
    対象を撮像した画像を入力する入力手段と、 前記カラー画像の輝度情報を抽出する抽出手段と、 前記抽出手段により抽出された輝度情報に前処理を行う
    前処理手段と、 前記前処理手段により処理された画像から3次元情報を
    取得する3次元情報取得手段と、 前記3次元情報に、前記前処理の効果を補償する処理を
    行う補償処理手段と、 前記補償処理された3次元情報に前記カラー画像をテク
    スチャとして貼付して3次元画像を生成する3次元画像
    生成手段と、 を具備することを特徴とする3次元画像情報生成装置。
  2. 【請求項2】 前記補償処理手段は、前記前処理の逆変
    換処理を行うことを特徴とする請求項1に記載の3次元
    画像情報生成装置。
  3. 【請求項3】 前記補償処理手段は、前記前処理結果を
    打ち消すように拡縮処理および平行移動処理、あるいは
    その一方を行うことを特徴とする請求項1に記載の3次
    元画像情報生成装置。
  4. 【請求項4】 撮像対象を撮像した画像に基づいて撮像
    対象の3次元情報を取得し、前記撮像対象の3次元画像
    情報を生成する3次元画像情報生成方法であって、 少なくとも1枚のカラー画像を含み、複数視点から撮像
    対象を撮像した画像を入力する入力ステップと、 前記カラー画像の輝度情報を抽出する抽出ステップと、 前記抽出した輝度情報に前処理を行なう前処理ステップ
    と、 前記前処理により処理された画像から3次元情報を取得
    する3次元情報取得ステップと、 前記取得した3次元情報に、前記前処理の効果を補償す
    る処理を行なう補償処理ステップと、 前記補償処理された3次元情報に前記カラー画像をテク
    スチャとして貼付して3次元画像を生成する3次元画像
    生成ステップと、 を具備することを特徴とする3次元画像情報生成方法。
  5. 【請求項5】 前記補償処理は、前記前処理の逆変換処
    理であることを特徴とする請求項4に記載の3次元画像
    情報生成方法。
  6. 【請求項6】 前記補償処理は、前記前処理結果を打ち
    消す拡縮処理および平行移動処理、あるいはその一方で
    あることを特徴とする請求項4に記載の3次元画像情報
    生成方法。
  7. 【請求項7】 コンピュータによって撮像対象を撮像し
    た画像に基づいて撮像対象の3次元情報を取得し、前記
    撮像対象の3次元画像情報を生成する3次元画像情報生
    成プログラムであって、 少なくとも1枚のカラー画像を含み、複数視点から撮像
    対象を撮像した画像を入力する入力ステップと、 前記カラー画像の輝度情報を抽出する抽出ステップと、 前記抽出した輝度情報に前処理を行う前処理ステップ
    と、 前記前処理ステップにより処理された画像から3次元情
    報を取得する3次元情報取得ステップと、 前記取得した3次元情報に、前記前処理の効果を補償す
    る処理を行う補償処理ステップと、 前記補償処理された3次元情報に前記カラー画像をテク
    スチャとして貼付して3次元画像を生成する3次元画像
    生成ステップと、 を実行することを特徴とする3次元画像情報生成プログ
    ラム。
  8. 【請求項8】 前記補償処理ステップは、前記前処理の
    逆変換処理を実行することを特徴とする請求項7に記載
    の3次元画像情報生成プログラム。
  9. 【請求項9】 前記補償処理ステップは、前記前処理結
    果を打ち消す拡縮処理および平行移動処理、あるいはそ
    の一方を実行することを特徴とする請求項7に記載の3
    次元画像情報生成プログラム。
JP2001200143A 2001-06-29 2001-06-29 3次元画像情報生成装置、3次元画像情報生成方法並びに3次元画像情報生成プログラム Expired - Fee Related JP4740481B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001200143A JP4740481B2 (ja) 2001-06-29 2001-06-29 3次元画像情報生成装置、3次元画像情報生成方法並びに3次元画像情報生成プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001200143A JP4740481B2 (ja) 2001-06-29 2001-06-29 3次元画像情報生成装置、3次元画像情報生成方法並びに3次元画像情報生成プログラム

Publications (2)

Publication Number Publication Date
JP2003016477A true JP2003016477A (ja) 2003-01-17
JP4740481B2 JP4740481B2 (ja) 2011-08-03

Family

ID=19037316

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001200143A Expired - Fee Related JP4740481B2 (ja) 2001-06-29 2001-06-29 3次元画像情報生成装置、3次元画像情報生成方法並びに3次元画像情報生成プログラム

Country Status (1)

Country Link
JP (1) JP4740481B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013205402A (ja) * 2012-03-29 2013-10-07 Sumitomo (Shi) Construction Machinery Co Ltd 作業機械用周辺監視装置
CN106456292A (zh) * 2014-05-02 2017-02-22 阿吉斯成像公司 用于收集与正在经历3d扫描的对象有关的颜色信息的系统、方法、设备

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6853928B2 (ja) 2016-11-10 2021-04-07 株式会社金子製作所 三次元動画像表示処理装置、並びにプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06215097A (ja) * 1992-06-17 1994-08-05 Fujitsu Ltd 三次元物体cg作成装置
JPH11325889A (ja) * 1998-05-14 1999-11-26 Fuji Heavy Ind Ltd ステレオカメラの画像補正装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06215097A (ja) * 1992-06-17 1994-08-05 Fujitsu Ltd 三次元物体cg作成装置
JPH11325889A (ja) * 1998-05-14 1999-11-26 Fuji Heavy Ind Ltd ステレオカメラの画像補正装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013205402A (ja) * 2012-03-29 2013-10-07 Sumitomo (Shi) Construction Machinery Co Ltd 作業機械用周辺監視装置
KR101625997B1 (ko) 2012-03-29 2016-05-31 스미토모 겐키 가부시키가이샤 작업기계용 주변감시장치
US9715015B2 (en) 2012-03-29 2017-07-25 Sumitomo(S.H.I.) Construction Machinery Co., Ltd. Periphery-monitoring device for working machines
CN106456292A (zh) * 2014-05-02 2017-02-22 阿吉斯成像公司 用于收集与正在经历3d扫描的对象有关的颜色信息的系统、方法、设备
JP2017523491A (ja) * 2014-05-02 2017-08-17 アルジェス イメージング インコーポレイテッド 3dスキャンされるオブジェクトに関する色情報を収集するためのシステム、方法、装置、及びコンピュータ可読記憶媒体
US11122180B2 (en) 2014-05-02 2021-09-14 Dentsply Sirona Inc. Systems, methods, apparatuses, and computer-readable storage media for collecting color information about an object undergoing a 3D scan

Also Published As

Publication number Publication date
JP4740481B2 (ja) 2011-08-03

Similar Documents

Publication Publication Date Title
JP6330987B2 (ja) 画像処理装置、画像処理方法、及び記憶媒体
JP2998791B2 (ja) 三次元構造推定装置
EP2437494B1 (en) Device for monitoring area around vehicle
JP6883608B2 (ja) 深度マップに対して画像位置合せを行って深度データを最適化することができる深度データ処理システム
JP2019057248A (ja) 画像処理システム、画像処理装置、画像処理方法及びプログラム
CN108629756B (zh) 一种Kinectv2深度图像无效点修复方法
CN106981078B (zh) 视线校正方法、装置、智能会议终端及存储介质
JPH08233556A (ja) 撮像画像処理装置および撮像画像処理方法
JP2014192613A (ja) 画像処理装置及び方法、及び撮像装置
JP6513300B1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2953154B2 (ja) 形状合成方法
CN113538587A (zh) 一种相机坐标变换方法、终端以及存储介质
WO2018032841A1 (zh) 绘制三维图像的方法及其设备、系统
JP3561446B2 (ja) 画像生成方法及びその装置
JP6931267B2 (ja) 原画像を目標画像に基づいて変形した表示画像を生成するプログラム、装置及び方法
CN112116703A (zh) 一种3d相机及点云与彩色纹理对齐的红外光扫描算法
CN117196955A (zh) 一种全景图像拼接方法及终端
CN109990756B (zh) 一种双目测距方法及系统
JP4740481B2 (ja) 3次元画像情報生成装置、3次元画像情報生成方法並びに3次元画像情報生成プログラム
JP2821042B2 (ja) 画像合成装置
KR20160049639A (ko) 부분 선형화 기반의 3차원 영상 정합 방법
CN109089100B (zh) 一种双目立体视频的合成方法
KR20140003880A (ko) 3차원 얼굴 생성 장치 및 방법
JP2002077941A (ja) 奥行き画像生成装置、奥行き画像生成方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
JPH0981737A (ja) 三次元物体モデル生成方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080501

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20101007

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20101019

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110118

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110316

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110419

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110502

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140513

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees