JPH08287253A - 物体形状の推定方法および物体形状推定装置 - Google Patents

物体形状の推定方法および物体形状推定装置

Info

Publication number
JPH08287253A
JPH08287253A JP7085819A JP8581995A JPH08287253A JP H08287253 A JPH08287253 A JP H08287253A JP 7085819 A JP7085819 A JP 7085819A JP 8581995 A JP8581995 A JP 8581995A JP H08287253 A JPH08287253 A JP H08287253A
Authority
JP
Japan
Prior art keywords
value
depth
estimation
shadow image
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP7085819A
Other languages
English (en)
Inventor
Naoki Takegawa
直樹 武川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
N T T DATA TSUSHIN KK
NTT Data Corp
Original Assignee
N T T DATA TSUSHIN KK
NTT Data Communications Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by N T T DATA TSUSHIN KK, NTT Data Communications Systems Corp filed Critical N T T DATA TSUSHIN KK
Priority to JP7085819A priority Critical patent/JPH08287253A/ja
Publication of JPH08287253A publication Critical patent/JPH08287253A/ja
Pending legal-status Critical Current

Links

Abstract

(57)【要約】 【目的】 陰影画像から三次元形状を高精度に推定する
装置を提供する。 【構成】 画像入力端子1より対象物体のアナログ画像
を入力する。このアナログ画像は、標本化量子化回路5
でデジタルデータ(画像データ)に変換され、画像デー
タメモリ6に蓄積される。また、奥行き推定初期値r0、
光源ベクトルL1,L2、パラメタ係数λを含む初期デー
タを各入力端子2,3,4を介して形状推定処理部9及
び評価処理部10に入力する。輝度勾配演算処理部7
は、画像データメモリ3から画像データを読み出し、画
像表面の各点について、空間輝度勾配を計算する。形状
推定処理部9では、空間輝度勾配と各種初期データを用
いて奥行き推定値を演算する。この演算には、緩和法を
用いる。評価処理部10では、演算結果に基づく所定の
評価関数を算出するとともに、この評価関数を最小にす
る奥行き推定値を最適解として出力する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、機械に人間の目の機能
を実現することを狙うコンピュータビジョンの技術に関
し、特に、テレビジョン画面等の二次元平面上に投影さ
れた陰影画像からそのシーンに存在する物体の三次元形
状を推定する技術に関する。コンピュータビジョンは、
二次元画像から、三次元形状の推定、三次元運動の推
定、被写体の表面の物理情報(反射係数、色など)の推
定、シーンの環境情報(光源の位置、方向、光源の色、
映り込みなど)の推定を行うことが大きな役割となって
いる。本発明は、これらのうち、シーンに存在する被写
体の三次元形状を推定する技術に関するものである。
【0002】
【従来の技術】テレビジョン画面等の二次元平面上に投
影された陰影画像を対象として、シーン中の物体の三次
元形状を推定する技術が従来より提案されている。ま
ず、従来のこの種の技術の概要を、図4を参照して説明
する。図4は、カメラの画像面に投影された陰影画像か
ら被写体である三次元物体までの奥行きrを推定するシ
ーン例を示すものである。便宜上、この対象シーンに以
下のような仮定を設ける。
【0003】<仮定1>:被写体である三次元物体の表
面は完全拡散反射面である。即ち、画像面におけるx−
y平面上の任意の点(i,j)の輝度をIi,j 、あるい
は簡単にIとする。iはx軸の空間的位置、jはy軸の
空間的位置を示す。また、被写体表面の拡散反射係数を
d、被写体表面への入射光の強さ(照度)をIf、被写
体表面の単位法線ベクトルをN、単位入射光ベクトルを
lとする。この場合の輝度Iは下記(1)式で表され
る。
【0004】
【数1】I=Rdf(N・l) (1) 但し、(N・l)=N11+N22+N33であり、l
=(l123t,N=(N123t=(−p/s,
−q/s,1/s)t は、各ベクトルのワールド座標に
おける要素である。さらに、p=dr/dx,q=dr
/dy,s=√(p2+q2−1)である。tはベクトル
転置を表す。なお、以下、d/dx,d/dyは偏微分
であることを示す。 <仮定2>:被写体表面の拡散反射係数Rdは一定かつ
既知である。 <仮定3>:被写体の形状は滑らかである。 <仮定4>:光源の方向l、及び照度Ifは既知であ
る。 このような仮定のもとで、被写体の形状は、輝度Iに基
づいて推定することができる。以下、この原理を説明す
る。
【0005】従来は、被写体形状、特に陰影画像から被
写体までの奥行きを推定する際に、その過程を2段階に
分けて処理している。第1段階の処理では、被写体の表
面各点の法線方向を推定し、第2段階の処理では、推定
した法線方向から実際の奥行きrを推定する。各段階の
処理は各々独立している。
【0006】まず、第1段階の処理について説明する。
上記(1)式は、光源方向ベクトルをLとすれば(2)
式に書き換えられる。
【数2】I=−pL1−qL2+L3 (2) 但し、L=(L123t =(Rdf1/s,Rdf2/s,Rdf2/s)t
で表される。すると、法線方向の推定アルゴリズムは、
輝度の観測値と陰影モデルに基づく算出値(奥行き推定
値)との差を表す評価関数Edと、被写体の表面の滑ら
かさを表す評価関数Epとの和を最小にする勾配p,q
を求める問題に帰着される。この場合のトータルの評価
関数Eは(3)式で表される。
【0007】
【数3】
【0008】但し、px,qyは、勾配pのx方向微分,
勾配qのy方向微分であり、Aは、被写体の画像面上の
領域を示す。ここで、パラメタ係数λには、画像のS/
N(信号対雑音比)などに応じて適当な値が選択され
る。
【0009】次に、具体的に勾配p,qを得るための処
理手順を図3(a)を参照して説明する。なお、Sは処
理ステップを示すものである。まず陰影画像と初期デー
タ(p0,q0,L1,L2,λ)とを入力し(S201,
202)、繰り返し数nを”1”にセットする(S20
3)。その後、被写体表面の各点の勾配p,qを求める
(S204)。この場合、求める勾配p,qは、上記
(3)式を最小にする勾配p,qなので、トータルの評
価関数Eを勾配p,qについて偏微分して0とする連立
方程式を解けばよい。これは、例えば緩和法を用いて解
くことができる。第n回目のステップにおける画素
(i,j)の勾配p,qは、(4)式で与えられる。
【0010】
【数4】
【0011】この(4)式を評価し(S205)、評価
結果が閾値に達していない場合は(S205:No)繰り
返し数nを”n+1”にセットし(S206)、緩和法
を用いた演算処理(S204)を繰り返す。(4)式の
評価関数が目的値に達した場合は(S205:Yes)、
このときの勾配p,qを保持して(S207)処理を終
える。
【0012】次に、第2段階の処理を図3(b)を参照
して説明する。ここでは、まず、第1段階の処理で得た
勾配p,qと初期データ(r0,μ)とを入力するとと
もに(S208,S209)、繰り返し数nを”1”に
セットする(S210)。次にこれらのデータに基づい
て奥行きrの推定値を演算する(S211)。この推定
値の演算には(5)式のような評価関数が用いられる。
なお、r0は奥行き推定初期値、μは前述のλと同様、
対象物体の滑らかさ等を表すパラメタ係数であり、それ
ぞれ任意の値を設定することができる。
【0013】
【数5】
【0014】この式も第1段階の処理と同様に緩和法を
用いて解くことができる。以後、繰り返し数nを順次大
きくして(S213)、推定値演算を繰り返す。そして
最終的な奥行き推定値が得られた場合は、これを後段処
理部に出力して(S214)処理を終える。
【0015】
【発明が解決しようとする課題】上述のように、従来
は、奥行き推定値を得るための処理を2段階に分け、第
1段階の処理で入力画像から対象シーンの法線方向を推
定し、第2段階の処理でその法線方向のデータから対象
の奥行きrを推定していた。このような推定手法におい
ては、第1段階の処理、第2段階の処理でそれぞれ推定
誤差を生じるが、第1段階の処理における推定誤差が第
2段階の処理に影響を及ぼす。そして、第1段階の処理
で推定誤差を生じた場合、第2段階の処理ではこれを真
の値として推定するしかないので、第1段階の処理で推
定した値を修正する手段がない。従って、推定誤差が段
階を追って増大するという問題があった。本発明の課題
は、上記問題点に鑑み、対象物体に対応する陰影画像か
ら該物体までの奥行きを推定する際に、推定誤差の増大
を抑制することにある。
【0016】
【課題を解決するための手段】本発明は、上記課題を解
決するために、対象物体に対応する陰影画像から該物体
までの奥行きを推定する課程を段階的に分けず、一段の
処理で推定するようにした。そのための手順としては、
陰影画像の各点について空間輝度勾配を導出し、導出し
た空間輝度勾配および所定の初期データに基づいて前記
陰影画像から対象物体までの奥行きの推定演算を行う。
そして、陰影画像の輝度の観測値と奥行き推定値との差
を表す第1の評価関数および前記対象物体の表面の滑ら
かさを表す第2の評価関数の和が所定基準に達するまで
前記推定演算を繰り返す。
【0017】上記手順を実現する具体的な構成として
は、推定対象となる奥行きの初期値,および前記対象物
体の表面形状の滑らかさや前記陰影画像に含まれる雑音
などを考慮したパラメタ係数を含む初期データを設定す
る初期データ設定手段と、前記陰影画像の各点について
空間輝度勾配を導出する輝度勾配導出手段と、前記導出
した空間輝度勾配および前記初期データに基づいて前記
奥行きの推定演算を行う緩和演算手段と、前記推定演算
により得た奥行き推定値が所定基準に達しているか否か
を評価する評価処理手段と、を備える。評価処理手段
は、例えば、前記陰影画像の輝度の観測値と前記奥行き
推定値との差を表す第1の評価関数および前記対象物体
の表面の滑らかさを表す第2の評価関数の和を演算する
演算手段と、前記和の上限値を定めた閾値を保持する閾
値保持手段と、前記演算された和と前記閾値とを比較す
る比較手段とを備え、前記演算された和が閾値以下のと
きの奥行き推定値を最適値として出力するようにする。
【0018】
【作用】本発明の作用を従来手法と同様、図4のモデル
を例にとって説明する。輝度Iは(6)式で表される。
【数6】I=Rdf(N・l) =−pL1−qL2+L3 (6) ここで、勾配p,qをそれぞれp=rx,q=ry とし
て(6)式を書き換えると式(7)が得られる。
【数7】I=−rxLr1−ry2+L3 (7) また、被写体の表面の滑らかさ条件は、次のように表す
ことができる。
【数8】 但し、rx,ryは、奥行きrのx方向微分、y方向微分
である。
【0019】すると、奥行きrの推定アルゴリズムは、
被写体に対応する画像の輝度の観測値と陰影画像から算
出される値との差を表す評価関数Ed′と、被写体の表
面の滑らかさを表す評価関数Ep′との和を最小にする
奥行きrを求める問題に帰着される。この場合のトータ
ルの評価関数E′は、(8)式で表される。
【0020】
【数9】
【0021】(8)式を最小にするrは、この評価関数
のrに関するオイラー方程式を求め、これを緩和法で計
算すればよい。このオイラー方程式は(9)式で表さ
れ、この(9)式から(10)式が得られる。
【0022】
【数10】
【0023】但し、Aは対象とする被写体画像の領域で
あり、また、rxx=d2r/dx2、rxy=d2r/dx
dy,ryy=d2r/dy2とする。この方程式は、前述
の緩和法により解くことができ、二次元画像上の各点
i,jに対し、奥行きri,jは、(11)式で与えられ
る。
【0024】
【数11】
【0025】但し、(n)は、緩和演算の繰り返し数を
表す。このような演算を繰り返すことにより、奥行きr
は、(8)式をより小さくする解に近づいていく。そこ
で、各ステップにおいて(8)式を評価して、(8)式
の値が所定の値Tより小さくなれば、繰り返し演算を終
了する。この時の奥行き推定値を最適解として採用す
る。このようにして、陰影画像から直接三次元の形状を
推定することができる。
【0026】
【実施例】以下、図面を参照して本発明の好適な実施例
を詳細に説明する。図1は、本発明の一実施例に係る物
体形状推定装置の構成図である。図1に示されるよう
に、この物体形状推定装置は、画像入力端子1、初期デ
ータ入力端子2、ベクトル入力端子3、パラメタ入力端
子4、及びデータ出力端子12を備えている。画像入力
端子1の後段には、標本化量子化回路5、画像データメ
モリ6、輝度勾配演算処理部7をこの順に縦続してお
り、初期データ入力端子2の後段には奥行きデータメモ
リ8を接続している。奥行きデータメモリ8に蓄積され
るデータは、形状推定処理部9に随時出力されるように
構成している。形状推定処理部8には、上記奥行きデー
タメモリ8からの出力データのほか、輝度勾配演算処理
部7の出力データ、ベクトル入力端子3及びパラメタ入
力端子4からのデータが入力される。形状推定処理部9
は、加減乗除演算回路のみで実現することができる。こ
の形状推定処理部9の出力データは、後段の評価処理部
10に入力されるとともに、奥行きデータメモリ8にフ
ィードバックされ、さらに出力ゲート回路11にも入力
される。形状推定処理部9の後段には、評価処理部10
を配置してある。評価処理部10は、加算器,乗算器,
及び累算器により構成することができる。この評価処理
部10には、上記形状推定処理部9の出力データのほ
か、ベクトル入力端子3及びパラメタ入力端子4からの
データや各種パラメタが入力され、その出力データは、
出力ゲート回路11を介して奥行きデータ出力端子12
に導かれるようになっている。
【0027】次に、上記構成の物体形状推定装置の動作
を図2を参照して詳細に説明する。本実施例では、あら
かじめ画面上の奥行き推定初期値r0と、光源方向ベク
トルL1、L2とを設定しておく。光源方向ベクトル
1、L2は、入射光強度及び対象物体の表面反射率を考
慮に入れて予め計測されたものを用いる。また、対象物
体の表面形状の滑らかさ、対象画像に含まれる雑音など
を考慮したパラメタ係数λを設定しておく。
【0028】推定処理時には、図2に示すように、画像
入力端子1より対象物体のアナログ画像を入力する(S
101)。このアナログ画像は、標本化量子化回路5で
デジタルデータ(画像データ)に変換され、画像データ
メモリ6に蓄積される。また、奥行き推定初期値r0
初期データ入力端子2を介して奥行きデータメモリ8に
蓄積し、光源方向ベクトルL1,L2をベクトル入力端子
3を介して形状推定処理部9及び評価処理部10に入力
する。さらに、上記パラメタ係数λを、パラメタ入力端
子4を介して形状推定処理部9及び評価処理部10に入
力する(S102)。
【0029】輝度勾配演算処理部7は、画像データメモ
リ3から画像データを読み出し、画像表面の各点(i,
j)について、空間輝度勾配Ix,Iy を計算する(S
102)。形状推定処理部9では、まず、繰り返し数n
を”1”にセットし(S104)、空間輝度勾配Ix
yを用いて奥行き推定値rijを演算する(S10
5)。この演算は、具体的には(11)式の緩和演算で
ある。
【0030】評価処理部10では、形状推定処理部9の
演算結果をもとに(8)式の評価関数Eを算出するとと
もに(S106)、この評価関数Eと予め設定した閾値
Tと比較し(S107)、評価関数Eが閾値Tを越える
場合(S107:No)は繰り返し数nを”n+1”にセ
ットし(S108)、S105以降の処理を繰り返す。
そして評価関数Eが閾値T以下になった時点(S10
7:Yes)で演算を終了し、そのときの奥行き推定値を
出力ゲート回路11を介して奥行きデータ出力端子12
より出力する(S108)。
【0031】このように、本実施例では、陰影画像から
奥行きrを直接推定するようにしたので、従来手法のよ
うに段階的な処理を経る必要がなくなり、累積誤差が排
除されて精度の良い三次元形状の推定が可能となる。
【0032】
【発明の効果】以上の説明から明らかなように、本発明
によれば、対象物体に対応する陰影画像から該物体まで
の奥行きを推定する際の推定誤差の増大が抑制される効
果がある。また、推定のための処理手順が従来よりも簡
略化されるので、奥行き推定値が得られるまでの処理時
間が従来よりも格段に短縮される効果もある。
【図面の簡単な説明】
【図1】本発明の一実施例に係る物体形状推定装置のブ
ロック構成図。
【図2】本実施例の物体形状推定装置における全体的な
処理の手順説明図。
【図3】(a)は従来の第1段階の処理の手順説明図、
(b)は第2段階の処理の手順説明図。
【図4】従来例および本実施例の処理手順を説明するた
めに設定したシーンの説明図。
【符号の説明】
1 画像入力端子 2 初期データ入力端子 3 ベクトル入力端子 4 パラメタ入力端子 5 標本化量子化回路 6 画像データメモリ 7 輝度勾配演算処理部 8 奥行きデータメモリ 9 形状推定処理部 10 評価処理部 11 出力ゲート回路

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 対象物体に対応する陰影画像から該物体
    までの奥行きを推定する際に、前記陰影画像の各点につ
    いて空間輝度勾配を導出し、導出した空間輝度勾配およ
    び所定の初期データに基づいて前記陰影画像から前記対
    象物体までの奥行きの推定演算を行うとともに、前記陰
    影画像の輝度の観測値と奥行き推定値との差を表す第1
    の評価関数および前記対象物体の表面の滑らかさを表す
    第2の評価関数の和が所定基準に達するまで前記推定演
    算を繰り返すことを特徴とする物体形状の推定方法。
  2. 【請求項2】 対象物体に対応する陰影画像から該物体
    までの奥行きを推定する手段を備えた物体形状推定装置
    において、 前記推定対象となる奥行きの初期値,および前記対象物
    体の表面形状の滑らかさや前記陰影画像に含まれる雑音
    などを考慮したパラメタ係数を含む初期データを設定す
    る初期データ設定手段と、 前記陰影画像の各点について空間輝度勾配を導出する輝
    度勾配導出手段と、 前記導出した空間輝度勾配および前記初期データに基づ
    いて前記奥行きの推定演算を行う緩和演算手段と、 前記推定演算により得た奥行き推定値が所定基準に達し
    ているか否かを評価する評価処理手段と、 を有することを特徴とする物体形状推定装置。
  3. 【請求項3】 評価処理手段は、前記陰影画像の輝度の
    観測値と前記奥行き推定値との差を表す第1の評価関数
    および前記対象物体の表面の滑らかさを表す第2の評価
    関数の和を演算する演算手段と、前記和の上限値を定め
    た閾値を保持する閾値保持手段と、前記演算された和と
    前記閾値とを比較する比較手段とを備え、前記演算され
    た和が閾値以下のときの奥行き推定値を最適値として出
    力することを特徴とする請求項2記載の物体形状推定装
    置。
JP7085819A 1995-04-11 1995-04-11 物体形状の推定方法および物体形状推定装置 Pending JPH08287253A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP7085819A JPH08287253A (ja) 1995-04-11 1995-04-11 物体形状の推定方法および物体形状推定装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP7085819A JPH08287253A (ja) 1995-04-11 1995-04-11 物体形状の推定方法および物体形状推定装置

Publications (1)

Publication Number Publication Date
JPH08287253A true JPH08287253A (ja) 1996-11-01

Family

ID=13869474

Family Applications (1)

Application Number Title Priority Date Filing Date
JP7085819A Pending JPH08287253A (ja) 1995-04-11 1995-04-11 物体形状の推定方法および物体形状推定装置

Country Status (1)

Country Link
JP (1) JPH08287253A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006080982A (ja) * 2004-09-10 2006-03-23 Kazunari Era 立体視画像生成装置およびプログラム
JP2006208187A (ja) * 2005-01-27 2006-08-10 Nagoya Electric Works Co Ltd 形状良否判定装置および形状良否判定方法
JP2007522589A (ja) * 2004-02-17 2007-08-09 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 奥行きマップの生成
JP2015524915A (ja) * 2012-05-10 2015-08-27 サムスン エレクトロニクス カンパニー リミテッド 3d情報処理装置及び方法
CN113916906A (zh) * 2021-09-03 2022-01-11 江苏理工学院 视觉检测系统led光源照度优化方法及所用实验设备

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007522589A (ja) * 2004-02-17 2007-08-09 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 奥行きマップの生成
JP4898459B2 (ja) * 2004-02-17 2012-03-14 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 奥行きマップの生成
JP2006080982A (ja) * 2004-09-10 2006-03-23 Kazunari Era 立体視画像生成装置およびプログラム
JP4523368B2 (ja) * 2004-09-10 2010-08-11 株式会社マーキュリーシステム 立体視画像生成装置およびプログラム
US7945088B2 (en) 2004-09-10 2011-05-17 Kazunari Era Stereoscopic image generation apparatus
JP2006208187A (ja) * 2005-01-27 2006-08-10 Nagoya Electric Works Co Ltd 形状良否判定装置および形状良否判定方法
JP2015524915A (ja) * 2012-05-10 2015-08-27 サムスン エレクトロニクス カンパニー リミテッド 3d情報処理装置及び方法
CN113916906A (zh) * 2021-09-03 2022-01-11 江苏理工学院 视觉检测系统led光源照度优化方法及所用实验设备
CN113916906B (zh) * 2021-09-03 2024-01-09 江苏理工学院 视觉检测系统led光源照度优化方法及所用实验设备

Similar Documents

Publication Publication Date Title
US6229578B1 (en) Edge-detection based noise removal algorithm
US9311901B2 (en) Variable blend width compositing
US8712095B2 (en) Digital processing method and system for determination of optical flow
RU2658874C1 (ru) Устройство удаления тумана и способ формирования изображений
KR100681320B1 (ko) 헬름홀츠 교환조건으로부터 유도되는 편미분 방정식의레벨셋 풀이 방법을 이용한 물체의 3차원 형상 모델링 방법
TWI405147B (zh) 單張影像的階層式去動態模糊方法
EP1400924B1 (en) Pseudo three dimensional image generating apparatus
Mohan et al. Editing soft shadows in a digital photograph
Monobe et al. Dynamic range compression preserving local image contrast for digital video camera
US7221778B2 (en) Image processing apparatus and method, and image pickup apparatus
JP2000036052A5 (ja) 複数人物が存在する場合の人間の顔のロバスト追跡システム
EP2089852A1 (en) Methods and systems for color correction of 3d images
JP4721285B2 (ja) ピクセルごとに差分的に準規則的にデジタルイメージを修正するための方法およびシステム
CN110415193A (zh) 煤矿低照度模糊图像的复原方法
JPH08287253A (ja) 物体形状の推定方法および物体形状推定装置
Lei et al. An investigation of retinex algorithms for image enhancement
JP2010506482A (ja) ビデオストリームの視差回復方法及びフィルタ
JP3543103B2 (ja) カラー画像処理方法および処理装置
KR20140000833A (ko) 스테레오 매칭 장치 및 그 방법
CN109961422B (zh) 数字图像的对比度值的确定
JP2005038119A (ja) 画像処理装置および方法
JPH11234701A (ja) ステレオ画像処理装置
JPH02273876A (ja) 画像処理方式
Georgiev Vision, healing brush, and fiber bundles
Gevrekci et al. Image acquisition modeling for super-resolution reconstruction