JP2003046857A - 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体 - Google Patents
高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体Info
- Publication number
- JP2003046857A JP2003046857A JP2001227008A JP2001227008A JP2003046857A JP 2003046857 A JP2003046857 A JP 2003046857A JP 2001227008 A JP2001227008 A JP 2001227008A JP 2001227008 A JP2001227008 A JP 2001227008A JP 2003046857 A JP2003046857 A JP 2003046857A
- Authority
- JP
- Japan
- Prior art keywords
- image
- time
- long
- short
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 300
- 238000003384 imaging method Methods 0.000 claims abstract description 169
- 230000002194 synthesizing effect Effects 0.000 claims abstract description 51
- 238000012937 correction Methods 0.000 claims description 39
- 238000012545 processing Methods 0.000 claims description 38
- 238000005520 cutting process Methods 0.000 claims description 8
- 238000004519 manufacturing process Methods 0.000 claims 1
- 238000007796 conventional method Methods 0.000 abstract description 4
- 238000006073 displacement reaction Methods 0.000 description 21
- 230000009977 dual effect Effects 0.000 description 17
- 238000013500 data storage Methods 0.000 description 13
- 230000009466 transformation Effects 0.000 description 13
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 12
- 239000011159 matrix material Substances 0.000 description 12
- 238000000926 separation method Methods 0.000 description 9
- 238000000605 extraction Methods 0.000 description 8
- 230000035945 sensitivity Effects 0.000 description 8
- 208000037004 Myoclonic-astatic epilepsy Diseases 0.000 description 7
- 238000000874 microwave-assisted extraction Methods 0.000 description 7
- 239000002131 composite material Substances 0.000 description 6
- 239000000284 extract Substances 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 238000010191 image analysis Methods 0.000 description 4
- 239000000203 mixture Substances 0.000 description 4
- 230000015572 biosynthetic process Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- 208000019300 CLIPPERS Diseases 0.000 description 2
- 208000021930 chronic lymphocytic inflammation with pontine perivascular enhancement responsive to steroids Diseases 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 230000001131 transforming effect Effects 0.000 description 2
- 102100028780 AP-1 complex subunit sigma-2 Human genes 0.000 description 1
- 102100033040 Carbonic anhydrase 12 Human genes 0.000 description 1
- 101100055680 Homo sapiens AP1S2 gene Proteins 0.000 description 1
- 101000867855 Homo sapiens Carbonic anhydrase 12 Proteins 0.000 description 1
- 101100280298 Homo sapiens FAM162A gene Proteins 0.000 description 1
- 101000680262 Homo sapiens Transmembrane protein 60 Proteins 0.000 description 1
- 102100023788 Protein FAM162A Human genes 0.000 description 1
- 102100022076 Transmembrane protein 60 Human genes 0.000 description 1
- 238000005314 correlation function Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000011112 process operation Methods 0.000 description 1
- GGCZERPQGJTIQP-UHFFFAOYSA-N sodium;9,10-dioxoanthracene-2-sulfonic acid Chemical compound [Na+].C1=CC=C2C(=O)C3=CC(S(=O)(=O)O)=CC=C3C(=O)C2=C1 GGCZERPQGJTIQP-UHFFFAOYSA-N 0.000 description 1
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
レンジ映像を生成できる方法及び装置を提供する。 【解決手段】 撮像時間を長短に変化させた画像列から
高ダイナミックレンジ画像を合成する場合、従来は、
(a)の11のように2フレームの画像から単一の合成
アルゴリズムで1フレームの画像を合成するためフレー
ムレートが半減する。本発明は、(b)の12、(c)
の13のように、異なる二つの合成アルゴリズムを交互
に使用することで、実質的には1フレームの原画像から
1フレームの高ダイナミックレンジ画像を生成し、原画
像と同フレームレートで高ダイナミックレンジ映像を提
供する。各合成アルゴリズムでは、撮像時刻の異なる2
フレームの画像をそのまま合成せず、同じ撮像時刻に得
られるはずの画像を予測生成した後に合成し、動画像で
あっても不自然な画像を合成しない。
Description
ジの高い被写体を白トビや黒つぶれなく映像にする高ダ
イナミックレンジ映像の生成方法および生成装置に関す
るものであり、主な7利用分野として映像産業や計測産
業があげられる。
が、今日ではCCDを用いた撮像装置が広く使われてい
る。しかし、CCDは銀塩フィルム等に比べると明暗の
ダイナミックレンジが小さい欠点があった。これに対し
て撮像時間を可変に制御できる電子シャッタ付きのCC
Dを用いて短時間撮像と長時間撮像を交互に繰り返し、
隣り合う2画像から高ダイナミックレンジ映像を生成す
る方法や装置が提案されている。例えば、特開昭63−
306779号や特開平6−141229号の技術がこ
れに該当する。
(a)の11に示すように両方法とも、2フレームの原
画像から1フレームの画像を合成するためにフレームレ
ートが半減してしまい、滑らかな動きの動画映像が生成
できない欠点があった。特開平6−141229号では
実質倍速で動作する専用CCDを開発してこの問題を解
決しているが、この方法では汎用のCCDを使えないた
め汎用性やコストに問題がある。また、CCDの画素数
が増大すると倍速動作そのものが技術的に困難となるた
め、HDTVやUDTV等の高解像度映像には適用でき
ない問題もある。
合には、動く被写体の高輝度領域または低輝度領域の位
置、形状が時間と共に変動するが、従来の方法では異な
る時刻に撮像された画像をそのまま合成しているため、
合成部の輪郭領域において偽信号の発生による画質劣化
が生じてしまう問題がある。特開平6−141229号
では2枚の画像を輝度値に応じて徐々に混合することに
より画質劣化が視覚的に目立たないよう工夫している
が、根本的な解決方法とはなっていない。
するために為されたものであり、原画像と同フレームレ
ートで高ダイナミックレンジ映像を生成できる方法及び
装置を提供することを課題とする。さらに、その生成の
際に、映像の切り替わり点や、画像内容がフレーム間で
不連続的に変化する場合にも、高品質の高ダイナミック
レンジ映像を生成できる方法及び装置を提供することを
課題とする。
めの手段として、本発明の請求項1では、撮像時間を可
変に制御できる撮像装置を用いて長時間撮像と短時間撮
像を交互に繰り返して高ダイナミックレンジ映像を生成
する方法において、長時間撮像と直後または直前の短時
間撮像の2画像より長時間撮像時刻における高ダイナミ
ックレンジ画像を合成する過程Aと、短時間撮像と直後
または直前の長時間撮像の2画像より短時間撮像時刻に
おける高ダイナミックレンジ画像を合成する過程Bの異
なる2つの合成過程とを有し、長時間撮像時刻における
画像については過程Aを実行し、短時間撮像時刻におけ
る画像については過程Bを実行することを特徴とする高
ダイナミックレンジ映像の生成方法を用いる。
いて、長時間撮像の画像内にあるオーバーフロー領域X
を検出する過程Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する過程Dと、2領域の輪郭線のパターンマッ
チングを行う過程とを有し、過程Cにより長時間撮像画
像を領域Xとそれ以外の領域X-に分離し、過程Dによ
り直後または直前の短時間撮像画像から領域Yを抜き出
し、パターンマッチングを行う過程により領域Yの位
置、形状を領域Xの位置、形状に合わせた後で画素の輝
度値の倍率補正を行った後に、領域X-と合成すること
によって、長時間撮像と直後または直前の短時間撮像の
2画像から長時間撮像時刻における画像を合成すること
を特徴とする請求項1に記載の高ダイナミックレンジ映
像の生成方法を用いる。
いて、長時間撮像の画像内にあるオーバーフロー領域X
を検出する過程Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する過程Dと、2領域の輪郭線のパターンマッ
チングを行う過程とを有し、過程Dにより短時間撮像画
像を領域Yとその他の領域Y-に分離し、過程Cにより
直後または直前の長時間撮像画像を領域Xとその他の領
域X-に分離し、パターンマッチングを行う過程により
領域X-の位置、形状を領域Y-の位置、形状に合わせた
後で、画素の輝度値の倍率補正を行った後の領域Yと合
成することによって、短時間撮像と直後または直前の長
時間撮像の2画像から短時間撮像時刻における画像を合
成することを特徴とする請求項1に記載の高ダイナミッ
クレンジ映像の生成方法を用いる。
可変に制御できる撮像装置を用いて長時間撮像と短時間
撮像を交互に繰り返して高ダイナミックレンジ映像を生
成する方法において、長時間撮像と直前の短時間撮像と
直後の短時間撮像の3画像より長時間撮像時刻における
高ダイナミックレンジ画像を合成する過程Eと、短時間
撮像と直前の長時間撮像と直後の長時間撮像の3画像よ
り短時間撮像時刻における高ダイナミックレンジ画像を
合成する過程Fの異なる2つの合成過程とを有し、長時
間撮像時刻における画像については過程Eを実行し、短
時間撮像時刻における画像については過程Fを実行する
ことを特徴とする高ダイナミックレンジ映像の生成方法
を用いる。
は、長時間撮像の画像中にあるオーバーフロー領域Xを
検出する過程Cと、短時間撮像の画像において長時間撮
像であったならオーバーフローすると予測される領域Y
を検出する過程Dと、2領域の画像のパターンマッチン
グを行う過程とを有し、過程Cにより長時間撮像の画像
を領域Xとそれ以外の領域X-に分離し、過程Dにより
直前の短時間撮像の画像から領域Y1を切り出し、過程
Dにより直後の短時間撮像の画像から領域Y2を切り出
し、2領域の画像のパターンマッチングを行う過程によ
り2領域である領域Y1と領域Y2から長時間撮像時刻
における中間画像Y3を生成し、中間画像Y3から領域
Xと位置的に重なる領域を切り出し、画素の輝度値の倍
率補正を行った後で、領域X-と合成することによっ
て、長時間撮像と直前の短時間画像と直後の短時間撮像
の3画像から長時間撮像時刻における画像を合成するこ
とを特徴とする請求項4に記載の高ダイナミックレンジ
映像の生成方法を用いる。
は、長時間撮像の画像中にあるオーバーフロー領域Xを
検出する過程Cと、短時間撮像の画像において長時間撮
像であったならオーバーフローすると予測される領域Y
を検出する過程Dと、2領域の画像のパターンマッチン
グを行う過程とを有し、過程Dにより短時間撮像の画像
を領域Yとその他の領域Y-に分離し、過程Cにより直
前の長時間撮像の画像を領域X1とその他の領域X1-
に分離し、過程Cにより直後の長時間撮像の画像を領域
X2とその他の領域X2-に分離し、2領域の画像のパ
ターンマッチングを行う過程により2領域である領域X
1-と領域X2-から短時間撮像時刻における中間画像X
3-を生成し、中間画像X3-から領域Y-と位置的に重
なる領域を切り出した後で、画素の輝度値の倍率補正を
行った後の領域Yと合成することによって、短時間撮像
と直前の長時間撮像と直後の短時間撮像の3画像から短
時間撮像時刻における画像を合成することを特徴とする
請求項4に記載の高ダイナミックレンジ映像の生成方法
を用いる。
像のパターンマッチングを行う過程が2領域のパターン
の類似度を算出する過程も有し、請求項5または請求項
6に記載の高ダイナミックレンジ映像の生成方法におい
て、2領域の画像のパターンマッチングを行う際に類似
度も算出し、予め設定された値よりも類似度が小さい場
合には、請求項5においてはY1とXおよびY2とXに
対して輪郭線のパターンマッチングを行い、請求項6に
おいてはX1とYおよびX2とYに対して輪郭線のパタ
ーンマッチングを行い、該輪郭線のパターンマッチング
の結果、XとY2あるいはYとX2の類似度の方が大き
い場合は請求項4に記載の高ダイナミックレンジ映像の
生成方法の代わりに直後の画像を用いる請求項1に記載
の高ダイナミックレンジ映像の生成方法に切り替え、Y
1とXあるいはX1とYの類似度の方が大きい場合は請
求項4に記載の高ダイナミックレンジ映像の生成方法の
代わりに直前の画像を用いる請求項1に記載の高ダイナ
ミックレンジ映像の生成方法に切り替えることを特徴と
する高ダイナミックレンジ映像の生成方法を用いる。
可変に制御できる撮像装置を用いて長時間撮像と短時間
撮像を交互に繰り返して高ダイナミックレンジ映像を生
成する装置において、長時間撮像と直後または直前の短
時間撮像の2画像より長時間撮像時刻における高ダイナ
ミックレンジ画像を合成する合成器Aと、短時間撮像と
直後または直前の長時間撮像の2画像より短時間撮像時
刻における高ダイナミックレンジ画像を合成する合成器
Bの異なる2つの合成器とを有し、長時間撮像時刻にお
ける画像については合成器Aを用い、短時間撮像時刻に
おける画像については合成器Bを用いることを特徴とす
る高ダイナミックレンジ映像の生成装置を用いる。
は、長時間撮像の画像内にあるオーバーフロー領域Xを
検出する検出器Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する検出器Dと、2領域の輪郭線のパターンマ
ッチングを行うパターンマッチング器とを有し、検出器
Cを用いて長時間撮像画像を領域Xとそれ以外の領域X
-に分離し、検出器Dを用いて直後または直前の短時間
撮像画像から領域Yを抜き出し、該パターンマッチング
器を用いて領域Yの位置、形状を領域Xの位置、形状に
合わせた後で画素の輝度値の倍率補正を行った後に、領
域X-と合成することによって、長時間撮像と直後また
は直前の短時間撮像の2画像から長時間撮像時刻におけ
る画像を合成するものであることを特徴とする請求項8
に記載の高ダイナミックレンジ映像の生成装置を用い
る。
は、長時間撮像の画像内にあるオーバーフロー領域Xを
検出する検出器Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する検出器Dと、2領域の輪郭線のパターンマ
ッチングを行うパターンマッチング器とを有し、検出器
Dを用いて短時間撮像画像を領域Yとその他の領域Y-
に分離し、検出器Cを用いて直後または直前の長時間撮
像画像を領域Xとその他の領域X-に分離し、該パター
ンマッチング器を用いて領域X-の位置、形状を領域Y-
の位置、形状に合わせた後で、画素の輝度値の倍率補正
を行った後の領域Yと合成することによって、短時間撮
像と直後または直前の長時間撮像の2画像から短時間撮
像時刻における画像を合成するものであることを特徴と
する請求項8に記載の高ダイナミックレンジ映像の生成
装置を用いる。
を可変に制御できる撮像装置を用いて長時間撮像と短時
間撮像を交互に繰り返して高ダイナミックレンジ映像を
生成する装置において、長時間撮像と直前の短時間撮像
と直後の短時間撮像の3画像より長時間撮像時刻におけ
る高ダイナミックレンジ画像を合成する合成器Eと、短
時間撮像と直前の長時間撮像と直後の長時間撮像の3画
像より短時間撮像時刻における高ダイナミックレンジ画
像を合成する合成器Fの異なる2つの合成器とを有し、
長時間撮像時刻における画像については合成器Eを用
い、短時間撮像時刻における画像については合成器Fを
用いることを特徴とする高ダイナミックレンジ映像の生
成装置を用いる。
は、長時間撮像の画像中にあるオーバーフロー領域Xを
検出する検出器Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する検出器Dと、2領域の画像のパターンマッ
チングを行うパターンマッチング器とを有し、検出器C
を用いて長時間撮像の画像を領域Xとそれ以外の領域X
-に分離し、検出器Dを用いて直前の短時間撮像の画像
から領域Y1を切り出し、検出器Dを用いて直後の短時
間撮像の画像から領域Y2を切り出し、領域Y1と領域
Y2から該パターンマッチング器を用いて長時間撮像時
刻における中間画像Y3を生成し、中間画像Y3から領
域Xと位置的に重なる領域を切り出し、画素の輝度値の
倍率補正を行った後で、領域X-と合成することによっ
て、長時間撮像と直前の短時間画像と直後の短時間撮像
の3画像から長時間撮像時刻における画像を合成するも
のであることを特徴とする請求項11に記載の高ダイナ
ミックレンジ映像の生成装置を用いる。
は、長時間撮像の画像中にあるオーバーフロー領域Xを
検出する検出器Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する検出器Dと、2領域の画像のパターンマッ
チングを行うパターンマッチング器とを有し、検出器D
を用いて短時間撮像の画像を領域Yとその他の領域Y-
に分離し、検出器Cを用いて直前の長時間撮像の画像を
領域X1とその他の領域X1-に分離し、検出器Cを用
いて直後の長時間撮像の画像を領域X2とその他の領域
X2-に分離し、領域X1-と領域X2-から該パターン
マッチング器を用いて短時間撮像時刻における中間画像
X3-を生成し、中間画像X3-から領域Y-と位置的に
重なる領域を切り出した後で、画素の輝度値の倍率補正
を行った後の領域Yと合成することによって、短時間撮
像と直前の長時間撮像と直後の短時間撮像の3画像から
短時間撮像時刻における画像を合成するものであること
を特徴とする請求項11に記載の高ダイナミックレンジ
映像の生成装置を用いる。
画像のパターンマッチングを行うパターンマッチング器
が2領域の画像のパターンの類似度を算出する類似度評
価器も有し、請求項12または請求項13に記載の高ダ
イナミックレンジ映像の生成装置おいて、画像のパター
ンマッチングを行う際に類似度も算出し、予め設定され
た値よりも類似度が小さい場合には、請求項12に記載
の高ダイナミックレンジ映像の生成装置おいてはY1と
XおよびY2とXに対して輪郭線のパターンマッチング
を行い、請求項13に記載の高ダイナミックレンジ映像
の生成装置おいてはX1とYおよびX2とYに対して輪
郭線のパターンマッチングを行い、XとY2あるいはY
とX2の類似度の方が大きい場合は請求項11に記載の
高ダイナミックレンジ映像の生成装置の代わりに直後の
画像を用いる請求項8に記載の高ダイナミックレンジ映
像の生成装置で処理を行い、Y1とXあるいはX1とY
の類似度の方が大きい場合は請求項11に記載の高ダイ
ナミックレンジ映像の生成装置の代わりに直前の画像を
用いる請求項8に記載の高ダイナミックレンジ映像の生
成装置で処理を行うものであることを特徴とする高ダイ
ナミックレンジ映像の生成装置を用いる。
から請求項7のいずれか1項に記載の高ダイナミックレ
ンジ映像の生成方法における過程を、コンピュータに実
行させるためのプログラムとしたことを特徴とする高ダ
イナミックレンジ映像の生成方法の実行プログラムを用
いる。
から請求項7のいずれか1項に記載の高ダイナミックレ
ンジ映像の生成方法における過程を、コンピュータに実
行させるためのプログラムとし、該プログラムを、該コ
ンピュータが読み取りできる記録媒体に記録したことを
特徴とする高ダイナミックレンジ映像の生成方法の実行
プログラムを記録した記録媒体を用いる。
12および図1(c)の13に示すように、異なる二つ
の合成アルゴリズムを交互に使用することにより、実質
的には1フレームの原画像から1フレームの高ダイナミ
ックレンジ画像を生成することによって同フレームレー
トで高ダイナミックレンジ映像を提供する。
に連続する2フレームの画像から高ダイナミックレンジ
画像を合成する方法を提供するものであり、請求項4は
図1(c)の13に示すように連続する3フレームの画
像から高ダイナミックレンジ画像を合成する方法を提供
するものである。
測生成して高ダイナミックレンジ画像を合成する方法で
あり、通常、請求項1の方法より高品質に画像合成でき
るが、連続する3フレームの画像を必ず必要とするた
め、映像の切り替わり点や、画像内容がフレーム間で不
連続的に変化する場合には適用できないか、または無理
に適用しても低品質の合成画像しか得られない等の問題
点もある。
ム間の不連続性を2画像の類似度を調べることによって
検出し、請求項4の方法と請求項1の方法を適応的に切
り替えて処理を行う方法を提供する。
連続する2フレームの画像から高ダイナミックレンジ画
像を合成する装置を提供するものであり、請求項11は
図1(c)の13に示すように連続する3フレームの画
像から高ダイナミックレンジ画像を合成する装置を提供
するものである。
予測生成して高ダイナミックレンジ画像を合成する装置
であり、通常、請求項8の装置より高品質に画像合成で
きるが、連続する3フレームの画像を必ず必要とするた
め、映像の切り替わり点や、画像内容がフレーム間で不
連続的に変化する場合には適用できないか、または無理
に適用しても低品質の合成画像しか得られない等の問題
点もある。
ーム間の不連続性を2画像の類似度を調べることによっ
て検出し、請求項11の方法と請求項8の方法を適応的
に切り替えて処理を行う装置を提供する。
は、パターンマッチングを行う手段を用いた動画補償や
輪郭線フィッティングを行うことによって撮像時刻に得
られるはずの画像を予測生成した上で該画像を用いて高
ダイナミックレンジ画像を合成する。これより動画撮影
の場合にも高品質な高ダイナミックレンジ映像を提供す
る。
の方法の作用を説明する。図2の21から23は撮像時
間を交互に変えて撮像した映像データの一部であり、2
1と23が長時間撮像画像、22が短時間撮像画像であ
る。211と231は被写体の露出オーバーでオーバー
フローを起こした領域、212と232はそれ以外の領
域である。221は長時間撮像であったならオーバーフ
ローすると予測される領域、222はそれ以外の領域で
ある。
221が211の位置、形状に合わされて223とな
り、223は26で画素の輝度値の倍率補正を受けた後
に212と組み合わされて24が合成され、過程Bによ
って232が222の位置、形状に合わされて233と
なり、27で画素の輝度値の倍率補正を受けた後の22
1と組み合わされて25が合成される。
後の画像より該時刻における画像を合成する作用を説明
しているが、例えば、25を合成する場合、232のか
わりに212を222の位置、形状に合わせるのごと
く、直後の画像を使う部分を直前の画像に置き換えるだ
けで、ある時刻における画像と直前の画像より該時刻に
おける画像を合成できることは言うまでもない。
と211の輪郭線のパターンマッチングを行って221
の211に対する位置、形状の変移量28を算出し、2
21に対して28を逆に作用させることによって223
を生成し、26で画素の輝度値の倍率補正をした後に、
212と組み合わして24を合成する作用を行う。
と222の輪郭線のパターンマッチングを行い、232
の222に対する位置、形状の変移量29を算出し、2
32に対して29を逆に作用させることによって233
を生成し、27で輝度値の倍率補正をした後の221と
組み合わして25を合成する作用を行う。
法の作用を説明する。図3の31から34は撮像時間を
交互に変えて撮像した映像データの一部であり、31と
33が短時間撮像画像、32と34が長時間撮像画像で
ある。321と341は被写体の露出オーバーでオーバ
ーフローを起こした領域、322と342はそれ以外の
領域である。311と331は長時間撮像であったなら
オーバーフローすると予測される領域、312と332
はそれ以外の領域である。
311と331から321の位置、形状に合った323
が生成され、37で画素の輝度値の倍率補正をした後
に、322と組み合わして35が合成され、過程Fによ
って322と342から332の位置、形状に合った3
33が生成され、38で輝度値の倍率補正をした後の3
31と組み合わせることによって36が合成される。
を説明する。なお、図中で図3と同一部分は図3の番号
をつけている。初めに311と331の画像のパターン
マッチングを行い、311の331に対する画像の位
置、形状の変移量41を計算する。311と331に対
して該変移量より32の撮像時刻における中間画像42
と43を予測生成し、両画像を合成することによって中
間画像44を生成する。次に44から321内に位置す
る領域を切り出すことによって323を生成する。32
3は37で輝度値の倍率補正をした後に322と組み合
わせることによって35を合成する作用を行う。
を説明する。なお、図中で図3と同一部分は図3の番号
をつけている。初めに322と342の画像のパターン
マッチングを行い、322の342に対する画像の位
置、形状の変移量51を計算する、322と342に対
して該変移量より33の撮像時刻における中間画像52
と53を予測生成し、両画像を合成することによって中
間画像54を生成する。次に54から332内に位置す
る領域を切り出すことによって333を生成する。33
3と38で輝度値の倍率補正をした後の331を組み合
わせることによって36を合成する作用を行う。
請求項6の方法で画像のパターンマッチングを行う時に
二つのパターンの類似度も算出する。類似度が小さい
か、またはパターンマッチングの対象となる領域がなか
った場合には、請求項5の方法においては311と32
1間の類似度と321と331間の類似度を輪郭線のパ
ターンマッチングによって比較し、321と331間の
類似度の方が大きかった場合には、請求項4の方法の代
わりに32と33を用いた直後の画像を用いる請求項1
の方法に切り替え、311と321間の類似度の方が大
きかった場合には、請求項4の方法の代わりに31と3
2を用いた直前の画像を用いる請求項1の方法に切り替
える作用を行う。請求項6の方法においては322と3
32間の類似度と332と342間の類似度を輪郭線の
パターンマッチングによって比較し、332と342間
の類似度の方が大きかった場合には、請求項4の方法の
代わりに33と34を用いた直後の画像を用いる請求項
1の方法に切り替え、322と332間の類似度の方が
大きかった場合には、請求項4の方法の代わりに32と
33を用いる直前の画像を用いる請求項1の方法に切り
替える作用を行う。
での装置の作用を説明する。図2の21から23は撮像
時間を交互に変えて撮像した映像データの一部であり、
21と23が長時間撮像画像、22が短時間撮像画像で
ある。211と231は被写体の露出オーバーでオーバ
ーフローを起こした領域、212と232はそれ以外の
領域である。221は長時間撮像であったならオーバー
フローすると予測される領域、222はそれ以外の領域
である。
て221が211の位置、形状に合わされて223とな
り、223は26で画素の輝度値の倍率補正を受けた後
に212と組み合わされて24が合成され、合成器Bに
よって232が222の位置、形状に合わされて233
となり、27で画素の輝度値の倍率補正を受けた後の2
21と組み合わされて25が合成される。
後の画像より該時刻における画像を合成する作用を説明
しているが、例えば、25を合成する場合、232のか
わりに212を222の位置、形状に合わせるのごと
く、直後の画像を使う部分を直前の画像に置き換えるだ
けである時刻における画像と直前の画像より該時刻にお
ける画像を合成できることは言うまでもない。
1と211の輪郭線のパターンマッチングを行って22
1の211に対する位置、形状の変移量28を算出し、
221に対して28を逆に作用させることによって22
3を生成し、26で画素の輝度値の倍率補正をした後
に、212と組み合わして24を合成する作用を行う。
32と222の輪郭線のパターンマッチングを行い、2
32の222に対する位置、形状の変移量29を算出
し、232に対して29を逆に作用させることによって
233を生成し、27で輝度値の倍率補正をした後の2
21と組み合わして25を合成する作用を行う。
装置の作用を説明する。図3の31から34は撮像時間
を交互に変えて撮像した映像データの一部であり、31
と33が短時間撮像画像、32と34が長時間撮像画像
である。321と341は被写体の露出オーバーでオー
バーフローを起こした領域、322と342はそれ以外
の領域である。311と331は長時間撮像であったな
らオーバーフローすると予測される領域、312と33
2はそれ以外の領域である。
って311と331から321の位置、形状に合った3
23が生成され、37で画素の輝度値の倍率補正をした
後に、322と組み合わされて35が合成され、合成器
Fによって322と342から332の位置、形状に合
った333が生成され、38で輝度値の倍率補正をした
後の331と組み合わせることによって36が合成され
る。
用を説明する。なお、図中で図3と同一部分は図3の番
号をつけている。初めに311と331の画像のパター
ンマッチングをパターンマッチング器で行い、311の
331に対する画像の位置、形状の変移量41を計算す
る。311と331に対して該変移量より32の撮像時
刻における中間画像42と43を予測生成し、両画像を
合成することによって中間画像44を生成する。次に4
4から321内に位置する領域を切り出すことによって
323を生成する。323は37で輝度値の倍率補正を
した後に322と組み合わせることによって35を合成
する作用を行う。
用を説明する。なお、図中で図3と同一部分は図3の番
号をつけている。初めに322と342の画像のパター
ンマッチングをパターンマッチング器で行い、322の
342に対する画像の位置、形状の変移量51を計算す
る。322と342に対して該変移量より33の撮像時
刻における中間画像52と53を予測生成し、両画像を
合成することによって中間画像54を生成する。次に5
4から332内に位置する領域を切り出すことによって
333を生成する。333と38で輝度値の倍率補正を
した後の331を組み合わせることによって36を合成
する作用を行う。
たは請求項13の装置で画像のパターンマッチングをパ
ターンマッチング器で行う時に二つのパターンの類似度
も算出し、類似度を類似度評価器で評価する。類似度が
小さいか、またはパターンマッチングの対象となる領域
がなかった場合には、請求項12の装置においては31
1と321間の類似度と321と331間の類似度を輪
郭線のパターンマッチングによって比較し、321と3
31間の類似度の方が大きかった場合には、請求項11
の装置の代わりに32と33を用いた直後の画像を用い
る請求項8の装置の処理動作に切り替え、311と32
1間の類似度の方が大きかった場合には、請求項11の
装置の代わりに31と32を用いた直前の画像を用いる
請求項8の装置の処理動作に切り替える作用を行う。請
求項13の装置においては322と332間の類似度と
332と342間の類似度を輪郭線のパターンマッチン
グによって比較し、332と342間の類似度の方が大
きかった場合には、請求項11の装置の代わりに33と
34を用いた直後の画像を用いる請求項8の装置の処理
動作に切り替え、322と332間の類似度の方が大き
かった場合には、請求項11の装置の代わりに32と3
3を用いる直前の画像を用いる請求項8の装置の処理動
作に切り替える作用を行う。
て図を用いて詳細に説明する。
態を図6に示す。図6の61は原映像データ格納過程、
62はデータ出力切り替え過程、63は請求項2の方法
の過程Aを実現する一実施形態、64は請求項3の方法
の過程Bを実現する一実施形態、65は出力データ格納
過程である。
求項2の方法における過程Cと過程Dの一実施形態であ
る。633と634は輪郭形状抽出過程、635は輪郭
形状のパターンマッチング過程、636は領域の移動、
変形過程、637は画素の輝度値倍率補正過程、638
は画像合成過程である。
求項3の方法における過程Cと過程Dの一実施形態であ
る。643と634は輪郭線抽出過程、645は輪郭線
形状のパターンマッチング過程、646は領域の移動、
変形過程、647は画素の輝度値倍率補正過程、648
は画像合成過程である。
なお、本実施形態では原画像データはダイナミックレン
ジが8bit(画素の輝度値のとりうる値は0から25
5)で逆ガンマ補正済みとする。また、長時間撮像時間
と短時間撮像時間の撮像時間比をkとし、ある時刻にお
ける画像と直後の画像データより該時刻における画像デ
ータを合成する処理について説明する。
像データを蓄えている。なお、本方法を実時間処理で行
える場合には、61のかわりに直接撮像時間可変カメラ
の出力(ガンマ補正済み)過程であっても構わない。
の画像を取り出し、該2画像が長時間撮像画像、短時間
撮像画像の順番であるなら長時間撮像画像を631に短
時間撮像画像を632に出力する。また、短時間撮像画
像、長時間撮像画像の順番であるなら長時間撮像画像を
641に短時間撮像画像を642に出力する。
た値以上の画素の輝度値を有する領域と該値未満の画素
の輝度値を有する領域に分離して出力する。631の指
定値を255とすることによって、631はオーバーフ
ロー領域Xを633に出力し、それ以外の領域X-(図
面ではXバーを表す)を638に出力する。632の指
定値を256/kとすることによって、632は長時間
撮像であったならオーバーフローすると予測される領域
Yを634と636に出力する。
イン符号化法(参考文献:画像解析ハンドブックpp.
579−580)で領域の輪郭線を抽出して635に出
力する。
郭形状をフーリエ記述子(参考文献:画像解析ハンドブ
ックpp.581−582)表現データに変換し、該デ
ータを比較してパターンマッチングを行うことによって
両輪郭線形状の位置、形状の変移量データをアフィン変
換行列データとして出力する(参考文献:画像処理アル
ゴリズムの最新動向、別冊OplusE、pp.58−
72)。なお、輪郭線形状のパターンマッチング方法に
は様々な公知の方法があり、本発明の特許請求の範囲は
本実施形態に限定されるものではない。また、2フレー
ム間に起きる輪郭線形状の移動変形量は微小なので変形
は考慮せず全領域均一に移動するとして2領域の重心座
標の変移量を変移データとして出力する簡略方法もあ
り、変移量データの内容は本実施形態に限定されるもの
ではない。
対象領域が一つの場合について説明しているが、633
と634で輪郭線が複数抽出されている場合は各々の輪
郭線で囲まれた領域の重心座標を求め、最も重心座標の
近い物同士で上記のパターンマッチングを行うことによ
って容易に複数の処理に拡張できることは言うまでもな
い。
換行列データに基づいて、領域Yの位置、形状を領域X
の位置、形状に合わせて637に出力する。
出力する。これにより撮像時間の異なる2フレームの画
像間の感度差が補正され、同一輝度部分を撮像した画素
の輝度値は同一となる。
れた領域X-を一枚の画像データに合成し、これを65
で格納する。これによって長時間撮像と直後の短時間撮
像の2画像より長時間撮像時刻における高ダイナミック
レンジ画像が合成される。
た値以上の画素の輝度値を有する領域と該値未満の画素
の輝度値を有する領域に分離して出力する。641の指
定値を255とすることによって、641はオーバーフ
ローしていない領域X-を643と646に出力する。
642の指定値を256/kとすることによって、64
2は長時間撮像であったならオーバーフローすると予測
される領域Yを647に、それ以外の領域Y-(図面で
はYバーを表す)を644に出力する。
ン符号化法で領域の輪郭線を抽出して645に出力す
る。
郭形状をフーリエ記述子表現データに変換し、該データ
を比較してパターンマッチングを行うことによって両輪
郭線形状の位置、形状の変移量データをアフィン変換行
列データとして出力する。
換行列データに基づいて、領域X-の位置、形状を領域
Y-の位置、形状に合わせて648に出力する。
素の輝度値をk倍して648に出力する。これにより撮
像時間の異なる2フレームの画像間の感度差が補正さ
れ、同一輝度部分を撮像した画素の輝度値は同一とな
る。
枚の画像データに合成し、これを65で格納する。これ
によって短時間撮像と直後の長時間撮像の2画像より短
時間撮像時刻における高ダイナミックレンジ画像が合成
される。
態を図7に示す。図7の71は原映像データ格納過程、
72はデータ出力切り替え過程、73は請求項5の方法
の過程Eを実現する一実施形態、74は請求項6の方法
の過程Fを実現する一実施形態、75は出力データ格納
過程である。
であり、請求項5の方法における過程Cと過程Dの一実
施形態である。734は中間画像の予測生成過程、73
5は領域切り出し過程、736は画素の輝度値の倍率補
正過程、737は画像合成過程である。
であり、請求項6の方法における過程Cと過程Dの一実
施形態である。744は中間画像の予測生成過程、74
5は領域切り出し過程、746は画素の輝度値の倍率補
正過程、747は画像合成過程である。
なお、本実施形態では原画像データはダイナミックレン
ジが8bit(画素の輝度値のとりうる値は0から25
5)で逆ガンマ補正済みとする。また、長時間撮像時間
と短時間撮像時間の撮像時間比をkとし、ある時刻にお
ける画像と直後の画像データより該時刻における画像デ
ータを合成する処理について説明する。
像データを蓄えている。なお、本方法を実時間処理で行
える場合には71のかわりに直接撮像時間可変カメラの
出力(ガンマ補正済み)過程であっても構わない。
フレームの画像を取り出し、該3画像が短時間撮像画
像、長時間撮像画像、短時間撮像画像の順番であるな
ら、直前の短時間撮像画像を731に、長時間撮像画像
を732に、直後の短長間画像を733に出力する。ま
た、該3画像が長時間撮像画像、短時間撮像画像、長時
間撮像画像の順番であるなら、直前の長短間撮像画像を
741に、短時間撮像画像を742に、直後の長時間画
像を743に出力する。
ら指定した値以上の画素の輝度値を有する領域と該値未
満の画素の輝度値を有する領域に分離して出力する。7
31の指定値を256/kとすることによって、731
は長時間撮像であったならオーバーフローすると予測さ
れる領域Yを734に出力する。732の指定値を25
5とすることによって、732はオーバーフロー領域X
を735に、それ以外の領域X-を737に出力する。
733の指定値を256/kとすることによって、73
3は長時間撮像であったならオーバーフローすると予測
される領域Yを734に出力する。
域Yの画像から短時間撮像時刻における中間画像をデュ
アルプライム予測法(参考文献:デジタル放送・インタ
ーネット技術のための情報圧縮技術、pp.218−2
19)で予測生成し、735に出力する。デュアルプラ
イム予測法は作用の説明で述べた図4の41、42、4
3、44の作用を一括して行う。請求項5の方法に記載
した画像のパターンマッチングの作用はデュアルプライ
ム予測法内のBMA(ブロックマッチングアルゴリズ
ム)にて行われる。
A以外にも様々な公知の方法があり、画像の予測生成方
法もデュアルプライム予測法以外の公知の方法があり、
本発明の特許請求の範囲は本実施形態に限定されるもの
ではない。
うち、732から出力された領域Xに含まれる領域の画
像のみを切り出して736に出力する。
の輝度値をk倍して737に出力する。これにより撮像
時間の異なる2フレームの画像間の感度差が補正され、
同一輝度部分を撮像した画素の輝度値は同一となる。
枚の画像データに合成し、これを75で格納する。これ
によって長時間撮像と直前及び直後の短時間撮像の3画
像より長時間撮像時刻における高ダイナミックレンジ画
像が合成される。
から指定した値以上の画素の輝度値を有する領域と該値
未満の画素の輝度値を有する領域に分離して出力する。
741の指定値を255とすることによって、741は
オーバーフロー領域X-を744に出力する。742の
指定値を256/kとすることによって、742は長時
間撮像であったなら、オーバーフローすると予測される
領域Yを746に、それ以外の領域Y-を745に出力
する。743の指定値を255とすることによって、7
43はオーバーフロー領域X-を744に出力する。
領域X-の画像から短時間撮像時刻における中間画像を
デュアルプライム予測法で予測生成し、745に出力す
る。デュアルプライム予測法は、作用の説明で述べた図
5の51、52、53、54の作用を一括して行う。請
求項6の方法に記載した画像のパターンマッチングの作
用はデュアルプライム予測法内のBMA(ブロックマッ
チングアルゴリズム)にて行われる。
のうち、742から出力された領域Y-に含まれる領域
の画像のみを切り出して747に出力する。
の輝度値をk倍して747に出力する。これにより撮像
時間の異なる2フレームの画像間の感度差が補正され、
同一輝度部分を撮像した画素の輝度値は同一となる。
枚の画像データに合成し、これを75で格納する。これ
によって短時間撮像と直前及び直後の短時間撮像の3画
像より短時間撮像時刻における高ダイナミックレンジ画
像が合成される。
8に示す。図8において図7と全く同じ作用を行う過程
を示す部分は図7と同じ番号をふっている。
程、72はデータ出力切り替え過程、731、732、
733は領域分離過程、734はデュアルプライム予測
法に基づく中間画像予測生成過程である。831から8
35は734の内部処理過程を示しており、831はB
MAに基づく動きベクトル抽出過程、832は動き補償
ベクトル生成過程、833は前フレーム画像を用いた中
間画像予測生成過程、834は後フレーム画像を用いた
中間画像予測生成過程、835は中間画像合成過程であ
る。836は画像パターンの類似度判定過程、81は直
前の短時間撮像画像の領域Xの輪郭線と長時間撮像画像
の領域Yの輪郭線のパターンマッチング過程、82は直
後の短時間撮像画像の領域Xの輪郭線と長時間撮像画像
の領域Yの輪郭線のパターンマッチング過程、83は処
理動作選択過程、84は長時間撮像画像と直前の短時間
撮像画像から高ダイナミックレンジ画像を合成する請求
項1の方法を実現する過程、85は長時間撮像画像と直
後の短時間撮像画像から高ダイナミックレンジ画像を合
成する請求項1の方法を実現する過程、75は出力デー
タ格納過程である。
画像、短時間撮像画像の順に並んだ3フレームの画像よ
り請求項7の方法を実施することによって、請求項4の
方法から直前または直後の画像を用いる請求項1の方法
に切り替える例について説明する。
を72は取り出し、直前の短時間撮像画像は731に、
長時間撮像画像は732に、直後の短時間撮像画像は7
33に出力する。
フローしたであろうと予測される領域Yを831と81
に出力する。733は長時間撮像であったならオーバー
フローしたであろうと予測される領域Yを831と82
に出力する。
中間画像予測生成過程であり、内部ブロックの831か
ら835は公知の処理過程、836は請求項7の方法を
構成する新規の過程である。初めに従来の734の動作
について簡単に説明する。
ンマッチング法でパターンマッチングを行い、各々のブ
ロック毎に変移ベクトルを算出して832に、また、2
領域のマッチング結果の残差であるMAE(平均値絶対
値誤差)を836に出力する。832は長時間撮像画像
の撮像時刻における画像にするための変移量(補償ベク
トル)を直前の画像と直後の画像毎に別々に算出して8
33と834に出力する。
出力された領域Yを部分中間画像に移動変形し835に
出力する。834は補償ベクトルを用いて733から出
力された領域Yを部分中間画像に移動変形し835に出
力する。835は2枚の部分中間画像を合成することに
よって1枚の中間画像を生成する。以降、請求項4の方
法であるならば図7の735、736、737の流れに
沿って処理が進んでいく。
合について説明する。836は831から出力された各
ブロック毎のMAEを調べ、予め与えられた閾値vに対
して、全てのブロックのMAEの総和>vであるならば
2領域の類似度が低いと判定して734以降の処理を停
止し、81と82に動作を命令する。
の方法であるMSE(平均二乗誤差)や相互相関関数で
与えることもできる。また、類似度判定もこれら誤差成
分のみで判断するだけでなく、831で生成された各ブ
ロック毎の移動ベクトルの分散から判定することもでき
るが、2領域の類似度を表現できる手法であるならば類
似度の表現方法および判定方法は本実施形態に限定され
るものではない。
のパターンマッチングをすることによって移動変形量を
算出し83に出力する。なお、輪郭線の抽出処理や移動
変形量の実施方法は図6の実施形態に述べた符号化チェ
イン法およびフーリエ記述子変換法によるパターンマッ
チングとする。
のパターンマッチングをすることによって移動変形量を
算出し83に出力する。
の短時間撮像画像と直後の短時間撮像画像のうちより長
時間撮像画像と類似度の高い画像を決定する。類似度判
定は移動変形量のより小さい方とする。例えば移動変形
量が図6で説明した実施形態のごとくアフィン変換行列
で与えられる場合には、正規化した行列の全要素の値の
二乗和を算出してこれを類似度とする。なお、二乗和以
外にも類似度を表現することは可能であり、また、移動
変形量がアフィン変換行列式以外のデータ構造で与えら
れる場合にもそれに対応して類似度の表現式は変化する
が、2輪郭線間の類似度を表現する式であるならば本実
施形態に限定されるものではない。
ら計算した類似度より大きい場合、長時間撮像画像と直
前の短時間撮像画像の類似度がより大きいと判定し84
を動作させる。82から計算した類似度がより大きい場
合、長時間撮像画像と直後の短時間撮像画像の類似度が
より大きいと判定し85を動作させる。
撮像画像から図6の実施形態の過程によって高ダイナミ
ックレンジ画像を合成し、75で格納する。
撮像画像から図6の実施形態の過程によって高ダイナミ
ックレンジ画像を合成し、75で格納する。
ら高ダイナミックレンジ映像を生成する説明図を図9に
示す。91から96は短時間撮像画像と長時間撮像画像
の交互に繰り返しで構成される原映像である。ここで9
1、93、95は長時間撮像画像、92、94、96は
短時間撮像画像である。フレーム94以降でスポットラ
イトが照明され画像内の明るい部分の領域形状が大幅に
変化しているとする。
ームの画像から1フレームの高ダイナミックレンジ画像
を合成する請求項4の方法が使われる(97、98、9
11、912)が、99の処理においては92と94で
類似度が低いと判定され、93とより類似度の高い画像
は92であると判定されて、93と直前の92の2フレ
ームの画像から1フレームの高ダイナミックレンジ画像
を合成する請求項1の方法が使われる。910の処理に
おいては93と95で類似度が低いと判定され、94と
より類似度の高い画像は95であると判定されて、94
と直後の95の2フレームの画像から1フレームの高ダ
イナミックレンジ画像を合成する請求項1の方法が使わ
れる。
形態を図10に示す。図10の101は磁気記録装置ま
たはメモリ等で構成される原映像データ格納器、102
はCPUを用いた制御装置、103は請求項9の装置の
合成器Aを実現する一実施形態、104は請求項10の
装置の合成器Bを実現する一実施形態、105は磁気記
録装置またはメモリ等で構成される出力データ格納器で
ある。
請求項9の装置における検出器Cと検出器Dの一実施形
態である。1033と1034は輪郭形状抽出器、10
35は輪郭形状のパターンマッチング器、1036は領
域の移動、変形器、1037は画素の輝度値倍率補正
器、1038は画像合成器である。
請求項10の装置における検出器Cと検出器Dの一実施
形態である。1043と1034は輪郭線抽出器、10
45は輪郭線形状のパターンマッチング器、1046は
領域の移動、変形器、1047は画素の輝度値倍率補正
器、1048は画像合成器である。
なお、本実施形態では原画像データはダイナミックレン
ジが8bit(画素の輝度値のとりうる値は0から25
5)で逆ガンマ補正済みとする。また、長時間撮像時間
と短時間撮像時間の撮像時間比をkとし、ある時刻にお
ける画像と直後の画像データより該時刻における画像デ
ータを合成する処理について説明する。
像データを蓄えている。なお、本装置を実時間処理動作
できる場合には101を省略して撮像時間可変カメラの
出力(ガンマ補正済み)を直接102に接続しても構わ
ない。
ームの画像を取り出し、該2画像が長時間撮像画像、短
時間撮像画像の順番であるなら、長時間撮像画像を10
31に、短時間撮像画像を1032に出力する。また、
短時間撮像画像、長時間撮像画像の順番であるなら、長
時間撮像画像を1041に、短時間撮像画像を1042
に出力する。
定した値以上の画素の輝度値を有する領域と該値未満の
画素の輝度値を有する領域に分離して出力する。103
1の指定値を255とすることによって、1031はオ
ーバーフロー領域Xを1033に出力し、それ以外の領
域X-を1038に出力する。1032の指定値を25
6/kとすることによって、1032は長時間撮像であ
ったならオーバーフローすると予測される領域Yを10
34と1036に出力する。
ェイン符号化法(参考文献:画像解析ハンドブックp
p.579−580)で領域の輪郭線を抽出して103
5に出力する。
れた輪郭形状をフーリエ記述子(参考文献:画像解析ハ
ンドブックpp.581−582)表現データに変換
し、該データを比較してパターンマッチングを行うこと
によって両輪郭線形状の位置、形状の変移量データをア
フィン変換行列データとして出力する(参考文献:画像
処理アルゴリズムの最新動向、別冊OplusE、p
p.58−72)。なお、輪郭線形状のパターンマッチ
ング装置には様々な公知の装置があり。輪郭線が抽出で
きるのであれば本発明の特許請求の範囲は本実施形態に
限定されるものではない。また、2フレーム間に起きる
輪郭線形状の移動変形量は微小なので変形は考慮せず、
全領域均一に移動するとして2領域の重心座標の変移量
を変移データとして出力する簡略化した装置(例:MU
SE方式HiVisionのエンコーダ)もあり、本発
明の特許請求の範囲を本実施形態に限定するものではな
い。
対象領域が一つの場合について説明しているが、103
3と1034で輪郭線が複数抽出されている場合は各々
の輪郭線で囲まれた領域の重心座標を求め、最も重心座
標の近い物同士で上記のパターンマッチングを行うこと
によって、容易に複数の処理に拡張できることは言うま
でもない。
ン変換行列データに基づいて、領域Yの位置、形状を領
域Xの位置、形状に合わせて1037に出力する。
8に出力する。これにより撮像時間の異なる2フレーム
の画像間の感度差が補正され、同一輝度部分を撮像した
画素の輝度値は同一となる。
出力された領域X-を一枚の画像データに合成して10
5に格納する。これによって長時間撮像と直後の短時間
撮像の2画像より長時間撮像時刻における高ダイナミッ
クレンジ画像が合成される。
定した値以上の画素の輝度値を有する領域と該値未満の
画素の輝度値を有する領域に分離して出力する。104
1の指定値を255とすることによって、1041はオ
ーバーフローしていない領域X-を1043と1046
に出力する。1042の指定値を256/kとすること
によって、1042は長時間撮像であったならオーバー
フローすると予測される領域Yを1047に、それ以外
の領域Y-を1044に出力する。
ェイン符号化法で領域の輪郭線を抽出して1045に出
力する。
れた輪郭形状をフーリエ記述子表現データに変換し、該
データを比較してパターンマッチングを行うことによっ
て両輪郭線形状の位置、形状の変移量データをアフィン
変換行列データとして出力する。
ン変換行列データに基づいて、領域X-の位置、形状を
領域Y-の位置、形状に合わせて1048に出力する。
の画素の輝度値をk倍して1048に出力する。これに
より撮像時間の異なる2フレームの画像間の感度差が補
正され、同一輝度部分を撮像した画素の輝度値は同一と
なる。
力を一枚の画像データに合成して105に格納する。こ
れによって短時間撮像と直後の長時間撮像の2画像より
短時間撮像時刻における高ダイナミックレンジ画像が合
成される。
施形態を図11に示す。図11の111は磁気記録装置
またはメモリ等で構成される原映像データ格納器、11
2はCPUを用いた制御装置、113は請求項12の装
置の合成器Eを実現する一実施形態、114は請求項1
3の装置の合成器Fを実現する一実施形態、115は磁
気記録装置またはメモリ等で構成される出力データ格納
器である。
器であり、請求項12の装置における検出器Cと検出器
Dの一実施形態である。1134は中間画像の予測生成
器、1135は領域切り出し器、1136は画素の輝度
値の倍率補正器、1137は画像合成器である。
器であり、請求項12の装置における検出器Cと検出器
Dの一実施形態である。1144は中間画像の予測生成
器、1145は領域切り出し器、1146は画素の輝度
値の倍率補正器、1147は画像合成器である。
なお、本実施形態では原画像データはダイナミックレン
ジが8bit(画素の輝度値のとりうる値は0から25
5)で逆ガンマ補正済みとする。また、長時間撮像時間
と短時間撮像時間の撮像時間比をkとし、ある時刻にお
ける画像と直後の画像データより該時刻における画像デ
ータを合成する処理について説明する。
像データを蓄えている。なお、本装置を実時間処理動作
できる場合には111を省略して撮像時間可変カメラの
出力(ガンマ補正済み)を直接112に接続しても構わ
ない。
直後フレームの画像を取り出し、該3画像が短時間撮像
画像、長時間撮像画像、短時間撮像画像の順番であるな
ら、直前の短時間撮像画像を1131に、長時間撮像画
像を1132に、直後の短長間画像を1133に出力す
る。また、該3画像が長時間撮像画像、短時間撮像画
像、長時間撮像画像の順番であるなら、直前の長短間撮
像画像を1141に、短時間撮像画像を1142に、直
後の長時間画像を1143に出力する。
画像から指定した値以上の画素の輝度値を有する領域と
該値未満の画素の輝度値を有する領域に分離して出力す
る。1131の指定値を256/kとすることによっ
て、1131は長時間撮像であったならオーバーフロー
すると予測される領域Yを1134に出力する。113
2の指定値を255とすることによって、1132はオ
ーバーフロー領域Xを1135にそれ以外の領域X-を
1137に出力する。1133の指定値を256/kと
することによって、1133は長時間撮像であったなら
オーバーフローすると予測される領域Yを1134に出
力する。
れた領域Yの画像から短時間撮像時刻における中間画像
をデュアルプライム予測演算器(参考文献:デジタル放
送・インターネット技術のための情報圧縮技術、pp.
218−219)で予測生成し1135に出力する。デ
ュアルプライム予測演算器は作用の説明で述べた図4の
41、42、43、44の作用を一括して行う。デュア
ルプライム演算器内のBMA(ブロックマッチングアル
ゴリズム)演算器が請求項12の装置に記載した画像の
パターンマッチング器に該当する。
MA以外にも様々な公知の装置があり、画像の予測生成
器もデュアルプライム予測演算器以外の公知の装置があ
り、画像のパターンマッチングを用いて予測生成を行う
装置であるなら本発明の特許請求の範囲を本実施形態に
限定するものではない。
像のうち、1132から出力された領域Xに含まれる領
域の画像のみを切り出して1136に出力する。
画素の輝度値をk倍して1137に出力する。これによ
り撮像時間の異なる2フレームの画像間の感度差が補正
され。同一輝度部分を撮像した画素の輝度値は同一とな
る。
力を一枚の画像データに合成して115に格納する。こ
れによって長時間撮像と直前及び直後の短時間撮像の3
画像より長時間撮像時刻における高ダイナミックレンジ
画像が合成される。
た画像から指定した値以上の画素の輝度値を有する領域
と該値未満の画素の輝度値を有する領域に分離して出力
する。1141の指定値を255とすることによって、
1141はオーバーフロー領域X-を1144に出力す
る。1142の指定値を256/kとすることによっ
て、1142は長時間撮像であったならオーバーフロー
すると予測される領域Yを1146に、それ以外の領域
Y-を1145に出力する。1143の指定値を255
とすることによって、1143はオーバーフロー領域X
-を1144に出力する。
された領域X-の画像から短時間撮像時刻における中間
画像をデュアルプライム予測演算器で予測生成し、11
45に出力する。デュアルプライム予測演算器は作用の
説明で述べた図5の51、52、53、54の作用を一
括して行う。デュアルプライム演算器内のBMA(ブロ
ックマッチングアルゴリズム)演算器が請求項13の装
置に記載した画像のパターンマッチング器に該当する。
像のうち、1142から出力された領域Y-に含まれる
領域の画像のみを切り出して1147に出力する。
画素の輝度値をk倍して1147に出力する。これによ
り撮像時間の異なる2フレームの画像間の感度差が補正
され、同一輝度部分を撮像した画素の輝度値は同一とな
る。
力を一枚の画像データに合成して115に格納する。こ
れによって短時間撮像と直前及び直後の短時間撮像の3
画像より短時間撮像時刻における高ダイナミックレンジ
画像が合成される。
撮像画像、長時間撮像画像、短時間撮像画像の順に並ん
だ3フレームの画像を処理する場合の実施形態を図12
に示す。図12において図11と全く同じ装置を示す部
分は図11と同じ番号をふっている。
たはメモリ等で構成される原映像データ格納器、112
はCPUを用いた制御装置、1131、1132、11
33は領域分離器、1134はデュアルプライム予測法
に基づく中間画像予測生成器である。1231から12
35は1134の内部処理を行う装置を示しており、1
231はBMAに基づく動きベクトル抽出器、1232
は動き補償ベクトル生成器、1233は前フレーム画像
を用いた中間画像予測生成器、1234は後フレーム画
像を用いた中間画像予測生成器、1235は中間画像合
成器である。1236は画像パターンの類似度判定器、
121は直前の短時間撮像画像の領域Xの輪郭線と長時
間撮像画像の領域Yの輪郭線のパターンマッチング器、
122は直後の短時間撮像画像の領域Xの輪郭線と長時
間撮像画像の領域Yの輪郭線のパターンマッチング器、
123は処理動作選択器、124は長時間撮像画像と直
前の短時間撮像画像から高ダイナミックレンジ画像を合
成する請求項8の装置、125は長時間撮像画像と直後
の短時間撮像画像から高ダイナミックレンジ画像を合成
する請求項8の装置、115は磁気記録装置またはメモ
リ等で構成される出力データ格納器である。
画像、短時間撮像画像の順に並んだ3フレームの画像よ
り請求項14の装置を用いて、請求項11の装置から直
前または直後の画像を用いる請求項8の装置に処理動作
を切り替える例について説明する。
12は取り出し、直前の短時間撮像画像は1131に、
長時間撮像画像は1132に、直後の短時間撮像画像は
1133に出力する。1131は長時間撮像であったな
らオーバーフローしたであろうと予測される領域Yを1
231と121に出力する。1133は長時間撮像であ
ったならオーバーフローしたであろうと予測される領域
Yを1231と122に出力する。
く中間画像予測生成装置であり、内部ブロックの123
1から1235は公知の処理装置、1236は請求項1
4を構成する新規の装置である。初めに従来の1134
の動作について簡単に説明する。
ーンマッチングを行い、各々のブロック毎に変移ベクト
ルを算出して1232に、また、2領域のマッチング結
果の残差であるMAE(平均値絶対値誤差)を1236
に出力する。1232は長時間撮像画像の撮像時刻にお
ける画像にするための変移量(補償ベクトル)を直前の
画像と直後の画像毎に別々に算出して1233と123
4に出力する。
から出力された領域Yを部分中間画像に移動変形し12
35に出力する。1234は補償ベクトルを用いて11
33から出力された領域Yを部分中間画像に移動変形し
1235に出力する。1235は2枚の部分中間画像を
合成することによって1枚の中間画像を生成する。以
降、請求項11の装置で処理が続く場合には図11の1
135、1136、1137の流れに沿って処理が進ん
でいく。
場合について説明する。1236は1231から出力さ
れた各ブロック毎のMAEを調べ、予め与えられた閾値
vに対して、全てのブロックのMAEの総和>vである
ならば2領域の類似度が低いと判定して1132の処理
を停止し、121と122に動作を命令する。
1132から出力された領域Xについて、輪郭線を符号
化チェイン法による輪郭線抽出器によって抽出し、フー
リエ記述子変換法によるパターンマッチング器によって
移動変形量を算出し123に出力する。
1132から出力された領域Xについて、輪郭線を符号
化チェイン法による輪郭線抽出器によって抽出し、フー
リエ記述子変換法によるパターンマッチング器によって
移動変形量を算出し123に出力する。
行うことにより、直前の短時間撮像画像と直後の短時間
撮像画像のうちより長時間撮像画像と類似度の高い画像
を決定する。類似度判定は移動変形量のより小さい方と
する。例えば移動変形量が図10で説明した実施形態の
ごとくアフィン変換行列で与えられる場合には、正規化
した行列の全要素の値の二乗和を算出してこれを類似度
とする。なお、二乗和以外にも類似度を表現することは
可能であり。また、移動変形量がアフィン変換行列式以
外のデータ構造で与えられる場合にもそれに対応して類
似度の表現式は変化するが、2輪郭線の類似度を表現す
る式であるならば本発明の特許請求の範囲は本実施形態
に限定されるものではない。
22から計算した類似度より大きい場合、長時間撮像画
像と直前の短時間撮像画像の類似度がより大きいと判定
し124を動作させる。122から計算した類似度がよ
り大きい場合、長時間撮像画像と直後の短時間撮像画像
の類似度がより大きいと判定し125を動作させる。
像撮像画像から図10の実施形態の装置によって高ダイ
ナミックレンジ画像を合成し115に格納する。
像撮像画像から図10の実施形態の装置によって高ダイ
ナミックレンジ画像を合成し115に格納する。
る各部の一部もしくは全部の機能をコンピュータのプロ
グラムで構成し、そのプログラムをコンピュータを用い
て実行して本発明を実現することができること、あるい
は、図6〜図8で説明した処理過程による方法の処理の
手順をコンピュータのプログラムで構成し、そのプログ
ラムをコンピュータに実行させることができることは言
うまでもなく、コンピュータでその機能を実現するため
のプログラム、あるいは、コンピュータにその処理の手
順を実行させるためのプログラムを、そのコンピュータ
が読み取り可能な記録媒体、例えば、FD(フロッピー
ディスク(登録商標))や、MO、ROM、メモリカー
ド、CD、DVD、リムーバブルディスクなどに記録し
て、保存したり、配布したりすることが可能である。ま
た、上記のプログラムをインターネットや電子メールな
ど、ネットワークを通して提供することも可能である。
の11に示すように2フレームの画像より単一の合成ア
ルゴリズムで1フレームの画像を合成するためフレーム
レートが半減してしまうが、本発明の方法および装置
は、請求項1の方法と請求項8の装置では図1(b)の
12、請求項4の方法と請求項11の装置では図1
(c)の13のように、どちらも原映像と同フレームレ
ートで高ダイナミックレンジ映像を生成することができ
る。
項8の装置では、図2に示したように撮像時刻の異なる
2フレームの画像をそのまま合成せず、同じ撮像時刻に
得られるはずの画像を予測生成した後に合成するため、
動画像であっても不自然な画像を合成しない。
置は、輪郭線部の動きと輪郭線内の動きが同じ時に正確
な合成映像が提供できるが、請求項4の方法および請求
項11の装置は輪郭線部の動きと輪郭線内部の動きが別
々の場合でも正確な合成画像を提供することができるの
で、より高品質な高ダイナミックレンジ映像を提供でき
る。
の装置は、連続する3フレームの映像を必要とするた
め、映像の切り替わり点や、画像内容がフレーム間で不
連続的に変化するような場合には適用できないか、また
は無理に適用しても低品質の合成画像しか得られない等
の問題点もある。そこで、請求項7の方法および請求項
14の装置において、前記の不連続な部分を2画像の類
似度を調べることによって検出し、請求項4の方法と請
求項1の方法あるいは請求項11の装置と請求項8の装
置を適応的に切り替えて処理を行うことによって、図9
に示したように画像間で不連続な部分が存在しても常に
最適な画像合成方法および装置を選択して高ダイナミッ
クレンジ映像を合成することが可能となる。
項1の方法を、(3)は本発明の請求項4の方法を、そ
れぞれ用いた場合の原画像データと合成画像データの対
応を説明した図である。
8、9、10の装置の作用を説明した図である。
置の作用を説明した図である。
置の作用を説明した図である。
置の作用を説明した図である。
を示した図である。
を示した図である。
図である。
置を用いた場合の原画像データと合成画像データの対応
関係を示した図である。
形態を示した図である。
実施形態を示した図である。
した図である。
撮像画像の領域Yの輪郭線のパターンマッチング過程 82…直後の短時間撮像画像の領域Xの輪郭線と長時間
撮像画像の領域Yの輪郭線のパターンマッチング過程 83…処理動作選択過程 831…動きベクトル抽出過程 832…動き補償ベクトル生成過程 833…前フレーム画像を用いた中間画像予測生成過程 834…後フレーム画像を用いた中間画像予測生成過程 835…中間画像合成過程 836…画像パターンの類似度判定過程 84…長時間撮像画像と直前の短時間撮像画像から高ダ
イナミックレンジ画像を合成する方法を実現する過程 85…長時間撮像画像と直後の短時間撮像画像から高ダ
イナミックレンジ画像を合成する方法を実現する過程 101…原映像データ格納器 102…制御装置 103…合成器A 1031、1032…領域分離器 1033、1034…輪郭形状抽出器 1035…パターンマッチング器 1036…領域の移動、変形器 1037…画素の輝度値倍率補正器 1038…画像合成器 104…合成器B 1041、1042…領域分離器 1043、1034…輪郭線抽出器 1045…パターンマッチング器 1046…領域の移動、変形器 1047…画素の輝度値倍率補正器 1048…画像合成器 105…出力データ格納器 111…原映像データ格納器 112…制御装置 113…合成器E 1131、1132、1133…領域分離器 1134…中間画像の予測生成器 1135…領域切り出し器 1136…画素の輝度値の倍率補正器 1137…画像合成器 114…合成器F 1141、1142、1143…領域分離器 1144…中間画像の予測生成器 1145…領域切り出し器 1146…画素の輝度値の倍率補正器 1147…画像合成器 115…出力データ格納器 121…直前の短時間撮像画像の領域Xの輪郭線と長時
間撮像画像の領域Yの輪郭線のパターンマッチング器 122…直後の短時間撮像画像の領域Xの輪郭線と長時
間撮像画像の領域Yの輪郭線のパターンマッチング器 123…処理動作選択器 1231…動きベクトル抽出器 1232…動き補償ベクトル生成器 1233…前フレーム画像を用いた中間画像予測生成器 1234…後フレーム画像を用いた中間画像予測生成器 1235…中間画像合成器 1236…画像パターンの類似度判定器 124…長時間撮像画像と直前の短時間撮像画像から高
ダイナミックレンジ画像を合成する装置 125…長時間撮像画像と直後の短時間撮像画像から高
ダイナミックレンジ画像を合成する装置
Claims (16)
- 【請求項1】 撮像時間を可変に制御できる撮像装置を
用いて長時間撮像と短時間撮像を交互に繰り返して高ダ
イナミックレンジ映像を生成する方法において、 長時間撮像と直後または直前の短時間撮像の2画像より
長時間撮像時刻における高ダイナミックレンジ画像を合
成する過程Aと、 短時間撮像と直後または直前の長時間撮像の2画像より
短時間撮像時刻における高ダイナミックレンジ画像を合
成する過程Bの異なる2つの合成過程とを有し、 長時間撮像時刻における画像については過程Aを実行
し、短時間撮像時刻における画像については過程Bを実
行することを特徴とする高ダイナミックレンジ映像の生
成方法。 - 【請求項2】 過程Aでは、 長時間撮像の画像内にあるオーバーフロー領域Xを検出
する過程Cと、 短時間撮像の画像において長時間撮像であったならオー
バーフローすると予測される領域Yを検出する過程D
と、 2領域の輪郭線のパターンマッチングを行う過程とを有
し、 過程Cにより長時間撮像画像を領域Xとそれ以外の領域
X-に分離し、 過程Dにより直後または直前の短時間撮像画像から領域
Yを抜き出し、 パターンマッチングを行う過程により領域Yの位置、形
状を領域Xの位置、形状に合わせた後で画素の輝度値の
倍率補正を行った後に、領域X-と合成することによっ
て、長時間撮像と直後または直前の短時間撮像の2画像
から長時間撮像時刻における画像を合成することを特徴
とする請求項1に記載の高ダイナミックレンジ映像の生
成方法。 - 【請求項3】 過程Bでは、 長時間撮像の画像内にあるオーバーフロー領域Xを検出
する過程Cと、 短時間撮像の画像において長時間撮像であったならオー
バーフローすると予測される領域Yを検出する過程D
と、 2領域の輪郭線のパターンマッチングを行う過程とを有
し、 過程Dにより短時間撮像画像を領域Yとその他の領域Y
-に分離し、 過程Cにより直後または直前の長時間撮像画像を領域X
とその他の領域X-に分離し、 パターンマッチングを行う過程により領域X-の位置、
形状を領域Y-の位置、形状に合わせた後で、画素の輝
度値の倍率補正を行った後の領域Yと合成することによ
って、短時間撮像と直後または直前の長時間撮像の2画
像から短時間撮像時刻における画像を合成することを特
徴とする請求項1に記載の高ダイナミックレンジ映像の
生成方法。 - 【請求項4】 撮像時間を可変に制御できる撮像装置を
用いて長時間撮像と短時間撮像を交互に繰り返して高ダ
イナミックレンジ映像を生成する方法において、 長時間撮像と直前の短時間撮像と直後の短時間撮像の3
画像より長時間撮像時刻における高ダイナミックレンジ
画像を合成する過程Eと、 短時間撮像と直前の長時間撮像と直後の長時間撮像の3
画像より短時間撮像時刻における高ダイナミックレンジ
画像を合成する過程Fの異なる2つの合成過程とを有
し、 長時間撮像時刻における画像については過程Eを実行
し、短時間撮像時刻における画像については過程Fを実
行することを特徴とする高ダイナミックレンジ映像の生
成方法。 - 【請求項5】 過程Eでは、 長時間撮像の画像中にあるオーバーフロー領域Xを検出
する過程Cと、 短時間撮像の画像において長時間撮像であったならオー
バーフローすると予測される領域Yを検出する過程D
と、 2領域の画像のパターンマッチングを行う過程とを有
し、 過程Cにより長時間撮像の画像を領域Xとそれ以外の領
域X-に分離し、 過程Dにより直前の短時間撮像の画像から領域Y1を切
り出し、 過程Dにより直後の短時間撮像の画像から領域Y2を切
り出し、 2領域の画像のパターンマッチングを行う過程により2
領域である領域Y1と領域Y2から長時間撮像時刻にお
ける中間画像Y3を生成し、 中間画像Y3から領域Xと位置的に重なる領域を切り出
し、画素の輝度値の倍率補正を行った後で、領域X-と
合成することによって、長時間撮像と直前の短時間画像
と直後の短時間撮像の3画像から長時間撮像時刻におけ
る画像を合成することを特徴とする請求項4に記載の高
ダイナミックレンジ映像の生成方法。 - 【請求項6】 過程Fでは、 長時間撮像の画像中にあるオーバーフロー領域Xを検出
する過程Cと、 短時間撮像の画像において長時間撮像であったならオー
バーフローすると予測される領域Yを検出する過程D
と、 2領域の画像のパターンマッチングを行う過程とを有
し、 過程Dにより短時間撮像の画像を領域Yとその他の領域
Y-に分離し、 過程Cにより直前の長時間撮像の画像を領域X1とその
他の領域X1-に分離し、 過程Cにより直後の長時間撮像の画像を領域X2とその
他の領域X2-に分離し、 2領域の画像のパターンマッチングを行う過程により2
領域である領域X1-と領域X2-から短時間撮像時刻に
おける中間画像X3-を生成し、 中間画像X3-から領域Y-と位置的に重なる領域を切り
出した後で、画素の輝度値の倍率補正を行った後の領域
Yと合成することによって、短時間撮像と直前の長時間
撮像と直後の短時間撮像の3画像から短時間撮像時刻に
おける画像を合成することを特徴とする請求項4に記載
の高ダイナミックレンジ映像の生成方法。 - 【請求項7】 2領域の画像のパターンマッチングを行
う過程が2領域のパターンの類似度を算出する過程も有
し、 請求項5または請求項6に記載の高ダイナミックレンジ
映像の生成方法において、 2領域の画像のパターンマッチングを行う際に類似度も
算出し、予め設定された値よりも類似度が小さい場合に
は、請求項5においてはY1とXおよびY2とXに対し
て輪郭線のパターンマッチングを行い、請求項6におい
てはX1とYおよびX2とYに対して輪郭線のパターン
マッチングを行い、 該輪郭線のパターンマッチングの結果、XとY2あるい
はYとX2の類似度の方が大きい場合は請求項4に記載
の高ダイナミックレンジ映像の生成方法の代わりに直後
の画像を用いる請求項1に記載の高ダイナミックレンジ
映像の生成方法に切り替え、Y1とXあるいはX1とY
の類似度の方が大きい場合は請求項4に記載の高ダイナ
ミックレンジ映像の生成方法の代わりに直前の画像を用
いる請求項1に記載の高ダイナミックレンジ映像の生成
方法に切り替えることを特徴とする高ダイナミックレン
ジ映像の生成方法。 - 【請求項8】 撮像時間を可変に制御できる撮像装置を
用いて長時間撮像と短時間撮像を交互に繰り返して高ダ
イナミックレンジ映像を生成する装置において、 長時間撮像と直後または直前の短時間撮像の2画像より
長時間撮像時刻における高ダイナミックレンジ画像を合
成する合成器Aと、 短時間撮像と直後または直前の長時間撮像の2画像より
短時間撮像時刻における高ダイナミックレンジ画像を合
成する合成器Bの異なる2つの合成器とを有し、 長時間撮像時刻における画像については合成器Aを用
い、短時間撮像時刻における画像については合成器Bを
用いることを特徴とする高ダイナミックレンジ映像の生
成装置。 - 【請求項9】 合成器Aは、 長時間撮像の画像内にあるオーバーフロー領域Xを検出
する検出器Cと、 短時間撮像の画像において長時間撮像であったならオー
バーフローすると予測される領域Yを検出する検出器D
と、 2領域の輪郭線のパターンマッチングを行うパターンマ
ッチング器とを有し、 検出器Cを用いて長時間撮像画像を領域Xとそれ以外の
領域X-に分離し、検出器Dを用いて直後または直前の
短時間撮像画像から領域Yを抜き出し、該パターンマッ
チング器を用いて領域Yの位置、形状を領域Xの位置、
形状に合わせた後で画素の輝度値の倍率補正を行った後
に、領域X-と合成することによって、長時間撮像と直
後または直前の短時間撮像の2画像から長時間撮像時刻
における画像を合成するものであることを特徴とする請
求項8に記載の高ダイナミックレンジ映像の生成装置。 - 【請求項10】 合成器Bは、 長時間撮像の画像内にあるオーバーフロー領域Xを検出
する検出器Cと、 短時間撮像の画像において長時間撮像であったならオー
バーフローすると予測される領域Yを検出する検出器D
と、 2領域の輪郭線のパターンマッチングを行うパターンマ
ッチング器とを有し、検出器Dを用いて短時間撮像画像
を領域Yとその他の領域Y-に分離し、検出器Cを用い
て直後または直前の長時間撮像画像を領域Xとその他の
領域X-に分離し、該パターンマッチング器を用いて領
域X-の位置、形状を領域Y-の位置、形状に合わせた後
で、画素の輝度値の倍率補正を行った後の領域Yと合成
することによって、短時間撮像と直後または直前の長時
間撮像の2画像から短時間撮像時刻における画像を合成
するものであることを特徴とする請求項8に記載の高ダ
イナミックレンジ映像の生成装置。 - 【請求項11】 撮像時間を可変に制御できる撮像装置
を用いて長時間撮像と短時間撮像を交互に繰り返して高
ダイナミックレンジ映像を生成する装置において、 長時間撮像と直前の短時間撮像と直後の短時間撮像の3
画像より長時間撮像時刻における高ダイナミックレンジ
画像を合成する合成器Eと、 短時間撮像と直前の長時間撮像と直後の長時間撮像の3
画像より短時間撮像時刻における高ダイナミックレンジ
画像を合成する合成器Fの異なる2つの合成器とを有
し、 長時間撮像時刻における画像については合成器Eを用
い、短時間撮像時刻における画像については合成器Fを
用いることを特徴とする高ダイナミックレンジ映像の生
成装置。 - 【請求項12】 合成器Eは、 長時間撮像の画像中にあるオーバーフロー領域Xを検出
する検出器Cと、 短時間撮像の画像において長時間撮像であったならオー
バーフローすると予測される領域Yを検出する検出器D
と、 2領域の画像のパターンマッチングを行うパターンマッ
チング器とを有し、 検出器Cを用いて長時間撮像の画像を領域Xとそれ以外
の領域X-に分離し、検出器Dを用いて直前の短時間撮
像の画像から領域Y1を切り出し、検出器Dを用いて直
後の短時間撮像の画像から領域Y2を切り出し、領域Y
1と領域Y2から該パターンマッチング器を用いて長時
間撮像時刻における中間画像Y3を生成し、中間画像Y
3から領域Xと位置的に重なる領域を切り出し、画素の
輝度値の倍率補正を行った後で、領域X-と合成するこ
とによって、長時間撮像と直前の短時間画像と直後の短
時間撮像の3画像から長時間撮像時刻における画像を合
成するものであることを特徴とする請求項11に記載の
高ダイナミックレンジ映像の生成装置。 - 【請求項13】 合成器Fは、 長時間撮像の画像中にあるオーバーフロー領域Xを検出
する検出器Cと、 短時間撮像の画像において長時間撮像であったならオー
バーフローすると予測される領域Yを検出する検出器D
と、 2領域の画像のパターンマッチングを行うパターンマッ
チング器とを有し、 検出器Dを用いて短時間撮像の画像を領域Yとその他の
領域Y-に分離し、検出器Cを用いて直前の長時間撮像
の画像を領域X1とその他の領域X1-に分離し、検出
器Cを用いて直後の長時間撮像の画像を領域X2とその
他の領域X2-に分離し、領域X1-と領域X2-から該
パターンマッチング器を用いて短時間撮像時刻における
中間画像X3-を生成し、中間画像X3-から領域Y-と
位置的に重なる領域を切り出した後で、画素の輝度値の
倍率補正を行った後の領域Yと合成することによって、
短時間撮像と直前の長時間撮像と直後の短時間撮像の3
画像から短時間撮像時刻における画像を合成するもので
あることを特徴とする請求項11に記載の高ダイナミッ
クレンジ映像の生成装置。 - 【請求項14】 2領域の画像のパターンマッチングを
行うパターンマッチング器が2領域の画像のパターンの
類似度を算出する類似度評価器も有し、 請求項12または請求項13に記載の高ダイナミックレ
ンジ映像の生成装置おいて、画像のパターンマッチング
を行う際に類似度も算出し、予め設定された値よりも類
似度が小さい場合には、請求項12に記載の高ダイナミ
ックレンジ映像の生成装置おいてはY1とXおよびY2
とXに対して輪郭線のパターンマッチングを行い、請求
項13に記載の高ダイナミックレンジ映像の生成装置お
いてはX1とYおよびX2とYに対して輪郭線のパター
ンマッチングを行い、XとY2あるいはYとX2の類似
度の方が大きい場合は請求項11に記載の高ダイナミッ
クレンジ映像の生成装置の代わりに直後の画像を用いる
請求項8に記載の高ダイナミックレンジ映像の生成装置
で処理を行い、Y1とXあるいはX1とYの類似度の方
が大きい場合は請求項11に記載の高ダイナミックレン
ジ映像の生成装置の代わりに直前の画像を用いる請求項
8に記載の高ダイナミックレンジ映像の生成装置で処理
を行うものであることを特徴とする高ダイナミックレン
ジ映像の生成装置。 - 【請求項15】 請求項1から請求項7のいずれか1項
に記載の高ダイナミックレンジ映像の生成方法における
過程を、コンピュータに実行させるためのプログラムと
したことを特徴とする高ダイナミックレンジ映像の生成
方法の実行プログラム。 - 【請求項16】 請求項1から請求項7のいずれか1項
に記載の高ダイナミックレンジ映像の生成方法における
過程を、コンピュータに実行させるためのプログラムと
し、 該プログラムを、該コンピュータが読み取りできる記録
媒体に記録したことを特徴とする高ダイナミックレンジ
映像の生成方法の実行プログラムを記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001227008A JP3740394B2 (ja) | 2001-07-27 | 2001-07-27 | 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001227008A JP3740394B2 (ja) | 2001-07-27 | 2001-07-27 | 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003046857A true JP2003046857A (ja) | 2003-02-14 |
JP3740394B2 JP3740394B2 (ja) | 2006-02-01 |
Family
ID=19059731
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001227008A Expired - Fee Related JP3740394B2 (ja) | 2001-07-27 | 2001-07-27 | 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3740394B2 (ja) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006087063A (ja) * | 2004-09-17 | 2006-03-30 | Ulead Systems Inc | 多重露光画像合成システム及び多重露光画像合成方法 |
JP2006525747A (ja) * | 2003-04-29 | 2006-11-09 | マイクロソフト コーポレーション | ハイダイナミックレンジビデオを生成するシステムおよび方法 |
EP2018050A1 (en) * | 2006-05-01 | 2009-01-21 | Opt Corporation | Camera device and image processing method |
JP2010256810A (ja) * | 2009-04-28 | 2010-11-11 | Canon Inc | 表示装置及びその制御方法 |
US20100295932A1 (en) * | 2009-05-25 | 2010-11-25 | Olympus Corporation | Image obtaining apparatus, image synthesis method and microscope system |
JP2012010307A (ja) * | 2010-05-26 | 2012-01-12 | Olympus Imaging Corp | 撮像装置および撮像方法 |
US8305487B2 (en) | 2009-10-21 | 2012-11-06 | Samsung Electronics Co., Ltd. | Method and apparatus for controlling multiple exposures |
JP2012235390A (ja) * | 2011-05-06 | 2012-11-29 | Canon Inc | 画像処理装置及びその制御方法、並びにプログラム |
US8638374B2 (en) | 2010-03-30 | 2014-01-28 | Olympus Imaging Corp. | Image pickup apparatus, image pickup system, and image pickup method |
JP2014036357A (ja) * | 2012-08-09 | 2014-02-24 | Olympus Corp | 画像処理装置及び画像処理方法 |
US8947550B2 (en) | 2010-04-08 | 2015-02-03 | Canon Kabushiki Kaisha | Image processing apparatus with frame conversion, and method of controlling same |
US8970722B2 (en) | 2011-03-28 | 2015-03-03 | Canon Kabushiki Kaisha | Image processing apparatus and method of controlling the same |
JP2016034109A (ja) * | 2014-07-31 | 2016-03-10 | キヤノン株式会社 | 撮像装置およびその制御方法ならびにプログラム |
CN110175255A (zh) * | 2019-05-29 | 2019-08-27 | 腾讯科技(深圳)有限公司 | 图像标注的方法、基于病理图像的标注展示方法及装置 |
CN111416945A (zh) * | 2019-01-07 | 2020-07-14 | 三星电子株式会社 | 用于处理图像的方法和装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07298142A (ja) * | 1994-04-25 | 1995-11-10 | Canon Inc | 階調制御機能を有する撮像装置 |
JP2000078480A (ja) * | 1998-08-31 | 2000-03-14 | Sony Corp | 撮像装置及び撮像方法 |
JP2000341582A (ja) * | 1999-05-31 | 2000-12-08 | Sony Corp | 撮像装置及びその方法 |
JP2003009006A (ja) * | 2001-06-20 | 2003-01-10 | Sony Corp | 撮像方法および装置 |
-
2001
- 2001-07-27 JP JP2001227008A patent/JP3740394B2/ja not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07298142A (ja) * | 1994-04-25 | 1995-11-10 | Canon Inc | 階調制御機能を有する撮像装置 |
JP2000078480A (ja) * | 1998-08-31 | 2000-03-14 | Sony Corp | 撮像装置及び撮像方法 |
JP2000341582A (ja) * | 1999-05-31 | 2000-12-08 | Sony Corp | 撮像装置及びその方法 |
JP2003009006A (ja) * | 2001-06-20 | 2003-01-10 | Sony Corp | 撮像方法および装置 |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006525747A (ja) * | 2003-04-29 | 2006-11-09 | マイクロソフト コーポレーション | ハイダイナミックレンジビデオを生成するシステムおよび方法 |
US7443533B2 (en) | 2004-09-17 | 2008-10-28 | Corel Tw Corp. | Image composition systems and methods |
JP2006087063A (ja) * | 2004-09-17 | 2006-03-30 | Ulead Systems Inc | 多重露光画像合成システム及び多重露光画像合成方法 |
EP2018050A1 (en) * | 2006-05-01 | 2009-01-21 | Opt Corporation | Camera device and image processing method |
EP2018050A4 (en) * | 2006-05-01 | 2009-04-29 | Opt Corp | CAMERA AND IMAGE PROCESSING METHOD |
US8330857B2 (en) | 2009-04-28 | 2012-12-11 | Canon Kabushiki Kaisha | Display apparatus and control method thereof |
JP2010256810A (ja) * | 2009-04-28 | 2010-11-11 | Canon Inc | 表示装置及びその制御方法 |
US8547479B2 (en) | 2009-04-28 | 2013-10-01 | Canon Kabushiki Kaisha | Display apparatus and control method thereof |
US20100295932A1 (en) * | 2009-05-25 | 2010-11-25 | Olympus Corporation | Image obtaining apparatus, image synthesis method and microscope system |
EP2256688A1 (en) | 2009-05-25 | 2010-12-01 | Olympus Corporation | Image obtaining apparatus, image synthesis method and microscope system |
JP2010272094A (ja) * | 2009-05-25 | 2010-12-02 | Olympus Corp | 画像取得装置、画像合成方法、及び顕微鏡システム |
US8305487B2 (en) | 2009-10-21 | 2012-11-06 | Samsung Electronics Co., Ltd. | Method and apparatus for controlling multiple exposures |
US8638374B2 (en) | 2010-03-30 | 2014-01-28 | Olympus Imaging Corp. | Image pickup apparatus, image pickup system, and image pickup method |
US8947550B2 (en) | 2010-04-08 | 2015-02-03 | Canon Kabushiki Kaisha | Image processing apparatus with frame conversion, and method of controlling same |
JP2012010307A (ja) * | 2010-05-26 | 2012-01-12 | Olympus Imaging Corp | 撮像装置および撮像方法 |
US8970722B2 (en) | 2011-03-28 | 2015-03-03 | Canon Kabushiki Kaisha | Image processing apparatus and method of controlling the same |
JP2012235390A (ja) * | 2011-05-06 | 2012-11-29 | Canon Inc | 画像処理装置及びその制御方法、並びにプログラム |
JP2014036357A (ja) * | 2012-08-09 | 2014-02-24 | Olympus Corp | 画像処理装置及び画像処理方法 |
JP2016034109A (ja) * | 2014-07-31 | 2016-03-10 | キヤノン株式会社 | 撮像装置およびその制御方法ならびにプログラム |
CN111416945A (zh) * | 2019-01-07 | 2020-07-14 | 三星电子株式会社 | 用于处理图像的方法和装置 |
CN110175255A (zh) * | 2019-05-29 | 2019-08-27 | 腾讯科技(深圳)有限公司 | 图像标注的方法、基于病理图像的标注展示方法及装置 |
CN110175255B (zh) * | 2019-05-29 | 2022-04-05 | 腾讯医疗健康(深圳)有限公司 | 图像标注的方法、基于病理图像的标注展示方法及装置 |
US12046056B2 (en) | 2019-05-29 | 2024-07-23 | Tencent Technology (Shenzhen) Company Limited | Image annotation method and apparatus, annotation presentation method and apparatus, device, and storage medium |
Also Published As
Publication number | Publication date |
---|---|
JP3740394B2 (ja) | 2006-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4321287B2 (ja) | 撮影装置および撮影方法、並びに、プログラム | |
KR101609491B1 (ko) | 화상 합성 장치, 화상 합성 방법 및 기록 매체 | |
US8885061B2 (en) | Image processing apparatus, image processing method and program | |
JP4720859B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2003046857A (ja) | 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体 | |
US20110199494A1 (en) | Imaging device and image processing apparatus | |
US20070040918A1 (en) | Image processing apparatus, image processing method and program | |
JP5672796B2 (ja) | 画像処理装置、画像処理方法 | |
CN102741883A (zh) | 高动态范围图像生成和渲染 | |
US20230069014A1 (en) | Method and apparatus for generating low bit width hdr image, storage medium, and terminal | |
JP4507948B2 (ja) | 撮影装置、撮影画像の画像処理方法及びプログラム | |
CN110958361B (zh) | 能够进行hdr合成的摄像设备及其控制方法和存储介质 | |
JP2018182376A (ja) | 画像処理装置 | |
JP2006325274A (ja) | 撮像装置 | |
JP2010283548A (ja) | 映像補間装置及び映像表示装置 | |
JP4622711B2 (ja) | 画像合成装置、画像合成方法、及び、プログラム | |
US20050088531A1 (en) | Automatic stabilization control apparatus, automatic stabilization control method, and computer readable recording medium having automatic stabilization control program recorded thereon | |
JP3175914B2 (ja) | 画像符号化方法および画像符号化装置 | |
JP2002223355A (ja) | 画像処理装置および画像処理プログラムを記録した記録媒体 | |
KR20100088282A (ko) | 영상 데이터 인페인팅 방법 및 장치 | |
JP2008141616A (ja) | 動きベクトル算出装置、方法およびプログラム、動画像圧縮記録装置ならびに撮像装置 | |
JP6708131B2 (ja) | 映像処理装置、映像処理方法及びプログラム | |
US11373316B2 (en) | Apparatus and method for calculating motion vector | |
JP2017212698A (ja) | 撮像装置、撮像装置の制御方法およびプログラム | |
JP2016129281A (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050802 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050926 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20051101 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20051107 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D02 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091111 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101111 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101111 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111111 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111111 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121111 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121111 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131111 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |