JP2003046857A - 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体 - Google Patents

高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体

Info

Publication number
JP2003046857A
JP2003046857A JP2001227008A JP2001227008A JP2003046857A JP 2003046857 A JP2003046857 A JP 2003046857A JP 2001227008 A JP2001227008 A JP 2001227008A JP 2001227008 A JP2001227008 A JP 2001227008A JP 2003046857 A JP2003046857 A JP 2003046857A
Authority
JP
Japan
Prior art keywords
image
time
long
short
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001227008A
Other languages
English (en)
Other versions
JP3740394B2 (ja
Inventor
Akihiko Hashimoto
秋彦 橋本
Yasuo Ishigure
康雄 石榑
Takayuki Okimura
隆幸 沖村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2001227008A priority Critical patent/JP3740394B2/ja
Publication of JP2003046857A publication Critical patent/JP2003046857A/ja
Application granted granted Critical
Publication of JP3740394B2 publication Critical patent/JP3740394B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 原画像と同フレームレートで高ダイナミック
レンジ映像を生成できる方法及び装置を提供する。 【解決手段】 撮像時間を長短に変化させた画像列から
高ダイナミックレンジ画像を合成する場合、従来は、
(a)の11のように2フレームの画像から単一の合成
アルゴリズムで1フレームの画像を合成するためフレー
ムレートが半減する。本発明は、(b)の12、(c)
の13のように、異なる二つの合成アルゴリズムを交互
に使用することで、実質的には1フレームの原画像から
1フレームの高ダイナミックレンジ画像を生成し、原画
像と同フレームレートで高ダイナミックレンジ映像を提
供する。各合成アルゴリズムでは、撮像時刻の異なる2
フレームの画像をそのまま合成せず、同じ撮像時刻に得
られるはずの画像を予測生成した後に合成し、動画像で
あっても不自然な画像を合成しない。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、ダイナミックレン
ジの高い被写体を白トビや黒つぶれなく映像にする高ダ
イナミックレンジ映像の生成方法および生成装置に関す
るものであり、主な7利用分野として映像産業や計測産
業があげられる。
【0002】
【従来の技術】映像を記録するには様々な方法がある
が、今日ではCCDを用いた撮像装置が広く使われてい
る。しかし、CCDは銀塩フィルム等に比べると明暗の
ダイナミックレンジが小さい欠点があった。これに対し
て撮像時間を可変に制御できる電子シャッタ付きのCC
Dを用いて短時間撮像と長時間撮像を交互に繰り返し、
隣り合う2画像から高ダイナミックレンジ映像を生成す
る方法や装置が提案されている。例えば、特開昭63−
306779号や特開平6−141229号の技術がこ
れに該当する。
【0003】
【発明が解決しようとする課題】しかしながら、図1
(a)の11に示すように両方法とも、2フレームの原
画像から1フレームの画像を合成するためにフレームレ
ートが半減してしまい、滑らかな動きの動画映像が生成
できない欠点があった。特開平6−141229号では
実質倍速で動作する専用CCDを開発してこの問題を解
決しているが、この方法では汎用のCCDを使えないた
め汎用性やコストに問題がある。また、CCDの画素数
が増大すると倍速動作そのものが技術的に困難となるた
め、HDTVやUDTV等の高解像度映像には適用でき
ない問題もある。
【0004】また、静止画撮影ではなく動画撮影する場
合には、動く被写体の高輝度領域または低輝度領域の位
置、形状が時間と共に変動するが、従来の方法では異な
る時刻に撮像された画像をそのまま合成しているため、
合成部の輪郭領域において偽信号の発生による画質劣化
が生じてしまう問題がある。特開平6−141229号
では2枚の画像を輝度値に応じて徐々に混合することに
より画質劣化が視覚的に目立たないよう工夫している
が、根本的な解決方法とはなっていない。
【0005】本発明は、上記従来の技術の問題点を解決
するために為されたものであり、原画像と同フレームレ
ートで高ダイナミックレンジ映像を生成できる方法及び
装置を提供することを課題とする。さらに、その生成の
際に、映像の切り替わり点や、画像内容がフレーム間で
不連続的に変化する場合にも、高品質の高ダイナミック
レンジ映像を生成できる方法及び装置を提供することを
課題とする。
【0006】
【課題を解決するための手段】上記の課題を解決するた
めの手段として、本発明の請求項1では、撮像時間を可
変に制御できる撮像装置を用いて長時間撮像と短時間撮
像を交互に繰り返して高ダイナミックレンジ映像を生成
する方法において、長時間撮像と直後または直前の短時
間撮像の2画像より長時間撮像時刻における高ダイナミ
ックレンジ画像を合成する過程Aと、短時間撮像と直後
または直前の長時間撮像の2画像より短時間撮像時刻に
おける高ダイナミックレンジ画像を合成する過程Bの異
なる2つの合成過程とを有し、長時間撮像時刻における
画像については過程Aを実行し、短時間撮像時刻におけ
る画像については過程Bを実行することを特徴とする高
ダイナミックレンジ映像の生成方法を用いる。
【0007】また、本発明の請求項2では、過程Aにお
いて、長時間撮像の画像内にあるオーバーフロー領域X
を検出する過程Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する過程Dと、2領域の輪郭線のパターンマッ
チングを行う過程とを有し、過程Cにより長時間撮像画
像を領域Xとそれ以外の領域X-に分離し、過程Dによ
り直後または直前の短時間撮像画像から領域Yを抜き出
し、パターンマッチングを行う過程により領域Yの位
置、形状を領域Xの位置、形状に合わせた後で画素の輝
度値の倍率補正を行った後に、領域X-と合成すること
によって、長時間撮像と直後または直前の短時間撮像の
2画像から長時間撮像時刻における画像を合成すること
を特徴とする請求項1に記載の高ダイナミックレンジ映
像の生成方法を用いる。
【0008】また、本発明の請求項3では、過程Bにお
いて、長時間撮像の画像内にあるオーバーフロー領域X
を検出する過程Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する過程Dと、2領域の輪郭線のパターンマッ
チングを行う過程とを有し、過程Dにより短時間撮像画
像を領域Yとその他の領域Y-に分離し、過程Cにより
直後または直前の長時間撮像画像を領域Xとその他の領
域X-に分離し、パターンマッチングを行う過程により
領域X-の位置、形状を領域Y-の位置、形状に合わせた
後で、画素の輝度値の倍率補正を行った後の領域Yと合
成することによって、短時間撮像と直後または直前の長
時間撮像の2画像から短時間撮像時刻における画像を合
成することを特徴とする請求項1に記載の高ダイナミッ
クレンジ映像の生成方法を用いる。
【0009】また、本発明の請求項4では、撮像時間を
可変に制御できる撮像装置を用いて長時間撮像と短時間
撮像を交互に繰り返して高ダイナミックレンジ映像を生
成する方法において、長時間撮像と直前の短時間撮像と
直後の短時間撮像の3画像より長時間撮像時刻における
高ダイナミックレンジ画像を合成する過程Eと、短時間
撮像と直前の長時間撮像と直後の長時間撮像の3画像よ
り短時間撮像時刻における高ダイナミックレンジ画像を
合成する過程Fの異なる2つの合成過程とを有し、長時
間撮像時刻における画像については過程Eを実行し、短
時間撮像時刻における画像については過程Fを実行する
ことを特徴とする高ダイナミックレンジ映像の生成方法
を用いる。
【0010】また、本発明の請求項5では、過程Eで
は、長時間撮像の画像中にあるオーバーフロー領域Xを
検出する過程Cと、短時間撮像の画像において長時間撮
像であったならオーバーフローすると予測される領域Y
を検出する過程Dと、2領域の画像のパターンマッチン
グを行う過程とを有し、過程Cにより長時間撮像の画像
を領域Xとそれ以外の領域X-に分離し、過程Dにより
直前の短時間撮像の画像から領域Y1を切り出し、過程
Dにより直後の短時間撮像の画像から領域Y2を切り出
し、2領域の画像のパターンマッチングを行う過程によ
り2領域である領域Y1と領域Y2から長時間撮像時刻
における中間画像Y3を生成し、中間画像Y3から領域
Xと位置的に重なる領域を切り出し、画素の輝度値の倍
率補正を行った後で、領域X-と合成することによっ
て、長時間撮像と直前の短時間画像と直後の短時間撮像
の3画像から長時間撮像時刻における画像を合成するこ
とを特徴とする請求項4に記載の高ダイナミックレンジ
映像の生成方法を用いる。
【0011】また、本発明の請求項6では、過程Fで
は、長時間撮像の画像中にあるオーバーフロー領域Xを
検出する過程Cと、短時間撮像の画像において長時間撮
像であったならオーバーフローすると予測される領域Y
を検出する過程Dと、2領域の画像のパターンマッチン
グを行う過程とを有し、過程Dにより短時間撮像の画像
を領域Yとその他の領域Y-に分離し、過程Cにより直
前の長時間撮像の画像を領域X1とその他の領域X1-
に分離し、過程Cにより直後の長時間撮像の画像を領域
X2とその他の領域X2-に分離し、2領域の画像のパ
ターンマッチングを行う過程により2領域である領域X
-と領域X2-から短時間撮像時刻における中間画像X
-を生成し、中間画像X3-から領域Y-と位置的に重
なる領域を切り出した後で、画素の輝度値の倍率補正を
行った後の領域Yと合成することによって、短時間撮像
と直前の長時間撮像と直後の短時間撮像の3画像から短
時間撮像時刻における画像を合成することを特徴とする
請求項4に記載の高ダイナミックレンジ映像の生成方法
を用いる。
【0012】また、本発明の請求項7では、2領域の画
像のパターンマッチングを行う過程が2領域のパターン
の類似度を算出する過程も有し、請求項5または請求項
6に記載の高ダイナミックレンジ映像の生成方法におい
て、2領域の画像のパターンマッチングを行う際に類似
度も算出し、予め設定された値よりも類似度が小さい場
合には、請求項5においてはY1とXおよびY2とXに
対して輪郭線のパターンマッチングを行い、請求項6に
おいてはX1とYおよびX2とYに対して輪郭線のパタ
ーンマッチングを行い、該輪郭線のパターンマッチング
の結果、XとY2あるいはYとX2の類似度の方が大き
い場合は請求項4に記載の高ダイナミックレンジ映像の
生成方法の代わりに直後の画像を用いる請求項1に記載
の高ダイナミックレンジ映像の生成方法に切り替え、Y
1とXあるいはX1とYの類似度の方が大きい場合は請
求項4に記載の高ダイナミックレンジ映像の生成方法の
代わりに直前の画像を用いる請求項1に記載の高ダイナ
ミックレンジ映像の生成方法に切り替えることを特徴と
する高ダイナミックレンジ映像の生成方法を用いる。
【0013】また、本発明の請求項8では、撮像時間を
可変に制御できる撮像装置を用いて長時間撮像と短時間
撮像を交互に繰り返して高ダイナミックレンジ映像を生
成する装置において、長時間撮像と直後または直前の短
時間撮像の2画像より長時間撮像時刻における高ダイナ
ミックレンジ画像を合成する合成器Aと、短時間撮像と
直後または直前の長時間撮像の2画像より短時間撮像時
刻における高ダイナミックレンジ画像を合成する合成器
Bの異なる2つの合成器とを有し、長時間撮像時刻にお
ける画像については合成器Aを用い、短時間撮像時刻に
おける画像については合成器Bを用いることを特徴とす
る高ダイナミックレンジ映像の生成装置を用いる。
【0014】また、本発明の請求項9では、合成器A
は、長時間撮像の画像内にあるオーバーフロー領域Xを
検出する検出器Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する検出器Dと、2領域の輪郭線のパターンマ
ッチングを行うパターンマッチング器とを有し、検出器
Cを用いて長時間撮像画像を領域Xとそれ以外の領域X
-に分離し、検出器Dを用いて直後または直前の短時間
撮像画像から領域Yを抜き出し、該パターンマッチング
器を用いて領域Yの位置、形状を領域Xの位置、形状に
合わせた後で画素の輝度値の倍率補正を行った後に、領
域X-と合成することによって、長時間撮像と直後また
は直前の短時間撮像の2画像から長時間撮像時刻におけ
る画像を合成するものであることを特徴とする請求項8
に記載の高ダイナミックレンジ映像の生成装置を用い
る。
【0015】また、本発明の請求項10では、合成器B
は、長時間撮像の画像内にあるオーバーフロー領域Xを
検出する検出器Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する検出器Dと、2領域の輪郭線のパターンマ
ッチングを行うパターンマッチング器とを有し、検出器
Dを用いて短時間撮像画像を領域Yとその他の領域Y-
に分離し、検出器Cを用いて直後または直前の長時間撮
像画像を領域Xとその他の領域X-に分離し、該パター
ンマッチング器を用いて領域X-の位置、形状を領域Y-
の位置、形状に合わせた後で、画素の輝度値の倍率補正
を行った後の領域Yと合成することによって、短時間撮
像と直後または直前の長時間撮像の2画像から短時間撮
像時刻における画像を合成するものであることを特徴と
する請求項8に記載の高ダイナミックレンジ映像の生成
装置を用いる。
【0016】また、本発明の請求項11では、撮像時間
を可変に制御できる撮像装置を用いて長時間撮像と短時
間撮像を交互に繰り返して高ダイナミックレンジ映像を
生成する装置において、長時間撮像と直前の短時間撮像
と直後の短時間撮像の3画像より長時間撮像時刻におけ
る高ダイナミックレンジ画像を合成する合成器Eと、短
時間撮像と直前の長時間撮像と直後の長時間撮像の3画
像より短時間撮像時刻における高ダイナミックレンジ画
像を合成する合成器Fの異なる2つの合成器とを有し、
長時間撮像時刻における画像については合成器Eを用
い、短時間撮像時刻における画像については合成器Fを
用いることを特徴とする高ダイナミックレンジ映像の生
成装置を用いる。
【0017】また、本発明の請求項12では、合成器E
は、長時間撮像の画像中にあるオーバーフロー領域Xを
検出する検出器Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する検出器Dと、2領域の画像のパターンマッ
チングを行うパターンマッチング器とを有し、検出器C
を用いて長時間撮像の画像を領域Xとそれ以外の領域X
-に分離し、検出器Dを用いて直前の短時間撮像の画像
から領域Y1を切り出し、検出器Dを用いて直後の短時
間撮像の画像から領域Y2を切り出し、領域Y1と領域
Y2から該パターンマッチング器を用いて長時間撮像時
刻における中間画像Y3を生成し、中間画像Y3から領
域Xと位置的に重なる領域を切り出し、画素の輝度値の
倍率補正を行った後で、領域X-と合成することによっ
て、長時間撮像と直前の短時間画像と直後の短時間撮像
の3画像から長時間撮像時刻における画像を合成するも
のであることを特徴とする請求項11に記載の高ダイナ
ミックレンジ映像の生成装置を用いる。
【0018】また、本発明の請求項13では、合成器F
は、長時間撮像の画像中にあるオーバーフロー領域Xを
検出する検出器Cと、短時間撮像の画像において長時間
撮像であったならオーバーフローすると予測される領域
Yを検出する検出器Dと、2領域の画像のパターンマッ
チングを行うパターンマッチング器とを有し、検出器D
を用いて短時間撮像の画像を領域Yとその他の領域Y-
に分離し、検出器Cを用いて直前の長時間撮像の画像を
領域X1とその他の領域X1-に分離し、検出器Cを用
いて直後の長時間撮像の画像を領域X2とその他の領域
X2-に分離し、領域X1-と領域X2-から該パターン
マッチング器を用いて短時間撮像時刻における中間画像
X3-を生成し、中間画像X3-から領域Y-と位置的に
重なる領域を切り出した後で、画素の輝度値の倍率補正
を行った後の領域Yと合成することによって、短時間撮
像と直前の長時間撮像と直後の短時間撮像の3画像から
短時間撮像時刻における画像を合成するものであること
を特徴とする請求項11に記載の高ダイナミックレンジ
映像の生成装置を用いる。
【0019】また、本発明の請求項14では、2領域の
画像のパターンマッチングを行うパターンマッチング器
が2領域の画像のパターンの類似度を算出する類似度評
価器も有し、請求項12または請求項13に記載の高ダ
イナミックレンジ映像の生成装置おいて、画像のパター
ンマッチングを行う際に類似度も算出し、予め設定され
た値よりも類似度が小さい場合には、請求項12に記載
の高ダイナミックレンジ映像の生成装置おいてはY1と
XおよびY2とXに対して輪郭線のパターンマッチング
を行い、請求項13に記載の高ダイナミックレンジ映像
の生成装置おいてはX1とYおよびX2とYに対して輪
郭線のパターンマッチングを行い、XとY2あるいはY
とX2の類似度の方が大きい場合は請求項11に記載の
高ダイナミックレンジ映像の生成装置の代わりに直後の
画像を用いる請求項8に記載の高ダイナミックレンジ映
像の生成装置で処理を行い、Y1とXあるいはX1とY
の類似度の方が大きい場合は請求項11に記載の高ダイ
ナミックレンジ映像の生成装置の代わりに直前の画像を
用いる請求項8に記載の高ダイナミックレンジ映像の生
成装置で処理を行うものであることを特徴とする高ダイ
ナミックレンジ映像の生成装置を用いる。
【0020】また、本発明の請求項15では、請求項1
から請求項7のいずれか1項に記載の高ダイナミックレ
ンジ映像の生成方法における過程を、コンピュータに実
行させるためのプログラムとしたことを特徴とする高ダ
イナミックレンジ映像の生成方法の実行プログラムを用
いる。
【0021】また、本発明の請求項16では、請求項1
から請求項7のいずれか1項に記載の高ダイナミックレ
ンジ映像の生成方法における過程を、コンピュータに実
行させるためのプログラムとし、該プログラムを、該コ
ンピュータが読み取りできる記録媒体に記録したことを
特徴とする高ダイナミックレンジ映像の生成方法の実行
プログラムを記録した記録媒体を用いる。
【0022】本発明の方法および装置は、図1(b)の
12および図1(c)の13に示すように、異なる二つ
の合成アルゴリズムを交互に使用することにより、実質
的には1フレームの原画像から1フレームの高ダイナミ
ックレンジ画像を生成することによって同フレームレー
トで高ダイナミックレンジ映像を提供する。
【0023】請求項1は、図1(b)の12に示すよう
に連続する2フレームの画像から高ダイナミックレンジ
画像を合成する方法を提供するものであり、請求項4は
図1(c)の13に示すように連続する3フレームの画
像から高ダイナミックレンジ画像を合成する方法を提供
するものである。
【0024】請求項4の方法は、より高精度に画像を予
測生成して高ダイナミックレンジ画像を合成する方法で
あり、通常、請求項1の方法より高品質に画像合成でき
るが、連続する3フレームの画像を必ず必要とするた
め、映像の切り替わり点や、画像内容がフレーム間で不
連続的に変化する場合には適用できないか、または無理
に適用しても低品質の合成画像しか得られない等の問題
点もある。
【0025】そこで、請求項7において、前記のフレー
ム間の不連続性を2画像の類似度を調べることによって
検出し、請求項4の方法と請求項1の方法を適応的に切
り替えて処理を行う方法を提供する。
【0026】請求項8は図1(b)の12に示すように
連続する2フレームの画像から高ダイナミックレンジ画
像を合成する装置を提供するものであり、請求項11は
図1(c)の13に示すように連続する3フレームの画
像から高ダイナミックレンジ画像を合成する装置を提供
するものである。
【0027】請求項11の装置は、より高精度に画像を
予測生成して高ダイナミックレンジ画像を合成する装置
であり、通常、請求項8の装置より高品質に画像合成で
きるが、連続する3フレームの画像を必ず必要とするた
め、映像の切り替わり点や、画像内容がフレーム間で不
連続的に変化する場合には適用できないか、または無理
に適用しても低品質の合成画像しか得られない等の問題
点もある。
【0028】そこで、請求項14において、前記のフレ
ーム間の不連続性を2画像の類似度を調べることによっ
て検出し、請求項11の方法と請求項8の方法を適応的
に切り替えて処理を行う装置を提供する。
【0029】以上のように、本発明の方法および装置
は、パターンマッチングを行う手段を用いた動画補償や
輪郭線フィッティングを行うことによって撮像時刻に得
られるはずの画像を予測生成した上で該画像を用いて高
ダイナミックレンジ画像を合成する。これより動画撮影
の場合にも高品質な高ダイナミックレンジ映像を提供す
る。
【0030】図2を用いて本発明の請求項1から3まで
の方法の作用を説明する。図2の21から23は撮像時
間を交互に変えて撮像した映像データの一部であり、2
1と23が長時間撮像画像、22が短時間撮像画像であ
る。211と231は被写体の露出オーバーでオーバー
フローを起こした領域、212と232はそれ以外の領
域である。221は長時間撮像であったならオーバーフ
ローすると予測される領域、222はそれ以外の領域で
ある。
【0031】請求項1の方法に従うと、過程Aによって
221が211の位置、形状に合わされて223とな
り、223は26で画素の輝度値の倍率補正を受けた後
に212と組み合わされて24が合成され、過程Bによ
って232が222の位置、形状に合わされて233と
なり、27で画素の輝度値の倍率補正を受けた後の22
1と組み合わされて25が合成される。
【0032】なお、ここではある時刻における画像と直
後の画像より該時刻における画像を合成する作用を説明
しているが、例えば、25を合成する場合、232のか
わりに212を222の位置、形状に合わせるのごと
く、直後の画像を使う部分を直前の画像に置き換えるだ
けで、ある時刻における画像と直前の画像より該時刻に
おける画像を合成できることは言うまでもない。
【0033】請求項2の方法に従うと、過程Aは221
と211の輪郭線のパターンマッチングを行って221
の211に対する位置、形状の変移量28を算出し、2
21に対して28を逆に作用させることによって223
を生成し、26で画素の輝度値の倍率補正をした後に、
212と組み合わして24を合成する作用を行う。
【0034】請求項3の方法に従うと、過程Bは232
と222の輪郭線のパターンマッチングを行い、232
の222に対する位置、形状の変移量29を算出し、2
32に対して29を逆に作用させることによって233
を生成し、27で輝度値の倍率補正をした後の221と
組み合わして25を合成する作用を行う。
【0035】次に、図3を用いて本発明の請求項4の方
法の作用を説明する。図3の31から34は撮像時間を
交互に変えて撮像した映像データの一部であり、31と
33が短時間撮像画像、32と34が長時間撮像画像で
ある。321と341は被写体の露出オーバーでオーバ
ーフローを起こした領域、322と342はそれ以外の
領域である。311と331は長時間撮像であったなら
オーバーフローすると予測される領域、312と332
はそれ以外の領域である。
【0036】請求項4の方法に従うと、過程Eによって
311と331から321の位置、形状に合った323
が生成され、37で画素の輝度値の倍率補正をした後
に、322と組み合わして35が合成され、過程Fによ
って322と342から332の位置、形状に合った3
33が生成され、38で輝度値の倍率補正をした後の3
31と組み合わせることによって36が合成される。
【0037】次に、図4を用いて請求項5の方法の作用
を説明する。なお、図中で図3と同一部分は図3の番号
をつけている。初めに311と331の画像のパターン
マッチングを行い、311の331に対する画像の位
置、形状の変移量41を計算する。311と331に対
して該変移量より32の撮像時刻における中間画像42
と43を予測生成し、両画像を合成することによって中
間画像44を生成する。次に44から321内に位置す
る領域を切り出すことによって323を生成する。32
3は37で輝度値の倍率補正をした後に322と組み合
わせることによって35を合成する作用を行う。
【0038】次に、図5を用いて請求項6の方法の作用
を説明する。なお、図中で図3と同一部分は図3の番号
をつけている。初めに322と342の画像のパターン
マッチングを行い、322の342に対する画像の位
置、形状の変移量51を計算する、322と342に対
して該変移量より33の撮像時刻における中間画像52
と53を予測生成し、両画像を合成することによって中
間画像54を生成する。次に54から332内に位置す
る領域を切り出すことによって333を生成する。33
3と38で輝度値の倍率補正をした後の331を組み合
わせることによって36を合成する作用を行う。
【0039】請求項7の方法に従うと、請求項5または
請求項6の方法で画像のパターンマッチングを行う時に
二つのパターンの類似度も算出する。類似度が小さい
か、またはパターンマッチングの対象となる領域がなか
った場合には、請求項5の方法においては311と32
1間の類似度と321と331間の類似度を輪郭線のパ
ターンマッチングによって比較し、321と331間の
類似度の方が大きかった場合には、請求項4の方法の代
わりに32と33を用いた直後の画像を用いる請求項1
の方法に切り替え、311と321間の類似度の方が大
きかった場合には、請求項4の方法の代わりに31と3
2を用いた直前の画像を用いる請求項1の方法に切り替
える作用を行う。請求項6の方法においては322と3
32間の類似度と332と342間の類似度を輪郭線の
パターンマッチングによって比較し、332と342間
の類似度の方が大きかった場合には、請求項4の方法の
代わりに33と34を用いた直後の画像を用いる請求項
1の方法に切り替え、322と332間の類似度の方が
大きかった場合には、請求項4の方法の代わりに32と
33を用いる直前の画像を用いる請求項1の方法に切り
替える作用を行う。
【0040】図2を用いて本発明の請求項8から10ま
での装置の作用を説明する。図2の21から23は撮像
時間を交互に変えて撮像した映像データの一部であり、
21と23が長時間撮像画像、22が短時間撮像画像で
ある。211と231は被写体の露出オーバーでオーバ
ーフローを起こした領域、212と232はそれ以外の
領域である。221は長時間撮像であったならオーバー
フローすると予測される領域、222はそれ以外の領域
である。
【0041】請求項8の装置に従うと、合成器Aによっ
て221が211の位置、形状に合わされて223とな
り、223は26で画素の輝度値の倍率補正を受けた後
に212と組み合わされて24が合成され、合成器Bに
よって232が222の位置、形状に合わされて233
となり、27で画素の輝度値の倍率補正を受けた後の2
21と組み合わされて25が合成される。
【0042】なお、ここではある時刻における画像と直
後の画像より該時刻における画像を合成する作用を説明
しているが、例えば、25を合成する場合、232のか
わりに212を222の位置、形状に合わせるのごと
く、直後の画像を使う部分を直前の画像に置き換えるだ
けである時刻における画像と直前の画像より該時刻にお
ける画像を合成できることは言うまでもない。
【0043】請求項9の装置に従うと、合成器Aは22
1と211の輪郭線のパターンマッチングを行って22
1の211に対する位置、形状の変移量28を算出し、
221に対して28を逆に作用させることによって22
3を生成し、26で画素の輝度値の倍率補正をした後
に、212と組み合わして24を合成する作用を行う。
【0044】請求項10の装置に従うと、合成器Bは2
32と222の輪郭線のパターンマッチングを行い、2
32の222に対する位置、形状の変移量29を算出
し、232に対して29を逆に作用させることによって
233を生成し、27で輝度値の倍率補正をした後の2
21と組み合わして25を合成する作用を行う。
【0045】次に、図3を用いて本発明の請求項11の
装置の作用を説明する。図3の31から34は撮像時間
を交互に変えて撮像した映像データの一部であり、31
と33が短時間撮像画像、32と34が長時間撮像画像
である。321と341は被写体の露出オーバーでオー
バーフローを起こした領域、322と342はそれ以外
の領域である。311と331は長時間撮像であったな
らオーバーフローすると予測される領域、312と33
2はそれ以外の領域である。
【0046】請求項11の装置に従うと、合成器Eによ
って311と331から321の位置、形状に合った3
23が生成され、37で画素の輝度値の倍率補正をした
後に、322と組み合わされて35が合成され、合成器
Fによって322と342から332の位置、形状に合
った333が生成され、38で輝度値の倍率補正をした
後の331と組み合わせることによって36が合成され
る。
【0047】次に、図4を用いて請求項12の装置の作
用を説明する。なお、図中で図3と同一部分は図3の番
号をつけている。初めに311と331の画像のパター
ンマッチングをパターンマッチング器で行い、311の
331に対する画像の位置、形状の変移量41を計算す
る。311と331に対して該変移量より32の撮像時
刻における中間画像42と43を予測生成し、両画像を
合成することによって中間画像44を生成する。次に4
4から321内に位置する領域を切り出すことによって
323を生成する。323は37で輝度値の倍率補正を
した後に322と組み合わせることによって35を合成
する作用を行う。
【0048】次に、図5を用いて請求項13の装置の作
用を説明する。なお、図中で図3と同一部分は図3の番
号をつけている。初めに322と342の画像のパター
ンマッチングをパターンマッチング器で行い、322の
342に対する画像の位置、形状の変移量51を計算す
る。322と342に対して該変移量より33の撮像時
刻における中間画像52と53を予測生成し、両画像を
合成することによって中間画像54を生成する。次に5
4から332内に位置する領域を切り出すことによって
333を生成する。333と38で輝度値の倍率補正を
した後の331を組み合わせることによって36を合成
する作用を行う。
【0049】請求項14の装置に従うと、請求項12ま
たは請求項13の装置で画像のパターンマッチングをパ
ターンマッチング器で行う時に二つのパターンの類似度
も算出し、類似度を類似度評価器で評価する。類似度が
小さいか、またはパターンマッチングの対象となる領域
がなかった場合には、請求項12の装置においては31
1と321間の類似度と321と331間の類似度を輪
郭線のパターンマッチングによって比較し、321と3
31間の類似度の方が大きかった場合には、請求項11
の装置の代わりに32と33を用いた直後の画像を用い
る請求項8の装置の処理動作に切り替え、311と32
1間の類似度の方が大きかった場合には、請求項11の
装置の代わりに31と32を用いた直前の画像を用いる
請求項8の装置の処理動作に切り替える作用を行う。請
求項13の装置においては322と332間の類似度と
332と342間の類似度を輪郭線のパターンマッチン
グによって比較し、332と342間の類似度の方が大
きかった場合には、請求項11の装置の代わりに33と
34を用いた直後の画像を用いる請求項8の装置の処理
動作に切り替え、322と332間の類似度の方が大き
かった場合には、請求項11の装置の代わりに32と3
3を用いる直前の画像を用いる請求項8の装置の処理動
作に切り替える作用を行う。
【0050】
【発明の実施の形態】以下、本発明の実施の形態につい
て図を用いて詳細に説明する。
【0051】本発明の請求項1から3の方法の一実施形
態を図6に示す。図6の61は原映像データ格納過程、
62はデータ出力切り替え過程、63は請求項2の方法
の過程Aを実現する一実施形態、64は請求項3の方法
の過程Bを実現する一実施形態、65は出力データ格納
過程である。
【0052】631と632は領域分離過程であり、請
求項2の方法における過程Cと過程Dの一実施形態であ
る。633と634は輪郭形状抽出過程、635は輪郭
形状のパターンマッチング過程、636は領域の移動、
変形過程、637は画素の輝度値倍率補正過程、638
は画像合成過程である。
【0053】641と642は領域分離過程であり、請
求項3の方法における過程Cと過程Dの一実施形態であ
る。643と634は輪郭線抽出過程、645は輪郭線
形状のパターンマッチング過程、646は領域の移動、
変形過程、647は画素の輝度値倍率補正過程、648
は画像合成過程である。
【0054】本実施形態による処理の流れを説明する。
なお、本実施形態では原画像データはダイナミックレン
ジが8bit(画素の輝度値のとりうる値は0から25
5)で逆ガンマ補正済みとする。また、長時間撮像時間
と短時間撮像時間の撮像時間比をkとし、ある時刻にお
ける画像と直後の画像データより該時刻における画像デ
ータを合成する処理について説明する。
【0055】61では交互に撮像時間を変えて撮った映
像データを蓄えている。なお、本方法を実時間処理で行
える場合には、61のかわりに直接撮像時間可変カメラ
の出力(ガンマ補正済み)過程であっても構わない。
【0056】62は61から逐次、画像と直後フレーム
の画像を取り出し、該2画像が長時間撮像画像、短時間
撮像画像の順番であるなら長時間撮像画像を631に短
時間撮像画像を632に出力する。また、短時間撮像画
像、長時間撮像画像の順番であるなら長時間撮像画像を
641に短時間撮像画像を642に出力する。
【0057】631と632は入力した画像から指定し
た値以上の画素の輝度値を有する領域と該値未満の画素
の輝度値を有する領域に分離して出力する。631の指
定値を255とすることによって、631はオーバーフ
ロー領域Xを633に出力し、それ以外の領域X-(図
面ではXバーを表す)を638に出力する。632の指
定値を256/kとすることによって、632は長時間
撮像であったならオーバーフローすると予測される領域
Yを634と636に出力する。
【0058】633と634は、公知の方法であるチェ
イン符号化法(参考文献:画像解析ハンドブックpp.
579−580)で領域の輪郭線を抽出して635に出
力する。
【0059】635は633と634から出力された輪
郭形状をフーリエ記述子(参考文献:画像解析ハンドブ
ックpp.581−582)表現データに変換し、該デ
ータを比較してパターンマッチングを行うことによって
両輪郭線形状の位置、形状の変移量データをアフィン変
換行列データとして出力する(参考文献:画像処理アル
ゴリズムの最新動向、別冊OplusE、pp.58−
72)。なお、輪郭線形状のパターンマッチング方法に
は様々な公知の方法があり、本発明の特許請求の範囲は
本実施形態に限定されるものではない。また、2フレー
ム間に起きる輪郭線形状の移動変形量は微小なので変形
は考慮せず全領域均一に移動するとして2領域の重心座
標の変移量を変移データとして出力する簡略方法もあ
り、変移量データの内容は本実施形態に限定されるもの
ではない。
【0060】また、本実施形態ではパターンマッチング
対象領域が一つの場合について説明しているが、633
と634で輪郭線が複数抽出されている場合は各々の輪
郭線で囲まれた領域の重心座標を求め、最も重心座標の
近い物同士で上記のパターンマッチングを行うことによ
って容易に複数の処理に拡張できることは言うまでもな
い。
【0061】636は635から出力されたアフィン変
換行列データに基づいて、領域Yの位置、形状を領域X
の位置、形状に合わせて637に出力する。
【0062】637は画素の輝度値をk倍して638に
出力する。これにより撮像時間の異なる2フレームの画
像間の感度差が補正され、同一輝度部分を撮像した画素
の輝度値は同一となる。
【0063】638は637の出力と631から出力さ
れた領域X-を一枚の画像データに合成し、これを65
で格納する。これによって長時間撮像と直後の短時間撮
像の2画像より長時間撮像時刻における高ダイナミック
レンジ画像が合成される。
【0064】641と642は入力した画像から指定し
た値以上の画素の輝度値を有する領域と該値未満の画素
の輝度値を有する領域に分離して出力する。641の指
定値を255とすることによって、641はオーバーフ
ローしていない領域X-を643と646に出力する。
642の指定値を256/kとすることによって、64
2は長時間撮像であったならオーバーフローすると予測
される領域Yを647に、それ以外の領域Y-(図面で
はYバーを表す)を644に出力する。
【0065】643と644は公知の方法であるチェイ
ン符号化法で領域の輪郭線を抽出して645に出力す
る。
【0066】645は643と644から出力された輪
郭形状をフーリエ記述子表現データに変換し、該データ
を比較してパターンマッチングを行うことによって両輪
郭線形状の位置、形状の変移量データをアフィン変換行
列データとして出力する。
【0067】646は645から出力されたアフィン変
換行列データに基づいて、領域X-の位置、形状を領域
-の位置、形状に合わせて648に出力する。
【0068】647は642から出力された領域Yの画
素の輝度値をk倍して648に出力する。これにより撮
像時間の異なる2フレームの画像間の感度差が補正さ
れ、同一輝度部分を撮像した画素の輝度値は同一とな
る。
【0069】648は646の出力と647の出力を一
枚の画像データに合成し、これを65で格納する。これ
によって短時間撮像と直後の長時間撮像の2画像より短
時間撮像時刻における高ダイナミックレンジ画像が合成
される。
【0070】本発明の請求項4から6の方法の一実施形
態を図7に示す。図7の71は原映像データ格納過程、
72はデータ出力切り替え過程、73は請求項5の方法
の過程Eを実現する一実施形態、74は請求項6の方法
の過程Fを実現する一実施形態、75は出力データ格納
過程である。
【0071】731と732と733は、領域分離過程
であり、請求項5の方法における過程Cと過程Dの一実
施形態である。734は中間画像の予測生成過程、73
5は領域切り出し過程、736は画素の輝度値の倍率補
正過程、737は画像合成過程である。
【0072】741と742と743は、領域分離過程
であり、請求項6の方法における過程Cと過程Dの一実
施形態である。744は中間画像の予測生成過程、74
5は領域切り出し過程、746は画素の輝度値の倍率補
正過程、747は画像合成過程である。
【0073】本実施形態による処理の流れを説明する。
なお、本実施形態では原画像データはダイナミックレン
ジが8bit(画素の輝度値のとりうる値は0から25
5)で逆ガンマ補正済みとする。また、長時間撮像時間
と短時間撮像時間の撮像時間比をkとし、ある時刻にお
ける画像と直後の画像データより該時刻における画像デ
ータを合成する処理について説明する。
【0074】71では交互に撮像時間を変えて撮った映
像データを蓄えている。なお、本方法を実時間処理で行
える場合には71のかわりに直接撮像時間可変カメラの
出力(ガンマ補正済み)過程であっても構わない。
【0075】72は71から逐次、画像と直前及び直後
フレームの画像を取り出し、該3画像が短時間撮像画
像、長時間撮像画像、短時間撮像画像の順番であるな
ら、直前の短時間撮像画像を731に、長時間撮像画像
を732に、直後の短長間画像を733に出力する。ま
た、該3画像が長時間撮像画像、短時間撮像画像、長時
間撮像画像の順番であるなら、直前の長短間撮像画像を
741に、短時間撮像画像を742に、直後の長時間画
像を743に出力する。
【0076】731と732と733は入力した画像か
ら指定した値以上の画素の輝度値を有する領域と該値未
満の画素の輝度値を有する領域に分離して出力する。7
31の指定値を256/kとすることによって、731
は長時間撮像であったならオーバーフローすると予測さ
れる領域Yを734に出力する。732の指定値を25
5とすることによって、732はオーバーフロー領域X
を735に、それ以外の領域X-を737に出力する。
733の指定値を256/kとすることによって、73
3は長時間撮像であったならオーバーフローすると予測
される領域Yを734に出力する。
【0077】734は731と733から出力された領
域Yの画像から短時間撮像時刻における中間画像をデュ
アルプライム予測法(参考文献:デジタル放送・インタ
ーネット技術のための情報圧縮技術、pp.218−2
19)で予測生成し、735に出力する。デュアルプラ
イム予測法は作用の説明で述べた図4の41、42、4
3、44の作用を一括して行う。請求項5の方法に記載
した画像のパターンマッチングの作用はデュアルプライ
ム予測法内のBMA(ブロックマッチングアルゴリズ
ム)にて行われる。
【0078】なお、画像のパターンマッチングにはBM
A以外にも様々な公知の方法があり、画像の予測生成方
法もデュアルプライム予測法以外の公知の方法があり、
本発明の特許請求の範囲は本実施形態に限定されるもの
ではない。
【0079】735は734から出力された中間画像の
うち、732から出力された領域Xに含まれる領域の画
像のみを切り出して736に出力する。
【0080】736は735から出力された画像の画素
の輝度値をk倍して737に出力する。これにより撮像
時間の異なる2フレームの画像間の感度差が補正され、
同一輝度部分を撮像した画素の輝度値は同一となる。
【0081】737は732の出力と736の出力を一
枚の画像データに合成し、これを75で格納する。これ
によって長時間撮像と直前及び直後の短時間撮像の3画
像より長時間撮像時刻における高ダイナミックレンジ画
像が合成される。
【0082】741と742と743は、入力した画像
から指定した値以上の画素の輝度値を有する領域と該値
未満の画素の輝度値を有する領域に分離して出力する。
741の指定値を255とすることによって、741は
オーバーフロー領域X-を744に出力する。742の
指定値を256/kとすることによって、742は長時
間撮像であったなら、オーバーフローすると予測される
領域Yを746に、それ以外の領域Y-を745に出力
する。743の指定値を255とすることによって、7
43はオーバーフロー領域X-を744に出力する。
【0083】744は、741と743から出力された
領域X-の画像から短時間撮像時刻における中間画像を
デュアルプライム予測法で予測生成し、745に出力す
る。デュアルプライム予測法は、作用の説明で述べた図
5の51、52、53、54の作用を一括して行う。請
求項6の方法に記載した画像のパターンマッチングの作
用はデュアルプライム予測法内のBMA(ブロックマッ
チングアルゴリズム)にて行われる。
【0084】745は、744から出力された中間画像
のうち、742から出力された領域Y-に含まれる領域
の画像のみを切り出して747に出力する。
【0085】746は742から出力された画像の画素
の輝度値をk倍して747に出力する。これにより撮像
時間の異なる2フレームの画像間の感度差が補正され、
同一輝度部分を撮像した画素の輝度値は同一となる。
【0086】747は745の出力と746の出力を一
枚の画像データに合成し、これを75で格納する。これ
によって短時間撮像と直前及び直後の短時間撮像の3画
像より短時間撮像時刻における高ダイナミックレンジ画
像が合成される。
【0087】本発明の請求項7の方法の一実施形態を図
8に示す。図8において図7と全く同じ作用を行う過程
を示す部分は図7と同じ番号をふっている。
【0088】図8において、71は原映像データ格納過
程、72はデータ出力切り替え過程、731、732、
733は領域分離過程、734はデュアルプライム予測
法に基づく中間画像予測生成過程である。831から8
35は734の内部処理過程を示しており、831はB
MAに基づく動きベクトル抽出過程、832は動き補償
ベクトル生成過程、833は前フレーム画像を用いた中
間画像予測生成過程、834は後フレーム画像を用いた
中間画像予測生成過程、835は中間画像合成過程であ
る。836は画像パターンの類似度判定過程、81は直
前の短時間撮像画像の領域Xの輪郭線と長時間撮像画像
の領域Yの輪郭線のパターンマッチング過程、82は直
後の短時間撮像画像の領域Xの輪郭線と長時間撮像画像
の領域Yの輪郭線のパターンマッチング過程、83は処
理動作選択過程、84は長時間撮像画像と直前の短時間
撮像画像から高ダイナミックレンジ画像を合成する請求
項1の方法を実現する過程、85は長時間撮像画像と直
後の短時間撮像画像から高ダイナミックレンジ画像を合
成する請求項1の方法を実現する過程、75は出力デー
タ格納過程である。
【0089】本図を用いて短時間撮像画像、長時間撮像
画像、短時間撮像画像の順に並んだ3フレームの画像よ
り請求項7の方法を実施することによって、請求項4の
方法から直前または直後の画像を用いる請求項1の方法
に切り替える例について説明する。
【0090】71から連続する3フレームの画像データ
を72は取り出し、直前の短時間撮像画像は731に、
長時間撮像画像は732に、直後の短時間撮像画像は7
33に出力する。
【0091】731は長時間撮像であったならオーバー
フローしたであろうと予測される領域Yを831と81
に出力する。733は長時間撮像であったならオーバー
フローしたであろうと予測される領域Yを831と82
に出力する。
【0092】734はデュアルプライム予測法に基づく
中間画像予測生成過程であり、内部ブロックの831か
ら835は公知の処理過程、836は請求項7の方法を
構成する新規の過程である。初めに従来の734の動作
について簡単に説明する。
【0093】831は、2領域の画像をブロックパター
ンマッチング法でパターンマッチングを行い、各々のブ
ロック毎に変移ベクトルを算出して832に、また、2
領域のマッチング結果の残差であるMAE(平均値絶対
値誤差)を836に出力する。832は長時間撮像画像
の撮像時刻における画像にするための変移量(補償ベク
トル)を直前の画像と直後の画像毎に別々に算出して8
33と834に出力する。
【0094】833は補償ベクトルを用いて731から
出力された領域Yを部分中間画像に移動変形し835に
出力する。834は補償ベクトルを用いて733から出
力された領域Yを部分中間画像に移動変形し835に出
力する。835は2枚の部分中間画像を合成することに
よって1枚の中間画像を生成する。以降、請求項4の方
法であるならば図7の735、736、737の流れに
沿って処理が進んでいく。
【0095】次に、請求項7の方法の動作が行われる場
合について説明する。836は831から出力された各
ブロック毎のMAEを調べ、予め与えられた閾値vに対
して、全てのブロックのMAEの総和>vであるならば
2領域の類似度が低いと判定して734以降の処理を停
止し、81と82に動作を命令する。
【0096】なお、類似度はMAEばかりでなく、公知
の方法であるMSE(平均二乗誤差)や相互相関関数で
与えることもできる。また、類似度判定もこれら誤差成
分のみで判断するだけでなく、831で生成された各ブ
ロック毎の移動ベクトルの分散から判定することもでき
るが、2領域の類似度を表現できる手法であるならば類
似度の表現方法および判定方法は本実施形態に限定され
るものではない。
【0097】81は2領域の輪郭線形状を抽出し輪郭線
のパターンマッチングをすることによって移動変形量を
算出し83に出力する。なお、輪郭線の抽出処理や移動
変形量の実施方法は図6の実施形態に述べた符号化チェ
イン法およびフーリエ記述子変換法によるパターンマッ
チングとする。
【0098】82は2領域の輪郭線形状を抽出し輪郭線
のパターンマッチングをすることによって移動変形量を
算出し83に出力する。
【0099】83は類似度判定を行うことにより、直前
の短時間撮像画像と直後の短時間撮像画像のうちより長
時間撮像画像と類似度の高い画像を決定する。類似度判
定は移動変形量のより小さい方とする。例えば移動変形
量が図6で説明した実施形態のごとくアフィン変換行列
で与えられる場合には、正規化した行列の全要素の値の
二乗和を算出してこれを類似度とする。なお、二乗和以
外にも類似度を表現することは可能であり、また、移動
変形量がアフィン変換行列式以外のデータ構造で与えら
れる場合にもそれに対応して類似度の表現式は変化する
が、2輪郭線間の類似度を表現する式であるならば本実
施形態に限定されるものではない。
【0100】83は、81から計算した類似度が82か
ら計算した類似度より大きい場合、長時間撮像画像と直
前の短時間撮像画像の類似度がより大きいと判定し84
を動作させる。82から計算した類似度がより大きい場
合、長時間撮像画像と直後の短時間撮像画像の類似度が
より大きいと判定し85を動作させる。
【0101】84は長時間撮像画像と直前の短時間撮像
撮像画像から図6の実施形態の過程によって高ダイナミ
ックレンジ画像を合成し、75で格納する。
【0102】85は長時間撮像画像と直後の短時間撮像
撮像画像から図6の実施形態の過程によって高ダイナミ
ックレンジ画像を合成し、75で格納する。
【0103】本実施形態の方法を用いた場合の原映像か
ら高ダイナミックレンジ映像を生成する説明図を図9に
示す。91から96は短時間撮像画像と長時間撮像画像
の交互に繰り返しで構成される原映像である。ここで9
1、93、95は長時間撮像画像、92、94、96は
短時間撮像画像である。フレーム94以降でスポットラ
イトが照明され画像内の明るい部分の領域形状が大幅に
変化しているとする。
【0104】本実施形態を用いると、基本的には3フレ
ームの画像から1フレームの高ダイナミックレンジ画像
を合成する請求項4の方法が使われる(97、98、9
11、912)が、99の処理においては92と94で
類似度が低いと判定され、93とより類似度の高い画像
は92であると判定されて、93と直前の92の2フレ
ームの画像から1フレームの高ダイナミックレンジ画像
を合成する請求項1の方法が使われる。910の処理に
おいては93と95で類似度が低いと判定され、94と
より類似度の高い画像は95であると判定されて、94
と直後の95の2フレームの画像から1フレームの高ダ
イナミックレンジ画像を合成する請求項1の方法が使わ
れる。
【0105】本発明の請求項8から10の装置の一実施
形態を図10に示す。図10の101は磁気記録装置ま
たはメモリ等で構成される原映像データ格納器、102
はCPUを用いた制御装置、103は請求項9の装置の
合成器Aを実現する一実施形態、104は請求項10の
装置の合成器Bを実現する一実施形態、105は磁気記
録装置またはメモリ等で構成される出力データ格納器で
ある。
【0106】1031と1032は領域分離器であり、
請求項9の装置における検出器Cと検出器Dの一実施形
態である。1033と1034は輪郭形状抽出器、10
35は輪郭形状のパターンマッチング器、1036は領
域の移動、変形器、1037は画素の輝度値倍率補正
器、1038は画像合成器である。
【0107】1041と1042は領域分離器であり、
請求項10の装置における検出器Cと検出器Dの一実施
形態である。1043と1034は輪郭線抽出器、10
45は輪郭線形状のパターンマッチング器、1046は
領域の移動、変形器、1047は画素の輝度値倍率補正
器、1048は画像合成器である。
【0108】本実施形態による処理の流れを説明する。
なお、本実施形態では原画像データはダイナミックレン
ジが8bit(画素の輝度値のとりうる値は0から25
5)で逆ガンマ補正済みとする。また、長時間撮像時間
と短時間撮像時間の撮像時間比をkとし、ある時刻にお
ける画像と直後の画像データより該時刻における画像デ
ータを合成する処理について説明する。
【0109】101は交互に撮像時間を変えて撮った映
像データを蓄えている。なお、本装置を実時間処理動作
できる場合には101を省略して撮像時間可変カメラの
出力(ガンマ補正済み)を直接102に接続しても構わ
ない。
【0110】102は101から逐次、画像と直後フレ
ームの画像を取り出し、該2画像が長時間撮像画像、短
時間撮像画像の順番であるなら、長時間撮像画像を10
31に、短時間撮像画像を1032に出力する。また、
短時間撮像画像、長時間撮像画像の順番であるなら、長
時間撮像画像を1041に、短時間撮像画像を1042
に出力する。
【0111】1031と1032は入力した画像から指
定した値以上の画素の輝度値を有する領域と該値未満の
画素の輝度値を有する領域に分離して出力する。103
1の指定値を255とすることによって、1031はオ
ーバーフロー領域Xを1033に出力し、それ以外の領
域X-を1038に出力する。1032の指定値を25
6/kとすることによって、1032は長時間撮像であ
ったならオーバーフローすると予測される領域Yを10
34と1036に出力する。
【0112】1033と1034は公知の方法であるチ
ェイン符号化法(参考文献:画像解析ハンドブックp
p.579−580)で領域の輪郭線を抽出して103
5に出力する。
【0113】1035は1033と1034から出力さ
れた輪郭形状をフーリエ記述子(参考文献:画像解析ハ
ンドブックpp.581−582)表現データに変換
し、該データを比較してパターンマッチングを行うこと
によって両輪郭線形状の位置、形状の変移量データをア
フィン変換行列データとして出力する(参考文献:画像
処理アルゴリズムの最新動向、別冊OplusE、p
p.58−72)。なお、輪郭線形状のパターンマッチ
ング装置には様々な公知の装置があり。輪郭線が抽出で
きるのであれば本発明の特許請求の範囲は本実施形態に
限定されるものではない。また、2フレーム間に起きる
輪郭線形状の移動変形量は微小なので変形は考慮せず、
全領域均一に移動するとして2領域の重心座標の変移量
を変移データとして出力する簡略化した装置(例:MU
SE方式HiVisionのエンコーダ)もあり、本発
明の特許請求の範囲を本実施形態に限定するものではな
い。
【0114】また、本実施形態ではパターンマッチング
対象領域が一つの場合について説明しているが、103
3と1034で輪郭線が複数抽出されている場合は各々
の輪郭線で囲まれた領域の重心座標を求め、最も重心座
標の近い物同士で上記のパターンマッチングを行うこと
によって、容易に複数の処理に拡張できることは言うま
でもない。
【0115】1036は1035から出力されたアフィ
ン変換行列データに基づいて、領域Yの位置、形状を領
域Xの位置、形状に合わせて1037に出力する。
【0116】1037は画素の輝度値をk倍して103
8に出力する。これにより撮像時間の異なる2フレーム
の画像間の感度差が補正され、同一輝度部分を撮像した
画素の輝度値は同一となる。
【0117】1038は1037の出力と1031から
出力された領域X-を一枚の画像データに合成して10
5に格納する。これによって長時間撮像と直後の短時間
撮像の2画像より長時間撮像時刻における高ダイナミッ
クレンジ画像が合成される。
【0118】1041と1042は入力した画像から指
定した値以上の画素の輝度値を有する領域と該値未満の
画素の輝度値を有する領域に分離して出力する。104
1の指定値を255とすることによって、1041はオ
ーバーフローしていない領域X-を1043と1046
に出力する。1042の指定値を256/kとすること
によって、1042は長時間撮像であったならオーバー
フローすると予測される領域Yを1047に、それ以外
の領域Y-を1044に出力する。
【0119】1043と1044は公知の方法であるチ
ェイン符号化法で領域の輪郭線を抽出して1045に出
力する。
【0120】1045は1043と1044から出力さ
れた輪郭形状をフーリエ記述子表現データに変換し、該
データを比較してパターンマッチングを行うことによっ
て両輪郭線形状の位置、形状の変移量データをアフィン
変換行列データとして出力する。
【0121】1046は1045から出力されたアフィ
ン変換行列データに基づいて、領域X-の位置、形状を
領域Y-の位置、形状に合わせて1048に出力する。
【0122】1047は1042から出力された領域Y
の画素の輝度値をk倍して1048に出力する。これに
より撮像時間の異なる2フレームの画像間の感度差が補
正され、同一輝度部分を撮像した画素の輝度値は同一と
なる。
【0123】1048は1046の出力と1047の出
力を一枚の画像データに合成して105に格納する。こ
れによって短時間撮像と直後の長時間撮像の2画像より
短時間撮像時刻における高ダイナミックレンジ画像が合
成される。
【0124】本発明の請求項11から13の装置の一実
施形態を図11に示す。図11の111は磁気記録装置
またはメモリ等で構成される原映像データ格納器、11
2はCPUを用いた制御装置、113は請求項12の装
置の合成器Eを実現する一実施形態、114は請求項1
3の装置の合成器Fを実現する一実施形態、115は磁
気記録装置またはメモリ等で構成される出力データ格納
器である。
【0125】1131と1132と1133は領域分離
器であり、請求項12の装置における検出器Cと検出器
Dの一実施形態である。1134は中間画像の予測生成
器、1135は領域切り出し器、1136は画素の輝度
値の倍率補正器、1137は画像合成器である。
【0126】1141と1142と1143は領域分離
器であり、請求項12の装置における検出器Cと検出器
Dの一実施形態である。1144は中間画像の予測生成
器、1145は領域切り出し器、1146は画素の輝度
値の倍率補正器、1147は画像合成器である。
【0127】本実施形態による処理の流れを説明する。
なお、本実施形態では原画像データはダイナミックレン
ジが8bit(画素の輝度値のとりうる値は0から25
5)で逆ガンマ補正済みとする。また、長時間撮像時間
と短時間撮像時間の撮像時間比をkとし、ある時刻にお
ける画像と直後の画像データより該時刻における画像デ
ータを合成する処理について説明する。
【0128】111は交互に撮像時間を変えて撮った映
像データを蓄えている。なお、本装置を実時間処理動作
できる場合には111を省略して撮像時間可変カメラの
出力(ガンマ補正済み)を直接112に接続しても構わ
ない。
【0129】112は111から逐次、画像と直前及び
直後フレームの画像を取り出し、該3画像が短時間撮像
画像、長時間撮像画像、短時間撮像画像の順番であるな
ら、直前の短時間撮像画像を1131に、長時間撮像画
像を1132に、直後の短長間画像を1133に出力す
る。また、該3画像が長時間撮像画像、短時間撮像画
像、長時間撮像画像の順番であるなら、直前の長短間撮
像画像を1141に、短時間撮像画像を1142に、直
後の長時間画像を1143に出力する。
【0130】1131と1132と1133は入力した
画像から指定した値以上の画素の輝度値を有する領域と
該値未満の画素の輝度値を有する領域に分離して出力す
る。1131の指定値を256/kとすることによっ
て、1131は長時間撮像であったならオーバーフロー
すると予測される領域Yを1134に出力する。113
2の指定値を255とすることによって、1132はオ
ーバーフロー領域Xを1135にそれ以外の領域X-
1137に出力する。1133の指定値を256/kと
することによって、1133は長時間撮像であったなら
オーバーフローすると予測される領域Yを1134に出
力する。
【0131】1134は1131と1133から出力さ
れた領域Yの画像から短時間撮像時刻における中間画像
をデュアルプライム予測演算器(参考文献:デジタル放
送・インターネット技術のための情報圧縮技術、pp.
218−219)で予測生成し1135に出力する。デ
ュアルプライム予測演算器は作用の説明で述べた図4の
41、42、43、44の作用を一括して行う。デュア
ルプライム演算器内のBMA(ブロックマッチングアル
ゴリズム)演算器が請求項12の装置に記載した画像の
パターンマッチング器に該当する。
【0132】なお、画像のパターンマッチング器にはB
MA以外にも様々な公知の装置があり、画像の予測生成
器もデュアルプライム予測演算器以外の公知の装置があ
り、画像のパターンマッチングを用いて予測生成を行う
装置であるなら本発明の特許請求の範囲を本実施形態に
限定するものではない。
【0133】1135は1134から出力された中間画
像のうち、1132から出力された領域Xに含まれる領
域の画像のみを切り出して1136に出力する。
【0134】1136は1135から出力された画像の
画素の輝度値をk倍して1137に出力する。これによ
り撮像時間の異なる2フレームの画像間の感度差が補正
され。同一輝度部分を撮像した画素の輝度値は同一とな
る。
【0135】1137は1132の出力と1136の出
力を一枚の画像データに合成して115に格納する。こ
れによって長時間撮像と直前及び直後の短時間撮像の3
画像より長時間撮像時刻における高ダイナミックレンジ
画像が合成される。
【0136】1141と1142と1143は、入力し
た画像から指定した値以上の画素の輝度値を有する領域
と該値未満の画素の輝度値を有する領域に分離して出力
する。1141の指定値を255とすることによって、
1141はオーバーフロー領域X-を1144に出力す
る。1142の指定値を256/kとすることによっ
て、1142は長時間撮像であったならオーバーフロー
すると予測される領域Yを1146に、それ以外の領域
-を1145に出力する。1143の指定値を255
とすることによって、1143はオーバーフロー領域X
-を1144に出力する。
【0137】1144は、1141と1143から出力
された領域X-の画像から短時間撮像時刻における中間
画像をデュアルプライム予測演算器で予測生成し、11
45に出力する。デュアルプライム予測演算器は作用の
説明で述べた図5の51、52、53、54の作用を一
括して行う。デュアルプライム演算器内のBMA(ブロ
ックマッチングアルゴリズム)演算器が請求項13の装
置に記載した画像のパターンマッチング器に該当する。
【0138】1145は1144から出力された中間画
像のうち、1142から出力された領域Y-に含まれる
領域の画像のみを切り出して1147に出力する。
【0139】1146は1142から出力された画像の
画素の輝度値をk倍して1147に出力する。これによ
り撮像時間の異なる2フレームの画像間の感度差が補正
され、同一輝度部分を撮像した画素の輝度値は同一とな
る。
【0140】1147は1145の出力と1146の出
力を一枚の画像データに合成して115に格納する。こ
れによって短時間撮像と直前及び直後の短時間撮像の3
画像より短時間撮像時刻における高ダイナミックレンジ
画像が合成される。
【0141】本発明の請求項14の装置について短時間
撮像画像、長時間撮像画像、短時間撮像画像の順に並ん
だ3フレームの画像を処理する場合の実施形態を図12
に示す。図12において図11と全く同じ装置を示す部
分は図11と同じ番号をふっている。
【0142】図12において、111は磁気記録装置ま
たはメモリ等で構成される原映像データ格納器、112
はCPUを用いた制御装置、1131、1132、11
33は領域分離器、1134はデュアルプライム予測法
に基づく中間画像予測生成器である。1231から12
35は1134の内部処理を行う装置を示しており、1
231はBMAに基づく動きベクトル抽出器、1232
は動き補償ベクトル生成器、1233は前フレーム画像
を用いた中間画像予測生成器、1234は後フレーム画
像を用いた中間画像予測生成器、1235は中間画像合
成器である。1236は画像パターンの類似度判定器、
121は直前の短時間撮像画像の領域Xの輪郭線と長時
間撮像画像の領域Yの輪郭線のパターンマッチング器、
122は直後の短時間撮像画像の領域Xの輪郭線と長時
間撮像画像の領域Yの輪郭線のパターンマッチング器、
123は処理動作選択器、124は長時間撮像画像と直
前の短時間撮像画像から高ダイナミックレンジ画像を合
成する請求項8の装置、125は長時間撮像画像と直後
の短時間撮像画像から高ダイナミックレンジ画像を合成
する請求項8の装置、115は磁気記録装置またはメモ
リ等で構成される出力データ格納器である。
【0143】本図を用いて短時間撮像画像、長時間撮像
画像、短時間撮像画像の順に並んだ3フレームの画像よ
り請求項14の装置を用いて、請求項11の装置から直
前または直後の画像を用いる請求項8の装置に処理動作
を切り替える例について説明する。
【0144】111から連続する3フレームの画像を1
12は取り出し、直前の短時間撮像画像は1131に、
長時間撮像画像は1132に、直後の短時間撮像画像は
1133に出力する。1131は長時間撮像であったな
らオーバーフローしたであろうと予測される領域Yを1
231と121に出力する。1133は長時間撮像であ
ったならオーバーフローしたであろうと予測される領域
Yを1231と122に出力する。
【0145】1134はデュアルプライム予測法に基づ
く中間画像予測生成装置であり、内部ブロックの123
1から1235は公知の処理装置、1236は請求項1
4を構成する新規の装置である。初めに従来の1134
の動作について簡単に説明する。
【0146】1231は2領域の画像をBMA法でパタ
ーンマッチングを行い、各々のブロック毎に変移ベクト
ルを算出して1232に、また、2領域のマッチング結
果の残差であるMAE(平均値絶対値誤差)を1236
に出力する。1232は長時間撮像画像の撮像時刻にお
ける画像にするための変移量(補償ベクトル)を直前の
画像と直後の画像毎に別々に算出して1233と123
4に出力する。
【0147】1233は補償ベクトルを用いて1131
から出力された領域Yを部分中間画像に移動変形し12
35に出力する。1234は補償ベクトルを用いて11
33から出力された領域Yを部分中間画像に移動変形し
1235に出力する。1235は2枚の部分中間画像を
合成することによって1枚の中間画像を生成する。以
降、請求項11の装置で処理が続く場合には図11の1
135、1136、1137の流れに沿って処理が進ん
でいく。
【0148】次に、請求項14の装置の動作が行われる
場合について説明する。1236は1231から出力さ
れた各ブロック毎のMAEを調べ、予め与えられた閾値
vに対して、全てのブロックのMAEの総和>vである
ならば2領域の類似度が低いと判定して1132の処理
を停止し、121と122に動作を命令する。
【0149】121は1131から出力された領域Yと
1132から出力された領域Xについて、輪郭線を符号
化チェイン法による輪郭線抽出器によって抽出し、フー
リエ記述子変換法によるパターンマッチング器によって
移動変形量を算出し123に出力する。
【0150】122は1133から出力された領域Yと
1132から出力された領域Xについて、輪郭線を符号
化チェイン法による輪郭線抽出器によって抽出し、フー
リエ記述子変換法によるパターンマッチング器によって
移動変形量を算出し123に出力する。
【0151】123は移動変形量を用いて類似度判定を
行うことにより、直前の短時間撮像画像と直後の短時間
撮像画像のうちより長時間撮像画像と類似度の高い画像
を決定する。類似度判定は移動変形量のより小さい方と
する。例えば移動変形量が図10で説明した実施形態の
ごとくアフィン変換行列で与えられる場合には、正規化
した行列の全要素の値の二乗和を算出してこれを類似度
とする。なお、二乗和以外にも類似度を表現することは
可能であり。また、移動変形量がアフィン変換行列式以
外のデータ構造で与えられる場合にもそれに対応して類
似度の表現式は変化するが、2輪郭線の類似度を表現す
る式であるならば本発明の特許請求の範囲は本実施形態
に限定されるものではない。
【0152】123は、121から計算した類似度が1
22から計算した類似度より大きい場合、長時間撮像画
像と直前の短時間撮像画像の類似度がより大きいと判定
し124を動作させる。122から計算した類似度がよ
り大きい場合、長時間撮像画像と直後の短時間撮像画像
の類似度がより大きいと判定し125を動作させる。
【0153】124は長時間撮像画像と直前の短時間撮
像撮像画像から図10の実施形態の装置によって高ダイ
ナミックレンジ画像を合成し115に格納する。
【0154】125は長時間撮像画像と直後の短時間撮
像撮像画像から図10の実施形態の装置によって高ダイ
ナミックレンジ画像を合成し115に格納する。
【0155】なお、図10〜図12で示した装置におけ
る各部の一部もしくは全部の機能をコンピュータのプロ
グラムで構成し、そのプログラムをコンピュータを用い
て実行して本発明を実現することができること、あるい
は、図6〜図8で説明した処理過程による方法の処理の
手順をコンピュータのプログラムで構成し、そのプログ
ラムをコンピュータに実行させることができることは言
うまでもなく、コンピュータでその機能を実現するため
のプログラム、あるいは、コンピュータにその処理の手
順を実行させるためのプログラムを、そのコンピュータ
が読み取り可能な記録媒体、例えば、FD(フロッピー
ディスク(登録商標))や、MO、ROM、メモリカー
ド、CD、DVD、リムーバブルディスクなどに記録し
て、保存したり、配布したりすることが可能である。ま
た、上記のプログラムをインターネットや電子メールな
ど、ネットワークを通して提供することも可能である。
【0156】
【発明の効果】従来の方法および装置では、図1(a)
の11に示すように2フレームの画像より単一の合成ア
ルゴリズムで1フレームの画像を合成するためフレーム
レートが半減してしまうが、本発明の方法および装置
は、請求項1の方法と請求項8の装置では図1(b)の
12、請求項4の方法と請求項11の装置では図1
(c)の13のように、どちらも原映像と同フレームレ
ートで高ダイナミックレンジ映像を生成することができ
る。
【0157】また、本発明の請求項1の方法および請求
項8の装置では、図2に示したように撮像時刻の異なる
2フレームの画像をそのまま合成せず、同じ撮像時刻に
得られるはずの画像を予測生成した後に合成するため、
動画像であっても不自然な画像を合成しない。
【0158】更に、請求項1の方法および請求項8の装
置は、輪郭線部の動きと輪郭線内の動きが同じ時に正確
な合成映像が提供できるが、請求項4の方法および請求
項11の装置は輪郭線部の動きと輪郭線内部の動きが別
々の場合でも正確な合成画像を提供することができるの
で、より高品質な高ダイナミックレンジ映像を提供でき
る。
【0159】一方で、請求項4の方法および請求項11
の装置は、連続する3フレームの映像を必要とするた
め、映像の切り替わり点や、画像内容がフレーム間で不
連続的に変化するような場合には適用できないか、また
は無理に適用しても低品質の合成画像しか得られない等
の問題点もある。そこで、請求項7の方法および請求項
14の装置において、前記の不連続な部分を2画像の類
似度を調べることによって検出し、請求項4の方法と請
求項1の方法あるいは請求項11の装置と請求項8の装
置を適応的に切り替えて処理を行うことによって、図9
に示したように画像間で不連続な部分が存在しても常に
最適な画像合成方法および装置を選択して高ダイナミッ
クレンジ映像を合成することが可能となる。
【図面の簡単な説明】
【図1】(1)は従来の方法を、(2)は本発明の請求
項1の方法を、(3)は本発明の請求項4の方法を、そ
れぞれ用いた場合の原画像データと合成画像データの対
応を説明した図である。
【図2】本発明の請求項1、2、3の方法および請求項
8、9、10の装置の作用を説明した図である。
【図3】本発明の請求項4の方法および請求項11の装
置の作用を説明した図である。
【図4】本発明の請求項5の方法および請求項12の装
置の作用を説明した図である。
【図5】本発明の請求項6の方法および請求項13の装
置の作用を説明した図である。
【図6】本発明の請求項1、2、3の方法の一実施形態
を示した図である。
【図7】本発明の請求項4、5、6の方法の一実施形態
を示した図である。
【図8】本発明の請求項7の方法の一実施形態を示した
図である。
【図9】本発明の請求項7の方法および請求項14の装
置を用いた場合の原画像データと合成画像データの対応
関係を示した図である。
【図10】本発明の請求項8、9、10の装置の一実施
形態を示した図である。
【図11】本発明の請求項11、12、13の装置の一
実施形態を示した図である。
【図12】本発明の請求項14の装置の一実施形態を示
した図である。
【符号の説明】
61…原映像データ格納過程 62…データ出力切り替え過程 63…過程A 631、632…領域分離過程 633、634…輪郭形状抽出過程 635…パターンマッチング過程 636…領域の移動、変形過程 637…画素の輝度値倍率補正過程 638…画像合成過程 64…過程B 641、642…領域分離過程 643、634…輪郭線抽出過程 645…パターンマッチング過程 646…領域の移動、変形過程 647…画素の輝度値倍率補正過程 648…画像合成過程 65…出力データ格納過程 71…原映像データ格納過程 72…データ出力切り替え過程 73…過程E 731、732、733…領域分離過程 734…中間画像の予測生成過程 735…領域切り出し過程 736…画素の輝度値の倍率補正過程 737…画像合成過程 74…過程F 741、742、743…領域分離過程 744…中間画像の予測生成過程 745…領域切り出し過程 746…画素の輝度値の倍率補正過程 747…画像合成過程 75…出力データ格納過程 81…直前の短時間撮像画像の領域Xの輪郭線と長時間
撮像画像の領域Yの輪郭線のパターンマッチング過程 82…直後の短時間撮像画像の領域Xの輪郭線と長時間
撮像画像の領域Yの輪郭線のパターンマッチング過程 83…処理動作選択過程 831…動きベクトル抽出過程 832…動き補償ベクトル生成過程 833…前フレーム画像を用いた中間画像予測生成過程 834…後フレーム画像を用いた中間画像予測生成過程 835…中間画像合成過程 836…画像パターンの類似度判定過程 84…長時間撮像画像と直前の短時間撮像画像から高ダ
イナミックレンジ画像を合成する方法を実現する過程 85…長時間撮像画像と直後の短時間撮像画像から高ダ
イナミックレンジ画像を合成する方法を実現する過程 101…原映像データ格納器 102…制御装置 103…合成器A 1031、1032…領域分離器 1033、1034…輪郭形状抽出器 1035…パターンマッチング器 1036…領域の移動、変形器 1037…画素の輝度値倍率補正器 1038…画像合成器 104…合成器B 1041、1042…領域分離器 1043、1034…輪郭線抽出器 1045…パターンマッチング器 1046…領域の移動、変形器 1047…画素の輝度値倍率補正器 1048…画像合成器 105…出力データ格納器 111…原映像データ格納器 112…制御装置 113…合成器E 1131、1132、1133…領域分離器 1134…中間画像の予測生成器 1135…領域切り出し器 1136…画素の輝度値の倍率補正器 1137…画像合成器 114…合成器F 1141、1142、1143…領域分離器 1144…中間画像の予測生成器 1145…領域切り出し器 1146…画素の輝度値の倍率補正器 1147…画像合成器 115…出力データ格納器 121…直前の短時間撮像画像の領域Xの輪郭線と長時
間撮像画像の領域Yの輪郭線のパターンマッチング器 122…直後の短時間撮像画像の領域Xの輪郭線と長時
間撮像画像の領域Yの輪郭線のパターンマッチング器 123…処理動作選択器 1231…動きベクトル抽出器 1232…動き補償ベクトル生成器 1233…前フレーム画像を用いた中間画像予測生成器 1234…後フレーム画像を用いた中間画像予測生成器 1235…中間画像合成器 1236…画像パターンの類似度判定器 124…長時間撮像画像と直前の短時間撮像画像から高
ダイナミックレンジ画像を合成する装置 125…長時間撮像画像と直後の短時間撮像画像から高
ダイナミックレンジ画像を合成する装置
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) G06T 7/60 300 G06T 7/60 300A (72)発明者 沖村 隆幸 東京都千代田区大手町二丁目3番1号 日 本電信電話株式会社内 Fターム(参考) 5B057 AA20 CA08 CA12 CA16 CB08 CB12 CB16 CC01 CE01 CE08 CE09 DA08 DB02 DB09 DC16 DC22 DC32 5C022 AA00 AB17 5L096 AA06 BA20 CA03 DA01 EA17 FA06 FA14 JA09 JA18 MA03

Claims (16)

    【特許請求の範囲】
  1. 【請求項1】 撮像時間を可変に制御できる撮像装置を
    用いて長時間撮像と短時間撮像を交互に繰り返して高ダ
    イナミックレンジ映像を生成する方法において、 長時間撮像と直後または直前の短時間撮像の2画像より
    長時間撮像時刻における高ダイナミックレンジ画像を合
    成する過程Aと、 短時間撮像と直後または直前の長時間撮像の2画像より
    短時間撮像時刻における高ダイナミックレンジ画像を合
    成する過程Bの異なる2つの合成過程とを有し、 長時間撮像時刻における画像については過程Aを実行
    し、短時間撮像時刻における画像については過程Bを実
    行することを特徴とする高ダイナミックレンジ映像の生
    成方法。
  2. 【請求項2】 過程Aでは、 長時間撮像の画像内にあるオーバーフロー領域Xを検出
    する過程Cと、 短時間撮像の画像において長時間撮像であったならオー
    バーフローすると予測される領域Yを検出する過程D
    と、 2領域の輪郭線のパターンマッチングを行う過程とを有
    し、 過程Cにより長時間撮像画像を領域Xとそれ以外の領域
    -に分離し、 過程Dにより直後または直前の短時間撮像画像から領域
    Yを抜き出し、 パターンマッチングを行う過程により領域Yの位置、形
    状を領域Xの位置、形状に合わせた後で画素の輝度値の
    倍率補正を行った後に、領域X-と合成することによっ
    て、長時間撮像と直後または直前の短時間撮像の2画像
    から長時間撮像時刻における画像を合成することを特徴
    とする請求項1に記載の高ダイナミックレンジ映像の生
    成方法。
  3. 【請求項3】 過程Bでは、 長時間撮像の画像内にあるオーバーフロー領域Xを検出
    する過程Cと、 短時間撮像の画像において長時間撮像であったならオー
    バーフローすると予測される領域Yを検出する過程D
    と、 2領域の輪郭線のパターンマッチングを行う過程とを有
    し、 過程Dにより短時間撮像画像を領域Yとその他の領域Y
    -に分離し、 過程Cにより直後または直前の長時間撮像画像を領域X
    とその他の領域X-に分離し、 パターンマッチングを行う過程により領域X-の位置、
    形状を領域Y-の位置、形状に合わせた後で、画素の輝
    度値の倍率補正を行った後の領域Yと合成することによ
    って、短時間撮像と直後または直前の長時間撮像の2画
    像から短時間撮像時刻における画像を合成することを特
    徴とする請求項1に記載の高ダイナミックレンジ映像の
    生成方法。
  4. 【請求項4】 撮像時間を可変に制御できる撮像装置を
    用いて長時間撮像と短時間撮像を交互に繰り返して高ダ
    イナミックレンジ映像を生成する方法において、 長時間撮像と直前の短時間撮像と直後の短時間撮像の3
    画像より長時間撮像時刻における高ダイナミックレンジ
    画像を合成する過程Eと、 短時間撮像と直前の長時間撮像と直後の長時間撮像の3
    画像より短時間撮像時刻における高ダイナミックレンジ
    画像を合成する過程Fの異なる2つの合成過程とを有
    し、 長時間撮像時刻における画像については過程Eを実行
    し、短時間撮像時刻における画像については過程Fを実
    行することを特徴とする高ダイナミックレンジ映像の生
    成方法。
  5. 【請求項5】 過程Eでは、 長時間撮像の画像中にあるオーバーフロー領域Xを検出
    する過程Cと、 短時間撮像の画像において長時間撮像であったならオー
    バーフローすると予測される領域Yを検出する過程D
    と、 2領域の画像のパターンマッチングを行う過程とを有
    し、 過程Cにより長時間撮像の画像を領域Xとそれ以外の領
    域X-に分離し、 過程Dにより直前の短時間撮像の画像から領域Y1を切
    り出し、 過程Dにより直後の短時間撮像の画像から領域Y2を切
    り出し、 2領域の画像のパターンマッチングを行う過程により2
    領域である領域Y1と領域Y2から長時間撮像時刻にお
    ける中間画像Y3を生成し、 中間画像Y3から領域Xと位置的に重なる領域を切り出
    し、画素の輝度値の倍率補正を行った後で、領域X-
    合成することによって、長時間撮像と直前の短時間画像
    と直後の短時間撮像の3画像から長時間撮像時刻におけ
    る画像を合成することを特徴とする請求項4に記載の高
    ダイナミックレンジ映像の生成方法。
  6. 【請求項6】 過程Fでは、 長時間撮像の画像中にあるオーバーフロー領域Xを検出
    する過程Cと、 短時間撮像の画像において長時間撮像であったならオー
    バーフローすると予測される領域Yを検出する過程D
    と、 2領域の画像のパターンマッチングを行う過程とを有
    し、 過程Dにより短時間撮像の画像を領域Yとその他の領域
    -に分離し、 過程Cにより直前の長時間撮像の画像を領域X1とその
    他の領域X1-に分離し、 過程Cにより直後の長時間撮像の画像を領域X2とその
    他の領域X2-に分離し、 2領域の画像のパターンマッチングを行う過程により2
    領域である領域X1-と領域X2-から短時間撮像時刻に
    おける中間画像X3-を生成し、 中間画像X3-から領域Y-と位置的に重なる領域を切り
    出した後で、画素の輝度値の倍率補正を行った後の領域
    Yと合成することによって、短時間撮像と直前の長時間
    撮像と直後の短時間撮像の3画像から短時間撮像時刻に
    おける画像を合成することを特徴とする請求項4に記載
    の高ダイナミックレンジ映像の生成方法。
  7. 【請求項7】 2領域の画像のパターンマッチングを行
    う過程が2領域のパターンの類似度を算出する過程も有
    し、 請求項5または請求項6に記載の高ダイナミックレンジ
    映像の生成方法において、 2領域の画像のパターンマッチングを行う際に類似度も
    算出し、予め設定された値よりも類似度が小さい場合に
    は、請求項5においてはY1とXおよびY2とXに対し
    て輪郭線のパターンマッチングを行い、請求項6におい
    てはX1とYおよびX2とYに対して輪郭線のパターン
    マッチングを行い、 該輪郭線のパターンマッチングの結果、XとY2あるい
    はYとX2の類似度の方が大きい場合は請求項4に記載
    の高ダイナミックレンジ映像の生成方法の代わりに直後
    の画像を用いる請求項1に記載の高ダイナミックレンジ
    映像の生成方法に切り替え、Y1とXあるいはX1とY
    の類似度の方が大きい場合は請求項4に記載の高ダイナ
    ミックレンジ映像の生成方法の代わりに直前の画像を用
    いる請求項1に記載の高ダイナミックレンジ映像の生成
    方法に切り替えることを特徴とする高ダイナミックレン
    ジ映像の生成方法。
  8. 【請求項8】 撮像時間を可変に制御できる撮像装置を
    用いて長時間撮像と短時間撮像を交互に繰り返して高ダ
    イナミックレンジ映像を生成する装置において、 長時間撮像と直後または直前の短時間撮像の2画像より
    長時間撮像時刻における高ダイナミックレンジ画像を合
    成する合成器Aと、 短時間撮像と直後または直前の長時間撮像の2画像より
    短時間撮像時刻における高ダイナミックレンジ画像を合
    成する合成器Bの異なる2つの合成器とを有し、 長時間撮像時刻における画像については合成器Aを用
    い、短時間撮像時刻における画像については合成器Bを
    用いることを特徴とする高ダイナミックレンジ映像の生
    成装置。
  9. 【請求項9】 合成器Aは、 長時間撮像の画像内にあるオーバーフロー領域Xを検出
    する検出器Cと、 短時間撮像の画像において長時間撮像であったならオー
    バーフローすると予測される領域Yを検出する検出器D
    と、 2領域の輪郭線のパターンマッチングを行うパターンマ
    ッチング器とを有し、 検出器Cを用いて長時間撮像画像を領域Xとそれ以外の
    領域X-に分離し、検出器Dを用いて直後または直前の
    短時間撮像画像から領域Yを抜き出し、該パターンマッ
    チング器を用いて領域Yの位置、形状を領域Xの位置、
    形状に合わせた後で画素の輝度値の倍率補正を行った後
    に、領域X-と合成することによって、長時間撮像と直
    後または直前の短時間撮像の2画像から長時間撮像時刻
    における画像を合成するものであることを特徴とする請
    求項8に記載の高ダイナミックレンジ映像の生成装置。
  10. 【請求項10】 合成器Bは、 長時間撮像の画像内にあるオーバーフロー領域Xを検出
    する検出器Cと、 短時間撮像の画像において長時間撮像であったならオー
    バーフローすると予測される領域Yを検出する検出器D
    と、 2領域の輪郭線のパターンマッチングを行うパターンマ
    ッチング器とを有し、検出器Dを用いて短時間撮像画像
    を領域Yとその他の領域Y-に分離し、検出器Cを用い
    て直後または直前の長時間撮像画像を領域Xとその他の
    領域X-に分離し、該パターンマッチング器を用いて領
    域X-の位置、形状を領域Y-の位置、形状に合わせた後
    で、画素の輝度値の倍率補正を行った後の領域Yと合成
    することによって、短時間撮像と直後または直前の長時
    間撮像の2画像から短時間撮像時刻における画像を合成
    するものであることを特徴とする請求項8に記載の高ダ
    イナミックレンジ映像の生成装置。
  11. 【請求項11】 撮像時間を可変に制御できる撮像装置
    を用いて長時間撮像と短時間撮像を交互に繰り返して高
    ダイナミックレンジ映像を生成する装置において、 長時間撮像と直前の短時間撮像と直後の短時間撮像の3
    画像より長時間撮像時刻における高ダイナミックレンジ
    画像を合成する合成器Eと、 短時間撮像と直前の長時間撮像と直後の長時間撮像の3
    画像より短時間撮像時刻における高ダイナミックレンジ
    画像を合成する合成器Fの異なる2つの合成器とを有
    し、 長時間撮像時刻における画像については合成器Eを用
    い、短時間撮像時刻における画像については合成器Fを
    用いることを特徴とする高ダイナミックレンジ映像の生
    成装置。
  12. 【請求項12】 合成器Eは、 長時間撮像の画像中にあるオーバーフロー領域Xを検出
    する検出器Cと、 短時間撮像の画像において長時間撮像であったならオー
    バーフローすると予測される領域Yを検出する検出器D
    と、 2領域の画像のパターンマッチングを行うパターンマッ
    チング器とを有し、 検出器Cを用いて長時間撮像の画像を領域Xとそれ以外
    の領域X-に分離し、検出器Dを用いて直前の短時間撮
    像の画像から領域Y1を切り出し、検出器Dを用いて直
    後の短時間撮像の画像から領域Y2を切り出し、領域Y
    1と領域Y2から該パターンマッチング器を用いて長時
    間撮像時刻における中間画像Y3を生成し、中間画像Y
    3から領域Xと位置的に重なる領域を切り出し、画素の
    輝度値の倍率補正を行った後で、領域X-と合成するこ
    とによって、長時間撮像と直前の短時間画像と直後の短
    時間撮像の3画像から長時間撮像時刻における画像を合
    成するものであることを特徴とする請求項11に記載の
    高ダイナミックレンジ映像の生成装置。
  13. 【請求項13】 合成器Fは、 長時間撮像の画像中にあるオーバーフロー領域Xを検出
    する検出器Cと、 短時間撮像の画像において長時間撮像であったならオー
    バーフローすると予測される領域Yを検出する検出器D
    と、 2領域の画像のパターンマッチングを行うパターンマッ
    チング器とを有し、 検出器Dを用いて短時間撮像の画像を領域Yとその他の
    領域Y-に分離し、検出器Cを用いて直前の長時間撮像
    の画像を領域X1とその他の領域X1-に分離し、検出
    器Cを用いて直後の長時間撮像の画像を領域X2とその
    他の領域X2-に分離し、領域X1-と領域X2-から該
    パターンマッチング器を用いて短時間撮像時刻における
    中間画像X3-を生成し、中間画像X3-から領域Y-
    位置的に重なる領域を切り出した後で、画素の輝度値の
    倍率補正を行った後の領域Yと合成することによって、
    短時間撮像と直前の長時間撮像と直後の短時間撮像の3
    画像から短時間撮像時刻における画像を合成するもので
    あることを特徴とする請求項11に記載の高ダイナミッ
    クレンジ映像の生成装置。
  14. 【請求項14】 2領域の画像のパターンマッチングを
    行うパターンマッチング器が2領域の画像のパターンの
    類似度を算出する類似度評価器も有し、 請求項12または請求項13に記載の高ダイナミックレ
    ンジ映像の生成装置おいて、画像のパターンマッチング
    を行う際に類似度も算出し、予め設定された値よりも類
    似度が小さい場合には、請求項12に記載の高ダイナミ
    ックレンジ映像の生成装置おいてはY1とXおよびY2
    とXに対して輪郭線のパターンマッチングを行い、請求
    項13に記載の高ダイナミックレンジ映像の生成装置お
    いてはX1とYおよびX2とYに対して輪郭線のパター
    ンマッチングを行い、XとY2あるいはYとX2の類似
    度の方が大きい場合は請求項11に記載の高ダイナミッ
    クレンジ映像の生成装置の代わりに直後の画像を用いる
    請求項8に記載の高ダイナミックレンジ映像の生成装置
    で処理を行い、Y1とXあるいはX1とYの類似度の方
    が大きい場合は請求項11に記載の高ダイナミックレン
    ジ映像の生成装置の代わりに直前の画像を用いる請求項
    8に記載の高ダイナミックレンジ映像の生成装置で処理
    を行うものであることを特徴とする高ダイナミックレン
    ジ映像の生成装置。
  15. 【請求項15】 請求項1から請求項7のいずれか1項
    に記載の高ダイナミックレンジ映像の生成方法における
    過程を、コンピュータに実行させるためのプログラムと
    したことを特徴とする高ダイナミックレンジ映像の生成
    方法の実行プログラム。
  16. 【請求項16】 請求項1から請求項7のいずれか1項
    に記載の高ダイナミックレンジ映像の生成方法における
    過程を、コンピュータに実行させるためのプログラムと
    し、 該プログラムを、該コンピュータが読み取りできる記録
    媒体に記録したことを特徴とする高ダイナミックレンジ
    映像の生成方法の実行プログラムを記録した記録媒体。
JP2001227008A 2001-07-27 2001-07-27 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体 Expired - Fee Related JP3740394B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001227008A JP3740394B2 (ja) 2001-07-27 2001-07-27 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001227008A JP3740394B2 (ja) 2001-07-27 2001-07-27 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体

Publications (2)

Publication Number Publication Date
JP2003046857A true JP2003046857A (ja) 2003-02-14
JP3740394B2 JP3740394B2 (ja) 2006-02-01

Family

ID=19059731

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001227008A Expired - Fee Related JP3740394B2 (ja) 2001-07-27 2001-07-27 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体

Country Status (1)

Country Link
JP (1) JP3740394B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006087063A (ja) * 2004-09-17 2006-03-30 Ulead Systems Inc 多重露光画像合成システム及び多重露光画像合成方法
JP2006525747A (ja) * 2003-04-29 2006-11-09 マイクロソフト コーポレーション ハイダイナミックレンジビデオを生成するシステムおよび方法
EP2018050A1 (en) * 2006-05-01 2009-01-21 Opt Corporation Camera device and image processing method
JP2010256810A (ja) * 2009-04-28 2010-11-11 Canon Inc 表示装置及びその制御方法
US20100295932A1 (en) * 2009-05-25 2010-11-25 Olympus Corporation Image obtaining apparatus, image synthesis method and microscope system
JP2012010307A (ja) * 2010-05-26 2012-01-12 Olympus Imaging Corp 撮像装置および撮像方法
US8305487B2 (en) 2009-10-21 2012-11-06 Samsung Electronics Co., Ltd. Method and apparatus for controlling multiple exposures
JP2012235390A (ja) * 2011-05-06 2012-11-29 Canon Inc 画像処理装置及びその制御方法、並びにプログラム
US8638374B2 (en) 2010-03-30 2014-01-28 Olympus Imaging Corp. Image pickup apparatus, image pickup system, and image pickup method
JP2014036357A (ja) * 2012-08-09 2014-02-24 Olympus Corp 画像処理装置及び画像処理方法
US8947550B2 (en) 2010-04-08 2015-02-03 Canon Kabushiki Kaisha Image processing apparatus with frame conversion, and method of controlling same
US8970722B2 (en) 2011-03-28 2015-03-03 Canon Kabushiki Kaisha Image processing apparatus and method of controlling the same
JP2016034109A (ja) * 2014-07-31 2016-03-10 キヤノン株式会社 撮像装置およびその制御方法ならびにプログラム
CN110175255A (zh) * 2019-05-29 2019-08-27 腾讯科技(深圳)有限公司 图像标注的方法、基于病理图像的标注展示方法及装置
CN111416945A (zh) * 2019-01-07 2020-07-14 三星电子株式会社 用于处理图像的方法和装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07298142A (ja) * 1994-04-25 1995-11-10 Canon Inc 階調制御機能を有する撮像装置
JP2000078480A (ja) * 1998-08-31 2000-03-14 Sony Corp 撮像装置及び撮像方法
JP2000341582A (ja) * 1999-05-31 2000-12-08 Sony Corp 撮像装置及びその方法
JP2003009006A (ja) * 2001-06-20 2003-01-10 Sony Corp 撮像方法および装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07298142A (ja) * 1994-04-25 1995-11-10 Canon Inc 階調制御機能を有する撮像装置
JP2000078480A (ja) * 1998-08-31 2000-03-14 Sony Corp 撮像装置及び撮像方法
JP2000341582A (ja) * 1999-05-31 2000-12-08 Sony Corp 撮像装置及びその方法
JP2003009006A (ja) * 2001-06-20 2003-01-10 Sony Corp 撮像方法および装置

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006525747A (ja) * 2003-04-29 2006-11-09 マイクロソフト コーポレーション ハイダイナミックレンジビデオを生成するシステムおよび方法
US7443533B2 (en) 2004-09-17 2008-10-28 Corel Tw Corp. Image composition systems and methods
JP2006087063A (ja) * 2004-09-17 2006-03-30 Ulead Systems Inc 多重露光画像合成システム及び多重露光画像合成方法
EP2018050A1 (en) * 2006-05-01 2009-01-21 Opt Corporation Camera device and image processing method
EP2018050A4 (en) * 2006-05-01 2009-04-29 Opt Corp CAMERA AND IMAGE PROCESSING METHOD
US8330857B2 (en) 2009-04-28 2012-12-11 Canon Kabushiki Kaisha Display apparatus and control method thereof
JP2010256810A (ja) * 2009-04-28 2010-11-11 Canon Inc 表示装置及びその制御方法
US8547479B2 (en) 2009-04-28 2013-10-01 Canon Kabushiki Kaisha Display apparatus and control method thereof
US20100295932A1 (en) * 2009-05-25 2010-11-25 Olympus Corporation Image obtaining apparatus, image synthesis method and microscope system
EP2256688A1 (en) 2009-05-25 2010-12-01 Olympus Corporation Image obtaining apparatus, image synthesis method and microscope system
JP2010272094A (ja) * 2009-05-25 2010-12-02 Olympus Corp 画像取得装置、画像合成方法、及び顕微鏡システム
US8305487B2 (en) 2009-10-21 2012-11-06 Samsung Electronics Co., Ltd. Method and apparatus for controlling multiple exposures
US8638374B2 (en) 2010-03-30 2014-01-28 Olympus Imaging Corp. Image pickup apparatus, image pickup system, and image pickup method
US8947550B2 (en) 2010-04-08 2015-02-03 Canon Kabushiki Kaisha Image processing apparatus with frame conversion, and method of controlling same
JP2012010307A (ja) * 2010-05-26 2012-01-12 Olympus Imaging Corp 撮像装置および撮像方法
US8970722B2 (en) 2011-03-28 2015-03-03 Canon Kabushiki Kaisha Image processing apparatus and method of controlling the same
JP2012235390A (ja) * 2011-05-06 2012-11-29 Canon Inc 画像処理装置及びその制御方法、並びにプログラム
JP2014036357A (ja) * 2012-08-09 2014-02-24 Olympus Corp 画像処理装置及び画像処理方法
JP2016034109A (ja) * 2014-07-31 2016-03-10 キヤノン株式会社 撮像装置およびその制御方法ならびにプログラム
CN111416945A (zh) * 2019-01-07 2020-07-14 三星电子株式会社 用于处理图像的方法和装置
CN110175255A (zh) * 2019-05-29 2019-08-27 腾讯科技(深圳)有限公司 图像标注的方法、基于病理图像的标注展示方法及装置
CN110175255B (zh) * 2019-05-29 2022-04-05 腾讯医疗健康(深圳)有限公司 图像标注的方法、基于病理图像的标注展示方法及装置
US12046056B2 (en) 2019-05-29 2024-07-23 Tencent Technology (Shenzhen) Company Limited Image annotation method and apparatus, annotation presentation method and apparatus, device, and storage medium

Also Published As

Publication number Publication date
JP3740394B2 (ja) 2006-02-01

Similar Documents

Publication Publication Date Title
JP4321287B2 (ja) 撮影装置および撮影方法、並びに、プログラム
KR101609491B1 (ko) 화상 합성 장치, 화상 합성 방법 및 기록 매체
US8885061B2 (en) Image processing apparatus, image processing method and program
JP4720859B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2003046857A (ja) 高ダイナミックレンジ映像の生成方法とその装置、及びこの方法の実行プログラムとこの実行プログラムの記録媒体
US20110199494A1 (en) Imaging device and image processing apparatus
US20070040918A1 (en) Image processing apparatus, image processing method and program
JP5672796B2 (ja) 画像処理装置、画像処理方法
CN102741883A (zh) 高动态范围图像生成和渲染
US20230069014A1 (en) Method and apparatus for generating low bit width hdr image, storage medium, and terminal
JP4507948B2 (ja) 撮影装置、撮影画像の画像処理方法及びプログラム
CN110958361B (zh) 能够进行hdr合成的摄像设备及其控制方法和存储介质
JP2018182376A (ja) 画像処理装置
JP2006325274A (ja) 撮像装置
JP2010283548A (ja) 映像補間装置及び映像表示装置
JP4622711B2 (ja) 画像合成装置、画像合成方法、及び、プログラム
US20050088531A1 (en) Automatic stabilization control apparatus, automatic stabilization control method, and computer readable recording medium having automatic stabilization control program recorded thereon
JP3175914B2 (ja) 画像符号化方法および画像符号化装置
JP2002223355A (ja) 画像処理装置および画像処理プログラムを記録した記録媒体
KR20100088282A (ko) 영상 데이터 인페인팅 방법 및 장치
JP2008141616A (ja) 動きベクトル算出装置、方法およびプログラム、動画像圧縮記録装置ならびに撮像装置
JP6708131B2 (ja) 映像処理装置、映像処理方法及びプログラム
US11373316B2 (en) Apparatus and method for calculating motion vector
JP2017212698A (ja) 撮像装置、撮像装置の制御方法およびプログラム
JP2016129281A (ja) 画像処理装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20051101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20051107

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091111

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101111

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101111

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111111

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111111

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121111

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121111

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131111

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees