JP2004032374A - シャープネス処理方法および装置並びにプログラム - Google Patents
シャープネス処理方法および装置並びにプログラム Download PDFInfo
- Publication number
- JP2004032374A JP2004032374A JP2002185873A JP2002185873A JP2004032374A JP 2004032374 A JP2004032374 A JP 2004032374A JP 2002185873 A JP2002185873 A JP 2002185873A JP 2002185873 A JP2002185873 A JP 2002185873A JP 2004032374 A JP2004032374 A JP 2004032374A
- Authority
- JP
- Japan
- Prior art keywords
- frame
- motion vector
- sharpness
- parameter
- motion vectors
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims description 22
- 239000013598 vector Substances 0.000 claims abstract description 273
- 238000003672 processing method Methods 0.000 claims description 15
- 238000005070 sampling Methods 0.000 abstract description 11
- 238000010586 diagram Methods 0.000 description 29
- 238000000354 decomposition reaction Methods 0.000 description 3
- 238000001914 filtration Methods 0.000 description 3
- 230000001186 cumulative effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
Images
Abstract
【課題】動画像の特性を考慮して動画像からサンプリングされたフレームのシャープネス処理を行う。
【解決手段】動画像データM0をサンプリングしてフレームFr1,Fr2を得、フレームFr1,Fr2に基づいてフレームFr1の動ベクトルV0を算出する。動ベクトルV0の大きさに基づいて、シャープネス処理の強調度kを変更するシャープネス係数αを決定し、シャープネス係数αにより基準強調度aを変更して強調度kを設定する。そして、強調度kに基づいて、下記の式によりシャープネス処理済みのフレームデータSproc1を得る(SusはフレームデータSorgのボケデータ)。
Sproc1=Sorg1+k(Sorg−Sus)
【選択図】 図1
【解決手段】動画像データM0をサンプリングしてフレームFr1,Fr2を得、フレームFr1,Fr2に基づいてフレームFr1の動ベクトルV0を算出する。動ベクトルV0の大きさに基づいて、シャープネス処理の強調度kを変更するシャープネス係数αを決定し、シャープネス係数αにより基準強調度aを変更して強調度kを設定する。そして、強調度kに基づいて、下記の式によりシャープネス処理済みのフレームデータSproc1を得る(SusはフレームデータSorgのボケデータ)。
Sproc1=Sorg1+k(Sorg−Sus)
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、動画像からサンプリングされた1のフレームに対してシャープネス処理を施すシャープネス処理方法および装置並びにシャープネス処理方法をコンピュータに実行させるためのプログラムに関するものである。
【0002】
【従来の技術】
本出願人により、非鮮鋭マスク画像データ(以下、ボケ画像データという)を用いてシャープネス処理を行って画像の鮮鋭度を向上させる種々のシャープネス処理方法が提案されている(特開昭55−163472号公報、同55−87953号公報、特開平3−222577号公報、同10−75395号公報、同10−75364号公報、同10−171983号公報等)。このシャープネス処理方法は、例えば元の画像データSorgからボケ画像データSusを引いたものに強調度kを乗じたものを、画像データSorgに加算することにより、画像データの所定の空間周波数成分を強調する処理を行う方法である。これを式で表すと下記の式(1)のようになる。
Sproc=Sorg+k×(Sorg−Sus) (1)
但し、Sproc:処理済み画像データ
Sorg:元の画像データ
Sus:ボケ画像データ
k:強調度
【0003】
ボケ画像データSusは、画像データSorgに対してボケマスクを用いたフィルタリング処理を施すことにより得られる。ここで、ボケマスクとしては、3×3や5×5のように画像データSorgに対して2次元的にフィルタリング処理を施すフィルタが用いられる。
【0004】
一方、動画像に対してシャープネス処理を施す方法も提案されている(特開平6−68252号公報)。この方法は、動画像からサンプリングされた複数のフレームに対して、空間的に上記式(1)に示すシャープネス処理を施すことにより、動画像の鮮鋭度を強調する方法である。この方法によれば、鮮鋭度が強調された高画質の動画像を再生することが可能となる。
【0005】
【発明が解決しようとする課題】
しかしながら、動画像は静止画像とは異なり、動画像における時間軸上の各フレームに動画像に特有のボケを含むという特性を有する。例えば、動画像に含まれる移動中の被写体はその移動方向に対して移動量に応じたボケを有するものとなっている。したがって、このような動画像の特性を考慮しないでシャープネス処理を行うと、鮮鋭度を向上させる必要がある動いている領域の鮮鋭度を向上させることができなかったり、逆に鮮鋭度を向上させる必要がない静止している領域の鮮鋭度を向上させてしまうという問題がある。
【0006】
本発明は上記事情に鑑みなされたものであり、動画像の特性を考慮して動画像に含まれる1フレームの鮮鋭度を良好に向上させることを目的とする。
【0007】
【課題を解決するための手段】
本発明によるシャープネス処理方法は、動画像からサンプリングしたフレームに対してシャープネス処理を施すシャープネス処理方法であって、
前記フレームおよび該フレームを基準として時間的に前後する少なくとも1つの他のフレームに基づいて、前記フレームおよび前記他のフレーム間の動ベクトルを算出し、
該動ベクトルの大きさおよび/または方向に基づいて、前記シャープネス処理のパラメータを設定することを特徴とするものである。
【0008】
なお、本発明によるシャープネス処理方法においては、前記フレームを複数の領域に分割し、
該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得、
該複数の動ベクトルの大きさおよび/または方向に基づいて、前記複数の領域毎に前記シャープネス処理のパラメータを設定するようにしてもよい。
【0009】
また、本発明によるシャープネス処理方法においては、前記フレームを複数の領域に分割し、
該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得、
該複数の動ベクトルの大きさに基づいて、前記フレームを複数の被写体領域に分割し、
該複数の被写体領域毎に前記シャープネス処理のパラメータを設定するようにしてもよい。
【0010】
また、本発明によるシャープネス処理方法においては、前記フレームおよび複数の前記他のフレームに基づいて、該フレームおよび該各他のフレーム間の複数の動ベクトルを算出し、
該フレームおよび該各他のフレーム間の複数の動ベクトルに基づいて、該複数の動ベクトルの信頼度を算出し、
該信頼度が所定のしきい値よりも大きい場合には、該算出された複数の動ベクトルのうちのいずれかの動ベクトルに基づいて前記パラメータを設定し、
該信頼度が所定のしきい値未満の場合には、予め定められた所定のパラメータを前記シャープネス処理のパラメータとして設定するようにしてもよい。
【0011】
本発明によるシャープネス処理装置は、動画像からサンプリングしたフレームに対してシャープネス処理を施すシャープネス処理装置であって、
前記フレームおよび該フレームを基準として時間的に前後する少なくとも1つの他のフレームに基づいて、前記フレームおよび前記他のフレーム間の動ベクトルを算出する動ベクトル算出手段と、
該動ベクトルの大きさおよび/または方向に基づいて、前記シャープネス処理のパラメータを設定するパラメータ設定手段とを備えたことを特徴とするものである。
【0012】
なお、本発明によるシャープネス処理装置においては、前記動ベクトル算出手段を、前記フレームを複数の領域に分割し、該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得る手段とし、
前記パラメータ設定手段を、該複数の動ベクトルの大きさおよび/または方向に基づいて、前記複数の領域毎に前記シャープネス処理のパラメータを設定する手段としてもよい。
【0013】
また、本発明によるシャープネス処理装置においては、前記動ベクトル算出手段を、前記フレームを複数の領域に分割し、該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得る手段とし、
前記パラメータ設定手段を、該複数の動ベクトルの大きさに基づいて、前記フレームを複数の被写体領域に分割し、該複数の被写体領域毎に前記シャープネス処理のパラメータを設定する手段としてもよい。
【0014】
また、本発明によるシャープネス処理装置においては、前記動ベクトル算出手段を、前記フレームおよび複数の前記他のフレームに基づいて、該フレームおよび該各他のフレーム間の複数の動ベクトルを算出する手段とし、
前記パラメータ設定手段を、該フレームおよび該各他のフレーム間の複数の動ベクトルに基づいて、該複数の動ベクトルの信頼度を算出し、該信頼度が所定のしきい値よりも大きい場合には、該算出された複数の動ベクトルのうちのいずれかの動ベクトルに基づいて前記パラメータを設定し、該信頼度が所定のしきい値未満の場合には、予め定められた所定のパラメータを前記シャープネス処理のパラメータとして設定する手段としてもよい。
【0015】
なお、本発明によるシャープネス処理方法をコンピュータに実行させるためのプログラムとして提供してもよい。
【0016】
【発明の効果】
本発明によれば、動画像からサンプリングしたフレームおよびこれと時間的に前後する少なくとも1つの他のフレームに基づいて、フレームおよび他のフレーム間の動ベクトルが算出される。この動ベクトルの大きさはフレームに含まれる動いている領域の移動距離を、動ベクトルの方向はフレームに含まれる動いている領域の移動方向を表すものとなる。そして、動ベクトルの大きさおよび/または方向に基づいて、シャープネス処理のパラメータすなわち上記式(1)における強調度kの値や、シャープネス処理を施す方向が設定され、設定されたパラメータによりフレームに対してシャープネス処理が施される。このため、フレーム中に含まれる動いている領域の移動量および/または移動方向に応じて適切なシャープネス処理を施すことができ、これにより、鮮鋭度が適切に強調されたシャープネス処理済みのフレームを得ることができる。
【0017】
また、フレームを複数の領域に分割し、分割された複数の領域のそれぞれについて動ベクトルを算出し、複数の領域毎にシャープネス処理のパラメータを設定すれば、フレーム上の各領域の移動量および/または移動方向に応じて適切なシャープネス処理を施すことができる。
【0018】
また、フレームを複数の領域に分割し、分割された複数の領域のそれぞれについて動ベクトルを算出し、複数の動ベクトルの大きさに基づいて、フレームを複数の被写体領域に分割し、複数の被写体領域毎にシャープネス処理のパラメータを設定すれば、フレームに含まれる個々の被写体の移動量および/または移動方向に応じて適切なシャープネス処理を施すことができる。
【0019】
また、フレームおよび複数の他のフレームに基づいて、フレームおよび複数の他のフレーム間の複数の動ベクトルを算出し、フレームおよび複数の他のフレーム間の複数の動ベクトルに基づいて、複数の動ベクトルの信頼度を算出し、信頼度の大きさに応じて算出された動ベクトルのうちのいずれかの動ベクトルに基づいてパラメータを設定するか、予め定められた所定のパラメータを設定するかを変更するようにすれば、動ベクトルの信頼度が小さいときに、その動ベクトルに基づいてシャープネス処理を行ってしまうことにより、鮮鋭度の向上が必要ないフレームまたはフレーム上の領域の鮮鋭度を向上させてしまうことを防止することができる。
【0020】
【発明の実施の形態】
以下図面を参照して本発明の実施形態について説明する。図1は本発明の第1の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。図1に示すように、本発明の第1の実施形態によるシャープネス処理装置は、動画像データM0から複数のフレームFr1,Fr2…Frnをサンプリングするサンプリング手段1と、シャープネス処理の対象となる1のフレーム(第1の実施の形態においてはフレームFr1)の動ベクトルV0を算出する動ベクトル算出手段2と、動ベクトルV0に基づいて、後述するシャープネス処理の強調度kを変更するためのシャープネス係数αを決定する動ベクトル処理手段3と、シャープネス処理のための強調度kを設定する強調度設定手段4と、強調度kに基づいてフレームFr1を表すフレームデータSorg1に対してシャープネス処理を施してシャープネス処理済みのフレームデータSproc1を得る処理手段5と、基準となる強調度aを記憶する基準強調度記憶手段6とを備える。
【0021】
サンプリング手段1は、動画像データM0から等しい時間間隔によりフレームFr1,Fr2…Frnをサンプリングする。なお、第1の実施形態においては、時間的に隣接する2つのフレームFr1,Fr2を用いてフレームFr1に対するシャープネス処理を行うものとする。
【0022】
動ベクトル算出手段2は、第1の実施の形態においては、2つのフレームFr1,Fr2に基づいて、フレームFr1の動ベクトルV0を算出する。具体的には、図2に示すように、フレームFr1をフレームFr2に対して平行移動し、フレームFr1,Fr2間の画素値の相関が最も高くなったときのフレームFr1の移動量および移動方向を動ベクトルV0とする。なお、図2においては、フレームFr1に含まれる被写体Q0とフレームFr2に含まれる被写体Q0とが一致するときに、フレームFr1,Fr2間の画素値の相関が最も高くなる。また、フレームFr1,Fr2間の画素値の差の2乗または絶対値の累積和が最小となったときに最も相関が高いものと判断する。
【0023】
動ベクトル処理手段3は、動ベクトル算出手段2において算出された動ベクトルV0の大きさ|V0|に応じて、後述するようにフレームデータSorg1に対して施すシャープネス処理の強調度kを設定するためのシャープネス係数αを決定する。具体的には、動ベクトル処理手段3は、図3に示す動ベクトルの大きさ|V0|とシャープネス係数αとの関係を表すテーブルTB0を記憶しており、このテーブルTB0を参照して、動ベクトルV0の大きさ|V0|に応じてシャープネス係数αを決定する。
【0024】
なお、図3に示すテーブルTB0は、動ベクトルV0の大きさ|V0|が0を越える場合に強調度を大きくするようなシャープネス係数αを求めるものとなっている。また、動ベクトルV0の大きさ|V0|が大きい場合にシャープネスが強調されすぎることを防止するために、動ベクトルV0の大きさ|V0|が一定値Th1を越えるとシャープネス係数αの値は一定となっている。
【0025】
強調度設定手段4は、基準強調度記憶手段6に記憶された基準強調度aにシャープネス係数αを乗算することにより強調度kを算出する。なお、基準強調度aの値としては、第1の実施形態においては例えば1.2を用いる。
【0026】
処理手段5は、下記の式(2)に示すように強調度kに基づいてフレームデータSorg1に対してシャープネス処理を施して、シャープネス処理済みのフレームデータSproc1を得る。
Sproc1=Sorg1+k(Sorg1−Sus) (2)
但し、SusはフレームデータSorg1のボケデータ
【0027】
なお、フレームデータSorg1は、RGBそれぞれの色データであってもよく、RGBの色データから得られた輝度データおよび色差データであってもよい。また、輝度データのみであってもよい。
【0028】
次いで、第1の実施形態の動作について説明する。図4は第1の実施形態において行われる処理を示すフローチャートである。まず、動画像データM0がサンプリング手段1においてサンプリングされて、フレームFr1,Fr2が得られる(ステップS1)。そして、動ベクトル算出手段2においてフレームFr1の動ベクトルV0が算出され(ステップS2)、動ベクトル処理手段3において動ベクトルV0の大きさ|V0|に基づいてシャープネス係数αが決定される(ステップS3)。次いで、強調度設定手段4においてシャープネス係数αに基づいて基準強調度aが変更されて強調度kが設定される(ステップS4)。そして、処理手段5において、フレームデータSorg1に対して強調度kに基づくシャープネス処理が施されてシャープネス処理済みフレームデータSproc1が得られ(ステップS5)、処理を終了する。
【0029】
このように、第1の実施形態においては、フレームFr1の動ベクトルV0の大きさに基づいてシャープネス処理のための強調度kを設定しているため、フレームFr1に含まれる動いている領域の移動量に応じて、フレームFr1に対して適切にシャープネス処理を施して、鮮鋭度が強調されたシャープネス処理済みのフレームを得ることができる。
【0030】
次いで、本発明の第2の実施形態について説明する。図5は本発明の第2の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。なお、第2の実施形態において第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図5に示すように、第2の実施形態においては、第1の実施形態における動ベクトル処理手段3、強調度設定手段4、処理手段5および基準強調度記憶手段6に代えて、動ベクトル算出手段2において算出された動ベクトルV0の方向に応じてシャープネス係数αを決定する動ベクトル処理手段13、動ベクトル処理手段13において決定されたシャープネス係数αに基づいて強調度kを設定する強調度設定手段14、強調度設定手段14において設定された強調度kに基づいて、フレームデータSorg1に対して動ベクトルV0の方向に応じたシャープネス処理を施す処理手段15、および動ベクトルV0の方向に応じた基準強調度aを記憶した基準強調度記憶手段16を備えてなるものである。
【0031】
第2の実施形態においては、基準強調度記憶手段16には、図6に示すように、0度、45度、90度および135度の45度間隔で向きが異なる4つの基準方向についての基準強調度a(0),a(45),a(90),a(135)が記憶されている。なお、フレームFr1の画素の縦横比が異なると動ベクトルV0の縦横成分の大きさのスケールが異なるため、画素の縦異横比に応じて基準強調度a(0),a(45),a(90),a(135)を記憶している。ここで、図6においては縦横比が1:1および1:2の場合の基準強調度を表している。
【0032】
動ベクトル処理手段13は、動ベクトル算出手段2において算出された動ベクトルV0の方向に応じた強調度k(0),k(45),k(90),k(135)を設定するためのシャープネス係数α(0),α(45),α(90),α(135)を決定する。具体的には、動ベクトルV0の方向が図7に示すように0度と45度の基準方向の間であって45度寄りにある場合には、フレームFr1上における45度の基準方向に鮮鋭度が最も強調されるようにシャープネス係数α(0),α(45),α(90),α(135)を決定する。例えば、α(0)=1/1.2,α(45)=1,α(90)=1/1.2,α(135)=1/1.2のように、シャープネス係数α(0),α(45),α(90),α(135)を決定する。
【0033】
なお、動ベクトルV0の方向は0度から360度の範囲で変化するが、動ベクトルV0の方向が180度以上の場合には、動ベクトルV0を180度回転した方向をその動ベクトルV0の方向とみなしてシャープネス係数α(0),α(45),α(90),α(135)を決定する。
【0034】
強調度設定手段14は、下記の式(3)に示すように、動ベクトルV0の方向に応じた強調度k(0),k(45),k(90),k(135)を設定する。
k(0)=α(0)×a(0)
k(45)=α(45)×a(45)
k(90)=α(90)×a(90)
k(135)=α(135)×a(135) (3)
なお、本実施形態においては、k(0)=1、k(45)=1.2、k(90)=1、k(135)=1となる。
【0035】
【0036】
処理手段15は、下記の式(4)に示すように強調度k(0),k(45),k(90),k(135)に基づいてフレームデータSorg1に対してシャープネス処理を施して、シャープネス処理済みのフレームデータSproc1を得る。
Sproc1=Sorg1+k(0)(Sorg1−Sus(0)) +k(45)(Sorg1−Sus(45)) +k(90)(Sorg1−Sus(90)) +k(135)(Sorg1−Sus(135)) (4)
【0037】
ここで、Sus(0),Sus(45),Sus(90),Sus(135)は、それぞれ図8(a)〜(d)に示すボケマスクによりフレームデータSorg1に対してフィルタリング処理を施すことにより得られた各方向についてのボケデータである。なお、図8においてはx,X,y,Y,Yx,YX,Xy,XYは重み係数を表す。
【0038】
次いで、第2の実施の形態の動作について説明する。図9は第2の実施形態において行われる処理を示すフローチャートである。まず、動画像データM0がサンプリング手段1においてサンプリングされて、フレームFr1,Fr2が得られる(ステップS11)。そして、動ベクトル算出手段2においてフレームFr1の動ベクトルV0が算出され(ステップS12)、動ベクトル処理手段13において動ベクトルV0の方向に基づいてシャープネス係数α(0),α(45),α(90),α(135)が決定される(ステップS13)。次いで、強調度設定手段14においてシャープネス係数α(0),α(45),α(90),α(135)に基づいて基準強調度a(0),a(45),a(90),a(135)が変更されて強調度k(0),k(45),k(90),k(135)が設定される(ステップS14)。そして、処理手段15において、フレームデータSorg1に対して強調度k(0),k(45),k(90),k(135)に基づくシャープネス処理が施されてシャープネス処理済みフレームデータSproc1が得られ(ステップS15)、処理を終了する。
【0039】
このように、第2の実施形態においては、フレームFr1の動ベクトルV0の方向に基づいてシャープネス処理のための強調度k(0),k(45),k(90),k(135)を設定しているため、フレームFr1に含まれる動いている領域の移動方向に応じて、フレームFr1に対して適切にシャープネス処理を施して、鮮鋭度が強調されたフレームを得ることができる。
【0040】
次いで、本発明の第3の実施形態について説明する。上記第2の実施形態においては、動ベクトルV0の方向が基準方向である0度、45度、90度および135度の間にある場合には、動ベクトルV0の方向に最も近い基準方向について強調度kが大きくなるようにシャープネス処理を行っているが、第3の実施形態においては、動ベクトルV0の方向が基準方向の間にある場合には、動ベクトルV0の角度を挟む2つの基準方向について強調度kが大きくなるようにシャープネス処理を行うものである。
【0041】
例えば、図10に示すように、動ベクトルV0の方向が、基準方向である0度および45度の間にある場合には、フレームFr1上における0度および45度の2つの基準方向に鮮鋭度が最も強調されるようにシャープネス係数α(0),α(45),α(90),α(135)を決定するようにしたものである。
【0042】
具体的には、α(0)=1,α(45)=1,α(90)=1/1.2,α(135)=1/1.2のように、シャープネス係数α(0),α(45),α(90),α(135)が決定される。
【0043】
この場合、強調度k(0)=1.2、k(45)=1.2、k(90)=1、k(135)=1となるため、第3の実施形態によれば、0度および45度の方向に鮮鋭度が強調されたフレームを得ることができる
次いで、本発明の第4の実施形態について説明する。上記第2の実施形態においては、動ベクトルV0の方向が基準方向である0度、45度、90度および135度の間である場合には、動ベクトルV0の方向に最も近い基準方向について強調度kが大きくなるようにシャープネス処理を行っているが、第4の実施形態においては、動ベクトルV0の方向が基準方向の間にある場合には、動ベクトルV0を挟む2つの基準方向の方向に動ベクトルV0を分解して2つの分解ベクトルを得、分解ベクトルの大きさに応じて鮮鋭度を強調するようにしたものである。
【0044】
例えば、図11に示すように、動ベクトルV0の方向が基準方向である0度および45度の間にある場合には、動ベクトルV0を0度方向のベクトルV(0)および45度方向のベクトルV(45)に分解し、分解ベクトルV(0),V(45)の大きさに応じてシャープネス係数α(0),α(45),α(90),α(135)を決定するようにしたものである。
【0045】
具体的には、α(0)=|V(0)|,α(45)=|V(45)|,α(90)=1/1.2,α(135)=1/1.2のように、シャープネス係数α(0),α(45),α(90),α(135)が決定される。
【0046】
この場合、強調度k(0)=1.2|V(0)|、k(45)=1.2|V(45)|、k(90)=1、k(135)=1となるため、第4の実施形態によれば、動ベクトルV0の方向に応じて精度よくフレームの鮮鋭度を強調することができる。
【0047】
次いで、本発明の第5の実施形態について説明する。上記第2の実施形態においては、動ベクトルV0の方向が基準方向である0度、45度、90度および135度の間である場合には、動ベクトルV0の方向に最も近い基準方向の方向について強調度kが大きくなるようにシャープネス処理を行っているが、第5の実施形態においては、動ベクトルV0の方向が基準方向の間にある場合には、動ベクトルV0を挟む2つの基準方向からの動ベクトルV0の角度距離に応じて鮮鋭度を強調するようにしたものである。
【0048】
例えば、図12に示すように、動ベクトルV0の方向が、基準方向である0度および45度の間にある場合には、0度方向を基準とした動ベクトルV0の角度距離R1および45度方向を基準とした動ベクトルV0の角度距離R2を求め、動ベクトルV0の角度距離R1,R2に応じてシャープネス係数α(0),α(45),α(90),α(135)を決定するようにしたものである。
【0049】
具体的には、角度距離が大きいほどシャープネス係数αの値が1よりも小さくなるテーブルを参照して、シャープネス係数α(0),α(45),α(90),α(135)を決定する。図13は角度距離が大きいほどシャープネス係数αの値が1よりも小さくなるテーブルの例を示す図である。図13に示すテーブルTB1を用いた場合、α(0)=|VR1|,α(45)=|VR2|,α(90)=1/1.2,α(135)=1/1.2のように、シャープネス係数α(0),α(45),α(90),α(135)が決定される。
【0050】
この場合、強調度k(0)=1.2|VR1|、k(45)=1.2|VR2|、k(90)=1、k(135)=1となるため、第5の実施形態によれば、動ベクトルV0の方向に応じて精度よくフレームの鮮鋭度を強調することができる。
【0051】
次いで、本発明の第6の実施形態について説明する。図14は本発明の第6の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。なお、第6の実施形態において第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図14に示すように、第6の実施形態においては、第1の実施形態における動ベクトル算出手段2に代えて、フレームFr1をm×n個の複数の領域A(m,n)に分割し、領域A(m,n)毎に動ベクトルV0(m,n)を算出する動ベクトル算出手段12を備えてなるものである。
【0052】
図15は第6の実施形態における動ベクトルV0(m,n)の算出を説明するための図である。図15に示すように、動ベクトル算出手段12は、フレームFr1をm×n個の複数の格子状の領域A(m,n)に分割し、複数の領域A(m,n)のそれぞれをフレームFr2に対して平行移動し、領域A(m,n)とフレームFr2間の画素値の相関が最も高くなったときの領域A(m,n)の移動量および移動方向を、その領域A(m,n)についての動ベクトルV0(m,n)とするものである。なお、領域A(m,n)とフレームFr2間の画素値の差の2乗または絶対値の累積和が最小となったときに最も相関が高いものと判断する。
【0053】
次いで、第6の実施形態の動作について説明する。図16は第6の実施形態において行われる処理を示すフローチャートである。まず、動画像データM0がサンプリング手段1においてサンプリングされて、フレームFr1,Fr2が得られる(ステップS21)。そして、動ベクトル算出手段12においてフレームFr1上における複数の領域A(m,n)毎に動ベクトルV0(m,n)が算出され(ステップS22)、動ベクトルV0(m,n)の大きさ|V0(m,n)|に基づいて動ベクトル処理手段3において、複数の領域A(m,n)毎にシャープネス係数αが決定される(ステップS23)。次いで、強調度設定手段4においてシャープネス係数αに基づいて基準強調度aが変更されて領域A(m,n)毎の強調度kが設定される(ステップS24)。そして、処理手段5において、領域A(m,n)毎のフレームデータSorg1に対して強調度kに基づくシャープネス処理が施されてシャープネス処理済みフレームデータSproc1が得られ(ステップS25)、処理を終了する。
【0054】
このように、第6の実施形態においては、フレームFr1を複数の領域A(m,n)に分割し、分割された複数の領域A(m,n)のそれぞれについて動ベクトルV0(m,n)を算出し、複数の領域A(m,n)毎に強調度kを設定しているため、フレームFr1上の各領域A(m,n)の移動量に応じて適切なシャープネス処理が施されたフレームを得ることができる。
【0055】
なお、上記第2から第5の実施形態と同様に、フレームFr1上の複数の領域A(m,n)のそれぞれについて動ベクトルV0(m,n)を算出し、動ベクトルV0(m,n)の方向に応じて複数の領域A(m,n)毎にフレームデータSorg1に対してシャープネス処理を施すようにしてもよい。
【0056】
次いで、本発明の第7の実施形態について説明する。図17は本発明の第7の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。なお、第7の実施形態において第6の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図17に示すように、第7の実施形態においては、第6の実施形態における動ベクトル算出手段12において算出された複数の動ベクトルV0(m,n)の大きさを横軸に、その数を縦軸にとったヒストグラムH0を算出し、ヒストグラムH0のピークに基づいて領域A(m,n)をその動きに応じた被写体毎にまとめてフレームFr1を複数の被写体領域On(nは被写体領域数)に分割するヒストグラム処理手段7を備え、動ベクトル処理手段3において複数の被写体領域毎にシャープネス係数αを決定するようにしたものである。
【0057】
図18は、動ベクトル算出手段12における領域A(m,n)毎の動ベクトルV0(m,n)の算出を説明するための図、図19はヒストグラム処理手段7において算出されるヒストグラムH0の例を示す図である。図18(a)に示すように、フレームFr1に含まれる人間の顔のみがフレームFr2においてフレーム上左下から右上に大きく移動していたとする。この場合、動ベクトルV0(m,n)の大きさは、図18(b)に示すようにフレームFr1上左下隅を原点とした場合の4つの領域A(1,1)、A(2,1)、A(1,2)、A(2,2)については大きく、その他の領域については小さくなる。
【0058】
このため、動ベクトルV0(m,n)の大きさ|V0(m,n)|のヒストグラムH0を求めると、図19に示すように、2つのピークを有するものとなる。ここで、ピークP1は領域A(1,1)、A(2,1)、A(1,2)、A(2,2)以外の領域の動ベクトルV1(m,n)に、ピークP2は領域A(1,1)、A(2,1)、A(1,2)、A(2,2)の領域の動ベクトルV2(m,n)にそれぞれ対応する。
【0059】
したがって、複数の領域A(m,n)は、動ベクトルV1(m,n)に近い動ベクトルを有する第1の被写体領域O1と、動ベクトルV2(m,n)に近い動ベクトルを有する第2の被写体領域O2とにまとめられることから、フレームFr1は被写体領域O1,O2に分割されることとなる。そして、分割結果が動ベクトル処理手段3に入力されて、被写体領域O1,O2毎にシャープネス係数αが算出されて、各被写体領域O1,O2毎にシャープネス処理が行われることとなる。
【0060】
次いで、第7の実施形態の動作について説明する。図20は第7の実施形態において行われる処理を示すフローチャートである。まず、動画像データM0がサンプリング手段1においてサンプリングされて、フレームFr1,Fr2が得られる(ステップS31)。そして、動ベクトル算出手段12においてフレームFr1上における複数の領域A(m,n)毎の複数の動ベクトルV0(m,n)が算出される(ステップS32)。次いで、ヒストグラム処理手段7において複数の動ベクトルV0(m,n)のヒストグラムH0が算出され(ステップS33)、ヒストグラムH0のピークに応じて複数の領域A(m,n)がまとめられて、フレームFr1が複数の被写体領域O1,O2に分割される(ステップS34)。
【0061】
動ベクトル処理手段3においては、動ベクトルV1(m,n),V2(m,n)の大きさ|V1(m,n)|,|V2(m,n)|に基づいて、複数の被写体領域O1,O2毎にシャープネス係数αが決定される(ステップS35)。次いで、強調度設定手段4においてシャープネス係数αに基づいて基準強調度aが変更されて被写体領域O1,O2毎の強調度kが設定される(ステップS36)。そして、処理手段5において、被写体領域O1,O2毎のフレームデータSorg1に対して強調度kに基づくシャープネス処理が施されてシャープネス処理済みフレームデータSproc1が得られ(ステップS37)、処理を終了する。
【0062】
このように、第7の実施形態においては、フレームFr1を複数の被写体領域O1,O2に分割し、複数の被写体領域O1,O2のそれぞれについて動ベクトルV1(m,n),V2(m,n)を算出し、動ベクトルV1(m,n),V2(m,n)の大きさ|V1(m,n)|,|V2(m,n)|に応じて複数の被写体領域O1,O2毎に強調度kを設定しているため、フレームFr1上の各被写体領域O1,O2の移動量に応じて適切なシャープネス処理が施されたフレームを得ることができる。
【0063】
なお、上記第2から第5の実施形態と同様に、複数の被写体領域O1,O2のそれぞれについて動ベクトルV1(m,n),V2(m,n)を算出し、動ベクトルV1(m,n),V2(m,n)の方向に応じて複数の被写体領域O1,O2毎にフレームデータSorg1に対してシャープネス処理を施すようにしてもよい。
【0064】
次いで、本発明の第8の実施形態について説明する。図21は本発明の第8の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。なお、第8の実施形態において第7の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図21に示すように、第8の実施形態においては、動ベクトル算出手段12において、フレームFr1,Fr2に基づいてフレームFr1上の複数の領域A(m,n)毎に動ベクトルV12(m,n)を算出するとともに、フレームFr2の次のフレームFr3をも用いて、フレームFr1およびFr3に基づく領域A(m,n)毎の動ベクトルV13(m,n)を算出し、第7の実施形態におけるヒストグラム処理手段7に代えて、2種類の動ベクトルV12(m,n),V13(m,n)に基づいて、フレームFr1を複数の被写体領域に分割するヒストグラム処理手段17を備えるようにしたものである。
【0065】
なお、フレームFr1およびフレームFr2の時間間隔と、フレームFr2およびフレームFr3の時間間隔とは同一であるものとする。
【0066】
図22および図23は、動ベクトル算出手段12における動ベクトルV12(m,n),V13(m,n)の算出およびヒストグラム処理手段17におけるフレームFr1の複数の被写体領域への分割を説明するための図である。まず、フレームFr1,Fr2に基づく動ベクトルV12(m,n)の算出およびフレームFr1の被写体領域への分割について説明する。
【0067】
図22(a)に示すように、フレームFr1に含まれる人間の顔のみがフレームFr2においてフレーム上左下から右上に移動していたとする。この場合、動ベクトルV12(m,n)の大きさは、図22(a)に示すようフレームFr1上左下隅を原点とした場合の2つの領域A(1,1)、A(2,1)については大きく、その他の領域については小さくなる。なお、ここでは、領域A(3,1)についても動ベクトルV12(m,n)が大きいものとする。
【0068】
このため、動ベクトルV12(m,n)の大きさ|V12(m,n)|のヒストグラムを求めると、図22(b)に示すように、2つのピークを有するものとなる。ここで、ピークP121は領域A(1,1)、A(2,1)、A(3,1)以外の領域の動ベクトルV121(m,n)に、ピークP122は領域A(1,1)、A(2,1)、A(3,1)の領域の動ベクトルV122(m,n)に、それぞれ対応する。したがって、図22(c)に示すように、フレームFr1は、動ベクトルV121(m,n)に近い動ベクトルを有する第1の被写体領域O121と、動ベクトルV122(m,n)に近い動ベクトルを有する第2の被写体領域O122とに分割される。
【0069】
次いで、フレームFr1,Fr3に基づく動ベクトルV13(m,n)の算出および被写体領域の分割について説明する。
【0070】
図23(a)に示すように、フレームFr1に含まれる人間の顔のみがフレームFr3においてフレーム上左下から右上に大きく移動していたとする。この場合、動ベクトルV13(m,n)の大きさは、図23(a)に示すようフレームFr1上左下隅を原点とした場合の2つの領域A(1,1)、A(2,1)については大きく、その他の領域については小さくなる。なお、ここでは、領域A(1,2)についても動ベクトルV13(m,n)の大きさが大きいものとする。
【0071】
このため、動ベクトルV13(m,n)の大きさ|V13(m,n)|のヒストグラムを求めると、図23(b)に示すように、2つのピークを有するものとなる。ここで、ピークP131は領域A(1,1)、A(2,1)、A(1,2)以外の領域の動ベクトルV131(m,n)に、ピークP132は領域A(1,1)、A(2,1)、A(1,2)の領域の動ベクトルV132(m,n)に、それぞれ対応する。したがって、図23(c)に示すように、フレームFr1は、動ベクトルV131(m,n)に近い動ベクトルを有する第1の被写体領域O131と、動ベクトルV132(m,n)に近い動ベクトルを有する第2の被写体領域O132とに分割される。
【0072】
そして、動ベクトルV12(m,n),V13(m,n)が比較的大きい被写体領域O122,O132に含まれる領域A(m,n)を比較し、図24に示すように、双方の被写体領域O122,O132に含まれる領域A(m,n)のみを移動する被写体が含まれる被写体領域O2とみなし、フレームFr1を被写体領域O1,O2に分割する。分割結果は上記第7の実施形態と同様に、動ベクトル処理手段3に入力されて、被写体領域O1,O2毎にシャープネス係数αが算出されて、各被写体領域O1,O2毎にシャープネス処理が行われることとなる。
【0073】
このように、第8の実施形態においては、複数のフレームFr1,Fr2,Fr3に基づいて、フレームFr1を複数の被写体領域に分割しているため、フレームFr1に含まれる被写体の動きをより精度よく検出して、精度よくフレームFr1を複数の被写体領域に分割することができる。したがって、フレームFr1上の各被写体領域の移動量に応じて適切なシャープネス処理が施されたフレームを得ることができる。
【0074】
なお、上記第2から第5の実施形態と同様に、複数の被写体領域O1,O2のそれぞれについて動ベクトルV1(m,n),V2(m,n)を算出し、動ベクトルV1(m,n),V2(m,n)の方向に応じて複数の被写体領域O1,O2毎にフレームデータSorg1に対してシャープネス処理を施すようにしてもよい。
【0075】
次いで、本発明の第9の実施形態について説明する。図25は本発明の第9の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。なお、第9の実施形態において第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図25に示すように、第9の実施形態においては、第1の実施形態における動ベクトル算出手段2および動ベクトル処理手段3に代えて、フレームFr1,Fr2に基づいて動ベクトルV12を算出するとともに、フレームFr1とフレームFr2の次のフレームFr3に基づいて動ベクトルV13を算出する動ベクトル算出手段22、および動ベクトルV12,V13に基づいて、動ベクトルV12,V13の信頼度を判定し、信頼度に応じてシャープネス係数αを決定する動ベクトル処理手段23を備えてなるものである。
【0076】
なお、フレームFr1およびフレームFr2の時間間隔と、フレームFr2およびフレームFr3の時間間隔とは同一であるものとする。
【0077】
動ベクトル算出手段22は、第1の実施形態における動ベクトル算出手段2と同様に、フレームFr1をフレームFr2に対して平行移動し、フレームFr1,Fr2間の画素値の相関が最も高くなったときのフレームFr1の移動量および移動方向を動ベクトルV12として算出する。また、動ベクトル算出手段22は、フレームFr1をフレームFr3に対して平行移動し、フレームFr1,Fr3間の画素値の相関が最も高くなったときのフレームFr1の移動量および移動方向を動ベクトルV13として算出する。
【0078】
動ベクトル処理手段23は、動ベクトルV12,V13の信頼度を判定する。以下、信頼度の判定について説明する。動画像に含まれる被写体は、微小時間では等速で移動する。本実施形態においては、フレームFr1,Fr2,Fr3のサンプリング間隔は等しいため、動画像データM0に含まれる被写体は、フレームFr1,Fr2,Fr3上においては、図26に示すように等速で移動しているはずである。このため、動画像データM0上の被写体が等速で移動していれば、動ベクトルV12,V13には、V13=2V12(以下ベクトルの記号は省略する)の関係が成立する。
【0079】
したがって、動ベクトル処理手段23は、|V13−2V12|の絶対値が所定のしきい値Th2未満であるか否かを判定し、|V13−2V12|の絶対値が所定のしきい値Th2未満である場合には、動ベクトルV12,V13は信頼できるものとして、動ベクトルV12またはV13の大きさ|V12|,|V13|に応じてシャープネス係数αを決定する。一方、|V13−2V12|の絶対値が所定のしきい値Th2以上である場合には、被写体が動いているか否かが不明であるため、動ベクトルV12,V13は信頼できないものとして、動ベクトルV12,V13の大きさを0としてシャープネス係数αを決定する。
【0080】
次いで、第9の実施形態の動作について説明する。図27は第9の実施形態において行われる処理を示すフローチャートである。まず、動画像データM0がサンプリング手段1においてサンプリングされて、フレームFr1,Fr2,Fr3が得られる(ステップS41)。そして、動ベクトル算出手段22においてフレームFr1,Fr2間の動ベクトルV12およびフレームFr1,Fr3間の動ベクトルV13が算出される(ステップS42)。次いで、動ベクトル処理手段23において、動ベクトルV12,V13の大きさに基づいて動ベクトルV12,V13の信頼度が判定される(ステップS43)。
【0081】
そして、|V13−2V12|<Th2となりステップS44が肯定された場合には、動ベクトルV12,V13は信頼できるものとして、動ベクトルV12またはV13の大きさ|V12|,|V13|に応じてシャープネス係数αが決定される(ステップS45)。一方、|V13−2V12|が所定のしきい値Th2以上となりステップS44が否定された場合には、動ベクトルV12,V13は信頼できないものとして、動ベクトルV12,V13の大きさを0としてシャープネス係数αが決定される(ステップS46)。
【0082】
次いで、強調度設定手段4においてシャープネス係数αに基づいて基準強調度aが変更されて強調度kが設定される(ステップS47)。そして、処理手段5において、フレームデータSorg1に対して強調度kに基づくシャープネス処理が施されてシャープネス処理済みフレームデータSproc1が得られ(ステップS48)、処理を終了する。
【0083】
このように、第9の実施形態においては、複数のフレームFr1,Fr2,Fr3から複数の動ベクトルV12,V13を算出し、これらの動ベクトルV12およびV13から算出された大きさ|V13−2V12|に基づいて、複数の動ベクトルV12,V13の信頼度を判定し、信頼度できる場合には動ベクトルの大きさ|V12|,|V13|に基づいてシャープネス係数αを決定し、信頼できない場合には動ベクトル|V12|,|V13|の大きさを0としてシャープネス係数αを決定しているため、動ベクトルV12,V13の信頼度が小さく、フレームFr1,Fr2,Fr3上の被写体が動いているのか否かが分からないような場合に、算出された動ベクトルV12,V13に基づいてシャープネス処理を行ってしまうことにより、不要な領域の鮮鋭度を向上させてしまうことを防止することができる。
【0084】
なお、フレームFr1を複数の領域に分割し、領域A(m,n)毎または領域A(m,n)の動ベクトル基づいて求められる被写体領域毎に複数の動ベクトルV12,V13を算出し、動ベクトルV12,V13の信頼度に応じてシャープネス係数αを決定して領域A(m,n)毎または被写体領域毎にフレームデータSorg1に対してシャープネス処理を施すようにしてもよい。
【図面の簡単な説明】
【図1】本発明の第1の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図2】第1の実施形態における動ベクトルの算出を説明するための図
【図3】動ベクトルの大きさとシャープネス係数との関係を表すテーブル
【図4】第1の実施形態において行われる処理を示すフローチャート
【図5】本発明の第2の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図6】第2の実施形態における基準強調度を示す図
【図7】第2の実施形態における動ベクトルの方向の決定を説明するための図
【図8】基準方向のボケマスクを示す図
【図9】第2の実施形態において行われる処理を示すフローチャート
【図10】第3の実施形態におけるシャープネス処理の方向の決定を説明するための図
【図11】第4の実施形態におけるシャープネス処理の方向の決定を説明するための図
【図12】第5の実施形態におけるシャープネス処理の方向の決定を説明するための図
【図13】角度距離とシャープネス係数との関係を表すテーブル
【図14】本発明の第6の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図15】第6の実施形態における動ベクトルの算出を説明するための図
【図16】第6の実施形態において行われる処理を示すフローチャート
【図17】本発明の第7の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図18】領域毎の動ベクトルの算出を説明するための図
【図19】ヒストグラムの例を示す図
【図20】第7の実施形態において行われる処理を示すフローチャート
【図21】本発明の第8の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図22】動ベクトルの算出およびフレームの被写体領域への分割を説明するための図(その1)
【図23】動ベクトルの算出およびフレームの被写体領域への分割を説明するための図(その2)
【図24】第8の実施形態におけるフレームの被写体領域への分割結果を示す図
【図25】本発明の第9の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図26】3つのフレーム上において等速で移動する被写体を示す図
【図27】第9の実施形態において行われる処理を示すフローチャート
【符号の説明】
1 サンプリング手段
2,12,22 動ベクトル算出手段
3,13,23 動ベクトル処理手段
4,14 強調度設定手段
5,15 処理手段
6,16 基準強調度記憶手段
7,17 ヒストグラム処理手段
【発明の属する技術分野】
本発明は、動画像からサンプリングされた1のフレームに対してシャープネス処理を施すシャープネス処理方法および装置並びにシャープネス処理方法をコンピュータに実行させるためのプログラムに関するものである。
【0002】
【従来の技術】
本出願人により、非鮮鋭マスク画像データ(以下、ボケ画像データという)を用いてシャープネス処理を行って画像の鮮鋭度を向上させる種々のシャープネス処理方法が提案されている(特開昭55−163472号公報、同55−87953号公報、特開平3−222577号公報、同10−75395号公報、同10−75364号公報、同10−171983号公報等)。このシャープネス処理方法は、例えば元の画像データSorgからボケ画像データSusを引いたものに強調度kを乗じたものを、画像データSorgに加算することにより、画像データの所定の空間周波数成分を強調する処理を行う方法である。これを式で表すと下記の式(1)のようになる。
Sproc=Sorg+k×(Sorg−Sus) (1)
但し、Sproc:処理済み画像データ
Sorg:元の画像データ
Sus:ボケ画像データ
k:強調度
【0003】
ボケ画像データSusは、画像データSorgに対してボケマスクを用いたフィルタリング処理を施すことにより得られる。ここで、ボケマスクとしては、3×3や5×5のように画像データSorgに対して2次元的にフィルタリング処理を施すフィルタが用いられる。
【0004】
一方、動画像に対してシャープネス処理を施す方法も提案されている(特開平6−68252号公報)。この方法は、動画像からサンプリングされた複数のフレームに対して、空間的に上記式(1)に示すシャープネス処理を施すことにより、動画像の鮮鋭度を強調する方法である。この方法によれば、鮮鋭度が強調された高画質の動画像を再生することが可能となる。
【0005】
【発明が解決しようとする課題】
しかしながら、動画像は静止画像とは異なり、動画像における時間軸上の各フレームに動画像に特有のボケを含むという特性を有する。例えば、動画像に含まれる移動中の被写体はその移動方向に対して移動量に応じたボケを有するものとなっている。したがって、このような動画像の特性を考慮しないでシャープネス処理を行うと、鮮鋭度を向上させる必要がある動いている領域の鮮鋭度を向上させることができなかったり、逆に鮮鋭度を向上させる必要がない静止している領域の鮮鋭度を向上させてしまうという問題がある。
【0006】
本発明は上記事情に鑑みなされたものであり、動画像の特性を考慮して動画像に含まれる1フレームの鮮鋭度を良好に向上させることを目的とする。
【0007】
【課題を解決するための手段】
本発明によるシャープネス処理方法は、動画像からサンプリングしたフレームに対してシャープネス処理を施すシャープネス処理方法であって、
前記フレームおよび該フレームを基準として時間的に前後する少なくとも1つの他のフレームに基づいて、前記フレームおよび前記他のフレーム間の動ベクトルを算出し、
該動ベクトルの大きさおよび/または方向に基づいて、前記シャープネス処理のパラメータを設定することを特徴とするものである。
【0008】
なお、本発明によるシャープネス処理方法においては、前記フレームを複数の領域に分割し、
該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得、
該複数の動ベクトルの大きさおよび/または方向に基づいて、前記複数の領域毎に前記シャープネス処理のパラメータを設定するようにしてもよい。
【0009】
また、本発明によるシャープネス処理方法においては、前記フレームを複数の領域に分割し、
該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得、
該複数の動ベクトルの大きさに基づいて、前記フレームを複数の被写体領域に分割し、
該複数の被写体領域毎に前記シャープネス処理のパラメータを設定するようにしてもよい。
【0010】
また、本発明によるシャープネス処理方法においては、前記フレームおよび複数の前記他のフレームに基づいて、該フレームおよび該各他のフレーム間の複数の動ベクトルを算出し、
該フレームおよび該各他のフレーム間の複数の動ベクトルに基づいて、該複数の動ベクトルの信頼度を算出し、
該信頼度が所定のしきい値よりも大きい場合には、該算出された複数の動ベクトルのうちのいずれかの動ベクトルに基づいて前記パラメータを設定し、
該信頼度が所定のしきい値未満の場合には、予め定められた所定のパラメータを前記シャープネス処理のパラメータとして設定するようにしてもよい。
【0011】
本発明によるシャープネス処理装置は、動画像からサンプリングしたフレームに対してシャープネス処理を施すシャープネス処理装置であって、
前記フレームおよび該フレームを基準として時間的に前後する少なくとも1つの他のフレームに基づいて、前記フレームおよび前記他のフレーム間の動ベクトルを算出する動ベクトル算出手段と、
該動ベクトルの大きさおよび/または方向に基づいて、前記シャープネス処理のパラメータを設定するパラメータ設定手段とを備えたことを特徴とするものである。
【0012】
なお、本発明によるシャープネス処理装置においては、前記動ベクトル算出手段を、前記フレームを複数の領域に分割し、該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得る手段とし、
前記パラメータ設定手段を、該複数の動ベクトルの大きさおよび/または方向に基づいて、前記複数の領域毎に前記シャープネス処理のパラメータを設定する手段としてもよい。
【0013】
また、本発明によるシャープネス処理装置においては、前記動ベクトル算出手段を、前記フレームを複数の領域に分割し、該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得る手段とし、
前記パラメータ設定手段を、該複数の動ベクトルの大きさに基づいて、前記フレームを複数の被写体領域に分割し、該複数の被写体領域毎に前記シャープネス処理のパラメータを設定する手段としてもよい。
【0014】
また、本発明によるシャープネス処理装置においては、前記動ベクトル算出手段を、前記フレームおよび複数の前記他のフレームに基づいて、該フレームおよび該各他のフレーム間の複数の動ベクトルを算出する手段とし、
前記パラメータ設定手段を、該フレームおよび該各他のフレーム間の複数の動ベクトルに基づいて、該複数の動ベクトルの信頼度を算出し、該信頼度が所定のしきい値よりも大きい場合には、該算出された複数の動ベクトルのうちのいずれかの動ベクトルに基づいて前記パラメータを設定し、該信頼度が所定のしきい値未満の場合には、予め定められた所定のパラメータを前記シャープネス処理のパラメータとして設定する手段としてもよい。
【0015】
なお、本発明によるシャープネス処理方法をコンピュータに実行させるためのプログラムとして提供してもよい。
【0016】
【発明の効果】
本発明によれば、動画像からサンプリングしたフレームおよびこれと時間的に前後する少なくとも1つの他のフレームに基づいて、フレームおよび他のフレーム間の動ベクトルが算出される。この動ベクトルの大きさはフレームに含まれる動いている領域の移動距離を、動ベクトルの方向はフレームに含まれる動いている領域の移動方向を表すものとなる。そして、動ベクトルの大きさおよび/または方向に基づいて、シャープネス処理のパラメータすなわち上記式(1)における強調度kの値や、シャープネス処理を施す方向が設定され、設定されたパラメータによりフレームに対してシャープネス処理が施される。このため、フレーム中に含まれる動いている領域の移動量および/または移動方向に応じて適切なシャープネス処理を施すことができ、これにより、鮮鋭度が適切に強調されたシャープネス処理済みのフレームを得ることができる。
【0017】
また、フレームを複数の領域に分割し、分割された複数の領域のそれぞれについて動ベクトルを算出し、複数の領域毎にシャープネス処理のパラメータを設定すれば、フレーム上の各領域の移動量および/または移動方向に応じて適切なシャープネス処理を施すことができる。
【0018】
また、フレームを複数の領域に分割し、分割された複数の領域のそれぞれについて動ベクトルを算出し、複数の動ベクトルの大きさに基づいて、フレームを複数の被写体領域に分割し、複数の被写体領域毎にシャープネス処理のパラメータを設定すれば、フレームに含まれる個々の被写体の移動量および/または移動方向に応じて適切なシャープネス処理を施すことができる。
【0019】
また、フレームおよび複数の他のフレームに基づいて、フレームおよび複数の他のフレーム間の複数の動ベクトルを算出し、フレームおよび複数の他のフレーム間の複数の動ベクトルに基づいて、複数の動ベクトルの信頼度を算出し、信頼度の大きさに応じて算出された動ベクトルのうちのいずれかの動ベクトルに基づいてパラメータを設定するか、予め定められた所定のパラメータを設定するかを変更するようにすれば、動ベクトルの信頼度が小さいときに、その動ベクトルに基づいてシャープネス処理を行ってしまうことにより、鮮鋭度の向上が必要ないフレームまたはフレーム上の領域の鮮鋭度を向上させてしまうことを防止することができる。
【0020】
【発明の実施の形態】
以下図面を参照して本発明の実施形態について説明する。図1は本発明の第1の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。図1に示すように、本発明の第1の実施形態によるシャープネス処理装置は、動画像データM0から複数のフレームFr1,Fr2…Frnをサンプリングするサンプリング手段1と、シャープネス処理の対象となる1のフレーム(第1の実施の形態においてはフレームFr1)の動ベクトルV0を算出する動ベクトル算出手段2と、動ベクトルV0に基づいて、後述するシャープネス処理の強調度kを変更するためのシャープネス係数αを決定する動ベクトル処理手段3と、シャープネス処理のための強調度kを設定する強調度設定手段4と、強調度kに基づいてフレームFr1を表すフレームデータSorg1に対してシャープネス処理を施してシャープネス処理済みのフレームデータSproc1を得る処理手段5と、基準となる強調度aを記憶する基準強調度記憶手段6とを備える。
【0021】
サンプリング手段1は、動画像データM0から等しい時間間隔によりフレームFr1,Fr2…Frnをサンプリングする。なお、第1の実施形態においては、時間的に隣接する2つのフレームFr1,Fr2を用いてフレームFr1に対するシャープネス処理を行うものとする。
【0022】
動ベクトル算出手段2は、第1の実施の形態においては、2つのフレームFr1,Fr2に基づいて、フレームFr1の動ベクトルV0を算出する。具体的には、図2に示すように、フレームFr1をフレームFr2に対して平行移動し、フレームFr1,Fr2間の画素値の相関が最も高くなったときのフレームFr1の移動量および移動方向を動ベクトルV0とする。なお、図2においては、フレームFr1に含まれる被写体Q0とフレームFr2に含まれる被写体Q0とが一致するときに、フレームFr1,Fr2間の画素値の相関が最も高くなる。また、フレームFr1,Fr2間の画素値の差の2乗または絶対値の累積和が最小となったときに最も相関が高いものと判断する。
【0023】
動ベクトル処理手段3は、動ベクトル算出手段2において算出された動ベクトルV0の大きさ|V0|に応じて、後述するようにフレームデータSorg1に対して施すシャープネス処理の強調度kを設定するためのシャープネス係数αを決定する。具体的には、動ベクトル処理手段3は、図3に示す動ベクトルの大きさ|V0|とシャープネス係数αとの関係を表すテーブルTB0を記憶しており、このテーブルTB0を参照して、動ベクトルV0の大きさ|V0|に応じてシャープネス係数αを決定する。
【0024】
なお、図3に示すテーブルTB0は、動ベクトルV0の大きさ|V0|が0を越える場合に強調度を大きくするようなシャープネス係数αを求めるものとなっている。また、動ベクトルV0の大きさ|V0|が大きい場合にシャープネスが強調されすぎることを防止するために、動ベクトルV0の大きさ|V0|が一定値Th1を越えるとシャープネス係数αの値は一定となっている。
【0025】
強調度設定手段4は、基準強調度記憶手段6に記憶された基準強調度aにシャープネス係数αを乗算することにより強調度kを算出する。なお、基準強調度aの値としては、第1の実施形態においては例えば1.2を用いる。
【0026】
処理手段5は、下記の式(2)に示すように強調度kに基づいてフレームデータSorg1に対してシャープネス処理を施して、シャープネス処理済みのフレームデータSproc1を得る。
Sproc1=Sorg1+k(Sorg1−Sus) (2)
但し、SusはフレームデータSorg1のボケデータ
【0027】
なお、フレームデータSorg1は、RGBそれぞれの色データであってもよく、RGBの色データから得られた輝度データおよび色差データであってもよい。また、輝度データのみであってもよい。
【0028】
次いで、第1の実施形態の動作について説明する。図4は第1の実施形態において行われる処理を示すフローチャートである。まず、動画像データM0がサンプリング手段1においてサンプリングされて、フレームFr1,Fr2が得られる(ステップS1)。そして、動ベクトル算出手段2においてフレームFr1の動ベクトルV0が算出され(ステップS2)、動ベクトル処理手段3において動ベクトルV0の大きさ|V0|に基づいてシャープネス係数αが決定される(ステップS3)。次いで、強調度設定手段4においてシャープネス係数αに基づいて基準強調度aが変更されて強調度kが設定される(ステップS4)。そして、処理手段5において、フレームデータSorg1に対して強調度kに基づくシャープネス処理が施されてシャープネス処理済みフレームデータSproc1が得られ(ステップS5)、処理を終了する。
【0029】
このように、第1の実施形態においては、フレームFr1の動ベクトルV0の大きさに基づいてシャープネス処理のための強調度kを設定しているため、フレームFr1に含まれる動いている領域の移動量に応じて、フレームFr1に対して適切にシャープネス処理を施して、鮮鋭度が強調されたシャープネス処理済みのフレームを得ることができる。
【0030】
次いで、本発明の第2の実施形態について説明する。図5は本発明の第2の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。なお、第2の実施形態において第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図5に示すように、第2の実施形態においては、第1の実施形態における動ベクトル処理手段3、強調度設定手段4、処理手段5および基準強調度記憶手段6に代えて、動ベクトル算出手段2において算出された動ベクトルV0の方向に応じてシャープネス係数αを決定する動ベクトル処理手段13、動ベクトル処理手段13において決定されたシャープネス係数αに基づいて強調度kを設定する強調度設定手段14、強調度設定手段14において設定された強調度kに基づいて、フレームデータSorg1に対して動ベクトルV0の方向に応じたシャープネス処理を施す処理手段15、および動ベクトルV0の方向に応じた基準強調度aを記憶した基準強調度記憶手段16を備えてなるものである。
【0031】
第2の実施形態においては、基準強調度記憶手段16には、図6に示すように、0度、45度、90度および135度の45度間隔で向きが異なる4つの基準方向についての基準強調度a(0),a(45),a(90),a(135)が記憶されている。なお、フレームFr1の画素の縦横比が異なると動ベクトルV0の縦横成分の大きさのスケールが異なるため、画素の縦異横比に応じて基準強調度a(0),a(45),a(90),a(135)を記憶している。ここで、図6においては縦横比が1:1および1:2の場合の基準強調度を表している。
【0032】
動ベクトル処理手段13は、動ベクトル算出手段2において算出された動ベクトルV0の方向に応じた強調度k(0),k(45),k(90),k(135)を設定するためのシャープネス係数α(0),α(45),α(90),α(135)を決定する。具体的には、動ベクトルV0の方向が図7に示すように0度と45度の基準方向の間であって45度寄りにある場合には、フレームFr1上における45度の基準方向に鮮鋭度が最も強調されるようにシャープネス係数α(0),α(45),α(90),α(135)を決定する。例えば、α(0)=1/1.2,α(45)=1,α(90)=1/1.2,α(135)=1/1.2のように、シャープネス係数α(0),α(45),α(90),α(135)を決定する。
【0033】
なお、動ベクトルV0の方向は0度から360度の範囲で変化するが、動ベクトルV0の方向が180度以上の場合には、動ベクトルV0を180度回転した方向をその動ベクトルV0の方向とみなしてシャープネス係数α(0),α(45),α(90),α(135)を決定する。
【0034】
強調度設定手段14は、下記の式(3)に示すように、動ベクトルV0の方向に応じた強調度k(0),k(45),k(90),k(135)を設定する。
k(0)=α(0)×a(0)
k(45)=α(45)×a(45)
k(90)=α(90)×a(90)
k(135)=α(135)×a(135) (3)
なお、本実施形態においては、k(0)=1、k(45)=1.2、k(90)=1、k(135)=1となる。
【0035】
【0036】
処理手段15は、下記の式(4)に示すように強調度k(0),k(45),k(90),k(135)に基づいてフレームデータSorg1に対してシャープネス処理を施して、シャープネス処理済みのフレームデータSproc1を得る。
Sproc1=Sorg1+k(0)(Sorg1−Sus(0)) +k(45)(Sorg1−Sus(45)) +k(90)(Sorg1−Sus(90)) +k(135)(Sorg1−Sus(135)) (4)
【0037】
ここで、Sus(0),Sus(45),Sus(90),Sus(135)は、それぞれ図8(a)〜(d)に示すボケマスクによりフレームデータSorg1に対してフィルタリング処理を施すことにより得られた各方向についてのボケデータである。なお、図8においてはx,X,y,Y,Yx,YX,Xy,XYは重み係数を表す。
【0038】
次いで、第2の実施の形態の動作について説明する。図9は第2の実施形態において行われる処理を示すフローチャートである。まず、動画像データM0がサンプリング手段1においてサンプリングされて、フレームFr1,Fr2が得られる(ステップS11)。そして、動ベクトル算出手段2においてフレームFr1の動ベクトルV0が算出され(ステップS12)、動ベクトル処理手段13において動ベクトルV0の方向に基づいてシャープネス係数α(0),α(45),α(90),α(135)が決定される(ステップS13)。次いで、強調度設定手段14においてシャープネス係数α(0),α(45),α(90),α(135)に基づいて基準強調度a(0),a(45),a(90),a(135)が変更されて強調度k(0),k(45),k(90),k(135)が設定される(ステップS14)。そして、処理手段15において、フレームデータSorg1に対して強調度k(0),k(45),k(90),k(135)に基づくシャープネス処理が施されてシャープネス処理済みフレームデータSproc1が得られ(ステップS15)、処理を終了する。
【0039】
このように、第2の実施形態においては、フレームFr1の動ベクトルV0の方向に基づいてシャープネス処理のための強調度k(0),k(45),k(90),k(135)を設定しているため、フレームFr1に含まれる動いている領域の移動方向に応じて、フレームFr1に対して適切にシャープネス処理を施して、鮮鋭度が強調されたフレームを得ることができる。
【0040】
次いで、本発明の第3の実施形態について説明する。上記第2の実施形態においては、動ベクトルV0の方向が基準方向である0度、45度、90度および135度の間にある場合には、動ベクトルV0の方向に最も近い基準方向について強調度kが大きくなるようにシャープネス処理を行っているが、第3の実施形態においては、動ベクトルV0の方向が基準方向の間にある場合には、動ベクトルV0の角度を挟む2つの基準方向について強調度kが大きくなるようにシャープネス処理を行うものである。
【0041】
例えば、図10に示すように、動ベクトルV0の方向が、基準方向である0度および45度の間にある場合には、フレームFr1上における0度および45度の2つの基準方向に鮮鋭度が最も強調されるようにシャープネス係数α(0),α(45),α(90),α(135)を決定するようにしたものである。
【0042】
具体的には、α(0)=1,α(45)=1,α(90)=1/1.2,α(135)=1/1.2のように、シャープネス係数α(0),α(45),α(90),α(135)が決定される。
【0043】
この場合、強調度k(0)=1.2、k(45)=1.2、k(90)=1、k(135)=1となるため、第3の実施形態によれば、0度および45度の方向に鮮鋭度が強調されたフレームを得ることができる
次いで、本発明の第4の実施形態について説明する。上記第2の実施形態においては、動ベクトルV0の方向が基準方向である0度、45度、90度および135度の間である場合には、動ベクトルV0の方向に最も近い基準方向について強調度kが大きくなるようにシャープネス処理を行っているが、第4の実施形態においては、動ベクトルV0の方向が基準方向の間にある場合には、動ベクトルV0を挟む2つの基準方向の方向に動ベクトルV0を分解して2つの分解ベクトルを得、分解ベクトルの大きさに応じて鮮鋭度を強調するようにしたものである。
【0044】
例えば、図11に示すように、動ベクトルV0の方向が基準方向である0度および45度の間にある場合には、動ベクトルV0を0度方向のベクトルV(0)および45度方向のベクトルV(45)に分解し、分解ベクトルV(0),V(45)の大きさに応じてシャープネス係数α(0),α(45),α(90),α(135)を決定するようにしたものである。
【0045】
具体的には、α(0)=|V(0)|,α(45)=|V(45)|,α(90)=1/1.2,α(135)=1/1.2のように、シャープネス係数α(0),α(45),α(90),α(135)が決定される。
【0046】
この場合、強調度k(0)=1.2|V(0)|、k(45)=1.2|V(45)|、k(90)=1、k(135)=1となるため、第4の実施形態によれば、動ベクトルV0の方向に応じて精度よくフレームの鮮鋭度を強調することができる。
【0047】
次いで、本発明の第5の実施形態について説明する。上記第2の実施形態においては、動ベクトルV0の方向が基準方向である0度、45度、90度および135度の間である場合には、動ベクトルV0の方向に最も近い基準方向の方向について強調度kが大きくなるようにシャープネス処理を行っているが、第5の実施形態においては、動ベクトルV0の方向が基準方向の間にある場合には、動ベクトルV0を挟む2つの基準方向からの動ベクトルV0の角度距離に応じて鮮鋭度を強調するようにしたものである。
【0048】
例えば、図12に示すように、動ベクトルV0の方向が、基準方向である0度および45度の間にある場合には、0度方向を基準とした動ベクトルV0の角度距離R1および45度方向を基準とした動ベクトルV0の角度距離R2を求め、動ベクトルV0の角度距離R1,R2に応じてシャープネス係数α(0),α(45),α(90),α(135)を決定するようにしたものである。
【0049】
具体的には、角度距離が大きいほどシャープネス係数αの値が1よりも小さくなるテーブルを参照して、シャープネス係数α(0),α(45),α(90),α(135)を決定する。図13は角度距離が大きいほどシャープネス係数αの値が1よりも小さくなるテーブルの例を示す図である。図13に示すテーブルTB1を用いた場合、α(0)=|VR1|,α(45)=|VR2|,α(90)=1/1.2,α(135)=1/1.2のように、シャープネス係数α(0),α(45),α(90),α(135)が決定される。
【0050】
この場合、強調度k(0)=1.2|VR1|、k(45)=1.2|VR2|、k(90)=1、k(135)=1となるため、第5の実施形態によれば、動ベクトルV0の方向に応じて精度よくフレームの鮮鋭度を強調することができる。
【0051】
次いで、本発明の第6の実施形態について説明する。図14は本発明の第6の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。なお、第6の実施形態において第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図14に示すように、第6の実施形態においては、第1の実施形態における動ベクトル算出手段2に代えて、フレームFr1をm×n個の複数の領域A(m,n)に分割し、領域A(m,n)毎に動ベクトルV0(m,n)を算出する動ベクトル算出手段12を備えてなるものである。
【0052】
図15は第6の実施形態における動ベクトルV0(m,n)の算出を説明するための図である。図15に示すように、動ベクトル算出手段12は、フレームFr1をm×n個の複数の格子状の領域A(m,n)に分割し、複数の領域A(m,n)のそれぞれをフレームFr2に対して平行移動し、領域A(m,n)とフレームFr2間の画素値の相関が最も高くなったときの領域A(m,n)の移動量および移動方向を、その領域A(m,n)についての動ベクトルV0(m,n)とするものである。なお、領域A(m,n)とフレームFr2間の画素値の差の2乗または絶対値の累積和が最小となったときに最も相関が高いものと判断する。
【0053】
次いで、第6の実施形態の動作について説明する。図16は第6の実施形態において行われる処理を示すフローチャートである。まず、動画像データM0がサンプリング手段1においてサンプリングされて、フレームFr1,Fr2が得られる(ステップS21)。そして、動ベクトル算出手段12においてフレームFr1上における複数の領域A(m,n)毎に動ベクトルV0(m,n)が算出され(ステップS22)、動ベクトルV0(m,n)の大きさ|V0(m,n)|に基づいて動ベクトル処理手段3において、複数の領域A(m,n)毎にシャープネス係数αが決定される(ステップS23)。次いで、強調度設定手段4においてシャープネス係数αに基づいて基準強調度aが変更されて領域A(m,n)毎の強調度kが設定される(ステップS24)。そして、処理手段5において、領域A(m,n)毎のフレームデータSorg1に対して強調度kに基づくシャープネス処理が施されてシャープネス処理済みフレームデータSproc1が得られ(ステップS25)、処理を終了する。
【0054】
このように、第6の実施形態においては、フレームFr1を複数の領域A(m,n)に分割し、分割された複数の領域A(m,n)のそれぞれについて動ベクトルV0(m,n)を算出し、複数の領域A(m,n)毎に強調度kを設定しているため、フレームFr1上の各領域A(m,n)の移動量に応じて適切なシャープネス処理が施されたフレームを得ることができる。
【0055】
なお、上記第2から第5の実施形態と同様に、フレームFr1上の複数の領域A(m,n)のそれぞれについて動ベクトルV0(m,n)を算出し、動ベクトルV0(m,n)の方向に応じて複数の領域A(m,n)毎にフレームデータSorg1に対してシャープネス処理を施すようにしてもよい。
【0056】
次いで、本発明の第7の実施形態について説明する。図17は本発明の第7の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。なお、第7の実施形態において第6の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図17に示すように、第7の実施形態においては、第6の実施形態における動ベクトル算出手段12において算出された複数の動ベクトルV0(m,n)の大きさを横軸に、その数を縦軸にとったヒストグラムH0を算出し、ヒストグラムH0のピークに基づいて領域A(m,n)をその動きに応じた被写体毎にまとめてフレームFr1を複数の被写体領域On(nは被写体領域数)に分割するヒストグラム処理手段7を備え、動ベクトル処理手段3において複数の被写体領域毎にシャープネス係数αを決定するようにしたものである。
【0057】
図18は、動ベクトル算出手段12における領域A(m,n)毎の動ベクトルV0(m,n)の算出を説明するための図、図19はヒストグラム処理手段7において算出されるヒストグラムH0の例を示す図である。図18(a)に示すように、フレームFr1に含まれる人間の顔のみがフレームFr2においてフレーム上左下から右上に大きく移動していたとする。この場合、動ベクトルV0(m,n)の大きさは、図18(b)に示すようにフレームFr1上左下隅を原点とした場合の4つの領域A(1,1)、A(2,1)、A(1,2)、A(2,2)については大きく、その他の領域については小さくなる。
【0058】
このため、動ベクトルV0(m,n)の大きさ|V0(m,n)|のヒストグラムH0を求めると、図19に示すように、2つのピークを有するものとなる。ここで、ピークP1は領域A(1,1)、A(2,1)、A(1,2)、A(2,2)以外の領域の動ベクトルV1(m,n)に、ピークP2は領域A(1,1)、A(2,1)、A(1,2)、A(2,2)の領域の動ベクトルV2(m,n)にそれぞれ対応する。
【0059】
したがって、複数の領域A(m,n)は、動ベクトルV1(m,n)に近い動ベクトルを有する第1の被写体領域O1と、動ベクトルV2(m,n)に近い動ベクトルを有する第2の被写体領域O2とにまとめられることから、フレームFr1は被写体領域O1,O2に分割されることとなる。そして、分割結果が動ベクトル処理手段3に入力されて、被写体領域O1,O2毎にシャープネス係数αが算出されて、各被写体領域O1,O2毎にシャープネス処理が行われることとなる。
【0060】
次いで、第7の実施形態の動作について説明する。図20は第7の実施形態において行われる処理を示すフローチャートである。まず、動画像データM0がサンプリング手段1においてサンプリングされて、フレームFr1,Fr2が得られる(ステップS31)。そして、動ベクトル算出手段12においてフレームFr1上における複数の領域A(m,n)毎の複数の動ベクトルV0(m,n)が算出される(ステップS32)。次いで、ヒストグラム処理手段7において複数の動ベクトルV0(m,n)のヒストグラムH0が算出され(ステップS33)、ヒストグラムH0のピークに応じて複数の領域A(m,n)がまとめられて、フレームFr1が複数の被写体領域O1,O2に分割される(ステップS34)。
【0061】
動ベクトル処理手段3においては、動ベクトルV1(m,n),V2(m,n)の大きさ|V1(m,n)|,|V2(m,n)|に基づいて、複数の被写体領域O1,O2毎にシャープネス係数αが決定される(ステップS35)。次いで、強調度設定手段4においてシャープネス係数αに基づいて基準強調度aが変更されて被写体領域O1,O2毎の強調度kが設定される(ステップS36)。そして、処理手段5において、被写体領域O1,O2毎のフレームデータSorg1に対して強調度kに基づくシャープネス処理が施されてシャープネス処理済みフレームデータSproc1が得られ(ステップS37)、処理を終了する。
【0062】
このように、第7の実施形態においては、フレームFr1を複数の被写体領域O1,O2に分割し、複数の被写体領域O1,O2のそれぞれについて動ベクトルV1(m,n),V2(m,n)を算出し、動ベクトルV1(m,n),V2(m,n)の大きさ|V1(m,n)|,|V2(m,n)|に応じて複数の被写体領域O1,O2毎に強調度kを設定しているため、フレームFr1上の各被写体領域O1,O2の移動量に応じて適切なシャープネス処理が施されたフレームを得ることができる。
【0063】
なお、上記第2から第5の実施形態と同様に、複数の被写体領域O1,O2のそれぞれについて動ベクトルV1(m,n),V2(m,n)を算出し、動ベクトルV1(m,n),V2(m,n)の方向に応じて複数の被写体領域O1,O2毎にフレームデータSorg1に対してシャープネス処理を施すようにしてもよい。
【0064】
次いで、本発明の第8の実施形態について説明する。図21は本発明の第8の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。なお、第8の実施形態において第7の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図21に示すように、第8の実施形態においては、動ベクトル算出手段12において、フレームFr1,Fr2に基づいてフレームFr1上の複数の領域A(m,n)毎に動ベクトルV12(m,n)を算出するとともに、フレームFr2の次のフレームFr3をも用いて、フレームFr1およびFr3に基づく領域A(m,n)毎の動ベクトルV13(m,n)を算出し、第7の実施形態におけるヒストグラム処理手段7に代えて、2種類の動ベクトルV12(m,n),V13(m,n)に基づいて、フレームFr1を複数の被写体領域に分割するヒストグラム処理手段17を備えるようにしたものである。
【0065】
なお、フレームFr1およびフレームFr2の時間間隔と、フレームFr2およびフレームFr3の時間間隔とは同一であるものとする。
【0066】
図22および図23は、動ベクトル算出手段12における動ベクトルV12(m,n),V13(m,n)の算出およびヒストグラム処理手段17におけるフレームFr1の複数の被写体領域への分割を説明するための図である。まず、フレームFr1,Fr2に基づく動ベクトルV12(m,n)の算出およびフレームFr1の被写体領域への分割について説明する。
【0067】
図22(a)に示すように、フレームFr1に含まれる人間の顔のみがフレームFr2においてフレーム上左下から右上に移動していたとする。この場合、動ベクトルV12(m,n)の大きさは、図22(a)に示すようフレームFr1上左下隅を原点とした場合の2つの領域A(1,1)、A(2,1)については大きく、その他の領域については小さくなる。なお、ここでは、領域A(3,1)についても動ベクトルV12(m,n)が大きいものとする。
【0068】
このため、動ベクトルV12(m,n)の大きさ|V12(m,n)|のヒストグラムを求めると、図22(b)に示すように、2つのピークを有するものとなる。ここで、ピークP121は領域A(1,1)、A(2,1)、A(3,1)以外の領域の動ベクトルV121(m,n)に、ピークP122は領域A(1,1)、A(2,1)、A(3,1)の領域の動ベクトルV122(m,n)に、それぞれ対応する。したがって、図22(c)に示すように、フレームFr1は、動ベクトルV121(m,n)に近い動ベクトルを有する第1の被写体領域O121と、動ベクトルV122(m,n)に近い動ベクトルを有する第2の被写体領域O122とに分割される。
【0069】
次いで、フレームFr1,Fr3に基づく動ベクトルV13(m,n)の算出および被写体領域の分割について説明する。
【0070】
図23(a)に示すように、フレームFr1に含まれる人間の顔のみがフレームFr3においてフレーム上左下から右上に大きく移動していたとする。この場合、動ベクトルV13(m,n)の大きさは、図23(a)に示すようフレームFr1上左下隅を原点とした場合の2つの領域A(1,1)、A(2,1)については大きく、その他の領域については小さくなる。なお、ここでは、領域A(1,2)についても動ベクトルV13(m,n)の大きさが大きいものとする。
【0071】
このため、動ベクトルV13(m,n)の大きさ|V13(m,n)|のヒストグラムを求めると、図23(b)に示すように、2つのピークを有するものとなる。ここで、ピークP131は領域A(1,1)、A(2,1)、A(1,2)以外の領域の動ベクトルV131(m,n)に、ピークP132は領域A(1,1)、A(2,1)、A(1,2)の領域の動ベクトルV132(m,n)に、それぞれ対応する。したがって、図23(c)に示すように、フレームFr1は、動ベクトルV131(m,n)に近い動ベクトルを有する第1の被写体領域O131と、動ベクトルV132(m,n)に近い動ベクトルを有する第2の被写体領域O132とに分割される。
【0072】
そして、動ベクトルV12(m,n),V13(m,n)が比較的大きい被写体領域O122,O132に含まれる領域A(m,n)を比較し、図24に示すように、双方の被写体領域O122,O132に含まれる領域A(m,n)のみを移動する被写体が含まれる被写体領域O2とみなし、フレームFr1を被写体領域O1,O2に分割する。分割結果は上記第7の実施形態と同様に、動ベクトル処理手段3に入力されて、被写体領域O1,O2毎にシャープネス係数αが算出されて、各被写体領域O1,O2毎にシャープネス処理が行われることとなる。
【0073】
このように、第8の実施形態においては、複数のフレームFr1,Fr2,Fr3に基づいて、フレームFr1を複数の被写体領域に分割しているため、フレームFr1に含まれる被写体の動きをより精度よく検出して、精度よくフレームFr1を複数の被写体領域に分割することができる。したがって、フレームFr1上の各被写体領域の移動量に応じて適切なシャープネス処理が施されたフレームを得ることができる。
【0074】
なお、上記第2から第5の実施形態と同様に、複数の被写体領域O1,O2のそれぞれについて動ベクトルV1(m,n),V2(m,n)を算出し、動ベクトルV1(m,n),V2(m,n)の方向に応じて複数の被写体領域O1,O2毎にフレームデータSorg1に対してシャープネス処理を施すようにしてもよい。
【0075】
次いで、本発明の第9の実施形態について説明する。図25は本発明の第9の実施形態によるシャープネス処理装置の構成を示す概略ブロック図である。なお、第9の実施形態において第1の実施形態と同一の構成については同一の参照番号を付し、詳細な説明は省略する。図25に示すように、第9の実施形態においては、第1の実施形態における動ベクトル算出手段2および動ベクトル処理手段3に代えて、フレームFr1,Fr2に基づいて動ベクトルV12を算出するとともに、フレームFr1とフレームFr2の次のフレームFr3に基づいて動ベクトルV13を算出する動ベクトル算出手段22、および動ベクトルV12,V13に基づいて、動ベクトルV12,V13の信頼度を判定し、信頼度に応じてシャープネス係数αを決定する動ベクトル処理手段23を備えてなるものである。
【0076】
なお、フレームFr1およびフレームFr2の時間間隔と、フレームFr2およびフレームFr3の時間間隔とは同一であるものとする。
【0077】
動ベクトル算出手段22は、第1の実施形態における動ベクトル算出手段2と同様に、フレームFr1をフレームFr2に対して平行移動し、フレームFr1,Fr2間の画素値の相関が最も高くなったときのフレームFr1の移動量および移動方向を動ベクトルV12として算出する。また、動ベクトル算出手段22は、フレームFr1をフレームFr3に対して平行移動し、フレームFr1,Fr3間の画素値の相関が最も高くなったときのフレームFr1の移動量および移動方向を動ベクトルV13として算出する。
【0078】
動ベクトル処理手段23は、動ベクトルV12,V13の信頼度を判定する。以下、信頼度の判定について説明する。動画像に含まれる被写体は、微小時間では等速で移動する。本実施形態においては、フレームFr1,Fr2,Fr3のサンプリング間隔は等しいため、動画像データM0に含まれる被写体は、フレームFr1,Fr2,Fr3上においては、図26に示すように等速で移動しているはずである。このため、動画像データM0上の被写体が等速で移動していれば、動ベクトルV12,V13には、V13=2V12(以下ベクトルの記号は省略する)の関係が成立する。
【0079】
したがって、動ベクトル処理手段23は、|V13−2V12|の絶対値が所定のしきい値Th2未満であるか否かを判定し、|V13−2V12|の絶対値が所定のしきい値Th2未満である場合には、動ベクトルV12,V13は信頼できるものとして、動ベクトルV12またはV13の大きさ|V12|,|V13|に応じてシャープネス係数αを決定する。一方、|V13−2V12|の絶対値が所定のしきい値Th2以上である場合には、被写体が動いているか否かが不明であるため、動ベクトルV12,V13は信頼できないものとして、動ベクトルV12,V13の大きさを0としてシャープネス係数αを決定する。
【0080】
次いで、第9の実施形態の動作について説明する。図27は第9の実施形態において行われる処理を示すフローチャートである。まず、動画像データM0がサンプリング手段1においてサンプリングされて、フレームFr1,Fr2,Fr3が得られる(ステップS41)。そして、動ベクトル算出手段22においてフレームFr1,Fr2間の動ベクトルV12およびフレームFr1,Fr3間の動ベクトルV13が算出される(ステップS42)。次いで、動ベクトル処理手段23において、動ベクトルV12,V13の大きさに基づいて動ベクトルV12,V13の信頼度が判定される(ステップS43)。
【0081】
そして、|V13−2V12|<Th2となりステップS44が肯定された場合には、動ベクトルV12,V13は信頼できるものとして、動ベクトルV12またはV13の大きさ|V12|,|V13|に応じてシャープネス係数αが決定される(ステップS45)。一方、|V13−2V12|が所定のしきい値Th2以上となりステップS44が否定された場合には、動ベクトルV12,V13は信頼できないものとして、動ベクトルV12,V13の大きさを0としてシャープネス係数αが決定される(ステップS46)。
【0082】
次いで、強調度設定手段4においてシャープネス係数αに基づいて基準強調度aが変更されて強調度kが設定される(ステップS47)。そして、処理手段5において、フレームデータSorg1に対して強調度kに基づくシャープネス処理が施されてシャープネス処理済みフレームデータSproc1が得られ(ステップS48)、処理を終了する。
【0083】
このように、第9の実施形態においては、複数のフレームFr1,Fr2,Fr3から複数の動ベクトルV12,V13を算出し、これらの動ベクトルV12およびV13から算出された大きさ|V13−2V12|に基づいて、複数の動ベクトルV12,V13の信頼度を判定し、信頼度できる場合には動ベクトルの大きさ|V12|,|V13|に基づいてシャープネス係数αを決定し、信頼できない場合には動ベクトル|V12|,|V13|の大きさを0としてシャープネス係数αを決定しているため、動ベクトルV12,V13の信頼度が小さく、フレームFr1,Fr2,Fr3上の被写体が動いているのか否かが分からないような場合に、算出された動ベクトルV12,V13に基づいてシャープネス処理を行ってしまうことにより、不要な領域の鮮鋭度を向上させてしまうことを防止することができる。
【0084】
なお、フレームFr1を複数の領域に分割し、領域A(m,n)毎または領域A(m,n)の動ベクトル基づいて求められる被写体領域毎に複数の動ベクトルV12,V13を算出し、動ベクトルV12,V13の信頼度に応じてシャープネス係数αを決定して領域A(m,n)毎または被写体領域毎にフレームデータSorg1に対してシャープネス処理を施すようにしてもよい。
【図面の簡単な説明】
【図1】本発明の第1の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図2】第1の実施形態における動ベクトルの算出を説明するための図
【図3】動ベクトルの大きさとシャープネス係数との関係を表すテーブル
【図4】第1の実施形態において行われる処理を示すフローチャート
【図5】本発明の第2の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図6】第2の実施形態における基準強調度を示す図
【図7】第2の実施形態における動ベクトルの方向の決定を説明するための図
【図8】基準方向のボケマスクを示す図
【図9】第2の実施形態において行われる処理を示すフローチャート
【図10】第3の実施形態におけるシャープネス処理の方向の決定を説明するための図
【図11】第4の実施形態におけるシャープネス処理の方向の決定を説明するための図
【図12】第5の実施形態におけるシャープネス処理の方向の決定を説明するための図
【図13】角度距離とシャープネス係数との関係を表すテーブル
【図14】本発明の第6の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図15】第6の実施形態における動ベクトルの算出を説明するための図
【図16】第6の実施形態において行われる処理を示すフローチャート
【図17】本発明の第7の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図18】領域毎の動ベクトルの算出を説明するための図
【図19】ヒストグラムの例を示す図
【図20】第7の実施形態において行われる処理を示すフローチャート
【図21】本発明の第8の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図22】動ベクトルの算出およびフレームの被写体領域への分割を説明するための図(その1)
【図23】動ベクトルの算出およびフレームの被写体領域への分割を説明するための図(その2)
【図24】第8の実施形態におけるフレームの被写体領域への分割結果を示す図
【図25】本発明の第9の実施形態によるシャープネス処理装置の構成を示す概略ブロック図
【図26】3つのフレーム上において等速で移動する被写体を示す図
【図27】第9の実施形態において行われる処理を示すフローチャート
【符号の説明】
1 サンプリング手段
2,12,22 動ベクトル算出手段
3,13,23 動ベクトル処理手段
4,14 強調度設定手段
5,15 処理手段
6,16 基準強調度記憶手段
7,17 ヒストグラム処理手段
Claims (12)
- 動画像からサンプリングしたフレームに対してシャープネス処理を施すシャープネス処理方法であって、
前記フレームおよび該フレームを基準として時間的に前後する少なくとも1つの他のフレームに基づいて、前記フレームおよび前記他のフレーム間の動ベクトルを算出し、
該動ベクトルの大きさおよび/または方向に基づいて、前記シャープネス処理のパラメータを設定することを特徴とするシャープネス処理方法。 - 前記フレームを複数の領域に分割し、
該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得、
該複数の動ベクトルの大きさおよび/または方向に基づいて、前記複数の領域毎に前記シャープネス処理のパラメータを設定することを特徴とする請求項1記載のシャープネス処理方法。 - 前記フレームを複数の領域に分割し、
該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得、
該複数の動ベクトルの大きさに基づいて、前記フレームを複数の被写体領域に分割し、
該複数の被写体領域毎に前記シャープネス処理のパラメータを設定することを特徴とする請求項1記載のシャープネス処理方法。 - 前記フレームおよび複数の前記他のフレームに基づいて、該フレームおよび該各他のフレーム間の複数の動ベクトルを算出し、
該フレームおよび該各他のフレーム間の複数の動ベクトルに基づいて、該複数の動ベクトルの信頼度を算出し、
該信頼度が所定のしきい値よりも大きい場合には、該算出された複数の動ベクトルのうちのいずれかの動ベクトルに基づいて前記パラメータを設定し、
該信頼度が所定のしきい値未満の場合には、予め定められた所定のパラメータを前記シャープネス処理のパラメータとして設定することを特徴とする請求項1から3のいずれか1項記載のシャープネス処理方法。 - 動画像からサンプリングしたフレームに対してシャープネス処理を施すシャープネス処理装置であって、
前記フレームおよび該フレームを基準として時間的に前後する少なくとも1つの他のフレームに基づいて、前記フレームおよび前記他のフレーム間の動ベクトルを算出する動ベクトル算出手段と、
該動ベクトルの大きさおよび/または方向に基づいて、前記シャープネス処理のパラメータを設定するパラメータ設定手段とを備えたことを特徴とするシャープネス処理装置。 - 前記動ベクトル算出手段は、前記フレームを複数の領域に分割し、該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得る手段であり、
前記パラメータ設定手段は、該複数の動ベクトルの大きさおよび/または方向に基づいて、前記複数の領域毎に前記シャープネス処理のパラメータを設定する手段であることを特徴とする請求項5記載のシャープネス処理装置。 - 前記動ベクトル算出手段は、前記フレームを複数の領域に分割し、該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得る手段であり、
前記パラメータ設定手段は、該複数の動ベクトルの大きさに基づいて、前記フレームを複数の被写体領域に分割し、該複数の被写体領域毎に前記シャープネス処理のパラメータを設定する手段であることを特徴とする請求項5記載のシャープネス処理装置。 - 前記動ベクトル算出手段は、前記フレームおよび複数の前記他のフレームに基づいて、該フレームおよび該各他のフレーム間の複数の動ベクトルを算出する手段であり、
前記パラメータ設定手段は、該フレームおよび該各他のフレーム間の複数の動ベクトルに基づいて、該複数の動ベクトルの信頼度を算出し、該信頼度が所定のしきい値よりも大きい場合には、該算出された複数の動ベクトルのうちのいずれかの動ベクトルに基づいて前記パラメータを設定し、該信頼度が所定のしきい値未満の場合には、予め定められた所定のパラメータを前記シャープネス処理のパラメータとして設定する手段であることを特徴とする請求項5から7のいずれか1項記載のシャープネス処理装置。 - 動画像からサンプリングしたフレームに対してシャープネス処理を施すシャープネス処理方法をコンピュータに実行させるためのプログラムであって、
前記フレームおよび該フレームを基準として時間的に前後する少なくとも1つの他のフレームに基づいて、前記フレームおよび前記他のフレーム間の動ベクトルを算出する手順と、
該動ベクトルの大きさおよび/または方向に基づいて、前記シャープネス処理のパラメータを設定する手順とを有するプログラム。 - 前記動ベクトルを算出する手順は、前記フレームを複数の領域に分割する手順と、
該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得る手順とを有し、
前記パラメータを設定する手順は、該複数の動ベクトルの大きさおよび/または方向に基づいて、前記複数の領域毎に前記シャープネス処理のパラメータを設定する手順である請求項9記載のプログラム。 - 前記動ベクトルを算出する手順は、前記フレームを複数の領域に分割する手順と、
該複数の領域のそれぞれについて動ベクトルを算出して複数の動ベクトルを得る手順とを有し、
前記パラメータを設定する手順は、該複数の動ベクトルの大きさに基づいて、前記フレームを複数の被写体領域に分割する手順と、
該複数の被写体領域毎に前記シャープネス処理のパラメータを設定する手順とを有する請求項9記載のプログラム。 - 前記動ベクトルを算出する手順は、前記フレームおよび複数の前記他のフレームに基づいて、該フレームおよび該各他のフレーム間の複数の動ベクトルを算出する手順であり、
前記パラメータを設定する手順は、該フレームおよび該各他のフレーム間の複数の動ベクトルに基づいて、該複数の動ベクトルの信頼度を算出する手順と、
該信頼度が所定のしきい値よりも大きい場合には、該算出された複数の動ベクトルのうちのいずれかの動ベクトルに基づいて前記パラメータを設定する手順と、
該信頼度が所定のしきい値未満の場合には、予め定められた所定のパラメータを前記シャープネス処理のパラメータとして設定する手順とを有する請求項9から11のいずれか1項記載のプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002185873A JP2004032374A (ja) | 2002-06-26 | 2002-06-26 | シャープネス処理方法および装置並びにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002185873A JP2004032374A (ja) | 2002-06-26 | 2002-06-26 | シャープネス処理方法および装置並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004032374A true JP2004032374A (ja) | 2004-01-29 |
Family
ID=31181382
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002185873A Withdrawn JP2004032374A (ja) | 2002-06-26 | 2002-06-26 | シャープネス処理方法および装置並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004032374A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005234904A (ja) * | 2004-02-19 | 2005-09-02 | Sony Corp | 画像信号処理装置、画像信号処理方法、並びにプログラムおよびそれを記録した媒体 |
JP2012000311A (ja) * | 2010-06-18 | 2012-01-05 | Hoya Corp | 動画像強調処理システムおよび方法 |
KR101200231B1 (ko) | 2004-12-07 | 2012-11-09 | 소니 주식회사 | 화상 처리 장치 및 방법, 및 기록 매체 |
JP2017536771A (ja) * | 2014-11-27 | 2017-12-07 | 華為技術有限公司Huawei Technologies Co.,Ltd. | 送信電力決定方法および装置 |
JP2018051851A (ja) * | 2016-09-28 | 2018-04-05 | 相互印刷株式会社 | 網点スクリーンの作成方法、製版用刷版および印刷物 |
-
2002
- 2002-06-26 JP JP2002185873A patent/JP2004032374A/ja not_active Withdrawn
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005234904A (ja) * | 2004-02-19 | 2005-09-02 | Sony Corp | 画像信号処理装置、画像信号処理方法、並びにプログラムおよびそれを記録した媒体 |
JP4534518B2 (ja) * | 2004-02-19 | 2010-09-01 | ソニー株式会社 | 画像信号処理装置、画像信号処理方法、並びにプログラムおよびそれを記録した媒体 |
KR101200231B1 (ko) | 2004-12-07 | 2012-11-09 | 소니 주식회사 | 화상 처리 장치 및 방법, 및 기록 매체 |
JP2012000311A (ja) * | 2010-06-18 | 2012-01-05 | Hoya Corp | 動画像強調処理システムおよび方法 |
JP2017536771A (ja) * | 2014-11-27 | 2017-12-07 | 華為技術有限公司Huawei Technologies Co.,Ltd. | 送信電力決定方法および装置 |
JP2018051851A (ja) * | 2016-09-28 | 2018-04-05 | 相互印刷株式会社 | 網点スクリーンの作成方法、製版用刷版および印刷物 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104584079B (zh) | 用于增强现实应用程序的装置和方法 | |
JP5284048B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
CN109711304B (zh) | 一种人脸特征点定位方法及装置 | |
US9041834B2 (en) | Systems and methods for reducing noise in video streams | |
US9202263B2 (en) | System and method for spatio video image enhancement | |
US9191589B2 (en) | Image processing device | |
JP2009509408A (ja) | 適応的な動き検索範囲 | |
WO2015119207A1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 | |
US20100067818A1 (en) | System and method for high quality image and video upscaling | |
JP2008511258A (ja) | リアルタイム画像安定化 | |
US9613404B2 (en) | Image processing method, image processing apparatus and electronic device | |
US10593050B2 (en) | Apparatus and method for dividing of static scene based on statistics of images | |
JP4958806B2 (ja) | ぶれ検出装置、ぶれ補正装置及び撮像装置 | |
CN113724155A (zh) | 用于自监督单目深度估计的自提升学习方法、装置及设备 | |
JP2004032374A (ja) | シャープネス処理方法および装置並びにプログラム | |
JP6178646B2 (ja) | 撮像装置及び像振れ補正処理方法 | |
JP2009260671A (ja) | 画像処理装置及び撮像装置 | |
JP2010506482A (ja) | ビデオストリームの視差回復方法及びフィルタ | |
KR20130126026A (ko) | 세부정보 추정에 의한 영상 개선 장치 및 방법 | |
KR101437898B1 (ko) | 단일 영상을 이용한 hdr 영상 생성 장치 및 방법 | |
US9940699B2 (en) | Image processing apparatus capable of appropriate image conversion in all regions of an image in image transformation processing | |
US11423561B2 (en) | Learning apparatus, estimation apparatus, learning method, estimation method, and computer programs | |
Gultekin et al. | Feature detection performance based benchmarking of motion deblurring methods: applications to vision for legged robots | |
JP6854629B2 (ja) | 画像処理装置、画像処理方法 | |
JP2021047710A (ja) | 画像処理装置、画像処理方法、画像処理システム及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20050906 |