JP2014123173A - 画像処理装置、撮像装置及び画像処理方法 - Google Patents
画像処理装置、撮像装置及び画像処理方法 Download PDFInfo
- Publication number
- JP2014123173A JP2014123173A JP2012277701A JP2012277701A JP2014123173A JP 2014123173 A JP2014123173 A JP 2014123173A JP 2012277701 A JP2012277701 A JP 2012277701A JP 2012277701 A JP2012277701 A JP 2012277701A JP 2014123173 A JP2014123173 A JP 2014123173A
- Authority
- JP
- Japan
- Prior art keywords
- image
- edge
- input image
- pixel
- frequency component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims description 28
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000012545 processing Methods 0.000 claims description 172
- 238000006243 chemical reaction Methods 0.000 claims description 40
- 230000002194 synthesizing effect Effects 0.000 claims description 10
- 239000000284 extract Substances 0.000 claims description 8
- 238000000034 method Methods 0.000 abstract description 87
- 238000002360 preparation method Methods 0.000 abstract description 5
- 230000008569 process Effects 0.000 description 52
- 238000010586 diagram Methods 0.000 description 20
- 238000004364 calculation method Methods 0.000 description 12
- 230000015572 biosynthetic process Effects 0.000 description 9
- 230000008859 change Effects 0.000 description 9
- 238000003786 synthesis reaction Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 6
- 230000002093 peripheral effect Effects 0.000 description 6
- 239000000203 mixture Substances 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 238000012937 correction Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/403—Edge-driven scaling; Edge-based scaling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Television Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】 学習等の事前準備が必要なく、処理量も少ない手法が要望されていた。
【解決手段】 入力画像の高周波成分を抽出し、その抽出された入力画像の高周波成分から入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定する。その推定したエッジ位置に対応する、入力画像を拡大した拡大画像におけるエッジ位置を求める。そして、入力画像の高周波成分のエッジの位置と拡大画像のエッジ位置が重なる位置における、入力画像の高周波成分の画素値を用いて拡大画像のエッジ周辺の各画素位置における画素値を求める。その後、エッジ周辺の高周波成分の補間された画素値と拡大画像の画素の画素値を合成する。
【選択図】 図2
【解決手段】 入力画像の高周波成分を抽出し、その抽出された入力画像の高周波成分から入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定する。その推定したエッジ位置に対応する、入力画像を拡大した拡大画像におけるエッジ位置を求める。そして、入力画像の高周波成分のエッジの位置と拡大画像のエッジ位置が重なる位置における、入力画像の高周波成分の画素値を用いて拡大画像のエッジ周辺の各画素位置における画素値を求める。その後、エッジ周辺の高周波成分の補間された画素値と拡大画像の画素の画素値を合成する。
【選択図】 図2
Description
本開示は、画像処理方法及び画像処理装置に関し、特に入力された任意の画像の解像度を高めて超解像の画像を生成する超解像技術を利用した画像処理装置、撮像装置及び画像処理方法に係わる。
従来、低解像の画像の解像度を高め、通常の拡大方法では復元できない情報を復元する超解像技術として、画像に含まれる高周波成分を用いて超解像処理を行う方法がある(特許文献1参照。)。特許文献1に記載された方法は、超解像処理を行うための準備段階として、事前に高解像画像から低解像画像を作成してデータを学習し、変換関係を規定する補間フィルタ係数を求めておく必要がある(学習ステップ)。そして、この学習ステップで得られた補間フィルタ係数を用いて、任意の低解像の入力画像から高解像の出力画像を得る(復元ステップ)。
また、画像に含まれる高周波成分を用いて超解像処理を行う他の方法として、拡大画像において高周波成分を適用する画素位置を推定するためにマッチング処理(ブロックマッチング)を用いる技術がある(特許文献2参照。)。
ところで、特許文献1に記載の技術では、事前に補間フィルタ係数の学習を行う必要がある。この学習には大量の画像を用意する必要があり、また学習がない方法に比べて開発に時間がかかる。すなわち学習を行う方法を採用することは開発コストの増大につながってしまう。
また、特許文献2に記載の技術ではマッチング処理を用いているが、一般的に、マッチング処理には多大なデータ処理量が必要とされるため、ハードウェアのコストが高くなるか、演算速度(クロック周波数)を上げるために消費電力が大きくなってしまう。
このように、従来の超解像技術では、予め学習が必要、データ処理量が多いなどの不都合が多かった。
以上の状況から、学習等の事前準備が必要なく、データ処理量も少ない手法が要望されていた。
本開示の一側面では、入力画像の高周波成分を抽出し、その抽出された入力画像の高周波成分から入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定する。その推定したエッジ位置に対応する、入力画像を拡大した拡大画像におけるエッジ位置を求める。そして、入力画像の高周波成分のエッジの位置と拡大画像のエッジ位置が重なる位置における、入力画像の高周波成分の画素値を用いて拡大画像のエッジ周辺の各画素位置における画素値を求める。その後、エッジ周辺の高周波成分の補間された画素値と拡大画像の画素の画素値を合成する。
上記入力画像の高周波成分の画素値を用いて拡大画像のエッジ周辺の各画素位置における画素値を求める際に、入力画像の高周波成分の画素値に代えて、入力画像の高周波成分以外の成分も含んだ画素値を用いてもよい。
上記入力画像の高周波成分の画素値を用いて拡大画像のエッジ周辺の各画素位置における画素値を求める際に、入力画像の高周波成分の画素値に代えて、入力画像の高周波成分以外の成分も含んだ画素値を用いてもよい。
本開示の一側面によれば、超解像処理の過程で一般的なフィルタ演算や座標計算を組み合わせてエッジ位置を推定している。
本開示の少なくとも一つの実施形態によれば、従来の超解像技術と同様に画像の高周波成分を使いながらも、エッジ位置の推定に一般的なフィルタ演算や座標計算を組み合わせて演算処理量を増大しない方法を採用し、超解像拡大を実現している。それゆえ、学習等の事前準備が必要なく、かつデータ処理量も少なくてすむ。
以下、本開示を実施するための形態(以下、実施形態という)の例について説明する。本明細書及び図面において、実質的に同一の機能又は構成を有する構成要素については、同一の符号を付することにより重複する説明を省略する。説明は以下の順序で行う。
1.第1の実施形態(画像処理部:画像の高域成分から超解像成分を生成し、その超解像成分を拡大画像に合成した例)
2.第2の実施形態(画像処理部:2次元画像を2次元のまま処理した例)
3.その他
1.第1の実施形態(画像処理部:画像の高域成分から超解像成分を生成し、その超解像成分を拡大画像に合成した例)
2.第2の実施形態(画像処理部:2次元画像を2次元のまま処理した例)
3.その他
<1.第1の実施形態>
本開示の第1の実施形態では、入力画像(入力画像信号)の高周波成分からエッジ周辺の超解像成分を生成し、入力画像を拡大した画像に超解像成分を合成する処理を、まず画像の縦方向(垂直方向)に適用した後に横方向(水平方向)に適用する例を説明する。ここでは、グレイスケール画像を2倍拡大(解像度4倍)する場合を例にとり説明を行う。この方法は入力画像がカラー画像である場合や、2倍以外(1.5倍や3倍など)の拡大率の場合にも適用可能である。
本開示の第1の実施形態では、入力画像(入力画像信号)の高周波成分からエッジ周辺の超解像成分を生成し、入力画像を拡大した画像に超解像成分を合成する処理を、まず画像の縦方向(垂直方向)に適用した後に横方向(水平方向)に適用する例を説明する。ここでは、グレイスケール画像を2倍拡大(解像度4倍)する場合を例にとり説明を行う。この方法は入力画像がカラー画像である場合や、2倍以外(1.5倍や3倍など)の拡大率の場合にも適用可能である。
[撮像装置の全体構成例]
図1は、本開示の第1の実施形態に係る撮像装置の全体構成例を示すブロック図である。
図1に示す撮像装置1は、画像処理装置をデジタルスチルカメラに適用した例であり、少なくとも撮像部2と画像処理部3を備える。
図1は、本開示の第1の実施形態に係る撮像装置の全体構成例を示すブロック図である。
図1に示す撮像装置1は、画像処理装置をデジタルスチルカメラに適用した例であり、少なくとも撮像部2と画像処理部3を備える。
撮像部2は、光学素子を介して入射された像光を電気信号に変換して画像処理部3へ出力する。撮像部2には、例えばCMOS(Complementary Metal Oxide Semiconductor)イメージセンサやCCD(Charge Coupled Devices)イメージセンサを用いることができる。
画像処理部3は、入力された任意の画像の解像度を高めてより高い解像度を持つ超解像の画像(以下、超解像画像と称す)を生成する。画像処理部3は、垂直超解像処理部10と水平超解像処理部20を備える。画像処理部3では、入力画像に対してまず垂直超解像処理部10による垂直方向の超解像処理を施し、その結果に対して水平超解像処理部20による水平方向の超解像処理を施し、最終的な超解像画像を得る。
画像処理部3から出力された超解像拡大画像の画像信号は、図示しない表示装置に適した信号フォーマットに変換されて該表示装置へ出力される。あるいは、超解像拡大画像の画像信号に圧縮処理がなされて記録媒体に記録される。
[画像処理部内(超解像処理部)の構成例]
以下、画像処理部3内の垂直超解像処理部10及び水平超解像処理部20の内部構成例について説明する。
以下、画像処理部3内の垂直超解像処理部10及び水平超解像処理部20の内部構成例について説明する。
図2は、画像処理部3内の垂直超解像処理部10の内部構成例を示すブロック図である。
垂直超解像処理部10は、垂直ハイパスフィルタ(以下、垂直HPFと称す)11と、垂直スケーラ12と、エッジ判定部13と、座標変換部14と、高周波補間部15と、垂直スケーラ16と、合成部17とを備えている。
垂直超解像処理部10は、垂直ハイパスフィルタ(以下、垂直HPFと称す)11と、垂直スケーラ12と、エッジ判定部13と、座標変換部14と、高周波補間部15と、垂直スケーラ16と、合成部17とを備えている。
図3は、画像処理部3内の水平超解像処理部20の内部構成例を示すブロック図である。
水平超解像処理部20は、水平ハイパスフィルタ(以下、水平HPFと称す)21と、水平スケーラ22と、エッジ判定部23と、座標変換部24と、高周波補間部25と、水平スケーラ26と、合成部27とを備えている。これらの処理ブロックは、垂直超解像処理部10内の対応する処理ブロックと同様の機能を有する。水平超解像処理部20は、垂直超解像処理部10で行う処理を画像の水平方向で繰り返すだけであるので、垂直超解像処理部10について詳細に説明し、水平超解像処理部20については詳細な説明は割愛する。
水平超解像処理部20は、水平ハイパスフィルタ(以下、水平HPFと称す)21と、水平スケーラ22と、エッジ判定部23と、座標変換部24と、高周波補間部25と、水平スケーラ26と、合成部27とを備えている。これらの処理ブロックは、垂直超解像処理部10内の対応する処理ブロックと同様の機能を有する。水平超解像処理部20は、垂直超解像処理部10で行う処理を画像の水平方向で繰り返すだけであるので、垂直超解像処理部10について詳細に説明し、水平超解像処理部20については詳細な説明は割愛する。
以下、垂直超解像処理部10内の各処理ブロックについて説明する。
垂直HPF11は、本発明のハイパスフィルタの一例であり、所定の周波数以上の周波数帯域で信号を通過させる。この例では、垂直HPF11は、入力された画像(画像信号)の垂直方向の画素に適用され、画像の垂直方向における高周波成分、すなわち注目画素の画素値とその下(又は上)の隣接画素の画素値が大きく変化している箇所を抽出する。以下、HPFから出力される入力画像の高周波成分を高周波画像ということがある。
垂直HPF11は、本発明のハイパスフィルタの一例であり、所定の周波数以上の周波数帯域で信号を通過させる。この例では、垂直HPF11は、入力された画像(画像信号)の垂直方向の画素に適用され、画像の垂直方向における高周波成分、すなわち注目画素の画素値とその下(又は上)の隣接画素の画素値が大きく変化している箇所を抽出する。以下、HPFから出力される入力画像の高周波成分を高周波画像ということがある。
垂直スケーラ12は、本発明の第2の拡大処理部の一例であり、垂直HPF11の後段に配置され、垂直HPF11から出力された高周波画像を垂直方向に所定の倍率で拡大するスケーリング処理を行う。このスケーリング処理により、画像の垂直方向の解像度が目的(この例では2倍)の解像度に変換される。以下、垂直スケーラ12で拡大された高周波画像を拡大高周波画像ともいう。
図4は、垂直HPF11を通過後の高周波画像の画素位置と垂直スケーラ12を通過後の拡大高周波画像の画素位置の関係を示す概略図である。
垂直スケーラ12は、入力画像の画素31(黒丸)に基づいてその上下に2つの画素32−1,32−2(白丸)を設定する。すなわち、垂直スケーラ12により、画像の垂直方向の画素数が2倍に変換される。なお、上述したとおり、垂直スケーラ12は、設定に応じて2倍以外の拡大率の場合にも適用可能である。
垂直スケーラ12は、入力画像の画素31(黒丸)に基づいてその上下に2つの画素32−1,32−2(白丸)を設定する。すなわち、垂直スケーラ12により、画像の垂直方向の画素数が2倍に変換される。なお、上述したとおり、垂直スケーラ12は、設定に応じて2倍以外の拡大率の場合にも適用可能である。
なお、図5は、水平HPF21通過後の高周波画像の画素位置と水平スケーラ22通過後の拡大高周波画像の画素位置の関係を示す概略図である。
水平スケーラ22は、入力画像の画素31(黒丸)に基づいてその左右に2つの画素33−1,33−2(白丸)を設定する。すなわち、水平スケーラ22により、画像の水平方向の画素数が2倍に変換される。なお、上述したとおり、水平スケーラ22は、垂直スケーラ12と同様に2倍以外の拡大率の場合にも適用可能である。
水平スケーラ22は、入力画像の画素31(黒丸)に基づいてその左右に2つの画素33−1,33−2(白丸)を設定する。すなわち、水平スケーラ22により、画像の水平方向の画素数が2倍に変換される。なお、上述したとおり、水平スケーラ22は、垂直スケーラ12と同様に2倍以外の拡大率の場合にも適用可能である。
図2の説明に戻る。エッジ判定部13は、垂直スケーラ12の後段に配置され、入力される画像に対し画素ごとにエッジの有無を判定する。ここでは、垂直スケーラ12でスケーリング処理された拡大高周波画像における注目画素とその隣接画素との間にエッジが存在するか否かを判定し、エッジが存在するのであればエッジ位置の推定を行う。エッジ判定部13は、注目画素と隣接画素の画素値が同じ符号の場合はエッジが存在しないと判定し、異なる符号の場合にはエッジが存在すると判定する。
以下、図6及び図7を参照してエッジの有無の判定方法及びエッジ位置の推定方法を説明する。図6は、エッジがない場合の2画素の画素値の関係を示す説明図である。図7は、エッジがある場合の2画素の画素値の関係を示す説明図である。
図6に示すように、ある画素41での画素値がa(a>0)、隣接する画素42での画素値がb(b>0)の場合、エッジ判定部13は、画素41と画素42の画素値は同じ符号のためこれらの画素の間にはエッジがないと判定する。
また、図7に示すように、ある画素43での画素値が−a(a>0)、隣接する画素44での画素値がb(b>0)の場合、エッジ判定部13は、画素43と画素44の画素値は符号が異なるので、これらの画素の間にエッジがあると判定する。画素43の画素値の符号が+、画素44の画素値の符号が−の場合も同様にエッジがあると判定される。
エッジ判定部13は、エッジがあると判定した場合、エッジ位置の推定を行う。図7において、画素43と画素44を直線でつないだときに、その直線と画素値0を示す線分との交点をエッジ位置45と推定する。画素間の距離が1だとすると、図7における画素43(注目画素)からエッジ位置45までの距離cは、以下の式で求められる。
c=a/(a+b)
c=a/(a+b)
なお、エッジ位置の推定処理は画素間の補間問題に他ならず、上記の方法(バイリニア補間)以外の方法、例えばバイキュービック補間、スプライン補間などにより実現してもよい。
図2の説明に戻る。座標変換部14は、エッジ判定部13によってエッジがあると判定された場合、エッジ判定部13で推定したエッジ位置に対応する、拡大画像におけるエッジ位置を求める。すなわち、拡大前の高周波画像におけるエッジ周辺部の画素の座標を、推定されたエッジ位置を基準にして変換する処理を行う。ここでは、拡大前の高周波画像のエッジ位置と拡大後の高周波画像のエッジ位置を重ねた状態で、拡大前の高周波画像の画素を、拡大後の高周波画像の画素位置に合わせて変換する処理を行う。
以下、座標変換部14による座標変換処理について図8を用いて説明する。
黒丸で表した拡大前の高周波画像の画素位置51−1と画素位置51−2との距離を2、白丸で表した拡大後の高周波画像の画素位置52−1と画素位置52−2との距離を1とする。グレー丸で表した画素位置53−1,53−2は、拡大前の高周波画像の画素間距離(=2)が拡大後の高周波画像の画素間距離(=1)と同じになるように、エッジ位置54を中心に拡大前の高周波画像の画素位置51−1,51−2の間隔を縮めたものである。
黒丸で表した拡大前の高周波画像の画素位置51−1と画素位置51−2との距離を2、白丸で表した拡大後の高周波画像の画素位置52−1と画素位置52−2との距離を1とする。グレー丸で表した画素位置53−1,53−2は、拡大前の高周波画像の画素間距離(=2)が拡大後の高周波画像の画素間距離(=1)と同じになるように、エッジ位置54を中心に拡大前の高周波画像の画素位置51−1,51−2の間隔を縮めたものである。
ここで、拡大後の高周波画像の画素間距離を1とし、拡大後の高周波画像の画素位置52−1から距離cの位置にエッジがあると推定された場合を想定する。この場合、拡大前の高周波画像の画素位置51−1(51−2)と拡大後の高周波画像の画素位置52−1(52−2)との距離が0.50であることを利用して、座標変換後の画素位置53−1(53−2)と拡大後の高周波画像の画素位置52−1(52−2)との距離dは、以下の式で求められる。ただし、eはエッジ位置54から拡大前の高周波画像の画素位置51−1までの距離である。
e=c+0.50
d=e−(e/2)−c
=0.25−(c/2)
e=c+0.50
d=e−(e/2)−c
=0.25−(c/2)
以降の説明において、拡大前の高周波画像の画素位置51−1,51−2を特に区別しない場合、画素位置51と総称する。また、拡大後の高周波画像の画素位置52−1,52−2を特に区別しない場合、画素位置52と総称する。さらに、座標変換後の画素位置53−1,53−2を特に区別しない場合、画素位置53と総称する。
高周波補間部15は、エッジ判定部13によってエッジがあると判定された場合、垂直HPF11から出力される高周波画像を利用して、入力画像を拡大した画像(拡大画像)の画素位置における高周波成分の補間処理を行う。ここでは、エッジ判定部13で計算された拡大前の高周波画像の座標変換後の画素と拡大後の高周波画像の画素との位置関係を用いて、拡大後の画像の画素位置における画素値が拡大前の高周波画像の画素値に基づいて補間される。この補間処理の結果を拡大画像の画素の超解像成分とする。この補間処理は、エッジ周辺部すなわちエッジ位置の上下Nピクセルにおいて行われる(Nは任意の自然数)。この結果がエッジ周辺における超解像画像となる。このとき、例えば推定したエッジ位置から拡大画像の画素までの距離に応じて求められた超解像成分に重みをかけてもよい。なお、エッジがないと判定された場合、高周波補間部15は、その画素の超解像成分を0とする。
垂直スケーラ16は、本発明の第1の拡大処理部の一例であり、エッジ抽出の目的とは別に、入力された画像を垂直方向に目的の倍率で拡大するスケーリング処理を行う。以下、垂直スケーラ16で拡大された画像を拡大画像ともいう。垂直スケーラ16により、画像の垂直方向の画素数が2倍に変換される。なお、上述したとおり、設定に応じて2倍以外の拡大率の場合にも適用可能である。この拡大には従来の拡大処理を用いて行ってもよいし、本開示以外の超解像処理を用いて行ってもよい。
合成部17は、高周波補間部15で生成された超解像画像と、垂直スケーラ16で生成された拡大画像を足し合わせる。このときに超解像画像の各画素値に任意のゲインをかけたものを用いたり、フィルタ処理を行ったものを用いたりしてもよい。
図9は、垂直超解像処理部10の各部における信号の波形を示す図である。
P1は垂直超解像処理部10に入力される画像の信号の波形例、P2は垂直HPF11から出力される信号の波形例、P3は垂直スケーラ12から出力される信号の波形例である。また、P4は高周波補間部15から出力される信号の波形例、そしてP5は垂直スケーラ16から出力される拡大画像の信号の波形例である。各波形上の白丸は画素を表している。
P1は垂直超解像処理部10に入力される画像の信号の波形例、P2は垂直HPF11から出力される信号の波形例、P3は垂直スケーラ12から出力される信号の波形例である。また、P4は高周波補間部15から出力される信号の波形例、そしてP5は垂直スケーラ16から出力される拡大画像の信号の波形例である。各波形上の白丸は画素を表している。
信号P2は、垂直HPF11において信号P1から高周波成分として取り出された信号である。
信号P3は、垂直スケーラ12において信号P2から生成されたものであり、信号P2の2倍にあたる画素数の情報が含まれる。この信号P3からエッジ判定部13において入力画像のエッジ位置E1が推定される。
エッジ位置E1を中心に信号P2を(2倍拡大の場合)1/2に圧縮した信号をP2’としたとき、座標変換部14において信号P3の画素位置と信号P2’の画素位置の距離D1が計算される。
この距離D1に基づいて、信号P3の画素位置における信号P2’の画素値が補間により求められ信号P4が生成される。
最後に、合成部17において入力画像の高周波成分の信号P4と拡大画像の信号P5が合成される。
信号P3は、垂直スケーラ12において信号P2から生成されたものであり、信号P2の2倍にあたる画素数の情報が含まれる。この信号P3からエッジ判定部13において入力画像のエッジ位置E1が推定される。
エッジ位置E1を中心に信号P2を(2倍拡大の場合)1/2に圧縮した信号をP2’としたとき、座標変換部14において信号P3の画素位置と信号P2’の画素位置の距離D1が計算される。
この距離D1に基づいて、信号P3の画素位置における信号P2’の画素値が補間により求められ信号P4が生成される。
最後に、合成部17において入力画像の高周波成分の信号P4と拡大画像の信号P5が合成される。
[超解像処理部の動作例]
次に、画像処理部3内の超解像処理部の動作を説明する。ここでは、垂直超解像処理部10の動作を例に説明する。
次に、画像処理部3内の超解像処理部の動作を説明する。ここでは、垂直超解像処理部10の動作を例に説明する。
図10は、垂直超解像処理部10による垂直方向の超解像処理例を示すフローチャートである。図11は、図10に示す超解像処理の説明に用いる図である。図11の例では、垂直方向の画素密度を2倍にして表現することにより、画像の垂直方向の2倍拡大を表現している。
超解像処理が開始されると、まず画像処理部3の垂直超解像処理部10に入力された画像に対して、垂直HPF11が入力画像の垂直方向についてハイパスフィルタ処理を行い、高周波画像を出力する(ステップS1)。入力画像は、例えば図11に示すような等間隔の画素位置51に配置された画素で構成される画像55に相当する。
次に、垂直スケーラ12において、垂直HPF11から出力された高周波成分(高周波画像)を垂直方向に拡大するスケーリング処理を行い(図4参照)、拡大高周波画像を生成する(ステップS2)。拡大高周波画像は、例えば図11に示すような画像55の垂直方向が2倍に拡大された、画素位置52に配置された画素で構成される画像56に相当する。
そして、エッジ判定部13において、垂直スケーラ12から出力された拡大高周波画像の画素ごとにエッジの有無の判定とエッジ位置の推定を行う(ステップS3)。ここで、エッジがある場合(図7参照)はステップS4に進み、エッジがない場合(図6参照)はステップS6に進む。
ステップS3の判定処理においてエッジがあると判定された場合、座標変換部14は、エッジ判定部13で推定されたエッジ位置を基準にして、拡大前の高周波画像におけるエッジ周辺部の画素の座標を変換する処理を行う(図8参照)(ステップS4)。エッジ周辺部は、例えば図11に示すような拡大前の画像55の画素位置51の座標変換後の画素位置53に配置された画素で構成されるエッジ周辺部57に相当する。
続いて、高周波補間部15において、座標変換部14から出力された座標変換結果に基づき、垂直HPF11から出力された高周波画像の画素値を用いて、垂直スケーラ16から出力される拡大画像の画素位置における高周波成分の補間処理を行う(ステップS5)。
ステップS3の判定処理においてエッジがないと判定された場合、座標変換処理及び高周波補間処理を行わず、拡大画像の該当する画素位置における超解像成分をゼロとする(ステップS6)。
上記ステップS5又はステップS6の処理を行う一方、垂直スケーラ16において、入力画像を垂直方向に拡大するスケーリング処理を行い、拡大画像を生成する(ステップS7)。
そして、合成部17において、高周波補間部15で生成された超解像成分と、垂直スケーラ16で生成された拡大画像を合成する処理が行われる(ステップS8)。超解像成分と拡大画像が合成された超解像拡大画像は、例えば図11に示すようなエッジ周辺部57の画素位置53の画素の画素値によって、エッジ周辺部57の画素位置52´の画素値で補正された画素で構成される画像58に相当する。
拡大画像の全画素について合成処理が完了したら超解像処理を終了し、拡大画像の全画素の合成処理が完了していない場合は他の画素の合成処理を継続する。合成部17は、高周波補間部15で生成された超解像成分と、垂直スケーラ16で生成された拡大画像を合成した垂直超解像画像を、水平超解像処理部20に出力する。
水平超解像処理部20に入力された垂直超解像画像は、水平超解像処理部20において水平超解像処理が施され、垂直方向及び水平方向ともに超解像拡大された超解像画像が出力される。
以上のように構成される第1の実施形態によれば、従来の超解像技術と同様に画像の高周波成分を使いながらも、エッジ位置の推定に一般的なフィルタ演算や座標計算を組み合わせて演算処理量を増大しない方法を採用している。そのため、本実施形態は、従来手法に比べてデータ処理量が少なく、低コストのハードウェアで画像の超解像拡大を実現できる。また、データ処理量が抑えられるので、ハードウェアの消費電力を抑えられる。
さらに、本実施形態は、事前学習等を必要としないため開発の手間及びコストを低減することができる。
さらに、本実施形態は、事前学習等を必要としないため開発の手間及びコストを低減することができる。
なお、本例では、垂直超解像処理部10で入力画像の垂直方向に超解像処理を行った後に、水平超解像処理部20で入力画像の水平方向に超解像処理を行ったが、水平超解像処理を行ってから垂直超解像処理を行った場合にも同様の効果を得られる。
<2.第2の実施形態>
以下、本開示の第2の実施形態を説明する。第2の実施形態においても、入力画像(入力画像信号)の高周波成分からエッジ周辺の超解像成分を生成し、入力画像を拡大した画像に超解像成分を合成する。ただし、第2の実施形態では、第1の実施形態と違い2次元画像を2次元のまま処理する方法をとる。なお、説明は第1の実施形態と同様に、グレイスケール画像を2倍拡大(解像度4倍)する場合を例にとり行うが、2倍以外の拡大率の場合にも適用可能である。
以下、本開示の第2の実施形態を説明する。第2の実施形態においても、入力画像(入力画像信号)の高周波成分からエッジ周辺の超解像成分を生成し、入力画像を拡大した画像に超解像成分を合成する。ただし、第2の実施形態では、第1の実施形態と違い2次元画像を2次元のまま処理する方法をとる。なお、説明は第1の実施形態と同様に、グレイスケール画像を2倍拡大(解像度4倍)する場合を例にとり行うが、2倍以外の拡大率の場合にも適用可能である。
[画像処理装置内の構成例]
図12は、本開示の第2の実施形態に係る画像処理部の内部構成例を示すブロック図である。
図12に示す画像処理部3Aは、ハイパスフィルタ(以下、HPFと称す)61と、エッジ判定部62と、座標変換部63と、入力画像補間部64と、スケーラ65と、合成部66とを備えている。画像処理部3Aは、撮像装置1(図1)の画像処理部3と類似の機能を備え、入力された画像の垂直方向及び水平方向の超解像処理を行う。ただし、画像処理部3Aは、画像処理部3と比較してHPF処理後のスケーラによる画像の拡大機能がない。
図12は、本開示の第2の実施形態に係る画像処理部の内部構成例を示すブロック図である。
図12に示す画像処理部3Aは、ハイパスフィルタ(以下、HPFと称す)61と、エッジ判定部62と、座標変換部63と、入力画像補間部64と、スケーラ65と、合成部66とを備えている。画像処理部3Aは、撮像装置1(図1)の画像処理部3と類似の機能を備え、入力された画像の垂直方向及び水平方向の超解像処理を行う。ただし、画像処理部3Aは、画像処理部3と比較してHPF処理後のスケーラによる画像の拡大機能がない。
HPF61は、本発明のハイパスフィルタの一例であり、垂直HPF11及び水平HPF21と同様に、所定の周波数以上の周波数帯域で信号を通過させる。ここでは、HPF61は、入力された画像(画像信号)の垂直方向及び水平方向における高周波成分、すなわち注目画素の画素値とその垂直方向及び水平方向の隣接画素の画素値が大きく変化している箇所を抽出する。
エッジ判定部62は、HPF61の後段に配置され、エッジ判定部13と同様、入力される画像に対し画素ごとにエッジの有無を判定する。エッジ判定部62は、HPF61から出力された高周波画像における注目画素とその垂直方向及び水平方向の隣接画素との間にエッジが存在するか否かを判定し、エッジが存在するのであればエッジ位置の推定を行う。ここではエッジ判定部62は、ある注目画素とその右・下・右下の4画素に着目し、注目画素とそれらの画素間にエッジがあるか否かの判断を行う。
以下、図13〜図16を参照してエッジの有無の判定方法及びエッジ位置の推定方法を説明する。
図13は、拡大前の画像の画素位置と拡大後の画像の画素位置との関係を示す概略図である。ここでは、入力画像を垂直方向及び水平方向に2倍拡大した例である。
拡大前の画像の画素71(黒丸)に対し、各方向で2倍拡大後はその周囲(右上、右下、左下、左上)に4つの画素72(白丸)が設定される。
拡大前の画像の画素71(黒丸)に対し、各方向で2倍拡大後はその周囲(右上、右下、左下、左上)に4つの画素72(白丸)が設定される。
HPF61から出力される高周波画像の4点の画素の画素値の符号に変化がある場合にエッジがあると判定し、4点すべての画素値の符号が同じ場合はエッジがないと判定する。まず、4点の画素位置を結ぶ各辺において第1の実施形態と同様の方法(図6,図7)を用いて、画素値の符号が変化する位置を求める。本実施形態の場合、2次元画像に対して超解像処理をしているのでエッジ位置は2次元の座標で表される。エッジがある場合は、次の3通りに分類できる。
図14は、隣接する2辺で画素値の符号の変化がある場合の説明図である。
この例は、4つの画素71−1〜71−4を結ぶ4辺のうち、画素71−1と画素71−2を結ぶ辺と、画素71−1と画素71−4を結ぶ辺において、画素値の符号が変化している。
図15は、向かい合った2辺で画素値の符号の変化がある場合の説明図である。
この例は、4つの画素71−1〜71−4を結ぶ4辺のうち、画素71−1と画素71−2を結ぶ辺と、画素71−3と画素71−4を結ぶ辺において、画素値の符号が変化している。
図16は、4辺すべての辺で画素値の符号の変化がある場合の説明図である。
この例は、4つの画素71−1〜71−4を結ぶ4辺のうち、すべての辺において、画素値の符号が変化している。
この例は、4つの画素71−1〜71−4を結ぶ4辺のうち、画素71−1と画素71−2を結ぶ辺と、画素71−1と画素71−4を結ぶ辺において、画素値の符号が変化している。
図15は、向かい合った2辺で画素値の符号の変化がある場合の説明図である。
この例は、4つの画素71−1〜71−4を結ぶ4辺のうち、画素71−1と画素71−2を結ぶ辺と、画素71−3と画素71−4を結ぶ辺において、画素値の符号が変化している。
図16は、4辺すべての辺で画素値の符号の変化がある場合の説明図である。
この例は、4つの画素71−1〜71−4を結ぶ4辺のうち、すべての辺において、画素値の符号が変化している。
このうち、2辺で画素値に符号の変化がある場合(図14、図15)は、それぞれの辺で求めた2つのエッジ位置の座標(図中▲)を平均したものを最終的なエッジ位置73,74の座標(図中◆)とする。
また、4辺すべての辺で画素値に符号の変化がある場合(図16)は、すべての辺で求めた4つのエッジ位置の座標(図中▲)を平均したものを最終的なエッジ位置75の座標(図中◆)とする。
また、4辺すべての辺で画素値に符号の変化がある場合(図16)は、すべての辺で求めた4つのエッジ位置の座標(図中▲)を平均したものを最終的なエッジ位置75の座標(図中◆)とする。
なお、本実施形態においても、エッジ位置の推定処理は画素間の補間問題に他ならず、上記の方法(バイリニア補間)以外の方法、例えばバイキュービック補間、スプライン補間などにより実現してもよい。
図12の説明に戻る。座標変換部63は、エッジ判定部62によってエッジがあると判定された場合、画素の座標変換処理を行う。座標変換処理は、画像の水平方向及び垂直方向のそれぞれの画素の座標について、第1の実施形態と同様の方法(図8)により行われる。すなわち、拡大前の画像の画素間距離が拡大後の画像の画素間距離と同じになるように、エッジ位置を中心に拡大前の画像の画素位置の間隔を縮め、その座標を求める。その結果を利用して、拡大前の画像の座標変換後の画素と拡大後の画像の画素との距離を求める。
入力画像補間部64は、本発明の補間部の一例であり、エッジ判定部62によってエッジがあると判定された場合、入力画像に対し補間処理を施し超解像画像を生成する。ここでは、エッジ判定部62で計算された拡大前の画像の座標変換後の画素と拡大後の画像の画素との位置関係を用いて、拡大後の画像の画素位置における画素値が拡大前の画像の画素値に基づいて補間される。この補間処理は、エッジ周辺部すなわちエッジ位置の上下Nピクセル及び左右Mピクセルにおいて行われる(N,Mは任意の自然数)。この結果がエッジ周辺における超解像画像となる。なお、エッジがないと判定された場合、入力画像補間部64は、後述するスケーラ65で求められた拡大画像の画素値を超解像画像として採用する。
スケーラ65は、本発明の第1の拡大処理部の一例であり、エッジ抽出の目的とは別に、入力された画像を垂直方向及び水平方向に目的の倍率で拡大するスケーリング処理を行う。ここでは、入力画像を垂直方向及び水平方向に2倍に拡大して画素数を4倍に変換する。なお、上述したとおり、設定に応じて2倍以外の拡大率の場合にも適用可能である。この拡大には従来の拡大処理を用いて行ってもよいし、本開示以外の超解像処理を用いて行ってもよい。
合成部66は、入力画像補間部64で生成された超解像画像と、垂直スケーラ16で生成された拡大画像を合成する。このときにエッジ周辺では超解像画像と拡大画像のブレンドを行うことになるが、HPF61で求められた入力画像の高周波成分の画素の画素値(高周波成分量)に応じて超解像画像(超解像画素値)と拡大画像(拡大画素値)のブレンド比率を変更する。このようにすることで、拡大画像と超解像画像を合成したときに、そのつなぎ目を滑らかにつなぐことができる。例えば、合成処理後の合成画素値を以下のように計算する。
合成画素値=α×超解像画素値+(1−α)×拡大画素値
ただし、α=|高周波成分量|/|最大高周波成分量|
最大高周波成分量は、拡大画像のエッジ周辺部に含まれる画素の画素値のうち最大値
ただし、α=|高周波成分量|/|最大高周波成分量|
最大高周波成分量は、拡大画像のエッジ周辺部に含まれる画素の画素値のうち最大値
ブレンド方法は、上記のように高周波成分の定義域全域を使わないで定義域の一部だけを使い、その範囲外ではブレンド比率を決める係数αを1もしくは0に設定してもよい。すなわち、最大高周波成分量に対する高周波成分量の大きさに基づいてαを決定するのではなく、高周波成分量がある設定値以上ならば係数αを1にし、高周波成分量がある設定値未満ならば係数αをゼロにする。
また、ブレンド比率を高周波成分量に対して非線形に変化させるなど様々な方法が考えられる。例えば高周波成分量が大きい画素により重みをかけたりするなど、上記の計算式に限られない。
また、ブレンド比率を高周波成分量に対して非線形に変化させるなど様々な方法が考えられる。例えば高周波成分量が大きい画素により重みをかけたりするなど、上記の計算式に限られない。
[画像処理部の動作例]
次に、図17のフローチャートを参照して画像処理部3Aの超解像処理例を説明する。
超解像処理が開始されると、まずスケーラ65において、画像処理部3Aに入力された画像を垂直方向及び水平方向に拡大するスケーリング処理を行い、拡大画像を生成する(ステップS11)。このときに拡大前の画像の画素位置と拡大後の画像の画素位置との関係は、図13に示される。この拡大画像は、最後に超解像画像と合成するときに用いられる。
次に、図17のフローチャートを参照して画像処理部3Aの超解像処理例を説明する。
超解像処理が開始されると、まずスケーラ65において、画像処理部3Aに入力された画像を垂直方向及び水平方向に拡大するスケーリング処理を行い、拡大画像を生成する(ステップS11)。このときに拡大前の画像の画素位置と拡大後の画像の画素位置との関係は、図13に示される。この拡大画像は、最後に超解像画像と合成するときに用いられる。
次に、HPF61において、入力画像についてハイパスフィルタ処理を行い、高周波画像を出力する(ステップS12)。
そして、エッジ判定部62において、HPF61から出力された高周波画像の画素ごとにエッジの有無の判定とエッジ位置の推定を行う(ステップS13)。ここで、エッジがある場合(図14〜図16参照)はステップS14に進み、エッジがない場合はステップS16に進む。
ステップS13の判定処理においてエッジがあると判定された場合、座標変換部63は、エッジ判定部62で推定されたエッジ位置を基準にして、拡大前の入力画像におけるエッジ周辺部の画素の座標を変換する処理を行う(ステップS14)。
続いて、入力画像補間部64において、座標変換部63から出力された座標変換結果に基づき、入力画像の画素値を用いて、スケーラ65から出力される拡大画像の画素位置における画素値の補間処理を行う(ステップS15)。
ステップS13の判定処理においてエッジがないと判定された場合、座標変換処理及び入力画像補間処理を行わず、スケーラ65で求められた拡大画像の画素値を超解像画像の画素値として採用する。
(ステップS16)。
(ステップS16)。
上記ステップS15又はステップS16の処理が終了後、高周波補間処理が行われる(ステップS17)。
そして、合成部66において、入力画像補間部64で生成された超解像成分と、スケーラ65で生成された拡大画像を合成する処理が行われる(ステップS18)。
拡大画像の全画素について合成処理が完了したら超解像処理を終了し、拡大画像の全画素の合成処理が完了していない場合は他の画素の合成処理を継続する。
図17の例では、ステップS11においてスケーラ65による入力画像の拡大を行うと説明したが、この入力画像の拡大処理は超解像画像との合成処理が行われるステップS18の前に行えばよい。
以上のように構成される第2の実施形態では、第1の実施形態と異なり、入力画像補間部64において高周波成分以外の成分も含んだ超解像画像を生成し、これを合成画像と合成して超解像拡大画像を生成している。
この第2の実施形態においても、第1の実施形態と同様に、一般的なフィルタ演算や座標計算を組み合わせることにより画像の超解像拡大を実現できる。そのため、本実施形態は、従来手法に比べてデータ処理量が少なく、低コストのハードウェアで画像の超解像拡大を実現できる。また、データ処理量が抑えられるので、ハードウェアの消費電力を抑えられる。
さらに、本実施形態は、事前学習等を必要としないため開発の手間及びコストを低減することができる。
この第2の実施形態においても、第1の実施形態と同様に、一般的なフィルタ演算や座標計算を組み合わせることにより画像の超解像拡大を実現できる。そのため、本実施形態は、従来手法に比べてデータ処理量が少なく、低コストのハードウェアで画像の超解像拡大を実現できる。また、データ処理量が抑えられるので、ハードウェアの消費電力を抑えられる。
さらに、本実施形態は、事前学習等を必要としないため開発の手間及びコストを低減することができる。
また、本実施形態では、第1の実施形態の構成と比較してHPF処理後のスケーラによる画像の拡大機能を有していないので、より簡素な構成で同様の効果が得られている。
なお、上記の第2の実施形態では、エッジ抽出を目的とするスケーラ(例えば、垂直スケーラ12)を設けていないが、エッジ抽出を目的とするスケーラをもうけてもよい。この場合、エッジ位置をより正確に求めることができる。
<3.その他>
上述した第1の実施形態は、エッジ判定部13は、垂直HPF11により抽出された入力画像の高周波成分を垂直スケーラ12で拡大した画像を用いてエッジ位置を推定する例を説明したがこれに限られない。例えば、垂直スケーラで入力画像を拡大した後にHPFにより抽出した高周波成分を用いてエッジ位置を推定する構成としてもよい。
上述した第1の実施形態は、エッジ判定部13は、垂直HPF11により抽出された入力画像の高周波成分を垂直スケーラ12で拡大した画像を用いてエッジ位置を推定する例を説明したがこれに限られない。例えば、垂直スケーラで入力画像を拡大した後にHPFにより抽出した高周波成分を用いてエッジ位置を推定する構成としてもよい。
また、上述した各実施の形態において、撮像部2と画像処理部3との間に欠陥補正等を行う補正処理手段を設け、補正処理を施した画像データを画像処理部3に入力するようにしてもよい。あるいは、スケーラで入力画像を拡大する時に、同時にボケ補正を行うようにしてもよい。このようにHPFでハイパスフィルタ処理を行う前に画質向上の処理を行うことにより、より正確にエッジの有無の判定及び位置の推定を行うことができる。
上述した各実施の形態において、入力画像もしくは入力画像の高周波成分を最終的に生成するサイズより小さいが、入力画像よりも大きいサイズに拡大してから超解像成分の生成を行ってもよい。例えば、第1の実施形態では垂直スケーラ12,16ともに拡大率を2倍としたが、垂直スケーラ12の拡大率を2倍未満とする。
このように、超解像として拡大する部分の倍率は小さ目にしておいて、目的の倍率までの残りの倍率は従来の拡大手法で行うようにしてもよい。例えば、入力画像を4倍拡大するのに、超解像で2倍に拡大し、従来の拡大手法で2倍に拡大する。これにより、入力画像を拡大する倍率が大きすぎる場合に不自然な画像になることなく、自然な超解像拡大画像が得られる。
このように、超解像として拡大する部分の倍率は小さ目にしておいて、目的の倍率までの残りの倍率は従来の拡大手法で行うようにしてもよい。例えば、入力画像を4倍拡大するのに、超解像で2倍に拡大し、従来の拡大手法で2倍に拡大する。これにより、入力画像を拡大する倍率が大きすぎる場合に不自然な画像になることなく、自然な超解像拡大画像が得られる。
また、入力画像から生成した超解像成分にフィルタをかけてから拡大画像との合成を行うようにしてもよい。例えば、超解像で4倍拡大までの成分(超解像成分)を生成して、その成分から2倍までの成分を抜き出すようなフィルタをかける構成としてもよい。
また、入力画像の画素ごとのエッジらしさに応じて拡大倍率やフィルタ成分を適応的に変更してもよい。すなわち、入力画像から部分的に超解像で拡大する分量を、エッジらしさを基に適応的に変更してもよい。
エッジらしさは、例えば高周波成分がゼロをまたぐ(つまりエッジがある)ときに、ゼロをまたぐ前後の信号の値の差分が大きい場合によりエッジらしいとするなどで求められる。求めたエッジらしさから、例えばよりエッジらしい部分ではより大きな倍率で超解像を行い、そうでない部分はより小さな倍率で超解像を行う。
エッジらしさは、例えば高周波成分がゼロをまたぐ(つまりエッジがある)ときに、ゼロをまたぐ前後の信号の値の差分が大きい場合によりエッジらしいとするなどで求められる。求めたエッジらしさから、例えばよりエッジらしい部分ではより大きな倍率で超解像を行い、そうでない部分はより小さな倍率で超解像を行う。
また、第2の実施形態では、最大高周波成分量に対する高周波成分量の大きさに基づいてブレンド比率を決める係数αを決定するようにしたが、この方法を第1の実施形態に応用することができる。例えば、第1の実施形態に応用した場合、拡大画像と超解像成分を合成した後の合成画素値を以下のように計算する。
合成画素値=α×超解像画素値+拡大画素値
このような計算式としたのは、第2の実施形態で入力画像補間部64から出力され拡大画像と合成される超解像画像には高周波成分以外の周波数成分も含まれるからである。第1の実施形態で高周波補間部15から出力される超解像画像には高周波成分のみが含まれる。
合成画素値=α×超解像画素値+拡大画素値
このような計算式としたのは、第2の実施形態で入力画像補間部64から出力され拡大画像と合成される超解像画像には高周波成分以外の周波数成分も含まれるからである。第1の実施形態で高周波補間部15から出力される超解像画像には高周波成分のみが含まれる。
また、第2の実施形態では2次元画像を2次元のまま超解像処理したが、第1の実施形態と同じように、入力画像の垂直方向及び水平方向の一方の超解像処理を行った後に他方の超解像処理を行うことは可能である。
なお、本開示は以下のような構成も取ることができる。
(1)
入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の高周波成分の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の高周波成分の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、
を有する画像処理装置。
(2)
前記エッジ判定部は、前記ハイパスフィルタで抽出された前記入力画像の高周波成分に含まれる相互に隣接する画素の画素値の符号が相違する箇所からエッジ位置を求める
前記(1)に記載の画像処理装置。
(3)
画像を所定の拡大率で拡大する第2の拡大処理部、を更に備え、
前記エッジ判定部は、前記ハイパスフィルタにより抽出された前記画像の高周波成分を前記第2の拡大処理部で拡大した画像を用いてエッジ位置を推定する、もしくは、前記第2の拡大処理部で前記入力画像を拡大した後に前記ハイパスフィルタにより抽出した高周波成分を用いてエッジ位置を推定する
前記(1)又は(2)に記載の画像処理装置。
(4)
撮像部と、
前記撮像部から供給された入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置を重ねたときの、前記入力画像の高周波成分の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の高周波成分の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、を備える画像処理部
を有する撮像装置。
(5)
入力画像の高周波成分を抽出することと、
前記抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定することと、
推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求めることと、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の高周波成分の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求めることと、
前記エッジ周辺の高周波成分の補間された画素値と前記拡大画像の画素の画素値を合成すること、
を含む画像処理方法。
(6)
入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、
を有する画像処理装置。
(7)
前記エッジ判定部は、前記ハイパスフィルタで抽出された前記入力画像の高周波成分に含まれる相互に隣接する画素の画素値の符号が相違する箇所からエッジ位置を求める
前記(6)に記載の画像処理装置。
(8)
画像を所定の拡大率で拡大する第2の拡大処理部、を更に備え、
前記エッジ判定部は、前記ハイパスフィルタにより抽出された前記画像の高周波成分を前記第2の拡大処理部で拡大した画像を用いてエッジ位置を推定する、もしくは、前記第2の拡大処理部で前記入力画像を拡大した後に前記ハイパスフィルタにより抽出した高周波成分を用いてエッジ位置を推定する
前記(6)又は(7)に記載の画像処理装置。
(9)
撮像部と、
前記撮像部から供給された入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置を重ねたときの、前記入力画像の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、を備える画像処理部
を有する撮像装置。
(10)
入力画像の高周波成分を抽出することと、
前記抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定することと、
推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求めることと、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求めることと、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の補間された画素値と前記拡大画像の画素の画素値を合成すること、
を含む画像処理方法。
(1)
入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の高周波成分の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の高周波成分の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、
を有する画像処理装置。
(2)
前記エッジ判定部は、前記ハイパスフィルタで抽出された前記入力画像の高周波成分に含まれる相互に隣接する画素の画素値の符号が相違する箇所からエッジ位置を求める
前記(1)に記載の画像処理装置。
(3)
画像を所定の拡大率で拡大する第2の拡大処理部、を更に備え、
前記エッジ判定部は、前記ハイパスフィルタにより抽出された前記画像の高周波成分を前記第2の拡大処理部で拡大した画像を用いてエッジ位置を推定する、もしくは、前記第2の拡大処理部で前記入力画像を拡大した後に前記ハイパスフィルタにより抽出した高周波成分を用いてエッジ位置を推定する
前記(1)又は(2)に記載の画像処理装置。
(4)
撮像部と、
前記撮像部から供給された入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置を重ねたときの、前記入力画像の高周波成分の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の高周波成分の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、を備える画像処理部
を有する撮像装置。
(5)
入力画像の高周波成分を抽出することと、
前記抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定することと、
推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求めることと、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の高周波成分の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求めることと、
前記エッジ周辺の高周波成分の補間された画素値と前記拡大画像の画素の画素値を合成すること、
を含む画像処理方法。
(6)
入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、
を有する画像処理装置。
(7)
前記エッジ判定部は、前記ハイパスフィルタで抽出された前記入力画像の高周波成分に含まれる相互に隣接する画素の画素値の符号が相違する箇所からエッジ位置を求める
前記(6)に記載の画像処理装置。
(8)
画像を所定の拡大率で拡大する第2の拡大処理部、を更に備え、
前記エッジ判定部は、前記ハイパスフィルタにより抽出された前記画像の高周波成分を前記第2の拡大処理部で拡大した画像を用いてエッジ位置を推定する、もしくは、前記第2の拡大処理部で前記入力画像を拡大した後に前記ハイパスフィルタにより抽出した高周波成分を用いてエッジ位置を推定する
前記(6)又は(7)に記載の画像処理装置。
(9)
撮像部と、
前記撮像部から供給された入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置を重ねたときの、前記入力画像の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、を備える画像処理部
を有する撮像装置。
(10)
入力画像の高周波成分を抽出することと、
前記抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定することと、
推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求めることと、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求めることと、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の補間された画素値と前記拡大画像の画素の画素値を合成すること、
を含む画像処理方法。
さらに、以上において説明したように、撮像装置の例として挙げたデジタルスチルカメラは、静止画像を超解像拡大する画像処理を行う。このような画像処理を行うブロックを実装する装置として、デジタルスチルカメラだけでなく他の装置にも適用することが可能である。例えば、そのような装置として、所定のフレーム周期で複数のフレーム画像から構成される動画像を生成するデジタルスチルカメラなどの撮像装置に適用できる。これらの撮像装置は、監視カメラや医用カメラなどにも応用可能である。さらに、画像を加工したり、編集したりする装置やコンピュータプログラムにも応用することができる。また、プリンタ、ディスプレイなどの表示装置等への適用も考えられる。
[コンピュータのハードウェアの構成例]
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図18は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
コンピュータにおいて、CPU101,ROM(Read Only Memory)102,RAM103は、バス104により相互に接続されている。
バス104には、さらに、入出力インターフェース105が接続されている。入出力インターフェース105には、キーボード、マウス、マイクロホンなどよりなる入力部106、ディスプレイ、スピーカなどよりなる出力部107、ハードディスクや不揮発性のメモリなどよりなる記録部108、ネットワークインターフェースなどよりなる通信部109、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア111を駆動するドライブ110が接続されている。
以上のように構成されるコンピュータでは、CPU101が、例えば、記録部108に記録されているプログラムを、入出力インターフェース105及びバス104を介して、RAM103にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU101)が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD−ROM(Compact Disc−Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア111に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
そして、プログラムは、リムーバブルメディア111をドライブ110に装着することにより、入出力インターフェース105を介して、記録部108にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部109で受信し、記録部108にインストールすることができる。その他、プログラムは、ROM102や記録部108に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであってもよい。
なお、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
また、本明細書において、時系列的な処理を記述する処理ステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)をも含むものである。
1…撮像装置、2…撮像部、3,3A…画像処理部、10…垂直超解像処理部、20…水平超解像処理部、11…垂直HPF、12…垂直スケーラ、13…エッジ判定部、14…座標変換部、15…高周波補間部、16…垂直スケーラ、17…合成部、21…水平HPF、22…水平スケーラ、23…エッジ判定部、24…座標変換部、25…高周波補間部、26…水平スケーラ、27…合成部、51,51−1,51−2…拡大前画像の画素位置、52,52−1,52−2…拡大後画像の画素位置、53,53−1,53−2…座標変換処理後の画素位置、54…エッジ位置、55…拡大前画像、56…拡大後画像、57…座標変換処理後の画像、58…超解像拡大画像、61…HPF、62…エッジ判定部、63…座標変換部、64…入力画像補間部、65…スケーラ、66…合成部、71,71−1〜71−4…拡大前画像の画素、72…拡大後画像の画素、73…重心、100…コンピュータ
Claims (10)
- 入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の高周波成分の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の高周波成分の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、
を有する画像処理装置。 - 前記エッジ判定部は、前記ハイパスフィルタで抽出された前記入力画像の高周波成分に含まれる相互に隣接する画素の画素値の符号が相違する箇所からエッジ位置を求める
請求項1に記載の画像処理装置。 - 画像を所定の拡大率で拡大する第2の拡大処理部、を更に備え、
前記エッジ判定部は、前記ハイパスフィルタにより抽出された前記画像の高周波成分を前記第2の拡大処理部で拡大した画像を用いてエッジ位置を推定する、もしくは、前記第2の拡大処理部で前記入力画像を拡大した後に前記ハイパスフィルタにより抽出した高周波成分を用いてエッジ位置を推定する
請求項2に記載の画像処理装置。 - 撮像部と、
前記撮像部から供給された入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置を重ねたときの、前記入力画像の高周波成分の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の高周波成分の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、を備える画像処理部
を有する撮像装置。 - 入力画像の高周波成分を抽出することと、
前記抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定することと、
推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求めることと、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の高周波成分の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求めることと、
前記エッジ周辺の高周波成分の補間された画素値と前記拡大画像の画素の画素値を合成すること、
を含む画像処理方法。 - 入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、
を有する画像処理装置。 - 前記エッジ判定部は、前記ハイパスフィルタで抽出された前記入力画像の高周波成分に含まれる相互に隣接する画素の画素値の符号が相違する箇所からエッジ位置を求める
請求項6に記載の画像処理装置。 - 画像を所定の拡大率で拡大する第2の拡大処理部、を更に備え、
前記エッジ判定部は、前記ハイパスフィルタにより抽出された前記画像の高周波成分を前記第2の拡大処理部で拡大した画像を用いてエッジ位置を推定する、もしくは、前記第2の拡大処理部で前記入力画像を拡大した後に前記ハイパスフィルタにより抽出した高周波成分を用いてエッジ位置を推定する
請求項7に記載の画像処理装置。 - 撮像部と、
前記撮像部から供給された入力画像の高周波成分を抽出するハイパスフィルタと、
前記ハイパスフィルタで抽出された前記入力画像の高周波成分から前記入力画像におけるエッジ位置を推定するエッジ判定部と、
前記エッジ判定部で推定した前記エッジ位置に対応する、拡大画像におけるエッジ位置を求める座標変換部と、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置を重ねたときの、前記入力画像の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求める補間部と、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の補間された画素値と前記拡大画像の画素の画素値を合成する合成部と、を備える画像処理部
を有する撮像装置。 - 入力画像の高周波成分を抽出することと、
前記抽出された前記入力画像の高周波成分から前記入力画像におけるエッジの有無を判定し、エッジがある場合はエッジ位置を推定することと、
推定した前記エッジ位置に対応する、前記入力画像を拡大した拡大画像におけるエッジ位置を求めることと、
前記入力画像の高周波成分のエッジの位置と前記拡大画像のエッジ位置が重なる位置における、前記入力画像の画素値を用いて前記拡大画像のエッジ周辺の各画素位置における画素値を求めることと、
前記入力画像を目的の拡大率で拡大して前記拡大画像を生成する第1の拡大処理部と、
前記エッジ周辺の補間された画素値と前記拡大画像の画素の画素値を合成すること、
を含む画像処理方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012277701A JP2014123173A (ja) | 2012-12-20 | 2012-12-20 | 画像処理装置、撮像装置及び画像処理方法 |
US14/065,803 US9117293B2 (en) | 2012-12-20 | 2013-10-29 | Image processing apparatus, image pickup apparatus, and image processing method that use a super-resolution technique for generating a super-resolution image |
CN201310685170.3A CN103888706A (zh) | 2012-12-20 | 2013-12-13 | 图像处理装置、图像拾取装置和图像处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012277701A JP2014123173A (ja) | 2012-12-20 | 2012-12-20 | 画像処理装置、撮像装置及び画像処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014123173A true JP2014123173A (ja) | 2014-07-03 |
Family
ID=50957403
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012277701A Pending JP2014123173A (ja) | 2012-12-20 | 2012-12-20 | 画像処理装置、撮像装置及び画像処理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9117293B2 (ja) |
JP (1) | JP2014123173A (ja) |
CN (1) | CN103888706A (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104969545B (zh) * | 2013-02-05 | 2018-03-20 | 富士胶片株式会社 | 图像处理装置、摄像装置、图像处理方法以及程序 |
KR20150135895A (ko) * | 2014-05-26 | 2015-12-04 | 삼성전자주식회사 | 이미지 처리 방법 및 그 전자 장치 |
TWI524878B (zh) * | 2014-09-16 | 2016-03-11 | 國立臺灣大學 | 疾病檢測方法及穿戴式裝置 |
CN104966269A (zh) * | 2015-06-05 | 2015-10-07 | 华为技术有限公司 | 一种多帧超分辨率成像的装置及方法 |
CN105427244B (zh) * | 2015-11-03 | 2018-09-04 | 中南大学 | 一种遥感影像的拼接方法和装置 |
WO2018147329A1 (ja) * | 2017-02-10 | 2018-08-16 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 自由視点映像生成方法及び自由視点映像生成システム |
CN106652969B (zh) | 2017-03-07 | 2019-11-05 | 京东方科技集团股份有限公司 | 像素阵列的驱动方法、驱动电路以及显示装置 |
CN114298913B (zh) * | 2022-03-11 | 2022-05-31 | 安徽云森物联网科技有限公司 | 一种优化加速的深度图超分辨率插值方法 |
Family Cites Families (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3753197B2 (ja) * | 1996-03-28 | 2006-03-08 | 富士写真フイルム株式会社 | 画像データの補間演算方法およびその方法を実施する装置 |
WO1999024936A1 (en) * | 1997-11-10 | 1999-05-20 | Gentech Corporation | System and method for generating super-resolution-enhanced mosaic images |
WO2002089046A1 (en) * | 2001-04-26 | 2002-11-07 | Georgia Tech Research Corporation | Video enhancement using multiple frame techniques |
KR20040054758A (ko) * | 2001-11-01 | 2004-06-25 | 코닌클리케 필립스 일렉트로닉스 엔.브이. | 비디오 이미지들의 향상된 공간 해상도 |
JP3915563B2 (ja) * | 2002-03-19 | 2007-05-16 | 富士ゼロックス株式会社 | 画像処理装置および画像処理プログラム |
US7016914B2 (en) * | 2002-06-05 | 2006-03-21 | Microsoft Corporation | Performant and scalable merge strategy for text indexing |
US7218796B2 (en) * | 2003-04-30 | 2007-05-15 | Microsoft Corporation | Patch-based video super-resolution |
JP4517872B2 (ja) * | 2005-02-10 | 2010-08-04 | ソニー株式会社 | 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体 |
JP3781050B1 (ja) * | 2005-02-22 | 2006-05-31 | 三菱電機株式会社 | 画像処理装置、画像処理方法、および画像表示装置 |
US7613363B2 (en) * | 2005-06-23 | 2009-11-03 | Microsoft Corp. | Image superresolution through edge extraction and contrast enhancement |
US7738739B2 (en) * | 2006-01-26 | 2010-06-15 | Vestel Elektronik Sanayi Ve Ticaret A.S. | Method and apparatus for adjusting the resolution of a digital image |
US8538203B2 (en) * | 2007-07-24 | 2013-09-17 | Sharp Laboratories Of America, Inc. | Image upscaling technique |
JP5076755B2 (ja) * | 2007-09-07 | 2012-11-21 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム |
JP5174238B2 (ja) | 2008-06-17 | 2013-04-03 | 株式会社エヌ・ティ・ティ・ドコモ | スパース変換を使用する画像/ビデオ品質向上及び超解像 |
US8233734B2 (en) * | 2008-09-22 | 2012-07-31 | Microsoft Corporation | Image upsampling with training images |
KR101548285B1 (ko) * | 2009-01-20 | 2015-08-31 | 삼성전자주식회사 | 고해상도 영상 획득 장치 및 그 방법 |
JP5706177B2 (ja) * | 2010-02-09 | 2015-04-22 | パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America | 超解像処理装置及び超解像処理方法 |
JP5645051B2 (ja) * | 2010-02-12 | 2014-12-24 | 国立大学法人東京工業大学 | 画像処理装置 |
JP5366855B2 (ja) * | 2010-02-16 | 2013-12-11 | 富士フイルム株式会社 | 画像処理方法及び装置並びにプログラム |
JP5335713B2 (ja) | 2010-02-16 | 2013-11-06 | 富士フイルム株式会社 | 画像処理方法及び装置並びにプログラム |
JP5743615B2 (ja) * | 2010-03-11 | 2015-07-01 | パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America | 画像処理方法、画像処理装置、集積回路およびプログラム |
JP5541205B2 (ja) * | 2011-03-22 | 2014-07-09 | 株式会社ニコン | 画像処理装置、撮像装置、画像処理プログラムおよび画像処理方法 |
JP2012216109A (ja) * | 2011-04-01 | 2012-11-08 | Sony Corp | 画像処理装置と画像処理方法 |
JP2012234507A (ja) * | 2011-04-20 | 2012-11-29 | Sony Corp | 画像処理装置および方法、並びにプログラム |
US9020273B2 (en) * | 2011-04-20 | 2015-04-28 | Panasonic Intellectual Property Corporation Of America | Image processing method, image processor, integrated circuit, and program |
TWI466063B (zh) * | 2011-09-29 | 2014-12-21 | Altek Corp | 影像內插的處理方法 |
US20140072242A1 (en) * | 2012-09-10 | 2014-03-13 | Hao Wei | Method for increasing image resolution |
-
2012
- 2012-12-20 JP JP2012277701A patent/JP2014123173A/ja active Pending
-
2013
- 2013-10-29 US US14/065,803 patent/US9117293B2/en not_active Expired - Fee Related
- 2013-12-13 CN CN201310685170.3A patent/CN103888706A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
CN103888706A (zh) | 2014-06-25 |
US9117293B2 (en) | 2015-08-25 |
US20140176751A1 (en) | 2014-06-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014123173A (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP4664810B2 (ja) | カラーフィルタアレイのイメージデータを補間する方法及び装置 | |
JP4915317B2 (ja) | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム | |
JP6523638B2 (ja) | 表示パネルドライバ、表示装置、画像処理装置及び画像処理方法 | |
JP5011519B2 (ja) | 固体撮像素子の信号読み出し方法及び画像信号処理方法 | |
WO2018196470A1 (zh) | 图像处理方法及装置 | |
TWI459325B (zh) | 數位影像處理裝置及其處理方法 | |
JP2008091979A (ja) | 画像高画質化装置、及びその方法、並びに画像表示装置 | |
EP1001353A1 (en) | Interpolation apparatus and methods and image display apparatus | |
JP2008072390A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP4714038B2 (ja) | 画像の高解像度化方法及び装置 | |
JP2008234130A (ja) | 複数領域に対応した画質改善処理方法及び画質改善処理プログラム | |
JP2013020528A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2014126774A5 (ja) | ||
JP5058720B2 (ja) | 映像高解像度化装置及び方法 | |
JP6135937B2 (ja) | 画像処理方法および画像処理装置 | |
JP5181345B2 (ja) | 画像処理装置及び画像処理方法 | |
JP6059899B2 (ja) | フレーム補間装置及びプログラム | |
JP5287581B2 (ja) | 画像処理装置及び画像処理方法 | |
WO2009116595A1 (ja) | 画像処理方法、画像処理装置及び画像処理プログラム | |
JP2009147938A (ja) | ビデオ映像形式の変換方法および対応する装置 | |
JP2005011191A (ja) | 画像拡大方法 | |
JP2009129073A (ja) | 高解像度化装置及び方法 | |
JP5892755B2 (ja) | 画像処理装置および画像処理方法 | |
JP2013157890A (ja) | 画像処理装置、画像処理方法、及びプログラム |