JP2005115598A - 画像処理方法及び画像処理装置 - Google Patents
画像処理方法及び画像処理装置 Download PDFInfo
- Publication number
- JP2005115598A JP2005115598A JP2003347920A JP2003347920A JP2005115598A JP 2005115598 A JP2005115598 A JP 2005115598A JP 2003347920 A JP2003347920 A JP 2003347920A JP 2003347920 A JP2003347920 A JP 2003347920A JP 2005115598 A JP2005115598 A JP 2005115598A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- unit
- pixel addition
- image
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 30
- 238000012545 processing Methods 0.000 claims abstract description 107
- 238000009966 trimming Methods 0.000 claims abstract description 24
- 238000003384 imaging method Methods 0.000 claims description 37
- 238000000034 method Methods 0.000 claims description 32
- 238000012937 correction Methods 0.000 claims description 30
- 239000000284 extract Substances 0.000 claims description 2
- 230000035945 sensitivity Effects 0.000 abstract description 14
- 238000010586 diagram Methods 0.000 description 9
- 239000003086 colorant Substances 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000000875 corresponding effect Effects 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
Landscapes
- Studio Devices (AREA)
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
- Editing Of Facsimile Originals (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
【課題】暗所における被写体撮影時のように被写体照度が低い場合の撮像センサ部による被写体撮影においても、感度アップした、しかも、所望サイズの画像データを得ることができる画像処理方法及び装置を提供する。
【解決手段】撮像センサ部で得られる撮像画像データをリサイズ処理、或いはトリミング処理及びリサイズ処理し、該リサイズ処理後の画像データに基づいて画素加算処理を実行する画像処理方法及び装置であり、リサイズ処理においては、画素加算処理において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを撮像画像データに基づいて、或いはトリミング処理により抽出された画像データに基づいて生成する画像処理方法及び装置。
【選択図】図2
Description
本発明は画像処理方法及び装置、特に、例えば暗所での被写体撮像において撮像センサ部で得られる撮像画像データに感度アップのための処理を施す画像処理方法及び装置に関する。
例えば、光量の少ない薄暗い場所等の暗所における被写体をCCD型撮像素子等の固体撮像素子を利用した撮像センサ部で撮像する場合、その撮像画像を液晶表示装置等の表示装置に表示したり、記録媒体に記録したり、通信手段を介して離れた位置にあるモニタに表示したり、記録媒体に記録したりするときに、できるだけ鮮明な画像が表示され、記録され、送信されることが望まれ、そのために撮像画像の感度アップ処理に関する研究がなされてきた。
その代表例として画素加算による感度向上を挙げることができる。かかる画素加算は、例えば特開平2003−52048号公報に紹介されている。この画素加算処理は、例えば撮像センサ部により得られる撮像画像データに基づく画像データにおける隣接する水平2画素と垂直2画素の合計4画素の信号、さらに一般的に言えば、隣接する水平n個の画素と垂直m個の画素の合計n×m画素(n、mは正の整数)の信号を加算することで感度の向上を図る手法である。隣接する水平n個の画素を加算する方法等もある。
しかしながら、いずれにしても画素加算処理を行うと感度は向上するが画像データは減少する。例えば、1280×960pixels(1280 ×960 画素) の画像データにおいて隣接する水平2画素と垂直2画素の合計4画素の信号を加算する4画素加算を行えば、画像データは640×480pixelsに減少する。
このとき、画素加算によって得られた画像データのサイズ(水平、垂直の各画素数)は所望のものになるとは限らない。例えば、表示装置の画面に見合ったサイズの画素加算後データを欲しても、画素加算後の画像データサイズが表示装置画面より大きすぎたり、小さすぎたりすることがある。
そこで本発明は、撮像センサ部で得られる撮像画像データを処理する画像処理方法及び装置であって、暗所における被写体撮影時のように被写体照度が低い場合の撮像センサ部による被写体撮影においても、感度アップした画像データを得ることができ、しかも、所望サイズの感度アップした画像データを得ることができる画像処理方法及び装置を提供することを課題とする。
本発明は前記課題を解決するため次の画像処理方法及び画像処理装置を提供する。
(1)第1の画像処理方法及び装置
(1-1) 第1の画像処理方法
撮像センサ部で得られる撮像画像データをリサイズ処理し、該リサイズ処理後の画像データに基づいて画素加算処理を実行する画像処理方法であり、前記リサイズ処理においては、前記画素加算処理において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記撮像画像データに基づいて生成する画像処理方法。
(1-2) 第1の画像処理装置
撮像センサ部で得られる撮像画像データをリサイズするリサイズ部、該リサイズ部によるリサイズ後の画像データに画素加算処理を施す画素加算部を含む画像処理装置であり、前記リサイズ部は、前記画素加算部において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記撮像画像データに基づいて生成する画像処理装置。
(1-1) 第1の画像処理方法
撮像センサ部で得られる撮像画像データをリサイズ処理し、該リサイズ処理後の画像データに基づいて画素加算処理を実行する画像処理方法であり、前記リサイズ処理においては、前記画素加算処理において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記撮像画像データに基づいて生成する画像処理方法。
(1-2) 第1の画像処理装置
撮像センサ部で得られる撮像画像データをリサイズするリサイズ部、該リサイズ部によるリサイズ後の画像データに画素加算処理を施す画素加算部を含む画像処理装置であり、前記リサイズ部は、前記画素加算部において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記撮像画像データに基づいて生成する画像処理装置。
(2)第2の画像処理方法及び装置
(2-1) 第2の画像処理方法
撮像センサ部で得られる撮像画像データから所定サイズの画像を抽出するトリミング処理を行い、該トリミング処理により抽出された画像データをリサイズ処理し、該リサイズ処理後の画像データに基づいて画素加算処理を実行する画像処理方法であり、前記リサイズ処理においては、前記画素加算処理において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記トリミング処理により抽出された画像データに基づいて生成する画像処理方法。
(2-2) 第2の画像処理装置
撮像センサ部で得られる撮像画像データから所定サイズの画像を抽出するトリミング部と、該トリミング部により抽出された画像データをリサイズするリサイズ部と、該リサイズ部によるリサイズ後の画像データに画素加算処理を施す画素加算部を含む画像処理装置であり、前記リサイズ部は、前記画素加算部において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記トリミング部により抽出された画像データに基づいて生成する画像処理装置。
(2-1) 第2の画像処理方法
撮像センサ部で得られる撮像画像データから所定サイズの画像を抽出するトリミング処理を行い、該トリミング処理により抽出された画像データをリサイズ処理し、該リサイズ処理後の画像データに基づいて画素加算処理を実行する画像処理方法であり、前記リサイズ処理においては、前記画素加算処理において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記トリミング処理により抽出された画像データに基づいて生成する画像処理方法。
(2-2) 第2の画像処理装置
撮像センサ部で得られる撮像画像データから所定サイズの画像を抽出するトリミング部と、該トリミング部により抽出された画像データをリサイズするリサイズ部と、該リサイズ部によるリサイズ後の画像データに画素加算処理を施す画素加算部を含む画像処理装置であり、前記リサイズ部は、前記画素加算部において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記トリミング部により抽出された画像データに基づいて生成する画像処理装置。
上記の第1、第2のいずれの画像処理方法及び装置においても、画素加算を行うので、暗所における被写体撮影時のように被写体照度が低い場合の撮像センサ部による被写体撮影においても、感度アップした画像データを得ることができる。
しかも、画素加算により生成しようとする画像データ(例えば表示しようとするサイズの画像データ)に対して水平n倍、垂直m倍という整数倍に画像データをリサイズした後に(水平n×垂直m)画素加算を行うので、所望サイズの感度アップした画像データを得ることができる。
しかも、画素加算により生成しようとする画像データ(例えば表示しようとするサイズの画像データ)に対して水平n倍、垂直m倍という整数倍に画像データをリサイズした後に(水平n×垂直m)画素加算を行うので、所望サイズの感度アップした画像データを得ることができる。
そして、上記第1の画像処理方法及び装置によると、撮像センサ部の画素数によらず、画素加算後に所定サイズの画像を得ることができ、上記第2の画像処理方法及び装置によると、デジタルズーム時の画素加算において、ズーム倍率によらず、所定サイズの画像を得ることができる。
前記いずれの画像処理方法においても、より高品位の画像を得るため、前記リサイズ処理の後、且つ、前記画素加算処理の前にリサイズ処理後の画像データからノイズを除去するノイズ除去処理と前記画素加算処理後に画素加算処理後の画像データからノイズを除去するノイズ除去処理とのうち少なくとも一方のノイズ除去処理を行うようにしてもよい。 また、前記画素加算処理に供される画像データにγ補正を行うようにしてもよい。該画素加算処理後の画像データに階調補正を行うようにしてもよい。
前記いずれの画像処理装置においても、より高品位の画像を得るため、前記リサイズ部によるリサイズ後の画像データ及び前記画素加算部による画素加算後の画像データのうち少なくとも一方からノイズ除去を行うために、前記リサイズ部と画素加算部の間及び前記画素加算部の後のうち少なくとも一方にノイズフィルタ部を設けてもよい。
また、前記画素加算部に入力される画像データにγ補正を行うγ補正部を設けてもよい。該画素加算部による画素加算後の画像データに階調補正を行う階調補正部を設けてもよい。
また、前記画素加算部に入力される画像データにγ補正を行うγ補正部を設けてもよい。該画素加算部による画素加算後の画像データに階調補正を行う階調補正部を設けてもよい。
以上説明したように本発明によると、撮像センサ部で得られる撮像画像データを処理する画像処理方法及び装置であって、暗所における被写体撮影時のように被写体照度が低い場合の撮像センサ部による被写体撮影においても、感度アップした画像データを得ることができ、しかも、所望サイズの感度アップした画像データを得ることができる画像処理方法及び装置を提供することができる。
<デジタルズームについて>
本発明に係る画像処理方法及び装置を説明するに先立ってデジタルズーム処理を行う画像処理装置について説明する。
図12はデジタルズーム処理を行う、それ自体既に知られている画像処理装置の1例IPを示すブロック図である。この処理装置は撮像センサ部ISの撮像センサで得た撮像画像データをデジタルズーム処理する装置である。
撮像センサ部ISは、例えばCCD型撮像素子等の固体撮像素子からなる、被写体の結像をアナログの電気信号に変換する撮像センサ、被写体を撮像センサに結像させる光学系、撮像センサ出力からノイズを除去して、アナログ電気信号の被写体画像に相当する成分を読みだす相関二重サンプリング回路CDS、回路CDSからのアナログ電気信号をデジタルの生(raw)の画像データ(撮像画像データ)に変換するA/D変換部を含んでいる。撮像センサは、本例では、RGBの3原色からなるカラーフィルタを用いたカラー撮像方式を採用したものである。
本発明に係る画像処理方法及び装置を説明するに先立ってデジタルズーム処理を行う画像処理装置について説明する。
図12はデジタルズーム処理を行う、それ自体既に知られている画像処理装置の1例IPを示すブロック図である。この処理装置は撮像センサ部ISの撮像センサで得た撮像画像データをデジタルズーム処理する装置である。
撮像センサ部ISは、例えばCCD型撮像素子等の固体撮像素子からなる、被写体の結像をアナログの電気信号に変換する撮像センサ、被写体を撮像センサに結像させる光学系、撮像センサ出力からノイズを除去して、アナログ電気信号の被写体画像に相当する成分を読みだす相関二重サンプリング回路CDS、回路CDSからのアナログ電気信号をデジタルの生(raw)の画像データ(撮像画像データ)に変換するA/D変換部を含んでいる。撮像センサは、本例では、RGBの3原色からなるカラーフィルタを用いたカラー撮像方式を採用したものである。
画像処理装置IPは、撮像センサ部ISから出力される撮像画像データにホワイトバランス処理を施すホワイトバランス(WB)処理部、画素補間処理を行う補間処理部、γ補正を行うγ補正部を含んでいる。さらに、デジタルズーム処理のためのトリミング部及びリサイズ部並びに所定のズーム倍率設定のためにトリミング部にトリミングサイズを設定するとともにリサイズ部にリサイズ処理のためのサイズを設定するズーム倍率設定部を含んでいる。リサイズ後の画像データは表示装置による表示、記録媒体への記録、他所への通信(画像データ送信)等のうち1又は2以上に供される。
前記のWB処理部は、生(raw)の各色のデータに各々のWBゲインをかけて、画像全体のカラーバランスを整える。補間処理部は、それには限定されないが、ここではベイヤー配列されたRGB原色フィルタを用いているのでベイヤー補間を実行する。γ補正部は、再生画面に所定の階調特性が得られるように補正を行う。
図12の画像処理装置によると、デジタルズームはトリミング部とリサイズ部により行われる。トリミング部は、ズーム倍率に対応した大きさに、撮像センサ部ISからの画像データを切り出す。リサイズ部はトリミングされた画像データを、表示装置の画面に見合ったサイズ、記録媒体に記録するサイズ、通信に供するサイズ等の所定の或いは所望のサイズ(以下、これらを「表示サイズ」と総称する。)に合うように画像データの大きさを変更する。トリミング部とリサイズ部へ与える各パラメータは、ズーム倍率設定部により設定する。
図13に、デジタルズーム(アップサンプリング)の例を示す。1280×960 ピクセル(SXGA)の画像データより320 ×240 ピクセルの画像データを切り出している。デジタルズーム倍率は4倍である。ここで表示サイズは640 ×480 ピクセル(VGA )であるので、トリミングした320 ×240 ピクセルの画像データをVGA のサイズにリサイズする。このとき、表示サイズ(VGA )よりも、トリミングした320 ×240 ピクセルの画像データの方が小さいので、リサイズはアップサンプリングになる。
図14に、デジタルズーム(ダウンサンプリング)の例を示す。1280×960 ピクセル(SXGA)の画像データより960 ×720 ピクセルの画像データを切り出している。デジタルズーム倍率は1.33倍である。ここで表示サイズが640 ×480 ピクセル(VGA )であるので、トリミングした960 ×720 ピクセルの画像データをVGA のサイズにリサイズする。このとき、表示サイズ(VGA )よりも、トリミングした960 ×720 ピクセルの画像データの方が大きいので、リサイズはダウンサンプリングになる。
<本発明の実施形態>
次に、本発明の実施形態について説明する。
図1は本発明の実施形態に係る画像処理装置を示すブロック図である。この画像処理装置1は、4画素加算デジタルズームを行う装置であり、図12の装置においてリサイズ部の後に4画素加算部を設けるとともに、より適切な段階でγ補正を行えるように、γ補正部を4画素加算部の後段に配置したものである。トリミング部は補間処理部の後段に配置されている。それ以外の点は図12の装置と同様の構成である。
次に、本発明の実施形態について説明する。
図1は本発明の実施形態に係る画像処理装置を示すブロック図である。この画像処理装置1は、4画素加算デジタルズームを行う装置であり、図12の装置においてリサイズ部の後に4画素加算部を設けるとともに、より適切な段階でγ補正を行えるように、γ補正部を4画素加算部の後段に配置したものである。トリミング部は補間処理部の後段に配置されている。それ以外の点は図12の装置と同様の構成である。
(4画素加算)
図1の画像処理装置1によると次のように画像データが処理される。すなわち、撮像センサ部ISからの撮像画像データはホワイトバランス(WB)処理部によるホワイトバランス処理及び補間処理部によるベイヤー補間処理が施される。デジタルズームは、トリミング部とリサイズ部により行われる。トリミング部は、ズーム倍率に対応した大きさで画像データを切り出す。リサイズ部は、トリミングされた画像データを、4画素加算後の画像データサイズが表示サイズに合うように画像データの大きさを変更する。トリミング部とリサイズ部への各パラメータは、ズーム倍率設定部により設定する。リサイズされた画像データは、4画素加算された後にγ補正され表示サイズの画像データとなる。
図1の画像処理装置1によると次のように画像データが処理される。すなわち、撮像センサ部ISからの撮像画像データはホワイトバランス(WB)処理部によるホワイトバランス処理及び補間処理部によるベイヤー補間処理が施される。デジタルズームは、トリミング部とリサイズ部により行われる。トリミング部は、ズーム倍率に対応した大きさで画像データを切り出す。リサイズ部は、トリミングされた画像データを、4画素加算後の画像データサイズが表示サイズに合うように画像データの大きさを変更する。トリミング部とリサイズ部への各パラメータは、ズーム倍率設定部により設定する。リサイズされた画像データは、4画素加算された後にγ補正され表示サイズの画像データとなる。
図2に、4画素加算時のリサイズの例を示す。1280×960 ピクセル(SXGA)の画像データより320 ×240 ピクセルの画像データを切り出している。デジタルズーム倍率は4倍である。ここで表示サイズが640 ×480 ピクセル(VGA )であるので、4画素加算後の画像データがVGA になるように、トリミングした320 ×240 ピクセルの画像データをリサイズする。この場合、320 ×240 ピクセルの画像データをアップサンプリングして1280×960 ピクセル(VGA に対して横2倍、縦2倍)の画像データを生成し、この生成画像データを4画素加算して表示サイズ(VGA )の感度アップした画像データを得る。
図3に、RGBデータにおける4画素加算の加算方法を示す。4画素加算後の画像データがh×vピクセルとしたとき、加算前の画像データとして4(h×v)ピクセルが必要である。この加算前の画像データはリサイズにより得る。4 画素加算式を以下に示す。
R’[1][1]=R[1][1] +R[1][2] +R[2][1] +R[2][2]
G’[1][1]=G[1][1] +G[1][2] +G[2][1] +G[2][2]
B’[1][1]=B[1][1] +B[1][2] +B[2][1] +B[2][2]
・・・・・・・ ・・・・・・・
R’[v][h]=R[2v-1][2h-1] +R[2v-1][2h] +R[2v][2h-1] +R[2v][2h]
G’[v][h]=G[2v-1][2h-1] +G[2v-1][2h] +G[2v][2h-1] +G[2v][2h]
B’[v][h]=B[2v-1][2h-1] +B[2v-1][2h] +B[2v][2h-1] +B[2v][2h]
R’[1][1]=R[1][1] +R[1][2] +R[2][1] +R[2][2]
G’[1][1]=G[1][1] +G[1][2] +G[2][1] +G[2][2]
B’[1][1]=B[1][1] +B[1][2] +B[2][1] +B[2][2]
・・・・・・・ ・・・・・・・
R’[v][h]=R[2v-1][2h-1] +R[2v-1][2h] +R[2v][2h-1] +R[2v][2h]
G’[v][h]=G[2v-1][2h-1] +G[2v-1][2h] +G[2v][2h-1] +G[2v][2h]
B’[v][h]=B[2v-1][2h-1] +B[2v-1][2h] +B[2v][2h-1] +B[2v][2h]
ここで画像データが8ビットとすると、
R ’>255 ならば R ’=255
G ’>255 ならば G ’=255
B ’>255 ならば B ’=255 とする。
R ’>255 ならば R ’=255
G ’>255 ならば G ’=255
B ’>255 ならば B ’=255 とする。
すなわち、本例では255はR’、G’、B’のそれぞれについてのダイナミックレンジの最大限界値であり、加算後の画像データが、ダイナミックレンジを超えてしまったとき、そのデータはダイナミックレンジの最大値とする。
((n×m)画素加算)
以上、4画素加算の例について説明したが、本発明に係る画素加算は4画素加算に限定されるのものではなく、広く一般に(n×m)画素加算に適用できる(n、mは正の整数)。この場合、図1の画像処理装置1においては、4画素加算部を以下のような画素加算を実行する(n×m)画素加算部に置き換えればよい。
以上、4画素加算の例について説明したが、本発明に係る画素加算は4画素加算に限定されるのものではなく、広く一般に(n×m)画素加算に適用できる(n、mは正の整数)。この場合、図1の画像処理装置1においては、4画素加算部を以下のような画素加算を実行する(n×m)画素加算部に置き換えればよい。
図4にRGBデータにおける(n×m)画素加算の加算方法を示す。
(n×m)画素加算後の画像データがh×vピクセルとしたとき、加算前の画像データとして(n×m)×(h×v)ピクセルが必要である。この加算前の画像データはリサイズにより得たものとする。(n×m)画素加算式を以下に示す。
(n×m)画素加算後の画像データがh×vピクセルとしたとき、加算前の画像データとして(n×m)×(h×v)ピクセルが必要である。この加算前の画像データはリサイズにより得たものとする。(n×m)画素加算式を以下に示す。
R’[1][1]=R[1][1] +R[1][2] ・・・+R[1][n-1] +R[1][n] ・・・
+R[m][1] +R[m][2] ・・・+R[m][n-1] +R[m][n]
G’[1][1]=G[1][1] +G[1][2] ・・・+G[1][n-1] +G[1][n] ・・・
+G[m][1] +G[m][2] ・・・+G[m][n-1] +G[m][n]
B’[1][1]=B[1][1] +B[1][2] ・・・+B[1][n-1] +B[1][n] ・・・
+B[m][1] +B[m][2] ・・・+B[m][n-1] +B[m][n]
+R[m][1] +R[m][2] ・・・+R[m][n-1] +R[m][n]
G’[1][1]=G[1][1] +G[1][2] ・・・+G[1][n-1] +G[1][n] ・・・
+G[m][1] +G[m][2] ・・・+G[m][n-1] +G[m][n]
B’[1][1]=B[1][1] +B[1][2] ・・・+B[1][n-1] +B[1][n] ・・・
+B[m][1] +B[m][2] ・・・+B[m][n-1] +B[m][n]
ここで、画像データが8ビットのとき、
R ’>225 ならば R ’=255
G ’>255 ならば G ’=255
B ’>255 ならば B ’=255 とする。
すなわち、加算後の画像データが、ダイナミックレンジを超えてしまったとき、そのデータはダイナミックレンジの最大値とする。
R ’>225 ならば R ’=255
G ’>255 ならば G ’=255
B ’>255 ならば B ’=255 とする。
すなわち、加算後の画像データが、ダイナミックレンジを超えてしまったとき、そのデータはダイナミックレンジの最大値とする。
(YCbCrデータの画素加算)
以上はRGBデータに基づく画素加算についての説明であったが、本発明は輝度信号Yと二つの色差信号Cb、Crによる画像データについても適用できる。この場合、図1の画像処理装置1においては、4画素加算部を以下のような画素加算を実行する画素加算部に置き換えればよい。
以上はRGBデータに基づく画素加算についての説明であったが、本発明は輝度信号Yと二つの色差信号Cb、Crによる画像データについても適用できる。この場合、図1の画像処理装置1においては、4画素加算部を以下のような画素加算を実行する画素加算部に置き換えればよい。
図5に、YCbCr(422)データにおける4画素加算の加算方法の例を示す。
4画素加算後の画像データがh×vピクセルとしたとき、加算前の画像データとして4(h×v)ピクセルが必要である。この加算前の画像データはリサイズにより得る。
図5に示すように、輝度信号Yについては4画素を加算して1画素を生成し、色差信号CbとCrについては(2画素加算×2)して1画素を生成する。画素加算式を以下に示す。YCbCr空間での演算はRBG空間ではあり得ない色を作ってしまうことがあるので、輝度Yが大きい領域では、色Cb、Crを抑圧する。以下に示す抑圧の条件式は1例である。
4画素加算後の画像データがh×vピクセルとしたとき、加算前の画像データとして4(h×v)ピクセルが必要である。この加算前の画像データはリサイズにより得る。
図5に示すように、輝度信号Yについては4画素を加算して1画素を生成し、色差信号CbとCrについては(2画素加算×2)して1画素を生成する。画素加算式を以下に示す。YCbCr空間での演算はRBG空間ではあり得ない色を作ってしまうことがあるので、輝度Yが大きい領域では、色Cb、Crを抑圧する。以下に示す抑圧の条件式は1例である。
Y’0[1][1] =Y0[1][1]+Y1[1][2]+Y0[2][1]+Y1[2][2]
Y’1[1][2] =Y0[1][3]+Y1[1][4]+Y0[2][3]+Y1[2][4]
Y’1[1][2] =Y0[1][3]+Y1[1][4]+Y0[2][3]+Y1[2][4]
(Y’0[1][1] +Y ’1[1][2])/2 >384 のとき、
Cb’[1][1]=0
Cr’[1][2]=0
384 ≧(Y’0[1][1] +Y ’1[1][2])/2 >255 のとき、
Cb’[1][1]=(Cb[1][1] +Cb[2][1]) ×2
×(384−(Y’0[1][1] +Y ’1[1][2])/2)(384-255)
Cr’[1][2]=(Cr[1][4] +Cr[2][4]) ×2
×(384−(Y’0[1][1] +Y ’1[1][2])/2)(384-255)
255 ≧(Y’0[1][1] +Y ’1[1][2])/2 のとき、
Cb’[1][1]=(Cb[1][1] +Cb[2][1]) ×2
Cr’[1][2]=(Cr[1][4] +Cr[2][4]) ×2
Cb’[1][1]=0
Cr’[1][2]=0
384 ≧(Y’0[1][1] +Y ’1[1][2])/2 >255 のとき、
Cb’[1][1]=(Cb[1][1] +Cb[2][1]) ×2
×(384−(Y’0[1][1] +Y ’1[1][2])/2)(384-255)
Cr’[1][2]=(Cr[1][4] +Cr[2][4]) ×2
×(384−(Y’0[1][1] +Y ’1[1][2])/2)(384-255)
255 ≧(Y’0[1][1] +Y ’1[1][2])/2 のとき、
Cb’[1][1]=(Cb[1][1] +Cb[2][1]) ×2
Cr’[1][2]=(Cr[1][4] +Cr[2][4]) ×2
ここで、画像データが8ビットのとき、加算後のYCbCrデータの範囲は、
0≦Y’≦255
−128≦Cb’≦127
−128≦Cr’≦127 とする。
すなわち、加算後の画像データがダイナミックレンジを超えてしまったとき、そのデータはダイナミックレンジの最大値或いは最小値とする。彩度が低いあるいは高い場合、Cb、Crを適当に補正してもよい。
0≦Y’≦255
−128≦Cb’≦127
−128≦Cr’≦127 とする。
すなわち、加算後の画像データがダイナミックレンジを超えてしまったとき、そのデータはダイナミックレンジの最大値或いは最小値とする。彩度が低いあるいは高い場合、Cb、Crを適当に補正してもよい。
(リサイズ後のノイズフィルタ)
本発明に係る画像処理においてはより高品位の画像を得るためにノイズフィルタを採用してもよい。図6に、図1に示す画像処理装置において、リサイズ部の後、4画素加算部の前にノイズフィルタを入れた画像処理装置2を示す。画素加算後のノイズ軽減のため、リサイズ後にノイズフィルタを挿入する。特に、リサイズの倍率が大きいとき、画素加算後のノイズが大きくなることがある。このような場合に、リサイズ後のノイズフィルタは効果を発揮する。
本発明に係る画像処理においてはより高品位の画像を得るためにノイズフィルタを採用してもよい。図6に、図1に示す画像処理装置において、リサイズ部の後、4画素加算部の前にノイズフィルタを入れた画像処理装置2を示す。画素加算後のノイズ軽減のため、リサイズ後にノイズフィルタを挿入する。特に、リサイズの倍率が大きいとき、画素加算後のノイズが大きくなることがある。このような場合に、リサイズ後のノイズフィルタは効果を発揮する。
図7に、図1に示す画像処理装置において、4画素加算部の後、γ補正部の前にノイズフィルタを入れた画像処理装置3を示す。画素加算後に発生したノイズを除去するため、画素加算後にノイズフィルタを挿入する。画素加算後は、加算前に比べて画素数が減っているので、図6の装置の場合より処理規模は小さくなり、処理時間が短くなる。
(図1の装置のさらなる変形例)
図1に示す画像処理装置では、画素加算後にγ補正を行うが、γ補正後に画素加算してもよい。図8は、図1の装置において、リサイズ部の後、4画素加算部の前にγ補正部を配置するとともに4画素加算部の後に階調補正部(LUT)を配置した画像処理装置4を示す。
γ補正後に画素加算を行った場合、画素加算された画像データはγ補正が正しくかかっていない画像データになる。この補正を画素加算後の階調補正(LUT)で行う。
図1に示す画像処理装置では、画素加算後にγ補正を行うが、γ補正後に画素加算してもよい。図8は、図1の装置において、リサイズ部の後、4画素加算部の前にγ補正部を配置するとともに4画素加算部の後に階調補正部(LUT)を配置した画像処理装置4を示す。
γ補正後に画素加算を行った場合、画素加算された画像データはγ補正が正しくかかっていない画像データになる。この補正を画素加算後の階調補正(LUT)で行う。
(撮像センサ部の画素数が表示サイズの整数倍でないときの画素加算)
本発明は、デジタルズーム以外の画素加算にも適用できる。例えば、撮像装置の画素数が表示サイズの整数倍でないときの画素加算にも適用できる。
図9はそのための画像処理装置例を示すブロック図である。
本発明は、デジタルズーム以外の画素加算にも適用できる。例えば、撮像装置の画素数が表示サイズの整数倍でないときの画素加算にも適用できる。
図9はそのための画像処理装置例を示すブロック図である。
図9の画像処理装置5は、図1の画像処理装置に関連して説明したものと同じ撮像センサ部ISから出力される撮像画像データにホワイトバランス処理を施すホワイトバランス(WB)処理部、画素補間処理を行う補間処理部、リサイズ部、4画素加算部及びγ補正部を含んでいる。
図9の画像処理装置5によると次のように画像データが処理される。すなわち、撮像センサ部ISからの撮像画像データはホワイトバランス(WB)処理部によるホワイトバランス処理及び補間処理部による補間処理が施される。リサイズ部は、撮像センサ部で得られた撮像画像データを、4画素加算後に表示サイズに合うように画像データの大きさを変更する。リサイズされた画像データは4画素加算された後にγ補正され表示サイズの画像データとなる。
1例として、図10に撮像センサの画素数が1600×1200ピクセルで、表示サイズが640 ×480 の場合の画素加算を示す。
撮像センサの画素数が表示サイズの整数倍でないので、撮像センサ部より得られた画像データを単純に画素加算することはできない。ここでは、4画素加算して表示サイズ(VGA )を得る方法を示す。4画素加算してVGA を得るには、画素加算前に1280×960 ピクセル(SXGA)の画像データが必要である。この1280×960 ピクセルの画像データは、撮像センサ部より得られた1600×1200ピクセルの画像データをリサイズ(この場合はダウンサンプリング)して生成する。
撮像センサの画素数が表示サイズの整数倍でないので、撮像センサ部より得られた画像データを単純に画素加算することはできない。ここでは、4画素加算して表示サイズ(VGA )を得る方法を示す。4画素加算してVGA を得るには、画素加算前に1280×960 ピクセル(SXGA)の画像データが必要である。この1280×960 ピクセルの画像データは、撮像センサ部より得られた1600×1200ピクセルの画像データをリサイズ(この場合はダウンサンプリング)して生成する。
他の例として、図11に撮像センサの画素数が1280×960 ピクセルで、表示サイズが960 ×720 ピクセルの場合を示す。4画素加算して表示サイズの960 ×720 ピクセルの画像データを得るには、加算前に1920×1440ピクセルの画像データが必要である。この1920×1440ピクセルの画像データは、撮像センサ部より得られた1280×960 ピクセルの画像データをリサイズ(この場合はアップサンプリング)して生成する。
本発明に係る画像処理方法及び装置は、例えば各種監視目的のための被写体撮影、記念目的のための被写体撮影等の様々の被写体撮影において、被写体が暗所に有る場合のように被写体照度が低い場合でも所望サイズの感度アップした画像データを得ることに利用できる。
IP 画像処理装置
IS 撮像センサ部
CDS 相関二重サンプリング回路
1、2、3、4、5 画像処理装置
IS 撮像センサ部
CDS 相関二重サンプリング回路
1、2、3、4、5 画像処理装置
Claims (8)
- 撮像センサ部で得られる撮像画像データをリサイズ処理し、該リサイズ処理後の画像データに基づいて画素加算処理を実行する画像処理方法であり、前記リサイズ処理においては、前記画素加算処理において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記撮像画像データに基づいて生成することを特徴とする画像処理方法。
- 撮像センサ部で得られる撮像画像データから所定サイズの画像を抽出するトリミング処理を行い、該トリミング処理により抽出された画像データをリサイズ処理し、該リサイズ処理後の画像データに基づいて画素加算処理を実行する画像処理方法であり、前記リサイズ処理においては、前記画素加算処理において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記トリミング処理により抽出された画像データに基づいて生成することを特徴とする画像処理方法。
- 前記リサイズ処理の後、且つ、前記画素加算処理の前にリサイズ処理後の画像データからノイズを除去するノイズ除去処理と前記画素加算処理後に画素加算処理後の画像データからノイズを除去するノイズ除去処理とのうち少なくとも一方のノイズ除去処理を行う請求項1又は2記載の画像処理方法。
- 前記画素加算処理に供される画像データにγ補正を行い、該画素加算処理後の画像データに階調補正を行う請求項1、2又は3記載の画像処理方法。
- 撮像センサ部で得られる撮像画像データをリサイズするリサイズ部、該リサイズ部によるリサイズ後の画像データに画素加算処理を施す画素加算部を含む画像処理装置であり、前記リサイズ部は、前記画素加算部において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して水平n倍、垂直m倍の大きさの画像データを前記撮像画像データに基づいて生成することを特徴とする画像処理装置。
- 撮像センサ部で得られる撮像画像データから所定サイズの画像を抽出するトリミング部と、該トリミング部により抽出された画像データをリサイズするリサイズ部と、該リサイズ部によるリサイズ後の画像データに画素加算処理を施す画素加算部を含む画像処理装置であり、前記リサイズ部は、前記画素加算部において(水平n×垂直m)画素加算(n、mは正の整数)により生成すべき画像データに対して、水平n倍、垂直m倍の大きさの画像データを前記トリミング部により抽出された画像データに基づいて生成することを特徴とする画像処理装置。
- 前記リサイズ部によるリサイズ後の画像データ及び前記画素加算部による画素加算後の画像データのうち少なくとも一方からノイズ除去を行うために、前記リサイズ部と画素加算部の間及び前記画素加算部の後のうち少なくとも一方にノイズフィルタ部を設けた請求項5又は6記載の画像処理装置。
- 前記画素加算部に入力される画像データにγ補正を行うγ補正部を有するとともに前記画素加算部による画素加算後の画像データに階調補正を行う階調補正部を有する請求項5、6又は7記載の画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003347920A JP2005115598A (ja) | 2003-10-07 | 2003-10-07 | 画像処理方法及び画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003347920A JP2005115598A (ja) | 2003-10-07 | 2003-10-07 | 画像処理方法及び画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005115598A true JP2005115598A (ja) | 2005-04-28 |
Family
ID=34540284
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003347920A Withdrawn JP2005115598A (ja) | 2003-10-07 | 2003-10-07 | 画像処理方法及び画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005115598A (ja) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006352610A (ja) * | 2005-06-17 | 2006-12-28 | Casio Comput Co Ltd | 電子カメラ |
EP1764737A2 (en) * | 2005-09-15 | 2007-03-21 | Fujitsu Limited | Image processing and resizing |
JP2008017090A (ja) * | 2006-07-05 | 2008-01-24 | Casio Comput Co Ltd | 撮像装置、及び電子ズーム方法 |
JP2008085524A (ja) * | 2006-09-27 | 2008-04-10 | Olympus Imaging Corp | 撮像装置 |
JP2008141239A (ja) * | 2006-11-29 | 2008-06-19 | Canon Inc | 撮像装置及びその制御方法及びプログラム及び記憶媒体 |
WO2008130882A1 (en) * | 2007-04-23 | 2008-10-30 | Micron Technology, Inc. | Method, apparatus, and system providing a rectilinear pixel grid with radially scaled pixels |
US7710458B2 (en) | 2005-06-17 | 2010-05-04 | Casio Computer Co., Ltd. | Image pick-up apparatus with a shake reducing function |
US20100201847A1 (en) * | 2009-02-12 | 2010-08-12 | Samsung Digital Imaging Co., Ltd. | Digital image processing apparatus and method of controlling the same |
JP2010263654A (ja) * | 2010-07-23 | 2010-11-18 | Casio Computer Co Ltd | 電子カメラ |
JP2011165204A (ja) * | 2011-04-19 | 2011-08-25 | Fujifilm Corp | 顔検出方法およびこれを用いた撮影装置 |
JP2014222442A (ja) * | 2013-05-14 | 2014-11-27 | 日本放送協会 | 空間・階調超解像装置及びプログラム |
US9386287B2 (en) | 2011-06-08 | 2016-07-05 | Panasonic Intellectual Property Management Co., Ltd. | Image processor which rearranges color information, image processing method, and digital camera |
JP2016154356A (ja) * | 2014-07-04 | 2016-08-25 | パナソニックIpマネジメント株式会社 | 撮像装置 |
WO2019167597A1 (ja) * | 2018-02-28 | 2019-09-06 | 富士フイルム株式会社 | 超解像処理装置、方法及びプログラム |
-
2003
- 2003-10-07 JP JP2003347920A patent/JP2005115598A/ja not_active Withdrawn
Cited By (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7710458B2 (en) | 2005-06-17 | 2010-05-04 | Casio Computer Co., Ltd. | Image pick-up apparatus with a shake reducing function |
US8305465B2 (en) | 2005-06-17 | 2012-11-06 | Casio Computer Co., Ltd. | Image pick-up apparatus with a shake reducing function |
JP2006352610A (ja) * | 2005-06-17 | 2006-12-28 | Casio Comput Co Ltd | 電子カメラ |
EP2285099A3 (en) * | 2005-06-17 | 2011-11-23 | Casio Computer Co., Ltd. | Image pick-up apparatus |
EP2753068A3 (en) * | 2005-06-17 | 2014-12-10 | Casio Computer Co., Ltd. | Image pick-up apparatus |
US8630511B2 (en) | 2005-09-15 | 2014-01-14 | Spansion Llc | Image processing apparatus and method for image resizing matching data supply speed |
KR100873880B1 (ko) | 2005-09-15 | 2008-12-15 | 후지쯔 마이크로일렉트로닉스 가부시키가이샤 | 화상 처리 장치 및 화상 처리 방법 |
EP1764737A3 (en) * | 2005-09-15 | 2007-09-26 | Fujitsu Limited | Image processing and resizing |
EP1764737A2 (en) * | 2005-09-15 | 2007-03-21 | Fujitsu Limited | Image processing and resizing |
JP2008017090A (ja) * | 2006-07-05 | 2008-01-24 | Casio Comput Co Ltd | 撮像装置、及び電子ズーム方法 |
JP2008085524A (ja) * | 2006-09-27 | 2008-04-10 | Olympus Imaging Corp | 撮像装置 |
JP4734207B2 (ja) * | 2006-09-27 | 2011-07-27 | オリンパスイメージング株式会社 | 撮像装置 |
JP2008141239A (ja) * | 2006-11-29 | 2008-06-19 | Canon Inc | 撮像装置及びその制御方法及びプログラム及び記憶媒体 |
WO2008130882A1 (en) * | 2007-04-23 | 2008-10-30 | Micron Technology, Inc. | Method, apparatus, and system providing a rectilinear pixel grid with radially scaled pixels |
US8947570B2 (en) | 2007-04-23 | 2015-02-03 | Micron Technology, Inc. | Method, apparatus, and system providing a rectilinear pixel grid with radially scaled pixels |
US8502898B2 (en) | 2007-04-23 | 2013-08-06 | Micron Technology, Inc. | Method, apparatus, and system providing a rectilinear pixel grid with radially scaled pixels |
US8218030B2 (en) * | 2009-02-12 | 2012-07-10 | Samsung Electronics Co., Ltd. | Digital image processing apparatus and method of controlling the same where an image size may be reduced to increase brightness |
US20100201847A1 (en) * | 2009-02-12 | 2010-08-12 | Samsung Digital Imaging Co., Ltd. | Digital image processing apparatus and method of controlling the same |
KR101571334B1 (ko) * | 2009-02-12 | 2015-11-24 | 삼성전자주식회사 | 디지털 영상 처리장치 및 그 제어방법 |
JP2010263654A (ja) * | 2010-07-23 | 2010-11-18 | Casio Computer Co Ltd | 電子カメラ |
JP2011165204A (ja) * | 2011-04-19 | 2011-08-25 | Fujifilm Corp | 顔検出方法およびこれを用いた撮影装置 |
US9386287B2 (en) | 2011-06-08 | 2016-07-05 | Panasonic Intellectual Property Management Co., Ltd. | Image processor which rearranges color information, image processing method, and digital camera |
JP2014222442A (ja) * | 2013-05-14 | 2014-11-27 | 日本放送協会 | 空間・階調超解像装置及びプログラム |
JP2016154356A (ja) * | 2014-07-04 | 2016-08-25 | パナソニックIpマネジメント株式会社 | 撮像装置 |
US9830947B2 (en) | 2014-07-04 | 2017-11-28 | Panasonic Intellectual Property Management Co., Ltd. | Image-capturing device |
WO2019167597A1 (ja) * | 2018-02-28 | 2019-09-06 | 富士フイルム株式会社 | 超解像処理装置、方法及びプログラム |
JPWO2019167597A1 (ja) * | 2018-02-28 | 2021-02-04 | 富士フイルム株式会社 | 超解像処理装置、方法及びプログラム |
JP7083015B2 (ja) | 2018-02-28 | 2022-06-09 | 富士フイルム株式会社 | 超解像処理装置、方法及びプログラム |
US11423512B2 (en) | 2018-02-28 | 2022-08-23 | Fujifilm Corporation | Super-resolution processing apparatus, method, and program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP2536152B1 (en) | Image processing device and image processing method | |
JP5045421B2 (ja) | 撮像装置、色ノイズ低減方法および色ノイズ低減プログラム | |
KR101099401B1 (ko) | 화상 처리 장치 및 컴퓨터가 판독 가능한 기록 매체 | |
US8086032B2 (en) | Image processing device, image processing method, and image pickup apparatus | |
KR20120098802A (ko) | 화상처리장치 | |
JPWO2006134923A1 (ja) | 画像処理装置、コンピュータプログラム製品および画像処理方法 | |
JP2005115598A (ja) | 画像処理方法及び画像処理装置 | |
JP5474586B2 (ja) | 画像処理装置 | |
EP2214136B1 (en) | Method and program for controlling image capture apparatus | |
JP2005347811A (ja) | ホワイトバランス補正装置及びホワイトバランス補正方法、プログラム、電子カメラ装置 | |
JP2004363853A (ja) | 画像信号のノイズ低減方法及びノイズ低減装置 | |
JP7296745B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP5977565B2 (ja) | 画像処理装置 | |
JP2012044243A (ja) | 画像処理装置、撮像装置及び画像処理プログラム | |
JP4687454B2 (ja) | 画像処理装置および撮像装置 | |
JP5919086B2 (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
JP2003348382A (ja) | 輪郭強調回路 | |
JP2009081526A (ja) | 撮像装置 | |
JP2006311501A (ja) | 画像信号のノイズ低減方法、ノイズ低減装置及び撮像装置 | |
JP4816129B2 (ja) | 画像処理装置及び撮像装置 | |
US20210218887A1 (en) | Imaging apparatus | |
US9013606B2 (en) | Image processing apparatus and control method thereof | |
JP4954658B2 (ja) | 画像処理装置 | |
KR101595888B1 (ko) | 촬영장치, 촬영장치의 제어방법 및 제어방법을 실행시키기 위한 프로그램을 저장한 기록매체 | |
JP2002209224A (ja) | 画像処理装置、画像処理方法および記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20070109 |