JP4412446B2 - 解像度変換方法および解像度変換装置 - Google Patents
解像度変換方法および解像度変換装置 Download PDFInfo
- Publication number
- JP4412446B2 JP4412446B2 JP2001135155A JP2001135155A JP4412446B2 JP 4412446 B2 JP4412446 B2 JP 4412446B2 JP 2001135155 A JP2001135155 A JP 2001135155A JP 2001135155 A JP2001135155 A JP 2001135155A JP 4412446 B2 JP4412446 B2 JP 4412446B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- interpolation
- data
- resolution conversion
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 76
- 238000006243 chemical reaction Methods 0.000 title claims description 70
- 238000012545 processing Methods 0.000 claims description 129
- 230000008569 process Effects 0.000 claims description 37
- 238000001914 filtration Methods 0.000 claims description 23
- 238000012546 transfer Methods 0.000 claims description 22
- 238000012937 correction Methods 0.000 claims description 17
- 230000009467 reduction Effects 0.000 claims description 17
- 238000010586 diagram Methods 0.000 description 21
- 230000006870 function Effects 0.000 description 21
- 238000012935 Averaging Methods 0.000 description 11
- 238000007792 addition Methods 0.000 description 11
- 230000001629 suppression Effects 0.000 description 11
- 230000003287 optical effect Effects 0.000 description 8
- 238000003384 imaging method Methods 0.000 description 7
- 230000008707 rearrangement Effects 0.000 description 6
- 230000002123 temporal effect Effects 0.000 description 5
- 230000001186 cumulative effect Effects 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 230000000295 complement effect Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 239000000969 carrier Substances 0.000 description 2
- 125000004122 cyclic group Chemical group 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000003860 storage Methods 0.000 description 2
- 102000005717 Myeloma Proteins Human genes 0.000 description 1
- 108010045503 Myeloma Proteins Proteins 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004040 coloring Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000005549 size reduction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
- G06T3/4007—Interpolation-based scaling, e.g. bilinear interpolation
Description
【発明の属する技術分野】
本発明は、デジタル画像処理で画像を拡大する解像度変換方法および解像度変換装置に関する。
【0002】
【従来の技術】
一般に、デジタル・ビデオ・カメラやデジタル・スチル・カメラなどの撮像デバイスでは、レンズ群やプリズムなどからなる光学系を透過した光はCCDセンサやCMOSセンサなどの撮像センサで検出され画像信号に変換される。その画像信号はデジタル信号(原画像データ)にA/D変換された後に、画素補間、色空間変換、輪郭強調および解像度変換などの種々の画像処理を施され、液晶表示装置(ファインダー)などで表示される。また撮像デバイスの中には、その画像処理を施した画像データを、JPEG(Joint Photographic Experts Group)やモーションJPEG、MPEG(Moving Picture Experts Group)などの方式で圧縮符号化した後に不揮発性メモリなどのメモリカードに書き出したり、インターフェースを介してパーソナル・コンピュータなどの外部機器に出力したりする機能を有するものもある。
【0003】
ファインダーに表示される画像の表示倍率を変更するには、結像位置を変えることなく光学系の焦点距離を物理的に変化させる方法と、画像データを画像処理で解像度変換する方法とが知られている。一般に、ベイヤー方式に代表される単板式の色フィルタ・アレイを備えた撮像デバイスでは、撮像した原画像データは、各画素毎に不足の色成分を補うべく画素補間処理を施される。またその画素補間処理は主にハードウェアで迅速に実行される。その後、画像を拡大するために、画素補間後の画像データは解像度変換を施される。解像度変換方法としては、原画像データの複数の画素データの重み付け平均値を算出する内分点補間方法(バイリニア法)や、原画像データの画素データとsinc関数(sin(x)/x)との折り畳み演算値を算出する3次折り畳み補間方法(バイキュービック法)などが採用されている。
【0004】
【発明が解決しようとする課題】
しかしながら、上述のバイリニア法やバイキュービック法などを採用した画像拡大機能はソフトウェアで実現されることが多く、ソフトウェア処理は、演算時間が長大化しマイクロプロセッサの負荷が多大になるという欠点をもつ。デジタル・スチル・カメラではその演算時間の長大化により、撮影間隔が開いて撮影タイミングを逸したり、連続撮影枚数が制限されたりする事態が発生する。他方、その演算時間の短縮化や処理負荷の低減のためにその画像拡大機能をハードウェアで実現しようとすれば、回路規模やデータ・ストリームの量が大きくなり過ぎ、回路の低コスト化が難しくなるという問題が生ずる。
【0005】
以上の問題に鑑みて本発明が解決しようとするところは、画像拡大機能をハードウェアで実現しても回路規模が小さくて済み且つ高速に画像拡大処理を実行し得る解像度変換方法および解像度変換装置を提供する点にある。
【0006】
【課題を解決するための手段】
上記課題を解決するため、請求項1に係る発明は、各画素に単色成分をもつカラー原画像データの画像サイズを拡大する解像度変換方法であって、(a)入力する画像データに対して各画素毎に不足の色成分を画素補間することで、各画素毎に複数の色成分をもつ補間データを生成する工程と、(b)前記補間データにおける各画素の前記複数の色成分を再配列し、当該複数の色成分の各々を1画素に対応付けた画像データを生成する工程と、(c)前記工程(b)で生成された前記画像データに対して前記工程(a)を再度実行して補間データを生成する工程と、を備えることを特徴とするものである。
【0007】
請求項2に係る発明は、請求項1記載の解像度変換方法であって、前記工程(b)における前記補間データとして、前記工程(c)で生成された前記補間データを用いて前記色成分を再配列し、前記工程(b)および前記工程(c)を繰り返し実行するものである。
【0008】
請求項3に係る発明は、請求項1または2記載の解像度変換方法であって、(d)前記工程(c)で生成された前記補間データに対して、前記工程(b)で再配列された前記複数の色成分の空間的位置を、当該複数の色成分の中の1色成分の空間的位置に一致させるように相対移動させる空間フィルタリング処理を実行する工程、を備えるものである。
【0009】
請求項4に係る発明は、請求項3記載の解像度変換方法であって、前記工程(b)における前記補間データとして、前記工程(d)で生成された前記補間データを用いて前記色成分を再配列し、前記工程(b)〜(d)を繰り返し実行するものである。
【0010】
請求項5に係る発明は、請求項1〜4の何れか1項に記載の解像度変換方法であって 前記工程(b)において、前記工程(a)で各画素毎に補間された3色成分を、水平方向に2画素および垂直方向に2画素からなる単位画素領域の3画素に1対1で割り当て且つ前記単位画素領域の1画素には何れの色成分も割り当てないものである。
【0011】
請求項6に係る発明は、請求項1〜5の何れか1項に記載の解像度変換方法であって、(e)前記工程(c)で生成された前記補間データもしくは前記工程(d)で空間フィルタリング処理を施された補間データの画像サイズを縮小する工程、を備えるものである。
【0012】
請求項7に係る発明は、各画素に単色成分をもつカラー原画像データの画像サイズを拡大する解像度変換装置であって、入力する画像データに対して各画素毎に不足の色成分を画素補間することで、各画素毎に複数の色成分をもつ補間データを生成し出力する画素補間部と、前記画素補間部から出力された前記補間データにおける前記複数の色成分を再配列し、当該複数の色成分の各々を1画素に対応付けた画像データを生成し前記画素補間部に転送させるデータ転送制御部と、を備えることを特徴とするものである。
【0013】
請求項8に係る発明は、請求項7記載の解像度変換装置であって、前記データ転送制御部は、前記色成分を再配列した前記画像データを繰り返し画素補間部に転送するものである。
【0014】
請求項9に係る発明は、請求項7または8記載の解像度変換装置であって、前記色成分を再配列され且つ前記画素補間部で画素補間された補間データに対して、再配列された前記複数の色成分の空間的位置を、当該複数の色成分の中の1色成分の空間的位置に一致させるように相対移動させる空間フィルタリング処理を実行する空間フィルタリング処理部、を備えるものである。
【0015】
請求項10に係る発明は、請求項9記載の解像度変換装置であって、前記データ転送制御部は、前記空間フィルタリング処理部から出力された補正データを前記画素補間部に繰り返し転送するものである。
【0016】
請求項11に係る発明は、請求項7〜10の何れか1項に記載の解像度変換装置であって、前記原画像データが3色成分からなり、前記データ転送制御部は、前記画素補間部で各画素毎に補間された3色成分を、水平方向に2画素および垂直方向に2画素からなる単位画素領域の3画素に1対1で割り当て且つ前記単位画素領域の1画素には何れの色成分も割り当てずに前記色成分を再配列した画像データを生成するものである。
【0017】
請求項12に係る発明は、請求項7〜11の何れか1項に記載の解像度変換装置であって、前記画素補間部で生成された前記補間データもしくは前記空間フィルタリング処理部から出力された前記補正データの画像サイズを縮小する縮小処理部、を備えるものである。
【0018】
【発明の実施の形態】
図1は、本発明の実施の形態に係る解像度変換機能を備えたデジタル・スチル・カメラ1の全体構成を示す機能ブロック図である。このデジタル・スチル・カメラ1は、AF(オート・フォーカス)機能や自動露出調節機能などを備えた光学機構11を有しており、この光学機構11を通して入射した被写体画像の光がCCDからなる画像撮像センサ12で検出される。また被写体を撮影するタイミングと同期するように光量を調節された光をストロボ(閃光装置)30から発して被写体に照射することができる。アナログ信号処理回路13は、画像撮像センサ12から出力された被写体の画像信号をデジタル化して得られる原画像データをRPU(リアルタイム・プロセッシング・ユニット)14に出力する。RPU14は入力する原画像データに対して、後述する画素補間や色空間変換などの画像処理をリアルタイムに実行する機能を有する。また上記アナログ信号処理回路13とRPU14は、それぞれメイン・バス10と接続されており、アナログ信号処理回路13から出力される原画像データをRPU14に入力させずに、メイン・バス10を介して主メモリ26に転送させ一時記憶させることができる。
【0019】
またRPU14から出力された画像データは主メモリ26のバッファ領域に転送されて一時記憶されたり、メイン・バス10を介してディスプレイ・モジュール20に転送されLCD(液晶表示装置)23に表示されたりする。尚、同図中、符号21はデジタル・エンコーダ、22はLCD駆動回路22を示している。またそのバッファ領域に記憶された画像データは、CPU17やDMA(ダイレクト・メモリ・アクセス)コントローラ24の制御により読み出され、メイン・バス10を介して圧縮処理部25に転送されJPEGやMPEGなどの方式で圧縮符号化された後に、インターフェース27Aに転送され不揮発性メモリからなるメモリ・カード27に格納できる。また圧縮処理部25で圧縮符号化された画像データを外部インターフェース28に転送し、この外部インターフェース28と接続された外部の表示装置やコンピュータなどに転送することも可能である。
【0020】
尚、図1中、符号15は画像撮像センサ12を駆動する駆動回路、符号16はRPU14および駆動回路15などの動作タイミングを規律するタイミング・ジェネレータ、符号18はPLL発信回路、符号19はCPU17の補助演算を実行するコプロセッサを示している。またクロック・ジェネレータ29は、PLL発信回路18から供給されるクロック信号を逓倍もしくは分周することで、RPU14、タイミング・ジェネレータ16、CPU17およびデジタル・エンコーダ21などの全モジュールの駆動クロック信号を生成する。
【0021】
上記画像撮像センサ(CCD撮像センサ)12は、光電効果で発生したキャリア(電子またはホール)をポテンシャル井戸に蓄積する電荷蓄積部と、蓄積されたキャリアに電界を印加して転送するように制御する電荷転送部とを備える一般的なものである。画像撮像センサ12としては、画素を構成するラインのうち偶数番目ラインからなるフィールド(偶数フィールド)と奇数番目ラインからなるフィールド(奇数フィールド)とから交互に画素データを読み出されるインターレース(飛越し走査)タイプのものと、ライン順次に画素データを読み出されるプログレッシブ(順次走査)タイプのものとの何れが使用される。尚、本実施の形態では、画像撮像センサ12としてCCD撮像センサを採用するが、これに限らず、電荷転送部をもたないCMOS撮像センサを採用してもよい。後述するように画像撮像センサ12の感光部上には単板式の色フィルタ・アレイが配設されている。
【0022】
図2は、上記RPU14の概略構成を示す機能ブロック図である。RPU14は集積回路化されており、単一画素処理部14a、画素補間処理部14b、ガンマ補正処理部14c、色空間変換・色抑圧処理部14d、空間フィルタリング処理部14e、コアリング処理部14f、縮小処理部14gおよび出力部14hを備えている。色空間変換・色抑圧処理部14dおよびコアリング処理部14fを除く各ブロック14a〜14c,14e,14gはメイン・バス10と接続されている。よって、画像データをブロック14a〜14hでシリアル(逐次的)に処理させてもよいし、メイン・バス10に接続されたブロックのみで当該画像処理をし、その処理データをメイン・バス10を介して転送してもよい。例えば、主メモリ26に一時記憶された画像データをメイン・バス10経由で画素補間処理部14bに転送し、画素補間処理のみを施した画像データを再度、主メモリ26に転送し格納することが可能である。
【0023】
前記単一画素処理部14aは、入力する画像データを複数フレームもしくは複数フィールドに亘り平均化する経時的平均化処理と、1フレーム単位もしくは1フィールド単位のシェーディング処理との何れか一方を選択的に行う機能を有する。前記の経時的平均化処理は、画像撮像センサ12から通常周期で読み出されアナログ信号処理回路13で増幅されデジタル化された複数フレームもしくは複数フィールドの画像データを、累積加算または循環加算した後に、その加算値を加算回数で除算する平均化処理である。従来、被写体の露光量が足りない場合は、画像撮像センサ12からの画素データの読出しを所定期間停止して、蓄積電荷量を十分に増大させた後に読出しパルスを印加し画素データを読み出していたが、これではノイズも増幅されてしまい映像S/N特性が低下するという問題があった。そこで、本実施の形態の経時的平均化処理では、画素データの読出しを通常周期で実行し、読出した複数フレームまたは複数フィールドに亘る画素データを蓄積して平均化する。これにより、映像S/N特性の低下を防止することが可能となる。単一画素処理部14aは累積加算と循環加算との何れか一方を選択して平均化処理を実行できる。その累積加算による平均化処理の概略は次の通りである。アナログ信号処理回路13から入力する1番目フレームの画素データは主メモリ26のバッファ領域に転送され格納される。次に入力する2番目フレームの画素データは、バッファ領域から読み出した1番目フレームの画素データと加算されバッファ領域に転送されて記憶内容を更新する。このように、入力するi番目(i:3以上の整数)フレームの画素データとバッファ領域から読み出されたi−1番目の画素データとを加算しバッファ領域に転送し蓄積する加算処理(蓄積加算処理)が繰り返し実行される。その後、累積加算データはバッファ領域から読み出され、RPU14の他のブロックに出力される。他方、循環加算による平均化処理では、バッファ領域に蓄積される累積加算データのビット長の増大を防ぐべく、入力する画素データに比率αを乗算し、バッファ領域から読み出された画素データに比率β(=単位長−α)を乗算して双方を加算した後、バッファ領域に転送し蓄積するという加算処理(循環加算処理)が繰り返し実行される。
【0024】
また上記シェーディング処理は、画像の全体が平均的に一様な明るさになるように、各画素の輝度値などをゲイン調整することで実行される。尚、シェーディングとは、光学機構11の中心部に対する周辺部の減光や、画像撮像センサ12の受光感度の不均一に起因して生ずる、被写体画像の本来の輝度と映像信号との間の変換特性の不整合を意味しており、例えば、画像の周辺部が中心部に比べて暗くなるという輝度ムラとなって現れるものである。
【0025】
上記画素補間処理部14bは、前記単一画素処理部14aもしくはメイン・バス10から入力する画素データを用いて、各画素毎に不足の色成分を補間する機能を有する。画像撮像センサ12の感光部上に配設される単板式の色フィルタ・アレイには各種あるが、ベイヤー配列と称するものが多用されている。図3は、「R(赤色)」,「G(緑色)」,「B(青色)」の3原色系色フィルタのベイヤー配列の例を示す概略図である。図3に示す通り、単板の色フィルタ・アレイ40は、太線枠で示した2×2画素の単位画素領域41を繰り返し単位として複数個配列して構成される。単位画素領域41は、2個のGフィルタを対角に配置し、残るRフィルタとBフィルタとを対角に配置してなる。画素補間処理部14bは、このような各色フィルタを透過した光の画素データ(色成分)を用いて各画素毎に不足の色成分を補間する。図3に示した例では、R成分のみをもつ注目画素42aについて補間する場合、画素42aに不足の色成分はG成分とB成分であるから、画素補間処理部14bは当該画素42aの上下左右に隣接する4画素のG成分の平均値を算出し、当該画素42aの斜め四方に隣接する4画素のB成分の平均値を算出する。また、G成分のみをもつ画素42bについて補間する場合、当該画素42bに不足の色成分はR成分とB成分であるから、画素補間処理部14bは当該画素42bの左右に隣接する2画素のR成分の平均値を算出し、当該画素42bの上下に隣接する2画素のB成分の平均値を算出する。また、B成分のみをもつ画素42cについて補間する場合は、当該画素42cの上下左右の4画素のG成分の平均値を算出し、当該画素42cの斜め四方に隣接する4画素のR成分の平均値を算出する。このようにして各画素毎にR,G,Bの3色成分が創り出される。
【0026】
また、上記の3原色系色フィルタの代わりに、「Y(イエロー色)」、「M(マゼンダ色)」、「C(シアン色)」、「G(緑色)」のような補色系色フィルタを用いる場合もある。図4は、補色系色フィルタの配列例を示す概略図である。図4に示す通り、単板の色フィルタ・アレイ43は、太線枠で示した単位画素領域44を繰り返し単位として複数個配列して構成される。単位画素領域44は、左上の画素に「C」、左下の画素に「Y」、右上の画素に「M」、右下の画素に「G」を配置してなる。C成分のみをもつ注目画素45aについて補間する場合、当該画素45aの斜め四方に隣接する4画素のG成分の平均値を算出し、当該画素45aの左右に隣接する2画素のM成分の平均値を算出し、当該画素45aの上下に隣接する2画素のY成分の平均値を算出する。M成分のみをもつ画素45bや、G成分のみをもつ画素45cについての補間処理も同様に実行される。このようにして各画素毎に、Y,M,C,Gの4色成分が創り出される。
【0027】
次に、上記ガンマ補正処理部14cはガンマ補正を実行する機能を有し、色空間変換・色抑圧処理部14dは、原信号がカラー画像信号の場合に例えばRGB信号からYCbCr信号へ色空間を変換する色空間変換機能と、画像中の明部と暗部の色抑圧(クロマサプレス;偽色防止)を行う色抑圧機能とを有してる。色空間変換機能で変換先の色空間としては、YCbCr色空間の他に、NTSC(National Television System Commitee)方式などで規定されているYUV色空間やYIQ色空間などを採用しても構わない。また色抑圧機能では画像に現れる明部および暗部の発色を抑制することで自然な画質が得られる。一般に、画像に現れる暗部は様々なノイズの影響を受けやすい性質をもつため、暗部ではできるだけ発色を抑制することが自然な画質を出すことにつながる。一方、画像の現れる明部は当該明部を撮像した撮像素子やその他の種々のハードウェアの特性に応じて変調の影響を受け易い部分でありホワイトバランスが狂い易い部分であるため、出来るだけ発色を抑制することが自然な画質を出すことにつながる。これらを考慮して色抑圧機能は画像中の明部と暗部の発色を抑制する。
【0028】
次に、上記空間フィルタリング処理部14eは、画像データの5×5画素程度の局所領域に空間フィルタ(重みマスク)を適用し、重みマスクの係数値を対応する画素データに重み付け(乗算)し加算するという積和演算を実行する機能を有する。空間フィルタの係数値データは、空間フィルタリング処理を実行する際にCPU17からキャッシュ(図示せず)に転送されて使用される。図5は、5×5画素の空間フィルタ50を示す模式図であり、図6は、その空間フィルタ50を適用された、2次元配列した画素53,53,…からなる入力画像データ51を示す模式図である。図5に示す通り、空間フィルタ50は、各画素値に重み付ける係数値K(0,0),K(0,1),…,K(4,4)を備えており、空間フィルタ50が図6に示す入力画像データ51の局所領域52に適用された場合、局所領域52中のi行j列目(i,j:整数)の注目画素値g(i,j)についてi行j列目の出力画素値O(i,j)を出力する。ここで、出力画素値O(i,j)は次式(1)に従って算出される。
【0029】
【数1】
【0030】
上式(1)において、出力画素値O(i,j)に所定の補正値を加算してもよいし、出力画素値O(i,j)を2の巾乗値で除算して算術シフトさせてもよい。空間フィルタリング処理部14eは、空間フィルタ50を適用する5×5画素分の画素データをレジスタ(図示せず)に記憶しておき、レジスタから各画素値を選択的に読み出し、対応する係数K(m,n)と乗算させて加算し出力する。コアリング処理部14fは、空間フィルタリング処理部14eから出力された画像データに対して、高域成分が一定レベルを超えたときに一般的な非線形処理(コアリング)を施す。以上の空間フィルタリング処理部14eとコアリング処理部14fとで画像に含まれる雑音を低減されたり、線およびエッジ部分を強調する輪郭強調処理が実行されたりする。
【0031】
次に、縮小処理部14gは、CPU17から指定された縮小率βに基づいて入力する画像データのサイズを一般的なバイリニア法(線形補間法)などで縮小する機能を有する。例えば、縮小率βが0.5倍の値をもつ場合、縮小処理部14gは入力する画像データの水平ライン数と水平画素数とをそれぞれ半分に解像度変換した画像データを出力する。
【0032】
実施の形態1.
以上の構成を有するデジタル・スチル・カメラ1を用いた実施の形態1に係る解像度変換処理の例を図7〜図9を参照しつつ以下に詳説する。図7は、本実施の形態1に係る解像度変換処理の一例を示すフローチャート、図8は、その解像度変換処理を説明するための概略図、図9は、その解像度変換処理における処理データの流れを示すブロック図である。尚、説明の便宜上、画像撮像センサ12から出力される画像データの画像サイズは4×4画素であるものとする。
【0033】
先ず、ステップS1で、アナログ信号処理回路13から、R,G,Bの3原色成分からなる原画像データがRPU14の単一画素処理部14aに入力する。単一画素処理部14aは、上述した通り、単一画素単位で経時的平均化処理とシェーディング処理とを実行する。経時的平均化処理は、入力する複数フレームもしくは複数フィールドに亘る画素データを原画像データ・バッファ26aを用いて所定期間、累積加算もしくは循環加算するものである。アナログ信号処理回路13から入力する画素データは、原画像データ・バッファ26aから読み出された画素データと累積加算または循環加算された後、原画像データ・バッファ26aにDMA転送され記憶内容を更新する。このように経時的平均化処理を施され原画像データ・バッファ26aに転送された画像データが、図8に示す原画像データ60である。
【0034】
次のステップS2で、単一画素処理部14aで処理を終えた画素データは原画像データ・バッファ26aから画素補間処理部14bにDMA転送される。そして、画素補間処理部14bは上述した通り、入力する画素データを用いて画素補間処理を実行して補間データを出力し、その補間データは補間データ・バッファ26bにDMA転送される。図8に示すように、画素補間を施され補間データ・バッファ26bに格納された補間データ61は、各画素に対応するR,G,Bの3色成分を有し、R成分のみのRフィールド61a、G成分のみのGフィールド61bおよびB成分のみのBフィールド61cで構成されている。
【0035】
次のステップS3で、前記補間データ61は、画像撮像センサ12における単板式の色フィルタ配列と略一致するように各色成分を再配列されて読み出され、画素補間処理部14bへDMA転送される。ここで、DMAコントローラ24の制御により補間データ61を画素補間処理部14bへDMA転送する代わりに、CPU17の制御により補間データ61を画素補間処理部14bへ転送してもよい。このように、同一の空間的位置(画素)をもつ3色成分は、補間データ・バッファ26bから読み出される際に互いに分離され、それら3色成分は各画素に割り当てられるように再配列される。よって、図8に示すように再配列後の画像データ62では、Rフィールド61aの0行0列目のR成分は、2×2画素の単位画素領域62a内の0行0列目に空間的位置(光学的位置)を定められ、Gフィールド61bの0行0列目のG成分は、単位画素領域62a内の0行1列目に空間的位置を定められ、そしてBフィールド61cの0行0列目のB成分は、単位画素領域62a内の1行1列目に空間的位置を定められる。但し、単位画素領域62a内の1行0列目のX成分は何れの色成分も配置されないものである。同一の空間的位置をもつ3色成分を2×2画素に再配列し、各色成分の空間的位置を元の位置から移動させているから、解像度の低下を避けることができない。そこで、その解像度の低下を低減する目的で、上記X成分の位置には敢えて何れの色成分も配置されていない。このようにして、原画像データ60を水平方向と垂直方向とにそれぞれ画素数を2倍に解像度変換(拡大)された画像データ62が画素補間処理部14bに入力する。
【0036】
次のステップS4で、画素補間処理部14bで次に実行する画素補間処理が最後か否かが判定される。当該画素補間処理が最後の場合、ステップS5で、画素補間処理部14bは入力する画像データ62について上記ステップS2と略同様の手順で第2回目の画素補間を実行し、その補間データをガンマ補正処理部14cに順次出力する。但し、X成分は何れの色成分をもたないため不足の3色成分を補間する必要がある。例えば、X成分の上下に隣接する2画素のR成分の平均値を算出してR成分を補間し、当該X成分の左右に隣接する2画素のB成分の平均値を算出してB成分を補間し、当該X成分の斜め四方に隣接する4画素のG成分の平均値を算出してG成分を補間することができる。このように、図8に示すように画素補間によりサイズが拡大した補間データ63は、各画素に対応するR,G,Bの3色成分を有し、R成分のみのRフィールド63a、G成分のみのGフィールド63bおよびB成分のみのBフィールド63cで構成されている。
【0037】
他方、上記ステップS4で当該画素補間処理が最後でない旨が判定された場合は、ステップS6で、前記ステップS5と同様に画素補間処理部14bは入力する画像データ62について第2回目の画素補間を実行して補間データを出力し、その補間データはメイン・バス10を介して主メモリ26の補間データ・バッファ26bにDMA転送され記憶内容を更新する。次いで、上記ステップS4で当該画素補間処理が最後である旨が判定される迄、上記ステップS3,S4,S6の処理が繰り返し実行される。その繰り返し回数がn回(n:整数)の場合、画素補間処理部14bからガンマ補正処理部14cに出力される画像データのサイズは拡大率2n(=α)倍に解像度変換されることとなる。
【0038】
次のステップS7で、上記画素補間処理部14bから出力された画像データは、ガンマ補正処理部14c、色空間変換・色抑圧処理部14d、空間フィルタリング処理部14e、コアリング処理部14fおよび縮小処理部14gで逐次的に処理された後、出力部14hからメイン・バス10に転送され、処理データ・バッファ26cに書き出される。ここで、縮小処理部14gは、上述したようにCPU17から指定された縮小率βに基づいて画像サイズを縮小できる。よって、例えば、原画像データ60の画像サイズを1.5倍に拡大したい場合、上記ステップS3,S4,S6を1回実行して原画像データ60のサイズを2倍に拡大した後、前記ステップS7でその縮小率βを0.75倍に設定すればよい。これにより原画像データ60は2.0×0.75=1.5倍に拡大される。
【0039】
次のステップS8で、CPU17は処理データ・バッファ26cに格納された画像データを読み出し、主メモリ26に設けた一時記憶データ・バッファ26dを利用して圧縮符号化などした後に、外部インターフェース28を介して外部機器に出力させる。
【0040】
以上の実施の形態1によれば、画素補間処理部14bで画素補間を施された補間データの色成分を再配列し、再度、画素補間処理部14bで画素補間することをn回繰り返し実行するため、原画像データ60の画像サイズを2n倍に解像度変換(拡大)することが可能となる。その解像度変換はハードウェア構成の画素補間処理部14bを用いて実行されることから、ソフトウェア処理で画像拡大処理を行う場合と比べて演算速度が大幅に向上する。また画像拡大用の回路構成をRPU14内に設ける必要が無いため低コストの画像拡大機能を実現することが可能である。更に、縮小処理部14gにおいて任意の縮小率βで画像を縮小できることから、画像の拡大率α(=2n倍)と縮小率βとを組み合わせることで、任意の拡大率γ=α・βで画像を拡大することが可能となる。
【0041】
実施の形態2.
次に、図10,11を参照しつつ、本発明の実施の形態2に係る解像度変換処理について説明する。図10は、本実施の形態2に係る解像度変換処理の一例を示すフローチャート、図11は、本実施の形態2に係る解像度変換処理における処理データの流れを示すブロック図である。尚、図10中、図7と同じステップ番号を付したブロックでは上記と略同一処理が実行されるものとして、その詳細な説明を省略する。
【0042】
先ず、ステップS1〜S3の処理は、上記実施の形態1における処理と同じである。すなわち、ステップS1では、単一画素処理部14aは入力する原画像データに対して単一画素単位で経時的平均化処理とシェーディング処理とを実行しその処理データを出力する。出力されたその処理データは主メモリ26の原画像データ・バッファ26aにDMA転送され格納される。続くステップS2では、原画像データ・バッファ26aから転送された原画像データ60に対して画素補間処理を施すことで、各画素に対応する3色成分を有する補間データ61が生成される。そしてステップS3で、その補間データ61の各色成分は再配列されて、補間データ・バッファ26bから画素補間処理部14bに転送される。
【0043】
次のステップS10では、画素補間処理部14bは入力する各色成分の画素データを用いて第2回目の画素補間処理を行い、その補間データを、再度、前記補間データ・バッファ26bにDMA転送させる。これにより、補間データ・バッファ26bは、画像サイズが2倍に解像度変換された補間データを格納することになる。
【0044】
次のステップS11で、補間データ・バッファ26bに格納された補間データは、空間フィルタリング処理部14eにDMA転送される。そして、空間フィルタリング処理部14eは、各色成分に対応した空間フィルタ(重みマスク)を用いて、入力する補間データの色ずれを補正し、その補正データを補間データ・バッファ26bにDMA転送させる。図12は、色ずれ補正用の空間フィルタの例を示す概略図である。同図(a)はG成分補正用の空間フィルタ50G、同図(b)はB成分補正用の空間フィルタ50Bを示してる。上記した通り、上記ステップS3において同一の空間的位置(光学的位置)にあった3色成分は再配列により互いに異なる空間的位置に分離される。すなわち、図8に示すように、R成分は2×2画素の単位画素領域62aの0行0列目に、G成分は単位画素領域62aの0行1列目に、B成分は単位画素領域62aの1行1列目に配置される。その結果、そのG成分は、R成分に対して水平方向に1画素ずれた位置に配置され、そのB成分はR成分に対して水平方向に1画素および垂直方向に1画素ずれた位置に配置される。それら色ずれを補正するため、空間フィルタ50BはB成分の空間的位置を水平方向にマイナス1画素分移動させるフィルタであり、空間フィルタ50Bの係数K(2,3)は単数(=1)、それ以外の係数K(i,j)は全て零値である。また空間フィルタ50GはG成分の空間的位置を垂直方向にマイナス1画素分且つ水平方向にマイナス1画素分、R成分の空間的位置に対して相対移動させるフィルタであり、空間フィルタ50Gの係数K(3,3)は単数(=1)、それ以外の係数K(i,j)は全て零値となる。
【0045】
上記ステップS11の後のステップS12では、再度の画素補間処理を実行するか否かが判定され、その画素補間処理を実行する場合は、上記ステップS3に処理が戻り、その再度の画素補間処理を実行しないと判定される迄、上記ステップS3,S10,S11の処理がn回(n:自然数)繰り返し実行される。
【0046】
このようにして画像サイズを2n倍に解像度変換され色ずれを補正された画像データを補間データ・バッファ26bに格納後、ステップS13では、その画像データはガンマ補正処理部14cにDMA転送され、ガンマ補正処理部14c、色空間変換・色抑圧処理部14d、空間フィルタリング処理部14e、コアリング処理部14fおよび縮小処理部14gで逐次的に処理された後、出力部14hからメイン・バス10に転送され、処理データ・バッファ26cに書き出される。ステップS8では、上記実施の形態1と同様に、CPU17は処理データ・バッファ26cに格納された画像データを読出し、一時記憶データ・バッファ26dを利用して圧縮符号化などした後に、外部インターフェース28を介して外部機器に出力させる。
【0047】
このように本実施の形態2によれば、上記ステップS11において、上記ステップS3,S10で色成分を再配列され画素補間を施された画像データの色ずれを空間フィルタを用いて補正するから、色成分の再配列による解像度の低下を防止し高解像度の拡大画像を得ることが可能となる。
【0048】
【発明の効果】
以上の如く、本発明の請求項1に係る解像度変換方法および請求項7に係る解像度変換装置によれば、不足の色成分を画素補間する画素補間法を利用して原画像データの画像サイズを拡大できることから、従来のバイリニア法やバイキュービック法などを用いた処理負荷の大きい画像拡大機能が不要となり、処理時間を大幅に短縮化することが可能となる。また、既存の画素補間回路を転用して画像を拡大できるため、専用の画像拡大機能を回路中に組み込む必要が無く、回路全体の電力消費量を低減できると共に回路の製作コストを低く抑えることが可能となる。
【0049】
請求項2によれば、色成分の再配列を1回実行したときの画像サイズの拡大率をδで表せば、上記工程(b),(c)をn回実行することで、原画像データの画像サイズをδn倍に拡大することが可能となる。また請求項8でも、請求項2と同様に、色成分を再配列された前記画像データを上記画素補間部にn回転送することで、原画像データの画像サイズをδn倍に拡大できる。
【0050】
請求項3および請求項9によれば、色成分を再配列することで発生する色ずれを補正でき、高い解像度をもつ拡大画像を得ることが可能となる。また、本請求項の解像度変換方法を実行するには、輪郭強調などに使用する空間フィルタを転用すれば足りるため、色ずれ防止用の空間フィルタを回路中に設ける必要が無く、回路全体の電力消費量を低減できると共に回路の製作コストを低く抑えることが可能となる。
【0051】
請求項4および請求項10によれば、色ずれを補正された高解像度の拡大画像を得ることが可能となる。
【0052】
請求項5および請求項11によれば、同一の空間的位置をもつ3色成分を上記単位画素領域の4画素に割り当てると色ずれが拡大するため、上記単位画素領域の1画素に何れの色成分も割り当てないことで解像度の低下を防ぐことができる。
【0053】
請求項6および請求項12によれば、例えば、画像サイズの縮小率がβ倍(0≦β<1)で、上記色成分の再配列による画像の拡大率がδn倍(δ>1)のとき、拡大率δnと縮小率βとを組み合わせることで原画像データを任意の拡大率γ=δn・βで拡大することが可能となる。
【図面の簡単な説明】
【図1】本発明の実施の形態に係る解像度変換装置を搭載したデジタル・スチル・カメラの全体構成を示す機能ブロック図である。
【図2】本実施の形態に係るRPU(リアルタイム・プロセッシング・ユニット)の概略構成を示す機能ブロック図である。
【図3】3原色系色フィルタのベイヤー配列の例を示す概略図である。
【図4】補色系色フィルタの配列例を示す概略図である。
【図5】空間フィルタを示す模式図である。
【図6】空間フィルタを適用された入力画像データを示す模式図である。
【図7】本発明の実施の形態1に係る解像度変換処理の一例を示すフローチャートである。
【図8】実施の形態1に係る解像度変換処理を説明するための概略図である。
【図9】実施の形態1に係る解像度変換処理における処理データの流れを示すブロック図である。
【図10】本発明の実施の形態2に係る解像度変換処理の一例を示すフローチャートである。
【図11】実施の形態2に係る解像度変換処理における処理データの流れを示すブロック図である。
【図12】実施の形態2で用いる空間フィルタの例を示す概略図であり、(a)はG成分用の空間フィルタ、(b)はB成分用の空間フィルタを示す図である。
【符号の説明】
1 デジタル・スチル・カメラ
10 メイン・バス
11 光学機構
12 画像撮像センサ
13 アナログ信号処理回路
14 RPU
14a 単一画素処理部
14b 画素補間処理部
14c ガンマ補正処理部
14d 色空間変換・色抑圧処理部
14e 空間フィルタリング処理部
14f コアリング処理部
14g 縮小処理部
14h 出力部
Claims (12)
- 各画素に単色成分をもつカラー原画像データの画像サイズを拡大する解像度変換方法であって、
(a)入力する画像データに対して各画素毎に不足の色成分を画素補間することで、各画素毎に複数の色成分をもつ補間データを生成する工程と、
(b)前記補間データにおける各画素の前記複数の色成分を再配列し、当該複数の色成分の各々を1画素に対応付けた画像データを生成する工程と、
(c)前記工程(b)で生成された前記画像データに対して前記工程(a)を再度実行して補間データを生成する工程と、
を備えることを特徴とする解像度変換方法。 - 請求項1記載の解像度変換方法であって、前記工程(b)における前記補間データとして、前記工程(c)で生成された前記補間データを用いて前記色成分を再配列し、前記工程(b)および前記工程(c)を繰り返し実行する、解像度変換方法。
- 請求項1または2記載の解像度変換方法であって、
(d)前記工程(c)で生成された前記補間データに対して、前記工程(b)で再配列された前記複数の色成分の空間的位置を、当該複数の色成分の中の1色成分の空間的位置に一致させるように相対移動させる空間フィルタリング処理を実行する工程、
を備える解像度変換方法。 - 請求項3記載の解像度変換方法であって、前記工程(b)における前記補間データとして、前記工程(d)で生成された前記補間データを用いて前記色成分を再配列し、前記工程(b)〜(d)を繰り返し実行する、解像度変換方法。
- 請求項1〜4の何れか1項に記載の解像度変換方法であって前記工程(b)において、前記工程(a)で各画素毎に補間された3色成分を、水平方向に2画素および垂直方向に2画素からなる単位画素領域の3画素に1対1で割り当て且つ前記単位画素領域の1画素には何れの色成分も割り当てない、解像度変換方法。
- 請求項1〜5の何れか1項に記載の解像度変換方法であって、
(e)前記工程(c)で生成された前記補間データもしくは前記工程(d)で空間フィルタリング処理を施された補間データの画像サイズを縮小する工程、
を備える解像度変換方法。 - 各画素に単色成分をもつカラー原画像データの画像サイズを拡大する解像度変換装置であって、
入力する画像データに対して各画素毎に不足の色成分を画素補間することで、各画素毎に複数の色成分をもつ補間データを生成し出力する画素補間部と、
前記画素補間部から出力された前記補間データにおける前記複数の色成分を再配列し、当該複数の色成分の各々を1画素に対応付けた画像データを生成し前記画素補間部に転送させるデータ転送制御部と、
を備えることを特徴とする解像度変換装置。 - 請求項7記載の解像度変換装置であって、前記データ転送制御部は、前記色成分を再配列した前記画像データを繰り返し画素補間部に転送する、解像度変換装置。
- 請求項7または8記載の解像度変換装置であって、前記色成分を再配列され且つ前記画素補間部で画素補間された補間データに対して、再配列された前記複数の色成分の空間的位置を、当該複数の色成分の中の1色成分の空間的位置に一致させるように相対移動させる空間フィルタリング処理を実行する空間フィルタリング処理部、を備える解像度変換装置。
- 請求項9記載の解像度変換装置であって、前記データ転送制御部は、前記空間フィルタリング処理部から出力された補正データを前記画素補間部に繰り返し転送する、解像度変換装置。
- 請求項7〜10の何れか1項に記載の解像度変換装置であって、前記原画像データが3色成分からなり、
前記データ転送制御部は、前記画素補間部で各画素毎に補間された3色成分を、水平方向に2画素および垂直方向に2画素からなる単位画素領域の3画素に1対1で割り当て且つ前記単位画素領域の1画素には何れの色成分も割り当てずに前記色成分を再配列した画像データを生成する、解像度変換装置。 - 請求項7〜11の何れか1項に記載の解像度変換装置であって、前記画素補間部で生成された前記補間データもしくは前記空間フィルタリング処理部から出力された前記補正データの画像サイズを縮小する縮小処理部、を備える解像度変換装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001135155A JP4412446B2 (ja) | 2001-05-02 | 2001-05-02 | 解像度変換方法および解像度変換装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001135155A JP4412446B2 (ja) | 2001-05-02 | 2001-05-02 | 解像度変換方法および解像度変換装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002330283A JP2002330283A (ja) | 2002-11-15 |
JP4412446B2 true JP4412446B2 (ja) | 2010-02-10 |
Family
ID=18982673
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001135155A Expired - Fee Related JP4412446B2 (ja) | 2001-05-02 | 2001-05-02 | 解像度変換方法および解像度変換装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4412446B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006065497A (ja) * | 2004-08-25 | 2006-03-09 | Sanyo Electric Co Ltd | データ処理装置、データ処理方法、データ処理プログラム |
US7974489B2 (en) | 2007-05-30 | 2011-07-05 | Avago Technologies Ecbu Ip (Singapore) Pte. Ltd. | Buffer management for an adaptive buffer value using accumulation and averaging |
KR101086501B1 (ko) | 2008-11-26 | 2011-11-25 | 주식회사 하이닉스반도체 | 이미지 데이터 프로세싱 방법, 이미지센서 및 집적회로 |
JP6523638B2 (ja) | 2014-09-11 | 2019-06-05 | シナプティクス・ジャパン合同会社 | 表示パネルドライバ、表示装置、画像処理装置及び画像処理方法 |
-
2001
- 2001-05-02 JP JP2001135155A patent/JP4412446B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002330283A (ja) | 2002-11-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7948543B2 (en) | Imaging apparatus provided with image scaling function and image data thinning-out readout function | |
KR100580911B1 (ko) | 화상합성방법 및 촬상장치 | |
JP4142340B2 (ja) | 撮像装置 | |
US6778216B1 (en) | Method and apparatus for digital camera real-time image correction in preview mode | |
US7479998B2 (en) | Image pickup and conversion apparatus | |
JP4555775B2 (ja) | 撮像装置 | |
JP2004208336A (ja) | 輝度勾配を用いたフルカラーイメージ適応的補間装置 | |
JP2004221839A (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
US8982248B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and program | |
JP4285948B2 (ja) | 撮像装置 | |
US7492396B2 (en) | Digital image processing apparatus and method thereof | |
US7236194B2 (en) | Image signal processing apparatus | |
JP4077161B2 (ja) | 撮像装置、輝度補正方法、およびその方法をコンピュータで実行するためのプログラム | |
JP4412446B2 (ja) | 解像度変換方法および解像度変換装置 | |
JP4246244B2 (ja) | 撮像装置 | |
KR100719988B1 (ko) | 화상 신호 처리 장치 | |
JP2007180893A (ja) | 画像処理装置および撮像装置 | |
JP3983500B2 (ja) | データ変換回路およびデジタル・カメラ | |
JP3696536B2 (ja) | データ変換回路 | |
JP4677582B2 (ja) | 画像処理装置 | |
JP4260769B2 (ja) | 画像処理回路 | |
JP2006262382A (ja) | 画像処理装置 | |
JP3711402B2 (ja) | 撮像装置及びカラー撮像信号の処理方法 | |
JPH06315154A (ja) | カラー撮像装置 | |
JP3810699B2 (ja) | 解像度変換装置および撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080423 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080423 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091016 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091110 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091110 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121127 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121127 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121127 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151127 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |