JP2003348608A - 画像処理方法、画像処理プログラム、画像処理装置 - Google Patents
画像処理方法、画像処理プログラム、画像処理装置Info
- Publication number
- JP2003348608A JP2003348608A JP2002150788A JP2002150788A JP2003348608A JP 2003348608 A JP2003348608 A JP 2003348608A JP 2002150788 A JP2002150788 A JP 2002150788A JP 2002150788 A JP2002150788 A JP 2002150788A JP 2003348608 A JP2003348608 A JP 2003348608A
- Authority
- JP
- Japan
- Prior art keywords
- color
- image
- image processing
- processing method
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
Abstract
等で得られた画像データに基づき高精細な正方格子配列
した画像データを出力する画像処理方法、画像処理プロ
グラム、画像処理装置を提供すること。 【解決手段】RGBの色成分からなるデルタ配列の画像
データを取得し、デルタ配列の三角格子状の画素位置で
補間処理を行い、補間処理された三角格子状の画素位置
の画像データを1行おきに画素位置を1/2画素ピッチ
ずらす1次元変位処理を行い、1次元変位処理をしたデ
ータと1次元変位処理をしないデータとを合わせて正方
格子状に配置された画像データを出力する。
Description
ーフィルタで得られる画像データを処理する画像処理方
法、画像処理プログラム、画像処理装置に関する。
より被写体を撮像する。この撮像素子において、RGB
(赤緑青)の3色のカラーフィルタを図24(a)に示
すように配列したベイア配列が知られている。また、図
24(b)に示すように配列したデルタ配列も知られて
いる。さらに、図24(c)に示すように配列したハニ
カム配列も知られている。ベイア配列で得られる画像デ
ータについては、例えば、米国特許5,552,827号、米国
特許5,629,734号、特開2001-245314号公報などのよう
に、各種の画像処理方法が提案されている。
ついては、特開平8-340455号公報、米国特許5,805,217
号などで画像処理方法が提案されている。
5,217号では、デルタ配列固有の特性に応じた画像処理
がなされていない。また、特開平8-340455号公報では、
簡単な画像復元方法しか提案されていない。また、ベイ
ア配列で提案されている各種の画像処理方法は、必ずし
も、そのままデルタ配列に適用できない。
ラーフィルタ等で得られた画像データに基づき高精細な
正方格子配列した画像データを出力する画像処理方法、
画像処理プログラム、画像処理装置を提供する。
理方法に適用され、複数の色成分からなる表色系で表さ
れ、1つの画素に少なくとも1つの色成分の色情報を有
する複数の画素からなり、複数の画素は三角格子状に配
置された第1の画像を取得する画像取得手順と、取得し
た第1の画像の色情報を用いて、少なくとも1つの新し
い色情報を、第1の画像と同じ三角格子状の画素位置に
生成する色情報生成手順と、生成された色情報を含む三
角格子状の画素位置にある複数の画素の色情報を、一方
向に並ぶ画素間において一次元変位処理を行うことによ
って、各画素間位置の色情報に変換する画素位置変換手
順と、画素位置が変換された色情報を使用して、複数の
画素が正方格子状に配置された第2の画像を出力する出
力手順を備えるものである。請求項2の発明は、請求項
1記載の画像処理方法において、新しい色情報は、第1
の画像の表色系の色成分のうち第1の画像の各画素にお
いて欠落する色成分の色情報であるとするものである。
請求項3の発明は、請求項1記載の画像処理方法におい
て、新しい色情報は、第1の画像の表色系とは異なる表
色系の色情報であるとするものである。請求項4の発明
は、請求項1〜3のいずれか1項に記載の画像処理方法
において、一次元変位処理は、正及び負の係数値からな
る一次元フィルタを用いて行うこととするものである。
請求項5の発明は、請求項1〜4のいずれか1項に記載
の画像処理方法において、一次元変位処理は、第1の画
像に対して、行単位で一行置きに行うこととするもので
ある。請求項6の発明は、請求項1〜5のいずれか1項
に記載の画像処理方法において、少なくとも3方向に対
する類似性の強弱を判定する類似性判定手順をさらに備
え、色情報生成手順では、判定された類似性の強さに応
じて新しい色情報を生成することとするものである。請
求項7の発明は、請求項6に記載の画像処理方法におい
て、類似性判定手順では、少なくとも3方向に対する類
似度を算出し、類似度の逆数に基づいて各方向の類似性
の強弱を判定することとするものである。請求項8の発
明は、請求項1〜7のいずれか1項に記載の画像処理方
法において、生成された色情報を含む三角格子状の画素
位置にある複数の画素の色情報に基づき、三角格子状の
画素位置に色差成分の色情報を生成する色差生成手順
と、色差生成手順で生成された色差成分の色情報を補正
する補正手順とをさらに備えるとするものである。請求
項9の発明は、請求項1〜7のいずれか1項に記載の画
像処理方法において、生成された色情報を含む三角格子
状の画素位置にある複数の画素の色情報に基づき、三角
格子状の画素位置に輝度成分の色情報を生成する輝度生
成手順と、輝度生成手順で生成された輝度成分の色情報
を補正する補正手順とをさらに備えるとするものであ
る。請求項10の発明は画像処理方法に適用され、第1
〜第n色成分(n≧2)で表され、1つの画素に1つの
色成分の色情報を有する複数の画素が三角格子状に配置
された第1の画像を取得する画像取得手順と、取得した
第1の画像の色情報を用いて、第1色成分が欠落する画
素に第1色成分の色情報を補間する補間手順と、第1の
画像の色情報と補間された色情報とに基づき、第2の画
像を出力する出力手順とを備え、補間手順は、第1の画
像の補間対象画素に関して、1)第1色成分の平均情報
を可変な演算により求め、2)第1〜第nの何れか少な
くとも1つの色成分の曲率情報を固定の演算により求
め、平均情報と曲率情報に基づいて補間を行うものであ
る。請求項11の発明は、請求項10に記載の画像処理
方法において、少なくとも3方向に対する類似性の強弱
を判定する類似性判定手順をさらに備え、補間手順は、
類似性判定手順で判定された類似性の強さに応じて第1
色成分の平均情報の演算を可変にすることとするもので
ある。請求項12の発明は、請求項10または11に記
載の画像処理方法において、曲率情報を2次微分演算に
より求めることとするものである。請求項13の発明
は、請求項10〜12のいずれか1項に記載の画像処理
方法において、第1〜第3色成分で表される第1の画像
を入力するとき、第1〜第3の全ての色成分の曲率情報
に基づいて補間を行うこととするものである。請求項1
4の発明は、請求項1〜13のいずれか1項に記載の画
像処理方法の手順をコンピュータに実行させるための画
像処理プログラムとするものである。。請求項15の発
明は、請求項14の画像処理プログラムを記録したコン
ピュータ読みとり可能な記録媒体とするものである。請
求項16の発明は、請求項14の画像処理プログラムを
搭載した画像処理装置とするものである。
る電子カメラの機能ブロック図である。電子カメラ1
は、A/D変換部10、画像処理部11、制御部12、
メモリ13、圧縮/伸長部14、表示画像生成部15を
備える。また、メモリカード(カード状のリムーバブル
メモリ)16とのインタフェースをとるメモリカード用
インタフェース部17および所定のケーブルや無線伝送
路を介してPC(パーソナルコンピュータ)18等の外
部装置とのインタフェースをとる外部インタフェース部
19を備える。これらの各ブロックはバス29を介して
相互に接続される。画像処理部11は、例えば、画像処
理専用の1チップ・マイクロプロセッサで構成される。
0、撮像素子21、アナログ信号処理部22、タイミン
グ制御部23を備える。撮像素子21には撮影光学系2
0で取得された被写体の光学像が結像し、撮像素子21
の出力はアナログ信号処理部22に接続される。アナロ
グ信号処理部22の出力は、A/D変換部10に接続さ
れる。タイミング制御部23には制御部12の出力が接
続され、タイミング制御部23の出力は、撮像素子2
1、アナログ信号処理部22、A/D変換部10、画像
処理部11に接続される。撮像素子21は例えばCCD
などで構成される。
やモード切り換え用の選択ボタン等に相当する操作部2
4およびモニタ25を備える。操作部24の出力は制御
部12に接続され、モニタ25には表示画像生成部15
の出力が接続される。
タ27等が接続されており、CD−ROM28に記録さ
れたアプリケーションプログラムが予めインストールさ
れている。また、PC18は、不図示のCPU、メモ
リ、ハードディスクの他に、メモリカード16とのイン
タフェースをとるメモリカード用インタフェース部(不
図示)や所定のケーブルや無線伝送路を介して電子カメ
ラ1等の外部装置とのインタフェースをとる外部インタ
フェース部(不図示)を備える。
て、操作部24を介し、操作者によって撮影モードが選
択されてレリーズボタンが押されると、制御部12は、
タイミング制御部23を介して、撮像素子21、アナロ
グ信号処理部22、A/D変換部10に対するタイミン
グ制御を行う。撮像素子21は、光学像に対応する画像
信号を生成する。その画像信号は、アナログ信号処理部
22で所定の信号処理が行われ、A/D変換部10でデ
ィジタル化され、画像データとして、画像処理部11に
供給される。
子21において、R(赤)、G(緑)、B(青)のカラ
ーフィルタがデルタ配列(後述)されているので、画像
処理部11に供給される画像データはRGB表色系で示
される。画像データを構成する各々の画素には、RGB
の何れか1つの色成分の色情報が存在する。
に対し、後述する画像データ変換処理を行う他に、階調
変換や輪郭強調などの画像処理を行う。このような画像
処理が完了した画像データは、必要に応じて、圧縮/伸
長部14で所定の圧縮処理が施され、メモリカード用イ
ンタフェース部17を介してメモリカード16に記録さ
れる。
圧縮処理を施さずにメモリカード16に記録したり、P
C18側のモニタ26やプリンタ27で採用されている
表色系に変換して、外部インタフェース部19を介して
PC18に供給しても良い。また、操作部24を介し、
操作者によって再生モードが選択されると、メモリカー
ド16に記録されている画像データは、メモリカード用
インタフェース部17を介して読み出されて圧縮/伸長
部12で伸長処理が施され、表示画像生成部15を介し
てモニタ25に表示される。
モニタ25に表示せず、PC18側のモニタ26やプリ
ンタ27で採用されている表色系に変換して、外部イン
タフェース部19を介してPC18に供給しても良い。
画像データについて、三角格子上で補間処理し、コンピ
ュータ上の取り扱いが容易な正方格子データに復元する
処理について説明する。図25は、これらの処理の概念
を示す図である。三角格子とは、撮像素子の画素が1行
ごとに1/2画素ずれて配列された並びを言う。隣接す
る各画素の中心を結ぶと三角形を形成する並びである。
画素の中心点を格子点と言ってもよい。図24(b)の
デルタ配列は、三角格子状に配列されたものである。図
24(b)のような配列で得られる画像は、画素が三角
配置された画像と言ってもよい。正方格子とは、撮像素
子の画素が1行ごとにずれないで配列された並びを言
う。隣接する各画素の中心を結ぶと四角形を形成する並
びである。図24(a)のベイア配列は正方格子状に配
列されたものである。図24(a)のような配列で得ら
れる画像は、画素が矩形(四角)配置された画像と言っ
てもよい。
データを1行おきに1/2画素ずらす処理をすると、正
方格子データが生成される。三角格子上で補間処理をす
るとは、デルタ配列で得られた画像データの状態で補間
処理をすることを言う。すなわち、デルタ配列の画素位
置に欠落する色成分の色情報を補間することを言う。
概要を示すフローチャートである。ステップS1では、
デルタ配列の撮像素子21で得られた画像を入力する。
ステップS2において、類似度の算出を行う。ステップ
S3では、ステップS2で得られた類似度に基づき類似
性を判定する。ステップS4では、ステップS3で得ら
れた類似性の判定結果に基づいて、各画素において欠落
する色成分の補間値を算出する。ステップS5では、得
られたRGBカラー画像を出力する。ステップS5で出
力されるRGBカラー画像は三角格子上で得られた画像
データである。
れた画像データに対して1次元変位処理を行う。1次元
変位処理は、後述するように、1行おきの画像データに
対して行う。ステップS7で、1次元変位処理を行った
画像データと行わなかった画像データを合わせて正方格
子画像データを出力する。ステップS1〜S5は、三角
格子上での補間処理であり、ステップS6、S7は正方
化処理である。以下、これらの処理の詳細について説明
する。
いて説明する。図3は、デルタ配列の撮像素子21によ
り得られた画素の位置関係を示す図である。撮像素子2
1の画素は1行ごとに1/2画素ずれて配置され、カラ
ーフィルターはRGBの色成分が1:1:1の割合で各
画素上に配列されている。すなわち、均等に色配分され
ている。参考に、ベイア配列のカラーフィルタはRGB
が1:2:1の割合で配列されている(図24
(a))。
成分の色情報を有する画素をB画素、G成分の色情報を
有する画素をG画素と言う。撮像素子21で得られた画
像データは、各画素に1つの色成分の色情報しか有しな
い。補間処理は、各画素に欠落する他の色成分の色情報
を計算により求める処理である。以下、R画素位置に
G、B成分の色情報を補間する場合について説明する。
(補間対象画素)をRctrと呼ぶ。また、画素Rctrの周辺
に存在する各画素位置を角度を用いて表現する。例え
ば、60度方向に存在するB画素をB060、G画素をG060と
表現する。ただし、この角度は厳密な角度ではなく近似
的なものである。また、0度-180度を結ぶ方向を0度方
向、120度-300度を結ぶ方向を120度方向、240度-60度を
結ぶ方向を240度方向、30度-210度を結ぶ方向を30度方
向、150度-330度を結ぶ方向を150度方向、270度-90度を
結ぶ方向を270度方向と呼ぶことにする。
出する。第1の実施の形態では、式(1)(2)(3)に示すよ
うに、異なる色成分間で構成される異色間類似度を求め
る。 C000 = {|G000-Rctr|+|B180-Rctr|+|(G000+B180)/2-Rctr|}/3 ...(1) C120 = {|G120-Rctr|+|B300-Rctr|+|(G120+B300)/2-Rctr|}/3 ...(2) C240 = {|G240-Rctr|+|B060-Rctr|+|(G240+B060)/2-Rctr|}/3 ...(3) このように隣接画素間で定義される異色間類似度は、デ
ルタ配列の三角格子で規定されるナイキスト周波数の画
像構造を空間的に解像させる能力を持つ。
との連続性を考慮することにより、類似度の精度を上げ
る。ここでは各画素について求めた上記類似度を、R位
置について図4に示す係数を使用して周辺加算を行う。
周辺加算を行った類似度を小文字で表記する。[]は、処
理対象画素から見たデルタ配列上の画素位置を表す。式
(4)は0度方向の類似度の周辺加算を示す。 c000 = {6*C000[Rctr] +C000[R030]+C000[R150]+C000[R270] +C000[R210]+C000[R300]+C000[R090]}/12 ...(4) 120度方向のc120、240度方向のc240も同様にして求め
る。
で、各方向の類似性の強弱を、類似度の逆数比で連続的
に変化するように判定する。すなわち(1/c000):(1/c12
0):(1/c240)で判定する。具体的には、次の加重係数を
演算する。
数w000、w120、w240として表すと、 w000=(c120*c240+Th)/(c120*c240+c240*c000+c000*c120+3*Th) ...(5) w120=(c240*c000+Th)/(c120*c240+c240*c000+c000*c120+3*Th) ...(6) w240=(c000*c120+Th)/(c120*c240+c240*c000+c000*c120+3*Th) ...(7) により求まる。ただし、閾値Thは発散を防ぐための項で
正の値をとる。通常Th=1とすればよいが、高感度撮影画
像などノイズの多い画像に対してはこの閾値を上げると
よい。加重係数w000、w120、w240は、類似性の強弱に応
じた値となる。
米国特許5,629,734号、特開2001-245314号に示されるよ
うに、G補間における方向判定法として、加重係数によ
る連続的判定法と閾値判定による離散的判定法の2通り
がある。ベイア配列では、最隣接G成分が補間対象画素
に対して4方向と密に存在するため、連続的判定法と離
散的判定法のどちらを使用してもおおよそ問題なく使え
る。しかし、最隣接G成分が0度方向、120度方向、240
度方向の3方向にしか存在しないデルタ配列においては
加重係数による連続的な方向判定が重要となる。最隣接
G成分とは、補間対象画素と辺を接する画素でG成分を
有するものである。図3では、G000,G120,G240である。
る。補間値は、平均情報と曲率情報の2つの項からな
る。 <平均情報> Gave = w000*Gave000+w120*Gave120+w240*Gave240 ...(8) Bave = w000*Bave000+w120*Bave120+w240*Bave240 ...(9) ここで、 Gave000 = (2*G000+G180)/3 ...(10) Bave000 = (2*B180+B000)/3 ...(11) Gave120 = (2*G120+G300)/3 ...(12) Bave120 = (2*B300+B120)/3 ...(13) Gave240 = (2*G240+G060)/3 ...(14) Bave240 = (2*B060+B240)/3 ...(15) である。 <曲率情報> dR = (6*Rctr-R030-R090-R150-R210-R270-R330)/12 ...(16) <補間値> Gctr = Gave+dR ...(17) Bctr = Bave+dR ...(18)
隣接G成分を用いて平均情報を求める。しかし、デルタ
配列の場合は同様にすると縦線や30度方向、150度方向
の境界線がブツブツになる問題が生じることが実験的に
判明した。これは、例えば縦線境界の場合、加重係数が
w000≒0、w120≒w240≒0.5になっていると想定され、2
方向間で平均処理を行う部分に相当する。しかしなが
ら、最隣接画素平均だけでは、縦線に沿ってある点では
左側の2点平均をとり、次の隣の斜め右上あるいは右下
の点では右側の2点平均をとることになってしまうため
と考えられる。
象画素からの距離比に応じた平均処理を行うと、例えば
縦線の場合、常に右側と左側の両方から平均をとるの
で、縦線、30度方向、150度方向の境界線のブツブツが
劇的に改善する。故に、式(10)〜(15)に示すように、第
2隣接画素まで含む平均処理を行う。これにより、30
度、150度、270度方向の空間解像力が向上する。例え
ば、式(10)において、G000が最隣接画素あるいは第1隣
接画素であり、G180が第2隣接画素である。式(12)にお
いて、G120が最隣接画素あるいは第1隣接画素であり、
G300が第2隣接画素である。他の式も同様である。第1
隣接画素は約1画素ピッチ離れた画素であり、第2隣接
画素は約2画素ピッチ離れた画素と言える。RctrとG120
は約1画素ピッチ離れており、RctrとG300は約2画素ピ
ッチ離れていると言える。図22は、隣接画素について
定義する図である。centerは処理対象画素であり、near
estは最近接あるいは最隣接あるいは第1隣接画素であ
り、2ndは第2隣接画素である。
て、曲率情報dRに相当する項は平均情報と同じ方向性を
考慮して算出するのが普通である。しかしながら、デル
タ配列においては、平均情報の方向性(0度、120度、24
0度方向)と抽出可能な曲率情報の方向性(30度、150
度、270度方向)が一致していない。このような場合、3
0度方向と150度方向の曲率情報を平均して0度方向の曲
率情報を定義し、ベイア配列と同様に曲率情報の方向性
を考慮して補間値を算出することも可能であるが、曲率
情報は方向性を考慮せずに一律に抽出するほうが効果が
大きいことが実験的に判明した。従って、本実施の形態
では、方向性のない曲率情報で方向性を考慮した平均情
報を補正する。これにより、あらゆる方向の高周波領域
まで階調鮮明性を向上させることが可能となる。
係数値が使用される。式(16)は、補間対象画素Rctrと周
辺画素の差分とその反対側の周辺画素と補間対象画素Rc
trの差分とを求めさらにそれらの差分を求めている。従
って、2次微分演算により求められている。
報の変化する度合いを示す情報である。ある色成分の色
情報の値をプロットして曲線で表した場合、その曲線の
曲がりの変化、曲がり具合を示す情報である。すなわ
ち、色成分の色情報の変化の凹凸に関する構造情報が反
映された量である。本実施の形態では、R画素位置の曲
率情報dRは、補間対象画素のRctrと周辺のR画素の色情
報を使用して求める。G画素位置の場合はG成分、B画
素位置の場合はB成分の色情報を使用する。
G、B成分の補間処理」を行うことができた。「G画素
位置におけるB、R成分の補間処理」は、「R画素位置
におけるG、B成分の補間処理」の記号をRをGに、G
をBに、BをRに循環的に置き換えて全く同様の処理を
行えばよい。また、「B位置におけるR、G成分の補間
処理」は、「G位置におけるB、R成分の補間処理」の
記号をGをBに、BをRに、RをGに循環的に置き換え
て全く同様の処理を行えばよい。すなわち、各補間処理
において同一の演算ルーチン(サブルーチン)を使用す
ることが可能である。
方向に関してデルタ配列が持つ限界解像性能を全て引き
出すことができる。すなわち、周波数空間(k空間)で
見ると、図6に示すように、デルタ配列が持つ六角形の
無彩色再現領域を全て解像する。また、階調方向に関し
ても鮮明な画像が得られる。特に無彩色部の多い画像に
対しては極めて有効な手法である。
ータを、コンピューター上の取り扱いが容易な正方格子
データに復元する処理について説明する。行単位で1/2
画素ずつずれた単板撮像素子のデータを、3色揃った正
方格子データに復元する従来技術として、デルタ配列に
ついては特開平8-340455号公報、ハニカム配列について
は特開平2001-103295号公報、特開平2000-194386号公報
等がある。
なる画素位置に復元データを生成したり、三角格子より
倍の画素密度を持つ仮想正方格子に復元データを生成し
たりする例を示している。また、三角格子と半分の行は
同じ画素位置に復元して、残りの半分の行は三角格子と
1/2画素ずれた画素位置に復元する例も示している。し
かし、これは直接正方格子位置で補間処理を実現し、三
角格子の隣接画素との距離が変わると別々の補間処理を
適用するものである。一方、特開平2001-103295号公報
では2次元のキュービック補間により正方化し、特開平2
000-194386号公報では仮想的な倍密正方格子データを生
成している。
第1の実施の形態では、デルタ配列の性能を最大限に維
持する方式を示す。
に、まず、デルタ配列と同じ画素位置に三角格子のまま
補間データを復元している。これにより、デルタ配列が
持つ空間周波数の限界解像性能を引き出すことができ
る。また、色差補正処理やエッジ強調処理も三角配置の
ままで行うとその効果が等方的にうまく作用する。従っ
て、いったん三角格子上で画像復元し、各画素にRGB
値を生成する。
を正方化変換する。三角格子の解像性能を保持するに
は、できるだけ元のデータを残すことが重要であること
が実験的に判明した。したがって、一行置きに半分の行
だけ1/2画素ずらす変位処理を行い、残り半分の行は処
理せず三角配置が持つ縦線のナイキスト解像を維持させ
る。変位処理は、処理対象行の一次元内でキュービック
補間により自己推定させると、正方格子のナイキスト周
波数の影響は多少受けるものの、ほとんど問題なく三角
格子の縦線解像度が維持できることが実験により確認さ
れた。
の処理を行い、その後、式(20)の代入処理を行う。これ
により、[x,y]の画素位置のR成分の色情報を求める。 tmp_R[x,y]={-1*R[x-(3/2)pixel,y]+5*R[x-(1/2)pixel,y] +5*R[x+(1/2)pixel,y]-1*R[x+(3/2)pixel,y]}/8 ...(19) R[x,y] = tmp_R[x.y] ...(20) G成分、B成分についても同様にして求める。式(19)の
処理を、キュービック変位処理と言う。また、1次元方
向の位置を変位処理しているので1次元変位処理とも言
う。図7は、式(19)で使用する係数値を示す図である。
上記キュービックによる1次元変位処理は正および負の
係数値からなる1次元フィルタをかける処理と言える。
の限界解像度を最大限に維持できるだけでなく、三角格
子上の画像復元処理は全ての画素で同一の処理ルーチン
を使うことが可能で、最後に半分の行だけ単純な一次元
処理を施すだけで済むので、データ量の増加を伴わず、
従来技術に比べより簡略なアルゴリズムを達成すること
ができる。特にハードウェアで実現する場合にはその効
果は大きい。
判定するものであったが、第2の実施の形態では同色間
類似度を求めて類似性を判定する。第2の実施の形態
は、彩色部を多く含む画像に対して有効である。第2の
実施の形態の電子カメラ1の構成は、第1の実施の形態
の図1と同様であるのでその説明を省略する。画像処理
について、第1の実施の形態と異なる部分を中心に説明
する。特に記載がなければ第1の実施の形態と同様とす
る。
出する。第2の実施の形態では、式(20)(21)(22)に示す
ように、同じ色成分間で構成される同色間類似度を求め
る。3画素ピッチ離れた画素間の演算が行われる。図8
は、式(20)(21)(22)で使用する画素位置を示す図であ
る。 C000 = {(|R000-Rctr|+|R180-Rctr|)/2+|G000-G180|+|B000-B180|}/3 ...(20) C120 = {(|R120-Rctr|+|R300-Rctr|)/2+|G120-G300|+|B120-B300|}/3 ...(21) C240 = {(|R240-Rctr|+|R060-Rctr|)/2+|G240-G060|+|B240-B060|}/3 ...(22) このように定義される同色間類似度は、彩色部における
0度方向の横線や120度方向、240度方向の画像構造を空
間的に解像させる能力を持ち、また色収差のある系に対
しても影響を受けることなく画像構造を判別する能力を
有する。
似度の周辺加算を行う。
報と曲率情報の2つの項からなる。 <平均情報>:第1の実施の形態と同様である。 <曲率情報> dR = (6*Rctr-R030-R090-R150-R210-R270-R330)/12 ...(23) dG = ((G000+G120+G240)-(G060+G180+G300))/6 ...(24) dB = ((B060+B180+B300)-(B000+B120+B240))/6 ...(25) <補間値> Gctr = Gave+(dR+dG+dB)/3 ...(26) Bctr = Bave+(dR+dG+dB)/3 ...(27)
と異なり3色の曲率情報で平均情報を補正している。こ
れは、従来技術の特開2001-245314号公報に開示されて
いるように、彩色部や色収差を含む画像においてdRのみ
による過補正を防ぎつつ、階調方向の鮮明性を保つため
である。ただし、特開2001-245314号公報はベイア配列
に関するものである。このように3色の曲率情報を使用
する場合でも、ベイア配列の場合と違って、第1の実施
の形態と同様に、RGB3成分とも方向性のない曲率情
報による補正が、最もあらゆる方向に対して階調鮮明性
を上げる効果が高いことが実験により判明した。また、
デルタ配列がR:G:B=1:1:1からなるので、3成分の曲率情
報を1:1:1で用いるのがよいことも分かった。図9は、
式(23)(24)(25)で使用する係数値を図示したものであ
る。
G、B成分の補間処理」を行うことができた。「G画素
位置におけるB、R成分の補間処理」、「B位置におけ
るR、G成分の補間処理」も、第1の実施の形態と同様
に、RGBをそれぞれ循環的に置きかえることによって
求める。正方化処理も、第1の実施の形態と同様に行う
ことができる。
理は、彩色部を含む画像に対しても色境界を判別して解
像させることができ、かつ階調方向の過補正を引き起こ
すことなく鮮明な画像を得ることができる。また、色収
差を含むような系に対しても強い。
通常、補間処理後に画像に残っている偽色を低減するた
めにRGB信号を、輝度と色差からなるYCbCrに変換
し、Cb、Cr面で色差ローパスフィルタを掛けたり、色差
メディアンフィルタを掛けたりして偽色を除去し、RG
B表色系に戻す事後処理が行われる。また、光学ローパ
スフィルタ等による鮮明度の低下を補うために、輝度成
分Y面にエッジ強調処理を施したりする。デルタ配列の
場合も、全く同様の事後処理を適応してもよい。
列に適した事後処理の方法を示す。第3の実施の形態の
電子カメラ1の構成は、第1の実施の形態の図1と同様
であるのでその説明を省略する。
像処理部11が行う画像処理の概要を示すフローチャー
トである。第1の実施の形態と同様に三角格子上で補間
処理が行われるものとする。図10は、補間処理後のR
GBカラー画像を入力するところがスタートする。すな
わち、第1の実施の形態の図2のステップS1〜S5が
終了し、その後、図10のフローチャートが開始する。
カラー画像データを入力する。ステップS12におい
て、RGB表色系から本第3の実施の形態特有のYCrCgC
b表色系に変換する。ステップS13では、色差面(CrC
gCb面)に対してローパスフィルタ処理を行う。ステッ
プS14では、輝度面(Y面)に対してエッジ強調処理
を行う。ステップS15では、色差面の偽色が除去され
た段階で、YCrCgCb表色系を元のRGB表色系に戻す変
換をする。ステップS16において、得られたRGBカ
ラー画像データを出力する。ステップS16で出力され
るRGBカラー画像データは三角格子上で得られた画像
データである。
正方化処理をする場合は、第1の実施の形態と同様に、
図2のステップS6、S7の処理を行う。以下、上述の
ステップS12〜15の処理の詳細について説明する。
CrCgCb表色系は、式(28)〜(31)で表されるものとして定
義する。 Y[i,j] = (R[i,j]+G[i,j]+B[i,j])/3 ...(28) Cr[i,j] = R[i,j]-Y[i,j] ...(29) Cg[i,j] = G[i,j]-Y[i,j] ...(30) Cb[i,j] = B[i,j]-Y[i,j] ...(31)
角格子上で補間処理した後、式(28)のように、Y面生成
においてRGBを均等に扱う変換を行うと、図6の六角
形の角の部分を中心に発生するような色モアレが、完全
に輝度面Yからは消え去るようになる。その結果、全て
の偽色要素を色差成分Cr,Cg,Cbに含ませることができ
る。そして、従来扱われている2種類の色差成分ではな
く、第3の実施の形態では3種類の色差成分を用意して
扱っているので、デルタ配列固有の全ての偽色要素を取
り出すことができる。
によりローパス処理を行う例を示す。三角格子(三角配
置)上で色差ローパスフィルタを掛けるとその偽色低減
効果は全方向に対して相性よく得られる。また、三角格
子上のメディアンフィルタ処理でもよい。ここで[]は、
図22に示すように、処理対象画素から見た三角格子上
の画素位置を表すものとする。図11は、式(32)に使用
する係数値を図示するものである。なお、ローパスフィ
ルタはここに示すものに留まらず、他のものを用いても
よい。図12、図13に他のローパスフィルタの例を示
す。 <ローパス処理> tmp_Cr[center] = {9*Cr[center] +2*(Cr[nearest000]+Cr[nearest120]+Cr[nearest240] +Cr[nearest180]+Cr[nearest300]+Cr[nearest060]) +Cr[2nd000]+Cr[2nd120]+Cr[2nd240] +Cr[2nd180]+Cr[2nd300]+Cr[2nd060]}/27 ...(32) tmp_Cg, tmp_Cbについても同様に処理する。 <代入処理> Cr[i,j] = tmp_Cr[i,j] ...(33) Cg[i,j] = tmp_Cg[i,j] ...(34) Cb[i,j] = tmp_Cb[i,j] ...(35)
ば、三角格子上で以下の処理を行う。 <バンドパス処理>三角格子上のラプラシアン処理によ
りエッジ抽出する。図14は、式(36)のラプラシアン処
理に使用する係数値を図示するものである。なお、ラプ
ラシアンはここに示すものに留まらず、他のものを用い
てもよい。図15、図16に他のラプラシアンの例を示
す。 YH[center]={6*Y[center] -(Y[nearest000]+Y[nearest120]+Y[nearest240] +Y[nearest180]+Y[nearest300]+Y[nearest060])}/12 ...(36) <エッジ強調処理> Y[center]=Y[center]+K*YH[center] ...(37) ここで、Kは零以上の値で、エッジ強調の加減を調整す
るパラメータである。
去された段階で、元のRGB表色系に戻す。 R[i,j]=Cr[i,j]+Y[i,j] ...(38) G[i,j]=Cg[i,j]+Y[i,j] ...(39) B[i,j]=Cb[i,j]+Y[i,j] ...(40)
で生成したY成分に待避させ、3種類の均等に扱った色
差成分Cr,Cg,Cbを導入することにより、極めて偽色抑制
能力の高い色差補正が可能となる。また、色差補正処理
や輝度補正処理を三角格子上で行うことにより、デルタ
配列の方向性に適した補正処理が可能となる。
欠落する色成分の色情報を補間する処理について説明し
た。第4の実施の形態では、第1の実施の形態のRGB
面内における補間処理とは異なる系統の画像復元処理の
例を示す。これは、デルタ配列から、RGB面内の補間
処理を介さずに直接輝度成分と色差成分を作る方式であ
る。思想的に第3の実施の形態で示した1つの輝度面と
3つの色差面に分離することの有用性を引き継ぎ、輝度
面には無彩色の輝度解像力を最大限に引き出す役割を担
当させ、3つの色差面には3原色の色解像力を最大限に
引き出す役割を担当させている。
は、第1の実施の形態の図1と同様であるのでその説明
を省略する。
タ面から、直接、輝度面(Y)と3つの色差面(Cgb,Cbr,Cr
g)を生成し、その後、元のRGBの表色系に変換する概
念を示す図である。図18は、第4の実施の形態におい
て、画像処理部11が行う画像処理の概要を示すフロー
チャートである。
子21で得られた画像を入力する。ステップS22にお
いて、類似度の算出を行う。ステップS23では、ステ
ップS22で得られた類似度に基づき類似性を判定す
る。ステップS24では、ステップS23で得られた類
似性の判定結果とステップS21で得られたデルタ配列
の画像データに基づき輝度面(Y0面)を生成する。ステ
ップS25では、ステップS24で得られた輝度面(Y0
面)に対して補正処理を行う。
3で得られた類似性の判定結果とステップS21で得ら
れたデルタ配列の画像データに基づき、色差成分Cgb,Cb
r,Crgを生成する。ステップS26では、まだ、すべて
の画素においてすべての色差成分Cgb,Cbr,Crgが生成さ
れてはいない。ステップS27で、生成されていない色
差成分を周辺の色差成分に基づき補間処理をする。その
結果、Cgb,Cbr,Crgの色差面が完成する。
r,Crgの表色系からRGB表色系に変換する。ステップ
S29で、変換されたRGBカラー画像データを出力す
る。ステップS21〜ステップS29は、すべて三角格
子上での処理である。従って、ステップS29で出力さ
れるRGBカラー画像データは、三角格子の画像データ
である。以下、これらの処理の詳細について説明する。
なお、正方化処理が必要な場合は、第1の実施の形態の
図2のステップS6、S7と同様の処理を行う。
められる類似度でよい。ただし、できるだけ正確なもの
を利用するものとする。例えば、第1の実施の形態で示
した異色間類似度や、第2の実施の形態で示した同色間
類似度や、それらを組み合わせて用いたもの、あるいは
色指標等によって異色間類似度と同色間類似度を切り替
えて用いたものでもよい。
で常にR:G:B=1:1:1となるように加重加算して輝度面を
生成する。その加重加算の範囲は第1の実施の形態と同
様の理由によって、G成分とB成分は第2隣接画素まで
とる。すなわち、第1の実施の形態の式(10)〜式(15)の
定義式を用いてもう一度、式(8)(9)を書き直すと式(41)
(42)のようになる。 <G>2nd = Gave = w000*Gave000+w120*Gave120+w240*Gave240 ...(41) <B>2nd = Bave = w000*Bave000+w120*Bave120+w240*Bave240 ...(42) これらと中心のR成分を用いて、式(43)により輝度成分Y
0を生成する。 Y0=Rctr+<G>2nd+<B>2nd ...(43)
の方向加重係数を用いて常に一定の色成分比で中心画素
を含みながら生成されるので、極めて階調鮮明性の潜在
能力が高く、空間解像力の高い画像が得られ、かつ色収
差に影響されずに極めて滑らかに周辺画素と連結する画
像が得られる。例えば、無彩色のサーキュラーゾーンプ
レートに対して、異色間類似度を類似度として採用した
場合、第1の実施の形態と同様に空間解像度は図6の限
界解像まで達する。
ので、そこに含まれている階調鮮明性の潜在能力を引き
出すために、ラプラシアンによる補正処理を行う。輝度
面Y0は、方向性を考慮して周辺画素と極めて滑らかに連
結するように作られているので、補正処理は新たに方向
性に応じて計算しなければならないような補正項の算出
は不要で、固定バンドパスフィルタによる単一処理でよ
い。三角配置におけるラプラシアンの取り方は、第3の
実施の形態の図14〜図16に示すようにいくつかの方
法が可能である。しかし、若干なりとも最適度を上げる
ならば、輝度面Y0が0度、120度、240度方向のG,B成分を
集めてしか生成しえないので、その間隙の方向を埋め合
わせるために、ここではそれとは独立な30度、150度、2
70度方向の図15のラプラシアンで補正する場合を示す
(式(44))。補正された輝度成分をYとする。
い値に設定することで、第3の実施の形態に示したよう
なエッジ強調処理をここで兼ね備えることもできる。
面Yとは独立にデルタ面から直接生成する。3つの色差成
分Cgb,Cbr,Crgを求める。ただし、Cgb=G-B、Cbr=B-R、C
rg=R-Gと定義する。
中心画素のR成分と周辺画素のG成分もしくはB成分との
差分値を方向性を考慮しながら算出する。 Crg=Rctr-{<G>2nd+dG} ...(46) Cbr={<B>2nd+dB}-Rctr ...(47) ここに、dG,dBは、第2の実施の形態の式(24)(25)で定
義されたものと同じで、<G>2nd,<B>2ndは式(41)
(42)と同じである。色差成分の生成においても第1の実
施の形態と同様に、第2隣接画素までを含む平均情報を
算出し、輝度成分との整合性をとることにより、30度、
150度、270度方向の解像力を上げている。また、dGとdB
は必ずしも必要な訳ではないが、色解像力と色鮮やかさ
を上げる効果があるので付加している。
位置における色差成分Cbr,Cgbも同様にして求める。こ
の時点でR位置にはCrg,Cbr成分が、その最隣接画素には
Cgb成分が求まっている。図19は、その様子を示す図
である。
(48)よりR位置にCgb成分を求める(補間処理)。このと
き、R位置で求まっている方向判定結果を用いて算出す
る。 Cgb[center]=w000*(Cgb[nearest000]+Cgb[nearest180])/2 +w120*(Cgb[nearest120]+Cgb[nearest300])/2 +w240*(Cgb[nearest240]+Cgb[nearest060])/2 ...(48)
rgの4成分が求まる。必要に応じて、色差面Cgb,Cbr,Cr
gに対しては第3の実施の形態と同様の色差ローパスフ
ィルタ等の補正処理を行って、偽色抑制を図ってもよ
い。
る。Y=(R+G+B)/3, Cgb=G-B, Cbr=B-R, Crg=R-Gは独立な
4式ではなく、Cgb+Cbr+Crg=0の関係を満たす。すなわ
ち、4対3変換なので変換方法は一意的ではないが、色モ
アレを抑制し、輝度解像度と色解像度を最高にするた
め、R,G,Bそれぞれの変換式に全てのY,Cgb,Cbr,Crg成分
が含まれるようにし、相互のモアレ相殺効果を利用す
る。こうしてY,Cgb,Cbr,Crg各面がそれぞれに役割分担
して生成されてきた最高性能の全てを、R,G,Bの各々に
反映させることができる。 R[i,j]=(9*Y[i,j]+Cgb[i,j]-2*Cbr[i,j]+4*Crg[i,j])/9 ...(49) G[i,j]=(9*Y[i,j]+4*Cgb[i,j]+Cbr[i,j]-2*Crg[i,j])/9 ...(50) B[i,j]=(9*Y[i,j]-2*Cgb[i,j]+4*Cbr[i,j]+Crg[i,j])/9 ...(51)
画像復元方法は、極めて階調鮮明性が高く、空間方向に
も優れた輝度解像性能と色解像性能を同時に達成しつ
つ、色収差に対しても強いという効果を発揮する。正方
化処理が必要な場合は、第1の実施の形態と同様に行う
ことができる。
判定した。このとき、0度、120度、240度方向の類似度
のみを求めるものであった。しかし、第5の実施の形態
では、30度、150度、270度方向の類似度も求めるように
したものである。第5の実施の形態の電子カメラ1の構
成は、第1の実施の形態の図1と同様であるのでその説
明を省略する。
中心に述べる。また、第2の実施の形態の図8を参照す
る。R画素位置においてG成分の最隣接画素は隣接して
0度、120度、240度を指す位置に3つあり、第2隣接画
素は2画素分離れた60度、180度、300度を指す位置に3
つある。B成分も同様に、最隣接画素は隣接して60度、
180度、300度を指す位置に3つあり、第2隣接画素は2
画素分離れた0度、120度、240度を指す位置に3つある。
また、R成分の最隣接画素は2画素分離れた30度、90
度、150度、210度、270度、330度を指す位置に6つあ
り、第2隣接画素は3画素分離れた0度、60度、120度、
180度、240度、300度を指す位置に6つある。
出する。これらの方向の同じ色成分間で構成される同色
間類似度は、3画素間隔より短く定義することができな
い。 C000 = {(|R000-Rctr|+|R180-Rctr|)/2+|G000-G180|+|B000-B180|}/3 ...(52) C120 = {(|R120-Rctr|+|R300-Rctr|)/2+|G120-G300|+|B120-B300|}/3 ...(53) C240 = {(|R240-Rctr|+|R060-Rctr|)/2+|G240-G060|+|B240-B060|}/3 ...(54)
画素位置に欠落するG成分とB成分が存在する方向と一
致する方向性を調べているので、彩色部における0度方
向の横線や120度方向、240度方向の画像構造を空間的に
解像させる能力を持つと考えられる。しかし、ベイア配
列における2画素間隔の同色間類似度と違って、3画素
間隔と極めて離れた画素間の情報であることに注意を要
する。
70を算出する。これらの方向の同色間類似度は、0度、1
20度、240度方向と異なりより短い2画素間隔で定義す
ることができる。 C030 = {(|R030-Rctr|+|R210-Rctr|)/2+|G240-G000|+|B060-B180|}/3 ...(55) C150 = {(|R150-Rctr|+|R330-Rctr|)/2+|G000-G120|+|B180-B300|}/3 ...(56) C270 = {(|R270-Rctr|+|R090-Rctr|)/2+|G120-G240|+|B300-B060|}/3 ...(57) ただし、R画素位置に欠落するG成分とB成分が存在す
る方向と一致しない方向の類似性を調べているので、こ
れらを有効に活用するにはテクニックを要する。
周辺画素との連続性を考慮することにより、類似度の精
度を上げる。ここでは各画素について求めた上記6つの
類似度それぞれに対し、R画素位置について周辺加算を
行う。周辺加算を行った類似度を小文字で表記する。た
だし、[]は、処理対象画素から見たデルタ配列上の画素
位置を表すものとする。式(58)は第1の実施の形態の式
(4)と同様である。 c000 = {6*C000[Rctr] +C000[R030]+C000[R150]+C000[R270] +C000[R210]+C000[R300]+C000[R090]}/12 ...(58) c120, c240, c030, c150, c270も同様にして求める。こ
こに、上述した類似度の方位関係を図26に示す。
な類似性を示す。ただし、類似性を判定して意味がある
のは、処理対象画素に存在しないG成分とB成分が存在
する方向、すなわち0度、120度、240度方向であり、30
度、150度、270度方向の類似性が判定できてもあまり意
味がない。そこで、まず考えられるのは、0度、120度、
240度方向の類似性の強弱を、0度、120度、240度方向の
類似度を用いて、その逆数比で連続的に判定することで
ある。すなわち(1/c000):(1/c120):(1/c240)で判定す
る。
する能力を有するので、図20のデルタ配列のRGB各色
成分の周波数再現域のky軸方向を限界解像まで伸ばすこ
とができる。すなわち、このような判定方法は、有彩色
の画像に対して、図20の6角形の頂点の限界解像まで
色解像度を引き伸ばすことができる。しかしながら、3
画素間隔という長距離間の類似度であるため、その間の
角度となると折り返し周波数成分の影響を受けて方向性
を判別することができず、特に30度、150度、270度方向
に対しては最もその悪影響が生じ、図20の6角形の各
辺の中点付近がえぐれるような色解像力しか発揮するこ
とができない。
防ぐため、短距離相関の類似度c030,c150,c270を有効活
用する。ただし、逆数をとるだけでは30度、150度、270
度方向の類似性が判別できるようになるだけなので、そ
れを0度、120度、240度方向の類似性に変換するため
に、逆数ではなく類似度の値自体が30度、150度、270度
方向に直交する方向、すなわち120度、240度、0度方向
の類似性を表しているものと解釈する。故に0度、120
度、240度方向の類似性を以下の比率で判定する。(c270
/c000):(c030/c120):(c150/c240)
格化された加重係数w000,w120,w240として表すと、 w000=(c120*c240*c270+Th) /(c120*c240*c270+c240*c000*c030+c000*c120*c150+3*Th) ...(59) w120=(c240*c000*c030+Th) /(c120*c240*c270+c240*c000*c030+c000*c120*c150+3*Th) ...(60) w240=(c000*c120*c150+Th) /(c120*c240*c270+c240*c000*c030+c000*c120*c150+3*Th) ...(61) により求まる。ただし、定数Thは発散を防ぐための項で
正の値をとる。通常Th=1とすればよいが、高感度撮影画
像などノイズの多い画像に対してはこの閾値を上げると
よい。
0度方向、240度方向と150度方向は直交した関係であ
る。この直交した関係を0度方向⊥270度方向、120度方
向⊥30度方向、240度方向⊥150度方向と表す。
判定された類似性は、有彩色画像に対して図20の六角
形の全てを正確に再現する空間解像力を有する。また、
この同色間類似度による空間解像力は、同じ色成分間で
類似性を見ているため、光学系に含まれる色収差の影響
を受けずに常に達成することができる。
如何なる画像に対してもデルタ配列が元来有する各RGB
単色の空間色解像力を全て引き出すことができる。ま
た、階調方向に鮮明な画像復元が可能で、色収差を含む
系に対しても強い性能を発揮する。
よび類似性の判定を第4の実施の形態の類似度の算出お
よび類似性の判定にも適用できる。このような画像復元
方法は、極めて階調鮮明性が高く、空間方向にも優れた
輝度解像性能と色解像性能を同時に達成しつつ、色収差
に対しても強いという効果を発揮する。特に、鮮明な階
調を達成しつつデルタ配列の最高の色解像性能を導き出
すことができる。通常の画像処理では、階調鮮明性を上
げようとエッジ強調処理を行ったりして、その分色解像
力が落ちて色褪せたり、立体感が損なわれたりしてしま
うトレードオフが生じるが、この場合、4成分の復元値
を導入することによりこの相反する課題を同時に解決す
ることができるようになる。
いる偽色を低減するためにRGB信号を、輝度と色差から
なるYCbCrに変換し、Cb、Cr面で色差ローパスフィルタ
を掛けたり、色差メディアンフィルタを掛けたりして偽
色を除去し、RGB表色系に戻す事後処理が行われる。デ
ルタ配列の場合も、完全に光学ローパスフィルタでナイ
キスト周波数を落とせなければ、見栄えを良くするため
適度な偽色低減処理を必要とする。第6の実施の形態で
は、デルタ配列の優れた特徴である色解像性能をできる
だけ損なわないような事後処理の方法を示す。第6の実
施の形態の電子カメラ1の構成は、第1の実施の形態の
図1と同様であるのでその説明を省略する。
像処理部11が行う画像処理の概要を示すフローチャー
トである。第1、2、4、5の実施の形態と同様に三角
格子上で補間処理が行われるものとする。図21は、補
間処理後のRGBカラー画像を入力するところからスタ
ートする。例えば、第1の実施の形態の図2のステップ
S1〜S5が終了し、その後、図21のフローチャート
が開始する。
カラー画像データを入力する。ステップS32におい
て、RGB表色系から本第6の実施の形態特有のYCgbCb
rCrg表色系に変換する。ステップS33では、色判定用
画像を生成する。ステップS34では、ステップS33
で生成した色判定用画像を使用して色指標を算出する。
ステップS35では、ステップS34の色指標に基づき
低彩度か高彩度かの色判定を行う。
の色判定結果に基づき、使用するローパスフィルタを切
り換えて色差補正を行う。補正の対象となる色差データ
はステップS32で生成されたものである。ステップS
37では、色差面の偽色が除去された段階で、YCgbCbrC
rg表色系を元のRGB表色系に戻す変換をする。ステッ
プS38において、得られたRGBカラー画像データを
出力する。ステップS38で出力されるRGBカラー画
像データは三角格子上で得られた画像データである。
正方化処理をする場合は、第1の実施の形態と同様に、
図2のステップS6、S7の処理を行う。以下、上述の
ステップS32〜37の処理の詳細について説明する。
CgbCbrCrg表色系は次の式(62)〜(65)で定義される。 Y[i,j] = (R[i,j]+G[i,j]+B[i,j])/3 ...(62) Cgb[i,j] = G[i,j]-B[i,j] ...(63) Cbr[i,j] = B[i,j]-R[i,j] ...(64) Crg[i,j] = R[i,j]-G[i,j] ...(65) このようにRGBを均等に扱う変換を行うと、例えばサー
キュラーゾーンプレートで、図6の六角形の角の部分を
中心に発生するような色モアレが、完全に輝度面Yから
は消え去り、全ての偽色要素を色差成分Cgb,Cbr,Crgに
含ませることができる。
評価するために、全面に強力な色差ローパスフィルタを
かけて偽色を一旦低減する。ただし、これは一時的な色
判定用画像なので、実際の画像には影響を与えない。 TCgb[center] = {9*Cgb[center] +2*(Cgb[nearest000]+Cgb[nearest120]+Cgb[nearest240] +Cgb[nearest180]+Cgb[nearest300]+Cgb[nearest060]) +Cgb[2nd000]+Cgb[2nd120]+Cgb[2nd240] +Cgb[2nd180]+Cgb[2nd300]+Cgb[2nd060]}/27 ...(66) TCbr, TCrgについても同様に求める。
iffを算出し、画素単位の色評価を行う。 Cdiff[i,j]=(|Cgb[i,j]|+|Cbr[i,j]|+|Crg[i,j]|)/3 ...(67)
Wに変換する。 if Cdiff[i,j]≦Th then BW[i,j]='a'(低彩度部) else then BW[i,j]='c'(高彩度部) ここで閾値Thは256階調の場合30程度に設定するのがよ
い。
ので、無彩色部の偽色は強力に消す一方、彩色部の色解
像はできるだけ温存する色差補正処理を加える。ここで
は式(68)および式(69)のローパス処理を行うが、メディ
アンフィルタ処理を用いてもよい。[]は、処理対象画素
から見た三角格子上の画素位置を表すものとする。式(6
8)のローパスフィルタは、第3の実施の形態の図11に
示す係数値を使用し、式(69)のローパスフィルタは図1
3に示す係数値を使用する。
同様の式(70)〜(72)を用いて元のRGB表色系に戻す。 R[i,j]=(9*Y[i,j]+Cgb[i,j]-2*Cbr[i,j]+4*Crg[i,j])/9 ...(70) G[i,j]=(9*Y[i,j]+4*Cgb[i,j]+Cbr[i,j]-2*Crg[i,j])/9 ...(71) B[i,j]=(9*Y[i,j]-2*Cgb[i,j]+4*Cbr[i,j]+Crg[i,j])/9 ...(72)
ルタ配列が持つ色解像性能をできるだけ保持した形で、
画像全体としての偽色低減が可能となる。尚、第4の実
施の形態で生成された画像データにこの事後処理を取り
入れる場合は、既にYCgbCbrCrg表色系の状態になってい
るので、初めの表色系変換は不要で、最後の表色系変換
を行う前に上記2.3.の処理を付け加えればよいだけ
である。
画像復元方法は、デルタ配列の入力画像が撮像素子出力
の線形階調のままでも、ガンマ補正された階調のもので
も、どのような階調特性のものでも適用できる。8ビッ
トでガンマ補正が既にかかってしまっている入力画像に
対しては対処のしようがないが、今日のデジタルスチル
カメラの撮像信号は、12ビットの線形階調出力といった
ものが一般的になっており、このような場合に適した画
像復元処理(第1や第2の実施の形態のようなRGB方式
も第4の実施の形態のようなYCCC方式も含む)と階調処
理の関係をここに示す。図27は、その処理を示すフロ
ーチャートである。 1)線形階調デルタ配列データ入力(ステップS41) 2)ガンマ補正処理(ステップS42) 3)画像復元処理(ステップS43) 4)逆ガンマ補正処理(ステップS44) 5)ユーザーガンマ補正処理(ステップS45)
ディスプレイ出力に適した8ビット階調に変換する処
理、すなわち、画像のダイナミックレンジを出力表示機
器の範囲内に圧縮する処理である。これとは独立に、一
旦あるガンマ空間に階調を変換して、第1の実施の形態
〜第6の実施の形態に相当する画像復元処理を行うと、
より優れた復元結果が得られる。この階調変換方法とし
て以下のようなものがある。 <ガンマ補正処理>入力信号x(0≦x≦xmax)、出力信号y
(0≦x≦ymax)、入力画像はデルタ面 y=ymax√(x/xmax) 入力信号が12ビットの場合はxmax=4095で、出力信号は
例えば16ビットのymax=65535に設定するとよい。 <逆ガンマ補正処理>入力信号y(0≦x≦ymax)、出力信
号x(0≦x≦xmax)、入力画像はRGB面 x=xmax(y/ymax)2
元処理を行うと、画像復元処理のテクニックとは別の観
点から次のような利点が同時に得られる。 1)色境界部の鮮明化が可能(例えば、赤白境界の色に
じみ抑制や、黒縁発生の抑制等) 2)輝点(極めて明るい部分)周辺の偽色抑制が可能 3)方向判定精度が向上
「補間値算出部」、Y方式では「復元値算出部」が関与
して生み出される効果である。また、3)は画像復元処
理の「類似度算出部」と「類似性判定部」が関与して生
み出される効果である。つまり、入力信号xには量子論
的揺らぎの誤差dx=k√x(kはISO感度で決まる定数)が
含まれており、平方根のガンマ空間に変換すると誤差伝
搬則によりこの誤差が全階調0≦y≦ymaxに渡って均一の
誤差dy=constantで扱えるようになるため、方向判定精
度が向上する。この技術はデルタ配列に限らずベイア配
列やその他諸々のフィルタ配列の補間処理にも応用する
ことができる。上記実施の形態においては、デルタ配列
は元々ベイア配列よりも単色の色解像性能が高いため、
この階調変換処理を画像復元処理の前後に入れること
で、更に優れた色鮮明性を生み出すことが可能となる。
補間処理された画像データを正方化処理をする例を示し
た。また、他の実施の形態でも、正方化処理が必要な場
合はその処理を行う旨示した。しかし、三角格子上で補
間処理や表色系変換された画像データそのものをそのま
ま使用するようにしてもよい。
形態と同様に生成されたRGBカラー画像データに補正
処理を行う例を示したが、必ずしもこの内容に限定する
必要はない。他の実施の形態で生成されたRGBカラー
画像データに対しても同様に適用できる。このように、
上記第1〜第6の実施の形態では、それぞれ適宜組み合
わせることが可能である。すなわち、上記第1〜第6の
実施の形態では、類似の方向性判定処理、補間処理ある
いは色差面直接生成処理、補正等の後処理、正方化処理
などを記載しているが、各実施の形態の各処理を適宜組
み合わせて最適な画像処理方法、処理装置を実現するこ
とができる。
前提にした説明を行ったが、この内容に限定する必要は
ない。本発明は、2板式の撮像素子においても適用でき
る。2板式であれば、例えば、各画素において欠落する
色成分は1つとなるが、この欠落する1つの色成分の補
間処理に上記実施の形態の内容を適用することができ、
必要であれば正方化処理も同様にできる。また、第4の
実施の形態の、デルタ配列から補間処理を介さずに直接
輝度成分と色差成分を作る方式においても、同様に2板
式の撮像素子にも適用できる。
の計算式を示したが、必ずしも実施の形態に示した内容
に限定する必要はない。他の、適切な計算式により類似
性を判定するようにしてもよい。また、輝度情報の計算
においても各種の計算式を示したが、必ずしも実施の形
態に示した内容に限定する必要はない。他の、適切な計
算式により輝度情報を生成するようにしてもよい。
スフィルタ、エッジ強調でバンドパスフィルタの例を示
したが、必ずしも実施の形態で示した内容に限定する必
要はない。他の構成のローパスフィルタやバンドパスフ
ィルタであってもよい。
したが、必ずしもこの内容に限定する必要はない。動画
を撮像するビデオカメラや、撮像素子つきパーソナルコ
ンピュータや携帯電話などであってもよい。すなわち、
撮像素子によりカラー画像データを生成するあらゆる装
置に適用できる。
合、上述した処理に関するプログラムは、CD−ROM
などの記録媒体やインターネットなどのデータ信号を通
じて提供することができる。図23はその様子を示す図
である。パーソナルコンピュータ100は、CD−RO
M104を介してプログラムの提供を受ける。また、パ
ーソナルコンピュータ100は通信回線101との接続
機能を有する。コンピュータ102は上記プログラムを
提供するサーバーコンピュータであり、ハードディスク
103などの記録媒体にプログラムを格納する。通信回
線101は、インターネット、パソコン通信などの通信
回線、あるいは専用通信回線などである。コンピュータ
102はハードディスク103を使用してプログラムを
読み出し、通信回線101を介してプログラムをパーソ
ナルコンピュータ100に送信する。すなわち、プログ
ラムをデータ信号として搬送波にのせて、通信回線10
1を介して送信する。このように、プログラムは、記録
媒体や搬送波などの種々の形態のコンピュータ読み込み
可能なコンピュータプログラム製品として供給できる。
いるので、次のような効果を奏する。請求項1の発明
は、取得した画像の三角格子状の画素位置で補間処理等
を行った後、正方格子状の画素位置に変換しているの
で、三角配置の限界解像度を最大限に維持しながら、正
方格子状に配置された画像データを出力することができ
る。請求項10の発明は、三角格子状に配置された第1
の画像の欠落する色成分の色情報を補間するとき、色成
分の曲率情報を固定の演算により求めて使用しているの
で、あらゆる方向の高周波領域まで階調鮮明性を向上さ
せることが可能となる。すなわち、三角格子状に画素が
配置された画像データの有効性を最大限発揮させながら
高精細な補間が可能となる。
ロック図である。
画像処理の概要を示すフローチャートである。
置関係を示す図である。
す図である。
す図である。
る。
示す図である。
数値を示す図である。
う画像処理の概要を示すフローチャートである。
る。
る。
(Y)と3つの色差面(Cgb,Cbr,Crg)を生成し、その後、元
のRGBの表色系に変換する概念を示す図である。
う画像処理の概要を示すフローチャートである。
Cgb成分が求まっている様子を示す図である。
現領域を示す図である。
う画像処理の概要を示すフローチャートである。
やインターネットなどのデータ信号を通じて提供する様
子を示す図である。
配列、ハニカム配列を示す図である。
三角格子上で補間処理し、正方格子データに復元する処
理の概念を示す図である。
係を示す図である。
トである。
Claims (16)
- 【請求項1】複数の色成分からなる表色系で表され、1
つの画素に少なくとも1つの色成分の色情報を有する複
数の画素からなり、前記複数の画素は三角格子状に配置
された第1の画像を取得する画像取得手順と、 前記取得した第1の画像の色情報を用いて、少なくとも
1つの新しい色情報を、前記第1の画像と同じ三角格子
状の画素位置に生成する色情報生成手順と、 前記生成された色情報を含む前記三角格子状の画素位置
にある複数の画素の色情報を、一方向に並ぶ画素間にお
いて一次元変位処理を行うことによって、各画素間位置
の色情報に変換する画素位置変換手順と、 前記画素位置が変換された色情報を使用して、複数の画
素が正方格子状に配置された第2の画像を出力する出力
手順を備えることを特徴とする画像処理方法。 - 【請求項2】請求項1記載の画像処理方法において、 前記新しい色情報は、前記第1の画像の表色系の色成分
のうち前記第1の画像の各画素において欠落する色成分
の色情報であることを特徴とする画像処理方法。 - 【請求項3】請求項1記載の画像処理方法において、 前記新しい色情報は、前記第1の画像の表色系とは異な
る表色系の色情報であることを特徴とする画像処理方
法。 - 【請求項4】請求項1〜3のいずれか1項に記載の画像
処理方法において、 前記一次元変位処理は、正及び負の係数値からなる一次
元フィルタを用いて行うことを特徴とする画像処理方
法。 - 【請求項5】請求項1〜4のいずれか1項に記載の画像
処理方法において、 前記一次元変位処理は、前記第1の画像に対して、行単
位で一行置きに行うことを特徴とする画像処理方法。 - 【請求項6】請求項1〜5のいずれか1項に記載の画像
処理方法において、 少なくとも3方向に対する類似性の強弱を判定する類似
性判定手順をさらに備え、 色情報生成手順では、判定された類似性の強さに応じて
前記新しい色情報を生成することを特徴とする画像処理
方法。 - 【請求項7】請求項6に記載の画像処理方法において、 前記類似性判定手順では、少なくとも3方向に対する類
似度を算出し、前記類似度の逆数に基づいて各方向の類
似性の強弱を判定することを特徴とする画像処理方法。 - 【請求項8】請求項1〜7のいずれか1項に記載の画像
処理方法において、 前記生成された色情報を含む前記三角格子状の画素位置
にある複数の画素の色情報に基づき、前記三角格子状の
画素位置に色差成分の色情報を生成する色差生成手順
と、 前記色差生成手順で生成された色差成分の色情報を補正
する補正手順とをさらに備えることを特徴とする画像処
理方法。 - 【請求項9】請求項1〜7のいずれか1項に記載の画像
処理方法において、 前記生成された色情報を含む前記三角格子状の画素位置
にある複数の画素の色情報に基づき、前記三角格子状の
画素位置に輝度成分の色情報を生成する輝度生成手順
と、 前記輝度生成手順で生成された輝度成分の色情報を補正
する補正手順とをさらに備えることを特徴とする画像処
理方法。 - 【請求項10】第1〜第n色成分(n≧2)で表され、
1つの画素に1つの色成分の色情報を有する複数の画素
が三角格子状に配置された第1の画像を取得する画像取
得手順と、 前記取得した第1の画像の色情報を用いて、第1色成分
が欠落する画素に第1色成分の色情報を補間する補間手
順と、 前記第1の画像の色情報と前記補間された色情報とに基
づき、第2の画像を出力する出力手順とを備える画像処
理方法であって、 前記補間手順は、前記第1の画像の補間対象画素に関し
て、 1)第1色成分の平均情報を可変な演算により求め、 2)第1〜第nの何れか少なくとも1つの色成分の曲率
情報を固定の演算により求め、 前記平均情報と前記曲率情報に基づいて前記補間を行う
ことを特徴とする画像処理方法。 - 【請求項11】請求項10に記載の画像処理方法におい
て、 少なくとも3方向に対する類似性の強弱を判定する類似
性判定手順をさらに備え、 前記補間手順は、前記類似性判定手順で判定された類似
性の強さに応じて前記第1色成分の平均情報の演算を可
変にすることを特徴とする画像処理方法。 - 【請求項12】請求項10または11に記載の画像処理
方法において、 前記曲率情報を2次微分演算により求めることを特徴と
する画像処理方法。 - 【請求項13】請求項10〜12のいずれか1項に記載
の画像処理方法において、 第1〜第3色成分で表される第1の画像を入力すると
き、第1〜第3の全ての色成分の曲率情報に基づいて前
記補間を行うことを特徴とする画像処理方法。 - 【請求項14】請求項1〜13のいずれか1項に記載の
画像処理方法の手順をコンピュータに実行させるための
画像処理プログラム。 - 【請求項15】請求項14の画像処理プログラムを記録
したコンピュータ読みとり可能な記録媒体。 - 【請求項16】請求項14の画像処理プログラムを搭載
した画像処理装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002150788A JP4239480B2 (ja) | 2002-05-24 | 2002-05-24 | 画像処理方法、画像処理プログラム、画像処理装置 |
PCT/JP2003/006388 WO2003101119A1 (fr) | 2002-05-24 | 2003-05-22 | Procede de traitement d'images, programme de traitement d'images et processeur d'images |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002150788A JP4239480B2 (ja) | 2002-05-24 | 2002-05-24 | 画像処理方法、画像処理プログラム、画像処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003348608A true JP2003348608A (ja) | 2003-12-05 |
JP4239480B2 JP4239480B2 (ja) | 2009-03-18 |
Family
ID=29768555
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002150788A Expired - Lifetime JP4239480B2 (ja) | 2002-05-24 | 2002-05-24 | 画像処理方法、画像処理プログラム、画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4239480B2 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006059409A1 (ja) * | 2004-12-02 | 2006-06-08 | Mitsubishi Denki Kabushiki Kaisha | 画素信号処理装置及び方法 |
JP2007174089A (ja) * | 2005-12-20 | 2007-07-05 | Mitsubishi Electric Corp | 画像処理装置 |
US7957588B2 (en) | 2004-07-07 | 2011-06-07 | Nikon Corporation | Image processor and computer program product |
-
2002
- 2002-05-24 JP JP2002150788A patent/JP4239480B2/ja not_active Expired - Lifetime
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7957588B2 (en) | 2004-07-07 | 2011-06-07 | Nikon Corporation | Image processor and computer program product |
WO2006059409A1 (ja) * | 2004-12-02 | 2006-06-08 | Mitsubishi Denki Kabushiki Kaisha | 画素信号処理装置及び方法 |
KR100768619B1 (ko) * | 2004-12-02 | 2007-10-18 | 미쓰비시덴키 가부시키가이샤 | 화소 신호 처리 장치 및 방법 |
US7643074B2 (en) | 2004-12-02 | 2010-01-05 | Mitsubishi Denki Kabushiki Kaisha | Pixel signal processing apparatus and pixel signal processing method |
JP2007174089A (ja) * | 2005-12-20 | 2007-07-05 | Mitsubishi Electric Corp | 画像処理装置 |
Also Published As
Publication number | Publication date |
---|---|
JP4239480B2 (ja) | 2009-03-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5045421B2 (ja) | 撮像装置、色ノイズ低減方法および色ノイズ低減プログラム | |
EP1395041B1 (en) | Colour correction of images | |
KR101703354B1 (ko) | 화상 처리 장치, 화상 처리 방법, 및 기록 매체 | |
KR100791375B1 (ko) | 색 보정 장치 및 방법 | |
EP1931130B1 (en) | Image processing apparatus, image processing method, and program | |
US7236628B2 (en) | Interpolation processing apparatus and recording medium having interpolation processing program recording therein | |
JP5574615B2 (ja) | 画像処理装置、その制御方法、及びプログラム | |
US8320714B2 (en) | Image processing apparatus, computer-readable recording medium for recording image processing program, and image processing method | |
US7072509B2 (en) | Electronic image color plane reconstruction | |
JP2004153823A (ja) | 局部線形回帰法を用いた画像処理システム | |
JP4321064B2 (ja) | 画像処理装置および画像処理プログラム | |
JP4329542B2 (ja) | 画素の類似度判定を行う画像処理装置、および画像処理プログラム | |
US7053944B1 (en) | Method of using hue to interpolate color pixel signals | |
US7623705B2 (en) | Image processing method, image processing apparatus, and semiconductor device using one-dimensional filters | |
JP4196055B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
JP4239483B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
JP4239480B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
JP4239484B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置 | |
JP4122082B2 (ja) | 信号処理装置およびその処理方法 | |
JP2004064227A (ja) | 映像信号処理装置 | |
JP2012100215A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
WO2003101119A1 (fr) | Procede de traitement d'images, programme de traitement d'images et processeur d'images | |
JP2013165482A (ja) | 画像処理装置、画像処理プログラム、および撮像装置 | |
US20070201058A1 (en) | Systems and methods for indirect image data conversion | |
JP2006166030A (ja) | 色雑音低減手法およびカラー撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050425 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080909 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081106 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20081106 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081202 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081215 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120109 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4239480 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120109 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150109 Year of fee payment: 6 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150109 Year of fee payment: 6 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150109 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |