JP2006211610A - 撮像システム - Google Patents
撮像システム Download PDFInfo
- Publication number
- JP2006211610A JP2006211610A JP2005024508A JP2005024508A JP2006211610A JP 2006211610 A JP2006211610 A JP 2006211610A JP 2005024508 A JP2005024508 A JP 2005024508A JP 2005024508 A JP2005024508 A JP 2005024508A JP 2006211610 A JP2006211610 A JP 2006211610A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- color difference
- luminance
- data
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Abstract
【課題】従来の撮像システムは、RGBベイヤーデータを基づき変換式でY信号を生成する際、高域成分の欠落により処理された画像には輪郭のボケや忠実な色再現が妨げられ、また新規のアルゴリズムや回路を容易に追加出来ず、結果開発効率の低下を招いている。
【解決手段】本発明は、RGB原色系又はCrYrYbCb補色系の色フィルタを経て固体撮像素子により得られた画像信号に対して、m×n(m,nは2以上の整数)画素領域の局所領域ごとに輝度信号及び色差信号を算出し、それらの算出信号に対して所定の演算処理を行い、演算処理後の輝度信号及び色差信号に局所領域若しくは局所領域内の一部領域の画像信号に逆変換し、逆変換された単板の画像信号に対して、単板三板化や色変換等を行い、記録媒体に記録させる撮像システムである。
【選択図】 図1
【解決手段】本発明は、RGB原色系又はCrYrYbCb補色系の色フィルタを経て固体撮像素子により得られた画像信号に対して、m×n(m,nは2以上の整数)画素領域の局所領域ごとに輝度信号及び色差信号を算出し、それらの算出信号に対して所定の演算処理を行い、演算処理後の輝度信号及び色差信号に局所領域若しくは局所領域内の一部領域の画像信号に逆変換し、逆変換された単板の画像信号に対して、単板三板化や色変換等を行い、記録媒体に記録させる撮像システムである。
【選択図】 図1
Description
本発明は、カラー画像信号を入力して高画質且つ、高速な画像処理を行う撮像システムに関する。
一般に、CCD(Charge Coupled Device )等の撮像素子を用いた画像入力機器において、より高画質な画像をより高速な処理で実現するために、撮像素子より得られた画像情報を量子化し、これに以下に示す様々なデジタル信号処理を加えて所望の画像を得る手段が用いられている。
通常、撮像素子は、その素子受光面の前方にRGB等の色フィルタを配置し、該色フィルタを通じて得られた色情報(光像)を量子化された画像データに変換し、この画像データを用いて所望の画像処理を実施する。
前記色情報は、1画素につき1つの色情報で表現される。特に、図9に示すようなRGBカラー情報を用いたベイヤー配列の色情報が広く用いられている。例えば、特許文献1に開示されるように、デジタル信号処理において、色情報に基き、輝度信号(Y)、色差信号(Cr/Cb)を計算し、該データに様々な加工を加えて所望の画像を得ることができる。
但し、式(1)において、K11〜K33は、固定値とする。Y信号の生成をする場合は、得られたRGBベイヤーデータ2×2画素領域(1画素領域は、1画素単位を含む領域とする)の2つのGデータを平均する(R行のGデータ:Gr、B行のGデータ:Gbの平均)等の加工後に式(1)のG項に代入している。
特許02540826公報
前述した従来の画像処理方式は、機能的に問題は無く、所望の動作を実現可能なものであり、広く使用されている。しかしながら、該手段のさらなる特性向上を実現するには、以下述べる様な課題がある。
課題1:信号の品質維持の課題として、
従来、Y/Cr/Cb信号への変換において、RGBベイヤーデータを基に、所定のマトリクス演算式による変換を行っていた。Y信号の生成をする為には、得られたRGBベイヤーデータ2×2画素領域の2つのGデータを平均する(R行のGデータ:Gr、B行のGデータ:Gbの平均)等の加工後に下記の式G項に代入していた。
従来、Y/Cr/Cb信号への変換において、RGBベイヤーデータを基に、所定のマトリクス演算式による変換を行っていた。Y信号の生成をする為には、得られたRGBベイヤーデータ2×2画素領域の2つのGデータを平均する(R行のGデータ:Gr、B行のGデータ:Gbの平均)等の加工後に下記の式G項に代入していた。
この場合、本来Gb若しくはGrデータが有する帯域(高域成分の欠落)を損なった形でY信号が生成される為、処理された画像において、輪郭のボケ若しくは色ずれといった忠実な色再現が妨げられていた。
課題2:アルゴリズム開発/LSI開発における開発効率の向上の課題として、
また従来、RGBベイヤーデータからY/Cr/Cb信号へ変換を行い、画像処理を実施するアルゴリズム若しくはLSIの回路構成が一般的であるが、従来の設計資産(アルゴリズム若しくは処理回路)に対して、新規にRGBベイヤーデータに基づくアルゴリズム若しくは処理回路を追加しアルゴリズム開発若しくはLSI開発を遂行する場合、従来の設計資産における処理結果は、RGBベイヤーデータのフォーマットに基づくインターフェースになっていないため、新規のアルゴリズム若しくは回路を容易に追加出来ず、結果開発効率の低下を招いていた。
また従来、RGBベイヤーデータからY/Cr/Cb信号へ変換を行い、画像処理を実施するアルゴリズム若しくはLSIの回路構成が一般的であるが、従来の設計資産(アルゴリズム若しくは処理回路)に対して、新規にRGBベイヤーデータに基づくアルゴリズム若しくは処理回路を追加しアルゴリズム開発若しくはLSI開発を遂行する場合、従来の設計資産における処理結果は、RGBベイヤーデータのフォーマットに基づくインターフェースになっていないため、新規のアルゴリズム若しくは回路を容易に追加出来ず、結果開発効率の低下を招いていた。
そこで本発明は、新規のアルゴリズム若しくは回路を容易に追加することが可能であり、輪郭ボケが無く忠実に色再現された高画質なカラー画像を高速な画像処理で実現できる撮像システムを提供することを目的とする。
本発明は上記目的を達成するために、原色系または補色系の色フィルタを前面に配置した固体撮像素子からの信号を処理する撮像システムにおいて、前記信号から局所領域ごとに輝度信号及び色差信号を算出する算出手段と、前記輝度信号及び前記色差信号に対して所定の演算処理を行う演算手段と、前記演算処理後の前記輝度信号及び前記色差信号を前記局所領域若しくは前記局所領域内の一部領域の前記信号に逆変換する逆変換手段とを備える撮像システムを提供する。
さらに、Cy(シアン)、Mg(マゼンタ)、Ye(イエロー)、G(緑)色差順次方式色フィルタを前面に配置した単板固体撮像素子からの信号を処理する撮像システムであって、前記信号から局所領域ごとに輝度信号及び色差信号を算出する算出手段と、前記輝度信号及び前記色差信号に対して所定の演算処理を行う演算手段と、前記演算処理後の前記輝度信号及び前記色差信号を前記局所領域若しくは前記局所領域内の一部領域のR、G、B 信号に変換する変換手段とを備える撮像システムを提供する。
本発明によれば、新規のアルゴリズム若しくは回路を容易に追加することが可能であり、輪郭ボケが無く忠実に色再現された高画質なカラー画像を高速な画像処理で実現できる撮像システムを提供することができる。
以下、図面を参照して本発明の実施形態について詳細に説明する。
図1は、本発明の撮像システムに係る第1の実施形態の構成例を示す。
この撮像システムは、光像からなる被写体像を結像するレンズ系1と、結像された被写体像を光電変換により画像信号を生成する画素が多数配列された撮像素子(CCD)2と、撮像された画像信号にデジタル変換処理を施す前処理部3と、デジタル信号を一時的に保持するバッファ4と、バッファ4から転送された画像信号の注目領域を中心とする局所領域を抽出する抽出部5と、その局所領域に対して、輝度色差信号への変換を行う算出部6と、制御部11の制御に基づき輝度色差信号に対してノイズ低減処理やホワイトバランス処理を施す演算部7と、後述するように単板のRGB信号へ逆変換する逆変換部8と、逆変換部8から転送された単板の画像信号に対して、単板三板化や色変換等の処理を施す信号処理部9と、信号処理部9により処理された画像信号をメモリーカード等の記録媒体へ記憶させる出力部10と、各構成部位の全体を制御する様に双方向に接続するマイクロコンピュータ等からなる制御部11と、電源スイッチ、シャッターボタン、撮影時の各種モードの切り換えを行うためのインターフェースを備えた外部I/F部12とで構成される。制御部11は、前処理部3、抽出部5、算出部6、演算部7、逆変換部8、信号処理部9及び出力部10に双方向に接続している。さらに、図示しない電源スイッチ、シャッターボタン、撮影時の各種モードの切り換えを行うためのインターフェースを備えた外部I/F部12も制御部11に双方向に接続している。
図1は、本発明の撮像システムに係る第1の実施形態の構成例を示す。
この撮像システムは、光像からなる被写体像を結像するレンズ系1と、結像された被写体像を光電変換により画像信号を生成する画素が多数配列された撮像素子(CCD)2と、撮像された画像信号にデジタル変換処理を施す前処理部3と、デジタル信号を一時的に保持するバッファ4と、バッファ4から転送された画像信号の注目領域を中心とする局所領域を抽出する抽出部5と、その局所領域に対して、輝度色差信号への変換を行う算出部6と、制御部11の制御に基づき輝度色差信号に対してノイズ低減処理やホワイトバランス処理を施す演算部7と、後述するように単板のRGB信号へ逆変換する逆変換部8と、逆変換部8から転送された単板の画像信号に対して、単板三板化や色変換等の処理を施す信号処理部9と、信号処理部9により処理された画像信号をメモリーカード等の記録媒体へ記憶させる出力部10と、各構成部位の全体を制御する様に双方向に接続するマイクロコンピュータ等からなる制御部11と、電源スイッチ、シャッターボタン、撮影時の各種モードの切り換えを行うためのインターフェースを備えた外部I/F部12とで構成される。制御部11は、前処理部3、抽出部5、算出部6、演算部7、逆変換部8、信号処理部9及び出力部10に双方向に接続している。さらに、図示しない電源スイッチ、シャッターボタン、撮影時の各種モードの切り換えを行うためのインターフェースを備えた外部I/F部12も制御部11に双方向に接続している。
また、レンズ系1内又は、撮像素子(CCD)2の前面には、R(赤)、G(緑)、B(青)のベイヤー(Bayer)型フィルタ若しくは、Cy(シアン)、Mg(マゼンタ)、Ye(イエロー)、G(緑)色差線順次方式色フィルタ(若しくは、色差線順次型色フィルタ)が装着されている。勿論、何れかを着脱自在であってもよいし、双方を装着して交換可能に設けられていてもよい。
このように構成された撮像システムによる撮像時の信号の流れについて説明する。
まず、外部I/F部12 を介してISO感度などの撮影条件を設定した後、図示しないシャッターボタンを押すことで画像信号が取り込まれる。レンズ系1、CCD2 を介して撮影された画像信号は、Gain増幅やA/D変換及びAF、AE制御等を行う前処理部3を経てバッファ4へ転送される。バッファ4に格納された画像信号は、制御部11の指示されたタイミングで抽出部5が読み出す。抽出部5は、読み出された画像信号の注目領域を中心とする局所領域を抽出し、その局所領域を算出部6に転送する。算出部6は、制御部11の制御に基づき、局所領域に対して、輝度色差信号への変換処理を行う。
まず、外部I/F部12 を介してISO感度などの撮影条件を設定した後、図示しないシャッターボタンを押すことで画像信号が取り込まれる。レンズ系1、CCD2 を介して撮影された画像信号は、Gain増幅やA/D変換及びAF、AE制御等を行う前処理部3を経てバッファ4へ転送される。バッファ4に格納された画像信号は、制御部11の指示されたタイミングで抽出部5が読み出す。抽出部5は、読み出された画像信号の注目領域を中心とする局所領域を抽出し、その局所領域を算出部6に転送する。算出部6は、制御部11の制御に基づき、局所領域に対して、輝度色差信号への変換処理を行う。
ここで、図2乃至図4を参照して、輝度色差信号への変換について説明する。
図2(a)においては、R(赤)、G(緑)、B(青)のベイヤー(Bayer)型フィルタで得られる場合の説明図であり、6×6画素領域(ここで、1画素領域は、1画素(画素単位)を含む領域として、縦6×横6の36個の画素単位を含む領域を示唆する)を一単位領域とする構成例を示している。また図2(b)は、輝度/色差信号への変換について説明するための図である。尚、図2(a),(b)に示す局所領域は、理解しやすいように、6×6画素としているものであり、限定されているものではない。ここで、注目領域は、R5,Gr5,Gb5,B5とし、その周辺の点状の円で囲まれた領域が近傍領域となる。この場合、近傍領域の数は8個(エリア)となる。ここで、1エリアは1単位領域となる、2×2の画素単位(縦2×横2の4つの画素を含む領域を示唆する)を含む領域とし、各領域に対して 式(2)を用いてRGB 信号から輝度色差信号へ変換する。本実施形態では、2×2又は6×6を例としているが、これに限定されず、m×n(m,nは2以上の整数)又は、2m×2n(m,nは自然数)であってもよい。
図2(a)においては、R(赤)、G(緑)、B(青)のベイヤー(Bayer)型フィルタで得られる場合の説明図であり、6×6画素領域(ここで、1画素領域は、1画素(画素単位)を含む領域として、縦6×横6の36個の画素単位を含む領域を示唆する)を一単位領域とする構成例を示している。また図2(b)は、輝度/色差信号への変換について説明するための図である。尚、図2(a),(b)に示す局所領域は、理解しやすいように、6×6画素としているものであり、限定されているものではない。ここで、注目領域は、R5,Gr5,Gb5,B5とし、その周辺の点状の円で囲まれた領域が近傍領域となる。この場合、近傍領域の数は8個(エリア)となる。ここで、1エリアは1単位領域となる、2×2の画素単位(縦2×横2の4つの画素を含む領域を示唆する)を含む領域とし、各領域に対して 式(2)を用いてRGB 信号から輝度色差信号へ変換する。本実施形態では、2×2又は6×6を例としているが、これに限定されず、m×n(m,nは2以上の整数)又は、2m×2n(m,nは自然数)であってもよい。
図2(b)に示すように、Y1Y2CbCrの信号は、9組算出される。また、輝度色差信号の算出法については図3(a)、(b)のような構成も可能である。この場合は図3(a)に示すように、近傍領域を一画素ずつ移動させて、輝度色差信号を算出するため、6×6画素の単位領域に対して全部で25組の輝度色差信号が算出される。
また、図4(a)、(b)は、画像信号がCy(シアン)、Mg(マゼンタ)、Ye(イエロー)、G(緑)色差線順次方式色フィルタ(又は、色差線順次型色フィルタ)で得られる場合の説明図である。この図4(a)、(b)では局所領域を6×6画素として説明している。注目領域は、Ye5,Cy5,G5,Mg5であり、その周辺の点状の円で囲まれた領域が近傍領域となる。
前記式(3)に示すように、CyMgYeG信号からRGB信号への変換が行われ、CyMgYeG信号から輝度色差信号への変換は、一旦、式(3)からRGB信号へ変換した後、式(2)を用いて、Y1Y2CbCrへ変換する。ここで、GとG'はそれぞれGrとGbに対応する。算出された輝度色差信号は、演算部7へ転送される。演算部7は、制御部11の制御に基づき、輝度色差信号に対してノイズ低減処理やホワイトバランス処理を施す。これら2つの処理についての詳細は後述する。演算部7から転送された演算処理後の画像信号をY1'Y2'Cb'Cr'とすると、逆変換部8は、制御部11の制御に基づき、式(4)に示すように、単板のRGB信号へ逆変換する。
ここで、色差線順次型色フィルタで得られる信号は、このままRGB信号として取り扱ってもよいし、若しくは式(3)で示される演算の逆演算を行うことでCyMgYeG信号を得てもよい。
前述した式(2)に示したように、4×4のマトリクスを用いているため、2×2画素領域に対して1対1の変換となり、変換された輝度色差信号に対して何も処理を行わない場合、可逆的にもとの画像信号に逆変換することができる。逆変換された画像信号は、信号処理部9に転送される。信号処理部9は制御部11の制御に基づき、変換部8から転送された単板の画像信号に対して、単板三板化や色変換等の処理を行い、メモリーカード等の出力部10に転送する。
図5は、演算部7の第1の構成例を示す図である。
この演算部7は、局所領域抽出部21、バッファ22、平均値算出部23、ノイズ低減部24、ノイズ推定部25、パラメータ用ROM26及びゲイン設定部27とで構成される。この構成において、算出部6から出力された画像信号が局所領域抽出部21、バッファ22、平均値算出部23及びノイズ低減部24に順次、伝搬されるように接続されている。またバッファ22は、平均値算出部23に加えて、ノイズ低減部24にも画像信号を出力するように接続されている。
この演算部7は、局所領域抽出部21、バッファ22、平均値算出部23、ノイズ低減部24、ノイズ推定部25、パラメータ用ROM26及びゲイン設定部27とで構成される。この構成において、算出部6から出力された画像信号が局所領域抽出部21、バッファ22、平均値算出部23及びノイズ低減部24に順次、伝搬されるように接続されている。またバッファ22は、平均値算出部23に加えて、ノイズ低減部24にも画像信号を出力するように接続されている。
上記制御部11は、局所領域抽出部21、平均値算出部23、ノイズ低減部24、ノイズ推定部25及びゲイン設定部27をそれぞれ制御するように双方向に接続している。また、パラメータ用ROM26及び平均値算出部23は、ノイズ推定部25に出力するように接続する。ノイズ推定部25及びゲイン設定部27は、ノイズ低減部24に出力するように接続する。さらに、ノイズ低減部24から逆変換部8に画像信号が出力される。
このように構成された演算部7において、まず局所領域抽出部21は、算出部6から転送される画像信号の所定の注目画素を中心とする局所領域、例えば5×5の画素単位を含む領域を抽出し、バッファ22へ転送する。平均値算出部23は、バッファ22から転送された局所領域に対して平均値を算出する。算出された平均値はノイズ推定部25及びノイズ低減部24に出力される。
この時に、ノイズ低減部24には、バッファ22に格納されている局所領域の信号も転送される。ノイズ推定部25は、制御部11の制御に基づき、パラメータ用ROM26からノイズ量算出に用いる関数情報を読み出す。ノイズ量Nの関数は、例えば、図6に示すような信号値Yに対して、べき乗の形態で増加するものが考えられる。これは式(5)のような形態となる。
ここで、iは増幅率を示すパラメータである。パラメータ用ROM26にはαi・βi・γiの定数項が記録される。ノイズ推定部25は、増幅率に基づきパラメータ用ROM26から上記αi、βi、γiの定数項を読み出す。ノイズ推定部25は、平均値算出部23から転送された平均値をYとし、式(6)に基づき、ノイズ量を算出する。上記ノイズ量は局所領域抽出部21で抽出された領域の中心画素のノイズ量と仮定される。算出されたノイズ量はノイズ低減部24に転送される。ノイズ低減部24は制御部11の制御に基づき、バッファ22から転送された局所領域の中心画素、平均値算出部23から転送された局所領域の平均値I(Bar)、ノイズ推定部25から転送されたノイズ量N、及びゲイン設定部27から転送されたゲイン値μを用いて式(7)に基づき、局所領域における中心画素がノイズであるか否かを判定する。
この式(7)を満たす場合、ノイズであると判断され、中心画素は局所領域の平均値で置き換えられる。それ以外の場合はエッジやテクスチャなどの構造であると判断され、中心画素に対する処理は行われない。ゲインμ値が大きくなるほどノイズであると判定される箇所が増えノイズ低減処理の効果が大きくなる。
図7は、演算部7の第2の構成例を示す図である。
この演算部7'は、バッファ22、領域抽出部28、平均値算出部23、ホワイトバランス係数算出部29及びホワイトバランス調整部30とで構成される。この演算部7'において、算出部6から出力された画像信号がバッファ22を介して、領域抽出部28及びホワイトバランス調整部30に出力されるように接続されている。このホワイトバランス調整部30で処理された画像信号は逆変換部8に出力される。また、制御部11は、局所領域抽出部28、平均値算出部23、ホワイトバランス係数算出部29及びホワイトバランス調整部30と双方向に接続している。
この演算部7'は、バッファ22、領域抽出部28、平均値算出部23、ホワイトバランス係数算出部29及びホワイトバランス調整部30とで構成される。この演算部7'において、算出部6から出力された画像信号がバッファ22を介して、領域抽出部28及びホワイトバランス調整部30に出力されるように接続されている。このホワイトバランス調整部30で処理された画像信号は逆変換部8に出力される。また、制御部11は、局所領域抽出部28、平均値算出部23、ホワイトバランス係数算出部29及びホワイトバランス調整部30と双方向に接続している。
この構成において、算出部6にて算出された輝度色差信号は、バッファ22に一旦転送される。領域抽出部28 は、制御部11の制御に基づき、バッファ22から転送される輝度色差信号を複数の所定領域に分割し、上記所定領域において、ある輝度値以上で、且つ最も色差信号が小さい領域を抽出する。抽出された所定領域は平均値算出部23に転送される。平均値算出部23は制御部11の制御に基づき領域抽出部28より転送された所定領域の輝度色差信号の平均値を算出する。算出された平均値をY1(Bar),Y2(Bar),Cb(Bar),Cr(Bar)とすると、ホワイトバランス係数算出部29は、制御部11の制御により、式(8)に従い、ホワイトバランス係数を算出する。
ホワイトバランス係数算出部29から算出されたホワイトバランス係数は、ホワイトバランス調整部30に転送される。ホワイトバランス調整部30では、制御部11の制御に基づきバッファ22から転送される色差信号に対して上記ホワイトバランス係数を減算し、ホワイトバランスの調整を行う。ホワイトバランス調整後の輝度色差信号は逆変換部8へ転送される。
第2の構成例の構成により、単板の画像信号を輝度色差信号に変換した後でも、元の単板の画像信号に逆変換することができ、その後の単板三板化等の処理を正確に行うことができる。尚、この第1の実施形態(第1,2の構成例)では、ハードウェアによる処理を前提として説明したが、これに限定されるものではなく、ソフトウェアによる処理によって実現することもできる。
一例として、図8に示すフローチャートにより前述した第1の実施形態と同様な処理を実現することができる。
まず、撮像された画像信号を読み込む(ステップS1)。次いで、前述した抽出部5による処理に相当するように、画像信号の注目領域を中心とする局所領域を抽出する(ステップS2)。さらに算出部6による処理に相当するように、画像信号を輝度色差信号に変換する(ステップS3)。その後、演算部7の処理に相当するように、所定の演算処理を行う(ステップS4)。演算処理された信号に対して、逆変換部8に相当する逆変換処理を行う。つまり、輝度色差信号から元の画像信号に逆変換する(ステップS5)。
まず、撮像された画像信号を読み込む(ステップS1)。次いで、前述した抽出部5による処理に相当するように、画像信号の注目領域を中心とする局所領域を抽出する(ステップS2)。さらに算出部6による処理に相当するように、画像信号を輝度色差信号に変換する(ステップS3)。その後、演算部7の処理に相当するように、所定の演算処理を行う(ステップS4)。演算処理された信号に対して、逆変換部8に相当する逆変換処理を行う。つまり、輝度色差信号から元の画像信号に逆変換する(ステップS5)。
その後、逆変換処理が画像信号の全注目領域に対して処理が行われたか否か判断し(ステップS6)、全注目領域に対して処理が行われた場合(YES)、処理を終了する。一方、まだ全注目領域に対して処理が行われていなければ、ステップS2に戻り、再度、局所領域を抽出する。
次に、撮像された画像信号から局所領域毎に算出する輝度信号及び色差信号について説明する。
輝度色差信号は、画像信号(画面)に対して、局所領域に分割して、例えば図4で説明したような2×2画素の領域において、2種類の輝度信号と2種類の色差信号のうちいずれかn種類(n≦4)の輝度色差信号が算出される。
次に、本発明の実施形態を詳細に説明するに当り、理解しやすくするために前提として、図9にRGBベイヤーのフォーマットを示し説明する。
輝度色差信号は、画像信号(画面)に対して、局所領域に分割して、例えば図4で説明したような2×2画素の領域において、2種類の輝度信号と2種類の色差信号のうちいずれかn種類(n≦4)の輝度色差信号が算出される。
次に、本発明の実施形態を詳細に説明するに当り、理解しやすくするために前提として、図9にRGBベイヤーのフォーマットを示し説明する。
図9においては、横方向を水平方向(H方向)とし、縦方向(V方向)を垂直方向としている。H方向において、R(赤)とGR(緑)の交互のパターン若しくはGB(緑)とB(青)の交互のパターンにて、1画素毎の色情報が得られる。尚、この色情報は、CCD等の撮像素子2より得られた値をディジタル値として量子化するものである(RGBベイヤーデータ)。また、本実施形態の説明において、RGBに基づく色情報配列を記載しているが、例えばMgCyYeの補色系の色情報配列を有する撮像素子2から得られた色情報に基づく考え方も同様である。
また同様に、本実施形態について説明する前提として、図10(a),(b)には、RGBのベイヤーデータとYe(輝度成分)Cy(色差成分)データを互いに変換するためのマトリクス(RGB−YC変換式)を示す。
図10(a)において、K11〜K44は、RGBベイヤーデータからCrYrYbCbの輝度色差データに変換するための行列式である。ここでCr、Yr、Yb、Cbは以下の定義に従う。K11〜K14はCr生成の為の係数、K21〜K24はYr生成の為の係数、K31〜K34はCr生成の為の係数、K41〜K44はCb生成の為の係数である。
即ち、
Cr:輝度に対するR成分の色差
Yr:輝度
Yb:輝度
Cb:輝度に対するB成分の色差
となる。
Cr:輝度に対するR成分の色差
Yr:輝度
Yb:輝度
Cb:輝度に対するB成分の色差
となる。
図11は、本発明の実施形態を説明するに当り前提となる4×4の画素領域にて簡略化した、1画面のRGBベイヤーデータの一例である。ここでは、実施形態を理解しやすくするために画角を絞って説明するが、実際には、更に大きな画素サイズとなる。
次に、局所領域の2×2の画素領域において、2種類の輝度信号と2種類の色差信号の内いずれかn種類(n≦4)の輝度色差信号を算出するための具現化したハードウェアに関する実施形態に基づいて説明する。
次に、局所領域の2×2の画素領域において、2種類の輝度信号と2種類の色差信号の内いずれかn種類(n≦4)の輝度色差信号を算出するための具現化したハードウェアに関する実施形態に基づいて説明する。
まず、第1の実施形態として、図12(a)には、2×2画素領域単位にて、1画素置きにRGBベイヤーデータからの2種類の輝度信号及び2種類の色差信号(CrYrYbCb)を生成し、且つ該生成されたいずれか1種類の輝度色差信号を得るための回路例を示す。なお、配線上に記載される数の8は信号数(信号ライン数)を示している。
図12(a)の回路構成について説明する。
この回路構成は、一時的にデータを格納するFIFO(First-In First-Out memory)31と、RGBベイヤーデータを入力する2段接続されたフリップフロップ(Z-1)32,34と、FIFO31に処理されたデータを入力する2段接続されたフリップフロップ33,35と、4テーブルに分割された係数データを保持する記憶回路36と、シーケンサ37の指示に基づき、記憶回路36から係数データを選択出力するセレクタ38と、各フリップフロップ32〜35から出力されたデータに記憶回路36から出力された係数データを乗算する乗算器39,40,41,42と、乗算器39〜42の出力を加算する加算器43と、加算器43の加算結果(CrYrYbCbの輝度色差データ)を出力するフリップフロップ44とで構成される。
この回路構成は、一時的にデータを格納するFIFO(First-In First-Out memory)31と、RGBベイヤーデータを入力する2段接続されたフリップフロップ(Z-1)32,34と、FIFO31に処理されたデータを入力する2段接続されたフリップフロップ33,35と、4テーブルに分割された係数データを保持する記憶回路36と、シーケンサ37の指示に基づき、記憶回路36から係数データを選択出力するセレクタ38と、各フリップフロップ32〜35から出力されたデータに記憶回路36から出力された係数データを乗算する乗算器39,40,41,42と、乗算器39〜42の出力を加算する加算器43と、加算器43の加算結果(CrYrYbCbの輝度色差データ)を出力するフリップフロップ44とで構成される。
各構成部位について説明する。
FIFO31には、例えば1画素当りの色情報が8bitのRGBベイヤーデータが逐次入力される。図11に示す1画面のフォーマットに従うと、FIFO31の容量は4ワード分(1ワードは1画素当りの色情報)でよい。フリップフロップ32,33,34,35は、例えば図9に示すハッチングにて示した、2×2画素の領域を確保する。
FIFO31には、例えば1画素当りの色情報が8bitのRGBベイヤーデータが逐次入力される。図11に示す1画面のフォーマットに従うと、FIFO31の容量は4ワード分(1ワードは1画素当りの色情報)でよい。フリップフロップ32,33,34,35は、例えば図9に示すハッチングにて示した、2×2画素の領域を確保する。
記憶回路36は、図10(a)に示したRGBベイヤーデータからCrYrYbCbの輝度色差データに変換する為の係数データを保持する。ここで示すK11〜K44は、8bitにて表されるものとする。より具体的には、後述する図24(a)に示すRGB−YC変換式に記載された係数を設定する。シーケンサ37は、セレクタ38により記憶回路36から上記係数を選択する。この係数は、シーケンサ37の値に基づいて、以下の表1に示すようにセレクタ38にから選択される。また、加算器43は、乗算器39,40,41,42により算出された乗算結果を加算する。その加算結果(CrYrYbCbの輝度色差データ)は、制御部11に制御されるタイミングによりフリップフロップ44から出力される。
次に図12(b)には、2×2画素領域単位にて、CrYrYbCbの輝度色差データからRGBベイヤーデータに逆変換するための回路例を示す。
この回路構成は、FIFO45と、CrYrYbCbの輝度色差データを入力する2段接続されたフリップフロップ46,48と、FIFO45に処理されたデータを入力する2段接続されたフリップフロップ47,49と、4テーブルに分割された係数データを保持する記憶回路50と、シーケンサ51の指示に基づき、記憶回路50から係数データを選択出力するセレクタ52と、各フリップフロップ46〜49から出力されたデータに記憶回路50から出力された係数データを乗算する乗算器53,54,55,56と、乗算器53〜56の出力を加算する加算器57と、加算器57の加算結果(RGBベイヤーデータ)を出力するフリップフロップ58とで構成される。
各構成部位について説明する。
FIFO45には、例えば1画素当りの色情報が8bitのCrYrYbCbの輝度色差データが逐次入力される。このFIFO45の容量は、4ワード分(1ワードは1画素当りの色情報)でよい。4つのフリップフロップ46〜49により、2×2画素の領域を確保する。記憶回路50は、図10(b)に示したCrYrYbCbの輝度色差データからRGBベイヤーデータに変換するための行列式(係数データ)を保持する。これらの係数データC11〜C44は、8bitにて表されるものとする。より具体的には、後述する図24(b)に記載された係数を設定する。
FIFO45には、例えば1画素当りの色情報が8bitのCrYrYbCbの輝度色差データが逐次入力される。このFIFO45の容量は、4ワード分(1ワードは1画素当りの色情報)でよい。4つのフリップフロップ46〜49により、2×2画素の領域を確保する。記憶回路50は、図10(b)に示したCrYrYbCbの輝度色差データからRGBベイヤーデータに変換するための行列式(係数データ)を保持する。これらの係数データC11〜C44は、8bitにて表されるものとする。より具体的には、後述する図24(b)に記載された係数を設定する。
次に、図12(a)に示す回路構成において、図13に示すタイミングチャートを一例として参照し、変換動作について説明する。図13において、CLKは回路を動作させるタイミングを計るためのクロックであり、FIFO31、フリップフロップ32〜35、シーケンサ37及びフリップフロップ44に供給される。シーケンス信号Seq1、0はシーケンサ37の出力である。このシーケンサ37のSeq1、0に従って、表1に示すような所定のマトリクス係数がセレクタ38の出力端子a〜dから出力される。RGBベイヤーは、入力される画像データである。
さらに、RGBベイヤー(1H遅延)は、FIFO31にて1ライン分遅延されたRGBベイヤーの画像データである。RGBベイヤー(1D遅延)は、RGBベイヤーの画像データを1CLK分遅延させたものであり、フリップフロップ32の出力である。RGBベイヤー(2D遅延)は、RGBベイヤーの画像データを2CLK分遅延させたものであり、フリップフロップ34の出力である。RGBベイヤー(1H+1D遅延)は、FIFO31から出力されるRGBベイヤーの画像データを1CLK分遅延させたものであり、フリップフロップ33の出力である。RGBベイヤー(1H+2D遅延)は、FIFO31から出力されたRGBベイヤーの画像データを2CLK分遅延させたものであり、フリップフロップ35の出力である。
これらのRGBベイヤーの画像データ(1D遅延)、RGBベイヤーの画像データ(1H+1D遅延)、RGBベイヤーの画像データ(2D遅延)、RGBベイヤーの画像データ(1H+2D遅延)のハッチングのかかったデータを用いて、CrYrYbCbの輝度色差データへの変換を行う。例えば、ハッチングのかかった2×2画素データ、R00、G01、G10、B11を用いて、式(9)による演算を実施し、Cr00を得る。
ここで、係数データは、K11=0.50、K12=−0.210、K13=−0.210、K=−0.081とする。次に、これらのG01、R02、B11及びG12を用いて、式(10)による演算を実施し、Y01を得る。
ここで、係数データは、K21=0.299、K22=0.294、K23=0.294、K24=0.114とする。Cr02も式(8)と同様にして求め、図11に示したRGBベイヤーフォーマットにおいて、第1行のCrYrYbCbの輝度色差データへの変換を終了する。次に、G10、B11、R20、G21を用いて、式(11)による演算を実施し、Y10を得る。
ここで、K41=−0.169、K42=−0.165、K43=−0.165、K44=−0.50とする。
また、Y12も前述した式(11)と同様に演算して求め、図11における第2行のCrYrYbCbの輝度色差データへの変換を終了する。
引き続き、前述した式(2),(3)と同様にして、図11に示す第3行のCrYrYbCbの輝度色差データへの変換を終了する。
また、Y12も前述した式(11)と同様に演算して求め、図11における第2行のCrYrYbCbの輝度色差データへの変換を終了する。
引き続き、前述した式(2),(3)と同様にして、図11に示す第3行のCrYrYbCbの輝度色差データへの変換を終了する。
次に、図12(b)に示す回路構成において、図14に示すタイミングチャートを一例として参照し、変換動作について説明する。
図14において、CLKは回路を動作させるタイミングを計るためのクロックであり、FIFO45、フリップフロップ46〜49、シーケンサ51及びフリップフロップ58に供給される。シーケンス信号Seq0,1はシーケンサ51の出力である。このシーケンサ51から出力されたSeq0,1に従って、表2に示すような所定のマトリクス係数がセレクタ52の出力端子a〜dから出力される。CrYrYbCbは、入力される輝度色差データである。
図14において、CLKは回路を動作させるタイミングを計るためのクロックであり、FIFO45、フリップフロップ46〜49、シーケンサ51及びフリップフロップ58に供給される。シーケンス信号Seq0,1はシーケンサ51の出力である。このシーケンサ51から出力されたSeq0,1に従って、表2に示すような所定のマトリクス係数がセレクタ52の出力端子a〜dから出力される。CrYrYbCbは、入力される輝度色差データである。
さらに、CrYrYbCb(1H遅延)は、FIFO45にて1ライン分遅延されたCrYrYbCbの輝度色差データである。CrYrYbCb(1D遅延)は、CrYrYbCbの輝度色差データを1CLK分遅延させたものであり、フリップフロップ46の出力である。CrYrYbCb(2D遅延)は、CrYrYbCbの輝度色差データを2CLK分遅延させたものであり、フリップフロップ48の出力である。CrYrYbCb(1H+1D遅延)は、FIFO45から出力されるCrYrYbCbの輝度色差データを1CLK分遅延させたものであり、フリップフロップ47の出力である。CrYrYbCb(1H+2D遅延)は、FIFO45から出力されたCrYrYbCbの輝度色差データを2CLK分遅延させたものであり、フリップフロップ49の出力である。
これらのCrYrYbCbの輝度色差データ(1D遅延)、CrYrYbCbの輝度色差データ(1H+1D遅延)、CrYrYbCbの輝度色差データ(2D遅延)、CrYrYbCbの輝度色差データ(1H+2D遅延)のハッチングのかかったデータを用いて、RGBベイヤーの画像データへの変換を行う。例えば、ハッチングのかかった2×2画素データ、Cr00、Y01、Y10、Cb11を用いて、式(13)による演算を実施し、R00を得る。
以上のような演算処理により、図11に示す第2行のCrYrYbCbの輝度色差データへの変換を終了する。
従って、本実施形態では、図12(a)に示した演算処理により、RGBベイヤーデータからCrYrYbCbの輝度色差データへ変換する構成と、図12(a)に示した演算処理により、CrYrYbCbの輝度色差データからRGBベイヤーデータへ変換する構成をそれぞれ別個の回路にて実現している。
従って、本実施形態では、図12(a)に示した演算処理により、RGBベイヤーデータからCrYrYbCbの輝度色差データへ変換する構成と、図12(a)に示した演算処理により、CrYrYbCbの輝度色差データからRGBベイヤーデータへ変換する構成をそれぞれ別個の回路にて実現している。
さらに第1の実施形態の第1の変形例として、図15には、前述した図12(a),(b)を併せて、ハードウェアを小規模化し、装置コストの低減を実現させるために、各種の回路リソースを共有化した構成例を示す。
この第1の変形例の構成では、2×2画素領域単位にて、RGBベイヤーデータからCrYrYbCbの輝度色差データに変換又は、CrYrYbCbの輝度色差データからRGBベイヤーデータに逆変換するための回路例を示す。なお、配線上に記載される数字8は信号数(信号ライン数)を示している。
この第1の変形例の構成では、2×2画素領域単位にて、RGBベイヤーデータからCrYrYbCbの輝度色差データに変換又は、CrYrYbCbの輝度色差データからRGBベイヤーデータに逆変換するための回路例を示す。なお、配線上に記載される数字8は信号数(信号ライン数)を示している。
この回路構成は、入力するRGBベイヤーデータとCrYrYbCbの輝度色差データの何れかを選択するセレクタ61と、FIFO62と、選択されたデータを入力する2段接続されたフリップフロップ63,65と、FIFO62に処理されたデータを入力する2段接続されたフリップフロップ64,66と、RGBベイヤーデータ及びCrYrYbCbの輝度色差データに対してそれぞれ4テーブル(計8テーブル)に分割された係数データを保持する記憶回路67と、所定のモード(Mode)信号により記憶回路67から読み出すテーブル群(RGBベイヤーデータ又はCrYrYbCbの輝度色差データのテーブル)を選択するセレクタ69aと、シーケンサ68の指示に基づき、セレクタ69aで選択されている記憶回路67のテーブルから係数データを選択出力するセレクタ69bと、各フリップフロップ63〜66から出力されたデータに記憶回路67から読み出された係数データを乗算する乗算器70,71,72,73と、乗算器70〜73の出力を加算する加算器74と、加算器74の加算結果(RGBベイヤーデータ又はCrYrYbCbの輝度色差データ)を出力するフリップフロップ75とで構成される。
各構成部位について詳細に説明する。
この回路構成において、セレクタ61は、RGBベイヤーデータ若しくはCrYrYbCbの輝度色差データを入力データとして、図示しない上位コントローラ等から与えられるモード信号によって何れか一方を選択する。例えば、モード信号がL(Low level)の時、セレクタ61はRGBベイヤーデータを選択し、モード信号がH(High level)の時CrYrYbCbの輝度色差データを選択する。セレクタ61の出力端に接続するFIFO62には、例えば1画素当りの色情報が8bitのRGBベイヤーデータ若しくはCrYrYbCbの輝度色差データが逐次入力される。例えば、図11に示したように、1画面のフォーマットに従うと、FIFO62の容量は、4ワード分(1ワードは1画素当りの色情報)でよい。4つのフリップフロップ63〜66は、例えば、図9に示したようなハッチングにて示した、2×2画素(R,Gr,Gb,B))の領域を確保する。
この回路構成において、セレクタ61は、RGBベイヤーデータ若しくはCrYrYbCbの輝度色差データを入力データとして、図示しない上位コントローラ等から与えられるモード信号によって何れか一方を選択する。例えば、モード信号がL(Low level)の時、セレクタ61はRGBベイヤーデータを選択し、モード信号がH(High level)の時CrYrYbCbの輝度色差データを選択する。セレクタ61の出力端に接続するFIFO62には、例えば1画素当りの色情報が8bitのRGBベイヤーデータ若しくはCrYrYbCbの輝度色差データが逐次入力される。例えば、図11に示したように、1画面のフォーマットに従うと、FIFO62の容量は、4ワード分(1ワードは1画素当りの色情報)でよい。4つのフリップフロップ63〜66は、例えば、図9に示したようなハッチングにて示した、2×2画素(R,Gr,Gb,B))の領域を確保する。
また、記憶回路67においては、図10(a)に示したRGBベイヤーデータからCrYrYbCbの輝度色差データへ変換するための係数(K11〜K44)、及び図10(b)に示したCrYrYbCbの輝度色差データからRGBベイヤーデータへ変換するための係数(C11〜C44)を保持している。より具体的には、図29(a),(b)に示すような各係数を設定する。
さらに、シーケンサ68は、セレクタ69bにおいて、モード信号によりセレクタ69aで選択されているRGBベイヤーデータ又はCrYrYbCbの輝度色差データにおける係数を選択して出力させる。この係数の選択としては、前述したモード信号値がLの時には、セレクタ69aからK11〜K44が出力される。またセレクタ69bにおけるa〜d値は、シーケンサ68の値(L又はHレベル)により前述した表1又は表2に示すと同様に出力される。
この変形例における動作は、前述した図12(a),(b)に示した構成における動作に対して、最初にセレクタ61及びセレクタ69aによるRGBベイヤーデータ又はCrYrYbCbの輝度色差データの選択処理が付加されただけであり、以外の動作は同等であり、ここでの説明は省略する。
以上説明した変形例は、RGBベイヤーデータの2×2画素領域より、2種類の輝度信号及び2種類の色差信号を生成し、且つ該生成されたいずれか1種類の輝度色差信号を得ることが可能である。また、得られた輝度色差信号の2×2画素領域よりRGBベイヤーデータを演算し、入力時のRGBベイヤーデータのフォーマットに戻すことが可能である。
ここで図16は、2×2画素領域単位にて、RGBベイヤーデータからの2種類の輝度信号及び2種類の色差信号(CrYrYbCb)を生成し、且つ該生成されたいずれかn(n≦4)種類の輝度色差信号を得るための回路例を示す。ここでは、RGBベイヤーから、n(n≦4)種類の輝度色差信号を得る回路全体を示している。この例では、n=2としている。
この輝度色差信号算出回路は、前述した図12(a)で示したRGBベイヤーからそれぞれ1種類の輝度色差信号を得る回路212及び回路213と、任意の画像処理回路214と、図12(b)にて示した輝度色差信号からRGBベイヤーを復元する回路215とで構成される。但し、回路212と回路213では、輝度色差信号の出力順番を異ならせている。
次に第2の実施形態について説明する。第2の実施形態として、図17及び図18には、2×2画素領域単位にて、RGBベイヤーデータからの2×2画素領域より、1画素置きに2種類の輝度信号及び2種類の色差信号(CrYrYbCb)を生成する回路例を示す。また、図19及び図20には、2×2画素領域単位にて、CrYrYbCbの輝度色差データから1画素置きにRGBベイヤーデータに逆変換するための回路例を示す。なお、配線上に記載される数の8は信号数(信号ライン数)を示している。
図17は、RGBベイヤーデータの入力手段の構成例を示す図である。
この回路構成は、RGBベイヤーデータが入力されるFIFO81と、同様にRGBベイヤーデータが入力される2段接続されたフリップフロップ82,84と、FIFO81に処理されたデータを入力する2段接続されたフリップフロップ83,85と、フリップフロップ82〜85が出力する4データのうちの何れかを選択するセレクタ87と、セレクタ87におけるデータ選択を指示するシーケンサ86とで構成される。
この回路構成は、RGBベイヤーデータが入力されるFIFO81と、同様にRGBベイヤーデータが入力される2段接続されたフリップフロップ82,84と、FIFO81に処理されたデータを入力する2段接続されたフリップフロップ83,85と、フリップフロップ82〜85が出力する4データのうちの何れかを選択するセレクタ87と、セレクタ87におけるデータ選択を指示するシーケンサ86とで構成される。
このような構成において、FIFO81には、例えば1画素当りの色情報が8bit のRGBベイヤーデータが逐次入力される。図11に示したように、1画面のフォーマットに従うと、該FIFOの容量は4ワード分(1ワードは1画素当りの色情報)でよい。4つのフリップフロップ82〜85は、例えば、図9でハッチングにて示した、2×2画素(R,Gr,Gb,B)の領域を確保する。
次に図18には、前述した入力手段により選択された各ベイヤーデータに対して、2種類の輝度信号及び2種類の色差信号を生成する回路構成を示し説明する。
この回路は、図18(a)〜(d)に示すように、それぞれにCr、Yr、Yb及びCbを個々に生成するために、同等な4つの回路を有している。
この回路は、図18(a)〜(d)に示すように、それぞれにCr、Yr、Yb及びCbを個々に生成するために、同等な4つの回路を有している。
図18(a)に示す回路は、セレクタ87より選択されたデータをそれぞれに入力し、後述する係数と乗算する乗算器88,89,90,91と、乗算結果を加算する加算器92と、加算器92からCrの値を出力するフリップフロップ93とで構成される。
同様に、図18(b)においては、乗算器94,95,96,97と、加算器98と、Yrの値を出力するフリップフロップ99とで構成される。図18(c)においては、乗算器100,101,102,103と、加算器104と、Ybの値を出力するフリップフロップ105とで構成される。図18(d)においては、乗算器106,107,108,109と、加算器110と、Cbの値を出力するフリップフロップ111とで構成される。
各乗算器88〜91に入力されるK11〜K14は、前述した図10(a)又は図29(a)に示す行列式による第1行の固定の係数であり、以下同様に、乗算器94〜97に入力されているK21〜K24の値は、同じ行列式に示した第2行の固定の係数、乗算器100〜103に入力されているK31〜K34の値は、同じ行列式に示した第3行の固定の係数、乗算器106〜109に入力されているK41〜K44の値は、同じ行列式に示した第4行の固定の係数である。
次に図19及び図20を参照して、CrYrYbCbの輝度色差データから1画素置きにRGBベイヤーデータに逆変換するための回路例について説明する。
図19(a)は、Cr,Yr,Yb,Cbの各輝度色差データが入力し、後述する係数とそれぞれに乗算する乗算器121、122,123,124と、これらの乗算結果を加算する加算器125と、Rの値を出力するフリップフロップ126とで構成される。以下同様に、図19(b)は、前記各輝度色差データと各係数とを乗算する乗算器127,128,129,130と、これらの乗算結果を加算する加算器131と、Grの値を出力するフリップフロップ132とで構成される。図19(c)は、前記各輝度色差データと各係数とを乗算する乗算器133,134,135,136と、これらの乗算結果を加算する加算器137と、Gbの値を出力するフリップフロップ138とで構成される。図19(d)は、前記各輝度色差データと各係数とを乗算する乗算器139,140,141,142と、これらの乗算結果を加算する加算器143と、Bの値を出力するフリップフロップ144とで構成される。
図19(a)は、Cr,Yr,Yb,Cbの各輝度色差データが入力し、後述する係数とそれぞれに乗算する乗算器121、122,123,124と、これらの乗算結果を加算する加算器125と、Rの値を出力するフリップフロップ126とで構成される。以下同様に、図19(b)は、前記各輝度色差データと各係数とを乗算する乗算器127,128,129,130と、これらの乗算結果を加算する加算器131と、Grの値を出力するフリップフロップ132とで構成される。図19(c)は、前記各輝度色差データと各係数とを乗算する乗算器133,134,135,136と、これらの乗算結果を加算する加算器137と、Gbの値を出力するフリップフロップ138とで構成される。図19(d)は、前記各輝度色差データと各係数とを乗算する乗算器139,140,141,142と、これらの乗算結果を加算する加算器143と、Bの値を出力するフリップフロップ144とで構成される。
これらの構成において、各乗算器121〜124に入力されるC11〜C14は、前述した図10(b)又は図29(b)に示す行列式による第1行の固定の係数であり、以下同様に、乗算器127〜130に入力されているC21〜C24の値は、同じ行列式に示した第2行の固定の係数、乗算器133〜136に入力されているC31〜C34の値は、同じ行列式に示した第3行の固定の係数、乗算器139〜142に入力されているC41〜C44の値は、同じ行列式に示した第4行の固定の係数である。
図20は、RGBベイヤーデータの出力手段を示しており、前述した図19(a)〜(d)におけるフリップフロップ126,132,138,144からそれぞれ出力されるR,Gr,Gb,Bのデータを選択出力するセレクタ146と、セレクタ146に選択指示を与えるシーケンサ145とで構成される。このセレクタ146は、シーケンサ145により、各演算で得られた4種類のRGBベイヤーの値より1種類の画像データを選択する出力する。表4には、セレクタ4の5の動作を示す。
次に図21に示すタイミングチャートを参照して、第2の実施形態におけるベイヤーデータに対して、2種類の輝度信号及び2種類の色差信号を生成する動作について説明する。 図21において、CLKは回路を動作させるためのクロックである。このクロックは、図17及び図18に示したFIFO81、フリップフロップ82〜85、シーケンサ86及びフリップフロップ93,99,105,111にそれぞれ供給される。シーケンス信号Seq1、0は、シーケンサ86の出力である。シーケンサ86の出力に従って、セレクタ87の出力a〜dには所定のベイヤーデータが出力される(表3を参照)。
また、各RGBベイヤーは、入力される画像データである。ここで、RGBベイヤー(1H遅延)は、FIFO81にて1ライン分遅延されたRGBベイヤーの画像データである。RGBベイヤー(1D遅延)は、前記RGBベイヤー(1H遅延)の画像データをさらに1CLK分遅延させたものであり、フリップフロップ92の出力である。RGBベイヤー(2D遅延)は、前記RGBベイヤー(1H遅延)の画像データを2CLK分遅延させたものであり、フリップフロップ84の出力である。RGBベイヤー(1H+1D遅延)は、前記FIFO81出力のRGBベイヤーの画像データを1CLK分遅延させたものであり、フリップフロップ83の出力である。RGBベイヤー(1H+2D遅延)は、前記FIFO81の出力のRGBベイヤーの画像データを2CLK分遅延させたものであり、フリップフロップ85の出力である。
これらのうち、RGBベイヤーの画像データ(1D遅延)、RGBベイヤーの画像データ(1H+1D遅延)、RGBベイヤーの画像データ(2D遅延)、RGBベイヤーの画像データ(1H+2D遅延)の図21におけるハッチングのかかったデータを用いて、CrYrYbCbの輝度色差データへの変換を行う。例えば、R00、G01、G10、B11の画像データを用いて、Yr00、Cr00、Cb00、Yb00を得る。図21における、CrYrYbCb4板の“1”がこの結果に相当する。
更に、2×2画素の領域を1画素ずらしたG01、R02、B11、G12を用いて輝度色差データYr01、Cr01、Cb01、Yb01を得る。図21においてCrYrYbCb4板の“2”がこの結果に相当する。こうして逐次1画素置きに2種類の輝度信号と2種類の色差信号を得ることが可能となる。
次に図22に示すタイミングチャートを参照して、第2の実施形態におけるCrYrYbCbの輝度色差データから1画素置きにRGBベイヤーデータに逆変換する動作について説明する。
図22において、CLKは回路を動作させるためのクロックである。このクロックは、図19及び図20に示したフリップフロップ126,132,138,144及びシーケンサ145にそれぞれ供給される。シーケンス信号Seq1、0は、シーケンサ145の出力である。シーケンサ145の出力に従って、セレクタ146の出力a〜dには所定のRGBベイヤーデータが出力される(表4を参照)。
CrYrYbCbは、入力される輝度色差の画像データである。例えば、”1”はYr00、Cr00、Cb00、Yb00の4ワードの輝度色差の画像データを示す。この4ワードの輝度色差データを用いて、RGBベイヤーデータを演算し、図22に示すR、Gr、Gb、Bを得る。図22に示すRGBベイヤーは、図20におけるセレクタ146の出力結果である。
このように、第2の実施形態(図17〜図20)では、RGBベイヤーデータからCrYrYbCbの輝度色差データへ変換する構成と、CrYrYbCbの輝度色差データからRGBベイヤーデータへ変換する構成を別回路にて実現している。
さらに第2の実施形態の変形例として、ハードウェア規模を小さくして、装置のコストを低減するために、各種の回路リソースを共有化した一例について説明する。図23、図24及び図25には、この変形例の構成を示す。
図23は、RGBベイヤーデータ又はCrYrYbCbの輝度色差データの入力手段の一構成例を示している。この構成例においては、FIFO151と、RGBベイヤーデータを入力する2段接続されたフリップフロップ152,154と、FIFO151に処理されたデータを入力する2段接続されたフリップフロップ153,155と、シーケンサ157の指示に基づき、回路内に入力するRGBベイヤーデータを選択出力するセレクタ156と、セレクタ156により選択出力されたRGBベイヤーデータとCrYrYbCbの輝度色差データとの各データをモード(Mode)信号によりを選択して回路内に取り込むセレクタ158とで構成される。
この入力手段は、図11に示した1画面のフォーマットに従うと、FIFO151の容量は、4ワード分(1ワードは1画素当りの色情報)でよい。フリップフロップ152〜155により、例えば図9でハッチングする2×2画素領域(R,Gr,Gb,B)を確保する。
さらに、フリップフロップ152〜155のデータは、シーケンサ157の指示により、セレクタ156にて選択され、次段のセレクタ158に入力される。シーケンサ157及びセレクタ156における選択は、前述した表3に従い行われる。セレクタ158では、図示しない上位コントローラ等から与えられるモード(Mode)信号によってRGBベイヤーデータ若しくはCrYrYbCbの輝度色差データを選択する。例えば、モード信号がLの時、セレクタ158は、RGBベイヤーデータ(a1、b1、c1、d1)を選択し、一方、Hの時には、CrYrYbCbの輝度色差データを選択して、それぞれa,b,c,dとして出力する。
図24(a)〜(d)は、演算処理手段を示している。この演算処理手段において、セレクタ160,162,164,166は、RGBベイヤーデータからCrYrYbCbの輝度色差データへ変換するための係数(K11〜K44)又は、CrYrYbCbの輝度色差データからRGBベイヤーデータへ変換するための係数(C11〜C44)を選択する。この選択は、モード信号がLの時、セレクタ160,162,164,166は、K11〜K44を選択し、一方、モード信号がHの時、C11〜C44を選択して、それぞれの係数を出力する。また、各セレクタ160,162,164,166の出力側には、乗算器161,163,165,167がそれぞれ接続され、前記係数(K11〜K44又はC11〜C44)とデータを各々乗算する。これらの乗算器161,163,165,167の出力側には、加算器168が接続され、出力された乗算結果が加算される。加算された結果Wは、フリップフロップ169から指示により、後述するセレクタ201に出力される。
以下同様に、図24(b)は、セレクタ170,172,174,176と、乗算器171,173,175,177と、加算器178と、フリップフロップ179とで構成される。この構成において、セレクタ170,172,174,176は、RGBベイヤーデータからCrYrYbCbの輝度色差データへ変換するための係数(K21〜K24)及びCrYrYbCbの輝度色差データからRGBベイヤーデータへ変換するための係数(C21〜C24)を選択する。これらのセレクタ170,172,174,176による選択は、モード信号がLの時、係数(K21〜K24)を選択し、モード信号がHの時、係数(C21〜C24)を選択し、それぞれの係数を出力するものとする。乗算器171,173,174,176は、これらの係数と、セレクタ158の出力データとを各々乗算する。これらの乗算器171,173,175,177の出力側には、加算器178が接続され、出力された乗算結果が加算される。加算された結果Xは、フリップフロップ179から指示により、後述するセレクタ201に出力される。
図24(c)は、セレクタ180,182,184,186と、乗算器181,183,185,187と、加算器188と、フリップフロップ189とで構成される。この構成において、セレクタ180,182,184,186は、RGBベイヤーデータからCrYrYbCbの輝度色差データへ変換するための係数(K31〜K34)及びCrYrYbCbの輝度色差データからRGBベイヤーデータへ変換するための係数(C31〜C34)を選択する。これらのセレクタ180,182,184,186による選択は、モード信号がLの時、係数(K31〜K34)を選択し、モード信号がHの時、係数(C31〜C34)を選択し、それぞれの係数を出力するものとする。乗算器181,183,185,187は、これらの係数と、セレクタ158の出力データとを各々乗算する。これらの乗算器181,183,185,187の出力側には、加算器188が接続され、出力された乗算結果が加算される。加算された結果Yは、フリップフロップ189から指示により、後述するセレクタ201に出力される。
図24(d)は、セレクタ190,192,194,196と、乗算器191,193,195,197と、加算器198と、フリップフロップ199とで構成される。この構成において、セレクタ190,192,194,196は、RGBベイヤーデータからCrYrYbCbの輝度色差データへ変換するための係数(K31〜K34)及びCrYrYbCbの輝度色差データからRGBベイヤーデータへ変換するための係数(C31〜C34)を選択する。これらのセレクタ190,192,194,196による選択は、モード信号がLの時、係数(K31〜K34)を選択し、モード信号がHの時、係数(C31〜C34)を選択し、それぞれの係数を出力するものとする。乗算器191,193,195,197は、これらの係数と、セレクタ158の出力データとを各々乗算する。これらの乗算器191,193,195,197の出力側には、加算器198が接続され、出力された乗算結果が加算される。加算された結果Zは、フリップフロップ199から指示により、後述するセレクタ201に出力される。
また、図25は出力手段を示しており、セレクタ201及びシーケンサ200とで構成される。各フリップフロップ169,179,189,199から出力された加算結果W,X,Y,Zは、セレクタ201に入力される。セレクタ201は、シーケンサ200の指示によりRGBベイヤーデータ又はCrYrYbCbの輝度色差データを出力する。例えば、RGBベイヤーデータであれば、4種類のRGBベイヤーの値(例えば、W→Gr、X→R、Y→B、Z→Gbに相当)から1種類の画像データを選択して出力する。この第2の実施形態の変形例における動作は、セレクタ156及び158による選択動作を除いて、前述した図19及び図20に示した構成と同様であり、詳細な説明は省略する。
以上説明したように、本実施形態によれば、RGBベイヤーデータの2×2画素領域より、1画素置きに2種類の輝度信号及び2種類の色差信号を生成することが可能である。また、得られた輝度色差信号の2×2画素領域よりRGBベイヤーデータを演算し、入力時のRGBベイヤーデータのフォーマットに戻すことが可能である。
次に第3の実施形態について説明する。第3の実施形態として、図26及び図27には、2×2画素領域単位にて、RGBベイヤーデータからの2×2画素領域より、2画素ごとに2種類の輝度信号及び2種類の色差信号(CrYrYbCb)を生成する回路例を示す。なお、配線上に記載される数の8は信号数(信号ライン数)を示している。
図26(a)は、入力手段の構成例を示し、図26(b)は、出力手段の構成例を示し、図27は、変換手段の構成例を示す。
入力手段の回路構成は、RGBベイヤーデータが入力されるFIFO(1H)221と、同様にRGBベイヤーデータが入力される2段接続されたフリップフロップ222,224と、FIFO(1H)221に処理されたデータを入力する2段接続されたフリップフロップ223,225と、フリップフロップ222〜225が出力する4データのうちの何れかを選択するセレクタ227と、セレクタ227におけるデータ選択を指示するシーケンサ226とで構成される。シーケンサ226は、後述するセレクタ228,229,231に対してもデータ選択を指示する。
このFIFO(1H)221には、例えば1画素当りの色情報が8bitのRGBベイヤーデータが逐次入力される。図11に示した1画面のフォーマットに従うと、FIFO221の記憶容量は4ワード分(1ワードは1画素当りの色情報)でよい。これらの4つのフリップフロップは、例えば図9に示したようなハッチングによる2×2画素の領域を確保することができる。シーケンサ226は、フリップフロップ222〜225からのデータを各セレクタで選択動作させるために前述した表3に示すように動作する。
図27(a)に示す演算手段は、セレクタ227より選択されたデータをそれぞれに入力し、前述した係数K11,K12,K13,K14と乗算する乗算器232,233,234,235と、乗算結果を加算する加算器236と、Crの値を出力する加算器236とで構成される。
同様に、図27(b)においては、セレクタ227より選択されたデータと係数K21,K22,K23,K24とをそれぞれ乗算する乗算器237,238,239,240と、加算器241と、Yrの値を出力するフリップフロップ242とで構成される。図27(c)においては、セレクタ227より選択されたデータと係数K31,K32,K33,K34とをそれぞれ乗算する乗算器243,244,245,246と、Ybの値を出力する加算器247とで構成される。さらに、図27(d)においては、セレクタ227より選択されたデータと係数K41,K42,K43,K44とをそれぞれ乗算する乗算器248,249,250,251と、加算器252と、Cbの値を出力するフリップフロップ253とで構成される、
さらに、図26(b)は、出力手段を示している。この出力手段は、前述した演算手段からそれぞれ出力された色差信号Cr,Yrを入力してシーケンサ226からのシーケンス信号により何れかを出力するセレクタ228と、同様に、出力された色差信号Yb,Cbを入力して何れかを出力するセレクタ229と、セレクタ229から出力を一時的に記憶するFIFO(1H)230と、シーケンサ226からのシーケンス信号によりセレクタ228の出力(1)及びFIFO(1H)230の出力(2)から色差信号(CrYrYbCb2)を選択出力するセレクタ231とで構成される。
さらに、図26(b)は、出力手段を示している。この出力手段は、前述した演算手段からそれぞれ出力された色差信号Cr,Yrを入力してシーケンサ226からのシーケンス信号により何れかを出力するセレクタ228と、同様に、出力された色差信号Yb,Cbを入力して何れかを出力するセレクタ229と、セレクタ229から出力を一時的に記憶するFIFO(1H)230と、シーケンサ226からのシーケンス信号によりセレクタ228の出力(1)及びFIFO(1H)230の出力(2)から色差信号(CrYrYbCb2)を選択出力するセレクタ231とで構成される。
このような構成において、乗算器232〜235に入力される係数K11〜K14は、図10若しくは図29(a)の行列式に示した第1行の固定の係数である。同様に、乗算器237〜240に入力されている係数K21〜K24は、図10若しくは図29(a)の行列式に示した第2行の固定の係数である。乗算器243〜246に入力されている係数K31〜K34は、図10若しくは図29(a)の行列式に示した第3行の固定の係数である。乗算器248〜251に入力されている係数K41〜K44は、図10若しくは図29(a)の行列式に示した第4行の固定の係数である。
図28に示すタイミングチャートを参照して、このように構成された演算手段の動作について説明する。
このタイミングチャートにおいて、CLKは回路を動作させるためのクロックであり、図26,27に示したFIFO221、フリップフロップ222〜225、シーケンサ226、フリップフロップ242,253、FIFO230にそれぞれ供給される。シーケンス信号Seq1、0はシーケンサ226の出力である。シーケンサ226の出力に従って、セレクタ227の出力端a〜dには、所定のRGBベイヤーデータが前述した表3に示すように出力される。
このタイミングチャートにおいて、CLKは回路を動作させるためのクロックであり、図26,27に示したFIFO221、フリップフロップ222〜225、シーケンサ226、フリップフロップ242,253、FIFO230にそれぞれ供給される。シーケンス信号Seq1、0はシーケンサ226の出力である。シーケンサ226の出力に従って、セレクタ227の出力端a〜dには、所定のRGBベイヤーデータが前述した表3に示すように出力される。
RGBベイヤー(1D遅延)は、RGBベイヤーの画像データを1CLK分遅延させたものであり、フリップフロップ227の出力である。RGBベイヤー(2D遅延)は、RGBベイヤーの画像データを2そりCLK分遅延させたものであり、フリップフロップ224の出力である。RGBベイヤー(1H+1D遅延)は、FIFO221が出力するRGBベイヤーの画像データを1CLK分遅延させたものであり、フリップフロップ223の出力である。
さらに、RGBベイヤー(1H+2D遅延)は、FIFO221が出力するRGBベイヤーの画像データを2CLK分遅延させたものであり、フリップフロップ225の出力である。RGBベイヤーの画像データ(1D遅延)、RGBベイヤーの画像データ(1H+1D遅延)、RGBベイヤーの画像データ(2D遅延)、RGBベイヤーの画像データ(1H+2D遅延)のハッチングで示されるデータを用いて、CrYrYbCbの輝度色差データへの変換を行う。
例えば、R00、G01、G10、B11の画像データを用いて、Yr00、Cr00、Cb00、Yb00を得る。次に、2×2の画素領域を1画素ずらしたG01、R02、B11、G12の画像データを用いてYr01、Cr01、Cb01、Yb01を得る。こうして逐次、1画素置きに2種類の輝度信号と2種類の色差信号を得ることができる。
図26(b)の出力手段において、セレクタ228は、シーケンサ226からのシーケンス信号Seq0がLレベルでYrを選択し、Seq0がHレベルでCrを選択する。また、セレクタ229は、シーケンサ226からのシーケンス信号Seq0がLレベルでCbを選択し、Seq0がHレベルでYbを選択する。FIFO(1H)230は、セレクタ229からの色差信号Yb又はCbを1H分遅延させる。セレクタ231は、シーケンサ226からのシーケンス信号Seq1がLレベルの時にセレクタ228で選択された色差信号(1)を選択し、Seq1がHレベルでFIFO230からの色差信号(2)を選択して最終的な輝度色差信号(CrYrYbCb2)が得られる。
次に、前述した第3の実施形態の変形例について説明する。
図26,27に示した第3の実施形態のおける撮像システムにおいて、局所領域の2×2の領域より、2種類の輝度信号と2種類の色差信号を算出する演算を実施する際、輝度信号はG(緑)の信号で置き換え、R(赤)に対する色差信号は、R(赤)の信号値よりR(赤)に水平方向に隣接するGR(緑)を減算し、B(青)に対する色差信号は、B(青)の信号値よりB(青)に水平方向に隣接するGB(緑)を減算する。
つまり、図30(a),(b)に示す行列式を用いて実施する。これらの行列式は、図29(a),(b)に示した行列式を簡略化したものである。
これらの行列式によれば、輝度成分は、Gr=Yr、Gb=Ybと割り切る。また、色差信号Cr=R-Gr、Cb=B-Gbとし、ベイヤー配列にて隣接する画素冠のみの演算に割り切る。こうした行列式を用いることで、乗算器が不要となり、結果ハードウェアを簡略化することができる。
以上説明したように、本発明の撮像システムは、RGB原色系又はCrYrYbCb補色系の色フィルタを経て固体撮像素子により得られた画像信号に対して、m×n(m,nは2以上の整数)又は、2m×2n(m,nは自然数)画素領域(画素単位)の局所領域ごとに輝度信号及び色差信号を算出し、それらの算出信号に対して所定の演算処理を行い、演算処理後の輝度信号及び色差信号に局所領域若しくは局所領域内の一部領域の画像信号に逆変換し、逆変換された単板の画像信号に対して、単板三板化や色変換等を行い、記録媒体に記録させることができる。また、局所領域から平均輝度信号及び平均色差信号を算出し、これらを用いて、輝度信号及び色差信号に対するノイズ量を推定して、輝度信号及び色差信号中のノイズを低減することができる。
1…レンズ系、2…撮像素子(CCD)、3…前処理部、4,22…バッファ、5…抽出部、6…算出部、7…演算部、8…逆変換部、9…信号処理部、10…出力部、11…制御部、12…外部I/F部、21…局所領域抽出部、23…平均値算出部、24…ノイズ低減部、25…ノイズ推定部、26…パラメータ用ROM、27…ゲイン設定部、28…領域抽出部、29…ホワイトバランス係数算出部、30…ホワイトバランス調整部、31…FIFO、32〜35,44…フリップフロップ(Z-1)、36…記憶回路、37…シーケンサ、38…セレクタ、39〜42…乗算器、43…加算器。
Claims (12)
- 原色系若しくは補色系の色フィルタを前面に配置した固体撮像素子から得られた信号を処理する撮像システムであって、
前記信号から局所領域ごとに輝度信号及び色差信号を算出する算出手段と、
前記輝度信号及び前記色差信号に対して所定の演算処理を行う演算手段と、
前記演算処理後の前記輝度信号及び前記色差信号を前記局所領域若しくは前記局所領域内の一部領域の前記信号に逆変換する逆変換手段と、
を具備することを特徴とする撮像システム。 - 前記原色系の色フィルタは、R(赤)、G(緑)、B(青)ベイヤー型フィルタであることを特徴とする請求項1に記載の撮像システム。
- 前記補色系の色フィルタは、Cy(シアン)、Mg(マゼンタ)、Ye(イエロー)、G(緑)色差線順次方式色フィルタであることを特徴とする請求項1に記載の撮像システム。
- Cy(シアン)、Mg(マゼンタ)、Ye(イエロー)、G(緑)色差順次方式色フィルタを前面に配置した単板固体撮像素子からの信号を処理する撮像システムであって、
前記信号から局所領域ごとに輝度信号及び色差信号を算出する算出手段と、
前記輝度信号及び前記色差信号に対して所定の演算処理を行う演算手段と、
前記演算処理後の前記輝度信号及び前記色差信号を前記局所領域若しくは前記局所領域内の一部領域のR、G、B信号に変換する変換手段と、
を具備することを特徴とする撮像システム。 - 前記局所領域はm×n(m,nは2以上の整数)の画素単位を含む領域であることを特徴とする請求項1項若しくは請求項4の何れかに記載の撮像システム。
- 前記局所領域は2m×2n(m,nは自然数)の画素単位を含む領域であることを特徴とする請求項1項若しくは請求項4の何れかに記載の撮像システム。
- 前記局所領域から平均輝度信号及び平均色差信号を算出する平均値算出手段と、
前記平均輝度信号及び前記平均色差信号を用いて、前記輝度信号及び前記色差信号に対するノイズ量を推定するノイズ推定手段と、
前記ノイズ量に基づき前記輝度信号及び前記色差信号中のノイズを低減するノイズ低減手段と、
を具備することを特徴とする請求項1若しくは請求項4の何れかに記載の撮像システム。 - 前記信号から平均輝度信号及び平均色差信号を算出する平均値算出手段と、
前記平均色差信号に対して所定の係数を作用させることによりホワイトバランスの調整を行うホワイトバランス調整手段と、
を具備することを特徴とする請求項1若しくは請求項4の何れかに記載の撮像システム。 - 前記局所領域が2×2の画素単位を含む領域であって、
2種類の輝度信号と2種類の色差信号の内いずれかn種類(n≦4)の輝度色差信号を算出する手段を具備することを特徴とする請求項1若しくは請求項4若しくは請求項5若しくは請求項6の何れか1つに記載の撮像システム。 - 前記局所領域が2×2の画素単位を含む領域であって、
前記局所領域内で1画素置きに、2種類の輝度信号と2種類の色差信号を算出する輝度色差信号算出手段を具備することを特徴とする請求項1若しくは請求項4若しくは請求項5若しくは請求項6の何れか1つに記載の撮像システム。 - 前記局所領域が2×2の画素単位を含む領域であって、
2種類の輝度信号と2種類の色差信号を算出する輝度色差信号算出る手段と、
前記局所領域内で2画素ごとに前記輝度色差信号算出手段を実行する制御手段と、
を具備することを特徴とする請求項1若しくは請求項4若しくは請求項5若しくは請求項6の何れか1つに記載の撮像システム。 - 原色系または補色系の色フィルタを前面に配置した固体撮像素子からの信号を処理する撮像システムであって、
前記演算手段は、局所領域が2×2の画素単位を含む領域において、2種類の輝度信号と2種類の色差信号を算出する演算を実施する際に、輝度信号はG(緑)の信号で置き換え、R(赤)に対する色差信号は、R(赤)の信号値よりR(赤)に水平方向に隣接するGr(緑)を減算し、B(青)に対する色差信号は、B(青)の信号値よりB(青)に水平方向に隣接するGb(緑)を減算する処理を行うことを特徴とする請求項1若しくは請求項4若しくは請求項5若しくは請求項6の何れか1つに記載の撮像システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005024508A JP2006211610A (ja) | 2005-01-31 | 2005-01-31 | 撮像システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005024508A JP2006211610A (ja) | 2005-01-31 | 2005-01-31 | 撮像システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2006211610A true JP2006211610A (ja) | 2006-08-10 |
Family
ID=36967909
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005024508A Withdrawn JP2006211610A (ja) | 2005-01-31 | 2005-01-31 | 撮像システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2006211610A (ja) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007019605A (ja) * | 2005-07-05 | 2007-01-25 | Tokyo Institute Of Technology | 画素混合方法 |
JP2009004893A (ja) * | 2007-06-19 | 2009-01-08 | Olympus Corp | 画像処理装置およびこれを備える撮像システム |
JP2011066890A (ja) * | 2009-09-15 | 2011-03-31 | Samsung Electronics Co Ltd | 内部変換を通じてrgbベイヤー信号を出力するイメージセンサーとそれを含むイメージ処理装置 |
WO2011119893A2 (en) * | 2010-03-24 | 2011-09-29 | Mritunjay Singh | Method and system for robust and flexible extraction of image information using color filter arrays |
CN109788891A (zh) * | 2016-10-21 | 2019-05-21 | 奥林巴斯株式会社 | 内窥镜镜体、内窥镜处理器和内窥镜用适配器 |
JP2019140674A (ja) * | 2018-02-14 | 2019-08-22 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
US10952598B2 (en) | 2015-11-25 | 2021-03-23 | Olympus Corporation | Endoscope system and image acquisition method with red signal generator |
CN114902659A (zh) * | 2019-12-27 | 2022-08-12 | 株式会社索思未来 | 图像处理装置和图像处理方法 |
-
2005
- 2005-01-31 JP JP2005024508A patent/JP2006211610A/ja not_active Withdrawn
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007019605A (ja) * | 2005-07-05 | 2007-01-25 | Tokyo Institute Of Technology | 画素混合方法 |
JP2009004893A (ja) * | 2007-06-19 | 2009-01-08 | Olympus Corp | 画像処理装置およびこれを備える撮像システム |
JP2011066890A (ja) * | 2009-09-15 | 2011-03-31 | Samsung Electronics Co Ltd | 内部変換を通じてrgbベイヤー信号を出力するイメージセンサーとそれを含むイメージ処理装置 |
US9380243B2 (en) | 2009-09-15 | 2016-06-28 | Samsung Electronics Co., Ltd. | Image sensor for outputting RGB bayer signal through internal conversion and image processing apparatus including the same |
WO2011119893A2 (en) * | 2010-03-24 | 2011-09-29 | Mritunjay Singh | Method and system for robust and flexible extraction of image information using color filter arrays |
WO2011119893A3 (en) * | 2010-03-24 | 2011-12-22 | Mritunjay Singh | Method and system for robust and flexible extraction of image information using color filter arrays |
US10952598B2 (en) | 2015-11-25 | 2021-03-23 | Olympus Corporation | Endoscope system and image acquisition method with red signal generator |
CN109788891A (zh) * | 2016-10-21 | 2019-05-21 | 奥林巴斯株式会社 | 内窥镜镜体、内窥镜处理器和内窥镜用适配器 |
JP2019140674A (ja) * | 2018-02-14 | 2019-08-22 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP7263018B2 (ja) | 2018-02-14 | 2023-04-24 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
CN114902659A (zh) * | 2019-12-27 | 2022-08-12 | 株式会社索思未来 | 图像处理装置和图像处理方法 |
CN114902659B (zh) * | 2019-12-27 | 2023-08-15 | 株式会社索思未来 | 图像处理装置和图像处理方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4284628B2 (ja) | 撮像装置、画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体 | |
JP4465002B2 (ja) | ノイズ低減システム、ノイズ低減プログラム及び撮像システム。 | |
JP2008236726A (ja) | 撮像装置、撮像システム、撮像方法及び画像処理装置 | |
JP2007293431A (ja) | 画像処理装置 | |
JP2006211610A (ja) | 撮像システム | |
JP2006080852A (ja) | 画像処理装置、電子カメラ、スキャナ、画像処理方法、および画像処理プログラム | |
JP2009153013A (ja) | 撮像装置、色ノイズ低減方法および色ノイズ低減プログラム | |
JP5041886B2 (ja) | 画像処理装置、画像処理プログラム、画像処理方法 | |
JP4317619B2 (ja) | 画像処理装置 | |
EP2214136B1 (en) | Method and program for controlling image capture apparatus | |
JP4133283B2 (ja) | 画像処理装置および画像処理方法、デジタルスチルカメラ | |
JP2006333113A (ja) | 撮像装置 | |
JP3730063B2 (ja) | 色成分生成装置および色成分生成方法並びにこれを用いた多色画像撮像装置 | |
JP3951993B2 (ja) | 撮像装置及びこの撮像装置に用いられるカラーデータ計測方法 | |
JP2004064227A (ja) | 映像信号処理装置 | |
JP2002209228A (ja) | 画像処理装置 | |
JP4122082B2 (ja) | 信号処理装置およびその処理方法 | |
US9013606B2 (en) | Image processing apparatus and control method thereof | |
JP4033641B2 (ja) | 固体撮像装置 | |
JP2004153848A (ja) | 画像入力装置の画像処理回路 | |
JP2006303693A (ja) | 縮小画像の生成機能を備える電子カメラ | |
JP4536762B2 (ja) | 固体撮像装置 | |
JP4478934B2 (ja) | 画像信号処理装置 | |
JP5884591B2 (ja) | 画像処理装置、カメラおよび画像処理プログラム | |
JP4176023B2 (ja) | 信号処理回路 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080124 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20090918 |