JP4249909B2 - Signal processing apparatus and signal processing method - Google Patents
Signal processing apparatus and signal processing method Download PDFInfo
- Publication number
- JP4249909B2 JP4249909B2 JP2001013924A JP2001013924A JP4249909B2 JP 4249909 B2 JP4249909 B2 JP 4249909B2 JP 2001013924 A JP2001013924 A JP 2001013924A JP 2001013924 A JP2001013924 A JP 2001013924A JP 4249909 B2 JP4249909 B2 JP 4249909B2
- Authority
- JP
- Japan
- Prior art keywords
- color
- pixel data
- supplied
- pixels
- line
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Processing Of Color Television Signals (AREA)
- Color Television Image Signal Generators (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、信号処理装置およびその信号処理方法に関し、特に、ディジタルカメラ等の画像入力装置に適用し、かつ色の配列を考慮して信号を読み出す信号処理や高速印刷用の信号処理等に用いて好適なものである。
【0002】
【従来の技術】
単板式のディジタルカメラがカラーの撮像信号を出力させる際に、撮像素子に対して一つの色分解フィルタセグメントを割り当ててカラー情報を同時に得る方式が用いられる。色分解フィルタセグメントの配列に応じて各種の色フィルタアレイが提案され、そして用いられている。
【0003】
良好な色調を考慮すると、一般的に単板式のディジタルカメラには原色タイプのベイヤ配列の色フィルタアレイが用いられることが多い。ベイヤ配列は、最初に色G, R が交互に配され、次のラインには色B, Gが交互に配される。この結果、三原色RGB の信号は、2ライン分を読み出したときにはじめてデータが揃うことになる。三原色RGB を揃えるように実現させるには、読み出した信号電荷を1ライン蓄積するとよい。したがって、回路には最低1ラインのラインメモリを用いている。
【0004】
ディジタルカメラが静止画撮影する場合、処理時間に対する制約はない。したがって、2ライン分をまとめて読み出すようにラインメモリを用いてもこの場合差し支えない。ディジタルカメラはラインメモリとしてたとえば、ダイナミックRAM (Random Access Memory)を用いている。
【0005】
これに対して、ディジタルカメラで動画撮影する場合、単位時間内に扱うフレーム数が少ないと、動画表示が不自然になってしまう。このため動画表示を満足させるには扱うフレーム数を増やすとともに、1フレームが取り扱う画素数も制限されることになる。具体的に、LSI (Large-Scale Integrated circuit)化するとき、表示要求に応じて動画用ラインメモリサイズが制限される。
【0006】
【発明が解決しようとする課題】
ところで、主に動解像度の向上を目的として、特許第2587225 号公報の固体撮像装置が提案されている。この装置は、撮像素子駆動手段からP を自然数とし、1/P 水平期間ごとに撮像素子駆動信号を撮像素子に供給して信号電荷を読み出し、このときメモリ駆動手段により得られた画素データを1/P 水平期間に順次複数のメモリ部に書き込み、このメモリ部から1水平期間ごとにP 水平ラインを同時に読み出させ、撮像素子からの映像データを合成手段で合成して、水平ライン数が少なく、1行ずつ信号を読み出しであっても複数行の同時読出しと同様に、複数ラインの相関を利用して水平解像度を向上させている。また、固体撮像装置はカラーフィルタの種類によらず、フィールド蓄積型にでき、動解像度も向上させることができる。
【0007】
また、特開2000-50291号公報の信号処理装置は、制御手段がベイヤパターンに基づいて供給される信号のサンプリングに対するタイミングの制御をブロックサンプリング手段に施し、ブロックサンプリング手段でブロックに対応した各画素位置のサンプリングを行い、表示データ生成手段で3つの色の画素値または輝度信号および色差信号を生成して垂直および水平方向に生じる偽色を抑制し、色再現性を向上させている。また、この装置は、サンプリング周波数を従来の半分に抑えて動作させることでムービーモードでの低消費電力化させている。
【0008】
しかしながら、これら2つの提案では色フィルタパターンの配置関係に基づき個々の色の信号を生成する処理を行っているに過ぎず、画素データを供給する画素数の増分は何等対応が考慮されていない。
【0009】
本発明はこのような従来技術の欠点を解消し、ラインメモリの容量に応じて入力画素数を表示可能な画素数に調整して出力する信号処理装置およびその信号処理方法を提供することを目的とする。
【0010】
【課題を解決するための手段】
本発明は上述の課題を解決するために、画素に一つの色が対応した画素データが供給され、供給される画素データの色がつくる色配置のパターンを考慮して画像生成に用いる基本の色を生成する信号処理装置において、この装置は、色配置パターンで基本の色が繰り返される基本パターンのライン数を単位にして、各ラインの前記画素データの供給を制御するデータ供給制御手段と、この制御に応じて供給される画素データに複数個ずつまとめた表示を行わせることを考慮したフィルタ処理を施すフィルタ手段と、このフィルタ処理を経て供給される各ラインの画素データのうち、各ラインごとに同色の画素データを複数個ずつまとめ、さらにこのまとめた同色の画素データ同士を基本パターン内で合成する同色合成手段と、この合成した各色の画素データの出力を切り換える出力切換手段と、この出力切換手段の選択タイミングを制御する選択制御手段と、この選択した各色の画素データを用いて画素補間を施す補間手段とを含むことを特徴とする。
【0011】
本発明の信号処理装置は、たとえば色配置パターンが基本的なベイヤパターンの場合、データ供給制御手段で2ラインを単位に単位内のラインを1ラインずつ画素データの供給を制御し、フィルタ手段で複数個ずつまとめた表示に合うフィルタ処理を施し、同色合成手段でライン内の同色画素データを同じタイミングでまとめ、基本パターンから基本の色を出力切換手段に出力し、選択制御手段の制御に応じて出力切換手段から画素データを出力し、補間手段で画素データの補間を行うことで、色ごとに異なる位置関係にある画素を水平方向に間引いたと同じ処理を施し、基本の色をそろえて、動画規定の時間以内での処理を完了させ、フィルタ処理および補間処理によって偽色および偽信号の発生を抑えている。
【0012】
本発明は上述の課題を解決するために、画素に一つの色が対応した画素データが供給され、供給される画素データの色がつくる色配置のパターンを考慮して画像生成を行う際に用いる基本の色を生成する信号処理方法において、この方法は、色配置パターンで基本の色が繰り返される基本パターンのライン数を単位にして、各ラインの画素データの供給を制御する第1の工程と、この制御に応じて供給される画素データに複数個ずつまとめた表示を行わせることを考慮したフィルタ処理を施す第2の工程と、このフィルタ処理を経て供給される各ラインの画素データのうち、各ラインごとに同色の画素データを複数個ずつまとめ、さらにこのまとめた同色の画素データ同士を基本パターン内で合成する第3の工程と、この合成した各色の画素データの出力タイミングを制御する第4の工程と、この出力タイミングの制御に応じて各色の画素データを切り換えて出力する第5の工程と、この選択した各色の画素データを用いて画素補間を施す第6の工程とを含むことを特徴とする。
【0013】
本発明の信号処理方法は、色配置パターンで基本の色が繰り返される基本パターンのライン数を単位に各ラインの画素データの供給を制御し、この制御に応じてフィルタ処理を施し、フィルタ処理を経て供給される各ラインの画素データのうち、同色の画素データの複数個ずつまとめと基本パターン内での合成を行い、次にこの合成した各色の画素データの出力タイミングを制御し、この制御に応じて各色の画素データを切り換えて出力し、この出力に対して画素補間を施すことで、色ごとに異なる位置関係にある画素を水平方向に間引いたと同じ処理を施し、基本の色をそろえて出力しながら動画規定の時間以内での処理を完了させ、フィルタ処理および補間処理によって偽色および偽信号の発生を抑えている。
【0014】
【発明の実施の形態】
次に添付図面を参照して本発明による信号処理装置の実施例を詳細に説明する。
【0015】
本実施例は、本発明と直接関係のない部分について図示および説明を省略する。ここで、信号の参照符号はその現れる接続線の参照番号で表す。
【0016】
本実施例では設計時よりも撮像素子(=画素)数が増加した際に信号処理装置10は、この増加に対応した構成へと回路構成の変更に余儀なくされる虞をなくし、拡張性に富んだ構成を提供する。この提供において、信号処理装置10では、特に、所定の時間内で動画表示処理の完了が要求される動画処理で問題になる。この問題点を考慮した信号処理装置10の構成を図1に示す。
【0017】
信号処理装置10には、図1に示すように、データ補正部10a 、動画用信号処理部10b 、静止画用信号処理部10c および色差マトリクス部10d がある。
【0018】
データ補正部10a は、フレームメモリ機能および各種の補正機能を含む。補正機能としては、たとえばガンマ補正やホワイトバランス等の調整機能である。ここでのガンマ補正は、消費電力や回路規模を小さくして信号処理のビット数を低減すること等も可能にする。データ補正部10a には、たとえば色フィルタの色フィルタセグメントを透過させ、光電変換することにより色情報を有する画素データ12が供給される。データ補正部10a には供給される画素データを記憶し、かつこの画素データの繰返し読出しが行われる場合、非破壊型のメモリが用いるとよい。
【0019】
また、データ補正部10a に対する書込み/読出しは、後段で説明する動画用信号処理部10b または信号処理装置10を適用する装置のシステム制御部(図示せず)からの制御信号で制御するとよい。データ補正部10a は補正した画素データ14を動画用信号処理部10b および静止画用信号処理部10c にそれぞれ供給する。
【0020】
動画用信号処理部10b には、ローパスフィルタ(以下、LPF という)100 、同色合成部10B 、セレクタ106 、データ入出力制御部108 、および画素補間処理部110 が含まれる。LPF 100 は、ディジタルフィルタで構成され、後述する間引き処理による画素数に応じたフィルタリングを行う機能を有する。LPF 100 は、フィルタ処理した画素データ16を同色合成部10B のラインメモリ部102 および間引き処理部104 にそれぞれ供給される。
【0021】
同色合成部10B にはラインメモリ部102 および間引き処理部104 が含まれる。ラインメモリ部102 は、図1には図示しないが色フィルタに用いられる色配置パターンが有する繰返しの基本パターンを考慮して、この基本パターンを表すためのライン数から1ライン減じた数のラインメモリを有する。ラインメモリ部102 は読み出す基本パターンの供給開始から順次に供給される複数のラインの画素が同じタイミングで間引き処理部104 に供給させるために設けている。同じタイミングとは、基本パターンの供給における最後に供給されるラインのタイミングである。また、ラインのうち、1ラインの画素データは、ラインメモリ部102 を経ることなく、そのまま間引き処理部104 に供給される。ラインメモリ部102 はライン単位の遅延を行って間引き処理部104 に画素データ18を出力する。
【0022】
なお、基本パターンが3ライン以上で構成される場合、ラインメモリ部102 は、ラインメモリをカスケード接続するとともに、各ラインメモリと間引き処理部104 とをライン接続している。
【0023】
間引き処理部104 は、複数の遅延素子および加算器を含む(図示せず)。間引き処理部104 は、水平方向に各ラインにおける画素データが有する色の配置関係を考慮して、まとめる画素数に応じて遅延素子を配設する。そして、間引き処理部104 はライン中の同色の画素データが同じタイミングで得られるように遅延素子の出力端を加算器の入力端と接続する。この接続により、加算器は混色した画素データまたは同色だけの画素データを出力する。間引き処理部104 は、このように混色または同色にかかわらず画素データを加算することにより、画素数を削減させている。
【0024】
さらに同一のラインや他のラインからの同色の画素データを加算するようにしてもよい。間引き処理部104 は、表示用の画像データとしてモニタへの供給に用いる三原色RGB の画素データ20a, 20b, 20c をセレクタ106 に供給する。
【0025】
セレクタ106 は、供給される画素データ20a, 20b, 20c のうち、色が同じ関係(すなわち、同色)で得られるタイミングを考慮して出力制御する。この出力制御はデータ入出力制御部108 からの制御信号108aに応じて行う。セレクタ106 は、選択した画素データ22a, 22b, 22c を画素補間処理部110 に同色の画素データだけを出力する。また、セレクタ106 は、同時化して出力することに限定するものでなく、異なるタイミングであっても加算して三原色RGB が得られた際に、混色なく出力させるように制御させてもよい。
【0026】
データ入出力制御部108 は、上述したセレクタ106 の選択制御およびデータ補正部10a の書込み/読出しイネーブル信号に関わる制御信号108bをそれぞれタイミング調整して出力する。データ入出力制御部108 は搭載する装置のシステム制御部にこの機能を持たせてもよい。
【0027】
画素補間処理部110 は、供給される画素データ22a, 22b, 22c を用いて中間位置または中間位置近傍の画素における新たな三原色RGB データを補間生成する機能を有する。この補間は、水平方向に得られた三原色RGB データの各色ごとの加算平均により行われる。また、垂直方向に対しても同様に加算平均することで新たな画素データを生成することもできる。この際、水平および垂直方向の補間を検討すると、補間生成する位置をライン間に画素が生成される。この場合の補間は、結果的に仮想的に画素ずらし位置での画素生成を行っていることになる。画素補間処理部110 は、供給された画素データ22a, 22b, 22c および補間生成した画素データを含めた画素データ24a, 24b, 24c をモニタに出力するとともに、色差マトリクス部10d にも供給する。
【0028】
静止画用信号処理部10c には、図示しないが供給される画素データ14を用いて、各ラインの三原色RGB の画素データを用いて水平方向の補間を繰り返し行って各画素に対する三原色RGB を生成する。これにより、3板式の色フィルタを用いた場合と同様に各色ごとにプレーンな画素データ26a, 26b, 26c が生成される。
【0029】
なお、供給される画素データ14が、たとえば画素ずらしされた、いわゆるハニカム型に配列した画素データの場合、静止画用信号処理部10c は、上述したプレーンな画素データの生成だけでなく、供給される画素データ14を用いて高周波輝度データを生成し、実在する画素および実際には存在しない画素に囲まれた位置に生成した仮想画素に対して広帯域化処理を施して出力する。
【0030】
色差マトリクス部10d は、静止画モードまたは動画モードに応じて、それぞれ、静止画用信号処理部10c または動画用信号処理部10b のいずれか一方から三原色データ26a, 26b, 26c または画素データ24a, 24b, 24c を入力する。これらの画素データを用いて色差マトリクス部10d は、輝度データY 、色差データCr, Cbを生成している。色差マトリクス部10d は、ここで行うマトリクス演算にはこれまで用いてきた従来の算出式を用いている。色差マトリクス部10d は、生成した輝度データY (28a)および色差データCr(28b), Cb(28c)を後段の後信号処理部(図示せず)に供給する。後信号処理部には、たとえば歪み防止処理部、アパーチャ調整部、および色差ゲイン調整部等がある。これらは、特にハニカム型の信号が供給される場合に有効である。
【0031】
簡単に後信号処理部について説明する。歪み防止処理部には、供給される3つの信号の帯域を損なうことなく、折返し歪みを発生させないように高域にまで帯域のあるローパスフィルタがある。また、歪み防止処理部では、水平および垂直方向の周波数帯域の重複している領域に対して一方の方向の重複する周波数帯域を制限している。これにより、周波数の重複による画質劣化を回避している。アパーチャ調整部は、たとえば、ローパスフィルタ処理によって高域成分の低下を改善するように処理して出力する。この結果、画像には輪郭(エッジ)強調処理が施されたと同様の効果がもたらされる。また、色差ゲイン調整部は、供給される色差データCr, Cbに対してゲイン調整を行い、所定のレベルに揃えている。信号処理装置10は、このように生成した輝度データY 、色差データCr, Cbを出力する。
【0032】
ここで、信号処理装置10のより具体的な実施例を用いて説明する。この実施例では、図2に示す基本的なベイヤパターン30によって得られた画素データ14が供給される場合である。このベイヤパターン30は、繰り返される基本的なパターン領域32は「GRGRGR・・・・」と「BGBGBG・・・・」の2ラインである。ラインメモリ部102 には前述した関係から1つのラインメモリ102aを設ければよいことがわかる(図3を参照)。また、間引き処理部104 では、水平方向には各ラインの色に対して2画素ずつまとめている。すなわち、間引き処理部104 では、ラインの2色に対してそれぞれ2画素ずつまとめるとともにタイミング調整を図ることから、各ラインに3つの遅延素子104a〜104c/104d〜104fを計6個設ければよいこともわかる。そして、間引き処理部104 には同色を合成するための加算器104g, 104h, 104iが配設されている。加算器104gには読み出された画素データ14と遅延素子104bの出力が入力されることにより、1画素おきに供給される同色の画素データを加算することができる。
【0033】
たとえば、GBGB・・・ の順に供給された際に、色B の画素データに対して加算した色G の画素データは1つ進んでいる。このため、遅延素子104cが設けられる。加算器104gは次の加算時に色B の画素データを出力する。したがって、色G, Bの画素データは同じタイミングで得られることになる。加算器104gはセレクタ106 と信号線34を介して接続している。遅延素子104cはセレクタ106 と信号線36を介して接続している。
【0034】
隣接するラインにはラインメモリ102aからの画素データ18が間引き処理部104 に供給される。2画素加算して間引くことから信号線の接続関係は前述した接続関係とほぼ同じである。このラインには、たとえば、この場合RGRG・・・ の順に供給されることになるので、色R の画素データが色G の画素データよりも進んで加算器104iから出力される。色R, Gの同時化を考慮すると、加算器104iは色G の画素データを取り出すように信号線38を介してセレクタ106 に供給するとよい。色R に関して遅延素子104fは出力40をセレクタ106 に出力する。
【0035】
加算器104hにはこのタイミングで色G の加算した画素データが供給される。加算器104hは供給される画素データを加算することにより演算上4倍の色G の画素データを出力することになる。セレクタ106 は、供給される制御信号108aに応動して三原色RGB のそれぞれ、画素データ22a, 22b, 22c を出力する。セレクタ106 は選択によって画素データ22a, 22b, 22c の大きさの比として1:1:1 または1:2:1 の画素データを出力することができる。選択は1クロックおきに行うとよい。
【0036】
また、他の具体例として前述と同様に基本的なベイヤパターンの画素データ14が供給され、画素データ14に対する水平方向に2画素/3画素の間引き処理を行う場合について説明する(図4を参照)。前述の2画素の間引き処理に比べて最大3画素分の遅延と同時化にともなうタイミング調整を行うことから遅延素子は1ラインあたり4個ずつ用いる。先の実施例と比較すると、遅延素子104g, 104hが追加されていることがわかる。同色の画素データを加算するように6つの加算器42〜52が配設されている。画素データは各ラインにGBGB・・・/RGRG・・・ が供給されているとする。
【0037】
加算器42は遅延素子104gの出力と画素データ14とを用いて色G の画素データを加算して加算器44に出力する。加算器44は加算器42の出力と遅延素子104bからの出力とを加算して3Gの画素データを生成してセレクタ106 に出力する。また、加算器46は、色B に対する加算を行うように遅延素子104a, 104cからの出力を加算して2倍の色B の画素データ2Bを生成してセレクタ106 に出力する。
【0038】
そして、隣接するラインに対する間引き処理は、ラインメモリ102aからの画素データ18を用いて行う。接続関係は上述した接続と同じで構わない。加算器48, 50を介して色R の画素データが加算され、最終的に3倍の色R の画素データ3Rを生成する。加算器50は、生成した色R の画素データをセレクタ106 に供給する。加算器52は、色G の画素データを加算して画素データ2Gにする。加算器52は加算した画素データをセレクタ106 に供給している。図4には図示していないが、各ラインで得られた色G の画素データを加算した画素データ5Gをセレクタ106 に供給してもよい。
【0039】
セレクタ106 は供給される三原色RGB の画素データの選択を1クロックおきに行う。ただし、遅延素子からセレクタ106 に供給されるまで出力は停止状態にしておくことは言うまでもない。セレクタ106 は比のバランスを考慮した選択を行うことによって画素データ22a, 22b, 22c の大きさの比として2:3:3 、または2:2:3 の画素データを出力することができる。加算器44, 50を用いないで3画素の中央位置の画素を無視すると、大きさの比を1:1:1 にすることができる。
【0040】
間引き処理は、各ラインに対して前述した間引きに限定されるものではない。さらに、間引き処理は3画素間引き、4画素間引き等、たとえば画素数および読出し処理時間の要求に合わせて変更すればよい。したがって、撮像素子の画素数が増加した際にはこの部分だけの変更で済ませることができるので、すでに開発済みのLSI の再設計をしないで済む。これは信号処理装置10を適用する装置の設計の自由度を高めるとともに、たとえば固体撮像装置等の変更にともなうこの適用した装置の開発コストを大幅に削減することができる。また、信号処理装置10は、回路的に小さくでき、消費電力も低下させることができる。
【0041】
このようにして得られた三原色RGB の画素データを画素補間処理部110 に供給して水平および/または垂直方向に対する画素補間を加算平均して行う。これにより、画素補間処理部110 ではたとえば、単に間引きした際に比べて得られる画像に対する偽色および偽信号の発生を抑えるように調整を施すことができる。したがって、信号処理装置10は、画像入力を担う撮像部で画素数の増加が行われても色フィルタセグメントの配置パターンを考慮した動画対応の処理回路を用いて信号処理を行うことで適用した装置が生成する動画表示に影響を与えない高いフレキシビリティをもたらすことができる。
【0042】
なお、信号処理装置10は、動画に限定されず、たとえば高速処理を行う静止画やインデックス画像の生成でも適用すると有利である。
【0043】
これまで述べた実施例は、基本的なベイヤパターンに対する処理を説明してきたが、ベイヤパターンには各種の改良型もある(図5を参照)。図5(a)、5(b)のベイヤパターンはともに改良型で基本パターン領域32が4ラインである。このような場合でもラインメモリ部102 は、基本パターンに応じたライン数のラインメモリを用意するとよい。
【0044】
この他、供給される画素データ14は、1ラインに全色(RGB )が揃うG ストライプRB完全市松パターン、ハニカム型のG 正方RB完全市松パターン、および補色パターンで供給される場合にも各色配置パターン、間引く画素数、および同時化のタイミングを考慮すると間引き処理を的確に行うことができる。
【0045】
前述したように間引き処理前のローパスフィルタ処理および間引き処理後に画素補間処理を施していることから単に間引き処理した場合よりも偽色や偽信号の発生を抑えることができる。実際、この処理により得られる画像は、本来の画素数が非常に多いので、間引きした画像であっても画質の劣化はそれほど目立たない。
【0046】
以上のように構成することにより、画素数が増加してもローパス処理を経た色配置パターンに応じて供給される画素データに対して規定時間内の動画表示を満足させるとともに、画素数も増加しているから間引きして得られる画像であっても画質の劣化はそれほど目立たない画像が得られ、開発済みのLSI に対する再設計を避けることができ、開発コストを削減させることができる。
【0047】
【発明の効果】
このように本発明の信号処理装置および信号処理方法によれば、データ供給制御手段でラインを単位に単位内のラインを1ラインずつ画素データの供給を制御し、フィルタ手段で複数個ずつまとめた表示に合うフィルタ処理を施し、同色合成手段でライン内の同色画素データを同じタイミングでまとめ、基本パターンから基本の色を出力切換手段に出力し、選択制御手段の制御に応じて出力切換手段から画素データを出力し、補間手段で画素データの補間を行うことで、色ごとに異なる位置関係にある画素を水平方向に間引いたと同じ処理を施し、基本の色をそろえて、フィルタ処理および補間処理によって偽色および偽信号の発生を抑えることにより、画素数が増加してもローパス処理を経た色配置パターンに応じて供給される画素データに対して高速処理に応動した間引き処理を施し、さらに得られた画素データを用いて画素データの位置および画素数等を考慮して補間処理を行って、動画に規定された時間以内での動画像の生成が完了するようにし、得られる画像に発生する偽色や偽信号を抑えている。画素数も増加しているから間引きした画像であっても画質の劣化はそれほど目立たなくすることができ、開発済みのLSI に対する再設計を避けることができ、開発コストを削減させることができる。
【図面の簡単な説明】
【図1】本発明を適用した信号処理装置の概略的なブロック図である。
【図2】図1の信号処理装置に供給される画素データに対するベイヤパターンの色配置を示す模式図である。
【図3】図1の動画用信号処理部における間引き処理部の具体的な構成を示す回路図である。
【図4】図1の動画用信号処理部における間引き処理部の他の具体的な構成を示す回路図である。
【図5】図2のベイヤパターンを改善した際の他の色配置パターンを示す模式図である。
【符号の説明】
10 信号処理装置
10a データ補正部
10b 動画用信号処理部
10c 静止画用信号処理部
10d 色差マトリクス部
10B 同色合成部
100 ローパスフィルタ
102 ラインメモリ部
104 間引き処理部
106 セレクタ
108 データ入出力制御部
110 画素補間処理部[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a signal processing apparatus and a signal processing method thereof, and more particularly, to a signal processing which is applied to an image input apparatus such as a digital camera and reads out a signal in consideration of a color arrangement, a signal processing for high speed printing, and the like. And suitable.
[0002]
[Prior art]
When a single-plate digital camera outputs a color image pickup signal, a method of assigning one color separation filter segment to the image pickup device and obtaining color information at the same time is used. Various color filter arrays have been proposed and used depending on the arrangement of the color separation filter segments.
[0003]
In consideration of good color tone, a color filter array of a primary color type Bayer array is often used for a single-plate digital camera in general. In the Bayer array, colors G and R are alternately arranged first, and colors B and G are alternately arranged on the next line. As a result, the data of the three primary color RGB signals are not obtained until two lines are read out. In order to realize the three primary colors RGB, it is preferable to store one line of the read signal charges. Therefore, at least one line memory is used for the circuit.
[0004]
When a digital camera takes a still image, there is no restriction on the processing time. Therefore, in this case, there is no problem even if a line memory is used so that two lines are read together. The digital camera uses, for example, a dynamic RAM (Random Access Memory) as a line memory.
[0005]
On the other hand, when shooting a moving image with a digital camera, the moving image display becomes unnatural if the number of frames handled within a unit time is small. For this reason, in order to satisfy the moving image display, the number of frames handled is increased and the number of pixels handled by one frame is limited. Specifically, when an LSI (Large-Scale Integrated circuit) is used, the moving image line memory size is limited according to a display request.
[0006]
[Problems to be solved by the invention]
Incidentally, a solid-state imaging device disclosed in Japanese Patent No. 2587225 has been proposed mainly for the purpose of improving dynamic resolution. In this apparatus, P is a natural number from the image sensor driving means, and an image sensor drive signal is supplied to the image sensor every 1 / P horizontal period to read out the signal charge. At this time, the pixel data obtained by the memory drive means is 1 / P Writes sequentially to multiple memory units in the horizontal period, simultaneously reads P horizontal lines from this memory unit for each horizontal period, and combines the video data from the image sensor with the combining means, reducing the number of horizontal lines Even when signals are read out row by row, the horizontal resolution is improved by utilizing the correlation of a plurality of lines as in the case of simultaneous reading out of a plurality of rows. In addition, the solid-state imaging device can be a field storage type regardless of the type of color filter, and the dynamic resolution can be improved.
[0007]
Further, in the signal processing apparatus disclosed in Japanese Patent Application Laid-Open No. 2000-50291, the control unit applies timing control to the sampling of the signal supplied based on the Bayer pattern to the block sampling unit, and each pixel corresponding to the block by the block sampling unit The position data is sampled, and pixel values of three colors or luminance signals and color difference signals are generated by the display data generation means to suppress false colors generated in the vertical and horizontal directions, thereby improving color reproducibility. In addition, this apparatus reduces the power consumption in the movie mode by operating at a sampling frequency reduced to half that of the prior art.
[0008]
However, these two proposals merely perform processing for generating individual color signals based on the arrangement relationship of the color filter patterns, and no consideration is given to the increment of the number of pixels for supplying pixel data.
[0009]
It is an object of the present invention to provide a signal processing apparatus and a signal processing method for solving the drawbacks of the prior art and adjusting the number of input pixels to a displayable number according to the capacity of the line memory and outputting the adjusted number of pixels. And
[0010]
[Means for Solving the Problems]
In order to solve the above-mentioned problem, the present invention supplies basic pixel data corresponding to one color to a pixel, and considers a color arrangement pattern created by the color of the supplied pixel data to use a basic color used for image generation In this signal processing apparatus, the apparatus includes a data supply control means for controlling the supply of the pixel data of each line in units of the number of lines of the basic pattern in which the basic color is repeated in the color arrangement pattern. Filter means for performing filter processing in consideration of causing a plurality of pixel data supplied according to control to be displayed together, and pixel data of each line supplied through this filter processing for each line The same color combining means for combining a plurality of pixel data of the same color and combining the combined pixel data of the same color in a basic pattern, Output switching means for switching the output of the pixel data, selection control means for controlling the selection timing of the output switching means, and interpolation means for performing pixel interpolation using the pixel data of each selected color, To do.
[0011]
For example, when the color arrangement pattern is a basic Bayer pattern, the signal processing apparatus of the present invention controls the supply of pixel data line by line in units of two lines by the data supply control means, and the filter means. Apply filtering to suit the display grouped together, combine the same color pixel data in the line at the same timing with the same color composition means, output the basic color from the basic pattern to the output switching means, and according to the control of the selection control means Output pixel data from the output switching means, and by interpolating the pixel data with the interpolation means, the same processing is performed as thinning out pixels in different positional relationships for each color in the horizontal direction, and the basic colors are aligned, Processing within the prescribed time of the moving image is completed, and generation of false colors and false signals is suppressed by filter processing and interpolation processing.
[0012]
In order to solve the above-described problem, the present invention is used when image data is generated in consideration of a color arrangement pattern created by the color of the pixel data supplied with pixel data corresponding to one color for each pixel. In the signal processing method for generating a basic color, this method includes a first step of controlling the supply of pixel data of each line in units of the number of lines of the basic pattern in which the basic color is repeated in the color arrangement pattern. A second step of performing a filter process considering that a plurality of pixel data supplied in accordance with this control are displayed together, and out of the pixel data of each line supplied through this filter process A third step of collecting a plurality of pixel data of the same color for each line, and further combining the combined pixel data of the same color in a basic pattern; A fourth step of controlling the output timing of the data, a fifth step of switching and outputting the pixel data of each color in accordance with the control of the output timing, and pixel interpolation using the pixel data of each selected color And a sixth step to be applied.
[0013]
The signal processing method of the present invention controls the supply of pixel data of each line in units of the number of lines of the basic pattern in which the basic color is repeated in the color arrangement pattern, performs the filter process according to this control, and performs the filter process. Among the pixel data of each line supplied after that, a plurality of pixel data of the same color are combined and combined within the basic pattern, and then the output timing of the combined pixel data of each color is controlled. In response, the pixel data of each color is switched and output, and by performing pixel interpolation on this output, the same processing is performed as if the pixels having different positional relationships for each color are thinned in the horizontal direction, and the basic colors are aligned. While outputting, processing within the prescribed time of the moving image is completed, and generation of false colors and false signals is suppressed by filter processing and interpolation processing.
[0014]
DETAILED DESCRIPTION OF THE INVENTION
Next, embodiments of a signal processing apparatus according to the present invention will be described in detail with reference to the accompanying drawings.
[0015]
In the present embodiment, illustration and description of portions not directly related to the present invention are omitted. Here, the reference number of the signal is represented by the reference number of the connecting line that appears.
[0016]
In this embodiment, when the number of image pickup devices (= pixels) is increased from the time of design, the
[0017]
As shown in FIG. 1, the
[0018]
The
[0019]
Further, writing / reading with respect to the
[0020]
The moving image
[0021]
The same
[0022]
When the basic pattern is composed of three or more lines, the line memory unit 102 connects the line memories in cascade and also connects each line memory and the thinning
[0023]
The thinning
[0024]
Furthermore, pixel data of the same color from the same line or other lines may be added. The thinning
[0025]
The
[0026]
The data input /
[0027]
The pixel
[0028]
The still image
[0029]
When the
[0030]
The
[0031]
The post signal processing unit will be briefly described. The distortion prevention processing unit includes a low-pass filter having a band up to a high frequency so as not to cause aliasing distortion without impairing the band of the three signals supplied. In addition, the distortion prevention processing unit limits the overlapping frequency band in one direction with respect to the overlapping region of the horizontal and vertical frequency bands. This avoids image quality degradation due to frequency overlap. The aperture adjustment unit performs processing and outputs so as to improve the reduction of the high-frequency component by, for example, low-pass filter processing. As a result, the image has the same effect as the contour (edge) enhancement processing. In addition, the color difference gain adjustment unit is supplied with the supplied color difference data C r , C b Is adjusted to a predetermined level. The
[0032]
Here, the
[0033]
For example, when the data are supplied in the order of GBGB..., The color G pixel data added to the color B pixel data advances by one. For this reason, a
[0034]
[0035]
The
[0036]
As another specific example, a case where
[0037]
The
[0038]
The thinning process for adjacent lines is performed using the
[0039]
The
[0040]
The thinning process is not limited to the thinning described above for each line. Further, the thinning-out process may be changed according to the requirements of the number of pixels and the readout processing time, such as three-pixel thinning-out and four-pixel thinning-out. Therefore, when the number of pixels of the image sensor increases, it is possible to change only this part, so that it is not necessary to redesign an already developed LSI. This increases the degree of freedom in designing the device to which the
[0041]
The pixel data of the three primary colors RGB thus obtained is supplied to the pixel
[0042]
Note that the
[0043]
Although the embodiments described so far have described the processing for a basic Bayer pattern, there are various types of Bayer patterns (see FIG. 5). The Bayer patterns shown in FIGS. 5 (a) and 5 (b) are both improved, and the
[0044]
In addition, the
[0045]
As described above, since the low-pass filter process before the thinning process and the pixel interpolation process are performed after the thinning process, generation of false colors and false signals can be suppressed as compared with the case where the thinning process is simply performed. Actually, the image obtained by this process has a very large number of original pixels, so that the deterioration of the image quality is not so noticeable even if the image is thinned out.
[0046]
With the above configuration, even if the number of pixels increases, the moving image display within the specified time is satisfied for the pixel data supplied according to the color arrangement pattern that has undergone the low-pass processing, and the number of pixels also increases. Therefore, even if the image is obtained by thinning out, an image in which the deterioration of the image quality is not so conspicuous can be obtained, the redesign of the developed LSI can be avoided, and the development cost can be reduced.
[0047]
【The invention's effect】
As described above, according to the signal processing apparatus and signal processing method of the present invention, the data supply control means controls the supply of pixel data line by line in the unit by line, and the filter means collects a plurality of lines. Filter processing suitable for display is performed, the same color pixel data in the line is collected at the same timing by the same color composition means, the basic color is output from the basic pattern to the output switching means, and from the output switching means according to the control of the selection control means By outputting pixel data and interpolating the pixel data with the interpolation means, the same processing is performed as when the pixels in different positional relationships for each color are thinned in the horizontal direction, and the basic colors are aligned, and the filter processing and interpolation processing Pixel data supplied according to the color arrangement pattern that has undergone low-pass processing even if the number of pixels increases by suppressing the generation of false colors and false signals For the moving image within the time specified in the moving image, the thinning processing is performed in response to the high-speed processing, and the interpolation processing is performed in consideration of the position of the pixel data and the number of pixels using the obtained pixel data. Generation is completed, and false colors and false signals generated in the obtained image are suppressed. Since the number of pixels is increasing, even if the image is thinned out, the degradation of the image quality can be made less noticeable, redesign of the developed LSI can be avoided, and the development cost can be reduced.
[Brief description of the drawings]
FIG. 1 is a schematic block diagram of a signal processing apparatus to which the present invention is applied.
FIG. 2 is a schematic diagram illustrating a color arrangement of a Bayer pattern with respect to pixel data supplied to the signal processing apparatus of FIG. 1;
3 is a circuit diagram showing a specific configuration of a thinning processing unit in the moving image signal processing unit of FIG. 1;
4 is a circuit diagram showing another specific configuration of the thinning-out processing unit in the moving image signal processing unit of FIG. 1;
FIG. 5 is a schematic diagram showing another color arrangement pattern when the Bayer pattern of FIG. 2 is improved.
[Explanation of symbols]
10 Signal processor
10a Data correction unit
10b Video signal processor
10c Signal processing unit for still images
10d color difference matrix
10B Same color composition part
100 Low pass filter
102 Line memory section
104 Thinning processing unit
106 selector
108 Data input / output controller
110 pixel interpolation processor
Claims (2)
供給される画素データに対して色補正するデータ補正手段と、
該補正に応じて供給される画素データに、間引き処理による画素数に応じてフィルタ処理を施すフィルタ手段と、
該フィルタ処理を経て供給される各ラインの画素データのうち、色フィルタに用いられる色配置パターンが有する繰返される基本パターンを表す複数のラインの画素を同じタイミングで供給し、ライン中の同色の画素データを混色または同色だけの画素データを出力して、画素数を削減させる同色合成手段と、
該合成した各色の画素データの出力を切り換える出力切換手段と、
該出力切換手段の選択タイミングおよび前記データ補正手段の書込み/読出しイネーブル信号に関わる制御信号それぞれでタイミングを制御して、調整するデータ入出力制御手段と、
該選択した各色の画素データを用いて画素補間を施す補間手段とを含み、
該装置は、前記色配置パターンとして、ベイヤパターンを前記基本パターンに設定された画素データを入力し、
前記同色合成手段は、前記基本パターンのライン数より1少ない各ラインの画素データを記憶するライン記憶手段と、
前記基本パターンに応じて各ラインにおける画素データの出力タイミングを調整する出力タイミング調整手段と、
前記タイミング調整した画素データを色ごとに合成する合成手段とを含み、
前記出力タイミング調整手段は、一つのラインに含まれる色の種類およびまとめる画素数に応じてタイミング調整する遅延手段であることを特徴とする信号処理装置。In a signal processing device for generating basic colors to be used for image generation in consideration of a color arrangement pattern generated by supplying pixel data corresponding to one color to a pixel and generating the color of the supplied pixel data, the device includes:
Data correction means for performing color correction on supplied pixel data ;
Filter means for performing filter processing on the pixel data supplied in accordance with the correction in accordance with the number of pixels by thinning processing ;
Among the pixel data of each line supplied through the filtering process, pixels of a plurality of lines representing a repeated basic pattern included in the color arrangement pattern used for the color filter are supplied at the same timing, and pixels of the same color in the line The same color composition means for outputting pixel data of mixed color or only the same color and reducing the number of pixels ,
Output switching means for switching the output of the combined pixel data of each color;
Data input / output control means for controlling and adjusting the timing with the selection timing of the output switching means and the control signals related to the write / read enable signal of the data correction means ;
Look including an interpolation means for performing pixel interpolation by using each color of the pixel data the selected,
The apparatus inputs pixel data in which a Bayer pattern is set as the basic pattern as the color arrangement pattern,
The same color synthesis means includes line storage means for storing pixel data of each line that is one less than the number of lines of the basic pattern;
Output timing adjustment means for adjusting the output timing of pixel data in each line according to the basic pattern;
Combining means for combining the timing-adjusted pixel data for each color,
The signal processing apparatus according to claim 1, wherein the output timing adjusting means is a delay means for adjusting timing according to the type of color included in one line and the number of pixels to be collected .
供給される画素データに対して色補正する第1の工程と、
該補正に応じて供給される画素データに、間引き処理による画素数に応じてフィルタ処理する第2の工程と、
該フィルタ処理を経て供給される各ラインの画素データのうち、色フィルタに用いられる色配置パターンが有する繰返される基本パターンを表す複数のラインの画素を、同じタイミングで供給し、ライン中の同色の画素データを混色または同色によりまとめて画素数を削減させ、さらに、まとめた同色の画素データ同士が前記基本パターンを形成するように画素データを出力する第3の工程と、
該合成した各色の画素データの出力タイミングを制御に応じて各色の画素データを切り換えて出力する第4の工程と、
出力する各色の画素データを用いて画素を補間する第5の工程とを含み、
該方法は、前記色配置パターンとして、ベイヤパターンを前記基本パターンに用いられた画素データを入力し、
第3の工程は、前記ベイヤパターンの画素データを供給し、各ラインに同色の画素データを複数個ずつまとめる第6の工程と、
該まとめた同色の画素データ同士を前記基本パターンを形成し、合成する第7の工程とを含むことを特徴とする信号処理方法。In a signal processing method for generating a basic color to be used when image generation is performed in consideration of a color arrangement pattern generated by the color of pixel data corresponding to one color supplied to a pixel and the color of the supplied pixel data. The method is
A first step of color correcting the supplied pixel data ;
The pixel data supplied in response to the correction, a second step of filtering in accordance with the number of pixels by thinning processing,
Among the pixel data of each line supplied through the filter processing, a plurality of lines of pixels representing a repeated basic pattern included in the color arrangement pattern used for the color filter are supplied at the same timing, and the same color in the line A third step of reducing the number of pixels by combining the pixel data in a mixed color or the same color , and further outputting the pixel data so that the combined pixel data of the same color form the basic pattern;
A fourth step of switching and outputting the pixel data of each color in accordance with the output timing of the synthesized pixel data of each color ;
Look including a fifth step of interpolating the pixels with the colors of the pixel data to be output,
The method inputs pixel data used in the basic pattern as a Bayer pattern as the color arrangement pattern,
The third step is a sixth step of supplying pixel data of the Bayer pattern and collecting a plurality of pieces of pixel data of the same color in each line;
Signal processing method characterized by seventh step and the containing Mukoto the same color pixel data among summarizes the forming the basic pattern, synthesized.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001013924A JP4249909B2 (en) | 2001-01-23 | 2001-01-23 | Signal processing apparatus and signal processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001013924A JP4249909B2 (en) | 2001-01-23 | 2001-01-23 | Signal processing apparatus and signal processing method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002218486A JP2002218486A (en) | 2002-08-02 |
JP4249909B2 true JP4249909B2 (en) | 2009-04-08 |
Family
ID=18880685
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001013924A Expired - Fee Related JP4249909B2 (en) | 2001-01-23 | 2001-01-23 | Signal processing apparatus and signal processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4249909B2 (en) |
-
2001
- 2001-01-23 JP JP2001013924A patent/JP4249909B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002218486A (en) | 2002-08-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7034868B2 (en) | Image processing circuit | |
US20080186391A1 (en) | Solid-state image pickup apparatus with horizontal thinning and a signal reading method for the same | |
JP4600315B2 (en) | Camera device control method and camera device using the same | |
JP2005012692A (en) | Image signal processor | |
US7750957B2 (en) | Pixel arranging apparatus, solid-state image sensing apparatus, and camera | |
JP3967853B2 (en) | Solid-state imaging device and signal readout method | |
JP4133283B2 (en) | Image processing apparatus, image processing method, and digital still camera | |
JPH11262022A (en) | Single-board type color camera | |
JP4249909B2 (en) | Signal processing apparatus and signal processing method | |
JP2004260265A (en) | Pixel extracting circuit having pixel turning over function, and image pickup apparatus | |
JP3543766B2 (en) | Image processing device | |
JP3967500B2 (en) | Solid-state imaging device and signal readout method | |
JP4260769B2 (en) | Image processing circuit | |
JPH04275776A (en) | Picture reader | |
JP3767367B2 (en) | Imaging device | |
JP2000287219A (en) | Method and unit for image processing and storage medium recording image processing program | |
JP4132264B2 (en) | Image signal processing circuit | |
JP2002359856A (en) | Data conversion circuit and digital camera | |
JP3671448B2 (en) | Image signal processing device | |
JP2002330283A (en) | Method and device for converting resolution | |
JP3443989B2 (en) | Signal generation circuit for vertical contour enhancement circuit and aspect ratio conversion circuit | |
JP2006303693A (en) | Electronic camera provided with function of generating reduced picture | |
JP3728075B2 (en) | Imaging method and imaging apparatus | |
JPH08149361A (en) | Digital camera | |
JP4249152B2 (en) | Image processing circuit |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060118 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20061206 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080410 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080610 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080805 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081224 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090116 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120123 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120123 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130123 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |