JP3648638B2 - カラー撮像装置 - Google Patents
カラー撮像装置 Download PDFInfo
- Publication number
- JP3648638B2 JP3648638B2 JP12319693A JP12319693A JP3648638B2 JP 3648638 B2 JP3648638 B2 JP 3648638B2 JP 12319693 A JP12319693 A JP 12319693A JP 12319693 A JP12319693 A JP 12319693A JP 3648638 B2 JP3648638 B2 JP 3648638B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- solid
- pixel
- state imaging
- captured
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Color Television Image Signal Generators (AREA)
Description
【産業上の利用分野】
本発明は、動画像入力技術に関し、詳しくは色分解プリズムと複数の固体撮像素子を用い高精細なカラー撮像装置に関するものである。
【0002】
【従来の技術】
カラー画像を高精細に撮像する方法として、従来、ダイクロイックプリズムと呼ばれる色分解プリズムを使用する方法が用いられている。この方法は、ダイクロイックプリズムによりレンズ通過後の光を赤,緑,青などの複数の色成分に分解し、各色成分毎の被写体像を複数の位置に結像し、これら複数の被写体像を複数の固体撮像素子により撮像する方法である。
【0003】
従来のダイクロイックプリズムを使用するカラー撮像装置の構成を図16に示す。図16において、4はダイクロイックプリズム、4R,4G,4Bは前記ダイクロイックプリズム4の出射側端面、1R,1G,1Bは固体撮像素子(総称するときは1という)、2はレンズである。各色成分の被写体像はダイクロイックプリズム4の出射側端面4R,4G,4Bにそれぞれ結像される。そして、これらの被写体像は各出射側端面4R,4G,4Bに接着剤等で張り付けられた固体撮像素子1R,1G,1Bによりそれぞれ撮像され、各色成分毎の画像信号が生成される。
【0004】
【発明が解決しようとする課題】
上記、従来のダイクロイックプリズム4を用いるカラー撮像装置の解像度は、使用する固体撮像素子1の画素数によって決まる。固体撮像素子1の画素数を増やす方法としては微細加工技術を駆使し、画素密度を高めることによる方法が主流であるが、固体撮像素子1のサイズを大きくして画素数を増やす方法もある。しかし、画素密度を高める方法ではプロセスが難しくなる問題もあり、さらに画素面積縮小による感度低下の問題も生じる。近年、この方法によりHDTV用の200万画素の固体撮像素子1が開発されているが、特に感度の低下を考慮した場合、この画素数はもはや限界に近く、現状ではさらに画素数を増加させ解像度を向上することは困難となっている。
【0005】
一方、画素密度は変えずに固体撮像素子1のサイズを大きくして画素数を増やす方法では、製造歩留りを低下させコスト増加につながる。このため、専ら天文などの科学用や軍事用に用途は限られている。上記問題の他、1つの固体撮像素子1内の画素数を増やすことにより高解像度化を図る従来の方法では、画素数増加に伴い固体撮像素子1の駆動速度や、ディジタル化の際のA/D変換速度等を高速化しなければならないという問題も深刻化している。
【0006】
本発明の目的は、固体撮像素子の画像密度を高めたり、画素数を増加させることなく解像度を向上させたカラー撮像装置を提供することにある。
【0007】
【課題を解決するための手段】
本発明にかかるカラー撮像装置は、色分解プリズムと複数の固体撮像素子を備えたカラー撮像装置において、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の画素位置をフィールドあるいはフレーム周期に同期させて、画素ピッチの所定の整数分の1の長さづつ水平方向、垂直方向、および水平,垂直の両方向にシフトさせるシフト手段と、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の撮像画像から動領域を検出する動領域検出手段と、
前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像について、連続する複数のフィールドあるいはフレームでの撮像画像を合成することにより、水平,垂直それぞれの精細度を該固体撮像素子の前記所定の整数倍に高精細化した画像信号を得るフレーム合成手段と、
前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像について、画素をフィールド内で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第1の補間処理手段と、
前記シフト手段によって画素位置がシフトされない固体撮像素子が撮像する画像について、画素をフィールド内もしくはフィールド間で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第2の補間処理手段と、
前記フレーム合成手段からの画像信号と、該画像信号の画像と同色成分の撮像画像を補間処理した、前記第1の補間処理手段からの画像信号と、前記動領域検出手段からの動き検出信号とが入力され、前記動き検出信号が所定のレベルより小さい場合には、前記フレーム合成手段からの画像信号を出力し、前記動き検出信号が所定のレベルより大きい場合には、前記第1の補間処理手段からの画像信号を出力する画像合成手段と
を有するものである。
【0008】
また、本発明にかかるカラー撮像装置は、色分解プリズムと複数の固体撮像素子を備えたカラー撮像装置において、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の画素位置をフィールドあるいはフレーム周期に同期させて、画素ピッチの所定の整数分の1の長さづつ水平方向、垂直方向、および水平,垂直の両方向にシフトさせるシフト手段と、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の撮像画像から動領域を検出する動領域検出手段と、
前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像について、少なくとも当該画素位置がシフトされる固体撮像素子の連続する複数のフィールドあるいはフレームでの撮像画像を合成することにより、水平,垂直それぞれの精細度を該固体撮像素子の前記所定の整数倍に高精細化した画像信号を得るフレーム合成手段と、
前記シフト手段によって画素位置がシフトされない固体撮像素子が撮像する、前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像と同色成分の画像について、少なくとも当該画素位置がシフトされない固体撮像素子の撮像画像の画素を用いてフィールド内もしくはフィールド間で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第1の補間処理手段と、
前記シフト手段によって画素位置がシフトされない固体撮像素子が撮像する、前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像と異なる色成分の画像について、当該画素位置がシフトされない固体撮像素子の撮像画像の画素を用いてフィールド内もしくはフィールド間で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第2の補間処理手段と、
前記フレーム合成手段からの画像信号と、該画像信号の画像と同色成分の撮像画像を補間処理した、前記第1の補間処理手段からの画像信号と、前記動領域検出手段からの動き検出信号とが入力され、前記動き検出信号が所定のレベルより小さい場合には、前記フレーム合成手段からの画像信号を出力し、前記動き検出信号が所定のレベルより大きい場合には、前記第1の補間処理手段からの画像信号を出力する画像合成手段と
を有するものである。
【0009】
さらに、上記イメージシフト法を適用する固体撮像素子は色分解された各色成分の中で輝度成分に最も近い色成分の被写体像の撮像に用いる。
【0010】
【作用】
本発明においては、ダイクロイックプリズムで分解した赤,緑,青の被写体像を3つの固体撮像素子で撮像する場合について説明する。この場合、輝度成分に最も近い色成分は緑成分であり、イメージシフト法を適用する固体撮像素子では緑成分の被写体像を撮像する。
【0011】
本発明によれば、緑成分画像がイメージシフト法により高精細化される。イメージシフト法による高精細化の原理図を図15に示す。固体撮像素子では、2次元の光学像情報を読み取り電気信号に変換する光電変換部(感光部)が図15に示すように離散的に配置されており、隣接する光電変換部の間には撮像には直接寄与しない非感光部が存在する。イメージシフト法とはこの非感光部の存在を利用し、画像のサンプリング点を倍増することにより、入力画像の高精細化を図る方法である。
【0012】
すなわち、あるフレームで入力した画像(図15(a))と、次のフレームで被写体像と固体撮像素子の画素の相対的な位置関係を画素ピッチの1/2ずらして入力した画像(図15(b))を合成すれば、それぞれのフレーム画像において固体撮像素子の非感光部にあたる領域の光学像情報がもう一方のフレーム画像ではサンプリングされていることになり、結局、図15(c)に示すように実効的に2倍の画素密度で画像を読み取ったことに相当し、高精細化が可能になる。図15では簡単なため2枚の画像を水平方向に補間する方法について説明したが、水平方向、垂直方向ともに補間による高精細化が可能であり、さらに、画素ピッチの1/3ずつずらして1方向について3倍の高密度化も可能である。
【0013】
イメージシフト法は上述のように複数のフレーム(またはフィールド)合成により高精細化を実現する方法であり、したがって動領域では多重像が生じるため適用できない。そこで、本発明では動領域検出手段を用い、これよりの検出信号が所定のレベルより小さい場合には、イメージシフト法に基づく合成信号を出力し、静止領域にのみイメージシフト法による高精細化法を適用する。この結果、高精細化されるのは静止領域のみとなるが、人間の目の視覚特性が動領域に対しては静止領域に比べ解像力が劣ることを考慮すれば、静止領域のみ高精細化することにより視覚的には画面全体が高精細となる。
【0014】
また、本発明では緑成分の静止領域のみ高精細化されることになるが、一般にカラー画像では輝度成分のみ高精細にすることにより視覚的に高精細な画像を再現できることが知られている。したがって、本発明のように輝度成分に近い色成分画像のみ高精細にすることにより、高精細なカラー画像を出力することができる。
【0015】
本発明は、動領域と静止領域では要求される解像度が異なること、およびカラー画像の解像度が緑成分の解像度に大きく依存する点に着目し、上述の手段を用いそれぞれの領域および色成分に適した特性で画像の取り込みを行うものであり、画素数の少ない固体撮像素子で高精細なカラー撮像装置を提供するものである。
【0016】
【実施例】
〔実施例1〕
本発明の第1の実施例の概略構成を図1に示す。図1において、11R,11G,11BはCCDエリアセンサ(以下、単にCCDと呼ぶ)、2はレンズ、3は圧電素子、4はダイクロイックプリズム、4R,4G,4Bは前記ダイクロイックプリズム4の出射側端面、5R,5G,5Bは補間処理部、6R,6G,6Bは動領域検出部、7はフレーム合成部、8は画像合成部、9R,9G,9Bは出力端子である。なお、図1において、増幅器やA/D変換器は省略した。
【0017】
実施例1では、固体撮像素子としてCCDを用いている。3つのCCDのうち赤成分画像と青成分画像を撮像するCCD11Rおよび11Bは通常の3板式CCDカメラと同様に、ダイクロイックプリズム4の出射側端面4R,4Bに接着し固定する。CCD11Gは上下左右に圧電素子3を取り付け、ダイクロイックプリズム4の出射側端面4Gに接近して配置する。この圧電素子3によりCCD11Gを垂直,水平方向に画素ピッチの1/2の幅でフレーム周期に同期させながらシフトさせる。
【0018】
CCD11R,11Gおよび11Bで撮像された信号は、それぞれ補間処理部5R,5G,5Bでの補間処理によって、画素密度をCCDによる撮像画素数の4倍(水平,垂直各2倍)とする。各補間処理部5R,5G,5Bでの補間法は、水平方向についてはフィールド内補間し、一方、垂直方向については動領域検出部6R,6Bからの信号を用いて、動領域ではフィールド内補間、静止領域ではフィールド間補間とする静/動適応型の補間処理を行う。
【0019】
さらに、CCD11Gからの画像信号については、フレーム合成部7で合成する。フレーム合成部7での合成方法を図2に示す。図2(a)はCCDの光電変換部の配列図であり、これをイメージシフト法で左,下,右,上の繰り返しでフレーム周期に同期してシフトさせる。したがって、画像合成部8において各フレームで撮像した画像を合成すると、合成画像における画素の位置関係は図2(b)に示すようになる。ここで、P1を第nフレームで撮像した画像の画素とすると、P2は第n+1フレームの画素、P3は第n+2フレームの画素、P4は第n+3フレームの画素となる。
【0020】
画像合成部8には、補間処理部5Gからの画像信号およびフレーム合成部7からの画像信号を入力し、さらに、動領域検出部6Gからの動き検出信号を入力する。そして、動き検出信号が大きい場合は補間処理部5Gからの画像信号を出力し、また、動き検出信号が小さい場合はフレーム合成部7からの画像信号を出力する。画像合成部8で合成された信号を緑成分画像の出力信号とし出力端子9Gより出力する。一方、赤および青成分の画像信号は補間処理部5R,5Bで補間処理された後、出力端子9Rおよび9Bからそれぞれ出力される。
【0021】
動領域検出部6R,6Gおよび6Bでの動き検出信号の生成法はNTSCで用いられている公知の方法を用いる。なお、動領域検出部6Gでの動き検出信号の生成法は前記の他、文献(特願平5−22204号参照)に記載の方法を採用することができる。
【0022】
上記画像合成部8に入力されるフレーム合成部7からの信号は高精細化された緑成分画像であり、これが動き検出信号があるレベルより小さいとき出力されることから、緑成分画像の静止領域が高精細化される。
〔実施例2〕
本発明の第2の実施例の概略構成を図3に示す。本実施例におけるレンズ2,ダイクロイックプリズム4,CCD11R,11G,11B,圧電素子3等の光学系構成は、実施例1と同じにする。本実施例では、画像合成部8で用いる動き検出信号として動領域検出部6Rおよび6Bの出力信号を用いる。すなわち、赤成分画像および青成分画像から得た動き検出信号を用いる。そして、これら2つの動き検出信号のうち、いずれか一方が大きい場合は補間処理部5Gからの画像信号を出力し、また動き検出信号が小さい場合はフレーム合成部7からの画像信号を出力する。画像合成部8で合成された信号を緑成分画像の出力信号とし出力端9Gより出力する。
【0023】
なお、この実施例2では、以上の点を除き実施例1と同じ動作を行う。
〔実施例3〕
本発明の第3の実施例の概略構成を図4に示す。図4において、111G,112GはCCD、41はダイクロイックプリズム、41R,41B,411G,412Gは前記ダイクロイックプリズム41の出射側端面である。なお、図4ではダイクロイックプリズム41の構成の詳細は省略した。
【0024】
本実施例では、入射光を赤,青および2つの緑光に分岐するダイクロイックプリズム41を使用する。すなわち、赤,青および2つの緑成分の被写体像をダイクロイックプリズム41の4つの出射側端面41R,41B,411G,412Gに結像し、これを4つのCCD11R,11B,111G,112Gにより撮像する。緑成分画像撮像用の2つのCCDのうちの1つ112Gは上下左右に圧電素子3を取り付け、ダイクロイックプリズム41の出射側端面412Gに近接して配置する。また、緑成分画像撮像用の他のCCD111G、および赤成分画像、青成分画像を撮像するCCD11Rおよび11Bはダイクロイックプリズム41の出射側端面411G,41R,41Bにそれぞれ接着し固定する。
【0025】
CCD112Gは圧電素子3により垂直,水平方向に画素ピッチの1/2の幅でフレーム周期に同期させながらシフトさせる。そして、実施例1と同様の方法により画像信号をフレーム合成部7で合成する。
【0026】
CCD11R,111G,11Bで撮像された信号はそれぞれ補間処理部5R,5G,5Bでの補間処理によって、画素密度をフレーム合成部7から出力される画像と同一とする。補間処理部5Rおよび5Bでの補間法は、水平方向についてはフィールド内補間し、一方、垂直方向については動領域検出部6R,6Bからの信号を用いて動領域ではフィールド内補間、静止領域ではフィールド間補間とする静/動適応型の補間処理を行う。また、補間処理部5Gでの処理は動領域、静止領域にかかわらず全画面についてフィールド内補間処理を施す。
【0027】
画像合成部8には、補間処理部5Gからの画像信号およびフレーム合成部7からの画像信号を入力し、さらに動領域検出部6Gからの動き検出信号を入力する。そして、動き検出信号が大きい場合は補間処理部5Gからの画像信号を出力し、また、動き検出信号が小さい場合はフレーム合成部7からの画像信号を出力する。画像合成部8で合成された信号を緑成分画像出力信号とし出力端子9Gより出力する。一方、赤および青成分の画像信号は補間処理部5R,5Bで補間処理された後、出力端子9Rおよび9Bからそれぞれ出力される。
【0028】
なお、動領域検出部6Rおよび6Bでの動き検出信号の生成法は、NTSCで用いられている公知の方法を用いる。画像合成部8に入力されるフレーム合成部7からの信号は高精細化された緑成分画像であり、これが動き検出信号が小さいとき出力されることから、緑成分画像の静止領域が高精細化される。
〔実施例4〕
本発明の第4の実施例の概略構成を図5に示す。本実施例におけるレンズ2,ダイクロイックプリズム41,CCD11R,11B,111G,112G,圧電素子3等の光学系構成は実施例3と同じとする。本実施例では、補間処理部5Gでの補間処理において、CCD111Gの画像信号に加え、CCD112Gで撮像された画像信号も利用する。補間処理部5Gにおける補間処理法を図6〜図9により説明する。
【0029】
図6〜図9において、実線の正方形で示される画素はCCD111Gで撮像された緑成分画像の画素であり、円形で示される画素がCCD112Gで撮像された画素である。また、網掛けおよび斜線で塗りつぶされた正方形、および円形は各フィールドでサンプリングされた画素である。また、図6〜図9において、Pq(m,n)(q=1〜4、m=i,i+1、n=j,j+1)は画素位置を示す。ここで、i,i+1は各CCD11R,11B,111G,112Gの水平方向の画素アドレス、j,j+1は垂直方向の画素アドレス(ライン番号)である。さらに、図6〜図9において、k,k+1…は補間処理後の画像におけるライン番号である。
【0030】
CCD112Gではイメージシフト法により撮像されるため、フレーム毎に画素位置が異なる。いま、第nフレームでの画素配置がCCD111Gの画素位置(P1(m,n)で示す位置)と同じとする。ただし、CCD111GとCCD112Gで画素配列を1ラインずらして配置するものとする。第nフレームにおける画素配置を図6に示す。図6(a)は奇数フィールドの画素配置、図6(b)は偶数フィールドの画素配置を示す。両CCD111G,112Gは1ラインずれて配置されているため、奇数フィールドで、CCD111Gではj番目のラインの画素がサンプリングされるのに対し、CCD112Gではj+1番目のラインの画素がサンプリングされる。第nフレームの奇数フィールドでは補間処理部5Gからk,k+2、…ラインの画像を出力する。したがって、補間処理部5Gからの出力画像では両CCD111G,112Gからの信号が奇数ラインおよび偶数ラインの信号としてそれぞれ出力される。ただし、P2(m,n)で示される画素ではサンプリングデータがないため、左右のP1(m,n)で示される画素の平均値をとりその画素の値とすることにより補間される。
【0031】
図6(b)に第nフレームの偶数フィールドでの画素配置を示す。このフィールドではCCD111Gではj+1番目のラインの画素がサンプリングされ、CCD112Gではj番目のラインの画素がサンプリングされる。しかし、このフィールドで補間処理部5Gから出力されるラインはk+1,k+2,…であり、このラインの画素(P3(m,n),P4(m,n)で示す画素)はサンプリングされていない。そこで、(1),(2)式にしたがって内挿法によりサンプリングされた画素からP3(m,n),P4(m,n)で示す画素の値を求めて出力する。
【0032】
【数1】
P3(i,j)={P1(i,j)+P1(i+1,j)+P1(i,j+1)+P1(i+1,j+1)} /4 ……(1)
P4(i,j)={P1(i,j)+P1(i,j+1)} /2 ……(2)
図7(a)に第n+1フレームの奇数フィールドでの画素配置を示す。このフィールドではCCD111Gではj番目のラインの画素がサンプリングされ、CCD112Gではj+1番目のラインの画素がサンプリングされる。ここで、CCD111Gでは前フレームの奇数フィールドと同一画素(j番目のラインのP1(m,n)で示される画素)がサンプリングされるのに対し、CCD112Gではイメージシフト法により画素位置がCCDの撮像面上で右に1/2画素ピッチ分(出力側で1画素ピッチ分)だけシフトし、サンプリング画素はj+1番目のラインのP2(m,n)で示す画素となる。このフィールドでは補間処理部5Gからk,k+2,…ラインの画像が出力される。そこで、出力画像でのkラインにおけるP2(m,n)で示される画素では、左右のP1(m,n)で示される画素の平均値をとりその画素の値とし、一方、k+2ラインにおけるP1(m,n)で示される画素では、左右のP2(m,n)で示される画素の平均値をとりその画素の値とする。
【0033】
図7(b)に第n+1フレームの偶数フィールドでの画素配置を示す。このフィールドではCCD111Gではj+1番目のラインの画素がサンプリングされ、CCD112Gではj番目のラインの画素がサンプリングされる。しかし、このフィールドで補間処理部5Gから出力されるラインはk+1,k+3,…であり、このラインの画素(P3,P4で示す画素)はサンプリングされていない。そこで、(3),(4)式にしたがってサンプリング画素からP3,P4で示す画素の値を求めて出力する。
【0034】
【数2】
P3(i,j)={P1(i,j)+P1(i+1,j)+2 x P2(i,j+1)} /4 ……(3)
P4(i,j)={2 x P1(i,j)+P2(i-1,j+1)+P2(i,j+1)} /4 ……(4)
図8(a)に第n+2フレームの奇数フィールドでの画素配置を示す。このフィールドではCCD111Gではj番目のラインの画素がサンプリングされ、CCD112Gではj+1番目のラインの画素がサンプリングされる。CCD112Gでは前フレームの奇数フィールドと同一画素(j番目のラインのP1(m,n)で示される画素)がサンプリングされるのに対し、CCD112Gではイメージシフト法により画素位置がCCDの撮像面上で下に1/2画素ピッチ分(出力側で1画素ピッチ分)だけシフトし、サンプリング画素はj+1番目のラインのP3(m,n)で示す画素となる。このフィールドでは補間処理部5Gからk,k+2,…ラインの画像が出力される。そこで、出力画像でのkラインおけるP2(m,n)で示される画素では左右のP1で示される画素の平均値をとりその画素の値とし、一方、k+2ラインにおけるP1(m,n)およびP2(m,n)で示される画素では(5),(6)式にしたがってサンプリング画素からこれらの画素の値を求めて出力する。
【0035】
【数3】
P1(i,j+1)={P3(i-1,j+1)+P3(i,j+1)+P1(i,j)} /3 ……(5)
P2(i,j+1)={4 x P3(i,j+1)+P1(i,j)+P1(i+1,j)} /6 ……(6)
図8(b)に第n+2フレームの偶数フィールドでの画素配置を示す。このフィールドではCCD111Gではj+1番目のラインの画素がサンプリングされ、CCD112Gではj番目のラインの画素がサンプリングされる。このフィールドでは補間処理部5Gからk+1,k+3,…ラインの画像が出力されるが、これらのラインにおけるP3およびP4で示される画素はサンプリングされていない。そこで、k+1ラインのP4で示される画素では左右のP3で示される画素の平均値をとりその画素の値とし、一方、k+3ラインにおけるP3およびP4で示される画素では(7),(8)式にしたがってサンプリング画素からこれらの画素の値を求めて出力する。
【0036】
【数4】
P3(i,j+1)={P1(i,j+1)+P1(i+1,j+1)+P3(i,j+2)} /3 ……(7)
P4(i,j+1)={4 x P1(i,j+1)+P3(i-1,j+2)+P3(i,j+2)} /6 ……(8)
図9(a)に第n+3フレームの奇数フィールドでの画素配置を示す。このフィールドではCCD111Gではj番目のラインの画素がサンプリングされ、CCD112Gではj+1番目のラインの画素がサンプリングされる。CCD111Gでは前フレームの奇数フィールドと同一画素(j番目のラインのP1(m,n)で示される画素)がサンプリングされるのに対し、CCD112Gではイメージシフト法により画素位置がCCDの撮像面上で左に1/2画素ピッチ分(出力側で1画素ピッチ分)だけシフトし、サンプリング画素はj+1番目のラインのP4で示す画素となる。このフィールドでは補間処理部5Gからk,k+2,…ラインの画像が出力される。そこで、出力画像でのkラインおけるP2(m,n)で示される画素では左右のP1(m,n)で示される画素の平均値をとりその画素の値とし、一方、k+2ラインにおけるP1(m,n)およびP2(m,n)で示される画素では(9),(10)式にしたがってサンプリング画素からこれらの画素の値を求めて出力する。
【0037】
【数5】
P1(i,j+1)={P1(i,j)+2 x P4(i,j+1)} /3 ……(9)
P2(i,j+1)={P1(i,j)+P1(i+1,j)+2xP4(i,j+1)+2xP4(i+1,j+1)} /6……(10)
図9(b)に第n+3フレームの偶数フィールドでの画素配置を示す。このフィールドではCCD111Gではj+1番目のラインの画素がサンプリングされ、CCD112Gではj番目のラインの画素がサンプリングされる。このフィールドでは補間処理部5Gからk+1,k+3,…ラインの画像が出力されるが、これらのラインにおける、P3およびP4で示される画素はサンプリングされていない。そこで、k+1ラインのP4で示される画素では左右のP3で示される画素の平均値をとりその画素の値とし、一方、k+3ラインにおけるP3およびP4で示される画素では(11),(12)式にしたがってサンプリング画素からこれらの画素の値を求めて出力する。
【0038】
【数6】
P3(i,j+1)={P4(i,j+2)+P4(i+1,j+2)+2xP1(i,j+1)+P1(i+1,j+1)} /6……(11)
P4(i,j+1)={2xP1(i,j+1)+P4(i,j+2)} /3 ……(12)
以上4フレーム(8フィールド)の処理が順次繰り返して行われる。この実施例4では以上述べた補間処理部5Gでの処理を除き、実施例1と同じである。本実施例では補間処理をCCD112Gからの信号を用いるため、緑成分画像の動領域も高精細にすることができる。
〔実施例5〕
本発明の第5の実施例の概略構成を図10に示す。本実施例におけるレンズ2,ダイクロイックプリズム41,CCD11R,11B,111G,112G,圧電素子3等の光学系構成は実施例3と同じとする。この実施例5でも補間処理部5Gでの補間処理において、CCD111Gの画像信号に加え、CCD112Gで撮像された画像信号も利用する。さらに、本実施例ではフレーム合成部7でCCD112Gの画像信号に加え、CCD111Gからの緑成分画像信号も用いてフレーム合成を行う。
【0039】
この実施例5で、CCD112G用いるイメージシフト法を図11に示す。図11において、実線の正方形で示される画素はCCD111Gで撮像される緑成分画像の画素であり、円形で示される画素がCCD112Gで撮像される画素である。前記各実施例で用いたイメージシフト法では画素ピッチの1/2ずつ右,下,左,上の順でシフトさせて、4フレームで1つの画素が4つの位置をサンプリングしたのに対し、この実施例5では下,左,右上の順でシフトさせてCCD111Gでサンプリングされる位置を除く3つの位置を3フレームでサンプリングする。そして、フレーム合成はCCD112Gで撮像された3フレーム分の画素およびCCD111Gで撮像された1フレーム分の画素を合成して行う。
【0040】
なお、この実施例5では上記フレーム合成部7での処理を除き、実施例4と同様の動作である。
〔実施例6〕
本発明の第6の実施例の概略構成を図12に示す。図12において、7Rおよび7Bはフィールド間補間処理部、8R,8Gおよび8Bは画像合成部、AR,ABおよび6RGBは加算器、HFはハイパスフィルタである。この実施例6におけるレンズ2,ダイクロイックプリズム4,CCD11R,11G,11B,圧電素子3等の光学系構成は実施例1と同じとする。上記各実施例では、いずれも赤および青成分画像の静止領域の高精細化を現フィールドと前フィールドの2フィールド間の補間で実現したが、この実施例6ではこの補間処理後の信号に緑成分の高周波成分を加えることにより、より高精細な赤および青成分画像を実現する。すなわち、フレーム合成部7Gで合成された緑成分の画像信号のうちハイパスフィルタHFを通過させた信号を、フィールド間補間処理部7Rおよび7Bで補間処理された青成分および赤成分の画像信号にそれぞれ加算器AR,ABで加算する。この処理は、赤および青成分画像と緑成分画像の高周波成分間の相関性を利用して、赤および青成分画像の高精細化を実現する処理である。
【0041】
上記高精細化処理を行うためには、現フィールドから過去8フィールドにわたり注目画素が動領域でないことが条件となる。したがって、動領域検出部6Rおよび6Bでは前記実施例のようにNTSC等で用いられている公知の方法を使用することはできない。そこで、本実施例では過去8フィールド間の輝度変化を全て検出する。図13にこの実施例6での動領域検出部6Rおよび6Bでの動き検出信号の算出法を示す。いま、現フィールドを第mフィールドとし、図14のP1(i,j)で示される画素の動き係数の算出をするものとする。なお、赤および青成分画像用のCCD11R,11Bは固定されているため、図14で実線の四角で示される画素のみサンプリングされることになる。第mフィールドでの画素P1(i,j)の信号値をP1(i,j)m と表すことにすれば、本実施例での動領域検出部6Rでの動き検出信号kR は(13)式で与えるものとする。
【0042】
【数7】
ただし、CCDは全てインタレース方式で駆動するため、第mフィールドで画素P1(i,j)を含むjラインが走査されているとすれば、m-1 ,m-3 ,m-5 ,m-7 の各フィールドではjラインが走査されないため、画素P1(i,j)の信号値を得ることができない。そこで、これらのフィールドにおいては、そのフィールドで走査される上下のラインにある画素P1(i,j−1)およびP1(i,j+1)の信号値の平均値を用いることとする。また、動領域検出部6Bでの動き検出信号kBもkRと同様にして求める。
【0043】
この実施例6では赤,緑および青成分画像で動領域を同一とするため1つの動き検出信号kで各色成分画像の動領域と静止領域の判定を行う。動き検出信号kは(14)式により算出する。
【0044】
【数8】
k=kR + kG + kB ……(14)
上記動き検出信号kを用い、画像合成部8R,8Gおよび8Bでそれぞれ静止領域画像と動領域画像を合成する。
【0045】
本実施例でも赤および青成分画像の撮像用CCDは固定されているため、これらの画像には高周波成分は含まれないが、緑成分画像の高周波成分との相関性を利用して、これを加えることにより赤および青成分画像の高精細化を実現する。
【0046】
以上においては、本発明の6つの実施例を示したにとどまり、本発明の精神を脱することなく種々の変更が可能なことはいうまでもない。例えば、上記実施例では固体撮像素子としてCCDを用いたが、固体撮像素子の種類を問わず実施することが可能である。
【0047】
また、上記実施例では静止領域の緑成分画像をCCDを1方向について画素ピッチの1/2だけずらした画像を合成して生成したが、画素ピッチの1/3または1/4づつずらし、さらに解像度の高い画像を合成することも可能である。
【0048】
また、上記実施例では圧電素子3でCCD11R,11B,11G,111G,112G等を振動させるシフト手段によるイメージシフト法を用いて、撮像素子上で被写体像をシフトさせたが、例えば、ダイクロイックプリズムと撮像素子の間で透明板を振動させる方法等いずれのシフト手段を用いても本発明の実施が可能である。
【0049】
また、上記実施例では、ダイクロイックプリズムを用いる3CCD方式および4CCD方式について述べたが、2個のCCDを用い赤成分と青成分の画像を1つのCCDで撮像する方法でも本発明の実施は可能である。
【0050】
【発明の効果】
本発明は請求項1に記載の発明では、色分解プリズムと複数の固体撮像素子を備えたカラー撮像装置において、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の画素位置をフィールドあるいはフレーム周期に同期させて、画素ピッチの所定の整数分の1の長さづつ水平方向、垂直方向、および水平,垂直の両方向にシフトさせるシフト手段と、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の撮像画像から動領域を検出する動領域検出手段と、
前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像について、連続する複数のフィールドあるいはフレームでの撮像画像を合成することにより、水平,垂直それぞれの精細度を該固体撮像素子の前記所定の整数倍に高精細化した画像信号を得るフレーム合成手段と、
前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像について、画素をフィールド内で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第1の補間処理手段と、
前記シフト手段によって画素位置がシフトされない固体撮像素子が撮像する画像について、画素をフィールド内もしくはフィールド間で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第2の補間処理手段と、
前記フレーム合成手段からの画像信号と、該画像信号の画像と同色成分の撮像画像を補間処理した、前記第1の補間処理手段からの画像信号と、前記動領域検出手段からの動き検出信号とが入力され、前記動き検出信号が所定のレベルより小さい場合には、前記フレーム合成手段からの画像信号を出力し、前記動き検出信号が所定のレベルより大きい場合には、前記第1の補間処理手段からの画像信号を出力する画像合成手段と
を有するようにし、
また請求項2に記載の発明では、色分解プリズムと複数の固体撮像素子を備えたカラー撮像装置において、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の画素位置をフィールドあるいはフレーム周期に同期させて、画素ピッチの所定の整数分の1の長さづつ水平方向、垂直方向、および水平,垂直の両方向にシフトさせるシフト手段と、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の撮像画像から動領域を検出する動領域検出手段と、
前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像について、少なくとも当該画素位置がシフトされる固体撮像素子の連続する複数のフィールドあるいはフレームでの撮像画像を合成することにより、水平,垂直それぞれの精細度を該固体撮像素子の前記所定の整数倍に高精細化した画像信号を得るフレーム合成手段と、
前記シフト手段によって画素位置がシフトされない固体撮像素子が撮像する、前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像と同色成分の画像について、少なくとも当該画素位置がシフトされない固体撮像素子の撮像画像の画素を用いてフィールド内もしくはフィールド間で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第1の補間処理手段と、
前記シフト手段によって画素位置がシフトされない固体撮像素子が撮像する、前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像と異なる色成分の画像について、当該画素位置がシフトされない固体撮像素子の撮像画像の画素を用いてフィールド内もしくはフィールド間で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第2の補間処理手段と、
前記フレーム合成手段からの画像信号と、該画像信号の画像と同色成分の撮像画像を補間処理した、前記第1の補間処理手段からの画像信号と、前記動領域検出手段からの動き検出信号とが入力され、前記動き検出信号が所定のレベルより小さい場合には、前記フレーム合成手段からの画像信号を出力し、前記動き検出信号が所定のレベルより大きい場合には、前記第1の補間処理手段からの画像信号を出力する画像合成手段と
を有するようにしたので、それぞれの領域および色に適した特性で画像の取り込みが可能となる。すなわち、画像の精細度を決定する静止領域については画素数の少ない撮像素子を用いても時間をかけることにより十分高精細に撮像することができる。また、動領域については従来の動画撮像と同一速度で撮像でき、自然な動画像を撮像できる。
以上から、本発明のカラー撮像装置では画素数の少ない固体撮像素子を用いても高精細な動画の撮像が可能である。このため、HDTVなどの高精細な動画撮像装置を低コストで実現できる。さらに、HDTV用などの高解像度の撮像素子を用いて本発明を実施すれば、従来にはない超高精細な動画の撮像が可能となる。
【0051】
また、本発明は連続する複数のフレームまたはフィールド画像を合成する画像合成手段、および撮像画像から動領域を検出する動領域検出手段を備えているので動領域を検出して取り出すことができるため、受信側への伝送に当たってはこの動領域と静止領域において1コマ前に動領域であった部分のみの信号を送ればよく伝送信号を容易に圧縮することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施例の概略構成を示すブロック図である。
【図2】第1の実施例でのフレーム合成法を示す図である。
【図3】本発明の第2の実施例の概略構成を示すブロック図である。
【図4】本発明の第3の実施例の概略構成を示すブロック図である。
【図5】本発明の第4の実施例の概略構成を示すブロック図である。
【図6】本発明の第4の実施例の撮像画像と出力画像の画素位置関係をフレームおよびフィールド毎に示す図である。
【図7】本発明の第4の実施例の撮像画像と出力画像の画素位置関係をフレームおよびフィールド毎に示す図である。
【図8】本発明の第4の実施例の撮像画像と出力画像の画素位置関係をフレームおよびフィールド毎に示す図である。
【図9】本発明の第4の実施例の撮像画像と出力画像の画素位置関係をフレームおよびフィールド毎に示す図である。
【図10】本発明の第5の実施例の概略構成を示すブロック図である。
【図11】第5の実施例で用いるイメージシフト法の説明図である。
【図12】本発明の第6の実施例の概略構成を示すブロック図である。
【図13】第6の実施例における動領域検出部での動き検出信号の算出法を示す図である。
【図14】第6の実施例の撮像画像と出力画像の画素位置関係を示す図である。
【図15】本発明によるイメージシフト法による高解像度化の原理説明図である。
【図16】従来のダイクロイックプリズムを用いるカラー撮像装置の概略構成図である。
【符号の説明】
2 レンズ
3 圧電素子
4 ダイクロイックプリズム
5R 補間処理部
5G 補間処理部
5B 補間処理部
6R 動領域検出部
6G 動領域検出部
6B 動領域検出部
7 フレーム合成部
8 画像合成部
9R 出力端子
9G 出力端子
9B 出力端子
11R CCDエリアセンサ
11G CCDエリアセンサ
11B CCDエリアセンサ
41 ダイクロイックプリズム
Claims (2)
- 色分解プリズムと複数の固体撮像素子を備えたカラー撮像装置において、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の画素位置をフィールドあるいはフレーム周期に同期させて、画素ピッチの所定の整数分の1の長さづつ水平方向、垂直方向、および水平,垂直の両方向にシフトさせるシフト手段と、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の撮像画像から動領域を検出する動領域検出手段と、
前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像について、連続する複数のフィールドあるいはフレームでの撮像画像を合成することにより、水平,垂直それぞれの精細度を該固体撮像素子の前記所定の整数倍に高精細化した画像信号を得るフレーム合成手段と、
前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像について、画素をフィールド内で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第1の補間処理手段と、
前記シフト手段によって画素位置がシフトされない固体撮像素子が撮像する画像について、画素をフィールド内もしくはフィールド間で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第2の補間処理手段と、
前記フレーム合成手段からの画像信号と、該画像信号の画像と同色成分の撮像画像を補間処理した、前記第1の補間処理手段からの画像信号と、前記動領域検出手段からの動き検出信号とが入力され、前記動き検出信号が所定のレベルより小さい場合には、前記フレーム合成手段からの画像信号を出力し、前記動き検出信号が所定のレベルより大きい場合には、前記第1の補間処理手段からの画像信号を出力する画像合成手段と
を有することを特徴とするカラー撮像装置。 - 色分解プリズムと複数の固体撮像素子を備えたカラー撮像装置において、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の画素位置をフィールドあるいはフレーム周期に同期させて、画素ピッチの所定の整数分の1の長さづつ水平方向、垂直方向、および水平,垂直の両方向にシフトさせるシフト手段と、
前記複数の固体撮像素子のうち、少なくとも1つの固体撮像素子の撮像画像から動領域を検出する動領域検出手段と、
前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像について、少なくとも当該画素位置がシフトされる固体撮像素子の連続する複数のフィールドあるいはフレームでの撮像画像を合成することにより、水平,垂直それぞれの精細度を該固体撮像素子の前記所定の整数倍に高精細化した画像信号を得るフレーム合成手段と、
前記シフト手段によって画素位置がシフトされない固体撮像素子が撮像する、前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像と同色成分の画像について、少なくとも当該画素位置がシフトされない固体撮像素子の撮像画像の画素を用いてフィールド内もしくはフィールド間で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第1の補間処理手段と、
前記シフト手段によって画素位置がシフトされない固体撮像素子が撮像する、前記シフト手段によって画素位置がシフトされる固体撮像素子が撮像する画像と異なる色成分の画像について、当該画素位置がシフトされない固体撮像素子の撮像画像の画素を用いてフィールド内もしくはフィールド間で補間処理することにより、画素密度を前記フレーム合成手段から出力される画像と同一とした画像信号を得る第2の補間処理手段と、
前記フレーム合成手段からの画像信号と、該画像信号の画像と同色成分の撮像画像を補間処理した、前記第1の補間処理手段からの画像信号と、前記動領域検出手段からの動き検出信号とが入力され、前記動き検出信号が所定のレベルより小さい場合には、前記フレーム合成手段からの画像信号を出力し、前記動き検出信号が所定のレベルより大きい場合には、前記第1の補間処理手段からの画像信号を出力する画像合成手段と
を有することを特徴とするカラー撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12319693A JP3648638B2 (ja) | 1993-04-28 | 1993-04-28 | カラー撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP12319693A JP3648638B2 (ja) | 1993-04-28 | 1993-04-28 | カラー撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH06315154A JPH06315154A (ja) | 1994-11-08 |
JP3648638B2 true JP3648638B2 (ja) | 2005-05-18 |
Family
ID=14854576
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP12319693A Expired - Fee Related JP3648638B2 (ja) | 1993-04-28 | 1993-04-28 | カラー撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3648638B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7483065B2 (en) * | 2004-12-15 | 2009-01-27 | Aptina Imaging Corporation | Multi-lens imaging systems and methods using optical filters having mosaic patterns |
CN101578885B (zh) * | 2007-08-07 | 2012-09-12 | 松下电器产业株式会社 | 摄像处理装置以及摄像装置、图像处理方法 |
CN101578886B (zh) | 2007-08-07 | 2011-11-23 | 松下电器产业株式会社 | 摄像处理装置以及摄像装置、图像处理方法以及计算机程序 |
CN101601306B (zh) * | 2007-09-07 | 2011-05-18 | 松下电器产业株式会社 | 多色图像处理装置以及信号处理装置 |
EP2334085B1 (en) * | 2009-02-05 | 2019-10-02 | Panasonic Intellectual Property Management Co., Ltd. | Imaging processor |
JP6432315B2 (ja) * | 2014-12-04 | 2018-12-05 | 株式会社Jvcケンウッド | 撮像装置及び撮像方法 |
-
1993
- 1993-04-28 JP JP12319693A patent/JP3648638B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH06315154A (ja) | 1994-11-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4142340B2 (ja) | 撮像装置 | |
JP3735867B2 (ja) | 輝度信号生成装置 | |
JP3648638B2 (ja) | カラー撮像装置 | |
JP5159461B2 (ja) | 画像処理装置、画像処理方法及び撮像装置 | |
JPH07203318A (ja) | 撮像装置 | |
JP3346481B2 (ja) | 動画入力装置 | |
JP2000023046A (ja) | 撮像装置 | |
JP4385578B2 (ja) | 撮像装置 | |
JP3535623B2 (ja) | カラー撮像装置 | |
KR100665489B1 (ko) | 촬상 장치 및 촬상 방법 | |
JP3055809B2 (ja) | 電子内視鏡装置 | |
JP3458443B2 (ja) | 高精細固体撮像装置 | |
JPH05276452A (ja) | 撮像装置 | |
JPH06292094A (ja) | 撮像装置 | |
JPH05504873A (ja) | テレビ電話カメラのスループット圧縮方法及びテレビ電話カメラ | |
JP2552399B2 (ja) | 電子内視鏡装置 | |
JPH08256345A (ja) | 撮像装置及び画像信号処理装置 | |
JP2533547B2 (ja) | 固体撮像装置 | |
JP2000261817A (ja) | 撮像装置 | |
JPH0712217B2 (ja) | カラ−固体撮像装置 | |
JPS60264186A (ja) | 固体撮像装置 | |
JPH06209435A (ja) | 画像入出力伝送システム | |
JP2000295531A (ja) | 撮像装置 | |
JP2003018470A (ja) | 撮像装置、撮像方法、プログラム、および媒体 | |
JPS60264185A (ja) | 固体撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040928 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041124 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050201 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20050202 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050202 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090225 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090225 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100225 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110225 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110225 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120225 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130225 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |