JP2004147093A - 信号処理装置及び方法、及び撮像装置 - Google Patents
信号処理装置及び方法、及び撮像装置 Download PDFInfo
- Publication number
- JP2004147093A JP2004147093A JP2002309899A JP2002309899A JP2004147093A JP 2004147093 A JP2004147093 A JP 2004147093A JP 2002309899 A JP2002309899 A JP 2002309899A JP 2002309899 A JP2002309899 A JP 2002309899A JP 2004147093 A JP2004147093 A JP 2004147093A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- correction
- gravity
- center
- odd
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Abstract
【課題】1行おきに同じ色の受光素子から得られる信号を加算して読み出す場合に、画像の歪やモアレ等の問題を解消すること。
【解決手段】原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子(2)であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理装置であって、撮像素子から入力した信号に対して、所定の画像処理を行うカメラ信号処理部(6)と、カメラ信号処理部から出力される信号の重心位置を等間隔に補正して出力する重心ずれ補正部(10)とを有する。
【選択図】 図1
【解決手段】原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子(2)であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理装置であって、撮像素子から入力した信号に対して、所定の画像処理を行うカメラ信号処理部(6)と、カメラ信号処理部から出力される信号の重心位置を等間隔に補正して出力する重心ずれ補正部(10)とを有する。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、信号処理装置及び方法、及び撮像装置に関し、特に、固体撮像素子の撮像領域の画素を画素混合して読み出された信号に対して処理を施す信号処理装置及び方法、及び撮像装置に関する。
【0002】
【従来の技術】
従来、撮像装置の各受光素子から得られる信号電荷を混合して読み出す撮像装置では、例えば、撮像素子の駆動手段が同色の色要素に対応する電荷どうしが垂直列に対応する垂直転送レジスタ上で混合されるように撮像素子を駆動する方法が考えられている(例えば、特許文献1参照。)。
【0003】
図2に原色ベイヤー配列をもつ撮像素子を垂直方向に同色混合される場合の概念図を示す。原色ベイヤー配列の撮像素子では、図2(a)で示されるようにRGBの色フィルタが配置されている。すなわち、水平方向に見た場合にR、Gの繰り返しのラインと、G、Bの繰り返しのラインとが交互に配置されている。画素混合が垂直方向に行われる場合、同色の色フィルタは1画素おきに配置されているので、撮像素子駆動部は混合される画素も1画素おきのタイミングで混合されるように撮像素子を駆動する。
【0004】
具体的には例えば図2(a)に示すR00、G01のラインと R20、G21のラインの画素信号を混合して、図2(b)に示すR10、G11のラインの画素信号が生成される。また、G10、B11のラインの画素信号とG30、B31のラインの画素信号からG20、B21のラインの画素信号が生成される。同様にして、R40、G41のラインとR60、G61のラインの画素信号からR50、G51のラインの画素信号が、G50、B51のラインとG70、B71のラインの画素信号からG60、B61のラインの画素信号が生成される。混合後の信号は、混合前と同じ原色のベイヤー配列になる。
【0005】
【特許文献1】
特開2000−253415号公報
【0006】
【発明が解決しようとする課題】
しかしながら、上記従来の方法で混合処理を行うと、混合後の信号の重心位置が混合前の2画素の中央になるので、重心位置に注目すると垂直方向に均等ではなく2ラインずつ接近した位置となってしまう。この混合後の信号に対して、A/D変換器4でデジタル信号にし、カメラ信号処理部6によって、色差・輝度信号に変換すると変換後の信号の重心位置は、図2(b)のようになり、2ラインずつの接近した不均等な色差・輝度信号になる。このように信号配置が偏ると、画像がひずんだりモアレが生じたりするなどの課題があった。また、連続したフィールドの画像からなるインターレースの動画像に対して垂直方向に混合処理を行うと、フィールド間のインターレース関係が損なわれるという問題点もあった。
【0007】
本発明は上記問題点を鑑みてなされたものであり、1行おきに同じ色の受光素子から得られる信号を加算して読み出す場合に、画像の歪やモアレ等の問題を解消することを本発明の第1の目的とする。
【0008】
また、動画像においては、更にインターレース関係を損なわず撮影することを第2の目的とする。
【0009】
【課題を解決するための手段】
上記第1の目的を達成するために、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の信号処理装置は、前記撮像素子から入力した信号に対して、所定の画像処理を行う処理手段と、前記処理手段から出力される信号の重心位置を等間隔に補正して出力する補正手段とを有することを特徴とする。
【0010】
また、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の信号処理方法は、前記撮像素子から入力した信号に対して、所定の画像処理を行う処理工程と、前記処理工程で出力される信号の重心位置を等間隔に補正して出力する補正工程とを有することを特徴とする。
【0011】
また、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の別の信号処理装置は、前記撮像素子から入力した信号の重心位置を等間隔に補正して出力する補正手段と、前記補正手段から出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理手段とを有することを特徴とする。
【0012】
また、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する発明の別の信号処理方法は、前記撮像素子から入力した信号の重心位置を等間隔に補正して出力する補正工程と、前記補正工程で出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理工程とを有することを特徴とする。
【0013】
また、上記第2の目的を達成するために、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の信号処理装置は、前記撮像素子から入力した信号に対して、所定の画像処理を行う処理手段と、前記処理手段から出力される信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正手段とを有することを特徴とする。
【0014】
また、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の信号処理方法は、前記撮像素子から入力した信号に対して、所定の画像処理を行う処理工程と、前記処理工程で出力される信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正工程とを有することを特徴とする。
【0015】
また、上記第2の目的を達成するために原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の他の信号処理装置は、前記撮像素子から入力した信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正手段と、前記補正手段から出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理手段とを有することを特徴とする。
【0016】
また、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理方法は、前記撮像素子から入力した信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正工程と、前記補正手段から出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理工程とを有することを特徴とする。
【0017】
【発明の実施の形態】
以下、添付図面を参照して本発明の好適な実施の形態を詳細に説明する。
【0018】
<第1の実施形態>
図1は本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。なお、図1では、本第1の実施形態の説明に必要な構成のみを示している。
【0019】
図1において、2は不図示の光学系を介して入射した光束を、その光量に応じて電気信号に変換するCCDやMOS等の撮像素子、4は撮像素子2から出力されるアナログ信号をデジタル信号に変換するA/D変換器、6はA/D変換器4から出力されたデジタル信号に対して、色分離処理、アパーチャー処理、ガンマ処理等を施した後、輝度信号、色差信号を生成するカメラ信号処理部、8は撮像素子2を制御するタイミング信号を生成する撮像素子駆動部、10はカメラ信号処理部6から出力された色差・輝度信号に対して、後述する重心ずれの補正を行う重心ずれ補正処理部である。
【0020】
撮像素子2からは、従来例で図2を参照して説明した方法で画素信号が読み出される。このようにして読み出された混合後の信号は、混合前と同じ原色のベイヤー配列になる。しかし、従来例でも説明したように、混合後の信号の重心位置は混合前の2画素の中央になるので、重心位置に注目すると、各画素は垂直方向に均等ではなく、図2(b)に示すように、2ラインずつ接近した配置となる。
【0021】
この混合後の信号に対して、A/D変換器4でデジタル信号にし、カメラ信号処理部6によって色差・輝度信号に変換すると、変換後の信号の重心位置は、図2(c)のようになり、2ラインずつの接近した不均等な色差・輝度信号になる。
【0022】
そこで、本第1の実施形態における重心ずれ補正処理部10では、重心位置が均等になるように色差・輝度信号を補正する。
【0023】
図3は、本第1の実施形態において重心ずれ補正処理部10における補正動作を説明するための図である。
【0024】
図3は、図2を用いて説明した混合が行われた場合に、カメラ信号処理部6より出力された色差・輝度信号の重心位置を表す。Y2n及びY(2n±偶数)のラインは輝度・色差信号の偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち上のラインとする。また、Y(2n±奇数)のラインは輝度・色差信号の奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち下のラインとする。Y’2n及びY’(2n±偶数)のラインは重心ずれ補正後の輝度・色差信号の偶数ラインを、Y’(2n±奇数)のラインは重心ずれ補正後の輝度色差信号の奇数ラインを表す。なお、nは自然数を表す。
【0025】
図3では、Y2nとY2n+1の間隔と、Y2n+1とY2n+2の間隔の比は1:3になるので、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。
Y’2n = Y2n
Y’2n+1 = 2/3×Y2n+1+1/3×Y2n+2
【0026】
すなわち偶数ラインの信号はそのまま出力し、奇数ラインの信号は次のラインの信号と2:1の比率になるように補間演算を行う。
【0027】
または、
Y’2n = 2/3×Y2n+1/3×Y2n−1
Y’2n+1=Y2n+1
のように奇数ラインの信号はそのまま出力し、偶数ラインの信号は前のラインの信号と2:1の比率になるように補間演算を行う。
上記の様な処理を行うことにより、垂直方向の信号の重心位置は均等になり、重心ずれによる画像の歪みやモアレのない画像を得ることができる。本第1の実施形態の重心ずれ補正処理方法では、偶数または奇数のラインのどちらかには補正処理が行われないため、そのラインには補正による解像度劣化は生じない。
【0028】
<第2の実施形態>
第2の実施形態では、第1の実施形態と異なる重心ずれ補正処理方法について説明する。なお、撮像装置の基本的な構成は第1の実施形態で図1を参照して説明したものと同様であるためここでは説明を省略する。
【0029】
図4は、本第2の実施形態における重心ずれ補正処理部10における補正動作を説明する説明図である。
【0030】
図4は、撮像素子2にて図2に示す混合が行われた場合にカメラ信号処理部10より出力された色差・輝度信号を表す。この例では、Y2nとY2n+1の間隔とY2n+1とY2n+2の間隔の比は1:3なので、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。
Y’2n = 1/6×Y2n−1+5/6×Y2n
Y’2n+1 = 5/6×Y2n+1+1/6×Y2n+2
【0031】
すなわち偶数ラインの信号は前のラインの信号と5:1の比率になる用に補間演算を行い、奇数ラインの信号は次のラインの信号と5:1の比率になるように補間演算を行う。
【0032】
上記の様な処理を行うことにより、垂直方向の信号の重心位置は均等になり、重心ずれによる歪みの無い画像を得ることができる。本第2の実施形態の重心ずれ補正処理方法では、すべてのラインが同じ係数で補間され、同じように解像度が劣化するので、ライン毎に解像度が異なるということはない。
【0033】
<第3の実施形態>
第3の実施形態では、連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置について説明する。なお、撮像装置の基本的な構成は第1の実施形態で図1を参照して説明したものと同様であるためここでは説明を省略する。
【0034】
撮像素子2からは、従来例で図2を参照して説明した方法で画素信号が読み出される。図2(b)に示す混合後の信号に対して、A/D変換器4でデジタル信号にし、カメラ信号処理部6によって、色差・輝度信号に変換すると変換後の信号の重心位置は、図2(c)のようになり、2ラインずつの接近した不均等な色差・輝度信号になる。
【0035】
上記のように出力される、連続した2フィールド(ODDフィールドとEVENフィールド)の信号の位置を上記第1または第2の実施形態で説明したようにして重心位置を補正すると、両フィールドにおいて信号の重心位置は同じになり、インターレース関係にならない。
【0036】
そこで、本第3の実施形態では、図2(c)に示す信号の重心位置を、連続した2フィールド間でインターレース関係となるように補正する。
【0037】
図5を参照して、重心ずれ補正処理部10における受信ずれ補正および、偶数フィールド及び奇数フィールドのインターレース化の動作について説明する。
【0038】
図5は、図2を用いて説明した混合が行われた場合に、カメラ信号処理部6より出力された色差・輝度信号の重心位置を表す。Y2n及びY(2n±偶数)のラインは輝度・色差信号の偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち上のラインとする。また、Y(2n±奇数)のラインは輝度・色差信号の奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち下のラインとする。E2n及びE(2n±偶数)のラインは重心ずれ補正後の輝度・色差信号の偶数フィールドの偶数ラインを、E(2n±奇数)のラインは重心ずれ補正後の輝度・色差信号の偶数フィールドの奇数ラインを表す。また、O2n及びO(2n±偶数)のラインは重心ずれ補正後の輝度・色差信号の奇数フィールドの偶数ライン、O(2n±奇数)のラインは重心ずれ補正後の輝度・色差信号の奇数フィールドの奇数ラインのを表す。なお、nは自然数をあらわす。
【0039】
図2及び図5に示す例では、Y2nとY2n+1の間隔とY2n+1とY2n+2の間隔の比は1:3になるので、偶数、奇数フィールドそれぞれにおいて、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。偶数フィールドでは、
E2n = 1/3×Y2n−1+2/3×Y2n
E2n+1 = Y2n+1
【0040】
により補正処理を行い、奇数フィールドでは、
O2n = Y2n
O2n+1= 2/3×Y2n+1+1/3×Y2n+2
により補正処理を行う。
すなわち偶数フィールドの奇数ラインおよび奇数フィールドの偶数ラインでは信号をそのまま出力し、偶数フィールドの偶数ラインの信号は前のラインの信号と2:1の比率になるように補間演算を行い、奇数フィールドの奇数ラインの信号は次のラインの信号と2:1の比率になるように補間演算を行う。
【0041】
上記の様な処理を行うことにより、垂直方向の信号の重心位置は均等になり、重心ずれによる歪みのない画像を得ることができと共に、インターレースの動画像を得ることができる。
【0042】
<第4の実施形態>
第4の実施形態は、第3の実施形態と同様に連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置に関するものである。なお、撮像装置の基本的な構成は第1の実施形態で図1を参照して説明したものと同様であるためここでは説明を省略する。
【0043】
図6に、本第4の実施形態にかかる撮像素子2における画素混合の様子を示す。本第4の実施形態においても、図6(a)に示すように、ベイヤー配列の原色フィルタの撮像素子を例に説明する。画素混合が垂直方向に行われる場合、撮像素子駆動部8は、図6(b)に示すように偶数フィールドと奇数フィールドとで各色の混合されるラインが互い違いになるようなタイミングで混合されるように撮像素子2を駆動する。
【0044】
具体的には例えば奇数フィールドでは、図6(a)に示すR00、G01のラインとR20、G21のラインの画素信号を混合して、図6(b)に示すR10、G11のラインの画素信号が生成される。また、G10、B11のラインの画素信号とG30、B31のラインの画素信号からG20、B21のラインの画素信号が生成される。同様にして、R40、G41のラインとR60、G61のラインの画素信号からR50、G51のラインの画素信号が、G50、B51のラインとG70、B71のラインの画素信号からG60、B61のラインの画素信号が生成される。
【0045】
一方、偶数フィールドでは、図6(a)に示すR20、G21のラインとR40、G41のラインの画素信号を混合して、図6(c)に示すR30、G31のラインの画素信号が生成される。同様にして、G30、B31のラインとG50、B51のラインの画素信号からG40、B41のラインの画素信号が生成される。
【0046】
しかし、従来例及び第1乃至第3の実施形態で説明したように、混合後の信号の重心位置は垂直方向に均等ではなく、2ラインずつ接近した位置になっており、更に、図6(b)及び図6(c)から分かるように、奇数・偶数フィールド間で2ラインずつ互い違いになった関係になる。
【0047】
この混合後の信号に対して、A/D変換器4でデジタル信号にし、カメラ信号処理部6によって色差・輝度信号に変換すると、変換後の信号の重心位置は、図6(d)のようになり、各フィールドにおいては2ラインずつの接近した不均等な色差・輝度信号になり、奇数・偶数フィールド間ではやはり2ラインずつの互い違いになった色差・輝度信号になる。このように、重心ずれが生じるとともにインターレース関係にならない。なお、図6(d)のEは偶数フィールドを、Oは奇数フィールドを示し、その後ろの数字は、各フィールドにおけるラインを示している。
【0048】
そこで、本題4の実施形態における重心ずれ補正処理部10では、重心位置が均等になると共に、偶数・奇数フィールド間で、信号が互いにインターレースとなるように、色差・輝度信号を補正する。
【0049】
図7は本第4の実施形態において重心ずれ補正処理部10における重心ずれ補正および、偶数・奇数フィールド間で信号のインターレース化の動作を説明するための図である。
【0050】
図7は、図6を用いて説明した混合が行われた場合に、カメラ信号処理部6より出力された色差・輝度信号の重心位置を表す。E2n及びE(2n±偶数)のラインは偶数フィールドの輝度・色差信号の偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち下のラインとする。E(2n±奇数)のラインは偶数フィールドの輝度・色差信号の奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち上のラインとする。E’2n及びE’(2n±偶数)のラインは偶数フィールドの重心ずれ補正後の輝度・色差信号の偶数ラインを、E’(2n±奇数)のラインは偶数フィールドの重心ずれ補正後の輝度・色差信号の奇数ラインを表す。
【0051】
また、O2n及びO(2n±偶数)のラインは奇数フィールドの輝度・色差信号の偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち上のラインとする。O(2n±奇数)のラインは奇数フィールドの輝度・色差信号の奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち下のラインとする。O’2n及びO’(2n±偶数)のラインは奇数フィールドの重心ずれ補正後の輝度・色差信号の偶数ライン、O’(2n±奇数)は奇数フィールドの重心ずれ補正後の輝度・色差信号の奇数ラインを表す。なお、nは自然数を表す。
【0052】
この例では、E2n−1とE2nの間隔と、E2nとE2n+1の間隔の比、及び、O2nとO2n+1の間隔とO2n+1とO2n+2の間隔の比は1:3になるので、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。偶数フィールドでは、
E’2n = E2n
E’2n+1 = 2/3×E2n+1+1/3×E2n
【0053】
により補正処理を行い、奇数フィールドでは、
O’2n = O2n
O’2n+1 = 2/3×O2n+1+1/3×O2n+2
により補正処理を行う。
すなわち偶数フィールドの偶数ラインおよび奇数フィールドの偶数ラインでは信号をそのまま出力し、偶数フィールドの奇数ラインの信号は前のラインの信号と2:1の比率になるように補間演算を行い、奇数フィールドの奇数ラインの信号は次のラインの信号と2:1の比率になるように補間演算を行う。
【0054】
上記のような補間処理を行うことにより、図6に示すようなフィールド毎に異なる画素加算を行っても、垂直方向の信号の重心位置は均等になり、重心ずれによる歪みのない画像を得ることができると共に、連続する2フィールド間でインターレース関係が成立する動画像信号を得ることができる。
【0055】
また、この方法では、偶数または奇数のラインのどちらかには補正処理が行われないため、そのラインには補正による解像度劣化は生じない。
【0056】
<第5の実施形態>
次に、本発明の第5の実施形態について説明する。
【0057】
図8は、本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。図8に示す構成とは、重心ずれ補正処理部10と、カメラ信号処理部6の構成順が逆になっているところが異なる。従って、図8に示す構成では、A/D変換器4から出力されたデジタル信号に対して、重心ずれ補正処理部10が先に重心ずれの補正を行い、補正されたデジタル信号に対して、カメラ信号処理部6が、色分離処理、アパーチャー処理、ガンマ処理等を施し、輝度信号、色差信号を生成する。
【0058】
撮像素子2からは、従来例で図2を参照して説明した方法で画素信号が読み出される。このようにして読み出された混合後の信号は、混合前と同じ原色のベイヤー配列になる。しかし、従来例でも説明したように、混合後の信号の重心位置は混合前の2画素の中央になるので、重心位置に注目すると、各画素は垂直方向に均等ではなく、図2(b)に示すように、2ラインずつ接近した配置となる。
【0059】
従って、本第5の実施形態における重心ずれ補正処理部10では、重心位置が均等になるように画素信号の重心位置を補正する。
【0060】
図9は、本第5の実施形態における重心ずれ補正処理部10により行われる重心ずれ補正処理を説明する図である。なお、P2n及びP2n−2は偶数ラインを示し、偶数ラインでは重心ずれによって接近した2ラインのうち上のラインとする。また、P2n−1及びP2n+1は奇数ラインを示し、奇数ラインでは重心ずれによって接近した2ラインのうち下のラインとする。
【0061】
P’2n及びP’2n−2は偶数ラインの重心ずれ補正後のライン、P’2n−1及びP’2n+1は奇数ラインの重心ずれ補正後のラインを表す。なお、nは自然数を表す。
【0062】
図9(a)は、図2を用いて説明した画素混合が行われた場合に、A/D変換器4から出力された同色画素混合信号を表す。図9(a)に示すように、P2n−2とP2n−1の間隔と、P2n−1とP2nの間隔の比は1:3になるため、本実施の形態における重心ずれ補正処理部10は重心ずれ補正後の信号を図9(b)に示すように等間隔にするため、以下の式によって補正処理を行う。
P’2n = 1/8×P2n−2 + 7/8×P2n
P’2n−1 = 7/8×P2n−1 + 1/8×P2n+1
【0063】
すなわち、偶数ラインの信号は、そのラインの画素信号(例えば、P2nラインの画素信号)と、2ライン前の画素信号(例えばP2n−2ラインの画素信号)とを7:1の比率で加重加算して補完を行い、奇数ラインの信号は、そのラインの画素信号(例えば、P2n−1ラインの画素信号)と、2ライン後のラインの画素信号(例えばP2n+1ラインの画素信号)とを7:1の比率で加重換算して補間を行う。
【0064】
ここで、図2(a)に示す同色混合後の色信号順では、同色の信号が1画素おきに配置されているため、上式で表される補間点の信号も、1ラインおきの同色の画素対を用いて算出される。
【0065】
重心ずれ補正処理部10により上記の様な処理を行った後、図3(b)に示すように垂直方向の重心位置が均等になった画素混合信号を図8のカメラ信号処理部6に入力し、輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができる。また、この方法では、すべてのラインが同じ係数で補間され、同じように解像度が劣化するので、ライン毎に解像度が異なるということはない。
【0066】
<第6の実施形態>
第6の実施形態では、第5の実施形態と異なる重心ずれ補正処理方法について説明する。なお、撮像装置の基本的な構成は第5の実施形態で図8を参照して説明したものと同様であるためここでは説明を省略する。
【0067】
図10及び図11は、本第6の実施形態における重心ずれ補正処理部10が行う重心ずれ補正動作を説明するための図である。
【0068】
図10(a)及び図11(a)は、それぞれ、撮像素子2から従来例で図2を参照して説明した方法で混合が行われた場合に、A/D変換器4より出力された同色画素混合信号を示す。
【0069】
なお、図10(a)及び図11(a)において、P2n−2〜P2n+1及びP’2n−2〜P’2n+1は、第5の実施形態と同様である。
【0070】
本第6の実施形態においては、重心ずれ補正後の信号を図10(b)に示すように等間隔にするため、以下の式を用いて補正処理を行う。
P’2n=P2n
P’2n−1=3/4×P2n−1+1/4×P2n+1
【0071】
すなわち、偶数ラインの信号はそのまま出力し、奇数ラインの信号は2ライン後の信号と3:1の比率になるように補間演算を行う。
また、重心ずれ補正後の信号を図11(b)に示すように等間隔にするためには、以下の式を用いて補正処理を行う。
P’2n=1/4×P2n−2+3/4×P2n
P’2n+1=P2n+1
【0072】
すなわち、偶数ラインの信号は2ライン前の信号と3:1の比率になるように補間演算を行い、奇数ラインの信号はそのまま出力する。
ここで、図10(a)及び図11(a)に示す同色混合後の色信号順の配列では、同色の信号が1画素おきに配置されているため、上式で表される補間点の信号も、1ラインおきの同色の画素対を用いて算出される。
【0073】
上記の様な処理を行った後、垂直方向の重心位置が均等になった画素混合信号から、図8のカメラ信号処理部6によって輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができる。
【0074】
なお、この方法では、偶数または奇数のラインのどちらかには補正処理が行われないため、そのラインには補正による解像度劣化は生じない。
【0075】
<第7の実施形態>
第7の実施形態では、第5及び第6の実施形態と異なる重心ずれ補正処理方法について説明する。なお、撮像装置の基本的な構成は第5の実施形態で図8を参照して説明したものと同様であるためここでは説明を省略する。
【0076】
図12は、本第7の実施形態における重心ずれ補正処理部10の内部構成を示す図である。図12において、102はG成分重心ずれ補正処理部、103はRB成分重心ずれ補正処理部、101は入力する信号を、対応するG成分重心ずれ補正処理部102またはRB成分重心ずれ補正処理部103に振り分けるスイッチ、104は、G成分重心ずれ補正処理部102及びRB成分重心ずれ補正処理部103から出力される信号を切り替えて合成処理部105に入力するスイッチ、105はG成分重心ずれ補正処理部102及びRB成分重心ずれ補正処理部103から重心ずれ補正された信号を合成する合成処理部である。
【0077】
本第7の実施形態では、RGB色フィルタが配置されている撮像素子において、RGB色フィルタのG成分とRB成分とで、G成分重心ずれ補正処理部102及びRB成分重心ずれ補正処理部103により異なる重心ずれ補正処理を行う。
【0078】
垂直方向の同色画素混合によって生じる画質の劣化は、色差信号よりも輝度信号に顕著に現れるため、本第7の実施形態では、輝度信号の構成要素であるG成分に対して、垂直方向の重心ずれ補正の前に水平方向にG成分の補間を行う。これにより、垂直方向の重心ずれの補正は、1ラインおきの同色の画素信号でなく、隣り合うラインの画素信号による補間が可能となり、相関距離が短くなるという利点がある。一方、輝度信号に寄与しないRB成分については、第6の実施の形態と同様の補正処理を行う。
【0079】
図13は、本第7の実施形態における重心ずれ補正処理部10が行う受信ずれ補正動作を説明するための図である。
【0080】
図13(b)〜図13(d)は、G成分重心ずれ補正処理部102において行われる、RGB色フィルタのG成分に対して行われる重心ずれ補正処理手順を示し、図13(e)及び図13(f)は、RB成分重心ずれ補正処理部103において行われるRGB色フィルタのRB成分に対して行われる重心ずれ補正処理手順を示す。なお、図13において、P2n−2〜P2n+1及びP’2n−2〜P’2n+1は、第5の実施形態と同様である。
【0081】
図13(b)は、撮像素子2から従来例で図2を参照して説明した方法で混合が行われた場合に、A/D変換器4より出力された同色画素混合信号のうち、G成分信号を抜き出したものである。
【0082】
RGB色フィルタのG成分は、偶数ラインP2n及びP2n−2上では、水平方向に図の右から見て奇数番目の画素位置に位置し、奇数ラインP2n+1及びP2n−1上では、水平方向に図の右から見て偶数番目の画素位置に配置されている。本来はRもしくはB成分が存在し、G成分が存在しない画素位置に対して、その点の両側のG成分の画素を用いて水平方向の補間を行うので、水平方向の画素の並びをQm−2、Qm−1、Qm、Qm+1とした場合に、偶数ラインP2n上では、G成分が存在しない偶数番目の画素Qmを、また、奇数ラインP2n−1上では、G成分が存在しない奇数番目の画素Qm−1を以下の式によって算出する。なお、ここでmは自然数とする。
Qm = 1/2×Qm−1+1/2×Qm+1
Qm−1= 1/2×Qm−2+1/2×Qm
【0083】
たとえば、図13(b)のG20及びG22より、図13(c)のG’21を、図13(b)のG51及びG53より、図13(c)のG’52を補間によって求める。
【0084】
水平方向への補間処理後、図13(c)に示すような信号が得られる。図13(c)に示すように、P2n−2とP2n−1の間隔とP2n−1とP2nの間隔の比は1:3になるので、重心ずれ補正後の信号を図13(d)に示すように等間隔にするため、以下の式を用いて補正処理を行う。
P’2n=1/6×P2n−1+5/6×P2n
P’2n−1=5/6×P2n−1+1/6×P2n
【0085】
すなわち、偶数ラインの信号は、そのラインの画素信号(例えば、P2nラインの画素信号)と、1ライン前の画素信号(例えばP2n−1ラインの画素信号)とを5:1の比率で加重加算して補完を行い、奇数ラインの信号は、そのラインの画素信号(例えば、P2n−1ラインの画素信号)と、1ライン後のラインの画素信号(例えばP2nラインの画素信号)とを5:1の比率で加重換算して補間を行う。
【0086】
なお、重心ずれ補正後の画素が、前述の水平方向の補間によって得られたG成分に対応する画素である場合には重心ずれ補正処理は行わない。つまり、偶数ラインにおいては、水平方向に見て図の右から奇数番目の画素、奇数ラインにおいては、水平方向に見て図の右から偶数番目の画素に対してのみ、上記の補正を行う。これにより、図13(d)に示すように重心ずれ補正後のG成分信号を得る。
【0087】
図13(e)は、撮像素子2から従来例で図2を参照して説明した方法で混合が行われた場合に、A/D変換器4より出力された同色画素混合信号のうち、RB成分信号を抜き出したものである。
【0088】
RG成分に関しては、重心ずれ補正処理部10は、第5の実施形態で説明した重心ずれ補正処理を行うが、ここでは説明を省略する。
【0089】
以上のように、G成分とRB成分に分けてそれぞれ補正処理を行った後、合成処理部105によって合成し、垂直方向の重心位置が均等になった画素混合信号を図8のカメラ信号処理部6に出力して、輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができる。 また、G成分とRB成分に分けてそれぞれ補正処理を行っているため、輝度信号の劣化による画質の劣化を抑えることができる。なお、RB成分に対してもG成分と同様の補正処理を行うようにしてもよい。
【0090】
<第8の実施形態>
第8の実施の形態では、連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置について説明する。なお、撮像装置の基本的な構成は第5の実施形態で図8を参照して説明したものと同様であるため、ここでは説明を省略する。
【0091】
撮像素子2からは、従来例で図2を参照して説明した方法で画素信号が読み出される。
【0092】
図14を参照して、本第8の実施形態における重心ずれ補正処理部10における受信ずれ補正および、偶数フィールド及び奇数フィールドのインターレース化の動作について説明する。なお、図14において、P2n−2〜P2n+1及びP’2n−2〜P’2n+1は、第5の実施形態と同様である。
【0093】
図14(a)は、図2を用いて説明した画素混合が行われた場合に、A/D変換器4から出力された同色画素混合信号を表す。図14(a)に示すように、この時点では、偶数フィールド及び奇数フィールドともに、画素の重心位置は垂直方向に均等ではなく、2ラインずつ接近した位置にあり、連続したフィールド間の信号にインターレース関係が成立していない。従って、重心位置が均等なインターレース信号に補正するために、第6の実施形態で図10及び図11を参照して説明した重心ずれ補正対策処理を偶数フィールドと奇数フィールドとで切り替えて行うことにより、重心ずれの解消とフィールド間のインターレース化を実現する。
【0094】
本第8の実施形態では、偶数フィールドでは図11に示す方法で重心ずれ補正処理を行い、奇数フィールドでは図10に示す方法で重心ずれ補正処理を行う。図14(b)は図14(a)に対して前者の処理を行った信号を、図14(c)は後者の処理を行った信号を示している。なお、図10及び図11に示す方法は、図5の実施形態で説明したとおりであるので、ここでは説明を省略する。
【0095】
なお、偶数フィールドで図10に示す方法を行い、奇数フィールドで図11に示す方法を行うことも可能である。
【0096】
上記の様な処理を行った後、図8のカメラ信号処理部6によって輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができ、かつ図14(b)及び図14(c)から分かるように、連続するフィールド間でインターレース関係の成り立つ動画像信号を得ることができる。
【0097】
なお、この方法では、偶数または奇数のラインのどちらかには補正処理が行われないため、そのラインには補正による解像度劣化は生じない。
【0098】
<第9の実施形態>
第9の実施形態は、第8の実施形態と同様に連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置に関するものである。なお、撮像装置の基本的な構成は第5の実施形態で図8を参照して説明したものと同様であるためここでは説明を省略する。
【0099】
第9の実施形態では、第8の実施形態とは異なり、第4の実施形態において図6を参照して説明した様にして偶数フィールドと奇数フィールドで異なる組み合わせで画素混合し、撮像素子2から読み出す。
【0100】
混合後の信号は、図6(b)及び(c)に示すように、重心位置は垂直方向に均等ではなく、2ラインずつ接近した位置になっており、更に、奇数・偶数フィールド間で2ラインずつ互い違いになった関係になり、インターレース関係にならない。
【0101】
次に、図15及び図16を参照して、本第9の実施形態における重心ずれ補正および、偶数・奇数フィールド間で信号のインターレース化の動作を説明する。図15は偶数フィールド、図16は奇数フィールドの処理の流れを示す。
【0102】
図15(b)は、偶数フィールドにおいて撮像素子2から出力される図6(c)に対応する混合後の信号を示す。図15(b)において、E2n及びE(2n±偶数)のラインは偶数フィールドの偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち下のラインとする。E(2n±奇数)のラインは偶数フィールドの奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち上のラインとする。更に、図15(c)において、E’2n及びE’(2n±偶数)のラインは偶数フィールドの重心ずれ補正後の偶数ラインを、E’(2n±奇数)のラインは偶数フィールドの重心ずれ補正後の奇数ラインを表す。
【0103】
また、図16(b)は、奇数フィールドにおいて撮像素子2から出力される図6(b)に対応する混合後の信号を示す。図16(b)において、O2n及びO(2n±偶数)のラインは奇数フィールドの偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち上のラインとする。O(2n±奇数)のラインは奇数フィールドの奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち下のラインとする。また、図16(c)において、O’2n及びO’(2n±偶数)のラインは奇数フィールドの重心ずれ補正後の偶数ライン、O’(2n±奇数)は奇数フィールドの重心ずれ補正後の奇数ラインを表す。なお、nは自然数を表す。
【0104】
この例では、E2n−1とE2nの間隔と、E2nとE2n+1の間隔の比、及び、O2n+1とO2nの間隔とO2nとO2n−1の間隔の比は1:3になるので、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。偶数フィールドでは、
E’2n = E2n
E’2n+1 = 1/4×E2n−1+3/4×E2n+1
【0105】
により補正処理を行い、奇数フィールドでは、
O’2n = O2n
O’2n−1 = 1/4×O2n+1+ 3/4×O2n−1
により補正処理を行う。
すなわち偶数フィールドの偶数ラインおよび奇数フィールドの偶数ラインでは信号をそのまま出力し、偶数フィールドの奇数ラインの信号は2ライン前の信号と3:1の比率になるように補間演算を行い、奇数フィールドの奇数ラインの信号は2ライン後の信号と3:1の比率になるように補間演算を行う。
【0106】
上記の様な処理を行った後、図15(c)及び図16(c)に示す、垂直方向の重心位置が均等になった画素混合信号から、図8のカメラ信号処理部6によって図15(d)及び図16(d)に示す輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができりと共に、連続する2フィールド間でインターレース関係が成立する動画像信号を得ることができる。
【0107】
また、この方法では、偶数または奇数のラインのどちらかには補正処理が行われないため、そのラインには補正による解像度劣化は生じない。
【0108】
次に、本発明の第10の実施形態について説明する。
【0109】
第10の実施の形態は、第8及び第9の実施の形態と同様に、連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置に関するものである。
【0110】
図17は、本発明の第10の実施形態における撮像装置の概略構成を示すブロック図であり、連続した2フィールド間でインターレース関係が成立するように、図8に示すカメラ信号処理部6の後段に、画素ずらし処理部12を追加したものである。その他の構成は、図8と同様であるため、説明を省略する。
【0111】
第5乃至第7の実施形態のいずれかで説明したようにして、重心ずれ補正処理部10は図18(a)に示す様な垂直方向の重心ずれ補正した信号を出力する。カメラ信号処理部6は、この出力された信号を処理し、輝度・色差信号を生成する。図18(b)は、処理後の連続する偶数及び奇数フィールドの輝度・色差信号を示す。ENを偶数フィールド、ONを奇数フィールドの輝度・色差信号とすると、図18(b)に示すように、両フィールドとも輝度・色差信号の重心位置が垂直方向について同じ位置になり、インターレース関係にならない。
【0112】
そこで、本第10の実施形態では、偶数及び奇数フィールドそれぞれにおいて、重心ずれ補正処理部10によって補正された等間隔な画素重心の位置関係を保ちながらも、連続するフィールド間でインターレースの関係になるようにカメラ信号処理部6による処理後の輝度・色差信号に対して下記の式のように画素ずらし処理を行う。
【0113】
図18(c)において、E’Nは偶数フィールドの画素ずらし処理後の輝度色差信号、O’Nは奇数フィールドの画素ずらし処理後の輝度色差信号を表すものとする。なお、Nは自然数を表す。
E’N = 1/4×EN−1+3/4×EN
O’N= 3/4×ON+1/4×ON+1
【0114】
すなわち偶数フィールドでは各ラインにおいて、1ライン前の信号と3:1の比率になるように混合し、奇数フィールドでは、各ラインにおいて、1ライン後の信号と3:1の比率になるように混合して出力する。
【0115】
上記の様な画素ずらし処理を行うことにより、垂直方向の信号の重心位置は均等で、かつ連続する2フィールド間でインターレース関係が成立する動画像信号を得ることができる。
【0116】
<第11の実施形態>
第11の実施の形態では、第8〜第10の実施形態と同様に、連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置に関するものである。なお、撮像装置の基本的な構成は第10の実施形態で図17を参照して説明したものと同様であるためここでは説明を省略する。
【0117】
第11の実施の形態は第9の実施の形態と同様に、第4の実施形態において図6を参照して説明した様にして偶数フィールドと奇数フィールドで異なる組み合わせで画素混合し、撮像素子2から読み出す。
【0118】
混合後の信号は、図6(b)及び(c)に示すように、重心位置は垂直方向に均等ではなく、2ラインずつ接近した位置になっており、更に、奇数・偶数フィールド間で2ラインずつ互い違いになった関係になり、インターレース関係にならない。
【0119】
次に、図19及び図20を参照して、本第11の実施形態における重心ずれ補正および、偶数・奇数フィールド間で信号のインターレース化の動作を説明する。なお、本第11の実施形態は、重心ずれ補正処理部10は信号を偶数フィールド並びに奇数フィールドで垂直方向について同じ位置に補正し、カメラ信号処理部6による信号処理後の輝度・色差信号に対して、画素ずらし処理部12によって偶数・奇数フィールド間でインターレース化するところが第9の実施形態と異なる。図19は偶数フィールド、図20は奇数フィールドの処理の流れを示す。
【0120】
図19(b)は、偶数フィールドにおいて撮像素子2から出力される図6(c)に対応する混合後の信号を示す。図19(b)において、E2n及びE(2n±偶数)のラインは偶数フィールドの偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち下のラインとする。E(2n±奇数)のラインは偶数フィールドの奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち上のラインとする。更に、図19(c)において、E’2n及びE’(2n±偶数)のラインは偶数フィールドの重心ずれ補正後の偶数ラインを、E’(2n±奇数)のラインは偶数フィールドの重心ずれ補正後の奇数ラインを表す。
【0121】
また、図20(b)は、奇数フィールドにおいて撮像素子2から出力される図6(b)に対応する混合後の信号を示す。図20(b)において、O2n及びO(2n±偶数)のラインは奇数フィールドの偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち上のラインとする。O(2n±奇数)のラインは奇数フィールドの輝度・色差信号の奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち下のラインとする。なお、nは自然数を表す。
【0122】
この例では、E2n−1とE2nの間隔と、E2nとE2n+1の間隔の比、及び、O2n+1とO2nの間隔とO2nとO2n−1の間隔の比は1:3になるので、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。偶数フィールドでは、
E’2n−2 = 7/8×E2n−2+1/8×E2n
E’2n+1 = 1/8×E2n−1+7/8×E2n+1
【0123】
すなわち偶数ラインの信号は2ライン後の信号と7:1の比率になるように補間演算を行い、奇数ラインの信号は2ライン前の信号と7:1の比率になるように補間演算を行う。奇数フィールドでは、
O’2n = 1/8×O2n−2+7/8×O2n
O’2n−1 = 7/8×O2n−1+1/8×O2n+1
すなわち偶数ラインの信号は2ライン前の信号と7:1の比率になるように補間演算を行い、奇数ラインの信号は2ライン後の信号と7:1の比率になるように補間演算を行う。
上記の様な処理を行った後、図19(c)及び図20(c)に示す、垂直方向の重心位置が均等になった画素混合信号から、図17のカメラ信号処理部6によって輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができる。この方法では、すべてのラインが同じ係数で補間され、同じように解像度が劣化し、ラインごとに解像度が異なるということはない。
【0124】
図19(d)及び図20(d)は、重心ずれ補正処理部10の出力信号からカメラ信号処理部6によって生成された、偶数フィールド及び奇数フィールドにおける輝度・色差信号を表すものであるが、両フィールドとも輝度・色差信号が同じ位置になり、インターレース関係が成立しない。
【0125】
偶数及び奇数フィールドそれぞれにおいて、重心ずれ補正処理10によって補正された等間隔な画素重心の位置関係を保ちながらも、連続するフィールド間でインターレースの関係になるように、カメラ信号処理後の輝度・色差信号に対して下記の式のように更に画素ずらし処理を行う。
【0126】
図19(d)において、E2N及びE(2N±偶数)のラインは偶数フィールドの輝度・色差信号の偶数ライン、E(2N±奇数)のラインは偶数フィールドの輝度・色差信号の奇数ラインである。更に、図19(e)において、E’2N及びE’(2N±偶数)のラインは偶数フィールドの画素ずらし補正後の輝度・色差信号の偶数ラインを、E’(2N±奇数)のラインは偶数フィールドの画素ずらし補正後の輝度・色差信号の奇数ラインを表す。
【0127】
図20(d)において、O’2n及びO’(2n±偶数)のラインは奇数フィールドの重心ずれ補正後の輝度・色差信号の偶数ライン、O’(2n±奇数)は奇数フィールドの重心ずれ補正後の輝度・色差信号の奇数ラインを表す。更に、図20(e)において、O’2N及びE’(2N±偶数)のラインは偶数フィールドの画素ずらし補正後の輝度・色差信号の偶数ラインを、O’(2N±奇数)のラインは偶数フィールドの画素ずらし補正後の輝度・色差信号の奇数ラインを表す。なお、Nは自然数とする。
E’N = 1/4×EN−1+3/4×EN
O’N= 3/4×ON+1/4×ON+1
【0128】
すなわち偶数フィールドでは、各ラインにおいて1ライン前の信号と3:1の比率になるように混合し、奇数フィールドでは、各ラインにおいて1ライン後の信号と3:1の比率になるように混合して出力する。
【0129】
上記の様な画素ずらし処理を行うことにより、垂直方向の信号の重心位置は均等で、かつ連続する2フィールド間でインターレース関係が成立する動画像信号を得ることができる。
【0130】
【他の実施形態】
なお、以上の実施の形態のソフト構成とハード構成は、適宜置き換えることができるものである。
【0131】
また、本発明は、以上の各実施の形態、または、それら技術要素を必要に応じて組み合わせるようにしてもよい。
【0132】
また、本発明は、複数の機器(例えばホストコンピュータ、インターフェイス機器、カメラヘッドなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、デジタルスチルカメラ、デジタルビデオカメラなど)に適用してもよい。
【0133】
更に、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。ここでプログラムコードを記憶する記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、ROM、RAM、磁気テープ、不揮発性のメモリカード、CD−ROM、CD−R、DVD、光ディスク、光磁気ディスク、MOなどが考えられる。
【0134】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0135】
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明した図3〜図7、図9〜図11、図13、図14、図15及び図16、図18、図19及び図20のいずれかを参照して説明した処理に対応するプログラムコードが格納されることになる。
【0136】
【発明の効果】
上記の通り本発明によれば、1行おきに同じ色の受光素子から得られる信号を加算して読み出す場合に、画像の歪やモアレ等の問題を解消することができる。
【0137】
更に、動画像のインターレースを損なうことなく撮影することができる。
【図面の簡単な説明】
【図1】本発明の第1乃至第4の実施形態における撮像装置の概略構成を示すブロック図である。
【図2】従来の撮像素子における画素混合の様子を示す概念図である。
【図3】本発明の第1の実施形態における重心ずれ補正動作を説明するための図である。
【図4】本発明の第2の実施形態における重心ずれ補正動作を説明するための図である。
【図5】本発明の第3の実施形態における重心ずれ補正動作を説明するための図である。
【図6】第4の実施の形態における撮像素子における画素混合の様子を示す概念図である。
【図7】本発明の第4の実施形態における重心ずれ補正動作を説明するための図である。
【図8】本発明の第5乃至第9の実施形態における撮像装置の概略構成を示すブロック図である。
【図9】本発明の第5の実施形態における重心ずれ補正動作を説明するための図である。
【図10】本発明の第6の実施形態における重心ずれ補正動作を説明するための図である。
【図11】本発明の第6の実施形態における重心ずれ補正動作を説明するための図である。
【図12】本発明の第7の実施形他における重心ずれ補正処理部の内部構成例を示すブロック図である。
【図13】本発明の第7の実施形態における重心ずれ補正動作を説明するための図である。
【図14】本発明の第8の実施形態における重心ずれ補正動作を説明するための図である。
【図15】本発明の第9の実施形態における重心ずれ補正動作を説明するための図である。
【図16】本発明の第9の実施形態における重心ずれ補正動作を説明するための図である。
【図17】本発明の第10及び第11の実施形態における撮像装置の概略構成を示すブロック図である。
【図18】本発明の第10の実施形態における画素ずらし補正動作を説明するための図である。
【図19】本発明の第11の実施形態における重心ずれ及び画素ずらし補正動作を説明するための図である。
【図20】本発明の第11の実施形態における重心ずれ及び画素ずらし補正動作を説明するための図である。
【符号の説明】
2 撮像素子
4 A/D変換器
6 カメラ信号処理部
8 撮像素子駆動部
10 重心ずれ補正処理部
12 画素ずらし補正処理部
【発明の属する技術分野】
本発明は、信号処理装置及び方法、及び撮像装置に関し、特に、固体撮像素子の撮像領域の画素を画素混合して読み出された信号に対して処理を施す信号処理装置及び方法、及び撮像装置に関する。
【0002】
【従来の技術】
従来、撮像装置の各受光素子から得られる信号電荷を混合して読み出す撮像装置では、例えば、撮像素子の駆動手段が同色の色要素に対応する電荷どうしが垂直列に対応する垂直転送レジスタ上で混合されるように撮像素子を駆動する方法が考えられている(例えば、特許文献1参照。)。
【0003】
図2に原色ベイヤー配列をもつ撮像素子を垂直方向に同色混合される場合の概念図を示す。原色ベイヤー配列の撮像素子では、図2(a)で示されるようにRGBの色フィルタが配置されている。すなわち、水平方向に見た場合にR、Gの繰り返しのラインと、G、Bの繰り返しのラインとが交互に配置されている。画素混合が垂直方向に行われる場合、同色の色フィルタは1画素おきに配置されているので、撮像素子駆動部は混合される画素も1画素おきのタイミングで混合されるように撮像素子を駆動する。
【0004】
具体的には例えば図2(a)に示すR00、G01のラインと R20、G21のラインの画素信号を混合して、図2(b)に示すR10、G11のラインの画素信号が生成される。また、G10、B11のラインの画素信号とG30、B31のラインの画素信号からG20、B21のラインの画素信号が生成される。同様にして、R40、G41のラインとR60、G61のラインの画素信号からR50、G51のラインの画素信号が、G50、B51のラインとG70、B71のラインの画素信号からG60、B61のラインの画素信号が生成される。混合後の信号は、混合前と同じ原色のベイヤー配列になる。
【0005】
【特許文献1】
特開2000−253415号公報
【0006】
【発明が解決しようとする課題】
しかしながら、上記従来の方法で混合処理を行うと、混合後の信号の重心位置が混合前の2画素の中央になるので、重心位置に注目すると垂直方向に均等ではなく2ラインずつ接近した位置となってしまう。この混合後の信号に対して、A/D変換器4でデジタル信号にし、カメラ信号処理部6によって、色差・輝度信号に変換すると変換後の信号の重心位置は、図2(b)のようになり、2ラインずつの接近した不均等な色差・輝度信号になる。このように信号配置が偏ると、画像がひずんだりモアレが生じたりするなどの課題があった。また、連続したフィールドの画像からなるインターレースの動画像に対して垂直方向に混合処理を行うと、フィールド間のインターレース関係が損なわれるという問題点もあった。
【0007】
本発明は上記問題点を鑑みてなされたものであり、1行おきに同じ色の受光素子から得られる信号を加算して読み出す場合に、画像の歪やモアレ等の問題を解消することを本発明の第1の目的とする。
【0008】
また、動画像においては、更にインターレース関係を損なわず撮影することを第2の目的とする。
【0009】
【課題を解決するための手段】
上記第1の目的を達成するために、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の信号処理装置は、前記撮像素子から入力した信号に対して、所定の画像処理を行う処理手段と、前記処理手段から出力される信号の重心位置を等間隔に補正して出力する補正手段とを有することを特徴とする。
【0010】
また、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の信号処理方法は、前記撮像素子から入力した信号に対して、所定の画像処理を行う処理工程と、前記処理工程で出力される信号の重心位置を等間隔に補正して出力する補正工程とを有することを特徴とする。
【0011】
また、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の別の信号処理装置は、前記撮像素子から入力した信号の重心位置を等間隔に補正して出力する補正手段と、前記補正手段から出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理手段とを有することを特徴とする。
【0012】
また、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する発明の別の信号処理方法は、前記撮像素子から入力した信号の重心位置を等間隔に補正して出力する補正工程と、前記補正工程で出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理工程とを有することを特徴とする。
【0013】
また、上記第2の目的を達成するために、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の信号処理装置は、前記撮像素子から入力した信号に対して、所定の画像処理を行う処理手段と、前記処理手段から出力される信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正手段とを有することを特徴とする。
【0014】
また、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の信号処理方法は、前記撮像素子から入力した信号に対して、所定の画像処理を行う処理工程と、前記処理工程で出力される信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正工程とを有することを特徴とする。
【0015】
また、上記第2の目的を達成するために原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する本発明の他の信号処理装置は、前記撮像素子から入力した信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正手段と、前記補正手段から出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理手段とを有することを特徴とする。
【0016】
また、原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理方法は、前記撮像素子から入力した信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正工程と、前記補正手段から出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理工程とを有することを特徴とする。
【0017】
【発明の実施の形態】
以下、添付図面を参照して本発明の好適な実施の形態を詳細に説明する。
【0018】
<第1の実施形態>
図1は本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。なお、図1では、本第1の実施形態の説明に必要な構成のみを示している。
【0019】
図1において、2は不図示の光学系を介して入射した光束を、その光量に応じて電気信号に変換するCCDやMOS等の撮像素子、4は撮像素子2から出力されるアナログ信号をデジタル信号に変換するA/D変換器、6はA/D変換器4から出力されたデジタル信号に対して、色分離処理、アパーチャー処理、ガンマ処理等を施した後、輝度信号、色差信号を生成するカメラ信号処理部、8は撮像素子2を制御するタイミング信号を生成する撮像素子駆動部、10はカメラ信号処理部6から出力された色差・輝度信号に対して、後述する重心ずれの補正を行う重心ずれ補正処理部である。
【0020】
撮像素子2からは、従来例で図2を参照して説明した方法で画素信号が読み出される。このようにして読み出された混合後の信号は、混合前と同じ原色のベイヤー配列になる。しかし、従来例でも説明したように、混合後の信号の重心位置は混合前の2画素の中央になるので、重心位置に注目すると、各画素は垂直方向に均等ではなく、図2(b)に示すように、2ラインずつ接近した配置となる。
【0021】
この混合後の信号に対して、A/D変換器4でデジタル信号にし、カメラ信号処理部6によって色差・輝度信号に変換すると、変換後の信号の重心位置は、図2(c)のようになり、2ラインずつの接近した不均等な色差・輝度信号になる。
【0022】
そこで、本第1の実施形態における重心ずれ補正処理部10では、重心位置が均等になるように色差・輝度信号を補正する。
【0023】
図3は、本第1の実施形態において重心ずれ補正処理部10における補正動作を説明するための図である。
【0024】
図3は、図2を用いて説明した混合が行われた場合に、カメラ信号処理部6より出力された色差・輝度信号の重心位置を表す。Y2n及びY(2n±偶数)のラインは輝度・色差信号の偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち上のラインとする。また、Y(2n±奇数)のラインは輝度・色差信号の奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち下のラインとする。Y’2n及びY’(2n±偶数)のラインは重心ずれ補正後の輝度・色差信号の偶数ラインを、Y’(2n±奇数)のラインは重心ずれ補正後の輝度色差信号の奇数ラインを表す。なお、nは自然数を表す。
【0025】
図3では、Y2nとY2n+1の間隔と、Y2n+1とY2n+2の間隔の比は1:3になるので、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。
Y’2n = Y2n
Y’2n+1 = 2/3×Y2n+1+1/3×Y2n+2
【0026】
すなわち偶数ラインの信号はそのまま出力し、奇数ラインの信号は次のラインの信号と2:1の比率になるように補間演算を行う。
【0027】
または、
Y’2n = 2/3×Y2n+1/3×Y2n−1
Y’2n+1=Y2n+1
のように奇数ラインの信号はそのまま出力し、偶数ラインの信号は前のラインの信号と2:1の比率になるように補間演算を行う。
上記の様な処理を行うことにより、垂直方向の信号の重心位置は均等になり、重心ずれによる画像の歪みやモアレのない画像を得ることができる。本第1の実施形態の重心ずれ補正処理方法では、偶数または奇数のラインのどちらかには補正処理が行われないため、そのラインには補正による解像度劣化は生じない。
【0028】
<第2の実施形態>
第2の実施形態では、第1の実施形態と異なる重心ずれ補正処理方法について説明する。なお、撮像装置の基本的な構成は第1の実施形態で図1を参照して説明したものと同様であるためここでは説明を省略する。
【0029】
図4は、本第2の実施形態における重心ずれ補正処理部10における補正動作を説明する説明図である。
【0030】
図4は、撮像素子2にて図2に示す混合が行われた場合にカメラ信号処理部10より出力された色差・輝度信号を表す。この例では、Y2nとY2n+1の間隔とY2n+1とY2n+2の間隔の比は1:3なので、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。
Y’2n = 1/6×Y2n−1+5/6×Y2n
Y’2n+1 = 5/6×Y2n+1+1/6×Y2n+2
【0031】
すなわち偶数ラインの信号は前のラインの信号と5:1の比率になる用に補間演算を行い、奇数ラインの信号は次のラインの信号と5:1の比率になるように補間演算を行う。
【0032】
上記の様な処理を行うことにより、垂直方向の信号の重心位置は均等になり、重心ずれによる歪みの無い画像を得ることができる。本第2の実施形態の重心ずれ補正処理方法では、すべてのラインが同じ係数で補間され、同じように解像度が劣化するので、ライン毎に解像度が異なるということはない。
【0033】
<第3の実施形態>
第3の実施形態では、連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置について説明する。なお、撮像装置の基本的な構成は第1の実施形態で図1を参照して説明したものと同様であるためここでは説明を省略する。
【0034】
撮像素子2からは、従来例で図2を参照して説明した方法で画素信号が読み出される。図2(b)に示す混合後の信号に対して、A/D変換器4でデジタル信号にし、カメラ信号処理部6によって、色差・輝度信号に変換すると変換後の信号の重心位置は、図2(c)のようになり、2ラインずつの接近した不均等な色差・輝度信号になる。
【0035】
上記のように出力される、連続した2フィールド(ODDフィールドとEVENフィールド)の信号の位置を上記第1または第2の実施形態で説明したようにして重心位置を補正すると、両フィールドにおいて信号の重心位置は同じになり、インターレース関係にならない。
【0036】
そこで、本第3の実施形態では、図2(c)に示す信号の重心位置を、連続した2フィールド間でインターレース関係となるように補正する。
【0037】
図5を参照して、重心ずれ補正処理部10における受信ずれ補正および、偶数フィールド及び奇数フィールドのインターレース化の動作について説明する。
【0038】
図5は、図2を用いて説明した混合が行われた場合に、カメラ信号処理部6より出力された色差・輝度信号の重心位置を表す。Y2n及びY(2n±偶数)のラインは輝度・色差信号の偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち上のラインとする。また、Y(2n±奇数)のラインは輝度・色差信号の奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち下のラインとする。E2n及びE(2n±偶数)のラインは重心ずれ補正後の輝度・色差信号の偶数フィールドの偶数ラインを、E(2n±奇数)のラインは重心ずれ補正後の輝度・色差信号の偶数フィールドの奇数ラインを表す。また、O2n及びO(2n±偶数)のラインは重心ずれ補正後の輝度・色差信号の奇数フィールドの偶数ライン、O(2n±奇数)のラインは重心ずれ補正後の輝度・色差信号の奇数フィールドの奇数ラインのを表す。なお、nは自然数をあらわす。
【0039】
図2及び図5に示す例では、Y2nとY2n+1の間隔とY2n+1とY2n+2の間隔の比は1:3になるので、偶数、奇数フィールドそれぞれにおいて、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。偶数フィールドでは、
E2n = 1/3×Y2n−1+2/3×Y2n
E2n+1 = Y2n+1
【0040】
により補正処理を行い、奇数フィールドでは、
O2n = Y2n
O2n+1= 2/3×Y2n+1+1/3×Y2n+2
により補正処理を行う。
すなわち偶数フィールドの奇数ラインおよび奇数フィールドの偶数ラインでは信号をそのまま出力し、偶数フィールドの偶数ラインの信号は前のラインの信号と2:1の比率になるように補間演算を行い、奇数フィールドの奇数ラインの信号は次のラインの信号と2:1の比率になるように補間演算を行う。
【0041】
上記の様な処理を行うことにより、垂直方向の信号の重心位置は均等になり、重心ずれによる歪みのない画像を得ることができと共に、インターレースの動画像を得ることができる。
【0042】
<第4の実施形態>
第4の実施形態は、第3の実施形態と同様に連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置に関するものである。なお、撮像装置の基本的な構成は第1の実施形態で図1を参照して説明したものと同様であるためここでは説明を省略する。
【0043】
図6に、本第4の実施形態にかかる撮像素子2における画素混合の様子を示す。本第4の実施形態においても、図6(a)に示すように、ベイヤー配列の原色フィルタの撮像素子を例に説明する。画素混合が垂直方向に行われる場合、撮像素子駆動部8は、図6(b)に示すように偶数フィールドと奇数フィールドとで各色の混合されるラインが互い違いになるようなタイミングで混合されるように撮像素子2を駆動する。
【0044】
具体的には例えば奇数フィールドでは、図6(a)に示すR00、G01のラインとR20、G21のラインの画素信号を混合して、図6(b)に示すR10、G11のラインの画素信号が生成される。また、G10、B11のラインの画素信号とG30、B31のラインの画素信号からG20、B21のラインの画素信号が生成される。同様にして、R40、G41のラインとR60、G61のラインの画素信号からR50、G51のラインの画素信号が、G50、B51のラインとG70、B71のラインの画素信号からG60、B61のラインの画素信号が生成される。
【0045】
一方、偶数フィールドでは、図6(a)に示すR20、G21のラインとR40、G41のラインの画素信号を混合して、図6(c)に示すR30、G31のラインの画素信号が生成される。同様にして、G30、B31のラインとG50、B51のラインの画素信号からG40、B41のラインの画素信号が生成される。
【0046】
しかし、従来例及び第1乃至第3の実施形態で説明したように、混合後の信号の重心位置は垂直方向に均等ではなく、2ラインずつ接近した位置になっており、更に、図6(b)及び図6(c)から分かるように、奇数・偶数フィールド間で2ラインずつ互い違いになった関係になる。
【0047】
この混合後の信号に対して、A/D変換器4でデジタル信号にし、カメラ信号処理部6によって色差・輝度信号に変換すると、変換後の信号の重心位置は、図6(d)のようになり、各フィールドにおいては2ラインずつの接近した不均等な色差・輝度信号になり、奇数・偶数フィールド間ではやはり2ラインずつの互い違いになった色差・輝度信号になる。このように、重心ずれが生じるとともにインターレース関係にならない。なお、図6(d)のEは偶数フィールドを、Oは奇数フィールドを示し、その後ろの数字は、各フィールドにおけるラインを示している。
【0048】
そこで、本題4の実施形態における重心ずれ補正処理部10では、重心位置が均等になると共に、偶数・奇数フィールド間で、信号が互いにインターレースとなるように、色差・輝度信号を補正する。
【0049】
図7は本第4の実施形態において重心ずれ補正処理部10における重心ずれ補正および、偶数・奇数フィールド間で信号のインターレース化の動作を説明するための図である。
【0050】
図7は、図6を用いて説明した混合が行われた場合に、カメラ信号処理部6より出力された色差・輝度信号の重心位置を表す。E2n及びE(2n±偶数)のラインは偶数フィールドの輝度・色差信号の偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち下のラインとする。E(2n±奇数)のラインは偶数フィールドの輝度・色差信号の奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち上のラインとする。E’2n及びE’(2n±偶数)のラインは偶数フィールドの重心ずれ補正後の輝度・色差信号の偶数ラインを、E’(2n±奇数)のラインは偶数フィールドの重心ずれ補正後の輝度・色差信号の奇数ラインを表す。
【0051】
また、O2n及びO(2n±偶数)のラインは奇数フィールドの輝度・色差信号の偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち上のラインとする。O(2n±奇数)のラインは奇数フィールドの輝度・色差信号の奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち下のラインとする。O’2n及びO’(2n±偶数)のラインは奇数フィールドの重心ずれ補正後の輝度・色差信号の偶数ライン、O’(2n±奇数)は奇数フィールドの重心ずれ補正後の輝度・色差信号の奇数ラインを表す。なお、nは自然数を表す。
【0052】
この例では、E2n−1とE2nの間隔と、E2nとE2n+1の間隔の比、及び、O2nとO2n+1の間隔とO2n+1とO2n+2の間隔の比は1:3になるので、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。偶数フィールドでは、
E’2n = E2n
E’2n+1 = 2/3×E2n+1+1/3×E2n
【0053】
により補正処理を行い、奇数フィールドでは、
O’2n = O2n
O’2n+1 = 2/3×O2n+1+1/3×O2n+2
により補正処理を行う。
すなわち偶数フィールドの偶数ラインおよび奇数フィールドの偶数ラインでは信号をそのまま出力し、偶数フィールドの奇数ラインの信号は前のラインの信号と2:1の比率になるように補間演算を行い、奇数フィールドの奇数ラインの信号は次のラインの信号と2:1の比率になるように補間演算を行う。
【0054】
上記のような補間処理を行うことにより、図6に示すようなフィールド毎に異なる画素加算を行っても、垂直方向の信号の重心位置は均等になり、重心ずれによる歪みのない画像を得ることができると共に、連続する2フィールド間でインターレース関係が成立する動画像信号を得ることができる。
【0055】
また、この方法では、偶数または奇数のラインのどちらかには補正処理が行われないため、そのラインには補正による解像度劣化は生じない。
【0056】
<第5の実施形態>
次に、本発明の第5の実施形態について説明する。
【0057】
図8は、本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。図8に示す構成とは、重心ずれ補正処理部10と、カメラ信号処理部6の構成順が逆になっているところが異なる。従って、図8に示す構成では、A/D変換器4から出力されたデジタル信号に対して、重心ずれ補正処理部10が先に重心ずれの補正を行い、補正されたデジタル信号に対して、カメラ信号処理部6が、色分離処理、アパーチャー処理、ガンマ処理等を施し、輝度信号、色差信号を生成する。
【0058】
撮像素子2からは、従来例で図2を参照して説明した方法で画素信号が読み出される。このようにして読み出された混合後の信号は、混合前と同じ原色のベイヤー配列になる。しかし、従来例でも説明したように、混合後の信号の重心位置は混合前の2画素の中央になるので、重心位置に注目すると、各画素は垂直方向に均等ではなく、図2(b)に示すように、2ラインずつ接近した配置となる。
【0059】
従って、本第5の実施形態における重心ずれ補正処理部10では、重心位置が均等になるように画素信号の重心位置を補正する。
【0060】
図9は、本第5の実施形態における重心ずれ補正処理部10により行われる重心ずれ補正処理を説明する図である。なお、P2n及びP2n−2は偶数ラインを示し、偶数ラインでは重心ずれによって接近した2ラインのうち上のラインとする。また、P2n−1及びP2n+1は奇数ラインを示し、奇数ラインでは重心ずれによって接近した2ラインのうち下のラインとする。
【0061】
P’2n及びP’2n−2は偶数ラインの重心ずれ補正後のライン、P’2n−1及びP’2n+1は奇数ラインの重心ずれ補正後のラインを表す。なお、nは自然数を表す。
【0062】
図9(a)は、図2を用いて説明した画素混合が行われた場合に、A/D変換器4から出力された同色画素混合信号を表す。図9(a)に示すように、P2n−2とP2n−1の間隔と、P2n−1とP2nの間隔の比は1:3になるため、本実施の形態における重心ずれ補正処理部10は重心ずれ補正後の信号を図9(b)に示すように等間隔にするため、以下の式によって補正処理を行う。
P’2n = 1/8×P2n−2 + 7/8×P2n
P’2n−1 = 7/8×P2n−1 + 1/8×P2n+1
【0063】
すなわち、偶数ラインの信号は、そのラインの画素信号(例えば、P2nラインの画素信号)と、2ライン前の画素信号(例えばP2n−2ラインの画素信号)とを7:1の比率で加重加算して補完を行い、奇数ラインの信号は、そのラインの画素信号(例えば、P2n−1ラインの画素信号)と、2ライン後のラインの画素信号(例えばP2n+1ラインの画素信号)とを7:1の比率で加重換算して補間を行う。
【0064】
ここで、図2(a)に示す同色混合後の色信号順では、同色の信号が1画素おきに配置されているため、上式で表される補間点の信号も、1ラインおきの同色の画素対を用いて算出される。
【0065】
重心ずれ補正処理部10により上記の様な処理を行った後、図3(b)に示すように垂直方向の重心位置が均等になった画素混合信号を図8のカメラ信号処理部6に入力し、輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができる。また、この方法では、すべてのラインが同じ係数で補間され、同じように解像度が劣化するので、ライン毎に解像度が異なるということはない。
【0066】
<第6の実施形態>
第6の実施形態では、第5の実施形態と異なる重心ずれ補正処理方法について説明する。なお、撮像装置の基本的な構成は第5の実施形態で図8を参照して説明したものと同様であるためここでは説明を省略する。
【0067】
図10及び図11は、本第6の実施形態における重心ずれ補正処理部10が行う重心ずれ補正動作を説明するための図である。
【0068】
図10(a)及び図11(a)は、それぞれ、撮像素子2から従来例で図2を参照して説明した方法で混合が行われた場合に、A/D変換器4より出力された同色画素混合信号を示す。
【0069】
なお、図10(a)及び図11(a)において、P2n−2〜P2n+1及びP’2n−2〜P’2n+1は、第5の実施形態と同様である。
【0070】
本第6の実施形態においては、重心ずれ補正後の信号を図10(b)に示すように等間隔にするため、以下の式を用いて補正処理を行う。
P’2n=P2n
P’2n−1=3/4×P2n−1+1/4×P2n+1
【0071】
すなわち、偶数ラインの信号はそのまま出力し、奇数ラインの信号は2ライン後の信号と3:1の比率になるように補間演算を行う。
また、重心ずれ補正後の信号を図11(b)に示すように等間隔にするためには、以下の式を用いて補正処理を行う。
P’2n=1/4×P2n−2+3/4×P2n
P’2n+1=P2n+1
【0072】
すなわち、偶数ラインの信号は2ライン前の信号と3:1の比率になるように補間演算を行い、奇数ラインの信号はそのまま出力する。
ここで、図10(a)及び図11(a)に示す同色混合後の色信号順の配列では、同色の信号が1画素おきに配置されているため、上式で表される補間点の信号も、1ラインおきの同色の画素対を用いて算出される。
【0073】
上記の様な処理を行った後、垂直方向の重心位置が均等になった画素混合信号から、図8のカメラ信号処理部6によって輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができる。
【0074】
なお、この方法では、偶数または奇数のラインのどちらかには補正処理が行われないため、そのラインには補正による解像度劣化は生じない。
【0075】
<第7の実施形態>
第7の実施形態では、第5及び第6の実施形態と異なる重心ずれ補正処理方法について説明する。なお、撮像装置の基本的な構成は第5の実施形態で図8を参照して説明したものと同様であるためここでは説明を省略する。
【0076】
図12は、本第7の実施形態における重心ずれ補正処理部10の内部構成を示す図である。図12において、102はG成分重心ずれ補正処理部、103はRB成分重心ずれ補正処理部、101は入力する信号を、対応するG成分重心ずれ補正処理部102またはRB成分重心ずれ補正処理部103に振り分けるスイッチ、104は、G成分重心ずれ補正処理部102及びRB成分重心ずれ補正処理部103から出力される信号を切り替えて合成処理部105に入力するスイッチ、105はG成分重心ずれ補正処理部102及びRB成分重心ずれ補正処理部103から重心ずれ補正された信号を合成する合成処理部である。
【0077】
本第7の実施形態では、RGB色フィルタが配置されている撮像素子において、RGB色フィルタのG成分とRB成分とで、G成分重心ずれ補正処理部102及びRB成分重心ずれ補正処理部103により異なる重心ずれ補正処理を行う。
【0078】
垂直方向の同色画素混合によって生じる画質の劣化は、色差信号よりも輝度信号に顕著に現れるため、本第7の実施形態では、輝度信号の構成要素であるG成分に対して、垂直方向の重心ずれ補正の前に水平方向にG成分の補間を行う。これにより、垂直方向の重心ずれの補正は、1ラインおきの同色の画素信号でなく、隣り合うラインの画素信号による補間が可能となり、相関距離が短くなるという利点がある。一方、輝度信号に寄与しないRB成分については、第6の実施の形態と同様の補正処理を行う。
【0079】
図13は、本第7の実施形態における重心ずれ補正処理部10が行う受信ずれ補正動作を説明するための図である。
【0080】
図13(b)〜図13(d)は、G成分重心ずれ補正処理部102において行われる、RGB色フィルタのG成分に対して行われる重心ずれ補正処理手順を示し、図13(e)及び図13(f)は、RB成分重心ずれ補正処理部103において行われるRGB色フィルタのRB成分に対して行われる重心ずれ補正処理手順を示す。なお、図13において、P2n−2〜P2n+1及びP’2n−2〜P’2n+1は、第5の実施形態と同様である。
【0081】
図13(b)は、撮像素子2から従来例で図2を参照して説明した方法で混合が行われた場合に、A/D変換器4より出力された同色画素混合信号のうち、G成分信号を抜き出したものである。
【0082】
RGB色フィルタのG成分は、偶数ラインP2n及びP2n−2上では、水平方向に図の右から見て奇数番目の画素位置に位置し、奇数ラインP2n+1及びP2n−1上では、水平方向に図の右から見て偶数番目の画素位置に配置されている。本来はRもしくはB成分が存在し、G成分が存在しない画素位置に対して、その点の両側のG成分の画素を用いて水平方向の補間を行うので、水平方向の画素の並びをQm−2、Qm−1、Qm、Qm+1とした場合に、偶数ラインP2n上では、G成分が存在しない偶数番目の画素Qmを、また、奇数ラインP2n−1上では、G成分が存在しない奇数番目の画素Qm−1を以下の式によって算出する。なお、ここでmは自然数とする。
Qm = 1/2×Qm−1+1/2×Qm+1
Qm−1= 1/2×Qm−2+1/2×Qm
【0083】
たとえば、図13(b)のG20及びG22より、図13(c)のG’21を、図13(b)のG51及びG53より、図13(c)のG’52を補間によって求める。
【0084】
水平方向への補間処理後、図13(c)に示すような信号が得られる。図13(c)に示すように、P2n−2とP2n−1の間隔とP2n−1とP2nの間隔の比は1:3になるので、重心ずれ補正後の信号を図13(d)に示すように等間隔にするため、以下の式を用いて補正処理を行う。
P’2n=1/6×P2n−1+5/6×P2n
P’2n−1=5/6×P2n−1+1/6×P2n
【0085】
すなわち、偶数ラインの信号は、そのラインの画素信号(例えば、P2nラインの画素信号)と、1ライン前の画素信号(例えばP2n−1ラインの画素信号)とを5:1の比率で加重加算して補完を行い、奇数ラインの信号は、そのラインの画素信号(例えば、P2n−1ラインの画素信号)と、1ライン後のラインの画素信号(例えばP2nラインの画素信号)とを5:1の比率で加重換算して補間を行う。
【0086】
なお、重心ずれ補正後の画素が、前述の水平方向の補間によって得られたG成分に対応する画素である場合には重心ずれ補正処理は行わない。つまり、偶数ラインにおいては、水平方向に見て図の右から奇数番目の画素、奇数ラインにおいては、水平方向に見て図の右から偶数番目の画素に対してのみ、上記の補正を行う。これにより、図13(d)に示すように重心ずれ補正後のG成分信号を得る。
【0087】
図13(e)は、撮像素子2から従来例で図2を参照して説明した方法で混合が行われた場合に、A/D変換器4より出力された同色画素混合信号のうち、RB成分信号を抜き出したものである。
【0088】
RG成分に関しては、重心ずれ補正処理部10は、第5の実施形態で説明した重心ずれ補正処理を行うが、ここでは説明を省略する。
【0089】
以上のように、G成分とRB成分に分けてそれぞれ補正処理を行った後、合成処理部105によって合成し、垂直方向の重心位置が均等になった画素混合信号を図8のカメラ信号処理部6に出力して、輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができる。 また、G成分とRB成分に分けてそれぞれ補正処理を行っているため、輝度信号の劣化による画質の劣化を抑えることができる。なお、RB成分に対してもG成分と同様の補正処理を行うようにしてもよい。
【0090】
<第8の実施形態>
第8の実施の形態では、連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置について説明する。なお、撮像装置の基本的な構成は第5の実施形態で図8を参照して説明したものと同様であるため、ここでは説明を省略する。
【0091】
撮像素子2からは、従来例で図2を参照して説明した方法で画素信号が読み出される。
【0092】
図14を参照して、本第8の実施形態における重心ずれ補正処理部10における受信ずれ補正および、偶数フィールド及び奇数フィールドのインターレース化の動作について説明する。なお、図14において、P2n−2〜P2n+1及びP’2n−2〜P’2n+1は、第5の実施形態と同様である。
【0093】
図14(a)は、図2を用いて説明した画素混合が行われた場合に、A/D変換器4から出力された同色画素混合信号を表す。図14(a)に示すように、この時点では、偶数フィールド及び奇数フィールドともに、画素の重心位置は垂直方向に均等ではなく、2ラインずつ接近した位置にあり、連続したフィールド間の信号にインターレース関係が成立していない。従って、重心位置が均等なインターレース信号に補正するために、第6の実施形態で図10及び図11を参照して説明した重心ずれ補正対策処理を偶数フィールドと奇数フィールドとで切り替えて行うことにより、重心ずれの解消とフィールド間のインターレース化を実現する。
【0094】
本第8の実施形態では、偶数フィールドでは図11に示す方法で重心ずれ補正処理を行い、奇数フィールドでは図10に示す方法で重心ずれ補正処理を行う。図14(b)は図14(a)に対して前者の処理を行った信号を、図14(c)は後者の処理を行った信号を示している。なお、図10及び図11に示す方法は、図5の実施形態で説明したとおりであるので、ここでは説明を省略する。
【0095】
なお、偶数フィールドで図10に示す方法を行い、奇数フィールドで図11に示す方法を行うことも可能である。
【0096】
上記の様な処理を行った後、図8のカメラ信号処理部6によって輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができ、かつ図14(b)及び図14(c)から分かるように、連続するフィールド間でインターレース関係の成り立つ動画像信号を得ることができる。
【0097】
なお、この方法では、偶数または奇数のラインのどちらかには補正処理が行われないため、そのラインには補正による解像度劣化は生じない。
【0098】
<第9の実施形態>
第9の実施形態は、第8の実施形態と同様に連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置に関するものである。なお、撮像装置の基本的な構成は第5の実施形態で図8を参照して説明したものと同様であるためここでは説明を省略する。
【0099】
第9の実施形態では、第8の実施形態とは異なり、第4の実施形態において図6を参照して説明した様にして偶数フィールドと奇数フィールドで異なる組み合わせで画素混合し、撮像素子2から読み出す。
【0100】
混合後の信号は、図6(b)及び(c)に示すように、重心位置は垂直方向に均等ではなく、2ラインずつ接近した位置になっており、更に、奇数・偶数フィールド間で2ラインずつ互い違いになった関係になり、インターレース関係にならない。
【0101】
次に、図15及び図16を参照して、本第9の実施形態における重心ずれ補正および、偶数・奇数フィールド間で信号のインターレース化の動作を説明する。図15は偶数フィールド、図16は奇数フィールドの処理の流れを示す。
【0102】
図15(b)は、偶数フィールドにおいて撮像素子2から出力される図6(c)に対応する混合後の信号を示す。図15(b)において、E2n及びE(2n±偶数)のラインは偶数フィールドの偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち下のラインとする。E(2n±奇数)のラインは偶数フィールドの奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち上のラインとする。更に、図15(c)において、E’2n及びE’(2n±偶数)のラインは偶数フィールドの重心ずれ補正後の偶数ラインを、E’(2n±奇数)のラインは偶数フィールドの重心ずれ補正後の奇数ラインを表す。
【0103】
また、図16(b)は、奇数フィールドにおいて撮像素子2から出力される図6(b)に対応する混合後の信号を示す。図16(b)において、O2n及びO(2n±偶数)のラインは奇数フィールドの偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち上のラインとする。O(2n±奇数)のラインは奇数フィールドの奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち下のラインとする。また、図16(c)において、O’2n及びO’(2n±偶数)のラインは奇数フィールドの重心ずれ補正後の偶数ライン、O’(2n±奇数)は奇数フィールドの重心ずれ補正後の奇数ラインを表す。なお、nは自然数を表す。
【0104】
この例では、E2n−1とE2nの間隔と、E2nとE2n+1の間隔の比、及び、O2n+1とO2nの間隔とO2nとO2n−1の間隔の比は1:3になるので、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。偶数フィールドでは、
E’2n = E2n
E’2n+1 = 1/4×E2n−1+3/4×E2n+1
【0105】
により補正処理を行い、奇数フィールドでは、
O’2n = O2n
O’2n−1 = 1/4×O2n+1+ 3/4×O2n−1
により補正処理を行う。
すなわち偶数フィールドの偶数ラインおよび奇数フィールドの偶数ラインでは信号をそのまま出力し、偶数フィールドの奇数ラインの信号は2ライン前の信号と3:1の比率になるように補間演算を行い、奇数フィールドの奇数ラインの信号は2ライン後の信号と3:1の比率になるように補間演算を行う。
【0106】
上記の様な処理を行った後、図15(c)及び図16(c)に示す、垂直方向の重心位置が均等になった画素混合信号から、図8のカメラ信号処理部6によって図15(d)及び図16(d)に示す輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができりと共に、連続する2フィールド間でインターレース関係が成立する動画像信号を得ることができる。
【0107】
また、この方法では、偶数または奇数のラインのどちらかには補正処理が行われないため、そのラインには補正による解像度劣化は生じない。
【0108】
次に、本発明の第10の実施形態について説明する。
【0109】
第10の実施の形態は、第8及び第9の実施の形態と同様に、連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置に関するものである。
【0110】
図17は、本発明の第10の実施形態における撮像装置の概略構成を示すブロック図であり、連続した2フィールド間でインターレース関係が成立するように、図8に示すカメラ信号処理部6の後段に、画素ずらし処理部12を追加したものである。その他の構成は、図8と同様であるため、説明を省略する。
【0111】
第5乃至第7の実施形態のいずれかで説明したようにして、重心ずれ補正処理部10は図18(a)に示す様な垂直方向の重心ずれ補正した信号を出力する。カメラ信号処理部6は、この出力された信号を処理し、輝度・色差信号を生成する。図18(b)は、処理後の連続する偶数及び奇数フィールドの輝度・色差信号を示す。ENを偶数フィールド、ONを奇数フィールドの輝度・色差信号とすると、図18(b)に示すように、両フィールドとも輝度・色差信号の重心位置が垂直方向について同じ位置になり、インターレース関係にならない。
【0112】
そこで、本第10の実施形態では、偶数及び奇数フィールドそれぞれにおいて、重心ずれ補正処理部10によって補正された等間隔な画素重心の位置関係を保ちながらも、連続するフィールド間でインターレースの関係になるようにカメラ信号処理部6による処理後の輝度・色差信号に対して下記の式のように画素ずらし処理を行う。
【0113】
図18(c)において、E’Nは偶数フィールドの画素ずらし処理後の輝度色差信号、O’Nは奇数フィールドの画素ずらし処理後の輝度色差信号を表すものとする。なお、Nは自然数を表す。
E’N = 1/4×EN−1+3/4×EN
O’N= 3/4×ON+1/4×ON+1
【0114】
すなわち偶数フィールドでは各ラインにおいて、1ライン前の信号と3:1の比率になるように混合し、奇数フィールドでは、各ラインにおいて、1ライン後の信号と3:1の比率になるように混合して出力する。
【0115】
上記の様な画素ずらし処理を行うことにより、垂直方向の信号の重心位置は均等で、かつ連続する2フィールド間でインターレース関係が成立する動画像信号を得ることができる。
【0116】
<第11の実施形態>
第11の実施の形態では、第8〜第10の実施形態と同様に、連続した2フィールドがインターレース関係にある動画像を撮影する撮像装置に関するものである。なお、撮像装置の基本的な構成は第10の実施形態で図17を参照して説明したものと同様であるためここでは説明を省略する。
【0117】
第11の実施の形態は第9の実施の形態と同様に、第4の実施形態において図6を参照して説明した様にして偶数フィールドと奇数フィールドで異なる組み合わせで画素混合し、撮像素子2から読み出す。
【0118】
混合後の信号は、図6(b)及び(c)に示すように、重心位置は垂直方向に均等ではなく、2ラインずつ接近した位置になっており、更に、奇数・偶数フィールド間で2ラインずつ互い違いになった関係になり、インターレース関係にならない。
【0119】
次に、図19及び図20を参照して、本第11の実施形態における重心ずれ補正および、偶数・奇数フィールド間で信号のインターレース化の動作を説明する。なお、本第11の実施形態は、重心ずれ補正処理部10は信号を偶数フィールド並びに奇数フィールドで垂直方向について同じ位置に補正し、カメラ信号処理部6による信号処理後の輝度・色差信号に対して、画素ずらし処理部12によって偶数・奇数フィールド間でインターレース化するところが第9の実施形態と異なる。図19は偶数フィールド、図20は奇数フィールドの処理の流れを示す。
【0120】
図19(b)は、偶数フィールドにおいて撮像素子2から出力される図6(c)に対応する混合後の信号を示す。図19(b)において、E2n及びE(2n±偶数)のラインは偶数フィールドの偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち下のラインとする。E(2n±奇数)のラインは偶数フィールドの奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち上のラインとする。更に、図19(c)において、E’2n及びE’(2n±偶数)のラインは偶数フィールドの重心ずれ補正後の偶数ラインを、E’(2n±奇数)のラインは偶数フィールドの重心ずれ補正後の奇数ラインを表す。
【0121】
また、図20(b)は、奇数フィールドにおいて撮像素子2から出力される図6(b)に対応する混合後の信号を示す。図20(b)において、O2n及びO(2n±偶数)のラインは奇数フィールドの偶数ラインであり、偶数ラインは重心ずれによって接近した2ラインのうち上のラインとする。O(2n±奇数)のラインは奇数フィールドの輝度・色差信号の奇数ラインであり、奇数ラインは重心ずれによって接近した2ラインのうち下のラインとする。なお、nは自然数を表す。
【0122】
この例では、E2n−1とE2nの間隔と、E2nとE2n+1の間隔の比、及び、O2n+1とO2nの間隔とO2nとO2n−1の間隔の比は1:3になるので、重心ずれ補正後の信号が等間隔になるように下記の式のように補正処理を行う。偶数フィールドでは、
E’2n−2 = 7/8×E2n−2+1/8×E2n
E’2n+1 = 1/8×E2n−1+7/8×E2n+1
【0123】
すなわち偶数ラインの信号は2ライン後の信号と7:1の比率になるように補間演算を行い、奇数ラインの信号は2ライン前の信号と7:1の比率になるように補間演算を行う。奇数フィールドでは、
O’2n = 1/8×O2n−2+7/8×O2n
O’2n−1 = 7/8×O2n−1+1/8×O2n+1
すなわち偶数ラインの信号は2ライン前の信号と7:1の比率になるように補間演算を行い、奇数ラインの信号は2ライン後の信号と7:1の比率になるように補間演算を行う。
上記の様な処理を行った後、図19(c)及び図20(c)に示す、垂直方向の重心位置が均等になった画素混合信号から、図17のカメラ信号処理部6によって輝度・色差信号を生成することにより、重心ずれによる画像の歪みやモアレのない画像を得ることができる。この方法では、すべてのラインが同じ係数で補間され、同じように解像度が劣化し、ラインごとに解像度が異なるということはない。
【0124】
図19(d)及び図20(d)は、重心ずれ補正処理部10の出力信号からカメラ信号処理部6によって生成された、偶数フィールド及び奇数フィールドにおける輝度・色差信号を表すものであるが、両フィールドとも輝度・色差信号が同じ位置になり、インターレース関係が成立しない。
【0125】
偶数及び奇数フィールドそれぞれにおいて、重心ずれ補正処理10によって補正された等間隔な画素重心の位置関係を保ちながらも、連続するフィールド間でインターレースの関係になるように、カメラ信号処理後の輝度・色差信号に対して下記の式のように更に画素ずらし処理を行う。
【0126】
図19(d)において、E2N及びE(2N±偶数)のラインは偶数フィールドの輝度・色差信号の偶数ライン、E(2N±奇数)のラインは偶数フィールドの輝度・色差信号の奇数ラインである。更に、図19(e)において、E’2N及びE’(2N±偶数)のラインは偶数フィールドの画素ずらし補正後の輝度・色差信号の偶数ラインを、E’(2N±奇数)のラインは偶数フィールドの画素ずらし補正後の輝度・色差信号の奇数ラインを表す。
【0127】
図20(d)において、O’2n及びO’(2n±偶数)のラインは奇数フィールドの重心ずれ補正後の輝度・色差信号の偶数ライン、O’(2n±奇数)は奇数フィールドの重心ずれ補正後の輝度・色差信号の奇数ラインを表す。更に、図20(e)において、O’2N及びE’(2N±偶数)のラインは偶数フィールドの画素ずらし補正後の輝度・色差信号の偶数ラインを、O’(2N±奇数)のラインは偶数フィールドの画素ずらし補正後の輝度・色差信号の奇数ラインを表す。なお、Nは自然数とする。
E’N = 1/4×EN−1+3/4×EN
O’N= 3/4×ON+1/4×ON+1
【0128】
すなわち偶数フィールドでは、各ラインにおいて1ライン前の信号と3:1の比率になるように混合し、奇数フィールドでは、各ラインにおいて1ライン後の信号と3:1の比率になるように混合して出力する。
【0129】
上記の様な画素ずらし処理を行うことにより、垂直方向の信号の重心位置は均等で、かつ連続する2フィールド間でインターレース関係が成立する動画像信号を得ることができる。
【0130】
【他の実施形態】
なお、以上の実施の形態のソフト構成とハード構成は、適宜置き換えることができるものである。
【0131】
また、本発明は、以上の各実施の形態、または、それら技術要素を必要に応じて組み合わせるようにしてもよい。
【0132】
また、本発明は、複数の機器(例えばホストコンピュータ、インターフェイス機器、カメラヘッドなど)から構成されるシステムに適用しても、一つの機器からなる装置(例えば、デジタルスチルカメラ、デジタルビデオカメラなど)に適用してもよい。
【0133】
更に、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体(または記録媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。また、コンピュータが読み出したプログラムコードを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼働しているオペレーティングシステム(OS)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。ここでプログラムコードを記憶する記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、ROM、RAM、磁気テープ、不揮発性のメモリカード、CD−ROM、CD−R、DVD、光ディスク、光磁気ディスク、MOなどが考えられる。
【0134】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれた後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0135】
本発明を上記記憶媒体に適用する場合、その記憶媒体には、先に説明した図3〜図7、図9〜図11、図13、図14、図15及び図16、図18、図19及び図20のいずれかを参照して説明した処理に対応するプログラムコードが格納されることになる。
【0136】
【発明の効果】
上記の通り本発明によれば、1行おきに同じ色の受光素子から得られる信号を加算して読み出す場合に、画像の歪やモアレ等の問題を解消することができる。
【0137】
更に、動画像のインターレースを損なうことなく撮影することができる。
【図面の簡単な説明】
【図1】本発明の第1乃至第4の実施形態における撮像装置の概略構成を示すブロック図である。
【図2】従来の撮像素子における画素混合の様子を示す概念図である。
【図3】本発明の第1の実施形態における重心ずれ補正動作を説明するための図である。
【図4】本発明の第2の実施形態における重心ずれ補正動作を説明するための図である。
【図5】本発明の第3の実施形態における重心ずれ補正動作を説明するための図である。
【図6】第4の実施の形態における撮像素子における画素混合の様子を示す概念図である。
【図7】本発明の第4の実施形態における重心ずれ補正動作を説明するための図である。
【図8】本発明の第5乃至第9の実施形態における撮像装置の概略構成を示すブロック図である。
【図9】本発明の第5の実施形態における重心ずれ補正動作を説明するための図である。
【図10】本発明の第6の実施形態における重心ずれ補正動作を説明するための図である。
【図11】本発明の第6の実施形態における重心ずれ補正動作を説明するための図である。
【図12】本発明の第7の実施形他における重心ずれ補正処理部の内部構成例を示すブロック図である。
【図13】本発明の第7の実施形態における重心ずれ補正動作を説明するための図である。
【図14】本発明の第8の実施形態における重心ずれ補正動作を説明するための図である。
【図15】本発明の第9の実施形態における重心ずれ補正動作を説明するための図である。
【図16】本発明の第9の実施形態における重心ずれ補正動作を説明するための図である。
【図17】本発明の第10及び第11の実施形態における撮像装置の概略構成を示すブロック図である。
【図18】本発明の第10の実施形態における画素ずらし補正動作を説明するための図である。
【図19】本発明の第11の実施形態における重心ずれ及び画素ずらし補正動作を説明するための図である。
【図20】本発明の第11の実施形態における重心ずれ及び画素ずらし補正動作を説明するための図である。
【符号の説明】
2 撮像素子
4 A/D変換器
6 カメラ信号処理部
8 撮像素子駆動部
10 重心ずれ補正処理部
12 画素ずらし補正処理部
Claims (30)
- 原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理装置であって、
前記撮像素子から入力した信号に対して、所定の画像処理を行う処理手段と、
前記処理手段から出力される信号の重心位置を等間隔に補正して出力する補正手段と
を有することを特徴とする信号処理装置。 - 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n+1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n+1(nは共に自然数)とした場合に、
P’2n = P2n
P’2n+1 = 2/3×P2n+1+1/3×P2n+2
の演算により補正することを特徴とする請求項1に記載の信号処理装置。 - 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n+1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n+1(nは共に自然数)とした場合に、
P’2n = 2/3×P2n+1/3×P2n−1
P’2n+1=P2n+1
の演算により補正することを特徴とする請求項1に記載の信号処理装置。 - 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n+1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n+1(nは共に自然数)とした場合に、
P’2n = 1/6×P2n−1+5/6×P2n
P’2n+1 = 5/6×P2n+1+1/6×P2n+2
の演算により補正することを特徴とする請求項1に記載の信号処理装置。 - 前記補正手段は、連続する2つのフィールド間で、インターレース関係となるように、重心位置を補正することを特徴とする請求項1に記載の信号処理装置。
- 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n+1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n+1(nは共に自然数)とした場合に
P’2n = 1/3×P2n−1+2/3×P2n
P’2n+1 = P2n+1
の演算による補正と、
P’2n = P2n
P’2n+1= 2/3×P2n+1+1/3×P2n+2
の演算による補正とを、1フィールド毎に交互に行う
ことを特徴とする請求項5に記載の信号処理装置。 - 原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理装置であって、
前記撮像素子から入力した信号に対して、所定の画像処理を行う処理手段と、
前記処理手段から出力される信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正手段と
を有することを特徴とする信号処理装置。 - 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n+1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n+1(nは共に自然数)とした場合に
P’2n = P2n
P’2n+1 = 2/3×P2n+1+1/3×P2n
の演算による補正と、
P’2n = P2n
P’2n+1 = 2/3×P2n+1+1/3×P2n+2
の演算による補正とを、1フィールド毎に交互に行う
ことを特徴とする請求項7に記載の信号処理装置。 - 原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理装置であって、
前記撮像素子から入力した信号の重心位置を等間隔に補正して出力する補正手段と、
前記補正手段から出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理手段と
を有することを特徴とする信号処理装置。 - 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n−1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n−1(nは共に自然数)とした場合に、
P’2n = 1/8×P2n−2+7/8×P2n
P’2n−1 = 7/8×P2n−1+1/8×P2n+1
の演算により補正することを特徴とする請求項9に記載の信号処理装置。 - 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n−1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n−1(nは共に自然数)とした場合に、
P’2n=P2n
P’2n−1=3/4×P2n−1+1/4×P2n+1
の演算により補正することを特徴とする請求項9に記載の信号処理装置。 - 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n+1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n+1(nは共に自然数)とした場合に、
P’2n=1/4×P2n−2+3/4×P2n
P’2n+1=P2n+1
の演算により補正することを特徴とする請求項9に記載の信号処理装置。 - 前記補正手段は、
緑(G)成分信号に対して、補間処理及び重心ずれ補正を行う第1の補正手段と、
緑以外の色成分信号に対して、前記第1の補正手段と異なる方法で重心ずれ補正処理を行う第2の補正手段と、
前記第1及び第2の補正手段により重心ずれを補正された信号を合成する合成手段と
を有することを特徴とする請求項9に記載の信号処理装置。 - 前記第1の補正手段は、補間する対象画素をQm(mは自然数)とした場合に、
Qm = 1/2×Qm−1+1/2×Qm+1
の演算により各行の補間を行い、更に、補正する対象の信号の偶数行をP2n、奇数行をP2n−1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n−1(nは共に自然数)とした場合に、
P’2n=1/6×P2n−1+5/6×P2n
P’2n−1=5/6×P2n−1+1/6×P2n
の演算により補正することを特徴とする請求項9に記載の信号処理装置。 - 前記補正手段は、連続する2つのフィールド間で、インターレース関係となるように、重心位置を補正することを特徴とする請求項9に記載の信号処理装置。
- 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n+1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n+1(nは共に自然数)とした場合に
P’2n=P2n
P’2n−1=3/4×P2n−1+1/4×P2n+1
の演算による補正と、
P’2n=1/4×P2n−2+3/4×P2n
P’2n+1=P2n+1
の演算による補正とを、1フィールド毎に交互に行う
ことを特徴とする請求項13に記載の信号処理装置。 - 前記処理手段から出力される信号に対して、前記連続する2つのフィールド間で、インターレース関係となるように、重心位置を補正するずらし処理手段を更に有することを特徴とする請求項9乃至14のいずれかに記載の信号処理装置。
- 前記ずらし処理手段は、補正する対象の信号の行をPN、重心ずれ補正後の信号の行をP’N(Nは共に自然数)とした場合に
P’N = 1/4×PN−1+3/4×PN
P’N= 3/4×PN+1/4×PN+1
の演算による補正を、1フィールド毎に交互に行う
ことを特徴とする請求項17に記載の信号処理装置。 - 原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理装置であって、
前記撮像素子から入力した信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正手段と、
前記補正手段から出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理手段と
を有することを特徴とする信号処理装置。 - 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n+1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n+1(nは共に自然数)とした場合に
P’2n = P2n
P’2n+1 = 1/4×P2n−1+3/4×P2n+1
の演算による補正と、
P’2n = P2n
P’2n+1 = 1/4×P2n+3+ 3/4×P2n+1
の演算による補正とを、1フィールド毎に交互に行う
ことを特徴とする請求項19に記載の信号処理装置。 - 前記補正手段は、補正する対象の信号の偶数行をP2n、奇数行をP2n+1(nは共に自然数)とし、重心ずれ補正後の信号の偶数行をP’2n、奇数行をP’2n+1(nは共に自然数)とした場合に
P’2n = 7/8×P2n+1/8×P2n+2
P’2n+1 = 1/8×P2n−1+7/8×P2n+1
の演算による補正と、
P’2n = 1/8×P2n−2+7/8×P2n
P’2n+1 = 7/8×P2n+1+1/8×P2n+3
の演算による補正とを、1フィールド毎に交互に行い、
前記処理手段から出力される信号に対して、前記連続する2つのフィールド間で、インターレース関係となるように、重心位置を補正するずらし処理手段を更に有することを特徴とする請求項19に記載の信号処理装置。 - 前記ずらし処理手段は、補正する対象の信号の行をPN、重心ずれ補正後の信号の行をP’N(Nは共に自然数)とした場合に
P’N = 1/4×PN−1+3/4×PN
P’N= 3/4×PN+1/4×PN+1
の演算による補正を、1フィールド毎に交互に行う
ことを特徴とする請求項21に記載の信号処理装置。 - 請求項1乃至22のいずれかに記載の信号処理装置を有する撮像装置。
- 原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理方法であって、
前記撮像素子から入力した信号に対して、所定の画像処理を行う処理工程と、
前記処理工程で出力される信号の重心位置を等間隔に補正して出力する補正工程と
を有することを特徴とする信号処理方法。 - 原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理方法であって、
前記撮像素子から入力した信号に対して、所定の画像処理を行う処理工程と、
前記処理工程で出力される信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正工程と
を有することを特徴とする信号処理方法。 - 原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理方法であって、
前記撮像素子から入力した信号の重心位置を等間隔に補正して出力する補正工程と、
前記補正工程で出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理工程と
を有することを特徴とする信号処理方法。 - 原色ベイヤー配列のカラーフィルタにより覆われた複数の受光素子を有する撮像素子であって、フィールド毎に異なる組み合わせで、1行おきに同じ色の受光素子から得られる信号を加算して読み出す撮像素子から出力される画像信号を処理する信号処理方法であって、
前記撮像素子から入力した信号を、連続する2フィールド間でインターレース関係となるように重心位置を等間隔に補正して出力する補正工程と、
前記補正手段から出力される信号に対して、原色ベイヤー配列の信号に対応する処理を行う処理工程と
を有することを特徴とする信号処理方法。 - 情報処理装置が実行可能なプログラムであって、前記プログラムを実行した情報処理装置を、請求項1乃至22のいずれかに記載の信号処理装置として機能させることを特徴とするプログラム。
- 請求項24乃至27のいずれかに記載の信号処理方法を実現するためのプログラムコードを有することを特徴とする情報処理装置が実行可能なプログラム。
- 請求項28又は29に記載のプログラムを記憶したことを特徴とする情報処理装置が読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002309899A JP2004147093A (ja) | 2002-10-24 | 2002-10-24 | 信号処理装置及び方法、及び撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002309899A JP2004147093A (ja) | 2002-10-24 | 2002-10-24 | 信号処理装置及び方法、及び撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004147093A true JP2004147093A (ja) | 2004-05-20 |
Family
ID=32455579
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002309899A Withdrawn JP2004147093A (ja) | 2002-10-24 | 2002-10-24 | 信号処理装置及び方法、及び撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004147093A (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7456866B2 (en) | 2002-10-24 | 2008-11-25 | Canon Kabushiki Kaisha | Correction of barycenters of signals obtained by adding and reading charges accumulated in solid-state image sensing device |
JP2010193200A (ja) * | 2009-02-18 | 2010-09-02 | Nikon Corp | 撮像装置および撮像素子出力制御方法 |
US8107775B2 (en) | 2007-02-09 | 2012-01-31 | Olympus Imaging Corp | Image processing apparatus and method, and electronic camera |
US8330839B2 (en) | 2005-07-28 | 2012-12-11 | Omnivision Technologies, Inc. | Image sensor with improved light sensitivity |
US8416339B2 (en) | 2006-10-04 | 2013-04-09 | Omni Vision Technologies, Inc. | Providing multiple video signals from single sensor |
JP2013197610A (ja) * | 2012-03-15 | 2013-09-30 | Nikon Corp | 撮像装置、画像処理装置及び画像処理プログラム |
JP2013197613A (ja) * | 2012-03-15 | 2013-09-30 | Nikon Corp | 撮像装置、画像処理装置及び画像処理プログラム |
JP2013229833A (ja) * | 2012-04-27 | 2013-11-07 | Hitachi Consumer Electronics Co Ltd | 撮像装置 |
US8711452B2 (en) | 2005-07-28 | 2014-04-29 | Omnivision Technologies, Inc. | Processing color and panchromatic pixels |
US8836813B2 (en) | 2010-10-20 | 2014-09-16 | Panasonic Corporation | Image processing device and image processing method |
-
2002
- 2002-10-24 JP JP2002309899A patent/JP2004147093A/ja not_active Withdrawn
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7456866B2 (en) | 2002-10-24 | 2008-11-25 | Canon Kabushiki Kaisha | Correction of barycenters of signals obtained by adding and reading charges accumulated in solid-state image sensing device |
US8330839B2 (en) | 2005-07-28 | 2012-12-11 | Omnivision Technologies, Inc. | Image sensor with improved light sensitivity |
US8711452B2 (en) | 2005-07-28 | 2014-04-29 | Omnivision Technologies, Inc. | Processing color and panchromatic pixels |
US8416339B2 (en) | 2006-10-04 | 2013-04-09 | Omni Vision Technologies, Inc. | Providing multiple video signals from single sensor |
US8107775B2 (en) | 2007-02-09 | 2012-01-31 | Olympus Imaging Corp | Image processing apparatus and method, and electronic camera |
JP2010193200A (ja) * | 2009-02-18 | 2010-09-02 | Nikon Corp | 撮像装置および撮像素子出力制御方法 |
US8836813B2 (en) | 2010-10-20 | 2014-09-16 | Panasonic Corporation | Image processing device and image processing method |
JP2013197610A (ja) * | 2012-03-15 | 2013-09-30 | Nikon Corp | 撮像装置、画像処理装置及び画像処理プログラム |
JP2013197613A (ja) * | 2012-03-15 | 2013-09-30 | Nikon Corp | 撮像装置、画像処理装置及び画像処理プログラム |
JP2013229833A (ja) * | 2012-04-27 | 2013-11-07 | Hitachi Consumer Electronics Co Ltd | 撮像装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3991543B2 (ja) | 撮像装置 | |
US9154688B2 (en) | Solid-state image capture element, image capture device, and focus control method | |
JP4142340B2 (ja) | 撮像装置 | |
US20060158537A1 (en) | Imaging apparatus | |
US8885089B2 (en) | Imaging device and focusing control method | |
JPH10234047A (ja) | 単板式カラーカメラ | |
JPH10336686A (ja) | 撮像装置 | |
JP2004147093A (ja) | 信号処理装置及び方法、及び撮像装置 | |
US8970748B2 (en) | Imaging device, storage medium storing a control program for imaging device, and control method for imaging device | |
US7456866B2 (en) | Correction of barycenters of signals obtained by adding and reading charges accumulated in solid-state image sensing device | |
US6795119B1 (en) | Solid-state image pickup apparatus for producing image signals with pixel signals mixed in a horizontal direction and a signal reading method for the same | |
JP2009021985A (ja) | 撮像装置及び撮像装置の駆動方法 | |
US20040263645A1 (en) | Sequential scan imaging device | |
JP4086618B2 (ja) | 信号処理装置及び方法 | |
CN110169054B (zh) | 摄像装置、摄像方法 | |
JP2010268354A (ja) | イメージセンサ及びそのイメージセンサを備える撮像装置 | |
JP3767367B2 (ja) | 撮像装置 | |
JPH06269010A (ja) | 色分解光学系,撮像方法,及び撮像装置 | |
JP4412446B2 (ja) | 解像度変換方法および解像度変換装置 | |
KR100665489B1 (ko) | 촬상 장치 및 촬상 방법 | |
JP3836198B2 (ja) | Y/c分離装置 | |
JP3651477B2 (ja) | 画像信号処理装置 | |
JP3767338B2 (ja) | 撮像装置 | |
JP2000244821A (ja) | 撮像装置 | |
JP2000261817A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20060110 |