JP2013223208A - 撮像処理装置 - Google Patents
撮像処理装置 Download PDFInfo
- Publication number
- JP2013223208A JP2013223208A JP2012095422A JP2012095422A JP2013223208A JP 2013223208 A JP2013223208 A JP 2013223208A JP 2012095422 A JP2012095422 A JP 2012095422A JP 2012095422 A JP2012095422 A JP 2012095422A JP 2013223208 A JP2013223208 A JP 2013223208A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- moving image
- color component
- exposure time
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
Abstract
【課題】演算量ならびに回路規模を削減しながら、光量を確保しS/Nを改善しつつ、色にじみの発生を低減した画像を得る。
【解決手段】撮像処理装置は、単板カラー撮像素子と画像処理部とを備えている。単板カラー撮像素子は、第1色成分の光を第1露光時間および第2露光時間の各々で検出し、第2色成分および第3色成分の光を第1露光時間で検出する。画像処理部は、第1色成分の光を検出した第1画素および第2画素の画素値に基づいて得られた、被写体の第1色成分の動画像を受け取り、評価式を予め定められた所定の条件で満足する動画像を、新たな動画像として求める。評価式は、画素値の分布に関する拘束条件項であって、第1色成分の動画像を構成する画像の、複数のラインにわたって配置されている画素群を一方向に配列された画素群として並び替えたときの画素群の画素値の分布に関する拘束条件項を含む。
【選択図】図15A
【解決手段】撮像処理装置は、単板カラー撮像素子と画像処理部とを備えている。単板カラー撮像素子は、第1色成分の光を第1露光時間および第2露光時間の各々で検出し、第2色成分および第3色成分の光を第1露光時間で検出する。画像処理部は、第1色成分の光を検出した第1画素および第2画素の画素値に基づいて得られた、被写体の第1色成分の動画像を受け取り、評価式を予め定められた所定の条件で満足する動画像を、新たな動画像として求める。評価式は、画素値の分布に関する拘束条件項であって、第1色成分の動画像を構成する画像の、複数のラインにわたって配置されている画素群を一方向に配列された画素群として並び替えたときの画素群の画素値の分布に関する拘束条件項を含む。
【選択図】図15A
Description
本願は、動画像を生成する撮像処理装置および撮像処理方法に関する。
従来の撮像処理装置においては、高解像度化を図る目的で撮像素子の画素数が増加する傾向にあった。撮像素子全体のサイズを大きくするには限界があるため、各画素を小型化せざるを得ない。その一方、画素寸法が小型化されるほど、撮像素子の1画素に入射する光量が減少していた。その結果、各画素の信号対雑音比(S/N)の低下につながり、画質を維持することが困難であった。
特許文献1は、赤、緑、青のそれぞれ光を検出する3枚の撮像素子を利用し、露光時間を制御して得られる信号を処理することによって、高解像度で高フレームレートかつ高感度の画像の復元を実現することを開示している。この技術では、2種類の解像度の撮像素子が用いられている。一方の高解像度の画像を生成する撮像素子からは長時間露光で画素信号が読み出され、他方の低解像度の画像を生成する撮像素子からは短時間露光で画素信号が読み出される。これにより、光量が確保されていた。
さらに、特許文献2は、特許文献1の手法を単板カメラに拡張し、単板カメラであっても各画素の信号対雑音比(S/N)の低下を抑えながら、画質の維持を実現することを開示している。
特許文献1および2の技術は、演算量ならびに回路規模が比較的多かった。そのため、演算量がより少なく、回路規模が小さい装置の開発が求められていた。
本願の、限定的ではない例示的なある実施形態は、演算量ならびに回路規模を削減しながら、光量を確保しS/Nを改善しつつ、色にじみの発生を低減することができる撮像処理の技術を提供する。
本発明のある実施形態にかかる撮像処理装置は、第1露光時間で画素値を読み出すことが可能な第1種類の複数の画素および前記第1露光時間よりも長い第2露光時間で画素値を読み出すことが可能な第2種類の複数の画素を有する単板カラー撮像素子と、前記第1種類の複数の画素から前記第1露光時間で読み出された画素値と、前記第2種類の複数の画素から前記第2露光時間で読み出された画素値とに基づいて、所定のフレームレートを有する新たな動画像を生成する画像処理部とを備えている。前記単板カラー撮像素子は、第1色成分の光を前記第1露光時間および前記第2露光時間の各々で検出し、第2色成分および第3色成分の光を前記第1露光時間で検出する。前記画像処理部は、前記第1色成分の光を検出した前記第1画素および前記第2画素の画素値に基づいて得られた、被写体の前記第1色成分の動画像を受け取り、(a)前記第1露光時間で読み出された前記第1色成分の動画像と、前記新たな動画像を前記第1露光時間でサンプリングして得られた動画像との第1の差、(b)前記第2露光時間で読み出された前記第1色成分の動画像と、前記新たな動画像を前記第2露光時間でサンプリングして得られた動画像との第2の差、および(c)画素値の分布に関する拘束条件項であって、前記第1色成分の動画像を構成する画像の、複数のラインにわたって配置されている画素群を一方向に配列された画素群として並び替えたときの前記画素群の画素値の分布に関する拘束条件項を含む評価式を設定し、前記評価式を予め定められた所定の条件で満足する動画像を、前記新たな動画像として求める。
前記画像処理部は、前記新たな動画像の画素値の分布の変化が少なくなるよう、または、前記新たな動画像の画素値の変化が一定になるよう、前記拘束条件項を設定してもよい。
前記画像処理部は、前記評価式を最小化する動画像を、前記新たな動画像として求めてもよい。
前記画像処理部は、前記第1色成分の動画像を構成する画像の、2ラインにわたって配置されている画素群を一方向に配列された画素群として並び替えたときの前記画素群の画素値の分布に関する拘束条件項を設定してもよい。
前記第1色成分の動画像を構成する画像は、直交する第1方向および第2方向に沿って配列された画素群によって構成されており、前記第2方向に沿って隣接する第1ラインおよび第2ラインに関し、前記第1色成分の画素群は、第1方向に沿って、前記第1ラインおよび前記第2ラインに交互に配列され、前記画像処理部は、交互に配列された前記第1色成分の画素群を、一方向に配列された画素群として並び替えたときの前記画素群の画素値の分布に関する拘束条件項を設定してもよい。
前記画像処理部は、前記第1露光時間で読み出された画素値に基づいて得られた前記第1色成分の動画像、前記第2色成分の動画像および前記第3色成分の動画像を利用して、前記被写体の動きを検出する動き検出部と、前記動きの検出結果を利用して前記新たな動画像の動きの分布に関する拘束条件項を設定し、前記動きの分布に関する拘束条件項をさらに含む前記評価式を最小化する動画像を、前記新たな動画像として求める画像生成部とを備えていてもよい。
前記撮像処理装置は、前記第1露光時間で読み出された画素値に基づいて得られた前記第1色成分の動画像、前記第2色成分の動画像および前記第3色成分の動画像に、表示のために予め定められた画像処理を施す表示制御部と、前記表示制御部によって画像処理された前記第1動画像、前記第2動画像および前記第3動画像を表示する表示部とをさらに備えていてもよい。
本発明のある例示的な実施形態によれば、撮像処理装置は、演算量ならびに回路規模を削減しながら、光量を確保しS/Nを改善しつつ、色にじみの発生を低減した画像を生成することができる。
まず、上述の特許文献1および2に関して、発明者が見出した先行技術の問題点を説明する。
上述の特許文献1および2においては、いずれも滑らかさの拘束として、x方向とy方向の2方向の拘束条件を利用していた。これは、画像に関して2次元的なメモリアクセスが必要となる。これにより、特許文献1および2では、演算量ならびに回路規模が増大していた。
以下、添付の図面を参照しながら、本発明の一実施形態にかかる撮像処理装置等を説明する。
(実施形態1)
図1は、本実施形態における撮像処理装置100の構成を示すブロック図である。撮像処理装置100は、光学系101と、単板カラー撮像素子102と、読み出し制御部103と、制御部104と、画像処理部105とを備えている。以下、撮像処理装置100の各構成要素を詳細に説明する。
図1は、本実施形態における撮像処理装置100の構成を示すブロック図である。撮像処理装置100は、光学系101と、単板カラー撮像素子102と、読み出し制御部103と、制御部104と、画像処理部105とを備えている。以下、撮像処理装置100の各構成要素を詳細に説明する。
光学系101は、例えば、カメラレンズであり、被写体の像を撮像素子の像面に結像する。
単板カラー撮像素子102は、赤(R),緑(G),青(B)のカラーフィルタアレイが各画素に装着された撮像素子である。図2は、単板カラー撮像素子102の一例を示す。単板撮像素子の各画素(フォトダイオード)に対応して、ベイヤ配列と呼ばれる配列のカラーフィルタアレイが装着されている。図中の「R」、「G」、「B」はそれぞれ「赤」、「緑」、「青」のフィルタを示している。
単板カラー撮像素子102の各画素は、光学系101によって結ばれた光(光学像)を、それぞれに対応して設けられた赤、緑または青のフィルタを通して受け取る。各画素は、画素単位で光電変換を行い、各画素に入射した光の量に応じた画素値(画素信号)を出力する。同じフレーム時刻に撮影された、同じ色成分の画素信号により、その色成分ごとの画像が得られる。全ての色成分の画像により、カラー画像が得られる。
以下、本明細書および図面において、赤、緑、青の光を検出する画素を、それぞれ「R」、「G」、「B」によって表すとする。撮像素子の各画素から出力される画素信号は、R,G,Bいずれかの色に関する画素値を持つ。
この説明から明らかな通り、撮像素子の各画素は、各色のカラーフィルタを透過した光を受け、受けた光の強さに応じた信号を出力する撮像素子の1単位である。
読み出し制御部103は、図2に示す配列の単板カラー撮像素子102から所定の露光時間毎に画像信号を読み出して動画像として取得する。読み出し方法は以下に詳細に説明するとおりである。読み出し制御部103の読み出し動作は、制御部104による制御に基づいて実行される。
図3は、短時間露光画像と長時間露光画像の配置の例を示している。画素信号の読み出しは、2ライン単位で行われる。図3において、R,G,Bの添え字Sは短時間露光を示し、添え字Lは長時間露光を示す。また、本明細書および図面では、下付文字の「S」によって短時間(Short)露光を表し、下付文字の「L」によって長時間(Long)露光を表すこともある。
本願明細書では、「短時間露光」とは、一般的な動画撮影時の1フレームの時間だけ露光することを意味する。例えば「短時間露光」とは、フレームレートが30フレーム/秒(30fps)の場合には1/30秒の露光時間で露光することに相当する。フレームレートが60フレーム/秒(60fps)の場合には1/60秒である。一方、長時間露光とは、1フレームの露光に要する時間よりも長い時間、例えば2フレームから10フレーム程度、露光をすることを意味する。
図4は、図3の各画素の露光時間を模式的に示している。図面の左右方向が時間軸tである。長時間露光画像は、RGGB4画素のうちのG1画素のみである。つまり、R/B画素はすべて短時間露光画像であり、Gのみ長時間露光画像と短時間露光画像が混在する。また、2ラインごとに、短時間露光のG画素と短時間露光のR画素のライン、短時間露光のB画素と長時間露光のG画素のラインが繰り返されている例である。
読み出し制御部103は、制御部104の制御信号に基づいて単板カラー撮像素子102の各画素に対する読み出しパルス信号、リセット信号を制御することで、画素毎に露光時間を切り替える。短時間露光時には、読み出し制御部103は1フレーム時間ごとに画素値を読み出し、1フレーム画像の画素信号を読み出す。また長時間露光時には、読み出し制御部103は、複数フレーム時間にわたって、単板カラー撮像素子102を露光し、露光期間が終了した後、画素信号を読み出す。
図5は、本実施形態に係る単板カラー撮像素子102の構成例を示すブロック図である。
画素アレイ601は、同一シーンのカラー画像のR成分、G成分、B成分について、入射光の強度を電気信号に変換する光電変換機能を有する。
第1色成分AD変換部602は、画素アレイ601のG画素の出力に対して、アナログ−デジタル変換を行う。第1色成分HSR(水平シフトレジスタ)603は、第1色成分AD変換部602の出力を受け取り、受け取った出力を水平転送し、第1色成分であるG画素の画素信号を撮像素子の外部に出力する。
第2色成分AD変換部604は、画素アレイ601のR画素及びB画素の出力信号をアナログ−デジタル変換する。第2色成分HSR(水平シフトレジスタ)605は、第2色成分AD変換部604の出力を受け取り、受け取った出力を水平転送し、R画素及びB画素の画素信号を撮像素子の外部に出力する。
図6は、画素アレイ601の詳細な構成を示す。
本実施形態の固体撮像素子は、図6に示すように、行および列状に配列された複数の画素(GL、RS、BS、GS、・・・)と、各々が、行方向に配列された複数の画素に接続された複数の読み出し信号線701、702と、各々が、列方向に配列された複数の画素に接続された複数の出力信号線703、704、705、706とを備えている。複数の画素(GL、RS、BS、GS、・・・)にそれぞれ入射する光の色成分は、カラーフィルタアレイによって調節されている。
読み出し信号線701、702は、短時間露出によって撮像を行う画素の群に接続された複数の第1読み出し信号線701と、長時間露出によって撮像を行う画素の群に接続された複数の第2読み出し信号線702とに分かれている。
出力信号線703はGL画素で共有され、GL画素の画素出力信号を伝達する。出力信号線704はBS画素で共有され、BS画素の画素出力信号を伝達する。出力信号線705はGS画素で共有され、GS画素の画素出力信号を伝達する。出力信号線706はRS画素で共有され、RS画素の画素出力信号を伝達する。より詳細には、GL画素、GS画素の出力信号はそれぞれ出力信号線703、705を通して、同図中、上向きに出力される。同様に、RS画素、BS画素の出力信号はそれぞれ出力信号線704、706を通して、同図中、下向きに出力され、AD変換部604に入力される。そのため、GL画素とGS画素の各出力信号を同じ側のAD変換部で変換できるので特性が揃いやすい。さらに、GL画素とGS画素を一度の読み出しで得られるので、処理も高速化可能である。さらに、2系統同時なので素子自体の読み出しも高速に実現できる。ここでいう「2系統」とは、GL画素の出力信号線703とGS画素の出力信号線705とによる2種類の信号線という意味のみならず、G画素に関するAD変換部602方向への信号線群と、R/B画素に関するAD変換部604方向への信号線群という2種類の信号線群という意味も持つ。
なお、読み出し制御部103は、素子から画素信号を読み出した後でそれらを加算してもよい。具体的には、読み出し制御部103は1フレーム期間ごとに全ての画素ラインから画素信号を読み出す。そしてあるラインについては、連続する複数フレーム分の画素信号が得られた後に、それらを加算する。このとき、複数フレームの同じ画素座標値の画素信号同士が加算される。この結果、画素信号が加算された画素については、読み出し制御部103は、複数フレーム期間にわたって露光された画素の画素信号と実質的に同じ画素信号を出力することができる。本願明細書では、フレーム期間よりも長い露光時間で検出される画素信号には、画素信号の加算によって長時間露光された画素信号も含むとする。
なお、長時間露光画素の露光時間であるフレーム期間に関しては、予め定めておくとする。複数の画像フレームに関して画素毎のフレーム加算演算を行うことによって長時間露光画像を生成する場合には、加算するフレーム数を予め定めておけばよい。
また、本願の撮像処理装置における画素配置は図3に限ったものではない。たとえば、図7に示したように、2ラインごとに、長時間露光のG画素と短時間露光のR画素のライン、短時間露光のB画素と短時間露光のG画素のラインが繰り返されるようにしても構わない。
再び図1を参照する。
画像処理部105は、短時間露光画像データと長時間露光画像データを受け取り、これらに画像処理を行うことによって、各G画素における画素値を推定し、さらに、高解像度カラー動画像を生成する。
図8は、画像処理部105の詳細な構成の一例を示す。画像処理部105は、動き検出部201および画像生成部202を有する。
図9は、撮像処理装置100の処理の手順を示すフローチャートである。まず概要を説明する。
ステップS401において、画像処理部105は、フレームレートが画素ごとに異なる動画像をそれぞれ読み出し制御部103から取得する。
ステップS402において、画像処理部105の動き検出部201は、取得した画像のうちの短時間露光画像を用いて生成画像の画素毎の動きを検出する。
ステップS403およびS404において、画像生成部202は、動き拘束条件を設定し、滑らかさ拘束を設定する。
ステップS405において画像生成部202は、まず第1色成分画像であるG画像のみを生成する。
ステップS406において、画像生成部202は生成したG画像と取得したR/B画像を利用し、公知のデモザイキング処理を行なうことにより、カラー画像を生成する。
ステップS407において、画像生成部202は生成した動画像を出力する。
以下、上述した各ステップの詳細を説明する。
動き検出部201は、1フレーム期間露光されて得られた画素信号によって形成される画像(短時間露光画像)を受け取る。動き検出部201は短時間露光画像を利用して、ブロックマッチング、勾配法、位相相関法等の既存の公知技術によって、短時間露光で撮影された画素値から動き(オプティカルフロー)を検出する。公知技術として、例えばP. Anandan. “Computational framework and an algorithm for the measurement of visual motion”, International Journal of Computer Vision, Vol. 2, pp. 283−310, 1989が知られている。
図10(a)および(b)は、ブロックマッチングによって動き検出を行うときの基準フレームと参照フレームとを示している。動き検出部201は、基準とするフレーム(動きを求めるべく着目している時刻tにおける画像)内に、図10(a)に示す窓領域Aを設定し、窓領域内のパターンと類似するパターンを参照フレーム内で探索する。参照フレームとして、例えば着目フレームの次のフレームが利用されることが多い。
探索範囲は、図10(b)に示すように、通常、移動量ゼロの位置Bを基準に予め一定の範囲Cが設定される。また、パターンの類似の度合い(程度)は、(数1)に示す残差平方和(SSD:Sum of Square Differrences)や、(数2)に示す残差絶対値和(SAD:Sum of Absoluted Differences)を評価値として計算することによって評価する。
(数1)および(数2)において、I(x、y、t)は画像すなわち画素値の時空間的な分布であり、x,y∈Wは、基準フレームの窓領域内に含まれる画素の座標値を意味する。本実施形態では、図3において短時間露光で撮影した画像の画素値を利用して、その画像をRGBの各色毎に補間拡大した後、下記数3によって輝度成分を求め、動き検出を行う。
なお、I(x,y,t)は、(数3)に限らず、単純なRGB値の加算等にしてもよい。
動き検出部201は、探索範囲内で(u,v)を変化させることにより、上記評価値を最小とする(u,v)の組を探索し、これをフレーム間での動きベクトルとする。具体的には、窓領域の設定位置を順次シフトさせることによって、動きを画素毎もしくはブロック毎(例えば8画素×8画素)に求め、動きベクトルを生成する。
上記の様にして得られた(数1)または(数2)を最小にする(u,v)の近傍での(u,v)の値の分布に対して、1次ないし2次関数を当てはめる(等角フィッテング法やパラボラフィッティング法として知られる公知の技術)ことによって、サブピクセル精度の動き検出を行う。
ここで、H1は長時間露光のサンプリング過程、H2は短時間露光のサンプリング過程、fは新たに生成すべき高空間解像度かつ高時間解像度のG画像である。また、λLおよびλSは重みである。単板カラー撮像素子102によって撮像されたGの短時間露光画像をgS、長時間露光画像をgLとする。Mはべき指数、Qは生成すべき画像fが満たすべき条件、すなわち拘束条件である。
(数4)のべき指数Mの値は、特に限定するものではないが、演算量の観点から、1または2が好ましい。
(数4)の第1項は、生成すべきG画像fを、長時間露光のサンプリング過程H1によってサンプリングして得られた画像と、実際に長時間露光画像として得られた、gLとの差の演算を意味する。長時間露光のサンプリング過程H1を予め定めておき、この差分を最小化するfを求めると、そのfは、長時間露光によって得られたgLと最もよく整合するといえる。第2項についても同様に、差分を最小化するfは、短時間露光によって得られたgSと最もよく整合するといえる。また、第3項は、解fを一意に決定するための拘束条件項である。
そして、(数4)の評価関数Jを最小化するG画像fは、長時間露光および短時間露光によって得られたgLおよびgsの両方を総合的によく満足するといえる。画像生成部202は、(数4)を最小化するG画像fを計算することで、S/Nが改善されたRGB画像の画素値を生成する。
(数4)のJの最小化は、∂J/∂f=0となるRGB画像fを求めることによって行う。この計算は、(数4)においてM=2でかつ、Qがfの2次形式の場合には、上述のJのfによる偏微分∂J/∂fがfの1次式になるため、線形最適化問題となり連立方程式Af=bの計算に帰着する。すなわち、(数4)をfで偏微分すると、以下のとおりである。
Q1はQがfの2次形式の場合、定数マトリックス(fを含まないマトリックス)である。
一方、M=1の場合や、M=3以上の整数の場合、また、Mが整数でない場合には、非線形最適化問題となる。
計算が線形最適化問題になる場合、図11に示す共役勾配法の手順により評価関数Jを最小にするG画像fを計算することができる。図12は、図11に示す処理を行うための画像生成部202の構成例を示す。画像生成部202は、係数演算部501と、ベクトル演算部502と、演算部503とを有している。
係数演算部501は、係数行列Aを計算する。ベクトル演算部502は、定数ベクトルbを計算する。演算部503は、演算によって得られた行列Aおよびベクトルbを用いて、Af=bの連立方程式を解く。図11に示す処理は、主として演算部503の処理である。行列Aおよびベクトルbが求まり、制御部104から初期値および終了条件が与えられると図11の処理が開始される。図11の終了条件は、図11に示すk+1ステップ目での残差rk+1が十分小さくなったときである。
これにより、評価関数Jを最小化するG画像fを求めることができる。なお、図11に示すアルゴリズムは公知であるため、詳細な説明は省略する。
一方、計算が非線形最適化問題となる場合には、図13に示す準ニュートン法の手順により、Jを最小にするfを計算することができる。この手法によるJの最小化、極小化は、fの初期解から始めて、Jのfに関する勾配を用いて、よりJを小さくする様に、反復計算により解fを更新する。図13においてKkは、sk≡fk+1−fk、yk=∇J(fk)とおき、準ニュートン法のなかのDFP法では、以下のように計算する。
以下、(数4)に関してより詳しく説明する。
画像f、gLおよびgSは、動画像の各G画素値を要素とする縦ベクトルである。縦ベクトルをどのように生成するかは種々考えられる。以下では、G画像についてベクトル表記は、図14に示すようにジグザグに配列されている画素群(Gs画素およびGL画素)の画素値を、そのジグザグの順序で並べて生成された縦ベクトルを意味する。関数表記は、画素値の時空間的分布を意味する。画素値としては、輝度値の場合は、1画素につき1個の値を考えればよい。fの要素数は、例えば、生成すべき動画像を横2000画素、縦1000画素、30フレームとすると、2000×1000/2×30=30000000となる。2で除算している理由は、画像fはG画素値を要素とする縦ベクトルであり、図14などに示されている通り、G画素(Gs画素およびGL画素)の数は、全体の画素数の半分だからである。
G画像fの縦横の画素数および信号処理に用いるフレーム数は、画像処理部105によって設定される。
長時間露光のサンプリング過程H1は、行数がgLの要素数と等しく、列数がfの要素数と等しい行列である。また、短時間露光サンプリング過程H2は、行数がgSの要素数と等しく、列数がfの要素数と等しい行列である。
現在一般に普及しているコンピュータでは、動画像の画素数(例えば幅2000画素×高さ1000画素)とフレーム数(例えば30フレーム)に関する情報量が多すぎるため、(数4)を最小化するfを単一の処理で求めることはできない。本願の撮像処理装置では、2ラインごと(例えば幅2000画素×高さ2画素)のみで処理を行なうことが可能なため、メモリアクセスを大幅に削減することができる。
このように、時間的、空間的な部分領域についてfの一部を求める処理を繰り返すことにより、生成すべき動画像fを計算することができる。
次に、長時間露光のサンプリング過程H1の定式化を簡単な例を用いて説明する。以下では、幅4画素(x=1,2,3,4)、高さ2画素(y=1,2)、2フレーム(t=1,2)の画像をベイヤ配列の単板カラー撮像素子102で撮像し、y=1のラインにおいて2フレーム分時間加算する場合のgLの撮像過程について考える。ここでは、例えば図3の最も左上の4画素x2画素に対応して、y=2である2つの画素(x,y)=(2,2)、および、(4,2)におけるGLのt=1,2を想定している。
(数9)において、G111〜G422は各画素におけるGの画素値を示し、3個の添字は順にx、y、tの値を示す。
上記(数9)のうち、長時間露光を求めるために必要なのは、位置(2,2)についてはG221およびG222、位置(4,2)についてはG421およびG422である。そこで、それらの画素値のみを抽出するための行列を以下のように定義することができる。
行列H1は、長時間露光のサンプリング過程であることを考慮して設定される。すなわち、y=1および2のラインにおける長時間露光の画素を得るためには、(x,y)=(2,2)の位置におけるt=1、2の各画素値を加算し、また(x,y)=(4,2)の位置におけるt=1、2の各画素値を加算する必要がある。これらによれば、長時間露光画像の撮像過程は以下のように定式化される。
次に、短時間露光のサンプリング過程H2の定式化を簡単な例を用いて説明する。先の例と同様に、幅4画素(x=1,2,3,4)、高さ2画素(y=1,2)、2フレーム(t=1、2)の画像をベイヤ配列の撮像素子で撮像する場合について考える。
先のサンプリング過程H1の例と同様、この例もまた、図3の最も左上の4画素x2画素を想定する。ただし短時間露光であるため、図3のy=1における短時間露光画素Gsの画素値が、t=1および2について必要となる。すなわち、画素(x,y)=(1,1)、および、(3,1)におけるGsの画素値が、t=1および2について必要となる。なお、得られるG画像fの要素は、(数9)の通りである。
上記(数9)のうち、短時間露光を求めるために必要なのは、位置(1,1)についてはG111およびG112、位置(3,1)についてはG311およびG312である。そこで、それらの画素値のみを抽出するための行列を以下のように定義することができる。
(数11)や(数13)は、G画像fをベイヤ配列の単板撮像素子により露光時間を変えて撮像し、gL、gSを得る過程を示す。逆に、gL、gSからfを生成する問題は、一般に逆問題といわれる。拘束条件Qのない場合、下記(数14)を最小化するfは無数に存在する。
このことは、サンプリングされない画素値に任意の値を入れても(数14)が成り立つことから、容易に説明できる。そのため、(数14)の最小化によってG画像fを一意に解くことはできない。
そこで、G画像fについての一意な解を得るために、拘束条件Qを導入する。Qとして、画素値fの分布に関する滑らかさの拘束や、fから得られる画像の動きの分布に関する滑らかさの拘束を与える。以下、それぞれの拘束の与え方を説明する。
ここで、x’は図14に示したように、ベイヤ配列中にジグザグに配列されているG画素群をそのジグザグの順序で一方向に並べなおした方向ベクトルである。図15Aおよび15Bを参照しながら説明する。まず図15Aは図14の画素配列における各画素に座標位置を付記した図である。この図において、2個の添字は順にx、yの値を示す。図15Bは、図15Aにおいてジグザグに配列されていた画素群を、その順序で一方向に並べ直した図である。このとき、図示される方向にx‘軸およびy’軸を設定する。このx‘軸の方向が、上述した方向ベクトルの向きである。上述した例では、実際の画素は2ラインにわたって交互に配置されていたが、画素の配置を一方向に配列された画素として並び替えて処理する。
本明細書においては、実際の画素が複数のラインに亘って分散している状況であっても、画素の配置を並べ替えて一方向の画素として取り扱う。なお、図15Aおよび15Bによれば、左から右に向かって1つの方向が規定されている。しかしながら、右から左に向かって1つの方向が規定されていてもよいし、上から下、下から上など、任意の方向に沿って一方向が規定され得る。
ここで、R,Bは、図2および図3に示す配列の単板カラー撮像素子102のR画素、およびB画素を補間処理することによって、図2および図3に示す配列の単板カラー撮像素子102のG画素位置におけるR画素値、および、B画素値を求めたものである。補間処理としては、既存の公知技術である、バイリニア補間処理やバイキュービック補間処理を利用すればよい。
(数19)において、C1、C2、C3を一般的な画像におけるRGBの画素値の分布の第1主成分から、第3主成分にすることにより、滑らかさ拘束についての正則化パラメータの調整をRGB空間で行う場合よりも容易にできる。すなわち、C1成分は輝度にほぼ等しく、C2、C3成分は2つの色成分とみなせ、個別にλciを調整することによって、新たに生成される画像に対する滑らかさ拘束の各項の影響を制御できる。λC1からλC3の値は、3板撮影等で全画素読み出しした画素値が事前に用意できる場合には、生成画像のPSNR(Peak Signal to Noise Ratio)が最良となるように決めればよい。
ここで、fmaxは画素値の最大値(例えば、8ビット時255、10ビット時1023)であり、σは正解画像と生成画像との差の標準偏差である。
一方、そうでない場合には、上記の値をもとにマニュアル操作で新たに生成した画質をみながらλciを決めればよい。(数4)に示す通り、拘束条件Qも評価関数Jの一部を構成する。したがって、評価関数Jの値をできるだけ小さくするためには、拘束条件Qも小さい方が好ましい。
(数15)および(数17)に関しては、画素値fの分布の変化が少ないほど、Qの値は小さくなる。(数16)および(数18)に関しては、画素値fの分布の変化が一定であるほど、Qの値は小さくなる。これらが、画素値fの分布に関する滑らかさの拘束条件となる。
また、(数14)で||はベクトルのノルムを表す。べき指数mの値は、(数4)、(数14)におけるべき指数Mと同様に、演算量の観点から1または2が望ましい。
(数22)は(数21)による計算値に対して、近傍で平均化することになる。これにより、空間解像度は低下するが、ノイズの影響を受けにくくできる。さらに、両者の中間的なものとして、0≦α≦1の範囲のαで重み付けをして、以下の式を採用してもよい。
差分展開の計算方法は、処理結果の画質がより改善されるようにノイズレベルに応じてαを予め決めて行ってもよいし、もしくは、演算量や回路規模を少しでも小さくするために、(数21)を用いてもよい。
(数15)、(数16)に示したような、動画像fの画素値の分布に関する滑らかさの拘束を導入して(数4)を解く問題に対しては、公知の解法、例えば有限要素法等の変分問題の解法を用いて計算することができる。
また、以上のように、RGB画像fを1ライン目のGと、2ライン目のGとの2ラインごとに、2ラインごとに独立に計算することが可能なため、1次元上でのメモリアクセスのみで処理を行なうことができ、演算量ならびに回路規模を削減することができる。例えば、生成すべき動画像を横2000画素、縦1000画素とすると、幅1000画素×高さ2画素ごとに処理することが可能である。そのため、メモリアクセスを大幅に削減することができる。
次に、RGB画像fに含まれる画像の動きの分布に関する滑らかさの拘束を説明する。
ここで、uは動画像fから得られる各画素についての動きベクトルのx’方向の成分を要素とする縦ベクトル、vは動画像fから得られる各画素についての動きベクトルのy’方向の成分を要素とする縦ベクトルである。なお、x’方向およびy’方向は、図15Aおよび図15Bに示した、ベイヤ配列中にジグザクに配置されているG画素を一方向に並べなおした方向ベクトルである。
さらに、(数28)〜(数31)に示すように、(数24)〜(数27)の拘束条件を、fの画素値のこう配に応じて適応的に変化させてもよい。これにより、画像内のエッジ(輝度変化が不連続な境界)部分に対する滑らかさ拘束の影響を、画像の平坦部分と比べて小さくすることができるため、画像内のエッジをより鮮明に再現することができる。
このような重み関数を導入することにより、fの動き情報が必要以上に平滑化されることを防ぐことができ、その結果、新たに生成される画像fが必要以上に平滑化されることを防ぐことができる。
(数24)〜(数31)に示したような、画像fから得られる動きの分布に関する滑らかさの拘束を導入して(数4)を解く問題に関しては、fについての滑らかさの拘束を用いる場合と比較して複雑な計算が必要となる。新たに生成すべき画像fと動き情報(u,v)が相互に依存するためである。
この問題に対しては、公知の解法、例えばEMアルゴリズム等を用いた変分問題の解法を用いて計算することができる。その際、繰り返し計算に、新たに生成すべき画像fと動き情報(u,v)の初期値が必要になる。
fの初期値としては、入力画像の補間拡大画像を用いればよい。一方、動き情報(u,v)としては、動き検出部201において(数1)ないし(数2)を計算して求めた動き情報を用いる。その結果、画像処理部105が、上述のごとく、(数24)〜(数31)に示したような、画像fから得られる動きの分布に関する滑らかさの拘束を導入して(数4)を解くことにより、処理結果の画質を向上させることができる。
画像処理部105における処理は、(数15)、(数16)に示した画素値の分布に関する滑らかさの拘束のいずれかと、(数24)〜(数31)に示した動きの分布に関する滑らかさの拘束のいずれかの両方を組み合わせて、(数35)のように同時に用いてもよい。
ここで、Qfはfの画素値のこう配に関する滑らかさの拘束、Quvはfから得られる画像の動きの分布に関する滑らかさの拘束、λ1およびλ2はQf とQuvの拘束に関する重みである。
なお、ここでは複数の拘束条件の式について説明したが、これらの最適な組み合わせは、コスト、演算規模、回路規模等の装置の状況に応じて決定すればよい。例えば、画質が最もよくなるものを選択するようにすればよい。「画質が最もよくなる」とは、例えばその映像を確認する者の主観に基づいて決定することができる。
画素値の分布に関する滑らかさの拘束と、画像の動きの分布に関する滑らかさの拘束の両方を導入して(数4)を解く問題も、公知の解法(例えばEMアルゴリズム等を用いた変分問題の解法)を利用することができる。
また、動きに関する拘束は、(数24)〜(数31)に示した動きベクトルの分布の滑らかさに関するものに限らず、対応点間の残差(動きベクトルの始点と終点間における画素値の差)を評価値として、これを小さくするようにしてもよい。対応点間の残差は、fを関数f(x’,y’,t)として表すと、(数36)のように表すことができる。
(数37)、(数38)において、Hmはベクトルfの要素数(時空間の総G画素数)×fの要素数の行列である。Hmでは、各行において、動きベクトルの視点と終点に相当する要素だけが0でない値を持ち、それ以外の要素は0の値を持つ。動きベクトルが整数精度の場合、視点と終点に相当する要素が、それぞれ、−1と1の値を持ち、他の要素は0である。
動きベクトルがサブピクセル精度の場合には、動きベクトルのサブピクセル成分の値に応じて、終点近傍の複数の画素に相当する複数の要素が値を持つことになる。
ここで、λ3は拘束条件Qmに関する重みである。
以上述べた方法により、動き検出部201でGSとRSとBSの短時間露光画像から抽出した動き情報を用いることにより、ベイヤ配列の撮像素子によって撮像されたG動画像を画像処理部105で信号対雑音比(S/N)を向上させ、色にじみの少ない新たな動画像を生成することができる。
さらに、こうして生成したG画像と、RSとBSの短時間露光画像を利用し、公知のデモザイキング処理を行なうことにより、画像処理部105は信号対雑音比(S/N)を向上させ、色にじみの少ない新たな動画像を生成することができる。本願の撮像処理装置は、2ラインごとに処理を行なうため、1次元上でのメモリアクセスのみで処理を行なうことができ、演算量ならびに回路規模を削減することができる。
また、本願の撮像処理装置は、G画像のみを生成し、R/B画素に関しては入力画像をそのまま利用することにより、演算量ならびに回路規模を削減しながら、色ずれを生じさせることなく、S/Nをより改善することができる。
なお、上述した画像処理部105におけるR,G,Bの画素値の計算方法は一例であり、他の計算方法を採用してもよい。
他の方法として、例えば最急勾配法などの反復演算型の最適化手法を用いて望ましい目的画像を求めてもよい。
以上説明したように、実施形態1によれば、単板撮像素子に時間加算の機能を付加し、2ラインごとに時間加算された入力画像から新たな画像を生成することによって、撮像時に光量を確保しつつ高解像度かつ高フレームレートで、色にじみの少ない画像(時間加算を行なわずに全画素を読み出した画像)を推定し生成することができる。
(実施形態1の変形例)
実施形態1では、画像処理部105における処理に、(数10)や(数12)を用いた劣化拘束、動き検出を用いた動き拘束、画素値の分布に関する滑らかさ拘束の全てを用いる場合を主に述べた。
実施形態1では、画像処理部105における処理に、(数10)や(数12)を用いた劣化拘束、動き検出を用いた動き拘束、画素値の分布に関する滑らかさ拘束の全てを用いる場合を主に述べた。
種々の拘束のうち、特に動き拘束については演算量が多く、装置の計算機資源を必要とする。そこで本変形例においては、これらの拘束のうち動き拘束を用いない処理を説明する。
図16は、動き検出部201を含まない画像処理部105を有する撮像処理装置200の構成を示すブロック図である。画像処理部105の画像生成部111は、動き拘束を用いることなく、新たな画像を生成する。
図16において、図1および図8と同じ動作をする構成要素には、図1および図8と同一の符号を付し、説明を省略する。
従来の技術では、動き拘束を用いない場合、処理結果に明らかな画質の低下が生じる。
しかしながら、本発明では顕著な画質低下を生じさせずに動き拘束を省くことができる。その理由は、G画像を生成する際、2ラインでジグザグ方向にスキャンすることにより、単板カラー撮像素子102の長時間露光および短時間露光を行うそれぞれの画素が、順番に混在しているためである。短時間露光によって撮影された画素と長時間露光によって撮影された画素が順番に混在するため、動き拘束を用いずに画像を生成した際に、短時間露光によって撮影された画素値が色にじみの発生を抑える効果がある。さらに、動き拘束条件を課すことなく新たな動画像を生成するため、演算量ならびに回路規模を低減することができる。
以下に、画像生成部111による高画質化処理を説明する。
(数4)においてM=2とし、Qとして(数17)ないし(数18)を用い、これらの式におけるmを2とする。そして、1階微分、2階微分の差分展開として(数21)、(数22)、(数23)のいずれかを用いると、評価式Jはfの2次式となる。評価式を最小化するfの計算は、(数40)により、fについての連立方程式の計算に帰着する。
(数41)において、fは生成する画素数(1フレームのG画素数×処理するフレーム数)分の要素を持つため、(数41)の計算量は通常、非常に大規模になる。しかし、本願の撮像処理装置では、2ラインごと(例えば幅1000画素×高さ2画素×処理するフレーム数)のみで処理を行なうことが可能なため、メモリアクセスを大幅に削減し、演算量ならびに回路規模を削減することができる。
このような連立方程式の解法として、共役勾配法や最急降下法等の繰り返し計算により解fを収束させる方法(繰り返し法)が一般的に用いられる。
動き拘束を用いずにfを求める際には、評価関数が劣化拘束項と滑らかさ拘束項だけになるため、処理がコンテンツに依存しなくなる。このことを利用すると、連立方程式(数41)の係数行列Aの逆行列をあらかじめ計算でき、これを用いることで直接法により画像処理を行うようにできる。
(数18)に示す滑らかさ拘束を用いる場合、x’方向の2階偏微分は、例えば、(数21)に示すように1,−2,1の3つの係数のフィルタとなり、その2乗は1,−4,6,−4,1の5つの係数のフィルタとなる。これらの係数は、水平方向のフーリエ変換と逆変換とで係数行列を挟むことにより、対角化することができる。同様に、長時間露光の劣化拘束も、時間方向のフーリエ変換と逆フーリエ変換とで係数行列を挟むことにより、対角化することができる。すなわち、(数42)のように行列をΛと置くことができる。
これにより、1行あたりのノンゼロ係数の数を係数行列Aと比べて低減させることができる。その結果、Λの逆行列Λ-1の計算が容易になる。そして、(数43)および(数44)により、fを直接法により、繰り返し計算を行わずに、より少ない演算量と回路規模で求めることができる。
(実施形態2)
近年、多くの機器において電子式ビューファインダが利用され始めている。しかしながら、特許文献1に記載の技術によってそのような電子式ビューファインダを実現しようとすると、撮影時にビューファインダに色にじみや遅延のない映像を表示することが困難であった。その理由は、ある1つの色について全画素で長時間露光をしているためである。
近年、多くの機器において電子式ビューファインダが利用され始めている。しかしながら、特許文献1に記載の技術によってそのような電子式ビューファインダを実現しようとすると、撮影時にビューファインダに色にじみや遅延のない映像を表示することが困難であった。その理由は、ある1つの色について全画素で長時間露光をしているためである。
これに対して、本発明の実施形態2では、第1色から第3色までのすべてで、一部またはすべての画素を短時間露光で撮影している。そのため、本実施形態では、短時間露光で撮影された画素の情報をビューファインダに表示することにより、遅延や色にじみのない映像を撮影者に提示する。
図17は、本実施形態における撮像処理装置400の構成を示すブロック図である。図17において、図1と同一の動作をするものについては、図1と同一の符号を付し、説明を省略する。
撮像処理装置400は、光学系101と、単板カラー撮像素子102と、読み出し制御部103と、制御部104と、画像処理部105と、表示制御部801と、表示部802とを備えている。
単板カラー撮像素子102によって短時間露光撮影された画素信号は、表示制御部801に入力される。
表示制御部801は、入力された短時間露光画像の画素信号に表示のための処理を施す。たとえば表示制御部801は、簡単な補間処理によって、RGB各色のサンプリング位置を揃え、また、アスペクト比を調整する。本願の撮像処理装置では、RGGB4画素のうち、RGB3画素を短時間露光で撮影する。そのため、表示制御部801は、これらの短時間露光画素を補間処理することで、表示のための処理を行なう。
一例として、図18は、短時間露光画像を構成するR,G,およびBの各色画像に補間処理を行い、その後、各色画像を縮小して表示部802に表示するための各色画像を生成する処理の概念図である。他の例として、図19は、短時間露光画像を構成するR,G,およびBの各色画像に補間処理およびアスペクト比の変更処理を行って表示部802に表示するための各色画像を生成する処理の概念図である。表示制御部801は、図18および図19に示すような処理を行った後、各色画像に、サンプリング位置を揃えるための位置合わせ処理を行い、表示部802に表示する。
撮影者は、表示された画像を見ることで、構図やフォーカス調整を行うことができる。
以上述べたように、本発明にかかる撮像処理装置は、光学系、撮像素子、読み出し制御部、画像処理部を有し、小型撮像素子による高解像度かつ高感度撮影向けの技術として有用である。
なお、上述の実施形態では、読み出し制御部103、制御部104、画像処理部105、表示制御部801は異なる構成要素として図示し、説明した。また、表示制御部509および画像処理部510(図13)も異なる構成要素として図示し、説明した。これらは各々が別個のプロセッサによって実現され得る。しかしながらその構成は一例である。2以上の構成要素の機能を、1つのプロセッサによって実現してもよい。もちろん、全ての構成要素の機能を、1つのプロセッサによって実現してもよい。その場合には、たとえば上述した各構成要素の動作に対応する動作を行うためのプログラムモジュールを用意しておき、当該プロセッサがある時点においていずれか1つのまたは複数のプログラムモジュールを実行すればよい。これにより、上述した各構成要素の動作が1つプロセッサによって実現されることになる。
上述したある例示的な実施形態によれば、撮像処理装置の単板カラー撮像素子は、所定のフレームレートに対応する露光時間で露光して得られた画素信号が読み出される複数の第1画素(短時間露光画素)および当該所定のフレームレートよりも長い露光時間で露光して得られた画素信号が読み出される複数の第2画素(長時間露光画素)を有している。この単板カラー撮像素子は、第1色成分の光を第1画素および第2画素の各々で検出し、第2色成分および第3色成分の光は第1画素で検出する画素が複数設けられている。この単板カラー撮像素子を用いることで、2ラインごとに第1色成分について、あるフレームレートで動画像の画素信号と、当該フレームレートよりも長い露光時間で撮影された動画像の画素信号とが得られる。これにより、第1色成分の動画像を常に長時間露光によって撮影した場合と比較して、被写体の動きに起因する色にじみを抑制した画像信号を得ることができる。
本願の他の例示的な実施形態によれば、撮像処理装置は、複数の画素を、2種類の画素、すなわち長時間露光の画素と、短時間露光の画素とに分け、各種類の画素から信号を読み出す。そして、読み出し信号に対して、新たな画像を生成する処理を行うことにより、全て長時間露光のみによって画像信号を得た場合と比較して被写体の動きに起因する色にじみを抑制した画像信号を得ることができる。
なお、本明細書における画像処理部105は装置として実現されなくてもよい。例えば、コンピュータである汎用のプロセッサがコンピュータ読み取り可能な記録媒体に記録されたコンピュータプログラムを実行することにより、上述した画像処理部105の動作を行ってもよい。そのようなコンピュータプログラムは、たとえば図9のフローチャートによって実現される処理をコンピュータに実行させるための命令群を含んでいる。コンピュータプログラムは、CD−ROM等の記録媒体に記録されて製品として市場に流通され、または、インターネット等の電気通信回線を通じて伝送される。
上述の実施形態においては、R,GおよびBの3色でカラー動画像を撮影し、Gのみ短時間露光と長時間露光の両方で撮像するとして説明した。しかしながら、これらの色成分の分け方は一例である。例えば、シアン、マゼンタ、イエローの3色のカラーフィルタを用いてもよい。また、3色ではなく、2色または4色以上のフィルタを用いてもよい。
本発明の撮像装置および処理装置は、低光量時の高解像度撮影や小型画素による撮像に有用である。また、プログラムとしても適用が可能である。
100 撮像処理装置
101 光学系
102 単板カラー撮像素子
103 読み出し制御部
104 制御部
105 画像処理部
101 光学系
102 単板カラー撮像素子
103 読み出し制御部
104 制御部
105 画像処理部
Claims (7)
- 第1露光時間で画素値を読み出すことが可能な第1種類の複数の画素および前記第1露光時間よりも長い第2露光時間で画素値を読み出すことが可能な第2種類の複数の画素を有する単板カラー撮像素子と、
前記第1種類の複数の画素から前記第1露光時間で読み出された画素値と、前記第2種類の複数の画素から前記第2露光時間で読み出された画素値とに基づいて、所定のフレームレートを有する新たな動画像を生成する画像処理部と
を備えた撮像処理装置であって、
前記単板カラー撮像素子は、第1色成分の光を前記第1露光時間および前記第2露光時間の各々で検出し、第2色成分および第3色成分の光を前記第1露光時間で検出し、
前記画像処理部は、
前記第1色成分の光を検出した前記第1画素および前記第2画素の画素値に基づいて得られた、被写体の前記第1色成分の動画像を受け取り、
(a)前記第1露光時間で読み出された前記第1色成分の動画像と、前記新たな動画像を前記第1露光時間でサンプリングして得られた動画像との第1の差、
(b)前記第2露光時間で読み出された前記第1色成分の動画像と、前記新たな動画像を前記第2露光時間でサンプリングして得られた動画像との第2の差、および
(c)画素値の分布に関する拘束条件項であって、前記第1色成分の動画像を構成する画像の、複数のラインにわたって配置されている画素群を一方向に配列された画素群として並び替えたときの前記画素群の画素値の分布に関する拘束条件項
を含む評価式を設定し、前記評価式を予め定められた所定の条件で満足する動画像を、前記新たな動画像として求める、撮像処理装置。 - 前記画像処理部は、前記新たな動画像の画素値の分布の変化が少なくなるよう、または、前記新たな動画像の画素値の変化が一定になるよう、前記拘束条件項を設定する、請求項1に記載の撮像処理装置。
- 前記画像処理部は、前記評価式を最小化する動画像を、前記新たな動画像として求める、請求項2に記載の撮像処理装置。
- 前記画像処理部は、前記第1色成分の動画像を構成する画像の、2ラインにわたって配置されている画素群を一方向に配列された画素群として並び替えたときの前記画素群の画素値の分布に関する拘束条件項を設定する、請求項1に記載の撮像処理装置。
- 前記第1色成分の動画像を構成する画像は、直交する第1方向および第2方向に沿って配列された画素群によって構成されており、
前記第2方向に沿って隣接する第1ラインおよび第2ラインに関し、前記第1色成分の画素群は、第1方向に沿って、前記第1ラインおよび前記第2ラインに交互に配列され、
前記画像処理部は、交互に配列された前記第1色成分の画素群を、一方向に配列された画素群として並び替えたときの前記画素群の画素値の分布に関する拘束条件項を設定する、請求項4に記載の撮像処理装置。 - 前記画像処理部は、
前記第1露光時間で読み出された画素値に基づいて得られた前記第1色成分の動画像、前記第2色成分の動画像および前記第3色成分の動画像を利用して、前記被写体の動きを検出する動き検出部と、
前記動きの検出結果を利用して前記新たな動画像の動きの分布に関する拘束条件項を設定し、前記動きの分布に関する拘束条件項をさらに含む前記評価式を最小化する動画像を、前記新たな動画像として求める画像生成部と
を備えた、請求項1から4のいずれかに記載の撮像処理装置。 - 前記第1露光時間で読み出された画素値に基づいて得られた前記第1色成分の動画像、前記第2色成分の動画像および前記第3色成分の動画像に、表示のために予め定められた画像処理を施す表示制御部と、
前記表示制御部によって画像処理された前記第1動画像、前記第2動画像および前記第3動画像を表示する表示部と
をさらに備えた、請求項1から6のいずれかに記載の撮像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012095422A JP2013223208A (ja) | 2012-04-19 | 2012-04-19 | 撮像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012095422A JP2013223208A (ja) | 2012-04-19 | 2012-04-19 | 撮像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013223208A true JP2013223208A (ja) | 2013-10-28 |
Family
ID=49593863
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012095422A Pending JP2013223208A (ja) | 2012-04-19 | 2012-04-19 | 撮像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013223208A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016009534A1 (ja) * | 2014-07-17 | 2016-01-21 | 日立マクセル株式会社 | 撮像センサおよびそれを用いたデジタルカメラおよびその制御方法 |
-
2012
- 2012-04-19 JP JP2012095422A patent/JP2013223208A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016009534A1 (ja) * | 2014-07-17 | 2016-01-21 | 日立マクセル株式会社 | 撮像センサおよびそれを用いたデジタルカメラおよびその制御方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2013223209A (ja) | 撮像処理装置 | |
JP4598162B2 (ja) | 撮像処理装置 | |
JP5017419B2 (ja) | 画像生成装置、画像生成方法、およびプログラム | |
JP5128726B1 (ja) | 固体撮像素子および当該素子を備える撮像装置 | |
JP4019417B2 (ja) | 画像処理装置および方法、記録媒体、並びにプログラム | |
JP4215267B2 (ja) | 画像生成装置および画像生成方法 | |
JP6711612B2 (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
JP5002738B2 (ja) | 画像生成装置 | |
JP5096645B1 (ja) | 画像生成装置、画像生成システム、方法、およびプログラム | |
US20130010153A1 (en) | Image pickup apparatus and image pickup apparatus control method, and program | |
JP2020043435A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
US20140078346A1 (en) | Imaging device and image generation method | |
JP6622481B2 (ja) | 撮像装置、撮像システム、撮像装置の信号処理方法、信号処理方法 | |
JP2013066157A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP2013223208A (ja) | 撮像処理装置 | |
JP2012216957A (ja) | 撮像処理装置 | |
JP2011015228A (ja) | 画像処理装置、撮像処理装置、画像処理方法、および、画像処理装置の制御プログラム | |
JP4708180B2 (ja) | 画像処理装置 | |
JP2013223211A (ja) | 撮像処理装置、撮像処理方法、およびプログラム | |
JP2013223207A (ja) | 撮像処理装置 | |
JP4478981B2 (ja) | 色雑音低減手法およびカラー撮像装置 | |
JP2012142676A (ja) | 撮像装置及び画像生成方法 | |
JP2013223210A (ja) | 撮像処理装置、撮像処理方法、およびプログラム | |
JP6818461B2 (ja) | 撮像装置、画像処理装置、画像処理方法および画像処理プログラム | |
JP5501884B2 (ja) | 色ずれ補正装置 |