JP2011228906A - 映像フォーマット変換装置及び映像フォーマット逆変換装置、並びにこれらのプログラム - Google Patents
映像フォーマット変換装置及び映像フォーマット逆変換装置、並びにこれらのプログラム Download PDFInfo
- Publication number
- JP2011228906A JP2011228906A JP2010096243A JP2010096243A JP2011228906A JP 2011228906 A JP2011228906 A JP 2011228906A JP 2010096243 A JP2010096243 A JP 2010096243A JP 2010096243 A JP2010096243 A JP 2010096243A JP 2011228906 A JP2011228906 A JP 2011228906A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- video
- format
- phase shift
- primary colors
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 239000011159 matrix material Substances 0.000 claims abstract description 72
- 230000010363 phase shift Effects 0.000 claims abstract description 69
- 239000003086 colorant Substances 0.000 claims abstract description 43
- 238000006243 chemical reaction Methods 0.000 claims description 61
- 230000004048 modification Effects 0.000 description 8
- 238000012986 modification Methods 0.000 description 8
- 238000000034 method Methods 0.000 description 7
- 238000005070 sampling Methods 0.000 description 6
- 230000006866 deterioration Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- QNRATNLHPGXHMA-XZHTYLCXSA-N (r)-(6-ethoxyquinolin-4-yl)-[(2s,4s,5r)-5-ethyl-1-azabicyclo[2.2.2]octan-2-yl]methanol;hydrochloride Chemical compound Cl.C([C@H]([C@H](C1)CC)C2)CN1[C@@H]2[C@H](O)C1=CC=NC2=CC=C(OCC)C=C21 QNRATNLHPGXHMA-XZHTYLCXSA-N 0.000 description 2
- 230000002411 adverse Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
【課題】斜方格子画素構造を有する三原色形式の映像信号を輝度・色差形式の映像信号に変換する映像フォーマット変換装置及び映像フォーマット逆変換装置、並びにこれらのプログラムを提供する。
【解決手段】本発明の映像フォーマット変換装置(10)は、三原色形式の映像信号を入力して、前記三原色のうちの1つ以上の原色の映像信号に対して、前記三原色のうちの2つ以上の原色の映像信号が2次元空間位置として一致するように、前記三原色形式の映像信号に対して位相シフトを実行する位相シフト部(2−1乃至2−4)と、位相シフトした三原色形式の映像信号を入力して、所定のマトリックス演算を実行し、前記輝度・色差形式の映像信号に変換するマトリックス演算部(3−1乃至3−4)とを備える。
【選択図】図1
【解決手段】本発明の映像フォーマット変換装置(10)は、三原色形式の映像信号を入力して、前記三原色のうちの1つ以上の原色の映像信号に対して、前記三原色のうちの2つ以上の原色の映像信号が2次元空間位置として一致するように、前記三原色形式の映像信号に対して位相シフトを実行する位相シフト部(2−1乃至2−4)と、位相シフトした三原色形式の映像信号を入力して、所定のマトリックス演算を実行し、前記輝度・色差形式の映像信号に変換するマトリックス演算部(3−1乃至3−4)とを備える。
【選択図】図1
Description
本発明は、斜方格子画素構造を有する三原色形式の映像信号を輝度・色差形式の映像信号に変換する映像フォーマット変換装置及び映像フォーマット逆変換装置、並びにこれらのプログラムに関する。
デジタルスチルカメラや単板式ビデオカメラにおいては、3原色の画素が図7に示すように配置されている、いわゆるベイヤ配列の撮像が用いられる。
スーパーハイビジョンの撮像においても、3300万画素の撮像素子を用いる代わりに、800万画素の撮像素子を4枚(緑に2枚、青、赤に各1枚)用い、4枚の撮像素子の画素の位置関係を上記のように設定して等価的にスーパーハイビジョンの解像度を得ることが行われている(例えば、非特許文献1参照)。
例えば、4000本級映像の撮影、表示システムでは、斜方格子サンプリング構造の緑色信号と、この緑色信号の半分の画素数で正方格子サンプリング構造の青色信号と、同じく緑色信号の半分の画素数で正方格子サンプリング構造の赤色信号とが用いられる。
なお、緑色信号と、青色信号および赤色信号とについて、サンプリング構造が違う理由は、人間の視覚特性を考慮して、より少ない画素数で映像信号を表現しようとしたからである。
ところで、従来、緑色、青色、赤色の三原色の三原色信号は、正方格子サンプリングされた輝度信号と色差信号とで表現される映像信号に変換することがよく行われている。この変換は、輝度信号の帯域に比べ、色差信号の帯域を狭くしても検知されにくいという人間の視覚特性を利用して、伝送帯域や記録帯域を節約するために行われるものである。
また、映像信号のデジタル圧縮符号化においても、輝度信号と色差信号とで表現される映像信号が符号化映像フォーマットとして用いられることが多い。
例えば、緑色(G)、青色(B)、赤色(R)の3原色で撮像された信号を伝送する際は、視覚特性に合った効率的な処理をするために、マトリックスを用いて輝度信号(Y)、色差信号(U,V)に変換されることが多い。
ベイヤ配列で撮像されたRGB信号(図7参照)は、通常、内挿補間により、同一の位置にある同数のRGB標本点群(図8(A)参照)に変換され、その後、同一位置にあるRGB標本を用いてマトリックスによりYUV信号に変換される(図8(B)参照)。
さらに、4:2:2フォーマットと呼ばれる色差信号を間引いたフォーマットでは、色差信号(U,V)は図9に示すようなサンプル数・位置になる。
この場合、符号化処理などを経て伝送されるサンプル数はもとのベイヤ配列のRGB信号のサンプル数の倍になっている(図8(A)、(B)に示す4:2:2フォーマットにする前の段階では3倍のサンプル数)。
これは伝送情報量、また、処理装置がデータを扱う速度、処理装置が必要とするメモリの量の点で負担になる。
そこで、内挿によるサンプル数の増加を行わず、元のサンプルであるRGB信号だけを用いた線形和処理によりYUV信号を生成したうえで、走査変換により擬似的な4:2:2フォーマットのYUV信号を構成する技術がある(例えば、特許文献1参照)。例えば、図10(A)及び図10(B)に示すように、マトリックス演算後に走査変換(画素位置の移動)を行う。なお、RGB信号に対する位相シフト処理は行わないため、マトリックス演算は、異なる位置にあるRGB標本を用いて行う。これにより伝送すべきサンプル数は増加しないため、上記負担の問題を解消することができる。
日本放送協会、技研R&D、「走査線4000本級4板式超高精細動画カメラ」、2004年1月(通巻83号)、pp.44−51
しかしながら、特許文献1に開示される技術では、走査変換により、サンプル点群の本来の画面上の画素位置関係と擬似的な4:2:2フォーマットのYUV信号として出力される信号の配列上の位置関係にずれが生じることになる。例えば、本来直線であった画像信号がジグザグな線として表現されることもある。
これはMPEGなどの圧縮符号化においては符号化効率の低下や復号画像の劣化につながる。特にY信号における位置ずれの影響は大きい。
また、特許文献1の方法では空間的位置がわずかに異なるRGB信号を使ってマトリックスを用いて変換するため、ぼけや色にじみの要因になる。
本発明の目的は、上述の問題に鑑みて為されたものであり、斜方格子画素構造を有する三原色形式の映像信号を、原色間空間ずれを抑制して輝度・色差形式の映像信号に変換する映像フォーマット変換装置及び映像フォーマット逆変換装置、並びにこれらのプログラムを提供することにある。
本発明は、マトリックスを用いて三原色形式の映像信号(RGB信号)から輝度・色差形式の映像信号(YUV信号)に変換する前に、サンプル点の位相シフトを行い、サンプル点群の配列上の位置関係と信号の画面上での位置関係を一致させて、マトリックス演算を実行する。
即ち、本発明の映像フォーマット変換装置は、斜方格子画素構造を有する三原色形式の映像信号を輝度・色差形式の映像信号に変換する映像フォーマット変換装置であって、前記三原色形式の映像信号を入力して、前記三原色のうちの2つ以上の原色の映像信号が2次元空間位置として一致するように、前記三原色形式の映像信号に対して位相シフトを実行する位相シフト手段と、前記位相シフトした三原色形式の映像信号を入力して、所定のマトリックス演算を実行し、前記輝度・色差形式の映像信号に変換するマトリックス演算手段と、を備えることを特徴とする。
また、本発明の映像フォーマット変換装置において、前記位相シフト手段は、前記三原色の全ての原色の映像信号が2次元空間位置として一致するように、前記三原色形式の映像信号に対して位相シフトを実行することを特徴とする。
また、本発明の映像フォーマット変換装置において、前記斜方格子画素構造を有する三原色形式の映像信号は、ベイヤ配列のRGB信号からなることを特徴とする。
また、本発明の映像フォーマット変換装置において、前記位相シフト手段は、ベイヤ配列のRGB信号からなる三原色のうちのG信号に対して位相シフトを実行することを特徴とする。
また、本発明の映像フォーマット変換装置において、前記輝度・色差形式の映像信号は、4:2:2フォーマットの映像信号からなることを特徴とする。
さらに、本発明の映像フォーマット逆変換装置は、本発明の映像フォーマット変換装置から前記輝度・色差形式の映像信号を入力して逆変換を施す映像フォーマット逆変換装置であって、該輝度・色差形式の映像信号を入力して、前記マトリックス演算とは逆行列を構成する逆マトリックス演算を実行する逆マトリックス演算手段と、前記逆マトリックス演算を実行して得られる信号に対して前記位相シフトとは逆位相シフトを施す逆位相シフト手段と、を備えることを特徴とする。
さらに、本発明は、斜方格子画素構造を有する三原色形式の映像信号を輝度・色差形式の映像信号に変換する映像フォーマット変換装置として構成するコンピュータに、前記三原色形式の映像信号を入力して、前記三原色のうちの2つ以上の原色の映像信号が2次元空間位置として一致するように、前記三原色形式の映像信号に対して位相シフトを実行するステップと、前記位相シフトした三原色形式の映像信号を入力して、所定のマトリックス演算を実行し、前記輝度・色差形式の映像信号に変換するステップと、を実行させるためのプログラムとして構成される。
さらに、本発明は、本発明の映像フォーマット変換装置から前記輝度・色差形式の映像信号を入力して逆変換を施す映像フォーマット逆変換装置として構成するコンピュータに、該輝度・色差形式の映像信号を入力して、前記マトリックス演算とは逆行列を構成する逆マトリックス演算を実行するステップと、前記逆マトリックス演算を実行して得られる信号に対して前記位相シフトとは逆位相シフトを実行させるためのプログラムとして構成される。
本発明によれば、斜方格子画素構造を有する三原色形式の映像信号(RGB信号)を輝度・色差形式の映像信号(YUV信号)に変換するにあたり、YUV信号導出に必要な同一位置のRGB信号を容易に得ることができる上、本来の画像上の位置関係にそのまま対応したYUVの配列が得られるようになり、2次元的な相関を利用した符号化処理など、その後の信号処理に悪影響を与えないで済むようになる。
また、本発明によれば、サンプル数の増加もない上に、特許文献2の手法で発生しうるRGB信号の位置ずれに起因する劣化もなくなる。
以下、本発明による実施例1の映像フォーマット変換装置を説明する。
〔実施例1(水平位相シフト)〕
図1は、本発明による実施例1の映像フォーマット変換装置のブロック図である。本実施例の映像フォーマット変換装置10は、斜方格子画素構造(ベイヤ配列)を有する三原色形式の映像信号(G(G1[第一緑色画素]、G2[第二緑色画素])、B[青色画素]、R[赤色画素])を入力して、原色間空間ずれを抑制して輝度・色差形式(4:2:2フォーマット)の映像信号(YUV信号)に変換する装置である。映像フォーマット変換装置10は、制御部1及び記憶部4を備え、制御部1は、第1乃至第4位相シフト部2−1乃至2−4と、第1乃至第4マトリックス演算部3−1乃至3−4とを備える。尚、斜方格子画素構造(斜方格子サンプリング構造)は、空間的な画素配置において、単位領域内に隣接する画素が斜め方向に並んでいる構造を指すものである。これに対して、正方格子画素構造(正方格子サンプリング構造)は、空間的な画素配置において、単位領域内に隣接する画素が格子状(縦横方向)に並んでいる構造を指すものである。空間的な画素配置は、行・列で表され、「上下に位置する」とは、同一列上の隣接行画素を云う。また、「左右に位置する」とは、同一行上の隣接列画素を云う。以下、図2を参照して説明する。
図1は、本発明による実施例1の映像フォーマット変換装置のブロック図である。本実施例の映像フォーマット変換装置10は、斜方格子画素構造(ベイヤ配列)を有する三原色形式の映像信号(G(G1[第一緑色画素]、G2[第二緑色画素])、B[青色画素]、R[赤色画素])を入力して、原色間空間ずれを抑制して輝度・色差形式(4:2:2フォーマット)の映像信号(YUV信号)に変換する装置である。映像フォーマット変換装置10は、制御部1及び記憶部4を備え、制御部1は、第1乃至第4位相シフト部2−1乃至2−4と、第1乃至第4マトリックス演算部3−1乃至3−4とを備える。尚、斜方格子画素構造(斜方格子サンプリング構造)は、空間的な画素配置において、単位領域内に隣接する画素が斜め方向に並んでいる構造を指すものである。これに対して、正方格子画素構造(正方格子サンプリング構造)は、空間的な画素配置において、単位領域内に隣接する画素が格子状(縦横方向)に並んでいる構造を指すものである。空間的な画素配置は、行・列で表され、「上下に位置する」とは、同一列上の隣接行画素を云う。また、「左右に位置する」とは、同一行上の隣接列画素を云う。以下、図2を参照して説明する。
尚、映像フォーマット変換装置10は、コンピュータとして構成することができ、制御部1の各機能を実現する処理内容を記述したプログラムを、当該コンピュータの記憶部14に格納しておき、当該コンピュータの中央演算処理装置(CPU)によってこのプログラムを読み出して実行させることで実現することができる。
第1位相シフト部2−1は、G1信号を入力とし、当該G1信号の右に位置するG1信号をG1rとすると、当該G1信号を右に1/2画素シフトする際はG1’ = (3*G1 + G1r)/4によりG1’を生成して出力する。ただし、同量の位相シフトを行うものであれば、この処理の限りではない。
第2位相シフト部2−2は、G2信号を入力とし、当該G2信号の左に位置するG2信号をG2lとすると、当該G2信号を左に1/2画素シフトする際はG2’ = (3*G2 + G2l)/4によりG2’を生成して出力する。ただし、同量の位相シフトを行うものであれば、この処理の限りではない。
第3位相シフト部2−3は、R信号に対して、第2位相シフト部2−2と同様の動作をする。
第4位相シフト部2−4は、B信号に対して、第1位相シフト部2−1と同様の動作をする。
ここで、R,B信号のサンプル数がGの半分であるため、欠落しているサンプル点は上下、左右に隣接するサンプルから内挿しながらマトリックス計算を行う。図2中のR’’, B’’は仮想的に内挿される点であるが、マトリックスの演算に含ませることができる。例えば、欠落しているR’信号の上下に位置するR’信号をR’u, R’lとすると、当該位置のYUV信号はその位置のG’信号, B’信号, (R’u+R’l)/2から得られるR’’信号により生成できる(B’’信号の場合も同様である)。或いは又、欠落しているR’信号の上下に位置するR’信号の加算配分を大きくして、隣接するR’信号と重加算演算してR’’信号を生成することもでき、B’’信号についても同様である。
また、U,V信号は4:2:2にするためにU,V信号作成に使用しないRGB信号が発生する場合には、R’信号,B’信号の存在位置でU信号,V信号を計算し、U信号,V信号については走査変換を行うように構成することもできる。
また、上記の例では、RGB信号のすべてに位相シフトを行ったが、影響の大きいG信号だけシフトを行い、R信号,B信号はシフトを行わずにマトリックス演算に用いることもある。或いは、G信号の位相シフトに加え、R信号,B信号は、G1,G2信号の中央の位置への位相シフトだけを行い、内挿による生成を省略することもできる。
従って、ベイヤ状に配列されたR,B,G1,G2信号を位相シフトして、画像上の位置があったサンプル点を作ることができる。すなわち、実施例1では、G1およびBは1/2画素右に、G2およびRは1/2画素左にシフトさせ、各々、G1’, B’, G2’, R’を生成することにより、水平位置の合ったRGB信号が得られる。
次に同一位置のRGB信号からYUV信号を作る。
第1マトリックス演算部3−1は、位相シフトされたG1信号、位相シフトされたG1信号と同一位置に位相シフトされたR信号、および位相シフトされたG1信号の上下の位置に位相シフトされた2つのB信号を入力とし、2つの位相シフトされたB信号の平均値に対してマトリックス演算を実行してY1信号を出力する。
第2マトリックス演算部3−2は、位相シフトされたG2信号、位相シフトされたG2信号と同一位置に位相シフトされたB信号、および位相シフトされたG2信号の上下の位置に位相シフトされた2つのR信号を入力とし、2つの位相シフトされたR信号の平均値に対してマトリックス演算を実行してY2信号を出力する。
第3マトリックス演算部3−3と第4マトリックス演算部3−4は、それぞれ、マトリックス演算によりu信号、v信号を出力する。位相シフトされたG1信号(G1’)の位置においては、位相シフトされたG1信号(G1’)、その同一位置に位相シフトされたR信号(R’)、その上下の位置に位相シフトされた2つのB信号(Bu’、Bl’)およびG2信号(G2u’、G2l’)を入力として、(2*G1’+G2u’+G2l’)/4、(Bu’+Bl’)/2、R’にマトリックス演算を実行する。一方、位相シフトされたG2信号(G2’)の位置においては、位相シフトされたG2信号(G2’)、その同一位置に位相シフトされたB信号(B’)、その上下の位置に位相シフトされた2つのR信号(Ru’、Rl’)およびG1信号(G1u’、G1l’)を入力として、(2*G2’+G1u’+G1l’)/4、B’、(Ru’+Rl’)/2にマトリックス演算を実行する。
位相シフト、および内挿に用いるサンプル数、フィルタ係数は所定の位相を維持する限り特に限定はない。また、若干の誤差を許して、部分的に位相シフト処理、内挿処理を省くことも可能である。たとえば、第3、第4マトリックスにおいて、2*G1’+G2u’+G2l’の代わりにG1’、2*G2’+G1u’+G1l’の代わりにG2’を用いてもよい。
このように、斜方格子画素構造を有する三原色形式の映像信号(RGB信号)を輝度・色差形式の映像信号(YUV信号)に変換するにあたり、YUV信号導出に必要な同一位置のRGB信号を容易に得ることができる上、本来の画像上の位置関係にそのまま対応したYUVの配列が得られるようになり、2次元的な相関を利用した符号化処理など、その後の信号処理に悪影響を与えないで済むようになる。サンプル数の増加もない上に、特許文献2の手法で発生しうるRGB信号の位置ずれに起因する劣化もなくなる。
次に、本発明による実施例2の映像フォーマット変換装置を説明する。
〔実施例2(垂直シフト)〕
本発明による実施例2の映像フォーマット変換装置は、図3を参照して説明するが、図1に示すものと同様に構成することができる。従って、図3を援用して実施例2を説明するため、実施例1と同様な構成要素には同一の参照番号を付して説明する。実施例2の映像フォーマット変換装置は、垂直方向にRGB信号の位相シフトを行うことでRGB間の位置合わせ、および画像上の位置関係とサンプル配列の位置関係を一致させる例である。この場合も、B信号,R信号は位相シフトの対象から外すことも可能である。
本発明による実施例2の映像フォーマット変換装置は、図3を参照して説明するが、図1に示すものと同様に構成することができる。従って、図3を援用して実施例2を説明するため、実施例1と同様な構成要素には同一の参照番号を付して説明する。実施例2の映像フォーマット変換装置は、垂直方向にRGB信号の位相シフトを行うことでRGB間の位置合わせ、および画像上の位置関係とサンプル配列の位置関係を一致させる例である。この場合も、B信号,R信号は位相シフトの対象から外すことも可能である。
第1位相シフト部2−1は、G1信号を入力とし、その直下に位置するG1信号(G1lとする)を用いて(3*G1 + G1l)/4を出力する。ただし、同量の位相シフトを行うものであれば、この処理の限りではない。
第2位相シフト部2−2は、G2信号を入力とし、その直上に位置するG2信号(G2uとする)を用いて(3*G2 + G2u)/4 を出力する。ただし、同量の位相シフトを行うものであれば、この処理の限りではない。
第3位相シフト部2−3は、R信号に対して、第1位相シフト部2−1と同様の動作をする。
第4位相シフト部2−4は、B信号に対して、第2位相シフト部2−2と同様の動作をする。
第1マトリックス演算部3−1は、位相シフトされたG1信号、位相シフトされたG1信号と同一位置に位相シフトされたB信号、および位相シフトされたG1信号の左右の位置に位相シフトされた2つのR信号を入力とし、前記G1信号と前記B信号と2つの位相シフトされたR信号の平均値とに対してマトリックス演算を実行してY1信号を出力する。
第2マトリックス演算部3−2は、位相シフトされたG2信号、位相シフトされたG2信号と同一位置に位相シフトされたR信号、および位相シフトされたG2信号の左右の位置に位相シフトされた2つのB信号を入力とし、前記G2信号と前記R信号と2つの位相シフトされたB信号の平均値とに対してマトリックス演算を実行してY2信号を出力する。
第3マトリックス演算部3−3と第4マトリックス演算部3−4は、それぞれ、マトリックス演算によりu信号、v信号を出力する。位相シフトされたG1信号(G1’)の位置においては、位相シフトされたG1信号(G1’)、その同一位置に位相シフトされたB信号(B’)、その左右の位置に位相シフトされた2つのR信号(Rr’、Rl’)およびG2信号(G2r’、G2l’)を入力として、(2*G1’+G2r’+G2l’)/4、B’、(Rr’+Rl’)/2にマトリックス演算を実行する。一方、位相シフトされたG2信号(G2’)の位置においては、位相シフトされたG2信号(G2’)、その同一位置に位相シフトされたR信号(R’)、その左右の位置に位相シフトされた2つのB信号(Br’、Bl’)およびG1信号(G1r’、G1l’)を入力として、(2*G2’+G1r’+G1l’)/4、(Br’+Rl’)/2、R’にマトリックス演算を実行する。
位相シフト、および内挿に用いるサンプル数、フィルタ係数は所定の位相を維持する限り特に限定はない。また、若干の誤差を許して、部分的に位相シフト処理、内挿処理を省くことも可能である。たとえば、第3、第4マトリックスにおいて、(2*G1’+G2r’+G2l’)/4の代わりにG1’、 (2*G2’+G1r’+G1l’)/4の代わりにG2’を用いてもよい。
実施例1、実施例2とも、逆処理により、元のベイヤ配列のRGB信号に戻すことができる。ただし、位相シフトフィルタは一般に低域通過特性をもっているため、完全にはもとの信号に戻らないことが多いことに留意する。
次に、実施例1,2の変形例について、図4及び図5を参照して説明する。図4は、実施例1における位相シフト部の変形例1であり、図5は、実施例2における位相シフト部の変形例2である。
(変形例1)
図4(A)に示すベイヤ配列のRGB信号に対して、G1信号,G2信号に対しては、それぞれ右・左に1/2画素の位相シフトを行い、B信号に対しては、右・上に1/2画素の位相シフトを行い、R信号に対しては、左・下に1/2画素の位相シフトを行って、図4(B)の配置を得る。この場合、G1信号,G2信号,B信号,R信号は、完全に空間位置が一致しているとはいえないものの、空間位置のずれを改善したRGB信号を得ることができる。
図4(A)に示すベイヤ配列のRGB信号に対して、G1信号,G2信号に対しては、それぞれ右・左に1/2画素の位相シフトを行い、B信号に対しては、右・上に1/2画素の位相シフトを行い、R信号に対しては、左・下に1/2画素の位相シフトを行って、図4(B)の配置を得る。この場合、G1信号,G2信号,B信号,R信号は、完全に空間位置が一致しているとはいえないものの、空間位置のずれを改善したRGB信号を得ることができる。
このRGB信号に対してマトリックス演算を実行し、図4(C)の配置のYUV信号を得て、Y1信号,Y2信号の配列に揃えるべく、隣接U信号(又はV信号)を配置変更させるか(図4(D)参照)、又はU信号(又はV信号)の上方向(又は下方向)に補完することもできる(図4(E)参照)。
(変形例2)
図5(A)に示すベイヤ配列のRGB信号に対して、G1信号,G2信号に対しては、それぞれ下・上に1/2画素の位相シフトを行い、B信号に対しては、右・上に1/2画素の位相シフトを行い、R信号に対しては、左・下に1/2画素の位相シフトを行って、図5(B)の配置を得る。この場合、G1信号,G2信号,B信号,R信号は、完全に空間位置が一致しているとはいえないものの、空間位置のずれを改善したRGB信号を得ることができる。
図5(A)に示すベイヤ配列のRGB信号に対して、G1信号,G2信号に対しては、それぞれ下・上に1/2画素の位相シフトを行い、B信号に対しては、右・上に1/2画素の位相シフトを行い、R信号に対しては、左・下に1/2画素の位相シフトを行って、図5(B)の配置を得る。この場合、G1信号,G2信号,B信号,R信号は、完全に空間位置が一致しているとはいえないものの、空間位置のずれを改善したRGB信号を得ることができる。
このRGB信号に対してマトリックス演算を実行し、図5(C)の配置のYUV信号を得ることができる。
尚、図6を用いて、マトリックス演算を実行後に位相シフトを行う場合の画像のぼけやずれが生じることの説明を補足する。
例えば、図6(A)に示すようなベイヤ配列のRGB信号について、図6(B)に示すようなY信号を求めるマトリックス演算を実行すると、次式のようになる。
Y112=MTX(G112,(B11+B12)/2,(R11+R21)/2)
Y122=MTX(G122,(B12+B13)/2,(R12+R22)/2)
Y221=MTX(G221,(B12+B22)/2,(R21+R22)/2)
Y231=MTX(G231,(B13+B23)/2,(R22+R23)/2)
又は、
Y112=MTX(G112,B11,R11)
Y122=MTX(G122,B12,R12)
Y221=MTX(G221,B22,R22)
Y231=MTX(G231,B23,R23)
Y112=MTX(G112,(B11+B12)/2,(R11+R21)/2)
Y122=MTX(G122,(B12+B13)/2,(R12+R22)/2)
Y221=MTX(G221,(B12+B22)/2,(R21+R22)/2)
Y231=MTX(G231,(B13+B23)/2,(R22+R23)/2)
又は、
Y112=MTX(G112,B11,R11)
Y122=MTX(G122,B12,R12)
Y221=MTX(G221,B22,R22)
Y231=MTX(G231,B23,R23)
これに対して位相シフトを行うと次式のようになる。
Y’122=(Y112+3*Y122)/4
=MTX((G112+3*G122)/4,
(B11+4*B12+3*B13)/8,
(R11+3*R12+R21+3*R22)/8)
Y’221=(3*Y221+Y231)/4
=MTX((3*G221+G231)/4,
(3*B12+3*B13+B22+3*B23)/8,
(3*R21+4*R22+R23)/8)
又は、
Y’122=(Y112+3*Y122)/4
=MTX((G112+3*G122)/4,
(B11+3*B12)/4,
(R11+3*R12)/4)
Y’221=(3*Y221+Y231)/4
=MTX((3*G221+G231)/4,
(3*B12+B23)/4,
(3*R22+R23)/4)
=MTX((G112+3*G122)/4,
(B11+4*B12+3*B13)/8,
(R11+3*R12+R21+3*R22)/8)
Y’221=(3*Y221+Y231)/4
=MTX((3*G221+G231)/4,
(3*B12+3*B13+B22+3*B23)/8,
(3*R21+4*R22+R23)/8)
又は、
Y’122=(Y112+3*Y122)/4
=MTX((G112+3*G122)/4,
(B11+3*B12)/4,
(R11+3*R12)/4)
Y’221=(3*Y221+Y231)/4
=MTX((3*G221+G231)/4,
(3*B12+B23)/4,
(3*R22+R23)/4)
一方、位相シフト後にマトリックス演算を実行する場合、次式のようになる。
Y’122=MTX((G112+3*G122)/4,
(3*B12+B13)/4,
(R11+3*R12+R21+3*R22)/8)
Y’221=MTX((3*G221+G231)/4,
(3*B12+3*B23+B22+3*B23)/8,
(R21+3*R22)/4)
Y’122=MTX((G112+3*G122)/4,
(3*B12+B13)/4,
(R11+3*R12+R21+3*R22)/8)
Y’221=MTX((3*G221+G231)/4,
(3*B12+3*B23+B22+3*B23)/8,
(R21+3*R22)/4)
上記の比較から、先にマトリックスをかけて、後から位相シフトを行うと、最終的にB11やR23が入りぼやけてしまうことが分かる。一方、位相を合わせないでマトリックス演算を実行する場合も、最後まで1画素ずれた信号の混合になるため、ぼけやずれが大きくなる。従って、位相シフトを実行してからマトリックス演算を実行するほうが良好な画質を得ることができる。
また、図示しないが、本発明による上記の実施例の映像フォーマット変換装置10から輝度・色差形式の映像信号を入力して逆変換を施す映像フォーマット逆変換装置は、この逆処理を行うことで、元の三原色形式の映像信号を復元することができ、映像フォーマット変換装置10からの該輝度・色差形式の映像信号を入力して、映像フォーマット変換装置10におけるマトリックス演算とは逆行列を構成する逆マトリックス演算を実行する逆マトリックス演算手段と、この逆マトリックス演算を実行して得られる信号に対して映像フォーマット変換装置10における位相シフトとは逆位相シフトを施す逆位相シフト手段と、を備えることで達成される。尚、このような映像フォーマット逆変換装置も、コンピュータとして構成することができ、映像フォーマット逆変換装置の各機能を実現する処理内容を記述したプログラムを、当該コンピュータの記憶部に格納しておき、当該コンピュータの中央演算処理装置(CPU)によってこのプログラムを読み出して実行させることで実現することができる。
以上、具体例を挙げて本発明の実施例を詳細に説明したが、本発明の特許請求の範囲から逸脱しない限りにおいて、あらゆる変形や変更が可能であることは当業者に明らかである。
本発明によれば、サンプル数を増やすことなく、ぼけやずれを抑制してRGB信号を輝度・色差信号に変換することができるので、斜方格子画素構造を有する三原色形式の映像信号から輝度・色差形式の映像信号への変換を要する用途に有用である。
1 制御部
2−1,2−2,2−3,2−4 第1乃至第4位相シフト部
3−1,3−2,3−3,3−4 第1乃至第4マトリックス演算部
4 記憶部
10 映像フォーマット変換装置
2−1,2−2,2−3,2−4 第1乃至第4位相シフト部
3−1,3−2,3−3,3−4 第1乃至第4マトリックス演算部
4 記憶部
10 映像フォーマット変換装置
Claims (8)
- 斜方格子画素構造を有する三原色形式の映像信号を輝度・色差形式の映像信号に変換する映像フォーマット変換装置であって、
前記三原色形式の映像信号を入力して、前記三原色のうちの2つ以上の原色の映像信号が2次元空間位置として一致するように、前記三原色形式の映像信号に対して位相シフトを実行する位相シフト手段と、
前記位相シフトした三原色形式の映像信号を入力して、所定のマトリックス演算を実行し、前記輝度・色差形式の映像信号に変換するマトリックス演算手段と、
を備えることを特徴とする映像フォーマット変換装置。 - 前記位相シフト手段は、前記三原色の全ての原色の映像信号が2次元空間位置として一致するように、前記三原色形式の映像信号に対して位相シフトを実行することを特徴とする、請求項1に記載の映像フォーマット変換装置。
- 前記斜方格子画素構造を有する三原色形式の映像信号は、ベイヤ配列のRGB信号からなることを特徴とする、請求項1又は2に記載の映像フォーマット変換装置。
- 前記位相シフト手段は、ベイヤ配列のRGB信号からなる三原色のうちのG信号に対して位相シフトを実行することを特徴とする、請求項3に記載の映像フォーマット変換装置。
- 前記輝度・色差形式の映像信号は、4:2:2フォーマットの映像信号からなることを特徴とする、請求項1〜4のいずれか一項に記載の映像フォーマット変換装置。
- 請求項1〜5のいずれか一項に記載の映像フォーマット変換装置から前記輝度・色差形式の映像信号を入力して逆変換を施す映像フォーマット逆変換装置であって、
該輝度・色差形式の映像信号を入力して、前記マトリックス演算とは逆行列を構成する逆マトリックス演算を実行する逆マトリックス演算手段と、
前記逆マトリックス演算を実行して得られる信号に対して前記位相シフトとは逆位相シフトを施す逆位相シフト手段と、
を備えることを特徴とする映像フォーマット逆変換装置。 - 斜方格子画素構造を有する三原色形式の映像信号を輝度・色差形式の映像信号に変換する映像フォーマット変換装置として構成するコンピュータに、
前記三原色形式の映像信号を入力して、前記三原色のうちの2つ以上の原色の映像信号が2次元空間位置として一致するように、前記三原色形式の映像信号に対して位相シフトを実行するステップと、
前記位相シフトした三原色形式の映像信号を入力して、所定のマトリックス演算を実行し、前記輝度・色差形式の映像信号に変換するステップと、
を実行させるためのプログラム。 - 請求項1〜5のいずれか一項に記載の映像フォーマット変換装置から前記輝度・色差形式の映像信号を入力して逆変換を施す映像フォーマット逆変換装置として構成するコンピュータに、
該輝度・色差形式の映像信号を入力して、前記マトリックス演算とは逆行列を構成する逆マトリックス演算を実行するステップと、
前記逆マトリックス演算を実行して得られる信号に対して前記位相シフトとは逆位相シフトを実行させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010096243A JP2011228906A (ja) | 2010-04-19 | 2010-04-19 | 映像フォーマット変換装置及び映像フォーマット逆変換装置、並びにこれらのプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010096243A JP2011228906A (ja) | 2010-04-19 | 2010-04-19 | 映像フォーマット変換装置及び映像フォーマット逆変換装置、並びにこれらのプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011228906A true JP2011228906A (ja) | 2011-11-10 |
Family
ID=45043762
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010096243A Pending JP2011228906A (ja) | 2010-04-19 | 2010-04-19 | 映像フォーマット変換装置及び映像フォーマット逆変換装置、並びにこれらのプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011228906A (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005278025A (ja) * | 2004-03-26 | 2005-10-06 | Olympus Corp | 輝度・色差信号生成装置、画像圧縮装置、及び画像処理システム |
JP2005311667A (ja) * | 2004-04-21 | 2005-11-04 | Nippon Hoso Kyokai <Nhk> | 映像フォーマット変換装置、映像フォーマット逆変換装置、ならびに、映像フォーマット変換プログラム、映像フォーマット逆変換プログラム |
JP4448027B2 (ja) * | 2002-06-18 | 2010-04-07 | ノキア コーポレイション | 画像処理装置及び方法、画像出力装置、並びにこれらを用いたデジタルカメラ装置及び携帯情報端末 |
-
2010
- 2010-04-19 JP JP2010096243A patent/JP2011228906A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4448027B2 (ja) * | 2002-06-18 | 2010-04-07 | ノキア コーポレイション | 画像処理装置及び方法、画像出力装置、並びにこれらを用いたデジタルカメラ装置及び携帯情報端末 |
JP2005278025A (ja) * | 2004-03-26 | 2005-10-06 | Olympus Corp | 輝度・色差信号生成装置、画像圧縮装置、及び画像処理システム |
JP2005311667A (ja) * | 2004-04-21 | 2005-11-04 | Nippon Hoso Kyokai <Nhk> | 映像フォーマット変換装置、映像フォーマット逆変換装置、ならびに、映像フォーマット変換プログラム、映像フォーマット逆変換プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5719986B2 (ja) | 画像処理装置および画像処理方法 | |
JP5306563B2 (ja) | 撮像装置及び画像生成方法 | |
JP5011519B2 (ja) | 固体撮像素子の信号読み出し方法及び画像信号処理方法 | |
JP6553826B1 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
CN101521751B (zh) | 摄像设备 | |
KR102083721B1 (ko) | 딥 러닝을 이용한 양안기반 초해상 이미징 방법 및 그 장치 | |
US8861846B2 (en) | Image processing apparatus, image processing method, and program for performing superimposition on raw image or full color image | |
US8520099B2 (en) | Imaging apparatus, integrated circuit, and image processing method | |
US20160014354A1 (en) | Image processing device, imaging device, and image processing method | |
US20200120272A1 (en) | Image processing device, image capturing device, image processing method, and storage medium | |
WO2005025232A1 (ja) | 撮像装置 | |
TWI544785B (zh) | 影像縮減取樣裝置與方法 | |
JP2014042176A (ja) | 画像処理装置および方法、プログラム、並びに、固体撮像装置 | |
JPWO2017203941A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
TWI422233B (zh) | 用來對縮減取樣拜耳影像進行色彩內插之方法及相關裝置 | |
JP2014200000A (ja) | 画像処理装置および方法、並びにプログラム | |
JP5159461B2 (ja) | 画像処理装置、画像処理方法及び撮像装置 | |
JP3965460B2 (ja) | 単板カラーカメラの市松配列緑色信号等インタリーブの関係にある画素信号の補間方法 | |
JP2011228906A (ja) | 映像フォーマット変換装置及び映像フォーマット逆変換装置、並びにこれらのプログラム | |
US20060044428A1 (en) | Image pickup device and signal processing method | |
JP2013009172A (ja) | 撮像装置及び画像生成方法 | |
WO2015083502A1 (ja) | 画像処理装置、該方法および該プログラム | |
JP4620965B2 (ja) | 映像フォーマット変換装置、および、映像フォーマット変換プログラム | |
JP2006262382A (ja) | 画像処理装置 | |
JP2008131291A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130108 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20131108 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131210 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20140902 |