JP2014033357A - 映像信号処理装置及び映像信号処理方法 - Google Patents

映像信号処理装置及び映像信号処理方法 Download PDF

Info

Publication number
JP2014033357A
JP2014033357A JP2012173057A JP2012173057A JP2014033357A JP 2014033357 A JP2014033357 A JP 2014033357A JP 2012173057 A JP2012173057 A JP 2012173057A JP 2012173057 A JP2012173057 A JP 2012173057A JP 2014033357 A JP2014033357 A JP 2014033357A
Authority
JP
Japan
Prior art keywords
signal
color difference
pixel
pixels
luminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012173057A
Other languages
English (en)
Inventor
Shuichi Asahara
周一 朝原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2012173057A priority Critical patent/JP2014033357A/ja
Publication of JP2014033357A publication Critical patent/JP2014033357A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Television Systems (AREA)
  • Color Television Systems (AREA)

Abstract

【課題】入力時のフォーマットと異なる所定のフォーマットの色差信号を有するデジタル映像信号に復元するに際し、品位を落とすことなく、自然画であっても色差信号の解像度を向上させる。
【解決手段】垂直補間部11、12は、4:2:0信号中の色差信号Pb、Prを、4:2:0信号中の輝度信号Yに応じた垂直補間を行う。垂直強調部13、14は、垂直補間後の色差信号Pb、Prに対して垂直強調処理を行い、4:2:2フォーマットに変換された色差信号Pbを出力する。水平補間部15、16は、垂直補間及び垂直強調処理後の4:2:2フォーマットの色差信号Pb、Prに対して、4:2:0信号中の輝度信号Yに応じた水平補間を行う。水平強調部17、18は、水平補間後の色差信号Pb、Prに対して水平強調処理を行い、4:4:4フォーマットに変換された色差信号Pb、Prを出力する。
【選択図】図1

Description

本発明は映像信号処理装置及び映像信号処理方法に係り、特に入力されたデジタル映像信号を補間して入力時のフォーマットと異なる所定のフォーマットの色差信号を有するデジタル映像信号に復元する映像信号処理装置及び映像信号処理方法に関する。
現在広く普及している高能率圧縮符号化方式であるMPEG(Moving Picture Experts Group)方式では、4:2:2フォーマットあるいは4:4:4フォーマットの色差信号を有する非圧縮のデジタル映像信号を、動き補償によるフレーム間の時間的冗長度の削減と、DCT(離散コサイン変換)によるフレーム内の空間的冗長度の削減と、可変長符号化による符号量削減とを組み合わせた画像圧縮により、一般には4:2:0フォーマットの色差信号を有する符号化デジタル映像信号を出力する。従って、MPEG方式の符号化デジタル映像信号を復号する復号化器では、供給される4:2:0フォーマットの色差信号を有する符号化デジタル映像信号を適切に補間し、4:2:2フォーマットあるいは4:4:4フォーマットの色差信号を有する非圧縮のデジタル映像信号に復元する。これにより、視聴者は復元された画像を通常の画像として見ることができる。
ここで、周知のように、上記の4:4:4フォーマットの色差信号を有するデジタル映像信号は、輝度信号Yと第1の色差信号Pbと第2の色差信号Prとのサブサンプリング周波数がそれぞれ同一であり、1フレームのデータ量がY=4、Pb=4、Pr=4の割合であるデジタル映像信号である。また、上記の4:2:2フォーマットの色差信号を有するデジタル映像信号は、輝度信号Yのサブサンプリング周波数に対して第1の色差信号Pbと第2の色差信号Prの両サブサンプリング周波数がそれぞれ1/2倍であり、1フレームのデータ量がY=4、Pb=2、Pr=2の割合であるデジタル映像信号である。
これに対し、上記の4:2:0フォーマットのデジタル映像信号は、縦・横の両方向それぞれ2画素の計4画素の輝度信号Yに対し、それら4画素の間に第1の色差信号Pb及び第2の色差信号Prがそれぞれ1画素ずつ配置された画素構成で、色差信号Pb及びPrそれぞれの画像水平方向及び画像垂直方向の各データ量が輝度信号Yのそれの1/2倍(すなわち、全体のデータ量は輝度信号の1/4倍)であるデジタル映像信号である。
MPEG方式の符号化デジタル映像信号を復号する復号化器では、供給される4:2:0フォーマットの色差信号を有する符号化デジタル映像信号(以下、単に「4:2:0信号」ともいう)を、4:2:2フォーマットの色差信号を有するデジタル映像信号(以下、単に「4:2:2信号」ともいう)に復元するために、従来は最も単純には、2つの色差信号Pb及びPbの各画素に対して、それぞれ半画素分上側に位置する画素位置(2*i,2*j)の輝度信号と同じ画素位置の色差画素として、また半画素分下側に位置する画素位置(2*i,2*j+1)の輝度信号と同じ画素位置の色差画素として、それぞれ上記色差信号Pb及びPbの画素値を代入して補間する方法がある。しかし、この場合は、斜めの直線的な物体の輪郭がギザギサ状になるジャギーが目立つので、線形補間するのが一般的である。
また、上記の復号化器では、上記のようにして4:2:0信号から補間して生成した4:2:2信号を、4:4:4フォーマットの色差信号を有するデジタル映像信号(以下、単に「4:4:4信号」ともいう)に復元するために、生成した4:2:2信号の例えば画像の水平方向の奇数番目の画素位置に存在する色差画素をそのままその画素位置の色差画素とし、画像の水平方向の4:2:2信号では存在しない偶数番目の画素位置の色差画素として、その画素位置の左右に隣接する2つの色差信号の画素値の平均値とする方法があり、これにより、4:4:4信号を生成する。
しかしながら、上記の復号化器による補間方法では、単純に画素補間しているだけで、色差信号の解像度を向上させることはできない。そこで、例えば特許文献1には、ヒストグラム抽出部と、絵柄特徴抽出部と、データレート変換部とからなる構成により、4:2:0信号を色差信号の解像度が向上した4:4:4信号に変換する画像変換装置が開示されている。ここで、上記ヒストグラム抽出部は、4:2:0信号の輝度信号ブロック内のヒストグラムを抽出する。上記絵柄特徴抽出部は、ヒストグラム抽出部により抽出したヒストグラムの情報に基づいて、上記輝度信号ブロック内の輝度境界を検出し、輝度信号ブロックと同じデータレートの仮想色差信号ブロックに対して上記輝度境界と同じパターンの色差境界を設定して仮想色差信号ブロック内を領域毎に区分し、更に同じ領域は同じ値の画素データで統一する制御信号を生成する。上記データレート変換部は、4:2:0信号の色差信号ブロックを輝度信号ブロックと同じデータレートに変換して仮想色差信号ブロックに対応させ、上記制御信号に基づいて解像度を修正して4:4:4信号用の色差信号を生成する。この特許文献1記載の画像変換装置によれば、4:2:0信号用の色差信号が輝度信号の解像度に対応した4:4:4信号用の色差信号に変換されるため、色差信号に対する解像度が改善される。
特開2009−239483号公報
しかしながら、上記の特許文献1記載の画像変換装置では、背景画像と文字との境界線が明瞭なテロップ信号のような信号では、抽出したヒストグラムが複数個所に明確に偏るため、その境界線部分の色差信号の解像度を向上させることができるが、自然画のような一般的な映像信号では、抽出したヒストグラムが複数個所に明確に偏らないために、色差信号の解像度を向上することはできない。
本発明は以上の点に鑑みなされたもので、入力時のフォーマットと異なる所定のフォーマットの色差信号を有するデジタル映像信号に復元するに際し、品位を落とすことなく、自然画であっても色差信号の解像度を向上させることができる映像信号処理装置及び映像信号処理方法を提供することを目的とする。
上記の目的を達成するため、本発明の映像信号処理装置は、供給される第1及び第2の色差信号のデータ量が輝度信号のデータ量より削減されたフォーマットの第1のデジタル映像信号を、輝度信号の輝度画素の座標位置に対応した座標位置に補間色差画素を含ませ、第1及び第2の色差信号のデータ量を増加させた第2のデジタル映像信号に変換処理する映像信号処理装置であって、
第1のデジタル映像信号の画像の垂直方向に隣接する4つの輝度画素と第1及び第2の色差信号の各2つの色差画素からなる第1の領域毎に、4つの輝度画素を含む第1の領域内の輝度信号のレベル変化比に基づいて算出したレベルで補間色差画素を補間生成する垂直補間、及び第1のデジタル映像信号の画像の水平方向に隣接する3つの輝度画素と第1及び第2の色差信号の各2つの色差画素からなる第2の領域毎に、3つの輝度画素を含む第2の領域内の輝度信号のレベル変化比に基づいて算出したレベルで補間色差画素を補間生成する水平補間のうち、両方の補間又はどちらか一方の補間を行う補間手段を有することを特徴とする。
ここで、上記の補間手段は、第1の領域毎に、第1の領域内の各2つの色差画素及び補間色差画素からなる第1及び第2の色差信号のレベル変化比が、4つの輝度画素を含む第1の領域内の輝度信号のレベル変化比と相似関係になるようなレベルで補間色差画素を補間生成する垂直補間、及び第2の領域毎に、第2の領域内の各2つの色差画素及び補間色差画素からなる第1及び第2の色差信号のレベル変化比が、3つの輝度画素を含む第2の領域内の輝度信号のレベル変化比と相似関係になるようなレベルで補間色差画素を補間生成する水平補間のうち、両方の補間又はどちらか一方の補間を行うことを特徴とする。
また、上記の補間手段は、上記の垂直補間及び水平補間を、輝度信号のレベル変化比を絶対値で処理することを特徴とする。また、上記の補間手段は、上記の垂直補間及び水平補間を、補間色差画素を含む第1及び第2の色差信号のレベル変化比が、輝度信号のレベル変化比にオフセット値を加算した値と相似関係になるレベルで補間色差画素を補間生成することを特徴とする。
また、本発明の映像信号処理装置は、供給される垂直補間及び水平補間の両方又はどちらか一方の補間処理された補間後デジタル映像信号の画像の水平方向及び垂直方向のどちらか一方向又は両方向に隣接する5画素以上の領域の各画素信号から領域の中心画素の高域信号を生成する手段であって、中心画素を注目画素として生成した第1の高域信号と、注目画素の両側に隣接する、上下左右方向の2方向のうち補間処理を行った方向に対応するどちらか一方向又は両方向の2つの隣接画素のそれぞれを中心画素として生成した複数の第2の高域信号と、を生成する高域信号生成手段と、注目画素の画素信号に第1の高域信号を付加した信号を振幅制限して、注目画素の領域における第1の輪郭補正候補値を生成する第1の輪郭補正候補値生成手段と、2つの隣接画素の各画素信号のそれぞれに、2つの隣接画素をそれぞれ中心画素として生成した2つの第2の高域信号を別々に付加した信号を振幅制限して、少なくとも2つの隣接画素の各領域における複数の第2の輪郭補正候補値を生成する第2の輪郭補正候補値生成手段と、第1及び第2の高域信号に基づいて、注目画素のサンプリング点が代表する範囲である注目画素領域内に第1の高域信号の値がゼロを示すゼロクロスポイントが存在するか否かを判定し、ゼロクロスポイントが存在する時は、注目画素領域におけるゼロクロスポイントの位置に応じた第1及び第2の輪郭補正候補値の置換の割合を示し、ゼロクロスポイントが存在しない時は第1の輪郭補正候補値で置換することを示すゼロクロス判定信号を生成するゼロクロス判定手段と、第1及び第2の輪郭補正候補値とゼロクロス判定信号とに基づいて、2つの隣接画素のうち一方の隣接画素の領域と注目画素領域との第1の境界からゼロクロスポイントの位置までは第1の輪郭補正候補値が出力され、かつ、ゼロクロスポイントの位置から2つの隣接画素のうち他方の隣接画素の領域と注目画素領域との第2の境界までは他方の隣接画素を中心画素として生成した第2の高域信号に基づく第2の輪郭補正候補値が出力されるべきものとみなした代表値を、注目画素の輪郭補正信号として置換して出力する置換信号生成手段とを備える強調手段を更に有することを特徴とする。
ここで、上記の高域信号生成手段は、水平補間処理された補間後デジタル映像信号が供給されるときは、画像の水平方向に隣接する5画素以上の領域のうち1画素置き毎の各画素信号から領域の中心画素の高域信号を生成する手段であって、中心画素を注目画素として生成した第1の高域信号と、注目画素の両側に隣接する、上下左右の2方向のうち補間処理を行った方向に対応するどちらか一方向又は両方向の2つの隣接画素のそれぞれを中心画素として生成した複数の第2の高域信号と、を生成するようにしてもよい。
また、上記の目的を達成するため、本発明の映像信号処理方法は、供給される第1及び第2の色差信号のデータ量が輝度信号のデータ量より削減されたフォーマットの第1のデジタル映像信号を、輝度信号の輝度画素の座標位置に対応した座標位置に補間色差画素を含ませ、第1及び第2の色差信号のデータ量を増加させた第2のデジタル映像信号に変換処理する映像信号処理方法であって、
第1のデジタル映像信号の画像の垂直方向に隣接する4つの輝度画素と第1及び第2の色差信号の各2つの色差画素からなる第1の領域毎に、4つの輝度画素を含む第1の領域内の輝度信号のレベル変化比に基づいて算出したレベルで補間色差画素を補間生成する垂直補間、及び第1のデジタル映像信号の画像の水平方向に隣接する3つの輝度画素と第1及び第2の色差信号の各2つの色差画素からなる第2の領域毎に、3つの輝度画素を含む第2の領域内の輝度信号のレベル変化比に基づいて算出したレベルで補間色差画素を補間生成する水平補間のうち、両方の補間又はどちらか一方の補間を行う補間ステップを含むことを特徴とする。
本発明によれば、入力時のフォーマットと異なる所定のフォーマットの色差信号を有するデジタル映像信号に復元するに際し、品位を落とすことなく、自然画であっても色差信号の解像度を向上させることができる。
本発明の映像信号処理装置の一実施の形態のブロック図である。 図1中の垂直補間部の一実施の形態のブロック図である。 4:2:0信号の画像の垂直方向に並ぶ輝度画素及び色差画素の一例を示す図である。 図3に示す各画素のレベル対時間特性及び垂直補間される色差画素の一例を示す図である。 図1中の垂直強調部の動作の概要を説明する図である。 図1中の垂直強調部の一例のブロック図である。 図6の動作説明図である。 図6の垂直強調部の効果を説明するタイミングチャートである。 図1中の水平補間部の一実施の形態のブロック図である。 図9の水平補間部の動作を説明する4:2:2信号の画像の水平方向に並ぶ輝度画素及び色差画素の一例を示す図である。 図10に示す各画素のレベル対時間特性及び水平補間される色差画素の一例を示す図である。 図1中の水平強調部の動作の概要を説明する図である。 図1中の水平強調部において1画素置きの色差画素から高域成分を抽出する理由を説明する図である。
次に、本発明の実施の形態について図面を参照して説明する。
図1は、本発明になる映像信号処理装置の一実施の形態のブロック図を示す。同図において、映像信号処理装置10は、供給される4:2:0信号を、色差信号の解像度が従来に比べて向上した4:2:2信号及び4:4:4信号にそれぞれ変換処理して出力する装置で、垂直補間部11及び12と、垂直強調部13及び14と、水平補間部15及び16と、水平強調部17及び18とから構成される。
垂直補間部11は、供給される4:2:0信号中の第1の色差信号Pbを、4:2:0信号中の輝度信号Yに応じた垂直補間を行う。一方、垂直補間部12は、供給される4:2:0信号中の第2の色差信号Prを、4:2:0信号中の輝度信号Yに応じた垂直補間を行う。垂直補間部11及び12は入力信号が異なるだけで構成は同一である。
垂直強調部13は、垂直補間部11から出力される垂直補間後の色差信号Pbに対して垂直強調処理を行い、4:2:2フォーマットに変換された色差信号Pbを出力する。垂直強調部14は、垂直補間部12から出力される垂直補間後の色差信号Prに対して垂直強調処理を行い、4:2:2フォーマットに変換された色差信号Prを出力する。垂直強調部13及び14は入力信号が異なるだけで構成は同一である。
水平補間部15は、垂直強調部13から出力される垂直補間及び垂直強調処理後の4:2:2フォーマットの色差信号Pbに対して、4:2:0信号中の輝度信号Yに応じた水平補間を行う。水平補間部16は、垂直強調部14から出力される垂直補間及び垂直強調処理後の4:2:2フォーマットの色差信号Prに対して、4:2:0信号中の輝度信号Yに応じた水平補間を行う。水平補間部15及び16は入力信号が異なるだけで構成は同一である。
水平強調部17は、水平補間部15から出力される水平補間後の色差信号Pbに対して水平強調処理を行い、4:4:4フォーマットに変換された色差信号Pbを出力する。水平強調部18は、水平補間部15から出力される水平補間後の色差信号Prに対して水平強調処理を行い、4:4:4フォーマットに変換された色差信号Prを出力する。水平強調部17及び18は、入力信号が異なるだけで構成は同一である。
次に、本実施の形態の映像信号処理装置10を構成する各構成ブロックについて、更に詳細に図面を参照して説明する。
図2は、垂直補間部11(又は12)の一実施の形態のブロック図を示す。垂直補間部11及び12は、4:2:0信号中の輝度信号Yのレベルの変化比と同じレベル変化比の色差信号Pb及びPrを生成する。いま、供給される4:2:0信号の画像の垂直方向の各画素が、図3に示すように座標表現され(図3では、画像の垂直方向の6つの輝度画素を丸で、1組2つで計3組の色差画素を星印で示す)、図4のレベル対時間特性図に示すように、輝度画素Y0、Y1、Y2及びY3、各組の色差画素Ca、Cbの各レベルが変化するものとする。垂直補間部11及び12は、画像の垂直方向に隣接する図3の4つの輝度画素Y0〜Y3と色差信号Pb及びPrの各2つの色差画素Ca及びCbとからなる領域内の輝度画素Y0とY1から輝度画素の仮想点Yaを求め、輝度画素Y2とY3から輝度画素の仮想点Ybを求める。そして、垂直補間部11及び12は、原則的にはYa−Y1−Y2−Ybのレベル変化比と、Ca−C1−C2−Cbのレベル変化比とが相似関係になるようなレベルの色差画素C1、C2を求める。
ただし、この場合は2つの問題がある。第1の問題は、輝度画素Y1及びY2のレベルが、仮想点Ya及びYbの各レベル間のレベル範囲外にある場合は、生成される色差画素C1、C2のレベルが元の画像に無いような値となって不自然な画像になることがあることである。第2の問題は、本来同じ画像なのに、ノイズの影響等で、輝度画素のレベルが例えばYa=10、Yb=11、Y1=10だったり、Ya=10、Yb=11、Y1=11だったりすることを考えると、前者の場合はC1=Caとなり、後者の場合はC1=Cbとなり、CaとCbの差が大きいと、色境界の位置の変動が目立ってしまうことである。
そこで、本実施の形態の垂直補間部11及び12では、上記の第1の問題に対応するため、輝度画素のレベル変化比を絶対値で処理し、求める色差画素C1、C2が色差画素Ca及びCbの中間値に収まるようにする。すなわち、
(Ca−C1):(C1−Cb)=Abs(Ya−Y1):Abs(Y1−Yb) (1)
のようにする。ただし、(1)式中、Abs()は、カッコ内の値の絶対値を示す(以下、同様)。
また、本実施の形態の垂直補間部11及び12では、上記の第2の問題に対応するため、レベル変化が小さいときに通常補間に近づくように、固定値のオフセットOFSを追加する。ただし、この場合、オフセット値はC1用とC2用とで異なる。オフセット値は色差画素C1を求める場合の輝度画素Y1とYa、Ybとの間の画素間距離、色差画素C2を求める場合の輝度画素Y2とYa、Ybとの間の画素間距離に応じて設定される。この結果、本実施の形態の垂直補間部11及び12は、色差画素のレベル比を下記のように設定する。
(Ca−C1):(C1-Cb)=(Abs(Ya−Y1)+OFS):(Abs(Y1−Yb)+3*OFS) (2a)
(Ca−C2):(C2-Cb)=(Abs(Ya−Y2)+3*OFS):(Abs(Y2−Yb)+OFS) (2b)
図2に戻って説明する。上記の垂直補間処理を行うため、図2に示す垂直補間部11(又は12)の縦続接続された3つの1垂直走査期間遅延部(1L DL)111a、111b及び111cは、4:2:0信号中の輝度信号Yを順次に1垂直走査期間ずつ遅延する。
加算器112aは、1L DL111aから出力される計3垂直走査期間遅延された4:2:0信号中の輝度信号(図3のY0に相当)と、1L DL111bから出力される計2垂直走査期間遅延された4:2:0信号中の輝度信号(図3、図4のY1に相当)とを、それぞれ1/2の係数を乗算後に加算し(つまり、平均値を算出し)、第1の補間輝度信号(図3、図4の仮想点Yaに相当)を出力する。また、加算器112bは、4:2:0信号中の非遅延輝度信号(図3、図4のY3に相当)と1L DL111cから出力される1垂直走査期間遅延された輝度信号(図3、図4のY2に相当)とを、それぞれ1/2の係数を乗算後に加算し(つまり、平均値を算出し)、第2の補間輝度信号(図3、図4の仮想点Ybに相当)を出力する。
差分絶対値演算部113aは加算器112aから出力される第1の補間輝度信号(Ya)と1L DL111bから出力される計2垂直走査期間遅延された4:2:0信号中の輝度信号(Y1)との差分絶対値を算出する。また、差分絶対値演算部113bは加算器112bから出力された第2の補間輝度信号(Yb)と上記1L DL111bから出力される輝度信号(Y1)との差分絶対値を算出する。
比例按分部116aは、加算器114aにおいて差分絶対値演算部113aから出力された差分絶対値にオフセットOFSを加算して得られた値(Abs(Ya−Y1)+OFS)と、加算器114bにおいて差分絶対値演算部113bから出力された差分絶対値にオフセット(3*OFS)を加算して得られた値(Abs(Y1−Yb)+3*OFS)とをそれぞれ比例按分用信号として受け、4:2:0信号中の色差信号Pb(又はPr)と、その色差信号Pb(又はPr)を2垂直走査期間遅延部(2L DL)115で2垂直走査期間遅延した色差信号を比例按分して第1の垂直補間色差信号を出力する。
すなわち、比例按分部116aは、加算器114a、114bからそれぞれ供給される比例按分用信号の値をm,nとし、2L DL115の入力である4:2:0信号中の色差信号Pb(又はPr)の値をA、2L DL115の出力色差信号Pb(又はPr)の値をBとしたとき、(m*A+n*B)/(m+n)で表される比例按分値を算出して第1の垂直補間色差信号を出力する。上記の値Aの色差画素と値Bの色差画素は、4:2:0信号中の画像の垂直方向に隣接する2つの色差画素である。第1の垂直補間色差信号の画素は、4:2:0信号中の色差信号の入力画素(サブサンプリング点)に対して1/2画素分画面上の座標位置にある輝度画素と同じ座標位置にある補間色差画素である。
一方、差分絶対値演算部113cは加算器112aから出力される第1の補間輝度信号(Ya)と1L DL111cから出力される1垂直走査期間遅延された4:2:0信号中の輝度信号(Y2)との差分絶対値を算出する。また、差分絶対値演算部113dは加算器112bから出力された第2の補間輝度信号(Yb)と上記1L DL111cから出力される輝度信号(Y2)との差分絶対値を算出する。
比例按分部116bは、加算器114cにおいて差分絶対値演算部113cから出力された差分絶対値にオフセット(3*OFS)を加算して得られた値(Abs(Ya−Y2)+3*OFS)と、加算器114dにおいて差分絶対値演算部113dから出力された差分絶対値にオフセットOFSを加算して得られた値(Abs(Y2−Yb)+OFS)とをそれぞれ比例按分用信号として受け、4:2:0信号中の色差信号Pb(又はPr)と、その色差信号Pb(又はPr)を2L DL115で2垂直走査期間遅延した色差信号を、比例按分部116aと同様の比例按分をして第2の垂直補間色差信号を出力する。この第2の垂直補間色差信号の画素は、4:2:0信号中の色差信号の入力画素(サブサンプリング点)に対して1/2画素分画面下の座標位置にある輝度画素と同じ座標位置にある補間色差画素である。
1垂直走査期間遅延部(1L DL)117は、比例按分部116bから出力された第2の垂直補間色差信号を1垂直走査期間遅延してスイッチ回路118へ出力する。スイッチ回路118は、比例按分部116aから出力された第1の垂直補間色差信号と、比例按分部116bから出力されて1L DL117で1垂直走査期間遅延された第2の垂直補間色差信号とを、1ライン期間(1垂直走査期間)毎に交互に選択して、4:2:2フォーマットの垂直補間色差信号Pb(又はPr)として出力する。
ここで、4:2:0信号中の色差信号Pb及びPrが、例えば図3の座標位置(2*i,2*j+0.5)にある色差画素Cbであるものとすると、その色差画素Cbの1/2画素分上の座標位置(2*i,2*j)にある補間色差画素C2を示す第1の補間色差信号は、色差信号Pbの場合、4:2:0信号中の図3に示す画像の垂直方向の4つの輝度画素Y0〜Y3を用いて次式で表される。
Pb(2*i,2*j)=[Pb(2*i,2*j+0.5)*{Abs(Ya-Y(2*i,2*j))+3*OFS}+Pb(2*i,2*j-1.5)
*{Abs(Y(2*i,2*j)-Yc)+OFS}/[Abs(Ya-Y(2*i,2*j))+Abs(Y(2*i,2*j)-Yc)+4*OFS] (3)
ただし、(3)式中、Ya={Y(2*i,2*j-2)+Y(2*i,2*j-1)}/2、
Yc={Y(2*i,2*j)+Y(2*i,2*j+1)}/2
また、色差画素Cbの1/2画素分下の座標位置(2*i,2*j+1)にある補間色差画素C1を示す第2の補間色差信号は、色差信号Pbの場合、4:2:0信号中の図3に示す画像の垂直方向の4つの輝度画素Y2〜Y5を用いて次式で表される。
Pb(2*i,2*j+1)=[Pb(2*i,2*j+2.5)*{Abs(Yb-Y(2*i,2*j+1))+OFS}+Pb(2*i,2*j+0.5)
*{Abs(Y(2*i,2*j+1)-Yd)+3*OFS}/[Abs(Yb-Y(2*i,2*j+1))
+Abs(Y(2*i,2*j+1)-Yd)+4*OFS] (4)
ただし、(4)式中、Yb={Y(2*i,2*j)+Y(2*i,2*j+1)}/2、
Yd={Y(2*i,2*j+2)+Y(2*i,2*j+3)}/2
なお、色差信号Prの垂直補間も上記の色差信号Pbの垂直補間と同様の式により行えるので、説明は省略する。
次に、図1の垂直強調部13及び14について説明する。垂直強調処理はどのような方式を採用しても構わないが、ここではジャギーエッジを抑えるため、本発明者が特願2011−105789にて提案した輪郭補正処理を垂直強調処理として行うものとして説明する。垂直強調部13は垂直補間部11により垂直補間された色差信号Pbに対して垂直強調処理を行い、垂直強調部14は垂直補間部12により垂直補間された色差信号Prに対して垂直強調処理を行う。垂直補間部11及び12の上述した垂直補間により、4:2:0フォーマットの色差信号は4:2:2フォーマットの信号形式になるが、解像度をより4:2:2信号に近づけるためには垂直強調処理が必要である。この垂直強調部13及び14の垂直強調処理の概要について図5と共に説明する。
4:2:2信号において、画像の垂直方向に並ぶ或る5つの色差画素C0〜C4の各レベルが図5(A)に示すものとし、また、色差画素C1〜C3のそれぞれの高域成分のレベルを図5(B)にHC1〜HC3で示すものとする。なお、図5(A)、(B)において、縦軸はレベル、横軸は時間を示す。
色差画素C0〜C4の中央に位置する色差画素C2について垂直強調処理を行うものとすると、第1段階(Step1)の処理では、色差画素C0〜C4の各レベルの最大値をMax、最小値をMinとし、色差画素C2の値にG*HC2を加算した値をGC2とする(ただし、Gは適切に設定したゲイン)。そして、最大値Max、最小値Min及びGC2のうち中央値をStep1の処理後の色差画素C2の値とする。これにより、色差画素C2の値は図5(A)にC2’で示すものとなる。
そして、第2段階(Step2)の処理において、次式
{(HC1+HC2)/2}*{(HC2+HC3)/2}
の値が負(このとき、HC2の点の近傍に高域成分のゼロクロスポイントが存在)のときのみ、次の式の通り色差画素C2の値を補正し、垂直強調処理された色差画素値とする。
C2=[C1*Abs{(HC1+HC2)/2}+C3*Abs{(HC2+HC3)/2}]
/[Abs{(HC1+HC2)/2}+Abs{(HC2+HC3)/2}] (5)
ただし、(5)式中、C1、C3はStep1で処理後の値。
次に、上記の垂直強調処理について更に詳細に説明する。
図6は、垂直強調部13(14)の一例のブロック図を示す。垂直強調部13及び14は同一構成であり、図6に示すように、垂直補間部11、12からの4:2:2信号中の色差信号の入力端子に対して直列に接続された6つの遅延素子21〜26と、上限検出部31、41及び51と、高域フィルタ(以下、HPF)32、42及び52と、下限検出部33、43及び53と、乗算器34、44及び54と、加算器35、45及び55と、最大値選択部(以下、MAX)36、46及び56と、最小値選択部(以下、MIN)37、47及び57と、ゼロクロス判定部61と、置換信号生成部62とを有する構成とされている。
遅延素子21〜26の各々は、入力デジタル色差信号のサンプリング周期に等しい遅延時間τだけ、入力信号を遅延する回路で、例えばD型フリップフロップにより構成される。上限検出部31、41及び51は、入力される5つのデジタル色差信号(これは画像の水平方向に隣接する5つの色差画素の画素値である)から上限値を検出する。下限検出部33、43及び53は、入力される5つのデジタル色差信号(これは画像の水平方向に隣接する5つの色差画素の画素値である)から下限値を検出する。HPF32、42及び52は、入力される5つのデジタル色差信号(これは画像の水平方向に隣接する5つの色差画素の画素値である)から高域成分を生成するデジタルフィルタである。
上限検出部31、HPF32及び下限検出部33からなる回路部は、遅延されていない入力デジタル色差信号と、遅延素子21〜24からそれぞれτ、2τ、3τ、及び4τ遅延されて出力される4つの遅延デジタル色差信号とからなる5つのデジタル色差信号(これは画像の水平方向に隣接する計5つの色差画素の画素値である)が供給される。
上限検出部31は、5つの入力デジタル色差信号の値のうち最大値を上限値として検出するが、ノイズ抑制を目的に、上限検出部31は、5つの入力デジタル色差信号の値のうち2番目に大きい値を上限値として出力する設定も可能である(他の上限検出部41、51も同様)。一方、下限検出部33は、5つの入力デジタル色差信号の値のうち最小値を下限値として検出するが、ノイズ抑制を目的に、下限検出部33は、5つの入力デジタル色差信号の値のうち2番目に小さい値を下限値として出力する設定も可能である(他の下限検出部43、53も同様)。HPF32は、5つの入力デジタル色差信号から高域信号を生成する5タップのデジタルフィルタである。すなわち、HPF32は、遅延素子22から出力されるデジタル色差信号の画素を注目画素としたとき、その注目画素を中心とする左右各2画素ずつの計5画素から高域信号を生成する。
乗算器34は、HPF32から出力される高域信号と、外部から入力されるゲイン係数(例えば、「2」)とを乗算して乗算信号を生成する。加算器35は、上記の5つの入力デジタル色差信号の各色差画素のうち中心位置の注目画素を出力する遅延素子22からの遅延デジタル色差信号と乗算器34からの乗算信号とを加算して加算信号を生成する。MAX36は、下限検出部33により検出された下限値の信号と加算器35からの加算信号とのうち、値が大きい方の信号を選択してMIN37へ出力する。このMAX36によって、加算信号におけるアンダーシュートの部分が除去される。MIN37は、上限検出部31により検出された上限値の信号とMAX36からの信号とのうち、値が小さい方の信号を選択して出力する。このMIN37によって、MAX36からの信号におけるオーバーシュートの部分が除去される。
従って、MAX36及びMIN37は、加算器35からの加算信号を、上限検出部31による上限値と下限検出部33による下限値との間で振幅制限する振幅制限手段として動作している。MIN37は、振幅制限信号を第1の輪郭補正候補値として置換信号生成部62へ出力する。この第1の輪郭補正候補値は、入力される5つの色差画素のデジタル色差信号のうち中心画素である遅延素子22から出力されるデジタル色差信号(画素信号)に比べて、傾斜の中心付近の傾きがゲイン係数に応じた急峻なエッジとなり、シュート部分が付加されることなく輪郭補正された信号である。
上限検出部41、HPF42及び下限検出部43からなる回路部は、遅延素子21〜25からそれぞれτ、2τ、3τ、4τ及び5τ遅延されて出力される5つの遅延デジタル色差信号が供給される。上限検出部41、HPF42、下限検出部43、乗算器44、加算器45、MAX46及びMIN47からなる第2の回路部は、上記の上限検出部31、HPF32、下限検出部33、乗算器34、加算器35、MAX36及びMIN37からなる第1の回路部の上述した動作と同様の動作を、第1の回路部の5つの入力デジタル色差信号よりも1サンプリング周期遅延された5つの入力デジタル色差信号に対して行って生成した第2の輪郭補正候補値をMIN47から置換信号生成部62へ出力する。
上限検出部51、HPF52及び下限検出部53からなる回路部は、遅延素子22〜26からそれぞれ2τ、3τ、4τ、5τ及び6τ遅延されて出力される5つの遅延デジタル色差信号が供給される。上限検出部51、HPF52、下限検出部53、乗算器54、加算器55、MAX56及びMIN57からなる第3の回路部は、上記の上限検出部31、HPF32、下限検出部33、乗算器34、加算器35、MAX36及びMIN37からなる第1の回路部の上述した動作と同様の動作を、第1の回路部の5つの入力デジタル色差信号よりも2サンプリング周期遅延された5つの入力デジタル色差信号に対して行って生成した第3の輪郭補正候補値をMIN57から置換信号生成部62へ出力する。
ゼロクロス判定部61は、HPF32、HPF42及びHPF52からそれぞれ出力される、注目画素とその左右に隣接する各1画素の計3画素の高域信号から2つの隣接画素の各々で注目画素の半分を置換すべき第1の割合Ra1及び第2の割合Ra2を示すゼロクロス判定信号を置換信号生成部62へ出力する。ここで、上記の第1の割合Ra1は、注目画素の左半分の画素値を注目画素の左側に隣接する隣接画素1の輪郭補正候補値で置換する割合を示す。また、上記の第2の割合Ra2は、注目画素の右半分の画素値を注目画素の右側に隣接する隣接画素2の輪郭補正候補値で置換する割合を示す。なお、上記の第1の割合Ra1は、注目画素の領域の左半分の領域内にゼロクロスポイントが存在しないときは「0」とされ、注目画素の左半分の画素値を注目画素の輪郭補正候補値で置換させる。同様に、上記の第2の割合Ra2は、注目画素の領域の右半分の領域内にゼロクロスポイントが存在しないときは「0」とされ、注目画素の右半分の画素値を注目画素の輪郭補正候補値で置換させる。
ゼロクロス判定部61は以下の点に着目してゼロクロス判定を行う。例えば、図7に示すように、隣接画素1の高域信号の値がu、注目画素の高域信号の値がv、隣接画素2の高域信号の値がwであり、注目画素の領域の右半分の領域内に値「0」であるゼロクロスポイントzが存在する場合、値vと値wとを結ぶ線分と注目画素の領域の右側端部との交点の値は(v+w)/2となり、注目画素の高域信号の値vと符号が逆になる。従って、v×{(v+w)/2}の値は負となり、v×(v+w)の値も負となる。一方、注目画素の領域の左半分の領域内にはゼロクロスポイントが存在しておらず、v×(v+u)の値は正の値となる。
ここで、上記の割合Ra1及びRa2について更に説明する。図7の例の場合、注目画素の高域信号の値の絶対値|v|と、白丸で示した交点の値の絶対値|(v+w)/2|との比率は、注目画素の右半分の領域における、ゼロクロスポイントzの左右の期間T1、T2の比率を示している。本実施の形態では、注目画素の右半分の領域のうち、注目画素の領域の中心からゼロクロスポイントzまでの領域T1の画素値は注目画素の輪郭補正候補値で代表し、ゼロクロスポイントzから注目画素の右側端部(注目画素の領域と隣接画素2の領域との境界)までの領域T2の画素値は隣接画素2の輪郭補正候補値で代表するようにするため、上記の割合Ra2を算出する。ここでは、図7において三角形の相似から分かるように、上記の割合Ra2は
Ra2=|(v+w)/2|/{|v|+|(v+w)/2|} (6)
で表わされる。ゼロクロス判定部61は、|(v+w)/2|で表わされる乗算信号を、{|v|+|(v+w)/2|}で表わされる加算信号で除算して、(6)式で表わされる割合Ra2を出力する。
図6に戻って説明する。置換信号生成部62は、ゼロクロス判定部61からの割合Ra1及び割合Ra2を示すゼロクロス判定信号と、MIN37、MIN47及びMIN57からそれぞれ出力される計3つの輪郭補正候補値とに基づいて以下の処理を行う。
まず、ゼロクロスポイントが存在するときは、注目画素の領域の左側端部(隣接画素1の領域と注目画素の領域との境界)からゼロクロスポイントまでの領域の画素値は隣接画素1の輪郭補正候補値で代表し、ゼロクロスポイントから注目画素の右側端部(注目画素の領域と隣接画素2の領域との境界)までの領域の画素値は隣接画素2の輪郭補正候補値で代表する置換を行う。
一方、ゼロクロスポイントが存在しない時は、注目画素の輪郭補正候補値で置換する。以上の処理によって垂直強調部13、14は、画素の置換がなされた信号を、1次元の輪郭補正された、すなわち垂直強調処理された色差信号として出力する。すなわち、置換信号生成部62は、注目画素の画素値が次式で表わされる置換による代表値を示す輪郭補正信号を出力する。
置換による代表値={Ra1×MIN37の出力+(1−Ra1)×MIN47の出力
+Ra2×MIN57の出力+(1−Ra2)×MIN47の出力}/2 (7)
(7)式中、MIN37の出力、MIN47の出力、MIN57の出力は、第1、第2、第3の輪郭補正候補値である。また、MIN47から出力される第2の輪郭補正候補値は注目画素の輪郭補正候補値でもある。
次に、このような垂直強調処理がジャギーエッジを抑制するものであることについて、図8のタイミングチャートと共に説明する。
図8(A)に示す台形状の入力信号は、図6の遅延素子23から出力される遅延デジタル色差信号である。本実施形態の垂直強調部13、14では、この入力信号(遅延デジタル色差信号)の色差画素を中心とする左右各2つの色差画素計5色差画素のデジタル色差信号(遅延素子21〜25の各出力デジタル色差信号)に基づいてHPF42により図8(B)に示す高域信号が出力される。また、MIN47からは図8(C)に示す第2の輪郭補正候補値が出力される。
ゼロクロス判定部61は、図8(B)に示す注目画素の高域信号と、HPF32、52からそれぞれ出力される隣接画素の高域信号とに基づいて、図8(B)にd1、d2で示すゼロクロスポイントの位置を推定する。そして、置換信号生成部62は、図8(C)に示すように第2の輪郭補正候補値中のゼロクロス推定位置d1、d2を領域内に有する注目画素(サンプルポイントの値)e1、e2の値を、割合Ra1及びRa2と3つの輪郭補正候補値とに基づき、図8(D)に示す値f1、f2に置換し、それを輪郭補正信号として出力する。
同様に、垂直強調部13、14は、図8(A)に示した入力信号よりも1サンプル期間以下の位相ずれを持つ入力信号が入力された場合、置換信号生成部62は、図8(E)に示す第2の輪郭補正候補値中のゼロクロス推定位置を領域内に有する注目画素(サンプルポイントの値)e3、e4の値を、割合Ra1及びRa2と3つの輪郭補正候補値とに基づき、図8(F)に示す値f3、f4に置換し、それを輪郭補正信号として出力する。
図8(D)、(F)に示すように、本実施の形態の垂直強調部13、14から出力される2つの輪郭補正信号の位相差は、入力信号の位相差と概略等しいことが分かる。従って、色差画像のジャギーエッジは抑制される。
次に、図1の水平補間部15及び16について説明する。
図9は、水平補間部15(又は16)の一実施の形態のブロック図を示す。水平補間部15及び16は供給される4:2:2信号中の色差信号Pb及びPrに対して、4:4:4信号と同じ座標位置にある色差信号はそのままの画素値を用い、異なる座標位置にある色差信号は画像の水平方向に隣接する2つの色差画素の画素値を用いて補間生成する。
いま、水平補間部15及び16に供給される4:2:2信号の画像の水平方向の各画素が、図10に示すように座標表現され(図10では、画像の水平方向の6つの輝度画素を丸で示し、3つの色差画素を星印で示す)、図11のレベル対時間特性図に示すように、輝度画素Y0、Y1及びY2と、色差画素C0、C1及びC2の各レベルが変化するものとする。なお、図10及び図11のY0〜Y2、C1、C2は便宜上図示したものであり、図3及び図4のY0〜Y2、C1、C2とは無関係である。水平補間部15及び16は、供給される4:2:2信号の画像の水平方向に隣接する図10に示す3つの輝度画素Y0〜Y2と色差信号Pb及びPrの各2つの色差画素C0、C2とからなる領域において、原則的には図11に示すY0−Y1−Y2のレベル変化比と、C0−C1−C2のレベル変化比とが相似関係になるようなレベルの色差画素C1を求める。
ただし、この場合は2つの問題がある。第1の問題は、輝度画素Y1のレベルが、輝度画素Y0及びY2の各レベル間のレベル範囲外にある場合は、生成される色差画素C1のレベルが元の画像に無いような値となって不自然な画像になることがあることである。第2の問題は、本来同じ画像なのに、ノイズの影響等で、輝度画素のレベルが例えばY0=10、Y2=11、Y1=10だったり、Y0=10、Y2=11、Y1=11だったりすることを考えると、前者の場合はC1=C0となり、後者の場合はC1=C2となり、C0とC2のレベル差が大きいと、色境界の位置の変動が目立ってしまうことである。
そこで、本実施の形態の水平補間部15及び16では、上記の第1の問題に対応するため、輝度信号のレベル変化比を以下の式に示すように絶対値で処理し、色差画素C1が色差画素C0と色差画素C2の中間値に収まるようにする。
(C0−C1):(C1−C2)=Abs(Y0−Y1):Abs(Y1−Y2) (8)
また、本実施の形態の水平補間部15及び16では、上記の第2の問題に対応するため、輝度画素のレベル変化が小さいときに通常補間に近づくように固定値のオフセットを追加する。この場合、オフセットの値を垂直補間部11及び12におけるオフセットの値と同じOFSを使用するとして、水平補間部15及び16は、
(C0−C1):(C1−C2)=(Abs(Y0−Y1)+2*OFS):(Abs(Y1−Y2)+2*OFS) (9)
なる式で表されるような色差画素C1を補間生成する。なお、(9)式では、バランスを考え、オフセットの合計値を垂直補間と同じ(4*OFS)としている。以上の水平補間処理により、色差画素C1は図11に白三角印で示す値に補間生成される。
図9に戻って説明する。上記の水平補間処理を行うため、図9に示す水平補間部15(又は16)の縦続接続された2つの1サンプル期間遅延部(1T DL)151a及び151bは、4:2:2信号中の輝度信号Yを順次に1サンプル期間Tずつ遅延する。
差分絶対値演算部152aは、1T DL151aから出力される計2サンプル期間遅延された4:2:2信号中の輝度信号(図10、図11のY0に相当)と、1T DL151bから出力される1サンプル期間遅延された4:2:2信号中の輝度信号(図10、図11のY1に相当)との差分絶対値Abs(Y0-Y1)を算出する。また、差分絶対値演算部152bは、4:2:2信号中の非遅延輝度信号(図10、図11のY2に相当)と1T DL151bから出力される1サンプル期間遅延された輝度信号との差分絶対値Abs(Y1-Y2)を算出する。
比例按分部156は、加算器153aにおいて差分絶対値演算部152aから出力された差分絶対値にオフセット(2*OFS)を加算して得られた値(Abs(Y0−Y1)+2*OFS)と、加算器153bにおいて差分絶対値演算部152bから出力された差分絶対値にオフセット(2*OFS)を加算して得られた値(Abs(Y1−Y2)+2*OFS)とをそれぞれ比例按分用信号として受け、4:2:2信号中の色差信号Pb(又はPr)と、その色差信号Pb(又はPr)を2サンプル期間遅延部(2T DL)155で2サンプル期間遅延した色差信号を比例按分して水平補間色差信号を出力する。すなわち、比例按分部156は、加算器153a、153bからそれぞれ供給される比例按分用信号の値をm,nとし、2T DL155の入力である4:2:2信号中の色差信号Pb(又はPr)の値をX、2T DL155の出力遅延色差信号Pb(又はPr)の値をYとしたとき、(m*X+n*Y)/(m+n)で表される比例按分値を算出して水平補間色差信号を出力する。上記の値Xの色差画素と値Yの色差画素は、4:2:2信号中の画像の水平方向に隣接する2つの色差画素である。水平補間色差信号の画素は、4:2:2信号中の色差信号の水平方向に隣接する2つの画素(サブサンプリング点)の中間の座標位置にある輝度画素と同じ座標位置にある補間色差画素である。
1サンプル期間遅延部(1T DL)154は、垂直強調部13(又は14)から供給される4:2:2信号中の色差信号Pb(又はPr)を1サンプル期間遅延してスイッチ回路157へ供給する。スイッチ回路157は、1T DL154で遅延された色差信号Pb(又はPr)と、比例按分部156からの水平補間色差信号とを、1サンプル期間毎に交互に選択して、4:4:4フォーマットの垂直補間色差信号Pb(又はPr)として出力する。
これにより、水平補間部15、16は、供給される4:2:2信号中の色差信号Pb及びPrから、図10の座標位置(2*i+1,y)にある輝度画素Y1と同じ座標位置の色差画素C1を水平補間により次式により生成する。
Pb(2*i+1,y)=[Pb(2*i,y)*{Abs(Y(2*i+1,y)-Y(2*i+2,y))+2*OFS}+Pb(2*i+2,y)
*{Abs(Y(2*i,y)-Y(2*i+1,y))+2*OFS}]/[Abs(Y(2*i+1,y)−Y(2*i+2,y))
+Abs(Y(2*i,y)-Y(2*i+1,y))+4*OFS] (10)
なお、色差信号Prについても、上記の色差信号Pbの水平補間の式と同様の式により水平補間がされるので、その説明は省略する。このようにして、水平補間部15及び16は、水平補間により4:4:4フォーマットの色差信号Pb及びPrを生成して出力する。
次に、図1の水平強調部17及び18について説明する。水平強調部17は水平補間部15により水平補間された色差信号Pbに対して水平強調処理を行い、水平強調部18は水平補間部16により水平補間された色差信号Prに対して水平強調処理を行う。水平補間部17及び18の上述した水平補間により、4:2:2フォーマットの色差信号は4:4:4フォーマットの信号形式になるが、解像度をより4:4:4信号に近づけるためには水平強調処理が必要である。この水平強調部17及び18の水平強調処理の概要について説明する。
水平強調処理も垂直強調処理と同様にどのような方式を採用してもよいが、ここでは垂直強調と同様の方式を採用するものとする。ただし、水平強調部は垂直強調部に比較し、高域抽出方法で工夫がある。
4:4:4信号において、画像の水平方向に並ぶ或る5つの色差画素C0〜C4の各レベルが図12(A)に示すものとし、また、色差画素C1〜C3のそれぞれの高域成分のレベルを図12(B)にHC1〜HC3で示すものとする。なお、図12(A)、(B)において、縦軸はレベル、横軸は時間を示す。なお、図12中のC0〜C4、HC1〜HC3は、図5中のC0〜C4、HC1〜HC3と符号が同じであるが、それぞれ同じ信号ではない。
色差画素C0〜C4の中央に位置する色差画素C2について水平強調処理を行う場合は、図5と共に説明した垂直強調処理と同様である。すなわち、水平強調部17及び18は、垂直強調部13及び14と同様に第1段階(Step1)で隣接する複数の色差画素の中心位置の注目画素の高域成分にゲインGを乗算した値と、複数の色差画素の最大値及び最小値のうちの中央値を注目画素の処理後の値として算出し、第2段階(Step2)で注目画素の高域成分の近傍にゼロクロスポイントが存在するかを判定し、存在するときに注目画素の処理後の値を所定の式により演算補正する。ただし、図12(B)中のHC2等の高域成分については、図5(B)に示した垂直強調処理時の高域成分の求め方と異なる求め方が好ましい。
すなわち、垂直強調処理の場合、垂直強調される各色差画素は同等条件の垂直補間された色差信号の画素なので、連続する複数の色差画素から高域成分HC2等を求める方法は前述の方法でよい。しかし、水平強調処理の場合、供給される色差信号は水平補間された色差画素と、水平補間されていない元の入力色差画素とが画像の水平方向に交互に並んでいるため、垂直強調処理とは事情が異なる。
不自然な水平強調になるのを防ぐため、水平強調部17及び18では、画像の水平方向に並ぶ色差画素のうち、1つおきの色差画素から高域成分を抽出する。例えば、高域成分HC2は次式により抽出される。
HC2=C2−(C0+2*C2+C4)/4 (11)
次に、水平強調に用いる色差信号の高域成分は1つおきの色差画素から抽出する理由について図13と共に更に説明する。水平強調部17及び18に供給される水平補間後の4:4:4信号中の色差信号では、水平補間された色差画素と、水平補間されていない元の入力色差画素とが画像の水平方向に交互に並んでいるため、画像の水平方向に並ぶ或る5つの色差画素のレベルが、図13(A)に黒丸で示す色差画素C0〜C4のようなレベル関係になる場合が考えられる。なお、図13(A)、(B)において縦軸がレベル、横軸が時間を示す。
このとき、強調ゲインを極端に大きくして、画像の水平方向に並ぶ5つの色差画素に対して垂直強調の場合と同じ第1段階(Step1)の処理をすると、色差画素C2、C3のレベルが図13(A)にC2’、C3’で示すように変化し、不適切なリンギングが発生する。これにより、画像の水平方向に並ぶ5つの色差画素から高域成分を抽出すると、図13(B)に黒三角印で示すように不自然な変化をする。
これに対し、画像の水平方向に並ぶ色差画素のうち1つ置きの色差画素(C0、C2、C4、あるいはC1、C3、図示しないC5)に対して垂直強調の場合と同じ第1段階(Step1)の処理をすると、色差画素C2、C3のレベルが図13(A)にC2”、C3”で示すように変化しリンギングが発生しない。このため、(11)式に示したように、1つ置きの3つの色差画素C0、C2、C4から高域成分HC2を発生すると、図13(B)に白三角印で示すように、色差画素のレベル変化に対応した自然な変化をする。
このように、水平強調部17及び18は、入力される色差信号の画像の水平方向に並ぶ色差画素のうち1つ置きの3つの色差画素から高域成分を抽出することにより、水平補間されていない元の色差画素同士、又は水平補間された色差画素同士から高域成分を抽出することができるため、不自然な強調を避けることができる。
このように、本実施の形態の映像信号処理装置10によれば、4:2:0信号に対して色差信号を補間して4:2:2信号及び4:4:4信号に変換処理するに際し、輝度信号の隣接サンプル点とのレベル変化比率と同様なレベル変化比率を色差信号が持つように垂直補間及び水平補間処理をするようにしたため、自然画のような一般的に映像信号に対しても色差信号の解像度を従来に比べて向上させることができる。また、本実施の形態の映像信号処理装置10によれば、上記のレベル変化比率を絶対値として処理すること、及びレベル変化比率に対してオフセットを付加することにより、画質劣化を防ぐことができる。更に、本実施の形態の映像信号処理装置10によれば、垂直強調処理、水平強調処理によりエッジ強調を行っており、また、4:4:4信号に対して行う水平強調処理においては画像の水平方向に並ぶ色差画素のうち1つ置きの色差画素の高域成分を抽出して水平強調処理を行うことで誤強調を防止することができる。
なお、本発明者の実験によれば、映像信号処理装置10において、オフセットOFSの値を「3」、ゲインGの値を「1」の条件で変換処理をした4:4:4信号は、供給される4:2:0信号に比較して色差信号の解像度が十分良好であることが確認された。なお、オフセットOFSの値を大きくすると通常補間に近づき、小さくするとエラーが多くなる。一方、ゲインGの値は小さいと解像度改善効果が小さく、大きいとその分画質の品位の劣化が大きくなる。従って、オフセットOFSの値及びゲインGの値は上記の例に限定されるものではなく、希望の解像度などに応じて適切な値に設定される。
なお、本発明は以上の実施の形態に限定されるものではなく、例えば、垂直補間部11及び12と垂直強調部13及び14とからなる構成により4:2:0信号を4:2:2信号に変換する映像信号処理装置や、水平補間部15及び16と水平強調部17及び18とからなる構成により4:2:2信号を4:4:4信号に変換する映像信号処理装置も本発明に含まれる。
また、本発明は以上説明した映像信号処理装置の動作を実行させる映像信号処理方法や、コンピュータのソフトウェアにより実行される映像信号処理プログラムも包含するものである。
10 映像信号処理装置
11、12 垂直補間部
13、14 垂直強調部
15、16 水平補間部
17、18 水平強調部
21〜26 遅延素子
31、41、51 上限検出部
32、42、52 高域フィルタ(HPF)
33、43、53 下限検出部
34、44、54 乗算器
35、45、55、112a、112b、114a〜114d、153a、153b 加算器
36、46、56 最大値選択部(MAX)
37、47、57 最小値選択部(MIN)
61 ゼロクロス判定部
62 置換信号生成部
111a〜111c、117 1垂直走査期間遅延部(1L DL)
113a〜113d、152a、152b 差分絶対値演算部
115 2垂直走査期間遅延部(2L DL)
116a、116b、156 比例按分部
118、157 スイッチ回路
151a、151b、154 1サンプル期間遅延部(1T DL)
155 2サンプル期間遅延部(2T DL)

Claims (7)

  1. 供給される第1及び第2の色差信号のデータ量が輝度信号のデータ量より削減されたフォーマットの第1のデジタル映像信号を、輝度信号の輝度画素の座標位置に対応した座標位置に補間色差画素を含ませ、前記第1及び第2の色差信号のデータ量を増加させた第2のデジタル映像信号に変換処理する映像信号処理装置であって、
    前記第1のデジタル映像信号の画像の垂直方向に隣接する4つの輝度画素と前記第1及び第2の色差信号の各2つの色差画素からなる第1の領域毎に、前記4つの輝度画素を含む前記第1の領域内の輝度信号のレベル変化比に基づいて算出したレベルで前記補間色差画素を補間生成する垂直補間、及び前記第1のデジタル映像信号の画像の水平方向に隣接する3つの輝度画素と前記第1及び第2の色差信号の各2つの色差画素からなる第2の領域毎に、前記3つの輝度画素を含む前記第2の領域内の輝度信号のレベル変化比に基づいて算出したレベルで前記補間色差画素を補間生成する水平補間のうち、両方の補間又はどちらか一方の補間を行う補間手段を有することを特徴とする映像信号処理装置。
  2. 前記補間手段は、
    前記第1の領域毎に、前記第1の領域内の前記各2つの色差画素及び前記補間色差画素からなる第1及び第2の色差信号のレベル変化比が、前記4つの輝度画素を含む前記第1の領域内の輝度信号のレベル変化比と相似関係になるようなレベルで前記補間色差画素を補間生成する垂直補間、及び前記第2の領域毎に、前記第2の領域内の前記各2つの色差画素及び前記補間色差画素からなる第1及び第2の色差信号のレベル変化比が、前記3つの輝度画素を含む前記第2の領域内の輝度信号のレベル変化比と相似関係になるようなレベルで前記補間色差画素を補間生成する水平補間のうち、両方の補間又はどちらか一方の補間を行うことを特徴とする請求項1記載の映像信号処理装置。
  3. 前記補間手段は、
    前記垂直補間及び前記水平補間を、前記輝度信号のレベル変化比を絶対値で処理することを特徴とする請求項2記載の映像信号処理装置。
  4. 前記補間手段は、
    前記垂直補間及び前記水平補間を、前記補間色差画素を含む前記第1及び第2の色差信号のレベル変化比が、前記輝度信号のレベル変化比にオフセット値を加算した値と相似関係になるレベルで前記補間色差画素を補間生成することを特徴とする請求項3記載の映像信号処理装置。
  5. 供給される前記垂直補間及び前記水平補間の両方又はどちらか一方の補間処理された補間後デジタル映像信号の画像の水平方向及び垂直方向のどちらか一方向又は両方向に隣接する5画素以上の領域の各画素信号から前記領域の中心画素の高域信号を生成する手段であって、前記中心画素を注目画素として生成した第1の高域信号と、前記注目画素の両側に隣接する上下左右の2方向のうち前記補間処理を行った方向に対応するどちらか一方向又は両方向の2つの隣接画素のそれぞれを前記中心画素として生成した複数の第2の高域信号と、を生成する高域信号生成手段と、
    前記注目画素の画素信号に前記第1の高域信号を付加した信号を振幅制限して、前記注目画素の領域における第1の輪郭補正候補値を生成する第1の輪郭補正候補値生成手段と、
    前記2つの隣接画素の各画素信号のそれぞれに、前記2つの隣接画素をそれぞれ中心画素として生成した2つの前記第2の高域信号を別々に付加した信号を振幅制限して、少なくとも前記2つの隣接画素の各領域における複数の第2の輪郭補正候補値を生成する第2の輪郭補正候補値生成手段と、
    前記第1及び第2の高域信号に基づいて、前記注目画素のサンプリング点が代表する範囲である注目画素領域内に前記第1の高域信号の値がゼロを示すゼロクロスポイントが存在するか否かを判定し、前記ゼロクロスポイントが存在する時は、前記注目画素領域における前記ゼロクロスポイントの位置に応じた前記第1及び第2の輪郭補正候補値の置換の割合を示し、前記ゼロクロスポイントが存在しない時は前記第1の輪郭補正候補値で置換することを示すゼロクロス判定信号を生成するゼロクロス判定手段と、
    前記第1及び第2の輪郭補正候補値と前記ゼロクロス判定信号とに基づいて、前記2つの隣接画素のうち一方の隣接画素の領域と前記注目画素領域との第1の境界から前記ゼロクロスポイントの位置までは前記第1の輪郭補正候補値が出力され、かつ、前記ゼロクロスポイントの位置から前記2つの隣接画素のうち他方の隣接画素の領域と前記注目画素領域との第2の境界までは前記他方の隣接画素を前記中心画素として生成した前記第2の高域信号に基づく前記第2の輪郭補正候補値が出力されるべきものとみなした代表値を、前記注目画素の輪郭補正信号として置換して出力する置換信号生成手段と
    を備える強調手段を更に有することを特徴とする請求項1乃至4のうちいずれか一項記載の映像信号処理装置。
  6. 前記高域信号生成手段は、前記水平補間処理された補間後デジタル映像信号が供給されるときは、画像の水平方向に隣接する5画素以上の領域のうち1画素置き毎の各画素信号から前記領域の中心画素の高域信号を生成する手段であって、前記中心画素を注目画素として生成した第1の高域信号と、前記注目画素の両側に隣接する、上下左右方向の2方向のうち前記補間処理を行った方向に対応するどちらか一方向又は両方向の2つの隣接画素のそれぞれを前記中心画素として生成した複数の第2の高域信号と、を生成することを特徴とする請求項5記載の映像信号処理装置。
  7. 供給される第1及び第2の色差信号のデータ量が輝度信号のデータ量より削減されたフォーマットの第1のデジタル映像信号を、前記輝度信号の輝度画素の座標位置に対応した座標位置に補間色差画素を含ませ、前記第1及び第2の色差信号のデータ量を増加させた第2のデジタル映像信号に変換処理する映像信号処理方法であって、
    前記第1のデジタル映像信号の画像の垂直方向に隣接する4つの輝度画素と前記第1及び第2の色差信号の各2つの色差画素からなる第1の領域毎に、前記4つの輝度画素を含む前記第1の領域内の輝度信号のレベル変化比に基づいて算出したレベルで前記補間色差画素を補間生成する垂直補間、及び前記第1のデジタル映像信号の画像の水平方向に隣接する3つの輝度画素と前記第1及び第2の色差信号の各2つの色差画素からなる第2の領域毎に、前記3つの輝度画素を含む前記第2の領域内の輝度信号のレベル変化比に基づいて算出したレベルで前記補間色差画素を補間生成する水平補間のうち、両方の補間又はどちらか一方の補間を行う補間ステップを含むことを特徴とする映像信号処理方法。
JP2012173057A 2012-08-03 2012-08-03 映像信号処理装置及び映像信号処理方法 Pending JP2014033357A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012173057A JP2014033357A (ja) 2012-08-03 2012-08-03 映像信号処理装置及び映像信号処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012173057A JP2014033357A (ja) 2012-08-03 2012-08-03 映像信号処理装置及び映像信号処理方法

Publications (1)

Publication Number Publication Date
JP2014033357A true JP2014033357A (ja) 2014-02-20

Family

ID=50282861

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012173057A Pending JP2014033357A (ja) 2012-08-03 2012-08-03 映像信号処理装置及び映像信号処理方法

Country Status (1)

Country Link
JP (1) JP2014033357A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017203941A1 (ja) * 2016-05-25 2017-11-30 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US10109040B2 (en) 2016-06-21 2018-10-23 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and non-transitory computer-readable storage medium

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017203941A1 (ja) * 2016-05-25 2017-11-30 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JPWO2017203941A1 (ja) * 2016-05-25 2019-03-22 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US10771755B2 (en) 2016-05-25 2020-09-08 Sony Corporation Image processing apparatus, image processing method, and program
JP7014158B2 (ja) 2016-05-25 2022-02-01 ソニーグループ株式会社 画像処理装置、および画像処理方法、並びにプログラム
US10109040B2 (en) 2016-06-21 2018-10-23 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and non-transitory computer-readable storage medium

Similar Documents

Publication Publication Date Title
US8792746B2 (en) Image processing apparatus, image processing method, and program
US8189105B2 (en) Systems and methods of motion and edge adaptive processing including motion compensation features
US8305489B2 (en) Video conversion apparatus and method, and program
US8213736B2 (en) Image processing device and image processing method
JP2004007696A (ja) インターレース−プログレッシブ変換用のエッジ適応補間のための方法及びシステム
JP5350501B2 (ja) 映像処理装置及び映像処理方法
US8310592B2 (en) Signal processing apparatus, signal processing method, and program for signal processing
JP4658875B2 (ja) 画像処理装置
JP2014033357A (ja) 映像信号処理装置及び映像信号処理方法
JPWO2011067869A1 (ja) 画像処理装置及び画像処理方法
JP2009194721A (ja) 画像信号処理装置、画像信号処理方法、及び撮像装置
JP6135937B2 (ja) 画像処理方法および画像処理装置
KR101509552B1 (ko) 비디오 화상에서 가장자리 방위를 나타내는 거리들을 생성하는 방법, 대응하는 디바이스, 및 디인터레이싱이나 포맷 전환을 위한 방법의 용도
JP4641957B2 (ja) 画像処理装置および画像処理プログラム
US7750974B2 (en) System and method for static region detection in video processing
JP4371907B2 (ja) 画素特徴判定装置、画素補間装置、及び映像信号処理装置
JP2009212851A (ja) 走査線補間装置及びその制御方法
JP2010171624A (ja) 輪郭補正回路及び補間画素生成回路
JP6627528B2 (ja) 画像処理方法及び画像処理装置
JP5762006B2 (ja) 画像処理装置および画像処理方法
JP5018198B2 (ja) 補間信号生成回路、補間信号生成方法、プログラムおよびビデオ信号処理装置
JP2008072384A (ja) 輪郭補正回路
JP2014086957A (ja) 画像処理装置及び画像処理方法
JP2000115720A (ja) 走査線補間装置および走査線補間方法
JP6117484B2 (ja) クリップ処理によるip変換の映像処理方法とそのプログラム及びその映像処理装置