JP2010198346A - Apparatus and method for processing image - Google Patents

Apparatus and method for processing image Download PDF

Info

Publication number
JP2010198346A
JP2010198346A JP2009042705A JP2009042705A JP2010198346A JP 2010198346 A JP2010198346 A JP 2010198346A JP 2009042705 A JP2009042705 A JP 2009042705A JP 2009042705 A JP2009042705 A JP 2009042705A JP 2010198346 A JP2010198346 A JP 2010198346A
Authority
JP
Japan
Prior art keywords
coring
sharpening
parameter
effect
change amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009042705A
Other languages
Japanese (ja)
Other versions
JP5023092B2 (en
Inventor
Kenji Nakamura
賢治 中邨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2009042705A priority Critical patent/JP5023092B2/en
Publication of JP2010198346A publication Critical patent/JP2010198346A/en
Application granted granted Critical
Publication of JP5023092B2 publication Critical patent/JP5023092B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image processing apparatus capable of controlling a sharpening processing or a coring processing in accordance with the change of an image. <P>SOLUTION: The image processing apparatus includes: a detection means for detecting a contrast variation between a plurality of frames included in image data; a sharpening control means for setting a sharpening parameter for controlling sharpening effect gain for the image data according to the detected contrast variation; and a sharpening processing means for executing the sharpening processing for the image data based on the sharpening parameter. <P>COPYRIGHT: (C)2010,JPO&INPIT

Description

本発明は、画像を鮮鋭化する鮮鋭化処理を実行する画像処理装置及び画像処理方法に関する。また、本発明は、画像中のノイズ成分を低減するコアリング処理を実行する画像処理装置に関する。   The present invention relates to an image processing apparatus and an image processing method for executing a sharpening process for sharpening an image. The present invention also relates to an image processing apparatus that executes a coring process for reducing noise components in an image.

近年、SD(Standard Definition)規格を超える解像度を持つパーソナルコンピュータ用ディスプレイで、映像コンテンツを視聴する機会が増加している。また、プリンタ性能も向上し、高密度な印刷も可能になってきている。さらに、ハイビジョン放送の本格化に伴い、HD(High Definition)規格対応のテレビジョン受信機も一般家庭に普及してきている。   In recent years, opportunities to view video content on a display for a personal computer having a resolution exceeding the SD (Standard Definition) standard are increasing. In addition, printer performance has been improved, and high-density printing has become possible. Furthermore, with the full-scale high-definition broadcasting, television receivers that are compliant with HD (High Definition) standards have become popular in ordinary households.

このような高い解像度をもつ出力機器に比べて、ビデオカメラ等の撮影機器により取得された映像データやSD規格対応のテレビジョン放送、DVD等は、解像度が低い。このため、何らかの手段によって、映像データの高解像度化を図る必要がある。また、映像や画像の一部を拡大表示する場合や、ビデオカメラ使用時に、光学ズームを超えてデジタルズームによる撮影を行う場合にも、高解像度化の必要がある。   Compared with such an output device having a high resolution, video data acquired by a photographing device such as a video camera, a television broadcast conforming to the SD standard, a DVD, or the like has a low resolution. For this reason, it is necessary to increase the resolution of the video data by some means. In addition, it is necessary to increase the resolution when displaying a part of a video or an image in an enlarged manner or when using a video camera to shoot with a digital zoom beyond the optical zoom.

従来、高解像度化には、線形内挿や3次元畳み込み法(Cubic Convolution)による内挿が用いられていたが、十分な鮮鋭さが得られないという問題があった。そこで、画素と画素との間に新しい画素値データを生成し、高い周波数成分を創造し、鮮鋭化することで、画像データの元の解像度を超える画像を生成する超解像化技術の研究が進められている(特許文献1、特許文献2参照)。また、上述したような映像入出力機器に対して、超解像機能を組み込むための開発も進められている。   Conventionally, linear interpolation and interpolation by three-dimensional convolution (Cubic Convolution) have been used for high resolution, but there is a problem that sufficient sharpness cannot be obtained. Therefore, research on super-resolution technology that generates new pixel value data between pixels, creates high frequency components, and sharpens them to generate images that exceed the original resolution of image data. (See Patent Documents 1 and 2). In addition, development for incorporating a super-resolution function into the video input / output device as described above is also in progress.

特開2008−067110号公報JP 2008-067110 A 特開2008−146190号公報JP 2008-146190 A

しかしながら、このような鮮鋭化処理を実際のデジタルテレビ等の出力機器に実装した場合、画像の状態によっては、この鮮鋭化処理により画質が低下することがあることがわかった。例えば、入力ソース画像にフェードイン又はフェードアウト等の急激な明るさの変化が含まれる場合に、鮮鋭化処理により画質が低下することがある。同様に、コアリング処理により画質が低下してしまうことがある。   However, when such sharpening processing is mounted on an actual output device such as a digital television, it has been found that depending on the state of the image, the sharpening processing may reduce the image quality. For example, when the input source image includes a rapid brightness change such as fade-in or fade-out, the image quality may be deteriorated by the sharpening process. Similarly, the image quality may deteriorate due to the coring process.

本発明の目的は、画像の変化に応じて鮮鋭化処理又はコアリング処理を制御することが可能な画像処理装置及び画像処理方法を提供することにある。   An object of the present invention is to provide an image processing apparatus and an image processing method capable of controlling a sharpening process or a coring process in accordance with an image change.

本発明の一実施形態に係る画像処理装置は、画像データに含まれた複数フレーム間の明暗変化量を検出する検出手段と、前記検出された明暗変化量に応じて、前記画像データに対する鮮鋭化効果ゲインを制御する鮮鋭化パラメータを設定する鮮鋭化制御手段と、前記鮮鋭化パラメータに基づき前記画像データに対して鮮鋭化処理を実行する鮮鋭化処理手段と、を備えている。   An image processing apparatus according to an embodiment of the present invention includes a detection unit configured to detect a change in brightness between a plurality of frames included in image data, and sharpening of the image data according to the detected change in brightness. Sharpening control means for setting a sharpening parameter for controlling the effect gain, and sharpening processing means for executing a sharpening process on the image data based on the sharpening parameter.

本発明の一実施形態に係る画像処理方法は、画像データに含まれた複数フレーム間の明暗変化量を検出し、前記検出された明暗変化量に応じて、前記画像データに対する鮮鋭化効果ゲインを制御する鮮鋭化パラメータを設定し、前記鮮鋭化パラメータに基づき前記画像データに対して鮮鋭化処理を実行する。   An image processing method according to an embodiment of the present invention detects a light / dark change amount between a plurality of frames included in image data, and sets a sharpening effect gain for the image data in accordance with the detected light / dark change amount. A sharpening parameter to be controlled is set, and a sharpening process is performed on the image data based on the sharpening parameter.

本発明によれば、画像の変化に応じて鮮鋭化処理又はコアリング処理を制御することが可能な画像処理装置及び画像処理方法を提供できる。   ADVANTAGE OF THE INVENTION According to this invention, the image processing apparatus and image processing method which can control a sharpening process or a coring process according to the change of an image can be provided.

本発明の一実施形態に係る画像処理装置の概略構成を示す図である。1 is a diagram illustrating a schematic configuration of an image processing apparatus according to an embodiment of the present invention. フェードアウト時の輝度ヒストグラムの変化の一例を示す図である。It is a figure which shows an example of the change of the luminance histogram at the time of fade-out. ヒストグラム分布に対する重み付け処理の一例を示す図である。It is a figure which shows an example of the weighting process with respect to histogram distribution. フェードイン又はフェードアウト等の急な明るさの変化に応じて、超解像コアリング処理及び画像鮮鋭化処理の効果を可変制御する画質悪化防止処理の一例を示すフローチャートである。It is a flowchart which shows an example of the image quality deterioration prevention process which variably controls the effect of a super-resolution coring process and an image sharpening process according to the sudden brightness change, such as fade-in or fade-out. 複数フレーム間の明暗変化量(差分値)の概要を説明するための図である。It is a figure for demonstrating the outline | summary of the light-dark change amount (difference value) between several frames. 超解像コアリング処理の効果を制御するための補正パラメータを取得するための入出力変換の一例を示す図である。It is a figure which shows an example of the input-output conversion for acquiring the correction parameter for controlling the effect of a super-resolution coring process. 画像鮮鋭化処理の効果を制御するための補正パラメータを取得するための入出力変換の一例を示す図である。It is a figure which shows an example of the input-output conversion for acquiring the correction parameter for controlling the effect of an image sharpening process. 図1に示す画像処理装置が組み込まれたテレビジョン信号受信装置の概略構成を示す図である。It is a figure which shows schematic structure of the television signal receiver incorporating the image processing apparatus shown in FIG. 超解像コアリング処理モジュールの概略構成を示す図である。It is a figure which shows schematic structure of a super-resolution coring process module. 垂直ノイズ低減回路(コアリング)の概略構成を示す図である。It is a figure which shows schematic structure of a vertical noise reduction circuit (coring).

以下、図面を参照し、本発明の実施形態について説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

図1は、本発明の一実施形態に係る画像処理装置の概略構成を示す図である。図1に示すように、画像処理装置は、ヒストグラム取得モジュール104、ヒストグラム値フレームバッファ105、輝度レベル遷移状態判定モジュール108、加算器110、117、超解像コアリング処理モジュール120、及び画像鮮鋭化処理モジュール127を備えている。   FIG. 1 is a diagram showing a schematic configuration of an image processing apparatus according to an embodiment of the present invention. As shown in FIG. 1, the image processing apparatus includes a histogram acquisition module 104, a histogram value frame buffer 105, a luminance level transition state determination module 108, adders 110 and 117, a super-resolution coring processing module 120, and an image sharpening. A processing module 127 is provided.

超解像コアリング処理モジュール120には、入力映像信号101(輝度:Y)、102(色信号:Cb/Pb)、103(色信号:Cr/Pr)が入力される。同様に、ヒストグラム取得モジュール104にも、入力映像信号101、102、103が入力される。超解像コアリング処理モジュール120は、超解像コアリング処理を実行し、ここでいう超解像コアリング処理とは、超解像処理によって生じ得るノイズ成分を抑える処理を意味する。ヒストグラム取得モジュール104は、1フレーム単位で入力映像の画像の輝度分布を示すヒストグラムを取得する。   The super-resolution coring processing module 120 receives input video signals 101 (luminance: Y), 102 (color signal: Cb / Pb), 103 (color signal: Cr / Pr). Similarly, the input video signals 101, 102, and 103 are also input to the histogram acquisition module 104. The super-resolution coring processing module 120 executes the super-resolution coring processing, and the super-resolution coring processing here means processing for suppressing noise components that may be generated by the super-resolution processing. The histogram acquisition module 104 acquires a histogram indicating the luminance distribution of the input video image in units of frames.

フェードアウトする場合は、図2に示すように、各画像のヒストグラムは、次第に暗部が強くなるように変化する。逆に、フェードインする場合は、各画像のヒストグラムは、次第に明るい部分が強くなるように変化する。   When fading out, as shown in FIG. 2, the histogram of each image gradually changes so that the dark portion becomes stronger. On the contrary, when fading in, the histogram of each image gradually changes so that the bright part becomes stronger.

図3は、ヒストグラム分布に対する重み付け処理の一例を示す図である。図3から分かるように重み付け係数は、輝度レベルが低い値になるにしたがって、大きい値となっている。これは、フェードイン・フェードアウト時に、プレーン領域の階調差による縞模様は、輝度レベルが低い領域で目立ちやすいことに起因する。つまりプレーン領域の階調差による縞模様は、暗い側の画面において目立ちやすいから、暗い側の画面になればなるほどヒストグラム値を強調するようにしている。さらに、重み付け係数特性は、輝度レベルの高いほうは係数値が少ないので、明るい側の画面に対してはデータ量を低減していることになる。このことはデータの演算処理の負担を軽減することにもなる。   FIG. 3 is a diagram illustrating an example of weighting processing for the histogram distribution. As can be seen from FIG. 3, the weighting coefficient increases as the luminance level decreases. This is because, during fade-in / fade-out, the stripe pattern due to the gradation difference in the plain region is easily noticeable in the region where the luminance level is low. That is, the stripe pattern due to the gradation difference in the plain area is easily noticeable on the dark side screen, so that the histogram value is enhanced as the dark side screen is obtained. Further, the weighting coefficient characteristic has a smaller coefficient value at a higher luminance level, and therefore the data amount is reduced for a bright screen. This also reduces the burden of data processing.

図3に示すように、ヒストグラム取得部104は、取得したヒストグラム分布の各々のレベルの度数に対して、各々のレベルに設定された重み付け係数を乗算し、全てのレベルの度数の和を取得し、現フレームの計算値(ヒストグラム値)としてヒストグラム値フレームバッファ105へ出力する。フェードアウトの場合、現フレームの計算値は前フレームの計算値より減少する。逆にフェードアウトの場合、現フレームの計算値は前フレームの計算値より増加する。得られた計算値は現フレームの計算値としてヒストグラム値フレームバッファ105へ出力する。   As shown in FIG. 3, the histogram acquisition unit 104 multiplies the frequency of each level of the acquired histogram distribution by a weighting coefficient set for each level, and acquires the sum of the frequencies of all levels. The calculated value (histogram value) of the current frame is output to the histogram value frame buffer 105. In the case of fading out, the calculated value of the current frame is reduced from the calculated value of the previous frame. Conversely, in the case of fading out, the calculated value of the current frame increases from the calculated value of the previous frame. The obtained calculated value is output to the histogram value frame buffer 105 as the calculated value of the current frame.

ヒストグラム値フレームバッファ105は、現フレームを含めた複数フレームのヒストグラム値をバッファリングし、輝度レベル遷移状態判定モジュール108での演算に使用する現フレームを含めた複数フレームのヒストグラム値107を輝度レベル遷移状態判定モジュール108へ送信する。   The histogram value frame buffer 105 buffers histogram values of a plurality of frames including the current frame, and changes the histogram values 107 of the plurality of frames including the current frame used for calculation in the luminance level transition state determination module 108 to the luminance level transition. It transmits to the state determination module 108.

輝度レベル遷移状態判定モジュール108は、ヒストグラム値107に基づき複数フレーム間の明暗変化量(以下で説明する差分値)を検出し、明暗変化量の検出結果に基づきフェードイン又はフェードアウト区間を検出する。フェードイン又はフェードアウト区間は、複数フレーム間のヒストグラム値の差分に基づき、同じ極性(プラス又はマイナス)が連続しているか否かで検出することができる。輝度レベル遷移状態判定モジュール108は、フェードン又はフェードアウト区間を検出したとき、当該区間で輝度変化傾斜(明暗変化量)に応じた第1の補正パラメータ(オフセットデータ)を加算器110へ出力し、また、当該区間で輝度変化傾斜(明暗変化量)に応じた第2の補正パラメータ(オフセットデータ)を加算器117へ出力する。なお、輝度レベル遷移状態判定モジュール108は、第1又は第2の補正パラメータが急激あるいは頻繁に変動しないように、修正した第1又は第2の補正パラメータを出力してもよい。   The luminance level transition state determination module 108 detects a light / dark change amount (difference value described below) between a plurality of frames based on the histogram value 107, and detects a fade-in or fade-out interval based on the detection result of the light / dark change amount. The fade-in or fade-out interval can be detected based on whether or not the same polarity (plus or minus) is continuous based on the difference in histogram values between a plurality of frames. When the luminance level transition state determination module 108 detects a fade or fade-out interval, the luminance level transition state determination module 108 outputs the first correction parameter (offset data) corresponding to the luminance change slope (brightness / darkness change amount) to the adder 110 in the interval. Then, the second correction parameter (offset data) corresponding to the luminance change slope (brightness / darkness change amount) is output to the adder 117 in the section. The luminance level transition state determination module 108 may output the corrected first or second correction parameter so that the first or second correction parameter does not change suddenly or frequently.

加算器110は、超解像コアリングイニシャルパラメータ111と第1の補正パラメータとを加算し超解像コアリングパラメータを生成し、超解像コアリングパラメータを超解像コアリング処理モジュール120へ出力する。つまり、加算器110は、輝度変化傾斜(明暗変化量)に応じて補正された超解像コアリングパラメータを超解像コアリング処理モジュール120に対して設定する。   The adder 110 adds the super-resolution coring initial parameter 111 and the first correction parameter to generate a super-resolution coring parameter, and outputs the super-resolution coring parameter to the super-resolution coring processing module 120. To do. That is, the adder 110 sets the super-resolution coring parameter corrected according to the luminance change slope (brightness / darkness change amount) in the super-resolution coring processing module 120.

加算器117は、画像鮮鋭化イニシャルパラメータ118と第2の補正パラメータとを加算し画像鮮鋭化パラメータを生成し、画像鮮鋭化パラメータを画像鮮鋭化処理モジュール127へ出力する。つまり、加算器117は、輝度変化傾斜(明暗変化量)に応じて補正された画像鮮鋭化パラメータを画像鮮鋭化処理モジュール127に対して設定する。   The adder 117 adds the image sharpening initial parameter 118 and the second correction parameter to generate an image sharpening parameter, and outputs the image sharpening parameter to the image sharpening processing module 127. That is, the adder 117 sets the image sharpening parameter corrected according to the luminance change slope (brightness / darkness change amount) to the image sharpening processing module 127.

これにより、超解像コアリング処理モジュール120は、輝度変化傾斜(明暗変化量)に応じて、超解像コアリング効果を制御することができる。つまり、超解像コアリング処理モジュール120は、フェードイン又はフェードアウト等の急な明るさの変化(一定程度以上のフェードイン又はフェードアウト)に対応して、超解像コアリング効果を強めることができる。これにより、MPEGノイズの悪化を防止することができ、ユーザーは入力画像に最適な超解像コアリング処理が適用された映像を楽しむことができる。   Thereby, the super-resolution coring processing module 120 can control the super-resolution coring effect according to the luminance change slope (brightness / darkness change amount). That is, the super-resolution coring processing module 120 can enhance the super-resolution coring effect in response to a sudden brightness change (fade-in or fade-out of a certain level or more) such as fade-in or fade-out. . Thereby, deterioration of MPEG noise can be prevented, and the user can enjoy a video to which the super-resolution coring process optimum for the input image is applied.

また、画像鮮鋭化処理モジュール127も、輝度変化傾斜(明暗変化量)に応じて、画像鮮鋭化効果を制御することができる。つまり、画像鮮鋭化処理モジュール127も、フェードイン又はフェードアウト等の急な明るさの変化(一定程度以上のフェードイン又はフェードアウト)に対応して、画像鮮鋭化効果を制御することができる。これにより、MPEGノイズの悪化を防止することができ、ユーザーは入力画像に最適な画像鮮鋭化処理が適用された映像を楽しむことができる。   The image sharpening processing module 127 can also control the image sharpening effect according to the luminance change slope (brightness / darkness change amount). That is, the image sharpening processing module 127 can also control the image sharpening effect in response to a sudden change in brightness such as fade-in or fade-out (fade-in or fade-out of a certain level or more). As a result, deterioration of MPEG noise can be prevented, and the user can enjoy a video to which an image sharpening process optimal for the input image is applied.

ここで、超解像コアリング処理モジュール120及び画像鮮鋭化処理モジュール127による超解像処理について補足する。例えば、画像鮮鋭化処理モジュール127は、第1解像度である低解像度の画像信号から本来の画素値を推定して画素を増やすことにより、第2解像度である高解像度の画像信号を復元する鮮鋭化処理を行う。ここで、「本来の画素値」とは、例えば、低解像度(第1解像度)の画像信号を得たときと同じ被写体を、高解像度(第2解像度)のカメラで撮像したときに得られる画像信号の各画素が示す値をいう。また、「推定して画素を増やす」とは、対象とする画像の特徴を捉えて、同一フレーム内、またはフレーム間において相関の高い画像から、本来の画素値を推定して、新たな画素に対応付ける画素値とすることを意味する。つまり、画像の相関性を利用する。   Here, the super-resolution processing by the super-resolution coring processing module 120 and the image sharpening processing module 127 will be supplemented. For example, the image sharpening processing module 127 estimates the original pixel value from the low-resolution image signal that is the first resolution and increases the number of pixels, thereby restoring the high-resolution image signal that is the second resolution. Process. Here, the “original pixel value” is, for example, an image obtained when an image of the same subject as that obtained when a low resolution (first resolution) image signal is captured with a high resolution (second resolution) camera. A value indicated by each pixel of the signal. In addition, “estimate and increase the number of pixels” refers to capturing the characteristics of the target image, estimating the original pixel value from an image highly correlated within the same frame or between frames, and creating a new pixel. This means that the corresponding pixel value is used. That is, the correlation between images is used.

さらに、詳しく説明すると、まず、オリジナルの入力映像から、アップコンバート処理によって、仮のフルHD高解像度映像を作る。つまり、隣り合う画素の情報をもとに間の画素を補間し、仮のフルHD高解像度映像を作る。補間された画素は必ずしもオリジナル映像にあったものとは言えない。つまり、計算誤差によるノイズやエッジの乱れなどが発生し得る。   More specifically, first, a temporary full HD high-resolution video is created from the original input video by up-conversion processing. That is, the interpolated pixels are interpolated based on the information of adjacent pixels to create a provisional full HD high-resolution video. The interpolated pixels are not necessarily in the original video. That is, noise or edge disturbance due to calculation errors may occur.

次に、撮像モデル関数に基づき、仮のフルHD高解像度映像から、オリジナル映像と同じ解像度にダウンコンバートした映像を作る。撮像モデル関数とは、一般的なカメラが撮像素子の情報を映像信号に変換するのと同じ処理を計算で再現するものである。   Next, based on the imaging model function, a video that is down-converted to the same resolution as the original video is created from the temporary full HD high-resolution video. The imaging model function is a function that reproduces the same processing that a general camera converts information of an imaging element into a video signal by calculation.

ダウンコンバートした映像はオリジナルの入力映像と同じものになるはずであるが、アップコンバート処理における計算誤差などのため、ダウンコンバートした映像とオリジナルの入力映像との間には相違部分が発生する。この相違部分を検出し、また、周辺の画素の情報などを参考に計算誤差が出ないように補正して、オリジナルの入力映像に近い超解像処理された出力映像が生成される。   The down-converted video should be the same as the original input video, but a difference occurs between the down-converted video and the original input video due to a calculation error in the up-conversion process. This difference is detected, and correction is made so that a calculation error does not occur with reference to information on peripheral pixels and the like, and an output video subjected to super-resolution processing close to the original input video is generated.

つまり、超解像処理とは、ダウンコンバートした映像とオリジナルの入力映像とを比較し、オリジナルの入力映像が本来持っているはずの信号を復元する技術である。なお、比較と復元の処理を繰り返すほどに、超解像処理の精度は向上する。従って、比較と復元の処理を1回だけ行う処理も超解像処理であるし、比較と復元の処理を複数回繰り返す処理も超解像処理である。時間に余裕がある場合、例えば録画した映像を後で視聴する場合には、比較と復元の処理を複数回繰り返す超解像処理を利用することができる。   That is, the super-resolution processing is a technique for comparing a down-converted video with an original input video and restoring a signal that the original input video should originally have. In addition, the accuracy of the super-resolution processing improves as the comparison and restoration processes are repeated. Accordingly, the process of performing the comparison and restoration process only once is also a super-resolution process, and the process of repeating the comparison and restoration process a plurality of times is also a super-resolution process. When time is available, for example, when viewing recorded video later, super-resolution processing that repeats comparison and restoration processing a plurality of times can be used.

なお、本実施形態の超解像処理は、例えば、特開2007−310837号公報、特開2008−98803号公報及び特開2000−188680号公報等に開示された公知・公用の技術も含む。本実施形態の超解像処理としては、例えば、入力画像の標本化周期で決まるナイキスト周波数より高い周波数成分を有する画像を復元する技術を用いることができる。   Note that the super-resolution processing of this embodiment includes known and publicly-known techniques disclosed in, for example, Japanese Patent Application Laid-Open Nos. 2007-310837, 2008-98803, and 2000-188680. As the super-resolution processing of the present embodiment, for example, a technique for restoring an image having a frequency component higher than the Nyquist frequency determined by the sampling period of the input image can be used.

例えば、特開2007−310837号公報に開示された超解像処理を用いる場合には、複数の中解像度フレームのそれぞれに対してフレーム中の注目画素を含む注目画像領域中の画素値の変化パターンに最も近い複数の注目画像領域に対応する複数の対応点を基準フレームの中から選択し、対応点での輝度の標本値を対応点に対応している注目画素の画素値に設定し、複数の標本値の大きさと、複数の対応点の配置とに基づいて、基準フレームの画素数よりも多い画素数の高解像度フレームであって基準フレームに対応する高解像度フレームの画素値を算出することにより、低解像度の画像信号から本来の画素値を推定して画素を増やすことにより、高解像度の画像信号を復元する。   For example, when using the super-resolution processing disclosed in Japanese Patent Application Laid-Open No. 2007-310837, a change pattern of pixel values in a target image area including a target pixel in a frame for each of a plurality of medium resolution frames Select a plurality of corresponding points corresponding to a plurality of target image areas closest to the reference frame from the reference frame, set the sample value of the luminance at the corresponding point to the pixel value of the target pixel corresponding to the corresponding point, and Calculating a pixel value of a high-resolution frame corresponding to the reference frame, which is a high-resolution frame having a number of pixels larger than the number of pixels of the reference frame, based on the size of the sample value and the arrangement of a plurality of corresponding points. Thus, the original pixel value is estimated from the low resolution image signal and the number of pixels is increased to restore the high resolution image signal.

また、特開2008−98803号公報に開示された同一フレーム画像内の自己合同位置探索を利用した超解像処理を用いる場合には、中解像度フレームの探索領域の各画素の誤差を比較して最小となる第1の画素位置を算出し、第1の画素位置、及びこの第1の誤差、並びに第1の画素の周辺の第2の画素位置、及びこの第2の誤差に基づいて、探索領域のなかで誤差が最小となる位置を小数精度で算出する。そして、この位置を終点、及び注目画素を始点とする小数精度ベクトルを算出し、この小数精度ベクトルを用いて、探索領域に含まれない画面上の画素を終点とする小数精度ベクトルの外挿ベクトルを算出する。そして、小数精度ベクトル、外挿ベクトル、及び画像信号から取得された画素値に基づいて、画像信号に含まれる画素数よりも多い画素数の高解像度画像の画素値を算出する。本実施形態の超解像処理は、このような処理を行うことにより、低解像度の画像信号から本来の画素値を推定して画素を増やすことにより、高解像度の画像信号を復元する。   In addition, when using the super-resolution processing using self-congruent position search in the same frame image disclosed in Japanese Patent Application Laid-Open No. 2008-98803, the error of each pixel in the search area of the medium resolution frame is compared. A minimum first pixel position is calculated, and a search is performed based on the first pixel position, the first error, the second pixel position around the first pixel, and the second error. The position where the error is minimum in the area is calculated with decimal precision. Then, a decimal precision vector having the position as the end point and the target pixel as the start point is calculated, and using the decimal precision vector, an extrapolation vector of the decimal precision vector having the pixel on the screen not included in the search area as the end point Is calculated. Then, based on the decimal precision vector, the extrapolation vector, and the pixel value acquired from the image signal, the pixel value of the high-resolution image having a larger number of pixels than the number of pixels included in the image signal is calculated. In the super-resolution processing of the present embodiment, by performing such processing, the original pixel value is estimated from the low-resolution image signal and the number of pixels is increased, thereby restoring the high-resolution image signal.

また、特開2000−188680号公報に開示された複数フレーム画像間でのマッピングを利用した超解像処理を用いることもできる。   Also, super-resolution processing using mapping between a plurality of frame images disclosed in Japanese Patent Laid-Open No. 2000-188680 can be used.

また、本実施形態の超解像処理では、引き伸ばした映像に独自のアルゴリズムを加えることで一度低解像度映像に変換、さらにその映像をオリジナルの入力映像と比較して差分を検出して更に補正処理を施すことで、高画質処理がされてもよい。   In the super-resolution processing of the present embodiment, a unique algorithm is added to the stretched video to convert it to a low-resolution video once, and the video is compared with the original input video to detect a difference and further correct the processing. By applying the above, high image quality processing may be performed.

ただし、本実施形態の超解像処理の手法は、上記に限定されるものではなく、低解像度の画像信号から本来の画素値を推定して画素を増やすことにより、高解像度の画像信号を復元する処理であったり、あらゆる手法を適用することができる。   However, the super-resolution processing method of the present embodiment is not limited to the above, and the high-resolution image signal is restored by estimating the original pixel value from the low-resolution image signal and increasing the number of pixels. Or any method can be applied.

以下、超解像コアリング処理及び画像鮮鋭化処理の効果を可変制御する処理をさらに詳細に説明する。   Hereinafter, a process for variably controlling the effects of the super-resolution coring process and the image sharpening process will be described in more detail.

図4は、フェードイン又はフェードアウト等の急な明るさの変化に応じて、超解像コアリング処理及び画像鮮鋭化処理の効果を可変制御する画質悪化防止処理の一例を示すフローチャートである。なお、本実施形態では、急な明るさの変化に応じて、超解像コアリング処理及び画像鮮鋭化処理の二つの処理を可変制御する画質悪化防止処理について説明する。しかし、本発明はこれに限定されるものではない。例えば、以下説明する画質悪化防止処理が、急な明るさの変化に応じて、超解像コアリング処理及び画像鮮鋭化処理のどちらか一方だけの効果を可変制御してもよい。また、以下説明する画質悪化防止処理は、超解像コアリング処理及び画像鮮鋭化処理以外の画像処理に対して適用することもできる。   FIG. 4 is a flowchart illustrating an example of an image quality deterioration prevention process that variably controls the effects of the super-resolution coring process and the image sharpening process according to a sudden brightness change such as fade-in or fade-out. In the present embodiment, an image quality deterioration prevention process in which two processes of a super-resolution coring process and an image sharpening process are variably controlled according to a sudden change in brightness will be described. However, the present invention is not limited to this. For example, the image quality deterioration prevention process described below may variably control the effect of only one of the super-resolution coring process and the image sharpening process according to a sudden change in brightness. Further, the image quality deterioration prevention process described below can be applied to image processing other than the super-resolution coring process and the image sharpening process.

図4に示すように、ステップSA1では、mフレーム分のヒストグラム値(DIN(1)-DIN(m))が取得される。次に、ステップSA2、ステップSA3、ステップSA4により、フレーム(i=1)〜フレーム(i=n)の各々のヒストグラム値に対してdフレーム過去のヒストグラム値との差分値(DΔ(1〜n))を取得している。なおm=n+d、または、m>n+d、である。   As shown in FIG. 4, in step SA1, histogram values (DIN (1) -DIN (m)) for m frames are acquired. Next, in Step SA2, Step SA3, and Step SA4, the difference value (DΔ (1 to n) between the histogram value of the past d frames and the histogram value of each frame (i = 1) to frame (i = n). )). Note that m = n + d or m> n + d.

図5は、バッファリングされたmフレーム分のヒストグラム値(DIN(1)-DIN(m))と、フレーム(i=1)〜フレーム(i=n)のヒストグラム値を用いて差分値(DΔ(1〜n))が取得される様子を示している。   FIG. 5 shows a difference value (DΔ using the histogram values (DIN (1) −DIN (m)) for m frames buffered and the histogram values of frames (i = 1) to (i = n). (1-n)) is shown.

差分値(DΔ(1〜n))が取得されると、図4のステップSA5で、差分値の極性が連続して一致しているか否か判定される。全ての極性が一致するということは、数フレームに渡って、画面が連続して明るいほうから暗くなっている(フェードアウト)、あるいは暗いほうから明るくなっている(フェードイン)ということである。このときは、差分値(DΔ(1〜n))の絶対値を全て加算し、加算値をDΔallとして設定する(ステップSA6)。極性が一致しない場合には、0をDΔallとして設定する(ステップSA7)。   When the difference value (DΔ (1 to n)) is acquired, it is determined in step SA5 in FIG. 4 whether or not the polarities of the difference values are continuously matched. The fact that all the polarities are the same means that the screen is continuously darker from the brighter (fade out) or brighter from the darker (fade in) over several frames. At this time, all the absolute values of the difference values (DΔ (1 to n)) are added, and the added value is set as DΔall (step SA6). If the polarities do not match, 0 is set as DΔall (step SA7).

続いて、DΔallに基づき、図6に示す入出力変換C1を経て、第1の補正パラメータを出力する(ステップSA8)。同様に、DΔallに基づき、図7に示す入出力変換C2を経て、第2の補正パラメータを出力する(ステップSA9)。   Subsequently, based on DΔall, the first correction parameter is output through the input / output conversion C1 shown in FIG. 6 (step SA8). Similarly, based on DΔall, the second correction parameter is output through input / output conversion C2 shown in FIG. 7 (step SA9).

図6は、ステップSA8の入出力変換C1の一例を示す図である。入出力変換C1では、入力−出力のスレッシュレベル(閾値)を2点とした変換関数を挙げている。図6に示すように、IN1に対してOUT1を、IN2に対してOUT2を設定する。なお、図6に示す入力スレッシュレベルと出力レベルの関係は一例であり、画質悪化防止効果を引き出すために、自由に変更することができる。   FIG. 6 is a diagram illustrating an example of the input / output conversion C1 in step SA8. In the input / output conversion C1, a conversion function with two input-output threshold levels (threshold values) is cited. As shown in FIG. 6, OUT1 is set for IN1, and OUT2 is set for IN2. Note that the relationship between the input threshold level and the output level shown in FIG. 6 is an example, and can be freely changed in order to bring out the effect of preventing deterioration in image quality.

図6に示すように、IN1とIN2の間のような入力値(IN1以上且つIN2以下)に関しては線形補間を行うことでOUT1からOUT2へ遷移する値を出力する。入力値がIN1未満の場合は、常にOUT1を出力する。また入力値がIN2を超える場合は、OUT2を常に出力する。   As shown in FIG. 6, with respect to an input value between IN1 and IN2 (IN1 or more and IN2 or less), a value that transits from OUT1 to OUT2 is output by performing linear interpolation. When the input value is less than IN1, OUT1 is always output. If the input value exceeds IN2, OUT2 is always output.

入出力変換C1(ステップSA8)により得られた値を、超解像コアリング処理モジュール120への第1の補正パラメータとして加算器110へ出力する。加算器110は、超解像コアリングイニシャルパラメータ111と第1の補正パラメータとを加算し超解像コアリングパラメータ(超解像コアリングオフセットパラメータ)を生成し、超解像コアリングパラメータを超解像コアリング処理モジュール120へ出力する(ステップSA10)。   The value obtained by the input / output conversion C1 (step SA8) is output to the adder 110 as the first correction parameter to the super-resolution coring processing module 120. The adder 110 adds the super-resolution coring initial parameter 111 and the first correction parameter to generate a super-resolution coring parameter (super-resolution coring offset parameter). It outputs to the resolution coring processing module 120 (step SA10).

つまり、超解像コアリング処理モジュール120に入力される超解像コアリングパラメータは、以下のようになる。   That is, the super-resolution coring parameters input to the super-resolution coring processing module 120 are as follows.

(1)IN1未満の第1の明暗変化量の検出時には、第1のコアリング効果を得るための第1の超解像コアリングパラメータが設定される。   (1) At the time of detecting the first light / dark change amount less than IN1, the first super-resolution coring parameter for obtaining the first coring effect is set.

(2)IN2より大きい第2の明暗変化量の検出時には、第1のコアリング効果より大きい第2のコアリング効果を得るための第2の超解像コアリングパラメータが設定される。   (2) At the time of detecting the second light / dark change amount larger than IN2, the second super-resolution coring parameter for obtaining the second coring effect larger than the first coring effect is set.

(3)IN1以上でIN2以下の第3の明暗変化量の検出に基づき、第1のコアリング効果より大きく第2のコアリング効果より小さい第3のコアリング効果を得るためのコアリングパラメータであって、且つ第3の明暗変化量の増加に応じて増加する第3のコアリング効果を得るための第3のコアリングパラメータが設定される。   (3) Coring parameters for obtaining a third coring effect that is larger than the first coring effect and smaller than the second coring effect based on detection of the third light-dark change amount that is greater than or equal to IN1 and less than or equal to IN2. In addition, a third coring parameter for obtaining a third coring effect that increases as the third light / dark change amount increases is set.

これにより、超解像コアリング処理モジュール120は、フェードイン又はフェードアウト区間等の明るさの変化に応じて補正された超解像コアリングパラメータ(超解像コアリングオフセットパラメータ)に基づき、明るさの変化に応じた超解像コアリング処理を実行することができる(ステップSA12)。つまり、フェードイン又はフェードアウト区間等の明るさの変化に応じて、超解像コアリングの効果を強め、MPEGノイズの悪化を防止することができる。図1に示すように、超解像コアリング処理モジュール120は、入力映像信号101、102、103に対応した超解像コアリング処理済み映像信号103(輝度:Y’)、104(色信号:Cb’/Pb’)、105(色信号:Cr’/Pr’)を出力する。   As a result, the super-resolution coring processing module 120 determines the brightness based on the super-resolution coring parameter (super-resolution coring offset parameter) corrected according to the change in brightness in the fade-in or fade-out interval. The super-resolution coring process according to the change in the number can be executed (step SA12). In other words, the effect of super-resolution coring can be enhanced in accordance with the change in brightness such as the fade-in or fade-out period, and deterioration of MPEG noise can be prevented. As shown in FIG. 1, the super-resolution coring processing module 120 has super-resolution coring-processed video signals 103 (luminance: Y ′) and 104 (color signals: corresponding to the input video signals 101, 102, 103). Cb ′ / Pb ′) and 105 (color signal: Cr ′ / Pr ′) are output.

図7は、ステップSA9の入出力変換C2の一例を示す図である。入出力変換C2では、入力−出力のスレッシュレベル(閾値)を2点とした変換関数を挙げている。図7に示すように、IN1に対してOUT1を、IN2に対してOUT2を設定する。なお、図7に示す入力スレッシュレベルと出力レベルの関係は一例であり、画質悪化防止効果を引き出すために、自由に変更することができる。   FIG. 7 is a diagram illustrating an example of the input / output conversion C2 in step SA9. In the input / output conversion C2, a conversion function with two input-output threshold levels (threshold values) is cited. As shown in FIG. 7, OUT1 is set for IN1, and OUT2 is set for IN2. Note that the relationship between the input threshold level and the output level shown in FIG. 7 is an example, and can be freely changed in order to bring out the effect of preventing deterioration in image quality.

図7に示すように、IN1とIN2の間のような入力値(IN1以上且つIN2以下)に関しては線形補間を行うことでOUT1からOUT2へ遷移する値を出力する。入力値がIN1未満の場合は、常にOUT2を出力する。また入力値がIN2を超える場合は、OUT1を常に出力する。   As shown in FIG. 7, for an input value between IN1 and IN2 (IN1 or more and IN2 or less), a value that changes from OUT1 to OUT2 is output by performing linear interpolation. When the input value is less than IN1, OUT2 is always output. When the input value exceeds IN2, OUT1 is always output.

入出力変換C2(ステップSA9)により得られた値を、画像鮮鋭化処理モジュール127への第2の補正パラメータとして加算器117へ出力する。加算器117は、画像鮮鋭化イニシャルパラメータ118と第2の補正パラメータとを加算し画像鮮鋭化パラメータ(画像鮮鋭化オフセットパラメータ)を生成し、画像鮮鋭化パラメータを画像鮮鋭化処理モジュール127へ出力する(ステップSA11)。   The value obtained by the input / output conversion C2 (step SA9) is output to the adder 117 as the second correction parameter to the image sharpening processing module 127. The adder 117 adds the image sharpening initial parameter 118 and the second correction parameter to generate an image sharpening parameter (image sharpening offset parameter), and outputs the image sharpening parameter to the image sharpening processing module 127. (Step SA11).

つまり、画像鮮鋭化処理モジュール127に入力される画像鮮鋭化パラメータは、以下のようになる。   That is, the image sharpening parameters input to the image sharpening processing module 127 are as follows.

(1)IN1未満の第1の明暗変化量の検出時には、第1の鮮鋭化効果ゲインを得るための第1の鮮鋭化パラメータが設定される。   (1) At the time of detecting a first light / dark change amount less than IN1, a first sharpening parameter for obtaining a first sharpening effect gain is set.

(2)IN2より大きい第2の明暗変化量の検出時には、第1の鮮鋭化効果ゲインより小さい第2の鮮鋭化効果ゲインを得るための第2の鮮鋭化パラメータが設定される。   (2) At the time of detecting the second light / dark change amount larger than IN2, the second sharpening parameter for obtaining the second sharpening effect gain smaller than the first sharpening effect gain is set.

(3)IN1以上でIN2以下の第3の明暗変化量の検出に基づき、第1の鮮鋭化効果ゲインより小さく第2の鮮鋭化効果ゲインより大きい第3の鮮鋭化効果ゲインを得るための鮮鋭化パラメータであって、且つ第3の明暗変化量の増加に応じて減少する第3の鮮鋭化効果ゲインを得るための第3の鮮鋭化パラメータが設定される。   (3) Sharpness for obtaining a third sharpening effect gain that is smaller than the first sharpening effect gain and larger than the second sharpening effect gain based on detection of the third brightness change amount that is greater than or equal to IN1 and less than or equal to IN2. And a third sharpening parameter for obtaining a third sharpening effect gain that decreases as the third amount of change in brightness is increased.

これにより、画像鮮鋭化処理モジュール127は、フェードイン又はフェードアウト区間等の明るさの変化に応じて補正された画像鮮鋭化パラメータ(画像鮮鋭化オフセットパラメータ)に基づき、明るさの変化に応じた画像鮮鋭化処理を実行することができる(ステップSA13)。つまり、フェードイン又はフェードアウト区間等の明るさの変化に応じて、画像鮮鋭化ゲインを下げて、MPEGノイズの悪化を防止することができる。図1に示すように、画像鮮鋭化処理モジュール127は、超解像コアリング処理済み映像信号103、104、105に対応した画像鮮鋭化処理済み映像信号120(輝度:Y’’)、121(色信号:Cb’’/Pb’’)、122(色信号:Cr’’/Pr’’)を出力する。   As a result, the image sharpening processing module 127 performs an image corresponding to the change in brightness based on the image sharpening parameter (image sharpening offset parameter) corrected according to the change in brightness in the fade-in or fade-out section. A sharpening process can be executed (step SA13). That is, it is possible to prevent the MPEG noise from deteriorating by reducing the image sharpening gain in accordance with the change in brightness in the fade-in or fade-out section. As shown in FIG. 1, the image sharpening processing module 127 includes image sharpening processed video signals 120 (luminance: Y ″), 121 (corresponding to the super-resolution coring processed video signals 103, 104, 105. Color signals: Cb ″ / Pb ″) and 122 (color signals: Cr ″ / Pr ″) are output.

上記説明した画像処理装置は、MPEGノイズが出やすい状況(フェードイン又はフェードアウト区間)を検出することができ、この検出時に超解像コアリングの効果を強め画像鮮鋭化ゲインを下げることができる。これにより、その他の画像に影響することなしに、フェードイン又はフェードアウト区間に発生するMPEGノイズを軽減できる。   The above-described image processing apparatus can detect a situation in which MPEG noise is likely to occur (fade-in or fade-out period), and at the time of detection, the effect of super-resolution coring can be enhanced and the image sharpening gain can be reduced. Thereby, MPEG noise generated in the fade-in or fade-out period can be reduced without affecting other images.

上記説明した画像処理装置を適用しなければ、例えば、超解像コアリングパラメータおよび画像鮮鋭化パラメータは固定されたままとなり、MPEGノイズが出やすい状況で、MPEGノイズを強調してしまうことになる。   If the image processing apparatus described above is not applied, for example, the super-resolution coring parameter and the image sharpening parameter remain fixed, and MPEG noise is emphasized in a situation where MPEG noise is likely to occur. .

図8は、図1に示す画像処理装置が組み込まれたテレビジョン信号受信装置の概略構成を示す図である。   FIG. 8 is a diagram showing a schematic configuration of a television signal receiving apparatus in which the image processing apparatus shown in FIG. 1 is incorporated.

図8に示すようにテレビジョン信号受信装置は、信号処理モジュール34を備え、信号処理モジュール34は、図1に示す画像処理装置を画像処理モジュールとして含む。デジタルテレビジョン放送受信用のアンテナ22で受信したデジタルテレビジョン放送信号は、入力端子23を介してチューナ24に供給される。このチューナ24は、入力されたデジタルテレビジョン放送信号から所望のチャンネルの信号を選局し復調している。そして、このチューナ24から出力された信号は、デコーダ25に供給されて、MPEGデコーダ41等により、MPEG(moving picture experts group)2デコード処理される。   As shown in FIG. 8, the television signal receiving apparatus includes a signal processing module 34. The signal processing module 34 includes the image processing apparatus shown in FIG. 1 as an image processing module. The digital television broadcast signal received by the digital television broadcast receiving antenna 22 is supplied to the tuner 24 via the input terminal 23. The tuner 24 selects and demodulates a signal of a desired channel from the input digital television broadcast signal. The signal output from the tuner 24 is supplied to the decoder 25 and subjected to MPEG (moving picture experts group) 2 decoding processing by the MPEG decoder 41 and the like.

またチューナ24の出力は、セレクタ26にも供給されている。この信号から映像・音声情報などが分離され、この映像・音声情報が制御部35を介して記憶部において記録されることも可能である。   The output of the tuner 24 is also supplied to the selector 26. It is also possible to separate video / audio information from the signal and record the video / audio information in the storage unit via the control unit 35.

さらに、アナログテレビジョン放送受信用のアンテナ27で受信したアナログテレビジョン放送信号は、入力端子28を介してチューナ29に供給される。このチューナ29は、入力されたアナログテレビジョン放送信号から所望のチャンネルの信号を選局し復調している。そして、このチューナ29から出力された信号は、A/D(analog/digital)変換部30によりデジタル化された後、上記セレクタ26に出力される。   Further, the analog television broadcast signal received by the analog television broadcast receiving antenna 27 is supplied to the tuner 29 via the input terminal 28. The tuner 29 selects and demodulates a signal of a desired channel from the input analog television broadcast signal. The signal output from the tuner 29 is digitized by an A / D (analog / digital) converter 30 and then output to the selector 26.

また、アナログ信号用の入力端子31に供給されたアナログの映像及び音声信号は、A/D変換部32に供給されてデジタル化された後、上記セレクタ26に出力される。さらに、デジタル信号用の入力端子33に供給されたデジタルの映像及び音声信号は、そのまま上記セレクタ26に供給される。   The analog video and audio signals supplied to the analog signal input terminal 31 are supplied to the A / D converter 32 and digitized, and then output to the selector 26. Further, the digital video and audio signals supplied to the digital signal input terminal 33 are supplied to the selector 26 as they are.

A/D変換された信号が、記憶部にて記録される場合は、セレクタ26に付随しているMPEGエンコーダ42により、所定のフォーマット例えばMPEG(moving picture experts group)2方式による圧縮処理が施された後、記憶部にて記録される。   When the A / D converted signal is recorded in the storage unit, the MPEG encoder 42 attached to the selector 26 performs compression processing in a predetermined format, for example, MPEG (moving picture experts group) 2 system. After that, it is recorded in the storage unit.

上記セレクタ26は、4箇所の入力デジタル映像及び音声信号から1つを選択して、信号処理モジュール34に供給している。この信号処理モジュール34は、入力されたデジタル映像信号に所定の信号処理を施して上記映像表示器14での映像表示に供させている。この映像表示部14としては、例えば、液晶ディスプレイやプラズマディスプレイ等でなるフラットパネルディスプレイが採用される。また、信号処理モジュール34は、入力されたデジタル音声信号に所定の信号処理を施し、アナログ化してスピーカ15に出力することにより、音声再生を行なっている。   The selector 26 selects one of the four input digital video and audio signals and supplies it to the signal processing module 34. The signal processing module 34 performs predetermined signal processing on the input digital video signal and provides it for video display on the video display 14. As the video display unit 14, for example, a flat panel display such as a liquid crystal display or a plasma display is adopted. In addition, the signal processing module 34 performs predetermined signal processing on the input digital audio signal, converts it into an analog signal, and outputs it to the speaker 15 for audio reproduction.

ここで、このテレビジョン信号受信装置は、上記した各種の受信動作を含む種々の動作を制御部35によって統括的に制御されている。この制御部35は、CPU(central processing unit)等を内蔵したマイクロプロセッサであり、操作部16や操作子(図示せず)からの操作情報、または、上記リモートコントローラ17から送信された操作情報を受光部18で受けて処理することにより、その操作内容が反映されるように各部をそれぞれ制御している。   Here, in the television signal receiving apparatus, various operations including the various receiving operations described above are comprehensively controlled by the control unit 35. The control unit 35 is a microprocessor with a built-in CPU (central processing unit) and the like, and receives operation information from the operation unit 16 and an operator (not shown) or operation information transmitted from the remote controller 17. By receiving and processing the light receiving unit 18, each unit is controlled so that the operation content is reflected.

この場合、制御部35は、メモリ36を使用している。このメモリ36は、主として、そのCPUが実行する制御プログラムを格納したROM(read only memory)と、該CPUに作業エリアを提供するためのRAM(random access memory)と、各種の設定情報及び制御情報等が格納される不揮発性メモリとを備えている。   In this case, the control unit 35 uses the memory 36. This memory 36 mainly includes a ROM (read only memory) storing a control program executed by the CPU, a RAM (random access memory) for providing a work area to the CPU, various setting information and control information. And the like are stored in a nonvolatile memory.

次に、図9及び図10を参照して、超解像コアリング処理について説明する。例えば、図9に示すように、超解像コアリング処理モジュール120は構成されている。入力映像信号は、水平ノイズ低減回路1202、フレーム遅延回路1205、フレーム間差分情報計数回路1206に入力される。   Next, the super-resolution coring process will be described with reference to FIGS. 9 and 10. For example, as shown in FIG. 9, the super-resolution coring processing module 120 is configured. The input video signal is input to the horizontal noise reduction circuit 1202, the frame delay circuit 1205, and the inter-frame difference information counting circuit 1206.

水平ノイズ低減回路1202は、例えばクロック遅延素子と係数器を用いたフィルタであり、水平方向の水平ライン上のノイズの低減処理を行う。水平ノイズ低減回路1202の出力は、5タップライン遅延回路1203に入力される。5タップライン遅延回路1203は、複数のライン遅延回路を用いて、水平ラインを5ライン分同時化する。この同時化されたライン信号は、垂直ノイズ低減回路1204に入力され、垂直方向のノイズ低減処理が行われ、出力端子に出力される。   The horizontal noise reduction circuit 1202 is a filter using, for example, a clock delay element and a coefficient unit, and performs noise reduction processing on the horizontal line in the horizontal direction. The output of the horizontal noise reduction circuit 1202 is input to the 5-tap line delay circuit 1203. The 5-tap line delay circuit 1203 synchronizes five horizontal lines using a plurality of line delay circuits. The synchronized line signals are input to the vertical noise reduction circuit 1204, subjected to vertical noise reduction processing, and output to the output terminal.

ここで、上記した水平ノイズ低減回路1202、及び垂直ノイズ低減回路1204に対しては、そのノイズ低減量を制御するために、上記した超解像コアリングパラメータが入力されている。水平ノイズ低減回路1202は、超解像コアリングパラメータに基づき、ノイズ低減レベルが制御され、水平方向の高域成分のコアリング処理によりノイズを低減している。また、垂直ノイズ低減回路1204も、超解像コアリングパラメータに基づき、ノイズ低減レベルが制御され、垂直方向の高域成分のコアリング処理によりノイズを低減している。   Here, the above-described super-resolution coring parameters are input to the horizontal noise reduction circuit 1202 and the vertical noise reduction circuit 1204 in order to control the amount of noise reduction. The horizontal noise reduction circuit 1202 controls the noise reduction level based on the super-resolution coring parameter, and reduces the noise by coring processing of the high frequency component in the horizontal direction. The vertical noise reduction circuit 1204 also controls the noise reduction level based on the super-resolution coring parameter, and reduces noise by coring processing of the high frequency component in the vertical direction.

図10は、図9に示す垂直ノイズ低減回路1204の一例を示す図である。5タップライン遅延回路1203からの信号は、垂直バンドパスフィルタ1204aに入力される。垂直バンドバスフィルタ1204aは、入力信号を用いてフィルタリング処理を行い、ノイズ成分が含まれる垂直高域成分を抽出する。この垂直高域成分は、リミッタ1204bに入力され、超解像コアリングパラメータにより、例えば振幅制限を受けて、減算器1204cに入力される。減算器1204cでは、ライン遅延出力信号のセンタータップの信号からリミッタ1204bの出力を減算し、垂直高域成分であるノイズを低減する。これにより、減算器1204cからは、高域コアリング方式よるノイズ低減された映像信号を得ることができる。リミッタ1204cの出力の振幅の大きさが、ノイズ低減の程度となる。   FIG. 10 is a diagram showing an example of the vertical noise reduction circuit 1204 shown in FIG. The signal from the 5-tap line delay circuit 1203 is input to the vertical bandpass filter 1204a. The vertical bandpass filter 1204a performs a filtering process using the input signal, and extracts a vertical high frequency component including a noise component. This vertical high-frequency component is input to the limiter 1204b, and is input to the subtractor 1204c after being subjected to amplitude limitation, for example, by the super-resolution coring parameter. The subtractor 1204c subtracts the output of the limiter 1204b from the center tap signal of the line delay output signal to reduce noise that is a vertical high frequency component. Thereby, the subtractor 1204c can obtain a video signal with reduced noise by the high frequency coring method. The magnitude of the output amplitude of the limiter 1204c is the degree of noise reduction.

なお、本願発明は、上記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は可能な限り適宜組み合わせて実施してもよく、その場合組み合わせた効果が得られる。更に、上記実施形態には種々の段階の発明が含まれており、開示される複数の構成要件における適当な組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、発明が解決しようとする課題の欄で述べた課題が解決でき、発明の効果の欄で述べられている効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。   Note that the present invention is not limited to the above-described embodiment, and various modifications can be made without departing from the scope of the invention in the implementation stage. In addition, the embodiments may be appropriately combined as much as possible, and in that case, the combined effect can be obtained. Further, the above embodiments include inventions at various stages, and various inventions can be extracted by appropriately combining a plurality of disclosed constituent elements. For example, even if some constituent requirements are deleted from all the constituent requirements shown in the embodiment, the problem described in the column of the problem to be solved by the invention can be solved, and the effect described in the column of the effect of the invention Can be obtained as an invention.

104…ヒストグラム取得モジュール、105…ヒストグラム値フレームバッファ、108…輝度レベル遷移状態判定モジュール、120…超解像コアリング処理モジュール、127…画像鮮鋭化処理モジュール 104 ... Histogram acquisition module, 105 ... Histogram value frame buffer, 108 ... Luminance level transition state determination module, 120 ... Super-resolution coring processing module, 127 ... Image sharpening processing module

Claims (9)

画像データに含まれた複数フレーム間の明暗変化量を検出する検出手段と、
前記検出された明暗変化量に応じて、前記画像データに対する鮮鋭化効果ゲインを制御する鮮鋭化パラメータを設定する鮮鋭化制御手段と、
前記鮮鋭化パラメータに基づき前記画像データに対して鮮鋭化処理を実行する鮮鋭化処理手段と、
を備えたことを特徴とする画像処理装置。
Detection means for detecting a change in brightness between a plurality of frames included in the image data;
Sharpening control means for setting a sharpening parameter for controlling a sharpening effect gain for the image data in accordance with the detected contrast change amount;
Sharpening processing means for executing a sharpening process on the image data based on the sharpening parameter;
An image processing apparatus comprising:
画像データに含まれた複数フレーム間の明暗変化量を検出する検出手段と、
前記検出された明暗変化量に応じて、前記画像データに対するコアリング効果を制御するコアリングパラメータを設定するコアリング制御手段と、
前記コアリングパラメータに基づき前記画像データに対してコアリング処理を実行するコアリング処理手段と、
を備えたことを特徴とする画像処理装置。
Detection means for detecting a change in brightness between a plurality of frames included in the image data;
Coring control means for setting a coring parameter for controlling a coring effect on the image data according to the detected light / dark change amount;
Coring processing means for performing coring processing on the image data based on the coring parameters;
An image processing apparatus comprising:
前記検出された明暗変化量に応じて、前記画像データに対するコアリング効果を制御するコアリングパラメータを設定するコアリング制御手段と、
前記コアリングパラメータに基づき前記画像データに対してコアリング処理を実行するコアリング処理手段と、
を備えたことを特徴とする請求項1に記載の画像処理装置。
Coring control means for setting a coring parameter for controlling a coring effect on the image data according to the detected light / dark change amount;
Coring processing means for performing coring processing on the image data based on the coring parameters;
The image processing apparatus according to claim 1, further comprising:
前記鮮鋭化制御手段は、第1の明暗変化量の検出に基づき第1の鮮鋭化効果ゲインを得るための第1の鮮鋭化パラメータを設定し、前記第1の明暗変化量より大きい第2の明暗変化量の検出に基づき前記第1の鮮鋭化効果ゲインより小さい第2の鮮鋭化効果ゲインを得るための第2の鮮鋭化パラメータを設定し、
前記鮮鋭化処理手段は、前記第1又は第2の鮮鋭化パラメータに基づき前記画像データに対して鮮鋭化処理を実行する、
ことを特徴とする請求項1又は3に記載の画像処理装置。
The sharpening control means sets a first sharpening parameter for obtaining a first sharpening effect gain based on detection of the first lightness / darkness change amount, and sets a second sharpness parameter larger than the first lightness / darkness change amount. Setting a second sharpening parameter for obtaining a second sharpening effect gain smaller than the first sharpening effect gain based on the detection of the brightness change amount;
The sharpening processing means executes a sharpening process on the image data based on the first or second sharpening parameter;
The image processing apparatus according to claim 1, wherein the image processing apparatus is an image processing apparatus.
前記コアリング制御手段は、第1の明暗変化量の検出に基づき第1のコアリング効果を得るための第1のコアリングパラメータを設定し、前記第1の明暗変化量より大きい第2の明暗変化量の検出に基づき前記第1のコアリング効果より大きい第2のコアリング効果を得るための第2のコアリングパラメータを設定し、
前記鮮鋭化処理手段は、前記第1又は第2のコアリングパラメータに基づき前記画像データに対してコアリング処理を実行する、
ことを特徴とする請求項2又は3に記載の画像処理装置。
The coring control means sets a first coring parameter for obtaining a first coring effect based on detection of the first light / dark change amount, and sets a second light / dark larger than the first light / dark change amount. Setting a second coring parameter for obtaining a second coring effect larger than the first coring effect based on detection of a change amount;
The sharpening processing means performs a coring process on the image data based on the first or second coring parameter.
The image processing apparatus according to claim 2 or 3,
前記鮮鋭化制御手段は、
第1の閾値及びこの第1の閾値より大きい第2の閾値を設定し、
前記第1の閾値未満の第1の明暗変化量の検出に基づき第1の鮮鋭化効果ゲインを得るための第1の鮮鋭化パラメータを設定し、
前記第2の閾値より大きい第2の明暗変化量の検出に基づき前記第1の鮮鋭化効果ゲインより小さい第2の鮮鋭化効果ゲインを得るための第2の鮮鋭化パラメータを設定し、
前記第1の閾値以上で前記第2の閾値以下の第3の明暗変化量の検出に基づき、前記第1の鮮鋭化効果ゲインより小さく前記第2の鮮鋭化効果ゲインより大きい第3の鮮鋭化効果ゲインを得るための鮮鋭化パラメータであって、且つ前記第3の明暗変化量の増加に応じて減少する前記第3の鮮鋭化効果ゲインを得るための第3の鮮鋭化パラメータを生成し、
前記鮮鋭化処理手段は、
前記第1、第2、又は第3の鮮鋭化パラメータに基づき前記画像データに対して鮮鋭化処理を実行する、
ことを特徴とする請求項1又は3に記載の画像処理装置。
The sharpening control means includes
Setting a first threshold and a second threshold greater than the first threshold;
Setting a first sharpening parameter for obtaining a first sharpening effect gain based on detection of a first light-dark change amount less than the first threshold;
Setting a second sharpening parameter for obtaining a second sharpening effect gain smaller than the first sharpening effect gain based on detection of a second light / dark change amount greater than the second threshold;
A third sharpening that is smaller than the first sharpening effect gain and larger than the second sharpening effect gain based on detection of a third brightness change amount that is greater than or equal to the first threshold and less than or equal to the second threshold. A sharpening parameter for obtaining an effect gain, and a third sharpening parameter for obtaining the third sharpening effect gain that decreases as the third light-dark change amount increases,
The sharpening means is
Performing a sharpening process on the image data based on the first, second, or third sharpening parameter;
The image processing apparatus according to claim 1, wherein the image processing apparatus is an image processing apparatus.
前記コアリング制御手段は、
第1の閾値及びこの第1の閾値より大きい第2の閾値を設定し、
前記第1の閾値未満の第1の明暗変化量の検出に基づき第1のコアリング効果を得るための第1のコアリングパラメータを設定し、
前記第2の閾値より大きい第2の明暗変化量の検出に基づき前記第1のコアリング効果より大きい第2のコアリング効果を得るための第2のコアリングパラメータを設定し、
前記第1の閾値以上で前記第2の閾値以下の第3の明暗変化量の検出に基づき、前記第1のコアリング効果より大きく前記第2のコアリング効果より小さい第3のコアリング効果を得るためのコアリングパラメータであって、且つ前記第3の明暗変化量の増加に応じて増加する前記第3のコアリング効果を得るための第3のコアリングパラメータを生成し、
前記コアリング処理手段は、前記第1、第2、又は第3のコアリングパラメータに基づき前記画像データに対してコアリング処理を実行する、
ことを特徴とする請求項2又は3に記載の画像処理装置。
The coring control means includes
Setting a first threshold and a second threshold greater than the first threshold;
Setting a first coring parameter for obtaining a first coring effect based on detection of a first light-dark change amount less than the first threshold;
Setting a second coring parameter for obtaining a second coring effect larger than the first coring effect based on detection of a second light-dark change amount larger than the second threshold;
Based on detection of a third light-dark change amount that is greater than or equal to the first threshold and less than or equal to the second threshold, a third coring effect that is greater than the first coring effect and smaller than the second coring effect. Generating a third coring parameter for obtaining the third coring effect, which is a coring parameter for obtaining and increases in accordance with an increase in the third light / dark change amount,
The coring processing means performs a coring process on the image data based on the first, second, or third coring parameter.
The image processing apparatus according to claim 2 or 3,
放送信号から所望チャンネルの信号を選局する選局手段を備え、
前記検出手段は、前記選局された信号中の画像データに含まれた複数フレーム間の明暗変化量を検出する、
ことを特徴とする請求項1に記載の画像処理装置。
A channel selection means for selecting a signal of a desired channel from a broadcast signal,
The detecting means detects a change in brightness between a plurality of frames included in the image data in the selected signal;
The image processing apparatus according to claim 1.
画像データに含まれた複数フレーム間の明暗変化量を検出し、
前記検出された明暗変化量に応じて、前記画像データに対する鮮鋭化効果ゲインを制御する鮮鋭化パラメータを設定し、
前記鮮鋭化パラメータに基づき前記画像データに対して鮮鋭化処理を実行する、
を備えたことを特徴とする画像処理方法。
Detect the amount of change in brightness between multiple frames included in the image data,
In accordance with the detected light / dark change amount, a sharpening parameter for controlling a sharpening effect gain for the image data is set,
Performing a sharpening process on the image data based on the sharpening parameters;
An image processing method comprising:
JP2009042705A 2009-02-25 2009-02-25 Image processing apparatus and image processing method Expired - Fee Related JP5023092B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009042705A JP5023092B2 (en) 2009-02-25 2009-02-25 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009042705A JP5023092B2 (en) 2009-02-25 2009-02-25 Image processing apparatus and image processing method

Publications (2)

Publication Number Publication Date
JP2010198346A true JP2010198346A (en) 2010-09-09
JP5023092B2 JP5023092B2 (en) 2012-09-12

Family

ID=42823004

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009042705A Expired - Fee Related JP5023092B2 (en) 2009-02-25 2009-02-25 Image processing apparatus and image processing method

Country Status (1)

Country Link
JP (1) JP5023092B2 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006033232A (en) * 2004-07-14 2006-02-02 Seiko Epson Corp Image processing apparatus
JP2007329678A (en) * 2006-06-07 2007-12-20 Matsushita Electric Ind Co Ltd Super resolution processing method and apparatus using luminance masking and luminance compensation
JP2010010915A (en) * 2008-06-25 2010-01-14 Sony Corp Image processing apparatus and method, and program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006033232A (en) * 2004-07-14 2006-02-02 Seiko Epson Corp Image processing apparatus
JP2007329678A (en) * 2006-06-07 2007-12-20 Matsushita Electric Ind Co Ltd Super resolution processing method and apparatus using luminance masking and luminance compensation
JP2010010915A (en) * 2008-06-25 2010-01-14 Sony Corp Image processing apparatus and method, and program

Also Published As

Publication number Publication date
JP5023092B2 (en) 2012-09-12

Similar Documents

Publication Publication Date Title
JP4444354B2 (en) Image processing apparatus and image processing method
JP5260769B2 (en) Image processing apparatus, image display apparatus, image processing method, and image display method
JP2010041336A (en) Image processing unit and image processing method
JP4521468B1 (en) Image processing apparatus and image processing method
JP5013932B2 (en) Noise reduction device, noise reduction method, and electronic device
JP4693546B2 (en) Digital noise reduction apparatus and method, and video signal processing apparatus
US8145006B2 (en) Image processing apparatus and image processing method capable of reducing an increase in coding distortion due to sharpening
JP4575501B2 (en) Video signal processing apparatus, control method therefor, and television signal receiving apparatus
US20100158403A1 (en) Image Processing Apparatus and Image Processing Method
JP5178579B2 (en) Image processing device
JP2010041338A (en) Image processing apparatus and image processing method
JP2010199994A (en) Image processing apparatus
JP4575500B2 (en) Video signal processing apparatus, control method therefor, and television signal receiving apparatus
JP5023092B2 (en) Image processing apparatus and image processing method
JP2012019380A (en) Image processing apparatus and image processing method
JP4991884B2 (en) Image processing apparatus and image processing method
JP4869302B2 (en) Image processing apparatus and image processing method
JP5075923B2 (en) Image processing apparatus and image processing method
JP4897036B2 (en) Image processing apparatus and image processing method
US20080151993A1 (en) Video signal processing apparatus, video signal processing method, and broadcasting receiving apparatus
JP2010039135A (en) Image processor and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100916

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111020

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120522

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120618

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150622

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees