JP2005142743A - Processing apparatus and processing method for information signal, and program for executing the processing method and medium with the program recorded thereon - Google Patents
Processing apparatus and processing method for information signal, and program for executing the processing method and medium with the program recorded thereon Download PDFInfo
- Publication number
- JP2005142743A JP2005142743A JP2003375933A JP2003375933A JP2005142743A JP 2005142743 A JP2005142743 A JP 2005142743A JP 2003375933 A JP2003375933 A JP 2003375933A JP 2003375933 A JP2003375933 A JP 2003375933A JP 2005142743 A JP2005142743 A JP 2005142743A
- Authority
- JP
- Japan
- Prior art keywords
- data
- information
- information signal
- signal
- feature amount
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Television Systems (AREA)
Abstract
Description
この発明は、複数の情報データからなる第1の情報信号を複数の情報データからなる第2の情報信号に変換する情報信号の処理装置および処理方法、並びにその処理方法を実行するためのプログラム、そのプログラムを記録した媒体に関する。 The present invention relates to an information signal processing device and method for converting a first information signal composed of a plurality of information data into a second information signal composed of a plurality of information data, and a program for executing the processing method, The present invention relates to a medium on which the program is recorded.
詳しくは、この発明は、第2の情報信号における注目位置の周辺に位置する第1の情報信号の情報データに基づいて当該第2の情報信号における注目位置の特徴量を抽出し、第2の情報信号における注目位置に対応した出力の質が、この抽出された特徴量に対応した質となるように、第2の情報信号における注目位置の情報データを生成することによって、第2の情報信号による出力の質の向上を図るようにした情報信号処理装置等に係るものである。 Specifically, the present invention extracts a feature amount of the target position in the second information signal based on the information data of the first information signal located around the target position in the second information signal. The second information signal is generated by generating the information data of the target position in the second information signal so that the quality of the output corresponding to the target position in the information signal is the quality corresponding to the extracted feature amount. The present invention relates to an information signal processing device and the like that improve the quality of output.
従来、例えば525i信号というSD(Standard Definition)信号を、1050i信号というHD(High Definition)信号に変換するフォーマット変換が提案されている。525i信号は、ライン数が525本でインタレース方式の画像信号を意味し、1050i信号は、ライン数が1050本でインタレース方式の画像信号を意味する。 Conventionally, for example, a format conversion for converting an SD (Standard Definition) signal called a 525i signal into an HD (High Definition) signal called a 1050i signal has been proposed. The 525i signal means an interlaced image signal having 525 lines, and the 1050i signal means an interlaced image signal having 1050 lines.
上述したようなフォーマット変換を行うため、本出願人は、先に、525i信号の画素データより1050i信号の画素データを得る際、525i信号の画素に対する1050i信号の各画素の位相に対応した推定式の係数データをメモリに格納しておき、この係数データを用い、推定式に基づいて1050i信号の画素データを求める、解像度創造の手法を用いることを提案した。 In order to perform the format conversion as described above, the applicant first obtains the pixel data of the 1050i signal from the pixel data of the 525i signal, and the estimation formula corresponding to the phase of each pixel of the 1050i signal with respect to the pixel of the 525i signal It has been proposed to use a resolution creation technique in which the coefficient data is stored in a memory and the coefficient data is used to obtain pixel data of a 1050i signal based on an estimation formula.
上述したように推定式によって1050i信号の画素データを求めるものにおいては、この1050i信号による画像の解像度は固定されており、従来のコントラストやシャープネス等の調整のように、画像内容等に応じて所望の解像度とすることができなかった。そこで、本出願人は、先に、画像の解像度をユーザが所望の値に任意に調整し得る画像信号変換装置を提案した(特許文献1参照)。 As described above, in the case of obtaining the pixel data of the 1050i signal by the estimation formula, the resolution of the image by the 1050i signal is fixed, and it is desired according to the image content or the like like the conventional adjustment of contrast, sharpness, etc. The resolution could not be achieved. Therefore, the present applicant has previously proposed an image signal conversion apparatus in which the user can arbitrarily adjust the resolution of an image to a desired value (see Patent Document 1).
しかし、特許文献1に記載される画像信号変換装置では、注目位置の画素データの値が大きくても小さくても、つまり当該注目位置の特徴量が異なっていても、全画面一様に、ユーザにより調整された解像度に対応した係数データを用いるものであり、適切な解像度となる箇所と、不適切な解像度となる箇所とが存在する。
However, in the image signal conversion device described in
この発明の目的は、第1の情報信号を変換して得られる第2の情報信号による出力の質の向上を図ることにある。 An object of the present invention is to improve the output quality of the second information signal obtained by converting the first information signal.
この発明に係る情報信号処理装置は、複数の情報データからなる第1の情報信号を複数の情報データからなる第2の情報信号に変換する情報信号処理装置であって、第1の情報信号に基づいて第2の情報信号における注目位置の周辺に位置する情報データを選択し、この選択された情報データに基づいて第2の情報信号における注目位置の特徴量を抽出する特徴量抽出手段と、第2の情報信号における注目位置に対応した出力の質が、特徴量抽出手段で抽出された特徴量に対応した質となるように、第2の情報信号における注目位置の情報データを生成する情報データ生成手段とを備えるものである。 An information signal processing apparatus according to the present invention is an information signal processing apparatus that converts a first information signal made up of a plurality of information data into a second information signal made up of a plurality of information data. A feature amount extracting unit that selects information data located around a target position in the second information signal based on the selected information data, and extracts a feature amount of the target position in the second information signal based on the selected information data; Information for generating information data of the target position in the second information signal so that the quality of the output corresponding to the target position in the second information signal is the quality corresponding to the feature amount extracted by the feature amount extraction unit And data generation means.
また、この発明に係る情報信号処理方法は、複数の情報データからなる第1の情報信号を複数の情報データからなる第2の情報信号に変換する情報信号処理方法であって、第1の情報信号に基づいて第2の情報信号における注目位置の周辺に位置する情報データを選択し、この選択された情報データに基づいて第2の情報信号における注目位置の特徴量を抽出する特徴量抽出ステップと、第2の情報信号における注目位置に対応した出力の質が、特徴量抽出ステップで抽出された特徴量に対応した質となるように、第2の情報信号における注目位置の情報データを生成する情報データ生成ステップとを備えるものである。 An information signal processing method according to the present invention is an information signal processing method for converting a first information signal composed of a plurality of information data into a second information signal composed of a plurality of information data, wherein the first information signal A feature amount extraction step of selecting information data located around a target position in the second information signal based on the signal and extracting a feature amount of the target position in the second information signal based on the selected information data And generating information data of the target position in the second information signal so that the quality of the output corresponding to the target position in the second information signal is the quality corresponding to the feature amount extracted in the feature amount extraction step. And an information data generation step.
また、この発明に係るプログラムは、上述した情報信号処理方法を、コンピュータに実行させるためのものである。また、この発明に係るコンピュータ読み取り可能な媒体は、上述のプログラムを記録したものである。 A program according to the present invention is for causing a computer to execute the information signal processing method described above. A computer-readable medium according to the present invention records the above-described program.
この発明においては、第1の情報信号が第2の情報信号に変換される。これら第1、第2の情報信号は、それぞれ複数の情報データからなっている。例えば、情報信号は、複数の画素データからなる画像信号、あるいは複数の音声データ(サンプリングデータ)からなる音声信号である。 In the present invention, the first information signal is converted into the second information signal. Each of the first and second information signals is composed of a plurality of information data. For example, the information signal is an image signal composed of a plurality of pixel data or a sound signal composed of a plurality of sound data (sampling data).
第1の情報信号に基づいて第2の情報信号における注目位置の周辺に位置する情報データが選択され、この選択された情報データに基づいて第2の情報信号における注目位置の特徴量が抽出される。 Information data located around the target position in the second information signal is selected based on the first information signal, and the feature quantity of the target position in the second information signal is extracted based on the selected information data. The
例えば、第2の情報信号における注目位置の周辺に位置する単一の情報データが選択され、この単一の情報データの値が特徴量として抽出される。また例えば、第2の情報信号における注目位置の周辺に位置する複数の情報データが選択され、この複数の情報データの値の平均値が特徴量として抽出される。 For example, single information data located around the target position in the second information signal is selected, and the value of the single information data is extracted as a feature amount. Further, for example, a plurality of pieces of information data located around the target position in the second information signal are selected, and an average value of the values of the plurality of pieces of information data is extracted as a feature amount.
また例えば、第2の情報信号における注目位置の周辺に位置する単一の情報データが選択され、この単一の情報データの値が、第2の情報信号による出力を得るための出力手段(例えば、情報信号が画像信号であるときはディスプレイ、情報信号が音声信号でるときはスピーカ等)における情報データの値と出力値との対応関係に基づいて、出力値に変換され、この変換されて得られる出力値が特徴量として抽出される。情報信号が画像信号である場合、例えば、単一の画素データの値を変換して得られた輝度値が特徴量として抽出される。 Further, for example, single information data located around the position of interest in the second information signal is selected, and the value of this single information data is output means for obtaining an output by the second information signal (for example, The information signal is converted into an output value based on the correspondence between the value of the information data and the output value on the display when the information signal is an image signal, and on the display when the information signal is an audio signal. The output value is extracted as a feature amount. When the information signal is an image signal, for example, a luminance value obtained by converting the value of a single pixel data is extracted as a feature amount.
また例えば、第2の情報信号における注目位置の周辺に位置する複数の情報データが選択され、この複数の情報データの値が、第2の情報信号による出力を得るための出力手段における情報データの値と出力値との対応関係に基づいて、それぞれ出力値に変換され、この変換されて得られる複数の出力値の平均値が特徴量として抽出される。情報信号が画像信号である場合、例えば、複数の画素データの値を変換して得られた複数の輝度値の平均値が特徴量として抽出される。 Further, for example, a plurality of pieces of information data located around the position of interest in the second information signal are selected, and the values of the plurality of pieces of information data are stored in the output means for obtaining the output by the second information signal. Based on the correspondence between the value and the output value, each is converted into an output value, and an average value of a plurality of output values obtained by the conversion is extracted as a feature amount. When the information signal is an image signal, for example, an average value of a plurality of luminance values obtained by converting values of a plurality of pixel data is extracted as a feature amount.
このように、出力値を特徴量として抽出する場合、単一の情報データの値、あるいは複数の情報データの値の平均値を特徴量として抽出する場合と比べ、ユーザが視聴している出力に直接対応した特徴量を得ることができ、第2の情報信号における注目位置に対応した出力の質を精度よく制御でき、第2の情報信号による出力の質の一層の向上を図ることができる。 As described above, when the output value is extracted as the feature amount, the output that the user is viewing is compared with the case where the single information data value or the average value of the plurality of information data values is extracted as the feature amount. A directly corresponding feature amount can be obtained, the output quality corresponding to the target position in the second information signal can be accurately controlled, and the output quality of the second information signal can be further improved.
第2の情報信号における注目位置に対応した出力の質が、上述したように抽出された特徴量に対応した質となるように、第2の情報信号における注目位置の情報データが生成される。例えば、この特徴量に基づいて第2の情報信号による出力の質を示すパラメータの値が決定される。この場合、ユーザがパラメータの値を設定するものでなく、パラメータの値が局所的に最適な値に自動的に決定される。 Information data of the target position in the second information signal is generated so that the quality of the output corresponding to the target position in the second information signal is the quality corresponding to the feature amount extracted as described above. For example, the value of a parameter indicating the quality of output by the second information signal is determined based on this feature amount. In this case, the user does not set the parameter value, and the parameter value is automatically determined locally as an optimal value.
この決定されたパラメータの値に基づいて第2の情報信号における注目位置の情報データが生成される。画像信号が情報信号である場合、例えばパラメータの値は、第2の情報信号による画像の解像度またはノイズ除去度を示すものとされる。 Based on the determined parameter value, information data of the target position in the second information signal is generated. When the image signal is an information signal, for example, the parameter value indicates the resolution of the image or the degree of noise removal by the second information signal.
例えば、パラメータの値に対応する、推定式で用いられる係数データが発生され、また第1の情報信号に基づいて第2の情報信号における注目位置の周辺に位置する複数の第1の情報データが選択され、これら複数の第1の情報データおよび係数データを用い、推定式に基づいて第2の情報信号における注目位置の情報データが算出される。 For example, coefficient data used in the estimation equation corresponding to the value of the parameter is generated, and a plurality of first information data located around the position of interest in the second information signal based on the first information signal The plurality of pieces of first information data and coefficient data are selected, and information data of the position of interest in the second information signal is calculated based on the estimation formula.
推定式で用いられる係数データは、例えばパラメータを含む生成式で生成される。この場合、パラメータの各値に対応した係数データを記憶しておく必要がなく、生成式の係数データである係数種データのみを記憶しておけばよく、メモリ容量を節約できる。 The coefficient data used in the estimation formula is generated by a generation formula including parameters, for example. In this case, it is not necessary to store the coefficient data corresponding to each parameter value, and it is sufficient to store only the coefficient seed data that is the coefficient data of the generation formula, and the memory capacity can be saved.
例えば、推定式に基づいて第2の情報信号における注目位置の情報データを算出する場合、この第2の情報信号における注目位置の情報データが属するクラスに対応した係数データを用いることで、当該第2の情報信号における注目位置の情報データを精度よく生成できる。このクラスは、例えば、第1の情報信号に基づいて第2の情報信号における注目位置の周辺に位置する複数の第2の情報データに基づいて検出される。 For example, when calculating the information data of the position of interest in the second information signal based on the estimation formula, the coefficient data corresponding to the class to which the information data of the position of interest in the second information signal belongs is used. The information data of the position of interest in the two information signals can be generated with high accuracy. This class is detected based on, for example, a plurality of second information data located around the position of interest in the second information signal based on the first information signal.
この発明によれば、第2の情報信号における注目位置の周辺に位置する第1の情報信号の情報データに基づいて当該第2の情報信号における注目位置の特徴量を抽出し、第2の情報信号における注目位置に対応した出力の質が、この抽出された特徴量に対応した質となるように、第2の情報信号における注目位置の情報データを生成するものであり、第2の情報信号による出力の質の向上を図ることができる。 According to this invention, the feature amount of the target position in the second information signal is extracted based on the information data of the first information signal located around the target position in the second information signal, and the second information The information data of the target position in the second information signal is generated so that the quality of the output corresponding to the target position in the signal becomes the quality corresponding to the extracted feature quantity, and the second information signal The output quality can be improved.
以下、図面を参照しながら、この発明の実施の形態について説明する。図1は、実施の形態としてのテレビ受信機100の構成を示している。
Hereinafter, embodiments of the present invention will be described with reference to the drawings. FIG. 1 shows a configuration of a
このテレビ受信機100は、放送信号より525i信号というSD(Standard Definition)信号を得、この525i信号を1050i信号というHD(High Definition)信号に変換し、このHD信号による画像を表示する機能を持っている。ここで、525i信号は、ライン数が525本でインタレース方式の画像信号であり、1050i信号はライン数が1050本でインタレース方式の画像信号である。
The
図2は、525i信号および1050i信号のあるフレーム(F)の画素位置関係を示すものであり、奇数(o)フィールドの画素位置を実線で示し、偶数(e)フィールドの画素位置を破線で示している。大きなドットが525i信号の画素であり、小さいドットが1050i信号の画素である。図2から分かるように、1050i信号の画素データとしては、525i信号のラインに近い位置のラインデータL1,L1′と、525i信号のラインから遠い位置のラインデータL2,L2′とが存在する。ここで、L1,L2は奇数フィールドのラインデータ、L1′,L2′は偶数フィールドのラインデータである。また、1050i信号の各ラインの画素数は、525i信号の各ラインの画素数の2倍である。 FIG. 2 shows the pixel position relationship of a frame (F) in which a 525i signal and a 1050i signal are present. The pixel position of an odd (o) field is indicated by a solid line, and the pixel position of an even (e) field is indicated by a broken line. ing. Large dots are pixels of 525i signal, and small dots are pixels of 1050i signal. As can be seen from FIG. 2, the pixel data of the 1050i signal includes line data L1 and L1 ′ at positions close to the line of the 525i signal and line data L2 and L2 ′ at positions far from the line of the 525i signal. Here, L1 and L2 are line data of odd fields, and L1 'and L2' are line data of even fields. The number of pixels in each line of the 1050i signal is twice the number of pixels in each line of the 525i signal.
図1に戻って、テレビ受信機100は、受信アンテナ101と、この受信アンテナ101で受信された放送信号(RF変調信号)が供給され、選局処理、中間周波増幅処理、検波処理等を行ってSD信号を得るチューナ部102と、このチューナ部102で得られたSD信号を一時的に格納するバッファメモリ103とを有している。
Returning to FIG. 1, the
また、テレビ受信機100は、バッファメモリ103に一時的に格納されたSD信号をHD信号に変換する画像信号処理部104と、この画像信号処理部104で得られたHD信号による画像を表示するディスプレイ部105とを有している。このディスプレイ部105は、例えばCRT(Cathode-Ray Tube)ディスプレイ、LCD(Liquid Crystal Display)、あるいはPDP(Plasma Display Panel)などで構成されている。
The
図1に示すテレビ受信機100の動作を説明する。
チューナ部102で得られたSD信号は、バッファメモリ103に供給されて一時的に格納される。そして、このバッファメモリ103に一時的に格納されたSD信号は画像信号処理部104に供給され、HD信号に変換される。すなわち、画像信号処理部104では、SD信号を構成する画素データ(以下、適宜「SD画素データ」という)から、HD信号を構成する画素データ(以下、適宜「HD画素データ」という)が生成される。
The operation of the
The SD signal obtained by the
この画像信号処理部104より出力されるHD信号はディスプレイ部105に供給され、このディスプレイ部105の画面上にはHD信号による画像が表示される。
The HD signal output from the image signal processing unit 104 is supplied to the
次に、画像信号処理部104の詳細を説明する。
この画像信号処理部104は、バッファメモリ103に一時的に格納されたSD信号(525i信号)に基づいて、HD信号(1050i信号)における注目位置の周辺に位置する複数のSD画素データを選択的に取り出して出力する第1〜第3のタップ選択回路111〜113を有している。
Next, details of the image signal processing unit 104 will be described.
The image signal processing unit 104 selectively selects a plurality of SD pixel data located around the target position in the HD signal (1050i signal) based on the SD signal (525i signal) temporarily stored in the
第1のタップ選択回路111は、予測に使用する複数のSD画素データを、予測タップのデータとして選択的に取り出すものである。第2のタップ選択回路112は、レベル分布パターンに対応するクラス分類に使用する複数のSD画素データを、空間クラスタップのデータとして選択的に取り出すものである。図3A,Bは、それぞれ空間クラスタップ、予測タップの一例を示している。
The first tap selection circuit 111 selectively extracts a plurality of SD pixel data used for prediction as prediction tap data. The second
第3のタップ選択回路113は、動きに対応するクラス分類に使用する複数のSD画素データを、動きクラスタップのデータとして選択的に取り出するものである。なお、空間クラスを複数フィールドに属するSD画素データを使用して決定する場合には、この空間クラスにも動き情報が含まれることになる。
The third
また、画像信号処理部104は、第2のタップ選択回路112で選択的に取り出される空間クラスタップのデータ(SD画素データ)のレベル分布パターンを検出し、このレベル分布パターンに基づいて空間クラスを検出し、そのクラス情報を出力する空間クラス検出回路114を有している。
Further, the image signal processing unit 104 detects the level distribution pattern of the space class tap data (SD pixel data) selectively extracted by the second
空間クラス検出回路114では、例えば、各SD画素データを、8ビットデータから2ビットデータに圧縮するような演算が行われる。そして、空間クラス検出回路114からは、各SD画素データに対応した圧縮データが空間クラスのクラス情報として出力される。本実施の形態においては、ADRC(Adaptive Dynamic Range Coding)によって、データ圧縮が行われる。なお、データ圧縮手段としては、ADRC以外にDPCM(予測符号化)、VQ(ベクトル量子化)等を用いてもよい。 In the space class detection circuit 114, for example, an operation is performed to compress each SD pixel data from 8-bit data to 2-bit data. The space class detection circuit 114 outputs compressed data corresponding to each SD pixel data as class information of the space class. In the present embodiment, data compression is performed by ADRC (Adaptive Dynamic Range Coding). In addition to ADRC, DPCM (predictive coding), VQ (vector quantization), or the like may be used as the data compression means.
本来、ADRCは、VTR(Video Tape Recorder)向け高性能符号化用に開発された適応再量子化法であるが、信号レベルの局所的なパターンを短い語長で効率的に表現できるので、上述したデータ圧縮に使用して好適なものである。ADRCを使用する場合、空間クラスタップのデータ(SD画素データ)の最大値をMAX、その最小値をMIN、空間クラスタップのデータのダイナミックレンジをDR(=MAX−MIN+1)、再量子化ビット数をPとすると、空間クラスタップのデータとしての各SD画素データkiに対して、(1)式の演算により、圧縮データとしての再量子化コードqiが得られる。ただし、(1)式において、[ ]は切り捨て処理を意味している。空間クラスタップのデータとして、Na個のSD画素データがあるとき、i=1〜Naである。
qi=[(ki−MIN+0.5)*2P/DR] ・・・(1)
Originally, ADRC is an adaptive requantization method developed for high performance coding for VTR (Video Tape Recorder), but it can efficiently express local patterns of signal level with short word length. It is suitable for use in data compression. When ADRC is used, the maximum value of space class tap data (SD pixel data) is MAX, the minimum value is MIN, the dynamic range of space class tap data is DR (= MAX−MIN + 1), and the number of requantization bits Is P, the requantized code qi as compressed data is obtained by the calculation of the equation (1) for each SD pixel data ki as the space class tap data. However, in the expression (1), [] means a truncation process. When there are Na SD pixel data as the space class tap data, i = 1 to Na.
qi = [(ki−MIN + 0.5) * 2 P / DR] (1)
また、画像信号処理部104は、第3のタップ選択回路113で選択的に取り出される動きクラスタップのデータ(SD画素データ)より、主に動きの程度を表すための動きクラスを検出し、そのクラス情報を出力する動きクラス検出回路115を有している。
Further, the image signal processing unit 104 detects a motion class mainly representing the degree of motion from the motion class tap data (SD pixel data) selectively extracted by the third
この動きクラス検出回路115では、第3のタップ選択回路113で選択的に取り出される動きクラスタップのデータ(SD画素データ)mi,niからフレーム間差分が算出され、さらにその差分の絶対値の平均値に対してしきい値処理が行われて動きの指標である動きクラスが検出される。すなわち、動きクラス検出回路115では、(2)式によって、差分の絶対値の平均値AVが算出される。第3のタップ選択回路113で例えば12個のSD画素データm1〜m6,n1〜n6が取り出されるとき、(2)式におけるNbは6である。
In this motion
そして、動きクラス検出回路115では、上述したように算出された平均値AVが1個または複数個のしきい値と比較されて動きクラスのクラス情報MVが得られる。例えば、3個のしきい値th1,th2,th3(th1<th2<th3)が用意され、4つの動きクラスを検出する場合、AV≦th1のときはMV=0、th1<AV≦th2のときはMV=1、th2<AV≦th3のときはMV=2、th3<AVのときはMV=3とされる。
In the motion
また、画像信号処理部104は、クラス合成回路116を有している。このクラス合成回路116は、空間クラス検出回路114より出力される空間クラスのクラス情報としての再量子化コードqiと、動きクラス検出回路115より出力される動きクラスのクラス情報MVに基づき、HD信号における注目位置の画素データ(作成すべきHD画素データ)が属するクラスを示すクラスコードCLを求める。このクラス合成回路116では、(3)式によって、クラスコードCLの演算が行われる。なお、(3)式において、Naは空間クラスタップのデータ(SD画素データ)の個数、PはADRCにおける再量子化ビット数を示している。
Further, the image signal processing unit 104 has a
また、画像信号処理部104は、特徴量抽出回路117を有している。この特徴量抽出回路117は、バッファメモリ103に一時的に格納されたSD信号(525i信号)に基づいて、HD信号(1050i信号)における注目位置の周辺に位置する単一または複数のSD画素データを選択的に取り出し、その取り出されたSD画素データに基づいて、HD信号における注目位置の特徴量CQを抽出する。図3Cは、選択的に取り出される複数のSD画素データの一例を示している。
Further, the image signal processing unit 104 includes a feature
特徴量抽出回路117は、例えば、以下の(a)〜(d)のようにして、特徴量CQを抽出する。
(a)特徴量抽出回路117は、選択的に取り出された単一のSD画素データの値を特徴量CQとして抽出する。
(b)特徴量抽出回路117は、選択的に取り出された複数のSD画素データの値の平均値を特徴量CQとして抽出する。
(c)特徴量抽出回路117は、選択的に取り出された単一のSD画素データの値を、ディスプレイ部105における画素データの値(画素値)と出力値としての輝度値との対応関係に基づいて輝度値に変換し、この輝度値を特徴量CQとして抽出する。
(d)特徴量抽出回路117は、選択的に取り出された複数のSD画素データの値を、ディスプレイ部105における画素データの値(画素値)と出力値としての輝度値との対応関係に基づいてそれぞれ輝度値に変換し、この複数の輝度値の平均値を特徴量CQとして抽出する。
The feature
(A) The feature
(B) The feature
(C) The feature
(D) The feature
なお、ディスプレイ部105において、輝度値は画素値と一般に線形関係にはなく、(4)式および図4に示す対応関係がある。(4)式において、yは輝度値、xは画素値、Aは最大輝度値、γはガンマ値である。詳細説明は省略するが、ガンマ値γはディスプレイ部105を構成するディスプレイの種類により異なっていることは周知である。
In the
特徴量抽出回路117は、輝度値を特徴量として抽出する場合、例えば、上述の(4)式に基づいて画素値から輝度値を算出し、あるいは画素値と輝度値との対応を示すテーブルを予め用意しており、そのテーブルを利用して画素値から輝度値を求める。
When the feature
また、画像信号処理部104は、特徴量抽出回路117で抽出された特徴量CQに基づいて、HD信号による画像の画質を示すパラメータr,zの値を決定するパラメータ決定回路118を有している。ここで、パラメータrはHD信号による画像の解像度を決めるものであり、パラメータzはHD信号による画像のノイズ除去度を決めるものである。パラメータ決定回路118は、例えば、特徴量CQとパラメータr,zの値との対応を示すテーブルを予め用意しており、そのテーブルを利用してパラメータr,zの値を決定する。
In addition, the image signal processing unit 104 includes a parameter determination circuit 118 that determines the values of parameters r and z indicating the image quality of an image based on the HD signal based on the feature value CQ extracted by the feature
図5Aは、特徴量CQとパラメータrの値の関係の一例を示している。この場合、特徴量CQが大きい、すなわち画素値あるいは輝度値が大きく明るい部分では、解像度を弱める方向にパラメータrの値を変化させる。また、図5Bは、特徴量CQとパラメータzの値の関係の一例を示している。この場合、特徴量CQが小さい、すなわち画素値あるいは輝度値が小さく暗い部分では、ノイズ除去度を高める方向にパラメータzの値を変化させる。 FIG. 5A shows an example of the relationship between the feature value CQ and the value of the parameter r. In this case, the value of the parameter r is changed in the direction of decreasing the resolution in a bright portion where the feature amount CQ is large, that is, the pixel value or luminance value is large and bright. FIG. 5B shows an example of the relationship between the feature amount CQ and the value of the parameter z. In this case, in the dark portion where the feature amount CQ is small, that is, the pixel value or the luminance value is small, the value of the parameter z is changed in a direction to increase the degree of noise removal.
なお、図6は、上述した(a)〜(d)のようにして抽出された特徴量CQとパラメータr,zの値との関係の一例を示している。ここで、パラメータr,zはそれぞれ0〜1の間の値をとるものとする。 FIG. 6 shows an example of the relationship between the feature amount CQ extracted as described above (a) to (d) and the values of the parameters r and z. Here, the parameters r and z each take a value between 0 and 1.
また、画像信号処理部114は、係数生成回路119およびROM120を有している。これら係数生成回路119およびROM120は、係数データ発生手段を構成している。係数生成回路119は、後述する推定予測演算回路121で使用される推定式で用いられる複数の係数データWi(i=1〜n)を、生成する。係数生成回路119は、クラス合成回路116で取得されたクラスコードCLおよびパラメータ決定回路118で決定されたパラメータr,zの値に基づいて、(5)式の生成式により、係数データWi(i=n)を生成する。
Further, the image signal processing unit 114 includes a
ROM120は、(5)式の生成式の係数データである係数種データwi0〜wi9(i=1〜n)を、クラス毎に格納している。この係数種データwi0〜wi9(i=1〜n)の生成方法については後述する。係数生成回路119は、クラスコードCLで示されるクラスの係数種データwi0〜wi9(i=1〜n)をROM120から取得し、この係数種データwi0〜wi9(i=1〜n)とパラメータr,zの値とを用い、(5)式の生成式により、係数データWi(i=n)を求める。
The ROM 120 stores, for each class, coefficient seed data w i0 to w i9 (i = 1 to n), which is coefficient data of the generation formula (5). A method of generating the coefficient seed data w i0 to w i9 (i = 1 to n) will be described later. The
上述したように、525i信号を1050i信号に変換する場合、奇数、偶数のそれぞれのフィールドにおいて、525i信号の1画素に対応して1050i信号の4画素を得る必要がある。この場合、奇数、偶数のそれぞれのフィールドにおける1050i信号を構成する2×2の単位画素ブロック内の4画素は、それぞれ中心予測タップに対して異なる位相ずれを持っている。 As described above, when the 525i signal is converted into the 1050i signal, it is necessary to obtain four pixels of the 1050i signal corresponding to one pixel of the 525i signal in each of the odd and even fields. In this case, the four pixels in the 2 × 2 unit pixel block constituting the 1050i signal in each of the odd and even fields have different phase shifts with respect to the central prediction tap.
図7は、奇数フィールドにおける1050i信号を構成する2×2の単位画素ブロック内の4画素HD1〜HD4における中心予測タップSD0からの位相ずれを示している。ここで、HD1〜HD4の位置は、それぞれ、SD0の位置から水平方向にk1〜k4、垂直方向にm1〜m4だけずれている。 FIG. 7 shows a phase shift from the center prediction tap SD 0 in the four pixels HD 1 to HD 4 in the 2 × 2 unit pixel block constituting the 1050i signal in the odd field. Here, the position of HD 1 ~HD 4, respectively, k 1 to k 4 in the horizontal direction from the position of the SD 0, it is offset in the vertical direction by m 1 ~m 4.
図8は、偶数フィールドにおける1050i信号を構成する2×2の単位画素ブロック内の4画素HD1′〜HD4′における中心予測タップSD0′からの位相ずれを示している。ここで、HD1′〜HD4′の位置は、それぞれ、SD0′の位置から水平方向にk1′〜k4′、垂直方向にm1′〜m4′だけずれている。 FIG. 8 shows a phase shift from the center prediction tap SD 0 ′ in the four pixels HD 1 ′ to HD 4 ′ in the 2 × 2 unit pixel block constituting the 1050i signal in the even field. Here, the position of HD 1 '~HD 4', respectively, SD 0 ~k 4 'k 1 in the horizontal direction from the position of'deviates', vertically m 1 'only ~m 4'.
そのため、係数生成回路119は、4出力画素(奇数フィールドではHD1〜HD4、偶数フィールドではHD1′〜HD4′)に対応した係数データWi(i=n)を個別に生成する。なお、係数生成回路119は、各出力画素に対応した係数データWi(i=n)を求める際、それぞれの出力画素に対応した係数種データwi0〜wi9(i=1〜n)をROM120から取得する。したがって、ROM120には、係数種データwi0〜wi9(i=1〜n)が、クラスおよび出力画素(図7のHD1〜HD4,図8のHD1′〜HD4′参照)の組み合わせ毎に、記憶されている。
Therefore, the
また、画像信号処理部104は、推定予測演算回路121を有している。この推定予測演算回路121は、第1のタップ選択回路111で選択的に取り出される予測タップのデータ(複数のSD画素データ)xiと、係数生成回路119で生成された係数データWiとから、(6)式の推定式に基づいて、作成すべきHD信号の画素データ(注目位置の画素データ)を求める。
In addition, the image signal processing unit 104 includes an estimated
上述したように、SD信号をHD信号に変換する際には、SD信号の1画素に対してHD信号の4画素(図7のHD1〜HD4、図8のHD1′〜HD4′参照)を得る必要がある。この推定予測演算回路121では、HD信号を構成する2×2の単位画素ブロック毎に、画素データが生成される。
As described above, when an SD signal is converted into an HD signal, four pixels of the HD signal (HD 1 to HD 4 in FIG. 7 and HD 1 ′ to HD 4 ′ in FIG. 8) with respect to one pixel of the SD signal. See). In the estimated
すなわち、この推定予測演算回路121には、第1のタップ選択回路111より単位画素ブロック内の4画素(注目画素)に対応した予測タップのデータxiと、係数生成回路119よりその単位画素ブロックを構成する4画素に対応した係数データWiとが供給される。そして、この推定予測演算回路121では、単位画素ブロックを構成する4画素のデータy1〜y4が、それぞれ上述した(6)式の推定式で個別に演算される。
That is, the estimated
また、画像信号処理部104は、推定予測演算回路121より順次出力される、単位画素ブロック内の4画素のデータy1〜y4を線順次化して1050i信号のフォーマットで出力する後処理回路122を有している。
Further, the image signal processing unit 104, the estimated
次に、図1に示す画像信号処理部104の動作を説明する。
第2のタップ選択回路112では、バッファメモリ103に一時的に格納されているSD信号(525i信号)に基づいて、作成すべきHD信号(1050i信号)を構成する単位画素ブロック内の4画素(注目位置の画素)の周辺に位置する、複数のSD画素データが空間クラスタップのデータとして選択的に取り出される。この第2のタップ選択回路112で選択的に取り出される空間クラスタップのデータは空間クラス検出回路114に供給される。この空間クラス検出回路114では、空間クラスタップのデータとしての各SD画素データに対してADRC処理が施されて空間クラス(主に空間内の波形表現のためのクラス分類)のクラス情報としての再量子化コードqiが得られる((1)式参照)。
Next, the operation of the image signal processing unit 104 shown in FIG. 1 will be described.
In the second
また、第3のタップ選択回路113では、バッファメモリ103に一時的に格納されているSD信号(525i信号)に基づいて、作成すべきHD信号(1050i信号)を構成する単位画素ブロック内の4画素(注目位置の画素)の周辺に位置する、複数のSD画素データが動きクラスタップのデータとして選択的に取り出される。この第3のタップ選択回路113で選択的に取り出される動きクラスタップのデータは動きクラス検出回路115に供給される。この動きクラス検出回路115では、動きクラスタップのデータとしての各SD画素データより動きクラス(主に動きの程度を表すためのクラス分類)のクラス情報MVが得られる。
Further, in the third
この動き情報MVと上述した再量子化コードqiはクラス合成回路116に供給される。このクラス合成回路116では、これら動き情報MVと再量子化コードqiとから、作成すべきHD信号(1050i信号)を構成する単位画素ブロック毎にその単位画素ブロック内の4画素(注目画素)が属するクラスを示すクラスコードCLが得られる((3)式参照)。このクラスコードCLは、係数生成回路119に供給される。
The motion information MV and the above-described requantization code qi are supplied to the
特徴量抽出回路117では、バッファメモリ103に一時的に格納されているSD信号に基づいて、HD信号における注目位置の周辺に位置する単一または複数のSD画素データが選択的に取り出され、その取り出されたSD画素データに基づいて、HD信号における注目位置の特徴量CQが抽出される。この特徴量CQは、例えば単一のSD画素データの値、複数のSD画素データの値の平均値、単一のSD画素データの値を変換して得られた輝度値、複数のSD画素データの値をそれぞれ変換して得られた複数の輝度値の平均値などである。
Based on the SD signal temporarily stored in the
このように特徴量抽出回路117で抽出された特徴量CQはパラメータ決定回路118に供給される。パラメータ決定回路118では、例えば特徴量CQとパラメータr,zの値との対応を示すテーブル(図5A,B参照)に基づいて、特徴量CQに対応したパラメータr,zの値が決定される。このようにパラメータ決定回路118で決定されたパラメータr,zの値は係数生成回路119に供給される。
The feature quantity CQ extracted by the feature
係数生成回路119では、クラスコードCLで示されるクラスの係数種データwi0〜wi9(i=1〜n)がROM120から取得され、その係数種データwi0〜wi9(i=1〜n)とパラメータr,zの値とが用いられ、(5)式の生成式により、係数データWi(i=n)が生成される。この場合、係数生成回路119では、4出力画素(HD1〜HD4またはHD1′〜HD4′)に対応した係数データWi(i=1〜n)が個別に生成される。
In the
このように係数生成回路119で生成された4出力画素分の係数データWiは推定予測演算回路121に供給される。また、第1のタップ選択回路111では、SD信号に基づいて、作成すべきHD信号を構成する単位画素ブロック内の4画素(注目位置の画素)の周辺に位置する、複数のSD画素データが予測タップのデータxiとして選択的に取り出される。この予測タップのデータxiは推定予測演算回路121に供給される。
Thus, the coefficient data Wi for the four output pixels generated by the
推定予測演算回路121では、予測タップのデータxiと、係数生成回路119から供給される4出力画素分の係数データWiとから、(6)式の推定式に基づいて、作成すべきHD信号を構成する単位画素ブロック内の4画素(注目位置の画素)のデータy1〜y4が個別に演算される。そして、この推定予測演算回路121より順次出力されるデータy1〜y4は後処理回路122に供給される。
The estimated
この後処理回路122では、推定予測演算回路121より順次供給されるデータy1〜y4が線順次化され、1050i信号のフォーマットで出力される。つまり、この後処理回路122からは、HD信号としての1050i信号が出力される。
In the
このように、図1に示す画像信号処理部104では、SD信号に基づいてHD信号における注目位置の特徴量CQが抽出され、そしてこの特徴量CQでHD信号による画像の画質(解像度、ノイズ除去度)を決定するパラメータr,zの値が決定され、HD信号における注目位置に対応した画像の画質が特徴量CQに対応した画質となるように、HD信号における注目位置の画素データが生成される。 As described above, the image signal processing unit 104 shown in FIG. 1 extracts the feature amount CQ of the target position in the HD signal based on the SD signal, and the image quality (resolution and noise removal) of the HD signal using this feature amount CQ. The values of the parameters r and z that determine the degree) are determined, and pixel data of the target position in the HD signal is generated so that the image quality of the image corresponding to the target position in the HD signal becomes the image quality corresponding to the feature amount CQ. The
例えば、特徴量CQとしての画素値または輝度値が大きく画像の明るい部分では、解像度を弱める方向にパラメータrの値が変化する。また例えば、特徴量CQとしての画素値あるいは輝度値が小さく暗い部分では、ノイズ除去度を高める方向にパラメータzの値が変化する。 For example, the value of the parameter r changes in the direction of decreasing the resolution in a bright portion of the image having a large pixel value or luminance value as the feature amount CQ. Further, for example, in a dark portion where the pixel value or luminance value as the feature amount CQ is small and dark, the value of the parameter z changes in a direction to increase the noise removal degree.
したがって、図1に示す画像信号処理部104では、ユーザがパラメータr,zの値を設定して、全画面一様にそのパラメータr,zの値に対応した係数データWiを用いるものではなく、パラメータr,zの値が局所的に最適な値に自動的に決定される。そのため、この画像信号処理部104で得られるHD信号による画像の画質の向上を図ることができる。 Therefore, in the image signal processing unit 104 shown in FIG. 1, the user sets the values of the parameters r and z and does not use the coefficient data Wi corresponding to the values of the parameters r and z uniformly on the entire screen. The values of parameters r and z are automatically determined to be optimal values locally. Therefore, the image quality of the HD signal obtained by the image signal processing unit 104 can be improved.
また、特徴量CQとして輝度値を用いるものによれば、特徴量CQとして画素値(単一の画素データの値あるいは複数の画素データの値の平均値)を用いるものに比べ、ユーザが視ている画像に直接対応した特徴量CQを得ることができ、HD信号における注目位置に対応した画像の画質を精度よく制御でき、HD信号による画像の画質を一層向上させることができる。 Further, according to the feature value using the luminance value as the feature value CQ, the user can view the feature value CQ as compared with the feature value CQ using a pixel value (a single pixel data value or an average value of a plurality of pixel data values). It is possible to obtain a feature amount CQ that directly corresponds to an existing image, to control the image quality of the image corresponding to the target position in the HD signal with high accuracy, and to further improve the image quality of the image by the HD signal.
次に、ROM120に格納される、各クラスの係数種データwi0〜wi9(i=1〜n)の生成方法について説明する。
ここで、以下の説明のため、(7)式のように、tj(j=0〜9)を定義する。
t0=1,t1=r,t2=z,t3=r2,t4=rz,t5=z2,
t6=r3,t7=r2z,t8=rz2,t9=z3
・・・(7)
この(7)式を用いると、(5)式は、(8)式のように書き換えられる。
Next, a method of generating coefficient class data w i0 to w i9 (i = 1 to n) of each class stored in the ROM 120 will be described.
Here, for the following explanation, tj (j = 0 to 9) is defined as in the equation (7).
t 0 = 1, t 1 = r, t 2 = z, t 3 = r 2 , t 4 = rz, t 5 = z 2 ,
t 6 = r 3, t 7 = r 2 z, t 8 =
... (7)
Using this equation (7), equation (5) can be rewritten as equation (8).
最終的に、学習によって未定係数wijを求める。すなわち、クラスおよび出力画素の組み合わせ毎に、複数のSD画素データとHD画素データを用いて、二乗誤差を最小にする係数値を決定する。いわゆる最小二乗法による解法である。学習数をm、k(1≦k≦m)番目の学習データにおける残差をek、二乗誤差の総和をEとすると、(5)式および(6)式を用いて、Eは(9)式で表される。ここで、xikはSD画像のi番目の予測タップ位置におけるk番目の画素データ、ykはそれに対応するk番目のHD画像の画素データを表している。 Finally, the undetermined coefficient w ij is obtained by learning. That is, for each combination of class and output pixel, a coefficient value that minimizes the square error is determined using a plurality of SD pixel data and HD pixel data. This is a so-called least square method. Assuming that the learning number is m, the residual in the kth (1 ≦ k ≦ m) learning data is e k , and the sum of the square errors is E, E is (9) using the equations (5) and (6). ) Expression. Here, x ik represents k-th pixel data at the i-th predicted tap position of the SD image, and y k represents pixel data of the corresponding k-th HD image.
最小二乗法による解法では、(9)式のwijによる偏微分が0になるようなwijを求める。これは、(10)式で示される。 The solution according to the minimum square method, determine the w ij such that 0 is partial differentiation by (9) of w ij. This is shown by equation (10).
ここで、(11)式、(12)式のように、Xipjq、Yipを定義すると、(10)式は、行列を用いて、(13)式のように書き換えられる。 Here, when X ipjq and Y ip are defined as in the expressions (11) and (12), the expression (10) is rewritten as the expression (13) using a matrix.
この(13)式が、係数種データを算出するための正規方程式である。この正規方程式を掃き出し法(Gauss-Jordanの消去法)等の一般解法で解くことにより、係数種データwi0〜wi9(i=1〜n)を求めることができる。 This equation (13) is a normal equation for calculating coefficient seed data. Coefficient seed data w i0 to w i9 (i = 1 to n) can be obtained by solving this normal equation by a general solution method such as a sweep-out method (Gauss-Jordan elimination method).
図9は、上述した係数種データの生成方法の概念を示している。教師信号としてのHD信号から、生徒信号としての複数のSD信号を生成する。ここで、HD信号からSD信号を生成する際に使用する間引きフィルタの周波数特性を変えることにより、解像度の異なるSD信号を生成する。 FIG. 9 shows the concept of the above-described coefficient seed data generation method. A plurality of SD signals as student signals are generated from the HD signals as teacher signals. Here, SD signals having different resolutions are generated by changing the frequency characteristics of the thinning filter used when the SD signal is generated from the HD signal.
解像度の異なるSD信号によって、解像度を上げる効果の異なる係数種データを生成できる。例えばボケ具合の大きな画像が得られるSD信号とボケ具合の小さな画像が得られるSD信号があった場合、ボケ具合の大きな画像が得られるSD信号による学習で、解像度を上げる効果の強い係数種データが生成され、ボケ具合の小さな画像が得られるSD信号による学習で、解像度を上げる効果の弱い係数種データが生成される。 Coefficient seed data having different effects of increasing the resolution can be generated by SD signals having different resolutions. For example, when there is an SD signal from which an image with a large degree of blur can be obtained and an SD signal from which an image with a small degree of blur can be obtained, coefficient seed data having a strong effect of increasing the resolution by learning with the SD signal from which an image with a large degree of blur can be obtained Is generated, and coefficient seed data having a weak effect of increasing the resolution is generated by learning with the SD signal from which an image with a small degree of blur can be obtained.
また、解像度の異なるSD信号の各々に対してノイズを加えることで、ノイズの加わったSD信号を生成する。ノイズを加える量を可変することでノイズ量が異なるSD信号が生成され、それによってノイズ除去効果の異なる係数種データが生成される。例えばノイズをたくさん加えたSD信号とノイズを少し加えたSD信号とがあった場合、ノイズをたくさん加えたSD信号による学習でノイズ除去効果の強い係数種データが生成され、ノイズを少し加えたSD信号による学習でノイズ除去効果の弱い係数種データが生成される。 Further, by adding noise to each of the SD signals having different resolutions, an SD signal with noise added is generated. By varying the amount of noise to be added, SD signals having different noise amounts are generated, thereby generating coefficient seed data having different noise removal effects. For example, if there is an SD signal with a lot of noise added and an SD signal with a little noise added, coefficient seed data with a strong noise removal effect is generated by learning with the SD signal with a lot of noise added, and SD with a little noise added. Coefficient seed data having a weak noise removal effect is generated by learning with a signal.
ノイズを加える量としては、例えば(14)式のように、SD信号の画素値xに対して、ノイズnを加えてノイズの加わったSD信号の画素値x′を生成する場合、Gを可変することでノイズ量を調整する。
x′=x+G・n ・・・(14)
As the amount of noise to be added, for example, as shown in equation (14), when generating the pixel value x ′ of the SD signal to which noise n is added by adding noise n to the pixel value x of the SD signal, G is variable. To adjust the amount of noise.
x ′ = x + G · n (14)
例えば、周波数特性を可変するパラメータrの値を0〜1.0まで0.1のステップで11段階に可変し、ノイズを加える量を可変するパラメータzの値を0〜1.0まで0.1のステップで11段階に可変し、合計121種類のSD信号を生成する。このようにして生成した複数のSD信号とHD信号との間で学習を行って係数種データを生成する。このパラメータr,zは、図1のパラメータ決定回路118におけるパラメータr,zに対応したものである。 For example, the value of the parameter r for varying the frequency characteristic is varied in 11 steps from 0 to 1.0 in 0.1 steps, and the value of the parameter z for varying the amount of noise added is varied from 0 to 1.0 to 0.1. It is variable to 11 steps in one step, and a total of 121 types of SD signals are generated. Learning is performed between the plurality of SD signals generated in this way and the HD signal to generate coefficient seed data. The parameters r and z correspond to the parameters r and z in the parameter determination circuit 118 in FIG.
次に、上述した画像信号処理部104のROM120に格納される係数種データwi0〜wi9(i=1〜n)を生成するための係数種データ生成装置150について説明する。図10は、この係数種データ生成装置150の構成を示している。
Next, the coefficient seed
この係数種データ生成装置150は、教師信号としてのHD信号(1050i信号)が入力される入力端子151と、このHD信号に対して、水平および垂直の間引き処理を行って、生徒信号としてのSD信号を得るSD信号生成回路152とを有している。このSD信号生成回路152には、パラメータr,zが供給される。パラメータrの値に対応して、HD信号からSD信号を生成する際に使用する間引きフィルタの周波数特性が可変される。また、パラメータzの値に対応して、SD信号に加えるノイズの量が可変される。
This coefficient seed
また、係数種データ生成装置150は、SD信号生成回路152より出力されるSD信号に基づいて、HD信号における注目位置の周辺に位置する複数のSD画素のデータを選択的に取り出して出力する第1〜第3のタップ選択回路153〜155を有している。これら第1〜第3のタップ選択回路153〜155は、上述した画像信号処理部104の第1〜第3のタップ選択回路111〜113と同様に構成される。
The coefficient seed
また、係数種データ生成装置150は、第2のタップ選択回路154で選択的に取り出される空間クラスタップのデータ(複数のSD画素データ)のレベル分布パターンを検出し、このレベル分布パターンに基づいて空間クラスを検出し、そのクラス情報を出力する空間クラス検出回路157を有している。この空間クラス検出回路157は、上述した画像信号処理部104の空間クラス検出回路114と同様に構成される。この空間クラス検出回路157からは、空間クラスタップのデータとしての各SD画素データ毎の再量子化コードqiが空間クラスを示すクラス情報として出力される。
The coefficient seed
また、係数種データ生成装置150は、第3のタップ選択回路155で選択的に取り出される動きクラスタップのデータ(複数のSD画素データ)より、主に動きの程度を表すための動きクラスを検出し、そのクラス情報MVを出力する動きクラス検出回路158を有している。この動きクラス検出回路158は、上述した画像信号処理部104の動きクラス検出回路115と同様に構成される。この動きクラス検出回路158では、第3のタップ選択回路155で選択的に取り出される動きクラスタップのデータ(SD画素データ)からフレーム間差分が算出され、さらにその差分の絶対値の平均値に対してしきい値処理が行われて動きの指標である動きクラスが検出される。
The coefficient seed
また、係数種データ生成装置150は、空間クラス検出回路157より出力される空間クラスのクラス情報としての再量子化コードqiと、動きクラス検出回路158より出力される動きクラスのクラス情報MVに基づき、HD信号(1050i信号)における注目位置の画素データが属するクラスを示すクラスコードCLを得るためのクラス合成回路159を有している。このクラス合成回路159も、上述した画像信号処理部104のクラス合成回路116と同様に構成される。
Also, the coefficient seed
また、係数種データ生成装置150は、正規方程式生成部160を有している。この正規方程式生成部160は、入力端子151に供給されるHD信号より得られる注目画素データとしての各HD画素データyと、この各HD画素データyにそれぞれ対応して第1のタップ選択回路153で選択的に取り出される予測タップのデータxiと、各HD画素データyにそれぞれ対応してクラス合成回路159で得られるクラスコードCLと、パラメータr,zの値とから、クラスおよび出力画素の組み合わせ毎に、各クラスの係数種データwi0〜wi9(i=1〜n)を得るための正規方程式((13)式参照)を生成する。
Further, the coefficient seed
この場合、1個のHD画素データyとそれに対応する予測タップのデータ(複数個のSD画素データ)xiとの組み合わせで学習データが生成されるが、教師信号としてのHD信号と生徒信号としてのSD信号との間で、クラス毎に、多くの学習データが生成されていく。これにより、正規方程式生成部160では、クラス毎に、係数種データwi0〜wi9(i=1〜n)を得るための正規方程式が生成される。
In this case, learning data is generated by a combination of one HD pixel data y and prediction tap data (a plurality of SD pixel data) xi corresponding thereto, but an HD signal as a teacher signal and a student signal as A large amount of learning data is generated for each class with the SD signal. Thereby, the normal
またこの場合、正規方程式生成部160では、出力画素(図7のHD1〜HD4、図8のHD1′〜HD4′参照)毎に、正規方程式が生成される。例えば、HD1に対応した正規方程式は、中心予測タップに対するずれ値がHD1と同じ関係にあるHD画素データyから構成される学習データから生成される。結果的に正規方程式生成部160では、クラスおよび出力画素の組み合わせ毎に、正規方程式が生成される。
In this case, the normal
また、係数種データ生成装置150は、係数種データ決定部161と、係数種メモリ162とを有している。係数種データ決定部161は、正規方程式生成部160から正規方程式のデータの供給を受け、当該正規方程式を掃き出し法等によって解き、クラスおよび出力画素の組み合わせ毎に、係数種データwi0〜wi9(i=1〜n)を求める。係数種メモリ162は、係数種データ決定部161で求められた係数種データwi0〜wi9(i=1〜n)を格納する。
In addition, the coefficient seed
図10に示す係数種データ生成装置150の動作を説明する。
入力端子151に入力されるHD信号に対してSD信号生成回路152で水平および垂直の間引き処理が行われて生徒信号としてのSD信号が生成される。この場合、SD信号生成回路152にはパラメータr,zが制御信号として供給され、周波数特性およびノイズ加算量が段階的に変化した複数のSD信号が順次生成されていく。
The operation of the coefficient seed
The SD
また、SD信号生成回路152で生成されたSD信号(525i信号)より、第2のタップ選択回路154で、HD信号(1050i信号)における注目位置の周辺に位置する空間クラスタップのデータ(SD画素データ)が選択的に取り出される。この第2のタップ選択回路154で選択的に取り出される空間クラスタップのデータ(SD画素データ)は空間クラス検出回路157に供給される。この空間クラス検出回路157では、空間クラスタップのデータとしての各SD画素データに対してADRC処理が施されて空間クラス(主に空間内の波形表現のためのクラス分類)のクラス情報としての再量子化コードqiが得られる((1)式参照)。
Further, from the SD signal (525i signal) generated by the SD
また、SD信号生成回路152で生成されたSD信号より、第3のタップ選択回路155で、HD信号に係る注目画素の周辺に位置する動きクラスタップのデータ(SD画素データ)が選択的に取り出される。この第3のタップ選択回路155で選択的に取り出される動きクラスタップのデータ(SD画素データ)は動きクラス検出回路158に供給される。この動きクラス検出回路158では、動きクラスタップのデータとしての各SD画素データより動きクラス(主に動きの程度を表すためのクラス分類)のクラス情報MVが得られる。
Further, from the SD signal generated by the SD
このクラス情報MVと上述した再量子化コードqiはクラス合成回路159に供給される。このクラス合成回路159では、これらクラス情報MVと再量子化コードqiとから、HD信号(1050i信号)における注目位置の画素データが属するクラスを示すクラスコードCLが得られる((3)式参照)。
The class information MV and the above-described requantization code qi are supplied to the
また、SD信号生成回路152で生成されるSD信号より、第1のタップ選択回路153で、HD信号における注目位置の周辺に位置する予測タップのデータ(SD画素データ)が選択的に取り出される。
Further, from the SD signal generated by the SD
そして、入力端子151に供給されるHD信号より得られる注目位置の画素データとしての各HD画素データyと、この各HD画素データyにそれぞれ対応して第1のタップ選択回路153で選択的に取り出される予測タップのデータxiと、各HD画素データyにそれぞれ対応してクラス合成回路159より出力されるクラスコードCLと、パラメータr,zの値とから、正規方程式生成部160では、クラスおよび出力画素の組み合わせ毎に、係数種データwi0〜wi9(i=1〜n)を生成するための正規方程式((13)式参照)が生成される。
Then, each HD pixel data y as pixel data at the target position obtained from the HD signal supplied to the
そして、係数種データ決定部161で各正規方程式が解かれて係数種データwi0〜wi9(i=1〜n)が求められ、この係数種データwi0〜wi9(i=1〜n)は係数種メモリ162に格納される。
The coefficient seed
このように、図10に示す係数種データ生成装置150においては、図1に示す画像信号処理部104のROM120に格納される、クラスおよび出力画素の組み合わせ毎の係数種データwi0〜wi9(i=1〜n)を生成できる。
As described above, in the coefficient seed
なお、図1の画像信号処理部104における処理を、例えば図11に示すような画像信号処理装置300によって、ソフトウェアで実現することも可能である。まず、図11に示す画像信号処理装置300について説明する。この画像信号処理装置300は、装置全体の動作を制御するCPU301と、このCPU301の動作プログラムや係数種データ等が格納されたROM(read only memory)302と、CPU301の作業領域を構成するRAM(random access memory)303とを有している。これらCPU301、ROM302およびRAM303は、それぞれバス304に接続されている。
Note that the processing in the image signal processing unit 104 of FIG. 1 can be realized by software, for example, by an image
また、画像信号処理装置300は、外部記憶装置としてのハードディスクドライブ(HDD)305と、リムーバブルディスク306をドライブするドライブ307とを有している。これらドライブ305,307は、それぞれバス304に接続されている。
The image
また、画像信号処理装置300は、インターネット等の通信網400に有線または無線で接続する通信部308を有している。この通信部308は、インタフェース309を介してバス304に接続されている。
In addition, the image
また、画像信号処理装置300は、ユーザインタフェース部を備えている。このユーザインタフェース部は、リモコン送信機320からのリモコン信号RMを受信するリモコン信号受信回路310と、LCD(liquid crystal display)等からなるディスプレイ311とを有している。受信回路310はインタフェース312を介してバス304に接続され、同様にディスプレイ311はインタフェース313を介してバス304に接続されている。
In addition, the image
また、画像信号処理装置300は、SD信号を入力するための入力端子314と、HD信号を出力するための出力端子315とを有している。入力端子314はインタフェース316を介してバス304に接続され、同様に出力端子315はインタフェース317を介してバス304に接続される。
The image
ここで、上述したようにROM302に処理プログラムや係数種データ等を予め格納しておく代わりに、例えばインターネットなどの通信網400より通信部308を介してダウンロードし、HDD305やRAM303等に蓄積して使用することもできる。また、これら処理プログラムや係数種データ等をディスク306で提供するようにしてもよい。
Here, instead of storing the processing program and coefficient seed data in advance in the
また、処理すべきSD信号を入力端子314より入力する代わりに、予めHDD305に記録しておき、あるいはインターネットなどの通信網400より通信部308を介してダウンロードしてもよい。また、処理後のHD信号を出力端子315に出力する代わり、あるいはそれと並行してディスプレイ311に供給して画像表示をしたり、さらにはHDD305に格納したり、通信部308を介してインターネットなどの通信網400に送出するようにしてもよい。
Further, instead of inputting the SD signal to be processed from the input terminal 314, it may be recorded in the
図12のフローチャートを参照して、図11に示す画像信号処理装置300における、SD信号よりHD信号を得るため処理手順を説明する。まず、ステップST1で、処理を開始し、ステップST2で、SD画素データを1フレーム分または1フィールド分入力する。このSD画素データが入力端子314より入力される場合には、このSD画素データをRAM303に一時的に格納する。また、このSD画素データがHDD305に記録されている場合には、HDD305からこのSD画素データを読み出し、RAM303に一時的に格納する。
A processing procedure for obtaining an HD signal from an SD signal in the image
そして、ステップST3で、SD画素データの全フレームまたは全フィールドの処理が終わっているか否かを判定する。処理が終わっているときは、ステップST4で、処理を終了する。一方、処理が終わっていないときは、ステップST5に進む。 In step ST3, it is determined whether or not processing of all frames or fields of SD pixel data has been completed. When the process is finished, the process ends in step ST4. On the other hand, when the process is not finished, the process proceeds to step ST5.
このステップST5では、ステップST2で入力された1フィールド分または1フレーム分のSD画素データより、HD信号における注目位置に対応して、クラスタップおよび予測タップのデータとしての複数のSD画素データを取得し、さらに特徴量を抽出するための単一あるいは複数のSD画素データを取得する。 In this step ST5, a plurality of SD pixel data as class tap and prediction tap data is acquired from the SD pixel data for one field or one frame input in step ST2 corresponding to the target position in the HD signal. Further, single or plural SD pixel data for extracting the feature amount is acquired.
次に、ステップST6で、ステップST2で入力されたSD画素データの全領域においてHD画素データを得る処理が終了したか否かを判定する。終了しているときは、ステップST2に戻り、次の1フレーム分または1フィールド分のSD画素データの入力処理に移る。一方、処理が終了していないときは、ステップST7に進む。 Next, in step ST6, it is determined whether or not the processing for obtaining HD pixel data has been completed in all areas of the SD pixel data input in step ST2. If completed, the process returns to step ST2 and proceeds to the input processing of SD pixel data for the next one frame or one field. On the other hand, when the process is not completed, the process proceeds to step ST7.
このステップST7では、ステップST5で取得されたクラスタップのデータとしての複数のSD画素データに基づいて、HD信号における注目位置の画素データが属するクラスを示すクラスコードCLを生成する。そして、ステップST8で、ステップST5で取得された単一または複数のSD画素データに基づいて、特徴量CQを抽出する。さらに、ステップST9で、ステップST8で抽出された特徴量CQに基づいてパラメータr,zの値を決定する。この場合、例えばROM302に格納されている、特徴量CQとパラメータr,zの値との対応を示すテーブル(図5A,B参照)を用いて、パラメータr,zの値を決定する。
In step ST7, based on the plurality of SD pixel data as the class tap data acquired in step ST5, a class code CL indicating the class to which the pixel data at the target position in the HD signal belongs is generated. In step ST8, the feature quantity CQ is extracted based on the single or plural SD pixel data acquired in step ST5. Further, in step ST9, the values of the parameters r and z are determined based on the feature quantity CQ extracted in step ST8. In this case, for example, the values of the parameters r and z are determined using a table (see FIGS. 5A and 5B) indicating the correspondence between the feature amount CQ and the values of the parameters r and z stored in the
次に、ステップST10で、ステップST7で生成されたクラスコードCLが示すクラスの係数種データwi0〜wi9、およびステップST9で決定されたパラメータr,zの値を用い、上述の(5)式の生成式に基づいて、上述の(6)式の推定式で用いられる係数データWiを生成する。 Next, in step ST10, the coefficient seed data w i0 to w i9 in the class indicated by the generated class code CL, and parameter r determined in step ST9, the value of z used in step ST7, the above (5) Based on the formula generation formula, coefficient data Wi used in the estimation formula (6) is generated.
次に、ステップST11で、ステップST5で取得された予測タップのデータxiおよびステップST10で生成された係数データWiを用い、(6)式の推定式に基づいて、HD信号における注目位置の画素データを生成する。その後、ステップST5に戻り、HD信号における次の注目位置の処理に移る。 Next, in step ST11, using the prediction tap data xi acquired in step ST5 and the coefficient data Wi generated in step ST10, the pixel data of the target position in the HD signal based on the estimation formula of equation (6) Is generated. After that, the process returns to step ST5, and the process proceeds to the next target position in the HD signal.
このように、図12に示すフローチャートに沿って処理をすることで、入力されたSD信号を構成するSD画素データを処理して、HD信号を構成するHD画素データを得ることができる。上述したように、このように処理して得られたHD信号は出力端子315に出力されたり、ディスプレイ311に供給されてそれによる画像が表示されたり、さらにはHDD305に記録されたりする。
In this way, by performing processing according to the flowchart shown in FIG. 12, it is possible to process the SD pixel data constituting the input SD signal and obtain HD pixel data constituting the HD signal. As described above, the HD signal obtained by such processing is output to the output terminal 315, supplied to the
また、処理装置の図示は省略するが、図10の係数種データ生成装置150における処理を、ソフトウェアで実現することも可能である。
Although illustration of the processing device is omitted, the processing in the coefficient seed
図13のフローチャートを参照して、係数種データを生成するための処理手順を説明する。
まず、ステップST21で、処理を開始し、ステップST22で、学習に使われる、画質パターン(パラメータr,zの値で特定される)を選択する。そして、ステップST23で、全ての画質パターンに対して学習が終わったか否かを判定する。全ての画質パターンに対して学習が終わっていないときは、ステップST24に進む。
A processing procedure for generating coefficient seed data will be described with reference to the flowchart of FIG.
First, in step ST21, processing is started, and in step ST22, an image quality pattern (specified by the values of parameters r and z) used for learning is selected. In step ST23, it is determined whether learning has been completed for all image quality patterns. If learning has not been completed for all image quality patterns, the process proceeds to step ST24.
このステップST24では、既知のHD画素データを1フレーム分または1フィールド分入力する。そして、ステップST25で、全フレームまたは全フィールドのHD画素データについて処理が終了したか否かを判定する。終了したときは、ステップST22に戻って、次の画質パターンの選択を行って、上述したと同様の処理を繰り返す。一方、終了していないときは、ステップST26に進む。 In step ST24, known HD pixel data is input for one frame or one field. In step ST25, it is determined whether or not processing has been completed for HD pixel data of all frames or all fields. When the process is completed, the process returns to step ST22, the next image quality pattern is selected, and the same process as described above is repeated. On the other hand, when not completed, the process proceeds to step ST26.
このステップST26では、ステップST24で入力されたHD画素データより、ステップST22で選択された画質パターンに基づいて、SD画素データを生成する。そして、ステップST27で、ステップST26で生成されたSD画素データより、HD信号における注目位置に対応して、クラスタップおよび予測タップのデータとしての複数の画素データを取得する。 In step ST26, SD pixel data is generated from the HD pixel data input in step ST24 based on the image quality pattern selected in step ST22. In step ST27, a plurality of pieces of pixel data as class tap and prediction tap data are acquired from the SD pixel data generated in step ST26 in correspondence with the target position in the HD signal.
そして、ステップST28で、生成されたSD画素データの全領域において学習処理を終了しているか否かを判定する。学習処理を終了しているときは、ステップST24に戻って、次の1フレーム分または1フィールド分のHD画素データの入力を行って、上述したと同様の処理を繰り返し、一方、学習処理を終了していないときは、ステップST29に進む。 In step ST28, it is determined whether or not the learning process has been completed in all regions of the generated SD pixel data. When the learning process is finished, the process returns to step ST24, the next one frame or one field of HD pixel data is input, the same process as described above is repeated, and the learning process is finished. If not, the process proceeds to step ST29.
このステップST29では、ステップST27で取得されたクラスタップのSD画素データからクラスコードCLを生成する。そして、ステップST30で、ステップST24で入力された1フレーム分または1フィールド分のHD画素データのうち、HD信号における注目位置のHD画素データ、ステップST27で取得された予測タップのデータとしての複数のSD画素データ、ステップST22で画質パターンを特定するパラメータr,zの値、およびステップST29で生成されたクラスコードCLに基づいて、クラスコードCLで示されるクラスの正規方程式((13)式参照)の足し込み処理を行う。その後に、ステップST27に戻り、HD信号における次の注目位置の処理に移る。 In this step ST29, the class code CL is generated from the SD pixel data of the class tap acquired in step ST27. Then, in step ST30, among the HD pixel data for one frame or one field input in step ST24, a plurality of HD pixel data at the target position in the HD signal, and a plurality of prediction tap data acquired in step ST27. Based on the SD pixel data, the values of the parameters r and z for specifying the image quality pattern in step ST22, and the class code CL generated in step ST29, the normal equation of the class indicated by the class code CL (see equation (13)) Add the process. Thereafter, the process returns to step ST27, and the process moves to the next target position in the HD signal.
また、ステップST23で、全ての画質パターンに対して学習が終わったときは、ステップST31に進む。このステップST31では、各クラスの正規方程式を掃き出し法等で解くことによって、各クラスの係数種データwi0〜wi9を算出し、ステップST32で、その係数種データwi0〜wi9をメモリに保存し、その後にステップST33で、処理を終了する。 If learning for all image quality patterns is completed in step ST23, the process proceeds to step ST31. In step ST31, by solving the normal equation for each class in the sweeping-out method etc., to calculate the coefficient seed data w i0 to w i9 for each class at step ST32, the coefficient seed data w i0 to w i9 in the memory After that, the process ends at step ST33.
このように、図13に示すフローチャートに沿って処理をすることで、図10に示す係数種データ生成装置150と同様の手法によって、係数種データwi0〜wi9を得ることができる。
In this way, by performing processing according to the flowchart shown in FIG. 13, the coefficient seed data w i0 to w i9 can be obtained by the same method as the coefficient seed
なお、上述実施の形態においては、HD信号における注目位置の特徴量CQとして、このHD信号における注目位置の周辺に位置する単一または複数のSD画素データに基づいて画素値あるいは輝度値を抽出するものを示したが、特徴量CQは画素値あるいは輝度値に限定されるものではない。すなわち、特徴量CQは、HD信号における注目位置に対応した画像の画質(解像度、ノイズ除去度等)を、当該特徴量CQに対応した画質となるように制御することで、HD信号による画像の画質を向上させることができるものであればよい。 In the above-described embodiment, the pixel value or the luminance value is extracted based on single or plural SD pixel data located around the target position in the HD signal as the feature amount CQ of the target position in the HD signal. However, the feature amount CQ is not limited to a pixel value or a luminance value. That is, the feature amount CQ is obtained by controlling the image quality (resolution, noise removal degree, etc.) of the image corresponding to the target position in the HD signal so that the image quality corresponds to the feature amount CQ. Any device capable of improving the image quality is acceptable.
例えば、特徴量CQとして、複数のSD画素データから得られる高域周波数成分、ダイナミックレンジなどを利用することも考えられる。また例えば、SD信号が、赤(R)、緑(G)、青(B)の色信号、あるいは輝度信号Y、青色差信号Uおよび赤色差信号Vで構成される場合には、これらの色空間を用いて特徴量CQを抽出してもよい。例えば、特徴量CQとして、図14に示すように、注目位置の赤、緑、青の色信号(r,g,b)が、RGBの色空間のどの位置にあるかという情報(色空間情報)を特徴量CQとして抽出してもよい。色空間は、RGB,YUV以外であっても利用できる。 For example, it is conceivable to use a high frequency component, a dynamic range, or the like obtained from a plurality of SD pixel data as the feature amount CQ. For example, when the SD signal is composed of red (R), green (G), and blue (B) color signals, or a luminance signal Y, a blue difference signal U, and a red difference signal V, these colors are used. The feature amount CQ may be extracted using a space. For example, as the feature amount CQ, as shown in FIG. 14, information (color space information) indicating where the red, green, and blue color signals (r, g, b) at the target position are in the RGB color space. ) May be extracted as the feature amount CQ. A color space other than RGB and YUV can be used.
また、上述実施の形態においては、特徴量CQに基づいてHD信号による画像の画質を示すパラメータr,zの値を決定し、このパラメータr,zの値を用いて、HD信号における注目位置に対応した画像の画質(解像度、ノイズ除去度)が特徴量CQに対応した画質となるように自動的に制御するものである。しかし、このように特徴量CQに基づいてパラメータr,zの値を決定することなく、この特徴量CQそのものに基づいて、HD信号における注目位置に対応した画像の画質(解像度、ノイズ除去度)が当該特徴量CQに対応した画質となるように自動的に制御する構成も考えられる。 In the above-described embodiment, the values of the parameters r and z indicating the image quality of the HD signal are determined based on the feature quantity CQ, and the values of the parameters r and z are used to determine the target position in the HD signal. The image quality (resolution, noise removal degree) of the corresponding image is automatically controlled so that the image quality corresponds to the feature amount CQ. However, without determining the values of the parameters r and z based on the feature value CQ in this way, the image quality (resolution, noise removal degree) of the image corresponding to the target position in the HD signal based on the feature value CQ itself. Can be automatically controlled so that the image quality corresponding to the feature amount CQ is obtained.
また、上述実施の形態においては、画像信号処理部104のROM120に係数データWiを生成するための生成式における係数データである係数種データwi0〜wi9が格納されているものを示した。これにより、メモリの節約を図ることができる。 Also, in the above-described embodiment showed that the coefficient seed data w i0 to w i9 is coefficient data in the production equation for producing coefficient data Wi to ROM120 of the image signal processing unit 104 is stored. Thereby, memory can be saved.
しかし、このROM120にクラスおよびパラメータr,zの値の各組み合わせに対応した係数データWi自体を格納しておくことも考えられる。その場合、画像信号処理部104では、そのROM117から、クラス検出回路113で得られたクラスコードCLが示すクラスおよびパラメータ決定回路118で決定されたパラメータr,zの値に対応した係数データWiを読み出して、推定予測演算回路121に供給する。このようにROM120に係数データWi自体を格納しておくことで、演算の手間を省くことができる。
However, it is also conceivable that coefficient data Wi itself corresponding to each combination of class and parameter r, z values is stored in the ROM 120. In that case, the image signal processing unit 104 obtains coefficient data Wi corresponding to the class indicated by the class code CL obtained by the
また、上述実施の形態においては、解像度を決めるパラメータr、ノイズ除去度を決めるパラメータzに着目したものであるが、HD信号による画像の画質を決めるパラメータは、これらのパラメータr,zに限定されるものではない。また、パラメータは2個に限定されず、1個あるいは3個以上も考えられる。例えば、3個の場合、ノイズ除去度を決めるパラメータzの他に、水平方向の解像度を決めるパラメータhおよび垂直方向の解像度を決めるパラメータvが考えられる。 In the embodiment described above, attention is paid to the parameter r for determining the resolution and the parameter z for determining the noise removal degree. However, the parameters for determining the image quality of the HD signal are limited to these parameters r and z. It is not something. Further, the number of parameters is not limited to two, and one or three or more parameters can be considered. For example, in the case of three, in addition to the parameter z that determines the degree of noise removal, a parameter h that determines the resolution in the horizontal direction and a parameter v that determines the resolution in the vertical direction are conceivable.
また、上述実施の形態においては、情報信号が画像信号である場合を示したが、この発明はこれに限定されない。例えば、情報信号が音声信号である場合にも、この発明を同様に適用することができる。 Moreover, although the case where the information signal is an image signal has been described in the above embodiment, the present invention is not limited to this. For example, the present invention can be similarly applied when the information signal is an audio signal.
この発明は、第2の情報信号における注目位置の周辺に位置する第1の情報信号の情報データに基づいて当該第2の情報信号における注目位置の特徴量を抽出し、第2の情報信号における注目位置に対応した出力の質が、抽出された特徴量に対応した質となるように、第2の情報信号における注目位置の情報データを生成して、第2の情報信号による出力の質の向上を図るものであり、例えば解像度創造の手法によってSD信号からHD信号を得る用途に適用できる。 The present invention extracts a feature amount of a target position in the second information signal based on information data of the first information signal located around the target position in the second information signal, Information on the position of interest in the second information signal is generated so that the quality of the output corresponding to the position of interest is the quality corresponding to the extracted feature quantity, and the quality of the output by the second information signal is For example, it can be applied to the use of obtaining an HD signal from an SD signal by a resolution creation technique.
100・・・テレビ受信機、101・・・受信アンテナ、102・・・チューナ部、103・・・バッファメモリ、104・・・画像信号処理部、105・・・ディスプレイ部、111・・・第1のタップ選択回路、112・・・第2のタップ選択回路、113・・・第3のタップ選択回路、114・・・空間クラス検出回路、115・・・動きクラス検出回路、116・・・クラス合成回路、117・・・特徴量抽出回路、118・・・パラメータ決定回路、119・・・係数生成回路、120・・・ROM、121・・・推定予測演算回路、122・・・後処理回路、150・・・係数種データ生成装置、300・・・画像信号処理装置
DESCRIPTION OF
Claims (16)
上記第1の情報信号に基づいて上記第2の情報信号における注目位置の周辺に位置する情報データを選択し、該選択された情報データに基づいて上記第2の情報信号における注目位置の特徴量を抽出する特徴量抽出手段と、
上記第2の情報信号における注目位置に対応した出力の質が、上記特徴量抽出手段で抽出された特徴量に対応した質となるように、上記第2の情報信号における注目位置の情報データを生成する情報データ生成手段と
を備えることを特徴とする情報信号処理装置。 An information signal processing device for converting a first information signal composed of a plurality of information data into a second information signal composed of a plurality of information data,
Based on the first information signal, information data located around the target position in the second information signal is selected, and based on the selected information data, the feature amount of the target position in the second information signal Feature amount extraction means for extracting
The information data of the target position in the second information signal is set so that the quality of the output corresponding to the target position in the second information signal is the quality corresponding to the feature amount extracted by the feature amount extraction means. An information signal processing device comprising: information data generating means for generating.
上記情報データ生成手段は、上記パラメータ決定手段で決定されたパラメータの値に基づいて上記第2の情報信号における注目位置の情報データを生成する
ことを特徴とする請求項1に記載の情報信号処理装置。 Based on the feature quantity extracted by the feature quantity extraction means, further comprising parameter determination means for determining a parameter value indicating the quality of output by the second information signal,
2. The information signal processing according to claim 1, wherein the information data generation unit generates information data of a position of interest in the second information signal based on a parameter value determined by the parameter determination unit. apparatus.
上記パラメータ決定手段で決定されたパラメータの値に対応する、推定式で用いられる係数データを発生する係数データ発生手段と、
上記第1の情報信号に基づいて上記第2の情報信号における注目位置の周辺に位置する複数の第1の情報データを選択する第1のデータ選択手段と、
上記第1のデータ選択手段で選択された複数の第1の情報データおよび上記係数データ発生手段で発生された係数データを用い、上記推定式に基づいて上記第2の情報信号における注目位置の情報データを算出する演算手段とを有する
ことを特徴とする請求項2に記載の情報信号処理装置。 The information data generating means includes
Coefficient data generating means for generating coefficient data used in the estimation formula corresponding to the parameter value determined by the parameter determining means;
First data selection means for selecting a plurality of first information data located around the position of interest in the second information signal based on the first information signal;
Information on the position of interest in the second information signal based on the estimation formula using the plurality of first information data selected by the first data selection means and the coefficient data generated by the coefficient data generation means. The information signal processing apparatus according to claim 2, further comprising: an arithmetic unit that calculates data.
上記推定式で用いられる係数データを生成する、上記パラメータを含む生成式の係数データである係数種データを記憶する記憶手段と、
上記記憶手段に記憶されている係数種データおよび上記パラメータ決定手段で決定されたパラメータの値を用い、上記生成式に基づいて、該パラメータの値に対応する、推定式で用いられる係数データを生成する係数生成手段とを有する
ことを特徴とする請求項3に記載の情報信号処理装置。 The coefficient data generating means is
Storage means for generating coefficient data used in the estimation formula, storing coefficient seed data that is coefficient data of the generation formula including the parameter;
Using the coefficient seed data stored in the storage means and the parameter value determined by the parameter determination means, the coefficient data used in the estimation expression corresponding to the parameter value is generated based on the generation expression. The information signal processing apparatus according to claim 3, further comprising: a coefficient generation unit that performs processing.
上記第2のデータ選択手段で選択された複数の第2の情報データに基づいて、上記第2の情報信号における注目位置の画素データが属するクラスを検出するクラス検出手段とをさらに備え、
上記係数データ発生手段は、上記パラメータ決定手段で決定されたパラメータの値および上記クラス検出手段で検出されたクラスに対応する、推定式で用いられる係数データを生成する
ことを特徴とする請求項3に記載の情報信号処理装置。 Second data selection means for selecting a plurality of second information data located around the position of interest in the second information signal based on the first information signal;
Class detection means for detecting a class to which the pixel data of the target position in the second information signal belongs based on the plurality of second information data selected by the second data selection means;
The coefficient data generation means generates coefficient data used in the estimation formula corresponding to the parameter value determined by the parameter determination means and the class detected by the class detection means. An information signal processing apparatus according to 1.
上記パラメータの値は、上記第2の情報信号による画像の解像度またはノイズ除去度を示す
ことを特徴とする請求項2に記載の情報信号処理装置。 The information signal is an image signal,
The information signal processing apparatus according to claim 2, wherein the value of the parameter indicates a resolution of an image or a noise removal degree based on the second information signal.
上記第2の情報信号における注目位置の周辺に位置する単一の情報データを選択し、該単一の情報データの値を上記特徴量として抽出する
ことを特徴とする請求項1に記載の情報信号処理装置。 The feature amount extraction means includes:
The information according to claim 1, wherein single information data located around a target position in the second information signal is selected, and a value of the single information data is extracted as the feature amount. Signal processing device.
上記第2の情報信号における注目位置の周辺に位置する複数の情報データを選択し、該複数の情報データの値の平均値を上記特徴量として抽出する
ことを特徴とする請求項1に記載の情報信号処理装置。 The feature amount extraction means includes:
The plurality of pieces of information data located around the position of interest in the second information signal are selected, and an average value of the plurality of pieces of information data is extracted as the feature amount. Information signal processing device.
上記第2の情報信号における注目位置の周辺に位置する単一の情報データを選択し、該単一の情報データの値を、上記第2の情報信号による出力を得るための出力手段における情報データの値と出力値との対応関係に基づいて、出力値に変換し、該変換して得られる出力値を上記特徴量として抽出する
ことを特徴とする請求項1に記載の情報信号処理装置。 The feature amount extraction means includes:
Information data in the output means for selecting single information data located around the position of interest in the second information signal and obtaining the value of the single information data as an output by the second information signal The information signal processing apparatus according to claim 1, wherein the information value is converted into an output value based on a correspondence relationship between the value and the output value, and an output value obtained by the conversion is extracted as the feature amount.
上記特徴量抽出手段は、上記単一の情報データとしての単一の画素データの値を変換して得られた上記出力値としての輝度値を上記特徴量として抽出する
ことを特徴とする請求項9に記載の情報信号処理装置。 The information signal is an image signal,
The feature amount extraction unit extracts, as the feature amount, a luminance value as the output value obtained by converting a value of single pixel data as the single information data. 9. The information signal processing device according to 9.
上記第2の情報信号における注目位置の周辺に位置する複数の情報データを選択し、該複数の情報データの値を、上記第2の情報信号による出力を得るための出力手段における情報データの値と出力値との対応関係に基づいて出力値にそれぞれ変換し、該変換して得られる複数の出力値の平均値を上記特徴量として抽出する
ことを特徴とする請求項1に記載の情報信号処理装置。 The feature amount extraction means includes:
The value of the information data in the output means for selecting the plurality of information data located around the position of interest in the second information signal and obtaining the value of the plurality of information data by the output of the second information signal 2. The information signal according to claim 1, wherein the information signal is converted into an output value based on a correspondence relationship between the output value and the output value, and an average value of a plurality of output values obtained by the conversion is extracted as the feature amount. Processing equipment.
上記特徴量抽出手段は、上記複数の情報データとしての複数の画素データの値を変換して得られた上記出力値としての複数の輝度値の平均値を上記特徴量として抽出する
ことを特徴とする請求項11に記載の情報信号処理装置。 The information signal is an image signal,
The feature amount extracting means extracts, as the feature amount, an average value of a plurality of luminance values as the output value obtained by converting values of a plurality of pixel data as the plurality of information data. The information signal processing apparatus according to claim 11.
上記第1の情報信号に基づいて上記第2の情報信号における注目位置の周辺に位置する情報データを選択し、該選択された情報データに基づいて上記第2の情報信号における注目位置の特徴量を抽出する特徴量抽出ステップと、
上記第2の情報信号における注目位置に対応した出力の質が、上記特徴量抽出ステップで抽出された特徴量に対応した質となるように、上記第2の情報信号における注目位置の情報データを生成する情報データ生成ステップと
を備えることを特徴とする情報信号処理方法。 An information signal processing method for converting a first information signal composed of a plurality of information data into a second information signal composed of a plurality of information data,
Based on the first information signal, information data located around the target position in the second information signal is selected, and based on the selected information data, the feature amount of the target position in the second information signal A feature extraction step for extracting
The information data of the target position in the second information signal is set so that the quality of the output corresponding to the target position in the second information signal becomes the quality corresponding to the feature amount extracted in the feature amount extraction step. An information signal processing method comprising: generating an information data step.
上記情報データ生成ステップでは、上記パラメータ決定ステップで決定されたパラメータの値に基づいて上記第2の情報信号における注目位置の情報データを生成する
ことを特徴とする請求項13に記載の情報信号処理方法。 A parameter determining step of determining a value of a parameter indicating the quality of output by the second information signal based on the feature amount extracted in the feature amount extraction step;
14. The information signal processing according to claim 13, wherein in the information data generation step, information data of a position of interest in the second information signal is generated based on the parameter value determined in the parameter determination step. Method.
上記第1の情報信号に基づいて上記第2の情報信号における注目位置の周辺に位置する情報データを選択し、該選択された情報データに基づいて上記第2の情報信号における注目位置の特徴量を抽出する特徴量抽出ステップと、
上記第2の情報信号における注目位置に対応した出力の質が、上記特徴量抽出ステップで抽出された特徴量に対応した質となるように、上記第2の情報信号における注目位置の情報データを生成する情報データ生成ステップと
を備える情報信号処理方法をコンピュータに実行させるためのプログラム。 In order to convert a first information signal composed of a plurality of information data into a second information signal composed of a plurality of information data,
Based on the first information signal, information data located around the target position in the second information signal is selected, and based on the selected information data, the feature amount of the target position in the second information signal A feature extraction step for extracting
The information data of the target position in the second information signal is set so that the quality of the output corresponding to the target position in the second information signal becomes the quality corresponding to the feature amount extracted in the feature amount extraction step. A program for causing a computer to execute an information signal processing method comprising: an information data generation step to generate.
上記第1の情報信号に基づいて上記第2の情報信号における注目位置の周辺に位置する情報データを選択し、該選択された情報データに基づいて上記第2の情報信号における注目位置の特徴量を抽出する特徴量抽出ステップと、
上記第2の情報信号における注目位置に対応した出力の質が、上記特徴量抽出ステップで抽出された特徴量に対応した質となるように、上記第2の情報信号における注目位置の情報データを生成する情報データ生成ステップと
を備える情報信号処理方法をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な媒体。
In order to convert a first information signal composed of a plurality of information data into a second information signal composed of a plurality of information data,
Based on the first information signal, information data located around the target position in the second information signal is selected, and based on the selected information data, the feature amount of the target position in the second information signal A feature extraction step for extracting
The information data of the target position in the second information signal is set so that the quality of the output corresponding to the target position in the second information signal becomes the quality corresponding to the feature amount extracted in the feature amount extraction step. A computer-readable medium having recorded thereon a program for causing a computer to execute an information signal processing method comprising: an information data generation step to generate.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003375933A JP4349086B2 (en) | 2003-11-05 | 2003-11-05 | Information signal processing apparatus and processing method, program for executing the processing method, and medium storing the program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003375933A JP4349086B2 (en) | 2003-11-05 | 2003-11-05 | Information signal processing apparatus and processing method, program for executing the processing method, and medium storing the program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005142743A true JP2005142743A (en) | 2005-06-02 |
JP4349086B2 JP4349086B2 (en) | 2009-10-21 |
Family
ID=34687164
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003375933A Expired - Fee Related JP4349086B2 (en) | 2003-11-05 | 2003-11-05 | Information signal processing apparatus and processing method, program for executing the processing method, and medium storing the program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4349086B2 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005318096A (en) * | 2004-04-27 | 2005-11-10 | Sony Corp | Device and method for processing information signal, program, and medium recording the same |
JP2009153006A (en) * | 2007-12-21 | 2009-07-09 | Sony Corp | Signal processing apparatus, signal processing method, signal processing program and learning apparatus |
US8346003B2 (en) | 2007-12-21 | 2013-01-01 | Sony Corporation | Image processing for reducing blur |
-
2003
- 2003-11-05 JP JP2003375933A patent/JP4349086B2/en not_active Expired - Fee Related
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005318096A (en) * | 2004-04-27 | 2005-11-10 | Sony Corp | Device and method for processing information signal, program, and medium recording the same |
JP4505729B2 (en) * | 2004-04-27 | 2010-07-21 | ソニー株式会社 | Image processing apparatus, image processing method, program, and recording medium |
JP2009153006A (en) * | 2007-12-21 | 2009-07-09 | Sony Corp | Signal processing apparatus, signal processing method, signal processing program and learning apparatus |
US8311963B2 (en) | 2007-12-21 | 2012-11-13 | Sony Corporation | Signal processing apparatus, signal processing method, signal processing program and learning apparatus |
US8346003B2 (en) | 2007-12-21 | 2013-01-01 | Sony Corporation | Image processing for reducing blur |
Also Published As
Publication number | Publication date |
---|---|
JP4349086B2 (en) | 2009-10-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100939736B1 (en) | Device and method of generating coefficient data, device and method of processing information signal using the same, device and method of generating data for generating coefficients using therefor, and carrier for providing information | |
JP4026491B2 (en) | Image signal processing apparatus, image signal processing method, program, and medium | |
JP4696388B2 (en) | Information signal processing apparatus, information signal processing method, image signal processing apparatus and image display apparatus using the same, coefficient seed data generation apparatus, coefficient data generation apparatus, and information recording medium | |
JP4670169B2 (en) | Information signal processing device, information signal processing method, image signal processing device and image display device using the same, coefficient seed data generation device used therefor, and information recording medium | |
US20040070685A1 (en) | Method and apparatus for processing information, storage medium, and program | |
JP3885786B2 (en) | Information signal processing apparatus and processing method, and program for executing the processing method | |
JP2002196737A (en) | Information signal processor, information signal processing method, image signal processor and image display device using the same as well as coefficient species data former used for the same and forming method as well as information provision medium and television receiver | |
EP1353320A1 (en) | Information signal processing device, information signal processing method, image signal processing device, image display comprising the same, and information providing medium | |
JP4691835B2 (en) | Coefficient data generating apparatus and generating method, information signal processing apparatus and processing method using the same, coefficient data acquiring apparatus and acquiring method used therefor, and information recording medium | |
JP4349086B2 (en) | Information signal processing apparatus and processing method, program for executing the processing method, and medium storing the program | |
JP4311166B2 (en) | Information signal processing apparatus and processing method, coefficient seed data generating apparatus and generating method used therefor, program for executing each method, and medium recording the program | |
JP4649786B2 (en) | Coefficient data generating apparatus and generating method, information signal processing apparatus and processing method using the same, and coefficient seed data generating apparatus and generating method used therefor | |
JP4692800B2 (en) | Coefficient data generating apparatus and generating method, information signal processing apparatus and processing method using the same, coefficient seed data generating apparatus and generating method used therefor, and recording medium | |
JP4051934B2 (en) | INFORMATION SIGNAL PROCESSING DEVICE, INFORMATION SIGNAL PROCESSING METHOD, IMAGE PROCESSING DEVICE USING THE SAME, IMAGE PROCESSING METHOD, PROGRAM FOR EXECUTING INFORMATION SIGNAL PROCESSING METHOD OR IMAGE PROCESSING METHOD, AND COMPUTER-READABLE MEDIUM CONTAINING THE PROGRAM | |
JP4691814B2 (en) | Information signal processing apparatus, information signal processing method, and recording medium | |
JP4692798B2 (en) | Information signal processing device, information signal processing method, image signal processing device, image display device using the same, and recording medium | |
JP4649812B2 (en) | Image signal processing apparatus, image signal processing method and image display apparatus using the same, program for executing each image signal processing method, and computer-readable medium storing the program | |
JP4691849B2 (en) | Coefficient data generating apparatus and generating method, information signal processing apparatus and processing method using the same, and information acquiring apparatus and acquiring method used therefor | |
JP4513025B2 (en) | Information signal processing apparatus, processing method, and program | |
JP4055487B2 (en) | Image signal processing apparatus and processing method, coefficient seed data generating apparatus and generating method used therefor, coefficient data generating apparatus and generating method, program for executing each method, and computer-readable recording of the program Medium | |
JP4692801B2 (en) | Coefficient data generating apparatus and generating method, information signal processing apparatus and processing method using the same, and coefficient information generating apparatus and generating method used therefor | |
JP2003224830A (en) | Information signal processing apparatus, information signal processing method, image display apparatus, generating apparatus and generating method for coefficient type data used therefor, generating apparatus and generating method for coefficient data, program for executing each method, and computer- readable medium recorded with the program | |
JP2004140559A (en) | Contents processing apparatus, its method, recording medium, and program | |
JP2006067346A (en) | Image signal processing apparatus and image signal processing method, and program and medium for recording the same |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20060510 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061027 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081125 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090421 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090608 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090630 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090713 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120731 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120731 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130731 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |