JP2009171023A - Image quality evaluation apparatus, image quality evaluation method, program for image quality evaluation, and video reception terminal - Google Patents

Image quality evaluation apparatus, image quality evaluation method, program for image quality evaluation, and video reception terminal Download PDF

Info

Publication number
JP2009171023A
JP2009171023A JP2008004415A JP2008004415A JP2009171023A JP 2009171023 A JP2009171023 A JP 2009171023A JP 2008004415 A JP2008004415 A JP 2008004415A JP 2008004415 A JP2008004415 A JP 2008004415A JP 2009171023 A JP2009171023 A JP 2009171023A
Authority
JP
Japan
Prior art keywords
region
image
interest
information
image quality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008004415A
Other languages
Japanese (ja)
Inventor
Kaori Sugiyama
香織 杉山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2008004415A priority Critical patent/JP2009171023A/en
Publication of JP2009171023A publication Critical patent/JP2009171023A/en
Pending legal-status Critical Current

Links

Abstract

<P>PROBLEM TO BE SOLVED: To calculate an image quality degradation degree close to subjective evaluation from received video encoded data only. <P>SOLUTION: When deciding that data of which decoding processing is performed include a discontinuous point, a degraded area detection part 172 specifies input data from the discontinuous point to the next decoding processing synchronous position, generates information relating to an image area wherein image quality is degraded by the influence of the discontinuous point as the result of the decoding processing as degraded area information, and outputs it to a degraded area importance degree calculation part 173. The degraded area importance degree calculation part 173 calculates an importance degree according to subjectivity on the image frame of a degraded area from the degraded area information received from the degraded area detection part 172, and notifies an image quality degradation degree calculation part 174 of the degraded area information and the importance degree. The image quality degradation degree calculation part 174 calculates an image quality degradation degree on the basis of the degraded area information and the importance degree of the degraded area calculated in the degraded area importance degree calculation part 173 for each degraded area detected in the degraded area detection part 172, and outputs the image quality degradation degree to the outside. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は画質評価装置、画質評価方法、画質評価用プログラム、及び映像受信端末に係り、特に伝送した映像の受信時点の画質を客観的に評価する画質評価装置、画質評価方法、画質評価用プログラム、及び映像受信端末に関する。 The present invention relates to an image quality evaluation apparatus, an image quality evaluation method, an image quality evaluation program, and a video reception terminal, and more particularly to an image quality evaluation apparatus, an image quality evaluation method, and an image quality evaluation program for objectively evaluating the image quality at the time of reception of transmitted video. And a video receiving terminal.

映像の画質を客観的に評価する方法は、大きく3種類に分類される(例えば、非特許文献1参照)。一つ目の方法は、原画像と劣化画像とを直接比較し画質を評価する方法(Full Reference法)である。二つ目の方法は、原画像の特徴量のみを伝送し、この特徴量と劣化画像から画質を評価する方法(Reduced Reference法)である。三つ目の方法は、劣化画像のみから画質を評価する方法(No Reference法)である。   Methods for objectively evaluating video image quality are roughly classified into three types (for example, see Non-Patent Document 1). The first method is a method (Full Reference method) in which an original image and a deteriorated image are directly compared to evaluate image quality. The second method is a method (Reduced Reference method) in which only the feature amount of the original image is transmitted and the image quality is evaluated from the feature amount and the degraded image. The third method is a method (No Reference method) for evaluating the image quality only from the degraded image.

映像の伝送を伴うアプリケーションでは、伝送路帯域に上限があり、原画像の伝送が困難であるため、受信端末上でFull Reference法を用いることは適当でない。また、Reduced Reference法では、原画像の特徴量を多重化もしくは別の伝送路経由で伝送する必要がある。従って、Reduced Reference法を導入するためには、送信装置や伝送路を含むすべてのシステムを置換する必要が生じるので、新規運用が難しいという問題がある。一方、No Reference法では、原画像の情報を一切必要とせず、導入のために受信装置の置換のみが必要となるだけであるので、新規運用が容易であるという利点がある。   In an application involving video transmission, there is an upper limit on the transmission path band and it is difficult to transmit the original image, so it is not appropriate to use the Full Reference method on the receiving terminal. In the reduced reference method, it is necessary to multiplex or transmit the feature quantity of the original image via another transmission path. Therefore, in order to introduce the reduced reference method, it is necessary to replace all systems including the transmission device and the transmission path, and thus there is a problem that new operation is difficult. On the other hand, the No Reference method does not require any information on the original image, and only requires replacement of the receiving device for introduction, so that there is an advantage that new operation is easy.

No Reference法により画質を評価する画質評価装置が開示されている(例えば、特許文献1参照)。この特許文献1に記載された画質評価装置では、伝送路からデータを受信した受信装置が、この入力データをデコーダに送信すると同時に、この入力データにエラーが含まれているか否かを示す信号も併せてデコーダに送信し、そのデコーダが復号処理の過程でデータの不正を検知できるようにしている。   An image quality evaluation apparatus that evaluates image quality by the No Reference method is disclosed (for example, see Patent Document 1). In the image quality evaluation apparatus described in Patent Document 1, a receiving apparatus that receives data from a transmission path transmits this input data to a decoder, and at the same time, a signal indicating whether or not the input data includes an error. At the same time, the data is transmitted to a decoder so that the decoder can detect data fraud during the decoding process.

この特許文献1に記載された画質評価装置では、パケットロスやビットエラー、遅延などの伝送エラーが発生した場合は、入力データを破棄すると同時に、次の復号処理同期位置までデータを読み飛ばす。そして、この画質評価装置では、前記入力データの破棄により正しく復号できなかったサンプル数(画素数や複数画素から構成されるブロック数)を集計し、画質劣化度として出力する。   In the image quality evaluation apparatus described in Patent Document 1, when a transmission error such as a packet loss, a bit error, or a delay occurs, the input data is discarded and the data is skipped to the next decoding processing synchronization position. In this image quality evaluation apparatus, the number of samples (number of pixels or the number of blocks composed of a plurality of pixels) that could not be correctly decoded due to the discarding of the input data is totaled and output as the degree of image quality degradation.

ITU-T Recommendation J.143,「User requirements for objective perceptual video quality measurements in digital cable television」,2000ITU-T Recommendation J.143, `` User requirements for objective perceptual video quality measurements in digital cable television '', 2000 特開2001−25014号公報Japanese Patent Laid-Open No. 2001-25014

しかしながら、特許文献1の画質評価装置では、画質を評価する基準である画質劣化度を、単純に正しく復号できなかったサンプル数を集計して算出するのみの構成であるため、ユーザの主観評価に近い画質劣化度を算出することができないという問題がある。   However, the image quality evaluation apparatus disclosed in Patent Document 1 is configured to simply calculate the degree of image quality degradation, which is a reference for evaluating image quality, by summing up the number of samples that could not be correctly decoded. There is a problem that it is not possible to calculate a near image quality degradation degree.

その理由は、例えば、画面の中央部に画質劣化が発生した場合と、画面の周辺部に画質劣化が発生した場合とを比較すると、正しく復号できなかったサンプル数が同数であっても、実際にユーザが映像を見た場合、画面中央部に画質劣化が発生した場合のほうがより画質が悪く感じられるなど、画面上のユーザが注目する部分に画質劣化が発生した場合の方がより画質が悪く感じられるにも拘らず、そのユーザの主観評価を画質劣化に反映できないためである。   The reason is that, for example, when image quality deterioration occurs in the center of the screen and when image quality deterioration occurs in the periphery of the screen, even if the number of samples that could not be decoded correctly is the same, When the user views the video, the image quality is worse when the image quality deterioration occurs in the center of the screen. This is because the user's subjective evaluation cannot be reflected in the image quality deterioration even though it is felt bad.

本発明は上記の点に鑑みなされたもので、受信した映像のみから主観評価により近い画質劣化度を算出し得る画質評価装置、画質評価方法、画質評価用プログラム、及び映像受信端末を提供することを目的とする。   The present invention has been made in view of the above points, and provides an image quality evaluation apparatus, an image quality evaluation method, an image quality evaluation program, and a video reception terminal capable of calculating an image quality degradation level closer to subjective evaluation from only received video. With the goal.

上記の目的を達成するため、第1の発明に係る画質評価装置は、画質の評価対象の画像符号化データを、データ欠落又はデータ誤りによる不連続位置を示す不連続位置情報と共に入力として受け、画像符号化データを復号して画像データを生成する際に、不連続位置情報に基づいて、画像符号化データ中の不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定し、その特定した画像符号化データの影響を受ける画像領域を劣化領域として検出する劣化領域検出手段と、少なくとも劣化領域検出手段により検出された劣化領域の情報に基づいて、その劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する画質劣化度算出手段と、を有することを特徴とする。   In order to achieve the above object, the image quality evaluation apparatus according to the first aspect of the present invention receives image encoded data to be evaluated for image quality as an input together with discontinuous position information indicating a discontinuous position due to data loss or data error, When decoding image encoded data to generate image data, an image between a discontinuous point in the image encoded data and a decoding process synchronization position that is a position that can be correctly decoded based on the discontinuous position information Based on the information on the degradation area detected by the degradation area detection means that identifies the coded data portion and detects the image area affected by the identified image coding data as the degradation area, and at least the degradation area detection means, Image quality deterioration degree calculating means for calculating an image quality deterioration degree indicating an index of the conspicuousness of the image quality deterioration due to the deteriorated area.

また、上記の目的を達成するため、第2の発明に係る画質評価方法は、画質の評価対象の画像符号化データを、データ欠落又はデータ誤りによる不連続位置を示す不連続位置情報と共に入力として受け、画像符号化データを復号して画像データを生成する際に、不連続位置情報に基づいて、画像符号化データ中の不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定する第1のステップと、特定した画像符号化データの影響を受ける画像領域を劣化領域として検出する第2のステップと、少なくとも第2のステップにより検出された劣化領域の情報に基づいて、その劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する第3のステップと、を含むことを特徴とする。   In order to achieve the above object, the image quality evaluation method according to the second invention uses the encoded image data to be evaluated as an input together with the discontinuous position information indicating the discontinuous position due to data loss or data error. When decoding the encoded image data and generating the image data, based on the discontinuous position information, the interval from the discontinuous point in the encoded image data to the decoding process synchronization position, which is a correct decodable position A first step of specifying the image encoded data portion of the image, a second step of detecting an image region affected by the specified image encoded data as a deteriorated region, and a deteriorated region detected by at least the second step And a third step of calculating an image quality deterioration degree indicating an index of the conspicuousness of the image quality deterioration due to the deteriorated area based on the information of the above.

また、上記の目的を達成するため、第3の発明に係る画質評価用プログラムは、コンピュータにより画像符号化データを復号して得た画像フレームの画質を評価させる画質評価用プログラムであって、上記コンピュータに、
画像符号化データを、データ欠落又はデータ誤りによる不連続位置を示す不連続位置情報と共に入力として受け、画像符号化データを復号して画像データを生成する際に、不連続位置情報に基づいて、画像符号化データ中の不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定する第1のステップと、特定した画像符号化データの影響を受ける画像領域を劣化領域として検出する第2のステップと、少なくとも第2のステップにより検出された劣化領域の情報に基づいて、その劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する第3のステップと、を実行させることを特徴とする。
In order to achieve the above object, an image quality evaluation program according to a third invention is an image quality evaluation program for evaluating the image quality of an image frame obtained by decoding image encoded data by a computer, On the computer,
When receiving encoded image data as an input together with discontinuous position information indicating a discontinuous position due to data loss or data error, and decoding the encoded image data to generate image data, based on the discontinuous position information, A first step of specifying an image encoded data portion between a discontinuous point in the image encoded data and a decoding processing synchronization position that is a position that can be correctly decoded; and an image affected by the specified image encoded data Based on the second step of detecting an area as a deteriorated area and at least information on the deteriorated area detected by the second step, an image quality deterioration degree indicating an index of conspicuousness of image quality deterioration due to the deteriorated area is calculated. And performing the third step.

更に、上記の目的を達成するため、第4の発明に係る映像受信端末は、映像配信サーバから伝送路を介して画質の評価対象の画像符号化データを含むデータを入力として受けて受信処理を行う映像受信端末であって、伝送路を介して入力されたデータを受信して画像符号化データを生成する入力データ生成部と、画像符号化データにおけるデータ欠落又はデータ誤りによる不連続点を検出し、その不連続点の画像符号化データ中の位置を表す不連続位置情報を生成する不連続情報生成部と、画像符号化データと不連続位置情報とを入力として受け、画像符号化データを復号して得られる画像フレームの画質劣化度を算出する画質評価部とを有し、上記画質評価部を上記第1の発明の構成としたことを特徴とする。   Furthermore, in order to achieve the above object, a video receiving terminal according to a fourth aspect of the present invention receives data including image encoded data subject to image quality evaluation from a video distribution server via a transmission path as input, and performs reception processing. An input data generation unit that receives data input via a transmission line and generates encoded image data, and detects discontinuous points due to data loss or data errors in the encoded image data The discontinuous information generating unit that generates discontinuous position information representing the position of the discontinuous point in the image encoded data, the image encoded data and the discontinuous position information are received as input, and the image encoded data is received. And an image quality evaluation unit for calculating the image quality degradation degree of the image frame obtained by decoding, wherein the image quality evaluation unit is configured as in the first invention.

本発明によれば、正しく復号できなかったデータサンプル数を単純に加算し劣化領域の大きさのみから画質劣化度を算出する場合と比較して、より主観評価に近い画質劣化度を算出して、より主観評価に近い画質評価ができる。   According to the present invention, the degree of image quality degradation closer to subjective evaluation is calculated as compared to the case of simply adding the number of data samples that could not be decoded correctly and calculating the degree of image quality degradation only from the size of the degraded area. Therefore, image quality evaluation closer to subjective evaluation can be performed.

次に、本発明を実施するための最良の形態の各例について図面を参照して詳細に説明する。   Next, each example of the best mode for carrying out the present invention will be described in detail with reference to the drawings.

(第1の実施形態)
図1は、本発明の画質評価装置の第1の実施形態を備えた映像受信端末のブロック図を示す。図1に示すように、映像受信端末100は、伝送路110から圧縮された画像符号化データを受信する受信部120と、入力データ生成部130と、入力データバッファ140と、不連続位置情報バッファ160と、画質評価部170Aとを有する。入力データ生成部130は、不連続位置情報生成部150を有する。画質評価部170Aは、本発明の画質評価装置の第一の実施形態を構成しており、復号処理部171と、劣化領域重要度算出部173と、画質劣化度算出部174とを有する。復号処理部171は、劣化領域検出部172を有する。
(First embodiment)
FIG. 1 shows a block diagram of a video receiving terminal equipped with a first embodiment of an image quality evaluation apparatus of the present invention. As shown in FIG. 1, the video receiving terminal 100 includes a receiving unit 120 that receives encoded image data compressed from a transmission path 110, an input data generating unit 130, an input data buffer 140, and a discontinuous position information buffer. 160 and an image quality evaluation unit 170A. The input data generation unit 130 includes a discontinuous position information generation unit 150. The image quality evaluation unit 170A constitutes a first embodiment of the image quality evaluation apparatus of the present invention, and includes a decoding processing unit 171, a deteriorated area importance calculation unit 173, and an image quality deterioration degree calculation unit 174. The decryption processing unit 171 has a deteriorated area detection unit 172.

受信部120は、伝送路110から受信データを受信し入力データ生成部130へ引き渡す。受信データには映像データを圧縮した画像符号化データが含まれている。入力データ生成部130は、受信部120から受け取った受信データから画像符号化データを取り出し、つなぎ合わせたビット列を入力データとして生成し、その入力データを入力データバッファ140に供給する。   The receiving unit 120 receives received data from the transmission path 110 and passes it to the input data generating unit 130. The received data includes encoded image data obtained by compressing video data. The input data generation unit 130 extracts encoded image data from the reception data received from the reception unit 120, generates a joined bit string as input data, and supplies the input data to the input data buffer 140.

具体的には、図2を参照すると、伝送路110がIP(Internet Protocol)ネットワークであり、受信データがIPヘッダhi(iは受信順序を示す番号)と画像符号化データdiとからなるIPパケット200である場合、入力データ生成部130は、予め定められた規則により、順次に受信される受信データのIPパケット200からIPヘッダhiを取り除き、IPパケット200内の画像符号化データdiをつなぎ合わせた上で入力データバッファ140に入力する。   Specifically, referring to FIG. 2, the transmission path 110 is an IP (Internet Protocol) network, and the received data is an IP packet including an IP header hi (i is a number indicating the receiving order) and image encoded data di. In the case of 200, the input data generation unit 130 removes the IP header hi from the IP packet 200 of the received data sequentially received according to a predetermined rule, and joins the encoded image data di in the IP packet 200. Then, the data is input to the input data buffer 140.

このとき、伝送エラーや遅延により例えば、図2に203で示すパケットが欠落した場合、入力データ生成部130は、この欠落したパケットの前後のパケットの画像符号化データd3、d5をつなげたデータを生成して入力データバッファ140に供給するため、入力データバッファ140に格納されたデータには、欠落したパケット203の画像符号化データd4が存在せず、データの不連続点204が存在する。同様に、受信したデータのうち、あるビットが伝送の途中で誤った値となった場合には、その誤った値の画像符号化データ部分は不連続点となる。   At this time, for example, when a packet indicated by 203 in FIG. 2 is lost due to a transmission error or delay, the input data generation unit 130 uses data obtained by connecting the image encoded data d3 and d5 of the packets before and after the lost packet. Since the data is generated and supplied to the input data buffer 140, the data stored in the input data buffer 140 does not include the image encoded data d4 of the missing packet 203, and includes a data discontinuity point 204. Similarly, when a certain bit of received data has an incorrect value during transmission, the image encoded data portion of the incorrect value becomes a discontinuous point.

図1に示す不連続位置情報生成部150は、入力データ生成部130において受信データから入力データを生成する過程で、データの不連続点がないか検査を行い、不連続点が存在する場合、その不連続点の位置を示す不連続位置情報を生成して、この不連続位置情報を不連続位置情報バッファ160に供給する。   In the process of generating input data from received data in the input data generation unit 130, the discontinuous position information generation unit 150 shown in FIG. 1 checks whether there is a discontinuity point in the data. Discontinuous position information indicating the position of the discontinuous point is generated, and the discontinuous position information is supplied to the discontinuous position information buffer 160.

不連続位置情報生成部150は、例えば、受信データがRTP(Real-time Transport Protocol)パケット化されたデータである場合は、RTPヘッダ中のRTP番号を検査することでパケットの欠落を検出し、データの不連続位置を把握できる。また、ビット列中のエラーについては、巡回冗長検査やチェックサムのようなビット列の検査を行うことで検出することができ、エラーが存在するパケットを欠落パケットとすることで、データの不連続位置を把握できる。   For example, when the received data is RTP (Real-time Transport Protocol) packetized data, the discontinuous position information generation unit 150 detects a missing packet by checking the RTP number in the RTP header, Can grasp the discontinuous position of data. An error in a bit string can be detected by performing a bit string check such as a cyclic redundancy check or a checksum, and a discontinuous position of data can be determined by making a packet with an error a missing packet. I can grasp.

データの不連続位置の表現方法としては、例えば直前に入力データバッファ140に入力されたデータの先頭からのビット数で不連続位置を表してもよいし、最初に入力されたデータからのビット数で不連続位置を表してもよい。また、ここに記載した方法以外の方法を用いて不連続位置を表現してもよい。   As a method for expressing the discontinuous position of data, for example, the discontinuous position may be represented by the number of bits from the beginning of the data input to the input data buffer 140 immediately before, or the number of bits from the first input data. May represent discontinuous positions. Moreover, you may express a discontinuous position using methods other than the method described here.

また、不連続位置情報生成部150は、受信データに不連続点が存在しない場合は、不連続位置情報バッファ160に情報を出力しないか、あるいは、入力データに不連続が存在しないことを示す情報を不連続位置情報バッファ160に供給するようにしてもよい。   Also, the discontinuous position information generation unit 150 does not output information to the discontinuous position information buffer 160 when there is no discontinuous point in the received data, or information indicating that there is no discontinuity in the input data May be supplied to the discontinuous position information buffer 160.

復号処理部171は、入力データバッファ140に格納された入力データを復号する。復号処理部171は、一度に1映像フレーム分のデータを復号するのではなく、より細かい単位毎、すなわちマクロブロックやスライスといった1画像フレームよりも小さなデータの集まり毎に復号処理を行う。復号処理された画像データは映像受信端末100に接続された図示しない表示装置などに出力する。ここで、上記のマクロブロックは、符号化・復号化処理を行う際の基本単位で、横方向16画素と縦方向16画素とからなる矩形の画像領域の画像圧縮データを含む。複数のマクロブロックを纏めたものをスライスと呼ぶ。   The decoding processing unit 171 decodes the input data stored in the input data buffer 140. The decoding processing unit 171 does not decode data for one video frame at a time, but performs decoding processing for each smaller unit, that is, for each collection of data smaller than one image frame such as a macroblock or slice. The decoded image data is output to a display device (not shown) connected to the video receiving terminal 100. Here, the above macroblock is a basic unit for performing the encoding / decoding processing, and includes image compression data of a rectangular image area composed of 16 pixels in the horizontal direction and 16 pixels in the vertical direction. A group of a plurality of macroblocks is called a slice.

劣化領域検出部172は、復号処理されたデータが不連続点を含むと判定した場合に、この不連続点から次の復号処理同期位置までの間の入力データを特定し、復号処理の結果、この不連続点の影響により画質が劣化した画像領域に関する情報を劣化領域情報として生成し、劣化領域重要度算出部173に出力する。   When it is determined that the decoded data includes a discontinuous point, the degradation region detection unit 172 specifies input data from the discontinuous point to the next decoding processing synchronization position, Information relating to an image area whose image quality has deteriorated due to the influence of the discontinuous points is generated as degraded area information, and is output to the degraded area importance calculation unit 173.

ここで、上記の劣化領域情報は、具体的には正しく復号できなかった画素やマクロブロックなどの個数などにより表現される劣化領域サイズ、前記画素やマクロブロックの画像フレーム上の座標位置などにより表現される位置情報、前記画素やマクロブロックの色情報、前記マクロブロックに対応する動きベクトルの大きさなどの情報から構成される情報である。   Here, the above-described degraded area information is specifically represented by the degraded area size expressed by the number of pixels or macroblocks that could not be decoded correctly, the coordinate positions of the pixels or macroblocks on the image frame, and the like. Position information, color information of the pixels and macroblocks, and information such as the magnitudes of motion vectors corresponding to the macroblocks.

また、復号処理部171は、データの不連続点の影響により正しく復号できなかった画素やマクロブロックを予測信号として後続の画像フレームの復号処理を行うことがある。このとき、正しく復号できなかった画素やマクロブロックを予測信号として復号された画像領域も画質が劣化する。劣化領域検出部172は、さらに、このような画像領域も劣化領域とみなしてもよい。   In addition, the decoding processing unit 171 may perform decoding processing of subsequent image frames using a pixel or macroblock that cannot be correctly decoded due to the influence of data discontinuity as a prediction signal. At this time, the image quality of an image area decoded using a pixel or macroblock that could not be decoded correctly as a prediction signal also deteriorates. The deteriorated area detection unit 172 may further consider such an image area as a deteriorated area.

劣化領域重要度算出部173は、劣化領域検出部172から受け取った劣化領域情報から劣化領域の画像フレーム上での重要度を算出し、劣化領域情報及び重要度を画質劣化度算出部174に通知する。この重要度は、劣化領域のある画像フレーム上で、その劣化領域がどの程度目立ち易いかの割合を示す。   The deteriorated area importance calculator 173 calculates the importance of the deteriorated area on the image frame from the deteriorated area information received from the deteriorated area detector 172, and notifies the image quality deterioration degree calculator 174 of the deteriorated area information and importance. To do. This importance indicates the ratio of how easily the deteriorated area is noticeable on an image frame having the deteriorated area.

一例として、劣化領域の位置をもとに劣化領域の重要度を算出する方法を以下に説明する。   As an example, a method for calculating the importance of a deteriorated area based on the position of the deteriorated area will be described below.

劣化領域重要度算出部173は、データの不連続により正しく復号できなかったマクロブロックの数及び各マクロブロックの画像フレーム上の座標情報を劣化領域情報として劣化領域検出部172から受け取る。劣化領域重要度算出部173は、各マクロブロックの位置情報から劣化領域の重心の座標位置を算出し、その重心の座標位置が画面中央からの距離が近いほど重要度が高く、画面中央からの距離が遠いほど重要度が低くなるよう重要度の重み付けを行う。これは、画面中央部に劣化があった場合、画面の周辺部に劣化があった場合よりも画質の劣化が目立つことから、劣化領域の重要度を高くするためである。   The degraded region importance calculation unit 173 receives from the degraded region detection unit 172 as degraded region information the number of macroblocks that could not be decoded correctly due to data discontinuity and the coordinate information on the image frame of each macroblock. The deteriorated area importance calculation unit 173 calculates the coordinate position of the center of gravity of the deteriorated area from the position information of each macroblock, and the importance is higher as the distance from the center of the screen is closer to the center of the coordinate position. The importance is weighted so that the importance decreases as the distance increases. This is because the deterioration of the image quality is more conspicuous when there is deterioration in the center of the screen than when there is deterioration in the peripheral portion of the screen.

より具体的には、画面中央から劣化領域の重心までの距離の逆数によって当該劣化領域の重要度を算出する。例えば、図3において、画像フレーム301の劣化領域Aの画像の中心からの距離はsである。このとき、劣化領域Aの重要度を1/sとする。同様に、画像フレーム302の劣化領域Bの重要度を1/t、画像フレーム303の劣化領域Cの重要度を1/u、劣化領域Dの重要度を1/vとする。   More specifically, the degree of importance of the deteriorated area is calculated from the reciprocal of the distance from the center of the screen to the center of gravity of the deteriorated area. For example, in FIG. 3, the distance from the center of the image of the degraded area A of the image frame 301 is s. At this time, the importance of the degradation area A is set to 1 / s. Similarly, the importance of the degraded area B of the image frame 302 is 1 / t, the importance of the degraded area C of the image frame 303 is 1 / u, and the importance of the degraded area D is 1 / v.

ただし、劣化領域重要度算出部173における重要度の算出方法として、具体例では、画像フレームの中央から劣化領域の重心までの距離の逆数を重要度としたが、劣化領域情報に含まれる位置情報をパラメータとしたその他の関数により重要度を算出することも可能である。   However, as a method of calculating importance in the deteriorated region importance calculating unit 173, in the specific example, the reciprocal of the distance from the center of the image frame to the center of gravity of the deteriorated region is used as the importance, but the position information included in the deteriorated region information It is also possible to calculate the importance by other functions using as a parameter.

また、劣化領域の位置のほかに、肌色部分や目立つ色の特定の色の画素やマクロブロックが劣化領域に含まれる場合、動きベクトルの大きさがより大きい値をもつマクロブロックが劣化領域に含まれる場合、周辺の画素やマクロブロックと比較して色が大きく色が異なる画素やマクロブロックが劣化領域に含まれる場合、重要度をより高い値で算出することも可能である。   In addition to the position of the degraded area, if the degraded area includes a flesh-colored part or a pixel of a specific color or macro block that stands out, the degraded area includes a macroblock with a larger motion vector size. In the case where a pixel or macroblock having a color that is larger than that of the surrounding pixel or macroblock and that has a different color is included in the degraded region, the importance can be calculated with a higher value.

図1に示す画質劣化度算出部174は、劣化領域検出部172で検出された各劣化領域に対して、劣化領域情報及び劣化領域重要度算出部173で算出された劣化領域の重要度をもとに劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出し、その画質劣化度を外部に出力する。   The image quality degradation degree calculation unit 174 shown in FIG. 1 has the degradation area information and the importance level of the degradation area calculated by the degradation area importance calculation section 173 for each degradation area detected by the degradation area detection unit 172. In addition, an image quality degradation level indicating an index of the conspicuousness of image quality degradation due to the degraded area is calculated, and the image quality degradation level is output to the outside.

例えば、劣化領域重要度算出部173で説明した劣化領域の位置をもとに劣化領域の重要度を算出する方法の場合、画質劣化度算出部174は、劣化領域検出部172で検出された各劣化領域について、劣化領域情報に含まれる劣化領域サイズと、劣化領域重要度算出部173により算出された重要度を積算し、この積算結果を全て足し合わせたものを画質劣化度として算出する。   For example, in the case of the method of calculating the importance level of the degraded area based on the position of the degraded area described in the degraded area importance level calculation unit 173, the image quality degradation level calculation unit 174 includes each of the areas detected by the degraded area detection unit 172. For the deteriorated area, the deteriorated area size included in the deteriorated area information and the importance calculated by the deteriorated area importance calculating unit 173 are integrated, and the sum of all the integration results is calculated as the image quality deterioration degree.

前記の図3に示される具体例では、劣化領域Aの領域の大きさはa、劣化領域重要度は1/sであるため、画像フレーム301の画質劣化度はa/sと算出される。同様にして、劣化領域Bの領域の大きさはa、重要度は1/tであることからこのフレームの画像劣化度はa/tと算出される。   In the specific example shown in FIG. 3, since the size of the degraded area A is a and the degraded area importance is 1 / s, the image quality degradation degree of the image frame 301 is calculated as a / s. Similarly, since the size of the degraded area B is a and the importance is 1 / t, the image degradation level of this frame is calculated as a / t.

画質劣化度算出部174は、劣化領域重要度算出部173で算出した重要度を積算することにより、画像フレーム301の画質劣化度はa/s、画像フレーム302の画質劣化度はa/tと算出する。ここで、画像フレーム301と画像フレーム302の劣化領域の大きさは共にaで同じであるが、劣化領域が視聴者の目につきやすい画面中央部にある画像フレーム301の劣化領域Aの画面中心からの距離sの方が、劣化領域が視聴者の目につきにくい画面の周辺部にある画像フレーム302の劣化領域Bの画面中心からの距離tよりも小さいので、画像フレーム301の画質劣化度a/sは、画像フレーム302の画質劣化度a/tよりも高くなる。   The image quality degradation degree calculation unit 174 integrates the importance calculated by the degradation area importance degree calculation unit 173, whereby the image quality degradation degree of the image frame 301 is a / s and the image quality degradation degree of the image frame 302 is a / t. calculate. Here, the size of the deteriorated area of the image frame 301 and the image frame 302 is the same as a, but the deteriorated area is from the screen center of the deteriorated area A of the image frame 301 in the center of the screen where the deteriorated area is easily noticeable by the viewer. Is smaller than the distance t from the screen center of the degradation area B of the image frame 302 in the peripheral portion of the screen where the degradation area is difficult for the viewer to see. s becomes higher than the image quality degradation degree a / t of the image frame 302.

また、図3の画像フレーム303のように複数の劣化領域C、Dが1画像フレームに存在する場合は、劣化領域Cの領域の大きさはc、重要度は1/u、劣化領域Dの領域の大きさはd、重要度は1/vであるから、画質劣化度算出部174は、画像フレーム303の画質劣化度を(c/u)+(d/v)と算出する。   When a plurality of degraded areas C and D exist in one image frame as in the image frame 303 of FIG. 3, the size of the degraded area C is c, the importance is 1 / u, and the degraded area D Since the size of the area is d and the importance is 1 / v, the image quality deterioration degree calculation unit 174 calculates the image quality deterioration degree of the image frame 303 as (c / u) + (d / v).

なお、画質劣化度の算出方法は、本実施形態に記載した方法に限定されるものではない。劣化領域情報に含まれる値及び重要度をパラメータとした任意の関数としてよい。一例として、画質劣化度算出部174は、算出した画質劣化度を最終的に5段階程度の評価値に丸めて出力するものとしてもよい。   Note that the image quality degradation degree calculation method is not limited to the method described in this embodiment. An arbitrary function using the value and importance included in the degraded area information as parameters may be used. As an example, the image quality deterioration degree calculation unit 174 may finally round the calculated image quality deterioration degree to an evaluation value of about five levels and output it.

次に、本実施形態の動作について図1、図4を参照し、詳細に説明する。   Next, the operation of this embodiment will be described in detail with reference to FIGS.

図1において、映像受信端末100は、受信データの受信を開始すると、受信データを順次、入力データ生成部130に引き渡す。入力データ生成部130は、受信部120から受信データを受け取ると、順次、入力データを生成し入力データバッファ140に格納していく。また、不連続位置情報生成部150は、入力データを検査し、不連続点があった場合は、不連続位置情報を生成し、不連続位置情報バッファ160に格納する。   In FIG. 1, when the video receiving terminal 100 starts receiving received data, the video receiving terminal 100 sequentially delivers the received data to the input data generating unit 130. When the input data generation unit 130 receives the reception data from the reception unit 120, the input data generation unit 130 sequentially generates the input data and stores it in the input data buffer 140. Also, the discontinuous position information generation unit 150 checks the input data, and if there is a discontinuous point, generates discontinuous position information and stores it in the discontinuous position information buffer 160.

映像受信端末100は、画像符号化データを全て受信するまで、上記の動作を継続する。以下、入力データバッファ140及び不連続位置情報バッファ160に、それぞれ入力データ、不連続位置情報が格納された状態であるとして、図1のブロック図及び図4のフローチャートを併せ参照して本実施形態の画質評価部170Aの動作について詳細に説明する。   The video receiving terminal 100 continues the above operation until all the encoded image data is received. Hereinafter, it is assumed that input data and discontinuous position information are stored in the input data buffer 140 and the discontinuous position information buffer 160, respectively, and this embodiment is described with reference to the block diagram of FIG. 1 and the flowchart of FIG. The operation of the image quality evaluation unit 170A will be described in detail.

まず、復号処理部171は、入力データバッファ140に格納されている入力データのうち、1フレーム分ずつ、もしくは、予め決められた一定量ずつなど、入力データの一部を取得する(ステップS11)。   First, the decoding processing unit 171 obtains a part of input data such as one frame or a predetermined amount among input data stored in the input data buffer 140 (step S11). .

次に、劣化領域検出部172は、不連続位置情報バッファ160から、ステップS11で取得した入力データ内に存在する不連続位置情報を、例えばステップS11で取得したデータの先頭からのアドレス(ビット数)などで表現される値として取得する(ステップS12)。   Next, the degradation region detection unit 172 obtains the discontinuity position information existing in the input data acquired in step S11 from the discontinuity position information buffer 160, for example, the address (number of bits) from the head of the data acquired in step S11. ) Or the like (step S12).

続いて、復号処理部171は、ステップS11で取得した入力データを、マクロブロック単位で復号を開始する(ステップS13)。このとき、劣化領域検出部172は、ステップS12で取得した不連続情報を基に、復号処理しているデータが不連続点を含むか否かを判定する(ステップS14)。   Subsequently, the decoding processing unit 171 starts decoding the input data acquired in step S11 in units of macroblocks (step S13). At this time, the degradation region detection unit 172 determines whether or not the data being decoded includes a discontinuity point based on the discontinuity information acquired in step S12 (step S14).

劣化領域検出部172により、復号処理部171で復号処理しているデータが不連続点を含むと判定された場合(ステップS14においてYes)、復号処理部171は取得した入力データを次の復号処理同期位置まで破棄して読み飛ばす(ステップS15)。そして、劣化領域検出部172は、入力データを読み飛ばしたことによって正しく復号できなかった画像領域の情報から劣化領域情報を生成し、劣化領域重要度算出部173に通知する(ステップS16)。   When the degradation region detection unit 172 determines that the data being decoded by the decoding processing unit 171 includes discontinuous points (Yes in step S14), the decoding processing unit 171 performs the next decoding processing on the acquired input data. Discard and skip to the synchronization position (step S15). Then, the deteriorated area detection unit 172 generates deteriorated area information from the information of the image area that could not be correctly decoded due to skipping the input data, and notifies the deteriorated area importance calculation unit 173 (step S16).

次に、復号処理部171は、ステップS16の処理が終了した場合、あるいはステップS14において復号処理したデータが不連続点を含まないと判定された場合(ステップS14においてNo)、1画像フレームの復号が完了したか否かを判定する(ステップS17)。   Next, the decoding processing unit 171 decodes one image frame when the process of step S16 ends or when it is determined that the data decoded in step S14 does not include a discontinuous point (No in step S14). It is determined whether or not is completed (step S17).

復号処理部171は、1画像フレームの復号が完了した場合、復号が完了した画像フレームを表示装置などに出力する(ステップS18)。また、劣化領域重要度算出部173は、劣化領域検出部172からの劣化領域情報を利用して各劣化領域に対する重要度を算出し、劣化領域情報と前記重要度とを画質劣化度算出部174へ通知する(ステップS19)。続いて、画質劣化度算出部174は、ステップS19で通知された劣化領域情報と重要度とに基づいて、当該フレームの画質劣化度を算出し、算出した画質劣化度を外部に出力する(ステップS20)。   When the decoding of one image frame is completed, the decoding processing unit 171 outputs the decoded image frame to a display device (step S18). Further, the deteriorated area importance calculation unit 173 calculates the importance for each deteriorated area using the deteriorated area information from the deteriorated area detection unit 172, and the deteriorated area information and the importance are used as the image quality deterioration degree calculation unit 174. (Step S19). Subsequently, the image quality deterioration degree calculating unit 174 calculates the image quality deterioration degree of the frame based on the deterioration area information and the importance level notified in step S19, and outputs the calculated image quality deterioration degree to the outside (step). S20).

一方、復号処理部171は、ステップS20の処理が終了した場合、あるいはステップS17において1フレームの復号が完了していないと判定した場合、未処理の入力データが残っているかどうかを判定する(ステップS21)。復号処理部171は、未処理の入力データが残っている場合、ステップS13に進んで復号処理を継続する。   On the other hand, the decoding processing unit 171 determines whether or not unprocessed input data remains when the processing of step S20 is completed or when it is determined in step S17 that decoding of one frame has not been completed (step S17). S21). If unprocessed input data remains, the decoding processing unit 171 proceeds to step S13 and continues the decoding process.

復号処理部171は、未処理の入力データが残っていない場合、入力データの末尾かどうかを判定する(ステップS22)。入力データの末尾ではない場合には、ステップS11に戻る。また、入力データの末尾の場合は、画質評価部170Aの処理が終了となる。   If there is no unprocessed input data remaining, the decoding processing unit 171 determines whether the input data is at the end (step S22). If it is not the end of the input data, the process returns to step S11. In the case of the end of the input data, the processing of the image quality evaluation unit 170A ends.

以上のように、本実施形態の画質評価部170Aでは、正しく復号できなかった劣化領域に対し、それぞれの劣化領域の重要度を算出し、これを基に画質劣化度を算出するため、正しく復号できなかったデータサンプル数を単純に加算し劣化領域の大きさのみから画質劣化度を算出する場合と比較してより主観評価に近い画質劣化度を算出することができる。   As described above, the image quality evaluation unit 170A of the present embodiment calculates the importance level of each degraded area for the degraded area that could not be decoded correctly, and calculates the image quality degradation level based on this importance. Compared with the case where the number of data samples that could not be simply added and the image quality deterioration degree calculated only from the size of the deteriorated area, the image quality deterioration degree closer to the subjective evaluation can be calculated.

(第2の実施形態)
次に、本発明の第2の発明を実施するための第2の実施形態について図面を参照して詳細に説明する。
(Second Embodiment)
Next, a second embodiment for carrying out the second invention of the present invention will be described in detail with reference to the drawings.

図5は本発明になる画質評価装置の第2の実施形態のブロック図を示す。本実施形態の画質評価装置は、図1に示した第1の実施形態の画質評価部170Aを画質評価部170Bで置き換えることにより構成される。   FIG. 5 shows a block diagram of a second embodiment of the image quality evaluation apparatus according to the present invention. The image quality evaluation apparatus of the present embodiment is configured by replacing the image quality evaluation unit 170A of the first embodiment shown in FIG. 1 with an image quality evaluation unit 170B.

画質評価部170Bは、復号処理部310と、劣化領域重要度算出部320と、画質劣化度算出部330とから構成される。画質劣化度算出部330は、図1の画質劣化度算出部174と同一である。   The image quality evaluation unit 170 </ b> B includes a decoding processing unit 310, a degraded area importance level calculation unit 320, and an image quality degradation level calculation unit 330. The image quality deterioration degree calculation unit 330 is the same as the image quality deterioration degree calculation unit 174 of FIG.

復号処理部310は、劣化領域検出部311及び関心領域検出部312を備えている。復号処理部310は、図1の復号処理部171と比較すると、図1の劣化領域検出部172と同一構成の劣化領域検出部311を有するが、これに加えて、関心領域検出部312を有する点で異なる。この関心領域検出部312は、復号処理部310が入力データを復号して生成した画像フレーム上の関心領域を検出し、検出した領域の情報を関心領域情報として、劣化領域重要度算出部320へ通知する。   The decoding processing unit 310 includes a deteriorated region detection unit 311 and a region of interest detection unit 312. Compared with the decoding processing unit 171 in FIG. 1, the decoding processing unit 310 includes a deteriorated region detecting unit 311 having the same configuration as the deteriorated region detecting unit 172 in FIG. 1, but additionally includes a region of interest detecting unit 312. It is different in point. The region-of-interest detection unit 312 detects a region of interest on the image frame generated by decoding the input data by the decoding processing unit 310, and uses the detected region information as region-of-interest information to the degraded region importance calculation unit 320. Notice.

関心領域とは、例えば、人物の顔や、スポーツの映像において動くボールやスポーツ選手など画像フレーム内で視聴者が関心を持って注視している可能性が高い領域のことである。このような領域に画質劣化が発生した場合、映像の背景部分など視聴者があまり関心をもたない領域に画質劣化が発生した場合よりも画質はより悪く感じられる。   The region of interest is a region where the viewer is likely to be interested in the image frame, such as a person's face, a moving ball or a sports player in a sports video, for example. When image quality deterioration occurs in such an area, the image quality feels worse than when image quality deterioration occurs in an area that the viewer is not interested in, such as the background portion of the video.

関心領域の検出方法としては、特定の色が密集している画像領域を関心領域として検出してもよい。例えば、肌色と思われる色情報を持つ画素が密集している領域を人物の顔部分であると推定し、関心領域として検出することができる。   As a method of detecting a region of interest, an image region where specific colors are dense may be detected as a region of interest. For example, it is possible to estimate a region where pixels having color information considered to be skin color are dense as a human face portion and detect it as a region of interest.

また、他の画像領域と比較して、動きベクトルの大きさが大きい、もしくは逆に動きベクトルの大きさが小さいマクロブロックが密集している画像領域を関心領域として検出してもよい。例えば、静止した背景に対して、ボールなどのオブジェクトが横切るような映像では、背景部分のマクロブロックの動きベクトルの大きさはほぼ0なのに対して、オブジェクト部分のマクロブロックの動きベクトルの大きさは大きくなるため、動きベクトルの大きなマクロブロックが密集している領域を検出することで、関心領域を検出することができる。   In addition, an image area in which macroblocks having a large motion vector size or a small motion vector size compared to other image areas is dense may be detected as a region of interest. For example, in a video where an object such as a ball crosses against a stationary background, the size of the motion vector of the macroblock in the background portion is almost zero, whereas the size of the motion vector of the macroblock in the object portion is Therefore, the region of interest can be detected by detecting a region where macroblocks having a large motion vector are concentrated.

また、他の画像と比較して、高い周波数成分を持つ画像領域を関心領域として検出してもよい。また、予め圧縮画像データを作成する際に、関心領域情報を生成し、画像データに付与しておき、この情報をもとに関心領域を検出してもよい。   In addition, an image region having a higher frequency component than other images may be detected as a region of interest. Further, when creating compressed image data in advance, the region of interest information may be generated and attached to the image data, and the region of interest may be detected based on this information.

なお、上記の関心領域の検出方法は一例であり、任意の関心領域の検出方法を用いてもよい。   Note that the above method of detecting a region of interest is merely an example, and any method of detecting a region of interest may be used.

また、関心領域情報には、
(1)関心領域を構成する画素やマクロブロックの座標のリスト、関心領域を囲む多角形の頂点の座標のリスト、などで表現される関心領域の位置情報、
(2)関心領域内の画素の色の平均値、関心領域内のマクロブロックの動きベクトルの大きさの平均値、などで表現される関心領域の映像特性を表す情報、
(3)人物・物体・文字など関心領域の種別を示す識別子
のような関心領域の特徴を表す情報が含まれる。
The region of interest information includes
(1) Location information of a region of interest expressed by a list of coordinates of pixels or macroblocks that constitute a region of interest, a list of coordinates of polygon vertices surrounding the region of interest, etc.
(2) Information indicating the video characteristics of the region of interest expressed by the average value of the color of the pixels in the region of interest, the average value of the motion vectors of the macroblocks in the region of interest, etc.
(3) Information representing the feature of the region of interest such as an identifier indicating the type of the region of interest such as a person, an object, or a character is included.

具体的な例としては、図6に示される例において、関心領域検出部312は図6(A)に示す画像フレーム601から肌色の画素が密集している領域を、同図(B)に示すように関心領域602として検出し、関心領域602を構成するマクロブロックの座標位置のリストを関心領域情報として劣化領域重要度算出部320に通知する。   As a specific example, in the example shown in FIG. 6, the region-of-interest detection unit 312 shows an area where flesh-colored pixels are dense from the image frame 601 shown in FIG. In this way, the region of interest 602 is detected, and a list of coordinate positions of macroblocks constituting the region of interest 602 is notified to the deteriorated region importance calculator 320 as region of interest information.

劣化領域重要度算出部320は、劣化領域検出部311から通知された劣化領域情報及び関心領域検出部312から通知された関心領域情報とから劣化領域の画像上での重要度を算出し、劣化領域情報及び重要度を画質劣化度算出部330に通知する。   The deteriorated region importance calculation unit 320 calculates the importance of the deteriorated region on the image from the deteriorated region information notified from the deteriorated region detection unit 311 and the region of interest information notified from the region of interest detection unit 312. The area information and importance level are notified to the image quality degradation level calculation unit 330.

一例として、劣化領域と関心領域の位置関係から重要度を算出する方法を示す。   As an example, a method for calculating the importance from the positional relationship between the deteriorated region and the region of interest is shown.

劣化領域重要度算出部320は、データの不連続により正しく復号できなかったマクロブロックの数及び各マクロブロックの画像フレームでの座標位置のリストを劣化領域情報として劣化領域検出部311から受け取ると共に、関心領域検出部312から関心領域を構成する各マクロブロックの画像フレーム上での座標位置のリストを関心領域情報として受け取る。劣化領域重要度算出部320は、これら劣化領域情報と関心領域情報がそれぞれ示す各座標位置が重複している度合いを重要度として算出する。これは、関心領域上に画質劣化が発生した場合、関心領域以外の部分に画質の劣化があった場合よりも画質の劣化が目立つことから重要度を高くするためである。   The degraded area importance calculation unit 320 receives from the degraded area detection unit 311 as degraded area information a list of the number of macroblocks that could not be decoded correctly due to data discontinuity and the coordinate position in the image frame of each macroblock, and A list of coordinate positions on the image frame of each macro block constituting the region of interest is received as region of interest information from the region of interest detection unit 312. The deteriorated area importance calculation unit 320 calculates the degree of importance of the overlapping of the respective coordinate positions indicated by the deteriorated area information and the interested area information. This is because when the image quality deterioration occurs in the region of interest, the image quality deterioration is more conspicuous than when the image quality deterioration occurs in a portion other than the region of interest.

より具体的に図6に示される例を用いて説明する。劣化領域重要度算出部320は、劣化領域検出部311から通知された画像フレーム601中の劣化領域E及び劣化領域Fのそれぞれに含まれるマクロブロックの座標位置リストから構成される劣化領域情報と、関心領域検出部312から通知された関心領域602を構成するマクロブロックの座標のリストから構成される関心領域情報とを比較し、重複するマクロブロックの数を集計する。そして、集計したマクロブロックの数を各劣化領域に含まれるマクロブロックの総数で正規化することで重複度を算出し、これを重要度とする。図6(A)、(B)に示すように、劣化領域Eは、関心領域602と重複するマクロブロックがないため重要度は「0」となる。劣化領域Fは、関心領域602と全てのマクロブロックが重複するため重要度は「1」となる。ただし、重要度の算出方法は上記の説明に示したものに限らない。   This will be described more specifically using the example shown in FIG. The degraded area importance calculation unit 320 includes degraded area information configured from a coordinate position list of macroblocks included in each of the degraded area E and the degraded area F in the image frame 601 notified from the degraded area detection unit 311; Compared with the region-of-interest information configured from the list of coordinates of the macroblocks constituting the region of interest 602 notified from the region-of-interest detector 312, the number of overlapping macroblocks is counted. Then, the degree of duplication is calculated by normalizing the total number of macroblocks with the total number of macroblocks included in each degradation region, and this is used as the importance. As shown in FIGS. 6A and 6B, the degraded area E has an importance of “0” because there is no macroblock overlapping the area of interest 602. The degree of importance of the degraded region F is “1” because the region of interest 602 and all macroblocks overlap. However, the importance calculation method is not limited to the one described in the above description.

次に、図5のブロック図及び図7のフローチャートを参照して本実施形態の動作について詳細に説明する。図7のフローチャート中、図4のフローチャートと同一処理ステップには同一符号を付し、その説明を省略する。   Next, the operation of this embodiment will be described in detail with reference to the block diagram of FIG. 5 and the flowchart of FIG. In the flowchart of FIG. 7, the same processing steps as those in the flowchart of FIG.

図5及び図7において、復号処理部310による1画像フレームの復号が完了した場合(ステップS17でYes)、関心領域検出部312は、復号が完了した画像フレーム中の関心領域を検出し、関心領域情報を生成して劣化領域重要度算出部320へ通知する(ステップS31)。また、復号処理部310は、復号が完了した画像フレームを表示装置などに出力する(ステップS32)。   5 and FIG. 7, when decoding of one image frame by the decoding processing unit 310 is completed (Yes in step S <b> 17), the region-of-interest detection unit 312 detects a region of interest in the image frame that has been decoded, and Area information is generated and notified to the deteriorated area importance calculator 320 (step S31). In addition, the decoding processing unit 310 outputs the decoded image frame to a display device or the like (step S32).

劣化領域重要度算出部320は、劣化領域検出部311から通知された劣化領域情報及びステップS31で検出された関心領域情報をもとに各劣化領域に対する重要度を算出し、劣化領域情報と算出した重要度を画質劣化度算出部330へ通知する(ステップS33)。   The deteriorated region importance calculation unit 320 calculates importance for each deteriorated region based on the deteriorated region information notified from the deteriorated region detection unit 311 and the region of interest information detected in step S31, and calculates the deteriorated region information. The importance level is notified to the image quality degradation level calculation unit 330 (step S33).

画質劣化度算出部330は、ステップS33で劣化領域重要度算出部320から通知された劣化領域情報と重要度とを利用して当該フレームの画質劣化度を算出し、算出した画質劣化度の情報を外部に出力する(ステップS34)。   The image quality deterioration degree calculation unit 330 calculates the image quality deterioration degree of the frame using the deterioration area information and importance notified from the deterioration area importance degree calculation unit 320 in step S33, and information on the calculated image quality deterioration degree Is output to the outside (step S34).

以上のように、本実施形態では、関心領域を検出し、関心領域情報と劣化領域情報とをもとに重要度を算出することにより、劣化領域情報のみから重要度を算出していた第1の実施形態と比較して、より主観評価に近い画質劣化度を算出することができる。   As described above, in the present embodiment, the importance level is calculated only from the degraded area information by detecting the interested area and calculating the importance level based on the interested area information and the degraded area information. Compared with the embodiment, it is possible to calculate a degree of image quality degradation closer to subjective evaluation.

(第3の実施形態)
次に、本発明の第3の発明を実施するための第3の実施形態について図面を参照して詳細に説明する。
(Third embodiment)
Next, a third embodiment for carrying out the third invention of the present invention will be described in detail with reference to the drawings.

図8は本発明になる画質評価装置の第3の実施形態のブロック図を示す。本実施形態の画質評価装置は、図1に示した第1の実施形態の画質評価部170Aを画質評価部170Cで置き換えることにより構成される。図8中、図1、図5と同一構成部分には同一符号を付し、その説明を省略する。図8に示す本実施の形態の画質評価部170Cは、復号処理部171と、劣化領域重要度算出部320と、画質劣化度算出部330と、関心領域検出部340とから構成される。   FIG. 8 shows a block diagram of a third embodiment of the image quality evaluation apparatus according to the present invention. The image quality evaluation apparatus of the present embodiment is configured by replacing the image quality evaluation unit 170A of the first embodiment shown in FIG. 1 with an image quality evaluation unit 170C. 8, the same components as those in FIGS. 1 and 5 are denoted by the same reference numerals, and the description thereof is omitted. The image quality evaluation unit 170C of the present embodiment illustrated in FIG. 8 includes a decoding processing unit 171, a deteriorated region importance calculation unit 320, an image quality deterioration degree calculation unit 330, and a region of interest detection unit 340.

図8に示す画像評価部170Cは、図5に示した画像評価部170Bと比較した場合、関心領域検出部340を復号処理部の外部に設けた点に特徴がある。これにより、復号処理部171は、図1に示した復号処理部171と同一構成になる。また、関心領域検出部340は、図5に示した画像評価部170B中の復号処理部310内の関心領域検出部312と同一動作を行う。   The image evaluation unit 170C illustrated in FIG. 8 is characterized in that the region of interest detection unit 340 is provided outside the decoding processing unit when compared with the image evaluation unit 170B illustrated in FIG. Thereby, the decoding process part 171 becomes the same structure as the decoding process part 171 shown in FIG. In addition, the region of interest detection unit 340 performs the same operation as the region of interest detection unit 312 in the decoding processing unit 310 in the image evaluation unit 170B illustrated in FIG.

この関心領域検出部340は、復号処理部171から1画像フレーム分のデータが出力された際に、この画像フレームのデータを解析することにより関心領域を検出し、劣化領域重要度算出部320へ通知する。   When the data for one image frame is output from the decoding processing unit 171, the region-of-interest detection unit 340 detects the region of interest by analyzing the data of the image frame, and sends it to the degraded region importance calculation unit 320. Notice.

(第4の実施形態)
次に、本発明の第4の発明を実施するための実施形態について図面を参照して詳細に説明する。
(Fourth embodiment)
Next, an embodiment for carrying out the fourth invention of the present invention will be described in detail with reference to the drawings.

図9は本発明になる画質評価装置の第4の実施形態のブロック図を示す。本実施形態の画質評価装置は、図1に示した第1の実施形態の画質評価部170Aを画質評価部170Dで置き換えることにより構成される。図9中、図5と同一構成部分には同一符号を付してある。   FIG. 9 shows a block diagram of a fourth embodiment of the image quality evaluation apparatus according to the present invention. The image quality evaluation apparatus of the present embodiment is configured by replacing the image quality evaluation unit 170A of the first embodiment shown in FIG. 1 with an image quality evaluation unit 170D. In FIG. 9, the same components as those in FIG.

図9に示すように、本実施の形態の画質評価部170Dは、復号処理部350と、劣化領域重要度算出部320と、画質劣化度算出部330と、関心領域記憶部360とから構成される。関心領域情報記憶部360は、現在復号している画像フレームの直前に復号が完了した1フレームもしくは数フレーム分の画像フレームにおける関心領域情報を記憶する。復号処理部350は、第2の実施形態の復号処理部310の構成と同様であるが、第2の実施形態の関心領域検出部312と動作が若干相違する関心領域検出部351を備えている。   As shown in FIG. 9, the image quality evaluation unit 170D of the present embodiment includes a decoding processing unit 350, a deteriorated region importance calculation unit 320, an image quality deterioration degree calculation unit 330, and a region of interest storage unit 360. The The region-of-interest information storage unit 360 stores region-of-interest information in one or several frames of image frames that have been decoded immediately before the image frame that is currently being decoded. The decoding processing unit 350 has the same configuration as that of the decoding processing unit 310 of the second embodiment, but includes a region of interest detection unit 351 whose operation is slightly different from that of the region of interest detection unit 312 of the second embodiment. .

関心領域検出部351は、第2の実施形態における関心領域検出部312と同様に、画像フレーム上の関心領域を検出し劣化領域重要度算出部320へ通知するが、本実施形態においては、更に、関心領域検出部351は、関心領域の検出に成功したかどうかの判定、及び関心領域情報の保存、関心領域情報の読み出しを行う。   The region-of-interest detection unit 351 detects the region of interest on the image frame and notifies the degradation region importance calculation unit 320 in the same manner as the region-of-interest detection unit 312 in the second embodiment. The region-of-interest detection unit 351 determines whether the region of interest has been successfully detected, stores the region-of-interest information, and reads the region-of-interest information.

関心領域検出部351は、関心領域の検出が成功した場合、検出された関心領域に関する関心領域情報を関心領域記憶部360に保存し、関心領域情報を劣化領域重要度算出部320へ通知する。   When the region of interest detection is successful, the region-of-interest detection unit 351 stores the region-of-interest information regarding the detected region of interest in the region-of-interest storage unit 360, and notifies the region-of-interest information to the degraded region importance degree calculation unit 320.

関心領域検出部351は、データの不連続により、大量の画像符号化データが欠損し、大きく画像が乱れた場合や、画像符号化データに含まれている関心領域情報の部分のデータが欠損した場合には、正常に関心領域の検出ができない場合がある。   The region-of-interest detection unit 351 has lost a large amount of encoded image data due to data discontinuity, and the image is greatly distorted, or the data of the region of interest information included in the encoded image data has been lost. In some cases, the region of interest cannot be detected normally.

関心領域検出部351は、関心領域の検出が正常にできなかった場合、関心領域記憶部360から直前に復号した画像フレームにおける関心領域情報を読み出し、当該フレームの関心領域情報の代替として、劣化領域重要度算出部320に通知する。一般に映像においては隣接した画像フレームの内容は非常に似ているため、ここでは隣接した画像フレームにおける関心領域の情報を代替として利用している。   When the region of interest is not successfully detected, the region-of-interest detection unit 351 reads the region-of-interest information in the image frame decoded immediately before from the region-of-interest storage unit 360, and uses the degraded region as an alternative to the region-of-interest information of the frame. The importance level calculation unit 320 is notified. In general, in an image, the contents of adjacent image frames are very similar, and therefore, information on the region of interest in the adjacent image frames is used as an alternative here.

この際、関心領域検出部351は関心領域の検出が正常にできず代替の関心領域情報であることを劣化領域重要度算出部320へ通知してもよい。   At this time, the region-of-interest detection unit 351 may notify the degradation region importance degree calculation unit 320 that the region of interest cannot be detected normally and the information is alternative region-of-interest information.

また、直前のフレームからシーンチェンジなどにより、大きく映像の内容が変わってしまった場合、直前の画像フレームの関心領域情報を当該フレーム上の関心領域情報の代替として利用することができない場合がある。そこで、関心領域検出部351は、関心領域情報記憶部360に保存されている関心領域情報が当該画像フレームの関心領域情報として代替可能であるかを判定し、代替可能であると判定した場合のみ、関心領域記憶部360に保存されている関心領域情報を劣化領域重要度算出部320へ通知し、代替可能ではない場合は、関心領域が検出できなかったことを劣化領域重要度算出部320へ通知するものとしてもよい。   In addition, when the content of the video is greatly changed due to a scene change or the like from the immediately preceding frame, the region of interest information of the immediately preceding image frame may not be used as a substitute for the region of interest information on the frame. Therefore, the region-of-interest detection unit 351 determines whether the region-of-interest information stored in the region-of-interest information storage unit 360 can be replaced as the region-of-interest information of the image frame, and only when the region-of-interest information is determined to be replaceable. The region-of-interest information stored in the region-of-interest storage unit 360 is notified to the deteriorated region importance level calculating unit 320. If the region of interest information is not replaceable, the fact that the region of interest has not been detected cannot be detected. It is good also as what notifies.

図10を参照して具体例を示す。復号処理部350において、図10(A)に示す画像フレーム1001と、同図(C)に示す画像フレーム1002が順に復号されたものとする。図9の関心領域検出部351は、画像フレーム1001の復号が完了すると、画像フレーム1001の関心領域の検出を行い、検出の成否を判定する。画像フレーム1001の関心領域の検出に成功した場合、図10(C)に示す検出された関心領域1003の関心領域情報を、劣化領域重要度算出部320へ通知すると共に、関心領域情報記憶部360へ保存する。   A specific example is shown with reference to FIG. Assume that the decoding processing unit 350 sequentially decodes the image frame 1001 shown in FIG. 10A and the image frame 1002 shown in FIG. When the decoding of the image frame 1001 is completed, the region-of-interest detection unit 351 in FIG. 9 detects the region of interest in the image frame 1001 and determines whether the detection is successful. When the region of interest in the image frame 1001 is successfully detected, the region-of-interest information of the detected region of interest 1003 shown in FIG. Save to

次に、関心領域検出部351は、画像フレーム1002の復号が完了すると、画像フレーム1002の関心領域の検出を行い、同様に検出の成否を判定する。図10(C)に示す画像フレーム1002の劣化領域Gの劣化がひどく、同図(D)に示すように関心領域1004の検出が正常にできなかった場合、関心領域検出部351は保存されている直前の画像フレーム1001で検出された関心領域1003の関心領域情報を関心領域記憶部360から読み出し、これを劣化領域重要度算出部320へ通知する。劣化領域重要度算出部320は、画像フレーム1002の劣化領域Gの重要度を劣化領域Gの劣化領域情報及び画像フレーム1001の関心領域情報を基に算出する。   Next, when the decoding of the image frame 1002 is completed, the region-of-interest detection unit 351 detects the region of interest in the image frame 1002 and similarly determines the success or failure of the detection. If the degradation region G of the image frame 1002 shown in FIG. 10C is severely degraded and the region of interest 1004 cannot be detected normally as shown in FIG. 10D, the region of interest detection unit 351 is stored. The region-of-interest information of the region of interest 1003 detected in the immediately preceding image frame 1001 is read from the region-of-interest storage unit 360, and this is notified to the deteriorated region importance calculation unit 320. The deteriorated region importance calculation unit 320 calculates the importance of the deteriorated region G of the image frame 1002 based on the deteriorated region information of the deteriorated region G and the region of interest information of the image frame 1001.

次に、図9のブロック図及び図11のフローチャートを併せ参照して本実施形態の動作について詳細に説明する。図11中、図7と同一処理ステップには同一符号を付し、その説明を省略する。   Next, the operation of this embodiment will be described in detail with reference to the block diagram of FIG. 9 and the flowchart of FIG. In FIG. 11, the same processing steps as those in FIG. 7 are denoted by the same reference numerals, and the description thereof is omitted.

図9の復号処理部350は、復号が完了した画像フレームを表示装置などに出力した後(ステップS32)、関心領域検出部351において関心領域が正常に検出できたかどうか判定する(ステップS41)。関心領域が正常に検出できた場合(ステップS41でYes)は、検出した関心領域情報を劣化領域重要度算出部320へ通知すると共に、関心領域記憶部360に保存し(ステップS43)、ステップS44へ進む。   The decoding processing unit 350 of FIG. 9 determines whether or not the region of interest has been normally detected by the region of interest detection unit 351 after outputting the image frame that has been decoded to a display device (step S32) (step S41). If the region of interest can be detected normally (Yes in step S41), the detected region-of-interest information is notified to the deteriorated region importance calculation unit 320 and stored in the region of interest storage unit 360 (step S43), and step S44. Proceed to

一方、関心領域の検出が正常にできなかった場合(ステップS41でNo)、関心領域記憶部360に保存されている直前の画像フレームにおいて検出された関心領域の関心領域情報を読み出し、復号が完了した画像フレームの関心領域情報の代替として劣化領域重要度算出部320へ通知する(ステップS42)。   On the other hand, when the region of interest cannot be detected normally (No in step S41), the region-of-interest information of the region of interest detected in the immediately preceding image frame stored in the region of interest storage unit 360 is read and decoding is completed. As a substitute for the region-of-interest information of the image frame, the degradation region importance calculation unit 320 is notified (step S42).

劣化領域重要度算出部320は、劣化領域検出部311から通知された劣化領域情報と、ステップS31で正常に検出された関心領域情報、又はステップS42で読み出された関心領域記憶部360に保存されている直前の画像フレームにおいて検出された関心領域の関心領域情報とに基づいて、各劣化領域に対する重要度を算出し、劣化領域情報と算出した重要度を画質劣化度算出部330へ通知する(ステップS44)。   The deteriorated region importance calculation unit 320 stores the deteriorated region information notified from the deteriorated region detection unit 311 and the region of interest information normally detected in step S31 or the region of interest storage unit 360 read in step S42. Based on the region-of-interest information of the region of interest detected in the immediately preceding image frame, the importance for each deteriorated region is calculated, and the deteriorated region information and the calculated importance are notified to the image quality deterioration calculating unit 330. (Step S44).

以上のように、本実施形態では、直前に復号された画像フレームの関心領域情報を記憶しておくことにより、画像の劣化がひどく関心領域を検出できなかった場合においても画質劣化度を算出することができる。   As described above, in the present embodiment, by storing the region-of-interest information of the image frame decoded immediately before, the image quality degradation degree is calculated even when the region of interest is severely detected and the region of interest cannot be detected. be able to.

なお、本発明は以上の実施形態に限定されるものではなく、例えば、第1乃至第4の実施形態の画質評価部170A〜170Dのいずれか一の画質評価部の動作をコンピュータにより実行させる画質評価用プログラムも本発明に包含するものであり、また、画質評価部170A〜170Dのいずれか一の画質評価部を含む図1と同様の構成の映像受信端末と、その映像受信端末に対して伝送路を介して映像データを配信する映像配信サーバとからなる映像処理システムにおける画質配信システムも本発明に包含するものである。   Note that the present invention is not limited to the above embodiment. For example, the image quality that causes the computer to execute the operation of any one of the image quality evaluation units 170A to 170D of the first to fourth embodiments. The evaluation program is also included in the present invention, and includes a video receiving terminal having the same configuration as that shown in FIG. 1 including any one of the image quality evaluating units 170A to 170D, and the video receiving terminal. An image quality distribution system in a video processing system including a video distribution server that distributes video data via a transmission path is also included in the present invention.

本発明は、映像配信サービスにおいて、受信端末上での映像品質を測定することで、サービス品質の管理・監視などに利用可能である。   The present invention can be used for management / monitoring of service quality by measuring video quality on a receiving terminal in a video distribution service.

本発明の画質評価装置の第1の実施形態を備えた映像受信端末のブロック図である。1 is a block diagram of a video receiving terminal including a first embodiment of an image quality evaluation apparatus of the present invention. 図1の入力データ生成部130の動作の一例を説明する図である。It is a figure explaining an example of operation | movement of the input data generation part 130 of FIG. 本発明の画質評価装置の第1の実施形態における劣化領域重要度算出部と画質劣化度算出部の動作を説明する図である。It is a figure explaining operation | movement of the degradation area importance calculation part and image quality degradation degree calculation part in 1st Embodiment of the image quality evaluation apparatus of this invention. 図1の実施形態の動作説明用フローチャートである。It is a flowchart for operation | movement description of embodiment of FIG. 本発明の画質評価装置の第2の実施形態のブロック図である。It is a block diagram of 2nd Embodiment of the image quality evaluation apparatus of this invention. 本発明の画質評価装置の第2の実施形態における関心領域検出部の動作を説明する図である。It is a figure explaining operation | movement of the region of interest detection part in 2nd Embodiment of the image quality evaluation apparatus of this invention. 図5の実施形態の動作説明用フローチャートである。It is a flowchart for operation | movement description of embodiment of FIG. 本発明の画質評価装置の第3の実施形態のブロック図である。It is a block diagram of 3rd Embodiment of the image quality evaluation apparatus of this invention. 本発明の画質評価装置の第4の実施形態のブロック図である。It is a block diagram of 4th Embodiment of the image quality evaluation apparatus of this invention. 本発明の画質評価装置の第4の実施形態における関心領域検出部の動作を説明する図である。It is a figure explaining operation | movement of the region of interest detection part in 4th Embodiment of the image quality evaluation apparatus of this invention. 図10の実施形態の動作説明用フローチャートである。It is a flowchart for operation | movement description of embodiment of FIG.

符号の説明Explanation of symbols

100 映像受信端末
110 伝送路
120 受信部
130 入力データ生成部
140 入力データバッファ
150 不連続位置情報生成部
160 不連続位置情報バッファ
170A、170B、170C、170D 画質評価部
171、310、350 復号処理部
172、311 劣化領域検出部
173、320 劣化領域重要度算出部
174、330 画質劣化度算出部
312、340、351 関心領域検出部
360 関心領域情報記憶部
DESCRIPTION OF SYMBOLS 100 Video receiving terminal 110 Transmission path 120 Receiving part 130 Input data generation part 140 Input data buffer 150 Discontinuous position information generation part 160 Discontinuous position information buffer 170A, 170B, 170C, 170D Image quality evaluation part 171, 310, 350 Decoding processing part 172, 311 Degraded region detection unit 173, 320 Degraded region importance calculation unit 174, 330 Image quality degradation degree calculation unit 312, 340, 351 Interest region detection unit 360 Interest region information storage unit

Claims (35)

画質の評価対象の画像符号化データを、データ欠落又はデータ誤りによる不連続位置を示す不連続位置情報と共に入力として受け、前記画像符号化データを復号して画像データを生成する際に、前記不連続位置情報に基づいて、前記画像符号化データ中の不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定し、その特定した画像符号化データの影響を受ける画像領域を劣化領域として検出する劣化領域検出手段と、
少なくとも前記劣化領域検出手段により検出された前記劣化領域の特徴を示す劣化領域の情報に基づいて、その劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する画質劣化度算出手段と、
を有することを特徴とする画質評価装置。
When the encoded image data to be evaluated is received together with the discontinuous position information indicating the discontinuous position due to data loss or data error, the image encoded data is decoded to generate the image data. Based on continuous position information, an image encoded data portion between a discontinuous point in the image encoded data and a decoding process synchronization position that is a position that can be correctly decoded is specified, and the specified image encoded data A deteriorated area detecting means for detecting an affected image area as a deteriorated area;
Image quality deterioration degree calculating means for calculating an image quality deterioration degree indicating an index of conspicuousness of image quality deterioration due to the deteriorated area based on at least information on the deteriorated area indicating the characteristic of the deteriorated area detected by the deteriorated area detecting means. When,
An image quality evaluation apparatus comprising:
画質の評価対象の画像符号化データを復号処理し、画像フレームを生成する復号処理部と、
前記画像符号化データのデータ欠落又はデータ誤りによる不連続位置を示す不連続位置情報に基づいて、復号処理される前記画像符号化データが不連続点を含むと判定した場合に、この不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定し、その特定した画像符号化データ部分の影響を受ける画像領域を劣化領域として検出し、前記劣化領域の特徴を示す劣化領域の情報を生成する劣化領域検出部と、
前記劣化領域の情報から前記劣化領域の重要度を算出する劣化領域重要度算出部と、
前記劣化領域の情報及び前記重要度に基づいて、前記劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する画質劣化度算出部と、
を有することを特徴とする画質評価装置。
A decoding processing unit that decodes encoded image data to be evaluated for image quality and generates an image frame;
When it is determined that the encoded image data to be decoded includes discontinuous points based on discontinuous position information indicating discontinuous positions due to data loss or data errors in the encoded image data, the discontinuous points And a decoding process synchronization position that is a position that can be correctly decoded is specified as an image encoded data part, an image area affected by the specified image encoded data part is detected as a deteriorated area, A deteriorated area detection unit that generates information of a deteriorated area indicating a feature;
A deterioration area importance calculation unit for calculating the importance of the deterioration area from the information of the deterioration area;
An image quality deterioration degree calculating unit that calculates an image quality deterioration degree indicating an index of conspicuousness of image quality deterioration due to the deteriorated area based on the information of the deteriorated area and the importance;
An image quality evaluation apparatus comprising:
画質の評価対象の画像符号化データを復号処理し、画像フレームを生成する復号処理部と、
前記画像符号化データのデータ欠落又はデータ誤りによる不連続位置を示す不連続位置情報に基づいて、復号処理される前記画像符号化データが不連続点を含むと判定した場合に、この不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定し、その特定した画像符号化データ部分の影響を受ける画像領域を劣化領域として検出し、前記劣化領域の特徴を示す劣化領域の情報を生成する劣化領域検出部と、
前記復号処理部において復号された画像フレームから視聴者が関心を持って注視している可能性が高い領域を示す関心領域を検出し、その関心領域の特徴を示す関心領域情報を生成する関心領域検出部と、
前記劣化領域の情報及び前記関心領域情報から前記劣化領域の重要度を算出する劣化領域重要度算出部と、
前記劣化領域の情報及び前記重要度に基づいて、前記劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する画質劣化度算出部と、
を有することを特徴とする画質評価装置。
A decoding processing unit that decodes encoded image data to be evaluated for image quality and generates an image frame;
When it is determined that the encoded image data to be decoded includes discontinuous points based on discontinuous position information indicating discontinuous positions due to data loss or data errors in the encoded image data, the discontinuous points And a decoding process synchronization position that is a position that can be correctly decoded is specified as an image encoded data part, an image area affected by the specified image encoded data part is detected as a deteriorated area, A deteriorated area detection unit that generates information of a deteriorated area indicating a feature;
A region of interest that detects a region of interest indicating a region that is highly likely to be watched by a viewer from the image frame decoded by the decoding processing unit, and generates region-of-interest information indicating the characteristics of the region of interest. A detection unit;
A deteriorated region importance calculating unit that calculates the importance of the deteriorated region from the information of the deteriorated region and the region of interest information;
An image quality deterioration degree calculating unit that calculates an image quality deterioration degree indicating an index of conspicuousness of image quality deterioration due to the deteriorated area based on the information of the deteriorated area and the importance;
An image quality evaluation apparatus comprising:
前記劣化領域の情報は、(1)正しく復号できなかった画素もしくは複数の画素により構成されるブロックの個数、(2)前記画素もしくは複数の画素により構成されるブロックの画像フレーム上の座標位置、(3)前記画素もしくは複数の画素により構成されるブロックの色情報、(4)前記画素もしくは複数の画素により構成されるブロックの動きベクトルの大きさ、のうち1つ以上を含むことを特徴とする請求項1乃至3のうちいずれか一項記載の画質評価装置。   The information of the deteriorated area includes (1) the number of blocks constituted by pixels or a plurality of pixels that could not be correctly decoded, (2) coordinate positions on the image frame of the blocks constituted by the pixels or the plurality of pixels, It includes one or more of (3) color information of a block composed of the pixel or a plurality of pixels, and (4) a magnitude of a motion vector of a block composed of the pixels or the plurality of pixels. The image quality evaluation apparatus according to any one of claims 1 to 3. 前記劣化領域重要度算出部は、前記劣化領域の情報に含まれる、正しく復号できなかった画素もしくは複数の画素により構成ブロックの画像フレーム上の座標位置を基に、復号した画像フレームの中央から前記劣化領域までの距離を算出し、この距離を基に重要度を算出することを特徴とする請求項2記載の画質評価装置。   The degraded area importance calculation unit includes the pixel included in the degraded area information, or the coordinate position on the image frame of the constituent block by a plurality of pixels that could not be correctly decoded, from the center of the decoded image frame. 3. The image quality evaluation apparatus according to claim 2, wherein a distance to the deteriorated area is calculated, and importance is calculated based on the distance. 前記関心領域検出部は、(1)特定の色情報をもつ画素が密集している画像領域、(2)周囲の画像領域と比較して動きベクトルの大きさが大きく異なる画素もしくは複数の画素により構成されるブロックが密集している画像領域、(3)他の画像領域と比較して高い周波数成分を持つ画像領域、のいずれか1つ以上を関心領域として検出することを特徴とする請求項3記載の画質評価装置。   The region-of-interest detection unit includes (1) an image area where pixels having specific color information are densely arranged, and (2) a pixel or a plurality of pixels whose motion vectors are greatly different from the surrounding image areas. 2. The method according to claim 1, wherein any one or more of an image region in which the blocks formed are dense and (3) an image region having a higher frequency component compared to other image regions is detected as a region of interest. 3. The image quality evaluation apparatus according to 3. 前記関心領域検出部は、予め前記画像符号化データに付与された関心領域情報をもとに関心領域を検出することを特徴とする請求項3記載の画質評価装置。   The image quality evaluation apparatus according to claim 3, wherein the region-of-interest detection unit detects a region of interest based on region-of-interest information previously given to the encoded image data. 前記関心領域情報は、(1)前記関心領域に含まれる画素もしくは複数の画素から構成されるブロックの座標、(2)前記関心領域を囲む多角形の頂点の座標のリスト、(3)前記関心領域に含まれる画素の色情報、(4)前記関心領域に含まれる画素もしくは複数の画素から構成されるブロックの動きベクトルの大きさ、(5)前記関心領域の種別を示す識別子、のうち1つ以上を含むことを特徴とする請求項3記載の画質評価装置。   The region-of-interest information includes (1) coordinates of a block composed of a pixel or a plurality of pixels included in the region of interest, (2) a list of coordinates of vertices of a polygon surrounding the region of interest, and (3) the region of interest 1 out of the color information of the pixels included in the region, (4) the size of the motion vector of the pixel included in the region of interest or a block composed of a plurality of pixels, and (5) the identifier indicating the type of the region of interest The image quality evaluation apparatus according to claim 3, comprising at least two. 前記劣化領域重要度算出部は、前記劣化領域と前記関心領域とが画像フレーム内で重なっている度合いを基に前記重要度を算出することを特徴とする請求項3記載の画質評価装置。   The image quality evaluation apparatus according to claim 3, wherein the deteriorated area importance calculation unit calculates the importance based on a degree of overlap of the deteriorated area and the region of interest in an image frame. 前記関心領域情報を保存する関心領域記憶部を更に備え、
前記関心領域検出部は、前記関心領域の検出に成功した場合には、生成した関心領域情報を前記関心領域情報記憶部に保存し、前記関心領域の検出に失敗した場合には、前記関心領域記憶部に保存されている前記関心領域情報を基に前記復号された画像フレームの関心領域情報を生成することを特徴とする請求項3記載の画質評価装置。
A region of interest storage for storing the region of interest information;
The region-of-interest detection unit stores the generated region-of-interest information in the region-of-interest information storage unit when the region-of-interest detection is successful, and the region of interest when the region-of-interest detection fails. The image quality evaluation apparatus according to claim 3, wherein the region-of-interest information of the decoded image frame is generated based on the region-of-interest information stored in a storage unit.
前記関心領域情報検出部は、前記関心領域の検出に失敗した場合には、前記関心領域情報記憶部に保存されている、前記関心領域の検出に失敗した画像フレームの直前に復号された画像フレームの関心領域情報を基に前記復号された画像フレームの関心領域情報を生成することを特徴とする請求項10記載の画質評価装置。   When the region-of-interest information detection unit fails to detect the region of interest, the image frame that is stored in the region-of-interest information storage unit and is decoded immediately before the image frame that has failed to detect the region of interest The image quality evaluation apparatus according to claim 10, wherein the region-of-interest information of the decoded image frame is generated based on the region-of-interest information. 前記関心領域情報検出部は、
前記関心領域の検出に失敗した場合には、前記関心領域情報記憶部に保存されている、前記関心領域の検出に失敗した画像フレームの直前に復号された画像フレームの関心領域情報が前記関心領域の検出に失敗した画像フレームの関心領域情報として代替可能かどうかを判定する判定手段と、
前記判定手段により代替可能であると判定したときのみ、代替可能と判定した前記関心領域の検出に失敗した画像フレームの直前に復号された画像フレームの関心領域情報を前記劣化領域重要度算出部へ通知し、代替可能でないと判定したときは、関心領域情報が得られなかったことを前記劣化領域重要度算出部へ通知する通知手段とを有し、
前記劣化領域重要度算出部は、前記関心領域情報が通知されるときは前記劣化領域の情報及び前記関心領域情報から前記劣化領域の重要度を算出し、前記関心領域情報が通知されないときは前記劣化領域の情報から前記劣化領域の重要度を算出することを特徴とする請求項10記載の画質評価装置。
The region of interest information detector
When the region of interest detection fails, the region-of-interest information of the image frame decoded immediately before the image frame that failed to detect the region of interest stored in the region-of-interest information storage unit is the region of interest. Determining means for determining whether or not it can be substituted as region-of-interest information of an image frame in which the detection of
Only when it is determined by the determination means that the region of interest can be replaced, the region-of-interest information of the image frame decoded immediately before the image frame that has failed to detect the region of interest that has been determined to be replaceable is sent to the degraded region importance calculation unit. A notification means for notifying the deterioration area importance calculation unit that the region-of-interest information has not been obtained,
The deterioration area importance calculation unit calculates the importance of the deterioration area from the information of the deterioration area and the area of interest information when the area of interest information is notified, and when the area of interest information is not notified, The image quality evaluation apparatus according to claim 10, wherein importance of the deteriorated area is calculated from information on the deteriorated area.
画質の評価対象の画像符号化データを、データ欠落又はデータ誤りによる不連続位置を示す不連続位置情報と共に入力として受け、前記画像符号化データを復号して画像データを生成する際に、前記不連続位置情報に基づいて、前記画像符号化データ中の不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定する第1のステップと、
前記特定した画像符号化データの影響を受ける画像領域を劣化領域として検出する第2のステップと、
少なくとも前記第2のステップにより検出された前記劣化領域の特徴を示す劣化領域の情報に基づいて、その劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する第3のステップと、
を含むことを特徴とする画質評価方法。
When the encoded image data to be evaluated is received together with the discontinuous position information indicating the discontinuous position due to data loss or data error, the image encoded data is decoded to generate the image data. A first step of specifying an image encoded data portion between a discontinuous point in the image encoded data and a decoding processing synchronization position that is a position that can be correctly decoded based on continuous position information;
A second step of detecting an image area affected by the specified encoded image data as a degraded area;
A third step of calculating an image quality deterioration degree indicating an index of conspicuousness of image quality deterioration due to the deteriorated area based on at least information of the deteriorated area indicating the characteristic of the deteriorated area detected by the second step; ,
An image quality evaluation method comprising:
画質の評価対象の画像符号化データを復号処理し、画像フレームを生成する第1のステップと、
前記画像符号化データのデータ欠落又はデータ誤りによる不連続位置を示す不連続位置情報に基づいて、復号処理される前記画像符号化データが不連続点を含むと判定した場合に、この不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定する第2のステップと、
前記特定した画像符号化データ部分の影響を受ける画像領域を劣化領域として検出し、前記劣化領域の特徴を示す劣化領域の情報を生成する第3のステップと、
前記劣化領域の情報から前記劣化領域の重要度を算出する第4のステップと、
前記劣化領域の情報及び前記重要度に基づいて、前記劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する第5のステップと、
を含むことを特徴とする画質評価方法。
A first step of decoding image encoded data to be evaluated for image quality and generating an image frame;
When it is determined that the encoded image data to be decoded includes discontinuous points based on discontinuous position information indicating discontinuous positions due to data loss or data errors in the encoded image data, the discontinuous points A second step of specifying an image encoded data portion between and a decoding process synchronization position that is a position where decoding can be correctly performed;
A third step of detecting an image area affected by the identified image encoded data portion as a deteriorated area, and generating information on the deteriorated area indicating characteristics of the deteriorated area;
A fourth step of calculating the degree of importance of the deteriorated area from the information of the deteriorated area;
A fifth step of calculating an image quality degradation level indicating an index of conspicuousness of image quality degradation due to the degraded area based on the information on the degraded area and the importance;
An image quality evaluation method comprising:
画質の評価対象の画像符号化データを復号処理し、画像フレームを生成する第1のステップと、
前記画像符号化データのデータ欠落又はデータ誤りによる不連続位置を示す不連続位置情報に基づいて、復号処理される前記画像符号化データが不連続点を含むと判定した場合に、この不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定する第2のステップと、
前記特定した画像符号化データ部分の影響を受ける画像領域を劣化領域として検出し、前記劣化領域の特徴を示す劣化領域の情報を生成する第3のステップと、
前記第1のステップで復号された画像フレームから視聴者が関心を持って注視している可能性が高い領域を示す関心領域を検出し、その関心領域の特徴を示す関心領域情報を生成する第4のステップと、
前記劣化領域の情報及び前記関心領域情報から前記劣化領域の重要度を算出する第5のステップと、
前記劣化領域の情報及び前記重要度に基づいて、前記劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する第6のステップと、
を含むことを特徴とする画質評価方法。
A first step of decoding image encoded data to be evaluated for image quality and generating an image frame;
When it is determined that the encoded image data to be decoded includes discontinuous points based on discontinuous position information indicating discontinuous positions due to data loss or data errors in the encoded image data, the discontinuous points A second step of specifying an image encoded data portion between and a decoding process synchronization position that is a position where decoding can be correctly performed;
A third step of detecting an image area affected by the identified image encoded data portion as a deteriorated area, and generating information on the deteriorated area indicating characteristics of the deteriorated area;
First, a region of interest indicating a region that is likely to be watched with interest by the viewer is detected from the image frame decoded in the first step, and region-of-interest information indicating a feature of the region of interest is generated. 4 steps,
A fifth step of calculating the degree of importance of the deteriorated region from the information of the deteriorated region and the region of interest information;
A sixth step of calculating an image quality degradation degree indicating an index of conspicuousness of image quality degradation due to the degraded area based on the information of the degraded area and the importance;
An image quality evaluation method comprising:
前記劣化領域の情報は、(1)正しく復号できなかった画素もしくは複数の画素により構成されるブロックの個数、(2)前記画素もしくは複数の画素により構成されるブロックの画像フレーム上の座標位置、(3)前記画素もしくは複数の画素により構成されるブロックの色情報、(4)前記画素もしくは複数の画素により構成されるブロックの動きベクトルの大きさ、のうち1つ以上を含むことを特徴とする請求項13乃至15のうちいずれか一項記載の画質評価方法。     The information of the deteriorated area includes (1) the number of blocks constituted by pixels or a plurality of pixels that could not be correctly decoded, (2) coordinate positions on the image frame of the blocks constituted by the pixels or the plurality of pixels, It includes one or more of (3) color information of a block composed of the pixel or a plurality of pixels, and (4) a magnitude of a motion vector of a block composed of the pixels or the plurality of pixels. The image quality evaluation method according to any one of claims 13 to 15. 前記第4のステップは、前記劣化領域の情報に含まれる、正しく復号できなかった画素もしくは複数の画素により構成ブロックの画像フレーム上の座標位置を基に、復号した画像フレームの中央から前記劣化領域までの距離を算出し、この距離を基に重要度を算出することを特徴とする請求項14記載の画質評価方法。   In the fourth step, the deteriorated region from the center of the decoded image frame based on the coordinate position on the image frame of the constituent block by the pixel or the plurality of pixels that could not be correctly decoded included in the information of the deteriorated region The image quality evaluation method according to claim 14, further comprising calculating a distance up to and calculating importance based on the distance. 前記第4のステップは、(1)特定の色情報をもつ画素が密集している画像領域、(2)周囲の画像領域と比較して動きベクトルの大きさが大きく異なる画素もしくは複数の画素により構成されるブロックが密集している画像領域、(3)他の画像領域と比較して高い周波数成分を持つ画像領域、のいずれか1つ以上を関心領域として検出することを特徴とする請求項15記載の画質評価方法。   The fourth step includes (1) an image area where pixels having specific color information are densely packed, and (2) a pixel or a plurality of pixels whose motion vectors are greatly different from the surrounding image area. 2. The method according to claim 1, wherein any one or more of an image region in which the blocks formed are dense and (3) an image region having a higher frequency component compared to other image regions is detected as a region of interest. 15. The image quality evaluation method according to 15. 前記第4のステップは、予め前記画像符号化データに付与された関心領域情報をもとに関心領域を検出することを特徴とする請求項15記載の画質評価方法。   16. The image quality evaluation method according to claim 15, wherein the fourth step detects a region of interest based on region-of-interest information previously given to the encoded image data. 前記関心領域情報は、(1)前記関心領域に含まれる画素もしくは複数の画素から構成されるブロックの座標、(2)前記関心領域を囲む多角形の頂点の座標のリスト、(3)前記関心領域に含まれる画素の色情報、(4)前記関心領域に含まれる画素もしくは複数の画素から構成されるブロックの動きベクトルの大きさ、(5)前記関心領域の種別を示す識別子、のうち1つ以上を含むことを特徴とする請求項15記載の画質評価方法。   The region-of-interest information includes (1) coordinates of a block composed of a pixel or a plurality of pixels included in the region of interest, (2) a list of coordinates of vertices of a polygon surrounding the region of interest, and (3) the region of interest 1 out of the color information of the pixels included in the region, (4) the size of the motion vector of the pixel included in the region of interest or a block composed of a plurality of pixels, and (5) the identifier indicating the type of the region of interest The image quality evaluation method according to claim 15, comprising at least two. 前記第4のステップは、前記劣化領域と前記関心領域とが画像フレーム内で重なっている度合いを基に前記重要度を算出することを特徴とする請求項15記載の画質評価方法。   16. The image quality evaluation method according to claim 15, wherein in the fourth step, the importance is calculated based on a degree in which the deteriorated region and the region of interest overlap in an image frame. 前記第4のステップにおいて生成した前記関心領域情報を関心領域情報記憶部に保存する第7のステップと、
前記第4のステップにおいて前記関心領域の検出に失敗した場合には、前記関心領域記憶部に保存されている前記関心領域情報を基に前記復号された画像フレームの関心領域情報を生成する第8のステップと
を更に含むことを特徴とする請求項15記載の画質評価方法。
A seventh step of storing the region-of-interest information generated in the fourth step in a region-of-interest information storage unit;
If the region of interest fails to be detected in the fourth step, the region of interest information of the decoded image frame is generated based on the region of interest information stored in the region of interest storage. The image quality evaluation method according to claim 15, further comprising:
前記第8のステップは、前記関心領域情報記憶部に保存されている、前記関心領域の検出に失敗した画像フレームの直前に復号された画像フレームの関心領域情報を基に前記復号された画像フレームの関心領域情報を生成することを特徴とする請求項22記載の画質評価方法。   In the eighth step, the decoded image frame based on the region-of-interest information of the image frame that is stored in the region-of-interest information storage unit and is decoded immediately before the image frame in which the region-of-interest detection has failed. 23. The image quality evaluation method according to claim 22, wherein the region-of-interest information is generated. 前記第8のステップは、
前記関心領域情報記憶部に保存されている、前記関心領域の検出に失敗した画像フレームの直前に復号された画像フレームの関心領域情報が前記関心領域の検出に失敗した画像フレームの関心領域情報として代替可能かどうかを判定する判定ステップと、
前記判定ステップにより代替可能であると判定したときのみ、代替可能と判定した前記関心領域の検出に失敗した画像フレームの直前に復号された画像フレームの関心領域情報を前記劣化領域重要度算出部へ通知し、代替可能でないと判定したときは、関心領域情報が得られなかったことを前記劣化領域重要度算出部へ通知する通知ステップとを含み、
前記第5のステップは、前記関心領域情報が通知されるときは前記劣化領域の情報及び前記関心領域情報から前記劣化領域の重要度を算出し、前記関心領域情報が通知されないときは前記劣化領域の情報から前記劣化領域の重要度を算出することを特徴とする請求項23記載の画質評価方法。
The eighth step includes
The region-of-interest information stored in the region-of-interest information storage unit is the region-of-interest information of the image frame decoded immediately before the image frame in which the region-of-interest detection failed, as region-of-interest information of the image frame in which the region-of-interest detection failed. A determination step for determining whether or not substitution is possible; and
Only when it is determined that it can be replaced by the determination step, the region-of-interest information of the image frame decoded immediately before the image frame in which the detection of the region of interest that has been determined to be replaceable has failed is sent to the degraded region importance calculation unit. A notification step of notifying the deterioration area importance calculation unit that the region-of-interest information has not been obtained,
In the fifth step, when the region of interest information is notified, the importance of the deteriorated region is calculated from the information of the deteriorated region and the region of interest information, and when the region of interest information is not notified, the deteriorated region is calculated. 24. The image quality evaluation method according to claim 23, wherein the degree of importance of the deteriorated area is calculated from the information.
コンピュータにより画像符号化データを復号して得た画像フレームの画質を評価させる画質評価用プログラムであって、
前記コンピュータに、
前記画像符号化データを、データ欠落又はデータ誤りによる不連続位置を示す不連続位置情報と共に入力として受け、前記画像符号化データを復号して画像データを生成する際に、前記不連続位置情報に基づいて、前記画像符号化データ中の不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定する第1のステップと、
前記特定した画像符号化データの影響を受ける画像領域を劣化領域として検出する第2のステップと、
少なくとも前記第2のステップにより検出された前記劣化領域の特徴を示す劣化領域の情報に基づいて、その劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する第3のステップと、
を実行させることを特徴とする画質評価用プログラム。
An image quality evaluation program for evaluating the image quality of an image frame obtained by decoding image encoded data by a computer,
In the computer,
The image encoded data is received as an input together with discontinuous position information indicating a discontinuous position due to data loss or data error, and the image encoded data is decoded to generate image data. A first step of specifying an image encoded data portion between a discontinuous point in the image encoded data and a decoding processing synchronization position that is a position where the image can be correctly decoded;
A second step of detecting an image area affected by the specified encoded image data as a degraded area;
A third step of calculating an image quality deterioration degree indicating an index of conspicuousness of image quality deterioration due to the deteriorated area based on at least information of the deteriorated area indicating the characteristic of the deteriorated area detected by the second step; ,
An image quality evaluation program characterized in that the program is executed.
コンピュータにより画像符号化データを復号して得た画像フレームの画質を評価させる画質評価用プログラムであって、
前記コンピュータに、
画質の評価対象の画像符号化データを復号処理し、画像フレームを生成する第1のステップと、
前記画像符号化データのデータ欠落又はデータ誤りによる不連続位置を示す不連続位置情報に基づいて、復号処理される前記画像符号化データが不連続点を含むと判定した場合に、この不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定する第2のステップと、
前記特定した画像符号化データ部分の影響を受ける画像領域を劣化領域として検出し、前記劣化領域の特徴を示す劣化領域の情報を生成する第3のステップと、
前記劣化領域の情報から前記劣化領域の重要度を算出する第4のステップと、
前記劣化領域の情報及び前記重要度に基づいて、前記劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する第5のステップと、
を実行させることを特徴とする画質評価用プログラム。
An image quality evaluation program for evaluating the image quality of an image frame obtained by decoding image encoded data by a computer,
In the computer,
A first step of decoding image encoded data to be evaluated for image quality and generating an image frame;
When it is determined that the encoded image data to be decoded includes discontinuous points based on discontinuous position information indicating discontinuous positions due to data loss or data errors in the encoded image data, the discontinuous points A second step of specifying an image encoded data portion between and a decoding process synchronization position that is a position where decoding can be correctly performed;
A third step of detecting an image area affected by the identified image encoded data portion as a deteriorated area, and generating information on the deteriorated area indicating characteristics of the deteriorated area;
A fourth step of calculating the degree of importance of the deteriorated area from the information of the deteriorated area;
A fifth step of calculating an image quality degradation level indicating an index of conspicuousness of image quality degradation due to the degraded area based on the information on the degraded area and the importance;
An image quality evaluation program characterized in that the program is executed.
コンピュータにより画像符号化データを復号して得た画像フレームの画質を評価させる画質評価用プログラムであって、
前記コンピュータに、
画質の評価対象の画像符号化データを復号処理し、画像フレームを生成する第1のステップと、
前記画像符号化データのデータ欠落又はデータ誤りによる不連続位置を示す不連続位置情報に基づいて、復号処理される前記画像符号化データが不連続点を含むと判定した場合に、この不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定する第2のステップと、
前記特定した画像符号化データ部分の影響を受ける画像領域を劣化領域として検出し、前記劣化領域の特徴を示す劣化領域の情報を生成する第3のステップと、
前記第1のステップで復号された画像フレームから視聴者が関心を持って注視している可能性が高い領域を示す関心領域を検出し、その関心領域の特徴を示す関心領域情報を生成する第4のステップと、
前記劣化領域の情報及び前記関心領域情報から前記劣化領域の重要度を算出する第5のステップと、
前記劣化領域の情報及び前記重要度に基づいて、前記劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する第6のステップと、
を実行させることを特徴とする画質評価用プログラム。
An image quality evaluation program for evaluating the image quality of an image frame obtained by decoding image encoded data by a computer,
In the computer,
A first step of decoding image encoded data to be evaluated for image quality and generating an image frame;
When it is determined that the encoded image data to be decoded includes discontinuous points based on discontinuous position information indicating discontinuous positions due to data loss or data errors in the encoded image data, the discontinuous points A second step of specifying an image encoded data portion between and a decoding process synchronization position that is a position where decoding can be correctly performed;
A third step of detecting an image area affected by the identified image encoded data portion as a deteriorated area, and generating information on the deteriorated area indicating characteristics of the deteriorated area;
First, a region of interest indicating a region that is likely to be watched with interest by the viewer is detected from the image frame decoded in the first step, and region-of-interest information indicating a feature of the region of interest is generated. 4 steps,
A fifth step of calculating the degree of importance of the deteriorated region from the information of the deteriorated region and the region of interest information;
A sixth step of calculating an image quality degradation degree indicating an index of conspicuousness of image quality degradation due to the degraded area based on the information of the degraded area and the importance;
An image quality evaluation program characterized in that the program is executed.
前記劣化領域の情報は、(1)正しく復号できなかった画素もしくは複数の画素により構成されるブロックの個数、(2)前記画素もしくは複数の画素により構成されるブロックの画像フレーム上の座標位置、(3)前記画素もしくは複数の画素により構成されるブロックの色情報、(4)前記画素もしくは複数の画素により構成されるブロックの動きベクトルの大きさ、のうち1つ以上を含むことを特徴とする請求項25乃至27のうちいずれか一項記載の画質評価用プログラム。   The information of the deteriorated area includes (1) the number of blocks constituted by pixels or a plurality of pixels that could not be correctly decoded, (2) coordinate positions on the image frame of the blocks constituted by the pixels or the plurality of pixels, It includes one or more of (3) color information of a block composed of the pixel or a plurality of pixels, and (4) a magnitude of a motion vector of a block composed of the pixels or the plurality of pixels. The image quality evaluation program according to any one of claims 25 to 27. 前記第4のステップは、前記劣化領域の情報に含まれる、正しく復号できなかった画素もしくは複数の画素により構成ブロックの画像フレーム上の座標位置を基に、復号した画像フレームの中央から前記劣化領域までの距離を算出し、この距離を基に重要度を算出することを特徴とする請求項26記載の画質評価用プログラム。   In the fourth step, the deteriorated region from the center of the decoded image frame based on the coordinate position on the image frame of the constituent block by the pixel or the plurality of pixels that could not be correctly decoded included in the information of the deteriorated region 27. The image quality evaluation program according to claim 26, further comprising: calculating a distance up to and calculating importance based on the distance. 前記第4のステップは、(1)特定の色情報をもつ画素が密集している画像領域、(2)周囲の画像領域と比較して動きベクトルの大きさが大きく異なる画素もしくは複数の画素により構成されるブロックが密集している画像領域、(3)他の画像領域と比較して高い周波数成分を持つ画像領域、のいずれか1つ以上を関心領域として検出することを特徴とする請求項27記載の画質評価用プログラム。   The fourth step includes (1) an image area where pixels having specific color information are densely packed, and (2) a pixel or a plurality of pixels whose motion vectors are greatly different from the surrounding image area. 2. The method according to claim 1, wherein any one or more of an image region in which the blocks formed are dense and (3) an image region having a higher frequency component compared to other image regions is detected as a region of interest. 27. The image quality evaluation program according to 27. 前記関心領域情報は、(1)前記関心領域に含まれる画素もしくは複数の画素から構成されるブロックの座標、(2)前記関心領域を囲む多角形の頂点の座標のリスト、(3)前記関心領域に含まれる画素の色情報、(4)前記関心領域に含まれる画素もしくは複数の画素から構成されるブロックの動きベクトルの大きさ、(5)前記関心領域の種別を示す識別子、のうち1つ以上を含むことを特徴とする請求項27記載の画質評価用プログラム。   The region-of-interest information includes (1) coordinates of a block composed of a pixel or a plurality of pixels included in the region of interest, (2) a list of coordinates of vertices of a polygon surrounding the region of interest, and (3) the region of interest 1 out of the color information of the pixels included in the region, (4) the size of the motion vector of the pixel included in the region of interest or a block composed of a plurality of pixels, and (5) the identifier indicating the type of the region of interest 28. The image quality evaluation program according to claim 27, comprising at least two. 前記第4のステップにおいて生成した前記関心領域情報を関心領域情報記憶部に保存する第7のステップと、
前記第4のステップにおいて前記関心領域の検出に失敗した場合には、前記関心領域記憶部に保存されている前記関心領域情報を基に前記復号された画像フレームの関心領域情報を生成する第8のステップと、
を更に実行することを特徴とする請求項27記載の画質評価用プログラム。
A seventh step of storing the region-of-interest information generated in the fourth step in a region-of-interest information storage unit;
If the region of interest fails to be detected in the fourth step, the region of interest information of the decoded image frame is generated based on the region of interest information stored in the region of interest storage. And the steps
28. The image quality evaluation program according to claim 27, further comprising:
映像配信サーバから伝送路を介して画質の評価対象の画像符号化データを含むデータを入力として受けて受信処理を行う映像受信端末であって、
前記伝送路を介して入力された前記データを受信して前記画像符号化データを生成する入力データ生成部と、
前記画像符号化データにおけるデータ欠落又はデータ誤りによる不連続点を検出し、その不連続点の前記画像符号化データ中の位置を表す不連続位置情報を生成する不連続情報生成部と、
前記画像符号化データと前記不連続位置情報とを入力として受け、前記画像符号化データを復号して得られる画像フレームの画質劣化度を算出する画質評価部と、
を有し、前記画質評価部は、
前記画像符号化データを復号して画像データを生成する際に、前記不連続位置情報に基づいて、前記画像符号化データ中の不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定し、その特定した画像符号化データの影響を受ける画像領域を劣化領域として検出する劣化領域検出手段と、
少なくとも前記劣化領域検出手段により検出された前記劣化領域の特徴を示す劣化領域の情報に基づいて、その劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する画質劣化度算出手段と、
を備えた構成であることを特徴とする映像受信端末。
A video receiving terminal that receives data including image encoded data to be evaluated for image quality as an input from a video distribution server via a transmission path, and performs reception processing;
An input data generation unit that receives the data input via the transmission path and generates the image encoded data;
A discontinuous information generating unit that detects a discontinuous point due to data loss or data error in the image encoded data, and generates discontinuous position information indicating the position of the discontinuous point in the image encoded data;
An image quality evaluation unit that receives the encoded image data and the discontinuous position information as input, and calculates an image quality degradation degree of an image frame obtained by decoding the encoded image data;
And the image quality evaluation unit
When generating the image data by decoding the image encoded data, based on the discontinuous position information, a position from the discontinuous point in the image encoded data to a decoding process synchronization position that is a correct decodable position is determined. A degraded area detecting means for identifying an image encoded data portion between and detecting an image area affected by the identified image encoded data as a degraded area;
Image quality deterioration degree calculating means for calculating an image quality deterioration degree indicating an index of conspicuousness of image quality deterioration due to the deteriorated area based on at least information on the deteriorated area indicating the characteristic of the deteriorated area detected by the deteriorated area detecting means. When,
A video receiving terminal characterized by comprising:
映像配信サーバから伝送路を介して画質の評価対象の画像符号化データを含むデータを入力として受けて受信処理を行う映像受信端末であって、
前記伝送路を介して入力された前記データを受信して前記画像符号化データを生成する入力データ生成部と、
前記画像符号化データにおけるデータ欠落又はデータ誤りによる不連続点を検出し、その不連続点の前記画像符号化データ中の位置を表す不連続位置情報を生成する不連続情報生成部と、
前記画像符号化データと前記不連続位置情報とを入力として受け、前記画像符号化データを復号して得られる画像フレームの画質劣化度を算出する画質評価部と、
を有し、前記画質評価部は、
前記画像符号化データを復号処理し、画像フレームを生成する復号処理部と、
前記不連続位置情報に基づいて、復号処理される前記画像符号化データが不連続点を含むと判定した場合に、この不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定し、その特定した画像符号化データ部分の影響を受ける画像領域を劣化領域として検出し、前記劣化領域の特徴を示す劣化領域の情報を生成する劣化領域検出部と、
前記劣化領域の情報から前記劣化領域の重要度を算出する劣化領域重要度算出部と、
前記劣化領域の情報及び前記重要度に基づいて、前記劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する画質劣化度算出部と、
を備えた構成であることを特徴とする映像受信端末。
A video receiving terminal that receives data including image encoded data to be evaluated for image quality as an input from a video distribution server via a transmission path, and performs reception processing;
An input data generation unit that receives the data input via the transmission path and generates the image encoded data;
A discontinuous information generating unit that detects a discontinuous point due to data loss or data error in the image encoded data, and generates discontinuous position information indicating the position of the discontinuous point in the image encoded data;
An image quality evaluation unit that receives the encoded image data and the discontinuous position information as input, and calculates an image quality degradation degree of an image frame obtained by decoding the encoded image data;
And the image quality evaluation unit
A decoding processor that decodes the encoded image data and generates an image frame;
Based on the discontinuous position information, when it is determined that the encoded image data to be decoded includes a discontinuous point, a distance between the discontinuous point and a decoding processing synchronization position that is a position that can be correctly decoded A deteriorated area detecting unit that identifies an image encoded data part, detects an image area affected by the specified image encoded data part as a deteriorated area, and generates information on a deteriorated area indicating characteristics of the deteriorated area;
A deterioration area importance calculation unit for calculating the importance of the deterioration area from the information of the deterioration area;
An image quality deterioration degree calculating unit that calculates an image quality deterioration degree indicating an index of conspicuousness of image quality deterioration due to the deteriorated area based on the information of the deteriorated area and the importance;
A video receiving terminal characterized by comprising:
映像配信サーバから伝送路を介して画質の評価対象の画像符号化データを含むデータを入力として受けて受信処理を行う映像受信端末であって、
前記伝送路を介して入力された前記データを受信して前記画像符号化データを生成する入力データ生成部と、
前記画像符号化データにおけるデータ欠落又はデータ誤りによる不連続点を検出し、その不連続点の前記画像符号化データ中の位置を表す不連続位置情報を生成する不連続情報生成部と、
前記画像符号化データと前記不連続位置情報とを入力として受け、前記画像符号化データを復号して得られる画像フレームの画質劣化度を算出する画質評価部と、
を有し、前記画質評価部は、
前記画像符号化データを復号処理し、画像フレームを生成する復号処理部と、
前記画像符号化データの不連続位置を示す不連続位置情報に基づいて、復号処理される前記画像符号化データが不連続点を含むと判定した場合に、この不連続点から正しく復号可能な位置である復号処理同期位置までの間の画像符号化データ部分を特定し、その特定した画像符号化データ部分の影響を受ける画像領域を劣化領域として検出し、前記劣化領域の特徴を示す劣化領域の情報を生成する劣化領域検出部と、
前記復号処理部において復号された画像フレームから視聴者が関心を持って注視している可能性が高い領域を示す関心領域を検出し、その関心領域の特徴を示す関心領域情報を生成する関心領域検出部と、
前記劣化領域の情報及び前記関心領域情報から前記劣化領域の重要度を算出する劣化領域重要度算出部と、
前記劣化領域の情報及び前記重要度に基づいて、前記劣化領域による画質劣化の目立ち易さの指標を示す画質劣化度を算出する画質劣化度算出部と、
を備えた構成であることを特徴とする映像受信端末。
A video receiving terminal that receives data including image encoded data to be evaluated for image quality as an input from a video distribution server via a transmission path, and performs reception processing;
An input data generation unit that receives the data input via the transmission path and generates the image encoded data;
A discontinuous information generating unit that detects a discontinuous point due to data loss or data error in the image encoded data, and generates discontinuous position information indicating the position of the discontinuous point in the image encoded data;
An image quality evaluation unit that receives the encoded image data and the discontinuous position information as input, and calculates an image quality degradation degree of an image frame obtained by decoding the encoded image data;
And the image quality evaluation unit
A decoding processor that decodes the encoded image data and generates an image frame;
When it is determined that the encoded image data to be decoded includes a discontinuous point based on discontinuous position information indicating the discontinuous position of the encoded image data, a position that can be correctly decoded from the discontinuous point The encoded image data portion up to the decoding processing synchronization position is identified, an image region affected by the identified image encoded data portion is detected as a deteriorated region, and the deteriorated region indicating the characteristics of the deteriorated region A deteriorated area detector that generates information;
A region of interest that detects a region of interest indicating a region that is highly likely to be watched by a viewer from the image frame decoded by the decoding processing unit, and generates region-of-interest information indicating the characteristics of the region of interest. A detection unit;
A deteriorated region importance calculating unit that calculates the importance of the deteriorated region from the information of the deteriorated region and the region of interest information;
An image quality deterioration degree calculating unit that calculates an image quality deterioration degree indicating an index of conspicuousness of image quality deterioration due to the deteriorated area based on the information of the deteriorated area and the importance;
A video receiving terminal characterized by comprising:
JP2008004415A 2008-01-11 2008-01-11 Image quality evaluation apparatus, image quality evaluation method, program for image quality evaluation, and video reception terminal Pending JP2009171023A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008004415A JP2009171023A (en) 2008-01-11 2008-01-11 Image quality evaluation apparatus, image quality evaluation method, program for image quality evaluation, and video reception terminal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008004415A JP2009171023A (en) 2008-01-11 2008-01-11 Image quality evaluation apparatus, image quality evaluation method, program for image quality evaluation, and video reception terminal

Publications (1)

Publication Number Publication Date
JP2009171023A true JP2009171023A (en) 2009-07-30

Family

ID=40971767

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008004415A Pending JP2009171023A (en) 2008-01-11 2008-01-11 Image quality evaluation apparatus, image quality evaluation method, program for image quality evaluation, and video reception terminal

Country Status (1)

Country Link
JP (1) JP2009171023A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012244566A (en) * 2011-05-24 2012-12-10 Kddi Corp Receiving device, system, program and method for controlling video frame rate based on transmission bit rate
JP2012257125A (en) * 2011-06-09 2012-12-27 Canon Inc Image processing apparatus and image processing method
JP2016111473A (en) * 2014-12-04 2016-06-20 日本放送協会 Objective image quality evaluation device and program

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012244566A (en) * 2011-05-24 2012-12-10 Kddi Corp Receiving device, system, program and method for controlling video frame rate based on transmission bit rate
JP2012257125A (en) * 2011-06-09 2012-12-27 Canon Inc Image processing apparatus and image processing method
JP2016111473A (en) * 2014-12-04 2016-06-20 日本放送協会 Objective image quality evaluation device and program

Similar Documents

Publication Publication Date Title
US7873727B2 (en) System and method for evaluating streaming multimedia quality
JP5427238B2 (en) Method and system for determining the quality value of a video stream
JP5970724B2 (en) Method and apparatus for obtaining video encoding compression quality
JP5670551B2 (en) Method and apparatus for evaluating the quality of a video stream
JP5302342B2 (en) Method, apparatus and system for evaluating the quality of a video code stream
US20130208814A1 (en) Methods and apparatuses for temporal synchronisation between the video bit stream and the output video sequence
KR100612691B1 (en) Systems and Methods for Measurement of Video Quality
US20030121053A1 (en) Video distribution test system for evaluating image quality by determining spread of frame loss within refreshment interval
KR100646233B1 (en) Systems and methods for video quality measurement using auxiliary information of codec
KR101783071B1 (en) Method and apparatus for assessing the quality of a video signal during encoding or compressing of the video signal
JP2015501568A (en) Scene change detection for perceptual quality assessment in video sequences
US20160373762A1 (en) Methods of and arrangements for processing an encoded bit stream
JP2008301026A (en) Method, apparatus and program for estimating video quality
Barkowsky et al. Hybrid video quality prediction: reviewing video quality measurement for widening application scope
JP2009171023A (en) Image quality evaluation apparatus, image quality evaluation method, program for image quality evaluation, and video reception terminal
US7702994B2 (en) Method of determining a corruption indication of a sequence of encoded data frames
KR101083063B1 (en) Method and apparatus for measuring video quality of experience
JP2007214991A (en) Image quality measuring apparatus and method, and its program
KR20180045726A (en) Video Quality Measurement Apparatus and Method
JP2010063004A (en) Video data transmission apparatus, video distribution system, video quality evaluation method and program
US20120213283A1 (en) Method of decoding a sequence of encoded digital images
Laniewski et al. On the Impact of Burst Loss for QoE-Based Performance Evaluations for Video Streaming
Shi et al. A user-perceived video quality assessment metric using inter-frame redundancy
KR101471010B1 (en) Method and system for video quality measurement
Battisti et al. No reference quality assessment for MPEG video delivery over IP