JP4433949B2 - Image processing apparatus and method - Google Patents

Image processing apparatus and method Download PDF

Info

Publication number
JP4433949B2
JP4433949B2 JP2004256153A JP2004256153A JP4433949B2 JP 4433949 B2 JP4433949 B2 JP 4433949B2 JP 2004256153 A JP2004256153 A JP 2004256153A JP 2004256153 A JP2004256153 A JP 2004256153A JP 4433949 B2 JP4433949 B2 JP 4433949B2
Authority
JP
Japan
Prior art keywords
signal
field
pixel
interpolation
field interpolation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004256153A
Other languages
Japanese (ja)
Other versions
JP2005102191A (en
Inventor
鉄朗 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004256153A priority Critical patent/JP4433949B2/en
Publication of JP2005102191A publication Critical patent/JP2005102191A/en
Application granted granted Critical
Publication of JP4433949B2 publication Critical patent/JP4433949B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、3−2プルダウンや2−2プルダウン等によってインタレースに変換された変換信号と、例えば60フィールド/秒の通常のインタレース信号とが混在した信号をプログレッシブに変換する画像処理装置及びその方法に関する。   The present invention relates to an image processing apparatus for progressively converting a signal in which a conversion signal converted into an interlace by 3-2 pulldown, 2-2 pulldown, or the like and a normal interlace signal of, for example, 60 fields / second are mixed. It relates to that method.

NTSC信号やハイビジョン信号等の標準的なテレビジョン信号はインタレース信号である。図7は、走査線構造を示す図であり、同図(A)はインタレース信号、同図(B)はプログレッシブ信号、同図(C)は走査線補間によってインタレース信号をプログレッシブ信号に変換した信号を示している。なお、図7中の○印は走査線を示し、×印は補間された走査線を示す。   Standard television signals such as NTSC signals and high vision signals are interlaced signals. 7A and 7B are diagrams showing a scanning line structure. FIG. 7A shows an interlace signal, FIG. 7B shows a progressive signal, and FIG. 7C shows an interlace signal converted into a progressive signal by scanning line interpolation. Signal. In FIG. 7, a circle indicates a scanning line, and a cross indicates an interpolated scanning line.

この図7において、垂直方向Vは画面の垂直方向であり、水平方向tは時間方向である。インタレース信号は、図7(A)に示すように、1つのフレームが時間及び垂直方向にずれた2つのフィールドで構成されている。これに対してプログレッシブ信号は、図7(B)に示すように、走査線構造にずれがない。インタレース信号においては、画像の垂直方向の高い周波数成分が多くなると、ラインフリッカを生じる等のインタレース妨害が存在する。一方、プログレッシブ信号では、インタレース妨害は存在しない。   In FIG. 7, the vertical direction V is the vertical direction of the screen, and the horizontal direction t is the time direction. As shown in FIG. 7A, the interlace signal is composed of two fields in which one frame is shifted in the time and vertical directions. On the other hand, the progressive signal has no deviation in the scanning line structure as shown in FIG. In an interlace signal, when a high frequency component in the vertical direction of an image increases, interlace interference such as line flicker occurs. On the other hand, there is no interlace interference in the progressive signal.

そこで、図7(C)に示すように、インタレースで間引かれている部分の走査線を周囲の走査線で補間し、プログレッシブ信号に変換することによって、インタレース妨害を除去する処理方法がある。このような処理方法は、プログレッシブ変換又は倍密変換と称される。   Therefore, as shown in FIG. 7C, there is a processing method for removing interlace interference by interpolating a scanning line of a portion thinned out by interlacing with a surrounding scanning line and converting it into a progressive signal. is there. Such a processing method is called progressive conversion or double-density conversion.

従来において、プログレッシブ変換のための走査線補間は、動き適応型補間処理で行われる。すなわち、図8に示すように、画像が静止している場合は、前後フィールドの画素を表す信号PA,PBの平均値を×印で示す新しい画素を表す信号PQとするフィールド間補間を行うことによって、新しい走査線を生成する。一方、画像が動いている場合は、上下の画素を表す信号PC,PDの平均値を×印で示す新しい画素を表す信号PQとするフィールド内補間を行うことによって、新しい走査線を生成する。このため、画像が静止している場合は折り返し歪みが少なく解像度も高い良好な変換画質が得られるが、画像が動いている場合は折り返し歪みが多く解像度も低い劣化した変換画質となる。   Conventionally, scanning line interpolation for progressive conversion is performed by motion adaptive interpolation processing. That is, as shown in FIG. 8, when the image is still, inter-field interpolation is performed with the average value of the signals PA and PB representing the pixels in the preceding and following fields as the signal PQ representing the new pixel indicated by the x mark. To generate a new scan line. On the other hand, when the image is moving, a new scanning line is generated by performing intra-field interpolation using an average value of the signals PC and PD representing the upper and lower pixels as a signal PQ representing a new pixel indicated by a cross. For this reason, when the image is stationary, a good conversion image quality with little aliasing distortion and high resolution can be obtained. However, when the image is moving, it becomes a deteriorated conversion image quality with much aliasing distortion and low resolution.

ここで、プログレッシブ信号に変換すべき入力信号が3−2プルダウンや2−2プルダウンによってインタレースに変換された信号の場合には、動き適応型補間処理と異なる方法を採用することによって、画像が動いた場合であっても良好な変換画質を得ることができる。ここで、3−2プルダウンとは、図9に示すようなフレームレート変換のことである。具体的には、24フレーム/秒のフィルムデータ等のプログレッシブ信号A,B,C・・・を60フィールド/秒のNTSC方式等のインタレース信号a,a',a,b',b,c',c,c'・・・に変換するための方法として用いられる。なお、図中「’」の有無は、奇数フィールドと偶数フィールドとの違いを示している。一方、2−2プルダウンとは、図10に示すようなフレームレート変換のことである。具体的には、30フレーム/秒のフィルムデータ等のプログレッシブ信号A,B,C・・・を60フィールド/秒のNTSC方式等のインタレース信号a,a',b,b',c,c'・・・に変換するための方法として用いられる。   Here, when the input signal to be converted to a progressive signal is a signal converted to interlace by 3-2 pulldown or 2-2 pulldown, an image is obtained by adopting a method different from the motion adaptive interpolation processing. Even if it moves, good conversion image quality can be obtained. Here, 3-2 pull-down refers to frame rate conversion as shown in FIG. Specifically, progressive signals A, B, C... Such as film data of 24 frames / second are used as interlace signals a, a ′, a, b ′, b, c of NTSC system of 60 fields / second. Used as a method for converting to ', c, c'. In the figure, the presence or absence of “′” indicates the difference between the odd field and the even field. On the other hand, the 2-2 pulldown refers to frame rate conversion as shown in FIG. More specifically, progressive signals A, B, C... Such as film data of 30 frames / second are converted into interlace signals a, a ′, b, b ′, c, c of NTSC system of 60 fields / second. Used as a method for converting to '...'.

図9、図10に示すように、3−2プルダウンでは、元々1フレームであった画像が3又は2フィールドに振り分けられており、2−2プルダウンでは、元々1フレームであった画像が2フィールドに振り分けられている。したがって、3−2プルダウン又は2−2プルダウンによってインタレースに変換された入力信号の3−2パターン又は2−2パターンが分かれば、同じ1フレームの画像から生成された隣接フィールドで、画像の静止・動きに関係なく、フィールド内挿補間を行ってプログレッシブ信号に変換することができる。ここで、フィールド内挿補間は、補間方法は異なるが図8に示すフィールド間補間と同様に、前フィールドの信号PA又は後フィールドの信号PBを新しい画素を表す信号PQとすることによって新しい走査線を生成するものであるため、折り返し歪みが少なく解像度も高い良好な変換画質が得られる。   As shown in FIGS. 9 and 10, in the 3-2 pulldown, an image that was originally 1 frame is distributed into 3 or 2 fields, and in the 2-2 pulldown, an image that was originally 1 frame is 2 fields. It is distributed to. Therefore, if the 3-2 pattern or 2-2 pattern of the input signal converted to interlace by 3-2 pull-down or 2-2 pull-down is known, the image is stopped in the adjacent field generated from the same one-frame image. Regardless of movement, field interpolation can be performed and converted to a progressive signal. Here, in the field interpolation, although the interpolation method is different, a new scanning line is obtained by setting the previous field signal PA or the subsequent field signal PB to a signal PQ representing a new pixel, similarly to the interfield interpolation shown in FIG. Therefore, a good conversion image quality with little aliasing distortion and high resolution can be obtained.

ところで、3−2プルダウンや2−2プルダウンによってインタレースに変換された信号に通常の60フィールド/秒のインタレース信号が編集により挿入される場合がある。このようなインタレース信号をプログレッシブ信号に変換する場合、通常の60フィールド/秒の画像部分、特に動画像に対しては、同じ1フレームの画像から生成されたフィールドが隣接フィールドに存在しないため、フィールド内挿補間により最適なプログレッシブ信号を得ることができず、画質が劣化してしまうという問題がある。例えば、図11に示すように、2−2プルダウンによってインタレースに変換された信号に60フィールド/秒の丸い物体で示す画像部分が挿入された入力信号をプログレッシブ信号に変換する場合、通常の60フィールド/秒のインタレース信号として丸い物体が動いているため、2−2プルダウンに適用されるフィールド内挿補間によりプログレッシブ信号を得た場合、その画像部分が2重になってしまい、大きく画質を損なうことになる。   By the way, a normal 60 field / second interlace signal may be inserted by editing into a signal converted into an interlace by 3-2 pulldown or 2-2 pulldown. When such an interlace signal is converted into a progressive signal, a field generated from the same one-frame image does not exist in an adjacent field for a normal 60 field / second image portion, particularly a moving image. There is a problem in that an optimal progressive signal cannot be obtained by field interpolation and the image quality deteriorates. For example, as shown in FIG. 11, when an input signal in which an image portion indicated by a round object of 60 fields / second is inserted into a signal converted to interlace by 2-2 pulldown is converted into a progressive signal, Since a round object is moving as an interlace signal of field / second, when a progressive signal is obtained by field interpolation applied to 2-2 pull-down, the image portion is doubled, resulting in a large image quality. You will lose.

このような問題等を解決するために、下記特許文献1には、3−2プルダウンや2−2プルダウンによってインタレースに変換された画像と通常の60フィールド/秒の画像とが混在した画像であっても、画質劣化なく良好にプログレッシブに変換する技術が開示されている。この特許文献1に記載の技術では、現フィールドに対して時間的に後ろに位置するフィールドの被補間走査線と同一位置の走査線信号を走査線補間のために用いた後フィールド内挿補間信号と、現フィールドに対して時間的に前に位置するフィールドの被補間走査線と同一位置の走査線信号を走査線補間のために用いた前フィールド内挿補間信号と、後フィールド内挿補間信号及び前フィールド内挿補間信号の差信号の絶対値であるフレーム間マッチング信号との中から最小の値を示す信号を選択し、動き信号Kとする。そして、この動き信号Kの大きさに応じて、後フィールド内挿補間信号と前フィールド内挿補間信号とを混合したフィールド内挿補間信号と、現フィールドの被補間走査線の上下の走査線を加算して生成した現フィールド内補間信号との混合割合を変化させ、最適な信号を得る。   In order to solve such problems and the like, the following Patent Document 1 describes an image in which an image converted to interlace by 3-2 pulldown or 2-2 pulldown and a normal 60 field / second image are mixed. Even if it exists, the technique of converting into favorable progressive without image quality degradation is disclosed. In the technique described in Patent Document 1, a post-field interpolation signal using a scanning line signal at the same position as an interpolated scanning line in a field located temporally behind the current field for scanning line interpolation. And a previous field interpolation signal using a scanning line signal at the same position as the interpolated scanning line of the field positioned temporally before the current field for scanning line interpolation, and a rear field interpolation signal. The signal indicating the minimum value is selected from the inter-frame matching signal that is the absolute value of the difference signal of the previous field interpolation signal, and is set as the motion signal K. Then, in accordance with the magnitude of the motion signal K, a field interpolation signal obtained by mixing the subsequent field interpolation signal and the previous field interpolation signal, and scanning lines above and below the interpolated scanning line in the current field are obtained. The mixing ratio with the interpolation signal in the current field generated by the addition is changed to obtain an optimum signal.

特開2000−78535号公報JP 2000-78535 A

しかしながら、上述した特許文献1に記載の技術では、フィールドが異なる、すなわち時間が異なる画素のデータを比較して判定しているため、挿入された画像部分が動いている場合には同じ画素の値が異なり、フィールド内補間を優先する処理になる。このため、挿入された画像部分以外の、本来、画質劣化なく良好にプログレッシブに変換することができる部分については、画質が劣化してしまうという問題があった。   However, in the technique described in Patent Document 1 described above, since determination is made by comparing data of pixels having different fields, that is, having different times, the value of the same pixel is used when the inserted image portion is moving. Is different, and the process prioritizes intra-field interpolation. For this reason, there has been a problem that the image quality of the portion other than the inserted image portion that can be converted into progressive progressively without deterioration in image quality deteriorates.

本発明は、このような従来の実情に鑑みて提案されたものであり、3−2プルダウンや2−2プルダウン等によってインタレースに変換された変換信号に例えば60フィールド/秒の通常のインタレース信号が挿入されている場合であっても、すなわち、フィルム等の連続する元画像の画面を所定のシーケンスに基づいて再配置してフレームレートの整合をとるように変換されたインタレース信号に、通常のインタレース信号が挿入されている場合であっても、挿入部分とその他の部分との双方について、画質劣化なく良好にプログレッシブに変換することが可能な画像処理装置及びその方法を提供することを目的とする。   The present invention has been proposed in view of such a conventional situation. For example, a normal interlace of 60 fields / second is converted into a converted signal converted into an interlace by 3-2 pulldown, 2-2 pulldown, or the like. Even when the signal is inserted, that is, the interlace signal converted so that the frame rate is matched by rearranging the screen of a continuous original image such as a film based on a predetermined sequence, To provide an image processing apparatus and method capable of satisfactorily converting progressively without deterioration in image quality in both the inserted portion and other portions even when a normal interlace signal is inserted With the goal.

上述した目的を達成するために、本発明に係る画像処理装置は、元画像の画面を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように3−2プルダウン又は2−2プルダウンによってインタレースに変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブに変換する画像処理装置であって、現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成手段と、上記フィールド内挿補間信号中の注目画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを画素単位で判断する2重画像判断手段と、上記現フィールド内の被補間走査線の上下に位置する走査線からフィールド内補間によって、又は上記現フィールドに対して時間的に後ろに位置し上記被補間走査線と同一位置の走査線と、上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線とからフィールド間補間によって、プログレッシブの補間信号を生成する補間信号生成手段とを備え、上記2重画像判断手段は、上記注目画素について、当該注目画素を含むとともに走査線に直交する直線上の画素のうち、隣接する走査線の画素間の相関よりも1走査線離れた走査線の画素間の相関の方が大きい場合、上記2重画像部分を構成する画素であると判断し、上記フィールド内挿補間信号生成手段により生成された上記注目画素に対応するフィールド内挿補間信号を、当該注目画素に対応する上記フィールド内補間又はフィールド間補間によって生成された上記補間信号で置き換える。 In order to achieve the above-described object, the image processing apparatus according to the present invention arranges the screen of the original image based on a predetermined sequence, and performs 3-2 pull-down so as to match the frame rate of the input video signal. Or an image processing apparatus that progressively converts an interlace signal that includes a conversion signal converted into an interlace by 2-2 pulldown as the video signal, and is located behind the current field in time. Progressive field interpolation by field interpolation from a scan line at the same position as the interpolated scan line, or from the scan line located before the current field in time and at the same position as the interpolated scan line A field interpolation signal generating means for generating a signal and a target pixel in the field interpolation signal A double image judging means for judging whether or not the pixel constitutes a double image portion of the signal, and intra-field interpolation from scanning lines positioned above and below the interpolated scanning line in the current field, Alternatively, a scan line that is located behind the current field and located at the same position as the interpolated scan line, and a scan line located before the current field and located at the same time as the interpolated scan line. Interpolation signal generation means for generating a progressive interpolation signal from the line by inter-field interpolation, and the double image determination means includes, for the target pixel, a straight line including the target pixel and orthogonal to the scanning line. If the correlation between pixels on one scanning line is larger than the correlation between pixels on adjacent scanning lines, it is determined that the pixel constitutes the double image portion, The field interpolated signal corresponding to the pixel of interest generated by the field interpolated signal generating means is replaced with the interpolation signal generated by the intra-field interpolation or inter-field interpolation corresponding to the pixel of interest.

さらに、2重画像判断手段は、注目画素が2重画像部分を構成する画素であると判断した場合には、フィールド内挿補間信号生成手段により生成された注目画素に対応するフィールド内挿補間信号を、その注目画素に対応する所定の置換信号で置き換える。   Further, when the double image determination unit determines that the target pixel is a pixel constituting the double image portion, the field interpolation signal corresponding to the target pixel generated by the field interpolation signal generation unit Is replaced with a predetermined replacement signal corresponding to the target pixel.

ここで、この画像処理装置は、現フィールド内の被補間走査線の上下に位置する走査線からフィールド内補間によって、又は現フィールドに対して時間的に後ろに位置し被補間走査線と同一位置の走査線と、現フィールドに対して時間的に前に位置し被補間走査線と同一位置の走査線とからフィールド間補間によって、プログレッシブの補間信号を生成する補間信号生成手段をさらに備えていてもよく、この場合、2重画像判断手段は、注目画素が2重画像部分を構成する画素であると判断した場合には、所定の置換信号としてフィールド内挿補間信号中の当該注目画素を補間信号中の当該注目画素と同一位置の画素で置き換える。   Here, the image processing apparatus is located at the same position as the interpolated scan line that is located behind the current field by intra-field interpolation from the scan line located above or below the interpolated scan line in the current field Interpolating signal generating means for generating a progressive interpolation signal by inter-field interpolation from the scanning line and the scanning line located before the current field in time and located at the same position as the interpolated scanning line. In this case, when the double image determination unit determines that the target pixel is a pixel constituting the double image portion, the double pixel determination unit interpolates the target pixel in the field interpolation signal as a predetermined replacement signal. Replace with a pixel at the same position as the target pixel in the signal.

また、上述した目的を達成するために、本発明に係る画像処理方法は、元画像の画面を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように3−2プルダウン又は2−2プルダウンによってインタレースに変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブに変換する画像処理方法であって、現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成工程と、上記フィールド内挿補間信号中の注目画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを画素単位で判断する2重画像判断工程と、上記現フィールド内の被補間走査線の上下に位置する走査線からフィールド内補間によって、又は上記現フィールドに対して時間的に後ろに位置し上記被補間走査線と同一位置の走査線と、上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線とからフィールド間補間によって、プログレッシブの補間信号を生成する補間信号生成工程とを備え、上記2重画像判断工程では、上記注目画素について、当該注目画素を含むとともに走査線に直交する直線上の画素のうち、隣接する走査線の画素間の相関よりも1走査線離れた走査線の画素間の相関の方が大きい場合、上記2重画像部分を構成する画素であると判断し、上記フィールド内挿補間信号生成工程により生成された上記注目画素に対応するフィールド内挿補間信号を、当該注目画素に対応する上記フィールド内補間又はフィールド間補間によって生成された上記補間信号で置き換える。 In order to achieve the above-described object, the image processing method according to the present invention arranges the screen of the original image based on a predetermined sequence so as to match the frame rate of the input video signal. An image processing method for progressively converting an interlaced signal including a conversion signal converted into an interlace by 2-pulldown or 2-2 pulldown as the video signal, which is positioned behind the current field in time. In the progressive field, the scanning line at the same position as the interpolated scanning line of the current field, or the scanning line located before the current field in time and by the field interpolation from the scanning line at the same position as the interpolated scanning line. A field interpolation signal generation step for generating an interpolation signal, and a target pixel in the field interpolation signal is the field A double image determination step for determining whether or not the pixel constitutes a double image portion of the interpolation signal, and intra-field interpolation from scanning lines positioned above and below the interpolated scanning line in the current field; Or a scan line that is located behind the current field in time and located at the same position as the interpolated scan line, and that is located before the current field in time and located at the same position as the interpolated scan line. An interpolation signal generation step of generating a progressive interpolation signal from the scanning line by inter-field interpolation. In the double image determination step, for the target pixel, a straight line that includes the target pixel and is orthogonal to the scanning line Among the upper pixels, if the correlation between the pixels on the scanning line one scan line apart is larger than the correlation between the pixels on the adjacent scanning line, it is determined that the pixel constitutes the double image portion. And, replacing the fields in the field interpolated signal corresponding to the pixel of interest generated by the inter-signal generating step interpolating, by the interpolation signal generated by the intra-field interpolation or inter-field interpolation corresponding to the pixel of interest .

さらに、2重画像判断工程では、注目画素が2重画像部分を構成する画素であると判断した場合には、フィールド内挿補間信号生成工程にて生成された注目画素に対応するフィールド内挿補間信号を、その注目画素に対応する所定の置換信号で置き換える。   Further, in the double image determining step, when it is determined that the target pixel is a pixel constituting the double image portion, the field interpolation corresponding to the target pixel generated in the field interpolation signal generation step is performed. The signal is replaced with a predetermined replacement signal corresponding to the target pixel.

ここで、この画像処理方法は、現フィールド内の被補間走査線の上下に位置する走査線からフィールド内補間によって、又は現フィールドに対して時間的に後ろに位置し被補間走査線と同一位置の走査線と、現フィールドに対して時間的に前に位置し被補間走査線と同一位置の走査線とからフィールド間補間によって、プログレッシブの補間信号を生成する補間信号生成工程をさらに有していてもよく、この場合、2重画像判断工程では、注目画素が2重画像部分を構成する画素であると判断した場合には、所定の置換信号としてフィールド内挿補間信号中の当該注目画素を補間信号中の当該注目画素と同一位置の画素で置き換える。   Here, this image processing method is the same position as the interpolated scanning line that is located behind the current field by interpolating from the scanning line positioned above and below the interpolated scanning line in the current field or temporally behind the current field. And an interpolation signal generation step of generating a progressive interpolation signal by inter-field interpolation from the current scan line and a scan line located before the current field in the same position as the interpolated scan line. In this case, in the double image determining step, when it is determined that the target pixel is a pixel constituting the double image portion, the target pixel in the field interpolation signal is used as a predetermined replacement signal. Replace with a pixel at the same position as the target pixel in the interpolation signal.

このような画像処理装置及びその方法では、3−2プルダウン又は2−2プルダウン等によってインタレースに変換された変換信号と例えば60フィールド/秒の通常のインタレース信号とが混在した信号をフィールド内挿補間によってプログレッシブのフィールド内挿補間信号に変換する際に、画素単位でフィールド内挿補間信号中の2重画像部分の検出を行い、2重画像部分を構成する画素については、動き適応型補間等により得られた他の信号中の同一画素で置き換える。   In such an image processing apparatus and its method, a signal in which a converted signal converted to interlace by 3-2 pulldown or 2-2 pulldown and a normal interlace signal of, for example, 60 fields / second are mixed is included in the field. When converting to a progressive field interpolation signal by interpolation, a double image portion in the field interpolation signal is detected on a pixel-by-pixel basis, and motion adaptive interpolation is performed for pixels constituting the double image portion. It replaces with the same pixel in the other signal obtained by etc.

本発明に係る画像処理装置及びその方法によれば、3−2プルダウン又は2−2プルダウン等によってインタレースに変換された変換信号と例えば60フィールド/秒の通常のインタレース信号とが混在した信号をフィールド内挿補間によってプログレッシブのフィールド内挿補間信号に変換する際に、その変換信号と通常のインタレース信号とを画素単位で確実に判別することができる。さらに、フィールド内挿補間信号中の注目画素が2重画像部分を構成するか否かを画素単位で判断し、その判断結果に基づき、2重画像部分を構成する画素については、動き適応型補間等により得られた他の信号中の同一画素で置き換えることにより、例えば60フィールド/秒の通常のインタレース信号が挿入された部分とその他の部分との双方について、画質劣化なく良好にプログレッシブに変換することが可能となる。   According to the image processing apparatus and method of the present invention, a signal in which a converted signal converted to interlace by 3-2 pulldown or 2-2 pulldown and a normal interlace signal of, for example, 60 fields / second are mixed. Is converted into a progressive field interpolation signal by field interpolation, the converted signal and a normal interlace signal can be reliably discriminated in pixel units. Further, whether or not the pixel of interest in the field interpolation signal constitutes a double image portion is determined on a pixel-by-pixel basis. Based on the determination result, motion adaptive interpolation is performed on the pixels constituting the double image portion. By replacing with the same pixel in other signals obtained by the above, etc., for example, both the part where the normal interlace signal of 60 fields / second is inserted and the other part are converted to progressive well without deterioration in image quality It becomes possible to do.

以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。この実施の形態は、本発明を、3−2プルダウンや2−2プルダウンによってインタレースに変換された変換信号に60フィールド/秒の通常のインタレース信号が挿入されている場合であっても、挿入部分とその他の部分との双方について、画質劣化なく良好にプログレッシブに変換することが可能な画像処理装置及びその方法に適用したものである。   Hereinafter, specific embodiments to which the present invention is applied will be described in detail with reference to the drawings. In this embodiment, even when a normal interlace signal of 60 fields / second is inserted in the converted signal converted into the interlace by the 3-2 pulldown or the 2-2 pulldown, The present invention is applied to an image processing apparatus and method that can convert progressively satisfactorily without deterioration in image quality for both the insertion portion and other portions.

先ず、本実施の形態における画像処理装置の概略構成の一例を図1に示す。図1に示すように、本実施の形態における画像処理装置100は、フロント画像処理部10と、プログレッシブ変換部11と、表示装置駆動回路12と、表示装置13とから構成されている。   First, an example of a schematic configuration of the image processing apparatus according to the present embodiment is shown in FIG. As shown in FIG. 1, the image processing apparatus 100 according to the present embodiment includes a front image processing unit 10, a progressive conversion unit 11, a display device driving circuit 12, and a display device 13.

フロント画像処理部10は、例えばNTSC信号、PAL信号、BSデジタルチューナからのHDTV信号など、様々な信号ソースからの画像信号を入力する。なお、画像信号のフォーマットは、525i(ライン数525本のインタレース信号)、625i、1125iなどのインタレース信号である。   The front image processing unit 10 inputs image signals from various signal sources such as an NTSC signal, a PAL signal, and an HDTV signal from a BS digital tuner. The format of the image signal is an interlace signal such as 525i (interlace signal with 525 lines), 625i, 1125i, or the like.

プログレッシブ変換部11は、525i信号を525p信号(ライン数525本のプログレッシブ信号)に、625i信号を625p信号に、1125i信号を1125p信号にそれぞれ変換する。この際、プログレッシブ変換部11は、3−2プルダウンや2−2プルダウンによってインタレースに変換された信号に通常の60フィールド/秒の信号が挿入されている場合であっても、後述するように、挿入部分とその他の部分との双方について、画質劣化なく良好にプログレッシブに変換することができる。プログレッシブ変換部11は、得られたプログレッシブ信号を表示装置駆動回路12に供給する。   The progressive converter 11 converts the 525i signal into a 525p signal (progressive signal with 525 lines), the 625i signal into a 625p signal, and the 1125i signal into a 1125p signal. At this time, the progressive conversion unit 11 will be described later even when a normal signal of 60 fields / second is inserted into the signal converted to interlace by 3-2 pulldown or 2-2 pulldown. Both the insertion part and the other part can be converted into progressive well without deterioration in image quality. The progressive conversion unit 11 supplies the obtained progressive signal to the display device drive circuit 12.

表示装置駆動回路12は、表示装置13を駆動し、プログレッシブ変換部11から供給されたプログレッシブ信号を表示させる。この表示装置13としては、陰極線管、液晶ディスプレイ、プラズマディスプレイなど、種々の表示装置を用いることができる。   The display device driving circuit 12 drives the display device 13 to display the progressive signal supplied from the progressive conversion unit 11. As this display device 13, various display devices such as a cathode ray tube, a liquid crystal display, and a plasma display can be used.

なお、表示装置駆動回路12には、標準解像度又は低解像度の画像を、そこに含まれていない高域成分をも含む高解像度の画像に変換する解像度変換回路を含めるようにしても構わない。このような解像度変換回路については、例えば特開平7−193789号公報や特開平11−55630号公報等に記載されている。   Note that the display device drive circuit 12 may include a resolution conversion circuit that converts a standard resolution or low resolution image into a high resolution image including a high frequency component that is not included therein. Such resolution conversion circuits are described in, for example, Japanese Patent Application Laid-Open Nos. 7-193789 and 11-55630.

続いて、上述したプログレッシブ変換部11の内部構成の一例を図2に示す。フロント画像処理部10から入力されたインタレース信号は、現在信号としてプログレッシブ変換部11の複数のブロックに供給される。この現在信号は、フィールド遅延器20によって1フィールド分の時間だけ遅延されて過去1信号に変換され、フィールド遅延器21によってさらに1フィールド分の時間だけ遅延されて過去2信号に変換される。   Next, FIG. 2 shows an example of the internal configuration of the progressive conversion unit 11 described above. The interlace signal input from the front image processing unit 10 is supplied to a plurality of blocks of the progressive conversion unit 11 as a current signal. This current signal is delayed by a time corresponding to one field by the field delay unit 20 and converted into the past one signal, and further delayed by a time corresponding to one field by the field delay unit 21 and converted into the past two signals.

動き検出部22は、現在信号、過去1信号及び過去2信号を用いて動き検出を行う。動き検出の判定には、メモリ23に記憶された、過去にその画素が動きであったか静止であったかの動き検出判定履歴を使う。動き検出部22は、動き検出結果を動き適応型補間信号生成部24に供給する。そして、動き適応型補間信号生成部24は、この動き検出結果に基づいてフィールド間補間又はフィールド内補間を行い、プログレッシブの動き適応型補間信号を生成する。具体的には、画像が静止している場合は、前後フィールドの画素の平均値を新しい画素とするフィールド間補間を行うことによって、新しい走査線を生成する。一方、画像が動いている場合は、上下の画素の平均値を新しい画素とするフィールド内補間を行うことによって、新しい走査線を生成する。動き適応型補間信号生成部24は、生成した動き適応型補間信号を補間信号選択部26及びプルダウンエラー検出部28に供給する。   The motion detection unit 22 performs motion detection using the current signal, the past 1 signal, and the past 2 signal. For determination of motion detection, a motion detection determination history stored in the memory 23 as to whether the pixel has been moving or stationary in the past is used. The motion detection unit 22 supplies the motion detection result to the motion adaptive interpolation signal generation unit 24. The motion adaptive interpolation signal generation unit 24 performs inter-field interpolation or intra-field interpolation based on the motion detection result, and generates a progressive motion adaptive interpolation signal. Specifically, when the image is stationary, a new scanning line is generated by performing inter-field interpolation using the average value of the pixels in the preceding and following fields as a new pixel. On the other hand, when the image is moving, a new scanning line is generated by performing intra-field interpolation using the average value of the upper and lower pixels as a new pixel. The motion adaptive interpolation signal generation unit 24 supplies the generated motion adaptive interpolation signal to the interpolation signal selection unit 26 and the pull-down error detection unit 28.

プルダウン検出部25は、現在信号、過去1信号及び過去2信号から、3−2プルダウン又は2−2プルダウンの検出を行う。具体的には、入力信号が3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号である場合、同じフレームの画像から生成されたフィールドが隣接フィールドに必ず存在するため、例えばフィールド間の動き(フィールド間の相関)の有無を検出することによって、3−2プルダウン又は2−2プルダウンを検出することができる。なお、この3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号に通常の信号が含まれていても、フィールド間の相関の有無を所定の閾値以上であるか否かにより判定することで、検出が可能である。プルダウン検出部25は、このプルダウン検出結果を補間信号選択部26及びプルダウンエラー検出部28に供給する。   The pull-down detection unit 25 detects 3-2 pull-down or 2-2 pull-down from the current signal, the past 1 signal, and the past 2 signal. Specifically, when the input signal is a signal converted to interlace by 3-2 pulldown or 2-2 pulldown, a field generated from an image of the same frame always exists in an adjacent field. By detecting the presence or absence of motion (correlation between fields), 3-2 pulldown or 2-2 pulldown can be detected. Note that, even if a normal signal is included in the signal converted to interlace by this 3-2 pulldown or 2-2 pulldown, the presence / absence of correlation between fields is determined by whether or not it is equal to or greater than a predetermined threshold value. Thus, detection is possible. The pull-down detection unit 25 supplies the pull-down detection result to the interpolation signal selection unit 26 and the pull-down error detection unit 28.

補間信号選択部26は、動き適応型補間信号、現在信号及び過去2信号と、プルダウン検出結果とに基づいて、補間信号を決定する。すなわち、入力信号が3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号である場合、同じフレームの画像から生成されたフィールドが隣接フィールドに必ず存在するため、補間信号選択部26は、その同じフレームの画像から生成されたフィールドの信号(現在信号又は過去2信号)を補間信号として倍速変換部27に供給する。また、補間信号選択部26は、入力信号が3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号でない場合、動き適応型補間信号生成部24の出力信号を補間信号として倍速変換部27に供給する。倍速変換部27は、この補間信号と過去1信号とを入力信号の2倍の速度で交互に読み出すことによってプログレッシブのフィールド内挿補間信号に変換し、このフィールド内挿補間信号をプルダウンエラー検出部28に供給する。   The interpolation signal selection unit 26 determines an interpolation signal based on the motion adaptive interpolation signal, the current signal and the past two signals, and the pull-down detection result. That is, when the input signal is a signal converted to interlace by 3-2 pulldown or 2-2 pulldown, the field generated from the image of the same frame always exists in the adjacent field. Then, a field signal (current signal or past two signals) generated from the image of the same frame is supplied to the double speed conversion unit 27 as an interpolation signal. In addition, when the input signal is not a signal converted to interlace by 3-2 pulldown or 2-2 pulldown, the interpolation signal selection unit 26 uses the output signal of the motion adaptive interpolation signal generation unit 24 as an interpolation signal as a double speed conversion unit. 27. The double speed conversion unit 27 converts the interpolated signal and the past one signal into a progressive field interpolation signal by alternately reading at a speed twice that of the input signal, and the field interpolation signal is converted into a pull-down error detection unit. 28.

ここで、従来のプログレッシブ変換部は、このフィールド内挿補間信号をそのまま表示装置駆動回路に供給していたが、3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号に60フィールド/秒の信号が挿入された信号が入力画像である場合には、挿入された画像部分が2重になり、大きく画質を損なう虞がある。   Here, the conventional progressive conversion unit supplies the field interpolation signal to the display device driving circuit as it is. However, the signal converted to interlace by 3-2 pulldown or 2-2 pulldown is converted to 60 fields / When the signal into which the second signal is inserted is an input image, the inserted image portion is doubled, and there is a possibility that the image quality is greatly impaired.

そこで、本実施の形態におけるプログレッシブ変換部11は、倍速変換部27の後段にプルダウンエラー検出部28を備えており、フィールド内挿補間信号を評価して、2重画像エラーを検出すれば、フィールド内挿補間信号を動き適応型補間信号に交換する。特に、プルダウンエラー検出部28は、画素単位で周囲の画素の情報からエラー検出を行い、2重画像エラーを検出した場合には、画素単位でフィールド内挿補間信号を動き適応型補間信号で置き換える。なお、この2重画像の検出は、プルダウン検出部25で入力信号が3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号であると判断され、補間信号選択部26にて現在信号又は過去2信号が被補間画素として使われた時だけ行われる。   Therefore, the progressive conversion unit 11 in this embodiment includes a pull-down error detection unit 28 subsequent to the double-speed conversion unit 27. If the field interpolation signal is evaluated and a double image error is detected, the field conversion is performed. The interpolation signal is exchanged for a motion adaptive interpolation signal. In particular, the pull-down error detection unit 28 detects an error from information on surrounding pixels in units of pixels, and when a double image error is detected, replaces the field interpolation signal with a motion adaptive interpolation signal in units of pixels. . The detection of this double image is determined by the pull-down detection unit 25 that the input signal is a signal converted to interlace by 3-2 pull-down or 2-2 pull-down, and the interpolation signal selection unit 26 determines the current signal. Alternatively, it is performed only when the past two signals are used as interpolated pixels.

このプルダウンエラー検出部28の内部構成の一例を図3に示す。倍速変換部27から供給されたフィールド内挿補間信号は、ライン遅延器30で1ライン分遅延される。さらに、ライン遅延器31,32,33でそれぞれ1ライン分遅延されて、最終的にA、B、C、D、Eの各信号が得られる。信号A、B、C、D、Eの位置関係は、図4に示す通りである。なお、図中点線は、フィールド内挿補間によって生成された走査線であり、図中直線は、入力信号そのままの走査線である。   An example of the internal configuration of the pull-down error detection unit 28 is shown in FIG. The field interpolation signal supplied from the double speed converter 27 is delayed by one line by the line delay unit 30. Further, the signals are delayed by one line by the line delay units 31, 32, and 33, respectively, and finally A, B, C, D, and E signals are obtained. The positional relationship between the signals A, B, C, D, and E is as shown in FIG. A dotted line in the figure is a scanning line generated by field interpolation, and a straight line in the figure is a scanning line as it is as an input signal.

ここで、3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号の場合、プログレッシブ変換後の隣接するラインは、元々同じフレームであったため、相関が強いはずである。逆に60フィールド/秒の信号の場合、上下間のライン相関よりもインタレース時の上下ライン、つまりプログレッシブ時の2ライン間隔に相関が強く出るはずである。図3に示す構成のプルダウンエラー検出部28は、この相関の違いを利用して、3−2プルダウン又は2−2プルダウンによってインタレースに変換された信号と60フィールド/秒の信号とを識別する。   Here, in the case of a signal converted to interlace by 3-2 pull-down or 2-2 pull-down, the adjacent lines after progressive conversion were originally the same frame, and therefore should have a strong correlation. Conversely, in the case of a signal of 60 fields / second, the correlation should be stronger in the upper and lower lines at the time of interlacing, that is, the interval between two lines at the time of progressive, than the line correlation between the upper and lower sides. The pull-down error detection unit 28 having the configuration shown in FIG. 3 uses this difference in correlation to discriminate between a signal converted to interlace by 3-2 pull-down or 2-2 pull-down and a signal of 60 fields / second. .

差分絶対値演算部34〜37は、隣接ライン間の画素データの差分絶対値を計算する。すなわち、差分絶対値演算部34は、信号Aと信号Bとの差分絶対値を計算し、差分絶対値演算部35は、信号Bと信号Cとの差分絶対値を計算する。同様に、差分絶対値演算部36は、信号Cと信号Dとの差分絶対値を計算し、差分絶対値演算部37は、信号Dと信号Eとの差分絶対値を計算する。1ライン差分絶対値平均演算部38は、この差分絶対値演算部34〜37で計算された差分絶対値の平均値を求め、この平均値をフリップフロップ(FF)39に供給する。フリップフロップ39〜42によって1ライン差分絶対値の平均値が周囲5画素分について供給されると、周辺平均演算部43は、この周囲5画素分の平均値を計算し、この平均値を2重画像判断部53に供給する。   The difference absolute value calculation units 34 to 37 calculate the difference absolute value of the pixel data between adjacent lines. That is, the difference absolute value calculation unit 34 calculates the difference absolute value between the signal A and the signal B, and the difference absolute value calculation unit 35 calculates the difference absolute value between the signal B and the signal C. Similarly, the difference absolute value calculation unit 36 calculates the difference absolute value between the signal C and the signal D, and the difference absolute value calculation unit 37 calculates the difference absolute value between the signal D and the signal E. The one-line difference absolute value average calculation unit 38 obtains an average value of the difference absolute values calculated by the difference absolute value calculation units 34 to 37 and supplies the average value to the flip-flop (FF) 39. When the average value of the absolute value of one line difference is supplied for the surrounding five pixels by the flip-flops 39 to 42, the surrounding average calculation unit 43 calculates the average value for the surrounding five pixels and doubles this average value. The image is supplied to the image determination unit 53.

一方、差分絶対値演算部44〜46は、1ライン離れたライン間の画素データの差分絶対値を計算する。すなわち、差分絶対値演算部44は、信号Aと信号Cとの差分絶対値を計算し、差分絶対値演算部45は、信号Bと信号Dとの差分絶対値を計算し、差分絶対値演算部46は、信号Cと信号Eとの差分絶対値を計算する。2ライン差分絶対値平均演算部47は、この差分絶対値演算部44〜46で計算された差分絶対値の平均値を求め、この平均値をフリップフロップ48に供給する。フリップフロップ48〜51によって2ライン差分絶対値の平均値が周囲5画素分について供給されると、周辺平均演算部52は、この周囲5画素分の平均値を計算し、この平均値を2重画像判断部53に供給する。   On the other hand, the difference absolute value calculation units 44 to 46 calculate the difference absolute value of the pixel data between the lines separated by one line. That is, the difference absolute value calculation unit 44 calculates the difference absolute value between the signal A and the signal C, and the difference absolute value calculation unit 45 calculates the difference absolute value between the signal B and the signal D, thereby calculating the difference absolute value calculation. The unit 46 calculates the absolute difference between the signal C and the signal E. The two-line difference absolute value average calculation unit 47 obtains an average value of the difference absolute values calculated by the difference absolute value calculation units 44 to 46 and supplies the average value to the flip-flop 48. When the average value of the two-line difference absolute value is supplied for the surrounding five pixels by the flip-flops 48 to 51, the surrounding average calculation unit 52 calculates the average value for the surrounding five pixels and doubles the average value. The image is supplied to the image determination unit 53.

2重画像判断部53は、周辺平均演算部43から供給された平均値と周辺平均演算部52から供給された平均値とを比較し、後者の方が小さければ、すなわち1ライン離れたライン間の相関の方が強ければ、2重画像発生と判断する。2重画像判断部53は、この判断結果を出力選択部55に供給する。   The double image determination unit 53 compares the average value supplied from the peripheral average calculation unit 43 with the average value supplied from the peripheral average calculation unit 52, and if the latter is smaller, that is, between lines separated by one line. If the correlation is stronger, it is determined that a double image is generated. The double image determination unit 53 supplies the determination result to the output selection unit 55.

出力選択部55には、2ライン遅延器54で2ライン分遅延された動き適応型補間信号及びC信号と、プルダウン検出結果とが供給されている。出力選択部55は、2重画像判断部53から2重画像が発生した旨を受け取った場合には、C信号(フィールド内挿補間信号)の画素を動き適応型補間信号中の同一位置の画素で置き換えて出力し、2重画像エラーの発生を回避する。   The output selection unit 55 is supplied with the motion adaptive interpolation signal and the C signal delayed by two lines by the two-line delay unit 54 and the pull-down detection result. When the output selection unit 55 receives from the double image determination unit 53 that the double image has been generated, the output selection unit 55 uses the pixel of the C signal (field interpolation signal) as the pixel at the same position in the motion adaptive interpolation signal. To avoid the occurrence of a double image error.

プルダウンエラー検出部の内部構成の他の例を図5に示す。図3と同様に、倍速変換部27から供給されたフィールド内挿補間信号は、ライン遅延器60で1ライン分遅延される。さらに、ライン遅延器61,62,63でそれぞれ1ライン分遅延されて、最終的に各信号A、B、C、D、Eが得られる。   Another example of the internal configuration of the pull-down error detection unit is shown in FIG. As in FIG. 3, the field interpolation signal supplied from the double speed conversion unit 27 is delayed by one line by the line delay unit 60. Further, the signals are delayed by one line by the line delay units 61, 62 and 63, respectively, and finally the signals A, B, C, D and E are obtained.

平均値演算部64は、信号A、B、C、D、Eの平均値を計算し、2値化部65は、信号A、B、C、D、Eを2値信号A'、B'、C'、D'、E'に変換する。具体的には、画素データが信号A、B、C、D、Eの平均値よりも大きければ例えば“1”とし、小さければ例えば“0”とする。2重画像判断部66は、5ライン分の2値パターンが所定のパターンと一致する場合には2重画像発生と判断する。   The average value calculation unit 64 calculates the average value of the signals A, B, C, D, and E, and the binarization unit 65 converts the signals A, B, C, D, and E into the binary signals A ′ and B ′. , C ′, D ′, and E ′. Specifically, if the pixel data is larger than the average value of the signals A, B, C, D, and E, for example, “1” is set, and if the pixel data is smaller, for example, “0” is set. The double image determination unit 66 determines that a double image is generated when the binary pattern for five lines matches a predetermined pattern.

5ライン分の2値パターンの例を図6に示す。図6に示すように、5ライン分の2値パターンが、(1、0、1、0、1)又は(0、1、0、1、0)というパターンと一致した場合、すなわち1ライン離れたライン間の相関の方が強い場合には、2重画像有りと判断し、判断結果をフリップフロップ67に供給する。フリップフロップ67〜70によって2重画像の判断結果が同一走査線上の周囲5画素分について供給されると、周辺総合2重画像判断部71は、この周囲5画素分の判断結果から、2重画像が発生しているか否かを総合的に判断し、判断結果を出力選択部73に供給する。例えば、周辺総合2重画像判断部71は、周囲5画素の2値パターンが全て上述した2重画像のパターンと一致した場合に、2重画像発生と判断する。   An example of a binary pattern for five lines is shown in FIG. As shown in FIG. 6, when the binary pattern for five lines matches the pattern (1, 0, 1, 0, 1) or (0, 1, 0, 1, 0), that is, one line apart. When the correlation between the lines is stronger, it is determined that there is a double image, and the determination result is supplied to the flip-flop 67. When the determination result of the double image is supplied by the flip-flops 67 to 70 for the surrounding five pixels on the same scanning line, the peripheral comprehensive double image determination unit 71 determines the double image from the determination result for the five surrounding pixels. Is comprehensively determined, and the determination result is supplied to the output selection unit 73. For example, the peripheral comprehensive double image determination unit 71 determines that a double image has been generated when the binary patterns of the five surrounding pixels all match the above-described double image pattern.

出力選択部73には、2ライン遅延器72で2ライン分遅延された動き適応型補間信号及びC信号と、プルダウン検出結果とが供給されている。出力選択部73は、周辺総合2重画像判断部71から2重画像が発生した旨を受け取った場合には、C信号(フィールド内挿補間信号)の画素を動き適応型補間信号中の同一位置の画素で置き換えて出力し、2重画像エラーの発生を回避する。   The output selection unit 73 is supplied with the motion adaptive interpolation signal and the C signal delayed by two lines by the two-line delay unit 72 and the pull-down detection result. When the output selection unit 73 receives that the double image has been generated from the peripheral comprehensive double image determination unit 71, the output selection unit 73 moves the pixel of the C signal (field interpolation signal) to the same position in the motion adaptive interpolation signal. To avoid occurrence of a double image error.

以上説明したように、本実施の形態におけるプログレッシブ変換部11によれば、3−2プルダウンや2−2プルダウンによってインタレースに変換された信号に通常の60フィールド/秒の信号が挿入された入力信号をプログレッシブ信号に変換する際に、フィールド内挿補間信号と動き適応型補間信号とを生成し、画素単位でフィールド内挿補間信号中の2重画像エラー検出を行い、2重画像エラーを検出した場合には、画素単位でフィールド内挿補間信号を動き適応型補間信号で置き換えることにより、大きく画質を損なう2重画像エラーを回避し、挿入部分とその他の部分との双方について、画質劣化なく良好にプログレッシブに変換することが可能となる。   As described above, according to the progressive conversion unit 11 in the present embodiment, an input in which a normal signal of 60 fields / second is inserted into a signal converted to interlace by 3-2 pulldown or 2-2 pulldown. When converting a signal into a progressive signal, a field interpolation signal and a motion adaptive interpolation signal are generated, and a double image error is detected in the field interpolation signal in units of pixels to detect a double image error. In such a case, the field interpolation signal is replaced with a motion adaptive interpolation signal in units of pixels, thereby avoiding a double image error that greatly impairs the image quality, and there is no deterioration in image quality in both the insertion portion and the other portions. It becomes possible to convert to progressive well.

なお、本発明は上述した実施の形態のみに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能であることは勿論である。   It should be noted that the present invention is not limited to the above-described embodiments, and various modifications can be made without departing from the scope of the present invention.

例えば、上述した実施の形態では、垂直5ライン、水平5画素分の情報を用いて2重画像エラー検出を行ったが、本発明はこれに限定されるものではなく、ライン数や画素数を増減させても構わない。   For example, in the above-described embodiment, double image error detection is performed using information for five vertical lines and five horizontal pixels. However, the present invention is not limited to this, and the number of lines and the number of pixels are not limited. It may be increased or decreased.

また、上述した実施の形態では、フレームレートが60フィールド/秒の場合について説明したが、本発明はこれに限定されるものではなく、50フィールド/秒で表示されるPAL信号のように、各種フォーマットに基づく所望のフレームレートの表示に広く適用できる。   In the above-described embodiment, the case where the frame rate is 60 fields / second has been described. However, the present invention is not limited to this, and various types of PAL signals displayed at 50 fields / second are used. It can be widely applied to display of a desired frame rate based on the format.

また、本発明は3−2プルダウンや2−2プルダウンの他、所定のシーケンスに基づき元画像の画面を配置してフレームレートを変換した信号に広く適用できる。   In addition to the 3-2 pulldown and the 2-2 pulldown, the present invention can be widely applied to signals obtained by converting the frame rate by arranging the original image screen based on a predetermined sequence.

また、上述した実施の形態では、プルダウン検出部25が2重画像部分を検出した際にフィールド内挿補間信号を動き適用型補間信号で置き換える例について説明したが、本発明はこれに限定されるものではなく、例えば単にフィールド内補間した信号に置き換えるなど、2重画像が改善される他の信号に置き換える場合に広く適用できる。   In the above-described embodiment, the example in which the field interpolation signal is replaced with the motion applied interpolation signal when the pull-down detection unit 25 detects the double image portion has been described. However, the present invention is limited to this. However, the present invention can be widely applied to a case where the signal is replaced with another signal that improves the double image, for example, simply replaced with an inter-field interpolated signal.

以上説明した本発明によれば、画素単位でフィールド内挿補間信号と動き適応型補間信号とを選択することができるため、3−2プルダウンや2−2プルダウン等によってインタレースに変換された変換信号に例えば60フィールド/秒の通常のインタレース信号が挿入されている場合であっても、挿入部分とその他の部分との双方について、画質劣化なく良好にプログレッシブに変換することが可能となる。   According to the present invention described above, since a field interpolation signal and a motion adaptive interpolation signal can be selected in units of pixels, conversion converted to interlace by 3-2 pulldown, 2-2 pulldown, or the like. Even when a normal interlace signal of, for example, 60 fields / second is inserted into the signal, both the inserted portion and the other portion can be converted into progressive well without deterioration in image quality.

本実施の形態における画像処理装置の概略構成の一例を示す図である。It is a figure which shows an example of schematic structure of the image processing apparatus in this Embodiment. 同画像処理装置におけるプログレッシブ変換部の内部構成の一例を示す図である。It is a figure which shows an example of an internal structure of the progressive conversion part in the image processing apparatus. 同プログレッシブ変換部におけるプルダウンエラー検出部の内部構成の一例を示す図である。It is a figure which shows an example of the internal structure of the pull-down error detection part in the progressive conversion part. ライン遅延された各信号の位置を示す図である。It is a figure which shows the position of each signal by which line delay was carried out. 同プログレッシブ変換部におけるプルダウンエラー検出部の内部構成の他の例を示す図である。It is a figure which shows the other example of the internal structure of the pull-down error detection part in the progressive conversion part. 5ライン分の2値パターンの例を示す図である。It is a figure which shows the example of the binary pattern for 5 lines. 各種走査線構造を示す図であり、同図(A)はインタレース信号を示し、同図(B)はプログレッシブ信号を示し、同図(C)は走査線補間によってインタレース信号をプログレッシブ信号に変換した信号を示す。FIG. 4A is a diagram showing various scanning line structures, FIG. 2A shows an interlace signal, FIG. 2B shows a progressive signal, and FIG. 2C shows an interlace signal converted into a progressive signal by scanning line interpolation. The converted signal is shown. フィールド間補間及びフィールド内補間を説明する図である。It is a figure explaining inter-field interpolation and intra-field interpolation. 3−2プルダウンを説明するための図である。It is a figure for demonstrating 3-2 pulldown. 2−2プルダウンを説明するための図である。It is a figure for explaining 2-2 pulldown. 2−2プルダウンによってインタレースに変換された信号に60フィールド/秒の画像部分が挿入された入力信号をプログレッシブ信号に変換する場合の問題点を説明するための図である。It is a figure for demonstrating the problem at the time of converting the input signal by which the image part of 60 fields / second was inserted into the signal converted into the interlace by 2-2 pulldown into a progressive signal.

符号の説明Explanation of symbols

10 フロント画像処理部、11 プログレッシブ変換部、12 表示装置駆動回路、13 表示装置、20,21 フィールド遅延器、22 動き検出部、23 メモリ、24 動き適応型補間データ生成部、31〜33 ライン遅延器、34〜37 差分絶対値演算部、38 1ライン差分絶対値平均演算部、39〜42 フリップフロップ、43 周辺平均演算部、44〜46 差分絶対値演算部、47 2ライン差分絶対値平均演算部、48〜51 フリップフロップ、52 周辺平均演算部、53 2重画像判断部、54 2ライン遅延器、55 出力選択部、60〜63 ライン遅延器、64 平均値演算部、65 2値化部、66 2重画像判断部、67〜70 フリップフロップ、71 周辺総合2重画像判断部、72 2ライン遅延器、73 出力選択部、100 画像処理装置   DESCRIPTION OF SYMBOLS 10 Front image processing part, 11 Progressive conversion part, 12 Display apparatus drive circuit, 13 Display apparatus, 20, 21 Field delay device, 22 Motion detection part, 23 Memory, 24 Motion adaptive interpolation data generation part, 31-33 Line delay , 34-37 difference absolute value calculation unit, 38 1-line difference absolute value average calculation unit, 39-42 flip-flop, 43 peripheral average calculation unit, 44-46 difference absolute value calculation unit, 47 2-line difference absolute value average calculation 48-51 flip-flop, 52 peripheral average calculation unit, 53 double image determination unit, 54 2-line delay unit, 55 output selection unit, 60-63 line delay unit, 64 average value calculation unit, 65 binarization unit 66 double image determination unit, 67-70 flip-flop, 71 peripheral total double image determination unit, 72 2-line delay unit, 73 Output selection unit, 100 image processing apparatus

Claims (12)

元画像の画面を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように3−2プルダウン又は2−2プルダウンによってインタレースに変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブに変換する画像処理装置であって、
現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成手段と、
上記フィールド内挿補間信号中の注目画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを画素単位で判断する2重画像判断手段と、
上記現フィールド内の被補間走査線の上下に位置する走査線からフィールド内補間によって、又は上記現フィールドに対して時間的に後ろに位置し上記被補間走査線と同一位置の走査線と、上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線とからフィールド間補間によって、プログレッシブの補間信号を生成する補間信号生成手段とを備え、
上記2重画像判断手段は、上記注目画素について、当該注目画素を含むとともに走査線に直交する直線上の画素のうち、隣接する走査線の画素間の相関よりも1走査線離れた走査線の画素間の相関の方が大きい場合、上記2重画像部分を構成する画素であると判断し、上記フィールド内挿補間信号生成手段により生成された上記注目画素に対応するフィールド内挿補間信号を、当該注目画素に対応する上記フィールド内補間又はフィールド間補間によって生成された上記補間信号で置き換える
画像処理装置。
The original image screen is arranged based on a predetermined sequence, and the converted video signal is converted to interlace by 3-2 pulldown or 2-2 pulldown so as to match the frame rate of the input video signal. An image processing apparatus that converts an interlace signal included as a progressive signal,
A scan line located behind the current field in time and located at the same position as the interpolated scan line of the current field, or located before the current field in time and located at the same position as the interpolated scan line. Field interpolation signal generation means for generating a progressive field interpolation signal from the scanning line by field interpolation;
A double image determination means for determining whether or not the pixel of interest in the field interpolation signal is a pixel constituting a double image portion of the field interpolation signal;
A scanning line located above and below the interpolated scanning line in the current field by intra-field interpolation or temporally behind the current field and located at the same position as the interpolated scanning line; and Interpolation signal generating means for generating a progressive interpolation signal by inter-field interpolation from a scan line located before the current field in time and located at the same position as the interpolated scan line;
The double image determination unit is configured to determine, for the target pixel, a scan line that is one scan line away from a correlation between pixels of adjacent scan lines among pixels on a straight line that includes the target pixel and is orthogonal to the scan line. When the correlation between the pixels is larger, it is determined that the pixel constitutes the double image portion, and a field interpolation signal corresponding to the target pixel generated by the field interpolation signal generation unit is obtained. An image processing apparatus that replaces the interpolation signal generated by the intra-field interpolation or inter-field interpolation corresponding to the target pixel.
上記フィールド内補間又はフィールド間補間によって補間信号を生成する上記補間信号生成手段は、上記現フィールドの画像の時間的な動きを検出する動き検出手段を有し、当該動き検出手段によって動きが検出された場合には、上記フィールド内補間によって上記補間信号を生成し、当該動き検出手段によって動きが検出されなかった場合には、上記フィールド間補間によって上記補間信号を生成する請求項1記載の画像処理装置。 The interpolation signal generating means for generating an interpolation signal by intra-field interpolation or inter-field interpolation has motion detection means for detecting temporal motion of the image in the current field, and the motion is detected by the motion detection means. 2. The image processing according to claim 1, wherein the interpolation signal is generated by the intra-field interpolation and the interpolation signal is generated by the inter-field interpolation when no motion is detected by the motion detecting means. apparatus. 上記2重画像判断手段は、上記注目画素を含む同一走査線上の連続した複数の画素について上記相関を求め、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断する請求項1記載の画像処理装置。   The double image determination unit obtains the correlation for a plurality of consecutive pixels on the same scanning line including the target pixel, and determines whether the target pixel is a pixel constituting the double image portion. Item 6. The image processing apparatus according to Item 1. 上記2重画像判断手段は、上記フィールド内挿補間信号中の注目画素が属する走査線を含む連続した複数の走査線における、上記注目画素を含む走査線に直交する直線上の画素を2値に分類した2値パターンを求め、当該2値パターンに基づいて、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断する請求項1記載の画像処理装置。   The double image determining means binarizes pixels on a straight line orthogonal to the scanning line including the pixel of interest in a plurality of continuous scanning lines including the scanning line to which the pixel of interest belongs in the field interpolation signal. The image processing apparatus according to claim 1, wherein a classified binary pattern is obtained, and it is determined based on the binary pattern whether the pixel of interest is a pixel constituting the double image portion. 上記2重画像判断手段は、上記注目画素を含む走査線に直交する直線上の画素を、その平均値との大小関係により2値に分類し、上記2値パターンを求める請求項記載の画像処理装置。 The double image determination means, the pixels on a straight line orthogonal to the scanning line including the target pixel, and classified into two values by magnitude relation between the average value, according to claim 4, wherein finding the binary pattern image Processing equipment. 上記2重画像判断手段は、上記注目画素を含む同一走査線上の連続した複数の画素について上記2値パターンを求め、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断する請求項記載の画像処理装置。 The double image determining means obtains the binary pattern for a plurality of consecutive pixels on the same scanning line including the target pixel, and determines whether the target pixel is a pixel constituting the double image portion. The image processing apparatus according to claim 4 . 元画像の画面を所定のシーケンスに基づいて配置し、入力された映像信号のフレームレートと整合をとるように3−2プルダウン又は2−2プルダウンによってインタレースに変換された変換信号を上記映像信号として含むインタレース信号をプログレッシブに変換する画像処理方法であって、
現フィールドに対して時間的に後ろに位置し当該現フィールドの被補間走査線と同一位置の走査線、又は上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線からフィールド内挿補間によって、プログレッシブのフィールド内挿補間信号を生成するフィールド内挿補間信号生成工程と、
上記フィールド内挿補間信号中の注目画素が当該フィールド内挿補間信号の2重画像部分を構成する画素であるか否かを画素単位で判断する2重画像判断工程と、
上記現フィールド内の被補間走査線の上下に位置する走査線からフィールド内補間によって、又は上記現フィールドに対して時間的に後ろに位置し上記被補間走査線と同一位置の走査線と、上記現フィールドに対して時間的に前に位置し上記被補間走査線と同一位置の走査線とからフィールド間補間によって、プログレッシブの補間信号を生成する補間信号生成工程とを備え、
上記2重画像判断工程では、上記注目画素について、当該注目画素を含むとともに走査線に直交する直線上の画素のうち、隣接する走査線の画素間の相関よりも1走査線離れた走査線の画素間の相関の方が大きい場合、上記2重画像部分を構成する画素であると判断し、上記フィールド内挿補間信号生成工程により生成された上記注目画素に対応するフィールド内挿補間信号を、当該注目画素に対応する上記フィールド内補間又はフィールド間補間によって生成された上記補間信号で置き換える
画像処理方法。
The original image screen is arranged based on a predetermined sequence, and the converted video signal is converted to interlace by 3-2 pulldown or 2-2 pulldown so as to match the frame rate of the input video signal. An image processing method for progressively converting an interlace signal included as
A scan line located behind the current field in time and located at the same position as the interpolated scan line of the current field, or located before the current field in time and located at the same position as the interpolated scan line. A field interpolation signal generation step for generating a progressive field interpolation signal from the scanning line by field interpolation;
A double image determination step of determining, on a pixel-by-pixel basis, whether or not the pixel of interest in the field interpolation signal is a pixel constituting a double image portion of the field interpolation signal;
A scanning line located above and below the interpolated scanning line in the current field by intra-field interpolation or temporally behind the current field and located at the same position as the interpolated scanning line; and An interpolation signal generating step for generating a progressive interpolation signal by inter-field interpolation from a scanning line located before the current field in time and located at the same position as the interpolated scanning line;
In the double image determining step, for the target pixel, among the pixels on the straight line that includes the target pixel and is orthogonal to the scan line, the scan line that is one scan line away from the correlation between the pixels of the adjacent scan lines When the correlation between the pixels is larger, it is determined that the pixel constitutes the double image portion, and the field interpolation signal corresponding to the target pixel generated by the field interpolation signal generation step is An image processing method for replacing with the interpolation signal generated by the intra-field interpolation or inter-field interpolation corresponding to the target pixel.
上記フィールド内補間又はフィールド間補間によって補間信号を生成する上記補間信号生成工程は、上記現フィールドの画像の時間的な動きを検出する動き検出工程を有し、当該動き検出工程にて動きが検出された場合には、上記フィールド内補間によって上記補間信号を生成し、当該動き検出手段によって動きが検出されなかった場合には、上記フィールド間補間によって上記補間信号を生成する請求項記載の画像処理方法。 The interpolation signal generation step of generating an interpolation signal by intra-field interpolation or inter-field interpolation has a motion detection step of detecting temporal motion of the current field image, and motion is detected in the motion detection step. 8. The image according to claim 7 , wherein the interpolated signal is generated by the intra-field interpolation when the motion is detected, and the interpolated signal is generated by the inter-field interpolation when no motion is detected by the motion detecting means. Processing method. 上記2重画像判断工程では、上記注目画素を含む同一走査線上の連続した複数の画素について上記相関を求め、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断する請求項記載の画像処理方法。 In the double image determination step, the correlation is obtained for a plurality of consecutive pixels on the same scanning line including the target pixel, and it is determined whether or not the target pixel is a pixel constituting the double image portion. Item 8. The image processing method according to Item 7 . 上記2重画像判断工程では、上記フィールド内挿補間信号中の注目画素が属する走査線を含む連続した複数の走査線における、上記注目画素を含む走査線に直交する直線上の画素を2値に分類した2値パターンを求め、当該2値パターンに基づいて、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断する請求項記載の画像処理方法。 In the double image determining step, pixels on a straight line orthogonal to the scanning line including the target pixel in a plurality of continuous scanning lines including the scanning line to which the target pixel in the field interpolation signal belongs are binarized. 8. The image processing method according to claim 7 , wherein a classified binary pattern is obtained, and whether or not the pixel of interest is a pixel constituting the double image portion is determined based on the binary pattern. 上記2重画像判断工程では、上記注目画素を含む走査線に直交する直線上の画素を、その平均値との大小関係により2値に分類し、上記2値パターンを求める請求項10記載の画像処理方法。 In the double image determination step, the pixels on a straight line orthogonal to the scanning line including the target pixel, and classified into two values by magnitude relation between the average value, according to claim 10, wherein finding the binary pattern image Processing method. 上記2重画像判断工程では、上記注目画素を含む同一走査線上の連続した複数の画素について上記2値パターンを求め、上記注目画素が上記2重画像部分を構成する画素であるか否かを判断する請求項10記載の画像処理方法。 In the double image determining step, the binary pattern is obtained for a plurality of consecutive pixels on the same scanning line including the target pixel, and it is determined whether the target pixel is a pixel constituting the double image portion. The image processing method according to claim 10 .
JP2004256153A 2003-09-03 2004-09-02 Image processing apparatus and method Expired - Fee Related JP4433949B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004256153A JP4433949B2 (en) 2003-09-03 2004-09-02 Image processing apparatus and method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2003311627 2003-09-03
JP2004256153A JP4433949B2 (en) 2003-09-03 2004-09-02 Image processing apparatus and method

Publications (2)

Publication Number Publication Date
JP2005102191A JP2005102191A (en) 2005-04-14
JP4433949B2 true JP4433949B2 (en) 2010-03-17

Family

ID=34467577

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004256153A Expired - Fee Related JP4433949B2 (en) 2003-09-03 2004-09-02 Image processing apparatus and method

Country Status (1)

Country Link
JP (1) JP4433949B2 (en)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4207009B2 (en) * 2005-03-09 2009-01-14 ソニー株式会社 Image processing apparatus and method
JP5225068B2 (en) * 2006-02-23 2013-07-03 富士通株式会社 Image processing apparatus and image processing method
JP4929819B2 (en) 2006-04-27 2012-05-09 富士通株式会社 Video signal conversion apparatus and method
JP5001684B2 (en) 2006-09-13 2012-08-15 富士通株式会社 Scan conversion device
JP2009077034A (en) * 2007-09-19 2009-04-09 Sony Corp Video signal processor and video signal processing method
EP2394263B1 (en) 2009-02-06 2021-05-05 Semiconductor Energy Laboratory Co, Ltd. Method for driving display device
JP5557311B2 (en) 2009-09-01 2014-07-23 Necカシオモバイルコミュニケーションズ株式会社 Video display device, display control method, and program

Also Published As

Publication number Publication date
JP2005102191A (en) 2005-04-14

Similar Documents

Publication Publication Date Title
JP4207009B2 (en) Image processing apparatus and method
US8497937B2 (en) Converting device and converting method of video signals
EP1223748B1 (en) Motion detection in an interlaced video signal
KR101462455B1 (en) Source-adaptive video deinterlacer
US7057665B2 (en) Deinterlacing apparatus and method
JP4847040B2 (en) Ticker processing in video sequences
US7961253B2 (en) Method of processing fields of images and related device for data lines similarity detection
JP4703267B2 (en) Pull-down signal detection device, pull-down signal detection method, and progressive scan conversion device
US20050001929A1 (en) Video signal converting apparatus and method
KR20060047630A (en) Block mode adaptive motion compensation
JP3789442B2 (en) Scanning line interpolation apparatus, image processing apparatus, image display apparatus, and scanning line interpolation method
KR20020044714A (en) Apparatus and method for video signal reconstitution
JP4933209B2 (en) Video processing device
KR101026298B1 (en) Image processing apparatus and image processing method
JP2005167887A (en) Dynamic image format conversion apparatus and method
JP4433949B2 (en) Image processing apparatus and method
US20070103589A1 (en) Image signal processing apparatus, image signal processing method and program
KR100323662B1 (en) Deinterlacing method and apparatus
US20060033839A1 (en) De-interlacing method
Lin et al. Motion adaptive de-interlacing by horizontal motion detection and enhanced ela processing
KR100467625B1 (en) Image processing apparatus and method using frame-rate conversion
JP4339237B2 (en) Sequential scan converter
JP4226939B2 (en) Progressive scan conversion apparatus and progressive scan conversion method
JP2002369156A (en) Video signal converter
JP2003289511A (en) Image scan converting method and apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070823

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090623

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090915

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091111

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091208

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091221

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130108

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees