JP4835234B2 - Moving picture conversion apparatus, program thereof, and moving picture conversion method - Google Patents

Moving picture conversion apparatus, program thereof, and moving picture conversion method Download PDF

Info

Publication number
JP4835234B2
JP4835234B2 JP2006101671A JP2006101671A JP4835234B2 JP 4835234 B2 JP4835234 B2 JP 4835234B2 JP 2006101671 A JP2006101671 A JP 2006101671A JP 2006101671 A JP2006101671 A JP 2006101671A JP 4835234 B2 JP4835234 B2 JP 4835234B2
Authority
JP
Japan
Prior art keywords
image
vall
frame
vmn
motion vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006101671A
Other languages
Japanese (ja)
Other versions
JP2007281560A (en
Inventor
孝一 吉澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2006101671A priority Critical patent/JP4835234B2/en
Publication of JP2007281560A publication Critical patent/JP2007281560A/en
Application granted granted Critical
Publication of JP4835234B2 publication Critical patent/JP4835234B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Systems (AREA)

Description

本発明は、動画像変換装置、そのプログラムおよび動画像変換方法にかかわり、特に動
画像を高いフレームレートへ変換するためにフレーム補間をする動画像変換装置、そのプ
ログラムおよび動画像変換方法に関する。
The present invention relates to a moving image conversion apparatus, a program thereof, and a moving image conversion method, and more particularly to a moving image conversion apparatus that performs frame interpolation in order to convert a moving image to a high frame rate, a program thereof, and a moving image conversion method.

従来の低フレームレートの動画を高フレームレートに変換する方法は、同じフレーム画
像を複数回表示して足りないフレームを埋めることでフレーム補間を行い、高フレームレ
ートに変換している。ここでは、この補間方法をコピーによる補間と呼ぶ。
In the conventional method of converting a low frame rate moving image to a high frame rate, the same frame image is displayed a plurality of times, and frame interpolation is performed by filling in missing frames, thereby converting to a high frame rate. Here, this interpolation method is called interpolation by copying.

例えば、30fps(frame per second)から60fpsへの変換の場合は、図5の(
a)に示すように、元フレームの画像をコピーして、もう1度繰り返して表示することで
補間フレームとしている。
For example, in the case of conversion from 30 fps (frame per second) to 60 fps, (
As shown in a), an image of the original frame is copied and displayed again to form an interpolation frame.

また、前の画像から今回の画像への画像全体の動きを算出し、n倍のフレームレートに
変換する場合は、画像全体の動きの1/nずつ前の画像をずらした画像を表示することで
フレーム補間を行い、高フレームレートに変換しているものもある(例えば、特許文献1
、特許文献2参照)。ここでは、この補間方法を平行移動による補間と呼ぶ。
In addition, when the motion of the entire image from the previous image to the current image is calculated and converted to a frame rate of n times, an image obtained by shifting the previous image by 1 / n of the motion of the entire image is displayed. In some cases, frame interpolation is performed to convert the frame rate to a high frame rate (for example, Patent Document 1).
, See Patent Document 2). Here, this interpolation method is called interpolation by parallel movement.

例えば、30fpsから60fpsへの変換の場合は、図5の(b)に示すように、元
フレーム間の画像全体の動きであるVallを算出し、2倍のフレームレートに変換する
ので、元フレームの画像をVall/2ずらした画像を補間フレームとしている。これに
より、図5(a)に比べて滑らかな動きを表示している。
特開昭60−28392号公報 特開2000−165821号公報
For example, in the case of conversion from 30 fps to 60 fps, as shown in (b) of FIG. 5, Val, which is the movement of the entire image between the original frames, is calculated and converted to a double frame rate. The interpolated frame is an image obtained by shifting the above image by Val / 2. Thereby, a smooth movement is displayed as compared with FIG.
JP 60-28392 A JP 2000-165821 A

しかしながら、特許文献1に示す平行移動による補間方法にあっては、画像内に全体と
は異なる動きをする部分があると、該部分の画像が劣化するという問題がある。例えば、
図6の(b)に示すように、画像中の大きな部分P1は右へ動いていくのに対して、小さ
な部分P2は静止している場合、画像全体の動きは、部分P1の動きに近くなるので、フ
レーム補間することで、部分P1の動きは滑らかになる。ところが、本来は静止している
部分P2は、補間フレームにおいて本来の位置から右へ動き、元フレームで左へ動き元の
位置に戻るため、ギザギザした動きとなり画像が劣化してしまう。この場合、コピーによ
る補間方法では、図6の(a)に示すように、部分P2は静止したままなので、画像の劣
化はおきないものの、部分P1は、元フレームから補間フレームの間は静止しており、補
間フレームから次の元フレームの間でのみ移動しているため、滑らかな動きとならないと
いう問題がある。
However, in the interpolation method based on parallel movement shown in Patent Document 1, if there is a part that moves differently from the whole in the image, there is a problem that the image of the part deteriorates. For example,
As shown in FIG. 6B, when the large portion P1 in the image moves to the right while the small portion P2 is stationary, the movement of the entire image is close to the movement of the portion P1. Therefore, the motion of the part P1 becomes smooth by interpolating the frame. However, the originally stationary part P2 moves to the right from the original position in the interpolated frame and moves to the left in the original frame to return to the original position, resulting in a jagged movement and deterioration of the image. In this case, in the interpolation method by copying, as shown in FIG. 6A, the portion P2 remains stationary, so that the image does not deteriorate, but the portion P1 remains stationary between the original frame and the interpolation frame. There is a problem that the movement is not smooth because it moves only from the interpolated frame to the next original frame.

本発明は、このような事情に鑑みてなされたもので、その目的は、画像の劣化を抑えつ
つ、フレームレート変換後も滑らかな動きの画像を得られる動画像変換装置、そのプログ
ラムおよび動画像変換方法を提供することにある。
The present invention has been made in view of such circumstances, and an object of the present invention is to provide a moving image conversion apparatus capable of obtaining a smooth moving image even after frame rate conversion while suppressing image deterioration, a program thereof, and a moving image It is to provide a conversion method.

この発明は上述した課題を解決するためになされたもので、本発明の動画像変換装置は、入力される画像のフレームレートをRi、出力される画像のフレームレートをRoとして、フレーム補間拡大率Ex=Ro/Riのフレーム補間を行う動画像変換装置において、
入力された画像について、1フレーム前の画像全体から今回の画像全体への動きベクトルである全体動きベクトルVallを算出する全体算出手段と、
画像を複数領域に分けた各領域について、前記1フレーム前の画像から前記今回の画像への動きベクトルである領域毎動きベクトルVmn(nはn番目の領域を表す)を算出する領域算出手段と、
前記全体算出手段が算出した全体動きベクトルVallおよび前記フレーム補間拡大率Exから算出される値Vall(Ex−1)/Exと前記領域算出手段の算出した領域毎動きベクトルVmnとを比較した結果に応じて、フレーム補間方法を、前記1フレーム前の画像をVall/Exずつずらした画像により補間する方法と、前記1フレーム前の画像により補間する方法との中から選択する補間方法選択手段とを備え
前記補間方法選択手段は、全体動きベクトルVallの水平成分および垂直成分をそれぞれVall_x、Vall_yとし、領域毎動きベクトルVmnの水平成分および垂直成分をそれぞれVmn_x、Vmn_yとして、所定の個数αの領域において、
(Vmn_x≧Vall_x(Ex−1)/Ex≧0、または、Vmn_x≦Vall_x(Ex−1)/Ex<0)かつ
(Vmn_y≧Vall_y(Ex−1)/Ex≧0、または、Vmn_y≦Vall_y(Ex−1)/Ex<0)
が成り立つときは、前記1フレーム前の画像をVall/Exずつずらした画像により補間すると選択し、それ以外のときは、前記1フレーム前の画像により補間すると選択することを特徴とする。
The present invention has been made to solve the above-described problems, and the moving image conversion apparatus according to the present invention is configured such that the frame rate of the input image is Ri and the frame rate of the output image is Ro, and the frame interpolation enlargement ratio. In the moving image conversion apparatus that performs frame interpolation of Ex = Ro / Ri,
An overall calculation means for calculating an overall motion vector Vall, which is a motion vector from the entire image one frame before to the entire current image, for the input image;
Area calculation means for calculating a motion vector Vmn for each area (n represents an nth area), which is a motion vector from the previous image to the current image, for each area obtained by dividing the image into a plurality of areas; ,
As a result of comparing the overall motion vector Vall calculated by the overall calculation unit and the value Vall (Ex-1) / Ex calculated from the frame interpolation magnification rate Ex with the motion vector Vmn for each region calculated by the region calculation unit. Accordingly, as a frame interpolation method, an interpolation method selection means for selecting from a method of interpolating the image of the previous frame by an image shifted by Val / Ex and a method of interpolating by the image of the previous frame. Prepared ,
The interpolation method selection means sets the horizontal and vertical components of the entire motion vector Vall as Vall_x and Vall_y, respectively, and sets the horizontal and vertical components of the region-specific motion vector Vmn as Vmn_x and Vmn_y, respectively, in a predetermined number α of regions.
(Vmn_x ≧ Vall_x (Ex−1) / Ex ≧ 0, or Vmn_x ≦ Vall_x (Ex−1) / Ex <0) and
(Vmn_y ≧ Vall_y (Ex−1) / Ex ≧ 0 or Vmn_y ≦ Vall_y (Ex−1) / Ex <0)
Is time holds, the one frame preceding image select and interpolated by the image shifted by Vall / Ex, at other times, characterized by you to select the interpolated by the preceding frame image.

また、本発明のプログラムは、コンピュータを、
入力される画像のフレームレートをRi、出力される画像のフレームレートをRoとして、フレーム補間拡大率Ex=Ro/Riのフレーム補間を行う動画像変換手段であって、
入力された画像について、1フレーム前の画像全体から今回の画像全体への動きベクトルである全体動きベクトルVallを算出する全体算出手段と、
前記今回の画像を複数領域に分けた各領域について、前記1フレーム前の画像から前記今回の画像への動きベクトルである領域毎動きベクトルVmn(nはn番目の領域を表す)を算出する領域算出手段と、
前記全体算出手段の算出した全体動きベクトルVallおよび前記フレーム補間拡大率Exから算出される値Vall(Ex−1)/Exと前記領域算出手段の算出した領域毎動きベクトルVmnとを比較した結果に応じて、フレーム補間方法を、前記1フレーム前の画像をVall/Exずつずらした画像により補間する方法と、前記1フレーム前の画像により補間する方法との中から選択する補間方法選択手段と
を備え
前記補間方法選択手段は、全体動きベクトルVallの水平成分および垂直成分をそれぞれVall_x、Vall_yとし、領域毎動きベクトルVmnの水平成分および垂直成分をそれぞれVmn_x、Vmn_yとして、所定の個数αの領域において、
(Vmn_x≧Vall_x(Ex−1)/Ex≧0、または、Vmn_x≦Vall_x(Ex−1)/Ex<0)かつ
(Vmn_y≧Vall_y(Ex−1)/Ex≧0、または、Vmn_y≦Vall_y(Ex−1)/Ex<0)
が成り立つときは、前記1フレーム前の画像をVall/Exずつずらした画像により補間すると選択し、それ以外のときは、前記1フレーム前の画像により補間すると選択することを特徴とする。
The program of the present invention is a computer,
A moving image conversion means for performing frame interpolation with a frame interpolation magnification rate Ex = Ro / Ri, where Ri is the frame rate of the input image and Ro is the frame rate of the output image,
An overall calculation means for calculating an overall motion vector Vall, which is a motion vector from the entire image one frame before to the entire current image, for the input image;
Area for calculating a motion vector Vmn (n represents the nth area) for each area, which is a motion vector from the previous frame image to the current image, for each area obtained by dividing the current image into a plurality of areas. A calculation means;
As a result of comparing the overall motion vector Vall calculated by the overall calculation means and the value Vall (Ex-1) / Ex calculated from the frame interpolation magnification rate Ex with the motion vector Vmn for each area calculated by the area calculation means. Accordingly, as a frame interpolation method, an interpolation method selecting means for selecting from a method of interpolating the image of the previous frame by an image shifted by Val / Ex and a method of interpolating by the image of the previous frame. Prepared ,
The interpolation method selection means sets the horizontal and vertical components of the entire motion vector Vall as Vall_x and Vall_y, respectively, and sets the horizontal and vertical components of the region-specific motion vector Vmn as Vmn_x and Vmn_y, respectively, in a predetermined number α of regions.
(Vmn_x ≧ Vall_x (Ex−1) / Ex ≧ 0, or Vmn_x ≦ Vall_x (Ex−1) / Ex <0) and
(Vmn_y ≧ Vall_y (Ex−1) / Ex ≧ 0 or Vmn_y ≦ Vall_y (Ex−1) / Ex <0)
Is time holds, the one frame preceding image select and interpolated by the image shifted by Vall / Ex, at other times, characterized by you to select the interpolated by the preceding frame image.

また、本発明の動画像変換方法は、入力される画像のフレームレートをRi、出力される画像のフレームレートをRoとして、フレーム補間拡大率Ex=Ro/Riのフレーム補間を行う動画像変換装置における動画像変換方法において、
入力された画像について、1フレーム前の画像全体から今回の画像全体への動きベクトルである全体動きベクトルVallを算出する第1の過程と、
前記今回の画像を複数領域に分けた各領域について、前記1フレーム前の画像から前記今回の画像への動きベクトルである領域毎動きベクトルVmn(nはn番目の領域を表す)を算出する第2の過程と、
前記第1の過程にて算出した全体動きベクトルVallおよび前記フレーム補間拡大率Exから算出される値Vall(Ex−1)/Exと前記第2の過程にて算出した領域毎動きベクトルVmnとを比較した結果に応じて、フレーム補間方法を、前記1フレーム前の画像をVall/Exずつずらした画像により補間する方法と、前記1フレーム前の画像により補間する方法との中から選択する第3の過程と、
を備え
前記第3の過程は、全体動きベクトルVallの水平成分および垂直成分をそれぞれVall_x、Vall_yとし、領域毎動きベクトルVmnの水平成分および垂直成分をそれぞれVmn_x、Vmn_yとして、所定の個数αの領域において、
(Vmn_x≧Vall_x(Ex−1)/Ex≧0、または、Vmn_x≦Vall_x(Ex−1)/Ex<0)かつ
(Vmn_y≧Vall_y(Ex−1)/Ex≧0、または、Vmn_y≦Vall_y(Ex−1)/Ex<0)
が成り立つときは、前記1フレーム前の画像をVall/Exずつずらした画像により補間すると選択し、それ以外のときは、前記1フレーム前の画像により補間すると選択することを特徴とする。

Also, the moving image conversion method of the present invention is a moving image conversion apparatus that performs frame interpolation with a frame interpolation enlargement ratio Ex = Ro / Ri, where Ri is the frame rate of the input image and Ro is the frame rate of the output image. In the moving image conversion method in
A first process of calculating an overall motion vector Vall, which is a motion vector from the entire image one frame before to the entire current image, for the input image;
For each region obtained by dividing the current image into a plurality of regions, a motion vector Vmn (n represents the nth region) for each region, which is a motion vector from the previous image to the current image, is calculated. 2 process,
A value Vall (Ex-1) / Ex calculated from the overall motion vector Vall calculated in the first process and the frame interpolation magnification rate Ex, and an area-specific motion vector Vmn calculated in the second process. According to the comparison result, a frame interpolation method is selected from among a method of interpolating the image of the previous frame by an image shifted by Val / Ex and a method of interpolating by the image of the previous frame. And the process
Equipped with a,
In the third step, the horizontal and vertical components of the entire motion vector Vall are set as Vall_x and Vall_y, respectively, and the horizontal and vertical components of the motion vector Vmn for each region are set as Vmn_x and Vmn_y, respectively, in a predetermined number α of regions,
(Vmn_x ≧ Vall_x (Ex−1) / Ex ≧ 0, or Vmn_x ≦ Vall_x (Ex−1) / Ex <0) and
(Vmn_y ≧ Vall_y (Ex−1) / Ex ≧ 0 or Vmn_y ≦ Vall_y (Ex−1) / Ex <0)
Is time holds, the one frame preceding image select and interpolated by the image shifted by Vall / Ex, at other times, characterized by you to select the interpolated by the preceding frame image.

これにより、本発明の動画像変換装置(またはプログラム、または動画像変換方法)は
、領域毎の動きが画像全体の動きと異なっているかを判定してフレーム補間方法を決めら
れるので、画像の劣化を抑えつつ、フレームレート変換後も滑らかな動きの画像を得るこ
とができる。
As a result, the moving image conversion apparatus (or program or moving image conversion method) of the present invention can determine the frame interpolation method by determining whether the motion for each region is different from the motion of the entire image. An image with smooth motion can be obtained even after frame rate conversion.

また、本発明の動画像変換装置は、上述の動画像変換装置であって、前記補間方法選択
手段は、全体動きベクトルVallの水平成分および垂直成分をそれぞれVall_x、
Vall_yとし、領域毎動きベクトルVmnの水平成分および垂直成分をそれぞれVm
n_x、Vmn_yとして、所定の個数αの領域において、
(Vmn_x≧Vall_x(Ex−1)/Ex≧0、または、Vmn_x≦Vall
_x(Ex−1)/Ex<0)かつ
(Vmn_y≧Vall_y(Ex−1)/Ex≧0、または、Vmn_y≦Vall
_y(Ex−1)/Ex<0)
が成り立つときは、前記1フレーム前の画像をVall/Exずつずらした画像により補
間すると選択し、それ以外のときは、前記1フレーム前の画像により補間すると選択する
ことを特徴とする。
Further, the moving image conversion apparatus of the present invention is the above-described moving image conversion apparatus, wherein the interpolation method selection means sets the horizontal component and the vertical component of the overall motion vector Vall as Val_x,
Let Vall_y be the horizontal component and vertical component of the motion vector Vmn for each region, Vm
As n_x and Vmn_y, in a predetermined number α of regions,
(Vmn_x ≧ Vall_x (Ex−1) / Ex ≧ 0 or Vmn_x ≦ Vall
_X (Ex−1) / Ex <0) and (Vmn_y ≧ Vall_y (Ex−1) / Ex ≧ 0 or Vmn_y ≦ Vall
_Y (Ex-1) / Ex <0)
When the above holds, it is selected that the image one frame before is interpolated by an image shifted by Val / Ex, and otherwise, it is selected that the image is interpolated by the image one frame before.

これにより、本発明の動画像変換装置は、1フレーム前の画像をVall/Exずつず
らした画像により補間した場合に画像が劣化する領域を検出できるので、所定の個数αを
適切な値とすることにより、画像の劣化を抑えつつ、フレームレート変換後も滑らかな動
きの画像を得ることができる。
As a result, the moving image conversion apparatus of the present invention can detect a region where the image deteriorates when the image of the previous frame is interpolated by an image shifted by Val / Ex, so that the predetermined number α is set to an appropriate value. As a result, it is possible to obtain a smooth motion image after frame rate conversion while suppressing image degradation.

以下、図面を参照して、本発明の実施の形態について説明する。図1の(a)は、この
発明の一実施形態による動画像変換装置100の構成を示す概略ブロック図である。本実
施形態では、動画像変換装置100は、30fpsの動画像を60fpsに変換して出力
する。101は、動画像の入力を受付ける入力I/F(Interface)である。102は、
ワーク領域として用いられるRAM(Random Access Memory)である。103は、本動画
像変換装置100の動作を制御するCPU(Central Processing Unit)である。図1の
(b)に示すように、CPU103は、全体算出処理部(全体算出手段)110、領域毎
算出処理部(領域算出手段)111、補間方法決定処理部(補間方法選択手段)112、
平行移動補間処理部113、コピー補間処理部114を備える。CPU103の詳細につ
いては、動作の説明にて述べる。104は、CPU103が動作するためのプログラムお
よびデータを格納しているROM(Read Only Memory)である。105は、入力I/F1
01が受付けた動画像およびフレームレートを変換した動画像を一時的に保管するハード
ディスクである。106は、変換後の動画像を出力する出力I/Fである。107は、入
力I/F101、RAM102、CPU103、ROM104、ハードディスク105、
出力I/F107を接続するバスである。
Embodiments of the present invention will be described below with reference to the drawings. FIG. 1A is a schematic block diagram showing a configuration of a moving image conversion apparatus 100 according to an embodiment of the present invention. In the present embodiment, the moving image conversion apparatus 100 converts a 30 fps moving image to 60 fps and outputs the converted image. Reference numeral 101 denotes an input I / F (Interface) that receives an input of a moving image. 102 is
A RAM (Random Access Memory) used as a work area. Reference numeral 103 denotes a CPU (Central Processing Unit) that controls the operation of the moving image conversion apparatus 100. As shown in FIG. 1B, the CPU 103 includes an overall calculation processing unit (overall calculation unit) 110, an area calculation processing unit (region calculation unit) 111, an interpolation method determination processing unit (interpolation method selection unit) 112,
A translation interpolation processing unit 113 and a copy interpolation processing unit 114 are provided. Details of the CPU 103 will be described in the description of the operation. A ROM (Read Only Memory) 104 stores a program and data for the CPU 103 to operate. 105 is an input I / F1
01 is a hard disk that temporarily stores a moving image received and a moving image obtained by converting the frame rate. Reference numeral 106 denotes an output I / F that outputs the converted moving image. Reference numeral 107 denotes an input I / F 101, RAM 102, CPU 103, ROM 104, hard disk 105,
This is a bus for connecting the output I / F 107.

200は、被写体を撮影して30fpsの動画像を出力するビデオカメラである。21
0は、ビデオテープやDVD(Digital Versatile Disk)などに記録された動画像を読取
って30fpsの動画像を出力する動画再生機器である。300は、60fpsの動画像
を受付けて投影するプロジェクタである。310は、60fpsの動画像を受付けて表示
するディスプレイである。
A video camera 200 captures a subject and outputs a 30 fps moving image. 21
Reference numeral 0 denotes a moving image reproduction device that reads a moving image recorded on a video tape, a DVD (Digital Versatile Disk), or the like and outputs a 30 fps moving image. Reference numeral 300 denotes a projector that receives and projects a moving image of 60 fps. A display 310 receives and displays a moving image of 60 fps.

次に、この動画像変換装置100の動作を説明する。ビデオカメラ200または動画再
生機器210が30fpsの動画像を出力すると、入力I/F101がこれを受付けて、
ハードディスク105に記録する。CPU103は、ROM104に記録されているプロ
グラムにより、ハードディスク105に記録された動画像の各フレームを時間順に読み出
し、RAM102をワーク領域として図2に示すフローチャートのように動作して、読み
出した動画像の変換を行う。
Next, the operation of the moving image conversion apparatus 100 will be described. When the video camera 200 or the video playback device 210 outputs a moving image of 30 fps, the input I / F 101 receives this,
Records in the hard disk 105. The CPU 103 reads out the frames of the moving image recorded on the hard disk 105 in time order by the program recorded in the ROM 104, operates as shown in the flowchart of FIG. Perform conversion.

まず、CPU103の全体算出処理部110は、ハードディスク105から読み出した
時間的に連続する2つのフレーム(時間順にフレームA、フレームBとする)の間の画像
全体の全体動きベクトルVallを算出する(S1)。動きベクトルの算出方法について
は、後に詳述する。次に、CPU103の領域毎算出処理部111は、画像を図3に例を
示すように分割した領域に分け、各領域について、フレームAとフレームBの間の領域毎
動きベクトルVmn(nは、n番目の領域を表す)を算出する(S2)。例えば、図3に
示すように7×7=49の領域に分割した場合は、1から49番目の領域について、領域
毎動きベクトルVm1〜Vm49を算出する。次に、CPU103の補間方法決定処理部
112は、全体動きベクトルVallの水平成分および垂直成分をVall_x、Val
l_y、領域毎動きベクトルVmnの水平成分および垂直成分をVmn_x、Vmn_y
として、下記の条件を満たす領域の個数Nを算出する。
First, the entire calculation processing unit 110 of the CPU 103 calculates the entire motion vector Vall of the entire image between two temporally continuous frames (frame A and frame B in time order) read from the hard disk 105 (S1). ). The method for calculating the motion vector will be described in detail later. Next, the calculation processing unit 111 for each region of the CPU 103 divides the image into regions divided as shown in FIG. 3, and for each region, a motion vector Vmn for each region between the frame A and the frame B (n is (representing the nth region) is calculated (S2). For example, when the area is divided into 7 × 7 = 49 areas as shown in FIG. 3, the area-specific motion vectors Vm1 to Vm49 are calculated for the 1st to 49th areas. Next, the interpolation method determination processing unit 112 of the CPU 103 determines the horizontal component and the vertical component of the entire motion vector Val as Val_x, Val.
l_y, the horizontal component and vertical component of the motion vector Vmn for each region are represented by Vmn_x, Vmn_y
As above, the number N of regions satisfying the following conditions is calculated.

Vall_x≧0の場合 Vmn_x≧Vall_x(EX−1)/EX
Vall_x<0の場合 Vmn_x≦Vall_x(EX−1)/EX
かつ
Vall_y≧0の場合 Vmn_y≧Vall_y(EX−1)/EX
Vall_y<0の場合 Vmn_y≦Vall_y(EX−1)/EX
ここで、EXは、フレーム補間拡大率である。
When Vall_x ≧ 0 Vmn_x ≧ Vall_x (EX-1) / EX
When Val_x <0 Vmn_x ≦ Vall_x (EX-1) / EX
And when Vall_y ≧ 0 Vmn_y ≧ Vall_y (EX-1) / EX
When Val_y <0 Vmn_y ≦ Vall_y (EX-1) / EX
Here, EX is a frame interpolation magnification rate.

なお、本実施形態においてフレーム補間拡大率=出力フレームレートRo/入力フレー
ムレートRi=60fps/30fps=2である。
補間方法決定処理部112は、フレームAとフレームBとの間の補間を、算出した個数N
が所定の閾値α以上の場合は平行移動による補間を行う平行移動補間処理部113を用い
ると選択し、算出した個数Nが所定の閾値αに満たない場合はコピーによる補間を行うコ
ピー補間処理部114を用いると選択する(S3)。次に、ステップS3における補間方
法選択処理部112の選択に従って、平行移動補間処理部113またはコピー補間処理部
114が補間フレームを生成し、フレームAとフレームBの間にこの補間フレームを挿入
して、目的のフレームレート(ここでは60fps)の動画像に変換する(S4)。例え
ば、ステップS3にて平行移動補間処理部113が選択されたとすると、平行移動補間処
理113は、本実施形態ではEX=2なので、フレームAをVall/2ずらした画像1
枚を補間フレームとする。なお、30fpsから90fpsへ変換する場合は、EX=3
なので、フレームAをVall/3ずらした画像と2×Vall/3ずらした画像の2枚
を補間フレームとする。ステップS3にてコピー補間処理部114が選択されたとすると
、コピー補間処理部114は、フレームAをコピーした画像1枚を補間フレームとする。
In this embodiment, the frame interpolation enlargement ratio = output frame rate Ro / input frame rate Ri = 60 fps / 30 fps = 2.
The interpolation method determination processing unit 112 calculates the number N of interpolations between the frame A and the frame B.
Is greater than or equal to a predetermined threshold value α, it is selected to use the translation interpolation processing unit 113 that performs interpolation by translation. If the calculated number N is less than the predetermined threshold value α, a copy interpolation processing unit that performs interpolation by copying If 114 is used, it selects (S3). Next, according to the selection of the interpolation method selection processing unit 112 in step S3, the translation interpolation processing unit 113 or the copy interpolation processing unit 114 generates an interpolation frame, and inserts this interpolation frame between the frame A and the frame B. Then, it is converted into a moving image of a target frame rate (here, 60 fps) (S4). For example, if the translation interpolation processing unit 113 is selected in step S3, the translation interpolation processing 113 is EX = 2 in the present embodiment, and therefore, the image 1 obtained by shifting the frame A by Val / 2.
A frame is an interpolation frame. When converting from 30 fps to 90 fps, EX = 3
Therefore, two images, that is, an image obtained by shifting Frame A by Val / 3 and an image obtained by shifting 2 × Val / 3 are used as interpolation frames. If the copy interpolation processing unit 114 is selected in step S3, the copy interpolation processing unit 114 sets one image obtained by copying the frame A as an interpolation frame.

CPU103は、フレームAとフレームBとの間のフレーム補間を終えると、入力され
た動画像における時間順序がフレームBの次であるフレームCをハードディスク105か
ら読み出し、前述のステップS1からを前述と同様に繰り返すことで、フレームBとフレ
ームCとの間のフレーム補間を行う。このような動作を繰り返すことで、入力された動画
像を目的のフレームレート(ここでは60fps)の動画像に変換する。
When the CPU 103 finishes the frame interpolation between the frame A and the frame B, the CPU 103 reads out the frame C whose time sequence in the input moving image is next to the frame B from the hard disk 105, and performs the above-described step S1 from the same as the above. By repeating the above, frame interpolation between the frame B and the frame C is performed. By repeating such an operation, the input moving image is converted into a moving image having a target frame rate (here, 60 fps).

目的のフレームレート(60fps)に変換された動画像は、CPU103が、出力I
/F106を介して出力する。出力I/F106に接続されたプロジェクタ300、ディ
スプレイ310などは、変換された動画像を受けると、これを表示する。
The CPU 103 outputs the moving image converted to the target frame rate (60 fps).
Output via / F106. When the projector 300, the display 310, and the like connected to the output I / F 106 receive the converted moving image, they are displayed.

なお、変換された動画像の出力I/F106を介した出力は、変換を遂次行いながら行
ってもよいし、一旦、変換された動画像をハードディスク105に蓄積してから行っても
よい。
Note that the output of the converted moving image via the output I / F 106 may be performed while the conversion is being performed successively, or may be performed after the converted moving image is once stored in the hard disk 105.

次に、補間方法決定処理部112におけるフレーム補間方法選択の条件式について説明
する。ここでは、説明を簡易にするために全体動きベクトルVallおよび領域毎動きベ
クトルVmnは1次元の値であるとする。仮に、フレームAからフレームBへの全体動き
ベクトルVallと領域毎動きベクトルVm1〜Vm4の関係が、図4(a)に示すよう
な関係であったとする。このとき、平行移動による補間にて行うと、フレームAをVal
l/2だけ移動させたフレームが補間フレームとして、フレームAとフレームBの間に挿
入される。ここで、n番目の領域に着目すると、フレームAにおいて0の位置にあった被
写体は、補間フレームではVall/2の位置に表示され、フレームBではVmnの位置
に表示される。
Next, a conditional expression for selecting a frame interpolation method in the interpolation method determination processing unit 112 will be described. Here, in order to simplify the explanation, it is assumed that the entire motion vector Vall and the region-specific motion vector Vmn are one-dimensional values. Assume that the relationship between the overall motion vector Vall from the frame A to the frame B and the motion vectors Vm1 to Vm4 for each region is as shown in FIG. At this time, if interpolation is performed by translation, frame A is Val.
The frame moved by l / 2 is inserted between the frame A and the frame B as an interpolation frame. Here, paying attention to the n-th region, the subject that was at position 0 in frame A is displayed at the position of Val / 2 in the interpolated frame, and is displayed at the position of Vmn in frame B.

これを、図4(a)に戻って、1から4番目の各領域に当てはめてみる。1番目の領域
では、0≦Vall/2<Vm1であるため、フレームA、補間フレーム、フレームBの
順で、常に右方向に動いている。2番目の領域でも、0≦Vall/2<Vm2であるた
め、常に右方向に動いている。ところが、3番目の領域では、0≦Vall/2>Vm3
であるため、補間フレームで一度右に動いた被写体が、フレームBでは左に動いてしまう
ため、ギザギザの動きとなり画像が劣化する。4番目の領域でも、0≦Vall/2>V
m4であるため、3番目の領域と同様である。つまり、Vall≧0のときに、n番目の
領域の被写体がギザギザの動きにならないための条件は、(1)式で表される。
Returning to FIG. 4A, this is applied to each of the first to fourth areas. In the first region, since 0 ≦ Val / 2 <Vm1, the frame A, the interpolation frame, and the frame B always move in the right direction. Even in the second region, 0 ≦ Val / 2 <Vm2, and therefore always moves in the right direction. However, in the third region, 0 ≦ Val / 2> Vm3
Therefore, the subject that once moved to the right in the interpolation frame moves to the left in the frame B, so that the image is deteriorated as a jagged movement. Even in the fourth region, 0 ≦ Vall / 2> V
Since it is m4, it is the same as the third region. That is, when Vall ≧ 0, the condition for preventing the subject in the nth area from moving in a jagged manner is expressed by the following equation (1).

Vall/2≦Vmn・・・(1)
ここでは、フレーム補間拡大率EX=2であるため、補間フレームは1枚であり、Va
ll/2だけフレームAを移動させたものとなるが、これを一般化してフレーム補間拡大
率EXのときは、補間フレームはEX−1枚であり、それぞれの補間フレームは、Val
l/EX、2Vall/EX、3Vall/EX・・・Vall(EX−1)/EXだけ
フレームAを移動させたものとなる。これより、(1)式を一般化すると(2)式が得ら
れる。
Vall / 2 ≦ Vmn (1)
Here, since the frame interpolation enlargement ratio EX = 2, there is one interpolation frame, Va
The frame A is moved by ll / 2, but when this is generalized and the frame interpolation enlargement ratio EX, the number of interpolation frames is EX-1, and each interpolation frame is Val.
The frame A is moved by l / EX, 2Vall / EX, 3Vall / EX ... Vall (EX-1) / EX. From this, when the formula (1) is generalized, the formula (2) is obtained.

Vall(EX−1)/EX≦Vmn・・・(2)
これは、フレームAから最後(EX−1枚目)の補間フレームの動きベクトルと、フレ
ームAからフレームBの動きベクトルを比較していることに相当する。
Vall (EX-1) / EX ≦ Vmn (2)
This is equivalent to comparing the motion vector of the last (EX-1) interpolated frame from frame A with the motion vector of frame A to frame B.

(2)式の左辺と右辺を入れ替えると(3)式となり、これは補間方法決定処理部11
2(ステップS3)の条件式の1番目と3番目の式に相当する。
When the left side and the right side of equation (2) are interchanged, equation (3) is obtained, which is the interpolation method determination processing unit 11.
This corresponds to the first and third expressions of the conditional expression 2 (step S3).

Vmn≧Vall(EX−1)/EX・・・・(3)
Vall<0の場合は、図4(b)に例を示すようにして、前述と同様にすると(4)
式となり、これは補間方法決定処理部112(ステップS3)の条件式の2番目と4番目
の式に相当する。
Vmn ≧ Vall (EX-1) / EX (3)
If Vall <0, as shown in the example of FIG. 4B, the same as described above (4)
This is an expression, which corresponds to the second and fourth expressions of the conditional expression of the interpolation method determination processing unit 112 (step S3).

Vmn≦Vall(EX−1)/EX・・・・(4)
つまり、補間方法決定処理部112では、平行移動による補間を行った場合に劣化の起こ
らない領域の個数が閾値α以上であるかを判定基準として、補間方法を決定している。
Vmn ≦ Vall (EX-1) / EX (4)
That is, the interpolation method determination processing unit 112 determines the interpolation method based on whether or not the number of regions where deterioration does not occur when interpolation by parallel movement is performed is equal to or greater than the threshold value α.

なお、この閾値αを領域の個数(本実施形態では49個)として、全ての領域において
劣化が起こらないようにしてもよい。
[動きベクトルの算出]
全体算出処理部110(ステップS1)および領域毎算出処理部111(ステップS2
)にて算出するとしている動きベクトルの算出方法について説明する。算出方法には、大
きく分けてブロックマッチング法と勾配法とあるが、ここではブロックマッチング法につ
いて説明する。ブロックマッチング法は、目的のブロックと最も似ているブロックを参照
先の画像から探し出し、目的のブロックから探し出したブロックまでのベクトルを動きベ
クトルとする方法である。似ていることの評価には、ブロック内の対応する画素の差分の
絶対値の和を用いる。
Note that the threshold value α may be set to the number of regions (49 in this embodiment) so that deterioration does not occur in all regions.
[Calculation of motion vector]
Whole calculation processing unit 110 (step S1) and area calculation processing unit 111 (step S2)
The method of calculating the motion vector that is to be calculated in () will be described. The calculation method is roughly divided into a block matching method and a gradient method. Here, the block matching method will be described. The block matching method is a method in which a block most similar to a target block is searched from a reference image, and a vector from the target block to the searched block is used as a motion vector. For the evaluation of similarity, the sum of absolute values of differences between corresponding pixels in the block is used.

本実施形態において例えば、フレームAからフレームBへのn番目の領域の動きベクト
ルを算出する場合は、n番目の領域と同じ大きさで、n番目の領域の中心から一定範囲内
の任意の点を中心とするフレームBのブロックRと、フレームAのn番目の領域との比較
を、ブロックRの位置を1画素ずつずらしながら、該当範囲内の全てについて行い、最も
似ているブロックを検出する。
In this embodiment, for example, when calculating the motion vector of the nth region from frame A to frame B, an arbitrary point within the fixed range from the center of the nth region is the same size as the nth region. A comparison between the block R of the frame B centered at the center and the nth region of the frame A is performed for all within the corresponding range while shifting the position of the block R by one pixel, and the most similar block is detected. .

なお、本実施形態において、全体算出処理部110、領域算出処理部111、補間方法
決定処理部112、平行移動補間処理部113、コピー補間処理部114は専用のハード
ウェアによって実現されるものであってもよく、また、メモリ(RAM102、ROM1
04、ハードディスク105)およびCPU103により実現させるものであってもよい
In the present embodiment, the overall calculation processing unit 110, the region calculation processing unit 111, the interpolation method determination processing unit 112, the parallel movement interpolation processing unit 113, and the copy interpolation processing unit 114 are realized by dedicated hardware. In addition, the memory (RAM102, ROM1
04, the hard disk 105) and the CPU 103.

また、図2における全体算出処理部110、領域毎算出処理部111、補間方法決定処
理部112、平行移動補間処理部113、コピー補間処理部114を備え、フレーム補間
を行う動画変換手段の機能を実現するためのプログラムをコンピュータ読み取り可能な記
録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み
込ませ、実行することによりフレーム補間を行ってもよい。なお、ここでいう「コンピュ
ータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
2 includes a whole calculation processing unit 110, a region-by-region calculation processing unit 111, an interpolation method determination processing unit 112, a parallel movement interpolation processing unit 113, and a copy interpolation processing unit 114, and functions as a moving image conversion unit that performs frame interpolation. Frame interpolation may be performed by recording a program for realizing on a computer-readable recording medium, causing the computer system to read and execute the program recorded on the recording medium. Here, the “computer system” includes an OS and hardware such as peripheral devices.

また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気
ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハー
ドディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実
現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに
記録されているプログラムとの組み合わせで実現できるものであっても良い。
The “computer-readable recording medium” refers to a storage device such as a flexible medium, a magneto-optical disk, a portable medium such as a ROM and a CD-ROM, and a hard disk incorporated in a computer system. The program may be a program for realizing a part of the functions described above, and may be a program capable of realizing the functions described above in combination with a program already recorded in a computer system.

以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施
形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
The embodiment of the present invention has been described in detail with reference to the drawings. However, the specific configuration is not limited to this embodiment, and includes design and the like within a scope not departing from the gist of the present invention.

この発明の一実施形態による動画像変換装置の構成を示すブロック図である。It is a block diagram which shows the structure of the moving image converter by one Embodiment of this invention. 同実施形態におけるCPU103の動作を説明するフローチャートである。It is a flowchart explaining operation | movement of CPU103 in the embodiment. 同実施形態における全体動きベクトルVallと領域毎動きベクトルVmnを説明する図である。It is a figure explaining the whole motion vector Vall and the motion vector Vmn for every area in the embodiment. 同実施形態における補間方法決定処理112における判定基準を説明する図である。It is a figure explaining the criterion in the interpolation method determination process 112 in the same embodiment. 従来のフレーム補間方法であるコピーによる補間と平行移動による補間を説明する図である。It is a figure explaining the interpolation by the copy which is the conventional frame interpolation method, and the interpolation by parallel movement. 従来のフレーム補間方法であるコピーによる補間と平行移動による補間の問題点を説明する図である。It is a figure explaining the problem of the interpolation by the copy which is the conventional frame interpolation method, and the interpolation by parallel movement.

符号の説明Explanation of symbols

100…動画像変換装置
101…入力I/F
102…RAM
103…CPU
104…ROM
105…ハードディスク
106…出力I/F
107…バス
110…全体算出処理部
111…領域毎算出処理部
112…補間方法決定処理部
113…平行移動補間処理部
114…コピー補間処理部
200…ビデオカメラ
210…動画再生機器
300…プロジェクタ
310…ディスプレイ
DESCRIPTION OF SYMBOLS 100 ... Moving image converter 101 ... Input I / F
102 ... RAM
103 ... CPU
104 ... ROM
105 ... Hard disk 106 ... Output I / F
DESCRIPTION OF SYMBOLS 107 ... Bus 110 ... Whole calculation process part 111 ... Area calculation process part 112 ... Interpolation method determination process part 113 ... Parallel displacement interpolation process part 114 ... Copy interpolation process part 200 ... Video camera 210 ... Movie reproduction apparatus 300 ... Projector 310 ... display

Claims (3)

入力される画像のフレームレートをRi、出力される画像のフレームレートをRoとして、フレーム補間拡大率Ex=Ro/Riのフレーム補間を行う動画像変換装置において、
入力された画像について、1フレーム前の画像全体から今回の画像全体への動きベクトルである全体動きベクトルVallを算出する全体算出手段と、
画像を複数領域に分けた各領域について、前記1フレーム前の画像から前記今回の画像への動きベクトルである領域毎動きベクトルVmn(nはn番目の領域を表す)を算出する領域算出手段と、
前記全体算出手段が算出した全体動きベクトルVallおよび前記フレーム補間拡大率Exから算出される値Vall(Ex−1)/Exと前記領域算出手段の算出した領域毎動きベクトルVmnとを比較した結果に応じて、フレーム補間方法を、前記1フレーム前の画像をVall/Exずつずらした画像により補間する方法と、前記1フレーム前の画像により補間する方法との中から選択する補間方法選択手段とを備え
前記補間方法選択手段は、全体動きベクトルVallの水平成分および垂直成分をそれぞれVall_x、Vall_yとし、領域毎動きベクトルVmnの水平成分および垂直成分をそれぞれVmn_x、Vmn_yとして、所定の個数αの領域において、
(Vmn_x≧Vall_x(Ex−1)/Ex≧0、または、Vmn_x≦Vall_x(Ex−1)/Ex<0)かつ
(Vmn_y≧Vall_y(Ex−1)/Ex≧0、または、Vmn_y≦Vall_y(Ex−1)/Ex<0)
が成り立つときは、前記1フレーム前の画像をVall/Exずつずらした画像により補間すると選択し、それ以外のときは、前記1フレーム前の画像により補間すると選択することを特徴とする動画像変換装置。
In a moving image conversion apparatus that performs frame interpolation with a frame interpolation magnification rate Ex = Ro / Ri, where Ri is the frame rate of the input image and Ro is the frame rate of the output image,
An overall calculation means for calculating an overall motion vector Vall, which is a motion vector from the entire image one frame before to the entire current image, for the input image;
Area calculation means for calculating a motion vector Vmn for each area (n represents an nth area), which is a motion vector from the previous image to the current image, for each area obtained by dividing the image into a plurality of areas; ,
As a result of comparing the overall motion vector Vall calculated by the overall calculation unit and the value Vall (Ex-1) / Ex calculated from the frame interpolation magnification rate Ex with the motion vector Vmn for each region calculated by the region calculation unit. Accordingly, as a frame interpolation method, an interpolation method selection means for selecting from a method of interpolating the image of the previous frame by an image shifted by Val / Ex and a method of interpolating by the image of the previous frame. Prepared ,
The interpolation method selection means sets the horizontal and vertical components of the entire motion vector Vall as Vall_x and Vall_y, respectively, and sets the horizontal and vertical components of the region-specific motion vector Vmn as Vmn_x and Vmn_y, respectively, in a predetermined number α of regions.
(Vmn_x ≧ Vall_x (Ex−1) / Ex ≧ 0, or Vmn_x ≦ Vall_x (Ex−1) / Ex <0) and
(Vmn_y ≧ Vall_y (Ex−1) / Ex ≧ 0 or Vmn_y ≦ Vall_y (Ex−1) / Ex <0)
When the holds, the 1 choose interpolated by the frame image before the image shifted by Vall / Ex, moving images at other times, characterized by you to select the interpolated by the previous frame image Conversion device.
コンピュータを、
入力される画像のフレームレートをRi、出力される画像のフレームレートをRoとして、フレーム補間拡大率Ex=Ro/Riのフレーム補間を行う動画像変換手段であって、
入力された画像について、1フレーム前の画像全体から今回の画像全体への動きベクトルである全体動きベクトルVallを算出する全体算出手段と、
前記今回の画像を複数領域に分けた各領域について、前記1フレーム前の画像から前記今回の画像への動きベクトルである領域毎動きベクトルVmn(nはn番目の領域を表す)を算出する領域算出手段と、
前記全体算出手段の算出した全体動きベクトルVallおよび前記フレーム補間拡大率Exから算出される値Vall(Ex−1)/Exと前記領域算出手段の算出した領域毎動きベクトルVmnとを比較した結果に応じて、フレーム補間方法を、前記1フレーム前の画像をVall/Exずつずらした画像により補間する方法と、前記1フレーム前の画像により補間する方法との中から選択する補間方法選択手段と
を備え
前記補間方法選択手段は、全体動きベクトルVallの水平成分および垂直成分をそれぞれVall_x、Vall_yとし、領域毎動きベクトルVmnの水平成分および垂直成分をそれぞれVmn_x、Vmn_yとして、所定の個数αの領域において、
(Vmn_x≧Vall_x(Ex−1)/Ex≧0、または、Vmn_x≦Vall_x(Ex−1)/Ex<0)かつ
(Vmn_y≧Vall_y(Ex−1)/Ex≧0、または、Vmn_y≦Vall_y(Ex−1)/Ex<0)
が成り立つときは、前記1フレーム前の画像をVall/Exずつずらした画像により補間すると選択し、それ以外のときは、前記1フレーム前の画像により補間すると選択することを特徴とする動画像変換手段として機能させるためのプログラム。
Computer
A moving image conversion means for performing frame interpolation with a frame interpolation magnification rate Ex = Ro / Ri, where Ri is the frame rate of the input image and Ro is the frame rate of the output image,
An overall calculation means for calculating an overall motion vector Vall, which is a motion vector from the entire image one frame before to the entire current image, for the input image;
Area for calculating a motion vector Vmn (n represents the nth area) for each area, which is a motion vector from the previous frame image to the current image, for each area obtained by dividing the current image into a plurality of areas. A calculation means;
As a result of comparing the overall motion vector Vall calculated by the overall calculation means and the value Vall (Ex-1) / Ex calculated from the frame interpolation magnification rate Ex with the motion vector Vmn for each area calculated by the area calculation means. Accordingly, as a frame interpolation method, an interpolation method selecting means for selecting from a method of interpolating the image of the previous frame by an image shifted by Val / Ex and a method of interpolating by the image of the previous frame. Prepared ,
The interpolation method selection means sets the horizontal and vertical components of the entire motion vector Vall as Vall_x and Vall_y, respectively, and sets the horizontal and vertical components of the region-specific motion vector Vmn as Vmn_x and Vmn_y, respectively, in a predetermined number α of regions.
(Vmn_x ≧ Vall_x (Ex−1) / Ex ≧ 0, or Vmn_x ≦ Vall_x (Ex−1) / Ex <0) and
(Vmn_y ≧ Vall_y (Ex−1) / Ex ≧ 0 or Vmn_y ≦ Vall_y (Ex−1) / Ex <0)
When the holds, the 1 choose interpolated by the frame image before the image shifted by Vall / Ex, moving images at other times, characterized by you to select the interpolated by the previous frame image A program for functioning as a conversion means.
入力される画像のフレームレートをRi、出力される画像のフレームレートをRoとして、フレーム補間拡大率Ex=Ro/Riのフレーム補間を行う動画像変換装置における動画像変換方法において、
入力された画像について、1フレーム前の画像全体から今回の画像全体への動きベクトルである全体動きベクトルVallを算出する第1の過程と、
前記今回の画像を複数領域に分けた各領域について、前記1フレーム前の画像から前記今回の画像への動きベクトルである領域毎動きベクトルVmn(nはn番目の領域を表す)を算出する第2の過程と、
前記第1の過程にて算出した全体動きベクトルVallおよび前記フレーム補間拡大率Exから算出される値Vall(Ex−1)/Exと前記第2の過程にて算出した領域毎動きベクトルVmnとを比較した結果に応じて、フレーム補間方法を、前記1フレーム前の画像をVall/Exずつずらした画像により補間する方法と、前記1フレーム前の画像により補間する方法との中から選択する第3の過程と、
を備え
前記第3の過程は、全体動きベクトルVallの水平成分および垂直成分をそれぞれVall_x、Vall_yとし、領域毎動きベクトルVmnの水平成分および垂直成分をそれぞれVmn_x、Vmn_yとして、所定の個数αの領域において、
(Vmn_x≧Vall_x(Ex−1)/Ex≧0、または、Vmn_x≦Vall_x(Ex−1)/Ex<0)かつ
(Vmn_y≧Vall_y(Ex−1)/Ex≧0、または、Vmn_y≦Vall_y(Ex−1)/Ex<0)
が成り立つときは、前記1フレーム前の画像をVall/Exずつずらした画像により補間すると選択し、それ以外のときは、前記1フレーム前の画像により補間すると選択することを特徴とする動画像変換方法。
In the moving image conversion method in the moving image conversion apparatus that performs frame interpolation with the frame interpolation magnification rate Ex = Ro / Ri, where Ri is the frame rate of the input image and Ro is the frame rate of the output image,
A first process of calculating an overall motion vector Vall, which is a motion vector from the entire image one frame before to the entire current image, for the input image;
For each region obtained by dividing the current image into a plurality of regions, a motion vector Vmn (n represents the nth region) for each region, which is a motion vector from the previous image to the current image, is calculated. 2 process,
A value Vall (Ex-1) / Ex calculated from the overall motion vector Vall calculated in the first process and the frame interpolation magnification rate Ex, and an area-specific motion vector Vmn calculated in the second process. According to the comparison result, a frame interpolation method is selected from among a method of interpolating the image of the previous frame by an image shifted by Val / Ex and a method of interpolating by the image of the previous frame. And the process
Equipped with a,
In the third step, the horizontal and vertical components of the entire motion vector Vall are set as Vall_x and Vall_y, respectively, and the horizontal and vertical components of the motion vector Vmn for each region are set as Vmn_x and Vmn_y, respectively, in a predetermined number α of regions,
(Vmn_x ≧ Vall_x (Ex−1) / Ex ≧ 0, or Vmn_x ≦ Vall_x (Ex−1) / Ex <0) and
(Vmn_y ≧ Vall_y (Ex−1) / Ex ≧ 0 or Vmn_y ≦ Vall_y (Ex−1) / Ex <0)
When the holds, the 1 choose interpolated by the frame image before the image shifted by Vall / Ex, moving images at other times, characterized by you to select the interpolated by the previous frame image Conversion method.
JP2006101671A 2006-04-03 2006-04-03 Moving picture conversion apparatus, program thereof, and moving picture conversion method Expired - Fee Related JP4835234B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006101671A JP4835234B2 (en) 2006-04-03 2006-04-03 Moving picture conversion apparatus, program thereof, and moving picture conversion method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006101671A JP4835234B2 (en) 2006-04-03 2006-04-03 Moving picture conversion apparatus, program thereof, and moving picture conversion method

Publications (2)

Publication Number Publication Date
JP2007281560A JP2007281560A (en) 2007-10-25
JP4835234B2 true JP4835234B2 (en) 2011-12-14

Family

ID=38682607

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006101671A Expired - Fee Related JP4835234B2 (en) 2006-04-03 2006-04-03 Moving picture conversion apparatus, program thereof, and moving picture conversion method

Country Status (1)

Country Link
JP (1) JP4835234B2 (en)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6028392A (en) * 1983-07-26 1985-02-13 Nec Corp Movement interpolation system of dynamic picture signal
JPH10233996A (en) * 1997-02-20 1998-09-02 Sony Corp Video signal reproducing device and video signal reproducing method
JP2000165821A (en) * 1998-11-30 2000-06-16 Fujitsu Ltd Device and method for transforming image format
JP2003069961A (en) * 2001-08-27 2003-03-07 Seiko Epson Corp Frame rate conversion

Also Published As

Publication number Publication date
JP2007281560A (en) 2007-10-25

Similar Documents

Publication Publication Date Title
US8374462B2 (en) Content-aware image and video resizing by anchor point sampling and mapping
TWI455588B (en) Bi-directional, local and global motion estimation based frame rate conversion
JP4837615B2 (en) Image processing method and image processing apparatus
JP6236259B2 (en) Image processing apparatus, image processing method, and image processing program
JP7527359B2 (en) Encoding and decoding method, apparatus and device
US8682110B2 (en) Method and apparatus for converting resolution of block based image
CN102291531A (en) Image processing apparatus, image processing method, and program
US8836860B2 (en) Method and apparatus for converting image rate by using image scaling
JP2006067541A (en) Video converting apparatus and method, and recording medium
US8305500B2 (en) Method of block-based motion estimation
JP7027776B2 (en) Movement vector calculation method, device, program, and movement vector calculation method including noise reduction processing.
JP4835234B2 (en) Moving picture conversion apparatus, program thereof, and moving picture conversion method
US20110102681A1 (en) Image converting method and apparatus therefor based on motion vector-sharing
JP7324065B2 (en) Motion vector detection device, imaging device, motion vector detection method, and program
JPWO2017203941A1 (en) IMAGE PROCESSING APPARATUS, IMAGE PROCESSING METHOD, AND PROGRAM
JP4872424B2 (en) Image processing apparatus, image processing method, and program
JP4410172B2 (en) Motion vector estimation method, motion vector estimation device, motion vector estimation program, and motion vector estimation program recording medium
JP4552691B2 (en) Moving picture conversion apparatus, moving picture restoration apparatus and method, and computer program
JP5762006B2 (en) Image processing apparatus and image processing method
JP2007288681A (en) Image processing apparatus and method, and program
JP6091082B2 (en) Image processing apparatus, image processing method, and program
JP5937031B2 (en) Image processing apparatus, method, and program
JP2006215657A (en) Method, apparatus, program and program storage medium for detecting motion vector
JP6215861B2 (en) Image enlarging apparatus and image enlarging method
JP5371682B2 (en) Image processing apparatus and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090306

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110615

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110830

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110912

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141007

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4835234

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees