JP2018093426A - Video recovery system, video recovery method, and program - Google Patents

Video recovery system, video recovery method, and program Download PDF

Info

Publication number
JP2018093426A
JP2018093426A JP2016236855A JP2016236855A JP2018093426A JP 2018093426 A JP2018093426 A JP 2018093426A JP 2016236855 A JP2016236855 A JP 2016236855A JP 2016236855 A JP2016236855 A JP 2016236855A JP 2018093426 A JP2018093426 A JP 2018093426A
Authority
JP
Japan
Prior art keywords
image
unit
splice
images
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016236855A
Other languages
Japanese (ja)
Other versions
JP6775146B2 (en
Inventor
渡邊 睦
Mutsumi Watanabe
睦 渡邊
佐藤 公則
Kiminori Sato
公則 佐藤
伸也 福元
Shinya Fukumoto
伸也 福元
雅之 鹿嶋
Masayuki Kashima
雅之 鹿嶋
惇史 松本
Atsushi Matsumoto
惇史 松本
森田 健太郎
Kentaro Morita
健太郎 森田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Greentree Inc
Kagoshima University NUC
Original Assignee
Greentree Inc
Kagoshima University NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Greentree Inc, Kagoshima University NUC filed Critical Greentree Inc
Priority to JP2016236855A priority Critical patent/JP6775146B2/en
Publication of JP2018093426A publication Critical patent/JP2018093426A/en
Application granted granted Critical
Publication of JP6775146B2 publication Critical patent/JP6775146B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Studio Circuits (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Analysis (AREA)

Abstract

PROBLEM TO BE SOLVED: To make it possible to extremely improve efficiency of recovery work for a video film.SOLUTION: A splice linear line detection unit 2 detects a picture Pn including a splice linear line of a series of pictures P1 to PN constituting a moving picture. A similarity calculation unit 3 calculates similarity between a detection picture Pn detected by the splice linear line detection unit 2 and each of pictures Pn-1, Pn+1 prior and posterior to the detection picture Pn. A picture recovery unit 4 extracts a partial picture corresponding to part at which the splice linear line has emerged, from a picture having higher similarity to the detection picture Pn of the prior and posterior pictures Pn-1, Pn+1; and, with the extracted partial picture, replaces a corresponding partial picture in the detection picture Pn to erase the splice linear line included in the detection picture Pn. A moving picture generation unit 7 connects the series of pictures P1 to PN from which the splice linear line has been erased by the picture recovery unit 4 to generate a moving picture.SELECTED DRAWING: Figure 1

Description

本発明は、映像修復システム、映像修復方法及びプログラムに関する。   The present invention relates to a video restoration system, a video restoration method, and a program.

多チャンネル時代をむかえ、古い映像コンテンツを大画面で精細なディスプレイで見ることが多くなっている。そこで、古い映像コンテンツなどのデジタル映像化が行われている。古い映画コンテンツでは、経年劣化したフィルムの色の修復技術や、パラ消しと言われるノイズ除去など、映像を修復する技術等が一部自動化されている(例えば、特許文献1参照)。   In the multi-channel era, older video content is often viewed on large screens and fine displays. Therefore, digitalization of old video content has been performed. In old movie content, a technique for restoring video such as a technique for restoring the color of an aged film and a noise removal called para-erasing are partially automated (for example, see Patent Document 1).

特開2011−138035号公報JP 2011-138035 A

古い映像コンテンツを大画面で精細なディスプレイで表示した場合に、特に際立ってくるのが、画像内に一瞬表示されるスプライス直線や縦キズなどのキズである。しかしながら、現状では、映像フィルムに残されたキズ等の検出及び修復は、依然として目視及び手作業で行われているのが一般的である。   When old video content is displayed on a large screen and a fine display, particularly noticeable scratches such as splice lines and vertical scratches that are displayed momentarily in the image. However, at present, detection and repair of scratches and the like left on the video film are generally still performed visually and manually.

本発明は、上記実情に鑑みてなされたものであり、映像フィルムの修復作業を各段に効率化することができる映像修復システム、映像修復方法及びプログラムを提供することを目的とする。   The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a video restoration system, a video restoration method, and a program capable of improving the restoration work of a video film at each stage.

上記目的を達成するために、本発明の第1の観点に係る映像修復システムは、
動画を修復する映像修復システムであって、
前記動画を構成する一連の画像のうち、スプライス直線が含まれる画像を検出するスプライス直線検出部と、
前記スプライス直線検出部で検出された検出画像と、前記検出画像の前後の画像との類似度をそれぞれ算出する類似度算出部と、
前記前後の画像のうち、前記検出画像と類似度が高い方の画像から、前記スプライス直線が出現した部分に対応する部分画像を抽出し、抽出された部分画像を、対応する前記検出画像の部分画像と置換して、前記検出画像に含まれるスプライス直線を消去する画像修復部と、
前記画像修復部でスプライス直線が消去された一連の画像をつなげて動画を生成する動画生成部と、
を備える。
In order to achieve the above object, a video restoration system according to the first aspect of the present invention includes:
A video repair system that repairs videos,
Among the series of images constituting the moving image, a splice line detection unit that detects an image including a splice line;
A similarity calculation unit for calculating the similarity between the detection image detected by the splice line detection unit and the images before and after the detection image;
A partial image corresponding to a portion where the splice line appears is extracted from an image having a higher similarity to the detected image among the preceding and succeeding images, and the extracted partial image is a portion of the corresponding detected image. An image restoration unit that replaces the image and erases the splice line included in the detected image;
A moving image generating unit that generates a moving image by connecting a series of images from which the splice line has been deleted in the image restoration unit;
Is provided.

この場合、前記スプライス直線検出部は、
前記一連の画像から、シーンの切り変わり時点に対応する画像を特定し、
特定された画像の中から、スプライス直線が含まれる画像を検出する、
こととしてもよい。
In this case, the splice straight line detection unit is
From the series of images, specify the image corresponding to the scene change point,
Detect images that contain splice lines from the identified images.
It is good as well.

また、前記スプライス直線検出部は、
ハフ変換により、スプライス直線が含まれる画像を検出する、
こととしてもよい。
In addition, the splice straight line detection unit,
Detect images containing splice lines by Hough transform,
It is good as well.

前記画像修復部は、
前記検出画像と前記類似度が高い方の画像との水平方向のずれ量を検出し、
画像から抽出された部分画像を、水平方向に検出したずれ量だけずらして、対応する前記検出画像の対応する部分画像と置換する、
こととしてもよい。
The image restoration unit
Detecting a horizontal shift amount between the detected image and the image having the higher similarity,
The partial image extracted from the image is shifted by the amount of shift detected in the horizontal direction and replaced with the corresponding partial image of the corresponding detected image.
It is good as well.

前記画像修復部は、
置換後の画像に、空白がある場合に、その空白に隣接する部分画像を、前記空白に埋め込んで、画像を修復する、
こととしてもよい。
The image restoration unit
If there is a blank in the image after replacement, the partial image adjacent to the blank is embedded in the blank to repair the image.
It is good as well.

前記画像修復部は、
位相限定相関法を用いて前記検出画像と前記類似度が高い方の画像との水平方向のずれ量を検出する、
こととしてもよい。
The image restoration unit
Detecting the amount of horizontal deviation between the detected image and the image with the higher similarity using a phase-only correlation method;
It is good as well.

前記画像修復部で修復された部分画像周辺の平滑化を行う画像平滑化部を備える、
こととしてもよい。
An image smoothing unit that performs smoothing around the partial image restored by the image restoration unit;
It is good as well.

前記映像を構成する一連の画像に含まれる縦キズが含まれる画像を検出する縦キズ検出部を備え、
前記画像平滑化部は、
前記縦キズ検出部で検出された縦キズの周辺領域の画像の平滑化を行う、
こととしてもよい。
A vertical flaw detection unit that detects an image including a vertical flaw included in a series of images constituting the video;
The image smoothing unit
Smoothing the image of the peripheral area of the vertical flaw detected by the vertical flaw detection unit,
It is good as well.

本発明の第2の観点に係る映像修復方法は、
動画を修復する映像修復方法であって、
コンピュータが、前記動画を構成する一連の画像のうち、スプライス直線が含まれる画像を検出するスプライス直線検出工程と、
コンピュータが、前記スプライス直線検出工程で検出された検出画像と、前記検出画像の前後の画像との類似度をそれぞれ算出する類似度算出工程と、
コンピュータが、前記前後の画像のうち、前記検出画像と類似度が高い方の画像から、前記スプライス直線が出現した部分に対応する部分画像を抽出し、抽出された部分画像を、対応する前記検出画像の部分画像と置換して、前記検出画像に含まれるスプライス直線を消去する画像修復工程と、
コンピュータが、前記画像修復工程でスプライス直線が消去された一連の画像をつなげて動画を生成する動画生成工程と、
を含む。
The video restoration method according to the second aspect of the present invention is:
A video restoration method for repairing a video,
A computer detects a splice line detection step of detecting an image including a splice line among a series of images constituting the moving image;
A degree-of-similarity calculation step in which the computer calculates the degree of similarity between the detection image detected in the splice line detection step and images before and after the detection image;
The computer extracts a partial image corresponding to a portion where the splice line appears from an image having a higher similarity to the detected image among the preceding and succeeding images, and the extracted partial image is associated with the corresponding detection. An image repairing step of replacing a partial image of the image and erasing the splice line contained in the detected image;
A moving image generating step in which a computer generates a moving image by connecting a series of images from which the splice line has been deleted in the image restoration step;
including.

本発明の第3の観点に係るプログラムは、
動画を修復するコンピュータを、
前記動画を構成する一連の画像のうち、スプライス直線が含まれる画像を検出するスプライス直線検出部、
前記スプライス直線検出部で検出された検出画像と、前記検出画像の前後の画像との類似度をそれぞれ算出する類似度算出部、
前記前後の画像のうち、前記検出画像と類似度が高い方の画像から、前記スプライス直線が出現した部分に対応する部分画像を抽出し、抽出された部分画像を、対応する前記検出画像の部分画像と置換して、前記検出画像に含まれるスプライス直線を消去する画像修復部、
前記画像修復部でスプライス直線が消去された一連の画像をつなげて動画を生成する動画生成部、
として機能させる。
The program according to the third aspect of the present invention is:
The computer that repairs the video
A splice line detection unit for detecting an image including a splice line among a series of images constituting the moving image;
A similarity calculation unit for calculating the similarity between the detection image detected by the splice line detection unit and images before and after the detection image;
A partial image corresponding to a portion where the splice line appears is extracted from an image having a higher similarity to the detected image among the preceding and succeeding images, and the extracted partial image is a portion of the corresponding detected image. An image restoration unit that replaces the image and erases the splice line included in the detected image,
A moving image generating unit that generates a moving image by connecting a series of images from which the splice line has been deleted in the image restoration unit;
To function as.

本発明によれば、映像フィルムに残るスプライス直線と縦キズとを自動的に検出し、検出したスプライス直線と縦キズとを消去して自動的に修復することができる。これにより、映像フィルムの修復作業を各段に効率化することができる。   According to the present invention, it is possible to automatically detect splice lines and vertical flaws remaining on the video film, and to automatically repair the detected splice lines and vertical flaws by erasing them. Thereby, the restoration work of the video film can be made efficient at each stage.

本発明の実施の形態に係る映像修復システムの構成を示すブロック図である。It is a block diagram which shows the structure of the video restoration system which concerns on embodiment of this invention. スプライス直線の一例を示す図である。It is a figure which shows an example of a splice straight line. 縦キズの一例を示す図である。It is a figure which shows an example of a vertical crack. シーンの切り替わりの一例を示す図である。It is a figure which shows an example of the switching of a scene. 図5(A)及び図5(B)は、Hough変換を用いてスプライス直線を検出する流れの一例を示す図である。FIG. 5A and FIG. 5B are diagrams showing an example of a flow for detecting a splice line using Hough transform. 図6(A)、図6(B)及び図6(C)は、画像間の類似度を算出するために用いられる画像の輝度値のヒストグラムである。6A, 6B, and 6C are histograms of image luminance values used to calculate the similarity between images. 図7(A)及び図7(B)は、画像修復の流れを示す模式図である。FIGS. 7A and 7B are schematic diagrams showing the flow of image restoration. 画像間のずれ量を算出する流れを示す模式図である。It is a schematic diagram which shows the flow which calculates the deviation | shift amount between images. 図9(A)及び図9(B)は、画像を修復する流れを示す模式図である。FIG. 9A and FIG. 9B are schematic diagrams illustrating a flow of restoring an image. 図10(A)、図10(B)及び図10(C)は、縦キズの検出の流れを示す模式図である。FIG. 10A, FIG. 10B, and FIG. 10C are schematic diagrams showing the flow of detection of vertical flaws. 図1の映像修復システムのハードウエア構成を示すブロック図である。It is a block diagram which shows the hardware constitutions of the image restoration system of FIG. 本発明の実施の形態に係る映像修復システムの動作のフローチャートである。It is a flowchart of the operation | movement of the video restoration system which concerns on embodiment of this invention.

以下、本発明の実施の形態について、図面を参照して詳細に説明する。本実施の形態に係る映像修復システムは、古い映像フィルムを再生したときに画面に現れるキズを修復する画像処理システムである。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. The video restoration system according to the present embodiment is an image processing system that repairs scratches that appear on the screen when an old video film is played.

図1に示すように、データ記憶部10には、古い映像フィルムをデジタル化して得られた動画データを構成する一連の画像P1、P2、P3、P4、P5、…、Pn(nは自然数)が記憶されている。本実施の形態では、この一連の画像P1〜Pnが修復対象となる。以下では、各画像P1〜PnをショットP1〜Pnとも呼ぶ。本実施の形態では、修復されるキズは、主として、スプライス直線及び縦キズである。   As shown in FIG. 1, the data storage unit 10 includes a series of images P1, P2, P3, P4, P5,..., Pn (n is a natural number) constituting moving image data obtained by digitizing an old video film. Is remembered. In the present embodiment, this series of images P1 to Pn is a restoration target. Below, each image P1-Pn is also called shot P1-Pn. In the present embodiment, the scratches to be repaired are mainly splice straight lines and vertical scratches.

スプライス直線は、水平方向に延びるように画面に現れる直線である。スプライス直線は、主として、映像の編集の際にフィルムがカットされ、つなぎ合わせた部分に発生する。図2では、画像Pnにスプライス直線Sが含まれている。図2に示すように、スプライス直線Sは、主として映像コンテンツのシーン(場面)の切り替わりにおいて発生し、その発生場所は、画像Pnの上部又は下部となる。   The splice line is a line that appears on the screen so as to extend in the horizontal direction. The splice straight line is mainly generated at a portion where the film is cut and joined when the video is edited. In FIG. 2, a splice line S is included in the image Pn. As shown in FIG. 2, the splice line S is generated mainly at the switching of the scene (scene) of the video content, and the generation location is the upper part or the lower part of the image Pn.

縦キズは、画面の垂直方向に延びるキズであり、各画像Pn内の任意の場所に出現する。図3では、縦キズIの一例が示されている。縦キズIは、映像コンテンツのシーンの切り替わり等に関係なく、ランダムに出現する。   A vertical flaw is a flaw extending in the vertical direction of the screen and appears at an arbitrary location in each image Pn. In FIG. 3, an example of the vertical scratch I is shown. The vertical scratch I appears at random regardless of the switching of the scene of the video content.

図1に戻り、映像修復システム1は、スプライス直線検出部2と、類似度算出部3と、画像修復部4と、縦キズ検出部5と、画像平滑化部6と、動画生成部7と、を備える。   Returning to FIG. 1, the video restoration system 1 includes a splice line detection unit 2, a similarity calculation unit 3, an image restoration unit 4, a vertical flaw detection unit 5, an image smoothing unit 6, and a moving image generation unit 7. .

スプライス直線検出部2は、動画を構成する一連の画像P1〜PNのうち、スプライス直線Sが含まれる画像Pn(n=1〜N)を検出する。   The splice line detection unit 2 detects an image Pn (n = 1 to N) including the splice line S among a series of images P1 to PN constituting the moving image.

より具体的には、スプライス直線検出部2は、まず、図4に示すように、一連の画像P1〜PNから、映像コンテンツのシーンの切り変わり時点Ck(kは自然数)に対応する画像Pnを特定する。スプライス直線Sは、主として映像コンテンツのシーンの切り替わりにおいて良く出現するため、本実施の形態では、スプライス直線検出部2は、予めシーンの切り替わり時点Ckを検出し、その時点Ck近傍の画像Pnに絞って、スプライス直線Sの検出を行う。スプライス直線検出部2は、特定された画像P1〜PN、すなわちシーンの切り替わり時点Ck前後の画像Pnの中から、スプライス直線Sが含まれる画像Pnを検出する。   More specifically, as shown in FIG. 4, the splice line detection unit 2 first selects an image Pn corresponding to a scene change point Ck (k is a natural number) from a series of images P1 to PN. Identify. Since the splice line S often appears mainly at the scene change of the video content, in the present embodiment, the splice line detection unit 2 detects the scene change point Ck in advance and narrows it down to the image Pn near the point Ck. Then, the splice line S is detected. The splice line detection unit 2 detects the image Pn including the splice line S from the specified images P1 to PN, that is, the images Pn before and after the scene switching time Ck.

スプライス直線Sの検出には、例えばハフ(Hough)変換を用いることができる。Hough変換は、デジタル画像処理で用いられる特徴抽出法の1つであり、画像から直線、円、楕円等の図形を検出する技法である。例えば、図5(A)に示すように、画像Pnの各画素の位置座標を(x,y)とする。また、画像Pn内におけるスプライス直線Sがある場合に、スプライス直線Sの関係式をy=ax+bとする。Hough変換を行うことにより、スプライス直線Sの関係式の係数a,bを求めることができる。   For the detection of the splice line S, for example, Hough transformation can be used. The Hough transform is one of feature extraction methods used in digital image processing, and is a technique for detecting graphics such as straight lines, circles, and ellipses from an image. For example, as shown in FIG. 5A, the position coordinates of each pixel of the image Pn are (x, y). When there is a splice line S in the image Pn, the relational expression of the splice line S is y = ax + b. By performing the Hough transform, the coefficients a and b of the relational expression of the splice line S can be obtained.

まず、スプライス直線検出部2は、画像Pnにおいて輝度変化の大きな画素点をスプライス直線S上の候補点として検出する。図5(A)では、(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)、・・・が候補点として検出されている様子が示されている。   First, the splice line detection unit 2 detects a pixel point having a large luminance change as a candidate point on the splice line S in the image Pn. In FIG. 5A, (x1, y1), (x2, y2), (x3, y3), (x4, y4),... Are detected as candidate points.

候補点(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)、・・・をそれぞれ通過する直線は無数に存在する。スプライス直線検出部2は、抽出された候補点が最も多く通過する直線をスプライス直線Sとして検出する。   There are an infinite number of straight lines passing through the candidate points (x1, y1), (x2, y2), (x3, y3), (x4, y4),. The splice line detection unit 2 detects, as the splice line S, the line through which the extracted candidate points pass most.

ここで、図5(B)に、スプライス直線Sの関係式の係数a,bを座標軸とする平面を示す。スプライス直線検出部2は、図5(B)に示すように、この平面上で、それぞれ候補点(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4)、・・・を通過する可能性のある点(a,b)について投票を行っていく。この投票で最も点数の多かった座標(a1,b1)を、スプライス直線Sの直線式の係数a,bとして決定する。   Here, FIG. 5B shows a plane having the coefficients a and b of the relational expression of the splice line S as coordinate axes. As shown in FIG. 5 (B), the splice line detection unit 2 has candidate points (x1, y1), (x2, y2), (x3, y3), (x4, y4),.・ Vot for points (a, b) that may pass. The coordinates (a1, b1) having the highest score in this vote are determined as the coefficients a, b of the linear expression of the splice line S.

図1に戻り、類似度算出部3は、スプライス直線検出部2で検出された検出画像Pnと、検出画像Pnの前後の画像Pn−1、Pn+1との類似度をそれぞれ算出する。ここでは、検出画像Pnとその前後の画像Pn−1、Pn+1について、検出画像Pnとその前の画像Pn−1との類似度と、検出画像Pnとその後の画像Pn+1との類似度がそれぞれ算出される。   Returning to FIG. 1, the similarity calculation unit 3 calculates the similarity between the detection image Pn detected by the splice line detection unit 2 and the images Pn−1 and Pn + 1 before and after the detection image Pn. Here, for the detected image Pn and the images Pn-1 and Pn + 1 before and after it, the similarity between the detected image Pn and the previous image Pn-1 and the similarity between the detected image Pn and the subsequent image Pn + 1 are calculated. Is done.

各画像Pnの類似度は、各画像Pnの輝度値のヒストグラムの相関度に基づいて算出される。例えば、図6(A)、図6(B)及び図6(C)に示すように、類似度算出部3は、画像Pn、Pn−1、Pn+1の輝度値のヒストグラムを得る。さらに、類似度算出部3は、画像Pnの輝度値ヒストグラムと画像Pn−1の輝度値のヒストグラムとの相関度を求め、画像Pnの輝度値ヒストグラムと画像Pn+1の輝度値ヒストグラムとの相関度を求める。輝度値ヒストグラムの相関度が高い画像Pn+1、Pn−1のいずれかが、類似度が高い画像となる。   The similarity of each image Pn is calculated based on the correlation degree of the histogram of the luminance value of each image Pn. For example, as shown in FIGS. 6A, 6B, and 6C, the similarity calculation unit 3 obtains histograms of luminance values of images Pn, Pn−1, and Pn + 1. Further, the similarity calculation unit 3 obtains the correlation between the luminance value histogram of the image Pn and the luminance value histogram of the image Pn−1, and calculates the correlation between the luminance value histogram of the image Pn and the luminance value histogram of the image Pn + 1. Ask. One of the images Pn + 1 and Pn−1 having a high correlation value in the luminance value histogram is an image having a high similarity.

図1に戻り、画像修復部4は、図7(A)に示すように、前後の画像Pn−1、Pn+1のうち、類似度が高い方の画像P’を選択する。さらに、画像修復部4は、図7(B)に示すように、類似度が高い方の画像P’から、スプライス直線Sが出現した部分に対応する部分画像PI’を抽出する。さらに、画像修復部4は、抽出された部分画像PI’を、対応する検出画像Pnの部分画像PIと置換して、検出画像Pnに含まれるスプライス直線Sを消去する。   Returning to FIG. 1, as shown in FIG. 7A, the image restoration unit 4 selects an image P ′ having a higher degree of similarity among the previous and subsequent images Pn−1 and Pn + 1. Further, as shown in FIG. 7B, the image restoration unit 4 extracts a partial image PI ′ corresponding to the portion where the splice line S appears from the image P ′ having the higher similarity. Further, the image restoration unit 4 replaces the extracted partial image PI ′ with the corresponding partial image PI of the detected image Pn, and deletes the splice line S included in the detected image Pn.

なお、スプライス直線Sは、各画像Pnの上端近傍の領域又は下端近傍の領域に現れ、その発生領域は、上端又は下端から一定の範囲に現れるのが一般的である。従って、部分画像PI、PI’を、各画像Pnの上端又は下端における固定大の画像領域とすることができる。このため、スプライス直線Sの位置は、画像の上側に出現しているか、下側に出現しているかを検出するだけでもよい。   Note that the splice line S appears in an area near the upper end or near the lower end of each image Pn, and the generated area generally appears in a certain range from the upper end or the lower end. Therefore, the partial images PI and PI ′ can be a fixed-size image region at the upper end or the lower end of each image Pn. For this reason, it is only necessary to detect whether the position of the splice line S appears on the upper side or the lower side of the image.

さらに、画像修復部4は、図8に示すように、検出画像Pnと類似度が高い方の画像P’との水平方向のずれ量を検出する。そして、画像修復部4は、画像P’から抽出された部分画像PI’を、水平方向に検出したずれ量だけずらして、対応する検出画像Pnの部分画像PIと置換する。ずれ量の検出には、本実施の形態では、位相限定相関法(POC;Phase Only Correlation Method)を用いる。位相限定相関法は、2つの画像の間がどれぐらいずれているか、すなわち画像のシフト量を、各画像の位相画像を用いて推定する方法である。この方法は、2つの画像の位相に注目しそれらの位相の相関を取り、画像の間の「類似度」を測る。   Further, as shown in FIG. 8, the image restoration unit 4 detects the amount of horizontal deviation between the detected image Pn and the image P ′ having a higher similarity. Then, the image restoration unit 4 shifts the partial image PI ′ extracted from the image P ′ by the amount of displacement detected in the horizontal direction and replaces it with the corresponding partial image PI of the detected image Pn. In the present embodiment, a phase only correlation method (POC) is used to detect the shift amount. The phase only correlation method is a method of estimating how much the two images are deviated, that is, the shift amount of the image using the phase image of each image. This method focuses on the phases of two images, correlates those phases, and measures the “similarity” between the images.

位相限定相関法において、画像修復部4は、まず、図8に示すように、画像Pn、画像P’をそれぞれフーリエ変換して、それぞれのスペクトル成分Fa,Fbを得る。そして、画像修復部4は、スペクトル成分Fa、Fbを振幅スペクトルで割ることで正規化し、逆フーリエ変換することで位相限定画像Fabを得る。位相限定画像Fabでは、位置座標(Δx,Δy)に点が形成されている。この点の位置座標(Δx,Δy)が、画像Pnと画像P’とのx軸方向、y軸方向のずれ量を示している。   In the phase only correlation method, the image restoration unit 4 first performs Fourier transform on the image Pn and the image P ′, respectively, as shown in FIG. 8 to obtain respective spectral components Fa and Fb. Then, the image restoration unit 4 normalizes the spectral components Fa and Fb by dividing them by the amplitude spectrum, and obtains the phase limited image Fab by performing inverse Fourier transform. In the phase only image Fab, points are formed at the position coordinates (Δx, Δy). The position coordinates (Δx, Δy) of this point indicate the amount of deviation between the image Pn and the image P ′ in the x-axis direction and the y-axis direction.

画像修復部4は、部分画像PI’をx軸方向にΔxだけシフトさせて、画像Pnに埋め込む。この場合、図9(A)に示すように、空白部分Qが発生する。置換後の画像Pn’に空白部分Qがある場合、画像修復部4は、図9(B)に示すように、画像P’の空白部分Qに隣接する部分画像RIを、空白部分Qに埋め込んで、画像を修復する。なお、図9(A)は、Δxが正の場合であるが、Δxが負で、部分画像PI’を左方向にシフトするようにしてもよい。   The image restoration unit 4 shifts the partial image PI ′ by Δx in the x-axis direction and embeds it in the image Pn. In this case, a blank portion Q is generated as shown in FIG. When there is a blank portion Q in the replaced image Pn ′, the image restoration unit 4 embeds a partial image RI adjacent to the blank portion Q of the image P ′ in the blank portion Q as shown in FIG. Then repair the image. FIG. 9A shows a case where Δx is positive, but Δx may be negative and the partial image PI ′ may be shifted leftward.

図1に戻り、縦キズ検出部5は、一連の画像P1〜PNに含まれる縦キズIを検出する。具体的には、縦キズ検出部5は、図10(A)に示すように、各画像Pnにおいて、水平方向の画素の輝度変化を検出して、輝度が急激に変化するエッジ部分を検出し、エッジ部分が垂直方向に繋がっている部分を、縦キズIとして検出する。   Returning to FIG. 1, the vertical flaw detection unit 5 detects a vertical flaw I included in the series of images P <b> 1 to PN. Specifically, as shown in FIG. 10A, the vertical flaw detection unit 5 detects a change in luminance of pixels in the horizontal direction in each image Pn, and detects an edge portion where the luminance changes rapidly. A portion where the edge portions are connected in the vertical direction is detected as a vertical flaw I.

図1に戻り、画像平滑化部6は、画像修復部4で修復された画像Pnの部分画像PIの周辺領域の平滑化又は縦キズ検出部5で検出された画像Pnの縦キズI周辺の領域の平滑化を行う。この画像の平滑化には、メディアンフィルタが用いられる。メディアンフィルタは、周辺輝度値の大きさを順に並べ、メディアン(中央値)を注目画素に置き換えていくフィルタ処理を行う。   Returning to FIG. 1, the image smoothing unit 6 smooths the peripheral region of the partial image PI of the image Pn restored by the image restoration unit 4 or the periphery of the vertical scratch I of the image Pn detected by the vertical scratch detection unit 5. Smooth the area. A median filter is used for smoothing the image. The median filter performs a filter process in which the sizes of the peripheral luminance values are arranged in order, and the median (median value) is replaced with the pixel of interest.

このメディアンフィルタを用いることで、画像平滑化部6は、画像Pn内に含まれるノイズを除去することができる。例えば、図10(B)に示すように、画素値が100である注目画素について周辺の画素の輝度値が、10、15、41、30、34、60、180、130であったとする。この9つの画素の輝度値などを順番に並べ換えると、10、15、30、34、41、60、100、130、180となる。この場合、画像平滑化部6は、中央の注目画素の値を中間値の41とする。これがメディアンフィルタによる平滑化処理である。   By using this median filter, the image smoothing unit 6 can remove noise included in the image Pn. For example, as shown in FIG. 10B, it is assumed that the luminance value of the surrounding pixels is 10, 15, 41, 30, 34, 60, 180, 130 for the target pixel having a pixel value of 100. When the luminance values of these nine pixels are rearranged in order, they become 10, 15, 30, 34, 41, 60, 100, 130, and 180, respectively. In this case, the image smoothing unit 6 sets the value of the center target pixel to an intermediate value of 41. This is a smoothing process using a median filter.

画像平滑化部6は、図10(C)に示すように、縦キズI周辺の領域IAに対してメディアンフィルタを適用する。これにより、縦キズIが消去される。また、画像平滑化部6は、図9(B)に示す画像Pnの部分画像PI’との境界周辺に対してメディアンフィルタを適用する。   As shown in FIG. 10C, the image smoothing unit 6 applies a median filter to the region IA around the vertical scratch I. Thereby, the vertical scratch I is erased. The image smoothing unit 6 applies a median filter to the periphery of the boundary between the image Pn and the partial image PI ′ shown in FIG. 9B.

図1に戻り、動画生成部7は、スプライス直線S及び縦キズIが消去された一連の画像P1〜PNをつなげて動画を生成する。   Returning to FIG. 1, the moving image generating unit 7 connects the series of images P <b> 1 to PN from which the splice line S and the vertical flaw I are deleted to generate a moving image.

図11は、図1の映像修復システム1のハードウエア構成を示す。図11に示すように、映像修復システム1は、制御部31、主記憶部32、外部記憶部33、操作部34及び表示部35を備える。主記憶部32、外部記憶部33、操作部34、表示部35はいずれも内部バス30を介して制御部31に接続されている。   FIG. 11 shows a hardware configuration of the video restoration system 1 of FIG. As shown in FIG. 11, the video restoration system 1 includes a control unit 31, a main storage unit 32, an external storage unit 33, an operation unit 34, and a display unit 35. The main storage unit 32, the external storage unit 33, the operation unit 34, and the display unit 35 are all connected to the control unit 31 through the internal bus 30.

制御部31は、CPU(Central Processing Unit)等から構成されている。このCPUが、外部記憶部33に記憶されているプログラム39を実行することにより、図1に示す映像修復システム1の各構成要素が実現される。   The control unit 31 includes a CPU (Central Processing Unit) and the like. The CPU executes the program 39 stored in the external storage unit 33, thereby realizing each component of the video restoration system 1 shown in FIG.

主記憶部32は、RAM(Random-Access Memory)等から構成されている。主記憶部32には、外部記憶部33に記憶されているプログラム39がロードされる。この他、主記憶部32は、制御部31の作業領域(データの一時記憶領域)として用いられる。   The main storage unit 32 is composed of a RAM (Random-Access Memory) or the like. The main storage unit 32 is loaded with a program 39 stored in the external storage unit 33. In addition, the main storage unit 32 is used as a work area (temporary data storage area) of the control unit 31.

外部記憶部33は、フラッシュメモリ、ハードディスク、DVD−RAM(Digital Versatile Disc Random-Access Memory)、DVD−RW(Digital Versatile Disc ReWritable)等の不揮発性メモリから構成される。外部記憶部33には、制御部31に実行させるためのプログラム39があらかじめ記憶されている。また、外部記憶部33は、制御部31の指示に従って、このプログラム39の実行の際に用いられるデータを制御部31に供給し、制御部31から供給されたデータを記憶する。   The external storage unit 33 includes a nonvolatile memory such as a flash memory, a hard disk, a DVD-RAM (Digital Versatile Disc Random-Access Memory), and a DVD-RW (Digital Versatile Disc ReWritable). In the external storage unit 33, a program 39 to be executed by the control unit 31 is stored in advance. Further, the external storage unit 33 supplies data used when executing the program 39 to the control unit 31 in accordance with an instruction from the control unit 31, and stores the data supplied from the control unit 31.

操作部34は、キーボード及びマウスなどのポインティングデバイス等と、キーボード及びポインティングデバイス等を内部バス30に接続するインターフェイス装置から構成されている。操作部34を介して、操作者が操作した内容に関する情報が制御部31に入力される。   The operation unit 34 includes a pointing device such as a keyboard and a mouse, and an interface device that connects the keyboard and the pointing device to the internal bus 30. Information regarding the content operated by the operator is input to the control unit 31 via the operation unit 34.

表示部35は、CRT(Cathode Ray Tube)、LCD(Liquid Crystal Display)又は有機EL(ElectroLuminescence)などから構成される。操作者が操作情報を入力する場合は、表示部35には、操作用の画面が表示される。   The display unit 35 includes a CRT (Cathode Ray Tube), an LCD (Liquid Crystal Display), an organic EL (ElectroLuminescence), or the like. When the operator inputs operation information, an operation screen is displayed on the display unit 35.

なお、制御部31のプログラム39の実行により、図1に示す映像修復システム1の構成において、スプライス直線検出部2、類似度算出部3、画像修復部4、縦キズ検出部5、画像平滑化部6及び動画生成部7は、制御部31及び主記憶部32に対応し、データ記憶部10は、外部記憶部33に対応する。   Note that, by executing the program 39 of the control unit 31, the splice line detection unit 2, the similarity calculation unit 3, the image restoration unit 4, the vertical flaw detection unit 5, and the image smoothing in the configuration of the video restoration system 1 shown in FIG. The unit 6 and the moving image generation unit 7 correspond to the control unit 31 and the main storage unit 32, and the data storage unit 10 corresponds to the external storage unit 33.

次に、映像修復システム1の動作について説明する。   Next, the operation of the video restoration system 1 will be described.

まず、スプライス直線Sの修復に係る処理について説明する。図12に示すように、まず、スプライス直線検出部2は、映像コンテンツのシーンの切り替わり時点Ckを検出する(ステップS1)。これにより、図4に示すように、映像コンテンツのシーンの切り替わり時点Ckが検出される。   First, processing related to the repair of the splice line S will be described. As shown in FIG. 12, first, the splice line detection unit 2 detects a scene switching time Ck of the video content (step S1). As a result, as shown in FIG. 4, the scene change point Ck of the video content is detected.

続いて、スプライス直線検出部2は、映像コンテンツのシーンの切り替わり時点Ckの画像Pnに含まれるスプライス直線Sを、図5(A)及び図5(B)に示すように、Hough変換を行って検出する(ステップS2;スプライス直線検出工程)。   Subsequently, the splice line detection unit 2 performs Hough conversion on the splice line S included in the image Pn at the scene switching time Ck of the video content as shown in FIGS. 5 (A) and 5 (B). It detects (step S2; splice straight line detection process).

続いて、スプライス直線検出部2は、スプライス直線Sが有るか否かを判定する(ステップS3)。スプライス直線Sがない場合(ステップS3;No)、映像修復システム1は、スプライス直線Sに係る処理を終了する。一方、スプライス直線Sがあった場合(ステップS3;Yes)、類似度算出部3が、図6(A)、図6(B)及び図6(C)に示すように、画像Pnと前後の画像Pn−1、Pn+1の類似性を比較し、類似性の高い画像を選択する(ステップS4;類似度算出工程)。   Subsequently, the splice line detection unit 2 determines whether or not there is a splice line S (step S3). When there is no splice line S (step S3; No), the video restoration system 1 ends the process related to the splice line S. On the other hand, when there is a splice line S (step S3; Yes), the similarity calculation unit 3 performs the image Pn and the front and back of the image Pn as shown in FIGS. 6 (A), 6 (B), and 6 (C). The similarity between the images Pn−1 and Pn + 1 is compared, and an image with high similarity is selected (step S4; similarity calculation step).

続いて、類似度算出部3は、類似性の高い画像とのずれがあるか否かを判定する(ステップS5)。類似性の高い画像とのずれがない場合(ステップS5;No)、画像修復部4は、図7(A)、図7(B)及び図7(C)に示すように、画像Pnにおけるスプライス直線Sが存在する部分画像PIを、類似性の高い画像P’の対応する部分画像PI’と置換することで、画像修復を行う(ステップS6;画像修復工程)。   Subsequently, the similarity calculation unit 3 determines whether or not there is a deviation from an image with high similarity (step S5). When there is no deviation from the image having high similarity (step S5; No), the image restoration unit 4 performs splicing in the image Pn as shown in FIGS. 7A, 7B, and 7C. Image restoration is performed by replacing the partial image PI in which the straight line S exists with the corresponding partial image PI ′ of the image P ′ having high similarity (step S6; image restoration process).

一方、類似性の高い画像P’とのずれがあった場合(ステップS5;Yes)、画像修復部4は、図8に示すように、位相限界推定法を用いて、シフト量Δxを算出する(ステップS7)。続いて、画像修復部4は、図9(A)に示すように、シフト量Δxだけシフトして画像P’の部分画像PI’を画像Pnの部分画像PIと置換する(ステップS8)。続いて、画像修復部4は、図9(B)に示すように、画像P’の隣接部分画像RIを、画像Pnの空白部分Qに埋め込んで、画像の埋め合わせを行う(ステップS9)。隣接する部分画像RIが空白部分Qとして最も近似するためである。   On the other hand, when there is a deviation from the image P ′ having high similarity (step S5; Yes), the image restoration unit 4 calculates the shift amount Δx using the phase limit estimation method as shown in FIG. (Step S7). Subsequently, as shown in FIG. 9A, the image restoration unit 4 shifts by the shift amount Δx and replaces the partial image PI ′ of the image P ′ with the partial image PI of the image Pn (step S8). Subsequently, as shown in FIG. 9B, the image restoration unit 4 embeds the adjacent partial image RI of the image P ′ in the blank portion Q of the image Pn, and performs image filling (step S9). This is because the adjacent partial image RI is most approximated as the blank portion Q.

続いて、画像平滑化部6は、修復した画像に対してメディアンフィルタを用いて平滑化を行う(ステップS10)。続いて、動画生成部7は、これまでに修復された画像を含む動画を生成する(ステップS14;動画生成工程)。   Subsequently, the image smoothing unit 6 smoothes the repaired image using a median filter (step S10). Subsequently, the moving image generating unit 7 generates a moving image including the image repaired so far (step S14; moving image generating step).

次に、縦キズの修復に係る処理について説明する。まず、縦キズ検出部5は、縦キズを検出する(ステップS12)。続いて、縦キズ検出部5は、図10(A)に示すように、縦キズIがあるか否かを判定する(ステップS13)。縦キズIがなかった場合(ステップS13;No)、動画生成部7は、動画を生成し(ステップS14;動画生成工程)、処理を終了する。一方、縦キズIがあった場合(ステップS13;Yes)、画像平滑化部6は、縦キズがある部分の平滑化を行う(ステップS10)。その後、動画生成部7が、縦キズが除去された画像で、動画を生成する(ステップS14;動画生成工程)。   Next, processing related to repairing vertical scratches will be described. First, the vertical flaw detection unit 5 detects a vertical flaw (step S12). Subsequently, the vertical flaw detection unit 5 determines whether or not there is a vertical flaw I as shown in FIG. 10A (step S13). When there is no vertical flaw I (step S13; No), the moving image generating unit 7 generates a moving image (step S14; moving image generating step), and ends the process. On the other hand, when there is a vertical flaw I (step S13; Yes), the image smoothing unit 6 smoothes a portion having a vertical flaw (step S10). Thereafter, the moving image generating unit 7 generates a moving image with the image from which the vertical scratch has been removed (step S14; moving image generating step).

以上詳細に説明したように、本実施の形態によれば、映像フィルムの動画に残るスプライス直線Sと縦キズIとを自動的に検出し、自動的に修復することができる。これにより、映像フィルムの修復作業を各段に効率化することができる。   As described in detail above, according to the present embodiment, the splice line S and the vertical flaw I remaining in the moving image of the video film can be automatically detected and automatically repaired. Thereby, the restoration work of the video film can be made efficient at each stage.

なお、上記実施の形態では、映像コンテンツのシーンの切り替わり時点Ckを検出し、その時点Ckの画像を対象としてスプライス直線Sを検出した。このようにすれば、スプライス直線Sを検出する画像Pnを絞りこむことができるので、検出に要する時間を短縮することができる。しかしながら、本発明はこれには限られない。すべての画像Pnについてスプライス直線Sを検出するようにしてもよい。   In the embodiment described above, the scene switching time Ck of the video content is detected, and the splice line S is detected for the image at the time Ck. In this way, since the image Pn for detecting the splice line S can be narrowed down, the time required for detection can be shortened. However, the present invention is not limited to this. The splice line S may be detected for all images Pn.

また、上記実施の形態では、動画における物体の動きに基づく前後の画像Pnの水平方向のずれ量を検出し、そのずれ量Δxに応じて部分画像PI’をずらして置換する。これにより、ずれのない画像修復が可能となる。   In the above embodiment, the horizontal shift amount of the preceding and following images Pn based on the motion of the object in the moving image is detected, and the partial image PI ′ is displaced and replaced according to the shift amount Δx. Thereby, it is possible to restore the image without deviation.

そして、部分画像PI’をずらして置換したことにより発生する空白部分Qには、図9(A)及び図9(B)に示すように、その部分に隣接する部分画像RIを埋め込む。これにより、違和感のない自然な画像修復が可能となる。   Then, in the blank portion Q generated by replacing the partial image PI ′ by shifting, as shown in FIGS. 9A and 9B, a partial image RI adjacent to the portion is embedded. Thereby, natural image restoration without a sense of incongruity becomes possible.

また、上記実施の形態によれば、上述のような部分画像PI’の置換部分周辺の平滑化を行っているので、画像Pnの一部を置換しつつ、違和感のない画像修復が可能となる。   In addition, according to the above-described embodiment, since the periphery of the replacement portion of the partial image PI ′ is smoothed as described above, it is possible to perform image restoration without discomfort while replacing a part of the image Pn. .

また、上記実施の形態によれば、古い映像フィルムに再生した時に画面に生じる縦キズIを検出し、その縦キズIを自動的に修正する。これにより、映像フィルムの修復作業を各段に効率化することができる。   Further, according to the above-described embodiment, the vertical flaw I generated on the screen when reproduced on an old video film is detected, and the vertical flaw I is automatically corrected. Thereby, the restoration work of the video film can be made efficient at each stage.

また、上記実施の形態では、スプライス直線Sの検出にHough変換を用い、部分画像の動き検出(ずれ量検出)に位相限定相関法を用い、画像の平滑化にメディアンフィルタ等を用いたが、本発明はこれには限られない。これらの方法とは他の方法で、スプライス直線Sの検出、部分画像の動き検出(ずれ量検出)、画像の平滑化を可能であれば、その方法を適用することができる。   In the above embodiment, the Hough transform is used for detecting the splice line S, the phase-only correlation method is used for motion detection (shift amount detection) of the partial image, and the median filter or the like is used for image smoothing. The present invention is not limited to this. If these methods are other methods and the splice line S can be detected, the motion of the partial image (shift amount detection), and the smoothing of the image can be applied, the method can be applied.

その他、映像修復システム1のハードウエア構成やソフトウエア構成は一例であり、任意に変更および修正が可能である。   In addition, the hardware configuration and software configuration of the video restoration system 1 are merely examples, and can be arbitrarily changed and modified.

制御部31、主記憶部32、外部記憶部33、操作部34、表示部35及び内部バス30などから構成される映像修復システム1の処理を行う中心となる部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。例えば、前記の動作を実行するためのコンピュータプログラムを、コンピュータが読み取り可能な記録媒体(フレキシブルディスク、CD−ROM、DVD−ROM等)に格納して配布し、当該コンピュータプログラムをコンピュータにインストールすることにより、前記の処理を実行する映像修復システム1を構成してもよい。また、インターネット等の通信ネットワーク上のサーバ装置が有する記憶装置に当該コンピュータプログラムを格納しておき、通常のコンピュータシステムがダウンロード等することで映像修復システム1を構成してもよい。   The central part that performs processing of the video restoration system 1 including the control unit 31, the main storage unit 32, the external storage unit 33, the operation unit 34, the display unit 35, the internal bus 30, and the like is independent of the dedicated system. It can be realized using a normal computer system. For example, a computer program for executing the above operation is stored in a computer-readable recording medium (flexible disk, CD-ROM, DVD-ROM, etc.) and distributed, and the computer program is installed in the computer. Thus, the video restoration system 1 that executes the above-described processing may be configured. Further, the video restoration system 1 may be configured by storing the computer program in a storage device included in a server device on a communication network such as the Internet and downloading the computer program from a normal computer system.

映像修復システム1の機能を、OS(オペレーティングシステム)とアプリケーションプログラムの分担、またはOSとアプリケーションプログラムとの協働により実現する場合などには、アプリケーションプログラム部分のみを記録媒体や記憶装置に格納してもよい。   When the functions of the video restoration system 1 are realized by sharing of an OS (operating system) and an application program, or by cooperation between the OS and the application program, only the application program portion is stored in a recording medium or a storage device. Also good.

搬送波にコンピュータプログラムを重畳し、通信ネットワークを介して配信することも可能である。たとえば、通信ネットワーク上の掲示板(BBS, Bulletin Board System)にコンピュータプログラムを掲示し、ネットワークを介してコンピュータプログラムを配信してもよい。そして、このコンピュータプログラムを起動し、OSの制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できるように構成してもよい。   It is also possible to superimpose a computer program on a carrier wave and distribute it via a communication network. For example, a computer program may be posted on a bulletin board (BBS, Bulletin Board System) on a communication network, and the computer program distributed via the network. The computer program may be started and executed in the same manner as other application programs under the control of the OS, so that the above-described processing may be executed.

この発明は、この発明の広義の精神と範囲を逸脱することなく、様々な実施の形態及び変形が可能とされるものである。また、上述した実施の形態は、この発明を説明するためのものであり、この発明の範囲を限定するものではない。すなわち、この発明の範囲は、実施の形態ではなく、特許請求の範囲によって示される。そして、特許請求の範囲内及びそれと同等の発明の意義の範囲内で施される様々な変形が、この発明の範囲内とみなされる。   Various embodiments and modifications can be made to the present invention without departing from the broad spirit and scope of the present invention. The above-described embodiments are for explaining the present invention and do not limit the scope of the present invention. In other words, the scope of the present invention is shown not by the embodiments but by the claims. Various modifications within the scope of the claims and within the scope of the equivalent invention are considered to be within the scope of the present invention.

本発明は、フィルム動画の修復に適用することができる。   The present invention can be applied to the restoration of film moving images.

1 映像修復システム、2 スプライス直線検出部、3 類似度算出部、4 画像修復部、5 縦キズ検出部、6 画像平滑化部、7 動画生成部、10 データ記憶部、30 内部バス、31 制御部、32 主記憶部、33 外部記憶部、34 操作部、35 表示部、39 プログラム   1 image restoration system, 2 splice line detection unit, 3 similarity calculation unit, 4 image restoration unit, 5 vertical flaw detection unit, 6 image smoothing unit, 7 moving image generation unit, 10 data storage unit, 30 internal bus, 31 control Part, 32 main storage part, 33 external storage part, 34 operation part, 35 display part, 39 program

Claims (10)

動画を修復する映像修復システムであって、
前記動画を構成する一連の画像のうち、スプライス直線が含まれる画像を検出するスプライス直線検出部と、
前記スプライス直線検出部で検出された検出画像と、前記検出画像の前後の画像との類似度をそれぞれ算出する類似度算出部と、
前記前後の画像のうち、前記検出画像と類似度が高い方の画像から、前記スプライス直線が出現した部分に対応する部分画像を抽出し、抽出された部分画像を、対応する前記検出画像の部分画像と置換して、前記検出画像に含まれるスプライス直線を消去する画像修復部と、
前記画像修復部でスプライス直線が消去された一連の画像をつなげて動画を生成する動画生成部と、
を備える映像修復システム。
A video repair system that repairs videos,
Among the series of images constituting the moving image, a splice line detection unit that detects an image including a splice line;
A similarity calculation unit for calculating the similarity between the detection image detected by the splice line detection unit and the images before and after the detection image;
A partial image corresponding to a portion where the splice line appears is extracted from an image having a higher similarity to the detected image among the preceding and succeeding images, and the extracted partial image is a portion of the corresponding detected image. An image restoration unit that replaces the image and erases the splice line included in the detected image;
A moving image generating unit that generates a moving image by connecting a series of images from which the splice line has been deleted in the image restoration unit;
Video restoration system with
前記スプライス直線検出部は、
前記一連の画像から、シーンの切り変わり時点に対応する画像を特定し、
特定された画像の中から、スプライス直線が含まれる画像を検出する、
請求項1に記載の映像修復システム。
The splice straight line detector is
From the series of images, specify the image corresponding to the scene change point,
Detect images that contain splice lines from the identified images.
The video restoration system according to claim 1.
前記スプライス直線検出部は、
ハフ変換により、スプライス直線が含まれる画像を検出する、
請求項2に記載の映像修復システム。
The splice straight line detector is
Detect images containing splice lines by Hough transform,
The video restoration system according to claim 2.
前記画像修復部は、
前記検出画像と前記類似度が高い方の画像との水平方向のずれ量を検出し、
画像から抽出された部分画像を、水平方向に検出したずれ量だけずらして、対応する前記検出画像の対応する部分画像と置換する、
ことを特徴とする請求項1から3のいずれか一項に記載の映像修復システム。
The image restoration unit
Detecting a horizontal shift amount between the detected image and the image having the higher similarity,
The partial image extracted from the image is shifted by the amount of shift detected in the horizontal direction and replaced with the corresponding partial image of the corresponding detected image.
The video restoration system according to any one of claims 1 to 3, wherein
前記画像修復部は、
置換後の画像に、空白がある場合に、その空白に隣接する部分画像を、前記空白に埋め込んで、画像を修復する、
請求項4に記載の映像修復システム。
The image restoration unit
If there is a blank in the image after replacement, the partial image adjacent to the blank is embedded in the blank to repair the image.
The video restoration system according to claim 4.
前記画像修復部は、
位相限定相関法を用いて前記検出画像と前記類似度が高い方の画像との水平方向のずれ量を検出する、
請求項4又は5に記載の映像修復システム。
The image restoration unit
Detecting the amount of horizontal deviation between the detected image and the image with the higher similarity using a phase-only correlation method;
The image restoration system according to claim 4 or 5.
前記画像修復部で修復された部分画像周辺の平滑化を行う画像平滑化部を備える、
請求項1から6のいずれか一項に記載の映像修復システム。
An image smoothing unit that performs smoothing around the partial image restored by the image restoration unit;
The video restoration system according to any one of claims 1 to 6.
前記映像を構成する一連の画像に含まれる縦キズが含まれる画像を検出する縦キズ検出部を備え、
前記画像平滑化部は、
前記縦キズ検出部で検出された縦キズの周辺部分の画像の平滑化を行う、
請求項7に記載の映像修復システム。
A vertical flaw detection unit that detects an image including a vertical flaw included in a series of images constituting the video;
The image smoothing unit
Smoothing the image of the peripheral part of the vertical flaw detected by the vertical flaw detection unit,
The video restoration system according to claim 7.
動画を修復する映像修復方法であって、
コンピュータが、前記動画を構成する一連の画像のうち、スプライス直線が含まれる画像を検出するスプライス直線検出工程と、
コンピュータが、前記スプライス直線検出工程で検出された検出画像と、前記検出画像の前後の画像との類似度をそれぞれ算出する類似度算出工程と、
コンピュータが、前記前後の画像のうち、前記検出画像と類似度が高い方の画像から、前記スプライス直線が出現した部分に対応する部分画像を抽出し、抽出された部分画像を、対応する前記検出画像の部分画像と置換して、前記検出画像に含まれるスプライス直線を消去する画像修復工程と、
コンピュータが、前記画像修復工程でスプライス直線が消去された一連の画像をつなげて動画を生成する動画生成工程と、
を含む映像修復方法。
A video restoration method for repairing a video,
A computer detects a splice line detection step of detecting an image including a splice line among a series of images constituting the moving image;
A degree-of-similarity calculation step in which the computer calculates the degree of similarity between the detection image detected in the splice line detection step and images before and after the detection image;
The computer extracts a partial image corresponding to a portion where the splice line appears from an image having a higher similarity to the detected image among the preceding and succeeding images, and the extracted partial image is associated with the corresponding detection. An image repairing step of replacing a partial image of the image and erasing the splice line contained in the detected image;
A moving image generating step in which a computer generates a moving image by connecting a series of images from which the splice line has been deleted in the image restoration step;
Video restoration method including
動画を修復するコンピュータを、
前記動画を構成する一連の画像のうち、スプライス直線が含まれる画像を検出するスプライス直線検出部、
前記スプライス直線検出部で検出された検出画像と、前記検出画像の前後の画像との類似度をそれぞれ算出する類似度算出部、
前記前後の画像のうち、前記検出画像と類似度が高い方の画像から、前記スプライス直線が出現した部分に対応する部分画像を抽出し、抽出された部分画像を、対応する前記検出画像の部分画像と置換して、前記検出画像に含まれるスプライス直線を消去する画像修復部、
前記画像修復部でスプライス直線が消去された一連の画像をつなげて動画を生成する動画生成部、
として機能させるプログラム。
The computer that repairs the video
A splice line detection unit for detecting an image including a splice line among a series of images constituting the moving image;
A similarity calculation unit for calculating the similarity between the detection image detected by the splice line detection unit and images before and after the detection image;
A partial image corresponding to a portion where the splice line appears is extracted from an image having a higher similarity to the detected image among the preceding and succeeding images, and the extracted partial image is a portion of the corresponding detected image. An image restoration unit that replaces the image and erases the splice line included in the detected image,
A moving image generating unit that generates a moving image by connecting a series of images from which the splice line has been deleted in the image restoration unit;
Program to function as.
JP2016236855A 2016-12-06 2016-12-06 Video restoration system, video restoration method and program Active JP6775146B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016236855A JP6775146B2 (en) 2016-12-06 2016-12-06 Video restoration system, video restoration method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016236855A JP6775146B2 (en) 2016-12-06 2016-12-06 Video restoration system, video restoration method and program

Publications (2)

Publication Number Publication Date
JP2018093426A true JP2018093426A (en) 2018-06-14
JP6775146B2 JP6775146B2 (en) 2020-10-28

Family

ID=62566391

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016236855A Active JP6775146B2 (en) 2016-12-06 2016-12-06 Video restoration system, video restoration method and program

Country Status (1)

Country Link
JP (1) JP6775146B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7001265B2 (en) 2018-03-05 2022-01-19 国立大学法人 鹿児島大学 Video restoration system, video restoration method and program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7001265B2 (en) 2018-03-05 2022-01-19 国立大学法人 鹿児島大学 Video restoration system, video restoration method and program

Also Published As

Publication number Publication date
JP6775146B2 (en) 2020-10-28

Similar Documents

Publication Publication Date Title
US11961325B2 (en) Image processing method and apparatus, computer-readable medium, and electronic device
CN109509146B (en) Image splicing method and device and storage medium
JP6094775B2 (en) Video content processing method and system
US11790583B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
JPWO2006131967A1 (en) Image processing device
US9953422B2 (en) Selective local registration based on registration error
US20100238188A1 (en) Efficient Display of Virtual Desktops on Multiple Independent Display Devices
US9824267B2 (en) Writing board detection and correction
CN111179159A (en) Method and device for eliminating target image in video, electronic equipment and storage medium
US20190005347A1 (en) Information processing apparatus, program, and information processing method
US10789769B2 (en) Systems and methods for image style transfer utilizing image mask pre-processing
JP4686624B2 (en) Information processing apparatus, image processing method, and program
JP6775146B2 (en) Video restoration system, video restoration method and program
JP7233592B1 (en) Image processing device, image processing method and program
JP7001265B2 (en) Video restoration system, video restoration method and program
US9230309B2 (en) Image processing apparatus and image processing method with image inpainting
JP5873099B2 (en) Method and apparatus for automatically repairing film
JP2013026935A (en) Image processing apparatus, image processing method, and program
JP6947098B2 (en) Image processing equipment, methods, and programs
JP4328780B2 (en) Unnecessary area image erasing apparatus and unnecessary area image erasing method
EP4258203A1 (en) Systems and methods for performing virtual application of a ring with image warping
JP7385192B2 (en) Image processing device, image processing method, and computer program
US20170220873A1 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium
WO2024075162A1 (en) Image restoration device, image restoration method, and image restoration program
US20230130917A1 (en) Image processing apparatus and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190920

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200617

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200820

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200908

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200916

R150 Certificate of patent or registration of utility model

Ref document number: 6775146

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150