JP2013037286A - Video processing device, video processing method, and computer program - Google Patents
Video processing device, video processing method, and computer program Download PDFInfo
- Publication number
- JP2013037286A JP2013037286A JP2011175151A JP2011175151A JP2013037286A JP 2013037286 A JP2013037286 A JP 2013037286A JP 2011175151 A JP2011175151 A JP 2011175151A JP 2011175151 A JP2011175151 A JP 2011175151A JP 2013037286 A JP2013037286 A JP 2013037286A
- Authority
- JP
- Japan
- Prior art keywords
- video
- video signal
- frames
- frame
- scene change
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
Description
本発明は、映像処理装置、映像処理方法、及びコンピュータプログラムに関し、特に、空間分割された映像信号を合成するために用いて好適なものである。 The present invention relates to a video processing apparatus, a video processing method, and a computer program, and is particularly suitable for use in synthesizing space-divided video signals.
近年、LCDやPDPに代表される表示パネルの高解像度化が進み、現在普及しているFHD(1920×1080)を超える4k2k(3840×2160)の解像度を持つ高解像度表示パネルが製品化されている。このような高解像度表示パネルへの映像信号の入力は、FHDの映像信号を伝送することが可能な映像入力インタフェイスを複数本用いて実現されている。このような映像入力インタフェイスの代表的なものとしては、HD-SDI(High Definition Serial Digital Interface)やDVI(Digital Visual Interface)がある。各映像入力インタフェイスは、空間分割された映像領域の1領域の映像伝送を担っている。このように複数本の映像入力インタフェイスを用いて高解像度映像を伝送する場合、映像入力インタフェイスごとに遅延時間が異なる場合がある。このように高解像度表示パネルへ映像信号を伝送する際に伝送路の遅延時間が異なっても、空間分割された映像が正しく合成され出力される技術が開示されている。特許文献1によると、入力映像にフレーム番号を付与し、合成時に同じフレーム番号の映像を合成して表示パネルに出力する技術が開示されている。
In recent years, the resolution of display panels represented by LCD and PDP has been increased, and a high-resolution display panel having a resolution of 4k2k (3840x2160) exceeding the currently popular FHD (1920x1080) has been commercialized. Yes. Input of video signals to such a high-resolution display panel is realized by using a plurality of video input interfaces capable of transmitting FHD video signals. Typical examples of such video input interfaces include HD-SDI (High Definition Serial Digital Interface) and DVI (Digital Visual Interface). Each video input interface is responsible for video transmission of one area of the space-divided video area. As described above, when a high-resolution video is transmitted using a plurality of video input interfaces, the delay time may be different for each video input interface. As described above, a technique is disclosed in which even when a video signal is transmitted to a high-resolution display panel, even if the delay time of the transmission path is different, the spatially divided video is correctly synthesized and output. According to
しかしながら、空間分割された映像に付与されたフレーム番号を基に映像を合成する場合、送信側にフレーム番号を入れる機能が必須となる。したがって、フレーム番号を挿入する機能を持たない映像送信装置を用いると、各映像入力インタフェイスの遅延時間が大きい場合、空間分割されたフレームを、当該フレームと合成すべきフレームとは異なる(空間分割された)フレームと合成してしまう虞がある。そうすると、出力される映像が乱れる。
本発明は、このような問題点に鑑みてなされたものであり、汎用的な映像送信装置を用いても、映像送信装置からの空間分割された映像を正しく合成できるようにすることを目的とする。
However, when a video is synthesized based on a frame number assigned to a space-divided video, a function for putting the frame number on the transmission side is essential. Therefore, when a video transmission device that does not have a function of inserting a frame number is used, if the delay time of each video input interface is large, the spatially divided frame is different from the frame to be combined with the frame (spatial division). May be combined with the frame. Then, the output video is disturbed.
The present invention has been made in view of such problems, and an object of the present invention is to make it possible to correctly synthesize a space-divided video from a video transmission device even if a general-purpose video transmission device is used. To do.
本発明の映像処理装置は、複数の領域に空間分割された映像信号を受信する複数の映像信号入力手段と、前記複数の領域に空間分割された映像信号を構成するフレームのうち、連続する2つのフレームを比較した結果に基づいて、前記映像信号におけるシーンの変化を検出する検出手段と、前記検出手段による検出の結果に基づいて、前記複数の領域の映像として同期して出力される複数のフレームを選択する選択手段と、前記複数の領域に空間分割された映像信号の各フレームを蓄積する蓄積手段と、前記選択手段により選択された複数のフレームを前記蓄積手段から読み出す読み出し手段と、前記読み出し手段により読み出された複数のフレームを出力する映像出力手段と、を有し、前記選択手段は、前記検出手段によりシーンの変化があることが、前記複数の領域に空間分割された映像信号を構成するフレームのそれぞれで検出されると、前記複数の領域に空間分割された映像信号を構成するそれぞれのフレームであって、当該シーンの変化があることが検出された直後のフレームを、同期して出力するフレームとして選択することを特徴とする。 The video processing apparatus according to the present invention includes a plurality of video signal input means for receiving a video signal spatially divided into a plurality of areas, and two consecutive frames among the frames constituting the video signal spatially divided into the plurality of areas. Based on the result of comparing two frames, a detecting means for detecting a change in the scene in the video signal, and a plurality of images output in synchronization as videos of the plurality of regions based on the detection result by the detecting means Selection means for selecting a frame; storage means for storing each frame of the video signal spatially divided into the plurality of regions; reading means for reading a plurality of frames selected by the selection means from the storage means; Video output means for outputting a plurality of frames read by the reading means, and the selection means detects a change in the scene by the detection means. Is detected in each of the frames constituting the video signal space-divided into the plurality of regions, each frame constituting the video signal space-divided into the plurality of regions, The frame immediately after the change is detected is selected as a frame to be output in synchronization.
本発明によれば、シーンの変化があることが、複数の領域に空間分割された映像信号を構成するフレームのそれぞれで検出されると、当該シーンの変化があることが検出された直後のフレームを、同期して出力するフレームとして選択する。よって、汎用的な映像送信装置を用いても、映像送信装置からの空間分割された映像を正しく合成することができる。 According to the present invention, when a scene change is detected in each of the frames constituting the video signal spatially divided into a plurality of regions, the frame immediately after the scene change is detected is detected. Are selected as frames to be output in synchronization. Therefore, even if a general-purpose video transmission device is used, the space-divided video from the video transmission device can be correctly synthesized.
以下に、図面を参照しながら、本発明の一実施形態を説明する。
図1は、映像処理装置100の構成の一例を示す図である。
映像処理装置100は、第1および第2の映像信号入力部101、102と、第1および第2のシーンチェンジ検出部103、104と、データ蓄積部105と、第1および第2の同期映像読み出し部106、107と、第1および第2の映像信号出力部108、109と、映像同期判定部110と、を備えて構成される。また、映像処理装置100は、第1および第2の映像信号出力部108、109を介して映像表示部120に接続される。映像表示部120は、映像処理装置100から出力された映像を表示する。
An embodiment of the present invention will be described below with reference to the drawings.
FIG. 1 is a diagram illustrating an example of the configuration of the
The
第1および第2の映像信号入力部101、102は、ビデオ入力インタフェイスであり、外部から映像信号を入力する。第1および第2の映像信号入力部101、102は、例えば、HDMIやDVI等のデジタルビデオ信号規格のインタフェイスで構成され、各種の映像コンテンツを入力する。本実施形態では、空間分割された2つの映像信号が、それぞれ第1、第2の映像信号入力部101、102に入力されるものとする。
The first and second video
第1および第2のシーンチェンジ検出部103、104は、第1および第2の映像信号入力部101、102から入力された映像信号のシーンの変化の有無を検出する。本実施形態では、第1、第2のシーンチェンジ検出部103、104は、それぞれ第1、第2の映像信号入力部101、102から入力された映像信号の統計量を算出する。そして、第1および第2のシーンチェンジ検出部103、104は、連続する2つのフレームの統計量の差分が閾値以上になった場合に、シーンの変化があることを検出する。ただし、シーンの変化を検出する方法は、このような方法に限定されるものではない。例えば、次のようにしてもよい。まず、連続する2つのフレームの動きベクトルの検出を行う。そして、その動きベクトルの検出結果に基づいて、連続する2つのフレームの相関(例えば、相関の程度を表す指標である相関値)を算出し、算出した相関と閾値とを比較した結果に基づいて、シーンの変化の有無を検出する。
The first and second scene
データ蓄積部105は、第1および第2の映像信号入力部101、102から入力された映像信号を蓄積する。データ蓄積部105は、例えば、SDRAMなどのメモリで構成されるフレームメモリである。
第1および第2の同期映像読み出し部106、107は、後述する映像同期判定部110から指定されたフレームの映像信号を、データ蓄積部105から読み出す。第1、第2の同期映像読み出し部106、107は、読み出した映像信号を、第1、第2の映像信号出力部108、109に出力する。第1および第2の同期映像読み出し部106、107は、例えば、映像同期判定部110から指定されたアドレスのデータの読み出しを行うDMAコントローラである。
The
The first and second synchronized
映像同期判定部110は、第1および第2のシーンチェンジ検出部103、104におけるシーンの変化の有無の検出結果に基づいて、第1および第2の同期映像読み出し部106、107に対して、読み出すフレームを指定する。
第1、第2の映像信号出力部108、109は、それぞれ第1、第2の同期映像読み出し部106、107によって読み出された映像信号を表示パネルに出力するインタフェイスである。第1および第2の映像信号出力部108、109は、例えば、LVDS(Low Voltage Differential Signaling)に代表される表示パネルへの標準画像インタフェイスである。
映像表示部120は、空間分割された映像信号をそれぞれの表示領域に出力して映像を表示する。映像表示部120は、例えば、LCD(液晶ディスプレイ)やPDP(プラズマディスプレイパネル)等に代表される表示パネルである。
Based on the detection result of the presence or absence of a scene change in the first and second scene
The first and second video
The
図2は、映像処理装置100に入力される映像信号と、映像処理装置100から出力される映像信号の入出力タイミングの一例を示す図である。具体的に図2(a)は、正しく合成される場合の各映像信号の入出力のタイミングの一例を示す図であり、図2(b)は、誤って合成される場合の各映像信号の入出力のタイミングの一例を示す図である。また、図3は、映像処理装置100で入出力される映像信号に基づく映像の一例を示す図である。具体的に図3(a)は、映像処理装置100に入力される第1のフレーム〜第3のフレームの映像信号の一例を示す図であり、図3(b)は、映像処理装置100から出力される第1のフレーム〜第3のフレームの映像信号の一例を示す図である。
FIG. 2 is a diagram illustrating an example of input / output timings of a video signal input to the
本実施形態では、2つの領域に空間分割された映像信号が映像処理装置100に入力される。ただし、空間分割される領域の個数に限定はなく3つ以上の領域に空間分割された映像信号が映像処理装置100に入力されてもよい。この場合、各処理部(映像信号入力部、シーンチェンジ検出部、同期映像読出し部、および映像信号出力部)を、空間分割される領域の数と同数、映像処理装置100に設けるようにするのが好ましい。ただし、必ずしもこのようにする必要はない。例えば、空間分割される領域の数が、処理部の数を超える場合には、当該処理部が、時分割で処理を行うことにより、各領域の映像信号を処理してもよい。
In this embodiment, a video signal that is spatially divided into two areas is input to the
図2に示す例では、2つの領域に空間分割された映像の映像信号を、それぞれ第1の映像入力信号、第2の映像入力信号として示す。また、図2に示す例では、第1および第2の映像入力信号として、それぞれ3フレーム分の映像信号が映像処理装置100で受信されていることを示す。
図2において、211、212、213は、それぞれ第1の映像入力信号の第1、第2、第3のフレームである。また、221、222、223は、それぞれ第2の映像入力信号の第1、第2、第3のフレームである。また、215、225は、それぞれ第1、第2の映像入力信号に対する垂直同期信号を示す。
一方、231、232、233は、それぞれ第1の映像出力信号の第1、第2、第3のフレームである。また、241、242、243は、それぞれ第2の映像出力信号の第1、第2、第3のフレームである。また、235、245は、それぞれ第1、第2の映像出力信号に対する垂直同期信号を示す。
In the example shown in FIG. 2, the video signals of the video divided into two areas are shown as a first video input signal and a second video input signal, respectively. Further, in the example shown in FIG. 2, it is shown that video signals for three frames are received by the
In FIG. 2, 211, 212, and 213 are the first, second, and third frames of the first video input signal, respectively. 221, 222, and 223 are the first, second, and third frames of the second video input signal, respectively. Reference numerals 215 and 225 denote vertical synchronizing signals for the first and second video input signals, respectively.
On the other hand, 231, 232 and 233 are the first, second and third frames of the first video output signal, respectively.
図3(a)において、300、310、320は、それぞれ第1、第2、第3のフレームの内容を示す映像である。映像の中央で空間分割された2つの領域のうち、図に向かって左側の領域の映像信号が、第1の映像入力信号として第1の映像信号入力部101に入力され、右側の領域の映像信号が、第2の映像入力信号として第2の映像信号入力部102に入力される。また、図3(a)に示す第2のフレームと第3のフレームで、シーンの変化が発生している。
In FIG. 3A,
また、図2に示すように、第1の映像入力信号と第2の映像入力信号は、外部の映像信号伝送路等の影響により、映像信号入力スキュー(skew)Tの期間を持って映像処理装置100に入力される。映像信号入力スキューTは、第1、第2の映像信号入力部101、102が、第1、第2の映像入力信号を入力するタイミングの時間差に対応するものである。
In addition, as shown in FIG. 2, the first video input signal and the second video input signal have a video signal input skew (skew) T period due to the influence of an external video signal transmission path or the like. Input to the
この映像入力スキューTが、1フレームの垂直同期信号の期間の半分を超えていないとする。この場合、垂直同期信号が近いフレームを同期させて出力すると、図2(a)に示すように、入力時に空間分割されたフレームと同じフレームが同期して出力される。このため、図3(a)に示す映像300のように、各領域の映像が正しく合成され、映像が乱れずに表示される。
一方、この映像信号入力スキューTが、1フレームの垂直同期信号の期間の半分を超えてしまったとする。この場合、図2(b)に示すように、第2の映像入力信号の第1のフレーム221と、第1の映像入力信号の第2のフレーム212の垂直同期信号が接近する。このような場合に垂直同期信号が近い複数のフレームを同期させて出力すると、入力時に空間分割されたフレームとは異なったフレームが同期して出力される。このため、図3(b)に示す映像350のように、各領域の画像が誤って合成され、映像が乱れて表示されてしまう場合がある(図2(b)の破線内のフレーム232、241を参照)。
It is assumed that this video input skew T does not exceed half of the period of one frame of vertical synchronization signal. In this case, when a frame with a similar vertical synchronization signal is output in synchronization, as shown in FIG. 2A, the same frame as the frame that is spatially divided at the time of input is output in synchronization. For this reason, like the
On the other hand, it is assumed that the video signal input skew T exceeds half of the period of one frame of the vertical synchronization signal. In this case, as shown in FIG. 2B, the vertical synchronization signal of the
本実施形態では、映像処理装置100は、空間分割されたフレームのそれぞれにおいてシーンの変化の有無を検出する。そして、映像処理装置100は、空間分割されたフレームのそれぞれにおいてシーンの変化を検出すると、シーンの変化のあった直後のフレーム(変化したシーンの最初のフレーム)を空間分割されたフレームのそれぞれについて選択する。そして、映像処理装置100は、選択したフレームの映像を同期して映像表示部120に出力させる。そのため、前述のような場合においても、図3(a)に示す映像320のように、同一の映像入力信号のフレームから空間分割されたフレームを読み出し、それらを同期して表示することができる。このようにするための処理手順の一例を以下に詳細に示す。
In the present embodiment, the
図4は、映像同期判定部110の処理手順の一例を説明するフローチャートである。また、図5は、映像信号の統計量の一例を示す図である。具体的に図5(a)は、第1のフレームの映像300と、第1のフレームの映像入力信号の統計量の一例を示す図である。図5(b)は、第2のフレームの映像310と、第2のフレームの映像入力信号の統計量の一例を示す図である。図5(c)は、第3のフレームの映像320と、第3のフレームの映像入力信号の統計量の一例を示す図である。
FIG. 4 is a flowchart for explaining an example of the processing procedure of the video
本実施形態では、空間分割された各領域の映像入力信号を複数の領域にさらに分割する。そして、分割された複数の領域の輝度の平均値を0〜9の値に量子化する。本実施形態では、分割された複数の領域の輝度の平均値を0〜9の値に量子化した値が、映像信号の統計量である場合を例に挙げて説明する。以後の説明では、「分割された複数の領域ごとの輝度の平均値を0〜9の値に量子化した値」を必要に応じて「統計量」と称する。本実施形態では、この統計量のフレーム間の差分の絶対値を取り、その差分の絶対値の総和に基づいて、シーンの変化の有無を検出する。ただし、シーンの変化の有無を検出する方法は、このような方法に限定されるものではない。シーンの変化を検出し、検出した結果に基づいて、同期して表示させるフレームを特定する方法であれば、どのような方法でシーンの変化の有無を検出してもよい。 In the present embodiment, the video input signal of each area obtained by space division is further divided into a plurality of areas. And the average value of the brightness | luminance of the divided | segmented several area | region is quantized to the value of 0-9. In the present embodiment, a case where a value obtained by quantizing an average luminance value of a plurality of divided areas into a value of 0 to 9 is a statistic of a video signal will be described as an example. In the following description, “a value obtained by quantizing an average luminance value for each of a plurality of divided areas into a value of 0 to 9” will be referred to as a “statistic” as necessary. In this embodiment, the absolute value of the difference between frames of this statistic is taken, and the presence or absence of a scene change is detected based on the sum of the absolute values of the differences. However, the method for detecting the presence or absence of a scene change is not limited to such a method. As long as the method detects a scene change and specifies a frame to be displayed synchronously based on the detection result, the presence or absence of a scene change may be detected by any method.
図4のフローチャートと、図5の映像信号の統計量とを用いて、空間分割された2つの領域の映像(フレーム)を同期させて表示するための方法の一例を説明する。
図4のステップS401において、映像同期判定部110は、第1および第2のシーンチェンジ検出部103、104による検出結果に基づいて、シーンの変化が検出されたか否かを確認する。第1、第2のシーンチェンジ検出部103、104は、それぞれ第1、第2の映像信号入力部101、102から入力された映像信号について、シーンの変化の発生の有無を検出する。図2(a)に示す時刻t1においては、第1の映像信号入力部101から、第1の映像入力信号の第1のフレーム211と第2のフレーム212とが入力されている。図5を用いて、時刻t1における第1および第2のシーンチェンジ検出部103、104のシーンチェンジ検出処理の一例を詳細に説明する。
An example of a method for synchronously displaying the images (frames) of two spatially divided areas using the flowchart of FIG. 4 and the statistics of the video signal of FIG. 5 will be described.
In step S401 of FIG. 4, the video
第1のシーンチェンジ検出部103は、第1の映像信号入力部101から入力された「第1の映像入力信号の第1のフレーム211」の統計量511を算出する。同様に、第1のシーンチェンジ検出部103は、第1の映像入力信号の第2のフレーム212の統計量512を算出する。映像入力信号の「連続した2つのフレーム」の統計量には相関がある。そのため、第1のシーンチェンジ検出部103は、これらの統計量511、512の差分の絶対値の総和を演算する。統計量511、512の差分は、フレームの相互に対応する画素における統計量の差分である。
The first scene
そして、第1のシーンチェンジ検出部103は、統計量511、512の差分の絶対値の総和が閾値未満であれば、フレーム間に相関があるため、シーンの変化は発生していないと判断する。一方、第1のシーンチェンジ検出部103は、統計量511、512の差分の絶対値の総和が閾値以上であれば、フレーム間に相関がないため、シーンの変化が発生していると判断する。本実施形態では、この閾値を100とする。すなわち、第1および第2のシーンチェンジ検出部103、104は、統計量の差分の総和が100以上であれば、シーンの変化の発生を検出する。図5(a)及び図5(b)に示す統計量511、512の差分の絶対値の総和は35となる。よって、第1のシーンチェンジ検出部103によりシーンの変化は検出されない。また、図2(a)に示す時刻t1においては、第2の映像信号入力部101から2フレーム分の映像入力信号が入力されていない。このため、第2のシーンチェンジ検出部104によりシーンの変化は検出されない。
Then, if the sum of the absolute values of the differences between the
次に、ステップS402において、映像同期判定部110は、ステップS401における確認の結果に基づいて、空間分割された2つの映像入力信号の何れかで、シーンの変化があるか否かを判断する。図2(a)に示す時刻t1では、シーンの変化が発生していない。このため、ステップS401に遷移する。
次に、ステップS401において、映像同期判定部110は、第1および第2のシーンチェンジ検出部103、104による検出結果に基づいて、シーンの変化が検出されたか否かを再び確認する。
Next, in step S402, the video
Next, in step S401, the video
図2(a)の時刻t2においては、第1のシーンチェンジ検出部103は、第1の映像信号入力部101から、第1の映像入力信号の第3のフレーム213を入力している。そのため、第1のシーンチェンジ検出部103は、第1の映像入力信号の第2のフレーム212の統計量512と、第1の映像入力信号の第3のフレーム213の統計量513との差分の絶対値の総和を演算する。第1の映像入力信号の第2のフレーム212の統計量512と、第1の映像入力信号の第3のフレーム213の統計量513との差分の絶対値の総和は157であり、閾値である100以上の大きさの値である。よって、第1のシーンチェンジ検出部103は、シーンの変化を検出する。映像同期判定部110は、第1のシーンチェンジ検出部103から、シーンの変化が発生したフレーム番号を取得する。ここでは、映像同期判定部110は、第1の映像入力信号の第3のフレーム213のフレーム番号を取得する。
At time t <b> 2 in FIG. 2A, the first scene
また、図2(a)の時刻t2においては、第2のシーンチェンジ検出部103は、第2の映像信号入力部102から、第2の映像入力信号の第1のフレーム221と第2のフレーム222を入力している。そのため、第2のシーンチェンジ検出部104は、第2の映像入力信号の第1のフレーム221の統計量521と、第2の映像入力信号の第2のフレーム222の統計量522との差分の絶対値の総和を演算する。第2の映像入力信号の第1のフレーム221の統計量521と、第2の映像入力信号の第2のフレーム222の統計量522との差分の絶対値の総和は23であり、閾値である100未満の大きさの値である。よって、第2のシーンチェンジ検出部104は、シーンの変化を検出しない。
At time t2 in FIG. 2A, the second scene
次に、ステップS402において、映像同期判定部110は、ステップS401における確認の結果に基づいて、空間分割された2つの映像入力信号の何れかで、シーンの変化があるか否かを再び判断する。図2(a)に示す時刻t2において、第1のシーンチェンジ検出部103がシーンの変化を検出している。すなわち、図3(b)に示す映像350、360のように、第1の映像出力信号の第2のフレーム232と第3のフレーム233とでシーンが変化している。このため、ステップS403に遷移する。
次に、ステップS403において、映像同期判定部110は、第1および第2のシーンチェンジ検出部103、104による検出結果に基づいて、次の処理を行う。すなわち、映像同期判定部110は、シーンの変化を検出したシーンチェンジ検出部以外のシーンチェンジ検出部でもシーンの変化が検出されたか否かを確認する。図2(a)に示す時刻t2では、第2のシーンチェンジ検出部104でシーンの変化が検出されていない。
Next, in step S402, the video
Next, in step S403, the video
次に、ステップS404において、映像同期判定部110は、ステップS403における確認の結果に基づいて、シーンの変化を検出したシーンチェンジ検出部以外のシーンチェンジ検出部でもシーンの変化が検出されたか否かを判断する。図2(a)に示す時刻t2では、第2のシーンチェンジ検出部104でシーンの変化が検出されていない。このため、ステップS407に遷移する。
ステップS407に遷移すると、映像同期判定部110は、何れかの映像入力信号でシーンの変化が検出されてから、他の映像入力信号におけるシーンの変化の有無の検出を、所定の回数(所定のフレーム数)だけ行ったか否かを判断する。
ここで、本実施形態では、所定のフレーム数を3とする。ただし、所定のフレーム数は3に限定されず、1でも複数でもよい。所定のフレーム数は、例えば、映像処理装置100が有するバッファメモリの容量に応じて決めることができる。また、何れかの映像入力信号でのシーンの変化が誤検出であると見なせるフレーム数を所定のフレーム数とすることもできる。また、ステップS404において、シーンの変化を検出したシーンチェンジ検出部以外のシーンチェンジ検出部でシーンの変化が検出されていない場合には、ステップS407の処理を行わずに、ステップS403の処理に遷移してもよい。すなわち、図4のフローチャートにおけるステップS407の処理を必ずしも行う必要はない。
Next, in step S404, the video
In step S407, the video
Here, in this embodiment, the predetermined number of frames is three. However, the predetermined number of frames is not limited to 3, and may be 1 or more. The predetermined number of frames can be determined according to the capacity of the buffer memory included in the
何れかの映像入力信号でシーンの変化が検出されてから、他の映像入力信号におけるシーンの変化の有無の検出を、所定の回数(所定のフレーム数)だけ行った場合には、ステップS401に進む。そして、ステップS401以降の処理を再び行う。
一方、何れかの映像入力信号でシーンの変化が検出されてから、他の映像入力信号におけるシーンの変化の有無の検出を、所定の回数(所定のフレーム数)だけ行っていない場合には、ステップS403に遷移する。この場合、空間分割される前の映像入力信号のシーンの変化が発生している可能性があるため、同期処理を行わずに、他の映像入力信号でのシーンの変化の検出を再び待つ。図2(a)に示す時刻t2では、第1の映像入力信号のシーンの変化があってから、第2の映像入力信号のシーンの変化の有無の検出を1回も行っていない。よって、ステップS403に遷移する。
If a scene change is detected in any one of the video input signals and then the presence or absence of a scene change in another video input signal is detected a predetermined number of times (a predetermined number of frames), the process proceeds to step S401. move on. And the process after step S401 is performed again.
On the other hand, when a scene change is detected in one of the video input signals and the detection of the presence or absence of a scene change in another video input signal is not performed a predetermined number of times (a predetermined number of frames), The process proceeds to step S403. In this case, since there is a possibility that a scene change has occurred in the video input signal before the space division, the detection of a scene change in another video input signal is awaited again without performing synchronization processing. At time t2 shown in FIG. 2 (a), after the scene change of the first video input signal, the presence / absence of the scene change of the second video input signal is not detected once. Therefore, the process proceeds to step S403.
ステップS403に遷移すると、映像同期判定部110は、第2のシーンチェンジ検出部104による検出結果に基づいて、第2のシーンチェンジ検出部104でシーンの変化が検出されたか否かを確認する。図2(a)に示す時刻t3において、第2のシーンチェンジ検出部103は、第2の映像信号入力部102から、第2の映像入力信号の第3のフレーム223を入力している。そのため、第2のシーンチェンジ検出部104は、第2の映像入力信号の第2のフレーム212の統計量522と、第2の映像入力信号の第3のフレーム223の統計量523の差分の絶対値の総和を演算する。第2の映像入力信号の第2のフレーム212の統計量522と、第2の映像入力信号の第3のフレーム223の統計量523の差分の絶対値の総和は154であり、閾値である100以上の大きさの値である。よって、第2のシーンチェンジ検出部104は、シーンの変化を検出する。映像同期判定部110は、第2のシーンチェンジ検出部104から、シーンの変化が発生したフレーム番号を取得する。ここでは、映像同期判定部110は、第2の映像入力信号の第3のフレーム223のフレーム番号を取得する。
In step S403, the video
そして、ステップS404において、映像同期判定部110は、ステップS403における確認の結果に基づいて、シーンの変化を検出したシーンチェンジ検出部以外のシーンチェンジ検出部でもシーンの変化が検出されたか否かを再び判断する。図2(a)に示す時刻t3では、第2のシーンチェンジ検出部104でシーンの変化が検出される。すなわち、図3(b)に示す映像360、370のように、第2の映像出力信号の第2のフレーム242と第3のフレーム243とでシーンが変化している。よって、ステップS405に遷移する。
ステップS405に遷移すると、映像同期判定部110は、シーンの変化のあった直後のフレームのフレーム番号を選択する。前述したように、図2(a)に示す例では、第1および第2のシーンチェンジ検出部103、104でシーンの変化が検出された直後のフレームは、第3のフレーム213、223である。よって、映像同期判定部110は、これらの第3のフレーム213、223のフレーム番号を選択する。
In step S404, the video
In step S405, the video
次に、ステップS406において、映像同期判定部110は、ステップS405で選択したフレーム番号を、第1、第2の同期映像読み出し部106、107に通知する。ここでは、映像同期判定部110は、第1の同期映像読み出し部106に対して、第1の映像信号の第3のフレーム213のフレーム番号を通知することにより、第1の映像信号の第3のフレーム213を読み出すことを通知する。また、映像同期判定部110は、第2の同期映像読み出し部107に対して、第2の映像信号の第3のフレーム223のフレーム番号を通知することにより、第2の映像信号の第3のフレーム223を読み出すことを通知する。第1、第2同期映像信号読み出し部106、107は、それぞれ第1の映像入力信号の第3のフレーム213、第2の映像入力信号の第3のフレーム223をデータ蓄積部105から読み出す。
第1、第2同期映像信号読み出し部106、107が読み出した映像入力信号は、それぞれ第1、第2の映像信号出力部108、109を介して映像表示部120に出力される。すなわち、図2(a)に示す時刻t4において、第1の映像出力信号の第3のフレーム233と、第2の映像出力信号の第3のフレーム243とが出力される。その結果、映像表示部120は、図3(b)に示す映像370を表示する。このようにして、空間分割前の映像入力信号におけるシーンの変化に対応して、映像出力信号を正しく合成することができる。
次に、再びステップS401に遷移し、映像同期判定部110は、シーンの変化が検出されたか否かを確認する。
Next, in step S406, the video
The video input signals read by the first and second synchronized video
Next, the process proceeds to step S401 again, and the video
以上のように本実施形態では、空間分割された複数の映像入力信号のそれぞれにおいて、シーンの変化の有無を検出する。映像入力信号においてシーンの変化があることが検出された後、シーンの変化の有無の検出が所定の回数だけ行われる前に全ての映像入力信号でシーンの変化があることが検出されると、シーンの変化があることが検出された直後のフレームを同期して出力する。したがって、空間分割された映像入力信号を正しく合成して出力することができる。これにより、空間分割された映像入力信号にフレーム番号を付与するなどの特殊な機能を持たない映像送信装置によって送信された映像入力信号であっても、映像入力信号を正しく合成することが可能となる。よって、汎用的な映像送信装置を用いても、映像送信装置からの空間分割された映像入力信号を正しく合成し、高解像度の映像を提供することができる。 As described above, in the present embodiment, the presence or absence of a scene change is detected in each of a plurality of space-divided video input signals. After it is detected that there is a scene change in the video input signal, and it is detected that there is a scene change in all the video input signals before the presence or absence of the scene change is detected a predetermined number of times, The frame immediately after the scene change is detected is output in synchronization. Therefore, it is possible to correctly synthesize and output the image input signals that have been divided into spaces. This makes it possible to correctly synthesize video input signals even for video input signals transmitted by video transmission devices that do not have a special function such as assigning frame numbers to spatially divided video input signals. Become. Therefore, even if a general-purpose video transmission device is used, a high-resolution video can be provided by correctly synthesizing the video input signals that are spatially divided from the video transmission device.
映像信号入力スキューTが安定していれば、合成対象となるフレームを特定する際に、シーンの変化の検出を毎フレーム行わなくても良い。例えば、第1および第2同期映像読み出し部106、107は、映像同期判定部110により特定された合成対象のフレームのフレーム番号を記録する。そして、第1および第2同期映像読み出し部106、107は、そのフレーム番号のフレームを読み出した後、記録したフレーム番号をインクリメントする。そして、第1および第2同期映像読み出し部106、107は、インクリメントしたフレーム番号のフレームを読み出し、記録したフレーム番号をインクリメントすることを繰り返し行う。このようにすれば、シーンの変化を検出して合成対象のフレームを特定する処理の回数を1回にすることができる。
If the video signal input skew T is stable, the scene change need not be detected every frame when the frame to be synthesized is specified. For example, the first and second synchronized
尚、前述した実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。 The above-described embodiments are merely examples of implementation in carrying out the present invention, and the technical scope of the present invention should not be construed in a limited manner. That is, the present invention can be implemented in various forms without departing from the technical idea or the main features thereof.
(その他の実施例)
本発明は、以下の処理を実行することによっても実現される。即ち、まず、以上の実施形態の機能を実現するソフトウェア(コンピュータプログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)が当該コンピュータプログラムを読み出して実行する。
(Other examples)
The present invention is also realized by executing the following processing. That is, first, software (computer program) for realizing the functions of the above embodiments is supplied to a system or apparatus via a network or various storage media. Then, the computer (or CPU, MPU, etc.) of the system or apparatus reads and executes the computer program.
100 映像処理装置、103、104 シーンチェンジ検出部、110 映像同期判定部 100 video processing device, 103, 104 scene change detection unit, 110 video synchronization determination unit
Claims (7)
前記複数の領域に空間分割された映像信号を構成するフレームのうち、連続する2つのフレームを比較した結果に基づいて、前記映像信号におけるシーンの変化を検出する検出手段と、
前記検出手段による検出の結果に基づいて、前記複数の領域の映像として同期して出力される複数のフレームを選択する選択手段と、
前記複数の領域に空間分割された映像信号の各フレームを蓄積する蓄積手段と、
前記選択手段により選択された複数のフレームを前記蓄積手段から読み出す読み出し手段と、
前記読み出し手段により読み出された複数のフレームを出力する映像出力手段と、を有し、
前記選択手段は、前記複数の領域に空間分割された映像信号を構成するフレームのそれぞれでシーンの変化があることが前記検出手段により検出されると、前記複数の領域に空間分割された映像信号を構成するそれぞれのフレームであって、当該シーンの変化があることが検出された直後のフレームを、同期して出力するフレームとして選択することを特徴とする映像処理装置。 A plurality of video signal input means for receiving video signals spatially divided into a plurality of areas;
Detecting means for detecting a scene change in the video signal based on a result of comparing two consecutive frames among the frames constituting the video signal spatially divided into the plurality of regions;
Selection means for selecting a plurality of frames to be output in synchronization as videos of the plurality of areas based on a result of detection by the detection means;
Storage means for storing each frame of the video signal spatially divided into the plurality of regions;
Reading means for reading out a plurality of frames selected by the selection means from the storage means;
Video output means for outputting a plurality of frames read by the reading means,
When the detecting means detects that there is a scene change in each of the frames constituting the video signal spatially divided into the plurality of areas, the selection means detects the video signal spatially divided into the plurality of areas. A video processing apparatus that selects a frame immediately after it is detected that there is a change in the scene as a frame to be output synchronously.
前記複数の領域に空間分割された映像信号を構成するフレームのうち、連続する2つのフレームを比較した結果に基づいて、前記映像信号におけるシーンの変化を検出する検出工程と、
前記検出工程による検出の結果に基づいて、前記複数の領域の映像として同期して出力される複数のフレームを選択する選択工程と、
前記複数の領域に空間分割された映像信号の各フレームを蓄積手段に蓄積する蓄積工程と、
前記選択工程により選択された複数のフレームを前記蓄積手段から読み出す読み出し工程と、
前記読み出し工程により読み出された複数のフレームを出力する映像出力工程と、を有し、
前記選択工程は、前記複数の領域に空間分割された映像信号を構成するフレームのそれぞれでシーンの変化があることが前記検出工程により検出されると、前記複数の領域に空間分割された映像信号を構成するそれぞれのフレームであって、当該シーンの変化があることが検出された直後のフレームを、同期して出力するフレームとして選択することを特徴とする映像処理方法。 A plurality of video signal input steps for receiving video signals spatially divided into a plurality of areas;
A detection step of detecting a scene change in the video signal based on a result of comparing two consecutive frames among the frames constituting the video signal spatially divided into the plurality of regions;
A selection step of selecting a plurality of frames that are output in synchronization as videos of the plurality of regions based on the detection result of the detection step;
An accumulation step of accumulating each frame of the video signal spatially divided into the plurality of regions in an accumulation unit;
A reading step of reading a plurality of frames selected by the selection step from the storage means;
A video output step of outputting a plurality of frames read by the read step,
In the selecting step, when the detection step detects that there is a scene change in each of the frames constituting the video signal spatially divided into the plurality of regions, the video signal spatially divided into the plurality of regions. And a frame immediately after it is detected that there is a change in the scene is selected as a frame to be output in synchronization.
前記複数の領域に空間分割された映像信号を構成するフレームのうち、連続する2つのフレームを比較した結果に基づいて、前記映像信号におけるシーンの変化を検出する検出工程と、
前記検出工程による検出の結果に基づいて、前記複数の領域の映像として同期して出力される複数のフレームを選択する選択工程と、
前記複数の領域に空間分割された映像信号の各フレームを蓄積手段に蓄積する蓄積工程と、
前記選択工程により選択された複数のフレームを前記蓄積手段から読み出す読み出し工程と、
前記読み出し工程により読み出された複数のフレームを出力する映像出力工程と、をコンピュータに実行させ、
前記選択工程は、前記複数の領域に空間分割された映像信号を構成するフレームのそれぞれでシーンの変化があることが前記検出工程により検出されると、前記複数の領域に空間分割された映像信号を構成するそれぞれのフレームであって、当該シーンの変化があることが検出された直後のフレームを、同期して出力するフレームとして選択することを特徴とするコンピュータプログラム。 A plurality of video signal input steps for receiving video signals spatially divided into a plurality of areas;
A detection step of detecting a scene change in the video signal based on a result of comparing two consecutive frames among the frames constituting the video signal spatially divided into the plurality of regions;
A selection step of selecting a plurality of frames that are output in synchronization as videos of the plurality of regions based on the detection result of the detection step;
An accumulation step of accumulating each frame of the video signal spatially divided into the plurality of regions in an accumulation unit;
A reading step of reading a plurality of frames selected by the selection step from the storage means;
Causing the computer to execute a video output step of outputting a plurality of frames read by the reading step;
In the selecting step, when the detection step detects that there is a scene change in each of the frames constituting the video signal spatially divided into the plurality of regions, the video signal spatially divided into the plurality of regions. A computer program that selects a frame immediately after it is detected that there is a change in the scene as a frame to be output in synchronization.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011175151A JP5896642B2 (en) | 2011-08-10 | 2011-08-10 | Video processing apparatus, video processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011175151A JP5896642B2 (en) | 2011-08-10 | 2011-08-10 | Video processing apparatus, video processing method, and program |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2013037286A true JP2013037286A (en) | 2013-02-21 |
JP2013037286A5 JP2013037286A5 (en) | 2014-09-18 |
JP5896642B2 JP5896642B2 (en) | 2016-03-30 |
Family
ID=47886920
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011175151A Expired - Fee Related JP5896642B2 (en) | 2011-08-10 | 2011-08-10 | Video processing apparatus, video processing method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5896642B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110300314A (en) * | 2019-08-02 | 2019-10-01 | 北京海辰亿华科技有限公司 | A kind of video broadcasting method, apparatus and system |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003153128A (en) * | 2001-11-14 | 2003-05-23 | Olympus Optical Co Ltd | Multidisplay device |
JP2003299046A (en) * | 2002-04-05 | 2003-10-17 | Nippon Telegr & Teleph Corp <Ntt> | Image transmitter, method, program and recording medium |
JP2008199557A (en) * | 2007-02-16 | 2008-08-28 | Nec Corp | Stream synchronization reproducing system, stream synchronization reproducing apparatus, synchronous reproduction method, and program for synchronous reproduction |
JP2010288109A (en) * | 2009-06-12 | 2010-12-24 | Nippon Telegr & Teleph Corp <Ntt> | Parallel video transmission system, parallel video transmission method, receiver, receiving method, and reception program |
-
2011
- 2011-08-10 JP JP2011175151A patent/JP5896642B2/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003153128A (en) * | 2001-11-14 | 2003-05-23 | Olympus Optical Co Ltd | Multidisplay device |
JP2003299046A (en) * | 2002-04-05 | 2003-10-17 | Nippon Telegr & Teleph Corp <Ntt> | Image transmitter, method, program and recording medium |
JP2008199557A (en) * | 2007-02-16 | 2008-08-28 | Nec Corp | Stream synchronization reproducing system, stream synchronization reproducing apparatus, synchronous reproduction method, and program for synchronous reproduction |
JP2010288109A (en) * | 2009-06-12 | 2010-12-24 | Nippon Telegr & Teleph Corp <Ntt> | Parallel video transmission system, parallel video transmission method, receiver, receiving method, and reception program |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110300314A (en) * | 2019-08-02 | 2019-10-01 | 北京海辰亿华科技有限公司 | A kind of video broadcasting method, apparatus and system |
Also Published As
Publication number | Publication date |
---|---|
JP5896642B2 (en) | 2016-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4438795B2 (en) | Video conversion device, video display device, and video conversion method | |
US20180174551A1 (en) | Sending frames using adjustable vertical blanking intervals | |
US9996893B2 (en) | Display apparatus constituting multi display system and control method thereof | |
US20170118442A1 (en) | Apparatus and method for converting a frame rate | |
EP3021213A1 (en) | Display apparatus and display methods thereof | |
US20170098295A1 (en) | Display control apparatus | |
US9666159B2 (en) | Display, display system and data processing method | |
US9479682B2 (en) | Video signal processing device and display apparatus | |
JP5896642B2 (en) | Video processing apparatus, video processing method, and program | |
KR20210066619A (en) | Electronic apparatus and control method thereof | |
KR100850949B1 (en) | Apparatus for measurement digital video noise and method thereof | |
US10212316B2 (en) | Video processing apparatus | |
JP5888899B2 (en) | Video processing apparatus, video processing method, and program | |
JP2007081500A (en) | Image processing apparatus, method and program for deciding field order of moving image data | |
JP5077037B2 (en) | Image processing device | |
JP5123643B2 (en) | Video processing device | |
JP2016038514A (en) | Display control device, display device, control method of display control device and display device and program thereof | |
JP7346124B2 (en) | Video processing device and video processing program | |
US9036005B2 (en) | Measuring apparatus for measuring stereo video format and associated method | |
JP2018019284A (en) | Video receiver | |
JP5733139B2 (en) | Motion vector detection apparatus and method, and video signal processing apparatus and method | |
US20230386416A1 (en) | Display device and display control method | |
JP2009124261A5 (en) | ||
KR101264108B1 (en) | High speed video transition switch and switching method | |
WO2018079081A1 (en) | Display control device, electronic device, control method of display control device, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140805 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140805 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150525 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150602 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150710 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160202 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160301 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5896642 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |