JPH1118028A - Shot changeover detection method and recording medium recording shot changeover detection program - Google Patents

Shot changeover detection method and recording medium recording shot changeover detection program

Info

Publication number
JPH1118028A
JPH1118028A JP9167811A JP16781197A JPH1118028A JP H1118028 A JPH1118028 A JP H1118028A JP 9167811 A JP9167811 A JP 9167811A JP 16781197 A JP16781197 A JP 16781197A JP H1118028 A JPH1118028 A JP H1118028A
Authority
JP
Japan
Prior art keywords
label
shot
pixel value
shot switching
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9167811A
Other languages
Japanese (ja)
Other versions
JP3378773B2 (en
Inventor
Yukinobu Taniguchi
行信 谷口
Yoshinobu Tonomura
佳伸 外村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP16781197A priority Critical patent/JP3378773B2/en
Publication of JPH1118028A publication Critical patent/JPH1118028A/en
Application granted granted Critical
Publication of JP3378773B2 publication Critical patent/JP3378773B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To provide a method that detects a shot changeover with a long changeover time with which the shot changeover including dissolve is conducted stably at a high speed, even if a camera or an object moves in the method, that detects shot changeover from video data. SOLUTION: A label Lc denoting that a pixel value takes almost a prescribed value for each pixel point, a label Ls denoting that the pixel value has suddenly changed, and a label Ll denoting that the pixel value has changed almost linearly for a time period are given based on timewise fluctuation of the pixel value to the pixel value (S3). The presence of a cut is discriminated, when an incident ratio of the label Ls calculated from pixel points other than those without the provision of the labels is high (S51, S52), and the presence of dissolve or fade is discriminated when an incident ratio of the label L1 calculated from pixel points other than those without provision of the labels is high (S53, S54). Furthermore, a wide/narrow time interval of input of an image string is controlled by the magnitude of the motion of the video image.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は,映像データからシ
ョット切換を検出するショット切換検出方法およびショ
ット切換検出プログラムを記録した記録媒体に関するも
のである。映像データベースを構築する際に,映像を場
面毎に分割する処理に用いることができる。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a shot switching detection method for detecting shot switching from video data and a recording medium on which a shot switching detection program is recorded. When constructing a video database, it can be used for processing of dividing video into scenes.

【0002】[0002]

【従来の技術】映像は,複数のショット(一つのカメラ
で連続的に撮影された場面)から構成される。ショット
とショットの切れ目を「ショット切換」と呼ぶ。ショッ
ト切換には,様々な手法がある。
2. Description of the Related Art An image is composed of a plurality of shots (scenes continuously shot by one camera). A shot-shot break is called “shot switching”. There are various methods for switching shots.

【0003】最も一般的な手法は「カット」と呼ばれる
もので,図10(A)に示すように,あるショットから
次のショットに瞬時に切り換えるものである。ショット
を時間をかけてゆっくり切り換える手法には,「ディゾ
ルブ」,「フェード・イン」,「フェード・アウト」,
「ワイプ」等がある。ディゾルブは,あるショットから
次のショットに互いを融合させながら切り換える手法で
ある。図10(B)は,ディゾルブの例を示している。
フェード・インは真っ黒(あるいは単一色)の画像か
ら,徐々に次のショットが浮き出してくるようにして切
り換える手法である。フェード・アウトは,フェード・
インの逆操作であり,あるショットを徐々に薄くしなが
ら真っ黒(あるいは単一色)の画像に切り換える手法で
ある。ワイプは,あるショットから次のショットに切り
換える際に,画面の一部から徐々に次のショットを現し
ていく手法である。
[0003] The most common method is called "cutting", and as shown in FIG. 10 (A), instantaneously switches from one shot to the next shot. Techniques for slowly switching shots over time include "dissolve", "fade in", "fade out",
"Wipe" and the like. Dissolve is a method of switching from a certain shot to the next shot while fusing each other. FIG. 10B shows an example of the dissolve.
Fade-in is a method of switching from a black (or single color) image so that the next shot gradually emerges. Fade out is fade out
This is the reverse operation of IN, and is a method of switching to a black (or single color) image while gradually thinning a certain shot. Wipe is a technique for gradually displaying the next shot from a part of the screen when switching from one shot to the next shot.

【0004】映像データからショット切換を検出する手
法として,様々な方法が提案されている。説明の都合
上,映像の中で隣接する3枚の画像をF0,F1,F2
とする。ショット切換のうちカットを検出するには,二
枚の画像F0,F1の絵柄が大きく異なることを検出す
ればよい。
Various methods have been proposed as methods for detecting shot switching from video data. For convenience of description, three adjacent images in the video are represented by F0, F1, and F2.
And In order to detect a cut in the shot switching, it is sufficient to detect that the patterns of the two images F0 and F1 are significantly different.

【0005】二枚の画像の絵柄の違いを評価する方法と
して様々なものが提案されている。一つの方法として,
画像間の画素毎の差分を計算し,差分の合計が大きい場
合にカットがあると判定するものがある(特公平5−7
4273号,「インデックス画像作成装置」)。その他
にも,色ヒストグラムをそれぞれの画像について算出
し,色ヒストグラム間の差を計算してカットを検出する
方法もある(特開平4−111181号,「動画像の変
化点検出方法」)。
[0005] Various methods have been proposed as a method for evaluating the difference between the pictures of two images. As one method,
There is one that calculates a difference for each pixel between images and determines that there is a cut when the sum of the differences is large.
No. 4273, “Index image creation device”). In addition, there is a method in which a color histogram is calculated for each image, and a difference between the color histograms is calculated to detect a cut (Japanese Patent Laid-Open No. 4-111181, "Moving image change point detection method").

【0006】ショット切換のうちディゾルブとフェード
を検出する従来技術について説明する(参考文献:A.Ha
mpapur, R.Jain, and T.Weymouth: Digital Video Segm
entation. Proceedings of ACM Multimedia 94, ACM Pr
ess, pp.357-364,1994)。
A conventional technique for detecting dissolve and fade in shot switching will be described (reference: A. Ha).
mpapur, R. Jain, and T. Weymouth: Digital Video Segm
entation. Proceedings of ACM Multimedia 94, ACM Pr
ess, pp. 357-364, 1994).

【0007】ディゾルブやフェードを検出するには,デ
ィゾルブやフェードの過程で画素値が単調増加(または
減少)する性質を利用する。画像列F0,F1,F2の
対応する画素における画素値をf0,f1,f2とす
る。
In order to detect dissolves and fades, the property that pixel values monotonically increase (or decrease) in the process of dissolves and fades is used. The pixel values of the corresponding pixels of the image rows F0, F1, and F2 are f0, f1, and f2.

【0008】画素値が単調増加(または減少)するとい
う関係から, f2 −f0≒2(f2 −f1) が成り立つ(ただし,≒は値がほぼ等しいことを表
す)。すなわち (f2 −f1 )/(f2 −f0 )≒1/2 …[1] なる関係がすべての画素について成立する。画像F0,
F1,F2の各画素について(f2 −f1 )/(f2 −
f0)を画素値とする新たな画像Ic を作成する。式
[1]より,理想的には 『Ic のすべての画素値が1/2』 …[2] となるはずである。実際の画像データにはノイズが含ま
れていたり,被写体の動きが含まれていたりするので厳
密に[2]が成立するわけではないが,近似的に[2]
が成立すると仮定する。画像列F0,F1,F2がディ
ゾルブを含むか否かを判定するには,[2]が近似的に
成立するかを判定すればよいことになる。[2]が成立
するか否かを判定するために, constancy=N(Id)/{σ(Ic)・(1.0+|Cx −cx |
+|Cy −cy |)} を計算し,該関数値があるしきい値を越えたときに,デ
ィゾルブがあると判定する(この関数は画像Ic が厳密
に[2]を満たす場合に無限大をとる)。ただし,N
(Id )はf2 −f1 ≠0を満たす画素数,σ(Ic )
は画像Ic の画素値の標準偏差,(Cx ,Cy )は画像
Ic の輝度を重みとして算出される重心,(cx ,cy
)は画像の中心である。
From the relationship that the pixel value monotonically increases (or decreases), f2−f0 ≒ 2 (f2−f1) holds (where ≒ indicates that the values are almost equal). That is, the relationship (f2-f1) / (f2-f0) ≒ 1/2 [1] holds for all pixels. Image F0,
For each pixel of F1 and F2, (f2-f1) / (f2-
A new image Ic having a pixel value of f0) is created. From equation [1], ideally, all the pixel values of Ic should be 』[2]. [2] is not strictly established because the actual image data contains noise or motion of the subject, but approximately [2]
Is assumed to hold. In order to determine whether or not the image sequences F0, F1, and F2 include a dissolve, it is only necessary to determine whether [2] is approximately established. In order to determine whether or not [2] holds, constancy = N (Id) / {σ (Ic) · (1.0+ | Cx−cx |
+ | Cy−cy |)}, and when the function value exceeds a certain threshold value, it is determined that there is a dissolve. Take). Where N
(Id) is the number of pixels that satisfies f2-f1,0, and σ (Ic)
Is the standard deviation of the pixel values of the image Ic, (Cx, Cy) is the center of gravity calculated using the luminance of the image Ic as a weight, and (cx, cy)
) Is the center of the image.

【0009】上述した方法は,3枚の画像F0,F1,
F2からカット,ディゾルブの有無を判定するものであ
った。映像データ中のすべてのショット切換を列挙する
には,映像から画像を順次抜き出しながら上述した判定
方法を繰り返し適用すればよい。従来方法では,映像か
ら一定時間間隔で画像を抜き出しながら処理する方法を
とっていた。
[0009] The method described above uses three images F0, F1,
From F2, the presence or absence of cut and dissolve was determined. In order to enumerate all the shot changes in the video data, the above-described determination method may be repeatedly applied while sequentially extracting images from the video. In the conventional method, a method is used in which an image is extracted from a video at regular time intervals and processed.

【0010】[0010]

【発明が解決しようとする課題】前述した従来技術には
次の三つの問題点があった。 (1) カメラや被写体が大きく動いた場合に検出誤りが生
じやすかった。なぜなら,カメラや被写体の動きが含ま
れているとN(Id )が大きくなり,従ってconstancy
の値が大きくなるからである。
The above-mentioned prior art has the following three problems. (1) Detection errors easily occur when the camera or subject moves significantly. This is because N (Id) increases when the movement of the camera or the subject is included, and thus
Is increased.

【0011】(2) 映像データから画像を一定時間間隔で
抜き出しながら順次調べる方法を取っていたので,処理
時間がかかるという問題点があった。映像中には変化の
少ない場面(風景を写した場面等)と,変化の激しい場
面(アクションシーン等)が混在していることが多い。
変化の少ない場面では抜き取りの間隔を広げても性能は
落ちないが,変化の激しい場面で抜き取り間隔を広げる
と,上記(1) の問題点により検出誤りが増加するので,
誤りを減らすためには細かい間隔で画像を抜き出して処
理する必要があった。
(2) Since the method of sequentially examining images while extracting them from the video data at regular time intervals is employed, there is a problem that it takes a long processing time. In a video, scenes with little change (such as scenes of scenery) and scenes with sharp changes (such as action scenes) are often mixed.
In a scene with little change, the performance does not decrease even if the sampling interval is widened. However, if the sampling interval is widened in a scene with rapid change, the detection error increases due to the problem (1) above.
In order to reduce errors, it was necessary to extract and process images at small intervals.

【0012】(3) 非常にゆっくりとしたショット切換
(切換時間の長いショット切換)が検出できないという
問題点があった。非常にゆっくりとしたショット切換に
おいては,短い間隔で抜き取られた画像列F0,F1,
F2の間で大きな変化は観測されない。したがって式
[1]において(f2 −f1 )/(f2 −f0)の分母
が小さくなり,値のばらつき,すなわち標準偏差σ(I
c ),が大きくなり,constancy が小さな値をとるよう
になるため,ディゾルブが検出できないという問題点が
あった。
(3) There is a problem that very slow shot switching (shot switching with a long switching time) cannot be detected. In a very slow shot change, the image sequences F0, F1,
No significant change is observed between F2. Therefore, in the equation [1], the denominator of (f2-f1) / (f2-f0) becomes small, and the variation of the value, that is, the standard deviation σ (I
c) becomes large, and the constancy takes a small value, so that there is a problem that the dissolve cannot be detected.

【0013】本発明は,上記問題点を解決するためにな
されたものであり,(1) カメラや被写体の動きがあって
もディゾルブを含めたショット切換を安定に検出でき
る,(2) 映像に含まれる変化の程度に応じて適応的に抜
き取り間隔を調整しながら高速に処理を行うことができ
る,(3) 切換時間の長いショット切換も検出できる,シ
ョット切換検出方法およびショット切換検出プログラム
を記録した記録媒体を提供することを目的とする。
SUMMARY OF THE INVENTION The present invention has been made to solve the above problems. (1) Even if there is a movement of a camera or a subject, a shot change including a dissolve can be detected stably. High-speed processing can be performed while adjusting the sampling interval adaptively according to the degree of change involved. (3) Shot switching detection method and shot switching detection program that can detect shot switching with long switching times It is an object of the present invention to provide a recording medium that has been used.

【0014】[0014]

【課題を解決するための手段】請求項1の発明は,画素
値の時間変動に基づいて,画素点毎にラベルを付与する
ラベリングの処理過程と,該ラベルの出現比に基づいて
ショット切換を検出するショット切換判定の処理過程と
を有し,該ラベリングの処理過程で付与するラベルとし
て,画素値がほぼ一定の値をとることを示すラベルLc
と,画素値が急変したことを示すラベルLsとを含み,
ショット切換判定の処理過程では,ラベルの付与されな
かった画素点を除いて算出されるラベルLsの出現比が
大きいときにショット切換が存在すると判定することを
特徴とする。
According to a first aspect of the present invention, there is provided a labeling process for assigning a label to each pixel point based on a time variation of a pixel value, and a shot switching based on an appearance ratio of the label. And a label Lc indicating that the pixel value takes a substantially constant value as a label given in the labeling process.
And a label Ls indicating that the pixel value has suddenly changed,
In the process of the shot switching determination, it is characterized in that it is determined that the shot switching exists when the appearance ratio of the label Ls calculated excluding the pixel points to which no label is added is large.

【0015】「ラベルの出現比」は,「ラベルが付与さ
れない画素点」を除いて算出される。「ラベルが付与さ
れない画素点」は,カメラや被写体の動きの影響を受け
て不規則に画素値が変動している点であり,従来技術に
おいて検出誤りの主な原因となっていたものである。こ
のような点を除外して「ラベルの出現比」が算出される
ので,「ラベルの出現比」はカメラや被写体の動きによ
る悪影響を受けにくい。つまり,「ラベルの出現比」に
基づいてショット切換の有無を判定することによって,
カメラや被写体の動きがあってもショット切換を安定に
検出できるようになる。これにより問題点(1) が解決さ
れる。
The "label appearance ratio" is calculated excluding "pixel points to which no label is given". “Pixel points without labels” are points at which pixel values fluctuate irregularly due to the movement of a camera or a subject, and are a main cause of detection errors in the prior art. . Since the “label appearance ratio” is calculated excluding such points, the “label appearance ratio” is less likely to be adversely affected by the movement of the camera or the subject. That is, by determining the presence or absence of a shot switch based on the “label appearance ratio”,
Shot switching can be detected stably even when the camera or the subject moves. This solves the problem (1).

【0016】請求項2の発明は,ラベリングの処理過程
で付与するラベルとして,ある時間区間において画素値
がほぼ線形に変化したことを示すラベルLlを含み,シ
ョット切換判定の処理過程では,ラベルLlの出現比が
大きいときディゾルブまたはフェードがあると判定する
ことを特徴とする。
According to a second aspect of the present invention, a label L1 indicating that the pixel value has changed substantially linearly in a certain time interval is included as a label assigned in the labeling process. When the appearance ratio of is large, it is determined that there is a dissolve or a fade.

【0017】「ラベルが付与されない画素点」を除いて
算出される「ラベルLlの出現比」に基づいてショット
切換の有無を判定することによって,カメラや被写体の
動きがあってもディゾルブ,フェードを含むショット切
換を安定に検出できるようになる。これにより問題点
(1) が解決される。
By determining the presence or absence of a shot switch based on the "appearance ratio of label L1" calculated excluding "pixel points to which no label is added", dissolve and fade can be performed even when the camera or the subject moves. Shot switching including this can be detected stably. This causes problems
(1) is resolved.

【0018】請求項3の発明は,時刻と時間間隔を指定
して画像列を入力する処理過程と,映像に大きな動きが
含まれているときに前記時間間隔を狭め,映像に含まれ
る動きが少ないときに前記時間間隔を広げるように制御
するステップ幅調整の処理過程とを有することを特徴と
する。
According to a third aspect of the present invention, there is provided a process of inputting an image sequence by designating a time and a time interval, and narrowing the time interval when a large motion is included in the video so that the motion included in the video is reduced. A step width adjustment process for controlling the time interval to be extended when the number is small.

【0019】このように,映像に含まれる動きの程度に
応じて適応的に間引き間隔を調整しながら検出処理を行
うので,不必要な画像を処理する手間が省け,高速に処
理を行うことができる。更に,時間間隔を広げることで
切換時間の長いディゾルブやフェードが検出できるよう
になる。これにより問題点(2),(3) が解決される。
As described above, since the detection process is performed while adjusting the thinning interval adaptively according to the degree of motion included in the video, the trouble of processing unnecessary images can be omitted, and the process can be performed at high speed. it can. Further, by extending the time interval, a dissolve or a fade having a long switching time can be detected. This solves problems (2) and (3).

【0020】請求項4の発明は,ラベルの付与されなか
った画素点の数が多いときに映像に大きな動きが含まれ
ているとし,ラベルLcの数が多いときに映像に含まれ
る動きが少ないとして,前記時間間隔を制御することを
特徴とする。
According to a fourth aspect of the present invention, a large motion is included in a video when the number of pixel points to which no label is added is large, and a small motion is included in the video when the number of labels Lc is large. The time interval is controlled.

【0021】「ラベルの付与されなかった画素点数」
は,映像に含まれる“動き”の量を反映して増減し,そ
の数が大きいときには動きが激しい場面であることを示
すので時間間隔を狭めるように調整する。逆に,ラベル
Lcの数が多いときは動きの少ない場面であるので,時
間間隔を広げるように調整する。このように,映像に含
まれる動きの程度に応じて適応的に間引き間隔を調整し
ながら検出処理を行うので,不必要な画像を処理する手
間が省け,高速に処理を行うことができる。更に,時間
間隔を広げることで切換時間の長いディゾルブやフェー
ドが検出できるようになる。これにより問題点(2),(3)
が解決される。
"Number of unlabeled pixels"
Is adjusted to reflect the amount of “movement” included in the video, and when the number is large, it indicates that the scene is intense. Conversely, when the number of labels Lc is large, it is a scene with little motion, so that the time interval is adjusted to be widened. As described above, since the detection processing is performed while adaptively adjusting the thinning-out interval according to the degree of the movement included in the video, the trouble of processing unnecessary images can be omitted, and the processing can be performed at high speed. Further, by extending the time interval, a dissolve or a fade having a long switching time can be detected. As a result, problems (2) and (3)
Is resolved.

【0022】請求項5の発明は,画素値の時間変動に基
づいて,画素点毎にラベルを付与するラベリング手続き
と,該ラベルの出現比に基づいてショット切換を検出す
るショット切換判定手続きとを具備し,ラベリング手続
きが付与するラベルとして,画素値がほぼ一定の値をと
ることを示すラベルLcと,画素値が急変したことを示
すラベルLsとを含み,ショット切換判定手続きが,ラ
ベルの付与されなかった画素点を除いて算出されるラベ
ルLsの出現比が大きいときにショット切換が存在する
と判定する処理をコンピュータに行わせるためのショッ
ト切換検出プログラムを,コンピュータが読み取り可能
な記録媒体に記録したことを特徴とする。
According to a fifth aspect of the present invention, there is provided a labeling procedure for assigning a label to each pixel point based on a time variation of a pixel value, and a shot switching determining procedure for detecting a shot switching based on the appearance ratio of the label. The label switching procedure includes a label Lc indicating that the pixel value takes a substantially constant value, and a label Ls indicating that the pixel value has changed suddenly. A shot switch detection program for causing a computer to perform a process of determining that a shot switch exists when the appearance ratio of the label Ls calculated excluding the pixel points that are not performed is large is recorded on a computer-readable recording medium. It is characterized by having done.

【0023】これにより,請求項1のショット切換検出
方法をコンピュータによって実行することができ,問題
点(1) を解決することができる。請求項6の発明は,さ
らにラベリング手続きが付与するラベルとして,ある時
間区間において画素値がほぼ線形に変化したことを示す
ラベルLlを含み,ショット切換判定手続きは,ラベル
の付与されなかった画素点を除いて算出されるラベルL
lの出現比が大きいときにディゾルブまたはフェードが
存在すると判定する処理をコンピュータに行わせるため
のショット切換検出プログラムを,コンピュータが読み
取り可能な記録媒体に記録したことを特徴とする。
Thus, the shot change detection method according to the first aspect can be executed by a computer, and the problem (1) can be solved. The invention according to claim 6 further includes, as a label assigned by the labeling procedure, a label Ll indicating that the pixel value has changed substantially linearly in a certain time interval, and the shot switching determination procedure includes a step of determining a pixel point to which no label is assigned. Label L calculated excluding
A shot switching detection program for causing a computer to perform a process of determining that a dissolve or a fade exists when the appearance ratio of 1 is large is recorded on a computer-readable recording medium.

【0024】これにより,請求項2のショット切換検出
方法をコンピュータによって実行することができ,問題
点(1) を解決することができる。請求項7の発明は,時
刻と時間間隔を指定して画像列を入力する手続きと,映
像に大きな動きが含まれているときに前記時間間隔を狭
め,映像に含まれる動きが少ないときに前記時間間隔を
広げるように制御するステップ幅調整手続きとを具備す
るショット切換検出プログラムを,コンピュータが読み
取り可能な記録媒体に記録したことを特徴とする。
Thus, the shot change detection method according to claim 2 can be executed by a computer, and the problem (1) can be solved. According to a seventh aspect of the present invention, there is provided a procedure for inputting an image sequence by designating a time and a time interval, and narrowing the time interval when a large motion is included in the video, and setting the time interval when the motion included in the video is small. A shot switching detection program having a step width adjustment procedure for controlling so as to increase the time interval is recorded on a computer-readable recording medium.

【0025】これにより,請求項3のショット切換検出
方法をコンピュータによって実行することができ,問題
点(2),(3) を解決することができる。請求項8の発明
は,前記ステップ幅調整手続きとして,ラベルの付与さ
れなかった画素点の数が多いときに映像に大きな動きが
含まれているとし,ラベルLcの数が多いときに映像に
含まれる動きが少ないとして,前記時間間隔を制御する
ためのショット切換検出プログラムを,コンピュータが
読み取り可能な記録媒体に記録したことを特徴とする。
Thus, the shot change detection method according to the third aspect can be executed by a computer, and the problems (2) and (3) can be solved. The invention according to claim 8 is characterized in that, as the step width adjustment procedure, a large motion is included in the video when the number of unlabeled pixel points is large, and is included in the video when the number of labels Lc is large. The shot change detection program for controlling the time interval is recorded on a computer-readable recording medium assuming that the movement to be performed is small.

【0026】これにより,請求項4のショット切換検出
方法をコンピュータによって実行することができ,問題
点(2),(3) を解決することができる。
Thus, the shot change detection method of claim 4 can be executed by a computer, and the problems (2) and (3) can be solved.

【0027】[0027]

【発明の実施の形態】本発明の一実施形態について図を
用いて説明する。 (1)処理概要 処理概要について,図1のフローチャートを用いて説明
する。
DESCRIPTION OF THE PREFERRED EMBODIMENTS One embodiment of the present invention will be described with reference to the drawings. (1) Outline of Processing An outline of processing will be described with reference to the flowchart of FIG.

【0028】まず,tを現在着目している画像のフレー
ム番号を格納する変数,sをステップ幅(映像から画像
を抜き出す時間間隔)を格納する変数とする。初期値と
してt=0,s=4を代入する(ステップS1)。
First, t is a variable for storing the frame number of the image currently focused on, and s is a variable for storing the step width (time interval for extracting an image from a video). Substitute t = 0 and s = 4 as initial values (step S1).

【0029】次に,図2に示すように,t番目のフレー
ムから間隔sで4枚の画像F0,F1,F2,F3を抜
き出す(ステップS2)。続いて,後述する「ラベリン
グ手続き」を呼び出し,結果として各ラベルの個数N
c,Ns,Nlと,ラベルの付与されなかった画素点数
Nuを得る(ステップS3)。
Next, as shown in FIG. 2, four images F0, F1, F2 and F3 are extracted from the t-th frame at an interval s (step S2). Subsequently, a “labeling procedure” described later is called, and as a result, the number N of each label is obtained.
c, Ns, Nl, and the number of pixel points Nu to which no label is given are obtained (step S3).

【0030】次に,後述する「ステップ幅調整手続き」
を呼び出し,ステップ幅sが適切であったか否かを調
べ,要調整と判断された場合には,更新されたステップ
幅をもってステップS2へ戻る(ステップS4)。
Next, a "step width adjustment procedure" described later.
Is called, and it is checked whether or not the step width s is appropriate. If it is determined that adjustment is necessary, the process returns to step S2 with the updated step width (step S4).

【0031】次に,ショット切換判定手続きを行う(ス
テップS5)。ここでは,ラベルLsの出現比Ns/
(N−Nu)がしきい値Tcut より大きい場合に「カッ
ト有り」と判定する(ステップS51〜S52)。ま
た,ラベルLlの出現比Nl/(N−Nu)がしきい値
Tdissより大きい場合に「ディゾルブ(またはフェー
ド)有り」と判定する(ステップS53〜S54)。
Next, a shot switching determination procedure is performed (step S5). Here, the appearance ratio Ns /
If (N-Nu) is greater than the threshold value Tcut, it is determined that "cut exists" (steps S51 to S52). If the appearance ratio Nl / (N-Nu) of the label Ll is larger than the threshold value Tdiss, it is determined that "dissolve (or fade) is present" (steps S53 to S54).

【0032】次に,映像の終わりに達したか否かを調べ
て(ステップS6),終わりに達していなければtをス
テップ幅sだけ進めて(ステップS7),ステップS2
の処理へ戻る。
Next, it is checked whether or not the end of the image has been reached (step S6). If the end has not been reached, t is advanced by the step width s (step S7), and step S2 is performed.
Return to the processing of.

【0033】(2)ラベリング手続き(図1:ステップ
S3) ラベリング手続きについて図3を用いて説明する。図3
は,ラベリング手続きの処理フローチャートである。
(2) Labeling Procedure (FIG. 1: Step S3) The labeling procedure will be described with reference to FIG. FIG.
9 is a processing flowchart of a labeling procedure.

【0034】まず,画像内の画素点を指す座標値(x,
y)を(0,0)に初期化する(ステップS301)。
図4に示すように,点(x,y)に対応する画像F0,
F1,F2,F3の画素値をf0,f1,f2,f3と
し,それらを組みにしたベクトルをf=(f0,f1,
f2,f3)とする(ステップS302)。便宜上,関
数var (f0,f1,f2,f3)を, var(f0, f1, f2, f3) =max(f0, f1, f2, f3)− min(f
0, f1, f2, f3) と定義する。var()は引数として与えられた値の変動幅
を返す関数である。
First, coordinate values (x,
y) is initialized to (0, 0) (step S301).
As shown in FIG. 4, an image F0, corresponding to the point (x, y)
The pixel values of F1, F2, and F3 are f0, f1, f2, and f3, and a vector obtained by combining them is f = (f0, f1,
f2, f3) (step S302). For convenience, the function var (f0, f1, f2, f3) is defined as var (f0, f1, f2, f3) = max (f0, f1, f2, f3) −min (f
0, f1, f2, f3). var () is a function that returns the fluctuation range of the value given as an argument.

【0035】ステップS303〜S308では,次の三
つの条件(a) 〜(c) が成立するか否かをこの順に調べ
て,各画素点に対してラベルを付与する。 (a) constant(Lc):ベクトルfがほぼ一定
の値をとる場合 var(f0, f1, f2, f3) <T0 が成立するか否かを調べ(ステップS303),成立す
る場合にLcラベル(constantラベル)を付与
する(ステップS304)。図5(A)に模式的に示す
ように,画素値が大きく変動しないでほぼ一定の値をと
る場合に,Lcラベルが付与される。
In steps S303 to S308, it is checked in this order whether the following three conditions (a) to (c) are satisfied, and a label is assigned to each pixel point. (a) constant (Lc): When the vector f takes a substantially constant value, it is checked whether or not var (f0, f1, f2, f3) <T0 is satisfied (step S303). (constant label) (step S304). As schematically shown in FIG. 5A, when the pixel value takes a substantially constant value without largely changing, the Lc label is added.

【0036】(b) step(Ls):ベクトルfがある
時刻で急激な変化を示し,その前後ではほぼ一定の値を
とる場合 var(f0, f1)<T0 and var(f2, f3)<T0 and |f0−
f3|>T1 が成立するか否かを調べ(ステップS305),成立す
る場合にLsラベル(stepラベル)を付与する(ス
テップS306)。図5(B)に模式的に示すように,
画素値が階段状の変化を示す場合にLsラベルが付与さ
れる。
(B) step (Ls): When the vector f shows an abrupt change at a certain time and has a substantially constant value before and after that, var (f0, f1) <T0 and var (f2, f3) <T0 and | f0−
It is checked whether or not f3 |> T1 holds (step S305), and if it holds, an Ls label (step label) is assigned (step S306). As schematically shown in FIG.
When the pixel value indicates a stepwise change, an Ls label is given.

【0037】(c) linear(Ll):ベクトルfが
線形に増加あるいは減少する場合 var(f0, f1−d, f2−2d, f3−3d) <T2 and |f3−f0
|>T1 (ただし,d=(f3−f0)/3は変化の傾きを示す。)
が成立するか否かを調べ(ステップS307),成立す
る場合にLlラベル(linearラベル)を付与する
(ステップS308)。図5(C)に模式的に示すよう
に,画素値が線形に増加(あるいは減少)している場合
にLlラベルが付与される。
(C) linear (Ll): When the vector f linearly increases or decreases var (f0, f1-d, f2-2d, f3-3d) <T2 and | f3-f0
|> T1 (However, d = (f3-f0) / 3 indicates the slope of the change.)
Is checked (step S307), and if it is satisfied, an L1 label (linear label) is assigned (step S308). As schematically shown in FIG. 5C, when the pixel value linearly increases (or decreases), the L1 label is assigned.

【0038】以上の三つの条件のいずれも満たさない画
素点については“ラベルなし”とする(ステップS30
9)。図5(D)に示すように,画素値が不規則に変動
している場合に“ラベルなし”と判定される。
Pixel points that do not satisfy any of the above three conditions are set to "no label" (step S30).
9). As shown in FIG. 5D, when the pixel value fluctuates irregularly, it is determined that there is no label.

【0039】以上説明した処理をすべての画素点につい
て繰り返す。(x,y)を次の画素点に移動し(ステッ
プS310),画像内のすべての画素点を調べ終えてい
なければステップS302の処理へ戻り,すべての画素
点を調べ終えたらラベリング手続きを終了する(ステッ
プS311)。
The processing described above is repeated for all the pixel points. (X, y) is moved to the next pixel point (step S310). If all pixel points in the image have not been checked, the process returns to step S302, and if all pixel points have been checked, the labeling procedure ends. (Step S311).

【0040】Lc,Ls,Llの各ラベルが付与された
画素点の個数をそれぞれNc,Ns,Nlとし,ラベル
が付与されなかった画素点の数をNuとする。画面全体
の画素点数をNとすると,N=Nc+Ns+Nl+Nu
が成立する。
The numbers of the pixel points to which the labels Lc, Ls, and Ll are assigned are respectively Nc, Ns, and Nl, and the number of the pixel points to which no labels are assigned is Nu. Assuming that the number of pixels of the entire screen is N, N = Nc + Ns + Nl + Nu
Holds.

【0041】またラベリング方法は,前述の実施形態に
限られるものではない。前述の実施形態では4枚の画像
データに基づいてラベリングを行っているが,3枚以上
であれば何枚でも構わない。前述の条件をM+1枚の画
像列に対して適用する場合には,上の条件を一般化し
て, (a) constant : var(f0, f1, ..., fM) <T0, (b) step(k) : var(f0, f1, ..., fk)<T0, and var(fk+1, fk+2, ..., fM)<T0,and |f0−fM|>
T1, (c) linear(i,j): var(f0, f1, ..., fi) <T0,and va
r(fj, fj+1, ..., fM)<T0,and |f0−fM|>T1,and
var(fi, f(i+1)-d, f(i+2)-2d, ..., fj-(j-i)d)<T2
(ただし,d=(fj-fi)/(j-i) )を使ってラベリングする
ことができる。
The labeling method is not limited to the above embodiment. In the above embodiment, labeling is performed based on four pieces of image data, but any number of three or more pieces may be used. When the above condition is applied to the M + 1 image sequence, the above condition is generalized as follows: (a) constant: var (f0, f1, ..., fM) <T0, (b) step (k): var (f0, f1, ..., fk) <T0, and var (fk + 1, fk + 2, ..., fM) <T0, and | f0−fM |>
T1, (c) linear (i, j): var (f0, f1, ..., fi) <T0, and va
r (fj, fj + 1, ..., fM) <T0, and | f0−fM |> T1, and
var (fi, f (i + 1) -d, f (i + 2) -2d, ..., fj- (ji) d) <T2
(However, it can be labeled using d = (fj-fi) / (ji)).

【0042】前述の条件と異なる点は,stepラベル
がステップ位置を表すパラメータkと,linearラ
ベルが線形変化する区間を表すパラメータi,jをとる
点である。この変更に伴って, 画像列のM/2の位置
に,カットが存在するか否かを判定するためには,Ns
としてstep(M/2)のラベル数を利用し,ディゾルブ
が存在するかを判定するためには,Nlとしてlinear
(i,j),i<M/2<jのラベル数の最大値を利用
することができる。
The difference from the above-mentioned conditions is that the step label takes a parameter k representing the step position and parameters i and j representing the section where the linear label changes linearly. In order to determine whether or not a cut exists at the position of M / 2 in the image sequence in accordance with this change, Ns
In order to determine whether a dissolve exists by using the number of labels of step (M / 2) as
(I, j), the maximum value of the number of labels i <M / 2 <j can be used.

【0043】また,画像をブロックに分割し,“ブロッ
ク”を“画素点”,“ブロック内の画素の平均値等の統
計量”を“画素値”と読み替えて前述のラベリング手続
きを実行することも可能である。
Further, the image is divided into blocks, and the above-described labeling procedure is executed by replacing “block” with “pixel point” and “statistical value such as average value of pixels in the block” with “pixel value”. Is also possible.

【0044】本実施形態では,単純なしきい値処理によ
ってラベリングを行っているが,統計モデルを複数設定
し,設定された統計モデルのうち,どのモデルが最もベ
クトルfの時間変動を効率的に記述することができるか
を統計的検定法,MDL(Minimum Description Length)
法,AIC(Akaike Information Criteria) 法等を用い
て決定し,ラベリングを行うようにすることも可能であ
る。また,ラベルとして以上説明したもの以外のものを
追加することもできる。例えば,画素値が一瞬増加(あ
るいは減少)して,その後元の値に戻るといった変化を
新たにラベルとして追加することも可能である。
In the present embodiment, labeling is performed by simple threshold processing, but a plurality of statistical models are set, and among the set statistical models, which model most efficiently describes the time variation of the vector f. Statistical test method, MDL (Minimum Description Length)
It is also possible to use a method, AIC (Akaike Information Criteria) method or the like to determine and perform labeling. Also, labels other than those described above can be added. For example, a change in which the pixel value increases (or decreases) momentarily and then returns to the original value can be added as a new label.

【0045】(3)ショット切換判定手続き(図1:ス
テップS5) カットの前後で画素値が急変するので,画像F1とF2
の間にカットが存在する場合,Ls(step)ラベルが増加
する。この性質を利用して,ラベルLsの出現比 [式A] CutMeasure=Ns/(Nc+Ns+Nl) =Ns/(N-Nu) が,あるしきい値Tcut を越えた場合にカット有りと判
定する。
(3) Shot Switching Determination Procedure (FIG. 1: Step S5) Since the pixel values change suddenly before and after the cut, the images F1 and F2
If there is a cut between, the Ls (step) label increases. By utilizing this property, the appearance ratio of the label Ls [Equation A] When CutMeasure = Ns / (Nc + Ns + Nl) = Ns / (N-Nu) exceeds a certain threshold Tcut, it is determined that there is a cut. judge.

【0046】図6は,カット評価量(CutMeasure)の時
間変化のグラフの例を示す。しきい値Tcut を越えた時
刻をカットとして出力する。ここで,ラベルの付与され
なかった画素点数Nuを引いてから比をとっている点に
注意する。ラベルの付与されなかった画素点は,被写体
やカメラの動きによって不規則に画素値が変化している
点である場合が多く,このような点が従来法においてシ
ョット切換検出誤りの原因となっていた。そのような原
因となる点を除外してCutMeasureは算出されるので,動
きの影響を受けにくいという特長を持つ。
FIG. 6 shows an example of a graph of the change over time of the cut evaluation amount (CutMeasure). The time exceeding the threshold value Tcut is output as a cut. Here, it should be noted that the ratio is obtained after subtracting the number of pixel points Nu to which no label is given. Pixel points to which no label is attached are often points where pixel values are irregularly changed due to movement of a subject or a camera, and such points cause shot switching detection errors in the conventional method. Was. Since CutMeasure is calculated excluding such a cause, it has a feature that it is hardly affected by movement.

【0047】ディゾルブにおいては場面が溶け合うよう
にして切り換わるので,画像F0,F1,F2,F3に
ディゾルブが含まれているとLl(linear)ラベルが増加
する。この性質を利用して,Llラベルの出現比 [式B] DissolveMeasure =Nl/(Nc+Ns+Nl) =Nl/(N-Nu) があるしきい値を越えた場合にディゾルブ有りと判定す
る。
In the dissolve, the scenes are switched in such a way that the scenes are melted. Therefore, if the images F0, F1, F2, and F3 contain the dissolve, the L1 (linear) label increases. Utilizing this property, the appearance ratio of Ll label [Equation B] DissolveMeasure = Nl / (Nc + Ns + Nl) = Nl / (N-Nu) If it exceeds a certain threshold, it is determined that dissolve exists. .

【0048】図7は,ディゾルブ評価量(DissolveMeas
ure )の時間変化のグラフの例を示す。しきい値Tdiss
を越えた区間をディゾルブと判定する。フェードイン,
フェードアウトについても同様にDissolveMeasure が高
い値をとるので検出可能である。701に示すようにデ
ィゾルブの途中でDissolveMeasure がしきい値を下回る
ことが希にあるので,Tdissの他にもう一つしきい値T
diss’(Tdissより低く設定する)を設けて,Tdiss’
よりDissolveMeasure が低くなった時点でディゾルブ終
了とすることも好適である。
FIG. 7 shows a dissolve evaluation amount (DissolveMeas).
ure) shows an example of a time change graph. Threshold Tdiss
Is determined to be a dissolve in a section exceeding. Fade-in,
Similarly, fade-out can be detected because DissolveMeasure takes a high value. As indicated by reference numeral 701, since DissolveMeasure rarely falls below the threshold value during the dissolve, another threshold value T in addition to Tdiss is used.
diss' (set lower than Tdiss)
It is also preferable to end the dissolve when DissolveMeasure becomes lower.

【0049】また,CutMeasure,DissolveMeasure の計
算において,分母が0に近くなるのを防ぐために,分母
をN−Nuの代わりにmax(N−Nu, 0.8 *N)の
ようにすることも好適である。
In the calculation of CutMeasure and DissolveMeasure, in order to prevent the denominator from approaching zero, it is also preferable that the denominator be max (N-Nu, 0.8 * N) instead of N-Nu. .

【0050】(4)ステップ幅調整手続き(図1:ステ
ップS4) ステップ幅調整手続きについて図8を用いて説明する。
図8は,ステップ幅調整手続きの処理フローチャートで
ある。
(4) Step width adjustment procedure (FIG. 1: step S4) The step width adjustment procedure will be described with reference to FIG.
FIG. 8 is a processing flowchart of the step width adjustment procedure.

【0051】ラベリング手続きで返されるNu,Ncの
値が入力として与えられる。ラベルが付与されなかった
画素点の数Nuがあるしきい値T3よりも大きい場合に
は,ステップ幅が大きすぎたと判断し(ステップS40
1),ステップ幅を半分にする(ステップS402)。
ただし,ステップ幅の最小値をここでは1としている。
The values of Nu and Nc returned in the labeling procedure are given as inputs. If the number Nu of the pixel points to which no label is given is larger than a certain threshold T3, it is determined that the step width is too large (step S40).
1) The step width is halved (step S402).
However, the minimum value of the step width is set to 1 here.

【0052】次に,Lcラベルの数Ncがしきい値T4
より大きい場合にはステップ幅が小さすぎると判断し
(ステップS403),ステップ幅を2倍にする(ステ
ップS404)。ただし,ステップ幅の最大値をここで
は16としている。
Next, the number Nc of Lc labels is equal to the threshold T4.
If it is larger, it is determined that the step width is too small (step S403), and the step width is doubled (step S404). However, the maximum value of the step width is 16 here.

【0053】以上,二つの条件を満たさない場合には,
ステップ幅は適切であったとして(ステップS40
5),手続きを終了する。映像には,風景等のように動
きの少ない場面と,アクション等のように動きの激しい
場面が混在している。動きが激しい場面ではステップ幅
を小さくとる必要がある。なぜなら,Nuが増加する傾
向がありNuが大きくなると,式[A]と式[B]の分
母が小さくなるので,微少なノイズが混入しただけでCu
tMeasure,DissolveMeasure の値が大きく変動し検出誤
りが増えるという問題点があるからである。逆に,動き
が少ない場面では,ステップ幅を大きくとった方が効率
がよい。
When the above two conditions are not satisfied,
Assuming that the step width is appropriate (step S40)
5), end the procedure. In a video, scenes with little movement, such as landscapes, and scenes with strong movements, such as actions, are mixed. It is necessary to reduce the step width in a scene where movement is severe. This is because Nu tends to increase, and when Nu increases, the denominator of Equations [A] and [B] becomes smaller, so that Cu is mixed only with minute noise.
This is because there is a problem that the values of tMeasure and DissolveMeasure fluctuate greatly and detection errors increase. Conversely, in situations where there is little movement, it is more efficient to increase the step width.

【0054】ステップ幅が小さいと切換時間の長い(非
常にゆっくり切り換わる)ディゾルブを検出できない。
図9(A)に示すように,ディゾルブ変化のスピードが
速いときには,変化の傾きが大きいのでステップ幅を小
さ目にしてもその変化を検出できるが,図9(B)に示
すように,ディゾルブ変化のスピードが遅いときには,
画素値の変化の傾きが小さいのでその変化を検出できな
い。すなわち,ノイズに起因する変化と区別がつかな
い。切換時間の長いディゾルブを検出するには,ステッ
プ幅を大きくとる必要がある。
If the step width is small, a dissolve with a long switching time (switching very slowly) cannot be detected.
As shown in FIG. 9 (A), when the speed of the dissolve change is high, the change gradient is large, so that the change can be detected even if the step width is made small. However, as shown in FIG. Is slow,
Since the inclination of the change in the pixel value is small, the change cannot be detected. That is, it cannot be distinguished from a change caused by noise. To detect a dissolve with a long switching time, it is necessary to increase the step width.

【0055】以上の考察に基づいて,本実施形態ではN
uがあるしきい値より大きい場合に,映像に含まれる動
きが激しいと考えて,ステップ幅を1/2に変更するよ
うにした。この制御によって動きの激しい場面で検出誤
りを防ぐ効果がある。逆に,Ncがあるしきい値より大
きい場合に,映像に含まれる動きが少ないと考えて,ス
テップ幅を2倍にするようにした。この制御によって,
動きの激しい場面での検出誤りを抑えたまま,無駄な画
像を処理する手間が省け,切換時間の長いディゾルブを
検出できるようになる効果がある。
Based on the above considerations, in this embodiment, N
When u is larger than a certain threshold value, the step width is changed to て, considering that the motion included in the video is intense. This control has an effect of preventing a detection error in a scene where movement is severe. Conversely, when Nc is larger than a certain threshold value, it is considered that the motion included in the video is small, and the step width is doubled. With this control,
There is the effect that the trouble of processing useless images can be omitted while detecting errors in a scene of rapid movement, and a dissolve with a long switching time can be detected.

【0056】なお,ステップ幅調整手続きは前述した実
施形態に限られるものではない。“動き”の程度を反映
してステップ幅を調整するという趣旨を変えない範囲で
変形可能である。例えば,Lc(constant)ラベルの数N
cの代わりに,(N−Nu)があるしきい値より大きい
場合にステップ幅を大きくするようにしてもよい。ステ
ップ幅の変化のさせ方についても前述した実施形態で
は,1,2,4,8,…のように2のべき乗としている
が,1,2,3,4,…のように1ずつ増減させるよう
にしてもよいし,予め設定された関数によってステップ
幅を決定するようにしてもよい。
Note that the step width adjustment procedure is not limited to the above embodiment. Deformation is possible within a range that does not change the purpose of adjusting the step width by reflecting the degree of “movement”. For example, the number N of Lc (constant) labels
Instead of c, the step width may be increased when (N-Nu) is larger than a certain threshold. In the above-described embodiment, the step width is changed by a power of 2, such as 1, 2, 4, 8,..., But is increased or decreased by 1, such as 1, 2, 3, 4,. Alternatively, the step width may be determined by a function set in advance.

【0057】なお,以上説明したショット切換検出方法
はコンピュータプログラムを用いて実現され,該プログ
ラムはフロッピーディスク,コンパクトディスク,テー
プ等の適当な記録媒体に記録して提供することが可能で
ある。
The above-described shot switching detection method is realized using a computer program, and the program can be provided by being recorded on an appropriate recording medium such as a floppy disk, a compact disk, or a tape.

【0058】[0058]

【発明の効果】請求項1の発明は,検出誤りの原因とな
る「ラベルが付与されない画素点」を除外して「ラベル
の出現比」を算出し,この比に基づいてショット切換の
有無を判定するようにしたので,カメラや被写体の動き
があってもショット切換を安定に検出できる効果があ
る。
According to the first aspect of the present invention, the "label appearance ratio" is calculated by excluding "pixel points to which no label is given" which causes a detection error, and the presence or absence of shot switching is determined based on this ratio. Since the determination is made, there is an effect that the shot change can be stably detected even when the camera or the subject moves.

【0059】請求項2の発明は,ラベリング手続きが付
与するラベルとして,ある時間区間において画素値がほ
ぼ線形に変化したことを示すラベルLlを含み,判定手
続きが,ラベルLlの出現比が大きいときディゾルブま
たはフェードがあると判定するようにしたので,カメラ
や被写体の動きがあってもディゾルブを含むショット切
換を安定に検出できる効果がある。
According to a second aspect of the present invention, the labeling procedure includes, as a label, a label Ll indicating that the pixel value has changed substantially linearly in a certain time interval. Since it is determined that there is a dissolve or a fade, there is an effect that shot switching including the dissolve can be stably detected even when the camera or the subject moves.

【0060】請求項3の発明は,時間間隔を映像に含ま
れる動きの量に応じて制御するようにしたので,不要な
画像を処理する手間が省けるので高速に処理を行うこと
ができ,切換時間の長いショット切換も検出できるよう
になる効果がある。
According to the third aspect of the present invention, the time interval is controlled in accordance with the amount of motion included in the video, so that it is not necessary to process unnecessary images, so that high-speed processing can be performed. There is an effect that a long-time shot change can be detected.

【0061】請求項4の発明は,ラベルの付与されなか
った画素点数が大きいときに時間間隔を狭めるように制
御するので,大きな動きが含まれた場面での検出誤りを
低減する効果がある。さらに,ラベルLcが付与された
画素点の数が大きいときに時間間隔を広げるように制御
するので,不要な画像を処理する手間が省け,高速に処
理を行うことができ,また切換時間の長いショット切換
も検出できるようになる効果がある。
According to the fourth aspect of the present invention, the control is performed so that the time interval is narrowed when the number of unlabeled pixels is large, so that there is an effect of reducing detection errors in a scene including a large motion. Furthermore, since the control is performed so as to increase the time interval when the number of pixel points to which the label Lc is added is large, the trouble of processing unnecessary images can be omitted, the processing can be performed at high speed, and the switching time is long. There is an effect that a shot change can be detected.

【0062】請求項5ないし請求項8の発明は,記録媒
体に記録されたショット切換検出プログラムをコンピュ
ータに実行させて,それぞれ請求項1ないし請求項4の
方法をコンピュータによって実現することができるとい
う効果がある。
According to the fifth to eighth aspects of the present invention, the computer can execute the method of the first to fourth aspects by causing a computer to execute a shot switching detection program recorded on a recording medium. effective.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の実施の形態を説明するためのフローチ
ャートである。
FIG. 1 is a flowchart for explaining an embodiment of the present invention.

【図2】映像からの画像の抜き出し方を説明するための
模式図である。
FIG. 2 is a schematic diagram for explaining how to extract an image from a video.

【図3】ラベリング手続きの処理フローチャートであ
る。
FIG. 3 is a processing flowchart of a labeling procedure.

【図4】画素点と画素値の関係を説明するための図であ
る。
FIG. 4 is a diagram for explaining the relationship between pixel points and pixel values.

【図5】画素値の時間変動とラベルの関係を説明するた
めの模式図である。
FIG. 5 is a schematic diagram for explaining a relationship between a temporal change of a pixel value and a label.

【図6】カット評価量の時間変化を示す図である。FIG. 6 is a diagram showing a change over time of a cut evaluation amount.

【図7】ディゾルブ評価量の時間変化を示す図である。FIG. 7 is a diagram showing a temporal change of a dissolve evaluation amount.

【図8】ステップ幅調整手続きの処理フローチャートで
ある。
FIG. 8 is a processing flowchart of a step width adjustment procedure.

【図9】ディゾルブ変化速度の影響について説明するた
めの図である。
FIG. 9 is a diagram for explaining an influence of a dissolve change speed.

【図10】カットとディゾルブを説明するための模式図
である。
FIG. 10 is a schematic diagram for explaining cutting and dissolving.

【符号の説明】[Explanation of symbols]

S1〜S7 実施の形態の処理ステップ S1 to S7 Processing steps of the embodiment

Claims (8)

【特許請求の範囲】[Claims] 【請求項1】 3枚以上の画像から構成される画像列か
らショット切換を検出する方法であって,画素値の時間
変動に基づいて,画素点毎にラベルを付与するラベリン
グの処理過程と,該ラベルの出現比に基づいてショット
切換を検出するショット切換判定の処理過程とを有し,
前記ラベリングの処理過程で付与するラベルとして,画
素値がほぼ一定の値をとることを示すラベルと,画素値
が急変したことを示すラベルとを含み,前記ショット切
換判定の処理過程では,ラベルの付与されなかった画素
点を除いて算出される前記画素値が急変したことを示す
ラベルの出現比が大きいときにショット切換が存在する
と判定することを特徴とするショット切換検出方法。
1. A method for detecting shot switching from an image sequence composed of three or more images, comprising: a labeling process for assigning a label to each pixel point based on a temporal variation of a pixel value; A shot switching determination process for detecting shot switching based on the label appearance ratio;
The label given in the labeling process includes a label indicating that the pixel value takes a substantially constant value and a label indicating that the pixel value has changed suddenly. A shot switching detection method, characterized in that it is determined that shot switching is present when the appearance ratio of a label indicating that the pixel value calculated excluding the pixel point that has not been given has changed abruptly is large.
【請求項2】 請求項1記載のショット切換検出方法に
おいて,前記ラベリングの処理過程で付与するラベルと
して,ある時間区間において画素値がほぼ線形に変化し
たことを示すラベルを含み,前記ショット切換判定の処
理過程では,ラベルの付与されなかった画素点を除いて
算出される前記画素値がほぼ線形に変化したことを示す
ラベルの出現比が大きいときにディゾルブまたはフェー
ドが存在すると判定することを特徴とするショット切換
検出方法。
2. The shot change detection method according to claim 1, wherein the label added in the labeling process includes a label indicating that a pixel value has changed substantially linearly in a certain time interval, and the shot change determination is performed. In the processing step, the dissolve or fade is determined to be present when the appearance ratio of the label indicating that the pixel value calculated excluding the pixel point to which no label has been added changes substantially linearly is large. Shot switching detection method.
【請求項3】 請求項1または請求項2記載のショット
切換検出方法において,時刻と時間間隔を指定して画像
列を入力する処理過程と,映像に大きな動きが含まれて
いるときに前記時間間隔を狭め,映像に含まれる動きが
少ないときに前記時間間隔を広げるように制御するステ
ップ幅調整の処理過程とを有することを特徴とするショ
ット切換検出方法。
3. A shot switching detection method according to claim 1, wherein a process of inputting an image sequence by designating a time and a time interval is performed, and said process is performed when a large motion is included in an image. A step of adjusting the step width to reduce the interval and increase the time interval when the amount of motion included in the video is small.
【請求項4】 請求項3記載のショット切換検出方法に
おいて,前記ステップ幅調整の処理過程では,ラベルの
付与されなかった画素点の数が多いときに映像に大きな
動きが含まれているとし,前記画素値がほぼ一定の値を
とることを示すラベルの数が多いときに映像に含まれる
動きが少ないとして,前記時間間隔を制御することを特
徴とするショット切換検出方法。
4. The shot switching detection method according to claim 3, wherein in the step width adjustment processing, a large motion is included in the image when the number of unlabeled pixel points is large. A shot switching detection method, characterized in that when the number of labels indicating that the pixel value takes a substantially constant value is large, the movement included in the video is considered to be small and the time interval is controlled.
【請求項5】 3枚以上の画像から構成される画像列か
らショット切換をコンピュータによって検出するための
ショット切換検出プログラムを記録した記録媒体であっ
て,画素値の時間変動に基づいて,画素点毎にラベルを
付与するラベリング手続きと,該ラベルの出現比に基づ
いてショット切換を検出するショット切換判定手続きと
を具備し,前記ラベリング手続きが付与するラベルとし
て,画素値がほぼ一定の値をとることを示すラベルと,
画素値が急変したことを示すラベルとを含み,前記ショ
ット切換判定手続きは,ラベルの付与されなかった画素
点を除いて算出される前記画素値が急変したことを示す
ラベルの出現比が大きいときにショット切換が存在する
と判定することを特徴とするショット切換検出プログラ
ムを記録した記録媒体。
5. A recording medium on which a shot switching detection program for detecting a shot switching from a sequence of three or more images by a computer by a computer is recorded. A labeling procedure for assigning a label to each label, and a shot switching determination procedure for detecting shot switching based on the appearance ratio of the label, wherein the label assigned by the labeling procedure has a substantially constant pixel value. A label indicating that
And a label indicating that the pixel value has suddenly changed. The shot switching determination procedure includes a step of determining when the appearance ratio of the label indicating that the pixel value has suddenly changed, excluding the pixel point to which no label has been added, is large. And recording a shot switching detection program.
【請求項6】 請求項5記載のショット切換検出プログ
ラムを記録した記録媒体において,前記ラベリング手続
きが付与するラベルとして,ある時間区間において画素
値がほぼ線形に変化したことを示すラベルを含み,前記
ショット切換判定手続きは,ラベルの付与されなかった
画素点を除いて算出される前記画素値がほぼ線形に変化
したことを示すラベルの出現比が大きいときにディゾル
ブまたはフェードが存在すると判定することを特徴とす
るショット切換検出プログラムを記録した記録媒体。
6. A recording medium on which the shot switching detection program according to claim 5 is recorded, wherein the label given by the labeling procedure includes a label indicating that a pixel value has changed substantially linearly in a certain time interval. The shot switching determination procedure is to determine that a dissolve or a fade is present when the appearance ratio of a label indicating that the pixel value calculated except for the pixel point to which no label is added has changed substantially linearly is large. A recording medium on which a featured shot switching detection program is recorded.
【請求項7】 請求項5または請求項6記載のショット
切換検出プログラムを記録した記録媒体において,時刻
と時間間隔を指定して画像列を入力する手続きと,映像
に大きな動きが含まれているときに前記時間間隔を狭
め,映像に含まれる動きが少ないときに前記時間間隔を
広げるように制御するステップ幅調整手続きとを具備す
ることを特徴とするショット切換検出プログラムを記録
した記録媒体。
7. A recording medium on which the shot switching detection program according to claim 5 is recorded, wherein a procedure for inputting an image sequence by specifying a time and a time interval and a large motion is included in the video. And a step width adjustment procedure for controlling the time interval to be narrowed and the time interval to be widened when the amount of movement included in the video is small.
【請求項8】 請求項7記載のショット切換検出プログ
ラムを記録した記録媒体において,前記ステップ幅調整
手続きは,ラベルの付与されなかった画素点の数が多い
ときに映像に大きな動きが含まれているとし,前記画素
値がほぼ一定の値をとることを示すラベルの数が多いと
きに映像に含まれる動きが少ないとして,前記時間間隔
を制御するものであることを特徴とするショット切換検
出プログラムを記録した記録媒体。
8. The recording medium on which the shot switching detection program according to claim 7 is recorded, wherein the step width adjustment procedure includes a step in which a large motion is included in an image when the number of unlabeled pixel points is large. And controlling the time interval on the assumption that the motion contained in the video is small when the number of labels indicating that the pixel value takes a substantially constant value is small. Recording medium on which is recorded.
JP16781197A 1997-06-25 1997-06-25 Shot switching detection method and recording medium recording shot switching detection program Expired - Lifetime JP3378773B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP16781197A JP3378773B2 (en) 1997-06-25 1997-06-25 Shot switching detection method and recording medium recording shot switching detection program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP16781197A JP3378773B2 (en) 1997-06-25 1997-06-25 Shot switching detection method and recording medium recording shot switching detection program

Publications (2)

Publication Number Publication Date
JPH1118028A true JPH1118028A (en) 1999-01-22
JP3378773B2 JP3378773B2 (en) 2003-02-17

Family

ID=15856553

Family Applications (1)

Application Number Title Priority Date Filing Date
JP16781197A Expired - Lifetime JP3378773B2 (en) 1997-06-25 1997-06-25 Shot switching detection method and recording medium recording shot switching detection program

Country Status (1)

Country Link
JP (1) JP3378773B2 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010507155A (en) * 2006-10-17 2010-03-04 ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ Detecting gradual transitions in video sequences
JP2011507081A (en) * 2007-12-17 2011-03-03 インターナショナル・ビジネス・マシーンズ・コーポレーション Computer-implemented method for temporal event-based image printing method, computer program, apparatus for automatically detecting copyright infringement of image, and computer-implemented method
JP2011520162A (en) * 2008-02-28 2011-07-14 アイファロ メディア ゲーエムベーハー Method for comparing frame sequences in multimedia streams

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010507155A (en) * 2006-10-17 2010-03-04 ミツビシ・エレクトリック・アールアンドディー・センター・ヨーロッパ・ビーヴィ Detecting gradual transitions in video sequences
JP2011507081A (en) * 2007-12-17 2011-03-03 インターナショナル・ビジネス・マシーンズ・コーポレーション Computer-implemented method for temporal event-based image printing method, computer program, apparatus for automatically detecting copyright infringement of image, and computer-implemented method
JP2011520162A (en) * 2008-02-28 2011-07-14 アイファロ メディア ゲーエムベーハー Method for comparing frame sequences in multimedia streams

Also Published As

Publication number Publication date
JP3378773B2 (en) 2003-02-17

Similar Documents

Publication Publication Date Title
JP5552769B2 (en) Image editing apparatus, image editing method and program
EP1132812B1 (en) Method of detecting dissolve/fade in mpeg-compressed video environment
EP0729117B1 (en) Method and apparatus for detecting a point of change in moving images
JP4981128B2 (en) Keyframe extraction from video
US6747674B1 (en) Image processing apparatus, image processing method, and information providing medium
JP5355422B2 (en) Method and system for video indexing and video synopsis
US7362949B2 (en) Intelligent video system
US8204312B2 (en) Moving image editing apparatus
JP2002084488A (en) Video generating system and custom video generating method
JP4201454B2 (en) Movie summary generation method and movie summary generation device
US7433588B2 (en) Camera control apparatus, camera control method, program and storage medium
US20050228849A1 (en) Intelligent key-frame extraction from a video
US20070053660A1 (en) Video processing apparatus
US11438510B2 (en) System and method for editing video contents automatically technical field
JPH10112835A (en) Video image summarizing method and video image display method
US20170200472A1 (en) Electronic device and method of managing a playback rate of a plurality of images
US6842197B1 (en) Automatic extraction method of the structure of a video sequence
KR100313713B1 (en) Visual rate dynamic generation method using pixel sampling
JP3332166B2 (en) Video search device
JPH1118028A (en) Shot changeover detection method and recording medium recording shot changeover detection program
Li et al. Spatial–temporal joint probability images for video segmentation
Abdeljaoued et al. A new algorithm for shot boundary detection
JP2004080156A (en) Image processing apparatus, image processing method, program, recording medium, and image processing system
Lu et al. Video summarization by spatial-temporal graph optimization
US20040246259A1 (en) Music program contents menu creation apparatus and method

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071206

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081206

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091206

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101206

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101206

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111206

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111206

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121206

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121206

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131206

Year of fee payment: 11

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term