JP3508225B2 - Image timing coincidence detection method and apparatus - Google Patents

Image timing coincidence detection method and apparatus

Info

Publication number
JP3508225B2
JP3508225B2 JP20527794A JP20527794A JP3508225B2 JP 3508225 B2 JP3508225 B2 JP 3508225B2 JP 20527794 A JP20527794 A JP 20527794A JP 20527794 A JP20527794 A JP 20527794A JP 3508225 B2 JP3508225 B2 JP 3508225B2
Authority
JP
Japan
Prior art keywords
image
time
pixels
standard deviation
coincidence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP20527794A
Other languages
Japanese (ja)
Other versions
JPH0870401A (en
Inventor
哲二郎 近藤
賢 堀士
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP20527794A priority Critical patent/JP3508225B2/en
Publication of JPH0870401A publication Critical patent/JPH0870401A/en
Application granted granted Critical
Publication of JP3508225B2 publication Critical patent/JP3508225B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【産業上の利用分野】本発明は、複数の画像の時間方向
のタイミングの一致を検出する画像のタイミング一致検
出方法及び装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image timing coincidence detecting method and apparatus for detecting coincidence of timings of a plurality of images in the time direction.

【0002】[0002]

【従来の技術】一般に、入力系統の異なる複数の画像撮
像装置で、ある動画のシーンを撮像する場合、同一のシ
ーンを撮像するためには、同時刻に撮像するしかない。
このため動画像を記録した場合、同じシーンを取り出す
には記録時にリアルタイムを同時に記録しておき、後で
タイムコードを参照して切り出しを行う必要がある。
2. Description of the Related Art Generally, when a scene of a moving image is captured by a plurality of image capturing apparatuses having different input systems, the same scene can only be captured at the same time.
For this reason, when a moving image is recorded, in order to extract the same scene, it is necessary to record the real time at the same time at the time of recording and then perform the cutout with reference to the time code.

【0003】[0003]

【発明が解決しようとする課題】ところで、複数の画像
撮像装置を用いて同一シーンを撮像した場合、物理的に
1本の光軸上に複数の画像撮像装置を配置することがで
きないので、厳密には全く同一のシーンではない。特
に、3次元物体を撮像しようとすれば、光軸上で分光す
る等の工夫が必要である。
By the way, when the same scene is imaged by using a plurality of image pickup devices, the plurality of image pickup devices cannot be physically arranged on one optical axis. It's not exactly the same scene. In particular, when an image of a three-dimensional object is to be captured, it is necessary to devise a method such as spectral separation on the optical axis.

【0004】また、光軸は分光するにしても、入力系統
の異なる複数の画像撮像装置にリアルタイムを記録する
必要があるが、このようなタイムコードが記録できない
場合には、複数の撮像した画像の時間方向のタイミング
を合わせることができない。
Even if the optical axis is spectrally separated, it is necessary to record real time in a plurality of image pickup devices having different input systems. If such a time code cannot be recorded, a plurality of picked-up images are taken. The timing in the time direction cannot be adjusted.

【0005】本発明は、タイムコードの記録を不要とし
ながらも、複数の画像撮像装置を用いて撮像した画像の
時間方向のタイミングの一致を検出できる画像のタイミ
ング一致検出方法及び装置の提供を目的とする。
It is an object of the present invention to provide an image timing coincidence detecting method and device capable of detecting coincidence of timings of images picked up by a plurality of image pick-up devices, without needing to record a time code. And

【0006】[0006]

【課題を解決するための手段】本発明に係る画像のタイ
ミング一致検出方法は、第1の画素数からなる第1の撮
像素子が出力する第1の画像と第2の画素数からなる第
2の撮像素子が出力する第2の画像との時間方向の一致
を検出する画像のタイミング一致検出方法において、上
記第1の画像と上記第2の画像の単位画像における平均
値、標準偏差、時間差分、動き量の内の少なくとも1つ
の情報を用いて、上記画像間の時間方向のタイミングの
一致を検出することにより上記課題を解決する。
An image timing coincidence detecting method according to the present invention comprises a first image output from a first image sensor having a first pixel number and a second image having a second pixel number. Image timing coincidence detection method for detecting coincidence in time direction with a second image output from the image pickup device, the average value, standard deviation, and time difference between unit images of the first image and the second image. The problem is solved by detecting the coincidence of the timings in the time direction between the images by using at least one piece of information of the movement amount.

【0007】この場合、上記情報は、上記第1の画像と
上記第2の画像の単位画像における平均値、標準偏差、
時間差分、動き量の時系列変化値の内の少なくとも1つ
である。
In this case, the above information is the average value, standard deviation, and unit image of the first image and the second image in the unit image.
It is at least one of the time difference and the time series change value of the motion amount.

【0008】また、上記平均値、標準偏差、時間差分、
動き量の情報には、相関係数を用いた評価が施される。
Further, the average value, standard deviation, time difference,
The information on the amount of movement is evaluated using a correlation coefficient.

【0009】また、本発明に係る画像のタイミング一致
検出方法は、第1の画素数からなる第1の撮像素子が出
力する第1の画像と第2の画素数からなる第2の撮像素
子が出力する第2の画像との時間方向の一致を検出する
画像のタイミング一致検出方法において、上記第1の画
像と上記第2の画像の単位画像における平均値、標準偏
差、時間差分、動き量の時系列変化値に相関係数を用い
た評価を施すと共に、該評価値を総合的に判断して上記
画像間の時間方向のタイミングの一致を検出することに
より上記課題を解決する。
Further, in the image timing coincidence detection method according to the present invention, the first image output by the first image sensor having the first number of pixels and the second image sensor having the second number of pixels are output. An image timing coincidence detecting method for detecting coincidence in time direction with a second image to be output, comprising: an average value, a standard deviation, a time difference, and a motion amount of a unit image of the first image and the second image. The above problem is solved by performing evaluation using a correlation coefficient for the time-series change value, and comprehensively judging the evaluation value to detect the coincidence of the timing in the time direction between the images.

【0010】また、本発明に係る画像のタイミング一致
検出装置は、第1の画素数からなる第1の撮像素子が出
力する第1の画像と第2の画素数からなる第2の撮像素
子が出力する第2の画像との時間方向の一致を検出する
画像のタイミング一致検出装置において、上記第1の画
像と上記第2の画像の単位画像における平均値、標準偏
差、時間差分、動き量の内の少なくとも1つの情報を用
いて、上記画像間の時間方向のタイミングの一致を検出
することにより上記課題を解決する。
Further, in the image timing coincidence detecting apparatus according to the present invention, the first image output by the first image sensor having the first number of pixels and the second image sensor having the second number of pixels are provided. In an image timing coincidence detection apparatus for detecting coincidence in time direction with a second image to be output, an average value, a standard deviation, a time difference, and a motion amount of a unit image of the first image and the second image are detected. The above problem is solved by detecting the coincidence of the timing in the time direction between the images using at least one information in the above.

【0011】この場合、上記情報は、上記第1の画像と
上記第2の画像の単位画像における平均値、標準偏差、
時間差分、動き量の時系列変化値の内の少なくとも1つ
である。
In this case, the above information is the average value, standard deviation, and unit deviation of the first image and the second image in the unit image.
It is at least one of the time difference and the time series change value of the motion amount.

【0012】また、上記平均値、標準偏差、時間差分、
動き量の情報には、相関係数を用いた評価が施される。
The average value, standard deviation, time difference,
The information on the amount of movement is evaluated using a correlation coefficient.

【0013】また、本発明に係る画像のタイミング一致
検出装置は、第1の画素数からなる第1の撮像素子が出
力する第1の画像と第2の画素数からなる第2の撮像素
子が出力する第2の画像との時間方向の一致を検出する
画像のタイミング一致検出装置において、上記第1の画
像と上記第2の画像の単位画像における平均値、標準偏
差、時間差分、動き量の時系列変化値に相関係数を用い
た評価を施すと共に、該評価値を総合的に判断して上記
画像間の時間方向のタイミングの一致を検出することに
より上記課題を解決する。
Further, in the image timing coincidence detecting apparatus according to the present invention, the first image outputted by the first image pickup device having the first number of pixels and the second image pickup device having the second number of pixels are provided. In an image timing coincidence detection apparatus for detecting coincidence in time direction with a second image to be output, an average value, a standard deviation, a time difference, and a motion amount of a unit image of the first image and the second image are detected. The above problem is solved by performing evaluation using a correlation coefficient for the time-series change value, and comprehensively judging the evaluation value to detect the coincidence of the timing in the time direction between the images.

【0014】この場合、上記第1及び上記第2の撮像素
子は、同じ被写体を撮像する。また、上記被写体には、
基準の画素位置を示すマーカが付されている。
In this case, the first and second image pickup devices image the same subject. Also, for the subject,
A marker indicating the reference pixel position is attached.

【0015】[0015]

【作用】本発明に係る画像のタイミング一致検出方法
は、第1の画素数からなる第1の撮像素子が出力する第
1の画像と第2の画素数からなる第2の撮像素子が出力
する第2の画像の単位画像における平均値、標準偏差、
時間差分、動き量の内の少なくとも1つの情報を用いる
ので、タイムコードの記録を不要としながらも、画像の
時間方向のタイミングの一致を検出できる。
In the image timing coincidence detecting method according to the present invention, the first image output by the first image sensor having the first number of pixels and the second image sensor having the second number of pixels are output. Average value, standard deviation, in unit image of the second image,
Since at least one of the time difference and the amount of movement is used, it is possible to detect the coincidence of the timings of the images in the time direction without the need to record the time code.

【0016】本発明に係る画像のタイミング一致検出方
法は、第1の画素数からなる第1の撮像素子が出力する
第1の画像と第2の画素数からなる第2の撮像素子が出
力する第2の画像の単位画像における平均値、標準偏
差、時間差分、動き量の時系列変化値に相関係数を用い
た評価を施すと共に、該評価値を総合的に判断するの
で、タイムコードの記録を不要としながらも、画像の時
間方向のタイミングの一致を検出できる。
In the image timing coincidence detection method according to the present invention, the first image output by the first image sensor having the first number of pixels and the second image sensor having the second number of pixels are output. The average value, the standard deviation, the time difference, and the time series change value of the motion amount in the unit image of the second image are evaluated using the correlation coefficient, and the evaluation value is comprehensively determined. It is possible to detect the coincidence of the timings of the images in the time direction even though the recording is unnecessary.

【0017】本発明に係る画像のタイミング一致検出装
置は、第1の画素数からなる第1の撮像素子が出力する
第1の画像と第2の画素数からなる第2の撮像素子が出
力する第2の画像の単位画像における平均値、標準偏
差、時間差分、動き量の内の少なくとも1つの情報を用
いるので、タイムコードの記録を不要としながらも、画
像の時間方向のタイミングの一致を検出できる。
In the image timing coincidence detecting apparatus according to the present invention, the first image output by the first image sensor having the first number of pixels and the second image sensor having the second number of pixels output. Since at least one of the average value, the standard deviation, the time difference, and the amount of motion in the unit image of the second image is used, it is possible to detect the coincidence of the timings of the images in the time direction while not recording the time code. it can.

【0018】本発明に係る画像のタイミング一致検出装
置は、第1の画素数からなる第1の撮像素子が出力する
第1の画像と第2の画素数からなる第2の撮像素子が出
力する第2の画像の単位画像における平均値、標準偏
差、時間差分、動き量の時系列変化値に相関係数を用い
た評価を施すと共に、該評価値を総合的に判断するの
で、タイムコードの記録を不要としながらも、画像の時
間方向のタイミングの一致を検出できる。
In the image timing coincidence detecting apparatus according to the present invention, the first image output by the first image sensor having the first number of pixels and the second image sensor having the second number of pixels output. The average value, the standard deviation, the time difference, and the time series change value of the motion amount in the unit image of the second image are evaluated using the correlation coefficient, and the evaluation value is comprehensively determined. It is possible to detect the coincidence of the timings of the images in the time direction even though the recording is unnecessary.

【0019】[0019]

【実施例】以下、本発明に係る画像のタイミング一致検
出方法及び装置が適用できる好ましい実施例について説
明する。この実施例は、入力系統の異なる2つの画像撮
像装置が同一被写体を撮像して得た2つの画像の時間方
向のタイミングの一致を検出する画像のタイミング一致
検出装置である。ここで、上記入力系統の異なる2つの
画像撮像装置の内の少なくとも一は、画像撮像と同時に
タイムコードを記録できない画像撮像装置であり、本実
施例となる画像のタイミング一致検出装置は、リアルタ
イムを参照してのタイミング一致の検出が不可能であ
る。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Preferred embodiments to which the image timing coincidence detection method and apparatus according to the present invention can be applied will be described below. This embodiment is an image timing coincidence detection device for detecting coincidence of timings in time direction of two images obtained by capturing two images of the same subject by different image capturing devices. Here, at least one of the two image capturing apparatuses having different input systems is an image capturing apparatus that cannot record a time code at the same time as image capturing, and the image timing coincidence detecting apparatus according to the present embodiment is capable of performing real-time operation. It is impossible to detect timing coincidence by reference.

【0020】このため本実施例の画像のタイミング一致
検出装置は、ある一定時間の画像の読み出しを行い、フ
レーム又はフィールド単位に画像の特徴量を算出し、該
特徴量について一定時間の時系列データを保有し、該時
系列データを用いてマッチングをとり、タイミング一致
点を検出することによって、タイミング位相差を出力す
る。特徴量としては、供給される画像信号の平均輝度
m、標準偏差σ、フレーム間差分Δ、動きベクトルvを
用いる。
Therefore, the image timing coincidence detection apparatus of the present embodiment reads out an image for a certain fixed time, calculates a characteristic amount of the image in units of frames or fields, and time-series data of the fixed amount for the characteristic amount. Is held, matching is performed using the time-series data, and a timing coincidence point is detected to output a timing phase difference. As the feature amount, the average luminance m of the supplied image signal, the standard deviation σ, the interframe difference Δ, and the motion vector v are used.

【0021】すなわち、本実施例の画像のタイミング一
致検出装置は、図1に示すように、入力端子1aから供
給される第1の画像の信号と入力端子1bから供給され
る第2の画像の信号の平均輝度値mを算出する平均輝度
値算出回路2と、上記平均輝度値mの一定時間の時系列
データを保有する時系列値記憶部3と、上記第1の画像
の信号と上記第2の画像の信号の標準偏差σを算出する
標準偏差算出回路4と、上記標準偏差σの一定時間の時
系列データを保有する時系列値記憶部5と、上記第1の
画像の信号と上記第2の画像の信号のフレーム間差分Δ
を算出するフレーム間差分算出回路6と、上記フレーム
間差分Δの一定時間の時系列データを保有する時系列値
記憶部7と、上記第1の画像の信号と上記第2の画像の
信号の動きベクトルvを算出する動きベクトル算出回路
8と、上記動きベクトルvの一定時間の時系列データを
保有する時系列値記憶部9と、上記時系列値記憶部3、
5、7及び9から供給される上記第1の画像の信号の各
種時系列データと上記第2の画像の信号の各種時系列デ
ータの時間方向のマッチングをとり、タイミング一致点
を検出することによってタイミング位相差を出力する時
間方向マッチング回路10とを有してなる。
That is, as shown in FIG. 1, the image timing coincidence detecting apparatus of the present embodiment detects the first image signal supplied from the input terminal 1a and the second image signal supplied from the input terminal 1b. An average brightness value calculation circuit 2 for calculating an average brightness value m of a signal, a time series value storage unit 3 for holding time series data of the average brightness value m for a fixed time, a signal of the first image and the first image. 2, a standard deviation calculating circuit 4 for calculating the standard deviation σ of the signal of the image, a time series value storage unit 5 for holding the time series data of the standard deviation σ for a certain time, the signal of the first image and the above Interframe difference Δ of the signal of the second image
Of the inter-frame difference calculation circuit 6, a time-series value storage unit 7 that holds time-series data of the inter-frame difference Δ for a certain period of time, a signal of the first image and a signal of the second image. A motion vector calculation circuit 8 for calculating a motion vector v, a time-series value storage unit 9 that holds time-series data of the motion vector v for a certain time, the time-series value storage unit 3,
By matching the various time series data of the signal of the first image and the various time series data of the signal of the second image, which are supplied from 5, 7, and 9 in the time direction, and detecting the timing coincidence point. And a time direction matching circuit 10 that outputs a timing phase difference.

【0022】ここで、入力端子1aから供給される第1
の画像の信号と、入力端子1bから供給される第2の画
像の信号を得るための方法を図2に示す。
The first terminal supplied from the input terminal 1a
FIG. 2 shows a method for obtaining the signal of the image and the signal of the second image supplied from the input terminal 1b.

【0023】一方の画像撮像装置11は、ハーフミラー
15を透過した被写体16の画像を撮像し、他方の画像
撮像装置12は、ハーフミラー15に反射された被写体
16の画像を撮像する。すなわち、物理的に1本の光軸
上に2つの画像撮像装置11及び12を配置することが
できないので、ハーフミラー15で分光して同一の画像
を得るようにしている。
The image pickup device 11 on one side picks up an image of the subject 16 transmitted through the half mirror 15, and the other image pickup device 12 picks up an image of the subject 16 reflected on the half mirror 15. That is, since it is not possible to physically arrange the two image pickup devices 11 and 12 on one optical axis, the same image is obtained by splitting with the half mirror 15.

【0024】ここで、一方の画像撮像装置11は、例え
ば第1の画素数からなる第1の撮像素子を備えて第1の
画像を出力する。また、画像撮像装置12は、例えば第
2の画素数からなる第2の撮像素子を備えて第2の画像
を出力する。ここでは、具体的に上記第1の画像とし
て、標準テレビジョン方式の一つである例えばNTSC
方式の525本からなる画像を低解像度画像(以下、S
D(標準解像度)画像という)、上記第2の画像とし
て、高精細度方式である例えば1125本からなる高解
像度画像(以下、HD(高精細度)画像という)を扱う
場合を例に挙げる。
Here, the one image pickup device 11 is provided with a first image pickup device having a first pixel number, for example, and outputs a first image. Further, the image pickup device 12 includes a second image pickup device having a second number of pixels, for example, and outputs a second image. Here, specifically, the first image is one of the standard television systems, for example, NTSC.
The low resolution image (hereinafter, S
As an example, a case of handling a high-resolution image (hereinafter referred to as an HD (high-definition) image), which is a high-definition method, for example, 1125 lines, is used as the second image.

【0025】第1の撮像素子又は第2の撮像素子を備え
てそれぞれ撮像された画像は、上記画像撮像装置11又
は12の記録部にそれぞれ記録される。ここで、画像撮
像装置11及び12の構成を図3を参照しながら説明し
ておく。
The images respectively captured by the first image pickup device or the second image pickup device are recorded in the recording section of the image pickup device 11 or 12, respectively. Here, the configurations of the image pickup devices 11 and 12 will be described with reference to FIG.

【0026】画像撮像装置11は、上記被写体を撮像す
る第1の画素数からなる第1の撮像素子部11aと、該
第1の撮像素子部11aで撮像した第1の画像に相当す
るSD画像を蓄積するSD画像蓄積部11bと、後述す
るマーカ位置判定部14から供給される制御信号に応じ
て例えば物理的位置、角度、ズーム率等を調整するカメ
ラ調整部11cとで構成される。
The image pickup device 11 includes a first image pickup device section 11a having a first number of pixels for picking up the subject, and an SD image corresponding to the first image taken by the first image pickup device section 11a. The SD image storage unit 11b that stores the image and a camera adjustment unit 11c that adjusts, for example, a physical position, an angle, a zoom ratio, and the like according to a control signal supplied from a marker position determination unit 14 described later.

【0027】また、画像撮像装置12は、上記被写体を
撮像する第2の画素数からなる第2の撮像素子部12a
と、該第2の撮像素子部12aで撮像した第2の画像に
相当するHD画像を蓄積するHD画像蓄積部12bと、
マーカ位置判定部14から供給される制御信号に応じて
カメラの調整を行うカメラ調整部12cとで構成され
る。
The image pickup device 12 has a second image pickup device section 12a having a second number of pixels for picking up the image of the subject.
And an HD image storage unit 12b that stores an HD image corresponding to the second image captured by the second image sensor unit 12a,
A camera adjustment unit 12c that adjusts the camera according to the control signal supplied from the marker position determination unit 14.

【0028】画像撮像装置11、12で撮影されたSD
画像とHD画像は、それぞれSD画像蓄積部11bとH
D画像蓄積部12bとを介してマーカ検出部13に入力
される。マーカ検出部13は、同一被写体に対するSD
画像とHD画像の画像データから、基準の画素位置を示
すマーカを検出する。このマーカは被写体撮影時に一緒
に記録される。マーカ検出部13で検出されたマーカ
は、マーカ位置判定部14に供給される。このマーカ位
置判定部14は、マーカ検出部13の検出結果を基にマ
ーカ位置判定を行う。
SD photographed by the image pickup devices 11 and 12
The image and the HD image are the SD image storage unit 11b and the H image, respectively.
It is input to the marker detection unit 13 via the D image storage unit 12b. The marker detection unit 13 uses the SD for the same subject.
A marker indicating the reference pixel position is detected from the image data of the image and the HD image. This marker is recorded together when the subject is photographed. The marker detected by the marker detection unit 13 is supplied to the marker position determination unit 14. The marker position determination unit 14 determines the marker position based on the detection result of the marker detection unit 13.

【0029】このようにしてマーカ位置を判定するの
は、画像の特徴量を求めるときの対象領域は、画像のフ
ォーマットが異なる場合、例えば一方がSD信号で他方
がHD信号の場合、1フレーム/1フィールド全体を対
象とすると画像内容が異なってしまうためである。
In this way, the marker position is determined in such a manner that the target area when the image feature amount is obtained has different image formats, for example, if one is an SD signal and the other is an HD signal, one frame / This is because the image content will be different if the entire one field is targeted.

【0030】ここで、マーカについて図4及び図5を参
照しながら説明しておく。
The marker will be described below with reference to FIGS. 4 and 5.

【0031】マーカは、例えば図4に示すようなマーカ
領域20に白地に黒線が十字に入ったものを用いてい
る。このマーカを図5の(a)及び(b)に示すよう
に、被写体位置上で水平方向、垂直方向の4箇所M1、
M2、M3及びM4に付け、該マーカM1、M2、M3
及びM4を含んだ画像をそれぞれ撮影する。各マーカは
被写体の上の画枠21内に配される。マーカM1、M2
が同一の高さで水平方向に、マーカM3、M4が、同じ
列に、すなわち垂直方向にそれぞれ配されている。
As the marker, for example, a marker area 20 as shown in FIG. 4 in which a black line crosses a white background is used. As shown in (a) and (b) of FIG. 5, this marker is set at four locations M1 in the horizontal and vertical directions on the subject position.
Attached to M2, M3 and M4, the markers M1, M2 and M3
And images including M4 are captured. Each marker is arranged in the image frame 21 above the subject. Markers M1 and M2
Are arranged at the same height in the horizontal direction, and the markers M3 and M4 are arranged in the same column, that is, in the vertical direction.

【0032】HD画像では、例えば図5(a)に示すよ
うに、水平方向のマーカM1、M2の交点間がw1、垂
直方向のマーカM3、M4の交点間がh1と設定されて
いる。また、SD画像では、例えば図5の(b)に示す
ように、水平方向のマーカM1、M2の交点間がw2、
垂直方向のマーカM3、M4の交点間がh2というよう
に、上記HD画像とは画角フォーマットが異なるため異
なる位置に設定されることになる。
In the HD image, for example, as shown in FIG. 5A, w1 is set between the intersections of the horizontal markers M1 and M2, and h1 is set between the intersections of the vertical markers M3 and M4. Further, in the SD image, for example, as shown in FIG. 5B, the distance between the intersections of the horizontal markers M1 and M2 is w2,
The distance between the intersections of the vertical markers M3 and M4 is h2, and the angle of view format is different from that of the HD image, so that the positions are set to different positions.

【0033】このようにして、マーカを含み、水平方向
にあるマーカの水平性と、垂直方向にあるマーカの垂直
性がとれるように、同一被写体16をそれぞれ撮像す
る。十字マーカの交差点を検出し、その座標から有効領
域を抽出すれば、2つの画像は同じ画像となるのであ
る。
In this way, the same subject 16 is imaged so that the horizontality of the marker including the marker in the horizontal direction and the verticality of the marker in the vertical direction can be obtained. If the intersection of the cross marker is detected and the effective area is extracted from the coordinates, the two images become the same image.

【0034】このようにマーカを用いて画像撮像装置1
1又は12が同一被写体16を撮像して得た上記第1の
画像信号と上記第2の画像信号は、入力端子1a、1b
から本実施例の画像のタイミング一致検出装置に供給さ
れる。
As described above, the image pickup apparatus 1 is used by using the marker.
The first image signal and the second image signal obtained by imaging the same subject 16 by 1 or 12 are input terminals 1a, 1b.
Is supplied to the image timing coincidence detection apparatus of this embodiment.

【0035】平均輝度値算出回路2は、上記第1の画像
信号であるSD画像信号の平均輝度値mSと上記第2の
画像信号であるHD画像信号の平均輝度値mHを算出す
る。SD画像信号の有効領域の画素数をNSとすると、
上記平均輝度値mSは、
The average luminance value calculation circuit 2 calculates the average luminance value m S of the SD image signal which is the first image signal and the average luminance value m H of the HD image signal which is the second image signal. If the number of pixels in the effective area of the SD image signal is N S ,
The average brightness value m S is

【0036】[0036]

【数1】 [Equation 1]

【0037】となる。ここで、YSiはSD画像信号の有
効領域画素数NS内のi番目の輝度値であり、以下でも
同じである。
[0037] Here, Y Si is the i-th luminance value within the number of effective area pixels N S of the SD image signal, and is the same in the following.

【0038】また、HD画像信号の有効領域の画素数を
Hとすると上記平均輝度値mHは、
When the number of pixels in the effective area of the HD image signal is N H , the average luminance value m H is

【0039】[0039]

【数2】 [Equation 2]

【0040】となる。ここで、YHiはHD画像信号の有
効領域画素数NH内のi番目の輝度値であり、以下でも
同じである。
It becomes Here, Y Hi is the i-th luminance value within the number N H of effective area pixels of the HD image signal, and is the same in the following.

【0041】この平均輝度値算出回路2で算出された平
均輝度値mS及びmHは、時系列値記憶部3に供給され、
該時系列値記憶部3にて一定時間分の時系列データとし
て保有される。
The average luminance values m S and m H calculated by the average luminance value calculation circuit 2 are supplied to the time series value storage unit 3,
The time-series value storage unit 3 holds the time-series data for a fixed time.

【0042】標準偏差算出回路4は、上記SD画像信号
の標準偏差σSと上記HD画像信号の標準偏差σHを算出
する。SD画像信号の有効領域の画素数をNSとする
と、上記標準偏差σSは、
The standard deviation calculating circuit 4 calculates the standard deviation σ S of the SD image signal and the standard deviation σ H of the HD image signal. When the number of pixels in the effective area of the SD image signal is N S , the standard deviation σ S is

【0043】[0043]

【数3】 [Equation 3]

【0044】となる。It becomes

【0045】同様に、HD画像信号の有効領域の画素数
をNHとすると、上記標準偏差σHは、
Similarly, when the number of pixels in the effective area of the HD image signal is N H , the standard deviation σ H is

【0046】[0046]

【数4】 [Equation 4]

【0047】となる。It becomes

【0048】この標準偏差算出回路4で算出された標準
偏差σS及びσHは、時系列値記憶部5に供給され、該時
系列値記憶部5にて一致時間分の時系列データとして保
有される。
The standard deviations σ S and σ H calculated by the standard deviation calculating circuit 4 are supplied to the time-series value storage unit 5 and stored in the time-series value storage unit 5 as time-series data for the matching time. To be done.

【0049】フレーム間差分算出回路6は、上記SD画
像信号のフレーム間差分ΔSと上記HD画像信号のフレ
ーム間差分ΔHを算出する。SD画像信号の有効領域の
画素数をNSとすると、上記フレーム間差分ΔSは、
The interframe difference calculation circuit 6 calculates the interframe difference Δ S of the SD image signal and the inter frame difference Δ H of the HD image signal. Assuming that the number of pixels in the effective area of the SD image signal is N S , the inter-frame difference Δ S is

【0050】[0050]

【数5】 [Equation 5]

【0051】となる。ここで、YSi (t)は、SD画像信
号のtフレームのi番目の輝度値を表し、Y
Si (t-1)は、SD画像信号の(t−1)フレームのi番
目の輝度値を表している。
It becomes Here, Y Si (t) represents the i-th luminance value of the t frame of the SD image signal, and
Si (t-1) represents the i-th luminance value of the (t-1) frame of the SD image signal.

【0052】同様に、HD画像信号の有効領域の画素数
をNHとすると、上記フレーム間差分ΔHは、
Similarly, assuming that the number of pixels in the effective area of the HD image signal is N H , the inter-frame difference Δ H is

【0053】[0053]

【数6】 [Equation 6]

【0054】となる。ここで、YHi (t)は、HD画像信
号のtフレームのi番目の輝度値を表し、Y
Hi (t-1)は、HD画像信号の(t−1)フレームのi番
目の輝度値を表している。
It becomes Here, Y Hi (t) represents the i-th luminance value of the t frame of the HD image signal, and
Hi (t-1) represents the i-th luminance value of the (t-1) frame of the HD image signal.

【0055】このフレーム間差分算出回路6で算出され
たフレーム間差分ΔS及びΔHは、時系列値記憶部7に供
給され、該時系列値記憶部7にて一定時間分の時系列デ
ータとして保有される。
The inter-frame differences Δ S and Δ H calculated by the inter-frame difference calculation circuit 6 are supplied to the time-series value storage unit 7, and the time-series value storage unit 7 stores the time-series data for a fixed time. Is held as.

【0056】動きベクトル算出回路8は、上記SD画像
信号の動きベクトル(vSx、vSy)と、上記HD画像信
号の動きベクトル(vHx、vHy)を算出する。これらの
動きベクトルは、ブロックマッチング法のフルサーチで
求めるものとする。
The motion vector calculation circuit 8 calculates the motion vector (v Sx , v Sy ) of the SD image signal and the motion vector (v Hx , v Hy ) of the HD image signal. These motion vectors are obtained by full search of the block matching method.

【0057】この動きベクトル算出回路8で算出された
動きベクトル(vSx、vSy)及び(vHx、vHy)は、時
系列値記憶部9に供給され、該時系列値記憶部9にて一
定時間分の時系列データとして保有される。
The motion vectors (v Sx , v Sy ) and (v Hx , v Hy ) calculated by the motion vector calculation circuit 8 are supplied to the time series value storage unit 9 and are stored in the time series value storage unit 9. Are stored as time series data for a certain time.

【0058】時間方向マッチング回路10は、上記時系
列値記憶部3、5、7及び9にて保有している各種特徴
量の時系列データを用いて、マッチングによるタイミン
グ一致検出を行う。この時間方向マッチング回路10の
タイミング一致検出処理を図6のフローチャートを参照
しながら説明する。
The time-direction matching circuit 10 uses the time-series data of various characteristic amounts held in the time-series value storage units 3, 5, 7, and 9 to perform timing coincidence detection by matching. The timing coincidence detection processing of the time direction matching circuit 10 will be described with reference to the flowchart of FIG.

【0059】先ず、ステップS1では、時系列値記憶部
3、5、7及び9に記憶された各特徴量の時系列データ
から時系列変動を算出する。例えば、SD画像信号の時
系列変動は、図7の(A)に示すようになる。また、例
えば、HD画像信号の時系列変動は、図7の(B)に示
すようになる。
First, in step S1, time series fluctuations are calculated from the time series data of each feature quantity stored in the time series value storage units 3, 5, 7 and 9. For example, the time-series fluctuation of the SD image signal is as shown in FIG. Further, for example, the time-series fluctuation of the HD image signal is as shown in FIG.

【0060】次に、ステップS2では、図7の(A)に
示したようなSD画像信号の時系列変動における一定の
時間幅T内のある時間分のデータ列を対象データ列とし
て設定し、図7の(B)に示したようなHD画像信号の
時系列変動における時間幅T内で上記対象データ列より
も多くデータをとるような範囲を探索範囲SHとして設
定し、上記探索範囲SHから上記対象データ列と同数の
データ列を参照する。
Next, in step S2, a data string for a certain time within a constant time width T in the time series variation of the SD image signal as shown in FIG. 7A is set as a target data string, A range in which more data than the target data string is taken within the time width T in the time series variation of the HD image signal as shown in FIG. 7B is set as the search range S H , and the search range S From H , reference the same number of data strings as the target data string.

【0061】ステップS3では、探索範囲SH内で上記
対象データ列と同数のデータ列の探索が終了したか否か
を判定する。ここでの探索に対しては、その都度ステッ
プS4及びステップS5に示す処理が行われ、最適位置
が決定されていく。そして、最終的に探索が終了する
と、ステップS6に進んでタイミング一致画像を出力す
る。
In step S3, it is determined whether or not the search for the same number of data strings as the target data string has been completed within the search range S H. For the search here, the processing shown in steps S4 and S5 is performed each time, and the optimum position is determined. Then, when the search is finally ended, the process proceeds to step S6 to output the timing matching image.

【0062】ステップS3で探索が終了していないとさ
れると、ステップS4に進んで相関係数による評価が行
われる。
If it is determined that the search is not completed in step S3, the process proceeds to step S4, and the evaluation by the correlation coefficient is performed.

【0063】例えば、上記(1)及び(2)式で示した
平均輝度値mS及びmHが、図7の(A)及び(B)に示
したようにレベルD1及びD2の高さを除けば、その波形
がほぼ同じである場合、その波形の形状のみを比較する
だけでマッチングをとることができる。これは、標準偏
差σ、フレーム間差分Δについても同様である。しか
し、上記平均輝度m、標準偏差σ、フレーム間差分Δが
図8の(A)及び(B)に示すように、時間と共にそれ
ぞれ変化する場合には、SD画像信号とHD画像信号の
特性の違いからそのマッチングをとるのが難しくなる。
そこで、本実施例では、各特徴量を正規化して評価を行
う。正規化を行える評価関数として、ステップS4では
相関係数を用いている。この評価関数NCCF(i)
は、
For example, the average luminance values m S and m H shown in the above equations (1) and (2) are higher than the levels D 1 and D 2 as shown in (A) and (B) of FIG. Otherwise, if the waveforms are almost the same, then matching can be achieved by only comparing the shapes of the waveforms. The same applies to the standard deviation σ and the interframe difference Δ. However, when the average luminance m, the standard deviation σ, and the inter-frame difference Δ change with time as shown in FIGS. 8A and 8B, the characteristics of the SD image signal and the HD image signal The difference makes it difficult to match.
Therefore, in this embodiment, each feature amount is normalized and evaluated. As an evaluation function that can be normalized, a correlation coefficient is used in step S4. This evaluation function NCCF (i)
Is

【0064】[0064]

【数7】 [Equation 7]

【0065】となる。ここで、Nは有効領域の画素数を
表す。また、XSはSD画像信号の平均輝度値mS、標準
偏差σS、フレーム間差分ΔSを、XHはHD画像信号の
平均輝度値mH、標準偏差σH、フレーム間差分ΔHを表
している。したがって、(7)式に示す評価関数NCC
F(i)は、平均値、標準偏差、フレーム間差分の特徴
量について適用される。
It becomes Here, N represents the number of pixels in the effective area. Further, X S is the average luminance value m S of the SD image signal, a standard deviation sigma S, the difference delta S between frames, X H is the average luminance value m H of the HD image signal, a standard deviation sigma H, frame difference delta H Is represented. Therefore, the evaluation function NCC shown in equation (7)
F (i) is applied to the average value, standard deviation, and feature amount of inter-frame difference.

【0066】なお、動きベクトルの評価には、別の評価
関数が必要とされる。動きベクトルの正規化は、それぞ
れの有効領域の水平、垂直画素数の比で行われる。すな
わち、この評価関数VNRMは、
Note that another evaluation function is required to evaluate the motion vector. The motion vector normalization is performed by the ratio of the number of horizontal and vertical pixels of each effective area. That is, this evaluation function VNRM is

【0067】[0067]

【数8】 [Equation 8]

【0068】となる。ここで、Mは有効領域の水平、垂
直画素数の比である。また、vx (t)はSD画像信号又は
HD画像信号のtフレームにおけるx方向の動きベクト
ルを表し、vx (t-1)はSD画像信号又はHD画像信号の
(tー1)フレームにおけるx方向の動きベクトルを表
す。また、vy (t)はSD画像信号又はHD画像信号のt
フレームにおけるy方向の動きベクトルを表し、vy
(t-1)はSD画像信号又はHD画像信号の(tー1)フ
レームにおけるy方向の動きベクトルを表す。
It becomes Here, M is the ratio of the number of horizontal and vertical pixels in the effective area. Further, v x (t) represents a motion vector in the x direction in the t frame of the SD image signal or the HD image signal, and v x (t-1) in the (t-1) frame of the SD image signal or the HD image signal. It represents a motion vector in the x direction. Further, v y (t) is t of the SD image signal or the HD image signal
Represents the motion vector in the y direction in the frame, v y
(t-1) represents the y-direction motion vector in the (t-1) frame of the SD image signal or the HD image signal.

【0069】そして、タイミング一致検出の精度を向上
させるため、上記特徴量、すなわち平均輝度値m、標準
偏差σ、フレーム間差分Δ及び動きベクトルvの総合的
な判定を行う。上記平均輝度値m、標準偏差σ、フレー
ム間差分Δの評価値は、最大値が1であり、1に近い程
最適解となる。例えば、上記平均輝度値m、標準偏差
σ、フレーム間差分Δの評価値が図8の(A)に示すよ
うな場合、評価値は1に近づくので相関があるという。
一方、図8の(B)に示すような場合には、評価値は1
から遠ざかるので、相関がないという。一方、動きベク
トルvは評価値が小さい程最適となる。このため、図9
の(A)と図9の(B)の間では、SD画像信号とHD
画像信号の動きベクトルvの評価値が小さくなり、マッ
チングしていると判定する。一方、図10の(A)と図
10の(B)の間では、SD画像信号とHD画像信号の
動きベクトルvの評価値が大きくなり、マッチングして
いないと判定する。例えば、図9の(A)のSD画像信
号の一つの画素の動きベクトルが(2、3)であり、こ
の画素に対応するHD画像信号の図9の(B)の画素の
動きベクトルも(2、3)であれば、上記(8)式のV
NRMは0となる。一方、図10の(A)のSD画像信
号の一つの画素の動きベクトルが(1、2)であり、こ
の画素に対応するHD画像の画素の動きベクトルは
(0、0)であり、全く対応しないHD画像の画素の動
きベクトルが(−1、−2)であるときには、VNRM
は10となってしまう。
Then, in order to improve the accuracy of the timing coincidence detection, the above-mentioned characteristic amounts, that is, the average luminance value m, the standard deviation σ, the interframe difference Δ and the motion vector v are comprehensively determined. The evaluation values of the average brightness value m, the standard deviation σ, and the interframe difference Δ have a maximum value of 1, and the closer to 1, the more optimal the solution. For example, when the evaluation values of the average brightness value m, the standard deviation σ, and the inter-frame difference Δ are as shown in FIG. 8A, the evaluation value approaches 1 and is said to be correlated.
On the other hand, in the case as shown in FIG. 8B, the evaluation value is 1
It is said that there is no correlation because it moves away from On the other hand, the motion vector v becomes optimal as the evaluation value is smaller. Therefore, in FIG.
Between (A) of FIG. 9 and (B) of FIG.
The evaluation value of the motion vector v of the image signal becomes smaller, and it is determined that the two match. On the other hand, between (A) of FIG. 10 and (B) of FIG. 10, the evaluation value of the motion vector v of the SD image signal and the HD image signal becomes large, and it is determined that they do not match. For example, the motion vector of one pixel of the SD image signal of FIG. 9A is (2, 3), and the motion vector of the pixel of FIG. 9B of the HD image signal corresponding to this pixel is also ( If 2, 3), then V in the above equation (8)
The NRM becomes 0. On the other hand, the motion vector of one pixel of the SD image signal of FIG. 10A is (1, 2), the motion vector of the pixel of the HD image corresponding to this pixel is (0, 0), and When the motion vector of the pixel of the unsupported HD image is (-1, -2), VNRM
Becomes 10.

【0070】ここで、行われる上記特徴量、すなわち平
均輝度値m、標準偏差σ、フレーム間差分Δ及び動きベ
クトルvの総合的な判定は、動きベクトルvと他の特徴
量との正規化を必要とする。
Here, the above-described feature amount, that is, the average luminance value m, the standard deviation σ, the inter-frame difference Δ, and the motion vector v are comprehensively determined by normalizing the motion vector v and other feature amounts. I need.

【0071】平均輝度値m、標準偏差σ、フレーム間差
分Δ及び動きベクトルvの評価値をそれぞれ、Em
S、Ef及びEvとすると、総合評価値ESTMは、
The average brightness value m, the standard deviation σ, the interframe difference Δ, and the evaluation value of the motion vector v are respectively E m ,
If E S , E f and E v , then the overall evaluation value ESTM is

【0072】[0072]

【数9】 [Equation 9]

【0073】となる。ただし、Ev(MIN)は出現し
たEvの中の最小値で評価する。
It becomes However, E v (MIN) is evaluated by the minimum value in the appearing E v .

【0074】そして、ステップS5に進み、最適位置を
決定し、ステップS3の探索終了がYESと判断される
まで、ステップS3からステップS5が繰り返される。
Then, the process proceeds to step S5, the optimum position is determined, and steps S3 to S5 are repeated until it is determined that the search end in step S3 is YES.

【0075】ステップS3の探索終了判断がYESとな
ると、ステップS6に進み、上記(9)式が最大となる
位置がタイミング一致の開始点となるように画像記録装
置12が探索範囲SH内でHD画像データを読み出し、
タイミングが一致した画像が出力される。
If the search end judgment in step S3 is YES, the process proceeds to step S6, in which the image recording device 12 is set within the search range S H so that the position where the above expression (9) becomes maximum becomes the start point of the timing coincidence. Read out HD image data,
Images with the same timing are output.

【0076】以上より、本実施例の画像のタイミング一
致検出装置は、入力系統の異なる画像撮像装置で撮像し
たSD画像とHD画像において、タイムコードによるタ
イミング合わせが行えない場合、画像の特徴量を抽出
し、その時間変動を時系列データとして保有し、互いの
時系列データのマッチングをとることでタイミングの合
った位置を検出することができる。
As described above, the image timing coincidence detecting apparatus of the present embodiment determines the characteristic amount of an image when the SD image and the HD image captured by the image capturing apparatus having different input systems cannot be time-matched by the time code. It is possible to detect a timed position by extracting and holding the time variation as time series data and matching the time series data with each other.

【0077】なお、本発明は、画像フォーマットが一致
している必要はないが、フォーマットが異なる場合、フ
ィールド周波数が異なる場合もあるので、短時間の一定
時間内ではフィールド周波数はほとんど同じであるとい
う仮定に基づいている。
In the present invention, the image formats do not have to match, but the field frequencies may be different when the formats are different. Therefore, the field frequencies are almost the same within a short period of time. It is based on assumptions.

【0078】[0078]

【発明の効果】本発明に係る画像のタイミング一致検出
方法は、第1の画素数からなる第1の撮像素子が出力す
る第1の画像と第2の画素数からなる第2の撮像素子が
出力する第2の画像との時間方向の一致を検出する画像
のタイミング一致検出方法において、上記第1の画像と
上記第2の画像の単位画像における平均値、標準偏差、
時間差分、動き量の内の少なくとも1つの情報を用い
て、上記画像間の時間方向のタイミングの一致を検出す
るので、タイムコードの記録を不要としながらも、複数
の画像撮像装置を用いて撮像した画像の時間方向のタイ
ミングの一致を検出できる。
According to the image timing coincidence detecting method of the present invention, the first image output by the first image sensor having the first number of pixels and the second image sensor having the second number of pixels are output. An image timing coincidence detecting method for detecting coincidence in time direction with a second image to be output, comprising: an average value, a standard deviation of unit images of the first image and the second image,
Since at least one of the time difference and the amount of motion is used to detect the coincidence of the timings in the time direction between the images, it is possible to perform imaging using a plurality of image capturing devices while eliminating the time code recording. It is possible to detect the coincidence of the timing in the time direction of the captured image.

【0079】また、本発明に係る画像のタイミング一致
検出方法は、第1の画素数からなる第1の撮像素子が出
力する第1の画像と第2の画素数からなる第2の撮像素
子が出力する第2の画像との時間方向の一致を検出する
画像のタイミング一致検出方法において、上記第1の画
像と上記第2の画像の単位画像における平均値、標準偏
差、時間差分、動き量の時系列変化値に相関係数を用い
た評価を施すと共に、該評価値を総合的に判断して上記
画像間の時間方向のタイミングの一致を検出するので、
タイムコードの記録を不要としながらも、画像の時間方
向のタイミングの一致を検出できる。
Further, in the image timing coincidence detection method according to the present invention, the first image output by the first image sensor having the first number of pixels and the second image sensor having the second number of pixels are output. An image timing coincidence detecting method for detecting coincidence in time direction with a second image to be output, comprising: an average value, a standard deviation, a time difference, and a motion amount of a unit image of the first image and the second image. Since the evaluation using the correlation coefficient for the time-series change value is performed, and the coincidence of the timing in the time direction between the images is detected by comprehensively judging the evaluation value,
It is possible to detect the coincidence of the timings of the images in the time direction without the need to record the time code.

【0080】また、本発明に係る画像のタイミング一致
検出装置は、第1の画素数からなる第1の撮像素子が出
力する第1の画像と第2の画素数からなる第2の撮像素
子が出力する第2の画像との時間方向の一致を検出する
画像のタイミング一致検出装置において、上記第1の画
像と上記第2の画像の単位画像における平均値、標準偏
差、時間差分、動き量の時系列変化値に相関係数を用い
た評価を施すと共に、該評価値を総合的に判断して上記
画像間の時間方向のタイミングの一致を検出するので、
タイムコードの記録を不要としながらも、画像の時間方
向のタイミングの一致を検出できる。
Further, in the image timing coincidence detecting apparatus according to the present invention, the first image output by the first image sensor having the first number of pixels and the second image sensor having the second number of pixels are provided. In an image timing coincidence detection apparatus for detecting coincidence in time direction with a second image to be output, an average value, a standard deviation, a time difference, and a motion amount of a unit image of the first image and the second image are detected. Since the evaluation using the correlation coefficient for the time-series change value is performed, and the coincidence of the timing in the time direction between the images is detected by comprehensively judging the evaluation value,
It is possible to detect the coincidence of the timings of the images in the time direction without the need to record the time code.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明の実施例の画像のタイミング一致検出装
置の概略構成を示すブロック図である。
FIG. 1 is a block diagram showing a schematic configuration of an image timing coincidence detection apparatus according to an exemplary embodiment of the present invention.

【図2】本実施例の画像のタイミング一致検出装置に画
像を供給する2つの画像撮像装置の配置図である。
FIG. 2 is a layout diagram of two image pickup devices that supply images to the image timing coincidence detection device according to the present exemplary embodiment.

【図3】本実施例の画像のタイミング一致検出装置に画
像を供給する2つの画像撮像装置の構成図である。
FIG. 3 is a configuration diagram of two image pickup devices that supply images to the image timing coincidence detection device according to the present exemplary embodiment.

【図4】図3に示した2つの画像撮像装置が被写体を撮
像するときに、用いるマーカの模式図である。
FIG. 4 is a schematic diagram of a marker used when the two image capturing devices shown in FIG. 3 capture an image of a subject.

【図5】マーカを用いての対象領域設定を説明をするた
めの図である。
FIG. 5 is a diagram for explaining setting of a target area using a marker.

【図6】図1に示した本実施例の画像のタイミング一致
検出装置の時間方向マッチング回路の処理を示すフロー
チャートである。
FIG. 6 is a flowchart showing processing of a time direction matching circuit of the image timing coincidence detection apparatus of the present exemplary embodiment shown in FIG.

【図7】SD画像信号及びHD画像信号の時系列変動を
示す図である。
FIG. 7 is a diagram showing time-series fluctuations of an SD image signal and an HD image signal.

【図8】SD及びHD画像の特徴量である平均輝度、標
準偏差及びフレーム間差分の時間特性を示す図である。
FIG. 8 is a diagram showing time characteristics of average luminance, standard deviation, and inter-frame difference, which are characteristic amounts of SD and HD images.

【図9】特徴量の一つである動きベクトルの評価値が小
さい場合を説明するための図である。
FIG. 9 is a diagram for explaining a case where an evaluation value of a motion vector, which is one of the feature quantities, is small.

【図10】特徴量の一つである動きベクトルの評価値が
大きい場合を説明するための図である。
FIG. 10 is a diagram for explaining a case where the evaluation value of a motion vector, which is one of the feature quantities, is large.

【符号の説明】[Explanation of symbols]

2 平均輝度算出回路 4 標準偏差算出回路 6 フレーム間差分算出回路 8 動きベクトル算出回路 3、5、7、9 時系列値記憶部 10 時間方向マッチング回路 2 Average brightness calculation circuit 4 Standard deviation calculation circuit 6-frame difference calculation circuit 8 Motion vector calculation circuit 3, 5, 7, 9 time series value storage 10 hour direction matching circuit

───────────────────────────────────────────────────── フロントページの続き (58)調査した分野(Int.Cl.7,DB名) H04N 5/232 ─────────────────────────────────────────────────── ─── Continuation of front page (58) Fields surveyed (Int.Cl. 7 , DB name) H04N 5/232

Claims (10)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】 第1の画素数からなる第1の撮像素子が
出力する第1の画像と第2の画素数からなる第2の撮像
素子が出力する第2の画像との時間方向の一致を検出す
る画像のタイミング一致検出方法において、 上記第1の画像と上記第2の画像の単位画像における平
均値、標準偏差、時間差分、動き量の内の少なくとも1
つの情報を用いて、上記画像間の時間方向のタイミング
の一致を検出することを特徴とする画像のタイミング一
致検出方法。
1. A coincidence in time direction between a first image output by a first image sensor having a first number of pixels and a second image output by a second image sensor having a second number of pixels. In the image timing coincidence detection method for detecting an image, at least one of an average value, a standard deviation, a time difference, and a motion amount in the unit image of the first image and the second image.
An image timing coincidence detection method, characterized in that the coincidence of the timing in the time direction between the images is detected using two pieces of information.
【請求項2】 上記情報は、上記第1の画像と上記第2
の画像の単位画像における平均値、標準偏差、時間差
分、動き量の時系列変化値の内の少なくとも1つである
ことを特徴とする請求項1記載の画像のタイミング一致
検出方法。
2. The information includes the first image and the second image.
The image timing coincidence detection method according to claim 1, wherein the method is at least one of an average value, a standard deviation, a time difference, and a time-series change value of a motion amount in the unit image.
【請求項3】 上記平均値、標準偏差、時間差分、動き
量の情報には、相関係数を用いた評価が施されることを
特徴とする請求項1記載の画像のタイミング一致検出方
法。
3. The method according to claim 1, wherein the average value, standard deviation, time difference, and motion amount information is evaluated using a correlation coefficient.
【請求項4】 第1の画素数からなる第1の撮像素子が
出力する第1の画像と第2の画素数からなる第2の撮像
素子が出力する第2の画像との時間方向の一致を検出す
る画像のタイミング一致検出方法において、 上記第1の画像と上記第2の画像の単位画像における平
均値、標準偏差、時間差分、動き量の時系列変化値に相
関係数を用いた評価を施すと共に、該評価値を総合的に
判断して上記画像間の時間方向のタイミングの一致を検
出することを特徴とする画像のタイミング一致検出方
法。
4. A time-direction agreement between a first image output by a first image sensor having a first number of pixels and a second image output by a second image sensor having a second number of pixels. In the method for detecting the timing coincidence of images, the evaluation using the correlation coefficient for the time series change value of the average value, standard deviation, time difference, and motion amount in the unit image of the first image and the second image. And detecting the coincidence of the timing in the time direction between the images by comprehensively judging the evaluation value.
【請求項5】 第1の画素数からなる第1の撮像素子が
出力する第1の画像と第2の画素数からなる第2の撮像
素子が出力する第2の画像との時間方向の一致を検出す
る画像のタイミング一致検出装置において、 上記第1の画像と上記第2の画像の単位画像における平
均値、標準偏差、時間差分、動き量の内の少なくとも1
つの情報を用いて、上記画像間の時間方向のタイミング
の一致を検出することを特徴とする画像のタイミング一
致検出装置。
5. A time-direction agreement between a first image output by a first image sensor having a first number of pixels and a second image output by a second image sensor having a second number of pixels. In the image timing coincidence detection apparatus for detecting the image, at least one of the average value, the standard deviation, the time difference, and the motion amount in the unit image of the first image and the second image.
An image timing coincidence detection apparatus, characterized in that the coincidence of the timings in the time direction between the images is detected using two pieces of information.
【請求項6】 上記情報は、上記第1の画像と上記第2
の画像の単位画像における平均値、標準偏差、時間差
分、動き量の時系列変化値の内の少なくとも1つである
ことを特徴とする請求項5記載の画像のタイミング一致
検出装置。
6. The information includes the first image and the second image.
6. The image timing coincidence detection device according to claim 5, wherein the image timing coincidence detection device is at least one of an average value, a standard deviation, a time difference, and a time-series change value of a motion amount in the unit image.
【請求項7】 上記平均値、標準偏差、時間差分、動き
量の情報には、相関係数を用いた評価が施されることを
特徴とする請求項5記載の画像のタイミング一致検出装
置。
7. The image timing coincidence detecting apparatus according to claim 5, wherein the average value, standard deviation, time difference, and motion amount information are evaluated using a correlation coefficient.
【請求項8】 第1の画素数からなる第1の撮像素子が
出力する第1の画像と第2の画素数からなる第2の撮像
素子が出力する第2の画像との時間方向の一致を検出す
る画像のタイミング一致検出装置において、 上記第1の画像と上記第2の画像の単位画像における平
均値、標準偏差、時間差分、動き量の時系列変化値に相
関係数を用いた評価を施すと共に、該評価値を総合的に
判断して上記画像間の時間方向のタイミングの一致を検
出することを特徴とする画像のタイミング一致検出装
置。
8. A time-direction agreement between a first image output by a first image sensor having a first number of pixels and a second image output by a second image sensor having a second number of pixels. In an image timing coincidence detection apparatus for detecting an image, an evaluation using a correlation coefficient for a time series change value of an average value, a standard deviation, a time difference, and a motion amount in a unit image of the first image and the second image. And an image timing coincidence detecting apparatus which detects the coincidence of timings in the time direction between the images by comprehensively judging the evaluation value.
【請求項9】 上記第1及び上記第2の撮像素子は、同
じ被写体を撮像することを特徴とする請求の範囲5又は
8記載の画像のタイミング一致検出装置。
9. The image timing coincidence detection apparatus according to claim 5, wherein the first and second image pickup devices pick up the same subject.
【請求項10】 上記被写体には、基準の画素位置を示
すマーカが付されていることを特徴とする請求項9記載
の画像のタイミング一致検出装置。
10. The image timing coincidence detecting apparatus according to claim 9, wherein the subject is provided with a marker indicating a reference pixel position.
JP20527794A 1994-08-30 1994-08-30 Image timing coincidence detection method and apparatus Expired - Lifetime JP3508225B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP20527794A JP3508225B2 (en) 1994-08-30 1994-08-30 Image timing coincidence detection method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP20527794A JP3508225B2 (en) 1994-08-30 1994-08-30 Image timing coincidence detection method and apparatus

Publications (2)

Publication Number Publication Date
JPH0870401A JPH0870401A (en) 1996-03-12
JP3508225B2 true JP3508225B2 (en) 2004-03-22

Family

ID=16504317

Family Applications (1)

Application Number Title Priority Date Filing Date
JP20527794A Expired - Lifetime JP3508225B2 (en) 1994-08-30 1994-08-30 Image timing coincidence detection method and apparatus

Country Status (1)

Country Link
JP (1) JP3508225B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007275196A (en) * 2006-04-04 2007-10-25 Shimadzu Corp Optical or radiological image displaying device and optical or radiographic imaging apparatus equipped with it
JP5696528B2 (en) * 2011-02-28 2015-04-08 富士通株式会社 Image processing system and image processing apparatus
WO2014208378A1 (en) * 2013-06-28 2014-12-31 ソニー株式会社 Information processing device, information processing method, program, and information processing system

Also Published As

Publication number Publication date
JPH0870401A (en) 1996-03-12

Similar Documents

Publication Publication Date Title
US8189051B2 (en) Moving object detection apparatus and method by using optical flow analysis
JP3279479B2 (en) Video monitoring method and device
US6687386B1 (en) Object tracking method and object tracking apparatus
US8532420B2 (en) Image processing apparatus, image processing method and storage medium storing image processing program
CN107707871B (en) Image processing apparatus, image capturing apparatus, image processing method, and storage medium
EP1085463A2 (en) Positional deviation adjusting apparatus of stereo image
JP3156817B2 (en) Vehicle periphery monitoring device
US7260243B2 (en) Intruding-object detection apparatus
US20100079624A1 (en) Image processing apparatus, image processing method, imaging apparatus
US6434276B2 (en) Image synthesis and communication apparatus
JP5183152B2 (en) Image processing device
JP2940736B2 (en) Image processing apparatus and distortion correction method in the image processing apparatus
JP2003304561A (en) Stereo image processing apparatus
KR100811832B1 (en) Device for calculating actual size of the object in the image captured from single camera and the method thereof
JP5173549B2 (en) Image processing apparatus and imaging apparatus
JPH11150676A (en) Image processor and tracking device
JP2008174028A (en) Target detection system and method
JP3508225B2 (en) Image timing coincidence detection method and apparatus
JP2008026999A (en) Obstacle detection system and obstacle detection method
JP4752319B2 (en) Image recognition apparatus and image recognition method
JP3296675B2 (en) Subject tracking apparatus and subject tracking method
JP2002027449A (en) Method and apparatus for identifying moving object
JPH09145368A (en) Moving and tracing method for object by stereoscopic image
JPH06274788A (en) Number plate reading device
KR100457302B1 (en) Auto tracking and auto zooming method of multi channel by digital image processing

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20031202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20031215

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080109

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090109

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100109

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100109

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110109

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110109

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120109

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130109

Year of fee payment: 9

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term