JP5011226B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP5011226B2
JP5011226B2 JP2008181992A JP2008181992A JP5011226B2 JP 5011226 B2 JP5011226 B2 JP 5011226B2 JP 2008181992 A JP2008181992 A JP 2008181992A JP 2008181992 A JP2008181992 A JP 2008181992A JP 5011226 B2 JP5011226 B2 JP 5011226B2
Authority
JP
Japan
Prior art keywords
moving object
size
moving
moving body
frames
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008181992A
Other languages
Japanese (ja)
Other versions
JP2010021897A (en
JP2010021897A5 (en
Inventor
亮司 荻野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2008181992A priority Critical patent/JP5011226B2/en
Publication of JP2010021897A publication Critical patent/JP2010021897A/en
Publication of JP2010021897A5 publication Critical patent/JP2010021897A5/ja
Application granted granted Critical
Publication of JP5011226B2 publication Critical patent/JP5011226B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、撮像した被写体中の動体を検出し、動体の動きに対応した画像処理を行う撮像装置に関する。   The present invention relates to an imaging apparatus that detects a moving object in an imaged subject and performs image processing corresponding to the movement of the moving object.

カメラの撮像画像の明るさをCPU(Central Processing Unit)で調整する一般的な技術として、撮像画像中の照度を計測する領域を予め指定して、指定領域の照度に基づいて、ゲインの調整やレンズの光量の調整を行うものが知られている。   As a general technique for adjusting the brightness of a captured image of a camera with a CPU (Central Processing Unit), an area for measuring illuminance in the captured image is specified in advance, and gain adjustment or What adjusts the light quantity of a lens is known.

近年では、CPUの高度化も手伝って、撮像された被写体画像を解析することにより利用者が所望する領域を推定して、推定された領域を中心に露出を調整するカメラも登場してきている。このようなカメラはインテリジェントカメラと呼ばれている。具体的な例として、静止画像を撮影するカメラでは、静止撮像画像の中から顔を検出し、顔の領域に露出を合わせるものが知られている。これにより、顔を適切な明るさで撮影することができる。   In recent years, with the advancement of CPUs, cameras have appeared that estimate the area desired by the user by analyzing the captured subject image and adjust the exposure around the estimated area. Such a camera is called an intelligent camera. As a specific example, a camera that captures a still image is known in which a face is detected from a still captured image and exposure is adjusted to the face area. Thereby, it is possible to photograph the face with appropriate brightness.

また、動画像を撮影するカメラでは、暗がりなどにいる不審者を撮影するための監視用カメラとして、動き検出部で現画像の動きの量を検出し、検出結果のうちで最も動きの大きい領域の照度が一定範囲より大きい場合に、当該領域の照度が一定範囲内に収まるように補正するものが知られている(例えば特許文献1参照)。これにより、撮像画像中に不審者などの動体が現れた際に、この動体を適切な明るさで撮影することができる。
特開2001−216583号公報
In addition, in a camera that captures a moving image, as a monitoring camera for capturing a suspicious person in the dark etc., the motion detection unit detects the amount of motion of the current image, and the region with the largest motion among the detection results When the illuminance is larger than a certain range, there is known a technique that corrects the illuminance of the region so that it falls within the certain range (see, for example, Patent Document 1). Thus, when a moving object such as a suspicious person appears in the captured image, the moving object can be photographed with appropriate brightness.
JP 2001-216583 A

しかしながら、特許文献1などの従来の動き検出処理の技術は、動体の誤検出が発生したり、検出された動体の位置および大きさにブレが生じたり、動体の動きが早く移動量が大きい場合や動体が急に動き出す場合に動体を適切に検出できないことがあった。これにより、撮像対象である被写体のシーンによっては、動体の動きがフレーム間で連続せず、動体の動きに連続性がなくなり、ばらつきが生じる場合があった。   However, in the conventional motion detection processing technology such as Patent Document 1, when a moving object is erroneously detected, the position and size of the detected moving object is blurred, or the moving object moves quickly and the amount of movement is large. When a moving object suddenly starts moving, the moving object may not be detected properly. As a result, depending on the scene of the subject to be imaged, the movement of the moving object is not continuous between frames, and the movement of the moving object is not continuous and may vary.

また、このような動体検出処理の結果に基づいて、画像信号の明るさを補正しても、動体の動きの検出結果のばらつきが画像信号の明るさの補正結果にそのまま表れてしまい、画像にチラつきが生じる等、動体の動きが不鮮明な画像になってしまうという問題があった。   Further, even if the brightness of the image signal is corrected based on the result of such moving object detection processing, the variation in the detection result of the motion of the moving object appears as it is in the correction result of the brightness of the image signal. There was a problem that the motion of the moving object became unclear, such as flickering.

本発明は、上記従来の問題を解決するためになされたもので、動体の動きが大きい場合にも、動体を視認しやすい画像を提供することができる撮像装置を提供することを目的とする。   The present invention has been made to solve the above-described conventional problems, and an object of the present invention is to provide an imaging apparatus capable of providing an image in which a moving object can be easily visually recognized even when the moving object moves greatly.

本発明に係る撮像装置は、被写体を撮像して画像信号を生成する撮像素子と、前記被写体中の動体を検出する動体検出部と、前記動体の位置および大きさを調整するフィルタ部と、前記画像信号に対して、調整された前記動体の位置および大きさに対応する領域の明るさを補正する明るさ補正部を備えた構成を有している。
An imaging device according to the present invention includes an imaging device that captures an image of a subject and generates an image signal, a moving body detection unit that detects a moving body in the subject, a filter unit that adjusts the position and size of the moving body, It has a configuration including a brightness correction unit that corrects the brightness of a region corresponding to the adjusted position and size of the moving object with respect to the image signal .

この構成により、調整処理によって求めた補正動体情報にて示される動体の位置および大きさがフレーム間で大幅に変化することを抑えることができる。特に、動体が急に動き出す場合や動体の動きが急に早くなる場合など、動体の動きの変化が大きい場合において、動体の位置および大きさがフレーム間で大きく変化するのを緩やかにして、動体の動きの変化を小さくすることができる。明るさ補正部は、補正動体情報によって示される動体の位置および大きさに対応する補正動体領域の明るさを補正するので、動体の動きが大きい場合にも、動体を視認しやすい画像を提供することができる。   With this configuration, it is possible to suppress a significant change in the position and size of the moving object indicated by the corrected moving object information obtained by the adjustment process between frames. In particular, when the movement of the moving body is large, such as when the moving body suddenly starts moving or the movement of the moving body suddenly increases, the position and size of the moving body will change gradually between frames, and the moving body The change of the movement can be reduced. The brightness correction unit corrects the brightness of the corrected moving object region corresponding to the position and size of the moving object indicated by the corrected moving object information, and thus provides an image in which the moving object can be easily seen even when the moving object is large. be able to.

また、本発明に係る撮像装置において、前記フィルタ部は、前記動体を検出してからのフレーム数に応じて、前記動体の位置および大きさを調整する構成を有している。これにより、フレーム数に応じて調整された位置および大きさにより、明るさ補正部による補正処理が行われるので、動体を検出した直後に動体の明るさが急激に変化するのを抑制できる。
In the imaging device according to the present invention, the filter unit has a configuration that adjusts the position and size of the moving object according to the number of frames after the moving object is detected. Thereby, since the correction process by the brightness correction unit is performed based on the position and size adjusted according to the number of frames, it is possible to suppress a sudden change in brightness of the moving object immediately after the moving object is detected .

また、本発明に係る撮像装置において、前記フィルタ部は、所定時間での前記動体の位置および大きさの変化量を調整し、補正動体情報として出力し、前記明るさ補正部は、前記補正動体情報によって示される動体の位置および大きさに基づいて、前記領域の明るさのレベルを補正する構成を有している。この構成により、調整された補正動体情報に基づいて明るさのレベルを補正するので、動体を明るくしつつ、画像がチラつく現象を抑制できる。
Further, in the imaging apparatus according to the present invention, the filter unit adjusts a change amount of the position and size of the moving object in a predetermined time and outputs it as corrected moving object information, and the brightness correction unit includes the corrected moving object. The brightness level of the area is corrected based on the position and size of the moving object indicated by the information. With this configuration, the brightness level is corrected based on the adjusted corrected moving body information, so that the phenomenon that the image flickers can be suppressed while the moving body is brightened .

また、本発明に係る撮像装置において、前記フィルタ部は、連続する2つのフレームにおける動体の位置および大きさの間にある値を前記補正動体情報として求める構成を有している。これにより、簡単な方法で、動体の位置および大きさがフレーム間で大きく変化することを抑えることができる。
In the imaging device according to the present invention, the filter unit has a configuration for obtaining a value between the position and size of a moving object in two consecutive frames as the corrected moving object information . Thereby, it is possible to suppress a large change in the position and size of the moving body between frames by a simple method.

また、本発明に係る撮像装置において、前記フィルタ部は、連続する第1、第2のフレーム中の前記第1フレームの補正動体情報と前記第2のフレームにおける動体の位置および大きさの間にある値を新たに前記補正動体情報として求める構成を有している。これにより、簡単な方法で、動体の位置および大きさがフレーム間で大きく変化することを抑えることができる。
Further, in the imaging device according to the present invention, the filter section is between the corrected moving body information of the first frame in the continuous first and second frames and the position and size of the moving body in the second frame. A certain value is newly obtained as the corrected moving body information . Thereby, it is possible to suppress a large change in the position and size of the moving body between frames by a simple method .

また、本発明に係る撮像装置において、前記フィルタ部は、連続する2つのフレームにおける動体の位置および大きさに重み付けをした後に前記補正動体情報を求める構成を有している。これにより、フレーム間で調整の度合いを調整することができる。
In the imaging apparatus according to the present invention, the filter unit has a configuration in which the corrected moving body information is obtained after weighting the position and size of the moving body in two consecutive frames . Thereby, the degree of adjustment can be adjusted between frames .

また、本発明に係る撮像装置において、前記明るさ補正部は、前記画像信号に対して、前記領域の周縁部の明るさを補正する構成を有している。このように領域の周縁部を明るくすることにより、動体の動きがより鮮明な画像を得ることができる。
In the imaging device according to the present invention, the brightness correction unit corrects the brightness of the peripheral edge of the region with respect to the image signal. By brightening the peripheral edge of the region in this way, an image with a clearer motion of the moving object can be obtained.

また、本発明に係る撮像装置において、前記明るさ補正部は、前記領域を、前記動体を検出してからのフレーム数に応じた明るさのレベルに補正する構成を有している。これにより、領域の明るさのレベルが徐々に変化するので、動体を検出した直後に動体の明るさが急激に変化するのを抑制できる。
In the imaging apparatus according to the present invention, the brightness correction unit corrects the area to a brightness level corresponding to the number of frames after the moving object is detected . Thereby, since the brightness level of the area gradually changes, it is possible to suppress a sudden change in brightness of the moving object immediately after the moving object is detected.

また、本発明に係る撮像装置は、所定数のフレームに亘って連続して含まれる動体を追跡する動体追跡部を備え、前記フィルタ部は、前記動体追跡部による追跡対象の動体の位置および大きさを調整する構成を有している。この構成により、前後のフレームにて連続しない単発的な動体情報をノイズとして除去し、被写体中の動体を的確に追跡することができる。また、フィルタ部にて、動体追跡部による追跡対象の動体の位置および大きさを調整するので、追跡対象の動体の動きに注目した補正動体情報を得ることができる。
The imaging apparatus according to the present invention further includes a moving object tracking unit that tracks a moving object continuously included over a predetermined number of frames, and the filter unit includes a position and a size of a moving object to be tracked by the moving object tracking unit. It has the structure which adjusts thickness. With this configuration, it is possible to remove single moving body information that is not continuous in the preceding and following frames as noise and accurately track the moving body in the subject. Further, since the filter unit adjusts the position and size of the moving object to be tracked by the moving object tracking unit, it is possible to obtain corrected moving object information focusing on the movement of the moving object to be tracked.

本発明は、フィルタ部にて、動体の位置および大きさのフレーム間での変化量を調整する調整処理を動体情報に対して行い、調整処理がされた動体情報を補正動体情報として出力し、明るさ補正部にて、補正動体情報によって示される動体の位置および大きさに対応する補正動体領域の明るさを補正するので、動体の動きが大きい場合にも、動体を視認しやすい画像を提供することができるというすぐれた効果を有する。   The present invention performs adjustment processing for adjusting the amount of change between frames of the position and size of the moving object on the moving object information in the filter unit, and outputs the adjusted moving object information as corrected moving object information. The brightness correction unit corrects the brightness of the corrected moving object area corresponding to the position and size of the moving object indicated by the corrected moving object information, thus providing an image that makes it easy to visually recognize the moving object even when the moving object moves greatly. It has an excellent effect that can be done.

以下、本発明の実施の形態に係る撮像装置について、図面を用いて説明する。
本発明の実施の形態の撮像装置を示すブロック図を図1に示す。図1において、撮像装置1000は、レンズ部101と、撮像素子102と、カメラ信号処理部103と、動体検出部104と、検出結果蓄積部105と、動体追跡部106と、検出結果フィルタ部107と、明るさ補正処理部108と、画像出力部109とを備えている。
Hereinafter, imaging devices according to embodiments of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram illustrating an imaging apparatus according to an embodiment of the present invention. In FIG. 1, an imaging apparatus 1000 includes a lens unit 101, an imaging element 102, a camera signal processing unit 103, a moving object detection unit 104, a detection result accumulation unit 105, a moving object tracking unit 106, and a detection result filter unit 107. And a brightness correction processing unit 108 and an image output unit 109.

レンズ部101は、被写体の像を集光することにより、被写体の像を撮像素子102に結像する。撮像素子102は、レンズ部101が結像する被写体の像を被写体画像として撮像して、画像信号を生成する。撮像素子102はCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサにより構成される。   The lens unit 101 focuses the subject image to form the subject image on the image sensor 102. The image sensor 102 captures an image of a subject formed by the lens unit 101 as a subject image, and generates an image signal. The image sensor 102 is configured by an image sensor such as a charge coupled device (CCD) or a complementary metal oxide semiconductor (CMOS).

カメラ信号処理部103は、撮像素子102により生成される画像信号に対して、予めプログラムされた所定の画像処理を行う。ここでは、カメラ信号処理部103は、輝度信号および色差信号を算出する。カメラ信号処理部103は、DSP(Digital Signal Processor)などのデバイスにより構成される。   The camera signal processing unit 103 performs predetermined image processing programmed in advance on the image signal generated by the image sensor 102. Here, the camera signal processing unit 103 calculates a luminance signal and a color difference signal. The camera signal processing unit 103 is configured by a device such as a DSP (Digital Signal Processor).

動体検出部104は、カメラ信号処理部103から出力された画像信号を用いて、被写体中の動体をフレーム毎に検出し、この動体の位置(座標)および大きさ(領域のサイズ)等を示す情報を動体情報として検出結果蓄積部105へ出力する。なお、各フレームの動体情報は、メタデータ(Metadata)として扱われる。   The moving object detection unit 104 detects the moving object in the subject for each frame using the image signal output from the camera signal processing unit 103, and indicates the position (coordinates) and size (area size) of the moving object. The information is output to the detection result accumulation unit 105 as moving body information. The moving body information of each frame is handled as metadata.

ここでの動体の検出処理は、撮像画像のうちで、背景となる領域と、移動する動体(人、動物、物などの有体物)の領域とを切り分けることにより、動体を検出する。具体的には、動体検出部104が、前のフレームと現在のフレームとの間の画像信号の差分を算出することで、画像信号を解析して、変化のあった領域を動体の領域としてフレーム毎に検出する。   The moving object detection process here detects a moving object by separating a region serving as a background and a moving object (a tangible object such as a person, an animal, or an object) from a captured image. Specifically, the moving object detection unit 104 calculates the difference between the image signal between the previous frame and the current frame, analyzes the image signal, and sets the changed area as a moving object area. Detect every time.

なお、動体検出の方法は、連続する2つのフレーム間の画像信号の差分検出による方法に限られない。例えば、基準となる背景フレームを予め作成し、現在のフレームとこの背景フレームとの間の画像信号の差分を算出することで、動体を検出してもよい。   Note that the moving object detection method is not limited to the method based on the difference detection of the image signal between two consecutive frames. For example, a moving object may be detected by creating a reference background frame in advance and calculating a difference between image signals between the current frame and the background frame.

検出結果蓄積部105は、動体検出部104の検出結果である動体情報を複数フレームに亘って記憶する。動体追跡部106は、検出結果蓄積部105から複数フレームの動体情報を取得し、この複数フレームの動体情報に基づいて、複数フレーム間の動体の時間的および位置的な相関性を解析することで、動体を追跡する処理を行う。具体的には、動体追跡部106は、複数フレームの動体情報に基づいて、連続する2つのフレームにおける動体が互いに空間的に重なる部分を有する否かを判断する。そして、動体の一部が互いに重なり合う場合、動体追跡部106は、連続する2つのフレームにおいて同一の動体が連続して検出されていると判定する。動体追跡部106は、この判定を複数のフレームについて順次行なうことにより、所定のフレームに亘って連続して含まれる動体を追跡する。   The detection result accumulating unit 105 stores moving object information, which is a detection result of the moving object detecting unit 104, over a plurality of frames. The moving object tracking unit 106 acquires moving body information of a plurality of frames from the detection result accumulation unit 105, and analyzes temporal and positional correlation of moving objects between the plurality of frames based on the moving object information of the plurality of frames. , Process to track moving objects. Specifically, the moving object tracking unit 106 determines whether or not moving objects in two consecutive frames have portions that spatially overlap each other based on moving object information of a plurality of frames. When some of the moving objects overlap each other, the moving object tracking unit 106 determines that the same moving object is continuously detected in two consecutive frames. The moving object tracking unit 106 sequentially performs this determination for a plurality of frames, thereby tracking moving objects included continuously over a predetermined frame.

検出結果フィルタ部107は、動体追跡部106により追跡対象とされた動体の位置および大きさのフレーム間での変化量を調整する調整処理を動体情報に対して行い、この調整処理が行われた動体情報を補正動体情報として出力する。ここでの調整処理は、特に、動体追跡部106により追跡対象とされた動体の位置および大きさがフレーム間で大きく変化することを抑える緩和処理をいう。この検出結果フィルタ部107の詳細については、後述の動作説明にて行う。なお、検出結果フィルタ部107は、動体追跡部106の追跡対象の動体ではなく、動体検出部104により検出された動体に対して、緩和処理を行っても良い。検出結果フィルタ部107は、本発明のフィルタ部に対応する。   The detection result filter unit 107 performs an adjustment process on the moving object information to adjust the amount of change in the position and size of the moving object tracked by the moving object tracking unit 106, and the adjustment process is performed. The moving body information is output as corrected moving body information. The adjustment process here refers to a relaxation process that suppresses a significant change in the position and size of a moving object that is a tracking target by the moving object tracking unit 106 between frames. Details of the detection result filter unit 107 will be described later in the description of operation. Note that the detection result filter unit 107 may perform the mitigation process on the moving object detected by the moving object detection unit 104 instead of the moving object to be tracked by the moving object tracking unit 106. The detection result filter unit 107 corresponds to the filter unit of the present invention.

明るさ補正処理部108は、画像信号に対して、補正動体情報によって示される動体の位置および大きさに対応する補正動体領域の明るさ(例えば輝度や階調)を補正する。この明るさ補正処理部108の詳細についても、後述の動作説明にて行う。なお、明るさ補正処理部108は、本発明の明るさ補正部に対応する。画像出力部109は、明るさ補正処理部108により明るさの補正がなされた画像信号を出力する。   The brightness correction processing unit 108 corrects the brightness (for example, luminance and gradation) of the corrected moving body region corresponding to the position and size of the moving body indicated by the corrected moving body information with respect to the image signal. The details of the brightness correction processing unit 108 will also be described in the operation description described later. The brightness correction processing unit 108 corresponds to the brightness correction unit of the present invention. The image output unit 109 outputs the image signal whose brightness has been corrected by the brightness correction processing unit 108.

次に、本発明の実施の形態における撮像装置1000の動作について、図に基づいて説明する。図2は、撮像装置1000の動作フローを示す図である。
まず、撮像素子102が、レンズ部101により結像された被写体を撮像して、画像信号を生成する(ステップ(STEP:以下、Sと称する)1)。カメラ信号処理部103は、撮像素子102により生成された画像信号に対して、所定の画像処理を行う(S2)。
Next, the operation of the imaging apparatus 1000 according to the embodiment of the present invention will be described based on the drawings. FIG. 2 is a diagram illustrating an operation flow of the imaging apparatus 1000.
First, the image sensor 102 images the subject imaged by the lens unit 101 and generates an image signal (step (STEP: hereinafter referred to as S) 1). The camera signal processing unit 103 performs predetermined image processing on the image signal generated by the image sensor 102 (S2).

次に、動体検出部104が、カメラ信号処理部103で得られる画像信号に基づいて、被写体中の動体をフレーム毎に検出し、この動体の位置および大きさを示す情報をメタデータにして、これを動体情報として出力する(S3)。このとき、動体検出部104は、撮像画像のうちで、背景となる領域と、移動する動体(人、動物、物などの有体物)とを切り分けて、前のフレームと現在のフレームとの間の画像信号の差分を算出することで、画像信号の時間的変化を解析して、変化のあった領域から動体を検出する。そして、動体検出部104は、この動体の位置および大きさを示す動体情報をメタデータにして検出結果蓄積部105へ出力する。検出結果蓄積部105には、複数フレームに亘って、動体情報が記憶される。   Next, the moving object detection unit 104 detects the moving object in the subject for each frame based on the image signal obtained by the camera signal processing unit 103, and uses the information indicating the position and size of the moving object as metadata. This is output as moving body information (S3). At this time, the moving object detection unit 104 separates a background region and a moving moving object (a tangible object such as a person, an animal, or an object) in the captured image, and then between the previous frame and the current frame. By calculating the difference between the image signals, the temporal change of the image signal is analyzed, and the moving object is detected from the changed area. The moving object detection unit 104 outputs moving object information indicating the position and size of the moving object as metadata to the detection result accumulation unit 105. The detection result accumulation unit 105 stores moving body information over a plurality of frames.

次に、動体追跡部106は、検出結果蓄積部105から複数フレームの動体情報を取得する(S4)。動体追跡部106は、複数フレームの動体情報に基づいて、複数フレームの動体の時間的および位置的な相関性を解析することで、動体を追跡する処理を行う(S5)。具体的には、動体追跡部106は、連続する2つのフレームにおける動体が互いに空間的に重なる部分を有する否かを判断する。そして、動体の一部が互いに重なり合う場合、動体追跡部106は、連続する2つのフレームにおいて同一の動体が連続して検出されていると判定する。動体追跡部106は、この判定を複数のフレームについて順次行なうことにより、所定のフレームに亘って連続して含まれる動体を追跡する。   Next, the moving body tracking unit 106 acquires moving body information of a plurality of frames from the detection result storage unit 105 (S4). The moving object tracking unit 106 performs processing for tracking a moving object by analyzing temporal and positional correlation of moving objects of a plurality of frames based on moving object information of the plurality of frames (S5). Specifically, the moving object tracking unit 106 determines whether moving objects in two consecutive frames have portions that spatially overlap each other. When some of the moving objects overlap each other, the moving object tracking unit 106 determines that the same moving object is continuously detected in two consecutive frames. The moving object tracking unit 106 sequentially performs this determination for a plurality of frames, thereby tracking moving objects included continuously over a predetermined frame.

図3は、動体追跡部106による追跡処理を説明するための図である。図3には、動体情報の内容として、動体検出部104による動体の検出結果が示されている。具体的には、図3には、フレームtm1における動体がフレームtm1の動体検出結果201として表され、フレームtm2における動体がフレームtm2の動体検出結果202として表されている。フレームtm2はフレームtm1の次のフレームである。動体の検出結果は、図3の矢印の通り、フレームtm1では動体検出結果201、フレームtm2では動体検出結果202というように移行している。   FIG. 3 is a diagram for explaining the tracking process by the moving object tracking unit 106. FIG. 3 shows the detection result of the moving object by the moving object detection unit 104 as the contents of the moving object information. Specifically, in FIG. 3, a moving object in the frame tm1 is represented as a moving object detection result 201 in the frame tm1, and a moving object in the frame tm2 is represented as a moving object detection result 202 in the frame tm2. Frame tm2 is the next frame after frame tm1. As shown by the arrows in FIG. 3, the moving object detection result shifts to a moving object detection result 201 in the frame tm1 and a moving object detection result 202 in the frame tm2.

動体追跡部106は、フレームtm1の動体検出結果201とフレームtm2の動体検出結果202とが空間的に重なり合う領域を有するか否かを判断する。この判断結果において、両フレームtm1、tm2における動体検出結果201、202が重なり合う領域を有する場合に、動体追跡部106は、同一の動体が2つのフレームに亘って連続して検出されていると判定する。動体追跡部106は、この判定を複数のフレームについて順次行うことにより、所定のフレームに亘って連続して含まれる動体を追跡する。   The moving object tracking unit 106 determines whether or not the moving object detection result 201 in the frame tm1 and the moving object detection result 202 in the frame tm2 have a spatially overlapping region. In this determination result, when the moving object detection results 201 and 202 in both frames tm1 and tm2 have overlapping regions, the moving object tracking unit 106 determines that the same moving object is detected continuously over two frames. To do. The moving object tracking unit 106 sequentially performs this determination for a plurality of frames, thereby tracking moving objects included continuously over a predetermined frame.

このように、動体追跡部106は、所定のフレームに亘って連続して含まれる動体を追跡するので、前後のフレームにおいて連続しない単発的な動体情報をノイズとして除去することができ、これにより、被写体中の動体の移動を的確に追跡することができる。   In this way, since the moving body tracking unit 106 tracks the moving body continuously included over a predetermined frame, the single moving body information that is not continuous in the preceding and following frames can be removed as noise, thereby It is possible to accurately track the movement of the moving object in the subject.

ここで、動体検出部104による動体情報の出力処理と、動体追跡部106による動体の追跡処理のみしか行わない場合、動体が急に動き出す場合や動体の動きが急に早くなる場合など、動体の動きの変化が大きい場合において、動体の位置および大きさがフレーム間によって大きくばらついてしまう。そして、動体の大きさおよび位置がフレーム間でばらついたまま、明るさ補正処理部108で画像信号の明るさを補正すると、明るさの補正後の画像信号にもばらつきが生じ、ちらつきのような現象が起きてしまう。   Here, when only the moving object information output process by the moving object detection unit 104 and the moving object tracking process by the moving object tracking unit 106 are performed, the moving object suddenly starts moving, or the moving object moves suddenly quickly. When the change in motion is large, the position and size of the moving object vary greatly between frames. If the brightness correction processing unit 108 corrects the brightness of the image signal while the size and position of the moving object varies between frames, the brightness corrected image signal also varies, and flickering The phenomenon will occur.

そこで、本発明の実施の形態では、上述の動体の追跡処理(S5)の後、検出結果フィルタ部107が、動体追跡部106により追跡対象とされた動体の位置および大きさがフレーム間で大きく変化することを抑える緩和処理を動体情報に対して行い、この緩和処理が行われた動体情報を補正動体情報として明るさ補正処理部108に出力する(S6)。   Therefore, in the embodiment of the present invention, after the moving object tracking process (S5) described above, the detection result filter unit 107 increases the position and size of the moving object tracked by the moving object tracking unit 106 between frames. The mitigation process for suppressing the change is performed on the moving body information, and the moving body information subjected to the mitigation process is output to the brightness correction processing unit 108 as the corrected moving body information (S6).

図4は、検出結果フィルタ部107による緩和処理を説明するための図である。図4には、動体追跡部106による追跡対象の動体の追跡経過が示されている。具体的には、図4には、追跡対象の動体についての動体情報の内容として、フレームtc1、tc2、tc3の動体検出結果が表されている。フレームtc1の次にフレームtc2、フレームtc2の次にフレームtc3が続いている。動体の検出結果は、フレームtc1では動体検出結果301、フレームtc2では動体検出結果302、フレームtc3では動体検出結果303というように移行している。   FIG. 4 is a diagram for explaining mitigation processing by the detection result filter unit 107. FIG. 4 shows a tracking process of a moving object to be tracked by the moving object tracking unit 106. Specifically, FIG. 4 shows moving object detection results of frames tc1, tc2, and tc3 as the contents of moving object information about the moving object to be tracked. The frame tc1 is followed by the frame tc2, and the frame tc2 is followed by the frame tc3. The moving object detection result shifts to a moving object detection result 301 in the frame tc1, a moving object detection result 302 in the frame tc2, and a moving object detection result 303 in the frame tc3.

ここでは、図4に例示するように、フレームtc1の動体検出結果301からフレームtc3の動体検出結果303に移行することにより、追跡対象の動体の位置座標がC1(cx1,cy1)からC2(cx2,cy2)を経てC3(cx3,cy3)に変動し、追跡対象の動体の大きさ(領域のサイズ)が縦サイズHc1、横サイズWc1から縦サイズHc2、横サイズWc2を経て縦サイズHc3、横サイズWc3へ変動する場合について説明する。   Here, as illustrated in FIG. 4, by moving from the moving object detection result 301 of the frame tc1 to the moving object detection result 303 of the frame tc3, the position coordinates of the tracking target moving object are changed from C1 (cx1, cy1) to C2 (cx2). , Cy2) to C3 (cx3, cy3), and the size (area size) of the moving object to be tracked is the vertical size Hc1, the horizontal size Wc1 to the vertical size Hc2, the horizontal size Wc2, and then the vertical size Hc3. The case where it changes to size Wc3 is demonstrated.

この場合において、検索結果フィルタ部107は、連続する2つのフレームにおける動体の位置座標の間にある値を補正動体情報として求め、この補正動体情報の位置座標を後のフレームにおける動体の位置座標に置き換える処理を行う。同様に、検索結果フィルタ部107は、フレームにおける動体の大きさの間にある値を補正動体情報として求め、この補正動体情報の大きさを後のフレームにおける動体の大きさに置き換える処理を行う。   In this case, the search result filter unit 107 obtains a value between the position coordinates of the moving object in two consecutive frames as corrected moving object information, and uses the position coordinates of the corrected moving object information as the position coordinates of the moving object in the subsequent frame. Perform the replacement process. Similarly, the search result filter unit 107 obtains a value between the sizes of moving objects in a frame as corrected moving object information, and performs processing to replace the size of the corrected moving object information with the size of moving objects in a subsequent frame.

具体的には、検索結果フィルタ部107は、最初に式(1)に示すように、追跡対象の動体の位置座標について、フレームtc1における動体の位置座標C1(cx1,cy1)とフレームtc2における動体の位置座標C2(cx2,cy2)の平均座標値C2’(cx2’,cy2’)を補正動体情報として算出し、この補正動体情報の位置座標C2’をフレームtc2における追跡対象の動体の位置座標に置き換える。
Specifically, the search result filter unit 107 first calculates the moving object position coordinate C1 (cx1, cy1) in the frame tc1 and the moving object in the frame tc2 with respect to the position coordinates of the moving object to be tracked, as shown in Expression (1). Average coordinate value C2 ′ (cx2 ′, cy2 ′) of the position coordinates C2 (cx2, cy2) of the current position is calculated as corrected moving body information, and the position coordinates C2 ′ of the corrected moving body information is the position coordinates of the tracking target moving body in the frame tc2. Replace with

以後、検索結果フィルタ部107は、式(2)に示すように、先ほど求めた補正動体情報C2’(cx2’,cy2’)とフレームtc3における動体の位置座標C3(cx3,cy3)の平均座標値C3’(cx3’,cy3’)を補正動体情報として求め、この補正動体情報の位置座標C3’をフレームtc3における追跡対象の動体の位置座標に置き換える。
Thereafter, as shown in Expression (2), the search result filter unit 107 calculates the average coordinate of the corrected moving body information C2 ′ (cx2 ′, cy2 ′) obtained earlier and the moving body position coordinates C3 (cx3, cy3) in the frame tc3. A value C3 ′ (cx3 ′, cy3 ′) is obtained as corrected moving body information, and the position coordinate C3 ′ of this corrected moving body information is replaced with the position coordinate of the tracking target moving body in the frame tc3.

また、検索結果フィルタ部107は、最初に式(3)に示すように、追跡対象の動体の大きさについて、フレームtc1における動体の大きさ(縦サイズHc1、横サイズWc1)とフレームtc2における動体の大きさ(縦サイズHc2、横サイズWc2)の平均値Hc2’、Wc2’を補正動体情報として求め、この補正動体情報の大きさHc2’、Wc2’をフレームtc2における追跡対象の動体の大きさ(縦サイズ、横サイズ)に置き換える。
The search result filter unit 107 first sets the size of the moving object in the frame tc1 (vertical size Hc1, horizontal size Wc1) and the moving object in the frame tc2, as shown in Expression (3). Average values Hc2 ′ and Wc2 ′ of the sizes (vertical size Hc2 and horizontal size Wc2) are obtained as corrected moving body information, and the sizes Hc2 ′ and Wc2 ′ of the corrected moving body information are determined as the size of the moving object to be tracked in frame tc2. Replace with (vertical size, horizontal size).

以後、検索結果フィルタ部107は、式(4)に示すように、先ほど求めた補正動体情報(縦サイズHc2’、横サイズWc2’)とフレームtc3における動体の大きさ(縦サイズHc3、横サイズWc3)の平均値Hc3’、Wc3’を補正動体情報として求め、この補正動体情報の大きさHc3’、Wc3’をフレームtc3における追跡対象の動体の大きさ(縦サイズ、横サイズ)に置き換える。
Thereafter, as shown in Expression (4), the search result filter unit 107 calculates the corrected moving body information (vertical size Hc2 ′, horizontal size Wc2 ′) obtained earlier and the size of the moving body in the frame tc3 (vertical size Hc3, horizontal size). The average values Hc3 ′ and Wc3 ′ of Wc3) are obtained as corrected moving body information, and the sizes Hc3 ′ and Wc3 ′ of the corrected moving body information are replaced with the sizes (vertical size and horizontal size) of the tracking target moving body in the frame tc3.

以上の通り、検索結果フィルタ部107は、連続する2つのフレームにおける動体の位置および大きさの間にある値を補正動体情報として求め、この補正動体情報を後のフレームにおける動体の位置および大きさに置き換える処理を行う。これにより、動体の位置および大きさがフレーム間で大きく変化することを抑えることができる。   As described above, the search result filter unit 107 obtains a value between the position and size of the moving object in two consecutive frames as the corrected moving object information, and uses this corrected moving object information as the position and size of the moving object in the subsequent frame. Process to replace with. Thereby, it can suppress that the position and magnitude | size of a moving body change greatly between frames.

なお、上記説明では、前後のフレームにおける動体の位置および大きさの平均値を補正動体情報として算出するとしたが、補正動体情報は前後のフレームにおける動体の位置および大きさの間にある値であればよく、前後のフレームの平均値に限定されない。また、検出結果フィルタ部107は、動体追跡部106の追跡対象の動体ではなく、動体検出部104により検出された動体に対して、緩和処理を行っても良い。   In the above description, the average value of the position and size of the moving object in the previous and subsequent frames is calculated as the corrected moving object information. However, the corrected moving object information may be a value between the position and size of the moving object in the previous and subsequent frames. What is necessary is just and it is not limited to the average value of the frame before and behind. Further, the detection result filter unit 107 may perform the mitigation process on the moving object detected by the moving object detection unit 104 instead of the moving object to be tracked by the moving object tracking unit 106.

このように、動体の位置および大きさがフレーム間で大きく変化することを抑える緩和処理を動体情報に対して行い、緩和処理が行われた動体情報を補正動体情報として出力するので、緩和処理によって求めた補正動体情報にて示される動体の位置および大きさのフレーム間の変化は、動体が急激に止まる場合などを除いて、緩和処理前に比べて小さくなる。この結果、補正動体情報で示される動体の位置および大きさがフレーム間で大きく異ならないようにすることができ、フレーム間によって大きくばらつかないようにすることができる。   In this way, the mitigation process is performed on the moving body information to prevent the position and size of the moving body from greatly changing between frames, and the moving body information subjected to the mitigation process is output as the corrected moving body information. The change in the position and size of the moving object indicated by the obtained corrected moving object information is smaller than that before the relaxation process except when the moving object stops suddenly. As a result, it is possible to prevent the position and size of the moving object indicated by the corrected moving object information from greatly differing between frames, and not to vary greatly between frames.

なお、上記説明では、緩和処理後の動体の位置および大きさを用いて補正動体情報を求めたが、緩和処理前の動体の位置および大きさを用いて補正動体情報を求めてもよい。例えば、緩和処理後のフレームtc3における動体の位置および大きさを算出するのに、検索結果フィルタ部107は、緩和処理後のフレームtc2における動体の位置および大きさとフレームtc3における動体の位置および大きさの平均値を補正動体情報として求め、この補正動体情報の値をフレームtc3における追跡対象の動体の位置および大きさに置き換えてもよい。このようにしても、上述した効果を得ることができる。   In the above description, the corrected moving body information is obtained using the position and size of the moving body after the relaxation process. However, the corrected moving body information may be obtained using the position and size of the moving body before the relaxation process. For example, to calculate the position and size of the moving object in the frame tc3 after the relaxation process, the search result filter unit 107 calculates the position and size of the moving object in the frame tc2 after the relaxation process and the position and size of the moving object in the frame tc3. May be obtained as corrected moving body information, and the value of the corrected moving body information may be replaced with the position and size of the moving body to be tracked in the frame tc3. Even if it does in this way, the effect mentioned above can be acquired.

次に、明るさ補正処理部108が、画像信号に対して、補正動体情報によって示される動体の位置および大きさに対応する補正動体領域の明るさを補正する(S7)。これにより、フレーム間で大きく変化することを抑えた後の動体の位置および大きさに対応して明るさを補正することができる。この結果、動体の動きが大きい場合にも、動体を視認しやすく、動体の動きが鮮明な画像を得ることができる。この場合において、補正動体領域の明るさのレベルは、補正動体情報によって示される動体の位置および大きさによって、決められてもよい。例えば、補正動体情報によって示される動体の位置が画像の中央部の場合は、動体の位置が画像の周縁部の場合と比較して、補正動体領域をより明るくする補正をする。また、補正動体情報によって示される動体の大きさが大きければ大きい程、補正動体領域をより明るくする補正をする。このようにして、動体を明るくしつつ、画像がチラつく現象を抑制できる。   Next, the brightness correction processing unit 108 corrects the brightness of the corrected moving body region corresponding to the position and size of the moving body indicated by the corrected moving body information with respect to the image signal (S7). Accordingly, it is possible to correct the brightness in accordance with the position and size of the moving object after suppressing a large change between frames. As a result, even when the movement of the moving object is large, it is easy to visually recognize the moving object and an image with a clear movement of the moving object can be obtained. In this case, the brightness level of the corrected moving body region may be determined by the position and size of the moving body indicated by the corrected moving body information. For example, when the position of the moving object indicated by the corrected moving object information is at the center of the image, correction is performed to make the corrected moving object region brighter than when the position of the moving object is at the periphery of the image. Further, the larger the size of the moving object indicated by the corrected moving object information is, the brighter the correction moving object region is corrected. In this way, the phenomenon of flickering images can be suppressed while making the moving body bright.

なお、レンズ部101と撮像素子102の間には、撮像素子102に入射する被写体の光の入射量を調整するための絞り(不図示)が設けられている。明るさ補正処理部108は、この絞りを用いて被写体の光の撮像素子102への入射量を調整することで、画像信号の明るさを補正している。これにより、簡単な構成で、画像全体の明るさを補正することができる。   A diaphragm (not shown) is provided between the lens unit 101 and the image sensor 102 for adjusting the amount of light incident on the subject incident on the image sensor 102. The brightness correction processing unit 108 corrects the brightness of the image signal by adjusting the amount of light incident on the image sensor 102 using the diaphragm. Thereby, the brightness of the whole image can be corrected with a simple configuration.

また、好適には、ステップS7において、明るさ補正処理部108は、画像信号に対して、補正動体領域の周縁部の明るさを補正してもよい。これにより、動体の動きがより鮮明な画像を得ることができる。   Preferably, in step S7, the brightness correction processing unit 108 may correct the brightness of the peripheral portion of the corrected moving object region with respect to the image signal. Thereby, it is possible to obtain an image in which the motion of the moving object is clearer.

そして、画像出力部109が、明るさ補正処理部108により明るさの補正がなされた画像信号を出力する(S8)。   Then, the image output unit 109 outputs the image signal whose brightness has been corrected by the brightness correction processing unit 108 (S8).

このような本発明の実施の形態の撮像装置1000によれば、検出結果フィルタ部107にて、動体の位置および大きさのフレーム間での変化量を調整する調整処理を動体情報に対して行い、調整処理が行われた動体情報を補正動体情報として出力する。ここでの調整処理は、特に、動体追跡部106により追跡対象とされた動体の位置および大きさがフレーム間で大きく変化することを抑える緩和処理をいう。これにより、緩和処理によって求めた補正動体情報にて示される動体の位置および大きさのフレーム間の変化は、動体が急激に止まる場合などを除いて、緩和処理前に比べて小さくなる。この結果、補正動体情報で示される動体の位置および大きさがフレーム間で大きく異ならないようにすることができ、フレーム間によって大きくばらつかないようにすることができる。特に、動体が急に動き出す場合や動体の動きが急に早くなる場合など、動体の動きの変化が大きい場合において、動体の位置および大きさのフレーム間で大きく変化するのを緩やかにして、動体の動きの変化を小さくすることができる。そして、明るさ補正処理部108にて、補正動体情報によって示される動体の位置および大きさに対応する補正動体領域の明るさを補正するので、フレーム間で大きく変化することを抑えた後の動体の位置および大きさに対応して、明るさを補正することができる。これにより、ちらつきを抑えながら、動体が鮮明な画像を得ることができる。   According to such an imaging apparatus 1000 according to the embodiment of the present invention, the detection result filter unit 107 performs adjustment processing for adjusting the amount of change in the position and size of the moving object between the frames. Then, the moving body information subjected to the adjustment process is output as corrected moving body information. The adjustment process here refers to a relaxation process that suppresses a significant change in the position and size of a moving object that is a tracking target by the moving object tracking unit 106 between frames. As a result, the change in the position and size of the moving object indicated by the corrected moving object information obtained by the relaxation process is smaller than that before the relaxation process except when the moving object stops suddenly. As a result, it is possible to prevent the position and size of the moving object indicated by the corrected moving object information from greatly differing between frames, and not to vary greatly between frames. In particular, when there is a large change in the movement of the moving object, such as when the moving object suddenly starts moving or the movement of the moving object suddenly becomes faster, The change of the movement can be reduced. Then, the brightness correction processing unit 108 corrects the brightness of the corrected moving body region corresponding to the position and size of the moving body indicated by the corrected moving body information, so that the moving body after suppressing a large change between frames is corrected. The brightness can be corrected in accordance with the position and size of. Thereby, it is possible to obtain an image with a clear moving object while suppressing flickering.

また、明るさ補正処理部108にて、補正動体情報によって示される動体の位置および大きさに基づいて、補正動体領域の明るさを補正するので、撮像した被写体に含まれる動体の動きに合わせて動体の明るさが大きく変化することがなく、動体の動きが鮮明な画像を得ることができる。この結果、動体を明るくしつつ、画像がチラつく現象が生じるのを低減することができる。このため、利用者に対して、違和感がなく、適切な明るさで動体の画像を提供することができる。   Further, the brightness correction processing unit 108 corrects the brightness of the corrected moving body area based on the position and size of the moving body indicated by the corrected moving body information, so that it matches the movement of the moving body included in the captured subject. The brightness of the moving object does not change greatly, and an image with a clear movement of the moving object can be obtained. As a result, it is possible to reduce the phenomenon that the image flickers while making the moving body bright. For this reason, it is possible to provide the user with a moving object image with appropriate brightness without any sense of incongruity.

また、本発明の実施の形態の撮像装置1000によれば、検出結果フィルタ部107にて、複数フレームのうち、連続する2つフレームにおける動体の位置および大きさの間にある値を補正動体情報として求めるので、簡単な方法で、動体の位置および大きさのフレーム間で大きく変化することを抑える緩和処理を動体情報に対して行うことができ、これを補正動体情報として得ることができる。   Further, according to the imaging apparatus 1000 according to the embodiment of the present invention, the detection result filter unit 107 corrects the moving body information between the position and the size of the moving body in two consecutive frames among the plurality of frames. Therefore, it is possible to perform a mitigation process that suppresses a large change in the position and size of the moving object between frames with a simple method, and obtain this as corrected moving object information.

また、本発明の実施の形態の撮像装置1000によれば、検出結果フィルタ部107にて、複数フレームのうち、前フレームの補正動体情報と次のフレームにおける動体の位置および大きさの間にある値を新たに補正動体情報として求めるので、簡単な方法で、動体の位置および大きさのフレーム間で大きく変化することを抑える緩和処理を動体情報に対して行うことができる。   Further, according to the imaging apparatus 1000 of the embodiment of the present invention, the detection result filter unit 107 is between the corrected moving body information of the previous frame and the position and size of the moving body in the next frame among the plurality of frames. Since the value is newly obtained as corrected moving body information, it is possible to perform relaxation processing on the moving body information with a simple method that suppresses a significant change between frames of the position and size of the moving body.

また、本発明の実施の形態の撮像装置1000によれば、明るさ補正処理部108は、画像信号に対して、補正動体領域の周縁部の明るさを補正するので、動体の動きがより鮮明な画像を得ることができる。   Further, according to the imaging apparatus 1000 of the embodiment of the present invention, the brightness correction processing unit 108 corrects the brightness of the peripheral portion of the corrected moving object region with respect to the image signal, so that the moving object moves more clearly. Can be obtained.

また、本発明の実施の形態の撮像装置1000によれば、動体情報に基づいて、所定数のフレームに亘って連続して含まれる動体を追跡する処理を行う動体追跡部106を備え、検出結果フィルタ部107は、動体追跡部106による追跡対象の動体に対して、緩和処理を行う構成を有している。この構成により、前後のフレームで連続的しない単発的な動体情報をノイズとして除去することができ、これにより、被写体中の動体を的確に追跡することができる。また、検出結果フィルタ部107にて、動体追跡部106による追跡対象の動体に対して、緩和処理を行うので、追跡対象の動体の動きに注目した補正動体情報を得ることができる。   In addition, the imaging apparatus 1000 according to the embodiment of the present invention includes the moving body tracking unit 106 that performs processing for tracking moving bodies continuously included over a predetermined number of frames based on the moving body information, and the detection result. The filter unit 107 has a configuration for performing relaxation processing on a moving object to be tracked by the moving object tracking unit 106. With this configuration, it is possible to remove single moving body information that is not continuous in the preceding and following frames as noise, and thus it is possible to accurately track the moving body in the subject. Further, since the detection result filter unit 107 performs the mitigation process on the moving object tracked by the moving object tracking unit 106, it is possible to obtain corrected moving object information that focuses on the movement of the tracked moving object.

また、本発明の実施の形態の撮像装置1000によれば、撮像素子102に入射する被写体の光の入射量を調整するための絞りを備え、撮像装置1000は、絞りを用いて被写体の光の入射量を調整することにより、画像信号の明るさを調整するので、画像全体の明るさを簡単に調整することができる。   In addition, according to the imaging apparatus 1000 of the embodiment of the present invention, the imaging apparatus 1000 includes a diaphragm for adjusting the amount of incident light of the subject incident on the imaging element 102, and the imaging apparatus 1000 uses the diaphragm to Since the brightness of the image signal is adjusted by adjusting the amount of incident light, the brightness of the entire image can be easily adjusted.

以上、本発明の実施の形態を例示により説明したが、本発明の範囲はこれらに限定されるものではなく、請求項に記載された範囲内において目的に応じて変更・変形することが可能である。   The embodiments of the present invention have been described above by way of example, but the scope of the present invention is not limited to these embodiments, and can be changed or modified according to the purpose within the scope of the claims. is there.

上述した実施の形態では、図4を用いて説明したように、検出結果フィルタ部107において、連続する2つのフレームにおける動体の位置および大きさの間にある値(例えば平均値)をそのまま補正動体情報として求めたが、2つのフレームにおける動体の位置および大きさに重み付けをした後に、2つのフレームにおける動体の位置および大きさの間にある値(例えば平均値)を求めて、これを補正動体情報としてもよい。これにより、動体情報の緩和処理において、動体の位置および大きさのフレーム間で緩和の度合いを調整することができる。例えば、動体が急に大きく移動する場合、実際の画像上の動体の動きに対して、補正動体領域の移動が大きく遅れることがある。このような場合において、連続する2つのフレームのうちで後のフレームの動体情報に重み付けをしてから、当該2つのフレームにおける動体の位置および大きさの間にある値を補正動体情報として算出するとよい。これにより、後のフレームにおける動体の位置および大きさが重み付けにより強調され、補正動体情報においても後のフレームの動体の位置および大きさが強調される。この結果、動体が急に大きく移動する場合であっても、実際の画像上の動体の変動に対して、補正動体領域の変動が大きく遅れないようにすることができる。   In the embodiment described above, as described with reference to FIG. 4, the detection result filter unit 107 directly corrects a value (for example, an average value) between the position and size of the moving object in two consecutive frames. Although it calculated | required as information, after weighting the position and magnitude | size of the moving body in two frames, the value (for example, average value) between the position and magnitude | size of the moving body in two frames is calculated | required, and this is correct | amended It may be information. Thereby, in the moving body information relaxation process, the degree of relaxation can be adjusted between frames of the position and size of the moving body. For example, when the moving object suddenly moves greatly, the movement of the correction moving object region may be greatly delayed with respect to the actual movement of the moving object on the image. In such a case, after weighting the moving body information of the subsequent frame in the two consecutive frames, a value between the position and size of the moving body in the two frames is calculated as the corrected moving body information. Good. Accordingly, the position and size of the moving object in the subsequent frame are emphasized by weighting, and the position and size of the moving object in the subsequent frame are also emphasized in the corrected moving object information. As a result, even when the moving body suddenly moves greatly, the fluctuation of the correction moving body area can be prevented from being greatly delayed with respect to the fluctuation of the moving body on the actual image.

上記した実施の形態において、検出結果フィルタ部107は、動体が初めて出現してからのフレーム数に応じて、動体の位置および大きさがフレーム間で大きく変化することを抑える緩和処理を動体情報に対して行うようにしてもよい。例えば、検出結果フィルタ部107は、動体が初めて出現してから一定のフレームにおいては、動体の大きさに係数を変化させて乗じる。すなわち、検出結果フィルタ部107は、動体が出現してからのフレーム数が増えるにつれて、0.1、0.2、0.3、・・・0.8、0.9、1のように係数を変化させて、この係数を動体の大きさ(縦サイズ、横サイズ)に乗じて、前述の緩和処理(図2のS6)を行う。   In the above-described embodiment, the detection result filter unit 107 uses the mitigation processing that suppresses a large change in the position and size of the moving object between the frames according to the number of frames after the moving object first appears in the moving object information. You may make it carry out with respect to. For example, the detection result filter unit 107 multiplies the size of the moving object by changing the coefficient in a certain frame after the moving object first appears. That is, the detection result filter unit 107 increases the coefficients such as 0.1, 0.2, 0.3,..., 0.8, 0.9, and 1 as the number of frames after the moving object increases. And the above-mentioned relaxation processing (S6 in FIG. 2) is performed by multiplying the coefficient (vertical size, horizontal size) by this coefficient.

これにより、明るさ補正処理部108の明るさ補正処理において、補正動体領域が明るさの補正対象として徐々に有効になるようにでき、動体を検出した直後に動体の明るさのレベルが急激に変化するのを抑制できる。例えば、動体がある程度の大きさをもっているような場合であっても、追跡対象の動体があるフレームに突如として明るくなるような違和感を少なくできる。   Accordingly, in the brightness correction processing of the brightness correction processing unit 108, the corrected moving object region can be gradually made effective as a brightness correction target, and the brightness level of the moving object is rapidly increased immediately after the moving object is detected. The change can be suppressed. For example, even when the moving object has a certain size, it is possible to reduce a sense of incongruity that suddenly becomes brighter in a frame with the moving object to be tracked.

上記した実施の形態において、明るさ補正処理部108は、動体が初めて出現してからのフレーム数に応じた明るさのレベルに補正動体領域を補正してもよい。例えば、明るさはレベル0からレベル5で設定する。このとき、補正後における目標レベルをレベル5とした場合、明るさ補正処理部108が、動体が初めて出現してからのフレーム数が増えるにつれて、レベル0、レベル1、・・・、レベル4、レベル5と徐々にレベルを上げていくように、画像信号に対する明るさを補正する。これにより、補正動体領域の明るさのレベルをいきなり目標レベルに上昇させるのではなく、徐々に変化させるので、動体を検出した直後に動体の明るさのレベルが急激に変化するのを抑制し、違和感を少なくできる。   In the above-described embodiment, the brightness correction processing unit 108 may correct the corrected moving body region to a brightness level corresponding to the number of frames after the moving body first appears. For example, the brightness is set from level 0 to level 5. At this time, when the target level after correction is set to level 5, the brightness correction processing unit 108 becomes level 0, level 1,..., Level 4, as the number of frames after the moving object first appears increases. The brightness with respect to the image signal is corrected so as to gradually increase the level to level 5. Thereby, instead of suddenly increasing the brightness level of the corrected moving object region to the target level, it is gradually changed, so that the brightness level of the moving object is prevented from changing abruptly immediately after the moving object is detected, You can reduce the sense of incongruity.

以上のように、本発明は、動体の動きが大きい場合にも、動体を視認しやすい画像を提供することができるという効果を有し、暗がりなどにいる不審者を撮影するための監視用カメラ等の撮像装置等として有用である。   As described above, the present invention has an effect that it is possible to provide an image that makes it easy to visually recognize a moving object even when the moving object is large, and a surveillance camera for photographing a suspicious person in the dark It is useful as an imaging device.

本発明の実施の形態の撮像装置を示すブロック図1 is a block diagram illustrating an imaging apparatus according to an embodiment of the present invention. 本発明の実施の形態の撮像装置の動作フローを示す図The figure which shows the operation | movement flow of the imaging device of embodiment of this invention 本発明の実施の形態の撮像装置の動体追跡部による追跡処理を説明するための図The figure for demonstrating the tracking process by the moving body tracking part of the imaging device of embodiment of this invention 本発明の実施の形態の撮像装置の検出結果フィルタ部による緩和処理を説明するための図The figure for demonstrating the relaxation process by the detection result filter part of the imaging device of embodiment of this invention

符号の説明Explanation of symbols

101 レンズ部
102 撮像素子
103 カメラ信号処理部
104 動体検出部
105 検出結果蓄積部
106 動体追跡部
107 検出結果フィルタ部
108 明るさ補正処理部
109 画像出力部
1000 撮像装置
DESCRIPTION OF SYMBOLS 101 Lens part 102 Image pick-up element 103 Camera signal processing part 104 Moving object detection part 105 Detection result storage part 106 Moving object tracking part 107 Detection result filter part 108 Brightness correction process part 109 Image output part 1000 Imaging device

Claims (10)

被写体を撮像して画像信号を生成する撮像素子と、
前記被写体中の動体を検出する動体検出部と、
前記動体の位置および大きさを調整するフィルタ部と、
前記画像信号に対して、調整された前記動体の位置および大きさに対応する領域の明るさを補正する明るさ補正部と
を備えたことを特徴とする撮像装置。
An image sensor that images a subject and generates an image signal;
A moving object detection unit for detecting a moving object in the subject ;
A filter unit for adjusting the position and size of the moving body;
A brightness correction unit that corrects the brightness of a region corresponding to the adjusted position and size of the moving object with respect to the image signal ;
An imaging apparatus comprising:
前記フィルタ部は、前記動体を検出してからのフレーム数に応じて、前記動体の位置および大きさを調整する請求項1に記載の撮像装置。 The imaging device according to claim 1, wherein the filter unit adjusts a position and a size of the moving body according to the number of frames after the moving body is detected . 前記フィルタ部は、所定時間での前記動体の位置および大きさの変化量を調整し、補正動体情報として出力し、
前記明るさ補正部は、前記補正動体情報によって示される動体の位置および大きさに基づいて、前記領域の明るさのレベルを補正する請求項1または2に記載の撮像装置。
The filter unit adjusts the amount of change in the position and size of the moving object in a predetermined time, and outputs it as corrected moving object information,
The brightness correction unit, the corrected moving object based on the position and size of the moving object indicated by the information, the imaging apparatus according to claim 1 or 2 for correcting the brightness level of the area.
前記フィルタ部は、連続する2つのフレームにおける動体の位置および大きさの間にある値を前記補正動体情報として求める請求項またはに記載の撮像装置。 The filter unit, the imaging apparatus according to claim 2 or 3 obtains a value that is between the position and size of the moving object in two consecutive frames as the correction moving body information. 前記フィルタ部は、連続する第1、第2のフレーム中の前記第1フレームの補正動体情報と前記第2フレームにおける動体の位置および大きさの間にある値を新たに前記補正動体情報として求める請求項またはに記載の撮像装置。 The filter unit newly obtains, as the corrected moving body information, a value between the corrected moving body information of the first frame and the position and size of the moving body in the second frame in successive first and second frames. The imaging device according to claim 2 or 3 . 前記フィルタ部は、連続する2つのフレームにおける動体の位置および大きさに重み付けをした後に前記補正動体情報を求める請求項またはに記載の撮像装置。 The filter unit, the imaging apparatus according to claim 4 or 5 obtains the correction moving body information after the weighting at the position and size of the moving object in two consecutive frames. 前記明るさ補正部は、前記画像信号に対して、前記領域の周縁部の明るさを補正する請求項1ないし6のいずれかに記載の撮像装置。 The imaging apparatus according to claim 1, wherein the brightness correction unit corrects brightness of a peripheral portion of the region with respect to the image signal. 前記明るさ補正部は、前記領域を、前記動体を検出してからのフレーム数に応じた明るさのレベルに補正する請求項1ないし7のいずれかに記載の撮像装置。 The imaging apparatus according to claim 1, wherein the brightness correction unit corrects the area to a brightness level corresponding to the number of frames after the moving object is detected . 所定数のフレームに亘って連続して含まれる動体を追跡する動体追跡部を備え、
前記フィルタ部は、前記動体追跡部による追跡対象の動体の位置および大きさを調整する請求項1ないし8のいずれかに記載の撮像装置。
A moving body tracking unit that tracks a moving body continuously included over a predetermined number of frames;
The imaging device according to claim 1, wherein the filter unit adjusts a position and a size of a moving object to be tracked by the moving object tracking unit.
動体の動きに応じて画像信号を処理する方法であって、
動体を検出し、
前記動体を検出してからのフレーム数に応じて、前記動体の位置および大きさを調整し、
調整された前記動体の位置および大きさに対応する前記画像信号の領域の明るさを補正する画像信号の処理方法
A method of processing an image signal in accordance with the movement of a moving object,
Detect moving objects,
Adjust the position and size of the moving object according to the number of frames after detecting the moving object,
An image signal processing method for correcting brightness of an area of the image signal corresponding to the adjusted position and size of the moving object .
JP2008181992A 2008-07-11 2008-07-11 Imaging device Expired - Fee Related JP5011226B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008181992A JP5011226B2 (en) 2008-07-11 2008-07-11 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008181992A JP5011226B2 (en) 2008-07-11 2008-07-11 Imaging device

Publications (3)

Publication Number Publication Date
JP2010021897A JP2010021897A (en) 2010-01-28
JP2010021897A5 JP2010021897A5 (en) 2011-07-14
JP5011226B2 true JP5011226B2 (en) 2012-08-29

Family

ID=41706339

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008181992A Expired - Fee Related JP5011226B2 (en) 2008-07-11 2008-07-11 Imaging device

Country Status (1)

Country Link
JP (1) JP5011226B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011221337A (en) * 2010-04-12 2011-11-04 Sanyo Electric Co Ltd Electronic camera
JP5846268B1 (en) * 2014-08-12 2016-01-20 株式会社リコー Image processing system, image processing apparatus, program, and imaging system

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001216583A (en) * 2000-02-01 2001-08-10 Oki Electric Ind Co Ltd Camera system

Also Published As

Publication number Publication date
JP2010021897A (en) 2010-01-28

Similar Documents

Publication Publication Date Title
US10244159B2 (en) Image capturing apparatus and control method thereof
KR101142316B1 (en) Image selection device and method for selecting image
US20090095880A1 (en) Autofocus control circuit, autofocus control method and image pickup apparatus
KR101600704B1 (en) Image processing apparatus, image processing method and computer readable recording medium having program thereof
US20140063330A1 (en) Image pickup apparatus that periodically changes exposure condition, a method of controlling image pickup apparatus, and storage medium
US20110080494A1 (en) Imaging apparatus detecting foreign object adhering to lens
JP5696026B2 (en) Imaging apparatus, imaging method, and monitoring system
US20120307009A1 (en) Method and apparatus for generating image with shallow depth of field
JP2007324770A (en) Imaging apparatus and imaging method
JP5179223B2 (en) Imaging apparatus and imaging program
US8970711B2 (en) Imaging apparatus for correcting distortion in image captured using rolling shutter method and distortion correction method
JP2008283605A (en) Imaging apparatus
JP2007082044A (en) Imaging method and imaging apparatus
JP2015227995A5 (en)
JP6582926B2 (en) Movement information acquisition apparatus, movement information acquisition method, and program
JP2016018012A5 (en)
JP2009123081A (en) Face detection method and photographing apparatus
JP5011226B2 (en) Imaging device
JP5189913B2 (en) Image processing device
TWI693577B (en) Image generating method and electronic apparatus
JP2011071925A (en) Mobile tracking apparatus and method
JP4985569B2 (en) Imaging apparatus and imaging method
JP2008176113A (en) Focus detecting device and camera
CN106454066B (en) Image processing apparatus and control method thereof
JP2015080157A (en) Image processing device, image processing method and program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110531

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110531

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120510

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120515

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120604

R150 Certificate of patent or registration of utility model

Ref document number: 5011226

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150608

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees