JP5202264B2 - Image processing apparatus and image processing method - Google Patents
Image processing apparatus and image processing method Download PDFInfo
- Publication number
- JP5202264B2 JP5202264B2 JP2008311436A JP2008311436A JP5202264B2 JP 5202264 B2 JP5202264 B2 JP 5202264B2 JP 2008311436 A JP2008311436 A JP 2008311436A JP 2008311436 A JP2008311436 A JP 2008311436A JP 5202264 B2 JP5202264 B2 JP 5202264B2
- Authority
- JP
- Japan
- Prior art keywords
- subject
- moving image
- image data
- recording
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Studio Devices (AREA)
Description
本発明は画像処理装置、画像処理方法、プログラム及び記憶媒体に関し、特に、特定の被写体を検出するために用いて好適な技術に関する。 The present invention relates to an image processing device, an image processing method, a program, and a storage medium, and more particularly to a technique suitable for use in detecting a specific subject.
近年、デジタルカメラにおいては、人間の顔など特定の被写体の位置や大きさを画像認識アルゴリズムにより推定する技術が実用化されている。この特定の被写体の検出においては、予め用意されたデータベースと検出用画像とを使用したパターンマッチング等の処理を行い、特定の被写体が検出用画像に存在するかどうか検索を行っている。 In recent years, in a digital camera, a technique for estimating the position and size of a specific subject such as a human face using an image recognition algorithm has been put into practical use. In the detection of the specific subject, processing such as pattern matching using a database and a detection image prepared in advance is performed to search whether the specific subject exists in the detection image.
ところが、特定の被写体を検出する処理を行うためには、複雑な演算を何度も行わなければならず、処理時間が多くかかるという問題があった。特に、被写体が動いている場面が多いと考えられる動画撮影時には、被写体の検出に時間を要することは致命的である。そこで、この問題を解決するために、例えば、特許文献1に記載のデジタルカメラのように、被写体の検出を行う領域を限定し、その領域内で被写体を検出する処理を行うことによって、被写体を検出するための処理に必要となる時間を短縮することが考えられる。 However, in order to perform a process for detecting a specific subject, a complicated calculation must be performed many times, which causes a problem that a long processing time is required. In particular, when shooting a moving image in which there are many scenes where the subject is moving, it is fatal that it takes time to detect the subject. Therefore, in order to solve this problem, for example, as in a digital camera described in Patent Document 1, a region where a subject is detected is limited, and the subject is detected by performing processing for detecting the subject within the region. It is conceivable to reduce the time required for processing for detection.
しかしながら、特許文献1に記載される従来技術では、処理時間の短縮を達成することは可能であるが、被写体の検出を行う領域が、初めに検出された被写体の位置にひっぱられてしまう。例えば、デジタルカメラやデジタルビデオカメラで動画を撮影する場合は、被写体が動いていることが多いため、主たる被写体が画面のどこにいるかは不確かであり、被写体の検出領域を初期値としてどこに設定するか決定することは難しい。 However, with the prior art described in Patent Document 1, it is possible to reduce the processing time, but the region where the subject is detected is pulled to the position of the subject detected first. For example, when shooting a movie with a digital camera or digital video camera, the subject is often moving, so it is uncertain where the main subject is on the screen, and where the subject detection area is set as the initial value It is difficult to decide.
本発明は前述の問題点に鑑み、被写体を検出するための時間を短縮するとともに、被写体を精度よく検出できるようにすることを目的としている。 An object of the present invention is to reduce the time for detecting a subject and to detect the subject with high accuracy in view of the above-described problems.
本発明の画像処理装置は、動画像データを構成する画像信号を入力する画像入力手段と、前記画像入力手段によって入力された前記動画像データを構成する画像信号から特定の被写体を検出する被写体検出手段と、前記被写体検出手段による検出を行う領域を決定する領域決定手段と、前記画像入力手段によって入力された動画像データを記録媒体に記録する記録手段とを有し、前記領域決定手段は、前記記録手段による動画像データの記録中でない場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了しない大きさに決定し、前記記録手段による動画像データの記録中である場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了する大きさに決定することを特徴とする。 The image processing apparatus of the present invention, the subject detection which detects an image input means for inputting an image signal constituting the moving image data, a specific object from the image signal constituting the moving image data input by said image input means means an area determining means for determining a region to be detected by the subject detecting means, and recording means for recording the moving image data input by said image input means on a recording medium, said area determining means, When the moving image data is not being recorded by the recording means, the subject detection process is not completed until the image signal constituting the moving image data is updated in the area where the subject is detected. When the moving image data is being recorded by the recording means, the area where the subject is detected is determined by the image signal constituting the moving image data. Processing of detection of the object until new is the is characterized in that determining the magnitude terminated.
本発明の画像処理方法は、動画像データを構成する画像信号を入力する画像入力工程と、前記画像入力工程において入力された前記動画像データを構成する画像信号から特定の被写体を検出する被写体検出工程と、前記被写体検出工程における検出を行う領域を決定する領域決定工程と、前記画像入力工程において入力された動画像データを記録媒体に記録する記録工程とを有し、前記領域決定工程においては、前記記録工程における動画像データの記録中でない場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了しない大きさに決定し、前記記録工程における動画像データの記録中である場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了する大きさに決定することを特徴とする。 The image processing method of the present invention, the subject detection which detects an image input step of inputting an image signal constituting the moving image data, a specific object from the image signal constituting the moving image data input in the image input step step and said a region determining step of determining the area to be detected by the subject detection step, and a recording step of recording the moving image data input in the image input step to the recording medium, in the region determining step When the moving image data is not being recorded in the recording step, the subject detection process is completed until the image signal constituting the moving image data is updated in the subject detection area. When the moving image data is being recorded in the recording step, the moving image data is configured as an area where the subject is detected. Processing of detection of the object until the image signal is updated and determines sized to terminate that.
本発明のプログラムは、動画像データを構成する画像信号を入力する画像入力工程と、前記画像入力工程において入力された前記動画像データを構成する画像信号から特定の被写体を検出する被写体検出工程と、前記被写体検出工程における検出を行う領域を決定する領域決定工程と、前記画像入力工程において入力された動画像データを記録媒体に記録する記録工程とをコンピュータに実行させ、前記領域決定工程においては、前記記録工程における動画像データの記録中でない場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了しない大きさに決定し、前記記録工程における動画像データの記録中である場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了する大きさに決定するようにコンピュータに実行させることを特徴とする。 Program of the present invention includes an image input step of inputting an image signal constituting the moving image data, the subject detection step of detecting a specific object from the image signal constituting the moving image data input in the image input step an area determination step of determining a region to be detected in the subject detecting step, the dynamic image data input in the image input step to execute a recording step of recording on a recording medium into a computer, in the region determining step When the moving image data is not being recorded in the recording step, the subject detection process is completed until the image signal constituting the moving image data is updated in the subject detection area. When the moving image data is being recorded in the recording step, the area where the subject is detected is set as the moving image data. And characterized by causing a computer to execute such processing for detection of the object until the image signal constituting the image data is updated it is determined to a size to end.
本発明の記憶媒体は、前記に記載のプログラムを記憶したことを特徴とする。 The storage medium of the present invention stores the program described above.
本発明によれば、動画像データを記録している時であっても、被写体を検出するための処理に必要となる時間を短縮するとともに、被写体の検出精度を向上させることができる。 According to the present invention, even when moving image data is being recorded, it is possible to reduce the time required for processing for detecting a subject and improve the detection accuracy of the subject.
(第1の実施形態)
以下、本発明の第1の実施形態について、図面を参照しながら説明する。
図1は、本実施形態に係る撮像装置100の構成例を示すブロック図である。
図1において、撮像装置100は、レンズ1、撮像素子2、AFE(Analog Front End)3、カメラ信号処理回路4、動画記録処理回路5、被写体検出回路6、被写体検出領域決定回路7、及びCPU8を備えている。
(First embodiment)
Hereinafter, a first embodiment of the present invention will be described with reference to the drawings.
FIG. 1 is a block diagram illustrating a configuration example of an
In FIG. 1, an
レンズ1に投影されて撮像素子2に被写体像が結像されると、撮像素子2は、被写体像を光電変換により電気信号に変換してアナログ画像信号S2を生成しAFE3に出力する。撮像素子2から出力されたアナログ画像信号S2は、AFE3内部のA/D変換器によりデジタル画像信号に変換され、画像信号S3として出力される。なお、レンズ1、撮像素子2及びAFE3は画像入力手段として機能する。
When projected onto the lens 1 and a subject image is formed on the
カメラ信号処理回路4は、AFE3から出力される画像信号S3を入力し、アパーチャ補正、ガンマ補正、ホワイトバランス等の撮像系の信号処理を行い、画像信号S4として動画記録処理回路5に出力する。
The camera
動画記録処理回路5は、カメラ信号処理回路4から出力される画像信号S4、及びCPU8から出力される信号S81を入力する。そして、動画像データを記録する場合は、カメラ信号処理回路4から出力された画像信号S4を不図示の記録メディア(記録媒体)に対して記録し、それ以外の状態の時には何も処理を行わないようにする。
The moving image
被写体検出回路6は、AFE3から出力される画像信号S3、被写体検出領域決定回路7から出力される信号S7、及びCPU8から出力される信号S81を入力する。そして、不図示のデータベースに予め保存されている特定の画像パターンと入力された画像信号S3の画像とのパターンマッチングを行うことにより、複数の被写体の検出を行う。そして、検出された被写体の座標位置及び大きさについての情報を信号S6として出力する。
The
被写体検出領域決定回路7は、被写体検出回路6から出力される信号S6、及びCPU8から出力される信号S81を入力する。そして、CPU8から出力される信号S81の状態に応じて、被写体検出回路6から出力される信号S6における被写体が検出された座標位置及び大きさから、次回の被写体検出を行う領域を算出し、信号S7として出力する。
The subject detection
CPU8は、動画の記録中であるか否かを示す信号を信号S81として出力する。動画の記録中である場合は信号S81を1として出力し、動画記録の待機中である場合は、信号S81を0として出力する。
The
以下、各ブロックの処理の詳細な内容について説明する。
動画記録処理回路5は、前述したように、カメラ信号処理回路4から出力される画像信号S4、及びCPU8から出力される信号S81を入力する。このとき、CPU8から出力された信号S81が1であった場合は、動画の記録中であることを示しているので、カメラ信号処理回路4から出力される画像信号S4を記録メディアに対して記録する。一方、CPU8から出力された信号S81が0であった場合は、動画の記録を行っていない状態であるので、何も処理は行わず、待機する。
Hereinafter, detailed contents of the processing of each block will be described.
As described above, the moving image
図9は、本実施形態における被写体検出回路6による被写体検出の処理手順の一例を示すフローチャートである。
図9において、AFE3から出力される画像信号S3、被写体検出領域決定回路7から出力される信号S7、及びCPU8から出力される信号S81を入力すると、処理を開始する。被写体を検出する際には、AFE3から出力された画像信号S3の画像について、被写体検出領域決定回路7から出力された信号S7で指定された画像の位置、大きさに対して行う。
FIG. 9 is a flowchart showing an example of a processing procedure of subject detection by the
In FIG. 9, when an image signal S3 output from the
まず、ステップS901において、AFE3から出力された画像信号S3を不図示のメモリに画像データとして保持する。次に、メモリに保持した画像データに対して、被写体検出領域決定回路7から出力された信号S7の情報に応じて、読み出し開始アドレス及び読み出し画像サイズの調整を行う。そしてデータベースに予め保存してある画像パターンとメモリから読み出した画像データとのパターンマッチングを行うことにより、複数の被写体の検出処理を開始する。
First, in step S901, the image signal S3 output from the
次に、ステップS902において、CPU8から出力された信号S81の判別を行う。この判別の結果、CPU8から出力された信号S81が1であった場合は、動画の記録中であるため、ステップS903に進み、AFE3から出力された画像信号S3が更新された時点で検出処理を打ち切る。そして、その時点で検出されている被写体の座標及び大きさについての情報を信号S6として出力する。なお、被写体検出回路6の処理速度によっては、AFE3から出力された画像信号S3が更新された時点では、ごく一部の領域からしか被写体の検出を行えない場合がある。このような場合は、被写体検出回路6の処理速度に応じて設定された回数だけ、画像信号S3が更新された時点で検出処理を打ち切るようにすればよい。
Next, in step S902, the signal S81 output from the
一方、ステップS902の判別の結果、CPU8から出力された信号S81が0であった場合は、動画記録が待機中であるため、ステップS904に進む。AFE3から出力された画像信号S3が更新されても、被写体検出処理が終了していない場合は、メモリに保持された画像データの更新を行わないようにする。そして、ステップS904において被写体検出処理を継続し、被写体検出処理が終了した時点で、検出されている被写体の座標位置及び大きさについての情報を信号S6として出力する。なお、被写体検出処理が終了すると、次のステップS905において、AFE3から出力される画像信号S3によりメモリに保持された画像データの更新を行う。
On the other hand, if the signal S81 output from the
次に、ステップS906において、被写体検出処理を終了するか否かを判別する。この判別の結果、終了する場合はそのまま処理を終了し、終了しない場合は、ステップS901に戻り、再び被写体検出処理を開始する。 Next, in step S906, it is determined whether or not to end the subject detection process. As a result of this determination, if the process ends, the process ends. If not, the process returns to step S901, and the subject detection process starts again.
図10は、本実施形態における被写体検出領域決定回路7による検出領域を決定する処理手順の一例を示すフローチャートである。
図10において、被写体検出回路6から出力された信号S6、及びCPU8から出力された信号S81を入力すると、処理を開始する。そして、ステップS1001において、CPU8から出力された信号S81の判別を行う。
FIG. 10 is a flowchart illustrating an example of a processing procedure for determining a detection area by the subject detection
In FIG. 10, when a signal S6 output from the
この判別の結果、CPU8から出力された信号S81が0であった場合は、動画記録が待機中であるため、ステップS1002に進む。動画記録が待機中の間は、画面全体で被写体検出処理を行うため、ステップS1002において、読み出し開始アドレス、及び読み出し画像サイズを、メモリに保持した画像データにおいて全画面となるように設定し、信号S7として出力する。そして、ステップS1003において、被写体検出回路6から出力された信号S6を検出結果の履歴として保持しておく。履歴の保持を行う信号の数は、外部から設定された値でも、予め決められている値でもよい。
If the signal S81 output from the
一方、ステップS1001の判別の結果、CPU8から出力された信号S81が1であった場合は、動画の記録中であるため、ステップS1004に進む。そして、ステップS1004において、被写体検出回路6から出力された信号S6に基づいて、検出されたそれぞれの被写体の位置及び大きさから、次に出力される画像信号S3にて被写体の検出を行うための検出領域を決定する。被写体検出回路6にて複数の被写体が検出されたのであれば、その被写体の位置及び大きさに応じて、複数の検出領域が決定される。このとき、それぞれの検出領域は、対応する被写体の大きさから、図2に示す関係に従ってその大きさが決定される。そして、被写体検出回路6から出力された信号S6に含まれる被写体の座標位置の情報とともに信号S7として出力する。
On the other hand, if the signal S81 output from the
なお、図2に示すものは一例であり、検出領域の大きさの最小値が0より大きくなっており、検出された被写体の大きさが大きくなるに従って検出領域の大きさが大きくなり、かつ、検出領域の大きさが検出された被写体の大きさよりも大きくなっていればよい。 The example shown in FIG. 2 is an example, and the minimum value of the size of the detection area is larger than 0, the size of the detection area increases as the size of the detected subject increases, and It is only necessary that the size of the detection area is larger than the size of the detected subject.
次に、ステップS1005において、被写体検出回路6から出力された信号S6と、保持していた検出結果の履歴との比較を行う。そして、被写体検出回路6で検出された被写体の位置及び大きさと、検出結果の履歴として保持されていた被写体の位置及び大きさを比較し、その相関値が最も高いものを同一の被写体であると判断する。この相関値には閾値を設けており、相関値がこの閾値に達する被写体が存在しない場合には、同一の被写体は存在しないと判断する。この比較の結果、検出結果の履歴に含まれている被写体のうち、今回、被写体検出回路6にて検出されなかった被写体が存在する場合は、ステップS1006に進む。これは、以前は検出できていた被写体が、今回は検出できなかったことを示す。そして、ステップS1006において、今回検出されなかった被写体が、被写体検出回路6から出力される信号S6に続けてN回以上含まれていなかったか否かを判別する。これは、被写体は静止しているとは限らないため、被写体が後ろを向いたり、他の被写体が前を横切ったりすることで、それまで検出できていた被写体が一時的に検出できなくなることがある。そこで、それまで検出できていた被写体が検出できなくなったとしても、それが一時的なものであれば、検出領域として維持することが望ましい。そのため、連続して検出できなかった回数がN回に達したか否かによって、検出領域として維持するか否かを切り換える。
In step S1005, the signal S6 output from the
この判別の結果、信号S6に含まれていない回数がN回未満である被写体については、検出対象の領域とするため、ステップS1007に進む。そして、ステップS1007において、履歴の被写体の大きさから、図2に示した関係によって、検出領域の大きさを決定し、履歴の被写体の座標位置の情報とともに信号S7に追加する。すなわち、信号S7には、被写体検出回路6で今回検出された被写体の位置及び大きさに基づく検出領域と、被写体検出回路6で今回は検出されなかったが、過去N回以内に検出された被写体の位置及び大きさに基づく検出領域が含まれる。なお、閾値とするN回は、外部から設定された値でも、予め決められている値でもよい。
As a result of the determination, the subject whose number of times not included in the signal S6 is less than N times is set as a detection target region, and the process proceeds to step S1007. In step S1007, the size of the detection area is determined from the size of the history subject according to the relationship shown in FIG. 2, and is added to the signal S7 together with information on the coordinate position of the history subject. That is, the signal S7 includes a detection area based on the position and size of the subject detected this time by the
一方、ステップS1005の比較の結果、検出結果の履歴に含まれている結果がすべて、被写体検出回路6から出力された信号S6に含まれている場合は、ステップS1008に進む。また、ステップS1006の判別の結果、N回以上含まれていなかった場合も、ステップS1008に進む。つまり、信号S7には、被写体検出回路6で今回検出された被写体の位置及び大きさに基づく検出領域のみが含まれる。
On the other hand, as a result of the comparison in step S1005, if all the results included in the history of detection results are included in the signal S6 output from the
次に、ステップS1008において、検出領域を決定する処理を終了するか否かを判別する。この判別の結果、終了する場合はそのまま処理を終了し、終了しない場合は、ステップS1001に戻り、再び検出領域を決定する処理を開始する。
なお、被写体検出領域決定回路7は、被写体検出回路6がそれまでに一度も被写体を検出できていなかったり、検出結果の履歴にある被写体全てについてN回以上検出できなかったりした場合には、検出領域として初期値を設定しておく。この初期値によれば、画像信号S3が更新されるまでの間で被写体が検出できる範囲のうち最も広い面積となる領域が、画面の中央部に被写体検出領域として設定される。被写体の存在確率の高い画面中央部を中心に、なるべく広い範囲を被写体検出領域に設定することで、少しでも被写体を検出する確率を高くするためである。
Next, in step S1008, it is determined whether or not to end the process for determining the detection area. As a result of the determination, if the process ends, the process ends. If not, the process returns to step S1001, and the process of determining the detection area is started again.
Note that the subject detection
以上のように本実施形態によれば、動画記録の待機中と動画の記録中とで被写体検出を行う領域を変更して、被写体を検出する方法を変更するようにした。動画記録の待機中は画面の広い範囲にわたってなるべく多くの被写体を検出し、それらの履歴を蓄積しておくことで、予め被写体の検出領域に適した領域を抽出することができる。そして、動画記録中は、この蓄積された情報に基づいて、検出領域を限定して被写体の検出を行うことで、被写体の検出に要する時間を向上させることができる。これにより、動画の記録中において被写体を高精度に検出するとともに、被写体を検出する処理に必要となる時間の短縮を実現することができる。 As described above, according to the present embodiment, the method for detecting a subject is changed by changing the region where the subject is detected during standby for moving image recording and during recording of a moving image. While waiting for moving image recording, by detecting as many subjects as possible over a wide range of the screen and accumulating their histories, it is possible to extract a region suitable for the subject detection region in advance. During moving image recording, the time required for detecting a subject can be improved by limiting the detection area and detecting the subject based on the accumulated information. As a result, it is possible to detect the subject with high accuracy during recording of a moving image and to reduce the time required for the processing for detecting the subject.
(第2の実施形態)
以下、本発明の第2の実施形態について、図面を参照しながら説明する。
図3は、本実施形態に係る撮像装置300の構成例を示すブロック図である。
図3において、撮像装置300は、レンズ1、撮像素子2、AFE3、カメラ信号処理回路4、動画記録処理回路5、被写体検出回路6、被写体検出領域決定回路72、CPU82、及びレンズ駆動制御回路9を備えている。なお、レンズ1、撮像素子2、AFE3、カメラ信号処理回路4、動画記録処理回路5、及び被写体検出回路6については、その動作が第1の実施形態と同様なため説明を割愛する。本実施形態では、被写体検出領域決定回路72、CPU82、及びレンズ駆動制御回路9についてのみ説明を行う。
(Second Embodiment)
Hereinafter, a second embodiment of the present invention will be described with reference to the drawings.
FIG. 3 is a block diagram illustrating a configuration example of the
In FIG. 3, the
CPU82は、動画記録の状態を示す信号を信号S81として出力するとともに、レンズ駆動の制御に関する信号を信号S82として出力する。第1の実施形態と同様に、動画の記録中であった場合は信号S81を1として出力し、動画記録の待機中である場合は、信号S81を0として出力する。
The
被写体検出領域決定回路72は、被写体検出回路6から出力される信号S6及びCPU82から出力される信号S81及び信号S82を入力する。CPU82から出力される信号S81が0であった場合は、動画記録が待機中であることを意味しているため、次のような処理を行う。
The subject detection
動画記録が待機中の間は、図10のステップS1002と同様に、画面全体で被写体検出処理を行うため、読み出し開始アドレス、及び読み出し画像サイズを、メモリに保持した画像データにおいて全画面となるように設定し、信号S72として出力する。また、ステップS1003と同様に、被写体検出回路6から出力された信号S6を検出結果の履歴として保持しておく。履歴の保持を行う数は、外部から設定された値でも、予め決められている値でもよい。
While moving image recording is on standby, as in step S1002 in FIG. 10, subject detection processing is performed on the entire screen, so the read start address and read image size are set to be the full screen in the image data stored in the memory. And output as a signal S72. Similarly to step S1003, the signal S6 output from the
一方、CPU82から出力された信号S81が1であった場合は、動画の記録中であることを意味しているため、次のような処理を行う。被写体検出領域回路72は、被写体検出回路6から出力された信号S6の検出された被写体の大きさから、図4(a)に示した関係に従って検出領域の大きさを決定する。そして、被写体検出回路6から出力された信号S6に含まれる被写体の座標位置の情報とともに、信号S72として出力する。
On the other hand, when the signal S81 output from the
図4(a)に示す検出領域の大きさの最小値Awは、図4(b)に示す関係によって決定する。また、CPU82から出力される信号S82の値によって、レンズ1の位置情報を取得し、その位置情報からAの値を求め、オフセットとして設定することによって、検出領域の大きさの設定を行う。
The minimum value Aw of the size of the detection area shown in FIG. 4A is determined by the relationship shown in FIG. Further, the position information of the lens 1 is acquired from the value of the signal S82 output from the
なお、図4(a)に示すものは一例である。検出された大きさが大きくなるに従って検出領域の大きさが大きくなり、検出された大きさが同じときにワイド側よりもテレ側の方が検出領域の大きさが大きくなっていれば、レンズ1の位置によってグラフの特性が変化していてもよい。また、図4(b)に示したものも一例であり、レンズ1の位置がワイド端からテレ端方向に移動するに従って、Aの値が大きくなるようになっていればよい。 In addition, what is shown to Fig.4 (a) is an example. As the detected size increases, the size of the detection region increases. When the detected size is the same, if the size of the detection region is larger on the tele side than on the wide side, the lens 1 The characteristic of the graph may be changed depending on the position of. 4B is also an example, and it is sufficient that the value of A increases as the position of the lens 1 moves from the wide end toward the tele end.
次に、図10のステップS1005と同様に、被写体検出回路6から出力された信号S6と、保持していた検出結果の履歴との比較を行う。この比較の結果、検出結果の履歴に含まれている被写体のうち、被写体検出回路6にて今回は検出されなかった被写体が存在する場合は、N回連続で検出に失敗するまで、検出対象の領域として維持する。この点は第1の実施形態と同様である。
Next, as in step S1005 of FIG. 10, the signal S6 output from the
そして、履歴の被写体の大きさから、図4(a)及び図4(b)に示した関係によって、検出領域の大きさを決定し、履歴の被写体の座標位置の情報とともに信号S72として出力する。なお、閾値とするN回とは、外部から設定された値でも、予め決められている値でもよい。 Then, the size of the detection area is determined from the size of the history subject according to the relationship shown in FIGS. 4A and 4B, and is output as a signal S72 together with information on the coordinate position of the history subject. . The N times as the threshold value may be a value set from the outside or a predetermined value.
一方、レンズ駆動制御回路9は、CPU82から出力された信号S82を入力し、信号S82によって、レンズ1を動かす方向及びレンズ1の移動量を算出する。そして、レンズ1を駆動するための制御信号を信号S9として出力する。
On the other hand, the lens
以上のように本実施形態によれば、動画記録の待機中と動画の記録中とで被写体検出を行う領域を変更して、被写体を検出する方法を変更し、さらに、ズームレンズの位置情報に応じて被写体を検出する領域の大きさを動的に制御するようにした。これにより、動画の記録中において被写体を高精度に検出するとともに、被写体を検出する処理に必要となる時間の短縮を実現することができる。 As described above, according to the present embodiment, the method for detecting a subject is changed by changing the region for subject detection during standby for movie recording and during movie recording, and further, the position information of the zoom lens is added. Accordingly, the size of the area for detecting the subject is dynamically controlled. As a result, it is possible to detect the subject with high accuracy during recording of a moving image and to reduce the time required for the processing for detecting the subject.
(第3の実施形態)
以下、本発明の第3の実施形態について、図面を参照しながら説明する。
図5は、本実施形態に係る撮像装置500の構成例を示すブロック図である。
図5において、撮像装置500は、レンズ1、撮像素子2、AFE3、カメラ信号処理回路4、動画記録処理回路5、被写体検出回路6、被写体検出領域決定回路73、CPU83、及びリサイズ処理回路10を備えている。
(Third embodiment)
Hereinafter, a third embodiment of the present invention will be described with reference to the drawings.
FIG. 5 is a block diagram illustrating a configuration example of the imaging apparatus 500 according to the present embodiment.
In FIG. 5, the imaging apparatus 500 includes a lens 1, an
なお、レンズ1、撮像素子2、AFE3、カメラ信号処理回路4、及び被写体検出回路6については、その動作が第1の実施形態と同様なため説明を割愛する。また、動画記録処理回路5についても、入力される信号がリサイズ処理回路10から出力される画像信号S10となっただけで、その動作は第1の実施形態と同様なため説明を割愛する。本実施形態では、被写体検出領域決定回路73、CPU83、及びリサイズ処理回路10についてのみ説明を行う。
Note that the operation of the lens 1, the
CPU83は、動画記録の状態を示す信号を信号S81として出力するとともに、電子ズームのズーム倍率に関する信号を信号S83として出力する。第1の実施形態と同様に、動画の記録中であった場合は、信号S81を1として出力し、動画記録の待機中であった場合は、信号S81を0として出力する。
The
被写体検出領域決定回路73は、被写体検出回路6から出力される信号S6及びCPU83から出力される信号S81及び信号S83を入力する。CPU83から出力される信号S81が0であった場合は、動画記録が待機中であることを意味しているため、次のような処理を行う。
The subject detection
動画記録が待機中の間は、図10のステップS1002と同様に、画面全体で被写体検出処理を行うため、読み出し開始アドレス、及び読み出し画像サイズを、メモリに保持した画像データの全画面となるように設定し、信号S73として出力する。また、ステップS1003と同様に、被写体検出回路6から出力された信号S6を検出結果の履歴として保持しておく。履歴の保持を行う数は、外部から設定された値でも、予め決められている値でもよい。
While moving image recording is on standby, as in step S1002 of FIG. 10, subject detection processing is performed on the entire screen, so the read start address and read image size are set to be the entire screen of the image data stored in the memory. And output as a signal S73. Similarly to step S1003, the signal S6 output from the
一方、CPU83から出力された信号S81が1であった場合は、動画の記録中であることを意味しているため、次のような処理を行う。図6は、本実施形態において、動画の記録中にリサイズ処理回路10によってリサイズ処理が行われている例を示す概念図である。
On the other hand, when the signal S81 output from the
CPU83から出力される信号S83のズーム倍率が0の時は、カメラ信号処理回路4から出力される画像信号S4の画像全体を動画として記録する。このため、切り出し処理は行わず、画面全体を被写体検出領域とする。また、動画記録処理回路5で動画の記録処理を行う画像サイズは一定である。したがって、ズーム倍率が高くなるに従って、カメラ信号処理回路4から出力される画像信号S4の画像から、リサイズ処理回路10において切り出し処理を行う画像サイズは小さくなる。そこで、CPU83から出力される信号S83のズーム倍率に応じて被写体の検出領域を変化するように制御を行う。
When the zoom magnification of the signal S83 output from the
CPU83から出力される信号S83のズーム倍率から、図7に示した関係に従って検出領域の大きさを決定し、リサイズ処理によって切り出し画像と中央が一致する座標位置の情報とともに信号S73として出力する。なお、図7に示したものは一例であり、ズーム倍率が高くなるに従って、検出領域が小さくなっていればよい。
Based on the zoom magnification of the signal S83 output from the
また、被写体検出回路6から出力される信号S6を用いて、被写体の検出結果に応じて被写体検出処理の領域の大きさを変化させても同様の効果を得ることができる。被写体検出回路6から出力される信号S6における検出された被写体の大きさのうち、最も被写体が大きい検出結果から、図8に示した関係によって検出領域の大きさに乗算する係数を決定する。そして、図7に示す関係から得た検出領域の大きさに対してその係数を乗算することによって検出領域の大きさを決定し、リサイズ処理によって切り出し画像と中央が一致する座標位置の情報とともに信号S73として出力する。
The same effect can be obtained by changing the size of the subject detection processing area according to the subject detection result using the signal S6 output from the
なお、被写体検出回路6から出力された信号S6において被写体が検出されなかった場合は、検出結果の履歴を参照する。その結果、連続してN回検出されていなかった場合は乗算を行わず、図7に示す関係から得られた検出領域の大きさを信号S73として出力する。
When no subject is detected in the signal S6 output from the
一方、検出結果の履歴を参照した結果、N回以内に被写体が検出されていた場合は、検出結果の履歴から図8に示した関係によって、検出領域の大きさに乗算する係数を決定する。そして、図7に示した関係から得た検出領域の大きさに対してその係数を乗算することによって検出領域の大きさを決定し、リサイズ処理によって切り出し画像と中央が一致する座標位置の情報とともに信号S73として出力する。なお、図8に示したものは一例であり、検出されたサイズが大きくなるに従って、係数が大きくなっていればよい。 On the other hand, if the subject is detected within N times as a result of referring to the detection result history, a coefficient to be multiplied by the size of the detection region is determined from the detection result history according to the relationship shown in FIG. Then, the size of the detection area is determined by multiplying the size of the detection area obtained from the relationship shown in FIG. Output as signal S73. Note that the example shown in FIG. 8 is an example, and it is sufficient that the coefficient increases as the detected size increases.
なお、リサイズ処理回路10は、カメラ信号処理回路4から出力される画像信号S4、及びCPU83から出力される信号S83を入力する。そして、リサイズ処理回路10では、CPU83から出力される、ズーム倍率を示す信号S83の値に応じて、カメラ信号処理回路4から出力される画像信号S4の画像の中央部分の切り出しサイズを決定する。そして、拡大処理を行って画像信号S10として動画記録処理回路5に出力する。
The
以上のように本実施形態によれば、動画記録の待機中と動画の記録中とで被写体検出を行う領域を変更して、被写体を検出する方法を変更し、さらに、電子ズームのズーム倍率の情報に応じて検出領域の大きさを動的に制御するようにした。これにより、動画の記録中において被写体を高精度に検出するとともに、被写体を検出する処理に必要となる時間の短縮を実現することができる。 As described above, according to the present embodiment, the method for detecting a subject is changed by changing the region for subject detection during standby for video recording and during video recording, and further, the zoom magnification of the electronic zoom can be changed. The size of the detection area is dynamically controlled according to the information. As a result, it is possible to detect the subject with high accuracy during recording of a moving image and to reduce the time required for the processing for detecting the subject.
(本発明に係る他の実施形態)
前述した本発明の実施形態における画像処理装置を構成する各手段、並びに画像処理方法の各工程は、コンピュータのRAMやROMなどに記憶されたプログラムが動作することによって実現できる。このプログラム及び前記プログラムを記憶したコンピュータ読み取り可能な記憶媒体は本発明に含まれる。
(Other embodiments according to the present invention)
Each means constituting the image processing apparatus and each step of the image processing method in the embodiment of the present invention described above can be realized by operating a program stored in a RAM or ROM of a computer. This program and a computer-readable storage medium storing the program are included in the present invention.
また、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施形態も可能であり、具体的には、複数の機器から構成されるシステムに適用してもよいし、また、一つの機器からなる装置に適用してもよい。 In addition, the present invention can be implemented as, for example, a system, apparatus, method, program, storage medium, or the like. Specifically, the present invention may be applied to a system including a plurality of devices. The present invention may be applied to an apparatus composed of a single device.
なお、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム(実施形態では図9及び図10に示すフローチャートに対応したプログラム)を、システムまたは装置に直接、または遠隔から供給する場合も含む。そして、そのシステムまたは装置のコンピュータが前記供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。 In the present invention, a software program for realizing the functions of the above-described embodiment (in the embodiment, a program corresponding to the flowcharts shown in FIGS. 9 and 10) may be supplied directly or remotely to the system or apparatus. Including. This includes the case where the system or the computer of the apparatus is also achieved by reading and executing the supplied program code.
したがって、本発明の機能処理をコンピュータで実現するために、前記コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。 Accordingly, since the functions of the present invention are implemented by computer, the program code installed in the computer also implements the present invention. In other words, the present invention includes a computer program itself for realizing the functional processing of the present invention.
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であってもよい。 In that case, as long as it has the function of a program, it may be in the form of object code, a program executed by an interpreter, script data supplied to the OS, and the like.
プログラムを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスクなどがある。さらに、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM、DVD−R)などもある。 Examples of the storage medium for supplying the program include a flexible disk, a hard disk, an optical disk, and a magneto-optical disk. Further, there are MO, CD-ROM, CD-R, CD-RW, magnetic tape, nonvolatile memory card, ROM, DVD (DVD-ROM, DVD-R) and the like.
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続する方法がある。そして、前記ホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記憶媒体にダウンロードすることによっても供給できる。 As another program supply method, there is a method of connecting to a homepage on the Internet using a browser of a client computer. The computer program itself of the present invention or a compressed file including an automatic installation function can be supplied from the homepage by downloading it to a storage medium such as a hard disk.
また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。 It can also be realized by dividing the program code constituting the program of the present invention into a plurality of files and downloading each file from a different homepage. That is, a WWW server that allows a plurality of users to download a program file for realizing the functional processing of the present invention on a computer is also included in the present invention.
また、その他の方法として、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせる。そして、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。 As another method, the program of the present invention is encrypted, stored in a storage medium such as a CD-ROM, distributed to users, and encrypted from a homepage via the Internet to users who have cleared predetermined conditions. Download the key information to be solved. It is also possible to execute the encrypted program by using the key information and install the program on a computer.
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。さらに、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現され得る。 Further, the functions of the above-described embodiments are realized by the computer executing the read program. Furthermore, based on the instructions of the program, an OS or the like running on the computer performs part or all of the actual processing, and the functions of the above-described embodiments can be realized by the processing.
さらに、その他の方法として、まず記憶媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。そして、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によっても前述した実施形態の機能が実現される。 As another method, a program read from a storage medium is first written in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer. Then, based on the instructions of the program, the CPU or the like provided in the function expansion board or function expansion unit performs part or all of the actual processing, and the functions of the above-described embodiments are also realized by the processing.
1 レンズ
2 撮像素子
3 AFE
4 カメラ信号処理回路
5 動画記録処理回路
6 被写体検出回路
7 被写体検出領域決定回路
8 CPU
100 撮像装置
1
4 Camera
100 Imaging device
Claims (11)
前記画像入力手段によって入力された前記動画像データを構成する画像信号から特定の被写体を検出する被写体検出手段と、
前記被写体検出手段による検出を行う領域を決定する領域決定手段と、
前記画像入力手段によって入力された動画像データを記録媒体に記録する記録手段とを有し、
前記領域決定手段は、前記記録手段による動画像データの記録中でない場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了しない大きさに決定し、前記記録手段による動画像データの記録中である場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了する大きさに決定することを特徴とする画像処理装置。 An image input means for inputting an image signal constituting the moving image data,
A subject detecting means for detecting a specific object from an image signal constituting the moving image data input by said image input means,
Area determining means for determining an area to be detected by the subject detecting means;
And recording means for recording the moving image data input by said image input means on a recording medium,
When the moving image data is not being recorded by the recording means, the area determining means sets the area in which the object is detected until the image signal constituting the moving image data is updated. The size is determined so that the detection process is not completed, and when the moving image data is being recorded by the recording unit, the area where the subject is detected is updated until the image signal constituting the moving image data is updated. The image processing apparatus is characterized in that the size is determined so that the subject detection process is completed during the period .
前記画像入力工程において入力された前記動画像データを構成する画像信号から特定の被写体を検出する被写体検出工程と、
前記被写体検出工程における検出を行う領域を決定する領域決定工程と、
前記画像入力工程において入力された動画像データを記録媒体に記録する記録工程とを有し、
前記領域決定工程においては、前記記録工程における動画像データの記録中でない場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了しない大きさに決定し、前記記録工程における動画像データの記録中である場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了する大きさに決定することを特徴とする画像処理方法。 An image input step of inputting an image signal constituting the moving image data,
A subject detection step of detecting a specific object from the image signal constituting the moving image data input in the image input step,
A region determining step for determining a region for detection in the subject detection step;
And a recording step of recording the moving image data input in the image input step to the recording medium,
In the area determination step, when the moving image data is not being recorded in the recording step, the area in which the object is detected is set as the area until the image signal constituting the moving image data is updated. When the moving image data is being recorded in the recording process, the image signal constituting the moving image data is updated in the area where the subject is detected. The image processing method is characterized in that the size is determined so that the subject detection process is completed in the meantime .
前記画像入力工程において入力された前記動画像データを構成する画像信号から特定の被写体を検出する被写体検出工程と、
前記被写体検出工程における検出を行う領域を決定する領域決定工程と、
前記画像入力工程において入力された動画像データを記録媒体に記録する記録工程とをコンピュータに実行させ、
前記領域決定工程においては、前記記録工程における動画像データの記録中でない場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了しない大きさに決定し、前記記録工程における動画像データの記録中である場合は、前記被写体の検出を行う領域を、前記動画像データを構成する画像信号が更新されるまでの間に前記被写体の検出の処理が終了する大きさに決定するようにコンピュータに実行させることを特徴とするプログラム。 An image input step of inputting an image signal constituting the moving image data,
A subject detection step of detecting a specific object from the image signal constituting the moving image data input in the image input step,
A region determining step for determining a region for detection in the subject detection step;
And a recording step of recording the moving image data input in the image input step to the recording medium is executed by a computer,
In the area determination step, when the moving image data is not being recorded in the recording step, the area in which the object is detected is set as the area until the image signal constituting the moving image data is updated. When the moving image data is being recorded in the recording process, the image signal constituting the moving image data is updated in the area where the subject is detected. A program that causes a computer to execute the process so as to determine a size at which the subject detection processing is completed .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008311436A JP5202264B2 (en) | 2008-12-05 | 2008-12-05 | Image processing apparatus and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008311436A JP5202264B2 (en) | 2008-12-05 | 2008-12-05 | Image processing apparatus and image processing method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010136204A JP2010136204A (en) | 2010-06-17 |
JP5202264B2 true JP5202264B2 (en) | 2013-06-05 |
Family
ID=42347012
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008311436A Expired - Fee Related JP5202264B2 (en) | 2008-12-05 | 2008-12-05 | Image processing apparatus and image processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5202264B2 (en) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006025238A (en) * | 2004-07-08 | 2006-01-26 | Fuji Photo Film Co Ltd | Imaging device |
JP4769567B2 (en) * | 2005-12-16 | 2011-09-07 | キヤノン株式会社 | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, COMPUTER PROGRAM, AND STORAGE MEDIUM |
JP4218712B2 (en) * | 2006-08-04 | 2009-02-04 | ソニー株式会社 | Face detection device, imaging device, and face detection method |
-
2008
- 2008-12-05 JP JP2008311436A patent/JP5202264B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010136204A (en) | 2010-06-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4241709B2 (en) | Image processing device | |
JP4581924B2 (en) | Image reproducing apparatus and image reproducing program | |
JP2009053815A (en) | Subject tracking program and subject tracking device | |
EP2211306A1 (en) | Imaging apparatus, subject tracking method and storage medium | |
JP4798259B2 (en) | Subject tracking device and camera | |
JP2007129587A (en) | Imaging apparatus, interchangeable lens apparatus, imaging control method, data processing method for distortion aberration correction and computer program | |
US20100266160A1 (en) | Image Sensing Apparatus And Data Structure Of Image File | |
US8508654B1 (en) | System for topology based automatic focus | |
JP2010136095A (en) | Track imaging device, track imaging method, and computer program | |
JP5202264B2 (en) | Image processing apparatus and image processing method | |
JP2009088944A (en) | Character recognition apparatus, imaging apparatus and video reproducing apparatus | |
US20130051633A1 (en) | Image processing apparatus | |
WO1998012869A1 (en) | Movement detecting apparatus | |
JP2009253542A (en) | Photographing apparatus, image recording method, and program | |
JP2007129354A (en) | Image processing apparatus | |
US11921816B2 (en) | Information processing apparatus that specifies a subject and method, image capturing apparatus, and image capturing system | |
JP4804417B2 (en) | Moving picture imaging apparatus and moving picture imaging method | |
KR101945243B1 (en) | Method and Apparatus For Providing Multiple-Speed Reproduction of Video | |
JP4763415B2 (en) | Image processing device | |
JP2018201102A (en) | Imaging apparatus | |
JP5697429B2 (en) | Imaging apparatus, control method therefor, and program | |
US20220292692A1 (en) | Image processing apparatus and method of processing image | |
JP6705486B2 (en) | Object detection apparatus, system, method and program | |
JP5020705B2 (en) | Moving picture imaging apparatus and moving picture imaging method | |
JP6335064B2 (en) | IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND COMPUTER PROGRAM |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111201 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121018 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121023 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121218 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130115 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130212 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5202264 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160222 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |