JP2009124210A - Image pickup apparatus, image pickup method, image searching apparatus and image searching method - Google Patents

Image pickup apparatus, image pickup method, image searching apparatus and image searching method Download PDF

Info

Publication number
JP2009124210A
JP2009124210A JP2007292814A JP2007292814A JP2009124210A JP 2009124210 A JP2009124210 A JP 2009124210A JP 2007292814 A JP2007292814 A JP 2007292814A JP 2007292814 A JP2007292814 A JP 2007292814A JP 2009124210 A JP2009124210 A JP 2009124210A
Authority
JP
Japan
Prior art keywords
image
motion vector
timing
inversion
shooting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2007292814A
Other languages
Japanese (ja)
Inventor
Osamu Nonaka
修 野中
Takeshi Suzuki
猛士 鈴木
Yoshiaki Matsuzawa
良紀 松澤
Satoshi Arai
敏 荒井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Olympus Imaging Corp
Original Assignee
Olympus Corp
Olympus Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp, Olympus Imaging Corp filed Critical Olympus Corp
Priority to JP2007292814A priority Critical patent/JP2009124210A/en
Priority to CN200810174039XA priority patent/CN101442615B/en
Publication of JP2009124210A publication Critical patent/JP2009124210A/en
Withdrawn legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)
  • Studio Devices (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide an image pickup apparatus, an image pickup method, an image searching apparatus and an image searching method, capable of searching good-looking images for a fast-moving subject such as in a sport scene without missing a photographic timing having good-looking scene without requiring detailed setting. <P>SOLUTION: A face detecting section 5 detects a face of an image of a subject 11 acquired with a photographing section 2. A motion detecting section 9 detects a motion vector of hands in a neighboring portion 12b. A best shot determining section 1a determines whether or not the face is positioned at a center portion 12a and whether or not the face a little moves (S3), detects a timing when the motion vector of the hands in the neighboring portion 12b reverses (S4, S5), and performs best shot photographing at a reverse timing. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、撮像装置、撮像方法、画像検索装置および画像検索方法に関し、詳しくは、動きの速い被写体について見栄えの良い写真となる撮影タイミングを検出し、また、連写して得た多数の写真の中から、見栄えのよい画像を迅速かつ分かり易く検索が可能な撮像装置、撮像方法、画像検索装置、画像検索方法に関する。   The present invention relates to an image pickup apparatus, an image pickup method, an image search apparatus, and an image search method. More specifically, the present invention detects a shooting timing that makes a good-looking photograph of a fast-moving subject, and also detects a large number of photographs obtained by continuous shooting. The present invention relates to an image pickup apparatus, an image pickup method, an image search apparatus, and an image search method capable of quickly and easily searching for a good-looking image.

近年、カメラがデジタル化され、高感度化、露出制御範囲の拡大など技術的進展があり、カメラが使いやすくなってきている。こうした中で、高速に動く被写体に対しても、見栄えのよい写真が得られるカメラが望まれてきている。特にアマチュアにとって、スポーツ写真等の撮影の際には見栄えの良い瞬間を撮影するのは簡単ではない。また、スポーツなど高速に動く被写体を連写した場合に、大量の画像の中から見栄えの良い写真を選択するのも簡単ではなかった。   In recent years, cameras have been digitized, and technological advances such as higher sensitivity and expanded exposure control range have made the cameras easier to use. Under such circumstances, there has been a demand for a camera capable of obtaining a good-looking photograph even for a subject moving at high speed. Especially for amateurs, it is not easy to shoot a good-looking moment when shooting sports photos. Also, when shooting fast-moving subjects such as sports, it is not easy to select a good-looking photo from a large number of images.

そこで、被写体の動きを検出し、見栄えの良いタイミングで撮影を行うことが考えられる。特許文献1には、予め設定されている特定の動きベクトルに基づいて画像処理を制御する画像処理装置が開示されている。
特開平11−39494号公報
Therefore, it is conceivable to detect the movement of the subject and take a picture at a good-looking timing. Patent Document 1 discloses an image processing apparatus that controls image processing based on a specific motion vector set in advance.
JP 11-39494 A

特許文献1に開示された画像処理装置は、動きベクトル識別回路に、シーンごとに細かい条件指定があり、それを選択する必要がある。このような構成では、各エリアごとの条件指定が必要となり、撮影タイミングを逃してしまうおそれがある。また、撮影後に大量にある画像の中から見栄えのするタイミングで撮影された画像を検索するのも容易ではない。   The image processing apparatus disclosed in Patent Document 1 has a detailed condition designation for each scene in the motion vector identification circuit, and it is necessary to select it. In such a configuration, it is necessary to specify conditions for each area, and there is a risk of missing the shooting timing. In addition, it is not easy to search for images taken at the timing of appearance from a large number of images after shooting.

本発明は、このような事情を鑑みてなされたものであり、細かい設定を必要とせず、スポーツシーン等の高速で動く被写体に対して見栄えのするタイミングを逃さない撮像装置および撮像方法を提供することを目的とする。また、細かい設定を必要とせず、スポーツシーン等の高速で動く被写体に対して見栄えのするタイミングで撮影された画像を検索する画像検索装置および画像検索方法を提供する。   The present invention has been made in view of such circumstances, and provides an imaging apparatus and an imaging method that do not require detailed settings and do not miss the timing of appearance with respect to an object that moves at high speed, such as a sports scene. For the purpose. Further, the present invention provides an image search apparatus and an image search method for searching for an image photographed at a time when an object that moves at high speed, such as a sports scene, does not require fine settings.

上記目的を達成するため第1の発明に係わる撮像装置は、画面内の所定の基準位置の基準画像を中心とした周辺画像の相対的な動きベクトルを検出する動きベクトル検出部と、上記動きベクトルが上下または左右において反転するタイミングを検出する反転タイミング検出部と、上記反転タイミングに応答して撮影を開始する撮像部を備える。   In order to achieve the above object, an imaging apparatus according to a first invention includes a motion vector detection unit that detects a relative motion vector of a peripheral image centered on a reference image at a predetermined reference position in a screen, and the motion vector. Includes an inversion timing detection unit that detects a timing at which the image is inverted vertically or horizontally and an imaging unit that starts imaging in response to the inversion timing.

第2の発明に係わる撮像装置は、上記第1の発明において、上記基準画像は顔画像である。
また、第3の発明に係わる撮像装置は、上記第1の発明において、上記検出部による上記反転タイミングの検出は、上記基準画像の動きが小さい場合に行う。
In the imaging device according to a second invention, in the first invention, the reference image is a face image.
In the imaging apparatus according to a third aspect of the present invention, in the first aspect, the detection of the inversion timing by the detection unit is performed when the movement of the reference image is small.

上記目的を達成するため第4の発明に係わる撮像方法は、画面内の所定の基準位置の基準画像を中心とした周辺画像の相対的な動きベクトルを検出するステップと、上記動きベクトルが上下または左右において反転するタイミングを検出するステップと、上記反転タイミングに応答して撮影を開始するステップを備える。   In order to achieve the above object, an imaging method according to a fourth invention comprises a step of detecting a relative motion vector of a peripheral image centered on a reference image at a predetermined reference position in a screen, and the motion vector is moved up and down or A step of detecting a reversal timing on the left and right sides and a step of starting photographing in response to the reversal timing.

上記目的を達成するため第5の発明に係わる撮像装置は、画面内の所定の基準位置の基準画像を中心とした周辺画像の相対的な動きベクトルを検出する動きベクトル検出部と、上記動きベクトルが上下または左右において反転するタイミングを検出する反転タイミング検出部と、上記反転タイミングを基にして撮影のタイミングを予測し、このタイミング時に撮影を開始する撮像部を備える。
第6の発明に係わる撮像装置は、上記第5の発明において、上記反転タイミング検出部は、少なくとも2つの反転タイミングを検出し、この2つの反転タイミングに基づいて上記撮影のタイミングを予測する。
In order to achieve the above object, an imaging apparatus according to a fifth aspect of the present invention includes a motion vector detection unit that detects a relative motion vector of a peripheral image centered on a reference image at a predetermined reference position in a screen, and the motion vector. Includes an inversion timing detection unit that detects a timing at which the image is inverted vertically or horizontally, and an imaging unit that predicts a shooting timing based on the inversion timing and starts shooting at this timing.
In the imaging device according to a sixth aspect based on the fifth aspect, the inversion timing detection unit detects at least two inversion timings, and predicts the shooting timing based on the two inversion timings.

上記目的を達成するため第7の発明に係わる画像検索装置は、複数の画像を記憶する記憶部と、上記複数の画像について、画面内の所定の基準位置の基準画像を中心とした周辺画像の相対的な動きベクトルを検出する動きベクトル検出部と、上記複数の画像について、上記動きベクトルが上下または左右において反転するタイミングを検出する反転タイミング検出部と、上記反転タイミング時に撮影された画像を選択する選択部を備える。   In order to achieve the above object, an image search device according to a seventh aspect of the present invention is a storage unit for storing a plurality of images, and for the plurality of images, a peripheral image centered on a reference image at a predetermined reference position in a screen. Select a motion vector detection unit that detects a relative motion vector, an inversion timing detection unit that detects a timing at which the motion vector is inverted vertically or horizontally for the plurality of images, and an image captured at the inversion timing. The selection part to perform is provided.

上記目的を達成するため第8の発明に係わる画像検索方法は、一連に撮影された複数の画像について、画面内の基準画像に対する周辺画像の相対的な動きベクトルを検出し、上記動きベクトルに基づいて、左右方向または上下方向で上記動きベクトルが反転するタイミングを検出し、上記動きベクトルが反転したタイミングの画像を選択する。
第9の発明に係わる画像検索装置は、上記第8の発明において、上記動きベクトルの検出と共に、基準画像の動きを検出し、この動きが大きい場合には、上記動きベクトルの反転を検出しない。
In order to achieve the above object, an image search method according to an eighth invention detects a relative motion vector of a peripheral image with respect to a reference image in a screen for a plurality of images taken in series, and based on the motion vector. Thus, the timing at which the motion vector is inverted in the left-right direction or the up-down direction is detected, and an image at the timing at which the motion vector is inverted is selected.
An image search apparatus according to a ninth aspect of the present invention is the above-described eighth aspect of the present invention, wherein the motion vector is detected and the motion of the reference image is detected. If the motion is large, the motion vector inversion is not detected.

上記目的を達成するため第10の発明に係わる画像検索用プログラムは、一連に撮影された複数の画像について、画面内の基準画像に対する周辺画像の相対的な動きベクトルを検出するステップと、上記動きベクトルに基づいて、左右方向または上下方向で上記動きベクトルが反転するタイミングを検出するステップと、上記動きベクトルが反転したタイミングの画像を選択するステップを有する。
第11の発明に係わる画像検索用プログラムは、上記第10の発明において、上記動きベクトルの検出と共に、基準画像の動きを検出し、この動きが大きい場合には、上記動きベクトルの反転を検出しない。
In order to achieve the above object, an image search program according to a tenth invention comprises a step of detecting a relative motion vector of a peripheral image with respect to a reference image in a screen for a plurality of images photographed in series, and the motion The method includes a step of detecting a timing at which the motion vector is inverted in the left-right direction or the vertical direction based on the vector, and a step of selecting an image at a timing at which the motion vector is inverted.
According to an eleventh aspect of the invention, in the tenth aspect of the invention, in the tenth aspect, the motion vector is detected and the motion of the reference image is detected. If the motion is large, the motion vector inversion is not detected. .

上記目的を達成するため第12の発明に係わる撮像装置は、画面内の所定の基準位置の基準画像の位置を検出する基準画像検出部と、画面内の所定の基準位置の基準画像を中心とした周辺画像の相対的な動きベクトルを検出する動きベクトル検出部と、被写体像を撮影する撮影部と、上記撮影部によって撮影された被写体像と共に、上記基準画像の位置を示す情報と、上記動きベクトルを示す情報を記録する記録部を備える。   In order to achieve the above object, an imaging apparatus according to a twelfth aspect of the present invention is based on a reference image detection unit that detects the position of a reference image at a predetermined reference position in the screen, and a reference image at the predetermined reference position in the screen. A motion vector detection unit for detecting a relative motion vector of the peripheral image, a shooting unit for shooting a subject image, information indicating the position of the reference image together with the subject image shot by the shooting unit, and the motion A recording unit for recording information indicating a vector is provided.

本発明によれば、細かい設定を必要とせず、スポーツシーン等の高速で動く被写体に対して見栄えのするタイミングを逃さない撮像装置および撮像方法を、また、細かい設定を必要とせず、スポーツシーン等の高速で動く被写体に対して見栄えのするタイミングで撮影された画像を検索する画像検索装置および画像検索方法を提供することができる。   According to the present invention, there is provided an imaging apparatus and an imaging method that do not require fine settings and do not miss the timing of appearance with respect to an object that moves at high speed such as a sports scene, and sports scenes that do not require fine settings. Thus, it is possible to provide an image search apparatus and an image search method for searching for an image taken at a time when a high-speed moving subject looks good.

以下、図面に従って本発明を適用したカメラを用いて好ましい実施形態について説明する。図1は本発明の第1実施形態に係わるカメラ10の構成を示すブロック図である。カメラ10はデジタルカメラであり、制御部1、ベストショット判定部1b、撮影部2、時計部3、記録部4、ワーク領域4a、保存領域4b、顔検出部5、操作判定部6、通信部7、表示部8、動き検出部9を有し、ネット15を介して外部サーバー20と接続可能である。   Hereinafter, a preferred embodiment will be described using a camera to which the present invention is applied according to the drawings. FIG. 1 is a block diagram showing a configuration of a camera 10 according to the first embodiment of the present invention. The camera 10 is a digital camera, and includes a control unit 1, a best shot determination unit 1b, a photographing unit 2, a clock unit 3, a recording unit 4, a work region 4a, a storage region 4b, a face detection unit 5, an operation determination unit 6, and a communication unit. 7, a display unit 8, and a motion detection unit 9, and can be connected to the external server 20 via the network 15.

制御部1は、カメラ10内の各部と接続され、操作判定部6によって判定された操作部材等の操作に応じ、カメラ10の全体制御を行う。また、制御部1は画像処理部(不図示)を有しており、画像の圧縮処理等を行う。さらに制御部1はベストショット判定部1bを有しており、後述する顔検出部5および動き検出部9の出力に基づいて、動きのある被写体に対して、見栄えのするベストショットを得るためのタイミングの判定を行う。   The control unit 1 is connected to each unit in the camera 10 and performs overall control of the camera 10 according to the operation of the operation member and the like determined by the operation determination unit 6. The control unit 1 includes an image processing unit (not shown), and performs image compression processing and the like. Furthermore, the control unit 1 has a best shot determination unit 1b, and based on the outputs of the face detection unit 5 and the motion detection unit 9, which will be described later, for obtaining a best shot that looks good on a moving subject. Determine the timing.

撮影部2は、被写体像を結像するための光学系、および被写体像を光電変換する撮像素子等を含み、画像データを出力する。この撮影部2は、静止画および動画のいずれの画像データも出力可能であり、また、一般的なデジタルカメラより、高速で画像を取得することが可能となっている。時計部3は計時機能やカレンダ機能を有し、撮影時の日時情報の取得等に用いる。ここで得られた日時情報は、撮影画像を記録部4に記録する際に、一緒に記録される。   The photographing unit 2 includes an optical system for forming a subject image, an image sensor for photoelectrically converting the subject image, and the like, and outputs image data. The photographing unit 2 can output both image data of a still image and a moving image, and can acquire an image at a higher speed than a general digital camera. The clock unit 3 has a timekeeping function and a calendar function, and is used for acquiring date and time information at the time of shooting. The date and time information obtained here is recorded together when the captured image is recorded in the recording unit 4.

記録部4は、制御部1内の画像処理部によって圧縮処理等された画像データを撮影画像として記録する。画像データの記録にあたっては、前述の日時情報、顔検出部5で検出された顔の位置、動き検出部9によって検出された動きベクトル情報等と共に画像ファイル化して記録する。   The recording unit 4 records the image data compressed by the image processing unit in the control unit 1 as a captured image. When recording the image data, it is recorded as an image file together with the date and time information described above, the position of the face detected by the face detection unit 5, the motion vector information detected by the motion detection unit 9, and the like.

また、記録部4の内部には、ワーク領域4aと保存領域4bを有する。ワーク領域4aは、撮影部2によって取得した画像を仮に記録しておく領域であり、また、保存領域4bは、ワーク領域4aに仮記憶された画像の中から選択されたベストタイミングの画像を最終的に保存する領域である。   The recording unit 4 includes a work area 4a and a storage area 4b. The work area 4a is an area for temporarily recording an image acquired by the photographing unit 2, and the storage area 4b is a final timing image selected from images temporarily stored in the work area 4a. It is an area to save automatically.

顔検出部5は、被写体中に人物像が含まれる場合に、顔パターンを用いて、顔の部分を検出する。この検出結果に基づいて、露出制御や自動焦点調節(AF)等を行い、また、画面内のどの位置に顔があったかを検出し、画像データを記録部4に記録する際に、顔の位置に関する情報も合わせて記録される。   The face detection unit 5 detects a face portion using a face pattern when a person image is included in the subject. Based on the detection result, exposure control, automatic focus adjustment (AF), etc. are performed, and the position of the face in the screen is detected, and when the image data is recorded in the recording unit 4, the position of the face is detected. The information about is also recorded.

操作判定部6は、ユーザーによるカメラ10の操作部材等の操作状態を判定する。この操作状態に応じて、前述したように、制御部1はカメラ10の制御を行う。通信部7は、ネット15等を介して外部サーバー20等の機器と情報の送受信を行う。この通信部7を介して、撮影画像を外部に送信し、また外部から画像等を受信することができる。なお、このような通信機能を利用することにより、ベストショット判定のための画像選択の処理の一部を外部のコンピュータが代替処理するようにしてもよい。   The operation determination unit 6 determines the operation state of the operation member of the camera 10 by the user. In accordance with this operation state, the control unit 1 controls the camera 10 as described above. The communication unit 7 transmits / receives information to / from devices such as the external server 20 via the network 15 or the like. Via this communication part 7, a picked-up image can be transmitted outside and an image etc. can be received from the outside. Note that by using such a communication function, an external computer may perform a part of the image selection process for determining the best shot.

表示部8は、カメラ10の背面等に配置される液晶モニタ等の表示装置で構成され、記録部4に記録されている動画や静止画の画像データの再生表示を行い、また光学式ファインダの代わりに、被写体像の観察用のライブビュー表示も行う。また、記録部4に記録されている撮影画像のベストショット検索の表示も行う。動き検出部9は、動きのある被写体などの動きベクトルを検出する。   The display unit 8 is composed of a display device such as a liquid crystal monitor disposed on the back surface of the camera 10, and reproduces and displays moving image and still image data recorded in the recording unit 4, and also uses an optical viewfinder. Instead, live view display for observing the subject image is also performed. In addition, the best shot search of the photographed image recorded in the recording unit 4 is also displayed. The motion detector 9 detects a motion vector of a moving subject or the like.

次に、このように構成された本実施形態に係わるカメラ10におけるベストショット判定について説明する。例えば、図1に示す画面13中に人物11がおり、この人物11の顔が中央部12aにあることがわかると、周辺部12bにおける四肢の広がりが一番広い場合がベストショットと考えられる。ただし、人物11が反対側を向いている場合には、顔の検出はできないので、このような場合は、中央部12aに顔があるとして、顔の検出を省略して行う。   Next, the best shot determination in the camera 10 according to the present embodiment configured as described above will be described. For example, if the person 11 is present in the screen 13 shown in FIG. 1 and the face of the person 11 is found in the central part 12a, the case where the spread of the limbs in the peripheral part 12b is the widest is considered the best shot. However, since the face cannot be detected when the person 11 is facing the opposite side, in such a case, the face detection is omitted assuming that there is a face in the central portion 12a.

画面中央部に人物11の顔があって、両手を広げてパフォーマンスをする場合において、動きのある被写体に対して、見栄えがするシーンの探し方や検出の仕方について、説明する。この場合の動きは図2のようになり、図2(a)は人物11が両手を外側に広げていく場面であり、図2(b)は広がった両手を内側に閉じていく場面であり、図2(c)は外側に一番広がった場面から内側に閉じる瞬間である。すなわち、時刻t1から時刻t2にかけて、矢印Aの方向に両手は伸び、時刻t2において両手は伸びきった状態になり、時刻t2から時刻t3にかけて、矢印Bの方向に両手は閉じていく。   A description will be given of how to search for and detect a scene that looks good with respect to a moving subject when the face of the person 11 is in the center of the screen and the performance is performed with both hands open. The movement in this case is as shown in FIG. 2. FIG. 2 (a) is a scene in which the person 11 spreads both hands outward, and FIG. 2 (b) is a scene in which both spread hands are closed inward. FIG. 2 (c) shows the moment when the scene that spreads most outward is closed inward. That is, both hands are extended in the direction of arrow A from time t1 to time t2, both hands are fully extended at time t2, and both hands are closed in the direction of arrow B from time t2 to time t3.

このように両手は時々刻々動くが、顔の部分は移動することがないので、この顔の位置を基準にして顔の横にあるブロックについてみると、両手の位置の変化に応じて、ブロック内の画像も矢印Aまたは矢印Bの方向に向かって変化していく。この様子を拡大したものを図6に示す。図6(a)は図2(a)に対応し、図6(b)は図6(a)中のブロック13iを更に拡大した図である。   In this way, both hands move from moment to moment, but the face portion does not move, so if you look at the block next to the face relative to the position of this face, the inside of the block will change according to the change in the position of both hands. This image also changes in the direction of arrow A or arrow B. An enlarged view of this situation is shown in FIG. 6A corresponds to FIG. 2A, and FIG. 6B is an enlarged view of the block 13i in FIG. 6A.

図6(b)に示すブロック13iにおいて、薄墨を施したブロック部分は、例えば、人物11の指先等であり、時刻t1においては左下のブロック部分13iaにあり、時刻t2においては、右上のブロック部分13ibに移動している。すなわち、ブロック13i内において画像パターンが時間変化t1→t2でどのような変化をしたかを検出することにより、人物11の手の動きを判定することができる。   In the block 13i shown in FIG. 6B, the block portion to which light ink is applied is, for example, the fingertip of the person 11, the lower left block portion 13ia at time t1, and the upper right block portion at time t2. It has moved to 13ib. That is, the movement of the hand of the person 11 can be determined by detecting how the image pattern has changed in the block 13i from time t1 to t2.

画像パターンの変化を示す動きベクトルをX方向、Y方向に分解すると、図2の画面外に記載した矢印の成分となる。図2(a)および図2(b)ではX方向成分およびY方向成分共にある大きさをもっているが、図2(c)においては、X方向成分およびY方向成分は反転し、0となっている。この反転する瞬間t2が、大きく四肢の伸びた時点といえる。   When the motion vector indicating the change of the image pattern is decomposed in the X direction and the Y direction, it becomes an arrow component described outside the screen of FIG. 2A and 2B, both the X-direction component and the Y-direction component have a certain magnitude, but in FIG. 2C, the X-direction component and the Y-direction component are inverted and become 0. Yes. This reversal instant t2 can be said to be the time when the extremity has greatly increased.

この動きベクトルの速度を図3(a)(b)に示す。図3(a)はX軸方向の画像パターンの変化率を示し、横軸は時間、縦軸はX軸方向の画像パターンの変化率であり速度(ΔX)に相当する。図3(b)は、はY軸方向の画像パターンの変化率を示し、横軸は時間、縦軸はY軸方向の画像パターンの変化率であり速度(ΔY)に相当する。実線で示したのが、四肢の動きであり、この四肢のX軸方向およびY軸方向の速度をみると、時刻t2は、ベストショットタイミングであり、速度(ΔX、ΔY)がプラスからマイナスへ切り換わり、速度が0となる。   The speed of this motion vector is shown in FIGS. FIG. 3A shows the change rate of the image pattern in the X-axis direction, the horizontal axis represents time, and the vertical axis represents the change rate of the image pattern in the X-axis direction, which corresponds to speed (ΔX). FIG. 3B shows the rate of change of the image pattern in the Y-axis direction, the horizontal axis is the time, and the vertical axis is the rate of change of the image pattern in the Y-axis direction, which corresponds to the speed (ΔY). The solid line shows the movement of the limbs. Looking at the velocities of the limbs in the X-axis direction and the Y-axis direction, the time t2 is the best shot timing, and the speeds (ΔX, ΔY) change from positive to negative. The speed is switched to 0.

このように、動きベクトルの変化を用いて、ベストショットタイミングが検出できる。なお、顔の部分も動いていると、四肢の伸びではなく、全体が動いている判断されるので、この場合はベストショットタイミングではない。顔部の動きベクトルを、図3において点線によって示すが、これが0近傍であることがベストショットのタイミングを求めるときの条件となる。   Thus, the best shot timing can be detected using the change of the motion vector. If the face part is also moving, it is determined that the whole is moving, not the extension of the limbs, so this is not the best shot timing. The face motion vector is indicated by a dotted line in FIG. 3, and the fact that it is in the vicinity of 0 is a condition for obtaining the best shot timing.

次に、ゴルフのスイングの例について図4および図5を用いて説明する。ゴルフのスイングは、四肢が伸びるのではなく、伸びた四肢が円を描くので、四肢が一番低い場所に振り下ろした瞬間に写真撮影を行えば、ベストショットが得られる。すなわち、図4(a)は、時刻t1から時刻t2の間で、ゴルフクラブ16を振り下ろす状態であり、図4(b)は、時刻t2からt3の間で、ゴルフクラブ16を振り上げる状態であり、図4(c)は、時刻t2において、丁度ゴルフボール17を打つ瞬間である。   Next, an example of a golf swing will be described with reference to FIGS. The golf swing does not extend the limbs, but the extended limbs draw a circle, so if you take a picture at the moment when the limbs are swung down to the lowest place, you can get the best shot. 4A shows a state in which the golf club 16 is swung down between time t1 and time t2, and FIG. 4B shows a state in which the golf club 16 is swung up between time t2 and t3. FIG. 4C shows the moment of hitting the golf ball 17 at time t2.

このゴルフスイング時におけるゴルフクラブ16の先端の動きベクトルのX軸方向およびY軸方向の速度を図5に示す。図3と同様に、図5(a)はX軸方向、図5(b)はY軸方向の速度であり、実線はゴルフクラブの先端の速度を示し、破線は顔の速度を示す。図5から分かるに、X軸方向の速度(ΔX)は、時刻t1から時刻t2を経て時刻t3に至る間、ほぼ一定の速度となっている。一方、Y軸方向の速度(ΔY)は時刻t1から時刻t2は、マイナス速度であり、時刻t2において0となり、時刻t2から時刻t3においてプラスとなる。   FIG. 5 shows the velocity in the X-axis direction and the Y-axis direction of the motion vector at the tip of the golf club 16 during this golf swing. Similar to FIG. 3, FIG. 5A shows the speed in the X-axis direction, FIG. 5B shows the speed in the Y-axis direction, the solid line shows the speed of the golf club tip, and the broken line shows the face speed. As can be seen from FIG. 5, the speed (ΔX) in the X-axis direction is a substantially constant speed from time t1 to time t3 via time t2. On the other hand, the speed in the Y-axis direction (ΔY) is a negative speed from time t1 to time t2, and is 0 at time t2, and is positive from time t2 to time t3.

ゴルフスイング時におけるベストショットのタイミングは、ゴルフクラブ16が一番下に振り下ろされた時点と考えられることから、Y軸方向の動きベクトルが反転し、速度が0になるタイミングであることが分かる。   Since the best shot timing during the golf swing is considered to be the time when the golf club 16 is swung down to the bottom, it is understood that the motion vector in the Y-axis direction is reversed and the speed becomes zero. .

以上、四肢が開くように動く体を動かしている場合や、ゴルフのスイングの場合について、ベストショットを得られるタイミングについて説明した。これ以外にも種々の動作があるか、一般に、体の四肢やゴルフクラブ16の用具等の動きベクトルが反転するタイミングでベストショットが得られることが多い。   As described above, the timing when the best shot can be obtained has been described in the case of moving the body so that the limbs are opened or in the case of a golf swing. In many cases, the best shot is often obtained at various timings when the motion vectors of the limbs of the body, the tools of the golf club 16 and the like are reversed.

次に、図7に示したフローチャートを用いて、ベストショットのタイミングで撮影を行うようにした本実施形態におけるカメラ10の動作について説明する。撮影のフローに入ると、まず、撮影部2によって取得された動画の画像データをワーク領域4aに一時的に記憶し、この画像データに基づいて、顔検出部5によって、顔検出を行う(S1)。すなわち、被写体の中に顔の部分が含まれているか判定し、含まれていれば、その顔の位置を検出する。   Next, the operation of the camera 10 in the present embodiment in which shooting is performed at the timing of the best shot will be described using the flowchart shown in FIG. When entering the shooting flow, first, the image data of the moving image acquired by the shooting unit 2 is temporarily stored in the work area 4a, and face detection is performed by the face detection unit 5 based on this image data (S1). ). That is, it is determined whether a face part is included in the subject, and if it is included, the face position is detected.

続いて、動き検出部9によって、上下左右それぞれの動きベクトル判定を行う(S2)。このステップでは、基準位置となる顔の部分と、その周辺部分の動きベクトルを検出する。具体的には、図3および図5に示したような速度を所定時間間隔でサンプリングする。   Subsequently, the motion detection unit 9 performs motion vector determination for each of the top, bottom, left, and right (S2). In this step, the face part serving as the reference position and the motion vectors of the peripheral part are detected. Specifically, the speeds as shown in FIGS. 3 and 5 are sampled at predetermined time intervals.

次に、ステップS2で求めた動きベクトルのうち、顔の部分の動きベクトルと、顔検出部5で求めた顔の位置情報を用いて、中央部における顔の動きが小さいか否かの判定を行う(S3)。顔が中央部になく、また、動いているような場合には、ベストショットとは言いがたい場合が多いことから、この場合には、顔が中央部分に入り、かつ顔の動きが小さくなるのを待つためにステップS1に戻る。   Next, using the motion vector of the face portion of the motion vectors obtained in step S2 and the face position information obtained by the face detection unit 5, it is determined whether or not the face motion in the center is small. Perform (S3). When the face is not in the center and is moving, it is often difficult to say that it is the best shot. In this case, the face enters the center and the face moves less. In order to wait for this, the process returns to step S1.

一方、判定の結果、顔が中央部にあり、顔の動きが小さい場合には、周辺部の左右方向(X軸方向)の動きベクトルが反転したか否かの判定を行う(S4)。このステップでは、図3(a)および図5(a)で示したように、速度がプラスからマイナス、またはマイナスからプラスに変化し、速度が0となるタイミングか否かを判定する。判定の結果、動きベクトルが反転していない場合には、周辺部の上下方向(Y軸方向)の動きベクトルが反転したか否かの判定を行う(S5)。このステップでは、図3(b)および図5(b)で示したように、速度が反転し、0となったか否かを判定する。   On the other hand, if the result of determination is that the face is in the center and the movement of the face is small, it is determined whether or not the motion vector in the left and right direction (X-axis direction) of the peripheral portion has been inverted (S4). In this step, as shown in FIG. 3A and FIG. 5A, it is determined whether or not it is a timing when the speed changes from plus to minus or minus to plus and the speed becomes zero. If the motion vector is not inverted as a result of the determination, it is determined whether or not the motion vector in the vertical direction (Y-axis direction) of the peripheral portion has been inverted (S5). In this step, as shown in FIG. 3B and FIG. 5B, it is determined whether or not the speed is reversed and becomes zero.

ステップS5における判定の結果、動きベクトルが反転していなかった場合には、ステップS1に戻り、上述のステップを実行する。一方、ステップS4またはステップS5において、動きベクトルが反転した場合には、図3および図5における時刻t2のタイミングであり、ベストショットの可能性の高いタイミングであることから、ベスト判定撮影を行う(S6)。このステップでは、撮影部2から取得した画像データを、保存領域4bに記録する。   If the result of determination in step S5 is that the motion vector has not been inverted, processing returns to step S1 and the above steps are executed. On the other hand, if the motion vector is inverted in step S4 or step S5, it is the timing at time t2 in FIG. 3 and FIG. S6). In this step, the image data acquired from the imaging unit 2 is recorded in the storage area 4b.

このように第1実施形態においては、撮影部2から動画の画像データを逐次取得し、この取得された画像データに基づいて、顔が中央部にあり、しかもその顔の動きが小さく、かつ、周辺部の動きベクトルが反転するか否か判定している。これらの条件を満たすのを待ち、条件を満たすと、自動的にベスト判定撮影として、撮影部2によって静止画の画像データを取得し、記録するようにしている。   As described above, in the first embodiment, the image data of the moving image is sequentially acquired from the photographing unit 2, and based on the acquired image data, the face is in the center, and the movement of the face is small, and It is determined whether or not the peripheral motion vector is inverted. Waiting for these conditions to be satisfied, and if the conditions are satisfied, the image data of the still image is automatically acquired and recorded by the photographing unit 2 as the best determination photographing.

したがって、本実施形態においては、ベスト判定撮影のできる撮影モードに設定しておけば、動きのある被写体であっても、見栄えのよい画像となった瞬間の画像データを自動的に撮影し、記録することができる。   Therefore, in this embodiment, if the shooting mode is set so that the best determination shooting is possible, even when the subject is moving, the image data at the moment when the image looks good is automatically shot and recorded. can do.

次に、本発明の第2実施形態について図8および図9を用いて説明する。第1実施形態おいては、動きベクトルが反転する等の所定の条件を満たすのを待ち、条件が満たされると静止画像を取得していた。第2実施形態は、所定時間間隔で静止画像を取得し、取得された静止画像の中からベストショットを自動的に検索するようにしている。第2実施形態におけるカメラ10のハードウエア的構成は第1実施形態と同様であり、図8および図9に示すフローチャートを実行する点が異なるので、相違点を中心に説明する。   Next, a second embodiment of the present invention will be described with reference to FIGS. In the first embodiment, it waits for a predetermined condition such as a motion vector to be inverted, and a still image is acquired when the condition is satisfied. In the second embodiment, still images are acquired at predetermined time intervals, and the best shot is automatically searched from the acquired still images. The hardware configuration of the camera 10 in the second embodiment is the same as that of the first embodiment, and differs in that the flowcharts shown in FIGS. 8 and 9 are executed. Therefore, the differences will be mainly described.

まず、撮影部2から静止画の画像データを取得し、顔検出を行い(S101)、取得している静止画の複数の画像データを用いて動きベクトル判定を行う(S102)。そして、顔検出部5によって検出された顔位置と、動き検出部9によって検出された動きベクトルを、静止画の画像データに、付加情報として添付し、画像ファイルを生成する(S103)。続いて、生成された画像ファイルを記録部4に記憶する(S104)。   First, image data of a still image is acquired from the photographing unit 2, face detection is performed (S101), and motion vector determination is performed using a plurality of acquired image data of the still image (S102). Then, the face position detected by the face detection unit 5 and the motion vector detected by the motion detection unit 9 are attached as additional information to the image data of the still image to generate an image file (S103). Subsequently, the generated image file is stored in the recording unit 4 (S104).

画像ファイルの記憶が終わると、次に、操作判定部6の判定出力に基づいて、連続撮影を終了するか否かの判定を行う(S105)。判定の結果、撮影終了でなかった場合には、ステップS101に戻り、一方、撮影終了の場合には、リターンする。なお、第1実施形態において、図7のステップS1およびステップS2において使用する画像データは、顔検出および動きベクトル判定が可能な程度の画素数とする。一方、第2実施形態においては、ステップS104において記憶された画像の中からベストショットが選択されることから、顔検出および動きベクトル判定が可能であると共に、静止画として鑑賞できる程度の画素数が要求される。   When the storage of the image file ends, it is next determined whether or not to end the continuous shooting based on the determination output of the operation determination unit 6 (S105). If the result of determination is that photography has not ended, processing returns to step S101. On the other hand, if photography has ended, processing returns. In the first embodiment, the image data used in step S1 and step S2 in FIG. 7 has a number of pixels that allows face detection and motion vector determination. On the other hand, in the second embodiment, since the best shot is selected from the images stored in step S104, face detection and motion vector determination are possible, and the number of pixels that can be viewed as a still image is sufficient. Required.

次に、記録部4に記録された画像データの中からベストショットを検索するベスト画像検索の動作について、図9に示すフローチャートを用いて説明する。なお、このフローはカメラ10内で行うが、ネット15を通じて外部サーバー20等、または記録部4に記録された画像データを用いてパーソナルコンピュータ等によって処理してもよい。   Next, the best image search operation for searching for the best shot from the image data recorded in the recording unit 4 will be described with reference to the flowchart shown in FIG. This flow is performed in the camera 10, but may be processed by a personal computer or the like using the image data recorded in the external server 20 or the recording unit 4 through the network 15.

まず、画像判定を開始する(S111)。続いて、最初の判定対象画像について、顔や画面中央部にある被写体の動きが小さいか否かを判定する(S112)。判定にあたっては、判定対象画像の画像ファイルに添付されている顔位置データと動きベクトルを用いる。   First, image determination is started (S111). Subsequently, for the first determination target image, it is determined whether or not the movement of the subject in the face or the center of the screen is small (S112). In the determination, face position data and a motion vector attached to the image file of the determination target image are used.

判定の結果、動きが小さかった場合には、続いて、周辺部の左右方向動きベクトルが反転したか否かの判定を行う(S113)。このステップでは、第1実施形態と同様に、X軸方向の速度が0になったか否かについて判定する。判定の結果、動きベクトルが反転していなかった場合には、周辺部の上下方向の動きベクトルが反転したか否かの判定を行う(S115)。このステップでは、第1実施形態と同様に、Y軸方向の速度がプラスからマイナス、またはマイナスからプラスに変化し、0になったタイミングか否かについて判定する。   If the result of determination is that the motion is small, it is subsequently determined whether or not the left-right motion vector of the peripheral portion has been inverted (S113). In this step, as in the first embodiment, it is determined whether or not the velocity in the X-axis direction has become zero. If the motion vector is not inverted as a result of the determination, it is determined whether or not the vertical motion vector of the peripheral portion is inverted (S115). In this step, as in the first embodiment, it is determined whether or not it is the timing when the speed in the Y-axis direction changes from plus to minus or from minus to plus and becomes zero.

ステップS113またはステップS115において動きベクトルが反転した場合には、反転した時点での画像をベスト画像として選択し(S116)、ステップS117に進む。一方、ステップS112において動きが大きかった場合、またはステップS115において、動きベクトルが反転していなかった場合には、ベスト画像として選択されることはなく、ステップS117に進む。   If the motion vector is inverted in step S113 or step S115, the image at the time of inversion is selected as the best image (S116), and the process proceeds to step S117. On the other hand, if the motion is large in step S112 or if the motion vector is not inverted in step S115, the best image is not selected and the process proceeds to step S117.

ステップS117においては、判定を終了するか否かの判定を行う。このステップでは、操作部材判定部6の判定の結果、ユーザーがベスト画像検索を終了すべく操作部材を操作したか、またはすべての画像について検索が終了したかを判定する。判定の結果、終了しない場合には、次の画像を記録部4から読み出し、判定対象画像とし(S118)、ステップS112に戻り、この判定対象画像について前述の動作を実行する。一方、判定を終了する場合には、リターンする。   In step S117, it is determined whether or not to end the determination. In this step, as a result of the determination by the operation member determination unit 6, it is determined whether the user has operated the operation member to end the best image search, or whether the search has been completed for all images. As a result of the determination, if not completed, the next image is read from the recording unit 4 and set as a determination target image (S118), the process returns to step S112, and the above-described operation is executed for this determination target image. On the other hand, when the determination is finished, the process returns.

このように、本発明の第2実施形態においては、撮影時には、静止画を連続的に取得すると共に、顔位置および動きベクトルに関する情報を画像に添付し画像ファイルを生成している。そして、ベスト画像検索時には、顔等の動きと周辺部の動きベクトルが反転するタイミングからベスト画像を選択している。第1実施形態では撮影時にベストショットを撮影できるタイミングか否か判定し、そのタイミングで撮影動作を行っていた。この場合には、タイミングが決定されてから、撮影動作までにカメラ10にタイムラグがあると、実際には、ベストショットを撮影することができない。第2実施形態においては、静止画を連続的に取得し、この中からベストショットを選択するようにしているので、カメラ10のタイムラグは問題とはならない。   As described above, in the second embodiment of the present invention, at the time of shooting, a still image is continuously acquired, and information on the face position and the motion vector is attached to the image to generate an image file. At the time of searching for the best image, the best image is selected from the timing at which the motion of the face or the like and the motion vector of the peripheral portion are inverted. In the first embodiment, it is determined whether or not the best shot can be taken at the time of shooting, and the shooting operation is performed at that timing. In this case, if the camera 10 has a time lag after the timing is determined and before the shooting operation, the best shot cannot actually be shot. In the second embodiment, since still images are continuously acquired and the best shot is selected from these images, the time lag of the camera 10 is not a problem.

なお、本実施形態においては、顔等の位置や動きベクトルは、撮影時に画像と共に記録するようにしていたが、これに限らず、撮影時には、顔等の位置や動きベクトルを記録せず、ベスト画像検索の際に、読み出された画像から、これらを検出するようにしても勿論かまわない。また、記録部4に記録された画像ファイルをパーソナルコンピュータに入力し、ベスト画像処理のフローをこのパーソナルコンピュータで実行するようにしてもよい。   In this embodiment, the position and motion vector of the face and the like are recorded together with the image at the time of shooting. However, the present invention is not limited to this, and the position and motion vector of the face and the like are not recorded at the time of shooting. Of course, these may be detected from the read-out image during the image search. Further, the image file recorded in the recording unit 4 may be input to a personal computer, and the best image processing flow may be executed by this personal computer.

次に、本発明の第3実施形態について、図10乃至図12を用いて説明する。第1および第2実施形態においては、高速で画像取得できる高性能のデジタルカメラを想定していたが、一般的なデジタルカメラの撮像素子は、フルサイズの撮影には画素データの読み出しに時間がかかってしまう。そのため、ゴルフのスイングなどは、ボールを打つ瞬間を完全に逃してしまう可能性がある。図12は、説明のために、複数の失敗例を重畳して示しており、いずれも、ゴルフクラブがボールに当たる瞬間をはずしており、ベストショットとは言いがたい。   Next, a third embodiment of the present invention will be described with reference to FIGS. In the first and second embodiments, a high-performance digital camera capable of acquiring images at high speed has been assumed. However, an image sensor of a general digital camera takes time to read out pixel data for full-size shooting. It will take. Therefore, golf swings and the like may completely miss the moment of hitting the ball. For the sake of explanation, FIG. 12 shows a plurality of failure examples superimposed on each other, and all of them miss the moment when the golf club hits the ball, which is not the best shot.

一般的なデジタルカメラでは、静止画モードと動画モードの両方のモードで撮影できるものが多い。ここで、静止画モードは、フルサイズの画素を使った撮影をいい、動画モードは、画素を間引いて高速の連続撮影をいう。静止画モードに比較し、動画モードのほうが、当然のことながら、画質は劣っている。   Many common digital cameras can shoot in both a still image mode and a moving image mode. Here, the still image mode refers to shooting using full-size pixels, and the moving image mode refers to high-speed continuous shooting with pixels thinned out. As a matter of course, the image quality is inferior in the moving image mode compared to the still image mode.

また、ゴルフスイングの場合、前述した図10(a)のように、人物11がゴルフクラブ16を振りかぶった状態では、動きは高速ではなく、動画モードであれば、十分、動きベクトルの判定ができる。一方、静止画モードが設定されている場合には、図12に示すような3つの状態に対応する画像がそれぞれ得られるだけであり、ゴルフクラブ16の先の動きベクトルを取得することができない。   In the case of a golf swing, as shown in FIG. 10A described above, in the state where the person 11 swings around the golf club 16, the motion is not high speed, and the motion vector can be sufficiently determined in the moving image mode. . On the other hand, when the still image mode is set, only images corresponding to the three states shown in FIG. 12 are obtained, and the motion vector ahead of the golf club 16 cannot be acquired.

このように動画モードが設定されている場合には、図10(a)のようにゴルフクラブ16を振りかぶった状態(タイミングt1)でも、図10(b)のようにゴルフクラブ16を振り下ろし始める状態(タイミングt2)でも、ゴルフクラブの先端の動きを検出することができる。そこで、顔を中心にして、左右の画像部分を見て動きベクトルを検出し、この二つの時刻t1および時刻t2を求める。次に、スイングの約半周に要した時間(t2−t1)を算出し、これから、さらに90°回して真下にゴルフクラブの先端を振り下ろす時刻t3を算出することができる。   When the moving image mode is set in this way, the golf club 16 starts to swing down as shown in FIG. 10B even when the golf club 16 is shaken as shown in FIG. 10A (timing t1). Even in the state (timing t2), the movement of the tip of the golf club can be detected. Therefore, the motion vector is detected by looking at the left and right image parts with the face at the center, and the two times t1 and t2 are obtained. Next, it is possible to calculate the time (t2−t1) required for about half a swing of the swing, and from this, it is possible to calculate the time t3 when the golf club tip is further swung down by 90 °.

このような考え方に沿った第3実施形態の構成は、撮影部2の内部が前述したように一般的なデジタルカメラと同等の性能であること以外は、第1実施形態におけるカメラ10のハードウエアと同様であり、図11に示すフローチャートを実行する点が異なるのみであるので、相違点を中心に説明する。   The configuration of the third embodiment according to such a concept is that the hardware of the camera 10 in the first embodiment is the same as that of the general digital camera except that the inside of the photographing unit 2 has the same performance as described above. 11, and only the point of executing the flowchart shown in FIG. 11 is different, and the difference will be mainly described.

撮影のフローチャートに入ると、まず動画モードに設定し、撮影部2は動画を取得する(S201)。続いて、画面中心部の被写体部分の動きを、動き検出部9によって検出し、この動きが小さいかどうかを判定する(S202)。続いて、左右方向の動きベクトルがプラスからマイナスまたはマイナスからプラスへと反転したか否かを判定する(S203)。   In the shooting flowchart, first, the moving image mode is set, and the shooting unit 2 acquires a moving image (S201). Subsequently, the movement of the subject portion at the center of the screen is detected by the movement detector 9, and it is determined whether or not the movement is small (S202). Subsequently, it is determined whether or not the motion vector in the left-right direction is reversed from plus to minus or minus to plus (S203).

画面中心部の動きが小さく、動きベクトルが反転すると、その時刻Tをt1に記憶する(S204)。この状態は、丁度、図10(a)に示すようなゴルフクラブ16を振りかぶった状態である。このあと、動きベクトルが逆サイドで反転するのを待つ(S205)。動きベクトルが逆サイドで反転すると、その時刻Tをt2に記憶する(S206)。この反転タイミングは、ちょうど、図10(b)に示すようなゴルフクラブ16の振り下ろし開始のタイミングに相当する。   When the motion at the center of the screen is small and the motion vector is inverted, the time T is stored in t1 (S204). This state is a state in which a golf club 16 as shown in FIG. Thereafter, it waits for the motion vector to reverse on the opposite side (S205). When the motion vector is inverted on the reverse side, the time T is stored in t2 (S206). This inversion timing corresponds to the timing for starting to swing down the golf club 16 as shown in FIG.

次に、撮影モードを動画モードから静止画モードに切り換える(S207)。そして、振り下ろしの瞬間の時刻t3を算出する(S208)。振りかぶり開始から振り下ろし開始まで、ゴルフクラブは大体180度回動し、振り下ろし開始から一番下に振り下ろした時点まで、ゴルフクラブは大体90度回動する。この関係から、t3=t2+(t2−t1)/2を求めることにより時刻t3を予測することができ。時刻t3の算出が終わると、時刻t3になるのを待ち(S209)、時刻t3になると、撮影部2によって静止画の撮影を行う(S210)。撮影が終わると、リターンする。   Next, the shooting mode is switched from the moving image mode to the still image mode (S207). Then, the time t3 at the moment of swinging down is calculated (S208). The golf club rotates approximately 180 degrees from the start of swinging to the start of swinging down, and the golf club rotates approximately 90 degrees from the start of swinging down to the point when it swings down to the bottom. From this relationship, the time t3 can be predicted by obtaining t3 = t2 + (t2−t1) / 2. When the calculation of the time t3 is completed, it waits for the time t3 (S209), and when the time t3 is reached, the photographing unit 2 captures a still image (S210). When shooting is finished, return.

このように、本実施形態においては、動画モードで2つの動作ポイントを検出し、この2つの動作ポイント間を行うのに要した時間から、ベストショットとなるタイミングを予測し、この予測されたタイミングになると静止画モードで撮影するようにしている。このため、高性能の撮像部を有していない一般的なデジタルカメラにおいても、動きのある被写体に対して、ベストショットのタイミングできれいな静止画を撮影することが可能となる。   As described above, in the present embodiment, two operation points are detected in the moving image mode, and the timing of the best shot is predicted from the time required to perform between the two operation points. When it comes to, it takes a picture in still picture mode. For this reason, even with a general digital camera that does not have a high-performance imaging unit, it is possible to capture a beautiful still image at the best shot timing for a moving subject.

次に、本発明の第4実施形態について、図13および図14を用いて説明する。第1実施形態ないし第3実施形態は、いずれも一回限りの瞬間的なタイミングを捉えてベストショットを撮影、またはベストショットを検索するのに適した実施形態であったが、第4実施形態は、ランニングなどのように連続した動作を繰り返す被写体において、ベストショットを撮影するのに適した実施形態である。第4実施形態の構成は、第3実施形態のカメラ10のハードウエアと同様であり、図14に示すフローチャートを実行する点が異なるのみであるので、相違点を中心に説明する。   Next, a fourth embodiment of the present invention will be described using FIG. 13 and FIG. Each of the first to third embodiments is an embodiment suitable for capturing a best shot by capturing a one-time instantaneous timing or searching for a best shot, but the fourth embodiment. Is an embodiment suitable for taking a best shot in a subject that repeats a continuous motion such as running. The configuration of the fourth embodiment is the same as the hardware of the camera 10 of the third embodiment, and only the point of executing the flowchart shown in FIG. 14 is different. Therefore, the difference will be mainly described.

ランニングのように、連続した動作を繰り返す被写体では、同じ動作が繰り返されるので、ベストショットの予測が容易である。図13に、こちらに向かってランニングしている人物11の様子を示す。ランニングしている場合には、通常、手15が左右に触れ、図13(b)に示すときよりも、図13(c)に示すように、手15が高く上がっているときが躍動的にみえ、ベストショットと思われる。   For a subject that repeats continuous movements such as running, the same movement is repeated, so that the best shot can be predicted easily. FIG. 13 shows a state of the person 11 running toward this place. When running, the hand 15 usually touches the left and right, and when the hand 15 is raised higher as shown in FIG. 13C than in the case shown in FIG. Looks like the best shot.

そこで、図13のように、こちらに向かって走ってくる被写体に対しては、手15の動きのリズムを利用して、手15が高く上がる瞬間を予測し、ベストショットで撮影する。この撮影を行うためのフローチャートを図14に示す。   Therefore, as shown in FIG. 13, for the subject that runs toward this place, the rhythm of the movement of the hand 15 is used to predict the moment when the hand 15 rises high, and the best shot is taken. A flowchart for performing this photographing is shown in FIG.

まず、ステップS201と同様に、動画モードを設定する(S221)。続いて、顔検出部5によって顔を検出する(S222)。また、動き検出部9によって人物11の手15の動きベクトルを検出し、左右方向の動きベクトルが反転するのを待つ(223)。   First, similarly to step S201, the moving image mode is set (S221). Subsequently, a face is detected by the face detection unit 5 (S222). Also, the motion detection unit 9 detects the motion vector of the hand 15 of the person 11 and waits for the motion vector in the left-right direction to be inverted (223).

左右方向の動きベクトルが反転すると、そのときの時刻Tをt1として記憶する。そして、逆サイド側で動きベクトルが反転するのを待ち(S225)、反転するとそのときの時刻Tをt2として記憶する(S226)。その後、撮影モードを動画モードから静止画モードに切り換える(S227)。   When the motion vector in the left-right direction is inverted, the time T at that time is stored as t1. Then, it waits for the motion vector to be reversed on the reverse side (S225), and when it is reversed, the time T at that time is stored as t2 (S226). Thereafter, the shooting mode is switched from the moving image mode to the still image mode (S227).

続いて、手15が反対側で振り戻る瞬間を予測する。振り戻る瞬間の時刻t3を、t3=t2+(t2−t1)により求める(S229)。求めた時刻t3になったかを判定し(S229)、時刻t3になると、撮影部2によって、静止画の撮影を行う(S230)。   Subsequently, the moment when the hand 15 swings back on the opposite side is predicted. Time t3 at the moment of turning back is obtained by t3 = t2 + (t2−t1) (S229). It is determined whether or not the obtained time t3 has been reached (S229). When the time t3 is reached, the photographing unit 2 captures a still image (S230).

このように、第4実施形態によれば、リズミカルに動く手15等の動きを検出し、動きベクトルが反転するタイミングを予め予測することにより、手が高く上がったベストショットで撮影することができる。   As described above, according to the fourth embodiment, by detecting the movement of the hand 15 or the like that moves rhythmically and predicting the timing at which the motion vector is inverted in advance, it is possible to take a picture with the best shot with the hand raised. .

以上説明したように、本発明の第1、第3、および第4実施形態においては、動きベクトルが反転するタイミングを検出し、このタイミングに応じて撮影を行うようにしている。このため、細かい設定を必要とせず、スポーツシーン等の高速で動く被写体に対して見栄えのするタイミングを逃さず、撮影を行うことができる。   As described above, in the first, third, and fourth embodiments of the present invention, the timing at which the motion vector is inverted is detected, and shooting is performed according to this timing. For this reason, it is not necessary to make detailed settings, and it is possible to perform shooting without missing the appearance timing of a fast moving subject such as a sports scene.

また、第1、第3、および第4実施形態においては、顔の動きを検出し、顔の動きが小さい場合に、ベストショット撮影を行うようにしている。このため、顔などが動いているような場合に、ベストショットとして撮影してしまうことを防止することができる。   In the first, third, and fourth embodiments, the movement of the face is detected, and the best shot shooting is performed when the movement of the face is small. For this reason, it is possible to prevent the best shot from being taken when the face is moving.

さらに、第2実施形態においては、撮影後に、動きベクトルの反転時の画像を検索し、ベストショットを選択するようにしている。このため、多数の画像の中から、細かい設定を必要とせず、スポーツシーン等の高速で動く被写体に対して見栄えのするタイミングで撮影された画像を検索することができる。   Furthermore, in the second embodiment, after shooting, an image at the time of inversion of the motion vector is searched and the best shot is selected. For this reason, it is possible to search for an image taken at a time when it looks good with respect to a subject that moves at high speed, such as a sports scene, without requiring fine settings from a large number of images.

なお、上述の実施形態においては、顔の部分を検出して、この部分を基準画像として周辺部を決めていたが、顔以外にも、頭部または胴体等でも構わない。   In the above-described embodiment, the face portion is detected and the peripheral portion is determined by using this portion as a reference image. However, the head or the torso may be used in addition to the face.

また、本発明の実施形態においては、撮像装置として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、また、携帯電話や携帯情報端末(PDA:Personal Digital Assist)等に内蔵されるカメラでも勿論構わない。   In the embodiments of the present invention, a digital camera is used as the imaging device. However, the camera may be a digital single-lens reflex camera or a compact digital camera, and may be a mobile phone or a personal digital assistant (PDA: Personal). Of course, a camera built into Digital Assist) may be used.

本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。   The present invention is not limited to the above-described embodiments as they are, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage. In addition, various inventions can be formed by appropriately combining a plurality of components disclosed in the embodiment. For example, you may delete some components of all the components shown by embodiment. Furthermore, constituent elements over different embodiments may be appropriately combined.

本発明の第1実施形態に係わるカメラの構成を示すブロック図である。It is a block diagram which shows the structure of the camera concerning 1st Embodiment of this invention. 本発明の第1実施形態において、ベストショットのタイミングを説明する図であり、(a)は人物が両手を外側に広げていく場面、(b)は広がった両手を内側に閉じていく場面、(c)は外側に一番広がった場面から内側に閉じる瞬間であり、ベストショットのタイミングを示す図である。In 1st Embodiment of this invention, it is a figure explaining the timing of a best shot, (a) is a scene where a person spreads both hands outside, (b) is a scene which closes both spread hands inside, (C) is a moment showing the best shot timing, which is the moment of closing inward from the scene spreading most outward. 本発明の第1実施形態において、図2に示す手の動きをする際の四肢と顔の動きの速度を示すグラフであり、(a)はX軸方向の速度、(b)はY軸方向の速度を示すグラフである。FIG. 3 is a graph showing the speed of movement of the limbs and the face when the hand moves shown in FIG. 2 in the first embodiment of the present invention, where (a) is the speed in the X-axis direction, and (b) is the Y-axis direction. It is a graph which shows the speed of. 本発明の第1実施形態において、ベストショットのタイミングを説明する図であり、(a)はゴルフクラブを振り下ろす様子を示す図であり、(b)はゴルフクラブを振り上げる様子を示す図であり、(c)はベストショットのタイミングを示す図である。In the first embodiment of the present invention, it is a diagram for explaining the timing of the best shot, (a) is a diagram showing a state of swinging down a golf club, (b) is a diagram showing a state of swinging up a golf club. Yes, (c) is a diagram showing the timing of the best shot. 本発明の第1実施形態において、図4に示すゴルフスイング時におけるゴルフクラブと顔の動きの速度を示すグラフであり、(a)はX軸方向の速度、(b)はY軸方向の速度を示すグラフである。FIG. 5 is a graph showing the speed of movement of the golf club and the face during the golf swing shown in FIG. 4 in the first embodiment of the present invention, where (a) is the speed in the X-axis direction and (b) is the speed in the Y-axis direction. It is a graph which shows. 本発明の第1実施形態において、図2に示した手の動きを拡大表示する図であり、(a)は図2(a)に対応し、(b)はその拡大図である。In the first embodiment of the present invention, FIG. 2 is an enlarged view of the hand movement shown in FIG. 2, (a) corresponds to FIG. 2 (a), and (b) is an enlarged view thereof. 本発明の第1実施形態に係わるカメラにおける撮影の動作を示すフローチャートである。It is a flowchart which shows the operation | movement of imaging | photography in the camera concerning 1st Embodiment of this invention. 本発明の第2実施形態に係わるカメラにおける撮影の動作を示すフローチャートである。It is a flowchart which shows the operation | movement of imaging | photography in the camera concerning 2nd Embodiment of this invention. 本発明の第2実施形態に係わるカメラおけるベスト画像検索のフローチャートである。It is a flowchart of the best image search in the camera concerning 2nd Embodiment of this invention. 本発明の第3実施形態において、ベストショットのタイミングの予測を説明する図であり、(a)はゴルフクラブを振り下ろす様子を示す図であり、(b)はゴルフクラブを振り上げる様子を示す図であり、(c)はベストショットのタイミングを示す図である。In 3rd Embodiment of this invention, it is a figure explaining prediction of the timing of the best shot, (a) is a figure which shows a mode that a golf club is shaken down, (b) shows a mode that a golf club is raised. It is a figure and (c) is a figure which shows the timing of the best shot. 本発明の第3実施形態に係わるカメラにおける撮影の動作を示すフローチャートである。It is a flowchart which shows the operation | movement of imaging | photography in the camera concerning 3rd Embodiment of this invention. 本発明の第3実施形態において、ベストショットを撮影できない場合の失敗例を示す写真である。In 3rd Embodiment of this invention, it is a photograph which shows the example of failure when a best shot cannot be image | photographed. 本発明の第4実施形態において、ベストショットのタイミングの予測を説明する図であり、(a)は遠くでランニングしている様子を示す図であり、(b)は近づいてきたときの様子を示す図であり、(c)は更に近づいてきたときの様子であり、ベストショットのタイミングを示す図である。In 4th Embodiment of this invention, it is a figure explaining prediction of the timing of the best shot, (a) is a figure which shows a mode that it is running far, (b) is a state when approaching It is a figure which shows, and (c) is a figure when it approaches further, and is a figure which shows the timing of the best shot. 本発明の第4実施形態に係わるカメラにおける撮影の動作を示すフローチャートである。It is a flowchart which shows the operation | movement of imaging | photography in the camera concerning 4th Embodiment of this invention.

符号の説明Explanation of symbols

1・・・制御部、1b・・・ベストショット判定部、2・・・撮影部、3・・・時計部、4・・・記録部、4a・・・ワーク領域、4b・・・保存領域、5・・・顔検出部、6・・・操作判定部、7・・・通信部、8・・・表示部、9・・・動き検出部、10・・・カメラ、15・・・ネット、20・・・外部サーバー、11・・・人物、12a・・・中央部、12b・・・周辺部、13・・・画面、13i・・・ブロック、15・・・手、16・・・ゴルフクラブ、17・・・ゴルフボール DESCRIPTION OF SYMBOLS 1 ... Control part, 1b ... Best shot determination part, 2 ... Imaging | photography part, 3 ... Clock part, 4 ... Recording part, 4a ... Work area | region, 4b ... Storage area | region DESCRIPTION OF SYMBOLS 5 ... Face detection part, 6 ... Operation determination part, 7 ... Communication part, 8 ... Display part, 9 ... Motion detection part, 10 ... Camera, 15 ... Net 20 ... external server, 11 ... person, 12a ... center, 12b ... peripheral, 13 ... screen, 13i ... block, 15 ... hand, 16 ... Golf club, 17 ... golf ball

Claims (12)

画面内の所定の基準位置の基準画像を中心とした周辺画像の相対的な動きベクトルを検出する動きベクトル検出部と、
上記動きベクトルが上下または左右において反転するタイミングを検出する反転タイミング検出部と、
上記反転タイミングに応答して撮影を開始する撮像部と、
を備えたことを特徴とする撮像装置。
A motion vector detector that detects a relative motion vector of a peripheral image centered on a reference image at a predetermined reference position in the screen;
An inversion timing detector that detects the timing at which the motion vector is inverted in the vertical and horizontal directions;
An imaging unit that starts shooting in response to the inversion timing;
An imaging apparatus comprising:
上記基準画像は顔画像であることを特徴とする請求項1に記載の撮像装置。   The imaging apparatus according to claim 1, wherein the reference image is a face image. 上記検出部による上記反転タイミングの検出は、上記基準画像の動きが小さい場合に行うことを特徴とする請求項1に記載の撮像装置。   The imaging apparatus according to claim 1, wherein the inversion timing is detected by the detection unit when the movement of the reference image is small. 画面内の所定の基準位置の基準画像を中心とした周辺画像の相対的な動きベクトルを検出するステップと、
上記動きベクトルが上下または左右において反転するタイミングを検出するステップと、
上記反転タイミングに応答して撮影を開始するステップと、
を備えたことを特徴とする撮像方法。
Detecting a relative motion vector of a peripheral image around a reference image at a predetermined reference position in the screen;
Detecting a timing at which the motion vector is reversed vertically or horizontally;
Starting shooting in response to the inversion timing;
An imaging method comprising:
画面内の所定の基準位置の基準画像を中心とした周辺画像の相対的な動きベクトルを検出する動きベクトル検出部と、
上記動きベクトルが上下または左右において反転するタイミングを検出する反転タイミング検出部と、
上記反転タイミングを基にして撮影のタイミングを予測し、このタイミング時に撮影を開始する撮像部と、
を備えたことを特徴とする撮像装置。
A motion vector detector that detects a relative motion vector of a peripheral image centered on a reference image at a predetermined reference position in the screen;
An inversion timing detector that detects the timing at which the motion vector is inverted in the vertical and horizontal directions;
An imaging unit that predicts the shooting timing based on the inversion timing and starts shooting at this timing;
An imaging apparatus comprising:
上記反転タイミング検出部は、少なくとも2つの反転タイミングを検出し、この2つの反転タイミングに基づいて上記撮影のタイミングを予測することを特徴とする請求項5に記載の撮像装置。   The imaging apparatus according to claim 5, wherein the inversion timing detection unit detects at least two inversion timings and predicts the shooting timing based on the two inversion timings. 複数の画像を記憶する記憶部と、
上記複数の画像について、画面内の所定の基準位置の基準画像を中心とした周辺画像の相対的な動きベクトルを検出する動きベクトル検出部と、
上記複数の画像について、上記動きベクトルが上下または左右において反転するタイミングを検出する反転タイミング検出部と、
上記反転タイミング時に撮影された画像を選択する選択部と、
を備えたことを特徴とする画像検索装置。
A storage unit for storing a plurality of images;
For the plurality of images, a motion vector detection unit that detects a relative motion vector of a peripheral image centered on a reference image at a predetermined reference position in the screen;
An inversion timing detection unit for detecting the timing at which the motion vector is inverted in the vertical and horizontal directions for the plurality of images;
A selection unit for selecting an image taken at the above reversal timing;
An image search apparatus comprising:
一連に撮影された複数の画像について、画面内の基準画像に対する周辺画像の相対的な動きベクトルを検出し、
上記動きベクトルに基づいて、左右方向または上下方向で上記動きベクトルが反転するタイミングを検出し、
上記動きベクトルが反転したタイミングの画像を選択する、
ことを特徴とする画像検索方法。
For a plurality of images taken in series, the relative motion vector of the surrounding image with respect to the reference image in the screen is detected,
Based on the motion vector, detect the timing at which the motion vector is reversed in the horizontal direction or the vertical direction,
Select an image at the timing when the motion vector is inverted,
An image search method characterized by that.
上記動きベクトルの検出と共に、基準画像の動きを検出し、この動きが大きい場合には、上記動きベクトルの反転を検出しないことを特徴とする請求項8に記載の画像検索方法。   9. The image search method according to claim 8, wherein a motion of a reference image is detected together with the motion vector, and inversion of the motion vector is not detected when the motion is large. 一連に撮影された複数の画像について、画面内の基準画像に対する周辺画像の相対的な動きベクトルを検出するステップと、
上記動きベクトルに基づいて、左右方向または上下方向で上記動きベクトルが反転するタイミングを検出するステップと、
上記動きベクトルが反転したタイミングの画像を選択するステップと、
を有することを特徴とする画像検索用プログラム。
Detecting a relative motion vector of a peripheral image with respect to a reference image in a screen for a plurality of images taken in series;
Detecting a timing at which the motion vector is inverted in the left-right direction or the up-down direction based on the motion vector;
Selecting an image at a timing when the motion vector is inverted;
An image search program characterized by comprising:
上記動きベクトルの検出と共に、基準画像の動きを検出し、この動きが大きい場合には、上記動きベクトルの反転を検出しないことを特徴とする請求項10に記載の画像検索用プログラム。   11. The image search program according to claim 10, wherein a motion of a reference image is detected together with the motion vector, and inversion of the motion vector is not detected when the motion is large. 画面内の所定の基準位置の基準画像の位置を検出する基準画像検出部と、
画面内の所定の基準位置の基準画像を中心とした周辺画像の相対的な動きベクトルを検出する動きベクトル検出部と、
被写体像を撮影する撮影部と、
上記撮影部によって撮影された被写体像と共に、上記基準画像の位置を示す情報と、上記動きベクトルを示す情報を記録する記録部と、
を備えたことを特徴とする撮像装置。
A reference image detection unit for detecting the position of a reference image at a predetermined reference position in the screen;
A motion vector detector that detects a relative motion vector of a peripheral image centered on a reference image at a predetermined reference position in the screen;
A shooting section for shooting a subject image;
A recording unit that records information indicating the position of the reference image and information indicating the motion vector together with the subject image captured by the imaging unit,
An imaging apparatus comprising:
JP2007292814A 2007-11-12 2007-11-12 Image pickup apparatus, image pickup method, image searching apparatus and image searching method Withdrawn JP2009124210A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007292814A JP2009124210A (en) 2007-11-12 2007-11-12 Image pickup apparatus, image pickup method, image searching apparatus and image searching method
CN200810174039XA CN101442615B (en) 2007-11-12 2008-11-12 Imaging apparatus, imaging method, image retrieval apparatus and image retrieval method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007292814A JP2009124210A (en) 2007-11-12 2007-11-12 Image pickup apparatus, image pickup method, image searching apparatus and image searching method

Publications (1)

Publication Number Publication Date
JP2009124210A true JP2009124210A (en) 2009-06-04

Family

ID=40726839

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007292814A Withdrawn JP2009124210A (en) 2007-11-12 2007-11-12 Image pickup apparatus, image pickup method, image searching apparatus and image searching method

Country Status (2)

Country Link
JP (1) JP2009124210A (en)
CN (1) CN101442615B (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011121917A1 (en) * 2010-03-30 2011-10-06 Sony Corporation Image processing apparatus, method, and computer program storage device

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103210332B (en) * 2011-04-18 2015-09-30 松下电器(美国)知识产权公司 The focusing control method of camera head, camera head and integrated circuit
CN102831430B (en) * 2011-06-14 2015-02-04 华晶科技股份有限公司 Method for predicting photographing time point and device adopting same

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3745089B2 (en) * 1997-07-15 2006-02-15 キヤノン株式会社 Image processing apparatus, image processing method, and computer-readable storage medium
EP1536633A1 (en) * 2003-11-27 2005-06-01 Sony Corporation Photographing apparatus and method, supervising system, program and recording medium
KR100584603B1 (en) * 2004-08-03 2006-05-30 학교법인 대양학원 Direct mode motion prediction method and apparatus for multi-view video

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011121917A1 (en) * 2010-03-30 2011-10-06 Sony Corporation Image processing apparatus, method, and computer program storage device
JP2011211631A (en) * 2010-03-30 2011-10-20 Sony Corp Image processing device and method, and program
KR20130009788A (en) * 2010-03-30 2013-01-23 소니 주식회사 Image processing apparatus, method, and computer program storage device
US8964038B2 (en) 2010-03-30 2015-02-24 Sony Corporation Image processing apparatus, method, and computer program storage device
KR101677315B1 (en) * 2010-03-30 2016-11-17 소니 주식회사 Image processing apparatus, method, and computer program storage device
US9509903B2 (en) 2010-03-30 2016-11-29 Sony Corporation Image processing apparatus, method, and computer program storage device

Also Published As

Publication number Publication date
CN101442615B (en) 2010-09-29
CN101442615A (en) 2009-05-27

Similar Documents

Publication Publication Date Title
US8831282B2 (en) Imaging device including a face detector
JP5589548B2 (en) Imaging apparatus, image processing method, and program storage medium
US20110013034A1 (en) Method for operating digital camera and digital camera using the same
CN104683689A (en) Image pickup apparatus and method for controlling the apparatus
TWI428836B (en) Image capture methods and systems, and computer program products thereof
JP2010165012A (en) Imaging apparatus, image retrieval method, and program
JP2006067452A (en) Video recording apparatus, and electronic camera
JP5880135B2 (en) Detection apparatus, detection method, and program
JP2006246354A (en) Imaging unit and imaging program
JP2009105559A (en) Method of detecting and processing object to be recognized from taken image, and portable electronic device with camera
JP2009124210A (en) Image pickup apparatus, image pickup method, image searching apparatus and image searching method
JP2014068081A (en) Imaging apparatus and control method of the same, program and storage medium
JP7060703B2 (en) Shooting equipment, shooting method, and program
JP6693071B2 (en) Imaging device, imaging control method, and program
JP5448868B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JP2013141155A (en) Imaging device
JP5800600B2 (en) Imaging apparatus, imaging method, and program
JP6024135B2 (en) Subject tracking display control device, subject tracking display control method and program
JP4849330B2 (en) Display control apparatus and method, imaging apparatus, information processing apparatus and method, and program
JP2008104070A (en) Portable apparatus with camera and program for portable apparatus with camera
JP2020115679A (en) Object detection device, detection control method, and program
JP2009246700A (en) Imaging apparatus
JP7064609B2 (en) Shooting equipment, shooting method, and program
JP6493746B2 (en) Image tracking device and image tracking method
JP6322964B2 (en) Imaging apparatus, imaging control method, and program

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20110201