JP2011097194A - Imaging apparatus, method of controlling the same, and program - Google Patents

Imaging apparatus, method of controlling the same, and program Download PDF

Info

Publication number
JP2011097194A
JP2011097194A JP2009247107A JP2009247107A JP2011097194A JP 2011097194 A JP2011097194 A JP 2011097194A JP 2009247107 A JP2009247107 A JP 2009247107A JP 2009247107 A JP2009247107 A JP 2009247107A JP 2011097194 A JP2011097194 A JP 2011097194A
Authority
JP
Japan
Prior art keywords
subject
shooting
information
composition
photographing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009247107A
Other languages
Japanese (ja)
Other versions
JP5441614B2 (en
JP2011097194A5 (en
Inventor
Kenji Maruyama
健治 丸山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009247107A priority Critical patent/JP5441614B2/en
Publication of JP2011097194A publication Critical patent/JP2011097194A/en
Publication of JP2011097194A5 publication Critical patent/JP2011097194A5/ja
Application granted granted Critical
Publication of JP5441614B2 publication Critical patent/JP5441614B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To assist photographing by guiding the operation of a photographer to correct a position of a subject to a position coinciding with photographing composition. <P>SOLUTION: An imaging apparatus includes a selection unit for selecting photographing composition information for indicating a composition in photographing of the subject, namely an object to be photographed, a recognition unit for acquiring subject recognition information for indicating a recognition result of the subject, a comparison unit for comparing the selected photographing composition information with the subject recognition information, a determination unit for determining whether the photographing composition information coincides with the subject recognition information based on a comparison result, a presentation unit for presenting the comparison result, and a determined result; and a guidance unit for guiding the operation of the photographer so that the subject recognition information coincides with the photographing composition information based on the presented information. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、撮像装置、撮像装置の制御方法およびプログラムに関する。   The present invention relates to an imaging apparatus, an imaging apparatus control method, and a program.

近年、デジタルカメラのメモリーカードやハードディスクなどの記憶デバイスの大容量化と低価格化とに伴い、大量の画像を撮影する傾向に拍車がかかっている。そのため、写真撮影後に必要な撮影画像だけを選別する作業に手間がかかるという問題があった。   In recent years, with the increase in capacity and price of storage devices such as memory cards and hard disks of digital cameras, the trend of taking a large number of images has been spurred. For this reason, there has been a problem that it takes time to select only the necessary captured images after taking a picture.

さらに、結婚式、子供の運動会、旅行等といった、テーマがある程度決められたアルバムを作成する場合、写真撮影した後に撮影画像を時系列毎に、又はシーン毎に分類してそれぞれの中から最適な画像を選別する必要があり、繁雑な作業を必要とした。   Furthermore, when creating an album with a certain theme, such as a wedding ceremony, children's athletic meet, travel, etc., after taking a picture, the photographed images are classified by time series or scene, and the optimum is selected from each. It was necessary to sort out images, and complicated work was required.

一方こうした手間を軽減するための方法として、注目する被写体の種類を判別し、被写体の種類に応じて、撮影したい構図に関する情報(撮影構図情報)に基づいて撮影時に注目する被写体の位置を表示部に案内表示するという方法(特許文献1参照)がある。   On the other hand, as a method for reducing such effort, the type of the subject to be noticed is determined, and the position of the subject to be noticed at the time of photographing is displayed based on information on the composition to be photographed (photographing composition information) according to the type of the subject. There is a method (see Patent Document 1) of displaying guidance.

特開2007−020104号公報JP 2007-020104 A

しかしながら、被写体の位置がアルバムに使用する写真の撮影構図として適切な状態であるかどうかを判断しながら被写体の位置を修正することは、依然として撮影者が自ら行わなければならないという課題がある。   However, there is still a problem that the photographer still has to perform correction of the position of the subject while judging whether or not the position of the subject is in an appropriate state as the photographing composition of the photo used for the album.

上記の課題に鑑み、本発明は、被写体の位置を、被写体を撮影する際の構図に関する情報である撮影構図と合致する位置へと修正するよう撮影者の操作を誘導することで、撮影補助を行いながら撮影を行うことが可能な撮像技術の提供を目的とする。   In view of the above-described problems, the present invention provides shooting assistance by guiding the photographer's operation to correct the position of the subject to a position that matches the shooting composition that is information related to the composition at the time of shooting the subject. An object of the present invention is to provide an imaging technique capable of performing shooting while performing.

上記の目的を達成する本発明に係る撮像装置は、
撮影対象である被写体を撮影する際の構図を示す撮影構図情報を、前記撮影構図情報を記憶する情報記憶手段から選択する選択手段と、
前記被写体を認識し、前記被写体の認識結果を示す被写体認識情報を取得する認識手段と、
前記選択手段により選択された前記撮影構図情報と、前記認識手段により取得された前記被写体認識情報と、を比較する比較手段と、
前記比較手段による前記比較の結果に基づいて、前記撮影構図情報と前記被写体認識情報とが合致するか否かを判断する判断手段と、
前記比較手段による前記比較の結果と前記判断手段による前記判断の結果とを呈示する呈示手段と、
前記呈示手段により呈示された前記比較の結果と前記判断の結果とに基づいて、前記被写体認識情報と前記撮影構図情報とを合致させるように撮影者の操作を誘導する誘導手段と、を備えることを特徴とする。
An imaging apparatus according to the present invention that achieves the above-described object,
Selecting means for selecting shooting composition information indicating a composition when shooting a subject to be shot from an information storage means for storing the shooting composition information;
Recognition means for recognizing the subject and acquiring subject recognition information indicating a recognition result of the subject;
Comparison means for comparing the photographing composition information selected by the selection means with the subject recognition information acquired by the recognition means;
Judging means for judging whether or not the photographing composition information and the subject recognition information match based on a result of the comparison by the comparing means;
Presenting means for presenting the result of the comparison by the comparing means and the result of the judgment by the judging means;
Guidance means for guiding a photographer's operation to match the subject recognition information and the photographing composition information based on the result of the comparison presented by the presenting means and the result of the determination. It is characterized by.

本発明によれば、被写体の位置を撮影構図と合致する位置へと修正するよう撮影者の操作を誘導することで、撮影補助を行うことが可能となる。この撮影補助によって、被写体の撮影漏れや過剰な撮影を防ぐことが可能となる。また、撮影後にアルバムを作成する場合、選別の手間を軽減することが可能となる。   According to the present invention, it is possible to perform shooting assistance by guiding the photographer's operation to correct the position of the subject to a position that matches the shooting composition. With this shooting assistance, it is possible to prevent shooting omission and excessive shooting of the subject. Also, when creating an album after shooting, it is possible to reduce the labor of sorting.

デジタルカメラのシステム構成を示すブロック図。1 is a block diagram showing a system configuration of a digital camera. デジタルカメラの機能的構成を示すブロック図。The block diagram which shows the functional structure of a digital camera. メイン処理を示すフローチャート。The flowchart which shows a main process. 静止画アルバム作成フローを示すフローチャート。The flowchart which shows a still image album creation flow. 撮影構図を手動で選択する方式における静止画撮影フローを示すフローャート。Float showing the still image shooting flow in the method of manually selecting the shooting composition. 被写体が撮影構図に合致するために撮影者の操作を誘導するフローを示すフローチャート。6 is a flowchart showing a flow for guiding a photographer's operation in order for a subject to match a shooting composition. 撮影構図を手動で選択する方式における表示装置の表示内容を示す図。The figure which shows the display content of the display apparatus in the system which selects a photography composition manually. 撮影構図を手動で選択する方式における、被写体が撮影構図に合致するために撮影者の操作を誘導する際の表示内容の遷移を示す図。The figure which shows the transition of the display content at the time of guide | inducing a photographer's operation in order to match | combine a subject with a photography composition in the system which selects a photography composition manually. 撮影構図を手動で選択する方式における動画撮影フローを示すフローチャート。The flowchart which shows the moving image imaging | photography flow in the system which selects an imaging | photography composition manually. 撮影構図を自動で選択する方式における静止画撮影フローを示すフローチャート。The flowchart which shows the still image shooting flow in the system which selects a photography composition automatically. 撮影構図を自動で選択する方式における表示装置の表示内容及び被写体が撮影構図に合致するために誘導する際の表示内容の遷移を示す図。The figure which shows the display content of the display apparatus in the system which selects an imaging | photography composition automatically, and the transition of the display content at the time of guide | inducing in order that a to-be-photographed object may match an imaging | photography composition.

(第1実施形態)
図1の参照により、撮像装置(以下、「デジタルカメラ100」という)のシステム構成について説明する。デジタルカメラ100は、CPU(Central Processing Unit)101と、一次記憶部102と、通信制御部103と、入力部104と、表示部105と、撮像部106と、二次記憶部107とを備えている。CPU101と各装置とはバス108により接続されている。
(First embodiment)
A system configuration of an imaging apparatus (hereinafter referred to as “digital camera 100”) will be described with reference to FIG. The digital camera 100 includes a CPU (Central Processing Unit) 101, a primary storage unit 102, a communication control unit 103, an input unit 104, a display unit 105, an imaging unit 106, and a secondary storage unit 107. Yes. The CPU 101 and each device are connected by a bus 108.

CPU101は、二次記憶部107に記憶されているシステムプログラムを読み出し、一次記憶部102内に形成されたワークエリアに展開し、システムプログラムに従って各装置を制御する。また、CPU101は、二次記憶部107に記憶されている各種処理プログラムを読み出してワークエリアに展開し、その展開されたプログラムに従って、各種処理を実行する。一次記憶部102は、CPU101によって実行される各種プログラムとこれらプログラムに係るデータとを一時的に記憶するワークエリアを形成する。   The CPU 101 reads a system program stored in the secondary storage unit 107, develops it in a work area formed in the primary storage unit 102, and controls each device according to the system program. Further, the CPU 101 reads out various processing programs stored in the secondary storage unit 107 and develops them in a work area, and executes various processes according to the developed programs. The primary storage unit 102 forms a work area for temporarily storing various programs executed by the CPU 101 and data related to these programs.

通信制御部103は、通信用ケーブル等により外部の電子機器(図示せず)、例えばパーソナルコンピュータ等、と接続され、画像データ等の送受信を制御する。なお、外部の電子機器との接続は、必ずしも通信用ケーブル等による有線接続である必要はなく、赤外線等の無線接続で行ってもよい。   The communication control unit 103 is connected to an external electronic device (not shown) such as a personal computer via a communication cable or the like, and controls transmission / reception of image data and the like. The connection with an external electronic device is not necessarily a wired connection with a communication cable or the like, and may be performed with a wireless connection such as infrared rays.

入力部104は、電源キーと、シャッターキーと、表示部105の表示画面上におけるカーソル位置の移動のためのキーと、その時点で選択されている内容を指示設定する決定キー等とを備える(図示せず)。また、入力部104は、通常撮影モードと、アルバム作成モードと、終了モードと、再生モード等との、デジタルカメラ100の動作モードを切り替えるためのモード切り替えスイッチを備える(図示せず)。そして入力部104は、撮影者による各キー操作とスイッチ操作とに応じた操作信号をCPU101に出力する。表示部105は、LCD(Liquid Crystal Display)等のモニタ(表示画面)により構成される。そして表示部105は、CPU101から入力される表示信号の指示に従って、これから撮影しようとする画像である撮影構図のテンプレートと、撮影された画像等とを表示画面上に併せて表示する。   The input unit 104 includes a power key, a shutter key, a key for moving the cursor position on the display screen of the display unit 105, and a determination key for specifying and setting the content selected at that time ( Not shown). In addition, the input unit 104 includes a mode switch for switching the operation mode of the digital camera 100 such as a normal shooting mode, an album creation mode, an end mode, and a playback mode (not shown). The input unit 104 outputs an operation signal corresponding to each key operation and switch operation by the photographer to the CPU 101. The display unit 105 includes a monitor (display screen) such as an LCD (Liquid Crystal Display). Then, in accordance with the instruction of the display signal input from the CPU 101, the display unit 105 displays a shooting composition template, which is an image to be shot, and the shot image, etc. on the display screen.

図2の参照により、デジタルカメラ100の機能構成を説明する。情報記憶手段として機能する撮影構図情報保持部201は、予めテンプレートとして作成されたアルバムの撮影構図情報と撮影条件等とを記憶する。認識手段として機能する被写体認識部202は、撮影中の画像データに画像処理を施して撮影対象である被写体を認識する。比較手段として機能する被写体比較部203は、撮影構図情報と、被写体の認識結果である被写体認識情報とを比較して類似度を計算する。判断手段として機能する合致判断部204は、比較手段により求めた類似度に基づいて被写体認識情報と撮影構図情報とが合致しているかどうかの判断を行う。呈示手段として機能する結果呈示部205は、撮影構図情報と、撮影構図及び被写体の類似度と、選択した撮影構図と合致したか否か等とを比較結果として表示部105に呈示する。また、結果呈示部205は呈示した比較結果に基づいて撮影構図と被写体とが合致するように撮影者の画像処理装置の操作を誘導する誘導手段としての機能を備える。撮影手段として機能する画像撮影部206は、被写体を撮像部106によって撮影する。記録手段として機能する画像記録部207は、画像撮影部206で撮影された画像を二次記憶部107などに記録する。アルバムの作成手段として機能するアルバム作成部208は、二次記憶部107などに記憶された画像からアルバムを作成する。   The functional configuration of the digital camera 100 will be described with reference to FIG. The shooting composition information holding unit 201 functioning as an information storage unit stores shooting composition information, shooting conditions, and the like of an album created as a template in advance. A subject recognition unit 202 that functions as a recognition unit performs image processing on image data being shot to recognize a subject to be shot. The subject comparison unit 203 that functions as a comparison unit compares the shooting composition information with subject recognition information that is a recognition result of the subject, and calculates a similarity. A match determination unit 204 functioning as a determination unit determines whether the subject recognition information and the shooting composition information match based on the similarity obtained by the comparison unit. The result presenting unit 205 that functions as a presenting unit presents the photographing composition information, the similarity between the photographing composition and the subject, whether or not the selected photographing composition is matched, and the like on the display unit 105 as comparison results. In addition, the result presenting unit 205 has a function as guiding means for guiding the photographer to operate the image processing apparatus so that the photographing composition matches the subject based on the presented comparison result. An image photographing unit 206 that functions as a photographing unit photographs a subject with the imaging unit 106. An image recording unit 207 that functions as a recording unit records an image captured by the image capturing unit 206 in the secondary storage unit 107 or the like. An album creating unit 208 functioning as an album creating unit creates an album from images stored in the secondary storage unit 107 or the like.

図3の参照により、撮影のメイン処理を示すフローについて説明する。まず、現在の動作モード(撮影モード)が解析される(ステップS301)。現在の動作モードが通常撮影モードである場合(ステップS302;YES)、通常撮影処理が実行される(ステップS303)。なお、通常撮影モードとは、デジタルカメラ100において予め標準として定められている処理により撮影を行う撮影モードである。一方、通常撮影モードではない場合には(ステップS302;NO)、処理はステップS304に進む。ステップS304において、現在の動作モードがアルバム撮影モードであると判断された場合(ステップS304;YES)、ステップS305において、静止画像のアルバム作成フローが実行される(図4参照)。図4における静止画アルバム作成フローについては後述する。現在の動作モードを解析した結果(ステップS301)、入力部104のモード切り替えスイッチ(図示せず)の操作等によりモード切り替えが指示されずアルバム撮影モードのままの場合を考える(ステップS302;NO、かつ、ステップS304;YES)。その場合は静止画アルバム作成フローが実行される(ステップS305)。   With reference to FIG. 3, the flow showing the main process of photographing will be described. First, the current operation mode (shooting mode) is analyzed (step S301). When the current operation mode is the normal shooting mode (step S302; YES), normal shooting processing is executed (step S303). The normal shooting mode is a shooting mode in which shooting is performed by processing predetermined as a standard in the digital camera 100. On the other hand, when it is not the normal shooting mode (step S302; NO), the process proceeds to step S304. If it is determined in step S304 that the current operation mode is the album shooting mode (step S304; YES), a still image album creation flow is executed in step S305 (see FIG. 4). The still picture album creation flow in FIG. 4 will be described later. As a result of analyzing the current operation mode (step S301), a case is considered in which the mode switching is not instructed by operating a mode switching switch (not shown) of the input unit 104, etc., and the album photographing mode remains (step S302; NO, And step S304; YES). In that case, a still image album creation flow is executed (step S305).

逆に、モード切り替えが指示されてアルバム撮影モードのままでない場合は、通常撮影(ステップS302;YES)または終了モードか否かの判定(ステップS302;NO、かつ、ステップS304;NO)、が行われることになる(ステップS306)。すなわち、ステップS304において、現在の動作モードがアルバム撮影モードではないと判断されると(ステップS304;NO)、動作モードが終了モードであるか否かが判断される(ステップS306)。そして、現在の動作モードが終了モードではないと判断されると(ステップS306;NO)、現在の動作モードに応じた処理が実行される(ステップS307)。   On the contrary, when the mode switching is instructed and the album shooting mode is not maintained, the normal shooting (step S302; YES) or the end mode determination (step S302; NO and step S304; NO) is performed. (Step S306). That is, if it is determined in step S304 that the current operation mode is not the album shooting mode (step S304; NO), it is determined whether or not the operation mode is an end mode (step S306). If it is determined that the current operation mode is not the end mode (step S306; NO), processing according to the current operation mode is executed (step S307).

例えば、現在の動作モードが再生モードである場合、表示部105の画面上に二次記憶部107に記録されている画像一覧が表示され、画像一覧から選択された撮影画像が再生されて表示される。ステップS306において、現在の動作モードが終了モードであると判断された場合(ステップS306;YES)、処理は終了する。   For example, when the current operation mode is the playback mode, an image list recorded in the secondary storage unit 107 is displayed on the screen of the display unit 105, and a captured image selected from the image list is reproduced and displayed. The If it is determined in step S306 that the current operation mode is the end mode (step S306; YES), the process ends.

次に、図4の参照により、静止画アルバム作成フローについて説明する。通信制御部103は、不図示のパーソナルコンピュータ等にテンプレートとして予め用意されたアルバムの撮影構図情報を、通信用ケーブル等を介して受信(ダウンロード)し、一次記憶部102のワークエリアに転送する(ステップS401)。転送処理が終了すると、図5に示す静止画撮影フローが実行される(ステップS402)。静止画撮影フローについては後述する。静止画撮影フローが終了すると、撮影した静止画をアルバムの対応する位置に貼り付けて静止画アルバムを作成し(ステップS403)、作成した静止画アルバムを端末に転送して(ステップS404)、処理を終了する。   Next, a still image album creation flow will be described with reference to FIG. The communication control unit 103 receives (downloads) the shooting composition information of an album prepared in advance as a template in a personal computer (not shown) via a communication cable or the like, and transfers it to the work area of the primary storage unit 102 ( Step S401). When the transfer process ends, the still image shooting flow shown in FIG. 5 is executed (step S402). The still image shooting flow will be described later. When the still image shooting flow is completed, the shot still image is pasted to the corresponding position of the album to create a still image album (step S403), the created still image album is transferred to the terminal (step S404), and processing is performed. Exit.

図5の参照により、撮影構図を手動で選択する方式における静止画撮影フローについて説明する。まず、CPU101は、撮影構図情報保持部201からアルバムの撮影構図情報を取り出し、表示部105の画面上に表示する。アルバムの撮影構図情報は、例えば、後述の図7のように表示部105の画面上に呈示され、呈示された撮影構図情報の中から撮影者に任意の一つの撮影構図を選択させる(ステップS501)。ここでは、図7中の撮影構図701を撮影者が選択した場合を考える。撮影者が撮影構図701を選択すると、図6に示す撮影構図誘導フローが実行される(ステップS502)。撮影構図誘導フローについては、後述する。撮影構図誘導フローにおいて、撮影構図情報と被写体認識情報とが合致した場合、静止画を撮影する(ステップS503)。そして、全ての撮影構図で撮影したかを確認し、全ての撮影構図で撮影し終えていない場合は(ステップS504;NO)、撮影し終えていない残りの撮影構図から任意の一つの撮影構図を撮影者に選択させる(ステップS501)。以上の手順を繰り返し、全ての撮影構図を撮影し終えた場合(ステップS504;YES)、処理は終了する。   With reference to FIG. 5, a still image shooting flow in a method of manually selecting a shooting composition will be described. First, the CPU 101 extracts the shooting composition information of the album from the shooting composition information holding unit 201 and displays it on the screen of the display unit 105. The shooting composition information of the album is presented on the screen of the display unit 105 as shown in FIG. 7 to be described later, for example, and the photographer selects one arbitrary shooting composition from the presented shooting composition information (step S501). ). Here, a case where the photographer selects the photographing composition 701 in FIG. When the photographer selects the shooting composition 701, the shooting composition guidance flow shown in FIG. 6 is executed (step S502). The shooting composition guidance flow will be described later. In the shooting composition guidance flow, if the shooting composition information matches the subject recognition information, a still image is shot (step S503). Then, it is confirmed whether or not all the shooting compositions have been shot. If shooting has not been completed for all shooting compositions (step S504; NO), any one shooting composition is selected from the remaining shooting compositions that have not been shot. The photographer is selected (step S501). When the above procedure is repeated and all the shooting compositions have been shot (step S504; YES), the process ends.

ここで、図6における撮影構図誘導フローについて説明する。まず、撮影に際して被写体の位置が更新されたかを確認する(ステップS601)。更新を確認する方法は以下の通りである。シャッターキーの半押し操作がなされていない場合は被写体の位置は更新されていないと判断して待機し(ステップS601;NO)、シャッターキーの半押し操作がなされた場合は被写体の位置が更新されたと判断する(ステップS601;YES)。被写体の位置が更新された場合、撮像部106からシャッターキーを半押しした直後に取得された画像データが一時記憶装置102に一時的に記憶される。そして、記憶された画像データの被写体認識情報と撮影構図情報との類似度を計算する。類似度の計算方法は特に限定しないが、例えば、画像データに像域分離処理を施して被写体の輪郭を抽出し、撮影構図情報との相関を計算する方法が挙げられる。そして、計算された類似度が、被写体認識情報と撮影構図情報とが類似しているかどうかの判断基準値である第1閾値(閾値1)を超えているかどうかを判断する(ステップS603)。類似度が第1閾値を超えていない場合は(ステップS603;NO)、撮影構図と類似しないことを表示部105の画面上に呈示する(ステップS604)。逆に、類似度が第1閾値を超えている場合は(ステップS603;YES)、計算された類似度が、被写体認識情報と撮影構図情報とが合致しているかどうかの判断基準である第2閾値(閾値2)を超えているかどうかを判断する(ステップS605)。類似度が第2閾値を超えていない場合は(ステップS605;NO)、予め設定された撮影構図に被写体の位置を修正するために、撮影者の操作を誘導するための情報を表示部105の画面上に呈示する(ステップS606)。逆に、類似度が第2閾値を超えている場合は(ステップS605;YES)、撮影構図情報と被写体認識情報とが合致したことを表示部105の画面上に呈示して(ステップS607)、処理を終了する。   Here, the photographing composition guidance flow in FIG. 6 will be described. First, it is confirmed whether or not the position of the subject has been updated during shooting (step S601). The method for confirming the update is as follows. If the shutter key is not pressed halfway, it is determined that the subject position has not been updated (step S601; NO), and if the shutter key is pressed halfway, the subject position is updated. (Step S601; YES). When the position of the subject is updated, the image data acquired immediately after the shutter key is pressed halfway from the imaging unit 106 is temporarily stored in the temporary storage device 102. Then, the similarity between the subject recognition information of the stored image data and the shooting composition information is calculated. The method for calculating the similarity is not particularly limited. For example, a method of performing image region separation processing on the image data to extract the contour of the subject and calculating the correlation with the photographing composition information can be given. Then, it is determined whether or not the calculated similarity exceeds a first threshold value (threshold value 1) that is a determination reference value for determining whether or not the subject recognition information and the shooting composition information are similar (step S603). If the similarity does not exceed the first threshold (step S603; NO), it is presented on the screen of the display unit 105 that it is not similar to the shooting composition (step S604). On the other hand, if the similarity exceeds the first threshold (step S603; YES), the calculated similarity is a second criterion for determining whether the subject recognition information and the shooting composition information match. It is determined whether or not the threshold value (threshold value 2) is exceeded (step S605). If the similarity does not exceed the second threshold (step S605; NO), information for guiding the photographer's operation is displayed on the display unit 105 in order to correct the position of the subject in the preset shooting composition. Present it on the screen (step S606). Conversely, if the similarity exceeds the second threshold (step S605; YES), the fact that the shooting composition information and the subject recognition information match is presented on the screen of the display unit 105 (step S607). The process ends.

次に、図8の参照により、撮影構図を手動で選択する方式を撮影者が選択した場合において、図6に示す撮影構図誘導フローが実行された場合に表示部105の表示画面がどのように遷移するかを説明する。ここでは、図7中の撮影構図701を撮影者が選択した場合を考える。そして、被写体認識情報と撮影構図情報とが類似しているかどうかの判断基準値である第1閾値(閾値1)を10に、撮影構図情報と被写体認識情報とが合致しているかどうかの判断基準値である第2閾値(閾値2)を80に設定した場合を例にする。まず、図6において、シャッターキーが半押し操作されるまで待機し(ステップS601)、半押し操作されて被写体の位置が更新された場合には撮影構図情報と被写体認識情報との類似度を計算する(ステップS602)。計算された類似度が、被写体認識情報と撮影構図情報とが類似しているかどうかの判断基準である第1閾値を超えているかどうかを判断する(ステップS603)。ここで、計算された類似度を5とすると、第1閾値を超えていないので(ステップS603;NO)撮影構図701と類似していないことを表示部105の画面上に呈示する(ステップS604)(図8(a))。   Next, referring to FIG. 8, when the photographer selects a method for manually selecting a shooting composition, how the display screen of the display unit 105 is displayed when the shooting composition guidance flow shown in FIG. 6 is executed. Explain whether the transition occurs. Here, a case where the photographer selects the photographing composition 701 in FIG. Then, the first threshold (threshold 1), which is a determination reference value for determining whether or not the subject recognition information and the photographing composition information are similar, is set to 10, and the determination criterion for determining whether or not the photographing composition information and the subject recognition information match. A case where the second threshold value (threshold value 2) which is a value is set to 80 is taken as an example. First, in FIG. 6, the process waits until the shutter key is half-pressed (step S601). When the subject position is updated by half-pressing, the similarity between the shooting composition information and the subject recognition information is calculated. (Step S602). It is determined whether the calculated similarity exceeds a first threshold value that is a criterion for determining whether the subject recognition information and the shooting composition information are similar (step S603). Here, if the calculated similarity is 5, the first threshold value is not exceeded (step S603; NO), and it is presented on the screen of the display unit 105 that it is not similar to the imaging composition 701 (step S604). (FIG. 8 (a)).

その後、再びシャッターキーが半押し操作されるまで待機し(ステップS601)、半押し操作がされたら撮影構図情報と被写体認識情報との類似度を計算する(ステップS602)。計算された類似度が、被写体認識情報と撮影構図情報とが類似しているかどうかの判断基準値である第1閾値(閾値1)を超えているかどうかを判断する(ステップS603)。ここで、計算された類似度を20とすると、第1閾値(閾値1)を超えている(ステップS603;YES)。よって、計算された類似度が、撮影構図情報と被写体認識情報とが合致しているかどうかの判断基準値である第2閾値(閾値2)を超えているかどうかを判断する(ステップS605)。この場合、第2閾値(閾値2)として設定した80を超えていないので(ステップS605;NO)、撮影構図701と被写体が合致するように撮影者の操作を誘導するための情報を表示部105の画面上に呈示する(ステップS606)(図8(b))。図8(b)で示す例では、被写体は撮影構図701と比較すると小さくかつ右上に寄っているので「ズームイン/人の位置を左下に移動」という撮影者の操作を誘導する指示を撮影者に呈示する。また、被写体と撮影構図701とがどれだけ類似しているかを撮影者に認識させるために「類似度20%」という情報を呈示する。 その後、再びシャッターキーが半押し操作されるまで待機し(ステップS601)、半押し操作がなされたら撮影構図情報と被写体認識情報との類似度を計算する(ステップS602)。計算された類似度が、被写体認識情報と撮影構図情報とが類似しているかどうかの判断基準値である第1閾値(閾値1)を超えているかどうかを判断する(ステップS603)。ここで、計算された類似度を「70」とすると、第1閾値(閾値1)を超えている(ステップS603;YES)。よって、計算された類似度が、撮影構図情報と被写体認識情報とが合致しているかどうかの判断基準値である第2閾値(閾値2)を超えているかどうかを判断する(ステップS605)。すると、この場合も第2閾値(閾値2)を超えていないので(ステップS605;NO)、構図701と被写体とが合致するように撮影者の操作を誘導するための情報を表示部105の画面上に呈示する(ステップS606)(図8(c))。図8(c)で示す例では、被写体は撮影構図701と比較すると右に寄っているので「人の位置を左に移動」という指示を撮影者に呈示する。また、被写体と撮影構図701とがどれだけ類似しているかを撮影者に認識させるために「類似度70%」という情報を表示する。   Thereafter, the process waits until the shutter key is pressed halfway again (step S601). When the shutter key is pressed halfway, the similarity between the shooting composition information and the subject recognition information is calculated (step S602). It is determined whether or not the calculated similarity exceeds a first threshold value (threshold value 1), which is a reference value for determining whether the subject recognition information and the shooting composition information are similar (step S603). Here, when the calculated similarity is 20, it exceeds the first threshold (threshold 1) (step S603; YES). Therefore, it is determined whether or not the calculated similarity exceeds a second threshold value (threshold value 2), which is a criterion value for determining whether or not the shooting composition information matches the subject recognition information (step S605). In this case, since it does not exceed 80 set as the second threshold value (threshold value 2) (step S605; NO), information for guiding the photographer's operation so that the photographing composition 701 matches the subject is displayed on the display unit 105. (Step S606) (FIG. 8B). In the example shown in FIG. 8B, since the subject is smaller than the shooting composition 701 and is closer to the upper right, an instruction to guide the photographer's operation of “zoom in / moving the position of the person to the lower left” is given to the photographer. Present. In addition, information “similarity 20%” is presented to allow the photographer to recognize how similar the subject and the shooting composition 701 are. Thereafter, the process waits until the shutter key is half-pressed again (step S601). When the half-press operation is performed, the similarity between the shooting composition information and the subject recognition information is calculated (step S602). It is determined whether or not the calculated similarity exceeds a first threshold value (threshold value 1), which is a reference value for determining whether the subject recognition information and the shooting composition information are similar (step S603). Here, when the calculated similarity is “70”, it exceeds the first threshold (threshold 1) (step S603; YES). Therefore, it is determined whether or not the calculated similarity exceeds a second threshold value (threshold value 2), which is a criterion value for determining whether or not the shooting composition information matches the subject recognition information (step S605). In this case, since the second threshold value (threshold value 2) is not exceeded (step S605; NO), information for guiding the photographer's operation so that the composition 701 matches the subject is displayed on the screen of the display unit 105. Presented above (step S606) (FIG. 8C). In the example shown in FIG. 8C, since the subject is closer to the right as compared with the photographing composition 701, the photographer is instructed to move the person's position to the left. Further, information “similarity 70%” is displayed in order to make the photographer recognize how similar the subject and the shooting composition 701 are.

その後、再びシャッターキーが半押し操作されるまで待機し(ステップS601)、半押し操作がされたら撮影構図情報と被写体認識情報との類似度を計算する(ステップS602)。計算された類似度が、被写体認識情報と撮影構図情報とが類似しているかどうかの判断基準値である第1閾値(閾値1)を超えているかどうかを判断する(ステップS603)。ここで、計算された類似度を「90」とすると、第1閾値(閾値1)を超えている(ステップS603;YES)。よって、計算された類似度が、撮影構図情報と被写体認識情報とが合致しているかどうかの判断基準値である第2閾値(閾値2)を超えているかどうかを判断する(ステップS605)。この場合、第2閾値(閾値2)を超えているので(ステップS605;YES)、撮影構図701と被写体とが合致したことを表示部105の画面上に呈示する(ステップS607)(図8(d))。また、被写体と撮影構図701とがどれだけ類似しているかを撮影者に認識させるために、「類似度90%」という情報を併せて表示部105の画面上に呈示する(ステップS607)(図8(d))。   Thereafter, the process waits until the shutter key is pressed halfway again (step S601). When the shutter key is pressed halfway, the similarity between the shooting composition information and the subject recognition information is calculated (step S602). It is determined whether or not the calculated similarity exceeds a first threshold value (threshold value 1), which is a reference value for determining whether the subject recognition information and the shooting composition information are similar (step S603). Here, when the calculated similarity is “90”, it exceeds the first threshold (threshold 1) (step S603; YES). Therefore, it is determined whether or not the calculated similarity exceeds a second threshold value (threshold value 2), which is a criterion value for determining whether or not the shooting composition information matches the subject recognition information (step S605). In this case, since the second threshold value (threshold value 2) is exceeded (step S605; YES), it is presented on the screen of the display unit 105 that the photographing composition 701 matches the subject (step S607) (FIG. 8 ( d)). Further, in order for the photographer to recognize how similar the subject and the shooting composition 701 are, information of “similarity 90%” is also presented on the screen of the display unit 105 (step S607) (FIG. 8 (d)).

本発明によれば、撮影装置の表示部から撮影中の被写体に対して撮影構図情報が呈示されることによって、撮影者の撮影補助を行うことができる。この撮影補助によって、被写体の撮影漏れや過剰な撮影を防ぐことが可能となる。また、撮影後にアルバムを作成する場合、セレクションの手間を省くことが可能となる。さらに、被写体の配置位置がアルバムに使用する写真の構図として適切な状態になるまで被写体の配置位置の修正を誘導することで、より容易にアルバムの構図と合致した写真が撮影可能となる。
(第2実施形態)
本発明に係る第2実施形態について説明する。図9の参照により、撮影構図を手動で選択する方式における動画撮影フローについて説明する。ここで、ステップS902までの処理は図5のステップS502の処理と同様である。まず、動画撮影が開始する(ステップS901)。CPU101は、撮影構図情報保持部201からアルバムの撮影構図情報を読出し、表示部105の画面上に表示する。表示部105は、アルバムの撮影構図情報を図7のように表示し、撮影者に一つの撮影構図を手動で選択させる(ステップS902)。ここでは、図7の撮影構図701を撮影者が選択した場合を考える。撮影構図701を選択すると、図6に示す撮影構図誘導フローが実行される(ステップS903)。撮影構図誘導フローにおいて撮影構図701と被写体とが合致した場合、動画像の撮影中に開始タグを記録する(ステップS904)。ステップS904の後は、予め定めた間隔で撮影構図701と被写体との類似度を計算する(ステップS905)。そして、類似度が被写体と撮影構図701とが合致しているかどうかの判断基準である第2閾値(閾値2)を下回っていないかを判断する(ステップS906)。
第2閾値(閾値2)を下回っている場合は(ステップS906;YES)、動画像の撮影中中に終了タグを記録する(ステップS907)。記録時間(開始タグから終了タグまでの時間)が予めアルバム情報として設定された時間を超えていなければ(ステップS908;NO)、撮影構図誘導フローを継続(ステップS903)する。設定された時間を超えていれば(ステップS908;YES)、全ての撮影構図を撮影したかを確認する。そして、撮影し終えていない場合は(ステップS909;NO)、未撮影である撮影構図のうち一つの撮影構図を撮影者に選択させて(ステップS902)、撮影構図誘導フローを継続(ステップS903)する。同様の手順を繰り返し、全ての撮影構図を撮影し終えた場合(ステップS909;YES)、本処理は終了する。
(第3実施形態)
本発明に係る第3実施形態について説明する。図4のステップS402において、デジタルカメラ100が撮影構図を自動で選択してアルバムに使用する静止画を撮影する方式を撮影者が選択した場合を考える。図10の参照により、デジタルカメラ100により実行される静止画撮影フローを示すフローチャートについて説明する。まず、CPU101は、撮影構図情報保持部201からアルバムの撮影構図情報を取り出し、表示装置105に表示する。表示装置105は、アルバムの撮影構図情報を図11(A)のように表示し、デジタルカメラ100が適切な撮影構図を自動で選択することを撮影者に通知する。ここでは、図11(A)中の撮影構図1101から撮影構図1106の中から適切な撮影構図を自動で選択する。
According to the present invention, photographing composition information is presented to a subject being photographed from the display unit of the photographing apparatus, so that photographing of a photographer can be assisted. With this shooting assistance, it is possible to prevent shooting omission and excessive shooting of the subject. In addition, when creating an album after shooting, it is possible to save the labor of selection. Furthermore, by guiding the correction of the subject arrangement position until the subject arrangement position is in an appropriate state as the composition of the photo used for the album, a photo that matches the composition of the album can be taken more easily.
(Second Embodiment)
A second embodiment according to the present invention will be described. With reference to FIG. 9, a moving image shooting flow in a method of manually selecting a shooting composition will be described. Here, the processing up to step S902 is the same as the processing in step S502 of FIG. First, moving image shooting starts (step S901). The CPU 101 reads out the shooting composition information of the album from the shooting composition information holding unit 201 and displays it on the screen of the display unit 105. The display unit 105 displays the shooting composition information of the album as shown in FIG. 7, and allows the photographer to manually select one shooting composition (step S902). Here, a case where the photographer selects the photographing composition 701 in FIG. 7 is considered. When the shooting composition 701 is selected, the shooting composition guidance flow shown in FIG. 6 is executed (step S903). If the shooting composition 701 matches the subject in the shooting composition guidance flow, a start tag is recorded during shooting of a moving image (step S904). After step S904, the similarity between the photographing composition 701 and the subject is calculated at predetermined intervals (step S905). Then, it is determined whether the similarity is below a second threshold (threshold 2), which is a criterion for determining whether or not the subject and the shooting composition 701 match (step S906).
If it is below the second threshold value (threshold value 2) (step S906; YES), an end tag is recorded during moving image shooting (step S907). If the recording time (time from the start tag to the end tag) does not exceed the time set in advance as album information (step S908; NO), the shooting composition guidance flow is continued (step S903). If the set time has been exceeded (step S908; YES), it is confirmed whether or not all the shooting compositions have been shot. If shooting has not been completed (step S909; NO), the photographer is allowed to select one shooting composition among the shooting compositions that have not been shot (step S902), and the shooting composition guidance flow is continued (step S903). To do. The same procedure is repeated, and when all the shooting compositions have been shot (step S909; YES), this processing ends.
(Third embodiment)
A third embodiment according to the present invention will be described. Consider a case in which the photographer selects a method for photographing still images to be used for an album by the digital camera 100 automatically selecting a photographing composition in step S402 in FIG. With reference to FIG. 10, a flowchart showing a still image shooting flow executed by the digital camera 100 will be described. First, the CPU 101 retrieves the shooting composition information of the album from the shooting composition information holding unit 201 and displays it on the display device 105. The display device 105 displays the shooting composition information of the album as shown in FIG. 11A, and notifies the photographer that the digital camera 100 automatically selects an appropriate shooting composition. Here, an appropriate shooting composition is automatically selected from the shooting composition 1101 to the shooting composition 1106 in FIG.

まず、シャッターキーが半押し操作されるまで待機する(ステップS1001;NO)。シャッターキーが半押し操作され、被写体内容が更新された場合(ステップS1001;YES)、複数の撮影構図のうち、まだ選択されていない撮影構図の中から一つを選択する(ステップS1002)。そして撮影構図情報と被写体認識情報(被写体内容)との類似度を計算する(ステップS1003)。計算された類似度が、被写体認識情報と撮影構図情報とが類似しているかどうかの判断基準である第1閾値(閾値1)を超えているかどうかを判断する(ステップS1004)。第1閾値(閾値1)を超えていない場合は(ステップS1004;NO)、処理をステップS1010に進めて全ての撮影構図を選択したかの確認を行う(ステップS1010)。全ての撮影構図を選択した場合(ステップS1010;YES)、被写体内容が更新されるまで待機する(ステップS1001)。まだ選択していない撮影構図がある場合(ステップS1010;NO)、ステップS1002へ戻る。そして、まだ選択されていない撮影構図の中から別の一つを自動で選択し(ステップS1002)、同様の処理を行う(ステップS1003、ステップS1004)。このようにして全ての撮影構図情報が被写体認識情報と類似しなかった場合、シャッターキーが半押し操作されるまで待機する(ステップS1001;NO)。一方、選択された撮影構図について類似度が第1閾値(閾値1)を超えている場合は(ステップS1004;YES)、図6に示す撮影構図誘導フローが実行される(ステップS1006)。撮影構図誘導フローにおいて撮影構図情報と被写体とが合致しない場合(ステップS1007;NO)、図6に示す撮影構図誘導フローを再度実行する。撮影構図誘導フローにおいて撮影構図情報と被写体認識情報とが合致した場合(ステップS1007;YES)、静止画を撮影する(ステップS1008)。静止画撮影後、全ての撮影構図を撮影したかを確認し、撮影し終えていない場合は(ステップS1009;NO)、シャッターキーが半押し操作されるまで待機する(ステップS1001;NO)。全ての撮影構図を撮影し終えた場合(ステップS1009;YES)、本処理は終了する。
図11(B)の参照により、図10に示す静止画撮影フローと図6に示す撮影構図誘導フローが実行された場合に、表示装置105の表示画面がどのように遷移するかについて説明する。ここで、被写体認識情報(被写体内容)と撮影構図情報とが類似しているかどうかの判断基準である第1閾値(閾値1)を10、撮影構図情報と被写体認識情報とが合致しているかどうかの判断基準である第2閾値(閾値2)を80に設定したとする。まず、シャッターキーが半押し操作されるまで待機する(ステップS1001;NO)。
First, it waits until the shutter key is half-pressed (step S1001; NO). When the shutter key is pressed halfway and the subject content is updated (step S1001; YES), one of the plurality of shooting compositions that have not been selected is selected (step S1002). Then, the similarity between the shooting composition information and the subject recognition information (subject content) is calculated (step S1003). It is determined whether the calculated similarity exceeds a first threshold (threshold 1), which is a criterion for determining whether the subject recognition information and the shooting composition information are similar (step S1004). If the first threshold value (threshold value 1) has not been exceeded (step S1004; NO), the process proceeds to step S1010, and it is confirmed whether or not all shooting compositions have been selected (step S1010). If all the shooting compositions have been selected (step S1010; YES), the process waits until the subject content is updated (step S1001). If there is a shooting composition that has not yet been selected (step S1010; NO), the process returns to step S1002. Then, another one is automatically selected from the imaging compositions not yet selected (step S1002), and the same processing is performed (steps S1003 and S1004). In this way, when all the shooting composition information is not similar to the subject recognition information, the process waits until the shutter key is pressed halfway (step S1001; NO). On the other hand, if the degree of similarity of the selected shooting composition exceeds the first threshold (threshold 1) (step S1004; YES), the shooting composition guidance flow shown in FIG. 6 is executed (step S1006). If the photographing composition information does not match the subject in the photographing composition guidance flow (step S1007; NO), the photographing composition guidance flow shown in FIG. 6 is executed again. If the shooting composition information matches the subject recognition information in the shooting composition guidance flow (step S1007; YES), a still image is shot (step S1008). After shooting a still image, it is confirmed whether all shooting compositions have been shot. If shooting has not been completed (step S1009; NO), the process waits until the shutter key is pressed halfway (step S1001; NO). When all the shooting compositions have been shot (step S1009; YES), this process ends.
With reference to FIG. 11B, how the display screen of the display device 105 changes when the still image shooting flow shown in FIG. 10 and the shooting composition guidance flow shown in FIG. 6 are executed will be described. Here, the first threshold (threshold 1), which is a criterion for determining whether or not the subject recognition information (subject content) and the shooting composition information are similar, is 10, and whether or not the shooting composition information and the subject recognition information match. Assume that the second threshold value (threshold value 2), which is the determination criterion, is set to 80. First, it waits until the shutter key is half-pressed (step S1001; NO).

シャッターキーが半押し操作された場合(ステップS1001;YES)、複数の撮影構図のうち、まだ選択されていない撮影構図の中から撮影構図1101が自動で選択された場合を考える(ステップS1002)。その場合は撮影構図1101と被写体認識情報との類似度を計算する(ステップS1003)。計算された類似度が、被写体と撮影構図1101とが類似しているかどうかの判断基準である第1閾値(閾値1)を超えているかどうかを判断する(ステップS1004)。   When the shutter key is pressed halfway (step S1001; YES), a case is considered in which a shooting composition 1101 is automatically selected from a plurality of shooting compositions that have not yet been selected (step S1002). In this case, the similarity between the shooting composition 1101 and the subject recognition information is calculated (step S1003). It is determined whether or not the calculated similarity exceeds a first threshold (threshold 1) that is a criterion for determining whether or not the subject and the shooting composition 1101 are similar (step S1004).

ここで、計算された類似度を5とすると、第1閾値(閾値1)を超えていないので(ステップS1004;NO)まだ、どの撮影構図とも類似していないことを表示装置105に表示する(図11(B)(a))。以下、選択されていない撮影構図の中から順次一つを自動で選択し(ステップS1002)、類似度が第1閾値(閾値1)を超える撮影構図が見つかるまで、同様の処理を行う(ステップS1003、ステップS1004)。全ての撮影構図との類似度が第1閾値(閾値1)未満だとすると(ステップS1010;YES)、ループを抜け、被写体認識情報が更新されるまで待機する(ステップS1005、ステップS1001)。そして、どの撮影構図とも類似していないことを表示装置105に表示し続ける(図11(B)(a))。   Here, if the calculated similarity is 5, the first threshold value (threshold value 1) is not exceeded (step S1004; NO), and it is displayed on the display device 105 that it is not similar to any shooting composition yet ( FIG. 11 (B) (a)). Thereafter, one of the unselected shooting compositions is automatically selected sequentially (step S1002), and the same processing is performed until a shooting composition whose similarity exceeds the first threshold (threshold 1) is found (step S1003). Step S1004). If the similarity with all shooting compositions is less than the first threshold (threshold 1) (step S1010; YES), the process goes through a loop and waits until the subject recognition information is updated (steps S1005 and S1001). Then, it continues to display on the display device 105 that it is not similar to any shooting composition (FIGS. 11B and 11A).

その後、被写体認識情報(被写体内容)が更新されるまで待機し(ステップS1001)、更新された場合、自動で選択された撮影構図1101と被写体認識情報との類似度を計算する(ステップS1003)。計算された類似度が、被写体認識情報と撮影構図1101とが類似しているかどうかの判断基準である第1閾値(閾値1)を超えているかどうかを判断する(ステップS1004)。ここで、計算された類似度を5とすると、第1閾値(閾値1)を超えていないので(ステップS1004;NO)、撮影構図1101と類似していないことを表示装置105に表示する(図11(B)(a))。第1閾値(閾値1)を超えていないので(ステップS1004;NO)、まだ選択されていない撮影構図の中から自動で、例えば撮影構図1102を選択し(ステップS1002)、同様の処理を行う(ステップS1003、ステップS1004)。   Thereafter, the process waits until the subject recognition information (subject content) is updated (step S1001). When the subject recognition information (subject content) is updated, the similarity between the automatically selected shooting composition 1101 and the subject recognition information is calculated (step S1003). It is determined whether the calculated similarity exceeds a first threshold (threshold 1), which is a criterion for determining whether the subject recognition information and the shooting composition 1101 are similar (step S1004). Here, if the calculated similarity is 5, the first threshold value (threshold value 1) is not exceeded (step S1004; NO), so that it is not similar to the shooting composition 1101 is displayed on the display device 105 (FIG. 11 (B) (a)). Since the first threshold value (threshold value 1) is not exceeded (step S1004; NO), for example, the shooting composition 1102 is automatically selected from the shooting compositions that have not yet been selected (step S1002), and the same processing is performed (step S1002). Step S1003, Step S1004).

ここで、計算された類似度を20とすると、第1閾値(閾値1)を超えているので(ステップS1004;YES)、図6に示す撮影構図誘導フローのステップS605から処理を実行する(ステップS1006)。   Here, if the calculated similarity is 20, the first threshold value (threshold value 1) is exceeded (step S1004; YES), so the processing is executed from step S605 of the imaging composition guidance flow shown in FIG. 6 (step S1004). S1006).

計算された類似度が、撮影構図情報と被写体認識情報とが合致しているかどうかの判断基準である第2閾値(閾値2)を超えているかどうかを判断する(ステップS605)。第2閾値(閾値2)を超えていないので(ステップS605;NO)、撮影構図1102に誘導するための情報を表示装置105に表示する(ステップS606)(図11(B)(b))。図11(B)(b)で示すように、被写体は撮影構図1102と比較すると小さくかつ右に寄っているので「ズームイン/人の位置を右に移動」という指示を撮影者に与える。また、被写体がどれだけ撮影構図に近いかを撮影者に認識させるために「類似度20%」という情報を表示する。   It is determined whether or not the calculated similarity exceeds a second threshold value (threshold value 2) that is a criterion for determining whether or not the photographing composition information matches the subject recognition information (step S605). Since the second threshold value (threshold value 2) is not exceeded (step S605; NO), information for guiding to the photographing composition 1102 is displayed on the display device 105 (step S606) (FIGS. 11B and 11B). As shown in FIGS. 11B and 11B, since the subject is smaller than the photographing composition 1102 and is closer to the right, an instruction “zoom in / move person's position to the right” is given to the photographer. Further, in order to make the photographer recognize how close the subject is to the photographing composition, information “similarity 20%” is displayed.

その後、誘導に従い被写体認識情報(被写体内容)が更新されるまで待機し(ステップS601)、更新された場合、撮影構図1102と被写体認識情報(被写体内容)との類似度を計算する(ステップS602)。計算された類似度が、被写体認識情報と撮影構図1102とが類似しているかどうかの判断基準である第1閾値(閾値1)を超えているかどうかを判断する(ステップS603)。ここで計算された類似度を5とすると、第1閾値(閾値1)を超えていないので(ステップS603;YES)、撮影構図1102と類似していないことを表示装置105に表示して(ステップS604)、撮影構図誘導フロー(ステップS1006)を終了する。被写体認識情報と撮影構図1102とが合致していないので(ステップS1007;NO)、ステップS1002に戻り、自動で選択された撮影構図情報との類似度を順次計算する。   After that, the system waits until the subject recognition information (subject content) is updated according to the guidance (step S601). When the subject recognition information (subject content) is updated, the similarity between the photographing composition 1102 and the subject recognition information (subject content) is calculated (step S602). . It is determined whether the calculated similarity exceeds a first threshold (threshold 1) that is a criterion for determining whether the subject recognition information and the shooting composition 1102 are similar (step S603). If the similarity calculated here is 5, the first threshold value (threshold value 1) is not exceeded (step S603; YES), and it is displayed on the display device 105 that it is not similar to the shooting composition 1102 (step 603). S604), the photographing composition guidance flow (step S1006) is terminated. Since the object recognition information and the shooting composition 1102 do not match (step S1007; NO), the process returns to step S1002, and the similarity with the automatically selected shooting composition information is sequentially calculated.

再び自動で選択された撮影構図1101と被写体認識情報との類似度を計算する(ステップS1003)。計算された類似度が、被写体と撮影構図1101とが類似しているかどうかの判断基準である第1閾値(閾値1)を超えているかどうかを判断する(ステップS1004)。ここで、計算された類似度を20とすると、第1閾値(閾値1)を超えているので(ステップS1004;YES)、図6に示す撮影構図誘導フローのステップS605から処理を実行する(ステップS1006)。
計算された類似度が、撮影構図1101と被写体認識情報とが合致しているかどうかの判断基準である第2閾値(閾値2)を超えているかどうかを判断する(ステップS605)。この場合第2閾値(閾値2)を超えていないので(ステップS605;NO)、撮影構図1101に誘導するための情報を表示装置105に表示する(ステップS606)(図11(B)(c))。図11(B)(c)で示すように、被写体は撮影構図1101と比較すると小さくかつ右上に寄っているので「ズームイン/人の位置を左下に移動」という指示を撮影者に与える。また被写体がどれだけ撮影構図1101に近いかを撮影者に認識させるために「類似度20%」という情報を表示する。
The similarity between the automatically selected shooting composition 1101 and the subject recognition information is calculated again (step S1003). It is determined whether or not the calculated similarity exceeds a first threshold (threshold 1) that is a criterion for determining whether or not the subject and the shooting composition 1101 are similar (step S1004). Here, if the calculated similarity is 20, the first threshold value (threshold value 1) is exceeded (step S1004; YES), so the processing is executed from step S605 of the imaging composition guidance flow shown in FIG. 6 (step S1004). S1006).
It is determined whether or not the calculated similarity exceeds a second threshold value (threshold value 2) that is a criterion for determining whether or not the photographing composition 1101 matches the subject recognition information (step S605). In this case, since the second threshold value (threshold value 2) is not exceeded (step S605; NO), information for guiding to the photographing composition 1101 is displayed on the display device 105 (step S606) (FIGS. 11B and 11C). ). As shown in FIGS. 11B and 11C, since the subject is smaller than the shooting composition 1101 and is closer to the upper right, an instruction “zoom in / move person's position to lower left” is given to the photographer. Further, information “similarity 20%” is displayed to make the photographer recognize how close the subject is to the shooting composition 1101.

その後、シャッターキーが半押し操作されるまで待機し(ステップS601)、半押し操作された場合、撮影構図情報と被写体認識情報との類似度を計算する(ステップS602)。計算された類似度が、被写体認識情報と撮影構図情報とが類似しているかどうかの判断基準である第1閾値(閾値1)を超えているかどうかを判断する(ステップS603)。ここで、計算された類似度を70とすると、第1閾値(閾値1)を超えている(ステップS603;YES)。よって計算された類似度が、撮影構図情報と被写体認識情報とが合致しているかどうかの判断基準である第2閾値(閾値2)を超えているかどうかを判断する(ステップS605)。第2閾値(閾値2)を超えていないので(ステップS605;NO)、撮影構図1101に誘導するための情報を表示装置105に表示する(ステップS606)(図11(B)(d))。図11(B)(d)で示すように、被写体は撮影構図と比較すると右に寄っているので「人の位置を左に移動」という指示を撮影者に与え、また「類似度70%」という情報を表示する。   Thereafter, the process waits until the shutter key is half-pressed (step S601). If the shutter key is half-pressed, the similarity between the shooting composition information and the subject recognition information is calculated (step S602). It is determined whether or not the calculated similarity exceeds a first threshold (threshold 1) that is a criterion for determining whether or not the subject recognition information and the photographing composition information are similar (step S603). Here, if the calculated similarity is 70, it exceeds the first threshold (threshold 1) (step S603; YES). Therefore, it is determined whether the calculated similarity exceeds a second threshold value (threshold value 2), which is a criterion for determining whether or not the shooting composition information matches the subject recognition information (step S605). Since the second threshold value (threshold value 2) is not exceeded (step S605; NO), information for guiding to the photographing composition 1101 is displayed on the display device 105 (step S606) (FIGS. 11B and 11D). As shown in FIGS. 11B and 11D, since the subject is closer to the right as compared with the photographing composition, the photographer is instructed to “move the person's position to the left” and “similarity is 70%”. Is displayed.

その後、シャッターキーが半押し操作されるまで待機し(ステップS601)、半押し操作された場合、撮影構図情報と被写体認識情報との類似度を計算する(ステップS602)。計算された類似度が、被写体認識情報と撮影構図情報とが類似しているかどうかの判断基準である第1閾値(閾値1)を超えているかどうかを判断する(ステップS603)。ここで、計算された類似度を90とすると、第1閾値(閾値1)を超えている(ステップS603;YES)。よって計算された類似度が、撮影構図情報と被写体認識情報とが合致しているかどうかの判断基準である第2閾値(閾値2)を超えているかどうかを判断する(ステップS605)。第2閾値(閾値2)を超えているので(ステップS605;YES)、撮影構図情報と被写体認識情報とが合致したことを表示装置105に表示して(ステップS607)(図11(B)(e))、撮影構図誘導フロー(ステップS1006)を終了する。被写体認識情報(被写体内容)は撮影構図1101と合致しているので(ステップS1007;YES)、静止画を撮影する(ステップS1008)。静止画撮影後、全ての撮影構図を撮影したかを確認し、撮影し終えていない場合は(ステップS1009;NO)、ステップS1001に戻って、同様の処理を繰り返す。そして全ての撮影構図1101から撮影構図1106までを撮影し終えた場合(ステップS1007;YES)、処理を終了する。   Thereafter, the process waits until the shutter key is half-pressed (step S601). If the shutter key is half-pressed, the similarity between the shooting composition information and the subject recognition information is calculated (step S602). It is determined whether or not the calculated similarity exceeds a first threshold (threshold 1) that is a criterion for determining whether or not the subject recognition information and the photographing composition information are similar (step S603). Here, if the calculated similarity is 90, it exceeds the first threshold (threshold 1) (step S603; YES). Therefore, it is determined whether the calculated similarity exceeds a second threshold value (threshold value 2), which is a criterion for determining whether or not the shooting composition information matches the subject recognition information (step S605). Since the second threshold value (threshold value 2) is exceeded (step S605; YES), it is displayed on the display device 105 that the photographing composition information and the subject recognition information match (step S607) (FIG. 11B ( e)), the photographing composition guidance flow (step S1006) is terminated. Since the subject recognition information (subject content) matches the shooting composition 1101 (step S1007; YES), a still image is shot (step S1008). After shooting a still image, it is confirmed whether all shooting compositions have been shot. If shooting has not been completed (step S1009; NO), the process returns to step S1001 and the same processing is repeated. If all of the shooting compositions 1101 to 1106 have been shot (step S1007; YES), the process ends.

本発明によれば、被写体の位置がアルバムに使用する写真の構図として適切な状態になるまで被写体の位置の修正を誘導することで、容易にアルバムの構図と合致した写真が撮影可能となる。この撮影補助により、被写体の撮影漏れや過剰な撮影を防ぐことが可能となる。また、撮影後にアルバムを作成する場合、セレクションの手間を省くことが可能となる。   According to the present invention, it is possible to easily take a photo that matches the composition of the album by guiding the correction of the position of the subject until the position of the subject reaches an appropriate state as the composition of the photo used for the album. With this shooting assistance, it is possible to prevent omission of shooting of the subject and excessive shooting. In addition, when creating an album after shooting, it is possible to save the labor of selection.

(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
(Other embodiments)
The present invention can also be realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, or the like) of the system or apparatus reads the program. It is a process to be executed.

Claims (12)

撮影対象である被写体を撮影する際の構図を示す撮影構図情報を、前記撮影構図情報を記憶する情報記憶手段から選択する選択手段と、
前記被写体を認識し、前記被写体の認識結果を示す被写体認識情報を取得する認識手段と、
前記選択手段により選択された前記撮影構図情報と、前記認識手段により取得された前記被写体認識情報と、を比較する比較手段と、
前記比較手段による前記比較の結果に基づいて、前記撮影構図情報と前記被写体認識情報とが合致するか否かを判断する判断手段と、
前記比較手段による前記比較の結果と前記判断手段による前記判断の結果とを呈示する呈示手段と、
前記呈示手段により呈示された前記比較の結果と前記判断の結果とに基づいて、前記被写体認識情報と前記撮影構図情報とを合致させるように撮影者の操作を誘導する誘導手段と、
を備えることを特徴とする撮像装置。
Selecting means for selecting shooting composition information indicating a composition when shooting a subject to be shot from an information storage means for storing the shooting composition information;
Recognition means for recognizing the subject and acquiring subject recognition information indicating a recognition result of the subject;
Comparison means for comparing the photographing composition information selected by the selection means with the subject recognition information acquired by the recognition means;
Judging means for judging whether or not the photographing composition information and the subject recognition information match based on a result of the comparison by the comparing means;
Presenting means for presenting the result of the comparison by the comparing means and the result of the judgment by the judging means;
Guidance means for guiding a photographer's operation to match the subject recognition information and the photographing composition information based on the comparison result presented by the presenting means and the judgment result;
An imaging apparatus comprising:
前記比較手段は、前記撮影構図情報と前記被写体認識情報との類似度を求めることを特徴とする請求項1に記載の撮像装置。   The imaging apparatus according to claim 1, wherein the comparison unit obtains a similarity between the shooting composition information and the subject recognition information. 前記誘導手段は、前記比較手段により求められた類似度が、予め設定された第1閾値を越える場合に、前記誘導を行うことを特徴とする請求項1または2に記載の撮像装置。   The imaging apparatus according to claim 1, wherein the guidance unit performs the guidance when the similarity obtained by the comparison unit exceeds a preset first threshold value. 前記誘導手段による前記誘導の後に、前記比較手段により求められた前記類似度が予め設定された第2閾値を越える場合に、前記判断手段は前記撮影構図情報と前記被写体認識情報とが合致したと判断することを特徴とする請求項3に記載の撮像装置。   After the guidance by the guidance unit, when the similarity obtained by the comparison unit exceeds a preset second threshold, the determination unit determines that the photographing composition information matches the subject recognition information. The imaging apparatus according to claim 3, wherein a determination is made. 前記誘導手段による前記誘導の後に、前記比較手段により求められた前記類似度が予め設定された前記第1閾値を越えるが、予め設定された前記第2閾値を越えない場合に、前記誘導手段による前記誘導を継続して行うことを特徴とする請求項4に記載の撮像装置。   After the guidance by the guidance means, when the similarity obtained by the comparison means exceeds the preset first threshold but does not exceed the preset second threshold, the guidance means The imaging apparatus according to claim 4, wherein the guidance is continuously performed. 前記誘導手段による前記誘導の後、前記判断手段により前記撮影構図情報と前記被写体認識情報とが合致すると判断された場合に、前記被写体を撮影する撮影手段を更に備え、前記撮影手段が撮影する画像には、動画像が含まれ、前記比較手段は、前記撮影構図情報と前記被写体認識情報との前記類似度を予め定めた時間ごとに求め、前記第2閾値を超えている間、前記撮影手段は動画撮影を継続して行い、前記第2閾値を下回ると、前記撮影手段は前記動画撮影を終了することを特徴とする請求項5に記載の撮像装置。   After the guidance by the guidance unit, the imaging unit further includes a photographing unit for photographing the subject when the judgment unit determines that the photographing composition information matches the subject recognition information. Includes a moving image, and the comparing means obtains the similarity between the photographing composition information and the subject recognition information at a predetermined time, and while the second threshold is exceeded, the photographing means 6. The imaging apparatus according to claim 5, wherein the moving image shooting is continuously performed, and the shooting unit ends the moving image shooting when the second threshold value is exceeded. 前記撮影手段が撮影する画像には静止画像が含まれ、前記類似度が前記第2閾値を超えたときに、前記撮影手段は前記静止画像の撮影を行うことを特徴とする請求項5に記載の撮像装置。   6. The image captured by the imaging unit includes a still image, and the imaging unit captures the still image when the similarity exceeds the second threshold. Imaging device. 前記撮影手段により撮影された前記画像を記録する記録手段と、
前記記録手段に記録された前記画像からアルバムを作成する作成手段と、を更に備えることを特徴とする請求項7に記載の撮像装置。
Recording means for recording the image photographed by the photographing means;
The imaging apparatus according to claim 7, further comprising a creation unit that creates an album from the images recorded in the recording unit.
前記比較手段は、前記撮影構図情報と前記被写体認識情報との類似度を求め、
前記選択手段は、前記情報記憶手段に記憶される前記撮影構図情報から、前記類似度が予め設定された第1閾値を超える撮影構図情報を自動で選択することを特徴とする請求項1に記載の撮像装置。
The comparing means obtains a similarity between the photographing composition information and the subject recognition information;
The said selection means selects automatically the imaging composition information in which the said similarity exceeds the preset 1st threshold value from the said imaging composition information memorize | stored in the said information storage means. Imaging device.
前記誘導手段は、前記比較手段により求められた前記類似度が、前記第1閾値を越える場合に前記誘導を行い、
前記誘導手段による前記誘導の後に、前記類似度が、予め設定され前記第1閾値より大きい値である第2閾値を越える場合に、前記判断手段は前記撮影構図情報と前記被写体認識情報とが合致したと判断することを特徴とする請求項9に記載の撮像装置。
The guidance means performs the guidance when the similarity obtained by the comparison means exceeds the first threshold;
After the guidance by the guidance means, when the similarity exceeds a second threshold value that is preset and greater than the first threshold value, the determination means matches the photographing composition information with the subject recognition information. The imaging apparatus according to claim 9, wherein the imaging apparatus is determined to have performed.
選択手段が、撮影対象である被写体を撮影する際の構図を示す撮影構図情報を、前記撮影構図情報を記憶する情報記憶手段から選択する選択工程と、
認識手段が、前記被写体を認識し、前記被写体の認識結果を示す被写体認識情報を取得する認識工程と、
比較手段が、前記選択工程で選択された前記撮影構図情報と、前記認識工程で取得された前記被写体認識情報と、を比較する比較工程と、
判断手段が、前記比較工程による前記比較の結果に基づいて、前記撮影構図情報と前記被写体認識情報とが合致するか否かを判断する判断工程と、
呈示手段が、前記比較工程による前記比較の結果と前記判断工程による前記判断の結果とを呈示する呈示工程と、
誘導手段が、前記呈示工程により呈示された前記比較の結果と前記判断の結果とに基づいて、前記被写体認識情報と前記撮影構図情報とを合致させるように撮影者の操作を誘導する誘導工程と、
を有することを特徴とする撮像装置の制御方法。
A selection step in which selection means selects shooting composition information indicating a composition when shooting a subject to be shot from an information storage means for storing the shooting composition information;
A recognition step of recognizing the subject and obtaining subject recognition information indicating a recognition result of the subject;
A comparison step for comparing the photographing composition information selected in the selection step with the subject recognition information acquired in the recognition step;
A determination step of determining whether or not the photographing composition information and the subject recognition information match based on a result of the comparison by the comparison step;
A presenting step in which the presenting means presents the result of the comparison in the comparison step and the result of the determination in the determination step;
A guiding step for guiding a photographer's operation to match the subject recognition information and the photographing composition information based on the result of the comparison presented by the presenting step and the result of the judgment; ,
A method for controlling an imaging apparatus, comprising:
請求項11に記載の撮像装置の制御方法をコンピュータに実行させるためのプログラム。   The program for making a computer perform the control method of the imaging device of Claim 11.
JP2009247107A 2009-10-27 2009-10-27 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM Expired - Fee Related JP5441614B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009247107A JP5441614B2 (en) 2009-10-27 2009-10-27 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009247107A JP5441614B2 (en) 2009-10-27 2009-10-27 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM

Publications (3)

Publication Number Publication Date
JP2011097194A true JP2011097194A (en) 2011-05-12
JP2011097194A5 JP2011097194A5 (en) 2012-12-06
JP5441614B2 JP5441614B2 (en) 2014-03-12

Family

ID=44113679

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009247107A Expired - Fee Related JP5441614B2 (en) 2009-10-27 2009-10-27 IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM

Country Status (1)

Country Link
JP (1) JP5441614B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013046160A (en) * 2011-08-23 2013-03-04 Canon Inc Imaging apparatus, and control method and control program of imaging apparatus
WO2016199483A1 (en) * 2015-06-08 2016-12-15 ソニー株式会社 Image processing apparatus, image processing method, and program
CN108769536A (en) * 2018-07-06 2018-11-06 深圳市赛亿科技开发有限公司 Patterning process, patterning apparatus and the computer readable storage medium of photograph taking
CN109587394A (en) * 2018-10-23 2019-04-05 广东智媒云图科技股份有限公司 A kind of intelligence patterning process, electronic equipment and storage medium
JP2020061601A (en) * 2018-10-05 2020-04-16 東日本電信電話株式会社 Photographic inspection support device and program of the same

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002010068A (en) * 2000-04-19 2002-01-11 Fuji Photo Film Co Ltd Album producing method and device, and record medium
JP2004297167A (en) * 2003-03-25 2004-10-21 Olympus Corp Image display apparatus and image display system
JP2007259035A (en) * 2006-03-23 2007-10-04 Fujifilm Corp Imaging apparatus and imaging condition guidance method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002010068A (en) * 2000-04-19 2002-01-11 Fuji Photo Film Co Ltd Album producing method and device, and record medium
JP2004297167A (en) * 2003-03-25 2004-10-21 Olympus Corp Image display apparatus and image display system
JP2007259035A (en) * 2006-03-23 2007-10-04 Fujifilm Corp Imaging apparatus and imaging condition guidance method

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013046160A (en) * 2011-08-23 2013-03-04 Canon Inc Imaging apparatus, and control method and control program of imaging apparatus
WO2016199483A1 (en) * 2015-06-08 2016-12-15 ソニー株式会社 Image processing apparatus, image processing method, and program
JPWO2016199483A1 (en) * 2015-06-08 2018-03-29 ソニー株式会社 Image processing apparatus, image processing method, and program
CN108769536A (en) * 2018-07-06 2018-11-06 深圳市赛亿科技开发有限公司 Patterning process, patterning apparatus and the computer readable storage medium of photograph taking
JP2020061601A (en) * 2018-10-05 2020-04-16 東日本電信電話株式会社 Photographic inspection support device and program of the same
CN109587394A (en) * 2018-10-23 2019-04-05 广东智媒云图科技股份有限公司 A kind of intelligence patterning process, electronic equipment and storage medium

Also Published As

Publication number Publication date
JP5441614B2 (en) 2014-03-12

Similar Documents

Publication Publication Date Title
US20150189221A1 (en) Image reproducing apparatus and method for controlling same
US20130169839A1 (en) Imaging apparatus and method for controlling the same
JP2008097435A (en) Image editing device, image editing method and program thereof
JP5441614B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM
JP2011091635A (en) Imaging apparatus
JP2007081732A (en) Imaging apparatus
JP6381892B2 (en) Image processing apparatus, image processing method, and image processing program
JP6460868B2 (en) Display control apparatus and control method thereof
JP5755347B2 (en) COMMUNICATION CONTROL DEVICE, ITS CONTROL METHOD, PROGRAM, AND RECORDING MEDIUM
JP5826026B2 (en) Imaging apparatus and control method thereof
JP4787209B2 (en) Image processing apparatus, method, and program
JP2008040851A (en) Information processor, information processing methodology, and computer program
US11544834B2 (en) Information processing system for extracting images, image capturing apparatus, information processing apparatus, control methods therefor, and storage medium
JP7170483B2 (en) Editing device, its control method, and program
JP2018067802A (en) Imaging control apparatus, control method of imaging apparatus, and program
JP2014093639A (en) Imaging device, control method for imaging device, image processing device, image processing method, image processing program, and storage medium
JP2018132827A (en) Display control apparatus, control method thereof, program, and recording medium
JP6742833B2 (en) Information processing apparatus and information processing method
JP2015095082A (en) Image display device, control method therefor, and control program
WO2022158201A1 (en) Image processing device, image processing method, and program
US10659696B2 (en) Electronic device, control method of electronic device, and storage medium
JP2012156750A (en) System for automatic setting of preference degree
JP2006157884A (en) Display control device and display control method
JP2010114708A (en) Camera device, photographing method, photographing control program
JP6124658B2 (en) Image processing apparatus and image processing apparatus control method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121018

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121018

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130821

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130830

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131023

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131118

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131217

R151 Written notification of patent or utility model registration

Ref document number: 5441614

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees