JP5655821B2 - カメラ、カメラ制御プログラム及び撮影方法 - Google Patents

カメラ、カメラ制御プログラム及び撮影方法 Download PDF

Info

Publication number
JP5655821B2
JP5655821B2 JP2012156180A JP2012156180A JP5655821B2 JP 5655821 B2 JP5655821 B2 JP 5655821B2 JP 2012156180 A JP2012156180 A JP 2012156180A JP 2012156180 A JP2012156180 A JP 2012156180A JP 5655821 B2 JP5655821 B2 JP 5655821B2
Authority
JP
Japan
Prior art keywords
subject
shooting
feature information
image
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012156180A
Other languages
English (en)
Other versions
JP2012239194A (ja
Inventor
義裕 手島
義裕 手島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2012156180A priority Critical patent/JP5655821B2/ja
Publication of JP2012239194A publication Critical patent/JP2012239194A/ja
Application granted granted Critical
Publication of JP5655821B2 publication Critical patent/JP5655821B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

本発明は、撮影条件を自動的に設定して撮影を行うカメラ、及びこのカメラに用いられる撮影制御プログラム及び撮影方法に関する。
従来より、撮影条件を自動的に設定して撮影を行うカメラが知られている。このカメラは、撮影時に、撮影フレーム内の画像の人物の顔を検出し、検出した顔の特徴データを抽出する。そして、この抽出した顔の特徴データに基づき、当該顔の人物が予め登録されているか否かを判定する。登録されている場合には、当該被写体人物に対応して記憶されているパラメータを撮影条件として自動設定し撮影を実行することにより、特定された被写体人物に応じた品質の撮影を行なうものである(特許文献1参照)。
特開2007−274264号公報
しかしながら、かかる従来技術にあっては、撮影フレーム内に存在する人物の顔を検出し、しかる後に検出した顔の特徴を有する人物が予め登録されているか否かを判定する。したがって、撮影フレーム内から検出された顔が予め登録されていない場合には、撮影条件が自動設定されないことから、撮影条件が自動設定される可能性が低いという問題がある。
また、人物の顔の検出結果に基づき撮影条件の自動設定を行うことから、名所などの撮影場所にある有名な建造物や風景など、人物以外を主要被写体としては、撮影条件を自動することができない。
本発明は、かかる従来の課題に鑑みなされたものであり、撮影条件が自動設定される確率を高め、かつ人物以外を主要被写体として撮影条件を自動設定することのできるカメラ、カメラ制御プログラム及び撮影方法を提供することを目的とする。
前記課題を解決するため本発明は、複数の異なる位置の各々に対応させて被写体の特徴を示す特徴情報を記憶する手段であって、位置と特徴情報とを関連付けた被写体情報を複数記憶する記憶手段と、撮影して画像を取得するとともに、この撮影時のカメラの位置に対応する特徴情報を前記記憶手段より取得する取得手段と、前記取得手段により取得した特徴情報に対応する被写体が前記撮影した画像内に存在するか否かを判定する判定手段と、前記判定手段により取得した特徴情報に対応する被写体が前記画像内に存在すると判定された場合には、この被写体がメインの撮影対象となるように撮影条件を変化させるように、前記判定手段の判定結果に応じて撮影処理の内容を変化させる撮影制御手段と、撮影して画像を取得したときに、この撮影された画像内でメインとなる被写体の特徴情報を生成し、この生成された特徴情報と当該画像の撮影時の撮影位置とを関連付けた被写体情報を、前記記憶手段に追加して記憶する記憶制御手段とを備え、前記取得手段は、カメラの位置又は方向が変化している間、逐次撮影して画像を取得するとともに、各撮影時のカメラの位置に対応する特徴情報を前記記憶手段より逐次取得し、前記判定手段は、カメラの位置又は方向の変化に応じて逐次変化する特徴情報に対応する被写体が、カメラの位置又は方向の変化に応じて逐次変化する画像内に存在するか否かを逐次判定し、前記撮影制御手段は、前記判定手段による判定結果に応じてメインの撮影対象となる被写体を逐次変化させることを特徴とするカメラ、撮影方法、プログラムとした。
本発明によれば、予め記憶されている特徴情報に対応する被写体が存在するか否かを判定し、存在する場合には当該被写体を主要被写体として撮影条件を設定することから、従来よりも、撮影条件が自動設定される確率を高めることができる。また、人物以外を主要被写体として撮影条件を自動設定することができ、これにより、名所などの撮影場所にある有名な建造物や風景なども適切な撮影条件で撮影を行うことが可能となる。
本発明の第1の実施の形態に係るシステムを示すシステム構成図である。 管理サーバの構成を示すブロック図である。 被写体データ管理テーブルを示すメモリ構成図である。 第1の実施の形態におけるデジタルカメラのブロック図である。 (a)はデジタルカメラ側の処理手順を示すフローチャートであり、(b)は管理サーバ側の処理手順を示すフローチャートである。 本発明の第2の実施の形態に係るデジタルカメラのブロック図である。 同デジタルカメラの処理手順を示すフローチャートである。
以下、本発明の一実施の形態を図に従って説明する。
(第1の実施の形態)
図1は、本発明の第1の実施の形態に係る被写体情報送受信システムの構成を示す図である。図において、端末装置として機能するデジタルカメラ1は、撮影機能のみならず情報送受信機能を備える。無線基地局2は、デジタルカメラ1を当該デジタルカメラ1が加入する通信サービス会社(インターネットプロバイダを含む)4に接続する。
通信サービス会社4は、通信サービスに必要とする通信回路処理部41の他、後述のWWW(インターネット)5に接続するためのシステム(Webサーバ43)、メールシステム(メールサーバ42)を備えている。また、無線基地局2をAP(アクセス・ポイント)として、デジタルカメラ1をWWW5に接続させるための機能も備えている。被写体情報提供サービス会社6は、WWW5に接続するためのシステム(Webサーバ61)、及び管理サーバ63を備えている。
図2は、前記管理サーバ63の詳細を示すブロック図であり、前記Webサーバ61は、ハブ64を介して管理サーバ63に接続されている。管理サーバ63は、入力操作部(キーボード、マウス等)631、制御部(メインフレーム)632、システムプログラム記憶部633、地図データ記憶部634、後述する被写体データ管理テーブル62、表示部635、及び通信制御部636がシステムバスにより相互に接続されたシステムである。
地図データ記憶部634には地図データが、地図内に存在する建造物、山、河川などの被写体となり得る存在物の名称、及びその位置情報とともに記憶されている。また、制御部632は、ワーク用のRAM637を備えている。そして、登録者が操作するデジタルカメラ1に対し有料あるいは無料で、被写体データ管理テーブル62内に格納されている被写体情報を配信したりダウンロードさせ、あるいはデジタルカメラ1から送信される被写体情報を受信しアップロードするなどのサービスを行う。システムプログラム記憶部633には、後述するフローチャートにより示すプログラム等が格納されている。
図3は、前記被写体データ管理テーブル62のメモリ構成を示す図である。この被写体データ管理テーブル62は、位置情報エリア621、レンズ方向エリア622、及び特徴情報エリア623を備えている。
位置情報エリア621には、位置情報A、B、・・・が緯度・経度で予め記憶されている。レンズ方向エリア622には、各位置情報に対応してレンズの向きを示すレンズ方向a,b,c,d(例えば、東、西、南、北)が予め記憶されている。なお、本実施の形態においては、各位置情報に対応して4方向のレンズ方向a,b,c,dを記憶させるようにしているが、8方向や16方向等、より多くのレンズ方向を記憶さるようにしてもよい。
特徴情報エリア623には、当該位置情報が示す位置であってレンズ方向が示す方向でメイン被写体とすることが好ましい被写体「被写体(1)」「被写体(2)」・・・の特徴を示す特徴情報が記憶されている。
図4は、デジタルカメラ1の回路構成を示す図である。このデジタルカメラ1は、基本モードである撮影モードにおいて、ズームレンズ12−1を移動させて光学ズーム動作を行わせるズーム駆動部11−1、フォーカスレンズ12−2を移動させて合焦動作を行わせるAF駆動部11−2、ズームレンズ12−1及びフォーカスレンズ12−2を含む撮像レンズを構成するレンズ光学系12を備えている。
また、デジタルカメラ1は、このレンズ光学系12の光軸上に配置された絞り32、この絞り32を駆動する絞り駆動部33、撮像素子であるCCD13、タイミング発生器(TG)14、垂直ドライバ15、サンプルホールド回路(S/H)16、A/D変換器17、カラープロセス回路18、DMA(Direct Memory Access)コントローラ19、DRAMインターフェイス(I/F)20、DRAM21を備えていている。
さらにデジタルカメラ1は、制御部22、VRAMコントローラ23、VRAM24、デジタルビデオエンコーダ25、表示部26、JPEG(Joint Photograph cording Experts Group)回路27、保存メモリ28を備えているとともに、GPS(Global Positioning System)モジュール29、キー入力部30、ジャイロ部31及び無線通信部32を備えている。
撮影モードでのモニタリング状態においては、ズーム駆動部11−1は、光学ズーム指示があると制御部22からの制御信号に基づいて、図示しないズームレンズ駆動モータを駆動してズームレンズ12−1を光軸に沿って前後に移動させることによりCCD13に結像させる画像の倍率そのものを変化させる。また、AF駆動部11−2は図示しないフォーカスレンズ駆動モータを駆動してフォーカスレンズ12−2を移動させる。そして、撮像レンズを構成するレンズ光学系12の撮影光軸後方に配置された撮像素子であるCCD13が、タイミング発生器(TG)14、垂直ドライバ15によって走査駆動され、一定周期毎に結像した光像に対応する光電変換出力を1フレーム分出力する。
CCD13は被写体の二次元画像を撮像する固体撮像デバイスであり、典型的には毎秒数十フレームの画像を撮像する。なお、撮像素子はCCDに限定されずCMOS(Complementary Metal Oxide Semiconductor)などの固体撮像デバイスでもよい。
この光電変換出力は、アナログ値の信号の状態でRGBの原色成分毎に適宜ゲイン調整された後に、サンプルホールド回路(S/H)16でサンプルホールドされ、A/D変換器17でデジタルデータ(画素)に変換され、カラープロセス回路18で画素補間処理及びγ補正処理を含むカラープロセス処理が行われて、デジタル値の輝度信号Y及び色差信号Cb、Crが生成され、DMA(Direct Memory Access)コントローラ19に出力される。
DMAコントローラ19は、カラープロセス回路18の出力する輝度信号Y及び色差信号Cb、Crを、同じくカラープロセス回路18からの複合(composite)同期信号、メモリ書き込みイネーブル信号、及びクロック信号を用いてDRAMインターフェイス(I/F)20を介してバッファメモリとして使用されるDRAM21にDMA転送する。
制御部22は、このデジタルカメラ1全体の制御動作を司るものであり、CPU若しくはMPU(以下、CPU)と、後述するフローチャートに示す処理を実行するためのプログラム等を記憶したフラッシュメモリ等のプログラム格納メモリ、及びワークメモリとして使用されるRAM等により構成される。そして、前記輝度及び色差信号のDRAM21へのDMA転送終了後に、この輝度及び色差信号を、DRAMインターフェイス20を介してDRAM21から読み出し、VRAMコントローラ23を介してVRAM24に書込む。
また、制御部22は、キー入力部30からの状態信号に対応してフラッシュメモリ等のプログラム格納用メモリに格納されている各モードに対応の処理プログラムやメニューデータを取り出して、デジタルカメラ1の各機能の実行制御、具体的には撮影動作や、光学ズーム時のズームレンズの動作制御や、ライブビュー画像表示、自動合焦、撮影、記録、及び記録した画像の再生・表示等の実行制御等や機能選択時の機能選択メニューの表示制御、設定画面の表示制御等を行う。
デジタルビデオエンコーダ25は、前記輝度及び色差信号を、VRAMコントローラ23を介してVRAM24から定期的に読み出し、これらのデータを基にビデオ信号を生成して前記表示部26に出力する。表示部26は、撮影モード時にはモニタ表示部(電子ファインダ)として機能するもので、デジタルビデオエンコーダ25からのビデオ信号に基づいた表示を行うことで、その時点でVRAMコントローラ23から取り込んでいる画像情報に基づくライブビュー画像をリアルタイムに表示する。
また、制御部22は撮影指示に応じて、撮影記録処理を実行する。この撮影記録処理においては、制御部22は、シャッターキーの操作をトリガとして、CCD13、垂直ドライバ15、サンプルホールド回路16、カラープロセス回路18、DMAコントローラ19に対してスルー画撮影モードから静止画撮影モードへの切り替えを指示し、この静止画撮影モードによる撮影記録処理により得られた画像データをDRAM21に一時記憶する。
この保存記録の状態では、制御部22がDRAM21に書き込まれている1フレーム分の輝度及び色差信号を、DRAMインターフェイス20を介してY、Cb、Crのコンポーネント毎に縦8画素×横8画素の基本ブロックと呼称される単位で読み出してJPEG回路27に書き込み、このJPEG回路27でADCT(Adaptive Discrete Cosine Transform:適応離散コサイン変換)、エントロピー符号化方式であるハフマン符号化等の処理によりデータ圧縮する。そして得た符号データを1画像のデータファイルとしてJPEG回路27から読み出し、保存メモリ28に記録保存する。また、1フレーム分の輝度及び色差信号の圧縮処理及び保存メモリ28への全圧縮データの書き込み終了に伴って、制御部22は前記静止画撮影モードからスルー画撮影モードへの切り替えを指示する。
また、基本モードである再生モード時には、制御部22が保存メモリ28に記録されている画像データを選択的に読み出し、JPEG回路27で撮影モード時にデータ圧縮した手順と全く逆の手順で圧縮されている画像データを伸張し、伸張した画像データを、VRAMコントローラ23を介してVRAM24に展開して記憶させた上で、このVRAM24から定期的に読み出し、これらの画像データを元にビデオ信号を生成して表示部26で再生出力させる。
保存メモリ28は、内蔵メモリ(フラッシュメモリ)やハードディスク、あるいは着脱可能なメモリカード等の記録媒体からなり画像データや撮影情報等を保存記録する。
キー入力部30は、モードダイアル、カーソルキー、SETキー、ズームボタン(Wボタン、Tボタン)、シャッターキー、クリアキー及び電源ボタン等と、それらのキーが操作されると操作されたキーの操作信号を生成して制御部22に送出するキー処理部(図示せず)等から構成されている。
GPSモジュール29は、測地衛星からのL1帯のC/Aコードを受信して復調・解読し現在位置の緯度・経度を割り出すものである。GPSモジュール29により割り出された緯度・経度の情報(位置情報)は制御部22に取り込まれる。
ジャイロ部31には、このデジタルカメラ1をユーザが手に持って撮像レンズの方向を変化させた際にその方向を検出するジャイロセンサを備え、このジャイロセンサの検出出力を制御部22へ出力する。したがって、制御部22は、GPSモジュール29からの当該デジタルカメラ1の位置情報を撮影位置として取得し、ジャイロ部31からのレンズ方向を撮影方向として取得することが可能である。
無線通信部32は、アンテナ33に接続されており、PSK方式に基づく変復調と、CDMA方式に基づく端末認証処理を含む通信処理を行う。また、無線通信部32は、WWW接続制御を行うものであって、パケットデータ生成回路、及びパケットデータ復元回路を含み、通信プロトコルに沿ったデータ処理を行う。
なお、後述の被写体検索モードにおいて設定される撮影条件において、「AF(Auto Focus)」は、AF駆動部11−2がフォーカスレンズ12−2を駆動する制御である。また、「AE(Auto Exposure)」は絞り駆動部33が絞り32を駆動する制御であり、「画角調整」は、ズーム駆動部11−1がズームレンズ12−1を駆動する制御である。
次に、図5に従って、本実施形態の動作について説明する。デジタルカメラ1の制御部22は、ROMに記憶されているプログラムに基づき、同図(a)に示すように処理を実行し、このデジタルカメラ1と接続される管理サーバ63は、システムプログラム記憶部633に記憶されているプログラムに基づき、同図(b)に示すように処理を実行する。
すなわち、デジタルカメラ1は、GPSモジュール29からの情報に基づきデジタルカメラ1の現在の位置を検出する(ステップSA1)。そして、今回検出した位置と前回検出した位置とを比較することにより、デジタルカメラ1に位置の変化があったか否かを判断する(ステップSA2)。
デジタルカメラ1に位置の変化があったならば、ステップSA1で検出した位置を示す位置情報(緯度・経度)と、被写体情報の送信要求とを無線通信部32及びアンテナ33を介して外部に送信する(ステップSA3)。これら送信情報は、基地局2、通信サービス会社4の前記システム、WWW5を介して被写体情報提供サービス会社6のシステムに送信される。
一方、被写体情報提供サービス会社6のシステムを構成する管理サーバ63は、被写体情報の送信要求があったか否かを判断する(ステップSB1)。被写体情報の送信要求があったならば、前述のようにこの被写体情報の送信要求と同時にデジタルカメラ1側から送信されてくる位置情報に基づき、被写体データ管理テーブル62にて、受信した位置情報に対応する被写体情報を検索する(ステップSB2)。しかる後に、検索された被写体情報を送信する(ステップSB3)。
すなわち、デジタルカメラ1から送信された位置情報が示す位置が図3に示す「位置A」であったとすると、位置Aに属する下記4種の情報が被写体情報として検索されて送信される。
・方向a 被写体(1)の特徴を示す特徴情報
・方向b 被写体(2)の特徴を示す特徴情報
・方向c 被写体(3)の特徴を示す特徴情報
・方向d 被写体(4)の特徴を示す特徴情報
すると、デジタルカメラ1の制御部22は、これら被写体情報を受信し、その時点までRAMに記憶していた前回の被写体情報は削除して、今回受信した被写体情報をRAMに記憶する(ステップSA4)。また、ジャイロ部31によりデジタルカメラ1の撮像レンズの向きであるレンズ方向を検出する(ステップSA5)。
なお、各位置情報に対応するレンズ方向は、前述のように8方向や16方向等、より多くのレンズ方向であることが好ましいが、本実施の形態においては説明の簡単化を図るべく、4種のレンズ方向a,b,c,dのみを用いている。したがって、ジャイロ部31は、詳細な角度までは検出する必要は無く、撮像レンズの方向がレンズ方向a,b,c,dのいずれであるかを検出すればよい。
次に、制御部22は、被写体検索モードが設定されているか否かを判断する(ステップSA6)。被写体検索モードが設定されていない場合には、ステップSA7からステップSA11の処理を行うことなく、ステップSA12に処理を進める。
また、被写体検索モードが設定されている場合には、VRAMコントローラ23から取り込んでいる画像情報に基づくライブビュー画像を取得する(ステップSA7)。引き続き、現在の位置、レンズ方向に対応してRAMに記憶されている被写体特徴を抽出する(ステップSA8)。つまり、前述のように、ステップSA4での処理により、制御部22のRAMには、デジタルカメラ1の現在位置に対応して、方向a、b、c、d毎に被写体特徴が記憶されている。したがって、例えばレンズ方向が「方向c」であるならば、RAMから、「方向c」の被写体特徴情報である「被写体(3)の特徴を示す特徴情報」を抽出する。
次に、この抽出した被写体特徴情報に合致する被写体部分をライブビュー画像内より検索する(ステップSA9)。そして、ライブビュー画像内に特徴情報と合致した被写体部分が存在する否かを判断する(ステップSA10)。このとき、ライブビュー画像内に被写体(3)が存在すると、その特徴情報が示す被写体部分がライブビュー画像内に存在することとなり、ステップSA10の判断がYESとなる。
したがって、制御部22はステップSA11に処理を進めて、合致した被写体部分をメイン被写体として、AF、AE、画角調整等を実行する。すなわち、制御部22は、ライブビュー画像内の合致した被写体部分に、該被写体がオートフォーカスの対象となったことを示すAF枠を表示させる。そして、AF駆動部11−2を制御してフォーカスレンズ12−2を駆動し、メイン被写体としたAF枠内の被写体部分にピントが合うような撮影条件を設定する。
また、絞り駆動部33を制御して絞り32を駆動し、メイン被写体としたAF枠内の被写体部分の露出が適正となるような撮影条件を設定する。さらにズーム駆動部11−1を制御してズームレンズ12−1を駆動し、例えば画角内においてメイン被写体とした被写体部分の占める割合がより多くなるようなズーム倍率からなる撮影条件を設定する。そして、全ての撮影条件の設定が完了した後、ブザーやLED表示などにより設定完了を報知する。
このように、制御部22は特徴情報に対応する被写体がライブビュー画像内に存在するか否かを判定し、存在する場合には当該被写体をメイン被写体として撮影条件を設定することから、従来よりも、撮影条件が自動設定される確率を高めることができる。また、人物以外をメイン被写体として撮影条件を自動設定することができ、これにより、名所などの撮影場所にある有名な建造物や風景なども適切な撮影条件で撮影を行うことができる。
つまり、人物などの被写体は存在する場所が固定ではないが、建造物などの被写体は存在する場所が固定しているため、撮影位置や撮影方向の情報を利用して検索対象となる被写体を絞り込むことが可能となり、被写体候補が数多く登録されている場合であってもメイン被写体を特定する処理の効率を向上させることが可能となる。
しかも、本実施の形態においては、デジタルカメラ1の撮影位置と撮影方向とを検出して、この検出した位置と方向に対応する特徴情報で主要被写体を特定することから、撮影条件が自動設定される確率を一層高めることができる。
しかる後に、制御部22はシャッターキーが押下されたか否かを判断する(ステップSA12)。シャッターキーが押下されたならば、撮影記録処理を実行する(ステップSA13)。すなわち、制御部22は、前述のようにシャッターキーの操作をトリガとして、CCD13、垂直ドライバ15、サンプルホールド回路16、カラープロセス回路18、DMAコントローラ19に対してスルー画撮影モードから静止画撮影モードへの切り替えを指示し、この静止画撮影モードによる撮影記録処理により得られた画像データをDRAM21に一時記憶する。また、DRAM21に書き込まれている1フレーム分の輝度及び色差信号を、このJPEG回路27でデータ圧縮し、保存メモリ28に記録保存する。
この保存メモリ28に記録された画像データで表される画像にあっては、前記ステップSA11でメイン被写体に対して、AF、AE、画角調整等を実行されている。したがって、メイン被写体にピントが合い、適正な露出であって画角も適切な画像を記録することができる。
なお、上記ステップSA12において、シャッターキーの押下を待ってから撮影記録処理を実行しているが、自動撮影モードが設定されている場合には、シャッターキーの押下を待たずに撮影記録処理を実行する。
また、シャッターキーが押下される前に、キャンセル指示操作が行われた場合には、設定されている撮影条件のキャンセル、又は設定されているオートフォーカス対象被写体のキャンセルを行う。ことのき、ステップSA8において抽出された被写体特徴が複数あった場合には、オートフォーカス対象被写体がキャンセルされたことに応じて、次の被写体特徴に合致する被写体部分を新たなオートフォーカス対象被写体として設定する。
他方、ステップSA6での判断の結果、被写体検索モードが設定されていない場合には、前述したステップSA7〜SA11の処理が行われることなく、ステップSA6からステップSA12に処理が進められる。したがって、この場合、ステップSA11でのAFやAEが行われずに、オートモードが設定されている場合には、撮影フレーム内の中心に位置する被写体部分に対しAFやAEが行われ、マニュアルモードが設定されている場合には、ユーザの操作に応じてフォーカスレンズ12−2、絞り32が駆動されることとなる。また、オートモード及びマニュアルモードのいずれの場合も、ユーザの操作に応じてズーム駆動部11−1がズームレンズ12−1を駆動することにより画角が決定される。しかる後に、前述したステップSA12、ステップSA13の処理が実行されて、撮影画像が保存メモリ28に記録保存される。
すると、制御部22は、ステップSA13からステップSA14に処理を進めて、被写体登録モードが設定されているか否かを判断する。被写体登録モードが設定されている場合には、フォーカス情報などに基づいて撮影画像内のメイン被写体を特定する(ステップSA15)。
つまり、前述のように、被写体検索モードが設定されてない場合には、オートモードが設定されている場合には、撮影フレーム内の中心に位置する被写体部分に対しAFやAEが行われ、マニュアルモードが設定されている場合には、ユーザの操作に応じてフォーカスレンズ12−2や絞り32が駆動されて、ユーザが意図するメイン被写体にピントが合わせられて撮影記録(ステップSA13)が実行される。したがって、この撮影記録により記録された撮影画像において、ピントが最も合っている被写体部分、露出が最も適正な被写体部分、あるいはピントが最も合っておりかつ露出が最も適正な被写体部分等が、ユーザが意図したメイン被写体であると特定することができる。
したがって、この特定されたユーザが意図したメイン被写体の特徴を抽出して、その特徴を示す特徴情報を生成する(ステップSA16)。さらに、この特徴情報、当該デジタルカメラ1の位置を示す位置情報(ステップSA1で検出済み)、レンズ方向(ステップSA5で検出済み)とともに、被写体登録要求をサーバに送信する(ステップSA17)。引き続き、再生モード等への移行や電源オフ等の撮影終了指示が発生したか否かを判断する(ステップSA18)。撮影終了指示が発生するまで、ステップSA1からの処理を繰り返し、撮影終了指示が発生したならば、このフローに従った処理を終了する。
他方、管理サーバ63は、デジタルカメラ1からの被写体登録要求を受信したか否かを判断する(ステップSB4)。被写体登録要求を受信したならば、前述のようにこれと同時に受信した位置情報、レンズ方向、特徴情報を関連付けて被写体情報として被写体データ管理テーブル62に登録する。つまり、例えば受信した位置情報が「位置B」、レンズ方向が「方向d」、特徴情報が「被写体(g)の特徴を示す特徴情報」であったとする。すると、図3に示すように、管理テーブル62の位置情報エリア621の「位置B」であってレンズ方向エリア622に「方向d」に対応させて、特徴情報エリア623に「被写体(g)の特徴を示す特徴情報」を書き込む。
したがって、ユーザが被写体登録モードを設定して撮影を行うことにより、被写体データ管理テーブル62に記憶される被写体情報の情報量を増大させることができる。また、複数のユーザが各々このデジタルカメラ1を使用することにより、あるユーザが登録した被写体情報を他のユーザが利用することができる。
また、本実施の形態においてデジタルカメラ1は、管理サーバ63との送受信により被写体情報を取得することから、メモリ容量の圧迫を伴うことなく、多くの被写体情報を利用して、従来よりも、撮影条件が自動設定される確率を一層高めることができる。
なお、本実施形態においては、被写体登録モードを設けて、デジタルカメラ1側から管理サーバ63に被写体情報を送信するようにしたが、被写体検索モードのみを設けて、デジタルカメラ1は被写体情報を管理サーバ63から得る動作のみを行うようにしてもよい。これにより、デジタルカメラ1の処理負担を軽減することができる。
(第2の実施の形態)
図6は、本発明の第2の実施の形態に係るデジタルカメラ1の回路構成を示す図である。本実施の形態においては、前述した実施の形態のように被写体情報送受信システムを用いることなく、デジタルカメラ1のみを用いる。したがって、デジタルカメラ1には、図1に示したアンテナ33を有する無線通信部32は設けられることなく、これに代わって被写体データ管理テーブル62が設けられている。被写体データ管理テーブル62は、図3に示した第1の実施の形態と同様のメモリ構成である。
次に、図7に従って、本実施形態の動作について説明する。デジタルカメラ1の制御部22は、ROMに記憶されているプログラムに基づき、同図に示すように処理を実行する。 すなわち、デジタルカメラ1は、GPSモジュール29からの情報に基づきデジタルカメラ1の現在の位置を検出すとともに(ステップS201)、ジャイロ部31によりデジタルカメラ1の撮像レンズの向きであるレンズ方向を検出する(ステップS202)。
次に、制御部22は、被写体検索モードが設定されているか否かを判断する(ステップS203)。被写体検索モードが設定されていない場合には、ステップS204からステップS206の処理を行うことなく、ステップS207に処理を進める。
また、被写体検索モードが設定されている場合には、VRAMコントローラ23から取り込んでいる画像情報に基づくライブビュー画像を取得する(ステップS204)。引き続き、現在の位置、レンズ方向に対応して被写体データ管理テーブル62から被写体特徴を抽出する(ステップS205)。つまり、例えばデジタルカメラ1の現在の位置が「位置A」であり、レンズ方向が「方向c」であるならば、被写体データ管理テーブル62から「位置A」であって「方向c」の被写体特徴情報である「被写体(3)の特徴を示す特徴情報」を抽出する。
次に、この抽出した被写体特徴情報に合致する被写体部分をライブビュー画像内より検索する(ステップS206)。そして、ライブビュー画像内に特徴情報と合致した被写体部分が存在する否かを判断する(ステップS207)。このとき、ライブビュー画像内に被写体(3)が存在すると、その特徴情報が示す被写体部分がライブビュー画像内に存在することとなり、ステップS207の判断がYESとなる。
したがって、制御部22はステップS208に処理を進めて、合致した被写体部分をメイン被写体として、AF、AE、画角調整等を実行する。すなわち、制御部22は、AF駆動部11−2を制御してフォーカスレンズ12−2を駆動し、メイン被写体とした被写体部分にピントが合うような撮影条件を設定する。また、絞り駆動部33を制御して絞り32を駆動し、メイン被写体とした被写体部分の露出が適正となるような撮影条件を設定する。さらにズーム駆動部11−1を制御してズームレンズ12−1を駆動し、例えば画角内においてメイン被写体とした被写体部分の占める割合がより多くなるような撮影条件を設定する。
このように、制御部22は特徴情報に対応する被写体がライブビュー画像内に存在するか否かを判定し、存在する場合には当該被写体をメイン被写体として撮影条件を設定することから、従来よりも、撮影条件が自動設定される確率を高めることができる。また、人物以外をメイン被写体として撮影条件を自動設定することができ、これにより、名所などの撮影場所にある有名な建造物や風景なども適切な撮影条件で撮影を行うことができる。
しかる後に、シャッターキーが押下されたか否かを判断する(ステップS209)。シャッターキーが押下されたならば、撮影記録処理を実行する(ステップS210)。すなわち、制御部22は、前述のようにシャッターキーの操作をトリガとして、CCD13、垂直ドライバ15、サンプルホールド回路16、カラープロセス回路18、DMAコントローラ19に対してスルー画撮影モードから静止画撮影モードへの切り替えを指示し、この静止画撮影モードによる撮影記録処理により得られた画像データをDRAM21に一時記憶する。また、DRAM21に書き込まれている1フレーム分の輝度及び色差信号を、このJPEG回路27でデータ圧縮し、保存メモリ28に記録保存する。
他方、ステップS203での判断の結果、被写体検索モードが設定されていない場合には、前述したステップS204〜S208の処理が行われることなく、ステップS203からステップS209に処理が進められる。したがって、この場合、ステップS211でのAFやAEが行われずに、オートモードが設定されている場合には、撮影フレーム内の中心に位置する被写体部分に対しAFやAEが行われ、マニュアルモードが設定されている場合には、ユーザの操作に応じてフォーカスレンズ12−2、絞り32が駆動されることとなる。また、ユーザの操作に応じてズーム駆動部11−1がズームレンズ12−1を駆動することにより、ユーザが意図する画角が決定される。しかる後に、前述したステップS212、ステップS213の処理が実行されて、撮影画像が保存メモリ28に記録保存される。
すると、制御部22は、ステップS210らステップS211に処理を進めて、被写体登録モードが設定されているか否かを判断する。被写体登録モードが設定されている場合には、フォーカス情報などに基づいて撮影画像内のメイン被写体を特定する(ステップS212)。
つまり、前述のように、被写体検索モードが設定されてない場合には、オートモードが設定されている場合には、撮影フレーム内の中心に位置する被写体部分に対しAFやAEが行われ、マニュアルモードが設定されている場合には、ユーザの操作に応じてフォーカスレンズ12−2や絞り32が駆動されて、ユーザが意図するメイン被写体にピントが合わせられて撮影記録(ステップS210)が実行される。したがって、この撮影記録により記録された撮影画像において、ピントが最も合っている被写体部分、露出が最も適正な被写体部分、あるいはピントが最も合っておりかつ露出が最も適正な被写体部分等が、ユーザが意図したメイン被写体であると特定することができる。
したがって、この特定されたユーザが意図したメイン被写体の特徴を抽出して、その特徴を示す特徴情報を生成する(ステップS213)。さらに、この特徴情報、当該デジタルカメラ1の位置を示す位置情報(ステップS201で検出済み)、レンズ方向(ステップS202で検出済み)を被写体データ管理テーブル62に登録する(ステップS214)。つまり、例えばデジタルカメラ1の位置が「位置B」、レンズ方向が「方向d」、特徴情報が「被写体(g)の特徴を示す特徴情報」であったとする。すると、図3に示すように、管理テーブル62の位置情報エリア621の「位置B」であってレンズ方向エリア622に「方向d」に対応させて、特徴情報エリア623に「被写体(g)の特徴を示す特徴情報」を書き込んで登録する。
したがって、ユーザが被写体登録モードを設定して撮影を行うことにより、被写体データ管理テーブル62に記憶される被写体情報の情報量を増大させることができる。よって、1台のデジタルカメラ1を家族等で複数のユーザが使用する場合、あるユーザが登録した被写体情報を他のユーザが利用することができる。
引き続き、再生モード等への移行や電源オフ等の撮影終了指示が発生したか否かを判断する(ステップS215)。撮影終了指示が発生するまで、ステップS201からの処理を繰り返し、撮影終了指示が発生したならば、このフローに従った処理を終了する。
なお、本実施の形態においては、デジタルカメラ1の撮影位置と撮影方向とを検出して、この検出した位置と方向に対応する特徴情報で主要被写体を特定するようにした。しかし、デジタルカメラ1の撮影位置のみを検出して、この検出した位置に対応する特徴情報で主要被写体を特定するようにしてもよい。この場合であっても、従来よりも、撮影条件が自動設定される確率を高めることができる。
また、本実施形態においては、被写体登録モードを設けて、デジタルカメラ1が被写体情報の登録機能を有するものとしたが、被写体検索モードのみを設けるようにしてもよい。これにより、デジタルカメラ1の処理負担を軽減することができる。
1 デジタルカメラ
11−1 ズーム駆動部
11−2 AF駆動部
12 レンズ光学系
12−1 ズームレンズ
12−2 フォーカスレンズ
13 CCD
19 DMAコントローラ
21 DRAM
22 制御部
24 VRAM
25 デジタルビデオエンコーダ
26 表示部
27 JPEG回路
28 保存メモリ
29 GPSモジュール
30 キー入力部
31 ジャイロ部
32 無線通信部
33 絞り駆動部
41 通信回路処理部
62 被写体データ管理テーブル
63 管理サーバ
621 位置情報エリア
622 レンズ方向エリア
623 特徴情報エリア
632 制御部

Claims (13)

  1. 複数の異なる位置の各々に対応させて被写体の特徴を示す特徴情報を記憶する手段であって、位置と特徴情報とを関連付けた被写体情報を複数記憶する記憶手段と、
    撮影して画像を取得するとともに、この撮影時のカメラの位置に対応する特徴情報を前記記憶手段より取得する取得手段と、
    前記取得手段により取得した特徴情報に対応する被写体が前記撮影した画像内に存在するか否かを判定する判定手段と、
    前記判定手段により取得した特徴情報に対応する被写体が前記画像内に存在すると判定された場合には、この被写体がメインの撮影対象となるように撮影条件を変化させるように、前記判定手段の判定結果に応じて撮影処理の内容を変化させる撮影制御手段と、
    撮影して画像を取得したときに、この撮影された画像内でメインとなる被写体の特徴情報を生成し、この生成された特徴情報と当該画像の撮影時の撮影位置とを関連付けた被写体情報を、前記記憶手段に追加して記憶する記憶制御手段と
    を備え、
    前記取得手段は、カメラの位置又は方向が変化している間、逐次撮影して画像を取得するとともに、各撮影時のカメラの位置に対応する特徴情報を前記記憶手段より逐次取得し、
    前記判定手段は、カメラの位置又は方向の変化に応じて逐次変化する特徴情報に対応する被写体が、カメラの位置又は方向の変化に応じて逐次変化する画像内に存在するか否かを逐次判定し、
    前記撮影制御手段は、前記判定手段による判定結果に応じてメインの撮影対象となる被写体を逐次変化させる
    ことを特徴とするカメラ。
  2. 前記記憶手段は、位置および方向と特徴情報とを関連付けた被写体情報を複数記憶し、
    前記取得手段は、カメラの位置又は方向が変化している間、逐次撮影して画像を取得するとともに、各撮影時のカメラの位置および方向に対応する特徴情報を前記記憶手段より逐次取得し、
    前記記憶制御手段は、撮影して画像を取得したときに、この撮影された画像内でメインとなる被写体の特徴情報を生成し、この生成された特徴情報と当該画像の撮影時の撮影位置および撮影方向とを関連付けた被写体情報を、前記記憶手段に追加して記憶する
    ことを特徴とする請求項1記載のカメラ。
  3. 前記撮影制御手段は、撮影記録の待機時において、前記判定手段による判定結果に応じてメインの撮影対象となる被写体を逐次変化させ、撮影記録が指示された場合に、この指示タイミングでメインの撮影対象となっている被写体に撮影条件を合わせて撮影記録を行うことを特徴とする請求項1または2記載のカメラ。
  4. 設定されたモードに応じて、前記撮影制御手段による前記判定結果に応じた撮影条件の変化動作と、前記記憶制御手段による新たな被写体情報の追加記憶動作とを切り換え制御する制御手段を更に備えることを特徴とする請求項1乃至3のいずれかに記載のカメラ。
  5. 前記判定手段は、画像認識処理によって前記特徴情報に対応する画像部分が前記画像内に存在するか否かを判定することを特徴とする請求項1乃至4のいずれかに記載のカメラ。
  6. 前記判定手段は、画像認識処理によって前記特徴情報に対応する画像部分が前記画像内に存在する位置を判定し、
    前記撮影制御手段は、前記判定手段により判定された画像内の位置を対象として自動的なフォーカス調整または自動的な露出調整を行うように撮影条件を変化させることを特徴とする請求項5記載のカメラ。
  7. 前記撮影制御手段は、前記判定手段により判定された被写体を対象として、当該被写体を合焦させる光学系の焦点、露出、画角の少なくとも1つを含む撮影条件を自動設定することを特徴とする請求項1乃至6のいずれかに記載のカメラ。
  8. 前記記憶手段は、1つの位置に対応させて複数の被写体の特徴情報を記憶し、
    前記判定手段は、前記撮影時のカメラの位置に対応する複数の特徴情報を前記記憶手段より取得し、この取得した複数の特徴情報のいずれかに対応する被写体が前記画像内に存在するか否かを判定することを特徴とする請求項1乃至3に記載のカメラ。
  9. カメラの現在位置に対応した被写体の特徴情報をネットワークを介して受信する受信手段を更に備え、
    前記判定手段は、前記受信手段により受信した特徴情報を用いて、この特徴情報に対応する被写体が前記画像内に存在するか否かを判定することを特徴とする請求項1乃至3に記載のカメラ。
  10. 前記記憶制御手段は、前記受信手段により受信した特徴情報を前記記憶手段に記憶し、
    前記判定手段は、前記受信手段により受信して前記記憶手段に記憶した特徴情報を用いて、この特徴情報に対応する被写体が前記画像内に存在するか否かを判定することを特徴とする請求項9記載のカメラ。
  11. 前記受信手段は、カメラの現在位置に対応した被写体の特徴情報であり、複数の方向の各々に対応した複数の被写体の特徴情報をネットワークを介して受信し、
    前記判定手段は、前記受信手段により受信して前記記憶手段に記憶した複数の特徴情報のうち、カメラの向きに対応する特徴情報を用いて、この特徴情報に対応する被写体が前記画像内に存在するか否かを判定することを特徴とする請求項10記載のカメラ。
  12. カメラが有するコンピュータを、
    複数の異なる位置の各々に対応させて被写体の特徴を示す特徴情報を記憶する手段であって、位置と特徴情報とを関連付けた被写体情報を複数記憶する記憶手段と、
    撮影して画像を取得したときに、この撮影時のカメラの位置に対応する特徴情報を前記記憶手段より取得する取得手段と、
    前記取得手段により取得した特徴情報に対応する被写体が前記撮影した画像内に存在するか否かを判定する判定手段と、
    前記判定手段により取得した特徴情報に対応する被写体が前記画像内に存在すると判定された場合には、この被写体がメインの撮影対象となるように撮影条件を変化させるように、前記判定手段の判定結果に応じて撮影処理の内容を変化させる撮影制御手段と、
    撮影して画像を取得したときに、この撮影された画像内でメインとなる被写体の特徴情報を生成し、この生成された特徴情報と当該画像の撮影時の撮影位置とを関連付けた被写体情報を、前記記憶手段に追加して記憶する記憶制御手段と
    として機能させ、
    前記取得手段は、カメラの位置又は方向が変化している間、逐次撮影して画像を取得するとともに、各撮影時のカメラの位置に対応する特徴情報を前記記憶手段より逐次取得し、
    前記判定手段は、カメラの位置又は方向の変化に応じて逐次変化する特徴情報に対応する被写体が、カメラの位置又は方向の変化に応じて逐次変化する画像内に存在するか否かを逐次判定し、
    前記撮影制御手段は、前記判定手段による判定結果に応じてメインの撮影対象となる被写体を逐次変化させる
    ことを特徴とするプログラム。
  13. 複数の異なる位置の各々に対応させて被写体の特徴を示す特徴情報を記憶する手段であって、位置と特徴情報とを関連付けた被写体情報を複数記憶する記憶手段を備えたカメラの撮影方法であって、
    撮影して画像を取得したときに、この撮影時のカメラの位置に対応する特徴情報を前記記憶手段より取得する取得ステップと、
    前記取得ステップにより取得した特徴情報に対応する被写体が前記撮影した画像内に存在するか否かを判定する判定ステップと、
    前記判定ステップにより取得した特徴情報に対応する被写体が前記画像内に存在すると判定された場合には、この被写体がメインの撮影対象となるように撮影条件を変化させるように、前記判定ステップの判定結果に応じて撮影処理の内容を変化させる撮影制御ステップと、
    撮影して画像を取得したときに、この撮影された画像内でメインとなる被写体の特徴情報を生成し、この生成された特徴情報と当該画像の撮影時の撮影位置とを関連付けた被写体情報を、前記記憶手段に追加して記憶する記憶制御ステップと
    を含み、
    前記取得ステップは、カメラの位置又は方向が変化している間、逐次撮影して画像を取得するとともに、各撮影時のカメラの位置に対応する特徴情報を前記記憶手段より逐次取得し、
    前記判定ステップは、カメラの位置又は方向の変化に応じて逐次変化する特徴情報に対応する被写体が、カメラの位置又は方向の変化に応じて逐次変化する画像内に存在するか否かを逐次判定し、
    前記撮影制御ステップは、前記判定ステップによる判定結果に応じてメインの撮影対象となる被写体を逐次変化させる
    ことを特徴とする撮影方法。
JP2012156180A 2012-07-12 2012-07-12 カメラ、カメラ制御プログラム及び撮影方法 Expired - Fee Related JP5655821B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012156180A JP5655821B2 (ja) 2012-07-12 2012-07-12 カメラ、カメラ制御プログラム及び撮影方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012156180A JP5655821B2 (ja) 2012-07-12 2012-07-12 カメラ、カメラ制御プログラム及び撮影方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2010065580A Division JP5045776B2 (ja) 2010-03-23 2010-03-23 カメラ、カメラ制御プログラム及び撮影方法並びに被写体情報送受信システム

Publications (2)

Publication Number Publication Date
JP2012239194A JP2012239194A (ja) 2012-12-06
JP5655821B2 true JP5655821B2 (ja) 2015-01-21

Family

ID=47461639

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012156180A Expired - Fee Related JP5655821B2 (ja) 2012-07-12 2012-07-12 カメラ、カメラ制御プログラム及び撮影方法

Country Status (1)

Country Link
JP (1) JP5655821B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018061172A1 (ja) * 2016-09-30 2018-04-05 株式会社オプティム 撮像角度調整システム、撮像角度調整方法及びプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005184610A (ja) * 2003-12-22 2005-07-07 Canon Inc カメラ、カメラ撮影支援システム、撮影補助機能の付いたカメラ
JP4864502B2 (ja) * 2006-03-23 2012-02-01 富士フイルム株式会社 撮像装置および撮像条件案内方法
JP4760497B2 (ja) * 2006-04-03 2011-08-31 セイコーエプソン株式会社 画像データ生成装置、画像データ生成方法
WO2008133237A1 (ja) * 2007-04-23 2008-11-06 Sharp Kabushiki Kaisha 撮像装置、その制御プログラムを記録したコンピュータ読取り可能な記録媒体、ならびに制御方法

Also Published As

Publication number Publication date
JP2012239194A (ja) 2012-12-06

Similar Documents

Publication Publication Date Title
JP5045776B2 (ja) カメラ、カメラ制御プログラム及び撮影方法並びに被写体情報送受信システム
US8452079B2 (en) Apparatus, method, and program for processing image
KR101720190B1 (ko) 디지털 촬영 장치 및 이의 제어 방법
JP4984044B2 (ja) 撮影システム及びその撮影条件の設定方法と、それに用いられる端末及びサーバ
JP4757113B2 (ja) 撮像装置及びその制御方法、情報処理装置、印刷装置、印刷データ生成方法
EP2963916A2 (en) Method and apparatus for providing image
JP4396500B2 (ja) 撮像装置、画像の姿勢調整方法、及びプログラム
JP2013168942A (ja) カメラのデータ処理装置及び方法
JP2010098697A (ja) 撮像装置及び撮像方法
JP2008236159A (ja) カメラおよび画像共有システム
JP4114402B2 (ja) サーバ装置、撮像装置、撮像システム、撮像方法及び撮像装置制御プログラム
JP2005151375A (ja) カメラ装置、及びその撮影条件設定方法
JP2008301230A (ja) 撮像システム及び撮像装置
JP5655821B2 (ja) カメラ、カメラ制御プログラム及び撮影方法
JP5638993B2 (ja) 画像表示装置及び画像表示方法
JP2012113578A (ja) 検索装置、検索方法、検索プログラム及びこれらを用いたカメラ装置、並びに検索システム
JP2009111827A (ja) 撮影装置及び画像ファイル提供システム
US20110205396A1 (en) Apparatus and method, and computer readable recording medium for processing, reproducing, or storing image file including map data
JP2004032286A (ja) カメラ装置、被写体高度算出装置、被写体高度算出方法及びプログラム
JP5181935B2 (ja) 画像処理装置、プログラム及び被写体検出方法
JP5509828B2 (ja) 画像分類装置と画像分類方法、及びプログラム
JP6704301B2 (ja) 撮像装置、及び撮像表示システム
JP6735566B2 (ja) 画像管理装置、画像再生装置及びそれらの制御方法、プログラム並びに記憶媒体
JP6062029B2 (ja) 撮像装置、撮像システム、撮像方法、及び撮像プログラム
JP6343996B2 (ja) データ処理装置、データ処理システム、再生時間短縮方法及びプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120831

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120831

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140325

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140610

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140804

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141028

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141110

R150 Certificate of patent or registration of utility model

Ref document number: 5655821

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees