JP5687480B2 - 撮影装置、撮影方法及び撮影プログラム - Google Patents

撮影装置、撮影方法及び撮影プログラム Download PDF

Info

Publication number
JP5687480B2
JP5687480B2 JP2010274536A JP2010274536A JP5687480B2 JP 5687480 B2 JP5687480 B2 JP 5687480B2 JP 2010274536 A JP2010274536 A JP 2010274536A JP 2010274536 A JP2010274536 A JP 2010274536A JP 5687480 B2 JP5687480 B2 JP 5687480B2
Authority
JP
Japan
Prior art keywords
landmark
image data
type
shooting
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010274536A
Other languages
English (en)
Other versions
JP2012124752A (ja
Inventor
鈴木 猛士
猛士 鈴木
賢二 松本
賢二 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Imaging Corp
Original Assignee
Olympus Imaging Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Imaging Corp filed Critical Olympus Imaging Corp
Priority to JP2010274536A priority Critical patent/JP5687480B2/ja
Publication of JP2012124752A publication Critical patent/JP2012124752A/ja
Application granted granted Critical
Publication of JP5687480B2 publication Critical patent/JP5687480B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮影場所を撮影画像と関連付けて記録可能な撮影装置、撮影方法及び撮影プログラムに関する。
近年、GPS(Global Positioning System)等による測位機能を備えた撮影装置に関する提案が各種なされている。このような測位機能を備えた撮影装置の1つとして例えば特許文献1の技術が提案されている。特許文献1では、撮影がなされた場合に、そのときの撮影場所の地名や撮影場所付近の地図を表示させるようにしている。このような特許文献1の技術では、再生モードに切り替えなくとも撮影場所の情報を確認できる。これにより、ユーザは、撮影の時点で所望の地名を撮影画像と関連付けすることが可能である。
特開2001−157098号公報
ユーザの利便性を考慮した場合、撮影画像と撮影場所(地名)とを関連付けるに際して撮影者の撮影意図を反映して地名を関連付けることが望ましい。例えば、鉄道が趣味の人が撮影した画像でかつ撮影場所付近に鉄道に関連したものがあるのであれば、地名として単なる住所を関連付けるよりも、鉄道に関連した地名が優先して関連付けされることが望ましい。また、観光旅行に行った際に撮影された画像であれば、観光地の名称が優先して関連付けされることが望ましい。ここで、特許文献1等の従来の技術では、このような撮影場所の種別単位での関連付けが自動的に行われるわけではなく、撮影後等の確認時においてユーザが手動で関連付けを行う必要がある。
本発明は、上記の事情に鑑みてなされたもので、ユーザの撮影意図を反映して撮影画像と撮影場所の種別との関連付けを自動的に行うことが可能な撮影装置、撮影方法及び撮影プログラムを提供することを目的とする。
上記の目的を達成するために、本発明の一態様の撮影装置は、被写体を撮影して、該被写体の画像データを取得する撮影部と、上記取得された画像データを解析し、画像データの特徴の有無を項目毎に記録したパラメータ表を作成する画像解析部と、上記パラメータ表に記録されている項目毎の特徴の有無の情報と、上記項目毎の重み係数を撮影場所の種別毎に記憶したランドマーク対応表とに基づいて、上記画像データの撮影場所の種別を示すランドマーク種別を判別するランドマーク種別判別部と、を具備することを特徴とする。
上記の目的を達成するために、本発明の一態様の撮影方法は、撮影部により、被写体を撮影して、該被写体の画像データを取得することと、画像解析部により、上記取得された画像データを解析し、画像データの特徴の有無を項目毎に記録したパラメータ表を作成することと、ランドマーク種別判別部により、上記パラメータ表に記録されている項目毎の特徴の有無の情報と、上記項目毎の重み係数を撮影場所の種別毎に記憶したランドマーク対応表とに基づいて、上記画像データの撮影場所の種別を示すランドマーク種別を判別することと、を具備することを特徴とする。
上記の目的を達成するために、本発明の一態様の撮影プログラムは、撮影部により、被写体を撮影して、該被写体の画像データを取得することと、画像解析部により、上記取得された画像データを解析し、画像データの特徴の有無を項目毎に記録したパラメータ表を作成することと、ランドマーク種別判別部により、上記パラメータ表に記録されている項目毎の特徴の有無の情報と、上記項目毎の重み係数を撮影場所の種別毎に記憶したランドマーク対応表とに基づいて、上記画像データの撮影場所の種別を示すランドマーク種別を判別することと、をコンピュータに実行させる。
本発明によれば、ユーザの撮影意図を反映して撮影画像と撮影場所の種別との関連付けを自動的に行うことが可能な撮影装置、撮影方法及び撮影プログラムを提供することができる。
本発明の各実施形態に係る撮影装置の一例としてのデジタルカメラの構成を示す図である。 カメラのメインの動作について示すフローチャートである。 GPS情報の取得処理の詳細について示すフローチャートである。 撮影モードの処理の詳細を示すフローチャートである。 撮影モードの処理によって生成される画像ファイルの構造の例を示す図である。 撮影画の表示例を示す図である。 画像解析処理の詳細を示すフローチャートである。 画像解析処理の例を示す図である。 画像解析処理によって作成されるパラメータ表の例を示す図である。 ランドマーク対応表の例を示す図である。 図9に示すようにして作成されたパラメータ表に対するランドマーク種別毎の判断値の算出結果の例を示す図である。 GPS情報とランドマークの名称とをランドマーク種別毎に記録した対応表の例を示す図である。 第1の実施形態の変形例における画像解析処理の詳細を示すフローチャートである。 カメラ撮影パラメータ表の例を示した図である。 カメラ撮影パラメータとランドマーク種別とを関連付けて記録したランドマーク対応表の例を示す図である。 図14に示すようなカメラ撮影パラメータ表が作成されている場合において算出される補正値の例を示す図である。 最終的な判断値の算出手法の例を示す図である。 第2の実施形態における画像解析処理の詳細を示すフローチャートである。
以下、図面を参照して本発明の実施形態を説明する。
[第1の実施形態]
まず、本発明の第1の実施形態について説明する。図1は、本発明の各実施形態に係る撮影装置の一例としてのデジタルカメラの構成を示す図である。図1に示すデジタルカメラ(カメラ)100は、レンズ101と、レンズ用アクチュエータ102と、撮像素子(CCD)103と、アナログフロントエンド(AFE)回路104と、一時記憶部(SDRAM)105と、表示駆動回路106と、表示パネル107と、バックライトユニット108と、映像信号出力回路109と、映像信号出力端子110と、記録媒体111と、フラッシュコントロール回路112と、フラッシュ113と、手ブレ補正用ジャイロセンサ114と、手ブレ補正用アクチュエータ115と、GPSモジュール116と、GPSアンテナ117と、マイクロホン(マイク)118と、スピーカ119と、外部有線データ通信インターフェース(I/F)120と、Flashメモリ121と、操作部122と、ASIC(CPU)123と、電源回路124と、2次電池125と、を有している。
レンズ101は、図示しない被写体の像(被写体像)をCCD103の受光面上に結像させるための光学系である。このレンズ101は、フォーカスレンズ及びズームレンズ等の複数のレンズや、絞りを有している。レンズ用アクチュエータ102は、モータ等を有し、CPU123の制御に従ってレンズ101内のフォーカスレンズやズームレンズをその光軸方向に駆動させたり、絞りを開閉駆動させたりする。
CCD103は、フォトダイオード等で構成された受光面を有している。このCCD103は、レンズ101を介して受光面上に結像された被写体の像を電気信号(画像信号)に変換する。図1では、撮像素子の例としてCCD方式の撮像素子を例示しているが、CMOS方式の撮像素子を用いても良い。
AFE回路104は、CCD103により得られた画像信号に対してCDS(相関二重サンプリング)処理やAGC(自動利得制御)処理等のアナログ処理を施す。さらに、AFE回路104は、アナログ処理した画像信号をデジタル信号(画像データ)に変換することも行う。
ここで、レンズ101、レンズ用アクチュエータ102、CCD103、AFE回路104が、撮影部の一例として機能する。
SDRAM105は、AFE回路104で得られた画像データを一時的に保管する画像一時保管機能1051を有している。この他、SDRAM105は、CPU123による処理中のデータ等の各種データを一時的に保管する。
表示駆動回路106は、SDRAM105に保管されている画像データに基づく画像や記録媒体111に記録されている画像データに基づく画像を表示パネル107に表示させるように表示パネル107を駆動する。表示パネル107は、例えば液晶パネルである。この表示パネル107は、表示駆動回路106によって駆動されて各種の画像を表示する。バックライトユニット108は、表示パネル107が液晶パネルの場合に設けられるものである。このバックライトユニット108は、CPU123の制御に従って液晶パネルのバックライトを発光させる。映像信号出力回路109は、SDRAM105に保管されている画像データや記録媒体111に記録されている画像データを、映像信号出力端子110を介して例えばテレビジョン受像機(TV)等の外部画像表示装置200に出力させる。映像信号出力端子110は、コンポジット映像端子やHDMI(登録商標)端子等の映像信号出力端子である。
記録媒体111は、例えばFlashメモリ等であって、例えばCPU123の画像圧縮伸長機能1234を用いて得られた画像ファイルを記録する。記録媒体111は、カメラ100に内蔵するようにしても良いし、カメラ100に対して着脱自在に構成するようにしても良い。
フラッシュコントロール回路112は、フラッシュ充電用のコンデンサやフラッシュの発光回路等を備えており、CPU123の制御に従ってフラッシュ113を発光させる。フラッシュ113は、例えば低輝度時や逆光時において発光されるものであり、この発光によって被写体を照明する。
手ブレ補正用ジャイロセンサ114は、カメラ100の互いに直交する3軸方向の振動をカメラ100の手ブレとして検出するジャイロセンサである。手ブレ補正用アクチュエータ115は、CCD103が取り付けられたアクチュエータであって、CPU123の制御に従って、CCD103をその受光面と平行な平面内で移動させる。手ブレ補正用ジャイロセンサ114によって検出される手ブレの影響を打ち消すように、CCD103を移動させることにより、カメラ100の手ブレによって生じる画像ブレが軽減される。
GPSモジュール116は、GPSアンテナ117を介して受信されたGPS電波の受信状況から、カメラ100の位置(緯度・経度)を示す情報(GPS情報)を算出する。GPSアンテナ117は、上空のGPS衛星からGPS電波を受信するためのアンテナである。GPSモジュール116とGPSアンテナ117が、位置検出部の一例として機能する。
マイク118は、外部から入力された音声を電気信号(音声信号)に変換する。例えば、動画像の撮影時においては、CCD103による画像信号の取得と並行してマイク118による音声信号の取得が行われる。この音声信号は、画像信号とともに1つの動画像ファイルとして記録媒体111に記録される。スピーカ119は、記録媒体111に記録された音声信号に基づく音声を出力する。
外部有線データ通信I/F120は、例えばUSBインターフェースである。この外部有線データ通信I/F120は、カメラ100が、パーソナルコンピュータ(PC)等と有線データ通信するための各種のデータ処理を行う。
Flashメモリ121は、カメラの駆動情報の記憶機能1211と、GPS関連情報の保管機能1212と、ランドマークデータベースの記憶機能1213とを主に有している。
カメラの駆動情報の記憶機能1211とは、撮影動作時の設定、画像処理設定、カメラ100の各ブロックの動作設定といった設定情報、CCD103やレンズ101の特性情報、カメラ100の動作に必要な処理プログラムといったカメラ100の各種の動作に必要な情報、及び撮影動作時の撮影条件等の、各種のカメラの駆動情報を記憶しておく機能である。GPS関連情報の保管機能1212とは、GPSモジュール116によって定期的に計測されるGPS情報(緯度情報・経度情報を有する測位データ)を逐次記憶しておく機能である。ランドマークデータベースの記憶機能1213とは、撮影場所を判別するための各種の情報が登録されたランドマークデータベースを記憶しておく機能である。このランドマークデータベースの詳細については後述する。ここで、ランドマークデータベースの記憶機能1213が、ランドマーク記憶部の一例である。
操作部122は、ボタンやスイッチ、タッチパネル等の、ユーザの操作に応じて操作信号をCPU123に出力する各種の操作部材である。操作部122により、ユーザは、撮影実行や再生実行の指示、カメラ100の動作モードやシーンモードの設定、カメラ100の電源のオン/オフ切り替え等を行うことが可能である。操作部122が、シーンモード設定部の一例として機能する。
CPU123は、システムコントロール機能1231と、GPS制御機能1232と、記録媒体アクセス機能1233と、画像圧縮伸長機能1234と、画像解析機能1235と、ランドマーク種別選択機能1236と、GPS情報とランドマークの関連付け機能1237と、シーン(SCN)モード制御機能1238とを主に有している。
システムコントロール機能1231は、Flashメモリ121に記憶されている処理プログラムに従って、レンズ101等のカメラ100の各ブロックの動作を制御する機能である。GPS制御機能1232は、Flashメモリ121に記憶されている処理プログラムに従ってGPSモジュール116を制御する機能である。記録媒体アクセス機能1233は、記録媒体111にアクセスしてデータの書き込み又は読み出しを行う機能である。画像圧縮伸長機能1234は、CCD103を介して得られた画像データをJPEG形式やMPEG形式等の所定の形式で圧縮したり、圧縮された画像データを伸長したりする機能である。画像解析機能1235は、CCD103を介して得られた画像データ中の被写体の特徴を解析する機能である。ランドマーク種別選択機能1236は、画像解析機能を用いて解析された被写体の特徴から、ランドマーク種別を選択する機能である。GPS情報とランドマークの関連付け機能1237は、GPS情報とランドマークデータベースに登録されているランドマークの名称とを関連付ける機能である。SCNモード制御機能1238は、シーンモードに従った各種の撮影動作を制御するための機能である。ここで、シーンモードとは、特定の撮影シーンに適した設定で撮影動作を行えるようにしたモードである。
ここで、CPU123の画像解析機能1235が、画像解析部の機能の一例である。また、CPU123のランドマーク種別選択機能1236が、ランドマーク種別判別部の機能、ランドマーク選択部の機能の一例である。CPU123のGPS情報とランドマークの関連付け機能1237が、関連付け部の機能の一例である。
電源回路124は、2次電池125の電圧をカメラ100の各ブロックが必要とする電圧に変換する回路である。2次電池125は、カメラ100の電源電圧を供給するための電池である。
以下、カメラ100の動作について説明する。まず、カメラ100のメインの動作について、図2を参照して説明する。図2の動作は、カメラ100の電源がオンされた場合に開始される。カメラ100の電源がオンされた場合に、CPU123は、GPS情報の取得処理を行う(ステップS101)。GPS情報の取得処理の詳細については後述する。
GPS情報の取得処理の後、CPU123は、カメラ100の現在の動作モードが撮影モードであるか否かを判定する(ステップS102)。ここでは、例えばカメラ100は、動作モードとして撮影モードと再生モードの2種のモードを有している。撮影モードとは、画像データ(静止画像又は動画像)を撮影して記録媒体111に記録するための動作モードである。一方、再生モードとは、記録媒体111に記録された画像データに基づく画像を表示パネル107に再生するための動作モードである。勿論、カメラ100がこれら2種以外の動作モードを有していても良い。
ステップS102の判定において、カメラ100の現在の動作モードが撮影モードである場合に、CPU123は、撮影モードの処理を行う(ステップS103)。撮影モードの処理の詳細については後述する。また、ステップS102の判定において、カメラ100の現在の動作モードが撮影モードでない、即ち再生モードである場合に、CPU123は、再生モードの処理を行う(ステップS104)。再生モードの処理の詳細については説明を省略するが、再生モードにおいては、記録媒体111内の何れかの画像ファイルがユーザによって選択されると、CPU123は、その画像ファイル中の画像データを伸長する。その後に、CPU123は、伸長した画像データに対応した画像を、表示駆動回路106を制御して表示パネル107に表示させる。
ステップS103又はステップS104の処理の後、CPU123は、カメラ100の電源をオフさせるか否かを判定する(ステップS105)。例えば、ユーザによってカメラ100の電源のオフ操作がなされた場合や、無操作状態が所定時間継続された場合に、カメラ100の電源をオフさせる。ステップS105の判定において、カメラ100の電源をオフさせない場合に、CPU123は、ステップS101のGPS情報の取得処理を行う。即ち、カメラ100の電源がオンされている間は、CPU123は、GPS情報の取得処理を繰り返し行う。また、ステップS105の判定において、カメラ100の電源をオフさせる場合に、CPU123は、カメラ100の電源をオフさせて待機状態となる。この場合には、図2の処理が終了する。
図3は、GPS情報の取得処理の詳細について示すフローチャートである。GPS情報の取得処理が開始すると、CPU123は、GPSモジュール116を制御してGPS測位を実行させる(ステップS201)。GPS測位の手法は、従来周知の各種の手法を用いることが可能である。
GPS測位を実行させた後、CPU123は、GPS情報を取得できたか、即ち所定時間内にGPSモジュール116からGPS情報が入力されてきたか否かを判定する(ステップS202)。
ステップS202の判定において、GPS情報を取得できた場合に、CPU123は、内部の図示しないレジスタに、GPS情報を取得できたことを示すOKフラグをセットする(ステップS203)。その後、CPU123は、GPS情報の取得処理の実行時刻と取得したGPS情報とを関連付けてFlashメモリ121に記憶させる(ステップS204)。GPS関連情報を記憶させた後、CPU123は、図3の処理を終了させて図2の処理に復帰する。
また、ステップS202の判定において、GPS情報を取得できなかった場合に、CPU123は、内部の図示しないレジスタに、GPS情報を取得できなかったことを示すNGフラグをセットする(ステップS205)。その後、CPU123は、表示駆動回路106を制御して、GPS情報を取得できなかったことを表示パネル107に表示させる(ステップS206)。GPS情報を取得できなかった旨の表示を行った後、CPU123は、図3の処理を終了させて図2の処理に復帰する。
図4は、撮影モードの処理の詳細を示すフローチャートである。撮影モードの処理の開始後、CPU123は、スルー画表示処理を実行する(ステップS301)。スルー画表示処理として、CPU123は、CCD103を連続動作させる。そして、CPU123は、表示駆動回路106を制御して、CCD103の連続動作によって逐次得られる画像データに対応した画像を表示パネル107に表示させる。このようなスルー画表示処理により、ユーザは、表示パネル107に表示された画像に基づいて構図の決定等を行うことが可能である。
スルー画表示の後、CPU123は、ユーザの操作部122の操作により1stレリーズスイッチがオンされたか否かを判定することにより、撮影動作の開始が指示されたか否かを判定する(ステップS302)。ステップS302の判定において、1stレリーズスイッチがオンされていない場合に、CPU123は、ステップS301のスルー画表示処理を継続する。
また、ステップS302の判定において、1stレリーズスイッチがオンされた場合に、CPU123は、撮影動作を実行する(ステップS303)。例えば静止画像の撮影動作の場合、CPU123は、合焦処理を行ってレンズ101のフォーカスレンズを合焦位置に駆動させたり、必要に応じてズーム処理を行ってレンズ101のズームレンズを駆動させたりする。また、CPU123は、レンズ101の合焦処理と並行して、撮影動作の実行時の露出条件(絞りの開放量、CCD103の露光時間・感度)をシーンモードや被写体輝度等に応じて決定する。その後、ユーザの操作部122の操作により2ndレリーズスイッチがオンされた場合に、CPU123は、先に決定した条件に従って、CCD103による撮像を実行させる。この際、必要に応じてフラッシュコントロール回路112を制御して、フラッシュ113を発光させる。また、動画像の撮影動作の場合には、CCD103による撮像を連続的に実行させる。CCD103を介して得られた画像データは、SDRAM105に保管される。
CCD103による撮像の後、CPU123は、Flashメモリ121に記憶されている各種の特性情報や撮影動作時の撮影条件を示す情報等のカメラ駆動情報を取得する(ステップS304)。その後、CPU123は、画像解析処理を行う(ステップS305)。画像解析処理の詳細は後述する。
画像解析処理の後、CPU123は、OKフラグがセットされているか否かを判定する(ステップS306)。ステップS306の判定において、OKフラグがセットされている、即ち撮影動作の直前のGPS情報が取得できている場合に、CPU123は、GPS情報とランドマーク情報(ランドマークの名称を示す情報)とを関連付けする(ステップS307)。この関連付けの詳細は後述する。GPS情報とランドマーク情報との関連付けの後、CPU123は、ステップS303において得られた画像データに、ステップS303における撮影条件を示す撮影情報、ステップS307において関連付けられたGPS情報とランドマーク情報とを付与して画像ファイルを生成する(ステップS308)。図5は、ステップS308において生成される画像ファイルの構造例を示す図である。図5に示すように、画像ファイルは、ヘッダ情報部と、画像データ部とに分かれている。ヘッダ情報部は、例えばExif(Exchangeable image file format)規格に対応している。ヘッダ情報部には、上述した撮影情報、GPS情報、ランドマーク情報といった各種の情報がメタデータの形式で記録される。画像データ部には、ステップS303において得られた画像データが圧縮されて記録される。図5に示すような形式で画像ファイルを生成することで、GPS情報やランドマーク情報を画像データと関連付けて記録することが可能である。
ステップS308において、画像ファイルを生成した後、CPU123は、表示駆動回路106を制御して、ステップS308において得られた画像ファイルに基づく画像を表示パネル107に表示させる(ステップS309)。図6に、ステップS309において表示される撮影画の一例を示す。このような確認用の撮影画の表示の後、CPU123は、ステップS308において得られた画像ファイルを記録媒体111に記録させる(ステップS310)。その後、CPU123は、図4の処理を終了させて図2の処理に復帰する。
以下、図7〜図12を参照して、本実施形態におけるGPS情報とランドマーク情報との関連付けについて説明する。図7は、画像解析処理の詳細を示すフローチャートである。画像解析処理の開始後、CPU123は、CCD103を介して得られた画像データに対して各種の画像解析処理を行う(ステップS401)。
図8は、ステップS401で行う画像解析処理の例を示す図である。図8の例では、3種類の画像解析処理を例示している。
図8に示す人検出を利用した画像解析処理は、画像データ中の人を検出し、検出した人の特徴を解析する処理である。なお、人の検出の手法としては例えば顔検出を利用する。人の顔は、例えば周知の特徴点検出によって検出することが可能である。また、人検出を利用した具体的な解析の内容としては、例えば、画像中の人の数や、性別、大人が写っているか子供が写っているか、等を判別する。例えば、画像中の人数は、画像中の人の顔の数をカウントすることで判別する。性別は、顔と推定される特徴点の特徴量(形状や色、配置等)を、男性の顔の特徴量や女性の顔の特徴量と比較することで判別する。大人が写っているか子供が写っているかについても、性別と同様に特徴量の比較によって判別する。
図8に示す風景検出を利用した画像解析処理は、画像データ中の風景を検出し、検出した風景の特徴を解析する処理である。風景は、例えば色検出と領域検出とを組み合わせることで検出することが可能である。例えば、空であれば、画像内の上方に位置する比較的大きな面積を有する青色領域を検出すれば良く、草原等であれば、画像内の下方に位置する比較的大きな面積を有する緑色領域を検出すれば良い。また、風景検出を利用した具体的な解析の内容としては、例えば、風景写真(自然物写真)であるか又は人工物写真であるか、屋内写真であるか又は屋外写真であるか、等を判別する。ここで、風景写真(自然物写真)であるかは、山等の特徴のある自然物が検出できたか否かを判別することによって判別するようにしても良いし、屋外で撮影がなされている場合には一律に風景写真であると判別するようにしても良い。人工物写真であるかは、ビル等の特徴のある人工物が検出できたか否かを判別するようにしても良いし、屋内で撮影がなされている場合には一律に人工物写真であると判別するようにしても良い。屋外写真であるか否かの判別は、例えば、空の青色が検出できた場合には屋外写真であると判別し、空の青色が検出できない場合には屋内写真であると判別する。
図8に示す主要被写体判別を利用した解析処理は、画像内の人の顔以外の特徴のある被写体がそれぞれ何であるかを解析する処理である。具体的には、画像内の特徴点の特徴量を特定パターン(電車、車等)の特徴量と比較する。
図8に示した特徴量の比較やパターンマッチング等の解析を行うためのデータは、Flashメモリ121に構築されているランドマークデータベースに予め登録しておく。
以下、図7に戻って説明を続ける。図8で示したような各種の画像解析処理を行った後、CPU123は、画像解析処理の結果としてのパラメータ表を作成する(ステップS402)。作成したパラメータ表は、例えばFlashメモリ121のランドマークデータベースに登録しておく。
図9は、図8で示した画像解析処理によって作成されるパラメータ表の例を示す図である。なお、図9で示すパラメータ表は、図7で示したような撮影シーンに対する画像解析処理として、(1)人が写っているか、(2)大勢の人(5人以上)が写っているか、(3)男性が写っているか、(4)女性が写っているか、(5)大人が写っているか、(6)子供が写っているか、(7)風景写真か、(8)人工物写真か、(9)屋内写真か、(10)屋外写真か、(11)電車が写っているか、(12)車が写っているか、(13)飛行機が写っているか、(14)山が写っているか、(15)川が写っているか、(16)橋が写っているか、をそれぞれ判別し、条件を満たす場合(YES)には「1」を記録し、条件を満たしていない場合(NO)には「0」を記録することで作成したものである。例えば、図7の撮影シーンでは、2人の人が写っているので、(1)の「人が写っているか」の項目には「1」が記録され、(2)の「大勢の人(5人以上)が写っているか」の項目には「0」が記録される。また、図7の撮影シーンでは、山が写っているので、(14)の「山が写っているか」の項目には「1」が記録される。他の項目についても画像解析処理の判別結果がそれぞれ記録される。なお、図9で示した解析の内容は一例であって適宜変更可能である。
以下、図7に戻って説明を続ける。図9で示したようなパラメータ表を作成した後、CPU123は、作成したパラメータ表とランドマーク対応表とを対比して、撮影動作によって取得された画像データに対応したランドマーク種別を選択する(ステップS403)。その後、CPU123は、図7の処理を終了させて図4の処理に復帰する。
図10は、ランドマーク対応表の例を示す図である。ランドマーク対応表とは、画像解析処理の内容と重み係数とを関連付けてランドマーク種別毎に記録したものである。ランドマーク種別とは、撮影場所の種別(グループ)を示す。ランドマーク種別によって、撮影された画像データの撮影場所を分類することが可能である。ここで、図10の例では、ランドマーク種別として、「建物」、「観光地」、「駅」、「学校」、「山」、「野球場」の6個を示しているが、ランドマーク種別の数は6個に限定されるものではない。
例えば、ランドマーク種別「学校」は、運動会で撮影が行われた場合等の、「学校」が撮影場所であることを示している。運動会等の「学校」で撮影された写真であれば、大勢が一度に写っている可能性が高く、また、写っている人が子供である可能性も高い。したがって、これらの項目に対する重み係数を高めに設定する。なお、図10の例では、「大勢の人(5人以上)が写っているか」の項目に対応した重み係数を「5」とし、「子供が写っているか」の項目に対応した重み係数を「3」としている。これに対し、「学校」で撮影された写真において「飛行機」等が写っている可能性は低いと考えられる。このため、「飛行機が写っているか」の項目に対する重み係数は「0」としている。このようにして重み係数を設定した場合、後述するランドマーク種別の選択において、子供が大勢写っている画像データについては、ランドマーク種別「学校」が選択され易くなる。
また、ランドマーク種別「駅」は、「駅」が撮影場所であることを示している。「駅」が撮影場所の場合、駅自体を撮影するよりも、電車を撮影することを意図していた可能性が高いと考えられる。このため、ランドマーク種別「駅」の場合には、「電車が写っているか」の項目に対応した重み係数を他のランドマーク種別よりも大きい「6」としている。このようにして重み係数を設定した場合、後述するランドマーク種別の選択において、電車が写っている画像データについては、ランドマーク種別「電車」が選択され易くなる。
「学校」や「駅」以外のランドマーク種別についても同様に、各ランドマーク種別に分類される撮影場所で撮影される写真における被写体の特徴であると考えられる項目については重み係数を高く設定し、そうではない項目については重み係数を低く設定する。なお、図10で示した重み係数の設定は、一例であって、適宜変更可能である。
次に、ランドマーク対応表を用いたランドマーク種別の選択について説明する。
まず、CPU123は、パラメータ表の各画像解析項目に対応した値とランドマーク対応表の各画像解析項目に対応して設定されている重み係数との積和を、ランドマーク種別毎に計算して、ランドマーク種別毎の判断値を算出する。図11は、図9のようにして作成されたパラメータ表に対するランドマーク種別毎の判断値の算出結果の例を示す図である。図9の例では、(1)人が写っているか、(3)男性が写っているか、(5)大人が写っているか、(6)子供が写っているか、(7)風景写真か、(10)屋外写真か、(14)山が写っているか、の項目に「1」が記録されている。この場合、例えばランドマーク種別「建物」に対応した判断値は、1(人が写っているか)×0+1(男性が写っているか)×0+1(大人が写っているか)×0+1(子供が写っているか)×0+1(風景が写っているか)×0+1(屋外写真か)×2+1(山が写っているか)×0=2となる。また、例えばランドマーク種別「山」に対応した判断値は、1(人が写っているか)×0+1(男性が写っているか)×0+1(大人が写っているか)×0+1(子供が写っているか)×0+1(風景が写っているか)×2+1(屋外写真か)×3+1(山が写っているか)×5=10となる。その他のランドマーク種別に対しても同様にして判断値を算出する。
ランドマーク種別毎の判断値を算出した後、CPU123は、判断値が最も大きいランドマーク種別(図11の例ではランドマーク種別「山」)を選択する。なお、ステップS403の算出結果によっては、複数のランドマーク種別の判断値が最大となる可能性がある。この場合には、判断値が最大となる全てのランドマーク種別を選択するようにしても良いし、逆に、全てのランドマーク種別を選択しないようにしても良い。また、判断値の最大値が小さい場合には、必ずしもユーザの意図を反映したランドマーク種別が選択されているとは限らない。このため、判断値の最大値がある許容値以上となる場合にのみランドマーク種別を選択するようにしても良い。
上述した判断値は、対応するランドマーク種別の特徴を画像データ中に多く有している場合に大きくなる。このように、本実施形態では、画像データ中の被写体の特徴からユーザの撮影意図を判別し、撮影意図に応じたランドマーク種別の選択を行っている。これにより、ユーザの撮影意図を反映した形で、画像データを撮影場所の種別単位で分類することが可能である。
ランドマーク種別を選択した後、CPU123は、ステップS307において、GPS情報とランドマーク情報とを関連付けする。図12は、GPS情報(緯度・経度情報)とランドマークの名称とをランドマーク種別毎に登録した対応表の例を示す図である。図12に示すように、本実施形態では、1つの緯度・経度情報に対して、ランドマーク種別毎にランドマークの名称が関連付けられている。上述したように、ランドマーク種別は、画像データ中の被写体の特徴によって選択されるものである。したがって、GPS情報に、ランドマーク種別に対応した名称を関連付けることで、ユーザの撮影意図を反映したランドマークの名称をGPS情報に関連付けることが可能である。例えば、図12に示す北緯35.3°…、東経138.7°…、の場所の名称は、ランドマーク種別が「観光地」、「山」の場合には「高尾山」が関連付けられており、ランドマーク種別が「駅」の場合には「高尾山駅」が関連付けられている。このように、本実施形態では、GPS情報としては同じ位置を示していても、選択されるランドマーク種別によって、GPS情報に関連付けられるランドマークの名称が変化する。
ここで、図12に示すように、ランドマーク種別に対応したランドマークの名称が存在していない場合もある。この場合には、例えばGPS情報とランドマーク種別に対応したランドマークの名称との関連付けを行わないようにしても良い。また、図12には、画像解析の結果とは関係ないランドマーク種別として「住所」が登録されている。ランドマーク種別「住所」に対応した情報は、GPS情報で示される場所の名称であってGPS情報と1対1で対応するので、他のランドマーク種別からランドマークの名称が検索できなかった場合には、ランドマーク種別「住所」に対応した情報を、GPS情報と関連付けるようにしても良い。この他、ランドマークの名称や住所以外の情報をGPS情報と関連付けるようにしても良い。
以上説明したように、第1の実施形態では、ユーザによって撮影された画像の特徴を解析し、この特徴に従って撮影場所(ランドマーク)の種別を判別している。さらに、第1の実施形態では、判別したランドマークの種別に対応した名称をGPS情報と関連付けるようにしている。これにより、ユーザの撮影意図を考慮して、GPS情報とランドマークの名称情報とを関連付けることが可能である。
ここで、画像ファイルのヘッダ情報部には、ランドマーク種別の情報も記録するようにしても良い。ランドマーク種別の情報も記録しておくことにより、例えば画像ファイルをランドマーク種別毎に分類して管理することが可能である。
また、図12で示した対応表において、ランドマーク名称に対応付けるGPS情報の分解能はそれほど高くしておく必要はなく、ある程度の範囲を持たせるようにしても良い。これは、本実施形態が、ランドマーク種別に応じたランドマークの名称の判別を行うようにしているためである。ランドマーク種別により、撮影場所をある程度予測できるので、GPS情報の精度がそれほど高くなくとも、ユーザの意図を反映した所望のランドマークの名称を画像データに関連付けることが可能である。また、この場合には、ランドマークデータベースのデータ量を削減することも可能となる。勿論、ランドマークの名称に対応付けるGPS情報の分解能を高くしても良い。
第1の実施形態の変形例について説明する。図13は、第1の実施形態の変形例における画像解析処理の詳細を示すフローチャートである。この変形例は、画像解析結果だけではなく、シーンモード等のカメラで用いられる各種のカメラ撮影パラメータを利用して画像解析を行う例である。例えば、シーンモードが設定されている場合、シーンモードからユーザが撮影しようとした撮影シーンを特定できる。変形例では、画像解析結果に加えて各種のカメラ撮影パラメータも利用して、より正確にランドマーク種別の判別を行えるようにしたものである。
画像解析処理の開始後、CPU123は、CCD103を介して得られた画像データに対して各種の画像解析処理を行う(ステップS501)。画像解析処理は、図8で示したものを用いることが可能である。各種の画像解析処理を行った後、CPU123は、画像解析処理の結果としてのパラメータ表を図9で示したようにして作成してランドマークデータベースに登録する。そして、CPU123は、作成したパラメータ表からランドマーク種別毎の判断値を算出する(ステップS502)。この判断値も、図11で示した例と同様にして算出できる。
判断値の算出後、CPU123は、ステップS502において作成したパラメータ表から算出される判断値を補正するためのカメラ撮影補正値を、カメラ撮影パラメータ表から算出する(ステップS503)。
図14は、カメラ撮影パラメータ表の例を示した図である。図14の例では、(1)シーンモード(撮影SCNモード)、(2)フラッシュ113の発光の有無、(3)撮影日が休日であるか否か、(4)ズーム方向、をカメラ撮影パラメータとして示している。
図15は、カメラ撮影パラメータとランドマーク種別とを関連付けて登録したランドマーク対応表の例を示す図である。図15に示すランドマーク対応表も、カメラ撮影パラメータと重み係数とを関連付けてランドマーク種別毎に記録している。重み係数は、各ランドマーク種別に分類される撮影場所で撮影される写真に設定されると考えられるカメラ撮影パラメータについては高く設定し、そうではないカメラ撮影パラメータについては低く設定する。なお、図15で示した重み係数の設定は、一例であって、適宜変更可能である。
カメラ撮影補正値は、判断値と同様にして算出する。即ち、カメラ撮影パラメータ表の各カメラ撮影パラメータに対応した値とランドマーク対応表の各カメラ撮影パラメータに対応して設定されている重み係数との積和をランドマーク種別毎に計算してランドマーク種別毎の補正値を算出する。例えば、図16は、図14に示すようなカメラ撮影パラメータ表が作成されている場合において算出される補正値(カメラ撮影補正値)を示している。
以下、図13に戻って説明を続ける。補正値を作成した後、CPU123は、作成したパラメータ表とランドマーク対応表とを対比して、撮影動作によって取得された画像データに対応したランドマーク種別を選択する(ステップS504)。その後、CPU123は、図13の処理を終了させて図4の処理に復帰する。
図17に示すように、最終の判断値は、ステップS502において算出した判断値とステップS503において算出した補正値とのランドマーク種別毎の和である。CPU123は、このようにして算出した最終の判断値のうちで、値が最も大きいランドマーク種別(図17の例ではランドマーク種別「山」)を選択する。
以上説明したような変形例では、カメラが通常有しているカメラ撮影パラメータを考慮してランドマーク種別を判別する。したがって、よりユーザの撮影意図を判別し易くなり、ユーザの撮影意図に応じたランドマークの名称(又はランドマーク種別)を画像データに関連付けることが可能である。
[第2の実施形態]
次に、本発明の第2の実施形態について説明する。第2の実施形態は、画像解析処理のさらなる変形例である。画像解析処理以外の処理や撮影装置の構成は第1の実施形態で説明したものが適用できる。
図18は、第2の実施形態における画像解析処理の詳細を示すフローチャートである。画像解析処理の開始後、CPU123は、CCD103を介して得られた画像データに対して各種の画像解析処理を行う(ステップS601)。画像解析処理は、図8で示したものを用いることが可能である。各種の画像解析処理を行った後、CPU123は、画像解析処理の結果としてのパラメータ表を図9で示したようにして作成する(ステップS602)。
パラメータ表の作成後、CPU123は、今回の撮影動作の実行時刻(撮影時刻)と前回の撮影動作の実行時刻(撮影時刻)とを取得する。そして、CPU123は、取得した撮影時刻から、前回の撮影動作から今回の撮影動作までに所定時間(例えば1時間)以上経過しているか否かを判定する(ステップS603)。
ステップS603の判定において、前回の撮影動作から今回の撮影動作までに1時間以上経過している場合に、CPU123は、Flashメモリ121内のランドマークデータベースに登録しているパラメータ表をリセットする(ステップS604)。その後、CPU123は、Flash121内のランドマークデータベースを読み出して、読み出したランドマークデータベースに、ステップS602で作成されたパラメータ表を新たに登録する(ステップS605)。
また、ステップS603の判定において、前回の撮影動作から今回の撮影動作までに1時間以上経過していない場合に、CPU123は、Flashメモリ121内のランドマークデータベースに登録しているパラメータ表のリセットを行わずに、Flash121内のランドマークデータベースを読み出す(ステップS606)。そして、CPU123は、読み出したランドマークデータベースに、ステップS602で作成されたパラメータ表を追加する(ステップS607)。
ステップS605又はステップS607の後、CPU123は、最終的なパラメータ表を作成する(ステップS608)。ステップS604においてパラメータ表のリセットが行われていた場合には、ステップS605において新たに登録されたパラメータ表を最終的なパラメータ表とする。一方、ステップS607においてパラメータ表の追加登録が行われていた場合には、過去1時間の間に登録されている全てのパラメータ表を最終的なパラメータ表とする。
最終的なパラメータ表を作成した後、CPU123は、最終的なパラメータ表とランドマーク対応表とを対比して、撮影動作によって取得された画像データに対応したランドマーク種別を選択する(ステップS609)。その後、CPU123は、図18の処理を終了させて図4の処理に復帰する。
パラメータ表が1つの場合には第1の実施形態と同様にして判断値を算出することができる。一方、複数のパラメータ表が存在する場合には、各パラメータ表に対して図11に示したような判断値の算出を行う。そして、パラメータ表毎に算出された判断値の総和をランドマーク種別毎に算出して最終的な判断値とする。判断値からランドマーク種別を選択する手法については第1の実施形態と同様である。
以上説明したように、本実施形態によれば、所定時間の間に複数のパラメータ表が作成されていた場合には、これらの複数のパラメータ表による判断結果を総合してランドマーク種別を選択するようにしている。短期間の間であれば、ユーザは同じ撮影意図を持って撮影を行っている可能性が高いと考えられる。この場合には、複数のパラメータ表による判断結果を総合してランドマーク種別を選択することで、第1の実施形態に比べてよりユーザの撮影意図に対応したランドマーク種別を選択することが可能となる。
ここで、第2の実施形態では、カメラ撮影パラメータを用いていないが、カメラ撮影パラメータについても画像解析結果のパラメータ表と同様にして第2の実施形態の手法を適用することが可能である。
以上実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。
さらに、上記した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の適当な組合せにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、上述したような課題を解決でき、上述したような効果が得られる場合には、この構成要件が削除された構成も発明として抽出され得る。
100…デジタルカメラ(カメラ)、101…レンズ、102…レンズ用アクチュエータ、103…撮像素子(CCD)、104…アナログフロントエンド(AFE)回路、105…一時記憶部(SDRAM)、106…表示駆動回路、107…表示パネル、108…バックライトユニット、109…映像信号出力回路、110…映像信号出力端子、111…記録媒体、112…フラッシュコントロール回路、113…フラッシュ、114…手ブレ補正用ジャイロセンサ、115…手ブレ補正用アクチュエータ、116…GPSモジュール、117…GPSアンテナ、118…マイクロホン(マイク)、119…スピーカ、120…外部有線データ通信インターフェース(I/F)、121…Flashメモリ、122…操作部、123…ASIC(CPU)、124…電源回路、125…2次電池

Claims (6)

  1. 被写体を撮影して、該被写体の画像データを取得する撮影部と、
    上記取得された画像データを解析し、画像データの特徴の有無を項目毎に記録したパラメータ表を作成する画像解析部と、
    上記パラメータ表に記録されている項目毎の特徴の有無の情報と、上記項目毎の重み係数を撮影場所の種別毎に記憶したランドマーク対応表とに基づいて、上記画像データの撮影場所の種別を示すランドマーク種別を判別するランドマーク種別判別部と、
    を具備することを特徴とする撮影装置。
  2. ランドマークの名称とランドマークの位置との関連付け情報を上記ランドマーク種別毎に記憶するランドマーク記憶部と、
    上記撮影が行われた場所の位置を検出する位置検出部と、
    上記検出された位置に対応したランドマークの名称を上記ランドマーク記憶部から選択するランドマーク選択部と、
    上記取得された画像データと上記選択されたランドマークの名称とを関連付けて記録媒体に記録する関連付け部と、
    をさらに具備することを特徴とする請求項1に記載の撮影装置。
  3. 上記撮影部による撮影条件を設定するためのシーンモードを設定するシーンモード設定部をさらに具備し、
    上記ランドマーク種別判別部は、さらに、上記シーンモードに応じて上記ランドマーク種別を判別することを特徴とする請求項1又は2に記載の撮影装置。
  4. 上記ランドマーク種別判別部は、所定時間内に得られた過去の複数の上記パラメータ表に応じて、上記画像データの撮影場所の種別を示すランドマーク種別を判別することを特徴とする請求項1乃至3の何れか1項に記載の撮影装置。
  5. 撮影部により、被写体を撮影して、該被写体の画像データを取得することと、
    画像解析部により、上記取得された画像データを解析し、画像データの特徴の有無を項目毎に記録したパラメータ表を作成することと、
    ランドマーク種別判別部により、上記パラメータ表に記録されている項目毎の特徴の有無の情報と、上記項目毎の重み係数を撮影場所の種別毎に記憶したランドマーク対応表とに基づいて、上記画像データの撮影場所の種別を示すランドマーク種別を判別することと、
    を具備することを特徴とする撮影方法。
  6. 撮影部により、被写体を撮影して、該被写体の画像データを取得することと、
    画像解析部により、上記取得された画像データを解析し、画像データの特徴の有無を項目毎に記録したパラメータ表を作成することと、
    ランドマーク種別判別部により、上記パラメータ表に記録されている項目毎の特徴の有無の情報と、上記項目毎の重み係数を撮影場所の種別毎に記憶したランドマーク対応表とに基づいて、上記画像データの撮影場所の種別を示すランドマーク種別を判別することと、
    をコンピュータに実行させるための撮影プログラム。
JP2010274536A 2010-12-09 2010-12-09 撮影装置、撮影方法及び撮影プログラム Expired - Fee Related JP5687480B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010274536A JP5687480B2 (ja) 2010-12-09 2010-12-09 撮影装置、撮影方法及び撮影プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010274536A JP5687480B2 (ja) 2010-12-09 2010-12-09 撮影装置、撮影方法及び撮影プログラム

Publications (2)

Publication Number Publication Date
JP2012124752A JP2012124752A (ja) 2012-06-28
JP5687480B2 true JP5687480B2 (ja) 2015-03-18

Family

ID=46505736

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010274536A Expired - Fee Related JP5687480B2 (ja) 2010-12-09 2010-12-09 撮影装置、撮影方法及び撮影プログラム

Country Status (1)

Country Link
JP (1) JP5687480B2 (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001036842A (ja) * 1999-07-16 2001-02-09 Canon Inc 画像処理装置、画像処理方法および記憶媒体
US20030133017A1 (en) * 2002-01-16 2003-07-17 Eastman Kodak Company Method for capturing metadata in a captured image
JP2004088607A (ja) * 2002-08-28 2004-03-18 Casio Comput Co Ltd 撮像装置、撮像方法及びプログラム
JP2008148220A (ja) * 2006-12-13 2008-06-26 Seiko Epson Corp 撮影装置、撮影方法及び制御プログラム
JP2008165700A (ja) * 2007-01-05 2008-07-17 Seiko Epson Corp 画像処理装置、電子機器、画像処理システム、画像処理方法、および、プログラム

Also Published As

Publication number Publication date
JP2012124752A (ja) 2012-06-28

Similar Documents

Publication Publication Date Title
JP5056061B2 (ja) 撮像装置
JP5550989B2 (ja) 撮影装置、その制御方法、及びプログラム
KR101118980B1 (ko) 인물의 촬영에 적합한 촬상 장치
WO2011102232A1 (ja) 電子機器、撮像装置、画像再生方法、画像再生プログラム、画像再生プログラムを記録した記録媒体および画像再生装置
US20130100329A1 (en) Image pickup apparatus
US20100253801A1 (en) Image recording apparatus and digital camera
JP2010130437A (ja) 撮像装置、及び、プログラム
JP2010136191A (ja) 撮像装置、記録装置、および、記録方法
US20120133798A1 (en) Electronic camera and object scene image reproducing apparatus
JP2014146989A (ja) 撮像装置、撮像方法および撮像プログラム
JP5942260B2 (ja) 撮像装置、画像再生装置
JP2012084052A (ja) 撮像装置、制御方法及びプログラム
US20120249840A1 (en) Electronic camera
JP4948014B2 (ja) 電子カメラ
US20110205396A1 (en) Apparatus and method, and computer readable recording medium for processing, reproducing, or storing image file including map data
JP5687480B2 (ja) 撮影装置、撮影方法及び撮影プログラム
JP2009089325A (ja) 情報機器及び電池残量検出方法
JP2012085228A (ja) 撮影条件設定装置、撮像装置、画像処理装置および撮影条件設定プログラム
JP5013924B2 (ja) 撮像装置、撮像方法、及びプログラム
CN113615156A (zh) 图像处理设备、图像处理方法、计算机程序和存储介质
JP3913046B2 (ja) 撮像装置
JP2010183565A (ja) 撮像装置、画像検索装置およびプログラム
JP5776248B2 (ja) 撮像装置及びプログラム
JP2012073541A (ja) 画像表示装置、画像表示方法、及びプログラム
JP5737961B2 (ja) 撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150122

R151 Written notification of patent or utility model registration

Ref document number: 5687480

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees
S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350