JP5855624B2 - 撮影装置、撮影方法、およびプログラム - Google Patents

撮影装置、撮影方法、およびプログラム Download PDF

Info

Publication number
JP5855624B2
JP5855624B2 JP2013217709A JP2013217709A JP5855624B2 JP 5855624 B2 JP5855624 B2 JP 5855624B2 JP 2013217709 A JP2013217709 A JP 2013217709A JP 2013217709 A JP2013217709 A JP 2013217709A JP 5855624 B2 JP5855624 B2 JP 5855624B2
Authority
JP
Japan
Prior art keywords
image data
motion
range
image
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013217709A
Other languages
English (en)
Other versions
JP2014045500A (ja
Inventor
豊田 哲也
哲也 豊田
野中 修
修 野中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2013217709A priority Critical patent/JP5855624B2/ja
Publication of JP2014045500A publication Critical patent/JP2014045500A/ja
Application granted granted Critical
Publication of JP5855624B2 publication Critical patent/JP5855624B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、デジタルカメラ、ビデオカメラ、カメラ付携帯電話等の撮影装置に関し、詳しくは、撮影装置の動きを検出し、最適な露出となるようにした撮影装置、撮影方法、およびプログラムに関する。
従来より、カメラ情報や画像シーンを分析して画像処理を行う撮影装置は種々提案されている。例えば、特許文献1には、撮影時間や指定された季節情報を用いて、作業者の意図する色あいとなるように画像データを修正することのできる画像色修正装置が開示されている。
また、特許文献2には、被写体の撮影時に取得したまたは入力されたカメラ情報を取得し、必要に応じてさらに撮影シーンに関連する関連情報を取り込み、これらを用いて、撮影シーンの推定を行い、推定された撮影シーンに応じて画像処理を行うようにした画像処理方法が開示されている。さらに、特許文献3には、画像から対象物を検出するにあたって、画像のシーンを判別し、この判別結果に応じて検出の際に使用されるパラメータを制御するようにした撮影装置が開示されている。
特開2003−259137号公報 特開2001−238177号公報 特開2008−54297号公報
前述の特許文献1、2に開示の画像色修正装置等は、撮影後に画像データに対して画像処理を行うものであって、撮影時に画像処理を行うものではない。このため、ライブビュー表示を適切に行うことができず、また適正露光量で撮影を行うことができない。また、特許文献3に開示の撮影装置は、撮影時における処理であるが、対象物を検出することを主眼とするものであって、撮影者の意図する被写体を適正露光でライブビュー表示し、また適正露光で撮影を行うものではない。
本発明は、このような事情を鑑みてなされたものであり、撮影者の意図する被写体を簡単な構成で検出し、これを適正露光で表示を行うことのできる撮影装置、撮影方法、およびプログラムを提供することを目的とする。
上記目的を達成するため第1の発明に係わる撮影装置は、被写体像を撮像し、画像データを出力する撮像部と、撮影装置の動きを検出する動き検出部と、測光範囲を決定する測光範囲決定部と、上記測光範囲決定部によって決定された測光範囲の画像データに基づいて上記被写体像を表示する表示部と、上記撮影装置の所定部の押圧を検出する構え検出部と、を具備し、上記測光範囲決定部は、撮影操作前に上記構え検出部により上記撮影装置の所定部の押圧を検出した場合であって、かつ上記動き検出部によって上記撮影装置の動きが検出された場合には、複数の上記画像データの共通範囲を測光範囲と決定する
の発明に係わる撮影装置は、上記第1の発明において、上記動き検出部は、上記画像データに基づいて、上記撮影装置の動きを検出する。
の発明に係わる撮影装置は、上記第の発明において、上記動き検出部による動きの検出は、複数の上記画像データが一致しておらず、かつ共通範囲が有るか否かに基づいて検出する。
の発明に係わる撮影装置は、上記第1の発明において、上記動き検出部は、上記撮影装置に加えられた角加速度、加速度、角速度のいずれかを検知する動きセンサを含む。
の発明に係わる撮影装置は、上記第1の発明において、上記表示部は、上記撮像部から出力される全体画像に対応する画像データに基づいて被写体像表示、および/または共通範囲に対応する画像データを表示する。
第6の発明に係わる撮影方法は、被写体像を撮像し、画像データを出力する撮像ステップと、撮影装置の動きを検出する動き検出ステップと、上記動き検出ステップによる検出結果に基づいて、測光範囲を決定する測光範囲決定ステップと、上記測光範囲決定ステップによって決定された測光範囲の画像データに基づいて上記被写体像を表示する表示ステップと、上記撮影装置の所定部の押圧を検出する押圧検出ステップと、を有し、上記測光範囲決定ステップは、撮影操作前に上記押圧検出ステップで上記撮影装置の所定部の押圧を検出した場合であって、かつ上記動き検出ステップによって上記撮影装置の動きが検出された場合には、複数の上記画像データの共通範囲を測光範囲と決定する
第7の発明に係わるプログラムは、被写体像を撮像し、画像データを出力する撮像ステップと、撮影装置の動きを検出する動き検出ステップと、上記動き検出ステップによる検出結果に基づいて、測光範囲を決定する測光範囲決定ステップと、上記測光範囲決定ステップによって決定された測光範囲の画像データに基づいて上記被写体像を表示する表示ステップと、上記撮影装置の所定部の押圧を検出する押圧検出ステップと、を有し、上記測光範囲決定ステップは、撮影操作前に上記押圧検出ステップで上記撮影装置の所定部の押圧を検出した場合であって、かつ上記動き検出ステップによって上記撮影装置の動きが検出された場合には、複数の上記画像データの共通範囲を測光範囲と決定する、ことを撮影装置のコンピュータに実行させる。
本発明によれば、撮影者の意図する被写体を簡単な構成で検出し、これを適正露光で表示を行うことのできる撮影装置、撮影方法、およびプログラムを提供することができる。
本発明の第1実施形態に係わるカメラの構成を示すブロック図である。 本発明の第1実施形態に係わるカメラにおいて、被写体と画角の関係を示す図である。 本発明の第1実施形態に係わるカメラにおいて、撮影者が被写体を探すときの様子を示す図である。 本発明の第1実施形態に係わるカメラにおいて、被写体に対して適正露光とするための部分測光のやり方を説明する図である。 本発明の第1実施形態におけるカメラの動作を示すフローチャートである。 本発明の第1実施形態に係わるカメラにおいて、画像の動きから部分測光する範囲を説明する図である。 本発明の第1実施形態におけるカメラの部分測光の動作を示すフローチャートである。 本発明の第1実施形態に係わるカメラにおいて部分測光を行う場合の信号処理を示すグラフである。 本発明の第2実施形態に係わるカメラにおいて、動きベクトルを用いて、被写体に対して適正露光とするための部分測光のやり方を説明する図である。 本発明の第2実施形態におけるカメラの動作を示すフローチャートである。 本発明の第3実施形態に係わるカメラにおいて、被写体に対して適正露光とするための部分測光のやり方を説明する図である。 本発明の第3実施形態におけるカメラの動作を示すフローチャートである。 本発明の第4実施形態におけるカメラの動作を示すフローチャートである。 本発明の第4実施形態に係わるカメラにおいて、ライブビュー表示の様子を示す図である。
以下、図面に従って本発明を適用したカメラを用いて好ましい実施形態について説明する。図1は、本発明の第1実施形態に係わるカメラ10の電気回路を示すブロック図である。カメラ10は、デジタルカメラであり、画像処理及び制御部1、撮像部2、手振れ補正部2a、記録部4、モーション検知部5、操作判定部6、表示部8、タッチパネル8b、時計部9等から構成される。
撮像部2は、ズーム機能を有する撮影レンズや、シャッタ等の露出制御部、撮像素子、撮像素子の駆動及び読出回路等を含み、撮影レンズによって形成された被写体像を撮像素子によって画像データに変換し、これを出力する。手振れ補正部2aは、後述する手振れ検出部1cからの手振れ補正信号に従って手振れを除去するように撮像部2中の撮像素子または撮影レンズを駆動する。
画像処理及び制御部1は、記憶されているプログラムに従ってカメラ10の全体のシーケンスを制御する。また、撮像部2から出力される画像信号を取り込み、間引き処理、エッジ強調、色補正、画像圧縮等の種々の画像処理を行い、ライブビュー表示、記録部4への記録、再生表示等の画像処理を行う。また、画像データの一部を抜き出し、この部分が適正表示や適正露光が行われるような画像処理を行う。画像処理及び制御部1内には、電源制御部1a、測光範囲決定部1b、手振れ検出部1cを含む。
電源制御部1aは、カメラ10全体の電源制御を行う。後述する操作判定部6によってパワースイッチがオンと判定された場合に、カメラ10のパワーをオンとし、カメラ10を起動する。また、これ以外にも、カメラ10をとっさに構える時などの大きな振動を、後述するモーション検知部5内の比較器5aによって検出した場合には、パワーをオンにし、カメラ10を起動させる。これによって、撮影者がカメラ10を構えるだけで、撮影が可能となる。
測光範囲決定部1bは、露光時の露出制御やライブビュー表示する際に適正露光となるように、測光を行う範囲を決定する。この測光範囲の決定にあたっては、撮像部2から出力される画像データに基づいてカメラの動きを検知し、この動きに基づいて、撮影者が意図する被写体の位置を推定し、測光範囲として決定する。手振れ検出部1cは、撮像部2から出力される画像データに基づいて、カメラ10に加えられた手振れ等の動きを検知し、この手振れ等の動きを打ち消すための手振れ補正信号を生成する。手振れ補正信号は前述したように、手振れ補正部2aに出力され、手振れ補正を行う。
モーション検知部5は、加速度センサ、角加速度センサ、角速度センサ、ジャイロ等のセンサを有し、カメラに加えられた動きに応じた動き信号と、重力方向を示す重力方向信号を、画像処理及び制御部1に出力する。また、モーション検知部5は、上述センサ等から出力される動き信号と所定値を比較する比較器5aを有している。比較器5aは、カメラ10がパワーオフ時であっても動作しており、所定値以上の動きがあった場合には、比較器5aから起動信号を出力する。電源制御部1aは、比較器5aから起動信号を受信すると、前述したようにカメラ10をパワーオン状態にし、カメラ10を起動する。
操作判定部6は、レリーズ釦、パワースイッチ、再生モード設定釦、メニュー釦等、種々の操作部材を含み、これらの操作部材の操作状態を判定し、画像処理及び制御部1に判定結果を送る。前述の画像処理及び制御部1は、操作部材の操作状態に応じて、所定のシーケンスで撮影や再生の制御を行う。記録部4は、レリーズ釦によって撮影の指示がなされた際に、撮像部2によって取得され、画像処理及び制御部1によって画像処理された画像データを記録する。また、後述する時計部9から出力される撮影日時情報や、図示しないGPS等から出力される撮影位置情報が、画像データに関連付けて記録される。これらの撮影位置情報や撮影日時情報は、画像整理や画像検索の際に利用できる。
表示部8は、カメラ10の背面等に配置された液晶パネルや有機ELパネル等の表示部を有し、撮影前のライブビュー表示や、記録済みの画像の通常再生表示や、カメラ情報の表示等を行う。タッチパネル8bは、表示部8の表示パネルの前面に配置され、撮影者の指等がタッチした位置を検知し、検知結果を画像処理及び制御部1に出力する。時計部9は、カレンダー機能や時計機能を有し、撮影時には撮影日時情報を出力する。
次に、図2ないし図4を用いて、本実施形態における表示制御や露出制御の考え方を説明する。図2は、被写体である小鳥22を撮影する場合の様子を示している。なお、小鳥22は例示であり、小鳥や桜の花等、小さな被写体を想定している。図2の状態において、撮影者は小鳥22を撮影しようとしていることから、狭い注視視野23aのみを見ている。この場合、人間の目は注視範囲23aの色を忠実に認識することができるが、カメラ10の表示部8におけるライブビュー表示では画面全体の明るさによって表示制御されることから、小鳥22の色彩を忠実には再現することができない。特に、空をバックにしている場合には、面積の広い空に露出が影響を受け、小鳥22は暗く、どこにいるのか分からないような表示となってしまう。
また、注視視野23aと、カメラ10の広角視野23bや望遠視野23c等とは一致していないことも撮影者を戸惑わせる要因となっている。すなわち、被写体である小鳥22を表示部8で発見できない場合には、撮影者は撮影部2を広角側にズーミングするが、広角視野23bでは小鳥22の色彩が無彩色に近いことから見つけ難い。そこで、撮影者は、望遠視野23cにズーミングすると、カメラ10を少し振るだけで、小鳥22から外れてしまう。このように、従来のカメラ10では、表示部8を観察しながら、目的とする小鳥22をカメラ10の画角の中に納めることが困難であり、画角を変えたり、見る方向を変えたりしているうちに、小鳥22が逃げてしまうことが多かった。
本実施形態においては、図3(a)に示すように、撮影者20が被写体である小鳥22を探す際に、カメラ10を位置24a、位置24b、位置24cと移動させるときの動きを用いて、表示や露出の際の測光範囲を決定するようにしている。すなわち、カメラ10の位置24a、24b、24c(単に位置だけではなく、被写体に向けての方向も含む)に応じて、視野範囲25a、25b、25cに変化することを利用している。
カメラ10の画角が広い場合には、小鳥22は小さくてその存在位置が分かりにくいが、撮影者20が小鳥22を求めてカメラ10を動かす範囲内には、小鳥22が位置する可能性が高い。そこで、視野範囲25a〜25cの重なっている共通範囲25dが、撮影者20が重点的に被写体を探している部分とみなし、この部分に露出を合せるようにしている。カメラ10を動かし始めたときには小鳥22に露出が合っていないことから、肉眼で小鳥22を見た場合と同じような色でない。このため、撮影者は小鳥22の位置を正確にとらえることができない。しかし、カメラ10が範囲25a〜25cの重なっている共通範囲25dに露出を合せると、小鳥22に露出が合い、小鳥22の色がはっきり見えてくる。このため、撮影者20は正しくフレーミングを行ったり、またズーミングを行うことができる。
図3(b)に示すように、多数の範囲25a〜25cから共通範囲25dを求めても良いが、図5に示すフローにおいては、図4(a)に示すように、2つの範囲26a、26bを用いて共通範囲26cを決定するようにしている。小鳥22を探して視野範囲26a、26bにカメラ10を向けたとすると、その共通範囲26cの方向に被写体がいると撮影者は考えていることから、この部分を重点的に露出制御する。共通範囲26cが適正露光となるように、露出制御することにより、図4(b)に示すように、小鳥22の部分の露出や色再現性を重視した制御を行うことができる。以下、部分測光という場合には、露出のみならず色の補正も行っているものとする。露出制御としては、ライブビュー表示を行う場合には、ISO感度や撮像素子の電子シャッタ等により行い、また記録部4に記録する場合の露出制御では、ISO感度、絞り値、シャッタ速度等により制御を行う。
また、近年、画像の中である部分と別の部分の表示や露出を別々に行いながら、自然に見えるような画像合成方法が知られている。このような技術を使用することにより、図4(b)に示すように、小鳥22に色再現性が適正になるようにしたままで、図4(c)に示すように、木21を含めて全体として露出オーバにならないようにした画像を得ることも可能である。なお、この処理は、後述する図5に示すフローチャートのステップS112において実行される。
このように、本実施形態においては、フレーミング時に撮影者が試行錯誤でカメラ10を動かして被写体を探すことを利用して、被写体を適正露光で表示させ、また露光するようにしている。
次に、本実施形態に係わるカメラ10の動作を図5に示すフローチャートを用いて説明する。カメラ10がパワーオンとなり起動すると、図5に示すフローがスタートする。パワーオンは、パワースイッチがオンとなった場合以外にも、前述したようにモーション検知部5の比較器5aから起動信号が出力された場合にもスタートする。
図5に示すフローがスタートすると、まず、撮影モードか否かの判定を行う(S101)。このカメラ10には、撮影モードと再生モードが備えられており、操作判定部6によって撮影者のモード選択状態を判定する。ステップS101における判定の結果、撮影モードでなかった場合には、次に、再生モードか否かの判定を行う(S121)。この判定の結果、再生モードでもなかった場合には、ステップS101に戻る。一方、再生モードであった場合には、次に、撮影画像の再生を行う(S122)。このステップでは、記録部4に記録されている撮影画像の中からユーザの選択に応じて表示部8に再生表示する。撮影画像の再生が終わると、ステップS101に戻る。
ステップS101における判定の結果、撮影モードであった場合には、ステップS102以下において、図2ないし図4を用いて説明したように共通範囲25dを重点的に適正表示・露光となるような制御を行う。そこで、まず、撮像を行う(S102)。撮像は、撮像部2によって被写体像の画像データを取得する。続いて、画面平均測光を行う(S103)。このステップでは、画像処理及び制御部1によって画像データの平均値をとる。
ステップS103において画面平均測光を行うと、次に、露出制御を行う(S104)。ここでは、画像データに基づいて表示部8にライブビュー表示を行うにあたって、画面平均測光によって得た被写体輝度に基づいて、ISO感度等の制御を行う。続いて、露出制御された画像データに基づいて、表示部8にライブビュー表示を行う(S105)。ライブビュー表示を行うことにより、撮影者はフレーミングを行うことができる。
ステップS105において表示を行うと、次に、撮影操作を行ったか否かの判定を行う(S106)。このステップでは、撮影者がレリーズ釦を操作し、露光の指示を行ったか否かを操作判定部6によって判定する。
ステップS106における判定の結果、撮影操作を行わなかった場合には、次に、ステップS102と同様に、撮像を行う(S108)。ステップS103における画面平均測光の結果に基づいて、表示制御されている場合には、図4(a)に示したように、部分的な被写体(例えば小鳥22)に対して適正表示とはならない。このとき、撮影者は被写体を探そうとしてカメラ10を動かすので、ステップS131以下において、このような動きを行っているか否かの判定を行い、探していた場合には、図4(b)を用いて説明したよう共通範囲26cを重視した表示制御を行う。
ステップS108における撮像を行うと、次に、カメラ10を構えた状態か否かの判定を行う(S131)。このステップでは、図3(a)に示すように撮影者20がカメラ10を構えているか否かを判定する。この判定としては、例えば、タッチパネル8bによって所定位置(右手でしっかりカメラ10を把持できる位置)がタッチされているか否か、カメラ10の重力方向がカメラの縦位置または横位置の方向であるかをモーション検知部5によって検知する等によって行う。
ステップS131における判定の結果、構えた状態でなかった場合には、ステップS103に戻り、画面平均測光を行い、ライブビュー表示を続行する。一方、判定の結果、構えた状態であった場合には、次に、画像変化が大であるか否かを判定する(S132)。このステップでは、撮像部2からの画像データに基づいて、画像の変化が大か、言い換えると、撮影者が被写体を求めてカメラ10を動かしているか否かを判定する。この画像変化の判定は、図6(a)に示すタイミングT=t1の際の視野範囲27aの画像と、図6(b)に示すタイミングT=t2の際の視野範囲27bの画像を比較することにより行う。
ステップS132における判定の結果、画像変化が大であった場合には、次に、重なり部分があるか否かの判定を行う(S134)。このステップでは、図6(c)(d)に示すように、共通範囲27cがあるか否かの判定を行う。この判定の結果、重なり部分がなかった場合には、単に撮影対象を変えたとみなして、ステップS103に戻り、平均測光を行う。一方、判定の結果、重なり部分があった場合には、重なった部分について部分測光を行う(S135)。ここでは、図6(c)(d)に示す共通部分27に対応する部分の画像データを用いて、部分測光の輝度値を求める。部分測光値を求めると、ステップS104に戻る。この重なった部分の部分測光の詳細については、図7および図8を用いて後述する。
ステップS132およびS134における判定をいずれもYesで通過し、ステップS135における部分測光を行う場合は、図6(a)(b)に示す視野範囲27aおよび27bの2つの画像が一致しておらず、かつ、図6(c)(d)に示す共通範囲27cが有る場合である。本実施形態においては、共通部分の面積が画面の1/2より小さく、かつ1/16より大きいときに、画像変化大で重なり部分有りと判定する。なお、この数値は例示であり、適宜、設定すればよいが、後述するステップS133におけるAEロック後の構図の修正、また被写体探しのための動きか否か等を考慮して数値を決めればよい。
ステップS132における判定の結果、画像変化が大でなかった場合には、次に、部分測光が済んでいるか否かの判定を行う(S133)。これは、ステップS135における部分測光を行ったか否かの判定である。この判定の結果、部分測光が済んでいなかった場合には、ステップS105に戻り、一方、部分測光が済んでいた場合には、ステップS104に戻る。すなわち、ステップS135において部分測光を行った後に、ステップS132において画像の変化が小さいと判定された場合は、被写体(小鳥22)が見つかったとみなし、AEロック状態にしている。
このように、ステップS106において、撮影操作(レリーズ操作)がなされていないと判定された場合には、ステップS108、S131〜S135を実行することにより、小鳥22のような小さな被写体に対して適正表示となるようにライブビュー表示用の表示制御を行う。小鳥22のような小さな被写体でない場合には、構えた状態であっても被写体を探して動かさないことから、平均測光となるが、被写体が大きいことから、適正露光となる。
ステップS106における判定の結果、撮影操作(レリーズ操作)された場合には、撮影を行う(S107)。このステップでは、記録部4に画像データの記録用に、レリーズ操作に応答して撮像部2からの画像データを取得する。続いて、露出の差が大か否かの判定を行う(S111)。ここでは、画面内の最大輝度と最低輝度との差が所定値より大きいか否かの判定を行う。この判定の結果、露出差が大きかった場合には、適応化処理を行う(S112)。適応化処理は、図4(b)(c)を用いて説明したように、被写体(小鳥22)に対して適正露光となるようにしつつ、露出オーバとなっている木21等の全体も適正露光となるような画像処理を行うことを言う。なお、ここでの所定値は、適応化処理を行うことが望ましい程度の輝度差とする。
ステップS112における適応化処理を行うと、またはステップS111における判定の結果、露出差が大でなかった場合には、次に、ステップS107で取得した画像データ、またはステップS112において適応化処理を行った画像データを、記録部4に記録する(S113)。なお、画像データの記録の際に、画像データに関連付けて撮影日時情報等を記録する。画像データの記録が終わると、ステップS101に戻る。
次に、ステップS135における部分測光の詳細な動作について、図7および図8を用いて説明する。被写体がアンダーの場合にはRGBの三色の信号出力には差異が小さく、色の識別が困難な場合がある。そこで、本実施形態においては、図4の共通範囲26c、図6の共通範囲27cのように、カメラ10を動かしている場合に、その動きの中で共通する部分について、部分測光を行っている。
部分測光のサブルーチンに入ると、まず、部分露出の適正化を行う(S201)。ここでは、図8(a)に示すように、画面内の位置のR(赤)G(緑)B(青)の各色信号出力(画像データ)の内、部分測光の対象範囲の各色信号が、図8(b)に示すように、適正レベルとなるように制御する。表示の場合には、ISO感度等を変更し、また画像処理および制御部1において画像データの増幅率を変更する等により適正レベルにする。なお、撮影操作が行われた場合には、シャッタや絞り等の制御も行って適正露光となるようにする。
ステップS201における部分測光のみでも十分であるが、逆光下では、表示部8にあたる周囲光やフレアの影響で、色が分かりにくい場合がある。そこで、本実施形態においては、ステップS201における部分露出の適正化を行った後に、ステップS202以下において、彩度の強調を行うようにしている。
そこで、部分露出の適正化を行うと、次に、彩度の判定を行い(S202)、信号Maxの1/4以上の差があるか否かの判定を行う(S203)。これらのステップでは、GとBの信号差、およびBとRの信号差を求め(図8(b)参照)、これらの差のいずれかがRGBの信号の最大値の1/4以上より大きいか否かの判定を行う。無彩色に近い被写体の場合に、無理に彩度強調処理を行うと、不自然な色合いとなることから、有る程度、彩度に差がある場合に彩度強調処理を行うためである。なお、1/4は例示であり、彩度強調を行った際に不自然でない程度の彩度の差か否かを判定できる数値とする。
ステップS203における判定の結果、差が1/4以上の場合には、色に応じ彩度強調を行う(S204)。彩度強調としては、図8(c)に示すように、RとBについてGとの信号差が大きくなるよう画像処理を行う。この処理としては、例えば、Rについては1.3倍、Bについて1.7倍にする。ステップS204において彩度強調を行うと、またはステップS203における判定の結果、信号Maxの1/4以上なかった場合には、元のフローに戻る。
このように、本実施形態における部分測光のフローにおいては、カメラ10の動きで共通範囲26c、27cの画像データを用いて、部分測光値を求めて表示部8におけるライブビュー表示を適正露光で表示するようにしている。このため、小鳥22のように小さな被写体であっても、適正露光で表示することができる。また、レリーズ操作を行った場合には、部分測光値に基づいて、露出制御されるので、適正露光で画像データを取得し、これを記録部4に記録することができる。
また、本実施形態における部分測光のフローにおいては、有る程度、彩度に差がある場合には、彩度強調を行っている。このため、逆光下等、色合いがはっきりしない場合でも、被写体固有の色を見えやすくしており、フレーミングやズーミングを行いやすい。
以上、説明したように、本発明の第1実施形態においては、画像データに基づいてカメラ10の動きを検出し、この検出されたカメラ10の動きに基づいて部分測光を行うようにしている。このため、撮影者の意図する被写体を検出し、これを適正表示または適正露光を行うことができる。
次に本発明の第2実施形態について、図9および図10を用いて説明する。第1実施形態においては、カメラ10の動いている場合、共通範囲があるか否かを判定していた。第2実施形態においては、動きベクトルを検出し、この動きベクトルが反転した場合に、共通範囲がある場合に、その範囲について部分測光を行うようにしている。
図9を用いて、第2実施形態における共通範囲の検出について説明する。図9(a)はタイミングT=t1における被写体(木21、小鳥22)と視野範囲28aの関係を示している。また、図9(b)はタイミングT=t2における被写体と視野範囲28bとの関係を示している。ここで、撮影者は小鳥22を探してカメラ10を動かすことにより視野範囲は移動している。このときの視野範囲28aと視野範囲28bの画像データを用いて、動きベクトル29aを求める。
続いて、タイミングT=t3となると、図9(c)に示すように、視野範囲28cは動き、このときの視野範囲28bと視野範囲28cの画像データを用いて、動きベクトル29bを求める。ここで求めた動きベクトル29bと、タイミングT=t2において求めた動きベクトル29aを比較し、その方向が反転したかを判定する。判定の結果、反転していた場合は、その反転時点付近に共通範囲があると考え、共通範囲を求め部分測光を行う。
第2実施形態においては、前述のようなやり方で共通範囲を求めるが、その構成は第1実施形態と同様であり、図5に示したフローチャートを図10に示すフローチャートに置き換えるだけであるので、相違点を中心に説明する。
図10に示すフローは、ステップS101〜S122は図5に示したフローと同様であるので、同一のステップには同一のステップ番号を付与し、詳しい説明は省略する。ステップS106において、撮影操作がなされたか否かを判定し、判定の結果、撮影操作がなされていなかった場合には、ステップS108において撮像を行う。この撮像の結果、取得した画像データを仮記憶する(S140)。このステップS140を通過するたびに、画像データを順次、仮記憶し、後述するステップS151、S152、S147においてクリアされる。
画像データを仮記憶すると、続いて、動きベクトル判定を行う(S141)。ここでは、ステップS140において仮記憶した最新の画像データと、1つ前に仮記憶した画像データ用いて、動きベクトルを求める。動きベクトル判定を行うと、続いて、ステップS141で求めた動きベクトルが第1所定値よりも大きいか否かの判定を行う(S142)。この判定の結果、大きくなかった場合には、ステップS141で求めた動きベクトルが第2所定値よりも小さいか否かの判定を行う(S143)。
ステップS142およびS143における判定の結果、第1所定値よりも大きい場合、または第2所定値よりも小さい場合には、ステップS140において仮記憶した画像データをクリアし(S151)、ステップS105に戻る。一方、ステップS143における判定の結果、第2所定値よりも小さい場合には、動きベクトルが反転したか否かの判定を行う(S144)。
動きベクトルの反転の判定にあたって、動きベクトルが連続フレームで検出できない程大きいときは(S142→Yes)フレーミングの途中とみなし、また連続フレームで画面の1/10以下で小さいとき(S143→Y)は撮影者が構図決定しようとしている状態として、ステップS143において仮記憶した画像データをクリアしている。したがって、ステップS144において、動きベクトルが反転したか否かの判定を行うのは、動きベクトルが大きすぎず、また小さすぎない場合である。このときは、撮影者が被写体を探して迷っている状態として、動きベクトルが反転したか否かを判定している。なお、ステップS142、S143における第1及び第2所定値は、上述のフレーミングの途中か、構図決定中か等を考慮して適宜決めれば良い。
ステップS144における判定の結果、動きベクトルが反転していなかった場合には、ステップS103に戻る。一方、判定の結果、動きベクトルが判定していた場合には、重なり部分があるか否かの判定を行う(S145)。ここでは、ステップS140において仮記憶した画像データと、ステップS141において動きベクトル判定した際の画像データを比較し、共通する画像部分があるか否かを判定する。
ステップS145における判定の結果、重なり部分がなかった場合には、ステップS140において仮記憶した画像データをクリアし(S152)、ステップS103に戻る。一方、判定の結果、重なり部分があった場合には、重なった部分について部分測光を行う(S146)。この部分測光は、第1実施形態において図7および図8で説明した部分測光と同様であるので、詳しい説明は省略する。部分測光を行うと、ステップS140において仮記憶した画像データをクリアし(S147)、ステップS104に戻る。
ステップS108における撮像結果の仮記憶の保持には限界があるので、要所において(ステップS151、S152、S147)クリアしている。なお、ズーミングやレリーズスイッチの半押し等、撮影以外の操作がなされた場合に、露出をロックするようにしても良い。
以上、説明したように、第2実施形態においても、画像データに基づいてカメラ10の動きを検出し、この検出されたカメラ10の動きに基づいて部分測光を行うようにしている。このため、撮影者の意図する被写体を検出し、これを適正表示または適正露光を行うことができる。また、第2実施形態においては、動きベクトルが反転した場合にのみ、重なり部分があるか否かを判定するようにしているので、処理時間を短縮することができる。
次に、本発明の第3実施形態について、図11および図12を用いて説明する。第1実施形態においては、単純に2コマの比較で共通範囲を検出し、また第2実施形態においては、画像の動きベクトルを検出し、この動きベクトルが反転した場合に、共通範囲を検出していた。第3実施形態においては、連続して得られた3以上のコマ(第3実施形態においては、10コマ)の画像から、最も共通した部分を選択して部分測光を行うようにしている。すなわち、図11に示すように、多数の視野範囲が最も重なっている共通範囲30を求め、この共通範囲30について、部分測光を行うようにしている。
第3実施形態においては、前述のようなやり方で最も重なっている部分から共通範囲30を求めるが、その構成は第1、第2実施形態と同様であり、図10に示したフローチャートを図12に示すフローチャートに置き換えるだけであるので、相違点を中心に説明する。
図12に示すフローは、ステップS101〜S122、S140〜S151は図10に示したフローと同様であるので、同一のステップには同一のステップ番号を付与し、詳しい説明は省略する。なお、ステップS140において撮像結果を仮記憶するが、本実施形態においては、少なくとも10コマの画像データを仮記憶可能である。
図12のフローに入り、ステップS143における判定の結果、動きベクトルが第2所定値より小さくなかった場合には、次に、仮記憶された画像が10コマあるか否かの判定を行う(S161)。この判定の結果、10コマに達していなかった場合には、ステップS103に戻る。この後、ステップS108において撮像し、この撮像された画像データをステップS109において仮記憶を行う。
ステップS161における判定の結果、仮記憶の画像が10コマとなると、次に、最も重なった部分を抽出する(S162)。ここでは、図11に示したような、最も重なった共通範囲30を、画像データの比較から求める。最も重なった部分を抽出すると、次に、部分測光を行う(S163)。この部分測光は、第1実施形態において図7および図8で説明した部分測光と同様であるので、詳しい説明は省略する。部分測光を行うと、ステップS164において仮記憶した画像データをクリアし(S164)、ステップS104に戻る。
以上、説明したように、第3実施形態においても、画像データに基づいてカメラ10の動きを検出し、この検出されたカメラ10の動きに基づいて部分測光を行うようにしている。このため、撮影者の意図する被写体を検出し、これを適正露光で表示または露光を行うことができる。また、第3実施形態においては、3以上の仮記憶された画像で最も重なった部分について部分測光を行うようにしているので、処理時間は多少かかるが、ターゲットする被写体を的確にとらえることができる。
次に、本発明の第4実施形態について、図13および図14を用いて説明する。第1ないし第3実施形態では、カメラ10の動きを検知して測光方式の変更、すなわち、モーション検知によるサーチモードを自動的に行っていたが、第4実施形態では、モーション検知よるサーチモードをマニュアル設定できるようにしている。また、カメラ10の動きを検知するにあたって、画像データではなくモーション検知部5による検知結果を用いるようにしている。
第4実施形態の構成は、図1に示した第1実施形態の構成と同様であり、図5に示したフローチャートを図13に置き換える点で相違するので、相違点を中心に説明する。図13に示すフローに入ると、ステップS101と同様に、撮影モードか否かの判定を行う(S301)。この判定の結果、撮影モードでなかった場合には、次に、ステップS121と同様に再生モードか否かの判定を行う(S331)。
ステップS331における判定の結果、再生モードであった場合には、次にS122と同様に、撮影画像の再生を行う(S332)。撮影画像の再生を行うと、ステップS301に戻る。一方、ステップS331における判定の結果、再生モードでなかった場合には、次に、モード設定を行うか否かの判定を行う(S333)。モード設定はメニュー画面等により行うので、このステップでは、メニューモードに設定されたか否かを、操作判定部6によって判定する。この判定の結果、モード設定であった場合には、操作に従って手動で設定を行う(S334)。モーション検知によるサーチモードの設定は、このモード設定によって行う。ステップS334におけるモード設定を行うと、またはステップS333における判定の結果、モード設定出なかった場合には、ステップS301に戻る。
ステップS301における判定の結果、撮影モードであった場合には、ステップS102と同様、撮像を行う(S302)。続いて、サーチモードか否かの判定を行う(S311)。前述したようにステップS334において、サーチモードが設定可能であるので、このステップでは、サーチモードに設定されているか否かを判定する。なお、サーチモードの設定方法としては、ステップS334において手動で設定する以外にも、カメラ10をすばやく上に向けた場合等にサーチモードに設定するようにしても良い。すばやく上に向けたか否かは、モーション検知部5によって検出するようにすれば良い。
ステップS311における判定の結果、サーチモードが設定されていた場合には、モーション判定を行う(S312)。モーション判定は、モーション検知部5によって、カメラ10の動きを検出し、所定以上の動きがある場合に、動きの中の共通範囲を判定する。なお、第1ないし第3実施形態のように、撮像部2によって取得した画像データに基づいてモーション判定を行うようにしても構わない。
モーション判定を行うと、次に、エリア判定を行う(S313)。ここでは、ステップS312に行ったモーション判定の結果に基づいて、所定以上の動きがあり、しかも共通範囲があるか否かを判定する。この判定の結果、共通範囲がなかった場合には、ステップS301に戻る。一方、エリア判定の結果、共通範囲があった場合には、エリア枠の表示を行う(S314)。
ステップS314におけるエリア枠の表示にあたっては、図14(a)に示すように、視野範囲31a内に共通範囲31b(図14(b)参照)がある場合、図14(c)に示すように、表示部8に視野範囲31aに対応する全体画像32aと、共通範囲31bに対応するサーチ画像32bの両方を表示する。全体画像32aには、共通範囲31b(サーチ画像32b)に対応する領域を破線枠32cで表示すると共通範囲31bの位置が分かりやすい。
ステップS314におけるエリア枠表示を行うと、次に、エリア内測光を行う(S315)。ここでは、共通範囲31bの画像データに基づいて、この範囲が適正露光になるように測光を行う。このエリア測光に基づいて、表示部8でのライブビュー表示が適正表示となるように制御を行い、また、後述する撮影操作がなされた場合には、適正露光となるように露出制御を行う。なお、このエリア内測光は、図7に示した部分測光のフローをそのまま利用しても良い。
ステップS315におけるエリア内測光を行うと、次に、ステップS106と同様に、撮影操作がなされたか否かの判定を行う(S316)。この判定の結果、撮影操作がなされていなかった場合には、ステップS301に戻る。一方、撮影操作がなされた場合には、撮影を行う(S317)。ここでは全体画像32aに対応する画像データを撮像部2から取得し、記録部4に記録する。続いて、エリア内撮影を行う(S318)。ここでは、全体画像32aに対応する画像データから、共通範囲32bに対応する画像データを画像処理および制御部1においてトリミングし、このトリミングした画像データを記録部4に記録する。ステップS318において、エリア内撮影を行うと、ステップS301に戻る。
なお、本実施形態においては、全体画像32aとサーチ画像32bにそれぞれ対応する画像データを記録部4に記録しているが、これに限らず、いずれか一方を選択して記録するようにしても良い。選択の仕方としては、表示部8に表示されている全体画像32aとサーチ画像32bのいずれをタッチしたかをタッチパネル8bによって検知し、この検知結果に基づいて、記録する画像を選択すればよい。また、表示の際に、エリア判定によって共通範囲32bが有った場合には並列して両画像を表示しているが、選択的にいずれか一方を表示するようにしても良い。さらに、本発明の第1〜第3実施形態においても、共通範囲の画像(サーチ画像)をトリミングし、図14(c)に示すように表示しても良いことは勿論である。
ステップS311における判定の結果、サーチモードでなかった場合には、通常の撮影モードであり、まず、顔検出を行う(S321)。このステップでは、画像処理及び制御部1が画像データを処理し、画像中に人物の顔が含まれているか否かを判定する。続いて、顔部測光を行う(S322)。このステップでは、ステップ321において検出された顔の位置に基づいて、その顔の周辺の画像データに基づいて輝度を求める。この顔部測光の測光結果に基づいて、表示部8でのライブビュー表示が適正表示となるように制御を行い、また、後述する撮影操作がなされた場合には、適正露光となるように露出制御を行う。
続いて、ステップS316と同様に、撮影操作がなされたか否かの判定を行う(S323)。この判定の結果、撮影操作がなされた場合には、撮影を行う(S324)。ここでは、撮像部2によって取得した画像データを、画像処理及び制御部1によって画像処理した後、記録部4に記録する。撮影を行うと、またはステップS324における判定の結果、撮影操作でなかった場合には、ステップS301に戻る。
このように、本発明の第4実施形態においては、モーション検知部5によってカメラ10の動きを検出し、この検出されたカメラ10の動きに基づいて部分測光を行うようにしている。このため、撮影者の意図する被写体を検出し、これを適正露光で表示または露光を行うことができる。
また、第4実施形態においては、モーション検知によるサーチモードを手動で設定できるようにしたので、サーチモードを実行したいときのみ撮影者の意図に従った撮影を行うことができる。さらに、本実施形態においては、全体画像32aとサーチ画像32bの両方を表示部8に表示するようにしている。サーチ画像32bは撮影者がターゲットとして狙っている被写体であり、これがトリミング表示され、またそのまま撮影できることから、大変便利である。
以上、説明したように、本発明の各実施形態においては、カメラ10の動きを検知し、共通している部分の画像データを用いて表示制御や露出制御を行うようにしている。このため、撮影者の意図する被写体を簡単な構成で検出し、これを適正露光で表示または露光を行うことができる。
なお、本発明の各実施形態においては、表示制御や露出制御を行うにあたって、共通している部分の部分測光値を用いて行ったが、これに限らず、共通部分を利用して中央重点測光や評価測光によって制御しても良く、また表示制御値や露出制御値を、部分測光値を用いて補正するようにしても勿論かまわない。
また、本発明の各実施形態においては、ライブビュー表示の際に、露出や色補正を行っていたが、液晶パネルや有機ELパネルの表示系での見栄を良くすることが目的であることから、これらの調整に限らず、例えば、バックライトの明るさや発光の強度を、露出や色補正に応じて明るくしていくような工夫を行っても良い。
さらに、本発明の各実施形態においては、撮影のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話や携帯情報端末(PDA:Personal Digital Assist)、ゲーム機器等に内蔵されるカメラでも構わない。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
1・・・画像処理及び制御部、1a・・・電源制御部、1b・・・測光範囲決定部、1c・・・手振れ検出部、2・・・撮像部、2a・・・手振れ補正部、4・・・記録部、5・・・モーション検知部、5a・・・比較器、6・・・操作判定部、8・・・表示部、8b・・・タッチパネル、9・・・時計部、10・・・カメラ、20・・・撮影者、21・・・木、22・・・小鳥、23a・・・注視視野、23b・・・広角視野、23c・・・望遠視野、24a〜24c・・・位置、25a〜25c・・・視野範囲、25d・・・共通範囲、26a〜26b・・・視野範囲、26c・・・共通範囲、27a〜27b・・・視野範囲、27c・・・共通範囲、28a〜28c・・・視野範囲、28d・・・共通範囲、29a・・・動きベクトル、29b・・・動きベクトル、30・・・共通範囲、31a・・・視野範囲、31b・・・共通範囲、32a・・・全体画像、32b・・・サーチ画像、32c・・・破線枠

Claims (7)

  1. 被写体像を撮像し、画像データを出力する撮像部と、
    撮影装置の動きを検出する動き検出部と、
    測光範囲を決定する測光範囲決定部と、
    上記測光範囲決定部によって決定された測光範囲の画像データに基づいて上記被写体像を表示する表示部と、
    上記撮影装置の所定部の押圧を検出する構え検出部と、
    を具備し、
    上記測光範囲決定部は、撮影操作前に上記構え検出部により上記撮影装置の所定部の押圧を検出した場合であって、かつ上記動き検出部によって上記撮影装置の動きが検出された場合には、複数の上記画像データの共通範囲を測光範囲と決定することを特徴とする撮影装置。
  2. 上記動き検出部は、上記画像データに基づいて、上記撮影装置の動きを検出することを特徴とする請求項1に記載の撮影装置。
  3. 上記動き検出部による動きの検出は、複数の上記画像データが一致しておらず、かつ共通範囲が有るか否かに基づいて検出することを特徴とする請求項2に記載の撮影装置。
  4. 上記動き検出部は、上記撮影装置に加えられた角加速度、加速度、角速度のいずれかを検知する動きセンサを含むことを特徴とする請求項1に記載の撮影装置。
  5. 上記表示部は、上記撮像部から出力される全体画像に対応する画像データに基づいて被写体像表示、および/または共通範囲に対応する画像データを表示することを特徴とする請求項1に記載の撮影装置。
  6. 被写体像を撮像し、画像データを出力する撮像ステップと、
    撮影装置の動きを検出する動き検出ステップと、
    上記動き検出ステップによる検出結果に基づいて、測光範囲を決定する測光範囲決定ステップと、
    上記測光範囲決定ステップによって決定された測光範囲の画像データに基づいて上記被写体像を表示する表示ステップと、
    上記撮影装置の所定部の押圧を検出する押圧検出ステップと、
    を有し、
    上記測光範囲決定ステップは、撮影操作前に上記押圧検出ステップで上記撮影装置の所定部の押圧を検出した場合であって、かつ上記動き検出ステップによって上記撮影装置の動きが検出された場合には、複数の上記画像データの共通範囲を測光範囲と決定することを特徴とする撮影方法。
  7. 被写体像を撮像し、画像データを出力する撮像ステップと、
    撮影装置の動きを検出する動き検出ステップと、
    上記動き検出ステップによる検出結果に基づいて、測光範囲を決定する測光範囲決定ステップと、
    上記測光範囲決定ステップによって決定された測光範囲の画像データに基づいて上記被写体像を表示する表示ステップと、
    上記撮影装置の所定部の押圧を検出する押圧検出ステップと、
    を有し、
    上記測光範囲決定ステップは、撮影操作前に上記押圧検出ステップで上記撮影装置の所定部の押圧を検出した場合であって、かつ上記動き検出ステップによって上記撮影装置の動きが検出された場合には、複数の上記画像データの共通範囲を測光範囲と決定する
    ことを撮影装置のコンピュータに実行させることを特徴とするプログラム。
JP2013217709A 2013-10-18 2013-10-18 撮影装置、撮影方法、およびプログラム Expired - Fee Related JP5855624B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013217709A JP5855624B2 (ja) 2013-10-18 2013-10-18 撮影装置、撮影方法、およびプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013217709A JP5855624B2 (ja) 2013-10-18 2013-10-18 撮影装置、撮影方法、およびプログラム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2009126002A Division JP5395512B2 (ja) 2009-05-26 2009-05-26 撮影装置

Publications (2)

Publication Number Publication Date
JP2014045500A JP2014045500A (ja) 2014-03-13
JP5855624B2 true JP5855624B2 (ja) 2016-02-09

Family

ID=50396423

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013217709A Expired - Fee Related JP5855624B2 (ja) 2013-10-18 2013-10-18 撮影装置、撮影方法、およびプログラム

Country Status (1)

Country Link
JP (1) JP5855624B2 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06237410A (ja) * 1993-02-10 1994-08-23 Sony Corp ビデオカメラの動作制御装置
JP4869795B2 (ja) * 2006-06-06 2012-02-08 富士フイルム株式会社 撮像制御装置、撮像システム、および撮像制御方法
JP4894616B2 (ja) * 2007-05-16 2012-03-14 株式会社ニコン 撮像装置
JP5395512B2 (ja) * 2009-05-26 2014-01-22 オリンパスイメージング株式会社 撮影装置

Also Published As

Publication number Publication date
JP2014045500A (ja) 2014-03-13

Similar Documents

Publication Publication Date Title
JP5395512B2 (ja) 撮影装置
JP4661413B2 (ja) 撮像装置、撮影枚数管理方法及び撮影枚数管理プログラム
JP6267502B2 (ja) 撮像装置、撮像装置の制御方法、及び、プログラム
JP2008092008A (ja) 撮影装置
JP2011188318A (ja) カメラ、カメラ制御プログラム及び撮影教示方法
JP2014068081A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP4842919B2 (ja) 表示装置、撮影装置、および表示方法
JP2005143112A (ja) カメラ及びこれに関連する方法
JP6010195B2 (ja) 携帯情報端末および携帯情報端末の制御方法
CN104144286A (zh) 拍摄装置和拍摄方法
JP2008054031A (ja) デジタルカメラ及び表示制御方法
JP4717840B2 (ja) 撮像装置およびその制御方法
JP2016019231A (ja) 撮像装置および撮像装置の制御方法
JP2012085261A (ja) 撮像装置、ファインダ及びその表示方法
JP5855624B2 (ja) 撮影装置、撮影方法、およびプログラム
JP2009139423A (ja) 撮像装置及び被写体距離算出方法
JP2013207471A (ja) デジタルカメラ
JP2004173151A (ja) デジタルカメラ
JP5030883B2 (ja) ディジタル・スチル・カメラおよびその制御方法
JP4769693B2 (ja) 撮像装置、方法、およびプログラム
JP2008104070A (ja) カメラ付き携帯機器とカメラ付き携帯機器のためのプログラム
JP2016092785A (ja) 撮像装置
JP2011155692A (ja) 撮像装置及びそのプログラム
JP5945388B2 (ja) 撮影装置および撮像方法
JP2012239079A (ja) 撮影装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140602

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140605

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140728

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150331

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20150423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150519

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20151120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20151209

R151 Written notification of patent or utility model registration

Ref document number: 5855624

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees