JP6105880B2 - 撮像装置およびその制御方法 - Google Patents

撮像装置およびその制御方法 Download PDF

Info

Publication number
JP6105880B2
JP6105880B2 JP2012199918A JP2012199918A JP6105880B2 JP 6105880 B2 JP6105880 B2 JP 6105880B2 JP 2012199918 A JP2012199918 A JP 2012199918A JP 2012199918 A JP2012199918 A JP 2012199918A JP 6105880 B2 JP6105880 B2 JP 6105880B2
Authority
JP
Japan
Prior art keywords
correction
angle
image
shake
tilt
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012199918A
Other languages
English (en)
Other versions
JP2014056057A (ja
JP2014056057A5 (ja
Inventor
伸茂 若松
伸茂 若松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012199918A priority Critical patent/JP6105880B2/ja
Publication of JP2014056057A publication Critical patent/JP2014056057A/ja
Publication of JP2014056057A5 publication Critical patent/JP2014056057A5/ja
Application granted granted Critical
Publication of JP6105880B2 publication Critical patent/JP6105880B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Adjustment Of Camera Lenses (AREA)
  • Studio Devices (AREA)

Description

本発明は、簡単に水平な画像を撮影することができ、かつ手振れ等の振れによる画像ブレを高精度に補正することができる撮像装置に関するものである。
現在、手振れ等による画像ブレを防ぐ、例えば、振れ補正部、駆動部及び振動検出部等から成る像振れ補正装置を備えたカメラが製品化されており、撮影者の撮影ミスを誘発する要因が減ってきている。
従来の像振れ補正装置としては、撮像中に生じた手振れ量に応じて、像振れ補正レンズまたは撮像素子を光軸と垂直な平面上で移動させることにより像面上での像ブレを制御するものが提案されている。また、光軸の周りに撮像素子を回転させることでロール回転によって生じる像ブレを制御するものも提案されている。また、重力方向と垂直な水平面に対するカメラの光軸周りの傾き角度を検出するセンサを用いて、自動的に撮像結果の傾きを補正することで、撮影に不慣れなユーザーでも水平な画像を簡単に撮影することができる撮像装置も提案されている。
また、動画撮影においては、電子的像振れ補正の技術も提案されている。電子的像振れ補正とは、光軸と垂直な平面上で移動できる像振れ補正レンズや光軸周りに撮像素子を回転移動できるメカ機構をもっていなくても、撮像素子が出力する各撮影フレームの切り出し位置を変更することで振れの影響を軽減させるものである。
上記のような技術の例として、特許文献1では、ピッチ角速度、ロール角速度、ヨー角速度の3軸方向の角速度計を用いて、振れ量を検出し、ピッチ、ヨー、ロール方向の像振れ補正制御を行う技術が提案されている。
また、特許文献2では、撮像装置の傾きを検出して撮像結果の傾きを自動的に補正することにより、撮像素子の重力方向と垂直な水平面に対する光軸周りの傾きを補正する傾き補正処理を行う技術も提案されている。
特開2006−71743号公報 特開平7−95466号公報
しかながら、ロール方向の像振れ補正を行う像振れ補正装置、傾き補正を行う傾き補正装置、ロール方向の像振れ補正と傾き補正を同時に行う像振れ補正・傾き補正装置においては、以下の課題がある。
ロール方向の像振れ補正を行う像振れ補正装置において、ロール角速度計を用いて光軸周りの回転ブレ補正を行おうとすると、次のような問題がある。すなわち、角速度計のオフセット出力や、温度変化によるオフセット出力の変化、また実際の角速度に加算して出力されるセンサ出力ノイズなどの影響により、常時像振れ補正制御を行っていると光軸周りに大きく画像が傾いてしまうことがある。特に、撮影者が構図を液晶モニタで観察しているときは、撮影者が違和感を感じたり、そのまま静止画撮影してしまうと、傾いた撮影画像が得られることが有り得る。
傾き補正を行う傾き補正装置においては、カメラに生じる手振れが大きいときは、振れによって生じる加速度も重力加速度に加算されて加速度計から出力される。よって、振れによる加速度も加わっている加速度計の出力からそのまま傾きを算出して傾き補正を行うと、実際の補正するべき傾きとは異なる傾きに補正してしまい、ユーザーが意図しない画像が得られることになってしまう。
更に、ロール方向の像振れ補正と傾き補正を同時に行う装置においては、同じ回転補正範囲内でロール方向の像振れ補正と傾き補正を同時に行わなければならない。ロール方向の像振れ補正と傾き補正を同時に行おうとすると、カメラの傾きが大きく、傾き補正すべき角度が大きいとき、回転補正範囲の一方方向の補正範囲を大きく使ってしまう。そのため、ロール方向の像振れ補正できる領域が狭くなってしまうことによりロール方向の像振れ補正の効果が劣化し、傾き補正はされていたとしても像ブレした撮影画像を得てしまうことがある。また、ロール振れ量が大きく、ロール方向の像振れ補正すべき角度が大きくなるとき、傾き補正もそのまま行ってしまうと、回転補正範囲が足らなくなってしまうことがある。更に、カメラに生じる手振れが大きいとき、加速度計によって算出した傾きを誤検出してしまっている可能性が高いので、適切な傾き補正が行えないばかりか、像ブレした撮影画像を得てしまうことがある。
本発明は上述した課題に鑑みてなされたものであり、その目的は、制限された補正可動範囲の中で、ロール振れに基づく像振れ補正処理と撮像素子の光軸周りの傾きを補正する傾き補正処理とを撮像装置の状態に応じて適切に行えるようにすることである。
本発明に係わる撮像装置は、撮影光学系により結像された被写体像を撮像し、画像を取得する撮像素子を有する撮像装置であって、前記撮像装置の角速度を検出し、前記撮影光学系の光軸周りのロール方向の振れ角度である第1の角度を演算する第1の演算手段と、前記撮影光学系の光軸周りの前記撮像装置の傾きを検出し、前記傾きの角度である第2の角度を演算する第2の演算手段と、前記撮像素子又は前記撮像素子で取得された画像を前記光軸周りに回転させる回転補正手段と、前記撮像装置の角速度に関する情報に基づいて、前記撮像装置の揺れ状態量を演算する揺れ状態量演算手段と、前記第1の角度及び前記第2の角度及び前記揺れ状態量に基づいて、前記撮像装置の振れ補正量及び前記撮像装置の傾き補正量を演算する補正量演算手段と、前記振れ補正量及び前記傾き補正量に基づいて、前記撮像装置の振れ及び前記撮像装置の傾きを補正するために前記回転補正手段を制御する制御手段と、を備え、前記補正量演算手段は、前記揺れ状態量に基づいて、前記回転補正手段が補正可能な回転補正範囲のうちの前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲及び前記回転補正手段が補正可能な回転補正範囲のうちの前記第2の角度を補正するために割り当てる傾き補正範囲を変更し、変更した前記ロール方向の振れ補正範囲及び前記傾き補正範囲に基づいて、前記撮像装置の振れ補正量及び前記撮像装置の傾き補正量を演算することを特徴とする。
本発明によれば、制限された補正可動範囲の中で、ロール振れに基づく像振れ補正処理と撮像素子の光軸周りの傾きを補正する傾き補正処理とを撮像装置の状態に応じて適切に行うことが可能となる。
本発明における像振れ補正システムの振れ方向を示した図。 第1の実施形態に係る像振れ補正システムを搭載したカメラの上面図。 第1の実施形態に係る像振れ補正・傾き補正装置のブロック図。 第1の実施形態に係る像振れ補正・傾き補正装置の揺れ状態判定の説明図。 第1の実施形態に係る像振れ補正・傾き補正装置の揺れ状態判定の説明図。 第1の実施形態に係る像振れ補正・傾き補正装置の揺れ状態判定の説明図。 第1の実施形態に係る像振れ補正・傾き補正装置の上下限値設定テーブル。 第1の実施形態に係る像振れ補正・傾き補正装置の制御フィルタカットオフ周波数設定テーブル。 第2の実施形態に係る像振れ補正・傾き補正装置のブロック図。 第2の実施形態に係る像振れ補正・傾き補正装置のゲインテーブル。 第3の実施形態に係る像振れ補正・傾き補正装置のブロック図。 第3の実施形態に係る像振れ補正・傾き補正装置のロール像ブレを説明する図。 第3の実施形態に係る像振れ補正・傾き補正装置のゲインテーブル。 第4の実施形態に係る像振れ補正・傾き補正装置のブロック図。
以下、本発明の実施形態について、添付図面を参照して詳細に説明する。
(第1の実施形態)
本発明の第1の実施形態に係わる像振れ補正・傾き補正装置を備えた撮像装置としてのカメラについて、図1及び図2を用いて説明する。図1はカメラ101の振れ方向を表す図であり、図2はカメラ101の平面図である。このカメラに搭載される像振れ補正システムは、被写体像を結像させる撮影光学系の光軸102に対して矢印103p、103yで示すピッチ、ヨーの角度振れに対して振れ補正を行うと同時に、矢印103rで示すロール角度振れに対しても振れ補正を行う。
カメラ101は、レリーズボタン105、カメラ101に内蔵されているカメラCPU106、撮像素子107を有する。第1の検出手段(第1の角度検出手段)としての角速度計108は、矢印103p、103y及び103r回りのそれぞれの角度振れを検出するである。また、第2の検出手段(第2の角度検出手段)としての加速度計109は、矢印104x、104y及び104z軸の加速度を検出する。なお、光軸方向(矢印104z軸に平行な方向)をZ軸方向として、矢印104x方向をX軸方向、矢印104方向をY軸方向とする。また、矢印103p方向をピッチ方向(X軸回り方向)、矢印103yをヨー方向(Y軸回り方向)、及び矢印103rをロール方向(Z軸回り方向)とする。補正レンズ駆動部110は、像振れ補正機構に指示して補正部材としての補正レンズ111を駆動し、ピッチ、ヨー方向の角度振れ補正を行う。撮像素子回転駆動部112は、撮像素子回転補正機構113で撮像素子107を光軸まわりに回転させ、ロール方向の角度振れ補正及び傾き補正を行う。
ここで、角速度計108、及び加速度計109の出力は、カメラCPU106に入力される。そして、カメラCPU106(第1の角度演算手段、第2の角度演算手段)内で、ピッチ、ヨー角度振れ補正量を算出し、補正レンズ駆動部110によってピッチ、ヨーの角度振れ補正を行う。また、カメラCPU106内で、ロール角度振れ補正量と傾き補正量をそれぞれ算出し(補正量演算)、撮像素子回転駆動部112によって撮像素子107を光軸まわりに回転させ、ロール方向の角度振れ補正及び傾き補正を行う。
図2の構成では、補正レンズ111を光軸と垂直な平面上で移動させることで、ピッチおよびヨー方向の像ブレを補正し、光軸を中心に撮像素子を回転させることでロール方向の像ブレを制御する構成としている。しかし、撮影光軸に垂直な平面上で回転移動と平行移動可能な撮像素子のみを用いて、ピッチ、ヨー、ロール方向の像ブレを制御することも可能である。また、動画撮影の場合は、撮像素子が出力する各撮影フレームの切り出し位置を変更することで振れの影響を軽減させる電子的像振れ補正による方法で、ピッチ、ヨー、ロール方向の像ブレを制御することも可能である。また、補正レンズ111を光軸と垂直な平面上で移動させることで、ピッチ、ヨー方向の像ブレを補正し、ロール方向は電子的像振れ補正による方法で制御してピッチ、ヨー、ロール方向の像ブレを制御することも可能である。
図3は、本発明の第1の実施形態に係わる像振れ補正・傾き補正装置を示すブロック図である。
図3を用いて、まず、ロール方向の像振れ補正について説明する。角速度計108からの角速度信号はCPU106に入力される。そして、その角速度計からの信号のうちロール角速度信号はHPF積分フィルタ301(角度算出フィルタ)に入力され、HPF(ハイパスフィルタ或いは高域透過フィルタ)でDC成分をカットされた後に積分され、ロール角度信号に変換される。
ここで、手振れの周波数帯域はおよそ1Hz〜10Hzの間である。そのため、HPFは、例えば手振れの周波数帯域から十分離れた、例えば0.1Hz以下の周波数成分をカットする制御周波数帯域の1次のHPF特性になっている。
HPF積分フィルタ301の出力はロール方向の像振れ補正範囲上下限設定部302に入力される。ロール方向の像振れ補正範囲上下限設定部302では、ロール方向の像振れ補正で撮像素子を回転させることができる指定された範囲内の信号にするために、HPF積分フィルタ301の出力の上下限値を設定する。そして、上限値を超える信号については上限値に、下限値を下回る信号については下限値に設定された信号を生成する。ロール方向の像振れ補正範囲上下限設定部302により求められたロール角度振れ補正目標値を撮像素子回転駆動部112に出力し、撮像素子回転補正部113を駆動することでロール方向の像振れ補正を行う。
以上が、ロール方向の像振れ補正の概略構成である。
次に、傾き補正について説明する。加速度計109からの加速度信号はCPU106に入力される。そして、その加速度計出力はカメラ傾き角度算出部303に入力され、カメラの傾き角度が演算される。
例えば、加速度センサの測定軸のX軸を撮像素子の水平方向に、測定軸のY軸を垂直方向に向くように配置しており、X軸の加速度出力とY軸の加速度出力から撮像光軸周りの傾斜角度であるロール角度を検出する。ここで傾き角度は下記式(1)で算出される。
傾き角度[deg]=arctan(Y軸加速度÷X軸加速度)×180 ÷ π …(1)
カメラ傾き角度算出部303の出力は傾き補正角度補正値算出部304に入力される。傾き補正角度補正値算出部304では、LPF(ローパスフィルタ或いは低域透過フィルタ)などによるノイズ除去処理が行われ、傾き補正量が算出される。傾き補正角度補正値算出部304の出力は、傾き補正範囲上下限設定部305に入力される。傾き補正範囲上下限設定部305では、傾き補正で撮像素子を回転させることができる指定された範囲内の信号にするために、傾き補正角度補正値算出部304の出力の上下限値を設定する。そして、上限値を超える信号については上限値に、下限値を下回る信号については下限値に設定された信号を生成する。傾き補正範囲上下限設定部305により算出された傾き補正目標値を撮像素子回転駆動部112に出力し、撮像素子回転補正部113を駆動することで傾き補正を行う。
以上が、傾き補正の概略構成である。
上記の方法によると、角速度計を用いてロール角度振れ補正が可能であり、加速度計を用いて傾き補正が可能である。しかしながら、ロール角度振れ補正と傾き補正を同時に行うためには、限られた回転補正領域範囲内で両方を同時に制御する必要がある。ロール方向の像振れ補正と傾き補正を同時に行おうとすると、カメラの傾きが大きく傾き補正すべき角度が大きいとき、回転補正範囲の一方向の補正範囲を大きく使ってしまうので、ロール方向の像振れ補正できる領域が狭くなってしまう。それによりロール方向の像振れ補正の効果が劣化し、傾き補正はされていたとしても像ブレした撮影画像を得てしまうことがある。また、ロール振れ量が大きく、ロール方向の像振れ補正すべき角度が大きくなるとき、傾き補正もそのまま行ってしまうと、回転補正範囲が足らなくなってしまうことがある。更に、カメラに生じる手振れが大きいとき、加速度計によって算出した傾きを誤検出してしまっている可能性が高いので、適切な傾き補正が行えないばかりか、像ブレした撮影画像を得てしまうことがある。
そこで、本実施形態では、角速度計108からカメラ揺れ状態を検出するために、ロール角速度計よりロール揺れ状態量を算出し(状態量演算手段)、ピッチとヨー角速度計よりピッチヨー揺れ状態量をそれぞれ算出する。そして、それらの揺れ状態量に応じて、ロール方向の像振れ補正範囲上下限値と傾き補正範囲上下限値(補正上下限値)をそれぞれ設定する。また、同時にHPF積分フィルタ301のフィルタ時定数を変更することで、ロール方向の像振れ補正の制御帯域を変更する。
角速度計108のロール角速度信号は、ロール揺れ状態量算出部306にも入力され、ロール揺れ状態量が算出される。角速度計108のピッチ角速度信号とヨー角速度信号は、ピッチ、ヨー揺れ状態量算出部307に入力され、ピッチ、ヨー揺れ状態量を算出する。
ロール揺れ状態量算出部306とピッチ、ヨー揺れ状態量算出部307における揺れ状態量の算出方法について図4、図5を用いて説明する。
まず、ロール揺れ状態量の算出方法について説明する。図4(a)の401は、ロール角速度信号であり、ロール角速度信号401を絶対値変換した信号が402になる。402の信号をLPFで高周波成分をカットするもしくは、移動平均処理などで所定時間内の平均化処理を行うなどして、図4(b)の403の信号を演算する。これが、ロール揺れ状態量としてロール揺れ状態量算出部306から出力される。これにより、図4(b)の(B)のようにロールの手振れが非常に大きな場合はロール揺れ状態量算出部306の出力値は大きな値で留まるように出力される。また、図4(b)の(D)のようにロールの手振れが非常に小さな場合はロール揺れ状態量算出部306の出力値は小さな値で留まるように出力される。また、図4(b)の(A)や(C)のような中間の揺れの大きさも揺れ量として表すことができる。
次にピッチ、ヨー揺れ状態量の算出方法について説明する。図5(a)の501は、ピッチ角速度信号であり、502はヨー角速度信号である。図5(b)の503は、ピッチ角速度信号501をLPFで高周波成分をカットするもしくは、移動平均処理などで所定時間内の平均化処理を行うなどの信号処理により算出したピッチ揺れ状態量である。また、図5(b)の504は、ヨー角速度信号502をLPFで高周波成分をカットするもしくは、移動平均処理などで所定時間内の平均化処理を行うなどの信号処理により算出したヨー揺れ状態量である。ピッチ揺れ状態量503とヨー揺れ状態量504を加算することで、図5(c)の505の信号を演算し、これがピッチ、ヨー揺れ状態量としてピッチ、ヨー揺れ状態量算出部307から出力される。これにより、図5(c)の(B)のようにピッチもしくはヨーの手振れが非常に大きな場合はピッチ、ヨー揺れ状態量算出部307の出力値は大きな値で留まるように出力される。また、図5(c)の(A)や(C)のようにピッチもしくはヨーの手振れが非常に小さな場合はピッチ、ヨー揺れ状態量算出部307の出力値は小さな値で留まるように出力される。
ロール方向の像振れ補正、傾き補正範囲算出部308でのロール方向の像振れ補正範囲上下限値と傾き補正範囲上下限値それぞれの演算方法を図6、図7を用いて説明する。
図6(a)にはロール揺れ状態量403が、図6(b)にはピッチ、ヨー揺れ状態量505が時系列で表されている。ここで、ピッチ、ヨー揺れ状態量505に係数Kpy(Kpyは1より小さい値に設定される)を乗算した信号と、ロール揺れ状態量403とを加算する。その信号は、図6(c)の601に示す信号となり、揺れ状態量としてロール方向の像振れ補正範囲上下限値と傾き補正範囲上下限値の上下限値の設定に用いる。
ここでロール揺れ状態量403だけでなく、ピッチ、ヨー揺れ状態量505も用いているのは、次のような理由による。即ち、ロール揺れが小さくてもピッチもしくはヨー揺れが大きく手振れ振動による外乱加速度が大きいとき、加速度計から算出される傾き角度の信頼性が低くなる。傾き角度の信頼性が低い場合は、傾き補正は積極的に行いたくない。即ち傾き補正範囲上下限値の上下限値の範囲を狭くしたいため、判定値として用いている。更にここで係数Kpyを用いているのは、ロール揺れに重みを大きく設定するためであり、ロール揺れが大きいときは特にロール方向の像振れ補正範囲を大きくとりたいためである。
次に、図7のようなテーブルによりロール方向の像振れ補正範囲上下限値と傾き補正範囲上下限値をそれぞれ算出する。揺れ状態量601からロール方向の像振れ補正範囲上下限値と傾き補正範囲上下限値を演算するため、図6(c)のTh3、Th2、Th1のように閾値があらかじめ設定されている。そして、揺れ状態量601の出力値の大きさにより、図7のLimit Tableによってロール方向の像振れ補正範囲上下限値と傾き補正範囲上下限値が設定される。701にロール方向の像振れ補正範囲上下限値テーブルを、702に傾き補正範囲上下限値を示す。ここでは、揺れ状態量601の出力値からロール方向の像振れ補正範囲上下限値テーブル701を用いてロール方向の像振れ補正範囲上下限値(上下限幅)を演算する(第1の補正上下限演算)。その後、可動範囲最大値(Li3+Li1)からロール方向の像振れ補正範囲上下限値を減算した値を傾き補正範囲上下限値としている(第2の補正上下限演算)。したがって実際の演算では、ロール方向の像振れ補正範囲上下限値テーブルと傾き補正範囲上下限値テーブルの2つのテーブルをもつ必要はなく、何れか一方のテーブルを用いて、それぞれ演算されることになる。
例えば、揺れ状態量601がTh1に位置している場合は、ロール方向の像振れ補正範囲上下限値はLi1に設定され、傾き補正範囲上下限値はLi3に設定される。また、揺れ状態量601がTh3とTh2の間に位置している場合等はLi3とLi2の間を線形補間した計算結果がロール方向の像振れ補正範囲上下限値として設定される。そして、可動範囲最大値(Li3+Li1)からそのときのロール方向の像振れ補正範囲上下限値を減算した値が傾き補正範囲上下限値に設定される。
このように算出されたロール方向の像振れ補正範囲上下限値と傾き補正範囲上下限値は、ロール方向の像振れ補正範囲上下限値設定部302と傾き補正範囲上下限値設定部305にそれぞれ上下限値として設定される。これにより、ロール揺れ量が大きいときは、ロール方向の像振れ補正範囲が広くなるので、ロール方向の像振れ補正の像振れ補正効果を確保することができる。ピッチ、ヨーもしくはロール揺れ量が大きいときは、手振れ振動による外乱加速度が大きいときであり、加速度計から算出される傾き角度の信頼性が低くなるため、傾き補正範囲を狭くすることで傾き補正の誤制御の悪影響を防ぐこともできる。
また、ロール揺れ量が小さいときは、ロール方向の像振れ補正範囲はそれほど必要としないため、傾き補正範囲を大きくとることで補正可能な幅を広げられる。更に、ロール方向の像振れ補正範囲を狭くしているので角速度計のセンサ出力ノイズや温度変化によるオフセットドリフトなどの低域揺れ影響による傾き補正制御への悪影響も防ぐことができる。更に、ピッチ、ヨーもしくはロール揺れ量が何れも小さいときには、より傾き補正範囲を広げるが、このときは手振れ振動による外乱加速度影響が少ないので、傾き補正演算結果の信頼性は非常に高くなる。以上より、揺れ量によるロール方向の像振れ補正範囲上下限値と傾き補正範囲上下限値の設定は、ロール方向の像振れ補正、傾き補正共に非常に有効となる。
次に、ロール方向の像振れ補正制御パラメータ算出部309について説明する。図8にロール方向の像振れ補正制御パラメータ算出テーブルを示す。横軸にロール方向の像振れ補正範囲上下限値を、縦軸にHPF積分フィルタ301でのHPFカットオフ周波数を示す。ここで、ロール方向の像振れ補正範囲上下限値が大きいとき、即ち積極的にロール方向の像振れ補正を行いたいときは、HPFカットオフ周波数を小さく設定し、像振れ補正制御帯域を広げることでロール振れ像振れ補正制御の効果を高める。ロール方向の像振れ補正範囲上下限値が小さいとき、即ちロール方向の像振れ補正よりも傾き補正の方の制御を積極的に行いたいときは、HPFカットオフ周波数を大きく設定し、像振れ補正制御帯域を狭め、低域周波数帯域におけるゲインを小さくする。これにより、手振れ低域揺れや、角速度計のセンサ出力ノイズや温度変化によるオフセットドリフトなどの低域揺れ影響による画像の傾きを防止できる。以上より、揺れ状態量によるロール方向の像振れ補正制御パラメータの設定は、ロール方向の像振れ補正、傾き補正共に非常に有効となる。
上記の通り第1の実施形態によれば、カメラの揺れ量に応じて、ロール方向の像振れ補正範囲上下限値と傾き補正範囲上下限値とロール方向の像振れ補正制御パラメータを設定する。そのため、制限された補正可動範囲の中でも、ロール振れに基づく像振れ補正と撮像素子の重力方向と垂直な水平面に対する光軸周りの傾きを補正する傾き補正の適切な制御を行うことが可能となる。
(第2の実施形態)
図9は、第2の実施形態に係わるカメラが備える像振れ補正装置及び傾き補正装置であり、第1の実施形態の図3の像振れ補正装置を示すブロック図と同じ部分には同一符号を付けてある。第2の実施形態は、以下の点で第1の実施形態と異なる。
第1の実施形態のように角速度計による揺れ状態量に応じて、ロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値及びロール方向の像振れ補正制御パラメータを設定するのではなく、静止画撮影時においては、シャッター速度と角速度計による揺れ状態量に応じて、ロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値及びロール方向の像振れ補正制御パラメータを設定する。そのため、図4と図9のブロック図の違いは以下の通りである。
(1)シャッター速度情報901が設けられている。
(2)ロール揺れ状態量算出部306の出力とピッチ、ヨー揺れ状態量算出部307とシャッター速度901が入力され、ロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値を演算するロール方向の像振れ補正、傾き補正範囲算出部902が設けられている。言い換えれば、ロール方向の像振れ補正、傾き補正範囲算出部308は外されている。
本実施形態でシャッター速度を用いる理由は以下のとおりである。静止画においてシャッター速度が速い撮影条件下では、ロール方向の像振れ補正を積極的に行わなくてもブレ画像になることはない。よって、シャッター速度が速い撮影条件下では傾き補正範囲上下限範囲を大きくとった方がよい。また、シャッター速度が遅い条件下では、第1の実施形態で説明したとおり、揺れ状態に適切な像振れ補正制御と傾き補正制御を行いたい。
従って、以下の方法でロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値及びロール方向の像振れ補正制御パラメータを設定する。
ロール方向の像振れ補正、傾き補正範囲算出部902での演算以外は、第1の実施形態の図3を用いて説明したとおりであるので、以下はロール方向の像振れ補正、傾き補正範囲算出部902での演算について説明する。
第1の実施形態の図4乃至図6で説明したとおり、角速度計から揺れ状態量505を算出する。ここで、静止画撮影直前にシャッター速度情報901を取得する。ここで、シャッター速度情報901に応じて、揺れ状態量505に乗算するゲインKtvを演算する。図10にゲインKtv算出のテーブル1001を示す。Tv3よりシャッター速度が遅いときは、ゲインは1に設定される。ここでTv3は静止画撮影時においてロール揺れによる撮影画像上のブレ影響が発生しやすいシャッター速度(例えば、シャッター速度1/15程度に設定される)となっている。シャッター速度がTv3よりも速ければ、ゲインKtvは徐々に1よりも小さくなるようにテーブル1001が設定されており、シャッター速度がTv1よりも速いとゲインは(1よりも非常に小さい)Ktv1に設定されることになる。ここでTv1はこれ以上シャッター速度が速くなってもロール揺れによる撮影画像上のブレ影響は発生しにくいシャッター速度(例えば、シャッター速度1/60程度に設定される)となっている。このテーブル1001で算出されたゲインKtvを揺れ状態量601に乗算して、第1の実施形態で図6乃至図8を用いて説明したようにロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値及びロール方向の像振れ補正制御パラメータを設定する。
これにより、シャッター速度が速くロール揺れによる撮影画像上のブレ影響が発生しにくい状況では、ロール方向の像振れ補正よりも傾き補正を優先して制御することができ、傾き補正の効果が十分に確保できる。また、シャッター速度が遅くロール揺れによる撮影画像上のブレ影響が発生しやすい状況では、傾き補正よりもロール方向の像振れ補正を優先して制御することができ、ブレ画像を撮影してしまう確率を低減することができる。
以上より、揺れ状態量とシャッター速度によるロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値及びロール方向の像振れ補正制御パラメータの設定は、ロール方向の像振れ補正、傾き補正共に非常に有効となる。
(第3の実施形態)
図11は、第3の実施形態に係わるカメラが備える像振れ補正装置及び傾き補正装置であり、第1の実施形態の図3の像振れ補正装置を示すブロック図と同じ部分には同一符号を付けてある。第3の実施形態は、以下の点で第1の実施形態と異なる。
第1の実施形態のように角速度計による揺れ状態量に応じて、ロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値及びロール方向の像振れ補正制御パラメータを設定するのではなく、静止画撮影時においては、特定の被写体を検出する主被写体検知情報1101と角速度計による揺れ状態量に応じて、ロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値及びロール方向の像振れ補正制御パラメータを設定する。そのため、図4と図9のブロック図の違いは以下の通りである。
(1)主被写体検知情報1101が設けられている。
(2)ロール揺れ状態量算出部306の出力と、ピッチ、ヨー揺れ状態量算出部307と主被写体検知情報1101が入力され、ロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値を演算するロール方向の像振れ補正、傾き補正範囲算出部1102が設けられている。言い換えれば、ロール方向の像振れ補正、傾き補正範囲算出部308が外されている。
撮影画像において、ロール振れによる画像ブレが画像中心を回転中心としている場合、画像中心(画像中央)からどれくらい距離が離れているか(主被写体位置)に応じて画像ブレ影響が異なってくる。画像中心からの距離が大きくなるにつれて画像ブレも大きくなり、図12の例では、O<X1<X2の順で画像ブレ量が大きくなることになる。
O点を中心にロール振れしている場合の像面上でのブレ量は以下のようになる。
O点での像面上ブレ量[m] =0
X1点での像面上ブレ量[m] =L1[m]×θ[rad]
X2点での像面上ブレ量[m] =L2[m]×θ[rad]
また、被写体距離が遠い場合、ロール振れによる画像ブレの影響は、画像中心を回転中心として現れる。これは、被写体距離が遠いと、撮影光学系の撮影倍率が小さくなることでシフトブレ影響がほとんどなくなることにより、撮影画像上でのロール振れの回転中心はほとんど画像中心となることによるものである。よって、被写体距離が遠く、シフトブレ影響が小さくなる領域においては、撮影画像の中心からどのくらい離れているかによって、その位置でのロール振れによって受けるブレ影響が変化することになる。
次に、主被写体検知結果に応じた判定について説明する。従来より、デジタルカメラに代表される撮像装置において、人物の顔や動体などを検出する被写体検出機能を利用したオートフォーカス(AF)方法が知られている。このAF方法では、まず撮像した画像から主被写体を検出し、検出した主被写体に合焦するように合焦制御を行う。このとき、撮影画像の中で主被写体が像ブレしていないことが望ましい撮影である。
ここで、上記で説明したとおり、被写体距離が遠く、ロール振れの画像ブレへの影響は画像中心を回転中心として現れる場合、主被写体が撮影画像上のどの位置にいるかによって主被写体の像ブレ影響度合いが変わってくる。つまり、主被写体が撮影画像中心に近い場合は、ロールによる像ブレが小さくなるのでロール方向の像振れ補正は積極的に行わず、傾き補正の可動範囲を大きくとった方がよい。また、主被写体が撮影画像中心から遠い場合は、ロールによる像ブレは大きくなるのでロール方向の像振れ補正は積極的に行いたいため、ロール方向の像振れ補正の可動範囲を大きくとった方がよい。よって、揺れ状態と、画像中心から主被写体までの距離に応じてロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値を設定する。
次に、図11を用いてロール方向の像振れ補正、傾き補正の演算方法について説明する。ロール方向の像振れ補正、傾き補正範囲算出部1102での演算以外は、第1の実施形態の図3を用いて説明したとおりであるので、以下ロール方向の像振れ補正、傾き補正範囲算出部1102での演算について説明する。
第1の実施形態の図4乃至図6で説明したとおり、角速度計から揺れ状態量505を算出する。ここで、静止画撮影直前の主被写体検知情報1101を取得する。ここで、主被写体検知情報1101に応じて、揺れ状態量505に乗算するゲインKdiを演算する。
図13にゲインKdi算出のテーブル1301を示す。画像中心から主被写体までの画像上での距離がDi3より大きいときは、ゲインは1に設定される。画像中心から主被写体までの画像上での距離がDi3よりも小さければ、ゲインKdiは徐々に1よりも小さくなるようにテーブル1301が設定されている。そして、画像中心から主被写体までの画像上での距離がDi1よりも小さいとゲインは(1よりも非常に小さい)Kdi1に設定されることになる。ここでDi1はこれ以上主被写体が画像中心に近づいてもロール揺れによる撮影画像上のブレ影響は発生しにくい距離となっている。このテーブル1301で算出されたゲインKdiを揺れ状態量505に乗算して、第1の実施形態で図6乃至図8を用いて説明したようにロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値及びロール方向の像振れ補正制御パラメータを設定する。
これにより、画像中心から主被写体までの画像上での距離が近く、ロール揺れによる撮影画像上での主被写体のブレ影響が発生しにくい状況では、ロール方向の像振れ補正よりも傾き補正を優先して制御することができ、傾き補正の効果が十分に確保できる。また、画像中心から主被写体までの画像上での距離が遠く、ロール揺れによる撮影画像上での主被写体のブレ影響が発生しやすい状況では、傾き補正よりもロール方向の像振れ補正を優先して制御することができる。そのため、主被写体が像ブレした撮影画像を得てしまうことを防ぐことができる。
以上より、揺れ状態量と被写体検知情報によるロール方向の像振れ補正範囲上下限値、傾き補正範囲上下限値及びロール方向の像振れ補正制御パラメータの設定は、ロール方向の像振れ補正、傾き補正共に非常に有効となる。
(第4の実施形態)
図14は、第4の実施形態に係わるカメラが備える像振れ補正装置及び傾き補正装置であり、第1の実施形態の図3の像振れ補正装置を示すブロック図と同じ部分には同一符号を付けてある。第3の実施形態は、以下の点で第1の実施形態と異なる。
第1の実施形態のように回転補正量から撮像素子回転駆動部112を介して撮像素子回転補正部113を駆動することで回転補正を行うのではなく、回転補正量から画像切り出し振れ補正部1401で撮像素子が出力する各撮影フレームの切り出し位置を変更することで振れの影響を軽減させる電子像振れ補正によって回転補正を行う。そのため、図4と図14のブロック図の違いは以下の通りである。
(1)撮像素子回転駆動部112と撮像素子回転補正部113が外され、画像切り出し振れ補正部1401が設けられている。
画像切り出し振れ補正部1401以外は、第1の実施形態の図3を用いて説明したとおりである。画像切り出し振れ補正部1401では、第1の実施形態で説明した方法でロール方向の像振れ補正量、傾き補正量を算出し、合成した回転補正量に応じて、切り出し角度を設定し、切り出し角度を変更することでロール方向の像振れ補正と傾き補正を行う。
以上より、動画撮影時においては、撮像素子を回転させるメカ機構の回転補正手段を持たず、撮像手段からの映像信号を切り出して回転補正することでも、ロール方向の像振れ補正と傾き補正の高精度な補正を同時に行うことができる。
本発明は、デジタル一眼レフカメラやデジタルコンパクトカメラの像振れ補正装置に限らずデジタルビデオカメラの撮影や、監視カメラ、Webカメラ、携帯電話などの撮影装置にも搭載できる。

Claims (13)

  1. 撮影光学系により結像された被写体像を撮像し、画像を取得する撮像素子を有する撮像装置であって、
    前記撮像装置の角速度を検出し、前記撮影光学系の光軸周りのロール方向の振れ角度である第1の角度を演算する第1の演算手段と、
    前記撮影光学系の光軸周りの前記撮像装置の傾きを検出し、前記傾きの角度である第2の角度を演算する第2の演算手段と、
    前記撮像素子又は前記撮像素子で取得された画像を前記光軸周りに回転させる回転補正手段と、
    前記撮像装置の角速度に関する情報に基づいて、前記撮像装置の揺れ状態量を演算する揺れ状態量演算手段と、
    前記第1の角度及び前記第2の角度及び前記揺れ状態量に基づいて、前記撮像装置の振れ補正量及び前記撮像装置の傾き補正量を演算する補正量演算手段と、
    前記振れ補正量及び前記傾き補正量に基づいて、前記撮像装置の振れ及び前記撮像装置の傾きを補正するために前記回転補正手段を制御する制御手段と、を備え、
    前記補正量演算手段は、前記揺れ状態量に基づいて、前記回転補正手段が補正可能な回転補正範囲のうちの前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲及び前記回転補正手段が補正可能な回転補正範囲のうちの前記第2の角度を補正するために割り当てる傾き補正範囲を変更し、変更した前記ロール方向の振れ補正範囲及び前記傾き補正範囲に基づいて、前記撮像装置の振れ補正量及び前記撮像装置の傾き補正量を演算することを特徴とする撮像装置。
  2. 前記補正量演算手段は、前記揺れ状態量が所定値よりも大きい場合の前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲、前記揺れ状態量が前記所定値以下の場合の前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲よりも広くることを特徴とする請求項1に記載の撮像装置。
  3. 前記補正量演算手段は、前記揺れ状態量が所定値よりも大きい場合の前記第2の角度を補正するために割り当てる傾き補正範囲、前記揺れ状態量が前記所定値以下の場合の前記第2の角度を補正するために割り当てる傾き補正範囲よりも狭くることを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記撮像装置の角速度を検出し、前記撮影光学系の光軸と直交する第1の軸周りのヨー方向の振れ角度である第3の角度及び前記撮影光学系の光軸及び前記第1の軸の両軸と直交する第2の軸周りのピッチ方向の振れ角度である第4の角度を演算する第2の演算手段をさらに備え、
    前記揺れ状態量演算手段は、前記第1の角度及び前記第3の角度及び前記第4の角度に基づいて、前記撮像装置の揺れ状態量を演算することを特徴とする請求項1乃至3の何れか1項に記載の撮像装置。
  5. 補正量演算手段は、ャッター速度にさらに基づいて、前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲及び前記第2の角度を補正するために割り当てる傾き補正範囲を変更することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記補正量演算手段は、前記シャッター速度が所定値よりも速い場合の前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲、前記シャッター速度が前記所定値以下の場合の前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲よりも狭くることを特徴とする請求項5に記載の撮像装置。
  7. 前記補正量演算手段は、前記シャッター速度が所定値よりも速い場合の前記第2の角度を補正するために割り当てる傾き補正範囲が、前記シャッター速度が前記所定値以下の場合の前記第2の角度を補正するために割り当てる傾き補正範囲よりも広くなるように制御することを特徴とする請求項5又は6に記載の撮像装置。
  8. 前記撮像素子の出力である画像に含まれる特定の被写体の撮影画面内の位置を主被写体位置として検出する検出手段をさらに備え、
    前記補正量演算手段は、前記主被写体位置にさらに基づいて、前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲及び前記第2の角度を補正するために割り当てる傾き補正範囲を変更することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  9. 前記補正量演算手段は、前記主被写体位置が画像中央に近い場合の前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲、前記主被写体位置が画像中央よりも遠い場合の前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲よりも狭くることを特徴とする請求項8に記載の撮像装置。
  10. 前記補正量演算手段は、前記主被写体位置が画像中央に近い場合の前記第2の角度を補正するために割り当てる傾き補正範囲、前記主被写体位置が画像中央よりも遠い場合の前記第2の角度を補正するために割り当てる傾き補正範囲よりも狭くることを特徴とする請求項8又は9に記載の撮像装置。
  11. 光学系により結像された被写体像を撮像し、画像を取得する撮像素子を有する撮像装置の制御方法であって、
    前記撮像装置の角速度を検出し、前記撮影光学系の光軸周りのロール方向の振れ角度である第1の角度を演算する第1の演算ステップと、
    前記撮影光学系の光軸周りの前記撮像装置の傾きを検出し、前記傾きの角度である第2の角度を演算する第2の演算ステップと、
    前記撮像素子又は前記撮像素子で取得された画像を前記光軸周りに回転させる回転補正ステップと、
    前記撮像装置の角速度に関する情報に基づいて、前記撮像装置の揺れ状態量を演算する揺れ状態量演算ステップと、
    前記第1の角度及び前記第2の角度及び前記揺れ状態量に基づいて、前記撮像装置の振れ補正量及び前記撮像装置の傾き補正量を演算する補正量演算ステップと、
    前記振れ補正量及び前記撮像装置の傾き補正量に基づいて、前記撮像装置の振れ及び前記撮像装置の傾きを補正するために前記回転補正ステップを制御する制御ステップと、を備え、
    前記補正量演算ステップでは、前記揺れ状態量に基づいて、前記回転補正ステップで補正可能な回転補正範囲のうちの前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲及び前記回転補正ステップで補正可能な回転補正範囲のうちの前記第2の角度を補正するために割り当てる傾き補正範囲を変更し、変更した前記ロール方向の振れ補正範囲及び前記傾き補正範囲に基づいて、前記撮像装置の振れ補正量及び前記撮像装置の傾き補正量を演算することを特徴とする撮像装置の制御方法。
  12. 補正量演算ステップでは、ャッター速度にさらに基づいて、前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲及び前記第2の角度を補正するために割り当てる傾き補正範囲を変更することを特徴とする請求項11に記載の撮像装置の制御方法。
  13. 前記撮像素子の出力である画像に含まれる特定の被写体の撮影画面内の位置を主被写体位置として検出する検出ステップをさらに備え、
    前記補正量演算ステップでは、前記主被写体位置にさらに基づいて、前記第1の角度を補正するために割り当てるロール方向の振れ補正範囲及び前記第2の角度を補正するために割り当てる傾き補正範囲を変更することを特徴とする請求項11に記載の撮像装置の制御方法。
JP2012199918A 2012-09-11 2012-09-11 撮像装置およびその制御方法 Active JP6105880B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012199918A JP6105880B2 (ja) 2012-09-11 2012-09-11 撮像装置およびその制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012199918A JP6105880B2 (ja) 2012-09-11 2012-09-11 撮像装置およびその制御方法

Publications (3)

Publication Number Publication Date
JP2014056057A JP2014056057A (ja) 2014-03-27
JP2014056057A5 JP2014056057A5 (ja) 2015-09-17
JP6105880B2 true JP6105880B2 (ja) 2017-03-29

Family

ID=50613421

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012199918A Active JP6105880B2 (ja) 2012-09-11 2012-09-11 撮像装置およびその制御方法

Country Status (1)

Country Link
JP (1) JP6105880B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6507626B2 (ja) * 2014-12-19 2019-05-08 アイシン精機株式会社 車両周辺監視装置
JP6362556B2 (ja) 2015-02-26 2018-07-25 キヤノン株式会社 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP6477275B2 (ja) * 2015-06-12 2019-03-06 リコーイメージング株式会社 撮像装置
JP6579609B2 (ja) * 2015-07-13 2019-09-25 オリンパス株式会社 カメラシステム、そのブレ補正方法、及びカメラボディ
CN109716227A (zh) * 2016-09-16 2019-05-03 松下知识产权经营株式会社 致动器和相机设备
WO2019131930A1 (ja) 2017-12-27 2019-07-04 富士フイルム株式会社 像ぶれ補正装置、撮像装置、像ぶれ補正方法、及び像ぶれ補正プログラム
KR102521656B1 (ko) 2018-01-03 2023-04-13 삼성전자주식회사 객체를 인식하는 방법 및 장치
JP2019128028A (ja) * 2018-01-26 2019-08-01 株式会社リコー 振動抑制装置、振動抑制方法および電子機器
JP7187184B2 (ja) * 2018-06-21 2022-12-12 キヤノン株式会社 撮像装置及び撮像装置の制御方法
JP2021100238A (ja) * 2019-12-20 2021-07-01 キヤノン株式会社 画像処理装置、撮像装置および画像処理方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5093666B2 (ja) * 2008-02-22 2012-12-12 住友電気工業株式会社 リチウム電池
JP5439734B2 (ja) * 2008-03-31 2014-03-12 リコーイメージング株式会社 撮像装置

Also Published As

Publication number Publication date
JP2014056057A (ja) 2014-03-27

Similar Documents

Publication Publication Date Title
JP6105880B2 (ja) 撮像装置およびその制御方法
JP6614810B2 (ja) ブレ補正装置、撮像装置、ブレ補正方法
JP5956749B2 (ja) 防振制御装置及びその制御方法、及び撮像装置
JP5181001B2 (ja) 像振れ補正装置及びその制御方法、及び、像振れ補正装置を搭載した撮像装置及び光学機器
JP5917133B2 (ja) 防振制御装置、防振制御方法、光学機器、撮像装置
JP4789614B2 (ja) 防振制御装置およびその制御方法
JP5111306B2 (ja) 像ブレ補正機能を有する光学機器及びその制御方法
JP6362556B2 (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP4994756B2 (ja) 防振制御装置およびそれを備えた光学機器、撮像装置、また防振制御装置の制御方法
JP5913960B2 (ja) 防振制御装置及びその制御方法、及び撮像装置
JP5977611B2 (ja) ブレ量検出装置、撮像装置及びブレ量検出方法
JP2010054883A (ja) 防振制御装置および撮像装置
JP5631063B2 (ja) 傾き検出装置、振れ補正装置、撮像装置およびその傾き検出方法
JP6250446B2 (ja) 画像処理システム、画像処理装置、画像処理方法及びプログラム
JP6024031B2 (ja) ブレ補正装置及び光学機器
JP4305723B2 (ja) 像振れ補正装置
JP2012163852A (ja) ブレ補正装置及び光学機器
JP2014041230A (ja) 像ブレ補正機能を有する光学機器及びその制御方法
JP2023035381A (ja) 像ブレ補正装置、撮像システム、カメラ本体、像ブレ補正装置の制御方法およびプログラム
JP2012173301A (ja) ブレ補正装置及び光学機器
JP2015028547A (ja) 撮像装置
JP6448709B2 (ja) 像振れ補正装置および像振れ補正方法、撮像装置、並びに光学機器
JPH09284637A (ja) 手振れ補正方法およびそれを用いたビデオカメラ
JP2012123261A (ja) 防振制御装置
JP6108717B2 (ja) 光学機器およびそれを備えた撮像装置、光学機器の制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150803

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150803

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160627

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160701

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161024

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170203

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170303

R151 Written notification of patent or utility model registration

Ref document number: 6105880

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151