JP2005351984A - ブレ補正装置、およびカメラシステム - Google Patents

ブレ補正装置、およびカメラシステム Download PDF

Info

Publication number
JP2005351984A
JP2005351984A JP2004170380A JP2004170380A JP2005351984A JP 2005351984 A JP2005351984 A JP 2005351984A JP 2004170380 A JP2004170380 A JP 2004170380A JP 2004170380 A JP2004170380 A JP 2004170380A JP 2005351984 A JP2005351984 A JP 2005351984A
Authority
JP
Japan
Prior art keywords
reference value
image
blur correction
frame rate
vibration
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004170380A
Other languages
English (en)
Other versions
JP4595394B2 (ja
Inventor
Hiroyuki Tomita
博之 富田
Takeshi Matsumoto
豪 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2004170380A priority Critical patent/JP4595394B2/ja
Priority to EP05012157A priority patent/EP1605691A3/en
Priority to US11/144,657 priority patent/US7522188B2/en
Publication of JP2005351984A publication Critical patent/JP2005351984A/ja
Application granted granted Critical
Publication of JP4595394B2 publication Critical patent/JP4595394B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Adjustment Of Camera Lenses (AREA)
  • Studio Devices (AREA)

Abstract

【課題】 フレームレートFが大きく変化しても、安定確実な防振性能を得られるブレ補正装置を提供することを目的とする。
【解決手段】 本発明のブレ補正装置は、ブレ補正機構、振動検出部、基準値生成部、目標駆動位置演算部、および駆動部を備える。ブレ補正機構は、撮像部と被写体光束の位置関係を変位させる。振動検出部は振動検出信号を出力する。基準値生成部は、振動検出信号の基準値を推定する。目標駆動位置演算部は、振動検出信号から基準値を減算した振動成分に基づいて目標駆動位置を求める。駆動部は、ブレ補正機構を目標駆動位置に追従制御する。さらに、基準値生成部は、フィードバック経路およびゲイン変更部を備える。このフィードバック経路では、撮像画像の画像動き信号を情報取得し、画像動き信号を基準値にフィードバックして基準値を修正する。ゲイン変更部は、撮像画像のフレームレートFに応じて画像動き信号のフィードバックゲインGを変更する。
【選択図】 図1

Description

本発明は、撮像面における被写体像の像面ブレを光学的に補正するブレ補正装置、およびカメラシステムに関する。
従来、手振れなどによる被写体像の像面ブレを、撮影レンズ内のブレ補正光学系を使用して光学的に補正する技術が知られている。
この種の従来技術では、まず、カメラ(撮影レンズも含む)の振動を角速度センサによって検出する。カメラは、この角速度に基づいて、被写体像の像移動を打ち消すために必要なブレ補正光学系の位置(以下『目標駆動位置』という)を決定し、ブレ補正光学系をこの目標駆動位置に追従させる。
また、下記の特許文献1および特許文献2には、ビデオカメラにおいて像面ブレを抑制する関連技術が開示されている。このビデオカメラは、撮像画像から画像動き信号を検出する。次に、ビデオカメラは、この画像動き信号を補間してサンプリングレートを上げる。ビデオカメラは、補間した画像動き信号を、高速に更新される目標駆動位置にフィードバックすることにより、光学的ブレ補正の防振性能を高める。
特開平10−322585号公報(図1) 特開平10−145662号公報(図1,図3)
[従来技術の問題点]
ところで、光学的ブレ補正では、角速度センサのセンサ出力に含まれるDCオフセットやドリフトが問題となる。被写体像の像面ブレを正確に追跡するには、角速度センサのセンサ出力から、これらの余分な成分を除かなければならない。
しかしながら、これらの成分は、角速度センサの温度や使用条件の影響を受けて敏感に変動する。そのため、工場出荷時におけるセンサ静止時の実測データを元にして、使用時のオフセットやドリフトを打ち消すことはできない。
そこで、角速度センサの使用時の出力から、DCオフセットやドリフトを分離抽出する方法が従来実施されていた。
すなわち、人間の手振れは、2〜7Hz程度の周波数成分が支配的である。一方、角速度センサの静止時出力は、およそ1Hz未満の周波数成分が支配的である。そこでローパスフィルタを使用して、角速度センサのセンサ出力から1Hz未満の低域成分を抽出することにより、DCオフセットおよびドリフトが推定できる。
このように推定されるDCオフセットおよびドリフトを、センサ出力の基準値として、センサ出力から除去(減算)することにより、真の振動成分を求めることができる。
しかしながら、この従来手法では、低域成分の抽出に種々の誤差が含まれる。例えば、センサ出力から1Hz未満の低域成分を抽出するためには、相当長期間にわたって過去のセンサ出力を平均化する必要があり、低域成分には大幅な時間遅れが発生する。そのため、現時点におけるDCオフセットおよびドリフトをリアルタイムに求めることができない。また、抽出される低域成分には、完全に除去し切れない振動成分が残存する。
このような誤差を含む低域成分を、センサ出力の基準値としてセンサ出力から減算した場合、得られる真の振動成分に誤差が混入してしまう。
この誤差の混入した振動成分を打ち消すようにブレ補正を行った場合、誤差分によって像面がドリフト移動したり、振動を生じるようになる。
以上説明した理由から、光学的ブレ補正の防振性能は、センサ出力の基準値を如何に正確に求めるかにかかっている。
[特許文献1および特許文献2の問題点]
ところで、特許文献1および特許文献2に開示される関連技術では、画像動き信号を、光学系の目標駆動位置にフィードバックしている(これは、基準値に画像動き信号をフィートバックする本発明とは、フィードバック経路の構成が大きく異なる)。
このような特許文献1および特許文献2の制御方式を、電子スチルカメラに適用する場合、次のような問題[1][2]が具体的に生じる。
[1] まず、電子スチルカメラでは、レリーズ前の期間、モニタ表示用の撮像画像などから画像動き信号を得る。この場合の平均的な撮像間隔(例えば、30フレーム/秒)は、一般的なビデオカメラの撮像間隔(例えばNTSCでは60フィールド/秒)に比べて数倍〜数十倍も長い。すなわち、電子スチルカメラでは、画像動き信号のサンプル間隔がビデオカメラに比べて粗くなるケースが多い。この粗い画像動き信号を目標駆動位置にフィードバックする従来方式では、帰還経路に生じるむだ時間が無視できなくなり、目標駆動位置の追従性能や制御安定性が著しく低くなり、最悪の場合は発振してしまう。そのため、充分な防振性能を得ることが難しい。
[2] さらに、特許文献1および特許文献2では、目標駆動位置の更新間隔に合わせるため、画像動き信号を外延予測して補間値を生成している。
電子スチルカメラでは、サンプル間隔の粗い画像動き信号を扱うため、この種の外延予測では、非連続な補間誤差がビデオカメラよりも大きくなる。この補間誤差は、目標駆動位置の制御誤差にそのまま反映されるため、防振性能が著しく低下する。
なお補足として、特許文献1および特許文献2では、画像動き信号のフィードバック経路にハイパスフィルタを設けている。そのため、ドリフトやオフセットに相当する低域成分は、このハイパスフィルタによってカットされる。そのため、特許文献1および特許文献2では、低域のドリフトやオフセットを現実的に修正することは不可能である。
[画像動き信号に関する問題点]
電子スチルカメラでは、被写界の明るさに応じて、撮像画像(いわゆるスルー画など)の露光時間が敏感に変化する。そのため、撮像画像のフレームレートFが、例えば10〜60フレーム/秒と変化する。そのため、一定した画像動き信号を定常的に得ることはできず、画像動き信号の質が大きく変化する。そのため、画像動き信号のフィートバックによって、防振性能が著しく低下してしまうといったケースが懸念される。
そこで、本発明の目的は、上述した問題点に鑑みて、フレームレートFが大きく変化しても、安定確実な防振性能を得られるブレ補正装置を提供することを目的とする。
《請求項1》
請求項1のブレ補正装置は、カメラの撮像部における被写体像の像面ブレを補正するブレ補正装置であって、ブレ補正機構、振動検出部、基準値生成部、目標駆動位置演算部、および駆動部を備える。
ブレ補正機構は、撮像部と被写体像を形成する光束との相対位置を変更する。
振動検出部は、カメラの振動を検出して振動検出信号を出力する。
基準値生成部は、振動検出信号に基づいて、振動検出信号の基準値(振動のない静止状態における振動検出部の出力)を推定する。
目標駆動位置演算部は、振動検出信号と、推定された基準値との差から、像面ブレの原因となる振動成分を求め、振動成分に基づいてブレ補正機構の目標駆動位置を求める。
駆動部は、ブレ補正機構を目標駆動位置に追従制御する。
上記構成において、基準値生成部は、フィードバック経路、およびゲイン変更部を備える。
このフィードバック経路では、カメラの撮像画像を解析して得られる画像動き信号を情報取得し、画像動き信号を基準値にフィードバックして、基準値を修正する。
一方、ゲイン変更部は、撮像画像のフレームレートの変更に応じて、フィードバック経路における画像動き信号のフィードバックゲインGを変更する。
《請求項2》
請求項2のブレ補正装置は、請求項1のブレ補正装置において、ゲイン変更部が、フレームレートの減少に従って、フィードバックゲインGを下げることを特徴とする。
《請求項3》
請求項3のブレ補正装置は、請求項2のブレ補正装置において、ゲイン変更部は、フレームレートの減少に従って、フィードバックゲインGを下げる傾きを緩やかにすることを特徴とする。
《請求項4》
請求項4のブレ補正装置は、請求項1ないし請求項3のいずれか1項のブレ補正装置において、ゲイン変更部は、予め定めた閾値よりもフレームレートが低くなると、フィードバックゲインGをゼロにすることを特徴とする。
《請求項5》
請求項5のブレ補正装置は、請求項1のブレ補正装置において、ゲイン変更部は、フィードバックゲインGを、下式に従って設定する
G=a・F+b(ただし、a,bは定数)
ことを特徴とする。
《請求項6》
請求項6のカメラシステムは、請求項1ないし請求項5のいずれか1項のブレ補正装置と、ブレ補正装置を用いて、光学的ブレ補正を実施するカメラとを備えたことを特徴とする。
(請求項1)
本発明では、カメラの撮像画像を解析して得られる画像動き信号を用いて、振動検出信号の基準値を修正する。
一般に、この基準値に誤差があると、振動成分の検出誤差となって撮像画像に残存ブレを生じる。本発明では、この撮像画像の残存ブレを画像動き信号として検出し、この画像動き信号を用いて基準値を修正する。このようなフィードバック作用により、基準値の誤差を抑圧することができる。
このように基準値が正確になることで、振動検出部から振動成分の値を正確に求めることが可能になり、光学的ブレ補正の防振性能を一段と高めることができる。
特に、本発明がフィードバック先として選んだ基準値は、更新間隔の短い目標駆動位置に比べて、はるかに低域中心の信号である。そのため、サンプリング間隔の粗い画像動き信号をフィードバックしても、制御系に過度な行き過ぎが生じるおそれは少なく、安定かつ適正な制御応答が実現できる。
さらに、本発明者は、撮像画像のフレームレートの変化によって、画像動き信号のフィードバック効果(基準値修正の正確さや収束速さ)が影響を受けることに気が付いた。
この知見に基づいて、請求項1のブレ補正装置では、撮像画像のフレームレートの情報を得て、そのフレームレートの変更に応じて、『基準値にフィードバックする画像動き信号のゲイン』を変更する機能を追加している。
このゲイン変更の機能により、フレームレートの変化に応じてフィードバックゲインGを適正に変更することが容易になった。その結果、フレームレートが大きく変化しても、基準値修正の誤差や収束遅れを抑えることに成功し、安定確実な防振性能を得ることが可能になった。
(請求項2)
請求項2のブレ補正装置は、フレームレートの減少に従って、『基準値にフィードバックする画像動き信号のゲインG』を下げる。
(以下、像面ドリフトに対する効果)
例えば、像面が一方向かつ一様にドリフト移動している場合、フレームレートが減少すると、コマとコマの間に現れるドリフト変位が大きくなり、フレームレートの減少に逆比例する形で画像動き信号のレベルが増大する。
この場合、フレームレートの減少に逆比例して、画像動き信号のフィードバック量が実質的に増大する。このフィードバック量の増加によって、基準値修正に行き過ぎ(オーバーシュート,アンダーシュート)が生じやすくなり、基準値の収束が遅くなる。この基準値の収束遅れが原因となって、ブレ補正の防振性能が低下してしまう。
更にフレームレートが減少して画像動き信号のフィードバック量がシステムのゲイン余裕を超えてしまうと、不安定状態となって基準値が発散し、ブレ補正自体が制御不能に陥ってしまう。
そこで、請求項2のブレ補正装置は、フレームレートの減少に従って、『基準値にフィードバックする画像動き信号のゲインG』を下げる。この動作により、フレームレートの減少に伴う、画像動き信号のフィードバック量の増加を抑えることが可能になる。
なお好ましくは、フレームレートの減少に比例するように、フィードバックゲインGを下げる。このような比例変化では、フレームレートの減少に伴う、画像動き信号のフィードバック量の増加を打ち消すことができる。
これらの動作により、フレームレート減少に伴う基準値修正の行き過ぎを抑え、基準値の収束を速めることができる。また、フレームレートが極端に減少しても基準値が発散し難くなるため、ブレ補正に対応可能なフレームレートの下限を引き下げ、低照度の撮影条件におけるブレ補正の安定性を一段と高めることもできる。
(請求項3)
請求項3のブレ補正装置は、フレームレートの減少に従って、フィードバックゲインGの下がる傾きを緩やかにする。
(以下、フレームレートが像面振動に拮抗した状態の現象)
一例として、像面振動が生じている状態を考える。このとき、フレームレートが充分に高ければ、像面振動の端(ピーク位置)を的確に撮像し、像面振動の幅を正確に検出できる。
一方、フレームレートが減少してこの像面振動の倍周波数に近づくと、像面振動のピーク位置からずれて撮像する可能性が高くなり、像面振動の幅が少なめに検出される。
そのため、フレームレートの減少に比例して、フィードバックゲインGを単に下げた場合、画像動き信号のフィードバック量が実質少なくなってしまう。この場合、基準値修正は不足制動に近づき、基準値の収束が遅くなる。
そこで、請求項3のブレ補正装置では、フレームレートの減少に従って、フィードバックゲインGの下がる傾きを緩やかにする(つまり比例減少より下がらないように徐々に持ち上げる)。その結果、画像動き信号のフィードバック量の不足を補い、基準値の収束を速くすることが可能になる。
(請求項4)
請求項4のブレ補正装置は、予め定めた閾値よりもフレームレートが低くなると、フィードバックゲインGをゼロにする。
(以下、像面振動に対してフレームレートが顕著に減少した状態の現象)
一例として、像面振動が生じている状態を考える。このとき、フレームレートが充分に高ければ、像面振動を的確にサンプリングして検出することができる。
一方、フレームレートが顕著に減少してこの像面振動の倍周波数を更に下回ると、サンプリング定理から明らかなように、像面振動をサンプリング画像から検出できなくなる。この場合、画像動き信号には、低域折り返しによる偽振動成分が発生する(例えば、映画で車輪が逆回転して見えるような現象)。
この偽振動成分を含んだ状態で画像動き信号をフィードバックすると、偽振動成分が基準値に混入してしまう。この偽振動成分は目標駆動位置にそのまま反映されてしまうため、ブレ補正の防振性能が低下する。
そこで、請求項4のブレ補正装置では、予め定めた閾値よりもフレームレートが低くなると、フィードバックゲインGをゼロにする。ここでのゼロは、実質ゼロという意味であり、制御動作として無視できるほどに小さい値という意味である。
このようにフレームレートに従ってフィードバックゲインGをゼロにすることにより、基準値への偽振動成分の混入を防止することができる。その結果、偽振動成分による防振性能の低下を防止することができる。
(以下、フレームレートが顕著に減少した状態の一般的な現象)
フレームレートが顕著に減少すると、撮像画像のコマ間における画像の動きが粗くなり、像面の振動幅や振動方向の連続性が目立って失われる。この状態では、画像の動き解析におけるパターンマッチング等に誤りが生じやすくなり、画像動き信号の信頼性は顕著に低下する。
そこで、請求項4のブレ補正装置では、予め定めた閾値よりもフレームレートが低くなると、フィードバックゲインGをゼロにする。このようにフィードバックゲインGをゼロにすることにより、信頼性の低い画像動き信号が基準値に混入する事態を避けることができる。その結果、防振性能の低下を防ぐことができる。
(請求項5)
請求項5のブレ補正装置は、フィードバックゲインGを、下式に従って設定する。
G=a・F+b ・・・(※1)
(ただし、a,bは正の定数、Fは撮像画像のフレームレート)
仮にフレームレートFがある程度大きければ、下式の近似式が成り立つ。
G/F=a+b/F≒a ・・・(※2)
つまり、フレームレートFが大きければ、フィードバックゲインGは、比例定数aでフレームレートFにほぼ比例するように変化する。
したがって、像面ドリフト時に、画像動き信号がフレームレートFに逆比例変化するという現象を、このフレームレートFとフードバックゲインGの略比例動作によって抑制することが可能になる。
一方、フレームレートFがゼロに近づくと、(※1)式のフィードバックゲインGは、ゼロではなく、下限ゲインbに最終的に至る。つまり、フレームレートFが低くなっても、フィードバックゲインGは下限ゲインbに止まり、フィードバックゲインGの過剰な低下を防止する。
その結果、フレームレートFの低下に従って、像面振動の端(ピーク位置)を捉えられずに画像動き信号のフィードバック量が不足するという現象を、下限ゲインbの設定で補うことができる。
その結果、簡易な計算式(※1)でありながら、上述した請求項2および請求項3の両方を合わせたに近い効果を得ることができる。
(請求項6)
請求項6のカメラシステムは、請求項1ないし請求項5のいずれか1項のブレ補正装置を備える。したがって、画像動き信号による正確な基準値修正が可能となり、一段と高いブレ防振性能を有したカメラシステムが実現する。
[実施形態の構成説明]
図1は、光学的ブレ補正の機構を有するカメラシステム190(撮影レンズ190aおよびブレ補正装置を含む)を示す図である。なお、実際のカメラシステム190は、水平および垂直の2軸方向について像面ブレを補正する。しかしながら、図1では、説明を簡明にするため、光学的ブレ補正の機構を1軸分のみ記載している。
以下、図1を参照して、各部の構成について説明する。
角速度センサ10は、カメラシステム190の振動を、コリオリ力などにより角速度として検出する。増幅部20は、角速度センサ10の出力を増幅する。なお、センサ出力の高周波ノイズを低減させることを目的として、ローパスフィルタを付加してもよい。A/D変換部30は、増幅部20の出力をデジタルの角速度データに変換する。
基準値演算部40は、A/D変換部30から出力される角速度データから低域成分を抽出して、角速度の基準値(振動のない静止状態における角速度データ)を推定する。さらに、基準値演算部40は、後述する画像動きベクトルのフィードバック経路を用いて、この基準値を修正する。
目標駆動位置演算部50は、角速度データから基準値を減算することにより、像面ブレの原因となる真の角速度を求める。目標駆動位置演算部50は、この真の角速度を積分することによって、撮影レンズ190aの光軸角度を求める。目標駆動位置演算部50は、この光軸角度に基づいて、目標駆動位置を決定する。この目標駆動位置は、この光軸角度における被写体像の変位を打ち消すブレ補正光学系100の位置である。
なお、目標駆動位置演算部50は、この目標駆動位置の決定に、焦点距離情報120、撮影倍率情報130、およびブレ補正光学系100の光学情報140を使用する。この焦点距離情報120は、撮影レンズ190aのズーム環のエンコーダ出力などから随時に得られる情報である。撮影倍率情報130は、撮影レンズ190aのレンズ位置やAF駆動機構から随時に得られる情報である。また、ブレ補正光学系100の光学情報140は、ブレ補正係数(ブレ補正係数=レンズ移動量に対する像移動量/レンズ移動量)であり、予め撮影レンズ190a内に格納されるデータである。
さらに、撮影レンズ190aには位置検出部90が設けられ、ブレ補正光学系100の位置検出を行う。この位置検出部90は、赤外線LED92、PSD(位置検出素子)98、およびスリット板94を備える。赤外線LED92の光は、ブレ補正光学系100の鏡筒102に設けられたスリット板94のスリット穴96を通過して細い光束となる。この光束は、PSD98に到達する。PSD98は、この光束の受光位置を信号出力する。この信号出力をA/D変換部110を介してデジタル変換することにより、ブレ補正光学系100の位置データが得られる。
駆動信号演算部60は、この位置データと目標駆動位置との偏差を求め、この偏差に応じて駆動信号を算出する。例えば、この駆動信号の演算は、偏差の比例項、積分項、および微分項を所定比率で足し合わせるPID制御が実施される。
ドライバ70は、求めた駆動信号(デジタル信号)に応じて、駆動電流を駆動機構80に流す。
駆動機構80は、ヨーク82、マグネット84、コイル86から構成される。コイル86は、ブレ補正光学系100の鏡筒102に固定された状態で、ヨーク82とマグネット84からなる形成される磁気回路内に配置される。ドライバ70の駆動電流をこのコイル86に流すことにより、ブレ補正光学系100を光軸と直交する向きに動かすことができる。
ブレ補正光学系100は、撮影レンズ190aの結像光学系の一部である。このブレ補正光学系100を目標駆動位置まで動かして、被写体像の結像位置をシフトさせることにより、被写体像の像面ブレを抑制できる。
一方、この撮影レンズ190aの像空間には、撮像素子150の撮像面が設けられる。この撮像素子150は、撮像面に形成される被写体像を撮像する。撮像画像は、不図示のモニタ画面に表示される他、動きベクトル検出部160へ出力される。
動きベクトル検出部160は、撮像画像の時間軸方向の動きを検出することにより、残存ブレを含む画像動きベクトルを検出する。動きベクトル変換部170は、焦点距離情報120および撮影倍率情報130を用いて、この画像動きベクトルを基準値と同一スケールに換算する。この画像動きベクトルは、ゲイン変更部220を経て、フィードバックベクトルに変換され、前述した基準値演算部40の基準値にフィードバックされる。
なお、ゲイン変更部220は、このフィードバックゲインGを、フレームレート変更部210から情報取得する撮像画像のフレームレートFに応じて変更する。
[発明との対応関係]
以下、発明と本実施形態との対応関係について説明する。なお、ここでの対応関係は、参考のために一解釈を例示するものであり、本発明を徒らに限定するものではない。
請求項記載のブレ補正機構は、ブレ補正光学系100に対応する。
請求項記載の振動検出部は、角速度センサ10に対応する。
請求項記載の基準値生成部は、基準値演算部40、ゲイン変更部220および動きベクトル変換部170に対応する。
請求項記載の目標駆動位置演算部は、目標駆動位置演算部50に対応する。
請求項記載の駆動部は、駆動信号演算部60、ドライバ70、駆動機構80、および位置検出部90に対応する。
請求項記載のフィードバック経路は、動きベクトル検出部160、動きベクトル変換部170、ゲイン変更部220を経由して、画像動きベクトルを基準値にフィードバックする経路に対応する。
請求項記載のゲイン変更部は、ゲイン変更部220に対応する。
請求項記載のカメラシステムは、カメラシステム190に対応する。
請求項記載の画像動き信号は、画像動きベクトルの成分に対応する。
[画像動きベクトルの計算処理]
図2は、光学的ブレ補正の動作タイミングを説明する図である。
図3は、画像動きベクトルの計算手順を示す流れ図である。
以下、図3を参照して、画像動きベクトルの計算手順を説明する。
ステップS1: 撮像素子150は、読み出しラインの数を間引くことにより、撮像画像を連続的に読み出す。これらの撮像画像は、モニタ表示用や、露出や焦点制御やホワイトバランス調整の制御用、動画記録用といった用途に使用される。
フレームレート変更部210は、これら撮像画像のフレームレートFを10〜60フレーム/秒の範囲で増減変更することにより、撮像画像1コマ毎の露光時間をコントロールし、撮像素子150の出力信号レベルを所定の適正範囲に維持する。
その結果、低輝度被写体に対しては、1コマ当たりの露光時間が長めに設定され、撮像画像のフレームレートFが小さくなる。
逆に、高輝度被写体に対しては、1コマ当たりの露光時間が短めに設定され、撮像画像のフレームレートFが大きくなる。
図2では、このような被写体の輝度変化に伴って、撮像画像のフレームレートFが時間間隔Timg1から時間間隔Timg2へ途中から変化している。
ステップS2: 動きベクトル検出部160は、撮像画像のフレーム間差などから画像の動きベクトルを求める。このような画像動きベクトルの検出方法としては、時空間勾配法やブロックマッチング法などの方法がある。
ステップS3: 動きベクトル変換部170は、撮影レンズ190aの焦点距離情報120を情報取得する。
ステップS4: 動きベクトル変換部170は、撮影レンズ190aの撮影倍率情報130を情報取得する。
ステップS5: 動きベクトル検出部160が出力する画像動きベクトルは、画像上の変位の情報である。そこで、動きベクトル変換部170は、画像動きベクトルを、基準値と同じ角速度のスケールに換算する。例えば、下記の換算式が使用される。
Figure 2005351984
ただし、Vは換算前の画像動きベクトル、V′は換算後の画像動きベクトル、fは焦点距離、βは撮影倍率、およびZは撮像素子150の画素間隔に対応した定数である。
以上のような画像動きベクトルの計算処理は、図2に示すように、個々の撮像時点から、計算時間Tcalだけ遅れて完了する。
ステップS6: ゲイン変更部220は、フレームレート変更部210から現時点のフレームレートFを情報取得する。ゲイン変更部220は、所定の変換式または対応関係に基づいて、このフレームレートFに対応するフィードバックゲインGを決定する。この変換式または対応関係の詳細については後述する。
ステップS7: ゲイン変更部220は、動きベクトル変換部170から出力される画像動きベクトルV′にフィードバックゲインGを乗じて、フィードバックベクトルGV′を算出する。
ステップS8: ゲイン変更部220は、基準値修正用に保持するフィードバックベクトルを、ステップS7で求めた最新のフィードバックベクトルGV′に更新する。この更新動作の完了後、ゲイン変更部220はステップS1に動作を戻す。
[ブレ補正の動作説明]
図4は、光学的ブレ補正の制御動作を示す流れ図である。
次に、図4を用いて、光学的ブレ補正の制御動作について説明する。
ステップS11: A/D変換部30は、角速度センサ10の角速度出力を、サンプリング間隔ToptでA/D変換する。
ステップS12: 基準値演算部40は、A/D変換後の角速度データに対して移動平均やローパスフィルタ処理を施し、角速度データの基準値Woを推定する。
ステップS13: 基準値演算部40は、ゲイン変更部220から、更新されたフィードバックベクトルGV′を情報取得し、基準値Woを下式に従って修正する。
Wo′=Wo−Gv′ ・・・(2)
ただし、Gv′は、フィードバックベクトルGV′のブレ補正方向の成分である。
一般に、修正後の基準値Wo′に誤差が生じると、ブレ補正において撮像画像に残存ブレが生じる。この残存ブレを画像動きベクトルV′として検出し、上式(2)によって基準値にフィードバックすることで、基準値Wo′の誤差は低減する。
基準値Wo′の誤差が低減するに従って、徐々に画像動きベクトルV′も低減する。最終的に画像動きベクトルV′がゼロと見なせるほどに小さくなると、基準値Wo′は、角速度センサ10のドリフト出力やDCオフセットを正確に含んだ値となる。
ところで、光学的ブレ補正では、ブレ補正光学系100の追従性を高めるため、図2に示すように撮像間隔Timgよりも短いサンプリング間隔Toptで、目標駆動位置および基準値の更新を実行する。そのため、毎回の基準値修正のたびに、毎回新しい画像動きベクトルを使用することはできない。そこで、次回の画像動きベクトルを取得するまでの期間、一つの画像動きベクトルV′を繰り返し使用することで、基準値修正を行うことが好ましい。
ステップS14: 目標駆動位置演算部50は、A/D変換部30から出力される角速度データから、修正後の基準値Wo′を減算し、像面ブレの原因となる真の角速度データを求める。
ステップS15: 目標駆動位置演算部50は、この真の角速度データを積分することにより、撮影レンズ190aの光軸角度の変位量を求める。目標駆動位置演算部50は、この光軸角度の値から、被写体像の結像位置の変位を打ち消すために必要なブレ補正光学系100の位置(いわゆる目標駆動位置)を求める。
例えば、下式をもちいて、この目標駆動位置θ(Tk)の計算が行われる。
C=f・(1+β)2/K ・・・(3)
θ(Tk)=θ(Tk-1)+C・[W(Tk)−Wo′] ・・・(4)
ただし、fは焦点距離、βは撮影倍率、θ(Tk-1)は前回の目標駆動位置、W(Tk)は最新の角速度データ、およびKはブレ補正係数である。なお、ブレ補正係数Kは、下式に基づいて予め実測しておく。
K=(被写体像の変位)/(ブレ補正光学系100の変位)
ステップS16: 駆動信号演算部60は、目標駆動位置演算部50から目標駆動位置を情報取得し、ブレ補正光学系100を目標駆動位置に追従制御する。
次に、本発明の特徴であるフィードバックゲインGの設定例をいくつか挙げて説明する。
[第1設定例]
図5に示す実線カーブは、フィードバックゲインGの第1設定例を示す特性である。図5の横軸にはフレームレートFを示し、縦軸にはフィードバックゲインGを示す。
この図5の実線カーブに示すフィードバックゲインGは、次のような手順を、実験または計算シミュレーションで実施することによって設定される。
(1)ブレ補正光学系100をロックした状態で、カメラシステム190を振動させ、撮像面に対して被写体像を一定の振幅値で強制的に振動させる。あるいは、被写体側を振動させることで、撮像面に対して被写体像を一定の振幅値で振動させる。
(2)所定のフレームレートFで撮像素子150を駆動し、振動状態の撮像画像を複数コマ得る。
(3)複数コマの撮像画像を、動きベクトル検出部160および動きベクトル変換部170に与え、前後コマの間における撮像画像の変位(画像動きベクトルV′の成分)を求める。
(4)上記で与えた像面上の振幅値(角速度のオーダーに変換した値)を、上記で求めた撮像画像の変位(角速度のオーダーに変換した値)で割って、変換率S(F)を算出する。
(5)フレームレートFを、フレームレート変更部210が変更するフレームレートの範囲(例えば10〜60フレーム/秒)で順番に変化させながら、上記の(2)〜(4)を繰りかえし、各フレームレートFにおける変換率S(F)を算出する。この変換率S(F)に所定の定数値Pを乗じて、フィードバックゲインGとする。
なお、ここでのPの値は、基準値Wo′の行き過ぎを適度に抑制し、かつ基準値Wo′の整定時間を適度に短縮するなどの観点から調整して決定することが好ましい。
このように設定したフィードバックゲインGは、フレームレートFが比較的高い領域において、図5に示すようにフレームレートFにほぼ比例して変化する。したがって、フレームレートFに逆比例する画像動きベクトルV′の増減変動を打ち消し、フィードバックベクトルGV′を安定レベルに維持することが可能になる。その結果、像面ドリフトが生じた状態でフレームレートFが減少しても、画像動きベクトルV′の一巡伝達ゲインが上がり過ぎることがなく、基準値修正の行き過ぎを抑えて、基準値の収束を速めることができる。
一方、このフィードバックゲインGは、フレームレートFが低くなるに従って、フィードバックゲインGの下がる傾きが緩やかになる。一般に、フレームレートFが低くなって標本間隔が粗くなると、像面振動をピーク位置からずれて撮像する可能性が高くなり、像面振動の幅が少なめに検出される。この検出の感度低下を打ち消すように、図5に示すフィードバックゲインGは傾きが緩やかになる。その結果、フレームレートFの低下に伴う画像動きベクトルの一巡伝達ゲインの不足を補い、基準値の収束を速めることが可能になる。
続いて、上述したフィードバックゲインGによる基準値修正の具体的な効果についてシミュレーション結果を示す。
例えば、図2では、ブレ補正の期間中に被写体輝度が変化したため、フレームレートがF1からF2に途中から変化している。
まず、図6[A][B]は、フレームレートの変化にかかわらず、フィードバックゲインをG2(>G1)に固定した対比例である。フレームレートがF1と低くなると、画像動きベクトルV′の信号レベルが見かけ上大きくなるため、フィードバック量が過剰になる。その結果、図6[A]に示すような行き過ぎが基準値修正に生じ、ついに基準値は発散してしまう。
一方、図7[A][B]には、このフレームレートF1からF2の変化に対応して、フィードバックゲインをG1からG2に変化させた場合を示す。このG1、G2は、図5に示すフィードバックゲインGを参照して求めた値である。このようなフィードバックゲインGの変更により、基準値の値は、フレームレートが倍程度も変化しているにもかかわらず、安定かつ適正なレベルを保つことができる。
[第2設定例]
図8に示す実線は、フィードバックゲインGの第2設定例を示す特性である。
このフィードバックゲインGは、第1設定例の特性(図6中の点線カーブ)を直線近似したものであり、下式で表すことができる。
G=aF+b ・・・(5)
(ただし、a,bは正の定数、Fは撮像画像のフレームレート)
このようなフィードバックゲインGは、フレームレートFが充分に高ければ、フレームレートFにほぼ比例して変化する。
したがって、画像動き信号がフレームレートFに逆比例変化するという現象を、このフレームレートFとフードバックゲインGの比例関係によって打ち消すことができる。
一方、フレームレートFがゼロに近づくと、(5)式のフィードバックゲインGは、ゼロではなく、下限ゲインbに最終的に至る。つまり、フレームレートFが低くなっても、フィードバックゲインGは下限ゲインbに止まる。
その結果、フレームレートの低下に従って、像面振動の端(ピーク位置)を捉えられずに画像動き信号のフィードバック量が不足するという現象を、下限ゲインbの設定で補うことができる。
[第3設定例]
図9に示す実線カーブは、フィードバックゲインGの第3設定例を示す特性である。
このGは、第1設定例の特性(図5)を基準にして、フレームレートFの顕著に低い領域をG≒0に置き換えたものである。
一般に、フレームレートFが顕著に減少すると、高速な像面振動を正確に検出できず、画像動き信号に低域折り返し成分による偽振動成分が現れる。
また、フレームレートFが更に顕著に減少すると、撮像画像のコマ間の動きが粗くなり、像面の振動幅や振動方向の連続性が目立って失われる。その結果、画像動き信号に検出誤差が生じやすく、その信頼性は顕著に低下する。
そこで、第3設定例では、フレームレートFが顕著に低くなると、フィードバックゲインGを強制的にゼロにする。このようにフィードバックゲインGをゼロにすることにより、信頼性の低い画像動き信号が基準値に混入する事態を避けることができる。その結果、防振性能の低下を防止することができる。
[実施形態の補足事項]
また、上述した実施形態では、撮像素子150の撮像画像に基づいて画像動きベクトルを生成している。しかしながら、本発明はこれに限定されるものではない。例えば、カメラシステムの分割測光機構や焦点検出機構や測色機構やファインダ機構などで光電変換を行って、撮像画像を生成してもよい。この種の撮像画像から画像動きベクトルを生成することによって、『銀塩カメラ』や『一眼レフタイプの電子カメラ』において本発明を実施することができる。
なお、カメラ側に秒間2〜8コマ以上程度の連写性能があれば、基準値の修正に必要な撮像間隔の画像動き信号を得ることもできる。したがって、連写しながら光学的ブレ補正を継続実施するタイプのカメラに本発明を適用することもできる。
さらに、上述した実施形態において、撮影レンズ190aとカメラシステム190とを一体に構成してもよい。また、撮影レンズ190aとカメラシステム190とを着脱自在に構成してもよい。なお、撮影レンズ190aとカメラシステム190とを着脱する場合は、画像動き信号を生成するブロックを、撮影レンズ190aおよびカメラシステム190のどちらに設置してもよい。例えば、画像動き信号を生成するブロックをカメラシステム190側に設置し、画像動き信号を基準値と同一スケールに換算するブロックを撮影レンズ190a側に設置するなどの態様が可能である。
また、上述した実施形態では、振動検出信号として角速度を検出している。しかしながら、本発明は、角速度の検出に限定されず、被写体像の結像位置の変位を推定可能な振動成分を検出すればよい。例えば、カメラシステムに作用する加速度や、角加速度や、遠心力や、慣性力などを振動検出信号として検出すればよい。
なお、上述した実施形態では、撮影レンズ190aの光束(光像)をシフトまたはチルトしてブレ補正を実施している。しかしながら、本発明はこれに限定されるものではない。例えば、撮像素子150をシフトすることでブレ補正を実施してもよい。
以上説明したように、本発明は、光学的ブレ補正機能を有する光学機器などに利用可能な技術である。
カメラシステム190(撮影レンズ190aおよびブレ補正装置を含む)を示す図である。 光学的ブレ補正の動作タイミングを説明する図である。 画像動きベクトルの計算手順を示す流れ図である。 光学的ブレ補正の制御動作を示す流れ図である。 フィードバックゲインGの設定例を示す図である。 フィードバックゲインGを固定した場合の基準値を示す図である。 フィードバックゲインGをフレームレートに応じて変更した場合の基準値を示す図である。 フィードバックゲインGの設定例を示す図である。 フィードバックゲインGの設定例を示す図である。
符号の説明
10 角速度センサ
20 増幅部
40 基準値演算部
50 目標駆動位置演算部
60 駆動信号演算部
70 ドライバ
80 駆動機構
90 位置検出部
92 赤外線LED
98 PSD(位置検出素子)
100 ブレ補正光学系
120 焦点距離情報
130 撮影倍率情報
140 光学情報
150 撮像素子
160 動きベクトル検出部
170 動きベクトル変換部
190 カメラシステム
190a 撮影レンズ
210 フレームレート変更部
220 ゲイン変更部

Claims (6)

  1. カメラの撮像部における被写体像の像面ブレを補正するブレ補正装置であって、
    前記撮像部と前記被写体像を形成する光束との相対位置を変更するブレ補正機構と、
    前記カメラの振動を検出して振動検出信号を出力する振動検出部と、
    前記振動検出信号に基づいて、前記振動検出信号の基準値(前記振動のない静止状態における前記振動検出部の出力)を推定する基準値生成部と、
    前記振動検出信号と、推定された前記基準値との差から、前記像面ブレの原因となる振動成分を求め、前記振動成分に基づいて前記ブレ補正機構の目標駆動位置を求める目標駆動位置演算部と、
    前記ブレ補正機構を前記目標駆動位置に追従制御する駆動部とを備え、
    前記基準値生成部は、
    前記カメラの撮像画像を解析して得られる画像動き信号を情報取得し、前記画像動き信号を前記基準値にフィードバックして、前記基準値を修正するフィードバック経路と、
    前記撮像画像のフレームレートの変更に応じて、前記フィードバック経路における前記画像動き信号のフィードバックゲインGを変更するゲイン変更部とを備えた
    ことを特徴とするブレ補正装置。
  2. 請求項1に記載のブレ補正装置において、
    前記ゲイン変更部は、前記フレームレートの減少に従って、前記フィードバックゲインGを下げる
    ことを特徴とするブレ補正装置。
  3. 請求項2に記載のブレ補正装置において、
    前記ゲイン変更部では、前記フレームレートの減少に従って、前記フィードバックゲインGを下げる傾きが緩やかになる
    ことを特徴とするブレ補正装置。
  4. 請求項1ないし請求項3のいずれか1項に記載のブレ補正装置において、
    前記ゲイン変更部は、予め定めた閾値よりも前記フレームレートが低くなると、前記フィードバックゲインGをゼロにする
    ことを特徴とするブレ補正装置。
  5. 請求項1に記載のブレ補正装置において、
    前記ゲイン変更部は、前記フィードバックゲインGを、下式に従って設定する
    G=a・F+b
    (ただし、a,bは定数、Fは撮像画像のフレームレート)
    ことを特徴とするブレ補正装置。
  6. 請求項1ないし請求項5のいずれか1項に記載のブレ補正装置と、
    前記ブレ補正装置を用いて、光学的ブレ補正を実施するカメラと
    を備えたことを特徴とするカメラシステム。
JP2004170380A 2004-06-08 2004-06-08 ブレ補正装置、およびカメラシステム Expired - Fee Related JP4595394B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2004170380A JP4595394B2 (ja) 2004-06-08 2004-06-08 ブレ補正装置、およびカメラシステム
EP05012157A EP1605691A3 (en) 2004-06-08 2005-06-06 Vibration reduction apparatus having feedback path for motion signal and camera system
US11/144,657 US7522188B2 (en) 2004-06-08 2005-06-06 Vibration reduction apparatus having feedback path for motion signal, and camera system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004170380A JP4595394B2 (ja) 2004-06-08 2004-06-08 ブレ補正装置、およびカメラシステム

Publications (2)

Publication Number Publication Date
JP2005351984A true JP2005351984A (ja) 2005-12-22
JP4595394B2 JP4595394B2 (ja) 2010-12-08

Family

ID=35586551

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004170380A Expired - Fee Related JP4595394B2 (ja) 2004-06-08 2004-06-08 ブレ補正装置、およびカメラシステム

Country Status (1)

Country Link
JP (1) JP4595394B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010117659A (ja) * 2008-11-14 2010-05-27 Canon Inc 振れ補正機能を有する撮影装置及びその制御方法
JP2011180302A (ja) * 2010-02-26 2011-09-15 Nikon Corp 振れ補正装置、レンズ鏡筒、及びカメラシステム
JP2015031780A (ja) * 2013-08-01 2015-02-16 キヤノン株式会社 像振れ補正装置およびその制御方法、レンズ鏡筒、光学機器、並びに撮像装置
JP2015161730A (ja) * 2014-02-26 2015-09-07 キヤノン株式会社 像振れ補正装置およびその制御方法、光学機器、撮像装置
JP2016128845A (ja) * 2015-01-09 2016-07-14 キヤノン株式会社 像ブレ補正装置、制御方法、光学機器、撮像装置
JP2018116307A (ja) * 2018-04-05 2018-07-26 株式会社ニコン ブレ補正装置及びカメラ
WO2019203147A1 (ja) * 2018-04-17 2019-10-24 株式会社ニコン 撮像装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0514801A (ja) * 1990-10-18 1993-01-22 Fuji Photo Film Co Ltd 手振れ補正装置
JPH09284635A (ja) * 1996-04-09 1997-10-31 Canon Inc 撮像装置
JPH10150595A (ja) * 1996-11-20 1998-06-02 Sony Corp ビデオカメラ
JPH11187305A (ja) * 1997-12-17 1999-07-09 Canon Inc 撮像装置及びぶれ補正装置
JP2000232606A (ja) * 1999-02-10 2000-08-22 Matsushita Electric Ind Co Ltd 画像動き補正装置
JP2001078075A (ja) * 1999-09-08 2001-03-23 Toshiba Corp 画像入力装置及び画像入力方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0514801A (ja) * 1990-10-18 1993-01-22 Fuji Photo Film Co Ltd 手振れ補正装置
JPH09284635A (ja) * 1996-04-09 1997-10-31 Canon Inc 撮像装置
JPH10150595A (ja) * 1996-11-20 1998-06-02 Sony Corp ビデオカメラ
JPH11187305A (ja) * 1997-12-17 1999-07-09 Canon Inc 撮像装置及びぶれ補正装置
JP2000232606A (ja) * 1999-02-10 2000-08-22 Matsushita Electric Ind Co Ltd 画像動き補正装置
JP2001078075A (ja) * 1999-09-08 2001-03-23 Toshiba Corp 画像入力装置及び画像入力方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010117659A (ja) * 2008-11-14 2010-05-27 Canon Inc 振れ補正機能を有する撮影装置及びその制御方法
US8279290B2 (en) 2008-11-14 2012-10-02 Canon Kabushiki Kaisha Blur correcting image pickup apparatus and control method
JP2011180302A (ja) * 2010-02-26 2011-09-15 Nikon Corp 振れ補正装置、レンズ鏡筒、及びカメラシステム
JP2015031780A (ja) * 2013-08-01 2015-02-16 キヤノン株式会社 像振れ補正装置およびその制御方法、レンズ鏡筒、光学機器、並びに撮像装置
JP2015161730A (ja) * 2014-02-26 2015-09-07 キヤノン株式会社 像振れ補正装置およびその制御方法、光学機器、撮像装置
JP2016128845A (ja) * 2015-01-09 2016-07-14 キヤノン株式会社 像ブレ補正装置、制御方法、光学機器、撮像装置
JP2018116307A (ja) * 2018-04-05 2018-07-26 株式会社ニコン ブレ補正装置及びカメラ
WO2019203147A1 (ja) * 2018-04-17 2019-10-24 株式会社ニコン 撮像装置

Also Published As

Publication number Publication date
JP4595394B2 (ja) 2010-12-08

Similar Documents

Publication Publication Date Title
US7522188B2 (en) Vibration reduction apparatus having feedback path for motion signal, and camera system
EP1507408B1 (en) Shooting lens having vibration reducing function and camera system for same
US7932926B2 (en) Shooting lens having vibration reducing function and camera system for same
JP4419466B2 (ja) 撮影レンズ、およびカメラシステム
US7983547B2 (en) Imaging apparatus
JP5328307B2 (ja) 振れ補正機能を有する撮影装置及びその制御方法
US10250808B2 (en) Imaging apparatus and control method therefor
CN106998425B (zh) 振动检测设备、振动检测方法和摄像设备
JP4869579B2 (ja) ブレ補正装置、およびカメラシステム
JP4360147B2 (ja) 撮影レンズ、およびカメラシステム
JP2018036445A (ja) 制御装置、撮像装置、レンズ装置、制御方法、プログラム、および、記憶媒体
JP2009047757A (ja) 撮影装置
JP4595394B2 (ja) ブレ補正装置、およびカメラシステム
JP2019124871A (ja) 像振れ補正装置およびその制御方法、撮像装置
JP4556560B2 (ja) ブレ補正装置、およびカメラシステム
JP4415596B2 (ja) 撮影レンズ、およびカメラシステム
JP2005114845A (ja) 振れ検出装置及びブレ補正装置
JP4400322B2 (ja) ブレ補正装置、およびカメラシステム
JP2005141207A (ja) ブレ補正装置、およびカメラシステム
JP2014126859A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2019095630A (ja) 像振れ補正装置を有する光学機器
JP2005252760A (ja) ブレ補正カメラシステム、ブレ補正カメラ、画像回復装置、及び、ブレ補正プログラム
WO2020012960A1 (ja) 撮像装置
JP3757573B2 (ja) 振れ補正機能付きカメラ
JP2021044653A (ja) 動きベクトル検出装置及び動きベクトル検出方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070604

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100811

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100824

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100906

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4595394

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131001

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131001

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees