JP2022009046A - 像振れ補正装置およびその制御方法、撮像装置 - Google Patents
像振れ補正装置およびその制御方法、撮像装置 Download PDFInfo
- Publication number
- JP2022009046A JP2022009046A JP2021167482A JP2021167482A JP2022009046A JP 2022009046 A JP2022009046 A JP 2022009046A JP 2021167482 A JP2021167482 A JP 2021167482A JP 2021167482 A JP2021167482 A JP 2021167482A JP 2022009046 A JP2022009046 A JP 2022009046A
- Authority
- JP
- Japan
- Prior art keywords
- runout
- image
- value
- unit
- offset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012937 correction Methods 0.000 title claims abstract description 115
- 238000000034 method Methods 0.000 title claims description 71
- 238000003384 imaging method Methods 0.000 title description 4
- 238000001514 detection method Methods 0.000 claims abstract description 152
- 239000013598 vector Substances 0.000 claims description 76
- 230000008569 process Effects 0.000 claims description 57
- 238000004091 panning Methods 0.000 claims description 48
- 230000008859 change Effects 0.000 claims description 19
- 230000000670 limiting effect Effects 0.000 claims description 16
- 230000035945 sensitivity Effects 0.000 claims description 5
- 230000000737 periodic effect Effects 0.000 claims description 3
- 238000005096 rolling process Methods 0.000 claims description 3
- 230000001934 delay Effects 0.000 claims 1
- 238000004364 calculation method Methods 0.000 abstract description 65
- 230000003111 delayed effect Effects 0.000 abstract 1
- 238000000926 separation method Methods 0.000 abstract 1
- 238000012545 processing Methods 0.000 description 39
- 230000003287 optical effect Effects 0.000 description 17
- 238000013459 approach Methods 0.000 description 16
- 230000010354 integration Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 9
- 238000011156 evaluation Methods 0.000 description 8
- 230000000052 comparative effect Effects 0.000 description 6
- 239000011159 matrix material Substances 0.000 description 4
- 238000001228 spectrum Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000010363 phase shift Effects 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Landscapes
- Adjustment Of Camera Lenses (AREA)
- Studio Devices (AREA)
Abstract
【解決手段】像振れ補正装置は振れ検出部17によって手振れ等を検出し、振れ検出信号に基づいて像振れを補正する。オフセット推定部304は、振れ検出部17の出力のオフセット成分を推定する。ノイズ項算出部300は、振れ検出部17により検出された振れ量をフィルタで帯域分離し、高周波振れ量と低周波振れ量を算出する。ノイズ項算出部300は高周波振れ量が大きくなるにつれてオフセット推定値の更新を遅くするようにオフセット推定部304の特性を変更し、低周波振れ量が大きくなるにつれてオフセット推定値の更新を早めるようにオフセット推定部304の特性を変更する制御を行う。
【選択図】図2
Description
本発明の目的は、大きな振れが発生した場合でも、広い周波数帯域で安定した像振れ補正を行えるようにすることである。
図1を参照して、本発明の第1実施形態を説明する。図1(A)は本実施形態に係る像振れ補正装置を含む撮像装置の構成の概要を示す中央断面図である。図1(B)は撮像装置の電気的構成を示すブロック図である。本実施形態では交換レンズ式カメラの例を説明する。被写体側を前側と定義して各部の位置関係を説明する。
A:動作モデルでのシステムマトリクス
B:入力マトリクス
C:観測モデルでの出力マトリクス
εt:プロセスノイズ
δt:観測ノイズ
t:離散的な時間。
次に、第2実施形態について説明する。本実施形態では、第1実施形態と異なる構成および処理部分のみ説明し、重複する部分の説明を省略する。図11は、本実施形態に係るレンズ制御部15の像振れ補正制御にかかわる構成を示すブロック図である。第1実施形態では、帯域制限フィルタ303を用いて、振れ検出部17による振れ量のうち、手振れで発生する主な周波数成分を取り除いてオフセット推定の精度を向上させる方法を説明した。本実施形態は以下の点で第1実施形態と相違する。
・帯域制限フィルタ303がないこと。
・動きベクトル情報と補正レンズユニット19の検出位置の微分値を、オフセット推定部に入力する振れ量から減算していること。
・動きベクトル信頼度判定部404が設けられていること。
・移動被写体に対応する動体領域が撮影画像全体に対して所定値以上を占める場合
本実施形態では、動きベクトルにより撮像装置1の振れを検出することが目的であるが、動体領域が撮影画像全体を占めている場合、動きベクトルとして移動被写体の移動速度が検出されてしまう。そこで信頼度判定部404は、動体領域が撮影画像全体に対して占める割合が大きくなるにつれて信頼度を低く設定する。
ISO感度設定値を高くすると撮像部による電気信号を増幅する際にノイズ成分も増幅されるため、ISO感度を高くするほど、画像から検出した動きベクトルにノイズが混入してしまい、動きベクトルの信頼度が低下する。そこで、信頼度判定部404は撮像部の撮像感度の設定値が高くなるにつれて信頼度を低く設定する。
動きベクトルを算出する際、ブロックマッチング処理にて被写体のコントラスト値が低いと画像の類似点の判定が困難となり、マッチング結果に誤差が発生する。そこで、信頼度判定部404は、被写体のコントラスト値が低くなるにつれて信頼度を低く設定する。
撮影画像中に周期的なパターン(縞模様のような繰り返しパターン)が存在して撮影画像全体を占めていると、ブロックマッチング処理により誤った動きベクトルが検出されることがある。そこで、信頼度判定部404は周期的なパターンが撮影画像全体の領域に対して占める割合が大きくなるにつれて信頼度を低く設定する。
撮像装置から被写体までの距離によって撮像面での画像の動き量と、実際の被写体の移動速度の関係が異なる。そのため、動きベクトルの検出に用いる画像中に撮像装置からの距離が遠い被写体と近い被写体が混在して、被写体領域が撮影画像全体に対して所定値以上を占めている場合、動きベクトルに誤差が生じ得る。そこで、信頼度判定部404は、撮像装置から第1被写体までの距離と撮像装置から第2被写体までの距離との差が閾値以上である場合に、被写体領域が撮影画像全体に対して占める割合が大きくなるにつれて信頼度を低く設定する。
撮像部がCMOS(相補型金属酸化膜半導体)イメージセンサを有する場合、高速に動く被写体を撮影すると取り込む時間差により画像に差異が生じ、高速に移動しているものを動画で撮影すると歪みが生じる。歪んだ画像を用いて動きベクトルを検出した場合、動きベクトルの検出に誤差が生じ得る。そこで、信頼度判定部404は、撮影画像のローリングシャッタ歪み量が大きくなるにつれて信頼度を低く設定する。
動きベクトル検出時にマッチングの基準領域とサーチ領域との相関値の最大値が低い場合には、基準領域とサーチ領域との類似度が低いと考えられ、信頼度が低いと判定される。信頼度判定部404は、被写体のテクスチャの相関値の最大値が小さくなるにつれて信頼度を低く設定する。
相関値の最大値と最小値の差分と、最大値と平均値の差分との比率は、相関値ピークの急峻性を表わしており、比率が小さい場合、基準領域とサーチ領域との類似度が低いと考えられ、信頼度が低いと判定される。信頼度判定部404は、被写体のテクスチャの相関値の最大値と最小値の差分と、相関値の最大値と平均値の差分との比率が小さくなるにつれて信頼度を低く設定する。なお、相関値の算出方法については差分絶対値和(Sum of Absolute Difference)を用いる方法があるが、どのような算出方法を用いてもよい。
15 レンズシステム制御部
17 振れ検出部
18 像振れ補正部
19 補正レンズユニット
Claims (19)
- 撮像装置の振れを検出する振れ検出手段の出力のオフセット成分を推定する推定手段と、
前記振れ検出手段の出力を複数の周波数帯域の成分に分離した第1および第2の振れ量を算出し、前記振れ量にしたがって前記推定手段の特性を変更する変更手段と、
前記振れ検出手段の出力から前記推定手段により推定された前記オフセット成分が減算された出力を用いて補正手段を制御することにより像振れ補正を行う制御手段と、を備え、
前記変更手段は、前記第1の振れ量が大きくなるにつれて前記推定手段によるオフセット成分の推定値の更新を遅くする特性に変更し、または前記第1の振れ量よりも低周波である前記第2の振れ量が大きくなるにつれて前記推定手段によるオフセット成分の推定値の更新を早める特性に変更する
ことを特徴とする像振れ補正装置。 - 前記変更手段は、前記振れ検出手段により検出される信号から前記推定手段によるオフセット成分の推定値を減算した信号を取得し、当該信号を周波数帯域の異なる成分に分離して前記第1および第2の振れ量を算出する
ことを特徴とする請求項1に記載の像振れ補正装置。 - 前記振れ検出手段により検出される信号に対して、予め定められた周波数帯域での帯域制限を行うフィルタをさらに備え、
前記変更手段は、前記フィルタにより帯域制限された信号から前記推定手段によるオフセット成分の推定値を減算した信号を取得する
ことを特徴とする請求項1に記載の像振れ補正装置。 - 前記変更手段は、撮像装置の静定状態が検出された場合、前記撮像装置の振れが小さくなるにつれて前記推定手段によるオフセット成分の推定値の更新を早める特性に変更する
ことを特徴とする請求項1から3のいずれか1項に記載の像振れ補正装置。 - 前記変更手段は、撮像装置のパンニングまたはチルティングが検出された場合、前記撮像装置の振れが大きくなるにつれて前記推定手段によるオフセット成分の推定値の更新を遅くする特性に変更する
ことを特徴とする請求項1から4のいずれか1項に記載の像振れ補正装置。 - 撮像された複数の画像から動きベクトルを検出する第1の検出手段と、
前記振れ検出手段の出力および前記動きベクトルを用いて、前記撮像装置の静定状態、またはパンニングもしくはチルティングの状態を検出する第2の検出手段を備える
ことを特徴とする請求項4または請求項5に記載の像振れ補正装置。 - 撮像された複数の画像から動きベクトルを検出する検出手段を備え、
前記推定手段は、前記振れ検出手段の出力から前記動きベクトルを減算した出力を用いて前記オフセット成分を推定する
ことを特徴とする請求項1に記載の像振れ補正装置。 - 前記変更手段は、前記動きベクトルの信頼度を判定して前記推定手段によるオフセット成分の推定値の更新速度を変更する
ことを特徴とする請求項7に記載の像振れ補正装置。 - 前記変更手段は、撮影画像にて移動被写体に対応する動体領域が撮影画像全体に対して占める割合が大きくなるにつれて前記信頼度を低く設定する
ことを特徴とする請求項8に記載の振れ補正装置。 - 前記変更手段は、撮像感度の設定値が高くなるにつれて前記信頼度を低く設定する
ことを特徴とする請求項8に記載の振れ補正装置。 - 前記変更手段は、被写体のコントラスト値が低くなるにつれて前記信頼度を低く設定する
ことを特徴とする請求項8に記載の振れ補正装置。 - 前記変更手段は、撮影画像中に周期的なパターンを有する領域が存在し、当該領域が撮影画像全体に対して占める割合が大きくなるにつれて前記信頼度を低く設定する
ことを特徴とする請求項8に記載の振れ補正装置。 - 前記変更手段は、撮像装置から第1被写体までの距離と撮像装置から第2被写体までの距離との差が閾値以上である場合に、前記第1および第2被写体の領域が撮影画像全体に対して占める割合が大きくなるにつれて前記信頼度を低く設定する
ことを特徴とする請求項8に記載の振れ補正装置。 - 前記変更手段は、撮像画像のローリングシャッタ歪み量が大きくなるにつれて前記信頼度を低く設定する
ことを特徴とする請求項8に記載の振れ補正装置。 - 前記変更手段は、被写体のテクスチャの相関値の最大値が小さくなるにつれて前記信頼度を低く設定する
ことを特徴とする請求項8に記載の振れ補正装置。 - 前記変更手段は、被写体のテクスチャの相関値の最大値と最小値の差分と、前記相関値の最大値と平均値の差分との比率が小さくなるにつれて前記信頼度を低く設定する
ことを特徴とする請求項8に記載の振れ補正装置。 - 前記変更手段は、前記動きベクトルの信頼度が低い場合に、前記動きベクトルの信頼度が高い場合に比べて、前記推定値の更新を遅くする処理または更新を制限する処理を行う
ことを特徴とする請求項8から16のいずれか1項に記載の像振れ補正装置。 - 請求項1から17のいずれか1項に記載の像振れ補正装置を備える
ことを特徴とする撮像装置。 - 撮像装置の振れを検出する振れ検出手段の出力のオフセット成分を推定手段が推定する工程と、
前記振れ検出手段の出力を複数の周波数帯域の成分に分離した第1および第2の振れ量を変更手段が算出し、前記振れ量にしたがって前記推定手段の特性を変更する工程と、
前記振れ検出手段の出力から前記推定手段により推定された前記オフセット成分が減算された出力を用いて、制御手段が補正手段を制御することにより像振れ補正を行う工程と、を有し、
前記変更手段によって前記推定手段は、前記第1の振れ量が大きくなるにつれて前記オフセット成分の推定値の更新を遅くする特性に変更され、または前記第1の振れ量よりも低周波である前記第2の振れ量が大きくなるにつれて前記オフセット成分の推定値の更新を早める特性に変更される
ことを特徴とする像振れ補正装置の制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021167482A JP7204855B2 (ja) | 2018-01-18 | 2021-10-12 | 像振れ補正装置およびその制御方法、撮像装置 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018006640A JP6961500B2 (ja) | 2018-01-18 | 2018-01-18 | 像振れ補正装置およびその制御方法、撮像装置 |
JP2021167482A JP7204855B2 (ja) | 2018-01-18 | 2021-10-12 | 像振れ補正装置およびその制御方法、撮像装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018006640A Division JP6961500B2 (ja) | 2018-01-18 | 2018-01-18 | 像振れ補正装置およびその制御方法、撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022009046A true JP2022009046A (ja) | 2022-01-14 |
JP7204855B2 JP7204855B2 (ja) | 2023-01-16 |
Family
ID=87888165
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021167482A Active JP7204855B2 (ja) | 2018-01-18 | 2021-10-12 | 像振れ補正装置およびその制御方法、撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7204855B2 (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005043780A (ja) * | 2003-07-25 | 2005-02-17 | Nikon Corp | 撮影レンズ、およびカメラシステム |
WO2012147348A1 (ja) * | 2011-04-27 | 2012-11-01 | パナソニック株式会社 | 慣性力センサとこれに用いるゼロ点補正方法 |
JP2015114218A (ja) * | 2013-12-12 | 2015-06-22 | セイコーエプソン株式会社 | 信号処理装置、検出装置、センサー、電子機器及び移動体 |
JP2017092616A (ja) * | 2015-11-05 | 2017-05-25 | キヤノン株式会社 | 像ブレ補正装置及び方法 |
-
2021
- 2021-10-12 JP JP2021167482A patent/JP7204855B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005043780A (ja) * | 2003-07-25 | 2005-02-17 | Nikon Corp | 撮影レンズ、およびカメラシステム |
WO2012147348A1 (ja) * | 2011-04-27 | 2012-11-01 | パナソニック株式会社 | 慣性力センサとこれに用いるゼロ点補正方法 |
JP2015114218A (ja) * | 2013-12-12 | 2015-06-22 | セイコーエプソン株式会社 | 信号処理装置、検出装置、センサー、電子機器及び移動体 |
JP2017092616A (ja) * | 2015-11-05 | 2017-05-25 | キヤノン株式会社 | 像ブレ補正装置及び方法 |
Also Published As
Publication number | Publication date |
---|---|
JP7204855B2 (ja) | 2023-01-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10511774B2 (en) | Image pick-up apparatus and control method | |
JP6600232B2 (ja) | 像ブレ補正装置及び方法 | |
US10321058B2 (en) | Image pickup apparatus and motion vector detection method | |
JP6592335B2 (ja) | 像ブレ補正装置及び方法 | |
US10791270B2 (en) | Image stabilization apparatus capable of accurately estimating an offset component of an angular velocity sensor, optical apparatus, and image stabilization method | |
US9865064B2 (en) | Image processing apparatus, image processing method, and storage medium | |
US11290650B2 (en) | Image blur information acquisition apparatus and method, and storage medium | |
CN106998425B (zh) | 振动检测设备、振动检测方法和摄像设备 | |
JP6995561B2 (ja) | 像ブレ補正装置およびその制御方法、撮像装置 | |
CN110062131B (zh) | 图像模糊校正装置及其控制方法和摄像装置 | |
CN109391755B (zh) | 摄像设备及其中执行的方法 | |
US10200612B2 (en) | Image stabilization apparatus and control method thereof, and storage medium | |
US10873701B2 (en) | Image pickup apparatus and control method thereof | |
JP7204855B2 (ja) | 像振れ補正装置およびその制御方法、撮像装置 | |
JP7308672B2 (ja) | 像ブレ補正装置及びその制御方法、撮像システム、プログラム | |
JP7495800B2 (ja) | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 | |
JP2018205551A (ja) | 撮像装置およびその制御方法 | |
JP2022120685A (ja) | 防振制御装置及び方法、及び撮像装置 | |
WO2020012960A1 (ja) | 撮像装置 | |
JP2021149067A (ja) | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 | |
JP2022021684A (ja) | 像ブレ補正装置およびその制御方法、撮像装置 | |
JP2019159172A (ja) | 撮像装置およびその制御方法 | |
JP2021012260A (ja) | 像ブレ情報取得装置及び方法、像ブレ補正装置、プログラム、記憶媒体 | |
JP2019161540A (ja) | 撮像装置及びその制御方法並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211109 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211109 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220908 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220913 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221114 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221129 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221228 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7204855 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |