JP7237701B2 - 撮像装置、制御方法およびプログラム - Google Patents
撮像装置、制御方法およびプログラム Download PDFInfo
- Publication number
- JP7237701B2 JP7237701B2 JP2019070752A JP2019070752A JP7237701B2 JP 7237701 B2 JP7237701 B2 JP 7237701B2 JP 2019070752 A JP2019070752 A JP 2019070752A JP 2019070752 A JP2019070752 A JP 2019070752A JP 7237701 B2 JP7237701 B2 JP 7237701B2
- Authority
- JP
- Japan
- Prior art keywords
- rolling shutter
- imaging device
- shutter distortion
- correction
- movement information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Adjustment Of Camera Lenses (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Description
(第1の実施形態)
図1は、本実施形態に係る撮像装置100の構成の一例を示す図である。
撮像装置100は、光学系101、撮像素子102、現像処理部103、手ぶれ補正切替部104、移動情報取得部105、撮像素子位置情報取得部106、メインマイコン107を有する。また、撮像装置100は、ぶれ補正量算出部108、撮像素子揺動制御部109、ローリングシャッタ歪み補正量算出部110、ローリングシャッタ歪み補正部111、出力部112を有する。
撮像素子102および現像処理部103により撮像系が構成される。
メインマイコン107は、撮像装置100全体の制御を行う。メインマイコン107は、メモリに記録されたプログラムを実行することにより後述するフローチャートの処理を実現する。
図2のフローチャートは、被写体の撮影を始めることで開始される。
S201では、撮像素子102は、光学系101によって形成された被写体像を被写体輝度に応じたアナログ信号として現像処理部103に出力する。現像処理部103は、所定の処理を施すことでアナログ画像信号を生成する。現像処理部103は、A/D変換部によってアナログ画像信号をデジタル画像信号に変換する。また、現像処理部103は、デジタル画像信号に対して信号レベル補正や白レベル補正を行い、ローリングシャッタ歪み補正部111に送信する。
図3に示す撮像装置301は、水平方向へのぶれが生じているものとする。撮影された画像302には、長方形の被写体303が含まれている。このとき、露光時間中に撮像装置301が水平方向に移動していた場合には、画像中に存在している被写体303は、304に示すように平行四辺形状に歪んで撮影されてしまう。
図4に示すフレームにおける各ライン401は、垂直同期信号VDに合わせて順次ラインごとに露光および読み出しを行うことで画像を形成する。
図4に示すようにライン間の読み出しの遅延時間をτ、画像中の全ライン数をHとすると、先頭行と最終行で(H-1)×τの読み出し時間のずれが生じることになる。したがって、露光時間中に撮像装置が移動するとラインごとに読み出し時間が異なるため、ラインごとの読み出し時点での撮像装置の位置における画像を撮影することになり、最終的に1枚の画像が形成された際に被写体の歪みとして現れることになる。
S206では、ローリングシャッタ歪み補正量算出部110は、このようなローリングシャッタ歪みの補正残りの形状を推定して、画像処理によりローリングシャッタ歪みを補正するときの補正量を算出する。
図5(a)は、撮像装置のぶれの移動が生じた際のローリングシャッタ歪みを示している。撮像装置が露光時間中に水平方向に移動した場合、撮影された画像501に写される被写体502は、実際には503に示すように平行四辺形状の歪みが生じる。歪みの形状は、移動情報取得部105から得られる露光時間中の撮像装置の移動情報から算出することができる。また、図5(a)に示す504は、露光時間中の撮像装置の移動量を示しており、横軸が時間t、縦軸が時間tにおける撮像装置の移動量p1(t)である。ここで、画像501の全ライン数をH、1ラインあたりの読み出し開始時間のずれ量をτとすると、最終ラインが読み出される時間はt=τ(H-1)となる。すなわち、図5(a)に示す504は、画像の一番上のラインを基準として最終ラインまで読み出される間にどれだけ撮像装置が移動したかを示しており、その値は同時刻における画像501のライン間のずれ量と対応している。したがって、撮像装置の移動情報を用いることでローリングシャッタ歪みの形状を算出することができる。ただし、例えば、撮像装置の移動情報をジャイロセンサから取得する場合には、ジャイロセンサからの出力は角度情報であるため、画像上でのライン間のずれ量と対応させるためには、角度が画像上での何画素分の移動に相当するかを換算する必要がある。
図6(a)では、撮像装置601が静止状態にあるときの撮像装置601と撮像素子602との位置関係を示している。
図6(b)では、撮像装置603に対して回転方向のぶれが生じた場合の撮像装置603と撮像素子604との位置関係を示している。図6(b)では、撮像装置603が時計回りの回転方向にぶれが生じている。このとき、撮像素子604は撮像装置に生じたぶれを補正するために反時計回りに回転して、ぶれの発生前の位置を維持しようとする。しかしながら、実際には撮像装置のぶれの周波数や大きさ、撮像素子604の揺動範囲等によって回転のぶれを完全に打ち消すことはできず、撮像素子604にも回転方向の傾きが生じている。このとき、撮像素子604の傾きを生じさせる動きが画像上では回転方向のローリングシャッタ歪みとして現れることになる。
以下では、このような回転方向のずれおよび並進方向のぶれが生じている状態でのローリングシャッタ歪みの形状を算出する方法について図6を参照して説明する。
図6(a)に示す座標605および図6(b)に示す座標607は、それぞれの撮像装置601、603の状態においてジャイロセンサの各軸の方向を示している。
図6(a)に示す座標606および図6(b)に示す座標608は、それぞれの撮像素子602、604の水平方向、垂直方向を示している。
ここでは、撮像装置のジャイロセンサの各軸方向を、ローリングシャッタ歪みが生じている方向に変換する。ローリングシャッタ歪みが生じている方向とは撮像素子の水平方向および垂直方向である。変換には、撮像装置の移動情報および撮像素子の揺動情報に基づいて算出される撮像装置と撮像素子との間の回転角度差を用いる。
具体的には、図6(b)に示すように、露光時間中のある時刻tにおける撮像装置と撮像素子との間の相対的な回転角度差をα(t)とする。また、変換後のヨー方向のローリングシャッタ歪みの形状をY´(t)とし、変換後のピッチ方向のローリングシャッタ歪みの形状P´(t)とすると、それぞれ以下のように表せる。
図6(c)は(式2)を用いて、ピッチ方向の移動量Pおよびヨー方向の移動量Yを回転角度差αに基づいて変換した後の移動量P’および移動量Y’を示している。
更に、各ラインの1画素ごとに(式3)を適用することにより、ラインごとの回転方向への一括変換ではなく、1画素ごとの撮像素子に対する水平および垂直方向への並進量として算出することができる。
したがって、回転方向のローリングシャッタ歪みの形状を(式2)のヨー方向とピッチ方向のローリングシャッタ歪みの形状と足し合わせて表することができる。
露光時間中のある時刻tにおける画像上のある画素の座標を(x(t)、y(t))とすると、その座標におけるロール方向のローリングシャッタ歪みによる移動後の座標(x´(t)、y´(t))は次式のように表される。
したがって、ロール方向のぶれを補正するために撮像素子が回転している場合であっても、ローリングシャッタ歪みの形状を精度よく算出することができる。また、上述の露光時間中のある時刻tについては、撮像素子の1ラインごとの読み出し完了時とすれば時間分解能としては十分である。ただし、演算量を削減するために、より離散的な時間間隔、例えば露光時間中に等間隔に10点程度について(式2)を算出して、その間の期間を区分2次補間等の補間手法を用いて補間する方法を用いてもよい。
なお、ここでは、ローリングシャッタ歪み補正部111は、ローリングシャッタ歪み補正を1画素ごとに移動させて補正する場合について説明したが、この場合に限られない。ローリングシャッタ歪みは画像の読み出しのタイミングがラインごとに異なっている。換言すると、同一ライン上の全ての画素は一様な移動が生じている。したがって、ローリングシャッタ歪み補正部111は画像の1ライン単位でローリングシャッタ歪みを補正してもよい。
本実施形態では、撮像装置のぶれ補正を撮像素子に加えて光学系でも行う場合について説明する。図7は、第2の実施形態の撮像装置700の構成の一例を示す図である。なお、図7では、第1の実施形態と同様の構成は、図1と同一符号を付して適宜、説明を省略する。
撮像装置700は、ぶれ補正光学系701、ぶれ補正部材位置情報取得部702を有する。ぶれ補正部材位置情報取得部702は、ぶれ補正により揺動させた撮像素子の位置情報に加えて、ぶれ補正により揺動させたぶれ補正光学系701の位置情報も取得する。ぶれ補正部材位置情報取得部702は、第2の取得手段および第3の取得手段の一例に対応する。
S801では、ぶれ補正量算出部108は、移動情報取得部105から得られた撮像装置の移動情報に基づいてぶれ補正量を算出する。次に、撮像素子揺動制御部109は、ぶれ補正量算出部108により算出されたぶれ補正量に基づいて、ぶれの動きを打ち消す方向に撮像素子102およびぶれ補正光学系701を揺動させる。ここで、撮像素子102およびぶれ補正光学系701のそれぞれでどのようなぶれ補正を行うかについては限定されない。ぶれ補正方法の一例として、ぶれ補正光学系701で可能な限り補正を行い、残ったぶれを撮像素子102で補正するという方法がある。また、他のぶれ補正方法の一例として、ピッチ方向とヨー方向についてはぶれ補正光学系701で補正を行い、並進やロール方向については撮像素子102で補正するというように、ぶれの方向によって分担して補正する方法であってもよい。
S803では、ローリングシャッタ歪み補正量算出部110は、ローリングシャッタ歪み補正量を算出する。
本実施形態では、ぶれ補正光学系の揺動情報を考慮することで、ローリングシャッタ歪みの形状を精度よく算出できるようにする。
ここで、画像上に表われるローリングシャッタ歪みの形状は、撮像装置の移動によるローリングシャッタ歪みの形状から、撮像素子102およびぶれ補正光学系701の揺動によるローリングシャッタ歪みの形状を差し引いたものとなる。すなわち、露光時間中のある時刻tにおける、補正残りのローリングシャッタ歪みの形状p3(t)は以下の式で表される。
次に、撮像装置のぶれを補正するために露光時間中に撮像素子102およびぶれ補正光学系701が揺動している場合におけるローリングシャッタ歪みの形状の算出方法について説明する。本実施形態でも、撮像装置に搭載のジャイロセンサの各軸方向と、撮像素子の水平方向および垂直方向にずれが生じている。本実施形態では、撮像装置のぶれを補正するためにぶれ補正光学系701も揺動させている。したがって、ローリングシャッタ歪みの形状を算出するには、ぶれ補正部材位置情報取得部702から得られる露光時間中の撮像素子およびぶれ補正光学系の揺動情報と、移動情報取得部105から得られる撮像装置の移動情報とを用いる。すなわち、最終的に画像上に表われているローリングシャッタ歪みの形状は、ジャイロセンサから得られるヨー方向およびピッチ方向の移動量からぶれ補正光学系によって補正された揺動量を差し引いた値を用いて算出する必要がある。
また、ロール方向のローリングシャッタ歪みについては、第1の実施形態と同様にジャイロセンサから得られるロール方向の移動量ではなく、上述した回転角度差α(t)に基づいて、ローリングシャッタ歪みの形状を算出することができる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記録媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (9)
- 1または複数のラインごとに露光タイミングが異なる撮像素子を揺動させることによりぶれ補正を行う撮像装置であって、
該撮像装置の移動情報を取得する第1の取得手段と、
前記撮像素子をぶれ補正のために揺動させたときの前記撮像素子の揺動情報を取得する第2の取得手段と、
前記第1の取得手段において取得された移動情報と前記第2の取得手段により取得された揺動情報とに基づいて、ローリングシャッタ歪みの補正量を算出する算出手段と、
前記算出手段により算出された補正量に基づいてローリングシャッタ歪みを補正する補正手段と、を有し、
前記算出手段は、
該撮像装置が光軸回りに回転したことに応じて前記撮像素子をぶれ補正のために回転させたときの該撮像装置と前記撮像素子との間の回転角度差に基づいて、前記第1の取得手段において取得された移動情報をローリングシャッタ歪みが生じる方向の移動情報に変換して前記ローリングシャッタ歪みの補正量を算出することを特徴とする撮像装置。 - 1または複数のラインごとに露光タイミングが異なる撮像素子を揺動させることによりぶれ補正を行う撮像装置であって、
該撮像装置の移動情報を取得する第1の取得手段と、
前記撮像素子をぶれ補正のために揺動させたときの前記撮像素子の揺動情報を取得する第2の取得手段と、
前記第1の取得手段において取得された移動情報と前記第2の取得手段により取得された揺動情報とに基づいて、ローリングシャッタ歪みの補正量を算出する算出手段と、
前記算出手段により算出された補正量に基づいてローリングシャッタ歪みを補正する補正手段と、を有し、
前記算出手段は、
該撮像装置が光軸回りに回転したことに応じて前記撮像素子をぶれ補正のために回転させたときの該撮像装置と前記撮像素子との間の回転角度差から算出した光軸回りにおける補正量を加えて、前記ローリングシャッタ歪みの補正量を算出することを特徴とする撮像装置。 - 前記算出手段は、
前記第1の取得手段において取得された移動情報を、前記撮像素子に対する垂直方向および水平方向の移動情報に変換することを特徴とする請求項1または2に記載の撮像装置。 - 前記第1の取得手段により取得された移動情報に基づいて、光学系をぶれ補正のために揺動させたときの前記光学系の揺動情報を取得する第3の取得手段を有し、
前記算出手段は、
前記第1の取得手段において取得された移動情報を、前記第2の取得手段により取得された揺動情報および前記第3の取得手段により取得された揺動情報に基づいてローリングシャッタ歪みが生じる方向の移動情報に変換してローリングシャッタ歪みの補正量を算出することを特徴とする請求項1ないし3の何れか1項に記載の撮像装置。 - 前記算出手段は、
前記撮像素子の1または複数のラインごとに、前記第1の取得手段において取得された移動情報を、ローリングシャッタ歪みが生じる方向の移動情報に変換することを特徴とする請求項1ないし4の何れか1項に記載の撮像装置。 - 1または複数のラインごとに露光タイミングが異なる撮像素子を揺動させることによりぶれ補正を行う撮像装置の制御方法であって、
該撮像装置の移動情報を取得する第1の取得ステップと、
前記撮像素子をぶれ補正のために揺動させたときの前記撮像素子の揺動情報を取得する第2の取得ステップと、
前記第1の取得ステップにおいて取得された移動情報と前記第2の取得ステップにより取得された揺動情報とに基づいて、ローリングシャッタ歪みの補正量を算出する算出ステップと、
前記算出ステップにより算出された補正量に基づいてローリングシャッタ歪みを補正する補正ステップと、を有し、
前記算出ステップは、
該撮像装置が光軸回りに回転したことに応じて前記撮像素子をぶれ補正のために回転させたときの該撮像装置と前記撮像素子との間の回転角度差に基づいて、前記第1の取得ステップにおいて取得された移動情報をローリングシャッタ歪みが生じる方向の移動情報に変換して前記ローリングシャッタ歪みの補正量を算出することを特徴とする撮像装置の制御方法。 - 1または複数のラインごとに露光タイミングが異なる撮像素子を揺動させることによりぶれ補正を行う撮像装置の制御方法であって、
該撮像装置の移動情報を取得する第1の取得ステップと、
前記撮像素子をぶれ補正のために揺動させたときの前記撮像素子の揺動情報を取得する第2の取得ステップと、
前記第1の取得ステップにおいて取得された移動情報と前記第2の取得ステップにより取得された揺動情報とに基づいて、ローリングシャッタ歪みの補正量を算出する算出ステップと、
前記算出ステップにより算出された補正量に基づいてローリングシャッタ歪みを補正する補正ステップと、を有し、
前記算出ステップは、
該撮像装置が光軸回りに回転したことに応じて前記撮像素子をぶれ補正のために回転させたときの該撮像装置と前記撮像素子との間の回転角度差から算出した光軸回りにおける補正量を加えて、前記ローリングシャッタ歪みの補正量を算出することを特徴とする撮像装置の制御方法。 - コンピュータを、請求項1ないし5の何れか1項に記載の撮像装置の各手段として機能させるためのプログラム。
- コンピュータを、請求項1ないし5の何れか1項に記載の撮像装置の各手段として機能させるためのプログラムを記録したコンピュータが読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019070752A JP7237701B2 (ja) | 2019-04-02 | 2019-04-02 | 撮像装置、制御方法およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019070752A JP7237701B2 (ja) | 2019-04-02 | 2019-04-02 | 撮像装置、制御方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020170924A JP2020170924A (ja) | 2020-10-15 |
JP7237701B2 true JP7237701B2 (ja) | 2023-03-13 |
Family
ID=72746809
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019070752A Active JP7237701B2 (ja) | 2019-04-02 | 2019-04-02 | 撮像装置、制御方法およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7237701B2 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017058660A (ja) | 2015-09-15 | 2017-03-23 | キヤノン株式会社 | 像振れ補正装置、傾き補正装置、像振れ補正装置の制御方法、傾き補正装置の制御方法 |
JP2018189730A (ja) | 2017-04-28 | 2018-11-29 | キヤノン株式会社 | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 |
US20190132516A1 (en) | 2016-05-20 | 2019-05-02 | Sz Dji Osmo Technology Co., Ltd. | Systems and methods for digital video stabalization |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6209002B2 (ja) * | 2013-07-16 | 2017-10-04 | キヤノン株式会社 | 撮像装置およびその制御方法 |
-
2019
- 2019-04-02 JP JP2019070752A patent/JP7237701B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017058660A (ja) | 2015-09-15 | 2017-03-23 | キヤノン株式会社 | 像振れ補正装置、傾き補正装置、像振れ補正装置の制御方法、傾き補正装置の制御方法 |
US20190132516A1 (en) | 2016-05-20 | 2019-05-02 | Sz Dji Osmo Technology Co., Ltd. | Systems and methods for digital video stabalization |
JP2018189730A (ja) | 2017-04-28 | 2018-11-29 | キヤノン株式会社 | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP2020170924A (ja) | 2020-10-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6209002B2 (ja) | 撮像装置およびその制御方法 | |
KR101624450B1 (ko) | 화상 처리 장치, 화상 처리 방법, 및 기록 매체 | |
JP6327245B2 (ja) | 撮像装置、固体撮像素子、カメラモジュール、電子機器、および撮像方法 | |
JP5531194B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP4586534B2 (ja) | 撮像装置、手ブレ補正装置、携帯電話機および手ブレ補正方法 | |
JP5794705B2 (ja) | 撮像装置、その制御方法及びプログラム | |
JP2018189730A (ja) | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 | |
CN102780848A (zh) | 利用卷帘快门方法来执行摄像的摄像装置及其控制方法 | |
JP5729237B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US11445109B2 (en) | Image processing device, image capturing device, image processing method, and storage medium | |
JPWO2014171304A1 (ja) | 撮像装置、撮像装置駆動方法、撮像装置制御プログラム | |
US8363118B2 (en) | Image processing device and method for controlling the same | |
JP2018207413A (ja) | 撮像装置 | |
JP4771901B2 (ja) | 撮像装置、画像歪み補正方法及びプログラム | |
JP5424068B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び記憶媒体 | |
JP7237701B2 (ja) | 撮像装置、制御方法およびプログラム | |
JP5393877B2 (ja) | 撮像装置および集積回路 | |
JP6257289B2 (ja) | 画像処理装置およびそれを備えた撮像装置、画像処理方法 | |
JP2017022597A (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP5279453B2 (ja) | 画像振れ補正装置、撮像装置及び画像振れ補正方法 | |
JP2015095670A (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP4740008B2 (ja) | 手ぶれ検出装置およびデジタルカメラ | |
JP2005027046A (ja) | 画像処理装置及び画像処理方法 | |
JP2018098612A (ja) | 画像処理装置及び画像処理方法、撮像装置、プログラム、記憶媒体 | |
US20230209194A1 (en) | Imaging apparatus, driving method, and imaging program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220204 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221013 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221122 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230105 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230131 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230301 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7237701 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |