JP2017219635A - 画像処理装置及び方法、撮像装置、及び撮像システム - Google Patents

画像処理装置及び方法、撮像装置、及び撮像システム Download PDF

Info

Publication number
JP2017219635A
JP2017219635A JP2016112955A JP2016112955A JP2017219635A JP 2017219635 A JP2017219635 A JP 2017219635A JP 2016112955 A JP2016112955 A JP 2016112955A JP 2016112955 A JP2016112955 A JP 2016112955A JP 2017219635 A JP2017219635 A JP 2017219635A
Authority
JP
Japan
Prior art keywords
blur
correction amount
unit
blur correction
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016112955A
Other languages
English (en)
Other versions
JP6806467B2 (ja
JP2017219635A5 (ja
Inventor
晋平 宮原
Shinpei Miyahara
晋平 宮原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016112955A priority Critical patent/JP6806467B2/ja
Priority to US15/612,509 priority patent/US10623643B2/en
Publication of JP2017219635A publication Critical patent/JP2017219635A/ja
Publication of JP2017219635A5 publication Critical patent/JP2017219635A5/ja
Application granted granted Critical
Publication of JP6806467B2 publication Critical patent/JP6806467B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/663Remote control of cameras or camera parts, e.g. by remote control devices for controlling interchangeable camera parts based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Structure And Mechanism Of Cameras (AREA)

Abstract

【課題】 複数の装置に搭載された防振機能が通信を介して協調して防振制御する場合に、通信エラーが発生したり、通信に遅れが生じた場合であっても、防振効果の低下を抑制すること。【解決手段】 通信手段を介して外部から取得したブレ情報に基づいて、ブレ補正量を求める取得手段(126、301)と、過去に用いたブレ補正量に基づいて、ブレ補正量を予測する予測手段(306)と、前記取得手段により求めたブレ補正量と、前記予測手段により予測されたブレ補正量のいずれかを選択する選択手段(307)と、前記選択手段により選択されたブレ補正量に基づいて、ブレを補正する補正手段(310)と、を有し、前記選択手段は、前記ブレ情報が取得できた場合に、前記取得手段により求めたブレ補正量を選択し、前記ブレ情報が取得できなかった場合に、前記予測手段により予測したブレ補正量を選択する。【選択図】 図3

Description

本発明は、画像処理装置及び方法、及び、画像処理装置を搭載した撮像装置及び撮像システムに関する。
振れを検出して、検出した振れに起因する像ブレを補正するように移動可能なレンズ、または撮像素子を駆動するブレ補正装置を備えた撮像装置や交換レンズが知られている。このような方式の手ブレ補正機能を光学式手ブレ補正という。また近年では、動画において、振れをキャンセルする方向にフレーム画像を切り出して出力する手ブレ補正機能もあり、小型・軽量の撮像装置や撮像装置付き携帯電話などに用いられている。このような方式の手ブレ補正を、電子式手ブレ補正という。
ブレを検出する方式としては、角速度センサ(ジャイロセンサ)が一般的であり、検出した角速度をもとにブレをキャンセルする方向にレンズまたは撮像素子を駆動する。また近年では、撮像装置のフレームレートの高速化と画像処理の高度化により、フレーム間の画像のブレを解析し、動きベクトルを求めることでブレを検出する技術も知られている。
動きベクトルによるブレ検出においては、次のようにして、画像ノイズによる動きベクトルの誤算出や被写体ブレによる手ブレ以外の要素の除去を行う技術がある。まず、画像を小さなブロックごとに分割し、分割したブロックごとに動きベクトルを算出し、算出した複数個の動きベクトルから、全体の動きベクトルを求める。
また、交換レンズ方式のカメラシステムにおいては、交換レンズ側に光学式手ブレ補正を行う機能を備え、カメラ側に光学式手ブレ補正または電子式手ブレ補正を行う機能を備えた組み合わせが考えられる。このように、カメラとレンズでそれぞれ独立したブレ補正を行う機能を備えたシステムにおいては、レンズとカメラが独立にブレ補正を制御するのではなく、通信を介してそれぞれが協調し合って制御し、補正効果を高めるという技術もある。
特許文献1では、カメラ側に角速度センサを有し、交換レンズ側にブレ補正手段を有するカメラシステムにおいて、カメラから交換レンズに対して一定周期間隔でブレ補正データ送信を行って交換レンズ側でブレ補正をすることが開示されている。しかしながら、データ送信が必ずしも一定間隔でできるとは限らないため、データ送信が遅れた場合には、前回のブレ補正データを使ってブレ補正を実施することが開示されている。
特開2003−186074号公報
上述したように、レンズとカメラが通信を介して協調して手ブレ補正を制御するシステムにおいては、通信エラーが起こった場合や通信が遅れた場合、受信する側が適切なブレ補正の処理タイミングで補正量の設定ができないという課題がある。
また特許文献1に記載された技術では、前回のブレ補正量を用いてブレ補正を実施するだけなので、ブレ補正の精度が大きく低下してしまうという課題がある。
本発明は上記問題点を鑑みてなされたものであり、複数の装置に搭載された防振機能が通信を介して協調して防振制御する場合に、通信エラーが発生したり、通信に遅れが生じた場合であっても、防振効果の低下を抑制することを目的とする。
上記目的を達成するために、本発明の画像処理装置は、通信手段を介して外部から取得したブレ情報に基づいて、ブレ補正量を求める取得手段と、過去に用いたブレ補正量に基づいて、ブレ補正量を予測する予測手段と、前記取得手段により求めたブレ補正量と、前記予測手段により予測されたブレ補正量のいずれかを選択する選択手段と、前記選択手段により選択されたブレ補正量に基づいて、ブレを補正する補正手段と、を有し、前記選択手段は、前記ブレ情報が取得できた場合に、前記取得手段により求めたブレ補正量を選択し、前記ブレ情報が取得できなかった場合に、前記予測手段により予測したブレ補正量を選択する。
本発明によれば、複数の装置に搭載された防振機能が通信を介して協調して防振制御する場合に、通信エラーが発生したり、通信に遅れが生じた場合であっても、防振効果の低下を抑制することができる。
本発明の第1の実施形態に係る撮像システムの機能構成を示すブロック図。 実施形態に係る防振制御の機能構成を示すブロック図。 実施形態に係る電子防振制御部の構成を示すブロック図。 実施形態に係る電子防振補正量演算処理を示すフローチャート。
以下、添付図面を参照して本発明を実施するための形態を詳細に説明する。
<第1の実施形態>
図1は、本発明の第1の実施形態に係る像ブレ補正装置を含む撮像システムの機能構成を示すブロック図である。この撮像システムは、主に静止画像と動画像の撮影を行うためのレンズ交換式デジタルカメラシステムであり、着脱可能なレンズユニット10と、カメラ本体20とを含む。
図1において、レンズユニット10に含まれる光学系は、変倍を行うズームレンズを含むズームユニット101、絞りユニット103、像ブレ補正ユニット105、焦点調節を行うレンズを含むフォーカスユニット107を含んで構成される。ズームユニット101は、ズーム駆動制御部102により駆動制御され、絞りユニット103は、絞り駆動制御部104により駆動制御される。また、像ブレ補正ユニット105は、像ブレ補正制御部106により駆動制御され、フォーカスユニット107は、フォーカス駆動制御部108により駆動制御される。
操作部109は、レンズユニット10を操作するために用いられる。手ブレ検出部110は、主にジャイロセンサを用いてレンズに加わる手ブレ量を角速度として検出し、電圧(角速度データ)に変換して出力する角速度センサである。レンズシステム制御部111は、レンズ全体を制御する。カメラ通信制御部112は、カメラ本体20との通信を制御する。
一方、カメラ本体20において、シャッターユニット113は、シャッター駆動制御部114により駆動される。撮像部115は、上述した光学系及びシャッターユニット113を通過して入射した光像を電気信号に光電変換する。撮像部115から出力された電気信号は、撮像信号処理部116により映像信号に変換処理され、更に、用途に応じて映像信号処理部117により加工される。表示部118は、映像信号処理部117から出力された信号に基づいて、必要に応じて画像表示を行う。
記憶部119は、映像情報など様々なデータを記憶する。電源部120は、撮像システム全体に、用途に応じて電力を供給する。操作部121は、撮像システムを操作するために用いられる。
なお、操作部109,121には、手ブレ補正ON/OFFを選択可能にする防振ON/OFFスイッチが含まれる。少なくとも操作部109,121のいずれか一方の防振ON/OFFスイッチにより手ブレ補正ONが選択されると、レンズシステム制御部111及びカメラシステム制御部125はそれぞれ、像ブレ補正制御部106及び電子防振制御部124に防振動作を指示する。そして、これを受けた像ブレ補正制御部106及び電子防振制御部124は、防振OFFの指示がなされるまで防振動作を行う。
また、操作部121には、押し込み量に応じて第1スイッチ(SW1)および第2スイッチ(SW2)が順にオンするように構成されたシャッタレリーズボタンが含まれる。シャッタレリーズボタンが約半分押し込まれたときに第1スイッチSW1がオンし、シャッタレリーズボタンが最後まで押し込まれたときに第2スイッチSW2がオンする構造となっている。第1スイッチSW1がオンされると、フォーカス駆動制御部108がフォーカスユニット107を駆動して焦点調節を行うとともに、絞り駆動制御部104が絞りユニット103を駆動して適正な露光量に設定する。第2スイッチSW2がオンされると、撮像部115に露光された光像から得られた画像データが記憶部119に記憶される。
更に、操作部121には動画記録スイッチが含まれる。スイッチ押下により動画撮影が開始され、記録中に再度スイッチが押下されると記録を終了する。動画撮影中に第1スイッチSW1および第2スイッチSW2を押すことで、動画記録中の静止画撮影にも対応できる。また、操作部121には再生モードを選択できる再生モード選択スイッチも含まれており、再生モード時には防振動作を停止する。
手ブレ検出部122は、主にジャイロセンサにより構成され、カメラ本体20に加わる手ブレ量の角速度データを出力する。動きベクトル検出部123は、映像信号のフレーム間のブレを解析して、動きベクトルを検出する。電子防振制御部124は、画像の切り出し位置をシフトすることによる電子式手ブレ補正の制御を行う。カメラシステム制御部125は、撮像システム全体を制御する。レンズ通信制御部126は、レンズユニット10(外部)との通信を制御する。なお、本発明は電子式手ブレ補正に限るものではなく、例えば、撮像部115を光軸に垂直な方向にシフトすることにより手ブレを補正する構成であっても良い。
図2は、上述した撮像システムにおける防振制御に関する構成を示すブロック図である。なお、Pitch方向及びaw方向で防振制御の構成は同じであるため、いずれか一方の方向の構成についてのみ説明を行う。
図2において、上述したようにレンズユニット10に設けられた手ブレ検出部110は、レンズユニット10に加わる手ブレ量の角速度データを出力する。AD変換部201は、手ブレ検出部110が出力した角速度データをデジタルデータに変換する。
ハイパスフィルタ(HPF)202は、AD変換部201により変換された角速度データから、手ブレ検出部110のオフセット成分や、温度ドリフト成分を除去する。積分部203は、主にローパスフィルタによる疑似積分を行って、角速度データを積分して角度データに変換する。光学式手ブレ補正敏感度乗算部204は、積分部203により得られた角度データを、像ブレ補正ユニット105に含まれる補正レンズのシフト量(ブレ補正量)に変換する。この敏感度は焦点距離毎に異なった値を持ち、焦点距離が変わるごとに敏感度も変更される。また、手ブレ検出部110の感度調整による補正量も反映することで、感度バラツキを吸収している。
像ブレ補正信号分割部205は、ブレ補正量を2つに分割する。ここで分割された補正量のうち、光学式ブレ補正に適用するブレ補正量を第1のブレ補正量と呼び、電子式ブレ補正に適用するブレ補正量を第2のブレ補正量と呼ぶ。一例として、ここでの分割は、レンズユニット10側の像ブレ補正ユニット105によるブレ補正最大角度と、カメラ本体20側の電子防振制御部124による電子ぶれ補正最大角度の比率で行う。例えば、像ブレ補正ユニット105によるブレ補正最大角度が0.5度、電子防振制御部124による電子ぶれ補正最大角度が2度である場合、1:4の比率で分割する。なお、上述したように、電子式ブレ補正の代わりに、撮像部115をシフトすることにより補正しても良く、その場合、撮像部115の最大シフト量との比率によって分割すればよい。
光学式像ブレ補正量リミッタ部206は、第1のブレ補正量を光学式の像ブレ補正ユニット105の補正レンズの可動範囲でクランプする。PID制御部207は、補正レンズの位置制御するためのコントローラである。ドライバ部208は、第1のブレ補正量を電圧に変換し、補正レンズを駆動するための電流を供給する。位置検出部209は、補正レンズの位置を検出し、電圧として出力する。210はブレ補正位置AD変換部であり、補正レンズの位置を示すアナログの電圧をデジタルデータに変換する。変換されたデジタルデータは、光学式像ブレ補正量リミッタ部206によりクランプされた第1のブレ補正量から差分される。なお、位置検出部209とAD変換部210は必ずしも必要な構成ではなく、オープン制御としても構わない。
一方、第2のブレ補正量(ブレ情報)は、角度変換部211で角度データに変換される。この変換係数は焦点距離毎に異なった値を持ち、焦点距離が変わるごとに変更される。変換されたデータはカメラ通信制御部112、レンズ通信制御部126を介して、電子防振制御部124に伝達される。電子防振制御部124は、第2のブレ補正量と手ブレ検出部122で得られたブレ量と、動きベクトル検出部123で得られたブレ量とに基づいて、電子式像ブレ補正量を生成し、制御を行う。
図3は本実施形態に係る電子防振制御部124の詳細を示すブロック図である。レンズ通信制御部126は、レンズユニット10から通信を介して受信した第2のブレ補正量を伝達する。画素変換部301は、角度データに換算されて伝達された第2のブレ補正量を、画素シフト量に換算する。この変換にかかる変換係数は焦点距離毎に異なった値を持ち、焦点距離が変わるごとに変更される。変換された画素シフト量は、信号選択部307に入力される。
動きベクトル検出部123は、上述したように撮像信号のフレーム間輝度差分をとることで、画面内の複数のブロックで動きベクトル(以下、「ローカル動きベクトル」と呼ぶ。)を算出する。グローバルベクトル算出部302は、算出された複数のローカル動きベクトルから、ノイズや被写体ブレを除き、手ブレ成分であるグローバルベクトルを生成する。生成されたグローバルベクトルは、電子防振補正量予測部306に入力される。ここで、ローカル動きベクトルを生成する際に、信頼性を求めておく。例えば、急峻なブレが生じた場合や、画像が繰り返しパターンである場合、画像が低コントラストである場合などは、信頼性を低くする。
また、カメラ本体20側の手ブレ検出部122は、上述したようにカメラ本体20に加わる手ブレ量の角速度データを出力し、ハイパスフィルタ(HPF)303により、手ブレ検出部122のオフセットやドリフト成分が除去される。ローパスフィルタ(LPF)304は、高周波ノイズをカットする。画素変換部305は画素変換部301と同様に、角速度データを画素シフト量に換算して、電子防振補正量予測部306に出力する。電子防振補正量予測部306は、過去の第2のブレ補正量とグローバルベクトルと、カメラ本体20側の手ブレ検出部122が検知した手ブレ量から、電子防振補正量を予測して、電子防振補正予測値を出力する。
信号選択部307は、画素シフト量に変換された第2のブレ補正量と電子防振補正予測値のいずれかを選択し、リミッタ308は、選択された第2のブレ補正量または電子防振補正予測値の画素シフト量を、電子防振切り出し範囲でクランプする。リミッタ308によりクランプされた画素シフト量は、遅延部309により1フレーム分遅延される(過去のデータとして保存)と共に、電子防振補正量設定部310により、電子防振における画像の切り出し範囲として設定される。
次に、電子防振補正量予測部306における予測演算の内容について詳細を説明する。
過去の第2のブレ補正量または電子防振補正量をEz、最新のグローバルベクトルをV、手ブレ検出部122で取得した最新のブレ量をGとすると、現在の第2のブレ補正量または電子防振補正量の予測値EpvとEpgは以下のように表現することができる。
Epv = Ez + Av×V …(1)
Epg = Ez + Ag×G …(2)
これは単純な線形予測モデルであり、式(1)はグローバルベクトルによる予測で、式(2)はカメラ本体20の手ブレ検出部122で検知した像ブレ量による予測である。Av、Agはそれぞれ予測ゲインである。
このモデルをカルマンフィルタ、若しくは、逐次最小二乗法に適用することで、予測ゲインAv、Agを同定し、予測値を算出することができるが、それが可能な状況はカメラをパンニングしていない状態である。その状況下ではブレを忠実に補正しようとし、手ブレに反してセンタリングなどしないため、上記モデルの誤差は小さい。逆にパンニングなどをするとセンタリングなどのブレ補正制御以外の動作が含まれるため、上記モデルは誤差が大きくなる。
ただし、カルマンフィルタ、若しくは、逐次最小二乗法の中間変数である予測誤差分散値Pv、Pgをモニタリングすることで、予測ゲインAv、Agの同定精度が確認できる。そのため、パンニングしていない時、すなわち予測誤差分散値が小さい時は、予測ゲインAv、Agの同定値をそのまま用いることで予測値Epv,Epgを算出する。一方、パンニングしている時、すなわち予測誤差分散値が大きくなった時は、予測ゲインAv、Agを小さくすることで、過去の第2のブレ補正量または電子防振補正量Ezを徐々に0に近づけ、センタリングを行う。
本実施形態では、予測値を2つ説明したが、得られたローカル動きベクトルの信頼性や状況に応じて、予測値Epv,Epgのいずれか選択する。ローカル動きベクトルの信頼性が低いと考えられる場合は、式(2)による像ブレ量に基づく予測値Epgを選択し、そうでない場合は、式(1)によるグローバルベクトルに基づく予測値Epvを選択する。またカメラ本体20に手ブレを検知する機能が無い、若しくは動きベクトルを検出する機能が無い場合は、どちらか一方のみの予測値を算出する。両方共無い場合は、レンズユニット10から受信する第2のブレ補正量の2フレーム前の値も使うことで、線形予測モデルを適用することができるが、過去のデータだけから予測した予測値は高周波の精度が低いという課題がある。
次に、予測のフィルタリングステップであるカルマンフィルタについて説明する。以下のような単純な線形予測モデル(式(3))の場合、カルマンフィルタによる予測ステップは式(4)、式(5)、式(6)の3ステップをとる。
y = ax …(3)
Figure 2017219635
a(k) = a(k-1) + K(k)×{y(k)-x(k)×a(k-1)} …(5)
Figure 2017219635
上記式(3)〜(6)において、kはフィルタリングステップ数、yは予測値、xは状態変数、aは予測ゲイン、Kはカルマンゲイン、Pは予測誤差分散値、σω 2は観測ノイズ分散値、Rvはシステムノイズ分散値である。また予測誤差分散値Pの初期値P(0)には適当な大きな値を代入しておき、予測ゲインaの初期値a(0)には0以上1以下の値を代入しておく。
なお、上記式(3)〜(6)におけるy、x、a、Pは、動きベクトルVを用いて予測する場合と、ブレ量Gを用いて予測する場合のそれぞれにおいて、以下のように置き換えればよい。
Figure 2017219635
なお、観測ノイズ分散値σω 2=1、システムノイズ分散値Rv=0とすると逐次最小二乗法のフィルタリングステップとなるが、適応性が無くなるため、望ましくない。
以上の処理を図4のフローチャートを用いて説明する。この一連の処理はフレームレート毎に行われる。
S401では、グローバルベクトル算出部302により算出された最新のグローバルベクトルと、カメラ本体20側の手ブレ検出部122で検出したブレ量と、前回の第2のブレ補正量または電子防振補正量Ezの3つを取得する。S402ではカルマンゲインKvを更新し、S403では予測ゲインAvを更新して予測値Epvを算出し、S404では予測誤差分散値Pvを更新する。以上の処理は、式(1)に基づく予測モデルでのカルマンフィルタステップである。続いて、S405においてカルマンゲインKgを更新し、S406において予測ゲインAgを更新して予測値Epgを算出し、S407において予測誤差分散値Pgを更新する。以上の処理は、式(2)に基づく予測モデルでのカルマンフィルタステップである。なお、S403〜S404の処理と、S405〜S407の処理の順番は逆であっても、同時に行っても良い。
S408では、電子防振処理を行うタイミングに、レンズユニット10から通信を介して伝達される最新の電子防振補正量(第2のブレ補正量)が間に合ったかどうかを判定する。この判定は、通信エラーが起きたり、レンズユニット10とカメラ本体20間で防振に関する情報以外の情報(例えば、AFや絞り等に制御に関する情報等)の通信によりデータ量が一時的に多くなって、遅延が生じるといったことがあるために行われる。間に合った場合は、S409においてその最新の電子防振補正量が選択される。
間に合わなかった場合は、S410で最新のローカル動きベクトルの信頼性が、予め決められた閾値THr以下かどうかを判定する。信頼性が閾値THrより高い場合は、S411でグローバルベクトルを用いた予測誤差分散値Pvが予め決められた閾値αより小さいかどうかを判定する。閾値αより小さい場合は予測信頼性が高いので、S412において信号選択部307によりグローバルベクトルによる予測値Epvが選択される。閾値α以上の場合は予測信頼性が低いため、S415で予測ゲインAvを小さくし、過去の第2のブレ補正量または電子防振補正量Ezを徐々に0に近づけることで、画像の切り出し位置を中心(基準状態)に移行していくセンタリングを行う。
一方、S410でローカル動きベクトルの信頼性が閾値THr以下と判定された場合は、S413で、カメラ本体20側の手ブレ検出部122で検出したブレ量を用いた予測誤差分散値Pgが、予め決められた閾値βより小さいかどうかを判定する。閾値βより小さい場合は予測信頼性が高いので、S414でカメラ本体20側の手ブレ検出部122で検出したブレ量Gによる予測値Epgを選択する。閾値β以上の場合は予測の信頼性が低いため、S415で予測ゲインAgを小さくし、過去の第2のブレ補正量または電子防振補正量Ezを徐々に0に近づけることで、センタリングを行う。最後にS416において、選択された電子防振補正量を設定し、画像を切り出し、映像信号を処理する。
上記の通り本実施形態によれば、レンズユニットの防振機能とカメラ本体の防振機能が通信を介して協調して防振制御する場合に、通信エラーが発生したり、通信に遅れが生じた場合であっても、防振効果の低下を抑制することができる。
10:レンズユンット、20:カメラ本体、105:像ブレ補正ユニット、106:像ブレ補正制御部、110:手ブレ検出部、111:レンズシステム制御部、112:カメラ通信制御部、115:撮像部、122:手ブレ検出部、123:動きベクトル検出部、124:電子防振制御部、125:カメラシステム制御部、126:レンズ通信制御部、301:画素変換部、302:グローバルベクトル算出部、306:電子防振補正量予測部、307信号選択部、309:遅延部309、310:電子防振補正量設定部

Claims (12)

  1. 通信手段を介して外部から取得したブレ情報に基づいて、ブレ補正量を求める取得手段と、
    過去に用いたブレ補正量に基づいて、ブレ補正量を予測する予測手段と、
    前記取得手段により求めたブレ補正量と、前記予測手段により予測されたブレ補正量のいずれかを選択する選択手段と、
    前記選択手段により選択されたブレ補正量に基づいて、ブレを補正する補正手段と、を有し、
    前記選択手段は、前記ブレ情報が取得できた場合に、前記取得手段により求めたブレ補正量を選択し、前記ブレ情報が取得できなかった場合に、前記予測手段により予測したブレ補正量を選択することを特徴とする画像処理装置。
  2. ブレ量を検出する検出手段を更に有し、
    前記予測手段は、前記検出手段により検出したブレ量を更に用いて、ブレ補正量を予測することを特徴とする請求項1に記載の画像処理装置。
  3. 前記検出手段は、撮影して得られた画像のフレーム間の動きベクトルを求めて、ブレ量を検出する第1の検出手段を含むことを特徴とする請求項2に記載の画像処理装置。
  4. 前記検出手段は、角速度センサによりブレ量を検出する第2の検出手段を含むことを特徴とする請求項2に記載の画像処理装置。
  5. 前記検出手段は、更に、角速度センサによりブレ量を検出する第2の検出手段を含み、
    前記予測手段は、前記動きベクトルの信頼性が予め決められた信頼性よりも高い場合に、前記第1の検出手段により検出されたブレ量を用いてブレ補正量を予測し、前記動きベクトルの信頼性が前記予め決められた信頼性以下の場合に、前記第2の検出手段により検出されたブレ量を用いてブレ補正量を予測することを特徴とする請求項3に記載の画像処理装置。
  6. 前記予測手段は、カルマンフィルタまたは最小二乗法を用いて予測することを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
  7. 前記予測手段により予測した予測値の確からしさを測るための予測誤差分散値が、予め決められた閾値以上の場合に、前記補正手段を予め決められた基準状態に徐々に移行させることを特徴とする請求項5に記載の画像処理装置。
  8. 前記選択手段により選択されたブレ補正量に基づいて、ブレを補正する補正手段を用いて、撮像して得られた画像の切り出し位置を変えることで、ブレを補正することを特徴とする請求項1乃至7のいずれか1項に記載の画像処理装置。
  9. 前記選択手段により選択されたブレ補正量に基づいて、ブレを補正する補正手段を用いて、撮像素子を光軸に対して垂直な方向にシフトすることでブレを補正することを特徴とする請求項1乃至7のいずれか1項に記載の画像処理装置。
  10. 画像を撮影するための撮像素子と、
    請求項1乃至9のいずれか1項に記載の画像処理装置と
    を有することを特徴とする撮像装置。
  11. 着脱可能なレンズユニットと撮像装置とを含む撮像システムであって、
    前記レンズユニットは、
    ブレ量を検出する検出手段と、
    前記検出手段により検出されたブレ量に基づいてブレ補正量を求め、レンズユニットで用いる第1の補正量と、前記撮像装置で用いる第2の補正量とに分割する分割手段と、
    前記第2の補正量をブレ情報として前記撮像装置に送信する送信手段と、
    前記第1の補正量に基づいてブレを補正する補正手段と、を有し、
    前記撮像装置は、
    画像を撮影するための撮像素子と、
    請求項1乃至9のいずれか1項に記載の画像処理装置と、を有する
    ことを特徴とする撮像システム。
  12. 取得手段が、レンズユニットと通信するための通信手段を介して、前記レンズユニットから取得したブレ情報に基づいて、ブレ補正量を求める取得工程と、
    予測手段が、過去に用いたブレ補正量に基づいて、ブレ補正量を予測する予測工程と、
    選択手段が、前記取得工程で求めたブレ補正量と、前記予測工程で予測されたブレ補正量のいずれかを選択する選択工程と、
    補正手段が、前記選択工程で選択されたブレ補正量に基づいて、ブレを補正する補正工程と、を有し、
    前記選択工程では、前記ブレ情報が取得できた場合に、前記取得工程で求めたブレ補正量を選択し、前記ブレ情報が取得できなかった場合に、前記予測工程で予測したブレ補正量を選択することを特徴とする画像処理方法。
JP2016112955A 2016-06-06 2016-06-06 画像処理装置及び方法、撮像装置、及び撮像システム Active JP6806467B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016112955A JP6806467B2 (ja) 2016-06-06 2016-06-06 画像処理装置及び方法、撮像装置、及び撮像システム
US15/612,509 US10623643B2 (en) 2016-06-06 2017-06-02 Image processing apparatus capable of performing image stabilization based on communication result, and method, image capturing apparatus, and image capturing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016112955A JP6806467B2 (ja) 2016-06-06 2016-06-06 画像処理装置及び方法、撮像装置、及び撮像システム

Publications (3)

Publication Number Publication Date
JP2017219635A true JP2017219635A (ja) 2017-12-14
JP2017219635A5 JP2017219635A5 (ja) 2019-07-11
JP6806467B2 JP6806467B2 (ja) 2021-01-06

Family

ID=60482491

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016112955A Active JP6806467B2 (ja) 2016-06-06 2016-06-06 画像処理装置及び方法、撮像装置、及び撮像システム

Country Status (2)

Country Link
US (1) US10623643B2 (ja)
JP (1) JP6806467B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020044803A1 (ja) * 2018-08-30 2020-03-05 富士フイルム株式会社 撮像装置、撮像方法、及びプログラム
EP3965055A1 (en) 2020-09-02 2022-03-09 Canon Kabushiki Kaisha Image blur correction apparatus, control method therefor, image capturing apparatus, and storage medium

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020148999A (ja) * 2019-03-15 2020-09-17 キヤノン株式会社 制御装置、撮像装置、レンズ装置、制御方法、および、プログラム
KR20210155284A (ko) * 2020-06-15 2021-12-22 한화테크윈 주식회사 영상처리장치
JP2022181570A (ja) * 2021-05-26 2022-12-08 キヤノン株式会社 ブレ補正制御装置、撮像装置、レンズ装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002016836A (ja) * 2000-06-29 2002-01-18 Toshiba Corp 撮像装置の揺れ補正装置及び方法
JP2003186074A (ja) * 2001-12-21 2003-07-03 Canon Inc カメラシステム
JP2014143530A (ja) * 2013-01-23 2014-08-07 Sony Corp 情報処理装置と情報処理方法および撮像装置
JP2015194712A (ja) * 2014-03-28 2015-11-05 パナソニックIpマネジメント株式会社 撮像装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2407226B (en) * 2003-10-18 2008-01-23 Hewlett Packard Development Co Image processing scheme
JP3992286B2 (ja) * 2005-01-28 2007-10-17 キヤノン株式会社 カメラシステムおよび交換レンズ
US20090027544A1 (en) * 2007-07-25 2009-01-29 Micron Technology, Inc. Solid state optical motion compensation
KR102331538B1 (ko) * 2015-09-16 2021-11-26 한화테크윈 주식회사 영상 안정화 방법, 장치 및 컴퓨터 기록매체

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002016836A (ja) * 2000-06-29 2002-01-18 Toshiba Corp 撮像装置の揺れ補正装置及び方法
JP2003186074A (ja) * 2001-12-21 2003-07-03 Canon Inc カメラシステム
JP2014143530A (ja) * 2013-01-23 2014-08-07 Sony Corp 情報処理装置と情報処理方法および撮像装置
JP2015194712A (ja) * 2014-03-28 2015-11-05 パナソニックIpマネジメント株式会社 撮像装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020044803A1 (ja) * 2018-08-30 2020-03-05 富士フイルム株式会社 撮像装置、撮像方法、及びプログラム
CN112602015A (zh) * 2018-08-30 2021-04-02 富士胶片株式会社 摄像装置、摄像方法及程序
JPWO2020044803A1 (ja) * 2018-08-30 2021-04-30 富士フイルム株式会社 撮像装置、撮像方法、及びプログラム
US11310424B2 (en) 2018-08-30 2022-04-19 Fujifilm Corporation Image capturing device, image capturing method, and program
US11570362B2 (en) 2018-08-30 2023-01-31 Fujifilm Corporation Image capturing device, image capturing method, and program
EP3965055A1 (en) 2020-09-02 2022-03-09 Canon Kabushiki Kaisha Image blur correction apparatus, control method therefor, image capturing apparatus, and storage medium
US11431904B2 (en) 2020-09-02 2022-08-30 Canon Kabushiki Kaisha Image blur correction apparatus, control method therefor, image capturing apparatus, and storage medium

Also Published As

Publication number Publication date
JP6806467B2 (ja) 2021-01-06
US20170353667A1 (en) 2017-12-07
US10623643B2 (en) 2020-04-14

Similar Documents

Publication Publication Date Title
JP7277513B2 (ja) レンズ装置、レンズ装置の制御方法およびレンズ装置の制御プログラム、
US9692976B2 (en) Imaging apparatus with shake correction function
CN107135338B (zh) 摄像系统及其控制方法、摄像设备和镜头装置
US9876958B2 (en) Imaging apparatus having a shake correction function in both of an interchangeable lens and a camera body
JP6700853B2 (ja) 撮像システムおよびその制御方法、撮像装置、レンズ装置
JP6806467B2 (ja) 画像処理装置及び方法、撮像装置、及び撮像システム
KR102393775B1 (ko) 카메라 컨트롤러, 화상 처리 모듈 및 반도체 시스템
WO2018030166A1 (ja) 像ブレ補正装置、光学機器、および像ブレ補正方法
JP2016118701A (ja) 撮像装置及びその制御方法
CN107786809B (zh) 摄像和配件设备及其通信控制方法、摄像系统及存储介质
JP2017212681A (ja) 防振制御装置、光学機器および防振制御プログラム
US11516399B2 (en) Imaging apparatus and image stabilization sharing between interchangeable lens and camera body
JP6429500B2 (ja) 光学機器、交換レンズ及び像ぶれ補正方法
JP6543946B2 (ja) ブレ補正装置、カメラ及び電子機器
US10623644B2 (en) Image pick-up apparatus and control method thereof
JP6642971B2 (ja) 像ブレ補正装置、光学機器、撮像装置および制御方法
US9955078B2 (en) Image shake correction device, control method, and image pickup apparatus
CN108737698B (zh) 图像稳定设备和方法、摄像设备、摄像系统和存储介质
JP6759019B2 (ja) ブレ補正装置およびその制御方法、撮像装置
US20180260939A1 (en) Image blur correction device, optical apparatus, and control method
JP7321844B2 (ja) 振れ補正制御装置及び振れ補正制御方法
JP6579900B2 (ja) 像ブレ補正装置及び方法
JP2020038296A (ja) 撮像装置、レンズ装置およびこれらの制御方法
JP2021027483A (ja) 撮像装置およびその制御方法
JP2020012898A (ja) 交換レンズ及びカメラボディ

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190604

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190604

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201204

R151 Written notification of patent or utility model registration

Ref document number: 6806467

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151