JP7243727B2 - 撮像制御装置、撮像制御方法、プログラム - Google Patents
撮像制御装置、撮像制御方法、プログラム Download PDFInfo
- Publication number
- JP7243727B2 JP7243727B2 JP2020536335A JP2020536335A JP7243727B2 JP 7243727 B2 JP7243727 B2 JP 7243727B2 JP 2020536335 A JP2020536335 A JP 2020536335A JP 2020536335 A JP2020536335 A JP 2020536335A JP 7243727 B2 JP7243727 B2 JP 7243727B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- camera shake
- shake correction
- control
- control unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B17/00—Details of cameras or camera bodies; Accessories therefor
- G03B17/56—Accessories
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B5/00—Adjustment of optical system relative to image or object surface other than for focusing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
- H04N23/687—Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
Description
しかしながら、手ブレ補正機能付きの撮像装置について、雲台装置を駆動制御することによる被写体追尾を行う場合には、手ブレ補正が被写体追尾のための雲台駆動方向とは逆方向に作用することがあり、追尾の応答性を低下させる虞がある。例えば、静止していた被写体が素早く動き出すシーンにおいて、ユーザが雲台装置の向きを被写体の移動方向に合わせて素早く変えるような場合には、手ブレ補正が被写体の移動方向とは逆方向に効く(作用する)ことで、被写体に対する追尾の応答性が著しく低下する虞がある。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
<1.第一実施形態>
[1-1.装置構成例]
[1-2.被写体追尾について]
[1-3.手ブレ補正制御]
<2.第二実施形態>
[2-1.制御例I]
[2-2.制御例II]
[2-3.制御例III]
<3.変形例>
[3-1.第一変形例]
[3-2.第二変形例]
[3-3.その他変形例]
<4.実施形態のまとめ>
<5.本技術>
[1-1.装置構成例]
図1は、本技術に係る第一実施形態としての撮像制御装置(撮像装置10)を備えた撮像システムの外観構成例についての説明図である。
撮像システムは、撮像装置10と雲台装置1とを備えて構成される。撮像システムにおいては、撮像装置10が雲台装置1に搭載された状態で、雲台装置1の回転動作により撮像装置10の撮像方向が変化される。特に、雲台装置1は後述するアクチュエータを備えており、該アクチュエータが駆動制御されることで、追尾対象とする被写体に対して自動追尾が行われる。
雲台装置1には、図中矢印D1で表すヨー(Yaw)方向の回転のための回転軸部2と、矢印D2で表すピッチ(Pitch)方向の回転のための回転軸部3とが設けられると共に、基台部4と装着部5とアーム部6とが設けられている。
装着部5は、回転軸部3を介してアーム部6に取り付けられており、これによって装着部5はアーム部6に対してピッチ方向に回転可能とされている。
雲台装置1は、アクチュエータ7と駆動制御部8と通信部9とを備えている。
アクチュエータ7としては、本例では回動軸部2を回転駆動するヨー方向アクチュエータ(モータ)と、回動軸部3を回転駆動するピッチ方向アクチュエータ(モータ)とが設けられている。
撮像装置10は、デジタルカメラ装置として構成され、被写体の撮像を行い、静止画や動画としての画像データを記録媒体に記録したり、外部装置に送信したりすることができる。
図示のように撮像装置10は、イメージャ(イメージセンサ)11、カメラ信号処理部12、マイクロフォン13、音声信号処理部14、符号化部15、制御部16、メモリ部17、メディアドライブ18、通信部19、バス20、ブレ補正アクチュエータ21、補正制御部22、動きセンサ23を備えている。バス20には、カメラ信号処理部12、音声信号処理部14、符号化部15、制御部16、メモリ部17、メディアドライブ18、及び通信部19が接続されており、これら各部はバス20を介して互いにデータ通信可能とされている。
イメージャ11は、受光した光を光電変換して得た電気信号について、例えばCDS(Correlated Double Sampling)処理、AGC(Automatic Gain Control)処理などを実行し、さらにA/D(Analog/Digital)変換処理を行う。そしてデジタルデータとしての画像信号を、後段のカメラ信号処理部12に出力する。
符号化部15により符号化された画像信号や音声信号を以下「符号化データ」と表記する。
RAMは、CPUの各種データ処理の際の作業領域として、データやプログラム等の一時的な格納に用いられる。ROMは、CPUが各部を制御するためのOS(Operating System)や、画像ファイル等のコンテンツファイルの他、各種動作のためのアプリケーションプログラムや、ファームウエア等の記憶に用いられる。
また、特に本例の制御部16は、追尾制御処理部F1、手ブレ補正制御処理部F2としての機能を有するが、これら機能については後に改めて説明する。
ここで、雲台装置1における通信部9と通信部19との間のデータ通信は、例えばUSB等の有線通信であってもよいし、ブルートゥース(Bluetooth:登録商標)等の無線通信であってもよい。
補正制御部22は、動きセンサ23が検出した動き情報(本例ではヨー方向及びピッチ方向の角速度)に基づき、イメージャ11と光軸とのずれを計算し、該ずれを打ち消す方向に必要なブレ補正用レンズの移動量を計算し、該移動量に応じたブレ補正アクチュエータ21の駆動信号を生成する。
該駆動信号に基づきブレ補正アクチュエータ21が駆動されることで、ブレ補正用レンズがイメージャ11と光軸とのずれをキャンセルするように変位され、ブレ補正が実現される。
なお、光学手ブレ補正については、ブレ補正用レンズを変位させる方式ではなく、イメージャ11を変位させる方式を採ることもできる。
撮像装置10において、制御部16は、追尾制御処理部F1としての機能により、イメージャ11の撮像動作により得られた撮像画像に基づく追尾対象被写体の位置の特定、及び特定した追尾対象被写体の位置と撮像画像内の目標位置との誤差量の算出、及び算出した誤差量に基づく撮像装置10の移動制御量の雲台装置1への出力を行うことで、追尾対象被写体の位置が撮像画像内の目標位置となるように雲台装置1の駆動制御を行う。
なお、図4に示す処理は撮像画像のフレームごとに繰り返し実行される。
先ず、制御部16はステップS101で、被写体の位置を求める。すなわち、追尾対象被写体の撮像画像内における位置を特定する。このステップS101の処理として制御部16は、カメラ信号処理部12で処理された(又は処理過程の)画像信号に基づき、追尾対象被写体を特定する画像解析を行うと共に、特定した追尾対象被写体の撮像画像内における位置を特定する。
本例では、追尾対象被写体の位置としては、注目位置を特定する。
ここで、注目位置は、追尾対象被写体について定められた注目されるべき位置を意味し、例えば人物としての被写体であれば全身における中心(上下左右方向の中心)又は重心、顔の中心、両肩の中心、胴体の中心等を挙げることができる。或いは、被写体が列車や自動車であれば、それらの進行方向における先端部や運転席位置等を挙げることができる。
本例では、注目位置は被写体の種類に応じて予め定められており、制御部16は追尾対象被写体の種類に応じて該追尾対象被写体の注目位置を特定する。
なお、注目位置は、ユーザ操作に応じて被写体の種類ごとに予め定めておくことが考えられる。
以下、水平方向における誤差量ΔPhをヨー方向における角度に換算して得られる誤差量を「誤差量ΔAy」、垂直方向における誤差量ΔPhをピッチ方向における角度に換算して得られる誤差量を「誤差量ΔAp」と表記する。
ここで、移動制御量とは、撮像装置10を被写体追尾のために所定方向に移動させる際における、該移動について制御量を意味する。上記の誤差量ΔAy、ΔApは、それぞれヨー方向に撮像装置10を移動させるための制御量、ピッチ方向に撮像装置10を移動させるための制御量に該当する。
雲台装置1においては、誤差量ΔAy、ΔApが通信部9を介して駆動制御部8に入力され、駆動制御部8はこれら誤差量ΔAy、ΔApに応じた駆動量によりアクチュエータ7(ヨー方向アクチュエータ、ピッチ方向アクチュエータ)を駆動する。
これにより、追尾対象被写体の位置を撮像画像内の目標位置に一致させる追尾制御が実現される。
続いて、制御部16が有する手ブレ補正制御処理部F2について説明する。
制御部16は、手ブレ補正制御処理部F2としての機能により、追尾制御処理部F1により得られる誤差量ΔAy、ΔApに基づいて、ブレ補正アクチュエータ21、補正制御部22及び動きセンサ23による手ブレ補正を制御する。
本例の制御部16は、誤差量ΔAy、ΔApとしての移動制御量と閾値との比較結果に基づいて手ブレ補正を制御する。具体的に、制御部16は、誤差量ΔAy、ΔApそれぞれに対して設定された閾値THy、閾値THpを用い、誤差量ΔA(絶対値)が閾値THを上回る場合は手ブレ補正をOFFとし、閾値TH以下の場合には手ブレ補正をONとする。
本例では、ヨー方向、ピッチ方向の手ブレ補正は独立して制御する。すなわち、ヨー方向については、誤差量ΔAy(絶対値)と閾値THyとの比較結果に基づき、ΔAy>THyであればヨー方向の手ブレ補正をOFF、ΔAy≦THyであればヨー方向の手ブレ補正をONとする。また、ピッチ方向については、誤差量ΔAp(絶対値)と閾値THpとの比較結果に基づき、ΔAp>THpであればピッチ方向の手ブレ補正をOFF、ΔAp≦THpであればピッチ方向の手ブレ補正をONとする。
例えば、ヨー方向について、図6Aに示すように入力した誤差量ΔAy(絶対値)が閾値THy以下であれば、手ブレ補正はONとされ、一方、図6Bに示すように入力した誤差量ΔAy(絶対値)が閾値THyを上回った場合には手ブレ補正はOFFされる。図示は省略したが、ヨー方向についても同様である。
なお、図7に示す処理は、撮像画像のフレームごとに繰り返し実行される。
ステップS202で誤差量ΔAp>閾値THpである(つまりヨー方向とピッチ方向の双方で移動制御量が閾値を超えている)場合、制御部16はステップS203に進み、ヨー方向及びピッチ方向の手ブレ補正をOFFとする処理を実行する。すなわち、補正制御部22にヨー方向(水平方向)及びピッチ方向(垂直方向)の手ブレ補正をOFFとする指示を行う。
一方、ステップS202で誤差量ΔAp>閾値THpでない(つまりヨー方向のみ移動制御量が閾値を超えている)場合、制御部16はステップS204に進み、ヨー方向の手ブレ補正をOFFとし、ピッチ方向の手ブレ補正をONとする処理を実行する。
ステップS205で誤差量ΔAp>閾値THpである(つまりピッチ方向のみ移動制御量が閾値を超えている)場合、制御部16はステップS206に進み、ヨー方向の手ブレ補正をONとし、ピッチ方向の手ブレ補正をOFFとする処理を実行する。
一方、ステップS205で誤差量ΔAp>閾値THpでない(つまりヨー方向とピッチ方向の双方で移動制御量が閾値以下である)場合、制御部16はステップS207に進み、ヨー方向及びピッチ方向の手ブレ補正をONとする処理を実行する。
なお、図7の処理において、チャタリング防止のため、閾値THy、THpにヒステリシスを持たせることもできる。
続いて、第二実施形態について説明する。
第二実施形態は、移動制御量についての閾値THを固定ではなく可変とするものである。
図8は、閾値THを変化させることによる作用の説明図である。
先ず、閾値THを小さくする場合を考える。閾値THは、その値が小さいほど、撮像画像内の目標位置に対する追尾対象被写体の位置の誤差量ΔPが僅かであっても、誤差量ΔAが閾値THを超え易くなる。すなわち、閾値THが小さいほど手ブレ補正が効き難くなり、従って手ブレ補正効果は低下する。図中では、最も小さい閾値THを閾値THy1、THp1として表しているが、これら閾値THy1、THp1が設定された場合には手ブレ補正効果は最小となる。
逆に、閾値THが大きいほど目標位置に対する追尾対象被写体の位置の誤差量ΔPが大きくても誤差量ΔAが閾値THを超え難くなり、手ブレ補正が効き易くなる。従って、図中に示す最大の閾値THy4、THp4が設定された場合、手ブレ補正効果は最大となる。
制御例Iは、解像度に応じて閾値THを設定するものである。
被写体追尾のための移動制御量を撮像画像から検出した被写体位置に基づき求める場合、該撮像画像の解像度の低さは、移動制御量のノイズとなる。このため、解像度に基づき閾値THを設定することで、ノイズに反応して不必要に手ブレ補正効果がOFFされてしまうことの防止を図る。
具体的には、解像度と負の相関を持つように閾値THを動的に変更する。
制御部16は、ステップS301で解像度情報を取得する。すなわち、イメージャ11による撮像画像の解像度を表す情報を取得する。
そして、ステップS302で、解像度に応じた閾値THy、THpを設定する。具体的に本例では、水平方向の画素数に応じて閾値THyを、垂直方向の画素数に応じて閾値THpを設定する。このとき、閾値THy、閾値THpは、対応する方向の画素数が小さいほど(解像度が低いぼと)大きい値が設定されるようにする。すなわち、閾値THは解像度と負の相関を持つように設定する。
ここで、制御例Iにおいて、閾値THの動的な変更とは、連続的な変更であっても段階的な変更であってもよい。閾値THの段階的な変更としては、例えばSD画質以下の場合は閾値THを「高」、HD画質相当の場合は閾値THを「中」、4K画質以上の場合は閾値THを「低」とするなどの手法を挙げることができる。また、閾値THの連続的な変更としては、例えば解像度の特定の一部範囲(例えばSD画質~4K画質)において閾値THが連続的に変更されるなどの例を挙げることができる。
制御例IIは、撮像対象シーンに応じて閾値THを変更するものである。
例えば、図10に示すようなサッカー等の球技において、選手としての追尾対象被写体が競技球をキープしているONプレー時には、該被写体がOFFプレー時よりも比較的高速に動くことが予測される。追尾対象被写体が高速に動き出す瞬間は移動角度が大きくなるため、手ブレ補正が被写体移動方向とは逆方向に作用することによる追尾応答性低下を防止するためには、閾値THを下げて手ブレ補正効果を小さくすることが有効である。
具体的に、この場合には、撮像対象シーンとして、少なくとも追尾対象被写体がONプレーのシーン、OFFプレーのシーンの何れに該当するかを例えば画像解析等により判定し、ONプレーの場合にはOFFプレーの場合よりも閾値THを低下させる。例えば、閾値THを最小化する。
この場合には、撮像対象シーンとして、少なくとも追尾対象被写体が静止しているシーン、走り出したシーンの何れに該当するかを例えば画像解析等により判定し、走り出したシーンの場合には静止しているシーンの場合よりも閾値THを低下させる(例えば最小化する)。
画像解析による撮像対象シーン情報の取得は、例えば、機械学習(深層学習)等、一般的な手法を用いて行うことができる。例えば、機械学習による被写体の行動予測に基づき撮像対象シーンを特定する手法を採ることができる。
また、外部から入力する手法としては、例えば撮像装置10以外の他のカメラによる画像解析の結果得られる撮像対象シーンの情報を通信部19を介して入力することが考えられる。
制御部16はステップS401で、撮像対象シーンの判定を行う。すなわち、上記した画像解析やマイクロフォン13からの音声信号についての音声解析、或いは外部から入力される撮像対象シーン情報等に基づき、撮像対象シーンの判定を行う。
制御例IIIは、被写体の移動方向に基づいて手ブレ補正を制御するものである。
図12は、追尾対象被写体の移動方向を例示した図である。
図12Aは、追尾対象被写体が横方向(水平方向)に移動する例であり、図中上側は追尾対象被写体が列車、下側は追尾対象被写体がランナーとされた例である。図12Bは追尾対象被写体が縦方向(垂直方向)に移動する例であり、図中左側は追尾対象被写体が花火、右側は追尾対象被写体が飛び込み競技の選手とされた例である。
同様に、図12Bの例については、ピッチ方向における追尾応答性の低下が生じる可能性が高い一方、ヨー方向は追尾応答性の低下が生じる可能性が低く、ヨー方向の手ブレ補正は効かせる(作用させる)のが望ましい。
これにより、追尾応答性の低下が生じる可能性の高い方向については手ブレ補正効果を低下させ、追尾応答性の低下が生じる可能性の低い方向については手ブレ補正効果を高めることが可能性とされ、追尾応答性の低下防止と手ブレ補正による画像ブレ防止との両立を図ることができる。
制御部16はステップS501で、追尾対象被写体の移動方向判定処理を行う。この移動方向判定処理は、例えば撮像画像の画像解析結果に基づき行う。このとき、移動方向としては、実際に追尾対象被写体が移動した方向に限らず、移動が予測される方向とすることもできる。被写体の移動方向の予測は、例えば機械学習等により行うことができる。
[3-1.第一変形例]
ここで、移動制御量を求めるための撮像画像を得る撮像装置と、手ブレ補正が制御される撮像装置とは別体とすることもできる。
図14にその一例を示す。
この場合、撮像装置30が移動制御量を求めるための撮像画像を得る撮像装置に該当し、撮像装置10Aが手ブレ補正が制御される撮像装置に該当する。撮像装置30と撮像装置10Aは共通の雲台装置1に搭載され、雲台装置1のヨー方向、ピッチ方向の駆動に応じてこれら撮像装置30と撮像装置10Aがヨー方向、ピッチ方向に連動して動く。
制御部31は、前述した追尾制御処理部F1としての機能を有し、制御部16と同様、誤差量ΔAy、ΔApの算出、及び誤差量ΔAy、ΔApの雲台装置1への出力を行って被写体の追尾制御を行う。
また、制御部31は、移動制御量出力処理部F3としての機能を有する。この機能により制御部31は、追尾制御処理部F1が算出した誤差量ΔAy、ΔApとしての移動制御量の情報を通信部19を介して撮像装置10Aに送信する。
撮像装置10との差は、制御部16に代えて制御部16Aが設けられた点である。制御部16Aは、追尾制御処理部F1としての機能は省略され、手ブレ補正制御処理部F2Aとしての機能を有する。この手ブレ補正制御処理部F2Aとしての機能により制御部16Aは、撮像装置30より送信された誤差量ΔAy、ΔApとしての移動制御量の情報に基づき、第一、第二実施形態で説明したものと同様の手法で手ブレ補正制御を行う。
或いは、撮像装置30が移動制御量に基づく手ブレ補正制御までを実行する構成とすることもできる。具体的には、制御部31が、誤差量ΔAと閾値THとに基づく手ブレ補正のON/OFF判定を行い、該判定の結果に応じて撮像装置10Aに手ブレ補正のON指示又はOFF指示を行うといった構成である。
この場合、撮像装置30では、撮像装置10Aとの位置関係を予めキャリブレーションすることでカメラの外部パラメータを算出しておき、該外部パラメータに基づき誤差量ΔAを算出する。この際、外部パラメータは、例えば一般的なチェッカーボード等を使用した手法により算出することができる。
第二変形例は、HMD(ヘッドマウントディスプレイ)を用いた撮像システムを前提としたものである。
図18は、第二変形例としての撮像システムの構成例を説明するための図である。
図示のようにこの場合の撮像システムは、HMD40、撮像装置10B、及び雲台装置1を備えている。図示のように撮像装置10Bは、撮像装置10と同様に雲台装置1に装着される。
HMD40は、ユーザの頭部に装着され、撮像装置10Bにより撮像された画像を表示する。またHMD40は、ユーザの頭部の動きを検出し、検出した動き情報を撮像装置10Bに出力する。
表示部41はユーザに撮像画像を表示するための表示手段であり、バス45を介して通信部44、制御部42と接続されている。
制御部42は、例えばマイクロコンピュータを有して構成され、HMD40の全体制御を行う。制御部42には動きセンサ43が接続され、ユーザの頭部の動き情報を取得可能とされている。動きセンサ43は、例えば角速度センサとされ、本例ではヨー方向、ピッチ方向それぞれの回転方向における動きを検出する2軸の角速度センサが用いられる。
制御部42は、動きセンサ43により検出された動き情報(本例ではヨー方向、ピッチ方向それぞれの角速度情報)を通信部44を介して撮像装置10Bに送信する。
撮像装置10との差は、制御部16に代えて制御部16Bが設けられた点である。制御部16Bは、追尾制御処理部F1に代えて追尾制御処理部F1Bが設けられ、手ブレ補正制御処理部F2に代えて手ブレ補正制御処理部F2Bが設けられた点が制御部16と異なる。
手ブレ補正制御処理部F2Bは、このような追尾対象被写体の切り替え時に対応した閾値THの変更処理を行う。
先ず、制御部16BはステップS601で、HMDの動き情報を取得し、続くステップS602で追尾対象被写体の切替指示であるか否かを判定する。このステップS602では、例えば、動き情報として取得される角速度の値が所定閾値を超えているか否か(少なくともヨー方向、ピッチ方向の何れか一方)を判定する。或いは、角速度の情報から求めたHMD40の角度変化量と誤差量ΔAとの差が所定閾値を超えているか否か(少なくともヨー方向、ピッチ方向の何れか一方)を判定する。
ここで、動き情報が表すHMD40の動き方向に別被写体が存在していなければ追尾対象被写体の切替指示は成立しない。このため、制御部16Bは、画像解析から該動き方向に別被写体が存在するか否かの判定を行い、その結果をステップS602の判定に反映させることもできる。
一方、ステップS602で追尾対象被写体の切替指示であると判定した場合、制御部16BはステップS604に進んで追尾OFFとし、続くステップS605で手ブレ補正効果を最小化する処理を行う。すなわち、閾値THを最小化する。ここで、ステップS605の処理は、HMD40の動き方向に応じた方向の閾値THを最小化する処理として行う。例えば、HMD40の動き方向がヨー方向であればヨー方向の閾値THyを最小化する。或いは、HMD40の動きがヨー方向とピッチ方向の双方で大きければ(つまり斜め方向に大きく動いたとき)、閾値THyと閾値THpの双方を最小化することも考えられる。
別被写体の位置が目標位置に近接していなければ、制御部16はステップS606に戻る。これにより、別被写体の位置が目標位置に近接するまで雲台装置1がHMD40の動き方向に駆動される。
ここで、実施形態としては上記した具体例に限定されず多様な変形例を採り得るものである。
例えば上記では、被写体追尾のための移動方向をヨー方向とピッチ方向の二方向とする例を挙げたが、移動方向としてはロール(Roll)方向を含んでもよい。図22は、ロール方向(図中矢印Drの方向)の駆動が可能な雲台装置1Aを例示している。
また、被写体追尾のための移動方向は二つの方向に限定されるものではなく、三方向以上、或いは一方向のみとすることもできる。
上記のように実施形態としての撮像制御装置(撮像装置10、10A、10B)は、被写体の位置が撮像画像内の所定位置となるように得られた撮像装置の移動制御量に基づいて、撮像装置の手ブレ補正を制御する制御部(同16,16A,16B)を備えている。
従って、手ブレ補正機能を有する撮像装置が用いられる場合の被写体追尾制御について、追尾応答性の低下防止を図ることができる。
従って、手ブレ補正が被写体追尾方向とは逆方向に作用する可能性が高い場合にのみ手ブレ補正をOFFとすることが可能となり、追尾応答性の低下防止と手ブレ補正による画像ブレ防止との両立を図ることができる。
従って、条件に応じて手ブレ補正の効果を適切に制御することが可能となり、追尾応答性の低下防止と手ブレ補正による画像ブレ防止との両立を図ることができる。
従って、追尾応答性の低下防止と手ブレ補正による画像ブレ防止との両立を図ることができる。
従って、追尾応答性の低下防止と手ブレ補正による画像ブレ防止との両立を図ることができる。
従って、追尾応答性の低下が生じる可能性の高いシーンでは手ブレ補正効果を低下させ、追尾応答性の低下が生じる可能性の低いシーンでは手ブレ補正効果を高める等の手ブレ補正制御を行うことができ、追尾応答性の低下防止と手ブレ補正による画像ブレ防止との両立を図ることができる。
従って、追尾応答性の低下が生じる可能性の高い方向については手ブレ補正効果を低下させ、追尾応答性の低下が生じる可能性の低い方向については手ブレ補正効果を高めることが可能性とされ、追尾応答性の低下防止と手ブレ補正による画像ブレ防止との両立を図ることができる。
従って、追尾応答性の低下防止と手ブレ補正による画像ブレ防止との両立を図ることができる。
従って、被写体の位置情報を検出するためにイメージセンサ以外の別途のセンサを設ける必要がなくなり、装置構成の簡易化、及びコスト削減を図ることができる。
従って、被写体の注目されるべき部分が撮像画像から見切れてしまうことの防止を図ることができる。
従って、手ブレ補正が制御される撮像装置の処理負担軽減を図ることができる。
すなわち、図7、図11、図13、図21等で説明した処理を情報処理装置に実行させるプログラムである。
そしてこのようなプログラムはコンピュータ装置等の機器に内蔵されている記録媒体や、CPUを有するマイクロコンピュータ内のROM等に予め記憶しておくことができる。或いは、半導体メモリ、メモリカード、光ディスク、光磁気ディスク、磁気ディスク等のリムーバブル記録媒体に、一時的あるいは永続的に格納(記憶)しておくことができる。またこのようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN(Local Area Network)、インターネットなどのネットワークを介してダウンロードすることもできる。
なお本技術は以下のような構成も採ることができる。
(1)
被写体の位置が撮像画像内の所定位置となるように得られた撮像装置の移動制御量に基づいて、撮像装置の手ブレ補正を制御する制御部を備えた
撮像制御装置。
(2)
前記制御部は、
前記移動制御量と閾値との比較結果に基づいて前記手ブレ補正を制御する
前記(1)に記載の撮像制御装置。
(3)
前記制御部は、
前記閾値を動的に変更する
前記(2)に記載の撮像制御装置。
(4)
前記制御部は、
前記移動制御量を得るための撮像画像の解像度に基づき前記手ブレ補正を制御する
前記(1)乃至(3)の何れかに記載の撮像制御装置。
(5)
前記制御部は、
前記移動制御量と閾値との比較結果に基づいて前記手ブレ補正を制御し、
前記解像度と負の相関を持つように前記閾値を設定する
前記(4)に記載の撮像制御装置。
(6)
前記制御部は、
撮像対象シーンに応じて前記閾値を変更する
前記(3)乃至(5)の何れかに記載の撮像制御装置。
(7)
前記制御部は、
前記被写体の移動方向に基づいて前記手ブレ補正を制御する
前記(1)乃至(6)の何れかに記載の撮像制御装置。
(8)
前記制御部は、
前記移動方向に応じた方向と該方向とは異なる方向とで手ブレ補正効果を異ならせる
前記(7)に記載の撮像制御装置。
(9)
前記制御部は、
撮像画像から検出された前記被写体の位置情報に基づいて前記移動制御量を求める
前記(1)乃至(8)の何れかに記載の撮像制御装置。
(10)
前記制御部は、
撮像画像から検出された前記被写体の注目位置に基づいて前記移動制御量を求める
前記(9)に記載の撮像制御装置。
(11)
前記移動制御量を得るための撮像画像を撮像する撮像装置と、前記制御部により前記手ブレ補正が制御される撮像装置とが別体とされた
前記(1)乃至(10)の何れかに記載の撮像制御装置。
(12)
前記制御部は、
前記二つの撮像装置間の視差情報に基づき得られた前記移動制御量に基づいて前記手ブレ補正を制御する
前記(11)に記載の撮像制御装置。
(13)
前記制御部は、
ヘッドマウントディスプレイの動き情報に基づいて前記手ブレ補正を制御する
前記(1)乃至(13)の何れかに記載の撮像制御装置。
Claims (13)
- 被写体の位置が撮像画像内の所定位置となるように得られた撮像装置の移動制御量と閾値との比較結果に基づいて、撮像装置の手ブレ補正を制御する制御部を備え、
前記制御部は、
前記閾値を動的に変更する
撮像制御装置。 - 前記制御部は、
前記移動制御量を得るための撮像画像の解像度に基づき前記手ブレ補正を制御する
請求項1に記載の撮像制御装置。 - 前記制御部は、
前記移動制御量と閾値との比較結果に基づいて前記手ブレ補正を制御し、
前記解像度と負の相関を持つように前記閾値を設定する
請求項2に記載の撮像制御装置。 - 前記制御部は、
撮像対象シーンに応じて前記閾値を変更する
請求項1に記載の撮像制御装置。 - 前記制御部は、
前記被写体の移動方向に基づいて前記手ブレ補正を制御する
請求項1に記載の撮像制御装置。 - 前記制御部は、
前記移動方向に応じた方向と該方向とは異なる方向とで手ブレ補正効果を異ならせる
請求項5に記載の撮像制御装置。 - 前記制御部は、
撮像画像から検出された前記被写体の位置情報に基づいて前記移動制御量を求める
請求項1に記載の撮像制御装置。 - 前記制御部は、
撮像画像から検出された前記被写体の注目位置に基づいて前記移動制御量を求める
請求項7に記載の撮像制御装置。 - 前記移動制御量を得るための撮像画像を撮像する撮像装置と、前記制御部により前記手ブレ補正が制御される撮像装置とが別体とされた
請求項1に記載の撮像制御装置。 - 前記制御部は、
前記二つの撮像装置間の視差情報に基づき得られた前記移動制御量に基づいて前記手ブレ補正を制御する
請求項9に記載の撮像制御装置。 - 前記制御部は、
ヘッドマウントディスプレイの動き情報に基づいて前記手ブレ補正を制御する
請求項1に記載の撮像制御装置。 - 被写体の位置が撮像画像内の所定位置となるように得られた撮像装置の移動制御量と閾値との比較結果に基づいて、撮像装置の手ブレ補正を制御すると共に、
前記閾値を動的に変更する
撮像制御方法。 - 被写体の位置が撮像画像内の所定位置となるように得られた撮像装置の移動制御量と閾値との比較結果に基づいて、撮像装置の手ブレ補正を制御すると共に、前記閾値を動的に変更する機能を情報処理装置に実現させる
プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018147955 | 2018-08-06 | ||
JP2018147955 | 2018-08-06 | ||
PCT/JP2019/020426 WO2020031458A1 (ja) | 2018-08-06 | 2019-05-23 | 撮像制御装置、撮像制御方法、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2020031458A1 JPWO2020031458A1 (ja) | 2021-08-26 |
JP7243727B2 true JP7243727B2 (ja) | 2023-03-22 |
Family
ID=69414747
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020536335A Active JP7243727B2 (ja) | 2018-08-06 | 2019-05-23 | 撮像制御装置、撮像制御方法、プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20210297594A1 (ja) |
JP (1) | JP7243727B2 (ja) |
CN (1) | CN112514365A (ja) |
WO (1) | WO2020031458A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113273170B (zh) * | 2018-12-13 | 2023-04-28 | 杭州他若定位科技有限公司 | 使用高帧率辅助成像元件使相机移动设备稳定的方法、装置及存储介质 |
JP2022181570A (ja) * | 2021-05-26 | 2022-12-08 | キヤノン株式会社 | ブレ補正制御装置、撮像装置、レンズ装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010093362A (ja) | 2008-10-03 | 2010-04-22 | Nikon Corp | 撮像装置および光学装置 |
JP2015136035A (ja) | 2014-01-17 | 2015-07-27 | ソニー株式会社 | 撮像装置と撮像方法およびプログラム。 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4404864B2 (ja) * | 2005-03-10 | 2010-01-27 | 三洋電機株式会社 | ビデオカメラおよびそれに用いる画像抽出装置 |
CN101191979A (zh) * | 2006-11-28 | 2008-06-04 | 华晶科技股份有限公司 | 自动对焦方法及系统 |
JP2009272870A (ja) * | 2008-05-07 | 2009-11-19 | Olympus Corp | 画像処理装置、画像処理方法、及び画像処理プログラム |
JP2010232710A (ja) * | 2009-03-25 | 2010-10-14 | Fujitsu Ltd | 画像処理装置および画像処理方法 |
JP2010250156A (ja) * | 2009-04-17 | 2010-11-04 | Nikon Corp | 電子カメラ |
CN102348068B (zh) * | 2011-08-03 | 2014-11-26 | 东北大学 | 一种基于头部姿态控制的随动远程视觉系统 |
JP6214316B2 (ja) * | 2013-10-09 | 2017-10-18 | キヤノン株式会社 | 像ブレ補正装置、レンズ装置、撮像装置、像ブレ補正装置の制御方法、プログラム、および、記憶媒体 |
US9305362B1 (en) * | 2014-02-28 | 2016-04-05 | Xilinx, Inc. | Image stabilization |
JP6373121B2 (ja) * | 2014-08-20 | 2018-08-15 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP6486087B2 (ja) * | 2014-12-03 | 2019-03-20 | キヤノン株式会社 | 像ブレ補正装置、撮像装置および制御方法 |
JP6727791B2 (ja) * | 2015-11-05 | 2020-07-22 | キヤノン株式会社 | 追尾制御装置および追尾制御方法、撮像装置 |
-
2019
- 2019-05-23 JP JP2020536335A patent/JP7243727B2/ja active Active
- 2019-05-23 CN CN201980050671.XA patent/CN112514365A/zh active Pending
- 2019-05-23 US US17/250,495 patent/US20210297594A1/en not_active Abandoned
- 2019-05-23 WO PCT/JP2019/020426 patent/WO2020031458A1/ja active Application Filing
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010093362A (ja) | 2008-10-03 | 2010-04-22 | Nikon Corp | 撮像装置および光学装置 |
JP2015136035A (ja) | 2014-01-17 | 2015-07-27 | ソニー株式会社 | 撮像装置と撮像方法およびプログラム。 |
Also Published As
Publication number | Publication date |
---|---|
CN112514365A (zh) | 2021-03-16 |
US20210297594A1 (en) | 2021-09-23 |
JPWO2020031458A1 (ja) | 2021-08-26 |
WO2020031458A1 (ja) | 2020-02-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11711618B2 (en) | Image processing apparatus, image processing method, and program | |
CN102420933B (zh) | 可全景摄像的摄像装置 | |
US7724286B2 (en) | Image pickup apparatus and image pickup method | |
JP5309490B2 (ja) | 撮影装置、被写体追尾ズーミング方法及び被写体追尾ズーミングプログラム | |
WO2014010303A1 (ja) | 像振れ補正装置と像振れ補正方法および撮像装置 | |
US8823814B2 (en) | Imaging apparatus | |
JP5407640B2 (ja) | 画像対応装置、動作設定方法、プログラム | |
JP7243727B2 (ja) | 撮像制御装置、撮像制御方法、プログラム | |
US20140176722A1 (en) | Imaging device, imaging control method and storage medium | |
WO2011013562A9 (ja) | 制御装置、制御方法、プログラム | |
CN109714524B (zh) | 摄像装置、系统、摄像装置的控制方法和存储介质 | |
JP5888348B2 (ja) | 撮像装置、撮像制御方法、及びプログラム | |
JP6056774B2 (ja) | 撮像装置と撮像方法およびプログラム。 | |
JP2011030160A5 (ja) | ||
JP2010028764A (ja) | 撮像装置及び画像処理方法並びにプログラム | |
US20140368698A1 (en) | Display control apparatus, display control method, program, and image pickup apparatus | |
JP2015194587A (ja) | 画像データ処理装置、画像データ処理方法、画像歪み対応処理装置、画像歪み対応処理方法 | |
JP5700204B2 (ja) | 頭部装着型撮像装置 | |
JP2013009435A (ja) | 撮影装置、被写体追尾ズーミング方法及び被写体追尾ズーミングプログラム | |
JP2006166006A (ja) | 撮像装置及びそのプログラム | |
JP5737637B2 (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
JP2007214839A (ja) | パンチルト機能付カメラ制御装置及びカメラ制御システム | |
JP2010050574A (ja) | 撮像装置、その制御方法及びプログラム | |
JP6598469B2 (ja) | ブレ補正装置及びその制御方法 | |
WO2010064445A1 (ja) | 回転台付きカメラ装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220406 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230119 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20230119 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230207 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230220 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7243727 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |