JP7202823B2 - Imaging device and damping method - Google Patents
Imaging device and damping method Download PDFInfo
- Publication number
- JP7202823B2 JP7202823B2 JP2018173654A JP2018173654A JP7202823B2 JP 7202823 B2 JP7202823 B2 JP 7202823B2 JP 2018173654 A JP2018173654 A JP 2018173654A JP 2018173654 A JP2018173654 A JP 2018173654A JP 7202823 B2 JP7202823 B2 JP 7202823B2
- Authority
- JP
- Japan
- Prior art keywords
- sensor
- vibration
- image
- damping
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Accessories Of Cameras (AREA)
- Adjustment Of Camera Lenses (AREA)
- Studio Devices (AREA)
Description
本発明は、撮像装置に係り、特に制振機能を有する撮像装置および制振方法に関する。 The present invention relates to an imaging device, and more particularly to an imaging device having a vibration damping function and a vibration damping method.
監視システムに用いられる雲台一体型カメラは、例えば、車・列車通過時の振動及び、風等の影響により雲台一体型カメラが振動し、出力に画像ブレが生じる。特にズームアップした際、画像ブレが目障りとなる。一般に、画像ブレは、高周波(例えば30Hz以上)でのブレは目障りとならないが、低周波(例えば10Hz以下)では特に目障りと感じられる。また、道路の落下物などを判別するためにズームアップした時など、画像ブレにより目視判別が困難となることもある。 A pan head integrated camera used in a monitoring system vibrates due to the vibration of passing cars/trains, wind, and the like, resulting in image blurring in the output. Image blurring is an eyesore, especially when zooming in. In general, image blurring at high frequencies (eg, 30 Hz or more) does not become an eyesore, but at low frequencies (eg, 10 Hz or less), it is particularly annoying. In addition, when zooming in to identify fallen objects on the road, image blurring may make visual identification difficult.
雲台一体型カメラの画像ブレの振動対策として、画像処理を用いた画像スタビライザ(画像スタビライザ処理)が広く知られている。画像スタビライザがカメラ本体に搭載された雲台一体型カメラもある。また、画像スタビライザがカメラ本体に搭載されていない場合、監視カメラとモニタの間に設置することにより画像ブレを低減した映像をモニタに映し出す技術も知られている。 An image stabilizer using image processing (image stabilizer processing) is widely known as a vibration countermeasure for image blurring of a pan head integrated camera. There is also a pan head integrated camera in which the image stabilizer is mounted on the camera body. Also, there is known a technique in which an image stabilizer is installed between a surveillance camera and a monitor to display an image with reduced image blur on the monitor when the image stabilizer is not mounted on the camera body.
他の画像ブレ対策としてレンズユニットによる補正手段もある。また、パン方向及びチルト方向のそれぞれに対応して設けられた圧電素子等によるアクチュエータでレンズユニットを動かし振動によるブレを低減するアクチュエータ制振技術も知られている(例えば特許文献1参照)。 As another countermeasure against image blurring, there is also correction means using a lens unit. There is also known an actuator damping technique for reducing blur due to vibration by moving a lens unit with an actuator such as a piezoelectric element provided corresponding to each of the pan and tilt directions (see, for example, Patent Document 1).
アクチュエータ制振技術は、振動の周波数が小さく振幅の大きな揺れで効果が大きい。また、鮮明な映像が得られない中でも効果を発揮する。画像スタビライザの技術は、アクチュエータ制振技術よりも高周波に有効だが、画面の切だしが必要で画角が小さくなる。 Actuator damping technology is highly effective for shakes with low vibration frequencies and large amplitudes. It is also effective even when a clear image cannot be obtained. The image stabilizer technology is more effective at high frequencies than the actuator damping technology, but it requires cropping and the angle of view becomes smaller.
画像ブレ対策を搭載した据付型の撮像装置では、これら異なる特徴を持つ画像ブレ補正技術を組み合わせて装置全体として画像ブレが低減するように組み合わせたハイブリッド制振型の製品がある。 Among stationary imaging devices equipped with image blur countermeasures, there are hybrid damping products that combine these image blur correction technologies with different features so as to reduce image blur in the entire device.
雲台一体型カメラの画像ブレをジャイロセンサ(振動センサ)とモータを使って制振する方法(以下、アクティブ制振)と画像処理で画像ブレ量を解析して画像を切り出す方法(以下、画像処理制振)とを併用して搭載する場合、アクティブ制振では低周波の大きな揺れ、画像処理制振では高周波の小さな揺れを補正するなど両方の特長を活かして効果的に画像ブレ低減を実現する方法がある。アクティブ制振ではジャイロセンサの値を読み取った後、制御部でジャイロセンサの値から振動の角速度を計算して、振動を低減する方向にモータを動かす指令を出す。モータが振動を打ち消す方向に動作すると画像のブレが低減される。 A method of suppressing the image blur of a pan head integrated camera using a gyro sensor (vibration sensor) and a motor (hereinafter referred to as active vibration suppression), and a method of analyzing the amount of image blur by image processing and extracting an image (hereinafter referred to as image When used in combination with vibration control), active vibration control corrects large low-frequency vibrations, while image processing vibration control corrects small high-frequency vibrations. There is a way. In active damping, after reading the value of the gyro sensor, the controller calculates the angular velocity of the vibration from the value of the gyro sensor and issues a command to move the motor in the direction to reduce the vibration. Image blurring is reduced when the motor operates in a direction that cancels out the vibration.
雲台一体型カメラの画像ブレ対策としてアクティブ制振を用いる場合、画像ブレの原因(原因となる振動周波数)によりジャイロセンサの取付け位置を調整する場合がある。据付型カメラの土台部にセンサをとりつけした場合は雲台を固定した構造体に発生する振動を対象とした制振対策となる。また、カメラ部に取付けした場合は、土台部からパン軸、チルト軸を経由したカメラ部に伝達した振動を対象とする制振対策となる。センサの取付け位置は振動の対象の他、センサを検知した後の制御処理も大きく変わるため、カメラの用途によって選択される。 When using active damping as a countermeasure against image blurring of a pan head integrated camera, the mounting position of the gyro sensor may be adjusted depending on the cause of the image blurring (vibration frequency that causes it). When a sensor is attached to the base of a stationary camera, it is a damping measure for the vibration generated in the structure to which the camera platform is fixed. Also, when attached to the camera section, it acts as a damping measure against vibrations transmitted from the base section to the camera section via the pan and tilt axes. The mounting position of the sensor is selected according to the application of the camera, because the control processing after the detection of the sensor changes greatly as well as the object of vibration.
アクティブ制振では実際には、ジャイロセンサの検出値とカメラに現れる振動量に誤差が出ることがある。例えばジャイロセンサを雲台の土台部に取付けした場合、誤差の原因としては、ジャイロセンサが検出する振動がセンサを取付けした土台部のものであるのに対して、カメラ映像に現れる振動は土台部からパン軸、チルト軸を経由してカメラ部に伝達した振動になるので振動箇所の差がある。この時、振動が伝搬する過程でジャイロセンサの取付け箇所での検出軸とパン軸、チルト軸の取付け、組立誤差の他、雲台軸の揺れに対する剛性、またジャイロセンサの個体差などでも誤差が生じると考えられる。 In active damping, there may actually be an error between the detected value of the gyro sensor and the amount of vibration appearing on the camera. For example, if a gyro sensor is attached to the base of the pan head, the cause of the error is that the vibration detected by the gyro sensor is from the base where the sensor is attached, whereas the vibration that appears in the camera image is from the base. Since the vibration is transmitted to the camera unit via the pan axis and tilt axis, there is a difference in the vibration location. At this time, in the process of propagating vibration, there are errors due to mounting errors of the detection axis, pan axis, and tilt axis at the mounting location of the gyro sensor, assembly errors, rigidity against shaking of the pan head axis, and individual differences of the gyro sensor. thought to occur.
雲台一体型カメラでは、これらの補正量をパラメータ(以下、「センサ補正値」)として保持して製造時に記録してアクティブ制振処理に使用するが、雲台カメラ設置場所の振動状況や経年劣化による剛性低下で設置後にセンサ補正値が変わることもあるため、雲台設置後も誤差を補正できることが望ましい。 Cameras with an integrated camera platform store these correction values as parameters (hereafter referred to as "sensor correction values"), record them during manufacturing, and use them for active vibration suppression processing. Since the sensor correction value may change after installation due to reduced rigidity due to deterioration, it is desirable to be able to correct errors even after installation of the camera platform.
アクティブ制振により画像のブレを低減させる場合の制御方法の一つにPID制御がある。PID制御はジャイロセンサからの値を比例、積分、微分量に換算してそれぞれにゲイン(以下、「PIDゲイン」)をかけて加算したものを制御量として定義する制御方法である。 PID control is one of control methods for reducing blurring of an image by active damping. PID control is a control method in which values from a gyro sensor are converted into proportional, integral, and differential quantities, and the values are multiplied by gains (hereinafter referred to as "PID gains") and added to define control quantities.
PID制御では、ジャイロセンサで検出する振動の周波数と振幅を比例、積分、微分量に与えるそれぞれのゲインの組合せで制御効果が変わる。雲台一体型カメラでPID制御する場合、発生する振動に合わせたPIDゲイン調整を行うことが必要で、一般的にカメラ製造時や据付時に対応可能な振動、据付現場の振動に合わせてPIDゲインを調整する。 In PID control, the control effect varies depending on the combination of gains that give the frequency and amplitude of vibration detected by the gyro sensor to proportional, integral, and differential amounts. When performing PID control with a pan head integrated camera, it is necessary to adjust the PID gain according to the vibration that occurs. to adjust.
この時、PIDゲインの調整方法の一つとして、あらかじめ対応する振動で効果が確認されているPIDゲインを設定する方法があるが、据付場所の振動は装置の固定方法や現場の状況で変化するため、最適なPIDゲインを設定するには現場に合わせた微調整が求められ、設置の手間が増える。この場合、現地にてPIDゲインを変更してカメラ画像で制振効果を確認し、PIDゲインが最適化どうか判断するという手順の繰り返しになる。また、装置本体の構成部品の劣化などの要因で、同じ現場の振動であってもカメラ映像に表れる振動が設置直後と経年劣化後で変化する可能性があり、設置後のPIDゲイン調整が出来ない場合、装置の制振効果に影響する。 At this time, as one method of adjusting the PID gain, there is a method of setting a PID gain that has been confirmed to be effective in response to vibration in advance, but the vibration at the installation location varies depending on the method of fixing the device and the situation at the site. Therefore, in order to set the optimum PID gain, fine adjustment according to the site is required, which increases the labor of installation. In this case, the procedure of changing the PID gain on site, confirming the damping effect with a camera image, and determining whether the PID gain is optimized or not is repeated. In addition, due to factors such as the deterioration of the components of the device itself, even if the vibration is at the same site, the vibration that appears in the camera image may change immediately after installation and after aging, making it impossible to adjust the PID gain after installation. If not, it will affect the damping effect of the device.
PIDゲイン調整のもう一つの方法として、ジャイロセンサなどで取得したセンサ値を制御部で記録、解析して、PIDゲインを自動で調整する方法がある。この方法では、現場に発生する振動に合わせて自動でゲイン調整が可能になるが、振動を解析するアルゴリズムが複雑で解析精度の問題があり、また、センサとの通信や計算処理に時間もかかるため、制御周期が長くなり、対応可能な制振範囲が狭くなる可能性がある。また、最終的な判断基準は画像ブレが低減しているかどうかになるので、調整結果が最適化どうかの判断が難しい。 As another method of PID gain adjustment, there is a method of automatically adjusting the PID gain by recording and analyzing sensor values acquired by a gyro sensor or the like in a control unit. With this method, it is possible to automatically adjust the gain according to the vibrations occurring in the field, but the algorithms for analyzing the vibrations are complicated and there are problems with analysis accuracy. Therefore, there is a possibility that the control cycle becomes longer and the range of damping that can be handled becomes narrower. In addition, since the final judgment criterion is whether or not the image blurring is reduced, it is difficult to judge whether the adjustment result is optimized or not.
一方、画像処理制振は、画像解析から得られる画像ブレ量分、画像の切出し位置を変更するもので、対応可能な制振仕様は電気部品やアルゴリズムで決まってくるが、細かなゲインの調整は不要である。 On the other hand, image processing damping changes the image cropping position by the amount of image blur obtained from image analysis, and the compatible damping specifications are determined by electrical components and algorithms, but fine adjustment of gain is unnecessary.
本発明は、このような状況に鑑みなされたもので、上記課題を解決することを目的とする。 The present invention has been made in view of such circumstances, and an object thereof is to solve the above problems.
本発明は、土台部と、前記土台部に対して回動可能に装着された本体部と、前記本体部に固定されたカメラモジュールと、前記カメラモジュールの撮像方向を定めるアクチュエータと、前記土台部に備えられた振動センサと、前記振動センサの検出結果をもとに、前記アクチュエータに対してアクティブ制振制御を行うアクティブ制振制御部と、撮影した映像の画像ブレ量を算出する画像ブレ量算出部と、前記画像ブレ量をもとに画像処理制振処理を行う画像処理制振制御部と、前記アクティブ制振制御をオフかつ前記画像処理制振処理をオフにした状態において、前記振動センサのセンサ値を一定期間において取得し蓄積する振動センサ値取得部と、前記振動センサ値取得部における前記センサ値の取得期間と同じ一定期間において、前記画像ブレ量を取得し蓄積する画像ブレ量算出部と、前記一定期間における前記センサ値と前記画像ブレ量とを比較し、それら値の差を縮小するように、前記振動センサのセンサ値の補正値を算出するセンサ補正値計算処理部と、を備え、前記アクティブ制振制御部は、前記センサ補正値計算処理部によって算出された前記補正値を用いて補正された前記振動センサの検出結果をもとに前記アクティブ制振制御を行う。
これによって、映像の画像ブレ量を低減できるため、制振性能を向上させることができ、特に、画像処理制振処理において、広い画角の映像を切出し用いることができる。また、これによって、振動センサによって得られるセンサ値(ブレ量)と映像中の画像ブレ量との差を縮小させる又はゼロにすることで、制振性能を向上させることができる。
本発明は、土台部と、前記土台部に対して回動可能に装着された本体部と、前記本体部に固定されたカメラモジュールと、前記カメラモジュールの撮像方向を定めるアクチュエータと、前記土台部に備えられた振動センサと、を具備する撮像装置における、前記カメラモジュールの制振方法であって、前記振動センサのセンサ値をもとにPID制御によりアクティブ制振処理を行うアクティブ制振処理工程と、前記カメラモジュールの撮影した映像の画像ブレをもとに画像処理制振処理を行う画像処理制振処理工程と、前記アクティブ制振処理をオフかつ前記画像処理制振処理をオフにした状態において得られた前記振動センサのセンサ値と前記画像ブレの量とを比較し、それら値の差を縮小するように前記振動センサのセンサ値の補正値を算出するセンサ補正値計算工程と、を具備し、前記アクティブ制振処理工程において、前記センサ補正値計算工程によって算出された前記補正値を用いた前記センサ値をもとに前記アクティブ制振処理を行う。
これによって、振動センサによって得られるセンサ値(ブレ量)と映像中の画像ブレ量との差を縮小させる又はゼロにすることで、制振性能を向上させることができる。
The present invention comprises a base, a main body mounted rotatably with respect to the base, a camera module fixed to the main body, an actuator for determining an imaging direction of the camera module, and the base . an active damping control unit that performs active damping control on the actuator based on the detection result of the vibration sensor, and an image blur amount that calculates the image blur amount of the captured video a calculation unit, an image processing damping control unit that performs image processing damping processing based on the image blur amount, and a state in which the active damping control is turned off and the image processing damping processing is turned off, the vibration A vibration sensor value acquisition unit that acquires and accumulates a sensor value of a sensor for a certain period of time, and an image blur amount that acquires and accumulates the image blur amount for the same certain period as the acquisition period of the sensor value in the vibration sensor value acquisition unit. a calculation unit, and a sensor correction value calculation processing unit that compares the sensor value and the image blur amount in the fixed period and calculates a correction value for the sensor value of the vibration sensor so as to reduce the difference between the values. , wherein the active damping control section performs the active damping control based on the detection result of the vibration sensor corrected using the correction value calculated by the sensor correction value calculation processing section.
As a result, the image blur amount of the video can be reduced, so that the vibration damping performance can be improved. In addition, by reducing or eliminating the difference between the sensor value (blur amount) obtained by the vibration sensor and the image blur amount in the image, the damping performance can be improved.
The present invention comprises a base, a main body mounted rotatably with respect to the base, a camera module fixed to the main body, an actuator for determining an imaging direction of the camera module, and the base . A vibration damping method for the camera module in an imaging device comprising a vibration sensor provided in the camera module, the active vibration damping processing step of performing active vibration damping processing by PID control based on the sensor value of the vibration sensor and an image processing damping processing step of performing image processing damping processing based on image blurring of the video captured by the camera module, and a state in which the active damping processing is turned off and the image processing damping processing is turned off. a sensor correction value calculation step of comparing the sensor value of the vibration sensor and the amount of image blur obtained in the above, and calculating a correction value of the sensor value of the vibration sensor so as to reduce the difference between the values; In the active damping processing step, the active damping processing is performed based on the sensor value using the correction value calculated in the sensor correction value calculating step.
This reduces or eliminates the difference between the sensor value (blur amount) obtained by the vibration sensor and the image blur amount in the image, thereby improving the vibration damping performance.
本発明によれば、振動センサを用いたアクティブ制振機能と画像処理制振機能との二つの制振機能を有する撮像装置において、制振性能を向上させることができる。 According to the present invention, it is possible to improve vibration damping performance in an imaging apparatus having two vibration damping functions, an active damping function using a vibration sensor and an image processing damping function.
以下、本発明の実施形態について図面を参照して詳細に説明する。図1は本実施形態に係る雲台一体型カメラ100を示し、図1(a)は外観、図1(b)は主要構成を模式的に示している。また、図2は、雲台一体型カメラ100の機能ブロック図であり、主に制振機能(振動による画像ブレの低減機能)に着目して示している。雲台一体型カメラ100は、アクティブ制振機能と画像処理制振機能とのハイブリッド制振機能を有し、その制振機能においてPID制御を適用したPID制振制御を用いる。
BEST MODE FOR CARRYING OUT THE INVENTION Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. FIGS. 1A and 1B schematically show a pan head-integrated
図1に示すように、雲台一体型カメラ100は、カメラモジュール1を備え、チルト軸モータ及びパン軸モータを有するアクチュエータ8によって、パン軸回転方向2及びチルト軸回転方向3の2軸方向について旋回駆動可能である。
As shown in FIG. 1, a pan head-integrated
回転部である本体部4と土台部5は、図示されないスリップリング9aを介することでパン軸回転方向2に360°エンドレスで旋回する。本実施形態では、図1の雲台一体型カメラのパン軸のジャイロ補正値計算処理と制御ゲインを調整する手順について説明する。
The
図1に示す雲台一体型カメラ100の土台部5の外部(内部でもよい)には、振動センサとして3軸対応のジャイロセンサ6が取り付けられている。ジャイロセンサ6は、3軸方向のジャイロ信号を取得し、その信号をマイクロコンピュータ(後述のアクティブ制振制御部20)に伝送する。本実施形態では、ジャイロセンサ6は、土台部5に取りつけられたジャイロセンサ(A)6aと、本体部4に取りつけられたジャイロセンサ(B)6bの2箇所に設けられているが、このような構成に限らず、いずれか一方のみでもよい。ジャイロセンサ6をこのような構成とすることで、チルト軸9bのアクティブ制振処理をシンプルにすることができる。ジャイロセンサ6は、取付け位置である土台部5や本体部4の振動を検出する。なお、ジャイロ信号は、角速度として出力される。
A three-
雲台一体型カメラ100を振動のある場所(図示せず)に設置すると、土台部5、本体部4、カメラケース7を伝搬しカメラモジュール1を振動させる。この振動により画像ブレが生じる。ジャイロセンサ6はその振動を検出し、その検出結果が画像ブレ低減に利用される。
When the platform-integrated
図2を参照してアクティブ制振機能と画像処理制振機能とのハイブリッド制振機能について説明する。図示のように、雲台一体型カメラ100は、カメラモジュール1を制御する制御部10を備える。制御部10は、アクティブ制振制御部20と、画像処理制振処理部30と、全体制御部40とを備える。なお、図示はしないが、無線LANやBLUETOOTH(登録商標)通信の機能(通信IF)を備え、操作端末99等と通信し所定のコマンドを送信したり、撮影した映像を送信したりすることが可能である。
The hybrid damping function of the active damping function and the image processing damping function will be described with reference to FIG. As illustrated, the pan head integrated
アクティブ制振制御部20は、例えば、MPU(Microprocessor)からなり、画像ブレ低減機能を実現する。その低減処理のため、アクティブ制振制御部20は、ゲイン調整処理部21と、変数保持部22と、ジャイロセンサデータ取得部23と、ジャイロセンサデータ記録部24と、アクティブ制振処理部25と、モータ制御パルス出力部26と、センサ補正値計算処理部27とを備える。
The active damping
ジャイロセンサデータ取得部23は、ジャイロセンサ6からジャイロ信号を取得する。ジャイロセンサデータ記録部24は、取得したジャイロ信号を記録する。
A gyro sensor data acquisition unit 23 acquires a gyro signal from the
アクティブ制振処理部25は、取得したジャイロ信号に基づきPID制御によりアクティブ制振処理を行い、ブレ低減を行う。モータ制御パルス出力部26は、アクティブ制振処理部25の演算結果に基づき、カメラ撮像方向設定モータ8(パン軸モータ8a、チルト軸モータ8b)を制御する。なお、PID制御において、P制御量、I制御量、D制御量の全てについてゲイン調整する必要が無い場合もある。すなわち、いずれかの制御量においてゲイン調整が有効に機能するもの、例えば「P制御量のみ」や、「P制御量及びD制御量」に着目して調整を行い、他の調整処理を省くこともできる。
The active damping
アクティブ制振制御部20は、制振機能のON/OFFを切替え可能であり、制振機能がOFFの時にもジャイロセンサ値の記録のみ実行できる。この時、後述する画像処理制振処理部30により画像ブレ量計算のみ実行した場合の記録値はアクティブ制振処理部25から参照できる。
The active damping
ゲイン調整処理部21は、PIDゲイン調整処理機能を実行する場合、アクティブ制振機能をON、画像処制振機能をOFFにして画像ブレ量計算のみを実行した状態で行う。この状態で雲台(土台部5)や本体部4(回転部)に振動が発生した場合、アクティブ制振処理により、カメラ映像の画像ブレは低減し、その時の画像ブレ量のみを記録することが出来る。この時、低減する画像ブレの量は、アクティブ制振のPIDゲインによって変化する。PIDゲイン調整処理機能は、あらかじめ指定した範囲でPIDゲインを変動させていき、PIDゲインごとの画像ブレ量を記録して、その中から画像ブレが最少になる場合のPIDゲインを決定する処理をする。
When executing the PID gain adjustment processing function, the gain
アクティブ制振処理部25は、アクティブ制振のPID制御処理において、ジャイロセンサ6の検出値を取得した後、ジャイロセンサ6の検出値に対してセンサ補正値計算処理部27が算出するセンサ補正値を取得し補正処理を施し、補正後の値からP制御量、I制御量、D制御量を計算する。
After acquiring the detection value of the
センサ補正値計算処理部27は、図5で後述するセンサ補正値計算処理によりセンサ補正値を算出する。ジャイロセンサ6の補正値を算出する機能として指定した時間の間、アクティブ制振処理部25は、ジャイロセンサ値のみを検出して記録し、また、画像処理制振処理部30における画像処理制振では、画像ブレ量のみを計算して記録する。この間、雲台(土台部5)を取付けした構造体に振動が発生した場合、同じ振動揺れをジャイロセンサ6と画像ブレ計算で同時に検出する。指定時間経過後にジャイロセンサ6の記録値と画像ブレ量の記録値を比較処理してジャイロセンサ6の補正値を算出する。
The sensor correction value calculation processing unit 27 calculates a sensor correction value by a sensor correction value calculation process to be described later with reference to FIG. During the time specified as the function for calculating the correction value of the
モータ制御パルス出力部26は、アクティブ制振処理部25が算出した制御量に対応し、それぞれにPIDゲインを掛けて加算した値に対応するパルスによってカメラ撮像方向設定モータ8に動作指令を送る。この時、ジャイロセンサ6の補正量計算で使用する値とPIDゲインとは、制振処理の中で値を変数として、変数保持部22に保持させ変更可能となっている。
The motor control
図3を参照して、アクティブ制振制御部20におけるアクティブ制振処理のフローを説明する。
The flow of active damping processing in the active damping
アクティブ制振処理機能がONの場合(S11のYES)、ジャイロセンサデータ取得部23は、ジャイロセンサ値を取得し(S12)、センサ補正値計算処理部27がそのジャイロセンサ値に対して、変数保持部22に記録されているセンサ補正値を反映させるセンサ値補正処理を実行する(S13)。 When the active damping processing function is ON (YES in S11), the gyro sensor data acquisition unit 23 acquires the gyro sensor value (S12), and the sensor correction value calculation processing unit 27 calculates the variable A sensor value correction process is executed to reflect the sensor correction value recorded in the holding unit 22 (S13).
アクティブ制振処理部25は、補正が施されたセンサ値に基づき、PID制御の制御量(P制御量、I制御量、D制御量)を算出する(S14)。モータ制御パルス出力部26は、算出された制御量に対応したカメラ撮像方向設定モータ8(パン軸モータ8a、チルト軸モータ8b)の動作量(すなわちパルス出力量)を算出し(S15)、カメラ撮像方向設定モータ8に対して動作指令を出力する(S16)。
The active damping
アクティブ制振処理機能がOFFの場合(S11のNO)、アクティブ制振制御部20は、センサ補正量計算機能がONであれば(S17のYES)、ジャイロセンサデータ取得部23がジャイロセンサ6のジャイロセンサ値を取得し(S18)、ジャイロセンサデータ記録部24に記録する(S19)。センサ補正量計算機能がOFFであれば(S17のNO)、処理は実行されず終了となる。
If the active damping processing function is OFF (NO in S11), the active damping
図2に戻り、画像処理制振処理部30の説明をする。画像処理制振処理部30は、例えば、FPGA(Field Programmable Gate Array)であって、画像処理による画像ブレ低減機能を備える。画像ブレ低減機能を実行する具体的な構成として、画像処理制振処理部30は、カメラ映像取得31と、基準画像保存部32と、画像ブレ量算出部33と、画像切出位置算出部34と、画像切出し処理部35とを備える。
Returning to FIG. 2, the image processing vibration
カメラ映像取得31は、カメラモジュール1から映像(画像)を取得する。基準画像保存部32は基準画像を記録し保持する。画像ブレ量算出部33は、画像ブレ量を算出する。画像切出位置算出部34は、画像処理による制振処理において、画像の切出し位置を算出する。画像切出し処理部35は、画像切出位置算出部34が算出した画像の切出し位置に基づき、撮影した映像をトリミングして切出し、操作端末99等にカメラ映像表示出力する。
A camera image acquisition 31 acquires a video (image) from the
図4を参照して、画像処理制振処理部30による画像ブレ低減処理のフローを説明する。画像処理制振機能がONの場合(S21のYES)、カメラ映像取得31は、カメラモジュール1から映像を取得し(S22)、画像ブレ量算出部33がその映像の画像ブレ量を計算する(S23)。画像切出位置算出部34は算出した画像ブレ量から映像出力した場合にブレが無くなるように画像切出し位置を算出し、画像切出し処理部35がカメラ画像の切出し処理を行い(S24)、切り出した画像を表示出力する(S25)。
A flow of image blurring reduction processing by the image processing vibration
画像処理制振機能がOFFの場合(S21のNO)、PIDゲイン調整処理機能がONかセンサ補正量計算処理がONであれば(S26のYES)、カメラ映像取得31はカメラモジュール1から映像を取得し(S27)、画像ブレ量算出部33がその映像の画像ブレ量を計算し全体制御部40に通知する(S28)。全体制御部40は、画像ブレ量データ保持部44に画像ブレ量を記録する(S29)。
If the image processing damping function is OFF (NO in S21), if the PID gain adjustment processing function is ON or the sensor correction amount calculation processing is ON (YES in S26), the camera image acquisition 31 obtains the image from the
PIDゲイン調整処理機能及びセンサ補正量計算処理のいずれもOFFであれば(S26のNO)、当該フローによる処理は終了する。 If both the PID gain adjustment processing function and the sensor correction amount calculation processing are OFF (NO in S26), the processing according to the flow ends.
再度図2に戻り、全体制御部40の説明をする。全体制御部40は、画像処理制振ON/OFF部41と、アクティブ制振ON/OFF部42と、PIDゲイン自動調整ON/OFF部43と、画像ブレ量データ保持部44と、を備える。
Returning to FIG. 2 again, the
画像処理制振ON/OFF部41は、画像処理制振処理部30による画像処理制振機能のON/OFFを実行する。これによって画像処理制振機能はON/OFF切替え可能となり、画像処理制振機能がOFFの時も画像ブレ量計算のみを実行して記録する機能を持たせる。この時、画像ブレ量計算のみ実行した場合の記録値はアクティブ制振制御部20から参照できる。
The image processing damping ON/
アクティブ制振ON/OFF部42は、アクティブ制振制御部20によるアクティブ制振機能のON/OFFを実行する。これによってアクティブ制振機能はON/OFFを切替え可能となり、制振機能がOFFの時にもジャイロセンサ値の記録のみ実行できる。
The active damping ON/
PIDゲイン自動調整ON/OFF部43は、所定のコマンドを取得してPIDゲイン調整機能のON/OFFを実行する。画像ブレ量データ保持部44は、画像ブレ量算出部33が算出した画像ブレ量を記録し保持する。センサ補正量計算ON/OFF部45は、所定のコマンド(センサ補正量計算コマンド)を取得してジャイロセンサ6のジャイロセンサ値の補正量計算処理のON/OFFを実行する。
The PID gain automatic adjustment ON/
つづいて図5を参照してセンサ補正値計算処理のフローを説明する。この処理は、制振制御がOFFの状態で行われる。センサ補正値計算処理部27は、所定のトリガーによって処理をスタートさせ、まず指定時間を取得する(S31)。トリガーとして、例えば、雲台一体型カメラ100の外部操作メニューにより指示されるセンサ補正量計算コマンドがある。実使用ではPIDゲイン調整実行処理の前に組み込んでよい。指定時間は、予め初期値として設定されていてもよいし、操作端末99から管理者等の指定を受けてもよい。つぎに、ジャイロセンサデータ取得部23が、ジャイロセンサ6からジャイロセンサ値を取得し、ジャイロセンサデータ記録部24に記録する(S32)。この処理は、図3のS18、S19の処理に対応しアクティブ制振をOFFの状態で実行される。
Next, the flow of sensor correction value calculation processing will be described with reference to FIG. This processing is performed in a state where damping control is OFF. The sensor correction value calculation processing unit 27 starts processing by a predetermined trigger, and first acquires a specified time (S31). As a trigger, for example, there is a sensor correction amount calculation command instructed by the external operation menu of the pan head-integrated
つぎに、画像ブレ量算出部33が、カメラモジュール1の撮影した映像から画像ブレ量を算出し画像ブレ量データ保持部44に記録する(S33)。この処理は、図4のS27~S29の処理に対応し、画像処理制振をOFFした状態で実行される。
Next, the image blur
所定時間が終了していない場合(S34のNO)、ジャイロセンサ値記録処理(S32)及び画像ブレ量記録処理(S33)は継続する。 If the predetermined time has not ended (NO in S34), the gyro sensor value recording process (S32) and the image blur amount recording process (S33) are continued.
所定時間が終了すると(S34のYES)、センサ補正値計算処理部27はジャイロセンサデータ記録部24に記録してあるジャイロセンサ値と画像ブレ量データ保持部44に記録されている画像ブレ量の記録値とを比較し差分を検出し(S35)、それらの間に差が無いようにセンサ補正値を決定し記録する(S36)。
When the predetermined time has elapsed (YES in S34), the sensor correction value calculation processing section 27 calculates the gyro sensor value recorded in the gyro sensor
センサ補正値計算処理では最初にジャイロセンサ6の検出値の記録と画像ブレ量の計算値の記録のみを一定時間(例えば1分間)行う。画像ブレ低減処理を行わないため、この間記録されるデータは同じ振動内容のデータとなる。ただし、ジャイロセンサ6の値は雲台の土台部5、画像ブレ量の値はカメラ部(カメラモジュール1)に伝搬した振動となるため、記録データに誤差が発生する。誤差を事前に計算して、ジャイロセンサ6の補正値として変数保持部22に記録、アクティブ制振処理で使用することで制振効果を高めることができる。
In the sensor correction value calculation process, first, only the recording of the detected value of the
ジャイロセンサ6のデータは角速度であるため、ジャイロセンサ6のサンプリング時間で積分すると角度を得られる。一方、画像ブレ量もカメラモジュール1の画角とピクセル数から角度を得られる。同じ振動であれば、ジャイロセンサ値から得られる振幅角度と画像ブレ計算から得られる振幅角度は同じ値になるはずなので、その差分が大きければ比率を計算して、アクティブ制振の中でジャイロセンサの補正値として組み込むことでよりカメラ映像のブレを反映した補正が可能になる。
Since the data of the
図6を参照してアクティブ制振処理におけるゲイン調整処理のフローを説明する。ゲイン調整処理部21は、所定のトリガーによって処理を開始する。ここでは、雲台一体型カメラ100の外部操作メニューからPIDゲイン調整コマンドが送信されPIDゲイン自動調整ON/OFF部43が取得する形態をとる。実使用では定期的に実行する処理としてもよいし、雲台一体型カメラ100のエラー発生時のリスタート直後に実行されてもよいし、画像処理制振において補正量が所定値を超えた場合に実行されてもよい。
A flow of gain adjustment processing in the active damping processing will be described with reference to FIG. The gain
全体制御部40においてPIDゲイン自動調整ON/OFF部43がPIDゲイン調整コマンドを受信すると、画像処理制振処理部30に画像ブレ量計算(画像補正は行わない)の実行指令を出す(S41)。アクティブ制振が動作していない状況では、画像ブレ補正が働かないため振動が伝わる度に画像ブレが発生する。ゲインの自動調整処理の間、画像ブレ量算出部33は、画像ブレ量を全体制御部40に出力し続ける。全体制御部40ではアクティブ制振処理部のゲインごと制振効果を記録するタイミングに合わせて、画像ブレ量算出部33から受信する画像ブレ量を画像ブレ量データ保持部44に記録する。
When the PID gain automatic adjustment ON/
続いて全体制御部40はアクティブ制振制御部20のゲイン調整処理部21に処理実行を命令する。ゲイン調整処理部21は、ゲイン設定値nを取得する(S42)。初期ゲインを「1」として、処理回数となる「n」まで繰り返し実行される。ゲイン調整処理実行開始のため、PIDゲインをあらかじめ設定してある初期ゲイン「1」に設定する。
Subsequently, the
アクティブ制振制御部20ではゲインを初期値に設定後、アクティブ制振処理を開始するとともに、全体制御部に画像ブレ量データの保存開始のタイミングを伝える。全体制御部40は画像ブレ量を一定時間(たとえば5秒)記録し、アクティブ制振制御部20ではジャイロセンサの値を同じ時間記録する(S43)。雲台一体型カメラ100に発生する振動は常に一定ではないので、アクティブ制振の制振効果の判定のため一定時間のデータ記録が必要となる。
After setting the gain to the initial value, the active damping
指定時間のデータ記録後、アクティブ制振処理部25は、一度アクティブ制振処理とジャイロセンサ値の記録を中断して、全体制御部40にも画像ブレ量の記録停止を伝える。処理の停止を確認後、全体制御部40は記録した画像ブレ量の最大値を検索して、このときの設定ゲインでのモータ制御方向、速度が計算されアクティブ制振の結果として保存する(S44)。
After recording the data for the specified time, the active vibration damping
この時、ジャイロセンサ6の記録データは画像ブレ量の記録と比較することでアクティブ制振が正常に動作していたかを判定する材料とする。例えば、ジャイロセンサの値が小さい時に画像ブレ量が最大値を記録した場合、信頼性の低い値と判断することが出来る。
At this time, the recorded data of the
以上の処理を1ゲインの設定として、あらかじめ設定していたゲイン範囲全てで処理を繰り返す(S45のNO)。アクティブ制振制御部20はゲイン範囲内の結果を全て取得した後(S45のYES)、アクティブ制振の処理を停止して、全体制御部40に記録取得の処理が終了したことを伝え、全体制御部40は記録したゲイン値と画像ブレ量の最大値のセットを検査し、画像ブレ量が一番小さくなったゲイン値を抽出する(S46)。その後、PIDゲイン設定処理によって、抽出したゲイン値がアクティブ制振処理部25のゲイン値に上書きされ(S47)、自動ゲイン処理が終了となる。
The above processing is set for one gain, and the processing is repeated for the entire gain range set in advance (NO in S45). After acquiring all the results within the gain range (YES in S45), the active damping
以上、本実施形態によれば、雲台一体型カメラ100を振動発生場所に設置した状態で、アクティブ制振と画像ブレ補正の機能を使用してアクティブ制振側のゲインの自動調整を実現することができる。
As described above, according to the present embodiment, in a state in which the platform-integrated
以上、本発明を実施形態をもとに説明した。この実施形態は例示であり、それらの各構成要素の組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。例えば、画像ブレ量を算出し、アクティブ制振処理にフィードバックすることで、画像処理制振処理を行う場合に、トリミングする領域を小さくすることで、広い画角の映像出力が可能となる。 The present invention has been described above based on the embodiments. It should be understood by those skilled in the art that this embodiment is an example, and that various modifications can be made to the combination of each component, and that such modifications are within the scope of the present invention. For example, by calculating the amount of image blurring and feeding it back to the active damping process, it is possible to output video with a wide angle of view by reducing the area to be trimmed when the image processing damping process is performed.
1 カメラモジュール
2 パン軸回転方向
3 チルト軸回転方向
4 本体部
5 土台部
6 ジャイロセンサ
7 カメラケース
8 カメラ撮像方向設定モータ
9a パン軸
9b チルト軸
10 制御部
20 アクティブ制振制御部
21 ゲイン調整処理部
22 変数保持部
23 ジャイロセンサデータ取得部
24 ジャイロセンサデータ記録部
25 アクティブ制振処理部
26 モータ制御パルス出力部
27 センサ補正値計算処理部
30 画像処理制振処理部
31 カメラ映像取得
32 基準画像保存部
33 画像ブレ量算出部
34 画像切出位置算出部
35 画像切出し処理部
40 全体制御部
41 画像処理制振ON/OFF部
42 アクティブ制振ON/OFF部
43 PIDゲイン自動調整ON/OFF部
44 画像ブレ量データ保持部
45 センサ補正量計算ON/OFF部
99 操作端末
1
Claims (2)
前記土台部に対して回動可能に装着された本体部と、
前記本体部に固定されたカメラモジュールと、
前記カメラモジュールの撮像方向を定めるアクチュエータと、
前記土台部に備えられた振動センサと、
前記振動センサの検出結果をもとに、前記アクチュエータに対してアクティブ制振制御を行うアクティブ制振制御部と、
撮影した映像の画像ブレ量を算出する画像ブレ量算出部と、
前記画像ブレ量をもとに画像処理制振処理を行う画像処理制振制御部と、
前記アクティブ制振制御をオフかつ前記画像処理制振処理をオフにした状態において、前記振動センサのセンサ値を一定期間において取得し蓄積する振動センサ値取得部と、
前記振動センサ値取得部における前記センサ値の取得期間と同じ一定期間において、前記画像ブレ量を取得し蓄積する画像ブレ量算出部と、
前記一定期間における前記センサ値と前記画像ブレ量とを比較し、それら値の差を縮小するように、前記振動センサのセンサ値の補正値を算出するセンサ補正値計算処理部と、
を備え、
前記アクティブ制振制御部は、前記センサ補正値計算処理部によって算出された前記補正値を用いて補正された前記振動センサの検出結果をもとに前記アクティブ制振制御を行うことを特徴とする撮像装置。 a base;
a body portion rotatably attached to the base portion;
a camera module fixed to the main body;
an actuator that determines an imaging direction of the camera module;
a vibration sensor provided on the base ;
an active damping control unit that performs active damping control on the actuator based on the detection result of the vibration sensor;
an image blur amount calculation unit that calculates the image blur amount of the captured video;
an image processing damping control unit that performs image processing damping processing based on the amount of image blur;
a vibration sensor value acquisition unit that acquires and accumulates sensor values of the vibration sensor for a certain period of time in a state in which the active vibration damping control is turned off and the image processing vibration damping process is turned off;
an image blur amount calculation unit that acquires and accumulates the image blur amount in the same fixed period as the acquisition period of the sensor value in the vibration sensor value acquisition unit;
a sensor correction value calculation processing unit that compares the sensor value and the image blur amount in the fixed period and calculates a correction value for the sensor value of the vibration sensor so as to reduce the difference between the values;
with
The active damping control section performs the active damping control based on the detection result of the vibration sensor corrected using the correction value calculated by the sensor correction value calculation processing section. Imaging device.
前記土台部に対して回動可能に装着された本体部と、
前記本体部に固定されたカメラモジュールと、
前記カメラモジュールの撮像方向を定めるアクチュエータと、
前記土台部に備えられた振動センサと、
を具備する撮像装置における、前記カメラモジュールの制振方法であって、
前記振動センサのセンサ値をもとにPID制御によりアクティブ制振処理を行うアクティブ制振処理工程と、
前記カメラモジュールの撮影した映像の画像ブレをもとに画像処理制振処理を行う画像処理制振処理工程と、
前記アクティブ制振処理をオフかつ前記画像処理制振処理をオフにした状態において得られた前記振動センサのセンサ値と前記画像ブレの量とを比較し、それら値の差を縮小するように前記振動センサのセンサ値の補正値を算出するセンサ補正値計算工程と、
を具備し、
前記アクティブ制振処理工程において、前記センサ補正値計算工程によって算出された前記補正値を用いた前記センサ値をもとに前記アクティブ制振処理を行うことを特徴とする制振方法。 a base;
a body portion rotatably attached to the base portion;
a camera module fixed to the main body;
an actuator that determines an imaging direction of the camera module;
a vibration sensor provided on the base ;
A vibration suppression method for the camera module in an imaging device comprising:
an active vibration damping processing step of performing active vibration damping processing by PID control based on the sensor value of the vibration sensor;
an image processing and damping processing step of performing image processing and damping processing based on image blurring of the video captured by the camera module;
A sensor value of the vibration sensor obtained in a state in which the active vibration damping process is turned off and the image processing vibration damping process is turned off and the amount of image blurring are compared with each other, and the difference between the values is reduced. a sensor correction value calculation step of calculating a correction value for the sensor value of the vibration sensor;
and
A vibration damping method, wherein in the active vibration damping processing step, the active vibration damping processing is performed based on the sensor value using the correction value calculated in the sensor correction value calculating step.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018173654A JP7202823B2 (en) | 2018-09-18 | 2018-09-18 | Imaging device and damping method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018173654A JP7202823B2 (en) | 2018-09-18 | 2018-09-18 | Imaging device and damping method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020046498A JP2020046498A (en) | 2020-03-26 |
JP7202823B2 true JP7202823B2 (en) | 2023-01-12 |
Family
ID=69899609
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018173654A Active JP7202823B2 (en) | 2018-09-18 | 2018-09-18 | Imaging device and damping method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7202823B2 (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7301542B2 (en) * | 2019-01-21 | 2023-07-03 | キヤノン株式会社 | Imaging device and its control method |
JPWO2022019197A1 (en) * | 2020-07-21 | 2022-01-27 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006065103A (en) | 2004-08-27 | 2006-03-09 | Nikon Corp | Blurring correcting apparatus and camera system |
JP2007158853A (en) | 2005-12-06 | 2007-06-21 | Konica Minolta Opto Inc | Shake correcting device |
JP2009300614A (en) | 2008-06-11 | 2009-12-24 | Canon Inc | Imaging device |
JP2018055096A (en) | 2016-09-27 | 2018-04-05 | 株式会社日立国際電気 | Imaging apparatus |
-
2018
- 2018-09-18 JP JP2018173654A patent/JP7202823B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006065103A (en) | 2004-08-27 | 2006-03-09 | Nikon Corp | Blurring correcting apparatus and camera system |
JP2007158853A (en) | 2005-12-06 | 2007-06-21 | Konica Minolta Opto Inc | Shake correcting device |
JP2009300614A (en) | 2008-06-11 | 2009-12-24 | Canon Inc | Imaging device |
JP2018055096A (en) | 2016-09-27 | 2018-04-05 | 株式会社日立国際電気 | Imaging apparatus |
Also Published As
Publication number | Publication date |
---|---|
JP2020046498A (en) | 2020-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7590336B2 (en) | Image stabilizer | |
JP6410923B2 (en) | Tracking control device, tracking control method, tracking control program, and automatic tracking imaging system | |
US8497916B2 (en) | Image capture device changing cropping range of image based on magnitude of shake of the device, image generating method, and computer program thereof | |
JP7202823B2 (en) | Imaging device and damping method | |
US8767079B2 (en) | Image capture apparatus and control method thereof | |
JP2017142226A (en) | Drone equipped with video camera sending sequence of image corrected for wobble effect | |
JP2016082589A (en) | Mobile apparatus, in particular, rotary-wing drone, provided with video camera supplying image sequences with dynamic correction of wobble effect | |
JP4753065B2 (en) | Image blur correction device | |
CN105578146A (en) | Mechanical anti-shake processing method and device | |
US20190158745A1 (en) | Imaging apparatus and control method thereof | |
JP5268546B2 (en) | Optical apparatus and control method thereof | |
JP7456043B2 (en) | Imaging support device, imaging support system, imaging system, imaging support method, and program | |
JP4683268B2 (en) | Image blur correction device | |
JP2019145958A (en) | Imaging apparatus, control method of the same, and program | |
US8369697B2 (en) | Optical device | |
US20120207457A1 (en) | Image stabilization apparatus, and control method for same | |
EP2031440B1 (en) | Image stabilization apparatus for camera | |
CN110177203B (en) | Image pickup apparatus that performs image stabilization, control method therefor, and storage medium | |
JPH1164917A (en) | Image blur correcting device and panning deciding device | |
KR20160102736A (en) | Optical image stabilizer and camera module including the same | |
JP4305723B2 (en) | Image blur correction device | |
JP4162333B2 (en) | Monitoring system | |
JP2003107550A (en) | Image blur preventing device | |
JPH09139881A (en) | Camera-shake correction device | |
JP7362457B2 (en) | Imaging device drive control method, imaging device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210708 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220520 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220531 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220721 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221101 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221207 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221220 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221226 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7202823 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |