JPH04117077A - 動きベクトル検出装置 - Google Patents

動きベクトル検出装置

Info

Publication number
JPH04117077A
JPH04117077A JP2150595A JP15059590A JPH04117077A JP H04117077 A JPH04117077 A JP H04117077A JP 2150595 A JP2150595 A JP 2150595A JP 15059590 A JP15059590 A JP 15059590A JP H04117077 A JPH04117077 A JP H04117077A
Authority
JP
Japan
Prior art keywords
image
motion vector
motion
circuit
cumulative addition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2150595A
Other languages
English (en)
Other versions
JP2641599B2 (ja
Inventor
Yoshihiro Nishida
好宏 西田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to GB9022131A priority Critical patent/GB2239575B/en
Priority to DE4032969A priority patent/DE4032969A1/de
Priority to US07/758,546 priority patent/US5189518A/en
Publication of JPH04117077A publication Critical patent/JPH04117077A/ja
Priority to US07/893,143 priority patent/US5319456A/en
Priority to US07/979,779 priority patent/US5450126A/en
Priority to GB9402931A priority patent/GB2273223B/en
Application granted granted Critical
Publication of JP2641599B2 publication Critical patent/JP2641599B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Lens Barrels (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は小型化の進むカメラ、特に手に持って撮影する
ような小型軽量のビデオカメラなどの撮像装置において
、画面ゆれを補正する画像動き補正装置に関するもので
ある。
〔従来の技術〕
テレビジョン画面のような画面内における画像の動きは
、画像中の物体の移動によるものとカメラの平行移動(
パン)によるものが−船釣であるが、この他に撮影時の
条件によりカメラの振動等による画像の動きが加わるこ
とがある。例えば、望遠で撮影するときには、画角が小
さいためわずかの振動が画像では大きな動きとなり、視
覚上の障害となりやすい。また、ビデオカメラを持って
移動しながら撮影する場合やヘリコプタ−等に搭載して
撮影する場合にもカメラの振動が画面の振動となって現
れる。
このような障害の対策としてジャイロセンサを利用した
防振装置がある。これはジャイロセンサで検出した変位
分だけ逆方向に位置または光軸を動かすように制御し補
正するものである。
一方、画像情報を電気的に処理して補正を行うことが考
えられている。
第6図は電気的に処理して補正を行う場合の一般的な構
成を示すブロック図である。第6図において、601は
アナログ・デジタル変換器(以下A/D変換器と称す)
、602は入力信号を書き込み、読み出すメモリ、12
は入力信号のゆれの方向と大きさを検出する動きベクト
ル検出回路、603は動きベクトル検出回路I2からの
動きに従ってメモリ602の読み出しアドレスを制御す
るメモリ続出制御回路、604はメモリ602から読み
出した映像信号の一部分を拡大補間処理する補間回路、
605はデジタル・アナログ変換器(以下D/A変換器
と称す)である。
次にこの構成による動き補正の動作について説明する。
入力された画像信号はA/D変換器601により一定の
サンプリング周波数でサンプリングされ、デジタル信号
に変換されて、メモリ602に書き込まれる。また、動
きベクトル検出回路12は連続するフレーム間の相関か
らフレーム単位の動き(速度)を検出する。メモリ続出
制御回路603は動きベクトル検出回路12により求め
た動き量をもとにして基準点(読み出しアドレス)を動
き量により移動させてメモリ602に書き込まれた信号
の一部分を読み出す。読み出された信号は補間回路60
4により元の画面サイズに拡大補間され、D/A変換器
605によりビデオ信号に変換され出力される。
第7図にメモリ602から基準点を移動させて読み出す
様子を示す、Wで示す領域は入力信号をメモリに書き込
む領域であり、これは常に一定である。Roで示す領域
は動き量がOの場合のメモリからの読み出し領域であり
、Rxyで示す領域は動き量が水平X、垂直yの時のメ
モリからの読み出し領域である。動き量は動きベクトル
検出で求めたフレーム単位の動き(速度)を積分するこ
とによって得ることができ、積分による誤差の蓄積は安
定時に読み出し領域をRoに近づけるという操作により
なくすことができる。
ところで、このような画像動き補正装置において、フレ
ーム間の画像移動量を検出するためには本来、画像内の
全画素についてその方向にどれだけ動いたかを算出する
のが理想的であり、これ以上のベクトル検出精度はない
。しかし、大規模なハードウェアと時間を要し、実現困
難である。そこで、一般には、画面のいくつかの画素(
以下、代表点と称す)に着目し、これらの画素の移動量
から画面全体の動きベクトルを決定する方法が取られて
いる。
第16図は一般的な代表点演算回路のブロック図である
。第17図は第16図の従来例における画像のブロック
及び代表点との関係を示している図である。1フイール
ドの画像を所定個数のブロック115に分け、各ブロッ
ク毎に中央に1つの代表点RiJ114を設けている。
各ブロック毎に1フレーム前の代表点とブロック内の全
画素S、。
、、J、、116とのレベル差を演算している。
第16図において、入力映像信号(a)はまずA/D変
換器101でA/D変換され、代表点114となるべき
ブロック115内の所定の画素が、ラッチ回路102を
経由して代表点メモリ103に書き込まれる。代表点メ
モリ103に収納されたデータは、1フレーム遅延され
て読み出され、ラッチ回路104を経由して絶対値回路
106に送られる。他方、A/D変換された映像信号の
データはラッチ回路105を経由して絶対値回路106
に送出される。ランチ回路104より出力される1フレ
ーム前の代表点信号(b)とラッチ回路105より出力
された現フレームの画素信号(C)は絶対値回路106
にて演算され差の絶対値が算出される。これらの演算は
ブロック単位に行なわれ、この絶対値回路106の出力
信号(2)は累積加算テーブル108の各ブロック内の
画素の同一アドレスに対応するテーブルに次々と加算さ
れる。このテーブルの加算結果がテーブル値比較回路1
09に入力され、最終的に、加算結果の最小なところの
アドレスをもって1フレームで画像位置がどの方向にど
れだけ移動したか、すなわち動きベクトル値(e)が決
まる。すなわち、代表点Ri jと水平方向′X、垂直
方向yの位置関係にある信号S i+x + J。
アの差の絶対値を求め、各代表点について同じ位置関係
にあるxyについて加算して累積加算テーブルD xy
とする。
この時、D xyは D xy=Σ: Rij  5tyx + jay  
lで示される。
そして、このDXyの中での最小値のXとyを水平方向
及び垂直方向の動きベクトルとする。
ここで、代表点を中心とする1ブロンクは、ベクトルの
大きさ、すなわちベクトルによる画像の補正ができる範
囲を示している。また、累積加算を行なう結果は加算数
が多いほどベクトルの検出精度が向上するので、−船釣
には全画面の代表点を加算して、すなわち画面全体の動
きを平均したものを動きベクトルとしている。
〔発明が解決しようとする課題〕
従来の撮像装置は以上のように構成されていたが、振動
の検出にジャイロセンサを用いていたので、センサが高
価であるという問題だけでな(、センサの取り付は位置
をどこにするか、あるいはいかにそのスペースを確保す
るかという問題があった。
また、電気的に画質劣化を起こさないように補正しよう
とすると、高精度なA/D変換器、D/A変換器、大容
量のメモリ、メモリ制御や拡大補間のための大規模な回
路が必要であり、システムが高価になってしまい、消費
電流が大きくなってしまうという問題がある。また、補
正後の信号は常に入力された信号の一部の信号であるた
め、情報量が低下し解像度の低い信号となる。そして、
補正範囲を大きくして、大きなゆれを補正可能にすると
さらに情報量が低下し解像度が下がってしまい、このこ
とから逆に補正範囲はあまり大きく取れないことになる
という問題がある。
また、上記のような動きベクトル検出回路の構成では、
動きベクトルを平面的(2次元)に求めるために、ブロ
ック内の全画素数に対応した数の累積加算テーブルが必
要となり、1ブロツクの画素が水平32.垂直16とす
ると32X16=512個の累積加算テーブルを必要と
し、回路規模が大きくなるという問題点があった。また
、動きベクトルの算出においては累積加算テーブルの全
てのデータの比較を行なうため、算出に要する比較の回
数が非常に多く、時間がかかるという問題があった。
また、上記のような従来の画像動き補正装置の動きベク
トル検出装置では全画面にわたっての動きを平均化する
ような構成であるため、動きベクトル検出を行なうブロ
ックの配置が必ずしも画面中央に対して対称ではなく、
このため、平行移動だけの画像の場合にはうまく動きベ
クトルを検出できるが、ズーミング動作時の画像の場合
にはうまく動きベクトルを検出できないことがよく起こ
る。また、誤検出した場合には、平行移動の時よりもズ
ーミング動作時の方が目立ってしまい、ユーザーは違和
感を感じるという問題がある。
この発明は上記のような問題点を解消するためになされ
たもので、安価な小型軽量な手プレ防止機能を有する画
像動き補正装置を提供せんとするものである。
また、本発明は上記の点に鑑み、回路規模が小さく出来
、短い算出時間で動きベクトルを検出できる動きベクト
ル検出回路を有する画像動き補正装置を提供することを
目的とする。
さらに、本発明は、ビデオカメラ撮影において良く用い
るズーミング動作を行った時にもユーザーにとって違和
感の無い動きベクトルを検出できる動きベクトル検出回
路を有する画像動き補正装置を提供することを目的とす
る。
〔課題を解決するための手段〕
この発明に係る画像動き補正装置は、複数のレンズと撮
像素子を搭載した鏡筒部と、前記撮像素子に得られる電
気信号から画像信号を作り出す画像信号処理手段と、前
記鏡筒部への入射光線軸と直交もしくは略直交する回転
軸回りに前記鏡筒部を回動自在に支承する支持体と、前
記鏡筒部と前記支持体の間に取り付けられ、前記鏡筒部
を回転駆動するアクチュエータ手段と、前記鏡筒部と前
記支持体の相対角度を検出する相対角度検出手段と、前
記画像信号処理手段から得られる画像情報の時間的に連
続した2フレーム間の相関から画像の移動量を示す動き
ベクトルを検出する手段と、動きベクトルの検出結果か
らズーム倍率等により回転角速度を演算出力する角速度
演算手段と、前記回転角速度情報及び相対角度情報をも
とに前記アクチュエータの制御信号を出力する演算制御
手段とを備えたものである。
また、上記目的を達成するために本発明に係る画像動き
補正装置は、代表点の垂直方向に当たる画素に対応する
累積加算テーブルと代表点の水平方向に当たる画素に対
応する累積加算テーブルから直交する2つの1次元動き
ベクトルを求める手段と、直交する2つの1次元動きベ
クトルから2次元の動きベクトルを算出する手段とを備
えたものである。
さらに、この発明に係る画像動き補正装置は、1画面を
複数のブロックに分解し、上記ブロックごとに連続する
2フレーム間の差の絶対値を求め′る手段と、1画面を
複数のブロックで構成される複数のエリアに分割し、上
記ブロックごとの差の絶対値を上記エリアにわたって積
算しテーブルを算出する手段と、上記エリア毎に積算し
たテーブルから各エリアの動きベクトルを求める手段と
、上記求めた各エリアの動きベクトルから、画面全体が
平行移動しているのかズーミング動作をしているのかを
判定する手段と、平行移動と判断した時には画面全体の
動きベクトルを平均した値を動きベクトルとし、ズーミ
ング動作と判断した時には画面全体の動きベクトルを平
均した値に所定の減衰定数k(0≦k<1)を掛けた値
を動きベクトルとする手段とを備えたものである。
〔作用〕
本発明においては、以上の構成によって、映像信号から
直接画像の動きベクトルを検出し、ズーム倍率等により
回転角速度を演算算出し、アクチュエータを駆動するこ
とにより閉ループを構成して動き補正を行ない、また、
鏡筒部と支持体の相対角度を検出して、低周波領域にお
いてはこれがOとなるようにアクチュエータを駆動する
構成としたから、ズーム倍率によらず画像の動きを補正
することができ、定常時には鏡筒部を支持体の基準位置
に戻すように制御することができる。
また、上記構成による画像動き補正装置は、累積加算テ
ーブルからは直交する2つの1次元ベクトルを求めるだ
けであるために、累積加算テーブルの数が水平画素数と
垂直画素数との和で実現できる。例えば1ブロツクの画
素が水平32.垂直16とすると累積加算テーブルの数
は32÷16=48個ですむため、従来の1/10以下
の回路規模で累積加算テーブルを実現できる。また、累
積加算テーブル数を小さくすることにより、動きベクト
ル算出の演算時間を短くできる。
さらに、本発明においては、単に全画面の動きを平均し
て求めるのではなく、まず画面をいくつかに分割したエ
リアごとに動きベクトルを求め、各エリアの動きベクト
ルが同一方向を向いているのか、もしくは逆方向を向い
た関係になっているのかから画面全体が平行移動してい
るのかズーミング動作しているのかを判断する構成とし
たから、ズーミング動作を行った時にもユーザーにとっ
て違和感の無い動きベクトルを検出できる。
〔実施例〕
以下本発明の実施例を図について説明する。第1図は本
発明の第1の実施例による画像動き補正装置の構成図で
ある。第1図において、鏡筒部1には複数のレンズ群(
図示せず)と撮像素子2(例えばCCD板や撮像管)が
取り付けられ、被写体からの反射光を集結させて撮像素
子2に結像させ、電荷信号(電気信号)に変換する。画
像信号処理回路10は撮像素子2に得られた電荷信号を
逐次読み出し、画像信号(ビデオ信号)を作り出してい
る。
鏡筒部1と支持体3の間にはアクチュエータ5が配置さ
れ、回転軸6を中心にして鏡筒部1をヨ一方向に回転駆
動している(使用状態において、鏡筒部1はほぼ水平面
上で回動自在である)。
アクチュエータ5の回転軸6は鏡筒部1の重心Gを通り
、支持体3に回転可能に支承されている。
さらに、支持体3には撮像装置の操作者が手で支持する
グリップ部分4を設けである。
11はホール素子9の出力から鏡筒部1と支持体3の相
対角度を検出している相対角度検出回路、12は映像信
号処理回路10で作成された画像信号から動きベクトル
を検出する動きベクトル検出回路、13は動きベクトル
検出回路12の出力からズーム倍率等により鏡筒部lの
回転角速度を演算算出する角速度演算手段、14は相対
角度検出回路11及び角速度演算手段13の出力を入力
し、駆動回路15を通してアクチュエータ5を制御する
演算制御手段である。
第2図(a)、 (b)、 (C)にアクチュエータ5
の具体的な構成を示す。第2図において、マグネット2
02の強磁性体製のバックヨーク201は鏡筒部1に取
り付けられ、回転軸6とともに回転する。マグネッ訃2
02は4極に着磁され、界磁磁束を発生している。回転
軸6の軸受207が取り付けられたコイルヨーク203
にはコイル204a、204bとホール素子(感磁素子
)9が固着されている。
本実施例では、マグネット202が鏡筒部1に取り付け
られ、コイルヨーク203が支持体3に取り付けられて
いる。コイル204aと204bは直列に接続され、端
子205から端子206に流れる電流とマグネット20
2の磁束によって回転トルクを発生する。また、ホール
素子9はマグネット202の磁極の切り替え部分にほぼ
対向して配置され、マグネット202(鏡筒部1の角度
)とコイルヨーク203(支持体3の角度)の相対的な
角度差に対応した出力信号を発生する。アクチュエータ
5のマグネット202の磁界を検知するホール素子9の
出力は相対角度検出回路11に入力される。
第3図に相対角度検出回路11の具体的な構成を示す。
ホール素子9の2つの出力端子に得られる直流信号を、
演算増幅器301と抵抗302゜303.304,30
5からなる差動増幅回路によって所定倍に差動増幅し、
出力信号Cを得ている。+VH,−VHは適当な電圧で
あり、抵抗306.307を介してホール素子9に適当
なバイアスを与えている。
第4図は上記動きベクトル検出回路12の一例を示すブ
ロック図である。第4図において、入力映像信号aは映
像信号処理回路10により作り出された映像信号で、ま
ずA/D変換器401でA/D変換され、ラッチ回路4
02を経由してこのA/D変換された信号の一方が代表
点メモリ403に入力され、ここに書き込まれたブロッ
ク内の所定の画素が代表点となる。従って、代表点メモ
IJ 403の出力は1フレーム前に書き込まれた代表
点であり、これはブロック単位で読み出され、う、7チ
回路404を経由して信号eとなる。このブロック内に
入力したもう一方のA/D変換された映像信号をラッチ
回路405を経由した信号dと、代表点信号eとは絶対
値回路406によりその差の絶対値が算出される。これ
らは代表点数のブロックについて行われ、出力信号は累
積加算テーブル407の角ブロックの同一アドレスに対
応するテーブルに次々と加算される。このテーブルの結
果がテーブル値比較回路408に入力され、最終的に加
算結果の最小なところのアドレスをもって1フレームで
画像位置がどの方向にどれだけ移動したかが、即ちベク
トル値すが求められる。
第5図は以上の一般的な代表点演算における画像のブロ
ック及び代表点との関係を示している。
1フレーム前に取り出した代表点501をもとに、ブロ
ック502内に入力された画素503と代表点レベルと
の演算が各ブロックで行われることを示している。
即ち、代表点Ri jと水平方向X、垂直方向yの位置
関係にある信号S L”X + J+yの差の絶対値を
各代表点について同じ位置関係にあるx、yについて加
算してD xyとする。この時、DX、=Σl RjJ
  Si+X + j”!/で示される。
そして、このD xyの中での最小値のXとyを水平方
向及び垂直方向の動きベクトルとする。
ここで、代表点を中心とする1ブロツクは、ベクトルの
大きさ、即ちベクトルによる画像の補正ができる範囲を
示している。また、累積加算を行う結果は加算数が多い
ほどベクトルの検出精度が向上するので、−船釣には全
画面の代表点を加算して、即ち画面全体の動きを平均し
たものを動きベクトルとする。
次に制御ループについて説明する。グリップ4を持って
いる操作者の手がある速度で回転する。
そして、鏡筒部1も同じ速度で回転しようとする。
鏡筒部1が回転すると、画像信号処理回路10からの出
力である映像信号は左方向に平行移動し、1フレーム前
の代表点であった映像は1フレーム後にはn画素分左へ
移動する。すると、動きベクトル検出回路12での絶対
値回路406の出力はn画素分左との絶対値が小さくな
る。従って、各ブロックの絶対値の累積された累積加算
テーブル407もn画素分左のアドレスに対応するテー
ブルが最小となり、動きベクトルが左方向にn画素/フ
レームであると求まる。ここで求めた動きベクトルとズ
ーム比率とからこの時の鏡筒部10回転角速度を角速度
演算手段で算出(ズーム比率が大きい(小さい)時はそ
れにあわせて角速度を小さく(大きく)演算する)し、
この角速度が0となるようにアクチュエータ5を駆動す
る。
しかし、角速度制御ループだけでは発振したり偏差を持
ったりしてしまうことがある。また、検出した角速度を
積分して角度を検出することができるが、検出誤差も累
積されてしまう。そこで、低周波領域においては相対角
度検出回路11から求めた相対角度が0となるようにア
クチュエータ5を駆動するように制御する。以上2つの
ループによりズーム倍率によらずに画像の動きを補正す
ることができ、また定常時には鏡筒部を支持体の基準位
置に戻すように制御することができる。
なお、以上の説明ではヨ一方向の揺れに対する防振につ
いて適用した実施例を説明したが、ピッチ方向の揺れに
対する防振にも本発明は適用できることは言うまでもな
い。
また、相対角度検出を、アクチュエータに取り付けたホ
ール素子により行う場合について説明したが、これは鏡
筒部と支持体の角度を検出するものであればどのような
センサであってもよい。
さらに、本画像動き補正装置の適用範囲はビデオカメラ
に限定されるものではなく、その他、本発明の主旨を変
えずして種々の装置に適用することが可能である。
ところで、第1図の画像動き補正装置では動きベクトル
検出回路として第4図に示すものを用いているが、この
第4図の回路には回路規模が大きく、動きベクトルの算
出に時間がかかるという間題があった。
第8図はこのような問題を解決できる、本発明の第2の
実施例による画像動き補正装置における代表点演算回路
のブロック図である。
第9図は第8図の実施例における画像のブロック及び代
表点との関係を示している図である。
この第8図の装置では、1フイールドの画像を所定個数
のブロック115に分け、各ブロック毎に中央に1つの
代表点Rijl14を設けている。
各ブロック毎に1フレーム前の代表点とブロック内の代
表点の垂直方向の画素S8゜9. j、、 116及び
代表点の水平方向の画素S i+X + J。y117
とのレベル差を演算している。
第8図において、入力映像信号(a)はまずA/D変換
器121でA/D変換され、代表点114となるべきブ
ロック115内の所定の画素が、ラッチ回路122を経
由して代表点メモリ123に書き込まれる。代表点メモ
リ123に収納されたデータは、1フレーム遅延されて
読み出され、ラッチ回路124を経由して垂直絶対値回
路127と水平絶対値回路128に送られる。他方、A
/D変換された映像信号のデータは、代表点の垂直方向
の画素にあたるタイミングでラッチする垂直画素ランチ
回路125を経由して垂直絶対値回路127に送出され
、代表点の水平方向の画素にあたるタイミングでラッチ
する水平画素ラッチ回路126を経由して水平絶対値回
路128に送出される。
ラッチ回路124より出力される1フレーム前の代表点
信号(b)と垂直画素ラッチ回路5より出力された現フ
レームの画素信号(C)は垂直絶対値回路7にて演算さ
れ差の絶対値が算出され、ラッチ回路124より出力さ
れる1フレーム前の代表点信号[有])と水平画素ラッ
チ回路126より出力された現フレームの画素信号(d
)は水平絶対値回路128にて演算され差の絶対値が算
出される。これらの演算はブロック単位に行なわれ、垂
直絶対値回路127の出力信号(e)は垂直累積加算テ
ーブル129の各ブロック内の画素の同一アドレスに対
応するテーブルに次々と加算され、水平絶対値回路12
8の出力信号(f)は水平累積加算テーブル130の各
ブロック内の画素の同一アドレスに対応するテーブルに
次々と加算される。この水平累積加算テーブル130の
結果と垂直累積加算テーブル129の結果がともに1次
元ベクトル検出手段131に入力され、垂直動きヘクト
ル((至)及び水平動きベクトル(ハ)を検出する。こ
こで求めた直交する2つの1次元ベクトルである垂直動
きベクトル(6)と水平動きベクトル(5)を2次元ベ
クトル算出手段133に入力し、最終的に1フレーム間
に画像位置がどの方向にどれだけ移動したか、すなわち
2次元の動きベクトル値(i)が決まる。
ここで、代表点を中心とする1ブロツクは、ベクトルの
大きさ、すなわちベクトルによる画像の補正が出来る範
囲を示している。また、累積加算を行なう結果は加算数
が多いほどベクトルの検出精度が向上するので、−船釣
には全画面の代表点を加算して、すなわち画面全体の動
きを平均したものを動きベクトルとしている。
次に1次元ベクトル検出手段131について説明する。
第10図及び第11図はこの1次元ベクトル検出を説明
するために累積加算テーブルの様子を模式的に示した図
である。第10図、第11図はともに(a)はブロック
の全画素数に対応した累積加算テーブルで、代表点を原
点として水平方向(X)、垂直方向(ト)、累積加算テ
ーブルの値(Z)を3次元で表現している。また、(b
)は代表点Ri jと垂直方向yの位置関係にある信号
S ; + j”Yとの差の絶対値を求め、各代表点に
ついて同じ位置関係にあるyについて加算した垂直累積
加算テーブルDアで、代表点を原点として垂直方向(y
)、累積加算テーブルの値(Z)を2次元で表現してい
る。(C)は代表点Ri jと水平方向Xの位置関係に
ある信号Si+X+、との差の絶対値を求め、各代表点
について同じ位置関係にあるXについて加算した水平累
積加算テーブルDXで、代表点を原点として水平方向(
幻、累積加算テーブルの値(Z)を2次元で表現してい
る。
この時、式で表現すると、 D、=Σl Rij  S i+X % j+FDy=
Σl Rij−3i、、 1.、y lで示される。
そしてこのり、とDYを用いて、水平動きベクトル(ハ
)と垂直動きベクトル((至)を検出する。
まず、その第1の検出方法として、水平累積加算テーブ
ルD、の中での最小値Xを水平動きベクトル(社)とし
て、また垂直累積加算テーブルDyの中での最小値yを
垂直動きベクトル(g)として検出する方法について説
明する。
水平垂直方向ともに距離に比例して相関が減少する映像
信号が静止しているとすると、累積加算テーブル値は第
10図の(a)の様に原点(0,0゜0)を頂点として
円錐を逆さまにしてような形となる。この時、(b)の
垂直累積加算テーブル9の最小値はX=Cの時であり、
(C)の水平累積加算テーブル10の最小値はX=Cの
時である。従って、垂直動きベクトル、水平動きベクト
ルともに0ベクトルであると求まる。
次に、映像信号が1フレームの間に水平方向にC1垂直
方向にb動いたとすると累積加算チーフルは第1f図の
(a)の様に(C,b、0)を頂点とした円錐形を逆さ
まにしたような形になる。この時、垂直累積加算テーブ
ル9は第11図の(ト))に示すように平面X=Oでの
円錐の断面の値、水平累積加算テーブル10は第11図
の(C)に示すjうに平面y=oでの円錐の断面の値に
なる。ら)から垂直累積加算テーブル9の最小値はy=
bの時であり、(C)から水平累積加算テーブル10の
最小はX=Cのときであることが解る。従って、垂直動
きベクトル(6)は(0,b)、水平動きベクトル(ハ
)は(c、0)と求めることが出来る。
次に、第2の検出方法として、予め累積加算テーブルの
形状を検出しておき、水平累積加算テーブルD8の中で
の最小値の値から垂直動きベクトル(8)を求め、垂直
累積加算テーブルD、の中での最小値の値から水平動き
ベクトル(ハ)を求める方法について説明する。
第11図の(a)に示した様に円錐を逆さまにしたよう
な形の累積加算テーブルを水平方向にC1垂直方向にb
動かした時に、累積加算テーブルを式%式% 簡単のために、完全な円錐であるとすると、r(Z) 
= k zとなるため累積加算テーブルは、(x−c)
” + (y−b)” = (kz)”  (z〉0)
と表わすことが出来る。
垂直累積加算テーブル9は平面X=Oでの断面であるの
で、 c2+ (y−b)2= (kz)” で表わすことが出来る。
z= (c” + (y−b)” )”” /kから、
2はy=bの時にzO=±c / kで最小となるので
、逆に2の最小zOを求めることにより水平動きベクト
ル(ハ)(c、0)を求めることができる。
すなわち、C=±に−zoとなり、水平動きベクトルは
(k−zO,0)または(−に−zO。
0)であると解り、水平累積加算テーブルを参照してC
が正か負かを判定することによりどちらかを決定するこ
とが出来る。
また、水平累積加算テーブル10は平面y=0での断面
であるので、同様に (x−c)” +b” = (kz)”で表わすことが
出来る。
z = ((x  c ) t + bZ ) l /
Z / kから、2はX=Cの時に20=±b/にで最
小となるので、逆に2の最小(!20を求めることによ
り垂直動きベクトル(2)(0,b)を求めることが出
来る。
すなわち、b=±に−zoとなり、垂直動きベクトルは
(0,に−zO)または(0,−に−zO)であると解
り、垂直累積加算テーブルを参照してCが正か負かを判
定することによりどちらかを決定することができる。
以上は、簡単のために、完全な円錐であるとしてf(Z
)=kzの場合について説明したが、一般に2の関数と
して同様にして求めることが出来る。
この時2の関数f (Z)はその時の映像の内容により
変化するが、連続する映像信号の場合には変化が少ない
ので、フレーム毎に累積加算テーブルの形状を検出する
ことにより常にf (Z)を求めることが出来る。
第12図は理想的な水平累積加算テーブルの様子を示し
た図であり、斜め方向への動きの少ない時は例えば、(
a)のように象、峻な双曲線となるが、斜めの方向への
動きが大きい時は(b)のように緩やかな双曲線になる
一方、第12図において、第1の方法は2が最小となる
xOを検出して、このxOから水平動きベクトルを求め
るもので、第2の方法は2の最小値20を検出して、こ
のzOから垂直動きベクトルを求めるものである。
実際の水平累積加算テーブルの場合は、量子化誤差、丸
め誤差や映像の水平相関レベルの差などのためにZ方向
にΔZの誤差が存在する。そのため、この時のXにもΔ
Xの誤差が生じてしまう。
第12図の(b)のように緩やかな双曲線の場合はΔX
が大きいためにXの検出精度は悪く、逆にzOが大きい
ためにZの検出精度はよくなる。
垂直累積加算テーブルにおいても同様となるため、第1
2図(b)のように斜め方向への動きの太きい時には第
2の検出法の方が第1の検出法より有効な検出手段とな
る。
以上、1次元ベクトル検出手段の第1及び第2の検出方
法について説明したが、最終的な検出結果は第1及び第
2の実施例の検出結果を所定の比率で加え合わせてもよ
く、累積加算テーブルの形状により適応的にどららかを
選択してもよい。
また、第13図は本発明の第3の実施例による画像動き
補正装置における代表点演算回路のブロック図であり、
これは、第4図の動きベクトル検出回路が有する、ズー
ミング動作時の画像の場合にはうまく動きベクトルを検
出できないことが多い、等の問題を解決できるものであ
る。
図において、入力映像信号aは画像信号処理回路10に
より作り出された映像信号で、まずA/D変換器141
でA/D変換され、ラッチ回路142を経由してこのA
/D変換された信号の一方が代表点メモリ143に入力
され、ここに書き込まれたブロック内の所定の画素が代
表点となる。
従って、代表点メモリ143の出力は1フレーム前に書
き込まれた代表点であり、これはブロック単位で読み出
され、ラッチ回路144を経由して信号すとなる。この
ブロック内に入力したもう一方のA/D変換された映像
信号をラッチ回路145を経由した信号Cと、代表点信
号すとは絶対値回路406によりその差の絶対値が算出
される。
147は絶対値回路146の算出結果を複数のエリア毎
の累積加算テーブル148a〜1481の内のひとつに
出力するように切り換えるスイッチ、150はエリア毎
のテーブル値比較回路149a〜1491の出力をより
平行移動であるかズーミング動作であるかを判別する平
行移動/ズーミング判定手段、151はテーブル値比較
回路149a〜1491の出力の平均の値を求める動き
ベクトル平均処理手段、152はk(0≦k〈1)倍の
かけ算回路、153はスイッチである。
また、第14図は1画面を9X9=81個のブロックに
分割し、1エリアを3X3=9個のブロックで構成した
場合、すなわち1百面を3X3=9個のaエリアからi
エリアに分割した場合のブロックとエリアの関係を示す
図である。第15図は平行移動/ズーミング動作判定処
理の動作を説明するための図である。
次に動作について説明する。
入力映像信号(a)がA/D変換器141”i:’A/
D変換され、代表点14となるべきブロック15内の所
定の画素が、ラッチ回路142を経由して代表点メモリ
143に書き込まれることや、ラッチ回路144より出
力される1フレーム前の代表点信号(b)とラッチ回路
145より出力された現フレームの画素信号(C)が絶
対値回路146にて演算され差の絶対値が算出されるこ
とは従来と同しである。これらの演算はブロック単位に
行なわれ、この絶対値回路146の出力信号(イ)はス
イッチ147によって切り替えられ、ブロックが属して
いるエリア毎に各エリアに対応する9個の累積加算テー
ブル148a〜1481の各画素に対応するテーブルに
次々と加算される。
このエリア毎のテーブルの加算結果が、エリア毎のテー
ブル値比較回路149a〜1491に入力され、最終的
に、エリア毎に加算結果の最小なところのブロックアド
レスをもって1フレームで画像位置がどの方向にどれだ
け移動したか、すなわち9個のエリア毎の動きベクトル
値ea、・・・eiが求まる。
この9個の動きベクトル値は動きベクトル平均処理手段
151により平均の値が求められ、この平均値は一方は
そのままスイッチ153へ、もう一方はk(0≦k〈1
)倍のかけ算回路152を通り、減衰された後スイッチ
153へ入力される。
一方、この9個の動きベクトル値は平行移動/ズーミン
グ判定手段150に入力され、平行移動と判定した場合
には動きベクトル平均処理手段11の出力をそのまま動
きベクトルとするようにスイッチ153を切り替え、ズ
ーミング動作と判定した場合にはかけ算回路152の出
力を動きベクトルとするようにスイッチ153を切り替
える。
次に、第15図をもとに平行移動/ズーミング判定手段
150の動作について説明する。第15図(a)の場合
にはaエリアからiエリアまでの動きベクトルは多少バ
ラツキがあるものの、X方向y方向共に正の値で動きベ
クトルの平均値とも近い値になっているので、平行移動
と判定出来る。従って、この場合には動きベクトル平均
処理手段151の出力(2,2)をそのまま動きベクト
ルとするようにスイッチ13を切り替える。
一方、第15図(b)の場合乙こはaエリアとi工1ノ
ア、Cエリアとgエリア、bエリアとhエリア、dエリ
アとfエリアのそれぞれの動きベクトルがほぼ逆方向を
向いているので、ズーミング動作していると判断できる
。従って、この場合にはかけ算回路152の出力(k・
5/9.0)を動きベクトルとするようにスイッチ15
3を切り替える。
なお上記実施例は画面の動きをフレーム間で検出する場
合について述べたが、フィールド間で検出してもよい。
〔発明の効果〕
以上述べたように、この発明に係る画像動き補正装置に
よれば、画像の動きを、画像情報を電気的に処理して検
出し、この検出出力にしたがって鏡筒部を回転駆動し光
軸を補正するようにしたから、高価なジャイロセンサを
必要とせず、また高価なA/D変換器、D/A変換器、
メモリ等も必要とセず、画像の動きを補正できるため、
安価で、低消費電力の画像動き補正装置を得ることがで
きる効果がある。
また、この発明によれば、ブロック内において代表点と
比較する画素を代表点の上下左右のみとし、それぞれ求
めた上下及び左右の垂直累積加算テーブルと水平累積加
算テーブルの最小テーブルから垂直方向の動きベクトル
と水平方向の動きベクトルの2つの1次元ベクトルをそ
れぞれ別に算出し、前記それぞれ求めた直交する2つの
1次元ベクトルである垂直方向動きベクトル及び水平方
向動きベクトルから2次元の動きベクトルを算出する手
段を備えることにより、少ない累積加算テーブル数かつ
短い演算時間で動きベクトルの検出を行うことが出来る
さらに、この発明によれば、動きベクトルを単に全画面
の動きを平均して求めるのではなく、まず画面をいくつ
かに分割したエリアごとに動きベクトルを求め、各エリ
アの動きベクトルが同一方向を向いているのか、もしく
は逆方向を向いた関係になっているのかから画面全体が
平行移動しているのかズーミング動作しているのかを判
定し、ズーミング動作と判定した時には画面全体の動き
ベクトルの平均に所定の減衰定数を掛けた値を動きベク
トルとすることにより、盪影において良く用いるズーミ
ング動作を行った時にもユーザーにとって違和感の無い
動きベクトルを検出できる動きベクトル検出装置を提供
することができる効果がある。
【図面の簡単な説明】
第1図はこの発明の一実施例による画像動き補正装置を
示す構成図、第2図は第1図のアクチュエータの具体的
な構成を示す図、第3図は第1図の相対角度検出回路の
具体的な構成を示す回路図、第4図は第1図の動きベク
トル検出回路の構成を示すブロック図、第5図は第4図
の演算における画面と代表点との位置関係を示す図、第
6図は従来の電気処理による画像動き補正装置の構成を
示すブロック図、第7図は第6図の装置におけるメモリ
の書き込み、読み出し領域の様子を示す図、第8図は本
発明の第2の実施例における代表点演算回路のブロック
図、第9図は第8図の代表点演算における画像のブロッ
ク及び代表点との関係を示した図、第1O図、第11図
は累積加算チーフルの様子を模式的に説明するための図
、第12図は水平累積加算テーブルの様子を示した図、
第13図は本発明の第3の実施例における動きベクトル
検出装置を示すブロック図、第14図はブロックとエリ
アの関係の一例を示す図、第15図は平行移動/ズーミ
ング動作判定処理の動作を説明するための図、第16図
は一般的な代表点演算回路のブロック図、第17図は第
16図の従来例における画像のブロック及び代表点との
関係を示す図である。 図において、1は鏡筒部、3は支持体、5はアクチュエ
ータ、6は回転軸、10は画像信号処理回路、11は相
対角度検出回路、12は動きベクトル検出回路、13は
角速度演算手段、14は制御演算手段、15は駆動手段
、121はA/D変換器、122,124.125はラ
ッチ回路、123は代表点メモリ、127は垂直絶対値
演算回路、12日は水平絶対値演算回路、129は垂直
累積加算テーブル、130は水平累積加算テーブル、1
31は1次元ベクトル検出手段、133は2次元ベクト
ル算出手段、141はA/D変換器、142.144,
145はラッチ回路、143は代表点メモリ、146は
絶対値回路、147はスイッチ、148a〜1481は
エリア別累積加算テーブル、149a〜1491はエリ
ア別テーブル値比較回路、150は平行移動/ズーミン
グ判定手段、151は動きベクトル平均処理手段、15
2はかけ算回路、153はスイッチである。 なお、図中同一符号は同一または相当するものを示す。

Claims (3)

    【特許請求の範囲】
  1. (1)レンズと撮像素子を搭載した鏡筒部と、前記撮像
    素子に得られる電気信号から画像信号を作り出す画像信
    号処理手段と、 前記鏡筒部への入射光線軸と直交もしくは略直交する回
    転軸回りに前記鏡筒部を回動自在に支承する支持体と、 前記鏡筒部と前記支持体の間に取り付けられ、前記鏡筒
    部と回転駆動するアクチュエータ手段と、前記鏡筒部と
    前記支持体の相対角度を検出する相対角度検出手段と、 前記画像信号処理手段から得られる画像情報の時間的に
    連続した2フレーム間の相関から画像の移動量を示す動
    きベクトルを検出する手段と、動きベクトルの検出結果
    からズーム倍率等により回転角速度を演算出力する角速
    度演算手段とを備えたことを特徴とする画像動き補正装
    置。
  2. (2)画像のフレーム間移動量を検出するために、画像
    を複数に分割したブロックに設定した代表点を基に、こ
    れらの各ブロック内の画素の移動量から画面全体のベク
    トルを決定する画像動き補正装置において、 代表点の垂直方向に当たる画素に対応する累積加算テー
    ブルと代表点の水平方向に当たる画素に対応する累積加
    算テーブルから直交する2つの1次元動きベクトルを求
    める手段と、 直交する2つの1次元動きベクトルから2次元の動きベ
    クトルを算出する手段とを備えたことを特徴とする画像
    動き補正装置。
  3. (3)1画面を複数のブロックに分解し、上記ブロック
    ごとに連続する2画面間の差の絶対値を求める手段と、 1画面を複数のブロックで構成される複数のエリアに分
    割し、上記ブロックごとの差の絶対値を上記エリアにわ
    たって積算しテーブルを算出する手段と、 上記エリア毎に積算したテーブルから各エリアの動きベ
    クトルを求める手段と、 上記求めた各エリアの動きベクトルから、画面全体が平
    行移動しているのかズーミング動作をしているのかを判
    定する平行移動/ズーミング判定手段と、 該平行移動/ズーミング判定手段が平行移動と判定した
    時には画面全体の動きベクトルを平均した値を動きベク
    トルとし、ズーミング動作と判定した時には画面全体の
    動きベクトルを平均した値に所定の減衰定数k(0≦k
    <1)を掛けた値を動きベクトルとして出力する手段と
    を備えたことを特徴とする画像動き補正装置。
JP2150595A 1989-10-17 1990-06-08 動きベクトル検出装置 Expired - Lifetime JP2641599B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
GB9022131A GB2239575B (en) 1989-10-17 1990-10-11 Motion vector detecting apparatus and image blur correcting apparatus, and video camera including such apparatus
DE4032969A DE4032969A1 (de) 1989-10-17 1990-10-17 Bildverwischungs-korrektureinrichtung
US07/758,546 US5189518A (en) 1989-10-17 1991-09-09 Image blur correcting apparatus
US07/893,143 US5319456A (en) 1989-10-17 1992-06-03 Moving vector detecting apparatus
US07/979,779 US5450126A (en) 1989-10-17 1992-11-20 Image blur correcting apparatus
GB9402931A GB2273223B (en) 1989-10-17 1994-02-16 Image blur correcting apparatus

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP1-271032 1989-10-17
JP27103289 1989-10-17
JP27753989 1989-10-24
JP1-277539 1989-10-24
JP2-58851 1990-03-09
JP5885190 1990-03-09

Publications (2)

Publication Number Publication Date
JPH04117077A true JPH04117077A (ja) 1992-04-17
JP2641599B2 JP2641599B2 (ja) 1997-08-13

Family

ID=27296708

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2150595A Expired - Lifetime JP2641599B2 (ja) 1989-10-17 1990-06-08 動きベクトル検出装置

Country Status (1)

Country Link
JP (1) JP2641599B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04365184A (ja) * 1991-06-13 1992-12-17 Mitsubishi Electric Corp 動きベクトル検出装置
WO1994029670A1 (fr) * 1993-06-10 1994-12-22 Kabushiki Kaisha Oh - Yoh Keisoku Kenkyusho Appareil pour mesurer la position d'un objet en mouvement
JP2009152698A (ja) * 2007-12-18 2009-07-09 Canon Inc 撮像装置及びその制御方法及びプログラム
WO2011080908A1 (ja) * 2009-12-28 2011-07-07 パナソニック株式会社 カメラ装置および脱調検出方法
JP2020120363A (ja) * 2019-01-28 2020-08-06 日本電信電話株式会社 映像処理装置、映像処理方法、及び映像処理プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60143330A (ja) * 1983-12-29 1985-07-29 Matsushita Electric Ind Co Ltd 撮影装置
JPS6350169A (ja) * 1986-08-19 1988-03-03 Matsushita Electric Ind Co Ltd 撮影装置
JPH01119177A (ja) * 1987-11-02 1989-05-11 Hitachi Ltd 信号処理装置
JPH01254084A (ja) * 1988-04-01 1989-10-11 Matsushita Electric Ind Co Ltd 画像処理装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60143330A (ja) * 1983-12-29 1985-07-29 Matsushita Electric Ind Co Ltd 撮影装置
JPS6350169A (ja) * 1986-08-19 1988-03-03 Matsushita Electric Ind Co Ltd 撮影装置
JPH01119177A (ja) * 1987-11-02 1989-05-11 Hitachi Ltd 信号処理装置
JPH01254084A (ja) * 1988-04-01 1989-10-11 Matsushita Electric Ind Co Ltd 画像処理装置

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04365184A (ja) * 1991-06-13 1992-12-17 Mitsubishi Electric Corp 動きベクトル検出装置
WO1994029670A1 (fr) * 1993-06-10 1994-12-22 Kabushiki Kaisha Oh - Yoh Keisoku Kenkyusho Appareil pour mesurer la position d'un objet en mouvement
US5764786A (en) * 1993-06-10 1998-06-09 Kuwashima; Shigesumi Moving object measurement device employing a three-dimensional analysis to obtain characteristics of the moving object
JP2009152698A (ja) * 2007-12-18 2009-07-09 Canon Inc 撮像装置及びその制御方法及びプログラム
US8743268B2 (en) 2007-12-18 2014-06-03 Canon Kabushiki Kaisha Image capturing apparatus, control method therefor, and program for correcting shift based on shift amount in image plane
WO2011080908A1 (ja) * 2009-12-28 2011-07-07 パナソニック株式会社 カメラ装置および脱調検出方法
JP2020120363A (ja) * 2019-01-28 2020-08-06 日本電信電話株式会社 映像処理装置、映像処理方法、及び映像処理プログラム
WO2020158382A1 (ja) * 2019-01-28 2020-08-06 日本電信電話株式会社 映像処理装置、映像処理方法、及び映像処理プログラム
US11756215B2 (en) 2019-01-28 2023-09-12 Nippon Telegraph And Telephone Corporation Image processing device, image processing method, and image processing program

Also Published As

Publication number Publication date
JP2641599B2 (ja) 1997-08-13

Similar Documents

Publication Publication Date Title
US5189518A (en) Image blur correcting apparatus
JP4607048B2 (ja) 光学モーションセンサをジャイロスコープとして使用する撮像装置
US7962022B2 (en) Photographic apparatus with mechanism to perform inclination correction
US7903960B2 (en) Photographic apparatus for determining whether to perform stabilization on the basis of inclination angle
US7962021B2 (en) Photographic apparatus with image stabilization and controller for calculating and correcting inclination angle
KR101339193B1 (ko) 카메라 플랫폼 시스템
JPH0514801A (ja) 手振れ補正装置
JP2009152793A (ja) 手振れ補正制御回路およびそれを搭載した撮像装置
US20090245769A1 (en) Photgraphic apparatus
US9749538B2 (en) Imaging apparatus
JPH01125064A (ja) ゆれ補正撮像装置
JPH04117077A (ja) 動きベクトル検出装置
GB2347575A (en) Synthesizing a zoomed out image using several overlapping images
JPH11146260A (ja) 振れ補正装置、振れ補正方法及びコンピュータ読み取り可能な記憶媒体
GB2273223A (en) Correcting image blur due to camera movement
JP2000069353A (ja) 手ぶれ検出装置および手ぶれ補正装置
JP2000217032A (ja) 画像信号処理装置および方法
JP2735264B2 (ja) 動き補正撮像装置
JPH03117278A (ja) 撮影装置
JPH07107369A (ja) 画像処理装置
WO2023188044A1 (ja) 撮像装置およびその制御方法、および画像処理装置および方法
JPH07307890A (ja) 移動ベクトル検出機能付き撮像装置
JP4135046B2 (ja) 画像信号撮像装置および方法
Chen et al. Image stabilization with best shot selector and super resolution reconstruction
JP2971497B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080502

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090502

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100502

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100502

Year of fee payment: 13

EXPY Cancellation because of completion of term
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110502

Year of fee payment: 14

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110502

Year of fee payment: 14