JP3421859B2 - パノラマ画像作成装置の動きベクトル検出方法及び装置 - Google Patents

パノラマ画像作成装置の動きベクトル検出方法及び装置

Info

Publication number
JP3421859B2
JP3421859B2 JP30945192A JP30945192A JP3421859B2 JP 3421859 B2 JP3421859 B2 JP 3421859B2 JP 30945192 A JP30945192 A JP 30945192A JP 30945192 A JP30945192 A JP 30945192A JP 3421859 B2 JP3421859 B2 JP 3421859B2
Authority
JP
Japan
Prior art keywords
motion vector
image
value
representative point
correlation value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP30945192A
Other languages
English (en)
Other versions
JPH06141218A (ja
Inventor
京子 福田
敏道 濱田
庸男 関谷
博 小林
正志 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP30945192A priority Critical patent/JP3421859B2/ja
Priority to EP93307647A priority patent/EP0592136B1/en
Priority to EP97203956A priority patent/EP0838947B1/en
Priority to DE69327220T priority patent/DE69327220T2/de
Priority to EP98202748A priority patent/EP0878963A1/en
Priority to DE69329717T priority patent/DE69329717T2/de
Priority to US08/133,377 priority patent/US5548409A/en
Priority to KR1019930020911A priority patent/KR100325491B1/ko
Publication of JPH06141218A publication Critical patent/JPH06141218A/ja
Priority to US08/395,419 priority patent/US5510830A/en
Priority to US08/396,173 priority patent/US5625462A/en
Priority to US08/583,441 priority patent/US5689611A/en
Priority to US08/729,778 priority patent/US5666459A/en
Application granted granted Critical
Publication of JP3421859B2 publication Critical patent/JP3421859B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、CCD等の撮像素子に
より被写体を撮像して作成した画像信号からパノラマ画
像を作成する装置、特に動きベクトルを検出する技術に
関するものである。
【0002】
【従来の技術】従来、CCD等の撮像素子により被写体
を撮像して画像信号を作成し、その画像信号を記録し、
かつビューファインダに供給し、さらに記録した画像信
号を再生してモニタに供給する装置として、カメラ一体
型ビデオテープレコーダ(以下、カムコーダという)や
電子スチルカメラ等が知られている。
【0003】
【発明が解決しようとする課題】しかしながら、従来の
カムコーダ等において、ビューファインダやモニタに供
給される画像信号は1画面ごとの被写体に対応するもの
であったため、ビューファインダやモニタに表示される
画像も1画面ごとのものであった。そのため、同時に表
示される画像は狭い範囲のものとなり、広大な場面や情
景をひと目で見ることができなかった。
【0004】そこで、被写体を撮像して画像信号を作成
し、その画像信号により形成される複数枚の画像を継ぎ
合わせてパノラマ画像を作成するパノラマ画像作成装置
が考えられている。このパノラマ画像作成装置は、被写
体をパンあるいはチルトしながら撮影し、画像の動きベ
クトルに基づいて複数枚の画像を継ぎ合わせる幅を制御
する。したがって、精度の高いパノラマ画像を作成する
ためには、画像の動きベクトルを正確に検出することが
必要である。
【0005】本発明は、このような問題点を解決するた
めになされたもので、CCD等の撮像素子により被写体
を撮像して作成した画像信号からパノラマ画像を作成す
る装置において動きベクトルを正確に検出できる動きベ
クトル検出方法及び装置を提供することを目的とする。
【0006】
【課題を解決するための手段】前記問題点を解決するた
めに、本発明は、被写体を撮像して作成した画像信号に
より形成される複数枚の画像を継ぎ合わせてパノラマ画
像を作成する場合に、画像の動きベクトルに基づいて画
像を継ぎ合わせる幅を制御するようにしたパノラマ画像
作成装置の動きベクトル検出方法であって、パノラマ画
像を構成する複数枚の画像のうちの1の画像内に動きベ
クトルを検出する複数の領域を設定し、設定した領域毎
に、各領域内を複数個のブロックとし、各ブロックの代
表点について、代表点の画像と代表移転に隣接する周辺
の画像の平均値との差に相当する値を求め、求めた値が
所定値を超える代表点を動きベクトルの検出に使用する
代表点として記憶し、記憶した代表点の画像信号とそこ
から移動した点に対応する次のフィールド又はフレーム
の偏移の画像信号の差分の絶対値を計算して、ブロック
の相関値を算出し、各ブロックの相関値を全ブロックに
ついて偏移ごとに累積加算して領域の相関値を算出し、
各領域について相関値が最小になる偏移を動きベクトル
とし、各領域について動きベクトルの垂直成分が所定値
より小さい動きベクトルをパンニング撮影時の動きベク
トルとして決定することを特徴とする。また、本発明
は、被写体を撮像して作成した画像信号により形成され
る複数枚の画像を継ぎ合わせてパノラマ画像を作成する
場合に、画像の動きベクトルに基づいて画像を継ぎ合わ
せる幅を制御するようにしたパノラマ画像作成装置の動
きベクトル検出装置であって、パノラマ画像を構成する
複数枚の画像のうちの1の画像内に設定した動きベクト
ルを検出する複数の領域毎に、各領域内を複数個のブロ
ックとし、各ブロックの代表点について、代表点の画像
と代表移転に隣接する周辺の画像の平均値との差に相当
する値を求め、求めた値が所定値を超える代表点を動き
ベクトルの検出に使用する代表点として記憶し、記憶し
た代表点の画像信号とそこから移動した点に対応する次
のフィールド又はフレームの偏移の画像信号の差分の絶
対値を計算して、ブロックの相関値を算出し、各ブロッ
クの相関値を全ブロックについて偏移ごとに累積加算し
て領域の相関値を算出する相関値算出手段と、上記相関
値算出手段により算出された相関値に基づいて、各領域
について相関値が最小になる偏移を動きベクトルとし、
各領域について動きベクトルの垂直成分が所定値より小
さい動きベクトルをパンニング撮影時の動きベクトルと
して決定する動きベクトル決定手段とを備えること特徴
とする。
【0007】
【作用】本発明によれば、動きベクトル検出時に“垂直
方向の動き≒0”又は“水平方向の動き≒0”という情
報を用いることによって、パンニング撮影時又はチルト
撮影時の動きベクトル検出の誤判別を削減できる。
【0008】
【実施例】以下、本発明の実施例について図面を参照し
ながら詳細に説明する。図1は本発明を適用するパノラ
マ画像作成装置のパノラマ画像作成原理の説明図であ
る。まず、この図を参照しながら、パノラマ画像作成原
理を説明する。図1(a)は被写体と画像との関係を示
している。ここでは、被写体は規則的な三角形のパター
ンであり、水平方向の3画面分が示されている。図の上
部に付された番号は、画面の右から左にパンニングを行
った場合のフィールド番号を示している。つまり、第1
フィールドから第7フィールドまで6フィールド動く間
に2画面分のパンニングが行われる。そして、2画面分
の画像から1枚のパノラマ画像が作成される。
【0009】図1(b)は第1フィールドの画像であ
る。この画面の中心から左側の幅x0の部分を抜取り、
水平方向及び垂直方向を1/2に縮小して画像メモリに
書込む。このように縮小する理由は2画面分のパノラマ
画像を1画面内に作成するためである。図1(f)は画
像メモリに書込まれた画像を示している。画面の上下1
/4の幅の部分はブランクされ、中央部の1/2の幅の
部分に画像が書込まれる。ここでは、画面左端から幅x
0 /2の部分に書込まれる。図1(b)の画像から幅x
0 の部分を抜取り、水平方向及び垂直方向を1/2に縮
小するには画像メモリを用いる。例えば、図1(b)の
画像を画像メモリに書込み、幅x0 の部分に対する読出
しアドレスを1個飛びに与えることで実現する。
【0010】図1(c)は第2フィールドの画像であ
る。第1フィールドの画像との間に水平方向にx1 移動
しているので、画面の中心から左側の幅x1 の部分を抜
取り、水平方向及び垂直方向を1/2に縮小して画像メ
モリに書込む。図1(g)は画像メモリに書込まれた画
像を示している。ここでは、図1(f)で書込まれた部
分に続けて幅x1 /2の部分に書込まれる。
【0011】同様に、図1(d)は第3フィールドの画
像である。第2フィールドの画像との間に水平方向にx
2 移動しているので、画面の中心から左側の幅x2 の部
分を抜取り、水平方向及び垂直方向を1/2に縮小して
画像メモリに書込む。図1(h)は画像メモリに書込ま
れた画像を示している。ここでは、図1(g)で書込ま
れた部分に続けて幅x2 /2の部分に書込まれる。
【0012】以上の動作を第7フィールドまで繰り返せ
ば、2画面分のパノラマ画像を1画面内に作成すること
ができる。ただし、第1フィールドで幅x0 の部分を切
出して画像メモリに書込んでいるので、第7フィールド
ではその分書き込む幅を少なくする。ここで、パノラマ
画像の書込みが終了したことは、画像メモリの書込みア
ドレスが画面の右端に対応する値になったことや後述す
るライトイネーブル信号のタイミングにより検出するこ
とができる。なお、図は第5フィールド以降は省略し
た。
【0013】図2は図1で説明した画像メモリの水平方
向のWE(ライトイネーブル信号:図では負論理)と1
水平走査期間の画像信号とのタイミング関係を示すタイ
ミングチャートである。図2(a)は画像信号を示し、
図2(b)〜(e)は、それぞれ図1の第1〜第4フィ
ールドのライトイネーブル信号WE1 〜WE4 を示して
いる。これらの信号がローレベルの時に画像メモリに対
する書込みが行われる。
【0014】垂直方向に対しても同様なライトイネーブ
ル信号を与えることにより、図1(f)〜(i)に示さ
れているような書込み制御を行うことができる。なお、
図1及び図2では、画面中央部の画像を用いてパノラマ
画像を作成しているが、画面左端部等の画像を用いても
よいし、例えばパノラマ画像の中央部は画面中央部の画
像を用い、周辺部は画面左端部や右端部の画像を用いる
等、それらを適当に組合わせてもよい。また、例えばパ
ノラマ画像の中央部は1枚の画像で作成してもよい。さ
らに、図1(b)〜(e)等の画面を縮小しないで画像
メモリに書込んでもよい。この場合、プリンタを用いて
紙等にパノラマ画像を形成するか又はモニタにおいてス
クロール表示する。また、3画面分以上の画像を1画面
内に作成してもよい。さらに、画面の上下にブランクを
設けずに、例えば画面の上半分と下半分に順次連続した
パノラマ画像を作成するように構成してもよい。このよ
うにすれば、360度に渡るパノラマ画像を作成するこ
ともできる。また、画面の右から左にパンニングし、ま
たは上から下にチルトしてパノラマ画像を作成してもよ
い。また、画像の垂直方向の動きが無視できない場合に
は、垂直方向の動きに応じて図1(c)〜(e)等にお
ける垂直方向の抜取り位置を変化させてもよい。さら
に、図1(f)〜(i)において、画像の幅x0 〜x3
の部分を抜取って画像メモリに書込む代わりに、図1
(f)では図1(b)の画像の右半分を画像メモリに書
込み、図1(g)では図1(c)の画像の右半分を画像
メモリ上でx1 /2右にずれた位置から書込み、図1
(h)では図1(d)の画像の右半分を画像メモリ上で
さらにx2 /2右にずれた位置から書込み、以下、同様
にして第7フィールドまで、画像の移動量に応じた位置
だけずらしながら画像メモリに上書きしても、パノラマ
画像を作成することができる。
【0015】図3は本発明を適用するパノラマ画像作成
装置の構成の一例を示すブロック図である。この装置は
カムコーダにパノラマ画像作成機能を設けたものであっ
て、ビデオテープに対する記録時と再生時のいずれでも
パノラマ画像の作成が可能である。まず、図1〜図3を
参照しながら、記録時にパノラマ画像を作成する場合の
動作を説明する。
【0016】この時、ユーザはモードスイッチ17bを
操作して記録時にパノラマ画像を作成するモードに設定
するとともにRECボタン(図示せず)をONにして撮
影を開始する。そして、パンニング撮影時にパノラマス
イッチ17aをONにする。被写体はレンズ(図示せ
ず)によりCCD撮像素子1に結像され、ここで画像信
号に変換される。この画像信号はサンプルホールド・A
GC回路2、スイッチ3のR端子を経て、A/D変換器
4に入力され、ディジタル信号に変換される。
【0017】ディジタル化された画像信号はスイッチ5
のR端子からカメラ信号処理回路6に入力され、ガンマ
補正、ホワイトバランス調整等のカメラ信号処理が施さ
れた後、スイッチ8のR端子を経て、メモリコントロー
ラ20の制御により、第1画像メモリ9に書込まれる。
第1画像メモリ9に書込まれた画像信号は、図1(b)
〜(e)の画像に対応する。
【0018】また、スイッチ8の出力は動きベクトル検
出器19に入力され、動きベクトル検出データがマイコ
ン18に送られる。マイコン18は動きベクトル検出器
19が出力した動きベクトル検出データに基づいて動き
ベクトルを算出し、メモリコントローラ20に制御信号
を出力する。ここで、動きベクトルは図1(b)〜
(e)における水平方向の動きx1 〜x3 に相当する。
なお、動きベクトル検出器19の構成及び動作とマイコ
ン18の動作の詳細は後述する。
【0019】メモリコントローラ20はマイコン18か
ら出力された制御信号に基づいて第1画像メモリ9の読
出しアドレスを制御し、図1(b)〜(e)に示されて
いる画面の抜取りと縮小処理を行って画像信号を第2画
像メモリ10に入力する。第2画像メモリ10はメモリ
コントローラ20により制御され、図2(b)〜(e)
に示されているライトイネーブル信号WE1 〜WE4
それぞれに対応するメモリアドレスが供給されることに
よって、図1(f)〜(i)に示されている書込み制御
が行わる。
【0020】このようにして第2画像メモリ10にパノ
ラマ画像信号が書込まれる。この第2画像メモリ10の
内容を読出し、モニタ信号処理回路22によりコンポジ
ット画像信号に変換し、D/A変換器23によりアナロ
グ画像信号に変換してビューファインダ(以下、VFと
いう)24に供給すれば、パノラマ画像が表示される。
また、ビデオ出力端子25から外部のモニタやプリンタ
(図示せず)に供給すれば、同様にパノラマ画像が外部
のモニタやプリンタに表示される。
【0021】また、第2画像メモリ10から読出された
パノラマ画像信号は記録信号処理回路11でエンファシ
ス、輝度信号のFM変調、クロマ信号の低域変換等の記
録信号処理が施される。そして、FM輝度信号及び低域
変換クロマ信号はD/A変換器12でアナログ信号に変
換された後、記録/再生アンプ13、スイッチ14のA
端子を経て、ビデオヘッド15によりビデオテープ16
に記録される。
【0022】ビデオテープ16に記録されたパノラマ画
像信号はビデオヘッド15により再生され、記録/再生
アンプ13からスイッチ3のP端子を介してA/D変換
器4に入力される。ここで、ディジタル化された画像信
号は再生信号処理回路7にてFM復調、ディエンファシ
ス等の再生信号処理が施された後、必要に応じて第1画
像メモリ9と第2画像メモリ10でノイズ除去等のディ
ジタル処理が施される。そして、モニタ信号処理回路2
2によりコンポジット画像信号に変換され、D/A変換
器23によりアナログ画像信号に変換され、VF24と
ビデオ出力端子25に供給される。
【0023】次に、ビデオテープ16の再生時にパノラ
マ画像を作成する場合の動作を説明する。この時、ユー
ザはモードスイッチ17bを操作して再生時にパノラマ
画像を作成するモードに設定するとともにRECボタン
(図示せず)をONにして撮影を開始する。そして、パ
ンニング撮影時にパノラマスイッチ17aをONにす
る。
【0024】この場合、CCD撮像素子1の出力がスイ
ッチ8のR端子に入力される迄の処理は前記した記録時
にパノラマ画像を作成する場合と同じである。スイッチ
8の出力は第1画像メモリ9又は第2画像メモリ10を
通って、記録信号処理回路11に入力され、記録/再生
アンプ13、スイッチ14のA端子を経て、ビデオヘッ
ド15によりビデオテープ16に記録される。ここで、
第1画像メモリ9又は第2画像メモリ10を通すのは、
動きベクトル検出動作による1フィールド遅延に合わせ
るためである。
【0025】また、スイッチ8の出力は動きベクトル検
出器19に供給され、動きベクトル検出データがマイコ
ン18に送られる。マイコン18は動きベクトル検出器
19の出力に基づいて動きベクトルを算出し、ビデオサ
ブコードプロセッサ21に動きベクトル情報を供給す
る。また、マイコン18はパンニング撮影時にパノラマ
スイッチ17aが操作されたことを検出し、パンニング
IDをビデオサブコードプロセッサ21に供給する。
【0026】ビデオサブコードプロセッサ21は、マイ
コン18から出力された動きベクトル情報とパンニング
IDからビデオサブコードを作成し、スイッチ14のB
端子を介して記録ヘッド15に供給する。スイッチ14
の切換えは各記録トラックごとに行われる。この結果、
各トラックごとにビデオサブコードが画像信号と切換え
られてビデオテープに記録される。このビデオサブコー
ドは、例えば8ミリビデオであれば、PCM音声信号と
FM画像信号との間の部分に記録すればよい。
【0027】次に、以上のようにして記録された画像信
号及びビデオサブコードを再生してパノラマ画像を作成
する動作を説明する。この時、ユーザはPBボタン(図
示せず)をONにしてビデオテープ16に記録された信
号を再生し、VF24を観察する。そして、パノラマ画
像を作成したい被写体が表示されたら、パノラマスイッ
チ17aをONにする。
【0028】ビデオヘッド15によりビデオテープ16
から再生された信号は、記録/再生アンプ13からスイ
ッチ3のP端子を介してA/D変換器4に入力される。
ここで、ディジタル化された画像信号は再生信号処理回
路7にてFM復調、ディエンファシス等の再生信号処理
が施された後、第1画像メモリ9に書込まれる。また、
ビデオヘッド15によりビデオテープ16から再生され
た信号はビデオサブコードプロセッサ21に入力され、
図4に示されているビデオサブコードがマイコン18に
送られる。マイコン18はパンニングIDと動きベクト
ル情報を識別し、パンニングがONであった時にはメモ
リコントローラ20に動きベクトルを送出する。
【0029】メモリコントローラ20は、例えば図1及
び図2に説明したように、動きベクトルに応じて第1画
像メモリ9における画像の抜取りと第2画像メモリ10
に対する画像信号の書込みを制御することにより、第2
画像メモリ10にパノラマ画像を書込む。この第2画像
メモリ10の内容を読出し、モニタ信号処理回路22に
よりコンポジット画像信号に変換し、D/A変換器23
によりアナログ画像信号に変換してVF24に供給すれ
ば、パノラマ画像が表示される。また、ビデオ出力端子
25から外部のモニタやプリンタに供給すれば、パノラ
マ画像が外部のモニタやプリンタに表示される。
【0030】このように記録時にパンニングIDと動き
ベクトル情報をビデオサブコードとして記録し再生時に
利用する理由は、再生画像信号から動きベクトルを検出
しようとすると、ビデオテープと記録ヘッドからなる電
磁変換系を通ることによって再生画像信号のS/Nが劣
化するので、動きベクトル検出の精度が低下するからで
ある。なお、パンニングIDを記録せず、再生時にパノ
ラマスイッチ17aをONにすることによりパノラマ画
像を作成するように構成してもよい。
【0031】以上が、パノラマ画像作成の動作である。
次に、動きベクトル検出器19の構成及び動作とマイコ
ン18の動きベクトル算出処理について説明する。本実
施例の動きベクトル検出器19は、代表点マッチング法
を改良した方法で動きベクトルを検出する。まず、図4
を参照しながら、代表点マッチング法について簡単に説
明する。
【0032】画面A内に動きベクトルを検出する例えば
5個の領域A1〜A5を設定する。各領域はK×L個の
ブロックBから構成される。各ブロックBはM×N個の
画素で構成され、例えばその中心に代表点Rが設定され
る。各ブロックBは代表点Rが1フィールド期間内に動
く可能性のある範囲である。画面Aの動きベクトルは領
域A1〜A5のそれぞれの動きベクトルを求め、各領域
の動きベクトルを処理して算出する。例えば、領域A2
の動きベクトルは、領域A2内のK×L個の各代表点R
が1フィールド期間にどこへ移動したかを検出すること
により求める。これには、各ブロックB内の代表点Rの
第nフィールドにおける画像信号Sn (0,0)と代表
点Rから垂直方向にi、水平方向にj偏移した点の第n
+1フィールドにおける画像信号Sn +1(i,j)との
差分の絶対値を計算してブロックの相関値p(i,j)
を計算する。そして、各ブロックの相関値p(i,j)
をK×L個の全ブロックについて偏移(i,j)ごとに
累積加算して領域A2の相関値P(i,j)を計算す
る。P(i,j)が最小になる偏移(i,j)を領域A
2の動きベクトルとする。
【0033】代表点マッチング法による動きベクトルの
検出は、画面Aをサンプリングした代表点のみの動きを
計算すればよいため、画面A内の全画素を用いて動きベ
クトルを検出する全点マッチング法と比較すると演算量
が大幅に削減される。しかしながら、被写体の動きが画
面内に混在した場合、画像信号のS/Nが悪い場合、あ
るいは代表点の周辺の画像の絵柄の変化が乏しい場合に
は正確な動きベクトルの検出ができない。
【0034】そこで、本実施例では、各領域A1〜A5
内のK×L個の代表点中、周辺の画像の絵柄の変化量が
所定値より大きい代表点のみを動きベクトル検出に用い
ている。絵柄の変化量の検出は、各代表点の画像のラプ
ラシアンΔを計算することにより行う。この計算は、代
表点が例えば画面の第vライン目、第hドット目にある
ものとすれば、Δ=S(h+1,v)+S(h−1,
v)+S(h,v+1)+S(h,v−1)−4×S
(h,v)の式から計算する。
【0035】この式から分かるように、ラプラシアンΔ
は代表点の画像と代表点に隣接する周囲の画像の平均値
との差に相当するから、ラプラシアンΔの値は代表点の
周辺の画像の絵柄の変化の大きさを示す。本実施例は、
各領域A1〜A5内のK×L個の代表点中、ラプラシア
ンΔが所定値を越える代表点のみ動きベクトル検出に用
いているので、正確な動きベクトルの検出ができる。
【0036】図5は本発明の実施例による動きベクトル
検出器の構成を示すブロック図である。以下、図4及び
図5を参照しながら本発明の実施例による動きベクトル
検出器の動作を説明する。入力端子191には図4に示
されている代表点Rの画像信号が入力され、代表点抽出
回路192においてラプラシアンΔが計算される。そし
て、ラプラシアンΔが所定値を越えた代表点の画像信号
のみ代表点メモリ193に格納される。ここで、代表点
抽出回路192は、例えば1ライン遅延回路、1ドット
遅延回路、加算器、減算器、アンプ、比較器等の組合せ
により構成されている。
【0037】次に、差分演算回路194において、代表
点メモリ193に格納された代表点の画像信号S
n (0,0)と次のフィールドの偏移(i,j)の画像
信号Sn +1(i,j)の差分の絶対値を計算してブロッ
クの相関値p(i,j)を計算し、これを全ブロックに
ついて偏移(i,j)ごとに累積加算して領域の相関値
P(i,j)を計算し、この計算結果を相関値メモリ1
95に格納する。
【0038】最後に、動き量検出回路196において、
相関値メモリ195に格納された相関値P(i,j)か
らそれが最小になる偏移(i,j)を求める。この偏移
(i,j)を各領域A1〜A5について求め、出力端子
197から図3のマイコン18に出力する。なお、ここ
では5個の領域A1 〜A5を設定したが、この数とパタ
ーンは任意に設定することができる。
【0039】次に、マイコン18の動きベクトル算出処
理について説明する。マイコン18はパノラマ画像作成
装置の特徴を利用して動きベクトル検出の精度を向上さ
せる処理を行っている。すなわち、パノラマ画像を作成
する場合には、通常はカムコーダをパンさせながら被写
体を撮影するので、カムコーダは垂直方向にはあまり移
動せず、水平方向にほぼ一定速度で移動する。そこで、
動きベクトル検出器19が検出した各領域A1〜A5の
動きベクトルの中で、垂直成分が所定値よりも小さい動
きベクトルを正しい動きベクトルと判定する。なお、カ
ムコーダをチルトさせてパノラマ画像を作成する場合
は、水平成分が所定値よりも小さい動きベクトルを正し
い動きベクトルと判定する。以下、図6を参照しなが
ら、カムコーダをパンさせてパノラマ画像を作成する場
合のマイコン18における動きベクトル算出処理につい
て説明する。
【0040】まず、領域A1〜A5について動きベクト
ル検出器19が出力した動きベクトルからその垂直成分
が所定値K1 (≒0)より小さいかどうかを判断し、垂
直成分が所定値K1 より小さい領域の数をカウントする
(ステップS1〜S3)。次に、動きベクトルの垂直成
分が所定値K1 より小さい領域が2個以上であれば、フ
ァジー判別によってどの領域の動きベクトルが正しい動
きベクトルかどうか判別し、動きベクトルを決定する
(ステップS4,S8)。例えば、偏移(i,j)に対
する相関値P(i,j)の平均値Av、最小値Min、
及び傾きθをパラメータとし、(1)(Min/Av)
が小さければ、この領域で求められた動きベクトルは確
からしい、(2)θが大きければ、この領域で求められ
た動きベクトルは確からしい、というルールに基づいて
メンバーシップ関数を作成し、2個以上の領域から求め
られた動きベクトルの確度を判別する。
【0041】また、動きベクトルの垂直成分が所定値K
1 より小さい領域が1個であれば、その領域の動きベク
トルを正しい動きベクトルとする(ステップS4,S
5,S7)。さらに、動きベクトルの垂直成分が所定値
1 より小さい領域が2個以上でなく、かつ1個でもな
い場合は、動きベクトルの検出が不能である(ステップ
S4,S5,S6)。この場合、前のフィールドの動き
ベクトルデータを保持する。
【0042】カムコーダをチルトさせてパノラマ画像を
作成する場合は、動きベクトルの水平成分が所定値K
(≒0)より小さい領域をカウントし、その数に応じて
全く同様に処理することによって動きベクトルを検出す
ることができる。そして、このようにしてマイコン18
において算出した動きベクトルをメモリコントローラ2
0に出力することにより、精度の高いパノラマ画像を作
成することが可能となる。
【0043】なお、本発明は前記実施例に限定されるも
のではなく、本発明の趣旨に基づき下記(1)〜(8)
のような種々の変形が可能であり、それらを本発明の範
囲から排除するものではない。 (1)動きベクトル検出器として、従来の代表点マッチ
ング法による動きベクトル検出器を用いてもよい。 (2)角速度センサを付加し、その出力を参照して動き
ベクトルを決定するようにしてもよい。 (3)以上の説明では、1フィールドごとに画像メモリ
に書込みを行ったが、奇数フィールドと偶数フィールド
では垂直方向に走査線の位置がずれているので、どちら
かのフィールドのみ画像メモリに書込んでもよい。 (4)図1(b)〜(e)等の画面を縮小し、第2画像
メモリに書込んで作成したパノラマ画像信号をこのメモ
リから読出す時に元のサイズに拡大してもよい。この場
合、プリンタを用いて紙等にパノラマ画像を形成するか
又はモニタにおいてスクロール表示する。 (5)再生時にパノラマ画像を作成するモードだけを備
えるように構成してもよい。また、ライン入力された画
像信号からパノラマ画像を作成するように構成してもよ
い。 (6)パンニングIDと動きベクトル情報を画像信号の
垂直ブランキング期間やビデオテープの長手方向に記録
してもよい。 (7)記録専用機に適用してもよい。 (8)磁気ディスク、光磁気ディスク等の回転記録媒体
に記録してもよい。
【0044】
【発明の効果】以上、詳細に説明したように、本発明に
よれば、パノラマ画像作成装置において、被写体の動き
やS/Nの悪い画像、コントラストが小さい画像であっ
ても、動きベクトルの誤検出を削減できる。その結果、
精度の高いパノラマ画像が作成できる。
【図面の簡単な説明】
【図1】本発明を適用するパノラマ画像作成装置のパノ
ラマ画像作成原理の説明図である。
【図2】図1で説明した画像メモリの水平方向のライト
イネーブル信号と1水平走査期間の画像信号とのタイミ
ング関係を示すタイミングチャートである。
【図3】本発明を適用するパノラマ画像作成装置の構成
の一例を示すブロック図である。
【図4】代表点マッチング法による動きベクトル検出の
説明図である。
【図5】本発明の実施例による動きベクトル検出器の構
成を示すブロック図である。
【図6】本発明の実施例によるマイコンの動きベクトル
算出処理のフローチャートである。
【符号の説明】
1 CCD撮像素子 18 マイコン 19 動きベクトル検出器
フロントページの続き (72)発明者 小林 博 東京都品川区北品川6丁目7番35号 ソ ニー株式会社内 (72)発明者 太田 正志 東京都品川区北品川6丁目7番35号 ソ ニー株式会社内 (56)参考文献 特開 平1−251962(JP,A) 特開 平3−231577(JP,A) 特開 平2−151182(JP,A) (58)調査した分野(Int.Cl.7,DB名) H04N 5/225 - 5/247

Claims (4)

    (57)【特許請求の範囲】
  1. 【請求項1】 被写体を撮像して作成した画像信号によ
    り形成される複数枚の画像を継ぎ合わせてパノラマ画像
    を作成する場合に、画像の動きベクトルに基づいて画像
    を継ぎ合わせる幅を制御するようにしたパノラマ画像作
    成装置の動きベクトル検出方法であって、 パノラマ画像を構成する複数枚の画像のうちの1の画像
    内に動きベクトルを検出する複数の領域を設定し、 設定した領域毎に、各領域内を複数個のブロックとし、
    各ブロックの代表点について、代表点の画像と代表移転
    に隣接する周辺の画像の平均値との差に相当する値を求
    め、 求めた値が所定値を超える代表点を動きベクトルの検出
    に使用する代表点として記憶し、 記憶した代表点の画像信号とそこから移動した点に対応
    する次のフィールド又はフレームの偏移の画像信号の差
    分の絶対値を計算して、ブロックの相関値を算出し、 各ブロックの相関値を全ブロックについて偏移ごとに累
    積加算して領域の相関値を算出し、 各領域について相関値が最小になる偏移を動きベクトル
    とし、 各領域について動きベクトルの垂直成分が所定値より小
    さい動きベクトルをパンニング撮影時の動きベクトルと
    して決定することを特徴とするパノラマ画像作成装置の
    動きベクトル検出方法。
  2. 【請求項2】 動きベクトルの垂直成分が所定値より小
    さい動きベクトルがある場合には、偏移に対する相関値
    の偏位状態を示すパラメータによるメンバーシップ関数
    を用いたファジー判別によって動きベクトルを決定する
    ことを特徴とする請求項1記載のパノラマ画像作成装置
    の動きベクトル検出方法。
  3. 【請求項3】 被写体を撮像して作成した画像信号によ
    り形成される複数枚の画像を継ぎ合わせてパノラマ画像
    を作成する場合に、画像の動きベクトルに基づいて画像
    を継ぎ合わせる幅を制御するようにしたパノラマ画像作
    成装置の動きベクトル検出装置であって、 パノラマ画像を構成する複数の画像画像のうちの1の画
    像内に設定した動きベクトルを検出する複数の領域毎
    に、各領域内を複数個のブロックとし、各ブロックの代
    表点について、代表点の画像と代表移転に隣接する周辺
    の画像の平均値との差に相当する値を求め、求めた値が
    所定値を超える代表点を動きベクトルの検出に使用する
    代表点として記憶し、記憶した代表点の画像信号とそこ
    から移動した点に対応する次のフィールド又はフレーム
    の偏移の画像信号の差分の絶対値を計算して、ブロック
    の相関値を算出し、各ブロックの相関値を全ブロックに
    ついて偏移ごとに累積加算して領域の相関値を算出する
    相関値算出手段と、 上記相関値算出手段により算出された相関値に基づい
    て、各領域について相関値が最小になる偏移を動きベク
    トルとし、各領域について動きベクトルの垂直成分が所
    定値より小さい動きベクトルをパンニング撮影時の動き
    ベクトルとして決定する動きベクトル決定手段とを備え
    ること特徴とするパノラマ画像作成装置の動きベクトル
    検出装置。
  4. 【請求項4】 上記動きベクトル決定手段は、動きベク
    トルの垂直成分が所定値より小さい動きベクトルがある
    場合に、偏移に対する相関値の偏位状態を示すパラメー
    タによるメンバーシップ関数を用いたファジー判別によ
    って動きベクトルを決定することを特徴とする請求項3
    記載のパノラマ画像作成装置の動きベクトル検出装置。
JP30945192A 1992-01-09 1992-10-23 パノラマ画像作成装置の動きベクトル検出方法及び装置 Expired - Fee Related JP3421859B2 (ja)

Priority Applications (12)

Application Number Priority Date Filing Date Title
JP30945192A JP3421859B2 (ja) 1992-10-23 1992-10-23 パノラマ画像作成装置の動きベクトル検出方法及び装置
EP97203956A EP0838947B1 (en) 1992-10-09 1993-09-27 Producing and recording images
DE69327220T DE69327220T2 (de) 1992-10-09 1993-09-27 Erzeugung und Aufzeichnung von Bildern
EP98202748A EP0878963A1 (en) 1992-10-09 1993-09-27 Producing and recording images
DE69329717T DE69329717T2 (de) 1992-10-09 1993-09-27 Erzeugung und Aufnahme von Bildern
EP93307647A EP0592136B1 (en) 1992-10-09 1993-09-27 Producing and recording images
US08/133,377 US5548409A (en) 1992-10-09 1993-10-08 Panorama image producing method and appartus
KR1019930020911A KR100325491B1 (ko) 1992-10-09 1993-10-09 파노라마화상작성방법및장치
US08/395,419 US5510830A (en) 1992-01-09 1995-02-27 Apparatus and method for producing a panorama image using a motion vector of an image in an image signal
US08/396,173 US5625462A (en) 1992-10-09 1995-02-27 Panorama image producing method and apparatus which calculates a cumulative amount of motion of the image
US08/583,441 US5689611A (en) 1992-10-09 1996-01-05 Panorama image producing method and apparatus
US08/729,778 US5666459A (en) 1992-10-09 1996-10-08 Panorama image producing method and apparatus using at least portions of variable width images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP30945192A JP3421859B2 (ja) 1992-10-23 1992-10-23 パノラマ画像作成装置の動きベクトル検出方法及び装置

Publications (2)

Publication Number Publication Date
JPH06141218A JPH06141218A (ja) 1994-05-20
JP3421859B2 true JP3421859B2 (ja) 2003-06-30

Family

ID=17993157

Family Applications (1)

Application Number Title Priority Date Filing Date
JP30945192A Expired - Fee Related JP3421859B2 (ja) 1992-01-09 1992-10-23 パノラマ画像作成装置の動きベクトル検出方法及び装置

Country Status (1)

Country Link
JP (1) JP3421859B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10154195B2 (en) 2014-09-25 2018-12-11 JVC Kenwood Corporation Image joining apparatus, image pickup apparatus, image joining method, and image joining program

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3799861B2 (ja) * 1999-02-24 2006-07-19 株式会社日立製作所 画像合成装置、画像合成方法を実行させるプログラムが記録された記録媒体
JP5338174B2 (ja) * 2008-07-28 2013-11-13 富士通株式会社 パノラマ撮影装置及び方法、パノラマ撮影装置を搭載したカメラユニット
JP5154392B2 (ja) * 2008-12-12 2013-02-27 株式会社キーエンス 撮像装置
JP5149984B2 (ja) * 2011-09-16 2013-02-20 株式会社キーエンス 撮像装置
JP5209137B2 (ja) * 2012-09-05 2013-06-12 株式会社キーエンス 撮像装置
JP5598569B2 (ja) * 2013-05-20 2014-10-01 富士通株式会社 パノラマ撮影装置及び方法、パノラマ撮影装置を搭載したカメラユニット

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10154195B2 (en) 2014-09-25 2018-12-11 JVC Kenwood Corporation Image joining apparatus, image pickup apparatus, image joining method, and image joining program

Also Published As

Publication number Publication date
JPH06141218A (ja) 1994-05-20

Similar Documents

Publication Publication Date Title
EP0838947B1 (en) Producing and recording images
US6122004A (en) Image stabilizing circuit for a camcorder
JPH06303562A (ja) 撮像記録装置
JPH1169293A (ja) 画像処理システムならびにカメラ一体型ビデオレコーダ
JP3421859B2 (ja) パノラマ画像作成装置の動きベクトル検出方法及び装置
JPH08223481A (ja) パノラマ静止画像作成装置
JP3158735B2 (ja) 画像信号記録装置
JP3509114B2 (ja) パノラマ画像作成方法及び装置
US6115067A (en) Apparatus for maintaining object image size during zooming
JPH06133221A (ja) 撮像装置
JPH06284321A (ja) パノラマ画像作成方法及び装置
JPH0856323A (ja) ビデオ撮像記録再生表示方法及び装置
JPH09149364A (ja) 静止画生成装置
JP3336085B2 (ja) 撮像記録再生装置
JP3218612B2 (ja) 手振れ補正可能なビデオ信号記録再生装置
JPH0396091A (ja) 撮像信号の記録再生装置
JPH0746533A (ja) デジタル画像信号の記録装置
JPH08163433A (ja) パノラマ静止画像作成装置
JP3332514B2 (ja) 画像揺れ補正装置
JP3158549B2 (ja) 静止画記録再生装置
JP2658992B2 (ja) 映像信号処理方法および装置
JPH08251477A (ja) 画像形成装置
JPH04215378A (ja) カメラ一体型ビデオテープレコーダ装置
JP3391491B2 (ja) ビデオ・カメラおよびその制御方法
JPH0746534A (ja) デジタル画像信号の伝送装置

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20021119

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20030318

LAPS Cancellation because of no payment of annual fees