JPH08289330A - 3次元映像変換方法 - Google Patents

3次元映像変換方法

Info

Publication number
JPH08289330A
JPH08289330A JP7090989A JP9098995A JPH08289330A JP H08289330 A JPH08289330 A JP H08289330A JP 7090989 A JP7090989 A JP 7090989A JP 9098995 A JP9098995 A JP 9098995A JP H08289330 A JPH08289330 A JP H08289330A
Authority
JP
Japan
Prior art keywords
motion vector
image
determined
eye
video signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP7090989A
Other languages
English (en)
Other versions
JP3249335B2 (ja
Inventor
Toshiya Iinuma
俊哉 飯沼
Haruhiko Murata
治彦 村田
Susumu Tanase
晋 棚瀬
Akihiro Maenaka
章弘 前中
Hidekazu Uchida
秀和 内田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP09098995A priority Critical patent/JP3249335B2/ja
Publication of JPH08289330A publication Critical patent/JPH08289330A/ja
Application granted granted Critical
Publication of JP3249335B2 publication Critical patent/JP3249335B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

(57)【要約】 【目的】 2次元映像から視差を有する3次元映像に変
換する3次元映像変換方法において、見易い3次元映像
を得ることを目的とする。 【構成】 入力された2次元映像信号は、マルチプレキ
サ2及びフィールドメモリ3に入力される。フィールド
メモリの遅延フィールド数は動きベクトル検出回路7で
検出された動きベクトルの大きさに応じてCPU8によ
り制御される。CPU8は右目用映像及び左目用映像の
うちどちらを遅延映像としどちらを非遅延映像とするか
を決定する。更に、CPU8は移動しているのは被写体
Sか背景Mかを判別し、この判別結果により水平位相調
整回路5及び6を制御して左右の画面全体がスクリーン
面Xに対して常に一定位置に見えるようにする。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、2次元映像から視差を
有する3次元映像に変換する3次元映像変換方法に関す
る。
【0002】
【従来の技術】従来、3次元映像再生システムに使用さ
れる映像ソフトは、その大半が3次元映像表示用に特別
に作成されたものである。このような3次元映像表示用
の映像ソフトは、一般には2台のカメラで撮像された左
目用映像と右目用映像を同時にまたは順次に一つのディ
スプレイに重ねて表示し、この2重に映し出された右目
用映像及び左目用映像を観察者の左右の目にそれぞれ分
離して入射させることにより観察者に3次元映像を認識
させるものである。
【0003】従って、この方法によれば、既存の2次元
映像ソフトを使用することができず新たに3次元映像ソ
フトを製作する必要があったため立体映像再生システム
のコストアップの原因となっていた。
【0004】このため、既存の2次元映像ソフトから3
次元映像ソフトに変換する方法が種々、提案されてい
る。例えば、2次元映像を映像の動きに応じてフィール
ド単位で遅延させ、非遅延映像を左目用、遅延映像を右
目用映像とすることにより水平方向に動きのある映像に
対しては視差を有する3次元映像が得られる3次元映像
変換方法がある。即ち、図10に示すように、静止して
いる背景Mに対して右方向に被写体Sが移動するシーン
の場合、左目用映像Lを非遅延映像、右目用映像Rを遅
延映像とすることにより所定の視差が発生し、スクリー
ン面X上に見える背景Mに対して被写体Sが前記視差に
応じて前方に飛び出して見えることにより立体視が可能
となる。
【0005】しかしながら、通常の映像ソフトにおいて
は、背景Mに対して相対的に被写体Sが右方向に移動す
るシーンを撮影する場合、カメラを固定して撮影すると
前述の図10のように背景Mが静止し被写体Sが右へ移
動した映像となるが、カメラを被写体Sと共に右へパン
ニングして撮影すると図11のように被写体Sが静止し
背景Mが左へ移動する映像となる。
【0006】上述の3次元映像変換方法では、図10に
示すような場合、左から右へ移動する物体(被写体S)
を検出して、非遅延映像を左目用映像、遅延映像を右目
用映像とすることにより被写体Sを背景Mに対して前方
に飛び出させることができる。ところが、図11に示す
ように背景Mが移動している場合、右から左へ移動する
物体(背景M)を検出して前述とは逆に、非遅延映像を
右目用映像、遅延映像を左としてしまうことにより、逆
に、スクリーン面X上に見える被写体Sに対して背景M
が前方に飛び出してしまうという問題が生じる。
【0007】このため、上記問題点を解決するために、
本願出願人は先に特願平6−228208号において、
画面内の被写体と背景を判別して、左右映像のうちどち
らを遅延映像とするかを選択することにより、常に背景
に対して被写体が前方に見えるようにする方法を提案し
ている。
【0008】上記方法によれば、静止している被写体S
に対して背景Mが移動する場合でも図12に示すように
非遅延映像を左目用映像、遅延映像を右目用映像とする
ことができる。
【0009】ここで、被写体Sが移動する図10の場合
と背景Mが移動する図12の場合とを比較すると、共に
被写体Sが背景Mに対して前方に飛び出してはいるが、
図10の場合はスクリーン面Xに背景Mがありその前方
に被写体Sが飛び出して見える。これに対して、図12
の場合は被写体Sがスクリーン面Xにありその奥に背景
Mが後退して見える。即ち、両者は共に相対的に背景M
に対して被写体Sが前方に見えるが、図6aに示すよう
にスクリーン面Xに対しては、両者では異なる位置に見
えることになる。
【0010】従って、同一映像ソフト再生中でもカメラ
ワークにより画面全体が飛び出したり奥に後退したりす
ることが起こり、非常に見づらいという欠点があった。
【0011】
【発明が解決しようとする課題】本発明は上述の欠点を
解消するものであり、被写体Sが移動する場合でも背景
Mが移動する場合でも、スクリーン面Xに対しては被写
体S及び若しくは背景Mがほぼ同一位置に見えるように
することにより、見易い3次元映像を得ることができる
3次元映像変換方法を提供するものである。
【0012】
【課題を解決するための手段】本発明は、2次元映像か
ら基準となる第1映像とこの第1映像に対して時間軸方
向に遅延された第2映像とを生成し、これらの一方を右
目用映像とし、他方を左目用映像とすることによって2
次元映像から3次元映像に変換する3次元映像変換方法
において、前記2次元映像中の2つの対象物の前後関係
を判定し、この判定結果により前記右目用映像及び左目
用映像に対する水平方向の相対的な位相量を制御するこ
とを特徴とする3次元映像変換方法である。
【0013】また、前記位相量は、右目用映像及び左目
用映像をそれぞれメモリに蓄積し、相対的に両映像の読
み出し位置を画素単位で可変することにより制御されて
なる。
【0014】また、前記位相量は、前記前方に位置する
対象物が移動している場合、前記両対象物がスクリーン
面に対して後退して見えるように制御されてなる。ま
た、前記位相量は、前記後方に位置する対象物が移動し
ている場合、前記両対象物がスクリーン面に対して飛び
出して見えるように制御されてなる。
【0015】また、前記位相量は、前記対象物のうち前
方に位置する対象物がスクリーン面に対して常に同一位
置に見えるように制御されてなる。また、前記位相量
は、前記対象物のうち後方に位置する対象物がスクリー
ン面に対して常に同一位置に見えるように制御されてな
る。
【0016】
【作用】上述の手段により、前記2次元映像中の2つの
対象物の前後関係が判定されこの判定結果により、前記
前方に位置する対象物が移動している場合でも前記後方
に位置する対象物が移動している場合でも前記両対象物
がスクリーン面に対して同一位置に見えるように、前記
右目用映像及び左目用映像のメモリからの相対的な読み
出し位置が自動的に制御される。
【0017】
【実施例】以下、図面に従って本発明の一実施例を説明
する。図1は本発明の3次元映像変換方法を適用した3
次元映像変換装置の概略ブロック図を示す。
【0018】入力端子1には2次元映像信号が入力さ
れ、この2次元映像信号の一方はマルチプレキサ2に供
給される。また、2次元映像信号の他方はフィールドメ
モリ3に供給される。このフィールドメモリ3はメモリ
制御回路4により遅延量0から最大60フィールド(N
TSC方式で約1秒)までの範囲でフィールド単位で可
変制御される。
【0019】そして、このフィールドメモリ出力は前記
マルチプレキサ2に供給される。2次元映像信号の更に
他方は、動きベクトル検出回路7に供給され、周知の代
表点マッチング法によりフィールド間の動きに応じた動
きベクトルが検出された後CPU8に供給される。この
CPU8は前記動きベクトルのうちの水平成分を抽出
し、これに応じて次式を満たすように遅延フィールド数
を決定してメモリ制御回路6を制御する。
【0020】
【数1】
【0021】これにより、被写体の動きの速さによらず
ほぼ一定の視差量を得ることができる。従って、2次元
映像信号において水平方向に動きがあるシーンについて
は動きの速さに応じた視差が発生する。
【0022】更に、前記CPU8は動きベクトルの方向
が左から右の場合、その動きベクトルの物体が背景の前
方に位置する被写体であると判断すると、遅延された映
像信号を右目用映像信号とし、また、前記動きベクトル
の物体が被写体の後方に位置する背景であると判断する
と、遅延された映像信号を左目用映像信号とする。ま
た、前記CPU8は動きベクトルの方向が右から左の場
合、その動きベクトルの物体が背景の前方に位置する被
写体であると判断すると、遅延された映像信号を左目用
映像信号とし、また、前記動きベクトルの物体が被写体
の後方に位置する背景であると判断すると、遅延された
映像信号を右目用映像信号とするようにマルチプレキサ
2を制御する。
【0023】そして、このマルチプレキサ2出力はそれ
ぞれ左目用映像信号及び右目用映像信号の水平位相を調
整する水平位相調整回路5、6に供給される。この水平
位相調整回路は水平読み出し位置を変更することで0〜
95画素の範囲で可変遅延が可能なメモリで構成され
る。即ち、右目用映像信号と左目用映像信号とで水平読
み出し位置を変えて遅延量に差を付けることにより、両
映像信号による水平方向における画素の表示位置がずれ
ることになる。これにより、画像全体をスクリーン面X
に対して飛び出させたり、後退させたりすることができ
奥行き感を調整することができる。この水平位相調整回
路5、6における位相量は後述するアルゴリズムにより
CPU8が決定する。
【0024】この水平位相調整回路5、6出力L、Rは
それぞれディスプレイ9にフィールド周期で交互に供給
される。そして、このディスプレイを前記フィールド周
期で同期して駆動される液晶メガネで見れば、2次元映
像信号であっても立体感のある3次元画像を疑似的に再
現することができる。
【0025】次に、図2は前記CPU8の動作のうち、
動きベクトルの物体が背景の前方に位置する被写体であ
るか、あるいは被写体の後方に位置する背景であるかを
判定する動作のフローチャートを示す図である。
【0026】先ず、ステップS1において、画面上に複
数存在する動きベクトルの検出領域で検出された動きベ
クトルのうち、左右に隣接する検出領域により検出され
た2つの動きベクトルを比較し、その2つの動きベクト
ルが同じ(大きさ及び向きの両方が同じ)であるか否か
を判別する。
【0027】そして、このステップS1において、前記
動きベクトルが同じであると判断した場合(Y)、ステ
ップS2において、前記ステップS1で行った動きベク
トルの比較が動きベクトルの検出を行った1フィールド
の画面のうち最後の動きベクトルの比較であるか否かを
判別する。
【0028】本実施例では、動きベクトル検出回路7
は、図3に示すように、1フィールドを構成する画面の
うち、上下方向を4分割、左右方向を4分割してなる1
6個の検出領域A1〜D4で動きベクトルを検出してい
る。そして、1フィールド期間での前記16個の検出領
域で検出された動きベクトルの比較動作は、左上から右
下の順に行われる。即ち、検出領域A1とB1の動きベ
クトルの比較、次に検出領域B1とC1の動きベクトル
の比較、の順で行われ、検出領域C4とD4の動きベク
トルの比較で終了する。
【0029】従って、ステップS2において、直前のス
テップS1での動きベクトルの比較動作が検出領域C4
で検出された動きベクトルと検出領域D4で検出された
動きベクトルとの比較であるか否かを判別する。そし
て、ステップS1で、検出領域C4で検出された動きベ
クトルと検出領域D4で検出された動きベクトルとの比
較であると判別した場合(Y)、ステップS11に進
み、また、検出領域C4で検出された動きベクトルと検
出領域D4で検出された動きベクトルとの比較でないと
判別した場合(N)、ステップS3に進む。
【0030】ステップS3では、次の動きベクトル検出
領域での動きベクトルの比較動作に移行して前記ステッ
プS1に戻り、ステップS1の動作を再度行う。また、
前記ステップS1において、前記動きベクトルが同じで
ないと判断した場合(N)、次のステップS4に進む。
【0031】ステップS4では、前記ステップS1で比
較した2つの動きベクトルのうち大きい方の動きベクト
ルの向いている方向が、小さい方の動きベクトルの検出
領域を向いているか否かを判定する。尚、この時、動き
ベクトルの大小関係は、動きベクトルの絶対値で判定す
る。そして、ステップS3において、大きい方の動きベ
クトルの向いてる方向が小さい方の動きベクトルの検出
領域を向いていると判定した場合(Y)、ステップS5
に進み、また、大きい方の動きベクトルの向いている方
向が小さい方の動きベクトルの検出領域を向いていない
と判定した場合(N)、ステップS6に進む。
【0032】ステップS5では、所定時間経過後に、前
記2つの動きベクトルのうち小さい方の動きベクトルの
検出領域で検出された動きベクトルが、前記大きい方の
動きベクトルの影響を受けるか否かを判定する。そし
て、このステップS5において、影響を受けると判定し
た場合(Y)、ステップS7に進む。
【0033】ステップS7では、前記大きい方の動きベ
クトルの物体が背景の前方を移動する被写体であると判
断し、前記大きい方の動きベクトルが向いている方向の
側の目の映像信号を遅延された映像信号とすべきである
と判定する。
【0034】また、ステップS5において、影響を受け
ないと判定した場合(N)、ステップS8に進む。ステ
ップS8では、前記大きい方の動きベクトルの物体が被
写体の後方を移動する背景であると判断し、前記大きい
方の動きベクトルが向いている方向と反対側の目の映像
信号を遅延された映像信号とすべきであると判定する。
【0035】次に、前述のステップS4において、大き
い方の動きベクトルの向いている方向が小さい方の動き
ベクトルの検出領域を向いていないと判定して(N)ス
テップS6に進んだ場合、該ステップS6では、所定時
間経過後に前記2つの動きベクトルのうち大きい方の動
きベクトルの検出領域で検出された動きベクトルが小さ
い方の動きベクトルの影響を受けるか否かを判定する。
そして、このステップS6において、影響を受けると判
定した場合(Y)、ステップS9に進む。
【0036】ステップS9では、前記大きい方の動きベ
クトルの物体が背景の前方を移動する被写体であると判
断し、前記大きい方の動きベクトルの向いている方向の
目の映像信号を遅延された映像信号とすべきであると判
定する。
【0037】また、ステップS6において、影響を受け
ないと判定した場合(N)、ステップS10に進む。ス
テップS10では、前記大きい方の動きベクトルの物体
が被写体の後方を移動する背景であると判断し、前記大
きい方の動きベクトルが向いている方向と逆方向の目の
映像信号を遅延された映像信号とすべきであると判定す
る。
【0038】尚、前記ステップS5での所定時間とは、
大きい方の動きベクトルの物体が、その動きベクトルの
絶対値から換算して隣の動きベクトル検出領域に移動す
ることが予測される時間のことである。また、前記ステ
ップS6での所定時間とは、小さい方の動きベクトルの
物体が、その動きベクトルの絶対値から換算して隣の動
きベクトル検出領域に移動することが予測される時間の
ことである。従って、前記ステップS5、ステップS6
の所定時間は共に、前述の換算の元になる動きベクトル
の絶対値が大きい程、短くなる。
【0039】また、前記ステップS5での影響を受ける
とは、小さい方の動きベクトルが前記所定時間経過後に
大きい方の動きベクトルの値と同じになる、あるいは大
きい方の動きベクトルに近付くことである。また、前記
ステップS6での影響とは、大きい方の動きベクトルが
前記所定時間経過後に小さい方の動きベクトルの値と同
じになる、あるいは小さい方の動きベクトルに近付くこ
とである。
【0040】前記ステップS7、ステップS8、ステッ
プS9あるいはステップS10の動作が終了すると、ス
テップS2に戻る。ステップS2では、1フィールド期
間の最後の動きベクトルの比較、即ち、検出領域C4で
検出された動きベクトルと検出領域D4で検出された動
きベクトルとの比較動作が終了するまで、最後の動きベ
クトル比較ではないと判断し(N)、ステップS1に戻
り、以上の動作を繰り返す。そして最後に、検出領域C
4で検出された動きベクトルと検出領域D4で検出され
た動きベクトルとの比較動作が終了すると、最後の動き
ベクトル比較である(Y)と判断し、ステップS11に
進む。
【0041】ステップS11では、前記ステップS7、
ステップS8、ステップS9及びステップS10で得ら
れた判定結果を比較し、全ての判定結果が同じであるか
否かを判定する。そして、ステップS11において、全
ての判定結果が同じであると判定した場合(Y)、ステ
ップS12に進み、また、全ての判定結果が同じではな
い(判定結果が異なるものが少なくとも1つはある)と
判定した場合(N)、動作を終了する。尚、ここでいう
判定結果とは、左右どちらの目の映像信号を遅延された
映像信号とすべきであるかということである。即ち、全
ての判定結果が右目用の映像信号を遅延された映像信号
とすべきである場合、あるいは全ての判定結果が左目用
の映像信号を遅延された映像信号とすべきである場合
に、全ての判定結果が同じであると判定して(Y)ステ
ップS12に進み、それ以外の場合は、全ての判定結果
が同じではないと判定して(N)動作を終了する。
【0042】ステップS12では、前記ステップS7、
ステップS8、ステップS9及びステップS10で得ら
れた判定結果に従って、マルチプレキサ2を切り換える
ように制御する。
【0043】次に、入力端子1に入力される元になる2
次元映像が図4に示す第1のシーンの映像である場合
と、図5に示す第2のシーンの映像である場合の夫々に
ついて、CPU8の動作を図2に示すフローチャートに
従って説明する。
【0044】図4は(a)、(b)、(c)の順で経過
する第1のシーンの3個のフィールドの映像、及びその
映像における動きベクトルの大きさ及び向きを模式的に
示す図である。この図4の映像は不動状態である山の前
方を鳥が左から右に向かって飛んでいる映像である。即
ち、背景である山の前方を被写体である鳥が左から右に
向かって飛んでいる。尚、(b)は(a)の数フィール
ド後(所定時間経過後)の映像、(c)は(b)の数フ
ィールド後(所定時間経過後)の映像である。
【0045】図5は(a)、(b)、(c)の順で経過
する第2のシーンの3個のフィールドの映像、及びその
映像における動きベクトルの大きさ及び向きを模式的に
示す図である。この図5の映像はバスが左から右に向か
って走っている映像であるが、バスを中心に撮影した映
像であるため、画面上においては不動状態であるバスの
後方を家が左から右に向かって移動している。即ち、被
写体であるバスの後方を背景である家が移動している。
尚、(b)は(a)の数フィールド後(所定時間経過
後)の映像、(c)は(b)の数フィールド後(所定時
間経過後)の映像である。
【0046】先ず、図4に示す第1のシーンの映像にお
いて、現フィールドが図4(a)の映像である場合、第
1行目、第2行目の動きベクトル検出領域A1、B1、
C1、D1、A2、B2、C2、D2では背景の山を検
出するため、動きベクトルa1、b1、c1、d1、a
2、b2、c2、d2は全て0となる。従って、この動
きベクトル検出領域では、左右に隣接する検出領域で検
出された動きベクトルは全てにおいて大きさが等しく、
CPU8はステップS1、ステップS2、ステップS3
の動作を繰り返す。
【0047】そして、第3行目の動きベクトル検出領域
では、左から1番目、3番目、4番目の検出領域A3、
C3、D3では背景の山を検出するため、動きベクトル
a3、c3、d3は0となり、左から2番目の検出領域
B3では左から右へ飛ぶ鳥を検出するため、動きベクト
ルb3は左から右へ向いているベクトルとなる。
【0048】従って、ステップS1では、左右に隣接す
る動きベクトル検出領域A3と動きベクトル検出領域B
3とで検出された動きベクトルa3と動きベクトルb3
とは同じでないと判断し(N)、ステップS4に進む。
【0049】ステップS4では、動きベクトルa3と動
きベクトルb3のうち、大きい方の動きベクトルb3が
小さい方の動きベクトルa3を向いているか否かを判定
する。ここでは、動きベクトルb3が動きベクトルa3
の方を向いていないため、ステップS6に進む。
【0050】ステップS6では、所定時間経過後に大き
い方の動きベクトルb3が小さい方の動きベクトルa3
の影響を受けるか否かを判定する。ここでは、所定時間
経過後に、図4(b)に示すように、動きベクトルb
3’が0になり、前記小さい方の動きベクトルa3の値
と等しくなるため、大きい方の動きベクトルb3は小さ
い方の動きベクトルa3の影響を受けると判定し
(Y)、ステップS9に進む。
【0051】従って、ステップS9において、大きい方
の動きベクトルb3の物体が小さい方の動きベクトルa
3の物体よりも前方に位置すると判断し、大きい方の動
きベクトルb3が向いている右方向の側の目、即ち右目
用の映像信号を遅延された映像信号とするべきであると
判定する。
【0052】そして、ステップS2において、1画面の
全ての動きベクトル比較が終了していないと判断し
(N)、ステップS3で次の動きベクトルの検出領域に
移行し、ステップS1に戻る。
【0053】ステップS1では、第3行目の左から2番
目の動きベクトルb3と左から3番目の動きベクトルc
3とを比較し、動きベクトルb3と動きベクトルc3と
は同じではないと判断し(N)、ステップS4に進む。
【0054】ステップS4では、動きベクトルb3と動
きベクトルc3のうち、大きい方の動きベクトルb3が
小さい方の動きベクトルa3を向いているか否かを判定
する。ここでは、動きベクトルb3が動きベクトルa3
の方を向いるため、ステップS5に進む。
【0055】ステップS5では、所定時間経過後に小さ
い方の動きベクトルc3が大きい方の動きベクトルb3
の影響を受けるかを判定する。ここでは、所定時間経過
後に、図4(b)に示すように、動きベクトルc3’が
前記大きい方の動きベクトルb3と同じ値になるため、
小さい方の動きベクトルc3は大きい方の動きベクトル
b3の影響を受けると判定し(Y)、ステップS7に進
む。
【0056】従って、ステップS7において、大きい方
の動きベクトルb3の物体が小さい方の動きベクトルc
3の物体よりも前方に位置すると判断し、大きい方の動
きベクトルb3が向いている右方向の側の目、即ち右目
用の映像信号を遅延された映像信号とするべきであると
判定する。
【0057】そして、ステップS2において、最後の動
きベクトル比較ではないと判断し(N)、ステップS3
で次の動きベクトルの検出領域に移行し、ステップS1
に戻る。
【0058】ステップS1では、第3行目の左から3番
目の動きベクトルc3と左から4番目の動きベクトルd
3とを比較し、動きベクトルc3と動きベクトルd3と
は同じであると判断し(Y)、ステップS1に戻る。
【0059】そして、ステップS1では、第4行目の動
きベクトル検出領域についての動作を行う。第4行目の
動きベクトル検出領域では、第3行目の動きベクトル検
出領域と同様に、左から1番目、3番目、4番目の検出
領域A4、C4、D4では背景の山を検出するため、動
きベクトルa4、c4、d4は0であり、左から2番目
の検出領域B4では左から右へ飛ぶ鳥を検出するため、
左から右へ向いている動きベクトルb3を検出する。
【0060】従って、CPU8は第3行目に対する動作
と同じ動作をし、動きベクトルa4と動きベクトルb4
との比較では、動きベクトルb4の物体が動きベクトル
a4の物体よりも前方に位置すると判断し、右目用の映
像信号を遅延された映像信号とすべきであると判定す
る。
【0061】また、動きベクトルb4と動きベクトルc
4との比較では、動きベクトルb4の物体が動きベクト
ルc4の物体よりも前方に位置すると判断し、右目用の
映像信号を遅延された映像信号とすべきであると判定す
る。
【0062】そして、動きベクトルc4と動きベクトル
d4との比較を終えた後、ステップS2において、1画
面の全ての動きベクトル比較が終了したと判断し
(Y)、ステップS11に進む。
【0063】ステップS11では、前述の動作で得られ
た4個の判定結果を比較する。ここでは、4個の判定結
果が全て、右目用の映像信号を遅延された映像信号とす
べきであると判定しているため、全ての判定結果が同じ
であると判定して(Y)ステップS12に進む。
【0064】ステップS12では、前記判定結果に従っ
て、右目用信号が遅延された映像信号となるようにマル
チプレキサ2を切り換え制御する。これにより、観察者
は動きベクトルb3の物体である鳥(被写体)を動きベ
クトルa3、c3の物体である山(背景)よりも前方に
浮き出た状態で観察することが出来る。
【0065】次に、現フィールドが図4(b)の映像の
時も、具体的な説明は省略するが、CPU8は前述の現
フィールドが図4(a)の映像の時と同様の動作を行
い、ステップS7あるいはステップS9において、動き
ベクトルc3’の物体が動きベクトルb3’、d3’の
物体よりも前に位置すると判断し、右目用の映像信号を
遅延された映像信号とすべきであると判定し、また、動
きベクトルc4’の物体が動きベクトルb4’、d4’
の物体よりも前に位置すると判断し、右目用の映像信号
を遅延された映像信号とすべきであると判定する。
【0066】そして、ステップS11において、4個の
判定結果が全て、右目用の映像信号を遅延された映像信
号とすべきであると判定しているため、ステップS12
において、右目用映像信号が遅延された映像信号となる
ようにマルチプレキサ2を切り換え制御する。
【0067】これにより、観察者は動きベクトルc3’
の物体である鳥(被写体)を動きベクトルb3’、d
3’の物体である山(背景)よりも前方に浮き出た状態
で観察することが出来る。
【0068】次に、図5に示す第2のシーンの映像にお
いて、現フィールドが図5(a)の映像である場合、第
1行目、第2行目の全ての動きベクトル検出領域A1、
B1、C1、D1、A2、B2、C2、D2では画面
上、右方向に移動する家等の背景を検出するため、その
動きベクトルa1、b1、c1、d1、a2、b2、c
2、d2は全て同じ大きさの右方向のベクトルとなる。
従って、この動きベクトル検出領域では、左右に隣接す
る検出領域で検出された動きベクトルは全てにおいて大
きさが等しく、CPU8はステップS1、ステップS
2、ステップS3の動作を繰り返す。
【0069】そして、第3行目の動きベクトル検出領域
では、左から1番目、3番目、4番目の検出領域A3、
C3、D3では家等の背景を検出するため、動きベクト
ルa3、c3、d3は同じ大きさの右方向のベクトルと
なり、左から2番目の検出領域B3では画面上、不動状
態であるバスを検出するため、動きベクトルb3は0と
なる。
【0070】従って、ステップS1では、左右に隣接す
る動きベクトル検出領域で検出された動きベクトルa3
と動きベクトルb3とは同じでないと判断し(N)、ス
テップS4に進む。
【0071】ステップS4では、動きベクトルa3と動
きベクトルb3のうち、大きい方の動きベクトルa3が
小さい方の動きベクトルb3を向いているか否かを判定
する。ここでは、動きベクトルa3が動きベクトルb3
の方を向いているため、ステップS5に進む。
【0072】ステップS5では、所定時間経過後に小さ
い方の動きベクトルb3が大きい方の動きベクトルa3
の影響を受けるかを判定する。ここでは、所定時間経過
後に、図5(b)に示すように、動きベクトルb3’は
0のまま変化しないため、小さい方の動きベクトルb3
は大きい方の動きベクトルa3の影響を受けないと判定
し(N)、ステップS8に進む。
【0073】従って、ステップS8において、大きい方
の動きベクトルa3の物体が小さい方の動きベクトルb
3の物体よりも後方に位置すると判断し、大きい方の動
きベクトルb3が向いている右方向とは反対側の目、即
ち左目用の映像信号を遅延された映像信号とするべきで
あると判定し、ステップS2に進む。
【0074】ステップS2では、1画面の全ての動きベ
クトル比較が終了していないと判断し(N)、ステップ
S3で次の動きベクトルの検出領域に移行し、ステップ
S1に戻る。
【0075】ステップS1では、第3行目の左から2番
目の動きベクトルb3と左から3番目の動きベクトルc
3とを比較し、動きベクトルb3と動きベクトルc3と
は同じではないと判断し(N)、ステップS4に進む。
【0076】ステップS4では、動きベクトルb3と動
きベクトルc3のうち、大きい方の動きベクトルc3が
小さい方の動きベクトルb3を向いているか否かを判定
する。ここでは、動きベクトルc3が動きベクトルb3
の方を向いていないため、ステップS6に進む。
【0077】ステップS6では、所定時間経過後に大き
い方の動きベクトルc3が小さい方の動きベクトルb3
の影響を受けるかを判定する。ここでは、所定時間経過
後に、図5(b)に示すように、動きベクトルc3’が
動きベクトルc3のまま変化していないため、大きい方
の動きベクトルc3は小さい方の動きベクトルb3の影
響を受けないと判定し(N)、ステップS10に進む。
【0078】従って、ステップS10において、大きい
方の動きベクトルc3の物体が大きい方の動きベクトル
b3の物体よりも後方に位置すると判断し、大きい方の
動きベクトルb3が向いている右方向と反対側の目、即
ち左目用の映像信号を遅延された映像信号とするべきで
あると判定する。
【0079】そして、ステップS2において、最後の動
きベクトル比較ではないと判断し(N)、ステップS3
で次の動きベクトルの検出領域に移行し、ステップS1
に戻る。
【0080】ステップS1では、第3行目の左から3番
目の動きベクトルc3と左から4番目の動きベクトルd
3とを比較し、動きベクトルc3と動きベクトルd3と
は同じであると判断し(Y)、ステップS1に戻る。
【0081】そして、ステップS1では、第4行目の動
きベクトル検出領域についての動作を行う。第4行目の
動きベクトル検出領域では、第3行目の動きベクトル検
出領域と同様に、左から1番目、3番目、4番目の検出
領域A4、C4、D4では画面上、左方向に移動する家
等の背景を検出するため、動きベクトルa4、c4、d
4は同じ大きさの右方向のベクトルとなり、また、右か
ら2番目の検出領域B4では画面上、不動状態であるバ
スを検出するため、動きベクトルb4は0となる。
【0082】従って、CPU8は第3行目に対する動作
と同じ動作をし、動きベクトルa4と動きベクトルb4
との比較では、動きベクトルa4の物体が動きベクトル
b4の物体よりも後方に位置すると判断し、左目用映像
信号を遅延された映像信号とすべきであると判定する。
【0083】また、動きベクトルb4と動きベクトルc
4との比較では、動きベクトルc4の物体が動きベクト
ルb4の物体よりも後方に位置すると判断し、左目用映
像信号を遅延された映像信号とすべきであると判定す
る。
【0084】そして、動きベクトルc4と動きベクトル
d4との比較を終えた後、ステップS2において、1画
面の全ての動きベクトル比較が終了したと判断し
(Y)、ステップS11に進む。
【0085】ステップS11では、前述の動作で得られ
た4個の判定結果を比較する。ここでは、4個の判定結
果が全て、左目用映像信号を遅延された映像信号とすべ
きであると判定しているため、全ての判定結果が同じで
あると判定して(Y)ステップS12に進む。
【0086】ステップS12では、前記判定結果に従っ
て、左目用映像信号が遅延された映像信号となるように
マルチプレキサ2を切り換え制御する。これにより、観
察者は動きベクトルa3、c3、a4、c4の物体であ
る家等(背景)が動きベクトルb3、b4の物体である
バス(被写体)よりも後方に位置するように観察するこ
とが出来る。
【0087】次に、現フィールドが図5(b)の映像の
場合も、具体的な説明は省略するが、CPU8は前述の
現フィールドが図5(a)の映像の場合と同様の動作を
行い、ステップS8あるいはステップS10において、
動きベクトルa3’、c3’の物体が動きベクトルb
3’の物体よりも後方に位置すると判断し、左目用映像
信号を遅延された映像信号とすべきであると判定し、ま
た、動きベクトルa4’、c4’の物体が動きベクトル
b4’の物体よりも後方に位置すると判断し、左目用映
像信号を遅延された映像信号とすべきであると判定す
る。
【0088】そして、ステップS11において、4個の
判定結果が全て、左目用映像信号を遅延された映像信号
とすべきであると判定しているため、ステップS12に
おいて、左目用映像信号が遅延された映像信号となるよ
うにマルチプレキサ2を切り換え制御する。
【0089】これにより、観察者は動きベクトルa
3’、c3’、a4’、c4’の物体である家等(背
景)が動きベクトルb3’、b4’の物体であるバス
(被写体)よりも後方に位置するように観察することが
出来る。
【0090】尚、上述の図4及び図5の例では、ステッ
プS7、ステップS8、ステップS9及びステップS1
0で得られた判定結果が全て同じであるため、ステップ
S12に進んだが、元になる2次元映像の被写体の動き
が複雑であったり、動きベクトルの検出に誤動作が生じ
た場合、ステップS7、ステップS8、ステップS9及
びステップS10で得られた判定結果の中には異なる結
果がある場合がある。この場合、ステップS11では、
判定結果が全て同じではないと判定して(N)動作を終
了する。
【0091】従って、ステップS7、ステップS8、ス
テップS9及びステップS10で得られた判定結果の中
に異なる結果があるフィールドにおいては、CPU8は
マルチプレキサ2を切り換え制御せず、現在の切り換え
状態を保持する。
【0092】また、上述の実施例では、1フィールドの
映像毎に動きベクトルを検出しているが、1フレームの
映像、あるいは数フィールドの映像毎に動きベクトルを
検出しても良い。尚、本発明の広い意味では、これら1
フレーム、数フィールドのことを含めて1フィールドと
表現している。
【0093】次に、本実施例における水平位相調整方法
について説明する。図6aは水平位相調整前におけるス
クリーン面Xに対する被写体S及び背景Mの関係を示す
図であり、被写体Sが移動しいている場合、背景Mはス
クリーン面X上に見え、被写体Sはスクリーン面X即ち
背景Mに対してフィールド遅延による視差量に比例する
飛び出し量Yだけ前方に飛び出して見える。一方、背景
Mが移動している場合、被写体Sはスクリーン面X上に
見え、背景Mがスクリーン面Xに対して後退して見え
る。
【0094】これらの映像に対して図6bのように水平
位相調整を行う。即ち、被写体Sが移動している場合、
画像全体がスクリーン面Xに対して一定量だけ後退する
ように位相量を調整する。一方、背景Mが移動している
場合は水平位相調整を行わない。
【0095】図7は本実施例におけるCPU8による水
平位相制御のフローチャートである。まず、ステップS
13では、図2のフローチャートで判別された結果、即
ち、被写体Sが移動しているのか、背景Mが移動してい
るのかの判別結果を1フィールド毎に受信する。
【0096】ステップS14では、受信した前記判定結
果が4回連続して同一の結果であるかどうかを判断し、
同一の場合(Y)、ステップS15に進み、同一でない
場合(N)、スタートに戻る。
【0097】ステップS15では、前記判定結果を判断
し、被写体Sが移動の場合(Y)、ステップS16へ進
む。ステップS16では、目標位相量=4に設定され
る。この位相量を”4”とした場合、画面上で右目用映
像を2画素分右へ、左目用映像を2画素分左へそれぞれ
シフトすることにより相対的に4画素分水平方向にシフ
トする。これにより画像全体が一定量後退する。また、
ステップS15で背景Mが移動の場合(N)はステップ
S17へ進む。ステップS17では、目標位相量=0に
設定される。
【0098】ステップS16及びステップS17の処理
が済むと、ステップS18へ進む。ステップS18で
は、目標位相量と現在の位相量とを比較し、一致してい
れば(Y)スタートに戻り、一致していなければ(N)
ステップS19へ進む。
【0099】ステップS19では、現在の位相量で40
フィールド経過しているかどうかを判断する。これは目
標位相量が変化しても実際の位相量を少なくとも40フ
ィールド期間は変更させないことにより、頻繁な位相量
の変化を避けるためである。もし、40フィールド経過
していない場合(N)は、スタートに戻り、40フィー
ルド経過しているときはステップS20へ進む。
【0100】ステップS20では、現在の位相量を目標
位相量に近付く方向に”2”変更する。即ち、左右”
1”づつ変化させる。一回の調整量を”2”に制限して
いるのは実際の位相量を急激に変化させないためであ
る。また、左右”1”づつ均等に変化させることによ
り、調整時に画面が水平方向に揺れるのを防止してい
る。
【0101】そして、ステップS20の処理が済めば、
またスタートに戻り、上記動作が繰り返される。上述の
制御により、図6bに示す如く、被写体Sが移動する場
合に一定量画面全体が後退するため、図6aに比べて被
写体Sが移動する場合と背景Mが移動する場合とでの被
写体Sの見える位置はかなり接近することになり、画面
が見易くなる。尚、上記実施例においては背景Mが移動
する場合には水平位相量=0としていたが、図6cに示
すごとく、一定量前方に飛び出すようにすれば、被写体
Sが移動する場合の見え方により近づくことができる。
このためには、例えば、ステップS17において目標位
相量=−4に設定するようにすればよい。位相量を”−
4”とした場合、画面上で右目用映像を2画素分左へ、
左目用映像を2画素分右へそれぞれシフトすることによ
り相対的に4画素分水平方向にシフトする。これにより
画像全体が一定量前方へ飛び出して見える。
【0102】また、図6dのように被写体Sが移動する
場合は目標位相量=0とし、背景Mが移動する場合は目
標位相量=−4としても良い。また、上記各実施例では
位相調整量は4あるいは−4としたが、他の固定値でも
よいことは言うまでもない。
【0103】また、本実施例ではステップ20において
調整量を左右”1”づつとしたが、水平位相調整回路の
後段に補間回路を設けることにより、左右各調整量を”
1”未満の値とすることができる。
【0104】次に、図8は水平位相調整方法の他の実施
例を説明する図である。本実施例においては、被写体S
が移動する場合の目標位相量の決定をフィールド遅延に
より発生する視差量に基づいて行う。即ち、視差量を遅
延フィールド数と動きベクトルに基づいて前記数1によ
り算出し、これを目標位相量とする。これにより図8a
に示すように、水平位相調整前における視差量に比例す
る飛び出し量Yに相当する分だけ後退することになる。
従って、被写体Sが移動する場合と、背景Mが移動する
場合とで被写体Sの見える位置が共にスクリーン面X上
となる。
【0105】図9は他の実施例におけるCPU8による
水平位相制御のフローチャートである。ステップS21
〜ステップS23及びステップS26〜ステップS29
は図7と同一である。
【0106】ステップS23で被写体Sが移動の場合
(Y)、ステップS24に進む。ステップS24では、
視差量を算出する。視差量は、現在の遅延フィールド数
×被写体Sの動きベクトルの4フィールド分の平均(画
素数/フィールド)で算出し、画素数で表す。
【0107】次に、ステップS25では、ステップS2
4で算出した視差量(画素数)が目標位相量となるよう
に設定する。位相量が視差量に一致すると、図8aのよ
うに画像全体がYだけ後退し被写体Sがスクリーン面X
上に見えるようになる。
【0108】一方、前記ステップS23で背景が移動の
場合(N)、ステップS26に進む。ステップS26で
は、目標位相量=0に設定する。ステップS25及びス
テップS26の処理が済むとステップS27に進む。以
降の処理は図7と同一である。
【0109】上述の制御により、図8aに示す如く、被
写体Sが移動する場合にYだけ画面全体が後退するた
め、背景Mが移動する場合とで被写体Sの見える位置が
一致することになり画面が非常に見易くなる。
【0110】また、上記実施例では、被写体Sがスクリ
ーン面X上に位置するように制御したが、図8bに示す
用にスクリーン面Xより一定量前方に飛び出すように制
御してもよい。この場合は、図9のステップS25で目
標位相量=視差量−4に設定すると共に、ステップS2
6で目標位相量=−4に設定すれば良い。
【0111】更に、図8cに示すように、被写体Sが移
動する場合と背景Mが移動する場合とで背景Mの見える
位置が共にスクリーン面X上となるように制御してもよ
い。この場合は、図9のステップS25で目標位相量=
0に設定すると共に、ステップS26で目標位相量=−
視差量に設定すれば良い。
【0112】尚、ディスプレイ9の代わりに例えば特開
平3−65943号公報に記載のようなレンチキュラー
方式のメガネ無しディスプレイを使用すれば液晶メガネ
を使用することなく3次元画像を観察することができ
る。
【0113】
【発明の効果】上述の如く本発明によれば、被写体Sが
移動する場合でも背景Mが移動する場合でも、スクリー
ン面に対しては被写体S及び若しくは背景Mがほぼ同一
位置に見えるようにすることにより、シーンにより画面
全体が飛び出したり奥に後退したりすることがなくな
り、非常に見易い3次元映像を得ることができる。
【図面の簡単な説明】
【図1】本発明の一実施例における3次元映像変換装置
のブロック図である。
【図2】本発明の一実施例において移動している物体が
背景か被写体かを判別するフローチャートを示す。
【図3】本発明の一実施例における2次元映像の動きベ
クトルの検出領域を示す図である。
【図4】元になる2次元映像の第1のシーンを示す図で
ある。
【図5】元になる2次元映像の第2のシーンを示す図で
ある。
【図6】本発明の一実施例における水平位相調整方法の
説明図である。
【図7】本発明の一実施例における水平位相制御のフロ
ーチャートである。
【図8】本発明の他の実施例における水平位相調整方法
の説明図である。
【図9】本発明の他の実施例における水平位相制御のフ
ローチャートである。
【図10】被写体Sが移動する場合の立体視の説明図で
ある。
【図11】背景Mが移動する場合の誤った立体視の説明
図である。
【図12】背景Mが移動する場合の正しい立体視の説明
図である。
【符号の説明】 2 マルチプレキサ 3 フィールドメモリ 4 メモリ制御回路 5、6 水平位相調整回路 7 動きベクトル検出回路 8 CPU 9 ディスプレイ
───────────────────────────────────────────────────── フロントページの続き (72)発明者 前中 章弘 大阪府守口市京阪本通2丁目5番5号 三 洋電機株式会社内 (72)発明者 内田 秀和 大阪府守口市京阪本通2丁目5番5号 三 洋電機ソフトウェア株式会社内

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 2次元映像から基準となる第1映像とこ
    の第1映像に対して時間軸方向に遅延された第2映像と
    を生成し、これらの一方を右目用映像とし、他方を左目
    用映像とすることによって2次元映像から3次元映像に
    変換する3次元映像変換方法において、 前記2次元映像中の2つの対象物の前後関係を判定し、
    この判定結果により前記右目用映像及び左目用映像に対
    する水平方向の相対的な位相量を制御することを特徴と
    する3次元映像変換方法。
  2. 【請求項2】 前記位相量は、右目用映像及び左目用映
    像をそれぞれメモリに蓄積し、相対的に両映像の読み出
    し位置を画素単位で可変することにより制御されてなる
    請求項1記載の3次元映像変換方法。
  3. 【請求項3】 前記位相量は、前記前方に位置する対象
    物が移動している場合、前記両対象物がスクリーン面に
    対して後退して見えるように制御されてなる請求項1ま
    たは2記載の3次元映像変換方法。
  4. 【請求項4】 前記位相量は、前記後方に位置する対象
    物が移動している場合、前記両対象物がスクリーン面に
    対して飛び出して見えるように制御されてなる請求項1
    または2記載の3次元映像変換方法。
  5. 【請求項5】 前記位相量は、前記対象物のうち前方に
    位置する対象物がスクリーン面に対して常に同一位置に
    見えるように制御されてなる請求項1または2記載の3
    次元映像変換方法。
  6. 【請求項6】 前記位相量は、前記対象物のうち後方に
    位置する対象物がスクリーン面に対して常に同一位置に
    見えるように制御されてなる請求項1または2記載の3
    次元映像変換方法。
JP09098995A 1995-04-17 1995-04-17 3次元映像変換方法 Expired - Fee Related JP3249335B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP09098995A JP3249335B2 (ja) 1995-04-17 1995-04-17 3次元映像変換方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP09098995A JP3249335B2 (ja) 1995-04-17 1995-04-17 3次元映像変換方法

Publications (2)

Publication Number Publication Date
JPH08289330A true JPH08289330A (ja) 1996-11-01
JP3249335B2 JP3249335B2 (ja) 2002-01-21

Family

ID=14013929

Family Applications (1)

Application Number Title Priority Date Filing Date
JP09098995A Expired - Fee Related JP3249335B2 (ja) 1995-04-17 1995-04-17 3次元映像変換方法

Country Status (1)

Country Link
JP (1) JP3249335B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100491440B1 (ko) * 2002-05-22 2005-05-25 최명렬 3차원 영상신호 변환장치
EP1955553A2 (en) * 2005-11-23 2008-08-13 Koninklijke Philips Electronics N.V. Rendering views for a multi-view display device
JP2013534742A (ja) * 2010-06-08 2013-09-05 エスケー プラネット カンパニー、リミテッド デプスマップ情報を利用した立体映像変換方法及び装置
JP2017520186A (ja) * 2014-06-26 2017-07-20 クアルコム,インコーポレイテッド 背景ピクセルに基づく露出測定

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100491440B1 (ko) * 2002-05-22 2005-05-25 최명렬 3차원 영상신호 변환장치
EP1955553A2 (en) * 2005-11-23 2008-08-13 Koninklijke Philips Electronics N.V. Rendering views for a multi-view display device
JP2013534742A (ja) * 2010-06-08 2013-09-05 エスケー プラネット カンパニー、リミテッド デプスマップ情報を利用した立体映像変換方法及び装置
JP2017520186A (ja) * 2014-06-26 2017-07-20 クアルコム,インコーポレイテッド 背景ピクセルに基づく露出測定

Also Published As

Publication number Publication date
JP3249335B2 (ja) 2002-01-21

Similar Documents

Publication Publication Date Title
KR100381348B1 (ko) 2차원 영상을 3차원 영상으로 변환하는 방법
US5784097A (en) Three-dimensional image display device
JP2951230B2 (ja) 2次元映像から3次元映像を生成する方法
EP0714077B1 (en) Method of converting two-dimensional images into three-dimensional images
KR100350191B1 (ko) 2차원영상을3차원영상으로변환하는방법
KR100374463B1 (ko) 2차원영상을3차원영상으로변환하는방법
US6553184B1 (en) Method of converting two dimensional images into three-dimensional images
JP2983844B2 (ja) 3次元画像変換方法
JP5325341B2 (ja) 立体映像処理装置および方法ならびに立体映像表示装置
JPH08289330A (ja) 3次元映像変換方法
JPH10108220A (ja) 2次元映像を3次元映像に変換する装置
WO2012117462A1 (ja) 立体映像処理装置および方法ならびに立体映像表示装置
JP3128467B2 (ja) 2次元映像を3次元映像に変換する方法
JP3091659B2 (ja) 3次元画像表示方法
JP5478728B2 (ja) 立体映像処理装置および方法ならびに立体映像表示装置
JP3234412B2 (ja) 動きベクトル検出装置
WO2012117464A1 (ja) 立体映像処理装置および方法ならびに立体映像表示装置
JP2846836B2 (ja) 2次元映像を3次元映像に変換する方法
JPH0937300A (ja) 2次元映像を3次元映像に変換する方法
JP3469883B2 (ja) 観察者頭部位置検出装置及びそれを用いた立体映像表示装置
JPH1169382A (ja) 2次元映像を3次元映像に変換する方法
JPH11110180A (ja) 二次元画像を三次元画像に変換する方法及び装置
JPH1198534A (ja) 3次元映像生成方法
JP2846834B2 (ja) 2次元映像を3次元映像に変換する方法
JPH1175222A (ja) 2次元映像を3次元映像に変換する方法

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081109

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081109

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091109

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees