JP5325341B2 - 立体映像処理装置および方法ならびに立体映像表示装置 - Google Patents

立体映像処理装置および方法ならびに立体映像表示装置 Download PDF

Info

Publication number
JP5325341B2
JP5325341B2 JP2012526782A JP2012526782A JP5325341B2 JP 5325341 B2 JP5325341 B2 JP 5325341B2 JP 2012526782 A JP2012526782 A JP 2012526782A JP 2012526782 A JP2012526782 A JP 2012526782A JP 5325341 B2 JP5325341 B2 JP 5325341B2
Authority
JP
Japan
Prior art keywords
frame
output
video signal
interpolation
frames
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012526782A
Other languages
English (en)
Other versions
JPWO2012117461A1 (ja
Inventor
征永 関
英俊 武田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2012526782A priority Critical patent/JP5325341B2/ja
Application granted granted Critical
Publication of JP5325341B2 publication Critical patent/JP5325341B2/ja
Publication of JPWO2012117461A1 publication Critical patent/JPWO2012117461A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/587Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • H04N7/0132Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the field or frame frequency of the incoming video signal being multiplied by a positive integer, e.g. for flicker reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0085Motion estimation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Television Systems (AREA)

Description

本発明は、立体映像信号の左右それぞれの画像のフレーム間の動きベクトルを検出し、検出した動きベクトルを用いて補間フレームの生成を行う立体映像処理装置、特に24Hzのフレーム周波数で撮影された立体映画素材を60Hzの立体映像に変換し、120Hzでフレームシーケンシャル表示を行う立体映像処理装置に関するものである。
近年、視聴者の左右の目に異なる画像を提示することにより、立体感を認識させる両眼視差方式の3D映画が急速に普及しており、映画館での3D映画上映や、家庭での3D対応機器を用いた3D映画視聴が一般的なものになってきている。
家庭での立体視聴の代表的な方式である液晶シャッターメガネ方式では、ディスプレイには左画像と右画像が交互に表示され(フレームシーケンシャル表示)、視聴者は表示と同期して左目または右目に入る画像を遮断する液晶シャッターメガネをかける。これにより、視聴者の左目には左画像、右目には右画像のみが認識されるため、左右画像の視差により視聴者は立体感を知覚できる。
一般に、映画は24Hzのフレーム周波数で撮影されているが、家庭用TVではNTSC方式による60Hzのフレーム周波数で表示されることが多い。従来、24Hzの二次元映像を60Hzの映像に変換する場合、3:2プルダウンによるフレーム周波数変換(テレシネ変換)が用いられてきた。3:2プルダウンでは、24Hzの1フレームが60Hzの3フレームと2フレームの交互に表示される。図7は、画面上をボールが横切るシーンを24Hzで撮影し、3:2プルダウンにより60Hzで表示する場合の例を示す。
人がこの例のようにほぼ均一に動くものを見る場合、視線が動きを追いかけるように移動することが知られている。図8は、図7の映像例のボールの表示位置と時間との関係をグラフ化したものである。図8に示したように、視線は表示されているボールを追いかけ、図中矢印で示した視線の移動軌跡のように移動する。ここでフレーム2、およびフレーム7ではボールの位置と視線の移動軌跡とが一致しているが、それ以外のフレームではずれている。このため、フレーム1、フレーム4、フレーム6では視線が追いかけているボールの位置よりも後ろ側に、フレーム3、フレーム5、フレーム8では前側に、それぞれ、ボールがあるように見えてしまい、均一に動いているボールが前後にぶれて見える。このような状態をフィルム・ジャダーと呼ぶ。
さらに立体映像の場合、フィルム・ジャダーは画質により大きな影響を与える。図7のシーンを左右それぞれ24Hzで立体撮影した場合を例に説明する。図9は、24Hzの立体映像を左右それぞれ3:2プルダウンにより60Hzの映像に変換し、120Hzでフレームシーケンシャル表示した場合のボールの表示位置と時間との関係をグラフ化したものである。また、図10は、この場合の左右眼の視線中心とボールの表示位置とのずれと、それにより生じる左右視差をグラフ化したものである。図10からわかるとおり、24Hzの立体映像を3:2プルダウンにより60Hzの立体映像に変換し、120Hzでフレームシーケンシャル表示すると、入力画像の左右画像間の視差量をN、入力画像のフレーム間での動き量をVとして、出力画像の両眼視差量がN−2/5VからN+3/5Vの間で不均一に変動することになる。
両眼視差方式の立体映像においては、視聴者は両眼視差量を元に立体感を知覚するため、図10に示すとおりフィルム・ジャダーにより両眼視差量がフレーム間で不均一に変動すると、視聴者は立体感を正しく知覚できない可能性がある。また、立体視が困難な映像を無理に立体視しようとすることで、目の疲労の原因となる可能性がある。
以上のような3:2プルダウンに起因する画質劣化を抑制するために、映像信号から動きベクトルを検出し、この検出した動きベクトルを用いて映像信号のフレーム周波数変換を行うことが可能である。従来、24Hzの二次元映像から動きベクトルを検出し、この動きベクトルを用いて60Hzの表示タイミングにあわせた補間フレームを生成して表示することで、不自然さのない、滑らかな動きの表示を可能にしている(例えば、特許文献1参照)。このようなフレーム周波数変換はフィルム・デジャダーと呼ばれている。
図11は、図7のシーンをフィルム・デジャダーした場合のボールの表示位置と時間との関係をグラフ化したものである。フィルム・デジャダーによって、フレーム3、フレーム4では24Hzの原フレームからそれぞれ補間位相として+0.4、+0.8フレーム分位相をずらした補間フレームが生成および表示され、フレーム5、フレーム6では24Hzの原フレームからそれぞれ補間位相として+0.2、+0.6フレーム分位相をずらした補間フレームが生成および表示される。また、フレーム2、フレーム7では24Hzの原フレームがそのまま表示される。この結果、移動するボールの表示位置が視線の移動軌跡に一致し、フィルム・ジャダーのない、滑らかな動きとして見ることができる。また、立体映像の場合もフィルム・デジャダーにより移動物体を視線の移動軌跡に一致するような補間フレームを生成することで、両眼視差量が一定となり視聴者は容易に立体感を得ることができる。
特開平09−172618号公報
フレーム周波数変換で使用する動きベクトルは、連続するフレームを比較することによって検出するものであるため、物体の移動に関しては正しく検出することができるが、回転や拡大/縮小といった動きは正しく検出できない場合がある。また、動く物体の背景に隠れる領域や、背景から現れる領域、また物体の変形など、連続するフレームの一方にしか含まれない領域についても正しい動きベクトルを検出することはできない。さらには、通常動きベクトルの検出は検出を行う対象のブロックを基準として、所定の範囲を探索することで検出することが多く、この探索範囲を超える動きがある場合にも正しい動きベクトルが検出できないことがある。
このように正しい動きベクトルが検出されない場合、補間フレーム、および補間フレームが連続する映像において、動く物体等の周囲にハロ(Halo)と呼ばれるノイズが発生することが知られている。ハロは間違った補間フレームが生成されることによるものであるため、表示されるフレームのうち補間フレームの割合が大きい場合や、補間フレームが表示される時間が長い場合に顕著に発生する。
また、24Hzの立体映像を60Hzの立体映像に変換して表示する場合、補間の誤りにより左右画像間で対応がとれず立体視できない映像となる可能性がある。この結果、立体感を得られない、あるいは目の疲労の原因となるといった大きな影響を及ぼす。
上記問題に鑑み、本発明は、立体映像に好適なフレーム周波数変換を行う立体映像処理装置を提供することを課題とする。
上記課題を解決するための手段として、フレーム周波数が24Hzの左右それぞれの入力映像信号からフレーム周波数が60Hzの左右それぞれの出力映像信号を生成する立体映像処理装置は、前記入力映像信号のフレームにおけるブロックの動きベクトルを検出するベクトル検出部と、前記入力映像信号のフレームおよび前記動きベクトルに基づいて補間フレームを生成し、前記入力映像信号のフレームおよび前記補間フレームを時間軸方向に並べて前記出力映像信号を生成する出力画像生成部と、前記出力映像信号として1フレーム置きおよび2フレーム置きの交互に前記補間フレームを出力し、それ以外は前記入力映像信号のフレームを出力するように、前記出力画像生成部を制御する出力制御部とを備えている。
これによると、24Hzの立体映像を60Hzの立体映像に変換する際、左右画像間の視差への影響の大きい一部のフレームについてのみ検出した動きベクトルを用いた補間フレームが生成される。
前記出力画像生成部は、前記入力映像信号の2つのフレーム間を1:4に分割する位相に前記補間フレームを生成してもよい。このように入力映像信号のフレームに比較的近い位相に補間フレームを生成することで、補間誤りを低減することができる。
上記立体映像処理装置は、前記ベクトル検出部、前記出力画像生成部、および前記出力制御部を含むフレーム周波数変換部を、立体映像信号の左右の信号系統ごとに備えていてもよいし、あるいは立体映像信号の左右の信号系統で時分割共有してもよい。
以上のように本発明によれば、高品位な立体表示を可能にしつつ、補間誤りによる画質劣化を抑制できる。
本発明の一実施形態に係る立体映像表示装置の構成を示す図 動きベクトル検出を説明する図 入力映像と補間フレームの生成のタイミング関係を示す図 補間フレームの生成を説明する図 本発明の一実施形態に係る立体映像表示装置によってフィルム・デジャダーされた立体映像の見え方を示す図 本発明の一実施形態に係る立体映像表示装置によってフィルム・デジャダーされた立体映像での視差量を示す図 3:2プルダウンを示す図 3:2プルダウンされた映像の見え方を示す図 3:2プルダウンされた立体映像の見え方を示す図 3:2プルダウンされた立体映像での視差量を示す図 フィルム・デジャダーされた映像の見え方を示す図
以下に、本発明の実施の形態について、図面を参照しながら説明する。
図1は、本発明の一実施形態に係る立体映像表示装置100の主要な構成を示すブロック図である。立体映像表示装置100は、入力画像選択部1、立体映像処理装置2、および表示部3を備えている。立体映像処理装置2は、映像メモリ202、ベクトル検出部203、出力制御部204、ベクトルメモリ205、および出力画像生成部206を有するフレーム周波数変換部20を2つ備えている。
入力画像選択部1は、入力された立体映像信号101を左右それぞれの入力映像信号102に分けて立体映像処理装置2に出力する。立体映像信号101は、フレーム周波数が24Hzの左右それぞれの画像が交互に含まれる立体映像信号である。
立体映像処理装置2は、入力された左右それぞれの入力映像信号102について、フレーム間で動きベクトルを検出し、この動きベクトルを使用して補間フレームを生成し、左右それぞれの出力映像信号103を生成する。具体的には、2つのフレーム周波数変換部20が、それぞれ、左右の入力映像信号102を処理する。立体映像処理装置2から出力される左右それぞれの映像信号103は、フレーム周波数が60Hzの映像信号である。
表示部3は、立体映像処理装置2から出力された左右それぞれの出力映像信号103を交互に120Hzでフレームシーケンシャル表示する。表示部3はLCDディスプレイやPDPディスプレイなど立体映像信号の表示が可能なものであればよく、特に制限はない。
以上のように、立体映像表示装置100は、入力された24Hzの立体映像信号101のフレーム周波数変換を行って120Hzで立体表示を行うものである。
次に、フレーム周波数変換部20において、24Hzの入力映像信号102を60Hzの出力映像信号103へフレーム周波数変換(フィルム・デジャダー)する場合について説明する。
フレーム周波数変換部20に入力される入力映像信号102は、ベクトル検出部203、および映像メモリ202に入力される。
映像メモリ202は、入力された映像信号を少なくとも3フレーム分、記憶することが可能であり、また記憶された任意のフレームを読み出し可能なメモリである。映像メモリ202は入力された映像信号を記憶するとともに、1フレーム前の入力映像信号を読み出し、ベクトル検出部203に出力する。
ベクトル検出部203は、入力映像信号102を例えば8画素×8画素からなるブロックに分割し、それぞれのブロックに対して、映像メモリ202から入力される前フレーム映像信号104から相関の最も大きな位置を探索することで動きベクトルを検出する。例えば、図2に示すように、フレーム(1)内の対象ブロックの動きベクトルを検出する場合、対象ブロックと相関が最も大きくなる位置を1つ前のフレーム(0)内で探索し、この位置の差を動きベクトルとして検出する。
このとき探索を行う範囲は、動きベクトルを検出するブロックを基準に、例えば水平±64画素、垂直±32ラインのような範囲であり、この範囲の中で相関の最も大きな位置を求める。また、相関の値としては、ブロックに含まれる各画素の値と、比較を行う位置の画素の値の差の絶対値をブロック全体で合計したもの(SAD:Sum of Absolute Difference、差分絶対値和)を用いることができる。
なお、ブロックの大きさはこれに限るものではなく、これよりも小さくても大きくてもかまわない。また、相関の値としてSAD以外を使用することが可能であり、探索方法としても処理量を削減し、効率よく動きベクトルを検出する多くの手法が知られており、これらを使用することが可能である。
図1に戻り、ベクトル検出部203は、入力映像信号102と前フレーム映像信号104から検出した検出動きベクトル110をベクトルメモリ205に出力する。
ベクトルメモリ205は、ベクトル検出部203が検出した動きベクトルを記憶するメモリであり、ベクトル検出部203からの書き込みと、後述する出力画像生成部206からの読み出しの時間差を吸収するためのものである。ベクトルメモリ205は、この時間差に相当する容量があればよいが、ここでは入力映像の2フレーム分に対応するベクトルを記憶できるものとする。
出力制御部204は、ベクトルメモリ205に記憶された2フレーム分に対応する動きベクトルのうちどちらの動きベクトルを読み出すか、映像メモリ202に記憶された複数フレームの映像信号から生成する補間フレームの前後のフレームとしてどの2つのフレームを読み出すか、またこの2つのフレームの間のどの位相に補間フレームを生成するかを決定し、それぞれ制御信号を出力する。出力制御部204の詳細については後述する。
映像メモリ202は、出力制御部204から補間に使用する2つのフレームを決定するフレーム選択信号108を受け、フレーム選択信号108で指定された2つのフレームを前後フレーム映像信号105として出力画像生成部206に出力する。
ベクトルメモリ205は、出力制御部204から補間に使用するベクトルを選択するベクトル選択信号109を受け、ベクトル選択信号109で指定された動きベクトルを補間用動きベクトル106として出力画像生成部206に出力する。
出力制御部204は図3に示すように、以下のような5フレームの周期で、フレーム選択信号108、ベクトル選択信号109および補間位相制御信号107を出力する。
1)前フレームとしてフレーム(0)を出力するためのフレーム選択信号108を出力し、補間位相制御信号107として0を出力する。このとき、補間フレームの生成は必要ないため補間用動きベクトル106は不要である。
2)前後フレーム映像信号105にフレーム(0)とフレーム(1)を出力するためのフレーム選択信号108を出力し、補間用動きベクトル106としてフレーム(1)とフレーム(0)の間で検出した動きベクトルを選択するための信号をベクトル選択信号109として出力し、補間位相制御信号107として0.2を出力する。
3)前フレームとしてフレーム(1)を出力するためのフレーム選択信号108を出力し、補間位相制御信号107として0を出力する。このとき、補間フレームの生成は必要ないため補間用動きベクトル106は不要である。
4)前フレームとしてフレーム(1)を出力するためのフレーム選択信号108を出力し、補間位相制御信号107として0を出力する。このとき、補間フレームの生成は必要ないため補間用動きベクトル106は不要である。
5)前後フレーム映像信号105にフレーム(1)とフレーム(2)を出力するためのフレーム選択信号108を出力し、補間用動きベクトル106としてフレーム(2)とフレーム(1)の間で検出した動きベクトルを選択するための信号をベクトル選択信号109として出力し、補間位相制御信号107として0.8を出力する。
この結果、入力映像信号102をフレーム(0)、フレーム(1)、フレーム(2)、フレーム(3)、フレーム(4)、フレーム(5)とし、これを基準とした場合、出力映像信号103はフレーム(0)、フレーム(0.2)、フレーム(1)、フレーム(1)、フレーム(1.8)、フレーム(2)、フレーム(2.2)、フレーム(3)、フレーム(3)、フレーム(3.8)、フレーム(4)のようになる。例えば、フレーム(0)からフレーム(2.2)までの7フレームは図5および図6における左または右フレーム2から8にそれぞれ該当する。
出力制御部204は、上記のように補間フレームの生成に必要な入力フレームと、動きベクトルを適切に選択し、これらを出力画像生成部206に入力するための制御信号を出力する。またこれにあわせて、出力制御部204は補間位相制御信号107を出力する。
出力画像生成部206は、前後フレーム映像信号105として入力される2つのフレームと、この2フレーム間の動きに対応する補間用動きベクトル106とを用い、補間位相制御信号107で指定される補間位相の補間フレームを生成し、出力映像信号103を出力する。
補間フレームの生成は、図4に示したように、生成する補間フレームの前後のフレームの少なくとも一方の画素もしくは画素ブロックを補間用動きベクトル106に沿って移動することによって行うことができる。このとき、補間フレームを生成する時間軸上の位置、すなわち、補間位相は、フレーム(F−1)とフレーム(F)の間で任意に選ぶことができる。例えば、補間位相に近い側のフレームのみを用いるなど、いずれか一方から移動した画素を用いて補間フレームを生成することも可能であり、また両フレームから移動した画素を一定の割合、または補間位相に対応する割合で混合するなどによって生成することも可能である。図4は、フレーム(F−1)から1/5の補間位相に補間フレームを生成する例を示している。
図5は、図7のシーンを左右それぞれ24Hzで立体撮影した立体映像を立体映像表示装置100で表示した場合のボールの表示位置と時間との関係をグラフ化したものである。また、図6は、この場合の左右眼の視線中心とボールの表示位置とのずれと、それにより生じる左右視差をグラフ化したものである。図6からわかるとおり、入力画像の左右画像間の視差量をN、入力画像のフレーム間での動き量をVとすると、多くのフレーム間で出力画像の両眼視差量がN−1/5VからN+2/5Vの間で変動する。図10と比較すると、本実施形態に係る立体映像表示装置100で表示される立体映像では、視差量の変動が抑制されていることがわかる。これにより、高品位な立体表示が可能となる。
また、上記のように補間位相を制御することにより、一般的な24Hzから60Hzへのフレーム周波数変換(フィルム・デジャダー)では出力フレームの5フレームのうち4フレームが生成された補間フレームであるのに対し、本明細書に開示した補間方法では、5フレームのうち2フレームのみが生成された補間フレームとなる。前述のように出力映像信号に含まれる、動きベクトルを使って生成された補間フレームの割合は、間違った動きベクトルが検出された場合の画質劣化の大きさに影響を与えるものであるため、本明細書に開示した補間方法では従来よりも画質劣化の小さいフレーム周波数変換が可能となる。またこの際、生成する補間フレームは半分であるため、補間フレームの生成に必要な処理量は従来のフィルム・デジャダーの半分にすることができる。
さらには、本明細書に開示したフレーム周波数変換方法では、生成する補間フレームの補間位相として0.2と0.8のみを用いる。前述のようにフレームを生成する補間位相が入力フレームに近付くと、入力フレームからの移動量が小さくなるため、間違った動きベクトルの影響が小さくなる。このため本明細書に開示した補間方法では、0.4、0.6の補間位相を用いる従来のフィルム・デジャダーに比べて、間違った動きベクトルが画質に与える影響が小さい。
すなわち本明細書に開示したフレーム周波数変換方法は、補間フレームの割合が小さく、かつ入力フレームに近い補間位相のみを用いるため、間違った動きベクトルが検出された場合の画質劣化が小さい。
以上のように、本明細書に開示したフレーム周波数変換方法によれば、高品位な立体表示を可能としつつ、補間の誤りによる画質劣化を抑制できる。
なお、上記の実施の形態では、視差への影響の大きい一部のフレームについて補間フレームを生成し、出力するものとしたが、入力画像の左右画像間の視差を検出し、視差と動きベクトルの大きさをもとに3:2プルダウン表示した際の左右画像間の視差量を算出し、視差量が所定の範囲外の値となる場合、補間フレームを生成するものとしてもよい。これにより、見かけの視差量が大きく目の疲労につながる画像については補間フレームを生成することによって高品位な立体表示が可能となる一方、表示されるフレームに占める補間フレームの割合が小さくなるため、補間の誤りによる画質劣化を抑制できる。
また、上記の実施の形態では、フレーム単位で補間画像の生成の判定を行うものとしたが、フレーム内の画像領域ごとに補間画像の生成の判定を行うものとしてもよい。画像領域の大きさは動きベクトル検出におけるブロックと同じであってもよいし、それとは異なる大きさであってもよい。例えば、動きのない画面内を物体が横切る場合などに、動く物体を含む画像領域のみについて補間画像を生成する。これにより、動く物体を含む画像領域については補間画像を生成することによって高品位な立体表示が可能となる一方、出力画像に占める補間画像の割合が小さくなるため、補間の誤りによる画質劣化を抑制できる。
また、上記の実施の形態では、24Hzの立体映像信号101が入力される場合を前提とした説明を行っているが、立体映像信号101が3:2プルダウンされた60Hzの立体映像信号であってもかまわない。3:2プルダウンされた60Hzの立体映像信号から、3:2プルダウンされる前の24Hzの立体映像信号を適切に選択することができれば、同様の処理を行うことが可能である。
また、図3に示す各信号のタイミング関係は一例であり、映像メモリ202およびベクトルメモリ205の容量次第では、これと異なるタイミングで処理を行うことも可能である。
また、生成する補間フレームの補間位相は0.2および0.8に限定されない。これらの近傍値、例えば、0.19と0.81を用いてもよい。
さらに、いきなり0.2あるいは0.8フレーム分位相をずらした補間フレームを生成するのではなく、補間フレームの補間位相を徐々に0.2あるいは0.8に近づけるようにしてもよい。同様に、補間フレームの生成を停止する場合、補間位相をいきなり0にするのではなく、徐々に0に近づけるようにしてもよい。具体的には、出力制御部204が補間位相制御信号107の値を徐々に変化させるようにする。こうすることで、補間フレームの表示有りの状態と表示なしの状態とが滑らかに切り替わり、画質が向上する。
また、映像メモリ202およびベクトルメモリ205は立体映像処理装置2に設ける必要はなく、外部のメモリを用いてもよい。
また、上記の実施の形態では、立体映像処理装置2はフレーム周波数変換部20を2つ備えているとしたが、立体映像信号の左右の信号系統で1個のフレーム周波数変換部20を時分割共有するようにしてもよい。
本発明は、立体映像信号から動きベクトルを検出し、検出した動きベクトルを使用してフレーム周波数を変換して表示する装置等に用いることができる。
1 入力画像選択部
2 立体映像処理装置
20 フレーム周波数変換部
203 ベクトル検出部
204 出力制御部
206 出力画像生成部
3 表示部

Claims (7)

  1. フレーム周波数が24Hzの左右それぞれの入力映像信号からフレーム周波数が60Hzの左右それぞれの出力映像信号を生成する立体映像処理装置であって、
    前記入力映像信号のフレームにおけるブロックの動きベクトルを検出するベクトル検出部と、
    前記入力映像信号のフレームおよび前記動きベクトルに基づいて補間フレームを生成し、前記入力映像信号のフレームおよび前記補間フレームを時間軸方向に並べて前記出力映像信号を生成する出力画像生成部と、
    前記出力映像信号として1フレーム置きおよび2フレーム置きの交互に前記補間フレームを出力し、それ以外は前記入力映像信号のフレームを出力するように、前記出力画像生成部を制御する出力制御部とを備えている
    ことを特徴とする立体映像処理装置。
  2. 請求項1の立体映像処理装置において、
    前記出力画像生成部は、前記入力映像信号の2つのフレーム間を1:4に分割する位相に前記補間フレームを生成する
    ことを特徴とする立体映像処理装置。
  3. 請求項1および2のいずれか一つの立体映像処理装置において、
    前記ベクトル検出部、前記出力画像生成部、および前記出力制御部を含むフレーム周波数変換部を、立体映像信号の左右の信号系統ごとに備えている
    ことを特徴とする立体映像処理装置。
  4. 請求項1および2のいずれか一つの立体映像処理装置において、
    前記ベクトル検出部、前記出力画像生成部、および前記出力制御部を含むフレーム周波数変換部を、立体映像信号の左右の信号系統で時分割共有する
    ことを特徴とする立体映像処理装置。
  5. 立体映像信号を受け、フレーム周波数が24Hzの左右それぞれの入力映像信号を出力する入力画像選択部と、
    前記左右それぞれの入力映像信号を処理する請求項1から4のいずれか一つの立体映像処理装置と、
    前記立体映像処理装置から出力されたフレーム周波数が60Hzの左右それぞれの出力映像信号をフレームシーケンシャル表示する表示部とを備えている
    ことを特徴とする立体映像表示装置。
  6. フレーム周波数が24Hzの左右それぞれの入力映像信号からフレーム周波数が60Hzの左右それぞれの出力映像信号を生成する立体映像処理方法であって、
    前記入力映像信号のフレームにおけるブロックの動きベクトルを検出するステップと、
    前記入力映像信号のフレームおよび前記動きベクトルに基づいて補間フレームを生成するステップと、
    前記出力映像信号として1フレーム置きおよび2フレーム置きの交互に前記補間フレームを出力し、それ以外は前記入力映像信号のフレームを出力するステップとを備えている
    ことを特徴とする立体映像処理方法。
  7. 請求項6の立体映像処理方法において、
    前記補間フレームを生成するステップでは、前記入力映像信号の2つのフレーム間を1:4に分割する位相に前記補間フレームが生成される
    ことを特徴とする立体映像処理方法。
JP2012526782A 2011-03-03 2011-09-02 立体映像処理装置および方法ならびに立体映像表示装置 Expired - Fee Related JP5325341B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012526782A JP5325341B2 (ja) 2011-03-03 2011-09-02 立体映像処理装置および方法ならびに立体映像表示装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011046677 2011-03-03
JP2011046677 2011-03-03
PCT/JP2011/004932 WO2012117461A1 (ja) 2011-03-03 2011-09-02 立体映像処理装置および方法ならびに立体映像表示装置
JP2012526782A JP5325341B2 (ja) 2011-03-03 2011-09-02 立体映像処理装置および方法ならびに立体映像表示装置

Publications (2)

Publication Number Publication Date
JP5325341B2 true JP5325341B2 (ja) 2013-10-23
JPWO2012117461A1 JPWO2012117461A1 (ja) 2014-07-07

Family

ID=46757431

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012526782A Expired - Fee Related JP5325341B2 (ja) 2011-03-03 2011-09-02 立体映像処理装置および方法ならびに立体映像表示装置

Country Status (3)

Country Link
US (1) US9210301B2 (ja)
JP (1) JP5325341B2 (ja)
WO (1) WO2012117461A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5325341B2 (ja) * 2011-03-03 2013-10-23 パナソニック株式会社 立体映像処理装置および方法ならびに立体映像表示装置
US9805472B2 (en) 2015-02-18 2017-10-31 Sony Corporation System and method for smoke detection during anatomical surgery
US10398976B2 (en) 2016-05-27 2019-09-03 Samsung Electronics Co., Ltd. Display controller, electronic device, and virtual reality device
US20190108400A1 (en) * 2017-10-05 2019-04-11 Qualcomm Incorporated Actor-deformation-invariant action proposals
US11930207B2 (en) 2018-08-22 2024-03-12 Saturn Licensing Llc Display device, signal processing device, and signal processing method

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09172618A (ja) * 1995-12-19 1997-06-30 Nippon Hoso Kyokai <Nhk> 画像変換装置
JP2005260810A (ja) * 2004-03-15 2005-09-22 Matsushita Electric Ind Co Ltd カメラレコーダ
JP2010226243A (ja) * 2009-03-19 2010-10-07 Sony Corp 映像信号処理装置、立体映像表示装置、立体映像伝送表示システムおよび映像信号処理方法
JP2010268037A (ja) * 2009-05-12 2010-11-25 Panasonic Corp 映像変換方法および映像変換装置
WO2011099267A1 (ja) * 2010-02-15 2011-08-18 パナソニック株式会社 映像処理装置、映像処理方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2846836B2 (ja) 1994-09-22 1999-01-13 三洋電機株式会社 2次元映像を3次元映像に変換する方法
EP0703716B1 (en) 1994-09-22 2002-11-27 Sanyo Electric Co. Ltd Method of converting two-dimensional images into three-dimensional images
JP3108287B2 (ja) 1994-09-22 2000-11-13 三洋電機株式会社 2次元映像を3次元映像に変換する方法
JP2008187222A (ja) * 2007-01-26 2008-08-14 Hitachi Ltd 動きベクトル検出装置、動きベクトル検出方法、映像表示装置
JP4513819B2 (ja) * 2007-03-19 2010-07-28 株式会社日立製作所 映像変換装置、映像表示装置、映像変換方法
JP4626779B2 (ja) * 2008-08-26 2011-02-09 ソニー株式会社 映像信号処理装置、画像表示装置および映像信号処理方法
JP4620163B2 (ja) * 2009-06-30 2011-01-26 株式会社東芝 静止字幕検出装置、静止字幕を含む画像を表示する映像機器、および静止字幕を含んだ画像の処理方法
JP5532232B2 (ja) * 2010-05-18 2014-06-25 ソニー株式会社 映像信号処理装置、映像表示装置および映像表示システム
JP5325341B2 (ja) * 2011-03-03 2013-10-23 パナソニック株式会社 立体映像処理装置および方法ならびに立体映像表示装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09172618A (ja) * 1995-12-19 1997-06-30 Nippon Hoso Kyokai <Nhk> 画像変換装置
JP2005260810A (ja) * 2004-03-15 2005-09-22 Matsushita Electric Ind Co Ltd カメラレコーダ
JP2010226243A (ja) * 2009-03-19 2010-10-07 Sony Corp 映像信号処理装置、立体映像表示装置、立体映像伝送表示システムおよび映像信号処理方法
JP2010268037A (ja) * 2009-05-12 2010-11-25 Panasonic Corp 映像変換方法および映像変換装置
WO2011099267A1 (ja) * 2010-02-15 2011-08-18 パナソニック株式会社 映像処理装置、映像処理方法

Also Published As

Publication number Publication date
WO2012117461A1 (ja) 2012-09-07
JPWO2012117461A1 (ja) 2014-07-07
US20120281076A1 (en) 2012-11-08
US9210301B2 (en) 2015-12-08

Similar Documents

Publication Publication Date Title
TWI428007B (zh) 視訊處理裝置及方法
JP4748251B2 (ja) 映像変換方法および映像変換装置
JP2010062695A (ja) 画像処理装置、および画像処理方法、並びにプログラム
US8803947B2 (en) Apparatus and method for generating extrapolated view
JP5325341B2 (ja) 立体映像処理装置および方法ならびに立体映像表示装置
US20120307153A1 (en) Video processing device and video processing method
CA2783588C (en) Method and apparatus for optimal motion reproduction in stereoscopic digital cinema
US9113140B2 (en) Stereoscopic image processing device and method for generating interpolated frame with parallax and motion vector
WO2012117464A1 (ja) 立体映像処理装置および方法ならびに立体映像表示装置
WO2012117462A1 (ja) 立体映像処理装置および方法ならびに立体映像表示装置
JP5478728B2 (ja) 立体映像処理装置および方法ならびに立体映像表示装置
JP5700998B2 (ja) 立体映像表示装置及びその制御方法
US8953018B2 (en) Generation and display of stereoscopic images
US9330487B2 (en) Apparatus and method for processing 3D images through adjustment of depth and viewing angle
JP2014207492A (ja) 立体映像表示装置
JP5490252B2 (ja) 立体画像処理装置、立体画像表示装置及び立体画像処理方法
JP2012182691A (ja) 画像変換装置
US8902286B2 (en) Method and apparatus for detecting motion vector, and method and apparatus for processing image signal
US9237334B2 (en) Method and device for controlling subtitle applied to display apparatus
JP2010087720A (ja) 表示用走査方式を変換する信号処理装置及び方法
JP2012015825A (ja) 映像変換方法および映像変換装置
JP2012175309A (ja) 映像表示装置および映像表示方法
JP2012100186A (ja) 補間画像生成装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130709

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130719

R150 Certificate of patent or registration of utility model

Ref document number: 5325341

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees