JP2011078036A - 擬似立体画像作成装置及び擬似立体画像表示システム - Google Patents

擬似立体画像作成装置及び擬似立体画像表示システム Download PDF

Info

Publication number
JP2011078036A
JP2011078036A JP2009230056A JP2009230056A JP2011078036A JP 2011078036 A JP2011078036 A JP 2011078036A JP 2009230056 A JP2009230056 A JP 2009230056A JP 2009230056 A JP2009230056 A JP 2009230056A JP 2011078036 A JP2011078036 A JP 2011078036A
Authority
JP
Japan
Prior art keywords
image
depth
estimation data
evaluation value
image signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009230056A
Other languages
English (en)
Other versions
JP5402483B2 (ja
Inventor
Kunio Yamada
邦男 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Holdings Inc
Original Assignee
JVCKenwood Holdings Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Holdings Inc filed Critical JVCKenwood Holdings Inc
Priority to JP2009230056A priority Critical patent/JP5402483B2/ja
Priority to US12/923,323 priority patent/US8599198B2/en
Publication of JP2011078036A publication Critical patent/JP2011078036A/ja
Application granted granted Critical
Publication of JP5402483B2 publication Critical patent/JP5402483B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/261Image signal generators with monoscopic-to-stereoscopic image conversion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/006Pseudo-stereoscopic systems, i.e. systems wherein a stereoscopic effect is obtained without sending different images to the viewer's eyes

Abstract

【課題】入力画像の絵柄の複雑さに応じて立体化の強度を制御することにより、単純な絵柄でエッジをあまり含まない入力画像に対しても、複雑な絵柄で急峻なエッジを多く含む入力画像と同程度の強い立体感が得られる擬似立体画像を作成する。
【解決手段】奥行き推定データ生成部101は、非立体画像の画面内の複数の所定領域における画素値の統計量を算定して複数の第1の評価値を得ると共に、非立体画像の画面内の全領域における画素値の統計量を算定して第2の評価値を得た後、複数の基本奥行きモデルタイプを、第1の評価値に応じた合成比率で合成した合成結果と、非立体画像とから奥行き推定データを生成する。ステレオペア生成部102は、非立体画像のテクスチャのシフトを対応部分の奥行き推定データに応じた量だけシフトすると共に、そのシフト量を第2の評価値に応じて制御する。
【選択図】図1

Description

本発明は、擬似的な立体画像を作成する擬似立体画像作成装置及び擬似的な立体画像を表示する擬似立体画像表示システムに関する。
立体画像表示システムにおいて非立体画像の擬似立体視による鑑賞を可能にするために、通常の2次元の静止画もしくは動画、即ち奥行き情報が明示的にも又はステレオ画像のように暗示的にも与えられていない2次元の画像(非立体画像)から擬似的な立体画像を作成することが数多く行われている。
例えば、本発明者により、非立体画像から擬似的な立体画像を作成する擬似立体画像作成装置が特許文献1に開示されている。この特許文献1記載の擬似立体画像作成装置は、2次元の静止画の画像内容からシーンの基本的な奥行き構造を、"経験知からあるタイプのシーン構造が比較的近い可能性が高いので選択する"という程度に推定し、誤判定された場合でも違和感の小さいものを採用する、所謂フェイルセーフの思想に基づき、擬似的な立体画像を作成するものである。
特許第4214976号公報
しかしながら、上記の特許文献1に記載の従来の擬似立体画像作成装置のように、推定される奥行き構造をもとに作成した擬似立体画像は、同じような設定であっても、一般的に複雑な絵柄で急峻なエッジを多く含む入力画像程強い立体感を得られる傾向があり、単純な絵柄でエッジをあまり含まない入力画像は強い立体感を得られない傾向がある。
本発明は上記の点に鑑みなされたもので、入力画像の絵柄の複雑さに応じて立体化の強度を制御することにより、単純な絵柄でエッジをあまり含まない入力画像に対しても、複雑な絵柄で急峻なエッジを多く含む入力画像と同程度の強い立体感が得られる擬似立体画像を作成し得る擬似立体画像作成装置及び擬似立体画像表示システムを提供することを目的とする。
上記目的を達成するため、本発明の擬似立体画像作成装置は、基本となる複数のシーン構造のそれぞれについて奥行き値を示す複数の基本奥行きモデルタイプを記憶する記憶手段と、奥行き情報が明示的にも又はステレオ画像のように暗示的にも与えられていない非立体画像の画面内の複数の所定領域における画素値の統計量を算定して複数の第1の評価値を得る第1の算定手段と、非立体画像の画面内の全領域における画素値の統計量を算定して第2の評価値を得る第2の算定手段と、記憶手段に記憶されている複数の基本奥行きモデルタイプを、第1の評価値に応じた合成比率で合成する合成手段と、合成手段により合成された合成結果と、供給される非立体画像とから奥行き推定データを生成する奥行き推定データ生成手段と、非立体画像のテクスチャを奥行き推定データと、第2の評価値に応じてシフトするテクスチャシフト手段と、テクスチャシフト手段から出力された画像信号と、非立体画像とを擬似立体画像信号として出力する出力手段とを有することを特徴とする。
また、上記の目的を達成するため、本発明の擬似立体画像表示ステムは、上記の擬似立体画像作成装置と、その擬似立体画像作成装置から出力された別視点画像の画像信号及び非立体画像の画像信号の一方を右眼画像信号とし他方を左眼画像信号として擬似立体画像を表示する表示装置とを有することを特徴とする。
本発明によれば、単純な絵柄でエッジをあまり含まない入力画像に対しても、複雑な絵柄で急峻なエッジを多く含む入力画像と同程度の強い立体感が得られる擬似立体画像を作成することができる。
本発明の擬似立体画像作成装置の一実施の形態のブロック図である。 本発明の擬似立体画像作成装置における奥行き推定データ生成部の一実施の形態のブロック図である。 図2中の奥行きモデル合成部の一例のブロック図である。 本発明の擬似立体画像作成装置におけるステレオペア生成部の一実施の形態のブロック図である。 図2中の合成比率決定部による合成比率の決定条件の一例の説明図である。 図4中のテクスチャシフト部において用いる所定の比SC/SCaと乗算係数αとの関係の一例を示す特性図である。
以下、本発明の実施の形態について図面を参照して説明する。
図1は、本発明になる擬似立体画像作成装置の一実施の形態のブロック図を示す。同図に示すように、本実施の形態の擬似立体画像作成装置100は、擬似立体化を行う非立体画像の画像信号が入力される奥行き推定データ生成部101と、上記の非立体画像の画像信号、奥行き推定データ生成部101で生成された奥行き推定データ、及び制御信号CTL1が入力されて、入力画像信号とステレオペアを構成する画像信号を生成して出力するステレオペア生成部102とから構成されている。ステレオペア生成部102は奥行き推定データ生成部101の入力画像信号を右眼画像信号としたとき、ステレオペアを構成する左眼画像信号を生成して出力する。
奥行き推定データ生成部101は、非立体画像の入力画像信号の画素値における高域成分の推定を行い、これを制御信号CTL1としてステレオペア生成部202に入力する。ステレオペア生成部102は、この制御信号CTL1を基に画像のシフト量、すなわち視差量や両眼視差の輻輳角を制御する。
図2は、奥行き推定データ生成部101の一実施の形態のブロック図を示す。同図に示すように、本実施の形態の奥行き推定データ生成部101は、擬似立体化を行う非立体画像の画像信号が入力される画像入力部201と、画像入力部201からの非立体画像の上部約20%の高域成分評価値を計算により求める算定手段である上部の高域成分評価部202と、画像入力部201からの非立体画像の下部約20%の高域成分評価値を計算により求める算定手段である下部の高域成分評価部203と、画像入力部201からの非立体画像の全体の高域成分評価値を計算により求める算定手段である全体の高域成分評価部204とを有する。
また、奥行き推定データ生成部101は、上部の高域成分評価値及び下部の高域成分評価値の各値に応じて基本奥行きモデルタイプA、基本奥行きモデルタイプB及び基本奥行きモデルタイプCの合成比率を決定する合成比率決定部205と、各々基本奥行きモデルタイプA、基本奥行きモデルタイプB及び基本奥行きモデルタイプCの画像を記憶する3つの記憶手段であるフレームメモリ207、208及び209と、下部の高域成分評価値及び上部の高域成分評価値の各値に応じて合成比率決定部205で決定された合成比率により、フレームメモリ207、208及び209からの3種類の基本奥行きモデル画像を合成する奥行きモデル合成部206と、奥行きモデル合成部206により得られた合成基本奥行きモデル画像に、画像入力部201の基になる画像の三原色信号(RGB信号)のうちの赤色信号(R信号)をある乗数を乗じて重畳し最終的な奥行き推定データを得る重み付け部210と、加算器211とを有する。なお、合成比率決定部205と奥行きモデル合成部206により合成手段が構成され、重み付け部210と加算器211により奥行き推定データ生成手段が構成される。
高域成分評価部204は、上部の高域成分評価部202及び下部の高域成分評価部203が画像入力部201からの非立体画像の上部及び下部の約20%の評価を行うのに対して、画面全体の評価を行って、その画像全体の複雑さを評価する。ここでは、評価領域が画面全域となるのみであり、評価手段は上部の高域成分評価部202及び下部の高域成分評価部203と同様の計算方法により求めることも可能である。また、全体の高域成分評価部204は、上部の高域成分評価部202及び下部の高域成分評価部203と共通の処理モジュール利用の可能性があることから、これらの評価部202、203、204を奥行き推定データ生成部101の内部においているが、外部に設けて処理しても構わない。
図3は、奥行きモデル合成部206の一例の構成を示す。同図に示すように、奥行きモデル合成部206は、合成比率決定部205により決定された各基本奥行きモデルタイプの合成比率k1、k2、k3(ただし、k1+k2+k3=1)を、フレームメモリ207、208、209からの基本奥行きモデルタイプA、B、Cの値とを乗算器2061、2062、2063において別々に乗算し、それら3つの乗算結果を加算器2064で加算して、得られた加算結果を加算器211へ出力する構成である。
上記の基本奥行きモデルタイプA〜Cは、それぞれ基本となる複数のシーン構造のそれぞれについて奥行き値を示す。すなわち、上記の基本奥行きモデルタイプAは、球面状の凹面による奥行きモデルで、多くの場合に、この基本奥行きモデルタイプAの画像が使用される。また、上記の基本奥行きモデルタイプBは、基本奥行きモデルタイプAの上部を球面でなく、アーチ型の円筒面に置き換えたもので、上部を円筒面(軸は垂直方向)で下部を凹面(球面)としたモデルである。更に、上記の基本奥行きモデルタイプCは、上部を平面とし、下部をその平面から連続し、下に行くほど手前側に向かう円筒面状としたもので、上部が平面、下部が円筒面(軸は水平方向)としたモデルである。
図4は、図1中のステレオペア生成部102の一実施の形態のブロック図を示す。同図に示すように、本実施の形態のステレオペア生成部102は、奥行き推定データ生成部101から奥行き推定データと制御信号CTL1とが入力され、かつ、奥行き推定データ生成部101に入力される非立体画像の画像信号が分岐して入力され、テクスチャシフト手段であるテクスチャシフト部301と、オクルージョン補償部302と、ポスト処理部303により構成される。なお、オクルージョン補償部302とポスト処理部303により出力手段が構成される。
テクスチャシフト部301は、奥行き推定データを基に別視点の画像を生成する。例えば、原画の画像信号を基準として左に視点移動した画像を生成する場合、画面より手前に表示するものについては、近い物ほど画像を見る者の内側(鼻側)に見えるので、内側すなわち右に対応部分のテクスチャを奥行きに応じた量だけ移動する。画面より奥に表示するものについては、近い物ほど画像を見る者の外側に見えるので、左に対応部分のテクスチャを奥行きに応じた量だけ移動する。 オクルージョン補償部302は、シフトを行うことによる画像中の位置関係変化によりテクスチャの存在しない部分、すなわちオクルージョンが発生する場合があるため、入力画像の対応部分で充填する、又は分割された画像のテクスチャの統計量に基づき公知の方法等で、テクスチャシフト部301からの画像信号に対して、オクルージョンを補償する。
ポスト処理部303は、オクルージョン補償部302によりオクルージョン補償された画像信号に対して、平滑化などの公知のポスト処理を施して、それ以前の処理において発生したノイズを軽減した画像信号、例えば左眼画像信号を出力する。
次に、本実施の形態の擬似立体画像作成装置100の動作について説明する。
奥行き推定データ生成部101内の画像入力部201は、擬似立体化を行う非立体画像の画像信号を取り込み、その画像信号を上部の高域成分評価部202、下部の高域成分評価部203及び全体の高域成分評価部204に供給すると共に、画像信号中の赤色信号(R信号)を重み付け部210に供給する。上記の画像信号は、量子化された画像データである。
上部の高域成分評価部202は、入力された非立体画像の上部約20%の画像領域を、水平方向8画素、垂直方向8画素のブロックに分割し、各ブロック内の点(i,j)における輝度信号をY(i,j)としたとき、各ブロックについて次式の演算を行う。
Figure 2011078036
続いて、上部の高域成分評価部202は、上部約20%の画像領域における全てのブロックの上式で得られた加算結果の平均値を上部の高域成分評価値として算出する。
下部の高域成分評価部203と全体の高域成分評価部204も上記の上部高域成分評価部202とは評価対象の画像領域が異なるだけで、下部の高域成分評価部203は入力された非立体画像の下部約20%の画像領域を前記のサイズのブロックに分割し、上式により得られた各ブロックの輝度信号の加算結果の平均値を下部高域成分評価値として算出する。全体の高域成分評価部204は入力された非立体画像の全画像領域を前記のサイズのブロックに分割し、上式により得られた各ブロックの輝度信号の加算結果の平均値を全体の高域成分評価値として算出する。全体の高域成分評価値は、制御信号CTL1としてステレオペア生成部102内のテクスチャシフト部301へ出力される。
合成比率決定部205は、上記の上部の高域成分評価値と下部の高域成分評価値の各値に応じて、所定の合成比率の決定条件に基づいて前記合成比率k1、k2、k3を決定する。
図5は、合成比率の決定条件の一例を示す。図5は、横軸に示す上部の高域成分評価値と、縦軸に示す下部の高域成分評価値の各値と、予め指定された値tps、tpl、bms、bmlとの兼ね合いにより合成比率が決定されることを示す。図5において、複数のタイプが記載されている領域については、高域成分評価値に応じて線形に合成される。
例えば、図5において、「typeA/B」の領域では、下記のように(上部の高域成分評価値)と(下部の高域成分評価値)の比率でtypeAとtypeBの比率が決定され、typeCは比率の決定には用いられない。なお、図5に示す「typeA」は上述の基本奥行きモデルタイプA、「typeB」は上述の基本奥行きモデルタイプB、「typeC」は上述の基本奥行きモデルタイプCに対応する。
typeA:typeB:typeC
=(上部の高域成分評価値−tps):(tp1−下部の高域成分評価値):0
また、図5において、「typeA/B/C」の領域では、typeA/BとtypeA/Cとの平均を採用して、下記のようにtypeA/B/Cの値が決定される。
typeA:typeB:typeC
=(上部の高域成分評価値−tps)+(下部の高域成分評価値−bms):(tpl−
上部の高域成分評価値):(bml−下部の高域成分評価値)
なお、図3における合成比率k1、k2、k3は次式で算出される。
k1=type1/(typeA+typeB+typeC)
k2=type2/(typeA+typeB+typeC)
k3=type3/(typeA+typeB+typeC)
図3に示す奥行きモデル合成部206は、上記のように合成比率決定部205で決定された合成比率k1、k2、k3を乗算器2061、2062、2063において、フレームメモリ207、208、209からの基本奥行きモデルタイプA、B、Cの値とを別々に乗算し、それら3つの乗算結果を加算器2064で加算合成して、得られた加算結果を図2に示す加算器211へ出力する。
このように、本実施の形態では、基本となるシーンの奥行き構造モデルとして3種類の基本奥行きモデルを用意し、基になる画像の輝度信号の高域成分を画面上部及び画面下部について算定し、基本奥行きモデルタイプAを基本にしながらも、画面上部の高域成分が少ない場合には上部に空若しくは平坦な壁が存在するシーンと認識して上部の奥行きを深くした基本奥行きも出るタイプBの比率を増加させ、画面下部の高域成分が少ない場合には下部に平坦な地面若しくは水面が手前に連続的に広がるシーンと認識して、上部を遠景として平面近似し、下部については下に行くほど奥行きの小さくなる基本奥行きも出るタイプCの比率を増加させるといった処理を行うようにしたため、どのような画像に対しても違和感を感じさせないと同時に、できる限り現実に近いシーン構造の決定を行うことが可能になる。
再び図2に戻って説明する。重み付け部210は、画像入力部201により入力された基になる非立体画像の画像信号(これは三原色信号である)のうちの赤色信号(R信号)に対して所定の重み付け係数を乗算して加算器211へ出力する。加算器211は、重み付け部210からのR信号と奥行きモデル合成部206からの合成信号とを加算合成して奥行き推定データを生成して出力する。
R信号を使用する理由の一つは、R信号の大きさが、順光に近い環境で、かつ、テクスチャの明度が大きく異ならないような条件において、被写体の凹凸と一致する確率が高いという経験則によるものである。更に、もう一つの理由として、赤色及び暖色は色彩学における前進色であり、寒色系よりも奥行きが手前に認識されるという特徴があり、この奥行きを手前に配置することで立体感を強調することが可能であるということである。
なお、赤色及び暖色が前進色であるのに対し、青色は後退色であり、暖色系よりも奥行きが奥に認識される特徴がある。よって、青色の部分を奥に配置することによっても立体感の強調は可能である。更に双方を併用して、赤色の部分を手前、青色の部分を奥に配置することによって立体感を強調することも可能である。
奥行き推定データ生成部101内の加算器211から出力された奥行き推定データは、図1及び図4に示したステレオペア生成部102に供給される。図4において、ステレオペア生成部102内のテクスチャシフト部301は、奥行き推定データ生成部101に入力される画像信号と同一の非立体画像の画像信号が入力され、その入力画像信号の別視点の画像信号を上記の奥行き推定データを基に生成する。
いま、入力画像信号に対する奥行き推定データを8ビットの値Ydで表すものとする。テクスチャシフト部301は、この値Ydについて小さい値、すなわち奥に位置するものから順に、その値に対応する部分の入力画像信号のテクスチャをα・(Yd−m)/n画素だけ右にシフトする。ここで、mは画面上の奥行きに表示する奥行きデータであり、これより大きな値のYdに関しては画面より手前に、小さな値のYdに関しては奥に表示される。また、nは立体感を調整するパラメータである。更に、αは制御信号CTL1により決定される乗算係数である。
この乗算係数αは次のようにして決定される。制御信号CTL1の信号レベルをSC、主観的に決定した中程度に複雑な絵柄の画像信号入力時に得られる制御信号CTL1の固定の信号レベルをSCaとしたとき、テクスチャシフト部301は、比SC/SCaの値に応じて、図6に示す特性を参照して乗算係数αを決定する。なお、制御信号の固定の信号レベルSCaは、例えば主観的に決定した中程度に複雑な絵柄の画像信号により得られる値とする。
図6に示す特性は、横軸を比SC/SCa、縦軸を乗算係数αにとったとき、比SC/SCaの値が「0.5」未満のとき乗算係数αが「1.5」、比SC/SCaの値が「1」以上のとき乗算係数αが「1」、比SC/SCaの値が「0.5」以上「1」未満のとき乗算係数αは比SC/SCaの値が大になるほど「0.5」から「1」へ非直線的に減少する特性である。
これにより、テクスチャシフト部301は、比SC/SCaの値が「1」以上になるような入力画像信号が中程度以上に複雑な絵柄の画像の場合には、乗算係数αを「1」に設定し、入力画像信号のテクスチャを(Yd−m)/n画素だけ右にシフトする。また、テクスチャシフト部301は、比SC/SCaの値が「0.5」以上「1」未満となるような、入力画像信号が単純な絵柄の画像の場合には、絵柄が単純になるほど(SC/SCaの値が小さくなるほど)、乗算係数αを「1」より大で「1.5」に漸次近付く値に設定し、入力画像信号のテクスチャを右にシフトするシフト量α・(Yd−m)/n画素を漸次増大させる。シフト量は視差に関係するので、上記のシフト量の制御により単純な絵柄でエッジをあまり含まない入力画像に対しても、複雑な絵柄で急峻なエッジを多く含む入力画像と同程度の立体感が得られる。
ただし、比SC/SCaの値が「0.5」未満になるような入力画像信号が極めて単純な絵柄の場合は、テクスチャシフト部301は、シフト量を1.5・(Yd−m)/n画素に制限し、ステレオ画像として過剰な視差を与えられて破綻することを防いでいる。
また、動画の処理においては、フレーム相関性を利用して、前フレーム・フィールドで算定した乗算係数αを使用することができる。これにより、現フレーム・フィールドの全体の高域評価を待って以後の処理を行う必要がなくなり、フレーム・フィールドメモリが不要になる上、処理による遅延を小さくすることができる。
奥行き推定データ生成部101及びステレオペア生成部102に入力される右眼画像信号とポスト処理部303より出力された左眼画像信号とにより、ステレオペアが構成される。そして、これらの右眼画像信号と左眼画像信号は、図示しないステレオ表示装置に供給されて擬似立体画像として表示される。ここで、上記のステレオ表示装置とは、偏光メガネを用いたプロジェクションシステム、時分割表示と液晶シャッタメガネを組み合わせたプロジェクションシステムもしくはディスプレイシステム、レンチキュラ方式のステレオディスプレイ、パララックスバリア方式のステレオディスプレイ、アナグリフ方式のステレオディスプレイ、ヘッドマウントディスプレイなどを含む。特にステレオ画像の各画像に対応した2台のプロジェクタによるプロジェクションシステムを含む。
このように、本実施の形態によれば、全体の高域成分評価部204において、入力された非立体画像の全画像領域を所定サイズの複数のブロックに分割し、各ブロック内の各画素を対象画素としたとき、数1の数式で示したように、対象画素毎にその対象画素に対して水平及び垂直の両方向において1画素おきの画素との各輝度値の差の絶対値を積算し、得られた各ブロックの輝度積算値の平均値を全体の高域成分評価値として算出する。そして、本実施の形態によれば、その全体の高域成分評価値に応じて、テクスチャシフト部301におけるテクスチャシフト量(つまり、立体化の強度)を可変制御するようにしたため、単純な絵柄でエッジをあまり含まない入力画像に対しても、複雑な絵柄で急峻なエッジを多く含む入力画像と同程度の強い立体感が得られる擬似立体画像を作成することができる。
なお、本発明は上記の実施の形態に限定されるものではなく、例えば、立体感の画像高域成分による制御は上記のようなシフト量への乗算による制御に限らず、シフト量への加減や、前記パラメータmを制御することによる飛び出し感の制御、図2の重み付け部210の制御などによって実現することも可能である。
また、上記の実施の形態では、右眼画像信号を入力画像信号、左眼画像信号を作成された画像信号としたステレオペアを作成しているが、左眼画像信号を入力画像信号、右眼画像信号を作成された画像信号としたステレオペアとしてもよく、更には右に視点移動した別視点画像と左に視点移動した別視点画像とを用いてステレオペアを構成することも可能である。
また、上記の実施の形態では2視点のステレオペアの画像信号による擬似立体画像信号を作成するように説明したが、3視点以上の表示が可能な表示装置を用いた場合、その視点数に応じた数の別視点画像信号から上記の実施の形態と同様の方法により擬似立体画像信号を作成して表示する多視点立体映像表示システムの構築も可能である。
また、本実施の形態の擬似立体画像表示システムにおいては、音声出力を装備する形態のものも考えられる。この場合、静止画等音声情報を持たない映像コンテンツについては、映像にふさわしい環境音を付加するような態様のものが考えられる。
更に、本発明は、図1乃至図4の構成の擬似立体画像作成装置をコンピュータのソフトウェアによって実現する擬似立体画像作成用プログラムも包含するものである。この場合、擬似立体画像作成用プログラムは、記録媒体からコンピュータに取り込まれてもよいし、ネットワーク経由でコンピュータに取り込まれてもよい。
100 擬似立体画像作成装置
101 奥行き推定データ生成部
102 ステレオペア生成部
201 画像入力部
202 上部の高域成分評価部
203 下部の高域成分評価部
204 全体の高域成分評価部
205 合成比率決定部
206 奥行きモデル合成部
207〜209 フレームメモリ
210 重み付け部
211、2064 加算器
301 テクスチャシフト部
302 オクルージョン補償部
303 ポスト処理部
2061〜2063 乗算器

Claims (2)

  1. 基本となる複数のシーン構造のそれぞれについて奥行き値を示す複数の基本奥行きモデルタイプを記憶する記憶手段と、
    奥行き情報が明示的にも又はステレオ画像のように暗示的にも与えられていない非立体画像の画面内の複数の所定領域における画素値の統計量を算定して複数の第1の評価値を得る第1の算定手段と、
    前記非立体画像の画面内の全領域における画素値の統計量を算定して第2の評価値を得る第2の算定手段と、
    前記記憶手段に記憶されている前記複数の基本奥行きモデルタイプを、前記第1の評価値に応じた合成比率で合成する合成手段と、
    前記合成手段により合成された合成結果と、供給される前記非立体画像とから奥行き推定データを生成する奥行き推定データ生成手段と、
    前記非立体画像のテクスチャを前記奥行き推定データと、前記第2の評価値に応じてシフトするテクスチャシフト手段と、
    前記テクスチャシフト手段から出力された画像信号と、前記非立体画像とを擬似立体画像信号として出力する出力手段と
    を有することを特徴とする擬似立体画像作成装置。
  2. 基本となる複数のシーン構造のそれぞれについて奥行き値を示す複数の基本奥行きモデルタイプを記憶する記憶手段と、
    奥行き情報が明示的にも又はステレオ画像のように暗示的にも与えられていない非立体画像の画面内の複数の所定領域における画素値の統計量を算定して複数の第1の評価値を得る第1の算定手段と、
    前記非立体画像の画面内の全領域における画素値の統計量を算定して第2の評価値を得る第2の算定手段と、
    前記記憶手段に記憶されている前記複数の基本奥行きモデルタイプを、前記第1の評価値に応じた合成比率で合成する合成手段と、
    前記合成手段により合成された合成結果と、供給される前記非立体画像とから奥行き推定データを生成する奥行き推定データ生成手段と、
    前記非立体画像のテクスチャを前記奥行き推定データと前記第2の評価値に応じてシフトするテクスチャシフト手段と、
    前記テクスチャシフト手段から別視点画像として出力された画像信号と、前記非立体画像とを擬似立体画像信号として出力する出力手段と、
    前記出力手段から出力された前記別視点画像の画像信号及び前記非立体画像の画像信号の一方を右眼画像信号とし他方を左眼画像信号として擬似立体画像を表示する表示装置と
    を有することを特徴とする擬似立体画像表示システム。
JP2009230056A 2009-10-02 2009-10-02 擬似立体画像作成装置及び擬似立体画像表示システム Active JP5402483B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2009230056A JP5402483B2 (ja) 2009-10-02 2009-10-02 擬似立体画像作成装置及び擬似立体画像表示システム
US12/923,323 US8599198B2 (en) 2009-10-02 2010-09-15 Pseudo 3D image creation apparatus and display system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009230056A JP5402483B2 (ja) 2009-10-02 2009-10-02 擬似立体画像作成装置及び擬似立体画像表示システム

Publications (2)

Publication Number Publication Date
JP2011078036A true JP2011078036A (ja) 2011-04-14
JP5402483B2 JP5402483B2 (ja) 2014-01-29

Family

ID=43822849

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009230056A Active JP5402483B2 (ja) 2009-10-02 2009-10-02 擬似立体画像作成装置及び擬似立体画像表示システム

Country Status (2)

Country Link
US (1) US8599198B2 (ja)
JP (1) JP5402483B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2505307A2 (en) 2011-03-31 2012-10-03 Makita Corporation Power tool
JP2013070206A (ja) * 2011-09-22 2013-04-18 Jvc Kenwood Corp 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム
JP2013070205A (ja) * 2011-09-22 2013-04-18 Jvc Kenwood Corp 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム
WO2019087976A1 (ja) * 2017-10-30 2019-05-09 日立造船株式会社 情報処理装置、情報処理方法、および情報処理プログラム

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5402504B2 (ja) * 2009-10-15 2014-01-29 株式会社Jvcケンウッド 擬似立体画像作成装置及び擬似立体画像表示システム
KR101198320B1 (ko) * 2010-06-21 2012-11-06 (주)아이아이에스티 2차원에서 3차원으로의 영상 변환 방법 및 장치
KR101494066B1 (ko) 2010-10-05 2015-02-16 엠파이어 테크놀로지 디벨롭먼트 엘엘씨 공간 광 패턴에 기초한 깊이 데이터의 생성
JP5387781B2 (ja) * 2010-10-12 2014-01-15 株式会社Jvcケンウッド 奥行き信号生成装置、擬似立体画像信号生成装置、奥行き信号生成方法、擬似立体画像信号生成方法、奥行き信号生成プログラム、擬似立体画像信号生成プログラム
JP5488482B2 (ja) * 2011-01-24 2014-05-14 株式会社Jvcケンウッド 奥行き推定データ生成装置、奥行き推定データ生成プログラム及び擬似立体画像表示装置
JP5692051B2 (ja) * 2011-12-27 2015-04-01 株式会社Jvcケンウッド 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム
JP5928280B2 (ja) * 2012-09-28 2016-06-01 株式会社Jvcケンウッド 多視点画像生成装置及び方法
US9299152B2 (en) 2012-12-20 2016-03-29 Hong Kong Applied Science And Technology Research Institute Co., Ltd. Systems and methods for image depth map generation
US10783681B2 (en) 2017-09-13 2020-09-22 International Business Machines Corporation Artificially tiltable image display

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1051812A (ja) * 1996-08-07 1998-02-20 Sanyo Electric Co Ltd 2次元映像を3次元映像に変換する装置および方法
JP2000078611A (ja) * 1998-08-31 2000-03-14 Toshiba Corp 立体映像受信装置及び立体映像システム
JP2005151534A (ja) * 2003-09-24 2005-06-09 Victor Co Of Japan Ltd 擬似立体画像作成装置及び擬似立体画像作成方法並びに擬似立体画像表示システム
JP2009044722A (ja) * 2007-07-19 2009-02-26 Victor Co Of Japan Ltd 擬似立体画像生成装置、画像符号化装置、画像符号化方法、画像伝送方法、画像復号化装置及び画像復号化方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2630069B2 (ja) 1990-12-14 1997-07-16 三菱電機株式会社 スクロール圧縮機
US7262767B2 (en) * 2004-09-21 2007-08-28 Victor Company Of Japan, Limited Pseudo 3D image creation device, pseudo 3D image creation method, and pseudo 3D image display system
US8131098B2 (en) * 2007-07-06 2012-03-06 Panasonic Corporation Image processing device, image processing method, image processing system, program, storage medium, and integrated circuit
US8463019B2 (en) * 2007-07-19 2013-06-11 JVC Kenwood Corporation Pseudo 3D image generation device, image encoding device, image encoding method, image transmission method, image decoding device, and image decoding method
JP5402504B2 (ja) * 2009-10-15 2014-01-29 株式会社Jvcケンウッド 擬似立体画像作成装置及び擬似立体画像表示システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1051812A (ja) * 1996-08-07 1998-02-20 Sanyo Electric Co Ltd 2次元映像を3次元映像に変換する装置および方法
JP2000078611A (ja) * 1998-08-31 2000-03-14 Toshiba Corp 立体映像受信装置及び立体映像システム
JP2005151534A (ja) * 2003-09-24 2005-06-09 Victor Co Of Japan Ltd 擬似立体画像作成装置及び擬似立体画像作成方法並びに擬似立体画像表示システム
JP2009044722A (ja) * 2007-07-19 2009-02-26 Victor Co Of Japan Ltd 擬似立体画像生成装置、画像符号化装置、画像符号化方法、画像伝送方法、画像復号化装置及び画像復号化方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2505307A2 (en) 2011-03-31 2012-10-03 Makita Corporation Power tool
JP2013070206A (ja) * 2011-09-22 2013-04-18 Jvc Kenwood Corp 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム
JP2013070205A (ja) * 2011-09-22 2013-04-18 Jvc Kenwood Corp 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム
WO2019087976A1 (ja) * 2017-10-30 2019-05-09 日立造船株式会社 情報処理装置、情報処理方法、および情報処理プログラム
JP2019082853A (ja) * 2017-10-30 2019-05-30 日立造船株式会社 情報処理装置、情報処理方法、および情報処理プログラム

Also Published As

Publication number Publication date
JP5402483B2 (ja) 2014-01-29
US8599198B2 (en) 2013-12-03
US20110080400A1 (en) 2011-04-07

Similar Documents

Publication Publication Date Title
JP5402483B2 (ja) 擬似立体画像作成装置及び擬似立体画像表示システム
JP4214976B2 (ja) 擬似立体画像作成装置及び擬似立体画像作成方法並びに擬似立体画像表示システム
JP5402504B2 (ja) 擬似立体画像作成装置及び擬似立体画像表示システム
US9031356B2 (en) Applying perceptually correct 3D film noise
JP2006211291A (ja) 立体視可能な表示装置および方法
JP2007264722A (ja) 画像処理装置
JP4214529B2 (ja) 奥行き信号生成装置、奥行き信号生成プログラム、擬似立体画像生成装置、及び擬似立体画像生成プログラム
JP5691965B2 (ja) 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム
JP5692051B2 (ja) 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム
JP4214527B2 (ja) 擬似立体画像生成装置及び擬似立体画像生成プログラム並びに擬似立体画像表示システム
JP5304758B2 (ja) 多視点画像作成装置及び多視点画像作成方法並びに多視点画像表示システム
US8976175B2 (en) Depth estimation data generating device, computer readable recording medium having depth estimation data generating program recorded thereon, and pseudo-stereo image display device
JP4214528B2 (ja) 擬似立体画像生成装置及び擬似立体画像生成プログラム並びに擬似立体画像表示システム
JP4419139B2 (ja) 奥行き信号生成装置、奥行き信号生成プログラム、擬似立体画像生成装置、及び擬似立体画像生成プログラム
JP5691966B2 (ja) 奥行き推定データの生成装置、生成方法及び生成プログラム、並びに疑似立体画像の生成装置、生成方法及び生成プログラム
JP5500092B2 (ja) 奥行き推定データ生成装置、奥行き推定データ生成プログラム及び擬似立体画像表示装置
JP5786807B2 (ja) 奥行き情報生成装置、奥行き情報生成方法、奥行き情報生成プログラム、擬似立体画像生成装置
JP2014072602A (ja) 多視点画像生成装置及び方法
JP5780214B2 (ja) 奥行き情報生成装置、奥行き情報生成方法、奥行き情報生成プログラム、擬似立体画像生成装置
JP6028427B2 (ja) 奥行き情報生成装置、奥行き情報生成方法、奥行き情報生成プログラム、擬似立体画像生成装置
JP5888140B2 (ja) 奥行き推定データ生成装置、擬似立体画像生成装置、奥行き推定データ生成方法及び奥行き推定データ生成プログラム
JP6056459B2 (ja) 奥行き推定データ生成装置、擬似立体画像生成装置、奥行き推定データ生成方法及び奥行き推定データ生成プログラム
KR101374352B1 (ko) 입체 영상의 깊이감 조절 방법 및 깊이감 조절 장치
JP2014072640A (ja) 奥行き推定データ生成装置、擬似立体画像生成装置、奥行き推定データ生成方法及び奥行き推定データ生成プログラム
JP2013017052A (ja) 奥行き信号生成装置、擬似立体画像生成装置、奥行き信号生成方法、および擬似立体画像生成方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120329

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130214

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130702

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130830

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131001

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131014

R150 Certificate of patent or registration of utility model

Ref document number: 5402483

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150