以下では、本発明に係る三次元映像処理装置及び三次元映像処理方法について、実施の形態に基づいて図面を参照しながら詳細に説明する。
(実施の形態1)
実施の形態1に係る映像信号処理装置は、視差を有する、主映像に重畳される左眼用オブジェクト画像と右眼用オブジェクト画像とを出画する三次元映像処理装置であって、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方である第1画像の出画準備を行って出画する第1画像処理部と、左眼用オブジェクト画像及び右眼用オブジェクト画像の他方である第2画像の出画準備を行って出画する第2画像処理部と、第1画像と第2画像とを同期させて出画するように、第1画像処理部と第2画像処理部とを制御する出画制御部とを備える。第1画像処理部は、第1画像の出画準備が完了しているか否かを判定する第1判定部を備え、第2画像処理部は、第2画像の出画準備が完了しているか否かを判定する第2判定部を備え、出画制御部は、第1判定部及び第2判定部の一方によって、第1画像及び第2画像の一方の出画準備が完了していないと判定された場合、第1画像及び第2画像の双方の出画をスキップさせることを特徴とする。
まず、実施の形態1に係る三次元映像処理装置の構成について説明する。
図1は、実施の形態1に係る三次元映像処理装置100の構成を示すブロック図である。実施の形態1に係る三次元映像処理装置100は、符号化された三次元映像を示す符号化ストリームを取得し、取得した符号化ストリームを復号することで三次元映像を生成して出力する。なお、符号化ストリームは、映画などの主映像と、主映像に重畳する字幕などのオブジェクト画像とが符号化されて生成されたストリームである。
図1に示すように、三次元映像処理装置100は、入力部110と、分離部120と、主映像処理部130と、オブジェクト処理部140と、合成部150とを備える。
入力部110は、符号化ストリームを取得する。例えば、入力部110は、符号化ストリームが記録されている記録媒体160から符号化ストリームを取得する。取得した符号化ストリームは、例えば、バッファ(図示せず)などに格納される。
符号化ストリームは、主映像とオブジェクト画像とがそれぞれ符号化され、符号化された主映像を示す符号化主映像ストリームと、符号化されたオブジェクト画像を示す符号化オブジェクトストリームとが多重化されて生成されたストリームである。主映像は、視聴者の左眼に入射されるべき左眼用主画像と、視聴者の右眼に入射されるべき右眼用主画像とから構成される。主映像は、例えば、映画、TV番組などの映像である。
オブジェクト画像は、視聴者の左眼に入射されるべき左眼用オブジェクト画像と、視聴者の右眼に入射されるべき右眼用オブジェクト画像とから構成される。オブジェクト画像は、例えば、映画の字幕、記号、図形、又は、メニュー画像である。メニュー画像は、選択ボタンなどを示す画像である。
なお、記録媒体160は、例えば、BD(Blu−ray Disc)などの光ディスク、HDD(Hard Disk Drive)などの磁気ディスク、又は、不揮発性メモリなどである。
また、入力部110は、記録媒体160から符号化ストリームを取得するのではなく、HDMI(High Definition Multimedia Interface)ケーブルなどで接続された映像記録再生装置(例えば、デジタルビデオレコーダ)などから、HDMIケーブルを介して符号化ストリームを取得してもよい。あるいは、入力部110は、地上デジタルテレビ放送及び衛星デジタルテレビ放送などの放送波、又はインターネットを介して符号化ストリームを取得してもよい。
分離部120は、入力部110によって取得された符号化ストリームを、左眼用主映像と、右眼用主映像と、左眼用オブジェクト画像と、右眼用オブジェクト画像とに分離する。具体的には、左眼用オブジェクト画像と右眼用オブジェクト画像とは、それぞれ独立のストリーム(左眼用オブジェクトストリームと右眼用オブジェクトストリーム)に分離される。なお、以下では、左眼用オブジェクトストリームと右眼用オブジェクトストリームとをそれぞれ、単に、左眼用ストリームと右眼用ストリームと記載する。
また、左眼用主映像と右眼用主映像とも同様に、それぞれ独立のストリーム(左眼用主映像ストリームと右眼用主映像ストリーム)に分離される。ただし、左眼用主映像ストリームと右眼用主映像ストリームとは、参照関係を有していてもよい。例えば、右眼用主映像ストリームに含まれる画像は、左眼用主映像ストリームに含まれる画像を参照して符号化されていてもよい。
左眼用主映像(左眼用主映像ストリーム)と右眼用主映像(右眼用主映像ストリーム)とは、主映像処理部130へ出力される。左眼用オブジェクト画像(左眼用ストリーム)と右眼用オブジェクト画像(右眼用ストリーム)とは、オブジェクト処理部140へ出力される。
なお、左眼用ストリームと右眼用ストリームとは、それぞれ独立して復号することが可能であり、かつ、同じ構成となるように定義されている。なお、同じ構成となるとは、左眼用ストリームと右眼用ストリームとのそれぞれに含まれるヘッダのうち複数の情報は、互いに同じ情報であることである。
また、左眼用主映像ストリーム、右眼用主映像ストリーム、左眼用ストリーム及び右眼用ストリームはそれぞれ、別々に入力されてもよい。例えば、左眼用主映像ストリームと右眼用主映像ストリームとは、記録媒体160から入力され、左眼用ストリームと右眼用ストリームとはインターネット経由で入力されてもよい。このとき、分離部120は、入力されたストリームの種別に応じて、主映像処理部130及びオブジェクト処理部140のいずれかへ、入力されたストリームを出力する。
主映像処理部130は、左眼用主映像と右眼用主映像とを処理することで、三次元表示される主映像を生成する。図1に示すように、主映像処理部130は、左眼用主映像処理部131と、右眼用主映像処理部132と、選択部133とを備える。
左眼用主映像処理部131は、符号化された左眼用主映像を示す左眼用主映像ストリームを復号することで、左眼用主映像を生成する。なお、生成した左眼用主映像は、例えば、DRAM(Dynamic Random Access Memory)などのメモリに格納される。さらに、左眼用主映像処理部131は、生成した左眼用主映像の画像サイズ、フレームレート、及び走査方式を変更してもよい。
右眼用主映像処理部132は、符号化された右眼用主映像を示す右眼用主映像ストリームを復号することで、右眼用主映像を生成する。なお、生成した右眼用主映像は、例えば、DRAMなどのメモリに格納される。さらに、右眼用主映像処理部132は、生成した右眼用主映像の画像サイズ、フレームレート、及び走査方式を変更してもよい。
選択部133は、左眼用主映像と右眼用主映像とを1ピクチャ毎に交互に選択して、選択した画像を合成部150へ出画する。なお、これは、三次元表示の技術として、左眼用主映像と右眼用主映像とを1ピクチャ毎に交互に表示させる技術を利用したものである。1枚のピクチャに左眼用主映像と右眼用主映像とを空間的に異なる画素毎に配置させて表示する技術を用いてもよい。その場合、主映像処理部130は、選択部133の代わりに、画素毎に左眼用主映像と右眼用主映像とを配置させる映像合成部を備えればよい。
オブジェクト処理部140は、左眼用ストリームと右眼用ストリームとをそれぞれ復号することで、左眼用オブジェクト画像と右眼用オブジェクト画像とを生成する。オブジェクト処理部140の詳細な構成及び動作については、後で説明する。
合成部150は、主映像処理部130から出力される主映像とオブジェクト処理部140から出力されるオブジェクト画像とをピクチャ毎に重畳することで合成画像を生成する。生成した合成画像は、表示パネルなどの表示装置に出力されて表示される。
なお、実施の形態1に係る三次元映像処理装置100は、例えば、図2に示すようなデジタルテレビ10又はデジタルビデオレコーダ20に備えられる。デジタルビデオレコーダ20が三次元映像処理装置100を備える場合、合成部150によって生成された合成画像は、例えば、HDMIケーブルなどを介してデジタルテレビ10に出力される。
続いて、実施の形態1に係るオブジェクト処理部140の詳細な構成について説明する。
図3は、実施の形態1に係るオブジェクト処理部140の構成を示すブロック図である。オブジェクト処理部140は、主映像に重畳される画像であり、視差を有する左眼用オブジェクト画像と右眼用オブジェクト画像とを生成して出画する。左眼用オブジェクト画像及び右眼用オブジェクト画像は、字幕、記号、図形又はメニュー画像である。
図3に示すように、オブジェクト処理部140は、左眼用オブジェクト処理部210と、右眼用オブジェクト処理部220と、出画制御部230と、選択部240とを備える。
左眼用オブジェクト処理部210は、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方である第1画像の出画準備を行って出画する第1画像処理部の一例である。左眼用オブジェクト処理部210は、符号化された左眼用オブジェクト画像を含む左眼用ストリームを復号することで、左眼用オブジェクト画像を生成する。そして、左眼用オブジェクト処理部210は、第1プレーンメモリを有し、出画準備として、生成した左眼用オブジェクト画像を第1プレーンメモリにヘッダを用いて描画し、所定の出画予定時刻に出画する。
図3に示すように、左眼用オブジェクト処理部210は、ストリームバッファ211と、デコーダ212と、オブジェクトバッファ213と、属性情報バッファ214と、出画処理部215と、グラフィックスプレーン216と、色変換部217とを備える。
ストリームバッファ211は、分離部120から出力された左眼用ストリームを格納するバッファメモリである。
デコーダ212は、ストリームバッファ211から左眼用ストリームを読み出し、読み出した左眼用ストリームを復号することで、左眼用オブジェクト画像とヘッダとを生成する。左眼用オブジェクト画像は、オブジェクトバッファ213に格納され、ヘッダは、属性情報バッファ214に格納される。
なお、ヘッダは、左眼用オブジェクト画像の属性情報を含み、例えば、左眼用オブジェクトの描画及び出画を制御するために用いられる情報を含んでいる。例えば、ヘッダは、主映像の画像サイズ及びフレームレートを示すビデオ情報、ウインドウの識別子及びウインドウサイズを示すウインドウ情報、並びに、オブジェクト画像の識別子及び切り出しサイズを示すオブジェクト制御情報などを含んでいる。また、ヘッダは、オブジェクト画像の表示位置を示す情報などを含んでいる。
なお、以上に示すヘッダが示す情報のうち、ビデオ情報、ウインドウ情報及びオブジェクト制御情報は、左眼用オブジェクト画像と右眼用オブジェクト画像とで同じである。
オブジェクトバッファ213は、左眼用オブジェクト画像を保持するバッファメモリである。なお、左眼用オブジェクト画像は、例えば、ビットマップ形式の画像である。
属性情報バッファ214は、上記のヘッダを保持するバッファメモリである。
出画処理部215は、属性情報バッファ214に格納されたヘッダを用いて、左眼用オブジェクト画像の出画準備を行う。具体的には、出画処理部215は、ヘッダに含まれる属性情報に従って、オブジェクトバッファ213に格納された左眼用オブジェクト画像をグラフィックスプレーン216に描画することで出画準備を行う。出画準備が完了すると、出画処理部215は、出画準備が完了したことを示す準備完了通知を出画制御部230に通知する。準備完了通知には、出画準備が完了した左眼用オブジェクト画像の出画予定時刻、例えば、PTS(Presentation Time Stamp)を含んでいる。
そして、出画処理部215は、出画制御部230から通知される出画指示に従って、左眼用オブジェクト画像を出画する時刻である出画予定時刻に、左眼用オブジェクト画像を出画するようにグラフィックスプレーン216及び色変換部217を制御する。さらに、出画処理部215は、第1判定部の一例であり、左眼用オブジェクト画像の出画準備が完了しているか否かを判定する。
具体的には、出画処理部215は、属性情報バッファ214に格納されているヘッダを解析する。解析の結果、ヘッダにエラーが発生している場合、出画処理部215は、左眼用オブジェクト画像の出画準備が完了していないと判定し、エラーが発生したことを示すエラー通知を出画制御部230に通知する。エラー通知は、対象となる左眼用オブジェクト画像の出画予定時刻、具体的には、対象となる左眼用オブジェクト画像のPTSを含む。
なお、ヘッダにエラーが発生している場合とは、例えば、ヘッダが予め定められた規格に従っていない場合、すなわち、ヘッダが規格外の値となっている場合である。あるいは、ヘッダが欠落しており、対象の左眼用オブジェクト画像のヘッダが属性情報バッファ214に格納されていない場合である。
また、出画処理部215は、出画制御部230から出画スキップ指示を受け取った場合、出画スキップ指示が示す時刻に対応する左眼用オブジェクト画像の出画をスキップする。具体的には、出画処理部215は、グラフィックスプレーン216の出画処理を行わないことで、左眼用オブジェクト画像の出画をスキップする。なお、グラフィックスプレーン216に書き込まれたデータは、次のオブジェクト画像の出画準備に備えてクリアされる。
グラフィックスプレーン216は、第1プレーンメモリの一例であり、左眼用オブジェクト画像を描画するために用いられる描画用のプレーンメモリである。
色変換部217は、CLUT(Color Look Up Table)を有し、左眼用オブジェクト画像をカラー表示させる。
なお、符号化されていない左眼用オブジェクト画像が左眼用オブジェクト処理部210に入力される場合は、左眼用オブジェクト処理部210は、ストリームバッファ211及びデコーダ212を備えていなくてもよい。
右眼用オブジェクト処理部220は、左眼用オブジェクト画像及び右眼用オブジェクト画像の他方である第2画像の出画準備を行って出画する第2画像処理部の一例である。右眼用オブジェクト処理部220は、符号化された右眼用オブジェクト画像を含む右眼用ストリームを復号することで、右眼用オブジェクト画像を生成する。そして、右眼用オブジェクト処理部220は、第2プレーンメモリを有し、出画準備として、生成した右眼用オブジェクト画像を第2プレーンメモリにヘッダを用いて描画し、所定の出画予定時刻に出画する。
図3に示すように、右眼用オブジェクト処理部220は、ストリームバッファ221と、デコーダ222と、オブジェクトバッファ223と、属性情報バッファ224と、出画処理部225と、グラフィックスプレーン226と、色変換部227とを備える。
ストリームバッファ221は、分離部120から出力された右眼用ストリームを格納するバッファメモリである。
デコーダ222は、ストリームバッファ221から右眼用ストリームを読み出し、読み出した右眼用ストリームを復号することで、右眼用オブジェクト画像とヘッダとを生成する。右眼用オブジェクト画像は、オブジェクトバッファ223に格納され、ヘッダは、属性情報バッファ224に格納される。
なお、ヘッダは、右眼用オブジェクト画像の属性情報を含み、例えば、右眼用オブジェクトの描画及び出画を制御するために用いられる情報を含んでいる。例えば、ヘッダは、主映像の画像サイズ及びフレームレートを示すビデオ情報、ウインドウの識別子及びウインドウサイズを示すウインドウ情報、並びに、オブジェクト画像の識別子及び切り出しサイズを示すオブジェクト制御情報などを含んでいる。また、ヘッダは、オブジェクト画像の表示位置を示す情報、及び、左眼用オブジェクト画像と右眼用オブジェクト画像とが有する視差を示す情報を含んでいる。
なお、以上に示すヘッダが示す情報のうち、ビデオ情報、ウインドウ情報及びオブジェクト制御情報は、左眼用オブジェクト画像と右眼用オブジェクト画像とで同じである。
オブジェクトバッファ223は、右眼用オブジェクト画像を保持するバッファメモリである。なお、右眼用オブジェクト画像は、例えば、ビットマップ形式の画像である。
属性情報バッファ224は、上記のヘッダを保持するバッファメモリである。
出画処理部225は、属性情報バッファ224に格納されたヘッダを用いて、右眼用オブジェクト画像の出画準備を行う。具体的には、出画処理部225は、ヘッダに含まれる属性情報に従って、オブジェクトバッファ223に格納された右眼用オブジェクト画像をグラフィックスプレーン226に描画することで出画準備を行う。出画準備が完了すると、出画処理部225は、出画準備が完了したことを示す準備完了通知を出画制御部230に通知する。準備完了通知は、出画準備が完了した右眼用オブジェクト画像の出画予定時刻、例えば、PTSを含んでいる。
そして、出画処理部225は、出画制御部230から通知される出画指示に従って、右眼用オブジェクト画像を出画する時刻である出画予定時刻に、右眼用オブジェクト画像を出画するようにグラフィックスプレーン226及び色変換部227を制御する。さらに、出画処理部225は、第2判定部の一例であり、右眼用オブジェクト画像の出画準備が完了しているか否かを判定する。
具体的には、出画処理部225は、属性情報バッファ224に格納されているヘッダを解析する。解析の結果、ヘッダにエラーが発生している場合、出画処理部225は、右眼用オブジェクト画像の出画準備が完了していないと判定し、エラーが発生したことを示すエラー通知を出画制御部230に通知する。エラー通知は、対象となる右眼用オブジェクト画像の出画予定時刻、具体的には、対象となる右眼用オブジェクト画像のPTSを含んでいる。
なお、ヘッダにエラーが発生している場合とは、例えば、ヘッダが予め定められた規格に従っていない場合、すなわち、ヘッダが規格外の値となっている場合である。あるいは、ヘッダが欠落しており、対象の右眼用オブジェクト画像のヘッダが属性情報バッファ224に格納されていない場合である。
また、出画処理部225は、出画制御部230から出画スキップ指示を受け取った場合、出画スキップ指示が示す時刻に対応する右眼用オブジェクト画像の出画をスキップする。具体的には、出画処理部225は、グラフィックスプレーン226の出画処理を行わないことで、右眼用オブジェクト画像の出画をスキップする。なお、グラフィックスプレーン226に書き込まれたデータは、次のオブジェクト画像の出画準備に備えてクリアされる。
グラフィックスプレーン226は、第2プレーンメモリの一例であり、右眼用オブジェクト画像を描画するために用いられる描画用のプレーンメモリである。
色変換部227は、CLUT(Color Look Up Table)を有し、右眼用オブジェクト画像をカラー表示させる。
なお、符号化されていない右眼用オブジェクト画像が右眼用オブジェクト処理部220に入力される場合は、右眼用オブジェクト処理部220は、ストリームバッファ221及びデコーダ222を備えていなくてもよい。
出画制御部230は、左眼用オブジェクト画像と右眼用オブジェクト画像とを同期させて出画するように、左眼用オブジェクト処理部210と右眼用オブジェクト処理部220とを制御する。図3に示すように、出画制御部230は、出画同期部231と、デコーダ制御部232とを備える。
出画同期部231は、左眼用オブジェクト画像と右眼用オブジェクト画像とを同期させる。具体的には、出画同期部231は、出画処理部215及び225から通知されるPTSに基づいて、同じPTSを有する左眼用オブジェクト画像と右眼用オブジェクト画像とを、PTSが示す同じ時刻に出画されるように、出画処理部215及び225にそれぞれ出画指示を通知する。
デコーダ制御部232は、出画処理部215及び出画処理部225の一方によって、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が完了していないと判定された場合、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップさせる。具体的には、出画処理部215及び225の一方からエラー通知を受け取った場合、デコーダ制御部232は、出画処理部215及び225の双方に出画スキップ指示を通知する。
出画スキップ指示は、出画をスキップさせるための指示であり、スキップさせる画像のPTSを含んでいる。つまり、デコーダ制御部232は、出画処理部215及び225の一方からエラー通知とともに通知されたPTSを、出画処理部215及び225の双方に出画スキップ指示として通知する。
選択部240は、左眼用オブジェクト処理部210から出画された左眼用オブジェクト画像と、右眼用オブジェクト処理部220から出画された右眼用オブジェクト画像とを1ピクチャ毎に交互に選択して、選択した画像を合成部150へ出画する。
なお、選択部240は、選択部133と同様に、三次元表示の技術として、左眼用オブジェクト画像と右眼用オブジェクト画像とを1ピクチャ毎に交互に表示させる技術を利用したものである。1枚のピクチャに左眼用オブジェクト画像と右眼用オブジェクト画像とを空間的に異なる画素毎に配置させて表示する技術を用いてもよい。その場合、オブジェクト処理部140は、選択部240の代わりに、画素毎に左眼用オブジェクト画像と右眼用オブジェクト画像とを配置させるオブジェクト画像合成部を備えればよい。
以上の構成に示すように、実施の形態1に係る三次元映像処理装置100は、主映像の復号などを行う主映像処理部130と、主映像に重畳される画像であるオブジェクト画像の復号などを行うオブジェクト処理部140とを備える。オブジェクト処理部140では、左眼用オブジェクト処理部210が左眼用ストリームを復号することで、左眼用オブジェクト画像を生成して出画し、右眼用オブジェクト処理部220が右眼用ストリームを復号することで、右眼用オブジェクト画像を生成して出画する。
また、出画制御部230は、左眼用オブジェクト画像と右眼用オブジェクト画像とを同期させて出画させる。さらに、出画制御部230は、左眼用オブジェクト画像と右眼用オブジェクト画像との一方の出画準備が完了していない場合に、具体的には、一方のヘッダにエラーが発生した場合に、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップさせる。
これにより、実施の形態1に係る三次元映像処理装置100は、出画をスキップすることで三次元表示が継続されるので、ヘッダにエラーが発生したためにオブジェクト画像が二次元表示されてしまうという、視聴者に与える不快感を軽減することができる。
続いて、実施の形態1に係るオブジェクト処理部140の動作のうち、特にエラー検出に関わる動作について説明する。なお、以下では、簡単のため、左眼用オブジェクト画像のヘッダにエラーが発生する場合について説明する。右眼用オブジェクト画像のヘッダにエラーが発生する場合については同様であるため、説明を省略する。また、ヘッダにエラーが発生する場合として、ヘッダが規格外である場合を例に説明する。
図4は、実施の形態1に係るオブジェクト処理部140のエラー検出に関わる動作を示すフローチャートである。
まず、出画処理部215は、属性情報バッファ214に格納されているヘッダを解析する(S101)。解析の結果、ヘッダが規格外であると判定した場合(S102でYes)、出画処理部215は、デコーダ制御部232に、規格外と判定されたヘッダに対応する左眼用オブジェクト画像の出画予定時刻(PTS)を含むエラー通知を通知する(S103)。デコーダ制御部232は、エラー通知を受けた場合、エラー通知が示す出画予定時刻を含む出画スキップ指示を出画処理部215及び225の双方に通知する(S104)。
出画スキップ指示を受け取った出画処理部215及び225はそれぞれ、出画予定時刻に対応する左眼用オブジェクト画像及び右眼用オブジェクト画像の出画をスキップする(S105)。そして、出画処理部215及び225はそれぞれ、グラフィックスプレーン216及び226のデータをクリアする。
なお、解析の結果、ヘッダが規格に従っていると判定した場合(S102でNo)、出画処理部215は、出画同期部231からの出画指示に従って、左眼用オブジェクト画像を出画する(S106)。出画処理部225も同様に、出画同期部231からの出画指示に従って、右眼用オブジェクト画像を出画する。
以上の処理(S101〜S106)を出画すべき次の画像がなくなるまで繰り返す(S107)。
以上のようにして、実施の形態1に係るオブジェクト処理部140は、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が完了していないことを、ヘッダを解析することで検出する。具体的には、オブジェクト処理部140は、左眼用オブジェクト画像のヘッダ及び右眼用オブジェクト画像のヘッダの一方が規格に従っているか否かを判定する。
解析(判定)の結果、ヘッダが規格外である場合は、オブジェクト処理部140は、規格外と判定した出画予定時刻の左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップする。すなわち、オブジェクト処理部140は、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方を出画せず、次のオブジェクト画像の処理を実行する。
なお、図4の説明では、左眼用オブジェクト画像にエラーが発生する場合について、特に、左眼用オブジェクト処理部210の動作について説明したが、右眼用オブジェクト処理部220も左眼用オブジェクト処理部210と同様に動作する。
上述したように、左眼用ストリームと右眼用ストリームとは独立して復号可能であるため、左眼用オブジェクト処理部210と右眼用オブジェクト処理部220とは、出画のタイミングを除いては同期させる必要はない。したがって、出画制御部230は、左眼用オブジェクト処理部210と右眼用オブジェクト処理部220とのいずれか一方からエラー通知を受け取った時点で、他方に出画スキップ指示を通知すればよい。
図5Aは、実施の形態1に係るエラー発生時に出画される画像を模式的に示す図である。
図5Aに示すように、三次元のオブジェクト画像は、左眼用オブジェクト画像(L1、L2、L3…)と右眼用オブジェクト画像(R1、R2、R3…)とから構成される。左眼用オブジェクト画像と右眼用オブジェクト画像とに視差を持たせることによって、視聴者が画像を見た際に、画像を立体的に感じることができる。
なお、一般的に、左眼用画像と右眼用画像とを三次元表示する方法には、例えば、左眼用画像と右眼用画像とを1ピクチャ毎に交互に表示する方法がある。このとき、視聴者は、左眼用液晶シャッタと右眼用液晶シャッタとを備えるシャッタメガネを装着し、シャッタの開閉を表示と同期させればよい。
具体的には、表示装置からの制御により、左眼用画像が表示されている期間は、左眼用液晶シャッタのみを開け、右眼用画像が表示されている期間は、右眼用液晶シャッタのみを開ける。これにより、視聴者は、選択的に左眼用画像を左眼で、右眼用画像を右眼で見ることができ、画像を立体的に感じることができる。
あるいは、表示装置は、左眼用画像と右眼用画像とを画素毎に1ピクチャ内に市松状に配置し、左眼用画像と右眼用画像とで異なる偏光をかけて表示させてもよい。このとき、視聴者は、左眼用偏光フィルタと右眼用偏光フィルタとを備える偏光メガネを装着すればよい。これにより、視聴者は、選択的に左眼用画像を左眼で、右眼用画像を右眼で見ることができ、画像を立体的に感じることができる。
ここで、図5Aに示すように、右眼用オブジェクト画像R2のヘッダが規格外であり、出画処理部225がエラー通知をデコーダ制御部232に通知した場合について説明する。このとき、デコーダ制御部232は、出画スキップ指示を出画処理部215及び225の双方に通知するので、右眼用オブジェクト画像R2だけではなく、左眼用オブジェクト画像L2も出画されない。
したがって、本来、左眼用オブジェクト画像L2と右眼用オブジェクト画像R2とが表示されるべき期間には、左眼用オブジェクト画像L1と右眼用オブジェクト画像R1とが三次元表示されたままとなる。
これに対して、従来であれば、エラーとなった画像の対になっている画像(ここでは、左眼用オブジェクト画像L2)が二次元表示されていたため、視聴者に不快感を与える結果となっていた。しかしながら、実施の形態1に係る三次元映像処理装置100では、三次元表示が継続されるため、視聴者の不快感を軽減することができる。
なお、図5Bに示すように、左眼用オブジェクト画像L2と右眼用オブジェクト画像R2との出画をスキップさせるだけでなく、代わりに、以前に表示された画像を消去するための消去用データを出画してもよい。
具体的には、出画処理部215及び225は、グラフィックスプレーン216及び226に消去用データを書き込む。消去用データは、グラフィックスプレーン216又は226に描画されたままの左眼用オブジェクト画像又は右眼用オブジェクト画像を消去するためのデータであり、具体的には、重畳対象の画像(例えば、左眼用主映像及び右眼用主映像)を透過させる透過画像である。したがって、本来、左眼用オブジェクト画像L2及び右眼用オブジェクト画像R2が表示されるべき期間には、何も表示されない(主映像のみが三次元表示される)。
これにより、エラーとなった画像が二次元表示されないだけでなく、1つ前の画像が継続して表示されることを防止することができる。例えば、主映像が映画であり、オブジェクト画像が字幕である場合においては、主映像が次のセリフを話す映像を表示している期間に、1つ前のセリフの字幕が表示されることを防止することができる。したがって、より視聴者の不快感を軽減することができる。
このように、消去用データを出画することで、以前に表示されていた画像を消去することができる。したがって、例えば、1つ前の字幕を消去することができるので、主映像と字幕とが一致しない場合を防ぐことができる。
以上のように、実施の形態1に係る三次元映像処理装置100では、出画制御部230は、左眼用オブジェクト画像と右眼用オブジェクト画像との一方の出画準備が完了していない場合に、具体的には、一方のヘッダにエラーが発生した場合に、言い換えると、正しく画像が表示できない場合に、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップさせる。
これにより、実施の形態1に係る三次元映像処理装置100は、エラーが発生した画像の出画をスキップすることで三次元表示が継続されるので、ヘッダにエラーが発生したためにオブジェクト画像が二次元表示されてしまうという、視聴者に与える不快感を軽減することができる。
具体的には、ヘッダが規格に従っているか否かを判定し、ヘッダが規格に従っていないと判定した場合に、双方の出画をスキップさせるので、オブジェクト画像を表示する際には三次元表示が継続される。したがって、ヘッダが規格に従っていない場合にオブジェクト画像が二次元表示されてしまうという不快感を軽減することができる。
(実施の形態2)
実施の形態2に係る三次元映像処理装置は、視差を有する、主映像に重畳される左眼用オブジェクト画像と右眼用オブジェクト画像とを出画する三次元映像処理装置であって、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方である第1画像の出画準備を行って出画する第1画像処理部と、左眼用オブジェクト画像及び右眼用オブジェクト画像の他方である第2画像の出画準備を行って出画する第2画像処理部と、第1画像と第2画像とを同期させて出画するように、第1画像処理部と第2画像処理部とを制御する出画制御部とを備え、第1画像処理部は、第1画像の出画準備が完了しているか否かを判定する第1判定部を備え、第2画像処理部は、第2画像の出画準備が完了しているか否かを判定する第2判定部を備え、出画制御部は、第1判定部によって、第1画像の出画準備が完了していないと判定され、かつ、第2判定部によって、第2画像の出画準備が完了していると判定された場合、所定の補完画像を第1画像として出画させることを特徴とする。
これにより、第1画像の出画準備が完了していない場合に補完画像を出画するので、補完画像と第2画像とで三次元表示を継続することができる。したがって、オブジェクト画像が二次元表示されてしまうという不快感を軽減することができる。
具体的には、実施の形態2に係る三次元映像処理装置は、ヘッダにエラーが発生しているか否かを判定し、ヘッダにエラーが発生していると判定した場合に、当該ヘッダに対応する画像の出画準備が完了していないと判定する。そして、ヘッダにエラーが発生している場合、エラーが発生していると判定された他方のヘッダの属性情報を用いて補完画像を生成することを特徴とする。
つまり、実施の形態2に係る三次元映像処理装置は、実施の形態1に係る三次元映像処理装置と比べて、ヘッダにエラーが発生していると判定された場合に、左眼用オブジェクト画像と右眼用オブジェクト画像との双方の出画をスキップさせるのではなく、補完画像を生成して、生成した補完画像を、エラーが発生したヘッダに対応する画像の代わりに出画する点が異なっている。
以下では、実施の形態1と同じ点は説明を省略し、異なる点を中心に説明する。具体的には、符号化ストリームの分離、及び主映像の処理については、実施の形態1と同様であるので、説明を省略し、オブジェクト画像の処理を中心に説明する。
図6は、実施の形態2に係るオブジェクト処理部140aの構成を示すブロック図である。なお、オブジェクト処理部140aは、図1に示すオブジェクト処理部140に相当する。
図6に示すオブジェクト処理部140aは、図3に示すオブジェクト処理部140と比較して、左眼用オブジェクト処理部210、右眼用オブジェクト処理部220及び出画制御部230の代わりに、左眼用オブジェクト処理部310、右眼用オブジェクト処理部320及び出画制御部330を備える点が異なっている。
具体的には、左眼用オブジェクト処理部310は、図3に示す左眼用オブジェクト処理部210と比較して、出画処理部215の代わりに出画処理部315を備える点が異なっている。右眼用オブジェクト処理部320は、図3に示す右眼用オブジェクト処理部220と比較して、出画処理部225の代わりに出画処理部325を備える点が異なっている。出画制御部330は、図3に示す出画制御部230と比較して、デコーダ制御部232の代わりにヘッダ補完部332を備える点が異なっている。
出画処理部315は、出画処理部215の動作に加えて、さらに、エラー通知を出画制御部330に通知する際に、エラーとなったヘッダに含まれる属性情報を識別する識別子をヘッダ補完部332に通知する。具体的には、出画処理部315は、属性情報毎に規格外か否かを判定し、規格外であると判定した属性情報を示す識別子を通知する。
なお、このとき、出画処理部315は、右眼用オブジェクト画像のヘッダに含まれる属性情報と、置き換え可能な属性情報、すなわち、同じ属性情報を示す識別子を通知する。具体的には、上述したビデオ情報、ウインドウ情報及びオブジェクト制御情報などである。
また、出画処理部315は、ヘッダ補完部332からヘッダ取得要求を受け取った場合、ヘッダ取得要求が示すヘッダの属性情報をヘッダ補完部332に返す。なお、ヘッダ取得要求は、エラーとなったヘッダに含まれる属性情報の識別子を含んでいる。
さらに、出画処理部315は、エラー通知を通知した後に、ヘッダ補完部332からヘッダを受け取った場合は、受け取ったヘッダの属性情報を用いて補完画像を生成し、生成した補完画像を、エラーとなったヘッダに対応する左眼用オブジェクト画像の出画予定時刻に出画する。なお、このとき、出画処理部315は、ヘッダ補完部332から受け取ったヘッダの解析を行う。具体的には、出画処理部315は、オブジェクトバッファ213から左眼用オブジェクト画像を読み出し、読み出した左眼用オブジェクト画像をグラフィックスプレーン216に、ヘッダの属性情報を用いて描画することにより、補完画像を生成する。
出画処理部325は、出画処理部225の動作に加えて、さらに、エラー通知を出画制御部330に通知する際に、エラーとなったヘッダに含まれる属性情報を識別する識別子をヘッダ補完部332に通知する。具体的には、出画処理部315は、属性情報毎に規格外か否かを判定し、規格外であると判定した属性情報を示す識別子を通知する。
なお、このとき、出画処理部325は、左眼用オブジェクト画像のヘッダに含まれる属性情報と、置き換え可能な属性情報、すなわち、同じ属性情報を示す識別子を通知する。具体的には、上述したビデオ情報、ウインドウ情報及びオブジェクト制御情報などである。
また、出画処理部325は、ヘッダ補完部332からヘッダ取得要求を受け取った場合、ヘッダ取得要求が示すヘッダの属性情報をヘッダ補完部332に返す。なお、ヘッダ取得要求は、エラーとなったヘッダに含まれる属性情報の識別子を含んでいる。
さらに、出画処理部325は、エラー通知を通知した後に、ヘッダ補完部332からヘッダを受け取った場合は、受け取ったヘッダの属性情報を用いて補完画像を生成し、生成した補完画像を、エラーとなったヘッダに対応する右眼用オブジェクト画像の出画予定時刻に出画する。なお、このとき、出画処理部325は、ヘッダ補完部332から受け取ったヘッダの解析を行う。具体的には、出画処理部325は、オブジェクトバッファ223から右眼用オブジェクト画像を読み出し、読み出した右眼用オブジェクト画像をグラフィックスプレーン226に、ヘッダの属性情報を用いて描画することにより、補完画像を生成する。
ヘッダ補完部332は、左眼用オブジェクト画像及び右眼用オブジェクト画像のいずれか一方のヘッダが規格に従っていない場合に、当該ヘッダが含む属性情報と同じ属性情報を含む他方のヘッダを取得する。具体的には、出画処理部315及び325のいずれか一方からエラー通知を受け取った場合、ヘッダ補完部332は、受け取ったエラー通知に含まれる属性情報の識別子を含むヘッダ取得要求を、出画処理部315及び325の他方へ通知する。そして、ヘッダ補完部332は、ヘッダ取得要求を受け取った出画処理部315及び325の他方から属性情報を取得し、取得した属性情報を出画処理部315及び325の一方へ返す。
以上の構成に示すように、実施の形態2に係るオブジェクト処理部140aは、ヘッダ補完部332を備え、左眼用オブジェクト処理部210及び右眼用オブジェクト処理部220のいずれか一方においてヘッダがエラーと判定された場合に、他方からヘッダの属性情報を取得し、取得したヘッダの属性情報を、エラーを検出した一方の処理部に出力する。新たにヘッダの属性情報を取得した一方の処理部は、取得した属性情報を用いて補完画像を生成し、生成した補完画像を出画する。
これにより、実施の形態2に係るオブジェクト処理部140aは、エラーが発生した画像を出画する代わりに補完画像を出画するので、ヘッダが規格外であるためにオブジェクト画像が二次元表示されてしまうという、視聴者に与える不快感を軽減することができる。さらに、エラーが発生しなければ得られていたはずの情報も補完されるので、得られていたはずの情報が得られないという不快感も軽減することができる。
続いて、実施の形態2に係るオブジェクト処理部140aの動作のうち、特にエラー検出に関わる動作について説明する。なお、以下では、簡単のため、左眼用オブジェクト画像のヘッダにエラーが発生する場合について説明する。右眼用オブジェクト画像のヘッダにエラーが発生する場合については同様であるため、説明を省略する。また、ヘッダにエラーが発生する場合として、ヘッダが規格外である場合を例に説明する。
図7は、実施の形態2に係るオブジェクト処理部140aのエラー検出に関わる動作を示すフローチャートである。
まず、出画処理部315は、属性情報バッファ214に格納されているヘッダを解析する(S201)。解析の結果、ヘッダが規格外であると判定した場合(S202でYes)、出画処理部315は、ヘッダ補完部332に、規格外と判定されたヘッダに対応する左眼用オブジェクト画像の出画予定時刻(PTS)と、エラーが発生した属性情報の識別子とを含むエラー通知を通知する(S203)。
ヘッダ補完部332は、エラー通知を受け取ると、ヘッダ取得要求を出画処理部325に通知する(S204)。出画処理部325は、ヘッダ取得要求が示す識別子に対応する属性情報をヘッダ補完部332に返す。さらに、ヘッダ補完部332は、出画処理部325から受け取った属性情報を出画処理部315に返す(S205)。出画処理部315は、再度、受け取った属性情報の解析を行う(S201)。
なお、解析の結果、ヘッダが規格に従っていると判定した場合(S202でNo)、出画処理部315は、出画同期部231からの出画指示に従って、左眼用オブジェクト画像を出画する(S206)。また、出画処理部325も同様に、出画同期部231からの出画指示に従って、右眼用オブジェクト画像を出画する。
このとき、ヘッダ補完部332から属性情報を受け取った場合は、出画処理部315は、受け取った属性情報に従って補完画像を生成し、生成した補完画像を左眼用オブジェクト画像として出画する。
以上の処理(S201〜S206)を出画すべき次の画像がなくなるまで繰り返す(S207)。
なお、出画処理部325が、ヘッダ補完部332から受け取った属性情報を解析した結果、再度、規格に従っていないと判定された場合は、例えば、実施の形態1のように、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップしてもよい。
以上のようにして、実施の形態2に係るオブジェクト処理部140aは、左眼用オブジェクト画像及び右眼用オブジェクト画像のいずれか一方の出画準備が完了していないことを、ヘッダを解析することで検出する。つまり、オブジェクト処理部140aは、左眼用オブジェクト画像のヘッダ及び右眼用オブジェクト画像のヘッダのいずれか一方が規格に従っているか否かを判定する。
解析(判定)の結果、ヘッダが規格外である場合は、オブジェクト処理部140aは、規格外と判定した出画予定時刻の左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の代わりに、左眼用オブジェクト画像及び右眼用オブジェクト画像の他方のヘッダの属性情報を用いて生成した補完画像を出画する。
なお、図7の説明では、左眼用オブジェクト画像にエラーが発生する場合について、特に、左眼用オブジェクト処理部310の動作について説明したが、右眼用オブジェクト処理部320も左眼用オブジェクト処理部310と同様に動作する。
上述したように、左眼用ストリームと右眼用ストリームとは独立して復号可能であるため、左眼用オブジェクト処理部310と右眼用オブジェクト処理部320とは、出画のタイミングを除いては同期させる必要はない。したがって、出画制御部330は、左眼用オブジェクト処理部310と右眼用オブジェクト処理部320とのいずれか一方からエラー通知を受け取った時点で、他方にエラー取得要求を通知すればよい。左眼用オブジェクト処理部310及び右眼用オブジェクト処理部320の他方がエラー取得要求を受け取った時点で、該当するヘッダがまだ属性情報バッファ214又は224に格納されていない場合は、デコーダ212又は222によって生成されるのを待って、ヘッダ補完部332に返せばよい。
図8は、実施の形態2に係るエラー発生時の出画される画像を模式的に示す図である。
図8に示すように、右眼用オブジェクト画像R2のヘッダが規格外であり、出画処理部325がエラー通知をヘッダ補完部332に通知した場合について説明する。このとき、ヘッダ補完部332は、ヘッダ取得要求を出画処理部315に通知し、出画処理部315からヘッダの属性情報を取得する。
そして、ヘッダ補完部332は、取得した属性情報を出画処理部325に返す。出画処理部325は、ヘッダ補完部332から受け取った属性情報に基づいて、補完画像を生成し、生成した補完画像を右眼用オブジェクト画像R2として、左眼用オブジェクト画像L2と同じ出画予定時刻に出画する。
これにより、図8に示すように、左眼用オブジェクト画像L2と右眼用オブジェクト画像R2とが表示されるべき期間において、左眼用オブジェクト画像L2と補完画像とが三次元表示される。したがって、三次元表示が継続されるので、視聴者の不快感を軽減することができる。
以上のように、実施の形態2に係る三次元映像処理装置100は、左眼用オブジェクト画像と右眼用オブジェクト画像とのいずれか一方の出画準備が完了していない場合に、具体的には、いずれか一方のヘッダが規格外である場合に、左眼用オブジェクト画像及び右眼用オブジェクト画像の他方のヘッダを利用して補完画像を生成し、生成した補完画像を、ヘッダが規格外と判定された画像の代わりに出画する。
これにより、実施の形態2に係る三次元映像処理装置100は、ヘッダが規格外であるためにオブジェクト画像が二次元表示されてしまうという不快感、及び、得られていたはずの情報が得られないという不快感の双方とも軽減することができる。
このように、左眼用オブジェクト画像のヘッダと右眼用オブジェクト画像のヘッダとでは共通の属性情報を含んでいるので、一方のヘッダの属性情報がエラーにより利用できない場合は、他方のヘッダの属性情報を利用することで補完画像を生成することができる。したがって、補完画像とエラーが発生していない画像とで三次元表示を継続することができるので、オブジェクト画像が二次元表示されてしまうという不快感を軽減することができる。さらに、補完画像を生成し出画することで、エラーにより表示できなかった可能性のあるオブジェクト画像を出画することができるので、視聴者により多くの情報を提供することができる。
(実施の形態3)
実施の形態3に係る三次元映像処理装置は、出画予定時刻までに左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画準備が完了しているか否かを判定する出画同期部を備え、一方の出画準備が完了していない場合、双方の出画をスキップさせることを特徴とする。
つまり、実施の形態3に係る三次元映像処理装置は、実施の形態1に係る三次元映像処理装置と比べて、ヘッダが規格外であるか否かを判定したのに対して、所定時刻までに出画準備が完了しているか否かを判定することで、出画をスキップするか否かを決定する点が異なっている。
以下では、実施の形態1と同じ点は説明を省略し、異なる点を中心に説明する。具体的には、符号化ストリームの分離、及び主映像の処理については、実施の形態1と同様であるので、説明を省略し、オブジェクト画像の処理を中心に説明する。
図9は、実施の形態3に係るオブジェクト処理部140bの構成を示すブロック図である。なお、オブジェクト処理部140bは、図1に示すオブジェクト処理部140に相当する。
図9に示すオブジェクト処理部140bは、図3に示すオブジェクト処理部140と比較して、出画制御部230の代わりに出画制御部430を備える点が異なっている。具体的には、出画制御部430は、出画同期部431と、クロック供給部432とを備える。
出画同期部431は、左眼用オブジェクト画像と右眼用オブジェクト画像とを同期させる。具体的には、出画同期部431は、出画処理部215及び225から通知される準備完了通知に含まれるPTSに基づいて、同じPTSを有する左眼用オブジェクト画像と右眼用オブジェクト画像とを、PTSが示す同じ時刻に出画されるように、出画処理部215及び225にそれぞれ出画指示を通知する。
具体的には、出画同期部431は、出画処理部215及び225のいずれか一方から準備完了通知を受け取った場合、受け取った準備完了通知に含まれるPTSが示す時刻と、クロック供給部432から供給される基準クロックとを比較することで、出画予定時刻を判断する。そして、出画同期部431は、出画処理部215及び225の他方から、同じPTSを有する画像の準備完了通知を出画予定時刻までに受け取った場合は、出画予定時刻に出画指示を出画処理部215及び225の双方に通知する。
出画処理部215及び225の他方から、同じPTSを有する画像の準備完了通知を受け取らなかった場合、すなわち、左眼用オブジェクト画像及び右眼用オブジェクト画像の他方の出画準備が完了しなかった場合、出画同期部431は、出画スキップ指示を出画処理部215及び225の双方に通知する。
クロック供給部432は、基準クロックを出画同期部431に供給する。基準クロックは、所定の周波数のクロック信号である。
以上の構成に示すように、実施の形態3に係るオブジェクト処理部140bは、左眼用オブジェクト画像と右眼用オブジェクト画像との一方の出画準備が所定の出画予定時刻までに完了していない場合に、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップする。具体的には、出画同期部431は、左眼用オブジェクト画像と右眼用オブジェクト画像とのいずれか一方から準備完了通知が通知された場合に、準備完了通知に含まれるPTSが示す時刻までに、他方から準備完了通知が通知されなかった場合に、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップさせる。
これにより、実施の形態3に係る三次元映像処理装置100によれば、出画をスキップすることで三次元表示が継続されるので、出画準備が完了した一方のオブジェクト画像が二次元表示されてしまうという、視聴者に与える不快感を軽減することができる。
続いて、実施の形態3に係るオブジェクト処理部140bの動作のうち、特に出画に関わる動作について説明する。なお、以下では、簡単のため、右眼用オブジェクト画像の出画準備が、出画予定時刻までに完了しなかった場合について説明する。左眼用オブジェクト画像の出画準備が完了しなかった場合については同様であるため、説明を省略する。
図10は、実施の形態3に係るオブジェクト処理部140bの出画に関わる動作を示すフローチャートである。
まず、出画同期部431は、出画処理部215及び225のいずれか一方から、準備完了通知を受け取るのを待機する(S301)。例えば、出画同期部431が、出画処理部215から左眼用オブジェクト画像の準備完了通知を受け取った場合(S301でYes)、クロック供給部432から供給される基準クロックと準備完了通知に含まれるPTSとを比較することで、出画予定時刻を判断する。そして、出画同期部431は、時刻が出画予定時刻に達するまでの期間、出画処理部225から右眼用オブジェクト画像の準備完了通知を受け取るのを待機する(S302)。
時刻が出画予定時刻に達した場合であり(S302でYes)、かつ、出画処理部215及び225の他方(ここでは、出画処理部225)から準備完了通知を受け取っていた場合(S303でYes)、出画同期部431は、出画指示を出画処理部215及び225に通知する。そして、出画処理部215及び225はそれぞれ、左眼用オブジェクト画像と右眼用オブジェクト画像とを、出画予定時刻に出画する(S304)。
時刻が出画予定時刻に達した場合であり(S302でYes)、かつ、出画処理部225から準備完了通知を受け取らなかった場合(S303でNo)、出画同期部431は、出画スキップ指示を出画処理部215及び225の双方に通知する(S305)。出画スキップ指示を受け取った出画処理部215及び225はそれぞれ、出画予定時刻に対応する左眼用オブジェクト画像及び右眼用オブジェクト画像の出画をスキップする(S306)。そして、出画処理部215及び225はそれぞれ、グラフィックスプレーン216及び226のデータをクリアする。
以上の処理(S301〜S306)を出画すべき次の画像がなくなるまで繰り返す(S307)。
以上のようにして、実施の形態3に係るオブジェクト処理部140bは、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が所定の出画予定時刻までに完了しているか否かを、基準クロックとの比較により判定する。
判定の結果、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が所定の出画予定時刻までに完了していないと判定された場合、オブジェクト処理部140bは、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップする。すなわち、オブジェクト処理部140bは、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方を出画せず、次のオブジェクト画像の処理を実行する。
なお、上述したように、左眼用ストリームと右眼用ストリームとは独立して復号可能であるため、左眼用オブジェクト処理部210と右眼用オブジェクト処理部220とは、出画のタイミングを除いては同期させる必要はない。したがって、出画制御部430は、左眼用オブジェクト処理部210と右眼用オブジェクト処理部220とのいずれが先に出画の準備が完了するのかを予測するのは困難であるため、上記のように、出画同期部431は、いずれかからの準備完了通知を待ってから出画予定時刻の判定を行うことが好ましい。
なお、実施の形態3に係るオブジェクト処理部140bによって処理されたオブジェクト画像の表示は、図5A及び図5Bと同様になる。
以上のように、実施の形態3に係る三次元映像処理装置100は、左眼用オブジェクト画像と右眼用オブジェクト画像との一方の出画準備が所定の出画予定時刻までに完了していない場合に、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップする。
これにより、実施の形態3に係る三次元映像処理装置100によれば、出画準備が完了しなかった画像の出画をスキップすることで三次元表示が継続されるので、準備が完了した画像が二次元表示されてしまうという、視聴者に与える不快感を軽減することができる。
(実施の形態4)
実施の形態4に係る三次元映像処理装置は、出画予定時刻までに左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画準備が完了しているか否かを判定する出画同期部を備え、出画予定時刻までにいずれか一方の出画準備が完了しており、かつ、他方の出画準備が完了していない場合、出画準備が完了している第1画像を出画準備が完了していない第2画像として出力することを特徴とする。
つまり、実施の形態4に係る三次元映像処理装置は、実施の形態3に係る三次元映像処理装置と比較して、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップさせるのではなく、準備が完了している一方の画像を準備が完了していない他方の画像として出画する点が異なっている。なお、これにより、対応する出画予定時刻の表示のみ一時的に二次元表示となる。
以下では、実施の形態3と同じ点は説明を省略し、異なる点を中心に説明する。具体的には、符号化ストリームの分離、及び主映像の処理については、実施の形態3と同様であるので、説明を省略し、オブジェクト画像の処理を中心に説明する。
図11は、実施の形態4に係るオブジェクト処理部140cの構成を示すブロック図である。なお、オブジェクト処理部140cは、図1に示すオブジェクト処理部140に相当する。
図11に示すオブジェクト処理部140cは、図9に示すオブジェクト処理部140bと比較して、左眼用オブジェクト処理部210、右眼用オブジェクト処理部220及び出画制御部430の代わりに、左眼用オブジェクト処理部510、右眼用オブジェクト処理部520及び出画制御部530を備える点が異なっている。
具体的には、左眼用オブジェクト処理部510は、左眼用オブジェクト処理部210と比較して、新たに出画セレクタ518を備える点が異なっている。右眼用オブジェクト処理部520は、右眼用オブジェクト処理部220と比較して、新たに出画セレクタ528を備える点が異なっている。出画制御部530は、出画制御部430と比較して、出画同期部431の代わりに出画同期部531を備える点が異なっている。
出画セレクタ518及び528は、色変換部217から出画される左眼用オブジェクト画像と、色変換部227から出画される右眼用オブジェクト画像とを、出画制御部530による制御に従って選択し、選択部240に出力する。例えば、出画セレクタ518及び528は、出画制御部530から通知される、選択すべき左眼用オブジェクト画像又は右眼用オブジェクト画像を示す画像選択指示に従って、画像選択指示が示す画像を選択する。
出画同期部531は、実施の形態3に係る出画同期部431と同じ動作を行う。ただし、出画同期部531は、出画予定時刻までに左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画準備が完了しなかった場合には、以下のような処理を行う。
出画予定時刻までに左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画準備が完了しなかった場合、すなわち、出画処理部215及び225のいずれか一方から準備完了通知を受け取らなかった場合、出画同期部531は、左眼用オブジェクト処理部510及び右眼用オブジェクト処理部520の双方から同一の画像が出画されるように、出画セレクタ518及び528を制御する。
例えば、出画処理部215から準備完了通知を受け取ったのに対して、出画処理部225から準備完了通知を受け取らなかった場合、出画同期部531は、出画セレクタ518及び528に、色変換部217から出画される左眼用オブジェクト画像を選択させる。つまり、出画同期部531は、左眼用オブジェクト画像を示す画像選択指示を出画セレクタ518及び528に通知する。
なお、出画セレクタ518は通常、左眼用オブジェクト画像を選択し、出画セレクタ528は通常、右眼用オブジェクト画像を選択し、出画同期部531からの選択切替指示を受けた場合にのみ、出画セレクタ518は右眼用オブジェクト画像を、出画セレクタ528は左眼用オブジェクト画像を選択してもよい。選択切替指示は、通常選択している画像とは異なる画像を選択させるための指示である。この場合、出画同期部531は、出画セレクタ518及び528のうち、出画準備が完了しなかったオブジェクト処理部が備える出画セレクタのみに選択切替指示を出力する。
以上の構成に示すように、実施の形態4に係るオブジェクト処理部140cは、左眼用オブジェクト画像と右眼用オブジェクト画像とのいずれか一方の出画準備が所定の出画予定時刻までに完了していない場合に、出画準備が完了している他方の画像を、出画準備が完了していない一方の画像として出画する。具体的には、右眼用オブジェクト画像の代わりに左眼用オブジェクト画像が、あるいは、左眼用オブジェクト画像の代わりに右眼用オブジェクト画像が出画される。つまり、当該出画予定時刻に対応するオブジェクト画像は、二次元表示される。
これにより、実施の形態4に係る三次元映像処理装置100によれば、二次元表示されてしまうというデメリットはあるが、視聴者が必要とする情報は例え二次元表示であっても表示させることができる。したがって、得られるはずだった情報が得られないという不快感を軽減することができる。
続いて、実施の形態4に係るオブジェクト処理部140cの動作のうち、特に出画に関わる動作について説明する。なお、以下では、簡単のため、右眼用オブジェクト画像の出画準備が、出画予定時刻までに完了しなかった場合について説明する。左眼用オブジェクト画像の出画準備が完了しなかった場合については同様であるため、説明を省略する。
図12は、実施の形態4に係るオブジェクト処理部140cの出画に関わる動作を示すフローチャートである。
まず、出画同期部531は、出画処理部215及び225のいずれか一方から、準備完了通知を受け取るのを待機する(S401)。例えば、出画同期部531が、出画処理部215から左眼用オブジェクト画像の準備完了通知を受け取った場合(S401でYes)、クロック供給部432から供給される基準クロックと準備完了通知に含まれるPTSとを比較することで、出画予定時刻を判断する。そして、出画同期部531は、時刻が出画予定時刻に達するまでの期間、出画処理部225から右眼用オブジェクト画像の準備完了通知を受け取るのを待機する(S402)。
時刻が出画予定時刻に達した場合であり(S402でYes)、かつ、出画処理部215及び225の他方(ここでは、出画処理部225)から準備完了通知を受け取っていた場合(S403でYes)、出画同期部531は、出画指示を出画処理部215及び225に通知する。そして、出画処理部215及び225はそれぞれ、左眼用オブジェクト画像と右眼用オブジェクト画像とを、出画予定時刻に出画する(S405)。
時刻が出画予定時刻に達した場合であり(S402でYes)、かつ、出画処理部225から準備完了通知を受け取らなかった場合(S403でNo)、出画同期部531は、準備が完了している左眼用オブジェクト画像を選択するように、出画セレクタ518及び528を制御する(S404)。そして、出画セレクタ518及び528は双方とも、準備が完了している左眼用オブジェクト画像を出画する(S405)。
以上の処理(S401〜S405)を出画すべき次の画像がなくなるまで繰り返す(S406)。
以上のようにして、実施の形態4に係るオブジェクト処理部140cは、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が所定の出画予定時刻までに完了しているか否かを、基準クロックとの比較により判定する。
判定の結果、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が所定の出画予定時刻までに完了していないと判定された場合、オブジェクト処理部140cは、準備が完了している左眼用オブジェクト画像及び右眼用オブジェクト画像の他方を、出画準備が完了していない一方の画像として出画する。
なお、上述したように、左眼用ストリームと右眼用ストリームとは独立して復号可能であるため、左眼用オブジェクト処理部510と右眼用オブジェクト処理部520とは、出画のタイミングを除いては同期させる必要はない。したがって、出画制御部530は、左眼用オブジェクト処理部510と右眼用オブジェクト処理部520とのいずれが先に出画の準備が完了するのかを予測するのは困難であるため、上記のように、出画同期部531は、いずれかからの準備完了通知を待ってから出画予定時刻の判定を行うことが好ましい。
図13は、実施の形態4に係る出画準備が完了していない場合の出画される画像を模式的に示す図である。
図13に示すように、右眼用オブジェクト画像R2の出画準備が完了していない場合について説明する。このとき、出画同期部531は、出画セレクタ518及び528を制御することで、出画準備が完了している左眼用オブジェクト画像L2を選択させる。これにより、図13に示すように、右眼用オブジェクト画像R2の代わりに左眼用オブジェクト画像L2が表示されるので、左眼用オブジェクト画像L2と右眼用オブジェクト画像R2とが表示されるべき期間において、左眼用オブジェクト画像が二次元表示される。
これにより、表示は二次元となることで、視聴者に多少の不快感を与えるかもしれないが、視聴者に提供すべき情報は表示させることができる。したがって、視聴者は、必要とする情報が失われることなく全ての情報を見ることができるので、情報が失われることで生じる不快感を軽減することができる。
以上のように、実施の形態4に係る三次元映像処理装置100は、左眼用オブジェクト画像と右眼用オブジェクト画像との一方の出画準備が所定の出画予定時刻までに完了していない場合に、出画準備が完了している他方の画像を、出画準備が完了していない一方の画像として出画する。
これにより、実施の形態4に係る三次元映像処理装置100によれば、二次元表示されてしまうというデメリットはあるが、視聴者が必要とする情報は例え二次元表示であっても表示させることができる。したがって、得られるはずだった情報が得られないという不快感を軽減することができる。
(実施の形態5)
実施の形態5に係る三次元映像処理装置は、左眼用オブジェクト画像又は右眼用オブジェクト画像が以前に表示された画像を消去するための消去用データであるか否かを判定する。そして、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方である第1画像の出画準備が完了していないと判定し、かつ、左眼用オブジェクト画像及び右眼用オブジェクト画像の他方である第2画像の出画準備が完了していると判定し、さらに、第1画像又は第2画像が消去用データであると判定した場合に、第2画像を第1画像として出画することを特徴とする。
つまり、実施の形態5に係る三次元映像処理装置は、実施の形態4に係る三次元映像処理装置と比べて、出画準備が完了している画像が消去用データであるか否かを判定し、消去用データである場合に、当該消去用データを左眼用オブジェクト画像及び右眼用オブジェクト画像として出画する点が異なっている。
以下では、実施の形態4と同じ点は説明を省略し、異なる点を中心に説明する。具体的には、符号化ストリームの分離、及び主映像の処理については、実施の形態4と同様であるので説明を省略し、オブジェクト画像の処理を中心に説明する。
図14は、実施の形態5に係るオブジェクト処理部140dの構成を示すブロック図である。なお、オブジェクト処理部140dは、図1に示すオブジェクト処理部140に相当する。
図14に示すオブジェクト処理部140dは、図11に示すオブジェクト処理部140cと比較して、出画制御部530の代わりに出画制御部630を備える点が異なっている。具体的には、出画制御部630は、図10に示す出画制御部530と比較して、出画同期部531の代わりに出画同期部631を備え、さらに、新たに消去用データ判別部633を備える点が異なっている。
出画同期部631は、実施の形態5に係る出画同期部531と同じ動作を行う。さらに、出画同期部631は、時刻が出画予定時刻になった場合であって、かつ、左眼用オブジェクト画像及び右眼用オブジェクト画像の他方の出画準備が完了していない場合に、消去用データ判別部633に同期遅れ通知を通知する。
同期遅れ通知は、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備は完了しているが、他方の出画準備は完了していないことを示す通知である。同期遅れ通知は、出画準備が完了していない画像と、出画準備が完了している画像とを示す情報を含んでいる。
消去用データ判別部633は、出画準備が完了している画像が、以前に表示された画像を消去するための消去用データであるか否かを判定する。具体的には、消去用データ判別部633は、出画同期部631から同期遅れ通知を受け取った場合に、グラフィックスプレーン216及び226の一方と、色変換部217及び227の一方とから、出画準備が完了している画像が消去用データであるか否かを判定する。なお、消去用データは、具体的には、重畳対象の画像(例えば、左眼用主映像及び右眼用主映像)を透過させる透過画像である。
なお、消去用データの判定には、出画処理部215及び225が、グラフィックスプレーン216及び226に描画を行ったか否かを判定してもよい。グラフィックスプレーン216及び226に描画を行っていない場合が、出画準備が完了している画像が消去用データである場合である。
消去用データ判別部633は、出画準備が完了している画像が消去用データであると判定した場合、消去用データを選択するように出画セレクタ518及び528を制御する。出画準備が完了している画像が消去用データではないと判定した場合、消去用データ判別部633は、出画処理部215及び225の双方に出画スキップ指示を通知する。
以上の構成に示すように、実施の形態5に係るオブジェクト処理部140dは、所定の出画予定時刻までに、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が完了し、他方の出画準備が完了しなかった場合に、出画準備が完了した画像が消去用データであるか否かを判定する。消去用データであった場合、オブジェクト処理部140dは、左眼用オブジェクト画像及び右眼用オブジェクト画像として当該消去用データを出力する。消去用データではない場合、オブジェクト処理部140dは、当該出画予定時刻に対応する左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップする。
これにより、消去用データは透過画像であり、表示が二次元であっても三次元であってもよいので、消去用データを出画することにより、以前に表示されていた画像を消すことができるとともに、表示が二次元となることはない。したがって、オブジェクト画像が二次元表示されてしまうという不快感を軽減することができるとともに、出画予定時刻の異なる画像が表示されたままになることを防ぐこともできる。
続いて、実施の形態5に係るオブジェクト処理部140dの動作のうち、特に出画に関わる動作について説明する。なお、以下では、簡単のため、右眼用オブジェクト画像の出画準備が、出画予定時刻までに完了しなかった場合について説明する。左眼用オブジェクト画像の出画準備が完了しなかった場合については同様であるため、説明を省略する。
図15は、実施の形態4に係るオブジェクト処理部140cの出画に関わる動作を示すフローチャートである。
まず、出画同期部631は、出画処理部215及び225のいずれか一方から、準備完了通知を受け取るのを待機する(S501)。例えば、出画同期部631が、出画処理部215から左眼用オブジェクト画像の準備完了通知を受け取った場合(S501でYes)、クロック供給部432から供給される基準クロックと準備完了通知に含まれるPTSとを比較することで、出画予定時刻を判断する。そして、出画同期部631は、時刻が出画予定時刻に達するまでの期間、出画処理部225から右眼用オブジェクト画像の準備完了通知を受け取るのを待機する(S502)。
時刻が出画予定時刻に達した場合であり(S502でYes)、かつ、出画処理部215及び225の他方(ここでは、出画処理部225)から準備完了通知を受け取っていた場合(S503でYes)、出画同期部631は、出画指示を出画処理部215及び225に通知する。そして、出画処理部215及び225はそれぞれ、左眼用オブジェクト画像と右眼用オブジェクト画像とを、出画予定時刻に出画する(S506)。
時刻が出画予定時刻に達した場合であり(S502でYes)、かつ、出画処理部225から準備完了通知を受け取らなかった場合(S503でNo)、出画同期部631は、同期遅れ通知を消去用データ判別部633に通知する。同期遅れ通知を受け取った消去用データ判別部633は、出画準備が完了した左眼用オブジェクト画像が消去用データであるか否かを判定する(S504)。
出画準備が完了した左眼用オブジェクト画像が消去用データであると判定した場合(S504でYes)、消去用データ判別部633は、準備が完了している左眼用オブジェクト画像を選択するように、出画セレクタ518及び528を制御する(S505)。そして、出画セレクタ518及び528は双方とも、準備が完了している左眼用オブジェクト画像、すなわち、消去用データを出画する(S506)。
出画準備が完了した左眼用オブジェクト画像が消去用データではないと判定した場合(S504でNo)、消去用データ判別部633は、出画処理部215及び225に出画スキップ指示を通知する(S507)。出画スキップ指示を受け取った出画処理部215及び225はそれぞれ、出画予定時刻に対応する左眼用オブジェクト画像及び右眼用オブジェクト画像の出画をスキップする(S508)。出画処理部215及び225はそれぞれ、グラフィックスプレーン216及び226のデータをクリアする。
以上の処理(S501〜S508)を出画すべき次の画像がなくなるまで繰り返す(S509)。
以上のようにして、実施の形態5に係るオブジェクト処理部140dは、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が所定の出画予定時刻までに完了しているか否かを、基準クロックとの比較により判定する。判定の結果、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が所定の出画予定時刻までに完了していないと判定された場合、オブジェクト処理部140dは、出画準備が完了している画像が消去用データであるか否かを判定する。
消去用データである場合は、オブジェクト処理部140dは、準備が完了している左眼用オブジェクト画像及び右眼用オブジェクト画像の他方を、出画準備が完了していない一方の画像として、すなわち、消去用データを出画する。消去用データではない場合は、オブジェクト処理部140dは、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップする。
図16は、実施の形態5に係る出画準備が完了していない場合の出画される画像を模式的に示す図である。
図16に示すように、右眼用オブジェクト画像R2及びR4の出画準備が完了していない場合について説明する。なお、このとき、右眼用オブジェクト画像R2は、消去用データであるとする。
このとき、左眼用オブジェクト画像L2及び右眼用オブジェクト画像R2を表示すべき期間において、消去用データ判別部633は、出画セレクタ518及び519を制御することで、出画準備が完了している左眼用オブジェクト画像L2、すなわち、消去用データを選択させる。これにより、図16に示すように、右眼用オブジェクト画像R2の代わりに左眼用オブジェクト画像L2、すなわち、透過画像(消去用データ)が表示される。
また、左眼用オブジェクト画像L4及び右眼用オブジェクト画像R4を表示すべき期間においては、消去用データ判別部633は、出画処理部215及び225に出画スキップ指示を通知する。これにより、左眼用オブジェクト画像L4及び右眼用オブジェクト画像R4が表示されるべき期間において、左眼用オブジェクト画像L3及び右眼用オブジェクト画像R3が表示されたままとなる。
このように、消去用データは透過画像であり、表示が二次元であっても三次元であってもよいので、消去用データを出画することにより、以前に表示されていた画像を消すことができるとともに、表示が二次元となることはない。また、消去用データでない場合は、出画をスキップさせるので、実施の形態1と同様に三次元表示を継続させることができる。したがって、オブジェクト画像が二次元表示されてしまうという不快感を軽減することができるとともに、出画予定時刻の異なる画像が表示されたままになることを防ぐこともできる。
以上のように、実施の形態5に係る三次元映像処理装置100は、左眼用オブジェクト画像と右眼用オブジェクト画像との一方の出画準備が所定の出画予定時刻までに完了していない場合であって、対象となる画像が消去用データである場合、出画準備が完了している他方の画像、すなわち、消去用データを、出画準備が完了していない一方の画像として出画する。
これにより、消去用データは透過画像であり、表示が二次元であっても三次元であってもよいので、消去用データを出画することにより、以前に表示されていた画像を消すことができるとともに、表示が二次元となることはない。したがって、オブジェクト画像が二次元表示されてしまうという不快感を軽減することができるとともに、出画予定時刻の異なる画像が表示されたままになることを防ぐこともできる。
(実施の形態6)
実施の形態6に係る三次元映像処理装置は、出画制御部は、現在の左眼用オブジェクト画像の準備完了通知及び現在の右眼用オブジェクト画像の準備完了通知の一方が通知されていない場合であって、かつ、次の左眼用オブジェクト画像及び次の右眼用オブジェクト画像が出画されるまでの期間である残り期間が所定の閾値より大きい期間内に、現在の準備完了通知及び現在の準備完了通知の一方を受け取った場合は、現在の左眼用オブジェクト画像及び現在の右眼用オブジェクト画像を出画させる。そして、残り期間が上記閾値に達した際に、現在の準備完了通知及び現在の準備完了通知の一方を受け取らなかった場合、現在の左眼用オブジェクト画像及び現在の右眼用オブジェクト画像の双方の出画をスキップさせることを特徴とする。
言い換えると、実施の形態6に係る三次元映像処理装置は、現在の左眼用オブジェクト画像及び現在の右眼用オブジェクト画像の一方の出画準備が完了していないと判定された場合であって、かつ、次の左眼用オブジェクト画像及び右眼用オブジェクト画像が出画されるまでの期間である残り期間が所定の閾値より大きい期間内に現在の左眼用オブジェクト画像及び現在の右眼用オブジェクト画像の双方の出画準備が完了した場合は、現在の左眼用オブジェクト画像と現在の右眼用オブジェクト画像とを出画させる。そして、残り期間が上記閾値に達したときに現在の左眼用オブジェクト画像及び現在の右眼用オブジェクト画像の一方の出画準備が完了しなかった場合、現在の左眼用オブジェクト画像及び現在の右眼用オブジェクト画像の双方の出画をスキップさせる。
つまり、実施の形態6に係る三次元映像処理装置は、実施の形態3に係る三次元映像処理装置と比較して、現在の左眼用オブジェクト画像及び現在の右眼用オブジェクト画像の出画予定時刻に達すると直ちに出画をスキップするのではなく、所定の期間だけ出画準備の完了を待機する。その上で、所定の期間経過しても出画準備が完了しなかった場合には、双方の出画をスキップする点が異なっている。
以下では、実施の形態3と同じ点は説明を省略し、異なる点を中心に説明する。具体的には、符号化ストリームの分離、及び主映像の処理については、実施の形態3と同様であるので説明を省略し、オブジェクト画像の処理を中心に説明する。
図17は、実施の形態6に係るオブジェクト処理部140eの構成を示すブロック図である。なお、オブジェクト処理部140eは、図1に示すオブジェクト処理部140に相当する。
図17に示すオブジェクト処理部140eは、図9に示すオブジェクト処理部140bと比較して、出画制御部430の代わりに出画制御部730を備える点が異なっている。具体的には、出画制御部730は、出画同期部731と、クロック供給部732と、同期待ち判定部733とを備える。
出画同期部731は、実施の形態3に係る出画同期部431と同じ動作を行う。ただし、出画同期部731は、出画予定時刻までに左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画準備が完了しなかった場合には、以下のような処理を行う。
出画予定時刻までに左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画準備が完了しなかった場合、すなわち、出画処理部215及び225のいずれか一方から準備完了通知を受け取らなかった場合、直ちに出画スキップ指示を通知するのではなく、所定の期間待機する。言い換えると、出画同期部731は、次の左眼用オブジェクト画像及び右眼用オブジェクト画像が出画されるまでの期間である残り期間が所定の閾値より大きい期間、出画スキップ指示を出力するのを待機する。
出画同期部731は、待機中に、現在の左眼用オブジェクト画像及び現在の右眼用オブジェクト画像の双方の出画準備が完了した場合、すなわち、出画処理部215及び225の他方から準備完了通知を受け取った場合は、出画指示を出画処理部215及び225に通知する。また、出画同期部731は、待機中に、次の出画予定時刻の左眼用オブジェクト画像及び右眼用オブジェクト画像の準備完了通知を受け取った場合、同期待ち判定部733に次の出画予定時刻(PTS)を通知する。
また、出画同期部731は、同期待ち判定部733から同期待ちキャンセル通知を受けた場合に、出画スキップ指示を出画処理部215及び225に通知する。同期待ちキャンセル通知は、出画同期部731に出画スキップ指示を通知させるための通知であり、出画をスキップさせる対象のPTSを含んでいる。
クロック供給部732は、基準クロックを出画同期部731と同期待ち判定部733とに供給する。基準クロックは、所定の周波数のクロック信号である。
同期待ち判定部733は、出画同期部731から次のPTSを受け取った場合、次のPTSが示す時刻と、クロック供給部732から供給される基準クロックとを比較することで、次の画像の出画予定時刻を判断する。つまり、同期待ち判定部733は、次の画像の出画予定時刻と現在の時刻とから、出画同期部731により出画を待機させている現在の画像の残り期間を判断する。
同期待ち判定部733は、残り期間が所定の閾値以下になった場合、出画同期部731に同期待ちキャンセル通知を通知する。所定の閾値は、例えば、1枚の左眼用オブジェクト画像及び右眼用オブジェクト画像を出画すべき期間の半分、又は、0などである。
以上の構成により、実施の形態6に係るオブジェクト処理部140eは、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が完了していない場合、所定の期間だけ出画準備が完了するのを待機する。そして、オブジェクト処理部140eは、所定の期間経過しても出画準備が完了していない場合は、左眼用オブジェクト画像及び右眼用オブジェクト画像の出画をスキップする。
これにより、少しでも画像が出画されるようにすることができるので、本来得られるはずだった情報が得られないという不快感を軽減することができる。さらに、出画準備が期間内に完了しなかった場合は、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップさせるので三次元表示を継続させることができる。したがって、表示が二次元になるという不快感も軽減することができる。
続いて、実施の形態6に係るオブジェクト処理部140eの動作のうち、特に出画に関わる動作について説明する。なお、以下では、簡単のため、右眼用オブジェクト画像の出画準備が、出画予定時刻までに完了しなかった場合について説明する。左眼用オブジェクト画像の出画準備が完了しなかった場合については同様であるため、説明を省略する。
図18は、実施の形態6に係るオブジェクト処理部140eの出画に関わる動作を示すフローチャートである。
まず、出画同期部731は、出画処理部215及び225のいずれか一方から、準備完了通知を受け取るのを待機する(S601)。例えば、出画同期部731が、出画処理部215から左眼用オブジェクト画像の準備完了通知を受け取った場合(S601でYes)、クロック供給部732から供給される基準クロックと準備完了通知に含まれるPTSとを比較することで、出画予定時刻を判断する。そして、出画同期部731は、時刻が出画予定時刻に達するまでの期間、出画処理部225から右眼用オブジェクト画像の準備完了通知を受け取るのを待機する(S602)。
時刻が出画予定時刻に達した場合であり(S602でYes)、かつ、出画処理部215及び225の他方(ここでは、出画処理部225)から準備完了通知を受け取っていた場合(S603でYes)、出画同期部731は、出画指示を出画処理部215及び225に通知する。そして、出画処理部215及び225はそれぞれ、左眼用オブジェクト画像と右眼用オブジェクト画像とを、出画予定時刻に出画する(S607)。
時刻が出画予定時刻に達した場合であり(S602でYes)、かつ、出画処理部225から準備完了通知を受け取らなかった場合(S603でNo)、出画同期部731は、次の画像を出画するまでに残された残り期間が閾値より大きい場合、待機する(S604)。具体的には、出画同期部731は、同期待ち判定部733から同期待ちキャンセル通知を受けるまで待機する。
待機している期間(S604でYes)において、他方の準備が完了した場合(S603でYes)、出画同期部731は、出画指示を出画処理部215及び225に通知する。これにより、出画処理部215及び225はそれぞれ、左眼用オブジェクト画像と右眼用オブジェクト画像とを出画予定時刻に出画する(S607)。
他方からの準備完了通知が通知されないまま、残り期間が閾値に達した場合(S604でNo)、同期待ち判定部733は、同期待ちキャンセル通知を出画同期部731に通知し、出画同期部731は、出画スキップ指示を出画処理部215及び225の双方に通知する(S605)。出画スキップ指示を受け取った出画処理部215及び225はそれぞれ、出画予定時刻に対応する左眼用オブジェクト画像及び右眼用オブジェクト画像の出画をスキップする(S606)。そして、出画処理部215及び225はそれぞれ、グラフィックスプレーン216及び226のデータをクリアする。
以上の処理(S601〜S607)を出画すべき次の画像がなくなるまで繰り返す(S608)。
以上のようにして、実施の形態6に係るオブジェクト処理部140eは、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が所定の出画予定時刻までに完了しているか否かを、基準クロックとの比較により判定する。
判定の結果、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が所定の出画予定時刻までに完了していないと判定された場合、オブジェクト処理部140eは、次の画像を出画するまでに残された残り期間が閾値より大きい期間、双方の出画準備が完了するのを待機する。双方の出画準備が完了せずに、残り期間が閾値に達した場合、オブジェクト処理部140eは、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップする。すなわち、オブジェクト処理部140eは、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方を出画せず、次のオブジェクト画像の処理を実行する。
図19は、実施の形態6に係る出画準備が完了していない場合の出画される画像を模式的に示す図である。
図19に示すように、右眼用オブジェクト画像R2の出画準備が完了していない場合について説明する。右眼用オブジェクト画像R2の出画準備が完了していない場合、オブジェクト処理部140eは、左眼用オブジェクト画像L2の出画を待機する。
所定の期間内に、すなわち、次の左眼用オブジェクト画像L3及び右眼用オブジェクト画像R3を出画するまでに残された残り期間が閾値より大きい期間に、右眼用オブジェクト画像R2の出画準備が完了した場合、左眼用オブジェクト画像L2と右眼用オブジェクト画像R2とを出画する。したがって、図19に示すように、本来、左眼用オブジェクト画像L2と右眼用オブジェクト画像R2とが出画されるべき期間よりも少ない期間であるが、左眼用オブジェクト画像L2と右眼用オブジェクト画像R2とが出画される。なお、待機中は、左眼用オブジェクト画像L1と右眼用オブジェクト画像R1とが出画されたままとなる。
これにより、三次元表示が継続されるので、表示が二次元になるという不快感を軽減することができる。
以上のように、実施の形態6に係る三次元映像処理装置100は、左眼用オブジェクト画像及び右眼用オブジェクト画像の一方の出画準備が完了していない場合、所定の期間だけ出画準備が完了するのを待機する。所定の期間内に出画準備が完了した場合は、左眼用オブジェクト画像及び右眼用オブジェクト画像を出画し、所定の期間経過しても出画準備が完了していない場合は、左眼用オブジェクト画像及び右眼用オブジェクト画像の出画をスキップする。
これにより、少しでも画像が出画されるようにすることができるので、本来得られるはずだった情報が得られないという不快感を軽減することができる。さらに、出画準備が期間内に完了しなかった場合は、左眼用オブジェクト画像及び右眼用オブジェクト画像の双方の出画をスキップさせるので三次元表示を継続させることができる。したがって、表示が二次元になるという不快感も軽減することができる。
以上、本発明に係る三次元映像処理装置及び三次元映像処理方法について、実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を当該実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本発明の範囲内に含まれる。
上記の各装置は、具体的には、マイクロプロセッサ、ROM(Read Only Memory)、RAM、ハードディスクユニット、ディスプレイユニット、キーボード、マウスなどから構成されるコンピュータシステムである。RAM又はハードディスクユニットには、コンピュータプログラムが記憶されている。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、各装置は、その機能を達成する。ここでコンピュータプログラムは、所定の機能を達成するために、コンピュータに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
上記の各装置を構成する構成要素の一部又は全部は、1個のシステムLSI(Large Scale Integration)から構成されているとしてもよい。システムLSIは、複数の構成要素を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM、RAMなどを含んで構成されるコンピュータシステムである。RAMには、コンピュータプログラムが記憶されている。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、システムLSIは、その機能を達成する。
上記の各装置を構成する構成要素の一部又は全部は、各装置に脱着可能なICカード又は単体のモジュールから構成されているとしてもよい。ICカード又はモジュールは、マイクロプロセッサ、ROM、RAMなどから構成されるコンピュータシステムである。ICカード又はモジュールは、上記の超多機能LSIを含むとしてもよい。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、ICカード又はモジュールは、その機能を達成する。このICカード又はモジュールは、耐タンパ性を有するとしてもよい。
また、本発明は、上記に示す方法であるとしてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしてもよいし、コンピュータプログラムからなるデジタル信号であるとしてもよい。
また、本発明は、コンピュータプログラム又はデジタル信号をコンピュータ読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO(Magneto−Optical Disk)、DVD(Digital Versatile Disc)、DVD−ROM、DVD−RAM、BD、半導体メモリなどに記録したものとしてもよい。また、これらの記録媒体に記録されているデジタル信号であるとしてもよい。
また、本発明は、コンピュータプログラム又はデジタル信号を、電気通信回線、無線又は有線通信回線、インターネットを代表とするネットワーク、データ放送などを経由して伝送するものとしてもよい。
また、本発明は、マイクロプロセッサとメモリを備えたコンピュータシステムであって、メモリは、上記コンピュータプログラムを記憶しており、マイクロプロセッサは、コンピュータプログラムに従って動作するとしてもよい。
また、プログラム又はデジタル信号を記録媒体に記録して移送することにより、あるいはプログラム又はデジタル信号を、ネットワークなどを経由して移送することにより、独立した他のコンピュータシステムにより実施するとしてもよい。