JP6127311B2 - 3d再生装置、テレビ受像機、3d再生方法、プログラム、及びプログラムを記憶した記憶媒体 - Google Patents

3d再生装置、テレビ受像機、3d再生方法、プログラム、及びプログラムを記憶した記憶媒体 Download PDF

Info

Publication number
JP6127311B2
JP6127311B2 JP2012172392A JP2012172392A JP6127311B2 JP 6127311 B2 JP6127311 B2 JP 6127311B2 JP 2012172392 A JP2012172392 A JP 2012172392A JP 2012172392 A JP2012172392 A JP 2012172392A JP 6127311 B2 JP6127311 B2 JP 6127311B2
Authority
JP
Japan
Prior art keywords
video
frame image
eye
frame
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012172392A
Other languages
English (en)
Other versions
JP2013128266A (ja
Inventor
亨 堀井
亨 堀井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2012172392A priority Critical patent/JP6127311B2/ja
Publication of JP2013128266A publication Critical patent/JP2013128266A/ja
Application granted granted Critical
Publication of JP6127311B2 publication Critical patent/JP6127311B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、3D再生装置、3D再生装置に実行させるためのプログラム、テレビ受像機、プログラムを記憶した記憶媒体に関する。
シャッターグラス方式にて3D映像を表示する場合、映像を左目用フレーム画像と右目用フレーム画像に分割し、それぞれを交互にディスプレイに表示出力する。また、交互に表示される左目用フレーム画像と右目用フレーム画像に合わせて3Dメガネに備えられたシャッターを開閉する。具体的には、左目用フレーム画像が表示されるタイミングで左目のシャッターを開いて右目のシャッターを閉じ、右目用フレーム画像が表示されるタイミングで右目のシャッターを開いて左目のシャッターを閉じる。
一画面において一の3D映像が表示するのが一般的であるが、マルチウインドウ表示が可能なディスプレイにおいては一画面において複数の3D映像を表示することも考えられる。しかしながら、複数の3D映像を同時に表示する場合、3D映像に独特の問題も発生する。例えば、異なる3D映像を一画面に同時に表示すると、奥行き感や飛び出し感が3D映像ごとに異なるため、視聴者に違和感を与える場合もある。特許文献1においては、奥行き感や飛び出し感の異なる複数の3D映像を同時に表示する際に視聴者に与える違和感を抑制するため、各3D映像の右目用フレーム画像と左目用フレーム画像の視差量を調整する映像表示装置が開示されている。
WO11/086932号公報
一方、3D映像にはフォーマットや方式が異なるものが存在し、表示装置側で行われる映像処理もフォーマットなどに応じてそれぞれ異なる。例えば、プログレッシブ方式のフレームパッキング映像信号については、パッキングされている映像信号を左目用と右目用に分割し、ノイズリダクションやデジャダ処理等の映像処理を施し、映像出力する処理を行う。また、インターレース方式のサイドバイサイド映像信号については、ノイズリダクション処理やデジャダ処理以外にもi/p変換処理やスケーリング処理を施す必要がある。このように、3D映像のフォーマットなどの違いによって必要な映像処理の内容が異なってくるため、映像処理時間にも差が生じる。その結果、複数の3D映像を同時に表示しようとすると、各3D映像のフレーム画像の左右位相がずれてしまうことがある。つまり、一の3D映像の右目用フレーム画像を表示すると同時に他の3D映像の左目用フレーム画像を表示してしまったり、一の3D映像の左目用フレーム画像を表示すると同時に他の3D映像の右目用フレーム画像を表示してしまったりする。さらに、3D映像としては、フレームレートの値が異なるものも存在し、24Hzのものもあれば、60Hzのものもある。このとき、3Dメガネの左右のシャッターの開閉動作を一の3D映像のフレームレートに合わせてしまうと他の3D映像のフレームレートに合わなくなってしまうという問題もある。
上記の課題を解決するために、本発明の一態様として、異なるフレームレートを有する複数の3D映像を受けつける受付部と、前記複数の3D映像のフレームレートが同一となるように変換する変換部と、各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを同期する同期部と、同期した各3D映像のフレーム画像をマルチウインドウ表示する表示出力部と、を有する3D再生装置などを提案する。
以上のような構成をとる本発明は、複数の3D映像のフレームレートをそろえ、各3D映像情報を処理するための時間を算出し、各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを同期させることが可能である。このため、本発明の3D再生装置は、異なる方式の複数の3D映像をマルチウインドウ方式で同時に表示することが可能になる。つまり、一の3D映像の右目用フレーム画像を表示している際に他の3D映像の右目用フレーム画像を同時に表示し、一の3D映像の左目用フレーム画像を表示している際に他の3D映像の左目用フレーム画像を同時に表示することができる。
実施形態1の3D再生装置の機能ブロックの一例を示す図 処理時間を用いて表示タイミングを同期させる方法の一例を示す図 実施形態1の3D再生装置の具体的なハードウェア構成の一例を示す図 実施形態1の3D再生装置を用いた場合の具体例を示す図 実施形態1の3D再生装置の処理の流れの一例を示す図 実施形態2の3D再生装置の機能ブロックの一例を示す図 実施形態2の3D再生装置の処理の流れの一例を示す図 実施形態3の3D再生装置の機能ブロックの一例を示す図 実施形態3の3D再生装置の処理の流れの一例を示す図 実施形態4の3D再生装置の機能ブロックの一例を示す図 実施形態4の3D再生装置を用いた同期回復方法の一例を示す図 実施形態4の3D再生装置の処理の流れの一例を示す図 実施形態5の3D再生装置の機能ブロックの一例を示す図 実施形態5の3D再生装置を用いた同期回復方法の一例を示す図 実施形態6の3D再生装置の機能ブロックの一例を示す図 実施形態6の3D再生装置の処理の流れの一例を示す図
以下に、本発明にかかる3D再生装置の実施形態を説明する。実施形態と請求項の相互の関係は、以下のとおりである。実施形態1では主に請求項1、8、9、10について説明し、実施形態2では主に請求項2、9、10について説明し、実施形態3では主に請求項3、9、10について説明し、実施形態4では主に請求項4、5、6、9、10について説明し、実施形態5では主に請求項7、9、10について説明する。なお、本発明はこれらの実施形態に何ら限定されるものではなく、その要旨を逸脱しない範囲内において、種々なる態様で実施しうる。
<<実施形態1>>
<概要>
本実施形態の3D再生装置は、異なるフレームレートを有する複数の3D映像のフレームレートを同一となるように変換し、各3D映像情報を処理するための時間を算出し、当該処理時間の情報を用いて各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを同期し、同期した各3D映像のフレーム画像をマルチウインドウ出力する点に特徴を有する。これにより、異なる方式の複数の3D映像をマルチウインドウ方式で同時に表示することが可能になる。
<構成>
図1は、本実施形態の3D再生装置の機能ブロックの一例を示す図である。この図にあるように、「3D再生装置」0100は、「受付部」0101と、「変換部」0102と、「処理時間算出部」0103と、「同期部」0104と、「表示出力部」0105を有する。3D再生装置としては、テレビ受像機や汎用コンピュータ、スクリーンディスプレイ装置、などが挙げられる。
「受付部」は、異なるフレームレートを有する複数の3D映像情報を受けつける。ここで、受付部における複数の3D映像情報の受け付けは、例えば放送波受信手段や、外部機器情報受信手段や、ネットワーク情報受信手段、内部記録情報取得手段により行われる。
放送波受信手段は、アンテナによって受信された地上又は衛星デジタル放送波を入力するためのチューナやデコーダなどからなる。放送波受信手段は、アンテナが受信した映像信号を取得し、取得した信号に対して選局処理及び復調処理を行い、映像情報を変換部に出力する。また、外部機器情報受信手段は、HDMI(登録商標、以下略)規格、USB規格、IEEE1394規格などの種々の規格に準じた接続端子やドライバなどからなる。外部機器情報受信手段は、接続端子に接続されたHDMI規格などの外部機器や、光ディスク・磁気ディスク・USBメモリ・SDカードなどの外部記録装置などから映像情報を取得し、変換部に出力する。また、ネットワーク情報受信手段は、LANやWAN、インターネットなどのネットワークに接続するためのネットワークカードやドライバなどからなる。ネットワーク情報受信手段は、ネットワークを介して接続されたコンテンツサーバ装置などから映像情報を受信し、映像情報を変換部に出力する。また、内部記録情報取得手段は、内部記録媒体としての光ディスクや磁気ディスク、フラッシュメモリ等から映像情報を取得し、変換部に出力する。なお、受付部は上記映像取得手段に限定されるものではなく、3D映像情報を取得して、変換部に出力することが可能なものであれば足りる。また、複数の3D映像情報は、複数種類の映像取得手段によって受けつける必要はなく、単一種類の映像取得手段によって行われてもよい。例えば、一又は複数のネットワーク情報受信手段を用いて、異なるコンテンツサーバ装置から複数の3D映像情報を受信してもよい。
「変換部」は、前記複数の3D映像のフレームレートが同一となるように変換する。ここで、複数の3D映像のフレームレートを同一とするために、複数の3D映像のうち全部の3D映像のフレームレートを変換してもよいし、一部の3D映像のフレームレートを変換してもよい。なお、変換後のフレームレートの値は特に限定されるものではない。例えば、複数の3D映像のフレームレートの公倍数に変換することが考えられる。具体的には、24Hzの3D映像と60Hzの3D映像を受信している場合、それぞれの3D映像を120Hzに変換してもよいし、240Hz、360Hzなどに変換してもよい。ただし、公倍数以外の値に変換することも可能である。具体的には、24Hzの3D映像と60Hzの3D映像を受信している場合、24Hzの3D映像を60Hzに変換してもよい。
また、フレームレートの変換の方法としては、様々な方法が可能である。例えば、フレームレートを公倍数に増やす場合、新たなフレーム画像(右目用フレーム画像又は左目用フレーム画像)の挿入箇所の前又は後にある同位相のフレーム画像(同じ目用のフレーム画像、以下同様)をコピーして追加してもよいし、フレーム画像の挿入箇所の前にある一以上の同位相のフレーム画像と後にある一以上の同位相のフレーム画像に基づいて補間処理を行って生成されるフレーム画像を追加してもよい。また、視覚の残像効果を利用して、ブランク画像を挿入してもよい。また、フレームレートを公倍数以外の値に変換する場合、足りないフレーム数の分だけ追加したり、余分なフレーム数の分だけ削除したりする。フレームの追加や削除の仕方は特に限定されるものではないが、3D映像の連続するフレーム画像間の内容変化が大きい時点に対して優先的にフレームを追加したり、内容変化が小さい時点のフレームを優先的に削除したりすることが考えられる。
変換部は、複数の3D映像に対する処理を並行して行うことが可能なように、対応する複数の映像処理手段を備えている。ここで、フレームレートを変換する映像処理手段としては、DSP、GPU、MPUなどの演算処理回路や、フレームレートコンバータなどの専用処理回路が挙げられる。変換部は、複数の3D映像のフレームレートが同一となるように変換し、変換した3D映像のデータを同期部に対して出力する。ここで、受け付けた各3D映像に対応する各映像処理回路から同期部に対して同一のタイミングで処理後のデータを出力することが好ましい。ただし、同一のタイミングで処理後のデータを出力したとしても、左右の位相がずれている(逆位相となっている)場合もあるため、以下で述べる処理時間算出部や同期部の処理が必要となる。つまり、ある映像処理回路からは右目用のフレーム画像から出力されるが、他の映像処理回路からは左目用のフレーム画像が出力されるような状況が発生し得る。
「処理時間算出部」は、各3D映像情報を処理するための処理時間を算出する。ここで、処理時間算出部は、例えば各3D映像の一のフレーム画像の情報が受付部に入力されてから、そのフレーム画像の処理後の画像情報が同期部に対して出力されるまでの処理時間を算出する。ここで、3D映像情報の処理内容としては、上記フレームレート変換処理の他に、フレームシーケンシャル方式への変換処理、i/p変換処理、デジタルノイズリダクション処理、デジャダ処理、スケーリング処理などが挙げられる。
フレームシーケンシャル方式への変換処理は、受付部にて受け付けた3D映像情報において右目用フレーム画像と左目用フレーム画像が混在している場合、右目用フレーム画像と左目用フレーム画像を分離して、時分割して交互に配列する処理を行うものである。例えば受付部にてサイドバイサイド方式の3D映像を受け付けた場合、右目用フレーム画像と左目用フレーム画像を分離し、分離した左右フレーム画像を水平方向に伸張し、交互に配列する処理を行う。また、受付部にてフレームパッキング方式(ラインバイライン方式)の3D映像を受け付けた場合、右目用フレーム画像と左目用フレーム画像を分離し、分離した左右フレーム画像を垂直方向に伸張し、交互に配列する処理を行う。
i/p変換処理は、インターレース方式(飛び越し走査方式)の映像をプログレッシブ方式(順次走査方式)の映像に変換する処理である。また、デジタルノイズリダクション処理は、映像信号に混在するノイズを、デジタル処理により低減する処理である。例えば、映像の右目用フレーム画像又は左目用フレーム画像ごとのフレーム差分からノイズを検出し、除去する処理などが挙げられる。また、映像信号から輝度信号と色信号を分離して、輝度信号及び色信号中のノイズを検出して除去する処理なども含まれる。また、デジャダ処理は、映像のブレ表示や不連続表示を抑制する処理である。また、スケーリング処理は、映像の画面サイズや解像度を変換する処理である。例えば、16:9映像を4:3サイズに合わせるために映像の左右両端をカットしたり、4:3映像を16:9サイズに合わせるために上下両端をカットしたりする処理が挙げられる。また、標準画質の映像を、補間処理によって高画質の映像に変換する処理も含まれる。
上記各処理を行うか否かの判断は、3D映像のフレームレートやフォーマットに応じて行う。例えば、60Hzと120Hzの3D映像を受け付けた場合、60Hzの3D映像のみを120Hzに変換することが考えられる。また、フレームパッキングされている3D映像は、フレームシーケンシャル方式へ変換する必要があるが、左目用画像と右目用画像が時分割された状態の3D映像情報を受け付けた場合は当該変換処理を行う必要はない。また、上述のように、インターレース方式のサイドバイサイド映像信号については、ノイズリダクション処理やデジャダ処理以外にもi/p変換処理やスケーリング処理を施す必要がある。また、各3D映像について同じ種類の処理を行う場合であっても、異なる処理時間となり得る。例えば、24Hzと60Hzの3D映像を受け付けた場合、24Hzの3D映像を120Hzの3D映像に変換する処理は、60Hzの3D映像を120Hzの3D映像に変換する処理よりも多く時間を要する。また、フレームシーケンシャル方式へ変換する処理やスケーリングする処理も、受けつける3D映像の解像度やサイズに応じて処理時間が変化する。このように、各3D映像情報を受付部にて受け付けて同期部に対して出力するまでの処理は、3D映像の種類ごとに異なるものであり、処理時間もそれぞれ異なる。
処理時間算出部が各3D映像情報の処理時間を算出する方法としては、各映像処理回路について3D映像のフォーマットや方式ごとに、映像の受け付けから同期部に対して出力されるまでの処理時間を対応付けてテーブル情報として保持しておき、当該テーブル情報に基づいて各3D映像の処理時間を算出することが考えられる。また、処理時間を算出する他の方法として、実際に3D映像の一部(例えば、出だし部分)を処理してみて、その処理にかかる時間を計時する方法が挙げられる。ここで、各映像処理回路にて受け付ける3D映像が切り替わるごとに各3D映像について処理時間を計時することが好ましい。また、映像処理回路において、3D映像情報の処理の他に、他の処理が時分割で並行して行われる場合、各映像処理回路に対して他の処理タスクが追加又は削除された時点で改めて処理時間を計時することも好ましい。
「同期部」は、各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを算出された処理時間を用いて同期する。同期された各3D映像は、表示出力部に対して出力される。ここで、表示タイミングを同期するとは、ディスプレイにて表示される各3D映像の左右位相を揃えることをいう。例えば、一の3D映像の右目用フレーム画像がビデオメモリの所定アドレス領域に出力されるとともに、他の3D映像の右目用フレーム画像がビデオメモリの所定アドレス領域に出力されるようにし、複数の3D映像の右目用フレーム画像からなる合成画像を生成可能にするものである。
図2は、処理時間を用いて表示タイミングを同期させる方法の一例を示す図である。まず、ステップS0201において、変換部から同期部に入力される各3D映像が右目用フレーム画像であるか左目用フレーム画像であるかを各3D映像の処理時間に基づいて判断する。次に、ステップS0202において、各3D映像のフレームの左右位相を揃えるために、フレームを遅延させるべき3D映像を選択する。次に、ステップS0203において、選択された3D映像のフレームを一フレーム分だけ遅延させる。上記の同期方法は、各3D映像のフレームが同期部に入力されるタイミングが同一である場合の方法であるが、各3D映像のフレームが同期部に入力されるタイミングがずれている場合もある。この場合は、映像処理回路からの各3D映像の入力を揃えるため、各3D映像が右目用フレーム画像又は左目用フレーム画像であるか判断する前に、最後の3D映像の入力を受け付けるまで、他の3D映像の入力データを同期部のバッファにて一時的に保持し、データの入力タイミングを揃えることが考えられる。
「表示出力部」は、同期した各3D映像のフレーム画像をマルチウインドウ表示する。ここで、マルチウインドウ表示の一例としては、一のディスプレイの表示領域を複数に分割し、同期した各3D映像のフレーム画像を各表示領域にて表示することが挙げられる。また、複数のディスプレイに対して同期した各3D映像のフレーム画像をそれぞれ表示することも含まれる。一のディスプレイにてマルチウインドウ表示する場合、表示出力部は同期部から入力される同期した各3D映像を合成して一つの画像として表示出力する。
「L/R信号出力部」は、表示出力部にて表示する同期した各3D映像のフレーム画像の左右位相に合わせて、L/R信号を出力する。つまり、表示出力部にて表示するフレーム画像が右目用フレーム画像に切り替わる際にR信号を出力し、左目用フレーム画像に切り替わる際にL信号を出力する。
「シャッター制御部」は、L/R信号出力部からのL/R信号を受信して、3Dメガネの左右のシャッターを制御する。具体的には、L/R信号出力部からR信号を受信すると、右目シャッターを開き、左目シャッターを閉じる。また、L/R信号出力部からL信号を受信すると、右目シャッターを閉じ、左目シャッターを開く。
<具体的な構成>
図3は、本実施形態の3D再生装置の具体的なハードウェア構成の一例を示す図である。この図にあるように、3D再生装置は、「CPU」0301と、「RAM」0302と、「ビデオメモリ」0303と、「不揮発性メモリ」0304と、複数の「映像処理回路」0305と、複数の「映像入力I/F」0306と、「同期処理回路」0307と、「表示ディスプレイ」0308と、「ディスプレイI/F」0309と、「スピーカー」0310と、「スピーカーI/F」0311、「命令送信I/F」0312などから構成される。各ハードウェアは、「システムバス」0313により相互に連結され、信号のやり取りを行うことが可能である。
3D装置は、各映像入力I/Fを介して3D映像の入力を受け付ける。各映像処理回路は、映像入力I/Fを介して入力される3D映像のフォーマット・フレームレートなどを検出し、処理演算装置に対して検出情報を通知する。処理演算装置は、各3D映像の検出情報から、ディスプレイにて表示出力する際の共通のフレームレートを決定し、決定されたフレームレートの値を映像処理回路に通知する。各映像処理回路は、処理演算装置から通知されたフレームレートの値に基づいて、3D映像のフレームレートを変換する処理を行う。また、各映像処理回路は、入力された3D映像のフォーマットなどに合わせて、フレームシーケンシャル方式への変換処理、i/p変換処理、デジタルノイズリダクション処理、スケーリング処理などを行う。なお、各映像処理回路は、ユーザの設定情報に応じて、各処理の要否判断を行ってもよい。
各映像処理回路にて処理が行われた3D映像は、同期処理回路に対して上記決定された共通のフレームレートで同時に出力される。ここで、処理演算装置は、各映像処理回路にて行われた処理内容に基づいて、各映像処理にどれくらいの時間がかかるか3D映像ごとに算出する。そして、当該映像処理時間に基づいて、各映像処理回路から同期処理回路に対して右目用フレーム画像又は左目用フレーム画像のいずれが出力されるかを3D映像ごとに判断する。そして、処理演算装置は、同期処理回路からビデオメモリに出力される3D映像の左右位相を揃えるために、フレームと一フレーム分だけ遅延させるべき3D映像を選択し、同期処理回路に対して選択された3D映像のフレームを一フレーム時間分だけ遅延させるための命令信号を伝送する。同期処理回路は、映像処理回路と同数の遅延処理回路を内部に備え、受信した命令信号に基づいて選択された3D映像のフレームを一フレーム時間分だけ遅延処理回路にて遅延させ、ビデオメモリの所定のアドレスにデータ出力する。なお、同期処理回路は、選択されなかった3D映像のフレームを遅延させることなく、フレーム画像をビデオメモリの所定のアドレスにデータ出力する。ビデオメモリは、各3D映像のフレーム画像のデータを一の合成画面データとして格納する。処理演算装置は、ディスプレイI/Fを介してビデオメモリに格納された合成画面データを表示ディスプレイに出力する。また、処理演算装置は、スピーカーI/Fを介して3D映像のいずれか一の音声データをスピーカーに出力する。また、処理演算装置は、表示する3D映像の左右位相に合わせて、3Dメガネの各目用のシャッターを開閉させるための命令信号を命令送信I/Fを介して送信する。命令信号を受信した3Dメガネのシャッター制御部は、右目用の映像がディスプレイに表示されているときに右目シャッターを開いて左目シャッターを閉じ、左目用の映像がディスプレイに表示されているときに右目シャッターを閉じて左目シャッターを開く。
図4は、本実施形態の3D再生装置を用いた場合の具体例を示す図である。この図において、チューナを介して受信した3D映像を映像処理ブロック1で映像処理した後、そのフレーム画像の左右位相は、外部入力やストリーミングサービス、マルチメディアファイルから取得した3D映像を映像処理ブロック2で映像処理した後のフレーム画像の左右位相と1フレーム分だけずれている。つまり、映像処理ブロック1からL1のフレーム画像がL/R同期処理ブロックに対して出力されると同時に、映像処理ブロック2〜4からR1のフレーム画像が出力される。このため、L/R同期処理ブロックにおいて、映像処理ブロック1から入力される3D映像のフレームを1フレーム分だけ遅延させる処理を行う。その結果、マルチウインドウディスプレイには、各3D映像の左右位相がそろった状態で表示される。つまり、チューナから取得された3D映像のR0のフレーム画像が表示されると同時に外部入力やストリーミングサービス、マルチメディアファイルから取得した3D映像のR1のフレーム画像が表示され、チューナから取得された3D映像のL1のフレーム画像が表示されると同時に外部入力やストリーミングサービス、マルチメディアファイルから取得した3D映像のL2のフレーム画像が表示される。また、マルチウインドウディスプレイにて右目用のフレーム画像が表示される際に3Dメガネに対して右目シャッターを開いて左目シャッターを閉じるR命令を送信し、左目用のフレーム画像が表示される際に3Dメガネに対して左目シャッターを開いて右目シャッターを閉じるL命令を送信する。
<処理の流れ>
図5は、本実施形態の3D再生装置の処理の流れの一例を示す図である。以下に述べる処理は3D再生装置にて実行されるプログラムによって実現され、そのプログラムは記憶媒体に記憶させることが可能である。まず、ステップS0501において、異なるフレームレートを有する複数の3D映像情報を受けつけたか否か判断する(受付ステップ)。ここでの判断が受け付けたとの判断である場合は、ステップS0502に進む。ここでの判断が受け付けていないとの判断である場合は、待機する。次に、ステップS0502において、前記複数の3D映像のフレームレートが同一となるように変換する(変換ステップ)。次に、ステップS0503において、各3D映像情報を処理するための時間を算出する(処理時間算出ステップ)。次に、ステップS0504において、各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを算出された処理時間を用いて同期する(同期ステップ)。次に、ステップS0505において、同期した各3D映像のフレーム画像をマルチウインドウ表示する(表示出力ステップ)。
<効果>
以上のような構成をとる本発明は、異なる方式の複数の3D映像をマルチウインドウ方式で同時に出力することが可能になる。
<<実施形態2>>
<概要>
本実施形態の3D再生装置は、基本的に実施形態1の3D再生装置と同様であるが、各3D映像のフレームレートを、それらの公倍数であるフレームレートに変換してフレームレートを揃えることを特徴とする。
<構成>
図6は、本実施形態の3D再生装置の機能ブロックの一例を示す図である。この図にあるように、「3D再生装置」0600は、「受付部」0601と、「変換部」0602と、「処理時間算出部」0603と、「同期部」0604と、「表示出力部」0605を有し、「変換部」は「公倍変換手段」0606を有する。以下、実施形態1との相違点である公倍変換手段について説明する。
「公倍変換手段」は、前記各3D映像のフレームレートを、それらの公倍数であるフレームレートに変換する。例えば、異なるフレームレートを有する3つの3D映像が入力される場合を考える。3D映像(A)は24Hzのフレームレートを有し、3D映像(B)は60Hzのフレームレートを有し、3D映像(C)は120Hzのフレームレートを有する場合、各3D映像のフレームレートの公倍数である120Hzや240Hzのフレームレートに変換する処理を行う。ただし、フレームレートを不必要に増やすと映像処理回路の負荷が高くなるため、最小公倍数かその数倍程度のフレームレートの値とすることが好ましい。
各3D映像のフレームレートを、それらの公倍数であるフレームレートに変換する方法としては、実施形態1で述べたように、新たなフレーム画像(右目用フレーム画像又は左目用フレーム画像)の挿入箇所の前又は後にある同位相のフレーム画像(同じ目用のフレーム画像、以下同様)をコピーして追加してもよいし、フレーム画像の挿入箇所の前にある一以上の同位相のフレーム画像と後にある一以上の同位相のフレーム画像に基づいて補間処理を行って生成されるフレーム画像を追加してもよい。また、視覚の残像効果を利用して、ブランク画像を挿入してもよい。このような、各3D映像のフレームレートをその公倍数に変換する処理は、単に等間隔でフレームを挿入すればよいため、シンプルな処理で済み、映像処理回路の負荷が少なくて済む。
<処理の流れ>
図7は、本実施形態の3D再生装置の処理の流れの一例を示す図である。以下に述べる処理は3D再生装置にて実行されるプログラムによって実現され、そのプログラムは記憶媒体に記憶させることが可能である。まず、ステップS0701において、異なるフレームレートを有する複数の3D映像情報を受けつけたか否か判断する(受付ステップ)。ここでの判断が受け付けたとの判断である場合は、ステップS0702に進む。ここでの判断が受け付けていないとの判断である場合は、待機する。次に、ステップS0702において、各3D映像のフレームレートを、それらの公倍数であるフレームレートに変換する(変換ステップ:公倍変換ステップ)。次に、ステップS0703において、各3D映像情報を処理するための時間を算出する(処理時間算出ステップ)。次に、ステップS0704において、各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを算出された処理時間を用いて同期する(同期ステップ)。次に、ステップS0705において、同期した各3D映像のフレーム画像をマルチウインドウ表示する(表示出力ステップ)。
<効果>
本実施形態の3D再生装置は、異なる方式の複数の3D映像をマルチウインドウ方式で同時に出力することが可能であり、かつ、フレームレートの変換に伴って映像処理回路などにかかる負荷を抑えることが可能である。
<<実施形態3>>
<概要>
本実施形態の3D再生装置は、基本的に実施形態1と同様であるが、そろった状態で同時に出力される各3D映像のフレーム画像が右目用又は左目用のいずれかあるかを判断し、少数派となる右目用フレーム画像を左目用フレーム画像に入れ替え、又は少数派となる左目用画像を右目用フレーム画像に入れ替えることを特徴とする。
<構成>
図8は、本実施形態の3D再生装置の機能ブロックの一例を示す図である。この図にあるように、「3D再生装置」0800は、「受付部」0801と、「変換部」0802と、「処理時間算出部」0803と、「同期部」0804と、「表示出力部」0805を有し、「同期部」は「位相判断手段」0806と、「入替手段」0807を有する。
「位相判断手段」は、各3D映像のフレームの入力をそろえ、そろった状態で各3D映像のフレーム画像が右目用又は左目用のいずれであるかを判断する。同期部に対する各3D映像のフレームの入力は、各3D映像に対する処理量に応じて変わり得る。そこで、位相判断手段は、入力される各3D映像のタイミングをそろえる処理を行う。入力タイミングをそろえるために、位相判断手段は、最後の3D映像の映像処理が終了するまで、他の3D映像の入力データをバッファにて保持しておく。最後の3D映像の映像処理が終了するタイミングは、その3D映像の処理時間に基づいて判断してもよいし、その3D映像の入力開始をもって判断してもよい。
さらに、位相判断手段は、各3D映像のフレームの入力がそろった状態で各3D映像のフレーム画像が右目用又は左目用のいずれであるかを判断する。ここで、各3D映像のフレーム画像の情報に、右目用又は左目用であることを示す識別子が存在する場合は、当該識別子の情報に基づいて判断してもよい。また、変換部において各3D映像のフレームレートを変換する際に各3D映像のフレームの並び順の情報を取得することによって、各3D映像のフレーム画像が右目用であるか左目用であるかを判断することもできる。
「入替手段」は、右目用フレーム画像が少数派である場合は右目用フレーム画像を左目用フレーム画像に入れ替え、左目用フレーム画像が少数派である場合は左目用画像を右目用フレーム画像に入れ替える。ここで、入替手段は、位相判断手段の判断結果を取得して、右目用フレーム画像と左目用フレーム画像のいずれが少数派であるかを判断することが可能である。右目用フレーム画像を左目用フレーム画像に(左目用フレーム画像を右目用フレーム画像に)入れ替える方法としては、実施形態1で述べたように、入れ替えを行う3D映像を1フレーム分だけ遅延させて、右目用フレーム画像が出力されるタイミングを遅らせることが考えられる。この場合、右目用フレーム画像の前に出力される左目用フレーム画像も同様に1フレーム分だけ遅延することになり、右目用フレーム画像に代わって出力される。
なお、右目用フレーム画像を左目用フレーム画像に(左目用フレーム画像を右目用フレーム画像に)入れ替える他の方法としては、入れ替えを行う右目用フレーム画像の次に出力されるはずであった左目用フレーム画像を右目用フレーム画像に代えて出力する方法が挙げられる。また、入れ替えを行う右目用フレーム画像の前に出力された左目用フレーム画像を右目用フレーム画像に代えて再度出力する方法も可能である。
<処理の流れ>
図9は、本実施形態の3D再生装置の処理の流れの一例を示す図である。以下に述べる処理は3D再生装置にて実行されるプログラムによって実現され、そのプログラムは記憶媒体に記憶させることが可能である。まず、ステップS0901において、異なるフレームレートを有する複数の3D映像情報を受けつけたか否か判断する(受付ステップ)。ここでの判断が受け付けたとの判断である場合は、ステップS0902に進む。ここでの判断が受け付けていないとの判断である場合は、待機する。次に、ステップS0902において、前記複数の3D映像のフレームレートが同一となるように変換する(変換ステップ)。次に、ステップS0903において、各3D映像情報を処理するための時間を算出する(処理時間算出ステップ)。次に、ステップS0904において、算出された処理時間を用いて各3D映像のフレームの入力をそろえ、そろった状態で各3D映像のフレーム画像が右目用又は左目用のいずれであるかを判断する(同期ステップ:判断サブステップ)。次に、ステップS0905において、右目用フレーム画像が少数派である場合は右目用フレーム画像を左目用フレーム画像に入れ替え、左目用フレーム画像が少数派である場合は左目用画像を右目用フレーム画像に入れ替える(同期ステップ:入替サブステップ)。次に、ステップS0906において、同期した各3D映像のフレーム画像をマルチウインドウ表示する(表示出力ステップ)。
<効果>
本実施形態の3D再生装置は、異なる方式の複数の3D映像をマルチウインドウ方式で同時に出力することが可能である。
<<実施形態4>>
<概要>
本実施形態の3D再生装置は、基本的に実施形態1と同様であるが、変換に際して、受けつけた3D映像情報が規格で定められた周波数からずれを有する信号である場合に略同一となるように変換する手段と、変換された複数の3D映像情報のなかの少なくとも二つの3D映像情報のフレーム出力タイミングが同期部で実行した同期から所定の範囲でずれた場合に同期を復帰する手段を有することを特徴とする。特に、本実施形態には、同期を回復する手段が出力の遅延する映像にフレームを付加することで同期の回復を行うように構成されているものが含まれる。
<構成>
図10は、本実施形態の3D再生装置の機能ブロックの一例を示す図である。この図にあるように、「3D再生装置」1000は、「受付部」1001と、「変換部」1002と、「処理時間算出部」1003と、「同期部」1004と、「表示出力部」1005と、「同期復帰部」1006を有し、「変換部」は「略変換手段」1007を有する。以下、実施形態1との相違点である略変換手段及び同期復帰部について説明する。
「略変換手段」は、複数の3D映像のフレームレートの変換に際して、受付部が受けつけた3D映像情報が規格で定められた周波数からずれを有する信号である場合には、これら複数の3D映像のフレームレートが略同一となるように変換する。略変換手段を設ける理由は以下のとおりである。
実際の映像信号は規格で定められた周波数のとおりであるとは限らず、信号波形の時間的なずれであるジッタが生じることなどにより規格で定められた周波数からずれることがあり得る。例えば、規格では60Hzの信号であっても実際には60.3Hzとなっていることがある。このような場合には、異なるフレームレートを有する複数の3D映像情報のフレームレートを同一にするための変換に際して、実施形態1で述べたような変換後のフレームレートが各フレームレートの公倍数になるように変換するといった単純な方法を用いることはできない。そこで、略変換手段を設けることで、受けつけた3D映像情報が規格で定められた周波数からずれを有する信号である場合に略同一となるように変換することが可能となる。略変換手段がこのような変換を行うための具体的構成については後述する。
また、「同期復帰部」は、略変換手段にて変換された複数の3D映像情報のなかの少なくとも二つの3D映像情報のフレーム出力タイミングが同期部で実行した同期から所定の範囲でずれた場合に同期を復帰する。
ところで、規格で定められた周波数からのずれが生じる場合としては、大別すると(1)リアルタイムで送信される放送波における周波数のずれが生じる場合と、(2)放送波で送信された3D映像情報をDVDなどの記録媒体に記録した結果、記録された3D映像情報に規格で定められた周波数からのずれが生じている場合が考えられる。前者の場合には、時々刻々変化する周波数のずれの程度を予め知ることは困難であり、リアルタイムに周波数のずれを検知してこれに応じた略変換、同期復帰処理を行うことになる。後者の場合には、時々刻々変化する周波数のずれを予め知ることが可能である。この場合にもリアルタイムで周波数のずれを検知してこれに応じた略変換、同期復帰処理を行ってもよいが、予めわかっている周波数のずれの程度に応じて略変換、同期復帰処理のための演算を予め行った上でその演算結果に従った処理を行うようにしてもよい。本実施形態の3D再生装置によれば、いずれの場合をも対象として略変換、同期復帰処理を行うことが可能である。
以下、本実施形態の3D再生装置を用いた略変換、同期復帰処理のための具体的構成について説明する。ここでは、二つの3D映像情報A、Bの周波数が、規格ではAが60Hz、Bが24Hzであるが実際にはAが60.3Hz、Bが24.1Hzである場合の例で説明する。
この場合、既述のような両映像情報の周波数の公倍数を求める方法をそのまま適用することはできないため、まず、略変換手段がAの周波数60.3Hz、Bの周波数24.1Hzのそれぞれを丸めた数字である60Hz、24Hzに直す。その上で略変換手段は演算によりこれらの最小公倍数である120Hzを求める。さらに、略変換手段は、この演算結果と、二つの3D映像の実際の周波数60.3Hz、24.1Hzとに基づいて、これら二つの3D映像のフレームレートを120.6Hz、120.5Hzに変換する。これにより、略変換手段による二つの3D映像のフレームレートが略同一となるような変換が完了する。ただし、フレームレートを120.6Hz、120.5Hzに変換した二つの3D映像情報をそのまま出力したのでは、周波数の低い3D映像情報Bの出力が遅延し、同期がずれてしまうことになる。そこで、同期回復部が、この違いを解消して両映像の出力の同期を回復するための処理を行う。具体的な同期回復の方法としては、出力の遅延している映像にフレームを付加し、あるいはこれに出力が先行する映像からフレームを削除する方法が考えられ、このような処理により両映像のフレームの出力タイミングを再び一致させることができる。
出力の遅延している映像にフレームを付加する具体的な方法にはさらに複数のものが考えられる。例えば一つの方法として、遅延している3D映像の出力フレームの一部を繰り返し重複出力することで同期を復帰する方法が考えられる。また、他の方法として、遅延している3D映像の出力フレームの一部に代えてコンピュータが無視できる信号(例えば、空ファイルからなる信号)を出力する方法が考えられる。前者の方法は、常に何らかの実映像を含むフレームが出力されるので、視聴者に対して違和感を与えずに済むというメリットがある半面、次のフレームの出力タイミングを一致させるためにフレームの途中で出力が打ち切られてしまうため、エラーが生じやすいというデメリットがある。後者の方法は、前者の方法とは逆のメリット、デメリットがある。そこで、実際にどちらの方法を用いるかは、これらのメリット、デメリットなどを考慮した上で適切に選択されるべきものである。
以下では、まず前者の方法、即ち遅延している3D映像の出力フレームの一部を繰り返し重複出力することで同期を復帰する方法について説明する。
この方法を実現するための構成として、図10に示す例では、本実施形態の3D再生装置の同期回復部は「重複復帰手段」1008を有する。「重複復帰手段」は、遅延している3D映像の出力フレームの一部を繰り返し重複出力することで同期を復帰するように構成されている。上述の例に即せば、二つの3D映像情報A、Bのうち、そのまま出力した場合に遅延することになる3D映像情報Bの出力フレームの一部を繰り返し重複出力する。かかる繰り返し出力を可能にするためには、出力したフレームをバッファメモリ等に保存しておくようにすればよい。この場合、重複して出力されるフレームはその直前のフレームであってもよい(即ち同一のフレームが連続的に出力されるものであってもよい)し、それ以前に出力されたフレームであってもよい。ただし、視聴者に違和感を与えない観点からは前者の方が望ましい。
図11は、本実施形態の3D再生装置を用いた同期回復方法の一例を示す図である。本図は、変換後のフレームレートが異なるA、B二つの3D映像情報が入力された場合において、出力の同期がずれた場合における同期回復の具体的方法の一例について示している。例えば3D映像情報Aのフレームレートが120.6Hzであり、3D映像情報Bのフレームレートが120.5Hzであるとすると、周波数の低い3D映像情報Bの出力タイミングが次第に遅延していく。図11(a)は、初期段階での入力及び出力状態を示す。この段階においては両映像のフレームの出力のタイミングはほぼ一致している。本図では明確には現れていないものの、両映像のフレームレートが異なる以上両映像のフレームの出力タイミングがぴったりと一致しているわけではないが、その差は微差であり、視聴者に違和感を与えるほどではない。従って、入力された映像情報をそのまま出力して差支えない。
しかし、入力される両映像のフレームのタイミングのずれは段階が進むにつれて徐々に広がっていくので、これをそのまま出力し続けていくと、やがて出力されるフレームのタイミングに視聴者に違和感を与える程度のずれが生じることになる。そこで、同期復帰部は、両映像のフレームのタイミングのずれを監視し、このずれが視聴者に違和感を与える程度に広がったことを検知した場合に、「同期部で実行した同期から所定の範囲でずれた」と判断して同期を復帰する処理を行う。この「所定の範囲」は、経験則などに基づいて一般的な視聴者に違和感を与える範囲を設定しておけばよく、具体的には、例えば「1フレームの出力に要する時間の5%を超える範囲」とすることが考えられる。図11(b)は、両映像のフレームのタイミングのずれが所定の範囲(t)に達した状態を示す。
そこで、同期回復部は、かかる状態を検知し、「同期部で実行した同期から所定の範囲でずれた」と判断して同期を復帰する処理を行う。図11(c)は、(b)に示したのと同様の入力状態において、重複復帰手段が遅延している3D映像の出力フレームの一部を繰り返し重複出力することで同期を復帰するための具体的な要領の一例を示している。本図の例では、3D映像Bの出力フレームとして、右端に示す「Rn−2」1101の出力に続けて、(b)と同様に「Ln−2」1102のフレームの出力を開始するが、(b)の場合と異なり、3D映像Aの「Ln−2」1103のフレームの出力終了のタイミングと同時に「Ln−2」1102のフレームの出力を終了する。即ち、「Ln−2」1102のフレームの出力は途中で止められることになる。これにより、次のフレームの出力を3D映像A、B同時に開始することができる状態になる。そこで、次に3D映像Aの「Rn−1」1104のフレームの出力開始のタイミングと同時に3D映像Bの「Rn−2」1105のフレームの出力を開始し、続けて「Ln−2」1106のフレームの出力を行う。この場合、遅延している3D映像Bの「Rn−1」、「Ln−1」のフレームはこの時点ではまだ処理回路への入力が完了していないため出力することはできない(図11(b)に示される「Rn−1」の出力開始タイミングにならないと出力を開始できないため、当該時刻までには(c)にt0で示した時間待つ必要がある)ので、既に出力準備のできている「Rn−2」、「Ln−2」のフレームを再度出力する。以後も3D映像Bが3D映像Aに対して初期段階と比較して1ペアずつ遅れた状態で出力されていき、次に所定の範囲でずれた状態となったときに再び同様の同期回復処理が行われ、以後も同様の処理を繰り返していけばよい。なお、3D映像Aと3D映像Bはもともと異なる内容の映像を単に同じ画面にマルチ表示しているだけであるから、フレームの出力タイミングが初期段階とずれることには何らの問題もない。
次に、遅延している3D映像の出力フレームの一部に代えてコンピュータが無視できる信号(例えば、空ファイルからなる信号)を出力する方法についても、上と基本的に同様であって、例えば図11(c)で示した「Ln−2」1102に代えてこのような信号を出力すればよい(それに続く「Rn−2」の出力は同じである)。あるいは、「Ln−2」1102、「Rn−2」1105及び「Ln−2」1106に代えてこの間ずっとコンピュータが無視できる信号を出力し続けてもよい。この場合には、「Ln−2」1102だけに代えてコンピュータが無視できる信号を出力する場合よりも視聴者にとっての違和感は相対的に増すことになり、また「Rn−2」のフレームは一度も出力されることがないため、再生されない映像が生じることになるが、半面、「Ln−2」のフレームは一度しか出力されないため、視聴者に同じ映像を二回見せるという処理を避けることができる。
<具体的な構成>
次に、本実施形態の3D再生装置の具体的なハードウェア構成について説明するが、基本的には実施形態1で説明したところと同様であるので、ここでは本実施形態に特有の略変換手段と同期回復部(特に重複復帰手段)に係るハードウェア構成について説明する。各映像処理回路は、実施形態1で説明したのと同様の構成により処理演算装置から通知されたフレームレートの値に基づいて3D映像のフレームレートを変換する処理を行うが、その際、各フレームレートに規格で定められた周波数からのずれがある場合には、まず当該フレームレートを丸めた数字に直す。各フレームレートに規格で定められた周波数からのずれがあるかどうかの判断は、例えば予め放送局や放送信号の形式ごとに定められているフレームレートを記憶装置に記憶しておき、取得した3D映像情報のフレームレートと、記憶装置からメインメモリに読み出した当該3D映像情報に係る上記フレームレートを比較することで可能である。また、ずれがあると判断されたフレームレートを丸めた数字に直す場合には通例は規格で定められた周波数にすればよい。その上で、各映像処理回路は、実施形態1で述べたのと同様の構成に従って例えば公倍数を用いて変換処理を行う。さらに、各映像処理回路は、この演算結果と、それぞれの3D映像の実際の周波数とに基づいてフレームレートを変換する処理を行う。具体的には、実際の周波数が60.3Hz、公倍数を用いた変換結果が120Hzであれば実際の周波数に前記倍数である2を乗じた120.6Hzに変換する。
次に、各映像処理回路にて処理が行われた3D映像は、同期処理回路に対して上記決定されたほぼ共通のフレームレートで同時に出力される。その際、各映像処理回路は、周波数の低い3D映像情報の出力が遅延することで同期がずれたかどうかを監視し、同期がずれたと判断した場合には、出力の遅延する映像にフレームを付加したり、逆に出力が先行する映像からフレームを削除したりすることで、両映像のフレームの出力タイミングが一致するようにすることで同期を回復させる処理を行う。同期がずれたかどうかの判断は、上述のように両映像のフレームの出力タイミングのずれが視聴者に違和感を与える程度として予め定められた範囲に達した場合に同期がずれたと判断するとのルールを定めておき、このルールに従って判断するようにすればよい。なお、3D映像情報をDVDなどの記録媒体に記録した結果、記録された3D映像情報に規格で定められた周波数からのずれが生じている場合には、予め以上の処理のための演算を行った上でその演算結果に従って処理を行うようにしてもよい。
<処理の流れ>
図12は、本実施形態の3D再生装置の処理の流れの一例を示す図である。ステップS1202からステップS1204において、3D再生装置は複数の3D映像のフレームレートが略同一となるようにフレームレートの変換を行う。その際まず、ステップS01202において、3D再生装置は複数の3D映像のフレームレートをそれぞれ丸めた数字に直す。次に、ステップS1203において、3D再生装置は前記丸めた数字の公倍数を用いてフレームレートを変換する。次に、ステップS1204において、3D再生装置は実際の周波数と公倍数を用いた前記変換結果を用いてフレームレートをさらに変換する。
また、その後実施形態1で説明したのと同様の流れにより同期した各3D映像のフレーム画像がマルチウインドウ表示されるが、さらに同期がずれたか否かの判断ステップ(ステップS1208)において3D再生装置は当該判断を行い、同期がずれたとの判断結果が得られた場合には、ステップS1209において、同期を回復する処理を行う。具体的には、例えば遅延する映像にフレームを付加する処理を行う。
<効果>
本実施形態に係る発明によれば、周波数が規格からずれた場合にも適切に対応しつつ、異なる方式の複数の3D映像をマルチウインドウ方式で同時に出力することが可能になる。
<<実施形態5>>
<概要>
本実施形態の3D再生装置は、基本的に実施形態4と同様であるが、実施形態4とは異なり、同期を回復する手段が出力の先行している3D映像出力フレームの一部を削除することで同期の回復を行うように構成される。
<構成>
図13は、本実施形態の3D再生装置の機能ブロックの一例を示す図である。この図にあるように、「3D再生装置」1300は、「受付部」1301と、「変換部」1302と、「処理時間算出部」1303と、「同期部」1304と、「表示出力部」1305と、「同期復帰部」1306を有し、「変換部」は「略変換手段」1307を有し、「同期復帰部」は「削除復帰手段」1308を有する。以下、実施形態4との相違点である削除復帰手段について説明する。
「削除復帰手段」は、先行している3D映像出力フレームの一部を削除することで同期を復帰する。
先行している3D映像出力フレームの一部を削除することで同期を復帰するための具体的な構成の一例は以下のとおりである。まず、各映像処理回路にて処理が行われた3D映像が同期処理回路に対して上記決定されたほぼ共通のフレームレートで同時に出力される際には、各映像処理回路は周波数の低い3D映像情報の出力が遅延することで同期がずれたかどうかを監視する。この点は実施形態4で説明したのと同様であり、同期がずれたかどうかの判断方法等も実施形態4で説明したところと同様である。ただし、本実施形態では、同期がずれたと判断した場合に、出力の先行する映像からフレームを削除することなどによって両映像のフレームの出力タイミングが一致するようにすることで同期を回復させる処理が行われるようになっている点に特徴がある。
図14は、本実施形態の3D再生装置を用いた同期回復方法の一例を示す図である。本図も図11に示したのと同様に、変換後のフレームレートが異なるA、B二つの3D映像情報が入力された場合において、出力の同期がずれた場合における同期回復の具体的方法の一例について示している。また(a)が初期段階での入力及び出力状態を示している点は図11と同様である。また、(b)が両映像のフレームのタイミングのずれが所定の範囲(t)に達した状態を示している点も図11と同様である。
そこで、(c)における同期回復の方法としては、先行している3D映像Aの出力フレームの一部を削除することで同期を復帰することになる。この場合の削除のしかたについても、前実施形態で述べたところと同様に二つの方法が考えられる。即ち、一つの方法として、図14(c)に示すように、3D映像Aの「Rn−1」1401の出力を開始した後、遅延している3D映像Aの「Ln−2」1402の出力終了のタイミングに合わせて「Rn−1」1401の出力を終了する。従って、「Rn−1」1401の出力の一部が削除された形になる。これにより、次のフレームの出力を3D映像A、B同時に開始することができる状態になる。そこで、次に3D映像Bの「Rn−1」1403のフレームの出力開始のタイミングと同時に3D映像Aの「Rn−1」1404のフレームの出力を開始する。以後の処理要領は前実施形態において説明したところと同様である。
<具体的な構成>
本実施形態の3D再生装置の具体的なハードウェア構成については、実施形態4で説明したところと基本的に同様であるので説明を省略する。
<処理の流れ>
本実施形態の3D再生装置の処理の流れは図12に示した実施形態4における処理の流れと同様である。ただし、同期がずれたか否かの判断ステップ(ステップS1208)において同期がずれたとの判断結果が得られた場合のステップS1209における具体的な処理は先行する映像からフレームを削除する処理である。
<効果>
本実施形態に係る発明によれば、周波数が規格からずれた場合にも適切に対応しつつ、異なる方式の複数の3D映像をマルチウインドウ方式で同時に出力することが可能になる。
<<実施形態6>>
<概要>
本実施形態の3D再生装置は、基本的に実施形態4、5と同様であるが、さらに受付部が受けつけた複数の3D映像情報の全部または一部に優先順位を割り当てる手段と、優先順位の高い3D映像情報については同期復帰のためのタイミング調整を最小となるように処理をする手段をさらに有する点に特徴があるものである。
<構成>
図15は、本実施形態の3D再生装置の機能ブロックの一例を示す図である。この図にあるように、「3D再生装置」1500は、「受付部」1501と、「変換部」1502と、「処理時間算出部」1503と、「同期部」1504と、「表示出力部」1505と、「同期復帰部」1506と、「優先順位割当部」1507を有し、「変換部」は「略変換手段」1508を有し、「同期復帰部」は「優先順位制御手段」1509を有する。以下、実施形態4との相違点である優先順位割当部及び優先順位制御手段について説明する。
「優先順位割当部」は、受付部が受けつけた複数の3D映像情報の全部または一部に優先順位を割り当てるように構成されている。優先順位割当部を設ける理由は以下のとおりである。
実際の映像信号が規格で定められた周波数からずれる場合に、実施形態4、5で述べた構成により一方の3D映像に特定のフレームを付加したり一方の3D映像から特定のフレームを削除したりすることになるが、かかる処理を行った場合、フレームが付加又は削除された映像は本来の映像とは異なるものとなってしまうことから、本来の映像をそのまま視聴するという観点からは望ましいものではない。そこで、複数の映像のうち、視聴者が最も本来の映像どおりに視聴したいと考える映像などを優先するといった形で複数の映像間に優先順位を付け、フレームが付加又は削除される映像としてはこの優先順位の高い3D映像をなるべく避けて選択するようにすることが望ましい。このため、優先順位割当部を設けてかかる割当を行うようにしたものである。優先順位の割り当ては、例えば予め利用者が選択した優先順位を登録しておき、これに従って判断するようにすればよい。
また、「優先順位制御手段」は、優先順位の高い3D映像情報については同期復帰のためのタイミング調整を最小となるように処理をする。
例えば、図11、図14などに示したような3D映像A、Bについて同期を回復する処理を行う場合において、優先順位割当部が3D映像A、Bの順に優先順位を割り当てたとするときには、優先順位制御手段は図11で示したような制御、即ち3D映像Aについてはフレームの付加又は削除を行わず、3D映像Bにフレームの付加又は削除を行うことで、優先順位の高い3D映像Aのタイミング調整を最小(図11の例では全く調整の必要がない)となるように処理を行う。逆に優先順位割当部が3D映像B、Aの順に優先順位を割り当てたとするときには、優先順位制御手段は図14で示したような処理を行う。
<具体的な構成>
本実施形態の3D再生装置の具体的なハードウェア構成については、実施形態4、5で説明したところと基本的に同様であるので説明を省略する。
<処理の流れ>
図16は、本実施形態の3D再生装置の処理の流れの一例を示す図であって、このうち、優先順位割当及び優先順位制御にかかる処理の流れの一例を示す。
まず優先順位割当ステップS1601において、3D再生装置は、複数の3D映像について優先順位を割り当てる。例えば、上の例のように二つの3D映像についての割当であればA、Bの順とするといったように割り当てる。三つ以上であればA、B、Cの順とするといったように割り当ててもよいし、AをB、Cより優先するといったように割り当ててもよい。
次に、優先順位制御ステップS1602において、3D再生装置は、優先順位の高い3D映像情報については同期復帰のためのタイミング調整を最小となるように処理をする。具体的には、例えば二つの3D映像A、BについてA、Bの順に優先順位が割り当てられている場合には、3D映像Bについてフレームの付加・削除を行って同期を回復する処理を行う。
<効果>
本実施形態に係る発明によれば、周波数が規格からずれた場合に適切な対応を行うために3D映像のフレームの付加・削除を行う際に、複数の映像のうちで視聴者が最も本来の映像どおりに視聴したいと考える3D映像を対象とすることをなるべく避けることで、このような優先順位の高い映像を元の映像に近い形のまま再生することが可能となる。
0100・0600・0800…3D映像再生装置、0101・0601・0801…受付部、0102・0602・0802…変換部、0103・0603・0803…処理時間算出部、0104・0604・0804…同期部、0105・0605・0805…表示出力部、0606…公倍変換手段、0806…判断手段、0807…入替手段、0301…CPU、0302…RAM、0303…ビデオメモリ、0304…不揮発性メモリ、0305…映像処理回路、0306…映像入力I/F、0307…同期処理回路、0308…表示ディスプレイ、0309…ディスプレイI/F、0310…スピーカー、0311…スピーカーI/F、0312…命令送信I/F、0313…システムバス

Claims (9)

  1. 異なるフレームレートを有する複数の3D映像を受けつける受付部と、
    前記複数の3D映像のフレームレートが同一となるように変換する変換部と、
    前記受付部が受けつける複数の3D映像の全部または一部に優先順位を登録する優先順位登録部と、
    各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを、登録された優先順位の最も高い3D映像以外についてフレームの付加または削除を行って同期する同期部と、
    同期した各3D映像のフレーム画像をマルチウインドウ表示する表示出力部と、
    を有する3D再生装置。
  2. 異なるフレームレートを有する複数の3D映像を受けつける受付部と、
    前記複数の3D映像のフレームレートが同一となるように変換する変換部と、
    各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを同期する同期部と、
    同期した各3D映像のフレーム画像をマルチウインドウ表示する表示出力部と、
    を有し、
    前記同期部は、
    各3D映像のフレーム画像の入力をそろえ、そろった状態で各3D映像のフレーム画像が右目用又は左目用のいずれであるかを判断し、
    右目用フレーム画像が少数派である場合は右目用フレーム画像を左目用フレーム画像に入れ替え、左目用フレーム画像が少数派である場合は左目用フレーム画像を右目用フレーム画像に入れ替える、
    3D再生装置。
  3. 前記変換部は、前記各3D映像のフレームレートを、それらの公倍数であるフレームレートに変換する
    請求項1または請求項2に記載の3D再生装置。
  4. 請求項1から請求項のいずれか一に記載の3D再生装置であるテレビ受像機。
  5. 3D再生装置が、異なるフレームレートを有する複数の3D映像を受けつける第1ステップと、
    前記3D再生装置が、前記複数の3D映像のフレームレートが同一となるように変換する第2ステップと、
    前記第1ステップにおいて受けつける複数の3D映像の全部または一部に優先順位を登録する第3ステップと、
    前記3D再生装置が、各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを、登録された優先順位の最も高い3D映像以外についてフレームの付加または削除を行って同期する第ステップと、
    前記3D再生装置が、同期した各3D映像のフレーム画像をマルチウインドウ表示する第ステップと、
    を含む3D再生方法。
  6. 3D再生装置が、異なるフレームレートを有する複数の3D映像を受けつける第1ステップと、
    前記3D再生装置が、前記複数の3D映像のフレームレートが同一となるように変換する第2ステップと、
    前記3D再生装置が、各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを同期する第3ステップと、
    前記3D再生装置が、同期した各3D映像のフレーム画像をマルチウインドウ表示する第4ステップと、
    を含み、
    前記第4ステップにおいて、
    各3D映像のフレーム画像の入力をそろえ、そろった状態で各3D映像のフレーム画像が右目用又は左目用のいずれであるかを判断し、
    右目用フレーム画像が少数派である場合は右目用フレーム画像を左目用フレーム画像に入れ替え、左目用フレーム画像が少数派である場合は左目用フレーム画像を右目用フレーム画像に入れ替える、
    3D再生方法。
  7. コンピュータに、
    異なるフレームレートを有する複数の3D映像を受けつける第1ステップと、
    前記複数の3D映像のフレームレートが同一となるように変換する第2ステップと、
    前記第1ステップにおいて受けつける複数の3D映像の全部または一部に優先順位を登録する第3ステップと、
    各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを、登録された優先順位の最も高い3D映像以外についてフレームの付加または削除を行って同期する第ステップと、
    同期した各3D映像のフレーム画像をマルチウインドウ表示する第ステップと、
    を実行させるためのプログラム。
  8. コンピュータに、
    異なるフレームレートを有する複数の3D映像を受けつける第1ステップと、
    前記複数の3D映像のフレームレートが同一となるように変換する第2ステップと、
    各3D映像の右目用フレーム画像と左目用フレーム画像のディスプレイでの表示タイミングを同期する第3ステップと、
    同期した各3D映像のフレーム画像をマルチウインドウ表示する第4ステップと、
    を実行させるためのプログラムであって、
    前記第4ステップにおいて、
    各3D映像のフレーム画像の入力をそろえ、そろった状態で各3D映像のフレーム画像が右目用又は左目用のいずれであるかを判断し、
    右目用フレーム画像が少数派である場合は右目用フレーム画像を左目用フレーム画像に入れ替え、左目用フレーム画像が少数派である場合は左目用フレーム画像を右目用フレーム画像に入れ替える、
    プログラム
  9. 請求項7又は請求項8に記載のプログラムを記憶した記憶媒体。
JP2012172392A 2011-11-18 2012-08-02 3d再生装置、テレビ受像機、3d再生方法、プログラム、及びプログラムを記憶した記憶媒体 Active JP6127311B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012172392A JP6127311B2 (ja) 2011-11-18 2012-08-02 3d再生装置、テレビ受像機、3d再生方法、プログラム、及びプログラムを記憶した記憶媒体

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011253275 2011-11-18
JP2011253275 2011-11-18
JP2012172392A JP6127311B2 (ja) 2011-11-18 2012-08-02 3d再生装置、テレビ受像機、3d再生方法、プログラム、及びプログラムを記憶した記憶媒体

Publications (2)

Publication Number Publication Date
JP2013128266A JP2013128266A (ja) 2013-06-27
JP6127311B2 true JP6127311B2 (ja) 2017-05-17

Family

ID=48778541

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012172392A Active JP6127311B2 (ja) 2011-11-18 2012-08-02 3d再生装置、テレビ受像機、3d再生方法、プログラム、及びプログラムを記憶した記憶媒体

Country Status (1)

Country Link
JP (1) JP6127311B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112020007135T5 (de) * 2020-04-28 2023-03-30 Lg Electronics Inc. Signalverarbeitungsvorrichtung und Bildanzeigevorrichtung, welche diese umfasst

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001092432A (ja) * 1999-09-17 2001-04-06 Sanyo Electric Co Ltd 表示装置
JP2009111936A (ja) * 2007-11-01 2009-05-21 Hitachi Ltd 映像表示装置
JP5332531B2 (ja) * 2008-11-18 2013-11-06 ソニー株式会社 画像表示装置と画像表示方法および画像表示システム
JP2013080987A (ja) * 2010-02-15 2013-05-02 Panasonic Corp 立体映像表示装置

Also Published As

Publication number Publication date
JP2013128266A (ja) 2013-06-27

Similar Documents

Publication Publication Date Title
JP5663617B2 (ja) 立体画像シーケンス符号化方法および復号化方法
US9185328B2 (en) Device and method for displaying a three-dimensional PIP image
US8830301B2 (en) Stereoscopic image reproduction method in case of pause mode and stereoscopic image reproduction apparatus using same
EP2178306A2 (en) Image processing apparatus and image processing method
CN103024408A (zh) 立体图像转换装置和方法、立体图像输出装置
WO2011016240A1 (ja) 映像再生装置
JP2014527353A (ja) 受信装置及びその受信方法
US20210344888A1 (en) Dual mode user interface system and method for 3d video
TW201242336A (en) Transferring of 3D image data
JP4982553B2 (ja) フレーム処理装置、テレビジョン受信装置及びフレーム処理方法
JP6127311B2 (ja) 3d再生装置、テレビ受像機、3d再生方法、プログラム、及びプログラムを記憶した記憶媒体
US20110018979A1 (en) Display controller, display control method, program, output device, and transmitter
EP1280346A1 (en) Data broadcasting service system of storage type
KR101806901B1 (ko) 방송 수신 장치 및 방법
WO2014115389A1 (ja) ビデオ表示装置及びビデオ表示方法
EP3324638A1 (en) Method for decoding an audio/video stream and corresponding device
JP2006191538A (ja) 圧縮ストリーム復号装置及び圧縮ストリーム復号方法
CN112188181B (zh) 图像显示设备、立体图像处理电路及其同步信号校正方法
US10284840B2 (en) Apparatus and method for reproducing 3D image
KR101107153B1 (ko) 3d tv용 영상 데이터 변환 방법 및 장치
KR102131295B1 (ko) 3d 영상 재생 장치 및 방법
JP5759728B2 (ja) 情報処理装置、情報処理装置の制御方法、及びプログラム
JPH07184182A (ja) テレビ会議装置
JP2012044718A (ja) フレーム処理装置、テレビジョン受信装置及びフレーム処理方法

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20141114

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20141117

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20150514

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150701

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160513

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170314

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170321

R150 Certificate of patent or registration of utility model

Ref document number: 6127311

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150