JPWO2013108633A1 - 送信装置、映像表示装置、送信方法、映像処理方法、映像処理プログラム及び集積回路 - Google Patents

送信装置、映像表示装置、送信方法、映像処理方法、映像処理プログラム及び集積回路 Download PDF

Info

Publication number
JPWO2013108633A1
JPWO2013108633A1 JP2013554257A JP2013554257A JPWO2013108633A1 JP WO2013108633 A1 JPWO2013108633 A1 JP WO2013108633A1 JP 2013554257 A JP2013554257 A JP 2013554257A JP 2013554257 A JP2013554257 A JP 2013554257A JP WO2013108633 A1 JPWO2013108633 A1 JP WO2013108633A1
Authority
JP
Japan
Prior art keywords
video
display
display object
stream
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013554257A
Other languages
English (en)
Other versions
JP6211929B2 (ja
Inventor
智輝 小川
智輝 小川
洋 矢羽田
洋 矢羽田
川口 透
透 川口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Publication of JPWO2013108633A1 publication Critical patent/JPWO2013108633A1/ja
Application granted granted Critical
Publication of JP6211929B2 publication Critical patent/JP6211929B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/183On-screen display [OSD] information, e.g. subtitles or menus

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Library & Information Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

送信装置は、3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置であって、 前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成手段と、前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定手段と、前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成手段と、前記伝送ストリームを送信するストリーム送信手段とを備える。

Description

本発明は、3D映像の処理技術に関し、特に、3D映像に文字やグラフィック等の表示物を重畳して表示する技術に関する。
視聴者が立体的な映像として見ることができる3Dデジタル映像コンテンツ(以下、「3D映像」と呼ぶ。)において、字幕を3D映像と共に表示する場合、通常の2D映像と同じように重ね合わせると、3D映像は画面の手前や奥に広がりがあるので、視聴者にとって、字幕が3D映像の奥に表示されるように見えたり、手前に表示されるように見えたりして見づらくなる。
そこで、これを改善するために、3D映像と共に表示する平面的な字幕が配置されたプレーンの画像を3D空間内に適切に表示するための技術として、プレーンに配置された表示物の画像を水平方向にシフトして左目用と右目用との画像を生成することによって立体的に見えるようにするための処理技術が提案されている(非特許文献1)。この処理技術を、1plane+offset方式と呼ぶ。なお、デジタル放送において3D映像と共に表示するために配信される表示データには、字幕以外にも操作メニュー、テロップ、データ放送用の表示データ等(以下、「字幕等表示データ」と呼ぶ。)があり、これらの表示プレーンに配置された表示物を3D映像と共に表示する際に、上記の処理技術が利用できる。
Blu-ray Disc Association、"White Paper Blu-ray Disc Read-Only Format 2.B Audio Visual Application Format Specifications for BD-ROM Version 2.5 July 2011″、P.36〜P.37、"6.3 3D graphics with 3D video"、[online]、2011年07月、Blu-ray Disc Association、[2012年12月6日検索]、インターネット<URL:http://www.blu-raydisc.com/assets/Downloadablefile/BD-ROM-AV-WhitePaper_110712.pdf>
しかしながら、上記の技術では、字幕等表示データの表示プレーンに表示位置、特に奥行き方向の表示位置が異なる複数の表示物が配置されていたとしても、字幕等表示データの表示プレーン全体で一様な深度で見えるようにしか表示することができない。すなわち、表示位置の異なる表示物を異なった深度で見えるように表示することができない。このため、複数の表示物のうちの1つの表示物について適切に深度を設定しても、3D映像は表示領域の位置によって表示されるオブジェクトの深度が異なるので、その他の表示物については適切な深度で設定できるとは限らず、視聴者にとって見づらい場合がある。
そこで、本発明は、かかる問題に鑑みてなされたものであり、映像表示装置において、字幕等表示プレーンの異なる表示位置に配置された表示物を3D映像に重畳して表示する際に、視聴者にとっての見づらさを軽減して表示し得るストリームデータ(伝送ストリーム)を送信する送信装置、及びこのような伝送ストリームを受信して、表示し得る映像表示装置を提供することを目的とする。
上記課題を解決するために、本発明に係る送信装置は、3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置であって、前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成手段と、前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定手段と、前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成手段と、前記伝送ストリームを送信するストリーム送信手段とを備えることを特徴とする。
また、本発明に係る映像表示装置は、伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置であって、前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成手段と、前記3D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力手段とを備えることを特徴とする。
上述の構成により、本発明に係る送信装置は、映像表示装置において3D映像に字幕等表示データの表示プレーンに配置された表示物を重畳して表示する際に、表示位置の異なる表示物を異なった深度で見えるように表示し得る伝送ストリームを送信することができる。
また、本発明に係る映像表示装置は、上述の伝送ストリームを受信し、3D映像に字幕等表示データの表示プレーンに配置された表示物を重畳して表示する際に、表示位置の異なる表示物を異なった深度で見えるように表示し得る。
1plane+offset方式の概念を示す図。 本実施の形態に係る領域分割による1plane+offsetの概念を示す図。 部分領域ごとのoffsetを示すオフセットメタデータのデータ構造。 本発明の実施の形態に係る送信装置10の機能ブロック図。 送信装置10における処理のフローチャート。 映像表示装置20の機能ブロック図。 映像表示装置20における重畳処理のフローチャート。 映像表示装置20の使用態様の一例を示す図。 ディスプレイ50に表示される表示物の見え方を概念的に示す図。 部分領域における表示物の表示をしない禁止領域を示す概念図。 禁止領域の情報を含むオフセットメタデータのデータ構造。 送信装置10aの機能ブロック図。 送信装置10aにおける禁止領域を考慮した字幕ストリーム生成時の処理のフローチャート。 映像表示装置20における禁止領域を考慮した重畳処理のフローチャート。 オフセットメタデータのデータ構造の変形例。 予め定められた分割領域の分割パターンを利用する場合のオフセットメタデータのデータ構造。 オフセットメタデータにおける禁止領域を示すデータのデータ構造の変形例。
<1.実施の形態>
<1.1 概要>
3D放送においては、3D映像に、字幕やメニュー等のグラフィックなどの字幕等表示データを重畳して表示することがある。図1は、従来の1plane+offset方式の処理を概念的に示した図である。従来の1plane+offset方式では、同図(a)に示すように字幕等表示データを表示する1枚のプレーン全体の画像を、オフセット量を示すオフセット情報に基づいて水平方向にシフトすることによって、このプレーンに配置されている表示物の深度を調整し、3D映像より手前に見えるように表示する。具体的には、左目用映像プレーン1001の画像に字幕等表示データのプレーンの画像を重畳する場合には、プレーン全体の画像をオフセット量(OffsetAで示される値)分右側にシフトし、はみ出る部分はクロップして重畳する。同様に、右目用映像プレーン1002の画像に重畳する場合には、OffsetAで示される値分左側にシフトし、はみ出る部分はクロップして重畳して表示する。
ところが、このような方法では、図1(b)のように、このプレーンに配置されている表示物であるobjectA及びobjectBは、同じ深度で見えるようにしか表示できない。すなわち、表示物の深度は、このプレーン全体で一様にしか設定できず、プレーンに複数の表示物が配置されている場合に、それぞれの表示物が異なる深度で表示することができない。
そこで本発明に係る送信装置では、図2に示すように、字幕等表示データを表示するためのプレーンを水平方向の境界線で複数の部分領域に分割し、それぞれの部分領域ごとに異なるオフセット量を設定したオフセット情報を生成し送信する。
そして、このオフセット情報を受信した映像表示装置では、左目用映像プレーン1001の画像に字幕等の表示物のプレーンの画像を重畳する場合には、領域Aの画像をOffsetAで示される値分右側にシフトし、領域Bの画像をOffsetBで示される値分右側にシフトして、はみ出る部分はクロップして重畳する。同様に、右目用映像プレーン1002の画像に重畳する場合には、領域Aの画像をOffsetAで示される値分左側にシフトし、領域Bの画像をOffsetBで示される値分左側にシフトして、はみ出る部分はクロップして重畳する。
これらの処理は、従来の1plane+offset方式における処理において、例えば、画像の1ラインごとに画像をシフトする処理を行う場合に、全てのラインに対して同じオフセット量でシフトする処理を行っていたのを、部分領域ごとに異なるオフセット量で処理することで実現できるの。このため、オフセット処理に用いる画像プレーン数を増加させることなく実現することができる。
これにより、それぞれの部分領域を異なるシフト量でシフトできるようになり、異なる表示物、例えば、図2(b)に示すように、図2(a)で示す領域A1に表示しているobjectAと、領域A2表示しているobjectBとで、視聴者に対して異なる深度で見えるように表示することができる。
<1.2 データ>
以下、本実施の形態で用いる字幕等表示データの表示物を配置するための各表示物用プレーン(例えば、字幕プレーン及びグラフィックスプレーン)についての分割情報と、分割された各々の部分領域に対応したオフセット情報を記述したオフセットメタデータのデータ構造について説明する。
図3は、本実施の形態で用いるオフセットメタデータ300のデータ構造を示す。
オフセットメタデータ300は、OSG(Offset Sequence Group)ごとに、分割した部分領域の範囲を示す情報とそれぞれの部分領域のオフセット値を記述した記述子である。
なお、Offset Sequenceとは、表示領域を複数の部分領域に分割した1つの分割パターンにおける部分領域ごとに1つのオフセット値とを対応付けたデータのことであり、この1つの分割パターンにおけるOffset SequenceをまとめたものがOSGである。各OSGに付与されたIDにより、OSGを特定することができる。例えば、字幕プレーンに適用するOSGのOSG_IDを「0」、グラフィックスプレーンに適用するOSGのOSG_IDを「1」というように区別したオフセット情報を生成して送信装置から送信することにより、この情報を受信した映像表示装置では、異なるプレーンには、異なるオフセット情報を用いてシフト処理することができる。
図3のoffset_metadata()内のnumber_of_OSGは、OSGがいくつあるかを示す。OSG_IDは、OSGを特定するためのものであり、0,1,・・・,(number_of_OSG - 1)の値で示される。例えば、number_of_OSGが「2」の場合は、OSGが2つあることを示し、それぞれのOSGを示すOSG_IDの値は、「0」か「1」である。
number_of_offset_sequence_in_OSGは、1つのOSGに含まれるOffset Sequenceの数、すなわち、分割した部分領域の数を示す。
offset_priorityは、部分領域ごとに異なるオフセット値でシフトする処理を行わず、従来と同様の1plane+Offsetの処理を行う場合に用いるOffset Sequenceを特定するためのフラグである。1つのOSGに含まれるOffset Sequenceのうち、1つだけoffset_priorityの値が「1」に設定され、その他のOffset Sequenceのoffset_priorityの値は「0」に設定される。部分領域ごとに処理するのではなく、表示領域全体を一様に処理する場合には、offset_priorityの値が「1」で示されるOffset Sequenceを用いる。例えば、処理能力の低い映像表示装置において、表示物を3D映像に重畳する処理を行う場合には、部分領域ごとに異なるオフセット値でシフトする処理がリアルタイムでの表示に間に合わない場合が考えられる。このような場合には、部分領域ごとではなく、従来の1Plane+Offsetの処理を行うことによりリアルタイムでの処理が間に合わないことを回避するが、このときに表示領域全体に用いるべきオフセット値をoffset_priorityによって判断することができる。
offset_valueは、3D映像と重畳する際に部分領域をシフトするオフセット値を示す。
dividing_point_startは、Offset Sequenceごとの部分領域の開始Y座標を示し、dividing_point_endは、同じく終了Y座標を示す。なお、図2(a)に示すように水平方向をX軸、垂直方向をY軸とし、字幕プレーン1000の左上隅の座標値を(0,0)、右下隅の座標値を(1920,1080)とする。
図2で示すように表示領域が、2つの部分領域に分割され、offset_sequence_group()内のi=0の場合が領域Aについて、i=1の場合が領域Bについての情報を格納する場合には、i=0のoffset_valueの値は、OffsetAで示される値が、dividing_point_startの値は「0」が、dividing_point_endの値は「359」が記述される。そして、i=1の場合のoffset_priorityの値は「0」が記述され、offset_valueの値は、OffsetBで示される値が、dividing_point_startの値は「360」が、dividing_point_endの値は「1920」が記述される。また、i=0の場合のoffset_priorityの値を「1」とし、i=0の場合のoffset_priorityの値を「0」と記述する。
このような、オフセットメタデータを受信した映像表示装置では、字幕プレーン1000における部分領域として、部分領域Aは、(0,0)−(1920,359)を対角線の頂点とした矩形の範囲であり、その範囲のオフセット値は、OffsetAで示される値であることが取得できる。そして、部分領域Bは、(0,360)−(1920,1080)を対角線の頂点とした矩形の範囲であり、そのオフセット値はOffsetBで示される値であることが取得でき、これらの情報に基づいてそれぞれの部分領域を指定されたオフセット値でシフトして3D映像と重畳することができる。また、部分領域ごとではなく表示領域全体で一様にシフトする処理を行う場合には、i=0の場合のオフセット値を用いて処理を行う。
<1.3 送信装置の構成>
以下、本発明の一実施形態に係る送信装置10について、図面を参照しながら説明する。
図4は、本発明の実施の形態に係る送信装置10の機能ブロック図である。
同図に示すように送信装置10は、ビデオ符号化部101、分割情報生成部102、オフセット情報設定部103、ストリーム管理情報生成部104、多重化処理部105、及び送信部106から構成される。また、3D映像原画110、ビデオストリーム111、字幕ストリーム112、グラフィックスストリーム113、オーディオストリーム114、ストリーム管理情報115及びトランスポートストリームをそれぞれ記憶する記憶装置を含む。この記憶装置は、例えばハードディスクである。
送信装置10は、図示されていないプロセッサ、RAM(Random Access Memory)、ROM(Read Only Memory)、ハードディスクを含む。また、送信装置10の各機能ブロックは、ハードウェアとして構成されているか、もしくは、各機能ブロックの機能は、プロセッサがメモリに記憶されているコンピュータプログラムを実行することで実現される。
ビデオ符号化部101は、3D映像原画を記憶装置から読出し、符号化を行い、ビデオストリームとして出力する機能を備える。符号化の方式は、例えば、MPEG4 MVC方式である。
分割情報生成部102は、字幕ストリーム112やグラフィックスストリーム113から得られる表示物の表示位置の情報を基に、それぞれの表示物の表示範囲が複数の部分領域にまたがらないように、各表示物の表示範囲の垂直方向の範囲の間に設定した水平境界線で部分領域に分けるための分割情報を生成する機能と、部分領域のそれぞれの範囲を示す情報をオフセット情報設定部103に出力する機能とを備える。
オフセット情報設定部103は、分割情報生成部102が出力した部分領域の情報から特定される範囲について、3D映像原画110から得られる情報を基に、字幕ストリーム等を3D映像に重畳するときの深度を、字幕等が表示される範囲に同時刻に表示される3D映像と同等の深度になるように調整したオフセット情報を、3D映像のフレーム画像ごとに生成し、生成したオフセット情報をストリーム管理情報生成部104に出力する機能を備える。
ストリーム管理情報生成部104は、オフセット情報設定部103から出力されたオフセット管理情報、オーディオストリーム114及びビデオストリーム111からストリームを再生するために必要なストリーム管理情報を生成する機能と、生成したストリーム管理情報を出力する機能を備える。ストリーム管理情報は、具体的には、PAT(Program Association Table)、PMT(Program Map Table)、イベント情報テーブルEIT(Event Information Table)及びサービス情報テーブルSIT(Service Information Table)などである。ストリーム管理情報は、多重化処理部105における多重化の際に、トランスポートストリーム(TS)のSI(Service Information)/PSI(Program Specific Information)に格納される。
多重化処理部105は、ビデオストリーム111、字幕ストリーム112、グラフィックスストリーム113、オーディオストリーム114、及びストリーム管理情報115を多重化したトランスポートストリーム116を生成し出力する機能を備える。
送信部106は、多重化処理部105で多重化したトランスポートストリーム116をデジタル放送波にのせて送出する機能を備える。
<1.4 送信装置10の動作>
以下、上記機能を備えた送信装置10の処理動作について説明する。
なお、多重化処理部で多重化する字幕ストリーム112、グラフィックスストリーム113、オーディオストリーム114及び3D映像のビデオストリーム111の生成については、TV放送で用いられるストリーム、例えば、MPEG4 MVC方式のストリームとして生成する。
図5は、送信装置10の処理を示すフローチャートである。
まず、分割情報生成部102は、字幕ストリーム112を読込み(ステップS10)、字幕の表示位置に基づいて字幕プレーンを部分領域に分割する(ステップS11)。具体的には、この字幕プレーン使用するOSGのIDとしてOSG_IDの値を「0」とし、図2で示されるように字幕プレーン1000に表示されるべき表示物としてobjectAとobjectBとがある場合に、水平方向の境界線により、字幕プレーン1000をobjectAが完全に含まれる領域Aと、objectBが完全に含まれる領域Bとに分割する。図2の場合には座標(0,360)−(1920,360)を結ぶ線分を境界線として部分領域に分割する。この例では、2つの領域に分割したので、オフセットメタデータ300のoffset_metadata()内のnumber_of_offset_sequence_in_OSGには「2」を記述する。そして、i=0の場合が、デフォルトの深度を示すoffset_sequenceを記述したものであることを示すために、offset_priorityの値を「1」とし、i=1のoffset_priorityの値を「0」にする。
更に、i=0のoffset_sequenceのdividing_point_startの値を「0」に、dividing_point_endの値を「359」にし、i=1の場合のoffset_sequenceのdividing_point_startの値を「360」に、dividing_point_endの値を「1080」にする。これにより、領域Aに適用するoffset_sequenceは、i=0の場合のoffset_sequenceであり、領域Bに適用するoffset_sequenceは、i=1の場合のoffset_sequenceとなる。
次に、分割情報生成部102は、グラフィックストリームを読込み(ステップS12)、
グラフィックの表示位置に基づいてグラフィックプレーンを部分領域に分割する(ステップS13)。このグラフィックプレーンに使用するOSGのIDとしてOSG_IDの値を「1」とし、分割の方法は、字幕プレーンと同様の方法で行い、表示するグラフィックオブジェクトの表示位置に応じて複数の部分領域に分割する。
次に、オフセット情報設定部103は、領域分割部で生成したオフセットメタデータ300と3D映像原画110を読込み(ステップS14)、字幕プレーン1000の領域A、領域Bそれぞれの深度を決定するオフセット値を設定する(ステップS15)。具体的には、OSG_ID=0の場合のoffset_sequence_groupについて、字幕のPTS(Presentation Time Stamp)と同時刻のPTSの3D映像において、各部分領域の範囲に表示されるべき3D映像のオブジェクトの深度と同程度の深度に対応したオフセット値をoffset_valueに設定する。
図2の例では、領域A(i=0の場合)のoffset_valueにoffsetAで示される値を、領域B(i=1の場合)のoffset_valueにoffsetBで示される値を設定する。
更に、オフセット情報設定部103は、グラフィックプレーンについてもオフセット値を設定したオフセットメタデータ300を生成する(ステップS16)。具体的には、OSG_ID=1の場合のoffset_sequence_groupについて、ステップS15と同様の方法でoffset_valueの値を設定する。
次に、ストリーム管理情報生成部104は、オフセットメタデータ300、ビデオストリーム111、オーディオストリーム114を読込み、ストリーム管理情報を生成し、生成したストリーム管理情報を出力する(ステップS17)。具体的には、ストリーム管理情報生成部104は、ビデオストリーム等を再生する際に必要なPTS、DTS(Decoding Time Stamp)などの情報や、オフセットメタデータ300を含んだPMTを生成し、SI/PSIに格納する。このようなSI/PSIを受信した映像表示装置は、字幕等を3D映像に重畳して表示する場合に、PTSの情報に基づいて、PTSが同時刻を示す3D映像の画像と字幕等の画像を重畳することができる。
多重化処理部105は、ビデオストリーム111、字幕ストリーム112、グラフィックスストリーム113、オーディオストリーム114、ストリーム管理情報115を読込み、多重化したトランスポートストリーム116を出力する(ステップS18)。
次に、送信部106は、多重化処理部105が出力したトランスポートストリーム116を放送波にのせて送信する(ステップS19)。
<1.5 映像表示装置の構成>
次に、上述した送信装置10が送信したトランスポートストリーム116を受信し、映像を表示する映像表示装置20について説明する。
図6は、映像表示装置20の機能ブロック図である。
同図に示すように映像表示装置20は、ユーザーインターフェース部201、チューナ202、多重分離部203、ストリーム管理情報解析部204、ビデオデコード部205、左目用映像プレーン206、右目用映像プレーン207、分割情報解析部208、字幕デコード部209、字幕プレーン210、字幕オフセット処理部211、グラフィックスデコード部212、グラフィックスプレーン213、グラフィックスオフセット処理部214、セレクタ215、プレーン加算部216、表示部217、オーディオデコード部218、スピーカ219から構成される。
映像表示装置20は、図示されていないプロセッサ、RAM、ROM、ハードディスクを含む。また、映像処理装置の各機能ブロックは、ハードウェアとして構成されているか、もしくは各機能ブロックの機能は、プロセッサがメモリに記憶されているコンピュータプログラムを実行することで実現される。
(ユーザーインターフェース部201)
ユーザーインターフェース部201は、ユーザによる選局の指示、字幕やメニューなどの表示,非表示の切替えの指示、電源オン,オフの指示等をリモコン21から受け付け、受け付けた指示に対応した制御信号を、指示に応じてチューナ202又はプレーン加算部216に出力する機能を有する。
この機能の一例として、ユーザがリモコン21によって、あるチャネルへ変更する操作を行うと、その指定されたチャネルへの変更の指示を示す信号をリモコン21が、ユーザーインターフェース部201へ送信する。ユーザーインターフェース部201は、この信号を受信すると、ユーザが指示したチャネルへと変更するための制御信号をチューナ202に出力し、チューナ202は、この制御信号に基づいてチャネルを変更し、変更したチャネルに対応した放送波を受信する。
また、例えば、ユーザがリモコン21によって、字幕を表示させる操作を行うと、リモコン21は、字幕表示の指示を示す信号をユーザーインターフェース部201へ送信する。ユーザーインナーフェース部201は、この信号を受信すると、プレーン加算部216に字幕を重畳して出力させることを示す制御信号を出力し、プレーン加算部216は、この制御信号を受信した場合に、左目用映像プレーン206及び右目用映像プレーン207の画像に字幕プレーン210の画像を重畳して出力させ、そうでない場合には、字幕プレーン210の画像を重畳しないで出力する。
(チューナ202)
チューナ202は、デジタル放送波受信用のチューナで構成されている。チューナ202は、ユーザーインターフェース201から、ユーザが指示したチャネルへと変更するための制御信号を受け付け、ユーザの選局したチャネルに変更する機能を備える。そして、そのチャネルに対応した送信装置10から送信されたデジタル放送波を受信し、復調することによりトランスポートストリームを抽出して多重分離部203へ出力する機能を備える。
(多重分離部203)
多重分離部203は、デマルチプレクサLSIで構成されており、トランスポートストリームを取得して、SI/PSI、映像ストリームのパケット、音声ストリームのパケット、字幕ストリームのパケット、グラフィックスストリーム等のパケットに分離する機能を有する。
多重分離部203は、具体的には、チューナ202で受信し、復調されたトランスポートストリームのパケットを、SI/PSI、映像ストリーム、音声ストリーム、字幕ストリーム及びグラフィックスストリームのパケットに分離し、SI/PSIのパケットをストリーム管理情報解析部204へ、映像ストリームのパケットをビデオデコード部205へ、字幕ストリームのパケットを字幕デコード部209へ、グラフィックスストリームのパケットをグラフィックスデコード部212へ、音声ストリームのパケットをオーディオデコード部218へそれぞれ出力する。
(ストリーム管理情報解析部204)
ストリーム管理情報解析部204は、多重分離部203からSI/PSIを受け取り、PAT、PMT、NIT(Network Information Table)、EIT、BIT(Broadcaster Information Table)などのSI/PSIの内容を解析する機能を備える。また、ストリーム管理情報解析部204は、PMTに含まれる分割情報のオフセットメタデータ300を抽出し、分割情報解析部208に出力する機能を備える。
(分割情報解析部208)
分割情報解析部208は、ストリーム管理情報解析部204が出力したオフセットメタデータ300を解析し、部分領域の範囲を示す部分領域情報と、字幕プレーン210及びグラフィックスプレーン213の画像を部分領域ごとに異なるオフセット値でシフトするためのオフセット情報を抽出する機能と、抽出したこれら情報を字幕オフセット処理部211及びグラフィックスオフセット処理部214に出力する機能を備える。
(ビデオデコード部205)
ビデオデコード部205は多重分離部203で振り分けられて入力された3D映像のデータを含むパケットから、符号化された3D映像データを抽出して復号し、左目用の映像フレームを左目用映像プレーン206に、右目用の映像フレームを右目用映像プレーン207にそれぞれ出力する機能を備える。例えば、MPEG4 MVC形式の3D映像を復号し、左目用映像のピクチャを左目用映像プレーン206に、右目用映像のピクチャを右目用映像プレーン207にそれぞれ出力する。
(字幕デコード部209、グラフィックスデコード部212)
字幕デコード部209は、多重分離部203で振り分けられた字幕データを含むパケットを復号して字幕画像を生成し、字幕プレーン210に出力する機能を備える。
このとき、字幕デコード部209は、ビデオデコード部で出力された3D映像のPTSと同時刻を示すPTSの字幕画像を字幕プレーン210に出力する。
グラフィックスデコード部212は、多重分離部203で振り分けられたグラフィックスデータを含むパケットを復号してグラフィックス画像を生成し、グラフィックスプレーン213に出力する機能を備える。
このとき、グラフィックスデコード部209は、字幕デコード部209と同様にビデオデコード部で出力された3D映像のPTSと同時刻を示すPTSのグラフィックス画像をグラフィックスプレーン210に出力する。
(左目用映像プレーン206、右目用映像プレーン207、字幕プレーン210、グラフィックスプレーン213)
左目用映像プレーン206は、ビデオデコード部205がビデオストリームのパケットを復号してPTSの値に従って出力した左目用映像のピクチャを保持するプレーンメモリである。
右目用映像プレーン207は、ビデオデコード部205がビデオストリームのパケットを復号してPTSの値に従って出力した右目用映像のピクチャを保持するプレーンメモリである。
字幕プレーン210は、左目用映像プレーン206及び右目用映像プレーンと同じ広さの表示領域を持ち、字幕デコード部209によって復号され生成した字幕画像を保持するプレーンメモリである。
グラフィックスプレーン213は、字幕プレーンと同じ広さの表示領域を持ち、グラフィックスデコード部212がPTSの値に従って生成したグラフィックス画像を保持するプレーンメモリである。
(セレクタ215)
セレクタ215は、3D映像のPTSに基づいて、左目用映像プレーン206の画像と右目用映像プレーンの画像とを交互に切替えてプレーン加算部216に出力する機能を備える。また、セレクタ215は、左目用映像プレーンの画像を出力する際には、字幕オフセット処理部211及びグラフィックスオフセット処理部214に対して、左目用にシフトするよう指示を行い、右目用映像プレーンの画像を出力する際には、右目用にシフトするよう指示を行う機能を備える。
(字幕オフセット処理部211、グラフィックスオフセット処理部214)
字幕オフセット処理部211は、字幕プレーン210の画像を、分割情報解析部208から得た部分領域情報と、オフセット情報で示される部分領域ごとのオフセット値とに基づいて、表示領域の画像を1ラインごとに逐次オフセット値分シフトする機能と、シフトするごとにシフトした画像をプレーン加算部216に出力する機能を備える。
字幕オフセット処理部211の表示ラインごとに逐次オフセット値分シフトする処理は、従来の1plane+offset方式による処理と同じである。従来の1plane+offset方式では、全てのラインの画像に対して同じオフセット値でシフトするが、字幕オフセット処理部211は、部分領域ごとにオフセット情報で示される異なるオフセット値を用いて画像をシフトする。このため、従来の1plane+offset方式に比べて、部分領域ごとに異なるオフセット値でシフトした画像を記憶するプレーンを別途用意する必要はない。
字幕オフセット処理部211は、セレクタ215から左目用にシフトする指示を受けた場合には、字幕プレーン210の画像を、部分領域情報で特定される部分領域の範囲ごとに、オフセット情報で示されるオフセット値に基づいて左目用にシフトし、右目用にシフトする指示を受けた場合には、右目用にシフトし、プレーン加算部216に出力する。
グラフィックスオフセット処理部214は、グラフィックスプレーン213の画像を、字幕オフセット処理部211と同様の方法でシフトし、プレーン加算部216に出力する機能を備える。字幕プレーンと同様に、グラフィックスプレーンの画像のシフトに際しても、部分領域ごとに異なるオフセット値でシフトした画像を記憶するプレーンを別途用意する必要はない。
(プレーン加算部216)
プレーン加算部216は、セレクタ215が出力した映像プレーンの画像に、字幕オフセット処理部211から1ラインごとに逐次出力された字幕画像を重畳する機能と、グラフィックスオフセット処理部214から1ラインごとに逐次出力されたグラフィックス画像を重畳する機能と、重畳した映像プレーンの画像を表示部に出力する機能を備える。なお、プレーン加算部216は、まず字幕オフセット処理部211が出力した字幕画像を重畳し、その後にグラフィックスオフセット処理部214が出力したグラフィックス画像を重畳する処理を行う。
プレーン加算部216は、まず、表示用のプレーンにセレクタ215が出力した映像プレーンの画像を書込み、字幕オフセット処理部211が出力したシフト処理された1ラインごとの字幕画像を表示用のプレーンの該当するラインに書込む。更に、グラフィックスオフセット処理部214が出力したシフト処理された1ラインごとのグラフィックス画像を該当する表示用の該当ラインに書込む。このように、1ラインごとに処理して書込むことができるので、
プレーン加算部216は、ユーザーインターフェース部201から字幕等を3D映像に重畳して出力させることを示す制御信号を受け取ったか否かを判断する機能と、上述の重畳を行う処理は、3D映像に重畳して出力させることを示す制御信号を受け取った場合に行うよう制御する機能を備える。
(表示部217)
表示部217は、例えば、ディスプレイであり、プレーン加算部216から受け取った映像プレーンの画像を表示する機能を備える。
(オーディオデコード部218、スピーカ219)
オーディオデコード部218は、多重分離部203から受け取ったオーディオストリームのパケットを順次復号して、音声データを生成し、生成した音声データを音声としてスピーカ219を介して出力する機能を備える。
スピーカ219は、スピーカで構成され、オーディオデコード部218でデコードされた音声データを音声として出力する。
<1.6 映像表示装置20の動作>
次に、上記の構成を備える映像表示装置20の動作について説明する。
図7は、映像表示装置20の処理を示すフローチャートである。
ユーザがリモコン21を操作し、受信するTV放送のチャネルの変更を行った場合を例に説明する。
まず、ユーザーインターフェース部201は、指定されたチャネルへのチャネル変更の指示を示す信号をリモコン21から受信すると、チューナ202にユーザが指定したチャネルに変更するための制御信号をチューナ202に出力する。チューナ202は、この制御信号に基づいてチャネルを変更し、変更したチャネルに対応した放送波を受信する。チューナ202は、放送波を復調しトランスポートストリームのパケットを抽出して多重分離部203に出力する(ステップS20)。
多重分離部203は、トランスポートストリームのパケットを受取り、トランスポートストリームのパケットをビデオストリーム、ストリーム管理情報であるSI/PSI、字幕ストリーム、グラフィックスストリーム、及びオーディオストリームのそれぞれのパケットに分離し、分離したパケットをそれぞれ、ビデオデコード部205、ストリーム管理情報解析部204、ビデオデコード部205、字幕デコード部209、グラフィックスデコード部212、オーディオデコード部218にそれぞれ出力する(ステップS21)。
次にストリーム管理情報解析部204は、多重分離部203で分離されたSI/PSIのパケットを受け取り、SI/PSIに含まれるPAT、PMT、NIT、EIT、BITなどを抽出し、ビデオデコード部205、分割情報解析部208、字幕デコード部209、グラフィックスデコード部212、オーディオデコード部218に抽出したこれらの情報を出力する(ステップS22)。
ビデオデコード部205は、多重分離部203から受取った3Dビデオストリームのパケット(例えば、MPEG4 MVCのTSのパケット)を、ストリーム管理情報解析部から受取った情報を基に復号し(ステップS23)、左目用映像プレーン206に復号した左目用映像を、右目用映像プレーン207に復号した右目用映像を出力する(ステップS24)。
字幕デコード部209は、多重分離部203から受取った字幕ストリームのパケットを、ストリーム管理情報解析部から受取った情報を基に復号し(ステップS25)、3Dビデオストリームを復号した画像のPTSと同時刻のPTSを持つ字幕画像を字幕プレーン210に出力する(ステップS29)。
グラフィックスデコード部212は、多重分離部203から受取ったグラフィックスストリームのパケットを、ストリーム管理情報解析部から受取った情報を基に復号し(ステップS26)、3Dビデオストリームを復号した画像のPTSと同時刻のPTSを持つグラフィックス画像をグラフィックスプレーン213に出力する(ステップS30)。
オーディオデコード部218は、多重分離部203から受取ったオーディオストリームのパケットを、ストリーム管理情報解析部から受取った情報を基に復号し(ステップS27)、復号した音声データをスピーカ219に出力する(ステップS28)。
分割情報解析部208は、ストリーム管理情報解析部204から3Dビデオストリームを復号した画像のPTSと同時刻のPTSの値を持つ字幕画像やグラフィックス画像に対応したオフセットメタデータ300を受取り、オフセットメタデータ300を解析して、各プレーンの部分領域情報とその部分領域ごとのオフセット値を抽出し、字幕オフセット処理部211及びグラフィックスオフセット処理部214に出力する(ステップS31、S32)。
次に、セレクタ215は、ストリーム管理情報解析部204がストリーム管理情報から抽出したPTSの値に従って、プレーン加算部216に出力する映像プレーンとして、左目用映像プレーン206と右目用映像プレーン207のどちらの映像プレーンを出力するのかを選択する(ステップS33)。
セレクタ215は、プレーン加算部216に出力する映像プレーンとして左目用映像プレーン206を選択した場合(ステップS33:YES)、字幕オフセット処理部211とグラフィックスオフセット処理部214に、それぞれのプレーンを左目用にシフトする指示を行う。
セレクタ215から左目用にシフトする指示を受けた字幕オフセット処理部211は、部分領域ごとに字幕プレーンの画像を左目用にシフトしてプレーン加算部216に出力する(ステップS34)。具体的には、字幕プレーンの表示領域の最上部から逐次1ライン分の画像を抽出し、分割情報解析部208から受取った部分領域ごとのオフセット情報で示されるオフセット値分、右にシフトした1ライン分のオフセット字幕画像をプレーン加算部216に出力する。字幕オフセット処理部211は、この処理を表示領域の最下部に達するまで繰り返す。図2(a)の例では、字幕オフセット処理部211は、領域Aに含まれるラインの画像は、OffsetAで示される値だけ右側にシフトし、領域Bの範囲に含まれるラインの画像は、OffsetBで示される値だけ右側にシフトしてプレーン加算部216に出力する。
グラフィックスオフセット処理部214は、字幕オフセット処理部211で左目用画像を生成するのと同様の方法で、グラフィックスプレーンの画像を1ライン分抽出し、左目用にシフトしてプレーン加算部216に出力する(ステップS35)。
プレーン加算部216は、セレクタ215から出力された左目用映像プレーンの画像に、字幕オフセット処理部211から1ラインずつ逐次出力されたオフセット字幕画像を重畳する。次に、グラフィックスオフセット処理部214から1ラインずつ逐次出力されたオフセットグラフィックス画像を重畳する(ステップS36)。
一方、セレクタ215は、プレーン加算部216に出力する映像プレーンとして右目用映像プレーン207を選択した場合(ステップS33:NO)には、字幕オフセット処理部211とグラフィックスオフセット処理部214に、それぞれのプレーンを右目用にシフトする指示を行う。
セレクタ215から右目用にシフトする指示を受けた字幕オフセット処理部211は、左目用にシフトした画像を生成する場合と同様の方法で、部分領域ごとに字幕プレーンの画像を右目用にシフトしてプレーン加算部216に出力する(ステップS37)。ステップS37の処理は、ステップS34の処理に相当し、シフトする方向が右側でなく左側にシフトする点が異なるだけである。
グラフィックスオフセット処理部214は、字幕オフセット処理部211で右目用画像を生成する場合と同様の方法でグラフィックスプレーンの画像を部分領域ごとに右目用にシフトした右目用オフセットグラフィックス画像を生成してプレーン加算部216に出力する(ステップS38)。
プレーン加算部216は、セレクタ215から出力された右目用映像プレーンの画像に、字幕オフセット処理部211から1ラインずつ逐次出力されたオフセット字幕画像を重畳する。次に、グラフィックスオフセット処理部214から1ラインずつ逐次出力されたオフセットグラフィックス画像を重畳する(ステップS39)。
表示部217は、プレーン加算部216で重畳された画像を表示する(ステップS40)。
以上、説明したように、映像表示装置10は、左目用映像プレーンの画像又は右目用映像プレーンの画像に、字幕の画像及びグラフィックスの画像を1ラインずつ逐次シフトして重畳することができるので、余分な画像プレーンを使用することなく画像の重畳を行うことができる。
(映像表示装置20の使用態様の一例)
以下、図8を用いて、上記の映像表示装置20の一態様である3D映像を再生する3Dデジタルテレビ30を例に挙げて説明する。
図8(a)に示すように、ユーザは、3Dデジタルテレビ30と3D眼鏡40を用いて3D映像を視聴する。
3Dデジタルテレビ30は、2D映像及び3D映像を表示することができるものであり、受信した放送波に含まれるストリームを再生することで映像を表示する。具体的には、MPEG−2形式で圧縮符号化された2DビデオストリームやMPEG−4 MVC形式で圧縮符号化された3Dビデオストリームを再生する。
3Dデジタルテレビ30は、3Dビデオストリームを受信した場合には、左目用画像と右目用画像とを交互に表示する。
ユーザは、このようにして再生された映像を、3D眼鏡40を着用して眺めることで立体映像として視聴することができる。
図8(b)は、3D眼鏡40の左目用画像の表示時を示す。
画面上に左目用の画像が表示されている瞬間において、3D眼鏡40は、左目に対応する液晶シャッターを透光にし、右目に対応する液晶シャッターは遮光する。
同図(c)は、右目用画像の表示時を示す。
画面上に右目用画像が表示されている瞬間において、先ほどと逆に右目に対応する液晶シャッターを透光にし、左目に対応する液晶シャッターを遮光する。
図9は、ユーザが3DデジタルTVの30のディスプレイ50に表示される画像を、3D眼鏡40を通して見たときのそれぞれの表示物の見え方を概念的に示す図である。
左目用画像が表示されているとき、3D眼鏡40の右目は、液晶シャッターで隠された状態となり、ユーザは左目だけで左目用画像を見る。また、ディスプレイ50に右目用画像が表示されているとき、3D眼鏡40の左目は液晶シャッターで隠された状態となり、ユーザは、右目だけで左目用画像を見る。このような表示制御を行うことにより、ユーザには、3D映像データに含まれるオブジェクト60はディスプレイ50から手前に飛び出して見える。更に、その手前に字幕プレーンの表示物70と表示物80が飛び出して見える。表示物70は、図2(a)の部分領域である領域Aに表示されている表示物であり、表示物80は、領域Bに表示されている表示物であるので、上記で説明したように部分領域ごとに異なるoffset量で画像をシフトことにより、表示物80は、表示物70より手前に飛び出しているように見える。更に、その手前にはグラフィックスプレーンの表示物90が飛び出しているように見える。
ユーザは、このように3D眼鏡を通して眺めることによって、3Dデジタルテレビ30に表示される映像を立体的な映像として見ることができる。
<2.実施の形態2>
<2.1 概要>
実施の形態1のように、部分領域ごとにシフトするオフセット値を設定して、それぞれの部分領域に表示される表示物を異なるオフセット値で表示する場合において、部分領域の境界付近に、それぞれの表示物が表示されるような場合には、深度の異なる表示物が近接して表示されることになる。このため、このような映像を視聴した場合、ユーザにとって見づらい場合がある。
そこで、本実施の形態2では、部分領域の境界近傍の一定の範囲は、表示物の表示を行わない禁止領域を設けることによって、深度の異なる表示物が近接して表示されるのを防ぎ得る送信装置について説明する。この送信装置は、部分領域ごとに禁止領域を示す情報を生成し、伝送ストリームに付加して送信する。
また、禁止領域を示す情報が付加された伝送ストリームを受信した場合には、部分領域ごとに、オフセット情報で示されるオフセット値で画像を水平方向にシフトする際に、この禁止領域に含まれる画像はシフトせずに、禁止領域の範囲外の画像のみシフトする映像表示装置について説明する。
以下、実施の形態1で用いたデータ構造、送信装置、映像表示装置と共通の構造や動作については、説明を省略し、異なる点を重点的に説明する。
<2.1 データ>
図10は、字幕プレーン1000の部分領域における表示物の表示をしない禁止領域を示す概念図である。
字幕プレーン1000は、水平境界線で、領域Aと領域Bとの部分領域に、分割されている。領域Aには、水平境界線の上側に禁止領域1210が、領域Bには、水平境界線の下側に禁止領域1211が設定されており、表示物1200と表示物1201とは、領域Aの禁止領域1210の範囲外に表示され、表示物1203は領域Bの禁止領域1211の範囲外に表示されている。
以下、このように分割された各々の部分領域に対応した禁止領域を示す情報を記述したオフセットメタデータのデータ構造について説明する。
図11は、本実施の形態2で用いるオフセットメタデータ310のデータ構造を示す。オフセットメタデータ310は、実施の形態1で用いたオフセットメタデータ300に禁止領域を示すための記述子311を追加したデータ構造である。
記述子311であるforbidden_area()のupper_lengthは、対応する部分領域の上端の境界線における禁止領域の範囲を示す。同様にlower_lengthは、下端の境界線における禁止領域の範囲を示す。具体的には、図10の例では、領域Aについては、上端は字幕プレーン1000の表示領域の上端と同じであり禁止領域が設定されていないのでupper_lengthには、「0」が記述される。一方、lower_lengthには、禁止領域1210の高さを示す値が記述される。
領域Bについては、領域Bの上端は、領域Aとの境界であり、upper_lengthには、禁止領域1211の高さを示す値が記述される。一方、領域Bの下端は、字幕プレーンの表示領域の下端と同じであり、禁止領域が設定されていないのでlower_lengthには、「0」が記述される。
<2.2 送信装置の構成>
図12は、本実施の形態2に係る送信装置10aの機能ブロック図である。
送信装置10aの機能のほとんどは、実施の形態1の送信装置10と同じである。送信装置10aは、送信装置10に比べて禁止領域設定部107と、ストリーム生成部108が追加され、分割情報生成部102aの機能が送信装置10の分割情報生成部102と異なる。
送信装置10の分割情報生成部102は、字幕ストリーム112やグラフィックスストリーム113の表示物の表示位置に基づいて部分領域の情報を生成していたが、分割情報生成部102aは、コンテンツ製作者が予め定めた領域情報の入力を受け、その領域情報に基づいて、字幕やグラフィックスの表示領域を部分領域に分割するための分割情報を生成する点で異なる。
禁止領域設定部107は、同様にコンテン製作者が予め定めた部分領域ごとの禁止領域の情報の入力を受け、部分領域ごとに禁止領域を示す情報を追加する機能を備える。
ストリーム生成部108は、コンテンツ作成者によって入力された字幕及びグラフィックスのデータから、字幕ストリーム及びグラフィックスストリームを生成する機能を備える。
<2.3 送信装置の動作>
以下、送信装置10aにおける禁止領域を考慮した字幕ストリーム及びグラフィックスストリームを生成する処理動作を説明する。なお、グラフィックスストリームを生成する場合は、以下で説明する字幕ストリームを生成する場合の字幕データがグラフィックスデータに置き換わっただけなので、同様の手順で生成することができる。このため、字幕ストリームを生成する場合を例に説明する。
図13は、送信装置10aの禁止領域を考慮した字幕ストリームを生成する処理のフローチャートである。
分割情報生成部102aは、コンテンツ作成者によって字幕の表示位置等がコンテンツ作成者によって予め設定された部分領域を示す情報を読込み、部分領域ごとにオフセットメタデータ310のdividing_point_startとdividing_point_endの値を設定する。そして、禁止領域設定部107は、同様にコンテンツ作成者によって予め設定された禁止領域を示す情報を読込み、部分領域ごとに、オフセットメタデータ310のforbidden_areaのupper_lengthとlower_lengthとの値を設定する(ステップS50)。なお、コンテンツ作成者によって予め設定された部分領域を示す情報及び禁止領域を示す情報は、例えば、コンテンツ提供者が、送信装置10aに備えられたモニターを見ながら外部からのデータ入力用のキーボードを操作することによって入力される。具体的には、コンテンツ提供者は、部分領域の開始Y座標の値と終了Y座標の値を入力する。また、コンテンツ作成者が作成した部分領域ごとの開始Y座標の値、終了Y座標の値及び禁止領域の高さを示すリストを記憶した外部記憶装置(例えば、ハードディスクドライブやメモリカード)を送信装置10aに接続して読取るようにしてもよい。
次に、ストリーム生成部108は、コンテンツ作成者が作成した部分領域を示す情報を読込むのと同様の方法で、コンテンツ作成者が入力した字幕データを読込む(ステップS51)。なお、この字幕データは、禁止領域の範囲には字幕を表示しないようにコンテンツ提供者によって予め表示位置が定められている字幕データである。
次に、ストリーム生成部108は、コンテンツ作成者によって入力された字幕について、字幕ストリームを生成する(ステップS52)。
以上の処理により、送信装置10aは、部分領域ごとに字幕を表示しない禁止領域を示す情報を追加したオフセット情報を含むオフセットメタデータを生成することができ、禁止領域には字幕を表示しない字幕ストリームを生成することができる。
<2.4 映像表示装置の構成>
次に、本実施の形態2に係る送信装置10aが送信したトランスポートストリーム116を受信し、映像を表示する映像表示装置について説明する。なお、本実施の形態2に係る映像表示装置は、実施の形態1の映像表示装置20とほぼ同じ構成であるので、説明の便宜上、映像表示装置20と同じ符号を用いる。
本実施の形態2の映像表示装置20は、字幕オフセット処理部211及びグラフィックスオフセット処理部214の機能が、実施の形態1の字幕オフセット処理部211及びグラフィックスオフセット処理部214の機能に加えて、オフセットメタデータ310の部分領域ごとの禁止領域を示す情報を抽出して、抽出した禁止領域の範囲に含まれる画像は、シフトせず、禁止領域以外の部分領域の範囲に含まれる画像のみをシフトする機能を有する。
<2.5 映像表示装置の動作>
以下、上記の機能を備えた映像表示装置20の処理動作について説明する。
図14は、本実施の形態の映像表示装置20の処理を示すフローチャートである。
ステップS20〜ステップS33までの処理は図7のステップS20〜ステップS33と同じ処理であるので、ここでは、ステップS33以降の処理を重点的に説明する。
セレクタ215は、プレーン加算部216に出力する映像プレーンの画像として左目用映像プレーン206の画像を選択した場合(ステップS33:YES)、字幕オフセット処理部211とグラフィックスオフセット処理部214に、それぞれのプレーンの画像を左目用にシフトする指示を行う。
字幕オフセット処理部211は、部分領域に禁止領域が設定されているかを調べる(ステップS61)。具体的には、オフセットメタデータ310の部分領域ごとのforbidden_areaのupper_lengthとlower_lengthの値について、それぞれの値が「0」であるか否かを調べ、「0」以外の値であれば禁止領域が設定されていると判断する。そしてシフトしようとしている領域がこの禁止領域内であれば(ステップS61:YES)、この領域はシフトしない画像をプレーン加算部216に出力する。一方、禁止領域内でなければ(ステップS61:NO)、この領域の画像をoffset_valueで示される値で左目用に、上述の図7のステップS34と同様の方法で右にシフトした画像をプレーン加算部216に出力する(ステップS62)。
グラフィックスオフセット処理部214は、ステップS61と同様の方法で、グラフィックスプレーンの画像についても禁止領域か否かを調べる(ステップS63)。
ステップS63でYESの場合には、グラフィックスオフセット処理部214は、シフトしない画像をプレーン加算部216に出力し、ステップS63でNOの場合には、ステップS62と同様の方法で、グラフィックスプレーンに適用する部分領域ごとのoffset_valueで示される値で、左目用に、右にシフトした画像をプレーン加算部216に出力する(ステップS64)。
次にプレーン加算部216は、セレクタ215が出力した左目用映像プレーンの画像に、字幕オフセット処理部211が出力した左目用にシフトした字幕画像と、グラフィックスオフセット処理部214が出力した左目用にシフトしたグラフィックス画像とを上述の図7のステップS36と同様の方法で重畳し、表示部217に出力する(ステップS65)。表示部217は、プレーン加算部216が出力した左目用画像を表示する(ステップS71)。
一方、ステップS33でNOの場合、字幕プレーンとグラフィックスプレーンとを右目用にシフトした画像をステップS66〜S70の処理によって生成する。ステップS66〜ステップS70は、左目用にシフトした画像を生成する処理であるステップS61〜ステップS65の処理に対応し、画像をシフトする方向が右方向ではなく左方向である点が異なるだけである。
そして表示部217は、プレーン加算部216が出力した右目用画像を表示する(ステップS71)。
<3.変形例>
以上、本発明に係る送信装置及び映像表示装置を、実施の形態に基づいて説明したが、以下のように変形することも可能であり、本発明は上述した実施の形態で示した通りの送信装置及び映像表示装置に限られないことは勿論である。
(1)上述の実施の形態では、部分領域の範囲を示す情報と、その部分領域ごとのオフセット値を示す情報とを1つのデータ構造内に記述した例で説明したが、部分領域の範囲を示す情報とその部分領域ごとのオフセット値は、同じデータ構造内に記述しなくてもよい。部分領域を示す範囲と、その部分領域に適用するオフセット値との対応がわかれば、どのようなデータ構造を用いてもよい。
例えば、図15のように、オフセット値の情報を記述したoffset_metadataと部分領域の情報を記述したoffset_sequence_id_refsとを用いてもよい。
図15のoffset_metadataは、Blu-ray Disc(登録商標)の仕様として開示されてoffset_metadataと同等のデータ構造である。詳しくは、非特許文献1のA.3.6.1に記載されている。
本変形例のオフセットメタデータ400は、このoffset_metadataで示されるデータ構造とoffset_sequence_id_refsで示されるデータ構造とで、部分領域ごとのオフセットを示す情報を記述するものである。
offset_sequence_id_refsのmember_of_offset_sequence_id_refsは、offset_sequenceの数、すなわち部分領域の数を示す。
forループ内のoffset_sequence_id_refは、offset_metadataのoffset_sequence_idで参照されるOffset Sequenceを特定するためのIDである。
dividing_point_startは、offset_sequence_id_refで示される部分領域の開始Y座標であり、dividing_point_endは、同じく領域の終了Y座標を示す。
このように、部分領域を示す情報と、オフセット値を示す情報とを別々のデータ構造でで記述することにより、より柔軟に部分領域ごとのオフセット値の対応付けを行える。
また、部分領域の範囲を記述するために、部分領域の開始Y座標と、終了Y座標とを用いたが、部分領域の範囲の記述方法はこれに限らない。部分領域の範囲が特定できる情報であればどのような記述であっても構わない。例えば部分領域の開始Y座標と、高さとで記述してもよい。
また、隣接する部分領域の深度の差、すなわちoffset_valueの値の差が所定値より大きい場合には、禁止領域の高さをoffset_valueの値の差が所定値以内の場合に比べて大きくとるようにしてもよい。禁止領域の領域の高さを隣接する部分領域の深度の差に応じて変えることによって、境界付近での深度の違いによる見づらさを低減することができる。
(2)実施の形態及び上述の変形例では、部分領域の範囲を特定する座標を直接オフセットメタデータに記述する例で説明したが、部分領域の範囲を特定する座標を、オフセットメタデータに直接記述しなくてもよい。オフセットメタデータに記述する情報は、部分領域の範囲を特定できる情報であればよい。具体的には、例えば、予め分割するパターンを何種類か用意しておき、その分割パターンを特定できるIDを記述してもよい。映像表示装置では、その製造時に予め、分割パターンを特定するIDに対応付けて分割パターンごとの部分領域の範囲の座標を記憶させておく。そして、映像表示装置は、受信したストリームに含まれるオフセットメタデータの分割パターンを示すIDを抽出して、そのIDに対応する分割パターンの部分領域を、予め記憶している領域情報を参照して処理を行う。
図16は、分割パターンの例とオフセットメタデータのデータ構造の一例を示す。
分割パターンとして、図16(a)と(b)の2種類の分割パターンを予め定義する。同図(a)は表示領域を2つに分割する例でこのregion_IDは「3」であり、同図(b)は3つに分割する例で、region_IDは「4」である。このように、分割数に1を加えた値をregion_IDとする。
同図(c)は、オフセットメタデータ500のデータ構造の一例である。
region_IDは、分割パターンを特定するためのIDであり、図16の例では、その値は「3」か「4」である。
number_of_regionは、部分領域の数を示し、region_ID−1で求めることができる。
max_disparity_in_pictureは、表示領域をシフトする場合の最大のオフセット値を示し、部分領域ごとにオフセット値を変えて出力しない場合等、すなわち実施の形態1で説明したoffset_priorityに「1」が設定された部分領域のoffset_valueに相当する。
forループ内のmin_disparity_in_region_iは、部分領域ごとのオフセット値を示す。部分領域ごとにこのmin_disparity_in_region_iを用いて部分領域の画像をシフトする。
同図(d)は、映像表示装置に予め記憶されている分割パターンごとの部分領域の範囲を記した分割パターン情報600のデータ構造の例である。
分割パターン情報600は、分割パターンごとに部分領域の範囲を記述したテーブルである。同図(d)で示すように、分割パターン情報600は、region_ID601、regionNO602、start603、end604の項目で構成されている。
region_ID601はオフセットメタデータ500で記述されたregion_IDを特定するための項目であり、regionNO602は、region_IDで特定された分割パターンの部分領域を特定するための項目である。start603、end604はそれぞれ、部分領域ごとの開始Y座標、終了Y座標を記述するための項目である。
同図(d)のregion_IDが「3」の場合が同図(a)の場合の分割パターンに対応し、regionNOが「0」と「1」の2つの部分領域があり、regionNOが「0」の領域の開始Y座標は「0」で終了Y座標は「539」であることが記憶されている。同様にregionNOが「1」の場合には開始Y座標は「540」で終了Y座標は「1080」であることが記憶されている。同様に、同図(d)のregion_IDが「4」の場合が同図(b)の場合の分割パターンに対応する。このように、映像表示装置は、オフセットメタデータ500に含まれているregion_IDを抽出し、予め記憶している分割パターン情報600を参照することによってregion_IDに対応した部分領域の範囲を特定することができる。
(3)実施の形態2では、禁止領域の範囲を境界線から一定の高さで記述する例で説明したが、禁止領域の範囲の記述方法は、境界線から一定の高さで記述することに限らない。禁止領域の範囲を特定できれば、どのような記述であっても構わない。例えば、各部分領域の高さに対する割合で記述しても構わない。
図17は、部分領域の高さに対する割合で記述するオフセットメタデータのデータ構造の例を示す。オフセットメタデータ320は、同図の記述子321であるforbidden_area_ratio()で示すように、禁止領域の範囲を部分領域の上端及び下端の境界それぞれについて部分領域の高さに対する割合で記述する。upper_side_ratioは、上端における禁止領域の範囲を、部分領域の高さに対する割合を示す。例えば、この値が0.2であり、部分領域の高さが540であるとすると、禁止領域の高さは、108(=540x0.2)であり、上端の境界のY座標に108を加えた範囲までが禁止領域であるということを示している。同様に、lower_side_ratioは、部分領域の下端における禁止領域の範囲を、部分領域の高さに対する割合で示す。
このように記述することで、部分領域の高さに応じた一定割合の範囲を禁止領域として設定することができる。
(4)実施の形態2の映像表示装置では、禁止領域が設定されているオフセットメタデータ310を受信した場合の字幕オフセット処理部211及びグラフィックスオフセット処理部214でのオフセット処理において、禁止領域に含まれる画像はシフトしないとしが、オフセット処理はこの処理にかぎられない。隣接する部分領域の境界付近での深度の差が大きくならないようにオフセット処理を行えればよい。例えば、禁止領域に含まれる画像を、隣接する部分領域のそれぞれのオフセット値の中間のオフセット値でシフトしてもよい。また、隣り合う領域のオフセット値の差が予め定められた値よりも小さい場合には、禁止領域を部分領域ごとのオフセット値でシフトしてもよい。
また、表示物が表示されない部分領域のoffset_valueの値を「0」にしてもよい。表示物が表示されない部分領域の画像をシフトする必要はないので、表示物が表示されないことが予めわかっている部分領域についてはoffset_valueの値を常に「0」にすることによって、オフセット処理の負荷を低減することができる。
(5)実施の形態において表示領域を部分領域に分割してオフセットメタデータに記述するとしたが、このときに、部分領域の高さは偶数になるようにしてもよい。これは以下に示す理由による。TV放送における映像では、放送の帯域を有効に利用するために、明るさに比べて色に対する分解能が低いという人間の目の特性を利用して色成分の情報削減を行う色差方式であるデジタルコンポーネント映像信号方式が広く用いられており、主に4:2:2形式の映像フォーマットが用いられている。この形式では、水平・垂直方向の色信号を走査線1本おきにサンプリングするため、字幕やグラフィックスの部分領域の高さが奇数になるように分割すると、3D映像と重畳したときに1ラインずれてしまう可能性があるからである。
(6)実施の形態では、字幕ストリームやグラフィックスストリームは、映像ストリームと多重化された伝送ストリームに含めて放送波として送信するとしたが、字幕ストリームやグラフィックスストリームの伝送は、映像ストリームと多重化して伝送する方法に限られない。映像表示装置で、映像と字幕及びグラフィックスとを重畳して出力できるようにこれらのストリームが受信できれば、どのような方法で送信してもよい。例えば、多重化した放送波ではなく異なる放送波で送信してもよいし、インターネットなどのネットワーク経由で配信してもよい。更には、SD(登録商標)カードやDVD、Blu-ray Discなどの記録媒体によって配布されてもよい。
なお、字幕ストリームやグラフィックスストリームは、ビデオや字幕に重畳され、付加的な情報やユーザによるインタラクティブな操作を行うグラフィックを生成できる形式のストリームであれば、どのような形式で記述されたデータを用いて生成されたストリームであってもよい。例えば、Java(登録商標)などのプログラミング言語で構成されているデータを用いて生成したストリームとしてもよいし、HTML(Hyper Text Markup Language)やHDML(Handheld Device Markup Language)などで記載されたデータを用いて生成したストリームとしてもよいし、BML(Broadcast Markup Language)などで記載されたデータを用いて生成したストリームであってもよい。
(7)実施の形態では、オフセットメタデータは、PMT内に記述して送信する例で説明したが、オフセットメタデータはPMTに記述することに限らない。映像表示装置が、オフセットメタデータを抽出して部分領域ごとのオフセット情報が取得できれば、映像表示装置が取得するデータのどこに記述されていてもよい。例えば、番組単位でオフセットメタデータのオフセット情報が変化しないような場合には、EITに記述してもよい。チャネル単位で変わらない場合には、PSI内のチャネルを示す記述子内に記述してもよい。また、オフセットメタデータを記述した単独のストリームにしてもよい。更には、グラフィックスの描画がJava(登録商標)プログラムによって記述されており、映像表示装置がこのJavaプログラムを実行することによってグラフィックスプレーンの画像を生成する場合には、オフセットメタデータは、Javaプログラム内に記述してもよい。また、グラフィックスを描画するためのデータがHTMLで記述されている場合には、HTML内にオフセットメタデータが記述されていてもよい。
(8)上述の実施の形態では、3D映像の左目用と右目用の映像を共に放送波で送信及び受信するものとして説明したが、3D映像の送信・受信は、これに限られない。映像表示装置で視聴者が3D映像として視聴できるように表示するための左目用と右目用との映像が受信できるように送信できれば、どのように送信されても構わない。例えば、左目用の映像は従来の放送波で送信・受信し、右目用の映像はネットワーク経由などで配信・受信するようにしてもよい。そして、この場合、オフセットメタデータは、放送波以外の送信方法(この例の場合ネットワーク経由)から配信するようにしてもよい。こうすることで、既存の放送設備はそのまま利用できる。
(9)実施の形態では、表示領域を2つの部分領域に分割した例で説明したが、部分領域の分割数は2つに限られない。3D映像と重畳した場合に、異なる表示物の深度を適切に設定できる部分領域に分割できればよい。例えば、2つ以上の部分領域に分割してもよい。3つの領域に分割した場合には、図3のオフセットメタデータ300のnumber_of_offset_sequence_in_OSGの値は「3」であり、forループ内において3つのoffset_value、dividing_point_start、dividing_point_endの値が設定される。
また、分割数の上限値を設定してもよい。この場合、分割数の上限を、表示される字幕等の高さの最大値に基づいて決定してもよい。例えば、表示画面の高さをWとし、字幕等の高さの最大値をNとすると、W/Nの値を越えない最大の整数値を分割数の最大値としてもよい。また、表示画面の解像度に応じて分割数の最大値を制限してもよい。例えば、表示領域の大きさが、Full HD(full high definition)(高さ方向の画素数が1080以上)の場合には4分割まで、Full HD以下でHD(high definition)(高さ方向の画素数が1080未満720以上)の場合は3分割まで、SD(standard definition)(高さ方向の画素数が720未満)の場合は2分割までというように制限してもよい。
また、各部分領域の境界線は、接している必要はない。例えば、表示領域の最上部から全体の高さの1/4の範囲の部分領域と、表示領域の最下部から全体の高さの1/2の範囲の部分領域を設定してもよい。このように分割した場合、部分領域の境界線は接していない。
また、表示領域に対して、オフセット値でシフトする領域の割合を制限してもよい。例えば、オフセット値を設定する各部分領域の高さの合計を表示領域の1/2に相当する高さに制限してもよい。この場合、各部分領域の境界は、接していない場合があり得る。
このように、オフセットする部分領域以外の領域は、字幕オフセット処理部211やグラフィックスオフセット処理部214でオフセット処理する必要がないので処理の負荷を低減し得る。
(10)実施の形態において、時間経過に伴って同じ部分領域におけるoffset_valueの値が切替わる場合に切替える前の一定時間は、字幕やグラフィックスを表示しないようにしてもよい。短時間の内に、表示物の深度が大きく異なると、3D映像を視聴している視聴者にとって映像が見づらい場合がある。深度が切替わる前の一定時間は表示物を表示しないことによって、視聴者にとって見づらくなることを低減することができる。
また、頻繁に部分領域の分割範囲や深度が変わると、字幕オフセット処理部211やグラフィックスオフセット処理部214でのオフセット処理において、処理負荷が増える。このため、部分領域や、深度の切替えを一定の時間単位で行うようにしてもよい。
例えば、1つの番組においては、部分領域の範囲とそのoffset_valueを変えないようにしてもよい。これにより、番組開始時に部分領域とそのoffset_valueを抽出したら、番組が終わるまで同じ値を使うことができるので、処理負荷が低減できる。
また、MPEG2形式やMPEG4 MVC形式で符号化された映像のGOP単位やIpictureと共に表示されるべきタイミングのときにしかoffset_valueの値を変えないようにしてもよい。
また、部分領域やoffset_valueの値を切替える際には、その切替えタイミングの時刻が来る一定時間前から切替えが発生することを示す情報をSI/PSIに付加して伝送するようにしてもよい。
映像表示装置は、この切替えが発生することを示す情報が付加されているストリームのパケットを受信している間は、字幕プレーンやグラフィックスプレーン画像をシフトせずに出力するようにしてもよい。
(11)実施の形態2では、送信装置10aが禁止領域を考慮した字幕ストリームを生成する例で説明したが、字幕ストリームの生成は、送信装置10aで行わなくてもよい。送信装置10aは、字幕ストリームを含んで多重化した伝送ストリームが送信できればよく、字幕ストリームの生成は、別の装置で行い、送信装置に出力してもよい。
(12)実施の形態1のビデオデコード205は、MPEG4 MVC形式の3D映像を復号するとしたが、3D映像の符号化方式はこの方式に限られない。3D映像が視聴できるように右目用の映像と左目用の映像とが生成できれば、符号化方式はどのような方式であっても構わない。例えば、右目用と左目用との映像をそれぞれMPEG2形式又はMPEG4 AVCで符号化したデータストリームを受信して復号してもよい。また、右目用、左目用どちらか一方の映像をMPEG2形式で符号化し、右目用と左目用の映像の差分のみをMPEG2やMPEG4 AVCで符号化して、多重化されたデータストリームを受信して復号してもよい。また、サイドバイサイド方式の3D映像を受信して復号してもよい。
(13)実施の形態1の映像表示装置20のプレーン加算部216では、映像プレーンに字幕プレーンの画像とグラフィックスプレーンの画像とを重畳する際に、まず字幕プレーンの画像を重畳し、そのあとにグラフィックスプレーンの画像を重畳するとしたが、重畳の方法はこれに限らない。映像プレーンの画像に、字幕プレーンの画像とグラフィックスプレーンの画像とが重畳できれば、どのように重畳してもよい。例えば、重畳する際の字幕プレーンの画像の深度とグラフィックスプレーンの画像の深度とを比較し、深度の小さい方のプレーンの画像を先に重畳するようにしてもよい。
(14)本発明は、上記の処理を実現する方法であるとしてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしてもよいし、前記コンピュータプログラムからなるデジタル信号であるとしてもよい。
また、本発明は、前記コンピュータプログラム又は前記デジタル信号をコンピュータ読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD―ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blu−ray Disc(登録商標))、半導体メモリなど、に記録したものとしてもよい。また、これらの記録媒体に記録されている前記コンピュータプログラム又は前記デジタル信号であるとしてもよい。
また、本発明に係るコンピュータプログラム又はデジタル信号を、電気通信回線、無線又は有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送するものとしてもよい。
(15)上記実施の形態及び上記変形例をそれぞれ適宜組み合わせるとしてもよい。
<4.補足>
以下、更に本発明の一実施形態としての送信装置及び映像表示装置の構成及びその変形例と効果について説明する。
(1)本発明の一実施形態に係る送信装置は、3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置であって、前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成手段と、前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定手段と、前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成手段と、前記伝送ストリームを送信するストリーム送信手段とを備える。
この構成の送信装置は、3D映像に重畳して表示されるべき表示オブジェクトの表示領域を垂直境界線で分割するのではなく、水平境界線によって複数の部分領域に分割し、部分領域ごとに異なる深度で映像表示装置に表示させるためのオフセット情報を送信する。
従って、映像表示装置で3D映像に字幕等表示データの表示プレーンを重畳して表示する際に、字幕等表示データにおける異なった部分領域に含まれる表示オブジェクトを異なった深度で見えるように表示し得るストリームデータを送信することができる。
(2)ここで、前記オフセット情報設定手段は、表示オブジェクトを表示する時刻に表示されるべき前記3D映像の深度に応じて、前記3D映像における時間的な区間単位ごとに、前記オフセット情報を前記部分領域のそれぞれについて1つ設定する、としてもよい。
従って、この構成の送信装置は、それぞれの部分領域について、時間的にまとまった単位ごとに適切な深度で映像表示装置に表示させるためのオフセット情報を送信することができる。
(3)ここで、前記3D映像データはMPEG2形式又はMPEG4形式で符号化されたデータであり、前記分割情報生成手段は、前記部分領域の境界線の垂直方向の位置が、前記表示領域の上端から当該3D映像データの符号化の際のマクロブロックの垂直方向の画素数のN倍(Nは1以上の自然数)で表される相対位置になるように分割した分割情報を生成する、
としてもよい。
この構成の送信装置は、部分領域の高さが、3D映像をMPEG2形式又はMPEG4形式で符号化した際のマクロブロックの大きさの整数倍になるように部分領域を分割することができる。
従って、MPEG2形式又はMPEG4形式で符号化された3D映像を復号して重畳する際の処理が容易になる。
(4)ここで、更に、前記部分領域内の境界線近傍の予め定められた一定範囲を、表示オブジェクトの表示を禁止する禁止領域とすることを示す禁止領域情報を生成する禁止領域生成手段を備え、前記ストリーム生成手段は、前記伝送ストリームに、更に前記禁止領域情報を含める、としてもよい。
従って、この構成の送信装置は、部分領域の境界近傍の一定範囲の領域には、表示オブジェクトの表示をしないことを示す禁止領域情報を送信することができる。
(5)ここで、前記禁止領域は、前記部分領域のそれぞれについて、当該部分領域の高さに対して予め定められた一定割合の範囲の領域である、としてもよい。
従って、この構成の送信装置は、部分領域の高さに対して一定の比率の範囲には、表示オブジェクトの表示を行わない領域を設定することができる。
(6)ここで、更に、前記表示オブジェクトの表示範囲が、前記禁止領域情報に基づいて特定される禁止領域の範囲と重なる部分がない表示オブジェクト用のデータストリームを生成する表示オブジェクト用データストリーム生成手段と、前記ストリーム生成手段は、更に前記表示オブジェクト用データストリームを含んで構成される伝送ストリームを生成する、としてもよい。
この構成の送信装置は、禁止領域として設定された範囲には、字幕等の表示オブジェクトの表示がされていない表示オブジェクト用データストリームを生成して、このデータストリームを含んで多重化した伝送ストリームを送信する。
従って、このようなデータストリームを受信した映像表示装置において、境界近傍に深度の異なる表示オブジェクトが表示されない映像を表示し得る表示オブジェクト用データストリームを生成して送信することができる。
(7)ここで、更に、前記表示オブジェクトの表示範囲が、前記禁止領域情報に基づいて特定される禁止領域の範囲と重なる部分がない表示オブジェクト用のデータストリームを生成する表示オブジェクト用データストリーム生成手段と、前記表示オブジェクト用データストリームを送信する表示オブジェクト用データストリーム送信手段とを備える、としてもよい。
この構成の送信装置は、禁止領域として設定された範囲には、字幕等の表示オブジェクトの表示がされていない表示オブジェクト用データストリームを生成して、送信する。
従って、3D映像に重畳して表示するための表示オブジェクト用データストリームを、伝送ストリームとは、別に送信することができる。
(8)本発明の一実施形態に係る映像表示装置は、伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置であって、前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成手段と、前記3D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力手段とを備える。
この構成の映像表示装置は、受信した伝送ストリームに含まれる部分領域ごとのオフセット情報に基づいて、3D映像の左目用画像を表示する際には、重畳する表示オブジェクトを部分領域ごとに異なるオフセット値で左目用にシフトした画像を生成し、右目用画像を表示する際には、同じく右目用にシフトした画像を生成して重畳して出力する。
従って、3D映像に字幕等表示データの表示プレーンを重畳して表示する際に、字幕等表示データにおける表示位置の異なる表示オブジェクトを異なった深度で見えるように表示することができる。
(9)ここで、前記生成手段は、前記伝送ストリームに、前記部分領域の境界線近傍の予め定められた範囲への前記表示オブジェクトの表示を禁止するための禁止領域を示す禁止領域情報が含まれている場合には、前記禁止領域の範囲外に表示される表示オブジェクトに限って水平方向にシフトする、としてもよい。
この構成の映像表示装置は、伝送ストリームに禁止領域情報が含まれている場合には、禁止領域情報で示される禁止領域の範囲の表示オブジェクトはシフトせずに、それ以外の範囲を部分領域ごとのオフセット情報に基づいてシフトする。
従って、禁止領域における画像はシフトしないので、部分領域の境界近傍において、異なる深度で画像を表示されることを抑制できる。
本発明は、3D映像に文字やグラフィック等の表示物を重畳して表示する技術として利用可能である。
10、10a 送信装置
20 映像表示装置
101 ビデオ符号化部
102、102a 分割情報生成部
103 オフセット情報設定部
104 ストリーム管理情報生成部
105 多重化処理部
106 送信部
107 禁止領域設定部
108 ストリーム生成部
201 ユーザーインターフェース部
202 チューナ
203 多重分離部
204 ストリーム管理情報解析部
205 ビデオデコード部
206 左目用映像プレーン
207 右目用映像プレーン
208 分割情報解析部
209 字幕デコード部
210 字幕プレーン
211 字幕オフセット処理部
212 グラフィックスデコード部
213 グラフィックスプレーン
214 グラフィックスオフセット処理部
215 セレクタ
216 プレーン加算部
217 表示部
218 オーディオデコード部
219 スピーカ
300、310、320、400、500 オフセットメタデータ
600 分割パターン情報

Claims (15)

  1. 3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置であって、
    前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成手段と、
    前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定手段と、
    前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成手段と、
    前記伝送ストリームを送信するストリーム送信手段とを備える
    ことを特徴とする送信装置。
  2. 前記オフセット情報設定手段は、表示オブジェクトを表示する時刻に表示されるべき前記3D映像の深度に応じて、前記3D映像における時間的な区間単位ごとに、前記オフセット情報を前記部分領域のそれぞれについて1つ設定する
    ことを特徴とする請求項1記載の送信装置。
  3. 前記3D映像データはMPEG2形式又はMPEG4形式で符号化されたデータであり、
    前記分割情報生成手段は、前記部分領域の境界線の垂直方向の位置が、前記表示領域の上端から当該3D映像データの符号化の際のマクロブロックの垂直方向の画素数のN倍(Nは1以上の自然数)で表される相対位置になるように分割した分割情報を生成する
    ことを特徴とする請求項2記載の送信装置。
  4. 更に、前記部分領域内の境界線近傍の予め定められた一定範囲を、表示オブジェクトの表示を禁止する禁止領域とすることを示す禁止領域情報を生成する禁止領域生成手段を備え、
    前記ストリーム生成手段は、前記伝送ストリームに、更に前記禁止領域情報を含める
    ことを特徴とする請求項3記載の送信装置。
  5. 前記禁止領域は、前記部分領域のそれぞれについて、当該部分領域の高さに対して予め定められた一定割合の範囲の領域である
    ことを特徴とする請求項4記載の送信装置。
  6. 更に、前記表示オブジェクトの表示範囲が、前記禁止領域情報に基づいて特定される禁止領域の範囲と重なる部分がない表示オブジェクト用のデータストリームを生成する表示オブジェクト用データストリーム生成手段と、
    前記ストリーム生成手段は、更に前記表示オブジェクト用データストリームを含んで構成される伝送ストリームを生成する
    ことを特徴とする請求項4記載の送信装置。
  7. 更に、前記表示オブジェクトの表示範囲が、前記禁止領域情報に基づいて特定される禁止領域の範囲と重なる部分がない表示オブジェクト用のデータストリームを生成する表示オブジェクト用データストリーム生成手段と、
    前記表示オブジェクト用データストリームを送信する表示オブジェクト用データストリーム送信手段とを備える
    ことを特徴とする請求項4記載の送信装置。
  8. 伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置であって、
    前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、
    前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成手段と、
    前記3D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力手段とを備える
    ことを特徴とする映像表示装置。
  9. 前記生成手段は、前記伝送ストリームに、前記部分領域の境界線近傍の予め定められた範囲への前記表示オブジェクトの表示を禁止するための禁止領域を示す禁止領域情報が含まれている場合には、前記禁止領域の範囲外に表示される表示オブジェクトに限って水平方向にシフトする
    ことを特徴とする請求項8記載の映像表示装置。
  10. 3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置が実行する送信方法であって、
    前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成ステップと、
    前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定ステップと、
    前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成ステップと、
    前記伝送ストリームを送信するストリーム送信ステップとを備える
    ことを特徴とする送信方法。
  11. 3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置の送信プログラムであって、
    前記送信装置に、
    前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成ステップと、
    前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定ステップと、
    前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成ステップと、
    前記伝送ストリームを送信するストリーム送信ステップとを、
    実行させることを特徴とする送信プログラム。
  12. 3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置を構成する集積回路であって、
    前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成手段と、
    前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定手段と、
    前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成手段と、
    前記伝送ストリームを送信するストリーム送信手段とを備える
    ことを特徴とする集積回路。
  13. 伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置が実行する映像表示方法であって、
    前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、
    前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成ステップと、
    前記3D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力ステップとを備える
    ことを特徴とする映像表示方法。
  14. 伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置の映像表示プログラムであって、
    前記映像表示装置に、
    前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、
    前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成ステップと、
    前記3D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力ステップとを、
    実行させることを特徴とする映像表示プログラム。
  15. 伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置を構成する集積回路であって、
    前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、
    前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成手段と、
    前記3D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力手段とを備える
    ことを特徴とする集積回路。
JP2013554257A 2012-01-18 2013-01-18 送信装置、映像表示装置、送信方法、映像処理方法、映像処理プログラム及び集積回路 Active JP6211929B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261587803P 2012-01-18 2012-01-18
US61/587,803 2012-01-18
PCT/JP2013/000231 WO2013108633A1 (ja) 2012-01-18 2013-01-18 送信装置、映像表示装置、送信方法、映像処理方法、映像処理プログラム及び集積回路

Publications (2)

Publication Number Publication Date
JPWO2013108633A1 true JPWO2013108633A1 (ja) 2015-05-11
JP6211929B2 JP6211929B2 (ja) 2017-10-11

Family

ID=48799064

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013554257A Active JP6211929B2 (ja) 2012-01-18 2013-01-18 送信装置、映像表示装置、送信方法、映像処理方法、映像処理プログラム及び集積回路

Country Status (6)

Country Link
US (1) US9872008B2 (ja)
EP (1) EP2806644A1 (ja)
JP (1) JP6211929B2 (ja)
CN (1) CN103609106A (ja)
AU (1) AU2013210580A1 (ja)
WO (1) WO2013108633A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011105993A1 (en) * 2010-02-25 2011-09-01 Thomson Licensing Stereoscopic subtitling with disparity estimation and limitation on the temporal variation of disparity
US11425412B1 (en) * 2020-11-10 2022-08-23 Amazon Technologies, Inc. Motion cues for video encoding

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010268432A (ja) * 2009-04-15 2010-11-25 Sony Corp データ構造、記録媒体、再生装置および再生方法、並びにプログラム
JP2011010128A (ja) * 2009-06-26 2011-01-13 Canon Inc 再生装置、撮像装置、及びその制御方法
JP2011029849A (ja) * 2009-07-23 2011-02-10 Sony Corp 受信装置、通信システム、立体画像への字幕合成方法、プログラム、及びデータ構造
JP2011223126A (ja) * 2010-04-06 2011-11-04 Sharp Corp 立体映像表示装置および立体映像表示方法
JP2012120142A (ja) * 2010-11-08 2012-06-21 Sony Corp 立体画像データ送信装置、立体画像データ送信方法および立体画像データ受信装置

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11289555A (ja) * 1998-04-02 1999-10-19 Toshiba Corp 立体映像表示装置
US7525558B2 (en) * 2002-09-18 2009-04-28 Seiko Epson Corporation Display-service providing system and image display apparatus
JP4163718B2 (ja) * 2006-02-28 2008-10-08 株式会社コナミデジタルエンタテインメント オブジェクト表示装置、オブジェクト配置方法、および、プログラム
WO2008038205A2 (en) * 2006-09-28 2008-04-03 Koninklijke Philips Electronics N.V. 3 menu display
KR101058040B1 (ko) * 2006-12-21 2011-08-19 삼성전자주식회사 컨텐츠 출력 방법 및 그 장치
EP2521363B1 (en) * 2009-02-19 2014-05-14 Panasonic Corporation Playback device
WO2010095410A1 (ja) * 2009-02-20 2010-08-26 パナソニック株式会社 記録媒体、再生装置、集積回路
JP2010250562A (ja) * 2009-04-15 2010-11-04 Sony Corp データ構造、記録媒体、再生装置および再生方法、並びにプログラム
JP2010268431A (ja) * 2009-04-15 2010-11-25 Sony Corp データ構造、記録媒体、再生装置および再生方法、並びにプログラム
JP2011030180A (ja) * 2009-06-29 2011-02-10 Sony Corp 立体画像データ送信装置、立体画像データ送信方法、立体画像データ受信装置および立体画像データ受信方法
JP5698243B2 (ja) * 2009-09-16 2015-04-08 コーニンクレッカ フィリップス エヌ ヴェ 3dスクリーン・サイズ補償
JP5375489B2 (ja) * 2009-09-29 2013-12-25 ソニー株式会社 画像信号処理装置、画像信号処理方法、プログラム、および画像信号処理システム
JP5415217B2 (ja) * 2009-10-02 2014-02-12 パナソニック株式会社 三次元映像処理装置
KR20110053160A (ko) * 2009-11-13 2011-05-19 삼성전자주식회사 비디오 부가 재생 정보의 3차원 깊이감 조절을 위한 멀티미디어 스트림 생성 방법과 그 장치, 및 수신 방법과 그 장치
KR101631514B1 (ko) * 2009-11-19 2016-06-17 삼성전자주식회사 전자기기에서 3차원 컨텐츠 생성 방법 및 장치
JP5390016B2 (ja) * 2010-03-24 2014-01-15 パナソニック株式会社 映像処理装置
JP5682149B2 (ja) * 2010-06-10 2015-03-11 ソニー株式会社 立体画像データ送信装置、立体画像データ送信方法、立体画像データ受信装置および立体画像データ受信方法
KR20110138151A (ko) * 2010-06-18 2011-12-26 삼성전자주식회사 자막 서비스를 포함하는 디지털 방송 서비스를 제공하기 위한 비디오 데이터스트림 전송 방법 및 그 장치, 자막 서비스를 포함하는 디지털 방송 서비스를 제공하는 비디오 데이터스트림 수신 방법 및 그 장치
ES2670663T3 (es) * 2010-07-12 2018-05-31 Koninklijke Philips N.V. Datos auxiliares en difusión de vídeo en 3D
JP5991596B2 (ja) * 2011-06-01 2016-09-14 パナソニックIpマネジメント株式会社 映像処理装置、送信装置、映像処理システム、映像処理方法、送信方法、コンピュータプログラム及び集積回路
WO2012164864A1 (ja) * 2011-06-01 2012-12-06 パナソニック株式会社 映像処理装置、方法、プログラム、記録媒体及び集積回路
WO2012177049A2 (en) * 2011-06-21 2012-12-27 Lg Electronics Inc. Method and apparatus for processing broadcast signal for 3-dimensional broadcast service

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010268432A (ja) * 2009-04-15 2010-11-25 Sony Corp データ構造、記録媒体、再生装置および再生方法、並びにプログラム
JP2011010128A (ja) * 2009-06-26 2011-01-13 Canon Inc 再生装置、撮像装置、及びその制御方法
JP2011029849A (ja) * 2009-07-23 2011-02-10 Sony Corp 受信装置、通信システム、立体画像への字幕合成方法、プログラム、及びデータ構造
JP2011223126A (ja) * 2010-04-06 2011-11-04 Sharp Corp 立体映像表示装置および立体映像表示方法
JP2012120142A (ja) * 2010-11-08 2012-06-21 Sony Corp 立体画像データ送信装置、立体画像データ送信方法および立体画像データ受信装置

Also Published As

Publication number Publication date
EP2806644A4 (en) 2014-11-26
CN103609106A (zh) 2014-02-26
AU2013210580A1 (en) 2013-11-28
US9872008B2 (en) 2018-01-16
EP2806644A1 (en) 2014-11-26
JP6211929B2 (ja) 2017-10-11
WO2013108633A1 (ja) 2013-07-25
US20140092214A1 (en) 2014-04-03

Similar Documents

Publication Publication Date Title
US9918069B2 (en) Method and device for overlaying 3D graphics over 3D video
WO2012017643A1 (ja) 符号化方法、表示装置、及び復号方法
JP5960133B2 (ja) 3dビデオ放送における補助データ
EP2406950B1 (en) Information processing device, information processing method, playback device, playback method, program and recording medium
KR101987820B1 (ko) 고 해상도 컨텐츠를 처리하는 컨텐츠 처리 장치 및 그 방법
WO2013061526A1 (ja) 放送受信装置、放送受信方法およびプログラム
JP2012516069A (ja) 3dビデオ及び3dオーバレイをビデオインタフェース上で送信し、合成する方法及びシステム
US20120050476A1 (en) Video processing device
JP6040932B2 (ja) 立体視に対応したビデオストリームを生成、再構築する方法、および関連する符号化および復号化デバイス
EP2290997A1 (en) Data structure, recording medium, reproducing device, reproducing method, and program
US9357200B2 (en) Video processing device and video processing method
JP2011087088A (ja) 映像信号処理装置及び映像信号処理方法
JP6211929B2 (ja) 送信装置、映像表示装置、送信方法、映像処理方法、映像処理プログラム及び集積回路
US8934757B2 (en) Content distribution system, playback device, distribution server, playback method, and distribution method
JP2011102883A (ja) 三次元映像処理装置及び三次元映像処理方法
US20120188340A1 (en) Content distribution system, playback apparatus, distribution server, playback method, and distribution method
WO2012160812A1 (ja) 映像処理装置、送信装置、立体映像視聴システム、映像処理方法、映像処理プログラム及び集積回路
JP2013026643A (ja) 受信装置、受信方法および送受信方法
JP2008252752A (ja) 映像情報再生装置及び方法、映像情報再生システム、並びに映像情報再生システムの制御方法
JP2013026644A (ja) 受信装置、受信方法および送受信方法
JP2008252751A (ja) 映像情報再生システム、並びに映像情報再生システムの制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170914

R151 Written notification of patent or utility model registration

Ref document number: 6211929

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151