JP6211929B2 - Transmission device, video display device, transmission method, video processing method, video processing program, and integrated circuit - Google Patents

Transmission device, video display device, transmission method, video processing method, video processing program, and integrated circuit Download PDF

Info

Publication number
JP6211929B2
JP6211929B2 JP2013554257A JP2013554257A JP6211929B2 JP 6211929 B2 JP6211929 B2 JP 6211929B2 JP 2013554257 A JP2013554257 A JP 2013554257A JP 2013554257 A JP2013554257 A JP 2013554257A JP 6211929 B2 JP6211929 B2 JP 6211929B2
Authority
JP
Japan
Prior art keywords
video
display
display object
area
stream
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013554257A
Other languages
Japanese (ja)
Other versions
JPWO2013108633A1 (en
Inventor
智輝 小川
智輝 小川
洋 矢羽田
洋 矢羽田
川口 透
透 川口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Publication of JPWO2013108633A1 publication Critical patent/JPWO2013108633A1/en
Application granted granted Critical
Publication of JP6211929B2 publication Critical patent/JP6211929B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/183On-screen display [OSD] information, e.g. subtitles or menus

Description

本発明は、3D映像の処理技術に関し、特に、3D映像に文字やグラフィック等の表示物を重畳して表示する技術に関する。   The present invention relates to 3D video processing technology, and more particularly, to a technology for superimposing and displaying a display object such as characters and graphics on a 3D video.

視聴者が立体的な映像として見ることができる3Dデジタル映像コンテンツ(以下、「3D映像」と呼ぶ。)において、字幕を3D映像と共に表示する場合、通常の2D映像と同じように重ね合わせると、3D映像は画面の手前や奥に広がりがあるので、視聴者にとって、字幕が3D映像の奥に表示されるように見えたり、手前に表示されるように見えたりして見づらくなる。   In a 3D digital video content (hereinafter referred to as “3D video”) that can be viewed as a stereoscopic video by a viewer, when subtitles are displayed together with 3D video, if they are superimposed in the same manner as normal 2D video, Since the 3D video has a spread in front of or behind the screen, it is difficult for the viewer to see the subtitles displayed in the back of the 3D video or in the foreground.

そこで、これを改善するために、3D映像と共に表示する平面的な字幕が配置されたプレーンの画像を3D空間内に適切に表示するための技術として、プレーンに配置された表示物の画像を水平方向にシフトして左目用と右目用との画像を生成することによって立体的に見えるようにするための処理技術が提案されている(非特許文献1)。この処理技術を、1plane+offset方式と呼ぶ。なお、デジタル放送において3D映像と共に表示するために配信される表示データには、字幕以外にも操作メニュー、テロップ、データ放送用の表示データ等(以下、「字幕等表示データ」と呼ぶ。)があり、これらの表示プレーンに配置された表示物を3D映像と共に表示する際に、上記の処理技術が利用できる。   Therefore, in order to improve this, as a technique for appropriately displaying a plane image on which a plane subtitle to be displayed together with the 3D video is arranged in the 3D space, the image of the display object arranged on the plane is horizontal. There has been proposed a processing technique for making a stereoscopic view by generating a left-eye image and a right-eye image by shifting in the direction (Non-Patent Document 1). This processing technique is referred to as a 1 plane + offset method. In addition to subtitles, display data distributed for display together with 3D video in digital broadcasting includes operation menus, telops, display data for data broadcasting, etc. (hereinafter referred to as “subtitle display data”). The above processing technique can be used when displaying the display objects arranged on these display planes together with the 3D video.

Blu-ray Disc Association、"White Paper Blu-ray Disc Read-Only Format 2.B Audio Visual Application Format Specifications for BD-ROM Version 2.5 July 2011″、P.36〜P.37、"6.3 3D graphics with 3D video"、[online]、2011年07月、Blu-ray Disc Association、[2012年12月6日検索]、インターネット<URL:http://www.blu-raydisc.com/assets/Downloadablefile/BD-ROM-AV-WhitePaper_110712.pdf>Blu-ray Disc Association, "White Paper Blu-ray Disc Read-Only Format 2.B Audio Visual Application Format Specifications for BD-ROM Version 2.5 July 2011", P.36-P.37, "6.3 3D graphics with 3D video ", [Online], July 2011, Blu-ray Disc Association, [December 6, 2012 search], Internet <URL: http://www.blu-raydisc.com/assets/Downloadablefile/BD-ROM -AV-WhitePaper_110712.pdf>

しかしながら、上記の技術では、字幕等表示データの表示プレーンに表示位置、特に奥行き方向の表示位置が異なる複数の表示物が配置されていたとしても、字幕等表示データの表示プレーン全体で一様な深度で見えるようにしか表示することができない。すなわち、表示位置の異なる表示物を異なった深度で見えるように表示することができない。このため、複数の表示物のうちの1つの表示物について適切に深度を設定しても、3D映像は表示領域の位置によって表示されるオブジェクトの深度が異なるので、その他の表示物については適切な深度で設定できるとは限らず、視聴者にとって見づらい場合がある。   However, in the above technique, even if a plurality of display objects having different display positions, particularly display positions in the depth direction, are arranged on the display plane of display data such as subtitles, the display plane of subtitles and other display data is uniform over the entire display plane. It can only be displayed in depth. That is, it is impossible to display the display objects having different display positions so that they can be seen at different depths. For this reason, even if the depth is appropriately set for one display object among the plurality of display objects, the depth of the displayed object varies depending on the position of the display area in the 3D image, and therefore, the other display objects are appropriate. It is not always possible to set the depth, and it may be difficult for the viewer to see.

そこで、本発明は、かかる問題に鑑みてなされたものであり、映像表示装置において、字幕等表示プレーンの異なる表示位置に配置された表示物を3D映像に重畳して表示する際に、視聴者にとっての見づらさを軽減して表示し得るストリームデータ(伝送ストリーム)を送信する送信装置、及びこのような伝送ストリームを受信して、表示し得る映像表示装置を提供することを目的とする。   Therefore, the present invention has been made in view of such a problem, and in a video display device, when a display object arranged at a different display position of a display plane such as captions is superimposed on a 3D video and displayed, It is an object of the present invention to provide a transmission device that transmits stream data (transmission stream) that can be displayed with reduced visibility and a video display device that can receive and display such a transmission stream.

上記課題を解決するために、本発明に係る送信装置は、3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置であって、前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成手段と、前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定手段と、前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成手段と、前記伝送ストリームを送信するストリーム送信手段とを備え、前記オフセット情報設定手段は、表示オブジェクトを表示する時刻に表示されるべき前記3D映像の深度に応じて、前記3D映像における時間的な区間単位ごとに、前記オフセット情報を前記部分領域のそれぞれについて1つ設定し、前記3D映像データはMPEG2形式又はMPEG4形式で符号化されたデータであり、前記分割情報生成手段は、前記部分領域の境界線の垂直方向の位置が、前記表示領域の上端から当該3D映像データの符号化の際のマクロブロックの垂直方向の画素数のN倍(Nは1以上の自然数)で表される相対位置になるように分割した分割情報を生成することを特徴とする。 In order to solve the above-described problem, a transmission apparatus according to the present invention transmits a data for displaying a video including a 3D video and a display object to be displayed on the display area in the video display device. A division information generating means for generating division information indicating a range of each of the partial areas obtained by dividing the display area into two or more areas by a horizontal boundary line; and a display object for each of the partial areas. Offset information setting means for setting offset information indicating the depth for 3D display according to the depth of the video part of the 3D video in the partial area where the display object exists, the division information, the offset information, Stream generation for generating a transmission stream including 3D video data for displaying 3D video Comprising a stage, and a stream transmission unit for transmitting the transport stream, said offset information setting means, depending on the depth of the 3D image to be displayed at a time of displaying a display object, temporal in the 3D image One offset information is set for each of the partial areas for each section unit, the 3D video data is data encoded in MPEG2 format or MPEG4 format, and the division information generating means The relative position in which the vertical position of the boundary line is represented by N times the number of pixels in the vertical direction of the macroblock when encoding the 3D video data from the upper end of the display area (N is a natural number of 1 or more) The division information divided so as to be generated is generated .

また、本発明に係る映像表示装置は、伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置であって、前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成手段と、前記3D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力手段とを備え、前記生成手段は、前記伝送ストリームに、前記部分領域の境界線近傍の予め定められた範囲への前記表示オブジェクトの表示を禁止するための禁止領域を示す禁止領域情報が含まれている場合には、前記禁止領域の範囲外に表示される表示オブジェクトに限って水平方向にシフトすることを特徴とする。 The video display device according to the present invention is a video display device that receives a transmission stream and superimposes and displays a display object on video of video data included in the transmission stream. Division information for specifying a partial area formed by dividing a display area for displaying a display object, and offset information indicating a depth for displaying the display object in 3D for each of the partial areas. Generation means for generating a display object image for the right eye and a display object image for the left eye by shifting the display objects displayed in each of the partial areas specified based on the information in the horizontal direction based on the offset information; When outputting the 3D video, the right eye display object image is superimposed on the right eye video, and the left eye And output means for outputting the superimposing the left-eye display object image on the image, the generation unit, the transmission stream, display of the display object to the predetermined range of the boundary line near the partial region When the prohibited area information indicating the prohibited area for prohibiting is included, only the display objects displayed outside the prohibited area are shifted in the horizontal direction .

上述の構成により、本発明に係る送信装置は、映像表示装置において3D映像に字幕等表示データの表示プレーンに配置された表示物を重畳して表示する際に、表示位置の異なる表示物を異なった深度で見えるように表示し得る伝送ストリームを送信することができる。   With the above-described configuration, the transmission device according to the present invention displays different display objects at different display positions when the display object arranged on the display plane of the display data such as captions is superimposed on the 3D video in the video display apparatus. It is possible to transmit a transmission stream that can be displayed so that it can be seen at a certain depth.

また、本発明に係る映像表示装置は、上述の伝送ストリームを受信し、3D映像に字幕等表示データの表示プレーンに配置された表示物を重畳して表示する際に、表示位置の異なる表示物を異なった深度で見えるように表示し得る。   In addition, the video display device according to the present invention receives the above-described transmission stream, and displays the display objects having different display positions when the display objects arranged on the display plane of the display data such as captions are superimposed on the 3D video. Can be displayed at different depths.

1plane+offset方式の概念を示す図。The figure which shows the concept of 1 plane + offset system. 本実施の形態に係る領域分割による1plane+offsetの概念を示す図。The figure which shows the concept of 1 plane + offset by the area | region division which concerns on this Embodiment. 部分領域ごとのoffsetを示すオフセットメタデータのデータ構造。A data structure of offset metadata indicating an offset for each partial area. 本発明の実施の形態に係る送信装置10の機能ブロック図。The functional block diagram of the transmitter 10 which concerns on embodiment of this invention. 送信装置10における処理のフローチャート。10 is a flowchart of processing in the transmission apparatus 10; 映像表示装置20の機能ブロック図。The functional block diagram of the video display apparatus 20. FIG. 映像表示装置20における重畳処理のフローチャート。4 is a flowchart of superimposition processing in the video display device 20. 映像表示装置20の使用態様の一例を示す図。The figure which shows an example of the usage condition of the video display apparatus. ディスプレイ50に表示される表示物の見え方を概念的に示す図。The figure which shows notionally how the display thing displayed on the display 50 looks. 部分領域における表示物の表示をしない禁止領域を示す概念図。The conceptual diagram which shows the prohibition area | region which does not display the display thing in a partial area | region. 禁止領域の情報を含むオフセットメタデータのデータ構造。Data structure of offset metadata including prohibited area information. 送信装置10aの機能ブロック図。The functional block diagram of the transmitter 10a. 送信装置10aにおける禁止領域を考慮した字幕ストリーム生成時の処理のフローチャート。The flowchart of the process at the time of the caption stream production | generation which considered the prohibition area | region in the transmitter 10a. 映像表示装置20における禁止領域を考慮した重畳処理のフローチャート。The flowchart of the superimposition process which considered the prohibition area | region in the video display apparatus 20. FIG. オフセットメタデータのデータ構造の変形例。The modification of the data structure of offset metadata. 予め定められた分割領域の分割パターンを利用する場合のオフセットメタデータのデータ構造。A data structure of offset metadata when using a division pattern of a predetermined division area. オフセットメタデータにおける禁止領域を示すデータのデータ構造の変形例。The modification of the data structure of the data which shows the prohibition area | region in offset metadata.

<1.実施の形態>
<1.1 概要>
3D放送においては、3D映像に、字幕やメニュー等のグラフィックなどの字幕等表示データを重畳して表示することがある。図1は、従来の1plane+offset方式の処理を概念的に示した図である。従来の1plane+offset方式では、同図(a)に示すように字幕等表示データを表示する1枚のプレーン全体の画像を、オフセット量を示すオフセット情報に基づいて水平方向にシフトすることによって、このプレーンに配置されている表示物の深度を調整し、3D映像より手前に見えるように表示する。具体的には、左目用映像プレーン1001の画像に字幕等表示データのプレーンの画像を重畳する場合には、プレーン全体の画像をオフセット量(OffsetAで示される値)分右側にシフトし、はみ出る部分はクロップして重畳する。同様に、右目用映像プレーン1002の画像に重畳する場合には、OffsetAで示される値分左側にシフトし、はみ出る部分はクロップして重畳して表示する。
<1. Embodiment>
<1.1 Overview>
In 3D broadcasting, display data such as captions such as captions and menus may be superimposed on 3D video and displayed. FIG. 1 is a diagram conceptually illustrating a conventional 1 plane + offset process. In the conventional 1 plane + offset method, as shown in FIG. 6A, this plane is shifted by horizontally shifting an image of one plane displaying display data such as subtitles based on offset information indicating an offset amount. The depth of the display object arranged on the screen is adjusted and displayed so that it can be seen in front of the 3D image. Specifically, when the image of the display data plane such as caption is superimposed on the image of the left-eye video plane 1001, the entire plane image is shifted to the right by the offset amount (value indicated by OffsetA), and the protruding portion Is cropped and superimposed. Similarly, when superimposing on the image of the right-eye video plane 1002, it is shifted to the left by the value indicated by OffsetA, and the protruding portion is cropped and superimposed for display.

ところが、このような方法では、図1(b)のように、このプレーンに配置されている表示物であるobjectA及びobjectBは、同じ深度で見えるようにしか表示できない。すなわち、表示物の深度は、このプレーン全体で一様にしか設定できず、プレーンに複数の表示物が配置されている場合に、それぞれの表示物が異なる深度で表示することができない。   However, with such a method, as shown in FIG. 1B, object A and object B, which are display objects arranged in this plane, can only be displayed so that they can be seen at the same depth. In other words, the depth of the display object can only be set uniformly over the entire plane, and when a plurality of display objects are arranged on the plane, each display object cannot be displayed at a different depth.

そこで本発明に係る送信装置では、図2に示すように、字幕等表示データを表示するためのプレーンを水平方向の境界線で複数の部分領域に分割し、それぞれの部分領域ごとに異なるオフセット量を設定したオフセット情報を生成し送信する。   Therefore, in the transmission apparatus according to the present invention, as shown in FIG. 2, a plane for displaying display data such as captions is divided into a plurality of partial areas along a horizontal boundary line, and an offset amount different for each partial area. Generate and send offset information set with.

そして、このオフセット情報を受信した映像表示装置では、左目用映像プレーン1001の画像に字幕等の表示物のプレーンの画像を重畳する場合には、領域Aの画像をOffsetAで示される値分右側にシフトし、領域Bの画像をOffsetBで示される値分右側にシフトして、はみ出る部分はクロップして重畳する。同様に、右目用映像プレーン1002の画像に重畳する場合には、領域Aの画像をOffsetAで示される値分左側にシフトし、領域Bの画像をOffsetBで示される値分左側にシフトして、はみ出る部分はクロップして重畳する。   In the video display device that has received the offset information, when the image of the plane of the display object such as subtitles is superimposed on the image of the left-eye video plane 1001, the image of the area A is shifted to the right by the value indicated by OffsetA. The image is shifted to the right by the value indicated by OffsetB, and the protruding portion is cropped and superimposed. Similarly, when superimposing on the image of the right-eye video plane 1002, the image of region A is shifted to the left by the value indicated by OffsetA, and the image of region B is shifted to the left by the value indicated by OffsetB, The protruding part is cropped and superimposed.

これらの処理は、従来の1plane+offset方式における処理において、例えば、画像の1ラインごとに画像をシフトする処理を行う場合に、全てのラインに対して同じオフセット量でシフトする処理を行っていたのを、部分領域ごとに異なるオフセット量で処理することで実現できるの。このため、オフセット処理に用いる画像プレーン数を増加させることなく実現することができる。   In these processes in the conventional 1 plane + offset method, for example, when the process of shifting the image for each line of the image is performed, the process of shifting all the lines with the same offset amount is performed. This can be realized by processing with a different offset amount for each partial area. Therefore, it can be realized without increasing the number of image planes used for the offset processing.

これにより、それぞれの部分領域を異なるシフト量でシフトできるようになり、異なる表示物、例えば、図2(b)に示すように、図2(a)で示す領域A1に表示しているobjectAと、領域A2表示しているobjectBとで、視聴者に対して異なる深度で見えるように表示することができる。   As a result, each partial area can be shifted by a different shift amount. For example, as shown in FIG. 2B, the object A displayed in the area A1 shown in FIG. The object B displayed in the area A2 can be displayed so that the viewer can see it at different depths.

<1.2 データ>
以下、本実施の形態で用いる字幕等表示データの表示物を配置するための各表示物用プレーン(例えば、字幕プレーン及びグラフィックスプレーン)についての分割情報と、分割された各々の部分領域に対応したオフセット情報を記述したオフセットメタデータのデータ構造について説明する。
<1.2 Data>
Hereinafter, it corresponds to the division information about each display object plane (for example, the subtitle plane and the graphics plane) for arranging the display object of the display data such as caption used in the present embodiment, and each divided partial area. The data structure of the offset metadata describing the offset information will be described.

図3は、本実施の形態で用いるオフセットメタデータ300のデータ構造を示す。   FIG. 3 shows a data structure of offset metadata 300 used in the present embodiment.

オフセットメタデータ300は、OSG(Offset Sequence Group)ごとに、分割した部分領域の範囲を示す情報とそれぞれの部分領域のオフセット値を記述した記述子である。   The offset metadata 300 is a descriptor describing information indicating the range of divided partial areas and offset values of the partial areas for each OSG (Offset Sequence Group).

なお、Offset Sequenceとは、表示領域を複数の部分領域に分割した1つの分割パターンにおける部分領域ごとに1つのオフセット値とを対応付けたデータのことであり、この1つの分割パターンにおけるOffset SequenceをまとめたものがOSGである。各OSGに付与されたIDにより、OSGを特定することができる。例えば、字幕プレーンに適用するOSGのOSG_IDを「0」、グラフィックスプレーンに適用するOSGのOSG_IDを「1」というように区別したオフセット情報を生成して送信装置から送信することにより、この情報を受信した映像表示装置では、異なるプレーンには、異なるオフセット情報を用いてシフト処理することができる。   The offset sequence is data in which one offset value is associated with each partial area in one division pattern obtained by dividing the display area into a plurality of partial areas. The summary is OSG. The OSG can be specified by the ID assigned to each OSG. For example, by generating offset information in which the OSG_ID of the OSG applied to the subtitle plane is “0” and the OSG_ID of the OSG applied to the graphics plane is “1”, the information is transmitted from the transmission apparatus. In the received video display device, different planes can be shifted using different offset information.

図3のoffset_metadata()内のnumber_of_OSGは、OSGがいくつあるかを示す。OSG_IDは、OSGを特定するためのものであり、0,1,・・・,(number_of_OSG - 1)の値で示される。例えば、number_of_OSGが「2」の場合は、OSGが2つあることを示し、それぞれのOSGを示すOSG_IDの値は、「0」か「1」である。   The number_of_OSG in offset_metadata () in FIG. 3 indicates how many OSGs exist. The OSG_ID is for specifying the OSG and is indicated by a value of 0, 1,..., (Number_of_OSG-1). For example, when number_of_OSG is “2”, it indicates that there are two OSGs, and the value of OSG_ID indicating each OSG is “0” or “1”.

number_of_offset_sequence_in_OSGは、1つのOSGに含まれるOffset Sequenceの数、すなわち、分割した部分領域の数を示す。   number_of_offset_sequence_in_OSG indicates the number of Offset Sequences included in one OSG, that is, the number of divided partial areas.

offset_priorityは、部分領域ごとに異なるオフセット値でシフトする処理を行わず、従来と同様の1plane+Offsetの処理を行う場合に用いるOffset Sequenceを特定するためのフラグである。1つのOSGに含まれるOffset Sequenceのうち、1つだけoffset_priorityの値が「1」に設定され、その他のOffset Sequenceのoffset_priorityの値は「0」に設定される。部分領域ごとに処理するのではなく、表示領域全体を一様に処理する場合には、offset_priorityの値が「1」で示されるOffset Sequenceを用いる。例えば、処理能力の低い映像表示装置において、表示物を3D映像に重畳する処理を行う場合には、部分領域ごとに異なるオフセット値でシフトする処理がリアルタイムでの表示に間に合わない場合が考えられる。このような場合には、部分領域ごとではなく、従来の1Plane+Offsetの処理を行うことによりリアルタイムでの処理が間に合わないことを回避するが、このときに表示領域全体に用いるべきオフセット値をoffset_priorityによって判断することができる。   The offset_priority is a flag for specifying an offset sequence used when the process of shifting by an offset value different for each partial area is not performed and the same 1 plane + offset process is performed as in the prior art. Of the Offset Sequences included in one OSG, only one offset_priority value is set to “1”, and the offset_priority values of the other Offset Sequences are set to “0”. When the entire display area is processed uniformly instead of processing for each partial area, an Offset Sequence in which the value of offset_priority is “1” is used. For example, in a video display device having a low processing capability, when processing for superimposing a display object on 3D video is performed, there may be a case where processing for shifting with a different offset value for each partial region is not in time for display in real time. In such a case, it is avoided that the processing in real time is not in time by performing the conventional 1 Plane + Offset process instead of for each partial area. At this time, the offset value to be used for the entire display area is determined by offset_priority. can do.

offset_valueは、3D映像と重畳する際に部分領域をシフトするオフセット値を示す。   The offset_value indicates an offset value for shifting the partial area when overlapping with the 3D video.

dividing_point_startは、Offset Sequenceごとの部分領域の開始Y座標を示し、dividing_point_endは、同じく終了Y座標を示す。なお、図2(a)に示すように水平方向をX軸、垂直方向をY軸とし、字幕プレーン1000の左上隅の座標値を(0,0)、右下隅の座標値を(1920,1080)とする。   dividing_point_start indicates the start Y coordinate of the partial area for each Offset Sequence, and dividing_point_end similarly indicates the end Y coordinate. 2A, the horizontal direction is the X axis, the vertical direction is the Y axis, the upper left corner coordinate value of the subtitle plane 1000 is (0, 0), and the lower right corner coordinate value is (1920, 1080). ).

図2で示すように表示領域が、2つの部分領域に分割され、offset_sequence_group()内のi=0の場合が領域Aについて、i=1の場合が領域Bについての情報を格納する場合には、i=0のoffset_valueの値は、OffsetAで示される値が、dividing_point_startの値は「0」が、dividing_point_endの値は「359」が記述される。そして、i=1の場合のoffset_priorityの値は「0」が記述され、offset_valueの値は、OffsetBで示される値が、dividing_point_startの値は「360」が、dividing_point_endの値は「1920」が記述される。また、i=0の場合のoffset_priorityの値を「1」とし、i=0の場合のoffset_priorityの値を「0」と記述する。  As shown in FIG. 2, when the display area is divided into two partial areas, information about area A is stored when i = 0 in offset_sequence_group (), and information about area B is stored when i = 1. , I = 0, the value indicated by OffsetA is described, the value of dividing_point_start is “0”, and the value of dividing_point_end is “359”. When i = 1, the value of offset_priority is “0”, the value of offset_value is the value indicated by OffsetB, the value of dividing_point_start is “360”, and the value of dividing_point_end is “1920”. The Further, the offset_priority value when i = 0 is described as “1”, and the offset_priority value when i = 0 is described as “0”.

このような、オフセットメタデータを受信した映像表示装置では、字幕プレーン1000における部分領域として、部分領域Aは、(0,0)−(1920,359)を対角線の頂点とした矩形の範囲であり、その範囲のオフセット値は、OffsetAで示される値であることが取得できる。そして、部分領域Bは、(0,360)−(1920,1080)を対角線の頂点とした矩形の範囲であり、そのオフセット値はOffsetBで示される値であることが取得でき、これらの情報に基づいてそれぞれの部分領域を指定されたオフセット値でシフトして3D映像と重畳することができる。また、部分領域ごとではなく表示領域全体で一様にシフトする処理を行う場合には、i=0の場合のオフセット値を用いて処理を行う。   In such a video display device that has received the offset metadata, as a partial area in the subtitle plane 1000, the partial area A is a rectangular range having (0, 0)-(1920, 359) as the vertices of diagonal lines. It can be obtained that the offset value in the range is a value indicated by OffsetA. The partial area B is a rectangular range having (0, 360)-(1920, 1080) as the vertices of the diagonal, and the offset value can be acquired as a value indicated by OffsetB. Based on this, each partial area can be shifted by a designated offset value and superimposed on the 3D video. Further, in the case of performing a process of uniformly shifting the entire display area rather than for each partial area, the process is performed using an offset value in the case of i = 0.

<1.3 送信装置の構成>
以下、本発明の一実施形態に係る送信装置10について、図面を参照しながら説明する。
<1.3 Configuration of transmitter>
Hereinafter, a transmission device 10 according to an embodiment of the present invention will be described with reference to the drawings.

図4は、本発明の実施の形態に係る送信装置10の機能ブロック図である。   FIG. 4 is a functional block diagram of transmitting apparatus 10 according to the embodiment of the present invention.

同図に示すように送信装置10は、ビデオ符号化部101、分割情報生成部102、オフセット情報設定部103、ストリーム管理情報生成部104、多重化処理部105、及び送信部106から構成される。また、3D映像原画110、ビデオストリーム111、字幕ストリーム112、グラフィックスストリーム113、オーディオストリーム114、ストリーム管理情報115及びトランスポートストリームをそれぞれ記憶する記憶装置を含む。この記憶装置は、例えばハードディスクである。   As shown in the figure, the transmission apparatus 10 includes a video encoding unit 101, a division information generation unit 102, an offset information setting unit 103, a stream management information generation unit 104, a multiplexing processing unit 105, and a transmission unit 106. . In addition, a storage device that stores the 3D video original image 110, the video stream 111, the subtitle stream 112, the graphics stream 113, the audio stream 114, the stream management information 115, and the transport stream is included. This storage device is, for example, a hard disk.

送信装置10は、図示されていないプロセッサ、RAM(Random Access Memory)、ROM(Read Only Memory)、ハードディスクを含む。また、送信装置10の各機能ブロックは、ハードウェアとして構成されているか、もしくは、各機能ブロックの機能は、プロセッサがメモリに記憶されているコンピュータプログラムを実行することで実現される。   The transmission device 10 includes a processor, a RAM (Random Access Memory), a ROM (Read Only Memory), and a hard disk not shown. Each functional block of the transmission device 10 is configured as hardware, or the function of each functional block is realized by a processor executing a computer program stored in a memory.

ビデオ符号化部101は、3D映像原画を記憶装置から読出し、符号化を行い、ビデオストリームとして出力する機能を備える。符号化の方式は、例えば、MPEG4 MVC方式である。   The video encoding unit 101 has a function of reading an original 3D video image from a storage device, performing encoding, and outputting the video stream as a video stream. The encoding method is, for example, the MPEG4 MVC method.

分割情報生成部102は、字幕ストリーム112やグラフィックスストリーム113から得られる表示物の表示位置の情報を基に、それぞれの表示物の表示範囲が複数の部分領域にまたがらないように、各表示物の表示範囲の垂直方向の範囲の間に設定した水平境界線で部分領域に分けるための分割情報を生成する機能と、部分領域のそれぞれの範囲を示す情報をオフセット情報設定部103に出力する機能とを備える。   Based on the information on the display position of the display object obtained from the subtitle stream 112 and the graphics stream 113, the division information generating unit 102 displays each display object so that the display range of each display object does not extend over a plurality of partial areas. A function of generating division information for dividing a partial area by a horizontal boundary set between vertical ranges of an object display range and information indicating each range of the partial area are output to the offset information setting unit 103. With functionality.

オフセット情報設定部103は、分割情報生成部102が出力した部分領域の情報から特定される範囲について、3D映像原画110から得られる情報を基に、字幕ストリーム等を3D映像に重畳するときの深度を、字幕等が表示される範囲に同時刻に表示される3D映像と同等の深度になるように調整したオフセット情報を、3D映像のフレーム画像ごとに生成し、生成したオフセット情報をストリーム管理情報生成部104に出力する機能を備える。   The offset information setting unit 103 is a depth when the subtitle stream or the like is superimposed on the 3D video based on the information obtained from the 3D video original image 110 in the range specified from the partial area information output by the division information generation unit 102. Is generated for each 3D video frame image, and offset information adjusted to have a depth equivalent to that of the 3D video displayed at the same time within the range in which captions are displayed, and the generated offset information is stream management information A function of outputting to the generation unit 104 is provided.

ストリーム管理情報生成部104は、オフセット情報設定部103から出力されたオフセット管理情報、オーディオストリーム114及びビデオストリーム111からストリームを再生するために必要なストリーム管理情報を生成する機能と、生成したストリーム管理情報を出力する機能を備える。ストリーム管理情報は、具体的には、PAT(Program Association Table)、PMT(Program Map Table)、イベント情報テーブルEIT(Event Information Table)及びサービス情報テーブルSIT(Service Information Table)などである。ストリーム管理情報は、多重化処理部105における多重化の際に、トランスポートストリーム(TS)のSI(Service Information)/PSI(Program Specific Information)に格納される。   The stream management information generation unit 104 generates offset management information output from the offset information setting unit 103, a function for generating stream management information necessary for reproducing a stream from the audio stream 114 and the video stream 111, and the generated stream management. It has a function to output information. Specifically, the stream management information includes a PAT (Program Association Table), a PMT (Program Map Table), an event information table EIT (Event Information Table), a service information table SIT (Service Information Table), and the like. The stream management information is stored in SI (Service Information) / PSI (Program Specific Information) of the transport stream (TS) at the time of multiplexing in the multiplexing processing unit 105.

多重化処理部105は、ビデオストリーム111、字幕ストリーム112、グラフィックスストリーム113、オーディオストリーム114、及びストリーム管理情報115を多重化したトランスポートストリーム116を生成し出力する機能を備える。   The multiplexing processing unit 105 has a function of generating and outputting a transport stream 116 in which the video stream 111, the subtitle stream 112, the graphics stream 113, the audio stream 114, and the stream management information 115 are multiplexed.

送信部106は、多重化処理部105で多重化したトランスポートストリーム116をデジタル放送波にのせて送出する機能を備える。   The transmission unit 106 has a function of transmitting the transport stream 116 multiplexed by the multiplexing processing unit 105 on a digital broadcast wave.

<1.4 送信装置10の動作>
以下、上記機能を備えた送信装置10の処理動作について説明する。
<1.4 Operation of Transmission Device 10>
Hereinafter, the processing operation of the transmission apparatus 10 having the above function will be described.

なお、多重化処理部で多重化する字幕ストリーム112、グラフィックスストリーム113、オーディオストリーム114及び3D映像のビデオストリーム111の生成については、TV放送で用いられるストリーム、例えば、MPEG4 MVC方式のストリームとして生成する。   The subtitle stream 112, the graphics stream 113, the audio stream 114, and the 3D video stream 111 to be multiplexed by the multiplexing processing unit are generated as a stream used in TV broadcasting, for example, an MPEG4 MVC format stream. To do.

図5は、送信装置10の処理を示すフローチャートである。   FIG. 5 is a flowchart showing processing of the transmission device 10.

まず、分割情報生成部102は、字幕ストリーム112を読込み(ステップS10)、字幕の表示位置に基づいて字幕プレーンを部分領域に分割する(ステップS11)。具体的には、この字幕プレーン使用するOSGのIDとしてOSG_IDの値を「0」とし、図2で示されるように字幕プレーン1000に表示されるべき表示物としてobjectAとobjectBとがある場合に、水平方向の境界線により、字幕プレーン1000をobjectAが完全に含まれる領域Aと、objectBが完全に含まれる領域Bとに分割する。図2の場合には座標(0,360)−(1920,360)を結ぶ線分を境界線として部分領域に分割する。この例では、2つの領域に分割したので、オフセットメタデータ300のoffset_metadata()内のnumber_of_offset_sequence_in_OSGには「2」を記述する。そして、i=0の場合が、デフォルトの深度を示すoffset_sequenceを記述したものであることを示すために、offset_priorityの値を「1」とし、i=1のoffset_priorityの値を「0」にする。   First, the division information generation unit 102 reads the subtitle stream 112 (step S10), and divides the subtitle plane into partial areas based on the subtitle display position (step S11). Specifically, when the value of OSG_ID is set to “0” as the ID of the OSG used for the caption plane, and there are objectA and objectB as display objects to be displayed on the caption plane 1000 as shown in FIG. The subtitle plane 1000 is divided into a region A in which objectA is completely included and a region B in which objectB is completely included by a horizontal boundary line. In the case of FIG. 2, a line segment connecting coordinates (0, 360)-(1920, 360) is divided into partial areas as boundary lines. In this example, since it is divided into two areas, “2” is described in number_of_offset_sequence_in_OSG in offset_metadata () of the offset metadata 300. In order to indicate that the offset_sequence indicating the default depth is described when i = 0, the offset_priority value is set to “1”, and the offset_priority value of i = 1 is set to “0”.

更に、i=0のoffset_sequenceのdividing_point_startの値を「0」に、dividing_point_endの値を「359」にし、i=1の場合のoffset_sequenceのdividing_point_startの値を「360」に、dividing_point_endの値を「1080」にする。これにより、領域Aに適用するoffset_sequenceは、i=0の場合のoffset_sequenceであり、領域Bに適用するoffset_sequenceは、i=1の場合のoffset_sequenceとなる。   Further, the value of dividing_point_start of offset_sequence of i = 0 is set to “0”, the value of dividing_point_end is set to “359”, the value of dividing_point_start of offset_sequence when i = 1 is set to “360”, and the value of dividing_point_end is “1080”. To. As a result, the offset_sequence applied to the region A is the offset_sequence when i = 0, and the offset_sequence applied to the region B is the offset_sequence when i = 1.

次に、分割情報生成部102は、グラフィックストリームを読込み(ステップS12)、
グラフィックの表示位置に基づいてグラフィックプレーンを部分領域に分割する(ステップS13)。このグラフィックプレーンに使用するOSGのIDとしてOSG_IDの値を「1」とし、分割の方法は、字幕プレーンと同様の方法で行い、表示するグラフィックオブジェクトの表示位置に応じて複数の部分領域に分割する。
Next, the division information generation unit 102 reads the graphic stream (step S12),
The graphic plane is divided into partial areas based on the graphic display position (step S13). The value of OSG_ID is set to “1” as the ID of the OSG used for this graphic plane, and the division method is the same as the subtitle plane, and is divided into a plurality of partial areas according to the display position of the graphic object to be displayed. .

次に、オフセット情報設定部103は、領域分割部で生成したオフセットメタデータ300と3D映像原画110を読込み(ステップS14)、字幕プレーン1000の領域A、領域Bそれぞれの深度を決定するオフセット値を設定する(ステップS15)。具体的には、OSG_ID=0の場合のoffset_sequence_groupについて、字幕のPTS(Presentation Time Stamp)と同時刻のPTSの3D映像において、各部分領域の範囲に表示されるべき3D映像のオブジェクトの深度と同程度の深度に対応したオフセット値をoffset_valueに設定する。   Next, the offset information setting unit 103 reads the offset metadata 300 and the 3D video original image 110 generated by the region dividing unit (step S14), and sets offset values for determining the depths of the region A and the region B of the caption plane 1000, respectively. Set (step S15). Specifically, offset_sequence_group in the case of OSG_ID = 0 is the same as the depth of the object of the 3D video to be displayed in the range of each partial area in the PTS 3D video at the same time as the PTS (Presentation Time Stamp) of the caption. An offset value corresponding to a certain depth is set in offset_value.

図2の例では、領域A(i=0の場合)のoffset_valueにoffsetAで示される値を、領域B(i=1の場合)のoffset_valueにoffsetBで示される値を設定する。   In the example of FIG. 2, the value indicated by offsetA is set in the offset_value of the region A (when i = 0), and the value indicated by offsetB is set as the offset_value of the region B (when i = 1).

更に、オフセット情報設定部103は、グラフィックプレーンについてもオフセット値を設定したオフセットメタデータ300を生成する(ステップS16)。具体的には、OSG_ID=1の場合のoffset_sequence_groupについて、ステップS15と同様の方法でoffset_valueの値を設定する。   Furthermore, the offset information setting unit 103 generates offset metadata 300 in which an offset value is set for the graphic plane (step S16). Specifically, for the offset_sequence_group when OSG_ID = 1, the value of offset_value is set by the same method as in step S15.

次に、ストリーム管理情報生成部104は、オフセットメタデータ300、ビデオストリーム111、オーディオストリーム114を読込み、ストリーム管理情報を生成し、生成したストリーム管理情報を出力する(ステップS17)。具体的には、ストリーム管理情報生成部104は、ビデオストリーム等を再生する際に必要なPTS、DTS(Decoding Time Stamp)などの情報や、オフセットメタデータ300を含んだPMTを生成し、SI/PSIに格納する。このようなSI/PSIを受信した映像表示装置は、字幕等を3D映像に重畳して表示する場合に、PTSの情報に基づいて、PTSが同時刻を示す3D映像の画像と字幕等の画像を重畳することができる。   Next, the stream management information generation unit 104 reads the offset metadata 300, the video stream 111, and the audio stream 114, generates stream management information, and outputs the generated stream management information (step S17). Specifically, the stream management information generation unit 104 generates PMT including information such as PTS and DTS (Decoding Time Stamp) necessary for reproducing a video stream and the like, and offset metadata 300, and performs SI / Store in PSI. The video display device that has received such SI / PSI displays a 3D video image and a subtitle image, etc., in which the PTS indicates the same time based on the information of the PTS, when displaying a caption or the like superimposed on the 3D video. Can be superimposed.

多重化処理部105は、ビデオストリーム111、字幕ストリーム112、グラフィックスストリーム113、オーディオストリーム114、ストリーム管理情報115を読込み、多重化したトランスポートストリーム116を出力する(ステップS18)。   The multiplexing processing unit 105 reads the video stream 111, the subtitle stream 112, the graphics stream 113, the audio stream 114, and the stream management information 115, and outputs the multiplexed transport stream 116 (step S18).

次に、送信部106は、多重化処理部105が出力したトランスポートストリーム116を放送波にのせて送信する(ステップS19)。   Next, the transmission unit 106 transmits the transport stream 116 output from the multiplexing processing unit 105 on a broadcast wave (step S19).

<1.5 映像表示装置の構成>
次に、上述した送信装置10が送信したトランスポートストリーム116を受信し、映像を表示する映像表示装置20について説明する。
<1.5 Configuration of video display device>
Next, the video display device 20 that receives the transport stream 116 transmitted by the transmission device 10 and displays the video will be described.

図6は、映像表示装置20の機能ブロック図である。   FIG. 6 is a functional block diagram of the video display device 20.

同図に示すように映像表示装置20は、ユーザーインターフェース部201、チューナ202、多重分離部203、ストリーム管理情報解析部204、ビデオデコード部205、左目用映像プレーン206、右目用映像プレーン207、分割情報解析部208、字幕デコード部209、字幕プレーン210、字幕オフセット処理部211、グラフィックスデコード部212、グラフィックスプレーン213、グラフィックスオフセット処理部214、セレクタ215、プレーン加算部216、表示部217、オーディオデコード部218、スピーカ219から構成される。   As shown in the figure, the video display device 20 includes a user interface unit 201, a tuner 202, a demultiplexing unit 203, a stream management information analysis unit 204, a video decoding unit 205, a left-eye video plane 206, a right-eye video plane 207, and a division. Information analysis unit 208, subtitle decoding unit 209, subtitle plane 210, subtitle offset processing unit 211, graphics decoding unit 212, graphics plane 213, graphics offset processing unit 214, selector 215, plane addition unit 216, display unit 217, An audio decoding unit 218 and a speaker 219 are included.

映像表示装置20は、図示されていないプロセッサ、RAM、ROM、ハードディスクを含む。また、映像処理装置の各機能ブロックは、ハードウェアとして構成されているか、もしくは各機能ブロックの機能は、プロセッサがメモリに記憶されているコンピュータプログラムを実行することで実現される。
(ユーザーインターフェース部201)
ユーザーインターフェース部201は、ユーザによる選局の指示、字幕やメニューなどの表示,非表示の切替えの指示、電源オン,オフの指示等をリモコン21から受け付け、受け付けた指示に対応した制御信号を、指示に応じてチューナ202又はプレーン加算部216に出力する機能を有する。
The video display device 20 includes a processor, a RAM, a ROM, and a hard disk not shown. Each functional block of the video processing apparatus is configured as hardware, or the function of each functional block is realized by the processor executing a computer program stored in the memory.
(User interface unit 201)
The user interface unit 201 receives from the remote controller 21 instructions for channel selection, display of subtitles, menus, and the like, instructions for switching non-display, power-on / off instructions, and the like, and receives control signals corresponding to the received instructions. It has a function of outputting to the tuner 202 or the plane adder 216 in response to an instruction.

この機能の一例として、ユーザがリモコン21によって、あるチャネルへ変更する操作を行うと、その指定されたチャネルへの変更の指示を示す信号をリモコン21が、ユーザーインターフェース部201へ送信する。ユーザーインターフェース部201は、この信号を受信すると、ユーザが指示したチャネルへと変更するための制御信号をチューナ202に出力し、チューナ202は、この制御信号に基づいてチャネルを変更し、変更したチャネルに対応した放送波を受信する。   As an example of this function, when the user performs an operation to change to a certain channel using the remote controller 21, the remote controller 21 transmits a signal indicating an instruction to change to the designated channel to the user interface unit 201. Upon receiving this signal, the user interface unit 201 outputs a control signal for changing to a channel designated by the user to the tuner 202. The tuner 202 changes the channel based on this control signal, and changes the channel. A broadcast wave corresponding to is received.

また、例えば、ユーザがリモコン21によって、字幕を表示させる操作を行うと、リモコン21は、字幕表示の指示を示す信号をユーザーインターフェース部201へ送信する。ユーザーインナーフェース部201は、この信号を受信すると、プレーン加算部216に字幕を重畳して出力させることを示す制御信号を出力し、プレーン加算部216は、この制御信号を受信した場合に、左目用映像プレーン206及び右目用映像プレーン207の画像に字幕プレーン210の画像を重畳して出力させ、そうでない場合には、字幕プレーン210の画像を重畳しないで出力する。
(チューナ202)
チューナ202は、デジタル放送波受信用のチューナで構成されている。チューナ202は、ユーザーインターフェース201から、ユーザが指示したチャネルへと変更するための制御信号を受け付け、ユーザの選局したチャネルに変更する機能を備える。そして、そのチャネルに対応した送信装置10から送信されたデジタル放送波を受信し、復調することによりトランスポートストリームを抽出して多重分離部203へ出力する機能を備える。
(多重分離部203)
多重分離部203は、デマルチプレクサLSIで構成されており、トランスポートストリームを取得して、SI/PSI、映像ストリームのパケット、音声ストリームのパケット、字幕ストリームのパケット、グラフィックスストリーム等のパケットに分離する機能を有する。
Further, for example, when the user performs an operation of displaying a caption with the remote controller 21, the remote controller 21 transmits a signal indicating a caption display instruction to the user interface unit 201. Upon receiving this signal, the user inner face unit 201 outputs a control signal indicating that the subtitles are superimposed on the plane adder 216 and output, and the plane adder 216 receives the control signal when receiving the control signal. The image of the subtitle plane 210 is superimposed and output on the images of the video plane 206 for video and the video plane 207 for right eye, and otherwise, the image of the subtitle plane 210 is output without being superimposed.
(Tuner 202)
The tuner 202 is a tuner for receiving digital broadcast waves. The tuner 202 has a function of receiving a control signal for changing to the channel designated by the user from the user interface 201 and changing to the channel selected by the user. The digital broadcast wave transmitted from the transmission apparatus 10 corresponding to the channel is received and demodulated to extract a transport stream and output it to the demultiplexing unit 203.
(Demultiplexer 203)
The demultiplexing unit 203 is configured by a demultiplexer LSI, acquires a transport stream, and separates the transport stream into packets such as SI / PSI, video stream packets, audio stream packets, subtitle stream packets, and graphics streams. Has the function of

多重分離部203は、具体的には、チューナ202で受信し、復調されたトランスポートストリームのパケットを、SI/PSI、映像ストリーム、音声ストリーム、字幕ストリーム及びグラフィックスストリームのパケットに分離し、SI/PSIのパケットをストリーム管理情報解析部204へ、映像ストリームのパケットをビデオデコード部205へ、字幕ストリームのパケットを字幕デコード部209へ、グラフィックスストリームのパケットをグラフィックスデコード部212へ、音声ストリームのパケットをオーディオデコード部218へそれぞれ出力する。
(ストリーム管理情報解析部204)
ストリーム管理情報解析部204は、多重分離部203からSI/PSIを受け取り、PAT、PMT、NIT(Network Information Table)、EIT、BIT(Broadcaster Information Table)などのSI/PSIの内容を解析する機能を備える。また、ストリーム管理情報解析部204は、PMTに含まれる分割情報のオフセットメタデータ300を抽出し、分割情報解析部208に出力する機能を備える。
(分割情報解析部208)
分割情報解析部208は、ストリーム管理情報解析部204が出力したオフセットメタデータ300を解析し、部分領域の範囲を示す部分領域情報と、字幕プレーン210及びグラフィックスプレーン213の画像を部分領域ごとに異なるオフセット値でシフトするためのオフセット情報を抽出する機能と、抽出したこれら情報を字幕オフセット処理部211及びグラフィックスオフセット処理部214に出力する機能を備える。
(ビデオデコード部205)
ビデオデコード部205は多重分離部203で振り分けられて入力された3D映像のデータを含むパケットから、符号化された3D映像データを抽出して復号し、左目用の映像フレームを左目用映像プレーン206に、右目用の映像フレームを右目用映像プレーン207にそれぞれ出力する機能を備える。例えば、MPEG4 MVC形式の3D映像を復号し、左目用映像のピクチャを左目用映像プレーン206に、右目用映像のピクチャを右目用映像プレーン207にそれぞれ出力する。
(字幕デコード部209、グラフィックスデコード部212)
字幕デコード部209は、多重分離部203で振り分けられた字幕データを含むパケットを復号して字幕画像を生成し、字幕プレーン210に出力する機能を備える。
Specifically, the demultiplexing unit 203 demultiplexes the transport stream packets received and demodulated by the tuner 202 into SI / PSI, video stream, audio stream, subtitle stream, and graphics stream packets. / PSI packet to the stream management information analysis unit 204, video stream packet to the video decoding unit 205, subtitle stream packet to the subtitle decoding unit 209, graphics stream packet to the graphics decoding unit 212, audio stream Are output to the audio decoding unit 218, respectively.
(Stream management information analysis unit 204)
The stream management information analysis unit 204 has a function of receiving SI / PSI from the demultiplexing unit 203 and analyzing SI / PSI contents such as PAT, PMT, NIT (Network Information Table), EIT, and BIT (Broadcaster Information Table). Prepare. In addition, the stream management information analysis unit 204 has a function of extracting the division information offset metadata 300 included in the PMT and outputting it to the division information analysis unit 208.
(Division information analysis unit 208)
The division information analysis unit 208 analyzes the offset metadata 300 output from the stream management information analysis unit 204, and displays the partial region information indicating the range of the partial region and the images of the subtitle plane 210 and the graphics plane 213 for each partial region. A function of extracting offset information for shifting with different offset values and a function of outputting the extracted information to the caption offset processing unit 211 and the graphics offset processing unit 214 are provided.
(Video decoding unit 205)
The video decoding unit 205 extracts and decodes the encoded 3D video data from the packet including the 3D video data distributed and input by the demultiplexing unit 203, and converts the left-eye video frame into the left-eye video plane 206. And a function of outputting the right-eye video frame to the right-eye video plane 207, respectively. For example, 3D video in the MPEG4 MVC format is decoded, and the left-eye video picture is output to the left-eye video plane 206 and the right-eye video picture is output to the right-eye video plane 207, respectively.
(Subtitle decoding unit 209, graphics decoding unit 212)
The caption decoding unit 209 has a function of decoding a packet including the caption data distributed by the demultiplexing unit 203 to generate a caption image and outputting it to the caption plane 210.

このとき、字幕デコード部209は、ビデオデコード部で出力された3D映像のPTSと同時刻を示すPTSの字幕画像を字幕プレーン210に出力する。   At this time, the caption decoding unit 209 outputs a PTS caption image indicating the same time as the 3D video PTS output by the video decoding unit to the caption plane 210.

グラフィックスデコード部212は、多重分離部203で振り分けられたグラフィックスデータを含むパケットを復号してグラフィックス画像を生成し、グラフィックスプレーン213に出力する機能を備える。   The graphics decoding unit 212 has a function of decoding a packet including graphics data distributed by the demultiplexing unit 203 to generate a graphics image and outputting the graphics image to the graphics plane 213.

このとき、グラフィックスデコード部209は、字幕デコード部209と同様にビデオデコード部で出力された3D映像のPTSと同時刻を示すPTSのグラフィックス画像をグラフィックスプレーン210に出力する。
(左目用映像プレーン206、右目用映像プレーン207、字幕プレーン210、グラフィックスプレーン213)
左目用映像プレーン206は、ビデオデコード部205がビデオストリームのパケットを復号してPTSの値に従って出力した左目用映像のピクチャを保持するプレーンメモリである。
At this time, the graphics decoding unit 209 outputs, to the graphics plane 210, a PTS graphics image indicating the same time as the 3D video PTS output by the video decoding unit in the same manner as the caption decoding unit 209.
(Left-eye video plane 206, right-eye video plane 207, subtitle plane 210, graphics plane 213)
The left-eye video plane 206 is a plane memory that holds a picture of the left-eye video output by the video decoding unit 205 according to the PTS value after decoding the video stream packet.

右目用映像プレーン207は、ビデオデコード部205がビデオストリームのパケットを復号してPTSの値に従って出力した右目用映像のピクチャを保持するプレーンメモリである。   The right-eye video plane 207 is a plane memory that holds a picture of the right-eye video that the video decoding unit 205 decodes a video stream packet and outputs according to the value of the PTS.

字幕プレーン210は、左目用映像プレーン206及び右目用映像プレーンと同じ広さの表示領域を持ち、字幕デコード部209によって復号され生成した字幕画像を保持するプレーンメモリである。   The subtitle plane 210 is a plane memory that has a display area of the same size as the left-eye video plane 206 and the right-eye video plane and holds a subtitle image decoded and generated by the subtitle decoder 209.

グラフィックスプレーン213は、字幕プレーンと同じ広さの表示領域を持ち、グラフィックスデコード部212がPTSの値に従って生成したグラフィックス画像を保持するプレーンメモリである。
(セレクタ215)
セレクタ215は、3D映像のPTSに基づいて、左目用映像プレーン206の画像と右目用映像プレーンの画像とを交互に切替えてプレーン加算部216に出力する機能を備える。また、セレクタ215は、左目用映像プレーンの画像を出力する際には、字幕オフセット処理部211及びグラフィックスオフセット処理部214に対して、左目用にシフトするよう指示を行い、右目用映像プレーンの画像を出力する際には、右目用にシフトするよう指示を行う機能を備える。
(字幕オフセット処理部211、グラフィックスオフセット処理部214)
字幕オフセット処理部211は、字幕プレーン210の画像を、分割情報解析部208から得た部分領域情報と、オフセット情報で示される部分領域ごとのオフセット値とに基づいて、表示領域の画像を1ラインごとに逐次オフセット値分シフトする機能と、シフトするごとにシフトした画像をプレーン加算部216に出力する機能を備える。
The graphics plane 213 is a plane memory that has a display area as wide as the subtitle plane and holds the graphics image generated by the graphics decoding unit 212 according to the value of the PTS.
(Selector 215)
The selector 215 has a function of alternately switching the image of the left-eye video plane 206 and the image of the right-eye video plane based on the 3D video PTS and outputting the image to the plane adder 216. In addition, when outputting the image of the left-eye video plane, the selector 215 instructs the subtitle offset processing unit 211 and the graphics offset processing unit 214 to shift for the left eye, and the right-eye video plane is output. When outputting an image, it has a function of giving an instruction to shift to the right eye.
(Subtitle offset processing unit 211, Graphics offset processing unit 214)
The subtitle offset processing unit 211 converts the image of the subtitle plane 210 into one line of the display region image based on the partial region information obtained from the division information analysis unit 208 and the offset value for each partial region indicated by the offset information. A function of sequentially shifting the offset value every time, and a function of outputting the shifted image to the plane adding unit 216 every time the shift is performed.

字幕オフセット処理部211の表示ラインごとに逐次オフセット値分シフトする処理は、従来の1plane+offset方式による処理と同じである。従来の1plane+offset方式では、全てのラインの画像に対して同じオフセット値でシフトするが、字幕オフセット処理部211は、部分領域ごとにオフセット情報で示される異なるオフセット値を用いて画像をシフトする。このため、従来の1plane+offset方式に比べて、部分領域ごとに異なるオフセット値でシフトした画像を記憶するプレーンを別途用意する必要はない。   The processing of sequentially shifting the offset value for each display line of the caption offset processing unit 211 is the same as the processing by the conventional 1 plane + offset method. In the conventional 1 plane + offset method, the image of all lines is shifted with the same offset value, but the caption offset processing unit 211 shifts the image using different offset values indicated by the offset information for each partial area. For this reason, as compared with the conventional 1 plane + offset method, it is not necessary to separately prepare a plane for storing an image shifted with a different offset value for each partial region.

字幕オフセット処理部211は、セレクタ215から左目用にシフトする指示を受けた場合には、字幕プレーン210の画像を、部分領域情報で特定される部分領域の範囲ごとに、オフセット情報で示されるオフセット値に基づいて左目用にシフトし、右目用にシフトする指示を受けた場合には、右目用にシフトし、プレーン加算部216に出力する。   When the subtitle offset processing unit 211 receives an instruction to shift to the left eye from the selector 215, the subtitle offset processing unit 211 offsets the image of the subtitle plane 210 for each partial area specified by the partial area information. If an instruction to shift to the left eye based on the value and to shift to the right eye is received, the shift is made to the right eye and output to the plane adder 216.

グラフィックスオフセット処理部214は、グラフィックスプレーン213の画像を、字幕オフセット処理部211と同様の方法でシフトし、プレーン加算部216に出力する機能を備える。字幕プレーンと同様に、グラフィックスプレーンの画像のシフトに際しても、部分領域ごとに異なるオフセット値でシフトした画像を記憶するプレーンを別途用意する必要はない。
(プレーン加算部216)
プレーン加算部216は、セレクタ215が出力した映像プレーンの画像に、字幕オフセット処理部211から1ラインごとに逐次出力された字幕画像を重畳する機能と、グラフィックスオフセット処理部214から1ラインごとに逐次出力されたグラフィックス画像を重畳する機能と、重畳した映像プレーンの画像を表示部に出力する機能を備える。なお、プレーン加算部216は、まず字幕オフセット処理部211が出力した字幕画像を重畳し、その後にグラフィックスオフセット処理部214が出力したグラフィックス画像を重畳する処理を行う。
The graphics offset processing unit 214 has a function of shifting the image of the graphics plane 213 in the same way as the subtitle offset processing unit 211 and outputting it to the plane addition unit 216. Similar to the caption plane, it is not necessary to separately prepare a plane for storing an image shifted with an offset value different for each partial area when shifting the image of the graphics plane.
(Plane adder 216)
The plane adder 216 superimposes the caption image sequentially output for each line from the caption offset processor 211 on the image of the video plane output from the selector 215, and the graphics offset processor 214 for each line. A function of superimposing sequentially output graphics images and a function of outputting an image of the superimposed video plane to the display unit are provided. Note that the plane addition unit 216 first superimposes the caption image output from the caption offset processing unit 211 and then superimposes the graphics image output from the graphics offset processing unit 214.

プレーン加算部216は、まず、表示用のプレーンにセレクタ215が出力した映像プレーンの画像を書込み、字幕オフセット処理部211が出力したシフト処理された1ラインごとの字幕画像を表示用のプレーンの該当するラインに書込む。更に、グラフィックスオフセット処理部214が出力したシフト処理された1ラインごとのグラフィックス画像を該当する表示用の該当ラインに書込む。このように、1ラインごとに処理して書込むことができるので、
プレーン加算部216は、ユーザーインターフェース部201から字幕等を3D映像に重畳して出力させることを示す制御信号を受け取ったか否かを判断する機能と、上述の重畳を行う処理は、3D映像に重畳して出力させることを示す制御信号を受け取った場合に行うよう制御する機能を備える。
(表示部217)
表示部217は、例えば、ディスプレイであり、プレーン加算部216から受け取った映像プレーンの画像を表示する機能を備える。
(オーディオデコード部218、スピーカ219)
オーディオデコード部218は、多重分離部203から受け取ったオーディオストリームのパケットを順次復号して、音声データを生成し、生成した音声データを音声としてスピーカ219を介して出力する機能を備える。
The plane adder 216 first writes the image of the video plane output from the selector 215 to the display plane, and the subtitle image for each line that has been shifted and output from the subtitle offset processor 211 corresponds to the display plane. Write on the line you want. Further, the shifted graphics image output from the graphics offset processing unit 214 is written into the corresponding display line. In this way, you can process and write for each line,
The plane adder 216 determines whether or not a control signal indicating that subtitles and the like are to be superimposed on 3D video and output from the user interface unit 201 and the above-described superimposing process is superimposed on the 3D video. And a function of performing control when it receives a control signal indicating that it is output.
(Display unit 217)
The display unit 217 is, for example, a display, and has a function of displaying a video plane image received from the plane addition unit 216.
(Audio decoding unit 218, speaker 219)
The audio decoding unit 218 has a function of sequentially decoding the audio stream packets received from the demultiplexing unit 203 to generate audio data, and outputting the generated audio data as audio via the speaker 219.

スピーカ219は、スピーカで構成され、オーディオデコード部218でデコードされた音声データを音声として出力する。   The speaker 219 is composed of a speaker and outputs the audio data decoded by the audio decoding unit 218 as audio.

<1.6 映像表示装置20の動作>
次に、上記の構成を備える映像表示装置20の動作について説明する。
<1.6 Operation of Video Display Device 20>
Next, the operation of the video display device 20 having the above configuration will be described.

図7は、映像表示装置20の処理を示すフローチャートである。   FIG. 7 is a flowchart showing processing of the video display device 20.

ユーザがリモコン21を操作し、受信するTV放送のチャネルの変更を行った場合を例に説明する。   An example will be described in which the user operates the remote controller 21 to change the TV broadcast channel to be received.

まず、ユーザーインターフェース部201は、指定されたチャネルへのチャネル変更の指示を示す信号をリモコン21から受信すると、チューナ202にユーザが指定したチャネルに変更するための制御信号をチューナ202に出力する。チューナ202は、この制御信号に基づいてチャネルを変更し、変更したチャネルに対応した放送波を受信する。チューナ202は、放送波を復調しトランスポートストリームのパケットを抽出して多重分離部203に出力する(ステップS20)。   First, when the user interface unit 201 receives a signal indicating a channel change instruction for a designated channel from the remote controller 21, the user interface unit 201 outputs to the tuner 202 a control signal for changing to a channel designated by the user. The tuner 202 changes the channel based on this control signal, and receives a broadcast wave corresponding to the changed channel. The tuner 202 demodulates the broadcast wave, extracts the transport stream packet, and outputs the packet to the demultiplexing unit 203 (step S20).

多重分離部203は、トランスポートストリームのパケットを受取り、トランスポートストリームのパケットをビデオストリーム、ストリーム管理情報であるSI/PSI、字幕ストリーム、グラフィックスストリーム、及びオーディオストリームのそれぞれのパケットに分離し、分離したパケットをそれぞれ、ビデオデコード部205、ストリーム管理情報解析部204、ビデオデコード部205、字幕デコード部209、グラフィックスデコード部212、オーディオデコード部218にそれぞれ出力する(ステップS21)。   The demultiplexing unit 203 receives the transport stream packet, separates the transport stream packet into each packet of the video stream, the stream management information SI / PSI, the caption stream, the graphics stream, and the audio stream, The separated packets are output to the video decoding unit 205, the stream management information analysis unit 204, the video decoding unit 205, the caption decoding unit 209, the graphics decoding unit 212, and the audio decoding unit 218, respectively (step S21).

次にストリーム管理情報解析部204は、多重分離部203で分離されたSI/PSIのパケットを受け取り、SI/PSIに含まれるPAT、PMT、NIT、EIT、BITなどを抽出し、ビデオデコード部205、分割情報解析部208、字幕デコード部209、グラフィックスデコード部212、オーディオデコード部218に抽出したこれらの情報を出力する(ステップS22)。   Next, the stream management information analysis unit 204 receives the SI / PSI packet separated by the demultiplexing unit 203, extracts the PAT, PMT, NIT, EIT, BIT, etc. included in the SI / PSI, and the video decoding unit 205. The extracted information is output to the division information analysis unit 208, the caption decoding unit 209, the graphics decoding unit 212, and the audio decoding unit 218 (step S22).

ビデオデコード部205は、多重分離部203から受取った3Dビデオストリームのパケット(例えば、MPEG4 MVCのTSのパケット)を、ストリーム管理情報解析部から受取った情報を基に復号し(ステップS23)、左目用映像プレーン206に復号した左目用映像を、右目用映像プレーン207に復号した右目用映像を出力する(ステップS24)。   The video decoding unit 205 decodes the packet of the 3D video stream received from the demultiplexing unit 203 (for example, the packet of the MPEG4 MVC TS) based on the information received from the stream management information analysis unit (step S23). The left-eye video decoded to the video plane 206 for the right and the right-eye video decoded to the video plane 207 for the right eye are output (step S24).

字幕デコード部209は、多重分離部203から受取った字幕ストリームのパケットを、ストリーム管理情報解析部から受取った情報を基に復号し(ステップS25)、3Dビデオストリームを復号した画像のPTSと同時刻のPTSを持つ字幕画像を字幕プレーン210に出力する(ステップS29)。   The caption decoding unit 209 decodes the packet of the caption stream received from the demultiplexing unit 203 based on the information received from the stream management information analysis unit (step S25), and the same time as the PTS of the image obtained by decoding the 3D video stream The subtitle image having the PTS is output to the subtitle plane 210 (step S29).

グラフィックスデコード部212は、多重分離部203から受取ったグラフィックスストリームのパケットを、ストリーム管理情報解析部から受取った情報を基に復号し(ステップS26)、3Dビデオストリームを復号した画像のPTSと同時刻のPTSを持つグラフィックス画像をグラフィックスプレーン213に出力する(ステップS30)。   The graphics decoding unit 212 decodes the graphics stream packet received from the demultiplexing unit 203 based on the information received from the stream management information analysis unit (step S26), and the PTS of the image obtained by decoding the 3D video stream. A graphics image having the PTS at the same time is output to the graphics plane 213 (step S30).

オーディオデコード部218は、多重分離部203から受取ったオーディオストリームのパケットを、ストリーム管理情報解析部から受取った情報を基に復号し(ステップS27)、復号した音声データをスピーカ219に出力する(ステップS28)。   The audio decoding unit 218 decodes the audio stream packet received from the demultiplexing unit 203 based on the information received from the stream management information analysis unit (step S27), and outputs the decoded audio data to the speaker 219 (step S27). S28).

分割情報解析部208は、ストリーム管理情報解析部204から3Dビデオストリームを復号した画像のPTSと同時刻のPTSの値を持つ字幕画像やグラフィックス画像に対応したオフセットメタデータ300を受取り、オフセットメタデータ300を解析して、各プレーンの部分領域情報とその部分領域ごとのオフセット値を抽出し、字幕オフセット処理部211及びグラフィックスオフセット処理部214に出力する(ステップS31、S32)。   The division information analysis unit 208 receives the offset metadata 300 corresponding to the caption image or graphics image having the PTS value at the same time as the PTS of the image obtained by decoding the 3D video stream from the stream management information analysis unit 204. The data 300 is analyzed, partial area information of each plane and an offset value for each partial area are extracted, and output to the caption offset processing unit 211 and the graphics offset processing unit 214 (steps S31 and S32).

次に、セレクタ215は、ストリーム管理情報解析部204がストリーム管理情報から抽出したPTSの値に従って、プレーン加算部216に出力する映像プレーンとして、左目用映像プレーン206と右目用映像プレーン207のどちらの映像プレーンを出力するのかを選択する(ステップS33)。   Next, the selector 215 selects either the left-eye video plane 206 or the right-eye video plane 207 as a video plane to be output to the plane addition unit 216 according to the PTS value extracted from the stream management information by the stream management information analysis unit 204. It is selected whether to output a video plane (step S33).

セレクタ215は、プレーン加算部216に出力する映像プレーンとして左目用映像プレーン206を選択した場合(ステップS33:YES)、字幕オフセット処理部211とグラフィックスオフセット処理部214に、それぞれのプレーンを左目用にシフトする指示を行う。   When the selector 215 selects the left-eye video plane 206 as the video plane to be output to the plane adding unit 216 (step S33: YES), the selector 215 sends the respective planes to the subtitle offset processing unit 211 and the graphics offset processing unit 214 for the left eye. To shift to.

セレクタ215から左目用にシフトする指示を受けた字幕オフセット処理部211は、部分領域ごとに字幕プレーンの画像を左目用にシフトしてプレーン加算部216に出力する(ステップS34)。具体的には、字幕プレーンの表示領域の最上部から逐次1ライン分の画像を抽出し、分割情報解析部208から受取った部分領域ごとのオフセット情報で示されるオフセット値分、右にシフトした1ライン分のオフセット字幕画像をプレーン加算部216に出力する。字幕オフセット処理部211は、この処理を表示領域の最下部に達するまで繰り返す。図2(a)の例では、字幕オフセット処理部211は、領域Aに含まれるラインの画像は、OffsetAで示される値だけ右側にシフトし、領域Bの範囲に含まれるラインの画像は、OffsetBで示される値だけ右側にシフトしてプレーン加算部216に出力する。   Receiving the instruction to shift to the left eye from the selector 215, the subtitle offset processing unit 211 shifts the subtitle plane image for each partial region to the left eye and outputs the result to the plane adding unit 216 (step S34). Specifically, an image for one line is sequentially extracted from the top of the display area of the caption plane, and is shifted to the right by the offset value indicated by the offset information for each partial area received from the division information analysis unit 208. The offset subtitle image for the line is output to the plane adder 216. The subtitle offset processing unit 211 repeats this process until it reaches the bottom of the display area. In the example of FIG. 2A, the caption offset processing unit 211 shifts the line image included in the area A to the right by the value indicated by OffsetA, and the line image included in the area B area is OffsetB. Is shifted to the right by the value indicated by, and output to the plane adder 216.

グラフィックスオフセット処理部214は、字幕オフセット処理部211で左目用画像を生成するのと同様の方法で、グラフィックスプレーンの画像を1ライン分抽出し、左目用にシフトしてプレーン加算部216に出力する(ステップS35)。   The graphics offset processing unit 214 extracts the graphics plane image for one line in the same way as the caption offset processing unit 211 generates the left eye image, shifts it to the left eye, and sends it to the plane addition unit 216. Output (step S35).

プレーン加算部216は、セレクタ215から出力された左目用映像プレーンの画像に、字幕オフセット処理部211から1ラインずつ逐次出力されたオフセット字幕画像を重畳する。次に、グラフィックスオフセット処理部214から1ラインずつ逐次出力されたオフセットグラフィックス画像を重畳する(ステップS36)。   The plane adding unit 216 superimposes the offset subtitle image sequentially output line by line from the subtitle offset processing unit 211 on the image of the left-eye video plane output from the selector 215. Next, the offset graphics image sequentially output line by line from the graphics offset processing unit 214 is superimposed (step S36).

一方、セレクタ215は、プレーン加算部216に出力する映像プレーンとして右目用映像プレーン207を選択した場合(ステップS33:NO)には、字幕オフセット処理部211とグラフィックスオフセット処理部214に、それぞれのプレーンを右目用にシフトする指示を行う。   On the other hand, when the selector 215 selects the right-eye video plane 207 as the video plane to be output to the plane adder 216 (step S33: NO), the selector 215 sends the subtitle offset processor 211 and the graphics offset processor 214 respectively. Instructs the plane to shift to the right eye.

セレクタ215から右目用にシフトする指示を受けた字幕オフセット処理部211は、左目用にシフトした画像を生成する場合と同様の方法で、部分領域ごとに字幕プレーンの画像を右目用にシフトしてプレーン加算部216に出力する(ステップS37)。ステップS37の処理は、ステップS34の処理に相当し、シフトする方向が右側でなく左側にシフトする点が異なるだけである。   The subtitle offset processing unit 211 that has received an instruction to shift to the right eye from the selector 215 shifts the image of the subtitle plane for the right eye for each partial area in the same manner as when generating an image shifted for the left eye. It outputs to the plane addition part 216 (step S37). The process of step S37 corresponds to the process of step S34, except that the shifting direction is shifted to the left instead of the right.

グラフィックスオフセット処理部214は、字幕オフセット処理部211で右目用画像を生成する場合と同様の方法でグラフィックスプレーンの画像を部分領域ごとに右目用にシフトした右目用オフセットグラフィックス画像を生成してプレーン加算部216に出力する(ステップS38)。   The graphics offset processing unit 214 generates a right-eye offset graphics image in which the graphics plane image is shifted for the right eye for each partial region in the same manner as when the subtitle offset processing unit 211 generates the right-eye image. Is output to the plane adder 216 (step S38).

プレーン加算部216は、セレクタ215から出力された右目用映像プレーンの画像に、字幕オフセット処理部211から1ラインずつ逐次出力されたオフセット字幕画像を重畳する。次に、グラフィックスオフセット処理部214から1ラインずつ逐次出力されたオフセットグラフィックス画像を重畳する(ステップS39)。   The plane addition unit 216 superimposes the offset caption image sequentially output line by line from the caption offset processing unit 211 on the image of the right-eye video plane output from the selector 215. Next, the offset graphics image sequentially output line by line from the graphics offset processing unit 214 is superimposed (step S39).

表示部217は、プレーン加算部216で重畳された画像を表示する(ステップS40)。   The display unit 217 displays the image superimposed by the plane addition unit 216 (step S40).

以上、説明したように、映像表示装置10は、左目用映像プレーンの画像又は右目用映像プレーンの画像に、字幕の画像及びグラフィックスの画像を1ラインずつ逐次シフトして重畳することができるので、余分な画像プレーンを使用することなく画像の重畳を行うことができる。   As described above, the video display device 10 can sequentially shift and superimpose a caption image and a graphics image one line at a time on the image of the left-eye video plane or the image of the right-eye video plane. The image can be superimposed without using an extra image plane.

(映像表示装置20の使用態様の一例)
以下、図8を用いて、上記の映像表示装置20の一態様である3D映像を再生する3Dデジタルテレビ30を例に挙げて説明する。
(Example of usage of video display device 20)
Hereinafter, a 3D digital television 30 that reproduces 3D video, which is an aspect of the video display device 20, will be described as an example with reference to FIG.

図8(a)に示すように、ユーザは、3Dデジタルテレビ30と3D眼鏡40を用いて3D映像を視聴する。   As shown in FIG. 8A, the user views 3D video using the 3D digital television 30 and the 3D glasses 40.

3Dデジタルテレビ30は、2D映像及び3D映像を表示することができるものであり、受信した放送波に含まれるストリームを再生することで映像を表示する。具体的には、MPEG−2形式で圧縮符号化された2DビデオストリームやMPEG−4 MVC形式で圧縮符号化された3Dビデオストリームを再生する。   The 3D digital television 30 can display 2D video and 3D video, and displays video by reproducing a stream included in the received broadcast wave. Specifically, a 2D video stream compressed and encoded in the MPEG-2 format and a 3D video stream compressed and encoded in the MPEG-4 MVC format are reproduced.

3Dデジタルテレビ30は、3Dビデオストリームを受信した場合には、左目用画像と右目用画像とを交互に表示する。   When receiving the 3D video stream, the 3D digital television 30 alternately displays the left-eye image and the right-eye image.

ユーザは、このようにして再生された映像を、3D眼鏡40を着用して眺めることで立体映像として視聴することができる。   The user can view the video reproduced in this way as a stereoscopic video by wearing the 3D glasses 40 and viewing the video.

図8(b)は、3D眼鏡40の左目用画像の表示時を示す。   FIG. 8B shows the time when the left-eye image of the 3D glasses 40 is displayed.

画面上に左目用の画像が表示されている瞬間において、3D眼鏡40は、左目に対応する液晶シャッターを透光にし、右目に対応する液晶シャッターは遮光する。   At the moment when the image for the left eye is displayed on the screen, the 3D glasses 40 transmit light to the liquid crystal shutter corresponding to the left eye and shield the liquid crystal shutter corresponding to the right eye.

同図(c)は、右目用画像の表示時を示す。   FIG. 3C shows the display time of the right eye image.

画面上に右目用画像が表示されている瞬間において、先ほどと逆に右目に対応する液晶シャッターを透光にし、左目に対応する液晶シャッターを遮光する。   At the moment when the image for the right eye is displayed on the screen, the liquid crystal shutter corresponding to the right eye is made transparent, and the liquid crystal shutter corresponding to the left eye is shielded from light.

図9は、ユーザが3DデジタルTVの30のディスプレイ50に表示される画像を、3D眼鏡40を通して見たときのそれぞれの表示物の見え方を概念的に示す図である。   FIG. 9 is a diagram conceptually showing how each display object looks when an image viewed on the display 50 of the 3D digital TV 30 is viewed through the 3D glasses 40.

左目用画像が表示されているとき、3D眼鏡40の右目は、液晶シャッターで隠された状態となり、ユーザは左目だけで左目用画像を見る。また、ディスプレイ50に右目用画像が表示されているとき、3D眼鏡40の左目は液晶シャッターで隠された状態となり、ユーザは、右目だけで左目用画像を見る。このような表示制御を行うことにより、ユーザには、3D映像データに含まれるオブジェクト60はディスプレイ50から手前に飛び出して見える。更に、その手前に字幕プレーンの表示物70と表示物80が飛び出して見える。表示物70は、図2(a)の部分領域である領域Aに表示されている表示物であり、表示物80は、領域Bに表示されている表示物であるので、上記で説明したように部分領域ごとに異なるoffset量で画像をシフトことにより、表示物80は、表示物70より手前に飛び出しているように見える。更に、その手前にはグラフィックスプレーンの表示物90が飛び出しているように見える。   When the image for the left eye is displayed, the right eye of the 3D glasses 40 is hidden by the liquid crystal shutter, and the user views the image for the left eye only with the left eye. When the right-eye image is displayed on the display 50, the left eye of the 3D glasses 40 is hidden by the liquid crystal shutter, and the user views the left-eye image only with the right eye. By performing such display control, an object 60 included in the 3D video data appears to jump out from the display 50 to the user. Further, the display object 70 and the display object 80 of the subtitle plane appear to jump out before that. Since the display object 70 is a display object displayed in the area A, which is a partial area of FIG. 2A, and the display object 80 is a display object displayed in the area B, as described above. In addition, the display object 80 appears to protrude forward from the display object 70 by shifting the image by different offset amounts for each partial region. Furthermore, it appears that a display object 90 on the graphics plane is popping out in front of it.

ユーザは、このように3D眼鏡を通して眺めることによって、3Dデジタルテレビ30に表示される映像を立体的な映像として見ることができる。
<2.実施の形態2>
<2.1 概要>
実施の形態1のように、部分領域ごとにシフトするオフセット値を設定して、それぞれの部分領域に表示される表示物を異なるオフセット値で表示する場合において、部分領域の境界付近に、それぞれの表示物が表示されるような場合には、深度の異なる表示物が近接して表示されることになる。このため、このような映像を視聴した場合、ユーザにとって見づらい場合がある。
The user can view the video displayed on the 3D digital television 30 as a stereoscopic video by viewing through the 3D glasses in this way.
<2. Second Embodiment>
<2.1 Overview>
As in the first embodiment, when the offset value to be shifted for each partial area is set and the display object displayed in each partial area is displayed with a different offset value, When a display object is displayed, display objects with different depths are displayed close to each other. For this reason, when viewing such a video, it may be difficult for the user to view.

そこで、本実施の形態2では、部分領域の境界近傍の一定の範囲は、表示物の表示を行わない禁止領域を設けることによって、深度の異なる表示物が近接して表示されるのを防ぎ得る送信装置について説明する。この送信装置は、部分領域ごとに禁止領域を示す情報を生成し、伝送ストリームに付加して送信する。   Therefore, in the second embodiment, a certain range in the vicinity of the boundary of the partial area can prevent display objects with different depths from being displayed in proximity by providing a prohibited area in which display objects are not displayed. A transmission apparatus will be described. This transmitting apparatus generates information indicating the prohibited area for each partial area, and transmits the information by adding it to the transmission stream.

また、禁止領域を示す情報が付加された伝送ストリームを受信した場合には、部分領域ごとに、オフセット情報で示されるオフセット値で画像を水平方向にシフトする際に、この禁止領域に含まれる画像はシフトせずに、禁止領域の範囲外の画像のみシフトする映像表示装置について説明する。   In addition, when a transmission stream to which information indicating a prohibited area is added is received, when the image is shifted in the horizontal direction by an offset value indicated by the offset information for each partial area, the image included in the prohibited area A video display device that shifts only images outside the range of the prohibited area without shifting will be described.

以下、実施の形態1で用いたデータ構造、送信装置、映像表示装置と共通の構造や動作については、説明を省略し、異なる点を重点的に説明する。   Hereinafter, the description of the data structure, the transmission apparatus, and the structure and operation common to the video display apparatus used in Embodiment 1 will be omitted, and different points will be mainly described.

<2.1 データ>
図10は、字幕プレーン1000の部分領域における表示物の表示をしない禁止領域を示す概念図である。
<2.1 Data>
FIG. 10 is a conceptual diagram showing a prohibited area where display objects are not displayed in the partial area of the caption plane 1000.

字幕プレーン1000は、水平境界線で、領域Aと領域Bとの部分領域に、分割されている。領域Aには、水平境界線の上側に禁止領域1210が、領域Bには、水平境界線の下側に禁止領域1211が設定されており、表示物1200と表示物1201とは、領域Aの禁止領域1210の範囲外に表示され、表示物1203は領域Bの禁止領域1211の範囲外に表示されている。   The subtitle plane 1000 is divided into partial areas of area A and area B on a horizontal boundary line. In the area A, a prohibited area 1210 is set on the upper side of the horizontal boundary line, and in the area B, a prohibited area 1211 is set on the lower side of the horizontal boundary line. The display object 1203 is displayed outside the prohibited area 1211 and the display object 1203 is displayed outside the prohibited area 1211 of the area B.

以下、このように分割された各々の部分領域に対応した禁止領域を示す情報を記述したオフセットメタデータのデータ構造について説明する。   Hereinafter, the data structure of offset metadata describing information indicating the prohibited area corresponding to each of the partial areas thus divided will be described.

図11は、本実施の形態2で用いるオフセットメタデータ310のデータ構造を示す。オフセットメタデータ310は、実施の形態1で用いたオフセットメタデータ300に禁止領域を示すための記述子311を追加したデータ構造である。   FIG. 11 shows the data structure of the offset metadata 310 used in the second embodiment. The offset metadata 310 has a data structure in which a descriptor 311 for indicating a prohibited area is added to the offset metadata 300 used in the first embodiment.

記述子311であるforbidden_area()のupper_lengthは、対応する部分領域の上端の境界線における禁止領域の範囲を示す。同様にlower_lengthは、下端の境界線における禁止領域の範囲を示す。具体的には、図10の例では、領域Aについては、上端は字幕プレーン1000の表示領域の上端と同じであり禁止領域が設定されていないのでupper_lengthには、「0」が記述される。一方、lower_lengthには、禁止領域1210の高さを示す値が記述される。   The upper_length of forbidden_area () that is the descriptor 311 indicates the range of the prohibited area on the boundary line at the upper end of the corresponding partial area. Similarly, lower_length indicates the range of the prohibited area on the lower boundary line. Specifically, in the example of FIG. 10, since the upper end of the area A is the same as the upper end of the display area of the caption plane 1000 and no prohibited area is set, “0” is described in upper_length. On the other hand, in lower_length, a value indicating the height of the prohibited area 1210 is described.

領域Bについては、領域Bの上端は、領域Aとの境界であり、upper_lengthには、禁止領域1211の高さを示す値が記述される。一方、領域Bの下端は、字幕プレーンの表示領域の下端と同じであり、禁止領域が設定されていないのでlower_lengthには、「0」が記述される。   For the region B, the upper end of the region B is a boundary with the region A, and upper_length describes a value indicating the height of the prohibited region 1211. On the other hand, the lower end of the area B is the same as the lower end of the display area of the caption plane, and no prohibited area is set, so “0” is described in lower_length.

<2.2 送信装置の構成>
図12は、本実施の形態2に係る送信装置10aの機能ブロック図である。
<2.2 Configuration of transmitter>
FIG. 12 is a functional block diagram of transmitting apparatus 10a according to the second embodiment.

送信装置10aの機能のほとんどは、実施の形態1の送信装置10と同じである。送信装置10aは、送信装置10に比べて禁止領域設定部107と、ストリーム生成部108が追加され、分割情報生成部102aの機能が送信装置10の分割情報生成部102と異なる。   Most of the functions of the transmission device 10a are the same as those of the transmission device 10 of the first embodiment. The transmission device 10a is different from the transmission device 10 in that a prohibited area setting unit 107 and a stream generation unit 108 are added, and the function of the division information generation unit 102a is different from that of the division information generation unit 102 of the transmission device 10.

送信装置10の分割情報生成部102は、字幕ストリーム112やグラフィックスストリーム113の表示物の表示位置に基づいて部分領域の情報を生成していたが、分割情報生成部102aは、コンテンツ製作者が予め定めた領域情報の入力を受け、その領域情報に基づいて、字幕やグラフィックスの表示領域を部分領域に分割するための分割情報を生成する点で異なる。   The division information generation unit 102 of the transmission device 10 generates partial area information based on the display position of the display object of the subtitle stream 112 or the graphics stream 113. It is different in that division information for dividing a display area for subtitles and graphics into partial areas is generated based on the input of predetermined area information.

禁止領域設定部107は、同様にコンテン製作者が予め定めた部分領域ごとの禁止領域の情報の入力を受け、部分領域ごとに禁止領域を示す情報を追加する機能を備える。   Similarly, the prohibited area setting unit 107 has a function of receiving the input of the prohibited area information for each partial area predetermined by the content producer and adding information indicating the prohibited area for each partial area.

ストリーム生成部108は、コンテンツ作成者によって入力された字幕及びグラフィックスのデータから、字幕ストリーム及びグラフィックスストリームを生成する機能を備える。   The stream generation unit 108 has a function of generating a subtitle stream and a graphics stream from subtitle and graphics data input by the content creator.

<2.3 送信装置の動作>
以下、送信装置10aにおける禁止領域を考慮した字幕ストリーム及びグラフィックスストリームを生成する処理動作を説明する。なお、グラフィックスストリームを生成する場合は、以下で説明する字幕ストリームを生成する場合の字幕データがグラフィックスデータに置き換わっただけなので、同様の手順で生成することができる。このため、字幕ストリームを生成する場合を例に説明する。
<2.3 Operation of transmitter>
Hereinafter, a processing operation for generating a subtitle stream and a graphics stream in consideration of the prohibited area in the transmission device 10a will be described. It should be noted that when a graphics stream is generated, it can be generated in the same procedure because the caption data in the case of generating a caption stream described below is simply replaced with graphics data. For this reason, a case where a subtitle stream is generated will be described as an example.

図13は、送信装置10aの禁止領域を考慮した字幕ストリームを生成する処理のフローチャートである。   FIG. 13 is a flowchart of processing for generating a caption stream in consideration of the prohibited area of the transmission device 10a.

分割情報生成部102aは、コンテンツ作成者によって字幕の表示位置等がコンテンツ作成者によって予め設定された部分領域を示す情報を読込み、部分領域ごとにオフセットメタデータ310のdividing_point_startとdividing_point_endの値を設定する。そして、禁止領域設定部107は、同様にコンテンツ作成者によって予め設定された禁止領域を示す情報を読込み、部分領域ごとに、オフセットメタデータ310のforbidden_areaのupper_lengthとlower_lengthとの値を設定する(ステップS50)。なお、コンテンツ作成者によって予め設定された部分領域を示す情報及び禁止領域を示す情報は、例えば、コンテンツ提供者が、送信装置10aに備えられたモニターを見ながら外部からのデータ入力用のキーボードを操作することによって入力される。具体的には、コンテンツ提供者は、部分領域の開始Y座標の値と終了Y座標の値を入力する。また、コンテンツ作成者が作成した部分領域ごとの開始Y座標の値、終了Y座標の値及び禁止領域の高さを示すリストを記憶した外部記憶装置(例えば、ハードディスクドライブやメモリカード)を送信装置10aに接続して読取るようにしてもよい。   The division information generation unit 102a reads information indicating a partial area in which the display position of the subtitle is set in advance by the content creator by the content creator, and sets the values of dividing_point_start and dividing_point_end of the offset metadata 310 for each partial area. . Similarly, the prohibited area setting unit 107 reads information indicating a prohibited area preset in advance by the content creator, and sets the values of upper_length and lower_length of forbidden_area of the offset metadata 310 for each partial area (step) S50). The information indicating the partial area and the information indicating the prohibited area set in advance by the content creator is, for example, the content provider using a keyboard for data input from the outside while looking at the monitor provided in the transmission device 10a. Input by operating. Specifically, the content provider inputs the value of the start Y coordinate and the value of the end Y coordinate of the partial area. Also, an external storage device (for example, a hard disk drive or a memory card) that stores a list indicating the value of the start Y coordinate, the value of the end Y coordinate, and the height of the prohibited area for each partial area created by the content creator is transmitted. You may make it read by connecting to 10a.

次に、ストリーム生成部108は、コンテンツ作成者が作成した部分領域を示す情報を読込むのと同様の方法で、コンテンツ作成者が入力した字幕データを読込む(ステップS51)。なお、この字幕データは、禁止領域の範囲には字幕を表示しないようにコンテンツ提供者によって予め表示位置が定められている字幕データである。   Next, the stream generation unit 108 reads the caption data input by the content creator in the same manner as the information indicating the partial area created by the content creator (step S51). This caption data is caption data whose display position is determined in advance by the content provider so that captions are not displayed in the range of the prohibited area.

次に、ストリーム生成部108は、コンテンツ作成者によって入力された字幕について、字幕ストリームを生成する(ステップS52)。   Next, the stream generation unit 108 generates a subtitle stream for the subtitles input by the content creator (step S52).

以上の処理により、送信装置10aは、部分領域ごとに字幕を表示しない禁止領域を示す情報を追加したオフセット情報を含むオフセットメタデータを生成することができ、禁止領域には字幕を表示しない字幕ストリームを生成することができる。   Through the above processing, the transmission device 10a can generate offset metadata including offset information to which information indicating a prohibited area that does not display captions is added for each partial area, and the caption stream that does not display captions in the prohibited area Can be generated.

<2.4 映像表示装置の構成>
次に、本実施の形態2に係る送信装置10aが送信したトランスポートストリーム116を受信し、映像を表示する映像表示装置について説明する。なお、本実施の形態2に係る映像表示装置は、実施の形態1の映像表示装置20とほぼ同じ構成であるので、説明の便宜上、映像表示装置20と同じ符号を用いる。
<2.4 Configuration of video display device>
Next, a video display device that receives the transport stream 116 transmitted by the transmission device 10a according to the second embodiment and displays a video will be described. The video display device according to the second embodiment has substantially the same configuration as the video display device 20 according to the first embodiment, and therefore, the same reference numerals as those of the video display device 20 are used for convenience of explanation.

本実施の形態2の映像表示装置20は、字幕オフセット処理部211及びグラフィックスオフセット処理部214の機能が、実施の形態1の字幕オフセット処理部211及びグラフィックスオフセット処理部214の機能に加えて、オフセットメタデータ310の部分領域ごとの禁止領域を示す情報を抽出して、抽出した禁止領域の範囲に含まれる画像は、シフトせず、禁止領域以外の部分領域の範囲に含まれる画像のみをシフトする機能を有する。   In the video display device 20 of the second embodiment, the functions of the subtitle offset processing unit 211 and the graphics offset processing unit 214 are added to the functions of the subtitle offset processing unit 211 and the graphics offset processing unit 214 of the first embodiment. The information indicating the prohibited area for each partial area of the offset metadata 310 is extracted, and the image included in the extracted prohibited area range is not shifted, and only the image included in the partial area range other than the prohibited area is displayed. Has the function of shifting.

<2.5 映像表示装置の動作>
以下、上記の機能を備えた映像表示装置20の処理動作について説明する。
<2.5 Operation of video display device>
The processing operation of the video display device 20 having the above function will be described below.

図14は、本実施の形態の映像表示装置20の処理を示すフローチャートである。   FIG. 14 is a flowchart showing the processing of the video display device 20 of the present embodiment.

ステップS20〜ステップS33までの処理は図7のステップS20〜ステップS33と同じ処理であるので、ここでは、ステップS33以降の処理を重点的に説明する。   Since the processing from step S20 to step S33 is the same as that from step S20 to step S33 in FIG. 7, here, the processing after step S33 will be mainly described.

セレクタ215は、プレーン加算部216に出力する映像プレーンの画像として左目用映像プレーン206の画像を選択した場合(ステップS33:YES)、字幕オフセット処理部211とグラフィックスオフセット処理部214に、それぞれのプレーンの画像を左目用にシフトする指示を行う。   When the image of the left-eye video plane 206 is selected as the image of the video plane to be output to the plane adder 216 (step S33: YES), the selector 215 sends the subtitle offset processor 211 and the graphics offset processor 214 respectively. An instruction to shift the plane image for the left eye is issued.

字幕オフセット処理部211は、部分領域に禁止領域が設定されているかを調べる(ステップS61)。具体的には、オフセットメタデータ310の部分領域ごとのforbidden_areaのupper_lengthとlower_lengthの値について、それぞれの値が「0」であるか否かを調べ、「0」以外の値であれば禁止領域が設定されていると判断する。そしてシフトしようとしている領域がこの禁止領域内であれば(ステップS61:YES)、この領域はシフトしない画像をプレーン加算部216に出力する。一方、禁止領域内でなければ(ステップS61:NO)、この領域の画像をoffset_valueで示される値で左目用に、上述の図7のステップS34と同様の方法で右にシフトした画像をプレーン加算部216に出力する(ステップS62)。   The subtitle offset processing unit 211 checks whether a prohibited area is set in the partial area (step S61). Specifically, the value of upper_length and lower_length of forbidden_area for each partial area of offset metadata 310 is checked to determine whether each value is “0”. Judge that it is set. If the area to be shifted is within this prohibited area (step S61: YES), an image that is not shifted in this area is output to the plane adder 216. On the other hand, if it is not within the prohibited area (step S61: NO), the image of this area is added to the left by the same method as in step S34 in FIG. 7 described above for the left eye with the value indicated by offset_value. It outputs to the part 216 (step S62).

グラフィックスオフセット処理部214は、ステップS61と同様の方法で、グラフィックスプレーンの画像についても禁止領域か否かを調べる(ステップS63)。   The graphics offset processing unit 214 checks whether or not the graphics plane image is a prohibited area by the same method as in step S61 (step S63).

ステップS63でYESの場合には、グラフィックスオフセット処理部214は、シフトしない画像をプレーン加算部216に出力し、ステップS63でNOの場合には、ステップS62と同様の方法で、グラフィックスプレーンに適用する部分領域ごとのoffset_valueで示される値で、左目用に、右にシフトした画像をプレーン加算部216に出力する(ステップS64)。   If YES in step S63, the graphics offset processing unit 214 outputs an image that is not shifted to the plane addition unit 216. If NO in step S63, the graphics offset processing unit 214 converts the image into the graphics plane in the same manner as in step S62. An image shifted to the right with the value indicated by offset_value for each partial region to be applied is output to the plane adder 216 (step S64).

次にプレーン加算部216は、セレクタ215が出力した左目用映像プレーンの画像に、字幕オフセット処理部211が出力した左目用にシフトした字幕画像と、グラフィックスオフセット処理部214が出力した左目用にシフトしたグラフィックス画像とを上述の図7のステップS36と同様の方法で重畳し、表示部217に出力する(ステップS65)。表示部217は、プレーン加算部216が出力した左目用画像を表示する(ステップS71)。   Next, the plane addition unit 216 adds the left-eye video plane image output from the selector 215 to the left-eye shifted subtitle image output from the subtitle offset processing unit 211 and the left-eye output from the graphics offset processing unit 214. The shifted graphics image is superimposed by the same method as in step S36 of FIG. 7 described above, and is output to the display unit 217 (step S65). The display unit 217 displays the left-eye image output from the plane addition unit 216 (step S71).

一方、ステップS33でNOの場合、字幕プレーンとグラフィックスプレーンとを右目用にシフトした画像をステップS66〜S70の処理によって生成する。ステップS66〜ステップS70は、左目用にシフトした画像を生成する処理であるステップS61〜ステップS65の処理に対応し、画像をシフトする方向が右方向ではなく左方向である点が異なるだけである。   On the other hand, if NO in step S33, an image obtained by shifting the subtitle plane and the graphics plane for the right eye is generated by the processing in steps S66 to S70. Steps S66 to S70 correspond to the processes of Steps S61 to S65, which are processes for generating an image shifted for the left eye, and differ only in that the image is shifted not in the right direction but in the left direction. .

そして表示部217は、プレーン加算部216が出力した右目用画像を表示する(ステップS71)。
<3.変形例>
以上、本発明に係る送信装置及び映像表示装置を、実施の形態に基づいて説明したが、以下のように変形することも可能であり、本発明は上述した実施の形態で示した通りの送信装置及び映像表示装置に限られないことは勿論である。
The display unit 217 displays the right-eye image output from the plane addition unit 216 (step S71).
<3. Modification>
The transmission apparatus and the video display apparatus according to the present invention have been described above based on the embodiments. However, the transmission apparatus and the video display apparatus according to the present invention can be modified as follows. Of course, the present invention is not limited to the device and the video display device.

(1)上述の実施の形態では、部分領域の範囲を示す情報と、その部分領域ごとのオフセット値を示す情報とを1つのデータ構造内に記述した例で説明したが、部分領域の範囲を示す情報とその部分領域ごとのオフセット値は、同じデータ構造内に記述しなくてもよい。部分領域を示す範囲と、その部分領域に適用するオフセット値との対応がわかれば、どのようなデータ構造を用いてもよい。   (1) In the above-described embodiment, the information indicating the range of the partial area and the information indicating the offset value for each partial area are described in an example described in one data structure. The information to be shown and the offset value for each partial area need not be described in the same data structure. Any data structure may be used as long as the correspondence between the range indicating the partial area and the offset value applied to the partial area is known.

例えば、図15のように、オフセット値の情報を記述したoffset_metadataと部分領域の情報を記述したoffset_sequence_id_refsとを用いてもよい。   For example, as shown in FIG. 15, offset_metadata describing offset value information and offset_sequence_id_refs describing partial region information may be used.

図15のoffset_metadataは、Blu-ray Disc(登録商標)の仕様として開示されてoffset_metadataと同等のデータ構造である。詳しくは、非特許文献1のA.3.6.1に記載されている。   The offset_metadata in FIG. 15 is disclosed as the specification of Blu-ray Disc (registered trademark) and has a data structure equivalent to offset_metadata. The details are described in A.3.6.1 of Non-Patent Document 1.

本変形例のオフセットメタデータ400は、このoffset_metadataで示されるデータ構造とoffset_sequence_id_refsで示されるデータ構造とで、部分領域ごとのオフセットを示す情報を記述するものである。   The offset metadata 400 of the present modification describes information indicating an offset for each partial area, with the data structure indicated by offset_metadata and the data structure indicated by offset_sequence_id_refs.

offset_sequence_id_refsのmember_of_offset_sequence_id_refsは、offset_sequenceの数、すなわち部分領域の数を示す。   member_of_offset_sequence_id_refs of offset_sequence_id_refs indicates the number of offset_sequences, that is, the number of partial areas.

forループ内のoffset_sequence_id_refは、offset_metadataのoffset_sequence_idで参照されるOffset Sequenceを特定するためのIDである。   offset_sequence_id_ref in the for loop is an ID for specifying the Offset Sequence referred to by offset_sequence_id of offset_metadata.

dividing_point_startは、offset_sequence_id_refで示される部分領域の開始Y座標であり、dividing_point_endは、同じく領域の終了Y座標を示す。   dividing_point_start is the start Y coordinate of the partial region indicated by offset_sequence_id_ref, and dividing_point_end similarly indicates the end Y coordinate of the region.

このように、部分領域を示す情報と、オフセット値を示す情報とを別々のデータ構造でで記述することにより、より柔軟に部分領域ごとのオフセット値の対応付けを行える。   Thus, by describing the information indicating the partial area and the information indicating the offset value with different data structures, the offset values for each partial area can be associated more flexibly.

また、部分領域の範囲を記述するために、部分領域の開始Y座標と、終了Y座標とを用いたが、部分領域の範囲の記述方法はこれに限らない。部分領域の範囲が特定できる情報であればどのような記述であっても構わない。例えば部分領域の開始Y座標と、高さとで記述してもよい。   Further, in order to describe the range of the partial area, the start Y coordinate and the end Y coordinate of the partial area are used, but the description method of the partial area range is not limited to this. Any description may be used as long as the information can identify the range of the partial area. For example, you may describe by the start Y coordinate of a partial area, and height.

また、隣接する部分領域の深度の差、すなわちoffset_valueの値の差が所定値より大きい場合には、禁止領域の高さをoffset_valueの値の差が所定値以内の場合に比べて大きくとるようにしてもよい。禁止領域の領域の高さを隣接する部分領域の深度の差に応じて変えることによって、境界付近での深度の違いによる見づらさを低減することができる。   In addition, when the difference in depth between adjacent partial areas, that is, the difference in the value of offset_value is larger than a predetermined value, the height of the prohibited area is set to be larger than that in the case where the difference in the value of offset_value is within a predetermined value. May be. By changing the height of the forbidden area according to the difference in depth between the adjacent partial areas, it is possible to reduce the difficulty in viewing due to the difference in depth near the boundary.

(2)実施の形態及び上述の変形例では、部分領域の範囲を特定する座標を直接オフセットメタデータに記述する例で説明したが、部分領域の範囲を特定する座標を、オフセットメタデータに直接記述しなくてもよい。オフセットメタデータに記述する情報は、部分領域の範囲を特定できる情報であればよい。具体的には、例えば、予め分割するパターンを何種類か用意しておき、その分割パターンを特定できるIDを記述してもよい。映像表示装置では、その製造時に予め、分割パターンを特定するIDに対応付けて分割パターンごとの部分領域の範囲の座標を記憶させておく。そして、映像表示装置は、受信したストリームに含まれるオフセットメタデータの分割パターンを示すIDを抽出して、そのIDに対応する分割パターンの部分領域を、予め記憶している領域情報を参照して処理を行う。   (2) In the embodiment and the above-described modification example, the coordinates for specifying the range of the partial area are described directly in the offset metadata. However, the coordinates for specifying the range of the partial area are directly included in the offset metadata. It is not necessary to describe. The information described in the offset metadata may be information that can specify the range of the partial area. Specifically, for example, several types of patterns to be divided may be prepared in advance, and an ID that can identify the divided pattern may be described. In the video display device, the coordinates of the range of the partial area for each division pattern are stored in advance in association with the ID for specifying the division pattern at the time of manufacture. Then, the video display device extracts an ID indicating the division pattern of the offset metadata included in the received stream, and refers to the area information stored in advance for the partial area of the division pattern corresponding to the ID. Process.

図16は、分割パターンの例とオフセットメタデータのデータ構造の一例を示す。   FIG. 16 shows an example of a division pattern and an example of the data structure of offset metadata.

分割パターンとして、図16(a)と(b)の2種類の分割パターンを予め定義する。同図(a)は表示領域を2つに分割する例でこのregion_IDは「3」であり、同図(b)は3つに分割する例で、region_IDは「4」である。このように、分割数に1を加えた値をregion_IDとする。   As the division patterns, two types of division patterns shown in FIGS. 16A and 16B are defined in advance. FIG. 4A shows an example in which the display area is divided into two, and this region_ID is “3”. FIG. 4B shows an example in which the display area is divided into three, and region_ID is “4”. Thus, a value obtained by adding 1 to the number of divisions is defined as region_ID.

同図(c)は、オフセットメタデータ500のデータ構造の一例である。   FIG. 3C shows an example of the data structure of the offset metadata 500.

region_IDは、分割パターンを特定するためのIDであり、図16の例では、その値は「3」か「4」である。   The region_ID is an ID for specifying the division pattern, and in the example of FIG. 16, the value is “3” or “4”.

number_of_regionは、部分領域の数を示し、region_ID−1で求めることができる。   number_of_region indicates the number of partial regions, and can be obtained by region_ID-1.

max_disparity_in_pictureは、表示領域をシフトする場合の最大のオフセット値を示し、部分領域ごとにオフセット値を変えて出力しない場合等、すなわち実施の形態1で説明したoffset_priorityに「1」が設定された部分領域のoffset_valueに相当する。   max_disparity_in_picture indicates the maximum offset value when the display area is shifted, and when the offset value is not changed for each partial area for output, that is, the partial area in which “1” is set in offset_priority described in the first embodiment Equivalent to the offset_value.

forループ内のmin_disparity_in_region_iは、部分領域ごとのオフセット値を示す。部分領域ごとにこのmin_disparity_in_region_iを用いて部分領域の画像をシフトする。   min_disparity_in_region_i in the for loop indicates an offset value for each partial region. The image of the partial region is shifted using this min_disparity_in_region_i for each partial region.

同図(d)は、映像表示装置に予め記憶されている分割パターンごとの部分領域の範囲を記した分割パターン情報600のデータ構造の例である。   FIG. 4D shows an example of the data structure of the division pattern information 600 describing the range of the partial area for each division pattern stored in advance in the video display device.

分割パターン情報600は、分割パターンごとに部分領域の範囲を記述したテーブルである。同図(d)で示すように、分割パターン情報600は、region_ID601、regionNO602、start603、end604の項目で構成されている。   The division pattern information 600 is a table describing the range of the partial area for each division pattern. As shown in FIG. 4D, the division pattern information 600 includes items of region_ID 601, region NO 602, start 603, and end 604.

region_ID601はオフセットメタデータ500で記述されたregion_IDを特定するための項目であり、regionNO602は、region_IDで特定された分割パターンの部分領域を特定するための項目である。start603、end604はそれぞれ、部分領域ごとの開始Y座標、終了Y座標を記述するための項目である。   The region_ID 601 is an item for specifying the region_ID described in the offset metadata 500, and the region NO602 is an item for specifying the partial region of the division pattern specified by the region_ID. start 603 and end 604 are items for describing a start Y coordinate and an end Y coordinate for each partial region.

同図(d)のregion_IDが「3」の場合が同図(a)の場合の分割パターンに対応し、regionNOが「0」と「1」の2つの部分領域があり、regionNOが「0」の領域の開始Y座標は「0」で終了Y座標は「539」であることが記憶されている。同様にregionNOが「1」の場合には開始Y座標は「540」で終了Y座標は「1080」であることが記憶されている。同様に、同図(d)のregion_IDが「4」の場合が同図(b)の場合の分割パターンに対応する。このように、映像表示装置は、オフセットメタデータ500に含まれているregion_IDを抽出し、予め記憶している分割パターン情報600を参照することによってregion_IDに対応した部分領域の範囲を特定することができる。   The case where the region_ID in FIG. 4D is “3” corresponds to the division pattern in the case of FIG. 3A, and there are two partial regions where the region NO is “0” and “1”, and the region NO is “0”. It is stored that the start Y coordinate of the area is “0” and the end Y coordinate is “539”. Similarly, when regionNO is “1”, it is stored that the start Y coordinate is “540” and the end Y coordinate is “1080”. Similarly, the region_ID of “4” in FIG. 6D corresponds to the division pattern in the case of FIG. As described above, the video display device can extract the region_ID included in the offset metadata 500 and specify the range of the partial region corresponding to the region_ID by referring to the division pattern information 600 stored in advance. it can.

(3)実施の形態2では、禁止領域の範囲を境界線から一定の高さで記述する例で説明したが、禁止領域の範囲の記述方法は、境界線から一定の高さで記述することに限らない。禁止領域の範囲を特定できれば、どのような記述であっても構わない。例えば、各部分領域の高さに対する割合で記述しても構わない。   (3) In the second embodiment, the example of describing the range of the prohibited area at a constant height from the boundary line has been described. However, the description method of the range of the prohibited area is described at a constant height from the boundary line. Not limited to. Any description may be used as long as the range of the prohibited area can be specified. For example, you may describe with the ratio with respect to the height of each partial area.

図17は、部分領域の高さに対する割合で記述するオフセットメタデータのデータ構造の例を示す。オフセットメタデータ320は、同図の記述子321であるforbidden_area_ratio()で示すように、禁止領域の範囲を部分領域の上端及び下端の境界それぞれについて部分領域の高さに対する割合で記述する。upper_side_ratioは、上端における禁止領域の範囲を、部分領域の高さに対する割合を示す。例えば、この値が0.2であり、部分領域の高さが540であるとすると、禁止領域の高さは、108(=540x0.2)であり、上端の境界のY座標に108を加えた範囲までが禁止領域であるということを示している。同様に、lower_side_ratioは、部分領域の下端における禁止領域の範囲を、部分領域の高さに対する割合で示す。   FIG. 17 shows an example of the data structure of offset metadata described as a ratio to the height of the partial area. As indicated by forbidden_area_ratio (), which is the descriptor 321 in FIG. 5, the offset metadata 320 describes the range of the prohibited area as a ratio with respect to the height of the partial area at each of the upper and lower boundaries of the partial area. upper_side_ratio indicates the ratio of the prohibited area range at the upper end to the height of the partial area. For example, if this value is 0.2 and the height of the partial area is 540, the height of the prohibited area is 108 (= 540 × 0.2), and a range obtained by adding 108 to the Y coordinate of the upper boundary. Indicates that the above is a prohibited area. Similarly, lower_side_ratio indicates the range of the prohibited area at the lower end of the partial area as a ratio to the height of the partial area.

このように記述することで、部分領域の高さに応じた一定割合の範囲を禁止領域として設定することができる。   By describing in this way, it is possible to set a certain percentage range according to the height of the partial area as the prohibited area.

(4)実施の形態2の映像表示装置では、禁止領域が設定されているオフセットメタデータ310を受信した場合の字幕オフセット処理部211及びグラフィックスオフセット処理部214でのオフセット処理において、禁止領域に含まれる画像はシフトしないとしが、オフセット処理はこの処理にかぎられない。隣接する部分領域の境界付近での深度の差が大きくならないようにオフセット処理を行えればよい。例えば、禁止領域に含まれる画像を、隣接する部分領域のそれぞれのオフセット値の中間のオフセット値でシフトしてもよい。また、隣り合う領域のオフセット値の差が予め定められた値よりも小さい場合には、禁止領域を部分領域ごとのオフセット値でシフトしてもよい。   (4) In the video display device according to the second embodiment, in the offset processing in the caption offset processing unit 211 and the graphics offset processing unit 214 when the offset metadata 310 in which the prohibited region is set is received, Although the included image is not shifted, the offset process is not limited to this process. It is only necessary to perform offset processing so that the difference in depth near the boundary between adjacent partial regions does not increase. For example, an image included in the prohibited area may be shifted by an offset value intermediate between the offset values of adjacent partial areas. In addition, when the difference between the offset values of adjacent areas is smaller than a predetermined value, the prohibited area may be shifted by the offset value for each partial area.

また、表示物が表示されない部分領域のoffset_valueの値を「0」にしてもよい。表示物が表示されない部分領域の画像をシフトする必要はないので、表示物が表示されないことが予めわかっている部分領域についてはoffset_valueの値を常に「0」にすることによって、オフセット処理の負荷を低減することができる。   Further, the offset_value value of the partial area where the display object is not displayed may be set to “0”. Since it is not necessary to shift the image of the partial area where the display object is not displayed, the offset processing value is always set to “0” for the partial area where it is known in advance that the display object is not displayed. Can be reduced.

(5)実施の形態において表示領域を部分領域に分割してオフセットメタデータに記述するとしたが、このときに、部分領域の高さは偶数になるようにしてもよい。これは以下に示す理由による。TV放送における映像では、放送の帯域を有効に利用するために、明るさに比べて色に対する分解能が低いという人間の目の特性を利用して色成分の情報削減を行う色差方式であるデジタルコンポーネント映像信号方式が広く用いられており、主に4:2:2形式の映像フォーマットが用いられている。この形式では、水平・垂直方向の色信号を走査線1本おきにサンプリングするため、字幕やグラフィックスの部分領域の高さが奇数になるように分割すると、3D映像と重畳したときに1ラインずれてしまう可能性があるからである。   (5) In the embodiment, the display area is divided into partial areas and described in offset metadata. At this time, the height of the partial area may be an even number. This is for the following reason. A digital component that is a color difference method that reduces the information of color components by utilizing the characteristics of the human eye that the resolution for color is lower than the brightness in order to effectively use the broadcast band in video in TV broadcasting Video signal systems are widely used, and 4: 2: 2 video formats are mainly used. In this format, color signals in the horizontal and vertical directions are sampled every other scanning line. Therefore, if the subtitles and graphics are divided so that the height of the partial area is an odd number, one line is displayed when superimposed with 3D video. This is because there is a possibility of shifting.

(6)実施の形態では、字幕ストリームやグラフィックスストリームは、映像ストリームと多重化された伝送ストリームに含めて放送波として送信するとしたが、字幕ストリームやグラフィックスストリームの伝送は、映像ストリームと多重化して伝送する方法に限られない。映像表示装置で、映像と字幕及びグラフィックスとを重畳して出力できるようにこれらのストリームが受信できれば、どのような方法で送信してもよい。例えば、多重化した放送波ではなく異なる放送波で送信してもよいし、インターネットなどのネットワーク経由で配信してもよい。更には、SD(登録商標)カードやDVD、Blu-ray Discなどの記録媒体によって配布されてもよい。   (6) In the embodiment, the subtitle stream and the graphics stream are included in the transmission stream multiplexed with the video stream and transmitted as a broadcast wave. However, the transmission of the subtitle stream and the graphics stream is multiplexed with the video stream. It is not limited to the method of transmitting the data. Any method may be used as long as the video can be received by the video display device so that the video and the subtitles and graphics can be superimposed and output. For example, it may be transmitted by a different broadcast wave instead of a multiplexed broadcast wave, or may be distributed via a network such as the Internet. Furthermore, it may be distributed by a recording medium such as an SD (registered trademark) card, a DVD, or a Blu-ray Disc.

なお、字幕ストリームやグラフィックスストリームは、ビデオや字幕に重畳され、付加的な情報やユーザによるインタラクティブな操作を行うグラフィックを生成できる形式のストリームであれば、どのような形式で記述されたデータを用いて生成されたストリームであってもよい。例えば、Java(登録商標)などのプログラミング言語で構成されているデータを用いて生成したストリームとしてもよいし、HTML(Hyper Text Markup Language)やHDML(Handheld Device Markup Language)などで記載されたデータを用いて生成したストリームとしてもよいし、BML(Broadcast Markup Language)などで記載されたデータを用いて生成したストリームであってもよい。   Note that the subtitle stream and graphics stream are superimposed on video and subtitles, and can be used to generate data in any format as long as it is a stream that can generate additional information and graphics that can be interactively operated by the user. It may be a stream generated by using. For example, it may be a stream generated using data configured in a programming language such as Java (registered trademark), or data described in HTML (Hyper Text Markup Language) or HDML (Handheld Device Markup Language). The stream may be a stream generated by using data described in BML (Broadcast Markup Language) or the like.

(7)実施の形態では、オフセットメタデータは、PMT内に記述して送信する例で説明したが、オフセットメタデータはPMTに記述することに限らない。映像表示装置が、オフセットメタデータを抽出して部分領域ごとのオフセット情報が取得できれば、映像表示装置が取得するデータのどこに記述されていてもよい。例えば、番組単位でオフセットメタデータのオフセット情報が変化しないような場合には、EITに記述してもよい。チャネル単位で変わらない場合には、PSI内のチャネルを示す記述子内に記述してもよい。また、オフセットメタデータを記述した単独のストリームにしてもよい。更には、グラフィックスの描画がJava(登録商標)プログラムによって記述されており、映像表示装置がこのJavaプログラムを実行することによってグラフィックスプレーンの画像を生成する場合には、オフセットメタデータは、Javaプログラム内に記述してもよい。また、グラフィックスを描画するためのデータがHTMLで記述されている場合には、HTML内にオフセットメタデータが記述されていてもよい。   (7) In the embodiment, the offset metadata is described as being described in the PMT and transmitted. However, the offset metadata is not limited to being described in the PMT. As long as the video display device can extract the offset metadata and acquire the offset information for each partial area, it may be described anywhere in the data acquired by the video display device. For example, when the offset information of the offset metadata does not change for each program, it may be described in the EIT. When it does not change in units of channels, it may be described in a descriptor indicating a channel in the PSI. Further, it may be a single stream describing offset metadata. Furthermore, when graphics rendering is described by a Java (registered trademark) program, and the image display device generates a graphics plane image by executing the Java program, the offset metadata is Java. It may be described in the program. Further, when data for drawing graphics is described in HTML, offset metadata may be described in HTML.

(8)上述の実施の形態では、3D映像の左目用と右目用の映像を共に放送波で送信及び受信するものとして説明したが、3D映像の送信・受信は、これに限られない。映像表示装置で視聴者が3D映像として視聴できるように表示するための左目用と右目用との映像が受信できるように送信できれば、どのように送信されても構わない。例えば、左目用の映像は従来の放送波で送信・受信し、右目用の映像はネットワーク経由などで配信・受信するようにしてもよい。そして、この場合、オフセットメタデータは、放送波以外の送信方法(この例の場合ネットワーク経由)から配信するようにしてもよい。こうすることで、既存の放送設備はそのまま利用できる。   (8) In the above-described embodiment, it has been described that both the left-eye video and the right-eye video of 3D video are transmitted and received by broadcast waves, but transmission / reception of 3D video is not limited to this. Any video transmission device may be used as long as it can transmit the left-eye video and the right-eye video for display so that the viewer can view the 3D video. For example, the video for the left eye may be transmitted / received by a conventional broadcast wave, and the video for the right eye may be distributed / received via a network or the like. In this case, the offset metadata may be distributed from a transmission method other than broadcast waves (in this example, via a network). By doing so, existing broadcasting facilities can be used as they are.

(9)実施の形態では、表示領域を2つの部分領域に分割した例で説明したが、部分領域の分割数は2つに限られない。3D映像と重畳した場合に、異なる表示物の深度を適切に設定できる部分領域に分割できればよい。例えば、2つ以上の部分領域に分割してもよい。3つの領域に分割した場合には、図3のオフセットメタデータ300のnumber_of_offset_sequence_in_OSGの値は「3」であり、forループ内において3つのoffset_value、dividing_point_start、dividing_point_endの値が設定される。   (9) In the embodiment, the example in which the display area is divided into two partial areas has been described, but the number of divisions of the partial areas is not limited to two. What is necessary is just to divide | segment into the partial area | region which can set appropriately the depth of a different display object when it superimposes with 3D video. For example, it may be divided into two or more partial areas. When divided into three regions, the value of number_of_offset_sequence_in_OSG in the offset metadata 300 of FIG. 3 is “3”, and three offset_value, dividing_point_start, and dividing_point_end values are set in the for loop.

また、分割数の上限値を設定してもよい。この場合、分割数の上限を、表示される字幕等の高さの最大値に基づいて決定してもよい。例えば、表示画面の高さをWとし、字幕等の高さの最大値をNとすると、W/Nの値を越えない最大の整数値を分割数の最大値としてもよい。また、表示画面の解像度に応じて分割数の最大値を制限してもよい。例えば、表示領域の大きさが、Full HD(full high definition)(高さ方向の画素数が1080以上)の場合には4分割まで、Full HD以下でHD(high definition)(高さ方向の画素数が1080未満720以上)の場合は3分割まで、SD(standard definition)(高さ方向の画素数が720未満)の場合は2分割までというように制限してもよい。   Further, an upper limit value of the number of divisions may be set. In this case, the upper limit of the number of divisions may be determined based on the maximum value of the height of the displayed caption or the like. For example, if the height of the display screen is W and the maximum value of the subtitles is N, the maximum integer value that does not exceed the value of W / N may be set as the maximum value of the number of divisions. Further, the maximum number of divisions may be limited according to the resolution of the display screen. For example, when the size of the display area is Full HD (full high definition) (the number of pixels in the height direction is 1080 or more), up to 4 divisions, HD (high definition) (pixels in the height direction) below Full HD If the number is less than 1080 and 720 or more), it may be limited to 3 divisions, and if it is SD (standard definition) (the number of pixels in the height direction is less than 720), it may be limited to 2 divisions.

また、各部分領域の境界線は、接している必要はない。例えば、表示領域の最上部から全体の高さの1/4の範囲の部分領域と、表示領域の最下部から全体の高さの1/2の範囲の部分領域を設定してもよい。このように分割した場合、部分領域の境界線は接していない。   Further, the boundary lines of the partial areas do not need to be in contact with each other. For example, a partial region in the range of ¼ of the total height from the top of the display region and a partial region in the range of ½ of the total height from the bottom of the display region may be set. When divided in this way, the boundary lines of the partial areas are not in contact.

また、表示領域に対して、オフセット値でシフトする領域の割合を制限してもよい。例えば、オフセット値を設定する各部分領域の高さの合計を表示領域の1/2に相当する高さに制限してもよい。この場合、各部分領域の境界は、接していない場合があり得る。   Further, the ratio of the area shifted by the offset value may be limited with respect to the display area. For example, the total height of the partial areas where the offset value is set may be limited to a height corresponding to ½ of the display area. In this case, the boundary of each partial area may not touch.

このように、オフセットする部分領域以外の領域は、字幕オフセット処理部211やグラフィックスオフセット処理部214でオフセット処理する必要がないので処理の負荷を低減し得る。   Thus, since it is not necessary to perform offset processing in the subtitle offset processing unit 211 and the graphics offset processing unit 214 in regions other than the partial region to be offset, the processing load can be reduced.

(10)実施の形態において、時間経過に伴って同じ部分領域におけるoffset_valueの値が切替わる場合に切替える前の一定時間は、字幕やグラフィックスを表示しないようにしてもよい。短時間の内に、表示物の深度が大きく異なると、3D映像を視聴している視聴者にとって映像が見づらい場合がある。深度が切替わる前の一定時間は表示物を表示しないことによって、視聴者にとって見づらくなることを低減することができる。   (10) In the embodiment, subtitles and graphics may not be displayed for a certain time before switching when the value of offset_value in the same partial region is switched over time. If the depth of the display object varies greatly within a short period of time, it may be difficult for the viewer who is viewing the 3D video to view the video. By not displaying the display object for a certain period of time before the depth is switched, it is possible to reduce the difficulty of viewing for the viewer.

また、頻繁に部分領域の分割範囲や深度が変わると、字幕オフセット処理部211やグラフィックスオフセット処理部214でのオフセット処理において、処理負荷が増える。このため、部分領域や、深度の切替えを一定の時間単位で行うようにしてもよい。
例えば、1つの番組においては、部分領域の範囲とそのoffset_valueを変えないようにしてもよい。これにより、番組開始時に部分領域とそのoffset_valueを抽出したら、番組が終わるまで同じ値を使うことができるので、処理負荷が低減できる。
Further, if the division range and depth of the partial area frequently change, the processing load increases in the offset processing in the caption offset processing unit 211 and the graphics offset processing unit 214. For this reason, you may make it switch a partial area | region and depth by a fixed time unit.
For example, in one program, the range of the partial area and its offset_value may not be changed. Thereby, if the partial area and its offset_value are extracted at the start of the program, the same value can be used until the end of the program, so that the processing load can be reduced.

また、MPEG2形式やMPEG4 MVC形式で符号化された映像のGOP単位やIpictureと共に表示されるべきタイミングのときにしかoffset_valueの値を変えないようにしてもよい。   Also, the offset_value value may be changed only at the timing when the video encoded in the MPEG2 format or MPEG4 MVC format should be displayed together with the GOP unit or Ipicture.

また、部分領域やoffset_valueの値を切替える際には、その切替えタイミングの時刻が来る一定時間前から切替えが発生することを示す情報をSI/PSIに付加して伝送するようにしてもよい。   Further, when switching the value of the partial area or offset_value, information indicating that the switching occurs from a certain time before the time of the switching timing may be added to the SI / PSI and transmitted.

映像表示装置は、この切替えが発生することを示す情報が付加されているストリームのパケットを受信している間は、字幕プレーンやグラフィックスプレーン画像をシフトせずに出力するようにしてもよい。   The video display device may output a subtitle plane or a graphics plane image without shifting while receiving a packet of a stream to which information indicating that this switching occurs is added.

(11)実施の形態2では、送信装置10aが禁止領域を考慮した字幕ストリームを生成する例で説明したが、字幕ストリームの生成は、送信装置10aで行わなくてもよい。送信装置10aは、字幕ストリームを含んで多重化した伝送ストリームが送信できればよく、字幕ストリームの生成は、別の装置で行い、送信装置に出力してもよい。   (11) In Embodiment 2, the example has been described in which the transmission device 10a generates a subtitle stream in consideration of the prohibited area, but the generation of the subtitle stream may not be performed by the transmission device 10a. The transmission device 10a only needs to be able to transmit a multiplexed transmission stream including a subtitle stream, and the subtitle stream may be generated by another device and output to the transmission device.

(12)実施の形態1のビデオデコード205は、MPEG4 MVC形式の3D映像を復号するとしたが、3D映像の符号化方式はこの方式に限られない。3D映像が視聴できるように右目用の映像と左目用の映像とが生成できれば、符号化方式はどのような方式であっても構わない。例えば、右目用と左目用との映像をそれぞれMPEG2形式又はMPEG4 AVCで符号化したデータストリームを受信して復号してもよい。また、右目用、左目用どちらか一方の映像をMPEG2形式で符号化し、右目用と左目用の映像の差分のみをMPEG2やMPEG4 AVCで符号化して、多重化されたデータストリームを受信して復号してもよい。また、サイドバイサイド方式の3D映像を受信して復号してもよい。   (12) The video decode 205 of the first embodiment decodes 3D video in the MPEG4 MVC format, but the 3D video encoding method is not limited to this method. Any encoding method may be used as long as the right-eye video and the left-eye video can be generated so that 3D video can be viewed. For example, a data stream obtained by encoding videos for the right eye and left eye in MPEG2 format or MPEG4 AVC may be received and decoded. Also, either the right-eye video or the left-eye video is encoded in the MPEG2 format, and only the difference between the right-eye video and the left-eye video is encoded in MPEG2 or MPEG4 AVC, and the multiplexed data stream is received and decoded. May be. Alternatively, side-by-side 3D video may be received and decoded.

(13)実施の形態1の映像表示装置20のプレーン加算部216では、映像プレーンに字幕プレーンの画像とグラフィックスプレーンの画像とを重畳する際に、まず字幕プレーンの画像を重畳し、そのあとにグラフィックスプレーンの画像を重畳するとしたが、重畳の方法はこれに限らない。映像プレーンの画像に、字幕プレーンの画像とグラフィックスプレーンの画像とが重畳できれば、どのように重畳してもよい。例えば、重畳する際の字幕プレーンの画像の深度とグラフィックスプレーンの画像の深度とを比較し、深度の小さい方のプレーンの画像を先に重畳するようにしてもよい。   (13) When the plane addition unit 216 of the video display device 20 of Embodiment 1 superimposes the subtitle plane image and the graphics plane image on the video plane, it first superimposes the subtitle plane image, and then However, the method of superimposing is not limited to this. As long as the subtitle plane image and the graphics plane image can be superimposed on the video plane image, they may be superimposed in any manner. For example, the depth of the subtitle plane image to be superimposed may be compared with the depth of the graphics plane image, and the plane image with the smaller depth may be superimposed first.

(14)本発明は、上記の処理を実現する方法であるとしてもよい。また、これらの方法をコンピュータにより実現するコンピュータプログラムであるとしてもよいし、前記コンピュータプログラムからなるデジタル信号であるとしてもよい。   (14) The present invention may be a method for realizing the above processing. Further, the present invention may be a computer program that realizes these methods by a computer, or may be a digital signal composed of the computer program.

また、本発明は、前記コンピュータプログラム又は前記デジタル信号をコンピュータ読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、CD―ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blu−ray Disc(登録商標))、半導体メモリなど、に記録したものとしてもよい。また、これらの記録媒体に記録されている前記コンピュータプログラム又は前記デジタル信号であるとしてもよい。   The present invention also provides a computer-readable recording medium such as a flexible disk, hard disk, CD-ROM, MO, DVD, DVD-ROM, DVD-RAM, BD (Blu-ray Disc). (Registered trademark)) or a semiconductor memory. Further, the present invention may be the computer program or the digital signal recorded on these recording media.

また、本発明に係るコンピュータプログラム又はデジタル信号を、電気通信回線、無線又は有線通信回線、インターネットを代表とするネットワーク、データ放送等を経由して伝送するものとしてもよい。   The computer program or digital signal according to the present invention may be transmitted via an electric communication line, a wireless or wired communication line, a network represented by the Internet, data broadcasting, or the like.

(15)上記実施の形態及び上記変形例をそれぞれ適宜組み合わせるとしてもよい。
<4.補足>
以下、更に本発明の一実施形態としての送信装置及び映像表示装置の構成及びその変形例と効果について説明する。
(15) The above embodiment and the above modifications may be combined as appropriate.
<4. Supplement>
Hereinafter, the configuration of the transmission apparatus and the video display apparatus as one embodiment of the present invention, and its modifications and effects will be described.

(1)本発明の一実施形態に係る送信装置は、3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置であって、前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成手段と、前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定手段と、前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成手段と、前記伝送ストリームを送信するストリーム送信手段とを備える。   (1) A transmission apparatus according to an embodiment of the present invention is a transmission apparatus that transmits data for displaying a video including a 3D video and a display object to be displayed on the display area in the video display device. And a division information generating means for generating division information indicating respective ranges of the partial areas obtained by dividing the display area into two or more areas by a horizontal boundary line, and display objects for each of the partial areas are displayed in 3D. Offset information setting means for setting offset information indicating the depth for display according to the depth of the video portion of the 3D video in the partial area where the display object exists, the division information, the offset information, and the 3D Stream generation means for generating a transmission stream including 3D video data for displaying video; and And a stream transmission unit for transmitting the serial transmission stream.

この構成の送信装置は、3D映像に重畳して表示されるべき表示オブジェクトの表示領域を垂直境界線で分割するのではなく、水平境界線によって複数の部分領域に分割し、部分領域ごとに異なる深度で映像表示装置に表示させるためのオフセット情報を送信する。   The transmission apparatus having this configuration does not divide the display area of the display object to be displayed superimposed on the 3D video by the vertical boundary line, but divides the display object into a plurality of partial areas by the horizontal boundary line. The offset information for displaying on the video display device at the depth is transmitted.

従って、映像表示装置で3D映像に字幕等表示データの表示プレーンを重畳して表示する際に、字幕等表示データにおける異なった部分領域に含まれる表示オブジェクトを異なった深度で見えるように表示し得るストリームデータを送信することができる。   Therefore, when a display plane of display data such as captions is superimposed on 3D video on a video display device, display objects included in different partial areas in the display data such as captions can be displayed so as to be seen at different depths. Stream data can be transmitted.

(2)ここで、前記オフセット情報設定手段は、表示オブジェクトを表示する時刻に表示されるべき前記3D映像の深度に応じて、前記3D映像における時間的な区間単位ごとに、前記オフセット情報を前記部分領域のそれぞれについて1つ設定する、としてもよい。   (2) Here, the offset information setting means sets the offset information for each time interval unit in the 3D video according to the depth of the 3D video to be displayed at the time when the display object is displayed. One may be set for each of the partial areas.

従って、この構成の送信装置は、それぞれの部分領域について、時間的にまとまった単位ごとに適切な深度で映像表示装置に表示させるためのオフセット情報を送信することができる。   Therefore, the transmission device having this configuration can transmit offset information for causing the video display device to display the partial regions at appropriate depths for each unit of time.

(3)ここで、前記3D映像データはMPEG2形式又はMPEG4形式で符号化されたデータであり、前記分割情報生成手段は、前記部分領域の境界線の垂直方向の位置が、前記表示領域の上端から当該3D映像データの符号化の際のマクロブロックの垂直方向の画素数のN倍(Nは1以上の自然数)で表される相対位置になるように分割した分割情報を生成する、
としてもよい。
(3) Here, the 3D video data is data encoded in the MPEG2 format or the MPEG4 format, and the division information generating means determines that the vertical position of the boundary line of the partial region is the upper end of the display region. To generate division information that is divided so as to be a relative position represented by N times the number of pixels in the vertical direction of the macroblock at the time of encoding the 3D video data (N is a natural number of 1 or more).
It is good.

この構成の送信装置は、部分領域の高さが、3D映像をMPEG2形式又はMPEG4形式で符号化した際のマクロブロックの大きさの整数倍になるように部分領域を分割することができる。   The transmission apparatus having this configuration can divide the partial area so that the height of the partial area is an integral multiple of the size of the macroblock when 3D video is encoded in MPEG2 format or MPEG4 format.

従って、MPEG2形式又はMPEG4形式で符号化された3D映像を復号して重畳する際の処理が容易になる。   Therefore, the processing when decoding and superimposing the 3D video encoded in the MPEG2 format or the MPEG4 format is facilitated.

(4)ここで、更に、前記部分領域内の境界線近傍の予め定められた一定範囲を、表示オブジェクトの表示を禁止する禁止領域とすることを示す禁止領域情報を生成する禁止領域生成手段を備え、前記ストリーム生成手段は、前記伝送ストリームに、更に前記禁止領域情報を含める、としてもよい。   (4) Here, further, prohibited area generating means for generating prohibited area information indicating that a predetermined fixed range near the boundary line in the partial area is set as a prohibited area for prohibiting display of the display object. The stream generation means may further include the prohibited area information in the transmission stream.

従って、この構成の送信装置は、部分領域の境界近傍の一定範囲の領域には、表示オブジェクトの表示をしないことを示す禁止領域情報を送信することができる。   Therefore, the transmission apparatus having this configuration can transmit prohibited area information indicating that a display object is not displayed in an area within a certain range near the boundary of the partial area.

(5)ここで、前記禁止領域は、前記部分領域のそれぞれについて、当該部分領域の高さに対して予め定められた一定割合の範囲の領域である、としてもよい。   (5) Here, the forbidden area may be an area having a predetermined ratio with respect to the height of the partial area for each of the partial areas.

従って、この構成の送信装置は、部分領域の高さに対して一定の比率の範囲には、表示オブジェクトの表示を行わない領域を設定することができる。   Therefore, the transmission apparatus having this configuration can set an area where display objects are not displayed in a range having a certain ratio with respect to the height of the partial area.

(6)ここで、更に、前記表示オブジェクトの表示範囲が、前記禁止領域情報に基づいて特定される禁止領域の範囲と重なる部分がない表示オブジェクト用のデータストリームを生成する表示オブジェクト用データストリーム生成手段と、前記ストリーム生成手段は、更に前記表示オブジェクト用データストリームを含んで構成される伝送ストリームを生成する、としてもよい。   (6) Here, the display object data stream generation further generates a data stream for the display object in which the display range of the display object does not overlap with the range of the prohibited area specified based on the prohibited area information. The means and the stream generation means may further generate a transmission stream including the display object data stream.

この構成の送信装置は、禁止領域として設定された範囲には、字幕等の表示オブジェクトの表示がされていない表示オブジェクト用データストリームを生成して、このデータストリームを含んで多重化した伝送ストリームを送信する。   The transmission apparatus having this configuration generates a display object data stream in which display objects such as captions are not displayed in the range set as the prohibited area, and transmits a multiplexed transmission stream including the data stream. Send.

従って、このようなデータストリームを受信した映像表示装置において、境界近傍に深度の異なる表示オブジェクトが表示されない映像を表示し得る表示オブジェクト用データストリームを生成して送信することができる。   Therefore, in the video display device that has received such a data stream, it is possible to generate and transmit a display object data stream that can display a video in which display objects having different depths are not displayed near the boundary.

(7)ここで、更に、前記表示オブジェクトの表示範囲が、前記禁止領域情報に基づいて特定される禁止領域の範囲と重なる部分がない表示オブジェクト用のデータストリームを生成する表示オブジェクト用データストリーム生成手段と、前記表示オブジェクト用データストリームを送信する表示オブジェクト用データストリーム送信手段とを備える、としてもよい。   (7) Here, the display object data stream generation further generates a display object data stream in which the display range of the display object does not overlap with the prohibited area range specified based on the prohibited area information. Means and a display object data stream transmitting means for transmitting the display object data stream.

この構成の送信装置は、禁止領域として設定された範囲には、字幕等の表示オブジェクトの表示がされていない表示オブジェクト用データストリームを生成して、送信する。   The transmission apparatus having this configuration generates and transmits a display object data stream in which display objects such as captions are not displayed in the range set as the prohibited area.

従って、3D映像に重畳して表示するための表示オブジェクト用データストリームを、伝送ストリームとは、別に送信することができる。   Therefore, the display object data stream for superimposing and displaying on the 3D video can be transmitted separately from the transmission stream.

(8)本発明の一実施形態に係る映像表示装置は、伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置であって、前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成手段と、前記3D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力手段とを備える。   (8) A video display device according to an embodiment of the present invention is a video display device that receives a transmission stream and displays a display object superimposed on a video of video data included in the transmission stream. The stream includes division information for specifying a partial area obtained by dividing a display area for displaying the display object, and offset information indicating a depth for displaying the display object in 3D for each partial area. The display object displayed in each of the partial areas specified based on the division information is shifted in the horizontal direction based on the offset information to generate a right-eye display object image and a left-eye display object image. And generating means for outputting the 3D video, the right-eye display object image is added to the right-eye video. And tatami, and output means for outputting the superimposing the left-eye display object image on the left-eye video.

この構成の映像表示装置は、受信した伝送ストリームに含まれる部分領域ごとのオフセット情報に基づいて、3D映像の左目用画像を表示する際には、重畳する表示オブジェクトを部分領域ごとに異なるオフセット値で左目用にシフトした画像を生成し、右目用画像を表示する際には、同じく右目用にシフトした画像を生成して重畳して出力する。   When displaying the left-eye image of the 3D video based on the offset information for each partial area included in the received transmission stream, the video display device having this configuration has different offset values for each partial area. When an image shifted for the left eye is generated and a right eye image is displayed, an image shifted for the right eye is generated, superimposed, and output.

従って、3D映像に字幕等表示データの表示プレーンを重畳して表示する際に、字幕等表示データにおける表示位置の異なる表示オブジェクトを異なった深度で見えるように表示することができる。   Therefore, when a display plane of display data such as caption is superimposed on a 3D video, display objects having different display positions in the display data such as caption can be displayed so as to be seen at different depths.

(9)ここで、前記生成手段は、前記伝送ストリームに、前記部分領域の境界線近傍の予め定められた範囲への前記表示オブジェクトの表示を禁止するための禁止領域を示す禁止領域情報が含まれている場合には、前記禁止領域の範囲外に表示される表示オブジェクトに限って水平方向にシフトする、としてもよい。   (9) Here, the generation means includes prohibited area information indicating a prohibited area for prohibiting display of the display object in a predetermined range in the vicinity of a boundary line of the partial area in the transmission stream. If it is, the display object may be shifted in the horizontal direction only for display objects displayed outside the prohibited area.

この構成の映像表示装置は、伝送ストリームに禁止領域情報が含まれている場合には、禁止領域情報で示される禁止領域の範囲の表示オブジェクトはシフトせずに、それ以外の範囲を部分領域ごとのオフセット情報に基づいてシフトする。   When the transmission stream includes prohibited area information, the video display device with this configuration does not shift the display object in the prohibited area indicated by the prohibited area information, and shifts the other ranges for each partial area. Shift based on the offset information.

従って、禁止領域における画像はシフトしないので、部分領域の境界近傍において、異なる深度で画像を表示されることを抑制できる。   Accordingly, since the image in the prohibited area is not shifted, it can be suppressed that the image is displayed at different depths in the vicinity of the boundary of the partial area.

本発明は、3D映像に文字やグラフィック等の表示物を重畳して表示する技術として利用可能である。   INDUSTRIAL APPLICABILITY The present invention can be used as a technique for displaying a display object such as a character or graphic superimposed on a 3D image.

10、10a 送信装置
20 映像表示装置
101 ビデオ符号化部
102、102a 分割情報生成部
103 オフセット情報設定部
104 ストリーム管理情報生成部
105 多重化処理部
106 送信部
107 禁止領域設定部
108 ストリーム生成部
201 ユーザーインターフェース部
202 チューナ
203 多重分離部
204 ストリーム管理情報解析部
205 ビデオデコード部
206 左目用映像プレーン
207 右目用映像プレーン
208 分割情報解析部
209 字幕デコード部
210 字幕プレーン
211 字幕オフセット処理部
212 グラフィックスデコード部
213 グラフィックスプレーン
214 グラフィックスオフセット処理部
215 セレクタ
216 プレーン加算部
217 表示部
218 オーディオデコード部
219 スピーカ
300、310、320、400、500 オフセットメタデータ
600 分割パターン情報
10, 10a Transmission device 20 Video display device 101 Video encoding unit 102, 102a Division information generation unit 103 Offset information setting unit 104 Stream management information generation unit 105 Multiplexing processing unit 106 Transmission unit 107 Prohibited area setting unit 108 Stream generation unit 201 User interface unit 202 Tuner 203 Demultiplexing unit 204 Stream management information analysis unit 205 Video decoding unit 206 Left-eye video plane 207 Right-eye video plane 208 Division information analysis unit 209 Subtitle decoding unit 210 Subtitle plane 211 Subtitle offset processing unit 212 Graphics decoding Unit 213 graphics plane 214 graphics offset processing unit 215 selector 216 plane addition unit 217 display unit 218 audio decoding unit 219 speaker 300 310,320,400,500 offset metadata 600 divided pattern data

Claims (12)

3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置であって、
前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成手段と、
前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定手段と、
前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成手段と、
前記伝送ストリームを送信するストリーム送信手段とを備え
前記オフセット情報設定手段は、表示オブジェクトを表示する時刻に表示されるべき前記3D映像の深度に応じて、前記3D映像における時間的な区間単位ごとに、前記オフセット情報を前記部分領域のそれぞれについて1つ設定し、
前記3D映像データはMPEG2形式又はMPEG4形式で符号化されたデータであり、
前記分割情報生成手段は、前記部分領域の境界線の垂直方向の位置が、前記表示領域の上端から当該3D映像データの符号化の際のマクロブロックの垂直方向の画素数のN倍(Nは1以上の自然数)で表される相対位置になるように分割した分割情報を生成する
ことを特徴とする送信装置。
A transmission device that transmits data for displaying a video composed of a 3D video and a display object to be displayed on the 3D video in a display area of the video display device,
Division information generating means for generating division information indicating respective ranges of partial areas obtained by dividing the display area into two or more areas by a horizontal boundary line;
Offset information setting means for setting offset information indicating the depth for displaying the display object in 3D for each of the partial areas according to the depth of the video part of the 3D video in the partial area in which the display object exists;
Stream generation means for generating a transmission stream configured to include the division information, the offset information, and 3D video data for displaying the 3D video;
Stream transmitting means for transmitting the transmission stream ,
The offset information setting means sets the offset information for each of the partial areas for each temporal section in the 3D video according to the depth of the 3D video to be displayed at the time when the display object is displayed. Set
The 3D video data is data encoded in MPEG2 format or MPEG4 format,
The division information generating means is configured such that the vertical position of the boundary line of the partial area is N times the number of pixels in the vertical direction of the macroblock when encoding the 3D video data from the upper end of the display area (N is A transmission apparatus that generates division information divided so as to be a relative position represented by a natural number of 1 or more .
更に、前記部分領域内の境界線近傍の予め定められた一定範囲を、表示オブジェクトの表示を禁止する禁止領域とすることを示す禁止領域情報を生成する禁止領域生成手段を備え、
前記ストリーム生成手段は、前記伝送ストリームに、更に前記禁止領域情報を含める
ことを特徴とする請求項1記載の送信装置。
Furthermore, a prohibited area generating means for generating prohibited area information indicating that a predetermined fixed range in the vicinity of the boundary line in the partial area is set as a prohibited area for prohibiting display of the display object,
The transmission apparatus according to claim 1 , wherein the stream generation unit further includes the prohibited area information in the transmission stream.
前記禁止領域は、前記部分領域のそれぞれについて、当該部分領域の高さに対して予め定められた一定割合の範囲の領域である
ことを特徴とする請求項2記載の送信装置。
The transmission device according to claim 2 , wherein the prohibited area is an area having a predetermined ratio with respect to the height of the partial area for each of the partial areas.
更に、前記表示オブジェクトの表示範囲が、前記禁止領域情報に基づいて特定される禁止領域の範囲と重なる部分がない表示オブジェクト用のデータストリームを生成する表示オブジェクト用データストリーム生成手段と、
前記ストリーム生成手段は、更に前記表示オブジェクト用データストリームを含んで構成される伝送ストリームを生成する
ことを特徴とする請求項2記載の送信装置。
Furthermore, a display object data stream generating means for generating a data stream for a display object in which a display range of the display object does not overlap a range of the prohibited area specified based on the prohibited area information;
The transmission apparatus according to claim 2 , wherein the stream generation unit further generates a transmission stream including the display object data stream.
更に、前記表示オブジェクトの表示範囲が、前記禁止領域情報に基づいて特定される禁止領域の範囲と重なる部分がない表示オブジェクト用のデータストリームを生成する表示オブジェクト用データストリーム生成手段と、
前記表示オブジェクト用データストリームを送信する表示オブジェクト用データストリーム送信手段とを備える
ことを特徴とする請求項2記載の送信装置。
Furthermore, a display object data stream generating means for generating a data stream for a display object in which a display range of the display object does not overlap a range of the prohibited area specified based on the prohibited area information;
The transmission device according to claim 2, further comprising display object data stream transmission means for transmitting the display object data stream.
伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置であって、
前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、
前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成手段と、
D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力手段とを備え
前記生成手段は、前記伝送ストリームに、前記部分領域の境界線近傍の予め定められた範囲への前記表示オブジェクトの表示を禁止するための禁止領域を示す禁止領域情報が含まれている場合には、前記禁止領域の範囲外に表示される表示オブジェクトに限って水平方向にシフトする
ことを特徴とする映像表示装置。
A video display device that receives a transmission stream and superimposes a display object on a video of video data included in the transmission stream.
The transmission stream includes division information for specifying a partial area obtained by dividing a display area for displaying the display object, and offset information indicating a depth for displaying the display object in 3D for each partial area. Included,
Generation means for generating a display object image for the right eye and a display object image for the left eye by shifting the display objects displayed in each of the partial areas specified based on the division information in the horizontal direction based on the offset information. When,
When outputting 3D video, output means for superimposing the right-eye display object image on the right-eye video and superimposing and outputting the left-eye display object image on the left-eye video ,
When the transmission means includes prohibited area information indicating a prohibited area for prohibiting display of the display object in a predetermined range near a boundary line of the partial area. The video display device is characterized by shifting in the horizontal direction only for display objects displayed outside the prohibited area .
3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置が実行する送信方法であって、
前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成ステップと、
前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定ステップと、
前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成ステップと、
前記伝送ストリームを送信するストリーム送信ステップとを含み、
前記オフセット情報設定ステップは、表示オブジェクトを表示する時刻に表示されるべき前記3D映像の深度に応じて、前記3D映像における時間的な区間単位ごとに、前記オフセット情報を前記部分領域のそれぞれについて1つ設定し、
前記3D映像データはMPEG2形式又はMPEG4形式で符号化されたデータであり、
前記分割情報生成ステップは、前記部分領域の境界線の垂直方向の位置が、前記表示領域の上端から当該3D映像データの符号化の際のマクロブロックの垂直方向の画素数のN倍(Nは1以上の自然数)で表される相対位置になるように分割した分割情報を生成する
ことを特徴とする送信方法。
A transmission method executed by a transmission apparatus that transmits data for displaying a video including a 3D video and a display object to be displayed on the display area in a display area by the video display apparatus,
A division information generation step for generating division information indicating respective ranges of the partial areas obtained by dividing the display area into two or more areas by a horizontal boundary line;
Offset information setting step for setting offset information indicating the depth for displaying the display object in 3D for each of the partial areas in accordance with the depth of the video part of the 3D video in the partial area where the display object exists;
A stream generation step of generating a transmission stream configured to include the division information, the offset information, and 3D video data for displaying the 3D video;
A stream transmission step of transmitting the transmission stream ,
In the offset information setting step, the offset information is set to 1 for each of the partial areas for each temporal section in the 3D video according to the depth of the 3D video to be displayed at the time when the display object is displayed. Set
The 3D video data is data encoded in MPEG2 format or MPEG4 format,
In the division information generating step, the vertical position of the boundary line of the partial area is N times the number of pixels in the vertical direction of the macroblock when encoding the 3D video data from the upper end of the display area (N is A transmission method characterized by generating division information divided so as to be a relative position represented by a natural number of 1 or more .
3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置の送信プログラムであって、
前記送信装置に、
前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成ステップと、
前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定ステップと、
前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成ステップと、
前記伝送ストリームを送信するストリーム送信ステップとを、
実行させ、
前記オフセット情報設定ステップは、表示オブジェクトを表示する時刻に表示されるべき前記3D映像の深度に応じて、前記3D映像における時間的な区間単位ごとに、前記オフセット情報を前記部分領域のそれぞれについて1つ設定し、
前記3D映像データはMPEG2形式又はMPEG4形式で符号化されたデータであり、
前記分割情報生成ステップは、前記部分領域の境界線の垂直方向の位置が、前記表示領域の上端から当該3D映像データの符号化の際のマクロブロックの垂直方向の画素数のN倍(Nは1以上の自然数)で表される相対位置になるように分割した分割情報を生成する
ことを特徴とする送信プログラム。
A transmission program of a transmission device for transmitting data for displaying a video including a 3D video and a display object to be displayed on the 3D video in a display area by the video display device,
In the transmitter,
A division information generation step for generating division information indicating respective ranges of the partial areas obtained by dividing the display area into two or more areas by a horizontal boundary line;
Offset information setting step for setting offset information indicating the depth for displaying the display object in 3D for each of the partial areas in accordance with the depth of the video part of the 3D video in the partial area where the display object exists;
A stream generation step of generating a transmission stream configured to include the division information, the offset information, and 3D video data for displaying the 3D video;
A stream transmission step of transmitting the transmission stream;
Let it run
In the offset information setting step, the offset information is set to 1 for each of the partial areas for each temporal section in the 3D video according to the depth of the 3D video to be displayed at the time when the display object is displayed. Set
The 3D video data is data encoded in MPEG2 format or MPEG4 format,
In the division information generating step, the vertical position of the boundary line of the partial area is N times the number of pixels in the vertical direction of the macroblock when encoding the 3D video data from the upper end of the display area (N is A transmission program that generates division information divided so as to be a relative position represented by a natural number of 1 or more .
3D映像とそれに重ねて表示されるべき表示オブジェクトとから成る映像を映像表示装置による表示領域に表示させるためのデータを送信する送信装置を構成する集積回路であって、
前記表示領域を水平境界線により2以上の領域に分割して成る部分領域のそれぞれの範囲を示す分割情報を生成する分割情報生成手段と、
前記部分領域のそれぞれについて、表示オブジェクトを3D表示するための深度を示すオフセット情報を、当該表示オブジェクトが存する部分領域内における3D映像の映像部分の深度に応じて設定するオフセット情報設定手段と、
前記分割情報と、前記オフセット情報と、前記3D映像を表示するための3D映像データとを含んで構成される伝送ストリームを生成するストリーム生成手段と、
前記伝送ストリームを送信するストリーム送信手段とを備え
前記オフセット情報設定手段は、表示オブジェクトを表示する時刻に表示されるべき前記3D映像の深度に応じて、前記3D映像における時間的な区間単位ごとに、前記オフセット情報を前記部分領域のそれぞれについて1つ設定し、
前記3D映像データはMPEG2形式又はMPEG4形式で符号化されたデータであり、
前記分割情報生成手段は、前記部分領域の境界線の垂直方向の位置が、前記表示領域の上端から当該3D映像データの符号化の際のマクロブロックの垂直方向の画素数のN倍(Nは1以上の自然数)で表される相対位置になるように分割した分割情報を生成する
ことを特徴とする集積回路。
An integrated circuit constituting a transmission device for transmitting data for displaying a video composed of a 3D video and a display object to be displayed on the display area in a display area by the video display device,
Division information generating means for generating division information indicating respective ranges of partial areas obtained by dividing the display area into two or more areas by a horizontal boundary line;
Offset information setting means for setting offset information indicating the depth for displaying the display object in 3D for each of the partial areas according to the depth of the video part of the 3D video in the partial area in which the display object exists;
Stream generation means for generating a transmission stream configured to include the division information, the offset information, and 3D video data for displaying the 3D video;
Stream transmitting means for transmitting the transmission stream ,
The offset information setting means sets the offset information for each of the partial areas for each temporal section in the 3D video according to the depth of the 3D video to be displayed at the time when the display object is displayed. Set
The 3D video data is data encoded in MPEG2 format or MPEG4 format,
The division information generating means is configured such that the vertical position of the boundary line of the partial area is N times the number of pixels in the vertical direction of the macroblock when encoding the 3D video data from the upper end of the display area (N is An integrated circuit characterized by generating division information divided so as to be a relative position represented by a natural number of 1 or more .
伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置が実行する映像表示方法であって、
前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、
前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成ステップと、
D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力ステップとを含み、
前記生成ステップは、前記伝送ストリームに、前記部分領域の境界線近傍の予め定められた範囲への前記表示オブジェクトの表示を禁止するための禁止領域を示す禁止領域情報が含まれている場合には、前記禁止領域の範囲外に表示される表示オブジェクトに限って水平方向にシフトする
ことを特徴とする映像表示方法。
A video display method executed by a video display device that receives a transmission stream and superimposes a display object on a video of video data included in the transmission stream.
The transmission stream includes division information for specifying a partial area obtained by dividing a display area for displaying the display object, and offset information indicating a depth for displaying the display object in 3D for each partial area. Included,
Generation step of generating a display object image for the right eye and a display object image for the left eye by shifting the display objects displayed in each of the partial areas specified based on the division information in the horizontal direction based on the offset information. When,
When outputting the 3 D images, and an output step of superimposing the right-eye display object image on the right-eye video in a superposing the left eye display object image on the left-eye video,
When the generation step includes prohibited area information indicating a prohibited area for prohibiting display of the display object in a predetermined range near a boundary line of the partial area in the transmission stream. A video display method characterized by shifting in the horizontal direction only for display objects displayed outside the range of the prohibited area .
伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置の映像表示プログラムであって、
前記映像表示装置に、
前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、
前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成ステップと、
前記3D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力ステップとを、
実行させ、
前記生成ステップは、前記伝送ストリームに、前記部分領域の境界線近傍の予め定められた範囲への前記表示オブジェクトの表示を禁止するための禁止領域を示す禁止領域情報が含まれている場合には、前記禁止領域の範囲外に表示される表示オブジェクトに限って水平方向にシフトする
ことを特徴とする映像表示プログラム。
A video display program for a video display device that receives a transmission stream and superimposes a display object on a video of video data included in the transmission stream.
In the video display device,
The transmission stream includes division information for specifying a partial area obtained by dividing a display area for displaying the display object, and offset information indicating a depth for displaying the display object in 3D for each partial area. Included,
Generation step of generating a display object image for the right eye and a display object image for the left eye by shifting the display objects displayed in each of the partial areas specified based on the division information in the horizontal direction based on the offset information. When,
When outputting the 3D video, an output step of superimposing the right-eye display object image on the right-eye video and superimposing and outputting the left-eye display object image on the left-eye video,
Let it run
When the generation step includes prohibited area information indicating a prohibited area for prohibiting display of the display object in a predetermined range near a boundary line of the partial area in the transmission stream. A video display program that shifts in the horizontal direction only for display objects that are displayed outside the prohibited area .
伝送ストリームを受信し、当該伝送ストリームに含まれる映像データの映像に表示オブジェクトを重畳して表示する映像表示装置を構成する集積回路であって、
前記伝送ストリームには、前記表示オブジェクトを表示するための表示領域を分割して成る部分領域を特定する分割情報と、前記部分領域ごとに、表示オブジェクトを3D表示するための深度を示すオフセット情報が含まれており、
前記分割情報に基づいて特定される部分領域のそれぞれに表示される表示オブジェクトを、前記オフセット情報に基づいて水平方向にシフトして、右目用表示オブジェクト画像及び左目用表示オブジェクト画像を生成する生成手段と、
D映像を出力する場合には、右目用映像に前記右目用表示オブジェクト画像を重畳し、左目用映像に前記左目用表示オブジェクト画像を重畳して出力する出力手段とを備え、
前記生成手段は、前記伝送ストリームに、前記部分領域の境界線近傍の予め定められた範囲への前記表示オブジェクトの表示を禁止するための禁止領域を示す禁止領域情報が含まれている場合には、前記禁止領域の範囲外に表示される表示オブジェクトに限って水平方向にシフトする
ことを特徴とする集積回路。
An integrated circuit constituting a video display device that receives a transmission stream and superimposes a display object on a video of video data included in the transmission stream, and displays the display object.
The transmission stream includes division information for specifying a partial area obtained by dividing a display area for displaying the display object, and offset information indicating a depth for displaying the display object in 3D for each partial area. Included,
Generation means for generating a display object image for the right eye and a display object image for the left eye by shifting the display objects displayed in each of the partial areas specified based on the division information in the horizontal direction based on the offset information. When,
When outputting 3D video, output means for superimposing the right-eye display object image on the right-eye video and superimposing and outputting the left-eye display object image on the left-eye video,
When the transmission means includes prohibited area information indicating a prohibited area for prohibiting display of the display object in a predetermined range near a boundary line of the partial area. An integrated circuit characterized by shifting in the horizontal direction only for display objects displayed outside the range of the prohibited area .
JP2013554257A 2012-01-18 2013-01-18 Transmission device, video display device, transmission method, video processing method, video processing program, and integrated circuit Active JP6211929B2 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261587803P 2012-01-18 2012-01-18
US61/587,803 2012-01-18
PCT/JP2013/000231 WO2013108633A1 (en) 2012-01-18 2013-01-18 Transmission device, video display device, transmission method, video processing method, video processing program, and integrated circuit

Publications (2)

Publication Number Publication Date
JPWO2013108633A1 JPWO2013108633A1 (en) 2015-05-11
JP6211929B2 true JP6211929B2 (en) 2017-10-11

Family

ID=48799064

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013554257A Active JP6211929B2 (en) 2012-01-18 2013-01-18 Transmission device, video display device, transmission method, video processing method, video processing program, and integrated circuit

Country Status (6)

Country Link
US (1) US9872008B2 (en)
EP (1) EP2806644A4 (en)
JP (1) JP6211929B2 (en)
CN (1) CN103609106A (en)
AU (1) AU2013210580A1 (en)
WO (1) WO2013108633A1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120320153A1 (en) * 2010-02-25 2012-12-20 Jesus Barcons-Palau Disparity estimation for stereoscopic subtitling
US11425412B1 (en) * 2020-11-10 2022-08-23 Amazon Technologies, Inc. Motion cues for video encoding

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11289555A (en) * 1998-04-02 1999-10-19 Toshiba Corp Stereoscopic video display device
US7525558B2 (en) * 2002-09-18 2009-04-28 Seiko Epson Corporation Display-service providing system and image display apparatus
JP4163718B2 (en) * 2006-02-28 2008-10-08 株式会社コナミデジタルエンタテインメント Object display device, object arrangement method, and program
CN101523924B (en) * 2006-09-28 2011-07-06 皇家飞利浦电子股份有限公司 3 menu display
KR101058040B1 (en) * 2006-12-21 2011-08-19 삼성전자주식회사 Content output method and device therefor
CN102790902B (en) * 2009-02-19 2014-04-30 松下电器产业株式会社 Receiving device
WO2010095410A1 (en) * 2009-02-20 2010-08-26 パナソニック株式会社 Recording medium, reproduction device, and integrated circuit
JP4985807B2 (en) * 2009-04-15 2012-07-25 ソニー株式会社 Playback apparatus and playback method
JP2010250562A (en) * 2009-04-15 2010-11-04 Sony Corp Data structure, recording medium, playback apparatus, playback method, and program
JP2010268431A (en) 2009-04-15 2010-11-25 Sony Corp Data structure, recording medium, reproducing device, reproducing method, and program
JP5620651B2 (en) 2009-06-26 2014-11-05 キヤノン株式会社 REPRODUCTION DEVICE, IMAGING DEVICE, AND CONTROL METHOD THEREOF
JP2011030180A (en) * 2009-06-29 2011-02-10 Sony Corp Three-dimensional image data transmission device, three-dimensional image data transmission method, three-dimensional image data reception device, and three-dimensional image data reception method
JP2011029849A (en) 2009-07-23 2011-02-10 Sony Corp Receiving device, communication system, method of combining caption with stereoscopic image, program, and data structure
RU2559735C2 (en) * 2009-09-16 2015-08-10 Конинклейке Филипс Электроникс Н.В. 3d display size compensation
JP5375489B2 (en) * 2009-09-29 2013-12-25 ソニー株式会社 Image signal processing apparatus, image signal processing method, program, and image signal processing system
JP5415217B2 (en) * 2009-10-02 2014-02-12 パナソニック株式会社 3D image processing device
KR20110053159A (en) * 2009-11-13 2011-05-19 삼성전자주식회사 Method and apparatus for generating multimedia stream for 3-dimensional display of additional video display information, method and apparatus for receiving the same
KR101631514B1 (en) * 2009-11-19 2016-06-17 삼성전자주식회사 Apparatus and method for generating three demension content in electronic device
JP5390016B2 (en) 2010-03-24 2014-01-15 パナソニック株式会社 Video processing device
JP2011223126A (en) * 2010-04-06 2011-11-04 Sharp Corp Three-dimensional video display apparatus and three-dimensional video display method
JP5682149B2 (en) * 2010-06-10 2015-03-11 ソニー株式会社 Stereo image data transmitting apparatus, stereo image data transmitting method, stereo image data receiving apparatus, and stereo image data receiving method
KR20110138151A (en) * 2010-06-18 2011-12-26 삼성전자주식회사 Method and apparatus for trasmitting video datastream for providing digital broadcasting service with subtitling service, method and apparatus for receiving video datastream providing digital broadcasting service with subtitling service
EP2594079B1 (en) * 2010-07-12 2018-03-21 Koninklijke Philips N.V. Auxiliary data in 3d video broadcast
JP2012120142A (en) 2010-11-08 2012-06-21 Sony Corp Stereoscopic image data transmission device, stereoscopic image data transmission method, and stereoscopic image data reception device
US9185386B2 (en) * 2011-06-01 2015-11-10 Panasonic Intellectual Property Management Co., Ltd. Video processing device, transmission device, video processing system, video processing method, transmission method, computer program and integrated circuit
WO2012164864A1 (en) * 2011-06-01 2012-12-06 パナソニック株式会社 Video processing device, method, program, recording medium, and integrated circuit
WO2012177049A2 (en) * 2011-06-21 2012-12-27 Lg Electronics Inc. Method and apparatus for processing broadcast signal for 3-dimensional broadcast service

Also Published As

Publication number Publication date
AU2013210580A1 (en) 2013-11-28
JPWO2013108633A1 (en) 2015-05-11
CN103609106A (en) 2014-02-26
WO2013108633A1 (en) 2013-07-25
US9872008B2 (en) 2018-01-16
EP2806644A1 (en) 2014-11-26
EP2806644A4 (en) 2014-11-26
US20140092214A1 (en) 2014-04-03

Similar Documents

Publication Publication Date Title
WO2012017643A1 (en) Encoding method, display device, and decoding method
RU2537800C2 (en) Method and device for overlaying three-dimensional graphics on three-dimensional video
JP5960133B2 (en) Auxiliary data in 3D video broadcasting
EP2406950B1 (en) Information processing device, information processing method, playback device, playback method, program and recording medium
WO2013061526A1 (en) Broadcast receiver, broadcast receiving method and program
JP2012516069A (en) Method and system for transmitting and combining 3D video and 3D overlay over a video interface
JP5870272B2 (en) Video processing device
KR20140044664A (en) Content processing device for processing high resolution content and method thereof
EP2290997A1 (en) Data structure, recording medium, reproducing device, reproducing method, and program
JP2016197909A (en) Data structure of digital stereoscopic video stream
JP5957769B2 (en) Video processing apparatus and video processing method
JP5588144B2 (en) Video signal processing apparatus and video signal processing method
JP6211929B2 (en) Transmission device, video display device, transmission method, video processing method, video processing program, and integrated circuit
US8934757B2 (en) Content distribution system, playback device, distribution server, playback method, and distribution method
JP2011102883A (en) Three-dimensional video processing device and three-dimensional video processing method
US20120188340A1 (en) Content distribution system, playback apparatus, distribution server, playback method, and distribution method
WO2012160812A1 (en) Image processing device, transmitting device, stereoscopic image viewing system, image processing method, image processing program and integrated circuit
JP2013026643A (en) Receiving device, receiving method, and transmitting/receiving method
JP2008252752A (en) Video image information reproducing unit and method, and video image information reproducing system and control method thereof
JP2013026644A (en) Receiving device, receiving method, and transmitting/receiving method
JP2008252751A (en) Video image information reproducing system and control method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151002

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170914

R151 Written notification of patent or utility model registration

Ref document number: 6211929

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151