JP2015037264A - Reception device, transmission device, and program - Google Patents

Reception device, transmission device, and program Download PDF

Info

Publication number
JP2015037264A
JP2015037264A JP2013168665A JP2013168665A JP2015037264A JP 2015037264 A JP2015037264 A JP 2015037264A JP 2013168665 A JP2013168665 A JP 2013168665A JP 2013168665 A JP2013168665 A JP 2013168665A JP 2015037264 A JP2015037264 A JP 2015037264A
Authority
JP
Japan
Prior art keywords
output
program
broadcast
unit
application
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013168665A
Other languages
Japanese (ja)
Inventor
寿之 大亦
Toshiyuki Omata
寿之 大亦
茂明 三矢
Shigeaki Mitsuya
茂明 三矢
一博 大槻
Kazuhiro Otsuki
一博 大槻
俊二 砂崎
Shunji Sunazaki
俊二 砂崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2013168665A priority Critical patent/JP2015037264A/en
Publication of JP2015037264A publication Critical patent/JP2015037264A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

PROBLEM TO BE SOLVED: To output an object desired by a user that is related to a broadcast program in a manner highly accurately linked with the broadcast program.SOLUTION: A reception device 7 acquires an application program for executing output of objects from an application distribution device 4 by communication. The reception device 7 detects output timings of objects by executing the acquired application program to receive broadcast signals in which specification information of output target objects is set from a broadcast transmission device 2 or to refer to the output timings of objects in a program described in advance in the application program. The reception device 7 acquires data of the objects of which output timings are detected from a content distribution device 5, combines the acquired data with an image and sound of the program acquired from the broadcast signals, and output the composite.

Description

本発明は、受信装置、送出装置、及びプログラムに関する。   The present invention relates to a receiving device, a sending device, and a program.

現在のデジタル放送では、テレビジョン受信機が表示する放送番組の画面上に、番組進行に合わせて文字を表示する字幕放送の機能がある。また、データ放送では、放送で配信する画像ファイルなどのオブジェクトを、テレビジョン受信機が表示する画面上の任意の位置に表示することができる。一方、放送電波を受信して放送コンテンツを取得するとともに通信ネットワーク経由で通信コンテンツを取得し、放送コンテンツと通信コンテンツとを同期させ、タイミング合わせて出力する技術がある(例えば、特許文献1、2参照。)。   In the current digital broadcasting, there is a subtitle broadcasting function for displaying characters as the program progresses on the screen of the broadcast program displayed by the television receiver. In data broadcasting, an object such as an image file distributed by broadcasting can be displayed at an arbitrary position on the screen displayed by the television receiver. On the other hand, there is a technique for receiving broadcast radio waves to acquire broadcast content, acquiring communication content via a communication network, synchronizing the broadcast content and communication content, and outputting them in synchronization (for example, Patent Documents 1 and 2). reference.).

特開2013−9332号公報JP 2013-9332 A 特開2013−9342号公報JP2013-9342A

デジタル放送における字幕放送の機能では、字幕の言語数は1つであり、複数の言語から選択した字幕をオブジェクトとして表示させることはできない。また、データ放送では、放送により配信できるデータ容量が少ないために、大容量のオブジェクトや多種多様なオブジェクトを配信してテレビジョン受信機に表示させることはできない。そこで、特許文献1、2の技術を用い、ユーザが所望するオブジェクトを表示させるアプリケーションプログラムを通信によって配信し、放送番組と連動するように表示させることが考えられる。しかし、例えば、アプリケーションプログラムにより表示させるオブジェクトが短い時間で次々と切り替わる場合などに、放送番組の表示画面と各オブジェクトの表示タイミングを高度に連動させて表示することは困難であった。   With the function of caption broadcasting in digital broadcasting, the number of caption languages is one, and captions selected from a plurality of languages cannot be displayed as objects. Also, in data broadcasting, since the data capacity that can be distributed by broadcasting is small, large-capacity objects and various objects cannot be distributed and displayed on the television receiver. Therefore, it is conceivable to use the techniques of Patent Documents 1 and 2 to distribute an application program for displaying an object desired by the user through communication and display it in conjunction with a broadcast program. However, for example, when objects to be displayed by an application program are switched one after another in a short time, it is difficult to display the broadcast program display screen and the display timing of each object in a highly linked manner.

本発明は、このような事情を考慮してなされたもので、放送番組と高度に連動させて、放送番組に関連したユーザ所望のオブジェクトを出力することができる受信装置、送出装置、及びプログラムを提供する。   The present invention has been made in view of such circumstances, and includes a receiving device, a sending device, and a program that can output a user-desired object related to a broadcast program in a highly linked manner with the broadcast program. provide.

[1] 本発明の一態様は、放送信号を受信する放送受信部と、オブジェクトの出力を実行させるアプリケーションプログラムを通信により取得するアプリケーション管理部と、前記アプリケーションプログラムを実行し、出力対象のオブジェクトの特定情報を設定した放送信号を前記放送受信部が受信することにより、あるいは、前記アプリケーションプログラムに予め記述されている前記オブジェクトの番組内における出力タイミングを参照することにより、前記オブジェクトの出力タイミングであることを検出した場合に、前記オブジェクトのデータを出力するアプリケーション実行部と、前記放送信号から取得した番組のコンテンツデータに、前記アプリケーション実行部から出力された前記オブジェクトのデータを合成して出力する合成部と、を備えることを特徴とする受信装置である。
この発明によれば、受信装置は、番組と同期したオブジェクトの出力を実行させるアプリケーションプログラムを通信で取得する。受信装置は、取得したアプリケーションプログラムを実行し、出力対象のオブジェクトの特定情報が設定された放送信号を受信することにより、あるいは、アプリケーションプログラムに予め記述されているオブジェクトの番組内における出力タイミングを参照することにより、オブジェクトの出力タイミングであることを検出する。受信装置は、出力タイミングが検出されたオブジェクトのデータを、放送信号から取得した番組の映像データや音声データに合成し、出力する。
これにより、受信装置は、放送番組と高度に連動させて、放送番組に関連したユーザ所望のオブジェクトを出力することができる。
[1] According to one aspect of the present invention, a broadcast receiving unit that receives a broadcast signal, an application management unit that acquires an application program that executes output of an object by communication, and the application program that executes the application program, When the broadcast receiving unit receives a broadcast signal in which specific information is set, or by referring to the output timing of the object described in advance in the application program, the output timing of the object When this is detected, the application execution unit that outputs the object data and the content data of the program acquired from the broadcast signal are combined with the object data output from the application execution unit and output. And a combining unit.
According to this invention, the receiving device acquires an application program for executing output of an object synchronized with a program by communication. The receiving device executes the acquired application program and receives a broadcast signal in which the specific information of the object to be output is set, or refers to the output timing in the program of the object described in advance in the application program By doing so, it is detected that it is the output timing of the object. The receiving device synthesizes the data of the object whose output timing is detected with the video data and audio data of the program acquired from the broadcast signal, and outputs it.
As a result, the receiving apparatus can output a user-desired object related to the broadcast program in a highly linked manner with the broadcast program.

[2] 本発明の一態様は、上述する受信装置であって、前記アプリケーション実行部は、前記放送信号に設定されている前記オブジェクトの出力方法、あるいは、前記アプリケーションプログラム内に予め記述されている前記オブジェクトの出力方法に従って前記オブジェクトのデータを出力する、ことを特徴とする。
この発明によれば、受信装置は、放送信号から取得した番組のコンテンツデータに、放送信号により受信した出力方法、あるいは、アプリケーションプログラム内に予め記述されている出力方法に従って出力されたオブジェクトのデータを合成して出力する。
これにより、受信装置は、放送番組と連動するオブジェクトを、豊かな表現により表示することができる。
[2] One aspect of the present invention is the above-described receiving device, wherein the application execution unit is described in advance in the object output method set in the broadcast signal or in the application program. The object data is output according to the object output method.
According to the present invention, the receiving device adds, to the program content data acquired from the broadcast signal, the output method received by the broadcast signal or the object data output in accordance with the output method described in advance in the application program. Combine and output.
As a result, the receiving apparatus can display the object linked with the broadcast program with rich expression.

[3] 本発明の一態様は、上述する受信装置であって、前記出力方法は、表示位置、表示の大きさ、透過度、色、アニメーション動作、表示演出効果、音量のいずれか1以上の指定である、ことを特徴とする。
この発明によれば、受信装置は、放送信号から取得した番組のコンテンツデータと合成するオブジェクトのデータを、映像により表示するデータであれば、指定された表示位置、表示の大きさ、透過度、色、アニメーション動作、表示演出効果により表示させ、音声のデータであれば指定された音量により出力する。
これにより、受信装置は、放送番組と連動するオブジェクトが映像であれば、アプリケーション製作者が意図した表示位置、表示の大きさ、透過度、色、アニメーション動作、表示演出効果により出力し、オブジェクトが音声であれば意図した音量により出力することができる。
[3] One embodiment of the present invention is the above-described receiving device, wherein the output method includes any one or more of display position, display size, transparency, color, animation operation, display effect, and volume. It is specified.
According to this invention, if the data of the object to be combined with the content data of the program acquired from the broadcast signal is data to be displayed by video, the receiving device is designated as the display position, the display size, the transparency, It is displayed by color, animation operation, and display effect, and if it is audio data, it is output at a specified volume.
Thus, if the object linked with the broadcast program is a video, the receiving device outputs the display position, the display size, the transparency, the color, the animation operation, and the display effect effect intended by the application producer. Audio can be output at the intended volume.

[4] 本発明の一態様は、上述する受信装置であって、ユーザによる出力方法の変更指示の入力を受ける入力制御部をさらに備え、前記アプリケーション実行部は、前記出力方法を、前記入力制御部が入力を受けた前記変更指示に従って変更し、変更後の出力方法に従って前記オブジェクトのデータを出力する、ことを特徴とする。
この発明によれば、受信装置は、予め指定された出力方法を、ユーザが指定した出力方法により変更してオブジェクトのデータを出力する。
これにより、受信装置は、ユーザによりカスタマイズされた出力方法によりオブジェクトを表示することができる。
[4] One aspect of the present invention is the receiving device described above, further including an input control unit that receives an input of an output method change instruction by a user, wherein the application execution unit includes the input method. The change is made according to the change instruction received by the input unit, and the data of the object is output according to the output method after the change.
According to the present invention, the receiving device changes the output method designated in advance by the output method designated by the user, and outputs the object data.
Thereby, the receiving apparatus can display an object by the output method customized by the user.

[5] 本発明の一態様は、上述する受信装置であって、ユーザによるオブジェクトの出力停止指示及び出力指示の入力を受ける入力制御部をさらに備え、前記アプリケーション実行部は、前記入力制御部が前記出力停止指示の入力を受けてから前記出力指示の入力を受けるまで、前記オブジェクトのデータの出力を停止する、ことを特徴とする。
この発明によれば、受信装置は、ユーザがオブジェクトの出力停止を指示してから出力を指示するまでの間、オブジェクトの出力を停止する。
これにより、受信装置は、ユーザの指示に従って、オブジェクトを出力するか否かを制御することができる。
[5] One aspect of the present invention is the receiving device described above, further including an input control unit that receives an input of an object output stop instruction and an output instruction by a user, and the application execution unit includes the input control unit. The output of the object data is stopped until the output instruction is received after the output stop instruction is input.
According to this invention, the receiving apparatus stops the output of the object after the user instructs the output stop of the object until the output is instructed.
As a result, the receiving apparatus can control whether or not to output the object in accordance with a user instruction.

[6] 本発明の一態様は、上述する受信装置であって、前記出力方法は、前記オブジェクトの出力に対してユーザ制御を許可するか否かの情報を含み、前記アプリケーション実行部は、前記入力制御部が前記出力停止指示の入力を受けてから前記出力指示の入力を受けるまで、対応する出力方法にユーザ制御を許可しないことが設定されている前記オブジェクトのデータを出力し、対応する出力方法にユーザ制御を許可することが設定されている前記オブジェクトのデータの出力を停止する、ことを特徴とする。
この発明によれば、受信装置は、ユーザがオブジェクトの出力停止を指示してから出力の許可を指示するまでの間、予めユーザ制御を許可することが設定されているオブジェクトのデータについては出力を停止し、ユーザ制御を許可しないことが設定されているオブジェクトのデータについては番組のコンテンツデータに合成して出力する。
これにより、受信装置は、ユーザがオブジェクトの出力停止を指示した場合でも、アプケーションの製作者が、出力が必要であると判断したオブジェクトについては、番組のコンテンツデータに合成して出力することができる。
[6] One aspect of the present invention is the above-described receiving device, wherein the output method includes information on whether to allow user control for the output of the object, and the application execution unit includes Until the input control unit receives the output stop instruction and receives the output instruction, the corresponding output method is set to not allow user control, and the object data is output. The output of the data of the object, which is set to allow user control in the method, is stopped.
According to the present invention, the receiving device outputs the object data for which the user control is set to be permitted in advance from when the user instructs the output stop of the object until the permission of the output is instructed. The data of the object set to stop and not to allow user control is combined with the program content data and output.
As a result, even when the user instructs the output of the object to be stopped, the receiving device can synthesize and output the object determined to be output by the application producer as content data of the program. it can.

[7] 本発明の一態様は、上述する受信装置であって、前記アプリケーションプログラムには、前記オブジェクトのデータを特定する構成要素情報がモード毎に記述され、前記アプリケーション実行部は、前記オブジェクトの出力タイミングであることを検出した場合に、ユーザが指定したモードに対応した前記構成要素情報により特定される前記オブジェクトのデータを出力する、ことを特徴とする。
この発明によれば、受信装置は、ユーザが指定したモードに対応したオブジェクトのデータを番組のコンテンツデータに合成して出力する。
これにより、受信装置は、1つのアプリケーションプログラムにより、ユーザが選択したオブジェクトを番組の映像や音声に合成して出力することができる。
[7] One aspect of the present invention is the above-described receiving device, wherein the application program includes component information for specifying data of the object for each mode, and the application execution unit includes the object When the output timing is detected, the object data specified by the component information corresponding to the mode specified by the user is output.
According to the present invention, the receiving apparatus synthesizes the object data corresponding to the mode designated by the user with the program content data and outputs it.
Thus, the receiving apparatus can synthesize and output the object selected by the user with the video and audio of the program by one application program.

[8] 本発明の一態様は、番組のコンテンツデータを設定した放送信号を送出する放送送出装置と、オブジェクトの出力を実行させるアプリケーションプログラムを通信により配信するアプリケーション配信装置と、前記オブジェクトの番組内における出力タイミングを示す出力制御情報を生成する出力制御情報生成装置とを備え、前記放送送出装置は、前記出力制御情報に記述された出力タイミングであることを検出した場合に、当該出力タイミングに対応した前記オブジェクトの特定情報を放送信号に設定して送出する、あるいは、前記アプリケーション配信装置は、前記出力制御情報を含んだ前記アプリケーションプログラムを配信する、ことを特徴とする送出装置である。
この発明によれば、送出装置は、放送番組のコンテンツデータを含んだ放送信号を送出する一方、オブジェクトの表示を実行させるアプリケーションプログラムを通信により受信装置に配信する。送出装置は、受信装置においてオブジェクトの出力タイミングを番組進行に合わせるための出力制御情報を、放送信号に設定して、あるいは、アプリケーションプログラムに埋め込んで受信装置に配信する。
これにより、出力装置は、放送番組と高度に連動させて、放送番組に関連したユーザ所望のオブジェクトを受信装置に出力させることができる。
[8] According to one aspect of the present invention, a broadcast transmission device that transmits a broadcast signal in which content data of a program is set, an application distribution device that distributes an application program that executes output of an object by communication, and a program within the program of the object Output control information generating device for generating output control information indicating the output timing in the case, the broadcast sending device responds to the output timing when detecting that it is the output timing described in the output control information The object specifying information is set as a broadcast signal and transmitted, or the application distribution apparatus distributes the application program including the output control information.
According to the present invention, the transmission device transmits a broadcast signal including content data of a broadcast program, and distributes an application program for executing display of an object to the reception device by communication. The sending device sets output control information for adjusting the output timing of the object to the program progress in the receiving device in the broadcast signal or embeds it in the application program and distributes it to the receiving device.
Thereby, the output device can output a user-desired object related to the broadcast program to the reception device in a highly linked manner with the broadcast program.

[9] 本発明の一態様は、放送信号を受信する放送受信部を備えた受信装置に用いられるコンピュータを、オブジェクトの出力を実行させるアプリケーションプログラムを通信により取得するアプリケーション管理部、前記アプリケーションプログラムを実行し、出力対象のオブジェクトの特定情報を設定した放送信号を前記放送受信部が受信することにより、あるいは、前記アプリケーションプログラムに予め記述されている前記オブジェクトの番組内における出力タイミングを参照することにより、前記オブジェクトの出力タイミングであることを検出した場合に、前記オブジェクトのデータを出力するアプリケーション実行部、前記放送信号から取得した番組のコンテンツデータに、前記アプリケーション実行部から出力された前記オブジェクトのデータを合成して出力する合成部、として機能させることを特徴とするプログラムである。 [9] One embodiment of the present invention is an application management unit that acquires, by communication, an application program that causes a computer used in a reception device including a broadcast reception unit that receives a broadcast signal to execute output of an object. When the broadcast receiving unit receives the broadcast signal in which the specific information of the object to be output is set, or by referring to the output timing of the object described in advance in the application program The application execution unit that outputs the data of the object when it is detected that the output timing of the object is detected, and the content data of the program acquired from the broadcast signal is output from the application execution unit Is a program for causing to function as a combining unit, for combining and outputting the data of the object.

本発明によれば、放送番組と高度に連動させて、放送番組に関連したユーザ所望のオブジェクトを出力することができる。   According to the present invention, an object desired by a user related to a broadcast program can be output in conjunction with the broadcast program at a high level.

本発明の一実施形態による放送通信連携システムの全体構成図である。1 is an overall configuration diagram of a broadcasting / communication cooperation system according to an embodiment of the present invention. 同実施形態による受信装置の内部構成を示すブロック図である。It is a block diagram which shows the internal structure of the receiver by the same embodiment. 同実施形態による放送番組の映像に重畳されたオブジェクトの表示例を示す。The example of a display of the object superimposed on the image | video of the broadcast program by the embodiment is shown. 同実施形態による出力制御情報の例を示す図である。It is a figure which shows the example of the output control information by the same embodiment. 同実施形態による放送通信連携システムのオブジェクト制御のシーケンス図を示す。The sequence diagram of the object control of the broadcast communication cooperation system by the embodiment is shown. 同実施形態による放送通信連携システムのオブジェクト制御の他のシーケンス図を示す。The other sequence figure of the object control of the broadcast communication cooperation system by the embodiment is shown.

以下、図面を参照しながら本発明の実施形態を詳細に説明する。
図1は、本発明の一実施形態による放送通信連携システムの全体構成図である。同図に示すように、放送通信連携システムは、送出装置1と受信装置7とを備えて構成され、さらに、送出装置1は、放送送出装置2、出力制御情報生成装置3、アプリケーション配信装置4、及びコンテンツ配信装置5を備えて構成される。アプリケーション配信装置4、及びコンテンツ配信装置5は、インターネットなどの通信ネットワーク9を介して受信装置7と接続される。同図においては、放送送出装置2、出力制御情報生成装置3、アプリケーション配信装置4、コンテンツ配信装置5、及び受信装置7をそれぞれ1台のみ示しているが、現実には複数台が設けられる。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
FIG. 1 is an overall configuration diagram of a broadcasting / communication cooperation system according to an embodiment of the present invention. As shown in the figure, the broadcasting / communication cooperation system includes a sending device 1 and a receiving device 7, and the sending device 1 further includes a broadcasting sending device 2, an output control information generating device 3, and an application distribution device 4. And the content distribution device 5. The application distribution device 4 and the content distribution device 5 are connected to the reception device 7 via a communication network 9 such as the Internet. In the figure, only one broadcast transmission device 2, output control information generation device 3, application distribution device 4, content distribution device 5, and reception device 7 are shown, but in reality, a plurality of devices are provided.

本実施形態の放送通信連携システムは、デジタル放送サービスと、インターネットなどによる通信サービスとを受信装置7において連携する放送通信連携サービスを実現する。受信装置7は、アプリケーション配信装置4から通信ネットワーク9を経由して通信で配信されるアプリケーションプログラムを実行する。受信装置7は、アプリケーションプログラムに出力対象として記述されたオブジェクトを、放送で配信されるオブジェクト出力指示、あるいは、アプリケーションプログラムに記述された出力時間に従い、放送番組の映像や音声と同期させて出力する。   The broadcasting / communication cooperation system of the present embodiment realizes a broadcasting / communication cooperation service in which a digital broadcasting service and a communication service using the Internet or the like are linked in the receiving device 7. The receiving device 7 executes an application program distributed from the application distribution device 4 via the communication network 9 by communication. The receiving device 7 outputs an object described as an output target in the application program in synchronization with the video and audio of the broadcast program in accordance with an object output instruction distributed by broadcasting or an output time described in the application program. .

アプリケーションプログラムには、オブジェクトの出力命令が記述されるとともに、オブジェクトを構成するオブジェクト構成要素(オブジェクトのデータ)がモード毎に記述される。オブジェクト構成要素は、例えば、画像データ(画像ファイル)、動画データ(動画ファイル)、テキストデータ、ハイパーテキストデータ、音声データ(音声ファイル)などのデータである。オブジェクト構成要素がハイパーテキストデータであれば、HTML(Hypertext Markup Language)のCANVASタグで記述したデータを用いることができる。受信装置7は、アプリケーションプログラムに記述されたオブジェクトの出力命令を実行する際、ユーザが指定したモードに応じたオブジェクト構成要素を取得して出力する。オブジェクト構成要素は、通信ネットワーク9上のコンテンツ配信装置5により提供されるか、予めアプリケーションプログラム内に記述される。なお、いずれのモードであってもオブジェクト構成要素が同じである場合、モードの記述を省略することができる。   In the application program, an object output command is described, and object components (object data) constituting the object are described for each mode. The object component is, for example, data such as image data (image file), moving image data (moving image file), text data, hypertext data, audio data (audio file). If the object component is hypertext data, data described in a CANVAS tag of HTML (Hypertext Markup Language) can be used. When the receiving device 7 executes an object output command described in the application program, the receiving device 7 acquires and outputs an object component corresponding to the mode specified by the user. The object component is provided by the content distribution device 5 on the communication network 9 or is described in advance in the application program. Note that, in any mode, when the object components are the same, the description of the mode can be omitted.

アプリケーションプログラムは、例えば、ウェブコンテンツの記述言語により記述され、HTMLファイルと、そのHTMLファイルにリンクするJava(登録商標)Script、CSS(Cascading Style Sheets)などのファイルからなる。CSSファイルにより、オブジェクトの出力方法を設定することができる。   The application program is described in, for example, a web content description language, and includes an HTML file and files such as Java (registered trademark) Script and CSS (Cascading Style Sheets) linked to the HTML file. The output method of the object can be set by the CSS file.

放送信号を送出する放送送出装置2は、放送事業者の放送設備であり、テレビ放送サービスを提供する。テレビ放送サービスの形態は複数存在するが、本実施形態では、ISDB(Integrated Services Digital Broadcasting;統合デジタル放送サービス)方式によるデジタルテレビ放送サービスが用いられる場合について説明する。放送送出装置2は、映像、音声、データ放送などを多重、変調し、放送信号により放送波として送信する。放送信号は、従来のデジタル放送サービスの放送信号と同一であり、ARIB(Association of Radio Industries and Broadcast;社団法人電波産業会)標準規格で規定される。   A broadcast transmission apparatus 2 that transmits a broadcast signal is a broadcasting facility of a broadcaster and provides a television broadcast service. There are a plurality of types of television broadcast services. In this embodiment, a case where a digital television broadcast service based on an ISDB (Integrated Services Digital Broadcasting) method is used will be described. The broadcast transmission device 2 multiplexes and modulates video, audio, data broadcast, etc., and transmits it as a broadcast wave using a broadcast signal. The broadcast signal is the same as the broadcast signal of the conventional digital broadcast service, and is defined by ARIB (Association of Radio Industries and Broadcast) standard.

出力制御情報生成装置3は、オブジェクトの出力制御情報を生成し、放送送出装置2、及びアプリケーション配信装置4に提供するコンピュータ装置である。出力制御情報は、アプリケーションプログラムにより映像や音声で出力する各オブジェクトの出力タイミングを示す情報と、それらオブジェクトの出力方法を示す情報とを含む。出力方法は、オブジェクト毎、あるいは、オブジェクト構成要素毎に設定される。出力方法には、例えば、表示位置、表示の大きさ、色、アニメーション動作、表示演出効果、音量、ユーザ制御許可情報などが含まれる。ユーザ制御許可情報は、ユーザ操作によるオブジェクトまたはオブジェクト構成要素の出力制御を許可するか否かを示す。例えば、アプリケーション作成者が、オブジェクトの演出上、必ず、指定した出力方法でオブジェクトを表示させたい場合、ユーザ制御許可情報には、制御不可が設定される。出力方法は、放送信号により受信装置7に配信されるか、アプリケーションプログラム内に記述される。   The output control information generation device 3 is a computer device that generates output control information of an object and provides it to the broadcast transmission device 2 and the application distribution device 4. The output control information includes information indicating the output timing of each object to be output as video or audio by the application program, and information indicating the output method of these objects. The output method is set for each object or each object component. The output method includes, for example, display position, display size, color, animation operation, display effect, volume, user control permission information, and the like. The user control permission information indicates whether to permit output control of an object or an object component by a user operation. For example, when the application creator always wants to display an object by the designated output method for rendering the object, the user control permission information is set to “not controllable”. The output method is distributed to the receiving device 7 by a broadcast signal or described in an application program.

アプリケーション配信装置4は、受信装置7上で実行されるアプリケーションプログラムを、通信ネットワーク9を経由して配信するコンピュータサーバである。
コンテンツ配信装置5は、受信装置7上で実行されるアプリケーションが利用するオブジェクト構成要素を、通信ネットワーク9を経由して受信装置7に配信するコンピュータサーバである。
The application distribution device 4 is a computer server that distributes an application program executed on the reception device 7 via the communication network 9.
The content distribution device 5 is a computer server that distributes object components used by applications executed on the reception device 7 to the reception device 7 via the communication network 9.

なお、出力制御情報生成装置3、アプリケーション配信装置4、及びコンテンツ配信装置5のうち任意の2以上の装置を同一のコンピュータサーバにより実現してもよい。   Any two or more of the output control information generation device 3, the application distribution device 4, and the content distribution device 5 may be realized by the same computer server.

受信装置7は、放送通信連携サービスを利用できるユーザの受信機であり、例えば、テレビ、セットトップボックス、パーソナルコンピュータ、携帯端末等のデバイスである。受信装置7は、放送送出装置2から送出される放送波を受信するとともに、通信ネットワーク9を介して接続されるアプリケーション配信装置4やコンテンツ配信装置5との間でデータの送受信を行う。   The receiving device 7 is a user receiver that can use the broadcasting / communication cooperation service, and is, for example, a device such as a television, a set-top box, a personal computer, or a portable terminal. The receiving device 7 receives a broadcast wave transmitted from the broadcast transmitting device 2 and transmits / receives data to / from the application distribution device 4 and the content distribution device 5 connected via the communication network 9.

図2は、受信装置7の内部構成を示すブロック図である。同図に示す受信装置7は、放送受信部701、分離部702、映像復号部703、音声復号部704、通信入出力部710、アプリケーション管理部711、アプリケーション実行部713、入力制御部714、放送通信連携部721、映像合成部722(合成部)、音声合成部723(合成部)、映像表示部731、音声出力部732、及び時計741を備えて構成される。   FIG. 2 is a block diagram showing an internal configuration of the receiving device 7. The receiving apparatus 7 shown in the figure includes a broadcast receiving unit 701, a separating unit 702, a video decoding unit 703, an audio decoding unit 704, a communication input / output unit 710, an application management unit 711, an application execution unit 713, an input control unit 714, a broadcast. The communication link unit 721, the video synthesis unit 722 (synthesis unit), the voice synthesis unit 723 (synthesis unit), the video display unit 731, the audio output unit 732, and the clock 741 are configured.

放送受信部701、分離部702、映像復号部703、及び音声復号部704は、放送信号を処理するモジュールを構成する。放送受信部701は、一般的なチューナーであり、放送送出装置2から送出されたデジタル放送の放送信号を受信して復調する。分離部702は、一般的なデマルチプレクサであり、放送受信部701が受信し、復調した放送信号を、映像データ、音声データなどのコンテンツデータや、コンテンツデータ以外のデータに分離する。コンテンツ以外のデータには、例えば、受信チャンネルや番組情報が記述されたSI(Service Information)や、トリガーを送るイベントメッセージなどが含まれる。映像復号部703は、映像データを復号し、音声復号部704は、音声データを復号する。   The broadcast receiving unit 701, the separating unit 702, the video decoding unit 703, and the audio decoding unit 704 constitute a module that processes broadcast signals. The broadcast receiving unit 701 is a general tuner, and receives and demodulates a digital broadcast broadcast signal sent from the broadcast sending device 2. The separation unit 702 is a general demultiplexer, and separates the broadcast signal received and demodulated by the broadcast reception unit 701 into content data such as video data and audio data, and data other than the content data. The data other than the content includes, for example, SI (Service Information) in which a reception channel and program information are described, an event message for sending a trigger, and the like. The video decoding unit 703 decodes the video data, and the audio decoding unit 704 decodes the audio data.

通信入出力部710は、通信ネットワーク9に接続するためのインタフェースである。
通信入出力部710は、通信ネットワーク9を経由してアプリケーション配信装置4やコンテンツ配信装置5との間でデータを送受信する。
The communication input / output unit 710 is an interface for connecting to the communication network 9.
The communication input / output unit 710 transmits / receives data to / from the application distribution device 4 and the content distribution device 5 via the communication network 9.

アプリケーション管理部711、アプリケーション実行部713、入力制御部714は、通信ネットワーク9を介してアプリケーション配信装置4から配信されるアプリケーションプログラムを処理するモジュールを構成する。アプリケーション管理部711は、アプリケーションプログラムの取得や管理を行う。アプリケーション管理部711が備えるアプリケーション記憶部712は、アプリケーションプログラムを記憶する。   The application management unit 711, the application execution unit 713, and the input control unit 714 constitute a module that processes an application program distributed from the application distribution device 4 via the communication network 9. The application management unit 711 acquires and manages application programs. An application storage unit 712 included in the application management unit 711 stores an application program.

アプリケーション実行部713は、アプリケーション記憶部712に記憶されているアプリケーションプログラムを読み出して実行する。アプリケーションプログラムがウェブコンテンツの記述言語により記述される場合、アプリケーション実行部713は、ウェブブラウザにより実現される。なお、アプリケーション実行部713を、Android(登録商標)やiOS(登録商標)などの任意のOS(Operation System)やプラットフォームとし、アプリケーションプログラムを、そのOSやプラットフォームで実行可能なプログラムとすることができる。入力制御部714は、ユーザからの入力された指示によってアプリケーションの動作を制御する。入力制御部714は、例えば、タブレット端末、スマートフォン、パーソナルコンピュータ、リモートコントローラなどの操作デバイスからユーザが入力した指示を受信する。   The application execution unit 713 reads and executes an application program stored in the application storage unit 712. When the application program is described in a web content description language, the application execution unit 713 is realized by a web browser. The application execution unit 713 can be an arbitrary OS (Operation System) or platform such as Android (registered trademark) or iOS (registered trademark), and the application program can be a program that can be executed by the OS or platform. . The input control unit 714 controls the operation of the application according to an instruction input from the user. The input control unit 714 receives an instruction input by the user from an operation device such as a tablet terminal, a smartphone, a personal computer, or a remote controller.

放送通信連携部721、映像合成部722、音声合成部723は、放送された番組と通信により取得したアプリケーションとを連携動作させるモジュールを構成する。放送通信連携部721は、SIやイベントメッセージ、カルーセルによって送られるデータそのものを処理するとともに、アプリケーション実行部713に対して情報を提供する。映像合成部722は、映像復号部703が復号した放送番組の映像データと、アプリケーション実行部713から出力されたオブジェクト構成要素の映像データを合成し、映像表示部731に出力する。映像表示部731は、一般的なディスプレイであり、映像合成部722が合成した映像データの映像を表示する。音声合成部723は、音声復号部704が復号した音声データと、アプリケーション実行部713から出力されたオブジェクト構成要素の音声データとを合成し、音声出力部732に出力する。音声出力部732は、一般的なスピーカーであり、音声合成部723が合成した音声データを音声により出力する。
なお、受信装置7が例えばセットトップボックスである場合などは、映像表示部731及び音声出力部732を、受信装置7に接続される外部装置としてもよい。
The broadcast communication cooperation unit 721, the video synthesis unit 722, and the voice synthesis unit 723 constitute a module that performs a cooperative operation between a broadcast program and an application acquired through communication. The broadcasting / communication cooperation unit 721 processes data itself transmitted by SI, an event message, and a carousel, and provides information to the application execution unit 713. The video synthesis unit 722 synthesizes the video data of the broadcast program decoded by the video decoding unit 703 and the video data of the object component output from the application execution unit 713, and outputs the synthesized video data to the video display unit 731. The video display unit 731 is a general display, and displays a video of the video data synthesized by the video synthesis unit 722. The voice synthesis unit 723 synthesizes the voice data decoded by the voice decoding unit 704 and the voice data of the object component output from the application execution unit 713 and outputs the synthesized voice data to the voice output unit 732. The voice output unit 732 is a general speaker, and outputs the voice data synthesized by the voice synthesis unit 723 by voice.
When the receiving device 7 is a set top box, for example, the video display unit 731 and the audio output unit 732 may be external devices connected to the receiving device 7.

図3は、放送番組の映像に重畳されたオブジェクトの表示例を示す。図3(a)は日本語モードの場合の表示例を示し、図3(b)は英語モードの場合の表示例を示す。同図に示すオブジェクトは、吹き出しの部分の画像ファイルと、吹き出し内のテキストデータとをそれぞれオブジェクト構成要素とする。なお、文字の表示画像を含んだ吹き出しを表示する画像ファイルを1つのオブジェクト構成要素としてもよい。テキストデータは、受信装置7にフォントが用意された言語のみが表示可能であるため、オブジェクト構成要素を、文字の表示画像を含んだ画像ファイルとすることで、受信装置7が実装するフォントに限定されず、多言語の表示が可能となる。   FIG. 3 shows a display example of an object superimposed on a broadcast program video. FIG. 3A shows a display example in the Japanese mode, and FIG. 3B shows a display example in the English mode. The object shown in the figure has an image file of a balloon part and text data in the balloon as object components. An image file that displays a balloon including a character display image may be used as one object component. Since the text data can be displayed only in a language for which a font is prepared in the receiving device 7, the object component is an image file including a character display image, thereby limiting the font to be implemented by the receiving device 7. In other words, multilingual display is possible.

オブジェクト構成要素が画像ファイルである場合、画像ファイル自体を変更することによりオブジェクトの形を変えることができる。また、オブジェクト構成要素を映像で表示させるときの位置、大きさ、透過度、色は、オブジェクトを指定したCSSファイルにおいて、position、width、height、opacity、colorなどの要素を用いることで任意に指定できる。また、CSSファイルのanimationやtransitionなどの要素を用いることで、オブジェクト構成要素に対してアニメーション動作や表示演出効果を付加することができる。HTMLのCANVASタグで記述されたオブジェクトについても同様である。   If the object component is an image file, the shape of the object can be changed by changing the image file itself. In addition, the position, size, transparency, and color when displaying object components in video can be specified arbitrarily by using elements such as position, width, height, opacity, and color in the CSS file that specifies the object. it can. Further, by using elements such as animation and transition of the CSS file, an animation operation and a display effect can be added to the object constituent elements. The same applies to objects described in the CANVAS tag of HTML.

図4は、出力制御情報の例を示す図である。出力制御情報には、オブジェクトの出力時間、オブジェクトを特定する情報であるオブジェクト名、モード、構成要素情報、及び、出力方法指定情報が対応付けて記述される。構成要素情報は、オブジェクト構成要素を特定する情報である。同図においては、構成要素情報に、オブジェクト構成要素のファイル名を設定しているが、URL(Universal Resource Locator)などオブジェクト構成要素の取得先や記憶場所を設定してもよい。また、構成要素情報が示す1つの取得先から、複数のオブジェクト構成要素を取得可能としてもよい。   FIG. 4 is a diagram illustrating an example of output control information. In the output control information, an object output time, an object name that is information for specifying the object, a mode, component information, and output method designation information are described in association with each other. The component element information is information that identifies an object component element. In the figure, the file name of the object component element is set in the component element information, but the acquisition destination and storage location of the object component element such as a URL (Universal Resource Locator) may be set. In addition, a plurality of object constituent elements may be acquired from one acquisition destination indicated by the constituent element information.

モードは、ユーザにより指示される出力モードである。同図においては、モード「1」、「2」、「3」を用いており、「all」は全モードを示す。受信装置7は、オブジェクト名により指定されるオブジェクト出力命令を実行する際、オブジェクト名と出力モードによって出力対象のオブジェクト構成要素を選択し、選択したオブジェクト構成要素の出力方法指定情報を取得する。   The mode is an output mode instructed by the user. In the figure, modes “1”, “2”, and “3” are used, and “all” indicates all modes. When executing the object output command specified by the object name, the receiving device 7 selects an object component to be output according to the object name and the output mode, and acquires output method specifying information of the selected object component.

例えば、受信装置7においてアプリケーションプログラムに記述されたオブジェクト名「A01」のオブジェクトの出力命令を実行する。この場合、出力モードが日本語モードを表す「1」であれば、オブジェクト構成要素「01−jp.png」(図3(a)における吹き出しの画像データ)及び「Text−jp.txt」(図3(a)における吹き出し内の日本語のテキストデータ)が出力対象となる。一方、出力モードが英語モードを表す「2」であれば、オブジェクト構成要素「01−en.png」(図3(b)における吹き出しの画像データ)及び「Text−en.txt」(図3(b)における吹き出し内の英語のテキストデータ)が出力対象となる。
また、受信装置7においてオブジェクト名「A02」のオブジェクトの出力命令を実行する場合、出力モードが「1」、「2」、「3」のいずれであっても、オブジェクト構成要素「02.png」が出力対象となる。
また、例えば、受信装置7においてオブジェクト名「A03」のオブジェクトの出力命令を実行する。この場合、出力モードが「1」であれば、オブジェクト構成要素「03.png」及び「Sound1−jp.mp3」が出力対象となり、出力モードが「2」であれば、オブジェクト構成要素「03.png」及び「Sound1−en.mp3」が出力対象となる。
For example, the receiving device 7 executes an output command for the object with the object name “A01” described in the application program. In this case, if the output mode is “1” representing the Japanese mode, the object component “01-jp.png” (the image data of the balloon in FIG. 3A) and “Text-jp.txt” (FIG. 3 (a) Japanese text data in a speech balloon) is an output target. On the other hand, if the output mode is “2” representing the English mode, the object component “01-en.png” (the image data of the balloon in FIG. 3B) and “Text-en.txt” (FIG. 3 ( The English text data in the balloon in b) is the output target.
When the output command for the object with the object name “A02” is executed in the receiving device 7, the object component “02.png” is output regardless of the output mode “1”, “2”, or “3”. Is the output target.
Also, for example, the receiving device 7 executes an output command for the object with the object name “A03”. In this case, if the output mode is “1”, the object components “03.png” and “Sound1-jp.mp3” are output targets, and if the output mode is “2”, the object component “03. “png” and “Sound1-en.mp3” are output targets.

出力方法指定情報は、オブジェクト構成要素を映像で表示するときの画面上の表示位置(x座標、y座標)、大きさ(幅、高さ)、透明度、色、効果、レイヤ、及び、オブジェクト構成要素を音声で出力するとき音量、ならびにユーザ制御許可情報などの項目を含む。同図では、オブジェクト構成要素毎に出力方法指定情報を設定しているが、オブジェクト毎に指定してもよい。また、出力方法指定情報の項目の一部をオブジェクト毎に指定し、他の出力方法指定情報の項目をオブジェクト構成要素毎に指定してもよい。   The output method designation information includes a display position (x coordinate, y coordinate), size (width, height), transparency, color, effect, layer, and object configuration when the object component is displayed as a video. When an element is output by voice, items such as volume and user control permission information are included. In the figure, output method designation information is set for each object component, but it may be designated for each object. Also, a part of the output method designation information item may be designated for each object, and the other output method designation information item may be designated for each object component.

効果は、例えば、画像の移動表示や、ディゾルブによる画像の消去など、アニメーション動作や表示演出効果を示す。レイヤは、映像の表示レイヤであり、例えば、2以上のオブジェクト構成要素を表示させる場合の重なりを指定する。同図に示す設定の場合、オブジェクト構成要素「01−jp.png」と「Text−jp.txt」を同時に表示させる場合、レイヤが上の「Text−jp.txt」が「01−jp.png」よりも上に表示される。レイヤが設定されていない場合は、最も上のレイヤなど所定のレイヤとすることができる。ユーザ制御許可情報は、「permit」の場合はユーザ制御許可を示し、「force」の場合はユーザ制御不可を示す。なお、ユーザ制御許可情報は、表示位置、表示の大きさ、透明度、色、効果、音量のそれぞれの項目について、ユーザ制御が可であるか不可であるかを指定する情報であってもよい。   The effect indicates, for example, an animation operation or display effect such as moving display of an image or erasing an image by a dissolve. The layer is a video display layer, and specifies, for example, an overlap when two or more object components are displayed. In the case of the setting shown in the figure, when the object components “01-jp.png” and “Text-jp.txt” are displayed at the same time, “Text-jp.txt” on the upper layer is “01-jp.png”. "Is displayed above. When a layer is not set, a predetermined layer such as the uppermost layer can be used. The user control permission information indicates user control permission in the case of “permit”, and indicates that user control is not possible in the case of “force”. The user control permission information may be information that specifies whether user control is possible or not for each of the display position, display size, transparency, color, effect, and volume.

次に、放送通信連携システムの動作について説明する。
オブジェクトの出力は、放送による指示に基づいて行ってもよく、アプリケーションプログラム内に記述された出力時間に基づいて行ってもよい。そこでまず、放送による指示に基づいてオブジェクトの出力を行う場合について説明する。
Next, the operation of the broadcasting / communication cooperation system will be described.
The output of the object may be performed based on an instruction by broadcasting, or may be performed based on an output time described in the application program. First, a case where an object is output based on a broadcast instruction will be described.

図5は、放送通信連携システムのオブジェクト制御のシーケンス図を示す。同図に示すシーケンスでは、アプリケーション配信装置4から受信装置7へアプリケーションプログラムを通信で配信する。放送送出装置2は、イベントメッセージを用い、番組進行に合わせて出力対象のオブジェクトを放送により受信装置7に指示する。受信装置7は、指定されたオブジェクトのオブジェクト構成要素をアプリケーションプログラム内から、あるいは、通信によりコンテンツ配信装置5から取得し、番組と連動させて出力する。   FIG. 5 shows a sequence diagram of object control of the broadcasting / communication cooperation system. In the sequence shown in the figure, the application program is distributed from the application distribution device 4 to the reception device 7 by communication. The broadcast transmission device 2 uses the event message to instruct the reception device 7 by broadcasting the object to be output in accordance with the progress of the program. The receiving device 7 acquires the object component of the specified object from the application program or from the content distribution device 5 by communication, and outputs it in conjunction with the program.

まず、オブジェクトを表示制御するにあたって、放送事業者あるいはアプリケーション提供業者は、放送番組とアプリケーションプログラムを参照し、出力制御情報生成装置3により、図4に示す例のような出力制御情報を生成する。出力制御情報生成装置3は、生成された出力制御情報を放送送出装置2に出力する(ステップS105)。アプリケーションプログラムには、出力対象のオブジェクト名とモード毎のオブジェクト構成要素を対応付けた出力命令が記述され、出力時間を除く出力制御情報(オブジェクトまたはオブジェクト構成要素の出力方法指定情報)が記述されている。   First, in performing display control of an object, a broadcaster or an application provider refers to a broadcast program and an application program, and generates output control information such as the example shown in FIG. The output control information generation device 3 outputs the generated output control information to the broadcast transmission device 2 (step S105). In the application program, an output command that associates an object name to be output with an object component for each mode is described, and output control information (output method designation information of an object or object component) other than the output time is described. Yes.

放送送出装置2は、アプリケーションと連動する番組の開始時刻になると、その番組のコンテンツデータを設定した放送信号を出力する(ステップS110)。コンテンツデータは、符号化された映像データ及び音声データであり、PTS(Presentation Time Stamp:提示時刻情報)が付加される。   When the broadcast transmission device 2 reaches the start time of the program linked with the application, the broadcast transmission device 2 outputs a broadcast signal in which the content data of the program is set (step S110). The content data is encoded video data and audio data, and a PTS (Presentation Time Stamp) is added to the content data.

受信装置7の放送受信部701は、放送送出装置2が放送した放送信号を受信すると、受信した放送信号を復調して分離部702に出力し、分離部702は、復調された放送信号を、映像データ、音声データ、コンテンツデータ以外のデータ(以下、「他のデータ」と記載する。)に分離する。分離部702は、映像データを映像復号部703に出力し、音声データを音声復号部704に出力し、他のデータを放送通信連携部721に出力する。映像復号部703は、付加されているPTSが時計741から出力された時刻に対応する映像データをデコードし、映像合成部722に出力する。映像合成部722は、アプリケーション実行部713から映像データが入力されていないため、番組の映像データのみを映像表示部731に出力し、映像表示部731は、入力された映像データに基づいて番組映像を表示する。同様に、音声復号部704は、付加されているPTSが時計741から出力された時刻に対応する音声データをデコードし、音声合成部723に出力する。音声合成部723は、アプリケーション実行部713から音声データが入力されていないため、番組の音声データのみを音声出力部732に出力し、音声出力部732は、入力された音声データに基づいて番組音声を出力する。   When the broadcast receiving unit 701 of the receiving device 7 receives the broadcast signal broadcast by the broadcast sending device 2, the received broadcast signal is demodulated and output to the separating unit 702. The separating unit 702 outputs the demodulated broadcast signal, The data is separated into data other than video data, audio data, and content data (hereinafter referred to as “other data”). The separation unit 702 outputs video data to the video decoding unit 703, outputs audio data to the audio decoding unit 704, and outputs other data to the broadcast communication cooperation unit 721. The video decoding unit 703 decodes video data corresponding to the time when the added PTS is output from the clock 741 and outputs the decoded video data to the video synthesis unit 722. Since the video data is not input from the application execution unit 713, the video composition unit 722 outputs only the video data of the program to the video display unit 731. The video display unit 731 displays the program video based on the input video data. Is displayed. Similarly, the speech decoding unit 704 decodes speech data corresponding to the time when the added PTS is output from the clock 741, and outputs the decoded speech data to the speech synthesis unit 723. Since no audio data is input from the application execution unit 713, the audio synthesis unit 723 outputs only the audio data of the program to the audio output unit 732, and the audio output unit 732 outputs the program audio based on the input audio data. Is output.

番組開始後、放送送出装置2は、アプリケーションプログラムの取得先を示すロケーション情報を設定した放送信号を出力する(ステップS115)。例えば、ロケーション情報は、URLにより示され、AIT(Application Information Table)に設定される。   After the start of the program, the broadcast transmission device 2 outputs a broadcast signal in which location information indicating the acquisition destination of the application program is set (step S115). For example, the location information is indicated by a URL and set in an AIT (Application Information Table).

受信装置7の放送受信部701は放送信号を復調し、分離部702は、復調された放送信号から分離した映像データ、音声データ、他のデータをそれぞれ、映像復号部703、音声復号部704、放送通信連携部721に出力する。上記と同様に、映像合成部722は、映像復号部703がPTSに基づいて選択し、デコードした映像データを映像表示部731に表示させ、音声合成部723は、音声復号部704がPTSに基づいて選択し、デコードした音声データを音声出力部732から出力させる。   The broadcast receiving unit 701 of the receiving device 7 demodulates the broadcast signal, and the separation unit 702 converts the video data, audio data, and other data separated from the demodulated broadcast signal into a video decoding unit 703, an audio decoding unit 704, It outputs to the broadcast communication cooperation part 721. Similarly to the above, the video synthesis unit 722 causes the video decoding unit 703 to select and decode the decoded video data on the video display unit 731, and the audio synthesis unit 723 includes the audio decoding unit 704 based on the PTS. The selected audio data is decoded and output from the audio output unit 732.

放送通信連携部721は、他のデータからロケーション情報を取得すると、アプリケーション管理部711にロケーション情報を出力し、アプリケーションプログラムの取得を指示する。アプリケーション管理部711は、ロケーション情報が示す取得先を宛先としてアプリケーション配信装置4にアクセスし、アプリケーションプログラムの取得要求を送信する(ステップS120)。アプリケーション配信装置4は、アクセスに用いられた宛先に対応したアプリケーションプログラムを受信装置7に配信する(ステップS125)。受信装置7のアプリケーション管理部711は、配信されたアプリケーションプログラムをアプリケーション記憶部712に書き込む。アプリケーション管理部711は、配信されたアプリケーションプログラムの実行をアプリケーション実行部713に指示する。アプリケーション実行部713は、アプリケーション記憶部712からアプリケーションプログラムを読み出して実行を開始する。   When the broadcast communication cooperation unit 721 acquires the location information from other data, the broadcast communication cooperation unit 721 outputs the location information to the application management unit 711 and instructs acquisition of the application program. The application management unit 711 accesses the application distribution apparatus 4 with the acquisition destination indicated by the location information as a destination, and transmits an application program acquisition request (step S120). The application distribution device 4 distributes the application program corresponding to the destination used for access to the reception device 7 (step S125). The application management unit 711 of the receiving device 7 writes the distributed application program in the application storage unit 712. The application management unit 711 instructs the application execution unit 713 to execute the distributed application program. The application execution unit 713 reads the application program from the application storage unit 712 and starts execution.

放送送出装置2は、番組進行のタイミングに応じて出力対象のオブジェクトのオブジェクト名を放送信号に設定して送出する(ステップS130)。具体的には、放送送出装置2は、番組開始からの経過時刻が、出力制御情報に記述されている出力時間となったことを検出すると、その出力時間に対応したオブジェクト名を読み出して放送信号のイベントメッセージに出力指示情報として設定し、出力する。   The broadcast transmission apparatus 2 sets the object name of the object to be output as a broadcast signal according to the program progress timing and transmits it (step S130). Specifically, when the broadcast transmission device 2 detects that the elapsed time from the start of the program has reached the output time described in the output control information, the broadcast transmission device 2 reads out the object name corresponding to the output time and reads the broadcast signal. Is set as output instruction information in the event message and output.

受信装置7は、出力制御情報が設定された放送信号を受信する(ステップS135)。放送受信部701は、受信した放送信号を復調し、分離部702は、復調された放送信号から分離した映像データ、音声データ、他のデータをそれぞれ、映像復号部703、音声復号部704、放送通信連携部721に出力する。放送通信連携部721は、イベントメッセージに出力指示情報が設定されていることを検知すると、出力指示情報に設定されているオブジェクト名をアプリケーション実行部713に出力し、オブジェクトの出力命令の実行を指示する(ステップS140)。   The receiving device 7 receives the broadcast signal in which the output control information is set (Step S135). The broadcast receiving unit 701 demodulates the received broadcast signal, and the separation unit 702 converts the video data, audio data, and other data separated from the demodulated broadcast signal into a video decoding unit 703, an audio decoding unit 704, and a broadcast, respectively. The data is output to the communication cooperation unit 721. When the broadcast communication cooperation unit 721 detects that the output instruction information is set in the event message, the broadcast communication cooperation unit 721 outputs the object name set in the output instruction information to the application execution unit 713, and instructs execution of the object output command. (Step S140).

アプリケーション実行部713は、指示されたオブジェクトの出力命令を実行し、実行中のアプリケーションプログラムから、出力指示情報に設定されているオブジェクト名と、入力制御部714が入力を受けたモード、あるいは、デフォルトのモードとに対応した構成要素情報を読み出す。アプリケーション実行部713は、構成要素情報が取得先を示している場合、通信ネットワーク9を介して取得先のコンテンツ配信装置5にアクセスする(ステップS145)。コンテンツ配信装置5は、取得先に応じたオブジェクト構成要素を受信装置7に配信する(ステップS150)。なお、構成要素情報がファイル名を示している場合、アプリケーション実行部713は、アプリケーションプログラムからオブジェクト構成要素を取得する。   The application execution unit 713 executes an output command for the specified object, and from the application program being executed, the object name set in the output command information and the mode in which the input control unit 714 has received an input, or the default The component information corresponding to the mode is read out. When the component information indicates the acquisition destination, the application execution unit 713 accesses the acquisition destination content distribution apparatus 5 via the communication network 9 (step S145). The content distribution device 5 distributes the object components corresponding to the acquisition destination to the reception device 7 (step S150). If the component information indicates a file name, the application execution unit 713 acquires an object component from the application program.

アプリケーション実行部713は、取得したオブジェクト構成要素を、アプリケーションプログラムに記述されている当該オブジェクト構成要素の出力制御情報に従って出力する。なお、出力方法指定情報がオブジェクト名に対応して記述されている場合、その出力方法指定情報を、指定されたオブジェクト名に対応した全ての構成要素情報に適用する。これにより、アプリケーション実行部713は、オブジェクト構成要素を出力方法指定情報に従って表示させる映像データを映像合成部722に出力し、オブジェクト構成要素を出力方法指定情報に従って出力させる音声データを音声合成部723に出力する。   The application execution unit 713 outputs the acquired object component according to the output control information of the object component described in the application program. When the output method designation information is described corresponding to the object name, the output method designation information is applied to all the component element information corresponding to the designated object name. As a result, the application execution unit 713 outputs video data for displaying the object component according to the output method designation information to the video synthesis unit 722, and audio data for outputting the object component according to the output method designation information to the voice synthesis unit 723. Output.

一方、映像復号部703は、付加されているPTSが時計741から出力された時刻に対応した映像データをデコードし、映像合成部722に出力する。映像合成部722は、映像復号部703から入力された映像データの映像に、アプリケーション実行部713から入力された映像データの映像を重ねた映像を出力させる映像データを生成し、映像表示部731に表示させる。同様に、音声復号部704は、付加されているPTSが時計741から出力された時刻に対応した音声データをデコードし、音声合成部723に出力する。音声合成部723は、音声復号部704から入力された音声データの音声と、アプリケーション実行部713から入力された音声データの音声とを合成した音声を出力させる音声データを生成し、音声出力部732から音声として出力させる(ステップS155)。   On the other hand, the video decoding unit 703 decodes video data corresponding to the time when the added PTS is output from the clock 741, and outputs the video data to the video synthesis unit 722. The video synthesizing unit 722 generates video data for outputting a video in which the video data input from the application execution unit 713 is superimposed on the video data input from the video decoding unit 703, and the video display unit 731 displays the video data. Display. Similarly, the speech decoding unit 704 decodes speech data corresponding to the time when the added PTS is output from the clock 741, and outputs the decoded speech data to the speech synthesis unit 723. The voice synthesizer 723 generates voice data that outputs a voice obtained by synthesizing the voice of the voice data input from the voice decoder 704 and the voice of the voice data input from the application execution unit 713, and the voice output unit 732. Is output as voice (step S155).

放送送出装置2は、番組のコンテンツデータを含む放送信号の送出を継続する。そして、番組開始からの経過時刻が出力制御情報に記述されている次の出力時間となった場合、ステップS130からの処理を繰り返し、放送送出装置2は、その出力時間に対応したオブジェクト名を読み出して放送信号のイベントメッセージに設定し、出力する。   The broadcast transmission device 2 continues to transmit a broadcast signal including program content data. When the elapsed time from the start of the program becomes the next output time described in the output control information, the process from step S130 is repeated, and the broadcast transmission device 2 reads the object name corresponding to the output time. And set it as an event message of the broadcast signal.

上記では、放送送出装置2は、出力制御情報に記述されている出力時間に、その出力時間に対応したオブジェクト名を放送信号に設定して出力しているが、オブジェクト名と出力方法指定情報を放送信号に設定して送出してもよい。この場合、アプリケーションプログラムには、出力対象のオブジェクト名とモード毎の構成要素情報を対応付けた出力命令が記述される。上述したシーケンスとの差分を以下に示す。   In the above, the broadcast transmission apparatus 2 sets the object name corresponding to the output time in the output time described in the output control information, and outputs the broadcast signal. A broadcast signal may be set and transmitted. In this case, in the application program, an output command in which the object name to be output is associated with the component information for each mode is described. Differences from the above sequence are shown below.

ステップS130において、放送送出装置2は、番組開始からの経過時刻が、出力制御情報に記述されている出力時間となったことを検出すると、その出力時間に対応したオブジェクト名と、そのオブジェクト名に対応した出力方法指定情報を読み出す。放送送出装置2は、読み出したオブジェクト名及び出力方法指定情報を、放送信号のイベントメッセージに出力指示情報として設定し、送出する。オブジェクト名に対応した出力方法指定情報は、オブジェクト全体に適用する出力方法指定情報、あるいは、オブジェクトを構成する各オブジェクト構成要素に適用する出力方法指定情報である。   In step S130, when the broadcast transmission apparatus 2 detects that the elapsed time from the start of the program has reached the output time described in the output control information, the broadcast name is set to the object name corresponding to the output time and the object name. Read the corresponding output method specification information. The broadcast sending device 2 sets the read object name and output method designation information as output instruction information in the event message of the broadcast signal and sends it. The output method designation information corresponding to the object name is output method designation information applied to the entire object or output method designation information applied to each object component constituting the object.

ステップS140において、分離部702は、復調された放送信号から分離した他のデータを放送通信連携部721に出力する。放送通信連携部721は、イベントメッセージに出力指示情報が設定されていることを検知すると、出力指示情報に設定されているオブジェクト名と出力方法指定情報をアプリケーション実行部713に出力し、オブジェクトの出力命令の実行を指示する。ステップS145〜S155において、アプリケーション実行部713は、オブジェクトの出力命令を実行してオブジェクト名に対応した構成要素情報に基づきオブジェクト構成要素を取得すると、取得したオブジェクト構成要素を、出力指示情報で指示された出力方法指定情報に従って出力させる映像データ、音声データを出力する。例えば、アプリケーション実行部713は、出力方法指定情報がCSSファイルに設定されているものとして、オブジェクト構成要素の出力を制御する。   In step S140, the separation unit 702 outputs other data separated from the demodulated broadcast signal to the broadcast communication cooperation unit 721. When the broadcast communication cooperation unit 721 detects that the output instruction information is set in the event message, the broadcast communication cooperation unit 721 outputs the object name and output method designation information set in the output instruction information to the application execution unit 713, and outputs the object. Instructs execution of the instruction. In steps S <b> 145 to S <b> 155, when the application execution unit 713 executes the object output command and acquires the object component based on the component information corresponding to the object name, the acquired object component is instructed by the output instruction information. Video data and audio data to be output are output according to the output method designation information. For example, the application execution unit 713 controls the output of the object component on the assumption that the output method designation information is set in the CSS file.

なお、放送送出装置2は、出力方法指定情報をオブジェクトの出力時刻の都度イベントメッセージに設定する代わりに、各オブジェクトの出力方法指定情報を番組開始の冒頭などに放送信号に設定して送出してもよい。放送送出装置2の放送通信連携部721は、受信した出力制御情報をアプリケーション管理部711に出力し、アプリケーション記憶部712に記憶させる。アプリケーション実行部713は、放送信号に設定されている出力指示情報により指示されたオブジェクト名のオブジェクトの出力命令を実行する際、オブジェクト名に対応したオブジェクト構成要素を、アプリケーション管理部711に記憶されている出力方法指定情報に従って出力させる映像データ、音声データを出力する。
あるいは、放送通信連携部721が出力方法指定情報を保持しておくようにしてもよい。放送通信連携部721は、イベントメッセージに出力指示情報が設定されていることを検知すると、出力指示情報に設定されているオブジェクト名と、そのオブジェクト名に対応した出力方法指定情報をアプリケーション実行部713に出力する。
The broadcast sending apparatus 2 sets the output method designation information of each object as a broadcast signal at the beginning of the program start, etc., instead of setting the output method designation information in the event message every time the object is output. Also good. The broadcast communication cooperation unit 721 of the broadcast transmission device 2 outputs the received output control information to the application management unit 711 and stores it in the application storage unit 712. The application execution unit 713 stores an object component corresponding to the object name in the application management unit 711 when executing an output command for the object having the object name specified by the output instruction information set in the broadcast signal. Video data and audio data to be output are output according to the output method designation information.
Or you may make it the broadcast communication cooperation part 721 hold | maintain output method designation | designated information. When the broadcast communication cooperation unit 721 detects that the output instruction information is set in the event message, the application execution unit 713 displays the object name set in the output instruction information and the output method designation information corresponding to the object name. Output to.

続いて、オブジェクトの出力をアプリケーションプログラム内に記述された出力時間に基づいて行う場合の放送通信連携システムの動作について説明する。
図6は、アプリケーションプログラム内に記述された出力時間に基づいてオブジェクトの出力を行う場合の放送通信連携システムのオブジェクト制御のシーケンス図を示す。同図に示すシーケンスでは、アプリケーション配信装置4から出力制御情報を設定したアプリケーションプログラムを受信装置7へ通信で配信し、受信装置7は、番組開始からの時刻と、出力制御情報に記述されている出力時間とを照合してオブジェクトの出力命令を実行する。受信装置7は、実行するオブジェクトのオブジェクト構成要素をアプリケーションプログラム内から、あるいは、通信によりコンテンツ配信装置5から取得し、番組と連動させて出力する。
Next, the operation of the broadcasting / communication cooperation system when an object is output based on an output time described in an application program will be described.
FIG. 6 shows a sequence diagram of object control of the broadcasting / communication cooperation system when an object is output based on an output time described in the application program. In the sequence shown in the figure, the application program in which the output control information is set is distributed from the application distribution device 4 to the receiving device 7 by communication, and the receiving device 7 is described in the time from the start of the program and the output control information. The output command of the object is executed by collating with the output time. The receiving device 7 acquires the object component of the object to be executed from the application program or from the content distribution device 5 through communication, and outputs it in conjunction with the program.

まず、オブジェクトを表示制御するにあたって、放送事業者あるいはアプリケーション提供業者は、出力制御情報生成装置3により、図4に示す例のような出力制御情報を生成する。出力制御情報生成装置3は、生成された出力制御情報をアプリケーション配信装置4に出力する(ステップS205)。アプリケーション製作者は、出力制御情報を全て含んだアプリケーションプログラムを作成する。アプリケーションプログラムには、出力対象のオブジェクト名とモード毎のオブジェクト構成要素とを対応付けた出力命令が記述される。出力方法指定情報については、例えば、CSSファイルに記述される。作成されたアプリケーションプログラムは、アプリケーション配信装置4に登録される(ステップS210)。   First, when performing display control of an object, a broadcaster or an application provider generates output control information like the example shown in FIG. The output control information generation device 3 outputs the generated output control information to the application distribution device 4 (step S205). The application creator creates an application program that includes all output control information. In the application program, an output command in which an object name to be output is associated with an object component for each mode is described. The output method designation information is described in, for example, a CSS file. The created application program is registered in the application distribution device 4 (step S210).

放送送出装置2は、アプリケーションと連動する番組の開始時刻になると、その番組のコンテンツデータを設定した放送信号を出力する(ステップS215)。受信装置7の放送受信部701は、放送信号を復調し、分離部702は、復調された放送信号から分離した映像データ、音声データ、他のデータをそれぞれ、映像復号部703、音声復号部704、放送通信連携部721に出力する。映像合成部722は、映像復号部703がPTSに基づいて選択し、デコードした映像データを映像表示部731に表示させ、音声合成部723は、音声復号部704がPTSに基づいて選択し、デコードした音声を音声出力部732から出力させる。   When the broadcast transmission device 2 reaches the start time of the program linked with the application, the broadcast transmission device 2 outputs a broadcast signal in which the content data of the program is set (step S215). The broadcast receiving unit 701 of the receiving device 7 demodulates the broadcast signal, and the separation unit 702 converts the video data, audio data, and other data separated from the demodulated broadcast signal into a video decoding unit 703 and an audio decoding unit 704, respectively. And output to the broadcasting / communication cooperation unit 721. The video synthesis unit 722 causes the video decoding unit 703 to select and decode the decoded video data on the video display unit 731, and the audio synthesis unit 723 selects and decodes the audio decoding unit 704 based on the PTS. The voice output unit 732 outputs the voice that has been played.

番組開始後、放送送出装置2は、アプリケーションプログラムの取得先を示すロケーション情報を設定した放送信号を出力する(ステップS220)。受信装置7は、図5のステップS120〜S125と同様の処理を行う。これにより、受信装置7は、アプリケーション配信装置4にアクセスしてアプリケーションプログラムの取得要求を送信し(ステップS225)、アプリケーション配信装置4から配信されたアプリケーションプログラムを記憶する(ステップS230)。   After the program starts, the broadcast transmission device 2 outputs a broadcast signal in which location information indicating the application program acquisition destination is set (step S220). The receiving device 7 performs the same processing as steps S120 to S125 in FIG. Thereby, the receiving device 7 accesses the application distribution device 4 to transmit an application program acquisition request (step S225), and stores the application program distributed from the application distribution device 4 (step S230).

放送通信連携部721は、放送送出装置2から受信した放送信号に設定されている他のデータに基づいてアプリケーション連動番組の開始を検知すると、アプリケーション実行部713にアプリケーションプログラムの実行を指示する(ステップS235)。例えば、放送通信連携部721は、SIからアプリケーション連動番組の放送開始時刻を取得し、時計741が出力した時刻と放送開始時刻との一致により番組開始を検知する。アプリケーション実行部713は、アプリケーション記憶部712からアプリケーションプログラムを読み出して実行を開始する。   When the broadcast communication cooperation unit 721 detects the start of the application-linked program based on other data set in the broadcast signal received from the broadcast transmission device 2, the broadcast communication cooperation unit 721 instructs the application execution unit 713 to execute the application program (step S1). S235). For example, the broadcast communication cooperation unit 721 acquires the broadcast start time of the application-linked program from the SI, and detects the start of the program based on the coincidence of the time output by the clock 741 and the broadcast start time. The application execution unit 713 reads the application program from the application storage unit 712 and starts execution.

アプリケーション実行部713は、アプリケーションプログラムに記述されている出力制御情報を参照し、番組開始からの経過時刻が出力制御情報に記述されている出力時間となったことを検出すると、その出力時間に対応したオブジェクト名を読み出す。アプリケーション実行部713は、読み出したオブジェクト名のオブジェクトの出力命令を実行し、アプリケーションプログラムからオブジェクト名と、入力制御部714が入力を受けたモード、あるいは、デフォルトのモードとに対応した構成要素情報を読み出す。アプリケーション実行部713は、構成要素情報が取得先を示している場合、コンテンツ配信装置5から取得先に応じたオブジェクト構成要素を取得し、構成要素情報がファイル名を示している場合、アプリケーションプログラムからオブジェクト構成要素を取得する。   When the application execution unit 713 refers to the output control information described in the application program and detects that the elapsed time from the start of the program is the output time described in the output control information, the application execution unit 713 responds to the output time. Read the object name. The application execution unit 713 executes an output command of the object with the read object name, and displays the component name corresponding to the object name from the application program and the mode received by the input control unit 714 or the default mode. read out. When the component information indicates the acquisition destination, the application execution unit 713 acquires the object component corresponding to the acquisition destination from the content distribution device 5, and when the component information indicates the file name, Get the object component.

アプリケーション実行部713は、出力制御情報から各構成要素情報の出力方法指定情報を読み出す。なお、出力方法指定情報がオブジェクト名に対応して記述されている場合、その出力方法指定情報を、そのオブジェクト名に対応した全ての構成要素情報の出力方法指定情報とする。アプリケーション実行部713は、取得したオブジェクト構成要素を出力方法指定情報に従って表示させる映像データを映像合成部722に出力し、オブジェクト構成要素を出力方法指定情報に従って出力させる音声データを音声合成部723に出力する。   The application execution unit 713 reads output method designation information of each component information from the output control information. When the output method designation information is described corresponding to the object name, the output method designation information is set as the output method designation information of all the component element information corresponding to the object name. The application execution unit 713 outputs video data for displaying the acquired object component according to the output method designation information to the video synthesis unit 722, and outputs audio data for outputting the object component according to the output method designation information to the voice synthesis unit 723. To do.

一方、映像復号部703は、付加されているPTSが時計741から出力された時刻に対応する映像データをデコードし、映像合成部722に出力する。映像合成部722は、映像復号部703から入力された映像データの映像に、アプリケーション実行部713から入力された映像データの映像を重ねた映像を出力させる映像データを生成し、映像表示部731に表示させる。同様に、音声復号部704は、付加されているPTSが時計741から出力された時刻に対応する音声データをデコードし、音声合成部723に出力する。音声合成部723は、音声復号部704から入力された音声データの音声と、アプリケーション実行部713から入力された音声データの音声とを合成した音声を出力させる音声データを生成し、音声出力部732から音声として出力させる(ステップS240)。   On the other hand, the video decoding unit 703 decodes video data corresponding to the time when the added PTS is output from the clock 741 and outputs the decoded video data to the video synthesis unit 722. The video synthesizing unit 722 generates video data for outputting a video in which the video data input from the application execution unit 713 is superimposed on the video data input from the video decoding unit 703, and the video display unit 731 displays the video data. Display. Similarly, the speech decoding unit 704 decodes speech data corresponding to the time when the added PTS is output from the clock 741, and outputs the decoded speech data to the speech synthesis unit 723. The voice synthesizer 723 generates voice data that outputs a voice obtained by synthesizing the voice of the voice data input from the voice decoder 704 and the voice of the voice data input from the application execution unit 713, and the voice output unit 732. Is output as voice (step S240).

アプリケーション実行部713は、番組開始からの経過時刻が出力制御情報に記述されている次の出力時間となったことを検出すると、ステップS240の処理を繰り返す。   When detecting that the elapsed time from the start of the program is the next output time described in the output control information, the application execution unit 713 repeats the process of step S240.

続いて、ユーザによるオブジェクトの出力制御について説明する。
受信装置7の入力制御部714は、操作デバイスからユーザによるアプリケーションの出力停止指示が入力された場合、アプリケーション実行部713に出力停止を通知する。アプリケーション実行部713は、出力停止を受信しても、アプリケーションプログラムの実行を継続する。アプリケーション実行部713は、出力停止の受信後、出力許可を受信するまでは、ユーザ制御許可情報に「permit」が設定されているオブジェクト構成要素の映像データや音声データの出力を停止する。ただし、アプリケーション実行部713は、ユーザ制御許可情報に「force」が設定されているオブジェクト構成要素の映像データや音声データについては出力を行う。
Next, object output control by the user will be described.
The input control unit 714 of the reception device 7 notifies the application execution unit 713 of output stop when an application output stop instruction is input from the operation device by the user. The application execution unit 713 continues to execute the application program even when the output stop is received. After receiving the output stop, the application execution unit 713 stops the output of the video data and audio data of the object component in which “permit” is set in the user control permission information until the output permission is received. However, the application execution unit 713 outputs the video data and audio data of the object component for which “force” is set in the user control permission information.

そして、入力制御部714は、操作デバイスからユーザによるアプリケーションの出力指示が入力された場合、アプリケーション実行部713に出力許可を通知する。アプリケーション実行部713は、出力許可を受信すると、アプリケーションプログラムの実行結果であるオブジェクト構成要素の映像データや音声データをユーザ制御許可情報の設定にかかわらず出力する。   The input control unit 714 notifies the application execution unit 713 of output permission when the user outputs an application output instruction from the operation device. Upon receiving the output permission, the application execution unit 713 outputs the video data and audio data of the object constituent element, which is the execution result of the application program, regardless of the setting of the user control permission information.

これにより、受信装置7は、ユーザがアプリケーションの出力停止を指示した場合でも、ユーザ制御が許可されていないオブジェクトやオブジェクト構成要素については、番組の映像や音声と合成した出力を継続し、ユーザ制御が許可されていないオブジェクトやオブジェクト構成要素のみ出力を停止する。従って、ユーザにオブジェクトを出力させるか否かの決定権を与えながらも、アプリケーションの製作者が演出等のために必要と思われるオブジェクトについては出力させることができる。   As a result, even when the user instructs to stop the output of the application, the receiving device 7 continues the output synthesized with the video and audio of the program for objects and object components that are not permitted to be controlled by the user. Only output objects and object components that are not allowed to be Therefore, while giving the user the right to determine whether or not to output an object, the application producer can output the object that is deemed necessary for production or the like.

なお、上記においては、ユーザ制御許可情報が、オブジェクト毎またはオブジェクト構成要素毎にユーザ制御を許可するか否かを示す場合について説明したが、表示位置、表示の大きさ、透明度、色、効果、音量のそれぞれについてユーザ制御を許可するか否かを指定する情報であり得る。この場合、アプリケーション実行部713は、入力制御部714から出力停止の通知を受けると、ユーザ制御許可情報に設定されている出力方法指定情報のうち、「force」が設定されている項目の出力方法を適用したオブジェクト構成要素の映像データや音声データを出力する。
これにより、ユーザがオブジェクトの出力停止を指示した場合でも、受信装置7は、アプリケーションの製作者が演出等のために必要と思われるオブジェクトを、必要と思われる表現により出力することができる。
In the above description, the case where the user control permission information indicates whether or not the user control is permitted for each object or each object component has been described. However, the display position, the display size, the transparency, the color, the effect, It may be information specifying whether or not to allow user control for each volume. In this case, when the application execution unit 713 receives an output stop notification from the input control unit 714, the output method of the item in which “force” is set among the output method designation information set in the user control permission information Video data and audio data of the object component to which is applied.
As a result, even when the user instructs the output stop of the object, the receiving device 7 can output the object that is considered necessary for the production of the application by the expression that seems necessary.

また、受信装置7の入力制御部714が操作デバイスから出力方法変更指示の入力を受けると、その出力方法変更指示をアプリケーション実行部713に出力する。出力方法変更指示は、例えば、表示位置、表示の大きさ、透明度、色、音量のうち1以上の項目を指定する変更指示である。出力方法変更指示は、出力方法変更対象の項目の変更後の具体的な数値(表示の大きさであれば幅や高さの値)や設定値(色であれば、「青」など)を指定してもよく、現在の設定に対する変更割合(表示の大きさであれば「1.5倍」など)で指定してもよい。   When the input control unit 714 of the receiving device 7 receives an input of an output method change instruction from the operation device, the output method change instruction is output to the application execution unit 713. The output method change instruction is, for example, a change instruction that designates one or more items among the display position, display size, transparency, color, and volume. For the output method change instruction, specify the specific value (width and height values for display size) and setting values (for example, “blue” for color) after changing the items to be changed. It may be specified, or it may be specified by a change ratio with respect to the current setting (such as “1.5 times” if the display size).

アプリケーション実行部713は、オブジェクト構成要素の出力方法指定情報を、出力方法変更指示に基づいて変更し、オブジェクト構成要素を変更した出力方法指定情報により出力させる映像データ、音声データをそれぞれ、映像合成部722、音声合成部723に出力する。ただし、アプリケーション実行部713は、ユーザ制御許可情報に「force」が設定されているオブジェクトまたはオブジェクト構成要素の出力方法指定情報については変更しない。また、ユーザ制御許可情報が、表示位置、表示の大きさ、透明度、色、効果、音量のそれぞれについてユーザ制御を許可するか否かを指定する情報である場合、ユーザ制御を許可しないことが設定されている項目については出力方法指定情報を変更しない。   The application execution unit 713 changes the output method designation information of the object component based on the output method change instruction, and each of the video data and the audio data to be output by the output method designation information with the changed object component 722 and output to the speech synthesis unit 723. However, the application execution unit 713 does not change the output method designation information of the object or object component for which “force” is set in the user control permission information. In addition, when the user control permission information is information that specifies whether or not to allow user control for each of the display position, display size, transparency, color, effect, and volume, it is set not to allow user control. The output method specification information is not changed for the specified items.

これにより、ユーザにオブジェクトの出力方法のカスタマイズを許容しながらも、アプリケーションの製作者が演出等のために必要と思われるオブジェクトについては製作者の意図どおりの出力方法で出力させることができる。   As a result, while allowing the user to customize the object output method, the object that the application producer seems to need for production or the like can be output in the output method intended by the producer.

なお、上記実施形態においては、アプリケーションプログラムを、アプリケーション配信装置4から受信装置7へ配信しているが、放送送出装置2からの放送波によりアプリケーション実行開始時刻よりも前までに放送で配信してもよい。
あるいは、受信装置7の入力制御部714が、操作デバイスからユーザ指定のアプリケーションプログラムの取得指示を受信し、アプリケーション管理部711が、指定されたアプリケーションプログラムをアプリケーション配信装置4から取得するようにしてもよい。
また、番組と連携可能なアプリケーションプログラムが複数ある場合、放送送出装置2は、オブジェクト名に加えてアプリケーションプログラムを特定する情報(例えば、アプリケーション名)をさらに放送信号に設定する。
In the above-described embodiment, the application program is distributed from the application distribution device 4 to the reception device 7. However, the application program is distributed by broadcast before the application execution start time by the broadcast wave from the broadcast transmission device 2. Also good.
Alternatively, the input control unit 714 of the reception device 7 may receive an instruction to acquire a user-specified application program from the operation device, and the application management unit 711 may acquire the specified application program from the application distribution device 4. Good.
When there are a plurality of application programs that can be linked with a program, the broadcast transmission apparatus 2 further sets information (for example, application name) for identifying the application program in addition to the object name in the broadcast signal.

また、上記実施形態においては、受信装置7の放送通信連携部721が、番組の開始を検知してアプリケーションプログラムの実行を指示しているが、入力制御部714が、操作デバイスからユーザによるアプリケーションプログラムの実行指示を受信してもよい。入力制御部714は、受信した実行指示をアプリケーション実行部713に通知し、アプリケーション実行部713は、実行指示により実行が指示されたアプリケーションプログラムをアプリケーション記憶部712から読み出して実行する。   In the above embodiment, the broadcasting / communication cooperation unit 721 of the receiving device 7 detects the start of the program and instructs the execution of the application program. However, the input control unit 714 receives the application program from the operation device by the user. The execution instruction may be received. The input control unit 714 notifies the application execution unit 713 of the received execution instruction, and the application execution unit 713 reads the application program instructed to be executed by the execution instruction from the application storage unit 712 and executes it.

また、受信装置7のアプリケーション実行部713は、オブジェクト構成要素をオブジェクト出力命令の実行前に取得してもよい。アプリケーション実行部713は、オブジェクトの出力命令を実行したときに、そのときのモードに応じて選択したオブジェクト構成要素の映像データ、音声データを出力する。
また、オブジェクト構成要素を、放送信号に含まれる字幕やデータ放送のオブジェクトとしてもよい。
Further, the application execution unit 713 of the reception device 7 may acquire the object component before executing the object output command. When the object execution command is executed, the application execution unit 713 outputs video data and audio data of the object component selected according to the mode at that time.
The object component may be a caption or data broadcast object included in the broadcast signal.

以上説明した実施形態によれば、放送と通信を連携させ、番組の進行と高度に連動させながら、ユーザの所望のオブジェクトを、アプリケーション製作者が設定した任意の出力方法により番組の映像や音声に重畳し、受信装置7に出力させることができる。これにより、これまでのデジタル放送ではできなかった、演出効果の高い情報提供が可能になる。   According to the embodiment described above, broadcasting and communication are linked, and the user's desired object is converted into video and audio of the program by an arbitrary output method set by the application producer while being highly linked with the progress of the program. The signals can be superimposed and output to the receiving device 7. As a result, it is possible to provide information with a high production effect, which has not been possible with conventional digital broadcasting.

また、ユーザがモードを選択する機能や、オブジェクトの出力をカスタマイズする機能を受信装置7に備えることにより、ユーザの嗜好に合わせたオブジェクトを、ユーザの嗜好に合わせた出力方法により、番組に重畳して出力することが可能になる。例えば、番組中のセリフを表示させるアプリケーションプログラムが使用するオブジェクトとして、番組中のセリフの字幕のテキストやテキストが書かれた画像ファイルを複数言語分用意しておく。ユーザがモードを選択することで、受信装置7が、ユーザが表示させたい言語に対応したテキストや画像ファイルを取得し、番組に重畳して表示する。これにより、多言語に対応した情報を提供できる。また、受信装置7は、テキストを大きな文字で表示したり、読みやすい色で表示することができる。
また、受信装置7は、オブジェクトを表示させるか否かをユーザの任意のタイミングで切替えることができ、また、ユーザがオブジェクトの出力停止を指示しても、演出等のために必要なオブジェクトについては、出力を継続することができる。
Further, by providing the receiving device 7 with a function for the user to select a mode and a function for customizing the output of the object, an object that matches the user's preference is superimposed on the program by an output method that matches the user's preference. Can be output. For example, as an object to be used by an application program for displaying lines in a program, subtitle texts of the lines in the program and image files in which texts are written are prepared for a plurality of languages. When the user selects a mode, the receiving device 7 acquires a text or an image file corresponding to the language that the user wants to display, and displays the text or image file superimposed on the program. Thereby, information corresponding to multiple languages can be provided. In addition, the receiving device 7 can display the text in large characters or display it in a color that is easy to read.
In addition, the receiving device 7 can switch whether or not to display the object at any timing of the user. Also, even if the user instructs to stop the output of the object, the object necessary for the production etc. The output can be continued.

上述した放送送出装置2、出力制御情報生成装置3、アプリケーション配信装置4、コンテンツ配信装置5、及び受信装置7は、内部にコンピュータシステムを有している。そして、放送送出装置2、出力制御情報生成装置3、アプリケーション配信装置4、コンテンツ配信装置5、及び受信装置7の動作の過程は、プログラムの形式でコンピュータ読み取り可能な記録媒体に記憶されており、このプログラムをコンピュータシステムが読み出して実行することによって、上記処理が行われる。ここでいうコンピュータシステムとは、CPU及び各種メモリやOS、周辺機器等のハードウェアを含むものである。   The broadcast transmission device 2, the output control information generation device 3, the application distribution device 4, the content distribution device 5, and the reception device 7 described above have a computer system therein. The operation processes of the broadcast transmission device 2, the output control information generation device 3, the application distribution device 4, the content distribution device 5, and the reception device 7 are stored in a computer-readable recording medium in the form of a program. The above processing is performed by the computer system reading and executing this program. The computer system here includes a CPU, various memories, an OS, and hardware such as peripheral devices.

また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶部のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
Further, the “computer system” includes a homepage providing environment (or display environment) if a WWW system is used.
The “computer-readable recording medium” refers to a portable medium such as a flexible disk, a magneto-optical disk, a ROM, and a CD-ROM, and a storage unit such as a hard disk built in the computer system. Furthermore, the “computer-readable recording medium” dynamically holds a program for a short time like a communication line when transmitting a program via a network such as the Internet or a communication line such as a telephone line. In this case, a volatile memory in a computer system serving as a server or a client in that case, and a program that holds a program for a certain period of time are also included. The program may be a program for realizing a part of the functions described above, and may be a program capable of realizing the functions described above in combination with a program already recorded in a computer system.

1 送出装置
2 放送送出装置
3 出力制御情報生成装置
4 アプリケーション配信装置
5 コンテンツ配信装置
7 受信装置
9 通信ネットワーク
701 放送受信部
702 分離部
703 映像復号部
704 音声復号部
710 通信入出力部
711 アプリケーション管理部
712 アプリケーション記憶部
713 アプリケーション実行部
714 入力制御部
721 放送通信連携部
722 映像合成部
723 音声合成部
731 映像表示部
732 音声出力部
741 時計
DESCRIPTION OF SYMBOLS 1 Transmission apparatus 2 Broadcast transmission apparatus 3 Output control information generation apparatus 4 Application distribution apparatus 5 Content distribution apparatus 7 Reception apparatus 9 Communication network 701 Broadcast reception part 702 Separation part 703 Video decoding part 704 Audio decoding part 710 Communication input / output part 711 Application management Unit 712 application storage unit 713 application execution unit 714 input control unit 721 broadcast communication cooperation unit 722 video synthesis unit 723 audio synthesis unit 731 video display unit 732 audio output unit 741 clock

Claims (9)

放送信号を受信する放送受信部と、
オブジェクトの出力を実行させるアプリケーションプログラムを通信により取得するアプリケーション管理部と、
前記アプリケーションプログラムを実行し、出力対象のオブジェクトの特定情報を設定した放送信号を前記放送受信部が受信することにより、あるいは、前記アプリケーションプログラムに予め記述されている前記オブジェクトの番組内における出力タイミングを参照することにより、前記オブジェクトの出力タイミングであることを検出した場合に、前記オブジェクトのデータを出力するアプリケーション実行部と、
前記放送信号から取得した番組のコンテンツデータに、前記アプリケーション実行部から出力された前記オブジェクトのデータを合成して出力する合成部と、
を備えることを特徴とする受信装置。
A broadcast receiver for receiving broadcast signals;
An application management unit for acquiring an application program for executing output of an object by communication;
When the broadcast receiving unit receives the broadcast signal in which the application program is executed and the specific information of the object to be output is set, or the output timing of the object described in advance in the application program is set in the program By referring to the application execution unit that outputs the data of the object when it is detected that it is the output timing of the object,
A synthesizing unit that synthesizes and outputs the data of the object output from the application execution unit to the content data of the program acquired from the broadcast signal;
A receiving apparatus comprising:
前記アプリケーション実行部は、前記放送信号に設定されている前記オブジェクトの出力方法、あるいは、前記アプリケーションプログラム内に予め記述されている前記オブジェクトの出力方法に従って前記オブジェクトのデータを出力する、
ことを特徴とする請求項1に記載の受信装置。
The application execution unit outputs the object data in accordance with the object output method set in the broadcast signal or the object output method described in advance in the application program.
The receiving apparatus according to claim 1.
前記出力方法は、表示位置、表示の大きさ、透過度、色、アニメーション動作、表示演出効果、音量のいずれか1以上の指定である、
ことを特徴とする請求項2に記載の受信装置。
The output method is designation of one or more of display position, display size, transparency, color, animation operation, display effect, and volume.
The receiving device according to claim 2.
ユーザによる出力方法の変更指示の入力を受ける入力制御部をさらに備え、
前記アプリケーション実行部は、前記出力方法を、前記入力制御部が入力を受けた前記変更指示に従って変更し、変更後の出力方法に従って前記オブジェクトのデータを出力する、
ことを特徴とする請求項2または請求項3のいずれか1項に記載の受信装置。
An input control unit for receiving an instruction to change the output method by the user;
The application execution unit changes the output method according to the change instruction received by the input control unit, and outputs the object data according to the changed output method.
The receiving device according to claim 2, wherein the receiving device is a receiving device.
ユーザによるオブジェクトの出力停止指示及び出力指示の入力を受ける入力制御部をさらに備え、
前記アプリケーション実行部は、前記入力制御部が前記出力停止指示の入力を受けてから前記出力指示の入力を受けるまで、前記オブジェクトのデータの出力を停止する、
ことを特徴とする請求項2から請求項4のいずれか1項に記載の受信装置。
An input control unit that receives an input of an output stop instruction and an output instruction of an object by a user;
The application execution unit stops outputting the data of the object until the input control unit receives the output instruction after receiving the output stop instruction.
The receiving device according to any one of claims 2 to 4, wherein the receiving device is configured as described above.
前記出力方法は、前記オブジェクトの出力に対してユーザ制御を許可するか否かの情報を含み、
前記アプリケーション実行部は、前記入力制御部が前記出力停止指示の入力を受けてから前記出力指示の入力を受けるまで、対応する出力方法にユーザ制御を許可しないことが設定されている前記オブジェクトのデータを出力し、対応する出力方法にユーザ制御を許可することが設定されている前記オブジェクトのデータの出力を停止する、
ことを特徴とする請求項5に記載の受信装置。
The output method includes information on whether to allow user control for the output of the object,
The application execution unit is set to not allow user control to the corresponding output method until the input control unit receives the output instruction after the input stop instruction is input. To stop the output of the object data set to allow user control to the corresponding output method,
The receiving apparatus according to claim 5.
前記アプリケーションプログラムには、前記オブジェクトのデータを特定する構成要素情報がモード毎に記述され、
前記アプリケーション実行部は、前記オブジェクトの出力タイミングであることを検出した場合に、ユーザが指定したモードに対応した前記構成要素情報により特定される前記オブジェクトのデータを出力する、
ことを特徴とする請求項1から請求項6のいずれか1項に記載の受信装置。
In the application program, component information for specifying data of the object is described for each mode.
When the application execution unit detects that it is the output timing of the object, it outputs the data of the object specified by the component information corresponding to the mode specified by the user.
The receiving device according to claim 1, wherein the receiving device is a receiving device.
番組のコンテンツデータを設定した放送信号を送出する放送送出装置と、
オブジェクトの出力を実行させるアプリケーションプログラムを通信により配信するアプリケーション配信装置と、
前記オブジェクトの番組内における出力タイミングを示す出力制御情報を生成する出力制御情報生成装置とを備え、
前記放送送出装置は、前記出力制御情報に記述された出力タイミングであることを検出した場合に、当該出力タイミングに対応した前記オブジェクトの特定情報を放送信号に設定して送出する、
あるいは、
前記アプリケーション配信装置は、前記出力制御情報を含んだ前記アプリケーションプログラムを配信する、
ことを特徴とする送出装置。
A broadcast sending device for sending a broadcast signal in which content data of a program is set;
An application distribution apparatus for distributing an application program for executing output of an object by communication;
An output control information generating device that generates output control information indicating the output timing of the object in the program,
When the broadcast sending device detects that the output timing is described in the output control information, the broadcast sending device sets the specific information of the object corresponding to the output timing to the broadcast signal and sends the broadcast signal.
Or
The application distribution device distributes the application program including the output control information.
A delivery device characterized by that.
放送信号を受信する放送受信部を備えた受信装置に用いられるコンピュータを、
オブジェクトの出力を実行させるアプリケーションプログラムを通信により取得するアプリケーション管理部、
前記アプリケーションプログラムを実行し、出力対象のオブジェクトの特定情報を設定した放送信号を前記放送受信部が受信することにより、あるいは、前記アプリケーションプログラムに予め記述されている前記オブジェクトの番組内における出力タイミングを参照することにより、前記オブジェクトの出力タイミングであることを検出した場合に、前記オブジェクトのデータを出力するアプリケーション実行部、
前記放送信号から取得した番組のコンテンツデータに、前記アプリケーション実行部から出力された前記オブジェクトのデータを合成して出力する合成部、
として機能させることを特徴とするプログラム。
A computer used in a receiving device having a broadcast receiving unit for receiving a broadcast signal,
An application management unit for acquiring an application program for executing output of an object by communication;
When the broadcast receiving unit receives the broadcast signal in which the application program is executed and the specific information of the object to be output is set, or the output timing of the object described in advance in the application program is set in the program An application execution unit that outputs data of the object when it is detected that the output timing of the object is detected,
A synthesizing unit that synthesizes and outputs the object data output from the application execution unit to the content data of the program acquired from the broadcast signal;
A program characterized by functioning as
JP2013168665A 2013-08-14 2013-08-14 Reception device, transmission device, and program Pending JP2015037264A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013168665A JP2015037264A (en) 2013-08-14 2013-08-14 Reception device, transmission device, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013168665A JP2015037264A (en) 2013-08-14 2013-08-14 Reception device, transmission device, and program

Publications (1)

Publication Number Publication Date
JP2015037264A true JP2015037264A (en) 2015-02-23

Family

ID=52687565

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013168665A Pending JP2015037264A (en) 2013-08-14 2013-08-14 Reception device, transmission device, and program

Country Status (1)

Country Link
JP (1) JP2015037264A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105263060A (en) * 2015-10-26 2016-01-20 天脉聚源(北京)科技有限公司 Method and device for displaying number of votes from audience in real time on video program
JP7180030B1 (en) 2022-06-30 2022-11-29 市橋 敬男 Information processing device and program
WO2024004234A1 (en) * 2022-06-30 2024-01-04 市橋 敬男 Information processing device and method for providing virtual space to multiple terminals

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10294896A (en) * 1997-04-18 1998-11-04 Nippon Telegr & Teleph Corp <Ntt> Method and device for processing digital information with superimposed characters
JP2003101492A (en) * 2001-09-19 2003-04-04 Digital Cast International:Kk Method and system for updating data broadcasting contents
JP2009005268A (en) * 2007-06-25 2009-01-08 Mitsubishi Electric Corp Transmitter, receiver, and reproducer
JP2011124958A (en) * 2009-12-14 2011-06-23 Canon Inc Broadcast receiving apparatus and method
JP2012015958A (en) * 2010-07-05 2012-01-19 I-O Data Device Inc Content reproduction system
JP2012156713A (en) * 2011-01-25 2012-08-16 Sony Corp Reception apparatus, reception method, supply apparatus, supply method, program and broadcast system
WO2013136715A1 (en) * 2012-03-14 2013-09-19 パナソニック株式会社 Receiver apparatus, broadcast/communication-cooperation system, and broadcast/communication-cooperation method

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10294896A (en) * 1997-04-18 1998-11-04 Nippon Telegr & Teleph Corp <Ntt> Method and device for processing digital information with superimposed characters
JP2003101492A (en) * 2001-09-19 2003-04-04 Digital Cast International:Kk Method and system for updating data broadcasting contents
JP2009005268A (en) * 2007-06-25 2009-01-08 Mitsubishi Electric Corp Transmitter, receiver, and reproducer
JP2011124958A (en) * 2009-12-14 2011-06-23 Canon Inc Broadcast receiving apparatus and method
JP2012015958A (en) * 2010-07-05 2012-01-19 I-O Data Device Inc Content reproduction system
JP2012156713A (en) * 2011-01-25 2012-08-16 Sony Corp Reception apparatus, reception method, supply apparatus, supply method, program and broadcast system
WO2013136715A1 (en) * 2012-03-14 2013-09-19 パナソニック株式会社 Receiver apparatus, broadcast/communication-cooperation system, and broadcast/communication-cooperation method

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105263060A (en) * 2015-10-26 2016-01-20 天脉聚源(北京)科技有限公司 Method and device for displaying number of votes from audience in real time on video program
JP7180030B1 (en) 2022-06-30 2022-11-29 市橋 敬男 Information processing device and program
WO2024004234A1 (en) * 2022-06-30 2024-01-04 市橋 敬男 Information processing device and method for providing virtual space to multiple terminals
JP2024005711A (en) * 2022-06-30 2024-01-17 市橋 敬男 Information processing device and program

Similar Documents

Publication Publication Date Title
CN103119954B (en) Receptor, method of reseptance
KR102240784B1 (en) Method and apparatus for transmission and reception of media data
CN103069810A (en) Virtual channel declarative object script binding
JPWO2006092993A1 (en) Subtitle display device
CN111405353A (en) Program language determining method and display equipment
CN114073098B (en) Streaming media synchronization method and display device
JP7062117B2 (en) Receiver and program
CN111601142B (en) Subtitle display method and display equipment
CN111601135A (en) Method for synchronously injecting audio and video elementary streams and display equipment
CN111601144B (en) Streaming media file playing method and display equipment
JP2017034681A (en) Supply device, supply method, reception device, reception method, program, and broadcasting system
JP2015037264A (en) Reception device, transmission device, and program
JP4989271B2 (en) Broadcast receiver and display method
KR102307330B1 (en) Reception device and reception method
US8863193B2 (en) Information processing apparatus, broadcast receiving apparatus and information processing method
JP2015173444A (en) receiver
JP6461638B2 (en) Receiving machine
JP4755717B2 (en) Broadcast receiving terminal device
CN113382291A (en) Display device and streaming media playing method
CN111885415B (en) Audio data rapid output method and display device
CN111562887B (en) Display device and partition capacity expansion method
JP2007336004A (en) Transmitter, receiver, transmission program and reception program
JP5162489B2 (en) Caption information processing apparatus for caption broadcasting including non-display information, caption information processing program, and caption information processing system
JP2015159366A (en) receiver
JP2006197353A (en) Broadcast reception terminal

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160627

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170425

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20171017