JP2009005268A - Transmitter, receiver, and reproducer - Google Patents

Transmitter, receiver, and reproducer Download PDF

Info

Publication number
JP2009005268A
JP2009005268A JP2007166559A JP2007166559A JP2009005268A JP 2009005268 A JP2009005268 A JP 2009005268A JP 2007166559 A JP2007166559 A JP 2007166559A JP 2007166559 A JP2007166559 A JP 2007166559A JP 2009005268 A JP2009005268 A JP 2009005268A
Authority
JP
Japan
Prior art keywords
auxiliary information
unit
video
video data
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007166559A
Other languages
Japanese (ja)
Other versions
JP5110978B2 (en
Inventor
Masayuki Baba
昌之 馬場
Mitsuyoshi Suzuki
光義 鈴木
Takehiko Hanada
武彦 花田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2007166559A priority Critical patent/JP5110978B2/en
Publication of JP2009005268A publication Critical patent/JP2009005268A/en
Application granted granted Critical
Publication of JP5110978B2 publication Critical patent/JP5110978B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a transmitter for a video signal capable of displaying supplementary information adaptable to contents of video images on the screen, a receiver for receiving and reproducing the video signal on the screen, and a reproducer for storing and reproducing the video signal on the screen. <P>SOLUTION: The transmitter 1 includes a video encoding and transmitting unit 6 for encoding and transmitting video data, a supplementary information generating unit 8 for generating supplementary information of the video data, an image analyzing unit 7 for analyzing the video data based on the information of an object image to which the supplementary information informed from the supplementary information generating unit 8 is to be added and detecting the position at which the supplementary information is to be displayed in the video image of the video data, and a supplementary information transmitting unit 9 for generating a supplementary information stream 11 which includes the supplementary information and the position at which the supplementary information is to be displayed in the video image of the video data. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

この発明は、デジタルテレビジョン放送等の映像信号及びその映像画面に表示する文字や図形等の補助情報を送信する送信装置、これを受信して再生表示する受信装置及びこれを蓄積して再生表示する再生装置に関するものである。   The present invention relates to a transmitting device for transmitting video signals such as digital television broadcasts and auxiliary information such as characters and graphics to be displayed on the video screen, a receiving device for receiving and reproducing and displaying and storing and reproducing and displaying the same. It is related with the reproducing | regenerating apparatus to perform.

従来では、テレビ映像の重要な部分若しくは貴重な部分に文字や図形情報が重なって表示されないように、文字や図形情報の表示形態を変換することにより映像画面内の所望の位置に拡大や縮小して表示していた(例えば、特許文献1参照)。また、例えば非特許文献1に示されるように、デジタル放送の字幕や文字スーパーは、テレビ放送の映像画面内で邪魔にならない位置に表示されるように表示形式等の運用がなされている。   Conventionally, the display format of characters and graphic information is expanded or reduced to a desired position in the video screen so that characters and graphic information are not overlapped and displayed on important or valuable parts of the TV image. (For example, refer to Patent Document 1). For example, as shown in Non-Patent Document 1, subtitles and superimposes of digital broadcasting are operated in a display format and the like so that they are displayed at unobstructed positions on the video screen of television broadcasting.

この場合、テレビ放送の送信側が、字幕や文字スーパーの表示位置を指定する機能を有する他、受信側においても字幕や文字スーパーの表示位置やサイズをユーザの指示により変更することを可能にしている。このように字幕や文字スーパーは、画面のどの位置に表示しても別段問題は発生しないため、テレビ映像が表示されているテレビ画面の映像表示状況に応じて送信側若しくは受信側で表示位置を調整できる。   In this case, the transmission side of the television broadcast has a function of designating the display position of the subtitles and superimpose characters, and the reception side can also change the display position and size of the subtitles and superimpose characters according to user instructions. . In this way, subtitles and superimposing characters do not cause any problems regardless of where they are displayed on the screen, so the display position on the transmitting or receiving side depends on the video display status of the TV screen on which the TV video is displayed. Can be adjusted.

特開平5−191788号公報JP-A-5-191788 社団法人電波産業会 地上デジタルテレビジョン放送運用規定 ARIB TR−B14 2.7版 第一分冊(2/2)P.3−88〜3−97Japan Radio Industry Association Terrestrial Digital Television Broadcasting Regulations ARIB TR-B14 2.7 Edition 1st Volume (2/2) 3-88 to 3-97

近年では、携帯電話機等の携帯通信端末で受信再生が可能な地上デジタルテレビジョン放送のサービスが始まり、携帯通信端末の小型表示画面においても視認性が良く、映像内容に即した補助情報の表示が望まれている。例えば、携帯通信端末で地上デジタルテレビジョン放送の1セグメント部分受信サービスによりサッカーの試合を受信した場合、その小型表示画面では、選手の顔や背番号がはっきり見えず、十分にテレビ放送を楽しむことができない。   In recent years, digital terrestrial television broadcasting services that can be received and played by mobile communication terminals such as mobile phones have begun, and even on small display screens of mobile communication terminals, the visibility is good and the display of auxiliary information according to the video content is possible. It is desired. For example, when a soccer game is received by a one-segment partial reception service for digital terrestrial television broadcasting on a mobile communication terminal, the player's face and number are not clearly visible on the small display screen, so that the user can fully enjoy television broadcasting. I can't.

これに対して、従来では、上述したようにテレビ映像の邪魔にならない位置に字幕や文字スーパーを表示することを目的とし、特に映像内容と関係がない表示位置に表示するので、小型表示画面における字幕や文字スーパー等の補助情報の表示を適切に行えないという課題があった。例えば、携帯通信端末の小型表示画面でサッカーの試合をみる場合、従来では、表示画面上の所定位置に選手の名前のテロップを入れることは可能であるが、名前を表示すべき選手が複数いると、どの選手の名前を表示しているか区別しにくくなる。また、受信側でテロップの表示位置を動かすことも可能であるが、画面上の映像内容とテロップとの関係が不適切になると返ってわかりづらくなる。   On the other hand, conventionally, as described above, the purpose is to display subtitles and superimpose in a position that does not interfere with the television image, and particularly, the display is performed at a display position that is not related to the video content. There was a problem that auxiliary information such as subtitles and superimposing characters could not be displayed properly. For example, when watching a soccer game on a small display screen of a mobile communication terminal, conventionally, it is possible to put a telop of a player's name at a predetermined position on the display screen, but there are a plurality of players to display the name. It becomes difficult to distinguish which player's name is displayed. It is also possible to move the display position of the telop on the receiving side, but it becomes difficult to understand if the relationship between the video content on the screen and the telop becomes inappropriate.

この発明は、上記のような課題を解決するためになされたもので、画面上の映像内容に即した補助情報の表示が可能な映像信号の送信装置、これを受信して再生表示する受信装置及びこれを蓄積して再生表示する再生装置を得ることを目的とする。   The present invention has been made to solve the above-described problems, and is a video signal transmission device capable of displaying auxiliary information in accordance with video content on a screen, and a reception device that receives and reproduces the video signal. Another object of the present invention is to obtain a playback apparatus that stores and plays back this information.

この発明に係る送信装置は、ビデオデータを符号化して送信するビデオ送信部と、ビデオデータの補助情報を生成する補助情報生成部と、補助情報生成部から通知された補助情報を付与する対象画像の情報に基づいてビデオデータを解析し、このビデオデータの映像中で補助情報を表示すべき箇所を検出する画像解析部と、補助情報及びビデオデータの映像中で補助情報を表示すべき箇所を含む補助情報送信データを生成して送信する補助情報送信部とを備えるものである。   The transmission device according to the present invention includes a video transmission unit that encodes and transmits video data, an auxiliary information generation unit that generates auxiliary information of the video data, and a target image to which auxiliary information notified from the auxiliary information generation unit is added. The video data is analyzed based on the information of the video data, and the image analysis unit that detects the location where the auxiliary information is to be displayed in the video data video, and the location where the auxiliary information is displayed in the video of the auxiliary information and video data. And an auxiliary information transmission unit that generates and transmits auxiliary information transmission data including the auxiliary information transmission data.

この発明によれば、ビデオデータを符号化して送信するビデオ送信部と、ビデオデータの補助情報を生成する補助情報生成部と、補助情報生成部から通知された補助情報を付与する対象画像の情報に基づいてビデオデータを解析し、このビデオデータの映像中で補助情報を表示すべき箇所を検出する画像解析部と、補助情報及びビデオデータの映像中で補助情報を表示すべき箇所を含む補助情報送信データを生成して送信する補助情報送信部とを備えるので、ビデオ送信部及び補助情報送信部からのデータを再生することにより、画面上で映像内容に即した補助情報の表示が可能であるという効果がある。   According to the present invention, the video transmission unit that encodes and transmits video data, the auxiliary information generation unit that generates auxiliary information of the video data, and the information on the target image to which the auxiliary information notified from the auxiliary information generation unit is added. An image analysis unit that analyzes video data based on the video data and detects a location where auxiliary information is to be displayed in the video data video, and an auxiliary including a location where auxiliary information is to be displayed in the video of the auxiliary information and video data Since it includes an auxiliary information transmission unit that generates and transmits information transmission data, it is possible to display auxiliary information in accordance with video content on the screen by reproducing data from the video transmission unit and the auxiliary information transmission unit. There is an effect that there is.

実施の形態1.
図1は、この発明によるテレビ放送送受信システムの構成を示す図である。図1において、テレビ放送送受信システムは、送信装置1、放送設備2及び受信装置3を備える。送信装置1は、テレビ番組等の映像信号を伝送可能なストリームデータ1aに変換して放送設備2に出力する。放送設備2は、送信装置1から入力したストリームデータ1aを放送波5に乗せて放送する。受信装置3は、放送波5を受信してその表示画面に表示する装置であり、例えばテレビ受像機や1セグメント部分受信サービス対応の携帯通信端末等により実現される。
Embodiment 1 FIG.
FIG. 1 is a diagram showing a configuration of a television broadcast transmission / reception system according to the present invention. In FIG. 1, the television broadcast transmission / reception system includes a transmission device 1, a broadcast facility 2, and a reception device 3. The transmission device 1 converts a video signal such as a television program into stream data 1a that can be transmitted and outputs the stream data 1a to the broadcasting facility 2. The broadcast facility 2 broadcasts the stream data 1 a input from the transmission device 1 on the broadcast wave 5. The receiving device 3 is a device that receives the broadcast wave 5 and displays it on its display screen. For example, the receiving device 3 is realized by a television receiver or a mobile communication terminal that supports a one-segment partial reception service.

図1に示すシステムにおいて、送信装置1は、テレビ番組を構成するビデオデータを符号化し、該ビデオデータに重畳する補助情報を生成して、該テレビ番組を構成する他のデータと共に多重化処理を行い、放送波5として伝送可能な放送用フォーマットに変換してから出力する。放送設備2は、送信装置1から入力した放送用フォーマットのストリームデータ1aに変調等の処理を施した後、放送波5として送信する。受信装置3では、放送設備2を介して送信された放送波5を受信し、該放送波5の放送用フォーマットから取り出した多重化ストリームの映像内容をその表示画面上に表示すると共に、補助情報を重畳して表示する。   In the system shown in FIG. 1, the transmission apparatus 1 encodes video data constituting a television program, generates auxiliary information to be superimposed on the video data, and performs multiplexing processing together with other data constituting the television program. The output is converted into a broadcast format that can be transmitted as the broadcast wave 5 and then output. The broadcast facility 2 performs a process such as modulation on the stream data 1 a in the broadcast format input from the transmission device 1, and transmits it as a broadcast wave 5. The receiving device 3 receives the broadcast wave 5 transmitted via the broadcast facility 2, displays the video content of the multiplexed stream extracted from the broadcast format of the broadcast wave 5 on its display screen, and supplementary information Is superimposed and displayed.

図2は、この発明の実施の形態1による送信装置の構成を示すブロック図である。図2において、送信装置1は、ビデオ符号化送信部(ビデオ送信部)6、画像解析部7、制御情報入力部8a、補助情報生成部8、補助情報送信部9及び多重化部10を備える。ビデオ符号化送信部6は、映像内容を規定するビデオデータを外部から入力し、該ビデオデータを符号化してテレビ放送用のビデオストリームを生成する。画像解析部7は、外部から入力したビデオデータを解析して補助情報生成部8から通知される補助情報を表示すべき対象画像を検出する。   FIG. 2 is a block diagram showing the configuration of the transmission apparatus according to Embodiment 1 of the present invention. 2, the transmission device 1 includes a video encoding transmission unit (video transmission unit) 6, an image analysis unit 7, a control information input unit 8 a, an auxiliary information generation unit 8, an auxiliary information transmission unit 9, and a multiplexing unit 10. . The video encoding transmission unit 6 inputs video data defining the video content from the outside, and encodes the video data to generate a video stream for television broadcasting. The image analysis unit 7 analyzes externally input video data and detects a target image on which auxiliary information notified from the auxiliary information generation unit 8 is to be displayed.

制御情報入力部8aは、外部から様々フォーマットの制御情報の入力を受け付け、入力した制御情報を補助情報生成部8に出力する。なお、制御情報とは、画面上で補助情報を付与する対象画像の指定や付与する補助情報の内容等を示す情報であり、補助情報を生成する基となる情報である。補助情報生成部8は、制御情報の内容に従ってビデオデータに重畳させる補助情報を生成する。   The control information input unit 8 a receives input of control information in various formats from the outside, and outputs the input control information to the auxiliary information generation unit 8. Note that the control information is information indicating the designation of a target image to which auxiliary information is to be added on the screen, the content of auxiliary information to be added, and the like, and is information on which auxiliary information is generated. The auxiliary information generation unit 8 generates auxiliary information to be superimposed on the video data according to the content of the control information.

補助情報送信部9は、画像解析部7から入力された補助情報を付与すべき対象画像の位置情報と、補助情報生成部8から入力された前記対象画像に付与すべき補助情報とを入力して補助情報ストリーム(補助情報送信データ)を生成する。多重化部10は、テレビ放送用のビデオストリームと該ビデオストリーム中の画像に付与すべき補助情報からなる補助情報ストリームとを多重化し、放送用の多重化ストリームとして受信側に送信する。   The auxiliary information transmission unit 9 inputs the position information of the target image to which the auxiliary information input from the image analysis unit 7 should be added and the auxiliary information to be added to the target image input from the auxiliary information generation unit 8. Thus, an auxiliary information stream (auxiliary information transmission data) is generated. The multiplexing unit 10 multiplexes a television broadcast video stream and an auxiliary information stream including auxiliary information to be added to an image in the video stream, and transmits the multiplexed information to the receiving side as a broadcast multiplexed stream.

次に送信装置1の詳細な動作について説明する。
送信装置1へ送信させるべきビデオデータは、ビデオ符号化送信部6及び画像解析部7にそれぞれ入力され、該ビデオデータに重畳させる補助情報を規定する制御情報は、制御情報入力部8aに入力される。制御情報入力部8aでは、入力した制御情報を補助情報生成部8で利用可能なフォーマットに変換して補助情報生成部8に出力する。補助情報生成部8は、制御情報入力部8aから入力した制御情報の内容に従ってビデオ符号化送信部6に入力されたビデオデータに重畳させる補助情報を生成すると共に、補助情報を表示する対象画像の情報を画像解析部7に通知する。
Next, detailed operation of the transmission apparatus 1 will be described.
Video data to be transmitted to the transmission apparatus 1 is input to the video encoding transmission unit 6 and the image analysis unit 7, respectively. Control information defining auxiliary information to be superimposed on the video data is input to the control information input unit 8a. The The control information input unit 8 a converts the input control information into a format that can be used by the auxiliary information generation unit 8 and outputs it to the auxiliary information generation unit 8. The auxiliary information generation unit 8 generates auxiliary information to be superimposed on the video data input to the video encoding transmission unit 6 in accordance with the content of the control information input from the control information input unit 8a, and at the same time the target image for displaying the auxiliary information. Information is notified to the image analysis unit 7.

ビデオ符号化送信部6では、入力したビデオデータを符号化し、所望のフォーマットのビデオストリームに変換して多重化部10へ出力する。一方、画像解析部7は、ビデオ符号化送信部6と共に入力したビデオデータを補助情報生成部8より通知された対象画像の情報に基づいて解析し、該ビデオデータにおいて補助情報を表示すべき対象画像がどの位置に表示されるかを検出してその位置情報を継続的に補助情報送信部9に通知する。   The video encoding / transmitting unit 6 encodes the input video data, converts it into a video stream of a desired format, and outputs it to the multiplexing unit 10. On the other hand, the image analysis unit 7 analyzes the video data input together with the video encoding / transmission unit 6 based on the information of the target image notified from the auxiliary information generation unit 8, and displays the auxiliary information in the video data. The position where the image is displayed is detected, and the position information is continuously notified to the auxiliary information transmitting unit 9.

補助情報送信部9は、画像解析部7より継続的に通知される位置情報と補助情報生成部8より出力される補助情報から補助情報ストリームを生成して多重化部10に出力する。図3は、補助情報の伝送フォーマットを示す図であり、補助情報送信部9により生成される補助情報ストリームの構成例を示している。図3に示す補助情報ストリーム(補助情報送信データ)11は、識別子11a、表示時刻11b、表示位置11c、補助情報ID11d及び補助情報内容11eを備える。   The auxiliary information transmission unit 9 generates an auxiliary information stream from the position information continuously notified from the image analysis unit 7 and the auxiliary information output from the auxiliary information generation unit 8 and outputs the auxiliary information stream to the multiplexing unit 10. FIG. 3 is a diagram showing a transmission format of auxiliary information, and shows a configuration example of an auxiliary information stream generated by the auxiliary information transmitting unit 9. The auxiliary information stream (auxiliary information transmission data) 11 shown in FIG. 3 includes an identifier 11a, a display time 11b, a display position 11c, an auxiliary information ID 11d, and auxiliary information content 11e.

ここで、識別子11aは、データストリーム中で該識別子11a以降にある情報が補助情報であることを示す情報である。表示時刻11bは、補助情報を表示すべき時刻を示す情報であり、例えばMPEG−2規格に準拠するシステムならば、PTS(Presentation Time Stamp)のような値を設定する。表示位置11cは、該補助情報を表示する位置を指定する情報であり、例えばビデオ画像の左上からのドット位置等が設定される。補助情報ID11dは、複数の補助情報から特定の補助情報を識別するための識別情報である。補助情報内容11eは、補助情報として対象画像に表示する内容を示す情報である。   Here, the identifier 11a is information indicating that information after the identifier 11a in the data stream is auxiliary information. The display time 11b is information indicating the time at which the auxiliary information is to be displayed. For example, if the system conforms to the MPEG-2 standard, a value such as PTS (Presentation Time Stamp) is set. The display position 11c is information for designating a position where the auxiliary information is displayed. For example, a dot position from the upper left of the video image is set. The auxiliary information ID 11d is identification information for identifying specific auxiliary information from a plurality of auxiliary information. The auxiliary information content 11e is information indicating the content displayed on the target image as auxiliary information.

また、図4は、補助情報を含む受信側での表示例を示す図であり、受信装置3が携帯電話機等で実現され、その表示画面12に空手の試合を表示した場合を示している。このビデオデータに重畳すべき補助情報を生成するにあたり、制御情報として、例えば図4中の左側の選手11Aの顔画像データが対象画像検索用に指定され、文字「選手名A」を文字スーパーとして表示する処理が補助情報内容として指定されているものとする。この場合、補助情報生成部8は、制御情報に固有のIDを付与して対象画像検索用の画像データを該IDと共に画像解析部7に通知し、さらに該IDと補助情報内容とを補助情報送信部9に通知する。   FIG. 4 is a diagram showing a display example on the receiving side including auxiliary information, and shows a case where the receiving device 3 is realized by a mobile phone or the like and a karate game is displayed on the display screen 12 thereof. In generating the auxiliary information to be superimposed on the video data, as control information, for example, the face image data of the player 11A on the left side in FIG. 4 is designated for the target image search, and the character “player name A” is used as the character supermarket. It is assumed that the process to be displayed is designated as auxiliary information content. In this case, the auxiliary information generation unit 8 gives a unique ID to the control information, notifies the image analysis unit 7 of the image data for the target image search together with the ID, and further displays the ID and auxiliary information content as auxiliary information. Notify the transmitter 9.

画像解析部7は、補助情報生成部8から入力した対象画像検索用の画像データに基づいて既存の画像認識技術を用い、外部から入力した空手の試合に関するビデオデータから類似する画像を検出し、その画面12上での位置情報(例えば、画面12の左上から縦横何ドットの位置にあるか等)と、そのときの時刻(送信装置1がもつシステム時刻)を、補助情報生成部8から通知されたIDと合わせて補助情報送信部9に定期的に送信する。なお、検出された対象画像は、その画像の特徴量等から映像中の位置が連続的に特定され、補助情報ストリーム11の表示位置11cに設定される。   The image analysis unit 7 uses the existing image recognition technology based on the target image search image data input from the auxiliary information generation unit 8 to detect a similar image from video data related to a karate game input from the outside, Position information on the screen 12 (for example, how many vertical and horizontal dots are located from the upper left of the screen 12) and the time at that time (system time of the transmission apparatus 1) are notified from the auxiliary information generation unit 8 Together with the received ID, it is periodically transmitted to the auxiliary information transmitting unit 9. It should be noted that the detected target image has its position in the video continuously specified from the feature amount of the image and the like, and is set as the display position 11 c of the auxiliary information stream 11.

補助情報送信部9では、識別子11aを設定した後、補助情報生成部8から入力したID及び補助情報内容を、図3に示す補助情報ID11d及び補助情報内容11eにそれぞれ設定し、画像解析部7から通知された時刻を図3中の表示時刻11bに設定することにより、補助情報ストリーム11を生成する。   After setting the identifier 11a, the auxiliary information transmitting unit 9 sets the ID and auxiliary information content input from the auxiliary information generating unit 8 to the auxiliary information ID 11d and auxiliary information content 11e shown in FIG. The auxiliary information stream 11 is generated by setting the time notified from the display time 11b in FIG.

ここで、補助情報内容11eに変化がなく、補助情報の表示位置のみが変化する場合、補助情報送信部9は、補助情報ストリーム11を生成するにあたり、補助情報内容11eの設定を省略する一方、これの表示位置11cは設定する。この場合、受信側では、補助情報ID11dの内容から前回表示した補助情報を特定し、この補助情報の内容を表示位置11cで特定される位置に表示する。このようにすることで、補助情報ストリーム11として送信する情報量を低減でき、その送信に要する通信帯域を節約することができる。また、受信側で補助情報の解析処理に要する負担を削減できる。   Here, when there is no change in the auxiliary information content 11e and only the display position of the auxiliary information changes, the auxiliary information transmission unit 9 omits the setting of the auxiliary information content 11e when generating the auxiliary information stream 11. The display position 11c is set. In this case, on the receiving side, the auxiliary information displayed last time is specified from the content of the auxiliary information ID 11d, and the content of the auxiliary information is displayed at the position specified by the display position 11c. By doing so, the amount of information transmitted as the auxiliary information stream 11 can be reduced, and the communication band required for the transmission can be saved. In addition, it is possible to reduce the burden required for the auxiliary information analysis processing on the receiving side.

ビデオ符号化送信部6からビデオストリームを入力し、補助情報送信部9から補助情報ストリームを入力すると、多重化部10は、これらを多重化して放送用ストリームとして受信側に送信する。また、ビデオデータと補助情報を扱う例を示したが、これらの他にオーディオやデータ放送、番組情報(EPG(Electronic Program Guide))、管理情報等が存在する場合、それぞれ個別にストリームを生成し、多重化部10で多重化して放送用ストリームとする。   When a video stream is input from the video encoding transmission unit 6 and an auxiliary information stream is input from the auxiliary information transmission unit 9, the multiplexing unit 10 multiplexes them and transmits them as a broadcast stream to the reception side. In addition, although an example of handling video data and auxiliary information has been shown, if there is audio, data broadcasting, program information (EPG (Electronic Program Guide)), management information, etc. in addition to these, streams are generated individually. The data is multiplexed by the multiplexing unit 10 to be a broadcast stream.

なお、送信装置1としては、ビデオストリームと補助情報ストリームとを多重化しない構成であってもよい。この場合、ビデオ符号化送信部6がビデオストリームを受信側に直接送信し、補助情報送信部9が補助情報ストリームを受信側に直接送信する。例えば、ビデオデータは通常の放送波で送信し、補助情報はインターネット等で伝送することが考えられる。   Note that the transmission apparatus 1 may have a configuration in which the video stream and the auxiliary information stream are not multiplexed. In this case, the video encoding transmission unit 6 transmits the video stream directly to the reception side, and the auxiliary information transmission unit 9 transmits the auxiliary information stream directly to the reception side. For example, it is conceivable that video data is transmitted by a normal broadcast wave and auxiliary information is transmitted by the Internet or the like.

また、画像解析部7がビデオデータから対象画像を検出して補助情報を表示すべき位置を決定するにあたり、複数の表示位置候補を挙げておき、補助情報送信部9が1つの補助情報の内容に対して複数の表示位置情報を含む補助情報ストリームを生成して送信することで、受信側では複数の表示位置候補から視聴者の好きな位置に補助情報を表示することが可能となる。例えば、図4に示す画面12上の選手名を表示する位置として、頭の上、おなか、足元というように、3種類の表示位置候補を含んだ補助情報ストリームを生成することで、受信側での表示位置の自由度が生まれる。この場合、表示位置11cには、複数の表示位置情報が設定されることになる。   In addition, when the image analysis unit 7 detects the target image from the video data and determines the position where the auxiliary information is to be displayed, a plurality of display position candidates are listed, and the auxiliary information transmission unit 9 includes the contents of one auxiliary information. On the other hand, by generating and transmitting an auxiliary information stream including a plurality of display position information, the receiving side can display auxiliary information from a plurality of display position candidates at a position desired by the viewer. For example, as a position for displaying the player name on the screen 12 shown in FIG. 4, by generating an auxiliary information stream including three types of display position candidates such as the head, the stomach, and the foot, the receiving side The degree of freedom of the display position is born. In this case, a plurality of pieces of display position information are set for the display position 11c.

図5は、この発明の実施の形態1による受信装置の構成を示すブロック図である。図5において、受信装置3は、分離部13、ビデオ受信復号部(ビデオ復号部)14、補助情報解析部15及び重畳部16を備える。分離部13は、送信装置1から受信した多重化ストリームをビデオストリームと補助情報ストリームとに分離する。ビデオ受信復号部14は、分離部13から入力したビデオストリームを復号する。補助情報解析部15は、分離部13から入力した補助情報ストリームを解析して補助情報を復元する。重畳部16は、ビデオ受信復号部14によって復号されたビデオデータに対応する補助情報を重畳する処理を行う。   FIG. 5 is a block diagram showing the configuration of the receiving apparatus according to Embodiment 1 of the present invention. In FIG. 5, the reception device 3 includes a separation unit 13, a video reception decoding unit (video decoding unit) 14, an auxiliary information analysis unit 15, and a superposition unit 16. The separation unit 13 separates the multiplexed stream received from the transmission device 1 into a video stream and an auxiliary information stream. The video reception decoding unit 14 decodes the video stream input from the separation unit 13. The auxiliary information analysis unit 15 analyzes the auxiliary information stream input from the separation unit 13 and restores auxiliary information. The superimposing unit 16 performs a process of superimposing auxiliary information corresponding to the video data decoded by the video reception decoding unit 14.

次に受信装置3の詳細な動作について説明する。
送信装置1から受信した多重化ストリームは、分離部13に入力される。分離部13では、入力した多重化ストリームをビデオストリームと補助情報ストリームとに分離し、ビデオストリームをビデオ受信復号部14に出力し、補助情報ストリームを補助情報解析部15に出力する。例えば、補助情報ストリームに含まれる識別子11aの有無に基づき、多重化ストリームからビデオストリームと補助情報ストリームを分離する。
Next, detailed operation of the receiving device 3 will be described.
The multiplexed stream received from the transmission device 1 is input to the separation unit 13. The separation unit 13 separates the input multiplexed stream into a video stream and an auxiliary information stream, outputs the video stream to the video reception decoding unit 14, and outputs the auxiliary information stream to the auxiliary information analysis unit 15. For example, the video stream and the auxiliary information stream are separated from the multiplexed stream based on the presence / absence of the identifier 11a included in the auxiliary information stream.

ビデオ受信復号部14は、分離部13から入力したビデオストリームを復号して、不図示の画面に表示可能なビデオデータとした後、重畳部16に出力する。補助情報解析部15は、分離部13から入力した補助情報ストリーム内のデータを解析して該ストリームに含まれる表示時刻11b、表示位置11c、補助情報ID11d及び補助情報内容11eを抽出し、これらデータに基づいて画面に表示する補助情報を生成し、重畳部16に出力する。重畳部16では、ビデオ受信復号部14から入力したビデオデータに対し、補助情報解析部15から入力した補助情報を重畳して画面に表示すべきビデオデータ(表示データ)として出力する。   The video receiving / decoding unit 14 decodes the video stream input from the demultiplexing unit 13 into video data that can be displayed on a screen (not shown), and then outputs the video data to the superimposing unit 16. The auxiliary information analysis unit 15 analyzes the data in the auxiliary information stream input from the separation unit 13 and extracts the display time 11b, the display position 11c, the auxiliary information ID 11d, and the auxiliary information content 11e included in the stream. Auxiliary information to be displayed on the screen is generated based on the above and output to the superimposing unit 16. The superimposing unit 16 superimposes the auxiliary information input from the auxiliary information analyzing unit 15 on the video data input from the video receiving / decoding unit 14 and outputs it as video data (display data) to be displayed on the screen.

図4の例を用いて補助情報解析部15の動作を説明する。補助情報解析部15は、補助情報ストリーム内のデータを解析した結果、補助情報内容11eとして図4に示す「選手名A」が設定されていた場合、所定の文字フォントを用いて「選手名A」という画像を生成する。補助情報ストリームの表示位置11cには、補助情報内容11eを示す画像の表示位置が示されている。ここでは、図4に示す画面12上の左側の選手11Aの位置を示す位置情報が設定されており、この表示位置11cの内容に従って「選手名A」という画像が、図4に示す画面12上の左側の選手11Aの位置に表示される。   The operation of the auxiliary information analysis unit 15 will be described using the example of FIG. As a result of analyzing the data in the auxiliary information stream, when the “player name A” shown in FIG. 4 is set as the auxiliary information content 11e, the auxiliary information analysis unit 15 uses the predetermined character font to set the “player name A Is generated. The display position 11c of the auxiliary information stream shows the display position of the image indicating the auxiliary information content 11e. Here, position information indicating the position of the left player 11A on the screen 12 shown in FIG. 4 is set, and an image of “player name A” is displayed on the screen 12 shown in FIG. 4 according to the contents of the display position 11c. Is displayed at the position of the player 11A on the left side.

なお、表示位置11cに設定される位置情報は、ビデオストリームの映像で表される選手の動き(図4に示す画面12上の左側の選手11Aの動き)に合わせて逐次変更させることも可能である。このようにすることで、選手の動きに合わせて「選手名A」の表示も追従して動くことになる。   Note that the position information set in the display position 11c can be sequentially changed in accordance with the movement of the player represented by the video stream image (the movement of the left player 11A on the screen 12 shown in FIG. 4). is there. By doing in this way, the display of “player name A” follows the movement of the player and moves.

従来の補助情報の表示処理では、映像の邪魔にならない位置に補助情報を表示することを目的としており、映像内の補助情報の表示対象の動きに合わせた表示が困難であった。これに対して、本発明では、補助情報ストリームとして、補助情報の内容ごとにその表示位置が映像内の対象画像の動きに合わせて設定される。これにより、図4に示すように、動きのある複数の選手11A,11Bにおいて、左側の選手11Aが動いても「選手名A」の表示が追従して動き、右側の選手11Bが動いても「選手名B」の表示が追従して動くことにより、画面12上の映像内容に即した補助情報の表示が可能である。   In the conventional auxiliary information display processing, the auxiliary information is displayed at a position that does not interfere with the video, and it is difficult to display the auxiliary information in the video in accordance with the movement of the display target. On the other hand, in the present invention, as the auxiliary information stream, the display position is set for each content of the auxiliary information in accordance with the movement of the target image in the video. Accordingly, as shown in FIG. 4, even if the left player 11A moves in the plurality of moving players 11A and 11B, the display of “player name A” follows and the right player 11B moves. When the display of “player name B” follows and moves, it is possible to display auxiliary information in accordance with the video content on the screen 12.

また、補助情報ストリーム中の表示位置11cに複数の表示位置候補が設定されている場合、補助情報解析部15は、表示位置11cから読み出した表示位置候補を不図示の表示部に表示し、視聴者により不図示の入力手段を使って表示位置候補を選択させるGUI(Graphical User Interface)を提供する。このようにすることで、受信側で所望の表示位置に補助情報を表示することができる。   When a plurality of display position candidates are set at the display position 11c in the auxiliary information stream, the auxiliary information analysis unit 15 displays the display position candidates read from the display position 11c on a display unit (not shown) for viewing. A GUI (Graphical User Interface) that allows a user to select a display position candidate using an input unit (not shown) is provided. In this way, auxiliary information can be displayed at a desired display position on the receiving side.

上述した説明では、補助情報として文字の表示する場合を示したが、静止画やビデオ映像を補助情報として使用してもよい。例えば、図6に示すように選手名を補助情報として使用する場合、選手11Aのチームのマーク11Cを補助情報に加えることで、チームのマーク11C付きの補助情報を表示することも可能である。   In the above description, the case where characters are displayed as auxiliary information is shown, but still images and video images may be used as auxiliary information. For example, when the player name is used as auxiliary information as shown in FIG. 6, it is also possible to display auxiliary information with the team mark 11C by adding the team mark 11C of the player 11A to the auxiliary information.

また、補助情報生成部8が、ビデオデータから選手の顔の部分の静止画若しくはビデオ映像を抜き出し、その顔のビデオデータを補助情報として使用すれば、例えば図6に示すように画面12上で選手11Aの顔の拡大画像11Dを顔部分に表示することが可能である。このようにすることで、視聴者に認識しやすい映像画面を提供できる。なお、選手の顔の部分の静止画若しくはビデオ映像は、制御情報により予め設定されたものであってもよい。   If the auxiliary information generation unit 8 extracts a still image or video image of the player's face from the video data and uses the video data of the face as auxiliary information, for example, on the screen 12 as shown in FIG. An enlarged image 11D of the face of the player 11A can be displayed on the face portion. In this way, a video screen that can be easily recognized by the viewer can be provided. Note that the still image or video image of the face portion of the player may be preset by control information.

以上のように、この実施の形態1によれば、送信装置1が、ビデオデータを符号化して送信するビデオ符号化送信部6と、ビデオデータの補助情報を生成する補助情報生成部8と、補助情報生成部8から通知された補助情報を付与する対象画像の情報に基づいてビデオデータを解析し、このビデオデータの映像中で補助情報を付与すべき箇所を検出する画像解析部7と、補助情報及びビデオデータの映像中で補助情報を付与すべき箇所を含む補助情報ストリーム11を生成して送信する補助情報送信部9とを備える。また、受信装置3が、符号化されたビデオデータを受信して復号するビデオ受信復号部14と、ビデオデータの補助情報及びこのビデオデータの映像中で補助情報を付与すべき箇所を含む補助情報ストリームを解析して、補助情報の内容及びこの補助情報を付与すべき箇所を決定する補助情報解析部15と、補助情報解析部15の解析結果に基づいて、ビデオ受信復号部14により復号されたビデオデータの映像に補助情報を重畳した表示データを生成して出力する重畳部16とを備える。これにより、送信装置1がビデオ映像の内容に即した補助情報を適切な表示位置情報を付与して送信し、受信装置3が該ビデオ映像を表示するにあたり上記表示位置に補助情報を表示することから、小型の表示画面に表示する場合であっても、視聴者にビデオ映像内容を認識し易くすることができる。   As described above, according to the first embodiment, the transmission apparatus 1 encodes and transmits video data, the video encoding transmission unit 6, the auxiliary information generation unit 8 that generates auxiliary information of the video data, An image analysis unit 7 for analyzing video data based on information of a target image to which auxiliary information is notified notified from the auxiliary information generation unit 8, and detecting a portion to which the auxiliary information is to be added in the video data; And an auxiliary information transmitting unit 9 that generates and transmits an auxiliary information stream 11 including a portion to which auxiliary information should be added in the video of the auxiliary information and video data. Further, the receiving device 3 receives and decodes the encoded video data, and receives and decodes the video data, and auxiliary information including the auxiliary information of the video data and the portion to which the auxiliary information is to be added in the video of the video data. Based on the analysis result of the auxiliary information analysis unit 15 and the auxiliary information analysis unit 15 that analyzes the stream and determines the content of the auxiliary information and the location to which the auxiliary information is to be added. And a superimposing unit 16 that generates and outputs display data in which auxiliary information is superimposed on the video data. As a result, the transmission device 1 transmits auxiliary information according to the content of the video image with appropriate display position information, and the reception device 3 displays the auxiliary information at the display position when displaying the video image. Therefore, even when displaying on a small display screen, the viewer can easily recognize the content of the video image.

また、この実施の形態1によれば、補助情報を表示する対象画像をビデオ映像から検出し、ビデオ映像中の対象画像の動きに合わせて補助情報の表示位置を決定するので、補助情報に基づいて視聴者がビデオ映像中の対象画像を正確に認識することができる。例えば、図4に示す空手の試合の映像中における選手11A,11Bの画像に補助情報として選手名を表示する場合、選手11A,11Bの動きに合わせて選手名を表示することができる。これにより、小型表示画面に空手の試合を表示しても、視聴者は選手名から的確に映像中の選手を認識することが可能である。   According to the first embodiment, the target image for displaying the auxiliary information is detected from the video image, and the display position of the auxiliary information is determined in accordance with the movement of the target image in the video image. Thus, the viewer can accurately recognize the target image in the video image. For example, when displaying the player name as auxiliary information on the images of the players 11A and 11B in the video of the karate game shown in FIG. 4, the player names can be displayed in accordance with the movements of the players 11A and 11B. Thereby, even if the karate game is displayed on the small display screen, the viewer can accurately recognize the player in the video from the player name.

実施の形態2.
この実施の形態2は、受信側のユーザ操作により補助情報の表示を変更できるようにしたものである。図7は、この発明の実施の形態2による受信装置の構成を示すブロック図である。図7において、実施の形態2による受信装置3Aは、上記実施の形態1で示した図5の構成に加え、入力部17を備える。入力部17は、装置3Aの外部から情報の入力や選択設定等の操作を行うための構成要素であり、補助情報解析部15から入力した補助情報に関する情報を外部に提示すると共に、提示した情報に応じた外部操作を受け付け、入力された操作情報を補助情報解析部15に設定する。
Embodiment 2. FIG.
In the second embodiment, the display of auxiliary information can be changed by a user operation on the receiving side. FIG. 7 is a block diagram showing a configuration of a receiving apparatus according to Embodiment 2 of the present invention. In FIG. 7, a receiving apparatus 3A according to the second embodiment includes an input unit 17 in addition to the configuration of FIG. 5 shown in the first embodiment. The input unit 17 is a component for performing operations such as input of information and selection setting from the outside of the device 3A. The input unit 17 presents information related to auxiliary information input from the auxiliary information analysis unit 15 to the outside. The external operation corresponding to is received, and the input operation information is set in the auxiliary information analysis unit 15.

入力部17は、受信装置3Aに搭載されたマイクロコンピュータが実行するソフトウエアと受信装置3Aの不図示の表示装置やリモコン等のハードウエアとが協働した具体的な手段として実現される。例えば、リモコン操作に連動する設定画面を表示装置に表示して情報の入力や選択等の操作のためのGUIを提供する。また、表示装置をタッチパネルにしたり、マイクを介して入力された音声で入力情報を認識する音声認識機能を持たせることにより、入力操作を容易化してもよい。なお、この他の構成要素については、上記実施の形態1で示した図5と同様であるので説明を省略する。   The input unit 17 is realized as specific means in which software executed by a microcomputer mounted on the receiving device 3A and hardware such as a display device (not shown) and a remote controller of the receiving device 3A cooperate. For example, a setting screen linked to a remote control operation is displayed on a display device to provide a GUI for operations such as information input and selection. Further, the input operation may be facilitated by providing a voice recognition function for recognizing input information by using a touch panel as a display device or voice input via a microphone. Since the other components are the same as those in FIG. 5 described in the first embodiment, description thereof is omitted.

次に動作について説明する。
上記実施の形態1で示した送信装置1から受信した多重化ストリームを入力すると、受信装置3A内の分離部13は、該多重化ストリームをビデオストリームと補助情報ストリームとに分離し、ビデオストリームをビデオ受信復号部14に出力し、補助情報ストリームを補助情報解析部15に出力する。ビデオ受信復号部14は、分離部13から入力したビデオストリームを復号して、不図示の画面に表示可能なビデオデータとした後、重畳部16に出力する。ここまでの処理は、上記実施の形態1と同様である。
Next, the operation will be described.
When the multiplexed stream received from the transmission apparatus 1 shown in the first embodiment is input, the separation unit 13 in the reception apparatus 3A separates the multiplexed stream into a video stream and an auxiliary information stream, and the video stream is The data is output to the video receiving / decoding unit 14 and the auxiliary information stream is output to the auxiliary information analyzing unit 15. The video receiving / decoding unit 14 decodes the video stream input from the separation unit 13 to form video data that can be displayed on a screen (not shown), and then outputs the video data to the superimposition unit 16. The processing so far is the same as that in the first embodiment.

補助情報解析部15は、分離部13から入力した補助情報ストリームをデータ解析し、上記実施の形態1で図3を用いて示した表示時刻11b、表示位置11c、補助情報ID11d及び補助情報内容11eを該ストリームから抽出する。この後、補助情報解析部15は、これらストリームデータを用いて画面に表示する補助情報を生成する前に、補助情報が存在する旨の情報を入力部17に出力する。   The auxiliary information analysis unit 15 analyzes the auxiliary information stream input from the separation unit 13, and displays the display time 11b, the display position 11c, the auxiliary information ID 11d, and the auxiliary information content 11e shown in FIG. 3 in the first embodiment. Are extracted from the stream. Thereafter, the auxiliary information analysis unit 15 outputs information indicating that auxiliary information exists to the input unit 17 before generating auxiliary information to be displayed on the screen using these stream data.

入力部17では、補助情報解析部15から入力した情報を用いて、操作画面を表示装置に表示し、ユーザからの操作入力を受け付ける。例えば、ユーザに補助情報ID11dが存在することを示し、ユーザは入力部17の操作によって本来の表示位置より少し低い位置で表示するように指定すると、この補正位置情報が入力部17から補助情報解析部15に出力される。   The input unit 17 uses the information input from the auxiliary information analysis unit 15 to display an operation screen on the display device and accepts an operation input from the user. For example, when the user indicates that the auxiliary information ID 11d exists and the user designates the display to be displayed at a position slightly lower than the original display position by the operation of the input unit 17, the corrected position information is received from the input unit 17 as the auxiliary information analysis. Is output to the unit 15.

補助情報解析部15では、入力部17から入力した補正位置情報に従って、補助情報ストリームから抽出した表示位置11cに設定されていた位置情報を修正し、画面に表示する補助情報を生成して重畳部16に出力する。重畳部16は、ビデオ受信復号部14から入力したビデオデータに対し、補助情報解析部15から入力した補助情報を重畳して画面に表示すべきビデオデータとして出力する。このようにすることで、ユーザの好みに応じた補助情報の表示を行うことが可能となる。   The auxiliary information analysis unit 15 corrects the position information set in the display position 11c extracted from the auxiliary information stream according to the corrected position information input from the input unit 17, generates auxiliary information to be displayed on the screen, and generates a superimposition unit. 16 is output. The superimposing unit 16 superimposes the auxiliary information input from the auxiliary information analyzing unit 15 on the video data input from the video receiving / decoding unit 14 and outputs the video data to be displayed on the screen. By doing in this way, it becomes possible to display auxiliary information according to the user's preference.

また、補助情報解析部15は、補助情報ストリームの表示位置11cに複数の表示位置候補が設定されている場合、これら表示位置候補が複数有る旨を入力部17に出力する。入力部17では、複数の表示位置候補が存在することを、ユーザにわかりやすいように画面上に示す。入力部17の操作によって複数の表示位置候補のうちのいずれかが選択されると、この表示位置候補の情報が入力部17から補助情報解析部15に出力される。   Further, when a plurality of display position candidates are set in the display position 11c of the auxiliary information stream, the auxiliary information analysis unit 15 outputs to the input unit 17 that there are a plurality of these display position candidates. The input unit 17 indicates that there are a plurality of display position candidates on the screen so that the user can easily understand. When any of the plurality of display position candidates is selected by operating the input unit 17, information on the display position candidate is output from the input unit 17 to the auxiliary information analysis unit 15.

このようにすることで、ユーザは、所望の表示位置に補助情報を的確に表示することができる。例えば、上記実施の形態1で示した図4の選手名の表示は、選手に近いほどわかりやすい反面、選手名の文字で選手自体が隠れてしまう場合がある。この場合、映像中の選手に対する選手名の表示位置候補を複数設定しておき、入力部17を使って選手と選手名表示との位置関係を選択する。これにより、補助情報の表示にユーザの好みを反映することが可能である。   By doing in this way, the user can display auxiliary information accurately in a desired display position. For example, the display of the player name in FIG. 4 shown in the first embodiment is easier to understand as it is closer to the player, but the player may be hidden by the character of the player name. In this case, a plurality of player name display position candidates for the player in the video are set, and the positional relationship between the player and the player name display is selected using the input unit 17. Thereby, it is possible to reflect a user's preference in the display of auxiliary information.

入力部17が、補助情報ストリームで時々刻々と入力される補助情報の表示可否を選択する画面を表示装置に表示するようにしてもよい。例えば、ビデオ映像でサッカーの試合をみる場合、試合開始当初は、選手名等の補助情報の表示が必要であるが、ある程度の時間試合をみると選手名等の補助情報がなくても画面中の映像を理解できる。そこで、補助情報の表示可否を選択する画面を表示装置に表示し、入力部17を介して補助情報の表示可否を選択する。このようにすることで、ユーザにとって必要な情報のみを表示することができる。   The input unit 17 may display on the display device a screen for selecting whether or not to display auxiliary information input every moment in the auxiliary information stream. For example, when watching a soccer game with video images, it is necessary to display auxiliary information such as the player name at the beginning of the game, but if you watch the game for a certain amount of time, it will be displayed on the screen even if there is no auxiliary information such as the player name Can understand the video. Therefore, a screen for selecting whether or not auxiliary information can be displayed is displayed on the display device, and whether or not auxiliary information can be displayed is selected via the input unit 17. In this way, only information necessary for the user can be displayed.

また、入力部17では、補助情報の表示サイズや色に関してユーザが指定できるようにする情報を、画面上に示す。入力部17の操作によって補助情報の表示サイズや色が選択されると、この選択情報が入力部17から補助情報解析部15に出力される。   The input unit 17 also displays on the screen information that allows the user to specify the display size and color of the auxiliary information. When the display size or color of the auxiliary information is selected by operating the input unit 17, the selection information is output from the input unit 17 to the auxiliary information analysis unit 15.

補助情報解析部15は、入力部17から入力した選択情報に従って、補助情報ストリームから抽出した補助情報内容11eに設定されていた情報を修正し、画面に表示する補助情報を生成して重畳部16に出力する。重畳部16は、ビデオ受信復号部14から入力したビデオデータに対し、補助情報解析部15から入力した補助情報を重畳して画面に表示すべきビデオデータとして出力する。   The auxiliary information analysis unit 15 modifies the information set in the auxiliary information content 11e extracted from the auxiliary information stream according to the selection information input from the input unit 17, generates auxiliary information to be displayed on the screen, and superimposes 16 Output to. The superimposing unit 16 superimposes the auxiliary information input from the auxiliary information analyzing unit 15 on the video data input from the video receiving / decoding unit 14 and outputs the video data to be displayed on the screen.

このようにすることで、ユーザの好みに応じた補助情報の表示が可能となる。例えば、補助情報として選手名を表示する場合、大きい文字が好みのユーザであれば、大きい文字のフォントを選択し、小さい文字が好みのユーザであれば、小さい文字のフォントを選択して補助情報を作成する。なお、補助情報の表示色や書体等を選択できるようにすれば、ユーザ好みの補助情報の表示形態とすることができる。   In this way, it is possible to display auxiliary information according to the user's preference. For example, when displaying a player name as auxiliary information, if a user likes large characters, a font with large characters is selected. If a user likes small characters, a font with small characters is selected and auxiliary information is selected. Create If the display color, typeface, etc. of the auxiliary information can be selected, it is possible to obtain the auxiliary information display form that the user likes.

以上のように、この実施の形態2によれば、装置3Aの外部から情報の入力や選択設定等の操作を行うための構成要素であり、補助情報の表示に関する外部操作を受け付け、入力された操作情報を補助情報解析部15に設定する入力部17を備えたので、外部から補助情報の表示方法を調整することができ、ユーザに見やすい、わかりやすい画像を表示することができる。   As described above, according to the second embodiment, it is a component for performing operations such as information input and selection setting from the outside of the device 3A, and an external operation related to display of auxiliary information is received and input. Since the input unit 17 for setting the operation information in the auxiliary information analysis unit 15 is provided, the display method of the auxiliary information can be adjusted from the outside, and an easy-to-understand and easy-to-understand image can be displayed.

また、この実施の形態2によれば、入力部17が、補助情報ストリームに含まれる複数の表示位置候補を提示し、表示位置候補を選択した操作情報を補助情報解析部15に設定するので、ユーザが補助情報の表示位置を選択することができることから、ユーザに見やすい、わかりやすい画像を表示することができる。   Further, according to the second embodiment, the input unit 17 presents a plurality of display position candidates included in the auxiliary information stream, and sets the operation information for selecting the display position candidates in the auxiliary information analysis unit 15. Since the user can select the display position of the auxiliary information, it is possible to display an easy-to-understand and easy-to-understand image for the user.

さらに、この実施の形態2によれば、入力部17が、補助情報の表示可否を選択する画面を提示し、表示可否を選択した操作情報を補助情報解析部15に設定するので、外部からの操作で補助情報の表示又は非表示を選択できることから、ユーザに見やすい、わかりやすい画像を表示することができる。   Further, according to the second embodiment, the input unit 17 presents a screen for selecting whether or not auxiliary information is to be displayed, and sets the operation information for selecting whether or not display is possible in the auxiliary information analyzing unit 15. Since the display or non-display of the auxiliary information can be selected by the operation, it is possible to display an image that is easy to see and understand for the user.

さらに、この実施の形態2によれば、入力部17が、補助情報の表示サイズや色等の補助情報内容を選択する画面を提示し、補助情報の内容を選択した操作情報を補助情報解析部15に設定するので、外部から補助情報の表示サイズや色等を選択することができ、ユーザに見やすい、わかりやすい画像を表示することができる。   Furthermore, according to the second embodiment, the input unit 17 presents a screen for selecting auxiliary information contents such as the display size and color of the auxiliary information, and the operation information selected for the auxiliary information contents is displayed as the auxiliary information analyzing unit. Therefore, the display size and color of the auxiliary information can be selected from the outside, and an easy-to-see and easy-to-understand image can be displayed.

実施の形態3.
上記実施の形態1又は2では、リアルタイムに送信装置からの多重化ストリームからビデオデータを再生する受信装置について示したが、この実施の形態3は、送信装置からの多重化ストリームを蓄積する蓄積部を有し、この蓄積部から読み出したストリームデータからビデオデータを再生する再生装置について説明する。
Embodiment 3 FIG.
In the first embodiment or the second embodiment, the reception device that reproduces video data from the multiplexed stream from the transmission device in real time has been described. However, in the third embodiment, the storage unit that accumulates the multiplexed stream from the transmission device. A playback apparatus for playing back video data from stream data read from the storage unit will be described.

図8は、この発明の実施の形態3による再生装置の構成を示すブロック図であり、分離部13が多重化ストリームデータを直接入力すれば、上記実施の形態1又は2で示した受信装置3,3Aとして機能する。図8において、再生装置4は、上記実施の形態2で示した図7の構成に加え、蓄積部18を備える。蓄積部18は、再生装置4に搭載されたハードディスクや外付け記憶装置の記憶メディアの記憶領域上に構築され、上記実施の形態1で示した送信装置1からの多重化ストリームを記憶する。なお、この他の構成要素については、上記実施の形態2で示した図7と同様であるので説明を省略する。   FIG. 8 is a block diagram showing the configuration of a playback apparatus according to Embodiment 3 of the present invention. If the demultiplexing unit 13 directly inputs multiplexed stream data, the receiving apparatus 3 shown in Embodiment 1 or 2 above. , 3A. In FIG. 8, the playback device 4 includes a storage unit 18 in addition to the configuration of FIG. 7 shown in the second embodiment. The storage unit 18 is constructed on a storage area of a storage medium of a hard disk or an external storage device mounted on the playback device 4, and stores the multiplexed stream from the transmission device 1 shown in the first embodiment. Since the other components are the same as those in FIG. 7 shown in the second embodiment, description thereof is omitted.

次に動作について説明する。
分離部13は、蓄積部18から入力した多重化ストリームをビデオストリームと補助情報ストリームとに分離し、ビデオストリームをビデオ受信復号部14に出力し、補助情報ストリームを補助情報解析部15に出力する。この後の動作は、上記実施の形態2で示した受信装置3Aの動作と同様である。蓄積部18への多重化ストリームの蓄積方法は、送信装置1から受信して分離部13へ入力される多重化ストリームを蓄積する。
Next, the operation will be described.
The separation unit 13 separates the multiplexed stream input from the storage unit 18 into a video stream and an auxiliary information stream, outputs the video stream to the video reception decoding unit 14, and outputs the auxiliary information stream to the auxiliary information analysis unit 15. . The subsequent operation is the same as the operation of the receiving apparatus 3A shown in the second embodiment. The method for accumulating the multiplexed stream in the accumulating unit 18 accumulates the multiplexed stream received from the transmission device 1 and input to the separating unit 13.

以上のように、この実施の形態3によれば、再生装置4が、符号化されたビデオデータと、このビデオデータの補助情報及びビデオデータの映像中で補助情報を付与すべき箇所を含む補助情報ストリームとを蓄積する蓄積部18と、蓄積部18から読み出したビデオデータを復号するビデオ受信復号部14と、蓄積部18から読み出した補助情報送信データを解析して、前記補助情報の内容及びこの補助情報を付与すべき箇所を決定する補助情報解析部15と、補助情報解析部15の解析結果に基づいて、ビデオ受信復号部14により復号されたビデオデータの映像に補助情報を重畳した表示データを生成して出力する重畳部16とを備えたので、非リアルタイムで、蓄積された多重化ストリームや補助情報を再生することができる。   As described above, according to the third embodiment, the playback device 4 includes the encoded video data, the auxiliary information of the video data, and the auxiliary including the portion where the auxiliary information is to be added in the video data. An accumulator 18 for accumulating an information stream, a video reception decoder 14 for decoding video data read from the accumulator 18, and ancillary information transmission data read from the accumulator 18 to analyze the contents of the auxiliary information and Auxiliary information analysis unit 15 for determining a location to which the auxiliary information should be added, and a display in which auxiliary information is superimposed on the video data decoded by the video reception decoding unit 14 based on the analysis result of the auxiliary information analysis unit 15 Since the superimposing unit 16 that generates and outputs data is provided, the accumulated multiplexed stream and auxiliary information can be reproduced in non-real time.

なお、上記実施の形態3では、上記実施の形態2による受信装置3Aに蓄積部18を設ける構成を示したが、上記実施の形態1の構成に蓄積部18を設けても構わない。   In the third embodiment, the configuration in which the storage unit 18 is provided in the receiving device 3A according to the second embodiment has been described. However, the storage unit 18 may be provided in the configuration in the first embodiment.

また、上記実施の形態3では、ビデオストリームと補助情報ストリームを含む多重化ストリームを蓄積部18に蓄積する例を示したが、ビデオストリームと補助情報ストリームとが別個に送信される場合は、これらを別個に蓄積するようにしてもよい。この場合、分離部13は使用されず、ビデオ受信復号部14と補助情報解析部15にビデオストリームと補助情報ストリームがそれぞれ入力される。   In the third embodiment, the example in which the multiplexed stream including the video stream and the auxiliary information stream is stored in the storage unit 18 has been described. However, when the video stream and the auxiliary information stream are transmitted separately, May be stored separately. In this case, the separation unit 13 is not used, and the video stream and the auxiliary information stream are respectively input to the video reception decoding unit 14 and the auxiliary information analysis unit 15.

この発明によるテレビ放送送受信システムの構成を示す図である。It is a figure which shows the structure of the television broadcast transmission / reception system by this invention. この発明の実施の形態1による送信装置の構成を示すブロック図である。It is a block diagram which shows the structure of the transmitter by Embodiment 1 of this invention. 補助情報の伝送フォーマットを示す図である。It is a figure which shows the transmission format of auxiliary information. 補助情報を含む受信側での表示例を示す図である。It is a figure which shows the example of a display by the receiving side containing auxiliary information. この発明の実施の形態1による受信装置の構成を示すブロック図である。It is a block diagram which shows the structure of the receiver by Embodiment 1 of this invention. 補助情報を含む受信側での表示例を示す図である。It is a figure which shows the example of a display by the receiving side containing auxiliary information. この発明の実施の形態2による受信装置の構成を示すブロック図である。It is a block diagram which shows the structure of the receiver by Embodiment 2 of this invention. この発明の実施の形態3による再生装置の構成を示すブロック図である。It is a block diagram which shows the structure of the reproducing | regenerating apparatus by Embodiment 3 of this invention.

符号の説明Explanation of symbols

1 送信装置、1a ストリームデータ、2 放送設備、3,3A 受信装置、4 再生装置、5 放送波、6 ビデオ符号化送信部(ビデオ送信部)、7 画像解析部、8 補助情報生成部、8a 制御情報入力部、9 補助情報送信部、10 多重化部、11 補助情報ストリーム(補助情報送信データ)、11a 識別子、11b 表示時刻、11c 表示位置、11d 補助情報ID、11e 補助情報内容、11A,11B 選手、11C マーク、11D 拡大画像、12 画面、13 分離部、14 ビデオ受信復号部(ビデオ復号部)、15 補助情報解析部、16 重畳部、17 入力部、18 蓄積部。   DESCRIPTION OF SYMBOLS 1 Transmission apparatus, 1a Stream data, 2 Broadcast equipment, 3, 3A reception apparatus, 4 Playback apparatus, 5 Broadcast wave, 6 Video encoding transmission part (video transmission part), 7 Image analysis part, 8 Auxiliary information generation part, 8a Control information input unit, 9 auxiliary information transmission unit, 10 multiplexing unit, 11 auxiliary information stream (auxiliary information transmission data), 11a identifier, 11b display time, 11c display position, 11d auxiliary information ID, 11e auxiliary information content, 11A, 11B player, 11C mark, 11D enlarged image, 12 screens, 13 separation unit, 14 video reception decoding unit (video decoding unit), 15 auxiliary information analysis unit, 16 superposition unit, 17 input unit, 18 storage unit.

Claims (10)

ビデオデータを符号化して送信するビデオ送信部と、
前記ビデオデータの補助情報を生成する補助情報生成部と、
前記補助情報生成部から通知された前記補助情報を付与する対象画像の情報に基づいて前記ビデオデータを解析し、このビデオデータの映像中で前記補助情報を表示すべき箇所を検出する画像解析部と、
前記補助情報及び前記ビデオデータの映像中で前記補助情報を表示すべき箇所を含む補助情報送信データを生成して送信する補助情報送信部とを備えた送信装置。
A video transmitter for encoding and transmitting video data;
An auxiliary information generating unit for generating auxiliary information of the video data;
An image analysis unit that analyzes the video data based on information of a target image to which the auxiliary information is notified notified from the auxiliary information generation unit, and detects a portion where the auxiliary information is to be displayed in the video data. When,
A transmission apparatus comprising: an auxiliary information transmission unit that generates and transmits auxiliary information transmission data including a portion where the auxiliary information should be displayed in the video of the auxiliary information and the video data.
補助情報送信部は、補助情報の内容が同じで、この補助情報を表示すべき箇所に変更がある場合、前記補助情報を表示すべき箇所のみを含む補助情報送信データを生成して送信することを特徴とする請求項1記載の送信装置。   When the content of the auxiliary information is the same and there is a change in the location where the auxiliary information is to be displayed, the auxiliary information transmitting unit generates and transmits auxiliary information transmission data including only the location where the auxiliary information is to be displayed. The transmission apparatus according to claim 1. 補助情報送信部は、補助情報を表示する箇所の複数の候補を含む補助情報送信データを生成して送信することを特徴とする請求項1または請求項2記載の送信装置。   The transmission device according to claim 1 or 2, wherein the auxiliary information transmission unit generates and transmits auxiliary information transmission data including a plurality of candidates for displaying the auxiliary information. 補助情報生成部は、予め設定された若しくはビデオデータから抽出された、動画像及び静止画像の少なくとも一方を用いて補助情報を生成することを特徴とする請求項1から請求項3のうちのいずれか1項記載の送信装置。   4. The auxiliary information generation unit generates auxiliary information using at least one of a moving image and a still image that are set in advance or extracted from video data. The transmission device according to claim 1. 符号化されたビデオデータを受信して復号するビデオ復号部と、
前記ビデオデータの補助情報及びこのビデオデータの映像中で前記補助情報を表示すべき箇所を含む補助情報送信データを解析して、前記補助情報の内容及びこの補助情報を表示すべき箇所を決定する補助情報解析部と、
前記補助情報解析部の解析結果に基づいて、前記ビデオ復号部により復号されたビデオデータの映像に前記補助情報を重畳した表示データを生成して出力する重畳部とを備えた受信装置。
A video decoding unit for receiving and decoding the encoded video data;
The auxiliary information of the video data and the auxiliary information transmission data including the portion where the auxiliary information is to be displayed in the video data are analyzed to determine the content of the auxiliary information and the portion where the auxiliary information is to be displayed. An auxiliary information analysis unit;
And a superimposing unit that generates and outputs display data in which the auxiliary information is superimposed on the video data decoded by the video decoding unit based on the analysis result of the auxiliary information analyzing unit.
外部からの操作情報を受け付ける入力部を備え、
補助情報解析部は、前記入力部で入力された操作情報に従って、補助情報の提示方法を決定することを特徴とする請求項5記載の受信装置。
It has an input unit that accepts external operation information,
The receiving apparatus according to claim 5, wherein the auxiliary information analyzing unit determines a presentation method of the auxiliary information according to the operation information input by the input unit.
入力部は、補助情報を表示すべき箇所の複数の候補を提示し、
前記補助情報解析部は、前記入力部で前記複数の候補から指定された箇所を、前記補助情報を表示すべき箇所とすることを特徴とする請求項6記載の受信装置。
The input unit presents a plurality of candidates for displaying the auxiliary information,
The receiving apparatus according to claim 6, wherein the auxiliary information analysis unit sets a location designated from the plurality of candidates by the input unit as a location where the auxiliary information is to be displayed.
入力部は、補助情報の表示可否を提示し、
前記補助情報解析部は、前記入力部で選択された表示可否に従って、前記補助情報の表示可否を決定することを特徴とする請求項6または請求項7記載の受信装置。
The input unit presents whether auxiliary information can be displayed,
The receiving apparatus according to claim 6 or 7, wherein the auxiliary information analysis unit determines whether or not the auxiliary information can be displayed according to whether or not the input is selected by the input unit.
入力部は、補助情報の表示内容の選択情報を提示し、
前記補助情報解析部は、前記入力部で選択された補助情報の表示内容に従って、前記補助情報の表示内容を決定することを特徴とする請求項6から請求項8のうちのいずれか1項記載の受信装置。
The input unit presents selection information for display contents of auxiliary information,
The said auxiliary information analysis part determines the display content of the said auxiliary information according to the display content of the auxiliary information selected by the said input part, The any one of Claims 6-8 characterized by the above-mentioned. Receiver.
符号化されたビデオデータと、このビデオデータの補助情報及び前記ビデオデータの映像中で前記補助情報を表示すべき箇所を含む補助情報送信データとを蓄積する蓄積部と、
前記蓄積部から読み出した前記ビデオデータを復号するビデオ復号部と、
前記蓄積部から読み出した前記補助情報送信データを解析して、前記補助情報の内容及びこの補助情報を表示すべき箇所を決定する補助情報解析部と、
前記補助情報解析部の解析結果に基づいて、前記ビデオ復号部により復号されたビデオデータの映像に前記補助情報を重畳した表示データを生成して出力する重畳部とを備えた再生装置。
A storage unit for storing encoded video data, auxiliary information of the video data, and auxiliary information transmission data including a portion where the auxiliary information is to be displayed in the video data;
A video decoding unit for decoding the video data read from the storage unit;
Analyzing the auxiliary information transmission data read from the storage unit, and determining the content of the auxiliary information and the location where the auxiliary information is to be displayed; and
And a superimposing unit that generates and outputs display data in which the auxiliary information is superimposed on the video data decoded by the video decoding unit based on the analysis result of the auxiliary information analyzing unit.
JP2007166559A 2007-06-25 2007-06-25 Transmitting apparatus, receiving apparatus, and reproducing apparatus Expired - Fee Related JP5110978B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007166559A JP5110978B2 (en) 2007-06-25 2007-06-25 Transmitting apparatus, receiving apparatus, and reproducing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007166559A JP5110978B2 (en) 2007-06-25 2007-06-25 Transmitting apparatus, receiving apparatus, and reproducing apparatus

Publications (2)

Publication Number Publication Date
JP2009005268A true JP2009005268A (en) 2009-01-08
JP5110978B2 JP5110978B2 (en) 2012-12-26

Family

ID=40321131

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007166559A Expired - Fee Related JP5110978B2 (en) 2007-06-25 2007-06-25 Transmitting apparatus, receiving apparatus, and reproducing apparatus

Country Status (1)

Country Link
JP (1) JP5110978B2 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012249059A (en) * 2011-05-27 2012-12-13 Sony Corp Image processing apparatus and recording apparatus
JP2015037264A (en) * 2013-08-14 2015-02-23 日本放送協会 Reception device, transmission device, and program
JP2015159364A (en) * 2014-02-21 2015-09-03 日本放送協会 receiver and broadcasting system
JP2016167654A (en) * 2015-03-09 2016-09-15 株式会社鳥山研究室 Program reproducing apparatus and program reproducing system
JP2020042759A (en) * 2018-09-06 2020-03-19 タタ コンサルタンシー サービシズ リミテッドTATA Consultancy Services Limited Real time overlay arrangement in videos for augmented reality applications

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000333080A (en) * 1999-05-21 2000-11-30 Yamaha Corp Image pickup and processing unit
JP2002238036A (en) * 2001-02-07 2002-08-23 Fujitsu Ltd Broadcast method, and program for executing the broadcast method by broadcast station device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000333080A (en) * 1999-05-21 2000-11-30 Yamaha Corp Image pickup and processing unit
JP2002238036A (en) * 2001-02-07 2002-08-23 Fujitsu Ltd Broadcast method, and program for executing the broadcast method by broadcast station device

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012249059A (en) * 2011-05-27 2012-12-13 Sony Corp Image processing apparatus and recording apparatus
JP2015037264A (en) * 2013-08-14 2015-02-23 日本放送協会 Reception device, transmission device, and program
JP2015159364A (en) * 2014-02-21 2015-09-03 日本放送協会 receiver and broadcasting system
JP2016167654A (en) * 2015-03-09 2016-09-15 株式会社鳥山研究室 Program reproducing apparatus and program reproducing system
JP2020042759A (en) * 2018-09-06 2020-03-19 タタ コンサルタンシー サービシズ リミテッドTATA Consultancy Services Limited Real time overlay arrangement in videos for augmented reality applications

Also Published As

Publication number Publication date
JP5110978B2 (en) 2012-12-26

Similar Documents

Publication Publication Date Title
KR100965471B1 (en) Captioned still image content creating device, captioned still image content creating program and captioned still image content creating system
JP4384074B2 (en) Broadcast content processing apparatus and control method thereof
JP5423425B2 (en) Image processing device
JP6399726B1 (en) Text content generation device, transmission device, reception device, and program
US20090149128A1 (en) Subtitle information transmission apparatus, subtitle information processing apparatus, and method of causing these apparatuses to cooperate with each other
JP2004080476A (en) Digital video reproducing device
JP5110978B2 (en) Transmitting apparatus, receiving apparatus, and reproducing apparatus
US20130061279A1 (en) Digital broadcast reception device and digital broadcast reception method
JP2006245907A (en) Broadcast recording and reproducing apparatus
JP4989271B2 (en) Broadcast receiver and display method
JP2006211488A (en) Video reproducing apparatus
JP2010278790A (en) Digital data receiver and program
JP2010252050A (en) Video processor, video display device, and video processing method
JP2009049831A (en) Indication output device
JP2007243841A (en) Video output device
JP2011182008A (en) Subtitle synthesizer
KR20050078894A (en) Caption presentation method and apparatus thereof
JP2013207454A (en) Receiving device, transmitting device, receiving method, receiving program, and recording medium storing receiving program
JP4208033B2 (en) Receiver
JP2010273051A (en) Video processing apparatus, video display device and video processing method
WO2014207874A1 (en) Electronic device, output method, and program
JP5311448B2 (en) Subtitled video playback device, subtitled video playback method and program
JP4340546B2 (en) Receiver
JP2008148175A (en) Closed caption information processor, and character string information output unit and method
JP4315200B2 (en) Receiver

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100325

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120619

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120911

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121009

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151019

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees