JP7846971B2 - Transmitter and receiver - Google Patents
Transmitter and receiverInfo
- Publication number
- JP7846971B2 JP7846971B2 JP2021154860A JP2021154860A JP7846971B2 JP 7846971 B2 JP7846971 B2 JP 7846971B2 JP 2021154860 A JP2021154860 A JP 2021154860A JP 2021154860 A JP2021154860 A JP 2021154860A JP 7846971 B2 JP7846971 B2 JP 7846971B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- service
- unit
- base layer
- encoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
本発明は、映像伝送システムのための送信装置及び受信装置に関する。 This invention relates to a transmitting device and a receiving device for a video transmission system.
近年の放送サービスにおける副サービスとして、音声多重技術を利用した副音声を用いた解説放送や追加コンテンツとしての裏トークサービスが好評を博している。このような音声の副サービスは、本サービスとは別の音声チャンネルを用いて本サービスとは別の音声サービスを提供する。これにより、健常な視覚をもたない視聴者にとって映像を理解する助けとなったり、番組の新たなコンテンツとして新たな視聴者の獲得に貢献したりすることができる。 In recent years, supplementary services in broadcasting have gained popularity, such as audio commentary using audio multiplexing technology and behind-the-scenes talk services as additional content. These audio supplementary services provide separate audio content using a different audio channel from the main service. This can help viewers with impaired vision understand the video and contribute to attracting new viewers by providing new content for programs.
他方、放送の映像伝送では基本的に1チャンネル1映像しか伝送できないモードを用いている。また、映像伝送における符号化技術として、マルチレイヤ符号化(階層符号化又はスケーラブル符号化とも呼ばれる)がある。マルチレイヤ符号化は、複数階層の符号化ストリームを伝送する技術であって、すべての符号化ストリームを利用して復号すると高い品質の映像が再生されるのに対し、一部の符号化ストリーム(具体的には、ベースレイヤ)のみを復号しても低い品質の映像が再生可能な技術である。 On the other hand, broadcast video transmission generally uses a mode that transmits only one video signal per channel. Furthermore, multi-layer coding (also called hierarchical coding or scalable coding) is a coding technique used in video transmission. Multi-layer coding is a technique that transmits multiple layers of coded streams. While high-quality video can be reproduced by using all coded streams for decoding, lower-quality video can be reproduced even if only some of the coded streams (specifically, the base layer) are decoded.
マルチ編成技術のような複数番組を同時に伝送する技術は存在するものの、上述の副音声サービスのような副サービスが映像について実現されていないという問題がある。現在行われている放送サービスでは付加サービスとして字幕サービスが実現されているが、字幕は文字情報をデータとして放送するデータ放送としてサービスが実現されており、文字情報や簡単なアイコンのみしか取り扱うことができず、字幕や図表などを用いた解説放送などは実現されていない。また、多言語字幕放送なども受信機で対応すべきフォントデータの増大を招くため実現されていない。 While technologies exist for simultaneously transmitting multiple programs, such as multi-programming technology, there is a problem in that supplementary services, such as the aforementioned secondary audio service, have not been implemented for video. Currently, broadcast services offer subtitle services as an add-on service, but these are implemented as data broadcasting, transmitting text information as data. This limits the handling of text information and simple icons, and explanatory broadcasts using subtitles, diagrams, and other visuals have not been realized. Furthermore, multilingual subtitle broadcasting has not been implemented because it would increase the amount of font data that receivers would need to support.
他方、上述のマルチレイヤ符号化技術は異なる解像度や品質の映像サービスを効率的に実現することが可能であり、無線伝送、有線伝送など回線品質の混在する映像配信サービスにおいて用いられているものの、その活用が十分になされていないという問題がある。 On the other hand, while the aforementioned multi-layer encoding technology can efficiently realize video services with different resolutions and qualities, and is used in video distribution services where different line qualities such as wireless and wired transmissions coexist, there is a problem in that its utilization is not being fully realized.
そこで、本発明は、マルチレイヤ符号化技術を活用して映像伝送システムにおいて副映像サービスを実現する送信装置及び受信装置を提供することを目的とする。 Therefore, the present invention aims to provide a transmitting device and a receiving device that realize a sub-video service in a video transmission system by utilizing multi-layer coding technology.
第1の態様に係る送信装置は、映像伝送システムのための送信装置であって、主映像サービスの映像信号に対して副映像サービスの副映像信号を重畳する重畳手段と、マルチレイヤ符号化技術を用いて、前記映像信号をベースレイヤとして符号化するとともに、前記重畳手段が出力する副映像付き映像信号をエンハンスメントレイヤとして符号化する符号化手段と、前記符号化手段が出力する前記ベースレイヤ及び前記エンハンスメントレイヤのそれぞれの符号化ストリームを送信する送信手段とを備えることを要旨とする。 The first embodiment of the transmitting device is a transmitting device for a video transmission system, comprising: a superposition means for superimposing a sub-video signal of a sub-video service onto a video signal of a main video service; an encoding means for encoding the video signal as a base layer and encoding the sub-video signal output by the superposition means as an enhancement layer using multi-layer encoding technology; and a transmitting means for transmitting the encoded streams of the base layer and the enhancement layer output by the encoding means.
第2の態様に係る受信装置は、マルチレイヤ符号化技術を用いる映像伝送システムのための受信装置であって、ベースレイヤ及びエンハンスメントレイヤのそれぞれの符号化ストリームを受信する受信手段と、副映像サービスの映像再生が選択されない場合、前記ベースレイヤの符号化ストリームから主映像サービスの映像信号を復号する復号手段と、を備え、前記復号手段は、前記副映像サービスの映像再生が選択された場合、前記ベースレイヤ及び前記エンハンスメントレイヤのそれぞれの符号化ストリームから、前記副映像サービスの副映像信号が前記映像信号に重畳された副映像付き映像信号を復号することを要旨とする。 The second embodiment of the receiving device is a receiving device for a video transmission system using multilayer coding technology, comprising: receiving means for receiving the coding streams of the base layer and the enhancement layer, respectively; and decoding means for decoding the video signal of the main video service from the coding stream of the base layer when video playback of the sub-video service is not selected, wherein, when video playback of the sub-video service is selected, the decoding means decodes a video signal with sub-video superimposed on the main video signal from the coding streams of the base layer and the enhancement layer, respectively.
本発明によれば、マルチレイヤ符号化技術を活用して映像伝送システムにおいて副映像サービスを実現する送信装置及び受信装置を提供できる。 According to the present invention, a transmitting device and a receiving device can be provided that realize a sub-video service in a video transmission system by utilizing multi-layer coding technology.
図面を参照して、実施形態に係る映像伝送システムのための送信装置及び受信装置について説明する。以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を付している。 The transmitting and receiving devices for the video transmission system according to the embodiment will be described with reference to the drawings. In the following drawings, identical or similar parts are denoted by the same or similar reference numerals.
(送信装置)
まず、本実施形態に係る送信装置について説明する。本実施形態において、副映像サービスとしての多言語字幕サービスを映像伝送システムにおいて実現する一例について説明する。図1は、本実施形態に係る送信装置10の構成を示す図である。
(Transmitter)
First, the transmitting device according to this embodiment will be described. In this embodiment, an example of realizing a multilingual subtitle service as a secondary video service in a video transmission system will be described. Figure 1 is a diagram showing the configuration of the transmitting device 10 according to this embodiment.
図1に示すように、送信装置10は、k個の字幕重畳部11(11#1乃至11#k)と、k個の符号化部12(12#1乃至12#k)と、送信部13とを有する。なお、kは2以上の整数である。本実施形態において、字幕重畳部11(11#1乃至11#k)は重畳手段に相当し、符号化部12(12#1乃至12#k)は符号化手段に相当し、送信部13は送信手段に相当する。 As shown in Figure 1, the transmitting device 10 has k subtitle overlay units 11 (11#1 to 11#k), k encoding units 12 (12#1 to 12#k), and a transmitting unit 13. Here, k is an integer of 2 or more. In this embodiment, the subtitle overlay units 11 (11#1 to 11#k) correspond to overlay means, the encoding units 12 (12#1 to 12#k) correspond to encoding means, and the transmitting unit 13 corresponds to transmitting means.
字幕重畳部11#1乃至11#kは、主映像サービスの映像信号に対して、主映像サービスに関する字幕サービスの字幕信号を重畳し、字幕付き映像信号を出力する。字幕サービスは副映像サービスの一例であり、字幕信号は副映像信号の一例である。 The subtitle overlay units 11#1 to 11#k overlay the subtitle signals of the subtitle service related to the main video service onto the video signal of the main video service, and output a video signal with subtitles. The subtitle service is an example of a secondary video service, and the subtitle signal is an example of a secondary video signal.
本実施形態において、字幕重畳部11#1乃至11#kは、主映像サービスの映像信号に対して、互いに異なるk個の字幕信号を重畳し、k個の字幕付き映像信号を出力する。ここで、k個の字幕信号は、k種類の言語の字幕サービスの映像信号である。 In this embodiment, the subtitle overlay units 11#1 to 11#k overlay k distinct subtitle signals onto the video signal of the main video service, and output k subtitled video signals. Here, the k subtitle signals are video signals from subtitle services in k different languages.
具体的には、字幕重畳部11#1は主映像サービスの映像信号に対して第1言語の字幕信号#1を重畳し、字幕付き映像信号#1を符号化部12#1に出力する。同様にして、字幕重畳部11#2は主映像サービスの映像信号に対して第2言語の字幕信号#2を重畳し、字幕付き映像信号#2を符号化部12#2に出力する。字幕重畳部11#kは主映像サービスの映像信号に対して第k言語の字幕信号#kを重畳し、字幕付き映像信号#kを符号化部12#kに出力する。 Specifically, the subtitle overlay unit 11#1 overlays the subtitle signal #1 of the first language onto the video signal of the main video service and outputs the subtitled video signal #1 to the encoding unit 12#1. Similarly, the subtitle overlay unit 11#2 overlays the subtitle signal #2 of the second language onto the video signal of the main video service and outputs the subtitled video signal #2 to the encoding unit 12#2. The subtitle overlay unit 11#k overlays the subtitle signal #k of the kth language onto the video signal of the main video service and outputs the subtitled video signal #k to the encoding unit 12#k.
図2は、本実施形態に係る字幕重畳部11の動作例を示す図である。ここでは、k=3である一例について説明する。字幕重畳部11#1は、図2(b)に示すように、図2(a)に示す主映像サービスの映像(主映像)に対して日本語の字幕#1を重畳して出力する。字幕重畳部11#2は、図2(c)に示すように、図2(a)に示す主映像に対して英語の字幕#2を重畳して出力する。字幕重畳部11#3は、図2(d)に示すように、図2(a)に示す主映像に対してフランス語の字幕#3を重畳して出力する。 Figure 2 shows an example of the operation of the subtitle overlay unit 11 according to this embodiment. Here, an example where k = 3 is described. As shown in Figure 2(b), the subtitle overlay unit 11#1 overlays and outputs Japanese subtitle #1 onto the main video service video (main video) shown in Figure 2(a). As shown in Figure 2(c), the subtitle overlay unit 11#2 overlays and outputs English subtitle #2 onto the main video shown in Figure 2(a). As shown in Figure 2(d), the subtitle overlay unit 11#3 overlays and outputs French subtitle #3 onto the main video shown in Figure 2(a).
図1に戻り、符号化部12(12#1乃至12#k)は、マルチレイヤ符号化技術を用いて、主映像サービスの映像信号をベースレイヤとして符号化するとともに、字幕重畳部11(11#1乃至11#k)が出力する字幕付き映像信号#1乃至#kをエンハンスメントレイヤとして符号化する。 Returning to Figure 1, the encoding unit 12 (12#1 to 12#k) uses multi-layer encoding technology to encode the video signal of the main video service as the base layer, and also encodes the subtitled video signals #1 to #k output by the subtitle overlay unit 11 (11#1 to 11#k) as the enhancement layer.
具体的には、符号化部12#1は、主映像サービスの映像信号をベースレイヤとして符号化するとともに、字幕重畳部11#1が出力する字幕付き映像信号#1をエンハンスメントレイヤ#1として符号化し、ベースレイヤの符号化ストリーム及びエンハンスメントレイヤ#1の符号化ストリームを送信部13に出力する。符号化部12#2は、字幕重畳部11#2が出力する字幕付き映像信号#2をエンハンスメントレイヤ#2として符号化し、エンハンスメントレイヤ#2の符号化ストリームを送信部13に出力する。符号化部12#kは、字幕重畳部11#kが出力する字幕付き映像信号#kをエンハンスメントレイヤ#kとして符号化し、エンハンスメントレイヤ#kの符号化ストリームを送信部13に出力する。符号化部12#2乃至12#kは、符号化部12#1のベースレイヤの符号化に関する符号化制御情報を共有し、符号化部12#1と同じベースレイヤを生成可能とするが、ベースレイヤのストリームは符号化部12#1と同一となるため送信部13に出力しない。 Specifically, the encoding unit 12#1 encodes the video signal of the main video service as the base layer, and also encodes the subtitled video signal #1 output by the subtitle overlay unit 11#1 as enhancement layer #1, and outputs the encoded stream of the base layer and the encoded stream of enhancement layer #1 to the transmission unit 13. The encoding unit 12#2 encodes the subtitled video signal #2 output by the subtitle overlay unit 11#2 as enhancement layer #2, and outputs the encoded stream of enhancement layer #2 to the transmission unit 13. The encoding unit 12#k encodes the subtitled video signal #k output by the subtitle overlay unit 11#k as enhancement layer #k, and outputs the encoded stream of enhancement layer #k to the transmission unit 13. Encoding units 12#2 to 12#k share encoding control information related to the encoding of the base layer of encoding unit 12#1, enabling them to generate the same base layer as encoding unit 12#1. However, since the base layer stream is identical to that of encoding unit 12#1, it is not output to the transmission unit 13.
マルチレイヤ符号化の方式には、HEVC(High efficiency video coding)と呼ばれる符号化方式におけるScalable Main 10プロファイルを用いることができる。HEVCは、現在の4K8K衛星放送で用いられている符号化方式である。4K8K衛星放送では、Main10プロファイルと呼ばれる符号化ツール群を用いて映像を効率的に圧縮して伝送する。Scalable Main 10プロファイルは、ベースレイヤとしてMain10プロファイル相当の映像を伝送しながら、エンハンスメントレイヤを追加してベースレイヤの映像に重畳することができる符号化の仕組みである。 For multi-layer encoding, the Scaleable Main 10 profile in the HEVC (High Efficiency Video Coding) encoding scheme can be used. HEVC is the encoding scheme currently used in 4K/8K satellite broadcasting. In 4K/8K satellite broadcasting, a set of encoding tools called the Main 10 profile is used to efficiently compress and transmit video. The Scaleable Main 10 profile is an encoding mechanism that allows for the transmission of video equivalent to the Main 10 profile as the base layer, while adding an enhancement layer and superimposing it on the base layer video.
或いは、マルチレイヤ符号化の方式には、VVC(Versatile Video Coding)と呼ばれる最新の符号化方式におけるMultilayer Main10プロファイルを用いてもよい。Multilayer Main10プロファイルでは、上述のScalable Main 10プロファイルと同様に、Main10プロファイルに対して複数レイヤの伝送を実現するプロファイルであり、複数のレイヤの映像伝送が可能である。 Alternatively, the Multilayer Main 10 profile in the latest encoding method called VVC (Versatile Video Coding) may be used for multilayer encoding. Similar to the Scaleable Main 10 profile described above, the Multilayer Main 10 profile enables the transmission of multiple layers relative to the Main 10 profile, allowing for the transmission of video across multiple layers.
このようなマルチレイヤ機能を備えた符号化技術では、映像の本サービスとなるベースレイヤに対して上位レイヤであるエンハンスメントレイヤの映像を重畳することができる。なお、マルチレイヤ符号化としてHEVCのScalable Main 10プロファイルやVVCのMultilayer Main10プロファイルを例に挙げたが、HEVCやVVCに限定されるものではなく、他の符号化方式を用いてもよい。 In encoding technologies with such multi-layer functionality, the enhancement layer, which is a higher layer of video, can be superimposed on the base layer, which is the main video service. While HEVC's Scaleable Main 10 profile and VVC's Multilayer Main 10 profile were given as examples of multi-layer encoding, it is not limited to HEVC or VVC; other encoding methods may also be used.
図3は、本実施形態に係る符号化部12#1の構成例を示す図である。図3に示すように、符号化部12#1は、ベースレイヤ符号化を行うベースレイヤ符号化部121と、ベースレイヤの上位レイヤに相当する符号化を行うエンハンスメントレイヤ符号化部122とを有する。 Figure 3 shows an example configuration of the encoding unit 12#1 according to this embodiment. As shown in Figure 3, the encoding unit 12#1 includes a base layer encoding unit 121 that performs base layer encoding and an enhancement layer encoding unit 122 that performs encoding corresponding to the layer above the base layer.
ベースレイヤ符号化部121は、符号化処理部121aと、エントロピー符号化部121bと、復号処理部121cと、DPB(Decoded Picture Buffer)121dとを有する。 The base layer encoding unit 121 includes an encoding processing unit 121a, an entropy encoding unit 121b, a decoding processing unit 121c, and a DPB (Decoded Picture Buffer) 121d.
符号化処理部121aは、主映像サービスの映像信号の映像フレーム(原画像)についてDPB121dを参照して予測処理を行い、予測画像と原画像との差分である予測残差を変換及び量子化し、量子化された変換係数を出力する。また、符号化処理部121aは、予測処理に関する情報(例えば動きベクトル情報)などを符号化制御情報としてエンハンスメントレイヤ符号化部122に出力する。 The encoding processing unit 121a performs prediction processing on the video frame (original image) of the video signal of the main video service by referring to the DPB 121d. It then transforms and quantizes the prediction residual, which is the difference between the predicted image and the original image, and outputs the quantized transformation coefficients. Furthermore, the encoding processing unit 121a outputs information related to the prediction processing (e.g., motion vector information) as encoding control information to the enhancement layer encoding unit 122.
エントロピー符号化部121bは、符号化処理部121aが出力する量子化変換係数や動きベクトル情報など符号化情報に対してエントロピー符号化処理を行い、ベースレイヤの符号化ストリーム(ビットストリーム)を出力する。 The entropy encoding unit 121b performs entropy encoding on the encoded information, such as quantization conversion coefficients and motion vector information, output by the encoding processing unit 121a, and outputs the encoded stream (bitstream) of the base layer.
復号処理部121cは、符号化処理部121aが出力する量子化変換係数を逆量子化及び逆変換して予測残差を復元し、動きベクトル情報などの符号化制御情報を用いて復元された予測画像及び予測残差を合成して原画像を復元(復号)し、復号画像をDPB121d及び符号化処理部121aに出力する。 The decoding processing unit 121c inversely quantizes and inversely transforms the quantization conversion coefficients output by the encoding processing unit 121a to restore the prediction residuals. Using encoding control information such as motion vector information, it synthesizes the restored prediction image and prediction residuals to restore (decode) the original image, and outputs the decoded image to the DPB 121d and the encoding processing unit 121a.
DPB121dは、復号処理部121cが出力する復号画像を格納する。DPB121dが出力する復号画像は、予測参照画像として符号化処理部121aにおける予測処理に用いられる。また、DPB121dは、復号画像を符号化処理部122aで用いる予測参照信号の一つとしてエンハンスメントレイヤ符号化部122に出力する。 The DPB121d stores the decoded image output by the decoding processing unit 121c. The decoded image output by the DPB121d is used as a prediction reference image in the prediction processing of the encoding processing unit 121a. The DPB121d also outputs the decoded image to the enhancement layer encoding unit 122 as one of the prediction reference signals used by the encoding processing unit 122a.
エンハンスメントレイヤ符号化部122は、ベースレイヤ符号化部121と同様に、符号化処理部122aと、エントロピー符号化部122bと、復号処理部122cと、DPB122dとを有する。 The enhancement layer coding unit 122, like the base layer coding unit 121, includes an coding processing unit 122a, an entropy coding unit 122b, a decoding processing unit 122c, and a DPB 122d.
DPB122dは、ベースレイヤ符号化部121のDPB121dが出力する復号画像と復号処理部122cの出力する復号画像を、エンハンスメントレイヤの予測参照画像として格納する。 The DPB122d stores the decoded image output by the DPB121d of the base layer encoding unit 121 and the decoded image output by the decoding processing unit 122c as the predicted reference image of the enhancement layer.
符号化処理部122aは、字幕付き映像信号#1の映像フレーム(原画像)についてDPB122dを参照して予測処理を行い、予測画像と原画像との差分である予測残差を変換及び量子化し、量子化された変換係数を出力する。ここで、符号化処理部122aは、ベースレイヤ符号化部121が出力する符号化制御情報(例えば動きベクトル情報など)を予測処理に用いる。 The encoding processing unit 122a performs prediction processing on the video frame (original image) of the subtitled video signal #1 by referring to the DPB 122d. It then transforms and quantizes the prediction residual, which is the difference between the predicted image and the original image, and outputs the quantized transformation coefficients. Here, the encoding processing unit 122a uses the encoding control information (e.g., motion vector information) output by the base layer encoding unit 121 for the prediction processing.
エントロピー符号化部122bは、符号化処理部122aが出力する量子化変換係数や動きベクトル情報など符号化情報に対してエントロピー符号化処理を行い、エンハンスメントレイヤ#1の符号化ストリーム(ビットストリーム)を出力する。 The entropy coding unit 122b performs entropy coding on the coded information, such as quantization conversion coefficients and motion vector information, output by the coding processing unit 122a, and outputs the coded stream (bitstream) of enhancement layer #1.
復号処理部122cは、符号化処理部122aが出力する量子化変換係数を逆量子化及び逆変換して予測残差を復元し、動きベクトル情報などの符号化制御情報を用いて復元された予測画像及び予測残差を合成して原画像を復元(復号)し、復号画像をDPB122dに出力する。 The decoding processing unit 122c inversely quantizes and inversely transforms the quantization conversion coefficients output by the encoding processing unit 122a to reconstruct the prediction residuals. Using encoding control information such as motion vector information, it synthesizes the reconstructed prediction image and prediction residuals to reconstruct (decode) the original image, and outputs the decoded image to the DPB 122d.
このように、エンハンスメントレイヤ符号化部122は、ベースレイヤの復号画像も予測処理に使用し、この復号画像と字幕付き映像信号#1との差分(予測残差)を符号化する処理を行うため、ベースレイヤの符号化された信号を復号した映像と原画像の差分信号をエンハンスメントレイヤで符号化する処理となり一般的には符号化劣化を補償する信号を符号化する。本発明では、敢えてエンハンスメントレイヤにベースレイヤの映像と異なる字幕を付与した信号を用いることにより、字幕部分は差分に相当するため、字幕部分をエンハンスメントレイヤのみで符号化することになる。 Thus, the enhancement layer encoding unit 122 also uses the decoded image from the base layer for prediction processing and encodes the difference (prediction residual) between this decoded image and the subtitled video signal #1. Therefore, the enhancement layer encodes the difference signal between the decoded video and the original image, generally encoding a signal that compensates for encoding degradation. In this invention, by deliberately using a signal with subtitles different from those of the base layer video in the enhancement layer, the subtitle portion corresponds to the difference, and thus the subtitle portion is encoded solely by the enhancement layer.
なお、本実施形態のように、ベースレイヤとエンハンスメントレイヤとで同じ解像度の映像を符号化するマルチレイヤ符号化は一般的にはベースレイヤに生じる符号化劣化を補償する情報をエンハンスメントレイヤとして符号化し、それぞれのレイヤで符号化品質が異なることから品質の異なる信号を伝送するSNR(Signal to noise ration)スケーラブル符号化と呼ばれることがある。但し、本実施形態では、エンハンスメントレイヤにおいて、ベースレイヤが符号化する映像信号とは異なる字幕付き映像信号を符号化する点で、一般的なSNRスケーラブル符号化とは異なる。また、字幕以外の部分における映像品質も改善できる。 Furthermore, multi-layer encoding, as in this embodiment, where the base layer and enhancement layer encode video at the same resolution, is generally called SNR (Signal to Noise Ratio) scalable encoding because it encodes information in the enhancement layer to compensate for encoding degradation in the base layer, resulting in different encoding qualities in each layer, thus transmitting signals of different qualities. However, in this embodiment, the enhancement layer encodes a subtitled video signal different from the video signal encoded by the base layer, which is different from general SNR scalable encoding. Additionally, it can improve video quality in areas other than the subtitles.
ここでは符号化部12#1の構成例について説明したが、符号化部12#2乃至12#kは、符号化部12#1のベースレイヤ符号化部121から符号化制御情報(すなわち、ベースレイヤをどのように符号化したかを示す情報)及び復号画像が供給されるため、ベースレイヤ符号化部121を有さずに、エンハンスメントレイヤ符号化部122のみを有していてもよい。また、符号化部12#1に、エンハンスメントレイヤ#1のエンハンスメントレイヤ符号化部122だけでなく、エンハンスメントレイヤ#2乃至#kのエンハンスメントレイヤ符号化部122を内蔵してもよい。 Here, an example configuration of the encoding unit 12#1 has been described. However, since encoding units 12#2 to 12#k receive encoding control information (i.e., information indicating how the base layer was encoded) and the decoded image from the base layer encoding unit 121 of encoding unit 12#1, they may have only the enhancement layer encoding unit 122 and not the base layer encoding unit 121. Furthermore, encoding unit 12#1 may incorporate not only the enhancement layer encoding unit 122 for enhancement layer #1, but also the enhancement layer encoding units 122 for enhancement layers #2 to #k.
図1に戻り、送信部13は、符号化部12(12#1乃至12#k)が出力するベースレイヤの符号化ストリーム及びk個のエンハンスメントレイヤの符号化ストリームを、伝送路を介して送信する。伝送路については、例えばベースレイヤの符号化ストリーム及びすべてのエンハンスメントレイヤの符号化ストリームを放送電波やネットワークを用いた同一経路で伝送してもよいし、一部の符号化ストリームを放送波で伝送しつつ残りの符号化ストリームをネットワークで伝送するというように異経路で伝送してもよい。 Returning to Figure 1, the transmitting unit 13 transmits the encoded streams of the base layer and the k enhancement layers output by the encoding unit 12 (12#1 to 12#k) via the transmission path. Regarding the transmission path, for example, the encoded streams of the base layer and all enhancement layers may be transmitted via the same path using broadcast waves or a network, or they may be transmitted via different paths, such as transmitting some of the encoded streams via broadcast waves while transmitting the remaining encoded streams via a network.
送信部13は、ベースレイヤの符号化ストリーム及びk個のエンハンスメントレイヤの符号化ストリームを多重化する多重化部13a(多重化手段)を有する。多重化部13aは、ベースレイヤの符号化ストリーム及びk個のエンハンスメントレイヤの符号化ストリームのそれぞれにサービス識別用の識別子を付与し、MPEG(Moving Picture Experts Group)-2/4 Transport stream(TS)やMPEG Media Transport(MMT)等の同期機能を用いて複数の符号化ストリームを同期して伝送する。なお、MPEG-2/4 TSやMMTを例に挙げたが、MPEG-2/4 TSやMMTに限定されるものではなく、他の同期機能を用いてもよい。 The transmission unit 13 has a multiplexing unit 13a (multiplexing means) that multiplexes the base layer encoded stream and the k enhancement layer encoded streams. The multiplexing unit 13a assigns a service identification identifier to each of the base layer encoded stream and the k enhancement layer encoded streams, and transmits the multiple encoded streams synchronously using a synchronization function such as MPEG (Moving Picture Experts Group)-2/4 Transport Stream (TS) or MPEG Media Transport (MMT). While MPEG-2/4 TS and MMT are given as examples, the system is not limited to these and other synchronization functions may be used.
(受信装置)
次に、本実施形態に係る受信装置について説明する。図4は、本実施形態に係る受信装置20の構成を示す図である。
(Receiving device)
Next, the receiving device according to this embodiment will be described. Figure 4 is a diagram showing the configuration of the receiving device 20 according to this embodiment.
図4に示すように、受信装置20は、受信部21と、選択部22と、抽出部23と、復号部24とを有する。本実施形態において、受信部21は受信手段に相当し、選択部22は選択手段に相当し、抽出部23は抽出手段に相当し、復号部24は復号手段に相当する。 As shown in Figure 4, the receiving device 20 includes a receiving unit 21, a selection unit 22, an extraction unit 23, and a decoding unit 24. In this embodiment, the receiving unit 21 corresponds to the receiving means, the selection unit 22 corresponds to the selection means, the extraction unit 23 corresponds to the extraction means, and the decoding unit 24 corresponds to the decoding means.
受信部21は、ベースレイヤの符号化ストリーム及びk個のエンハンスメントレイヤのそれぞれの符号化ストリームを送信装置10から伝送路を介して受信し、受信した各符号化ストリームを抽出部23に出力する。 The receiving unit 21 receives the base layer encoded stream and the encoded streams of each of the k enhancement layers from the transmitting device 10 via the transmission path, and outputs each received encoded stream to the extraction unit 23.
選択部22は、視聴者からの操作に基づいて、再生するべき符号化ストリームを選択(選局)し、選択した符号化ストリームを示す識別子を制御情報として抽出部23に出力する。 The selection unit 22 selects (tunes) the encoded stream to be played based on the viewer's input, and outputs an identifier indicating the selected encoded stream as control information to the extraction unit 23.
抽出部23は、選択部22が出力する制御情報が示す識別子に基づいて、ベースレイヤの符号化ストリーム及びk個のエンハンスメントレイヤのそれぞれの符号化ストリームの中から、所望の符号化ストリームを抽出し、抽出した符号化ストリームを復号部24に出力する。 The extraction unit 23 extracts the desired encoded stream from the base layer's encoded stream and the encoded streams of each of the k enhancement layers, based on the identifier indicated by the control information output by the selection unit 22, and outputs the extracted encoded stream to the decoding unit 24.
抽出部23は、字幕サービスの映像再生が選択部22により選択されない場合、ベースレイヤの符号化ストリームのみを抽出し、ベースレイヤの符号化ストリームのみを復号部24に出力する。他方、抽出部23は、いずれかの言語の字幕サービスの映像再生が選択部22により選択された場合、ベースレイヤの符号化ストリームと、選択された1つの字幕サービスに対応するエンハンスメントレイヤの符号化ストリームとを抽出し、ベースレイヤの符号化ストリーム及び選択された1つのエンハンスメントレイヤの符号化ストリームを復号部24に出力する。 If video playback of the subtitle service is not selected by the selection unit 22, the extraction unit 23 extracts only the encoded stream of the base layer and outputs only the encoded stream of the base layer to the decoding unit 24. On the other hand, if video playback of the subtitle service in any language is selected by the selection unit 22, the extraction unit 23 extracts the encoded stream of the base layer and the encoded stream of the enhancement layer corresponding to the selected subtitle service, and outputs the encoded stream of the base layer and the encoded stream of the selected enhancement layer to the decoding unit 24.
復号部24は、字幕サービスの映像再生が選択部22により選択されない場合、抽出部23が出力するベースレイヤの符号化ストリームから主映像サービスの映像信号を復号(再生)し、復号した映像信号を出力する。他方、復号部24は、いずれかの言語の字幕サービスの映像再生が選択部22により選択された場合、抽出部23が出力するベースレイヤの符号化ストリーム及び選択された1つのエンハンスメントレイヤの符号化ストリームから、字幕信号が映像信号に重畳された字幕付き映像信号を復号(再生)し、復号した字幕付き映像信号を出力する。 If the video playback of the subtitle service is not selected by the selection unit 22, the decoding unit 24 decodes (plays) the video signal of the main video service from the base layer encoded stream output by the extraction unit 23 and outputs the decoded video signal. On the other hand, if the video playback of the subtitle service in any language is selected by the selection unit 22, the decoding unit 24 decodes (plays) the subtitled video signal, in which the subtitle signal is superimposed on the video signal, from the base layer encoded stream output by the extraction unit 23 and the encoded stream of the selected enhancement layer, and outputs the decoded subtitled video signal.
(作用・効果)
本実施形態に係る映像伝送システムによれば、複数のレイヤで映像伝送を行うマルチレイヤ符号化のプロファイルを利用し、追加の映像サービスとしての多言語字幕サービスを実現できる。これにより、音声で行われているような副サービスを映像について実現することができ、特に視覚や聴覚が健常でない情報弱者、又は日本語を母国語としない情報入手困難者に向けた高度なサービスを実現できる。
(Effects/Mechanisms)
According to the video transmission system of this embodiment, a multi-layer coding profile that transmits video across multiple layers can be used to realize a multilingual subtitle service as an additional video service. This makes it possible to provide sub-services for video that are similar to those provided for audio, and in particular, it can realize advanced services for information-disadvantaged individuals who are visually or hearing impaired, or for those who have difficulty accessing information because Japanese is not their native language.
従来の放送における字幕放送は、映像とは別にデータとして字幕の情報を伝送し、受信機では字幕データにより受信機内部で字幕を生成し、映像に重畳している。このため、受信機が異なるとフォントや文字の表示位置が異なる場合があり、場合によっては本サービスとなるベースレイヤの映像が見にくくなる場合がある。また、事前に放送で使用するフォントセットを定めておかなければならず、映像に合わせて用意した独自デザインの文字や図を表示することができない。 In conventional broadcasting, subtitle information is transmitted separately from the video as data. The receiver generates the subtitles internally using this data and overlays them onto the video. Therefore, different receivers may have different fonts and character placement, potentially making the base layer video (the basis for this service) difficult to view. Furthermore, the font set to be used for broadcasting must be predetermined, making it impossible to display custom-designed characters or images tailored to the video.
これに対し、本実施形態に係る映像伝送システムでは、主映像に合わせた製作意図を反映した位置・デザインの文字や図形を配置した副映像を制作意図に応じて制作し、エンハンスメントレイヤとして符号化及び伝送することにより、受信機ごとに異なる見え方になることを回避し、製作意図を正確に管理した字幕放送を行うことができる。その際に、ベースレイヤを予測に用い、文字や図形に相当する映像を効率的に伝送することにより、情報量の極端な増加を伴わずに字幕や図を再生可能になる。 In contrast, the video transmission system according to this embodiment creates a secondary video with text and graphics positioned and designed to reflect the production intent of the main video, and encodes and transmits it as an enhancement layer. This avoids variations in appearance across different receivers and enables subtitle broadcasting that accurately manages the production intent. In this process, the base layer is used for prediction, and the video corresponding to the text and graphics is transmitted efficiently, allowing for the playback of subtitles and graphics without an extreme increase in the amount of information.
また、マルチレイヤ符号化では、ベースレイヤの映像を信号予測に用いた符号化が行われる。字幕無し映像をベースレイヤとして符号化し、字幕あり映像をエンハンスメントレイヤとして符号化することで、ベースレイヤ及びエンハンスメントレイヤを受信することで字幕を含む映像を再生できる。ここで、伝送容量の許容する範囲で、符号化劣化を補償する信号をエンハンスメントレイヤに含めることで、映像品質の向上を実現することもできる。 Furthermore, in multi-layer coding, the video from the base layer is used for signal prediction. By coding the video without subtitles as the base layer and the video with subtitles as the enhancement layer, the video including subtitles can be played back by receiving both the base layer and the enhancement layer. Here, within the limits of the transmission capacity, it is also possible to improve video quality by including a signal in the enhancement layer to compensate for coding degradation.
逆に伝送容量が少ない場合は、字幕を含む符号化最小単位、HEVCやVVCではCoding Unit(CU)のみの符号化情報(予測差分情報)を伝送し、そのほかの領域においては符号化方式に定める最小限度の情報のみに限定することにより、事実上の字幕データ領域の情報のみを伝送することができる。 Conversely, when transmission capacity is low, it is possible to transmit only the encoding information (predictive difference information) of the smallest encoding unit including subtitles—specifically, the Coding Unit (CU) in HEVC and VVC—and limit other areas to only the minimum information specified by the encoding method, thereby effectively transmitting only the information within the subtitle data area.
(変更例)
実施形態の変更例について、上述の実施形態との相違点を主として説明する。
(Example of change)
Regarding the modified embodiments, the differences from the embodiments described above will be explained primarily.
上述の実施形態において、副映像サービスが多言語字幕サービスである一例について説明した。これに対し、本変更例に係る副映像サービスは、主映像サービスに関する解説映像サービスである。すなわち、本変更例では、追加の映像サービスとして解説チャンネルを実現する。 In the above embodiment, an example was described in which the secondary video service is a multilingual subtitle service. In contrast, the secondary video service in this modified example is an explanatory video service related to the primary video service. That is, in this modified example, an explanatory channel is implemented as an additional video service.
まず、本変更例に係る送信装置10について説明する。図5は、本変更例に係る送信装置10の構成を示す図である。図5に示すように、本変更例に係る送信装置10は、解説映像重畳部11Aと、符号化部12と、送信部13とを有する。本変更例において、解説映像重畳部11Aは重畳手段に相当し、符号化部12は符号化手段に相当し、送信部13は送信手段に相当する。 First, the transmission device 10 according to this modified example will be described. Figure 5 shows the configuration of the transmission device 10 according to this modified example. As shown in Figure 5, the transmission device 10 according to this modified example has an explanatory video overlay unit 11A, an encoding unit 12, and a transmission unit 13. In this modified example, the explanatory video overlay unit 11A corresponds to the overlay means, the encoding unit 12 corresponds to the encoding means, and the transmission unit 13 corresponds to the transmission means.
解説映像重畳部11Aは、主映像サービスの映像信号に対して、主映像サービスに関する解説映像サービスの解説映像信号を重畳し、解説映像付き映像信号を出力する。図6は、本変更例に係る解説映像重畳部11Aの動作例を示す図である。図6では、解説映像サービスが手話映像サービスである一例を示している。解説映像重畳部11Aは、図6(b)に示すように、図6(a)に示す主映像サービスの映像(主映像)に対して、解説映像としての手話映像を重畳して出力する。 The explanatory video overlay unit 11A overlays the explanatory video signal of the explanatory video service related to the main video service onto the video signal of the main video service and outputs a video signal with explanatory video. Figure 6 shows an example of the operation of the explanatory video overlay unit 11A according to this modified example. In Figure 6, an example is shown where the explanatory video service is a sign language video service. As shown in Figure 6(b), the explanatory video overlay unit 11A overlays the sign language video as explanatory video onto the video of the main video service (main video) shown in Figure 6(a) and outputs it.
符号化部12は、マルチレイヤ符号化技術を用いて、主映像サービスの映像信号をベースレイヤとして符号化するとともに、解説映像重畳部11Aが出力する解説映像付き映像信号をエンハンスメントレイヤとして符号化し、ベースレイヤの符号化ストリーム及びエンハンスメントレイヤの符号化ストリームを送信部13に出力する。なお、符号化部12の構成は、図3に示す符号化部12#1の構成と同様である。 The encoding unit 12 uses multi-layer encoding technology to encode the video signal of the main video service as the base layer, and also encodes the video signal with explanatory video output by the explanatory video superimposition unit 11A as the enhancement layer. It then outputs the encoded stream of the base layer and the encoded stream of the enhancement layer to the transmission unit 13. The configuration of the encoding unit 12 is the same as that of the encoding unit 12#1 shown in Figure 3.
マルチレイヤ符号化技術では、映像の本サービスとなるベースレイヤに対して、上位レイヤであるエンハンスメントレイヤの映像を重畳でき、その際に、ベースレイヤの映像を予測に用いて少ない情報量でより高品質化を行うことなどができる。しかしながら、ベースレイヤの映像を予測に用いないで、例えば、イントラモードを用いて映像を上書きしてもよい。また、解説放送としての映像を重畳する領域の符号化モードをベースレイヤ及び領域外を参照しないインター予測モードとし、その領域のみをエンハンスメントレイヤの映像で上書きした映像を重畳するサービスを実現してもよい。 In multi-layer coding technology, the video from the enhancement layer, a higher layer, can be superimposed on the base layer, which is the main video service. In this process, the base layer's video can be used for prediction, allowing for higher quality with less information. However, it is also possible to overwrite the video using, for example, intra-mode, without using the base layer's video for prediction. Alternatively, the coding mode for the area where the video for commentary is superimposed could be set to an inter-prediction mode that does not refer to the base layer or areas outside that region, and a service could be implemented where only that area is overwritten with the enhancement layer's video.
送信部13は、符号化部12が出力するベースレイヤの符号化ストリーム及びエンハンスメントレイヤの符号化ストリームを、伝送路を介して送信する。送信部13は、ベースレイヤの符号化ストリーム及びエンハンスメントレイヤの符号化ストリームを多重化する多重化部13aを有する。多重化部13aは、ベースレイヤの符号化ストリーム及びエンハンスメントレイヤの符号化ストリームのそれぞれにサービス識別用の識別子を付与し、MPEG-2/4 TSやMMT等の同期機能を用いて複数の符号化ストリームを同期して伝送する。 The transmission unit 13 transmits the base layer encoded stream and the enhancement layer encoded stream output by the encoding unit 12 via the transmission path. The transmission unit 13 includes a multiplexing unit 13a that multiplexes the base layer encoded stream and the enhancement layer encoded stream. The multiplexing unit 13a assigns a service identification identifier to each of the base layer encoded stream and the enhancement layer encoded stream, and transmits the multiple encoded streams synchronously using a synchronization function such as MPEG-2/4 TS or MMT.
次に、本変更例に係る受信装置20について説明する。本変更例に係る受信装置20の構成は、上述の実施形態に係る受信装置20の構成(図4参照)と同様である。 Next, the receiving device 20 according to this modified example will be described. The configuration of the receiving device 20 according to this modified example is the same as the configuration of the receiving device 20 according to the above embodiment (see Figure 4).
図4に示すように、受信部21は、ベースレイヤの符号化ストリーム及びエンハンスメントレイヤの符号化ストリームを送信装置10から伝送路を介して受信し、受信した各符号化ストリームを抽出部23に出力する。受信部21は、サービス識別用の識別子を取得して各符号化ストリームのサービスを解釈してもよい。 As shown in Figure 4, the receiving unit 21 receives the base layer encoded stream and the enhancement layer encoded stream from the transmitting device 10 via the transmission path, and outputs each received encoded stream to the extraction unit 23. The receiving unit 21 may also obtain an identifier for service identification and interpret the service of each encoded stream.
選択部22は、視聴者からの操作に基づいて、再生するべき符号化ストリームを選択(選局)し、選択した符号化ストリームを示す識別子を制御情報として抽出部23に出力する。 The selection unit 22 selects (tunes) the encoded stream to be played based on the viewer's input, and outputs an identifier indicating the selected encoded stream as control information to the extraction unit 23.
抽出部23は、解説映像サービスの映像再生が選択部22により選択されない場合、ベースレイヤの符号化ストリームのみを抽出し、ベースレイヤの符号化ストリームのみを復号部24に出力する。他方、抽出部23は、解説映像サービスの映像再生が選択部22により選択された場合、ベースレイヤの符号化ストリームと、解説映像サービスに対応するエンハンスメントレイヤの符号化ストリームとを抽出し、ベースレイヤの符号化ストリーム及びエンハンスメントレイヤの符号化ストリームを復号部24に出力する。なお、抽出部23は、受信部21が取得及び解釈したサービス識別用の識別子と選択部22が出力する識別子とに基づいて所定の符号化ストリームを分離する多重分離手段を有していてもよい。 If the video playback of the explanatory video service is not selected by the selection unit 22, the extraction unit 23 extracts only the encoded stream of the base layer and outputs only the encoded stream of the base layer to the decoding unit 24. On the other hand, if the video playback of the explanatory video service is selected by the selection unit 22, the extraction unit 23 extracts the encoded stream of the base layer and the encoded stream of the enhancement layer corresponding to the explanatory video service, and outputs the encoded stream of the base layer and the encoded stream of the enhancement layer to the decoding unit 24. The extraction unit 23 may also have multiplexing means for separating predetermined encoded streams based on the service identification identifier acquired and interpreted by the receiving unit 21 and the identifier output by the selection unit 22.
復号部24は、解説映像サービスの映像再生が選択部22により選択されない場合、抽出部23が出力するベースレイヤの符号化ストリームから主映像サービスの映像信号を復号(再生)し、復号した映像信号を出力する。他方、復号部24は、解説映像サービスの映像再生が選択部22により選択された場合、抽出部23が出力するベースレイヤの符号化ストリーム及びエンハンスメントレイヤの符号化ストリームから、解説映像信号が重畳された解説映像付き映像信号を復号(再生)し、復号した解説映像付き映像信号を出力する。 If the video playback of the commentary video service is not selected by the selection unit 22, the decoding unit 24 decodes (plays back) the video signal of the main video service from the base layer encoded stream output by the extraction unit 23 and outputs the decoded video signal. On the other hand, if the video playback of the commentary video service is selected by the selection unit 22, the decoding unit 24 decodes (plays back) the video signal with the superimposed commentary video signal from the base layer encoded stream and the enhancement layer encoded stream output by the extraction unit 23, and outputs the decoded video signal with the commentary video.
本変更例に係る映像伝送システムによれば、複数のレイヤで映像伝送を行うマルチレイヤ符号化のプロファイルを利用し、追加の映像サービスとしての解説映像サービスを実現できる。これにより、音声で行われているような副サービスを映像について実現することができ、特に聴覚が健常でない情報弱者に向けた高度なサービスを実現できるほか、大人向け番組に子供向けの解説を重畳するなど新たなサービスを実現することができる。 According to this modified video transmission system, a multi-layer encoding profile that transmits video across multiple layers can be used to realize an additional video service: a commentary video service. This allows for the implementation of supplementary services for video, similar to those provided for audio, enabling advanced services, particularly for information-disadvantaged individuals with hearing impairments. It also enables new services, such as overlaying child-friendly commentary onto adult-oriented programs.
(その他の実施形態)
上述の実施形態において副映像サービスが多言語字幕サービスであり、変更例においては副映像サービスが解説映像サービスである一例について説明した。しかしながら、多言語字幕サービスや解説映像サービスに限定されるものではなく、他の副映像サービスを実現することも可能である。
(Other embodiments)
In the above embodiment, the secondary video service is a multilingual subtitle service, and in the modified example, an example was described in which the secondary video service is an explanatory video service. However, it is not limited to multilingual subtitle services or explanatory video services, and it is possible to implement other secondary video services as well.
上述の実施形態において、受信装置20に設けられる抽出部23が、副映像サービスの映像再生が選択部22により選択された場合、ベースレイヤの符号化ストリームと、1つのエンハンスメントレイヤの符号化ストリームとを抽出して復号部24に出力する一例について説明した。しかしながら、抽出部23は、複数のエンハンスメントレイヤの符号化ストリームを復号部24に出力してもよい。 In the above embodiment, an example was described in which the extraction unit 23 provided in the receiving device 20 extracts the encoded stream of the base layer and the encoded stream of one enhancement layer and outputs them to the decoding unit 24 when the playback of the sub-video service is selected by the selection unit 22. However, the extraction unit 23 may output the encoded streams of multiple enhancement layers to the decoding unit 24.
送信装置10が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。また、受信装置20が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD-ROMやDVD-ROM等の記録媒体であってもよい。 A program may be provided that causes a computer to execute each process performed by the transmitting device 10. Similarly, a program may be provided that causes a computer to execute each process performed by the receiving device 20. The program may be recorded on a computer-readable medium. Using a computer-readable medium, it is possible to install the program on a computer. Here, the computer-readable medium on which the program is recorded may be a non-transient recording medium. The non-transient recording medium is not particularly limited, but for example, it may be a recording medium such as a CD-ROM or DVD-ROM.
送信装置10が行う各処理を実行する回路を集積化し、送信装置10を半導体集積回路
(チップセット、SoC)により構成してもよい。受信装置20が行う各処理を実行する回路を集積化し、受信装置20を半導体集積回路(チップセット、SoC)により構成してもよい。
The circuits that perform each process carried out by the transmitting device 10 may be integrated, and the transmitting device 10 may be configured as a semiconductor integrated circuit (chipset, SoC). The circuits that perform each process carried out by the receiving device 20 may be integrated, and the receiving device 20 may be configured as a semiconductor integrated circuit (chipset, SoC).
以上、図面を参照して実施形態について詳しく説明したが、具体的な構成は上述のものに限られることはなく、要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。 The embodiments have been described in detail above with reference to the drawings, but the specific configuration is not limited to those described above, and various design changes can be made without departing from the gist of the concept.
10 :送信装置
11 :字幕重畳部
11A :解説映像重畳部
12 :符号化部
13 :送信部
13a :多重化部
20 :受信装置
21 :受信部
22 :選択部
23 :抽出部
24 :復号部
121 :ベースレイヤ符号化部
121a :符号化処理部
121b :エントロピー符号化部
121c :復号処理部
121d :DPB
122 :エンハンスメントレイヤ符号化部
122a :符号化処理部
122b :エントロピー符号化部
122c :復号処理部
122d :DPB
10: Transmitting device 11: Subtitle overlay unit 11A: Commentary video overlay unit 12: Encoding unit 13: Transmitting unit 13a: Multiplexing unit 20: Receiving device 21: Receiving unit 22: Selection unit 23: Extraction unit 24: Decoding unit 121: Base layer encoding unit 121a: Encoding processing unit 121b: Entropy encoding unit 121c: Decoding processing unit 121d: DPB
122: Enhancement layer coding unit 122a: Coding processing unit 122b: Entropy coding unit 122c: Decoding processing unit 122d: DPB
Claims (8)
主映像サービスの映像信号に対して副映像サービスの副映像信号を重畳する重畳手段と、
マルチレイヤ符号化技術を用いて、前記映像信号をベースレイヤとして符号化するとともに、前記重畳手段が出力する副映像付き映像信号をエンハンスメントレイヤとして符号化する符号化手段と、
前記符号化手段が出力する前記ベースレイヤ及び前記エンハンスメントレイヤのそれぞれの符号化ストリームを送信する送信手段と、を備え、
前記送信手段は、前記エンハンスメントレイヤの符号化ストリームに対してサービス識別用の識別子を付与したうえで送信することを特徴とする送信装置。 A transmitting device for a video transmission system,
A superposition means for superimposing the secondary video signal of the secondary video service onto the video signal of the main video service,
An encoding means that encodes the video signal as a base layer using multi-layer encoding technology, and encodes the video signal with sub-image output by the superimposing means as an enhancement layer,
The system comprises a transmission means for transmitting the respective encoded streams of the base layer and the enhancement layer output by the encoding means ,
The transmission means is characterized by transmitting the enhanced layer's encoded stream after assigning a service identification identifier to it .
前記符号化手段は、前記重畳手段が出力するk個の副映像付き映像信号のそれぞれをエンハンスメントレイヤとして符号化し、
前記送信手段は、前記ベースレイヤの符号化ストリーム及びk個のエンハンスメントレイヤの符号化ストリームを送信することを特徴とする請求項1又は2に記載の送信装置。 The superposition means superimposes k (k≧2) distinct sub-video signals onto the video signal.
The encoding means encodes each of the k video signals with sub-images output by the superimposing means as an enhancement layer.
The transmitting device according to claim 1 or 2, characterized in that the transmitting means transmits the encoded stream of the base layer and the encoded streams of k enhancement layers.
ベースレイヤ及びエンハンスメントレイヤのそれぞれの符号化ストリームを受信する受信手段と、
副映像サービスの映像再生が選択されない場合、前記ベースレイヤの符号化ストリームから主映像サービスの映像信号を復号する復号手段と、を備え、
前記復号手段は、前記副映像サービスの映像再生が選択された場合、前記ベースレイヤ及び前記エンハンスメントレイヤのそれぞれの符号化ストリームから、前記副映像サービスの副映像信号が前記映像信号に重畳された副映像付き映像信号を復号し、
前記エンハンスメントレイヤの符号化ストリームにサービス識別用の識別子が付与され、
前記受信手段は、前記サービス識別用の識別子を取得して前記エンハンスメントレイヤのサービスを解釈することを特徴とする受信装置。 A receiving device for a video transmission system using multilayer coding technology,
A receiving means for receiving the encoded streams of the base layer and the enhancement layer,
If video playback of the secondary video service is not selected, the system includes decoding means for decoding the video signal of the main video service from the encoded stream of the base layer,
When video playback of the sub-video service is selected, the decoding means decodes the sub-video signal superimposed on the video signal from the respective encoded streams of the base layer and the enhancement layer, thereby decoding the sub-video signal superimposed on the video signal .
An identifier for service identification is assigned to the encoded stream of the enhancement layer.
The receiving means is a receiving device characterized by obtaining the service identifier and interpreting the service of the enhancement layer .
前記復号手段は、前記ベースレイヤの符号化ストリームと、前記抽出手段が出力する1つのエンハンスメントレイヤの符号化ストリームとから前記副映像付き映像信号を復号することを特徴とする請求項5又は6に記載の受信装置。 When the receiving means receives the encoded stream of the base layer and the encoded streams of k enhancement layers, it includes an extraction means for extracting the encoded stream of one enhancement layer from among the k encoded streams of the enhancement layers.
The receiving device according to claim 5 or 6 , wherein the decoding means decodes the video signal with sub-video from the encoded stream of the base layer and the encoded stream of one enhancement layer output by the extraction means.
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020160087 | 2020-09-24 | ||
| JP2020160087 | 2020-09-24 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022053534A JP2022053534A (en) | 2022-04-05 |
| JP7846971B2 true JP7846971B2 (en) | 2026-04-16 |
Family
ID=80962912
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021154860A Active JP7846971B2 (en) | 2020-09-24 | 2021-09-22 | Transmitter and receiver |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7846971B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US12563264B2 (en) | 2022-06-07 | 2026-02-24 | Netflix, Inc. | Techniques for reusing portions of encoded original videos when encoding localized videos |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010148048A (en) | 2008-12-22 | 2010-07-01 | Toshiba Corp | Device and method for recompression of moving image |
| WO2013021643A1 (en) | 2011-08-11 | 2013-02-14 | パナソニック株式会社 | Hybrid broadcast and communication system, data generation device, and receiver |
-
2021
- 2021-09-22 JP JP2021154860A patent/JP7846971B2/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010148048A (en) | 2008-12-22 | 2010-07-01 | Toshiba Corp | Device and method for recompression of moving image |
| WO2013021643A1 (en) | 2011-08-11 | 2013-02-14 | パナソニック株式会社 | Hybrid broadcast and communication system, data generation device, and receiver |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022053534A (en) | 2022-04-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20230276039A1 (en) | Method and system for encoding a video data signal, encoded video data signal, method and system for decoding a video data signal | |
| US7463683B2 (en) | Method and apparatus for decoding spatially scaled fine granular encoded video signals | |
| US6377309B1 (en) | Image processing apparatus and method for reproducing at least an image from a digital data sequence | |
| KR100523052B1 (en) | Object base transmission-receive system and method, and object-based multiview video encoding apparatus and method for supporting the multi-display mode | |
| US10931980B2 (en) | Method and apparatus for providing 360 degree virtual reality broadcasting service | |
| US20140002598A1 (en) | Transport system and client system for hybrid 3d content service | |
| JP2010512096A (en) | Non-real-time digital actual broadcasting transmission / reception system and method | |
| JPH0722961A (en) | Apparatus including at least one encoder for encoding of digital signal and at least one decoder for decoding of encoded digital signal as well as encoder and decoder used in said apparatus | |
| US20240340475A1 (en) | Transmitter apparatus and receiver apparatus | |
| US20060152628A1 (en) | Multimedia signal matching system and method for performing picture-in-picture function | |
| JP7846971B2 (en) | Transmitter and receiver | |
| KR102517570B1 (en) | Apparatus and method for transmitting and receiving 3dtv broadcasting | |
| JP2004537931A (en) | Method and apparatus for encoding a scene | |
| JPH08130733A (en) | Device and method for processing moving picture | |
| JP7737880B2 (en) | Transmitting device and receiving device | |
| JP2024106334A (en) | Sending device and receiving device | |
| JP2024112306A (en) | Transmitting device, receiving device, and program | |
| EP3777201A1 (en) | Creating different video stream representations | |
| AU2008303276B2 (en) | Method and system for encoding a video data signal, encoded video data signal, method and system for decoding a video data signal | |
| KR20170093637A (en) | Method for buffering media transport stream in heterogeneous networks environment and image receiving apparatus using the method | |
| KR20100109261A (en) | Method and system for providing channel surfing service based on multi-decoder | |
| NEMOTO et al. | Standardization of Video Coding Technology for Next-generation Broadcasting | |
| JP2008178155A (en) | ISDB transmission device, ISDB transmission method, ISDB reception device, and ISDB reception method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240821 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20250826 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250930 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20251201 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20260317 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20260406 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7846971 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |