JP2017069845A - Bit rate determination device, server device, bit rate determination method, and program - Google Patents
Bit rate determination device, server device, bit rate determination method, and program Download PDFInfo
- Publication number
- JP2017069845A JP2017069845A JP2015195100A JP2015195100A JP2017069845A JP 2017069845 A JP2017069845 A JP 2017069845A JP 2015195100 A JP2015195100 A JP 2015195100A JP 2015195100 A JP2015195100 A JP 2015195100A JP 2017069845 A JP2017069845 A JP 2017069845A
- Authority
- JP
- Japan
- Prior art keywords
- bit rate
- moving image
- divided
- importance
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
本発明は、動画データをエンコードするときの適切なビットレートを決定するシステム等の技術分野に関する。 The present invention relates to a technical field such as a system for determining an appropriate bit rate when encoding moving image data.
従来、例えば特許文献1に開示されるように、撮影範囲全体を表示する動画を複数の表示領域に分割し、分割された分割動画それぞれを所定の時間単位で区切ることで生成された複数の動画ブロックを所定の固定ビットレートでエンコードして端末へ配信するシステムが知られている。
Conventionally, as disclosed in
ところで、可変ビットレートでエンコードされた動画ブロックをネットワークを通じて配信した場合、配信するときのビットレート(単位時間あたりに配信される動画ブロックのデータ量)が安定しないため、サービス品質を担保できない。そのため、ストリーミング配信サービスでは、動画ブロックをエンコードするために固定ビットレートが採用されている。しかしながら、固定ビットレートで動画ブロックをエンコードしたときの品質(画質)は、可変ビットレートで動画ブロックをエンコードしたときの品質よりも劣る。特に、分割動画の元になる全体の動画の複数の表示領域には、圧縮の効き易い表示領域(動きがあまりない領域)と、圧縮の効き難い表示領域(動きのある領域)とがあるが、圧縮の効き難い表示領域においては、顕著に品質が落ちてしまうという問題がある。また、全体の動画に、視聴者にとって重要な表示領域とそうでない表示領域とが含まれている場合、重要な表示領域の品質をそうでない表示領域の品質よりも向上させることができなかった。 By the way, when a moving image block encoded at a variable bit rate is distributed through a network, the bit rate (data amount of the moving image block distributed per unit time) at the time of distribution is not stable, so the service quality cannot be guaranteed. For this reason, in the streaming distribution service, a fixed bit rate is adopted to encode the moving image block. However, the quality (image quality) when a moving image block is encoded at a fixed bit rate is inferior to the quality when a moving image block is encoded at a variable bit rate. In particular, the plurality of display areas of the entire moving picture that is the basis of the divided moving pictures include a display area that is easy to compress (an area with little movement) and a display area that is difficult to compress (an area with movement). In the display area where compression is difficult to perform, there is a problem that the quality is significantly reduced. In addition, when the entire moving image includes a display area that is important for the viewer and a display area that is not so, the quality of the important display area cannot be improved more than the quality of the display area that is not so.
本発明は、以上の問題等に鑑みてなされたものであり、動画ブロックを配信するときのビットレートを安定化させつつ、特定の動画ブロックの品質を向上させることが可能なビットレート決定装置、サーバ装置、ビットレート決定方法、及びプログラムを提供する。 The present invention has been made in view of the above problems and the like, and a bit rate determination device capable of improving the quality of a specific moving image block while stabilizing the bit rate when distributing the moving image block, A server device, a bit rate determination method, and a program are provided.
上記課題を解決するために、請求項1に記載の発明は、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、前記第1決定手段により決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、を備えることを特徴とする。
In order to solve the above-mentioned problem, the invention according to
請求項2に記載の発明は、請求項1に記載のビットレート決定装置において、前記分割された前記分割動画のうちの一部の分割動画を指定する指定手段を更に備え、前記第2決定手段は、前記指定手段により指定された分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートを互いに異ならせることを特徴とする。 According to a second aspect of the present invention, in the bit rate determining device according to the first aspect of the present invention, the bit rate determining device further includes a specifying unit that specifies a part of the divided moving images, and the second determining unit. Is characterized in that the bit rates of the moving image blocks corresponding to each of the divided moving images specified by the specifying means are different from each other.
請求項3に記載の発明は、請求項1または2に記載のビットレート決定装置において、前記第1決定手段は、前記動画ブロック毎の情報量を算出し、算出した情報量を前記重要度として決定することを特徴とする。 According to a third aspect of the present invention, in the bit rate determining device according to the first or second aspect, the first determining unit calculates an information amount for each moving image block, and uses the calculated information amount as the importance level. It is characterized by determining.
請求項4に記載の発明は、請求項1または2に記載のビットレート決定装置において、前記第1決定手段は、前記動画において操作者により指定された位置を含む前記動画ブロックの重要度を相対的に高く決定することを特徴とする。 According to a fourth aspect of the present invention, in the bit rate determining device according to the first or second aspect, the first determining unit relatively determines the importance of the moving image block including the position designated by the operator in the moving image. It is characterized by being determined highly.
請求項5に記載の発明は、請求項1乃至4の何れか一項に記載のビットレート決定装置において、前記動画を、面積が均等となる複数の表示領域に分割することで前記複数の分割動画を生成する生成手段を更に備えることを特徴とする。 According to a fifth aspect of the present invention, in the bit rate determination device according to any one of the first to fourth aspects, the moving image is divided into a plurality of display areas having an equal area. The image processing apparatus further includes generation means for generating a moving image.
請求項6に記載の発明は、請求項1乃至5の何れか一項に記載のビットレート決定装置において、前記第2決定手段は、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックを含むグループを複数生成し、前記生成された各前記グループにおいて、複数の前記動画ブロックの前記ビットレートがそれぞれの前記重要度に比例し、且つ、複数の前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定することを特徴とする。 According to a sixth aspect of the present invention, in the bit rate determining device according to any one of the first to fifth aspects, the second determining means includes a part of the divided moving images. A plurality of groups each including the video block corresponding to each of the group, and in each of the generated groups, the bit rate of the plurality of video blocks is proportional to the importance, and The bit rate is determined for each moving image block so that the sum of the bit rates of the plurality of moving image blocks is a predetermined value or less.
請求項7に記載の発明は、請求項6に記載のビットレート決定装置において、1つの前記グループに含まれる一部の前記動画ブロックは、他の1つの前記グループにも含まれ、前記第2決定手段は、1つの前記グループにおいて決定した前記一部の前記動画ブロックの前記ビットレートと、他の1つの前記グループにおいて決定した前記一部の前記動画ブロックの前記ビットレートのうち、相対的に小さいビットレートを、前記一部の前記動画ブロックの前記ビットレートとして最終決定することを特徴とする。 According to a seventh aspect of the present invention, in the bit rate determining device according to the sixth aspect, some of the moving image blocks included in one of the groups are also included in the other one of the groups, and the second The determining unit is configured to relatively compare the bit rate of the part of the moving image blocks determined in one group and the bit rate of the part of the moving image blocks determined in the other group. A small bit rate is finally determined as the bit rate of the part of the moving image blocks.
請求項8に記載の発明は、請求項1乃至5の何れか一項に記載のビットレート決定装置において、前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段を更に備え、前記第2決定手段は、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化し、前記正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定することを特徴とする。 According to an eighth aspect of the present invention, in the bit rate determination device according to any one of the first to fifth aspects, the same number of corresponding areas as the divided moving images are provided, and each of the corresponding areas has a predetermined bit rate. Is further provided with an acquisition means for acquiring a plurality of templates having different allocation patterns of the predetermined bit rate to the corresponding areas. The second determination means comprises: The importance of the plurality of video blocks is normalized so that the average value of the importance of the plurality of video blocks becomes a reference bit rate, and each of the normalized importance and the acquisition unit An error from the predetermined bit rate assigned to each corresponding area of the acquired template is calculated for each of the acquired templates. Difference by using the predetermined bit rate allocated to each of said corresponding regions of relatively small the template, and determines the bit rate for each of the video blocks.
請求項9に記載の発明は、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段と、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化手段と、前記正規化手段により正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、を備えることを特徴とする。 According to a ninth aspect of the present invention, a specifying means for specifying a plurality of moving image blocks generated by dividing a plurality of divided moving images obtained by dividing a moving image into a plurality of display areas by a predetermined time unit, and the specifying means specify First determination means for determining the importance of each moving image block for each moving image block, and a template having the same number of corresponding areas as the divided moving images, each of which is assigned a predetermined bit rate. Obtaining means for obtaining a plurality of the templates having different allocation patterns of the predetermined bit rate to the corresponding areas, and an average value of the importance levels of the plurality of video blocks is a reference Normalization means for normalizing the importance of the plurality of video blocks so that the bit rate becomes, the importance levels normalized by the normalization means, An error from the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition unit is calculated for each of the acquired templates, and the calculated error is relatively small for each template. And second determination means for determining the bit rate for each moving picture block using the predetermined bit rate assigned to the corresponding area.
請求項10に記載の発明は、端末装置からネットワークを介してアクセス可能なサーバ装置であって、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、前記第1決定手段により決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、前記端末装置からリクエストされた動画ブロックであって、前記第2決定手段により決定されたビットレートでエンコードされた前記動画ブロックを前記端末装置へ配信する配信手段と、を備えることを特徴とする。
The invention according to
請求項11に記載の発明は、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段と、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化手段と、前記正規化手段により正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、前記端末装置からリクエストされた動画ブロックであって、前記第2決定手段により決定されたビットレートでエンコードされた前記動画ブロックを前記端末装置へ配信する配信手段と、を備えることを特徴とする。 According to an eleventh aspect of the present invention, a specifying unit that specifies a plurality of moving image blocks generated by dividing a plurality of divided moving images obtained by dividing a moving image into a plurality of display areas by a predetermined time unit, and the specifying unit specify First determination means for determining the importance of each moving image block for each moving image block, and a template having the same number of corresponding areas as the divided moving images, each of which is assigned a predetermined bit rate. Obtaining means for obtaining a plurality of the templates having different allocation patterns of the predetermined bit rate to the corresponding areas, and an average value of the importance levels of the plurality of video blocks is a reference Normalization means for normalizing the importance of the plurality of video blocks so as to achieve a bit rate, and the importance levels normalized by the normalization means, An error from the predetermined bit rate assigned to each corresponding region of the template acquired by the acquisition unit is calculated for each of the acquired templates, and the calculated error is relatively small for each template. Second determination means for determining the bit rate for each moving image block using the predetermined bit rate assigned to the corresponding area; and a moving image block requested by the terminal device, wherein the second determination Distribution means for delivering the moving picture block encoded at the bit rate determined by the means to the terminal device.
請求項12に記載の発明は、1つ以上のコンピュータにより実行されるビットレート決定方法であって、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成された複数の動画ブロックを特定する特定ステップと、前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、前記第1決定ステップにより決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、を含むことを特徴とする。
The invention according to
請求項13に記載の発明は、1つ以上のコンピュータにより実行されるビットレート決定方法であって、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定ステップと、前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得ステップであって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得ステップと、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化ステップと、前記正規化ステップにより正規化された各前記重要度と、前記取得ステップにより取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、を含むことを特徴とする。
The invention according to
請求項14に記載の発明は、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定ステップと、前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、前記第1決定ステップにより決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、をコンピュータに実行させることを特徴とする。 According to a fourteenth aspect of the present invention, a specifying step for specifying a plurality of moving image blocks generated by dividing a plurality of divided moving images obtained by dividing a moving image into a plurality of display areas by a predetermined time unit, and specifying by the specifying step A first determining step for determining the importance of the moving image block for each moving image block; and at least two of the plurality of moving image blocks based on the importance determined by the first determining step The bit rates for encoding each of the video blocks are different from each other, and the sum of the bit rates of the video blocks corresponding to each of the partial videos of the divided video is divided. A second determining step of determining the bit rate for each moving image block so as to be less than or equal to a predetermined value. Characterized in that to execute the.
請求項15に記載の発明は、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定ステップと、前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得ステップであって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得ステップと、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化ステップと、前記正規化ステップにより正規化された各前記重要度と、前記取得ステップにより取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、をコンピュータに実行させることを特徴とする。 According to a fifteenth aspect of the present invention, a specifying step for specifying a plurality of moving image blocks generated by dividing a plurality of divided moving images obtained by dividing a moving image into a plurality of display areas by a predetermined time unit, and specifying by the specifying step A first determination step for determining the importance of each moving image block for each moving image block, and obtaining a template having the same number of corresponding areas as the divided moving images, each of which is assigned a predetermined bit rate. An acquisition step of acquiring a plurality of templates having different allocation patterns of the predetermined bit rate to each of the corresponding areas, and an average value of importance of the plurality of video blocks is a reference A normalizing step for normalizing the importance of the plurality of video blocks so as to obtain a bit rate, and the normalizing step. An error between each normalized degree of importance and the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition step is calculated for each of the acquired templates. Causing the computer to execute a second determination step of determining the bit rate for each moving image block using the predetermined bit rate assigned to each of the corresponding areas of the template having a relatively small error. Features.
請求項1、2、9〜15に記載の発明によれば、動画ブロックを配信するときのビットレートを安定化させつつ、特定の動画ブロックの品質を向上させることができる。 According to the first, second, and ninth to fifteenth aspects, it is possible to improve the quality of a specific moving image block while stabilizing the bit rate when distributing the moving image block.
請求項3に記載の発明によれば、迅速かつ定量的に、全ての動画ブロックの重要度を決定することができる。 According to the third aspect of the present invention, the importance of all moving image blocks can be determined quickly and quantitatively.
請求項4に記載の発明によれば、ユーザの嗜好が、より反映された重要度を決定することができる。
According to the invention described in
請求項5に記載の発明によれば、表示領域の取り方を簡単にすることができ、迅速にグループ化することができる。 According to the fifth aspect of the present invention, it is possible to simplify the display area and to quickly group the display areas.
請求項6、7に記載の発明によれば、各動画ブロックにおいて、どのようなビットレートのパターンであっても、より柔軟に決定することができる。 According to the sixth and seventh aspects of the present invention, any bit rate pattern can be determined more flexibly in each moving image block.
請求項8に記載の発明によれば、各動画ブロックをエンコードするときのビットレートを迅速に決定することができる。 According to the eighth aspect of the present invention, the bit rate for encoding each moving picture block can be determined quickly.
以下、本発明の実施形態を図面に基づいて説明する。なお、以下に説明する実施の形態は、配信システムに対して本発明を適用した場合の実施形態である。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. The embodiment described below is an embodiment when the present invention is applied to a distribution system.
[1.配信システムSの構成及び動作概要]
初めに、図1を参照して、本実施形態に係る配信システムSの構成及び動作概要について説明する。図1は、本実施形態に係る配信システムSの概要構成例を示す図である。図1に示すように、配信システムSは、エンコードサーバ1、配信サーバ2、及びクライアント端末3を含んで構成される。エンコードサーバ1は、本発明のビットレート決定装置の一例である。エンコードサーバ1、配信サーバ2、及びクライアント端末3は、ネットワークNWに接続される。ネットワークNWは、例えば、インターネット等により構成される。
[1. Outline of Configuration and Operation of Distribution System S]
First, with reference to FIG. 1, the structure and operation | movement outline | summary of the delivery system S concerning this embodiment are demonstrated. FIG. 1 is a diagram illustrating a schematic configuration example of a distribution system S according to the present embodiment. As shown in FIG. 1, the distribution system S includes an
エンコードサーバ1は、ビデオカメラ(図示せず)により撮影された動画のデータと、動画の撮影に同期してマイクロフォン(図示せず)により集音された音声のデータとを含むコンテンツを外部機器から取得する。例えば、エンコードサーバ1には、有線または無線を介して、ビデオカメラ及びマイクロフォンが接続されており、ビデオカメラから動画のデータを、マイクロフォンから音声のデータをそれぞれ取得する。本実施形態では、ビデオカメラにより撮影された動画を例にとり、撮影範囲全体を表示する動画を、以下、「全体動画」というものとする。なお、ビデオカメラにより撮影された動画以外の、例えばCGやアニメーション等、動作作成ソフトウェアにより作成された動画を全体動画としてもよい。また、複数のビデオカメラのそれぞれにより撮影された動画を合成した動画を全体動画としてもよい。
The
エンコードサーバ1は、全体動画Mを複数の表示領域に分割した複数の分割動画DMn(n=1,2,3・・・)を所定の時間単位Tで区切ることで複数の動画ブロックBn-m(m=1,2,3・・・)を生成する。図2は、エンコードサーバ1により生成された動画ブロックの一例を示す図である。図2の例では、全体動画Mが4×4の分割動画DMn(この例では、n=1〜16)に分割され、且つ再生時間軸tにおいて時間単位Tで区切られることで複数の動画ブロックBn-mが分割動画DMn毎に生成されている。エンコードサーバ1は、生成された動画ブロックBn-mを、後述するように決定したビットレートでエンコードする。動画ブロックBn-mをエンコードするときのビットレートを、以下「変換ビットレート」という。また、動画ブロックBn-mを配信するときのビットレートを、以下「配信ビットレート」という。なお、エンコードサーバ1は、分割動画DMnを所定の時間単位Tで区切りつつ上記変換ビットレートでエンコードすることで複数の動画ブロックBn-mを生成してもよい。ここで、変換ビットレートは、単位時間あたりにエンコードされる動画ブロックのデータ量(サイズ)である。言い換えれば、変換ビットレートは、単位時間あたり何ビットくらいのサイズでエンコードするかを示すパラメータである。また、エンコードとは、一般に、予め定められた規則に従って、データを符号に変換(符号化)することをいい、さらに、例えばMPEG等の圧縮方式でデータを圧縮することを含む場合もある。
The
配信サーバ2は、クライアント端末3からリクエストされた動画ブロックBn-mであってエンコードサーバ1によりエンコードされた動画ブロックBn-mを含むコンテンツをクライアント端末3へ送信する。コンテンツの送信は、例えば、ネットワークNWを介してストリーミング配信により行われる。クライアント端末3は、ユーザ操作に応じて、全体動画Mにおいて表示画面における表示範囲に表示される表示領域(少なくとも一部の表示領域)を含む分割動画DMnに対応する動画ブロックBn-mだけを配信サーバ2へリクエストする。つまり、全体動画Mにおいて表示画面に表示される表示領域を含まない分割動画DMnに対応する動画ブロックBn-mはリクエストされない。クライアント端末3は、配信サーバ2から送信されたコンテンツを受信し、受信されたコンテンツに含まれる動画ブロックBn-mをデコードして分割動画DMnを再生する。
The
[2.各装置の構成及び機能]
次に、図1を参照して、本実施形態の配信システムSに含まれる各装置の構成について説明する。エンコードサーバ1は、図1に示すように、制御部11、記憶部12、通信部13、及びインターフェース部14等を備えて構成される。これらの構成要素は、バス15に接続されている。インターフェース部14は、例えばビデオカメラ及びマイクロフォンが接続される。通信部13は、ネットワークNWに接続される。記憶部12は、例えばハードディスクドライブ等からなり、OS(オペレーティングシステム)、及びエンコード処理プログラム(本発明のプログラムの一例)等を記憶する。エンコード処理プログラムは、コンピュータとしての制御部11に、エンコード処理等を実行させるプログラムである。エンコード処理プログラムは、所定のサーバからダウンロードされてもよいし、CD、DVD等の記録媒体に記憶されて提供されてもよい。また、記憶部12には、外部機器から取得された全体動画Mのデータと、音声のデータとを含むコンテンツが記憶される。
[2. Configuration and function of each device]
Next, the configuration of each device included in the distribution system S of the present embodiment will be described with reference to FIG. As shown in FIG. 1, the
制御部11は、CPU(Central Processing Unit)、ROM(Read Only Memory)、及びRAM(Random Access Memory)等により構成される。制御部11は、エンコード処理プログラムにしたがって、エンコード処理を実行する。このエンコード処理において、制御部11は、本発明の特定手段、指定手段、第1決定手段、第2決定手段、取得手段、正規化手段として機能する。具体的には、先ず、制御部11は、上記全体動画Mを複数の表示領域に分割して複数の分割動画DMnを生成する。図2(A)は、全体動画M、分割動画DMn、及び動画ブロックBn-mを示す概念図である。例えば、制御部11は、図2(A)に示すように、全体動画Mを面積が均等となる複数の表示領域に分割することで複数の分割動画DMnを生成する。そして、制御部11は、分割された分割動画DMnのそれぞれを所定の時間単位T(例えば、10秒)で区切ることで、分割動画DMn毎に複数の動画ブロックBn-mを生成する。なお、制御部11は、エンコードサーバ1とは異なる装置により生成された分割動画DMn毎の複数の動画ブロックBn-mを取得してもよい。
The
また、制御部11は、分割された分割動画DMnのそれぞれに対応する動画ブロックBn-mを特定し、特定した動画ブロックBn-mの重要度を動画ブロックBn-m毎に決定する。ここで、動画ブロックBn-mの重要度は、全体動画の一部領域を見る視聴者、全体動画Mの撮影者、または全体動画Mの編集者等から見た重要性(言い換えれば、注目度や興味度)などを考慮して定義される相対的な数値である。例えば、制御部11は、動画ブロックBn-mの情報量を動画ブロックBn-m毎に算出し、算出した情報量を動画ブロックBn-mの重要度として動画ブロックBn-m毎に決定する。情報量は、データの複雑さを定量的に表す。例えば、動画を構成する画素色が多いほど情報量が大きい。また、動きが激しい動画ほど情報量が大きく、視聴者等に注目される。これは、動きが激しい動画ほど、その動画を構成する画素の色情報(色調や階調)の単位時間あたりの変化が大きいからである。動きが激しい動画は、そうでない動画に比べて圧縮され難い(言い換えれば、エンコード後のデータのサイズが小さくなり難い)。この例では、情報量が大きい動画ブロックBn-mを、重要度が高い動画ブロックBn-mと見做すのである。情報量の一例として、動画ブロックBn-mをエンコードしたデータのサイズ(ファイルサイズ)が挙げられる。この場合、制御部11は、動画ブロックBn-mを所定のパラメータ(変換ビットレート)でエンコードし、そのファイルサイズを、動画ブロックBn-mの情報量として用いる。これにより、迅速かつ定量的に、全ての動画ブロックの重要度を決定することができる。
Further, the
別の例として、制御部11は、全体動画においてユーザ(操作者)により指定された位置を含む動画ブロックBn-mの重要度を相対的に高く決定してもよい。ここで、ユーザの例として、上述した視聴者(つまり、クライアント端末3のユーザ)、撮影者、編集者等が挙げられる。例えば、制御部11は、全体動画Mの少なくとも一部領域が端末の表示画面に表示された状態でユーザにより指定された位置(例えば、全体動画の画像フレーム上の座標位置)を示す位置情報を取得する。そして、制御部11は、取得した位置情報が示す位置を含む動画ブロックBn-mを特定し、特定した動画ブロックBn-mの重要度を他の動画ブロックBn-m(この位置を含まない分割動画に対応する動画ブロックBn-m)よりも高く決定する。これにより、ユーザの嗜好が、より反映された上記重要度を決定することができる。なお、例えば撮影者が撮影前に判断して適当な数値を動画ブロック毎に割り振り、制御部11は、割り振られた各数値を各動画ブロックの重要度として決定してもよい。
As another example, the
また、制御部11は、決定された重要度に基づいて、全体動画Mから分割された分割動画DMn(例えば、DM1〜DM16)のうちの一部の分割動画DMn(例えば、DM6及びDM10)のそれぞれに対応する1つあたりの動画ブロックBn-m(例えば、B6-1及びB10-1)をエンコードするときの変換ビットレートを互いに異ならせ、且つ、全体動画Mから分割された分割動画DMnのうちの一部の分割動画DMn(例えば、DM6,DM7,DM10及びDM11)のそれぞれに対応する1つあたりの動画ブロックBn-m(例えば、B6-1,B7-1,B10-1及びB11-1)エンコードするときの変換ビットレートの合計が、上限値(所定値の一例)以下になるように、動画ブロックBn-m毎に変換ビットレートを決定する。ここで、上限値とは、例えばネットワークNWの帯域幅等のネットワーク環境に応じて決定される許容値であり、例えば、2Mbps程度に設定される。
In addition, the
図2(B)は、動画ブロックBn-1の重要度に基づいて決定された変換ビットレートの一例を示す概念図である。図2(B)の例では、重要度が相対的に大きい動画ブロックB9-1,B10-1,B11-1及びB12-1の変換ビットレートが上げられ、その代わりに、重要度が相対的に大きい動画ブロックB9-1,B10-1,B11-1,B12-1の周りに位置する動画ブロックB5-1,B6-1,B7-1,B8-1,B13-1,B14-1,B15-1及びB16-1の変換ビットレートが下げられている。これにより、隣り合う動画ブロック同士で合計ビットレートが、上限値以下となるように、変換ビットレートを融通し合うことができる。つまり、重要度が相対的に大きい動画ブロックは、隣り合うブロックの中で重要度が小さい動画ブロックから変換ビットレートを融通してもらうことができる。そして、制御部11は、決定された変換ビットレートで動画ブロックBn-mをエンコードする。エンコードされた動画ブロックBn-mは、コンテンツの一部として、元になった全体動画Mのデータに代えて、または元になった全体動画Mのデータに対応付けられて記憶部12に記憶される。
FIG. 2B is a conceptual diagram illustrating an example of the conversion bit rate determined based on the importance of the moving image block Bn-1. In the example of FIG. 2B, the conversion bit rates of the video blocks B9-1, B10-1, B11-1 and B12-1 having a relatively high importance are increased, and instead, the importance is relative. Video blocks B5-1, B6-1, B7-1, B8-1, B13-1, B14-1, located around the video blocks B9-1, B10-1, B11-1, B12-1 The conversion bit rates of B15-1 and B16-1 are lowered. As a result, the conversion bit rate can be interchanged so that the total bit rate between the adjacent moving image blocks is equal to or less than the upper limit value. That is, a moving image block having a relatively high importance can have a conversion bit rate interchanged from a moving image block having a low importance among adjacent blocks. Then, the
次に、配信サーバ2は、図1に示すように、制御部21、記憶部22、及び通信部23等を備えて構成される。これらの構成要素は、バス24に接続されている。通信部23は、ネットワークNWに接続される。記憶部22は、例えばハードディスクドライブ等からなり、OS、及びコンテンツ配信処理プログラム等を記憶する。コンテンツ配信処理プログラムは、制御部21に、コンテンツ配信処理等を実行させるプログラムである。また、記憶部22には、例えば、エンコードサーバ1によりエンコードされた動画ブロックBn-mと、音声のデータとを含むコンテンツが記憶される。制御部21は、CPU、ROM、及びRAM等により構成される。制御部21は、コンテンツ配信処理プログラムにしたがって、コンテンツ配信処理を実行する。このコンテンツ配信処理において、制御部21は、上述したように、クライアント端末3からのリクエストに応じて、エンコードされた動画ブロックBn-mと音声のデータとを含むコンテンツをクライアント端末3へ送信する。
Next, as shown in FIG. 1, the
次に、クライアント端末3は、図1に示すように、制御部31、記憶部32、ビデオRAM33、映像処理部34、音声処理部35、操作処理部36、及び通信部37等を備えて構成される。これらの構成要素は、バス38に接続されている。映像処理部34には、表示部34aが接続される。表示部34aには表示画面が表示される。音声処理部35には、スピーカ35aが接続される。操作処理部36には、操作部36aが接続される。操作部36aには、例えば、マウス、キーボード、リモコン等がある。なお、表示部34aと操作部36aとを兼ねるタッチパネルが適用されてもよい。通信部37は、ネットワークNWに接続される。記憶部32は、例えばハードディスクドライブ等からなり、OS、及びコンテンツ再生処理プログラム等を記憶する。コンテンツ再生処理プログラムは、コンテンツ再生処理等を制御部31に実行させるプログラムである。制御部31は、CPU、ROM、及びRAM等により構成される。制御部31は、コンテンツ再生処理プログラムにしたがって、コンテンツ再生処理を実行する。このコンテンツ再生処理において、制御部31は、ユーザ操作に応じて全体動画M内で表示される表示範囲(つまり、表示画面における表示範囲)を特定し、特定した表示範囲を含む分割動画DMnに対応する動画ブロックBn-mを配信サーバ2へリクエストする。これにより、配信サーバ2から送信された動画ブロックBn-mを含むコンテンツが受信され、受信されたコンテンツは、例えばRAMに設けられたバッファメモリに一時的に保持される。そして、制御部31は、バッファメモリに保持されている動画ブロックBn-mをデコードして分割動画DMnを再生し、ビデオRAM33へ出力する。映像処理部34は、制御部31からの制御信号に従って、ビデオRAM33に書き込まれた分割動画DMnのうち表示画面に収まる表示範囲の動画を表示画面に表示させる。なお、バッファメモリに保持されているコンテンツに音声のデータが含まれる場合、音声処理部35は、制御部31からの制御信号に従って、音声のデータからアナログ音声信号を生成し、生成したアナログ音声信号をスピーカ35aへ出力する。
Next, as shown in FIG. 1, the client terminal 3 includes a
なお、全体動画M内で表示される表示範囲は、疑似的なカメラワークの操作(ユーザ操作の一例)により動作する仮想カメラの撮影範囲として特定される。疑似的なカメラワークの操作により、特定される表示範囲が変化し、この変化に追従して動画ブロックBn-mが配信サーバ2へリクエストされることになる。疑似的なカメラワークの操作には、例えば、仮想カメラを左右振りさせるパン操作、仮想カメラを上下振りさせるチルト操作、及び仮想カメラの画角を変化させるズーム操作がある。ここで、仮想カメラとは、二次元平面または三次元仮想空間における仮想スクリーンに投影される動画に対して仮想的に設定された視点をいう。パン及びチルト操作は、例えば、ユーザによるマウスのドラッグ操作や、ユーザによる指やペン等によるフリック操作により実現される。ズーム操作は、例えば、ユーザがマウス等の操作部に設けられたボタン、或いはユーザの指2本で表示画面をピンチするピンチ操作により実現される。
Note that the display range displayed in the entire moving image M is specified as a shooting range of a virtual camera that operates by a pseudo camerawork operation (an example of a user operation). The specified display range is changed by the pseudo camera work operation, and the moving image block Bn-m is requested to the
[2.エンコードサーバ1によるエンコード処理]
次に、エンコードサーバ1によるエンコード処理の詳細について、実施例1と実施例2に分けて説明する。
[2. Encoding process by the encoding server 1]
Next, the details of the encoding process by the
(実施例1)
先ず、図3等を参照して、実施例1におけるエンコード処理について説明する。図3は、実施例1におけるエンコード処理の一例を示すフローチャートである。実施例1は、上述した各分割動画DMnに対応する動画ブロックBn-mのうち、ズーム操作によりズームインした時に同時に表示画面に表示される複数の動画ブロックBn-mを含むグループを複数生成(つまり、グループ化)し、生成された各グループにおいて各動画ブロックBn-mの変換ビットレートを決定する例である。ズーム操作によりズームインした時に同時に表示画面に表示される複数の動画ブロックBn-mは、全ての分割動画DMnのうちの一部の分割動画DMnのそれぞれに対応する1つあたりの動画ブロックの一例である。
Example 1
First, the encoding process in the first embodiment will be described with reference to FIG. FIG. 3 is a flowchart illustrating an example of the encoding process according to the first embodiment. Example 1 generates a plurality of groups including a plurality of video blocks Bn-m displayed on the display screen at the same time when zoomed in by a zoom operation among the video blocks Bn-m corresponding to each of the divided videos DMn described above (that is, In this example, the conversion bit rate of each moving image block Bn-m is determined in each generated group. The plurality of video blocks Bn-m displayed on the display screen at the same time when zoomed in by the zoom operation is an example of one video block corresponding to each of some of the divided videos DMn among all the divided videos DMn. is there.
図3に示す処理は、例えば、ビデオカメラにより撮影された、エンコード対象の全体動画Mのデータを受信した場合、或いは、既にエンコードサーバ1に記憶されている全体動画Mのうちエンコード対象の全体動画Mのエンコード指令があった場合に開始される。エンコード対象の全体動画Mの例として、例えばクライアント端末3においてユーザにより再生対象として選択されたコンテンツに対応する全体動画Mが挙げられる。
The processing shown in FIG. 3 is performed when, for example, data of the entire moving image M to be encoded, which is shot by a video camera, or the entire moving image M to be encoded among the entire moving images M already stored in the
図3に示す処理が開始されると、制御部11は、エンコード対象の全体動画Mを分割する各表示領域(言い換えれば、全体動画Mを分割した分割動画DMn)を決定する(ステップS1)。図2(A)の例では、全体動画Mが4×4の表示領域に分割されるようになっているが、分割数については任意であり、特に限定されるものではない。なお、制御部11は、ステップS1の処理前に、全体動画Mを複数の表示領域に分割し、分割された分割動画DMnのそれぞれを所定の時間単位Tで区切ることで、分割動画DMn毎に複数の動画ブロックBn-mを生成しておいてもよい。
When the process shown in FIG. 3 is started, the
次いで、制御部11は、ステップS1で決定された各表示領域の情報(例えば全体動画Mを構成する画像フレームにおける座標)と、グループ化のためのパラメータとから、ズームインした時に同時に表示画面に表示される分割動画DMnを指定し、指定された分割動画DMn同士でグループを複数生成する(ステップS2)。ここで指定される分割動画DMnは、全体動画Mから分割された全ての分割動画DMnのうちの一部の分割動画DMnである。つまり、全ての分割動画DMnの中から分割動画DMnの組み合わせが指定される。グループ化のためのパラメータには、例えば1つのグループにおける表示領域の取り方(例えば、2×2、1×3、2×3、3×3、1×2、2×1など)が規定される。表示領域の取り方は、例えば予め想定したクライアント端末のズーム機能により動画がズームインされたときの表示範囲に基づき決定される。なお、図2(A)に示すように、全体動画Mを面積が均等となる複数の表示領域に分割するように構成すれば、表示領域の取り方を簡単にすることができ、迅速にグループ化することができる。
Next, the
図4は、1つのグループにおける表示領域が「2×2」の場合の一例を示す概念図である。この場合、図4(A)〜(C)に示すように、グループG1〜G9が生成されることになる。また、1つのグループに属する一部の分割動画DMnは、他の1つのグループにも属する。例えば、分割動画DM2は、図4(A),(B)に示すように、グループG1及びG2に属する。また、分割動画DM6は、図4(A),(B)に示すように、グループG1,G2,G4,及びG5に属する。なお、ステップS3以降の処理で分割動画DMnが時間単位Tで区切られることで、分割動画DMn毎に複数の動画ブロックBn-mが生成される(ここで、mは、全体動画Mの再生開始位置からの順番に相当する)。このため、1つのグループGk(この例では、k=1〜9)は、更に複数のグループGk-mに分割され、ズームインした時に同時に表示画面に表示される複数(この例では、4つ)の動画ブロックBn-m同士でグループ化されることになる。例えば、グループG1-1には、動画ブロックB1-1,B2-1,B5-1及びB6-1が属することになる。 FIG. 4 is a conceptual diagram showing an example when the display area in one group is “2 × 2”. In this case, as shown in FIGS. 4A to 4C, groups G1 to G9 are generated. Further, some of the divided moving images DMn belonging to one group also belong to another group. For example, the divided moving image DM2 belongs to groups G1 and G2, as shown in FIGS. 4 (A) and 4 (B). Further, the divided moving image DM6 belongs to the groups G1, G2, G4, and G5 as shown in FIGS. It should be noted that a plurality of video blocks Bn-m are generated for each divided video DMn by dividing the divided video DMn by the time unit T in the processing after step S3 (where m is the start of playback of the whole video M) Equivalent to the order from the position). For this reason, one group Gk (in this example, k = 1 to 9) is further divided into a plurality of groups Gk-m, and a plurality of (four in this example) displayed on the display screen at the same time when zoomed in. The video blocks Bn-m are grouped together. For example, moving picture blocks B1-1, B2-1, B5-1 and B6-1 belong to the group G1-1.
次いで、制御部11は、エンコード開始位置s(変数)に“0”を代入する(ステップS3)。エンコード開始位置sは、全体動画Mの再生時間軸t方向における時間的な位置(例えば秒で表される)であり、全体動画Mの再生開始位置から再生終了位置までの間の位置である。最初のエンコード開始位置sは、例えば全体動画Mの再生開始位置である。次いで、制御部11は、エンコード開始位置sが、全体動画Mの再生終了位置より小さいか否かを判定する(ステップS4)。つまり、エンコード開始位置sが、全体動画Mの再生終了位置を時間的に超えたか否かが判定される。制御部11は、エンコード開始位置sが全体動画Mの再生終了位置より小さいと判定した場合(ステップS4:YES)、ステップS5へ処理を進める。一方、制御部11は、エンコード開始位置sが全体動画Mの再生終了位置より小さくないと判定した場合(ステップS4:NO)、図3に示す処理を終了する。
Next, the
ステップS5では、制御部11は、エンコード開始位置s+T(時間単位)が、全体動画Mの再生終了位置より大きいか否かを判定する。制御部11は、エンコード開始位置s+Tが全体動画Mの再生終了位置より大きくないと判定した場合(ステップS5:NO)、エンコード終了位置e(変数)に“s+T”を代入する(ステップS6)。一方、制御部11は、エンコード開始位置s+Tが全体動画Mの再生終了位置より大きいと判定した場合(ステップS5:YES)、エンコード終了位置e(変数)に全体動画Mの再生終了位置を代入する(ステップS7)。
In step S5, the
次いで、制御部11は、全体動画Mの[s,e]の範囲(つまり、エンコード開始位置sからエンコード終了位置eまでの範囲)で、各分割動画DMnを区切ることで生成された複数の動画ブロックBn-mを特定し、特定した各動画ブロックBn-mの重要度を決定する(ステップS8)。例えば、上述したように、制御部11は、特定した各動画ブロックBn-mを所定のパラメータでエンコードし、そのファイルサイズを、特定した各動画ブロックBn-mの情報量として算出する。或いは、制御部11は、特定した各動画ブロックBn-mの重要度をデフォルト値で設定する。そして、制御部11は、エンコード対象の全体動画Mをリクエストしたクライアント端末3から、上述したようにユーザにより指定された位置を示す位置情報を取得し、その位置を含む動画ブロックBn-mを特定し、特定した動画ブロックBn-mの重要度をデフォルト値よりも高く決定する。
Next, the
次いで、制御部11は、1グループあたりの変換ビットレートの上限値として、上限ビットレートBR1(例えば、2Mbps)を設定する(ステップS9)。次いで、制御部11は、ループカウンタi(変数)に“1”を代入する(ステップS10)。次いで、制御部11は、ループカウンタiが、グループ数以下であるか否かを判定する(ステップS11)。ここで、グループ数は、全体動画Mの[s,e]の範囲における動画ブロックBn-mのグループGk-mの数であり、図4の場合、グループ数は9つとなる。制御部11は、ループカウンタiがグループ数以下であると判定した場合(ステップS11:YES)、ステップS12へ処理を進める。一方、制御部11は、ループカウンタiがグループ数以下でないと判定した場合(ステップS11:NO)、ステップS17へ処理を進める。
Next, the
ステップS12では、制御部11は、i番目のグループGi-mに属する複数の動画ブロックBn-mの変換ビットレートが、ステップS8で決定されたそれぞれの重要度に比例し、且つ、i番目のグループGi-mに属する複数の動画ブロックBn-mの変換ビットレートの合計が上限ビットレートBR1になるように、i番目のグループGi-mに属する動画ブロックBn-mの変換ビットレートを仮決定する。
In step S12, the
図5(A)は、動画ブロックBn-1の重要度の一例を示す概念図であり、図5(B)は、5番目のグループG5-1に属する動画ブロックB6-1,B7-1,B10-1,B11-1のそれぞれの重要度に基づいて決定された変換ビットレートの一例を示す概念図である。図5(B)では、4つの動画ブロックB6-1,B7-1,B10-1,B11-1の変換ビットレートの合計が、上限ビットレートBR1である2Mbpsとなるように重要度が正規化されている。 FIG. 5A is a conceptual diagram illustrating an example of the importance of the moving image block Bn-1, and FIG. 5B illustrates moving image blocks B6-1, B7-1, and B-5 belonging to the fifth group G5-1. It is a conceptual diagram which shows an example of the conversion bit rate determined based on each importance of B10-1 and B11-1. In FIG. 5B, the importance is normalized so that the total of the conversion bit rates of the four moving image blocks B6-1, B7-1, B10-1, and B11-1 is 2 Mbps which is the upper limit bit rate BR1. Has been.
次いで、制御部11は、直近のステップS12で変換ビットレートが仮決定された各動画ブロックBn-mについて、既に変換ビットレートが割り当てられているか否かを判定する(ステップS13)。制御部11は、既に変換ビットレートが割り当てられていると判定した場合(ステップS13:YES)、直近のステップS12で仮決定された変換ビットレートと、既に割り当てられている変換ビットレートとのうちで小さい方の変換ビットレートを動画ブロックBn-mに割り当てる(ステップS14)。一方、制御部11は、既に変換ビットレートが割り当てられていないと判定した場合(ステップS13:NO)、直近のステップS12で仮決定された変換ビットレートを動画ブロックBn-mに割り当てる(ステップS15)。ステップS14またS15の割り当てがi番目のグループGi-m([s,e]の範囲に限る)に属する全ての動画ブロックBn-mについて行われると、制御部11は、ループカウンタiを1インクリメントし(ステップS16)、ステップS11に戻る。こうして、[s,e]の範囲における全てのグループGi-mについてステップS12以降の処理が行われると、ステップS17へ処理が進むことになる。
Next, the
ステップS17では、制御部11は、[s,e]の範囲における各動画ブロックBn-mに最終的に割り当てられている変換ビットレートを、最終的な変換ビットレートとして決定(最終決定)する。なお、[s,e]の範囲において複数のグループGk-mに属する一部の動画ブロックBn-mについては、相対的に小さい(この例では、最小の)変換ビットレートが、上記一部の動画ブロックBn-mの変換ビットレートとして最終決定される。すなわち、制御部11は、上記処理により、1つのグループGk-mにおいて仮決定した、上記一部の動画ブロックBn-mの変換ビットレートと、他の1つのグループにおいて仮決定した、上記一部の動画ブロックBn-mの変換ビットレートのうち、相対的に小さい(この例では、最小の)変換ビットレートを、上記一部の動画ブロックBn-mの変換ビットレートとして最終決定する。これにより、隣り合う動画ブロックBn-m間で変換ビットレートを融通し合って、より適切な変換ビットレートを決定することができる。
In step S17, the
次いで、制御部11は、[s,e]の範囲における各動画ブロックBn-mを、ステップS17で決定されたそれぞれの変換ビットレートでエンコードする(ステップS18)。なお、エンコードされた各動画ブロックBn-mは、コンテンツの一部として、元になった全体動画Mのデータに対応付けられて記憶部12に記憶される。次いで、制御部11は、エンコード開始位置sに、最新のエンコード終了位置eを代入し(ステップS19)、ステップS4に戻る。ステップS4でエンコード開始位置sが全体動画Mの再生終了位置より小さくないと判定されるまで、順次、全体動画Mの再生時間軸t方向における[s,e]の範囲が時系列で後に移動しつつ、各[s,e]の範囲毎に上述したステップS5以降の処理が行われる。こうして、全体動画Mから分割された分割動画DMnのそれぞれに対応する全ての動画ブロックBn-mがエンコードされると、制御部11は、図3に示す処理を終了する。
Next, the
以上説明したように、実施例1によれば、エンコードサーバ1は、各分割動画DMnに対応する動画ブロックBn-mのうち、ズーム操作によりズームインした時に同時に表示画面に表示される複数の動画ブロックBn-mでグループ化し、グループ化された各グループにおいて各動画ブロックBn-mのそれぞれをエンコードするときの変換ビットレートがそれぞれの重要度に比例し、且つ、各動画ブロックBn-mをエンコードするときの変換ビットレートの合計が上限ビットレートBR1になるように、各動画ブロックBn-mの変換ビットレートをグループ毎に決定するように構成したので、各動画ブロックBn-mにおいて、どのような変換ビットレートのパターンであっても、より柔軟に決定することができる。このように決定された変換ビットレートで動画ブロックBn-mをエンコードすることで、各動画ブロックBn-mの配信ビットレートを安定化させつつ、特定の各動画ブロックBn-mの品質を向上させることができる。例えば、全体動画Mの複数の表示領域に、圧縮の効き易い表示領域と、圧縮の効き難い表示領域とがあった場合でも、品質を向上させることができる。また、全体動画Mの複数の表示領域に、視聴者にとって重要な表示領域とそうでない表示領域とが含まれている場合に、重要な表示領域の品質を向上させることができる。
As described above, according to the first embodiment, the
(実施例2)
次に、図6等を参照して、実施例2におけるエンコード処理について説明する。図6は、実施例2におけるエンコード処理の一例を示すフローチャートである。実施例2は、予め作成された複数のテンプレートを用いて、各動画ブロックBn-mの変換ビットレートを決定する例である。ここで、テンプレートは、全体動画Mにおいて分割される表示領域(分割動画DMn)と同数の対応領域を有し、各対応領域に所定の変換ビットレートが割り当てられたテーブルである。
(Example 2)
Next, an encoding process according to the second embodiment will be described with reference to FIG. FIG. 6 is a flowchart illustrating an example of the encoding process according to the second embodiment. Example 2 is an example in which the conversion bit rate of each moving image block Bn-m is determined using a plurality of templates created in advance. Here, the template is a table having the same number of corresponding areas as the display areas (divided moving pictures DMn) divided in the entire moving picture M, and a predetermined conversion bit rate is assigned to each corresponding area.
図6に示す処理は、図3に示す処理と同じように開始される。図6に示す処理が開始されると、制御部11は、エンコード対象の全体動画Mを分割する各表示領域(言い換えれば、全体動画Mを分割した分割動画DMn)を決定する(ステップS21)。ステップS21の処理は、上述した実施例1におけるステップS1と同様である。次いで、制御部11は、各対応領域に所定の変換ビットレートが割り当てられたテンプレートであって、割り当てパターンが互いに異なる複数のテンプレートを例えば記憶部12から取得する(ステップS22)。次いで、制御部11は、ステップS22で取得した全てのテンプレートについて、対応領域に割り当てられた所定の変換ビットレートの平均値が、基準となる変換ビットレートBR2(例えば、0.5Mbps)になるように、割り当てられた変換ビットレートを正規化する(ステップS23)。
The process shown in FIG. 6 is started in the same manner as the process shown in FIG. When the process shown in FIG. 6 is started, the
図7は、正規化された変換ビットレートが各対応領域に割り当てられたテンプレート例を示す図である。図7(A)〜(C)に示す3つのテンプレート(例1〜例3)は、変換ビットレートの割り当てパターンが互いに異なっている。なお、図7には、3つのテンプレート例を示しているが、テンプレートはいくつであってもよい。また、図7(A)〜(C)に示すテンプレートは、それぞれ、「2×2」の対応領域が属するグループをどのように採っても、そのグループに属する対応領域に割り当てられた所定の変換ビットレートの合計が上限値(例えば、2Mbps)以下となるように作成されている。 FIG. 7 is a diagram illustrating a template example in which the normalized conversion bit rate is assigned to each corresponding region. The three templates (Examples 1 to 3) shown in FIGS. 7A to 7C have different conversion bit rate allocation patterns. Although FIG. 7 shows three template examples, any number of templates may be used. Further, the templates shown in FIGS. 7A to 7C each have a predetermined conversion assigned to the corresponding area belonging to the group, regardless of the group to which the corresponding area of “2 × 2” belongs. The total bit rate is created so as to be equal to or less than the upper limit (for example, 2 Mbps).
次いで、制御部11は、エンコード開始位置s(変数)に“0”を代入する(ステップS24)。次いで、制御部11は、エンコード開始位置sが、全体動画Mの再生終了位置より小さいか否かを判定する(ステップS25)。制御部11は、エンコード開始位置sが全体動画Mの再生終了位置より小さいと判定した場合(ステップS25:YES)、ステップS26へ処理を進める。一方、制御部11は、エンコード開始位置sが全体動画Mの再生終了位置より小さくないと判定した場合(ステップS25:NO)、図6に示す処理を終了する。
Next, the
ステップS26では、制御部11は、エンコード開始位置s+Tが、全体動画Mの再生終了位置より大きいか否かを判定する。制御部11は、エンコード開始位置s+Tが全体動画Mの再生終了位置より大きくないと判定した場合(ステップS26:NO)、エンコード終了位置e(変数)に“s+T”を代入する(ステップS27)。一方、制御部11は、エンコード開始位置s+Tが全体動画Mの再生終了位置より大きいと判定した場合(ステップS26:YES)、エンコード終了位置e(変数)に全体動画Mの再生終了位置を代入する(ステップS28)。
In step S26, the
次いで、制御部11は、全体動画Mの[s,e]の範囲で、各分割動画DMnを区切ることで生成された複数の動画ブロックBn-mを特定し、特定した各動画ブロックBn-mの重要度を決定する(ステップS29)。次いで、制御部11は、全体動画Mの[s,e]の範囲で特定された各動画ブロックBn-mの重要度の平均値が、基準となる変換ビットレートBM2(例えば、0.5Mbps)になるように、全体動画Mの[s,e]の範囲で特定された各動画ブロックBn-mの重要度を正規化する(ステップS30)。
Next, the
図8(A)は、動画ブロックBn-1の重要度の一例を示す概念図であり、図8(B)は、動画ブロックBn-1の重要度の平均値が0.5Mbpsになるように正規化されたときの例を示す概念図である。 FIG. 8A is a conceptual diagram showing an example of the importance level of the moving image block Bn-1, and FIG. 8B shows that the average value of the importance level of the moving image block Bn-1 is 0.5 Mbps. It is a conceptual diagram which shows an example when normalized.
次いで、制御部11は、ステップS30で正規化された各重要度(各動画ブロックBn-mの重要度)と、ステップS23で正規化されたテンプレートの各対応領域に割り当てられた所定の変換ビットレートとの誤差Vを、ステップS23で正規化されたテンプレート毎に算出する(ステップS31)。ここで、誤差Vは、下記(1)式により算出される。
上記(1)式では、誤差Vは、テンプレート内の数値(対応領域に割り当てられた所定の変換ビットレート)と、正規化した重要度との間の差の二乗和(つまり、誤差の自乗和)を、ブロック数(特定された各動画ブロックBn-mの数)で割った値(平均二乗誤差)として算出される。なお、誤差Vは、上記(1)式とは異なる式により算出されてもよい。 In the above equation (1), the error V is the sum of squares of the difference between the numerical value in the template (predetermined conversion bit rate assigned to the corresponding region) and the normalized importance (that is, the square sum of errors). ) Divided by the number of blocks (the number of identified moving image blocks Bn-m) (mean square error). The error V may be calculated by an expression different from the above expression (1).
次いで、制御部11は、ステップS31で算出された誤差Vが相対的に小さい(例えば、最小の)テンプレートを特定する(ステップS32)。次いで、制御部11は、ステップS32で特定されたテンプレートの各対応領域に割り当てられた所定の変換ビットレートを、[s,e]の範囲における各動画ブロックBn-mの変換ビットレートとして決定する(ステップS33)。つまり、制御部11は、ステップS32で特定されたテンプレートの各対応領域に割り当てられた所定の変換ビットレートを用いて、[s,e]の範囲における各動画ブロックBn-mの変換ビットレートを決定する。
Next, the
次いで、制御部11は、[s,e]の範囲における各動画ブロックBn-mを、ステップS33で決定されたそれぞれの変換ビットレートでエンコードする(ステップS34)。次いで、制御部11は、エンコード開始位置sに、最新のエンコード終了位置eを代入し(ステップS35)、ステップS25に戻る。そして、全体動画Mから分割された分割動画DMnのそれぞれに対応する全ての動画ブロックBn-mがエンコードされると、制御部11は、図6に示す処理を終了する。
Next, the
以上説明したように、実施例2によれば、エンコードサーバ1は、各動画ブロックBn-mの正規化された重要度と、テンプレートの各対応領域に割り当てられた正規化された変換ビットレートとの誤差Vを、割り当てパターンが互いに異なる複数のテンプレート毎に算出し、算出した誤差Vが相対的に小さいテンプレートを用いて、各動画ブロックBn-mの変換ビットレートを決定するように構成したので、各動画ブロックBn-mの変換ビットレートに迅速に決定することができる。このように決定された変換ビットレートで動画ブロックBn-mをエンコードすることで、各動画ブロックBn-mの配信ビットレートを安定化させつつ、特定の各動画ブロックBn-mの品質を向上させることができる。例えば、全体動画Mの複数の表示領域に、圧縮の効き易い表示領域と、圧縮の効き難い表示領域とがあった場合でも、品質を向上させることができる。また、全体動画Mの複数の表示領域に、視聴者にとって重要な表示領域とそうでない表示領域とが含まれている場合に、重要な表示領域の品質を向上させることができる。
As described above, according to the second embodiment, the
なお、上記実施形態においては、本発明のビットレート決定装置としてエンコードサーバ1を例にとって説明したが、エンコードサーバ1の機能を配信サーバ2が有している場合、配信サーバ2に対して本発明を適用できる。この場合、配信サーバ2は本発明のサーバ装置を構成する。この場合、配信サーバ2の制御部21は、本発明の特定手段、指定手段、第1決定手段、第2決定手段、取得手段、正規化手段として機能する。すなわち、制御部21は、クライアント端末3のユーザにより再生対象として選択されたコンテンツまたは選択候補となるコンテンツに対応する全体動画Mを複数の表示領域に分割して複数の分割動画DMnを生成する。制御部21は、分割動画DMnのそれぞれを所定の時間単位Tで区切ることで、分割動画DMn毎に複数の動画ブロックBn-mを生成する。また、制御部21は、分割動画DMnのそれぞれに対応する動画ブロックBn-mを特定し、特定した動画ブロックBn-mの重要度を動画ブロックBn-m毎に決定する。制御部21は、動画ブロックBn-m毎の重要度に基づいて、上述した処理と同様に、動画ブロックBn-m毎に変換ビットレートを決定し、動画ブロックBn-m毎に決定した変換ビットレートで、それぞれの動画ブロックBn-mをエンコードする。そして、制御部21は、クライアント端末3からリクエストされた動画ブロックBn-mであって、上記変換ビットレートでエンコードされた動画ブロックBn-mを含むコンテンツをクライアント端末3へ送信する。より詳細には、制御部21は、制御部11に代えて、図3に示す処理または図6に示す処理を実行することになる。
In the above embodiment, the
1 エンコードサーバ
2 配信サーバ
3 クライアント端末
11 制御部
12 記憶部
S 配信システム
DESCRIPTION OF
Claims (15)
前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、
前記第1決定手段により決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、
を備えることを特徴とするビットレート決定装置。 Identifying means for identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
First determination means for determining the importance of the moving image block specified by the specifying means for each moving image block;
Based on the importance determined by the first determining means, the bit rates for encoding each of at least two of the plurality of moving image blocks are different from each other, and the divided The bit rate is determined for each moving image block so that the sum of the bit rates of the moving image blocks corresponding to each of the divided moving images of the divided moving images is equal to or less than a predetermined value. A determination means;
A bit rate determining apparatus comprising:
前記第2決定手段は、前記指定手段により指定された分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートを互いに異ならせることを特徴とする請求項1に記載のビットレート決定装置。 Further comprising a designating unit for designating a part of the divided videos.
2. The bit rate determination according to claim 1, wherein the second determining unit makes the bit rates of the moving image blocks per one corresponding to the divided moving images specified by the specifying unit differ from each other. apparatus.
前記第2決定手段は、1つの前記グループにおいて決定した前記一部の前記動画ブロックの前記ビットレートと、他の1つの前記グループにおいて決定した前記一部の前記動画ブロックの前記ビットレートのうち、相対的に小さいビットレートを、前記一部の前記動画ブロックの前記ビットレートとして最終決定することを特徴とする請求項6に記載のビットレート決定装置。 Some of the video blocks included in one group are also included in another group.
The second determining means includes the bit rate of the part of the moving image blocks determined in one group and the bit rate of the part of the moving image blocks determined in the other group. The bit rate determining apparatus according to claim 6, wherein a relatively small bit rate is finally determined as the bit rate of the part of the moving image blocks.
前記第2決定手段は、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化し、前記正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定することを特徴とする請求項1乃至5の何れか一項に記載のビットレート決定装置。 The acquisition unit for acquiring a template having the same number of corresponding areas as the divided moving images, and a predetermined bit rate assigned to each corresponding area, wherein the predetermined bit rate is assigned to each corresponding area. Further comprising acquisition means for acquiring a plurality of templates different from each other,
The second determining unit normalizes the importance of the plurality of moving image blocks so that an average value of the importance of the plurality of moving image blocks becomes a reference bit rate, and each of the normalized importance levels And an error with respect to the predetermined bit rate assigned to each corresponding area of the template acquired by the acquiring means for each of the acquired templates, and the calculated error is relatively small The bit rate determination according to any one of claims 1 to 5, wherein the bit rate is determined for each moving image block using the predetermined bit rate assigned to each of the corresponding areas. apparatus.
前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、
前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段と、
前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化手段と、
前記正規化手段により正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、
を備えることを特徴とするビットレート決定装置。 Identifying means for identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
First determination means for determining the importance of the moving image block specified by the specifying means for each moving image block;
The acquisition unit for acquiring a template having the same number of corresponding areas as the divided moving images, and a predetermined bit rate assigned to each corresponding area, wherein the predetermined bit rate is assigned to each corresponding area. Acquiring means for acquiring a plurality of templates different from each other;
Normalization means for normalizing the importance of the plurality of video blocks so that an average value of the importance of the plurality of video blocks becomes a reference bit rate;
An error between each importance degree normalized by the normalization unit and the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition unit is obtained for each acquired template. Second determining means for calculating and determining the bit rate for each moving image block using the predetermined bit rate assigned to each corresponding region of the template with a relatively small calculated error;
A bit rate determining apparatus comprising:
動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、
前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、
前記第1決定手段により決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、
前記端末装置からリクエストされた動画ブロックであって、前記第2決定手段により決定されたビットレートでエンコードされた前記動画ブロックを前記端末装置へ配信する配信手段と、
を備えることを特徴とするサーバ装置。 A server device accessible from a terminal device via a network,
Identifying means for identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
First determination means for determining the importance of the moving image block specified by the specifying means for each moving image block;
Based on the importance determined by the first determining means, the bit rates for encoding each of at least two of the plurality of moving image blocks are different from each other, and the divided The bit rate is determined for each moving image block so that the sum of the bit rates of the moving image blocks corresponding to each of the divided moving images of the divided moving images is equal to or less than a predetermined value. A determination means;
Distribution means for distributing the moving image block requested from the terminal device, the moving image block encoded at the bit rate determined by the second determining means to the terminal device;
A server device comprising:
前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、
前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段と、
前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化手段と、
前記正規化手段により正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、
前記端末装置からリクエストされた動画ブロックであって、前記第2決定手段により決定されたビットレートでエンコードされた前記動画ブロックを前記端末装置へ配信する配信手段と、
を備えることを特徴とするサーバ装置。 Identifying means for identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
First determination means for determining the importance of the moving image block specified by the specifying means for each moving image block;
The acquisition unit for acquiring a template having the same number of corresponding areas as the divided moving images, and a predetermined bit rate assigned to each corresponding area, wherein the predetermined bit rate is assigned to each corresponding area. Acquiring means for acquiring a plurality of templates different from each other;
Normalization means for normalizing the importance of the plurality of video blocks so that an average value of the importance of the plurality of video blocks becomes a reference bit rate;
An error between each importance degree normalized by the normalization unit and the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition unit is obtained for each acquired template. Second determining means for calculating and determining the bit rate for each moving image block using the predetermined bit rate assigned to each corresponding region of the template with a relatively small calculated error;
Distribution means for distributing the moving image block requested from the terminal device, the moving image block encoded at the bit rate determined by the second determining means to the terminal device;
A server device comprising:
動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成された複数の動画ブロックを特定する特定ステップと、
前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、
前記第1決定ステップにより決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、
を含むことを特徴とするビットレート決定方法。 A bit rate determination method executed by one or more computers, comprising:
A specific step of identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
A first determination step of determining the importance of the video block specified by the specifying step for each video block;
Based on the importance determined in the first determination step, a bit rate for encoding each of at least two of the plurality of video blocks is made different from each other, and the divided The bit rate is determined for each moving image block so that the sum of the bit rates of the moving image blocks corresponding to each of the divided moving images of the divided moving images is equal to or less than a predetermined value. A decision step;
A bit rate determination method comprising:
動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定ステップと、
前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、
前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得ステップであって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得ステップと、
前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化ステップと、
前記正規化ステップにより正規化された各前記重要度と、前記取得ステップにより取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、
を含むことを特徴とするビットレート決定方法。 A bit rate determination method executed by one or more computers, comprising:
A specific step of identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
A first determination step of determining the importance of the video block specified by the specifying step for each video block;
The acquisition step of acquiring a template having the same number of corresponding areas as the divided moving image, and a predetermined bit rate assigned to each of the corresponding areas, the allocation pattern of the predetermined bit rate to each of the corresponding areas Obtaining a plurality of the templates different from each other;
A normalizing step of normalizing the importance of the plurality of video blocks so that an average value of the importance of the plurality of video blocks becomes a reference bit rate;
An error between each importance level normalized by the normalization step and the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition step is calculated for each acquired template. A second determining step of calculating and determining the bit rate for each moving image block using the predetermined bit rate assigned to each corresponding region of the template with a relatively small calculated error;
A bit rate determination method comprising:
前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、
前記第1決定ステップにより決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、
をコンピュータに実行させることを特徴とするプログラム。 A specific step of identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
A first determination step of determining the importance of the video block specified by the specifying step for each video block;
Based on the importance determined in the first determination step, a bit rate for encoding each of at least two of the plurality of video blocks is made different from each other, and the divided The bit rate is determined for each moving image block so that the sum of the bit rates of the moving image blocks corresponding to each of the divided moving images of the divided moving images is equal to or less than a predetermined value. A decision step;
A program that causes a computer to execute.
前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、
前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得ステップであって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得ステップと、
前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化ステップと、
前記正規化ステップにより正規化された各前記重要度と、前記取得ステップにより取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、
をコンピュータに実行させることを特徴とするプログラム。 A specific step of identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
A first determination step of determining the importance of the video block specified by the specifying step for each video block;
The acquisition step of acquiring a template having the same number of corresponding areas as the divided moving image, and a predetermined bit rate assigned to each of the corresponding areas, the allocation pattern of the predetermined bit rate to each of the corresponding areas Obtaining a plurality of the templates different from each other;
A normalizing step of normalizing the importance of the plurality of video blocks so that an average value of the importance of the plurality of video blocks becomes a reference bit rate;
An error between each importance level normalized by the normalization step and the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition step is calculated for each acquired template. A second determining step of calculating and determining the bit rate for each moving image block using the predetermined bit rate assigned to each corresponding region of the template with a relatively small calculated error;
A program that causes a computer to execute.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015195100A JP6589526B2 (en) | 2015-09-30 | 2015-09-30 | Bit rate determination device, server device, bit rate determination method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015195100A JP6589526B2 (en) | 2015-09-30 | 2015-09-30 | Bit rate determination device, server device, bit rate determination method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017069845A true JP2017069845A (en) | 2017-04-06 |
JP6589526B2 JP6589526B2 (en) | 2019-10-16 |
Family
ID=58495399
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015195100A Active JP6589526B2 (en) | 2015-09-30 | 2015-09-30 | Bit rate determination device, server device, bit rate determination method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6589526B2 (en) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000253397A (en) * | 1999-03-01 | 2000-09-14 | Nec Corp | Moving picture encoding device |
JP2001346201A (en) * | 2000-03-27 | 2001-12-14 | Sony Corp | Image coder and its method, image decoder and its method, image recorder, image transmitter |
JP2014011622A (en) * | 2012-06-29 | 2014-01-20 | Brother Ind Ltd | Communication system, terminal device, moving image display method, and program |
US20140079126A1 (en) * | 2012-09-18 | 2014-03-20 | Vid Scale, Inc. | Method and Apparatus for Region of Interest Video Coding Using Tiles and Tile Groups |
JP2014183353A (en) * | 2013-03-18 | 2014-09-29 | Sony Corp | Video processing device, video reproducing device, video processing method, video reproduction method, and video processing system |
WO2014155919A1 (en) * | 2013-03-27 | 2014-10-02 | 日本電気株式会社 | Image encoding device, image encoding method and image encoding program |
-
2015
- 2015-09-30 JP JP2015195100A patent/JP6589526B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000253397A (en) * | 1999-03-01 | 2000-09-14 | Nec Corp | Moving picture encoding device |
JP2001346201A (en) * | 2000-03-27 | 2001-12-14 | Sony Corp | Image coder and its method, image decoder and its method, image recorder, image transmitter |
JP2014011622A (en) * | 2012-06-29 | 2014-01-20 | Brother Ind Ltd | Communication system, terminal device, moving image display method, and program |
US20140079126A1 (en) * | 2012-09-18 | 2014-03-20 | Vid Scale, Inc. | Method and Apparatus for Region of Interest Video Coding Using Tiles and Tile Groups |
JP2014183353A (en) * | 2013-03-18 | 2014-09-29 | Sony Corp | Video processing device, video reproducing device, video processing method, video reproduction method, and video processing system |
WO2014155919A1 (en) * | 2013-03-27 | 2014-10-02 | 日本電気株式会社 | Image encoding device, image encoding method and image encoding program |
Also Published As
Publication number | Publication date |
---|---|
JP6589526B2 (en) | 2019-10-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11902493B2 (en) | Methods and apparatus for processing content based on viewing information and/or communicating content | |
US11303881B2 (en) | Method and client for playing back panoramic video | |
CN111052750B (en) | Method and device for point cloud stream transmission | |
US10440407B2 (en) | Adaptive control for immersive experience delivery | |
US11653065B2 (en) | Content based stream splitting of video data | |
JP6410918B2 (en) | System and method for use in playback of panoramic video content | |
US9781356B1 (en) | Panoramic video viewer | |
US10750213B2 (en) | Methods and systems for customizing virtual reality data | |
TW201946463A (en) | Asynchronous time and space warp with determination of region of interest | |
JP6433559B1 (en) | Providing device, providing method, and program | |
JP2020512772A (en) | Method and apparatus for image processing to optimize image resolution and video streaming bandwidth for VR video | |
TW201501761A (en) | Improving rate control bit allocation for video streaming based on an attention area of a gamer | |
US10699749B2 (en) | Methods and systems for customizing virtual reality data | |
CN110996097B (en) | VR multimedia experience quality determination method and device | |
US11676330B2 (en) | 3d conversations in an artificial reality environment | |
US20200134780A1 (en) | Virtual reality cinema-immersive movie watching for headmounted displays | |
JP2014176017A (en) | Image reproduction apparatus, image distribution apparatus, image reproduction method, and image distribution method | |
JP6572368B2 (en) | Generating apparatus, generating method, and program | |
JP6589526B2 (en) | Bit rate determination device, server device, bit rate determination method, and program | |
JP6551107B2 (en) | Server apparatus, server program, terminal program, moving image transmission method, moving image display method, communication system | |
WO2022259632A1 (en) | Information processing device and information processing method | |
GB2566478A (en) | Probability based 360 degree video stabilisation | |
JP7259947B2 (en) | Video distribution device, video distribution method and program | |
CN116916028A (en) | Video stream scaling using virtual resolution adjustment | |
CN113316804A (en) | Image processing apparatus, image processing method, and program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180622 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190318 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190326 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190527 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190820 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190902 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6589526 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |