JP2017069845A - Bit rate determination device, server device, bit rate determination method, and program - Google Patents

Bit rate determination device, server device, bit rate determination method, and program Download PDF

Info

Publication number
JP2017069845A
JP2017069845A JP2015195100A JP2015195100A JP2017069845A JP 2017069845 A JP2017069845 A JP 2017069845A JP 2015195100 A JP2015195100 A JP 2015195100A JP 2015195100 A JP2015195100 A JP 2015195100A JP 2017069845 A JP2017069845 A JP 2017069845A
Authority
JP
Japan
Prior art keywords
bit rate
moving image
divided
importance
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015195100A
Other languages
Japanese (ja)
Other versions
JP6589526B2 (en
Inventor
建太郎 牛山
Kentaro Ushiyama
建太郎 牛山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Original Assignee
Brother Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd filed Critical Brother Industries Ltd
Priority to JP2015195100A priority Critical patent/JP6589526B2/en
Publication of JP2017069845A publication Critical patent/JP2017069845A/en
Application granted granted Critical
Publication of JP6589526B2 publication Critical patent/JP6589526B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide a bit rate determination device capable of improving the quality of a specific moving image block while stabilizing a bit rate during distribution of moving image blocks, a server device, a bit rate determination method and a program.SOLUTION: An encode server 1 identifies moving blocks Bn-m corresponding to divided moving images DMn and determines degrees of importance of the identified moving image blocks Bn-m for each of the moving image blocks Bn-m. Based on the determined degrees of importance, the encode server 1 then makes conversion bit rates different from each other for each of the moving images blocks Bn-m corresponding to each of the divided moving images in a part of the divided moving images DMn divided from an entire moving image M and determines the conversion bit rate for each of the moving image blocks Bn-m in such a manner that a total of the conversion bit rates for each moving image block Bn-m corresponding to each of the divided moving images DMn in a part of the divided moving images DMn divided from the entire moving image M becomes equal to or less than an upper limit value.SELECTED DRAWING: Figure 3

Description

本発明は、動画データをエンコードするときの適切なビットレートを決定するシステム等の技術分野に関する。   The present invention relates to a technical field such as a system for determining an appropriate bit rate when encoding moving image data.

従来、例えば特許文献1に開示されるように、撮影範囲全体を表示する動画を複数の表示領域に分割し、分割された分割動画それぞれを所定の時間単位で区切ることで生成された複数の動画ブロックを所定の固定ビットレートでエンコードして端末へ配信するシステムが知られている。   Conventionally, as disclosed in Patent Document 1, for example, a plurality of moving images generated by dividing a moving image displaying the entire shooting range into a plurality of display areas and dividing each divided divided moving image by a predetermined time unit A system is known in which blocks are encoded at a predetermined fixed bit rate and distributed to terminals.

特開2015−50572号公報Japanese Patent Laying-Open No. 2015-50572

ところで、可変ビットレートでエンコードされた動画ブロックをネットワークを通じて配信した場合、配信するときのビットレート(単位時間あたりに配信される動画ブロックのデータ量)が安定しないため、サービス品質を担保できない。そのため、ストリーミング配信サービスでは、動画ブロックをエンコードするために固定ビットレートが採用されている。しかしながら、固定ビットレートで動画ブロックをエンコードしたときの品質(画質)は、可変ビットレートで動画ブロックをエンコードしたときの品質よりも劣る。特に、分割動画の元になる全体の動画の複数の表示領域には、圧縮の効き易い表示領域(動きがあまりない領域)と、圧縮の効き難い表示領域(動きのある領域)とがあるが、圧縮の効き難い表示領域においては、顕著に品質が落ちてしまうという問題がある。また、全体の動画に、視聴者にとって重要な表示領域とそうでない表示領域とが含まれている場合、重要な表示領域の品質をそうでない表示領域の品質よりも向上させることができなかった。   By the way, when a moving image block encoded at a variable bit rate is distributed through a network, the bit rate (data amount of the moving image block distributed per unit time) at the time of distribution is not stable, so the service quality cannot be guaranteed. For this reason, in the streaming distribution service, a fixed bit rate is adopted to encode the moving image block. However, the quality (image quality) when a moving image block is encoded at a fixed bit rate is inferior to the quality when a moving image block is encoded at a variable bit rate. In particular, the plurality of display areas of the entire moving picture that is the basis of the divided moving pictures include a display area that is easy to compress (an area with little movement) and a display area that is difficult to compress (an area with movement). In the display area where compression is difficult to perform, there is a problem that the quality is significantly reduced. In addition, when the entire moving image includes a display area that is important for the viewer and a display area that is not so, the quality of the important display area cannot be improved more than the quality of the display area that is not so.

本発明は、以上の問題等に鑑みてなされたものであり、動画ブロックを配信するときのビットレートを安定化させつつ、特定の動画ブロックの品質を向上させることが可能なビットレート決定装置、サーバ装置、ビットレート決定方法、及びプログラムを提供する。   The present invention has been made in view of the above problems and the like, and a bit rate determination device capable of improving the quality of a specific moving image block while stabilizing the bit rate when distributing the moving image block, A server device, a bit rate determination method, and a program are provided.

上記課題を解決するために、請求項1に記載の発明は、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、前記第1決定手段により決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、を備えることを特徴とする。   In order to solve the above-mentioned problem, the invention according to claim 1 specifies a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas in predetermined time units. And a plurality of video blocks based on the importance determined by the first determination means, first determination means for determining the importance of the video block specified by the specifying means for each video block The video per one corresponding to each of some of the divided videos among the divided videos that have different bit rates when encoding each of at least two of the video blocks Second determining means for determining the bit rate for each moving image block so that the sum of the bit rates of the blocks is a predetermined value or less. And wherein the door.

請求項2に記載の発明は、請求項1に記載のビットレート決定装置において、前記分割された前記分割動画のうちの一部の分割動画を指定する指定手段を更に備え、前記第2決定手段は、前記指定手段により指定された分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートを互いに異ならせることを特徴とする。   According to a second aspect of the present invention, in the bit rate determining device according to the first aspect of the present invention, the bit rate determining device further includes a specifying unit that specifies a part of the divided moving images, and the second determining unit. Is characterized in that the bit rates of the moving image blocks corresponding to each of the divided moving images specified by the specifying means are different from each other.

請求項3に記載の発明は、請求項1または2に記載のビットレート決定装置において、前記第1決定手段は、前記動画ブロック毎の情報量を算出し、算出した情報量を前記重要度として決定することを特徴とする。   According to a third aspect of the present invention, in the bit rate determining device according to the first or second aspect, the first determining unit calculates an information amount for each moving image block, and uses the calculated information amount as the importance level. It is characterized by determining.

請求項4に記載の発明は、請求項1または2に記載のビットレート決定装置において、前記第1決定手段は、前記動画において操作者により指定された位置を含む前記動画ブロックの重要度を相対的に高く決定することを特徴とする。   According to a fourth aspect of the present invention, in the bit rate determining device according to the first or second aspect, the first determining unit relatively determines the importance of the moving image block including the position designated by the operator in the moving image. It is characterized by being determined highly.

請求項5に記載の発明は、請求項1乃至4の何れか一項に記載のビットレート決定装置において、前記動画を、面積が均等となる複数の表示領域に分割することで前記複数の分割動画を生成する生成手段を更に備えることを特徴とする。   According to a fifth aspect of the present invention, in the bit rate determination device according to any one of the first to fourth aspects, the moving image is divided into a plurality of display areas having an equal area. The image processing apparatus further includes generation means for generating a moving image.

請求項6に記載の発明は、請求項1乃至5の何れか一項に記載のビットレート決定装置において、前記第2決定手段は、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックを含むグループを複数生成し、前記生成された各前記グループにおいて、複数の前記動画ブロックの前記ビットレートがそれぞれの前記重要度に比例し、且つ、複数の前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定することを特徴とする。   According to a sixth aspect of the present invention, in the bit rate determining device according to any one of the first to fifth aspects, the second determining means includes a part of the divided moving images. A plurality of groups each including the video block corresponding to each of the group, and in each of the generated groups, the bit rate of the plurality of video blocks is proportional to the importance, and The bit rate is determined for each moving image block so that the sum of the bit rates of the plurality of moving image blocks is a predetermined value or less.

請求項7に記載の発明は、請求項6に記載のビットレート決定装置において、1つの前記グループに含まれる一部の前記動画ブロックは、他の1つの前記グループにも含まれ、前記第2決定手段は、1つの前記グループにおいて決定した前記一部の前記動画ブロックの前記ビットレートと、他の1つの前記グループにおいて決定した前記一部の前記動画ブロックの前記ビットレートのうち、相対的に小さいビットレートを、前記一部の前記動画ブロックの前記ビットレートとして最終決定することを特徴とする。   According to a seventh aspect of the present invention, in the bit rate determining device according to the sixth aspect, some of the moving image blocks included in one of the groups are also included in the other one of the groups, and the second The determining unit is configured to relatively compare the bit rate of the part of the moving image blocks determined in one group and the bit rate of the part of the moving image blocks determined in the other group. A small bit rate is finally determined as the bit rate of the part of the moving image blocks.

請求項8に記載の発明は、請求項1乃至5の何れか一項に記載のビットレート決定装置において、前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段を更に備え、前記第2決定手段は、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化し、前記正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定することを特徴とする。   According to an eighth aspect of the present invention, in the bit rate determination device according to any one of the first to fifth aspects, the same number of corresponding areas as the divided moving images are provided, and each of the corresponding areas has a predetermined bit rate. Is further provided with an acquisition means for acquiring a plurality of templates having different allocation patterns of the predetermined bit rate to the corresponding areas. The second determination means comprises: The importance of the plurality of video blocks is normalized so that the average value of the importance of the plurality of video blocks becomes a reference bit rate, and each of the normalized importance and the acquisition unit An error from the predetermined bit rate assigned to each corresponding area of the acquired template is calculated for each of the acquired templates. Difference by using the predetermined bit rate allocated to each of said corresponding regions of relatively small the template, and determines the bit rate for each of the video blocks.

請求項9に記載の発明は、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段と、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化手段と、前記正規化手段により正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、を備えることを特徴とする。   According to a ninth aspect of the present invention, a specifying means for specifying a plurality of moving image blocks generated by dividing a plurality of divided moving images obtained by dividing a moving image into a plurality of display areas by a predetermined time unit, and the specifying means specify First determination means for determining the importance of each moving image block for each moving image block, and a template having the same number of corresponding areas as the divided moving images, each of which is assigned a predetermined bit rate. Obtaining means for obtaining a plurality of the templates having different allocation patterns of the predetermined bit rate to the corresponding areas, and an average value of the importance levels of the plurality of video blocks is a reference Normalization means for normalizing the importance of the plurality of video blocks so that the bit rate becomes, the importance levels normalized by the normalization means, An error from the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition unit is calculated for each of the acquired templates, and the calculated error is relatively small for each template. And second determination means for determining the bit rate for each moving picture block using the predetermined bit rate assigned to the corresponding area.

請求項10に記載の発明は、端末装置からネットワークを介してアクセス可能なサーバ装置であって、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、前記第1決定手段により決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、前記端末装置からリクエストされた動画ブロックであって、前記第2決定手段により決定されたビットレートでエンコードされた前記動画ブロックを前記端末装置へ配信する配信手段と、を備えることを特徴とする。   The invention according to claim 10 is a server device that is accessible from a terminal device via a network, and is generated by dividing a plurality of divided moving images obtained by dividing a moving image into a plurality of display areas in predetermined time units. A specifying means for specifying a plurality of moving image blocks; a first determining means for determining the importance of the moving image block specified by the specifying means for each moving image block; and the importance determined by the first determining means. A bit rate for encoding each of at least two of the plurality of moving image blocks among the plurality of moving image blocks, and for each of the divided divided moving images of the divided divided moving images. The bit rate for each video block is set so that the sum of the bit rates of the corresponding video blocks per one or less corresponds to a predetermined value or less. Second determining means for determining a rate; and distribution means for distributing to the terminal device the moving image block requested from the terminal device and encoded at the bit rate determined by the second determining means. And.

請求項11に記載の発明は、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段と、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化手段と、前記正規化手段により正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、前記端末装置からリクエストされた動画ブロックであって、前記第2決定手段により決定されたビットレートでエンコードされた前記動画ブロックを前記端末装置へ配信する配信手段と、を備えることを特徴とする。   According to an eleventh aspect of the present invention, a specifying unit that specifies a plurality of moving image blocks generated by dividing a plurality of divided moving images obtained by dividing a moving image into a plurality of display areas by a predetermined time unit, and the specifying unit specify First determination means for determining the importance of each moving image block for each moving image block, and a template having the same number of corresponding areas as the divided moving images, each of which is assigned a predetermined bit rate. Obtaining means for obtaining a plurality of the templates having different allocation patterns of the predetermined bit rate to the corresponding areas, and an average value of the importance levels of the plurality of video blocks is a reference Normalization means for normalizing the importance of the plurality of video blocks so as to achieve a bit rate, and the importance levels normalized by the normalization means, An error from the predetermined bit rate assigned to each corresponding region of the template acquired by the acquisition unit is calculated for each of the acquired templates, and the calculated error is relatively small for each template. Second determination means for determining the bit rate for each moving image block using the predetermined bit rate assigned to the corresponding area; and a moving image block requested by the terminal device, wherein the second determination Distribution means for delivering the moving picture block encoded at the bit rate determined by the means to the terminal device.

請求項12に記載の発明は、1つ以上のコンピュータにより実行されるビットレート決定方法であって、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成された複数の動画ブロックを特定する特定ステップと、前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、前記第1決定ステップにより決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、を含むことを特徴とする。   The invention according to claim 12 is a bit rate determination method executed by one or more computers, and is generated by dividing a plurality of divided movies obtained by dividing a movie into a plurality of display areas in a predetermined time unit. A specifying step for specifying a plurality of moving image blocks, a first determining step for determining the importance of the moving image block specified by the specifying step for each moving image block, and the importance determined by the first determining step Each of at least two moving image blocks among the plurality of moving image blocks are encoded with different bit rates, and each of the divided divided moving images among the divided divided moving images. The moving image block so that the sum of the bit rates of the moving image blocks corresponding to the Characterized in that it comprises a second determination step of determining the bit rate for each click, a.

請求項13に記載の発明は、1つ以上のコンピュータにより実行されるビットレート決定方法であって、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定ステップと、前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得ステップであって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得ステップと、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化ステップと、前記正規化ステップにより正規化された各前記重要度と、前記取得ステップにより取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、を含むことを特徴とする。   The invention according to claim 13 is a bit rate determination method executed by one or more computers, and is generated by dividing a plurality of divided movies obtained by dividing a movie into a plurality of display areas in a predetermined time unit. A specific step of identifying a plurality of video blocks, a first determination step of determining the importance of the video block identified by the identifying step for each video block, and the same number of corresponding areas as the divided video, An acquisition step of acquiring a template in which a predetermined bit rate is assigned to each of the corresponding areas, and acquiring a plurality of templates having different allocation patterns of the predetermined bit rate to the corresponding areas. And the plurality of moving images so that the average value of the importance levels of the plurality of moving image blocks becomes a reference bit rate. A normalizing step for normalizing the importance of the lock; each of the importance normalized by the normalizing step; and the predetermined bits assigned to the corresponding areas of the template acquired by the acquiring step An error with a rate is calculated for each of the acquired templates, and the predetermined bit rate assigned to each corresponding region of the template with the calculated error being relatively small, is used for each moving image block. And a second determination step for determining a bit rate.

請求項14に記載の発明は、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定ステップと、前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、前記第1決定ステップにより決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、をコンピュータに実行させることを特徴とする。   According to a fourteenth aspect of the present invention, a specifying step for specifying a plurality of moving image blocks generated by dividing a plurality of divided moving images obtained by dividing a moving image into a plurality of display areas by a predetermined time unit, and specifying by the specifying step A first determining step for determining the importance of the moving image block for each moving image block; and at least two of the plurality of moving image blocks based on the importance determined by the first determining step The bit rates for encoding each of the video blocks are different from each other, and the sum of the bit rates of the video blocks corresponding to each of the partial videos of the divided video is divided. A second determining step of determining the bit rate for each moving image block so as to be less than or equal to a predetermined value. Characterized in that to execute the.

請求項15に記載の発明は、動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定ステップと、前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得ステップであって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得ステップと、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化ステップと、前記正規化ステップにより正規化された各前記重要度と、前記取得ステップにより取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、をコンピュータに実行させることを特徴とする。   According to a fifteenth aspect of the present invention, a specifying step for specifying a plurality of moving image blocks generated by dividing a plurality of divided moving images obtained by dividing a moving image into a plurality of display areas by a predetermined time unit, and specifying by the specifying step A first determination step for determining the importance of each moving image block for each moving image block, and obtaining a template having the same number of corresponding areas as the divided moving images, each of which is assigned a predetermined bit rate. An acquisition step of acquiring a plurality of templates having different allocation patterns of the predetermined bit rate to each of the corresponding areas, and an average value of importance of the plurality of video blocks is a reference A normalizing step for normalizing the importance of the plurality of video blocks so as to obtain a bit rate, and the normalizing step. An error between each normalized degree of importance and the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition step is calculated for each of the acquired templates. Causing the computer to execute a second determination step of determining the bit rate for each moving image block using the predetermined bit rate assigned to each of the corresponding areas of the template having a relatively small error. Features.

請求項1、2、9〜15に記載の発明によれば、動画ブロックを配信するときのビットレートを安定化させつつ、特定の動画ブロックの品質を向上させることができる。   According to the first, second, and ninth to fifteenth aspects, it is possible to improve the quality of a specific moving image block while stabilizing the bit rate when distributing the moving image block.

請求項3に記載の発明によれば、迅速かつ定量的に、全ての動画ブロックの重要度を決定することができる。   According to the third aspect of the present invention, the importance of all moving image blocks can be determined quickly and quantitatively.

請求項4に記載の発明によれば、ユーザの嗜好が、より反映された重要度を決定することができる。   According to the invention described in claim 4, it is possible to determine the importance that the user's preference is more reflected.

請求項5に記載の発明によれば、表示領域の取り方を簡単にすることができ、迅速にグループ化することができる。   According to the fifth aspect of the present invention, it is possible to simplify the display area and to quickly group the display areas.

請求項6、7に記載の発明によれば、各動画ブロックにおいて、どのようなビットレートのパターンであっても、より柔軟に決定することができる。   According to the sixth and seventh aspects of the present invention, any bit rate pattern can be determined more flexibly in each moving image block.

請求項8に記載の発明によれば、各動画ブロックをエンコードするときのビットレートを迅速に決定することができる。   According to the eighth aspect of the present invention, the bit rate for encoding each moving picture block can be determined quickly.

本実施形態に係る配信システムSの概要構成例を示す図である。It is a figure showing an example of outline composition of distribution system S concerning this embodiment. (A)は、全体動画M、分割動画DMn、及び動画ブロックBn-mを示す概念図であり、(B)は、動画ブロックBn-1の重要度に基づいて決定された変換ビットレートの一例を示す概念図である。(A) is a conceptual diagram showing an entire moving image M, a divided moving image DMn, and a moving image block Bn-m, and (B) is an example of a conversion bit rate determined based on the importance of the moving image block Bn-1. FIG. 実施例1におけるエンコード処理の一例を示すフローチャートである。6 is a flowchart illustrating an example of an encoding process according to the first exemplary embodiment. 1つのグループにおける表示領域が「2×2」の場合の一例を示す概念図である。It is a conceptual diagram which shows an example in case the display area in one group is "2x2". (A)は、動画ブロックBn-1の重要度の一例を示す概念図であり、図5(B)は、5番目のグループG5-1に属する動画ブロックB6-1,B7-1,B10-1,B11-1のそれぞれの重要度に基づいて決定された変換ビットレートの一例を示す概念図である。(A) is a conceptual diagram showing an example of the importance of the moving image block Bn-1, and FIG. 5 (B) shows moving image blocks B6-1, B7-1, B10- belonging to the fifth group G5-1. It is a conceptual diagram which shows an example of the conversion bit rate determined based on each importance of 1 and B11-1. 実施例2におけるエンコード処理の一例を示すフローチャートである。12 is a flowchart illustrating an example of an encoding process according to the second embodiment. 正規化された変換ビットレートが各対応領域に割り当てられたテンプレート例を示す図である。It is a figure which shows the example of a template with which the normalized conversion bit rate was allocated to each corresponding area. (A)は、動画ブロックBn-1の重要度の一例を示す概念図であり、(B)は、動画ブロックBn-1の重要度の平均値が0.5Mbpsになるように正規化されたときの例を示す概念図である。(A) is a conceptual diagram showing an example of the importance level of the video block Bn-1, and (B) is normalized so that the average value of the importance level of the video block Bn-1 is 0.5 Mbps. It is a conceptual diagram which shows the example of time.

以下、本発明の実施形態を図面に基づいて説明する。なお、以下に説明する実施の形態は、配信システムに対して本発明を適用した場合の実施形態である。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. The embodiment described below is an embodiment when the present invention is applied to a distribution system.

[1.配信システムSの構成及び動作概要]
初めに、図1を参照して、本実施形態に係る配信システムSの構成及び動作概要について説明する。図1は、本実施形態に係る配信システムSの概要構成例を示す図である。図1に示すように、配信システムSは、エンコードサーバ1、配信サーバ2、及びクライアント端末3を含んで構成される。エンコードサーバ1は、本発明のビットレート決定装置の一例である。エンコードサーバ1、配信サーバ2、及びクライアント端末3は、ネットワークNWに接続される。ネットワークNWは、例えば、インターネット等により構成される。
[1. Outline of Configuration and Operation of Distribution System S]
First, with reference to FIG. 1, the structure and operation | movement outline | summary of the delivery system S concerning this embodiment are demonstrated. FIG. 1 is a diagram illustrating a schematic configuration example of a distribution system S according to the present embodiment. As shown in FIG. 1, the distribution system S includes an encoding server 1, a distribution server 2, and a client terminal 3. The encoding server 1 is an example of a bit rate determination device according to the present invention. The encoding server 1, the distribution server 2, and the client terminal 3 are connected to the network NW. The network NW is configured by, for example, the Internet.

エンコードサーバ1は、ビデオカメラ(図示せず)により撮影された動画のデータと、動画の撮影に同期してマイクロフォン(図示せず)により集音された音声のデータとを含むコンテンツを外部機器から取得する。例えば、エンコードサーバ1には、有線または無線を介して、ビデオカメラ及びマイクロフォンが接続されており、ビデオカメラから動画のデータを、マイクロフォンから音声のデータをそれぞれ取得する。本実施形態では、ビデオカメラにより撮影された動画を例にとり、撮影範囲全体を表示する動画を、以下、「全体動画」というものとする。なお、ビデオカメラにより撮影された動画以外の、例えばCGやアニメーション等、動作作成ソフトウェアにより作成された動画を全体動画としてもよい。また、複数のビデオカメラのそれぞれにより撮影された動画を合成した動画を全体動画としてもよい。   The encoding server 1 receives content including data of moving images taken by a video camera (not shown) and audio data collected by a microphone (not shown) in synchronization with the shooting of moving images from an external device. get. For example, a video camera and a microphone are connected to the encoding server 1 via wired or wireless, and moving image data is acquired from the video camera and audio data is acquired from the microphone. In this embodiment, taking a moving image shot by a video camera as an example, a moving image that displays the entire shooting range is referred to as an “overall moving image”. In addition, a moving image created by motion creation software such as CG or animation other than a moving image shot by a video camera may be used as the entire moving image. A moving image obtained by combining moving images shot by each of a plurality of video cameras may be used as the entire moving image.

エンコードサーバ1は、全体動画Mを複数の表示領域に分割した複数の分割動画DMn(n=1,2,3・・・)を所定の時間単位Tで区切ることで複数の動画ブロックBn-m(m=1,2,3・・・)を生成する。図2は、エンコードサーバ1により生成された動画ブロックの一例を示す図である。図2の例では、全体動画Mが4×4の分割動画DMn(この例では、n=1〜16)に分割され、且つ再生時間軸tにおいて時間単位Tで区切られることで複数の動画ブロックBn-mが分割動画DMn毎に生成されている。エンコードサーバ1は、生成された動画ブロックBn-mを、後述するように決定したビットレートでエンコードする。動画ブロックBn-mをエンコードするときのビットレートを、以下「変換ビットレート」という。また、動画ブロックBn-mを配信するときのビットレートを、以下「配信ビットレート」という。なお、エンコードサーバ1は、分割動画DMnを所定の時間単位Tで区切りつつ上記変換ビットレートでエンコードすることで複数の動画ブロックBn-mを生成してもよい。ここで、変換ビットレートは、単位時間あたりにエンコードされる動画ブロックのデータ量(サイズ)である。言い換えれば、変換ビットレートは、単位時間あたり何ビットくらいのサイズでエンコードするかを示すパラメータである。また、エンコードとは、一般に、予め定められた規則に従って、データを符号に変換(符号化)することをいい、さらに、例えばMPEG等の圧縮方式でデータを圧縮することを含む場合もある。   The encoding server 1 divides a plurality of divided moving images DMn (n = 1, 2, 3...) Obtained by dividing the entire moving image M into a plurality of display areas by a predetermined time unit T, thereby a plurality of moving image blocks Bn-m. (M = 1,2,3...) Is generated. FIG. 2 is a diagram illustrating an example of a moving image block generated by the encoding server 1. In the example of FIG. 2, the entire moving image M is divided into 4 × 4 divided moving images DMn (in this example, n = 1 to 16), and is divided into time units T on the reproduction time axis t, so that a plurality of moving image blocks is obtained. Bn-m is generated for each divided video DMn. The encoding server 1 encodes the generated moving image block Bn-m at a bit rate determined as described later. The bit rate for encoding the video block Bn-m is hereinafter referred to as “conversion bit rate”. Further, the bit rate for distributing the moving image block Bn-m is hereinafter referred to as “distribution bit rate”. Note that the encoding server 1 may generate a plurality of moving image blocks Bn-m by encoding the divided moving images DMn at the conversion bit rate while dividing the divided moving images DMn by a predetermined time unit T. Here, the conversion bit rate is the data amount (size) of the moving image block encoded per unit time. In other words, the conversion bit rate is a parameter indicating how many bits per unit time to encode. In addition, encoding generally refers to converting (encoding) data into a code in accordance with a predetermined rule, and may further include compressing data using a compression method such as MPEG.

配信サーバ2は、クライアント端末3からリクエストされた動画ブロックBn-mであってエンコードサーバ1によりエンコードされた動画ブロックBn-mを含むコンテンツをクライアント端末3へ送信する。コンテンツの送信は、例えば、ネットワークNWを介してストリーミング配信により行われる。クライアント端末3は、ユーザ操作に応じて、全体動画Mにおいて表示画面における表示範囲に表示される表示領域(少なくとも一部の表示領域)を含む分割動画DMnに対応する動画ブロックBn-mだけを配信サーバ2へリクエストする。つまり、全体動画Mにおいて表示画面に表示される表示領域を含まない分割動画DMnに対応する動画ブロックBn-mはリクエストされない。クライアント端末3は、配信サーバ2から送信されたコンテンツを受信し、受信されたコンテンツに含まれる動画ブロックBn-mをデコードして分割動画DMnを再生する。   The distribution server 2 transmits to the client terminal 3 content including the moving image block Bn-m requested from the client terminal 3 and including the moving image block Bn-m encoded by the encoding server 1. The content is transmitted by streaming distribution via the network NW, for example. The client terminal 3 delivers only the video block Bn-m corresponding to the divided video DMn including the display area (at least a part of the display area) displayed in the display range on the display screen in the entire video M according to the user operation. Request to server 2. That is, the moving image block Bn-m corresponding to the divided moving image DMn that does not include the display area displayed on the display screen in the entire moving image M is not requested. The client terminal 3 receives the content transmitted from the distribution server 2, decodes the moving image block Bn-m included in the received content, and reproduces the divided moving image DMn.

[2.各装置の構成及び機能]
次に、図1を参照して、本実施形態の配信システムSに含まれる各装置の構成について説明する。エンコードサーバ1は、図1に示すように、制御部11、記憶部12、通信部13、及びインターフェース部14等を備えて構成される。これらの構成要素は、バス15に接続されている。インターフェース部14は、例えばビデオカメラ及びマイクロフォンが接続される。通信部13は、ネットワークNWに接続される。記憶部12は、例えばハードディスクドライブ等からなり、OS(オペレーティングシステム)、及びエンコード処理プログラム(本発明のプログラムの一例)等を記憶する。エンコード処理プログラムは、コンピュータとしての制御部11に、エンコード処理等を実行させるプログラムである。エンコード処理プログラムは、所定のサーバからダウンロードされてもよいし、CD、DVD等の記録媒体に記憶されて提供されてもよい。また、記憶部12には、外部機器から取得された全体動画Mのデータと、音声のデータとを含むコンテンツが記憶される。
[2. Configuration and function of each device]
Next, the configuration of each device included in the distribution system S of the present embodiment will be described with reference to FIG. As shown in FIG. 1, the encoding server 1 includes a control unit 11, a storage unit 12, a communication unit 13, an interface unit 14, and the like. These components are connected to the bus 15. For example, a video camera and a microphone are connected to the interface unit 14. The communication unit 13 is connected to the network NW. The storage unit 12 includes, for example, a hard disk drive and stores an OS (Operating System), an encoding process program (an example of the program of the present invention), and the like. The encoding processing program is a program that causes the control unit 11 as a computer to execute encoding processing and the like. The encoding processing program may be downloaded from a predetermined server, or may be provided by being stored in a recording medium such as a CD or a DVD. In addition, the storage unit 12 stores content including data of the entire moving image M acquired from the external device and audio data.

制御部11は、CPU(Central Processing Unit)、ROM(Read Only Memory)、及びRAM(Random Access Memory)等により構成される。制御部11は、エンコード処理プログラムにしたがって、エンコード処理を実行する。このエンコード処理において、制御部11は、本発明の特定手段、指定手段、第1決定手段、第2決定手段、取得手段、正規化手段として機能する。具体的には、先ず、制御部11は、上記全体動画Mを複数の表示領域に分割して複数の分割動画DMnを生成する。図2(A)は、全体動画M、分割動画DMn、及び動画ブロックBn-mを示す概念図である。例えば、制御部11は、図2(A)に示すように、全体動画Mを面積が均等となる複数の表示領域に分割することで複数の分割動画DMnを生成する。そして、制御部11は、分割された分割動画DMnのそれぞれを所定の時間単位T(例えば、10秒)で区切ることで、分割動画DMn毎に複数の動画ブロックBn-mを生成する。なお、制御部11は、エンコードサーバ1とは異なる装置により生成された分割動画DMn毎の複数の動画ブロックBn-mを取得してもよい。   The control unit 11 includes a CPU (Central Processing Unit), a ROM (Read Only Memory), a RAM (Random Access Memory), and the like. The control unit 11 executes encoding processing according to the encoding processing program. In this encoding process, the control unit 11 functions as a specifying unit, a specifying unit, a first determining unit, a second determining unit, an acquiring unit, and a normalizing unit of the present invention. Specifically, first, the control unit 11 divides the entire moving image M into a plurality of display areas to generate a plurality of divided moving images DMn. FIG. 2A is a conceptual diagram showing an entire moving image M, a divided moving image DMn, and a moving image block Bn-m. For example, as illustrated in FIG. 2A, the control unit 11 divides the entire moving image M into a plurality of display areas having an equal area, thereby generating a plurality of divided moving images DMn. Then, the control unit 11 divides each of the divided divided moving images DMn by a predetermined time unit T (for example, 10 seconds), thereby generating a plurality of moving image blocks Bn-m for each divided moving image DMn. Note that the control unit 11 may acquire a plurality of moving image blocks Bn-m for each divided moving image DMn generated by a device different from the encoding server 1.

また、制御部11は、分割された分割動画DMnのそれぞれに対応する動画ブロックBn-mを特定し、特定した動画ブロックBn-mの重要度を動画ブロックBn-m毎に決定する。ここで、動画ブロックBn-mの重要度は、全体動画の一部領域を見る視聴者、全体動画Mの撮影者、または全体動画Mの編集者等から見た重要性(言い換えれば、注目度や興味度)などを考慮して定義される相対的な数値である。例えば、制御部11は、動画ブロックBn-mの情報量を動画ブロックBn-m毎に算出し、算出した情報量を動画ブロックBn-mの重要度として動画ブロックBn-m毎に決定する。情報量は、データの複雑さを定量的に表す。例えば、動画を構成する画素色が多いほど情報量が大きい。また、動きが激しい動画ほど情報量が大きく、視聴者等に注目される。これは、動きが激しい動画ほど、その動画を構成する画素の色情報(色調や階調)の単位時間あたりの変化が大きいからである。動きが激しい動画は、そうでない動画に比べて圧縮され難い(言い換えれば、エンコード後のデータのサイズが小さくなり難い)。この例では、情報量が大きい動画ブロックBn-mを、重要度が高い動画ブロックBn-mと見做すのである。情報量の一例として、動画ブロックBn-mをエンコードしたデータのサイズ(ファイルサイズ)が挙げられる。この場合、制御部11は、動画ブロックBn-mを所定のパラメータ(変換ビットレート)でエンコードし、そのファイルサイズを、動画ブロックBn-mの情報量として用いる。これにより、迅速かつ定量的に、全ての動画ブロックの重要度を決定することができる。   Further, the control unit 11 specifies the moving image block Bn-m corresponding to each of the divided divided moving images DMn, and determines the importance of the specified moving image block Bn-m for each moving image block Bn-m. Here, the importance of the video block Bn-m is the importance as viewed from a viewer who views a partial area of the entire video, the photographer of the entire video M, or the editor of the entire video M (in other words, the degree of attention Relative degree of interest). For example, the control unit 11 calculates the information amount of the moving image block Bn-m for each moving image block Bn-m, and determines the calculated information amount for each moving image block Bn-m as the importance level of the moving image block Bn-m. The amount of information quantitatively represents the complexity of the data. For example, the amount of information increases as the number of pixel colors constituting the moving image increases. In addition, a moving picture with more movement has a larger amount of information and is attracting attention from viewers and the like. This is because a moving image with more motion has a larger change per unit time of color information (color tone and gradation) of pixels constituting the moving image. A moving picture is harder to compress than a moving picture (in other words, the size of encoded data is less likely to be smaller). In this example, a moving image block Bn-m having a large amount of information is regarded as a moving image block Bn-m having a high degree of importance. As an example of the information amount, there is a data size (file size) obtained by encoding the moving image block Bn-m. In this case, the control unit 11 encodes the moving image block Bn-m with a predetermined parameter (conversion bit rate), and uses the file size as the information amount of the moving image block Bn-m. Thereby, the importance of all the moving image blocks can be determined quickly and quantitatively.

別の例として、制御部11は、全体動画においてユーザ(操作者)により指定された位置を含む動画ブロックBn-mの重要度を相対的に高く決定してもよい。ここで、ユーザの例として、上述した視聴者(つまり、クライアント端末3のユーザ)、撮影者、編集者等が挙げられる。例えば、制御部11は、全体動画Mの少なくとも一部領域が端末の表示画面に表示された状態でユーザにより指定された位置(例えば、全体動画の画像フレーム上の座標位置)を示す位置情報を取得する。そして、制御部11は、取得した位置情報が示す位置を含む動画ブロックBn-mを特定し、特定した動画ブロックBn-mの重要度を他の動画ブロックBn-m(この位置を含まない分割動画に対応する動画ブロックBn-m)よりも高く決定する。これにより、ユーザの嗜好が、より反映された上記重要度を決定することができる。なお、例えば撮影者が撮影前に判断して適当な数値を動画ブロック毎に割り振り、制御部11は、割り振られた各数値を各動画ブロックの重要度として決定してもよい。   As another example, the control unit 11 may determine the importance of the moving image block Bn-m including the position designated by the user (operator) in the entire moving image to be relatively high. Here, examples of the user include the above-described viewer (that is, the user of the client terminal 3), a photographer, an editor, and the like. For example, the control unit 11 obtains position information indicating a position (for example, a coordinate position on an image frame of the entire moving image) designated by the user in a state where at least a partial area of the entire moving image M is displayed on the display screen of the terminal. get. Then, the control unit 11 identifies the moving image block Bn-m including the position indicated by the acquired position information, and assigns the importance of the identified moving image block Bn-m to another moving image block Bn-m (a division not including this position). It is determined to be higher than the video block Bn-m) corresponding to the video. Thereby, the said importance in which a user preference was reflected more can be determined. For example, the photographer may determine before shooting and assign an appropriate numerical value to each moving image block, and the control unit 11 may determine each assigned numerical value as the importance of each moving image block.

また、制御部11は、決定された重要度に基づいて、全体動画Mから分割された分割動画DMn(例えば、DM1〜DM16)のうちの一部の分割動画DMn(例えば、DM6及びDM10)のそれぞれに対応する1つあたりの動画ブロックBn-m(例えば、B6-1及びB10-1)をエンコードするときの変換ビットレートを互いに異ならせ、且つ、全体動画Mから分割された分割動画DMnのうちの一部の分割動画DMn(例えば、DM6,DM7,DM10及びDM11)のそれぞれに対応する1つあたりの動画ブロックBn-m(例えば、B6-1,B7-1,B10-1及びB11-1)エンコードするときの変換ビットレートの合計が、上限値(所定値の一例)以下になるように、動画ブロックBn-m毎に変換ビットレートを決定する。ここで、上限値とは、例えばネットワークNWの帯域幅等のネットワーク環境に応じて決定される許容値であり、例えば、2Mbps程度に設定される。   In addition, the control unit 11 determines a part of the divided moving images DMn (for example, DM6 and DM10) among the divided moving images DMn (for example, DM1 to DM16) divided from the entire moving image M based on the determined importance. Each of the video blocks Bn-m (for example, B6-1 and B10-1) corresponding to each of the divided video DMn divided from the whole video M with different conversion bit rates when encoding each other One video block Bn-m (for example, B6-1, B7-1, B10-1, and B11-) corresponding to each of some of the divided videos DMn (for example, DM6, DM7, DM10, and DM11). 1) The conversion bit rate is determined for each moving image block Bn-m so that the total conversion bit rate when encoding is equal to or less than the upper limit (an example of a predetermined value). Here, the upper limit value is an allowable value determined according to the network environment such as the bandwidth of the network NW, for example, and is set to about 2 Mbps, for example.

図2(B)は、動画ブロックBn-1の重要度に基づいて決定された変換ビットレートの一例を示す概念図である。図2(B)の例では、重要度が相対的に大きい動画ブロックB9-1,B10-1,B11-1及びB12-1の変換ビットレートが上げられ、その代わりに、重要度が相対的に大きい動画ブロックB9-1,B10-1,B11-1,B12-1の周りに位置する動画ブロックB5-1,B6-1,B7-1,B8-1,B13-1,B14-1,B15-1及びB16-1の変換ビットレートが下げられている。これにより、隣り合う動画ブロック同士で合計ビットレートが、上限値以下となるように、変換ビットレートを融通し合うことができる。つまり、重要度が相対的に大きい動画ブロックは、隣り合うブロックの中で重要度が小さい動画ブロックから変換ビットレートを融通してもらうことができる。そして、制御部11は、決定された変換ビットレートで動画ブロックBn-mをエンコードする。エンコードされた動画ブロックBn-mは、コンテンツの一部として、元になった全体動画Mのデータに代えて、または元になった全体動画Mのデータに対応付けられて記憶部12に記憶される。   FIG. 2B is a conceptual diagram illustrating an example of the conversion bit rate determined based on the importance of the moving image block Bn-1. In the example of FIG. 2B, the conversion bit rates of the video blocks B9-1, B10-1, B11-1 and B12-1 having a relatively high importance are increased, and instead, the importance is relative. Video blocks B5-1, B6-1, B7-1, B8-1, B13-1, B14-1, located around the video blocks B9-1, B10-1, B11-1, B12-1 The conversion bit rates of B15-1 and B16-1 are lowered. As a result, the conversion bit rate can be interchanged so that the total bit rate between the adjacent moving image blocks is equal to or less than the upper limit value. That is, a moving image block having a relatively high importance can have a conversion bit rate interchanged from a moving image block having a low importance among adjacent blocks. Then, the control unit 11 encodes the moving image block Bn-m at the determined conversion bit rate. The encoded moving image block Bn-m is stored in the storage unit 12 as a part of the content, instead of the original whole moving image M data or in association with the original whole moving image M data. The

次に、配信サーバ2は、図1に示すように、制御部21、記憶部22、及び通信部23等を備えて構成される。これらの構成要素は、バス24に接続されている。通信部23は、ネットワークNWに接続される。記憶部22は、例えばハードディスクドライブ等からなり、OS、及びコンテンツ配信処理プログラム等を記憶する。コンテンツ配信処理プログラムは、制御部21に、コンテンツ配信処理等を実行させるプログラムである。また、記憶部22には、例えば、エンコードサーバ1によりエンコードされた動画ブロックBn-mと、音声のデータとを含むコンテンツが記憶される。制御部21は、CPU、ROM、及びRAM等により構成される。制御部21は、コンテンツ配信処理プログラムにしたがって、コンテンツ配信処理を実行する。このコンテンツ配信処理において、制御部21は、上述したように、クライアント端末3からのリクエストに応じて、エンコードされた動画ブロックBn-mと音声のデータとを含むコンテンツをクライアント端末3へ送信する。   Next, as shown in FIG. 1, the distribution server 2 includes a control unit 21, a storage unit 22, a communication unit 23, and the like. These components are connected to the bus 24. The communication unit 23 is connected to the network NW. The storage unit 22 includes, for example, a hard disk drive and stores an OS, a content distribution processing program, and the like. The content distribution processing program is a program that causes the control unit 21 to execute content distribution processing and the like. In addition, the storage unit 22 stores, for example, content including the moving image block Bn-m encoded by the encoding server 1 and audio data. The control unit 21 includes a CPU, a ROM, a RAM, and the like. The control unit 21 executes content distribution processing according to the content distribution processing program. In this content distribution process, the control unit 21 transmits the content including the encoded moving image block Bn-m and audio data to the client terminal 3 in response to a request from the client terminal 3 as described above.

次に、クライアント端末3は、図1に示すように、制御部31、記憶部32、ビデオRAM33、映像処理部34、音声処理部35、操作処理部36、及び通信部37等を備えて構成される。これらの構成要素は、バス38に接続されている。映像処理部34には、表示部34aが接続される。表示部34aには表示画面が表示される。音声処理部35には、スピーカ35aが接続される。操作処理部36には、操作部36aが接続される。操作部36aには、例えば、マウス、キーボード、リモコン等がある。なお、表示部34aと操作部36aとを兼ねるタッチパネルが適用されてもよい。通信部37は、ネットワークNWに接続される。記憶部32は、例えばハードディスクドライブ等からなり、OS、及びコンテンツ再生処理プログラム等を記憶する。コンテンツ再生処理プログラムは、コンテンツ再生処理等を制御部31に実行させるプログラムである。制御部31は、CPU、ROM、及びRAM等により構成される。制御部31は、コンテンツ再生処理プログラムにしたがって、コンテンツ再生処理を実行する。このコンテンツ再生処理において、制御部31は、ユーザ操作に応じて全体動画M内で表示される表示範囲(つまり、表示画面における表示範囲)を特定し、特定した表示範囲を含む分割動画DMnに対応する動画ブロックBn-mを配信サーバ2へリクエストする。これにより、配信サーバ2から送信された動画ブロックBn-mを含むコンテンツが受信され、受信されたコンテンツは、例えばRAMに設けられたバッファメモリに一時的に保持される。そして、制御部31は、バッファメモリに保持されている動画ブロックBn-mをデコードして分割動画DMnを再生し、ビデオRAM33へ出力する。映像処理部34は、制御部31からの制御信号に従って、ビデオRAM33に書き込まれた分割動画DMnのうち表示画面に収まる表示範囲の動画を表示画面に表示させる。なお、バッファメモリに保持されているコンテンツに音声のデータが含まれる場合、音声処理部35は、制御部31からの制御信号に従って、音声のデータからアナログ音声信号を生成し、生成したアナログ音声信号をスピーカ35aへ出力する。   Next, as shown in FIG. 1, the client terminal 3 includes a control unit 31, a storage unit 32, a video RAM 33, a video processing unit 34, an audio processing unit 35, an operation processing unit 36, a communication unit 37, and the like. Is done. These components are connected to the bus 38. A display unit 34 a is connected to the video processing unit 34. A display screen is displayed on the display unit 34a. A speaker 35 a is connected to the sound processing unit 35. An operation unit 36 a is connected to the operation processing unit 36. Examples of the operation unit 36a include a mouse, a keyboard, and a remote controller. A touch panel that serves as both the display unit 34a and the operation unit 36a may be applied. The communication unit 37 is connected to the network NW. The storage unit 32 includes, for example, a hard disk drive and stores an OS, a content reproduction processing program, and the like. The content reproduction processing program is a program that causes the control unit 31 to execute content reproduction processing or the like. The control unit 31 includes a CPU, a ROM, a RAM, and the like. The control unit 31 executes content reproduction processing according to the content reproduction processing program. In this content reproduction process, the control unit 31 specifies a display range (that is, a display range on the display screen) displayed in the entire moving image M in response to a user operation, and corresponds to the divided moving image DMn including the specified display range. The distribution server 2 is requested for a moving image block Bn-m. Thereby, the content including the moving image block Bn-m transmitted from the distribution server 2 is received, and the received content is temporarily held in a buffer memory provided in, for example, a RAM. Then, the control unit 31 decodes the moving image block Bn-m held in the buffer memory, reproduces the divided moving image DMn, and outputs it to the video RAM 33. In accordance with a control signal from the control unit 31, the video processing unit 34 displays a moving image having a display range that fits on the display screen among the divided moving images DMn written in the video RAM 33. When audio data is included in the content held in the buffer memory, the audio processing unit 35 generates an analog audio signal from the audio data according to the control signal from the control unit 31, and generates the generated analog audio signal. Is output to the speaker 35a.

なお、全体動画M内で表示される表示範囲は、疑似的なカメラワークの操作(ユーザ操作の一例)により動作する仮想カメラの撮影範囲として特定される。疑似的なカメラワークの操作により、特定される表示範囲が変化し、この変化に追従して動画ブロックBn-mが配信サーバ2へリクエストされることになる。疑似的なカメラワークの操作には、例えば、仮想カメラを左右振りさせるパン操作、仮想カメラを上下振りさせるチルト操作、及び仮想カメラの画角を変化させるズーム操作がある。ここで、仮想カメラとは、二次元平面または三次元仮想空間における仮想スクリーンに投影される動画に対して仮想的に設定された視点をいう。パン及びチルト操作は、例えば、ユーザによるマウスのドラッグ操作や、ユーザによる指やペン等によるフリック操作により実現される。ズーム操作は、例えば、ユーザがマウス等の操作部に設けられたボタン、或いはユーザの指2本で表示画面をピンチするピンチ操作により実現される。   Note that the display range displayed in the entire moving image M is specified as a shooting range of a virtual camera that operates by a pseudo camerawork operation (an example of a user operation). The specified display range is changed by the pseudo camera work operation, and the moving image block Bn-m is requested to the distribution server 2 following the change. The pseudo camera work operation includes, for example, a pan operation for swinging the virtual camera left and right, a tilt operation for swinging the virtual camera up and down, and a zoom operation for changing the angle of view of the virtual camera. Here, the virtual camera refers to a viewpoint virtually set for a moving image projected on a virtual screen in a two-dimensional plane or a three-dimensional virtual space. The pan and tilt operations are realized by, for example, a mouse drag operation by the user or a flick operation by the user with a finger or a pen. The zoom operation is realized by, for example, a pinch operation in which the user pinches the display screen with a button provided on an operation unit such as a mouse or with two user fingers.

[2.エンコードサーバ1によるエンコード処理]
次に、エンコードサーバ1によるエンコード処理の詳細について、実施例1と実施例2に分けて説明する。
[2. Encoding process by the encoding server 1]
Next, the details of the encoding process by the encoding server 1 will be described separately for the first embodiment and the second embodiment.

(実施例1)
先ず、図3等を参照して、実施例1におけるエンコード処理について説明する。図3は、実施例1におけるエンコード処理の一例を示すフローチャートである。実施例1は、上述した各分割動画DMnに対応する動画ブロックBn-mのうち、ズーム操作によりズームインした時に同時に表示画面に表示される複数の動画ブロックBn-mを含むグループを複数生成(つまり、グループ化)し、生成された各グループにおいて各動画ブロックBn-mの変換ビットレートを決定する例である。ズーム操作によりズームインした時に同時に表示画面に表示される複数の動画ブロックBn-mは、全ての分割動画DMnのうちの一部の分割動画DMnのそれぞれに対応する1つあたりの動画ブロックの一例である。
Example 1
First, the encoding process in the first embodiment will be described with reference to FIG. FIG. 3 is a flowchart illustrating an example of the encoding process according to the first embodiment. Example 1 generates a plurality of groups including a plurality of video blocks Bn-m displayed on the display screen at the same time when zoomed in by a zoom operation among the video blocks Bn-m corresponding to each of the divided videos DMn described above (that is, In this example, the conversion bit rate of each moving image block Bn-m is determined in each generated group. The plurality of video blocks Bn-m displayed on the display screen at the same time when zoomed in by the zoom operation is an example of one video block corresponding to each of some of the divided videos DMn among all the divided videos DMn. is there.

図3に示す処理は、例えば、ビデオカメラにより撮影された、エンコード対象の全体動画Mのデータを受信した場合、或いは、既にエンコードサーバ1に記憶されている全体動画Mのうちエンコード対象の全体動画Mのエンコード指令があった場合に開始される。エンコード対象の全体動画Mの例として、例えばクライアント端末3においてユーザにより再生対象として選択されたコンテンツに対応する全体動画Mが挙げられる。   The processing shown in FIG. 3 is performed when, for example, data of the entire moving image M to be encoded, which is shot by a video camera, or the entire moving image M to be encoded among the entire moving images M already stored in the encoding server 1 is used. Triggered when there is an M encoding command. As an example of the entire moving image M to be encoded, for example, the entire moving image M corresponding to the content selected as the reproduction target by the user in the client terminal 3 can be cited.

図3に示す処理が開始されると、制御部11は、エンコード対象の全体動画Mを分割する各表示領域(言い換えれば、全体動画Mを分割した分割動画DMn)を決定する(ステップS1)。図2(A)の例では、全体動画Mが4×4の表示領域に分割されるようになっているが、分割数については任意であり、特に限定されるものではない。なお、制御部11は、ステップS1の処理前に、全体動画Mを複数の表示領域に分割し、分割された分割動画DMnのそれぞれを所定の時間単位Tで区切ることで、分割動画DMn毎に複数の動画ブロックBn-mを生成しておいてもよい。   When the process shown in FIG. 3 is started, the control unit 11 determines each display area (in other words, a divided moving image DMn obtained by dividing the entire moving image M) into which the entire moving image M to be encoded is divided (step S1). In the example of FIG. 2A, the entire moving image M is divided into 4 × 4 display areas, but the number of divisions is arbitrary and is not particularly limited. In addition, before the process of step S1, the control part 11 divides | segments the whole moving image M into several display area, and divides each divided | segmented moving image DMn by predetermined time unit T, for every divided moving image DMn. A plurality of moving image blocks Bn-m may be generated.

次いで、制御部11は、ステップS1で決定された各表示領域の情報(例えば全体動画Mを構成する画像フレームにおける座標)と、グループ化のためのパラメータとから、ズームインした時に同時に表示画面に表示される分割動画DMnを指定し、指定された分割動画DMn同士でグループを複数生成する(ステップS2)。ここで指定される分割動画DMnは、全体動画Mから分割された全ての分割動画DMnのうちの一部の分割動画DMnである。つまり、全ての分割動画DMnの中から分割動画DMnの組み合わせが指定される。グループ化のためのパラメータには、例えば1つのグループにおける表示領域の取り方(例えば、2×2、1×3、2×3、3×3、1×2、2×1など)が規定される。表示領域の取り方は、例えば予め想定したクライアント端末のズーム機能により動画がズームインされたときの表示範囲に基づき決定される。なお、図2(A)に示すように、全体動画Mを面積が均等となる複数の表示領域に分割するように構成すれば、表示領域の取り方を簡単にすることができ、迅速にグループ化することができる。   Next, the control unit 11 displays the information on each display area (for example, coordinates in the image frame constituting the entire moving image M) determined in step S1 and the grouping parameters simultaneously on the display screen when zoomed in. The divided video DMn to be designated is designated, and a plurality of groups are generated between the designated divided videos DMn (step S2). The divided moving image DMn specified here is a partial divided moving image DMn among all the divided moving images DMn divided from the entire moving image M. That is, a combination of the divided videos DMn is specified from all the divided videos DMn. The grouping parameters are defined, for example, how to set the display area in one group (for example, 2 × 2, 1 × 3, 2 × 3, 3 × 3, 1 × 2, 2 × 1, etc.). The The display area is determined based on, for example, a display range when a moving image is zoomed in by a zoom function of a client terminal assumed in advance. As shown in FIG. 2 (A), if the entire moving image M is divided into a plurality of display areas having the same area, the display area can be easily taken and grouped quickly. Can be

図4は、1つのグループにおける表示領域が「2×2」の場合の一例を示す概念図である。この場合、図4(A)〜(C)に示すように、グループG1〜G9が生成されることになる。また、1つのグループに属する一部の分割動画DMnは、他の1つのグループにも属する。例えば、分割動画DM2は、図4(A),(B)に示すように、グループG1及びG2に属する。また、分割動画DM6は、図4(A),(B)に示すように、グループG1,G2,G4,及びG5に属する。なお、ステップS3以降の処理で分割動画DMnが時間単位Tで区切られることで、分割動画DMn毎に複数の動画ブロックBn-mが生成される(ここで、mは、全体動画Mの再生開始位置からの順番に相当する)。このため、1つのグループGk(この例では、k=1〜9)は、更に複数のグループGk-mに分割され、ズームインした時に同時に表示画面に表示される複数(この例では、4つ)の動画ブロックBn-m同士でグループ化されることになる。例えば、グループG1-1には、動画ブロックB1-1,B2-1,B5-1及びB6-1が属することになる。   FIG. 4 is a conceptual diagram showing an example when the display area in one group is “2 × 2”. In this case, as shown in FIGS. 4A to 4C, groups G1 to G9 are generated. Further, some of the divided moving images DMn belonging to one group also belong to another group. For example, the divided moving image DM2 belongs to groups G1 and G2, as shown in FIGS. 4 (A) and 4 (B). Further, the divided moving image DM6 belongs to the groups G1, G2, G4, and G5 as shown in FIGS. It should be noted that a plurality of video blocks Bn-m are generated for each divided video DMn by dividing the divided video DMn by the time unit T in the processing after step S3 (where m is the start of playback of the whole video M) Equivalent to the order from the position). For this reason, one group Gk (in this example, k = 1 to 9) is further divided into a plurality of groups Gk-m, and a plurality of (four in this example) displayed on the display screen at the same time when zoomed in. The video blocks Bn-m are grouped together. For example, moving picture blocks B1-1, B2-1, B5-1 and B6-1 belong to the group G1-1.

次いで、制御部11は、エンコード開始位置s(変数)に“0”を代入する(ステップS3)。エンコード開始位置sは、全体動画Mの再生時間軸t方向における時間的な位置(例えば秒で表される)であり、全体動画Mの再生開始位置から再生終了位置までの間の位置である。最初のエンコード開始位置sは、例えば全体動画Mの再生開始位置である。次いで、制御部11は、エンコード開始位置sが、全体動画Mの再生終了位置より小さいか否かを判定する(ステップS4)。つまり、エンコード開始位置sが、全体動画Mの再生終了位置を時間的に超えたか否かが判定される。制御部11は、エンコード開始位置sが全体動画Mの再生終了位置より小さいと判定した場合(ステップS4:YES)、ステップS5へ処理を進める。一方、制御部11は、エンコード開始位置sが全体動画Mの再生終了位置より小さくないと判定した場合(ステップS4:NO)、図3に示す処理を終了する。   Next, the control unit 11 substitutes “0” for the encoding start position s (variable) (step S3). The encoding start position s is a temporal position (for example, expressed in seconds) in the reproduction time axis t direction of the entire moving image M, and is a position between the reproduction start position and the reproduction end position of the entire moving image M. The first encoding start position s is, for example, the playback start position of the entire moving image M. Next, the control unit 11 determines whether or not the encoding start position s is smaller than the reproduction end position of the entire moving image M (step S4). That is, it is determined whether or not the encoding start position s has temporally exceeded the playback end position of the entire moving image M. If the control unit 11 determines that the encoding start position s is smaller than the reproduction end position of the entire moving image M (step S4: YES), the control unit 11 advances the process to step S5. On the other hand, when the control unit 11 determines that the encoding start position s is not smaller than the reproduction end position of the entire moving image M (step S4: NO), the process illustrated in FIG.

ステップS5では、制御部11は、エンコード開始位置s+T(時間単位)が、全体動画Mの再生終了位置より大きいか否かを判定する。制御部11は、エンコード開始位置s+Tが全体動画Mの再生終了位置より大きくないと判定した場合(ステップS5:NO)、エンコード終了位置e(変数)に“s+T”を代入する(ステップS6)。一方、制御部11は、エンコード開始位置s+Tが全体動画Mの再生終了位置より大きいと判定した場合(ステップS5:YES)、エンコード終了位置e(変数)に全体動画Mの再生終了位置を代入する(ステップS7)。   In step S5, the control unit 11 determines whether or not the encoding start position s + T (time unit) is larger than the reproduction end position of the entire moving image M. When it is determined that the encoding start position s + T is not larger than the reproduction end position of the entire moving image M (step S5: NO), the control unit 11 substitutes “s + T” for the encoding end position e (variable) (step S6). On the other hand, when the control unit 11 determines that the encoding start position s + T is larger than the reproduction end position of the entire moving image M (step S5: YES), the reproduction end position of the entire moving image M is substituted for the encoding end position e (variable). (Step S7).

次いで、制御部11は、全体動画Mの[s,e]の範囲(つまり、エンコード開始位置sからエンコード終了位置eまでの範囲)で、各分割動画DMnを区切ることで生成された複数の動画ブロックBn-mを特定し、特定した各動画ブロックBn-mの重要度を決定する(ステップS8)。例えば、上述したように、制御部11は、特定した各動画ブロックBn-mを所定のパラメータでエンコードし、そのファイルサイズを、特定した各動画ブロックBn-mの情報量として算出する。或いは、制御部11は、特定した各動画ブロックBn-mの重要度をデフォルト値で設定する。そして、制御部11は、エンコード対象の全体動画Mをリクエストしたクライアント端末3から、上述したようにユーザにより指定された位置を示す位置情報を取得し、その位置を含む動画ブロックBn-mを特定し、特定した動画ブロックBn-mの重要度をデフォルト値よりも高く決定する。   Next, the control unit 11 includes a plurality of moving images generated by dividing each divided moving image DMn within the range [s, e] of the entire moving image M (that is, the range from the encoding start position s to the encoding end position e). The block Bn-m is specified, and the importance of each specified moving image block Bn-m is determined (step S8). For example, as described above, the control unit 11 encodes each specified moving image block Bn-m with a predetermined parameter, and calculates the file size as the information amount of each specified moving image block Bn-m. Alternatively, the control unit 11 sets the importance level of each identified moving image block Bn-m with a default value. And the control part 11 acquires the positional information which shows the position designated by the user as mentioned above from the client terminal 3 which requested the whole moving image M to be encoded, and specifies the moving image block Bn-m including the position. Then, the degree of importance of the identified video block Bn-m is determined to be higher than the default value.

次いで、制御部11は、1グループあたりの変換ビットレートの上限値として、上限ビットレートBR1(例えば、2Mbps)を設定する(ステップS9)。次いで、制御部11は、ループカウンタi(変数)に“1”を代入する(ステップS10)。次いで、制御部11は、ループカウンタiが、グループ数以下であるか否かを判定する(ステップS11)。ここで、グループ数は、全体動画Mの[s,e]の範囲における動画ブロックBn-mのグループGk-mの数であり、図4の場合、グループ数は9つとなる。制御部11は、ループカウンタiがグループ数以下であると判定した場合(ステップS11:YES)、ステップS12へ処理を進める。一方、制御部11は、ループカウンタiがグループ数以下でないと判定した場合(ステップS11:NO)、ステップS17へ処理を進める。   Next, the control unit 11 sets an upper limit bit rate BR1 (for example, 2 Mbps) as the upper limit value of the conversion bit rate per group (step S9). Next, the control unit 11 assigns “1” to the loop counter i (variable) (step S10). Next, the control unit 11 determines whether or not the loop counter i is equal to or less than the number of groups (step S11). Here, the number of groups is the number of groups Gk-m of the moving image block Bn-m in the range [s, e] of the entire moving image M. In the case of FIG. 4, the number of groups is nine. When it is determined that the loop counter i is equal to or less than the number of groups (step S11: YES), the control unit 11 advances the process to step S12. On the other hand, if the control unit 11 determines that the loop counter i is not less than or equal to the number of groups (step S11: NO), the control unit 11 proceeds to step S17.

ステップS12では、制御部11は、i番目のグループGi-mに属する複数の動画ブロックBn-mの変換ビットレートが、ステップS8で決定されたそれぞれの重要度に比例し、且つ、i番目のグループGi-mに属する複数の動画ブロックBn-mの変換ビットレートの合計が上限ビットレートBR1になるように、i番目のグループGi-mに属する動画ブロックBn-mの変換ビットレートを仮決定する。   In step S12, the control unit 11 determines that the conversion bit rates of the plurality of video blocks Bn-m belonging to the i-th group Gi-m are proportional to the respective importance levels determined in step S8, and the i-th group The conversion bit rate of the video block Bn-m belonging to the i-th group Gi-m is provisionally determined so that the sum of the conversion bit rates of the plurality of video blocks Bn-m belonging to the group Gi-m becomes the upper limit bit rate BR1. To do.

図5(A)は、動画ブロックBn-1の重要度の一例を示す概念図であり、図5(B)は、5番目のグループG5-1に属する動画ブロックB6-1,B7-1,B10-1,B11-1のそれぞれの重要度に基づいて決定された変換ビットレートの一例を示す概念図である。図5(B)では、4つの動画ブロックB6-1,B7-1,B10-1,B11-1の変換ビットレートの合計が、上限ビットレートBR1である2Mbpsとなるように重要度が正規化されている。   FIG. 5A is a conceptual diagram illustrating an example of the importance of the moving image block Bn-1, and FIG. 5B illustrates moving image blocks B6-1, B7-1, and B-5 belonging to the fifth group G5-1. It is a conceptual diagram which shows an example of the conversion bit rate determined based on each importance of B10-1 and B11-1. In FIG. 5B, the importance is normalized so that the total of the conversion bit rates of the four moving image blocks B6-1, B7-1, B10-1, and B11-1 is 2 Mbps which is the upper limit bit rate BR1. Has been.

次いで、制御部11は、直近のステップS12で変換ビットレートが仮決定された各動画ブロックBn-mについて、既に変換ビットレートが割り当てられているか否かを判定する(ステップS13)。制御部11は、既に変換ビットレートが割り当てられていると判定した場合(ステップS13:YES)、直近のステップS12で仮決定された変換ビットレートと、既に割り当てられている変換ビットレートとのうちで小さい方の変換ビットレートを動画ブロックBn-mに割り当てる(ステップS14)。一方、制御部11は、既に変換ビットレートが割り当てられていないと判定した場合(ステップS13:NO)、直近のステップS12で仮決定された変換ビットレートを動画ブロックBn-mに割り当てる(ステップS15)。ステップS14またS15の割り当てがi番目のグループGi-m([s,e]の範囲に限る)に属する全ての動画ブロックBn-mについて行われると、制御部11は、ループカウンタiを1インクリメントし(ステップS16)、ステップS11に戻る。こうして、[s,e]の範囲における全てのグループGi-mについてステップS12以降の処理が行われると、ステップS17へ処理が進むことになる。   Next, the control unit 11 determines whether or not a conversion bit rate has already been assigned to each moving image block Bn-m whose conversion bit rate has been provisionally determined in the most recent step S12 (step S13). When it is determined that the conversion bit rate has already been assigned (step S13: YES), the control unit 11 selects the conversion bit rate temporarily determined in the latest step S12 and the already assigned conversion bit rate. The smaller conversion bit rate is assigned to the moving image block Bn-m (step S14). On the other hand, when it is determined that the conversion bit rate has not already been assigned (step S13: NO), the control unit 11 assigns the conversion bit rate temporarily determined in the latest step S12 to the moving image block Bn-m (step S15). ). When the allocation in step S14 or S15 is performed for all the moving image blocks Bn-m belonging to the i-th group Gi-m (limited to the range of [s, e]), the control unit 11 increments the loop counter i by 1. Then (step S16), the process returns to step S11. Thus, when the processing from step S12 is performed on all the groups Gi-m in the range [s, e], the processing proceeds to step S17.

ステップS17では、制御部11は、[s,e]の範囲における各動画ブロックBn-mに最終的に割り当てられている変換ビットレートを、最終的な変換ビットレートとして決定(最終決定)する。なお、[s,e]の範囲において複数のグループGk-mに属する一部の動画ブロックBn-mについては、相対的に小さい(この例では、最小の)変換ビットレートが、上記一部の動画ブロックBn-mの変換ビットレートとして最終決定される。すなわち、制御部11は、上記処理により、1つのグループGk-mにおいて仮決定した、上記一部の動画ブロックBn-mの変換ビットレートと、他の1つのグループにおいて仮決定した、上記一部の動画ブロックBn-mの変換ビットレートのうち、相対的に小さい(この例では、最小の)変換ビットレートを、上記一部の動画ブロックBn-mの変換ビットレートとして最終決定する。これにより、隣り合う動画ブロックBn-m間で変換ビットレートを融通し合って、より適切な変換ビットレートを決定することができる。   In step S17, the control unit 11 determines (final determination) the conversion bit rate finally assigned to each moving image block Bn-m in the range [s, e] as the final conversion bit rate. Note that for some video blocks Bn-m belonging to a plurality of groups Gk-m in the range of [s, e], a relatively small (minimum in this example) conversion bit rate is the above-mentioned part. This is finally determined as the conversion bit rate of the video block Bn-m. That is, the control unit 11 tentatively determined in one group Gk-m by the above process, the conversion bit rate of the part of the moving image blocks Bn-m, and the part of the part that is provisionally determined in the other group. Among the conversion bit rates of the moving image blocks Bn-m, a relatively small (minimum in this example) conversion bit rate is finally determined as the conversion bit rates of the partial moving image blocks Bn-m. Thereby, the conversion bit rate can be interchanged between the adjacent moving image blocks Bn-m, and a more appropriate conversion bit rate can be determined.

次いで、制御部11は、[s,e]の範囲における各動画ブロックBn-mを、ステップS17で決定されたそれぞれの変換ビットレートでエンコードする(ステップS18)。なお、エンコードされた各動画ブロックBn-mは、コンテンツの一部として、元になった全体動画Mのデータに対応付けられて記憶部12に記憶される。次いで、制御部11は、エンコード開始位置sに、最新のエンコード終了位置eを代入し(ステップS19)、ステップS4に戻る。ステップS4でエンコード開始位置sが全体動画Mの再生終了位置より小さくないと判定されるまで、順次、全体動画Mの再生時間軸t方向における[s,e]の範囲が時系列で後に移動しつつ、各[s,e]の範囲毎に上述したステップS5以降の処理が行われる。こうして、全体動画Mから分割された分割動画DMnのそれぞれに対応する全ての動画ブロックBn-mがエンコードされると、制御部11は、図3に示す処理を終了する。   Next, the control unit 11 encodes each moving image block Bn-m in the range [s, e] at each conversion bit rate determined in step S17 (step S18). Each encoded moving image block Bn-m is stored in the storage unit 12 as a part of the content in association with the original whole moving image M data. Next, the control unit 11 assigns the latest encoding end position e to the encoding start position s (step S19), and returns to step S4. Until it is determined in step S4 that the encoding start position s is not smaller than the playback end position of the entire moving image M, the range of [s, e] in the playback time axis t direction of the entire moving image M sequentially moves backward in time series. However, the process after step S5 mentioned above is performed for each [s, e] range. Thus, when all the moving image blocks Bn-m corresponding to each of the divided moving images DMn divided from the entire moving image M are encoded, the control unit 11 ends the process shown in FIG.

以上説明したように、実施例1によれば、エンコードサーバ1は、各分割動画DMnに対応する動画ブロックBn-mのうち、ズーム操作によりズームインした時に同時に表示画面に表示される複数の動画ブロックBn-mでグループ化し、グループ化された各グループにおいて各動画ブロックBn-mのそれぞれをエンコードするときの変換ビットレートがそれぞれの重要度に比例し、且つ、各動画ブロックBn-mをエンコードするときの変換ビットレートの合計が上限ビットレートBR1になるように、各動画ブロックBn-mの変換ビットレートをグループ毎に決定するように構成したので、各動画ブロックBn-mにおいて、どのような変換ビットレートのパターンであっても、より柔軟に決定することができる。このように決定された変換ビットレートで動画ブロックBn-mをエンコードすることで、各動画ブロックBn-mの配信ビットレートを安定化させつつ、特定の各動画ブロックBn-mの品質を向上させることができる。例えば、全体動画Mの複数の表示領域に、圧縮の効き易い表示領域と、圧縮の効き難い表示領域とがあった場合でも、品質を向上させることができる。また、全体動画Mの複数の表示領域に、視聴者にとって重要な表示領域とそうでない表示領域とが含まれている場合に、重要な表示領域の品質を向上させることができる。   As described above, according to the first embodiment, the encoding server 1 among the video blocks Bn-m corresponding to each divided video DMn, a plurality of video blocks that are simultaneously displayed on the display screen when zoomed in by a zoom operation. Grouped by Bn-m, the conversion bit rate when encoding each video block Bn-m in each grouped group is proportional to the importance, and each video block Bn-m is encoded Since the conversion bit rate of each video block Bn-m is determined for each group so that the total of the conversion bit rate at the time is the upper limit bit rate BR1, what is in each video block Bn-m Even a conversion bit rate pattern can be determined more flexibly. Encoding the video block Bn-m with the conversion bit rate determined in this way improves the quality of each specific video block Bn-m while stabilizing the delivery bit rate of each video block Bn-m be able to. For example, the quality can be improved even when a plurality of display areas of the entire moving image M include a display area that is easy to compress and a display area that is difficult to compress. In addition, when the plurality of display areas of the entire moving image M include a display area that is important for the viewer and a display area that is not so for the viewer, the quality of the important display area can be improved.

(実施例2)
次に、図6等を参照して、実施例2におけるエンコード処理について説明する。図6は、実施例2におけるエンコード処理の一例を示すフローチャートである。実施例2は、予め作成された複数のテンプレートを用いて、各動画ブロックBn-mの変換ビットレートを決定する例である。ここで、テンプレートは、全体動画Mにおいて分割される表示領域(分割動画DMn)と同数の対応領域を有し、各対応領域に所定の変換ビットレートが割り当てられたテーブルである。
(Example 2)
Next, an encoding process according to the second embodiment will be described with reference to FIG. FIG. 6 is a flowchart illustrating an example of the encoding process according to the second embodiment. Example 2 is an example in which the conversion bit rate of each moving image block Bn-m is determined using a plurality of templates created in advance. Here, the template is a table having the same number of corresponding areas as the display areas (divided moving pictures DMn) divided in the entire moving picture M, and a predetermined conversion bit rate is assigned to each corresponding area.

図6に示す処理は、図3に示す処理と同じように開始される。図6に示す処理が開始されると、制御部11は、エンコード対象の全体動画Mを分割する各表示領域(言い換えれば、全体動画Mを分割した分割動画DMn)を決定する(ステップS21)。ステップS21の処理は、上述した実施例1におけるステップS1と同様である。次いで、制御部11は、各対応領域に所定の変換ビットレートが割り当てられたテンプレートであって、割り当てパターンが互いに異なる複数のテンプレートを例えば記憶部12から取得する(ステップS22)。次いで、制御部11は、ステップS22で取得した全てのテンプレートについて、対応領域に割り当てられた所定の変換ビットレートの平均値が、基準となる変換ビットレートBR2(例えば、0.5Mbps)になるように、割り当てられた変換ビットレートを正規化する(ステップS23)。   The process shown in FIG. 6 is started in the same manner as the process shown in FIG. When the process shown in FIG. 6 is started, the control unit 11 determines each display area (in other words, a divided moving image DMn obtained by dividing the entire moving image M) into which the entire moving image M to be encoded is divided (step S21). The process of step S21 is the same as step S1 in the first embodiment described above. Next, the control unit 11 acquires, from the storage unit 12, for example, a plurality of templates that are assigned with a predetermined conversion bit rate to each corresponding area and have different allocation patterns (step S22). Next, the control unit 11 sets the average value of the predetermined conversion bit rates assigned to the corresponding areas for all the templates acquired in step S22 to be the reference conversion bit rate BR2 (for example, 0.5 Mbps). Then, the assigned conversion bit rate is normalized (step S23).

図7は、正規化された変換ビットレートが各対応領域に割り当てられたテンプレート例を示す図である。図7(A)〜(C)に示す3つのテンプレート(例1〜例3)は、変換ビットレートの割り当てパターンが互いに異なっている。なお、図7には、3つのテンプレート例を示しているが、テンプレートはいくつであってもよい。また、図7(A)〜(C)に示すテンプレートは、それぞれ、「2×2」の対応領域が属するグループをどのように採っても、そのグループに属する対応領域に割り当てられた所定の変換ビットレートの合計が上限値(例えば、2Mbps)以下となるように作成されている。   FIG. 7 is a diagram illustrating a template example in which the normalized conversion bit rate is assigned to each corresponding region. The three templates (Examples 1 to 3) shown in FIGS. 7A to 7C have different conversion bit rate allocation patterns. Although FIG. 7 shows three template examples, any number of templates may be used. Further, the templates shown in FIGS. 7A to 7C each have a predetermined conversion assigned to the corresponding area belonging to the group, regardless of the group to which the corresponding area of “2 × 2” belongs. The total bit rate is created so as to be equal to or less than the upper limit (for example, 2 Mbps).

次いで、制御部11は、エンコード開始位置s(変数)に“0”を代入する(ステップS24)。次いで、制御部11は、エンコード開始位置sが、全体動画Mの再生終了位置より小さいか否かを判定する(ステップS25)。制御部11は、エンコード開始位置sが全体動画Mの再生終了位置より小さいと判定した場合(ステップS25:YES)、ステップS26へ処理を進める。一方、制御部11は、エンコード開始位置sが全体動画Mの再生終了位置より小さくないと判定した場合(ステップS25:NO)、図6に示す処理を終了する。   Next, the control unit 11 substitutes “0” for the encoding start position s (variable) (step S24). Next, the control unit 11 determines whether or not the encoding start position s is smaller than the reproduction end position of the entire moving image M (step S25). If the control unit 11 determines that the encoding start position s is smaller than the reproduction end position of the entire moving image M (step S25: YES), the control unit 11 advances the process to step S26. On the other hand, when the control unit 11 determines that the encoding start position s is not smaller than the reproduction end position of the entire moving image M (step S25: NO), the process illustrated in FIG.

ステップS26では、制御部11は、エンコード開始位置s+Tが、全体動画Mの再生終了位置より大きいか否かを判定する。制御部11は、エンコード開始位置s+Tが全体動画Mの再生終了位置より大きくないと判定した場合(ステップS26:NO)、エンコード終了位置e(変数)に“s+T”を代入する(ステップS27)。一方、制御部11は、エンコード開始位置s+Tが全体動画Mの再生終了位置より大きいと判定した場合(ステップS26:YES)、エンコード終了位置e(変数)に全体動画Mの再生終了位置を代入する(ステップS28)。   In step S26, the control unit 11 determines whether or not the encoding start position s + T is larger than the reproduction end position of the entire moving image M. When it is determined that the encoding start position s + T is not larger than the reproduction end position of the entire moving image M (step S26: NO), the control unit 11 substitutes “s + T” for the encoding end position e (variable) (step S27). On the other hand, when the control unit 11 determines that the encoding start position s + T is larger than the reproduction end position of the entire moving image M (step S26: YES), the reproduction end position of the entire moving image M is substituted for the encoding end position e (variable). (Step S28).

次いで、制御部11は、全体動画Mの[s,e]の範囲で、各分割動画DMnを区切ることで生成された複数の動画ブロックBn-mを特定し、特定した各動画ブロックBn-mの重要度を決定する(ステップS29)。次いで、制御部11は、全体動画Mの[s,e]の範囲で特定された各動画ブロックBn-mの重要度の平均値が、基準となる変換ビットレートBM2(例えば、0.5Mbps)になるように、全体動画Mの[s,e]の範囲で特定された各動画ブロックBn-mの重要度を正規化する(ステップS30)。   Next, the control unit 11 specifies a plurality of video blocks Bn-m generated by dividing each divided video DMn within the range [s, e] of the entire video M, and specifies each specified video block Bn-m. Is determined (step S29). Next, the control unit 11 uses the conversion bit rate BM2 (for example, 0.5 Mbps) as an average of the importance values of the moving image blocks Bn-m specified in the range [s, e] of the entire moving image M. The importance of each moving image block Bn-m specified in the range [s, e] of the entire moving image M is normalized (step S30).

図8(A)は、動画ブロックBn-1の重要度の一例を示す概念図であり、図8(B)は、動画ブロックBn-1の重要度の平均値が0.5Mbpsになるように正規化されたときの例を示す概念図である。   FIG. 8A is a conceptual diagram showing an example of the importance level of the moving image block Bn-1, and FIG. 8B shows that the average value of the importance level of the moving image block Bn-1 is 0.5 Mbps. It is a conceptual diagram which shows an example when normalized.

次いで、制御部11は、ステップS30で正規化された各重要度(各動画ブロックBn-mの重要度)と、ステップS23で正規化されたテンプレートの各対応領域に割り当てられた所定の変換ビットレートとの誤差Vを、ステップS23で正規化されたテンプレート毎に算出する(ステップS31)。ここで、誤差Vは、下記(1)式により算出される。

Figure 2017069845
Next, the control unit 11 determines each importance degree (importance degree of each moving image block Bn-m) normalized in step S30 and predetermined conversion bits assigned to each corresponding area of the template normalized in step S23. An error V from the rate is calculated for each template normalized in step S23 (step S31). Here, the error V is calculated by the following equation (1).
Figure 2017069845

上記(1)式では、誤差Vは、テンプレート内の数値(対応領域に割り当てられた所定の変換ビットレート)と、正規化した重要度との間の差の二乗和(つまり、誤差の自乗和)を、ブロック数(特定された各動画ブロックBn-mの数)で割った値(平均二乗誤差)として算出される。なお、誤差Vは、上記(1)式とは異なる式により算出されてもよい。   In the above equation (1), the error V is the sum of squares of the difference between the numerical value in the template (predetermined conversion bit rate assigned to the corresponding region) and the normalized importance (that is, the square sum of errors). ) Divided by the number of blocks (the number of identified moving image blocks Bn-m) (mean square error). The error V may be calculated by an expression different from the above expression (1).

次いで、制御部11は、ステップS31で算出された誤差Vが相対的に小さい(例えば、最小の)テンプレートを特定する(ステップS32)。次いで、制御部11は、ステップS32で特定されたテンプレートの各対応領域に割り当てられた所定の変換ビットレートを、[s,e]の範囲における各動画ブロックBn-mの変換ビットレートとして決定する(ステップS33)。つまり、制御部11は、ステップS32で特定されたテンプレートの各対応領域に割り当てられた所定の変換ビットレートを用いて、[s,e]の範囲における各動画ブロックBn-mの変換ビットレートを決定する。   Next, the control unit 11 specifies a template having a relatively small (for example, minimum) error V calculated in Step S31 (Step S32). Next, the control unit 11 determines the predetermined conversion bit rate assigned to each corresponding area of the template specified in step S32 as the conversion bit rate of each moving image block Bn-m in the range [s, e]. (Step S33). That is, the control unit 11 uses the predetermined conversion bit rate assigned to each corresponding area of the template specified in step S32 to set the conversion bit rate of each moving image block Bn-m in the range [s, e]. decide.

次いで、制御部11は、[s,e]の範囲における各動画ブロックBn-mを、ステップS33で決定されたそれぞれの変換ビットレートでエンコードする(ステップS34)。次いで、制御部11は、エンコード開始位置sに、最新のエンコード終了位置eを代入し(ステップS35)、ステップS25に戻る。そして、全体動画Mから分割された分割動画DMnのそれぞれに対応する全ての動画ブロックBn-mがエンコードされると、制御部11は、図6に示す処理を終了する。   Next, the control unit 11 encodes each moving image block Bn-m in the range [s, e] at the respective conversion bit rate determined in step S33 (step S34). Next, the control unit 11 assigns the latest encoding end position e to the encoding start position s (step S35), and returns to step S25. Then, when all the moving image blocks Bn-m corresponding to the divided moving images DMn divided from the entire moving image M are encoded, the control unit 11 ends the process illustrated in FIG.

以上説明したように、実施例2によれば、エンコードサーバ1は、各動画ブロックBn-mの正規化された重要度と、テンプレートの各対応領域に割り当てられた正規化された変換ビットレートとの誤差Vを、割り当てパターンが互いに異なる複数のテンプレート毎に算出し、算出した誤差Vが相対的に小さいテンプレートを用いて、各動画ブロックBn-mの変換ビットレートを決定するように構成したので、各動画ブロックBn-mの変換ビットレートに迅速に決定することができる。このように決定された変換ビットレートで動画ブロックBn-mをエンコードすることで、各動画ブロックBn-mの配信ビットレートを安定化させつつ、特定の各動画ブロックBn-mの品質を向上させることができる。例えば、全体動画Mの複数の表示領域に、圧縮の効き易い表示領域と、圧縮の効き難い表示領域とがあった場合でも、品質を向上させることができる。また、全体動画Mの複数の表示領域に、視聴者にとって重要な表示領域とそうでない表示領域とが含まれている場合に、重要な表示領域の品質を向上させることができる。   As described above, according to the second embodiment, the encoding server 1 uses the normalized importance of each moving image block Bn-m and the normalized conversion bit rate assigned to each corresponding area of the template. Is calculated for each of a plurality of templates having different allocation patterns, and a conversion bit rate of each moving image block Bn-m is determined using a template having a relatively small calculated error V. The conversion bit rate of each moving image block Bn-m can be quickly determined. Encoding the video block Bn-m with the conversion bit rate determined in this way improves the quality of each specific video block Bn-m while stabilizing the delivery bit rate of each video block Bn-m be able to. For example, the quality can be improved even when a plurality of display areas of the entire moving image M include a display area that is easy to compress and a display area that is difficult to compress. In addition, when the plurality of display areas of the entire moving image M include a display area that is important for the viewer and a display area that is not so for the viewer, the quality of the important display area can be improved.

なお、上記実施形態においては、本発明のビットレート決定装置としてエンコードサーバ1を例にとって説明したが、エンコードサーバ1の機能を配信サーバ2が有している場合、配信サーバ2に対して本発明を適用できる。この場合、配信サーバ2は本発明のサーバ装置を構成する。この場合、配信サーバ2の制御部21は、本発明の特定手段、指定手段、第1決定手段、第2決定手段、取得手段、正規化手段として機能する。すなわち、制御部21は、クライアント端末3のユーザにより再生対象として選択されたコンテンツまたは選択候補となるコンテンツに対応する全体動画Mを複数の表示領域に分割して複数の分割動画DMnを生成する。制御部21は、分割動画DMnのそれぞれを所定の時間単位Tで区切ることで、分割動画DMn毎に複数の動画ブロックBn-mを生成する。また、制御部21は、分割動画DMnのそれぞれに対応する動画ブロックBn-mを特定し、特定した動画ブロックBn-mの重要度を動画ブロックBn-m毎に決定する。制御部21は、動画ブロックBn-m毎の重要度に基づいて、上述した処理と同様に、動画ブロックBn-m毎に変換ビットレートを決定し、動画ブロックBn-m毎に決定した変換ビットレートで、それぞれの動画ブロックBn-mをエンコードする。そして、制御部21は、クライアント端末3からリクエストされた動画ブロックBn-mであって、上記変換ビットレートでエンコードされた動画ブロックBn-mを含むコンテンツをクライアント端末3へ送信する。より詳細には、制御部21は、制御部11に代えて、図3に示す処理または図6に示す処理を実行することになる。   In the above embodiment, the encoding server 1 has been described as an example of the bit rate determining apparatus of the present invention. However, when the distribution server 2 has the function of the encoding server 1, the present invention is applied to the distribution server 2. Can be applied. In this case, the distribution server 2 constitutes the server device of the present invention. In this case, the control unit 21 of the distribution server 2 functions as a specifying unit, a specifying unit, a first determining unit, a second determining unit, an acquiring unit, and a normalizing unit of the present invention. That is, the control unit 21 generates a plurality of divided moving images DMn by dividing the entire moving image M corresponding to the content selected as the reproduction target by the user of the client terminal 3 or the selection candidate content into a plurality of display areas. The control unit 21 divides each of the divided moving images DMn by a predetermined time unit T, thereby generating a plurality of moving image blocks Bn-m for each divided moving image DMn. In addition, the control unit 21 specifies the moving image block Bn-m corresponding to each of the divided moving images DMn, and determines the importance of the specified moving image block Bn-m for each moving image block Bn-m. The control unit 21 determines the conversion bit rate for each video block Bn-m based on the importance for each video block Bn-m, and determines the conversion bit determined for each video block Bn-m. Encode each video block Bn-m at the rate. Then, the control unit 21 transmits to the client terminal 3 content including the moving image block Bn-m requested from the client terminal 3 and encoded at the conversion bit rate. More specifically, the control unit 21 executes the process shown in FIG. 3 or the process shown in FIG. 6 instead of the control unit 11.

1 エンコードサーバ
2 配信サーバ
3 クライアント端末
11 制御部
12 記憶部
S 配信システム
DESCRIPTION OF SYMBOLS 1 Encoding server 2 Distribution server 3 Client terminal 11 Control part 12 Storage part S Distribution system

Claims (15)

動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、
前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、
前記第1決定手段により決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、
を備えることを特徴とするビットレート決定装置。
Identifying means for identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
First determination means for determining the importance of the moving image block specified by the specifying means for each moving image block;
Based on the importance determined by the first determining means, the bit rates for encoding each of at least two of the plurality of moving image blocks are different from each other, and the divided The bit rate is determined for each moving image block so that the sum of the bit rates of the moving image blocks corresponding to each of the divided moving images of the divided moving images is equal to or less than a predetermined value. A determination means;
A bit rate determining apparatus comprising:
前記分割された前記分割動画のうちの一部の分割動画を指定する指定手段を更に備え、
前記第2決定手段は、前記指定手段により指定された分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートを互いに異ならせることを特徴とする請求項1に記載のビットレート決定装置。
Further comprising a designating unit for designating a part of the divided videos.
2. The bit rate determination according to claim 1, wherein the second determining unit makes the bit rates of the moving image blocks per one corresponding to the divided moving images specified by the specifying unit differ from each other. apparatus.
前記第1決定手段は、前記動画ブロック毎の情報量を算出し、算出した情報量を前記重要度として決定することを特徴とする請求項1または2に記載のビットレート決定装置。   The bit rate determination device according to claim 1, wherein the first determination unit calculates an information amount for each moving image block, and determines the calculated information amount as the importance level. 前記第1決定手段は、前記動画において操作者により指定された位置を含む前記動画ブロックの重要度を相対的に高く決定することを特徴とする請求項1または2に記載のビットレート決定装置。   3. The bit rate determination device according to claim 1, wherein the first determination unit determines the importance of the moving image block including a position designated by an operator in the moving image to be relatively high. 4. 前記動画を、面積が均等となる複数の表示領域に分割することで前記複数の分割動画を生成する生成手段を更に備えることを特徴とする請求項1乃至4の何れか一項に記載のビットレート決定装置。   5. The bit according to claim 1, further comprising a generation unit configured to generate the plurality of divided moving images by dividing the moving image into a plurality of display areas having an equal area. Rate determination device. 前記第2決定手段は、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックを含むグループを複数生成し、前記生成された各前記グループにおいて、複数の前記動画ブロックの前記ビットレートがそれぞれの前記重要度に比例し、且つ、複数の前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定することを特徴とする請求項1乃至5の何れか一項に記載のビットレート決定装置。   The second determining means generates a plurality of groups including the video blocks per one corresponding to each of the partial videos in the divided video, and in each of the generated groups The bit rate for each video block so that the bit rates of the plurality of video blocks are proportional to the respective importance levels, and the sum of the bit rates of the plurality of video blocks is equal to or less than a predetermined value. The bit rate determining apparatus according to claim 1, wherein the bit rate determining apparatus determines the bit rate. 1つの前記グループに含まれる一部の前記動画ブロックは、他の1つの前記グループにも含まれ、
前記第2決定手段は、1つの前記グループにおいて決定した前記一部の前記動画ブロックの前記ビットレートと、他の1つの前記グループにおいて決定した前記一部の前記動画ブロックの前記ビットレートのうち、相対的に小さいビットレートを、前記一部の前記動画ブロックの前記ビットレートとして最終決定することを特徴とする請求項6に記載のビットレート決定装置。
Some of the video blocks included in one group are also included in another group.
The second determining means includes the bit rate of the part of the moving image blocks determined in one group and the bit rate of the part of the moving image blocks determined in the other group. The bit rate determining apparatus according to claim 6, wherein a relatively small bit rate is finally determined as the bit rate of the part of the moving image blocks.
前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段を更に備え、
前記第2決定手段は、前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化し、前記正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定することを特徴とする請求項1乃至5の何れか一項に記載のビットレート決定装置。
The acquisition unit for acquiring a template having the same number of corresponding areas as the divided moving images, and a predetermined bit rate assigned to each corresponding area, wherein the predetermined bit rate is assigned to each corresponding area. Further comprising acquisition means for acquiring a plurality of templates different from each other,
The second determining unit normalizes the importance of the plurality of moving image blocks so that an average value of the importance of the plurality of moving image blocks becomes a reference bit rate, and each of the normalized importance levels And an error with respect to the predetermined bit rate assigned to each corresponding area of the template acquired by the acquiring means for each of the acquired templates, and the calculated error is relatively small The bit rate determination according to any one of claims 1 to 5, wherein the bit rate is determined for each moving image block using the predetermined bit rate assigned to each of the corresponding areas. apparatus.
動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、
前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、
前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段と、
前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化手段と、
前記正規化手段により正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、
を備えることを特徴とするビットレート決定装置。
Identifying means for identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
First determination means for determining the importance of the moving image block specified by the specifying means for each moving image block;
The acquisition unit for acquiring a template having the same number of corresponding areas as the divided moving images, and a predetermined bit rate assigned to each corresponding area, wherein the predetermined bit rate is assigned to each corresponding area. Acquiring means for acquiring a plurality of templates different from each other;
Normalization means for normalizing the importance of the plurality of video blocks so that an average value of the importance of the plurality of video blocks becomes a reference bit rate;
An error between each importance degree normalized by the normalization unit and the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition unit is obtained for each acquired template. Second determining means for calculating and determining the bit rate for each moving image block using the predetermined bit rate assigned to each corresponding region of the template with a relatively small calculated error;
A bit rate determining apparatus comprising:
端末装置からネットワークを介してアクセス可能なサーバ装置であって、
動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、
前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、
前記第1決定手段により決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、
前記端末装置からリクエストされた動画ブロックであって、前記第2決定手段により決定されたビットレートでエンコードされた前記動画ブロックを前記端末装置へ配信する配信手段と、
を備えることを特徴とするサーバ装置。
A server device accessible from a terminal device via a network,
Identifying means for identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
First determination means for determining the importance of the moving image block specified by the specifying means for each moving image block;
Based on the importance determined by the first determining means, the bit rates for encoding each of at least two of the plurality of moving image blocks are different from each other, and the divided The bit rate is determined for each moving image block so that the sum of the bit rates of the moving image blocks corresponding to each of the divided moving images of the divided moving images is equal to or less than a predetermined value. A determination means;
Distribution means for distributing the moving image block requested from the terminal device, the moving image block encoded at the bit rate determined by the second determining means to the terminal device;
A server device comprising:
動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定手段と、
前記特定手段により特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定手段と、
前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得手段であって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得手段と、
前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化手段と、
前記正規化手段により正規化された各前記重要度と、前記取得手段により取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定手段と、
前記端末装置からリクエストされた動画ブロックであって、前記第2決定手段により決定されたビットレートでエンコードされた前記動画ブロックを前記端末装置へ配信する配信手段と、
を備えることを特徴とするサーバ装置。
Identifying means for identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
First determination means for determining the importance of the moving image block specified by the specifying means for each moving image block;
The acquisition unit for acquiring a template having the same number of corresponding areas as the divided moving images, and a predetermined bit rate assigned to each corresponding area, wherein the predetermined bit rate is assigned to each corresponding area. Acquiring means for acquiring a plurality of templates different from each other;
Normalization means for normalizing the importance of the plurality of video blocks so that an average value of the importance of the plurality of video blocks becomes a reference bit rate;
An error between each importance degree normalized by the normalization unit and the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition unit is obtained for each acquired template. Second determining means for calculating and determining the bit rate for each moving image block using the predetermined bit rate assigned to each corresponding region of the template with a relatively small calculated error;
Distribution means for distributing the moving image block requested from the terminal device, the moving image block encoded at the bit rate determined by the second determining means to the terminal device;
A server device comprising:
1つ以上のコンピュータにより実行されるビットレート決定方法であって、
動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成された複数の動画ブロックを特定する特定ステップと、
前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、
前記第1決定ステップにより決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、
を含むことを特徴とするビットレート決定方法。
A bit rate determination method executed by one or more computers, comprising:
A specific step of identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
A first determination step of determining the importance of the video block specified by the specifying step for each video block;
Based on the importance determined in the first determination step, a bit rate for encoding each of at least two of the plurality of video blocks is made different from each other, and the divided The bit rate is determined for each moving image block so that the sum of the bit rates of the moving image blocks corresponding to each of the divided moving images of the divided moving images is equal to or less than a predetermined value. A decision step;
A bit rate determination method comprising:
1つ以上のコンピュータにより実行されるビットレート決定方法であって、
動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定ステップと、
前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、
前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得ステップであって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得ステップと、
前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化ステップと、
前記正規化ステップにより正規化された各前記重要度と、前記取得ステップにより取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、
を含むことを特徴とするビットレート決定方法。
A bit rate determination method executed by one or more computers, comprising:
A specific step of identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
A first determination step of determining the importance of the video block specified by the specifying step for each video block;
The acquisition step of acquiring a template having the same number of corresponding areas as the divided moving image, and a predetermined bit rate assigned to each of the corresponding areas, the allocation pattern of the predetermined bit rate to each of the corresponding areas Obtaining a plurality of the templates different from each other;
A normalizing step of normalizing the importance of the plurality of video blocks so that an average value of the importance of the plurality of video blocks becomes a reference bit rate;
An error between each importance level normalized by the normalization step and the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition step is calculated for each acquired template. A second determining step of calculating and determining the bit rate for each moving image block using the predetermined bit rate assigned to each corresponding region of the template with a relatively small calculated error;
A bit rate determination method comprising:
動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定ステップと、
前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、
前記第1決定ステップにより決定された前記重要度に基づいて、前記複数の動画ブロックのうち少なくとも2つの前記動画ブロックのそれぞれをエンコードするときのビットレートを互いに異ならせ、且つ、前記分割された前記分割動画のうちの一部の分割動画のそれぞれに対応する1つあたりの前記動画ブロックの前記ビットレートの合計が所定値以下になるように、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、
をコンピュータに実行させることを特徴とするプログラム。
A specific step of identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
A first determination step of determining the importance of the video block specified by the specifying step for each video block;
Based on the importance determined in the first determination step, a bit rate for encoding each of at least two of the plurality of video blocks is made different from each other, and the divided The bit rate is determined for each moving image block so that the sum of the bit rates of the moving image blocks corresponding to each of the divided moving images of the divided moving images is equal to or less than a predetermined value. A decision step;
A program that causes a computer to execute.
動画を複数の表示領域に分割した複数の分割動画を所定の時間単位で区切ることで生成される複数の動画ブロックを特定する特定ステップと、
前記特定ステップにより特定された動画ブロックの重要度を前記動画ブロック毎に決定する第1決定ステップと、
前記分割動画と同数の対応領域を有し、各前記対応領域には所定のビットレートが割り当てられたテンプレートを取得する取得ステップであって、各前記対応領域への前記所定のビットレートの割り当てパターンが互いに異なる複数の前記テンプレートを取得する取得ステップと、
前記複数の動画ブロックの重要度の平均値が、基準となるビットレートになるように前記複数の動画ブロックの重要度を正規化する正規化ステップと、
前記正規化ステップにより正規化された各前記重要度と、前記取得ステップにより取得された前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートとの誤差を、前記取得されたテンプレート毎に算出し、算出した誤差が相対的に小さい前記テンプレートの各前記対応領域に割り当てられた前記所定のビットレートを用いて、前記動画ブロック毎に前記ビットレートを決定する第2決定ステップと、
をコンピュータに実行させることを特徴とするプログラム。
A specific step of identifying a plurality of video blocks generated by dividing a plurality of divided videos obtained by dividing a video into a plurality of display areas by a predetermined time unit;
A first determination step of determining the importance of the video block specified by the specifying step for each video block;
The acquisition step of acquiring a template having the same number of corresponding areas as the divided moving image, and a predetermined bit rate assigned to each of the corresponding areas, the allocation pattern of the predetermined bit rate to each of the corresponding areas Obtaining a plurality of the templates different from each other;
A normalizing step of normalizing the importance of the plurality of video blocks so that an average value of the importance of the plurality of video blocks becomes a reference bit rate;
An error between each importance level normalized by the normalization step and the predetermined bit rate assigned to each corresponding area of the template acquired by the acquisition step is calculated for each acquired template. A second determining step of calculating and determining the bit rate for each moving image block using the predetermined bit rate assigned to each corresponding region of the template with a relatively small calculated error;
A program that causes a computer to execute.
JP2015195100A 2015-09-30 2015-09-30 Bit rate determination device, server device, bit rate determination method, and program Active JP6589526B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015195100A JP6589526B2 (en) 2015-09-30 2015-09-30 Bit rate determination device, server device, bit rate determination method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015195100A JP6589526B2 (en) 2015-09-30 2015-09-30 Bit rate determination device, server device, bit rate determination method, and program

Publications (2)

Publication Number Publication Date
JP2017069845A true JP2017069845A (en) 2017-04-06
JP6589526B2 JP6589526B2 (en) 2019-10-16

Family

ID=58495399

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015195100A Active JP6589526B2 (en) 2015-09-30 2015-09-30 Bit rate determination device, server device, bit rate determination method, and program

Country Status (1)

Country Link
JP (1) JP6589526B2 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000253397A (en) * 1999-03-01 2000-09-14 Nec Corp Moving picture encoding device
JP2001346201A (en) * 2000-03-27 2001-12-14 Sony Corp Image coder and its method, image decoder and its method, image recorder, image transmitter
JP2014011622A (en) * 2012-06-29 2014-01-20 Brother Ind Ltd Communication system, terminal device, moving image display method, and program
US20140079126A1 (en) * 2012-09-18 2014-03-20 Vid Scale, Inc. Method and Apparatus for Region of Interest Video Coding Using Tiles and Tile Groups
JP2014183353A (en) * 2013-03-18 2014-09-29 Sony Corp Video processing device, video reproducing device, video processing method, video reproduction method, and video processing system
WO2014155919A1 (en) * 2013-03-27 2014-10-02 日本電気株式会社 Image encoding device, image encoding method and image encoding program

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000253397A (en) * 1999-03-01 2000-09-14 Nec Corp Moving picture encoding device
JP2001346201A (en) * 2000-03-27 2001-12-14 Sony Corp Image coder and its method, image decoder and its method, image recorder, image transmitter
JP2014011622A (en) * 2012-06-29 2014-01-20 Brother Ind Ltd Communication system, terminal device, moving image display method, and program
US20140079126A1 (en) * 2012-09-18 2014-03-20 Vid Scale, Inc. Method and Apparatus for Region of Interest Video Coding Using Tiles and Tile Groups
JP2014183353A (en) * 2013-03-18 2014-09-29 Sony Corp Video processing device, video reproducing device, video processing method, video reproduction method, and video processing system
WO2014155919A1 (en) * 2013-03-27 2014-10-02 日本電気株式会社 Image encoding device, image encoding method and image encoding program

Also Published As

Publication number Publication date
JP6589526B2 (en) 2019-10-16

Similar Documents

Publication Publication Date Title
US11902493B2 (en) Methods and apparatus for processing content based on viewing information and/or communicating content
US11303881B2 (en) Method and client for playing back panoramic video
CN111052750B (en) Method and device for point cloud stream transmission
US10440407B2 (en) Adaptive control for immersive experience delivery
US11653065B2 (en) Content based stream splitting of video data
JP6410918B2 (en) System and method for use in playback of panoramic video content
US9781356B1 (en) Panoramic video viewer
US10750213B2 (en) Methods and systems for customizing virtual reality data
TW201946463A (en) Asynchronous time and space warp with determination of region of interest
JP6433559B1 (en) Providing device, providing method, and program
JP2020512772A (en) Method and apparatus for image processing to optimize image resolution and video streaming bandwidth for VR video
TW201501761A (en) Improving rate control bit allocation for video streaming based on an attention area of a gamer
US10699749B2 (en) Methods and systems for customizing virtual reality data
CN110996097B (en) VR multimedia experience quality determination method and device
US11676330B2 (en) 3d conversations in an artificial reality environment
US20200134780A1 (en) Virtual reality cinema-immersive movie watching for headmounted displays
JP2014176017A (en) Image reproduction apparatus, image distribution apparatus, image reproduction method, and image distribution method
JP6572368B2 (en) Generating apparatus, generating method, and program
JP6589526B2 (en) Bit rate determination device, server device, bit rate determination method, and program
JP6551107B2 (en) Server apparatus, server program, terminal program, moving image transmission method, moving image display method, communication system
WO2022259632A1 (en) Information processing device and information processing method
GB2566478A (en) Probability based 360 degree video stabilisation
JP7259947B2 (en) Video distribution device, video distribution method and program
CN116916028A (en) Video stream scaling using virtual resolution adjustment
CN113316804A (en) Image processing apparatus, image processing method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180622

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190326

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190527

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190820

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190902

R150 Certificate of patent or registration of utility model

Ref document number: 6589526

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150