JP5784538B2 - Streaming media playback device, media bit rate change determination method, and program - Google Patents

Streaming media playback device, media bit rate change determination method, and program Download PDF

Info

Publication number
JP5784538B2
JP5784538B2 JP2012082778A JP2012082778A JP5784538B2 JP 5784538 B2 JP5784538 B2 JP 5784538B2 JP 2012082778 A JP2012082778 A JP 2012082778A JP 2012082778 A JP2012082778 A JP 2012082778A JP 5784538 B2 JP5784538 B2 JP 5784538B2
Authority
JP
Japan
Prior art keywords
bit rate
media
media content
download speed
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012082778A
Other languages
Japanese (ja)
Other versions
JP2013214799A (en
Inventor
隼也 場田
隼也 場田
深田 聡
聡 深田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Communications Corp
Original Assignee
NTT Communications Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Communications Corp filed Critical NTT Communications Corp
Priority to JP2012082778A priority Critical patent/JP5784538B2/en
Publication of JP2013214799A publication Critical patent/JP2013214799A/en
Application granted granted Critical
Publication of JP5784538B2 publication Critical patent/JP5784538B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、映像ストリーミング配信等のストリーミングメディア配信技術に関連するものである。   The present invention relates to streaming media distribution technology such as video streaming distribution.

従来のインターネット向けの映像配信方式の1つとして、メディアファイルを予め複数に分割しておき、それらをHTTPで配信する方式がある(例:Http Live Streaming (HLS))。また、上記の方式を拡張した配信方式として、映像コンテンツをインデックス化し、XML型メタ情報を定義した映像配信方式も提案されている(例:Dynamic Adaptive Streaming over Http (DASH))。   As one of conventional video distribution methods for the Internet, there is a method in which a media file is divided into a plurality of parts in advance and these are distributed by HTTP (for example, Http Live Streaming (HLS)). In addition, a video distribution method in which video content is indexed and XML type meta information is defined has been proposed as a distribution method extending the above method (eg, Dynamic Adaptive Streaming over Http (DASH)).

特開2005−151000号公報JP 2005-151000 A

映像配信においては、ユーザ端末側で適切な映像再生制御を行うために、映像のダウンロード速度の測定がなされることが好ましい。しかし、従来技術においては、例えば、映像データを格納するファイルの単位でしかダウンロード速度を測定することができず、細かな時間単位でのダウンロード速度を算出することができなかった。そのため、速度低下に対する検知が遅れ、ビットレートの変更の対処を適切に行うことができずに、映像が停止しやすいという課題があった。   In video distribution, it is preferable to measure the video download speed in order to perform appropriate video playback control on the user terminal side. However, in the prior art, for example, the download speed can be measured only in units of files that store video data, and the download speed in fine time units cannot be calculated. For this reason, there has been a problem in that detection of the speed drop is delayed, and it is difficult to appropriately deal with the change in the bit rate, and the video is likely to stop.

本発明は上記の点に鑑みてなされたものであり、適切なデータ単位でダウンロード速度等の通信状況を測定し、測定結果に基づいて自動的にビットレート変更を行うための技術を提供することを主な目的とする。   The present invention has been made in view of the above points, and provides a technique for measuring a communication state such as a download speed in an appropriate data unit and automatically changing a bit rate based on the measurement result. Is the main purpose.

上記の課題を解決するために、本発明は、ネットワーク接続されたストリーミングメディア配信装置からメディアコンテンツをダウンロードして再生するストリーミングメディア再生装置であって、
前記メディアコンテンツに対応するインデックス情報を参照することにより、前記メディアコンテンツにおける所定単位のデータを受信したことを把握し、当該所定単位で前記メディアコンテンツのダウンロードに係る通信状況を測定する通信状況測定手段と、
前記通信状況測定手段による測定結果に基づいて、前記メディアコンテンツのビットレートを変更するか否かを判定するビットレート変更判定手段とを備えたことを特徴とするストリーミングメディア再生装置として構成される。
In order to solve the above problems, the present invention is a streaming media playback device that downloads and plays media content from a streaming media distribution device connected to a network.
Communication status measuring means for determining that a predetermined unit of data in the media content has been received by referring to the index information corresponding to the media content, and measuring the communication status related to the download of the media content in the predetermined unit When,
It is configured as a streaming media playback device comprising: a bit rate change determination unit that determines whether or not to change the bit rate of the media content based on a measurement result by the communication status measurement unit.

前記通信状況測定手段は、例えば前記所定単位としてGOP単位で、前記メディアコンテンツのダウンロード速度を前記通信状況として測定する。   The communication status measurement unit measures the download speed of the media content as the communication status, for example, in units of GOP as the predetermined unit.

前記通信状況測定手段は、一つのGOPの受信が完了する度に、一定時間前から現時点の間に受信したデータ量に基づいて、前記ダウンロード速度を算出することとしてもよい。   The communication status measuring means may calculate the download speed based on the amount of data received between a certain time ago and the present time each time reception of one GOP is completed.

前記ビットレート変更判定手段は、前記所定単位のデータを受信した場合、現在のビットレートを変更せずに以降の所定単位のデータをダウンロードすることとした場合に、当該以降の所定単位のデータの受信が完了するまでにバッファが所定の状態になるか否かを判定し、バッファが所定の状態になる場合に、ビットレートを下げると判定するようにしてもよい。前記所定の状態は、例えば、前記メディアコンテンツの再生に支障をきたす状態である。   The bit rate change determining means receives the predetermined unit of data, downloads the subsequent predetermined unit of data without changing the current bit rate, and determines the subsequent predetermined unit of data. It may be determined whether or not the buffer is in a predetermined state before reception is completed, and when the buffer is in a predetermined state, it may be determined that the bit rate is to be reduced. The predetermined state is, for example, a state that hinders reproduction of the media content.

前記ビットレート変更判定手段は、ビットレートを下げると判定した場合に、前記通信状況として測定したダウンロード速度の所定倍を上回らない最大のビットレートを選択することとしてもよい。   The bit rate change determination means may select the maximum bit rate that does not exceed a predetermined multiple of the download speed measured as the communication status when it is determined to lower the bit rate.

前記ビットレート変更判定手段は、現在のビットレートより上のビットレートの所定倍のダウンロード速度を一定時間以上維持できたか否かを判定し、維持できた場合に、前記上のビットレートにビットレートを上げると判定するように構成してもよい。   The bit rate change determining means determines whether or not a download speed that is a predetermined multiple of the bit rate above the current bit rate has been maintained for a certain period of time, and if the download rate is maintained, You may comprise so that it may determine with raising.

前記通信状況測定手段は、前記通信状況の測定において、前記メディアコンテンツのデータ取得要求を起点とし、当該データ取得要求を跨いだ測定を行わないようにしてもよい。   In the measurement of the communication status, the communication status measurement unit may start from the data acquisition request for the media content and not perform measurement across the data acquisition request.

また、本発明は、ストリーミングメディア再生装置が実行するメディアビットレート変更判定方法、コンピュータを、ストリーミングメディア再生装置の各手段として機能させるためのプログラムとして構成することもできる。   The present invention can also be configured as a media bit rate change determination method executed by the streaming media playback device and a program for causing a computer to function as each means of the streaming media playback device.

本発明によれば、適切なデータ単位でダウンロード速度等の通信状況を測定し、測定結果に基づいて自動的にビットレート変更を行うための技術を提供することが可能となる。   ADVANTAGE OF THE INVENTION According to this invention, it becomes possible to provide the technique for measuring communication conditions, such as a download speed, in an appropriate data unit, and changing a bit rate automatically based on a measurement result.

本発明の実施の形態で用いるメディア配信方式を説明するための図である。It is a figure for demonstrating the media delivery system used by embodiment of this invention. 本発明の実施の形態で用いるメディア配信方式を説明するための図である。It is a figure for demonstrating the media delivery system used by embodiment of this invention. 本発明の実施の形態に係るシステム構成図である。It is a system configuration figure concerning an embodiment of the invention. ダウンロード速度測定の動作を説明するための図である。It is a figure for demonstrating operation | movement of download speed measurement. トリックプレイにおけるGOPの特定処理を説明するための図である。It is a figure for demonstrating the specific process of GOP in trick play.

以下、図面を参照して本発明の実施の形態を説明する。なお、以下で説明する実施の形態は一例に過ぎず、本発明が適用される実施の形態は、以下の実施の形態に限られるわけではない。例えば、本実施の形態ではメディア配信方式としてDASHを用いることを想定しているが、本発明を適用可能なメディア配信方式はDASHに限られるわけではない。また、配信されるメディアは、MPEGでエンコードしたストリーミング映像コンテンツであることを想定しているが、本発明はこれに限られない。   Embodiments of the present invention will be described below with reference to the drawings. The embodiment described below is only an example, and the embodiment to which the present invention is applied is not limited to the following embodiment. For example, in the present embodiment, it is assumed that DASH is used as the media distribution method, but the media distribution method to which the present invention can be applied is not limited to DASH. In addition, it is assumed that the distributed media is streaming video content encoded by MPEG, but the present invention is not limited to this.

(本実施の形態のメディア配信方式について)
まず、本実施の形態で用いられるメディア配信方式について説明する。なお、以下で説明するメディア配信方式の内容は、本発明に関係する部分を主に説明するものである。
(About the media distribution method of this embodiment)
First, the media distribution method used in this embodiment will be described. Note that the contents of the media distribution method described below mainly describe the parts related to the present invention.

このメディア配信方式においては、図1に示すように、メディアコンテンツが複数のセグメントに分けられる。各セグメントは、複数のGOP(Group of Pictures)を含む。ここでのGOPは、Iフレームから、次のIフレームの前までの一連のメディアデータである。   In this media distribution method, media content is divided into a plurality of segments as shown in FIG. Each segment includes a plurality of GOPs (Group of Pictures). The GOP here is a series of media data from an I frame to the next I frame.

また、このメディア配信方式においては、メディアコンテンツに対応するインデックス情報が用意されている。このインデックス情報は、各セグメントのメディアコンテンツにおける時間位置と、メディアコンテンツにおけるデータ位置を含む。ここでの「時間位置」とは、本実施の形態では、メディアコンテンツの開始を起点とした該当セグメントのメディアが始まる時間(時刻)と、当該セグメントの時間長とからなるものである。これは開始時間及び終了時間からなるものでもよい。また、本実施の形態における「データ位置」は、メディアコンテンツの開始を起点とした当該セグメントの先頭のバイト位置と、当該セグメントのバイト長(サイズ)からなる。また、開始バイト位置及び終了バイト位置からなるものでもよい。   In this media distribution method, index information corresponding to media content is prepared. This index information includes the time position in the media content of each segment and the data position in the media content. In this embodiment, the “time position” includes a time (time) when the media of the corresponding segment starts from the start of the media content and a time length of the segment. This may consist of a start time and an end time. In addition, the “data position” in the present embodiment includes the start byte position of the segment starting from the start of the media content and the byte length (size) of the segment. It may also consist of a start byte position and an end byte position.

また、本実施の形態では、セグメント毎に、図2に示すように、セグメント内の各GOPに対応するインデックス情報が用意されているとともに、各GOP内のIフレーム、Pフレーム、最初のBフレームに対応するインデックス情報を有する。図2の例では、例えば、セグメント2の中のGOP2に対して、インデックスS2が用意されている。このインデックスS2は、例えば、セグメント2の中のGOP2の相対的な開始時間と時間長、及び開始データ位置とサイズを有する。   In this embodiment, as shown in FIG. 2, index information corresponding to each GOP in the segment is prepared for each segment, and the I frame, P frame, and first B frame in each GOP are prepared. Has index information corresponding to. In the example of FIG. 2, for example, an index S2 is prepared for GOP2 in segment 2. This index S2 has, for example, the relative start time and time length of GOP2 in segment 2, and the start data position and size.

また、例えば、GOP2の中のIフレームに対応するインデックスL1は、例えば、当該IフレームのGOP2の中の相対的な開始時刻と時間長、及び開始データ位置とサイズを含む。GOP2の中の最初のPフレームに対応するインデックスL2は、例えば、当該PフレームのGOP2の中の相対的な開始時刻と時間長、及び開始データ位置とサイズを含む。   For example, the index L1 corresponding to the I frame in GOP2 includes, for example, the relative start time and time length in GOP2 of the I frame, and the start data position and size. The index L2 corresponding to the first P frame in GOP2 includes, for example, the relative start time and time length in GOP2 of the P frame, and the start data position and size.

本メディア配信方式において、各セグメントには、セグメント情報として、当該セグメントのネットワーク上の位置情報(ネットワーク位置情報)が付与されており、ユーザ端末は、このネットワーク位置情報を指定してセグメントを取得することができる。本実施の形態では、このネットワーク位置情報はHTTP URLであり、ユーザ端末は、このURLを指定したHTTP GETリクエストにより、セグメントを取得する。ただし、メディアコンテンツのデータを取得するための信号は、HTTP GETリクエストに限られるわけではなく、他の信号を用いて取得してもよい。   In this media delivery method, each segment is given location information (network location information) on the network as segment information, and the user terminal acquires the segment by designating this network location information. be able to. In this embodiment, this network location information is an HTTP URL, and the user terminal acquires a segment by an HTTP GET request specifying this URL. However, the signal for acquiring the media content data is not limited to the HTTP GET request, and may be acquired using another signal.

また、インデックス情報を用いることで、1つのセグメント内のデータ位置やデータ範囲を指定することにより、特定のGOPのデータを取得することも可能である。また、特定のGOPの中の特定のフレームのデータを取得することも可能である。なお、ネットワーク位置情報及びインデックス情報はメタ情報と呼ぶことができる。   In addition, by using the index information, it is possible to acquire data of a specific GOP by designating the data position or data range in one segment. It is also possible to acquire data of a specific frame in a specific GOP. Note that the network location information and index information can be called meta information.

更に、本メディア配信方式では、メディアのビットレート(帯域とも呼び、映像でいえば画質、画像の縦横の画素数等に対応)毎に、別々のメディアコンテンツ及びメタ情報が用意されており、ユーザ端末は、所望のビットレートのメディアコンテンツのネットワーク位置情報を指定することで、所望のビットレートのメディアコンテンツのセグメントを取得できる。   Furthermore, in this media distribution method, different media contents and meta information are prepared for each media bit rate (also called bandwidth, corresponding to image quality, the number of vertical and horizontal pixels of an image). A terminal can acquire a segment of media content having a desired bit rate by designating network location information of the media content having a desired bit rate.

上記のネットワーク位置情報及びインデックス情報は、メディアコンテンツに対応付けられたメタ情報として、メディア配信装置側に格納されており、ユーザ端末は、必要に応じてネットワーク位置情報及び必要に応じてインデックス情報をメディア配信装置から取得し、取得した情報を用いて、メディアコンテンツのダウンロード、及び再生を行う。   The above network location information and index information are stored on the media distribution device side as meta information associated with the media content, and the user terminal stores the network location information and the index information as necessary. The media content is acquired from the media distribution device, and the media information is downloaded and played using the acquired information.

(システム構成)
図3に、本発明の実施の形態に係るシステム構成を示す。図3に示すように、本実施の形態のシステムは、メディア配信装置1とユーザ端末2とがネットワーク3(例えばインターネット)を介して接続された構成を有する。ユーザ端末2は、ストリーミングメディア再生装置と称してもよい。
(System configuration)
FIG. 3 shows a system configuration according to the embodiment of the present invention. As shown in FIG. 3, the system according to the present embodiment has a configuration in which a media distribution device 1 and a user terminal 2 are connected via a network 3 (for example, the Internet). The user terminal 2 may be referred to as a streaming media playback device.

メディア配信装置1は、メタ情報格納部11、メディアコンテンツ格納部12、情報配信制御部13を備える。   The media distribution device 1 includes a meta information storage unit 11, a media content storage unit 12, and an information distribution control unit 13.

メタ情報格納部11は、前述したメタ情報を格納する。メディアコンテンツ格納部12は、メディアコンテンツを格納する。情報配信制御部13は、ユーザ端末2からの要求に基づいて、メタ情報やメディアデータをユーザ端末2に送信する機能部である。   The meta information storage unit 11 stores the meta information described above. The media content storage unit 12 stores media content. The information distribution control unit 13 is a functional unit that transmits meta information and media data to the user terminal 2 based on a request from the user terminal 2.

ユーザ端末2は、ユーザインタフェース部21、メタ情報取得部22、メタ情報格納部23、メディアデータ取得処理部24、ダウンロード速度監視部25、ビットレート変更判定部26、メディア再生処理部27を備える。また、図示していないが、現在のビットレートや、処理に必要な各種パラメータ等を格納する記憶手段を備える。   The user terminal 2 includes a user interface unit 21, a meta information acquisition unit 22, a meta information storage unit 23, a media data acquisition processing unit 24, a download speed monitoring unit 25, a bit rate change determination unit 26, and a media playback processing unit 27. Further, although not shown in the drawing, a storage means for storing the current bit rate, various parameters necessary for processing, and the like is provided.

ユーザインタフェース部21は、ユーザによるユーザ端末2に対する操作指示を受け付け、その指示内容を各機能部に通知する機能部である。ユーザインタフェース部21はディスプレイ(表示部)と一体化した機能部であってもよいし、ディスプレイはユーザ端末2に接続される別の装置であってもよい。   The user interface unit 21 is a functional unit that receives an operation instruction from the user to the user terminal 2 and notifies the function unit of the content of the instruction. The user interface unit 21 may be a functional unit integrated with a display (display unit), or the display may be another device connected to the user terminal 2.

本実施の形態における指示としては、再生開始、トリックプレイ等がある。また、ユーザインタフェース部21は、メディア配信装置1もしくはその他のWebサーバ等から、メディアコンテンツ選択用のページ情報を受信して表示し、どのメディアを視聴するかをユーザに選択させ、選択されたメディアに関するメタ情報(メディアの全長時間等の基本的な情報を含む)を取得して、メタ情報格納部23に格納する機能を備えてもよい。また、上記の機能を、ユーザ端末2に含まれるWebブラウザが実行し、メタ情報を取得することで、アプリケーションを起動し、当該アプリケーションが起動することにより、図3に示すユーザ端末2の各機能部が構成される形態を採用してもよい。   Examples of instructions in the present embodiment include start of reproduction and trick play. In addition, the user interface unit 21 receives and displays page information for selecting media contents from the media distribution device 1 or other Web server, and causes the user to select which media is to be viewed and the selected media. Meta information (including basic information such as the total length of the media) may be acquired and stored in the meta information storage unit 23. Further, the above functions are executed by the Web browser included in the user terminal 2 and the meta information is acquired to start the application. When the application is started, each function of the user terminal 2 shown in FIG. You may employ | adopt the form in which a part is comprised.

メタ情報取得部22は、処理に必要なメタ情報をメディア配信装置1から取得し、メタ情報格納部23に格納する機能部である。例えば、トリックプレイの指示を受けたときに、必要なインデックス情報がユーザ端末2になかった場合に、当該メディアに対応するインデックス情報を取得する。メタ情報格納部23は、メタ情報を格納し、メタ情報を用いて処理を行う各機能部から適宜参照される。   The meta information acquisition unit 22 is a functional unit that acquires meta information necessary for processing from the media distribution device 1 and stores it in the meta information storage unit 23. For example, when the user terminal 2 does not have necessary index information when receiving a trick play instruction, index information corresponding to the media is acquired. The meta information storage unit 23 stores meta information and is appropriately referred to by each functional unit that performs processing using the meta information.

メディアデータ取得処理部24は、バッファ241(メモリ)を有し、メタ情報格納部23に格納されているメタ情報を用いて、必要なメディアデータをメディア配信装置1から取得し、バッファ241に格納する。バッファ241に格納されたメディアデータは、メディア再生処理部27にタイムスタンプとともに渡される。メディア再生処理部27はメディア再生処理を行う。   The media data acquisition processing unit 24 has a buffer 241 (memory), acquires necessary media data from the media distribution device 1 using the meta information stored in the meta information storage unit 23, and stores it in the buffer 241. To do. The media data stored in the buffer 241 is passed to the media playback processing unit 27 together with a time stamp. The media playback processing unit 27 performs media playback processing.

例えば、メディアの通常の再生の場合、メディアデータ取得処理部24は、セグメントのネットワーク位置情報を用いて、順次セグメントを取得し、バッファ241に格納するとともに、メディア再生処理部27は、バッファ241に格納されたメディアデータを順次取得して再生処理を行い、ディスプレイに表示する。   For example, in the case of normal playback of media, the media data acquisition processing unit 24 sequentially acquires segments using the network position information of the segments and stores them in the buffer 241, and the media playback processing unit 27 stores in the buffer 241. The stored media data is sequentially acquired and reproduced, and displayed on the display.

ダウンロード速度監視部25は、メディアデータ取得処理部24が取得するメディアデータのダウンロード速度を測定する。また、ビットレート変更判定部26は、ダウンロード速度等に応じて、ビットレートの変更を行うか否かを判定し、変更が必要な場合は、ビットレートの変更を行って、変更後のビットレートをメディアデータ取得処理部24及びメディア再生処理部27に通知する。ダウンロード速度の測定及びビットレート変更判定については後に詳細に説明する。   The download speed monitoring unit 25 measures the download speed of the media data acquired by the media data acquisition processing unit 24. Further, the bit rate change determination unit 26 determines whether or not to change the bit rate according to the download speed or the like. If the change is necessary, the bit rate is changed and the changed bit rate is changed. Is notified to the media data acquisition processing unit 24 and the media reproduction processing unit 27. The measurement of the download speed and the bit rate change determination will be described in detail later.

また、メディアデータ取得処理部24は、トリックプレイ制御機能を含み、ユーザインタフェース部21からトリックプレイの指示を受けた場合に、トリックプレイを実行するための制御を行う。トリックプレイについても詳細は後述する。   The media data acquisition processing unit 24 includes a trick play control function, and performs control for executing trick play when receiving a trick play instruction from the user interface unit 21. Details of trick play will be described later.

なお、本実施の形態では、ダウンロード速度の測定・ビットレート変更判定の機能と、トリックプレイの機能の両方を備えることとしているが、これらのうちのどちらか一方のみを備えることとしてもよい。   In this embodiment, both the download speed measurement / bit rate change determination function and the trick play function are provided, but only one of them may be provided.

ユーザ端末2は、コンピュータ本体とディスプレイが分離した一般的なPCでもよいし、スマートフォン等のように、操作部と表示部が一体化したタッチパネルを備える端末でもよい。また、これら以外の端末であってもよい。   The user terminal 2 may be a general PC in which a computer main body and a display are separated, or may be a terminal including a touch panel in which an operation unit and a display unit are integrated, such as a smartphone. Moreover, terminals other than these may be used.

ユーザ端末2、メディア配信装置1のいずれも、通信機能を有するコンピュータに、本実施の形態で説明する処理に対応するプログラムを実行させることにより実現可能である。当該プログラムは、可搬メモリ等の記憶媒体に格納して配布し、上記コンピュータにインストールして用いてもよいし、ネットワーク上のサーバからダウンロードして上記コンピュータにインストールしてもよい。   Both the user terminal 2 and the media distribution device 1 can be realized by causing a computer having a communication function to execute a program corresponding to the processing described in the present embodiment. The program may be stored in a storage medium such as a portable memory and distributed, installed on the computer, or downloaded from a server on a network and installed on the computer.

(ダウンロード速度測定)
次に、上述したユーザ端末2が実行するダウンロード速度の測定について説明する。
(Download speed measurement)
Next, the download speed measurement executed by the user terminal 2 described above will be described.

本実施の形態におけるダウンロード速度監視部25は、セグメントデータの取得開始(HTTP GETリクエスト発行)を基点として、GOP受信毎にダウンロード速度を測定する。   The download speed monitoring unit 25 in the present embodiment measures the download speed every time a GOP is received, starting from the start of segment data acquisition (HTTP GET request issuance).

より具体的には、GOP受信時点から過去一定時間に受信したデータ量および受信に要した時間(すなわち、当該一定時間)からダウンロード速度を算出する。ただし、HTTP GETリクエストを起点とし、当該HTTP GETリクエストを跨ってのダウンロード速度計測は行わない。上記の「一定時間」とは、予め定めておく時間である。また、HTTP GETリクエスト発行から最初のセグメントデータ到着までの遅延時間を考慮し、この遅延時間についてはダウンロード速度計測の対象外としている。   More specifically, the download speed is calculated from the amount of data received in the past certain time from the GOP reception time and the time required for reception (that is, the certain time). However, starting from an HTTP GET request, the download speed is not measured across the HTTP GET request. The “certain time” is a predetermined time. Considering the delay time from the HTTP GET request issuance to the arrival of the first segment data, this delay time is not subject to download speed measurement.

図4に、ダウンロード速度測定の動作イメージを示す。この動作の前提として、ユーザ端末2のメタ情報格納部23には、該当メディアに関する各セグメントのインデックス情報と各GOPについてのインデックス情報が格納されており、HTTP GETリクエストに係るセグメントについてのインデックス情報を参照できるものとする。つまり、HTTP GETリクエストに係るセグメントの最初からどのバイト位置にどのGOPの先頭(末尾)があるかを把握できる。   FIG. 4 shows an operation image of download speed measurement. As a premise of this operation, the meta information storage unit 23 of the user terminal 2 stores the index information of each segment related to the corresponding media and the index information about each GOP, and the index information about the segment related to the HTTP GET request is stored. It can be referred to. That is, it is possible to grasp which GOP has the beginning (end) of which GOP from the beginning of the segment related to the HTTP GET request.

ユーザ端末2のメディアデータ取得処理部24からHTTP GETリクエストが送信されると、メディア配信装置1は、当該リクエストで要求されたセグメントデータをユーザ端末2に向けて送信することを開始する。   When an HTTP GET request is transmitted from the media data acquisition processing unit 24 of the user terminal 2, the media distribution device 1 starts transmitting the segment data requested by the request toward the user terminal 2.

ユーザ端末2のメディアデータ取得処理部24は、メディアデータを連続的に受信し、バッファ241に格納し、バッファ241からメディアデータがメディア再生処理部27に渡される。   The media data acquisition processing unit 24 of the user terminal 2 continuously receives the media data, stores it in the buffer 241, and the media data is transferred from the buffer 241 to the media playback processing unit 27.

一方、ダウンロード速度監視部25は、所定の短い時間毎に受信データ量(つまり、バッファに入れられたデータ量)を計測している。また、ダウンロード速度監視部25は、インデックス情報を参照することにより、最初にデータ受信したときからの受信データ量に基づいて、1個1個のGOPを受信したことを認識する。すなわち、例えば、ダウンロード速度監視部25は、インデックス情報に基づいて、GOP1のデータ量がYバイトであることを把握し、最初からYバイト目を受信したときに、GOP1のデータを受信完了したことを判断できる。次に、ダウンロード速度監視部25は、インデックス情報に基づいて、GOP2のデータ量がXバイトであることを把握し、GOP1のデータ受信の後、Xバイト目を受信したときに、GOP2を受信したことを把握できる。このようにして、セグメントに含まれるGOP毎に、受信ポイント(受信時間)を判断できる。以下では、この受信ポイントを測定ポイントとも呼ぶ。   On the other hand, the download speed monitoring unit 25 measures the amount of received data (that is, the amount of data stored in the buffer) every predetermined short time. The download speed monitoring unit 25 refers to the index information to recognize that each GOP has been received based on the received data amount from when the data was first received. That is, for example, the download speed monitoring unit 25 recognizes that the data amount of GOP1 is Y bytes based on the index information, and has received the GOP1 data when receiving the Y byte from the beginning. Can be judged. Next, the download speed monitoring unit 25 grasps that the data amount of GOP2 is X bytes based on the index information, and receives GOP2 when the Xth byte is received after receiving GOP1 data. I can understand that. In this way, the reception point (reception time) can be determined for each GOP included in the segment. Hereinafter, this reception point is also referred to as a measurement point.

ダウンロード速度監視部25は、GOPの測定ポイント毎に、過去の一定時間前から現在(受信ポイントの時点)までに受信したデータ量を、この一定時間で割ることにより、ダウンロード速度を算出する。   The download speed monitoring unit 25 calculates the download speed by dividing the amount of data received from a certain time before the present to the present (at the time of the reception point) by the certain time for each measurement point of the GOP.

なお、図4では、「一定時間」が、GOPの2つ分程度となっているが、これは図示の便宜上の一例に過ぎない。また、「一定時間」前の時点が、最初のデータを受信する前の時間を含む場合(図4の例では、GOP1とGOP2の測定ポイントの場合)、つまり、最初にデータを受信してから測定ポイントまでの時間が、「一定時間」より短い場合には、「一定時間」に代えて、最初にデータを受信してから、測定ポイントまでの時間を用いることとしてよい。   In FIG. 4, the “certain time” is about two GOPs, but this is merely an example for convenience of illustration. In addition, when the time point before the “certain time” includes the time before receiving the first data (in the example of FIG. 4, in the case of the measurement points of GOP1 and GOP2), that is, after receiving the data for the first time. When the time to the measurement point is shorter than the “fixed time”, the time from the first reception of data to the measurement point may be used instead of the “fixed time”.

上記のように、GOPを受信する毎に、一定時間の間に受信したデータ量に基づくダウンロード速度を算出することにより、GOP毎のダウンロード速度の変動を均すことができ、測定結果として急激なダウンロード速度の変動が生じることを回避して、適切なダウンロード速度を得ることができる。ただし、この場合の「一定時間」は、1つのGOPを受信するためにかかる時間より長い時間である。   As described above, every time a GOP is received, the download speed based on the amount of data received during a certain period of time is calculated, so that fluctuations in the download speed for each GOP can be leveled. An appropriate download speed can be obtained by avoiding fluctuations in the download speed. However, the “certain time” in this case is longer than the time taken to receive one GOP.

上記の測定方法のように、GOPを受信する度に「一定時間」の間に受信したデータ量に基づきダウンロード速度を測定することに代えて、GOPを受信する度に、当該GOPの1つ前のGOP受信完了から当該GOP受信完了までに受信したデータ量をその間の時間で割ることでダウンロード速度を算出してもよい。この方法は、例えば、GOP毎の速度変動が少ないと予想されるネットワーク環境において適している。   Instead of measuring the download speed based on the amount of data received during a “certain time” every time a GOP is received as in the above measurement method, each time a GOP is received, The download speed may be calculated by dividing the amount of data received from the completion of GOP reception to the completion of the GOP reception by the time between them. This method is suitable, for example, in a network environment where the speed fluctuation for each GOP is expected to be small.

上記のようにして測定されたダウンロード速度は、例えば、ユーザ端末2の表示部に表示してもよい。本実施の形態では、以下のようにして、ダウンロード速度に基づいて、ビットレート変更判定を行っている。   The download speed measured as described above may be displayed on the display unit of the user terminal 2, for example. In the present embodiment, the bit rate change determination is performed based on the download speed as follows.

(ビットレート変更判定)
ダウンロード速度監視部25は、ダウンロード速度を測定する度に、測定したダウンロード速度をビットレート変更判定部26に通知する。
(Bit rate change judgment)
The download speed monitoring unit 25 notifies the bit rate change determination unit 26 of the measured download speed every time the download speed is measured.

<ビットレートを下げるための判定処理>
ビットレート変更判定部26は、ダウンロード速度監視部25から通知された現在のダウンロード速度で、次のGOPをダウンロードした場合に、GOPのダウンロードが完了するまでに、バッファ241が枯渇してしまうかどうかをダウンロード速度測定の度に判定し、枯渇してしまう場合にメディアのビットレートを下げると判断する。なお、ここでは、一例として、次のGOPをダウンロードした場合に、GOPのダウンロードが完了するまでに、バッファ241が枯渇してしまうかどうかを判定することとしているが、次の1つのGOPではなく、以降の複数個のGOPをダウンロードした場合についての判定を行うこととしてもよい。
<Judgment processing to lower the bit rate>
The bit rate change determination unit 26 determines whether or not the buffer 241 is depleted until the GOP download is completed when the next GOP is downloaded at the current download speed notified from the download speed monitoring unit 25. Is determined every time the download speed is measured, and if it is exhausted, it is determined that the bit rate of the media will be lowered. Note that, here, as an example, when the next GOP is downloaded, it is determined whether or not the buffer 241 is exhausted before the GOP download is completed, but this is not the next one GOP. Then, it may be determined that a plurality of subsequent GOPs have been downloaded.

また、バッファ241が枯渇してしまうかどうかを判定することも一例に過ぎない。「枯渇」は、メディアコンテンツの再生に支障をきたす状態の例であり、メディアコンテンツの再生に支障をきたすその他の状態を判定に用いてもよい。例えば、バッファ241の蓄積量が予め定めた量以下になったかどうか、もしくは、バッファ241の蓄積量がメディアデータ全体に対する所定%以下になったかどうかを判定して、ビットレートの変更を判定してもよい。   Further, determining whether or not the buffer 241 is exhausted is just an example. “Depletion” is an example of a state that hinders reproduction of media content, and other states that hinder reproduction of media content may be used for determination. For example, it is determined whether or not the accumulated amount of the buffer 241 is equal to or less than a predetermined amount, or whether the accumulated amount of the buffer 241 is equal to or less than a predetermined percentage of the entire media data, and the bit rate change is determined. Also good.

例えば、図4の例において、GOP3を受信した時点で算出したダウンロード速度がX kbit/sであったとし、次に受信するGOP4のサイズをインデックス情報から3X kbitであることを把握したとする。この場合、3X kbitのデータを受信するのに3X÷X=3秒かかると算出される。また、ビットレート変更判定部26は、GOP3を受信した時点でのバッファ241のデータ蓄積量が10Xkbitであることを把握したとする。そして、このときのメディアのビットレートが5Xkbit/sであるとすると、ほぼ5Xkbit/sの速さでバッファ241からデータが取得され、その分のバッファのデータが減少していく。そうすると、GOP4を受信するのにかかる3秒では、15Xkbitのデータがバッファから取得されるはずである。しかし、GOP3を受信した時点でのバッファ241のデータ蓄積量が10Xkbitであり、GOP4のサイズが3Xkbitであるから、これらを合計すると13kbitとなり、15Xkbitより少ない。よって、3秒の間に、バッファ241のデータが枯渇する(0になる)ことになる。バッファ241のデータが枯渇すると、メディア再生において、映像が止まったりして、再生品質が低下する。   For example, in the example of FIG. 4, it is assumed that the download speed calculated when GOP3 is received is X kbit / s, and the size of GOP4 to be received next is 3X kbit from the index information. In this case, it is calculated that it takes 3X ÷ X = 3 seconds to receive 3X kbit data. Further, it is assumed that the bit rate change determination unit 26 grasps that the data accumulation amount of the buffer 241 at the time of receiving GOP3 is 10 × kbit. If the bit rate of the medium at this time is 5Xkbit / s, data is acquired from the buffer 241 at a speed of approximately 5Xkbit / s, and the data in the buffer correspondingly decreases. Then, in 3 seconds required to receive GOP4, 15 Xkbit data should be obtained from the buffer. However, since the amount of data stored in the buffer 241 at the time of receiving GOP3 is 10Xkbit and the size of GOP4 is 3Xkbit, the total of these is 13kbit, which is less than 15Xkbit. Therefore, the data in the buffer 241 is exhausted (becomes 0) within 3 seconds. When the data in the buffer 241 is depleted, the video is stopped during media playback, and the playback quality deteriorates.

そこで、本実施の形態のビットレート変更判定部26は、この場合にビットレートを下げると判断する。   Therefore, the bit rate change determination unit 26 according to the present embodiment determines to decrease the bit rate in this case.

本実施の形態では、ビットレート変更判定部26は、ビットレートを下げると判断した場合に、直前に算出したダウンロード速度(現時点でのGOP受信で算出したダウンロード速度)の定倍(これをD倍とする)を上回らない最大のビットレートを変更後のビットレートとして選択する。   In the present embodiment, when the bit rate change determination unit 26 determines that the bit rate is to be lowered, the bit rate change determination unit 26 is a fixed multiple of the download speed calculated immediately before (the download speed calculated by the current GOP reception) (D times this). The maximum bit rate that does not exceed is selected as the changed bit rate.

例えば、D倍が3倍、現在のダウンロード速度がX kbit/s、現在のビットレートが5X kbit/s、これより下のビットレートとして、2.5X kbit/sと、X kbit/sがある場合において、ダウンロード速度を下げる場合、X kbit/sのD倍(3倍)を上回らない最大のビットレートである2.5Xkbit/sを変更後のビットレートとして選択する。なお、このD倍は、適切な値を予め定めておく。例えば、本方式でのダウンロード速度、ビットレート、バッファ量などの間の関係を実験等により測定し、D倍として適切な値を予め定めておいてもよいし、理論値等を用いてもよい。もしくは、これらの関係を一定時間毎にビットレート変更判定部26が把握し、動的にD倍を決定してもよい。   For example, D times 3 times, current download speed is X kbit / s, current bit rate is 5X kbit / s, and lower bit rates are 2.5X kbit / s and X kbit / s. In this case, when the download speed is lowered, 2.5Xkbit / s, which is the maximum bit rate not exceeding D times (3 times) of X kbit / s, is selected as the bit rate after the change. It should be noted that an appropriate value is set in advance for this D times. For example, the relationship between the download speed, bit rate, buffer amount, and the like in this method may be measured by experiment, and an appropriate value as D times may be determined in advance, or a theoretical value or the like may be used. . Alternatively, the bit rate change determination unit 26 may grasp these relationships at regular time intervals and dynamically determine D times.

例えば、上記の例で、D倍を2倍と定めていた場合、X kbit/sが選択されることになるが、このとき、仮にバッファ241に多くのデータが保持されることが継続する状況が発生する場合、より高速のビットレートを使用してもよかったことになる。高速なビットレートのほうが、ユーザは高品質の映像を視聴できるので好ましい。上記の状況をできるだけ少なくし、可能な限りユーザに快適なメディア再生環境を提供するために、D倍を上回らない最大のビットレートを変更後のビットレートとして選択するに際してのD倍が定められる。   For example, in the above example, when D times is set to 2 times, X kbit / s is selected. At this time, it is assumed that a lot of data continues to be held in the buffer 241. If this occurs, it is possible to use a higher bit rate. A high bit rate is preferable because the user can view high-quality video. In order to reduce the above situation as much as possible and provide a user with the most comfortable media playback environment as much as possible, the D-times when the maximum bit rate not exceeding D-times is selected as the changed bit rate is determined.

ビットレート変更判定部26は、上記のようにして変更した変更後のビットレートをメディアデータ取得処理部24、メディア再生処理部27に通知する。変更後のビットレートに対応するメディアコンテンツのメタ情報がメタ情報格納部23にあれば、メディアデータ取得処理部24は、次に取得すべきメディアデータに対応するネットワーク位置情報(変更後のビットレートに対応するメディアデータのネットワーク位置情報)をメタ情報及びインデックス情報から作成してリクエストをメディア配信装置1に送信することで該当のメディアデータを取得し、これを繰り返してビットレート変更後のメディアデータ取得を行うとともに、メディア再生処理部27は、変更後のビットレートでメディア再生を行う。   The bit rate change determination unit 26 notifies the media data acquisition processing unit 24 and the media reproduction processing unit 27 of the changed bit rate changed as described above. If the meta information of the media content corresponding to the changed bit rate is stored in the meta information storage unit 23, the media data acquisition processing unit 24 uses the network location information (the changed bit rate after the change) for the media data to be acquired next. Network position information of the media data corresponding to) is created from the meta information and index information, and the corresponding media data is obtained by sending a request to the media distribution device 1, and this is repeated to change the media data after changing the bit rate In addition to performing acquisition, the media playback processing unit 27 performs media playback at the changed bit rate.

変更後のビットレートに対応するメディアコンテンツのメタ情報がメタ情報格納部23にない場合は、メディアデータ取得処理部24の指示により、メタ情報取得部22がメタ情報を取得し、メタ情報格納部23に格納した後に、上記の処理が行われる。   When the meta information storage unit 23 does not have the meta information of the media content corresponding to the changed bit rate, the meta information acquisition unit 22 acquires the meta information according to the instruction of the media data acquisition processing unit 24, and the meta information storage unit After storing in 23, the above processing is performed.

<ビットレートを上げるための判定処理>
また、ビットレート変更判定部26は、現在のビットレートの1つ上のビットレートの定倍(これをU倍とする)以上のダウンロード速度を一定時間以上維持できたかどうかを、当該一定時間毎に判定している。もしくは、この「一定時間」よりも長い時間間隔で、「一定時間」以上維持できたかどうかの判定を行うようにしてもよい。
<Determination process to increase bit rate>
In addition, the bit rate change determination unit 26 determines whether or not the download speed equal to or higher than a fixed rate of the bit rate that is one bit higher than the current bit rate (this is U times) can be maintained for a certain period of time. It is judged. Alternatively, it may be determined whether or not the “fixed time” or more can be maintained at a time interval longer than the “fixed time”.

現在のビットレートの1つ上のビットレートのU倍以上のダウンロード速度を一定時間以上維持できた場合には、一つ上のビットレートを選択し、ビットレート変更を行う。ビットレートを変更した後の処理は、ビットレートを下げる場合と同じである。なお、ここでは一例として、一つ上のビットレートを選択することとしているが、一つ上のビットレート以外のビットレート(例えば、2つ上、3つ上など)を選択することとしてもよい。   If the download speed that is U times higher than the bit rate one higher than the current bit rate can be maintained for a certain time or longer, the bit rate one higher is selected and the bit rate is changed. The processing after changing the bit rate is the same as when the bit rate is lowered. Here, as an example, the bit rate that is one bit higher is selected, but a bit rate other than the bit rate that is one bit higher (for example, two or three or higher) may be selected. .

例えば、測定結果のダウンロード速度が2.5Xkbit/s〜3Xkbit/sの範囲で一定時間以上継続し、現在のメディアのビットレートが0.5Xkbit/sであり、これより上のビットレートとして、Xkbit/sと2.5Xkbit/sがあり、U倍が2倍である場合を想定する。この場合、1つ上のビットレートであるXkbit/sの2倍は2Xkbit/sであり、上記想定例では、2Xkbit/s以上を一定時間以上維持できたから、ビットレートをXkbit/sにすると判定する。   For example, the download speed of measurement results continues for a certain period of time in the range of 2.5Xkbit / s to 3Xkbit / s, the current media bit rate is 0.5Xkbit / s, and the bit rate above this is Xkbit Assume that there are / s and 2.5Xkbit / s, and U times is twice. In this case, twice the Xkbit / s, which is the next higher bit rate, is 2Xkbit / s. In the above example, 2Xkbit / s or more can be maintained for a certain period of time, so the bit rate is determined to be Xkbit / s. To do.

上記の例で、例えば、ビットレートを上げた後に、すぐにビットレートを下げる状況が発生した場合、すぐにビットレートが下げられることになる。しかし、ビットレートの変更が頻繁に起こることは、ユーザにとって好ましくない。よって、この場合は、U倍として、例えば、3倍が設定されていればよかったことになる。3倍であれば、ビットレートを上げる判断は行われないからである。ただし、倍率を上げすぎると、ビットレートを上げても支障がないのに、ビットレートを上げないという場合が発生し易くなるため好ましくない。   In the above example, for example, when a situation occurs in which the bit rate is immediately reduced after the bit rate is increased, the bit rate is immediately decreased. However, frequent bit rate changes are undesirable for users. Therefore, in this case, it is sufficient that, for example, 3 times is set as U times. This is because if it is three times, the decision to increase the bit rate is not made. However, if the magnification is increased too much, there is no problem even if the bit rate is increased, but the case where the bit rate is not increased is likely to occur.

なお、このU倍は、適切な値を予め定めておく。例えば、本方式でのダウンロード速度、ビットレート、バッファ量などの間の関係を実験等により測定し、U倍として適切な値を予め定めておいてもよいし、理論値等を用いてもよい。もしくは、これらの関係を一定時間毎にビットレート変更判定部26が把握し、動的にU倍を決定してもよい。   It should be noted that an appropriate value is set in advance for U times. For example, the relationship between the download speed, bit rate, buffer amount, etc. in this method may be measured by experiment, etc., and an appropriate value as U times may be determined in advance, or a theoretical value or the like may be used. . Alternatively, the bit rate change determination unit 26 may grasp these relationships at regular time intervals and dynamically determine U times.

また、D倍、U倍の両者において、動的に定倍を定める場合に、ダウンロード速度の長期時間における移動平均を常時算出し、その変動が大きい場合は定倍を大きく設定し、小さい場合には定倍を小さくするようにしてもよい。また、 ビットレート変更後のダウンロード速度から定倍を見直すこととしてもよい。   In addition, when the fixed magnification is dynamically determined for both D times and U times, the moving average of the download speed over a long period of time is always calculated. You may make it make fixed magnification small. It is also possible to review the fixed rate from the download speed after changing the bit rate.

なお、上記の例における各定倍、ビットレート、バッファ量、ダウンロード速度の例は、説明を分かり易くするための便宜上のものであり、上記の各定倍の具体例が実際の適切な値であるとは限らない。   In addition, the example of each fixed magnification, the bit rate, the buffer amount, and the download speed in the above example is for convenience to make the explanation easy to understand, and the specific example of each fixed magnification is an actual appropriate value. Not always.

<ビットレート変更のその他の例>
ビットレートの決定においては、ダウンロード速度を用いずに、バッファ時間が一定の時間を下回ればビットレートを一つ下に下げるという方法を採用してもよい。バッファ時間とは、データがバッファに格納されてから読み出されるまでの時間であり、ビットレート変更判定部26が測定する。
<Other examples of changing the bit rate>
In determining the bit rate, a method may be adopted in which the download rate is not used and the bit rate is lowered by one when the buffer time falls below a certain time. The buffer time is the time from when data is stored in the buffer until it is read, and is measured by the bit rate change determination unit 26.

また、ビットレート変更判定部26は、ダウンロード速度を用いずに、バッファ量の変更を見るだけでビットレートを変更するようにしてもよい。   Further, the bit rate change determination unit 26 may change the bit rate only by looking at the change in the buffer amount without using the download speed.

また、ビットレート変更判定部26は、ダウンロード速度を用いずに、TCPレイヤでのパケット送受信(SYN→SYN,ACK)におけるRTTを算出し、RTTが所定値よりも大きい場合にビットレートを下げ、所定値以下の場合にビットレートを上げる制御を行うこともできる。   Further, the bit rate change determination unit 26 calculates RTT in packet transmission / reception (SYN → SYN, ACK) in the TCP layer without using the download speed, and lowers the bit rate when RTT is larger than a predetermined value, It is also possible to perform control to increase the bit rate when it is less than a predetermined value.

更に、ダウンロード速度の長期トレンドと短期トレンドを比較して、その傾向からビットレート変更の判断をするようにしてもよい。例えば、短期トレンドで速度が低下しても、長期トレンドで低下傾向がなければビットレートを維持するといった判断を行うことが可能である。ここでの長期トレンドとは、例えば、GOP受信毎に測定されるダウンロード速度についての時間ウィンドウTでの移動平均値(GOP受信毎に算出される)の一定期間内の増減量であり、短期トレンドとは、時間ウィンドウTより短い時間での時間ウィンドウにおける移動平均値の一定期間内の増減量である。なお、長期トレンドと短期トレンドはこれに限られるわけではなく、種々の解析手法を用いて長期トレンドと短期トレンドを把握可能である。この長期トレンドと短期トレンドの判断は、前述したダウンロード速度を用いたビットレート変更判定の結果において、変更するとの判定が出た場合において、実際の変更を行うか否かを決定するために用いてもよい。
なお、再生開始時の初期ビットレートは初期設定において選択した帯域を上回らない最大の値を選択することとしてもよい。
Furthermore, the long-term trend and the short-term trend of the download speed may be compared, and the bit rate change may be determined based on the trend. For example, even if the speed decreases due to the short-term trend, it is possible to determine that the bit rate is maintained if there is no downward trend due to the long-term trend. The long-term trend here is, for example, an increase / decrease amount within a certain period of the moving average value (calculated for each GOP reception) in the time window T for the download speed measured every GOP reception. Is an increase / decrease amount within a certain period of the moving average value in the time window in a time shorter than the time window T. The long-term trend and the short-term trend are not limited to this, and the long-term trend and the short-term trend can be grasped by using various analysis methods. The judgment of the long-term trend and the short-term trend is used to determine whether or not the actual change is made when it is determined that the change is made in the result of the bit rate change determination using the download speed described above. Also good.
Note that the initial bit rate at the start of reproduction may be selected as the maximum value that does not exceed the band selected in the initial setting.

(トリックプレイ)
HLS等のインデックスを持たない従来の映像配信技術では、ジャンプ、早送り、巻き戻し等のトリックプレイを可能とするために、映像ファイルの全解析を行ったり、トリックプレイ用の別の映像ファイルを作成する必要があるなど、実装に大きな負担がかかるという課題があった。以下では、この課題を解決したトリックプレイの処理内容について説明する。
(Trick play)
In conventional video distribution technology that does not have an index such as HLS, in order to enable trick play such as jump, fast forward, rewind, etc., the entire video file is analyzed or another video file for trick play is created. There is a problem that a large burden is placed on the implementation, such as the need to do so. Below, the processing content of the trick play which solved this subject is demonstrated.

<ジャンプ>
メディアデータ取得処理部24は、ユーザインタフェース部21から、ジャンプの指示を受ける。例えば、ユーザがメディアを視聴中に、画面上に表示される操作部において、メディアコンテンツの開始から所定時間の位置T(例えば、メディアの開始から30分後の時点)を指定し、この位置へのジャンプを指示すると、ユーザインタフェース部21は、T"30分"の情報を含むジャンプ指示をメディアデータ取得処理部24に送る。
<Jump>
The media data acquisition processing unit 24 receives a jump instruction from the user interface unit 21. For example, while the user is viewing the media, the operation unit displayed on the screen designates a position T for a predetermined time from the start of the media content (for example, a time point 30 minutes after the start of the media), and moves to this position. The user interface unit 21 sends a jump instruction including information of T “30 minutes” to the media data acquisition processing unit 24.

メディアデータ取得処理部24は、メタ情報格納部23にアクセスして、現在視聴中のメディアコンテンツに対応するインデックス情報を参照する。ここでもし必要とするインデックス情報がない場合は、メディアデータ取得処理部24はメタ情報取得部22にインデックス情報を取得させ、取得されたインデックス情報を用いる。   The media data acquisition processing unit 24 accesses the meta information storage unit 23 and refers to index information corresponding to the media content currently being viewed. If there is no necessary index information, the media data acquisition processing unit 24 causes the meta information acquisition unit 22 to acquire the index information and uses the acquired index information.

メディアデータ取得処理部24は、指定された時間位置Tに対応するセグメントおよびセグメント内のバイト位置を特定する。   The media data acquisition processing unit 24 specifies the segment corresponding to the designated time position T and the byte position in the segment.

例えば、セグメントのインデックス情報における時間情報に基づいて、時間位置Tを含むセグメントがセグメント10であると特定されたものとすると、次に、セグメント10内のGOP毎のインデックス情報を参照し、時間位置Tに該当するGOPの先頭のバイト位置を特定する。時間位置Tに該当するGOPとは、例えば、時間位置Tに最も近い先頭を持つGOPとすることができる。例えば、図5に示すように、インデックス情報から把握できるセグメント10の先頭の時間位置がT−TΔであるとすると、セグメント10においてTΔに最も近い時間位置を先頭に持つGOP4がジャンプ先として特定されることになる。このGOP4のセグメント先頭からのバイト位置はインデックス情報から取得できる。   For example, assuming that the segment including the time position T is identified as the segment 10 based on the time information in the segment index information, next, the index information for each GOP in the segment 10 is referred to, and the time position Specify the first byte position of the GOP corresponding to T. The GOP corresponding to the time position T can be a GOP having the head closest to the time position T, for example. For example, as shown in FIG. 5, if the top time position of the segment 10 that can be grasped from the index information is T-TΔ, the GOP4 having the top time position closest to TΔ in the segment 10 is specified as the jump destination. Will be. The byte position from the segment head of GOP4 can be acquired from the index information.

メディアデータ取得処理部24は、上記のようにして特定されたセグメントのネットワーク位置情報(HTTP-URL)とその中のバイト位置を指定して、メディア配信装置1に対してメディアデータ取得要求を送信し、メディアデータを取得し、以降は通常の配信と同様にメディア取得配信が行われる。   The media data acquisition processing unit 24 designates the network location information (HTTP-URL) of the segment specified as described above and the byte location therein, and transmits a media data acquisition request to the media distribution device 1. Then, media data is acquired, and thereafter, media acquisition and distribution are performed in the same manner as normal distribution.

上記の例では、ジャンプをGOP単位で行うこととしているが、ジャンプをセグメント単位で行うこととしてもよい。また、インデックス情報を用いて、時間位置とバイト位置を把握できる限りにおいて、フレーム単位でのジャンプを行うこととしてもよい。   In the above example, the jump is performed in GOP units, but the jump may be performed in segment units. Further, as long as the time position and the byte position can be grasped using the index information, the jump may be performed in units of frames.

<早送り・巻き戻し>
次に、早送り・巻き戻しの処理について説明する。メディアデータ取得処理部24は、ユーザインタフェース部21から、早送りの指示を受けるとする。例えば、ユーザがメディアを視聴中に、画面上に表示される操作部において、早送りボタンを選択すると、その選択情報がユーザインタフェース部21に通知され、ユーザインタフェース部21は早送りの指示をメディアデータ取得処理部24に対して行う。この早送りの指示には、指示の時点でのメディアの開始からの時間の情報が含まれているものとする。
<Fast forward / rewind>
Next, fast forward / rewind processing will be described. Assume that the media data acquisition processing unit 24 receives a fast-forward instruction from the user interface unit 21. For example, when the user selects a fast-forward button on the operation unit displayed on the screen while viewing the media, the selection information is notified to the user interface unit 21, and the user interface unit 21 obtains a fast-forward instruction to obtain media data. This is performed on the processing unit 24. This fast-forwarding instruction includes information on the time from the start of the media at the time of the instruction.

早送りの指示を受けたメディアデータ取得処理部24は、ジャンプの場合と同様にして、指示の時点のメディア時間位置情報とインデックス情報を用いて、早送りの指示を受けた時点に対応するメディアコンテンツのGOPを特定する。更に、当該GOPのインデックス情報を参照することにより、Iフレームのバイト位置及びサイズを特定した後、対象となるセグメントからIフレームのみを要求するリクエストをメディア配信装置1に送り、Iフレームをダウンロードする。   Upon receiving the fast-forward instruction, the media data acquisition processing unit 24 uses the media time position information and the index information at the time of the instruction in the same manner as in the case of the jump, and the media content corresponding to the time point when the fast-forward instruction is received. Specify the GOP. Further, by referring to the index information of the GOP, after specifying the byte position and size of the I frame, a request for requesting only the I frame from the target segment is sent to the media distribution device 1 to download the I frame. .

以後は、設定で定めた早送りの倍速率に応じて、次のIフレームを特定し、コンテンツの終端に達するか、ユーザ操作により再生状態に切り替えられるまで、Iフレームのダウンロード、デコードを繰り返す。例えば、早送りの倍速率に応じて、連続するIフレームを選択したり、所定個数おきにIフレームを選択する。   Thereafter, the next I frame is identified in accordance with the fast-forward rate determined by the setting, and the downloading and decoding of the I frame are repeated until the end of the content is reached or the reproduction state is switched by the user operation. For example, continuous I frames are selected according to the fast-forwarding double speed rate, or I frames are selected every predetermined number.

巻き戻しの場合も早送りの場合と同様にして、指示を受けた時点のIフレームを特定し、メディアの開始方向に、順次Iフレームを特定し、コンテンツの先頭に達するか、ユーザ操作により再生状態に切り替えられるまで、Iフレームのダウンロード、デコードを繰り返す。   In the case of rewinding, the I frame at the time of receiving the instruction is specified in the same way as in the case of fast forward, and the I frame is sequentially specified in the start direction of the media and reaches the beginning of the content or is played by the user operation. Repeat downloading and decoding of I-frame until switched to.

なお、本実施の形態において、メディア再生処理部27の動画再生機能では、早送り・巻き戻しの機能は搭載されていないことを想定しており、そのため、メディア再生処理部27へ通知するタイムスタンプを操作することにより、メディア再生処理部27の動画再生機能に対して早送り・巻き戻しを意識させることなく、早送り・巻き戻し機能を実現できるようにしている。タイムスタンプの操作に関しては、メディアデータ取得処理部24が、実際のタイムスタンプ×1/N(N倍速の場合)のタイムスタンプを疑似的に付けてデータをメディア再生処理部27に渡す。   In the present embodiment, it is assumed that the video playback function of the media playback processing unit 27 is not equipped with a fast forward / rewind function. Therefore, a time stamp to be notified to the media playback processing unit 27 is provided. By operating, the fast-forward / rewind function can be realized without making the moving-image playback function of the media playback processing unit 27 aware of fast-forward / rewind. Regarding the operation of the time stamp, the media data acquisition processing unit 24 artificially attaches a time stamp of actual time stamp × 1 / N (in the case of N double speed) and passes the data to the media reproduction processing unit 27.

従来技術では、トリックプレイ実施時にビットレートの変更はできなかったが、本実施の形態ではビットレートの変更が可能である。すなわち、ジャンプ、早送り・巻き戻しにおいて、これらを実行後にも、継続して、前述したダウンロード速度を用いる方法を使用してビットレート変更判定を行って、ビットレートを見直すことができる。また、早送り・巻き戻しに関しては、早送り・巻き戻し中はビットレートの変更判定を行わず、通常再生に移った後にビットレート見直しを行うこととしてもよい。また、ジャンプする場合、ビットレートの見直しを行って、ジャンプを行ってもよい。この場合、ビットレート決定後に、そのビットレートに対応したメディアのインデックス情報を用いてジャンプ位置の決定を行う。   In the prior art, the bit rate cannot be changed at the time of trick play, but in this embodiment, the bit rate can be changed. That is, in jumping, fast-forwarding / rewinding, it is possible to review the bit rate by continuously performing the bit rate change determination using the above-described method using the download speed even after executing these. As for fast-forwarding / rewinding, the bit rate change determination may not be performed during fast-forwarding / rewinding, and the bit rate may be reviewed after shifting to normal reproduction. When jumping, the bit rate may be reviewed and the jump may be performed. In this case, after the bit rate is determined, the jump position is determined using the index information of the media corresponding to the bit rate.

早送り・巻き戻しにおいて前述したようにダウンロード速度を用いてビットレート変更判定を行う際のダウンロード速度は、Iフレームを受信する度(要求に係るIフレーム相当サイズのデータを受信する度)に、当該Iフレームを受信した時点から過去一定時間の間に受信したデータ量を用いて算出することができる。   As described above, in the fast forward / rewind, the download speed when performing the bit rate change determination using the download speed is the same every time an I frame is received (each time the data corresponding to the I frame corresponding to the request is received). It can be calculated using the amount of data received during the past fixed time from the time when the I frame was received.

また、早送り・巻き戻し中はビットレートを落として表示してもよい。つまり、この場合、早送り・巻き戻しの指示を受けた場合には、異なるビットレートのメディアコンテンツに係るメタ情報を利用するとともに、当該異なるビットレートのメディアコンテンツのIフレームを取得する。   Further, the bit rate may be reduced during fast forward / rewind. That is, in this case, when a fast-forward / rewind instruction is received, the meta information relating to the media content having a different bit rate is used, and an I frame of the media content having the different bit rate is acquired.

この場合、例えば、高ビットレートで再生中は、中ビットレートで早送り・巻き戻しを行い、中ビットレートで再生中は、低ビットレートで早送り・巻き戻しを行い、また、低ビットレートで再生中は、ビットレートを落とさないこととする。定義された複数ビットレートのうちのどれを高ビットレートとし、どれを中ビットレートとし、どれを低ビットレートとするかは予め定めておき、ユーザ端末2に設定しておく。   In this case, for example, during playback at a high bit rate, fast forward / rewind is performed at a medium bit rate, and during playback at a medium bit rate, fast forward / rewind is performed at a low bit rate, and playback is performed at a low bit rate. During this period, the bit rate is not reduced. Which of the plurality of defined bit rates is set to the high bit rate, which is set to the medium bit rate, and which is set to the low bit rate is determined in advance and set in the user terminal 2.

<本実施の形態に係るトリックプレイの効果について>
従来のRTP方式のIPTVでは、サーバ側でIフレームのみを抜き出した映像を事前あるいは逐次準備することで、早送り・巻き戻し時に順次配信をしている。また、HLSではIフレームのみを抜き出すことができないため、事前にIフレームのみを抜き出した映像を準備しておくか、または、N倍の速度ですべてのダウンロードをしておきIフレームを端末で抜き出すこととなる。
<Effect of trick play according to this embodiment>
In conventional RTP IPTV, the server extracts the I frame only and prepares the video in advance or sequentially so that it can be delivered in the fast forward / rewind mode. Also, in HLS, it is not possible to extract only the I frame, so prepare a video with only the I frame extracted in advance, or download all at N times the speed and extract the I frame at the terminal It will be.

一方、本実施の形態に係る技術では、インデックス情報により、セグメントの中からIフレームのみを抽出するため、最低限のネットワーク転送量で早送り・巻き戻し機能を実現できる。   On the other hand, in the technique according to the present embodiment, only the I frame is extracted from the segment based on the index information, so that the fast forward / rewind function can be realized with the minimum network transfer amount.

(実施の形態の効果)
インデックス情報を有するメディア配信方式を用いてメディア再生機能を実装することで、GOP単位のダウンロード速度算出を実現し、ビットレートの切り替えをGOP単位で行うことができるようになる。また、これまで高負荷だったトリックプレイをインデックス情報により低負荷で行うことができるようになる。従って、ユーザの利便性は向上し、ネットワーク利用において効率がよくなる。
(Effect of embodiment)
By implementing a media playback function using a media distribution method having index information, download speed calculation in GOP units can be realized, and bit rate switching can be performed in GOP units. In addition, trick play, which has been a high load until now, can be performed with a low load by using index information. Therefore, convenience for the user is improved and efficiency in using the network is improved.

本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において、種々変更・応用が可能である。   The present invention is not limited to the above-described embodiments, and various modifications and applications are possible within the scope of the claims.

1 メディア配信装置
2 ユーザ端末
3 ネットワーク
11 メタ情報格納部
12 メディアコンテンツ格納部
13 情報配信制御部
21 ユーザインタフェース部
22 メタ情報取得部
23 メタ情報格納部
24 メディアデータ取得処理部
241 バッファ
25 ダウンロード速度監視部
26 ビットレート変更判定部
27 メディア再生処理部
DESCRIPTION OF SYMBOLS 1 Media delivery apparatus 2 User terminal 3 Network 11 Meta information storage part 12 Media content storage part 13 Information delivery control part 21 User interface part 22 Meta information acquisition part 23 Meta information storage part 24 Media data acquisition process part 241 Buffer 25 Download speed monitoring 26 Bit rate change determination unit 27 Media playback processing unit

Claims (9)

ネットワーク接続されたストリーミングメディア配信装置からメディアコンテンツをダウンロードして再生するストリーミングメディア再生装置であって、
前記メディアコンテンツに対応するインデックス情報を参照することにより、前記メディアコンテンツにおける所定単位のデータを受信したことを把握し、当該所定単位で前記メディアコンテンツのダウンロード速度を測定する通信状況測定手段と、
前記通信状況測定手段による測定結果に基づいて、前記メディアコンテンツのビットレートを変更するか否かを判定するビットレート変更判定手段とを備え
前記ビットレート変更判定手段は、前記メディアコンテンツのビットレートを下げると判定した場合に、前記ダウンロード速度の1よりも大きな所定数倍を上回らない最大のビットレートを選択する
ことを特徴とするストリーミングメディア再生装置。
A streaming media playback device that downloads and plays media content from a networked streaming media distribution device,
By referring to the index information corresponding to the media content, it is understood that a predetermined unit of data in the media content has been received, and a communication status measuring unit that measures the download speed of the media content in the predetermined unit;
Bit rate change determination means for determining whether to change the bit rate of the media content based on the measurement result by the communication status measurement means ,
The bit rate change determination means selects the maximum bit rate that does not exceed a predetermined number of times greater than 1 of the download speed when it is determined to lower the bit rate of the media content. Playback device.
前記通信状況測定手段は、前記所定単位としてGOP単位で、前記メディアコンテンツのダウンロード速度を測定する
ことを特徴とする請求項1に記載のストリーミングメディア再生装置。
The streaming media playback device according to claim 1, wherein the communication status measuring unit measures the download speed of the media content in GOP units as the predetermined unit.
前記通信状況測定手段は、一つのGOPの受信が完了する度に、一定時間前から現時点の間に受信したデータ量に基づいて、前記ダウンロード速度を算出する
ことを特徴とする請求項2に記載のストリーミングメディア再生装置。
The said communication condition measurement means calculates the said download speed based on the data amount received during the present time from the fixed time every time reception of one GOP is completed. Streaming media playback device.
前記ビットレート変更判定手段は、前記所定単位のデータを受信した場合、現在のビットレートを変更せずに以降の所定単位のデータをダウンロードすることとした場合に、当該以降の所定単位のデータの受信が完了するまでにバッファが所定の状態になるか否かを判定し、バッファが所定の状態になる場合に、ビットレートを下げると判定する
ことを特徴とする請求項1ないし3のうちいずれか1項に記載のストリーミングメディア再生装置。
The bit rate change determining means receives the predetermined unit of data, downloads the subsequent predetermined unit of data without changing the current bit rate, and determines the subsequent predetermined unit of data. 4. It is determined whether or not the buffer is in a predetermined state before reception is completed, and when the buffer is in a predetermined state, it is determined to reduce the bit rate. A streaming media playback device according to claim 1.
前記所定の状態は、前記メディアコンテンツの再生に支障をきたす状態であることを特徴とする請求項4に記載のストリーミングメディア再生装置。   5. The streaming media playback apparatus according to claim 4, wherein the predetermined state is a state that interferes with playback of the media content. 前記ビットレート変更判定手段は、現在のビットレートより上のビットレートの所定倍のダウンロード速度を一定時間以上維持できたか否かを判定し、維持できた場合に、前記上のビットレートにビットレートを上げると判定する
ことを特徴とする請求項ないしのうちいずれか1項に記載のストリーミングメディア再生装置。
The bit rate change determining means determines whether or not a download speed that is a predetermined multiple of the bit rate above the current bit rate has been maintained for a certain period of time, and if the download rate can be maintained, the bit rate is changed to the upper bit rate. The streaming media playback device according to any one of claims 1 to 5 , wherein the streaming media playback device is determined to increase.
前記通信状況測定手段は、前記ダウンロード速度の測定において、前記メディアコンテンツのデータ取得要求を起点とし、当該データ取得要求を跨いだ測定を行わない
ことを特徴とする請求項1ないしのうちいずれか1項に記載のストリーミングメディア再生装置。
The communication status measuring means, in the measurement of the download speed, and starting from the data acquisition request of the media content, any one of claims 1, characterized in that not measured straddling the data acquisition request 6 2. The streaming media playback device according to item 1.
ネットワーク接続されたストリーミングメディア配信装置からメディアコンテンツをダウンロードして再生するストリーミングメディア再生装置が実行するメディアビットレート変更判定方法であって、
前記メディアコンテンツに対応するインデックス情報を参照することにより、前記メディアコンテンツにおける所定単位のデータを受信したことを把握し、当該所定単位で前記メディアコンテンツのダウンロード速度を測定する通信状況測定ステップと、
前記通信状況測定ステップによる測定結果に基づいて、前記メディアコンテンツのビットレートを変更するか否かを判定するビットレート変更判定ステップとを備え、
前記ビットレート変更判定ステップにおいて、前記ストリーミングメディア再生装置は、前記メディアコンテンツのビットレートを下げると判定した場合に、前記ダウンロード速度の1よりも大きな所定数倍を上回らない最大のビットレートを選択する
ことを特徴とするメディアビットレート変更判定方法。
A media bit rate change determination method executed by a streaming media playback device that downloads and plays media content from a networked streaming media distribution device,
A communication status measurement step of grasping that a predetermined unit of data in the media content has been received by referring to the index information corresponding to the media content, and measuring the download speed of the media content in the predetermined unit;
A bit rate change determination step for determining whether to change the bit rate of the media content based on the measurement result of the communication status measurement step;
In the bit rate change determination step, when it is determined that the bit rate of the media content is to be lowered, the streaming media playback device selects a maximum bit rate that does not exceed a predetermined number of times greater than 1 of the download speed. A media bit rate change determination method characterized by the above.
コンピュータを、請求項1ないしのうちいずれか1項に記載のストリーミングメディア再生装置の各手段として機能させるためのプログラム。
The program for functioning a computer as each means of the streaming media reproducing apparatus of any one of Claims 1 thru | or 7 .
JP2012082778A 2012-03-30 2012-03-30 Streaming media playback device, media bit rate change determination method, and program Active JP5784538B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012082778A JP5784538B2 (en) 2012-03-30 2012-03-30 Streaming media playback device, media bit rate change determination method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012082778A JP5784538B2 (en) 2012-03-30 2012-03-30 Streaming media playback device, media bit rate change determination method, and program

Publications (2)

Publication Number Publication Date
JP2013214799A JP2013214799A (en) 2013-10-17
JP5784538B2 true JP5784538B2 (en) 2015-09-24

Family

ID=49587865

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012082778A Active JP5784538B2 (en) 2012-03-30 2012-03-30 Streaming media playback device, media bit rate change determination method, and program

Country Status (1)

Country Link
JP (1) JP5784538B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3001633B1 (en) * 2014-09-26 2017-08-16 Alcatel Lucent Server, client, method and computer program product for adaptive streaming of media content to a client
JP6466870B2 (en) * 2016-02-29 2019-02-06 Kddi株式会社 Client device and method
CN113141524B (en) 2020-01-17 2023-09-29 北京达佳互联信息技术有限公司 Resource transmission method, device, terminal and storage medium

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10336626A (en) * 1997-05-30 1998-12-18 Nec Software Ltd Transfer method and transfer device for video data
JP2004153610A (en) * 2002-10-31 2004-05-27 Kyocera Corp Method, radio terminal, controller and system for distributing moving image, and radio terminal
JP4288994B2 (en) * 2003-04-10 2009-07-01 株式会社日立製作所 Terminal device, distribution server, video data receiving method, and video data transmitting method
KR20060016809A (en) * 2003-06-11 2006-02-22 닛본 덴끼 가부시끼가이샤 Medium signal reception device, transmission device, and transmission/reception system
JP2007318470A (en) * 2006-05-26 2007-12-06 Sony Corp Server device, transmission sequence determination method and content distribution system
US8352996B2 (en) * 2008-06-27 2013-01-08 Microsoft Corporation Adaptive video switching for variable network conditions
JP4444358B1 (en) * 2008-12-24 2010-03-31 株式会社プランネット・アソシエイツ Progressive download playback program

Also Published As

Publication number Publication date
JP2013214799A (en) 2013-10-17

Similar Documents

Publication Publication Date Title
JP6021385B2 (en) Streaming media playback apparatus, streaming media playback method, and program
US11895348B2 (en) Systems and methods for providing variable speeds in a trick-play mode
US10979782B2 (en) System and method for decreasing an initial buffering period of an adaptive streaming system
JP4944484B2 (en) Playback apparatus, playback method, and program
US8886765B2 (en) System and method for predicitive trick play using adaptive video streaming
WO2012094258A1 (en) Systems and methods for performing adaptive bitrate streaming based upon stream delay and &#34;channel rate
EP3211906A1 (en) Information processing apparatus and information processing method
KR20120018042A (en) Method and apparatus for reducing decreasing of qualitly of experience in a multimedia system
JP7307211B2 (en) Client, Server, Receiving Method and Sending Method
TWI573450B (en) Method for dynamic adaptation of the reception bitrate and associated receiver
TWI666928B (en) Delivery control apparatus and delivery control method for abr streaming of content delivery
JP2022545623A (en) Prediction-Based Drop Frame Handling Logic in Video Playback
JP5784538B2 (en) Streaming media playback device, media bit rate change determination method, and program
US9660926B2 (en) Multi-stream scheduling and requests
JP6099715B2 (en) Streaming media playback apparatus, streaming media playback method, and program
EP3354033B1 (en) Dynamic seeking in video delivery systems
US9247315B2 (en) Disabling of multiple bitrate algorithm for media programs while playing advertisements
JP6305738B2 (en) Media playback control device, media playback control method, and program
JP6327809B2 (en) Reception device, control method, and program
EP3217681B1 (en) Display apparatus
JP2012222689A (en) Reproducer and reproduction method
US20230199267A1 (en) Method and apparatus for processing adaptive multi-view streaming
Gonçalves et al. Implementing a QoS-aware, context-aware and personalized WebTV
KR20150146353A (en) Playback point change method of user apparatus

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140304

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20141205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150630

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150722

R150 Certificate of patent or registration of utility model

Ref document number: 5784538

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250