JP2020053760A - 情報処理システム、端末装置およびプログラム - Google Patents
情報処理システム、端末装置およびプログラム Download PDFInfo
- Publication number
- JP2020053760A JP2020053760A JP2018179068A JP2018179068A JP2020053760A JP 2020053760 A JP2020053760 A JP 2020053760A JP 2018179068 A JP2018179068 A JP 2018179068A JP 2018179068 A JP2018179068 A JP 2018179068A JP 2020053760 A JP2020053760 A JP 2020053760A
- Authority
- JP
- Japan
- Prior art keywords
- moving image
- resolution
- bit rate
- data
- image quality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 25
- 238000004891 communication Methods 0.000 claims abstract description 84
- 230000005540 biological transmission Effects 0.000 claims abstract description 18
- 230000008859 change Effects 0.000 claims abstract description 8
- 238000013500 data storage Methods 0.000 claims description 31
- 230000006870 function Effects 0.000 claims description 19
- 230000033001 locomotion Effects 0.000 claims description 17
- 238000013441 quality evaluation Methods 0.000 description 30
- 238000011156 evaluation Methods 0.000 description 19
- 230000001629 suppression Effects 0.000 description 12
- 238000006243 chemical reaction Methods 0.000 description 10
- 238000000034 method Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 8
- 230000006835 compression Effects 0.000 description 5
- 238000007906 compression Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
- H04N21/44209—Monitoring of downstream path of the transmission network originating from a server, e.g. bandwidth variations of a wireless network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
- H04N21/2662—Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234381—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by altering the temporal resolution, e.g. decreasing the frame rate by frame skipping
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/23439—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements for generating different versions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/258—Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
- H04N21/25808—Management of client data
- H04N21/25825—Management of client data involving client display capabilities, e.g. screen resolution of a mobile phone
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/462—Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
- H04N21/4621—Controlling the complexity of the content stream or additional data, e.g. lowering the resolution or bit-rate of the video stream for a mobile client with a small screen
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/65—Transmission of management data between client and server
- H04N21/658—Transmission by the client directed to the server
- H04N21/6587—Control parameters, e.g. trick play commands, viewpoint selection
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Computer Networks & Wireless Communication (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Security & Cryptography (AREA)
- Computer Graphics (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Information Transfer Between Computers (AREA)
Abstract
Description
ここで、例えば、動画の内容によらず、画質が安定するように、ある解像度やフレームレートに対して比較的高いビットレートを設定すると、例えば、動きの少ないシーンが多い場合では過剰なビットレートとなり、データ通信量の増大につながる。このような場合、データ通信量を抑えたいユーザにとっては好ましくない条件となる可能性がある。また、ある解像度やフレームレートに対して、単に比較的低いビットレートを設定すると、画質の低下につながり、再生画質を高くしたいユーザにとっては好ましくない条件となる可能性があった。
しかしながら、従来は、複数のビットレートのうち各ビットレートに対して一の解像度や一のフレームレートだけが対応づけられた動画データが準備されていた。
請求項2に記載の発明は、前記条件決定手段は、複数のモードを有し、画質を優先するモードの場合には、通信速度を超えないビットレートと解像度との組み合わせの中で画質が高くなるビットレートと解像度との組合せを決定する請求項1に記載の情報処理システムである。
請求項3に記載の発明は、前記送信手段は、表示画面における動画の表示サイズを超えない解像度とビットレートとの複数の組合せの動画データのうち、解像度が高い動画データを送信する請求項2に記載の情報処理システムである。
請求項4に記載の発明は、前記送信手段は、表示画面における動画の表示サイズを超えない解像度とビットレートとの複数の組合せの動画データのうち、解像度が低い動画データを送信する請求項2に記載の情報処理システムである。
請求項5に記載の発明は、前記送信手段は、前記動画データのこれから再生される箇所について一時的に記憶されるデータのデータ量に応じて前記ビットレートを選択する請求項1に記載の情報処理システムである。
請求項6に記載の発明は、前記条件決定手段は、一時的に記憶されたデータのデータ量に基づく動画データの再生時間が基準量を下回った場合には、ビットレートを下げる請求項5に記載の情報処理システムである。
請求項7に記載の発明は、前記条件決定手段は、一時的に記憶されたデータのデータ量に基づく動画データの再生時間が基準量を上回った場合には、通信速度を超えないビットレートのうち、画質情報に基づく画質が最も高くなるビットレートと解像度との組合せとしてビットレートと解像度を決定する請求項5に記載の情報処理システムである。
請求項8に記載の発明は、前記送信手段は、前記特定の動画にて再生される動画内容の動きに応じて特定される動画画質の情報に基づくフレームレートの動画データを送信する請求項1に記載の情報処理システムである。
請求項9に記載の発明は、前記送信手段は、通信量よりも前記動画画質を優先するときはフレームレートよりも解像度を優先して下げた動画データを送信する請求項8に記載の情報処理システムである。
請求項10に記載の発明は、前記送信手段は、前記動画画質よりも通信量を優先するときは解像度よりもフレームレートを優先して下げた動画データを送信する請求項8に記載の情報処理システムである。
請求項11に記載の発明は、特定の動画に関し、少なくとも一のビットレートについて解像度が異なる複数の動画データ、少なくとも一の解像度についてビットレートが異なる複数の動画データ、または、一のビットレートおよび一の解像度の組合せに対して複数のフレームレートが対応付けられた複数の動画データの中から、動画内容の変化に応じて、通信速度を超えないビットレートと解像度の複数の組合せのうち、予め定められた画質以上で最小のビットレート、解像度およびフレームレートを決定する条件決定手段と、ストリーム再生される動画データを送信するサーバ装置に対して、前記複数の動画データの中から一のビットレートと一の解像度と一のフレームレートとの組合せの動画データの送信を要求する送信要求手段と、前記サーバ装置から前記動画データを取得する取得手段と、取得した前記動画データに基づいて動画を再生する再生手段と、を備える端末装置である。
請求項12に記載の発明は、情報処理装置として機能するコンピュータに、特定の動画に関し、少なくとも一のビットレートについて解像度が異なる複数の動画データ、少なくとも一の解像度についてビットレートが異なる複数の動画データ、または、一のビットレートおよび一の解像度の組合せに対して複数のフレームレートが対応付けられた複数の動画データを記憶する機能と、前記複数の動画データの中から一のビットレートと一の解像度と一のフレームレートとの組合せの動画データを、動画再生を行う再生装置に送信する機能と、を実現させるプログラムである。
請求項13に記載の発明は、端末装置として機能するコンピュータに、ストリーム再生される動画データを送信するサーバ装置に対して、特定の動画に関し、少なくとも一のビットレートについて解像度が異なる複数の動画データ、少なくとも一の解像度についてビットレートが異なる複数の動画データ、または、一のビットレートおよび一の解像度の組合せに対して複数のフレームレートが対応付けられた複数の動画データの中から、動画内容の変化に応じて、通信速度を超えないビットレートと解像度の複数の組合せのうち、予め定められた画質以上で最小のビットレート、解像度およびフレームレートを決定する機能と、前記サーバ装置から前記動画データを取得する機能と、取得した前記動画データに基づいて動画を再生する機能と、を実現させるプログラムである。
請求項2の発明によれば、再生画質を優先させたビットレートと解像度との組合せの選択が可能になる。
請求項3の発明によれば、再生画質を優先させたビットレートと解像度との組合せの選択が可能になる。
請求項4の発明によれば、動画再生時のノイズ抑制を優先させたビットレートと解像度との組合せの選択が可能になる。
請求項5の発明によれば、データのキャッシュ量に応じて、ビットレートと解像度との組合せの選択が可能になる。
請求項6の発明によれば、データのキャッシュ量に応じて、データ通信量の削減を優先させたビットレートの選択が可能になる。
請求項7の発明によれば、データのキャッシュ量が基準量を上回っているときは、画質を優先させたビットレートの選択が可能になる。
請求項8の発明によれば、動画内容の動きに応じて特定される動画画質の情報に基づく一のビットレート、一の解像度および一のフレームレートとの組合せの選択が可能になる。
請求項9の発明によれば、再生画質を優先させたフレームレートの選択が可能になる。
請求項10の発明によれば、データ通信量を優先させたフレームレートの選択が可能になる。
<実施形態1>
[動画配信システム1]
図1は、本実施形態の動画配信システム1の一例としての全体図である。
図1に示すように、本実施形態の動画配信システム1は、動画を配信するサーバ装置10(情報処理装置の一例)と、配信された動画を画面20dにて再生する端末装置20(再生手段の一例)と、を備えている。そして、動画配信システム1において、サーバ装置10および端末装置20は、ネットワークを介して相互に情報通信が可能になっている。
また、図1に示す例では、端末装置20として1台の端末装置20を例示しているが、複数台以上の端末装置20が接続していても良い。
本実施形態のサーバ装置10は、一のビットレートについて解像度が異なる複数のセグメントデータ、または、一の解像度についてビットレートが異なる複数のセグメントデータを記憶している。具体的な例として、図2に示すように、サーバ装置10は、例えば、高ビットレートかつ高解像度である動画のセグメントデータ群Sg1と、高ビットレートかつ低解像度である動画のセグメントデータ群Sg2と、中ビットレートかつ高解像度である動画のセグメントデータ群Sg3と、中ビットレートかつ低解像度である動画のセグメントデータ群Sg4と、低ビットレートかつ高解像度である動画のセグメントデータ群Sg5と、低ビットレートかつ低解像度である動画のセグメントデータ群Sg6と、を記憶している。
なお、本実施形態において、ビットレートとは、1秒間に送受信されるデータ量(例えば、単位は、Mbps(メガビット毎秒))のことである。
なお、端末装置20によるビットレートおよび解像度の決定について、後に詳しく説明する。
図3に示すように、サーバ装置10は、元の動画のビットレートおよび解像度を変換する変換部11と、配信するセグメントデータを記憶するセグメントデータ記憶部12と、セグメントデータの画質を評価する画質評価部13と、を備える。また、サーバ装置10は、画質の評価を記憶する画質情報記憶部14と、動画のビットレートおよび解像度を記憶する動画情報記憶部15と、動画の画質、ビットレートおよび解像度の情報を送信する情報送信部16とを備える。さらに、サーバ装置10は、クライアントからセグメントデータの要求を読み出すセグメントデータ読出部17と、セグメントデータを送信するセグメントデータ送信部18とを備える。
変換部11は、上述した複数のビットレートの動画の元となる動画が自装置に記憶されると、その動画のビットレートを変換する。本実施形態の変換部11は、例えば、元の動画の解像度を低くしたり、フレームレートを小さくしたり、解像度およびフレームレートの両方を低くしたりするなどしてビットレートおよび解像度を変換する。
本実施形態の変換部11は、後述するように、元の動画を変換することで、ビットレートおよび解像度が異なる8つの組合せの動画を生成する。
図4は、セグメントデータ記憶部12が記憶しているセグメントデータのビットレートと解像度との関係の説明図である。
また、実施形態1においては、一のビットレートと一のビットレートに対して、一のフレームレートが組合せられているとする。ただし、説明の都合によるものであり、実施形態1において、一のビットレートと一のビットレートに対して、複数のフレームレートが対応付けられることを除外するものではない。
画質評価部13は、セグメント化される前のビットレート変換された動画の画質を評価してもよいし、セグメントデータ記憶部12に記憶されているセグメントデータにより表される動画の画質を評価してもよい。画質評価部13は、例えば、基準となるビットレートの動画の区間と、評価対象のビットレートの動画の区間とを比較して評価する。画質評価部13は、動画のストリーム配信において変更可能なビットレートおよび解像度のうち最大のものを基準のビットレートおよび解像度として、動画の画質を評価する。本実施形態では、画質評価部13は、元の動画のビットレートおよび解像度を基準に用いて画質を評価する。
画質情報記憶部14は、画質評価部13により評価された動画の画質を表す画質情報を記憶する。画質情報記憶部14は、画質評価部13から供給された評価結果を、対応するビットレートおよび区間に対応付けて記憶する。
図5に示す例では、本実施形態で用いるビットレートおよび解像度の組合せを含む、全ての組合せについてのSSIMの評価結果を示している。また、図5の例では、5種類のビットレートに対して、それぞれ5種類の解像度を組み合わせた25パターンについてのSSIMの数値を表示している。
図5に示す例では、元の画像のビットレートが21600Kbpsであって、解像度が3840×2160である。従って、ビットレートが21600Kbpsであり解像度が3840×2160である組合せのSSIMの値が1となり、当然ながら、最も画質が高い。
一方、図5に示すように、各々のビットレートにおいては、最も画質が高くなる解像度とビットレートとの組合せがある。例えば、ビットレートが2400Kbpsである場合は、解像度が1280×720である組合せが最も画質が高くなる。そして、ビットレートが2400Kbpsである場合は、1280×720よりも解像度が低くなるとと画質が低下する。また、ビットレートが2400Kbpsの場合は、1280×720よりも解像度が高くなると画質が低下する。この傾向は、他のビットレートにおいても同様である。
このように、画質は、ビットレートを単に高くしたり、解像度を単に高くしたりすれば高くなるというものではなく、ビットレートと解像度との両方を考慮して特定する必要がある。
動画情報記憶部15は、セグメントデータ記憶部12に記憶されているセグメントデータが表す動画の複数のビットレートを表すビットレート情報および解像度を表す解像度情報を記憶する。本実施形態の動画情報記憶部15は、上述した9つの組合せのビットレートおよび解像度を表すビットレート情報および解像度情報を記憶する。
情報送信部16は、端末装置20から送信されてきた後述する要求データを受け取ると、その要求データにより特定される動画のビットレート情報および解像度情報を動画情報記憶部15から読み出して端末装置20に送信する。さらに、情報送信部16は、画質情報記憶部14からこの動画の画質情報を読み出し、ビットレート情報および解像度情報とともに画質情報を端末装置20に送る。
セグメントデータ読出部17は、外部装置から動画のストリーム配信が要求されると、要求された動画のセグメントデータを読み出す。セグメントデータ読出部17は、端末装置20から送信されてきた指定データを受け取ると、その指定データにより指定されるビットレートのセグメントデータ群から、決められた数のセグメントデータを動画の最初から順番に読み出す。
セグメントデータ送信部18(送信手段の一例)は、セグメントデータ読出部17からセグメントデータを取得する。そして、セグメントデータ送信部18は、取得したセグメントデータを、指定データの送信元、すなわち動画のストリーム配信を要求してきた要求元である端末装置20に送信する。
端末装置20は、動画情報を取得する動画情報取得部21と、動画が再生される表示領域のサイズを特定する表示領域サイズ特定部22とを備える。また、端末装置20は、動画データのキャッシュ量を特定するキャッシュ量特定部23と、通信速度を特定する通信速度特定部24と、動画データの画質に関する画質情報を取得する画質情報取得部25とを備える。さらに、端末装置20は、モード条件をユーザから取得するモード条件取得部26と、動画条件を決定する条件決定部27と、動画の配信を要求する配信要求部28とを備える。そして、端末装置20は、動画のセグメントデータを受信するセグメントデータ受信部29と、動画のセグメントデータをキャッシュする一時記憶部30と、動画を画面20dにて再生表示する動画再生部31とを備える。
動画情報取得部21は、送信されてきたビットレート情報を取得し、取得したビットレート情報を条件決定部27に供給する。動画情報取得部21は、動画のストリーム配信を要求する際に、その動画の複数のビットレートを表すビットレート情報を取得する。
例えば端末装置20にてウェブページに貼られた動画へのリンクの操作が行われると、動画情報取得部21は、サーバ装置10に対してその動画のビットレート情報を要求する要求データを送信する。この要求データには、URL(Uniform Resource Locator)などの動画を特定する情報が含まれている。
表示領域サイズ特定部22は、ストリーム配信される動画の表示領域のサイズ(以下、表示領域サイズと呼ぶ)を特定する。表示領域サイズ特定部22は、動画再生部31から動画の表示領域サイズの情報を取得する。具体的には、表示領域サイズ特定部22は、表示領域サイズとして、画面20dにおける動画の表示領域の長辺の長さと短辺の長さとを取得する。そして、表示領域サイズ特定部22は、取得した表示領域サイズを表す表示領域サイズの情報を条件決定部27に送る。
キャッシュ量特定部23は、ストリーム再生におけるキャッシュ量を特定する。キャッシュ量とは、ストリーム再生される動画のこれから再生される箇所について一時的に記憶されているセグメントデータのデータ量のことである。
キャッシュ量特定部23は、一時記憶部30が一時的に記憶しているセグメントデータを参照し、参照したセグメントデータが再生された場合における再生時間を前述したキャッシュ量として特定する。例えば、キャッシュされたセグメントデータが2秒間の動画を表している場合には、キャッシュ量特定部23は、2秒分の動画がキャッシュされていると特定する。そして、キャッシュ量特定部23は、その秒数を表す情報をキャッシュ量情報として条件決定部27に送る。
通信速度特定部24は、ストリーム配信される動画のセグメントデータの受信における通信速度を特定する。通信速度特定部24は、セグメントデータ受信部29を監視して、セグメントデータ受信部29が単位時間に受信したセグメントデータのデータサイズを通信速度として特定する。セグメントデータ受信部29は、例えば1秒間に10メガビットのセグメントデータが受信されていれば10Mbpsを通信速度として特定する。セグメントデータ受信部29は、特定した通信速度を表す通信速度情報を条件決定部27に送る。
なお、通信速度特定部24は、ストリーム配信の開始前においては、端末装置20とサーバ装置10との間における動画の配信とは別の情報の受信データに基づいて通信速度を特定する。本実施形態では、このストリーム配信の開始前における通信速度は、開始前通信速度と呼ぶ。
画質情報取得部25は、ストリーム配信される動画の各ビットレートにおける各区間の画質を表す情報を取得する。そして、画質情報取得部25は、取得した画質情報を条件決定部27に送る。
モード条件取得部26は、端末装置20にて再生する動画の再生モードについてのモード条件を取得する。本実施形態において、モード条件は、画質がより高くなるように画質をデータ通信量よりも優先させる「画質優先モード」と、データ通信量がより抑えられるようにデータ通信量を画質よりも優先させる「通信量優先モード」と、を有している。モード条件取得部26は、端末装置20にて動画を視聴するユーザから、画質優先モードか通信量優先モードのいずれのモードを希望するかというモード条件の情報を取得する。そして、モード条件取得部26は、取得したモード条件の情報を条件決定部27に送る。
条件決定部27(条件決定手段の一例)は、表示領域サイズ、通信速度、画質情報、キャッシュ量、およびモード条件に基づいて、再生する動画のビットレート、解像度およびフレームレートの決定を行う。
なお、本実施形態においては、動画の再生初期である初期対応期間と、初期対応期間が経過した後の経過期間とで、再生する動画のビットレートおよび解像度の決定に用いる情報が異なる。決定に用いる情報が異なるのは、例えば、初期対応期間では、セグメントデータがまだキャッシュされておらず、キャッシュ量特定部23によるキャッシュ量の特定が未だされていないためである。
条件決定部27は、初期対応期間において、表示領域サイズの情報に基づいて、動画の解像度の候補を決定する。本実施形態の条件決定部27は、表示領域サイズに応じて特定される画面解像度以下の動画の解像度を候補として決定する。さらに、条件決定部27は、通信速度に基づいて、ビットレートを特定する。条件決定部27は、開始前通信速度の情報を超えない最大のビットレートの動画を候補として決定する。
そして、条件決定部27は、上記の解像度の候補と、上記の最大のビットレートとの両方の条件を満たす解像度とビットレートの組合せを決定する。
条件決定部27は、経過期間において、解像度、通信速度および画質情報に基づいて、再生する動画のビットレートおよび解像度を決定する。条件決定部27は、既に、解像度の候補を特定している。また、初期対応期間が経過していることから、条件決定部27は、通信速度の情報を取得している。また、条件決定部27は、次に再生予定のセグメントの画質情報を取得する。
条件決定部27は、ノイズ抑制モードに設定されている場合、上述した画質優先モードおよび通信量優先モードにて特定されたビットレートにおいて、より低い解像度となる組合せを選択する。
配信要求部28(送信要求手段の一例)は、条件決定部27により決定されたビットレートでの動画のストリーム配信を、その動画をストリーム配信するサーバ装置10に要求する。上述のとおり、配信要求部28は、条件決定部27が決定したビットレートおよび解像度が変化すると、ストリーム配信を要求する動画のビットレートおよび解像度も変化させる。
セグメントデータ受信部29(取得手段の一例)は、サーバ装置10から送信されてきたセグメントデータを受信する。セグメントデータ受信部29は、受信したセグメントデータを一時記憶部30に送る。
一時記憶部30は、セグメントデータ受信部29が受信したセグメントデータを、そのセグメントデータが表す動画の部分が再生されるまで一時的に記憶する。
動画再生部31(再生手段の一例)は、一時記憶部30にセグメントデータが記憶されると、記憶されたセグメントデータを順次読み出し、読み出したセグメントデータが表す動画を順次再生する。上述したとおりセグメントデータはエンコードされているので、動画再生部31は、セグメントデータをデコードして再生する。
図6は、本実施形態の動画配信システム1の画質優先モードにおける動作フロー図である。
例えば、端末装置20において、サイトに貼られた動画のリンクを選択する操作をユーザが行うなど、ストリーム配信される動画を再生させる操作が行われたことを契機に、動画の再生に関する処理が開始される。そして、端末装置20は、再生操作を受け付けた動画のビットレート情報および解像度情報の送信をサーバ装置10に要求する。
例えば、端末装置20における前回のセグメントデータの受信の際の通信速度が5400Kbps以上であって21600Kbps未満であったとする。また、上述したとおり、解像度は、1920×1080であると特定されている。この例の場合には、図5に示す画質の評価結果の情報に基づいて、ビットレートが5400Kbpsであって、解像度が1920×1080の組合せが決定される。
図7は、本実施形態の動画配信システム1の通信量優先モードにおける動作フロー図である。
例えば、端末装置20における前回のセグメントデータの受信の際の通信速度が5400Kbps以上であって21600Kbps未満であったとする。また、上述したとおり、解像度は、1920×1080であると特定されている。さらに、画質の基準値は、例えば「0.95」に設定されている。この例の場合には、図5に示す画質の評価結果の情報に基づいて、ビットレートが2400Kbpsであって、解像度が1280×720の組合せが決定される。
図8は、他の例のセグメントデータのビットレートと解像度との関係の説明図である。
図8に示すように、他の例において、セグメントデータ記憶部12は、一の解像度に対して複数のビットレートが組み合わされた動画のセグメントデータを記憶している。そして、セグメントデータ記憶部12は、複数の異なる解像度の動画のセグメントデータを記憶している。
具体的には、他の例のセグメントデータ記憶部12は、5種類の解像度に対して、解像度が異なる2つのビットレートが組み合わされたセグメントデータを記憶している。例えば、320×180の解像度に対してビットレートが150Kbpsとなる組合せと、同じく320×180の解像度に対してビットレートが300Kbpsとなる組合せとが設けられている。
さらに、図8に示す他の例のビットレートと解像度との組合せにおいても、ノイズ抑制モードの設定に応じて、同じ解像度の組合せのうちノイズが発生し難いビットレートと解像度との組合せを選択しても良い。
図9は、他の例のセグメントデータのビットレートと解像度との関係の説明図である。
図9に示すように、他の例において、セグメントデータ記憶部12は、一のビットレートに対して複数の解像度が組み合わされた動画のセグメントデータを記憶している。そして、セグメントデータ記憶部12は、複数の異なるビットレートの動画のセグメントデータを記憶している。
具体的には、他の例のセグメントデータ記憶部12は、4種類のビットレートに対して、解像度が異なる2つの解像度が組み合わされたセグメントデータを記憶している。例えば、600Kbpsのビットレートに対して解像度が480×270となる組合せと、同じく600Kbpsのビットレートに対して解像度が640×360となる組合せとが設けられている。
さらに、図9に示す他の例のビットレートと解像度との組合せにおいても、ノイズ抑制モードの設定に応じて、同じビットレートの組合せのうちノイズが発生し難いビットレートと解像度との組合せを選択しても良い。
実施形態1では、ビットレートと解像度との組合せのうちから、ユーザによる画質優先または通信量優先の要求に応じた組合せの動画を選択するようにしていたが、この例に限定されない。
実施形態2では、ビットレート、解像度およびフレームレートの組合せのうちから、ユーザによる画質優先または通信量優先の要求に基づいて、特定の組合せを選択するようにしても良い。
なお、実施形態2において、サーバ装置10および端末装置20の機能の基本構成は、実施形態1と同様である(図3参照)。
このように実施形態2のセグメントデータ記憶部12は、少なくとも一のビットレートおよび一の解像度についてフレームレートが異なる複数の動画データを記憶している。
図10は、実施形態2における動画品質指数Qの説明図である。
実施形態2では、フレームレートが動画の画質に与える影響を含めて評価するために、上述した画質の評価指標であるSSIMに、滑らかさ指数Sを掛けた動画品質指数Qを用いる。
Q=SSIM×S …式(1)
そして、滑らかさ指数Sは、例えば0から1までの値で表す。数値1は動画が滑らであり動画画質が高いことを意味し、値が小さくなるほど動画が滑らかではなくなり動画画質が低くなることを意味する。
S={1−exp(−f/f0)}/{1−exp(−fb/f0)} …式(2)
S=1 …式(3)
図10に示すように、フレームレートfが0から30までの間は、フレームレートが高くなるほど滑らか指数Sが対数的に高くなる。
また、フレームレートfがベースフレームレートfbである30以上になると、滑らかさ指数Sは1になる。これは、元の動画と同じかそれ以上のフレームレートfに設定されたためである。
本実施形態の端末装置20およびサーバ装置10は、それぞれ、演算手段であるCPU(Central Processing Unit)、主記憶手段であるメモリ、磁気ディスク装置(HDD:Hard Disk Drive)、ネットワークインターフェイス、ディスプレイ装置を含む表示機構、音声機構、および、キーボードやマウス等の入力デバイス等を備える。
そして、磁気ディスク装置には、OSのプログラムやアプリケーション・プログラムが格納されている。そして、これらのプログラムがメモリに読み込まれてCPUに実行されることにより、本実施形態の端末装置20およびサーバ装置10の各々における各機能部の機能が実現される。
さらに、本実施形態の動画配信システム1における一連の動作を端末装置20およびサーバ装置10にてそれぞれ実現させるプログラムは、例えば通信手段により提供することはもちろん、各種の記録媒体に格納して提供しても良い。
さらに、本実施形態の動画配信システム1において行われる一連の機能を実現するための構成は、上述した例に限定されない。例えば、上述した実施形態においてサーバ装置10が実現する機能は、全てサーバ装置10によって実現される必要はなく、例えば端末装置20が一部の機能を実現しても良い。同様に、例えば、上述した実施形態において端末装置20が実現する機能は、全て端末装置20によって実現される必要はなく、例えばサーバ装置10が一部の機能を実現しても良い。
Claims (13)
- 特定の動画に関し、少なくとも一のビットレートについて解像度が異なる複数の動画データ、少なくとも一の解像度についてビットレートが異なる複数の動画データ、または、一のビットレートおよび一の解像度の組合せに対して複数のフレームレートが対応付けられた複数の動画データを記憶する動画データ記憶手段と、
動画内容の変化に応じて、通信速度を超えないビットレートおよび解像度の複数の組合せのうち、予め定められた画質以上で最小のビットレート、解像度およびフレームレートを決定する条件決定手段と、
前記複数の動画データの中から一のビットレートと一の解像度と一のフレームレートとの組合せの動画データを、動画再生を行う再生装置に送信する送信手段と、
を備える情報処理システム。 - 前記条件決定手段は、複数のモードを有し、画質を優先するモードの場合には、通信速度を超えないビットレートと解像度との組み合わせの中で画質が高くなるビットレートと解像度との組合せを決定する請求項1に記載の情報処理システム。
- 前記送信手段は、表示画面における動画の表示サイズを超えない解像度とビットレートとの複数の組合せの動画データのうち、解像度が高い動画データを送信する請求項2に記載の情報処理システム。
- 前記送信手段は、表示画面における動画の表示サイズを超えない解像度とビットレートとの複数の組合せの動画データのうち、解像度が低い動画データを送信する請求項2に記載の情報処理システム。
- 前記送信手段は、前記動画データのこれから再生される箇所について一時的に記憶されるデータのデータ量に応じて前記ビットレートを選択する請求項1に記載の情報処理システム。
- 前記条件決定手段は、一時的に記憶されたデータのデータ量に基づく動画データの再生時間が基準量を下回った場合には、ビットレートを下げる請求項5に記載の情報処理システム。
- 前記条件決定手段は、一時的に記憶されたデータのデータ量に基づく動画データの再生時間が基準量を上回った場合には、通信速度を超えないビットレートのうち、画質情報に基づく画質が最も高くなるビットレートと解像度との組合せとしてビットレートと解像度を決定する請求項5に記載の情報処理システム。
- 前記送信手段は、前記特定の動画にて再生される動画内容の動きに応じて特定される動画画質の情報に基づくフレームレートの動画データを送信する請求項1に記載の情報処理システム。
- 前記送信手段は、通信量よりも前記動画画質を優先するときはフレームレートよりも解像度を優先して下げた動画データを送信する請求項8に記載の情報処理システム。
- 前記送信手段は、前記動画画質よりも通信量を優先するときは解像度よりもフレームレートを優先して下げた動画データを送信する請求項8に記載の情報処理システム。
- 特定の動画に関し、少なくとも一のビットレートについて解像度が異なる複数の動画データ、少なくとも一の解像度についてビットレートが異なる複数の動画データ、または、一のビットレートおよび一の解像度の組合せに対して複数のフレームレートが対応付けられた複数の動画データの中から、動画内容の変化に応じて、通信速度を超えないビットレートと解像度の複数の組合せのうち、予め定められた画質以上で最小のビットレート、解像度およびフレームレートを決定する条件決定手段と、
ストリーム再生される動画データを送信するサーバ装置に対して、前記複数の動画データの中から一のビットレートと一の解像度と一のフレームレートとの組合せの動画データの送信を要求する送信要求手段と、
前記サーバ装置から前記動画データを取得する取得手段と、
取得した前記動画データに基づいて動画を再生する再生手段と、
を備える端末装置。 - 情報処理装置として機能するコンピュータに、
特定の動画に関し、少なくとも一のビットレートについて解像度が異なる複数の動画データ、少なくとも一の解像度についてビットレートが異なる複数の動画データ、または、一のビットレートおよび一の解像度の組合せに対して複数のフレームレートが対応付けられた複数の動画データを記憶する機能と、
前記複数の動画データの中から一のビットレートと一の解像度と一のフレームレートとの組合せの動画データを、動画再生を行う再生装置に送信する機能と、
を実現させるプログラム。 - 端末装置として機能するコンピュータに、
ストリーム再生される動画データを送信するサーバ装置に対して、特定の動画に関し、少なくとも一のビットレートについて解像度が異なる複数の動画データ、少なくとも一の解像度についてビットレートが異なる複数の動画データ、または、一のビットレートおよび一の解像度の組合せに対して複数のフレームレートが対応付けられた複数の動画データの中から、動画内容の変化に応じて、通信速度を超えないビットレートと解像度の複数の組合せのうち、予め定められた画質以上で最小のビットレート、解像度およびフレームレートを決定する機能と、
前記サーバ装置から前記動画データを取得する機能と、
取得した前記動画データに基づいて動画を再生する機能と、
を実現させるプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018179068A JP7255116B2 (ja) | 2018-09-25 | 2018-09-25 | 情報処理システム、端末装置およびプログラム |
CN201910172841.3A CN110956683A (zh) | 2018-09-25 | 2019-03-07 | 信息处理系统、终端装置及计算机可读介质 |
US16/572,589 US20200099973A1 (en) | 2018-09-25 | 2019-09-16 | Information processing system, terminal apparatus, and non-transitory computer readable medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018179068A JP7255116B2 (ja) | 2018-09-25 | 2018-09-25 | 情報処理システム、端末装置およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020053760A true JP2020053760A (ja) | 2020-04-02 |
JP7255116B2 JP7255116B2 (ja) | 2023-04-11 |
Family
ID=69885160
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018179068A Active JP7255116B2 (ja) | 2018-09-25 | 2018-09-25 | 情報処理システム、端末装置およびプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20200099973A1 (ja) |
JP (1) | JP7255116B2 (ja) |
CN (1) | CN110956683A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022138737A1 (ja) | 2020-12-23 | 2022-06-30 | ダイキン工業株式会社 | 作業者端末、動画像処理方法及び動画像処理プログラム |
CN115396697A (zh) * | 2022-08-31 | 2022-11-25 | 中煤科工集团重庆智慧城市科技研究院有限公司 | 一种视频数据传输方法、系统及存储设备 |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10839565B1 (en) * | 2019-08-19 | 2020-11-17 | Samsung Electronics Co., Ltd. | Decoding apparatus and operating method of the same, and artificial intelligence (AI) up-scaling apparatus and operating method of the same |
KR20210067788A (ko) * | 2019-11-29 | 2021-06-08 | 삼성전자주식회사 | 전자 장치, 시스템 및 그 제어 방법 |
CN111757118B (zh) * | 2020-06-29 | 2023-04-21 | 北京百度网讯科技有限公司 | 视频转码处理方法、装置、设备和介质 |
CN116781951B (zh) * | 2023-08-24 | 2023-12-05 | 湖南快乐阳光互动娱乐传媒有限公司 | 一种清晰度调节方法、装置和服务器 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004147104A (ja) * | 2002-10-24 | 2004-05-20 | Sony Corp | 動画像符号化装置 |
JP2011045134A (ja) * | 2010-11-01 | 2011-03-03 | Hitachi Kokusai Electric Inc | 映像配信システム、映像配信方法 |
JP2017157904A (ja) * | 2016-02-29 | 2017-09-07 | 富士ゼロックス株式会社 | 情報処理装置 |
WO2018142946A1 (ja) * | 2017-01-31 | 2018-08-09 | ソニー株式会社 | 情報処理装置および方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100350988B1 (ko) * | 2000-12-02 | 2002-08-29 | 삼성전자 주식회사 | 데이터 기록/재생 장치 |
KR100468726B1 (ko) * | 2002-04-18 | 2005-01-29 | 삼성전자주식회사 | 실시간 가변 비트율 제어를 수행하는 부호화 장치 및 방법 |
JP2005333169A (ja) * | 2004-05-18 | 2005-12-02 | Sony Corp | 無線通信システム及び無線通信装置 |
US20110032856A1 (en) * | 2008-04-18 | 2011-02-10 | Kazunori Ozawa | Gateway apparatus, method and program |
GB2484061A (en) * | 2010-06-22 | 2012-04-04 | Gi Provision Ltd | Optimising target bit rate for wireless transmission of multiple video streams |
US9955195B2 (en) * | 2011-08-30 | 2018-04-24 | Divx, Llc | Systems and methods for encoding and streaming video encoded using a plurality of maximum bitrate levels |
WO2015199680A1 (en) * | 2014-06-25 | 2015-12-30 | Intel Corporation | Techniques to enhance wireless personal area network performance under interference conditions |
-
2018
- 2018-09-25 JP JP2018179068A patent/JP7255116B2/ja active Active
-
2019
- 2019-03-07 CN CN201910172841.3A patent/CN110956683A/zh active Pending
- 2019-09-16 US US16/572,589 patent/US20200099973A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004147104A (ja) * | 2002-10-24 | 2004-05-20 | Sony Corp | 動画像符号化装置 |
JP2011045134A (ja) * | 2010-11-01 | 2011-03-03 | Hitachi Kokusai Electric Inc | 映像配信システム、映像配信方法 |
JP2017157904A (ja) * | 2016-02-29 | 2017-09-07 | 富士ゼロックス株式会社 | 情報処理装置 |
WO2018142946A1 (ja) * | 2017-01-31 | 2018-08-09 | ソニー株式会社 | 情報処理装置および方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022138737A1 (ja) | 2020-12-23 | 2022-06-30 | ダイキン工業株式会社 | 作業者端末、動画像処理方法及び動画像処理プログラム |
CN115396697A (zh) * | 2022-08-31 | 2022-11-25 | 中煤科工集团重庆智慧城市科技研究院有限公司 | 一种视频数据传输方法、系统及存储设备 |
Also Published As
Publication number | Publication date |
---|---|
JP7255116B2 (ja) | 2023-04-11 |
CN110956683A (zh) | 2020-04-03 |
US20200099973A1 (en) | 2020-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2020053760A (ja) | 情報処理システム、端末装置およびプログラム | |
JP3957666B2 (ja) | マルチメディアストリーミング装置、マルチメディアストリーミングサーバ、マルチメディアストリーミングクライアント、マルチメディアストリーミング方法及びそのプログラムを記録した記録媒体 | |
KR101510822B1 (ko) | 적응적 트릭 플레이 스트리밍 | |
CN107135422B (zh) | 信息处理设备和信息处理方法 | |
WO2017138387A1 (ja) | 情報処理装置および情報処理方法 | |
JP6463041B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP7314234B2 (ja) | ビデオに関するプロファイルラダーの適応トランスコーディング | |
JP2014192589A (ja) | 動画像データ配信装置、方法、プログラム、及びシステム | |
WO2009119394A1 (ja) | 映像取得方法、映像取得装置、映像取得システム及び映像取得用プログラム | |
Nguyen et al. | A client-based adaptation framework for 360-degree video streaming | |
JP2005318057A (ja) | サーバ装置および映像伝送システム | |
JP2008109434A (ja) | ストリームデータ再生システム、ストリームデータ再生システム用送信装置、ストリームデータ再生システム用受信装置及びストリームデータ再生システム用プログラム | |
KR102137133B1 (ko) | 정보 처리 장치 | |
JP3462267B2 (ja) | 情報通信端末装置 | |
JP6891497B2 (ja) | 情報処理装置、情報処理システム及びプログラム | |
JP3860957B2 (ja) | マルチメディアデータの送出装置 | |
JP2000299841A (ja) | 画像処理装置および画像処理方法ならびに情報記録媒体 | |
JP6793526B2 (ja) | 動画配信システム、配信サーバ、及びプログラム | |
JP2022093190A (ja) | 配信サーバ、受信装置、動画配信システム、及びプログラム | |
JP5505591B2 (ja) | 動画像配信システム、動画像配信装置および動画像配信方法 | |
JP2018160805A (ja) | 画質情報でセグメント受信を制御するクライアント、システム、プログラム及び方法 | |
JP2024040912A (ja) | 情報処理装置、受信装置、情報処理方法、及びプログラム | |
JP2016192658A (ja) | 通信システム、通信装置、通信方法および通信制御方法 | |
JP2023004668A (ja) | 配信装置、配信方法及び配信プログラム | |
JP2022039452A (ja) | 受信端末、配信サーバ、受信方法及び受信プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210906 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220815 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220906 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221102 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230228 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230313 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7255116 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |