JP2014510438A - マルチメディアストリーミング向けのビデオパケットスケジューリング方法 - Google Patents

マルチメディアストリーミング向けのビデオパケットスケジューリング方法 Download PDF

Info

Publication number
JP2014510438A
JP2014510438A JP2013550811A JP2013550811A JP2014510438A JP 2014510438 A JP2014510438 A JP 2014510438A JP 2013550811 A JP2013550811 A JP 2013550811A JP 2013550811 A JP2013550811 A JP 2013550811A JP 2014510438 A JP2014510438 A JP 2014510438A
Authority
JP
Japan
Prior art keywords
buffer
access point
proxy
post
control device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013550811A
Other languages
English (en)
Other versions
JP5676781B2 (ja
Inventor
チヤンゲル,ネスリン
サヤデイ,ベツセム
キエフエール,ミシエル
Original Assignee
アルカテル−ルーセント
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アルカテル−ルーセント filed Critical アルカテル−ルーセント
Publication of JP2014510438A publication Critical patent/JP2014510438A/ja
Application granted granted Critical
Publication of JP5676781B2 publication Critical patent/JP5676781B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/65Network streaming protocols, e.g. real-time transport protocol [RTP] or real-time control protocol [RTCP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/70Admission control; Resource allocation
    • H04L47/80Actions related to the user profile or the type of traffic
    • H04L47/801Real time traffic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W28/00Network traffic management; Network resource management
    • H04W28/02Traffic management, e.g. flow control or congestion control
    • H04W28/0231Traffic management, e.g. flow control or congestion control based on communication conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/24Traffic characterised by specific attributes, e.g. priority or QoS
    • H04L47/2416Real-time traffic
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/25Flow control; Congestion control with rate being modified by the source upon detecting a change of network conditions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00Traffic control in data switching networks
    • H04L47/10Flow control; Congestion control
    • H04L47/30Flow control; Congestion control in combination with information about buffer occupancy at either end or at transit nodes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/61Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio
    • H04L65/611Network streaming of media packets for supporting one-way streaming services, e.g. Internet radio for multicast or broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/70Media network packetisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60Network streaming of media packets
    • H04L65/75Media network packet handling
    • H04L65/765Media network packet handling intermediate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/80Responding to QoS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/56Provisioning of proxy services
    • H04L67/568Storing data temporarily at an intermediate stage, e.g. caching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234327Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/631Multimode Transmission, e.g. transmitting basic layers and enhancement layers of the content over different transmission paths or transmitting with different error corrections, different keys or with different transmission protocols
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W8/00Network data management
    • H04W8/02Processing of mobility data, e.g. registration information at HLR [Home Location Register] or VLR [Visitor Location Register]; Transfer of mobility data, e.g. between HLR, VLR or external networks
    • H04W8/04Registration at HLR or HSS [Home Subscriber Server]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/61Network physical structure; Signal processing
    • H04N21/6106Network physical structure; Signal processing specially adapted to the downstream path of the transmission network
    • H04N21/6131Network physical structure; Signal processing specially adapted to the downstream path of the transmission network involving transmission via a mobile phone network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/643Communication protocols
    • H04N21/64322IP

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Databases & Information Systems (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Telephonic Communication Services (AREA)

Abstract

アクセスポイント11およびプロキシ3を含む伝送連鎖を介した、ビデオデコーダ72を備えた受信機7に向けてのマルチメディアストリーミング用のビデオパケットスケジューリング方法であって、前記プロキシ3はポストエンコーダバッファ31および制御装置32を備え、前記アクセスポイント11は下位層のバッファ4を備えており、前記方法が、アクセスポイント11におけるバッファ4の状態、およびプロキシ3におけるポストエンコーダバッファ31の状態を制御する最適化問題を解決するステップを含む、方法。

Description

本発明は一般に、有線ネットワークおよび無線ネットワークを介したマルチメディアストリーミングの技術分野に関する。
マルチメディアアプリケーション(移動テレビ、ビデオオンデマンド、IPTV、ビデオ会議、デジタルビデオ放送(DVB)、オーディオ/ビデオストリーミング、双方向ビデオ電話、リアルタイムゲームなど)は、特に携帯電話利用者の間では相変わらず人気を得て受け入れられている。このように発展してきたのは、無線ネットワークのおかげであり、これら無線ネットワークは、既存の有線インフラストラクチャにまで拡張され、機動性と携帯性を兼ね備えた利便性をエンドユーザに提供する。したがって、マルチメディアアプリケーションを無条件で受け入れるために、サービス品質(QoS)の要件を満たすことに大きな注意が払われている。
それにもかかわらず、マルチメディアデータ伝送は、特に、エンドユーザに提供されるはずのQoSを厳しく制限する複数の制約を受ける。これらの制約は、−他の種類のアプリケーションと比較して−信頼性の高い効率的な伝送を実現するために満たす必要のある、マルチメディアアプリケーションの特定の性質に関するいくつかの重要な要件を主に処理しなければならない:
− 高データ伝送速度(帯域幅を消費するアプリケーション)の要求に関して、帯域幅の変動に容易に適応可能であること。
− マルチメディアアプリケーションがパケット遅延に影響を受けやすいこと(待ち時間およびジッタ)ならびに/またはパケット損失に対する耐性(パケット損失に耐性のあるアプリケーション)に関して、データ損失に対する頑強性。
さらに、ユーザの数が増大することによる帯域幅の不足は別にして、無線受信機へのマルチメディアの送達は、以下に対して特に困難である。
− 時間とともに変化する無線チャネルの特性(誤り率や帯域幅など)、および
− 何らかのマルチメディアアプリケーション、特に、ビデオ会議、双方向ビデオ電話、または移動テレビなどリアルタイムのアプリケーションの送達遅延の制約。
これらの問題に対処するために、フィードバックメカニズム、すなわち受信機から送信源へのフィードバックメカニズムを利用することに基づく様々な誤り制御の方策が提案されてきた。このフィードバックメカニズムには、経路特性および(受信機において推定される)受信機の挙動に関する情報を送信機(すなわち送信源)に運ぶ役目がある。そうするために、受信機は、チャネル品質測定値(たとえば、利用可能な帯域幅、ストリーム経路の状況、損失率)を送信源に向けて送信する。この機能を実装する共通の技法は、たとえば以下を使用することである。
− RTCPメッセージのような適用可能なフィードバック(すなわち、アプリケーション層から生じるフィードバック)、または
− 媒体アクセス(MAC)層の前方誤り訂正。
次いで、レポートされたネットワーク情報が送信源によって利用されて、アプリケーション層でのRTCPベースのトラフィック符号化調整など、マルチメディアストリームの輸送を最適化する(スケーラブルストリームの場合の速度適応、コード変換、パケットドロップ、フレームドロップ、または層ドロップ)。
最近の参考文献一覧では、これらのフィードバックを利用する、層をまたいだ手法の様々な提案を目にすることができる。これらの手法は、絶えず変化する、レポートされるフィードバックに各層の挙動を適応させることにより、共同でまたは個別に、各層の性能を調整および最適化することを目的とする。
しかし、一方では以下のようにも言える。
− RFCにおいて規定されるように、適用可能なフィードバックは、最初にマルチメディアコンテンツの伝送に割り当てるように意図された帯域幅の無視できない部分(5%)を占める。したがって、フィードバックメッセージが、既に乏しい帯域幅をマルチメディアストリームと共用するために競合する。
− これらのフィードバックは、ストリーム経路の状況ついて直接得た情報を提供することはなく、通常は様々に遅延して得られる。たとえば、ユニキャストのアプリケーションを考えると、たとえば、RTCPフィードバックを介したアプリケーション層において、受信機からの様々なタイプのフィードバックを得て、HARQ ACK/NACKを介してアプリケーション層またはMAC層におけるバッファのレベルについての情報を得て(S.Sesia、I.Toufik、およびM.Bakerによる「LTE、The UMTS Long Term Evolution、From Theory to Practice」)第17章、2009年2月)、チャネル状態についての情報を得ることができる。ここで、主要な問題は、このような制御スキームを用いるとフィードバックが遅延して到達することである。この遅延は、HARQ ACK/NACKメッセージでは数十ミリ秒から数百ミリ秒程度になり、RTCPパケットでは1秒または数秒になる可能性があり、これにより安定性の問題が生じることがある。明らかに、この遅延の存在は、RTCPモード(たとえば、即時(immediate)フィードバックモード、初期(early)RTCPモード、または通常(regular)RTCPモード)から独立している。
さらなる問題は、移動受信機とマルチメディアアプリケーションの送信源との間のフィードバック管理の複雑さについてである。
S.Sesia、I.Toufik、およびM.Bakerによる「LTE、The UMTS Long Term Evolution、From Theory to Practice」)第17章、2009年2月)
本発明の1つの目的は、受信機からのフィードバックメッセージを使用することなく、マルチメディアアプリケーションにおけるエンドユーザのQoSを改善することである。
本発明の他の目的は、MAC層からのフィードバックを使用して、マルチメディアストリームの信頼性の高い輸送を確実にすることである。
本発明の他の目的は、適用可能なフィードバック(たとえば、RTCP)を排除することである。
本発明の他の目的は、適用可能なフィードバックなしで、時間とともに変化するチャネルにおけるチャネル状態を推定することである。
本発明の他の目的は、有線および無線のネットワークを介したリアルタイムのマルチメディアアプリケーションの伝送用に割り当てられた帯域幅を、効果的に使用することである。
本発明の他の目的は、適用可能なフィードバックを使用することなく、所望のQoSメトリクスの導出を可能にすることである。
本発明の他の目的は、適用可能なフィードバックを使用することなく、チャネル適応型の送信源符号化および誤り制御スキームを提供することである。
本発明の他の目的は、帯域幅の変動およびデータ損失に対処する、チャネル適応型の送信源符号化および誤り制御スキームを提供することである。
本発明の他の目的は、様々なチャネル条件にわたって、マルチメディアアプリケーション向けに改善されたQoSを提供することである。
本発明の他の目的は、適用可能なフィードバックを使用することなく、データ符号化速度を制御することである。
本発明の他の目的は、無線ネットワーク上でのリアルタイムマルチメディアアプリケーションのQoSを改善することができるメカニズムを提供することである。
本発明の他の目的は、有線ネットワークおよび/または無線ネットワーク上でマルチメディアデータを伝送している間の、遅延およびパケット損失率を軽減することを対象とする方法を提供することである。
本発明の目的、利点、および他の特徴は、以下の開示および特許請求の範囲から、より明らかになろう。添付図面を参照して、例示することのみを目的に、好ましい実施形態の以下の非制限的な説明をおこなう。
本発明は、前述の問題のうち1つまたは複数の問題の影響に対処することを対象とする。以下の説明では、本発明の簡略化された概要を提示して、本発明のいくつかの態様の基本的な理解をもたらす。この概要は、本発明の概略を網羅したものではない。この概要は、本発明の重要な要素の鍵を識別し、または本発明の範囲を正確に概説するものではない。その唯一の目的は、後に議論されるより詳細な説明への導入部として、簡略化された形で、いくつかの概念を提示することである。
本発明は、アクセスポイントおよびプロキシを含む伝送連鎖を介した、ビデオデコーダを備えた受信機に向けてのマルチメディアストリーミング用のビデオパケットスケジューリング方法であって、前記プロキシはポストエンコーダバッファおよび制御装置を備え、前記アクセスポイントは下位層のバッファを備えており、前記方法が、アクセスポイントにおけるバッファの状態、およびプロキシにおけるポストエンコーダバッファの状態を制御する最適化問題を解決するステップを含む、方法に関する。
広義の態様によれば、受信機から送出されたフィードバックメッセージは、ビデオパケットスケジューリング用の制御装置にはないと考えられる。
別の広義の態様によれば、最適化問題は、離散時間型のマルコフ決定過程の枠組みにおいて定式化される。
本発明はさらに、ポストエンコーダバッファからアクセスポイント内の下位層のバッファへのビデオパケットスケジューリング用の制御装置であって、前記ビデオパケットが、ビデオデコーダを備える受信機にストリーミングされ、最適化問題を解決するためにプログラムされた前記制御装置が、アクセスポイントにおけるバッファの状態、およびプロキシにおけるポストエンコーダバッファ(31)の状態を制御する、制御装置に関する。
本発明はさらに、上記の方法を実行するように構成されたコンピュータプログラム製品に関する。
本発明には、様々な修正形態および代替形態の余地があるが、その具体的な実施形態を、一例として各図面に示した。しかし、具体的な実施形態の本明細書での説明は、開示された特定の形態に本発明を限定するものではないことを理解されたい。
もちろん、任意のこのような実際の実施形態の開発においては、システムおよびビジネスに関連する制約の順守など、開発者特有の目標を達成するために、実装に特有の決定をおこなわなければならないことを理解してもよい。このような開発努力は時間がかかることもあるが、それにもかかわらず、本開示の利益を享受する当業者にとっては日常的に理解できるものであることが理解されよう。
機能上の実施形態を示すブロック図である。 例示的なシミュレーション結果を示す図である。
図1には、無線ネットワーク12に接続された移動局(または無線局)7への、動画シーケンス1のストリーミングが示してある。
動画シーケンス1は、記憶装置、(たとえば、データベース、マルチメディアサーバ、ビデオサーバ)、またはライブカメラフィードなど、様々な送信源からきてもよい。
移動局7は、マルチメディアストリームを受信し、再生することができる任意のユーザ機器である。スマートフォン、タブレット、コンピュータ、携帯型情報端末(PDA)、ラップトップが、このような移動局7の非限定的な例である。
無線ネットワーク12は、無線IPネットワーク、無線パーソナルエリアネットワーク、無線ローカルエリアネットワーク、無線メトロポリタンエリアネットワーク、無線ワイドエリアネットワーク、またはより一般には、2つ以上の無線ネットワークの組合せから得られる任意の移動デバイスネットワークでもよい。
より一般には、動画シーケンス1は、以下のものを備える有線ネットワーク10を介して、移動局7に転送される。
− スケーラブルなビデオエンコーダ21(たとえば、精細粒度スケーラビリティ(FSG)符号化、またはアドバンストビデオコーディングAVC)が設けられたストリーミングサーバ2。
− 一般に有線ネットワーク10の縁部に配置されるプロキシ3。
− 一般にプロキシ3と同一の場所に配置される、アクセスポイント11(すなわち、3GのNode B、またはLTEのeNode Bなど、採用された通信技術に応じて様々に指定してもよい基地局)。
ストリーミングサーバ2内で、動画シーケンス1が、以下のものに符号化されたフレームにセグメント化される。
− H264 SVCの場合は、ベース層および一セットのL−1個の強化層。
− H264 AVCの場合は、イントラフレームおよびインターフレーム。
2種類のインターフレーム(普通はPと表す予測フレーム、および普通はBと表すBi予測フレーム)が存在するH264 AVCの場合には、Lの数が2に等しいことが当業者には容易に理解されよう。さらに、H264 AVCは、使用されるスケーラビリティが一時的なスケーラビリティである、H264 SVCの特定の場合と考えることができる。したがって、以下において一般化するために、Lの表記およびH264 SVCの用語を使用する。
H264 SVCスケーラビリティスキームの場合、アクセスユニット(AU)は、基本的な処理ユニット、(1つもしくは複数の)マクロブロック、スライス、または(1つもしくは複数の)フレームであり、ベース層およびその対応する強化層から構成される。
伝送連鎖の残りの部分から独立して、ストリーミングサーバ2によって、符号化パラメータ(量子化ステップ、フレーム速度など)が制御される。符号化された各フレームの各スケーラブル層がパケット化されて(たとえば、RTP、UDP、またはIPパケットになり)、次いで、これらが、十分な容量をもつ基幹ネットワーク10を介して、プロキシ3に配置されたL個のポストエンコーダバッファ31(層毎に1つ)に送達される。制御装置32は、プロキシ3内で層フィルタリングを実行し、各層において、パケットを送信、保留、または破棄してもよい。
送信パケットは、パケットデータユニット(PDU)にセグメント化された後、アクセスポイント11内のMACバッファ4(または、より一般には下位層のバッファ4)に供給される。次いで、PDUは移動局7に伝送され、この移動局は、正しく受信されたPDUをそれ自体のMACバッファ71に格納する。対応する全てのPDUが受信されるとすぐに、移動局7のアプリケーション層でのL個のバッファ71のうち1つのバッファでのパケットの非カプセル化およびバッファリングが実行される。次いで、完全または不完全なAUが、移動局7のビデオデコーダ72によって処理される。期限を過ぎたパケットは、復号化されることなく破棄される。
アクセスポイント11の構成部品の中で、MAC(または下位層)バッファ4に特段の注意が払われる。次いで、明確にするために、このアクセスポイント11の残りの構成部品(たとえば、MACスケジューラ5、物理層、無線フロントエンド)は、チャネル13に属していると仮定される。このチャネル13はさらに、無線チャネル6、移動局7の物理層、および移動局7のMACバッファ71(すなわち、ACK/NACK手順を管理するMAC層)を含む。
アクセスポイント11のMACバッファ4は、そのバッファ状態のフィードバック(図1のリンク34)を、プロキシ3の制御装置32に送信する。
アクセスポイント11のMACバッファ4からレポートされるフィードバックのみに基づいて、プロキシ3の制御装置32によって動作するスケーラブルな層フィルタリングプロセスが、以下のように設計される。
− PDUが破棄されるのを防止するために、MACバッファ4のオーバフローが回避される。
− 最適で効率的な方式でチャネルを使用するように、MACバッファ4のアンダフローも回避される。
− システムによってもたらされる遅延を制限するために、ポストエンコーダバッファ31のオーバフローが回避される。
− 特にベース層においてポストエンコーダバッファ31のアンダフローも回避されるが、それというのも、その他の層と比較してベース層に対する重要性が著しく高いことをこのことが示しているからである。
したがって、チャネル13の状態をさらに観察することなく、制御装置32は、MACバッファ4に対して実行される観察のみを使用して、スケーラブルな層フィルタリング(何らかのスケーラビリティ層が破棄され得ることに留意)を実行しなければならない。代わりに、または組み合わせて、MACバッファ4の代わりに、RLCバッファまたはPDPCバッファなど他の観察ポイントを採用してもよい。
すなわち、無線チャネル12の前の経路中での最後のバッファ、すなわちMACバッファ4の充足率の変化のみを観察することにより、プロキシ3の制御装置32が、いずれのパケット/層を伝送すべきかを決定することが可能になる。すなわち、制御装置3は、無線局7からプロキシ3へのRTCPフィードバックメッセージなしに、ビデオパケットスケジューリングアルゴリズムを実行する。ACK/NACKによって提供されたフィードバックのみを活用して、チャネル(図1のリンク57)の状態を得てもよい。
これらの上記事項は、離散時間型のマルコフ決定過程(MDP)の枠組みにおいて定式化される最適化問題の解決を通して実現される。
したがって、効率的な層フィルタリングプロセスの設計は、離散時間型MDP(R.S SuttonおよびA.G Barto、Reinforcement Learning、An Introduction、MIT Press、1998年)の枠組みにおいて説明されている。実際、4組
Figure 2014510438
のMDPが、以下の通り定義される。
Figure 2014510438
はシステムの状態のセットである。
Figure 2014510438
はアクションのセットである。
Figure 2014510438
は、アクション
Figure 2014510438
がシステムに加えられるときの、時刻tでの
Figure 2014510438
から時刻t+1での
Figure 2014510438
までの遷移確率である。
Figure 2014510438
は、アクションaを使用することによって得られるsからs’までの遷移の後に受信される、即座の報酬(または、予想される即座の報酬)を示す。
次いで、即座の報酬を最大化する何らかのポリシー
Figure 2014510438
(近視眼的なポリシー)、または合計が割り引かれた将来の報酬(先を見通したポリシー)を見つけなければならない。
制御されるシステムの状態は、以下のものを集めることからなる。
− ポストエンコーダバッファ31のレベル
Figure 2014510438

− 基地局11におけるMACバッファ4のレベルに対応する
Figure 2014510438

− チャネル状態を表す
Figure 2014510438
したがって、システムの状態は
Figure 2014510438
である。
チャネルは、n個の状態、知られている遷移確率
Figure 2014510438
、および静止確率
Figure 2014510438
を有する1次Markovプロセスによってモデル化される。
Figure 2014510438
は、たとえば、考慮されたタイムスロットにおいて利用可能な速度を表す。チャネルの状態の知識に関する2つの仮定を考慮する。
− 仮定1。瞬時のチャネル状態であり、ここで、時刻tからt+1までの間にアクションを適用するよう選択するとき
Figure 2014510438
が利用可能になると仮定され、非常に短い遅延でのフィードバックが可能であるときにのみ現実的である。
− 仮定2。チャネル状態のフィードバックを考慮しない状況である未知のチャネル状態。
アクションaに関しては、プロキシ3は、時刻tにおいて、各層lにおいてパケットを送信し、保持し、破棄する。時刻tからt+1の間でl番目にとられるアクション
Figure 2014510438
は、ポストエンコーダバッファ31からMACバッファ4に伝送されたパケットの数(al,t>0のとき)、または破棄されたパケットの数(al,t<0のとき)を表す。al,t=0の場合、パケットは、ポストエンコーダバッファ31内に保持される。全てのアクションを集めたベクトルは、
Figure 2014510438
である。
全ての状態
Figure 2014510438
およびアクション
Figure 2014510438
が識別されると、遷移確立行列
Figure 2014510438
を決定しなければならない。そのため
に、以下のように2つの場合が区別される。
− 場合1(仮定1)。時刻tにおいて状態sでアクションaを適用するとき、チャネル状態
Figure 2014510438
が制御装置32に利用可能である。次いで、状態遷移行列は以下の通りである。
Figure 2014510438
これは、
Figure 2014510438
が知られているという事実を使用して、容易に評価することができる。
Figure 2014510438
は、全てのポストエンコーダバッファ31の状態のベクトルであり、
Figure 2014510438
は、全てのアクションのベクトルである。
− 場合2(仮定1)。制御装置32に利用可能なチャネル状態
Figure 2014510438
がない。次いで、状態遷移行列は、以下のように記述することができる。
Figure 2014510438
それというのも、
Figure 2014510438
(全てのポストエンコーダバッファ31のベクトル)、
Figure 2014510438
、または
Figure 2014510438
(全てのアクションのベクトル)は、
Figure 2014510438
についての追加情報を提供しないからである。
これらの遷移行列
Figure 2014510438
のサイズを制限するために、状態Sがとり得る値を幾分粗いやり方で量子化して、複雑さと記述の正確さの間で妥協点を得ることができる。
時刻tにおける報酬関数
Figure 2014510438
に関しては、制御装置31が実行する層フィルタリングプロセス(すなわち、スケジューリングアルゴリズム)が、受信機側(すなわち、移動局7)におけるQoS(特に、ビデオ品質)を最大化するアクションを選択する。そのために、復号化されたフレームの平均ピーク信号対雑音比(PSNR)が最大化される。
AUがフィルタリングされる時刻とAUが表示される時刻との間の遅延がばらつくのを回避するため、破棄されたパケット、ならびにシステムの制約によるバッファのオーバフローおよびアンダフローにペナルティを課す、代替の報酬関数
Figure 2014510438
が構築される。この報酬関数は、以下のように表される。
Figure 2014510438
ここで、E[.]は予想関数を表す。
l=1...Lである正のパラメータγ、α、およびβは、様々な制約の重要性とトレードオフの関係である。報酬関数(3)は、いくつかの部分、すなわち、伝送されたSNR層の数にリンクした第1の部分と、ポストエンコーダバッファ31およびMACバッファ4の制約にリンクしたその他の部分とを含む。報酬関数(3)は、ポストエンコーダバッファ31の状態、およびMACバッファ4の状態の関数である。
伝送されたパケットの量が増大すると受信品質も改善すると仮定すれば、伝送報酬は、伝送されたパケットの量を最大化する助けにならなければならない。
パラメータγにより、強化層のパケットと比較して、ベース層に属するパケットに高い優先権を与えることが可能になる。ポストエンコーダバッファ31およびMACバッファ4の制約において、ρ1(.)およびρ2(.)は、バッファ状態を満足させることに正の報酬を与え、回避すべき状態には負の報酬を与える。
考慮されるシステムにおける合同状態から合同アクションへのマッピングとしてのポリシーπは、伝送すべきスケーラブルな層の数を示し、ポストエンコーダバッファ31およびMACバッファ4の状態を知っている。
最適な先を見通したポリシーは、以下に定義する最適な状態値関数に対応する、最適な静止マルコフポリシーπにある。
Figure 2014510438
ここで、0<α<1は割引き係数であり、現在および将来の報酬の相対的な重要性を定義する。最適な先を見通したポリシーは、値およびポリシーの繰返し処理アルゴリズム(R.S.SuttonおよびA.G.Barto、Reinforcement Learning、An Introduction、MIT Press、1998年)によって得ることができる。(4)での値は、左辺が右辺(この問題についてのベルマン方程式である)と等しくなるよう収束するまで、全ての状態Sにおいて更新され繰り返される。α=0のとき、近視眼的なポリシーを手に入れ、即座の報酬のみが最大化する。
したがって、提案されているアルゴリズムは、通信連鎖の送信機側のみで、MAC(図1のリンク34)、およびアプリケーション層(図1のリンク57)においてバッファ4のレベルを制御する。MAC層でのフィードバックが暗黙の内に使用されるが、移動ユーザからの適用可能なフィードバック(すなわち、アプリケーション層において)は考慮されず、遅延した測定値の使用を回避する。
提案されているアルゴリズムは、層をまたいだ制御メカニズムにより、送信機側においてパケットスケジューリングを実行し、アプリケーション層とMAC層の両方において合同でバッファ管理を実行する。
制御装置32は、MACバッファ4に関する情報を取得し、上記MDP最適化問題を解決し、次いで、物理層およびアプリケーション層用の更新された動作パラメータを得る。
最適化されたパラメータを使用することで、以下のことが可能になる。
− ビデオコンテンツ1の伝送された層の数を最大化すること。
− MACバッファ4におけるアンダフローおよびオーバフローの状態を回避すること。
− ポストエンコーダバッファ71におけるアンダフローおよびオーバフローの状態を回避すること。
− フレームパケットレベルでのバッファの充足率を考慮すること。したがって、
− 信頼性の高い通信を実現し、移動局7側でのQoSを最大化すること。
したがって、提案されている方法は、以下のことを可能にする。
− 無線ネットワークにおけるアップリンクチャネルのスペクトル効率を増大させること(適用可能なフィードバックなし)。
− 手当たり次第にパケットをフィルタリングし、適用可能なフィードバックを必要としないこと。
− エンドユーザのサービス品質を改善すること。
− ベース層/パケットを優先順位付けすることにより、エンドユーザに対してある程度の再生マージンを維持すること。
提案されている方法は、品質を意識した適応型および選択型のフレーム/パケット伝送を実行するための、AVCまたはSVCビデオストリーミング用のスケジューリングアルゴリズムである。
提案されている層フィルタリング処理の性能が、いくつかの動画シーケンス上で評価されてきた。
図2には、制御装置32による適応がある場合とない場合でのシミュレーションについて、ピーク信号対雑音比(PSNR)の挙動と時間の関係が示してある。次いで、PSNRについてビデオ品質が測定されて、適応利得についてストリーミング性能を評価する。
開示された方法で実現可能な利得の例として、図2には、30fpsでの動画シーケンス「Foreman.Qcif」について得られた結果が報告されている。H.264 SVCエンコーダは、フレーム毎にL=3のSNRスケーラビリティ層を使用している。
図2には、5つの曲線がプロットしてある。これらの曲線は、図2の最下部から最上部までそれぞれ、チャネル状態なしでの(近視眼的な制御)PSNR、チャネル状態なしでの(先を見通した制御)PSNR、チャネル状態ありでの(近視眼的な制御)PSNR、チャネル状態ありでの(先を見通した制御)PSNR、および帯域幅が無限のPSNRの時間経過(フレームインデックス)についての変化(dBでの)を表している。
この説明に役立つ実例で使用される設定は、以下の通りである。
− 累積された平均速度(および、輝度におけるPSNR)は以下の通りである。
層1においては、
Figure 2014510438
層1および層2においては、
Figure 2014510438
全ての層において、
Figure 2014510438
− 無縁チャネルは、2状態のマルコフモデル(n=2)としてモデリングされ、よい状態h=1と悪い状態h=0がある。チャネル速度は
Figure 2014510438
である。チャネル状態の遷移確率はp11=0.9およびp00=0.8であり、結果として平均チャネル速度は
Figure 2014510438
になる。層毎の4つの実現可能なアクションは、各時刻においてA={−1,0,1,2}と考えられる。
− 複雑さを最小限に抑えるために、全てのバッファのレベルが量子化されて、3つの実現可能な値になる。すなわち、1がアンダフローを表し、2が満足できるレベルを表し、3がオーバフローを表す。
− ポストエンコーダバッファ31は、最大サイズ(パケットの数に関して)Se=55を有するものと仮定され、オーバフローおよびアンダフローのレベルは、Semax=50およびSemin=10である。MACバッファ4においては、最大サイズのSm=220がPDUサイズの200ビットに等しく、それぞれが最大サイズの44kビットに対応し、アンダフローおよびオーバフローにおいて考慮されるレベルは、Smmin=10kビットおよびSmmax=25kビットである。
− 報酬関数(式3)での各パラメータの値は、様々な制約の重要性を反映するように設定されてきた。すなわち、
Figure 2014510438
であり、
Figure 2014510438
であり、β=300である。
知られている平均的な送信源およびエンコーダの特性が考慮されてきて、各層において知られている平均パケット長が導き出されている。
考慮してきた上記2つの場合には、近視眼的なポリシー(α=0)および先を見通したポリシー(α=0.9)で得られる、復号化されたシーケンスのPSNRの変化が、図2に表してある。
適用可能なフィードバックが使用されるとき、近視眼的なポリシーと比較して、先を見通したポリシーでは約1.5dBの平均利得が得られる。この利得は主に、第1の強化層のより多くのパケットが受信機に到達することに起因している。
近視眼的なポリシーで約46%の時間、適用可能なフィードバックを使用しない場合では(この実施形態の目標)、MACバッファ4はオーバフロー状態にあり、ある一定時間、最大バッファサイズを超過する。この状況の結果としてPDUがいくらか損失し、これにより、受信したビデオの品質が著しく低下することになる。先を見通したポリシーを用いる場合、MACバッファは、約25%の時間においてオーバフロー状態にあるが、決してPDUパケットを失わない。
適用可能なフィードバックおよび先を見通したポリシーを用いない場合、結果として、適用可能なフィードバックの方策を採用する場合と比較して、PSNRにおいて0.5dBの損失が生じる。したがって、MACバッファ4の状態の利用可能性により、チャネルの状態の合理的な推定が実現し、受信したビデオの品質の満足いく調整が可能になる。
したがって、特にこの例では50番目以降のフレームにおいて、開示した方法を取り入れると、最大PSNRが得られる。
前述の方法が、H264 AVC、H264/SVC、これらの任意の別のバージョン、または任意の同等なコーデックなど、従来のコーデックに対処することに言及することは注目に値する。
特に混雑したトラフィック状態の下でパケット損失率が著しく低下することにつながる周波数チャネルの変化により、前述の方法は、無線ネットワークを介したマルチメディアストリームに良好に適合する。
特に、有線ネットワークでのマルチメディアデータ伝送向けに設計された、他のQoS機能(たとえば、IntServ/DiffServ)および輻輳制御メカニズムを、本発明において説明した方法と組み合わせてもよい。

Claims (9)

  1. アクセスポイント(11)およびプロキシ(3)を含む伝送連鎖を介した、ビデオデコーダ(72)を備えた受信機(7)に向けてのマルチメディアストリーミング用のビデオパケットスケジューリング方法であって、前記プロキシ(3)はポストエンコーダバッファ(31)および制御装置(32)を備え、前記アクセスポイント(11)は下位層のバッファ(4)を備えており、アクセスポイント(11)におけるバッファ(4)の状態、およびプロキシ(3)におけるポストエンコーダバッファ(31)の状態を制御する最適化問題を解決するステップを含む、方法。
  2. 受信機(7)のビデオデコーダ(72)から制御装置(32)にフィードバックメッセージが伝送されない、請求項1に記載の方法。
  3. 最適化問題が、離散時間型のマルコフ決定過程の枠組みにおいて定式化される、請求項1または請求項2に記載の方法。
  4. マルコフ決定過程のシステムの報酬関数が次式で示され、
    Figure 2014510438
    E[.]が予想関数を表し、l=1...Lである正のパラメータγ、α、およびβが、アクセスポイント(11)内のバッファ(4)、およびプロキシ(3)内のポストエンコーダバッファ(31)に対して様々な制約の重要性とトレードオフの関係である、請求項3に記載の方法。
  5. ポストエンコーダバッファ(31)からアクセスポイント(11)内の下位層のバッファ(4)へのビデオパケットスケジューリング用の制御装置(32)であって、前記ビデオパケットが、ビデオデコーダ(72)を備える受信機(7)にストリーミングされ、最適化問題を解決するためにプログラムされた前記制御装置が、アクセスポイント(11)におけるバッファ(4)の状態、およびプロキシ(3)におけるポストエンコーダバッファ(31)の状態を制御する、制御装置。
  6. 受信機(7)のビデオデコーダ(72)から制御装置(32)にフィードバックメッセージが伝送されない、請求項5に記載の制御装置。
  7. 最適化問題が、離散時間型のマルコフ決定過程の枠組みにおいて定式化される、請求項5または請求項6に記載の制御装置。
  8. マルコフ決定過程のシステムの報酬関数が次式で示され、
    Figure 2014510438
    E[.]が予想関数を表し、l=1...Lである正のパラメータγ、α、およびβが、アクセスポイント(11)内のバッファ(4)、およびプロキシ(3)内のポストエンコーダバッファ(31)に対して様々な制約の重要性とトレードオフの関係である、請求項7に記載の制御装置。
  9. コンピュータおよび/または専用システムのメモリ上に記憶された命令を含むコンピュータプログラムであって、前記請求項1から4のいずれか一項に記載の方法を実行するように構成された、コンピュータプログラム。
JP2013550811A 2011-01-31 2012-01-04 マルチメディアストリーミング向けのビデオパケットスケジューリング方法 Expired - Fee Related JP5676781B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP11290068.3 2011-01-31
EP11290068.3A EP2485441B1 (en) 2011-01-31 2011-01-31 A video packet scheduling method for multimedia streaming
PCT/EP2012/050084 WO2012104108A1 (en) 2011-01-31 2012-01-04 A video packet scheduling method for multimedia streaming

Publications (2)

Publication Number Publication Date
JP2014510438A true JP2014510438A (ja) 2014-04-24
JP5676781B2 JP5676781B2 (ja) 2015-02-25

Family

ID=43899596

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013550811A Expired - Fee Related JP5676781B2 (ja) 2011-01-31 2012-01-04 マルチメディアストリーミング向けのビデオパケットスケジューリング方法

Country Status (6)

Country Link
US (1) US20140115100A1 (ja)
EP (1) EP2485441B1 (ja)
JP (1) JP5676781B2 (ja)
KR (1) KR101482484B1 (ja)
CN (1) CN103339912B (ja)
WO (1) WO2012104108A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10063868B2 (en) 2013-04-08 2018-08-28 Arris Enterprises Llc Signaling for addition or removal of layers in video coding
EP3146724A1 (en) 2014-05-21 2017-03-29 ARRIS Enterprises LLC Signaling and selection for the enhancement of layers in scalable video
CA2949823C (en) 2014-05-21 2020-12-08 Arris Enterprises Llc Individual buffer management in transport of scalable video
US10171532B2 (en) * 2014-09-30 2019-01-01 Citrix Systems, Inc. Methods and systems for detection and classification of multimedia content in secured transactions
US20160142510A1 (en) * 2014-11-14 2016-05-19 Futurewei Technologies, Inc. Cache-aware content-based rate adaptation mechanism for adaptive video streaming
US10839302B2 (en) 2015-11-24 2020-11-17 The Research Foundation For The State University Of New York Approximate value iteration with complex returns by bounding

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002025951A2 (en) * 2000-09-20 2002-03-28 General Instrument Corporation Method and apparatus for determining a transmission bit rate in a statistical multiplexer
US20060095943A1 (en) * 2004-10-30 2006-05-04 Demircin Mehmet U Packet scheduling for video transmission with sender queue control

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6859496B1 (en) * 1998-05-29 2005-02-22 International Business Machines Corporation Adaptively encoding multiple streams of video data in parallel for multiplexing onto a constant bit rate channel
KR100592547B1 (ko) * 2003-06-03 2006-06-23 서울시립대학교 산학협력단 스트리밍을 위한 패킷 스케줄링 방법
US7719978B2 (en) * 2003-09-12 2010-05-18 Newsouth Innovations Pty Limited Method for transmitting data over lossy packet-based communication networks
WO2005048606A1 (en) * 2003-11-13 2005-05-26 Koninklijke Philips Electronics, N.V. Method and apparatus for smoothing overall quality of video transported over a wireless medium
US20070276954A1 (en) * 2006-05-19 2007-11-29 Hong Kong University Of Science And Technology Low-Delay High Quality Video Streaming Using TCP
CN101674482B (zh) * 2009-09-25 2011-05-11 上海大学 部分可观测马尔可夫决策过程中可伸缩视频流的优化调度方法
EP2383999A1 (en) * 2010-04-29 2011-11-02 Irdeto B.V. Controlling an adaptive streaming of digital content

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002025951A2 (en) * 2000-09-20 2002-03-28 General Instrument Corporation Method and apparatus for determining a transmission bit rate in a statistical multiplexer
US20060095943A1 (en) * 2004-10-30 2006-05-04 Demircin Mehmet U Packet scheduling for video transmission with sender queue control

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JPN6014036188; Nesrine Changuel et al.: ''End-to-end stochastic scheduling of scalable video overtime-varying channels'' Proceeding MM '10 Proceedings of the international conference on Multimedia , 20101025, pp. 731-734 *
JPN6014036191; Nesrine Changuel et al.: ''Adaptive scalable layer filtering process for video scheduling over wireless networks based on MAC' Acoustics, Speech and Signal Processing (ICASSP), 2011 IEEE International Conference on , 20110522, pp. 2352-2355 *

Also Published As

Publication number Publication date
KR20130121970A (ko) 2013-11-06
US20140115100A1 (en) 2014-04-24
WO2012104108A1 (en) 2012-08-09
CN103339912A (zh) 2013-10-02
CN103339912B (zh) 2015-11-25
EP2485441A1 (en) 2012-08-08
KR101482484B1 (ko) 2015-01-14
EP2485441B1 (en) 2014-10-08
JP5676781B2 (ja) 2015-02-25

Similar Documents

Publication Publication Date Title
US9538220B2 (en) Video streaming quality of experience degradation control using a video quality metric
US10193813B2 (en) System and method for real-time traffic delivery
US20130290492A1 (en) State management for video streaming quality of experience degradation control and recovery using a video quality metric
US20130298170A1 (en) Video streaming quality of experience recovery using a video quality metric
JP5676781B2 (ja) マルチメディアストリーミング向けのビデオパケットスケジューリング方法
US8443097B2 (en) Queue management unit and method for streaming video packets in a wireless network
US20180248806A1 (en) Adaptive video over multicast
KR100924309B1 (ko) 시간확장성과 버퍼상태판단을 통한 품질 적응적 멀티미디어 데이터 스트리밍 방법 및 시스템
WO2014209493A1 (en) State management for video streaming quality of experience degradation control and recovery using a video quality metric
WO2014209494A1 (en) Video streaming quality of experience degradation control using a video quality metric
Kim et al. A transmission control SCTP for real-time multimedia streaming
WO2014209495A1 (en) Video streaming quality of experience recovery using a video quality metric
Xie et al. Rate-distortion optimized dynamic bitstream switching for scalable video streaming
US9660921B2 (en) Robust content-based solution for dynamically optimizing multi-user wireless multimedia transmission
Sutinen et al. Towards ubiquitous video services through scalable video coding and cross-layer optimization
Luo et al. Joint source coding and network-supported distributed error control for video streaming in wireless multihop networks
Falik et al. Transmission algorithm for video streaming over cellular networks
Vijaykumar et al. A cross-layer frame work for adaptive video streaming over wireless networks
Futemma et al. TFRC-based rate control scheme for real-time JPEG 2000 video transmission
Luo et al. An end-to-end video transmission framework with efficient bandwidth utilization
Ghimire et al. Enhanced the Quality of telemedicine Real-Time Video Transmission and Distortion Minimization in Wireless Network
Chan et al. Wireless video broadcasting to diverse users
Al-Suhail et al. Mobile video streaming over heterogeneous networks
Amir et al. Enterprise solution of bandwidth optimization for multimedia transmission
Alkafije The Effect of Band's Size on the Temporary Qualities for Transferring Video Pictures Wirelessly

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140814

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140826

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141225

R150 Certificate of patent or registration of utility model

Ref document number: 5676781

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees