JP6845808B2 - 知覚体感品質推定により駆動されるスマート適応型ビデオストリーミングのための方法及びシステム - Google Patents
知覚体感品質推定により駆動されるスマート適応型ビデオストリーミングのための方法及びシステム Download PDFInfo
- Publication number
- JP6845808B2 JP6845808B2 JP2017559741A JP2017559741A JP6845808B2 JP 6845808 B2 JP6845808 B2 JP 6845808B2 JP 2017559741 A JP2017559741 A JP 2017559741A JP 2017559741 A JP2017559741 A JP 2017559741A JP 6845808 B2 JP6845808 B2 JP 6845808B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- quality
- stream
- video stream
- qoe
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 41
- 230000003044 adaptive effect Effects 0.000 title claims description 34
- 230000000007 visual effect Effects 0.000 claims description 20
- 238000009826 distribution Methods 0.000 claims description 18
- 239000011159 matrix material Substances 0.000 claims description 13
- 238000005457 optimization Methods 0.000 claims description 11
- 230000005540 biological transmission Effects 0.000 claims description 9
- 238000002360 preparation method Methods 0.000 claims description 9
- 230000008447 perception Effects 0.000 claims description 7
- 230000015556 catabolic process Effects 0.000 claims description 5
- 238000006731 degradation reaction Methods 0.000 claims description 5
- 230000002123 temporal effect Effects 0.000 claims description 5
- 230000003139 buffering effect Effects 0.000 claims description 4
- 238000005259 measurement Methods 0.000 claims description 4
- 238000013441 quality evaluation Methods 0.000 claims description 4
- 238000001303 quality assessment method Methods 0.000 claims description 3
- 238000011156 evaluation Methods 0.000 claims description 2
- 239000000463 material Substances 0.000 claims 4
- 230000003247 decreasing effect Effects 0.000 claims 2
- 238000002156 mixing Methods 0.000 claims 1
- 230000037361 pathway Effects 0.000 claims 1
- 238000013459 approach Methods 0.000 description 32
- 238000010586 diagram Methods 0.000 description 22
- 230000006870 function Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000008570 general process Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
- H04N21/2402—Monitoring of the downstream path of the transmission network, e.g. bandwidth available
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/80—Responding to QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/154—Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/164—Feedback from the receiver or from the transmission channel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/238—Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
- H04N21/23805—Controlling the feeding rate to the network, e.g. by controlling the video pump
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
Description
本発明は、一般に、クライアント・ユーザーの体感品質を最適化するように、ビデオ配信ネットワークを通してビデオ・ホスティング・サーバからクライアントにビデオをストリーミングすることに関する。より詳細には、サーバ側でのビデオストリームは、セグメントに分割され、その各々が異なるビットレート及び解像度を持つ。本発明は、以下の利点のうちの1つ又はそれ以上を達成するために、サーバ側のストリームから次のセグメントを選ぶ際にクライアント側で最適な決定を行う方法又はシステムに関する。それらは、1)クライアント・ユーザーの体感品質(quality−of−experience)を犠牲にすることなく、ビデオ・コンテンツの配信のための全体の帯域幅を節約すること、2)クライアント・ユーザーのより良い全体の視覚的な体感品質を作り出すこと、3)クライアント・ユーザーのより滑らかな視覚的な体感品質を作り出すこと、及び、4)クライアント・ユーザー側での再バッファリング又はストール・イベントの可能性を低減すること、である。本発明は、一般的な適応型ストリーミング・アプローチを採用する多くのアプリケーションにおいて使用され得る。
ここ数年、私たちはネットワーク上で配信されるビデオデータの量における指数関数的な増大を見てきた。ビデオオンデマンド(video−on−demand:VoD)アプリケーションのためのますます人気のあるアプローチは、適応型(adaptive)ビデオストリーミング技術の採用ということになる。適応型ビデオストリーミングにおいては、各ソース・ビデオ・コンテンツは、ビデオストリーム準備段階における、異なるビットレート及び解像度の複数の変形(若しくはストリーム)に、エンコード/トランスコードされる。ビデオストリームは、タイムセグメントに分割され、全てのストリームはビデオ・ホスティング・サーバに保存される。クライアントがビデオ・コンテンツを視聴するとき、ネットワーク帯域幅、バッファ・サイズ、再生速度(playback speed)等に基づいて、各タイムセグメントために多くのストリームのうちの1つを適応的に選択することができる。適応型ビデオストリーミング・フレームワークは、繰り返されるエンコード/トランスコーディング要求のための増大されたCPUパワー、及び、同じコンテンツの多くのストリームを保存するために増大されたストレージスペース、のために、サーバー側に負担をかける。しかしながら、その瞬間その瞬間の状況に応じて、各個人ユーザーへ最も良い可能なサービスを提供する潜在力をもって、インフラストラクチャを変更することなく、ネットワークへの接続に関して大きなバリエーションのあるユーザーにサービスを提供することを許容する。
ビデオ配信ネットワーク上に、スマート適応型ビデオストリーミング又はスマート・ストリーミングを提供するために決定的ファクターとして視覚的なQoEを使用するシステム又は方法。
本開示は、ビデオ配信ネットワーク上のインテリジェント適応型ビデオストリーミングのための方法、システム、又はコンピュータプログラムに関する。スマート適応型ビデオストリーミング又はスマート・ストリーミングと我々が呼ぶ、この技術は、以下の利点の1つ又はそれ以上を備える。1)クライアント・ユーザーの体感品質を犠牲にすることなく、ビデオ・コンテンツの配信のための全体の帯域幅を節約すること。2)クライアント・ユーザーのより良き全体の視覚的な体感品質を作り出すこと。3)クライアント・ユーザーのより滑らかな視覚的な体感品質を作り出こと。そして、4)クライアント・ユーザー側での再バッファリング又はストール・イベントの可能性を低減すること。
[1]Z.Wang and A.Bovik, 「平均二乗誤差:それを愛するか又はそのままにするか? −信号の信頼率測定での新しい表情」、IEEE Signal Processing Magazine, vol.26, pp.98−117, Jan. 2009.
[2] Z.Wang, A.C.Bovik, H.R.Sheikh, and E.P.Simoncelli, 「画像品質評価:エラーの可視性から構造的類似性まで」、IEEE Transactions on Image Processing, vol.13, no.4, pp.600−612, Apr. 2004.
[3] Z.Wang, L.Lu, and A.C.Bovik, 「構造歪み測定に基づくビデオ品質評価」、Signal Processing: Image Communication, vol.19, pp.121−132, Feb. 2004.
[4] Z.Wang, E.P.Simoncelli, and A.C.Bovik, 「画質評価のためのマルチスケール構造類似性」、IEEE Asilomar Conference on Signals, Systems and Computers, Nov. 2003.
[5] M.H.Pinson, 「客観的にビデオ品質を測定するための新規な標準化された方法」、IEEE Transactions on Broadcasting, vol.50, no.3, pp.312−322, Sept. 2004.
[6] K.Seshadrinathan and A.C.Bovik, 「ナチュラル・ビデオの動作同調の時空間的品質評価」、“Motion tuned spatio−temporal quality assessment of natural videos”, IEEE Transactions on Image Processing, vol.19, no.2, pp.335−350, Feb. 2010.
[7] A.Rehman, K.Zeng and Z.Wang, https://ece.uwaterloo.ca/〜z70wang/research/ssimplus/
[8] A.Rehman, K.Zeng and Z.Wang, 「ディスプレイ装置適応型ビデオ体感品質評価」、IS&T−SPIE Electronic Imaging, Human Vision and Electronic Imaging XX, Feb. 2015.
[9] Z.Wang, A.Rehman and K.Zeng, 「知覚による客観的なビデオ品質評価のための方法及びシステム」、米国仮出願番号 61/496,923, 2013, PCT 2014.
Claims (31)
- ビデオ・ホスティング・サイトから受信側クライアントサイトへビデオ配信ネットワークにおけるビデオソースコンテンツの適応型ビデオストリーミングのための方法であって、
(a)同じビデオソースコンテンツから、異なるビットレート及び解像度の複数のビデオストリームを作り出し、そして、そのビデオストリームの各々をタイムセグメントに分割するステップと、
(b)ビデオ・ホスティング・サイトにおいて、及び/又は、ビデオ配信ネットワーク内において、入力の1つとしてビデオソースコンテンツを有して、体感品質予測パラメータを得るため、ビデオ準備段階中において、ビデオストリームの各々のタイムセグメントの各々の体感品質予測を実行するステップと、
(c)受信側クライアントサイトへ、ビデオストリームに先立って又はビデオストリームと共に、体感品質予測パラメータを送信するステップと、
(d)ユーザーの体感品質(QoE)推定を得るため受信側クライアントサイトでビデオストリームの各々のタイムセグメントの各々の実際のユーザーの体感品質を動的に再推定するために、受信した体感品質予測パラメータ及びネットワーク、受信デバイス、及び視聴環境情報のクライアント側パラメータを使用するステップと、
(e)クライアントサイトでビデオストリームの各々のタイムセグメントの各々のユーザーのQoE推定のマトリクスを作るステップと、
(f)そのマトリクスに基づき、クライアントサイトでのビデオストリームの次の複数のタイムセグメントのシーケンスのジョイント選択のための動的なプログラミング最適化を実施することにより、平均の品質及び/又は平滑さを最大化する最適化された経路を決定するステップと、及び
(g)受信側クライアントサイトで、複数のビデオストリームのタイムセグメントから1つのタイムセグメントを選択するため、及び、ビデオストリームの次のタイムセグメントを要求するため、そのビデオストリームの次の複数のタイムセグメントのシーケンスを使用するステップと、
を含む方法。 - 請求項1の方法であって、その方法は、ネットワークから受信した体感品質予測パラメータを静的に使用することにより、又は、ネットワークから受信した体感品質予測パラメータを1又は複数のインスタントネットワーク及び受信側条件と動的に配合することにより、クライアントサイトでの体感品質推定を行い、その条件が、誤った送信及び/又はデコーディング、初期バッファリング及び再バッファリング、視聴デバイスのピクセル解像度、視聴デバイスの物理的サイズ、デバイス上のビデオ・フレーム・ピクセル解像度、ビデオ時間分解能、デバイス上のビデオ再生速度、視聴環境条件、ユーザー嗜好、ユーザー視覚条件、又は、ユーザーの期待を含むことを特徴とする方法。
- 請求項1の方法であって、ビデオ準備段階の間に、ビデオ・ホスティング・サイトにおいて、又は、ビデオ配信ネットワーク内において、人間の主観的な体感品質測定を実施するステップと、及び、体感品質の予測の判断材料として主観的評価を使用するステップと、を更に含む方法。
- 請求項1の方法であって、知覚の体感品質の予測の判断材料として、PSNR、SSIM、MS−SSIM、VQM、MOVIE 及び SSIMplusのような、コンピュータによるフルリファレンス、リデュースドリファレンス、及び/又はノンリファレンスの客観的ビデオ品質評価のモデルを使用するステップを更に含む方法。
- 請求項1の方法であって、体感品質の予測の判断材料として、異なる空間分解能及び/又は時間分解能を横切ってビデオ品質を比較することができるパラメータを生成する、フルリファレンス及び/又はリデュースドリファレンス客観的知覚モデルを使用するステップを更に含む方法。
- 請求項1の方法であって、視聴デバイスのタイプ及びセッティング、視聴デバイス上の再生ウィンドウの解像度、及び/又は、クライアントサイトでのビデオの視聴条件、に依存する知覚の体感品質を予測するパラメータを生成する客観的な知覚ビデオ品質モデルを使用するステップを更に含む方法。
- 請求項1の方法であって、ビデオストリームの送信に先立って、又は、ビデオストリームの送信と共に、メタデータとして体感品質予測パラメータを送信するステップを更に含む方法。
- 請求項1の方法であって、透かし若しくは隠れたメッセージとして体感品質予測パラメータをビデオストリーム内に埋め込むことにより、その体感品質予測パラメータを送信するステップを更に含む方法。
- 請求項1の方法であって、ビデオストリームのビットレート、ビデオストリームの解像度、ネットワークの利用可能な帯域幅、及び、デコード速度、表示速度、バッファ・サイズ、及び受信デバイスのパワー、の1つ又はそれ以上を含む、他の利用可能な情報と、体感品質推定を、組み合わせる、クライアントサイトでのビデオストリームの次のタイムセグメントの選択におけるストリーミング決定実行ステップを更に含む方法。
- 請求項1の方法であって、ビデオビットレート、ネットワーク帯域幅、デコード速度、表示速度、バッファ・サイズ、及びデバイスパワーの制約下で、最大の体感品質ビデオストリームを取り上げるクライアントサイトでのビデオストリームの次のタイムセグメントの選択のストリーミング決定実行ステップを更に含む方法。
- 請求項1の方法であって、アフォーダブルなより高いビットレート及び/又はより高い解像度ストリームにスイッチすることを、そのようなスイッチングがなく、体感品質が所定のターゲット閾値レベルで又はその上で維持されるとき、拒絶することにより、帯域幅を節約するために、全体の体感品質を改善するために再バッファリングの可能性を減少させるために、及び/又は、体感品質の滑らかさを維持するために、クライアントサイトでビデオストリームの次のタイムセグメントの選択のストリーミング決定実行ステップを更に含む方法。
- 請求項1の方法であって、アフォーダブルなより高いビットレート及び/又はより高い解像度ストリームにスイッチすることを、そのようなスイッチングが閾値よりも低い体感品質の増加という結果になるとき、拒絶することにより、帯域幅を節約するために、全体の体感品質を改善するために再バッファリングの可能性を減少させるために、及び/又は、体感品質の滑らかさを維持するために、クライアントサイトでビデオストリームの次のタイムセグメントの選択のストリーミング決定実行ステップを更に含む方法。
- 請求項1の方法であって、より低いビットレート及び/又はより低い解像度ストリームにスイッチすることによって、そのようなスイッチングが、閾値よりも低い体感品質の低下という結果となるとき、及び/又は、そのようなスイッチングにより体感品質が所定のターゲット閾値体感品質レベルで又はそれを超えて維持されるとき、ネットワーク帯域幅又はバッファ・サイズにおける低下を見ようが見まいが、帯域幅を節約するために、全体の体感品質を改善するために再バッファリングの可能性を減少させるために、及び/又は、体感品質の滑らかさを維持するために、クライアントサイトでビデオストリームの次のタイムセグメントの選択のストリーミング決定実行ステップを更に含む方法。
- 請求項1の方法であって、体感品質の同じレベルを維持するために、現在のビットレートよりも高いものを必要とする将来のビデオセグメントを予見するとき、ネットワーク帯域幅又はバッファ・サイズにおける低下を見て若しくは見ることもなく、より低いビットレート及び/又はより低い解像度のストリームにスイッチすることによって、帯域幅を節約し、再バッファリングの可能性を低下させ、全体の体感品質を改善し、及び/又は、体感品質の滑らかさを維持するために、クライアントサイトでビデオストリームの次のタイムセグメントの選択のストリーミング決定実行ステップを更に含む方法。
- 請求項1の方法であって、ネットワーク帯域幅又はバッファ・サイズにおける増加を見て若しくは見ることなく、より高いビットレートのストリーム及び/又はより高い解像度ストリームにスイッチすることにより、そのようなスイッチングがなければ体感品質が閾値よりも低下するとき、及び、より高いビットレート・ストリームと次のセグメントでの現在のストリームとの間の体感品質における絶対差がもう1つの閾値よりも低いとき、体感品質の現在のレベル及び滑らかさを維持するために、クライアントサイトでビデオストリームの次のタイムセグメントの選択のストリーミング決定実行ステップを更に含む方法。
- 請求項1の方法であって、動的なプログラミング最適化は、最適化された経路を決定するビタビアルゴリズムを利用することを特徴とする方法。
- ビデオ配信ネットワークにわたる適応型ビデオストリーミングのためのシステムであって、
ビデオ・ホスティング・サーバと、
ビデオQoEの予測の判断材料と、及び
受信側クライアントサイトと、を含み、
(a)ビデオ・ホスティング・サーバが、同じビデオソースコンテンツから、異なるビットレート及び解像度の複数のビデオストリームを作り出し、そして、それらをタイムセグメントに分割し、
(b)ビデオQoEの予測の判断材料は、入力の1つとしてビデオソースコンテンツを有して、ビデオ準備段階中において、ビデオ・ホスティング・サイトにおいて、及び/又は、ビデオ配信ネットワーク内において、体感品質予測パラメータを得るため、ビデオストリームの各々のタイムセグメントの各々の体感品質予測を実行し、
(c)受信側クライアントサイトへ、ビデオストリームに先立って又はビデオストリームと共に、体感品質予測パラメータが、送信され、
(d)実際のユーザー体感品質を推定するために、及び、視聴者の体感品質(QoE)推定を得るために、受信した体感品質予測パラメータ及びクライアント側ネットワーク、受信デバイス、及び、視聴環境情報が、受信側クライアントサイトで使用され、
(e)ビデオストリームの各々のタイムセグメントの各々に対する視聴者のQoE推定のマトリクスは、クライアントサイトで作られ、
(f)そのマトリクスに基づき、クライアントサイトでのビデオストリームの次の複数のタイムセグメントのシーケンスのジョイント選択のための動的なプログラミング最適化を実施することにより、平均の品質及び/又は体感品質の平滑さを最大化する、最適化された経路が決定され、及び
(g)受信側クライアントサイトで、複数のビデオストリームのタイムセグメントから1つのタイムセグメントを選択するため、及び、ビデオストリームの次のタイムセグメントを要求するため、ビデオストリームの次の複数のタイムセグメントのシーケンスが使用される、
ことを特徴とするシステム。 - ビデオ配信ネットワークにおけるビデオ・ホスティング・サイトから受信側クライアントサイトへ送信されるビデオストリームのためのクライアントサイトでの視聴者の体感品質推定を行うシステムであって、
ネットワークから体感品質(QoE)予測パラメータを受信し、ここで、QoE予測パラメータは、ビデオストリームのビデオソースコンテンツを有してビデオ準備段階中に推定され、
ネットワーク、受信デバイス、及び、視聴環境情報のクライアント側パラメータを受信し、
ビデオストリームの各々のタイムセグメントの各々の視聴者の体感品質推定を計算するため1つ又はそれ以上のインスタントクライアント側パラメータをネットワークから受信された体感品質予測パラメータに動的に配合し、
クライアントサイトでビデオストリームの各々のタイムセグメントの各々のユーザQoE推定のマトリクスを作り、
そのマトリクスに基づき、クライアントサイトでのビデオストリームの次の複数のタイムセグメントのシーケンスのジョイント選択のための動的なプログラミング最適化を実施することにより、平均の品質及び/又は体感品質の平滑さを最大化する、最適化された経路を決定し、
スマート・ストリーミング・モジュールを含み、及び
そのクライアント側パラメータが、1つ又はそれ以上の誤った送信及び/又はデコーディング、初期バッファリング及び再バッファリング、受信デバイスのピクセル解像度、受信デバイスの物理的サイズ、受信デバイス上のビデオ・フレーム・ピクセル解像度、ビデオ時間分解能、受信デバイス上のビデオ再生速度、視聴環境条件、ユーザー嗜好、ユーザー視覚条件、又は、ユーザーの期待を含むことを特徴とするシステム。 - 請求項17のシステムであって、知覚の体感品質の予測の判断材料として、PSNR、SSIM、MS−SSIM、VQM、MOVIE 及び SSIMplusのような、コンピュータによるフルリファレンス、リデュースドリファレンス、及び/又はノンリファレンスの客観的ビデオ品質評価のモデルが使用されることを特徴とするシステム。
- 請求項17のシステムであって、体感品質の予測の判断材料として、異なる空間分解能及び/又は時間分解能に渡ってビデオ品質を比較することができるパラメータを生成するために、フルリファレンス及び/又はリデュースドリファレンス客観的知覚モデルが使用されることを特徴とするシステム。
- 請求項17のシステムであって、視聴デバイスのタイプ及びセッティング、視聴デバイス上の再生ウィンドウの解像度、及び/又は、クライアントサイトでのビデオの視聴条件、に依存する知覚の体感品質を予測するパラメータを生成するために、客観的な知覚ビデオ品質モデルが使用されることを特徴とするシステム。
- 請求項17のシステムであって、ビデオストリームの送信に先立って、又は、ビデオストリームの送信と共に、メタデータとして体感品質予測パラメータが送信されることを特徴とするシステム。
- 請求項17のシステムであって、透かし若しくは隠れたメッセージとしてビデオストリーム内に埋め込まれる体感品質予測パラメータが送信されることを特徴とするシステム。
- 請求項17のシステムであって、クライアントサイトでビデオストリームの次のセグメントの選択に関するストリーミング決定実行ステップが行われ、そして、体感品質推定が、ビデオストリームのビットレート、ビデオストリームの解像度、ネットワークの利用可能な帯域幅、及び、デコード速度、表示速度、バッファ・サイズ、及び受信デバイスのパワー、の1つ又はそれ以上を含む、他の利用可能な情報と組み合わされることを特徴とするシステム。
- 請求項17のシステムであって、ビデオビットレート、ネットワーク帯域幅、デコード速度、表示速度、バッファ・サイズ、及びデバイスパワーの制約下で、最大の体感品質ビデオストリームを取り上げるクライアントサイトで、ビデオストリームの次のタイムセグメントの選択に関するストリーミング決定実行ステップが行われることを特徴とするシステム。
- 請求項17のシステムであって、アフォーダブルなより高いビットレート及び/又はより高い解像度ストリームにスイッチすることを、そのようなスイッチングがなく、体感品質が所定のターゲット閾値レベルで又はその上で維持されるとき、拒絶することにより、帯域幅を節約するために、全体の体感品質を改善するために再バッファリングの可能性を減少させるために、及び/又は、体感品質の滑らかさを維持するために、クライアントサイトで、ビデオストリームの次のタイムセグメントの選択に関するストリーミング決定実行ステップが行われることを特徴とするシステム。
- 請求項17のシステムであって、アフォーダブルなより高いビットレート及び/又はより高い解像度ストリームにスイッチすることを、そのようなスイッチングが閾値よりも低い体感品質の増加という結果になるとき、拒絶することにより、帯域幅を節約するために、全体の体感品質を改善するために再バッファリングの可能性を減少させるために、及び/又は、体感品質の滑らかさを維持するために、クライアントサイトで、ビデオストリームの次のタイムセグメントの選択に関するストリーミング決定実行ステップが行われることを特徴とするシステム。
- 請求項17のシステムであって、より低いビットレート及び/又はより低い解像度ストリームにスイッチすることによって、そのようなスイッチングが、閾値よりも低い体感品質の低下という結果となるとき、及び/又は、そのようなスイッチングにより体感品質が所定のターゲット閾値体感品質レベルで又はそれを超えて維持されるとき、ネットワーク帯域幅又はバッファ・サイズにおける低下を見ようが見まいが、帯域幅を節約するために、全体の体感品質を改善するために再バッファリングの可能性を減少させるために、及び/又は、体感品質の滑らかさを維持するために、クライアントサイトで、ビデオストリームの次のタイムセグメントの選択に関するストリーミング決定実行ステップが行われることを特徴とするシステム。
- 請求項17のシステムであって、体感品質の同じレベルを維持するために、現在のビットレートよりも高いものを必要とする将来のビデオセグメントを予見するとき、ネットワーク帯域幅又はバッファ・サイズにおける低下を見て若しくは見ることもなく、より低いビットレート及び/又はより低い解像度ストリームにスイッチすることによって、帯域幅を節約し、再バッファリングの可能性を低下させ、全体の体感品質を改善し、及び/又は、体感品質の滑らかさを維持するために、クライアントサイトで、ビデオストリームの次のタイムセグメントの選択に関するストリーミング決定実行ステップが行われることを特徴とするシステム。
- 請求項17のシステムであって、ネットワーク帯域幅又はバッファ・サイズにおける増加を見て若しくは見ることなく、より高いビットレートのストリーム及び/又はより高い解像度ストリームにスイッチすることにより、そのようなスイッチングがなければ体感品質が閾値よりも低下するとき、及び、より高いビットレート・ストリームと次のセグメントでの現在ストリームとの間の体感品質における絶対差がもう1つの閾値よりも低いとき、体感品質の現在のレベル及び滑らかさを維持するため、クライアントサイトで、ビデオストリームの次のタイムセグメントの選択に関するストリーミング決定実行ステップが行われることを特徴とするシステム。
- 請求項17のシステムであって、動的なプログラミング最適化は最適化された経路を決定するビタビアルゴリズムを利用することを特徴とするシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562113401P | 2015-02-07 | 2015-02-07 | |
US62/113,401 | 2015-02-07 | ||
PCT/CA2016/050111 WO2016123721A1 (en) | 2015-02-07 | 2016-02-08 | Method and system for smart adaptive video streaming driven by perceptual quality-of-experience estimations |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018520560A JP2018520560A (ja) | 2018-07-26 |
JP6845808B2 true JP6845808B2 (ja) | 2021-03-24 |
Family
ID=56563275
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017559741A Active JP6845808B2 (ja) | 2015-02-07 | 2016-02-08 | 知覚体感品質推定により駆動されるスマート適応型ビデオストリーミングのための方法及びシステム |
Country Status (6)
Country | Link |
---|---|
US (1) | US10863217B2 (ja) |
EP (1) | EP3254470B8 (ja) |
JP (1) | JP6845808B2 (ja) |
CN (1) | CN107211193B (ja) |
CA (1) | CA2975904C (ja) |
WO (1) | WO2016123721A1 (ja) |
Families Citing this family (54)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9544352B2 (en) * | 2013-06-11 | 2017-01-10 | Bitmovin Gmbh | Adaptation logic for varying a bitrate |
US10581988B2 (en) | 2016-06-08 | 2020-03-03 | Bank Of America Corporation | System for predictive use of resources |
US10129126B2 (en) * | 2016-06-08 | 2018-11-13 | Bank Of America Corporation | System for predictive usage of resources |
US10178101B2 (en) | 2016-06-08 | 2019-01-08 | Bank Of America Corporation | System for creation of alternative path to resource acquisition |
US10291487B2 (en) | 2016-06-08 | 2019-05-14 | Bank Of America Corporation | System for predictive acquisition and use of resources |
US10440082B1 (en) * | 2016-06-21 | 2019-10-08 | Amazon Technologies, Inc. | Adjusting parameter settings for bitrate selection algorithms |
US11102535B1 (en) * | 2016-06-21 | 2021-08-24 | Amazon Technologies, Inc. | Adjusting parameter settings for bitrate selection algorithms |
KR102532645B1 (ko) * | 2016-09-20 | 2023-05-15 | 삼성전자 주식회사 | 적응적 스트리밍 서비스에서 스트리밍 어플리케이케이션으로 데이터를 제공하는 방법 및 장치 |
US10454987B2 (en) * | 2016-10-28 | 2019-10-22 | Google Llc | Bitrate optimization for multi-representation encoding using playback statistics |
KR102633595B1 (ko) | 2016-11-21 | 2024-02-05 | 삼성전자주식회사 | 디스플레이장치 및 그 제어방법 |
US10798387B2 (en) | 2016-12-12 | 2020-10-06 | Netflix, Inc. | Source-consistent techniques for predicting absolute perceptual video quality |
US10742708B2 (en) | 2017-02-23 | 2020-08-11 | Netflix, Inc. | Iterative techniques for generating multiple encoded versions of a media title |
US10917644B2 (en) * | 2017-02-23 | 2021-02-09 | Netflix, Inc. | Iterative techniques for encoding video content |
US11153585B2 (en) | 2017-02-23 | 2021-10-19 | Netflix, Inc. | Optimizing encoding operations when generating encoded versions of a media title |
US11166034B2 (en) | 2017-02-23 | 2021-11-02 | Netflix, Inc. | Comparing video encoders/decoders using shot-based encoding and a perceptual visual quality metric |
US10425683B2 (en) | 2017-05-31 | 2019-09-24 | Netflix, Inc. | Temporal placement of a rebuffering event |
US10873775B2 (en) | 2017-06-12 | 2020-12-22 | Netflix, Inc. | Staggered key frame video encoding |
US10666992B2 (en) | 2017-07-18 | 2020-05-26 | Netflix, Inc. | Encoding techniques for optimizing distortion and bitrate |
CN107800886A (zh) * | 2017-11-15 | 2018-03-13 | 珠海市魅族科技有限公司 | 终端控制方法、装置、计算机装置及计算机可读存储介质 |
CN108462899B (zh) * | 2018-03-19 | 2021-04-30 | 海信视像科技股份有限公司 | 基于设备能力的流媒体码流自适应传输方法、播放设备及播放系统 |
US10623788B2 (en) | 2018-03-23 | 2020-04-14 | At&T Intellectual Property I, L.P. | Methods to estimate video playback buffer |
CN109040744B (zh) * | 2018-07-27 | 2020-03-10 | 华为技术有限公司 | 预测视频业务的关键质量指标的方法、装置及存储介质 |
US11575958B2 (en) * | 2018-08-31 | 2023-02-07 | International Business Machines Corporation | Progressive increase in multimedia streaming quality |
US11388464B2 (en) * | 2018-09-25 | 2022-07-12 | Microsoft Technology Licensing, Llc | Increasing video bit rates while maintaining video quality |
US10735742B2 (en) | 2018-11-28 | 2020-08-04 | At&T Intellectual Property I, L.P. | Adaptive bitrate video testing |
EP3664456A1 (en) * | 2018-12-03 | 2020-06-10 | Nokia Solutions and Networks Oy | Apparatus and method for playing streamed media |
US11363345B2 (en) * | 2019-03-26 | 2022-06-14 | Ssimwave Inc. | Unified end-to-end quality and latency measurement, optimization and management in multimedia communications |
CN109982118B (zh) * | 2019-03-27 | 2021-05-14 | 北京奇艺世纪科技有限公司 | 一种视频码率自适应调整方法、装置及电子设备 |
US20220256206A1 (en) * | 2019-08-08 | 2022-08-11 | Nec Corporation | Communication control method, communication apparatus, and communication system |
CN110572697A (zh) * | 2019-09-16 | 2019-12-13 | 世纪海航(厦门)科技有限公司 | 一种多视频通道的远程教学方法、装置及服务器 |
CN111031347A (zh) * | 2019-11-29 | 2020-04-17 | 广州市百果园信息技术有限公司 | 一种视频处理的方法及装置、电子设备、存储介质 |
KR20210067788A (ko) | 2019-11-29 | 2021-06-08 | 삼성전자주식회사 | 전자 장치, 시스템 및 그 제어 방법 |
FR3103988A1 (fr) * | 2019-11-29 | 2021-06-04 | Orange | Procédé de gestion d’une liste de contenus accessibles au zapping, les contenus numériques étant téléchargeables en mode de téléchargement progressif adaptatif (HAS), dispositif de gestion, lecteur de flux multimédia et programme d’ordinateur correspondants. |
CN113132765A (zh) * | 2020-01-16 | 2021-07-16 | 北京达佳互联信息技术有限公司 | 码率决策模型训练方法、装置、电子设备及存储介质 |
US20210233259A1 (en) * | 2020-01-28 | 2021-07-29 | Ssimwave Inc. | No-reference visual media assessment combining deep neural networks and models of human visual system and video content/distortion analysis |
US11962781B2 (en) * | 2020-02-13 | 2024-04-16 | Ssimwave Inc. | Video encoding complexity measure system |
US11736699B2 (en) | 2020-05-14 | 2023-08-22 | Ssimwave, Inc. | Perceptual quality assessment metric based content and viewer aware encoding |
US20210385513A1 (en) * | 2020-06-04 | 2021-12-09 | Comcast Cable Communications, Llc | Distributed storage of content across storage subsystems |
KR20220014715A (ko) * | 2020-07-29 | 2022-02-07 | 삼성전자주식회사 | 비디오 품질 평가 방법 및 장치 |
CN112202802B (zh) * | 2020-10-10 | 2021-10-01 | 中国科学技术大学 | C-ran架构中基于强化学习的vr视频多级缓存方法和系统 |
FR3116684B1 (fr) * | 2020-11-20 | 2024-01-19 | Orange | Gestion du téléchargement progressif adaptatif d’un contenu acheté, tenant compte d’un historique de niveaux de qualité de lecture de contenu par un terminal lecteur de flux multimédia |
CN113115077B (zh) * | 2021-03-12 | 2022-04-26 | 上海交通大学 | 一种静态点云服务器码率自适应传输方法及系统 |
US11271984B1 (en) * | 2021-03-29 | 2022-03-08 | International Business Machines Corporation | Reduced bandwidth consumption via generative adversarial networks |
KR20220167469A (ko) * | 2021-06-14 | 2022-12-21 | 주식회사 네트워크디파인즈 | 적응형 미디어 스트리밍 환경에서 비디오 편집 속도 향상 방법 및 장치 |
US11706104B2 (en) | 2021-06-15 | 2023-07-18 | Cisco Technology, Inc. | Inferring quality of experience (QoE) based on choice of QoE inference model |
WO2023013927A1 (en) * | 2021-08-05 | 2023-02-09 | Samsung Electronics Co., Ltd. | Method and wearable device for enhancing quality of experience index for user in iot network |
CN113905221B (zh) * | 2021-09-30 | 2024-01-16 | 福州大学 | 一种立体全景视频非对称传输流自适应方法及系统 |
US11784945B2 (en) * | 2021-10-04 | 2023-10-10 | Nec Corporation | Dynamic self-optimization of application quality-of-service requests to mobile networks |
CN116419016A (zh) * | 2021-12-30 | 2023-07-11 | 中兴通讯股份有限公司 | 一种码率分配方法、存储方法、装置、设备及存储介质 |
KR20230132222A (ko) | 2022-03-08 | 2023-09-15 | 에스케이케미칼 주식회사 | 재생 비스-2-히드록시에틸테레프탈레이트를 이용한 폴리에스테르 수지 및 이를 포함하는 물품 |
CN114640851B (zh) * | 2022-03-18 | 2023-06-23 | 广西昊华科技股份有限公司 | 基于质量感知的自适应全向视频流的传输方法 |
KR20230149644A (ko) | 2022-04-20 | 2023-10-27 | 에스케이케미칼 주식회사 | 재생 비스(2-히드록시에틸)테레프탈레이트를 포함하는 폴리에스테르 수지 및 이를 이용한 필름 |
US20230344666A1 (en) * | 2022-04-26 | 2023-10-26 | Zoom Video Communications, Inc. | Virtual Background Adjustment For Quality Retention During Reduced-Bandwidth Video Conferencing |
CN115720257B (zh) * | 2022-10-13 | 2023-06-23 | 华能信息技术有限公司 | 一种视频会议系统的通信安全管理方法及系统 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130290492A1 (en) * | 2009-06-12 | 2013-10-31 | Cygnus Broadband, Inc. | State management for video streaming quality of experience degradation control and recovery using a video quality metric |
US9124642B2 (en) * | 2009-10-16 | 2015-09-01 | Qualcomm Incorporated | Adaptively streaming multimedia |
US9191284B2 (en) | 2010-10-28 | 2015-11-17 | Avvasi Inc. | Methods and apparatus for providing a media stream quality signal |
US20120278441A1 (en) * | 2011-04-28 | 2012-11-01 | Futurewei Technologies, Inc. | System and Method for Quality of Experience Estimation |
EP2761881A4 (en) * | 2011-09-30 | 2015-06-17 | Intel Corp | EXPERIENCE QUALITY IMPROVEMENTS BETWEEN WIRELESS NETWORKS |
US20130263167A1 (en) | 2012-03-30 | 2013-10-03 | Bytemobile, Inc. | Adaptive Traffic Management in Cellular Wireless Networks |
RU2606064C2 (ru) | 2012-07-10 | 2017-01-10 | Вид Скейл, Инк. | Потоковая передача с управлением качеством |
US9125073B2 (en) * | 2012-08-03 | 2015-09-01 | Intel Corporation | Quality-aware adaptive streaming over hypertext transfer protocol using quality attributes in manifest file |
KR20150082320A (ko) * | 2012-10-19 | 2015-07-15 | 인터디지탈 패튼 홀딩스, 인크 | Http 스트리밍을 위한 멀티-가설 레이트 적응 |
US10439910B2 (en) | 2012-12-21 | 2019-10-08 | Koninklijke Kpn N.V. | Low-latency streaming |
CN105052107B (zh) * | 2013-01-15 | 2019-04-12 | 华为技术有限公司 | 使用质量信息进行媒体内容自适应传输 |
US9118480B2 (en) * | 2013-02-11 | 2015-08-25 | Telefonaktiebolaget Lm Ericsson (Publ) | Frame quality estimation during viterbi decoding |
US9756142B2 (en) | 2013-03-14 | 2017-09-05 | The Regents Of The University Of California | System and method for delivering video data from a server in a wireless network by caching the video data |
ES2728732T3 (es) * | 2013-03-29 | 2019-10-28 | Intel Ip Corp | Técnicas de adaptación de tasa sensibles a la calidad para la difusión en flujo de tipo DASH |
DE102013211571B4 (de) * | 2013-06-19 | 2016-02-11 | Opticom Dipl.-Ing. Michael Keyhl Gmbh | Konzept zur bestimmung der qualität eines mediadatenstroms mit variierender qualität-zu-bitrate |
EP2962467A1 (en) * | 2013-07-19 | 2016-01-06 | Huawei Technologies Co., Ltd. | Metadata information signaling and carriage in dynamic adaptive streaming over hypertext transfer protocol |
US10362081B2 (en) | 2013-08-30 | 2019-07-23 | Citrix Systems, Inc. | Methods and systems for quantifying the holistic quality of experience for internet multimedia |
-
2016
- 2016-02-08 EP EP16746047.6A patent/EP3254470B8/en active Active
- 2016-02-08 WO PCT/CA2016/050111 patent/WO2016123721A1/en active Application Filing
- 2016-02-08 JP JP2017559741A patent/JP6845808B2/ja active Active
- 2016-02-08 CN CN201680008584.4A patent/CN107211193B/zh active Active
- 2016-02-08 US US15/549,337 patent/US10863217B2/en active Active
- 2016-02-08 CA CA2975904A patent/CA2975904C/en active Active
Also Published As
Publication number | Publication date |
---|---|
EP3254470B1 (en) | 2022-03-30 |
US10863217B2 (en) | 2020-12-08 |
EP3254470A4 (en) | 2018-06-20 |
CN107211193A (zh) | 2017-09-26 |
CA2975904C (en) | 2023-02-14 |
WO2016123721A1 (en) | 2016-08-11 |
US20180041788A1 (en) | 2018-02-08 |
EP3254470B8 (en) | 2022-06-08 |
EP3254470A1 (en) | 2017-12-13 |
CA2975904A1 (en) | 2016-08-11 |
CN107211193B (zh) | 2021-04-13 |
JP2018520560A (ja) | 2018-07-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6845808B2 (ja) | 知覚体感品質推定により駆動されるスマート適応型ビデオストリーミングのための方法及びシステム | |
Bampis et al. | Towards perceptually optimized end-to-end adaptive video streaming | |
US20220030244A1 (en) | Content adaptation for streaming | |
US11170472B2 (en) | Method and apparatus for streaming data | |
Gaddam et al. | Tiling in interactive panoramic video: Approaches and evaluation | |
US11711588B2 (en) | Video delivery | |
US9571827B2 (en) | Techniques for adaptive video streaming | |
US20130304934A1 (en) | Methods and systems for controlling quality of a media session | |
Yuan et al. | Spatial and temporal consistency-aware dynamic adaptive streaming for 360-degree videos | |
CN106063277A (zh) | 用于对内容进行流传输的方法和装置 | |
KR101920646B1 (ko) | 시각인식 기반의 프로그래시브 비디오 스트리밍 장치 및 방법 | |
US20170347159A1 (en) | Qoe analysis-based video frame management method and apparatus | |
CN111669619B (zh) | 一种视频流数据切换方法、装置、终端和可读存储介质 | |
Bampis et al. | Towards perceptually optimized adaptive video streaming-a realistic quality of experience database | |
US10609440B1 (en) | Timing data anomaly detection and correction | |
Li et al. | A super-resolution flexible video coding solution for improving live streaming quality | |
WO2014066975A1 (en) | Methods and systems for controlling quality of a media session | |
JP4586328B2 (ja) | 情報処理システム、情報処理装置および方法、記録媒体、並びにプログラム | |
Zhang et al. | A QOE-driven approach to rate adaptation for dynamic adaptive streaming over http | |
Petrangeli et al. | Design and evaluation of a dash-compliant second screen video player for live events in mobile scenarios | |
US20230199267A1 (en) | Method and apparatus for processing adaptive multi-view streaming | |
Nguyen et al. | Scalable and resilient 360-degree-video adaptive streaming over HTTP/2 against sudden network drops | |
Begen | Quality-aware HTTP adaptive streaming | |
CN115314723B (zh) | 一种初始档位视频流传输方法、装置、设备及存储介质 | |
Nasrabadi | Improving Quality of Experience for HTTP Adaptive Video Streaming: From Legacy to 360° Videos |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190207 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191023 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191030 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200130 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200526 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200928 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20200928 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20201024 |
|
C11 | Written invitation by the commissioner to file amendments |
Free format text: JAPANESE INTERMEDIATE CODE: C11 Effective date: 20201119 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20201223 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20201225 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210201 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210226 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6845808 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20210312 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20210316 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |