JP2023547287A - Systems, methods, and computer-readable media for rendering streaming - Google Patents

Systems, methods, and computer-readable media for rendering streaming Download PDF

Info

Publication number
JP2023547287A
JP2023547287A JP2022516347A JP2022516347A JP2023547287A JP 2023547287 A JP2023547287 A JP 2023547287A JP 2022516347 A JP2022516347 A JP 2022516347A JP 2022516347 A JP2022516347 A JP 2022516347A JP 2023547287 A JP2023547287 A JP 2023547287A
Authority
JP
Japan
Prior art keywords
streaming
user terminal
rendering
mode
environmental parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022516347A
Other languages
Japanese (ja)
Other versions
JP7406713B2 (en
Inventor
チ シュー,ヤン
チアン シュー,チョン
ユアン ウー,シャオ
チェン,ミン-チュ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
17Live Japan Inc
Original Assignee
17Live Japan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 17Live Japan Inc filed Critical 17Live Japan Inc
Publication of JP2023547287A publication Critical patent/JP2023547287A/en
Application granted granted Critical
Publication of JP7406713B2 publication Critical patent/JP7406713B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/4425Monitoring of client processing errors or hardware failure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/458Scheduling content for creating a personalised stream, e.g. by combining a locally stored advertisement with an incoming stream; Updating operations, e.g. for OS modules ; time-related management operations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4621Controlling the complexity of the content stream or additional data, e.g. lowering the resolution or bit-rate of the video stream for a mobile client with a small screen

Landscapes

  • Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】ストリーミングをレンダリングするためのシステム、方法、及びコンピュータ可読媒体の提供。【解決手段】本発明はユーザ端末でストリーミングをレンダリングするためのシステム、方法、及びコンピュータ可読媒体に関するものであり、当該方法は、ストリーミングを第1のモードでレンダリングする工程と、当該ユーザ端末の環境パラメータを受信する工程と、当該ユーザ端末がストリーミングを閉じるタイミングを受信する工程と、当該ユーザ端末がストリーミングを閉じる当該タイミングに基づいて、当該環境パラメータの閾値を決定する工程と、当該ユーザ端末の更新された環境パラメータを受信する工程と、当該更新された環境パラメータが閾値に達した場合、当該ストリーミングを第2のモードでレンダリングする工程と、を含み、当該第2のモードは、当該第1のモードよりも少ないデータオブジェクトを含むか、または、レンダリングに当該第1のモードにおけるデータオブジェクトのダウングレードバージョンを含む。本発明は、レンダリングモードをユーザごとにカスタマイズし、ユーザごとのストリーミング視聴の満足度を最大化することができる。【選択図】図3Systems, methods, and computer-readable media for rendering streaming. The present invention relates to a system, method, and computer-readable medium for rendering a stream at a user terminal, the method comprising: rendering a stream in a first mode; and an environment of the user terminal. a step of receiving a parameter; a step of receiving a timing at which the user terminal closes streaming; a step of determining a threshold value of the environmental parameter based on the timing at which the user terminal closes streaming; and updating the user terminal. and, if the updated environmental parameter reaches a threshold, rendering the streaming in a second mode, the second mode being the first one. mode, or include downgraded versions of the data objects in the first mode in the rendering. The present invention can customize the rendering mode for each user and maximize the satisfaction level of streaming viewing for each user. [Selection diagram] Figure 3

Description

本発明はストリーミングをレンダリングするためのシステム、方法、及びコンピュータ可読媒体に関する。 The present invention relates to systems, methods, and computer-readable media for rendering streaming.

ライブストリーミングとは、オンラインストリーミングメディアやライブ映像をリアルタイムで同時に録画・ブロードキャストすることを指す。ライブストリーミングのトピックは、ソーシャルメディアから、ビデオゲーム、プロスポーツまで、多岐にわたる。 Live streaming refers to the simultaneous recording and broadcasting of online streaming media or live video in real time. Live streaming topics range from social media to video games to professional sports.

また、チャットルームを介したユーザの交流も、ライブストリーミングの大きな特徴である。従来、ライブストリーミングを視聴するためのアプリケーションやプラットフォームでは、視聴者のライブストリーミングへの参加意欲を高めるために、贈り物の送信やゲームなどの機能を提供し、視聴者と配信者(または放送者)の交流を深めている。 User interaction through chat rooms is also a major feature of live streaming. Traditionally, applications and platforms for viewing live streaming provide features such as sending gifts and games to increase the viewer's desire to participate in the live streaming, and engage viewers and streamers (or broadcasters) We are deepening our exchanges.

本発明の目的は、ストリーミングをレンダリングするためのシステム、方法、及びコンピュータ可読媒体を提供することにある。 It is an object of the present invention to provide a system, method, and computer-readable medium for rendering streaming.

本発明の一実施態様による方法は、1つまたは複数のコンピュータにより実行されるユーザ端末上でストリーミングをレンダリングするための方法であって、ストリーミングを第1のモードでレンダリングする工程と、当該ユーザ端末の環境パラメータを受信する工程と、当該ユーザ端末がストリーミングを閉じるタイミングを受信する工程と、当該ユーザ端末がストリーミングを閉じる当該タイミングに基づいて、当該環境パラメータの閾値を決定する工程と、当該ユーザ端末の更新された環境パラメータを受信する工程と、当該更新された環境パラメータが閾値に達した場合、当該ストリーミングを第2のモードでレンダリングする工程と、を含む。当該第2のモードは、当該第1のモードよりも少ないデータオブジェクトを含むか、または、レンダリングに当該第1のモードにおけるデータオブジェクトのダウングレードバージョンを含む。 A method according to an embodiment of the invention is a method for rendering a stream on a user terminal executed by one or more computers, comprising: rendering the stream in a first mode; a step of receiving an environmental parameter of the user terminal; a step of receiving a timing at which the user terminal closes streaming; a step of determining a threshold value of the environmental parameter based on the timing at which the user terminal closes streaming; and, if the updated environmental parameters reach a threshold, rendering the streaming in a second mode. The second mode includes fewer data objects than the first mode, or includes downgraded versions of the data objects in the first mode for rendering.

本発明の一実施態様によるシステムは、1つまたは複数のプロセッサを含むユーザ端末でストリーミングをレンダリングするシステムであって、当該1つまたは複数のコンピュータプロセッサは、機械可読命令を実行して、ストリーミングを第1のモードでレンダリングする工程と、当該ユーザ端末の環境パラメータを受信する工程と、当該ユーザ端末がストリーミングを閉じるタイミングを受信する工程と、当該ユーザ端末がストリーミングを閉じる当該タイミングに基づいて、当該環境パラメータの閾値を決定する工程と、当該ユーザ端末の更新された環境パラメータを受信する工程と、当該更新された環境パラメータが閾値に達した場合、当該ストリーミングを第2のモードでレンダリングする工程と、を実行し、当該第2のモードは、当該第1のモードよりも少ないデータオブジェクトを含むか、または、レンダリングに当該第1のモードにおけるデータオブジェクトのダウングレードバージョンを含む。 A system according to one embodiment of the invention is a system for rendering streaming at a user terminal that includes one or more processors, the one or more computer processors executing machine-readable instructions to render the streaming. Rendering in a first mode; receiving environmental parameters of the user terminal; receiving timing for the user terminal to close streaming; and based on the timing for the user terminal to close streaming; determining a threshold for an environmental parameter; receiving the updated environmental parameter of the user terminal; and rendering the streaming in a second mode if the updated environmental parameter reaches the threshold; , the second mode includes fewer data objects than the first mode, or includes downgraded versions of the data objects in the first mode for rendering.

本発明の一実施態様によるコンピュータ可読媒体は、ユーザ端末でストリーミングをレンダリングするためのプログラムを含む非一時的なコンピュータ可読媒体であり、当該プログラムは、1つまたは複数のコンピュータに、ストリーミングを第1のモードでレンダリングする工程と、当該ユーザ端末の環境パラメータを受信する工程と、当該ユーザ端末がストリーミングを閉じるタイミングを受信する工程と、当該ユーザ端末がストリーミングを閉じる当該タイミングに基づいて、当該環境パラメータの閾値を決定する工程と、当該ユーザ端末の更新された環境パラメータを受信する工程と、当該更新された環境パラメータが閾値に達した場合、当該ストリーミングを第2のモードでレンダリングする工程と、を実行させ、当該第2のモードは、当該第1のモードよりも少ないデータオブジェクトを含むか、または、レンダリングに当該第1のモードにおけるデータオブジェクトのダウングレードバージョンを含む。 A computer-readable medium according to one embodiment of the present invention is a non-transitory computer-readable medium that includes a program for rendering streaming at a user terminal, the program causing one or more computers to a step of receiving an environmental parameter of the user terminal, a step of receiving a timing at which the user terminal closes the streaming, and a step of rendering the environmental parameter based on the timing at which the user terminal closes the streaming. receiving updated environmental parameters of the user terminal; and rendering the streaming in a second mode if the updated environmental parameters reach the threshold. When executed, the second mode includes fewer data objects than the first mode, or includes downgraded versions of the data objects in the first mode for rendering.

本発明の一部の実施態様に基づく通信システムの構成を示す概略図である。1 is a schematic diagram illustrating a configuration of a communication system according to some embodiments of the present invention. FIG. 本発明の一部の実施態様に基づく通信システムの例示的な機能構成図である。1 is an exemplary functional block diagram of a communication system according to some embodiments of the present invention. FIG. 本発明の一部の実施態様に基づく通信システムの動作を示す例示的なシーケンス図である。1 is an exemplary sequence diagram illustrating the operation of a communication system according to some embodiments of the present invention. FIG. 本発明の一部の実施態様に基づく工程を示すフローチャートである。1 is a flowchart illustrating steps according to some embodiments of the invention.

ユーザ(視聴者など)がユーザ端末(スマートフォンなど)のディスプレイで視聴するストリーミングは、多様なデータオブジェクトを処理またはレンダリングした結果である。データオブジェクトの中には、ユーザ端末に存在するもの(例えば、ライブストリーミングを視聴するために使用するアプリケーションとともにダウンロードされたもの)もあれば、ネットワークを介してユーザ端末に受信されるものもある。例えば、ライブストリーミングのチャットルームにおいて、データオブジェクトは、他のユーザ(ストリーマなど)からのストリーミングデータやライブ映像/音声データ、およびその他ゲーム、特殊効果、ギフトまたはアバターなどの機能を実行するためのオブジェクトを含むことができる。 Streams that a user (such as a viewer) views on a display of a user terminal (such as a smartphone) are the result of processing or rendering various data objects. Some data objects reside on the user terminal (e.g., were downloaded with an application used to view a live stream), while others are received by the user terminal over a network. For example, in a live streaming chat room, data objects include streaming data from other users (such as streamers), live video/audio data, and other objects used to perform functions such as games, special effects, gifts, or avatars. can include.

ライブストリーミングの提供者(視聴者がライブストリーミングを視聴するアプリケーションの提供者であってもよい)にとって、視聴者が可能な限り長くストリーミングを楽しむ、すなわちチャットルームに滞在することが重要である。そして、ネットワーク品質の低下や端末の過負荷などの環境や端末の要因により、遅延やラグ、フリーズが発生して視聴体験が損なわれ、視聴者がストリーミングやチャットルームを離脱してしまうことを防ぐことが重要である。 For providers of live streaming (which may also be providers of applications through which viewers view live streaming), it is important that viewers enjoy the streaming as long as possible, ie stay in the chat room. Prevent viewers from leaving your stream or chat room due to environmental or device factors such as poor network quality or device overload that can cause delays, lags, or freezes that can ruin the viewing experience. This is very important.

したがって、様々な環境またはデバイスの条件において、円滑な視聴体験を保証する方法が不可欠となる。本発明は、様々な条件におけるユーザの行動や好みに基づき、ストリーミングのレンダリングに使用されるデータオブジェクトを動的または適応的に調整し、視聴体験を最適化できるシステム、方法およびコンピュータ読み取り可能な媒体を提供するものである。 Therefore, a method to ensure a smooth viewing experience under various environment or device conditions is essential. The present invention provides systems, methods, and computer-readable media that can dynamically or adaptively adjust data objects used to render a stream to optimize the viewing experience based on user behavior and preferences under various conditions. It provides:

図1に本発明の一部の実施態様に基づく通信システム1の構成を示す概略図を示す。前記通信システム1は、コンテンツを介したインタラクションを伴うライブストリーミングサービスを提供する。ここで言う「コンテンツ」とは、コンピュータ装置で再生可能なデジタルコンテンツを指す。つまり、通信システム1は、ユーザがオンラインで他のユーザとのリアルタイムのインタラクションに参加することを可能にする。通信システム1は、複数のユーザ端末10と、バックエンドサーバ30と、ストリーミングサーバ40とを含む。ユーザ端末10、バックエンドサーバ30、及びストリーミングサーバ40は、ネットワーク90(例えばインターネットとしてもよい)を介して接続される。バックエンドサーバ30は、ユーザ端末および/またはストリーミングサーバ40との間のインタラクションを同期させるサーバとすることができる。一部の実施態様において、バックエンドサーバ30は、アプリケーション(APP)プロバイダのバックエンドサーバとしてもよい。ストリーミングサーバ40は、ストリーミングデータまたはビデオデータを取り扱う、または提供するためのサーバである。一部の実施態様において、当該ストリーミングサーバ40は、CDN(Content Delivery Network)プロバイダからのサーバとしてもよい。一部の実施態様において、バックエンドサーバ30とストリーミングサーバ40は、独立したサーバとしてもよい。一部の実施態様において、バックエンドサーバ30とストリーミングサーバ40は、1つのサーバに統合してもよい。当該ユーザ端末10は、ライブストリーミングのためのクライアント装置である。一部の実施態様において、ユーザ端末10は、視聴者、ストリーマ、アンカ、ポッドキャスタ、オーディエンス、リスナなどと呼ばれることがある。ユーザ端末10、バックエンドサーバ30、及びストリーミングサーバ40はそれぞれ情報処理装置の一例である。一部の実施態様において、ストリーミングは、ライブストリーミングまたはビデオ再生とすることができる。一部の実施態様において、ストリーミングは、オーディオストリーミングおよび/またはビデオストリーミングとすることができる。一部の実施態様において、ストリーミングは、オンラインショッピング、トークショ、タレントショ、娯楽イベント、スポーツイベント、音楽ビデオ、映画、コメディ、コンサートなどのコンテンツを含むことができる。 FIG. 1 shows a schematic diagram showing the configuration of a communication system 1 based on some embodiments of the present invention. The communication system 1 provides a live streaming service with interaction through content. "Content" here refers to digital content that can be played back on a computer device. In other words, the communication system 1 allows users to participate in real-time interactions with other users online. The communication system 1 includes a plurality of user terminals 10, a backend server 30, and a streaming server 40. The user terminal 10, the backend server 30, and the streaming server 40 are connected via a network 90 (for example, the Internet may be used). Backend server 30 may be a server that synchronizes interactions between user terminals and/or streaming server 40 . In some implementations, backend server 30 may be an application (APP) provider's backend server. Streaming server 40 is a server for handling or providing streaming data or video data. In some embodiments, the streaming server 40 may be a server from a CDN (Content Delivery Network) provider. In some implementations, backend server 30 and streaming server 40 may be independent servers. In some implementations, backend server 30 and streaming server 40 may be integrated into one server. The user terminal 10 is a client device for live streaming. In some implementations, user terminal 10 may be referred to as a viewer, streamer, anchor, podcaster, audience, listener, etc. The user terminal 10, the backend server 30, and the streaming server 40 are each examples of information processing devices. In some implementations, streaming can be live streaming or video playback. In some implementations, streaming can be audio streaming and/or video streaming. In some implementations, streaming can include content such as online shopping, talk shows, talent shows, entertainment events, sporting events, music videos, movies, comedies, concerts, and the like.

図2に、通信システム1の例示的な機能構成図を示す。この実施態様において、当該ユーザ端末10は、UIユニット102と、ストレージユニット104と、ユーザ行動トラッカー106と、環境条件トラッカー108と、コントローラー110と、レンダラー112と、デコーダー114と、ディスプレイ116を含む。一部の実施態様において、上述の各部材は、処理ユニットまたはプロセッサ―とみなされてもよい。 FIG. 2 shows an exemplary functional configuration diagram of the communication system 1. In this embodiment, the user terminal 10 includes a UI unit 102, a storage unit 104, a user behavior tracker 106, an environmental condition tracker 108, a controller 110, a renderer 112, a decoder 114, and a display 116. In some implementations, each of the components described above may be considered a processing unit or processor.

当該UIユニット102は、当該ユーザ端末10のユーザがアプリを操作または再生するインターフェイスであり、当該アプリは一部の実施態様において、ストリーミングサービスを提供するアプリであってもよい。当該ユーザ行動トラッカー106は、当該ユーザ端末10の行動または操作を監視または追跡し、その結果を当該コントローラー110に提供するように構成される。例えば、当該操作はアプリ上でストリーミングに参加する/ストリーミングを開くこと、またはストリーミングから離脱する/閉じることを含んでもよい。 The UI unit 102 is an interface through which the user of the user terminal 10 operates or plays an application, and in some embodiments, the application may be an application that provides a streaming service. The user behavior tracker 106 is configured to monitor or track the behavior or operation of the user terminal 10 and provide the results to the controller 110. For example, the operations may include joining/opening a stream or leaving/closing a stream on the app.

当該ストレージユニット104は、アプリが当該ユーザ端末10上で動作するために必要な命令またはデータオブジェクトを含むアプリのプログラムを格納するように構成される。当該ストレージユニット104は、例えば、DRAM等で構成することができる。一部の実施態様において、当該ストレージユニット104は、例えば、磁気ディスク、フラッシュメモリ等で構成される。当該ストレージユニット104は、OSを含む各種プログラム、各種データ等を記憶する。 The storage unit 104 is configured to store the program of the app, including instructions or data objects necessary for the app to operate on the user terminal 10 . The storage unit 104 can be configured with, for example, DRAM. In some implementations, the storage unit 104 is comprised of, for example, a magnetic disk, flash memory, or the like. The storage unit 104 stores various programs including an OS, various data, and the like.

当該環境条件トラッカー108は、アプリが動作する環境条件を監視または追跡し、その結果をコントローラー110に提供するように構成される。当該環境条件トラッカー108は、ストリーミングの操作/再生、ひいてはユーザの視聴体験に関連する多様な環境パラメータを検出することができる。一部の実施態様において、当該環境パラメータには、当該ユーザ端末10のCPU使用率、当該ユーザ端末10のメモリ使用率、ストリーミング中にフリーズやラグが発生した時間または回数、ストリーミングを再生しているFPS(フレーム毎秒)数が所定値以下である時間長さ、およびネットワーク90の品質を示すネットワーク品質パラメータが含まれてもよい。例えば、当該ネットワーク品質パラメータは、アプリケーションプログラミングインターフェイス(API)応答時間、伝送制御プロトコル(TCP)接続時間、ドメインネームシステム(DNS)ルックアップ時間、セキュリティソケットレイヤー(SSL)ハンドシェイク時間、及びネットワーク90を介したストリーミングサービスに関するダウンストリーム帯域幅を含んでもよい。 The environmental condition tracker 108 is configured to monitor or track the environmental conditions under which the app operates and provide the results to the controller 110. The environmental condition tracker 108 can detect various environmental parameters related to streaming operation/playback and thus the user's viewing experience. In some embodiments, the environmental parameters include CPU usage of the user terminal 10, memory usage of the user terminal 10, time or number of times freezes or lags occur during streaming, A network quality parameter indicating the length of time during which the FPS (frames per second) number is less than or equal to a predetermined value and the quality of the network 90 may be included. For example, such network quality parameters may include Application Programming Interface (API) response time, Transmission Control Protocol (TCP) connection time, Domain Name System (DNS) lookup time, Security Sockets Layer (SSL) handshake time, and network quality parameters. This may include downstream bandwidth for streaming services via.

当該コントローラー110は、当該ユーザ行動トラッカー106及び当該環境条件トラッカー108からユーザ行動データ及び環境パラメータを受信し、その後のストリーミングをどのようにレンダリングまたは提示するかを決定する。例えば、当該コントローラーは、ユーザ行動データおよび環境パラメータに基づいてレンダリングモードを決定し、対応するデータオブジェクトについて、当該ストレージユニット104及び(または)ストリーミングサーバ40にアクセスして、当該レンダラー112にストリーミングのレンダリングを指示することができる。 The controller 110 receives user behavior data and environmental parameters from the user behavior tracker 106 and the environmental condition tracker 108 and determines how to render or present subsequent streams. For example, the controller determines a rendering mode based on user behavior data and environmental parameters, accesses the storage unit 104 and/or streaming server 40, and directs the renderer 112 to perform streaming rendering for the corresponding data object. can be instructed.

一部の実施態様において、当該コントローラー110は、CPU、GPU等として構成され、アプリの一部であり得る、当該ストレージユニット104などに格納された各種プログラムをメインメモリ(図示しない)に読み込み、当該プログラムに含まれる各種コマンドや機械読み取り可能な命令を実行する。 In some embodiments, the controller 110 is configured as a CPU, GPU, etc., and loads various programs stored in the storage unit 104, etc., which may be part of an application, into a main memory (not shown), Executes various commands and machine-readable instructions contained in a program.

当該デコーダー114は、当該ストリーミングサーバ40からのストリーミングデータを、当該レンダラー112がストリーミングをレンダリングするためのビデオデータまたはフレーム画像に変換するように構成される。当該ストリーミングデータは、ストリーマ、ブロードキャスター、またはアンカと呼ばれることがある別のユーザによって当該ストリーミングサーバ40に提供されてもよい。1つのストリーマからのストリーミングデータには多様なバージョンまたはグレードが存在してもよい。例えば、当該ストリーミングサーバ40は、ストリーマからストリーミングメディアを受信し、それを360p、480p、720pなどの異なる解像度を有するバージョンに変換してもよい。ストリーミングデータの異なるバージョンまたはグレードは、異なるURL(統一資源位置指定子)で当該ストリーミングサーバ40に格納されてもよい。一部の実施態様において、それらURLは当該バックエンドサーバ30により割り当てられ、当該バックエンドサーバ30により当該ユーザ端末10に導かける。当該デコーダー114は、当該 コントローラー110により決定されたレンダリングモードに従い、特定グレードのストリーミングデータのURLに到達することができる。 The decoder 114 is configured to convert streaming data from the streaming server 40 into video data or frame images for the renderer 112 to render the stream. The streaming data may be provided to the streaming server 40 by another user, sometimes referred to as a streamer, broadcaster, or anchor. There may be various versions or grades of streaming data from one streamer. For example, the streaming server 40 may receive streaming media from a streamer and convert it into versions with different resolutions, such as 360p, 480p, 720p, etc. Different versions or grades of streaming data may be stored on the streaming server 40 at different URLs (uniform resource locators). In some implementations, the URLs are assigned by the backend server 30 and directed to the user terminal 10 by the backend server 30. The decoder 114 can reach the URL of streaming data of a particular grade according to the rendering mode determined by the controller 110.

当該レンダラー112は、当該コントローラー110からレンダリングモードに関する指示を受け、当該ストレージユニット104から当該レンダリングモードに対応するデータオブジェクトを受け取り、当該デコーダー114から当該レンダリングモードに対応するストリーミングデータ(別のデータオブジェクトと呼ぶこともできる)を受け取って、当該ディスプレイ116に当該ストリーミングメディアをレンダリングするように構成することができる。当該ディスプレイ116は、当該ユーザ端末10がストリーミングメディアを楽しむことができる画面であるか、あるいはそれを含むことができる。 The renderer 112 receives an instruction regarding a rendering mode from the controller 110, receives a data object corresponding to the rendering mode from the storage unit 104, and receives streaming data (another data object and another data object) corresponding to the rendering mode from the decoder 114. The streaming media may be configured to receive the streaming media (which may also be referred to as a streaming media service) and render the streaming media to the display 116. The display 116 can be or include a screen on which the user terminal 10 can enjoy streaming media.

図3に本発明の一部の実施態様に基づく通信システム1の動作を示す例示的なシーケンス図を示す。 FIG. 3 shows an exemplary sequence diagram illustrating the operation of the communication system 1 according to some embodiments of the present invention.

工程S1において、当該コントローラー110は、ストリーミングまたはストリーミングメディアを第1のモードでレンダリングするように当該レンダラー112に指示し、当該第1のモードは、例えば、アプリ上でストリーミングに参加する、またはストリーミング開くというユーザの操作に従うものとすることができる。工程S2において、当該レンダラー112は、当該ストレージユニット104から当該第1のモードに対応するデータオブジェクトを受信する。 工程S3において、当該レンダラー112は、当該デコーダー114から当該第1のモードに対応するストリーミングデータまたはビデオデータ(他のユーザからのものであってもよい)を受信する。工程S4において、レンダリングされたストリーミングが当該ディスプレイ116に表示される。 In step S1, the controller 110 instructs the renderer 112 to render streaming or streaming media in a first mode, such as joining or opening a stream on an app. According to the user's operation. In step S2, the renderer 112 receives a data object corresponding to the first mode from the storage unit 104. In step S3, the renderer 112 receives streaming data or video data (which may be from another user) corresponding to the first mode from the decoder 114. In step S4, the rendered streaming is displayed on the display 116.

一部の実施態様において、当該第1のモードは、より高いパフォーマンスのモードを示し、これは、ストリーミングのレンダリングのために、当該レンダラー112が、当該ストレージユニット104からより多くの、またはより高いグレードのデータオブジェクトを含めること、及び(または)当該デコーダー114からストリーミングデータの高解像度バージョンを取得することを要求する。 In some implementations, the first mode indicates a higher performance mode, which allows the renderer 112 to extract more or higher grade data from the storage unit 104 for streaming rendering. data objects and/or to obtain a high-resolution version of the streaming data from the decoder 114.

工程S5において、当該コントローラー110は、当該環境条件トラッカー108から様々な環境パラメータを受信する。工程S6において、当該ユーザ行動トラッカー106は、当該UIユニット102を介してユーザの行動を監視する。工程S7において、当該ユーザ行動トラッカー106は、ユーザがストリーミングを閉じる、またはオフにするタイミングを検出し、当該コントローラー110に報告する。 In step S5, the controller 110 receives various environmental parameters from the environmental condition tracker 108. In step S6, the user behavior tracker 106 monitors the user's behavior via the UI unit 102. In step S7, the user behavior tracker 106 detects when the user closes or turns off streaming and reports it to the controller 110.

工程S8において、当該コントローラー110は、ユーザがストリーミングを閉じるタイミングに基づいて、当該環境パラメータのそれぞれについて閾値を決定する。当該閾値は、当該コントローラー110が、後続の監視により得られた環境パラメータと比較して、後続のレンダリングモードを決定するために使用されてもよい。 In step S8, the controller 110 determines a threshold value for each of the environmental parameters based on the timing at which the user closes streaming. The threshold may be used by the controller 110 to determine subsequent rendering modes in comparison to environmental parameters obtained through subsequent monitoring.

一部の実施態様において、当該環境パラメータの閾値は、ユーザがストリーミングを閉じるタイミングにおける当該環境パラメータの受信値からの所定のオフセットにより決定されてもよい。例えば、ユーザ端末のCPU使用率のパラメータについて、ユーザがストリーミングを閉じるタイミングで受信したCPU使用率がN1%である場合、CPU使用率の閾値は、(N1-T1)%(そのうち、T1は所定のオフセットである)と決定されてもよい。一部の実施態様において、T1は2.5~5であってもよい。また別の例では、ユーザ端末のメモリ使用率のパラメータについて、ユーザがストリーミングを閉じるタイミングで受信したメモリ使用率がN2%である場合、メモリ使用率の閾値は、(N2-T2)%(そのうち、T2は所定のオフセットである)と決定されてもよい。一部の実施態様において、T2は2.5~5としてもよい。 In some implementations, the threshold value of the environmental parameter may be determined by a predetermined offset from the received value of the environmental parameter at the time the user closes streaming. For example, regarding the CPU usage rate parameter of the user terminal, if the CPU usage rate received at the timing when the user closes streaming is N1%, the CPU usage rate threshold is (N1-T1)% (of which T1 is a predetermined value). may be determined to be an offset of In some embodiments, T1 may be between 2.5 and 5. In another example, regarding the memory usage rate parameter of the user terminal, if the memory usage rate received at the timing when the user closes streaming is N2%, the memory usage rate threshold is (N2-T2)% (of which , T2 is a predetermined offset). In some embodiments, T2 may be between 2.5 and 5.

一部の実施態様において、当該環境パラメータは、当該第1のモードでストリーミングをレンダリングしている間にフリーズまたはラグが発生した回数を含むことができる。フリーズやラグは、例えば2~5秒程度の時間、ストリーミングコンテンツやユーザ端末全体が一時停止、停止、または遅延することを示す。例えば、ユーザがストリーミングを閉じるタイミングより前の特定の期間内(例えば、3分、5分、10分)に、フリーズまたはラグを検出した回数がN3である場合、T3は例えば2、3または5であり得る所定の値である、閾値(N3-T3)を決定することができ、そのうちT3は所定の値(例えば、2または3、5)とすることができる。 In some implementations, the environmental parameter may include the number of times freezing or lag occurred while rendering the stream in the first mode. Freezes and lags indicate that streaming content or the entire user device is paused, stopped, or delayed, for example, for a period of about 2 to 5 seconds. For example, if N3 is the number of times a freeze or lag is detected within a certain period of time (e.g., 3 minutes, 5 minutes, 10 minutes) before the user closes the stream, then T3 is e.g. 2, 3, or 5. A threshold (N3-T3) may be determined, which may be a predetermined value, where T3 may be a predetermined value (eg, 2 or 3, 5).

一部の実施態様において、当該環境パラメータは、ストリーミングがレンダリングされているFPS(フレーム毎秒)数が指定された値を下回る時間の長さを含むことができる。例えば、ユーザがストリーミングを閉じるタイミングの前の特定の期間内(例えば、3分、5分、10分)に、FPSが指定された値(例えば、30フレーム)を下回る状態がN4秒間続いた場合、閾値(N4-T4)秒を決定することができ、そのうちT4は例えば、2~5の所定の値とすることができる。 In some implementations, the environmental parameter may include the length of time that the number of FPS (frames per second) that the stream is being rendered is below a specified value. For example, if the FPS remains below a specified value (e.g. 30 frames) for N4 seconds within a specific period (e.g. 3 minutes, 5 minutes, 10 minutes) before the user closes the stream. , a threshold (N4-T4) seconds can be determined, of which T4 can be a predetermined value, for example, from 2 to 5.

一部の実施態様において、当該環境パラメータは、API応答時間、TCP接続時間、DNSルックアップ時間、SSLハンドシェイク時間、およびダウンストリーム帯域幅などの品質要素によって値が決定されるネットワーク品質パラメータを含むことができる。例えば、以下の表1に従って、上記の各要素のスコアを決定し、ネットワーク品質パラメータの値は、考慮された各要素のスコアの平均値としてもよい。実際のアプリケーションまたは実践に応じて、要素のすべてまたは一部を考慮し、ネットワーク品質パラメータを決定することができる。一部の実施態様において、ネットワーク品質パラメータを計算する際に、一部の品質要素の重みが他のものより高くてもよい。 In some implementations, the environmental parameters include network quality parameters whose values are determined by quality factors such as API response time, TCP connection time, DNS lookup time, SSL handshake time, and downstream bandwidth. be able to. For example, the score for each of the above factors may be determined according to Table 1 below, and the value of the network quality parameter may be the average value of the scores for each factor considered. Depending on the actual application or practice, all or some of the factors can be considered to determine the network quality parameters. In some implementations, some quality factors may be weighted higher than others when calculating network quality parameters.

一部の実施態様において、ユーザがストリーミングを閉じるタイミングの近傍で、ネットワーク品質パラメータの値がN5である場合、閾値(N5+T5)を決定することができ、そのうちT5は所定の値、例えば5~10とすることができる。当該閾値(N5+T5)は、ネットワーク品質パラメータがN5の値に低下する前により低いパフォーマンス、またはより負荷の低いモード(第2のモードなど)に後続のストリーミングレンダリングを切り替えるためのより厳しい基準を示すことができる。 In some implementations, if the value of the network quality parameter is N5 near the time the user closes the stream, a threshold (N5+T5) may be determined, where T5 is a predetermined value, e.g., 5 to 10. It can be done. The threshold value (N5+T5) indicates a stricter criterion for switching subsequent streaming rendering to a lower performance or less demanding mode (e.g., a second mode) before the network quality parameter decreases to the value of N5. I can do it.

工程S9において、工程S8において決定された当該閾値が当該ストレージユニット104に保存される。工程S10において、当該コントローラー110は、当該環境条件トラッカー108から環境パラメータ(または更新された環境パラメータ)を再度受信する。工程S11において、当該コントローラー110は当該ストレージユニット104に保存された当該環境パラメータの閾値を読み出す。 In step S9, the threshold determined in step S8 is stored in the storage unit 104. In step S10, the controller 110 again receives environmental parameters (or updated environmental parameters) from the environmental condition tracker 108. In step S11, the controller 110 reads the threshold value of the environmental parameter stored in the storage unit 104.

工程S12において、当該コントローラー110は、当該閾値と当該環境パラメータとを比較し、いずれかの環境パラメータが当該閾値を満たすか、または当該閾値に達しているかを確認する。一部の実施態様において、いずれかの環境がその閾値に達した場合、当該コントローラー110は、第2のモードでストリーミングをレンダリングすることを決定し、それに応じて工程S13で、例えば、アプリ上のストリーミングに再度参加する、またはストリーミングを再度開くというユーザの操作に従い、当該レンダラー112に動作するように指示する。工程S12において、どの環境パラメータもその閾値に達していない場合、当該コントローラー110は、第1のモードのレンダリングを維持することを決定し、当該レンダラー112にそれに応じて動作するよう指示し、フローは工程S1に戻ってもよく、これは例えば、アプリ上のストリーミングに再度参加する、ストリーミングを再度開くというユーザの操作に従ったものとすることができる。 In step S12, the controller 110 compares the threshold value with the environmental parameter and checks whether any environmental parameter satisfies or reaches the threshold value. In some implementations, if any environment reaches its threshold, the controller 110 decides to render the streaming in a second mode and accordingly in step S13, e.g. The renderer 112 is instructed to operate according to the user's operation of rejoining the streaming or reopening the streaming. In step S12, if no environmental parameter has reached its threshold, the controller 110 decides to maintain the first mode of rendering and instructs the renderer 112 to act accordingly, and the flow continues. A return may be made to step S1, which may be, for example, in accordance with a user operation of rejoining the streaming on the app or reopening the streaming.

工程S14において、当該レンダラー112は、当該ストレージユニット104から当該第2のモードに対応するデータオブジェクトを受信する。工程S15において、当該レンダラー112は、当該デコーダー114から当該第2のモードに対応するストリーミングデータまたはビデオデータ(他のユーザからのものであってもよい)を受信する。工程S16において、レンダリングされたストリーミングが当該ディスプレイ116に表示される。 In step S14, the renderer 112 receives a data object corresponding to the second mode from the storage unit 104. In step S15, the renderer 112 receives streaming data or video data (which may be from another user) corresponding to the second mode from the decoder 114. In step S16, the rendered streaming is displayed on the display 116.

一部の実施態様において、当該第2のモードは、より低いパフォーマンスのモードを示し、これは、ストリーミングのレンダリングのために、当該レンダラー112が、当該ストレージユニット104から(第1のモードと比較して)より少ない、またはより低いグレードのデータオブジェクト(第1のモードと比較して)を含めること、及び(または)当該デコーダー114からストリーミングデータの(第1のモードと比較して)より低解像度またはダウングレードバージョンを取得することを要求する。 In some implementations, the second mode represents a lower performance mode, which allows the renderer 112 to load the storage unit 104 (compared to the first mode) from the storage unit 104 for streaming rendering. including) fewer or lower grade data objects (compared to the first mode) and/or lower resolution (compared to the first mode) of streaming data from said decoder 114; or request to obtain a downgraded version.

一部の実施態様において、閾値に達したことが判明した当該環境パラメータが、CPU使用率、メモリ使用率、第1のモードでのストリーミングのレンダリング中におけるフリーズまたはラグの発生回数、または第1のモードでストリーミングがレンダリングされるFPSが所定値を下回っている時間長さを含む場合、当該コントローラー110によって指示される当該第2のモードは、当該第1のモードと比較して、レンダリングする贈り物、特殊効果、ゲーム機能、アバター、またはアニメーションの数が少なくなる。贈り物、特殊効果、ゲーム機能、アバター、またはアニメーションの数がより少ないストリーミングをレンダリングすることで、CPU使用率とメモリ使用率に関して当該ユーザ端末の負荷を緩和または軽減することができ、フリーズやラグが発生し得る回数を減少したり、FPSが好ましい値または十分な値を下回る時間長さを短縮したりすることができる。このレンダリングモードの適応により、レンダリングが円滑でないためにユーザがストリーミングを閉じたり、離脱したりすることを防止し、ユーザ体験を向上させることができる。 In some implementations, the environmental parameter that is found to have reached a threshold is CPU usage, memory usage, number of freezes or lags during rendering of the stream in the first mode, or If the streaming mode includes a length of time in which the rendered FPS is below a predetermined value, then the second mode, as directed by the controller 110, renders a gift as compared to the first mode. Fewer special effects, game features, avatars, or animations. Rendering a stream with fewer gifts, special effects, game features, avatars, or animations can ease or reduce the load on the user device in terms of CPU usage and memory usage, reducing freezes and lags. The number of times this can occur or the length of time that FPS is below a desired or sufficient value can be reduced. This rendering mode adaptation can improve the user experience by preventing users from closing or leaving the stream due to unsmooth rendering.

一部の実施態様において、閾値に達したことが判明した当該環境パラメータが、API応答時間、TCP接続時間、DNSルックアップ時間、SSLハンドシェイク時間及び(または)ダウンストリーム帯域幅によって決まるネットワーク品質パラメータを含む場合、当該コントローラー110によって指示された当該第2のモードは、当該第1のモードで使用されるビデオデータ(例えば、720p)と比較して、レンダリングに他のユーザからのビデオデータのダウングレードバージョン(例えば、360pまたは480p)を含むことができる。ダウングレードバージョンのビデオデータでストリーミングをレンダリングすることにより、ネットワーク接続状態に関する当該ユーザ端末の負荷を軽減または緩和することができる。このレンダリングモードの適応により、レンダリングが円滑でないためにユーザがストリーミングを閉じたり、離脱したりすることを防止し、ユーザ体験を向上させることができる。 In some embodiments, the environmental parameter for which the threshold is found to have been reached is a network quality parameter determined by API response time, TCP connection time, DNS lookup time, SSL handshake time, and/or downstream bandwidth. , the second mode directed by the controller 110 requires downloading of video data from other users for rendering as compared to the video data (e.g., 720p) used in the first mode. A grade version (eg, 360p or 480p) may be included. By rendering the streaming with a downgraded version of the video data, the load on the user terminal regarding the network connection state can be reduced or alleviated. This rendering mode adaptation can improve the user experience by preventing users from closing or leaving the stream due to unsmooth rendering.

図4は本発明の一部の実施態様に基づく工程を示すフローチャートである。図4に、当該環境パラメータの閾値が各ユーザ端末に対してどのように動的に更新されるかを示す。 FIG. 4 is a flowchart illustrating steps according to some embodiments of the invention. FIG. 4 shows how the threshold for the environmental parameter is dynamically updated for each user terminal.

工程S400において、当該ストリーミングがレンダリングされる。これは第1のモード、第2のモード、または任意の既定のモードであってもよい。工程S402において、当該環境パラメータが、例えば、当該環境条件トラッカー108により、監視される。工程S404において、当該ストリーミングが閉じられたことが、例えば、当該ユーザ行動トラッカー106により、検出される。 In step S400, the streaming is rendered. This may be the first mode, the second mode, or any default mode. In step S402, the environmental parameters are monitored, for example, by the environmental condition tracker 108. In step S404, for example, the user behavior tracker 106 detects that the streaming has been closed.

工程S406において、当該ストリーミングの視聴時間が所定の期間V1と比較され、これは例えば、当該コントローラー110により実行されてもよい。視聴時間がV1以上の場合、フローは工程S408に進み、すべてのパラメータの閾値は変更されないままとなる。この場合、ユーザは監視されていた環境パラメータとは無関係の理由でストリーミングから離脱したと判断されるため、後続のストリーミング視聴におけるレンダリングモードの決定に使用される環境パラメータの閾値を更新したり厳格化したりする必要はない。例えば、視聴時間が当該所定の期間V1より大きい場合、ユーザがすでにストリーミングに満足していることを示すことができる。一部の実施態様において、当該所定の期間V1は、30分以上、あるいは60分以上であってもよい。 In step S406, the viewing time of the streaming is compared to a predetermined period V1, which may be performed by the controller 110, for example. If the viewing time is equal to or greater than V1, the flow proceeds to step S408 and the thresholds for all parameters remain unchanged. In this case, the user is determined to have left the stream for reasons unrelated to the monitored environmental parameters, and the environmental parameter thresholds used to determine the rendering mode for subsequent streaming viewing may be updated or tightened. There is no need to do this. For example, if the viewing time is greater than the predetermined period V1, it may indicate that the user is already satisfied with the streaming. In some embodiments, the predetermined period V1 may be 30 minutes or more, or 60 minutes or more.

視聴時間が当該所定の期間V1より小さいことが判明した場合、工程S406において、ストリーミングを閉じたことが当該環境パラメータに関連していると見なすことができ、フローは工程S410に進む。 If the viewing time is found to be less than the predetermined period V1, then in step S406 it can be assumed that closing the streaming is related to the environmental parameter and the flow continues to step S410.

工程S410において、当該監視された環境パラメータが、例えば、コントローラー110によって、値がそれぞれの安全領域内にあるか否かがチェックされる。すべての当該環境パラメータが安全領域内にある場合、フローは工程S408に進み、すべてのパラメータの閾値は変更されないままとなる。いずれかの環境パラメータがその安全領域より大きい、または超過する場合、フローは工程S412に進む。 In step S410, the monitored environmental parameters are checked, for example by the controller 110, whether their values are within their respective safety ranges. If all such environmental parameters are within the safe range, flow proceeds to step S408 and the thresholds for all parameters remain unchanged. If any environmental parameter is greater than or exceeds its safety range, flow continues to step S412.

安全領域とは、対応する環境パラメータのうち、ストリーミングレンダリングのためにユーザ端末に過大な負担がかかる可能性が低いと考えられる範囲である。つまり、ストリーミングが閉じられたときに、検出された環境パラメータがその安全領域にある場合、その環境パラメータは、ストリーミングが閉じられる結果を引き起こした可能性のある劣悪な視聴体験の原因とはみなされず、したがって、後続のストリーミングのレンダリングモードを決定するために用いられる、その環境パラメータの閾値を更新したり、厳格化したりする必要はない。各安全領域の範囲は、実際の用途に応じて定義することができる。例を下の表2に示す。 The safe area is a range of corresponding environmental parameters in which it is considered unlikely that an excessive burden will be placed on the user terminal due to streaming rendering. In other words, if a detected environmental parameter is in that safe area when the stream is closed, that environmental parameter will not be considered the cause of the poor viewing experience that may have resulted in the stream being closed. ,Therefore, there is no need to update or tighten the,thresholds of its environmental parameters used to determine the,rendering mode of subsequent streams. The range of each safety area can be defined according to the actual application. Examples are shown in Table 2 below.

工程S412において、それぞれの安全領域外と判明した環境パラメータに、更新された閾値が付与される。閾値更新方法の例については、図3の工程S8に関する説明で述べたとおりであり、類似の方法が工程S412で適用されてもよい。 In step S412, updated thresholds are assigned to the environmental parameters found to be outside their respective safety ranges. An example of the threshold updating method is as described in the explanation regarding step S8 in FIG. 3, and a similar method may be applied in step S412.

安全領域外の環境パラメータは、特定の環境パラメータがそのユーザの視聴体験を損なう、あるいは低下させるような値になったために、当該ユーザがストリーミングを閉じた可能性が高い。例えば、CPU使用率が80%になると、視聴体験が損なわれる可能性があり、これは、ユーザがさまざまなアプリケーションを同時に操作する場合に起こることがある。したがって、後続のストリーミング視聴でそのユーザが同じ理由でストリーミングから離脱することを防止するために、その特定のユーザに対しては、その環境パラメータの更新された、より厳しい閾値が必要となる。例えば、その特定のユーザ端末のCPU使用率の閾値を、(80-5)%の75%に更新してもよい。この方法によれば、次回当該ユーザがストリーミングを視聴しているときに、CPU使用率が75%に到達するまで上昇すると、レンダリングモードが切り替えられ(例えば、上述した第2のモードに切り替えられる)、より少ないデータオブジェクト(例えば、贈り物、ゲーム機能、アバター、特殊効果など)、またはデータオブジェクトのダウングレードバージョン(ストリーミングデータや他のユーザのビデオデータなど)を含めることで、当該ユーザ端末の負荷を軽減・緩和し、満足感が得られる視聴体験を維持することができる。 Environmental parameters outside the safe range are likely to result in the user closing the stream because the particular environmental parameter has reached a value that impairs or degrades the user's viewing experience. For example, CPU usage of 80% can impair the viewing experience, which can occur when a user operates various applications at the same time. Therefore, an updated, more stringent threshold for that environmental parameter is required for that particular user to prevent that user from leaving the stream for the same reason on subsequent streaming viewings. For example, the CPU usage threshold for that particular user terminal may be updated to 75% of (80-5)%. According to this method, the next time the user is watching a stream and the CPU usage increases until it reaches 75%, the rendering mode is switched (e.g., switched to the second mode described above). , including fewer data objects (e.g. gifts, game features, avatars, special effects, etc.) or downgraded versions of data objects (e.g. streaming data or other users' video data) to reduce the load on the user terminal. It is possible to reduce and alleviate the problem and maintain a satisfying viewing experience.

工程S408または工程S412の後、フローは後続のストリーミングレンダリングのために工程S400に戻ることができ、これは、例えば、当該ユーザ端末が次回ストリーミングを開始するときに続くことができる。 After step S408 or step S412, the flow may return to step S400 for subsequent streaming rendering, which may continue, for example, the next time the user terminal starts streaming.

本発明の実施態様は、ユーザ端末の環境パラメータに基づき、当該ユーザ端末で満足のいく視聴体験を確約するために、当該ユーザ端末上でのストリーミングのためのレンダリングモードを動的にまたは適応的に切り替える方法、システム、およびコンピュータ可読媒体を開示する。監視された当該環境パラメータは、それぞれの閾値と比較され、当該ユーザ端末の負荷を軽減して円滑にレンダリングするために、レンダリングモードの切り替えが必要か否かが判断される。当該環境パラメータの閾値の設定は、ユーザごとに大きく異なることがあり、これは、各ユーザの行動と、そのユーザの当該ユーザ端末の監視された当該環境パラメータとの関係や相関によって設定されるためである。 Embodiments of the present invention dynamically or adaptively adjust rendering modes for streaming on a user terminal based on environmental parameters of the user terminal to ensure a satisfactory viewing experience on the user terminal. Methods, systems, and computer-readable media for switching are disclosed. The monitored environmental parameters are compared with respective threshold values to determine whether a rendering mode switching is necessary to reduce the load on the user terminal and perform smooth rendering. The setting of the threshold value of the environmental parameter may vary greatly from user to user, as it is set depending on the relationship and correlation between each user's behavior and the environmental parameter monitored by the user terminal of that user. It is.

異なるユーザは、異なる環境パラメータに関して異なる許容レベルを有することができる。例えば、ユーザAはネットワーク品質パラメータが70に達する、または低下すると常にストリーミングをオフにし、ユーザBはネットワーク品質パラメータが60に達する、または低下すると常にストリーミングをオフにする場合、ユーザAおよびユーザBのネットワーク品質パラメータの閾値は、75(70+5)と65(60+5)に設定されてもよい。各ユーザ端末の閾値は、上記のように各ユーザの行動や好みに応じて動的かつ継続的に調整される。本発明は、ユーザごとにカスタマイズされた各種環境パラメータの閾値に基づいてレンダリングモードを動的に切り替えることで、各ユーザのストリーミング視聴の満足度を効果的に最大化することができる。 Different users may have different tolerance levels regarding different environmental parameters. For example, if user A turns off streaming whenever the network quality parameter reaches or drops to 70, and user B turns off streaming whenever the network quality parameter reaches or drops to 60, then user A and user B The network quality parameter thresholds may be set to 75 (70+5) and 65 (60+5). The threshold value of each user terminal is dynamically and continuously adjusted according to each user's behavior and preferences as described above. The present invention can effectively maximize each user's streaming viewing satisfaction by dynamically switching rendering modes based on thresholds of various environmental parameters customized for each user.

一部の実施態様において、当該環境パラメータの閾値を設定する前に、学習期間があってもよい。学習期間とは、ユーザのストリーミングを閉じる行動が閾値の決定または更新に即座に使用されない期間である。例えば、ユーザがアプリでストリーミングを視聴する初期段階において、学習期間は、システムまたはアプリがユーザ(またはユーザ端末)の行動パターンを学習することを可能にする。学習の過程において、数回のストリーミング視聴を通じ、アプリは当該ユーザの行動(ストリーミングを閉じるなど)と各種環境パラメータとの相関性を把握または計算することができる。したがって、各環境パラメータに関するユーザの関心度や許容度を把握し、各種環境パラメータに対する閾値設定の優先度や厳格化の度合いを決定することができる。一部の実施態様において、当該学習期間は、例えば、1週間や1か月であり得る、所定の期間とすることができる。一部の実施態様において、当該学習期間は、ユーザ端末がX1回のストリーミング視聴を終了するまでの可変期間とすることができ、X1回は、例えば、5~10回としてもよい。 In some implementations, there may be a learning period before setting the threshold for the environmental parameter. A learning period is a period during which a user's action to close a stream is not immediately used to determine or update a threshold. For example, during the initial stages of a user watching a stream on an app, a learning period allows the system or app to learn the user's (or user terminal's) behavioral patterns. In the learning process, through watching the stream several times, the app can understand or calculate the correlation between the user's actions (such as closing the stream) and various environmental parameters. Therefore, the degree of interest and tolerance of the user regarding each environmental parameter can be ascertained, and the priority and degree of strictness of threshold setting for various environmental parameters can be determined. In some implementations, the learning period can be a predetermined period of time, which can be, for example, one week or one month. In some implementations, the learning period may be a variable period until the user terminal finishes viewing the stream X1 times, where X1 times may be, for example, 5 to 10 times.

例えば、学習期間中に、ユーザAがネットワーク品質パラメータの影響をより強く受けている、すなわち、閉じる行動とネットワーク品質パラメータの値の低さの相関性が高く、他の環境パラメータとの相関性が低いことが判明した場合、ネットワーク品質パラメータの閾値を設定してから、他の環境パラメータの閾値を設定することができる。このような仕組みにより、ユーザにとって関心事ではない他の環境パラメータの変動によって、ストリーミングが不必要に(例えば、第1のモードから第2のモードへ)ダウングレードされるような事態を防ぐことができる。 For example, during the learning period, user A is more influenced by the network quality parameter, i.e. the closing behavior is highly correlated with low values of the network quality parameter, and the correlation with other environmental parameters is high. If found to be low, a threshold for the network quality parameter can be set and then thresholds for other environmental parameters can be set. Such a mechanism prevents streaming from being unnecessarily downgraded (e.g., from a first mode to a second mode) due to changes in other environmental parameters that are of no concern to the user. can.

一部の実施態様において、例えば、ある条件が満たされた場合に、当該コントローラー110により、当該環境パラメータの閾値が緩和される仕組みがあってもよい。例えば、ある環境パラメータが閾値に達し、それに応じてストリーミングが低パフォーマンスのレンダリングモードに切り替えられる場合、環境パラメータが閾値を超えたことによる視聴体験の悪化にかかわらず、ストリーミングを提供するアプリ上でユーザが通常/デフォルト/より高パフォーマンスなレンダリングモードに戻すことを実行できるオプションを設けてもよい。 In some implementations, for example, there may be a mechanism in which the controller 110 relaxes the threshold value of the environmental parameter when a certain condition is met. For example, if an environmental parameter reaches a threshold and the streaming is switched to a lower-performance rendering mode accordingly, the user on the app providing the streaming An option may be provided that allows the user to revert to normal/default/higher performance rendering mode.

一部の実施態様において、ユーザが連続して(例えば、3回または5回連続で)特定の環境パラメータについて、(その環境パラメータがすでに閾値に達しているにもかかわらず)より高パフォーマンスなレンダリングモードを要求するオプションを実行する場合、当該環境パラメータの閾値は、そのユーザの個人的な好みに合わせて、後続のストリーミングレンダリングのために緩和した設定とすることができる。例えば、当該環境パラメータがCPU使用率である場合、CPU使用率が本来の閾値70%に達してレンダリングモードがダウングレードされるたびに、ユーザがより高パフォーマンスなレンダリングモードに戻すオプションを連続して実行する場合、閾値を70%から75%に緩和することができる。 In some implementations, a user may continuously (e.g., three or five times in a row) request higher performance rendering for a particular environmental parameter (even though that environmental parameter has already reached a threshold). When implementing the option to request a mode, the environmental parameter thresholds may be set more relaxed for subsequent streaming rendering, depending on the user's personal preferences. For example, if the environment parameter in question is CPU usage, each time the rendering mode is downgraded because the CPU usage reaches the original threshold of 70%, the user is given the option to revert back to a higher performance rendering mode in succession. If implemented, the threshold can be relaxed from 70% to 75%.

本発明で説明した処理及び手順は、明示的に説明したものに加えて、ソフトウェア、ハードウェア、またはそれらの任意の組み合わせにより実現することができる。例えば、本明細書で説明した処理および手順は、その処理および手順に対応するロジックを集積回路、揮発性メモリ、不揮発性メモリ、非一過性のコンピュータ可読媒体、磁気ディスクなどの媒体に実装することにより実現することができる。さらに、本明細書に記載された処理および手順は、その処理および手順に対応するコンピュータプログラムとして実現することができ、各種のコンピュータにより実行することができる。 The processes and procedures described in this invention, in addition to those explicitly described, may be implemented by software, hardware, or any combination thereof. For example, the processes and procedures described herein implement logic corresponding to the processes and procedures in a medium such as an integrated circuit, volatile memory, non-volatile memory, non-transitory computer-readable medium, magnetic disk, etc. This can be achieved by Further, the processes and procedures described in this specification can be realized as a computer program corresponding to the processes and procedures, and can be executed by various computers.

一部の実施態様において、当該要素、サブスコア、スコア及び重みは、当該、サブスコア、スコア及び重みを計算する際に、より最近のデータや操作の関連性が高まるように、特定のデータまたは操作の強度を時間と共に減衰させる減衰要素を含んでもよい。当該要素、サブスコア、スコア、及び重みは、データまたは操作の継続的な追跡に基づいて継続的に更新されてもよい。各要素のスコア、および要素とスコアに割り当てられる重みの割り当て、組み合わせ、平均化などのために、任意のタイプのプロセスまたはアルゴリズムを採用することができる。特定の実施態様において、当該ハイライト検出ユニット35は、過去のデータ、過去の操作及び過去のユーザ端末の反応に基づいてトレーニングされた機械学習アルゴリズム、またはユーザ端末を多様なオプションに露出して反応を測定することによりユーザ端末から収集されたデータを使用して、要素、サブスコア、スコア及び重みを決定することができる。一部の実施態様において、当該要素、サブスコア、スコア、及び重みは、任意の適切な方法で決定されてもよい。 In some embodiments, the factors, subscores, scores, and weights are selected for specific data or operations such that more recent data or operations are more relevant when calculating the factors, subscores, scores, and weights. A damping element may be included to reduce the intensity over time. The factors, subscores, scores, and weights may be continuously updated based on continued tracking of data or operations. Any type of process or algorithm may be employed to assign, combine, average, etc. the scores of each element and the weights assigned to the elements and scores. In certain embodiments, the highlight detection unit 35 uses a machine learning algorithm trained based on historical data, past operations, and past user terminal responses, or by exposing the user terminal to various options to respond. The data collected from the user terminal by measuring can be used to determine factors, subscores, scores and weights. In some embodiments, the factors, subscores, scores, and weights may be determined in any suitable manner.

さらに、上記実施態様で説明したシステムまたは方法は、固体記憶装置、光ディスク記憶装置、磁気ディスク記憶装置などの非一時的なコンピュータ可読媒体に格納されたプログラムに統合されてもよい。あるいは、プログラムは、インターネットを介してサーバからダウンロードされ、プロセッサにより実行されるものとしてもよい。 Additionally, the systems or methods described in the above embodiments may be integrated into programs stored on non-transitory computer-readable media, such as solid state storage, optical disk storage, magnetic disk storage, and the like. Alternatively, the program may be downloaded from a server via the Internet and executed by the processor.

以上、本発明の技術的内容及び特徴を説明したが、本発明の属する技術分野において通常の知識を有する者であれば、本発明の教示及び開示から逸脱することなく、なお多くの変形及び修正を行うことができる。したがって、本発明の範囲は、既に開示された実施態様に限定されず、本発明から逸脱しない別の変形や修正を含み、特許請求の範囲に含まれる範囲である。 Although the technical contents and features of the present invention have been described above, those with ordinary knowledge in the technical field to which the present invention pertains will appreciate that many variations and modifications can be made without departing from the teachings and disclosure of the present invention. It can be performed. Therefore, the scope of the invention is not limited to the embodiments already disclosed, but includes other variations and modifications that do not depart from the invention and are included in the scope of the claims.

1 通信システム
10 ユーザ端末
102 UIユニット
104 ストレージユニット
106 ユーザ行動トラッカー
108 環境条件トラッカー
110 コントローラー
112 レンダラー
114 デコーダー
116 ディスプレイ
30 バックエンドサーバ
40 ストリーミングサーバ
90 ネットワーク
1 Communication system 10 User terminal 102 UI unit 104 Storage unit 106 User behavior tracker 108 Environmental condition tracker 110 Controller 112 Renderer 114 Decoder 116 Display 30 Back-end server 40 Streaming server 90 Network

Claims (19)

ユーザ端末上でストリーミングをレンダリングする方法であって、
前記ストリーミングを第1のモードでレンダリングする工程と、
前記ユーザ端末の環境パラメータを受信する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングを受信する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングに基づいて前記環境パラメータの閾値を決定する工程と、
前記ユーザ端末の更新された環境パラメータを受信する工程と、
前記更新された環境パラメータが前記閾値に達した場合、前記ストリーミングを第2のモードでレンダリングする工程と、
を含み、前記第2のモードが、レンダリングに前記第1のモードよりも少ないデータオブジェクトを含むか、または、前記第1のモードにおけるデータオブジェクトのダウングレードバージョンを含む、ことを特徴とする、ストリーミングをレンダリングする方法。
A method for rendering streaming on a user terminal, the method comprising:
rendering the streaming in a first mode;
receiving environmental parameters of the user terminal;
the user terminal receiving timing to close the streaming;
determining a threshold value for the environmental parameter based on a timing at which the user terminal closes the streaming;
receiving updated environmental parameters of the user terminal;
rendering the streaming in a second mode if the updated environmental parameter reaches the threshold;
Streaming, wherein the second mode includes fewer data objects for rendering than the first mode, or includes downgraded versions of data objects in the first mode. How to render.
前記環境パラメータの前記閾値が、前記ユーザ端末が前記ストリーミングを閉じるタイミングの前記環境パラメータの値からの所定のオフセットにより決定される、ことを特徴とする、請求項1に記載のストリーミングをレンダリングする方法。 A method according to claim 1, characterized in that the threshold value of the environmental parameter is determined by a predetermined offset from the value of the environmental parameter at which the user terminal closes the streaming. . 前記環境パラメータが、前記ユーザ端末のCPU使用率、または前記ユーザ端末のメモリ使用率である、ことを特徴とする、請求項2に記載のストリーミングをレンダリングする方法。 The method of rendering streaming according to claim 2, characterized in that the environmental parameter is a CPU usage rate of the user terminal or a memory usage rate of the user terminal. 前記環境パラメータが、前記ユーザ端末が前記ストリーミングを閉じるタイミングより前の特定の期間内における、前記第1のモードでの前記ストリーミングのレンダリング中におけるフリーズまたはラグの発生回数である、ことを特徴とする、請求項2に記載のストリーミングをレンダリングする方法。 The environmental parameter is characterized in that the number of occurrences of freezing or lag during rendering of the streaming in the first mode within a specific period before the timing at which the user terminal closes the streaming. , A method for rendering streaming according to claim 2. 前記環境パラメータが、前記第1のモードでストリーミングがレンダリングされるFPS(フレーム毎秒)数が指定された値を下回る時間の長さである、ことを特徴とする、請求項2に記載のストリーミングをレンダリングする方法。 Streaming according to claim 2, characterized in that the environmental parameter is the length of time during which the number of FPS (frames per second) during which the streaming is rendered in the first mode is below a specified value. How to render. 前記環境パラメータが、API応答時間、TCP接続時間、DNSルックアップ時間、SSLハンドシェイク時間、またはダウンストリーム帯域幅を含む品質要素によって決定されるネットワーク品質パラメータである、ことを特徴とする、請求項2に記載のストリーミングをレンダリングする方法。 Claim characterized in that the environmental parameter is a network quality parameter determined by quality factors including API response time, TCP connection time, DNS lookup time, SSL handshake time, or downstream bandwidth. 2. The method for rendering streaming as described in 2. 前記データオブジェクトが、贈り物、特殊効果、ゲーム機能、アバター、アニメーション、または別のユーザからのビデオデータを含むことを特徴とする、請求項1に記載のストリーミングをレンダリングする方法。 The method of rendering streaming according to claim 1, characterized in that the data objects include gifts, special effects, game features, avatars, animations, or video data from another user. 前記データオブジェクトが、贈り物、特殊効果、ゲーム機能、アバター、またはアニメーションを含み、前記第2のモードが前記第1のモードより、レンダリングにより少ないデータオブジェクトを含む、ことを特徴とする、請求項3乃至5のいずれかに記載のストリーミングをレンダリングする方法。 3. The data objects include gifts, special effects, game features, avatars, or animations, and the second mode includes fewer data objects for rendering than the first mode. 6. The method of rendering streaming according to any one of 5 to 5. 前記データオブジェクトが別のユーザからのビデオデータを含み、前記第2のモードが、レンダリングに別のユーザからの前記ビデオデータのダウングレードバージョンを含むことを特徴とする、請求項6に記載のストリーミングをレンダリングする方法。 Streaming according to claim 6, characterized in that the data object includes video data from another user, and the second mode includes a downgraded version of the video data from another user in rendering. How to render. 各品質要素のスコアが当該品質要素のパフォーマンスグレードに基づいて定義され、前記ネットワーク品質パラメータの値が、当該品質要素の前記スコアの平均となるように決定される、ことを特徴とする、請求項6に記載のストリーミングをレンダリングする方法。 Claim characterized in that the score of each quality element is defined based on the performance grade of the quality element, and the value of the network quality parameter is determined to be the average of the scores of the quality element. 6. The method of rendering streaming as described in 6. 前記環境パラメータの閾値を決定する工程が、
前記環境パラメータに安全領域を定義する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングで、前記環境パラメータが前記安全領域内にあるか否かを判断する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングで、前記環境パラメータが前記安全領域内にある場合、前記閾値をそのまま維持する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングで、前記環境パラメータが前記安全領域外にある場合、前記閾値を厳格化する工程と、
を含むことを特徴とする、請求項1に記載のストリーミングをレンダリングする方法。
The step of determining a threshold value of the environmental parameter comprises:
defining a safe area for the environmental parameters;
determining whether the environmental parameter is within the safe range at a timing when the user terminal closes the streaming;
If the environmental parameter is within the safe range at the timing when the user terminal closes the streaming, maintaining the threshold value as it is;
If the environmental parameter is outside the safe area at the timing when the user terminal closes the streaming, tightening the threshold;
A method for rendering streaming according to claim 1, characterized in that the method comprises:
さらに、
学習期間中に、前記ユーザ端末の複数の環境パラメータを受信する工程と、
前記学習期間中に、前記ユーザ端末が前記ストリーミングを閉じたときの複数のタイミングを受信する工程と、
前記ユーザ端末が前記ストリーミングを閉じる行動と各環境パラメータ間の相関性を計算する工程と、
前記ユーザ端末が前記ストリーミングを閉じる行動に関して最も相関性が高い環境パラメータの閾値を決定してから、残りの環境パラメータの閾値を決定する工程と、
を含むことを特徴とする、請求項1に記載のストリーミングをレンダリングする方法。
moreover,
receiving a plurality of environmental parameters of the user terminal during a learning period;
receiving a plurality of timings when the user terminal closes the streaming during the learning period;
calculating a correlation between the action of the user terminal to close the streaming and each environmental parameter;
determining a threshold for an environmental parameter that is most highly correlated with the action of the user terminal to close the streaming, and then determining thresholds for the remaining environmental parameters;
A method for rendering streaming according to claim 1, characterized in that the method comprises:
ユーザ端末上でストリーミングをレンダリングするためのシステムであって、1つまたは複数のプロセッサを含み、前記1つまたは複数のプロセッサが、機械可読命令を実行して、
前記ストリーミングを第1のモードでレンダリングする工程と、
前記ユーザ端末の環境パラメータを受信する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングを受信する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングに基づいて前記環境パラメータの閾値を決定する工程と、
前記ユーザ端末の更新された環境パラメータを受信する工程と、
前記更新された環境パラメータが前記閾値に達した場合、前記ストリーミングを第2のモードでレンダリングする工程と、
を実行させ、前記第2のモードが、レンダリングに前記第1のモードよりも少ないデータオブジェクトを含むか、または、前記第1のモードにおけるデータオブジェクトのダウングレードバージョンを含む、ことを特徴とする、ストリーミングをレンダリングするためのシステム。
A system for rendering streaming on a user terminal, the system comprising one or more processors, the one or more processors executing machine-readable instructions;
rendering the streaming in a first mode;
receiving environmental parameters of the user terminal;
the user terminal receiving timing to close the streaming;
determining a threshold value for the environmental parameter based on a timing at which the user terminal closes the streaming;
receiving updated environmental parameters of the user terminal;
rendering the streaming in a second mode if the updated environmental parameter reaches the threshold;
, wherein the second mode includes fewer data objects in rendering than the first mode, or includes downgraded versions of the data objects in the first mode. A system for rendering streaming.
前記環境パラメータの前記閾値が、前記ユーザ端末が前記ストリーミングを閉じるタイミングの前記環境パラメータの値からの所定のオフセットにより決定される、ことを特徴とする、請求項13に記載のストリーミングをレンダリングするためのシステム。 14. For rendering a stream according to claim 13, characterized in that the threshold value of the environmental parameter is determined by a predetermined offset from the value of the environmental parameter at which the user terminal closes the streaming. system. 前記環境パラメータが、前記ユーザ端末のCPU使用率、前記ユーザ端末のメモリ使用率、前記ユーザ端末が前記ストリーミングを閉じるタイミングより前の特定の期間内における、前記第1のモードでの前記ストリーミングのレンダリング中におけるフリーズまたはラグの発生回数、前記第1のモードで前記ストリーミングがレンダリングされるFPS(フレーム毎秒)数が指定された値を下回る時間の長さ、またはAPI応答時間、TCP接続時間、DNSルックアップ時間、SSLハンドシェイク時間、またはダウンストリーム帯域幅を含む品質要素によって決定されるネットワーク品質パラメータである、ことを特徴とする、請求項13に記載のストリーミングをレンダリングするためのシステム。 The environmental parameters include a CPU usage rate of the user terminal, a memory usage rate of the user terminal, and rendering of the streaming in the first mode within a specific period before a timing at which the user terminal closes the streaming. the number of times freezes or lags occur in the first mode; the amount of time the stream is rendered in FPS (frames per second) is below a specified value in the first mode; or API response time, TCP connection time, DNS look 14. The system for rendering streaming according to claim 13, characterized in that the network quality parameters are determined by quality factors including up time, SSL handshake time, or downstream bandwidth. 前記データオブジェクトが、贈り物、特殊効果、ゲーム機能、アバター、アニメーション、または別のユーザからのビデオデータを含む、ことを特徴とする、請求項13に記載のストリーミングをレンダリングするためのシステム。 14. A system for rendering streaming according to claim 13, characterized in that the data objects include gifts, special effects, game features, avatars, animations, or video data from another user. 前記環境パラメータの閾値を決定する工程が、
前記環境パラメータに安全領域を定義する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングで、前記環境パラメータが前記安全領域内にあるか否かを判断する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングで、前記環境パラメータが前記安全領域内にある場合、前記閾値をそのまま維持する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングで、前記環境パラメータが前記安全領域外にある場合、前記閾値を厳格化する工程と、
を含むことを特徴とする、請求項13に記載のストリーミングをレンダリングするためのシステム。
The step of determining a threshold value of the environmental parameter comprises:
defining a safe area for the environmental parameters;
determining whether the environmental parameter is within the safe range at a timing when the user terminal closes the streaming;
If the environmental parameter is within the safe range at the timing when the user terminal closes the streaming, maintaining the threshold value as it is;
If the environmental parameter is outside the safe area at the timing when the user terminal closes the streaming, tightening the threshold;
14. A system for rendering streaming according to claim 13, characterized in that it comprises:
前記1つまたは複数のプロセッサが、機械可読命令を実行して、さらに、
学習期間中に、前記ユーザ端末の複数の環境パラメータを受信する工程と、
前記学習期間中に、前記ユーザ端末が前記ストリーミングを閉じたときの複数のタイミングを受信する工程と、
前記ユーザ端末が前記ストリーミングを閉じる行動と各環境パラメータ間の相関性を計算する工程と、
前記ユーザ端末が前記ストリーミングを閉じる行動に関して最も相関性が高い環境パラメータの閾値を決定してから、残りの環境パラメータの閾値を決定する工程と、
を実行させることを特徴とする、請求項13に記載のストリーミングをレンダリングするためのシステム。
The one or more processors execute machine readable instructions, and further:
receiving a plurality of environmental parameters of the user terminal during a learning period;
receiving a plurality of timings when the user terminal closes the streaming during the learning period;
calculating a correlation between the action of the user terminal to close the streaming and each environmental parameter;
determining a threshold for an environmental parameter that is most highly correlated with the action of the user terminal to close the streaming, and then determining thresholds for the remaining environmental parameters;
14. The system for rendering streaming according to claim 13, characterized in that the system performs the following.
ユーザ端末上でストリーミングをレンダリングするためのプログラムを含む非一時的なコンピュータ可読媒体であって、前記プログラムが、1または複数のコンピュータに、
前記ストリーミングを第1のモードでレンダリングする工程と、
前記ユーザ端末の環境パラメータを受信する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングを受信する工程と、
前記ユーザ端末が前記ストリーミングを閉じるタイミングに基づいて前記環境パラメータの閾値を決定する工程と、
前記ユーザ端末の更新された環境パラメータを受信する工程と、
前記更新された環境パラメータが前記閾値に達した場合、前記ストリーミングを第2のモードでレンダリングする工程と、
を実行させ、前記第2のモードが、レンダリングに前記第1のモードよりも少ないデータオブジェクトを含むか、または、前記第1のモードにおけるデータオブジェクトのダウングレードバージョンを含む、ことを特徴とする、非一時的なコンピュータ可読媒体。
A non-transitory computer-readable medium comprising a program for rendering streaming on a user terminal, the program comprising:
rendering the streaming in a first mode;
receiving environmental parameters of the user terminal;
the user terminal receiving timing to close the streaming;
determining a threshold value for the environmental parameter based on a timing at which the user terminal closes the streaming;
receiving updated environmental parameters of the user terminal;
rendering the streaming in a second mode if the updated environmental parameter reaches the threshold;
, wherein the second mode includes fewer data objects in rendering than the first mode, or includes downgraded versions of the data objects in the first mode. Non-transitory computer-readable medium.
JP2022516347A 2021-09-30 2021-09-30 Systems, methods, and computer-readable media for rendering streaming Active JP7406713B2 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2021/052775 WO2023055363A1 (en) 2021-09-30 2021-09-30 System, method and computer-readable medium for rendering a streaming

Publications (2)

Publication Number Publication Date
JP2023547287A true JP2023547287A (en) 2023-11-10
JP7406713B2 JP7406713B2 (en) 2023-12-28

Family

ID=85783377

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022516347A Active JP7406713B2 (en) 2021-09-30 2021-09-30 Systems, methods, and computer-readable media for rendering streaming

Country Status (2)

Country Link
JP (1) JP7406713B2 (en)
WO (1) WO2023055363A1 (en)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001320655A (en) * 2000-05-08 2001-11-16 Jisedai Joho Hoso System Kenkyusho:Kk Digest video image storage method and digest video image storage device
JP2003333569A (en) * 2002-05-13 2003-11-21 Sony Corp File format, information processing system, information processing apparatus and method, recording medium, and program
US20110307900A1 (en) * 2010-06-14 2011-12-15 Microsoft Corporation Changing streaming media quality level based on current device resource usage
JP2016036103A (en) * 2014-08-04 2016-03-17 富士通株式会社 Image distribution server and image distribution method
JP2017504902A (en) * 2014-01-15 2017-02-09 ソノズ インコーポレイテッド Software applications and zones
US20190373036A1 (en) * 2018-05-31 2019-12-05 Microsoft Technology Licensing, Llc Modifying content streaming based on device parameters
JP2020151494A (en) * 2015-08-19 2020-09-24 ソニー・インタラクティブエンタテインメント エルエルシー Cloud game streaming using asset integration on client side

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9582250B1 (en) * 2015-08-28 2017-02-28 International Business Machines Corporation Fusion recommendation for performance management in streams

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001320655A (en) * 2000-05-08 2001-11-16 Jisedai Joho Hoso System Kenkyusho:Kk Digest video image storage method and digest video image storage device
JP2003333569A (en) * 2002-05-13 2003-11-21 Sony Corp File format, information processing system, information processing apparatus and method, recording medium, and program
US20110307900A1 (en) * 2010-06-14 2011-12-15 Microsoft Corporation Changing streaming media quality level based on current device resource usage
JP2017504902A (en) * 2014-01-15 2017-02-09 ソノズ インコーポレイテッド Software applications and zones
JP2016036103A (en) * 2014-08-04 2016-03-17 富士通株式会社 Image distribution server and image distribution method
JP2020151494A (en) * 2015-08-19 2020-09-24 ソニー・インタラクティブエンタテインメント エルエルシー Cloud game streaming using asset integration on client side
US20190373036A1 (en) * 2018-05-31 2019-12-05 Microsoft Technology Licensing, Llc Modifying content streaming based on device parameters

Also Published As

Publication number Publication date
JP7406713B2 (en) 2023-12-28
WO2023055363A1 (en) 2023-04-06

Similar Documents

Publication Publication Date Title
US10904639B1 (en) Server-side fragment insertion and delivery
US10986414B1 (en) Resource management for video playback and chat
CA2888218C (en) Playback stall avoidance in adaptive media streaming
US20200099732A1 (en) Catching up to the live playhead in live streaming
US20120102184A1 (en) Apparatus and method for adaptive streaming of content with user-initiated quality adjustments
US11431777B2 (en) Adaptive bitrate streaming techniques
US10728630B2 (en) Adaptive bitrate streaming techniques
US20090178096A1 (en) Intelligent over-transmission of media data segments
EP2633690A1 (en) Delivery quality of experience (qoe) in a computer network
US20240098125A1 (en) System, method and computer-readable medium for rendering a streaming
CA2702191A1 (en) Systems and methods for managing advertising content corresponding to streaming media content
US11765217B1 (en) Dynamic congestion control through real-time QOS monitoring in video streaming
US10091265B2 (en) Catching up to the live playhead in live streaming
WO2017210027A1 (en) Catching up to the live playhead in live streaming
US10388247B2 (en) Dynamic display device adjustment for streamed video
US20170251034A1 (en) Multicasting adaptive bitrate streams
CN103607638A (en) Network media playing method, intelligent display terminal and intelligent display system
JP7406713B2 (en) Systems, methods, and computer-readable media for rendering streaming
Staelens et al. On the impact of video stalling and video quality in the case of camera switching during adaptive streaming of sports content
TWI798849B (en) System, method and computer-readable medium for rendering a streaming
US10728588B2 (en) Adaptive bitrate streaming techniques
US20150026711A1 (en) Method and apparatus for video content distribution
US20130042288A1 (en) Method and arrangement for playing out a media object
De Simone et al. Comparison of DASH adaptation strategies based on bitrate and quality signalling
CN117714718A (en) Dynamic configuration method, system and computing device of live broadcast scheduling mode

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220314

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220314

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231017

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231129

R150 Certificate of patent or registration of utility model

Ref document number: 7406713

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531