JP6469734B2 - 効率的なフレームレンダリング - Google Patents

効率的なフレームレンダリング Download PDF

Info

Publication number
JP6469734B2
JP6469734B2 JP2016574987A JP2016574987A JP6469734B2 JP 6469734 B2 JP6469734 B2 JP 6469734B2 JP 2016574987 A JP2016574987 A JP 2016574987A JP 2016574987 A JP2016574987 A JP 2016574987A JP 6469734 B2 JP6469734 B2 JP 6469734B2
Authority
JP
Japan
Prior art keywords
frames
dummy
encoder
rendering
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016574987A
Other languages
English (en)
Other versions
JP2017525247A5 (ja
JP2017525247A (ja
Inventor
パク,クン・ヨン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Publication of JP2017525247A publication Critical patent/JP2017525247A/ja
Publication of JP2017525247A5 publication Critical patent/JP2017525247A5/ja
Application granted granted Critical
Publication of JP6469734B2 publication Critical patent/JP6469734B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • H04N21/42206User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor characterized by hardware details
    • H04N21/42224Touch pad or touch panel provided on the remote control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/005Adapting incoming signals to the display format of the display terminal
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/003Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G5/006Details of the interface to the display terminal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/266Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
    • H04N21/2662Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • H04N21/4122Peripherals receiving signals from specially adapted client devices additional display device, e.g. video projector
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41407Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance embedded in a portable device, e.g. video client on a mobile phone, PDA, laptop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41422Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance located in transportation means, e.g. personal vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44008Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47205End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for manipulating displayed content, e.g. interacting with MPEG-4 objects, editing locally
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4722End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting additional data associated with the content
    • H04N21/4725End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for requesting additional data associated with the content using interactive regions of the image, e.g. hot spots
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/12Frame memory handling
    • G09G2360/127Updating a frame memory using a transfer of data from a source area to a destination area
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/06Consumer Electronics Control, i.e. control of another device by a display or vice versa
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2380/00Specific applications
    • G09G2380/10Automotive applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Image Generation (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

背景
ストリーミングビデオシステムにおいて、ビデオフレームはエンコーダによってレンダリングされ得る。エンコーダはたとえば、ビデオストリームが示されることになるディスプレイと互換性のあるフォーマットおよび/または解像度でビデオストリームを圧縮および/またはエンコードし得る。ビデオをレンダリングするデバイスとディスプレイとの間の接続は、有線(たとえばUSB)または無線(たとえばWiFi(登録商標)、ブルートゥース(登録商標))接続であり得る。ディスプレイと関連付けられたデコーダが、自身が受信するエンコードされたビデオフレームをデコードし得る。ビデオが一定のフレームレートでレンダリングされる場合、ディスプレイは新たなフレームで連続的に更新され得る。
簡潔な概要
ある実現例に従うと、モバイルデバイスは、リモートディスプレイ上のタッチ入力の指示を受信し得る。リモートディスプレイはモバイルデバイスとは別個であり得、タッチ入力はディスプレイ上に示されているアプリケーションの変更と関連付けられ得る。モバイルデバイスは、アプリケーションについてのレンダリング速度を決定し得る。レンダリング速度に基づいてモバイルデバイスのエンコーダに少なくとも1つのダミー応答が送信され得る。少なくとも1つのダミーフレームを含む1つ以上のフレームがレンダリングされ得る。レンダリングによってエンコーダのパイプラインが充填され得る。充填されたパイプラインを含む1つ以上のフレームは、ディスプレイに結合されているデコーダに送信され得る。
モバイルデバイスに接続されているプロセッサを含むシステムが開示される。プロセッサは、リモートディスプレイ上のタッチ入力の指示を受信するように構成され得る。リモートディスプレイはモバイルデバイスとは別個であり得、タッチ入力はディスプレイ上に示されているアプリケーションの変更と関連付けられ得る。プロセッサは、アプリケーションについてのレンダリング速度を決定するように構成され得る。プロセッサは、レンダリング速度に基づいて少なくとも1つのダミーフレームをモバイルデバイスのエンコーダに送信し得る。プロセッサは、少なくとも1つのダミーフレームを含む1つ以上のフレームをレンダリングし得る。レンダリングによってエンコーダのパイプラインが充填され得る。プロセッサは、充填されたパイプラインを構成するフレームを、ディスプレイに結合されているデコーダに送信するように構成され得る。
インフォテインメントシステムから受信した入力に応答して少なくとも1つのフレームが生成されるプロセスが、ある実現例において開示される。レンダリング速度は一定でないと決定され得る。少なくとも1つのダミーフレームおよび少なくとも1つのフレームがエンコーダに送信され得る。エンコーダは、少なくとも1つのダミーフレームおよび少なくとも1つのフレームをレンダリングして、1つ以上のレンダリングされたフレームを形成し得る。1つ以上のレンダリングされたフレームは、インフォテインメントシステムに接続されているデコーダに送信され得る。インフォテインメントシステムは1つ以上のレンダリングされたフレームを表示し得る。
ある実現例では、ここに開示される主題に係るシステムは、インフォテインメントシステムから受信した入力に応答して1つ以上のフレームを生成するための手段を含む。システムは、レンダリング速度が一定でないと決定するための手段を含み得る。システムは、1つ以上のダミーフレームおよび1つ以上のフレームをエンコーダに送信するための手段を含み得る。システムは、1つ以上のダミーフレームおよび1つ以上のフレームををレンダリングして、レンダリングされたフレームを形成するためのエンコーダ手段を含み得る。システムは、レンダリングされたフレームを、インフォテインメントシステムに接続されているデコーダに送信するための手段を含み得る。インフォテインメントシステムは、レンダリングされたフレームを表示するための手段を含み得る。
開示される主題の付加的な特徴、利点、および実現例は、記載され得るか、または以下の詳細な説明、図面、および請求項を考慮することによって明らかになり得る。さらに、上述の概要および以下の詳細な説明は、実現例を提供するものであり、請求項の範囲を限定することなくさらなる説明を提供するように意図されていると理解すべきである。
開示される主題のさらなる理解を提供するために含まれている添付の図面は、本明細書に組込まれてその一部を構成する。図面も、開示される主題の実現例を例示しており、詳細な説明とともに、開示される主題の実現例の原理を説明するのに役立つ。開示される主題およびそれが実施され得るさまざまな方法の基本的な理解のために必要であり得る以上に詳細に構造上の詳細を示す試みはなされていない。
本明細書に開示されるように、モバイルデバイスを利用してインフォテインメントシステムのディスプレイを駆動する例示的なシステムを示す図である。 本明細書に開示されるように、リモートディスプレイ上でビデオフレームをレンダリングするための例示的なプロセスの図である。 本明細書に開示されるように、リモートディスプレイ上でビデオフレームをレンダリングするための例示的なプロセスの図である。 本明細書に開示されるように、エンコーダによってレンダリングされて、インフォテインメントシステムに結合されているデコーダに送信されるべき1つ以上のダミーフレームを生成するための例示的なプロセスの図である。 開示される主題の実現例に係るコンピュータを示す図である。 開示される主題の実現例に係るネットワーク構成を示す図である。
詳細な説明
ユーザは、接触によって、キーを押すことによって、またはダイヤルを回すことによって、などのさまざまな方法でディスプレイとインタラクションし得る。ユーザインタラクションのためのビデオエンコーダは、ユーザの入力(たとえば接触)に応答してディスプレイ上でビデオを効率的にレンダリングするのが難しい場合がある。典型的なビデオエンコーダは、エンコードされたフレームを形成するのにいくつかのフレームを必要とするパイプラインとして動作する。これは、ディスプレイが定期的にしか更新されない場合には困難であり得る。ビデオが30フレーム/秒(「FPS」)などの一定速度でレンダリングされる場合は、画面は絶えずリフレッシュされ得る。ディスプレイを駆動しているデバイスが十分強力である場合は、デバイスはディスプレイを容易に一定速度で駆動し得る。しかし、モバイルデバイスのように、デバイスがそれほど強力でない場合は、ディスプレイ上に変更を示すことが必要である場合にのみディスプレイに対してフレームをレンダリングすることが有利であり得る。たとえば、ユーザがディスプレイに触れると、ユーザがディスプレイを介してインタラクションしているアプリケーションは、ディスプレイのごく一部のみを更新し得る。エンコーダは、たとえば1つまたは2つのフレームをレンダリングし得、それをディスプレイに接続されているデコーダに送信し得る。
図1は、モバイルデバイス130を利用してインフォテインメントシステム160のディスプレイ140を駆動する例示的なシステムである。これは投影(projected)アーキテクチャと称され得る。モバイルデバイス130は、ディスプレイ解像度、アスペクト比、1つ以上のボタン、および1つ以上のダイヤルに関してインフォテインメントシステムのレイアウトの指示を受信し得る。ラジオまたは車両の温度制御などのインフォテインメントシステム160の他の機能も同様に、投影アーキテクチャシステムにおいてモバイルデバイス130によって制御され得る。モバイルデバイス130は、USBケーブルまたは他の有線もしくは無線接続を用いて車両170(または他のリモートシステム)に接続され得る。モバイルデバイス130のためのエンコーダ120は、電力制約のために2つ以上のステージを有するパイプラインを利用し得る。3ステージパイプラインは、たとえば、自身が送信すべき3つのフレームを有するまで、エンコードされたフレームを送信するのを待ち得る。したがって、インフォテインメントシステム160のディスプレイ140は、エンコーダ120がアプリケーション110または他の場所からレンダリングすべき3つのフレームを受信しない限り、かつ受信するまで、変更をまったく示さない場合がある。ユーザインターフェイス更新が1つ(たとえばレンダリング中の1つのフレーム)しかない場合は、ディスプレイ140は、ユーザインタラクションによる変更を誤って反映しない場合がある。なぜなら、エンコーダ120は、3ステージパイプラインを充填するためのあと2つのフレームを有するまで、当該変更を示すレンダリングされたフレームを送信するのを待っているからである。パイプラインが一杯になると、レンダリングされたビデオフレームは、インフォテインメントシステム160に接続されているデコーダ150に送信され得る。
本明細書に開示されるように、エンコーダ(たとえばモバイルデバイス)は、インフォテインメントディスプレイ上に示されている、モバイルデバイス上で動作している1つ以上のアプリケーションのレンダリング速度に基づいて、ダミーフレームが必要であるか否かを判断し得る。ダミーフレームとは、たとえば、システムに前のフレームを示すように指示する、短い簡単なフレームインジケータを指し得る。ダミーフレームは、小さいため、圧縮されたビデオストリームが小さいままであること、および/またはより容易に送信されることに役立つ。ダミーフレームは、アプリケーションが一定のレンダリングアプリケーションでない場合にパイプラインをプッシュするのを助け得る。たとえば、アプリケーションが映画を示しており、それが30FPSでレンダリングされる場合は、ダミーフレームは有用でない場合がある。しかし、アプリケーションがユーザインターフェイスコンポーネントを更新中である場合は、当該アプリケーションは1つまたはいくつかのフレームを連続的にではなく定期的にレンダリングしている場合がある。これはパイプラインレイテンシ問題として反映され得、本明細書に開示されるように、1つ以上のダミーフレームを送信してパイプラインの未充填ステージを充填し、インフォテインメントシステムのディスプレイおよび/またはそれに接続されているデコーダに送信すべき次のレンダリングされたフレームのセットのためにパイプラインを空にすることによって改善することができる。
ダミーフレームが必要であるか否かの判断は、レンダリング速度に基づき得る。レンダリング速度はいくつかの方法で決定され得る。システムは、ある期間にわたってエンコーダのスループットに着目し得、スループットに基づいて、エンコーダによるレンダリングの速度を割当て得る。エンコーダに指図するアプリケーションは、レンダリング速度の指示を与え得る。たとえば、映画レンダリングアプリケーションは、自身が一定のレンダリングアプリケーションであり、ダミーフレームは不要であるという指示を与え得る。同様に、受信されるユーザ入力の種類は、ユーザの入力に応答するのに必要であり得るレンダリングの量の指示を与え得る。たとえば、ユーザがディスプレイ上にある形を描いている場合、システムは、ユーザの追加の入力を予想して、エンコーダにダミーフレームを送信するのを待ち得る。このように、ダミーフレームを送信する決定は、レンダリングのパターン、入力の種類、およびアプリケーションの種類に基づき得る。
図2の例に示されるように、リモートディスプレイ上でビデオフレームをレンダリングするためのプロセスが開示される。210において、モバイルデバイスはリモートディスプレイ上で入力の指示を受信し得る。リモートディスプレイは、車両に統合されているインフォテインメントシステムの構成要素であり得る。入力は、たとえば、リモートディスプレイ上のタッチ入力であり得る。モバイルデバイスはリモートディスプレイを駆動し得る。たとえば、ナビゲーションアプリケーションがモバイルデバイス上で動作し得、モバイルデバイスのディスプレイに加えて、または当該ディスプレイの代わりに、リモートディスプレイ上に示され得る。ユーザは、リモートディスプレイ上のソフトボタンを選択している場合がある。タッチ入力の位置がモバイルデバイスに送信され得る。アプリケーションは、タッチ入力の位置がソフトボタンに対応すると判断し得、それは、リモートディスプレイの更新を必要とする特徴と関連付けられ得る。
220において、モバイルデバイスはアプリケーションについてのレンダリング速度を決定し得る。上述のように、レンダリング速度はアプリケーション、入力の種類、およびレンダリングのパターンに基づいて決定され得る。アプリケーションは一定のレンダリング速度であり得、その場合、モバイルデバイスは、リモートディスプレイから受信した入力に応答してリモートディスプレイについて適切なフレームをレンダリングし得る。レンダリング速度が定期的であると決定されるか、またはまたはそうでなければ一定でないと決定されると、230において、モバイルデバイスは1つ以上のダミーフレームをエンコーダに送信し得る。いくつかの場合、モバイルデバイスは閾値レンダリング速度で予め構成され得、これを下回るとモバイルデバイスはダミーフレームを送信し得、これを上回るとモバイルデバイスはダミーフレームを全く送信し得ない。ダミーフレームは生成され得、ディスプレイが前のフレームまたは後のフレームを利用すべきであることをディスプレイに指示する計算コードであり得る。
上述のように、パイプラインは、単一のフレームに対応する1つ以上のステージを含み得る。240において、任意のダミーフレームを含む1つ以上のフレームがエンコーダによってレンダリングされ得る。パイプラインが充填されるように十分な数のダミーフレームが提供され得、これによって、250において、モバイルデバイスは、レンダリングされたフレームをエンコーダからディスプレイに結合されているデコーダに送信する。パイプライン内のフレームが送信されると、モバイルデバイスはパイプラインを空にし得、エンコーダはパイプラインをフレームで充填するのを再び待ち得る。提供されるダミーフレームの数はレンダリング速度と相互に関連し得る。モバイルデバイスがディスプレイの一部を更新中である場合、モバイルデバイスは、パイプラインを充填するのに十分な数のフレームを自身が提供しなければならないと判断し得る。
図3は、モバイルデバイス310、およびたとえば自動車インフォテインメントシステム340のリモートディスプレイ360の1つ以上を含み得るシステムの例を示す。モバイルデバイス310は、自身のディスプレイ、プロセッサ322、コンピュータ読取可能メモリ324を有し得る。モバイルデバイス310は、1つ以上のアプリケーション320を同時に動作させ得る。アプリケーション320の各々は、レンダリング速度またはアプリケーションの種類と関連付けられ得る。たとえば、アプリケーション320は、要求されると、そのレンダリング速度が何であるかをプロセッサに指示し得る。アプリケーション320は、一定のレンダリング速度と関連付けられている映画の種類のアプリケーションであり得る。モバイルデバイス310は、プロセッサ322の指図で1つ以上のフレームをレンダリングするように構成されるエンコーダ330を有し得る。エンコーダ330は、たとえば、自身がレンダリングするフレームの解像度、フォーマット、および圧縮を調整し得る。エンコーダ330は、1つ以上のダミーフレームを生成する役割を果たし得る。たとえば、エンコーダ330は、リモートディスプレイのデコーダに前のフレームを利用するように指図するコンピュータ読取可能コードを含むフレームを生成し得る。
プロセッサ322は、インフォテインメントシステム340のリモートディスプレイ360から入力の指示を受信するように構成され得る。入力は、リモートディスプレイ360がタッチスクリーンである場合は接触を利用して、および/またはインフォテインメントシステム340に接続されているボタンもしくはノブを利用して、提供され得る。入力は、有線または無線接続370によってモバイルデバイス310に送信され得る。モバイルデバイス310上で動作しているアプリケーション320は、入力がリモートディスプレイ360の更新を必要としているか否かを判断し得る。リモートディスプレイ360の一部またはすべてに更新が必要とされている場合、モバイルデバイス310はアプリケーション320についてのレンダリング速度を決定し得る。上述のように、1つよりも多いアプリケーション320がモバイルデバイス310上で同時に利用され得る。したがって、プロセッサ322は、単一のアプリケーション320の代わりにエンコーダ330のアクティビティに基づいてレンダリング速度を決定し得る。別の例として、プロセッサ322は、モバイルデバイス310上で現在動作しているすべてのアプリケーションについての合計レンダリング速度を決定し得る。プロセッサ322は、レンダリング速度に基づいてエンコーダ330に少なくとも1つのダミーフレームを送信し得る。上述のように、エンコーダ330は、いくつかの構成ではダミーフレームを生成する役割を果たし得る。エンコーダのパイプラインが完全に充填されるように、少なくとも1つのダミーフレームを含むビデオフレームがレンダリングされ得る。エンコーダ330は次に、リモートディスプレイ360に結合されているデコーダ350にレンダリングされたフレームを送信し得る。
図4にその例が与えられている実現例では、上述のように、410において、インフォテインメントシステムから受信した入力に応答して少なくとも1つのフレームが生成され得る。当該フレームは、インフォテインメントシステムに結合されているリモートディスプレイ上に示されるユーザインターフェイスの一部の更新に対応し得る。更新のためのレンダリング速度は、一定速度(たとえば30FPS)または閾値レベル(たとえば1FPSに満たない)未満であり得る。上述のように、420において、モバイルデバイスはレンダリング速度を決定し得る。1つ以上のダミーフレームがエンコーダのパイプラインに組込まれ得る。ダミーフレームは、エンコーダ自身によって生成され得、および/またはパイプラインに挿入され得る。いくつかの構成では、430において、ダミーフレームがモバイルデバイスによって生成されてエンコーダに送信され得る。440において、エンコーダは、リモートディスプレイの更新と関連付けられた任意のダミーフレームおよびビデオフレームをレンダリングし得る。レンダリングプロセスは、適切な順序でパイプラインにフレームを挿入すること、ビデオフレームを圧縮すること、ビデオストリーム(たとえばストリームを構成するビデオフレーム)をフォーマット化すること、ビデオフレームの解像度を調整すること等を伴い得る。450において、レンダリングされたフレームは、インフォテインメントシステムに接続されているデコーダに送信され得る。デコーダは、インフォテインメントシステムのリモートディスプレイ上に提示するためにビデオフレームを適合させ得る。
実現例は、インフォテインメントシステム上のコンテンツの表示、およびインフォテインメントシステムとのユーザインタラクションを駆動するモバイルデバイスを含む投影アーキテクチャシステムの文脈で上に説明されている。しかし、本明細書に開示される実現例は他の構成とも互換性があり得る。たとえば、第1のモバイルデバイスは、第2のモバイルデバイス上のコンテンツの表示を駆動し得る。第2のモバイルデバイスは、第1のモバイルデバイスを介して、自身のディスプレイ上に示されているコンテンツとインタラクションし得る。例として、第1のモバイルデバイスはビデオゲームをホストし得、ビデオゲームのアクションの更新を第2のモバイルデバイスのディスプレイおよび第1のモバイルデバイスのディスプレイ上に提供し得る。
ここに開示される主題の実現例は、さまざまな構成要素およびネットワークアーキテクチャにおいて実現され得、かつこれらとともに用いられ得る。図5は、ここに開示される主題の実現例に好適な例示的なコンピュータ20である。コンピュータ20は、中央プロセッサ24、メモリ27(典型的にRAMであるが、ROM、フラッシュRAMなども含み得る)、入出力コントローラ28、ディスプレイアダプタを介したディスプレイ画面などのユーザディスプレイ22、1つ以上のコントローラを含み得、キーボード、マウスなどのユーザ入力装置と関連付けられ得、I/Oコントローラ28と密接に結合され得るユーザ入力インターフェイス26、ハードドライブ、フラッシュストレージ、Fibre Channelネットワーク、SANデバイス、SCSIデバイスなどの固定ストレージ23、および光ディスク、フラッシュドライブなどを受けて制御するように動作するリムーバブルメディアコンポーネント25などの、コンピュータ20の主要な構成要素同士を相互接続するバス21を含む。
バス21は、上述のように、中央プロセッサ24と、読取り専用メモリ(ROM)またはフラッシュメモリ(いずれも図示せず)、およびランダムアクセスメモリ(RAM)(図示せず)を含み得るメモリ27との間のデータ通信を可能にする。RAMは一般に、オペレーティングシステムおよびアプリケーションプログラムがロードされるメインメモリである。ROMまたはフラッシュメモリは、いくつかあるコードの中で特に、周辺構成要素とのインタラクションなどの基本的なハードウェア動作を制御するベーシック入出力システム(BIOS)を含み得る。コンピュータ20に常駐しているアプリケーションは一般に、ハードディスクドライブ(たとえば固定ストレージ23)、光学式ドライブ、フロッピーディスクなどのコンピュータ読取可能媒体上、または他の記憶媒体25上に格納され、これらを介してアクセスされる。
固定ストレージ23はコンピュータ20と統合され得るか、または別個であり、他のインターフェイスを介してアクセスされ得る。ネットワークインターフェイス29は、電話リンクを介したリモートサーバへの、インターネットサービスプロバイダ(ISP)を介したインターネットへの直接接続、または直接ネットワークリンクを介したリモートサーバへの、POP(point of presence:ポイント・オブ・プレゼンス)もしくは他の技術を介したインターネットへの直接接続を提供し得る。ネットワークインターフェイス29は、デジタルセルラー電話接続、セルラーデジタルパケットデータ(CDPD)接続、デジタル衛星データ接続などを含む無線技術を用いてそのような接続を提供し得る。たとえば、図6に示されるように、ネットワークインターフェイス29は、コンピュータが1つ以上のローカルネットワーク、ワイドエリアネットワーク、または他のネットワークを介して他のコンピュータと通信することを可能にし得る。
多くの他のデバイスまたは構成要素(図示せず)が同様に接続され得る(たとえば文書スキャナ、デジタルカメラなど)。逆に、本開示を実施するために、図5に示される構成要素のすべてが存在する必要はない。構成要素は、示されているのとは異なる方法でも相互接続され得る。図5に示されるようなコンピュータの動作は当該技術において容易に知られており、本願では詳細に記載されない。本開示を実現するためのコードは、メモリ27、固定ストレージ23、リムーバブルメディア25の1つ以上などのコンピュータ読取可能記憶媒体内に、またはリモート記憶位置上に格納され得る。
図6は、開示される主題の実現例に係る例示的なネットワーク構成を示す。ローカルコンピュータ、スマートフォン、タブレットコンピューティングデバイスなどの1つ以上のクライアント10,11が1つ以上のネットワーク7を介して他のデバイスに接続し得る。ネットワークは、ローカルネットワーク、ワイドエリアネットワーク、インターネット、またはその他の好適な通信ネットワークであり得、有線および/または無線ネットワークを含む任意の好適なプラットフォーム上で実現され得る。クライアントは1つ以上のサーバ13および/またはデータベース15と通信し得る。デバイスは、クライアント10,11によって直接アクセス可能であってもよいし、または、サーバ13がデータベース15に格納されたリソースへのアクセスを提供する場合など、1つ以上の他のデバイスが中間アクセスを提供してもよい。クライアント10,11は、リモートプラットフォーム17、またはクラウドコンピューティング構成およびサービスなどのリモートプラットフォーム17によって提供されるサービスにもアクセスし得る。リモートプラットフォーム17は、1つ以上のサーバ13および/またはデータベース15を含み得る。
より一般的に、ここに開示される主題のさまざまな実現例は、コンピュータによって実現されるプロセスおよびそれらのプロセスを実施するための装置を含み得るか、またはそれらの形態で実現され得る。実現例はさらに、フロッピーディスケット、CD−ROM、ハードドライブ、USB(ユニバーサルシリアルバス)ドライブ、またはその他の機械読取可能記憶媒体などの、非一時的および/または有形媒体において実現される命令を含むコンピュータプログラムコードを有するコンピュータプログラムプロダクトの形態で実現され得、コンピュータプログラムコードがコンピュータにロードされてコンピュータによって実行されると、当該コンピュータは開示される主題の実現例を実施するための装置になる。実現例はさらに、たとえば、記憶媒体に格納され、コンピュータにロードされるおよび/またはコンピュータによって実行されるか、または電気配線もしくはケーブル配線上で、光ファイバを介して、もしくは電磁放射によってなどして、何らかの通信媒体上で送信されるかに関わらず、コンピュータプログラムコードの形態で実現され得、コンピュータプログラムコードがコンピュータにロードされてコンピュータによって実行されると、当該コンピュータは開示される主題の実現例を実施するための装置になる。汎用マイクロプロセッサ上で実現された場合、コンピュータプログラムコードセグメントは特定論理回路を作成するようにマイクロプロセッサを構成する。いくつかの構成では、コンピュータ読取可能記憶媒体上に格納される1組のコンピュータ読取可能命令が汎用プロセッサによって実現され得、これによって、汎用プロセッサまたは汎用プロセッサを含むデバイスが、当該命令を実現または実行するように構成される専用デバイスに変換され得る。実現例は、開示される主題の実現例に係る技術のすべてまたは一部をハードウェアおよび/またはファームウェアにおいて実現する汎用マイクロプロセッサおよび/または特定用途向け集積回路(ASIC)などのプロセッサを含み得るハードウェアを用いて実現され得る。プロセッサは、RAM、ROM、フラッシュメモリ、ハードディスク、または電子情報を格納可能なその他のデバイスなどのメモリに結合され得る。メモリは、プロセッサによって実行されて開示される主題の実現例に係る技術を実施するように適合された命令を格納し得る。
開示される主題の実現例がユーザについての個人情報を収集するか、または個人情報を利用し得る場合は、ユーザには、プログラムもしくは特徴がユーザ情報(たとえばユーザが提供した入力、ユーザの地理的な位置、およびユーザと関連付けられたその他の同様のデータ)を収集するか否かを制御する機会、またはユーザとより関連性があり得るプロバイダからデータを受信するか否か、および/もしくは当該データをどのように受信するかを制御する機会が与えられ得る。加えて、一定のデータは、個人特定可能情報が取除かれるように、格納または使用される前に1つ以上の方法で取扱われ得る。たとえば、ユーザのIDは、そのユーザについての個人特定可能情報を判断することができないように取扱われ得るか、または、ユーザの地理的な位置は、ユーザの特定の位置を判断することができないように、位置情報が得られる場所が(都市、郵便番号、または州レベルに対してなど)一般化され得る。したがって、ユーザは、ユーザについての情報が本明細書に開示されるシステムによってどのように収集されて用いられるかについての制御を有し得る。
説明の目的のためである上記の記載は、特定の実現例を参照して記載された。しかし、上記の例示的な議論は、網羅的であること、または、開示される主題の実現例を開示されたそのままの形態に限定することが意図されていない。上記の教示に鑑みて多くの修正例および変形例が可能である。上記の実現例は、開示される主題の実現例の原理およびそれらの実際的な適用を説明するために選択および記載されたものであり、これにより他の当業者が、考慮される特定の使用に好適であり得るさまざまな修正例とともに、それらの実現例およびさまざまな実現例を利用することが可能になる。

Claims (23)

  1. コンピュータによって実現される方法であって、
    デバイスが、インフォテインメントシステムの構成要素から、前記構成要素において入力された入力を受信することを備え、前記インフォテインメントシステムは、前記デバイスから遠隔であり自動車に組込まれており、さらに、
    前記デバイスが、アプリケーションについてのレンダリング速度を決定することと、
    前記デバイスが、前記レンダリング速度に応答してダミーフレームを生成することと、
    前記デバイスが、前記ダミーフレームを含む複数のフレームを前記デバイスのエンコーダに与えることと、
    前記エンコーダが、前記ダミーフレームを含む前記複数のフレームをレンダリングすることと、
    前記デバイスが、前記複数のフレームを前記構成要素に与えることとを備える、方法。
  2. 前記複数のフレームは、前記ダミーフレームおよび定期的にレンダリングされるフレームを含む、請求項1に記載の方法。
  3. 前記構成要素はディスプレイを含み、前記入力は接触を含む、請求項1または2に記載の方法。
  4. 前記ダミーフレームを生成する前に、前記デバイスが、前記レンダリング速度が閾値レベル未満であると決定することをさらに備える、請求項1から3のいずれか1項に記載の方法。
  5. 前記ダミーフレームを生成する前に、前記デバイスが、前記レンダリング速度が一定でないと決定することをさらに備える、請求項1から4のいずれか1項に記載の方法。
  6. 前記複数のフレームを与えることは、前記複数のフレームを前記構成要素のデコーダに与えることを含む、請求項1から5のいずれか1項に記載の方法。
  7. 前記複数のフレームは、前記構成要素上の前記アプリケーションの提示の一部の更新を表わす、請求項1から6のいずれか1項に記載の方法。
  8. 前記構成要素はディスプレイを含む、請求項1または2に記載の方法。
  9. デバイスであって、
    プロセッサと、
    前記プロセッサと通信しているエンコーダと、
    前記プロセッサと通信しており命令を格納している非一時的なコンピュータ読取可能媒体とを備え、前記命令は前記プロセッサによって実行されると前記プロセッサに動作を実行させ、前記動作は、
    前記デバイスから遠隔であり自動車に組込まれているインフォテインメントシステムの構成要素から、前記構成要素において入力された入力を受信することと、
    アプリケーションについてのレンダリング速度を決定することとを含み、前記アプリケーションは前記デバイス上で実行され、前記動作はさらに、
    前記レンダリング速度に応答してダミーフレームを生成することと、
    前記ダミーフレームを含む複数のフレームを前記エンコーダに与えることと、
    前記エンコーダに前記ダミーフレームを含む前記複数のフレームをレンダリングさせることと、
    前記複数のフレームを前記構成要素に与えることとを含む、デバイス。
  10. 前記生成することは、前記エンコーダによって生成することを含む、請求項9に記載のデバイス。
  11. 前記レンダリングさせることは、前記ダミーフレームを含む前記複数のフレームでパイプラインを充填することを含む、請求項9または10に記載のデバイス。
  12. 前記複数のフレームを与えることは、投影アーキテクチャに従って前記複数のフレームを前記構成要素に送信することを含む、請求項9から11のいずれか1項に記載のデバイス。
  13. 前記構成要素はディスプレイを含む、請求項9から12のいずれか1項に記載のデバイス。
  14. 命令を格納しているプログラムであって、前記命令はプロセッサによって実行されると前記プロセッサに動作を実行させ、前記動作は、
    自動車に組込まれているインフォテインメントシステムの構成要素から、前記構成要素において入力された入力を受信することと、
    アプリケーションについてのレンダリング速度を決定することと、
    前記レンダリング速度に基づいてダミーフレームの量を決定することと、
    前記ダミーフレームの前記量の決定に基づいて一組の前記ダミーフレームを生成することと、
    前記ダミーフレームを含む複数のフレームを、前記プロセッサと通信しているエンコーダに与えることと、
    前記エンコーダに前記一組の前記ダミーフレームを含む前記複数のフレームをレンダリングさせることと、
    前記複数のフレームを前記構成要素に与えることとを含む、プログラム。
  15. 前記ダミーフレームの量を決定することは、パイプラインのステージの数にさらに基づく、請求項14に記載のプログラム。
  16. 前記ダミーフレームの量を決定することは、パイプラインのステージの数および定期的にレンダリングされるフレームの数にさらに基づく、請求項14または15に記載のプログラム。
  17. 前記レンダリングさせることは、パイプラインを充填することを含む、請求項14から16のいずれか1項に記載のプログラム。
  18. 前記レンダリングさせることは、前記一組の前記ダミーフレームおよび視認可能な定期的にレンダリングされるフレームでパイプラインを充填することを含む、請求項14から17のいずれか1項に記載のプログラム。
  19. 前記レンダリングさせることは、前記一組の前記ダミーフレームおよび視認可能な定期的にレンダリングされるフレームの各々をパイプライン内で順序付けることを含む、請求項14から18のいずれか1項に記載のプログラム。
  20. 前記構成要素はディスプレイを含む、請求項14から19のいずれか1項に記載のプログラム。
  21. 前記レンダリング速度を決定することは、前記エンコーダのスループットに基づいて前記レンダリング速度を決定することを含む、請求項1から8のいずれか1項に記載の方法。
  22. 前記レンダリング速度を決定することは、前記エンコーダのスループットに基づいて前記レンダリング速度を決定することを含む、請求項9から13のいずれか1項に記載のデバイス。
  23. 前記レンダリング速度を決定することは、前記エンコーダのスループットに基づいて前記レンダリング速度を決定することを含む、請求項14から20のいずれか1項に記載のプログラム。
JP2016574987A 2014-06-24 2015-06-19 効率的なフレームレンダリング Active JP6469734B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/313,287 US9269328B2 (en) 2014-06-24 2014-06-24 Efficient frame rendering
US14/313,287 2014-06-24
PCT/US2015/036795 WO2015200143A1 (en) 2014-06-24 2015-06-19 Efficient frame rendering

Publications (3)

Publication Number Publication Date
JP2017525247A JP2017525247A (ja) 2017-08-31
JP2017525247A5 JP2017525247A5 (ja) 2018-05-10
JP6469734B2 true JP6469734B2 (ja) 2019-02-13

Family

ID=53674270

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016574987A Active JP6469734B2 (ja) 2014-06-24 2015-06-19 効率的なフレームレンダリング

Country Status (9)

Country Link
US (2) US9269328B2 (ja)
EP (1) EP3161827B1 (ja)
JP (1) JP6469734B2 (ja)
KR (1) KR101961398B1 (ja)
CN (1) CN106464951B (ja)
AU (1) AU2015280330B2 (ja)
BR (1) BR112016030171B1 (ja)
CA (1) CA2953502C (ja)
WO (1) WO2015200143A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9269328B2 (en) * 2014-06-24 2016-02-23 Google Inc. Efficient frame rendering
WO2018200993A1 (en) * 2017-04-28 2018-11-01 Zermatt Technologies Llc Video pipeline
US10861142B2 (en) 2017-07-21 2020-12-08 Apple Inc. Gaze direction-based adaptive pre-filtering of video data
US11606528B2 (en) * 2018-01-03 2023-03-14 Saturn Licensing Llc Advanced television systems committee (ATSC) 3.0 latency-free display of content attribute
US11470376B2 (en) * 2019-01-04 2022-10-11 Voxx International Corporation Vehicle entertainment system providing remote user control of video content on a monitor display and related methods
CA3066419C (en) * 2019-01-04 2022-08-02 Voxx International Corporation Vehicle entertainment system providing remote user control of video content on a monitor display and related methods
US11659219B2 (en) 2019-02-06 2023-05-23 Loop Now Technologies, Inc. Video performance rendering modification based on device rotation metric
US10997954B2 (en) * 2019-07-24 2021-05-04 Qualcomm Incorporated Foveated rendering using variable framerates
CN110582021B (zh) * 2019-09-26 2021-11-05 深圳市商汤科技有限公司 信息处理方法及装置、电子设备和存储介质
WO2021087411A1 (en) * 2019-11-01 2021-05-06 Loop Now Technologies, Inc. Audio and video stream rendering modification based on device rotation metric
CN111107404A (zh) * 2019-12-27 2020-05-05 珠海全志科技股份有限公司 汽车与移动端的界面视频快速播放方法、系统及存储介质

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001326940A (ja) 2000-05-16 2001-11-22 Matsushita Electric Ind Co Ltd 符号化動画像ビットストリーム処理方法、及び装置、並びに符号化動画像ビットストリーム処理プログラムを格納した記録媒体
WO2002026905A2 (en) * 2000-09-26 2002-04-04 Matsushita Electric Industrial Co., Ltd. Display unit and drive system thereof and an information display unit
US7848290B2 (en) * 2001-04-25 2010-12-07 Nokia Corporation Method and system for forward link cell switching approach without abis traffic flooding
JP4257221B2 (ja) * 2003-03-31 2009-04-22 東芝松下ディスプレイテクノロジー株式会社 表示装置および情報端末装置
EP1815706A1 (en) * 2004-11-22 2007-08-08 Nokia Corporation System and method for proactive, early network switching
US8259840B2 (en) * 2005-10-24 2012-09-04 General Motors Llc Data communication via a voice channel of a wireless communication network using discontinuities
JP4347322B2 (ja) * 2006-07-14 2009-10-21 ソニー株式会社 受信装置および方法、並びにプログラム
EP1879347B1 (en) * 2006-07-14 2012-05-30 Sony Europe Limited System and method of audio/video streaming
US7990402B2 (en) * 2006-11-10 2011-08-02 Seiko Epson Corporation Image display control device
US20090164473A1 (en) * 2007-12-19 2009-06-25 Harman International Industries, Incorporated Vehicle infotainment system with virtual personalization settings
US20100060572A1 (en) * 2008-09-11 2010-03-11 Ely Tsern Display device for interfacing with a handheld computer device that dynamically generates a different user environment for the display device
CN102342096B (zh) * 2009-01-06 2015-07-08 Lg电子株式会社 处理图像的设备及其方法
JP5583992B2 (ja) * 2010-03-09 2014-09-03 パナソニック株式会社 信号処理装置
US8634873B2 (en) * 2010-03-17 2014-01-21 Microsoft Corporation Mobile communication device having multiple, interchangeable second devices
JP5625864B2 (ja) * 2010-12-15 2014-11-19 ソニー株式会社 表示装置及び表示装置の駆動方法
US8863256B1 (en) * 2011-01-14 2014-10-14 Cisco Technology, Inc. System and method for enabling secure transactions using flexible identity management in a vehicular environment
GB2492789B (en) * 2011-07-12 2018-01-03 Denso Corp Displays
CA2798979C (en) * 2011-12-16 2017-02-28 Research In Motion Limited Method of rendering a user interface
US20130208992A1 (en) * 2012-02-13 2013-08-15 Shu Lin System and method for difference frame threshold encoding and decoding
US8786517B2 (en) * 2012-02-21 2014-07-22 Blackberry Limited System and method for displaying a user interface across multiple electronic devices
US9167296B2 (en) * 2012-02-28 2015-10-20 Qualcomm Incorporated Customized playback at sink device in wireless display system
US9144094B2 (en) * 2012-10-29 2015-09-22 Qualcomm Incorporated Establishing a wireless display session between a computing device and a vehicle head unit
US9348555B2 (en) * 2013-03-15 2016-05-24 Volkswagen Ag In-vehicle access of mobile device functions
WO2014172320A1 (en) * 2013-04-15 2014-10-23 Flextronics Ap, Llc Vehicle location-based home automation triggers
AU2015297035B2 (en) * 2014-05-09 2018-06-28 Google Llc Systems and methods for biomechanically-based eye signals for interacting with real and virtual objects
US9354744B2 (en) * 2014-06-09 2016-05-31 Sony Corporation Adaptive touch panel synchronization
US9269328B2 (en) * 2014-06-24 2016-02-23 Google Inc. Efficient frame rendering

Also Published As

Publication number Publication date
EP3161827A1 (en) 2017-05-03
CN106464951A (zh) 2017-02-22
KR20170023122A (ko) 2017-03-02
US9269328B2 (en) 2016-02-23
CN106464951B (zh) 2019-08-20
US20160119669A1 (en) 2016-04-28
US20150371604A1 (en) 2015-12-24
AU2015280330A1 (en) 2016-12-22
KR101961398B1 (ko) 2019-03-25
US9894401B2 (en) 2018-02-13
CA2953502A1 (en) 2015-12-30
BR112016030171B1 (pt) 2023-01-31
BR112016030171A2 (pt) 2018-07-17
AU2015280330B2 (en) 2018-03-08
CA2953502C (en) 2018-10-23
WO2015200143A1 (en) 2015-12-30
EP3161827B1 (en) 2019-05-22
JP2017525247A (ja) 2017-08-31

Similar Documents

Publication Publication Date Title
JP6469734B2 (ja) 効率的なフレームレンダリング
US11082490B2 (en) Method and apparatus for execution of applications in a cloud system
WO2019001006A1 (zh) 一种图像数据的编码、解码方法及装置
JP7455519B2 (ja) コピーされたメッセージリストを提供する方法とシステム、および非一時的なコンピュータ読み取り可能な記録媒体
US9812056B2 (en) Display resolution negotiation
CN103081494A (zh) 远程设备上的自适应媒体内容清理
WO2014206347A1 (en) Cross-terminal input method, apparatus and system
CN111541919B (zh) 视频帧传输方法、装置、电子设备及可读存储介质
CN103299600A (zh) 用于传输直播媒体内容的装置和方法
JP2022079607A (ja) ビデオカンファレンスのビデオストリームを提供するサーバ、方法及びコンピュータプログラム
TWI667914B (zh) 一種影像資料的編碼、解碼方法及裝置
US11196868B2 (en) Audio data processing method, server, client and server, and storage medium
US20160029050A1 (en) Hybrid Stream Delivery
CN111083523A (zh) 一种全景视频播放的方法及终端
CN108401159B (zh) 一种目标码率控制的方法以及电子设备
CN111478916B (zh) 基于视频流的数据传输方法、设备和存储介质
CN108464008B (zh) 电子设备和由电子设备控制的内容再现方法
RU2608883C2 (ru) Способ и электронное устройство для обработки изображения
JP6781445B1 (ja) 情報処理方法
US10075325B2 (en) User terminal device and contents streaming method using the same
KR20210004660A (ko) 인코딩과 업로딩의 병행 처리를 통해 미디어 파일의 전송 시간을 단축시킬 수 있는 방법 및 시스템
CN109905162B (zh) 文件发送、接收方法及终端
KR102310069B1 (ko) 클라우드 스트리밍 시스템 및 그 시스템에서의 웹 형식이 아닌 데이터 참조를 위한 장치 및 방법
JP2022167830A (ja) アクセスのための装置、方法及びコンピュータ可読媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180320

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180320

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20180320

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20180529

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180619

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180918

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190116

R150 Certificate of patent or registration of utility model

Ref document number: 6469734

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250