JP6242798B2 - ビジュアルエフェクトのネットワークに基づくレンダリング及びステアリング - Google Patents

ビジュアルエフェクトのネットワークに基づくレンダリング及びステアリング Download PDF

Info

Publication number
JP6242798B2
JP6242798B2 JP2014535819A JP2014535819A JP6242798B2 JP 6242798 B2 JP6242798 B2 JP 6242798B2 JP 2014535819 A JP2014535819 A JP 2014535819A JP 2014535819 A JP2014535819 A JP 2014535819A JP 6242798 B2 JP6242798 B2 JP 6242798B2
Authority
JP
Japan
Prior art keywords
video data
modified
visual effect
video
receiving
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014535819A
Other languages
English (en)
Other versions
JP2015502678A (ja
Inventor
シー.オバーブランナー ゲイリー
シー.オバーブランナー ゲイリー
ヘイズ キャサリン
ヘイズ キャサリン
スターマン デービッド
スターマン デービッド
Original Assignee
ヴィヴォーム インコーポレイテッド
ヴィヴォーム インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ヴィヴォーム インコーポレイテッド, ヴィヴォーム インコーポレイテッド filed Critical ヴィヴォーム インコーポレイテッド
Publication of JP2015502678A publication Critical patent/JP2015502678A/ja
Application granted granted Critical
Publication of JP6242798B2 publication Critical patent/JP6242798B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/34Indicating arrangements 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47205End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for manipulating displayed content, e.g. interacting with MPEG-4 objects, editing locally
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/233Processing of audio elementary streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/237Communication with additional data server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/437Interfacing the upstream path of the transmission network, e.g. for transmitting client requests to a VOD server
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439Processing of audio elementary streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Television Signal Processing For Recording (AREA)
  • Processing Or Creating Images (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

(関連出願への相互参照)
本願は、参照により本明細書に組み込まれる2011年10月10日に出願された「Method For Network−Based Rendering And Steering Of Visual Effects」と題する米国特許仮出願第61/545,330号(代理人整理番号70755.8002.US00)の優先権を主張するものである。
ビジュアルエフェクトは、フィルム及び/又はビデオデータ上でイメージが作成及び/又は操作される種々のプロセスを含む。ビジュアルエフェクトは、ビデオの連続フレーム又は走査されたフィルム素材を処理することによってデジタル方式でしばしば実施される。デジタル化されたビデオの各フレーム又はフレームの組は、当該エフェクトによって処理される入力フレームに対応する出力フレームを生成するコンピュータアルゴリズムによって処理される。1つ以上のエフェクトの集合体が本明細書でルックとして定義される。
ビジュアルエフェクトは、通常、フレームがディスク又は記憶装置からコンピュータに読み込まれ、フレームが処理され、同じ又は異なる記憶装置に書き出される、コンピュータシステムにおいて適用される。エフェクトは、ユーザ(ビデオクリエータ)によって対話式で、又は予め定義されたスクリプトを用いるバッチで制御される。
対話式の場合、ビデオクリエータは、(a)エフェクトを適用する一連のフレームを識別する、(b)エフェクトを選択する、(c)エフェクトの最終ルックを制御する種々のパラメータを設定する、及び(d)一連のフレームにおけるすべてのフレームに対してイメージ処理アルゴリズムを行うことによってエフェクトをレンダリングするために、Adobe After Effects、Autodesk Flame、Avid Media Composer、若しくは類似のビデオ編集又は合成アプリケーションなどの「ホスト」アプリケーションを用いる。制御は、ブラー量、イメージシフト、色補正の強度、オーバーレイイメージを適用する位置、及びルックによって必要とされる多くの他のものを含む可能性がある。
(ビジュアルエフェクト)
出願人の発明の種々の例をここで説明する。以下の説明は、これらの例の十分な理解のための及び説明を可能にするための特定の具体的な詳細を提供する。当業者は、しかしながら、本発明がこれらの詳細の多くを伴わずに実施されてもよいことを理解するであろう。同様に、当業者はまた、本発明が本明細書で詳細に説明されない多くの他の明白な特徴を含んでもよいことを理解するであろう。さらに、種々の例の該当する説明を不必要に不明瞭にすることを避けるために、いくつかの周知の構造又は機能は図示されない又は以下で詳細に説明されないことがある。
以下で用いられる用語は、本発明の特定の具体例の詳細な説明と併せて用いられていても、その最も広い妥当な様態で解釈されるべきである。実際には、特定の用語は、以下で強調されることもあるが、しかしながら、任意の制約された様態で解釈されるように意図されるどのような用語も、以下でそのようにはっきりと具体的に定義されることになる。
(クライアント/サーバビデオ)
ビデオが格納され、世界中のユーザにストリーミングされる、例えばVimeo(登録商標)、YouTube(登録商標)、及び多くの他のものを含むクラウドベースのウェブサーバに、ビデオクリエータがビデオをアップロードすることが増えてきている。これらのクラウドベースのシステムは、クリエータ及び開発者がネットワーク(例えば、インターネット)上のサービスとして提供される分散型ハードウェア及び/又はソフトウェア計算リソースを活用することを可能にする。オンラインアプリケーションを用いるビデオの編集及び合成は、Clesh、YouTube Video Editor、及びKalturaなどのシステムで行われ始めたばかりである。本明細書で詳細に説明される本システムは、オンライン作成及び編集プロセスの自然な部分として、これらのシステムに洗練されたビジュアルエフェクト能力を付加するための機構を提供する。現在のオンライン及びクラウドベースのビデオ編集システムは、顕著なエフェクトを含まないか、若しくはレンダリングするのに数秒もかからない非常に単純な又は低品質のエフェクトのみを含み、そしてまたユーザがそれらを制御又はステアリングする能力も提供しない。
開示される技術は、前述の状況を改善しようとするものである。クライアントコンピュータ上で処理されるエフェクトは、ビデオがクライアントにダウンロードされ、完了時に再びアップロードされることを必要とし、これは本システムでの方法に比べて非能率的である。クライアントデバイスにおいて標準ソフトウェア及びハードウェアコンポーネントを用いながらクラウドベースのサーバ上で効果的に且つ効率よく処理するための技術は、本明細書に記載のシステム及び方法のような、クライアントとサーバとの間の対話及びデータ交換の洗練された組に依拠する。
クライアント/サーバ又はクラウドベースのシステムにおいてビデオに高品質のエフェクトを適用する、並びに適用を制御又はステアリングするためのシステム及び方法が開示される。高品質のエフェクト(例えば、ブラー、ワーピング、レイ、及びシェイクリダクション)は、通常、より洗練されており、より低品質のエフェクト(例えば、単色変換)よりもフレームあたりの計算時間がより多くかかり、しばしばより大きい可制御性を有する。高品質のエフェクトのいくつかの際立った特徴は、基となるコンピュータアルゴリズムがアンチエイリアス処理される(「階段状のギザギザ」又は「ピクセル化」が無い)こと、浮動小数点演算などのほぼ無制限の色空間を使用すること、正確な演色を提供すること、及び進歩した計算アルゴリズムによって、より低品質のアルゴリズムよりもリアルな外観の結果をもたらすことである。高品質のエフェクトで用いられるような進歩したコンピュータコードは、エフェクトのルックのより融通性のある制御をしばしば可能にして、リアル感、したがって知覚される視覚品位を高める。
開示される技術が動作し得る環境を示すブロック図である。 それを通じてユーザがビデオクリップにエフェクトを適用し、ビデオクリップ及び/又はエフェクトの調整を行うことができるユーザインターフェースを示す表示ページの図である。 開示される技術によって採用され得るソフトウェアアーキテクチャを示すブロック図である。 クライアントブラウザとサーバの種々のコンポーネントとの間のトランザクションを示すタイミング図である。 対話セッションの処理を示す流れ図である。 開示される技術が動作し得る、同じ場所に存在するビデオエディタ及びエフェクトサーバを含む環境を示すブロック図である。 開示される技術が動作し得る、異なるネットワークに存在するビデオエディタ及びエフェクトサーバを含む環境を示すブロック図である。
図1で見られる一実施形態では、ビデオクリエータデスクトップユーザA(100)は、Firefox(登録商標)、Internet Explorer、又はGoogle Chrome(登録商標)(102)などの標準ウェブブラウザでデスクトップコンピュータ(101)を使用する。ブラウザは、インターネット、若しくはモバイルデータネットワーク又はプライベートネットワークなどの任意の類似のネットワーク(103)を介して、クラウドサーバファーム(105)に接続する。ユーザは、ブラウザで実行するウェブページによって、ビデオフレームの組にエフェクトを適用し、これらのエフェクトの制御を動的にリアルタイムで調整することができる。例えば、エフェクトは、レンズフレア、シェイク付加、古いフィルムスタイル、古いTVスタイル、トランジション、スタイルのレンダリング(ハーフトーン、スケッチ、油絵など)、漫画ルック、グロー、ビデオフィードバック、モーションブラー、フレームレート変換、鮮明化、ビネット、万華鏡、エンボス、テクスチャ付加、自然現象模擬(稲妻、火、スモーク、雨、雪、オーロラ、虹など)等を含んでもよい。本システムは、ユーザがそれらの調整の効果を直ちに(又はほぼリアルタイムで)見る、並びに多数のビデオフレームのバッチレンダリングを開始及び制御することを可能にする。ビデオクリエータユーザ(100)はまた、同様にブラウザでモバイルデバイス(104)を用いてもよい。
図2を参照すると、一実施形態では、ユーザは、ビデオクリップにエフェクトを適用し、動的に(自由に)調整を行うのに標準ウェブブラウザ(201)を用いる。ビデオプレビューウィンドウ(202)にビデオが現れ、再生ボタン(203a、203b)を用いて再生することができる。サムネイルパネル(204)にエフェクトが現れ、ユーザは、該パネルからビデオクリップ(205)に適用されるべき1つ以上のエフェクトを選んでもよい。エフェクトを調整又はステアリングするために、1つ以上のエフェクト制御スライダ(206)が提供され、ユーザは、それらをドラッグし、リアルタイムで結果をビデオプレビューウィンドウで見ることができる。ユーザは、エフェクトに満足するときに、ビデオレンダリングボタン(207)を用いて完成したビデオをレンダリングしてもよい。代替的に、システムが、ユーザの介入なしにビデオのすべて又は一部を思索的にレンダリングしてもよい。場合によっては、ユーザは、ビデオが再生されている最中にエフェクト制御スライダをドラッグすることができ、ビデオを再生する際に、変更されたエフェクトが直ちに又は短い遅延内で見えるようになり、制御によってもたらされる変化に対するリアルタイムのフィードバックがユーザに与えられる。
図3のソフトウェアアーキテクチャ図は、アプリケーションの1つの可能な全体構造を説明する(しかし可能な唯一のものではなく、他のものが当業者には明白である)。クライアント(301)(デスクトップ及び/又はモバイルデバイス上で実行してもよい)は、そのウェブブラウザ又は類似のアプリケーションを通じてTCP/IP及びHTTPなどの一組の標準インターネットプロトコルを介して1つ以上のサーバコンピュータ上で走るリモートサーバプログラム(302)に接続する。1つ以上のサーバプロセスは、ウェブページコンテンツ(303)を生成する機能及び/又はモジュール、並びに、エフェクトをレンダリング及びステアリングするためのユーザインターフェース(304)、Apache(登録商標)又はMicrosoft Internet Information Server又は他のものなどの標準ウェブサーバ(307)、エフェクト処理及びレンダリングコードを含むレンダライブラリ(305)を作成及び管理する機能及び/又はモジュールを含む。これはまた、正常動作の一部としてウェブフレームワーク(306)などの種々の他のモジュールを含んでもよい。このシステムの特徴は、クライアントユーザが、アプリケーションを実行するために、最新のコンピュータですでに見受けられる普通のオペレーティングシステム及びウェブブラウザ以外のどのような特別なソフトウェアもインストールする必要がないことである。
ブラウザクライアントにウェブページ(HTML及びCSS)並びにブラウザにおいて実行されるべきJavaScript(登録商標)(JS)コードを配信するのにHTML/CSSページ生成コード(303)が用いられる。HTML/CSSページ生成コードは、static HTML、若しくはPHP、JavaScript、Java(登録商標)、Python、又は他のものなどの任意のウェブサーバ側言語を用いて実装されてもよい。レンダインターフェースコード(304)は、ブラウザ(301)とレンダライブラリコード(305)との間の仲介役として用いられ、ブラウザからの非同期性の要求に応答し、レンダライブラリコードを管理し、ブラウザへの配信用にメッセージをフォーマットする。レンダライブラリコード(305)は、エフェクトの処理を実施し、ユーザによって提供される選択されたエフェクト及びパラメータを用いて各フレームに関するビデオピクセルデータを処理する。
イベントの可能性のあるタイムラインを説明する図4の対話図を参照すると、第1の列は、ブラウザで起こるイベントを示す。右の3つの列は、サーバソフトウェアの3つの別個の部分を示す。この図は、単なる例証用であって、例えば、異なる数のサーバプロセスを用いる、レンダインターフェースコードを省略する、及びこれをレンダライブラリコード又は異なるスタイル及び数の交換されるメッセージにフォールディングする、多くの他の類似の実施形態が可能である。
ブラウザ(301)が、例えばHTTP GETコマンド(401)を介してサーバコード(307)との会話を開始する。サーバが、ユーザのビデオ及び適用する可能なルックの選択肢を示すために、ブラウザによって解釈されるコード(例えば、HTML+CSS+JavaScript)を戻す(402)。ユーザが、例えばポインティングすること、ドラッグアンドドロップすること、又は類似の手段によって、ビデオフレームの特定の組に特定のルックを適用する意思を示す。メッセージ(403)がサーバに送信され、サーバは、ビデオフレームを収集し、ルック及び随意的に適用されるべきルックを記述するもう1つのテキスト又はバイナリプリセットファイル並びにルックについての種々のメタデータを適用するためにレンダライブラリソフトウェアを呼び出す(404、405)。これは、次いで、ユーザに送信される1つ以上のテストフレームをレンダリングし(406)、これはほぼ直ちに起こることがある。サーバはまた、ルックをステアリング又は調整するのに利用可能な制御の記述をブラウザに送信する(406)。ブラウザは、該記述を解釈し、制御を表示し、これは、例えばビデオフレームに対するX,Y空間位置を示す若しくはパラメータ値を調整又は制御するのにノブ、ボタン、スライダ、メニュー、又は他の共通の制御、並びにマウス又はタッチスクリーン入力を用いる画面上の直接操作の形態をとってもよい。例えば、パラメータ値は、輝度、彩度、強度、位置(例えば、X/Y制御に関する)、幅、長さ、品質、ズーム、色(例えば、カラーチューザ又はカラーピッカでの)、ディテール、速さ、ランダムネス、色合い、ブラー量、混色、イネーブル(例えば、yes/noチェックボックス)、角度、結合、閾値、反転、不透明度、リバース、バリエーション、スタイル、鮮明化などを含んでもよい。
ユーザは、次いで、これらのスライダ又は制御とリアルタイムで対話してもよく(407)、制御の各更新がサーバに送信され(408)、サーバは、1つ以上のフレームをレンダリングし(409)、それらをブラウザに直ちに送信して(410、411、412)、該制御のエフェクトについてのほぼ即時のフィードバックをユーザに提供する。この対話は迅速に起こり、そのためビデオフレームは、ユーザがスライダ又は制御を動かす際のその変化の結果を反映するように見える。ステップ407〜412からなる全ループ(412)が迅速に繰り返される。
クライアントとサーバとの間のサンプル対話が以下に提供される。
ユーザが、ブラウザを開き、ビデオサーバのURL(例えば、:http://video.genarts.com)を選択する(401)。
サーバが、ブラウザで実行するHTMLテキスト、イメージ、カスケーディングスタイルシート(CSS)スタイリング、及びJavaScript(JS)又は他のスクリプト言語コードを含む最初のウェブページコンテンツ(402)で応答する。
JavaScript(JS)コードは、現在のエフェクト及び任意のプリセットパラメータを設定するために情報をサーバに非同期的に送信する(403)。
サーバ上のレンダコードが、エフェクトレンダリングライブラリを初期化し、所与のパラメータを有するエフェクトをレンダリングするようにライブラリを設定し、制御定義からユーザに見える制御を作成する(404、405、406a、406b)。
残りの対話は、例えば非常に迅速なループで起こる(413)。
ユーザが、ブラウザウェブページにおけるスクロールバーをドラッグする(407)。
JSコードが、ユーザのアクションの通知を受けて、スクロールバー値によって表される新たに修正されたパラメータを有するビデオの現在のフレームをレンダリングするようにサーバに告げる非同期のサーバ要求を開始する(408)。
サーバが、新しいパラメータデータを受信し、メモリの中のフレームをレンダリングする(409、410)。
サーバが、メモリの中のイメージデータ及び任意の他のメタデータを用いてHTTP応答パケットを作成し、このパケットは、イメージデータ(この例ではPNG形式)を含む複数の要素からなることがある(411)。
応答パケットがブラウザのJSコードに配信され、これによりブラウザが新しいイメージをレンダリングする(412)。ユーザへの結果は、イメージ又はビデオの動的なほぼリアルタイムの制御及び更新である。
本明細書に記載のシステムは、通常、より大きいビデオストレージ、トランスコーディング、及びプレイバックシステム内で機能する。このコンテキストを説明するために、図5のフローチャートを参照しながら対話セッションの一例(単なる例証用)が提供される。
ユーザが、ビデオ取り込みソースを備えるカメラ又はモバイルデバイスでビデオ素材をとる(500)。
ユーザが、ウェブブラウザを用いて生ビデオをサーバにアップロードする(501)。
ウェブブラウザが、ユーザのビデオを示し、編集及びエフェクト処理モードを提供する(502)。
ユーザが、多数のクリップを選択して連結し、合うようにトリムし、ビデオエフェクト及びトランジションを付加し始める(503)。
この時点(504)で、図3のソフトウェアアーキテクチャ及び図4に示されるメッセージ及びデータ交換を用いる、本明細書に記載のシステムは、ユーザが本明細書に記載の様態でエフェクトを付加することを可能にする。
ユーザが結果に満足する場合(505)、最終レンダリングがバックグラウンドで(ユーザ対話なしに)自動的に起こるか、又はユーザがサーバに最終レンダリングを開始するように明示的に信号を送る(506)。
レンダリングが完了した後で、処理されたビデオは、見る及び随意的なダウンロード又は配信の準備ができた状態となる(507)。
付加的な特徴/実施形態
随時、ユーザは、ビデオをプレイバックし、又は仮想再生ヘッドの位置を示すタイムバーなどの種々の標準タイムライン技術を用いてその中で検索することができる。いつでも、ユーザは、ビデオに適用された現在のエフェクトを見ることができる。
所望のエフェクトがビデオクリップ間のトランジションに関係するケースでは、ユーザがトランジションポイント(2つのビデオセグメント間の切れ目)を選択し、次いで、サーバが(再びブラウザを通じて)可能なトランジションエフェクトの選択肢を示してもよい。ユーザは、1つを選択し、本明細書に記載の方法を用いて結果を直ちに見ることができる。
前述の方法でエフェクトをステアリング又は制御するために、スライダ及び/又は数値パラメータと共に随意的な「進歩した」モードを利用できる可能性があることに留意されたい。
ユーザが新しいルック又はトランジションを選択する若しくは任意のパラメータを調整するときにはいつでも、サーバは、このシステムの方法を用いて直ちに通知を受けることができ、サーバは、ほぼ即時の応答を提供するために過剰な計算を避ける及び対話型応答を改善するのにもしかするとキャッシング及びルックアヘッド方法を用いて、選択されたエフェクトをビデオ上にレンダリングする。キャッシングは、以前にレンダリングされたフレームをメモリに又はディスク上に格納し、ユーザが同じパラメータ値を有する同じフレームを将来要求する場合にこれらのフレームを迅速にまた呼び出すことができるようにこれらのフレームに適切なパラメータ値を関連付けることによって達成される。ルックアヘッドは、ユーザがおそらくこれらのフレームを見ることを望むと予想して、現在の再生ヘッド位置の前で思索的にレンダリングするのに用いられる。アイドルサーバキャパシテを検出すること及びアイドルCPUを用いて1又は2秒前にレンダリングすることなどの種々の統計的方法又は発見的方法をこれのために用いることができる。
サーバは、処理されたビデオをこのプロセス中にクライアントに連続的にストリーミングしてもよく、そのため、ユーザもストリーミングの最中に流れているビデオストリームの処理を自分で効果的に変更するモードでこのシステムを用いることができることに留意されたい。このモードでは、クライアントがフィードバックをクラウドに提供し、更新されたビデオを(ほぼ)リアルタイムで受信する、連続フィードバックループが存在し、これは、ユーザが精細に制御された調整を行い、これらの調整の結果を迅速に見ることを可能にする。本システムでは同じフレームを繰り返し処理する必要はなく、そのためこれは自然な向上である。図4のメッセージング及びデータフローは、大いには変化しないが、エフェクトメッセージは、プレイアウトされているビデオフレームとインターリーブされることになる。
特に、サーバが処理されたビデオを連続的にストリーミングしているケースでは、サーバは、スライダ位置、したがって関連するパラメータの変化を後の時点で又はレンダリング中に再現できるような方法で、各ビデオフレーム時間が表示されている時点でのスライダ制御値を記録してもよいことに留意されたい。これは、ユーザが、ビデオが再生されている最中に(例えば)エフェクトをフェードイン又はフェードアウトするようにスライダ値をアニメーション化することを可能にする。
ユーザが電話又はタブレットなどのモバイルデバイス上でブラウザを用いてもよいことに留意されたい。このシステムは、詳細なイメージ処理のほとんどがクラウド(例えば、モバイルデバイスから遠隔の1つ以上のデバイス)で行われるので、デバイス上で直接エフェクトをレンダリングすることに比べてより低性能の又はより小型のクライアントデバイスで使用可能である。これはまた、クライアントへの固定のフレームレートを維持しながら、計算上より費用がかかる、より一層計算が複雑なエフェクト及びより高い視覚的忠実度を有するエフェクトを可能にする。クライアントが非常に単純なまま低いリソース要件を有する状態で、任意の複雑さのエフェクトを計算するのにより多くのサーバリソースを動的に割り当てることができる。
ユーザが、後の通知を伴う一連のフレームの全てのバッチモードでのレンダリングをサーバに随時要求してもよいことに留意されたい。例えば、ユーザは、レンダリング完了時にテキストメッセージ、ポップアップウィンドウ、又は他の手段を介して通知されることを選んでもよい。通知は、修正されたビデオにアクセスするためにURLを含んでもよい。これは、ユーザが電話でとられたビデオをアップロードするモバイルデバイスで特に有用である場合があり、ビデオを処理するのにデバイスのCPU(したがってそのバッテリ電力)を使用する必要はない。ユーザはデバイスを完全にオフにし、完了通知を待つことができる。
ユーザはまた、同じビデオを異なるエフェクトで処理し、視聴者の視聴時間を測るのに結果を並べて又は分析を用いることによって比較してもよい。これは、例えば、適用されるルックを選択すること、及びこれをユーザによって選択された又はサーバ上のアルゴリズムによって推奨された代替ルックに置き換えることによって、ブラウザで行うことができる。視聴者が好みのバージョンを選択するために何らかの方法(例えばブラウザにおけるボタン)でビデオの2つ以上のバージョンを並べて又は順次に視聴者に示すことができる可能性がある。代替的に、特定のエフェクトに関するユーザの好みを測るために異なるエフェクトが適用されたビデオの異なるバージョンを異なるユーザに示すことができる可能性がある。
ユーザはまた、エフェクトの同じ組を用いていくつかのビデオを処理してもよく、このシステムの特徴は、ユーザが一組のビデオクリップに適用される1つ以上のルック及びトランジションを選択し、それらを後で用いるために格納し、ルック及びトランジションの同じ組をビデオクリップの異なる組に適用することを可能にするであろう。例えば、広告に関するシナリオでは、多くの広告が同じ基本テンプレートを共有してもよい。この特徴は、ユーザが広告のすべてにルックの同じ組を迅速且つ容易に適用して、それらに一貫したルックを与え、したがって所望のブランディングを通信することを可能にするであろう。
ビデオフレームがユーザのブラウザにおいてではなくサーバ上でレンダリングされるという事実は、一般に、こうしたレンダリングのためにより一層多くの計算機能力が利用できることを意味し、これは、ブラウザにおいて又はモバイルデバイス上で直接フレームをレンダリングするシステムに比べて、はるかに多大な複雑さ及び美しさのエフェクトが用いられることを可能にすることに留意されたい。一実施形態では、ビデオフレームは、レンダリングのための複数の物理的サーバに分散され、一連のビデオフレームのすべてをレンダリングする総時間が減少する。これはまた、処理時間/レンダリング時間をユーザのデバイスの処理パワーとは無関係にし、そのため単純な移動電話が非常に複雑なエフェクトを作成することができる。異なるサーバが、グラフィックス処理ユニット、より高速の浮動小数点ハードウェア、又は増加したメモリなどの異なる能力を有するハードウェアで構成されてもよく、これは、これらのサーバがそれらの能力を利用した特定のエフェクトを処理するのに用いられることを可能にするであろう。
システムの別の実施形態では、レンダリングタスクとプレイバックタスクは、クライアントとサーバとの間で分割することができる。クライアントは、より高品質のイメージを非同期的にレンダリングする命令をサーバに送信しながら、あまり複雑でないエフェクト又は低解像度のプロキシイメージをレンダリングしてもよい。これらのより高品質のイメージは、準備が整ったときに、デバイスによってレンダリングされたより低品質のものと置き換わることができる。代替的に、制約された帯域幅の状況では、デバイスは、サーバから常時ストリーミングするのではなくキャッシュされたレンダリング済みフレームのローカルプレイバックを行ってもよい。
別の実施形態では、図6を参照すると、ユーザの対話を管理し、APIを通じてサーバとの間で命令を受け渡しするオンライン(クラウドベースの)ビデオ編集又は合成アプリケーション601が、ユーザ(100)と本明細書に記載のエフェクトサーバ(104)との間に存在してもよい。この実施形態では、オンラインアプリケーションは、オンライン編集アプリケーションとのユーザの対話と協調して又は対話から独立して、対話モード又はバッチモードで命令及びデータを送信し、命令及びデータをサーバから受信してもよい。図6aは、ビデオエディタとエフェクトサーバが同じ場所に存在する実施形態を示し、図6bは、ビデオエディタとエフェクトサーバが異なるネットワーク上にある実施形態を示す。
いくつかの例では、ブラウザイメージの忠実度は、クライアント(ブラウザ)とサーバとの間の帯域幅に依存することがある。より高帯域幅の接続は、より高品質(より少ない圧縮アーチファクトを含む)及びより高解像度のイメージとより高速のフレームレート(フレーム数/秒)との両方を可能にする。イメージ忠実度におけるこれらのバリエーションは、接続帯域幅を測定するシステムによって動的に及び自動的に調整できる可能性があり、及び/又はユーザによって物理的デバイスの限界まで指定されることが可能である。ローカルデバイスの解像度は最終出力の解像度又は品質に影響しないことに留意されたい。サーバは、最終出力のための高品質のイメージを同時に又は順次にレンダリングしながら、ユーザのデバイスに送信するプレビューとして低品質のイメージをレンダリングしてもよい。こうした解像度の切換えは、例えば、より短い待ち時間のフィードバックが達成されるようにエフェクトを調整しながら、小型のモバイルデバイスにより低解像度のイメージを送信し、デスクトップに高解像度のイメージを送信するために、若しくは低解像度又は低品質の高度に圧縮されたプレビューを送信するために用いることができる可能性がある。サーバは、ユーザ介入なしに、デバイス能力及びネットワーク能力に問い合わせることに基づいてこの切換えを行うことができる。
最終的なレンダリングされたビデオの忠実度は、サーバリソースに依存することがある。場合によっては、ユーザは、彼らの使用モデルに適した品質レベルを選択してもよく、これは、より多くのサーバプロセッサを用いることによって品質(例えば解像度)を改善する又は処理時間を短縮するために、より多くの計算リソースにより多く支払うことを含む可能性がある。
Apache又はIISウェブサーバ、PHP、又はPythonコンピュータ言語などの標準技術、及び/又はInternet Explorer、Firefox、又はChromeなどのウェブブラウザの使用は、ユーザがカスタムアプリケーションをダウンロード及びインストールする、すなわちサーバ上で実行しているエフェクトの高度に対話型のステアリングをする必要なしに、革新的なユーザ経験を可能にする。
ユーザがブラウザと対話しておらず、且つサーバがアイドルであるときに、サーバは、ユーザが現在のパラメータ設定を用いて他の近くの(通常、後続の)ビデオフレームを見ることを望む場合の対話型応答を改善するために、他のビデオフレームを思索的にレンダリングしてもよい。これらのキャッシュされたフレームは、ユーザがその後、他のパラメータ設定を変えるときに保たれてもよいし、又は削除されてもよい。サーバは、最大限の利用のために複数の処理スレッドを走らせてもよい。思索的レンダリングスレッドは、より低い優先度を有することになり、そのためそれらはより高い優先度を有するものが実行される必要がないときにだけ走る。
本明細書で開示される技術は、オーディオエフェクトに適用されてもよく、この場合、オーディオは、サーバからストリーミングされ、オーディオが再生されている間又はオクターブ、振幅、周波数などの調節可能又は制御可能なパラメータを有する短いサンプルがループされている間に、ユーザが、残響、フィルタリング、ノイズリダクション、及びゲインなどのオーディオエフェクトの種々のパラメータを操作する。これは、コアサーバレンダリングライブラリを、オーディオエフェクトを作成及びレンダリングするための類似のライブラリと置き換えること、及びシステムの他の部分のほとんどを変更されていない状態に保ちながらデータ伝達プロトコルを拡張することに関係するであろう。
本明細書で開示される技術は、フィルム又はビデオ、ゲーム、アーキテクチャルレンダリング、又は他の用途に用いられる現実的な及び/又は非現実的なシーンの3Dレンダリング及びモデリングに適用されてもよい。ユーザは、実際のモデリング、アニメーション、及びレンダリングがサーバ又はサーバ上で起こる状態で、ブラウザを介してこうしたシーンの作成、モデリング、アニメーション、及びレンダリングを制御することができる。これは、コアサーバレンダリングライブラリを、3Dシーンをモデリング、アニメーティング、及び/又はレンダリングするための類似のライブラリと置き換えること、及びシステムの他の部分のほとんどを変更されていない状態に保ちながらデータ伝達プロトコルを拡張することに関係するであろう。
結言
本発明はインターネットアプライアンス、ハンドヘルドデバイス、装着可能コンピュータ、セルラ電話又は移動電話、マルチプロセッサシステム、マイクロプロセッサベースの消費者向け電気製品又はプログラム可能な消費者向け電気製品、セットトップボックス、ネットワークPC、ミニコンピュータ、メインフレームコンピュータなどを含む種々のコンピュータシステム構成で実施できることが当業者には分かるであろう。本発明は、以下で詳述されるコンピュータで実行可能な命令のうちの1つ又は複数を行うために専用にプログラムされ、構成され、又は構築される特殊用途コンピュータ又はデータプロセッサにおいて具体化することができる。実際には、本明細書で一般に用いられる場合の「コンピュータ」という用語は、上記のデバイスのいずれか、並びに任意のデータプロセッサ、又はゲームデバイス、モバイルデバイス(例えば、移動電話)、カメラ、ビデオ取り込みデバイス又はソース、若しくはプロセッサ及び他のコンポーネント、例えば、ネットワーク通信回路を有する他の電子デバイスなどの消費者向け電子物品を含む、ネットワークと通信できる任意のデバイスを指す。
後述の本発明の態様は、磁気的及び光学的に可読のリムーバブルコンピュータディスクを含むコンピュータ可読媒体上に格納又は分散され、チップ(例えばEEPROMチップ)にファームウェアとして格納され、並びにインターネット上で又は他のネットワーク(無線ネットワークを含む)上で電子的に分散されてもよい。本発明の態様に特有のデータ構造及びデータの伝送もまた本発明の範囲内に包含される。
一般に、本発明の実施形態の詳細な説明は、網羅的となること又は本発明を上記で開示された正確な形態に限定することを意図されない。本発明の具体的な実施形態及び例が、示す目的で上記で説明されるが、当業者が認識するであろう本発明の範囲内で種々の等価な修正が可能である。例えば、プロセス又はブロックが所与の順番で提示されているが、代替的な実施形態は、異なる順番で、ステップを有するルーチンを行ってもよく、又はブロックを有するシステムを採用してもよく、いくつかのプロセス又はブロックは、削除、移動、付加、細分化、結合、及び/又は修正されてもよい。これらのプロセス又はブロックのそれぞれは、種々の異なる方法で実施されてもよい。また、プロセス又はブロックは、時には直列に実行さるものとして示されるが、これらのプロセス又はブロックは、代わりに並列に実行されてもよく、又は異なる時点で実行されてもよい。
本発明の態様は、磁気的に及び光学的に可読のコンピュータディスク、配線で接続された又は予めプログラムされたチップ(例えば、EEPROM半導体チップ)、ナノテクノロジーメモリ、生物学的メモリ、又は他のデータ記憶媒体などのコンピュータ可読記憶媒体を含むコンピュータ可読媒体上に格納又は分散されてもよい。実際には、コンピュータで実施される命令、データ構造、画面表示、及び本発明の態様の下での他のデータは、インターネット上で又は他のネットワーク(無線ネットワークを含む)上で、特定の時間期間にわたってコンピュータ可読伝搬媒体又は伝送媒体(例えば、電磁波、音波など)で伝搬される信号で配信されてもよく、又はそれらは、任意のアナログ又はデジタルネットワーク(パケット交換、回路交換、又は他の方式)で提供されてもよい。当業者は、本発明の一部がサーバコンピュータ上に常駐するが、対応する部分はモバイルデバイス又はポータブルデバイスなどのクライアントコンピュータ上に常駐し、したがって、特定のハードウェアプラットフォームが本明細書に記載されているが、本発明の態様は、ネットワーク上のノードに等しく適用可能であることを認識するであろう。
本発明の例の上記の詳細な説明は、網羅的となること又は本発明を上記で開示された正確な形態に限定することを意図されない。本発明の具体例が示す目的で上記で説明されるが、当業者が認識するであろう本発明の範囲内で種々の等価な修正が可能である。例えば、プロセス又はステップが所与の順番で提示されているが、代替的な実装が異なる順番で実施されてもよく、代替又はサブコンビネーションを提供するためにいくつかのプロセス又はステップが削除、移動、付加、細分化、結合、及び/又は修正されてもよい。これらのプロセス又はステップのそれぞれは、種々の異なる方法で実施されてもよい。また、プロセス又はステップは、時には直列に実行されるものとして示されるが、これらのプロセス又はブロックは、代わりに並列に実行又は実施されてもよく、又は異なる時点で実行されてもよい。
本明細書で提供される本発明の教示は、必ずしも前述のシステムにではなく他のシステムにも適用することができる。前述の種々の例の要素及び作用は、本発明のさらなる実装を提供するために組み合わせることができる。本発明のいくつかの代替的な実装は、上述のこれらの実装への付加的な要素を含むことがあるだけでなく、より少ない要素を含むことがある。
添付の出願書類で挙げられるあらゆるものを含む上述のあらゆる特許及び出願並びに他の参照特許が、参照により本明細書に組み込まれる。本発明の態様は、必要であれば、本発明のさらに別の実装を提供するために前述の種々の参照特許のシステム、機能、及び概念を採用するように修正することができる。
これらの及び他の変化を上記の詳細な説明に照らして本発明に加えることができる。上記の説明は、本発明の特定の例を説明し、及び考慮されるベストモードを説明するが、上記のことが本文にどんなに詳しく表されようとも、本発明は多くの方法で実施することができる。例えば、当業者は、本明細書に記載の視覚的エフェクト及びオーディオエフェクトに加えて、本明細書に記載の技術を、ビデオ及びオーディオデータに他の視覚的エフェクト及びオーディオエフェクトを適用するのに用いることができることを理解するであろう。システムの詳細は、本明細書で開示された本発明に依然として包含されている状態で、その具体的な実装においてかなり変化し得る。上記のように、本発明の特定の特徴又は態様を説明するときに用いられる特定の用語は、該用語がそれに関連付けられるどのような具体的特色、特徴、又は本発明の態様にも制約されるように本明細書で再定義されていることを含意するように受け取られるべきではない。一般に、以下の請求項で用いられる用語は、上記の詳細な説明がこうした用語を明示的に定義しない限り、本発明を本明細書で開示される具体例に限定するように解釈されるべきではない。

Claims (20)

  1. ビデオデータにビジュアルエフェクトを適用するためのプロセッサを有するコンピューティングシステムによって行われる方法であって、
    第1のビデオ取り込みソースから、1つ以上のビデオフレームを含むビデオデータを受信することと、
    前記1つ以上のビデオフレームの少なくとも一部をリモートレンダリングサーバに送信することと、
    前記リモートレンダリングサーバから、前記ビデオデータにビジュアルエフェクトを適用するための1つ以上の制御を指定するウェブページを受信することと、
    前記コンピューティングシステムのプロセッサ上で実行するブラウザに前記受信したビデオデータが表示されている状態で
    前記受信したビデオデータに適用可能な1つ以上のビジュアルエフェクトの指標を表示用に提供することと、
    ユーザから、前記ビデオデータに適用する、少なくとも1つの関連する制御可能なパラメータを有する少なくとも1つのビジュアルエフェクトの選択を受信することと、
    前記ビデオデータに前記少なくとも1つのビジュアルエフェクトを適用するように構成される前記リモートレンダリングサーバに、前記ビデオデータに適用する前記選択された少なくとも1つのビジュアルエフェクトの指標を送信することと、
    前記リモートレンダリングサーバから、前記選択された少なくとも1つのビジュアルエフェクトに基づいて修正された1つ以上のビデオフレームを含む修正されたビデオデータを受信することと、
    前記修正されたビデオデータを表示用に提供することと、
    前記受信したビデオデータに代えて、前記ブラウザに前記修正されたビデオデータが表示されている状態で、
    前記ユーザから、前記少なくとも1つのビジュアルエフェクトに関連する前記少なくとも1つの制御可能なパラメータを修正する指標を受信することと、
    前記リモートレンダリングサーバに、前記少なくとも1つのビジュアルエフェクトに関連する前記少なくとも1つの制御可能なパラメータを修正する前記指標を送信することと、
    前記少なくとも1つのビジュアルエフェクトに関連する前記修正された少なくとも1つの制御可能なパラメータに基づいて第2の修正されたビデオデータを受信することと、
    前記第2の修正されたビデオデータを表示用に提供することと、
    を含む方法。
  2. 前記コンピューティングシステムがモバイル電話であり、前記ビデオ取り込みソースが前記モバイル電話のカメラである、請求項1に記載の方法。
  3. 前記少なくとも1つのビジュアルエフェクトが、ブラー、ワープ、レイ、シェイクリダクション、色変換、フェード、ワイプ、二軸ワイプ、又は静止画像挿入エフェクトのうちの少なくとも1つである、請求項1に記載の方法。
  4. 前記ビデオデータが関連するオーディオデータを有し、前記方法がさらに、
    前記ビデオデータに関連する前記オーディオデータに適用可能な1つ以上のオーディオエフェクトの指標を表示用に提供することと、
    前記ユーザから、前記ビデオデータに関連する前記オーディオデータに適用する少なくとも1つのオーディオエフェクトの選択を受信することと、
    前記リモートレンダリングサーバに、前記ビデオデータに関連する前記オーディオデータに適用する前記少なくとも1つのオーディオエフェクトの前記受信した指標を送信することと、
    前記リモートレンダリングサーバから、前記少なくとも1つのオーディオエフェクトに基づいて修正されたオーディオデータを受信することと、
    を含む、請求項1に記載の方法。
  5. 前記少なくとも1つのオーディオエフェクトが、残響、フィルタリング、ノイズリダクション、又はゲインのうちの少なくとも1つである、請求項4に記載の方法。
  6. 前記少なくとも1つの制御可能なパラメータが、輝度、彩度、強度、又は位置である、請求項1に記載の方法。
  7. 前記少なくとも1つの制御可能なパラメータが、ディテール、速さ、ランダムネス、色合い、ブラー量、幅、長さ、品質、ズーム、色、混色、イネーブル、角度、結合、反転、不透明度、リバース、バリエーション、スタイル、又は鮮明化のうちの少なくとも1つを含む、請求項1に記載の方法。
  8. コンピューティングシステムによって実行される場合に、
    リモートレンダリングサーバに、1つ以上のビデオフレームを含むビデオデータの少なくとも一部を送信することと、
    前記リモートレンダリングサーバから、前記ビデオデータにビジュアルエフェクトを適用するための1つ以上の制御を指定するウェブページを受信することと、
    前記コンピューティングシステムのプロセッサ上で実行するブラウザで前記ビデオデータが表示されている状態で
    前記ビデオデータに適用可能な1つ以上のビジュアルエフェクトの指標を表示用に提供することと、
    ユーザから、前記ビデオデータに適用する、少なくとも1つの関連する制御可能なパラメータを有する少なくとも1つのビジュアルエフェクトの選択を受信することと、
    前記ビデオデータに前記少なくとも1つのビジュアルエフェクトを適用するように構成される前記リモートレンダリングサーバに、前記ビデオデータに適用する前記選択された少なくとも1つのビジュアルエフェクトの指標を送信することと、
    前記リモートレンダリングサーバから、前記選択された少なくとも1つのビジュアルエフェクトに基づいて修正された1つ以上のビデオフレームを含む第1の修正されたビデオデータを受信することと、
    前記ビデオデータに代えて、前記第1の修正されたビデオデータを前記ブラウザに表示することと、
    を含む動作を前記コンピューティングシステムに行わせる命令を格納するコンピュータ可読媒体。
  9. 前記動作がさらに、
    前記第1の修正されたビデオデータが表示されている状態で、
    前記ユーザから、前記少なくとも1つのビジュアルエフェクトに関連する前記少なくとも1つの制御可能なパラメータを修正する指標を受信することと、
    前記リモートレンダリングサーバに、前記少なくとも1つのビジュアルエフェクトに関連する前記少なくとも1つの制御可能なパラメータを修正する前記指標を送信することと、
    前記少なくとも1つのビジュアルエフェクトに関連する前記修正された少なくとも1つの制御可能なパラメータに基づいて第2の修正されたビデオデータを受信することと、
    これにより、前記ユーザが前記リモートレンダリングサーバによるビデオデータへの前記少なくとも1つのビジュアルエフェクトの適用をリアルタイムで動的にステアリングすることができることと、
    前記第2の修正されたビデオデータを表示用に提供することと、
    を含む、請求項8に記載のコンピュータ可読媒体。
  10. 前記動作がさらに、
    ビデオデータの修正された第1のフレームを格納することと、
    前記少なくとも1つの制御可能なパラメータに関する第1の値を前記格納したビデオデータの修正された第1のフレームと関連付けることと、
    ビデオデータの修正された第2のフレームを格納することと、
    前記少なくとも1つの制御可能なパラメータに関する第2の値を前記格納したビデオデータの修正された第2のフレームと関連付けることと、
    を含む、請求項8に記載のコンピュータ可読媒体。
  11. 前記動作がさらに、
    前記第1の値に設定される前記少なくとも1つの制御可能なパラメータの組を有する前記第1のフレームに前記少なくとも1つのビジュアルエフェクトを適用する要求を受信することに応答して、前記格納したビデオデータの修正された第1のフレームを検索することと、
    前記第2の値に設定される前記少なくとも1つの制御可能なパラメータの組を有する前記第2のフレームに前記少なくとも1つのビジュアルエフェクトを適用する要求を受信することに応答して、前記格納したビデオデータの修正された第2のフレームを検索することと、
    を含む、請求項10に記載のコンピュータ可読媒体。
  12. 前記ビデオデータが関連するオーディオデータを有し、前記動作がさらに、
    前記ビデオデータに関連する前記オーディオデータに適用可能な1つ以上のオーディオエフェクトの指標を表示用に提供することと、
    前記ユーザから、前記ビデオデータに関連する前記オーディオデータに適用する少なくとも1つのオーディオエフェクトの選択を受信することと、
    前記リモートレンダリングサーバに、前記ビデオデータに関連する前記オーディオデータに適用する前記少なくとも1つのオーディオエフェクトの前記受信した指標を送信することと、
    前記リモートレンダリングサーバから、前記少なくとも1つのオーディオエフェクトに基づいて修正されたオーディオデータを受信することと、
    を含む、請求項8に記載のコンピュータ可読媒体。
  13. 前記動作がさらに、
    前記第1の修正されたビデオデータが表示されている状態で、前記修正されたビデオデータの各制御及び各フレームに関する設定されたパラメータ値に基づいて前記ビデオデータにビジュアルエフェクトを適用するための1つ以上の制御の前記表示を操作することを含む、請求項8に記載のコンピュータ可読媒体。
  14. 前記動作がさらに、
    前記コンピューティングシステムのプロセッサ上で実行する前記ブラウザで、
    前記ユーザから、前記ビデオデータに適用する少なくとも1つのビジュアルエフェクトの第2の選択を受信することと、
    前記リモートレンダリングサーバに、前記ビデオデータに適用する前記第2の選択された少なくとも1つのビジュアルエフェクトの指標を送信することと、
    前記リモートレンダリングサーバから、第2の修正されたビデオデータを受信することと、
    前記第1の修正されたビデオデータ及び前記第2の修正されたビデオデータを前記ブラウザ内での同時表示用に提供することと、
    前記ユーザから、好ましい修正されたビデオデータの選択を受信することと、
    を含む、請求項8に記載のコンピュータ可読媒体。
  15. システムであって、
    リモートクライアントコンピュータから、ビデオデータの1つ以上のビデオフレームを受信するように構成されたコンポーネントと、
    前記リモートクライアントコンピュータに、前記ビデオデータにビジュアルエフェクトを適用するための1つ以上の制御を指定するウェブページを送信するように構成されたコンポーネントと、
    前記リモートクライアントコンピュータ上で実行し、および前記ビデオデータを表示しているブラウザから、前記ビデオフレームに適用する、少なくとも1つの関連する制御可能なパラメータを有する少なくとも1つのビジュアルエフェクトの選択を受信するように構成されたコンポーネントと、
    修正されたビデオデータを生成するために前記ビデオフレームに前記選択された少なくとも1つのビジュアルエフェクトを適用するように構成されたコンポーネントと、
    前記リモートクライアントコンピュータに、前記生成された修正されたビデオデータを送信するように構成されたコンポーネントと、
    前記ビデオデータに代えて、前記修正されたビデオデータを前記ブラウザに表示するように構成されたコンポーネントと、
    を備えるシステム。
  16. 前記修正されたビデオデータが表示されている状態で、
    ユーザから、前記少なくとも1つのビジュアルエフェクトに関連する前記少なくとも1つの制御可能なパラメータを修正する指標を受信し、
    前記リモートクライアントコンピュータから、前記少なくとも1つのビジュアルエフェクトに関連する前記少なくとも1つの制御可能なパラメータを修正する指標を受信し、
    第2の修正されたビデオデータを生成するために前記少なくとも1つのビジュアルエフェクトに関連する前記修正された少なくとも1つの制御可能なパラメータに基づいて前記ビデオフレームに前記選択された少なくとも1つのビジュアルエフェクトを適用し、
    前記リモートクライアントコンピュータに、前記生成された第2の修正されたビデオデータを送信し、
    これにより、前記ユーザが前記システムによるビデオデータへの前記少なくとも1つのビジュアルエフェクトの適用をリアルタイムで動的にステアリングすることができるように構成されたコンポーネントと、
    前記リモートクライアントコンピュータに、前記生成された第2の修正されたビデオデータを送信するように構成されたコンポーネントと、
    をさらに備える、請求項15に記載のシステム。
  17. 前記ビデオデータの付加的なビデオフレームを識別するように構成されたコンポーネントと、
    第3の修正されたビデオデータを生成するために前記識別された付加的なビデオフレームに前記少なくとも1つのビジュアルエフェクトを思索的に適用するように構成されたコンポーネントと、
    をさらに備える、請求項15に記載のシステム。
  18. 前記少なくとも1つのビジュアルエフェクトに関連する前記少なくとも1つの制御可能なパラメータが修正されているという判定に応答して第3の修正されたビデオデータを削除するように構成されたコンポーネントをさらに備える、請求項17に記載のシステム。
  19. 前記リモートクライアントコンピュータから、1つ以上のビジュアルエフェクトに基づいて前記ビデオデータ全体をレンダリングする要求を受信するように構成されたコンポーネントと、
    前記ビデオデータ全体がレンダリングされているという判定に応答して、ユーザに知らせるテキストメッセージ、電子メール、又はソーシャルメディアのうちの少なくとも1つを含む通知を送信するように構成されたコンポーネントと、
    をさらに備える、請求項15に記載のシステム。
  20. 前記ビデオデータが3Dモデルを含む、請求項15に記載のシステム。
JP2014535819A 2011-10-10 2012-10-10 ビジュアルエフェクトのネットワークに基づくレンダリング及びステアリング Expired - Fee Related JP6242798B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201161545330P 2011-10-10 2011-10-10
US61/545,330 2011-10-10
PCT/US2012/059572 WO2013055802A1 (en) 2011-10-10 2012-10-10 Network-based rendering and steering of visual effects

Publications (2)

Publication Number Publication Date
JP2015502678A JP2015502678A (ja) 2015-01-22
JP6242798B2 true JP6242798B2 (ja) 2017-12-06

Family

ID=48082399

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014535819A Expired - Fee Related JP6242798B2 (ja) 2011-10-10 2012-10-10 ビジュアルエフェクトのネットワークに基づくレンダリング及びステアリング

Country Status (5)

Country Link
US (2) US8935611B2 (ja)
EP (1) EP2766816A4 (ja)
JP (1) JP6242798B2 (ja)
HK (1) HK1206116A1 (ja)
WO (1) WO2013055802A1 (ja)

Families Citing this family (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8527646B2 (en) * 2009-04-14 2013-09-03 Avid Technology Canada Corp. Rendering in a multi-user video editing system
US9711178B2 (en) 2011-03-29 2017-07-18 Wevideo, Inc. Local timeline editing for online content editing
US10739941B2 (en) 2011-03-29 2020-08-11 Wevideo, Inc. Multi-source journal content integration systems and methods and systems and methods for collaborative online content editing
CN102968509B (zh) * 2012-12-17 2016-03-09 腾讯科技(深圳)有限公司 一种播放浏览器中多媒体的方法和装置
US20140192200A1 (en) * 2013-01-08 2014-07-10 Hii Media Llc Media streams synchronization
US11748833B2 (en) 2013-03-05 2023-09-05 Wevideo, Inc. Systems and methods for a theme-based effects multimedia editing platform
US10691309B2 (en) * 2013-03-27 2020-06-23 Broadsign Serv, Llc Media element transition electronic device, method and application
US20150134302A1 (en) 2013-11-14 2015-05-14 Jatin Chhugani 3-dimensional digital garment creation from planar garment photographs
US10366439B2 (en) 2013-12-27 2019-07-30 Ebay Inc. Regional item reccomendations
US9207844B2 (en) 2014-01-31 2015-12-08 EyeGroove, Inc. Methods and devices for touch-based media creation
US9116912B1 (en) 2014-01-31 2015-08-25 EyeGroove, Inc. Methods and devices for modifying pre-existing media items
US9207857B2 (en) * 2014-02-14 2015-12-08 EyeGroove, Inc. Methods and devices for presenting interactive media items
US9640219B1 (en) * 2014-03-31 2017-05-02 Google Inc. Systems and methods for modifying a segment of an uploaded media file
US9519644B2 (en) 2014-04-04 2016-12-13 Facebook, Inc. Methods and devices for generating media items
US9443134B2 (en) * 2014-05-15 2016-09-13 Adobe Systems Incorporated Propagating object selection across multiple images
WO2016030879A1 (en) * 2014-08-26 2016-03-03 Mobli Technologies 2010 Ltd. Distribution of visual content editing function
CN104244023B (zh) * 2014-09-03 2017-11-28 无锡天脉聚源传媒科技有限公司 视频云编辑系统和方法
US10033992B1 (en) * 2014-09-09 2018-07-24 Google Llc Generating a 3D video of an event using crowd sourced data
US20160092956A1 (en) 2014-09-30 2016-03-31 Jonathan Su Garment size mapping
EP3018656A1 (en) * 2014-11-07 2016-05-11 Thomson Licensing Method and device for processing data files
US10534525B1 (en) * 2014-12-09 2020-01-14 Amazon Technologies, Inc. Media editing system optimized for distributed computing systems
US20160293216A1 (en) * 2015-03-30 2016-10-06 Bellevue Investments Gmbh & Co. Kgaa System and method for hybrid software-as-a-service video editing
US9402050B1 (en) 2015-05-07 2016-07-26 SnipMe, Inc. Media content creation application
US10109319B2 (en) * 2016-01-08 2018-10-23 Gopro, Inc. Digital media editing
KR102478018B1 (ko) * 2016-01-13 2022-12-16 삼성전자주식회사 콘텐트 표시 방법 및 이를 수행하는 전자 장치
US20170214949A1 (en) * 2016-01-27 2017-07-27 International Business Machines Corporation Guideline-based video classification of data streams
US10083537B1 (en) 2016-02-04 2018-09-25 Gopro, Inc. Systems and methods for adding a moving visual element to a video
US10622021B2 (en) * 2016-02-19 2020-04-14 Avcr Bilgi Teknolojileri A.S Method and system for video editing
US9852768B1 (en) * 2016-06-03 2017-12-26 Maverick Co., Ltd. Video editing using mobile terminal and remote computer
AU2017307650A1 (en) 2016-08-03 2019-03-21 Dejero Labs Inc. System and method for controlling data stream modifications
KR102630191B1 (ko) * 2016-08-18 2024-01-29 삼성전자 주식회사 전자 장치 및 전자 장치 제어 방법
GB2557572B (en) * 2016-09-20 2020-02-12 Subsea 7 Ltd Performing remote inspection at subsea locations
US20180300100A1 (en) * 2017-04-17 2018-10-18 Facebook, Inc. Audio effects based on social networking data
US10887422B2 (en) 2017-06-02 2021-01-05 Facebook, Inc. Selectively enabling users to access media effects associated with events
WO2019013400A1 (ko) * 2017-07-09 2019-01-17 엘지전자 주식회사 비디오 화면 줌에 연동되는 오디오 출력 방법 및 출력 장치
KR101952284B1 (ko) * 2017-08-28 2019-02-26 경희대학교 산학협력단 미디어 가치를 향상시키는 보조정보와 이를 원격에서 추출하고, 표현하고, 전송하는 방법 및 기기
US10652632B2 (en) 2017-09-12 2020-05-12 Vivoom, Inc. Seamless augmented user-generated content for broadcast media
US10524010B2 (en) * 2017-11-07 2019-12-31 Facebook, Inc. Social interaction user interface for videos
US11289125B1 (en) * 2018-01-25 2022-03-29 Disney Enterprises, Inc. Digital conformation of media content
USD870742S1 (en) 2018-01-26 2019-12-24 Facebook, Inc. Display screen or portion thereof with animated user interface
US10885942B2 (en) * 2018-09-18 2021-01-05 At&T Intellectual Property I, L.P. Video-log production system
CN109151573B (zh) * 2018-09-30 2021-06-15 Oppo广东移动通信有限公司 视频增强控制方法、装置以及电子设备
US10388322B1 (en) 2018-10-29 2019-08-20 Henry M. Pena Real time video special effects system and method
US11641439B2 (en) 2018-10-29 2023-05-02 Henry M. Pena Real time video special effects system and method
US11044420B2 (en) * 2018-10-29 2021-06-22 Henry M. Pena Real time video special effects system and method
US10404923B1 (en) * 2018-10-29 2019-09-03 Henry M. Pena Real time video special effects system and method
US11689686B2 (en) 2018-10-29 2023-06-27 Henry M. Pena Fast and/or slowmotion compensating timer display
CN110381326B (zh) * 2019-06-19 2022-01-28 北京百度网讯科技有限公司 视频系统及处理方法、设备与计算机可读介质
CN110704059B (zh) * 2019-10-16 2023-05-30 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备及存储介质
CN111338932B (zh) * 2020-02-06 2022-11-15 支付宝(杭州)信息技术有限公司 图片渲染方法、装置和电子设备
US11381756B2 (en) * 2020-02-14 2022-07-05 Snap Inc. DIY effects image modification
US20220035684A1 (en) * 2020-08-03 2022-02-03 Nvidia Corporation Dynamic load balancing of operations for real-time deep learning analytics
US11438551B2 (en) * 2020-09-15 2022-09-06 At&T Intellectual Property I, L.P. Virtual audience using low bitrate avatars and laughter detection
CN115379257B (zh) * 2021-05-20 2024-05-14 阿里巴巴创新公司 一种渲染方法、装置、系统、存储介质及程序产品
US11843755B2 (en) 2021-06-07 2023-12-12 Zspace, Inc. Cloud-based rendering of interactive augmented/virtual reality experiences
CN113747240B (zh) * 2021-09-10 2023-04-07 荣耀终端有限公司 视频处理方法、设备和存储介质
US11756475B2 (en) * 2021-11-19 2023-09-12 Dell Products, L.P. Visual effects management system and method
CN116204251A (zh) * 2021-11-30 2023-06-02 北京字节跳动网络技术有限公司 特效的显示方法、装置、设备及存储介质
WO2023122954A1 (zh) * 2021-12-28 2023-07-06 深圳大学 针对交互式应用的服务质量感知的多渲染任务调度方法

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2373118B (en) * 2000-12-21 2005-01-19 Quantel Ltd Improvements in or relating to image processing systems
US20020116716A1 (en) * 2001-02-22 2002-08-22 Adi Sideman Online video editor
US7286132B2 (en) * 2004-04-22 2007-10-23 Pinnacle Systems, Inc. System and methods for using graphics hardware for real time two and three dimensional, single definition, and high definition video effects
KR20070083645A (ko) * 2004-09-10 2007-08-24 메딕사이트 피엘씨. Ct 스캔 분석을 위한 사용자 인터페이스
US7599710B2 (en) * 2005-04-15 2009-10-06 Magix Ag System and method of utilizing a remote server to create movies and slide shows for viewing on a cellular telephone
US7809802B2 (en) 2005-04-20 2010-10-05 Videoegg, Inc. Browser based video editing
US9196304B2 (en) 2006-01-26 2015-11-24 Sony Corporation Method and system for providing dailies and edited video to users
US9032297B2 (en) * 2006-03-17 2015-05-12 Disney Enterprises, Inc. Web based video editing
US20080172704A1 (en) * 2007-01-16 2008-07-17 Montazemi Peyman T Interactive audiovisual editing system
US8122378B2 (en) * 2007-06-08 2012-02-21 Apple Inc. Image capture and manipulation
JP5162164B2 (ja) * 2007-06-27 2013-03-13 株式会社スプラシア 動画像配信システム及び動画像配信方法
JP5090115B2 (ja) * 2007-09-14 2012-12-05 株式会社スプラシア 動画像配信装置、動画像配信方法ならびにそのプログラム
EP2098994A1 (en) * 2008-03-04 2009-09-09 Agfa HealthCare NV System for real-time volume rendering on thin clients via a render server
US8245124B1 (en) * 2008-03-20 2012-08-14 Adobe Systems Incorporated Content modification and metadata
WO2009137919A1 (en) 2008-05-12 2009-11-19 Xtranormal Technologie Inc. Video mix-down
JP5518309B2 (ja) * 2008-08-21 2014-06-11 株式会社スプラシア 動画像配信装置、動画像配信方法ならびにそのプログラム
US8117317B2 (en) 2008-12-31 2012-02-14 Sap Ag Systems and methods for integrating local systems with cloud computing resources
US8527646B2 (en) * 2009-04-14 2013-09-03 Avid Technology Canada Corp. Rendering in a multi-user video editing system
US8412729B2 (en) * 2009-04-22 2013-04-02 Genarts, Inc. Sharing of presets for visual effects or other computer-implemented effects
WO2010132718A2 (en) * 2009-05-13 2010-11-18 Coincident.Tv , Inc. Playing and editing linked and annotated audiovisual works
US8332757B1 (en) * 2009-09-23 2012-12-11 Adobe Systems Incorporated Visualizing and adjusting parameters of clips in a timeline
US20110113361A1 (en) * 2009-11-06 2011-05-12 Apple Inc. Adjustment presets for digital images
US8811801B2 (en) * 2010-03-25 2014-08-19 Disney Enterprises, Inc. Continuous freeze-frame video effect system and method
US9270926B2 (en) * 2010-06-22 2016-02-23 Newblue, Inc. System and method for distributed media personalization
US8799759B2 (en) * 2010-12-13 2014-08-05 International Business Machines Corporation Pre-rendering web content

Also Published As

Publication number Publication date
EP2766816A4 (en) 2016-01-27
US20140237365A1 (en) 2014-08-21
EP2766816A1 (en) 2014-08-20
HK1206116A1 (en) 2015-12-31
JP2015502678A (ja) 2015-01-22
WO2013055802A1 (en) 2013-04-18
US20150117839A1 (en) 2015-04-30
US8935611B2 (en) 2015-01-13

Similar Documents

Publication Publication Date Title
JP6242798B2 (ja) ビジュアルエフェクトのネットワークに基づくレンダリング及びステアリング
US10735798B2 (en) Video broadcast system and a method of disseminating video content
JP7139515B2 (ja) 動画撮像方法、動画撮像装置、電子機器、およびコンピューター読取可能な記憶媒体
JP7053869B2 (ja) ビデオ生成の方法、装置、電子機器及びコンピュータ読み取り可能記憶媒体
US9583140B1 (en) Real-time playback of an edited sequence of remote media and three-dimensional assets
US10405009B2 (en) Generating videos with multiple viewpoints
NL2004780C2 (nl) Visueel element werkwijze en systeem.
EP3357253B1 (en) Gapless video looping
JP2022509502A (ja) リアルタイム動画特殊効果システム及び方法
US20140193138A1 (en) System and a method for constructing and for exchanging multimedia content
WO2023124864A1 (zh) 互动方法、系统及电子设备
WO2019000896A1 (zh) 一种直播列表浏览交互方法及装置
KR20160096019A (ko) 게임 플레이 동영상에 광고 컨텐츠를 추가 적용하여 제공하는 서비스 방법
CN112053370A (zh) 基于增强现实的显示方法、设备及存储介质
US10915239B2 (en) Providing bitmap image format files from media
US20230076702A1 (en) Shader-based dynamic video manipulation
Jackson Digital video editing fundamentals
WO2021208330A1 (zh) 一种生成游戏角色的表情的方法和装置
US20230076000A1 (en) Shader-based dynamic video manipulation
WO2023169089A1 (zh) 一种视频播放方法、装置、电子设备、介质和程序产品
CN117953140A (zh) 信息生成方法、装置、设备及介质
Stamm Assessing Image Quality Impact of View Bypass in Cloud Rendering
WO2022162400A1 (en) Methods for generating videos, and related systems and servers
Percival Bleeding-Edge HTML5

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20150128

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20150128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150623

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20150924

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151023

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20160315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171108

R150 Certificate of patent or registration of utility model

Ref document number: 6242798

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees