JP2005504461A - ジョブ制御を用いてメディアアプリケーションおよびメディアシステムを実行する方法 - Google Patents
ジョブ制御を用いてメディアアプリケーションおよびメディアシステムを実行する方法 Download PDFInfo
- Publication number
- JP2005504461A JP2005504461A JP2003512831A JP2003512831A JP2005504461A JP 2005504461 A JP2005504461 A JP 2005504461A JP 2003512831 A JP2003512831 A JP 2003512831A JP 2003512831 A JP2003512831 A JP 2003512831A JP 2005504461 A JP2005504461 A JP 2005504461A
- Authority
- JP
- Japan
- Prior art keywords
- job
- media
- quality
- algorithm
- mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
現行のものと同様に頑強で且つコストパフォーマンスに優れている適応性のある民生マルチメディア装置のためには、メディアアルゴリズムは出力品質における交換を用いる資源の必要条件に関してさらに適応可能になる必要がある。そのようなアルゴリズムはスケーラブルと呼ばれる。民生マルチメディアターミナルにおけるスケーラブルビデオアルゴリズム(ジョブ)のクラスタの状態は3つのパラメータにより表すことができる。第1のパラメータはジョブモードであって、機能およびそれらの接続の実際のクラスタである。第2のパラメータは、ジョブモードの有効品質水準のセットであって、動作可能セットとよばれる。第3のパラメータは割り当てられた品質水準である。第1および第2のパラメータは、正しいプロセシングとシステムの最適化のための有効な探索スペースとを提供し、ジョブそれ自身により選択される。第3のパラメータは、利用可能なシステム資源による実際の資源割り当てを反映し、QoS資源マネージャにより選択される。
Description
【技術分野】
【0001】
本発明は、メディアアップリケーションを実行する方法、多くのアルゴリズムを有するメディアアプリケーションであって、各々のアルゴリズムがスケーラブルかまたは非スケーラブルである場合に関する。本発明はまた、メディアシステムに関し、さらに詳細には、マルチメディア通信装置に関する。
【背景技術】
【0002】
民生ターミナル(CTs)は、双方向マルチメディアターミナル、通信ネットワーク(電話)およびビデオ放送ネットワークの簡単なターミナルから双方向マルチメディアターミナルに、その上、ホームネットワークまたはユビキタス(ambient intelligence)環境における要素に徐々に発展している。
【0003】
デジタルテレビセットやセットトップボックス(STBs)のような大容量のエレクトロニクス(HVE)のCTsにおいては、マルチメディアのサービスの品質(QoS)は出力品質を最適化するために用いられる。CTsの基本メディアは高品質のオーディオおよびビデオである。基本メディアプロセシング機能がスケーラブルである場合、他のメディアプロセシング機能は殆んど追加費用を追加しないか追加費用を追加することはない。次の2つの理由のために、オーディオをスケーリングすることはビデオをスケーリングすることに比べて重要ではない。低品質のオーディオ(例えば、モノラル)と組み合わせると、ビデオは低品質において認識され、高品質のオーディオ(例えば、マルチチャンネル)は高品質のビデオに比較して資源のほんの一部を消費する。CTsのためのマルチメディアのQoSのチャレンジは、高品質のビデオに主に適用されることができるQoSの扱い方を見つけることにあり、また、3Dグラフィクスのような他のメディアをサポートする。CTsにおける高品質のビデオ処理は、例えば、(ネットワーク化された)ワークステーション環境における主流のマルチメディアプロセシングと比較するとき、多くの際立った特徴を有しており、このことについては、参考文献、K.Nahrstedt,H.Chu,S.Narayan,QoS−aware Resonance Management for Distributed Multimedia Applications,Journal on High−Speed Networking, Special Issue on Multimedia Networking、ISO Press, Vol.8, No.3−4, pp.227−255,1998を参照されたい。
【0004】
メディアプロセシングの種々の種類のためのQoSパラメータは非常にアプリケーションドメインに特有であることが示されている。さらに、高品質のビデオは他の処理機能に比較して非常に差し迫ったタイミングについての必要性を有している。
【0005】
メッシュ、テクスチャおよびスクリーン解像度が、参考文献、G.Lafruit,L.Nachtergale,K.Denolf and J.Bormans,3D Computational Graceful Degradation,Proc.IEEE International Symposium on Circuits and Systems(ISCAS),Vol.3,pp.547−550, May 2000において、固定フレームレートを保つ間の3D計算グレースフルデグラデーションのためのQoSパラメータとして用いられている。ワークステーション環境におけるビデオアプリケーションのための使用頻度の高いQoSパラメータは、スクリーン解像度、フレームレート、画像サイズ、色の深み、ビットレートおよび計算品質であり、これについては、参考文献、B.Li and K.Nahrstedt, Dynamic Reconfiguration for Complex Multimedia Applications,Proc. International Conference on Multimedia Computing and Systems(ICMCS),Vol.1,pp.165−170, June 1999を参照されたい。空間(分解能)スケーラビリティおよび時間(ビットレートおよびフレームレート)スケーラビリティは、画像圧縮(MPEG*、H.26*等であり、例えば、参考文献、J.R.Morros and F.Marques,A Proposal for dependent optimization in scalable region−bvased coding systems,Proc.IEEE International Conference on Image Processing(ICIP),Vol.4,pp.295−299,October 1999を参照されたい)の分野において非常に詳細に利用されている。
【0006】
高品質のビデオの要求をもつ民生メディアターミナル(CMTs)においては、これらのパラメータは一般に適用できない。高品質のビデオは、固定フィールド/フレームレートおよびフレームスキップについての低い許容範囲即ち非常に厳しいタイミングの要求を有しているが、ジッタ(即ち、フレームレート変動)についての許容範囲はない。さらに、テレビスクリーンの解像度はその規格(例えば、PAL、NTSC、ATSC、VGA)に適合され、画像(または、ウィンドウ)サイズは固定される(例えば、メインウィンドウまたはPiPウィンドウ)かまたはユーザにより決定される。最終的には、放送環境における受信器、即ち現在のCMTsは圧縮品質およびビットレートを取り決めるためのオプションを有していないが、ホームデジタルネットワークにおけるCMTsのために今後は変わる可能性がある。
【0007】
多くのパラメータの設定は最適化の目的のためのシステムにより適合可能であるというよりむしろ環境により強要されるが、それらは特定のビデオ出力品質のために必要とされる処理量を決定する。例としては、ウィンドウサイズが、ビジュアル出力品質の損失を伴わないで適用されることができる組み込まれるリサイジング技術を決定し、これについては、参照文献、Z.Zhong and Y.Chen,Scaling in MPEG−2 Decoding Loop with Mixed Processing, Digest of Technical Papers IEEE International Conference on Consumer Electronics(ICCE),pp.76−77,June 2001を参照されたい。
【0008】
したがって、代わりのパラメータが高品質のビデオのために用いられる必要がある。これらのパラメータは、代表的にはビデオアルゴリズムに特有であり、アルゴリズム毎に変わる可能性がある。高品質ビデオのためのオプショナルパラメータは、フィルタ係数の数(例えば、0、8、32等)、用いられるフィールド数(例えば、1、2、3等)、基準対象(例えば、ポイント、ライン等)および処理の種類(例えば、線形、非線形)である。
【0009】
民生プロダクトは、シリコンのコストおよび電力消費に関する大きい圧力を伴って、著しく資源の制限を受ける。専用ハードウェアの解決方法と競合することができるように、利用可能な資源は、頑強さのようなHVE CTsの代表的な品質を保ちつつ、非常にコストパフォーマンスのよいものとして用いられる必要があり、高品質のデジタルオーディオおよびビデオ処理により強要される厳しいタイミングの要求を満たす必要がある。
【0010】
HVE CMTsにおいては、ソフトウェアメディアプロセシングは、TriMediaTM Technologies Inc.の一群のvery long instruction word(VLIW)プロセッサのような専用メディアプロセッサを用いてなされ、これについては、参考文献、F.Sijistermans and G.Slavenburg,Provideing the processing power for consumer multimedia,Digest of Technical Papers IEEE International Conference on Consumer Electronics(ICCE),pp.156−157,1997を参照されたい。専用ハードウェアの解決方法に比較して、これらのメディアプロセッサはコストが高く、消費電力が大きい。したがって、コストパフォーマンスがよいことがHVE CMTsにおける主要な課題である。コストパフォーマンスがよいことは、高い平均資源活用性を必要とする。
【0011】
今日のHVE CTsは確固たる挙動を提供しており、ユーザは、メディアプロセシングがソフトウェアにおいて実行され且つこれらのターミナルがさらに開かれるようになるとき、同様の頑強さを期待する。今のところ、ユーザはデスクトップにおけるマルチメディアアプリケーションおよびインターネットアプリケーションについて同様な期待はもっていない(また、これらのアプリケーションは非頑強挙動を示すことは珍しくない)。資源予算(または、予約であって、これについては、参考文献、C.W.Mercer,S.Savage,H.Tokuda,Processor Capability Reserves:Operating System Support for Multimedia Application,In:Proc. Intaenational Conference on Mulltimedia Computing and Systems(ICMCS),pp.90−99,May 1994を参照されたい)は、アプリケーション間の頑強さを提供するための証明された概念であることに留意されたい。
【0012】
高品質のビデオは、50乃至120Hzのフィールドレートおよびハードなリアルタイムのドメインと大きいジッタのトレランスの特性、即ちフレームスキップについての低いトレランスを有し、ジッタについてのトレランスは有していない。それとは対照的に、主流のマルチメディアアプリケーションは、低いフレームレート(最大30Hz)および大きいジッタのトレランスにより特徴付けられ、さらに、ソフトなリアルタイムなドメインの特性、即ち頻繁なフレームスキップを受け入れる。しかしながら、将来のユーザは、デスクトップにおけるマルチメディアアプリケーションとインターネットアプリケーションとからの保証されたタイミング挙動を期待するであろうことが考えられる。
【0013】
高品質のビデオドメインにおいては、システムのロードが複数の時間スケールにおいて動的に変更する。メインウィンドウやPiPウィンドウのコンテンツの交換および他のチャンネルへのスイッチングのようなユーザ主導の変更が分の時間スケールにおいて起こる(代表的には、バーストの発生を伴って)。同様にして、コマーシャルにより映画が中断されるような、サービスプロバイダが主導的な変更が分の時間スケールにおいて起こる。例えば、映画におけるシーンの変更のようなアプリケーションの平均ロードにおけるデータ依存性変更が、秒の時間スケールにおいて起こる。最終的に、MPEG符号化および復号化並びに動き推定のような多くのメディアプロセシング機能は、長時間に亘る大きなデータ依存性変更を示すロードを有する。これらのデータ依存性変更は何十ミリ秒という時間スケールにおいて生じる。要約すれば、擬似固定平均ロードの周辺における変更であって、平均ロードにおける変更を含む変更がある。
【0014】
異なる時間スケールにおいて動的挙動にアドレスするためには、マルチレベル適合制御構造が考えられてきたが、これについては、参照文献、S.van Loo,L.Steffens,R.Derwig,Quality of Service Resource Management in Consumer Terminals, Philips Research Laboratories Endhoven(PRLE),Coc.id.NL−MS 21166,May 2001であって、http://www.research.philips.com/manuscript/index.htmlから入手できる文献であって、文献、Z.Uykan,Hoerarchical control and multimedia,Multimedia applications in industrial autometion−Collected papers of the Spring 1997 postgraduate seminar,(Eds.H.Hyotyniemi and H.Koiva),Helsinki University of Technology,Report 106,pp.91−114,ISBN 951−22−3835,June 1997におけるように異なる時間軸に対応する、参照文献を参照されたい。
【0015】
マルチレベル適合制御は、メディアアプリケーションとQoS資源管理との間の協調的なアプローチを用いて実現される。この制御は、資源カーネルの機能性を提供し、保証し、資源予算を強化し且つ許容テストをサポートする層において基礎付けられている。
【0016】
資源カーネルはアプリケーション間の頑強さを提供し、アプリケーション間の時間的干渉を解決するが、このことは特にオープンシステムに対する大きな脅威となっている。HVE CMTsのコストパフォーマンスの課題は複数のアプリケーションにおいて付加的な頑強さの課題を生じさせる。コストパフォーマンスのよいメディアプロセシングは高い平均資源利用性を必要とする。この必要性は、最悪の資源割り当てにより従来達成された高品質ビデオのハードなリアルタイムの要求と相容れない。従来のリアルタイムのアプローチはCMTsに対しては手頃ではないため、より平均的な場合の資源割り当てを選択することが賢明である。動的ロードが与えられることにより、アプリケーションは、時々発生する(一時的な)構造的なオーバーロードに直面する。その結果、頑強さの問題は、アプリケーション自体により解決される必要がある。換言すれば、アプリケーションはそれらの予算により実行する必要がある。
【0017】
数十ミリ秒の時間スケールにおける適応可能制御の最下層は、メディアアプリケーション内にある。MPEG−2復号化複雑性推定モデルを用いることにより必要な計算ロードを予測することができ、その計算は、それが資源予算を超えないように、実質的にスケーリングされるscaled。同様な例は、3Dの復号化およびレンダリングのための適応制御について開示している、参照文献、G.Lafruit,L.Nachtergate,K.Denolf and J。Bormans,3D Computational Graceful Degradation,Proc.IEEE International symposium on Circuits and Systems(ISCAS),Vol.3,pp.547−550,May 2000にみることができる。
【0018】
適応制御のそれに続く層は資源マネージャ(RM)およびQoS資源マネージャ(QM)である。RMは数百ミリ秒以下の時間スケールにおいて機能し、スケーラブルアルゴリズム(SAs)、プラットフォームおよびオペレーティングシステム間の制御層とQMとを提供する。RMはアプリケーションの資源の使用をモニタし、これらの測定に基づいてそれらの最適値に予算を適応させ、これらの適応性についてQMに情報を与える。ときどき、RMはアプリケーションの必要な資源を割り当てることができず、QMに支援を要求する。適応制御の最上層はQMにあり、それは数百ミリ秒より長い時間スケールにおいて機能する。
【0019】
係属中の出願である国際公開第0219095号パンフレットにおいて、適応制御は3層において適応される。ローカル資源マネージャとQMに加えて、所謂戦略マネージャ(SM)について説明されている。このSMは、種々のアプリケーションの品質レベルの全体的なスケーリングを制御している。SMは、スケーラブルMPEG−2復号器のようなスケーラブルアルゴリズム(SAs)を用いるスケーラブルアプリケーションをQMとの間の通信のための必要性を満足する。
【0020】
図1は、SA1の例を模式的に示している。SA1は、基本的に、メディアプロセッシング2と品質制御ブロック3のためのアルゴリズムから成る。SA1は、一部がスケーラブルである多くの特定機能4、5、6、7に分割されることができる。出力の品質は、これらの機能の品質水準の適切な組み合わせに依存する。これらの組み合わせから、わずかな組み合わせのみがSA1について許容可能な品質水準を提供する。最適な品質の資源の組み合わせは、最下資源において最高品質をもつ曲線により結合される。品質制御ブロック3は、その機能のための適切な設定とこの情報を含んでいる。この概念は、SMに多くの責任を課す。SMは、全てのシングルアルゴリズム、種々のアプリケーションのためのSAsの構成、アプリケーションに特有の最適化等を扱う必要がある。さらに、SMは、ユーザまたはシステム(QM)により要求される全ての変更に対してSAsを適応させる必要がある。さらに、処理チェーンの部分において異なる可能性のある入力パラメータおよび出力パラメータが考慮に入れる必要がある。1つのSMモジュールにおけるこれら全ての責任は、新しい機能またはアプリケーションに対して、SMをデザインし、維持し且つ適応させることを困難にしている。
【0021】
本発明の目的は、改善されたシステム最適化および資源配分をもたらすメディアアプリケーションを実行するための方法を提供することである。
【発明の開示】
【課題を解決するための手段】
【0022】
それ故、本発明はメディアアプリケーションを実行する方法に関し、メディアアプリケーションは多くのアルゴリズムを有し、各々のアルゴリズムはスケーラブルかまたは非スケーラブルであり、その方法は:
(a)入力信号を受信する段階;
(b)出力信号を生成するために前記アルゴリズムを実行する段階;
(c)プロセシングパスにおけるある所定の部分を実行するための可能なアルゴリズムのクラスタのセットであるようにジョブを規定する段階;並びに
(d)入力仕様および/または出力仕様に基づいてメディアアプリケーションにおける各々のジョブのためのジョブモードを選ぶ段階であって、ジョブモードは可能なクラスタのセットの中にある1つの特定のアルゴリズムのクラスタである、段階;
から構成される。
【0023】
特定のタスクを実行するアルゴリズムをクラスタ化することにより、ジョブ制御ユニットはジョブのための品質および資源管理を制御することができ、それ故、戦略マネージャを軽減することができる。
【0024】
好適には、上記の方法は、システム変更が生じるときはいつでも、ジョブの動作可能状態を選択する段階を有し、その選択する段階は:
− ジョブモード;
− ジョブモードの有効な品質水準のセットであって、動作セットと呼ばれるセット;並びに
− 割り当てられた出力品質水準;
に依存する。
【0025】
適切なジョブ状態を動的に選択することにより、各々のジョブは資源の利用と出力品質に関して最適化する。この結果、全体的なシステム資源の改善された最適化が得られる。
【0026】
さらに、本発明はメディアシステムに関し、入力信号を受信するための入力手段およびプロセッサを有し、メディアシステムはメディアアプリケーションを実行するために配置され、メディアアプリケーションは多くのアルゴリズムを有し、各々のアルゴリズムはスケーラブルかまたは非スケーラブルであり、プロセッサは:
(a)出力信号を生成するための前記アルゴリズムを実行し;
(b)ジョブモードはアルゴリズムの可能なクラスタのセットの中にある1つの特定のアルゴリズムのクラスタであり、そのセットはジョブと呼ばれ、入力仕様および/または出力仕様に基づいてメディアアプリケーションにおける各々のジョブのためのジョブモードを選び;並びに
(c)システムの変更が生じるときはいつでも前記ジョブの動作状態を選択する;
ために配置される。
【0027】
一実施形態においては、メディアシステムは、デジタル民生マルチメディアターミナルのようなマルチメディア通信装置である。
【0028】
最終的に、本発明は上記の方法を実行するために配置されたコンピュータプログラムプロダクトに関し、記憶媒体はそのようなコンピュータプログラムプロダクトを有する。
【発明を実施するための最良の形態】
【0029】
一般のCMTは、衛星、ケーブル、記憶装置、インターネットおよびイーサネット(R)のような種々の種類の入力ソースからの入力を受け付けることが可能である。ビデオ入力はデジタルまたはアナログとすることができる。CMTは多くのビデオ出力、即ち、表示装置、記憶装置(VR、DVD+RW、またはハードディスク等)、およびIEEE 1394またはインターネットリンクを有することが可能である。表示装置における出力は、ユーザに焦点を当てることに基づいて2つの(動的変化)群に分けられることが可能である。ユーザに焦点を当てることにより出力が比較的重要となる。これらの入力と出力との間においては、多くのプロセシングパスが存在することが可能であり、複雑な状況下では結合点群と分岐点群を有する。
【0030】
CMT内の各々のプロセシングパスは、一般に、例えば、チャンネル復号化、ピクチャエンハンスメント、および(表示装置のための)レンダリングまたは(リンクのための)符号化等の機能的な多くのプロセシングパスを有する。各々の部分は、特定のジョブを実行するために必要であるタスクのある組み合わせ(クラスタ)を有する。したがって、本発明においては、これらの機能的プロセシング部分はジョブと呼ばれる。CMTがスケーラブル且つプログラマブルメディア装置である場合、それは多くのスケーラブルアルゴリズム(SAs)を有する。この場合、ジョブは、SAs(および可能な非スケーラブルアルゴリズム(NSAs)も)のクラスタを有する。図2は、ジョブ21の例を模式的に示している。ジョブ21は、資源制御ユニット22、幾つかのSAs23、24、25および非スケーラブルアルゴリズム26を有する。資源制御ユニット22はSAs23、24、25を用いて通信する。各々のSA23、24、25は、機能30のための資源を制御する品質制御(QC)27,28,29を有する。SAsの構造は図1に示した従来の最新技術の構造の状況に似ている。
【0031】
ジョブの機能記述は一般的(例えば、復号化およびエンハンスメントまたは他のためのタスク群の組み合わせまたはエンハンスメント)であるが故に、チャンネル、ソース、フォーマットおよび出力手段のような特定のパラメータに依存し且つ特有であるシングルジョブにおいては多くの特定のタスク(プロセシング変化)が存在することが可能である。例えば、スキャンレート変換は、表示装置の種類(例えば、インターレースまたはプログレッシブ)および入力データの種類、例えば、インターレースまたはプログレッシブ)それぞれに依存する。この結果、同じジョブにおいて、異なるパラメータについて異なるセットの機能(プロセシングの種類)が得られる。パラメータは、例えば、チャンネル変更またはウィンドウ間の交換により、動的に変化することが可能である。これらのパラメータの特定の設定は、ジョブのための固有な機能の組み合わせを規定し、それはジョブモードと呼ばれる。
【0032】
図3においては、異なるソース、フォーマットおよび出力ウィンドウのためのビデオエンハンスメントジョブのジョブモードの幾つかの例が挙げられている。この図から、ビデオアンハンスメントジョブにおけるタスクの機能性、数および順序が、異なるソース、フォーマットおよび表示ウィンドウに対して異なることが分かる。これは、結果的に異なるジョブモードをもたらす。
【0033】
SAsと同様に、ジョブをスケーリングすることができ、各々のジョブモードに関連して離散的な品質水準の設定を生じさせることができる。ジョブは各々の品質水準のための資源の(推定)必要条件を提供する。図4において、離散的な品質水準のセットの例を示している。図4においては、あるジョブモードmにおけるジョブの出力品質水準を資源の量に対して示している。‘群’における各々のドットは、ジョブを構成する異なるSAsにより用いられるある資源の量から得られる品質水準を表している。資源量が与えられる場合、SAs間のこの量の異なる分布が可能となる。一部の区域は他の区域より高い品質水準をもたらす。この事実、即ち2つまたはそれ以上のドットが縦軸の周りにあることが、図4のグラフにおいて分かる。
【0034】
SAsのクラスタであるジョブの場合、ジョブ(即ち、‘群’のサイズ)のビジュアル出力品質の範囲は入力ソースデータの種類と出力手段(ウィンドウ/スピーカ、記憶装置)のサイズに依存する。例えば、ビデオソースデータが高解像度(HD)であり且つ高精細度テレビ(HDTV)に表示される場合は、そのソースデータが標準解像度(SD)である場合より、出力品質はかなり高くなる。このようにして、各々のジョブのためであって、それ故、各々のプロセシングパスのための品質水準のセットは、特定のジョブモードmに依存する。
【0035】
したがって、本発明にしたがったスケーラブルであるプログラマブルプロセッシング装置においては、ジョブの可能な品質水準(資源のセットであって、それ故、対応する出力品質)を設定する前に、ジョブがアクティブである特定のジョブモードmが選択される。この選択は動的になされ、即ち、システム変更が起こるときはいつでも、(可能で異なる)ジョブモードの選択がなされる。
【0036】
例えば、チャンネル変更またはメインウィンドウおよびPiPウィンドウのコンテンツの交換によるジョブモードの変更は、ジョブモード変更(JMC)と呼ばれる。JMCはジョブの特定の機能性、そのアルゴリズムの数および順序における変更をもたらすことが可能である。各々のジョブモードについて、動作可能セットの数が規定され、これについては以下で説明する。図4においては、‘群’の最上部における品質水準は動作可能セットを構成する。各々の動作可能セットは、ウィンドウサイズ(適用可能な組み込みリサイジング技術を決定する)のような特性およびユーザに焦点を当てることに依存する各々のアルゴリズムのための特定なプロセシングを決定する。動作可能セットは動的に選択され、動作可能セットの変更は動作可能セットの変更(OSC)と呼ばれる。
【0037】
図5は、本発明にしたがったメディアシステムの機能別組織構造の例を模式的に示している。システム50においては、異なるジョブが同時に実行される。これらのジョブの資源はQoSマネージャ(QM)51により制御される。QM51は、頑強さ、効率的な資源の使用およびシステム50の最適化について責任を負っている。そのようなタスクは、異なるアプリケーション間の効果的なインタフェースおよびQM51により達成されることができる。本発明にしたがって、インタフェースは、3つの水準、即ち、戦略マネージャ52、ジョブマネージャ(JM)53および品質制御(QC)54に分離される。QC54はSA55を制御する制御ユニットである。SA55は、例えばノイズリダクションのような特定の機能56を実行する。それはまた、異なる資源の必要条件であって、それ故、異なる出力品質を用いて、同様の機能を実行するための異なる方法を提供する。これらの方法の各々はスケーラビリティ水準l∈L、L→{(Rl,Ql)}を定義し、ここで、(Rl,Ql)は必要とされる資源を表し、出力品質は水準lのために達成され、これについては係属中の出願である国際公開第0219095号パンフレットを参照されたい。SA55のスケーラビリティ水準lはアルゴリズムのデザイナにより規定され、アルゴリズムに特定のパラメータ(例えば、係数の数)の所定のセットにより設定される。QC54は、QoSシステムにより要求されるスケーラビリティ水準lを実行するために、必要なパラメータを設定する。
【0038】
初期設定において、JM53は、スケーラビリティパラメータP、ジョブモードMおよび全てのジョブモードm∈Mのための有効な品質水準{(Rm,Qm)}を提供し、ここで、Rmはジョブのために必要な資源を示し、Qmはジョブモードmにおけるパラメータpについて得られる共通の出力品質を示す。実行時間において、それは、上の想SM52およびQM51)から要求されるような、現時点のジョブモードのSAsのスケーラビリティ水準を設定する。QM51は、ビデオ、オーディオ、グラフィクス、インターネット、記憶等のような多くの異なるアプリケーションを扱うことが可能であるシステムの資源利用の最適化を実行する。その最適化が速く且つ公正な方法において実行されるように、好適には、特定のアプリケーションの意味はそのアプリケーションから取られる。この実施形態においては、SM52は、QM51とメディアアプリケーションとの間のインタフェースである。即ち、各々のメディアアプリケーションはそれ自身のSM52を有することが可能である。SM52の1つのタスクは、メディアの意味をもつ情報をQM51のメディアの意味をもたないスペースに変換することである。スケーラブルアルゴリズムのための品質範囲は、アルゴリズム、ソースデータおよび特定の出力手段である。好適には、QoSシステムは、次の3つの理由により、それらには左右されない。
− 過剰な不必要な情報を避けること
− 異なるプラットフォーム(システムに伴う変更)に対する移植性を支援すること
− 更新(時間に伴う変更)を支援すること
SM52は、プロセシングパスにおいて、ジョブモード変更の間にジョブのジョブモードを選択し、各々のジョブモードの動作可能セットについてQM51に情報を提供する。一実施形態においては、SM52は、ウィンドウマネージャ(WM)、ユーザインタフェース(UI)および他のメディアアプリケーションからのSMsのようなシステムの他のモジュールからの関連情報を考慮に入れる。
【0039】
このようにして、SM52は、効果的な品質ポイントのみを有するQM51のために品質探索スペースを選択的に最小化する。一実施形態においては、それがQM51に渡した情報は、各々のジョブのための動作可能セットに加えて、ジョブの重要度を規定する多くの重み付けであり、出力ウィンドウサイズに依存する。次いで、これらの重み付けは、システムの最適化の段階の間に、QM51によりさらに利用される。
【0040】
QM51によりシステムの最適化を可能にするために、ジョブの品質/資源の値が、意味的にニュートラルな項の状態で、ジョブユーティリティとして表される。
【0041】
好適には、QM51は、ジョブがそのような方法において実行され、全体的なシステムユーティリティが最大化され、且つ資源の必要条件が資源の有効性と適合する品質水準を選択する。全体的なシステムユーティリティは、実行ジョブのジョブユーティリティ、実行ジョブの依存性(プロセシングパスからもたらされる)およびそれらのジョブに関連する相対的な重要度の水準により決定される。
【0042】
システムユーティリティの全体的な(集中された)最適化の実行の次に、Qm51は、実行ジョブ(QC54により提供される動的な資源の必要性に基づいて)からの所謂品質マッピング(図6参照)を維持する。ジョブの数の変更、ジョブの相対的重要度、ジョブの品質マッピング(JMCsおよびOSCsによる)およびQC54からの支援のための要求は再最適化を必要とする。急速に変化する品質水準は非品質性として認識されるため、品質水準は慎重に調整される必要がある。この特徴は、参照文献、C.Lee,J.Lehoczky,R.Rajkumar and D.Siewiorek,A scalable solution to the multi−resource QoS problem,Proc.20th IEEE Real−Time Systems Symposium(RTSS),pp.315−326,December 1999において網羅されておらず、また、全体的な品質の最適化のためのジョブの間における依存性の結合でもない、ことに留意されたい。
【0043】
JMCは、特定のジョブのアルゴリズム23、24、25の数および順序における変更をもたらすことがある。JMCにおいては、スイッチングは継ぎ目がない状態であり、亜アルゴリズムの結合の再構成に関する古いモードのデータおよび新しいモードのデータの混合は回避されなければならない。
【0044】
一実施形態においては、メディアアプリケーションは、継ぎ目のない状態のスイッチングおよびデータ混合の回避について責任を負っている。QM51は、次の例で示すように、そのようにするために、アプリケーションは必要な資源を得る(即ち、保証された資源予算を得る)ことを確実にする必要がある。
【0045】
メディアシステムにおいては、他のチャンネルへのスイッチはJMCsを含み、QM51による再最適化を必要とし、実行ジョブの新しい品質水準を生み出す。そのような場合、ジョブの品質水準の減少が、先ず、実行され、それらのジョブの資源予算の減少がそれに続いて実行される。次の段階として、上の品質水準を受け取るジョブの資源予算は増加され、品質水準の増加がそれに続く。
【0046】
変更の種類
マルチメディアテレビシステムのことを考えると、多くのその定常状態の変更を思い浮かべることができ、それらは、チャンネルを変更させること、異なるアプリケーションをみるために新しいウィンドウを開くこと、ウィンドウを交換すること等である。以下において、スケーラブルビデオアルゴリズム(SVAs)、ジョブモード変更、動作可能セットの変更および品質水準変更において実行される3種類の変更について説明する。これらの変更およびそれらの原因について、表1にまとめ、以下で説明する。
【0047】
ジョブモード変更
ジョブモード変更(JMC)において、ジョブの機能の基本的セットは変更する。この機能のセットは、正しい出力を提供するために必要である。JMCは、資源の必要条件における可能な大きい変更とビジュアル品質におけるはっきりした変更により特徴付けられる。それらはユーザ、またはチャンネルのソース特性における変更によりアクティブにされるが、QoSシステムによっては決してそのようにされない。ジョブモード変更の性質をより理解するために、以下に、幾つかの例を挙げる。
【0048】
メインウィンドウとPiPウィンドウとの間の交換。同じソースのプロセシングは、メインウィンドウとPiPウィンドウとについて異なることが可能である。それ故、ユーザが2つのウィンドウを交換するとき、両方のパスに対するジョブモード変更が実行される。これは表1におけるケース1に対応する。そのような変更はユーザインタフェース(UI)により要求される。
【0049】
チャンネル変更。ユーザは、古いチャンネル(例えば、アナログ)と異なる新しいチャンネル(例えば、デジタル)のソースを用いて、チャンネルを変更する。この例は表1のケース2に対応する。チャンネル変更はUIにより要求される。
【0050】
チャンネルソース変更。同じチャンネルにおけるサービスプロバイダは、例えば、コマーシャル(ビデオ)により中断される映画(フィルム)等の異なる一部の入力パラメータを用いてソースを送信することが可能である。そのような変更は、データのプロセシング(例えば、ビデオ復号化)により検出され、パス(表1のケース3)の適切なジョブにおけるジョブモード変更を初期設定するために用いられる。
【0051】
何れのJMCも、動作可能セットであって、それ故、このジョブのための品質水準変更およびシステムにおける他のアクティブなジョブに対する可能な品質水準変更(QLCs)を有する。
【0052】
動作可能セット変更
動作可能セット変更(OSCs)において、ジョブの機能の基本セットは変化しない(同じジョブモードである)。必要な資源のセット、即ち、動作可能セットは変化する。OSCは、ジョブモードにおける異なる資源の必要条件により特徴付けられ、ビジュアル品質における変更が要求される。それらはユーザによりアクティブにされる。
【0053】
動作可能セット変更の一部の例は次のようなものである。
【0054】
焦点の変更。多くのアプリケーションがオンのとき、利用可能な資源は、それら全てのための高い出力品質をサポートするためには十分ではないことがあり得る。ユーザは、QM51を下の領域における他のウィンドウの品質水準に適応させて、どのウィンドウがユーザにとってより興味のもてる(ユーザが焦点を据える)ものであるかを特定することが可能である。有効な品質水準(即ち、動作可能セット)は、焦点を伴うアプリケーションと焦点を伴わないアプリケーションに対しては異なる。ユーザは、1つまたはそれ以上のウィンドウの焦点を変えることを決定することが可能である(表1のケース4)。この挙動は、これらのウィンドウの各々のための動作可能セットの変更をもたらすことが可能である。
【0055】
ウィンドウサイズの変更。出力品質水準のセットのためのジョブモードにより要求される資源のセットは、表示ウィンドウのサイズに依存する(即ち、パンクチャリングおよび内蔵リサイジング技術)。したがって、表示ウィンドウサイズの変更は、動作可能セットにおける変更により達成されることが可能である(表1のケース5)。
【0056】
何れのOSCも、このジョブに対して品質水準の変更(QLC)を有し、システムの残りのジョブに対してそれを有することが可能である。
【0057】
品質水準変更
品質水準変更(QLCs)において、ジョブの機能の基本的セット(ジョブモード)と動作可能セットは同じ状態のままである。ジョブモードの有効な品質水準のセットの品質水準、即ち、その資源の必要条件およびその出力品質は変化する。QLCは、ジョブモードの動作可能セットにおける異なる資源の必要条件により特徴付けられ、ビジュアル品質において変化する。それらは、QM51、SM52またはユーザによりアクティブにされる。すでに上記において示したように、ジョブのJMCまたはOSCはこのジョブにQLCをもたらし、残りのジョブにもたらすことも可能である。品質水準変更の理由の幾つかの他の例について次に挙げる。
【0058】
新しいアプリケーションの開始。ユーザは、新しいアプリケーションを見るために新しいウィンドウ(例えば、新しいプログラム)を開くことを決定することが可能である。新しいアプリケーションは新しいジョブを生成し、これはすでに存在するジョブに間接的な影響を及ぼす。新しいジョブは、利用可能ではない付加的なシステム資源の量を必要とする可能性がある。この場合、すでに存在するジョブは一部の資源をフリーにし、そのことはそれらの品質水準を低めることにより達成されることができる(表1のケース6)。逆の効果は、アプリケーションがスイッチをオフにされるとき、特徴的に現れる。
【0059】
ロード変更。ロードが動きおよび細部のようなビデオコンテンツのあるパラメータに敏感であるビデオアルゴリズムがある。アルゴリズムのロードであって、それ故、ジョブのロードが初期の要求より大きい場合、QM51はそのジョブにさらに資源を割り当てることにより反応することが可能である。十分な利用可能資源がない場合、QM51またはSM52はこの(または他の重要でない)ジョブの品質水準を減少させることが可能である(表1のケース7)。
【0060】
【表1】
システムの動的挙動について説明する前に、先ず、ジョブの定常状態について表すパラメータを規定する。
【0061】
メディアシステムにおいては、多くのジョブJ、即ちJ=1,...,│B│は、動作している。各々のジョブJはジョブモードMJのセットを有する。各々のジョブモードm∈MJはタスク(即ち、SAs)のセットNJ mと動作可能マッピングΦJ mのセットとを有する。各々の動作可能マッピングφ∈ΦJ mの範囲は有効な品質水準LJ m,Φのセット(即ち、動作可能セット)である。ジョブモード、動作可能セットおよび動作可能マッピングの間の関係並びに品質水準のグラフィック表示を、図6に提供する。MJの楕円におけるドットはジョブモードを表す。LJ m,Φの楕円のドットは品質水準lを表し、図4において示したドットと類似するものである。
【0062】
各々の品質水準l∈LJ m,Φは、資源の必要条件とジョブがサポートするそれぞれのビジュアル出力品質を規定するタプル(R,Q)lにマッピングする。
【0063】
資源の必要条件RはR=(r1,r2,...,r│R│)により規定され、ここで、ri(i=1,...,│R│)は資源の種類Riから要求される(静的)量であり、│R│はシステムの資源の数である。これら資源の必要条件Rは、許容制御および予算割り当て手順において用いられる。
【0064】
出力品質値Qはシステムの最適化のために提供される。本発明の主な事項の1つは、出力ビジュアル品質(正しく且つ最適である)はシステム性能の主な要因である。しかしながら、意味的にニュートラルな方法において最適化を実行するために、出力品質値Qは、意味的にニュートラルである品質レベルの最小と最大であるuminおよびumax(umin<umax)を用いて、ジョブユーティリティに変換される。定期的に、適切なマッピングφに対応するタプル
【0065】
(外1)
のセットが、システムの最適化を実行するために、SM52によりQM51に提供される。
【0066】
したがって、ジョブの状態SJは、次のように表される。
− 現時点のジョブモード
− 適切な動作可能マッピング、並びに
− 割り当てられた品質水準、即ち、
【0067】
(外2)
ジョブ57、58は、各々のJMCおよびOSCにおいて、適切なジョブモードと動作可能マッピングを選択することおよびQM51に対応する動作可能セットを提供することについて責任を負っている。QM51は、システムにおける各々のジョブの品質水準を選択することについて責任を負っている。ジョブの状態の変更は、システムのため、並びにビデオプロセッシングモジュールの機能性および制御のための関係を有している。後者の関係については、以下に説明する。
【0068】
各々のジョブモードm∈MJはタスクの特定の組み合わせNJ mを有する。タスク間の同期化はローカルキューにより実行される。タスクはその入力キューからデータを受信し、それらを処理し、その出力キューにそれらを送信する。データは、フィールド、フレームまたはポインターのようなパケットを用いて、共有メモリの場合はフィールド/フレームに送信される。タスクの入力キューが空である場合、新しいデータがその入力キューに届くまで、タスクはブロックされたままである。タスクはまた、その出力キューがフルである場合、ブロックされることが可能である。
【0069】
JMCにおいては、例えば、miからmjに、mi,mj∈MJを用いて、ジョブタスクの組み合わせが変更される。この変更は、一部のタスクを取り除く(古い)こと、および/または新しいタスクを含む(新しい)こと、および/または一部の存在するタスクの順序またはパラメータを変更する(変更)ことにより、なされることができる。ブロッキングは、入力キューにデータを送信しないことにより達成される。タスクの挿入は、それらをアンブロッキングすることにより同じように達成される。タスクの順序は、ジョブモードmjにより規定され、出力キューの設定を通してタスク(SVAs)の制御部分により制御される。図7において、JMCの例を示している。
【0070】
JMCの主な事項の1つは、タスクのセットにおける如何なる変更も継ぎ目のない状態で実行される必要があることである。ビデオプロセシングチェーンにおいては、各々のタスクのプロセスが正しいデータに適用されることが重要である。JMCが新しいデータと同期化される場合、間違った出力画像フォーマットは回避される。例えば、古いソースがHDソースである場合、表示装置はSDである。このとき、古いジョブモードは、表示装置の必要条件に適合するように入力ソースの解像度を減少させる。また、新しいソースがSDである場合、プロセシングは時を同じくして適応することができない。このとき、正しいプロセシングが設定されるまで、出力解像度は、SDの表示装置におけるSDソースの減少された解像度である。本発明の一実施形態においては、効果的な遷移は、データをスタンピングする、即ちジョブモードを認識しているSAs(即ち、QC54)の制御部分を有するモードにより達成される。
【0071】
JMCにおいて、タスクのセットは変化するが、タスク間の結合もまた変化する。したがって、もう1つの重要な事項は古いモードのデータと新しいモードのデータの混合を回避することである。例えば、タスクT1が、T2をブロックするために、T3に新しいモードの出力データを再経路指定するとき、データは混合されることとなる一方、T2は古いモードのデータに関して仕上げの実行を有しない。このことが生じる場合、先ず、新しいモードのデータがT3の入力キュー(Q2)に達し、古いモードのデータが続く。データの混合は、ジョブモードの変更の間にタスクの優先順位を操作することにより回避されることができる(T2の高い優先順位を有することは、T1が最経路指定する前に、それがプロセシングを仕上げることを保証する)。他の解決方法は、タスクの出力キューの再経路指定するタイミングを制御することにより提供されることができる。例えば、タスクT2はそれが古いモードのデータを仕上げたときに許容信号を送信し、T1は新しいモードのデータをQ2に送信する前にこの許容信号を待つ。第3の解決方法はデータの順序の回復をサポートする。T3の入力キュー(Q2)は特有のモードである2つのサブキューを有する。それ故、そのキューは、それぞれのサブキューにおける古いモードのデータおよび新しいモードのデータの正しい分離(経路指定)を制御し、古いモードのデータが仕上げられたとき、新しいモードのデータは次のタスク(T3)に送信される。
【0072】
第1の解決方法は、システムオーバーヘッドを増加させる実行時間におけるタスクの優先順位を変更させることを意味する。第3の解決方法は魅力的な解決方法であるが、そのようなキュー管理を支援するシステムを必要とする。第2の解決方法はSAsの制御部分のデザインを複雑にするが、それは非常に効果的であることが分かる。それは好適な解決方法である。
【0073】
上記のように、OSVまたはQLCにおいては、ジョブのタスクのセットは変化せず、ジョブモードはそのまま維持される。OSCにおいては、φiからφjにマッピングが変更され、これについては図6を参照されたい。これは、SAデザイナが焦点の変更またはウィンドウサイズのような特別の場合を扱うために導入したプロセシングにより規定される、資源の必要性における変更の結果である。
【0074】
QLCにおいて、ジョブの挙動を表す品質水準は、例えば、所定の動作可能マッピングの範囲、即ち、
【0075】
(外3)
においてliからljに修正される(図6参照)。QM51は、上記のような理由により、ジョブに利用可能である資源を変更する。ジョブは、タスクのセットNJ mのプロセシングを変更することによりこの変更に応じる。そのようにすることにより、タプル
【0076】
(外4)
が満足されることを保証する。
【0077】
ジョブモードの品質水準はアプリケーションのデザイナにより規定される。タスクのプロセシング(SAs)の変更は、係数、フィールド、考慮される対象等の数(例えば、ポイント対ライン)を変更することにより実行されることができる。
【0078】
図8は、本発明にしたがったメディアシステムの例を模式的に示している。メディアシステムは、命令およびデータを記憶するメモリユニット81、82、83、84に接続されるプロセシング手段80、1つまたはそれ以上の読み取りユニット(例えば、フロッピー(R)ディスク91、CD ROM92、DVD等を読み取る)、入力装置としてのキーボード86およびマウス93、並びに、出力装置としてのモニタ87およびプリンタ88を有する。トラックボールおよびタッチスクリーンのような他の入力装置並びに出力装置を備えることが可能である。ネットワーク90におけるデータ通信のために、インタフェース手段89を備える。
【0079】
示されているメモリユニットはRAM84、(E)EPROM83、ROM82およびハードディスク81を有する。しかしながら、さらなるメモリユニットおよび/または当業者に周知である他のメモリユニットを備えることが可能であることが理解される必要がある。さらに、必要に応じて、それらのうち1つまたはそれ以上が、プロセシング手段80から物理的に離れて位置付けられることが可能である。プロセシング手段80は1つのボックスとして示されているが、それらは、当業者に周知であるような、互いに離れて位置付けられることが可能であるような、1つのメインプロセッサにより制御されるかまたは並列状態で機能する幾つかのプロセシングユニットを有することが可能である。
【0080】
本発明は好適な実施形態を伴って説明したが、上記の概略の原理の範囲内で修正を行うことが可能であることは当業者に明らかであろう。本発明はそれら好適な実施形態に限定されるものではなく、そのような修正を包含することを意図するものである。
【図面の簡単な説明】
【0081】
【図1】最新技術からのスケーラブルアルゴリズムの例を示す図である。
【図2】ジョブの例を模式的に示す図である。
【図3】ビデオエンハンスメントジョブの一部のジョブモードを示す図である。
【図4】特定のジョブモードにおけるジョブのための資源の機能としての品質水準を表すグラフである。
【図5】品質/資源制御ユニットのスキームを示す図である。
【図6】一部のジョブモードと対応する品質水準との間のマッピングを示す図である。
【図7】ジョブモード変更の例を模式的に示す図である。
【図8】本発明にしたがったメディアシステムの例を模式的に示す図である。
【0001】
本発明は、メディアアップリケーションを実行する方法、多くのアルゴリズムを有するメディアアプリケーションであって、各々のアルゴリズムがスケーラブルかまたは非スケーラブルである場合に関する。本発明はまた、メディアシステムに関し、さらに詳細には、マルチメディア通信装置に関する。
【背景技術】
【0002】
民生ターミナル(CTs)は、双方向マルチメディアターミナル、通信ネットワーク(電話)およびビデオ放送ネットワークの簡単なターミナルから双方向マルチメディアターミナルに、その上、ホームネットワークまたはユビキタス(ambient intelligence)環境における要素に徐々に発展している。
【0003】
デジタルテレビセットやセットトップボックス(STBs)のような大容量のエレクトロニクス(HVE)のCTsにおいては、マルチメディアのサービスの品質(QoS)は出力品質を最適化するために用いられる。CTsの基本メディアは高品質のオーディオおよびビデオである。基本メディアプロセシング機能がスケーラブルである場合、他のメディアプロセシング機能は殆んど追加費用を追加しないか追加費用を追加することはない。次の2つの理由のために、オーディオをスケーリングすることはビデオをスケーリングすることに比べて重要ではない。低品質のオーディオ(例えば、モノラル)と組み合わせると、ビデオは低品質において認識され、高品質のオーディオ(例えば、マルチチャンネル)は高品質のビデオに比較して資源のほんの一部を消費する。CTsのためのマルチメディアのQoSのチャレンジは、高品質のビデオに主に適用されることができるQoSの扱い方を見つけることにあり、また、3Dグラフィクスのような他のメディアをサポートする。CTsにおける高品質のビデオ処理は、例えば、(ネットワーク化された)ワークステーション環境における主流のマルチメディアプロセシングと比較するとき、多くの際立った特徴を有しており、このことについては、参考文献、K.Nahrstedt,H.Chu,S.Narayan,QoS−aware Resonance Management for Distributed Multimedia Applications,Journal on High−Speed Networking, Special Issue on Multimedia Networking、ISO Press, Vol.8, No.3−4, pp.227−255,1998を参照されたい。
【0004】
メディアプロセシングの種々の種類のためのQoSパラメータは非常にアプリケーションドメインに特有であることが示されている。さらに、高品質のビデオは他の処理機能に比較して非常に差し迫ったタイミングについての必要性を有している。
【0005】
メッシュ、テクスチャおよびスクリーン解像度が、参考文献、G.Lafruit,L.Nachtergale,K.Denolf and J.Bormans,3D Computational Graceful Degradation,Proc.IEEE International Symposium on Circuits and Systems(ISCAS),Vol.3,pp.547−550, May 2000において、固定フレームレートを保つ間の3D計算グレースフルデグラデーションのためのQoSパラメータとして用いられている。ワークステーション環境におけるビデオアプリケーションのための使用頻度の高いQoSパラメータは、スクリーン解像度、フレームレート、画像サイズ、色の深み、ビットレートおよび計算品質であり、これについては、参考文献、B.Li and K.Nahrstedt, Dynamic Reconfiguration for Complex Multimedia Applications,Proc. International Conference on Multimedia Computing and Systems(ICMCS),Vol.1,pp.165−170, June 1999を参照されたい。空間(分解能)スケーラビリティおよび時間(ビットレートおよびフレームレート)スケーラビリティは、画像圧縮(MPEG*、H.26*等であり、例えば、参考文献、J.R.Morros and F.Marques,A Proposal for dependent optimization in scalable region−bvased coding systems,Proc.IEEE International Conference on Image Processing(ICIP),Vol.4,pp.295−299,October 1999を参照されたい)の分野において非常に詳細に利用されている。
【0006】
高品質のビデオの要求をもつ民生メディアターミナル(CMTs)においては、これらのパラメータは一般に適用できない。高品質のビデオは、固定フィールド/フレームレートおよびフレームスキップについての低い許容範囲即ち非常に厳しいタイミングの要求を有しているが、ジッタ(即ち、フレームレート変動)についての許容範囲はない。さらに、テレビスクリーンの解像度はその規格(例えば、PAL、NTSC、ATSC、VGA)に適合され、画像(または、ウィンドウ)サイズは固定される(例えば、メインウィンドウまたはPiPウィンドウ)かまたはユーザにより決定される。最終的には、放送環境における受信器、即ち現在のCMTsは圧縮品質およびビットレートを取り決めるためのオプションを有していないが、ホームデジタルネットワークにおけるCMTsのために今後は変わる可能性がある。
【0007】
多くのパラメータの設定は最適化の目的のためのシステムにより適合可能であるというよりむしろ環境により強要されるが、それらは特定のビデオ出力品質のために必要とされる処理量を決定する。例としては、ウィンドウサイズが、ビジュアル出力品質の損失を伴わないで適用されることができる組み込まれるリサイジング技術を決定し、これについては、参照文献、Z.Zhong and Y.Chen,Scaling in MPEG−2 Decoding Loop with Mixed Processing, Digest of Technical Papers IEEE International Conference on Consumer Electronics(ICCE),pp.76−77,June 2001を参照されたい。
【0008】
したがって、代わりのパラメータが高品質のビデオのために用いられる必要がある。これらのパラメータは、代表的にはビデオアルゴリズムに特有であり、アルゴリズム毎に変わる可能性がある。高品質ビデオのためのオプショナルパラメータは、フィルタ係数の数(例えば、0、8、32等)、用いられるフィールド数(例えば、1、2、3等)、基準対象(例えば、ポイント、ライン等)および処理の種類(例えば、線形、非線形)である。
【0009】
民生プロダクトは、シリコンのコストおよび電力消費に関する大きい圧力を伴って、著しく資源の制限を受ける。専用ハードウェアの解決方法と競合することができるように、利用可能な資源は、頑強さのようなHVE CTsの代表的な品質を保ちつつ、非常にコストパフォーマンスのよいものとして用いられる必要があり、高品質のデジタルオーディオおよびビデオ処理により強要される厳しいタイミングの要求を満たす必要がある。
【0010】
HVE CMTsにおいては、ソフトウェアメディアプロセシングは、TriMediaTM Technologies Inc.の一群のvery long instruction word(VLIW)プロセッサのような専用メディアプロセッサを用いてなされ、これについては、参考文献、F.Sijistermans and G.Slavenburg,Provideing the processing power for consumer multimedia,Digest of Technical Papers IEEE International Conference on Consumer Electronics(ICCE),pp.156−157,1997を参照されたい。専用ハードウェアの解決方法に比較して、これらのメディアプロセッサはコストが高く、消費電力が大きい。したがって、コストパフォーマンスがよいことがHVE CMTsにおける主要な課題である。コストパフォーマンスがよいことは、高い平均資源活用性を必要とする。
【0011】
今日のHVE CTsは確固たる挙動を提供しており、ユーザは、メディアプロセシングがソフトウェアにおいて実行され且つこれらのターミナルがさらに開かれるようになるとき、同様の頑強さを期待する。今のところ、ユーザはデスクトップにおけるマルチメディアアプリケーションおよびインターネットアプリケーションについて同様な期待はもっていない(また、これらのアプリケーションは非頑強挙動を示すことは珍しくない)。資源予算(または、予約であって、これについては、参考文献、C.W.Mercer,S.Savage,H.Tokuda,Processor Capability Reserves:Operating System Support for Multimedia Application,In:Proc. Intaenational Conference on Mulltimedia Computing and Systems(ICMCS),pp.90−99,May 1994を参照されたい)は、アプリケーション間の頑強さを提供するための証明された概念であることに留意されたい。
【0012】
高品質のビデオは、50乃至120Hzのフィールドレートおよびハードなリアルタイムのドメインと大きいジッタのトレランスの特性、即ちフレームスキップについての低いトレランスを有し、ジッタについてのトレランスは有していない。それとは対照的に、主流のマルチメディアアプリケーションは、低いフレームレート(最大30Hz)および大きいジッタのトレランスにより特徴付けられ、さらに、ソフトなリアルタイムなドメインの特性、即ち頻繁なフレームスキップを受け入れる。しかしながら、将来のユーザは、デスクトップにおけるマルチメディアアプリケーションとインターネットアプリケーションとからの保証されたタイミング挙動を期待するであろうことが考えられる。
【0013】
高品質のビデオドメインにおいては、システムのロードが複数の時間スケールにおいて動的に変更する。メインウィンドウやPiPウィンドウのコンテンツの交換および他のチャンネルへのスイッチングのようなユーザ主導の変更が分の時間スケールにおいて起こる(代表的には、バーストの発生を伴って)。同様にして、コマーシャルにより映画が中断されるような、サービスプロバイダが主導的な変更が分の時間スケールにおいて起こる。例えば、映画におけるシーンの変更のようなアプリケーションの平均ロードにおけるデータ依存性変更が、秒の時間スケールにおいて起こる。最終的に、MPEG符号化および復号化並びに動き推定のような多くのメディアプロセシング機能は、長時間に亘る大きなデータ依存性変更を示すロードを有する。これらのデータ依存性変更は何十ミリ秒という時間スケールにおいて生じる。要約すれば、擬似固定平均ロードの周辺における変更であって、平均ロードにおける変更を含む変更がある。
【0014】
異なる時間スケールにおいて動的挙動にアドレスするためには、マルチレベル適合制御構造が考えられてきたが、これについては、参照文献、S.van Loo,L.Steffens,R.Derwig,Quality of Service Resource Management in Consumer Terminals, Philips Research Laboratories Endhoven(PRLE),Coc.id.NL−MS 21166,May 2001であって、http://www.research.philips.com/manuscript/index.htmlから入手できる文献であって、文献、Z.Uykan,Hoerarchical control and multimedia,Multimedia applications in industrial autometion−Collected papers of the Spring 1997 postgraduate seminar,(Eds.H.Hyotyniemi and H.Koiva),Helsinki University of Technology,Report 106,pp.91−114,ISBN 951−22−3835,June 1997におけるように異なる時間軸に対応する、参照文献を参照されたい。
【0015】
マルチレベル適合制御は、メディアアプリケーションとQoS資源管理との間の協調的なアプローチを用いて実現される。この制御は、資源カーネルの機能性を提供し、保証し、資源予算を強化し且つ許容テストをサポートする層において基礎付けられている。
【0016】
資源カーネルはアプリケーション間の頑強さを提供し、アプリケーション間の時間的干渉を解決するが、このことは特にオープンシステムに対する大きな脅威となっている。HVE CMTsのコストパフォーマンスの課題は複数のアプリケーションにおいて付加的な頑強さの課題を生じさせる。コストパフォーマンスのよいメディアプロセシングは高い平均資源利用性を必要とする。この必要性は、最悪の資源割り当てにより従来達成された高品質ビデオのハードなリアルタイムの要求と相容れない。従来のリアルタイムのアプローチはCMTsに対しては手頃ではないため、より平均的な場合の資源割り当てを選択することが賢明である。動的ロードが与えられることにより、アプリケーションは、時々発生する(一時的な)構造的なオーバーロードに直面する。その結果、頑強さの問題は、アプリケーション自体により解決される必要がある。換言すれば、アプリケーションはそれらの予算により実行する必要がある。
【0017】
数十ミリ秒の時間スケールにおける適応可能制御の最下層は、メディアアプリケーション内にある。MPEG−2復号化複雑性推定モデルを用いることにより必要な計算ロードを予測することができ、その計算は、それが資源予算を超えないように、実質的にスケーリングされるscaled。同様な例は、3Dの復号化およびレンダリングのための適応制御について開示している、参照文献、G.Lafruit,L.Nachtergate,K.Denolf and J。Bormans,3D Computational Graceful Degradation,Proc.IEEE International symposium on Circuits and Systems(ISCAS),Vol.3,pp.547−550,May 2000にみることができる。
【0018】
適応制御のそれに続く層は資源マネージャ(RM)およびQoS資源マネージャ(QM)である。RMは数百ミリ秒以下の時間スケールにおいて機能し、スケーラブルアルゴリズム(SAs)、プラットフォームおよびオペレーティングシステム間の制御層とQMとを提供する。RMはアプリケーションの資源の使用をモニタし、これらの測定に基づいてそれらの最適値に予算を適応させ、これらの適応性についてQMに情報を与える。ときどき、RMはアプリケーションの必要な資源を割り当てることができず、QMに支援を要求する。適応制御の最上層はQMにあり、それは数百ミリ秒より長い時間スケールにおいて機能する。
【0019】
係属中の出願である国際公開第0219095号パンフレットにおいて、適応制御は3層において適応される。ローカル資源マネージャとQMに加えて、所謂戦略マネージャ(SM)について説明されている。このSMは、種々のアプリケーションの品質レベルの全体的なスケーリングを制御している。SMは、スケーラブルMPEG−2復号器のようなスケーラブルアルゴリズム(SAs)を用いるスケーラブルアプリケーションをQMとの間の通信のための必要性を満足する。
【0020】
図1は、SA1の例を模式的に示している。SA1は、基本的に、メディアプロセッシング2と品質制御ブロック3のためのアルゴリズムから成る。SA1は、一部がスケーラブルである多くの特定機能4、5、6、7に分割されることができる。出力の品質は、これらの機能の品質水準の適切な組み合わせに依存する。これらの組み合わせから、わずかな組み合わせのみがSA1について許容可能な品質水準を提供する。最適な品質の資源の組み合わせは、最下資源において最高品質をもつ曲線により結合される。品質制御ブロック3は、その機能のための適切な設定とこの情報を含んでいる。この概念は、SMに多くの責任を課す。SMは、全てのシングルアルゴリズム、種々のアプリケーションのためのSAsの構成、アプリケーションに特有の最適化等を扱う必要がある。さらに、SMは、ユーザまたはシステム(QM)により要求される全ての変更に対してSAsを適応させる必要がある。さらに、処理チェーンの部分において異なる可能性のある入力パラメータおよび出力パラメータが考慮に入れる必要がある。1つのSMモジュールにおけるこれら全ての責任は、新しい機能またはアプリケーションに対して、SMをデザインし、維持し且つ適応させることを困難にしている。
【0021】
本発明の目的は、改善されたシステム最適化および資源配分をもたらすメディアアプリケーションを実行するための方法を提供することである。
【発明の開示】
【課題を解決するための手段】
【0022】
それ故、本発明はメディアアプリケーションを実行する方法に関し、メディアアプリケーションは多くのアルゴリズムを有し、各々のアルゴリズムはスケーラブルかまたは非スケーラブルであり、その方法は:
(a)入力信号を受信する段階;
(b)出力信号を生成するために前記アルゴリズムを実行する段階;
(c)プロセシングパスにおけるある所定の部分を実行するための可能なアルゴリズムのクラスタのセットであるようにジョブを規定する段階;並びに
(d)入力仕様および/または出力仕様に基づいてメディアアプリケーションにおける各々のジョブのためのジョブモードを選ぶ段階であって、ジョブモードは可能なクラスタのセットの中にある1つの特定のアルゴリズムのクラスタである、段階;
から構成される。
【0023】
特定のタスクを実行するアルゴリズムをクラスタ化することにより、ジョブ制御ユニットはジョブのための品質および資源管理を制御することができ、それ故、戦略マネージャを軽減することができる。
【0024】
好適には、上記の方法は、システム変更が生じるときはいつでも、ジョブの動作可能状態を選択する段階を有し、その選択する段階は:
− ジョブモード;
− ジョブモードの有効な品質水準のセットであって、動作セットと呼ばれるセット;並びに
− 割り当てられた出力品質水準;
に依存する。
【0025】
適切なジョブ状態を動的に選択することにより、各々のジョブは資源の利用と出力品質に関して最適化する。この結果、全体的なシステム資源の改善された最適化が得られる。
【0026】
さらに、本発明はメディアシステムに関し、入力信号を受信するための入力手段およびプロセッサを有し、メディアシステムはメディアアプリケーションを実行するために配置され、メディアアプリケーションは多くのアルゴリズムを有し、各々のアルゴリズムはスケーラブルかまたは非スケーラブルであり、プロセッサは:
(a)出力信号を生成するための前記アルゴリズムを実行し;
(b)ジョブモードはアルゴリズムの可能なクラスタのセットの中にある1つの特定のアルゴリズムのクラスタであり、そのセットはジョブと呼ばれ、入力仕様および/または出力仕様に基づいてメディアアプリケーションにおける各々のジョブのためのジョブモードを選び;並びに
(c)システムの変更が生じるときはいつでも前記ジョブの動作状態を選択する;
ために配置される。
【0027】
一実施形態においては、メディアシステムは、デジタル民生マルチメディアターミナルのようなマルチメディア通信装置である。
【0028】
最終的に、本発明は上記の方法を実行するために配置されたコンピュータプログラムプロダクトに関し、記憶媒体はそのようなコンピュータプログラムプロダクトを有する。
【発明を実施するための最良の形態】
【0029】
一般のCMTは、衛星、ケーブル、記憶装置、インターネットおよびイーサネット(R)のような種々の種類の入力ソースからの入力を受け付けることが可能である。ビデオ入力はデジタルまたはアナログとすることができる。CMTは多くのビデオ出力、即ち、表示装置、記憶装置(VR、DVD+RW、またはハードディスク等)、およびIEEE 1394またはインターネットリンクを有することが可能である。表示装置における出力は、ユーザに焦点を当てることに基づいて2つの(動的変化)群に分けられることが可能である。ユーザに焦点を当てることにより出力が比較的重要となる。これらの入力と出力との間においては、多くのプロセシングパスが存在することが可能であり、複雑な状況下では結合点群と分岐点群を有する。
【0030】
CMT内の各々のプロセシングパスは、一般に、例えば、チャンネル復号化、ピクチャエンハンスメント、および(表示装置のための)レンダリングまたは(リンクのための)符号化等の機能的な多くのプロセシングパスを有する。各々の部分は、特定のジョブを実行するために必要であるタスクのある組み合わせ(クラスタ)を有する。したがって、本発明においては、これらの機能的プロセシング部分はジョブと呼ばれる。CMTがスケーラブル且つプログラマブルメディア装置である場合、それは多くのスケーラブルアルゴリズム(SAs)を有する。この場合、ジョブは、SAs(および可能な非スケーラブルアルゴリズム(NSAs)も)のクラスタを有する。図2は、ジョブ21の例を模式的に示している。ジョブ21は、資源制御ユニット22、幾つかのSAs23、24、25および非スケーラブルアルゴリズム26を有する。資源制御ユニット22はSAs23、24、25を用いて通信する。各々のSA23、24、25は、機能30のための資源を制御する品質制御(QC)27,28,29を有する。SAsの構造は図1に示した従来の最新技術の構造の状況に似ている。
【0031】
ジョブの機能記述は一般的(例えば、復号化およびエンハンスメントまたは他のためのタスク群の組み合わせまたはエンハンスメント)であるが故に、チャンネル、ソース、フォーマットおよび出力手段のような特定のパラメータに依存し且つ特有であるシングルジョブにおいては多くの特定のタスク(プロセシング変化)が存在することが可能である。例えば、スキャンレート変換は、表示装置の種類(例えば、インターレースまたはプログレッシブ)および入力データの種類、例えば、インターレースまたはプログレッシブ)それぞれに依存する。この結果、同じジョブにおいて、異なるパラメータについて異なるセットの機能(プロセシングの種類)が得られる。パラメータは、例えば、チャンネル変更またはウィンドウ間の交換により、動的に変化することが可能である。これらのパラメータの特定の設定は、ジョブのための固有な機能の組み合わせを規定し、それはジョブモードと呼ばれる。
【0032】
図3においては、異なるソース、フォーマットおよび出力ウィンドウのためのビデオエンハンスメントジョブのジョブモードの幾つかの例が挙げられている。この図から、ビデオアンハンスメントジョブにおけるタスクの機能性、数および順序が、異なるソース、フォーマットおよび表示ウィンドウに対して異なることが分かる。これは、結果的に異なるジョブモードをもたらす。
【0033】
SAsと同様に、ジョブをスケーリングすることができ、各々のジョブモードに関連して離散的な品質水準の設定を生じさせることができる。ジョブは各々の品質水準のための資源の(推定)必要条件を提供する。図4において、離散的な品質水準のセットの例を示している。図4においては、あるジョブモードmにおけるジョブの出力品質水準を資源の量に対して示している。‘群’における各々のドットは、ジョブを構成する異なるSAsにより用いられるある資源の量から得られる品質水準を表している。資源量が与えられる場合、SAs間のこの量の異なる分布が可能となる。一部の区域は他の区域より高い品質水準をもたらす。この事実、即ち2つまたはそれ以上のドットが縦軸の周りにあることが、図4のグラフにおいて分かる。
【0034】
SAsのクラスタであるジョブの場合、ジョブ(即ち、‘群’のサイズ)のビジュアル出力品質の範囲は入力ソースデータの種類と出力手段(ウィンドウ/スピーカ、記憶装置)のサイズに依存する。例えば、ビデオソースデータが高解像度(HD)であり且つ高精細度テレビ(HDTV)に表示される場合は、そのソースデータが標準解像度(SD)である場合より、出力品質はかなり高くなる。このようにして、各々のジョブのためであって、それ故、各々のプロセシングパスのための品質水準のセットは、特定のジョブモードmに依存する。
【0035】
したがって、本発明にしたがったスケーラブルであるプログラマブルプロセッシング装置においては、ジョブの可能な品質水準(資源のセットであって、それ故、対応する出力品質)を設定する前に、ジョブがアクティブである特定のジョブモードmが選択される。この選択は動的になされ、即ち、システム変更が起こるときはいつでも、(可能で異なる)ジョブモードの選択がなされる。
【0036】
例えば、チャンネル変更またはメインウィンドウおよびPiPウィンドウのコンテンツの交換によるジョブモードの変更は、ジョブモード変更(JMC)と呼ばれる。JMCはジョブの特定の機能性、そのアルゴリズムの数および順序における変更をもたらすことが可能である。各々のジョブモードについて、動作可能セットの数が規定され、これについては以下で説明する。図4においては、‘群’の最上部における品質水準は動作可能セットを構成する。各々の動作可能セットは、ウィンドウサイズ(適用可能な組み込みリサイジング技術を決定する)のような特性およびユーザに焦点を当てることに依存する各々のアルゴリズムのための特定なプロセシングを決定する。動作可能セットは動的に選択され、動作可能セットの変更は動作可能セットの変更(OSC)と呼ばれる。
【0037】
図5は、本発明にしたがったメディアシステムの機能別組織構造の例を模式的に示している。システム50においては、異なるジョブが同時に実行される。これらのジョブの資源はQoSマネージャ(QM)51により制御される。QM51は、頑強さ、効率的な資源の使用およびシステム50の最適化について責任を負っている。そのようなタスクは、異なるアプリケーション間の効果的なインタフェースおよびQM51により達成されることができる。本発明にしたがって、インタフェースは、3つの水準、即ち、戦略マネージャ52、ジョブマネージャ(JM)53および品質制御(QC)54に分離される。QC54はSA55を制御する制御ユニットである。SA55は、例えばノイズリダクションのような特定の機能56を実行する。それはまた、異なる資源の必要条件であって、それ故、異なる出力品質を用いて、同様の機能を実行するための異なる方法を提供する。これらの方法の各々はスケーラビリティ水準l∈L、L→{(Rl,Ql)}を定義し、ここで、(Rl,Ql)は必要とされる資源を表し、出力品質は水準lのために達成され、これについては係属中の出願である国際公開第0219095号パンフレットを参照されたい。SA55のスケーラビリティ水準lはアルゴリズムのデザイナにより規定され、アルゴリズムに特定のパラメータ(例えば、係数の数)の所定のセットにより設定される。QC54は、QoSシステムにより要求されるスケーラビリティ水準lを実行するために、必要なパラメータを設定する。
【0038】
初期設定において、JM53は、スケーラビリティパラメータP、ジョブモードMおよび全てのジョブモードm∈Mのための有効な品質水準{(Rm,Qm)}を提供し、ここで、Rmはジョブのために必要な資源を示し、Qmはジョブモードmにおけるパラメータpについて得られる共通の出力品質を示す。実行時間において、それは、上の想SM52およびQM51)から要求されるような、現時点のジョブモードのSAsのスケーラビリティ水準を設定する。QM51は、ビデオ、オーディオ、グラフィクス、インターネット、記憶等のような多くの異なるアプリケーションを扱うことが可能であるシステムの資源利用の最適化を実行する。その最適化が速く且つ公正な方法において実行されるように、好適には、特定のアプリケーションの意味はそのアプリケーションから取られる。この実施形態においては、SM52は、QM51とメディアアプリケーションとの間のインタフェースである。即ち、各々のメディアアプリケーションはそれ自身のSM52を有することが可能である。SM52の1つのタスクは、メディアの意味をもつ情報をQM51のメディアの意味をもたないスペースに変換することである。スケーラブルアルゴリズムのための品質範囲は、アルゴリズム、ソースデータおよび特定の出力手段である。好適には、QoSシステムは、次の3つの理由により、それらには左右されない。
− 過剰な不必要な情報を避けること
− 異なるプラットフォーム(システムに伴う変更)に対する移植性を支援すること
− 更新(時間に伴う変更)を支援すること
SM52は、プロセシングパスにおいて、ジョブモード変更の間にジョブのジョブモードを選択し、各々のジョブモードの動作可能セットについてQM51に情報を提供する。一実施形態においては、SM52は、ウィンドウマネージャ(WM)、ユーザインタフェース(UI)および他のメディアアプリケーションからのSMsのようなシステムの他のモジュールからの関連情報を考慮に入れる。
【0039】
このようにして、SM52は、効果的な品質ポイントのみを有するQM51のために品質探索スペースを選択的に最小化する。一実施形態においては、それがQM51に渡した情報は、各々のジョブのための動作可能セットに加えて、ジョブの重要度を規定する多くの重み付けであり、出力ウィンドウサイズに依存する。次いで、これらの重み付けは、システムの最適化の段階の間に、QM51によりさらに利用される。
【0040】
QM51によりシステムの最適化を可能にするために、ジョブの品質/資源の値が、意味的にニュートラルな項の状態で、ジョブユーティリティとして表される。
【0041】
好適には、QM51は、ジョブがそのような方法において実行され、全体的なシステムユーティリティが最大化され、且つ資源の必要条件が資源の有効性と適合する品質水準を選択する。全体的なシステムユーティリティは、実行ジョブのジョブユーティリティ、実行ジョブの依存性(プロセシングパスからもたらされる)およびそれらのジョブに関連する相対的な重要度の水準により決定される。
【0042】
システムユーティリティの全体的な(集中された)最適化の実行の次に、Qm51は、実行ジョブ(QC54により提供される動的な資源の必要性に基づいて)からの所謂品質マッピング(図6参照)を維持する。ジョブの数の変更、ジョブの相対的重要度、ジョブの品質マッピング(JMCsおよびOSCsによる)およびQC54からの支援のための要求は再最適化を必要とする。急速に変化する品質水準は非品質性として認識されるため、品質水準は慎重に調整される必要がある。この特徴は、参照文献、C.Lee,J.Lehoczky,R.Rajkumar and D.Siewiorek,A scalable solution to the multi−resource QoS problem,Proc.20th IEEE Real−Time Systems Symposium(RTSS),pp.315−326,December 1999において網羅されておらず、また、全体的な品質の最適化のためのジョブの間における依存性の結合でもない、ことに留意されたい。
【0043】
JMCは、特定のジョブのアルゴリズム23、24、25の数および順序における変更をもたらすことがある。JMCにおいては、スイッチングは継ぎ目がない状態であり、亜アルゴリズムの結合の再構成に関する古いモードのデータおよび新しいモードのデータの混合は回避されなければならない。
【0044】
一実施形態においては、メディアアプリケーションは、継ぎ目のない状態のスイッチングおよびデータ混合の回避について責任を負っている。QM51は、次の例で示すように、そのようにするために、アプリケーションは必要な資源を得る(即ち、保証された資源予算を得る)ことを確実にする必要がある。
【0045】
メディアシステムにおいては、他のチャンネルへのスイッチはJMCsを含み、QM51による再最適化を必要とし、実行ジョブの新しい品質水準を生み出す。そのような場合、ジョブの品質水準の減少が、先ず、実行され、それらのジョブの資源予算の減少がそれに続いて実行される。次の段階として、上の品質水準を受け取るジョブの資源予算は増加され、品質水準の増加がそれに続く。
【0046】
変更の種類
マルチメディアテレビシステムのことを考えると、多くのその定常状態の変更を思い浮かべることができ、それらは、チャンネルを変更させること、異なるアプリケーションをみるために新しいウィンドウを開くこと、ウィンドウを交換すること等である。以下において、スケーラブルビデオアルゴリズム(SVAs)、ジョブモード変更、動作可能セットの変更および品質水準変更において実行される3種類の変更について説明する。これらの変更およびそれらの原因について、表1にまとめ、以下で説明する。
【0047】
ジョブモード変更
ジョブモード変更(JMC)において、ジョブの機能の基本的セットは変更する。この機能のセットは、正しい出力を提供するために必要である。JMCは、資源の必要条件における可能な大きい変更とビジュアル品質におけるはっきりした変更により特徴付けられる。それらはユーザ、またはチャンネルのソース特性における変更によりアクティブにされるが、QoSシステムによっては決してそのようにされない。ジョブモード変更の性質をより理解するために、以下に、幾つかの例を挙げる。
【0048】
メインウィンドウとPiPウィンドウとの間の交換。同じソースのプロセシングは、メインウィンドウとPiPウィンドウとについて異なることが可能である。それ故、ユーザが2つのウィンドウを交換するとき、両方のパスに対するジョブモード変更が実行される。これは表1におけるケース1に対応する。そのような変更はユーザインタフェース(UI)により要求される。
【0049】
チャンネル変更。ユーザは、古いチャンネル(例えば、アナログ)と異なる新しいチャンネル(例えば、デジタル)のソースを用いて、チャンネルを変更する。この例は表1のケース2に対応する。チャンネル変更はUIにより要求される。
【0050】
チャンネルソース変更。同じチャンネルにおけるサービスプロバイダは、例えば、コマーシャル(ビデオ)により中断される映画(フィルム)等の異なる一部の入力パラメータを用いてソースを送信することが可能である。そのような変更は、データのプロセシング(例えば、ビデオ復号化)により検出され、パス(表1のケース3)の適切なジョブにおけるジョブモード変更を初期設定するために用いられる。
【0051】
何れのJMCも、動作可能セットであって、それ故、このジョブのための品質水準変更およびシステムにおける他のアクティブなジョブに対する可能な品質水準変更(QLCs)を有する。
【0052】
動作可能セット変更
動作可能セット変更(OSCs)において、ジョブの機能の基本セットは変化しない(同じジョブモードである)。必要な資源のセット、即ち、動作可能セットは変化する。OSCは、ジョブモードにおける異なる資源の必要条件により特徴付けられ、ビジュアル品質における変更が要求される。それらはユーザによりアクティブにされる。
【0053】
動作可能セット変更の一部の例は次のようなものである。
【0054】
焦点の変更。多くのアプリケーションがオンのとき、利用可能な資源は、それら全てのための高い出力品質をサポートするためには十分ではないことがあり得る。ユーザは、QM51を下の領域における他のウィンドウの品質水準に適応させて、どのウィンドウがユーザにとってより興味のもてる(ユーザが焦点を据える)ものであるかを特定することが可能である。有効な品質水準(即ち、動作可能セット)は、焦点を伴うアプリケーションと焦点を伴わないアプリケーションに対しては異なる。ユーザは、1つまたはそれ以上のウィンドウの焦点を変えることを決定することが可能である(表1のケース4)。この挙動は、これらのウィンドウの各々のための動作可能セットの変更をもたらすことが可能である。
【0055】
ウィンドウサイズの変更。出力品質水準のセットのためのジョブモードにより要求される資源のセットは、表示ウィンドウのサイズに依存する(即ち、パンクチャリングおよび内蔵リサイジング技術)。したがって、表示ウィンドウサイズの変更は、動作可能セットにおける変更により達成されることが可能である(表1のケース5)。
【0056】
何れのOSCも、このジョブに対して品質水準の変更(QLC)を有し、システムの残りのジョブに対してそれを有することが可能である。
【0057】
品質水準変更
品質水準変更(QLCs)において、ジョブの機能の基本的セット(ジョブモード)と動作可能セットは同じ状態のままである。ジョブモードの有効な品質水準のセットの品質水準、即ち、その資源の必要条件およびその出力品質は変化する。QLCは、ジョブモードの動作可能セットにおける異なる資源の必要条件により特徴付けられ、ビジュアル品質において変化する。それらは、QM51、SM52またはユーザによりアクティブにされる。すでに上記において示したように、ジョブのJMCまたはOSCはこのジョブにQLCをもたらし、残りのジョブにもたらすことも可能である。品質水準変更の理由の幾つかの他の例について次に挙げる。
【0058】
新しいアプリケーションの開始。ユーザは、新しいアプリケーションを見るために新しいウィンドウ(例えば、新しいプログラム)を開くことを決定することが可能である。新しいアプリケーションは新しいジョブを生成し、これはすでに存在するジョブに間接的な影響を及ぼす。新しいジョブは、利用可能ではない付加的なシステム資源の量を必要とする可能性がある。この場合、すでに存在するジョブは一部の資源をフリーにし、そのことはそれらの品質水準を低めることにより達成されることができる(表1のケース6)。逆の効果は、アプリケーションがスイッチをオフにされるとき、特徴的に現れる。
【0059】
ロード変更。ロードが動きおよび細部のようなビデオコンテンツのあるパラメータに敏感であるビデオアルゴリズムがある。アルゴリズムのロードであって、それ故、ジョブのロードが初期の要求より大きい場合、QM51はそのジョブにさらに資源を割り当てることにより反応することが可能である。十分な利用可能資源がない場合、QM51またはSM52はこの(または他の重要でない)ジョブの品質水準を減少させることが可能である(表1のケース7)。
【0060】
【表1】
システムの動的挙動について説明する前に、先ず、ジョブの定常状態について表すパラメータを規定する。
【0061】
メディアシステムにおいては、多くのジョブJ、即ちJ=1,...,│B│は、動作している。各々のジョブJはジョブモードMJのセットを有する。各々のジョブモードm∈MJはタスク(即ち、SAs)のセットNJ mと動作可能マッピングΦJ mのセットとを有する。各々の動作可能マッピングφ∈ΦJ mの範囲は有効な品質水準LJ m,Φのセット(即ち、動作可能セット)である。ジョブモード、動作可能セットおよび動作可能マッピングの間の関係並びに品質水準のグラフィック表示を、図6に提供する。MJの楕円におけるドットはジョブモードを表す。LJ m,Φの楕円のドットは品質水準lを表し、図4において示したドットと類似するものである。
【0062】
各々の品質水準l∈LJ m,Φは、資源の必要条件とジョブがサポートするそれぞれのビジュアル出力品質を規定するタプル(R,Q)lにマッピングする。
【0063】
資源の必要条件RはR=(r1,r2,...,r│R│)により規定され、ここで、ri(i=1,...,│R│)は資源の種類Riから要求される(静的)量であり、│R│はシステムの資源の数である。これら資源の必要条件Rは、許容制御および予算割り当て手順において用いられる。
【0064】
出力品質値Qはシステムの最適化のために提供される。本発明の主な事項の1つは、出力ビジュアル品質(正しく且つ最適である)はシステム性能の主な要因である。しかしながら、意味的にニュートラルな方法において最適化を実行するために、出力品質値Qは、意味的にニュートラルである品質レベルの最小と最大であるuminおよびumax(umin<umax)を用いて、ジョブユーティリティに変換される。定期的に、適切なマッピングφに対応するタプル
【0065】
(外1)
のセットが、システムの最適化を実行するために、SM52によりQM51に提供される。
【0066】
したがって、ジョブの状態SJは、次のように表される。
− 現時点のジョブモード
− 適切な動作可能マッピング、並びに
− 割り当てられた品質水準、即ち、
【0067】
(外2)
ジョブ57、58は、各々のJMCおよびOSCにおいて、適切なジョブモードと動作可能マッピングを選択することおよびQM51に対応する動作可能セットを提供することについて責任を負っている。QM51は、システムにおける各々のジョブの品質水準を選択することについて責任を負っている。ジョブの状態の変更は、システムのため、並びにビデオプロセッシングモジュールの機能性および制御のための関係を有している。後者の関係については、以下に説明する。
【0068】
各々のジョブモードm∈MJはタスクの特定の組み合わせNJ mを有する。タスク間の同期化はローカルキューにより実行される。タスクはその入力キューからデータを受信し、それらを処理し、その出力キューにそれらを送信する。データは、フィールド、フレームまたはポインターのようなパケットを用いて、共有メモリの場合はフィールド/フレームに送信される。タスクの入力キューが空である場合、新しいデータがその入力キューに届くまで、タスクはブロックされたままである。タスクはまた、その出力キューがフルである場合、ブロックされることが可能である。
【0069】
JMCにおいては、例えば、miからmjに、mi,mj∈MJを用いて、ジョブタスクの組み合わせが変更される。この変更は、一部のタスクを取り除く(古い)こと、および/または新しいタスクを含む(新しい)こと、および/または一部の存在するタスクの順序またはパラメータを変更する(変更)ことにより、なされることができる。ブロッキングは、入力キューにデータを送信しないことにより達成される。タスクの挿入は、それらをアンブロッキングすることにより同じように達成される。タスクの順序は、ジョブモードmjにより規定され、出力キューの設定を通してタスク(SVAs)の制御部分により制御される。図7において、JMCの例を示している。
【0070】
JMCの主な事項の1つは、タスクのセットにおける如何なる変更も継ぎ目のない状態で実行される必要があることである。ビデオプロセシングチェーンにおいては、各々のタスクのプロセスが正しいデータに適用されることが重要である。JMCが新しいデータと同期化される場合、間違った出力画像フォーマットは回避される。例えば、古いソースがHDソースである場合、表示装置はSDである。このとき、古いジョブモードは、表示装置の必要条件に適合するように入力ソースの解像度を減少させる。また、新しいソースがSDである場合、プロセシングは時を同じくして適応することができない。このとき、正しいプロセシングが設定されるまで、出力解像度は、SDの表示装置におけるSDソースの減少された解像度である。本発明の一実施形態においては、効果的な遷移は、データをスタンピングする、即ちジョブモードを認識しているSAs(即ち、QC54)の制御部分を有するモードにより達成される。
【0071】
JMCにおいて、タスクのセットは変化するが、タスク間の結合もまた変化する。したがって、もう1つの重要な事項は古いモードのデータと新しいモードのデータの混合を回避することである。例えば、タスクT1が、T2をブロックするために、T3に新しいモードの出力データを再経路指定するとき、データは混合されることとなる一方、T2は古いモードのデータに関して仕上げの実行を有しない。このことが生じる場合、先ず、新しいモードのデータがT3の入力キュー(Q2)に達し、古いモードのデータが続く。データの混合は、ジョブモードの変更の間にタスクの優先順位を操作することにより回避されることができる(T2の高い優先順位を有することは、T1が最経路指定する前に、それがプロセシングを仕上げることを保証する)。他の解決方法は、タスクの出力キューの再経路指定するタイミングを制御することにより提供されることができる。例えば、タスクT2はそれが古いモードのデータを仕上げたときに許容信号を送信し、T1は新しいモードのデータをQ2に送信する前にこの許容信号を待つ。第3の解決方法はデータの順序の回復をサポートする。T3の入力キュー(Q2)は特有のモードである2つのサブキューを有する。それ故、そのキューは、それぞれのサブキューにおける古いモードのデータおよび新しいモードのデータの正しい分離(経路指定)を制御し、古いモードのデータが仕上げられたとき、新しいモードのデータは次のタスク(T3)に送信される。
【0072】
第1の解決方法は、システムオーバーヘッドを増加させる実行時間におけるタスクの優先順位を変更させることを意味する。第3の解決方法は魅力的な解決方法であるが、そのようなキュー管理を支援するシステムを必要とする。第2の解決方法はSAsの制御部分のデザインを複雑にするが、それは非常に効果的であることが分かる。それは好適な解決方法である。
【0073】
上記のように、OSVまたはQLCにおいては、ジョブのタスクのセットは変化せず、ジョブモードはそのまま維持される。OSCにおいては、φiからφjにマッピングが変更され、これについては図6を参照されたい。これは、SAデザイナが焦点の変更またはウィンドウサイズのような特別の場合を扱うために導入したプロセシングにより規定される、資源の必要性における変更の結果である。
【0074】
QLCにおいて、ジョブの挙動を表す品質水準は、例えば、所定の動作可能マッピングの範囲、即ち、
【0075】
(外3)
においてliからljに修正される(図6参照)。QM51は、上記のような理由により、ジョブに利用可能である資源を変更する。ジョブは、タスクのセットNJ mのプロセシングを変更することによりこの変更に応じる。そのようにすることにより、タプル
【0076】
(外4)
が満足されることを保証する。
【0077】
ジョブモードの品質水準はアプリケーションのデザイナにより規定される。タスクのプロセシング(SAs)の変更は、係数、フィールド、考慮される対象等の数(例えば、ポイント対ライン)を変更することにより実行されることができる。
【0078】
図8は、本発明にしたがったメディアシステムの例を模式的に示している。メディアシステムは、命令およびデータを記憶するメモリユニット81、82、83、84に接続されるプロセシング手段80、1つまたはそれ以上の読み取りユニット(例えば、フロッピー(R)ディスク91、CD ROM92、DVD等を読み取る)、入力装置としてのキーボード86およびマウス93、並びに、出力装置としてのモニタ87およびプリンタ88を有する。トラックボールおよびタッチスクリーンのような他の入力装置並びに出力装置を備えることが可能である。ネットワーク90におけるデータ通信のために、インタフェース手段89を備える。
【0079】
示されているメモリユニットはRAM84、(E)EPROM83、ROM82およびハードディスク81を有する。しかしながら、さらなるメモリユニットおよび/または当業者に周知である他のメモリユニットを備えることが可能であることが理解される必要がある。さらに、必要に応じて、それらのうち1つまたはそれ以上が、プロセシング手段80から物理的に離れて位置付けられることが可能である。プロセシング手段80は1つのボックスとして示されているが、それらは、当業者に周知であるような、互いに離れて位置付けられることが可能であるような、1つのメインプロセッサにより制御されるかまたは並列状態で機能する幾つかのプロセシングユニットを有することが可能である。
【0080】
本発明は好適な実施形態を伴って説明したが、上記の概略の原理の範囲内で修正を行うことが可能であることは当業者に明らかであろう。本発明はそれら好適な実施形態に限定されるものではなく、そのような修正を包含することを意図するものである。
【図面の簡単な説明】
【0081】
【図1】最新技術からのスケーラブルアルゴリズムの例を示す図である。
【図2】ジョブの例を模式的に示す図である。
【図3】ビデオエンハンスメントジョブの一部のジョブモードを示す図である。
【図4】特定のジョブモードにおけるジョブのための資源の機能としての品質水準を表すグラフである。
【図5】品質/資源制御ユニットのスキームを示す図である。
【図6】一部のジョブモードと対応する品質水準との間のマッピングを示す図である。
【図7】ジョブモード変更の例を模式的に示す図である。
【図8】本発明にしたがったメディアシステムの例を模式的に示す図である。
Claims (18)
- メディアアプリケーションを実行する方法であって、前記メディアアプリケーションは多くのアルゴリズムを有し、各々のアルゴリズムはスケーラブルかまたは非スケーラブルであり、前記方法は:
(a)入力信号を受信する段階;
(b)出力信号を生成するために前記アルゴリズムを実行する段階;
(c)プロセシングパスにおけるある所定の部分を実行するために、可能なアルゴリズムのクラスタのセットであるようにジョブを規定する段階;並びに
(d)入力仕様および/または出力仕様に基づく前記メディアアプリケーションにおける各々のジョブのためのジョブモードを選択する段階であって、ジョブモードは前記可能なクラスタのセットの中の1つの特定のアルゴリズムのクラスタである、段階;
を有することを特徴とする方法。 - 請求項1に記載の方法であって、前記方法は:
(e)システム変更が生じるときはいつでも前記ジョブの動作可能状態を選択する段階であって、前記選択はジョブモードと動作可能セットと呼ばれる前記ジョブモードの有効な品質水準のセットとに依存する、段階;
を有する、ことを特徴とする方法。 - 請求項2に記載の方法であって、前記ジョブの前記動作可能状態の選択は割り当てられ
た出力品質水準に依存する、ことを特徴とする方法。 - 請求項1乃至3の何れか一項に記載の方法であって、前記入力の仕様は入力信号の種類を有する、ことを特徴とする方法。
- 請求項1乃至4の何れか一項に記載の方法であって、前記出力の仕様は出力フォーマットの種類を有する、ことを特徴とする方法。
- 請求項1乃至5の何れか一項に記載の方法であって、前記方法は:
(f)ジョブユーティリティとして、意味的にニュートラルな項の状態でジョブ出力品質値を表す段階;並びに
(g)全ての前記ジョブの前記ジョブユーティリティから全体的なシステムユーティリティを決定する段階;
を有する、ことを特徴とする方法。 - 請求項1乃至6の何れか一項に記載の方法であって、前記方法は:
(h)各々のジョブのためのサービス資源マネージャの品質に前記動作可能セットを通過させる段階;
(i)前記サービス資源マネージャの品質に前記ジョブの重要度を規定する重み付け数を通過させる段階;並びに
(j)前記サービス資源マネージャの品質において異なる前記ジョブの前記動作可能セットおよび重み付け数を用いて、メディアシステムを最適化する段階;
を有する、ことを特徴とする方法。 - 請求項1乃至7の何れか一項に記載の方法であって、ジョブモードの変更は間違った出力画像フォーマットを回避するために新しいデータと同期化され、効果的な遷移が前記データをスタンピングするモードにより達成される、ことを特徴とする方法。
- 請求項1乃至8の何れか一項に記載の方法であって、前記アルゴリズムの出力キューにある古いモードのデータおよび新しいモードのデータの混合を回避するために、タスクの優先順位がジョブモード変更の間に操作される、ことを特徴とする方法。
- 請求項1乃至9の何れか一項に記載の方法であって、前記アルゴリズムの出力キューにある古いモードのデータおよび新しいモードのデータの混合を回避するために、前記タスクの出力キューの再経路指定のタイミングが制御される、ことを特徴とする方法。
- 入力信号を受信するための入力手段とプロセッサとを有するメディアシステムであって、前記メディアシステムはメディアアプリケーションを実行するために配置され、前記メディアアプリケーションは多くのアルゴリズムを有し、各々のアルゴリズムはスケーラブルかまたは非スケーラブルであり、前記プロセッサは:
(a)出力信号を生成するために前記アルゴリズムを実行すること、
(b)入力仕様および/または出力仕様に基づいて前記メディアアプリケーションにおいて各々のジョブのためにジョブモードを選択することであって、ジョブモードは可能なアルゴリズムのクラスタのセットの中の1つの特定なアルゴリズムのクラスタであり、そのセットはジョブと呼ばれる、ジョブモードを選択すること;並びに
(c)システム変更が生じるときはいつでも、前記ジョブの動作可能状態を選択すること;
のために配置される、ことを特徴とするメディアシステム。
サ出力は前記RF受信器に送信されるために適応される、ことを特徴とする装置。 - 請求項11に記載のメディアシステムであって、前記プロセッサは;
−複数のアプリケーションモードにおいて動作可能である少なくとも1つのアプリケーション;
−前記利用可能資源が前記アプリケーションモードの所定の1つにおいて前記少なくとも1つのアプリケーションを実行するために必要とされる少なくとも1つのメディアアルゴリズムの動作に適するかどうかを決定するためのサービス資源マネージャの品質であって、どれ位の計算資源が前記少なくとも1つのアプリケーションにより用いられるために
利用可能であるかをトラッキングするための、品質;
−メディアアルゴリズム(ジョブ)のクラスタに対して前記メディアアルゴリズムを選択し且つ構成するための戦略マネージャ;
−前記少なくとも1つのメディアアルゴリズムにより用いられるための設定を制御するための少なくとも1つのローカル品質制御;
−前記メディアアルゴリズムのクラスタのための資源/品質を制御するための少なくとも1つのジョブ制御ユニットであって、前記ジョブ制御ユニットは前記クラスタにおけるメディアアルゴリズムの資源を選択するローカル品質制御および前記戦略マネージャに対して責任を負う、少なくとも1つのジョブ制御ユニット;
を処理するために配置される、ことを特徴とするメディアシステム。 - 請求項12に記載のメディアシステムであって、前記ジョブ制御ユニットは前記戦略マネージャから必要ジョブ品質水準を受信するためにおよび対応する前記クラスタにある前期少なくとも1つのアルゴリズムの各々のための品質水準lに前記必要ジョブ品質水準を変換するために配置される、ことを特徴とするメディアシステム。
- 請求項13に記載のメディアシステムであって、前記ジョブ制御ユニットはスケーラビリティパラメータPのセット、ジョブモードMおよび全てのジョブモードm∈Mのための動作可能セット{(Rm,Qm)}を前記戦略マネージャに提供する、ことを特徴とするメディアシステム。
- 請求項14に記載のメディアシステムであって、実行時間において、前記戦略マネージャからまたは前記サービス資源マネージャの品質から要求されるように、前記ジョブ制御ユニットは現時点のジョブモードのスケーラブルアルゴリズムのスケーラビリティ水準を設定する、ことを特徴とするメディアシステム。
- 請求項11乃至15の何れか一項に記載のメディアシステムであって、前記メディアシステムはマルチメディア通信装置である、ことを特徴とするメディアシステム。
- 請求項1乃至10にしたがった前記方法を実行するために配置されることを特徴とするコンピュータプログラムプロダクト。
- 請求項17にしたがったコンピュータプログラムプロダクトを有することを特徴とする記憶媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP01117107 | 2001-07-13 | ||
PCT/IB2002/002748 WO2003007134A1 (en) | 2001-07-13 | 2002-07-12 | Method of running a media application and a media system with job control |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005504461A true JP2005504461A (ja) | 2005-02-10 |
JP2005504461A5 JP2005504461A5 (ja) | 2006-01-05 |
Family
ID=8178041
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003512831A Withdrawn JP2005504461A (ja) | 2001-07-13 | 2002-07-12 | ジョブ制御を用いてメディアアプリケーションおよびメディアシステムを実行する方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US20040205217A1 (ja) |
EP (1) | EP1410148A1 (ja) |
JP (1) | JP2005504461A (ja) |
KR (1) | KR20040017301A (ja) |
CN (1) | CN1527968A (ja) |
WO (1) | WO2003007134A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013538511A (ja) * | 2010-08-26 | 2013-10-10 | フリースケール セミコンダクター インコーポレイテッド | ビデオ処理システムおよびビデオデータの並列処理のための方法 |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007529812A (ja) * | 2004-03-19 | 2007-10-25 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | リソース・スケーラブルな動き推定器における、メディア信号処理方法、対応するシステム、及びその適用 |
US7603506B2 (en) * | 2004-06-18 | 2009-10-13 | Broadcom Corporation | Motherboard with video data processing card capability |
US20050289523A1 (en) * | 2004-06-24 | 2005-12-29 | Broadcom Corporation | Method and apparatus for transforming code of a non-proprietary program language into proprietary program language |
US7612779B2 (en) * | 2004-06-25 | 2009-11-03 | Broadcom Corporation | Video data processing circuits and systems comprising programmable blocks or components |
US7356625B2 (en) * | 2004-10-29 | 2008-04-08 | International Business Machines Corporation | Moving, resizing, and memory management for producer-consumer queues by consuming and storing any queue entries from an old queue before entries from a new queue |
JP5448344B2 (ja) * | 2008-01-08 | 2014-03-19 | 株式会社Nttドコモ | 情報処理装置およびプログラム |
US8316024B1 (en) * | 2011-02-04 | 2012-11-20 | Google Inc. | Implicit hierarchical clustering |
US20120275502A1 (en) * | 2011-04-26 | 2012-11-01 | Fang-Yi Hsieh | Apparatus for dynamically adjusting video decoding complexity, and associated method |
US8954546B2 (en) | 2013-01-25 | 2015-02-10 | Concurix Corporation | Tracing with a workload distributor |
US8924941B2 (en) | 2013-02-12 | 2014-12-30 | Concurix Corporation | Optimization analysis using similar frequencies |
US8997063B2 (en) | 2013-02-12 | 2015-03-31 | Concurix Corporation | Periodicity optimization in an automated tracing system |
US20130283281A1 (en) | 2013-02-12 | 2013-10-24 | Concurix Corporation | Deploying Trace Objectives using Cost Analyses |
US9436589B2 (en) | 2013-03-15 | 2016-09-06 | Microsoft Technology Licensing, Llc | Increasing performance at runtime from trace data |
US9244652B1 (en) * | 2013-06-03 | 2016-01-26 | The Mathworks, Inc. | State management for task queues |
US9292415B2 (en) | 2013-09-04 | 2016-03-22 | Microsoft Technology Licensing, Llc | Module specific tracing in a shared module environment |
EP3069241B1 (en) | 2013-11-13 | 2018-08-15 | Microsoft Technology Licensing, LLC | Application execution path tracing with configurable origin definition |
US10671947B2 (en) * | 2014-03-07 | 2020-06-02 | Netflix, Inc. | Distributing tasks to workers in a crowd-sourcing workforce |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5457780A (en) * | 1991-04-17 | 1995-10-10 | Shaw; Venson M. | System for producing a video-instruction set utilizing a real-time frame differential bit map and microblock subimages |
GB2257591B (en) * | 1991-07-08 | 1994-08-03 | Sony Broadcast & Communication | Video standards conversion |
GB2264417B (en) * | 1992-02-17 | 1995-12-06 | Sony Broadcast & Communication | Video standards conversion |
WO1997015149A1 (en) * | 1995-10-18 | 1997-04-24 | Philips Electronics N.V. | Method for making a multimedia application executable on hardware platforms with various different resource levels, a physical record containing such application, and an apparatus for executing such application |
US6329998B1 (en) * | 1997-08-28 | 2001-12-11 | Lg Electronics Inc. | Multiple screen processor for processing video image data formats |
KR100249228B1 (ko) * | 1997-08-28 | 2000-03-15 | 구자홍 | 디지탈 티브이의 화면비 변환장치 |
KR100248404B1 (ko) * | 1997-09-04 | 2000-03-15 | 정선종 | 다중 객체 환경에서 우선 순위 정보를 이용한 순화적 계산량 감소 방법 |
US6594699B1 (en) * | 1997-10-10 | 2003-07-15 | Kasenna, Inc. | System for capability based multimedia streaming over a network |
US6581102B1 (en) * | 1999-05-27 | 2003-06-17 | International Business Machines Corporation | System and method for integrating arbitrary isochronous processing algorithms in general media processing systems |
AU7110000A (en) * | 1999-08-31 | 2001-03-26 | Times N Systems, Inc. | Network shared memory |
US6421778B1 (en) * | 1999-12-20 | 2002-07-16 | Intel Corporation | Method and system for a modular scalability system |
US6674800B1 (en) * | 2000-08-29 | 2004-01-06 | Koninklijke Philips Electronics N.V. | Method and system for utilizing a global optimal approach of scalable algorithms |
US20030058942A1 (en) * | 2001-06-01 | 2003-03-27 | Christian Hentschel | Method of running an algorithm and a scalable programmable processing device |
US7140016B2 (en) * | 2000-11-29 | 2006-11-21 | Texas Instruments Incorporated | Media accelerator quality of service |
-
2002
- 2002-07-12 EP EP02745710A patent/EP1410148A1/en not_active Withdrawn
- 2002-07-12 WO PCT/IB2002/002748 patent/WO2003007134A1/en not_active Application Discontinuation
- 2002-07-12 JP JP2003512831A patent/JP2005504461A/ja not_active Withdrawn
- 2002-07-12 CN CNA02814130XA patent/CN1527968A/zh active Pending
- 2002-07-12 US US10/483,152 patent/US20040205217A1/en not_active Abandoned
- 2002-07-12 KR KR10-2004-7000544A patent/KR20040017301A/ko not_active Application Discontinuation
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013538511A (ja) * | 2010-08-26 | 2013-10-10 | フリースケール セミコンダクター インコーポレイテッド | ビデオ処理システムおよびビデオデータの並列処理のための方法 |
Also Published As
Publication number | Publication date |
---|---|
US20040205217A1 (en) | 2004-10-14 |
KR20040017301A (ko) | 2004-02-26 |
WO2003007134A1 (en) | 2003-01-23 |
EP1410148A1 (en) | 2004-04-21 |
CN1527968A (zh) | 2004-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2005504461A (ja) | ジョブ制御を用いてメディアアプリケーションおよびメディアシステムを実行する方法 | |
US10019213B1 (en) | Composition control method for remote application delivery | |
US8380864B2 (en) | Media stream slicing and processing load allocation for multi-user media systems | |
JP5921724B2 (ja) | コンピューティング・デバイスおよび方法 | |
US6704362B2 (en) | Resource scalable decoding | |
US20080205389A1 (en) | Selection of transrate and transcode processes by host computer | |
EP2543189A1 (en) | Bit rate adjustment in an adaptive streaming system | |
US20110162013A1 (en) | Home network management | |
Bril et al. | Multimedia QoS in consumer terminals | |
KR20080114496A (ko) | 레이저 콘텐츠를 이용하여 장면을 구성하는 방법 및 장치 | |
EP1166560A1 (en) | Tv manager | |
WO2021036784A1 (zh) | 一种媒体数据处理方法、装置、媒体服务器及计算机可读存储介质 | |
Fitzpatrick et al. | Software architecture for adaptive distributed multimedia systems | |
WO2002019095A2 (en) | Method of running an algorithm and a scalable programmable processing device | |
Bril | Real-time scheduling for media processing using conditionally guaranteed budgets | |
Van Raemdonck et al. | Scalable 3D graphics processing in consumer terminals | |
US20030058942A1 (en) | Method of running an algorithm and a scalable programmable processing device | |
JP5506250B2 (ja) | ストリーム復号装置及びストリーム復号方法 | |
US20100198965A1 (en) | Network control device, image display device and network control method | |
JP2009130673A (ja) | コールセンター管理サーバ及び通話制御方法及び通話制御プログラム | |
JP2008180932A (ja) | 表示制御装置、表示装置、表示制御方法および制御プログラム | |
Wust et al. | QoS control challenges for multimedia consumer terminals | |
Bril et al. | User focus in consumer terminals and conditionally guaranteed budgets | |
Jeon et al. | A Novel SDN-based System for Provisioning of Smart Hybrid Media Services | |
Bril et al. | Dynamic behavior of consumer multimedia terminals: System aspects |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050707 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050707 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20060803 |