JP6306141B2 - 映像データの一体化された空間ダウンサンプリング - Google Patents

映像データの一体化された空間ダウンサンプリング Download PDF

Info

Publication number
JP6306141B2
JP6306141B2 JP2016500438A JP2016500438A JP6306141B2 JP 6306141 B2 JP6306141 B2 JP 6306141B2 JP 2016500438 A JP2016500438 A JP 2016500438A JP 2016500438 A JP2016500438 A JP 2016500438A JP 6306141 B2 JP6306141 B2 JP 6306141B2
Authority
JP
Japan
Prior art keywords
video data
video
version
downscaling
input video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016500438A
Other languages
English (en)
Other versions
JP2016515356A5 (ja
JP2016515356A (ja
Inventor
ゲ、フェン
ラルグディ、ハリハラン・ガネシュ
モハン、スミト
ワン、カイ
マラヤス、ナレンドラナス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2016515356A publication Critical patent/JP2016515356A/ja
Publication of JP2016515356A5 publication Critical patent/JP2016515356A5/ja
Application granted granted Critical
Publication of JP6306141B2 publication Critical patent/JP6306141B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

[0001]本実装は画像処理に関して、より詳細には、映像コアにおける一体化された(integrated)映像ダウンスケーリング(downscale)に関する映像画像処理システム、方法および装置に関する。
[0002]移動体無線通信装置、パーソナルデジタルアシスタント(PDA)、ラップトップコンピュータ、デスクトップコンピュータ、デジタルカメラ、デジタル記録装置など、を含む広範囲の電子装置は、種々の画像及び映像能力を有する。いくつかの装置は2次元(2D)画像および映像、3次元(3D)画像および映像、あるいは両方を表示することができる。
[0003]映像データは種々のフォーマットで提供されることができる。フォーマットは、提供される映像データの解像度において変化する。例えば、いくつかのフォーマットは高解像度の映像データ(例えば1920×1080)を提供するのに対して、他のフォーマットは低解像度の映像データ(例えば864×480)を提供することができる。
[0004]表示装置は制限された解像度で映像データを提示するように構成されることができる。例えば、移動体装置は864×480の解像度で映像データを表示するように構成されることができる。表示装置は、プロセッサ資源、電力資源、帯域資源などの、表示装置に利用可能な資源及び/または利用可能な表示のサイズに基づく解像度に関して構成されることができる。各表示装置の特定の構成にもかかわらず、表示装置は、表示するように当該装置が構成されるよりも高い解像度で映像データを受信することができる。より高い解像度の映像データをより低い解像度に変換するプロセスは概してダウンスケーリングと呼ぶことができる。
[0005]ダウンスケーリングは符号化装置あるいは復号装置に関して実行することができる。符号化装置に実装された場合、当該装置はソース映像データを受信し、表示装置への送信のために映像データのダウンスケーリングされたバージョンを符号化する。復号装置に実装された場合には、当該装置は基準映像データを受信して、当該基準データを復号し、基準映像データのより低い解像度のバージョンを生成することができる。一部の実装において、復号装置内は表示装置内に含まれる。一部の実装において、復号装置は表示装置と結合されることができる。
[0006]ダウンスケーリングのプロセスは装置の資源を利用するので、ダウンスケーリングを効率的に実行するシステムおよび方法が望まれている。
[0007]添付の特許請求の範囲内のシステム、方法および装置の種々の実施形態はそれぞれいくつかの側面を備えるが、それのどの1つをとってもここに記述された所望の属性に対して単独で責任を負うものではない。添付の特許請求の範囲を制限することなしにいくつかの顕著な特徴がここに記述される。この議論を考慮したあと、そして特に“詳細な説明”と書かれた部分を熟読したあとにおいて、人は種々の実装の特徴が映像コアにおける一体化されたダウンスケーリングを提供するためにいかに利用されるかについて理解するであろう。
[0008]1つの改善された側面において、映像データを処理するための電子装置が提供される。装置は入力映像データを受信するように構成された受信機を含む。装置は出力映像データを生成するように構成されたビデオコーダを含む。ビデオコーダはビデオエンコーダと、ビデオデコーダとを含む。ビデオコーダはさらにエンコーダとデコーダとに結合されたダウンスケーラを含み、ダウンスケーラは符号化または復号の間に入力映像データのダウンスケールリングされたバージョンを生成するように構成され、ここにおいて、出力映像データは入力映像データのダウンスケーリングされたバージョンを含む。
[0009]さらなる改善された側面において、映像データを処理する方法が提供される。方法は入力映像データを受信することを含む。方法は出力映像データを生成することを含み、出力映像データを生成することは入力映像データを選択的に符号化および復号することを含み、ここにおいて、入力映像データのダウンスケーリングされたバージョンは符号化または復号の間に生成され、出力映像データは入力映像データのダウンスケーリングされたバージョンを含む。
[0010]さらなる他の改善された側面において、映像データを処理するためのさらなる電子装置が提供される。電子装置は入力映像データを受信するための手段を含む。電子装置はさらに出力映像データを生成するための手段を含み、出力映像データを生成することは入力映像データを選択的に符号化および復号することを含み、ここにおいて、入力映像データのダウンスケーリングされたバージョンは符号化あるいは復号の間に生成され、出力映像データは入力映像データのダウンスケーリングされたバージョンを含む。
[0011]装置のプロセッサによって実行可能な命令を備えるコンピュータ読み取り可能な記憶媒体がさらなる改善された側面において提供される。命令は装置に入力映像データを受信させる。命令はさらに装置に出力映像データを生成させ、出力映像データを生成することは入力映像データを選択的に符号化および復号することを含み、入力映像データのダウンスケーリングされたバージョンは符号化あるいは復号の間に生成され、ここにおいて、出力映像データは入力映像データのダウンスケーリングされたバージョンを含む。
[0012]本開示の特徴を詳細に理解できるように、上では簡単に要約された、より特定された説明が側面に関連して行われ、側面のいくつかは添付の図面において例示されている。しかしながら、添付の図面はこの開示のある典型的な側面のみを示しており、説明は他の均等に効果的な側面に適用されるのでその側面を限定するものと考えられるべきではない。
[0013]図1は、例示的映像符号化及び復号システムの機能的ブロック図を示す。 [0014]図2は、一体化されたダウンスケーラを含む例示的映像コアの機能的ブロック図を示す。 [0015]図3は、例示的ダウンスケーラの機能的ブロック図を示す。 [0016]図4は、例示的映像エンコーダの機能的ブロック図を示す。 [0017]図5は、例示的映像デコーダの機能的ブロック図を示す。 [0018]図6は、インタレーシングされた映像データの一体化ダウンスケーリングを備える復号の例示的方法のためのプロセスフロー図を示す。 [0019]図7は、インタレーシングされた映像データの一体化ダウンスケーリングを備える復号の例示的方法のための他のプロセスフロー図を示す。 [0020]図8は、映像データを処理する例示的方法のためのフローチャートを示す。 [0021]図9は、映像データを処理するための例示的電子装置の機能的ブロック図を示す。
[0022]通常のプラクティスにしたがって、図面に例示された種々の特徴は、正確な縮尺率で記載することができない。したがって、種々の特徴の寸法は明確さのために自由に拡大または縮小することができる。さらに、図面のいくつかは与えられたシステム、方法あるいは装置のすべての構成要素を示していない。最後に同じ参照番号は明細書および図の全体にわたって同じ特徴を記述するのに用いられることができる。
[0023]映像ハードウエアコーデック内に一体化されたダウンスケーラおよび関連する方法が記述される。ダウンスケーラは計算を行って表示フレームを外部メモリに書き込む。このフレームは目標表示装置(例えば移動体装置、携帯電話機)と同じ解像度をもつ。目標表示装置は次に元の高解像度フレームではなくこの表示フレームを読み出す。符号化/復号間でのダウンスケールを可能にすることによって、装置は映像データのフレームを個々にダウンスケーリングすることに関連する電力消費、メモリ帯域、メモリアクセス、バス帯域などのリソースを保存することができる。
[0024]記述されるプロセスはブロック主体の符号化および復号プロセスにおける一体化されたダウンスケーラを含む。映像が符号化あるいは復号されるときに生成される情報に基づいて、映像データのダウンスケーリングされたバージョンが生成されることができる。デコーダとして実装されるならば、ダウンスケーリングされたバージョンが表示される。エンコーダとして実装されるならば、ダウンスケーリングされたバージョンは目標表示装置に送信されることができる。
[0025]記述された特徴の限定されない利点は、映像コア内でのダウンスケーリングの一体化を含む。映像コアによる画像の処理の間に、画像をダウンスケーリングするのに使用されることができる情報が生成される。一部のシステムにおいて、画像は映像コアによって処理され、記憶され、後でダウンスケーリングされる。この処理は画像が2回操作されるので電力および処理資源などの増大した資源の消費を含むことになる。さらに記憶された高解像度バージョンは目標装置によって必要とされない。したがって、そのような実装においてメモリ資源もまた拡張されうる。
[0026]映像コアにダウンスケーリングを一体化するとき、画像データは復号処理の間ダウンスケーリングされることになる。また、資源の節約を提供することに加えて、一体化された方法は、ダウンスケーリングされた画像を生成するための時間を減らすことができる。
[0027]次の記述において、例の完全な理解を提供するために特別な詳細が与えられる。しかしながら、当業者ならば、例はこれらの特別な詳細がなくとも実行されることを理解するであろう。例えば、電気構成要素/デバイスは、不必要な詳細にまで例をぼかすことがないようにブロック図で示されることができる。他の例において、そのような構成要素、他の構造および技術は例をさらに説明するために詳細に示されることができる。
[0028]また、例は、フローチャート、フロー図、有限な状態図、構造図あるいはブロック図として記述される、プロセスとして記述されることができる。フローチャートはオペレーションを順次なプロセスとして記述することができるが、多くのオペレーションは並行して同時に実行することができ、当該プロセスは反復可能である。さらに、オペレーションの順序は再構成されることができる。オペレーションが完了したときに処理は停止される。プロセスは方法、機能、プロシージャ、サブルーチン、サブプログラムなどに対応することができる。プロセスはソフトウエア機能に対応し、停止は読み出し関数あるいはメイン関数に対する関数の戻りに対応する。
[0029]当業者ならば、情報および信号は種々の異なる技術および技能のいずれかを使用して表すことができることを理解するであろう。例えば上記記述を通して参照されることができるデータ、命令、コマンド、情報、信号、ビット、シンボル、そしてチップは、電圧、電流、電磁波、磁界、あるいは粒子、光界あるいは粒子、あるいはそれらの組み合わせ、によって表されることができる。
[0030]添付の請求の範囲内における実施形態の種々の側面について以下に記述される。個々に記述された側面は広範囲の形態で具現化することができ、ここに記述された任意の特別な構造および/または機能は単なる例示であることは明らかである。当業者ならば本開示に基づいてここに記述された側面は他の側面から独立して実装されることができ、これらの側面の2つ以上を種々の方法で組み合わせることができることを認識するであろう。例えば、装置及び/または方法はここに記述された任意の数の側面を使用して実装されるとともに実行されることができる。さらにそのような装置及び/または方法はここに記述された側面の1つ以上に加えてあるいは1つ以上を除いて、実装されるとともに実行されることができる。
[0031]図1は例示的映像符号化および復号システムの機能的ブロック図を示す。図1に示されるように、システム10は符号化された映像を通信チャネル15を介して送信先装置16に送信する送信元装置12を含む。送信元装置12および送信先装置16は移動体装置あるいは概して固定装置を含む、広範囲の装置のいくつかを備えることができる。いくつかの場合において、送信元装置12および送信先装置16は無線ハンドセット、いわゆるセルラあるいは衛星無線電話、パーソナルデジタルアシスタンツ(PDA)、モバイルメディアプレーヤ、あるいは無線あるいは無線ではない通信チャネル15を介して映像情報を通信できる任意の装置などの、無線通信装置を備える。しかしながら、映像コア内のダウンスケーリングの一体化を対象とする、この開示の技術は、多くの異なるシステムおよび設定において使用することができる。図1はそのようなシステムの単なる例である。
[0032]図1の例において、送信元装置12は映像ソース20、映像エンコーダ22、変調器/復調器(モデム)23、そして送信機24を含む。送信先装置16は受信機26、モデム27、映像デコーダ28、そして表示装置30を含むことができる。この開示にしたがって、送信元装置30の映像エンコーダ22は基準画像の一連のフレームを符号化するように構成される。映像エンコーダ22は基準画像のダウンスケーリングされたバージョンを生成するように構成されることができる。モデム23および送信機24は無線信号を変調して送信先装置16に送信することができる。この方法において、送信元装置12は符号化された基準シーケンスを3D変換情報とともに送信先装置16に通信する。
[0033]受信機26およびモデム27は送信元装置12から受信した無線信号を受信して復調する。したがって映像デコーダ28は基準画像の一連のフレームを受信することができる。それに加えてあるいはその代わりに、映像デコーダ28は基準画像のダウンスケーリングされたフレームを受信することができる。また、映像デコーダ28はダウンスケーリング用に構成することができる。映像デコーダ28は基準画像の一連のフレームに基づいて、基準画像のダウンスケーリングされたバージョンを生成することができる。映像デコーダ28は映像に関する目標表示装置に基づいてダウンスケーリングされたフレームを生成することができる。
[0034]述べられたように、図1の示されたシステム10は単に例示的なものである。この開示の技術は第1次のブロック主体の映像コーディングを支持する任意のコーディング装置あるいは技術に拡張することができる。
[0035]送信元装置12および送信先装置16は、送信元装置12が送信先装置16への送信のためのコーディングされた映像データを生成するそのようなコーディング装置の単なる例である。いくつかの場合において、装置12、16は実質的に対称的な手順で動作することができ、装置12、16の各々は映像符号化および復号要素を含む。すなわち、システム10は映像ストリーミング、映像再生、映像放送、あるいは映像電話のために、映像装置12、16間の一方向または両方向の映像送信を支持することができる。
[0036]送信元装置12の映像ソース20は映像カメラ、以前に取得された映像を含む映像アーカイブ、あるいは映像コンテンツプロバイダからの映像フィードなどの映像取得装置を含むことができる。さらなる代替として、映像ソース20はソース映像としてのコンピュータグラフィック主体のデータ、あるいはライブ映像、記録保存された映像、そして、コンピュータにより生成された映像の組み合わせ、を生成することができる。いくつかの例において、映像ソース20が映像カメラであるならば、送信元装置12および送信先装置16はいわゆるカメラフォーンすなわちビデオフォーンを形成することができる。各場合において、取得された、予め取得された、あるいはコンピュータにより生成された映像は映像エンコーダ22によって符号化されることができる。符号化された映像情報は次に、例えば符号分割多元接続(CDMA)あるいは他の通信標準などの通信標準にしたがってモデム23によって変調され、送信機24を介して送信先装置16に送信されることができる。モデム23は種々のミキサ、フィルタ、増幅器あるいは信号変調のために設計された他の要素を含むことができる。送信機24は増幅器、フィルタ、そして1つ以上のアンテナを含む、データを送信するために設計された回路を含むことができる。
[0037]送信先装置16の受信機26はチャネル15を介して情報を受信し、モデム27は情報を復調する。再び、映像符号化プロセスは個々に記述された1つ以上の技術を実行して、映像のダウンスケーリングされたバージョンを生成する。チャネル15を介して通信される情報は、映像エンコーダ22によって定義された情報を含むことができ、この開示に合致した映像デコーダ28によって使用されることができる。表示装置30は復号された映像データをユーザに対して表示し、陰極線管、液晶表示(LCD)、プラズマ表示、有機光出力ダイオード(OLED)表示、あるいは他のタイプの表示装置などの種々の表示装置のいくつかを備えることができる。
[0038]図1の例において、通信チャネル15は、無線周波数(RF)スペクトルあるいは1つ以上の物理的送信線、あるいは無線および有線媒体の組み合わせなどの、無線あるいは有線の通信媒体を備えることができる。したがって、モデム23および送信機24は多くの可能な無線プロトコル、有線プロトコルあるいは有線および無線プロトコルを支持することができる。通信チャネル15は、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、あるいはインターネットなどのグローバルネットワークなどのパケット主体のネットワークの一部を形成することができ、1つ以上のネットワークの相互接続を備える。通信チャネル15は概して、映像データを送信元装置12から送信先装置16に送信するための、任意の好適する通信媒体あるいは異なる通信媒体の集合体を表す。通信チャネル15はルータ、スイッチ、基地局あるいは送信元装置12から送信先装置16への通信を確立するのに有用な他の装置を含むことができる。この開示の技術は必ずしも、1つの装置から他への符号化データの通信を必要とするものではなく、相互的な復号なしの符号化構成にも適用することができる。また、この開示の側面は相互の符号化なしに復号プロセスに適用することができる。
[0039]映像エンコーダ22および映像デコーダ28は、代替的にMPEG−4、パート10、そしてアドバンストビデオコーディング(AVC)として記述された、ITU−T H.264標準などの、映像圧縮標準に合致して動作することができる。しかしながら、この開示の技術は、特定のコーディング標準あるいはその拡張に限定されることはない。図1には示されていないが、一部の側面において、映像エンコーダ22および映像デコーダ28は各々音響エンコーダおよびデコーダと一体化することができ、共通のデータストリームあるいは別個のデータストリームにおいて音響および映像の両方の符号化を処理するために、好適するMUX−DEMUXユニットあるいは他のハードウエアおよびソフトウエアを含むことができる。適用可能であるならば、MUX−DEMUXユニットはマルチプレクサプロトコル(例えばITU H.223)あるいはユーザデータグラムプロトコル(UDP)などの他のプロトコルに合致することができる。
[0040]映像エンコーダ22および映像デコーダ28はそれぞれ1つ以上のマイクロプロセッサ、デジタルシグナルプロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、ディスクリートロジック回路、マイクロプロセッサ上で実行されるソフトウエアあるいは他のプラットフォーム、ハードウエア、ファームウエアあるいはそれらの組み合わせ、として実装される。映像エンコーダ22および映像デコーダ28の各々は1つ以上のエンコーダあるいはデコーダ内に含まれることができ、エンコーダおよびデコーダの各々は、各移動体デバイス、サブスクライバデバイス、ブロードキャストデバイス、サーバ、などにおいて組み合わされたエンコーダ/デコーダ(CODEC)の一部として一体化されることができる。
[0041]映像シーケンスは概して一連の映像フレームを含む。映像エンコーダ22および映像デコーダ28は映像データを符号化および復号するために個々の映像フレーム内の映像ブロックに関して操作を行なう。映像ブロックは固定のあるいは可変のサイズをもつことができ、特定されたコーディング標準にしたがってサイズを異ならせることができる。各映像フレームは一連のスライスあるいは他の独立して復号可能なユニットを含むことができる。各スライスは、サブブロックに配列することができる、一連のマクロブロックを含むことができる。例として、ITU−T H.264標準は、ルマ成分に関して16×16、8×8、あるいは4×4およびクロマ成分に関して8×8などの種々のブロックサイズのイントラ予測と、ルマ成分に関して16×16、16×8、8×16、8×8、8×4、4×8、そして4×4およびクロマ成分に関して対応するスケーリングされたサイズ、などの種々のブロックサイズのインター予測と、を支持する。映像ブロックは、例えば離散コサイン変換あるいは概念的に類似の変換プロセスなどの変換プロセスの後でピクセルデータのブロックあるいは変換係数のブロックを備えることができる。
[0042]マクロブロックあるいは他の映像ブロックはスライス、フレームあるいは他の独立したユニットなどの復号可能なユニットに分類される。各スライスは映像フレームの独立して復号可能なユニットであることができる。代替として、フレームそれ自身が復号可能なユニットであるかあるいは、フレームの他の部分が復号可能なユニットとして規定することができる。この開示において、術語“コーディングされたユニット”は、フレーム全体、フレームの一スライス、ピクチャのグループ(GOP)、あるいは使用されるコーディング技術にしたがって規定された他の独立して復号可能なユニットなどの、映像フレームの、独立して復号可能なユニットを意味する。
[0043]説明を簡単にするために、フレーム、ブロック、マクロブロック、などを参照することにする。しかしながら、記述されるダウンスケーリングプロセスに合致して映像を表示する他の方法が使用されることを理解すべきである。例えば、映像データはコーディングユニットおよび/または付加的なロジカルおよび/または物理的組織構造を使用して表すことができる。
[0044]図2は一体化されたダウンスケーラを含む例示的映像コアの機能的ブロック図を示す。映像コア200は映像入力202を受信して映像出力290を生成する電子装置である。映像コア200は映像コーダ204を含むことができる。映像コーダ204は入力映像202の符号化および/または復号を実行するように構成されることができる。構成はメモリ206内に記憶され、映像コーダ204によって読み出すことができる。例えば映像コーダ204はある種のビットレートで特定された解像度である種のフォーマットの映像を符号化および復号するように構成することができる。映像コーダ204が映像を処理するごとに、映像コーダ204によって実行されるべき処理を確立するために構成情報が読み出される。メモリ206は映像コア200の外部の要素として示されるが、いくつかの実装において、メモリ206は映像コア200および/または映像コーダ204と一体化することができる。さらに、メモリ206は単一の要素として示されるが、いくつかの実装では、映像コア200の処理を支持するために複数のメモリを提供することが望ましい。
[0045]いくつかの実装において、映像コーダ204は適応的に構成されることができる。例えば、入力映像202はそのタイプを決定するために前処理されることができる。いくつかの実装において、前処理は映像コア200が含まれる装置の特性を決定することを含むことができる。そのような特性は利用可能な電力、利用可能な帯域、利用可能な処理資源、結合された装置(例えば表示装置)、利用可能なメモリなどを含むことができる。そのような手順において、映像コーダ204はその動作環境を考慮して適応的に構成することができる。
[0046]映像コーダ204は映像エンコーダ400、映像デコーダ500、そしてダウンスケーラ300を含むことができる。ダウンスケーラ300、映像エンコーダ400、そして映像デコーダ500は以下でさらに詳細に説明される。
[0047]映像コア200は付加的な処理要素を含むことができる。例えば映像コア200は映像コーダ204の前に映像入力202を処理するように構成される前処理要素を含むことができる。前処理要素の一例は暗号化された映像入力202を復号化するように構成された復号化ユニットである。
[0048]同様にして、映像コアは映像コーダによって生成された映像データを処理するように構成された後処理要素を含むことができる。後処理要素の一例は出力に先立って映像データを暗号化するように構成された暗号化ユニットである。
[0049]図3は例示的ダウンスケーラの機能的ブロック図を示す。ダウンスケーラ300が受信する一つの入力は映像データ302である。映像データ302は符号化された映像データあるいは生の映像データであることができる。例えば、ダウンスケーラ300は符号化プロセスの一部として映像データをダウンスケーリングするように構成することができる。そのような実装において、映像データ302は生のデータであることができる。ダウンスケーラ300は復号プロセスの一部として映像データをダウンスケーリングするように構成することができる。これらの実装において、映像データ302は符号化された映像データであることができる。
[0050]また、ダウンスケーラ300は1つ以上のダウンスケーリング命令を受信することができる。ダウンスケーリング命令304はダウンスケーリング機能を制御するために情報を提供する。例えば、ダウンスケーラがインタレーシングされた映像入力に関して動作しているならば、映像データ302の一部がどのようにしてダウンスケーリングに関して取り出され、そしてダウンスケーリングの後に記憶されるかが影響を受ける可能性がある。ダウンスケーリング命令304はダウンスケーラ300に含まれるレジスタ命令フェッチ305に記憶することができる。
[0051]ダウンスケーリング命令304および映像データ302はダウンスケーラ300内に含まれるタイル/リニアフェッチ310に供給されることができる。タイル/リニアフェッチ310はメモリに記憶されている映像データ302の一部を取得するように構成することができる。
[0052]映像データの取得された部分は水平スケーラ320に供給することができる。また、水平スケーラ320はレジスタ命令フェッチ305から1つ以上のダウンスケーリング命令304を受信するように構成することができる。さらに、水平スケーラ320はスケーラ構成340からのスケーラ構成値を受信するように構成することができる。
[0053]スケーラ構成340はダウンスケーリングプロセスの間に使用される構成を記憶する。例えば、スケーラ構成340はルックアップテーブルを含むことができる。ルックアップテーブルは水平および垂直ダウンスケーリングに関するスケーリング値を含むことができる。スケーリング値は例えばパーセント、比率、あるいは関数として表すことができる。スケーラ構成340は静的なメモリ記憶部に構成を記憶することができる。いくつかの実装において、スケーラ構成340は、ダウンスケーラ300に結合された装置からシグナリングを介してあるいはダウンスケーラ300を使用することができるアプリケーションを介して更新することができる。一実装において、スケーラ構成340は58のエントリを含むことができ、各エントリはダウンスケーリング比に対応する。
[0054]また、水平スケーラ320はカラムバッファ330から/カラムバッファ330に対してスケーリングされた水平映像データを読み出しあるいは書き込むように構成することができる。カラムバッファ330はダウンスケーラ300の外部に示される。いくつかの実装において、カラムバッファ330はダウンスケーラ300の一部として実装されることができる。カラムバッファ330は水平スケーラ320によって生成されたダウンスケーリングされた値を蓄積するように構成することができる。カラムバッファ330はダウンスケーリングされた映像に関する輝度およびまたは色度(クロミナンス)値を記憶することができる。一例として、カラムバッファ330は各エントリ15ビット長さのエントリを含む40。この例は輝度値を記憶するのに好適する。また、カラムバッファ330は色度のブルーと色度のレッド値を記憶するために長さが15ビットの48エントリを含むことができる。いくつかの実装において、カラムバッファ330は色度および輝度値を記憶するための単一のバッファとして実装されることができる。いくつかの実装において、別個のカラムバッファを含めることができ、1つは輝度値を記憶するためのものであり、1つは色度値を記憶するためのものである。
[0055]次に、水平にスケーリングされた映像データはダウンスケーラ300内に含まれた垂直スケーラ350に供給される。垂直スケーラ350は垂直方向に沿って映像データをダウンスケーリングするように構成することができる。水平スケーラ320と同様に、垂直スケーラ350はレジスタ命令フェッチ305からの命令と、スケーラ構成340からスケーラ構成値を取得することができる。垂直スケーラ350はローバッファ360に対して値を読み出しおよび/または書き込むように構成されることができる。ローバッファ360は垂直スケーラ350によって生成されたダウンスケーリングされた値を蓄積することができる。ローバッファ360はダウンスケーリングされた映像に関する輝度および/または色度値を記憶することができる。一例として、ローバッファ360は各エントリが15ビットの長さの1920のエントリを含むことができる。この例は輝度値を記憶するのに好適する。また、ローバッファ360はブルー/レッドの色度値を記憶するために各15ビットの長さの1920のエントリを含むことができる。いくつかの実装において、ローバッファ360は色度および輝度値を記憶するために単一バッファとして実装されることができる。いくつかの実装において、別個のローバッファが含まれ、1つは輝度値を記憶するためのものであり、1つは色度値を記憶するためのものである。
[0056]次に、ダウンスケーリングされた映像データはタイル/リニアパッカ370に供給されることができる。タイル/リニアパッカ370はスケーリングされたローおよびカラムに基づいてダウンスケーリングされた映像データ390を構築するように構成することができる。タイル/リニアパッカ370による、ダウンスケーリングされた映像データ390の生成は、レジスタ命令フェッチ305からのタイル/リニアパッカ370によって取得されたダウンスケーリング命令304に基づくことができる。一例として、タイル/リニアパッカ370はダウンスケールRAMにおけるダウンスケーリングされた映像データ390を記憶するように構成することができる。ダウンスケールRAMは4つのRAMユニットとして実装することができ、各RAMユニットは384のエントリを含み、各エントリは32ビットを含む。ダウンスケーリングされた映像データ390は、本開示の範囲から逸脱することなしに他の形態で提供(例えば記憶する、送信するあるいは利用可能にされる)することができる。
[0057]また、いくつかの実装において、タイル/リニアパッカ370は、制御信号を送信するように構成することができる。制御信号はダウンスケーリングされた映像データ390の次の処理のために使用することができる。例えば、エンコーダあるいはデコーダに含まれる書き込みデータ移動器は制御信号を検出して、符号化あるいは復号処理を継続することができる。
[0058]図3に示されるダウンスケーラ300はダウンスケーリングのために符号化あるいは復号された映像データを動的に処理することができる。すなわち、ダウンスケーラ300は映像エンコーダ400と映像デコーダ500によって共有されることができる。さらに、当該構成は、ダウンスケーラ300が完全な符号化あるいは復号されたバージョンを不必要に取得することなしに映像データ302の一部に関して動作することを可能にする。さらに、映像データ302の一部は当該部分の符号化あるいは復号を完了する前にダウンスケーリングすることができる。
[0059]図4は例示的映像エンコーダの機能的ブロック図を示す。映像エンコーダ400は入力として生の映像データ402を受信することができる。生の映像データ402はセンサ(例えばカメラ)、メモリ、ネットワーク位置、などの種々のソースから受信することができる。
[0060]フレーム符号化プレフェッチ410は映像エンコーダ400に含めることができる。フレーム符号化プレフェッチ410は符号化プロセスに関して生の映像データ402の一部に対して構成することができる。例えば、フレーム符号化プレフェッチ410は符号化すべき生の映像データ402の現在のフレームを取得するように構成することができる。フレーム符号化プレフェッチ410は生の映像データ402の基準フレームを取得するように構成することができる。基準フレームは現在のフレームを符号化するのに使用することができる。
[0061]基準フレームは動き推定器および補償器420に供給することができる。動き推定器および補償器420は現在のフレームに関して動き情報を生成するように構成することができる。動き推定器および補償器420はフレーム符号化プレフェッチ410によって取得された現在の基準フレームに基づいてその値を生成することができる。例えば、動き推定器および補償器420は映像ブロックに関する動きを推定する、生成動きベクトルを生成することができる。動きベクトルは例えば、現在のフレーム(または他のコーディングされたユニット)内でコーディングされている現在のブロックに対する、予測入力フレーム(または他のコーディングされたユニット)内の予測ブロックの変位を示すことができる。予測ブロックはピクセル相違の観点から、コーディングすべきブロックに密接に合致するとわかったブロックであり、絶対相違(SAD)の和、二乗相違(SSD)の和、あるいは他の相違メトリックによって決定することができる。また、動きベクトルはマクロブロックの分割の変位を示すことができる。動き補償は予測ブロックに基づく予測データの計算を含むことができる。動き推定器および補償器420によって生成された情報は変換器/量子化器およびレート制御ユニット430に供給することができる。
[0062]また、変換器/量子化器およびレート制御ユニット430はフレーム符号化プレフェッチ410からフレームを取得することができる。変換器/量子化器およびレート制御ユニット430はある視覚品質のための目標ビットレートを達成するためにある期間の時間にわたるビット予算を割り当てるように構成することができる。概して、首尾一貫した視覚品質のためには一定のビットレートが望まれる。レート制御アルゴリズムは、ビット予算と現在のフレームの統計にしたがってかつ入力映像データに関するピクセル情報、符号化された入力映像データに沿って、現在のフレームに関して、符号化パラメータ、特には量子化パラメータを動的に調整することができる。
[0063]ピクセル情報はエントロピコーダ450およびデブロッカ440に供給することができる。エントロピコーダ450は符号化プロセスによって生成された映像データをさらに圧縮するように構成することができる。例えば、エントロピコーダ450は映像データを圧縮するためにハフマンコーディングを適用するように構成することができる。
[0064]デブロッカ440はブロッキングアーティファクトを特定して除去することによって映像データをさらに処理するように構成することができる。変換器/量子化器およびレート制御ユニット430は、例えば圧縮の結果、ブロッキングアーティファクトを映像データに対して導入することが考えられる。デブロッカ440はこれらのブロッキングアーティファクトを円滑化して映像データの視覚品質を改善するように構成することができる。例えば、デブロッカは変換された入力映像データをフィルタリングして視覚ブロッキングアーティファクトを改善するように構成することができる。デブロッカ440はデブロッキングされた映像データを書き込みデータ移動器460に供給するように構成することができる。示される書き込みデータ移動器460はメモリ位置などの符号化映像データ490を記憶するように構成することができる。
[0065]また、デブロッカ440はデブロッキングされた映像データをダウンスケーラ300に供給することができる。このようにして、符号化された生の映像データ402のダウンスケーリングされたバージョンを生成することができる。フレーム符号化プレフェッチ410によって取得された現在のおよび/または基準フレームはダウンスケーラ300に供給されることができる。すなわち、ダウンスケーラ300は生の映像データのデブロッキングされたバージョンおよび、フレーム符号化プレフェッチ410によって取得された元の基準および/または現在のフレームのいずれかまたは両方に基づいて、ダウンスケーリングされたバージョンを生成することができる。ダウンスケーラ300はダウンスケーリングされたバージョンを書き込みデータ移動器460に供給するように構成することができる。さらに、書き込みデータ移動器460は符号化映像データ490のダウンスケーリングされたバージョンを記憶するように構成することができる。
[0066]図4に示される映像エンコーダ400は生の映像データのエントロピー符号化されたバージョン、生の映像データのデブロッキングされた符号化バージョン、そして生の映像データのダウンスケーリングされたデブロッキングされた符号化バージョンを生成する。書き込みデータ移動器460はダウンスケーリングされたおよびダウンスケーリングされないデブロッキングされた符号化バージョンの一方あるいは両方を選択的に記憶するように構成することができることを理解すべきである。例えば、映像エンコーダ400を含む装置が制限された資源(例えばメモリ、電力)を有するならば、完全なデブロッキングされた符号化バージョンを記憶するのを避けて、その代わりにダウンスケーリングされたバージョンのみを記憶することが望ましい。
[0067]図5は例示的映像デコーダの機能的ブロック図を示す。映像デコーダ500は符号化映像データ502を復号するように構成することができる。符号化映像データ502は図1で記述されたように送信先装置16によって受信されることができる。
[0068]示される映像デコーダ500は可変長デコーダ510を含む。可変長デコーダ510は符号化映像データ502に含まれるシンボルを伸張するように構成することができる。伸張された情報は動き補償器520に供給することができる。動き補償器は入力映像データを再構成するように構成することができる。動き補償された映像データおよび可変長復号映像データは逆量子化/変換器530に供給することができる。さらに、逆量子化/変換器530は映像データを伸張するように構成することができる。動き補償された入力映像データおよび復号された入力映像データに基づいて、逆量子化/変換器530は映像データに関するピクセル値を生成することができる。
[0069]図4を参照して上記したように、ブロッキングアーティファクトは例えば符号化および復号プロセスによって導入されうる。そのようなブロッキングアーティファクトを除去するためにデブロッカ540を映像デコーダ300に含めることができる。デブロッカ540は復号およびデブロッキングされた映像データを書き込みデータ移動器550に供給するように構成することができる。書き込みデータ移動器550は映像エンコーダ400内に含まれた書き込みデータ移動器460と同様の機能を実行することができる。例えば、書き込みデータ移動器550は復号映像データ590を供給するように構成することができる。復号映像データ590を提供することはメモリに復号映像データ590を記憶すること、トランシーバを介して復号映像データ590を送信すること、あるいは、表示のために復号映像データ590を供給すること、を含むことができる。また、デブロッカ540はデブロッキングされた復号映像データをダウンスケーラ300に供給することができる。ダウンスケーラ300は復号およびデブロッキングされた映像データのダウンスケーリングされたバージョンを生成することができる。ダウンスケーリングされたバージョンは書き込みデータ移動器550に供給することができ、上記したように処理される。
[0070]図6はインタレーシングされた映像データの一体化されたダウンスケーリングを有する復号の例示的方法のためのプロセスフロー図を示す。インタレーシングされた符号化映像データ602は入力として供給される。ノード604で、映像コア200はダウンスケーリング方向を選択する。選択は映像コア200のダウンスケーラ300内で実行することができる。選択はスケーリング構成、映像データの属性(例えば符号化フォーマット/方法、ビットレート、コンテンツタイプ)、映像コア200構成などに基づくことができる。ダウンスケーリング方向は水平および/または垂直ダウンスケーリングであることができる。
[0071]ノード606で、ダウンスケーラ300は選択されたダウンスケーリング方向においてインタレーシングされた符号化映像データ602をダウンスケーリングする。ダウンスケーリングされたバージョンは表示、モニタ、セットトップボックス、あるいは映像データを提示するように構成された他の装置などのメディア表示プラットフォーム640に供給することができる。ノード608で、メディア表示プラットフォーム640は映像データをデインタレーシングする。決定ノード610で、映像データが全ての方向においてスケーリングされたかどうかの決定が行われる。映像が全ての方向においてスケーリングされたならば(例えばダウンスケーラ300は水平におよび垂直にダウンスケーリングされるように構成される)、デインタレーシングされた復号映像データ690が提供される。映像データが完全にダウンスケーリングされていないならば、ノード612で、映像データがさらにスケーリングされる。決定は、供給された映像データにおけるピクセルの数に基づくことができる。さらに決定は、デインタレーシングされた復号データ690に関するピクセルの構成可能な好ましい比率に基づくことができる。
[0072]一例として、インタレーシングされた符号化映像データ602は1920×1080のインタレーシングされた映像データであることができる。ダウンスケーラ300は854ピクセルにまで水平にダウンスケーリングするように構成することができる。したがって、映像コア200はインタレーシングされた854×1080の復号映像データをメディア表示プラットフォーム640に供給することができる。メディア表示プラットフォーム640は映像データのこのバージョンをデインタレーシングするように構成することができる。デインタレーシングは映像データのアスペクト比を変更することはない。したがって、メディア表示プラットフォーム640は今では映像の854×1080のデインタレーシングされたバージョンを有することになる。次にメディア表示プラットフォームは、映像データの寸法(dimension)はメディア表示プラットフォーム640に関連した表示に関する構成された解像度に合致しないと決定することができる。したがって、メディア表示プラットフォーム640は、映像を所望の854×480の解像度にするためにさらなる垂直スケーリングを実行することができる。この開示の範囲から逸脱することなしに他の寸法も実装することができる。
[0073]図6に示される方法は、映像コア200が映像データに関する初期ダウンスケーリングを実行することを可能にする。これは映像コア200のハードウエア内で計算を実行すること、映像データの次のスケーリングを簡略化することができる初期ダウンスケーリングを提供すること、など、メディア表示プラットフォーム640に対していくつかの利点を提供することができる。さらにダウンスケーリングされた画像は小さいので、映像コア200からメディア表示プラットフォーム640へ送信されるデータの量は低減され、メディア表示プラットフォーム640に映像データを供給する場合の資源を保存することができる。
[0074]図7はインタレーシングされた映像データの一体化されたダウンスケーリングを備える復号の例示的方法に関する他のプロセスフロー図を示す。インタレーシングされた符号化映像データ602は映像コア200に供給される。ノード710で、インタレーシングされた符号化映像データはデインタレーシングされる。一実装において、デインタレーシングは2つのフィールドを生成し、各フィールドは1920×540のピクセルを含む。ノード720で、ダウンスケーリングに関して1つのフィールドが選択される。この選択は映像データ、映像コア200の構成、あるいは他の要因に基づくことができる。ノード730で、選択されたフィールドはデインタレーシングされた復号映像データ690を生成するために上記した方法でダウンスケーリングされる。選択されないフィールドはさらなるダウンスケーリング処理から廃棄される。フィールドが1920×540フィールドである実装において、ノード730のダウンスケーリングによって生成された映像は、854×480のダウンスケーリングされたバージョンであることができる。
[0075]図6および図7に関して述べられた方法は相互に排他的ではないことに注意すべきである。例えば、メディア表示プラットフォーム640に応じて、映像コア200は示されたプロセスを選択的に実行するように構成することができる。デインタレーシングするように構成されていない、あるいはスケーリングを実行できないメディア表示プラットフォーム640を考慮の対象とする。そのような実装において、図7に示されるプロセスを実行するために映像コア200を構成することが望ましい。他の場合において、メディア表示プラットフォーム640はデインタレーシングおよびスケーリングするように構成された装置と結合することができる。したがって、媒体表示プラットフォーム640が映像コア200からデインタレーシングおよび次のスケーリングの作業を解放できるようにすることが好ましい。
[0076]また、選択は映像コア200中心であることができる。例えば、映像コア200が軽い負荷(例えば処理やメモリ利用が多くない)の下にあるときには、映像コア200が図7に示されるプロセスを実行するように構成することが望ましい。しかしながら、映像コア200がより高い利用レベルを被るならば、図6に示されるような作業から解放することが望ましい。
[0077]以下の表1は記述された一体化されたダウンスケーリングシステムおよび方法により達成されることができるいくつかの改善を示す実験データを含む。当該実験は1秒当たり30フレームのコンテンツレート、1秒当たり60フレームのリフレッシュレート、そしてピクセル当たり1.5バイト、を仮定している。ピクセルは色度ブルー、色度レッド、輝度の比率4:2:0を含む。実験は1920×1080の基準映像を使用して実行された。表示標準はテスト中の映像表示標準を意味し、対応する表示寸法が提供されている。一体化されたダウンスケーリング(IDS)映像コア基準(ref)フレーム書き込み帯域(BW)は1秒当たりメガバイトで示されている。また、IDS映像コア(disp)フレーム書き込み帯域(BW)は1秒当たりメガバイトで報告されている。また、メディア表示プラットフォーム(MDP)表示フレーム読み出し帯域が1秒当たりメガバイトで示されている。
Figure 0006306141
[0078]WUXGA、HD 1080、WSXGA、UGAおよびSXGAなどの高解像度の目標表示の場合に関しては、節約はほとんど見られなかった。これは、もしあったとしてもこれらの表示に関して実行されたダウンスケーリングの量は小さいので予期されたことである。しかしながら、目標表示に関して使用されるダウンスケーリングの量が増大するにしたがって、節約の量は非常に顕著になる。表1に示される効率は、バスおよび/またはメモリ帯域の効率として明示される帯域の利点を意味する。これらは単なる一例として提供されたものであり、さらなる限定されない利点が記述されたシステムおよび方法によって提供される。例えば、同じダウンスケーラが一体化され、符号化および復号ダウンスケーリングの両方に対して選択的に使用されることができる。これは、同じ構成要素がエンコーダおよびデコーダによって利用されるので装置の物理的占有範囲を減らすことができる。また、このことは、ソース映像装置内あるいは、送信先映像装置内あるいは、ハイブリッド装置(例えば映像を取得して表示可能)内のどこに一体化されても、ダウンスケーラは同じコアに関して含まれることができるので、映像コアを製造するコストを減らすことができる。
[0079]図8は映像データを処理する例示的方法に関するフローチャートを示す。当該方法は映像コア200などの、ここに記述された装置の1つ以上において実装することができる。
[0080]ノード802で、入力映像データが受信される。この受信は有線あるいは無線受信であることができる。受信はカメラなどのセンサからおよび/またはメモリからの入力映像データを受信することを含む。
[0081]ノード804で、出力映像データが生成される。出力映像データを生成することは入力映像データを選択的に符号化および復号することを含む。符号化あるい復号の間に入力映像データのダウンスケーリングされたバージョンが生成され、出力映像データは入力映像データのダウンスケーリングされたバージョンを含む。
[0082]図9は映像データを処理するための例示的電子装置の機能的ブロック図を示す。当業者ならば、電子装置は図9に示される簡略化された映像処理装置900よりも多くの構成要素を持つことができることを理解するであろう。映像処理装置900は特許請求の範囲内でいくつかの顕著な特徴を説明するのに役立つ構成要素のみを示している。映像処理装置900は入力受信機902および出力生成器904を含む。
[0083]入力受信機902は入力映像データを受信するように構成される。入力受信機902は1つ以上のアンテナ、シグナルプロセッサ、ネットワークインタフェース、メモリ、そして周辺インタフェースを含むことができる。いくつかの実装において、入力映像データを受信するための手段は入力受信機902を含む。
[0084]出力生成器904は出力映像データを生成するように構成される。出力映像データを生成することは入力映像データを選択的に符号化および復号することを含む。符号化および復号の間に入力映像表示モニタのダウンスケーリングされたバージョンが生成され、出力映像データは入力映像データのダウンスケーリングされたバージョンを含む。出力生成器904は映像エンコーダ、映像デコーダ、ダウンスケーラ、動き補償器および推定ユニット、量子化器、変換器、レート制御ユニット、メモリ、プロセッサ、書き込みデータ移動器、ネットワークインタフェース、そしてバッファの1つ以上を使用して実装されることができる。いくつかの実装において、出力映像を生成するための手段は出力生成器904を含むことができる。
[0085]当業者ならばさらに、ここに開示された実装に関連して記述された種々の例示的論理ブロック、モジュール、回路そしてプロセスステップは、電子的ハードウエア、コンピュータソフトウエア、あるいは両方の組み合わせとして実装できることを認識するであろう。ハードウエアとソフトウエアのこの交換性を明確に示すために、種々の例示的構成要素、ブロック、モジュール、回路そしてステップが概してそれらの機能性の観点から説明された。そのような機能性がハードウエアとしてあるいはソフトウエアとして実装されるかは特定のアプリケーションおよびシステム全体に課せられた設計上の制約に依存する。当業者は各特定のアプリケーションに関して種々の方法で記述された機能性を実装することができるが、そのような実装の決定は本願発明の範囲からの逸脱を引き起こすものと解釈されるべきではない。当業者は部分あるいは一部は全体に満たないかあるいは全体に等しい何かを備えることを認識するであろう。例えば、ピクセルの収集物の一部はこれらピクセルの副収集物を意味する。
[0086]ここに開示された実装に関連して記述された種々の例示的論理ブロック、モジュール、そして回路は汎用プロセッサ、デジタルシグナルプロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、あるいは他のプログラマブルロジックデバイス、ディスクリートゲートあるいはトランジスタロジック、ディスクリートハードウエア構成要素、あるいはここに記述された機能を実行するように設計されたそれらの組み合わせによって実装あるいは実行することができる。汎用プロセッサはマイクロプロセッサであることができるが、その代わりとしてプロセッサは通常のプロセッサ、コントローラ、マイクロコントローラ、あるいはステートマシンであることができる。また、プロセッサは計算装置の組み合わせ、例えばDSPおよびマイクロプロセッサ、複数のマイクロプロセッサ、DSPコアに関連する1つ以上のマイクロプロセッサ、あるいは任意のそのような構成、の組み合わせとして実装することができる。
[0087]個々に開示された実装に関連して記述された方法およびプロセスのステップは、直接ハードウエアで、プロセッサによって実行されるソフトウエアモジュール、あるいは2つの組み合わせによって具現化されることができる。ソフトウエアモジュールはRAMメモリ、フラッシュメモリ、ROMメモリ、EPROMメモリ、EEPROMメモリ、レジスタ、ハードディスク、取り外し可能なディスク、CD−ROM、あるいは当業界で知られた他の形態の非一時的な記憶媒体上に配置することができる。例示的コンピュータ読み取り可能な記憶媒体はプロセッサに結合され、プロセッサはコンピュータ読み取り可能な記憶媒体に対して情報を読み出し書き込むことができる。代替的に、記憶媒体はプロセッサと一体化可能である。プロセッサおよび記憶媒体はASIC内に配置することができる。ASICはユーザ端末、カメラあるいは他のデバイスに配置することができる。代替的に、プロセッサおよび記憶媒体はユーザ端末、カメラ、あるいは他のデバイス内のディスクリート構成要素として配置することができる。
[0088]ここに使用されるように、術語“決定”あるいは“決定すること”は、広範囲のアクションを含む。例えば、“決定すること”は、計算すること、算出すること、処理すること、引き出すこと、調査すること、参照すること(例えばテーブル、データベースあるいは他のデータ構造を参照する)、確認すること、などを含むことができる。さらに、“決定すること”は受信すること(例えば情報を受信すること)、アクセスすること(例えばメモリ内のデータにアクセスすること)、などを含むことができる。さらに、“決定すること”は解決すること、選択すること、選別すること、確立すること、などを含むことができる。
[0089]ここに使用されているように、術語“供給する”あるいは“供給すること”は広範囲のアクションを含む。例えば、“供給すること”は次の取り出しのための位置の値を記憶すること、値を直接受信者に送信すること、値に対する参照を送信あるいは記憶すること、などを含むことができる。また、“供給すること”は符号化すること、復号すること、暗号化すること、復号化すること、立証すること、実証すること、などを含むことができる。
[0090]さらに、語句“例示的”はここでは“一例、一実例、あるいは一例示として有用である”ことを意味するために使用される。“例示的”としてここに記述された実施形態は他の実施形態と比べて必ずしも好ましいとか有利であるとかに解釈されるべきではない。
[0091]ここに使用されているように、品目のリストの“少なくとも1つの”は、単一の部材を含むこれらの品目の組み合わせを意味する。例として、“a、bあるいはcの少なくとも1つ”は、a、b、c、a−b、a−c、b−c、そしてa−b−cを含めることを意図している。
[0092]開示された実装の上記した記述は、当業者が本願発明を製造あるいは使用することを可能にするために提供された。これらの実装に対する種々の変更が当業者にとって容易に明らかであり、ここに規定された一般的な原理は本発明の精神あるいは範囲から逸脱することなしに他の実装に適用することができる。すなわち、本発明はここに示された実装に限定されることを意図していないが、ここに開示された原理および新規な特徴に合致した最も広い範囲が与えられるべきである。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[C1]
映像データを処理するための電子装置であって、
入力映像データを受信するように構成された受信機と、
出力映像データを生成するように構成された映像コーダと、を備え、
前記映像コーダは、
映像エンコーダと、
映像デコーダと、
前記エンコーダと前記デコーダとに結合されたダウンスケーラであって、符号化あるいは復号の間に前記入力映像データのダウンスケーリングされたバージョンを生成するように構成され、前記出力映像データは前記入力映像データのダウンスケーリングされたバージョンを含むダウンスケーラと、を含む電子装置。
[C2]
前記ダウンスケーラは、前記入力映像データのデブロッキングされた符号化バージョンあるいは前記受信された入力映像データの一方に基づいて、前記入力映像データの前記ダウンスケーリングされたバージョンを生成するように構成されるC1の装置。
[C3]
前記ダウンスケーラは前記受信された入力映像データのデブロッキングされた復号バージョンに基づいて前記入力映像データの前記ダウンスケーリングされたバージョンを生成するように構成されるC1の装置。
[C4]
前記入力映像データはインタレーシングされた映像データを備えるC1の装置。
[C5]
前記入力映像データの前記ダウンスケーリングされたバージョンを生成することは、
複数のダウンスケール方向の少なくとも1つのダウンスケーリング方向を特定することであって、前記複数のダウンスケール方向は水平ダウンスケールリングおよび垂直ダウンスケーリングを備えることと、
前記インタレーシングされた映像データをダウンスケーリングすることと、を備え、
前記出力映像データを生成することは、
前記ダウンスケーリングされたインタレーシングされた映像データをデインタレーシングすることと、
前記デインタレーシングされた映像データをスケーリングすることと、を備えるC4の装置。
[C6]
前記入力映像データの前記ダウンスケーリングされたバージョンを生成することは、
前記入力映像データの第1のデインタレーシングされたバージョンと前記入力映像データの第2のデインタレーシングされたバージョンとを受信することと、
前記入力映像データの前記第1のデインタレーシングされたバージョンと前記第2のデインタレーシングされたバージョンの1つを選択することと、
前記入力映像データの前記選択されたデインタレーシングされたバージョンをスケーリングすることと、を備えるC4の装置。
[C7]
前記出力映像データの少なくとも1つのバージョンを送信するように構成された送信機をさらに備えるC1の装置。
[C8]
前記ダウンスケーラは前記入力映像画像の垂直寸法と水平寸法の少なくとも1つに沿って選択的にダウンスケールするように構成されるC1の装置。
[C9]
前記ダウンスケーラは目標表示装置の寸法と、前記目標表示装置にデータを送信するための利用可能な帯域と、前記電子装置に対する資源利用可能性と、に少なくとも部分的に基づいて前記ダウンスケーリングされたバージョンを生成するように構成されるC1の装置。
[C10]
前記電子装置に対する前記資源利用可能性は電力、処理すること、メモリそしてバス利用可能性の少なくとも1つを備えるC9の装置。
[C11]
映像データを処理する方法であって、
入力映像データを受信することと、
出力映像データを生成することであって、出力映像データを生成することは、前記入力映像データを選択的に符号化及び復号することを備え、前記入力映像データのダウンスケーリングされたバージョンは前記符号化あるいは復号の間に生成され、前記出力映像データは前記入力映像データの前記ダウンスケーリングされたバージョンを含むことと、を備える方法。
[C12]
前記入力映像データの前記ダウンスケーリングされたバージョンは、前記入力映像データのデブロッキングされた符号化バージョンまたは前記受信された入力映像データの1つに基づいて生成されるC11の方法。
[C13]
前記入力映像データの前記ダウンスケーリングされたバージョンは前記受信された入力映像データのデブロッキングされた復号バージョンに基づいて生成されるC11の方法。
[C14]
前記入力映像データはインタレーシングされた映像データを備えるC11の方法。
[C15]
前記入力映像データの前記ダウンスケーリングされたバージョンを生成することは、
複数のダウンスケーリング方向の少なくとも1つのダウンスケーリング方向を特定することであって、前記複数のダウンスケーリング方向は水平ダウンスケーリングと垂直ダウンスケーリングとを備えることと、
前記インタレーシングされた映像データをダウンスケーリングすることと、を備え、
前記出力映像データを生成することは、
前記ダウンスケーリングされたインタレーシングされた映像データをデインタレーシングすることと、
前記デインタレーシングされた映像データをスケーリングすることと、を備えるC14の方法。
[C16]
前記入力映像データの前記ダウンスケーリングされたバージョンを生成することは、
前記入力映像データの第1のデインタレーシングされたバージョンと前記入力映像データの第2のデインタレーシングされたバージョンを受信することと、
前記入力映像データの前記第1のデインタレーシングされたバージョンと前記第2のデインタレーシングされたバージョンの1つを選択することと、
前記入力映像データの前記選択されたデインタレーシングされたバージョンをスケーリングすることと、を備えるC14の方法。
[C17]
前記出力映像データの少なくとも1つを送信することをさらに備えるC11の方法。
[C18]
前記ダウンスケーリングされたバージョンを生成することは前記入力映像画像の水平寸法および垂直寸法の少なくとも1つに沿って、選択的にダウンスケーリングすることを備えるC11の方法。
[C19]
前記ダウンスケーリングされたバージョンを生成することは、
前記ダウンスケーラは目標表示装置の寸法と、前記目標表示装置にデータを送信するための利用可能な帯域と、資源利用可能性と、に少なくとも部分的に基づくC11の方法。
[C20]
前記資源利用可能性は、電力、処理すること、メモリそしてバス利用可能性の少なくとも1つを備えるC19の方法。
[C21]
映像データを処理するための電子装置であって、
入力映像データを受信するための手段と、
出力映像データを生成するための手段であって、出力映像データを生成することは、前記入力映像データを選択的に符号化及び復号することを備え、前記入力映像データのダウンスケーリングされたバージョンは前記符号化あるいは前記復号の間に生成され、前記出力映像データは前記入力映像データの前記ダウンスケーリングされたバージョンを含む手段と、を備える電子装置。
[C22]
装置のプロセッサによって実行可能な命令を備えるコンピュータ読み取り可能な記憶媒体であって、前記命令は前記装置に、
入力映像データを受信させ、
出力映像データを生成させ、ここにおいて、出力映像データを生成することは、前記入力映像データを選択的に符号化及び復号することを備え、前記入力映像データのダウンスケーリングされたバージョンは前記符号化あるいは復号の間に生成され、前記出力映像データは前記入力映像データの前記ダウンスケーリングされたバージョンを含む、コンピュータ読み取り可能な記憶媒体。

Claims (15)

  1. 映像データを処理するための映像コアであって、
    入力映像データを受信するように構成された受信機と、
    出力映像データを生成するように構成された映像コーダと、
    を備え、
    前記映像コーダは、
    映像エンコーダと、
    映像デコーダと、前記映像エンコーダおよび前記映像デコーダはそれぞれ、デブロッキングされた映像データを供給するように配置されたデブロッカを備え、
    前記映像エンコーダおよび前記映像デコーダの各々の前記デブロッカに結合されたダウンスケーラと、
    を含み、
    前記ダウンスケーラは各デブロッカに結合され、各デブロッカによって供給された前記デブロッキングされた映像データを受信するように配置され、前記ダウンスケーラは前記映像エンコーダと前記映像デコーダとによって共有され、前記ダウンスケーラは目標表示装置に基づいて、前記入力映像データのダウンスケーリングされたバージョンを生成するために前記デブロッキングされた映像データのダウンスケーリングされたより低い解像度バージョンを生成するように構成され、前記入力映像データの前記ダウンスケーリングされたバージョンは前記目標表示装置と同じ解像度をもち、前記出力映像データは前記入力映像データの前記ダウンスケーリングされたバージョンを含む、
    映像コア。
  2. 前記入力映像データはインタレーシングされた映像データを備える請求項1の映像コア。
  3. 前記入力映像データの前記ダウンスケーリングされたバージョンを生成することは、
    複数のダウンスケール方向の少なくとも1つのダウンスケーリング方向を決定することであって、前記複数のダウンスケール方向は水平ダウンスケーリングおよび垂直ダウンスケーリングを備え決定することと、
    前記インタレーシングされた映像データをダウンスケーリングすることと、
    を備え、
    前記出力映像データを生成することは、
    前記ダウンスケーリングされたインタレーシングされた映像データをデインタレーシングすることと、
    前記決定された少なくとも1つのダウンスケーリング方向に従って、前記デインタレーシングされた映像データをスケーリングすることと、
    を備える
    請求項2の映像コア。
  4. 前記入力映像データは、前記入力映像データの第1および第2のデインタレーシングされたバージョンを生成するためにデインタレーシングされ、
    前記入力映像データの前記ダウンスケーリングされたバージョンを生成することは、
    前記入力映像データの第1のデインタレーシングされたバージョンと前記入力映像データの第2のデインタレーシングされたバージョンとを受信することと、
    前記入力映像データの前記第1のデインタレーシングされたバージョンと前記第2のデインタレーシングされたバージョンの1つを選択することと、
    前記入力映像データの前記選択されたデインタレーシングされたバージョンをスケーリングすることと、
    を備える
    請求項2の映像コア。
  5. 前記ダウンスケーラは入力映像画像の垂直寸法と水平寸法の少なくとも1つに沿って選択的にダウンスケールするように構成される請求項1の映像コア。
  6. 前記ダウンスケーラは前記目標表示装置の寸法と、前記目標表示装置にデータを送信するための利用可能な帯域と、前記映像コアに対する資源利用可能性と、に少なくとも部分的に基づいて前記ダウンスケーリングされたバージョンを生成するように構成される請求項1の映像コア。
  7. 映像コア内で映像データを処理する方法であって、
    入力映像データを受信することと、
    出力映像データを生成することと、
    を備え、
    出力映像データを生成することは、
    前記入力映像データを復号または符号化することと、前記復号または符号化することは、デブロッキングされた映像データを供給することを備え、
    目標表示装置に基づいて、前記入力映像データのダウンスケーリングされたより低い解像度バージョンを生成するために前記デブロッキングされた映像データをダウンスケーリングすることであって、前記入力映像データの前記ダウンスケーリングされたバージョンは前記目標表示装置と同じ解像度をもち、前記出力映像データは前記入力映像データの前記ダウンスケーリングされたバージョンを含む、ダウンスケーリングすることと、
    を備え、
    前記映像コアは、映像エンコーダと、映像デコーダと、ダウンリンクスケーリングのためのダウンスケーラと、を備え、前記ダウンスケーラは前記映像エンコーダと前記映像デコーダとによって共有される、
    方法。
  8. 前記入力映像データはインタレーシングされた映像データを備える請求項7の方法。
  9. 前記入力映像データの前記ダウンスケーリングされたバージョンを生成することは、
    複数のダウンスケール方向の少なくとも1つのダウンスケーリング方向を決定することであって、前記複数のダウンスケール方向は水平ダウンスケーリングと垂直ダウンスケーリングとを備え決定することと、
    前記インタレーシングされた映像データをダウンスケーリングすることと、
    を備え、
    前記出力映像データを生成することは、
    前記ダウンスケーリングされたインタレーシングされた映像データをデインタレーシングすることと、
    前記決定された少なくとも1つのダウンスケーリング方向に従って、前記デインタレーシングされた映像データをスケーリングすることと、
    を備える
    請求項8の方法。
  10. 映像データの異なる解像度についての前記入力映像データの第1および第2のデインタレーシングされたバージョンを生成するために前記入力映像データをデインタレーシングすることを備え、
    前記入力映像データの前記ダウンスケーリングされたバージョンを生成することは、
    前記入力映像データの第1のデインタレーシングされたバージョンと前記入力映像データの第2のデインタレーシングされたバージョンとを受信することと、
    前記入力映像データの前記第1のデインタレーシングされたバージョンと前記第2のデインタレーシングされたバージョンの1つを選択することと、
    前記入力映像データの前記選択されたデインタレーシングされたバージョンをスケーリングすることと、
    を備える
    請求項8の方法。
  11. 前記出力映像データの少なくとも1つのバージョンを送信することをさらに備える請求項7の方法。
  12. 前記ダウンスケーリングされたバージョンを生成することは入力映像画像の水平寸法および垂直寸法の少なくとも1つに沿って、選択的にダウンスケーリングすることを備える請求項7の方法。
  13. 前記ダウンスケーリングされたバージョンを生成することは、
    前記目標表示装置の寸法と、前記目標表示装置にデータを送信するための利用可能な帯域と、資源利用可能性と、に少なくとも部分的に基づく請求項7の方法。
  14. 前記資源利用可能性は、電力、処理すること、メモリ、およびバス利用可能性とのうちの少なくとも1つを備える請求項13の方法。
  15. 装置のプロセッサによって実行可能な命令を備えるコンピュータ読み取り可能な記憶媒体であって、前記命令は前記装置に、請求項7〜14のいずれか一項の方法を行わせる、コンピュータ読み取り可能な記憶媒体。
JP2016500438A 2013-03-13 2014-02-26 映像データの一体化された空間ダウンサンプリング Expired - Fee Related JP6306141B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/801,220 US9432614B2 (en) 2013-03-13 2013-03-13 Integrated downscale in video core
US13/801,220 2013-03-13
PCT/US2014/018736 WO2014163903A1 (en) 2013-03-13 2014-02-26 Integrated spatial downsampling of video data

Publications (3)

Publication Number Publication Date
JP2016515356A JP2016515356A (ja) 2016-05-26
JP2016515356A5 JP2016515356A5 (ja) 2017-03-16
JP6306141B2 true JP6306141B2 (ja) 2018-04-04

Family

ID=50391370

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016500438A Expired - Fee Related JP6306141B2 (ja) 2013-03-13 2014-02-26 映像データの一体化された空間ダウンサンプリング

Country Status (6)

Country Link
US (1) US9432614B2 (ja)
EP (1) EP2974315A1 (ja)
JP (1) JP6306141B2 (ja)
KR (1) KR102281154B1 (ja)
CN (1) CN105144717B (ja)
WO (1) WO2014163903A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180118344A1 (en) * 2016-10-31 2018-05-03 Innov8 Cabin Solutions, LLC Aircraft personal content system
US10747265B2 (en) 2017-07-10 2020-08-18 Innov8 Cabin Solutions, LLC Wall mount system for personal electronic devices

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10145817A (ja) * 1996-11-12 1998-05-29 Hitachi Ltd 画像信号のip変換およびフォ−マット変換の信号処理回路
EP0945001B1 (en) 1996-12-18 2003-04-23 Thomson Consumer Electronics, Inc. A multiple format video signal processor
US6157396A (en) * 1999-02-16 2000-12-05 Pixonics Llc System and method for using bitstream information to process images for use in digital display systems
US6768774B1 (en) 1998-11-09 2004-07-27 Broadcom Corporation Video and graphics system with video scaling
US8698840B2 (en) * 1999-03-05 2014-04-15 Csr Technology Inc. Method and apparatus for processing video and graphics data to create a composite output image having independent and separate layers of video and graphics display planes
US20030043918A1 (en) * 1999-12-20 2003-03-06 Jiang Hong H. Method and apparatus for performing video image decoding
US7215708B2 (en) * 2001-05-22 2007-05-08 Koninklijke Philips Electronics N.V. Resolution downscaling of video images
US7379496B2 (en) 2002-09-04 2008-05-27 Microsoft Corporation Multi-resolution video coding and decoding
US8159548B2 (en) * 2003-01-30 2012-04-17 Qualcomm Incorporated Modular architecture having reusable front end for processing digital video data
US20050175099A1 (en) * 2004-02-06 2005-08-11 Nokia Corporation Transcoder and associated system, method and computer program product for low-complexity reduced resolution transcoding
US20050255913A1 (en) * 2004-05-13 2005-11-17 Eastman Kodak Company Collectible display device
US7630568B2 (en) * 2005-03-25 2009-12-08 Microsoft Corporation System and method for low-resolution signal rendering from a hierarchical transform representation
US20070058713A1 (en) 2005-09-14 2007-03-15 Microsoft Corporation Arbitrary resolution change downsizing decoder
JP2007174403A (ja) * 2005-12-22 2007-07-05 Toshiba Corp 映像処理装置および映像処理方法
US8428118B2 (en) * 2006-08-17 2013-04-23 Ittiam Systems (P) Ltd. Technique for transcoding MPEG-2/MPEG-4 bitstream to H.264 bitstream
US8250618B2 (en) 2006-09-18 2012-08-21 Elemental Technologies, Inc. Real-time network adaptive digital video encoding/decoding
US8711901B2 (en) * 2007-03-12 2014-04-29 Vixs Systems, Inc. Video processing system and device with encoding and decoding modes and method for use therewith
JP2009010586A (ja) * 2007-06-27 2009-01-15 Fujitsu Microelectronics Ltd トランスコーダおよびトランスコード方法
US20090320081A1 (en) 2008-06-24 2009-12-24 Chui Charles K Providing and Displaying Video at Multiple Resolution and Quality Levels
CN102165778A (zh) * 2009-02-10 2011-08-24 松下电器产业株式会社 图像处理装置、图像处理方法、程序及集成电路
CN101848383A (zh) * 2009-03-24 2010-09-29 虹软(上海)科技有限公司 对mpeg2格式视频进行降采样解码的方法
JP2011147040A (ja) * 2010-01-18 2011-07-28 Hitachi Ltd 放送再配信装置
US8847968B2 (en) * 2011-07-12 2014-09-30 Qualcomm Incorporated Displaying static images

Also Published As

Publication number Publication date
CN105144717B (zh) 2018-06-01
US20140269895A1 (en) 2014-09-18
CN105144717A (zh) 2015-12-09
KR20150127166A (ko) 2015-11-16
JP2016515356A (ja) 2016-05-26
US9432614B2 (en) 2016-08-30
EP2974315A1 (en) 2016-01-20
KR102281154B1 (ko) 2021-07-22
WO2014163903A1 (en) 2014-10-09

Similar Documents

Publication Publication Date Title
US11765343B2 (en) Inter prediction method and apparatus
KR102431537B1 (ko) 루마 및 크로마 성분에 대한 ibc 전용 버퍼 및 디폴트 값 리프레싱을 사용하는 인코더, 디코더 및 대응하는 방법들
JP5259828B2 (ja) 4×4および8×8よりも大きい変換を使用するビデオ符号化
RU2581014C1 (ru) Устройство обработки изображения
JP7205038B2 (ja) 任意のctuサイズのためのibc検索範囲最適化を用いるエンコーダ、デコーダおよび対応する方法
TW201931853A (zh) 具有聯合像素/變換為基礎之量化之視頻寫碼之量化參數控制
JP2011523235A (ja) 水平対称性および垂直対称性に基づくフィルタ係数のビデオ符号化
JP2014168244A (ja) 効率的な2d−3dレンダリングのためのビデオ復号器におけるテクスチャ圧縮
WO2013070605A2 (en) Video and data processing using even-odd integer transforms background
CN103004196A (zh) 在经压缩位流中包含切换式内插滤波器系数
CN112995663B (zh) 视频编码的方法、视频解码的方法及相应装置
US20200322629A1 (en) System and method for non-uniform video coding
TW202103496A (zh) 用於適應性迴路濾波器之剪切值計算之簡化
JP2017531355A (ja) マルチ区分変換のために変換構造を再使用するためのシステム及び方法
JP2017537491A (ja) 改善された転置バッファを有するスケーラブルな変換ハードウェアアーキテクチャ
WO2019174389A1 (zh) 一种图像块的帧内预测方法及装置
KR102611845B1 (ko) 옵티컬 플로 기반 비디오 인터 예측
JP2022511873A (ja) ビデオピクチャの復号および符号化の方法ならびに装置
US20130195186A1 (en) Scalable Video Coding Extensions for High Efficiency Video Coding
KR20230145063A (ko) 비디오 코딩에서의 인트라-예측을 위한 레퍼런스 픽셀들의업샘플링
US9275434B2 (en) Phase control multi-tap downscale filter
JP6306141B2 (ja) 映像データの一体化された空間ダウンサンプリング
CN111263166B (zh) 一种视频图像预测方法及装置
US11770522B2 (en) Picture display order determining method and apparatus, and video coding device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170127

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180307

R150 Certificate of patent or registration of utility model

Ref document number: 6306141

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees