JP4188599B2 - 対話型テレビアプリケーションの複数のmpeg符号化ビデオストリーム結合方法、複数のmpeg符号化ビデオストリーム結合システム及び複数のmpeg符号化ビデオストリーム結合対話型デコータ - Google Patents

対話型テレビアプリケーションの複数のmpeg符号化ビデオストリーム結合方法、複数のmpeg符号化ビデオストリーム結合システム及び複数のmpeg符号化ビデオストリーム結合対話型デコータ Download PDF

Info

Publication number
JP4188599B2
JP4188599B2 JP2001554621A JP2001554621A JP4188599B2 JP 4188599 B2 JP4188599 B2 JP 4188599B2 JP 2001554621 A JP2001554621 A JP 2001554621A JP 2001554621 A JP2001554621 A JP 2001554621A JP 4188599 B2 JP4188599 B2 JP 4188599B2
Authority
JP
Japan
Prior art keywords
video stream
encoded video
mpeg encoded
display position
slice
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001554621A
Other languages
English (en)
Other versions
JP2003521177A (ja
JP2003521177A5 (ja
Inventor
ラマ カッルリ、
ジョエル ゼプスキー、
Original Assignee
オープン ティーヴィー インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US09/494,067 external-priority patent/US6931660B1/en
Priority claimed from US09/494,184 external-priority patent/US6539545B1/en
Application filed by オープン ティーヴィー インコーポレイテッド filed Critical オープン ティーヴィー インコーポレイテッド
Publication of JP2003521177A publication Critical patent/JP2003521177A/ja
Publication of JP2003521177A5 publication Critical patent/JP2003521177A5/ja
Application granted granted Critical
Publication of JP4188599B2 publication Critical patent/JP4188599B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25808Management of client data
    • H04N21/25825Management of client data involving client display capabilities, e.g. screen resolution of a mobile phone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4347Demultiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44012Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving rendering scenes according to scene graphs, e.g. MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/462Content or additional data management, e.g. creating a master electronic program guide from data received from the Internet and a Head-end, controlling the complexity of a video stream by scaling the resolution or bit-rate based on the client capabilities
    • H04N21/4622Retrieving content or additional data from different sources, e.g. from a broadcast channel and the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8166Monomedia components thereof involving executable data, e.g. software
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/16Analogue secrecy systems; Analogue subscription systems
    • H04N7/173Analogue secrecy systems; Analogue subscription systems with two-way working, e.g. subscriber sending a programme selection signal
    • H04N7/17309Transmission or handling of upstream communications
    • H04N7/17336Handling of requests in head-ends
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/445Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
    • H04N5/45Picture in picture, e.g. displaying simultaneously another television channel in a region of the screen

Description

【0001】
(発明の分野)
本発明は、概して、対話型テレビ等の対話型ビデオ通信媒体に関する。さらに特定すると、本発明は、対話型テレビアプリケーションでの複数のMPEG符号化ビデオストリーム結合方法、複数のMPEG符号化ビデオストリーム結合システム及び複数のMPEG符号化ビデオストリーム結合対話型デコータに関する。
【0002】
(関連技術の説明)
対話型テレビは、放送視聴覚コンテンツを数多くの加入者に提供する対話型音声及びビデオ媒体である。対話型テレビは、放送ビデオ及び音声をユーザに提供し、例えば選択を行うまたは所望の製品を注文する等、ユーザがコンテンツと対話するための戻り経路も提供してよい。
【0003】
自転車レースの放送等のテレビ網によるテレビ放送において、このテレビ網は、例えばレースの多様な角度から、または多様な自転車選手からのネットワークに対する複数のビデオフィードを生成してよい。ネットワークは複数のビデオフィードから1つまたは2つ以上のフィードを選択し、この選択されたビデオフィードを時間の任意の指定される点で見ている視聴者に放送してよい。明らかであるように、各視聴者は、どのビデオフィードが視聴のために、同時に、数値データとして与えられた物体や図形に関する情報を計算によって画像化(以下、「レンダリング」と記載)されなければならないのかを個々に選択するオプションを持たない。
【0004】
ポイントツーポイントネットワークは、各視聴者が、入手可能なビデオフィードの集合から同時にレンダリングされるビデオフィードを選択できるようにする。オンライン環境内等のポイントツーポイントネットワークでは、各視聴者は、視聴者がどのビデオフィードを見ることを希望するのかを選択するヘッドエンドサーバに要求を送信してよい。それから、サーバはヘッドエンド上で各視聴者向けの画面を組み替えてから、それを特定の視聴者に送信してよい。ただし、このようなポイントツーポイントネットワークまたはオンライン環境は、視聴者が、そのビデオ選択をヘッドエンドサーバに送信するために、視聴者サイトからヘッドエンドサーバへの戻り経路だけではなく、かなりの量の帯域幅も必要とする。さらに、このようなポイントツーポイントネットワークまたはオンライン環境は、アクティブなクライアントごとのピクチャ組み替えのためにヘッドエンドサーバ内の追加ハードウェアも必要とする。
【0005】
各視聴者が、使用可能なビデオフィードの集合から、視聴者が見ることを希望するビデオフィードを選択できるようにする別のシステムとは、視聴者サイトの受信機内に、同時にレンダリングされる個々のビデオと同じくらい多くのデコーダを有するシステムである。例えば、もし6の個別のビデオが同時にレンダリングされると、視聴者サイトの受信機は6個のデコーダを用意しなければならない。しかしながら、このようなシステムは、受信機内でかなりの処理電力を必要とし、受信機の費用を高めるだろう。加えて、同時にレンダリングできるビデオ数は、受信機内で提供されるデコーダの数に制限されるだろう。
【0006】
このようにして、各視聴者が数多くのビデオフィードから1つまたは2つ以上のビデオフィードの独自の集合を選択できるように、対話型テレビアプリケーションでの複数の符号化デジタルビデオ信号ストリームの同時通信及びレンダリングのための、相対的に簡略且つ経済的なシステム及び方法を提供することは大いに望ましい。理想的には、このようなシステム及び方法は、かなりの量の帯域幅または視聴者サイトからヘッドエンドサーバまでの戻り経路を必要としないだろう。
【0007】
(MPEGの背景技術)
本発明の説明及び理解を容易にするために、ムービングピクチャエキスパートグループ(以下、「MPEG」と記載)圧縮がここで提示される。MPEG圧縮とは、フレーム間及びフレーム内の圧縮技法を使用する完全動画ビデオ画像の圧縮及び復元のための一式の方法である。MPEG圧縮は、とりわけ動作補償プロセスと離散的コサイン変換プロセス(ディスクリートコサイントランスフォーム:DCT)の両方を使用し、200:1を超える圧縮率を生じさせることができる。
【0008】
2つの優勢なMPEG規格が、MPEG−1とMPEG−2と呼ばれている。MPEG−1規格は、一般的には、典型的には、時相差分パルス符号変調(ディファレントパルスコードモジュレーション:DPCM)を使用するブロックベースの動作補償予測(モーションコンペンセイションプレディクション:MCP)を使用するフィールド間データ削減に関する。MPEG−2規格はMPEG−1規格に類似しているが、幅広い範囲のアプリケーションをカバーするための拡張を含む。ここに使用されるように、用語「MPEG」は、MPEG−1、MPEG−2若しくは任意のそれ以外の適切なMPEG標準圧縮及び復元技法を指す。
【0009】
MPEG−ストリームは、イントラフレーム(Iフレーム)、予測フレーム(Pフレーム)、及びバイディレクショナル補間フレーム(Bフレーム)の3種類のピクチャまたはフレームを含む。Iまたはイントラフレームは、ビデオのフレーム全体のビデオデータを含み、典型的には10フレームまたは15フレームごとに配置される。イントラフレームは、ランダムアクセスのためのファイルの中へのエントリポイントを提供し、一般的には適度に圧縮されるだけである。予測フレームは過去のフレーム、つまり前のイントラフレームまたは予測フレームに関して符号化される。このようにしてPフレームは、前のIフレームまたはPフレームを基準にした変更を含むだけである。一般的には、予測フレームはかなり大量の圧縮を受信し、将来の予測フレーム用の基準として使用される。このようにして、IフレームとPフレームの両方とも、それ以降のフレームのための基準として使用される。双方向ピクチャは、最大量の圧縮を含み、符号化されるために過去と将来両方の基準を必要とする。双方向フレームは他のフレームの基準として使用されない。
【0010】
MPEGエンコーダは、各々のフレームを、マクロブロックと呼ばれる16かける16ピクセルの正方形に分割する。各々のフレームは動作推定/補償を実行するためにマクロブロックに分割される。各ピクチャは、複数のスライスから構成される。MPEG規格は、マクロブロックの同じ行で開始、終了する2個または3個以上のマクロブロック(16x16ピクセルのブロック)の連続シーケンスとしてスライスを定義する。スライスはスライス開始コードで始まり、スライスがピクチャ内で開始する水平と垂直の場所を示す情報を含む。
【0011】
(発明の要約)
対話型テレビアプリケーションにおける複数のMPEG符号化デジタルビデオ信号ストリームの同時通信及びレンダリングのためのシステム及び方法が開示される。本発明が、プロセス、装置、システム、デバイス、方法、またはコンピュータ読み取り可能記憶媒体等のコンピュータ読み取り可能媒体、あるいはプログラム命令が光通信線路または電子通信線路上を送信されるコンピュータネットワークとしてを含む多数の方法で実現できることが理解されなければならない。本発明の複数の発明の実施形態が後述される。
【0012】
方法は、概して、MPEG符号化ビデオストリーム毎の各スライスの表示部分に対応する表示位置コードについて値を求めることと、MPEG符号化ビデオストリーム毎の各スライスの表示位置コード値を必要に応じて変更することと、変更されたとおりのMPEG符号化ビデオストリーム毎の各スライスを、単一の合成ビデオストリームにインタリーブすることとを備える。
【0013】
表示位置コードの値の変更は、好ましくは、バイト内の表示位置コードのビット位置合わせを維持する。MPEG符号化ビデオストリームは、要すればMPEG−1またはMPEG−2符号化ビデオストリームであり、表示位置コードは要すればマクロブロックアドレス増分可変長コードワード及び/または少なくとも1バイトのスライス開始コードである。好ましくは、変更の結果、元のマクロブロックアドレス増分可変長コードワードと同じ数のビットモジュロ8を有する変更済みのマクロブロックアドレス増分可変長コードワードが生じる。加えて、インタリーブは、要すれば、各MPEG符号化ビデオストリームの各スライスの変更された通りの表示位置コードに従って達成される。
【0014】
1つの好ましい実施形態においては、表示位置コードは、3ビットを含み、2または3という増分値を有するマクロブロックアドレス増分可変長コードワードを含む。スライスごとのマクロブロックアドレス増分可変長コードワード値は、22から33までの増分値に変更されてよい。例えば、変更は、必要に応じてマクロブロックアドレス増分可変長コードワードの3ビットを変更し、11ビットの変更済みのマクロブロックアドレス増分可変長コードワード内の結果に1バイトを追加するあるいは挿入することによって達成されてよい。代わりに、変更は、3ビットマクロブロックアドレス増分可変長コードワード内の結果に対する1バイトを削除し、3ビットマクロブロックアドレス増分可変長コードワードを必要に応じて変更することによって達成されてもよい。概して、指定された行の中のスライスの第1マクロブロックアドレス増分だけが、変更される必要がある。MPEG符号化ビデオストリームがMPEG−1符号化ビデオストリームであるケースでは、追加の要件とは、すべてのスライスが同じ行で開始、終了するということである。例えば、表示位置コードは、マクロブロックアドレス増分コードワードを含み、変更することは、0個と7個の間のマクロブロックアドレス増分スタッフィングコードを選択的に追加することを含む。追加されるマクロブロックアドレス増分スタッフィングコードの数は、マクロブロックアドレス増分コードワードが、1バイト内の表示位置コードのビット整合を維持するように決定されてよい。変更の結果、変更済みのマクロブロックアドレス増分コードワード及び未変更のマクロブロックアドレス増分コードワードモジュロ8内のビット数と同じであるビットモジュロ8の結合された数を有する所定数のマクロブロックアドレス増分スタッフィングコードが生じる。
【0015】
複数のMPEG符号化ビデオストリーム結合システムは、概して、MPEG符号化ビデオストリーム毎の各スライスの表示位置の表示位置コードを決定するように、MPEG符号化ビデオストリーム毎の各スライスの表示位置を必要に応じて変更するように、及び変更されたとおりのMPEG符号化ビデオストリーム毎の各スライスを単一合成ビデオストリームにインタリーブするように適応される対話型デコーダを備える。システムは、さらに、複数のMPEG符号化ビデオストリームを対話型デコーダに一斉送信するための放送センタを備えてよい。
【0016】
複数MPEG符号化ビデオストリームを結合するための対話型デコーダは、概して、MPEG符号化ビデオストリーム毎の各スライスの表示位置に対応する表示位置コードについて値を決定するための手段、MPEG符号化ビデオストリーム毎の各スライスの表示位置コードの値を必要に応じて変更するための手段と、変更されたとおりのMPEG符号化ビデオストリーム毎の各スライスを単一合成ビデオストリームにインタリーブするための手段とを備える。
【0017】
本発明のこれらの特徴及びそれ以外の特徴は、以下の詳細な説明及び発明の原則を例によって説明する添付図面に提示されるだろう。
【0018】
(特定の実施形態の説明)
対話型テレビアプリケーションでの複数の符号化されたデジタルビデオ信号ストリームの同時通信及びレンダリングのためのシステム及び方法が開示される。以下の説明は、任意の技術の技能者が発明を作り、使用できるようにするために提示される。特定的な実施形態及び用途の説明は、例としてのみ提供され、多様な変更は当業者に容易に明らかになるだろう。ここに定められる一般原則は、発明の精神及び範囲から逸脱することなくそれ以外の実施形態及び用途に適用されてよい。このようにして、本発明は、ここに開示される原則及び特徴と一貫した多数の代替策、変更、及び同等物を含む最も幅広い範囲を与えられるべきである。明快にするため、発明に関係する技術分野で既知である技術的な資料に関する詳細は、本発明を不必要に覆い隠すことないように詳細に説明されていない。
【0019】
(対話型テレビシステム)
好ましい実施形態では、本発明のシステム及び方法は、対話型テレビシステムに含まれている。しかしながら、本発明のシステム及び方法が、標準的なテレビ、対話型テレビを含む多様な種類のビデオシステム、インターネット、及びそれ以外の種類のビデオまたはグラフィック送達媒体のどれかに含まれてよいことが理解されなければならない。用語「ビデオ」は、静止画像、グラフィックス、及びライブのアクションビデオまたは動画ビデオを含むことを目的とする。
【0020】
図1は、本発明のある実施形態による対話型テレビシステム100の概略図である。図1は、例示的であるにすぎず、それ以外の対話型テレビシステム実施形態は、所望される通りに活用されてよい。
【0021】
図示されるように、対話型テレビシステム100は、非対話型視聴覚コンテンツ及び/または対話型視聴覚コンテンツを含む、視聴覚コンテンツを生成するために放送センタ102を利用する。放送センタ102は、視聴覚コンテンツを提供するための音声/ビデオソース104を含む。視聴覚コンテンツは、通常、テレビで見られるような、映画、スポーツ、ニュース、ホームコメディ、またはその他の視聴覚番組を備えてよい。視聴覚コンテンツは、好ましくは、多様な目的のために活用されてよい静止画像も備える。視聴覚コンテンツは、好ましくは、複数のビデオストリームを備え、好ましくは、ビデオストリームの2つまたは3つ以上が同時に表示できるように構成または設計される。
【0022】
放送センタ102は、各々が視聴覚コンテンツを備える複数の番組チャネルを提供する。1つまたは複数の番組チャネルは、視聴覚コンテンツ及び関連付けられる対話型アプリケーションを含む音声−ビデオ−対話型信号(以下、「AVI」信号と記載)を備えてよい。本発明の好ましい実施形態に従って、放送センタ102にあるエンコーダ108は、ビデオを符号化または圧縮し、圧縮済みのビデオストリームを伝送するために使用できる。
【0023】
音声/ビデオソース104は、静止ビデオ画像を圧縮された静止ビデオ画像に圧縮するためのビデオ圧縮論理回路を含んでよい。図示されるように、視聴覚コンテンツは、要すれば、リモートネットワーク120によって、または所望される通りにライブフィードによって供給される。
【0024】
放送センタ102は、好ましくは、対話型アプリケーションコンテンツを作成及び/または生成するためのアプリケーションサーバ106も含む。対話型アプリケーションコンテンツは、セットトップボックスまたはテレビ内のプロセッサによって、対話型テレビの機能をサポートするために実行されるように設計されるアプリケーションコード及びデータを備える。アプリケーションサーバ106は、好ましくは、「オープンテレビ」対話型アプリケーションを生成または提供するために構成される。アプリケーションサーバは、所望されるように、Javaアプレットまたはその他の対話型番組コンテンツも提供してよい。本発明の複数の符号化デジタルビデオ信号ストリームの同時通信及びレンダリングのためのシステム及び方法が、このような対話型アプリケーションコンテンツとともに実現される必要がないことが注意される。
【0025】
エンコーダ/マルチプレクサ108は、対話型アプリケーションコンテンツを視聴覚コンテンツと結合し、AVI信号を生じさせる。また、エンコーダ/マルチプレクサ108は、対話型アプリケーションコンテンツが、視聴覚コンテンツ内の適切な位置に挿入されることを確実にするために、対話型アプケーションコンテンツを視聴覚コンテンツに同期させる。一定のチャネルは、非対話型番組コンテンツを備えてよい。言い換えると、一定の視聴覚コンテンツは、関連付けられる対話型コンテンツを有しないことがある。エンコーダ/マルチプレクサ108は、好ましくは、伝送のために、AVI信号、及び要すれば非対話型信号を含む複数の信号をともに多重送信する
【0026】
放送センタ102は、エンドユーザによる受信またはそれ以降の分散リンクのために放送信号を伝送するためのアップリンク衛星110も含む。図1は、衛星が放送信号を伝送するために活用される衛星ネットワーク例を示すが、同軸ケーブルによるケーブル分散、光ファイバ伝送、マイクロ波伝送及び/または任意のそれ以外の適切な手段を含むそれ以外の伝送方法が活用されてよい。
【0027】
放送信号は、例えば、衛星ダウンリンク132を介して放送センタ102から受信される。それから、放送信号は、複数のエンドユーザまたは加入者に提供される。前述に注記されたように、放送信号は、1つまたは複数の非対話型番組信号を含んでよく、各々のチャネル上に1つまたは複数のAVI信号を含んでよい。
【0028】
加入者サイト130での各エンドユーザは、好ましくは、テレビセット150だけではなく、セットトップボックス受信機または対話型デコーダ140も含む。セットトップボックスまたは対話型デコーダ140は、テレビセット150に結合される。対話型デコーダ140の論理回路は、テレビセット150及び対話型デコーダ140が、別個の装置よりむしろ単一の統合型装置を備えるように、テレビ150内に含まれてよいことが注意される。さらに、テレビ150は、表示画面またはそれ以外の適切な表示装置を有する汎用プログラマブルコンピュータを備えてよい。
【0029】
本開示では、用語「加入者テレビ」は、テレビセット150、またはコンピュータ、液晶ディスプレイ画面等のその他の表示装置を含むことが意図され、圧縮されたビデオを復号する、及び/または対話型番組を実行するための関連付けられるデコーダ論理回路を含んでよい。例えば、ある実施形態では、加入者テレビは、対話型デコーダまたはセットトップボックス140に結合されるテレビセット150を備える。
【0030】
テレビリモートコントローラ152等のユーザインタフェースは、テレビ150及び/または対話型デコーダ140とのユーザ対話を容易にするためにユーザサイトで提供されてよい。ユーザは、見るための所望されるテレビチャネルを選択、または多様な対話型選択から選択することができる。本発明の1つの実施形態に従って、ユーザは、表示のために、同時に放送されるビデオストリーム及び/または静止ピクチャから2つまたは3つ以上のビデオストリームを選択できる。ユーザは、要すれば、テレビセット150で複数のビデオストリームの各々の表示場所を選択することもできる。さらに、エンドユーザは本発明を用いて、グラフィカル・ユーザ・インターフェース(GUI)を表示画面に設定することができる。
【0031】
受信機及び対話型デコーダ140は1つの装置として示されているが、受信機は、後述されるように、任意の適切な数の対話型デコーダ及び要すれば組み替えエンジン等のあらゆる追加の構成要素を含んでよい。ここに説明される複数の符号化デジタルビデオ信号ストリームの同時通信及びレンダリングのためのシステム及び方法は、レンダリングされたストリームの数が、受信機内に存在するデコーダの数以上である一般的なケースに適切である。加えて、レンダリングされたストリームの数は、典型的には、送信されるビデオストリーム数未満であるか、あるいは等しいが、一定のストリームが複数回表示される場合等、送信されるビデオストリームの数より多い場合がある。
【0032】
選択されたテレビチャネル上の信号は、テレビセット150に出力を提供する対話型デコーダ140によって復号される。対話型デコーダ140は、好ましくは、オープンテレビ等のリアルタイムオペレーティングシステムを実行する。ここの説明は放送によって受信される信号を処理または復号するシステムの点においてであるが、処理は、放送信号及び/またはデコーダ(またはその他の構成要素)のハードドライブ(またはその他のメモリ)内等の、ユーザサイトに常駐する構成要素、つまり常駐メモリ内に記憶されている信号で実行されてよいことが理解されなければならない。
【0033】
表示されているチャネルがAVI信号を備えるケースでは、対話型デコーダ140は、対話型テレビ機能をイネーブルするために、選択されたAVI信号内で伝達される対話型アプリケーションプログラムを実行してもよい。
【0034】
戻りチャネル156は、要すれば、ユーザによる一定の選択を監視し、相応して応答するトランザクションサーバ160に対話型デコーダ140を相互接続する。この戻りチャネル156は、好ましくは、通信のために、標準POTS(黒電話サービス)電話線路及び関連付けられるモデム(図示されていない)を活用する。同軸ケーブル、光ファイバケーブル、DSL(デジタル加入者回線)、ATM(非同期転送モード)、またはその他等のそれ以外の戻りチャネルオプションは、所望されるように使用されてよい。
【0035】
好ましい実施形態では、放送センタ102は、各乗り手の自転車に対するカメラからのビデオフィード等の多様なビデオフィードを含む自転車レースのような番組を放送する。各ビデオフィードは、個別に圧縮され、すべての衛星ダウンリンク132に個別に放送される。
【0036】
放送センタ102によって一斉送信される入信ストリームは、MPEGストリームであるが、完全にMPEG規格に準拠している必要はない。明快にするため、このような非準拠ストリームも、ここではMPEGストリームと呼ばれる。例えば、入信一斉送信ストリームは符号化されたMPEG様式であってよいが、シーケンスヘッダ等のストリームの要素のいくつかは、受信機によって結合された出力ストリームに追加されてよい。
【0037】
加えて、使用可能なビデオストリームのリストは、好ましくは、放送センタ102の対話型アプリケーションが使用できるようにされる。各ユーザは、使用可能なビデオストリームのリストから所望のビデオを選択し、それによって各ユーザが、ユーザの好みのレーサの視点等のユーザにとって関心のあるレースの角度を監視できるようにする。
【0038】
対話型デコーダ140は、入力として、どのビデオフィードのユーザの選択がユーザのテレビセット150上に同時に表示されるべきか、及び要すれば、選択されたビデオフィードの各々がユーザのテレビセット150で表示される場所を受信する。対話型デコーダ140は、選択されていないビデオ信号を無視または廃棄し、選択されたビデオ信号を表示のために再配置するために選択された信号を前処理し、前処理された信号を復号する。それから、対話型デコーダ140は、ユーザのテレビセット150の画面上の小さなピクチャのモザイクである大きな合成ビデオとしてユーザの選択されたビデオを提示する。
【0039】
対話型デコーダ140のこのようなプロセスは、ユーザが所望されるビデオ及びそれらの各々の表示場所を選択するという点で対話型であるが、ユーザの選択は、復号ビデオ信号をテレビセット150に直接的に出力する対話型デコーダ140によって完了されるため、戻りチャネル156の活用を必要としない。
【0040】
複数のビデオストリームの同時表示は、数多くの異なる対話型テレビアプリケーションで使用されてよい。例えば、視聴者は、同時に他の番組を表示している間にウェブページまたはコマーシャルからのMPEG静止を表示することを選んでよい。別の例として、対話型コマーシャルは、ユーザが、ある分野の製品から複数の製品を、またはある製品の多様な特徴の詳細を同時に表示することを選択できる。
【0041】
(対話型デコーダ)
図2は、セットトップボックスまたは対話型デコーダ140を描く概略図である。図示されているように、対話型デコーダ140は、1つまたは複数のチャネル上で入力放送チャネル信号304を受信するためのデマルチプレクサ302を含む。入力放送信号は、好ましくは、映画、スポーツ、テレビショー、ニュース、広告等の番組コンテンツを含む複数のチャネルを備える。放送信号は、好ましくは、複数の圧縮された、または符号化されたデジタルビデオストリームを含む。視聴覚構成要素は、好ましくは圧縮され、さらに好ましくはMPEG−1またはMPEG−2圧縮される。前述にて注記されたように、表示されるために選択されるビデオストリームに対応するビデオ(または視聴覚)信号だけが、対話型デコーダ140によって処理されるが、選択されていないビデオ信号は廃棄される。
【0042】
デマルチプレクサ302は、音声/ビデオ構成要素を入力放送チャネル信号304の対話型構成要素から分離するために動作する。発明の好ましい実施形態においては、対話型構成要素は、オープンテレビコーポレーションによって広められるオープンテレビ規格に準拠する対話型アプリケーション及び/またはデータを備える。しかしながら、それ以外の適切な種類の対話型アプリケーションがAVI信号に含まれてよい。
【0043】
デマルチプレクサ302は、ピクチャバッファ306を介して音声/ビデオ復号プロセッサ、つまりデコーダ304に音声/ビデオ構成要素を提供する。復号プロセッサ304は、表示用にビデオ信号を再配置するために複数の選択されたビデオストリームを前処理し、前処理された信号をインタリーブし、インタリーブされた圧縮済み視聴覚信号を復号し、復元されたデータを生じさせる。
【0044】
好ましい実施形態においては、放送チャネルはMPEG−2圧縮データを転送する。このようにして、好ましい実施形態では、復号プロセッサ304は、好ましくはMPEG−2プリプロセッサ、インタリーブプロセッサ及びデコーダを含む。デコーダ304は、好ましくは1台または複数台のデジタル信号プロセッサ(DSP)及び1つまたは複数の関連付けられるメモリを含む。デコーダが、1つまたは複数のDSP、CPU、またはマイクロコントローラ、離散論理回路またはその組み合わせを含む多様な種類の論理回路を備えてよいことが注意される。復号プロセッサ304の詳細は、さらに詳しく説明されるだろう。
【0045】
復号プロセッサ304は、好ましくはテレビセット150に表示のために提供される音声/ビデオ出力を提供する。復号ブロック304が、同時に表示される複数のユーザ選択ビデオストリームを受信すると、デコーダは、ユーザのテレビセット150に、さらに小さな再配置済みのピクチャのモザイクを備える単一復元ビデオストリームを出力する。
【0046】
対話型デコーダ140は、さらに、メモリ316に結合されるCPU314を含んでよい。このメモリ316は、好ましくは、対話型アプリケーションオペレーティングシステムを記憶するための読取専用メモリ(リードオンリーメモリ:ROM)である。オペレーティングシステムは、好ましくは、オープンテレビコーポレーションのオープンテレビオペレーティングシステムである。
【0047】
入力放送チャネル信号304がAVI信号を含むときには、デマルチプレクサ302は、AVI信号の対話型番組構成要素を、CPU314に結合される対話型アプリケーションメモリ312に提供する。この対話型アプリケーションメモリは、好ましくは、対話型アプリケーション、つまりオープンテレビアプリケーションを記憶するためのランダムアクセスメモリ(RAM)である。AVI信号からの対話型アプリケーションは、RAM312に記憶され、CPU314はRAM312から対話型アプリケーションを読み取り、アプリケーションを実行することができる。
【0048】
このようにして、CPU314は、ROM314からオープンテレビオペレーティングシステムを読み取り、それによりオペレーティングシステムはCPU314の動作を制御する。CPU314は、AVI信号を備えるRAM312からも対話型アプリケーションを読み取り、ROM316に記憶されているオープンテレビオペレーティングシステムの制御下で対話型アプリケーションを実行する。
【0049】
前述にて注記されたように、好まれている実施形態においては、同時に表示される、ユーザが使用できるビデオストリームのリストは、対話型アプリケーション内に含まれてよい。したがって、使用可能なビデオストリームのリストは、好ましくは、視聴覚構成要素の一部としてよりむしろ対話型アプリケーションの一部として含まれる。対照的に、ビデオストリームは、音声/ビデオストリームの一部として含まれる。
【0050】
代わりに、使用可能なビデオストリームのリストは、チャネルのシグナリングで伝送されてよい。チャネルのシグナリングは、すべてのチャネルに対して統一された方法で放送会社によって受信者に送信される構成要素のリストである。この仕組みは、例えば、受信機が、二次音声チャネルを検出できるようにするために活用される。
【0051】
RAM312は、CPU314に結合される。CPU314は、その結果、グラフィック画面上ディスプレイ322に結合される。グラフィック画面上ディスプレイ322は、デコーダ304によって提供される音声/ビデオ出力とともにテレビセットに出力を提供するために結合される。グラフィック画面上ディスプレイ322は、デコーダ304の音声/ビデオ出力の上部にオーバレイすることのできるフォーマットでデータを編成する。このようにして、CPU314は、対話型アプリケーションを実行し、デコーダ140からの音声/ビデオストリーム出力とともに提供される画面上グラフィックを生成する。例えば、対話型アプリケーションが、1つまたは複数の画像または選択オプションをテレビ番組または静止画像の上部に表示またはオーバレイさせるために作成される場合、アプリケーションを実行しているCPU314は、グラフィック画面上ディスプレイ322に適切な出力を提供し、グラフィック画面上ディスプレイ322は、各々の画像または選択ボタンを、デコーダ304の音声/ビデオ出力の上にオーバレイさせる、及び/またはデコーダ304の音声/ビデオ出力とともに表示させる。
【0052】
グラフィック画面上ディスプレイ322は、4ビットまたは8ビットのカラーメモリであってよい。グラフィック画面上ディスプレイ322は、選択ボタンの提示または同時表示のために使用可能なビデオストリームのリストに加えて多様な目的のために使用されてよい。
【0053】
ユーザは、ユーザ入力324をCPU314に提供してよい。ユーザ入力は、多様なデバイスから提供されてよく、好ましくはリモートコントローラ、テレビセット150上のボタン、または対話型デコーダ140を介して提供される。CPU314に提供されるユーザ入力324は、ユーザが、RAM312に記憶されている対話型アプリケーションと対話できるようにする。例えば、ユーザまたは視聴者は、テレビセット上で同時に表示される複数のビデオストリームを選択してよい。それ以外のユーザ入力324は、製品を注文する、または情報を注文するための選択を含み、テレビゲームショーに回答を提供し、挿入ピクチャまたはフィードの選択肢から挿入ピクチャまたは挿入フィードを選択してよく、そこでは選択された挿入ピクチャは、例えば背景ピクチャでの表示用である。また、ユーザまたは視聴者は、テレビセット上に同時に表示される複数の選択されたビデオストリームの各々の場所を選択してよい。
【0054】
CPU314は、ピクチャバッファ306等のピクチャバッファ306に結合される出力を含む。CPU314は、どのビデオ(または視聴覚)信号がユーザによって同時表示のために選択されるのか、及び各々の選択されたビデオストリームのテレビセット上での対応する表示場所に関係する信号をピクチャバッファ306に送信する。このようにして、ピクチャバッファ306は表示されるために選択されるビデオストリームだけを受信するが、選択されていないビデオ信号は廃棄される。
【0055】
CPU314は、好ましくは、ユーザ対話性を提供するためにモデム326を介して、さらに戻りチャネル156に結合される。モデム326は、双方向通信のために使用されてよい。図1に図示されるように、戻りチャネル156は、好ましくはトランシーバサーバ160に結合される。このようにして、ユーザが、情報を注文する、または製品を購入するオプションを選択すると、トランシーバサーバ160はこの注文を受信し、履行のために注文を処理する。また、ユーザがゲームショーの中で質問に答える場合、回答は戻りチャネル156上でトランシーバサーバ160に提供される。
【0056】
図3は、対話型デコーダ140の動作を示す概略図である。図3に図示される例では、特に4つのビデオストリームであるビデオストリーム1から4が同時に表示されている。加えて、ビデオストリーム1から4は、各々、テレビセットのディスプレイの右下、左上、右上、及び左下のカドラントに表示されている。好ましくは、図3に図示されている対話型デコーダ140は、MPEG−2圧縮ビデオストリームのために活用される。
【0057】
表示されるために選択されたビデオストリームごとに、ビデオストリーム信号330及び例えば表示場所情報を含む対応する制御信号332が、マクロブロックアドレス増分変更子334に入力される。ビデオストリーム信号330はさらに小さなピクチャを表す。マクロブロックアドレス増分変更子334は、対応する制御信号332に含まれるそのビデオストリームの表示場所に従って、必要な場合、ビデオストリーム信号330のマクロブロックアドレス増分を変更する。マクロブロックアドレス増分変更子334の出力、つまり変更済みのマクロブロックアドレス増分を含むビデオストリームが、インタリーブ336に入力される。
【0058】
インタリーブ336は、さらに小さな変更済みのビデオストリームをさらに大きな単一ビデオストリームの中にインタリーブする。単一のさらに大きなビデオストリームは、本来、再配置されたさらに小さなピクチャのモザイクである。それから、ビデオデコーダ338、好ましくはMPEG−2ビデオデコーダが、信号ビデオストリームを復号し、ユーザのテレビセットに出力する。それから、テレビセットは、ユーザによって指定される表示場所、デフォルト表示場所、またはユーザによって指定された表示場所とデフォルト表示場所の組み合わせに従って再配置されたさらに小さなピクチャのモザイクを表す、復号単一ビデオストリームを表示する。例えば、複数の符号化ビデオストリームのデフォルト表示場所は、HTMLレイアウトエンジン様式、及び/またはデフォルト表示場所を決定するための任意のそれ以外の適切な方法によって求められる、対話型デコーダまたは受信機に記憶される静的な値であってよい。デフォルト場所は、活用される構成に応じて、受信機またはヘッドエンド内に常駐できる組換えエンジンによってレイアウト規則から計算されてよい。
【0059】
(一定の用語のMPEG−2定義)
明快にするため及び後述される説明を容易にするために、複数の用語が、MPEG−2規格に従って提示、定義される。例えば、ピクセルとは、根本的な画素を指すが、ブロックは64ピクセルの8かける8のグループ分けを指す。マクロブロックは、5つのブロックの2かける2のグループ分け、またはピクセルの16かける16のグループ分けとして定義される。スライスは、本発明の目的のために、マクロブロックの同じ行で開始、終了するマクロブロックのシーケンスを指す。スライス開始コードは、スライスの開始を示す4バイトのバイト位置合わせ済み符号なしシーケンスである。スライス開始コードの値は、0x00000101と0x000001AFの間の範囲にある。スライス開始コードの最後のバイトは、現在のスライスが属するマクロブロックの行を示すスライス開始コード値である。例えば、01という値は、スライス中のピクセルが行0から15までで属することを示し、0xAFは、スライス中のピクセルが行2784から2799まえで属することを示す。
【0060】
マクロブロックアドレス増分は、長さ1ビットから11ビットの可変長コードワードである。マクロブロックアドレス増分は、同行のスライスの最後のマクロブロックからのマクロブロックsの単位での増分を示し、現在のスライスの水平位置、つまり表示の左端からのスライス位置を示す。例えば、1というマクロブロックアドレス増分値は、現在のスライスが列0で属し、少なくとも列15まで伸張することを示す。マクロブロックアドレス増分可変長コードワード及びスライス開始コードは、それらは、特定のスライスの表示位置を示すコードであるため、集合的に表示位置コードと呼ばれてよい。
【0061】
(対話型デコーダ140のプロセスを示すフローチャート)
図4A及び図4Bは、同時通信及びレンダリングのための複数のビデオストリームを処理する際の本発明の対話型デコーダのプロセス350を描くフロー図である。図4Aに図示されているように、対話型デコーダは、最初に、好ましくはステップ352でAVI信号の対話型構成要素内で、使用可能なビデオの長さだけではなく、放送センタによって一斉送信される符号化ビデオ信号も受信する。
【0062】
ステップ354では、対話型デコーダは、同時表示のための所望されるビデオのユーザの選択、及びそれらの指定された及び/またはデフォルトの表示位置に基づいて、制御信号を生成する。ユーザは同時に表示されなければならないビデオの各々を選択してよいが、1つまたは複数のビデオがデフォルトによって表示されてよいことが理解されなければならない。言い換えると、1つまたは複数のデフォルトビデオ及び1つまたは複数のユーザによって選択されたビデオが表示されてよい。ステップ356で、対話型デコーダは、放送ビデオ信号ストリームを受信する。
【0063】
代わりに、対話型デコーダは、例えばステップ352で、AVI信号の対話型構成要素中の使用可能なビデオのリストを受信し、ステップ354で制御信号を生成し、ユーザによって選択された、一斉送信されたビデオストリームを選択的に受信してよい。ユーザによって選択された、一斉送信されたビデオストリームの選択的な受信は、放送センタでのサーバによって等、各ビデオストリームが分割されるパケットの識別または識別子に基づいて達成されてよい。放送センタが各MPEGビデオストリームを識別子で特定されるビデオパケットに分割し、時間領域内でパケットを複数の化する。
【0064】
ステップ358で、対話型デコーダは、受信されたビデオストリームの各々が選択されたビデオの1つに一致するかどうかを判断する。一致する場合、対話型デコーダは、選択されたビデオストリームを処理し、処理された出力ビデオ信号をステップ360での選択されたビデオの同時表示のためにディスプレイに出力する。言い換えると、ステップ360で、対話型デコーダは、復号の前にMPEG符号化ビデオストリームを結合する。代わりに、ユーザによって選択されるビデオに一致しないビデオストリームについて、対話型デコーダは、選択されていないビデオストリームを廃棄するか、無視する。
【0065】
図4Bは、さらに詳細に対話型デコーダのプロセスつまりステップ360を描く。特に、ステップ362で、対話型デコーダは、そのビデオまたはビデオストリームについての選択された表示位置またはデフォルトの表示位置に応じて、必要に応じて各ビデオストリームを移動するために、選択されたビデオストリームの各スライスを前処理する。移動は、必要な場合、マクロブロックアドレス増分LVC及び/またはマクロブロックアドレス増分スライス開始コード(以下「マクロブロックアドレス増分SCC」と記載)とを変更することを含む。前述に注記されたように、スライス開始コードは、スライスの開始を示す4バイトのバイト位置合わせ済みの符号なしシーケンスであり、その最後のバイトは、現在のスライスが属するマクロブロックの行を示すスライス開始コード値である。このようにして、スライスの水平位置または行位置、つまりスライスが属するマクロブロックの行を再配置または移動するために、スライス開始コードの値が変更される。スライス開始コードは可変長ではないため、スライス開始コードの値は、バイト内でのビット位置合わせ、つまりバイト位置合わせに関する懸念なしに単に変更されてよい。
【0066】
次に、ステップ364で、対話型デコーダは、さらに大きな合成ビデオを表す単一ビデオストリームが生成されるような順序で選択されたさらに小さなビデオの前処理されたスライスをインタリーブする。このインタリーブプロセスは、1997年10月16日に提出され、参照してここにその全体で組み込まれた「MPEG−1フレームを使用してピクチャ内にピクチャを挿入するための対話型テレビシステム及び方法(インタラクティブ・テレビジョン・システムアンドメソッド・フォー・インサーティング・ピクチャーズ・ウィトイン・ピクチャーズ・ウーズィングMPEG−1フレームス)」と題する、同時係属米国出願番号第08/08/951,795号に説明されるインタリーブプロセスに類似することがある。
【0067】
代わりに、好まれていないが、対話型デコーダは、最初に、複数の選択されたビデオストリームスライスをインタリーブしてから、前処理する、つまり再配置されなければならないインタリーブされたビデオストリームのスライスの座標を寄せ集めて作ることができる。しかしながら、インタリーブされたビデオストリームの解析は困難である場合があるため、このようなプロセスは、通常好まれない。
【0068】
ステップ366で、対話型デコーダは、さらに大きな合成ビデオを表すインタリーブされたビデオストリームを復号する。最後に、ステップ368で、対話型デコーダは、テレビセット等のディスプレイにユーザによって選択されるビデオのさらに大きな合成ビデオを表す復号された単一インタリーブビデオストリームを出力する。
【0069】
さらに、対話型デコーダは、要すれば、ステップ368で、単一のインタリーブされた合成ビデオストリームのサイズを変更する。好ましくは、個々のシーケンスは、複数のピクチャが結合されるピクチャ数に応じて、サイズ変更を行って、あるいはサイズ変更を行わずに結合、表示できるように、ディスプレイより小さい空間解像度で符号化される。特に、放送センタは、好ましくは、所定のサイズ、例えば、典型的な高品位テレビ表示サイズ等の、典型的な表示サイズの4分の1に従って各ビデオフィードを一斉送信する。このようにして、エンドユーザが、同時表示のために4つのピクチャを選択する場合、デコーダによるサイズ変更は不必要になるだろう。
【0070】
放送センタによって一斉送信される特定の所定のサイズは、処理要件を最小限に抑えながら、部分的には、ピクチャの所望解像度の最適化に依存してよい。MPEG圧縮技術において、ビデオフィードはマクロブロックに分割され、各マクロブロックは圧縮されたストリームに圧縮される。対話型デコーダは、各圧縮済みストリームを復元し、ピクチャを再構築する。それから、対話型デコーダは、ピクチャを所望のサイズにズームすることができる。言い換えると、対話型デコーダは、通常、各々の圧縮済みスライスのサイズを変更することはできないが、全体的なピクチャのサイズを変更することはできる。このようにして、対話型デコーダは、好ましくは、所望のサイズで結果として生じるビデオを表示するために単一のインタリーブされた合成ビデオストリームのサイズを変更する。
【0071】
例えば、放送センタからの各ビデオフィードが典型的なテレビディスプレイサイズの4分の1であり、ユーザが同時表示のために6つのビデオフィードを選択する場合、単一のインタリーブされた合成ビデオストリームは表示には大きすぎるだろう。したがって、対話型デコーダは、好ましくは合成ビデオストリームを所望のサイズに、好ましくはビデオを歪めるのではなく、ディスプレイの表示部分の活用を最大限にするサイズ変更を行う。
【0072】
受信機は、好ましくは、結合されたビデオでカバーされていないディスプレイまたは画面の部分をカバーするために塗りつぶしシーケンスも挿入する。例えば、入信ストリームが各々出力ディスプレイの4分の1を占有し、3つのシーケンスが選択、結合される場合、受信機は、例えば、緑の矩形等の空のシーケンスまたは静止Iフレーム等の放送サーバによって送信できるか、あるいは受信機によって生成できるかのどちらかである塗りつぶしビデオで表示画面の残りの4分の1をカバーしてよい。
【0073】
ある実施形態では、ストリームのどれも位置決めのために変更されない。このようなケースは、ヘッドエンドが、ディスプレイの副部分をカバーする場所ごとに複数のオプションのストリームを送信し、受信機のエンドユーザは、例えば、デフォルトにより、及び/またはユーザプロファイルに基づいて、位置ごとにオプションを選択する結果となる場合がある。言い換えると、複数の符号化されたビデオストリーム放送は、2つまたは3つ以上の表示場所の1つでの表示のために構成されるだろう。複数の符号化されたビデオストリームは、表示場所の少なくとも1つについて複数の符号化されたビデオストリームを含むだろう。
【0074】
例えば、コマーシャルは、各々が固定された表示場所にある数多くのサブピクチャを含んでよく、各表示場所のコンテンツは、ユーザプロファイルに基づいて、エンドユーザによって及び/または受信機によって選択されるだろう。特に、デパートのためのコマーシャルは、一般的にデパートを広告する左側のサブピクチャ、及びある特定の製品を広告する右側のサブピクチャを備えてよい。左側のサブピクチャは、エンドユーザの好ましい言語に基づいて選択されてよいが、右側のサブピクチャは、家庭内の子供の数と年齢等のエンドユーザの家庭のプロファイルに基づいて選択されてよい。このようなシナリオにおいては、ヘッドエンドによって送信される左側のサブピクチャは、一般的にデパートのための英語とスペイン語の広告であり、ヘッドエンドによって送信される右側のサブピクチャはおもちゃ及び布地の広告であってよい。
【0075】
復号の前の結合する複数のMPEG符号化ビデオストリームのプロセス360が、好ましくはユーザサイトで実行されるが、プロセス360は、例えば放送センタにおいて等、どこか他の場所で実現されてよいことが注意されるべきである。このようなインプリメンテーションの構成は、好ましくは、一次ヘッドエンドが二次ヘッドエンドに圧縮済みのビデオを送信する場合、及びこの二次ヘッドエンドがビデオを組み替え、結合し直されたストリームを単一の受信機または受信機のグループに狭域キャストする場合である。二次ヘッドエンドの活用はオプションであり、帯域幅の節約を提供する。このような構成の恩典とは、受信機内のハードウェアコストが最小限に抑えられる、または削減されるという点である。例えば、このような構成は、受信機がすでに配備されており、必要な追加ハードウェアまたはソフトウェアで容易に更新できないケースで有益だろう。加えて、このような構成は、機能が指定された時点で限られた数の受信機によって活用されるにすぎない、及び/または限られた数の受信機だけが使用できる場合に、二次ヘッドエンドでの機能を集中化する方が安価であるケースで有益だろう。
【0076】
(複数ビデオストリームの同時レンダリングの例)
図示され、図4Aと図4Bのフロー図に関して説明されているような対話型デコーダのプロセスは、ここで例によって説明されるだろう。特に、図5Aから図5Dは、本発明の対話型テレビシステムの動作の一例を描く。図5Aは、3つの別々のピクチャまたはビデオ402、404、408を描く。別々のビデオの各々が数多くのスライスを含んでいる。例えば、ビデオ402は、スライス1.1、1.2、1.3、1.4、1.5及び1.6を含む。同様にして、ビデオ404は、スライス2.1、2.2、2.3、2.4、2.5及び2.6を含み、ビデオ406はスライス3.1、3.2、3.3、3.4、3.5及び3.6を含む。
【0077】
図5Bは、ビデオストリームとしての放送センタから対話型デコーダへのビデオ402、404、406の各々の伝送を描く。例えば、スライス1.1、1.2、1.3、1.4、1.5、及び1.6を備えるビデオ402は、ビデオストリーム412として伝送される。図示されるように、ビデオストリーム412は、スライス1.1、1.2、1.3、1.4、1.5及び1.6を直列で備える。同様に、ビデオ402は、スライス2.1、2.2、2.3、2.4、2.5及び2.6を備えるビデオストリーム414として伝送され、ビデオ406は、スライス3.1、3.2、3.3、3.4、3.5及び3.6を直列で備えるビデオストリーム416として伝送される。
【0078】
同時表示のためにユーザが使用できるビデオまたはピクチャのビデオストリームに加えて、放送センタは、好ましくは、同時に表示される、ユーザが使用可能なビデオストリームのリストも伝送する。前述にて注記されたように、使用可能なビデオストリームのリストは、AVI信号の対話型構成要素に含まれてよい。
【0079】
ユーザサイトでは、ユーザは、同時表示のためにビデオ402、404、406の2つまたは3つ以上を選択してよい。図5C及び図5Dに図示される例においては、ユーザは、テレビセットディスプレイの左側で表示ビデオ402を、右側でビデオ404を選択する。代わりに、このような表示構成は、ユーザがビデオのすべての表示場所を指定しないデフォルトの表示構成であってよい。このようにして、対話型デコーダは、ビデオ402、404に対応するビデオストリーム412、414を前処理し、ビデオ406に対応するビデオストリーム416を廃棄または無視する。
【0080】
対話型デコーダは、ユーザの選択及び要すればデフォルトの表示構成に基づいて制御信号を生成する。制御信号に基づき、対話型デコーダは、ビデオ選択されたビデオストリームの各スライスを前処理し、そのビデオまたはビデオストリームの選択された表示位置またはデフォルトの表示位置に応じて、各ビデオストリームを必要に応じて移動する。それから、対話型デコーダは、選択されたさらに小さなビデオ、つまりビデオ402と404の前処理されたスライスをインタリーブする。
【0081】
図5Cは、対話型デコーダによって生成されるようなさらに大きな合成ビデオを表す、結果として生じる単一のインタリーブされたビデオストリーム420の一部を描く。ビデオ402に対応するビデオストリーム412の各スライスは、ディスプレイの左端または境界に配置されるため、ビデオストリーム412のスライス1.1、1.2、1.3、1.4、1.5及び1.6は最終ビデオ出力内で再配置されないため変更されない。言い換えると、ビデオ402に対応する、結果として生じる単一のインタリーブされたビデオストリーム420内のスライスは未変更であり、その他のビデオストリームに対応する変更されたビデオスライスとインタリーブされる。
【0082】
対照的に、ビデオ404に対応するビデオストリーム414の各々のスライスは、ビデオの左端が表示の中央にあるように再配置される必要があるため、ビデオストリーム414のスライス2.1、2.2、2.3、2.4、2.5及び2.6は、ビデオストリームがスライスのこのような目的地位置を示すデータを含むように変更される。1つの実施形態では、変更されたスライス2.1‘から2.6’は、スライスの新しい目的地場所を表す、寄せ集めて作られた座標442を含む。このようにして、スライス2.1から2.6は変更され、スライス2.1‘から2.6‘がスライス2.1から2.6と、スライス開始コード値によって指定されるようなそれらの垂直の、つまり列の位置においてのみ異なるスライス2.1‘から2.6’になる。
【0083】
対話型デコーダが、ここに示され、説明される例で再配置される1つのビデオストリームの各スライスの水平位置を変更するに過ぎないが、対話型デコーダは、水平位置と垂直位置の両方、あるいは再配置されなければならない1つまたは複数のビデオストリームの垂直位置だけを変更する必要がある場合があることが注意される。
【0084】
それから、ビデオストリームの未変更のスライス1.1から1.6、及びビデオストリーム414の変更済みのスライス2.1‘から2.6’はインタリーブされ、同時表示のために両方のビデオ412、414を備えるさらに大きな合成ビデオを表すビデオストリーム420を生じさせる結果となる。
【0085】
図5Dは、テレビセット等のユーザのディスプレイに表示されるだろう合成ビデオ424を概略して描く。合成ビデオ424は、結果として生じる単一のインタリーブされたビデオストリーム420を表す。言い換えると、合成ビデオ424は、単一のインタリーブされたビデオストリームから生成できる。
【0086】
(実施形態:MPEG−2マクロブロックアドレス増分可変長コードワード変更)
図6は、MPEG−1とMPEG−2のマクロブロックアドレス増分可変長コードワード及び対応する増分値を一覧表示する表である。この表に注記されたように、マクロブロックアドレス増分可変長コードワードは1ビットから11ビットの長さを有し、スライスの水平配置を示す。図6に図示されるように、1,2−3、4−5、6−7、8−9、10−15、16−21及び22−33の増分値の数は、各々1,3,4,5,7,8,10及び11である。
【0087】
スライスが、ビットを別の値に変更するだけで、同じビット数を有するマクロブロックアドレス増分可変長コードワード値を有するために容易に変更できることが注意される。例えば、2の増分値に対応するマクロブロックアドレス増分可変長コードワード値を有するスライスは、3という増分値に対応するマクロブロックアドレス増分可変長コードワードを有するために容易に変更できる、あるいは逆である。同様に、10から15の範囲、16から21の範囲、または22から33の範囲の増分値に対応するマクロブロックアドレス増分可変長コードワード値を有するスライスは、同じ範囲内の増分値に対応する別のマクロブロックアドレス増分可変長コードワード値を有するように容易に変更できる。
【0088】
加えて、スライスは、同数のビットモジュロ8を有するマクロブロックアドレス増分可変長コードワード値を有するように容易に変更することもできる。マクロブロックアドレス増分可変長コードワードを同数のビットモジュロ8を有する別のマクロブロックアドレス増分可変長コードワードに変更することによって、結果として生じるマクロブロックアドレス増分可変長コードワードは、元のマクロブロックアドレス増分可変長コードワードと同じバイト内のビット位置を有するだろう。つまり、バイト内のビット位置合わせは未変更だろう。言い換えると、マクロブロックアドレス増分可変長コードワードにバイト内で同じビット位置合わせを維持させることによって、シフトレジスタ内等のマクロブロックアドレス増分可変長コードワードビットに続くスライス内のすべてのビットを回転させるニーズを不要にする。スライス内の残りビットのこのようなシフトまたは回転は、相対的に高価なプロセスを回避する。
【0089】
特に、2から3という増分値に対する数ビットモジュロ8及び増分値16から21という増分値に対する数ビットモジュロ8は、ともに3に等しい。このようにして、エンコーダが2または3という増分値に対応するマクロブロックアドレス増分可変長コードワード値を有するスライスを符号化すると、スライスのマクロブロックアドレス増分可変長コードワードは22と33の間の増分値に対応する値に容易に変更できる、または逆である。
【0090】
2という増分値に対応する011という値のマクロブロックアドレス増分可変長コードワードの、24という増分値に対応する0000 0100 001というマクロブロックアドレス増分可変長コードワード値への変更が、例として提示されるだろう。特に値0000 0100を有するバイトは、元のマクロブロックアドレス増分可変長コードワードに追加され、元のマクロブロックアドレス増分可変長コードワードの3ビット(011)は、結果として生じるマクロブロックアドレス増分可変長コードワードが、0000 0100 001という所望される値または目的地値を有するように、001という値に変更される。明らかであるように、逆変換プロセスも、マクロブロックアドレス増分可変長コードワードからバイトを削除し、残りの3ビットを所望の値に変更することによって容易に実現できる。一般的に、指定行のスライスの第1マクロブロックアドレス増分だけが変更される必要がある。
【0091】
このようにして、ディスプレイの左端で始まるすべてのスライスは、スライスが22と33の間の増分値に対応する表示位置に再配置されるために容易に変更できるように、好ましくは、放送センタによって2または3という増分値に対応するマクロブロックアドレス増分可変長コードワード値で符号化される。このようなインプリメンテーションでは、ビデオストリームのスライスが再配置されなければならない場合、マクロブロックアドレス増分値は、好ましくは2または3という増分値から22から33までの増分値に変更される。
【0092】
2から3の範囲の増分値と22から33の範囲の増分値の間の変更が好まれ、前述にて提示されているが、マクロブロックアドレス増分可変長コードワードの前述された変更は、同数のビットモジュロ8を有する変更されたマクロブロックアドレス増分可変長コードワードを生じさせるそれ以外の任意の変更に適用できる。例えば、16という増分値に対応する0000 0101 11のマクロブロックアドレス増分可変長コードワード値を有するスライスは、41という増分値に対応する0000 0001 000 0000 111というマクロブロックアドレス増分可変長コードワード値を有するスライスに変更することができる。41という増分値に対応する0001 000 0000 111のマクロブロックアドレス増分可変長コードワードは、8という増分値に対応する0000 111ビットを0000 0001 000というマクロブロックエスケープ値に付加することによって得られる。元のマクロブロックアドレス増分可変長コードワードは10ビットを有し、変更されたマクロブロックアドレス増分可変長コードワードは18ビットを有する。このようにして元のマクロブロックアドレス増分可変長コードワード及び変更されたマクロブロックアドレス増分可変長コードワードは同数のビットモジュロ8、つまり2を有する。
【0093】
マクロブロックアドレス増分エスケープ値に関して、最大マクロブロックアドレス増分可変長コードワードは11ビットを有し、マクロブロックアドレス増分エスケープ値は、33を増分に追加するために、必要に応じて反復できることが注意される。このようにして、マクロブロックアドレス増分エスケープ値は、2度繰り返され、0000 1001が後に続く場合、結果として生じる増分は78である。
【0094】
ビデオストリームのすべてのスライス内でのマクロブロックアドレス増分可変長コードワード値の前述された変更は、ビデオストリームのすべてのスライスの再配置を生じさせる。
【0095】
(MPEG−2対話型デコーダ140のプロセスを描くフロー図)
図7は、同時通信及びレンダリングのためにMPEG−2で符号化された複数のビデオストリームを処理する際の本発明のMPEG−2対話型デコーダの例示的なプロセスを描くフロー図である。ステップ382で、MPEG−2対話型デコーダは、再配置されるビデオストリームごとに、目的地マクロブロックアドレス増分可変長コードワードまたはスライスの対応する増分値を求める。ステップ384で、MPEG−2対話型デコーダは、バイト内のマクロブロックアドレス増分可変長コードワードの同じビット位置合わせを維持しつつ、再配置されなければならないビデオストリームの各スライスのマクロブロックアドレス増分可変長コードワード値を変更する。MPEG−2対話型デコーダによって実行されるマクロブロックアドレス増分可変長コードワード値の変更の例は、以下を含む。(1)1バイトを追加し、必要な場合元のビットを変更する、(2)1バイトを削除し、必要な場合、残りのビットを変更する、(3)元のビットを変更する、(4)必要な場合、元のビットを変更し、変更されたビットをMBエスケープに追加する。
【0096】
(代替実施形態:MPEG−1マクロブロックアドレス増分の変更)
本発明のシステム及び方法は、MPEG−1圧縮という状況でも活用されてよい。マクロブロックアドレス増分コードに加えて、MPEG−1圧縮は、追加マクロブロックアドレス増分スタッフィングコードを提供する。このマクロブロックアドレス増分スタッフィングコードは、11ビット、素数を有する。このようにして、マクロブロックアドレス増分コードは、マクロブロックアドレス増分スタッフィングコードの選択的な数を追加することによって、バイト内の任意のビット位置にビット位置合わせすることができる。MPEG−1符号化ビデオストリームのケースでは、追加要件は、すべてのスライスが同じ行で開始、終了するという点である。
【0097】
図8は、MPEG−1マクロブロックアドレス増分スタッフィングコードの数、対応するビット数、及びビットモジュロ8の対応する数を一覧表示する表である。図示されているように、0、1、2、3、4、5、6または7個のマクロブロックアドレス増分スタッフィングコードを追加すると、0、3、6、1、4、7、2または5個のビットのビット位置合わせシフトが生じる。このようにして、マクロブロックアドレス増分コードは、0個と7個の間のマクロブロックアドレス増分スタッフィングコードを追加することによって、バイト内の任意のビット位置にビット位置合わせすることができる。
【0098】
図9は、同時通信及びレンダリングのために複数のビデオストリームを処理する際の本発明のMPEG−1対話型デコーダのプロセス400を描くフロー図である。ステップ402で、対話型デコーダは、再配置される各ビデオストリームの目的地マクロブロックアドレス増分可変長コードワード及び/またはスライスの対応する増分値を求める。ステップ404で、対話型デコーダは、マクロブロックアドレス増分が変更された後に、結果として生じるコードがバイト内の所望されるビット位置にビット位置合わせされるように、マクロブロックアドレス増分に追加されるマクロブロックアドレス増分スタッフィングコードの数を求める。ステップ406では、対話型デコーダは、ビデオスライスが所望される場所で再配置されるように、再配置されるビデオストリームの各スライスのマクロブロックアドレス増分値を変更する。加えて、対話型デコーダは、バイト内のマクロブロックアドレス増分の同じビット整合を維持するように、スライスの中に所定数のマクロブロックアドレス増分スタッフィングコードを挿入する。
【0099】
本発明の好ましい実施対応はここに説明され描かれているが、それらが単に例証的にすぎないこと、及び発明の精神及び範囲から逸脱することなくこれらの実施形態に変更を加えることができることが理解されるだろう。このようにして、発明は、請求項という点だけで定義されることが意図される。例えば、ここに説明されるシステム及び方法の用途は、複数のエンドユーザのお気に入りのショーが、例えば個人専用のリストに基づいて表示される個人専用EPG(電子番組表)モザイクである。エンドユーザは、要すれば、個人専用EPGモザイク及び/または各々の表示位置からディスプレイの部分集合を選択してよい。
【図面の簡単な説明】
【図1】 本発明のある実施形態による対話型テレビシステムの概略図である。
【図2】 セットトップボックスまたは対話型デコを描く概略図である。
【図3】 対話型デコーダの動作を示す概略図である。
【図4A】 同時通信及びレンダリングのための複数のビデオストリームを処理する際の本発明の対話型デコーダのプロセスを描くフロー図である。
【図4B】 同時通信及びレンダリングのための複数のビデオストリームを処理する際の本発明の対話型デコーダのプロセスを描くフロー図である。
【図5A】 3つの別々のピクチャまたはビデオを描く図である。。
【図5B】 ビデオストリームとしての放送センタから対話型デコーダへのビデオの各々の伝送を描く図である。
【図5C】 ビデオ対応するビデオストリームを前処理し、他のビデオに対応するビデオストリームを廃棄または無視する際のデータの変更を描く図である。
【図5D】 ビデオ対応するビデオストリームを前処理し、他のビデオに対応するビデオストリームを廃棄または無視する際のデータの変更を描く図である。
【図6】 MPEG−1とMPEG−2のマクロブロックアドレス増分可変長コードワード及び対応する増分値を一覧表示する表である。
【図7】 同時通信及びレンダリングのためにMPEG−2で符号化された複数のビデオストリームを処理する際の本発明のMPEG−2対話型デコーダの例示的なプロセスを描くフロー図である。
【図8】 MPEG−1マクロブロックアドレス増分スタッフィングコードの数、対応するビット数、及びビットモジュロ8の対応する数を一覧表示する表である。
【図9】 同時通信及びレンダリングのために複数のビデオストリームを処理する際の本発明のMPEG−1対話型デコーダのプロセスを描くフロー図である。

Claims (28)

  1. 複数のMPEG符号化ビデオストリームを受信することと、
    前記受信されたMPEG符号化ビデオストリーム毎の各スライスの表示位置に対応する表示位置コードについて値を求めることと、
    求められた前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードの値を必要に応じて変更することと、
    変更されたMPEG符号化ビデオストリームを含む前記MPEG符号化ビデオストリーム毎の各スライスを、単一の合成ビデオストリームにインタリーブすること、とを備え、
    前記表示位置コードが、第1のビット数を有する第1のマクロブロックアドレス増分可変長コードワードを含み、
    前記表示位置コードについて値を変更することは、
    前記第1のビット数を有する第1のマクロブロックアドレス増分可変長コードワードを、第2のビット数を有する第2のマクロブロックアドレス増分可変長コードワードに変更することを含み、
    前記第1のビット数のモジュロ8と、前記第2のビット数のモジュロ8とが等しいことを特徴とする、
    複数のMPEG符号化ビデオストリーム結合方法。
  2. 前記表示位置コードの値を変更することは、エンドユーザ加入者サイトで実行される、請求項1に記載の複数のMPEG符号化ビデオストリーム結合方法。
  3. 前記MPEG符号化ビデオストリームは、使用可能なビデオストリームのリストからエンドユーザによって選択される、請求項2に記載の複数のMPEG符号化ビデオストリーム結合方法。
  4. 変更されたとおりの前記MPEG符号化ビデオストリーム毎の各スライスを単一の合成ビデオストリームに前記インタリーブすることが、前記MPEG符号化ビデオストリーム毎の各スライスの変更されたとおりの前記表示位置コードに従う、請求項1に記載の複数のMPEG符号化ビデオストリーム結合方法。
  5. 前記エンドユーザから受信された入力の一部に応答して、前記表示位置コードの値を変更する、請求項2に記載の複数のMPEG符号化ビデオストリーム結合方法。
  6. 複数のMPEG符号化ビデオストリームを受信することと、
    前記受信されたMPEG符号化ビデオストリーム毎の各スライスの表示位置に対応する表示位置コードについて値を求めることと、
    求められた前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードの値を必要に応じて変更することと、
    変更されたMPEG符号化ビデオストリームを含む前記MPEG符号化ビデオストリーム毎の各スライスを、単一の合成ビデオストリームにインタリーブすることとを備え、
    前記表示位置コードは、マクロブロックアドレス増分可変長コードワードを含み、前記MPEG符号化ビデオストリーム毎の各スライスの前記マクロブロックアドレス増分可変長コードワードが2と3の内の1つという対応する増分値を有する3ビットを含み、前記マクロアドレス増分可変長コードワードの3ビットを必要に応じて変更し、1バイトを追加し、11ビットの変更されたマクロブロックアドレス増分可変長コードワードを生じさせる、複数のMPEG符号化ビデオストリーム結合方法。
  7. 前記受信された前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードの3ビットを必要に応じて変更することは、前記マクロブロックアドレス増分可変長コードワードの3ビットを、22から33までの増分値に変更することを含む、請求項6に記載の複数のMPEG符号化ビデオストリーム結合方法。
  8. 複数のMPEG符号化ビデオストリームを受信することと、
    前記受信されたMPEG符号化ビデオストリーム毎の各スライスの表示位置に対応する表示位置コードについて値を求めることと、
    求められた前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードの値を必要に応じて変更することと、
    変更されたMPEG符号化ビデオストリームを含む前記MPEG符号化ビデオストリーム毎の各スライスを、単一の合成ビデオストリームにインタリーブすることとを備え、
    前記MPEG符号化ビデオストリームがMPEG−1符号化ビデオストリームであり、前記表示位置コードがマクロブロックアドレス増分コードワードを含み、MPEG−1符号化ビデオストリーム毎の各スライスの表示位置コードを必要に応じて前記変更することが、0個から7個の前記マクロブロックアドレス増分スタッフィングコードを選択的に追加することを含み、追加されるマクロブロックアドレス増分スタッフィングコードの数は、マクロブロックアドレス増分コードワードが、1バイト内の表示位置コードのビット位置合わせを維持するように求められ、
    前記マクロブロックアドレス増分コードワードが第1のビット数を有し、変更された前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードを変更すると、変更されたマクロブロックアドレス増分コードワード、及び所定数のマクロブロックアドレス増分スタッフィングコードを生じさせ、変更されたマクロブロックアドレス増分コードワード及び所定数のマクロブロックアドレス増分スタッフィングコードが結合し、変更されたビット数を有し、前記変更されたビット数のモジュロ8前記第1のビット数のモジュロ8とが等しい、複数のMPEG符号化ビデオストリーム結合方法。
  9. 受信されたMPEG符号化ビデオストリーム毎の各スライスの表示位置について表示位置コードを決定し、決定された前記MPEG符号化ビデオストリーム毎の各スライスの前記表示位置コードを必要に応じて変更するように適応される対話型デコーダであって、変更されたMPEG符号化ビデオストリームを含む前記MPEG符号化ビデオストリーム毎の各スライスを単一の合成ビデオストリームにインタリーブするようにさらに適応される前記対話型デコーダ、を備え、
    前記表示位置コードが、第1のビット数を有するマクロブロックアドレス増分可変長コードワードを含み、
    前記対話型デコーダは、
    前記第1のビット数のモジュロ8に等しい第2のビット数のモジュロ8を有する第2のマクロブロックアドレス増分可変長コードワードを決定し、
    前記第1のマクロブロックアドレス増分可変長コードワードを、前記第2のマクロブロックアドレス増分可変長コードワードに等しくなるように変更するようにさらに適応される、複数のMPEG符号化ビデオストリーム結合システム。
  10. 複数の前記MPEG符号化ビデオストリームを前記対話型デコーダに一斉送信するための放送センタをさらに備え、前記対話型デコーダはエンドユーザのサイトに位置する、請求項9に記載の複数のMPEG符号化ビデオストリーム結合システム。
  11. 前記MPEG符号化ビデオストリームは、使用可能なビデオストリームのリストからエンドユーザによって選択される、請求項10に記載の複数のMPEG符号化ビデオストリーム結合システム。
  12. 前記対話型デコーダが、変更されたとおりの前記MPEG符号化ビデオストリーム毎の各スライスを、前記MPEG符号化ビデオストリーム毎の各スライスの変更されたとおりの、前記表示位置コードに従った単一の合成ビデオストリームにインタリーブするようにさらに適応される、請求項9に記載の複数のMPEG符号化ビデオストリーム結合システム。
  13. 複数のMPEG符号化ビデオストリームは、使用可能なビデオストリームのリストから前記エンドユーザによって選択される、請求項10に記載の複数のMPEG符号化ビデオストリーム結合システム。
  14. 受信されたMPEG符号化ビデオストリーム毎の各スライスの表示位置について表示位置コードを決定し、決定された前記MPEG符号化ビデオストリーム毎の各スライスの前記表示位置コードを必要に応じて変更するように適応される対話型デコーダであって、変更されたMPEG符号化ビデオストリームを含む前記MPEG符号化ビデオストリーム毎の各スライスを単一の合成ビデオストリームにインタリーブするようにさらに適応される前記対話型デコーダ、を備え、
    所定のスライスの表示位置コードを変更するときに、前記対話型デコーダが、
    前記所定のスライスの変更前の表示位置コードと同じように、1バイト内でのビット位置合わせを維持するために変更された表示位置コードを決定し、
    前記変更された表示位置コードと等しくなるように、前記変更前の表示位置コードの値を変更するようにさらに適応され、
    変更された表示位置コードは、前記変更前の表示位置コードと異なる値を有し、前記変更された表示位置コードは、前記変更前の表示位置コードと同じように、1バイト内でのビット位置合わせを維持する
    複数のMPEG符号化ビデオストリーム結合システム。
  15. 受信されたMPEG符号化ビデオストリーム毎の各スライスの表示位置について表示位置コードを決定し、決定された前記MPEG符号化ビデオストリーム毎の各スライスの前記表示位置コードを必要に応じて変更するように適応される対話型デコーダであって、変更されたMPEG符号化ビデオストリームを含む前記MPEG符号化ビデオストリーム毎の各スライスを単一の合成ビデオストリームにインタリーブするようにさらに適応される前記対話型デコーダ、を備え、
    前記表示位置コードが、マクロブロックアドレス増分可変長コードワードを含み、前記MPEG符号化ビデオストリーム毎の各スライスの前記マクロブロックアドレス増分可変長コードワードが、2と3の内の1つという対応する増分値を有する3ビットを含み、前記マクロアドレス増分可変長コードワードの3ビットを必要に応じて変更し、1バイトを追加し、11ビットの変更されたマクロブロックアドレス増分可変長コードワードを生じさせる、複数のMPEG符号化ビデオストリーム結合システム。
  16. 前記対話型デコーダが、前記受信された前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードの3ビットを必要に応じて変更することは、前記マクロブロックアドレス増分可変長コードワードの3ビットを、22から33までの増分値に変更することを含むようにさらに適応される、請求項15に記載の複数のMPEG符号化ビデオストリーム結合システム。
  17. 前記対話型デコーダは、エンドユーザのサイトに位置し、前記複数のMPEG符号化ビデオストリームは、使用可能なビデオストリームのリストから前記エンドユーザによって選択される、請求項15に記載の複数のMPEG符号化ビデオストリーム結合システム。
  18. 受信されたMPEG符号化ビデオストリーム毎の各スライスの表示位置について表示位置コードを決定し、決定された前記MPEG符号化ビデオストリーム毎の各スライスの前記表示位置コードを必要に応じて変更するように適応される対話型デコーダであって、変更されたMPEG符号化ビデオストリームを含む前記MPEG符号化ビデオストリーム毎の各スライスを単一の合成ビデオストリームにインタリーブするようにさらに適応される前記対話型デコーダ、を備え、
    前記MPEG符号化ビデオストリームがMPEG−1符号化ビデオストリームであり、前記表示位置コードがマクロブロックアドレス増分コードワードであり、前記対話型デコーダが、0個から7個のマクロブロックアドレス増分スタッフィングコードを選択的に追加することによって、必要に応じて前記MPEG−1符号化ビデオストリーム毎の各スライスの表示位置コードを変更するように適応され、追加されるマクロブロックアドレス増分スタッフィングコードの数は、マクロブロックアドレス増分コードワードが、1バイト内の表示位置コードのビット位置合わせを維持するように求められ、
    前記マクロブロックアドレス増分コードワードが第1のビット数を有し、前記対話型デコーダが、変更されたマクロブロックアドレス増分コードワード及び所定数のマクロブロックアドレス増分スタッフィングコードを生じさせるように変更される前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードを変更するように適応され、変更されたマクロブロックアドレス増分コードワード及び所定数のマクロブロックアドレス増分スタッフィングコードが結合し、変更されたビット数を有し、前記変更されたビット数のモジュロ8が前記第1のビット数のモジュロ8に等しい、複数のMPEG符号化ビデオストリーム結合システム。
  19. 前記対話型デコーダは、エンドユーザのサイトに位置し、前記複数のMPEG符号化ビデオストリームは、使用可能なビデオストリームのリストから前記エンドユーザによって選択される、請求項18に記載の複数のMPEG符号化ビデオストリーム結合システム。
  20. 受信された前記MPEG符号化ビデオストリーム毎の各スライスの表示位置に対応する表示位置コードについて値を求めるための手段と、
    求められた前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードの値を必要に応じて変更するための手段と、
    変更されたMPEG符号化ビデオストリームを含む前記MPEG符号化ビデオストリーム毎の各スライスを単一の合成ビデオストリームにインタリーブするための手段、とを備え、
    前記表示位置コードは、第1のビット数を有する第1のマクロブロックアドレス増分可変長コードワードを含み、
    前記表示位置コードについて値を求めるための手段は、
    前記第1のビット数のモジュロ8に等しい第2のビット数のモジュロ8を有する第2のマクロブロックアドレス増分可変長コードワードを決定することと、
    前記第1のマクロブロックアドレス増分可変長コードワードを、前記第2のマクロブロックアドレス増分可変長コードワードに等しくなるように変更することとを含む、
    複数のMPEG符号化ビデオストリームを結合するための対話型デコーダ。
  21. 前記変更するための手段が、1バイト内の表示位置コードのビット位置合わせを維持するために前記表示位置コードの値を変更するための手段を備える、請求項20に記載の複数のMPEG符号化ビデオストリームを結合するための対話型デコーダ。
  22. 前記対話型デコーダは、エンドユーザのサイトに位置し、前記複数のMPEG符号化ビデオストリームは、使用可能なビデオストリームのリストから前記エンドユーザによって選択される、請求項20に記載の複数のMPEG符号化ビデオストリームを結合するための対話型デコーダ。
  23. 前記インタリーブするための手段が、変更されたとおりの前記MPEG符号化ビデオストリーム毎の各スライスを、前記MPEG符号化ビデオストリーム毎の各スライスの変更されたとおりの表示位置コードに従った単一の合成ビデオストリームにインタリーブする、請求項20に記載の複数のMPEG符号化ビデオストリーム結合対話型デコーダ。
  24. 受信された前記MPEG符号化ビデオストリーム毎の各スライスの表示位置に対応する表示位置コードについて値を求めるための手段と、
    求められた前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードの値を必要に応じて変更するための手段と、
    変更されたMPEG符号化ビデオストリームを含む前記MPEG符号化ビデオストリーム毎の各スライスを単一の合成ビデオストリームにインタリーブするための手段、とを備え、
    前記表示位置コードが、マクロブロックアドレス増分可変長コードワードを含み、前記MPEG符号化ビデオストリーム毎の各スライスの前記マクロブロックアドレス増分可変長コードワードが、2と3の内の1つという対応する増分値を有する3ビットを含み、前記マクロアドレス増分可変長コードワードの3ビットを必要に応じて変更し、1バイトを追加し、11ビットの変更されたマクロブロックアドレス増分可変長コードワードを生じさせる、複数のMPEG符号化ビデオストリームを結合するための対話型デコーダ。
  25. 前記変更するための手段が、前記受信された前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードの3ビットを必要に応じて変更することは、前記マクロブロックアドレス増分可変長コードワードの3ビットを、22から33までの増分値に変更するための手段を含む、請求項24に記載の複数のMPEG符号化ビデオストリーム結合対話型デコーダ。
  26. 使用可能なビデオストリームのリストを受信するための手段と、
    前記使用可能なビデオストリームのうち2以上を識別する入力を、エンドユーザから受信するための手段、とを備え、
    各スライスの表示位置コードの値を変更するための手段は、前記エンドユーザからの前記入力の少なくとも一部に応答する、請求項24に記載の複数のMPEG符号化ビデオストリーム結合対話型デコーダ。
  27. 受信された前記MPEG符号化ビデオストリーム毎の各スライスの表示位置に対応する表示位置コードについて値を求めるための手段と、
    求められた記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードの値を必要に応じて変更するための手段と、
    変更されたMPEG符号化ビデオストリームを含む前記MPEG符号化ビデオストリーム毎の各スライスを単一の合成ビデオストリームにインタリーブするための手段、とを備え、
    前記MPEG符号化ビデオストリームがMPEG−1符号化ビデオストリームであり、前記表示位置コードがマクロブロックアドレス増分コードワードを含み、前記変更するための手段が、0個から7個のマクロブロックアドレス増分スタッフィングコードを選択的に追加することを含み、必要に応じてMPEG1符号化ビデオストリーム毎の各スライスの表示位置コードを変更し、追加されるマクロブロックアドレス増分スタッフィングコードの数は、マクロブロックアドレス増分コードワードが、1バイト内の表示位置コードのビット位置合わせを維持するように求められ、
    前記マクロブロックアドレス増分コードワードが、第1のビット数を有し、前記変更するための手段が、変更されたマクロブロックアドレス増分コードワード及び所定数のマクロブロックアドレス増分スタッフィングコードを生じさせるように変更される前記MPEG符号化ビデオストリーム毎の各スライスの表示位置コードを変更し、変更されたマクロブロックアドレス増分コードワード及び所定数のマクロブロックアドレス増分スタッフィングコードが結合し、変更されたビット数を有し、前記変更されたビット数のモジュロ8が前記第1のビット数のモジュロ8に等しい、複数のMPEG符号化ビデオストリーム結合対話型デコーダ。
  28. 使用可能なビデオストリームのリストを受信するための手段と、
    前記使用可能なビデオストリームのうち2以上を識別する入力を、エンドユーザから受信するための手段、とを備え、
    各スライスの表示位置コードの値を変更するための手段は、前記エンドユーザからの前記入力の少なくとも一部に応答する、請求項27に記載の複数のMPEG符号化ビデオストリーム結合対話型デコーダ。
JP2001554621A 2000-01-28 2001-01-10 対話型テレビアプリケーションの複数のmpeg符号化ビデオストリーム結合方法、複数のmpeg符号化ビデオストリーム結合システム及び複数のmpeg符号化ビデオストリーム結合対話型デコータ Expired - Fee Related JP4188599B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US09/494,184 2000-01-28
US09/494,067 US6931660B1 (en) 2000-01-28 2000-01-28 Interactive television system and method for simultaneous transmission and rendering of multiple MPEG-encoded video streams
US09/494,184 US6539545B1 (en) 2000-01-28 2000-01-28 Interactive television system and method for simultaneous transmission and rendering of multiple encoded video streams
US09/494,067 2000-01-28
PCT/US2001/000959 WO2001056293A1 (en) 2000-01-28 2001-01-10 Interactive television system and method for simultaneous transmission and rendering of multiple mpeg-encoded video streams

Publications (3)

Publication Number Publication Date
JP2003521177A JP2003521177A (ja) 2003-07-08
JP2003521177A5 JP2003521177A5 (ja) 2006-09-07
JP4188599B2 true JP4188599B2 (ja) 2008-11-26

Family

ID=27051285

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2001554621A Expired - Fee Related JP4188599B2 (ja) 2000-01-28 2001-01-10 対話型テレビアプリケーションの複数のmpeg符号化ビデオストリーム結合方法、複数のmpeg符号化ビデオストリーム結合システム及び複数のmpeg符号化ビデオストリーム結合対話型デコータ
JP2001554620A Expired - Fee Related JP4084941B2 (ja) 2000-01-28 2001-01-10 複数の符号化ビデオストリームの同時通信レンダリング方法、複数の符号化ビデオストリームの同時通信レンダリングシステム及び複数の符号化ビデオストリームの同時レンダリングのための対話型デコーダ

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2001554620A Expired - Fee Related JP4084941B2 (ja) 2000-01-28 2001-01-10 複数の符号化ビデオストリームの同時通信レンダリング方法、複数の符号化ビデオストリームの同時通信レンダリングシステム及び複数の符号化ビデオストリームの同時レンダリングのための対話型デコーダ

Country Status (11)

Country Link
EP (2) EP1262068B8 (ja)
JP (2) JP4188599B2 (ja)
CN (2) CN1193611C (ja)
AU (2) AU773588B2 (ja)
BR (2) BRPI0107875B1 (ja)
CA (2) CA2397529A1 (ja)
DK (1) DK1262068T3 (ja)
ES (1) ES2555953T3 (ja)
HK (1) HK1053564A1 (ja)
PT (1) PT1262068E (ja)
WO (2) WO2001056292A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9414065B2 (en) 2010-11-01 2016-08-09 Nec Corporation Dynamic image distribution system, dynamic image distribution method and dynamic image distribution program

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040210947A1 (en) 2003-04-15 2004-10-21 Shusman Chad W. Method and apparatus for interactive video on demand
US20030196206A1 (en) 2002-04-15 2003-10-16 Shusman Chad W. Method and apparatus for internet-based interactive programming
US20040032486A1 (en) 2002-08-16 2004-02-19 Shusman Chad W. Method and apparatus for interactive programming using captioning
AU2003297277B2 (en) * 2002-11-14 2007-07-19 Opentv, Inc. Positioning of images in a data stream
US20040111526A1 (en) * 2002-12-10 2004-06-10 Baldwin James Armand Compositing MPEG video streams for combined image display
WO2004056098A1 (en) * 2002-12-16 2004-07-01 Koninklijke Philips Electronics N.V. Method for a mosaic program guide
US7519274B2 (en) * 2003-12-08 2009-04-14 Divx, Inc. File format for multiple track digital data
FR2872988B1 (fr) * 2004-07-12 2006-10-27 Canon Kk Procede et dispositif de creation d'un flux video formant une mosaique genere a partir d'une pluralite de flux video
CN100515056C (zh) * 2006-11-09 2009-07-15 华为技术有限公司 在同一画面中显示多个频道信息的方法、系统、装置及机顶盒
ES2675950T3 (es) 2007-05-30 2018-07-13 Orange Generación de un mosaico de TV personalizable
GB2457253B (en) * 2008-02-07 2010-08-11 Ericsson Telefon Ab L M Controlling media distribution
ES2939484T3 (es) * 2010-07-21 2023-04-24 Ericsson Telefon Ab L M Codificación y descodificación de imágenes
JP5685683B2 (ja) * 2011-10-28 2015-03-18 株式会社Gnzo バイトアラインメント装置及びバイトアラインメント方法
EP2815582B1 (en) 2012-01-09 2019-09-04 ActiveVideo Networks, Inc. Rendering of an interactive lean-backward user interface on a television
US9800945B2 (en) 2012-04-03 2017-10-24 Activevideo Networks, Inc. Class-based intelligent multiplexing over unmanaged networks
JP5812028B2 (ja) * 2013-03-08 2015-11-11 ソニー株式会社 映像処理装置および映像処理方法
WO2014145921A1 (en) 2013-03-15 2014-09-18 Activevideo Networks, Inc. A multiple-mode system and method for providing user selectable video content
WO2014197879A1 (en) 2013-06-06 2014-12-11 Activevideo Networks, Inc. Overlay rendering of user interface onto source video
CN103501465A (zh) * 2013-09-06 2014-01-08 上海骋娱传媒技术有限公司 一种用于视频资源访问控制的方法与设备
CN103501466A (zh) * 2013-09-06 2014-01-08 上海骋娱传媒技术有限公司 一种用于视频资源访问控制的方法与设备
US9788029B2 (en) 2014-04-25 2017-10-10 Activevideo Networks, Inc. Intelligent multiplexing using class-based, multi-dimensioned decision logic for managed networks
FR3030978A1 (fr) * 2014-12-23 2016-06-24 Orange Generation d'une mosaique de videos
US10264293B2 (en) * 2014-12-24 2019-04-16 Activevideo Networks, Inc. Systems and methods for interleaving video streams on a client device
US10523985B2 (en) 2014-12-24 2019-12-31 Activevideo Networks, Inc. Managing deep and shallow buffers in a thin-client device of a digital media distribution network
CN105451022A (zh) * 2015-11-17 2016-03-30 深圳联友科技有限公司 一种将多路视频流压缩成一路视频流的方法及系统
JP6387511B2 (ja) * 2016-06-17 2018-09-12 株式会社アクセル 画像データ処理方法
WO2018105515A1 (ja) 2016-12-09 2018-06-14 株式会社アクセル 画像データ処理方法
JP6732337B2 (ja) 2016-12-09 2020-07-29 株式会社アクセル 画像データ処理方法
EP4017001A1 (en) 2020-12-17 2022-06-22 Axis AB Method and digital video camera for forming a combined image frame of a combined video stream

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5481297A (en) * 1994-02-25 1996-01-02 At&T Corp. Multipoint digital video communication system
ES2143622T3 (es) * 1994-04-15 2000-05-16 Koninkl Philips Electronics Nv Disposicion y metodo para transmitir y recibir señales de video.
US5649032A (en) * 1994-11-14 1997-07-15 David Sarnoff Research Center, Inc. System for automatically aligning images to form a mosaic image
US5691768A (en) * 1995-07-07 1997-11-25 Lucent Technologies, Inc. Multiple resolution, multi-stream video system using a single standard decoder
JPH1023348A (ja) * 1996-05-02 1998-01-23 Matsushita Electric Ind Co Ltd テレビ放送番組送信装置,受信装置
US5995146A (en) * 1997-01-24 1999-11-30 Pathway, Inc. Multiple video screen display system
JP3662129B2 (ja) * 1997-11-11 2005-06-22 松下電器産業株式会社 マルチメディア情報編集装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9414065B2 (en) 2010-11-01 2016-08-09 Nec Corporation Dynamic image distribution system, dynamic image distribution method and dynamic image distribution program

Also Published As

Publication number Publication date
EP1262068B8 (en) 2015-11-04
JP4084941B2 (ja) 2008-04-30
HK1053564A1 (en) 2003-10-24
CN1397136A (zh) 2003-02-12
CN1193611C (zh) 2005-03-16
WO2001056292A1 (en) 2001-08-02
PT1262068E (pt) 2015-12-28
WO2001056293A1 (en) 2001-08-02
CA2397645A1 (en) 2001-08-02
BRPI0107872B1 (pt) 2015-10-27
JP2003521176A (ja) 2003-07-08
AU2938201A (en) 2001-08-07
EP1281280A1 (en) 2003-02-05
EP1281280A4 (en) 2003-06-04
AU773588B2 (en) 2004-05-27
CN1173570C (zh) 2004-10-27
EP1262068A1 (en) 2002-12-04
CA2397645C (en) 2005-08-16
EP1262068A4 (en) 2003-06-04
CN1397135A (zh) 2003-02-12
EP1262068B1 (en) 2015-09-30
ES2555953T3 (es) 2016-01-11
BR0107875A (pt) 2002-11-05
BRPI0107875B1 (pt) 2015-09-08
AU777694B2 (en) 2004-10-28
AU2638801A (en) 2001-08-07
BR0107872A (pt) 2002-11-05
JP2003521177A (ja) 2003-07-08
CA2397529A1 (en) 2001-08-02
DK1262068T3 (en) 2016-01-11

Similar Documents

Publication Publication Date Title
JP4188599B2 (ja) 対話型テレビアプリケーションの複数のmpeg符号化ビデオストリーム結合方法、複数のmpeg符号化ビデオストリーム結合システム及び複数のmpeg符号化ビデオストリーム結合対話型デコータ
US6931660B1 (en) Interactive television system and method for simultaneous transmission and rendering of multiple MPEG-encoded video streams
US6539545B1 (en) Interactive television system and method for simultaneous transmission and rendering of multiple encoded video streams
US6606746B1 (en) Interactive television system and method for displaying a graphical user interface using insert pictures
US5990972A (en) System and method for displaying a video menu
US9113233B2 (en) System, apparatus, and method for preparing images for integration and combining images into an integrated image
JP4428860B2 (ja) インタラクティブ・テレビジョン・アプリケーションにおいて符号化mpegスチール写真をスクロールするための符号化システムおよび方法
CA2388608C (en) Method and apparatus for transmitting video and graphics in a compressed form
US20040111526A1 (en) Compositing MPEG video streams for combined image display
US20090034628A1 (en) Audio/video system with auxiliary data
US20080267589A1 (en) Television bandwidth optimization system and method
KR20040000512A (ko) 제1 그룹 신호들로부터 제2 그룹 신호들로의 스위칭을위한 시스템
AU2002256381A1 (en) Technique for optimizing the delivery of advertisements and other programming segments by making bandwidth tradeoffs
GB2356518A (en) Seamless switching between two groups of signals

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060117

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20060412

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20060419

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060718

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20060718

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070213

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20070509

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20070516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070813

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080129

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20080425

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20080507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080723

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080819

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080911

R150 Certificate of patent or registration of utility model

Ref document number: 4188599

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110919

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110919

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120919

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130919

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees