JP3684525B2 - 多画面合成方法及び多画面合成装置 - Google Patents
多画面合成方法及び多画面合成装置 Download PDFInfo
- Publication number
- JP3684525B2 JP3684525B2 JP03712598A JP3712598A JP3684525B2 JP 3684525 B2 JP3684525 B2 JP 3684525B2 JP 03712598 A JP03712598 A JP 03712598A JP 3712598 A JP3712598 A JP 3712598A JP 3684525 B2 JP3684525 B2 JP 3684525B2
- Authority
- JP
- Japan
- Prior art keywords
- video signal
- screen composition
- screen
- memory
- encoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2624—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Closed-Circuit Television Systems (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
【発明の属する技術分野】
本発明は、複数の画面を合成して伝送する多画面合成方法及び多画面合成装置に関する。
テレビ会議システムや遠隔監視システム等に於いて、複数の画面を伝送し、受信側で多画面表示を行うシステムが知られている。その場合の伝送路として、高速伝送路を使用できる場合は映像信号をそのまま伝送できるが、通常は低速伝送路を使用する場合が一般的であり、映像信号を圧縮符号化して伝送することになる。又複数の撮像装置からの映像信号を同期化して処理するシステムと、非同期の映像信号を処理するシステムとがあり、後者の構成が廉価である利点がある。従って、非同期の映像信号による多画面の合成を効率良く行うことが要望されている。
【0002】
【従来の技術】
図40は同期映像信号合成遠隔監視システムの説明図であり、201はテレビカメラ、202は多画面合成装置、202aは同期信号分配部、203,205は符号化,復号化等の機能を含む伝送装置、204は無線衛星回線,ISDN,ATM網,LAN等のネットワーク、206はモニタを示す。
【0003】
各テレビカメラ201は、多画面合成装置202の同期信号分配部202aからの同期信号に従って水平走査及び垂直走査によって被監視対象物の火山,河川,電線,工場等を撮像する。従って、各テレビカメラ201からの被監視対象物を撮像した映像信号#1,#2,#3,・・・は同期化されており、多画面合成装置202は、各映像信号を同期信号に基づいて合成し、この合成映像信号を伝送装置203に入力する。
【0004】
伝送装置203は、ネットワーク204の伝送帯域等に対応して合成映像信号を圧縮符号化して送出する。無線衛星回線,ISDN回線,ATM回線,LAN(ローカル・エリア・ネットワーク)等のネットワーク204を介して圧縮符号化された合成映像信号を受信した伝送装置205は、圧縮符号化の逆の処理により合成映像信号を復元し、モニタ206に、被監視対象物の火山,河川,電線,工場等の合成画面を表示する。
【0005】
多画面合成装置202は、テレビ放送システムに於ける映像編集機能を適用した構成であり、複数のテレビカメラ201の同期化を行う同期信号分配部202aを含み、高機能の構成が実用化されているが、高価である問題がある。又伝送装置203,205は、ネットワーク204の伝送帯域に対応した映像信号の圧縮符号化,復号化を行う構成を有し、例えば、H.320(H.261),MPRG1,2,4,MOTION−JPEG,H.324(H.263)等の標準化された手段を適用することができるものである。
【0006】
又各テレビカメラ201をそれぞれのテレビ会議室に設けた場合、ネットワーク204の一部に多地点接続装置を介して伝送装置203,205を相互に接続し、映像信号の分配制御を行うことにより、テレビ会議システムを構成することができる。
【0007】
図41は多画面合成の説明図であり、遠隔監視システムに於ける受信側のモニタ画面を示し、(A)は図40に示すモニタ206の表示画面と同一の4画面合成の場合を示す。又(B)は(A)の河川監視画面がなく、その河川監視画面の位置に工場監視画面を配置した3画面合成の場合を示す。又(C)は、電線監視画面と工場監視画面と共に、現在の火山監視画面と、過去に撮影して録画した火山監視画面とを表示し、その差を観測し易いように表示した場合を示す。又(D)は、電線監視画面と工場監視画面と共に、火山監視画面と、その噴火口等の状態を拡大した監視画面とを表示した場合を示す。
【0008】
図42は非同期映像信号合成遠隔監視システムの説明図であり、211はテレビカメラ、213,215は符号化,復号化等の機能を含む伝送装置、213aは非同期多画面合成部、214は無線衛星回線,ISDN,ATM網,LAN等のネットワーク、216はモニタを示す。
【0009】
火山監視,河川監視,電線監視,工場監視等の各テレビカメラ211は、独立同期による映像信号を伝送装置213の非同期多画面合成部213aに入力して合成し、ネットワーク214の伝送速度に対応した圧縮符号化を行い、このネットワーク214を介して符号化映像信号を受信した伝送装置215に於いて復号化し、モニタ216に、図40のモニタ206或いは図41に示すように、多画面表示を行うことができる。
【0010】
又伝送装置213,215に於ける圧縮符号化,復号化については、ネットワーク214の伝送帯域が同一であれば、図40に於ける伝送装置203,205の機能と同一とすることができる。又伝送装置213に於いて非同期合成を行うものであるから、図40に於ける同期信号分配部202aを含む多画面合成装置202を省略することができる。そして、伝送装置213内の比較的簡単な構成の非同期多画面合成部213aによって、各テレビカメラ211からの映像信号を合成することができるから、図40に示すシステム構成に比較して廉価な構成とすることができる。
【0011】
図43は伝送帯域とフレームレートとの関係説明図であり、例えば、映像信号のフレームレートを通常の30枚/secとすると、伝送路の帯域は6Mbpsを必要とし、各種の圧縮符号化を行った映像信号を、ISDNのBチャネルのような64kbpsの伝送路の帯域により伝送する場合のフレームレートは2枚/sec程度となる。前述のような遠隔監視システム或いはテレビ会議システム等に於いては、比較的動きの少ない画面を撮像しており、従って、低フレームレートによる符号化映像信号を受信して再生表示させても遠隔監視画像表示或いはテレビ会議参加者画像表示には充分に機能することになる。
【0012】
又複数の端末装置に対して画像伝送装置を共用化する為に、多画面合成として伝送し、受信側では各画面対応に分離して各端末装置に転送するシステムも知られている(例えば、特開平4−7990号公報参照)。又非同期の映像信号を、共通化したメモリに、アドレス制御によって書込み、恰も共通化したメモリの縦方向に分割して多画面合成を行った状態とする合成装置が知られている(例えば、特開昭54−148426号公報参照)。
【0013】
【発明が解決しようとする課題】
同期映像信号合成は、各映像信号が同期化されているから、合成処理は比較的容易となるが、前述のように、装置構成が高価となる問題がある。又非同期映像信号合成は、同期映像信号合成の場合に比較して廉価な構成となるが、多画面合成の制御が容易でなく、又メモリを共通化して合成する従来例に於いては、縦方向に分割した合成画面となり、適用範囲が限られたものとなる問題がある。
【0014】
又符号化,復号化について、単一画面の映像信号の伝送システムに於ける前述の標準化された手段を適用することが可能であるが、多画面合成に於いては、重要度が画面対応に異なる場合があり、一律に合成処理する場合に充分な監視等を行うことができない問題がある。
本発明は、低速伝送帯域にも適用可能とした多画面合成方法及び多画面合成装置を提供することを目的とする。
【0015】
【課題を解決するための手段】
本発明の多画面合成方法は、相互に非同期で動作する複数の映像信号源からの映像信号を合成する多画面合成方法であって、映像信号源からの映像信号を順次選択し、且つ水平,垂直同期をとってフレーム単位で取込み、このフレーム単位の映像信号を画面合成割当エリアに対応して縮小し、画面合成用メモリの画面合成割当エリア対応のブロックに書込んで、画面合成用メモリ上で画面合成し、この画面合成された映像信号の符号化処理若しくは送信処理を行う過程を含むものである。又フレーム単位の映像信号を取込む毎に、符号化処理若しくは送信処理を行い、又は符号化処理若しくは送信処理中に、複数の映像信号源からのフレーム単位の映像信号を順次取込んで、画面合成用メモリに書込み、符号化処理若しくは送信処理の完了により、画面合成用メモリに書込まれた映像信号の符号化処理若しくは送信処理を開始する過程を含むことができる。
【0016】
又重み付けしたチャネルの映像信号の優先的な取込み回数の制御、無効エリアを利用した拡大表示やズームアップ表示、優先的な量子値の制御、動き補償探索範囲の制御、フレーム内符号化とフレーム間予測符号化との切替制御、ループ内フィルタの接続制御等を行うことができる。
【0017】
又映像信号の有無を判定し、無しと判定されて無効エリアとなった画面合成用メモリのブロックに、固定パターン、受信復号化データ等を合成することができる。又遠隔制御用としてのガイダンスと画面合成レイアウトとを送出して、遠隔指定を行わせることができる。
【0018】
又本発明の多画面合成装置は、相互に非同期で動作する複数の映像信号源からの映像信号を合成する多画面合成装置であって、複数の映像信号源を選択する映像信号セレクタと、この映像信号セレクタを介して取込んだ映像信号の垂直,水平同期をとる入力信号V・H監視部と、この入力信号V・H監視部により同期をとったフレーム単位の映像信号を、画面合成該当エリアに対応して縮小する水平方向縮小化部と、この水平方向縮小化部により縮小された映像信号をライン単位で書込む画面合成用メモリと、映像信号の取込み及び画面合成用メモリ上に於ける画面合成とを制御する画面合成制御部と、画面合成用メモリ上で合成された映像信号の符号化処理を行う符号化部とを備えている。
【0019】
又映像信号源からの映像信号をフレーム単位で取込む毎に、符号化部に於ける符号化処理を行わせる符号化制御部を有し、又この符号化制御部は、符号化部に於ける重み付けしたチャネル対応の映像信号に対する量子化値、フレーム内符号化とフレーム間予測符号化との切替え、ループ内フィルタの接続切替えの少なくとも何れか一つの制御構成を備えることができる。
【0020】
又画面合成制御部は、重み付けしたチャネルの映像信号を他のチャネルの映像信号の取込みの回数を多くするように、映像信号セレクタを制御する構成又重み付けしたチャネルの映像信号を特殊データ格納用メモリに一旦取込み、この特殊データ格納用メモリに取込んだ映像信号をズームアップ表示するように、画面合成用メモリに書込む制御構成を備えることができる。又無効エリアに固定パターンの挿入、受信復号化したデータの挿入等の制御を行う構成とすることができる。又遠隔制御用のガイダンスの送出構成を設けることもできる。
【0021】
【発明の実施の形態】
図1は本発明の第1の実施の形態の説明図であり、非同期映像信号を合成して符号化する伝送装置の要部の機能を示し、1−1〜1−nはテレビカメラ(ディジタル・カメラや録画再生装置等を含む映像信号源)、2は映像信号セレクタ、3は入力信号V・H監視部、4は水平方向縮小部、5はラインメモリ(LINEFIFO)、6は画面合成用メモリ、7は符号化用メモリ、8は符号化部、9は画面合成制御部、10は符号化制御部、11は割込ハンドラ、12は割込コントーラ、13,14は第1,第2のダイレクト・メモリ・アクセス・コントローラ(DMAC,以下「DMAコントローラ」と称する)である。
【0022】
テレビカメラ1−1〜1−nは、それぞれ独立同期により被監視対象物等の被写体を撮像し、映像信号セレクタ2は、画面合成制御部9からの制御に従ってテレビカメラ1−1〜1−nを順次選択して映像信号を入力V・H監視部3に入力する。この場合の映像信号は、NTSC方式,PAL方式,SECAM方式等の各種の方式を適用した映像信号とすることができる。又アナログ・コンポジット信号,輝度信号と色信号とからなるアナログ・コンポーネント信号,アナログ映像信号をディジタル化したディジタル・コンポジット信号,輝度信号Yと色差信号Cb,Crとからなるディジタル・コンポーネント信号等を適用することができる。
【0023】
又図示の状態は、テレビカメラ1−2からの映像信号を映像信号セレクタ2によって選択した場合を示す。又入力信号V・H監視部3は、入力された映像信号の垂直同期信号Vと水平同期信号Hとを監視するもので、垂直同期と水平同期とをとって1フレーム分の映像信号を取込む為のものである。そして、割込コントローラ12から指定された垂直位置を検出すると、割込コントローラ12に通知する。割込コントローラ12は、予め登録されている割込ハンドラ11を呼び出す。
【0024】
又第1のDMAコントローラ13は、ラインメモリ5からのリクエスト信号により、このラインメモリ5内のデータを指定されたメモリのアドレスに転送するもので、この場合は画面合成用メモリ6に転送されることになる。そして、1ライン分のデータの転送終了により、垂直方向のメモリアドレスを指定ライン数分だけインクリメントする。又第2のDMAコントローラ14は、画面合成制御部9からの命令に従って、指定されたメモリアドレスから指定された他のメモリアドレスにデータを転送するものである。
【0025】
又水平方向縮小化部4は、ライン上の画素を間引くことにより、水平方向の縮小化を行うもので、縮小化された1ラインのデータがラインメモリ5に書込まれる。このラインメモリ5に1ライン分(水平方向に縮小化された)データが書込まれると、第1のDMAコントローラ13にDMA要求を送出する。DMAコントローラ13は、ラインメモリ5から画面合成用メモリ6に転送する制御を行うものである。
【0026】
この画面合成用メモリ6は、画面合成数に対応して分割されたブロックにより構成され、この画面合成用メモリ6上に於いて画面合成される。画面合成された映像信号を符号化用メモリ7に転送し、符号化部8に於いてフレーム内符号化やフレーム間符号化等による圧縮符号化を行って送出する。この場合、画面合成用メモリ6と符号化用メモリ7とは、ダブルバッファ構成を適用して、交互にそれぞれの機能を実現するように切替える構成とすることができる。又送信処理する送信部は図示を省略している。
【0027】
図2は縮小化処理の説明図であり、(A)は705(画素)×525(ライン)の1画面を示し、単純間引きにより、(B)の黒丸を間引き画素とすると、1画面を垂直方向と水平方向とにそれぞれ1/2とすることができる。従って、CCIR601による有効エリアの704画素×480ラインの場合、前述の単純間引きにより、352画素×240ラインに縮小することができる。なお、垂直方向は、奇数フィールドと偶数フィールドとの何れかのフィールドのみ取込むことによって縮小化することができる。
【0028】
図3は初期化処理のフローチャートであり、図1の各部の初期化処理を示し、割込コントローラ12とDMAコントローラ13,14との動作を無効(停止)とする為にマスクする(A1)。そして、映像信号源数(テレビカメラ1−1〜1−nの数)n及びその配列(多画面合成上の配置位置)の情報を取得する(A2)。この情報は、ユーザからの指定或いは予めシステムとして設定することができる。
【0029】
次に画面合成用メモリ6上のブロック番号をAとし、これに1を代入する(A3)。この場合のブロック番号Aは1〜nの整数値を有し、4画面合成の場合は、1〜4となる。そして、映像信号源チャネル番号CA を取得し(A4)、奇偶フィールド取込み変数OA を取得し(A5)、画面合成用メモリ6のインクリメント値VA を取得し(A6)、水平方向縮小値HA を取得し(A7)、画面合成先頭アドレスXSA ,YSA 、即ち、画面合成用メモリ6内の水平方向取込み開始位置と水平方向取込み終了位置とを設定する(A8)。又画面合成終了アドレスXEA ,YEA 、即ち、画面合成用メモリ6内の垂直方向取込み開始位置と垂直方向取込み終了位置とを設定する(A9)。又割込発生条件VSA ,VEA を取得する(A10)。そして、A=nか否かを判定し、A≠nの場合は、Aを1インクリメントとして(A11)、ステップ(A4)移行することにより、A=1〜nについての初期設定を行う。
【0030】
なお、前述のステップ(A6)のインクリメント値VA は、ラインメモリ5から画面合成用メモリ6に転送する時に、1ライン分のDMA転送完了後に、DMAコントローラ13が垂直方向にアドレスを自動インクリメントする値である。又ステップ(A5)のOA は、割込ハンドラ11内で偶数フィールドのみ取り込むか、偶数フィールドと奇数フィールドとを取り込むかの判定条件である。又ステップ(A10)のVSA ,VEA は、割込みを発生させる条件として設定するものであり、これらの値は、システムに応じて予め設定しておくことができる。又映像信号源チャネル番号CA についてはユーザから設定可能とすることができる。例えば、C4 =2の場合、画面合成用メモリ6内の4番のブロックに映像信号源2の映像信号を取り込むことを意味するものである。
【0031】
前述の初期化処理に於いて、映像信号源数nを取得すれば、それに応じた配列を同時に取得する。続いて、A=1からA=nまで順次取得した配列から、XSA ,XEA ,YSA ,YEA ,HA ,VA ,OA ,VSA ,VEA を取得する。映像信号源チャネル番号CA の初期値は、例えば、CA =Aとする。
【0032】
図4は画面合成配列の説明図であり、(A)〜(D)は、n=1〜4の場合について示し、合成画面上のエリアと画面合成用メモリ6の映像信号を書込むブロックとを対応させているもので、(A)のn=1(画面合成を行わない場合)の前述の初期値は、
XS1 =XS
XE1 =XS+X
YS1 =YS
YE1 =YS+Y
H1 =1
V1 =2
O1 =1
VS1 =VSTART
VE1 =VEND
となる。
【0033】
又(B)〜(D)のn=2〜4の場合の前述の初期値は、
XS1 =XS2 =XS
XS3 =XS4 =XS+X/2
XE1 =XE2 =XS+X/2
XE3 =XE4 =XS+X
YS1 =YS3 =YS
YS2 =YS4 =YS+Y/2
YE1 =YE4 =YS+Y/2
YE2 =YE3 =YS+Y
H1 〜H4 =1/2
V1 〜V4 =1
O1 〜O4 =0
VS1 〜VS4 =VSTART
VE1 〜VE4 =VEND
となる。
【0034】
図4の(A)のn=1の場合、即ち、画面合成を行わない場合は、奇数フィールドと偶数フィールドとを共に取込み、それらを画面合成用メモリ6上では交互に格納する為、インクリメント値VA は2、奇偶フィールド取込み変数OA は1となる。又図4の(B)〜(D)のn=2〜4の場合、即ち、画面合成を行う場合は、偶数フィールドのみ取込み、画面合成用メモリ6上では、連続的に格納する為、インクリメント値VA は1、奇偶フィールド取込み変数OA は0となる。この場合、水平方向の縮小は、水平方向縮小化部4のハードウェア構成により行うものであるが、垂直方向の縮小は、奇偶フィールドの一方のフィールドのみを取込むことにより実現している。又VSTART は映像信号源の映像有効領域のスタート・アドレスを示し、又VEND は映像信号源の映像有効領域のエンド・アドレスを示す。
【0035】
初期化処理完了後に、映像信号源からの映像信号取込み処理を開始する。先ずA=1とし、映像信号セレクタ2にC1 を設定する。この場合、C1 の値は1であり、映像信号源1−1の映像信号が映像信号セレクタ2によって選択される。又DMAコントコーラ13に画面合成用メモリのインクリメント値V1 を設定し、水平方向縮小化部4に水平方向縮小値H1 を設定し、同時に転送先アドレスXO,YOに、画面合成用メモリ6の取込み開始位置XS1 ,YS1 を代入する。この転送先アドレスXO,YOは、割込ハンドラ11内で、DMAコントローラ13に転送先アドレスを設定する時に使用する変数である。前述の処理が完了すると、映像信号取込み完了認識用変数FLAGに1を代入し、割込発生条件にVS1 を設定し、割込マスクを解除する。即ち、割込コントローラ12の動作が可能の状態とする。
【0036】
入力信号V・H監視部3は、映像信号源(テレビカメラ)から映像信号セレクタ2を介して入力される映像信号の垂直同期信号を監視し、この垂直同期信号から数えてVS1 ライン目に到達した時に、割込信号を割込コントローラ12に入力する。それによって、割込コントローラ12は、割込信号に従って割込ハンドラ11を呼出す。
【0037】
図5及び図6は割込処理のフローチャートであり、割込ハンドラ11の処理を示す。以下、n=1の場合と、n=2〜4の場合とにわけて説明する。最初のn=1の場合、映像信号取込み完了認識用変数FLAGが1であるか否かを判定し(B1)、FLAG=1の場合は、偶フィールドか否かを判定し(B2)、偶フィールドの場合、転送先アドレスXO,YOをDMAコントローラに設定し(B3)、DMA1のマスクを解除し(B6)、次の割込発生条件にVE1 を設定し(B7)、FLAGに2を代入し(B8)、処理を終了する。
【0038】
又ステップ(B1)に於いてFLAG≠1の場合、FLAG=2か否かを判定し(B9)、FLAG≠2の場合は処理を終了する。又FLAG=2の場合、DMA1(DMAコントローラ13)をマスクし(B10)、OA =1か否かを判定し(B11)、OA ≠1の場合は、FLAGに0を代入し(B15)、処理を終了する。又OA =1の場合、奇偶フィールドの取込み完了か否かを判定し(B12)、取込み完了によりステップ(B15)に移行し、取込み完了でない場合は、FLAGに1を代入し(B13)、割込発生条件VSA を設定し(B14)、処理を終了する。
【0039】
又ステップ(B2)に於いて、偶フィールドでない場合、OA =1か否かを判定し(B4)、OA ≠1の場合は処理を終了し、OA =1の場合は、転送先アドレスをXO,YO+1に設定し(B5)、次のステップ(B6)に移行する。
【0040】
更に具体的に説明すると、ラインメモリ5には、水平方向縮小化部4を経由して映像信号が入力される。その水平方向縮小化部4の縮小値は1であり、映像信号の縮小化処理は行われない。そして、1ライン分のデータがラインメモリ5に格納されると、DMA要求信号をDMAコントローラ13に送出する。DMAコントローラ13は、転送先アドレスXO,YOにラインメモリ5の1ライン分のデータを転送し、転送先アドレスYOを2インクリメントする。
【0041】
次に、ラインメモリ5に1ライン分のデータが格納されると、再びDMA要求信号をDMAコントローラ13に送出するから、それによる転送先アドレスXO,YO+2にラインメモリ5の1ライン分のデータを転送し、転送先アドレスYOを2インクリメントする。従って、画面合成用メモリ6の垂直方向アドレスYOの一つおきに1ライン分のデータが格納されることになる。又割込発生条件VS1 は、映像信号の有効領域の先頭ラインを示しているので、映像信号源の映像信号の先頭からデータ転送を開始させることになる。
【0042】
又入力信号V・H判定部3では、映像信号源からの映像信号が映像信号セレクタ2を介して入力されており、その映像信号の垂直同期信号から数えてVE1 ライン目に到達した時に、割込信号を割込コントローラ12に対して通知し、割込コントローラ12は、割込発生条件に従って割込ハンドラ11を呼出す。
【0043】
この時、FLAG=2(図5のステップ(B8)によりFLAGに2が代入されている)であるので、割込ハンドラ11は、ステップ(B1)に於いてFLAG≠1であるから、ステップ(B9)に移行し、FLAG=2となるから、DMAコントローラ13をマスクし、DMAコントローラ13の動作を終了させる。又O1 は1であり、偶フィールドの取込みを行ったが、奇フィールドの取込みを行っていないので、ステップ(B13)に於いて再度映像信号取込み完了認識用変数FLAGに1を代入し、割込発生条件VE1 を設定し(B14)、処理を終了する。この割込発生条件VE1 は、映像信号の有効領域の最終ラインを示しているので、映像信号源の映像信号1フィールド分のデータ転送を完了させたことを示す。
【0044】
又映像信号源からの映像信号が垂直同期信号から数えてVS1 ライン目に到達した時、割込ハンドラ11が呼出される。この時、FLAG=1(B1)であり、奇フィールドのデータが入力中であるので(B2)、転送先アドレスXO,YO+1をDMAコントローラ13に設定し(B5)、DMA1のマスクを解除し(B6)、次の割込発生条件にVE1 を設定し(B7)、FLAGに2を代入して(B8)、処理を終了する。
【0045】
DMAコントローラ13は、DMA要求信号を受信すると、転送先アドレスXO,YO+1にラインメモリ5内の1ライン分のデータを転送し、転送先垂直方向アドレスYOを2インクリメントする。即ち、次の1ライン分のデータは、XO,YO+3に格納される。このようにして順次偶フィールドのデータとは対になるように、すだれ状に画面合成用メモリ6に格納される。
【0046】
又前述の場合と同様に、映像信号が垂直同期信号から数えてVE1 ライン目に到達した時に、割込ハンドラ11が呼出される。この時、FLAG=2であるから、DMA1をマスクし、DMAコントローラ13の動作を終了させる。又O1 は1であり(B11)、且つ奇偶フィールドの取込みを完了させたので(B12)、FLAGに0を代入し(B15)、処理を終了する。そして、割込発生条件VE1 が、映像信号の有効領域の最終ラインを示すことにより、映像信号源の映像信号の1フレーム分のデータ転送を完了させたになる。
【0047】
又n=2〜4の場合、FLAG=1(B1)であり、現在奇フィールドのデータが入力中であれば、即座に割込ハンドラ11の処理を終了させ、偶フィールドのデータの入力を待つことになる。又偶フィールドのデータが入力中であれば、転送先アドレスXO,YOをDMAコントローラ13に設定し(B3)、DMA1のマスクを解除し(B6)、次の割込発生条件VE1 の設定を行い(B7)、FLAGに2を代入し(B8)、処理を終了する。
【0048】
この時、縮小値を1/2とすると、ラインメモリ5には1/2に水平方向縮小化部4により間引きされた映像信号が入力され、1ライン分のデータが格納され次第、DMA要求信号をDMAコントローラ13に対して通知する。DMAコントローラ13は、DMA要求信号を受信すると、転送先アドレスXO,YOに、ラインメモリ6の1ライン分のデータを転送し、垂直方向アドレスYOを1インクリメントする。
【0049】
次の1ライン分のデータがラインメモリ5に格納されると、再びDMA要求信号を送出する。その時の転送先アドレスはXO,YO+1となり、ラインメモリ5からの1ライン分のデータが転送される。そして、垂直方向アドレスYOを1インクリメントする。又割込発生条件VS1 は、映像信号の有効領域の先頭ラインを示すから、映像信号源からの映像信号の先頭からデータ転送を開始させたことになる。
【0050】
前述と同様に、映像信号源からの映像信号が垂直同期信号から数えてVE1 ライン目に到達した時に、割込ハンドラ11が呼出され、割込ハンドラ11は、今回のFLAGが2であるから(B9)、DMA1をマスクし(B10)、DMAコントローラ13の動作を終了させる。又O1 は0であるから、FLAGに0を代入し(B15)、処理を終了する。又割込発生条件VE1 は、有効領域の最終ラインを示した時、映像信号源からの映像信号の水平方向を1/2に縮小し、その1フィールド分のデータの転送を完了させたことになる。
【0051】
前述の割込ハンドラ11による処理を行っている間、画面合成制御部9は、映像取込み完了認識用変数FLAGの値を監視し、その値が0になることを待つことになる。そして、FLAG=0となると、映像信号を1フレーム分取込み完了となるから、割込みをマスクし、A=1をA=2に更新して、前述の処理を繰り返し行うことになる。
【0052】
前述の処理をA=1からA=nまで行い、その処理の完了により、画面合成用メモリ6に1フレーム分のデータの取込みを完了したことになる。そして、画面合成用メモリ6からのデータに対して、符号化制御部10により制御される符号化用メモリ7と符号化部8とにより符号化処理し、符号化映像信号の送信処理を行う。この符号化処理若しくは送信処理は、システムに対応した処理であり、例えば、H.261,H.263,MPEG1,JPEG等の符号化処理や、ビットマップ・データの低速LAN,低速PPP(Point to Point Protocol )等に対する送信処理等を行うことになる。又符号化処理若しくは送信処理の完了により、再度A=1からA=nまで映像信号の取込みにより、前述の処理を繰り返し行うことになる。前述のA=1〜A=4とすると、多画面合成結果は、例えば、図41の(A),(C),(D)に示すものとなる。
【0053】
図7は本発明の第1の実施の形態の画面合成処理のフローチャートであり、前述の画面合成処理を示すもので、先ず、図3に示す初期化処理を行い(C1)、Aに1を代入し(C2)、映像信号セレクタ2(図1参照)にCA を設定し(C3)、画面合成用メモリ6のインクリメント値VA を設定し(C4)、水平方向縮小化部4に於ける水平方向縮小値HA を設定し(C5)、画像転送先アドレスXO,YOにXSA ,YSA を代入し(C6)、FLAGに1を代入し(C7)、割込発生条件VSA を設定し(C8)、割込マスクを解除する(C9)。
【0054】
そして、FLAG=0か否かを判定し(C10)、0の場合は、割込マスクし(C11)、A=nか否かを判定し(C12)、A=nの場合は取込み完了であるから、符号化処理若しくは送信処理を行い(C13)、Aを1インクリメントし、その結果、A>nならば、A=1とし(C14)、ステップ(C3)に移行する。又ステップ(C12)に於いてA≠nの場合はステップ(C14)に移行する。それによって、前述のように、n個の非同期の映像信号を合成して、符号化し、受信側に送出することができる。
【0055】
図8は非同期映像信号合成の説明図であり、映像信号#1〜#4はそれぞれ非同期であり、(1),(2),(3),・・・・はフレーム番号を示す。そして、映像信号#1〜#4の順序で合成する場合、合成された映像信号は、#1(1) ,#2(2) ,#3(4) ,#4(5) となり、次は図示を省略しているが、#1(7) となる。1映像信号のフレームレートは29.97Hzであるから、前述の場合の全体の取込みフレームレートは、29.97Hzと、その半分の14.985Hzとの間となる。又4画面合成の場合の映像信号#1の取込みフレームレートは、フレームレート29.97Hzの1/4の7.4925Hzと、その半分の3.74625Hzとの間となる。そして、1取込みフレーム当たりの取込み時間は、(1/29.97)〜(2/29.97)〔sec〕となる。
【0056】
このような非同期の映像信号を合成する場合、フレームの先頭を待つ必要があるから、例えば、9画面合成を行う場合には、300msec〜600msec程度の空き時間が発生し、この間、符号化処理,送信処理を行うことができないことになる。例えば、1フレームの符号化に多大な時間(1sec〜数10sec)を要する静止画伝送や64kbps未満程度の通信帯域の狭いネットワークを介した伝送に於いては、前述の図1に示す実施の形態による非同期映像信号を用いた多画面合成の手段を充分に適用することができる。しかし、数10msec〜数100msecで1フレームの符号化を完了させる64kbps〜1.5Mbps等の中間の伝送帯域のネットワークを介して伝送する場合、空き時間が問題となる。
【0057】
図9は本発明の第2の実施の形態の画面合成処理のフローチャートであり、1フレーム分取込む毎に符号化を行う場合を示し、ステップ(D1)〜(D10)は、図7に於けるステップ(C1)〜(C10)と同様である。図7に於いては、A=1として映像信号源1−1からの映像信号の取込みを完了した後、順次A=2,3,・・・nとして、映像信号源1−2〜1−nからの映像信号の取込みを行い、各映像信号源1−1〜1−nからの映像信号を1フレーム分取込み完了した後に、符号化処理若しくは送信処理を行うものである。
【0058】
これに対して、この実施の形態に於いては、ステップ(D11)〜(D13)により、例えば、A=1の映像信号源1−1からの映像信号の取込みを完了することにより、ステップ(D12)により符号化処理若しくは送信処理を行い、次にステップ(D13)によりAを1インクリメントすることにより、A=2の映像信号源1−2からの映像信号の取込みを行い、その取込みの完了により符号化処理若しくは送信処理を行い、これをA=nとなるまで繰り返し、A>nとなると、A=1として最初に戻ることになる。
【0059】
従って、A=1の時の映像信号源1−1からの映像信号を格納する画面合成用メモリ6(図1参照)のブロック以外は初期値が格納されており、符号化処理若しくは送信処理が完了した後、A=2として、映像信号源1−2からの映像信号の取込みを開始し、この取込み完了により、画面合成用メモリ6に格納されたデータの符号化処理若しくは送信処理を行う。
【0060】
この時点では、画面合成用メモリ6には、映像信号源1−1,1−2からの映像信号を格納するブロック以外のブロックには初期値が格納された状態となり、又映像信号源1−1からの映像信号を格納したブロックは前回の符号化処理若しくは送信処理に於けるものと同一の内容のものである。従って、A=1からA=nまでの処理を繰り返すことにより、画面合成用メモリ6内の1ブロック毎に更新されたものとなる。この場合、映像信号源数nを大きな値としても、非同期映像信号を用いた画面合成に於ける空き時間は、約33msec〜66msec程度の間に納まることになり、15フレーム/secで符号化処理若しくは送信処理を行うシステムに於いても充分に適用することができる。
【0061】
図10は本発明の第3の実施の形態の画面合成処理のフローチャートであり、ステップ(E1)〜(E7)については、図7のステップ(C1)〜(C7)又は図9のステップ(D1)〜(D7)の処理と同様であり、重複した説明は省略する。この実施の形態は、画面合成用メモリ6から符号化用メモリ7にデータをDMAによって転送する処理を含み、又映像取込み完了認識用変数FLAG2を追加したものである。
【0062】
即ち、ステップ(E7)に於いてFLAGに1を代入し、次にFLAG2に1を代入し(E8)、割込発生条件VSA を設定し(E9)、割込マスク解除を行い(E10)、FLAG2=0か否かを判定し(E11)、0の場合は、割込マスクを行い(E12)、画面合成用メモリ6から符号化用メモリ7にDMAコントローラ14によるDMA2によって転送開始し(E13)、割込マスクを解除して(E14)、符号化処理若しくは送信処理を行い(E15)、ステップ(E11)に移行する。
【0063】
図11及び図12は本発明の第3の実施の形態の割込処理のフローチャートであり、ステップ(F1)〜(F5)は、図5に於けるステップ(B1)〜(B5)と同様であり、重複した説明は省略する。ステップ(F3)又は(F5)の次のDMA1マスク解除(F7)の前に、FLAG2に1を代入する(F6)。そして、DMA1マスク解除を行って、割込発生条件VEA を設定し(F8)、FLAGに1を代入し(F9)、処理を終了する。
【0064】
又ステップ(F1)に於いてFLAG≠1の場合、FLAG=2か否かを判定し(F10)、FLAG≠2の場合は処理を終了し、FLAG=2の場合は、DMA1マスク(F11)、OA =1か否かの判定(F12)、取込み完了か否かの判定(F13)、FLAGに1代入(F14)、割込発生条件VSA 設定(F15)については、図6のステップ(B9)〜(B14)と同様であり、重複した説明は省略する。
【0065】
又この実施の形態に於いては、OA ≠1(F12)又は取込み完了の場合(F13)、例えば、A=1の時のO1 が1で且つ1フレーム分の映像信号の取込みが完了した時、若しくは、O1 が0で映像信号の取込みが完了した時に、割込ハンドラ11内でA=1からA=2への変更を行う。即ち、Aを1インクリメントし、A>nの場合は1を代入する(F16)。そして、映像信号セレクタ2にCA を設定する(F17)。この場合、A=2となるから、映像信号セレクタ2にC2 を設定することになり、それにより、映像信号源1−2からの映像信号が選択される。
【0066】
又画面合成用メモリのインクリメント値VA を設定し(F18)、水平方向縮小値HA を設定し(F19)、画像転送先アドレスXO,YOにXSA ,YSA を代入する(F20)。この場合、DMAコントローラ13に設定するインクリメント値はV1 、水平方向縮小部4に設定する縮小値はH1 、転送先アドレスXO,YOには、XS1 ,YS1 を代入することになる。以上の処理が完了すると、FLAG2に0を代入して(F21)、ステップ(F14)に移行して、FLAGに1を代入し、割込発生条件にVS2 を設定し(F15)、処理を終了することになる。
【0067】
割込ハンドラ11が処理を行っている間、画面合成制御部9は、映像取込み完了認識用変数FLAG2の値を監視し、その値が0になるのを待つことになる。そして、その値が0になると、映像信号源1−1からの映像信号を1フレーム分取込み完了したことを意味するから、割込みをマスクした後、画面合成用メモリ6から符号化用メモリ7へDMAコントローラ14によってデータ転送を行う。このDMA転送の完了により、割込マスクを解除し、符号化部8に於ける符号化処理若しくは送信処理を実行する。
【0068】
この符号化処理若しくは送信処理の間、割込マスクは解除された状態を継続し、その間の割込信号があれば、割込ハンドラ11が呼出され、映像信号源1−1の次の映像信号源1−2からの映像信号が画面合成用メモリ6に取り込まれる。この取込み完了後、続いて、映像信号源1−3からの映像信号取込み用の設定が行われる。更に割込信号があれば、割込ハンドラ11が呼出され、今度は映像信号源1−3からの映像信号が画面合成用メモリ6に取り込まれる。このような処理を繰り返して、映像信号の取込みや符号化処理若しくは送信処理が行われ、画面合成されて符号化された合成映像信号が受信側に送信される。
【0069】
又画面合成制御部9により制御する符号化処理若しくは送信処理が終了すると、映像取込み完了認識用変数FLAG2の値を監視する。この値が1であることは、現在何れかの映像データを画面合成用メモリ6にDMA転送中であることを示し、0であることは、現在映像データをDMA転送していないことを示す。ここで、映像データの画面合成用メモリ6へのDMA転送中に、画面合成用メモリ6から符号化用メモリ7へのDMA転送を行うと、符号化用メモリ7で現在取込み中の映像信号は、途中で切れたものとなる。そこで、FLAG2の値が0になるまで、割込マスクを行うものである。
【0070】
この映像取込み完了認識用変数FLAG2の値が0になると、割込マスクを行い、画面合成用メモリ6から符号化用メモリ7へDMA転送を行う。このDMA転送が完了すると、割込マスクを解除し、符号化処理若しくは送信処理を行うことになり、前述の一連の動作を繰り返すことになる。この実施の形態の場合、符号化処理若しくは送信処理中に、映像信号を取込み続けるから、符号化効率を低下させることなく、取込み可能な分の映像信号を取込むことができる。従って、効率良く画面合成を行うことができる。
【0071】
図13は取込みフレームの説明図であり、(A)は従来例を示し、(B)は本発明の実施の形態を示す。又#1〜#4は4台の映像信号源からの映像信号を示す。(A)の従来例は、図40に示すような同期映像信号合成の場合を示し、1フレーム画面を4分割し、4台の映像信号源からの映像信号#1〜#4に割付けて合成し、伝送装置に於いて符号化して送信する。その場合、伝送帯域が狭いネットワークを介して伝送する場合、圧縮符号化を行うことになるが、その符号化処理に要する時間や発生情報量等により、破棄されるフレームが生じることになる。従って、圧縮・伝送に採用されたフレームは、間引きされたものとなり、フレームレートは低いものとなる。
【0072】
又(B)は、各映像信号源からの非同期の映像信号#1〜#4を順次取込み、画面合成を行って符号化処理する本発明の実施の形態を示す。伝送帯域が狭いネットワークを介して伝送する場合、前述のように、間引きの状態となり、フレームレートを高くすることができないものであるから、例えば、映像信号#1の1フレーム分を取込んだ後、次の映像信号#2の1フレーム分を取込むように、順次映像信号#3,#4,#1,#2,・・・をフレーム単位で取込むことにより、画面合成前にフレームの間引きを行った状態とし、画面合成を行って符号化処理するものである。
【0073】
図14は符号化処理フレームの説明図であり、(A)は図13の(A)に対応した従来例、(B)は図13の(B)に対応した本発明の実施の形態を示し、且つ図13に於ける圧縮・伝送に採用されたフレーム(1),(4),(6),(7) について示す。従来例に於いては、(A)に示すように、映像信号#1〜#4を合成して1フレームを構成し、符号化処理を行うことから、各フレーム(1),(4),(6),(7) は、総て更新された内容となる。
【0074】
これに対して、本発明の実施の形態に於いては、(B)に示すように、フレーム(1) は映像信号#1を取込んで合成して符号化することにより、映像信号#1の部分のみ更新ありとなる。次のフレーム(4) は、映像信号#2〜#4を取込んで合成して符号化することにより、映像信号#1の部分は更新なしとなるが、他の映像信号#2〜#4の部分は更新ありとなる。
【0075】
次のフレーム(6) は、映像信号#1,#2を取込んで合成して符号化することにより、映像信号#1,#2の部分は更新あり、映像信号#3,#4の部分は更新なしとなる。次のフレーム(7) は、映像信号#3を取込んで合成して符号化することにより、映像信号#3の部分のみ更新ありとなる。従って、更新なしの部分はフレーム間差分が零であり、更新ありの部分のみフレーム間差分が生じることになり、符号化処理は合成画面の1フレーム全体を符号化処理する場合に比較して簡単となる。
【0076】
図15は受信表示フレームの説明図であり、(A)は図13の(A)及び図14の(A)の従来例に対応し、(B)は図13の(B)及び図14の(B)の本発明の実施の形態に対応する。即ち、(A)に示す従来例に於いては、フレーム(1),(4),(6),(7) を受信することになるから、フレーム(2),(3) の時間は、その前のフレーム(1) の復号化処理による内容が繰り返し表示され、フレーム(5) の時間は、その前のフレーム(4) の復号化処理による内容が表示される。
【0077】
又(B)に示す本発明の実施の形態に於いては、(A)の従来例に類似したものとなるが、例えば、映像信号#1については、フレーム(1) の内容が、更新ありのフレーム(6) まで繰り返し表示される。又映像信号#2については、フレーム(1) の内容が、更新ありのフレーム(4) まで繰り返し表示される。
【0078】
例えば、有効エリアが704(画素)×480(ライン)のCCIR601による画面合成の場合、1画素当たりのデータ量は1バイトであり、ラインメモリ5(図1参照)は、1ライン当たり704バイトのデータを格納する必要があり、データ書換えの余裕をみて、2kバイト程度の容量とすることが望ましい。又画面合成用メモリ6(図1参照)は、色差信号等を考慮して、704×480×1.5(バイト)程度、例えば、512kバイト程度の容量とすることが望ましい。なお、この画面合成用メモリ6の記憶容量は、画面合成数には依存しないことになる。
【0079】
図16は本発明の第4の実施の形態の説明図であり、図1と同一符号は同一部分を示し、21は映像信号源入力有無判定部、22−1〜22−nは映像信号源対応部、23は水平・垂直方向縮小化部、24は復号化用メモリ、25は復号化部、26は復号化制御部、27は特殊データ格納用メモリを示す。
【0080】
この実施の形態は、複数の映像信号源(テレビカメラ)1−1〜1−nから映像信号が出力されているか否かを映像信号源入力有無判定部21に於いて判定するものであり、映像信号源の障害,電源なし,接続不良等により映像信号を出力していない場合、その映像信号源対応の画面合成を行わないようにし、不安定映像信号の混入等によるシステムの不安定条件を除去すると共に、画面合成の効率を向上するものである。
【0081】
この映像信号源入力有無判定部21の各映像信号源対応部22−1〜22−nは、例えば、垂直同期信号や水平同期信号或いはカラーバースト信号やクロミナンス信号が一定期間中に出力されているか否かにより判定することができる。又映像信号のレベル検出によって判定する構成とすることも可能である。
【0082】
又復号化部25は受信した符号化映像信号を復号化制御部26の制御に従って復号し、復号化用メモリ24に復号化映像信号を格納する。又特殊データ格納用メモリ27は、画面合成制御部9から特殊データを書込む構成を有し、又水平・垂直方向縮小化部23は、指定されたサイズとなるように、画素又はラインの間引きにより縮小化処理を行うものである。
【0083】
図17は本発明の第4の実施の形態の画面合成処理のフローチャートであり、前述の各実施の形態に於ける画面合成処理に対しても、映像入力有無判定を適用できるものである。先ず、初期化処理を行い(G1)、Aに1を代入し(G2)、映像信号セレクタ2にCA を設定し(G3)、奇偶フィールド取込変数OA を設定し(G4)、画面合成用メモリのインクリメント値VA を設定し(G5)、水平方向縮小値HA を設定し(G6)、画像転送先アドレスXO,YOにXSA ,YSA を代入し(G7)、FLAGに1を代入し(G8)、割込発生条件VSA を設定し(G9)、割込マスクを解除する(G10)。
【0084】
そして、FLAG=0か否かを判定し(G11)、FLAG=0となると、割込みをマスクし(G12)、符号化処理若しくは送信処理を行う(G13)。そして、A=nか否かを判定し(G14)、A≠nの場合は、ステップ(G17)に移行してAを1インクリメントし、それによりA>nとなる場合はAに1を代入する。
【0085】
又A=nの場合は、映像入力有無判定処理を行い(G15)、映像入力無しの場合の無効エリア処理を行う(G16)。そして、ステップ(G17)に移行し、Aを1インクリメントするか、或いはAに1を代入して、ステップ(G3)に移行して前述の処理を繰り返す。
【0086】
図18は本発明の実施の形態の映像入力有無判定処理のフローチャートであり、先ず、割込みのマスクを行い(H1)、映像入力有数保持用変数VI及び映像入力無数保持用変数VDにそれぞれ0を代入し(H2)、入力有無判定数チェック用変数Dに0を代入する(H3)。そして、映像信号源CN-D の映像入力有無チェックを行い(H4)、入力有りか否かを判定し(H5)、入力有りの場合は、VIを1インクリメントし(H6)、入力無しの場合は、CN-D ,CN-VDを入替えて、VDを1インクリメントする(H7)。
【0087】
そして、Dを1インクリメントし(H8)、D=Nか否かを判定し(H9)、D≠Nの場合は、ステップ(H4)に移行する。又D=Nの場合は、nにVIを代入し(H10)、初期化処理を行う(H11)。即ち、映像入力有数保持用変数VIの値を映像信号源数nとして、画面合成処理を行うことができる。
【0088】
例えば、映像信号源1−1〜1−4の場合、映像入力有無判定前、C1 =1−1、C2 =1−2、C3 =1−3、C4 =1−4、n=4、N=4とすると、映像信号源入力有無判定部21により、映像信号源1−1,1−3からの映像信号が入力されない場合、C1 =1−4、C2 =1−2、C3 =1−1、C4 =1−3、n=2、N=4となるから、画面合成処理に於いては、映像信号源1−2,1−4からの映像信号を用いた2画面合成を行うことになる。
【0089】
図19は本発明の実施の形態の無効エリア用処理のフローチャートであり、前述の映像入力有無判定により入力無しに対応する画面合成メモリ6上のブロックが、合成画面に於ける無効エリアとなる。そこで、この無効エリア内に特殊データを挿入する場合を示すもので、先ず、映像入力有無判定により、nが2又は3になったか否かを判定し(J1)、nが2又は3でない場合は処理を終了する。又nが2又は3の場合、N用配列及びそのデータ群を取得する(J2)。
【0090】
次に特殊データ格納用メモリ27(図16参照)に固定パターンを書込み(J3)、垂直方向縮小値VN /2を設定し(J4)、水平方向縮小値HN /2を設定し(J5)、画面合成先頭アドレスXSN ,YSN を設定し(J6)、特殊データ格納アドレスを設定し(J7)、DMAコントローラ14によるDMA2データ転送を行う(J8)。
【0091】
N=4とし、n=4用の配列からN番目(4番目)のデータを取り出す。この場合、
XSN =XS+X/2
XEN =XS+X
YSN =YS+Y/2
YEN =YS+Y
HN =1/2
ON =0
VSN =VSTART
VEN =VEND
の代入を行う。
【0092】
ここで、特殊データ格納用メモリ27の水平・垂直方向の先頭アドレスをそれぞれXD,YDとし、このアドレスXD,YDに対して何らかの固定パターンデータの書込処理を行う。例えば、黒固定、青固定等の色固定データ、メーカロゴ等の固定ビットマップデータ、「画面合成中」,「映像信号源1,4の入力無」等のメッセージ、その他のユーザデータ等を用いることができる。
【0093】
前述の特殊データ格納用メモリ27に特殊データを書込んだ後、水平・垂直方向縮小化部23に、水平方向縮小値HN 及び垂直方向縮小値VN /2を設定する。なお、このVN は、間引き無しの1フレーム取込みの時は2、間引き有りの1フィールド取込みの時は1となるインクリメント値に相当する。そして、DMAコントローラ14に、転送先アドレスとして、画面合成用メモリ6の先頭アドレスXSN ,YSN を指示し、転送元アドレスとして特殊データ格納用メモリ27の先頭アドレスXD,YDを指示し、X×Y分のデータ転送を行わせる。
【0094】
このDMAコントローラ14により転送制御されるX×Y分のデータは、水平・垂直方向縮小化部23により、水平及び垂直方向にそれぞれ1/2に間引かれて画面合成用メモリ6のN番目(4番目)のブロックに格納される。この無効エリア用処理は、映像信号源のチャネル切替えが一周する度に呼出されるから、アクティブに特殊データ内容を変更して受信側へ送出することが可能となる。
【0095】
図20は本発明の他の実施の形態の無効エリア用処理のフローチャートであり、無効エリアに受信復号化したデータを挿入して返送する場合に適用できるもので、ステップ(K1),(K2)は、図19のステップ(J1),(J2)と同様であり、n=2又は3の場合についてステップ(K2)に移行し、次に復号化フレーム更新管理用変数RCVの値をチェックする(K3)。これは、復号化制御部26により1フレーム復号化される毎に1に変更され、復号化処理結果を画面合成用メモリ6に転送すると0に変更される。即ち、前回、この処理が動作を開始してから復号化用メモリ24の内容が更新されたか否かを管理する変数である。従って、RCV=0の場合は、前回と同様のデータが復号化用メモリ24に格納されているので、上書きする必要がないから、処理を終了する。
【0096】
又RCV=1の場合は、図19のステップ(J4)〜(J6)と同様のステップ(K4)〜(K6)により、垂直方向縮小値VN /2、水平方向縮小値HN 、画面合成先頭アドレスXSN ,YSN を設定し、特殊データ格納アドレスの代わりに、復号化受信データ格納アドレスを設定し(K7)、DMAコントローラ14によりデータ転送を行い(K8)、このデータ転送完了によりRCVに0を代入する(K9)。この場合、受信復調したデータが、水平・垂直方向縮小部23により縮小されて、画面合成用メモリ6の無効エリアのブロックに書込まれ、映像信号源からの映像信号と共に合成されて送信される。
【0097】
この場合も、映像信号源のチャネル切替えが一周する度に無効エリア用処理が呼出されるから、受信復号化したデータを常に更新して送信することができる。従って、相手側には、送信画像が折返されることになるから、送信画像の確認を行うことができる。又予め他のメモリに格納してある符号化済み録画データを復号化処理できるシステムの場合、生映像と録画再生映像との画面合成を行うことも容易である。この場合、例えば、図41の(C)に示すような合成画面を容易に形成することができる。
【0098】
図21は本発明の更に他の実施の形態の無効エリア用処理のフローチャートであり、合成画面内の無効エリアを利用して、重要な画像を拡大表示可能に合成する場合を示す。この場合、重要な画像を撮像する映像信号源のチャネル番号をF1 として重み付けした場合を説明する。先ず、n=2か否かを判定し(L1)、n≠2の場合は、n=3か否かを判定し(L4)、L≠3の場合は、nが2又は3でない場合であるから、処理を終了する。
【0099】
又n=2の場合、例えば、図22の(A)に示すように、画面合成用メモリ6のブロックb1,b2を用いた画面合成を行う。この場合、ブロックb1,b2は、(C)に示すように、上下Y/4を除くY/2の画像取込領域に相当する大きさとなる。又ブロックb1,b2を同一の大きさとすることにより、重み付けをしたチャネル番号を考慮する必要はない。
【0100】
従って、画面合成用メモリ1の拡大合成用配列を取得し(L2)、画面合成用メモリ2の拡大合成用配列を取得する(L3)。この場合の拡大合成用配列は、映像信号源等に対応して予め設定しておくものである。この場合、例えば、A=1,2に関して取得した配列からXSA ,XEA ,YSA ,YEA ,HA ,VA ,OA ,VSA ,VEA を取得する。具体的な設定例として、
XS1 =XS2 =XS
XE1 =XE2 =XS+X
YS1 =YS
YS2 =YS+Y/2
YE1 =XS+Y/2
YE2 =YS+Y
H1 ,H2 =1
V1 ,V2 =2
O1 ,O2 =1
VS1 ,VS2 =VSTART +1Y/4
VE1 ,VE2 =VSTART +3Y/4
となる。
【0101】
映像信号は、奇数フィールドと偶数フィールドとを取込み、画面合成用メモリ上では交互に格納する。従って、画面合成用メモリのインクリメントチャネルVA は2、奇偶フィールド取込み変数OA は1となる。
【0102】
又n=3の場合は、例えば、図22の(B)に示すような画面合成を行う。この場合、ブロックb2に格納する映像信号のチャネルにF1 の重み付けを行った場合である。即ち、Dに1を代入し(L5)、CD =F1 か否かを判定し(L6)、CD ≠F1 の場合は、Dを1インクリメントし(L7)、D>nか否かを判定し(L8)、D>nでない場合はステップ(L6)に移行し、D>nの場合は、D=1〜D=nの間に重み付けした映像信号チャネルがない場合であるから、処理を終了する。又CD =F1 の場合、映像信号源C2 ,CD を入れ替え(L9)、画面合成用メモリ2の拡大合成用配列を取得する(L10)。
【0103】
即ち、D=1からD=nまでCD とF1 とを比較し、CD =F1 の場合に、このCD とブロックb2に対応するC2 とを入れ替える。それにより、ブロックb2(図22の(B)のb2参照)にチャネルF1 を割付けて、映像信号を格納する。そして、n=2の場合と同様に、画面合成用メモリ2の拡大合成用配列を取得する(L10)。そして、A=2に関して取得した配列からXSA ,XEA ,YSA ,YEA ,HA ,VA ,OA ,VSA ,VEA を取得する。具体的な設定例は、n=2の場合と同様である。
【0104】
ブロックb2の映像取込みは、奇数フィールドと偶数フィールドとを共に行い、且つ画面合成用メモリ上では交互に格納する。従って、画面合成用メモリのインクリメントチャネルVA は2、奇偶フィールド取込み変数OA は1となる。又割込信号は、映像信号の(YS+Y/4)ラインと、(YS+3Y/4)ラインとに於いて発生し、DMA転送開始、終了処理を行うことになる。なお、図22の(B)のブロックb1,b2については、先に説明した各実施の形態に於ける4画面合成の場合と同様であり、例えば、偶数フィールドのみを取込み、画面合成用メモリ上では連続的に格納する。
【0105】
図23及び図24は本発明の実施の形態のズームアップ処理を含む無効エリア処理のフローチャートであり、合成画面内の無効エリアにズームアップ表示させる為に重み付けしたチャネル番号をF2 とする。図19のステップ(J1)及び図20のステップ(K1)と同様に、n=2又は3かを判定し(M1)、nが2又は3でない場合は処理を終了する。
【0106】
又nが2又は3の場合、Dに1を代入し(M2)、CD =F2 か否かを判定する(M3)。CD ≠F2 の場合は、Dを1インクリメントし(M4)、D>nか否かを判定し(M5)、D>nの場合は処理を終了し、D>nでない場合はステップ(M3)に移行する。
【0107】
CD =F2 の場合、映像信号源C2 ,CD の入れ替えを行い(M6)、画面合成用メモリNの拡大合成用配列を取得し(M7)、AにNを代入し(M8)、映像信号セレクタ2(図16参照)にCA を設定し(M9)、画面合成用メモリのインクリメントチャネルVA を設定し(M10)、水平方向縮小値HA を設定し(M11)、画像転送先アドレスXO,YOにXD,YDを代入し(M12)、FLAGに1を代入し(M13)、割込発生条件VSA を設定し(M14)、割込マスクを解除する(M15)。
【0108】
そして、FLAG=0となるか否かを判定し(M16)、0となると、割込みをマスクし(M17)、垂直方向縮小値VA /2を設定し(M18)、水平方向縮小値HA を設定し(M19)、画面合成先頭アドレスXSA ,YSA を設定し(M20)、データ転送先アドレスXD+XZ,YD+YZを設定し(M21)、DMAコントローラ14によるDMA2転送を行う(M22)。
【0109】
重み付けしてズームアップ表示を行うことを示すチャネルF2 は、例えば、図22の(D)に示すように、アドレス(XZ,YZ)からアドレス(XZ+X/2,YZ+Y/2)の領域を画像取込領域とし、等倍で画面合成用メモリに取込むようにDMA転送する。即ち、他のブロックは間引き処理した映像信号を合成するから、この無効エリアに合成する映像信号については、見かけ上拡大したものとなる。
【0110】
又ステップ(M6)に於けるCD とCn との入れ替えの理由は、次の2点がある。先ず(1).無効エリア用処理が呼出される時、映像信号源のチャネルは画面合成用メモリ内ブロックnに取込まれるものであり、再取込みを行う際に、チャネルの切替えによる時間的損失を少なくする為である。又(2).ズームアップしている映像とズームアップしない映像とが隣接している方が、ユーザの観測に好都合である為である。
【0111】
又ズームアップ取込み用配列及び設定値群は、適用するシステムに対応して予め設定しておくことができる。そして、A=Nに関して取得した配列から、XSA ,XEA ,YSA ,YEA ,HA ,VA ,OA ,VSA ,VEA を取得する。その具体例を次に示す。
XSN =XS+X/2
XEN =XS+X
YSN =YS+Y/2
YEN =YS+Y
HN =1
VN =2
ON =1
VSN =VSTART
VEN =VEND
【0112】
前述のように、奇数フィールドと偶数フィールドとを共に取込み、且つ画面合成用メモリ上には交互に格納する。従って、インクリメント値VN は2、奇偶フィールド取込み変数ON は1となる。
【0113】
前述の処理が完了した後、映像信号源からの映像信号取込み処理を開始する。先ず、A=Nとして、特殊データ格納用メモリ27(図16参照)を用いる。又映像信号セレクタ2にCA を設定する。このCA の値がF2 であると、映像信号源F2 の映像信号が映像信号セレクタ2によって選択される。又DMAコントローラ13に画面合成用イクリメント値VN を設定し、水平方向縮小化部4に水平方向縮小値HN を設定し、同時に画像転送先アドレスXO,YOに特殊データ格納用メモリ27内の取込み位置XD,YDを代入する。即ち、映像信号源からの映像信号を画面合成用メモリ6ではなく、一旦、特殊データ格納用メモリ27に格納する。
【0114】
前述の処理が完了すると、映像取込み完了認識用変数FLAGに1を代入し、割込発生条件にVSN を設定し、割込マスクを解除する。それにより、割込ハンドラ11内の処理によって、n=1の場合と同様の映像信号取込み手段によって、特殊データ格納用メモリ27に1フレーム分の間引き処理されていないデータが取込まれ、それにより、FLAGが0になる。
【0115】
割込ハンドラ11の処理中は、FLAGの値を監視し、その値が0になるのを待つことになる。そして、0になると、映像信号源の映像信号を1フレーム分取込み完了したことを意味するから、割込みをマスクし、DMAコントローラ14に、転送先アドレスとして、画面合成用メモリ6の先頭アドレスXSA ,YSA を指定し、転送元アドレスとして、特殊データ格納用メモリ27の先頭アドレスXD+XZ,YD+YZを指定し、X×Y分のデータ転送を行わせる。このDMAコントローラ14により転送されたX×Y分のデータは、水平方向及び垂直方向に間引きなしに、即ち、等倍で、画面合成用メモリ6内のN番目のブロックに格納される。前述の処理により、受信再生画像は、例えば、図41の(D)の右上のような拡大画像となる。
【0116】
図25は本発明の第5の実施の形態の画面合成処理のフローチャートであり、重み付けしたチャネルの映像信号を優先的に取込んで処理する場合を示す。前述の画面合成処理を要約すると次のようになる。(a)総ての映像信号を完全に取込み処理を完了してから符号化処理若しくは送信処理を行う。(b)符号化処理中に取込み可能な映像信号の取込み処理を行う。(c)1映像信号源からの映像信号の取込み完了毎に符号化処理若しくは送信処理を行う。従って、受信再生画像は、ブロック単位で更新された合成画面となる。
【0117】
例えば、1秒間に30フレームを符号化して送信するシステムに於いては、4画面合成を行った時、1ブロック当たりのフレームレートは、約3〜7.5となる。このようなシステムに於いて、或る映像信号源による画像について、その動きが良く判るようにすることが要望されることがある。そこで、この実施の形態は、このような映像信号源について重み付けを行い、その映像信号源からの映像信号を重点的に取込むようにして、フレームレートを大きくし、動きが良く判る受信再生画像が得られるようにするものである。
【0118】
前述の重み付けを行ったチャネル番号をF3 として説明する。先ず、初期化処理を行い(N1)、変数A,Bに1を代入し(N2)、Dに1を代入し(N3)、CD =F3 か否かを判定し(N4)、CD ≠F3 の場合は、Dを1インクリメントし(N5)、D>nか否かを判定し(N6)、D>nでない場合はステップ(N4)に移行し、D>nの場合は次のステップ(N8)に移行する。
【0119】
又CD =F3 の場合は、映像信号源C1 とCD との入れ替えを行う(N7)。即ち、D=1からD=nまでCD とF3 との比較を行い、CD とF3 とが同一の場合、その時のCD とC1 とを入れ替える。この入れ替えにより、F3 と同一のチャネルの映像信号を、チャネル番号1に対応する合成画面のブロック1に格納し、チャネル番号F3 に対応する合成画面のブロックにチャネル番号1の映像信号を格納する。
【0120】
次に、前述の各実施の形態に於ける設定処理と同様に、CA の設定(N8)、VA の設定(N9)、HA の設定(N10)、XSA ,YSA の代入(N11)、FLAGに1代入(N12)、VSA 設定(N13)、割込マスク解除(N14)を行い、FLAG=0か否かを監視し(N15)、0となると、割込みをマスクし(N16)、符号化処理若しくは送信処理を行う(N17)。
【0121】
そして、A=1か否かを判定し(N18)、A≠1の場合はAに1を代入して(N20)、ステップ(N8)に移行する。又A=1の場合は、Bを1インクリメントし、B>nの場合はBに2を代入する。又Bの値をAに代入する(N19)。例えば、チャネルC1 (=F3 )の映像信号の取込みを行い、A=1か否かを判定すると(N18)、最初はA=1,B=1であるから、ステップ(N19)に移行して、Bを1インクリメントし、そのBをAに代入するから、A=B=2となる。そして、再度変数の設定を行い、チャネルC2 の映像信号の取込みを行い、再度A=1か否かを判定する(N18)。この場合はA≠1であるから、ステップ(N20)に於いてAに1を代入する。そして、A=1対応の変数を設定した後、チャネルC1 (=F3 )の映像信号の取込みを行うことになる。
【0122】
従って、4画面合成の場合、C1 →C2 →C1 →C3 →C1 →C4 →C1 ・・・のように、2回に1回は重み付けしたチャネルC1 (=F3 )の映像信号を取込み、画面合成を行うことができるから、このチャネルC1 のフレームレートを高くすることができる。例えば、前述の例に対応させると、フレームレートは、1秒間に7〜15フレームとすることができる。
【0123】
前述のように、画面合成と符号化処理とが直接的に関連を持っているから、例えば、合成画面のブロック毎に量子化ステップを設定して、重要なブロックの解像度を高くすることができる。又ブロック毎に動きベクトルの探索範囲を設定して、再生画像の画質を向上することができる。
【0124】
図26はCIFの説明図であり、H.261符号化に於いては、画像データをCIF(Common Intermediate Format )又はQCIF(Quarter Common Intermediate Format )によるサイズとして取扱うものであり、CIFの場合は、図示のように、352×288(画素)を1フレームとしている。このCIFフレームは、12個のブロックGOBからなり、各ブロックGOBは、下方に拡大して示すように33個のマクロブロックからなる。又各マクロブロックは、4個の輝度ブロックYと、2個の色差ブロックU,Vとにより構成されており、輝度ブロックYは4ブロックから構成されている。このCIFフレームの符号化は、基本的にはマクロブロック単位で行われるものである。
【0125】
図27は符号化部の説明図であり、図1及び図16に於ける符号化部8を、ハイブリッド符号化構成とした場合を示すものであり、各図と同一符号は同一部分を示し、31は画面合成部、32は差分処理部、33,34はセレクタ、35は離散コサイン変換部(DCT)、36は量子化部、37は送信バッファ、38は逆量子化部、39は逆離散コサイン変換部(IDCT)、40は加算処理部、41は動き補償部、42はループ内フィルタ、51は送受信処理部、52は受信バッファ、53は逆量子化部、54は逆離散コサイン変換部(IDCT)、55は加算処理部、56はループ内フィルタ、57は動き補償部、58はセレクタである。
【0126】
画面合成部31は、図1又は図16に於ける画面合成用メモリ6等を含み、複数の映像信号源1−1〜1−nからの映像信号を合成する機能部分を示し、画面合成された映像信号を符号化用メモリ7に転送し、この符号化用メモリ7に格納された合成1画面分について、例えば、8×8画素のブロック単位に符号化処理を行うものである。
【0127】
この符号化処理に於いて、セレクタ33,34を図示の状態とすることにより、フレーム間予測符号化を行うことになり、その場合のブロックはインターブロックと称されるものである。又セレクタ33,34を図示状態から切替えると、フレーム内符号化を行うことになり、その場合のブロックはイントラブロックと称されるものである。
【0128】
又セレクタ33を介して離散コサイン変換部35に入力された8×8画素のブロックに離散コサイン変換処理を施し、それによるDCT係数を量子化部36に入力する。この場合、映像信号の性質により、DCT係数は直流成分を含む低周波成分が大半を占めることになるから、高周波成分を切り捨てることが可能となる。従って、この離散コサイン変換処理によっても情報量を圧縮することができる。更に、量子化部36に於いてDCT係数を量子化し、送信バッファ37に転送する。この場合、量子化部36に於ける量子化値(量子化ステップ)を小さくすると、発生情報量が多くなるが、受信再生画像の画質は良好となる。反対に、量子化値を大きくすると、発生情報量は少なくなるが、受信再生画像の画質は劣化する。
【0129】
又送受信処理部51は、送信バッファ37に蓄積されたデータをネットワーク等の伝送帯域に従った一定の速度で送信処理を行うものである。又符号化制御部10は、送信バッファ37の蓄積量を監視し、オーバーフロー又はアンダーフローが生じないように、量子化部36の量子化値(量子化ステップ)を制御するものである。
【0130】
又逆量子化部38,逆離散コサイン変換部39,加算処理部40,動き補償部41,ループ内フィルタ42等を含む構成により、符号化フレームを再生し、差分処理部32に於けるフレーム間差分を求める。又動き補償部41は、或る大きさのブロックが、前回のフレームと今回のフレームとに於いて差分が最小となる位置を求め、その移動先を動きベクトルとし、フレーム間差分が小さくなるように処理するものである。又ループ内フィルタ42は、量子化によって発生した歪みが蓄積されて、フレーム間予測効率の低下を少なくするもので、ブロック単位の空間的なローパスフィルタである。
【0131】
又送受信処理部51を介して受信したデータは、受信バッファ52を介して逆量子化部53に入力されて逆量子化され、逆離散コサイン変換部54により逆離散コサイン変換され、加算処理部55とループ内フィルタ56と動き補償部57とセレクタ58とにより、フレーム内復号化又はフレーム間復号化を行って、復号化用メモリ24に格納する。
【0132】
前述の量子化部36に於いて、H.261符号化の場合、1マクロブロック当たり一つの量子化値を割当てることができる。この量子化値は1〜31の値とすることができるものである。前述のように、この量子化値が小さいと、発生情報量が多くなり、反対に量子化値が大きいと、発生情報量は少なくなる。即ち、全体的に量子化値が小さければ、画質が良好で動きの滑らかな画像を送信することができ、又量子化値が大きければ、画質が粗く動きが飛び飛びの状態の画像を送信することができる。
【0133】
一連の符号化処理を終えたデータは送信バッファ37に蓄積され、送受信処理部51によってネットワークの伝送帯域に対応した一定速度で送信され、蓄積される速度は符号化処理による発生情報量に従ったものとなる。そこで、送信バッファ37のオーバーフローを防止する為に、蓄積量が増加して所定値を超えると、量子化値を大きくし、反対に、送信バッファ37のアンダーフローを防止する為に、蓄積量が所定値以下に減少すると、量子化値を小さくするように、符号化制御部10により量子化部36を制御する。
【0134】
今、使用可能な量子化値のうちの一番小さい量子化値をQmin、一番大きい量子化値をQmax、実際に選択されている量子化値をQとする。例えば、Qmin=3,Qmax=12とし、送信バッファ27の容量が1kバイトであるとすると、送信バッファ27の占有量と量子化値との関係を次のように制御することができる。
占有量が900バイト以上の時、Q=12
占有量が800バイト以上900バイト未満の時、Q=11
占有量が700バイト以上800バイト未満の時、Q=10
占有量が600バイト以上700バイト未満の時、Q=9
占有量が500バイト以上600バイト未満の時、Q=8
占有量が400バイト以上500バイト未満の時、Q=7
占有量が300バイト以上400バイト未満の時、Q=6
占有量が200バイト以上300バイト未満の時、Q=5
占有量が100バイト以上200バイト未満の時、Q=4
占有量が100バイト未満の時、Q=3
【0135】
この量子化部36に於ける量子化値を、重み付けしたチャネルに対しては、他のチャネルと異なる制御を行って、重み付けしたチャネルの受信再生画像の画質を良好なものとすることができる。
【0136】
図28は本発明の実施の形態の量子化値決定処理のフローチャートであり、重み付けしたチャネル番号をF4 とする。先ずDに1を代入し(P1)、次にCD =F4 か否かを判定し(P2)、CD ≠F4 の場合は、Dを1インクリメントし(P5)、D>nか否かを判定し(P6)、D>nでない場合はステップ(P2)に移行し、D>nの場合は、最小量子化値Qminと最大量子化値Qmaxとを使用可能量子化範囲として設定する(P9)。
【0137】
又CD =F4 の場合、画面合成用メモリ内のDエリア情報を獲得し(P3)、Dエリア内か否かを判定し(P4)、Dエリア内の符号化を行っている場合、αだけ小さい値の最小量子化値Qmin−αと最大量子化値Qmax−αとを使用可能量子化範囲とて設定する(P7)。又Dエリア以外は、全体の発生情報量を一定に保つ為に、βだけ大きい値の最小量子化値Qmin+βと最大量子化値Qmax+βとを使用可能量子化範囲として設定する(P8)。この場合のα及びβは、1〜5程度とすることができる。そして、送信バッファ37の占有量に応じて、使用可能量子化範囲内で量子化値を決定し(P10)、量子化を行う(P11)。
【0138】
例えば、最小量子化値Qminを3、最大量子化値Qmaxを12とし、α及びβを2とすると、重み付けしたチャネルの映像信号に対しての最小量子化値Qminは1、最大量子化値Qmaxは10となり、他のチャネルの映像信号に対しての最小量子化値Qminは5、最大量子化値Qmaxは15となり、合成画面全体としての発生情報量は、優先的量子化値制御を行わない場合とほぼ同一となる。
【0139】
なお、4画面合成の場合は、図26のCIFのブロック1〜12をGOB1〜GOB12とすると、D=1の時に、GOB1,GOB3,GOB5を使用可能量子化範囲をステップ(P7)により量子化値を小さくするエリアとし、同様に、D=2の時、GOB7,GOB9,GOB11を量子化値を小さくするエリアとする。又D=3の時は、GOB2,GOG4,GOB6、D=4の時は、GOB8,GOB10,GOB12をそれぞれ量子化値を小さくするエリアとする。従って、全体の情報発生量をほぼ一定として、重み付けしたチャネルの映像信号のみを量子化値を小さくして良好な画質の画像として送信することができる。
【0140】
前述の実施の形態は、重み付けしたチャネルの優先的量子化値制御についてのものであるが、フレーム間の予測符号化を行うか否かについても同様に制御することができる。即ち、フレーム内符号化は、符号化による歪みは小さいが、発生情報量が多くなる。又フレーム間予測符号化は、前フレーム内のエリアとの差分を用いて符号化を行うもので、符号化による歪みが大きくなるが、発生情報量は少なくなる。
【0141】
そこで、優先的量子化値制御に於ける重み付けしたチャネル番号F4 と同様な重み付けを行ったチャネルの映像信号に対しては、フレーム内符号化処理を行い、他のチャネルの映像信号に対しては、フレーム間予測符号化処理を行うように切替えることができる。即ち、前述の優先的量子化値制御の場合と同様に、画面合成用メモリ内のDエリア情報を取得し、Dエリア(重み付けしたチャネル対応のブロック)であれば、フレーム内符号化処理を行い、それ以外のブロックに対しては、フレーム間予測符号化処理を行うように切替える。このような処理によって、重要な画面の精細度を保持する優先的予測符号化制御を行うことができる。
【0142】
又動き補償についても、その探索範囲について、重み付けしたチャネルの映像に対して広くするように制御することができる。例えば、H.261の動き補償は、マクロブロック単位で輝度信号に対してのみ行うもので、探索範囲が広い場合、現ブロックに近い値のブロックが見つかる可能性が高くなる為、符号化による歪みが小さくなるが、探索時間が長くなり、符号化処理全体の時間が長くなる。反対に、探索範囲が狭い場合、現ブロックに近い値のブロックが見つかる可能性が低くなる為、符号化による歪みが大きくなるが、探索時間が短く、符号化処理全体の時間が長くなることはない。
【0143】
そこで、画面合成用メモリ内のDエリア情報を取得し、Dエリア内(重み付けしたチャネル対応のブロック)であれば、±αの範囲を探索範囲とし、それ以外のブロックに対しては、±βの範囲を探索範囲とする優先的動き補償探索範囲制御を行うことができる。その場合のαは例えば15、βは7若しくは0(探索を行わない)とすることができる。それによって、重み付けしたチャネルの映像信号に対してのみ符号化歪みの小さい画像として伝送することができる。
【0144】
又ループ内フィルタ42(図27参照)は、量子化によって発生した歪みを、動き補償用メモリ(動き補償部41内)に蓄積された量子化誤差を低減させる為のローパス・フィルタである。従って、ループ内フィルタ42によりシャープな画像もぼけたものとなる。そこで、量子化値が小さく、量子化誤差が少ない場合に、ループ内フィルタ42を切り離し、量子化値が大きく、量子化誤差が多い場合に、ループ内フィルタ42を接続するように制御する優先的ループ内フィルタ制御を行うことができる。即ち、前述の優先的量子化値制御と連動してループ内フィルタ42の切替制御を行うことができる。
【0145】
又前述の予測符号化決定制御に於いて、画面合成用メモリ内のDエリア情報を取得し、Dエリア内(重み付けしたチャネル対応のブロック)であれば、フレーム内符号化を行い、符号化による歪みが小さくなることから、ループ内フィルタ42を切り離し、又Dエリア以外のブロックに対しては、フレーム間予測符号化を行い、符号化による歪みが大きくなることから、ループ内フィルタ42を接続するように、切替制御を行うことができる。
【0146】
図29は映像信号情報取得部の説明図であり、映像信号源1−1〜1−nからの映像信号は、映像信号セレクタ2を介して、図1又は図16に示す入力信号V・H監視部3に入力される。又各映像信号源1−1〜1−nからの拡張データを情報取得部61により収集して、画面合成制御部9に転送する。
【0147】
拡張データは、解像度情報やフレームレート情報等を含むものである。映像信号源1−1〜1−nは、この拡張データの伝送機能を有するディジタルカメラや、MPEG1,H.261,JPEG等の復号化部を含む構成を有するものである。解像度情報としては、ディジタルカメラの場合、その有効エリア領域、MPEG復号化部の場合、符号化フレームの解像度(704×480等)、H.261復号化部の場合、CIF(352×288)又はQCIF(176×144)、JPEG復号化部の場合、その解像度等とすることができる。又フレームレート情報は、ディジタルカメラの場合、29.97Hz、復号化部の場合、デコードフレームレートとすることができる。
【0148】
情報取得部61或いは画面合成制御部9は、映像信号源1−1〜1−nからの拡張データを基に重み付けするチャネルを決定し、前述の各実施の形態に従った画面合成処理を行うことができる。例えば、画面合成を行う為の映像信号源からのフレームレート情報を基に、最も大きいフレームレートのチャネルに重み付けし、そのチャネルの映像信号を優先的に取込むように制御することができる。又解像度情報を基に、最も解像度を高いチャネルに重み付けし、そのチャネルの映像信号をズームアップする画面合成処理を行うことができる。
【0149】
又重み付けとして、符号化部8に於ける情報を用いて行うことができる。例えば、ハイブリッド符号化部を有するシステムの場合、動き補償を利用することができる。即ち、動き補償により発生した動きベクトル(符号化ブロックと参照ブロックとのアドレス差)が大きければ、そのエリアは前フレームとの差分が大きいことを意味し、その映像信号源から動きの大きい映像信号を取込んだことになる。このように動きの大きい場合は、何らかのイベントが発生したものと推定することができる。そこで、この映像信号源に重み付けし、優先的取込みやズームアップ処理を行うことができる。
【0150】
或る時間の符号化フレームtからsフレーム分の動き量をサンプリングする場合、符号化フレームtに於ける水平方向x、垂直方向yの動きベクトルのスカラー量をut,x,y とすると、画面合成用メモリ内のAブロックの動きベクトルの総和UA は、
UA =ΣT=t t+s Σx=xj xhΣy=yj yh uT,x,y
と表すことができる。ここで、4画面合成の場合、
xj=0,yj=0,xh=176,yh=144(ブロック1)
xj=0,yj=144,xh=176,yh=288(ブロック2)
xj=176,yj=0,xh=352,yh=144(ブロック3)
xj=176,yj=144,xh=352,yh=288(ブロック4)
となる。
【0151】
このようにして得られた画面合成用メモリ内のAブロックの動きベクトルの総和UA を、A=1からA=nまで比較し、最も総和UA が大きくなるAの映像信号源チャネルCA を重み付けするチャネルとする。又拡大,ズームアップの切り出し部分は、最も動きベクトルが大きかったブロックが中央に来るように指定する。この動きベクトルが最も大きくなるブロックを求める演算は、sフレーム毎に行い、常にどのチャネルの映像信号が最も動き量が大きいかを監視し、変更があれば、その都度入れ替えることができる。
【0152】
又前述の映像信号の取込み直後に於いて各種の制御を行うことができる。例えば、ネットワークに対しては一定速度でデータを送出することになり、従って、符号化処理を最適化することが有効となる。例えば、64kbpsの回線に対して、1秒間に10フレームを送信したい場合、1フレーム当たりのデータ量は、800バイトとなり、1マクロブロック当たりのデータ量は2バイトとなる。即ち、符号化処理により、2バイトとなるような量子化値を設定することが望ましいことになる。
【0153】
しかし、4画面合成を行い、1ブロックの映像信号の取込み毎に全体の符号化を行うと、新規映像信号取込みのブロックに対しては通常の差分データが発生するが、それ以外のブロックに対しては映像信号が更新されていないから、差分データは発生しない。即ち、差分データが発生しない場合、1マクロブロック当たりのデータ量は0バイトとなる。そこで、映像信号が更新されたブロックに対しては、1マクロブロック当たり8バイトを割当てることが可能となる。
【0154】
このような点を利用して、映像信号取込み直後の量子化値制御を行うことができる。例えば、図7の画面合成処理に於ける変数Aは、量子化を行う際の画面合成用メモリ6内のAブロックのみが映像信号を新規に取込むことを示し、このAのブロックのみ差分量が存在し、それ以外の差分量は零となる。そこで、Aのブロックの符号化を行う際に、量子化後のデータ量を通常の4倍に許容できる量子化値を割当てる。このような量子化値制御により、全体としての発生情報量をほぼ一定に維持して画面合成符号化を行うことができる。
【0155】
又シーンチェンジ等のフレーム間の相関が低い場合、フレーム内符号化が選択され、静止画のようなフレーム間の相関が高い場合、フレーム間予測符号化が選択される。前述のように、新規に映像信号を取込んだ場合は、前フレームとの間の相関は低いが、それ以外の映像信号については、前フレームとの相関が高いことになる。
【0156】
そこで、前述の量子化値制御の場合と同様に、画面合成用メモリ6のAブロックのみが映像信号を新規に取込んでいるから、このAのブロックはフレーム内符号化を行い、それ以外のブロックはフレーム間予測符号化を行うことができる。それにより、新規に取込んだフレームのみ、フレーム内符号化によって良好な画質として伝送する映像信号取込み直後の優先的予測符号化制御を行うことができる。
【0157】
又動き補償は、前述のように、前フレーム内で、現在符号化しているブロックと最も近い値を探索するものであり、画面合成に於ける新規に取込んだ映像信号に関しては、前フレームとは移動したブロックが存在する可能性が高いが、他のブロックは前フレームと同一で動きがないものである。そこで、前述の画面合成用メモリ6のAブロックについてのみ動き補償処理を行い、その他のブロックは動き補償処理を省略する映像信号取込み直後の優先的動き補償探索範囲制御を行うことができ、符号化処理時間を短縮することができる。
【0158】
又映像信号取込み直後の優先的ループ内フィルタの切替制御を行うことができる。例えば、新規に取込んだ映像信号に関しては、フレーム間差分が大きく、量子化誤差が大きい可能性が高いが、それ以外の映像信号に関してはフレーム間差分が小さく、量子化誤差も小さくなるから、前述の画面合成用メモリ6のAブロックの符号化に於いては、ループ内フィルタ42(図27参照)を接続し、それ以外のブロックの符号化時には、ループ内フィルタ42を切り離すように切替制御することができる。
【0159】
図30は動き補償及び画面合成配置の説明図であり、動き補償は、前述のように、H.261ではマクロブロック単位で輝度信号について行うものである。或るフレームtの動き補償を行う際には、前に符号化したフレームt−1を用いるもので、(A)はフレームtの先頭アドレス(x,y)と最終アドレス(x+16,y+16)とのマクロブロックを示し、(B)はアドレス(XL,YL),(XH,YH)の探索範囲を示す。
【0160】
フレームtのマクロブロックのアドレスを前述のように(x,y)、画素の輝度をkt,x,y とし、フレームt−1の参照用マクロブロックのアドレスを(x’,y’)として、フレームtのアドレス(x,y)とフレームt−1のアドレス(x’,y’)とに於ける輝度値の絶対差分の和Kx',y' は、i=0〜15,j=0〜15として、
Kx',y' =Σ|kt,x+i,y+i −kt-1,x'+i,y'+i |
で表される。動き補償は16×16(マクロブロックの輝度データ4個分)のエリアに対して行うことから、(i,j)について0〜15としている。
【0161】
又参照用マクロブロックのアドレス(x’,y’)は、システム対応に選択することが可能であり、全範囲若しくはアドレス(x,y)に対して±Zの範囲とすることができる。この場合、アドレス(x’,y’)は、
(XL,YL)≦(x’,y’)≦(XH,YH)
XL=0,YL=0,XH=352−16,YH=288−16(全範囲探索
時)
XL=x−Z,YL=y−Z,XH=x+Z,YH=y+Z(部分探索時)
の関係となる。なお、Zは7若しくは15とすることができる。
【0162】
前述の(x’,y’)に於いて演算した輝度値の絶対差分の和Kx',y' の中で、最小の値となる時の(x’,y’)を、参照すべき前フレームのデータのアドレスとする。従って、その時の動きベクトルは、(x’−x,y’−y)となる。
【0163】
又それぞれ別個の映像信号源から入力された映像信号を合成する場合、互いに独立したものであり、動き補償を行う場合、最も小さいKx',y' が選択されるのは、画面合成メモリ上の同一ブロック内にあることが予測される。従って、他のブロックにまたがった動き補償を行うことは無意味である。そこで、前述の参照用マクロブロックのアドレス(x’,y’)を、同一ブロック内に限定することにより、効率的な符号化が可能となる。
【0164】
例えば、4画面合成時の各ブロックの先頭アドレスを(xl,yl)、最終アドレスを(xh,yh)とすると、図30の(B)を参照して、
(XL,YL)≦(x’,y’)≦(XH,YH)
XL=xl,YL=yl,XH=xh−16,YH=yh−16
(全範囲探索時)
XL=max(x−Z,xl),YL=max(y−Z,yl)
XH=min(x+Z,xh),YH=min(y+z,yh)
(部分探索時)
xl=0,yl=0,xh=176,yh=144(ブロック1)
xl=0,yl=144,xh=176,yh=288(ブロック2)
xl=176,yl=0,xh=352,yh=144(ブロック3)
xl=176,yl=144,xh=352,yh=288(ブロック4)
のエリアに対してのみ動き補償処理を行う。このように、画面合成中に動き補償の探索範囲を限定し、符号化効率を向上させることができる。
【0165】
又前述の各実施の形態は、主に4画面合成の場合を示すが、画面合成数を更に多くすることも可能である。例えば、図30の(C)は9画面合成の場合を示し、又同図の(D)は16画面合成の場合を示す。一般的には、合成1画面を等分割して、それぞれの映像信号源に割付けることになる。
【0166】
又画面合成数をN、画面分割数をnとし、この画面分割数nを画面合成用メモリ6のブロック数とすると、N=nの場合は、前述のように、均等に分割して、Nチャネル分の映像信号を取込んで合成することができる。又N>nの場合は、一度に取込みを行う映像信号はnチャネル分であり、一定時間毎に取込みを行うチャネル番号を切替える。
【0167】
例えば、N=6,n=4とし、一定時間を10秒として画面合成を行う場合、それらを初期値とし、且つC1 〜C6 までの映像信号源チャネル番号を取得する。これはシステム対応に予め指定することができる。この場合、画面分割数nが4であるから、C1 〜C4 のチャネルの映像信号を順番に取込み、前述の各実施の形態に従って画面合成を行う。その後、一定時間(10秒)経過すると、CA の値をCA+1 に代入し、C1 にあった値をCN に代入する。即ち、(C1 =1,C2 =2,C3 =3,C4 =4,C5 =5,C6 =6)→(C1 =2,C2 =3,C3 =4,C4 =5,C5 =6,C6 =1)のように変更される。
【0168】
又次の10秒後に、(C1 =2,C2 =3,C3 =4,C4 =5,C5 =6,C6 =1)→(C1 =3,C2 =4,C3 =5,C4 =6,C5 =1,C6 =2)のように変更される。従って、画面合成用メモリ上の例えば左上のブロックには、最初チャネルC1 の映像信号が合成され、次にチャネルC2 の映像信号が合成され、次にチャネルC3 の映像信号が合成され、4画面合成の各ブロック位置は、順次ローテーションに従って切替えられる。即ち、映像信号源数が多く、画面分割数を少なくした場合に於いても、総ての映像信号源からの映像信号を順次合成して送信することができる。従って、受信再生表示することにより、映像信号源からの総ての映像信号による合成画像を観察することができる。
【0169】
前述の各実施の形態に於いて、画面合成部と符号化部とが密結合の構成であるから、遠隔制御も容易となる。例えば、H.320のデータパスについて、ユーザデータ用に、LSD(Low Speed Data ),MLP(Multi Layer Protocol ),HSD(High Speed Data ),No−Standard BASメッセージ等が規定されており、これらを利用して遠隔制御を行うことができる。
【0170】
図31は本発明の実施の形態の遠隔制御の概要説明図であり、71−1〜71−n,81−1〜81−nはテレビカメラ、72,82は蓄積映像再生部、73,83はTVモニタ、74,84はキーボード,赤外線キーパット,マウス,テンキー等の入力デバイス、75,85はビデオ信号圧縮伝送装置(CODEC)、76,86はFarSite用画面合成情報格納メモリ、77,87はNearSite用画面合成情報格納メモリである。
【0171】
ビデオ信号圧縮伝送装置75,85は、相互間で命令(コマンド),応答(レスポンス),通知(インディケーション)をそれぞれ行い、又テレビカメラ71−1〜71−n,81−1〜81−nからの映像信号を前述の実施の形態に対応して合成して符号化する機能を備えている。又画面合成情報の管理は、それぞれのFarSite用画面合成情報格納メモリ76,86と、NearSite用画面合成情報格納メモリ77,87とにより行い、一方の変更内容を他方に通知するものである。
【0172】
画面合成についての遠隔制御を行う為に、各種のガイダンスを用意することができる。例えば、(1).入力デバイス74,84からのガイダンス表示指示に従って、遠隔メニュー設定/解除コマンドを被監視側に送信した時の被監視側からのガイダンスの例について説明する。
(a).如何なる場合でも有効となる映像信号源数Nについて総て画面合成させ、予め登録しておいた被監視画像としての火山,河川,工場,電線等の文字データ及びシリアル番号を重ね合わせ表示する状態とし、表示されたシリアル番号の中の1個或いは複数個を入力デバイスによって指示し、遠隔制御による画面合成を行う(ガイダンス例a)。
(b).遠隔制御メニューを作成し、メニュー画面のみ符号化して伝送し、表示されたメニューに従って、(a)の場合と同様に入力デバイスにより指示する(ガイダンス例b)。
(c).如何なる場合でも有効となる映像信号源数Nについて総て画面合成させ、遠隔制御メニューを作成し、オーバレイ後に符号化して伝送し、表示されたメニューに従って、前述のように入力デバイスにより指示する(ガイダンス例c)。
【0173】
又(2).入力デバイスからのガイダンス表示指示に従って、監視側で付加するガイダンス例について説明する。
(d).遠隔制御メニューを作成し、メニュー画面のみを符号化して伝送し、表示されたメニューに付加されているシリアル数字を、入力デバイスにより指示する(ガイダンス例d)。
【0174】
図32は遠隔操作用ガイダンスの説明図であり、(A)は前述のガイダンス例bに相当した表示内容を示し、(B)は前述のガイダンス例aに相当した表示内容を示す。又(C)は前述のガイダンス例cに相当した表示内容を示し、(A),(B)の表示内容を合成したものとなる。このような(A)又は(B)又は(C)の表示内容は、それぞれTVモニタ73,83に表示することができるものである。なお、ガイダンス内容のみ、TVモニタ73,83とは別個の液晶表示部等に表示させる構成とすることも可能である。
【0175】
図33は遠隔制御により画面切替えの説明図であり、ガイダンス例cに相当する表示画面91により、NearSiteからシリアル番号の「4」を指示して単一映像信号源選択を入力すると、このコマンドがFarSiteに送出され、それに対するレスポンスがFarSiteからNearSiteに送出される。従って、火山監視の表示画面92となる。なお、メニューも表示されているものであるが、簡略化の為に図示を省略している。
【0176】
次に、メニューのシリアル番号「5」を指示して4画面合成を選択すると、多画面合成設定コマンドがFarSiteに送出され、それに対するレスポンスを受信し、表示画面93は最初の表示画面91と同様の4画面合成となる。
【0177】
図34は画面合成モード決定シーケンス説明図であり、監視側(NearSite)の操作者により入力によって、被監視側(FarSite)の画面合成モードを設定する場合を示す。操作者が入力デバイスからガイダンス(Guidance)設定要求を入力すると、監視側(NearSite)から被監視側(FarSite)に遠隔ガイダンス(Guidance)設定コマンドが送出され、これに対するレスポンスを被監視側から監視側へ送出し、且つガイダンス(親画面)オンとする。
【0178】
このガイダンス(親画面)に基づいて操作者はガイダンス設定要求を入力すると、監視側から被監視側へ遠隔ガイダンス設定コマンドが送出され、これに対するレスポンスと、次のガイダンス(子画面)が送出される。このガイダンス(子画面)を基に操作者が決定の入力を行うと、多画面合成設定コマンドが監視側から被監視側へ送出され、それに対するレスポンスと、指定した画面合成の内容が被監視側から監視側へ送出され、操作者がガイダンス解除要求を入力すると、監視側から被監視側へ遠隔ガイダンス解除コマンドが送出され、これに対するレスポンスと、ガイダンスをオフとした画面合成の内容が被監視側から監視側へ送出される。
【0179】
図35は遠隔制御プロトコルの説明図であり、画面合成に関する遠隔制御プロトコル100の一例について、命令(コマンド)と応答(レスポンス)と通知(インディケーション)とに大別し、レスポンスrspの有無と、種別とその内容とを示す。又種別(詳細)の識別子は16進(hex)として示している。なお、hexの記号を省略している後述のコマンド等の識別子やパラメータ等も16進表示を示す。
【0180】
命令(コマンド)は、単一映像信号源選択コマンド(識別子01)、多画面合成設定コマンド(識別子02)、多画面合成問い合わせコマンド(識別子03)、映像入力源状態要求コマンド(識別子04)、遠隔メニュー(Menu)設定/解除コマンド(識別子05)を含むものであり、レスポンスrspは有りとなる。
【0181】
又応答(レスポンス)は、命令(コマンド)に対するものであり、例えば、単一映像信号源選択レスポンスの識別子は81(hex)、多画面合成設定レスポンスの識別子は82(hex)となる。それに対するレスポンスrspは無しとなる。又通知(インディケーション)は、映像信号異常インディケーション(識別子f1)、多画面合成変更インディケーション(識別子f2)を含み、これらに対するレスポンスrspは無しとなる。
【0182】
図36はコマンド及びレスポンスの説明図であり、単一映像信号源選択コマンド101は、1バイトの識別子(01)と、1バイトのパラメータ長と、パラメータとしての1バイトの映像信号源チャネル総数と1バイトの指定映像信号源チャネル番号とを含むものである。又単一映像信号源選択レスポンス102は、1バイトの識別子(81)と、1バイトのパラメータ長と、1バイトの選択チャネル番号を示すパラメータとを含むものである。
【0183】
又多画面合成設定コマンド103は、図36と図37とにわたって示すものであり、1バイトの識別子(02)と、1バイトのパラメータ長と、1バイト或いは2バイトのパラメータとを含み、パラメータとしては、画面合成数N、画面分割数n、インターバル時間、画面合成モード、画面合成モード用優先チャネル指定、符号化モード、符号化モード用優先チャネル指定等を含むものである。又座標情報やズームアップ座標及びその比率の情報等も含むものである。
【0184】
図38はコマンド及びレスポンスの説明図であり、多画面合成レスポンス104(識別子82)と、多画面合成問い合わせコマンド105(識別子03)と、多画面合成問い合わせレスポンス106(識別子83)と、映像入力状態要求コマンド107(識別子04)と、映像入力源状態要求レスポンス108(識別子84)とを示す。多画面合成レスポンス104は、図36及び図37に示す多画面合成設定コマンド103に対するレスポンスである。
【0185】
又映像入力源状態要求コマンド107は、テレビカメラ等の映像信号源の状態を問い合わせるコマンドであり、それに対する映像入力源状態要求レスポンス108は、映像信号源対応に正常(00)か異常(ff)かを示すパラメータが付加される。
【0186】
図39はコマンド及びレスポンス及びインディケーションの説明図であり、遠隔ガイダンス設定/解除コマンド109(識別子05)と、遠隔ガイダンス設定/解除レスポンス110(識別子85)と、映像信号異常インディケーション111(識別子f1)と、多画面合成変更インディケーション112(識別子f2)とを示す。遠隔ガイダンス設定/解除コマンド109及び遠隔ガイダンス設定/解除レスポンスは、図34に於ける遠隔ガイダンス設定コマンド及び遠隔ガイダンス設定レスポンスに相当する。又映像信号異常インディケーション111及び多画面合成変更インディケーション112は、図35の通知(インディケーション)の詳細を示す。
【0187】
前述のようなコマンド,レスポンス,インディケーションにより、図31或いは図42に示すシステムに於いて、多画面合成の遠隔制御を行うことができる。従って、遠隔監視システム等に於いて、被監視物の画像の選択やズームアップ等の各種の多画面合成制御が可能となる。
【0188】
本発明は、前述の各実施の形態にのみ限定されるものではなく、例えば、各実施の形態をそれぞれ組合せることも可能であり、又映像信号源としては、テレビカメラのみでなく、録画再生装置やディジタル・カメラのようなスチールカメラによる映像信号を送出する装置を用いることができる。又遠隔監視システムのみでなく、テレビ会議システム等の他のシステムの多画面合成にも適用できるものである。
【0189】
【発明の効果】
以上説明したように、本発明は、相互に非同期で動作する複数のテレビカメラや録画再生装置等の映像信号源からの映像信号を合成する多画面合成方法及び多画面合成装置に於いて、映像信号源1−1〜1−nからの映像信号を順次選択して、入力信号V・H監視部3により垂直,水平同期をとってフレーム単位で取込み、画面合成割当エリアの大きさに対応して縮小して画面合成用メモリ6の画面合成割当エリア対応のブロックに書込み、符号化部8による符号化処理若しくは送信処理を行うもので、映像信号をフレーム単位で取込む毎に符号化処理若しくは送信処理が行われるから、非同期動作の映像信号源を用いることによるシステム構成のコストダウンと、画面合成処理と符号化処理若しくは送信処理とを関連させることにより、制御構成の簡単化とを図ることができる利点がある。
【0190】
又重み付けしたチャネルの映像信号に対して、優先的に量子化値、取込み回数、符号化処理等を行うことにより、受信再生画像の中の重要な部分の明瞭度を良くして、遠隔監視等の精度を向上させることができる。又合成画面上の無効エリアとなる部分を利用して、拡大表示、ズームアップ表示、特定のパターンや受信復号化画像の返送を行わせることができる。又遠隔制御の為の情報の送受信を行って、多画面合成の遠隔制御を行わせることもできる。従って、各種のシステムに適用して、経済的且つ効率の良い多画面処理を行うことができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態の説明図である。
【図2】縮小化処理の説明図である。
【図3】初期化処理のフローチャートである。
【図4】画面合成配列の説明図である。
【図5】割込処理のフローチャートである。
【図6】割込処理のフローチャートである。
【図7】本発明の第1の実施の形態の画面合成処理のフローチャートである。
【図8】非同期映像信号合成の説明図である。
【図9】本発明の第2の実施の形態の画面合成処理のフローチャートである。
【図10】本発明の第3の実施の形態の画面合成処理のフローチャートである。
【図11】本発明の第3の実施の形態の割込処理のフローチャートである。
【図12】本発明の第3の実施の形態の割込処理のフローチャートである。
【図13】取込みフレームの説明図である。
【図14】符号化処理フレームの説明図である。
【図15】受信表示フレームの説明図である。
【図16】本発明の第4の実施の形態の説明図である。
【図17】本発明の第4の実施の形態の画面合成処理のフローチャートである。
【図18】本発明の実施の形態の映像入力有無判定処理のフローチャートである。
【図19】本発明の実施の形態の無効エリア用処理のフローチャートである。
【図20】本発明の他の実施の形態の無効エリア用処理のフローチャートである。
【図21】本発明の更に他の実施の形態の無効エリア用処理のフローチャートである。
【図22】画面合成配列の説明図である。
【図23】本発明の実施の形態のズームアップ処理を含む無効エリア用処理のフローチャートである。
【図24】本発明の実施の形態のズームアップ処理を含む無効エリア用処理のフローチャートである。
【図25】本発明の第5の実施の形態の画面合成処理のフローチャートである。
【図26】CIFの説明図である。
【図27】符号化部の説明図である。
【図28】本発明の実施の形態の量子化値決定処理のフローチャートである。
【図29】映像信号源情報取得部の説明図である。
【図30】動き補償及び画面合成配置の説明図である。
【図31】本発明の実施の形態の遠隔制御の概要説明図である。
【図32】遠隔操作用ガイダンスの説明図である。
【図33】遠隔制御による画面切替えの説明図である。
【図34】画面合成モード決定シーケンス説明図である。
【図35】遠隔制御プロトコルの説明図である。
【図36】コマンド及びレスポンスの説明図である。
【図37】コマンドの説明図である。
【図38】コマンド及びレスポンスの説明図である。
【図39】コマンド及びレスポンス及びインディケーションの説明図である。
【図40】同期映像信号合成遠隔監視システムの説明図である。
【図41】多画面合成の説明図である。
【図42】非同期映像信号合成遠隔監視システムの説明図である。
【図43】伝送帯域とフレームレートとの関係説明図である。
【符号の説明】
1−1〜1−n テレビカメラ(映像信号源)
2 映像信号セレクタ
3 入力信号V・H監視部
4 水平方向縮小化部
5 ラインメモリ(LINE FIFO)
6 画面合成用メモリ
7 符号化用メモリ
8 符号化部
9 画面合成制御部
10 符号化制御部
Claims (8)
- 複数の映像信号源からの映像信号を合成する多画面合成方法に於いて、
前記複数の映像信号源の解像度情報及びフレームレート情報を基に、重み付けするチャネルを選定し、前記複数の映像信号源からのそれぞれの映像信号に対して、前記重み付けしたチャネルの映像信号を他のチャネルの映像信号より取込み回数を多くして、水平、垂直同期をとってフレーム単位で取り込み、該フレーム単位の映像信号を画面合成割当エリアに対応して縮小し、画面合成用メモリの前記画面合成割当エリア対応のブロックに書込んで画面合成し、該画面合成用メモリ上で画面合成した映像信号の符号化処理若しくは送信処理を行う過程を含む
ことを特徴とする多画面合成方法。 - 前記画面合成過程に於ける無効エリアとなる前記画面合成用メモリのブロックを含む複数のブロックに、前記重み付けしたチャネルの映像信号を拡大合成するように書込む過程を含むことを特徴とする請求項1記載の多画面合成方法。
- 前記重み付けしたチャネルの映像信号に対する量子化値を優先的に小さい値として符号化処理する過程を含むことを特徴とする請求項1記載の多画面合成方法。
- 前記重み付けしたチャネルの映像信号に対してはフレーム内符号化を行い、他のチャネルの映像信号に対してはフレーム間符号化を行うように切替えて符号化処理する過程を含むことを特徴とする請求項1記載の多画面合成方法。
- 前記重み付けしたチャネルの映像信号に対する動き補償探索範囲を広くし,他のチャネルの映像信号に対する動き補償探索範囲を狭く又は動き補償を中止するように切替えて符号化処理する過程を含むことを特徴とする請求項1記載の多画面合成方法。
- 前記重み付けしたチャネルの映像信号に対する符号化処理過程に於いてはループ内フィルタを切り離し、他のチャネルの映像信号に対する符号化処理過程に於いてはループ内フィルタを接続するように切替制御する過程を含むことを特徴とする請求項1記載の多画面合成方法。
- 複数の映像信号源からの映像信号を合成する多画面合成装置に於いて、
前記複数の映像信号源を選択する映像信号セレクタと、
該映像信号セレクタを介して取込んだ映像信号の垂直,水平同期をとる入力信号V・H監視部と、
該入力信号V・H監視部により同期をとったフレーム単位の映像信号を、画面合成該当エリアに対応して縮小する水平方向縮小化部と、
該水平方向縮小化部により縮小された映像信号をライン単位で書込む画面合成用メモリと、
前記複数の映像信号源の解像度情報及びフレームレート情報を基に、重み付けするチャネルを選定し、前記複数の映像信号源からのそれぞれの映像信号に対して、前記重み付けしたチャネルの映像信号を他のチャネルの映像信号より取込み回数を多くする取込み及び前記画面合成用メモリ上に於ける画面合成を制御する画面合成制御部と、
前記画面合成用メモリ上で合成された映像信号の符号化処理を行う符号化部と
を備えたことを特徴とする多画面合成装置。 - 前記符号化部に於ける前記重み付けしたチャネル対応の映像信号に対する量子化値、フレーム内符号化とフレーム間予測符号化との切替え、ループ内フィルタの接続切替えの少なくとも何れか一つの制御構成を有する符号化制御部を備えたこと特徴とする請求項8記 載の多画面合成装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP03712598A JP3684525B2 (ja) | 1998-02-19 | 1998-02-19 | 多画面合成方法及び多画面合成装置 |
US09/167,432 US6456335B1 (en) | 1998-02-19 | 1998-10-06 | Multiple picture composing method and multiple picture composing apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP03712598A JP3684525B2 (ja) | 1998-02-19 | 1998-02-19 | 多画面合成方法及び多画面合成装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH11234654A JPH11234654A (ja) | 1999-08-27 |
JP3684525B2 true JP3684525B2 (ja) | 2005-08-17 |
Family
ID=12488897
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP03712598A Expired - Fee Related JP3684525B2 (ja) | 1998-02-19 | 1998-02-19 | 多画面合成方法及び多画面合成装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US6456335B1 (ja) |
JP (1) | JP3684525B2 (ja) |
Families Citing this family (84)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6744472B1 (en) | 1998-11-09 | 2004-06-01 | Broadcom Corporation | Graphics display system with video synchronization feature |
US6798420B1 (en) | 1998-11-09 | 2004-09-28 | Broadcom Corporation | Video and graphics system with a single-port RAM |
US6768774B1 (en) * | 1998-11-09 | 2004-07-27 | Broadcom Corporation | Video and graphics system with video scaling |
US7982740B2 (en) | 1998-11-09 | 2011-07-19 | Broadcom Corporation | Low resolution graphics mode support using window descriptors |
US6853385B1 (en) * | 1999-11-09 | 2005-02-08 | Broadcom Corporation | Video, audio and graphics decode, composite and display system |
JP4501167B2 (ja) * | 1998-11-09 | 2010-07-14 | コニカミノルタビジネステクノロジーズ株式会社 | 画像処理システム |
US6661422B1 (en) * | 1998-11-09 | 2003-12-09 | Broadcom Corporation | Video and graphics system with MPEG specific data transfer commands |
JP3976942B2 (ja) * | 1998-12-18 | 2007-09-19 | キヤノン株式会社 | 画像処理装置及び方法、画像処理プログラムが記録されたコンピュータ可読記録媒体 |
JP4208315B2 (ja) * | 1998-12-25 | 2009-01-14 | キヤノン株式会社 | データ通信制御装置及びその制御方法、データ通信システム、記録媒体 |
US6686955B1 (en) * | 1999-01-29 | 2004-02-03 | International Business Machines Corporation | Lightweight image manipulation for maximizing the capacity of digital photo storage media |
US7275256B1 (en) * | 2001-08-28 | 2007-09-25 | Music Choice | System and method for providing an interactive, visual complement to an audio program |
US7337463B1 (en) * | 2000-03-09 | 2008-02-26 | Intel Corporation | Displaying heterogeneous video |
JP2001282215A (ja) * | 2000-03-28 | 2001-10-12 | Nec Viewtechnology Ltd | 映像表示システムの表示制御方法及び映像表示システム |
JP2001346193A (ja) * | 2000-05-31 | 2001-12-14 | Hitachi Kokusai Electric Inc | 監視テレビカメラシステム |
JP2002027393A (ja) * | 2000-07-04 | 2002-01-25 | Teac Corp | 画像処理装置、画像記録装置および画像再生装置 |
US7023492B2 (en) * | 2000-10-19 | 2006-04-04 | Microsoft Corporation | Method and apparatus for encoding video content |
IL156210A0 (en) * | 2000-12-01 | 2003-12-23 | Ginganet Corp | Video terminal, video terminal communication system, and video conferencing system |
US7034791B1 (en) | 2000-12-14 | 2006-04-25 | Gary Odom | Digital video display employing minimal visual conveyance |
JP4226231B2 (ja) * | 2001-06-13 | 2009-02-18 | 株式会社日立国際電気 | 映像信号処理システム |
KR20030009669A (ko) * | 2001-07-23 | 2003-02-05 | 삼성전자주식회사 | 다채널 영상 부호화기 및 그 부호화 방법 |
KR100488915B1 (ko) * | 2001-10-04 | 2005-05-10 | 주식회사 대우일렉트로닉스 | 타임랩스 브이시알의 장기 녹화장치 및 그 방법 |
GB2398696B (en) * | 2001-12-21 | 2005-03-09 | Nec Corp | Portable communication terminal with camera device |
JP2003189168A (ja) * | 2001-12-21 | 2003-07-04 | Nec Corp | 携帯電話用カメラ |
EP1491038A2 (en) * | 2001-12-26 | 2004-12-29 | YEDA RESEARCH AND DEVELOPMENT CO., Ltd. | A system and method for increasing space or time resolution in video |
JP2003319374A (ja) * | 2002-04-24 | 2003-11-07 | Sony Corp | 遠隔監視装置及び遠隔監視システム |
US20040075741A1 (en) * | 2002-10-17 | 2004-04-22 | Berkey Thomas F. | Multiple camera image multiplexer |
US20040150748A1 (en) * | 2003-01-31 | 2004-08-05 | Qwest Communications International Inc. | Systems and methods for providing and displaying picture-in-picture signals |
US8490129B2 (en) | 2003-01-31 | 2013-07-16 | Qwest Communications International Inc. | Methods, systems and apparatus for selectively distributing urgent public information |
US20040150749A1 (en) * | 2003-01-31 | 2004-08-05 | Qwest Communications International Inc. | Systems and methods for displaying data over video |
US10142023B2 (en) | 2003-01-31 | 2018-11-27 | Centurylink Intellectual Property Llc | Antenna system and methods for wireless optical network termination |
US7921443B2 (en) | 2003-01-31 | 2011-04-05 | Qwest Communications International, Inc. | Systems and methods for providing video and data services to a customer premises |
US8713617B2 (en) | 2003-01-31 | 2014-04-29 | Qwest Communications International Inc. | Systems and methods for providing television signals using a network interface device |
US7194249B2 (en) | 2003-01-31 | 2007-03-20 | Qwest Communications International Inc. | Methods, systems and apparatus for providing urgent public information |
US7158169B1 (en) * | 2003-03-07 | 2007-01-02 | Music Choice | Method and system for displaying content while reducing burn-in of a display |
US7626609B1 (en) | 2003-03-07 | 2009-12-01 | Music Choice | Method and system for displaying content while reducing burn-in of a display |
CN1571508B (zh) * | 2003-07-19 | 2010-05-12 | 华为技术有限公司 | 一种实现多画面的方法 |
US8112449B2 (en) | 2003-08-01 | 2012-02-07 | Qwest Communications International Inc. | Systems and methods for implementing a content object access point |
WO2005027518A1 (ja) | 2003-09-11 | 2005-03-24 | Fujitsu Limited | 画像伝送装置及び画像伝送システム |
US7809655B1 (en) | 2003-09-17 | 2010-10-05 | Starsat, Llc | Method for scheduling and usage of satellite bandwidth |
US8063916B2 (en) | 2003-10-22 | 2011-11-22 | Broadcom Corporation | Graphics layer reduction for video composition |
US20050097620A1 (en) * | 2003-10-30 | 2005-05-05 | Honeywell International Inc. | Architecture for multi-channel video processing |
JP4561353B2 (ja) * | 2004-12-24 | 2010-10-13 | 日産自動車株式会社 | 映像信号処理装置とその方法及び車載カメラシステム |
CN100466720C (zh) * | 2005-01-17 | 2009-03-04 | 株式会社东芝 | 视频合成设备及视频合成方法 |
JP2006279893A (ja) * | 2005-03-30 | 2006-10-12 | Victor Co Of Japan Ltd | 画像処理装置及び画像処理方法 |
US7817180B2 (en) | 2005-04-28 | 2010-10-19 | Apple Inc. | Video processing in a multi-participant video conference |
US7692682B2 (en) | 2005-04-28 | 2010-04-06 | Apple Inc. | Video encoding in a video conference |
US7899170B2 (en) | 2005-04-28 | 2011-03-01 | Apple Inc. | Multi-participant conference setup |
US7949117B2 (en) | 2005-04-28 | 2011-05-24 | Apple Inc. | Heterogeneous video conferencing |
US8861701B2 (en) | 2005-04-28 | 2014-10-14 | Apple Inc. | Multi-participant conference adjustments |
WO2006116659A2 (en) * | 2005-04-28 | 2006-11-02 | Apple Computer, Inc. | Video processing in a multi-participant video conference |
JP4346591B2 (ja) | 2005-08-25 | 2009-10-21 | 株式会社東芝 | 映像処理装置、映像処理方法およびプログラム |
JP4680087B2 (ja) * | 2006-02-15 | 2011-05-11 | 三菱電機株式会社 | 画像伝送装置 |
JP4915552B2 (ja) * | 2006-03-23 | 2012-04-11 | パナソニック株式会社 | 映像伝送システム |
JP4250648B2 (ja) | 2006-09-21 | 2009-04-08 | 株式会社東芝 | 情報処理装置 |
KR100836616B1 (ko) * | 2006-11-14 | 2008-06-10 | (주)케이티에프테크놀로지스 | 영상 합성 기능을 가지는 휴대용 단말기 및 휴대용단말기의 영상 합성 방법 |
JP4804378B2 (ja) * | 2007-02-19 | 2011-11-02 | パナソニック株式会社 | 映像表示装置及び映像表示方法 |
US8515194B2 (en) | 2007-02-21 | 2013-08-20 | Microsoft Corporation | Signaling and uses of windowing information for images |
US8316089B2 (en) * | 2008-05-06 | 2012-11-20 | Microsoft Corporation | Techniques to manage media content for a multimedia conference event |
US9204086B2 (en) * | 2008-07-17 | 2015-12-01 | Broadcom Corporation | Method and apparatus for transmitting and using picture descriptive information in a frame rate conversion processor |
US8091290B1 (en) | 2008-08-12 | 2012-01-10 | William Drakes | Geodesic entertainment sphere |
US7973684B2 (en) | 2008-10-27 | 2011-07-05 | Microchip Technology Incorporated | Self auto-calibration of analog circuits in a mixed signal integrated circuit device |
WO2011070904A1 (ja) * | 2009-12-07 | 2011-06-16 | Hoya株式会社 | 内視鏡装置 |
US8692937B2 (en) * | 2010-02-25 | 2014-04-08 | Silicon Image, Inc. | Video frame synchronization |
JP2011199735A (ja) * | 2010-03-23 | 2011-10-06 | Toshiba Corp | 画像処理装置および画像処理システム |
JP5735227B2 (ja) * | 2010-07-16 | 2015-06-17 | ルネサスエレクトロニクス株式会社 | 画像変換装置及び画像変換システム |
FR2965692B1 (fr) * | 2010-10-01 | 2013-06-28 | Euro Media France | Traitement de signaux video issus de cameras de surveillance urbaine |
JP5649429B2 (ja) * | 2010-12-14 | 2015-01-07 | パナソニックIpマネジメント株式会社 | 映像処理装置、カメラ装置および映像処理方法 |
US8773993B2 (en) | 2011-01-31 | 2014-07-08 | Apple Inc. | Adaptive bandwidth estimation |
JP5701707B2 (ja) * | 2011-07-25 | 2015-04-15 | 株式会社ソニー・コンピュータエンタテインメント | 動画像撮影装置、情報処理システム、情報処理装置、および画像データ処理方法 |
KR101543712B1 (ko) * | 2011-08-25 | 2015-08-12 | 한국전자통신연구원 | 증강현실을 이용한 보안 감시 장치 및 방법 |
JP5541264B2 (ja) * | 2011-11-09 | 2014-07-09 | 横河電機株式会社 | 運転監視装置および運転監視方法 |
KR101352001B1 (ko) * | 2012-04-06 | 2014-01-16 | 주식회사 에스원 | 영상 감시 시스템 및 그 방법 |
JP6116192B2 (ja) * | 2012-11-07 | 2017-04-19 | 株式会社イマジオム | 動画処理装置、カメラ監視システム、プログラム |
JP6582644B2 (ja) * | 2014-08-11 | 2019-10-02 | セイコーエプソン株式会社 | 撮像装置、撮像表示装置、及び、車両 |
US20160373799A1 (en) * | 2015-06-16 | 2016-12-22 | Telefonaktiebolaget Lm Ericsson (Publ) | Remote monitoring and control of multiple iptv client devices |
US20170078618A1 (en) * | 2015-09-11 | 2017-03-16 | Kabushiki Kaisha Toshiba | Display control device, display control system, and display control method |
JP6168672B1 (ja) * | 2016-03-24 | 2017-07-26 | 株式会社日立国際電気 | 映像切替装置を備えた符号化装置および映像切替検知方法を含む符号化方法 |
JP2018061181A (ja) * | 2016-10-07 | 2018-04-12 | 万弘 坂入 | 情報処理システム |
CN109891875B (zh) * | 2016-11-08 | 2021-11-16 | 索尼公司 | 图像传送设备、方法、系统和存储介质 |
CN107172400B (zh) * | 2017-06-19 | 2023-03-24 | 厦门视诚科技有限公司 | 实现32路画面轮巡的装置及方法 |
CN107222688B (zh) * | 2017-06-19 | 2023-03-03 | 厦门视诚科技有限公司 | 32路画面轮巡的显示系统及方法 |
EP3468187A1 (en) | 2017-10-03 | 2019-04-10 | Axis AB | Method and system for encoding video streams |
JP7178035B2 (ja) * | 2020-08-11 | 2022-11-25 | コンテンツライツ合同会社 | 情報処理装置、情報処理プログラムおよび記録媒体 |
JPWO2023017578A1 (ja) * | 2021-08-11 | 2023-02-16 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6026350B2 (ja) | 1978-05-15 | 1985-06-22 | 日本電気株式会社 | 複数画像画面合成装置 |
JPH01181389A (ja) * | 1988-01-14 | 1989-07-19 | Hitachi Ltd | 画像処理装置 |
JPH047991A (ja) | 1990-04-25 | 1992-01-13 | Sony Corp | 暗視カラー撮像装置 |
JP2775542B2 (ja) * | 1991-12-16 | 1998-07-16 | 富士写真フイルム株式会社 | ディジタル電子スチル・カメラおよびその制御方法 |
JPH08149130A (ja) * | 1994-11-25 | 1996-06-07 | Canon Inc | 映像コミュニケーションシステム |
US5781788A (en) * | 1995-05-08 | 1998-07-14 | Avc Technology, Inc. | Full duplex single clip video codec |
US5724475A (en) * | 1995-05-18 | 1998-03-03 | Kirsten; Jeff P. | Compressed digital video reload and playback system |
JPH09116821A (ja) * | 1995-10-18 | 1997-05-02 | Toshiba Corp | テレビジョン受像機 |
JP3801242B2 (ja) * | 1995-10-31 | 2006-07-26 | 株式会社日立製作所 | 縮小画像表示装置 |
JPH09149396A (ja) * | 1995-11-27 | 1997-06-06 | Fujitsu Ltd | 多地点テレビ会議システム |
US5847771A (en) * | 1996-08-14 | 1998-12-08 | Bell Atlantic Network Services, Inc. | Digital entertainment terminal providing multiple digital pictures |
US5995146A (en) * | 1997-01-24 | 1999-11-30 | Pathway, Inc. | Multiple video screen display system |
JPH10304328A (ja) * | 1997-04-25 | 1998-11-13 | Fujitsu Ltd | テレビ会議システムにおいて、多画面合成信号を生成する方式 |
GB2329542B (en) * | 1997-09-17 | 2002-03-27 | Sony Uk Ltd | Security control system and method of operation |
-
1998
- 1998-02-19 JP JP03712598A patent/JP3684525B2/ja not_active Expired - Fee Related
- 1998-10-06 US US09/167,432 patent/US6456335B1/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH11234654A (ja) | 1999-08-27 |
US6456335B1 (en) | 2002-09-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3684525B2 (ja) | 多画面合成方法及び多画面合成装置 | |
JP4295441B2 (ja) | ビデオ通信システム、デコーダ回路、ビデオディスプレイシステム、エンコーダ回路、及びビデオデータ受信方法 | |
TWI403174B (zh) | 視訊處理系統、視訊處理方法、及視訊傳送方法 | |
US7006575B2 (en) | Picture and sound decoding apparatus picture and sound encoding apparatus and information transmission system | |
US6931658B1 (en) | Image on-demand transmitting device and a method thereof | |
JP2008118271A (ja) | 撮像装置の遠隔制御システム | |
JP2008515273A (ja) | 部分的ビデオ画像を符号化する方法 | |
JP4799191B2 (ja) | 通信端末、通信システムおよび通信方法 | |
EP0940993A2 (en) | Method and apparatus for generating selected image views from a larger image | |
JPH11239329A (ja) | 画像伝送装置およびそれを使用した画像伝送システム | |
JP4328582B2 (ja) | 遠隔画像監視システム | |
JP3927606B2 (ja) | 画像通信装置及びシステム、並びに画像受信装置及び受信画像データの処理方法 | |
JPH08256315A (ja) | 多地点同時モニタ制御方法 | |
JP4798594B2 (ja) | 画像信号処理装置および画像配信システム | |
JPS62200883A (ja) | 電子会議システムにおける図形表示装置 | |
JP2001346207A (ja) | 画像情報変換装置及び方法 | |
JPH11187383A (ja) | 映像監視システム及び映像監視方法 | |
JPH09130799A (ja) | 画像圧縮加工方法及びテレビ会議システム | |
JPH0484585A (ja) | 静止画伝送表示装置 | |
JPH08289296A (ja) | 画像通信システムおよびその伝送方法 | |
JP2006165664A (ja) | 画像送受信システム | |
JP2002051345A (ja) | 画像情報変換装置及び方法 | |
JPH09205628A (ja) | 画像情報伝送装置 | |
JP2000333156A (ja) | 動画像伝送装置 | |
JPH0686277A (ja) | テレビ会議装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20041207 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041221 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050221 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050510 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050519 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090610 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100610 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110610 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120610 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120610 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130610 Year of fee payment: 8 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140610 Year of fee payment: 9 |
|
LAPS | Cancellation because of no payment of annual fees |