JP3956010B2 - Video transmission system and video transmission control method - Google Patents

Video transmission system and video transmission control method Download PDF

Info

Publication number
JP3956010B2
JP3956010B2 JP2002084887A JP2002084887A JP3956010B2 JP 3956010 B2 JP3956010 B2 JP 3956010B2 JP 2002084887 A JP2002084887 A JP 2002084887A JP 2002084887 A JP2002084887 A JP 2002084887A JP 3956010 B2 JP3956010 B2 JP 3956010B2
Authority
JP
Japan
Prior art keywords
camera
mode
video
unit
video transmission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002084887A
Other languages
Japanese (ja)
Other versions
JP2003284051A (en
Inventor
義行 嵯峨根
宣治 菅原
範幸 井原
賢造 小林
洋人 新谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2002084887A priority Critical patent/JP3956010B2/en
Publication of JP2003284051A publication Critical patent/JP2003284051A/en
Application granted granted Critical
Publication of JP3956010B2 publication Critical patent/JP3956010B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、被監視部分を撮像するカメラを旋回,ズーム,ピント合わせ等の操作を行うと共に、カメラからの映像信号を圧縮符号化して、カメラを操作する操作端末に伝送して表示する映像伝送システム及び映像伝送制御方法に関する。
【0002】
【従来の技術】
監視,観測システムとして、例えば、河川氾濫の監視、道路の渋滞や事故の監視、群衆の事故の監視、地震等の災害監視等のシステムが知られている。それらのシステムに於いては、単一又は複数のカメラにより被監視部分を撮像し、撮像した映像信号を例えば圧縮符号化して監視部等に伝送し、その監視部に於いて復号化して表示画面に被監視部分の映像を表示し、又その監視部等からカメラを遠隔操作する構成が一般的である。その場合、カメラを遠隔操作して、広範囲にわたり順次監視する為の旋回制御や、詳細な再生画像とする為のズームアップ制御等を行う手段を備えている。又カメラからの映像信号を伝送する場合、圧縮符号化する場合が一般的であり、この圧縮符号化の手段として、標準化されたMPEG(Moving Picture Exsperts Group)−2を適用することができる。
【0003】
このMPEG−2は、Iピクチャ(Intra−coded Picture)と、Pピクチャ(Predictive−coded Picture)と、Bピクチャ(Bi−directonal Predictive−codedPicture)との3タイプのピクチャ構造を有し、固定ビットレート(CBR;Constant Bit Rate)の符号化と、可変ビットレート(VBR;Variable Bit Rate)の符号化と、スライス層にイントラブロックを分散するイントラスライス符号化とが定められている。
【0004】
CBR符号化とVBR符号化とに於いては、最も符号化情報量が多くなるIピクチャに対応した受信バッファ領域を用意する必要がある。又双方向予測によるBピクチャ生成の為に、約3フレーム分の時間を必要とする。従って、カメラにより撮像した被監視部分の状態を、操作端末の表示部に表示するまでに要する遅延時間が大きくなる要因となっている。これに対して、イントラピクチャをフレーム内にスライス状に挿入するイントラスライス符号化は、ピクチャサイズを小さくし、且つ変動が少ないことから、受信バッファ領域を小さくすることが可能であり、又遅延時間も小さくすることが可能である。
【0005】
【発明が解決しようとする課題】
圧縮符号化として、前述のイントラスライス符号化は、Bピクチャを求める双方向予測符号化を行わない為、CBR符号化やVBR符号化に比較して、遅延時間を小さく抑えることが可能であるが、同一ビットレートとした場合に、相対的に再生画質が劣る問題がある。又操作端末側では、動画像として表示するものであるが、静止画像を抽出して保存することがある。その場合に、イントラスライス符号化は、孤立したIピクチャが存在しない為に、静止画像として抽出することが困難である問題がある。
【0006】
又操作端末からカメラを、前述のように、旋回制御やズーミング制御等を行った場合に、フレーム間差分が大きくなるから、前述のCBR符号化やVBR符号化に於いては発生情報量が多くなって、遅延時間が更に大きくなる。即ち、カメラ制御を行ってから被監視部分の画像が表示されるまでに要する時間が長くなる問題がある。
本発明は、前述の従来の問題点を解決するもので、カメラ操作に基づいて高品質モードと低遅延モードとに切替えることにより、被監視部分を高画質で再生表示及びカメラ操作時に迅速に被監視部分の異なる撮像領域を迅速に表示させることを目的とする。
【0007】
【課題を解決するための手段】
本発明の映像伝送システムは、図1を参照して説明すると、カメラ1からの映像信号を圧縮符号化して送出する映像伝送装置2と、この映像伝送装置2から受信した圧縮符号化映像信号を復号化して映像表示部11に表示すると共に前記カメラ1を制御する操作端末3とを含む映像伝送システムであって、映像伝送装置2は、カメラ1からの映像信号を入力してイントラフレームを用いて圧縮符号化する高品質モード符号化部8と、カメラ1の映像信号を入力して、このカメラ1の撮像方向及び撮像範囲の制御による画面の動き方向に対してイントラブロックを多く分布させて圧縮符号化する低遅延モード符号化部7と、これらの低遅延モード符号化部7と高品質符号化部8とを切替えるモード選択部6と、操作端末3からカメラ1の撮像方向及び撮像範囲を制御する制御信号を受信して、モード選択部6により低遅延モード符号化部7を選択させる制御信号処理部9とを備えている。
【0008】
又映像伝送装置2の制御信号処理部9は、操作端末3のカメラ操作部13からのカメラ1を制御する制御信号を受信識別して、モード選択部6を制御し、高品質モード符号化部8から低遅延モード符号化部7に切替え、且つカメラ1の一連の制御終了後に、低遅延モード符号化部7から高品質モード符号化部8へ切替える構成を有するものであり、又映像伝送装置2の低遅延モード符号化部7は、カメラの上下左右等の撮像方向及びズーミング等の撮像範囲の制御による画面の動きの方向に従ったイントラブロックの発生分布を制御する構成を備えることができる。
【0009】
又本発明の映像伝送制御方法は、操作端末3からカメラ1を制御し、このカメラ1からの映像信号を映像伝送装置2に於いて圧縮符号化して、操作端末3へ伝送して表示させる映像信号伝送制御方法であって、操作端末3からカメラ1の撮像方向及び撮像範囲を制御する過程に於いては、カメラ1からの映像信号を低遅延モードにより圧縮符号化して操作端末3へ送出し、その後に高品質モードにより圧縮符号化して操作端末3へ送出する過程を含むものである。
【0010】
又カメラ1の上下左右等の撮像方向及びズーミング等の撮像範囲を制御する過程に於いて低遅延モードによる圧縮符号化を行い、且つ画面の動きの方向に従ってイントラブロックの発生分布を制御する過程を含むことができる。
【0011】
【発明の実施の形態】
以下図面を参照して本発明の実施の形態について説明する。図1は本発明の実施の形態の説明図であり、1はカメラ、2は映像伝送装置、3は操作端末、4は制御機構部、5は画像符号化部、6はモード選択部、7は低遅延モード符号化部、8は高品質モード符号化部、9は制御信号処理部、10は画像復号化部、11は映像表示部、12は静止画蓄積部、13はカメラ操作部を示す。
【0012】
カメラ1は、制御機構部4によって広範囲にわたる被監視部分を監視する為の上下左右の撮像方向の制御及びズームインやズームアウト等による撮像範囲の制御更には遠景又は近景に対するピント合わせ等の制御が行われるもので、制御機構部4は、旋回台を回転させる為のモータ、カメラ1のレンズのズーミングの為のモータ、又は遠景や近景に対するピント合わせの為のモータ等を含むものであり、既に知られている各種の構成を適用することができる。
【0013】
又映像伝送装置2は、カメラ1からの映像信号(アナログ映像信号)をモード選択部6を介して低遅延モード符号化部7又は高品質モード符号化部8に入力し、圧縮符号化を行った映像信号(ディジタル映像信号)を操作端末3に送出する。又映像伝送装置2は、制御信号処理部9を備え、操作端末3からの制御信号に従ってモード選択部6を制御し、又カメラ1の制御機構部4にカメラ制御信号を送出する。
【0014】
画像符号化部5の低遅延モード符号化部7は、前述のMPEG2に於けるイントラスライス符号化を適用することにより遅延時間を小さくして、カメラ1からの映像信号を圧縮符号化するものであり、又高品質モード符号化部8は、CBR符号化又はVBR符号化を適用して、遅延時間が多少大きくなっても、再生画質を向上することができる符号化を行うものである。
【0015】
又各種の監視システムや観測システム等に於いては、カメラ1と操作端末3とを離れた位置に配置し、又映像伝送装置2は、カメラ1側に配置する場合が一般的である。この映像伝送装置2と操作端末3との間をディジタル伝送路で接続し、映像伝送装置2に於いて圧縮符号化したディジタルの映像信号を操作端末3へ送出する。又操作端末3は、画像復号化部10と映像表示部11と静止画蓄積部12とカメラ操作部13とを備えた場合を示し、又図示を省略した各部を制御するプロセッサ等による制御手段を備えている。そして、画像復号化部10により受信ディジタル映像信号を復号化して、映像表示部11にカメラ1の撮像画像を表示し、又一定時間間隔等により、復号した映像信号から抽出した静止画を静止画蓄積部12に蓄積する。この静止画は、被監視部分の詳細状態を解析する場合等に於いて再生表示される。
【0016】
又操作端末3のカメラ操作部13は、スイッチやボタン等による構成、又は映像表示部11の表示画面上の一部のエリアを利用した操作部とし、その操作に従ったカメラ1に対する旋回制御信号やズーミング制御信号等を送出する。このような制御信号は、操作端末3と映像伝送装置2との間の信号線を介して伝送する場合が一般的であるが、ディジタルの映像信号を伝送する伝送路を利用して伝送する構成とすることも可能である。
【0017】
又映像伝送装置2の制御信号処理部9は、操作端末3からのカメラ1の旋回制御やズーミング制御等の制御信号を受信していない場合に、モード選択部6に対して高品質モード符号化部8を選択するモード切替制御信号を加える。即ち、カメラ1の操作を行っていない状態では、高品質モードにより再生画質が良い高品質モードにより圧縮符号化される。又操作端末13からの制御信号を受信した時は、モード選択部6に対して低遅延モード符号化部7を選択するモード切替制御信号を加える。
【0018】
従って、カメラ1を操作しない状態に於いては、カメラ1からの映像信号を高品質モードとなる前述のCBR符号化やVBR符号化により圧縮符号化し、又カメラ1を旋回制御又はズーミング制御等を行う時は、低遅延モードとなるイントラスライス符号化により圧縮符号化を行うものである。それにより、カメラ1を旋回やズーミングの制御を行わない場合に、一定の被監視部分を撮像した高画質の再生画面とすることができ、又カメラ1の旋回やズーミングの制御を行っている時は、被監視部分の撮像範囲の変化した撮像画面を、低遅延時間で再生表示し、カメラ操作中の被監視部分の状態を迅速に監視することができる。
【0019】
図2は高品質モードから低遅延モードへの切替時の説明図であり、画像符号化部に入力されるビデオ入力フレームとして、フレームV1,V2,V3,・・・が順次入力される状態に対して、モード切替タイミングと、高品質モード遅延時間と、高品質モード符号化データと、低遅延モード遅延時間と、低遅延モード符号化データと、受信側切替時間と、表示映像データとを示す。
【0020】
又送信側、即ち、映像伝送装置2に於ける切替えに要する時間Ts、高品質モード符号化に於ける遅延時間Th、低遅延モード符号化に於ける遅延時間Tl、高品質モード符号化と低遅延モード符号化とに於ける遅延時間の差Td=Th−Tl、受信側、即ち、操作端末3に於ける切替えに要する時間Trとすると、高品質モードに於ける遅延時間Thは、前後のフレームを参照して符号化する過程を含むことにより、少なくとも3フレーム分の遅延時間となる。例えば、ビデオ入力フレームのV1に対応する高品質モード符号化データは、遅延時間Th後のV1で示すものとなる。
【0021】
これに対して、低遅延モード符号化に於いては、前後のフレームを参照することなく符号化する過程を含むことにより、Tl<Thの遅延時間となる。例えば、ビデオ入力フレームのV4に対応する低遅延モード符号化データは、遅延時間Tl後のV4で示すものとなる。受信側に於いては、高品質モード符号化データの復号化から低遅延モード符号化データの復号化に切替えることになり、この切替えに要する時間Trは、Tr=Ts−Tdで表すことできる。従って、切替えに要する時間Tsが遅延時間の差Tdに等しいか又は小さい場合には、受信側の切替えに要する時間Trはほぼ零となる。即ち、高品質モード符号化から低遅延モード符号化に切替える場合、受信側の復号再生表示画面の切替えの過程はスムーズに行われることになる。
【0022】
これに対して、低遅延モードから高品質モードへの切替えは、図2に対応して示す図3を参照すると、低遅延モード符号化に於いては、ビデオ入力フレームのV1に対応した低遅延モード符号化データは、遅延時間Tl後のV1として示すように出力される。そして、低遅延モード符号化から高品質モード符号化へ切替えると、ビデオ入力フレームの例えばV4に対応するフレームについては、遅延時間Th後に高品質モード符号化データとして出力される。
【0023】
従って、画像復号化部に於ける復号再生された表示映像データは、低遅延モード符号化データを復号再生した後、高品質モード符号化データを復号再生することになり、例えば、低遅延モード符号化データを復号したV2のフレーム後、高品質モード符号化データを復号再生して表示する為には、Trの切替時間を必要とするから、その間は、例えばV2のフレームについて静止画像として表示を続ける等の対策を必要とする。その為に、低遅延モード符号化から高品質モード符号化に切替える要因発生の時間間隔は、動画像表示を行う為には、少なくともTrより大きいことが必要となる。
【0024】
図4は制御信号の説明図であり、操作端末3のカメラ操作部13からの制御信号を、映像伝送装置2の制御信号処理部9を介して、モード選択部6と制御機構部4とに送出するシーケンスを示す。カメラ操作部13によりカメラ1の旋回やズーミングの制御入力を行うことにより、先ず、低遅延モード符号化へ切替える為の切替指示信号を、映像伝送装置2の制御信号処理部9に転送する。制御信号処理部9は、その切替指示信号によりモード選択部6に、高品質モード符号化から低遅延モード符号化へ切替えるモード切替制御信号を加える。そして、カメラ操作部13から、カメラ1の制御入力に従ったカメラ制御信号を送出する。
【0025】
制御信号処理部9は、カメラ制御信号を制御機構部4に送出する。それによって、制御機構部4は、カメラ1の旋回やズーミングを行う。このカメラ1の制御操作が終了すると、カメラ操作部13から高品質モード符号化への切替指示信号を送出する。映像伝送装置2の制御信号処理部9は、モード選択部6に、低遅延モード符号化から高品質モード符号化に切替える為のモード切替制御信号を加える。
【0026】
図5はカメラ操作部の説明図であり、映像表示部11(図1参照)の画面を利用したカメラ操作部の機能を示し、(A)は動画表示部として示す被監視部分の表示領域の上下左右と中央との何れかをカーソルで指示して例えばクリックすることにより、右の領域であれば、カメラ1を右に旋回させる入力であり、中央の領域であれば、ズーミングの入力とすることができる。又(B)は動画表示部の横に、上下左右のボタンとズームのボタンとを表示させて、カーソル指示によるクリックで旋回やズーミングの入力を行う場合を示す。このようにモニタ画面内に各種の入力操作用のエリアを形成し、カーソル指示等により入力操作を行う制御手段は、既に知られているコンピュータの技術により容易に実現することができる。
【0027】
図6はカメラ操作部の処理の概要フローチャートであり、マウス等の操作により、図5の(A)の動画表示部のエリア又は(B)の操作ボタンのエリアにカーソルを移動させて、クリックすると(A5)、低遅延モードへの遷移を開始する(A4)。即ち、図4に示すように、カメラ操作部から制御信号処理部へ低遅延モード符号化に切替える切替指示信号を送出する。そして、クリック内容に従ったカメラ制御信号を送出する。例えば、操作ボタンの「左」をクリックすると、左旋回制御信号を送出する。
【0028】
又図5の(A)の動画表示部のエリア又は(B)の操作ボタンのエリアにカーソルを移動させても、クリックしない場合(A1)、n秒間のタイマを起動する(A2)。n秒後にカーソル位置を判定し(A3)、カーソルがエリア外へ移動した場合は、元のステップに移行し、エリア内の場合は、カメラ制御入力を行うことを予想して、低遅延モードへの遷移開始(A4)、即ち、カメラ操作部から制御信号処理部へ低遅延モード符号化に切替える切替指示信号を送出する。
【0029】
又操作端末3に於いて、高品質モードと低遅延モードへの遷移中と低遅延モードとの状態を、マウスポインタの形状を変更して表示することができる。マウスポインタの形状としては、例えば、矢印、十字状、処理中を示す砂時計等の各種の形状が知られているが、高品質モードを表示する形状と、低遅延モードへの遷移中を表示する形状と、低遅延モードを表示する形状とをそれぞれ用意し、モード識別によってマウスポインタ形状を切替えることができる。
【0030】
例えば、図7のマウスポインタ形状制御の説明図に示すように、映像伝送装置2(図1参照)から高品質モード映像データを受信している時は、マウスポインタ形状を高品質モード表示形状とし、カメラ制御の操作入力に従って前述の切替指示信号送出を行った時は、低遅延モードへの遷移中表示形状とし、映像伝送装置2からモード切替えによる低遅延モード映像データを受信すると、低遅延モード表示形状に変更することができる。
【0031】
それにより、図5の(A),(B)に示すように、モニタ画面中のカーソル位置及びクリックによるカメラ操作入力に於けるマウスポインタの形状によって、現在、高品質モードか、低遅延モード遷移中か、低遅延モードかを識別することができる。従って、高品質モードに於いてのみ、カメラ操作入力を可能とすることができる。又低遅延モード遷移中の場合には、カメラ操作ボタンのクリック受付を無効にする処理とすることができる。このようなマウスポインタの形状やクリック受付無効処理等は容易に実現することができる。
【0032】
又映像伝送装置2と操作端末3とをローカルエリアネットワーク(LAN)により接続した場合、その伝送フォーマットは、所定長のデータにヘッダを付加したパケットとするもので、例えば、図8に示すように、所定長のMPEGデータ(前述の高品質モード符号化データ又は低遅延モード符号化データ)のヘッダとして、モード識別ヘッダを付加し、そのモード識別ヘッダに、高品質モードと低遅延モードとの何れかを識別する情報を付加することにより、操作端末3に於いて、例えば、画像復号化部10に於いて又はその前段(図示せず)に於ける受信処理部に於いてモード識別ヘッダを抽出し、高品質モード映像データの受信中か、低遅延モード映像データの受信中かを判定して、図7に於いて説明したマウスポインタ形状を変更することができる。
【0033】
図9はMPEG−2ビデオストリームの説明図であり、シーケンスヘッダ、シーケンス拡張等と共に、拡張&ユーザの領域にモード情報を付加することも可能である。それによって、ビデオストリームとして伝送する場合に、前述の高品質モード符号化と低遅延モード符号化との何れの符号化によるデータかを、画像復号化部10又はその前段に於ける図示を省略した受信処理部に於いて識別し、マウスポインタの形状を切替えることができる。
【0034】
図10は高品質モードと低遅延モードとのビデオストリームの概要説明図であり、図9に示すMPEG−2ビデオストリームの要点のみを示し、(A)は高品質モード、(B)は低遅延モードを示す。図10の(A)の高品質モードの場合のグループオブピクチャヘッダ(GOPヘッダ)が、図10の(B)の低遅延モードの場合に省略されている。従って、映像伝送装置2と操作端末3との間に、MPEG−2ビデオストリームとして伝送する場合に於いても、操作端末3に於いて、図示を省略した制御処理手段によって、ビデオストリームに於けるグループオブピクチャヘッダの有無によってモード判定を行うことができる。それによって、高品質モードか低遅延モードかの状態を、前述のマウスポインタの形状の切替えを行うことができる。
【0035】
図11は低遅延モードから高品質モードへ切替える遷移開始のフローチャートを示し、前述のモニタ画面上の操作ボタンをマウスポインタ(又はカーソル)により指示してクリックすると(B1)、計測を開始し、操作ボタンのクリック終了(B2)により計測終了を行い、計測開始から計測終了までの操作量を計測する(B3)。即ち、操作ボタンをクリックすることにより、カメラ1の旋回、ズーム、ピント合わせ等の操作を行うものであり、カメラ操作部13に於いては、1回の操作による旋回量、ズーム量、ピント遠近移動量を求める。
【0036】
そして、求めた操作量に対応したタイマ値を算出する(B4)、即ち、カメラの旋回制御量やズーミング制御量に従って機械的な動作が完了するまでの時間を算出することになる。そして、タイマを起動し(B5)、別の操作があった否かを判定し(B6)、タイマのタイムアウト前に別の操作があった場合は、ステップ(B1)に移行する。又別の操作がなかった場合は、高品質モードへの遷移を開始する(B7)。例えば、図4に示す高品質モードへの切替指示信号の送出制御等を開始する。
【0037】
図12はマウスポインタ形状制御の説明図であり、低遅延モード表示形状と、高品質モードへ間もなく切替えることを示す表示形状と、高品質モードへの遷移中表示形状と、高品質モード表示形状との4段階に切替える場合を示す。映像伝送装置2から低遅延モード映像データを受信中は、マウスポインタ形状を、低遅延モード表示形式とするものであるが、最終操作から一定時間経過後に、高品質モードへ間もなく切替えることを示す表示形状とする。
【0038】
又映像伝送装置2から低遅延モード映像データを受信中は、前述のように、低遅延モード表示形状とし、カメラ操作部13によるカメラ旋回やズーミング等の入力操作の終了から一定時間後に、高品質モードへ間もなく切替えることを示すマウスポインタ表示形状に変更する。そして、切替信号送出により高品質モードへの遷移中表示形状に変更し、映像伝送装置2から高品質モード映像データの受信により、高品質モード表示形状に変更する。
【0039】
図13は静止画像取得処理のフローチャートを示し、操作端末3に於いては、一定時間間隔で静止画像を静止画蓄積部12に蓄積するものであり、この静止画像保存のタイミングまでの残りをm秒とすると(C1)、現在のモードを判定し(C2)、高品質モードの場合は、静止画像取得まで低遅延モードへの遷移を抑止し(C3)、m秒経過か否かを判定し(C4)、経過すると、静止画像の取得を行う(C5)。即ち、画像復号化部10に於ける高品質モード符号化データを復号化して映像表示部11に表示する1画面分の静止画像を静止画蓄積部12に蓄積する。
【0040】
又ステップ(C2)に於いて、現在のモードが低品質モードの場合は、切替指示等による高品質モードの遷移を促進し(C6)、それによる現在のモードを判定し(C7)、低遅延モードの場合は、ステップ(C6)に移行し、高品質モードに以降した場合は、ステップ(C3)に移行して、静止画像取得まで低遅延モードへの遷移を抑止する。
【0041】
図14は制御信号処理部の処理フローチャートを示し、図1の映像伝送装置2の制御信号処理部9に於ける処理の要部を示す。制御信号処理部9は、操作端末3のカメラ操作部13からのカメラ操作信号を受信すると(D1)、現在のモードを判定し(D2)、高品質モードの場合は、低遅延モードへの切替信号をモード選択部6に送出し(D3)、所定時間のタイマを起動する(D4)。又ステップ(D2)に於ける判定で、現在低遅延モードの場合は、ステップ(D4)に移行する。
【0042】
起動されたタイマのタイムアウトにより、現在のモードを判定し(D5)、低遅延モードの場合は、高品質モードへの切替信号をモード選択部6に送出し(D6)、又カメラ制御信号をカメラ1の制御機構部4に送出する。又ステップ(D5)に於いて現在高品質モードであると、モード選択部6をそのままの状態として、カメラ制御信号をカメラ1の制御機構部4に送出する。
【0043】
図15はカメラ旋回時の説明図であり、(A)に示す被監視部分をカメラ1で撮像して、操作端末3の映像表示部11に表示し、カメラ1を左にパンした場合の表示状態を時間の経過に従って示し、その場合、左側を注視部位として、左パンを行うことが一般的であるから、(B)に時間の経過に従って示す画面内の左側の量子化スケールを小さくして表示品質の向上を図る。この場合、低遅延モード符号化部7がモード選択部6により選択されて、カメラ1からの映像信号を符号化するものであるが、画面の左半分については、量子化ステップを小さくしたイントラブロックを多く分布させ、右半分については、量子化ステップを大きくしたノンイントラブロックを分布させる制御を行う。このような制御についても、1画面内の所定のブロックについての量子化スケール制御が可能であるから、カメラ制御信号の内容を判定して制御することができる。それにより、操作者が注視する部分の画質を向上することができる。
【0044】
図16はイントラスライスの更新の説明図であり、(A)は上から下に向かって時間の経過に従ったイントラスライスISの更新方向を示す。このイントラスライスISの更新が1画面分について行われると、Iピクチャに相当する画面を構成することになる。又(B)は左から右に向かって時間の経過に従ったイントラスライスISの更新方向とした場合を示す。
【0045】
又(C)は、イントラスライスの前方参照から作成するノンイントラブロックの動き補償に於ける動きベクトルの大半は、イントラスライスの更新方向と一致した右方向であることを示す。このように、動きベクトルとイントラスライスの更新方向とを一致させると、IDCT(逆離散コサイン変換)のミスマッチ回数を低減することできるから、カメラの旋回方向に合わせて、動的にイントラスライスの更新方向を変化させる制御を行うものである。更に、操作者の注視部分に相当する領域についてのイントラスライスの更新回数を増加するように制御することができる。
【0046】
図17はズーミング操作時の説明図であり、(A)は、ズームインを行う場合の操作者の注視部位が時間が経過しても、画面の中央部分であることを示す。そこで、(B)に示すように、画面の中央部分の領域に対しては量子化スケールの細かいイントラブロックを多く分布させ、周辺部分の領域に対しては量子化スケールの粗いノンイントラブロックを多く分布させる。それにより、画面の中央部分の画質を向上させる。又(C)はズームアウトを行う場合について示すもので、(B)のズームインの場合と反対に、画面の中央部分の領域に対しては量子化スケールの粗いノンイントラブロックを多く分布させ、画面の周辺部分の領域に対してはは量子化スケールの細かいイントラブロックを多く分布させる。
【0047】
図18はイントラスライス更新の説明図であり、Pは予測符号化ピクチャを示し、(A)は図16の(A)の場合のイントラスライスの更新の場合と類似するものであるが、更にこの更新の回数を上側に多くした場合を示す。この場合は、カメラを下から上に向かって動かした場合に、画面の上側が注視部位となることにより、画面の上側の領域の画質を向上することができる。又(B)は、図18の(A)と反対にカメラを上から下に向かって動かした場合に対応したイントラスライスの更新の例を示す。この場合、画面の下側の更新回数を多くして、画面の下側の注視部位を画質を向上する。
【0048】
又図18の(C)は、図16の(B)の場合にイントラスライスの更新の場合と類似してカメラを左旋回した場合を示し、注目部位に相当する画面の左側の更新回数を多くして、画面の左側の画質を向上する。又図18の(D)は、図18の(C)と反対にカメラを右旋回した場合を示し、注目部位に相当する画面の右側の更新回数を多くして、画面の右側の画質を向上する。
【0049】
図19はズーミング時のイントラスライス更新の説明図であり、(A)はズームインの場合を示し、斜線の領域で示すイントラスライスを、中央部分に於いて多くなるように制御して、注視部位の画質を向上する。又(B)はズームアウトの場合を示し、周辺部分を注視部位とするから、その周辺部分のイントラスライス更新を多くして、周辺部分の画質を向上する。
【0050】
本発明は、前述の各実施の形態のみに限定されるものではなく、種々付加変更することが可能であり、複数のカメラを設けたシステムに於いても、操作端末からカメラを指定して撮像方向や撮像範囲の制御を行う場合にも適用可能であり、又映像表示部11は、カメラ対応の分割画面で表示することも可能である。
【0051】
(付記1)カメラからの映像信号を圧縮符号化して送出する映像伝送装置と、該映像伝送装置から受信した圧縮符号化映像信号を復号化して映像表示部に表示すると共に前記カメラを制御する操作端末とを含む映像伝送システムに於いて、前記映像伝送装置は、前記カメラからの映像信号を圧縮符号化する低遅延モード符号化部と、高品質モード符号化部と、前記低遅延モード符号化部と前記高品質モード符号化部とを切替えるモード選択部と、前記操作端末からのカメラ制御信号を受信した時に前記モード選択部を制御して低遅延モード符号化部を選択させる制御信号処理部とを備えたことを特徴とする映像伝送システム。
(付記2)前記映像伝送装置の前記制御信号処理部は、前記操作端末の前記カメラ操作部からの前記カメラを制御する制御信号を受信識別して、前記モード選択部を制御し、高品質モード符号化部から低遅延モード符号化部に切替え、且つ前記カメラの一連の制御終了後に、前記低遅延モード符号化部から前記高品質モード符号化部へ切替える構成を有することを特徴とする付記1記載の映像伝送システム。
【0052】
(付記3)前記操作端末の前記カメラ操作部は、カメラ操作入力動作を解析して予測し、該予測結果により高品質モードから低遅延モードへの切替えの指示信号を送出する構成を備えたことを特徴とする付記1又は2記載の映像伝送システム。
(付記4)前記操作端末の前記カメラ操作部は、モニタ画面上に形成した入力操作部に於けるマウスポインタ形状により高品質モードか低遅延モードか又は遷移中かのモード表示を行う構成を有することを特徴とする付記1又は2又は3記載の映像伝送システム。
(付記5)前記映像伝送装置の前記低遅延モード符号化部は、前記カメラの撮像方向及び撮像範囲の制御による画面の動きの方向に従ったイントラブロックの発生分布を制御する構成を有することを特徴とする付記1〜4の何れかに記載の映像伝送システム。
(付記6)前記映像伝送装置の前記低遅延モード符号化部は、前記カメラの撮像方向及び撮像範囲の制御による画面の動きの方向に従ったイントラスライス更新の頻度を制御する構成を有することを特徴とする付記1〜5の何れかに記載の映像伝送システム。
【0053】
(付記7)操作端末からカメラを制御し、該カメラからの映像信号を映像伝送装置に於いて圧縮符号化して前記操作端末へ伝送して表示させる映像信号伝送制御方法に於いて、前記操作端末から前記カメラの撮像方向及び撮像範囲を制御する過程に於いては、前記カメラからの映像信号を低遅延モードにより圧縮符号化して前記操作端末へ送出し、その後に高品質モードにより圧縮符号化して前記操作端末へ送出する過程を含むことを特徴とする映像伝送制御方法。
(付記8)前記高品質モードか又は前記低遅延モードか又はモード遷移中かを、それぞれ異なるマウスポインタ形状を切替えて、前記カメラを制御するモニタ画面上の入力操作画面に表示する過程を含むことを特徴とする付記7記載の映像伝送制御方法。
(付記9)前記カメラの撮像方向及び撮像範囲を制御する過程に於いて前記低遅延モードによる圧縮符号化を行い、且つ画面の動きの方向に従ってイントラブロックの発生分布を制御する過程を含むことを特徴とする付記7又は8記載の映像伝送制御方法。
(付記10)前記カメラの撮像方向及び撮像範囲の制御による画面の動きの方向に従ったイントラスライス更新の頻度を、前記画面の動きの方向と反対側の領域について高くする制御を行う過程を含むことを特徴とする付記9記載の映像伝送制御方法。
【0054】
【発明の効果】
以上説明したように、本発明は、カメラ1を操作する時に、高品質モード符号化から自動的に低遅延モード符号化に切替えることにより、カメラ1の撮像方向又は撮像範囲を変更する過程に於ける画面を、操作端末3の映像表示部11に少ない遅延時間で表示することができる。それにより、カメラ1の制御を適切に行うことが可能となる。又カメラ1の一連の操作が終了すると、自動的に高品質モード符号化に切替えることができるから、被監視部分を高画質で表示して監視することができる利点がある。
【0055】
又カメラ操作過程に於ける符号化として、イントラスライス更新方向を、カメラの撮像方向又は撮像範囲の制御内容に従って制御することにより、例えば、左旋回の場合は、左側からイントラスライス更新を行うことにより、注視部分の左側の画面の画質を改善することができる利点がある。又その更新頻度を制御することにより、注視部分の画質を更に改善することができる利点がある。
【図面の簡単な説明】
【図1】本発明の実施の形態の説明図である。
【図2】高品質モードから低遅延モードへの切替時の説明図である。
【図3】低遅延モードから高品質モードへの切替時の説明図である。
【図4】制御信号の説明図である。
【図5】カメラ操作部の説明図である。
【図6】カメラ操作部の処理の概要フローチャートである。
【図7】マウスポインタ形状制御の説明図である。
【図8】LANの伝送フォーマットの説明図である。
【図9】MPEG−2ビデオストリームの説明図である。
【図10】高品質モードと低遅延モードとのビデオストリームの概要説明図である。
【図11】高品質モードへの遷移のフローチャートである。
【図12】マウスポインタ形状制御の説明図である。
【図13】静止画像取得処理のフローチャートである。
【図14】制御信号処理部の処理フローチャートである。
【図15】カメラ旋回時の説明図である。
【図16】イントラスライスの更新の説明図である。
【図17】ズーミング操作時の説明図である。
【図18】イントラスライス更新の説明図である。
【図19】ズーミング時のイントラスライス更新の説明図である。
【符号の説明】
1 カメラ
2 映像伝送装置
3 操作端末
4 制御機構部
5 画像符号化部
6 モード選択部
7 低遅延モード符号化部
8 高品質モード符号化部
9 制御信号処理部
10 画像復号部
11 映像表示部
12 静止画蓄積部
13 カメラ操作部
[0001]
BACKGROUND OF THE INVENTION
The present invention performs operations such as turning, zooming, and focusing on a camera that captures a monitored part, and compressing and encoding a video signal from the camera, and transmitting the video signal to an operation terminal that operates the camera for display. The present invention relates to a system and a video transmission control method.
[0002]
[Prior art]
As monitoring and observation systems, for example, systems such as river flooding monitoring, road traffic congestion and accident monitoring, crowd accident monitoring, and earthquake disaster monitoring are known. In these systems, a monitored portion is imaged by a single or a plurality of cameras, and the captured video signal is compressed and encoded, for example, and transmitted to a monitoring unit, etc., and is decoded and displayed on the monitoring unit. In general, an image of a monitored portion is displayed on the screen, and a camera is remotely operated from the monitoring unit or the like. In that case, the camera is remotely controlled to include means for performing turn control for sequentially monitoring over a wide range, zoom-up control for making a detailed reproduced image, and the like. When transmitting a video signal from a camera, compression encoding is generally performed, and standardized MPEG (Moving Picture Experts Group) -2 can be applied as a means for compression encoding.
[0003]
The MPEG-2 has three types of picture structures of an I picture (Intra-coded Picture), a P picture (Predictive-coded Picture), and a B picture (Bi-directive Predictive-coded Picture), and a fixed bit rate. (CBR: Constant Bit Rate) encoding, variable bit rate (VBR) encoding, and intra slice encoding in which intra blocks are distributed in a slice layer are defined.
[0004]
In CBR encoding and VBR encoding, it is necessary to prepare a reception buffer area corresponding to an I picture having the largest amount of encoded information. Also, it takes about 3 frames to generate a B picture by bidirectional prediction. Therefore, the delay time required until the state of the monitored portion imaged by the camera is displayed on the display unit of the operation terminal becomes a factor. In contrast, intra-slice coding in which an intra picture is inserted into a frame as a slice reduces the picture size and reduces fluctuations, so that the reception buffer area can be reduced and the delay time can be reduced. Can also be reduced.
[0005]
[Problems to be solved by the invention]
As the compression coding, the above-described intra slice coding does not perform bi-directional predictive coding for obtaining a B picture, so that the delay time can be reduced compared to CBR coding and VBR coding. When the same bit rate is used, there is a problem that the reproduction image quality is relatively inferior. On the operation terminal side, it is displayed as a moving image, but a still image may be extracted and stored. In this case, intra slice coding has a problem that it is difficult to extract as a still image because there is no isolated I picture.
[0006]
In addition, when the camera is operated from the operation terminal, as described above, when turning control or zooming control is performed, the difference between frames becomes large. Therefore, a large amount of information is generated in the above-described CBR coding and VBR coding. Thus, the delay time is further increased. That is, there is a problem that it takes a long time to display the image of the monitored portion after the camera control.
The present invention solves the above-mentioned conventional problems. By switching between a high quality mode and a low delay mode based on camera operation, the monitored portion can be quickly covered during high-quality playback display and camera operation. An object is to quickly display different imaging areas of a monitoring portion.
[0007]
[Means for Solving the Problems]
The video transmission system of the present invention will be described with reference to FIG. 1. A video transmission apparatus 2 that compresses and transmits a video signal from the camera 1 and a compressed and encoded video signal received from the video transmission apparatus 2 are transmitted. A video transmission system including an operation terminal 3 for decoding and displaying on the video display unit 11 and controlling the camera 1, wherein the video transmission device 2 receives a video signal from the camera 1. A high quality mode encoding unit 8 that inputs and compresses and encodes using an intra frame and a video signal of the camera 1 are input, and the movement direction of the screen is controlled by controlling the imaging direction and imaging range of the camera 1. A low delay mode encoding unit 7 that compresses and encodes a large number of intra blocks; A mode selection unit 6 that switches between the low delay mode encoding unit 7 and the high quality encoding unit 8, and the operation terminal 3 A control signal for controlling the imaging direction and imaging range of the camera 1 is received, and the mode selection unit 6 And a control signal processing unit 9 for selecting the low delay mode encoding unit 7.
[0008]
The control signal processing unit 9 of the video transmission apparatus 2 receives and identifies a control signal for controlling the camera 1 from the camera operation unit 13 of the operation terminal 3, controls the mode selection unit 6, and controls a high quality mode encoding unit. 8 is switched to the low-delay mode encoding unit 7, and after the series of control of the camera 1 is completed, the low-delay mode encoding unit 7 is switched to the high-quality mode encoding unit 8. The second low-delay mode encoding unit 7 can be configured to control the intra-block generation distribution according to the moving direction of the screen by controlling the imaging direction such as up / down / left / right of the camera and the imaging range such as zooming. .
[0009]
The video transmission control method of the present invention controls the camera 1 from the operation terminal 3, compresses and encodes the video signal from the camera 1 in the video transmission apparatus 2, and transmits the video signal to the operation terminal 3 for display. In the signal transmission control method, in the process of controlling the imaging direction and imaging range of the camera 1 from the operation terminal 3, the video signal from the camera 1 is compression-encoded in the low delay mode and sent to the operation terminal 3. Then, a process including compression encoding in the high quality mode and sending to the operation terminal 3 is included.
[0010]
In addition, in the process of controlling the imaging direction such as up and down, left and right of the camera 1 and the imaging range such as zooming, the process of performing compression coding in the low delay mode and controlling the distribution of intra blocks according to the direction of the screen motion. Can be included.
[0011]
DETAILED DESCRIPTION OF THE INVENTION
Embodiments of the present invention will be described below with reference to the drawings. FIG. 1 is an explanatory diagram of an embodiment of the present invention. 1 is a camera, 2 is a video transmission device, 3 is an operation terminal, 4 is a control mechanism unit, 5 is an image encoding unit, 6 is a mode selection unit, 7 Is a low delay mode encoding unit, 8 is a high quality mode encoding unit, 9 is a control signal processing unit, 10 is an image decoding unit, 11 is a video display unit, 12 is a still image storage unit, and 13 is a camera operation unit. Show.
[0012]
In the camera 1, the control mechanism unit 4 performs control of the imaging direction in the vertical and horizontal directions for monitoring a wide range of monitored parts, the control of the imaging range by zooming in and zooming out, and the control of focusing on a distant view or a close view. The control mechanism unit 4 includes a motor for rotating the swivel base, a motor for zooming the lens of the camera 1, or a motor for focusing on a distant view or a close view. Various configurations can be applied.
[0013]
The video transmission device 2 also inputs the video signal (analog video signal) from the camera 1 to the low delay mode encoding unit 7 or the high quality mode encoding unit 8 via the mode selection unit 6 and performs compression encoding. The received video signal (digital video signal) is sent to the operation terminal 3. The video transmission apparatus 2 includes a control signal processing unit 9, controls the mode selection unit 6 according to the control signal from the operation terminal 3, and sends a camera control signal to the control mechanism unit 4 of the camera 1.
[0014]
The low delay mode encoding unit 7 of the image encoding unit 5 compresses and encodes the video signal from the camera 1 by reducing the delay time by applying the above-described intra-slice encoding in MPEG2. In addition, the high quality mode encoding unit 8 applies CBR encoding or VBR encoding, and performs encoding that can improve the reproduction image quality even if the delay time is slightly increased.
[0015]
In various monitoring systems, observation systems, and the like, the camera 1 and the operation terminal 3 are generally arranged at a distance from each other, and the video transmission device 2 is generally arranged on the camera 1 side. The video transmission apparatus 2 and the operation terminal 3 are connected by a digital transmission path, and a digital video signal compressed and encoded in the video transmission apparatus 2 is sent to the operation terminal 3. Further, the operation terminal 3 shows a case where an image decoding unit 10, a video display unit 11, a still image storage unit 12, and a camera operation unit 13 are provided, and control means such as a processor for controlling each unit (not shown) is provided. I have. Then, the image decoding unit 10 decodes the received digital video signal, displays the captured image of the camera 1 on the video display unit 11, and extracts the still image extracted from the decoded video signal at a fixed time interval or the like. Accumulate in the accumulation unit 12. This still image is reproduced and displayed when analyzing the detailed state of the monitored portion.
[0016]
The camera operation unit 13 of the operation terminal 3 is configured by a switch, a button, or the like, or an operation unit using a part of the area on the display screen of the video display unit 11, and a turning control signal for the camera 1 according to the operation. Send zooming control signals and so on. Such a control signal is generally transmitted via a signal line between the operation terminal 3 and the video transmission apparatus 2, but is configured to transmit using a transmission path for transmitting a digital video signal. It is also possible.
[0017]
Further, the control signal processing unit 9 of the video transmission device 2 performs high quality mode encoding on the mode selection unit 6 when the control signal for turning control and zooming control of the camera 1 from the operation terminal 3 is not received. A mode switching control signal for selecting the unit 8 is added. That is, when the camera 1 is not operated, compression encoding is performed in the high quality mode in which the reproduction image quality is good in the high quality mode. When a control signal is received from the operation terminal 13, a mode switching control signal for selecting the low delay mode encoding unit 7 is added to the mode selection unit 6.
[0018]
Therefore, when the camera 1 is not operated, the video signal from the camera 1 is compression-encoded by the above-mentioned CBR encoding or VBR encoding which becomes a high quality mode, and the camera 1 is controlled to turn or zoom. When performing, compression encoding is performed by intra-slice encoding in a low delay mode. As a result, when the camera 1 is not controlled to turn or zoom, a high-quality playback screen that captures a certain monitored portion can be obtained, and when the camera 1 is controlled to turn or zoom. Can reproduce and display an imaging screen in which the imaging range of the monitored portion has changed with a low delay time, and can quickly monitor the state of the monitored portion during camera operation.
[0019]
FIG. 2 is an explanatory diagram when switching from the high quality mode to the low delay mode. In this state, frames V1, V2, V3,... Are sequentially input as video input frames input to the image encoding unit. On the other hand, mode switching timing, high quality mode delay time, high quality mode encoded data, low delay mode delay time, low delay mode encoded data, reception side switching time, and display video data are shown. .
[0020]
Further, the time Ts required for switching at the transmission side, that is, the video transmission apparatus 2, the delay time Th in the high quality mode encoding, the delay time Tl in the low delay mode encoding, the high quality mode encoding and the low When the delay time difference Td = Th−Tl in the delay mode encoding and the time Tr required for switching at the receiving side, that is, the operation terminal 3, the delay time Th in the high quality mode is By including the process of encoding with reference to the frame, the delay time is at least 3 frames. For example, the high quality mode encoded data corresponding to V1 of the video input frame is indicated by V1 after the delay time Th.
[0021]
On the other hand, in the low delay mode encoding, the delay time of Tl <Th is obtained by including a process of encoding without referring to the preceding and succeeding frames. For example, the low delay mode encoded data corresponding to V4 of the video input frame is indicated by V4 after the delay time Tl. On the reception side, switching from decoding of high quality mode encoded data to decoding of low delay mode encoded data is performed, and the time Tr required for this switching can be expressed as Tr = Ts−Td. Accordingly, when the time Ts required for switching is equal to or smaller than the delay time difference Td, the time Tr required for switching on the receiving side is substantially zero. That is, when switching from high quality mode coding to low delay mode coding, the process of switching the decoding reproduction display screen on the receiving side is performed smoothly.
[0022]
On the other hand, the switching from the low delay mode to the high quality mode will be described with reference to FIG. 3 corresponding to FIG. 2. In the low delay mode encoding, the low delay corresponding to V 1 of the video input frame is used. The mode encoded data is output as shown as V1 after the delay time Tl. When switching from low delay mode encoding to high quality mode encoding, a frame corresponding to, for example, V4 of the video input frame is output as high quality mode encoded data after a delay time Th.
[0023]
Accordingly, the display video data decoded and reproduced in the image decoding unit is decoded and reproduced from the low-delay mode encoded data, and then decoded and reproduced from the high-quality mode encoded data. In order to decode and reproduce and display the high quality mode encoded data after the V2 frame in which the encoded data is decoded, Tr switching time is required. During this period, for example, the V2 frame is displayed as a still image. Measures such as continuing are necessary. Therefore, the time interval of occurrence of the factor for switching from the low delay mode coding to the high quality mode coding needs to be at least larger than Tr in order to perform moving image display.
[0024]
FIG. 4 is an explanatory diagram of the control signal. A control signal from the camera operation unit 13 of the operation terminal 3 is transmitted to the mode selection unit 6 and the control mechanism unit 4 via the control signal processing unit 9 of the video transmission apparatus 2. Indicates the sequence to send. By performing control input of turning and zooming of the camera 1 by the camera operation unit 13, first, a switching instruction signal for switching to low delay mode encoding is transferred to the control signal processing unit 9 of the video transmission device 2. The control signal processing unit 9 adds a mode switching control signal for switching from the high quality mode coding to the low delay mode coding to the mode selection unit 6 by the switching instruction signal. Then, a camera control signal according to the control input of the camera 1 is sent from the camera operation unit 13.
[0025]
The control signal processing unit 9 sends a camera control signal to the control mechanism unit 4. Thereby, the control mechanism unit 4 performs turning and zooming of the camera 1. When the control operation of the camera 1 is completed, a switching instruction signal for high-quality mode encoding is transmitted from the camera operation unit 13. The control signal processing unit 9 of the video transmission apparatus 2 adds a mode switching control signal for switching from the low delay mode coding to the high quality mode coding to the mode selection unit 6.
[0026]
FIG. 5 is an explanatory diagram of the camera operation unit, and shows the function of the camera operation unit using the screen of the video display unit 11 (see FIG. 1). FIG. 5A shows the display area of the monitored portion shown as the moving image display unit. If the cursor is pointed to the top, bottom, left, right, or center and clicked, for example, if it is a right region, it is an input for turning the camera 1 to the right, and if it is a central region, it is an input for zooming. be able to. FIG. 4B shows a case in which the up / down / left / right buttons and the zoom button are displayed beside the moving image display portion, and a turn or zooming is input by clicking with a cursor instruction. Thus, the control means for forming various input operation areas in the monitor screen and performing the input operation by a cursor instruction or the like can be easily realized by a known computer technique.
[0027]
FIG. 6 is a schematic flowchart of processing of the camera operation unit. When the mouse is moved to the area of the moving image display unit in FIG. 5A or the operation button area in FIG. (A5), the transition to the low delay mode is started (A4). That is, as shown in FIG. 4, a switching instruction signal for switching to low delay mode encoding is sent from the camera operation unit to the control signal processing unit. And the camera control signal according to the click content is sent out. For example, when the left button of the operation button is clicked, a left turn control signal is transmitted.
[0028]
If the cursor is moved to the moving image display area in FIG. 5A or the operation button area in FIG. 5B but not clicked (A1), a timer for n seconds is started (A2). After n seconds, the cursor position is determined (A3). If the cursor moves out of the area, the process proceeds to the original step. If the cursor is in the area, the camera control input is expected and the low delay mode is entered. Transition start (A4), that is, a switching instruction signal for switching to low delay mode encoding is sent from the camera operation unit to the control signal processing unit.
[0029]
In the operation terminal 3, the state of the transition to the high quality mode and the low delay mode and the state of the low delay mode can be displayed by changing the shape of the mouse pointer. For example, various shapes such as an arrow, a cross, and an hourglass indicating that processing is in progress are known as the shape of the mouse pointer, but the shape that displays the high quality mode and the transition to the low delay mode are displayed. A shape and a shape for displaying the low delay mode are prepared, and the mouse pointer shape can be switched by mode identification.
[0030]
For example, as shown in the explanatory diagram of the mouse pointer shape control in FIG. 7, when the high quality mode video data is received from the video transmission device 2 (see FIG. 1), the mouse pointer shape is set to the high quality mode display shape. When the above switching instruction signal is sent in accordance with the operation input of the camera control, the display shape is set during the transition to the low delay mode, and when the low delay mode video data is received from the video transmission device 2 by the mode switching, The display shape can be changed.
[0031]
As a result, as shown in FIGS. 5A and 5B, depending on the cursor position on the monitor screen and the shape of the mouse pointer in the camera operation input by clicking, a transition is currently made between the high quality mode and the low delay mode. It is possible to distinguish between medium and low delay modes. Therefore, camera operation input can be performed only in the high quality mode. In addition, when the low-delay mode transition is in progress, it is possible to disable the camera operation button click acceptance. Such a mouse pointer shape, click acceptance invalidation processing, and the like can be easily realized.
[0032]
When the video transmission apparatus 2 and the operation terminal 3 are connected by a local area network (LAN), the transmission format is a packet with a header added to a predetermined length of data. For example, as shown in FIG. A mode identification header is added as a header of a predetermined length of MPEG data (the above-mentioned high quality mode encoded data or low delay mode encoded data), and either the high quality mode or the low delay mode is added to the mode identification header. By adding the information for identifying the mode identification header, the mode identification header is extracted in the operation terminal 3, for example, in the image decoding unit 10 or in the reception processing unit in the preceding stage (not shown). Then, it is determined whether the high quality mode video data is being received or the low delay mode video data is being received, and the mouse pointer shape described in FIG. 7 is changed. It is possible.
[0033]
FIG. 9 is an explanatory diagram of an MPEG-2 video stream, and mode information can be added to the extension & user area together with a sequence header and sequence extension. As a result, when transmitting as a video stream, the image decoding unit 10 or the preceding stage omits illustration of which data is encoded by the above-described high quality mode encoding or low delay mode encoding. The reception processing unit can identify and change the shape of the mouse pointer.
[0034]
FIG. 10 is a schematic explanatory diagram of the video stream in the high quality mode and the low delay mode, showing only the main points of the MPEG-2 video stream shown in FIG. 9, (A) is the high quality mode, and (B) is the low delay. Indicates the mode. The group of picture header (GOP header) in the high quality mode in FIG. 10A is omitted in the low delay mode in FIG. Therefore, even when the MPEG-2 video stream is transmitted between the video transmission apparatus 2 and the operation terminal 3, the operation stream in the video stream is controlled by the control processing means not shown in the operation terminal 3. Mode determination can be performed based on the presence or absence of a group of picture header. As a result, the shape of the mouse pointer can be switched between the high quality mode and the low delay mode.
[0035]
FIG. 11 shows a flow chart of a transition start for switching from the low delay mode to the high quality mode. When the operation button on the monitor screen is pointed and clicked with the mouse pointer (or cursor) (B1), the measurement is started and the operation is started. The measurement is ended by clicking the button (B2), and the operation amount from the measurement start to the measurement end is measured (B3). That is, by clicking the operation button, operations such as turning, zooming, and focusing of the camera 1 are performed. In the camera operation unit 13, the turning amount, zooming amount, and focusing distance by one operation are performed. Find the amount of movement.
[0036]
Then, the timer value corresponding to the obtained operation amount is calculated (B4), that is, the time until the mechanical operation is completed is calculated according to the turning control amount and zooming control amount of the camera. Then, the timer is started (B5), whether or not another operation has been performed is determined (B6), and if another operation has been performed before the timer has timed out, the process proceeds to step (B1). If there is no other operation, the transition to the high quality mode is started (B7). For example, transmission control of the switching instruction signal to the high quality mode shown in FIG. 4 is started.
[0037]
FIG. 12 is an explanatory diagram of mouse pointer shape control, including a low-delay mode display shape, a display shape indicating that switching to the high quality mode will soon be performed, a display shape during transition to the high quality mode, and a high quality mode display shape. The case of switching to the four stages is shown. While receiving low-delay mode video data from the video transmission device 2, the mouse pointer shape is set to the low-delay mode display format, but a display indicating that the high-quality mode will be switched soon after a lapse of a certain time from the final operation. Shape.
[0038]
During reception of low-delay mode video data from the video transmission device 2, the low-delay mode display shape is used as described above, and high quality is obtained after a certain time from the end of input operations such as camera turning and zooming by the camera operation unit 13. Change the mouse pointer display shape to indicate that the mode will be switched soon. Then, the display shape is changed to the high quality mode display shape by switching signal transmission, and the high quality mode display shape is changed by receiving the high quality mode video data from the video transmission device 2.
[0039]
FIG. 13 shows a flowchart of still image acquisition processing. In the operation terminal 3, still images are stored in the still image storage unit 12 at regular time intervals, and the remaining time until the still image storage timing is m. If it is seconds (C1), the current mode is determined (C2). In the case of the high quality mode, the transition to the low delay mode is suppressed until the still image acquisition (C3), and it is determined whether m seconds have elapsed. (C4) When the time has elapsed, a still image is acquired (C5). That is, the high-quality mode encoded data in the image decoding unit 10 is decoded, and a still image for one screen to be displayed on the video display unit 11 is stored in the still image storage unit 12.
[0040]
In step (C2), when the current mode is the low quality mode, the transition to the high quality mode by the switching instruction or the like is promoted (C6), and the current mode is determined thereby (C7), and the low delay is achieved. In the case of the mode, the process proceeds to step (C6), and when the mode is changed to the high quality mode, the process proceeds to step (C3), and the transition to the low delay mode is suppressed until the still image acquisition.
[0041]
FIG. 14 shows a processing flowchart of the control signal processing unit, and shows a main part of processing in the control signal processing unit 9 of the video transmission apparatus 2 of FIG. When receiving the camera operation signal from the camera operation unit 13 of the operation terminal 3 (D1), the control signal processing unit 9 determines the current mode (D2), and switches to the low delay mode in the high quality mode. A signal is sent to the mode selection unit 6 (D3), and a timer for a predetermined time is started (D4). If it is determined in step (D2) that the current mode is the low delay mode, the process proceeds to step (D4).
[0042]
Based on the time-out of the activated timer, the current mode is determined (D5). In the case of the low delay mode, a switch signal to the high quality mode is sent to the mode selection unit 6 (D6), and the camera control signal is sent to the camera. 1 to the control mechanism unit 4. If the current mode is the high quality mode in step (D5), the mode selection unit 6 is left as it is, and a camera control signal is sent to the control mechanism unit 4 of the camera 1.
[0043]
FIG. 15 is an explanatory diagram when the camera is turned. The monitored portion shown in FIG. 15A is captured by the camera 1 and displayed on the video display unit 11 of the operation terminal 3, and the display when the camera 1 is panned to the left. The state is shown according to the passage of time, and in that case, it is common to perform left panning with the left side as the gaze part. Therefore, the quantization scale on the left side in the screen shown in FIG. Improve display quality. In this case, the low-delay mode encoding unit 7 is selected by the mode selection unit 6 and encodes the video signal from the camera 1, but the left half of the screen is an intra block with a smaller quantization step. In the right half, control is performed to distribute non-intra blocks with a large quantization step. Such a control can also be controlled by determining the contents of the camera control signal because the quantization scale control for a predetermined block in one screen is possible. Thereby, it is possible to improve the image quality of the portion that is watched by the operator.
[0044]
FIG. 16 is an explanatory diagram of intra slice update, and FIG. 16A shows the update direction of the intra slice IS as time passes from top to bottom. When the intra slice IS is updated for one screen, a screen corresponding to the I picture is formed. Further, (B) shows a case where the update direction of the intra slice IS is changed with time from left to right.
[0045]
(C) indicates that most of the motion vectors in the motion compensation of the non-intra block created from the forward reference of the intra slice are in the right direction that matches the update direction of the intra slice. In this way, if the motion vector and the intra slice update direction are matched, the number of mismatches in IDCT (Inverse Discrete Cosine Transform) can be reduced, so the intra slice update is dynamically performed according to the turning direction of the camera. Control to change the direction is performed. Furthermore, it is possible to control so as to increase the number of intra-slice updates for the area corresponding to the gaze portion of the operator.
[0046]
FIG. 17 is an explanatory diagram of the zooming operation, and FIG. 17A shows that the gaze site of the operator when zooming in is the center portion of the screen even when time elapses. Therefore, as shown in (B), many intra blocks with fine quantization scales are distributed in the central area of the screen, and many non-intra blocks with coarse quantization scale are distributed in the peripheral area. Distribute. Thereby, the image quality of the central portion of the screen is improved. (C) shows the case of zooming out. Contrary to the case of zooming in (B), a large amount of non-intra blocks with a coarse quantization scale are distributed in the central area of the screen. A large number of intra-blocks with a small quantization scale are distributed in the peripheral area.
[0047]
FIG. 18 is an explanatory diagram of intra-slice update, P indicates a prediction coded picture, (A) is similar to the intra-slice update in the case of (A) in FIG. The case where the number of updates is increased upward is shown. In this case, when the camera is moved from the bottom to the top, the upper side of the screen becomes the gaze region, so that the image quality of the upper region of the screen can be improved. FIG. 18B shows an example of updating an intra slice corresponding to the case where the camera is moved from top to bottom in the opposite direction to FIG. In this case, the number of updates on the lower side of the screen is increased to improve the image quality of the gaze portion on the lower side of the screen.
[0048]
18C shows a case where the camera is turned to the left in the case of FIG. 16B, similar to the update of the intra slice, and the number of updates on the left side of the screen corresponding to the target region is increased. And improve the image quality on the left side of the screen. 18D shows a case where the camera is turned to the right as opposed to FIG. 18C. The number of updates on the right side of the screen corresponding to the target region is increased, and the image quality on the right side of the screen is improved. improves.
[0049]
FIG. 19 is an explanatory diagram of intra slice update during zooming. FIG. 19A shows a case of zooming in. Intra-slices indicated by hatched areas are controlled so as to increase in the central portion, and Improve image quality. Further, (B) shows the case of zooming out, and since the peripheral portion is the gaze portion, intra-slice update of the peripheral portion is increased to improve the image quality of the peripheral portion.
[0050]
The present invention is not limited to the above-described embodiments, and various additions and modifications can be made. Even in a system provided with a plurality of cameras, imaging is performed by designating a camera from an operation terminal. The present invention can also be applied to the case where the direction and the imaging range are controlled, and the video display unit 11 can also display a divided screen corresponding to the camera.
[0051]
(Supplementary note 1) Video transmission apparatus that compresses and transmits a video signal from a camera, and operation for decoding and displaying the compressed and encoded video signal received from the video transmission apparatus on the video display unit and controlling the camera In a video transmission system including a terminal, the video transmission device includes a low delay mode encoding unit that compresses and encodes a video signal from the camera, a high quality mode encoding unit, and the low delay mode encoding. Selection unit that switches between a high-quality mode encoding unit and a control signal processing unit that controls the mode selection unit to select a low-delay mode encoding unit when a camera control signal is received from the operation terminal And a video transmission system.
(Supplementary Note 2) The control signal processing unit of the video transmission apparatus receives and identifies a control signal for controlling the camera from the camera operation unit of the operation terminal, controls the mode selection unit, and controls a high quality mode. Supplementary note 1 characterized in that it is configured to switch from the encoding unit to the low-delay mode encoding unit and to switch from the low-delay mode encoding unit to the high-quality mode encoding unit after a series of control of the camera is completed. The video transmission system described.
[0052]
(Additional remark 3) The said camera operation part of the said operation terminal was equipped with the structure which sends out the instruction | indication signal of switching from a high quality mode to a low delay mode according to the prediction result by analyzing and predicting a camera operation input operation The video transmission system according to appendix 1 or 2, characterized by:
(Supplementary Note 4) The camera operation unit of the operation terminal has a configuration for displaying a mode indicating whether the mode is a high quality mode, a low delay mode, or a transition state according to a mouse pointer shape in the input operation unit formed on the monitor screen. The video transmission system according to appendix 1, 2 or 3, wherein
(Supplementary Note 5) The low-delay mode encoding unit of the video transmission apparatus has a configuration for controlling an intra block generation distribution according to a screen movement direction by controlling an imaging direction and an imaging range of the camera. The video transmission system according to any one of appendices 1 to 4, which is characterized by the following.
(Supplementary Note 6) The low-delay mode encoding unit of the video transmission apparatus has a configuration for controlling the frequency of intra-slice update according to the screen movement direction by controlling the imaging direction and imaging range of the camera. The video transmission system according to any one of appendices 1 to 5, which is characterized by the following.
[0053]
(Supplementary note 7) In a video signal transmission control method for controlling a camera from an operation terminal, compressing and encoding a video signal from the camera in a video transmission device, and transmitting the video signal to the operation terminal for display. In the process of controlling the imaging direction and imaging range of the camera, the video signal from the camera is compressed and encoded in the low delay mode and sent to the operation terminal, and then compressed and encoded in the high quality mode. A video transmission control method comprising a step of sending to the operation terminal.
(Additional remark 8) The process which switches the different mouse pointer shape to whether it is the said high quality mode, the said low delay mode, or mode transition is displayed on the input operation screen on the monitor screen which controls the said camera is included. The video transmission control method according to appendix 7, characterized by:
(Additional remark 9) In the process which controls the imaging direction and imaging range of the said camera, it includes the process which performs the compression encoding by the said low delay mode, and controls the generation | occurrence | production distribution of an intra block according to the direction of the motion of a screen. 9. The video transmission control method according to appendix 7 or 8, characterized in that it is characteristic.
(Additional remark 10) The process which performs the control which makes the frequency of the intra slice update according to the direction of the motion of the screen by control of the imaging direction and the imaging range of the camera high about the area | region on the opposite side to the direction of the motion of the screen is included. The video transmission control method according to appendix 9, wherein
[0054]
【The invention's effect】
As described above, the present invention is a process of changing the imaging direction or imaging range of the camera 1 by automatically switching from high quality mode encoding to low delay mode encoding when operating the camera 1. Can be displayed on the video display unit 11 of the operation terminal 3 with a small delay time. Thereby, it becomes possible to control the camera 1 appropriately. Further, when a series of operations of the camera 1 is completed, it is possible to automatically switch to high quality mode encoding, so that there is an advantage that the monitored portion can be displayed and monitored with high image quality.
[0055]
Also, as the encoding in the camera operation process, the intra slice update direction is controlled according to the control contents of the camera imaging direction or imaging range. For example, in the case of left turn, the intra slice update is performed from the left side. There is an advantage that the image quality of the screen on the left side of the gaze portion can be improved. Also, there is an advantage that the image quality of the gaze portion can be further improved by controlling the update frequency.
[Brief description of the drawings]
FIG. 1 is an explanatory diagram of an embodiment of the present invention.
FIG. 2 is an explanatory diagram when switching from a high quality mode to a low delay mode.
FIG. 3 is an explanatory diagram when switching from a low delay mode to a high quality mode;
FIG. 4 is an explanatory diagram of a control signal.
FIG. 5 is an explanatory diagram of a camera operation unit.
FIG. 6 is a schematic flowchart of processing of a camera operation unit.
FIG. 7 is an explanatory diagram of mouse pointer shape control.
FIG. 8 is an explanatory diagram of a LAN transmission format.
FIG. 9 is an explanatory diagram of an MPEG-2 video stream.
FIG. 10 is a schematic explanatory diagram of a video stream in a high quality mode and a low delay mode.
FIG. 11 is a flowchart of a transition to a high quality mode.
FIG. 12 is an explanatory diagram of mouse pointer shape control.
FIG. 13 is a flowchart of still image acquisition processing.
FIG. 14 is a processing flowchart of a control signal processing unit.
FIG. 15 is an explanatory diagram when the camera turns.
FIG. 16 is an explanatory diagram of intra slice update;
FIG. 17 is an explanatory diagram of a zooming operation.
FIG. 18 is an explanatory diagram of intra slice update.
FIG. 19 is an explanatory diagram of intra slice update during zooming.
[Explanation of symbols]
1 Camera
2 Video transmission equipment
3 Operation terminal
4 Control mechanism
5 Image encoding unit
6 Mode selection section
7 Low delay mode encoder
8 High quality mode encoder
9 Control signal processor
10 Image decoding unit
11 Video display
12 Still image storage
13 Camera control unit

Claims (4)

カメラからの映像信号を圧縮符号化して送出する映像伝送装置と、該映像伝送装置から受信した圧縮符号化映像信号を復号化して映像表示部に表示すると共に前記カメラを制御する操作端末とを含む映像伝送システムに於いて、
前記映像伝送装置は、前記カメラからの映像信号を入力してイントラフレームを用いて圧縮符号化する高品質モード符号化部と、前記カメラの映像信号を入力して、該カメラの撮像方向及び撮像範囲の制御による画面の動き方向に対してイントラブロックを多く分布させて圧縮符号化する低遅延モード符号化部と、該低遅延モード符号化部と前記高品質符号化部とを切替えるモード選択部と、前記操作端末から前記カメラの撮像方向及び撮像範囲を制御する制御信号を受信して前記モード選択部により前記低遅延モード符号化部を選択させる制御信号処理部とを備えた
ことを特徴とする映像伝送システム。
A video transmission apparatus that compresses and transmits a video signal from a camera, and an operation terminal that decodes and displays the compressed and encoded video signal received from the video transmission apparatus on a video display unit and controls the camera In video transmission systems,
The video transmission device receives a video signal from the camera and compresses and encodes using an intra frame, and inputs the video signal of the camera, and the imaging direction and imaging of the camera. mode selection unit for switching range and low latency mode encoding unit for compression coding by distributed more intra blocks to the movement direction of the screen under the control of, and the high-quality encoding unit and the low-delay mode encoding unit And a control signal processing unit that receives a control signal for controlling the imaging direction and imaging range of the camera from the operation terminal and causes the mode selection unit to select the low-delay mode encoding unit. Video transmission system.
前記低遅延モード符号化部は、イントラスライスを単位としてイントラブロックの分布を制御する構成を有することを特徴とする請求項1記載の映像伝送システム。The video transmission system according to claim 1, wherein the low-delay mode encoding unit has a configuration for controlling the distribution of intra blocks in units of intra slices . 操作端末からカメラを制御し、該カメラからの映像信号を映像伝送装置により圧縮符号化して前記操作端末へ伝送し、該操作端末に於いて復号化して表示させる映像信号伝送制御方法に於いて、In a video signal transmission control method of controlling a camera from an operation terminal, compressing and encoding a video signal from the camera by a video transmission device, transmitting the video signal to the operation terminal, and decoding and displaying on the operation terminal.
前記操作端末から前記カメラの撮像方向及び撮像範囲を制御する過程に於ける前記カメラからの映像信号を、前記カメラの撮像方向及び撮像範囲の制御による画面の動き方向に対してイントラブロックを多く分布させて圧縮符号化する低遅延モード符号化部により圧縮符号化して前記操作端末へ送出し、その後にイントラフレームを用いて圧縮符号化する高品質モード符号化部により圧縮符号化して前記操作端末へ送出する過程を含むIn the process of controlling the imaging direction and imaging range of the camera from the operation terminal, a large number of intra blocks are distributed with respect to the moving direction of the screen by controlling the imaging direction and imaging range of the camera. The low-delay mode encoding unit that performs compression encoding is compressed and encoded and sent to the operation terminal. After that, the high-quality mode encoding unit that performs compression encoding using an intra frame performs compression encoding to the operation terminal. Including the process of sending
ことを特徴とする映像伝送制御方法。And a video transmission control method.
前記低遅延モード符号化部により圧縮符号化する過程に於いて、イントラスライスを単位として前記イントラブロックの分布を多くする制御過程を含むことを特徴とする請求項3記載の映像伝送制御方法。4. The video transmission control method according to claim 3, wherein the compression encoding by the low delay mode encoding unit includes a control process for increasing the distribution of the intra block in units of intra slices.
JP2002084887A 2002-03-26 2002-03-26 Video transmission system and video transmission control method Expired - Lifetime JP3956010B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002084887A JP3956010B2 (en) 2002-03-26 2002-03-26 Video transmission system and video transmission control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002084887A JP3956010B2 (en) 2002-03-26 2002-03-26 Video transmission system and video transmission control method

Publications (2)

Publication Number Publication Date
JP2003284051A JP2003284051A (en) 2003-10-03
JP3956010B2 true JP3956010B2 (en) 2007-08-08

Family

ID=29232043

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002084887A Expired - Lifetime JP3956010B2 (en) 2002-03-26 2002-03-26 Video transmission system and video transmission control method

Country Status (1)

Country Link
JP (1) JP3956010B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4593209B2 (en) * 2004-09-02 2010-12-08 パナソニック株式会社 Image receiving apparatus, image receiving method, and image transmission system
JP2012253823A (en) * 2012-09-24 2012-12-20 Yamaha Corp Distribution system, distribution method, distribution server and communication terminal
KR102014444B1 (en) 2013-02-28 2019-08-26 삼성전자주식회사 Photographing apparatus, method for controlling the same, and computer-readable recording medium
CN106331605B (en) * 2016-08-17 2019-11-15 武汉烽火众智数字技术有限责任公司 A kind of floods detection system and method based on video
JP6341973B2 (en) * 2016-10-27 2018-06-13 ソニー株式会社 Encoding apparatus, encoding method, and program

Also Published As

Publication number Publication date
JP2003284051A (en) 2003-10-03

Similar Documents

Publication Publication Date Title
US20110169952A1 (en) Video data processing device and video data processing system
WO2003092297A1 (en) Method and device for indicating quantizer parameters in a video coding system
MXPA04008889A (en) Method for coding motion in a video sequence.
JP2008211417A (en) Multi-viewpoint moving image transmission system
JP3917506B2 (en) Video signal recording and transmitting apparatus, monitoring system, and monitoring apparatus
JP2008515273A (en) Method for encoding partial video images
CN113556462B (en) Method and system for controlling pan-tilt zoom camera and storage medium
JP3956010B2 (en) Video transmission system and video transmission control method
JP2003163914A (en) Monitor system and picture transmission unit
CN101658039B (en) Dynamic image decoding method, dynamic image decoding device, and electronic apparatus
JP2001189932A (en) Image transmission system and image transmission method
JPH11239329A (en) Image transmitter and image transmission system using the same
JP2006080832A (en) Image transcoder
JP2005045666A (en) Transcoder
JP2009081622A (en) Moving image compression encoder
EP3977749A1 (en) Control system and method
JPH11187383A (en) Video monitor system and video monitor method
US11997428B2 (en) Control system and method
JP2003163923A (en) Monitoring system
JP2001177826A (en) Moving picture encoding method and device
JPH10290453A (en) Video transmission method and its system
JP2004242218A (en) Moving picture transmission apparatus, moving picture transmission system, program for moving picture, and moving picture transmission monitoring system
JP2009296208A (en) Dynamic image-reproducing device and dynamic image transmission system
JPH09307893A (en) Image communication system, image communication equipment display device
JP2001309337A (en) Image transmitter

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050307

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070116

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070315

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070410

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070419

R150 Certificate of patent or registration of utility model

Ref document number: 3956010

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100518

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100518

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110518

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130518

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140518

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term