JP4109879B2 - Image distribution system, communication apparatus, distribution apparatus, control method thereof, and storage medium - Google Patents

Image distribution system, communication apparatus, distribution apparatus, control method thereof, and storage medium Download PDF

Info

Publication number
JP4109879B2
JP4109879B2 JP2002055579A JP2002055579A JP4109879B2 JP 4109879 B2 JP4109879 B2 JP 4109879B2 JP 2002055579 A JP2002055579 A JP 2002055579A JP 2002055579 A JP2002055579 A JP 2002055579A JP 4109879 B2 JP4109879 B2 JP 4109879B2
Authority
JP
Japan
Prior art keywords
image
data
change information
frames
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2002055579A
Other languages
Japanese (ja)
Other versions
JP2003259341A (en
Inventor
義夫 飯塚
智明 河合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2002055579A priority Critical patent/JP4109879B2/en
Priority to US10/340,720 priority patent/US7130472B2/en
Publication of JP2003259341A publication Critical patent/JP2003259341A/en
Priority to US11/470,105 priority patent/US7974482B2/en
Priority to US12/132,987 priority patent/US7738720B2/en
Priority to US12/133,018 priority patent/US7738715B2/en
Priority to US12/133,002 priority patent/US7844121B2/en
Application granted granted Critical
Publication of JP4109879B2 publication Critical patent/JP4109879B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は画像配信装置と1台以上のクライアント端末がデータ伝送媒体により接続された画像配信システム、通信装置、配信装置、及びこれらの制御方法、記憶媒体に関し、特に画像変化検知機能に基づく制御に関する。
【0002】
【従来の技術】
インターネットやイントラネットなどのデータ伝送媒体を介して連続的に画像を配信する画像配信システムまたは監視システムはすでに社会に普及しており、ライブ映像の発信、屋内外の監視、動植物の観察など、様々な分野で利用されている。さらにこれらのシステムの中には、画像の時間的な変化を検知する機能(画像変化検知機能)を備えたものがある。そして、変化を検知したことに応じて、画像を送信したり、変化が検知されたことを通知したりしていた、
図10は従来の一般的な技術による画像変化検知機能付き画像配信装置または監視装置における符号化データおよび画像変化検知結果の送信手順である。
【0003】
同図に示したように、まずクライアント端末から画像データ送信要求が送られてくるので、それに対して画像配信装置が保持する最新の画像データ(符号化データ)を送信する。クライアント端末は、画像データ(符号化データ)を受信した後に次の画像データ送信要求を送信する。従って、画像データ(符号化データ)の送信フレームレートはデータ伝送媒体の伝送速度に依存するため、通常はJPEG符号化部から出力される符号化データのフレームレートよりも小さくなる。つまり、画像データ(符号化データ)の一部は送信されずに捨てられることになる。一方、図10に示した画像変化検知通知は画像配信装置からクライアント端末に、変化のあったフレームごとに一方的に送信されるので、もしすべてのフレームに画像変化があった場合、画像変化検知は画像データ(符号化データ)の送信フレームレートよりも大きなレートで検知していることになる。
【0004】
【発明が解決しようとする課題】
しかしながら、上記従来の技術においては、画像配信装置からクライアント端末に対して、フレームごとの変化の有無を知らせる2値情報のような単純な画像変化検知結果しか送信されていなかった。
【0005】
また、上述したように画像データ(符号化データ)と画像変化検知結果は同期して送信することができないため、どの画像フレームのどの領域がどのタイミングで変化したかなどといった詳細な画像変化検知情報をクライアント端末では知ることができなかった。
【0006】
そのため、受信画像と検知結果との同期をとりながら、正確な検知結果の表示がなされないために、ユーザが画像変化検知装置の設定をしようとする場合に、何度か試行錯誤して、検知状況を確かめなければならなかった。
【0007】
例えば、画像配信装置の画像変化検知部において、どのような条件で変化を検出するかを設定するためのパラメータを決めようとした場合を考える。受信画像のフレームレートが少なく、より高レートで出力される変化情報を全て認識できない場合には、検知状況を完全に把握出来ないので、何度か試行錯誤してパラメータを決めなければならない。
【0008】
また、画像のフレームレートよりも高いフレームレートで、変化情報を認識することも出来なかった。
【0009】
本発明は上記のような問題点に鑑みてなされたもので、画像データの送信タイミングに依らず常に詳細な画像変化情報を画像データと同期させてユーザに提供できる画像変化検知システムを提供することを目的としている。
【0010】
特に、通信回線の制限により、受信画像のフレームレートがあまり高くなくても、検知結果をより正確に認識可能にすることを目的とする。
【0011】
【課題を解決するための手段】
上記目的を達成するために、本発明に係る画像変化検知システムは、画像配信装置において、Nフレーム分の画像データを入力する入力手段と、前記Nフレーム分の画像データを順次1フレーム分保持する第1の保持手段と、前記第1の保持手段に保持された前記1フレームの画像データを符号化し、符号化データを生成する符号化手段と、前記第1の保持手段に順次1フレーム分保持されるNフレーム内の1フレームの画像データを取得し、保持する第2の保持手段と、前記第1の保持手段から入力されるNフレームの内、第2の保持手段に保持される画像データを除く(N−1)フレームの画像データの夫々と、前記第2の保持手段に保持されている、該画像データの夫々よりも前のフレームの画像データとを比較し、画像変化情報を生成する画像変化情報生成手段と、前記符号化手段によって生成された符号化データと、前記(N−1)フレーム分の画像変化情報とを前記通信装置に配信するデータ配信手段を備え、通信装置において、前記データ配信手段により配信されたデータを受信するデータ受信手段と、前記符号化データを復号し、復号化データを生成する復号化手段と、受信した前記(N−1)フレーム分の画像変化情報を、前記復号化データの表示と重なるように時系列に切り替えながら表示する表示手段とを備えることを特徴とする。
【0012】
【発明の実施の形態】
【実施例】
以下、図1乃至図9を使用して本発明の実施の形態を説明する。
【0013】
図1は本発明に係る画像変化検知機能を備えた画像配信システムまたは監視システムの概略構成を示すブロック図である。この構成では、ユーザがクライアント端末から画像配信装置の画像変化検知パラメータを設定することができるようになっている。
【0014】
この画像変化検知パラメータは、どのような条件で変化したと認識するかを決めるための条件である。
【0015】
本図において、画像の送信側にはカメラ100と画像配信装置200があり、画像の受信側にはクライアント端末300がある。画像配信装置200とクライアント端末300はインターネットやイントラネットなどのデータ伝送媒体を介して接続されている。なお、クライアント端末は複数接続することができるが、説明を簡単にするために本図には1台のクライアント端末しか示していない。また、画像配信装置200およびクライアント端末300の一方または両方とも専用装置である必要はなく、PC(パーソナルコンピュータ)などの演算装置に所定のソフトウェアをインストールした形態により実現することができる。
【0016】
カメラ100から出力されたアナログ映像信号は画像配信装置200に入力され、A/D変換部210によりディジタル信号(画像データ)に変換されてからフレームメモリ220に記憶される。JPEG符号化部240はフレームメモリ220に記憶された画像データを読み出し、JPEG符号化してからデータ合成部260に符号化データを渡す。フレームメモリ220に記憶された画像データは、一定の周期(フレームメモリ更新周期)ごとにフレームメモリ230に転送される。画像変化検知部250はフレームメモリ220から読み出した現在の画像データとフレームメモリ230から読み出した過去の画像データとを比較して画像変化検知を行い、図3に示した様な詳細な画像変化情報をデータ合成部260に渡す。なお、この画像変化検知は、画像を分割する所定単位のブロックごとに判別する。
【0017】
画像変化情報は、画像を分割する所定サイズのブロック毎に、変化検知の有無によって、0または1の信号で構成されており、実施例においては変化検知されたブロックについて1を与えている。
【0018】
データ合成部260はJPEG符号化部240から渡された最新の1フレーム分の符号化データと画像変化検知部250から渡された1または複数フレーム分の画像変化情報を記憶するが、過去のフレーム分の符号化データは記憶せずに廃棄する。データ合成部260は通信部270から合成データ送信要求を受け取ると、記憶している1フレーム分の符号化データと、所定の1または複数フレーム分の画像変化情報を合成して合成データを作成し、通信部270に渡すとともに、記憶している符号化データと画像変化情報をすべて消去する。ここで、合成データの作成方法には以下の2つがあり、いずれの方法を採用してもよい。
(I)JPEGデータのアプリケーションマーカを使用し、符号化データのヘッダ部に画像変化情報を挿入する。
(II)あらかじめ独自のデータフォーマットを定義しておき、この定義どおりに合成する。
【0019】
通信部270は図2に示した様な所定の手順に従って合成データをクライアント端末300に送信する。また、通信部270は所定の手順に従ってクライアント端末300から符号化パラメータおよび画像変化検知パラメータを受信し、符号化パラメータはJPEG符号化部240に設定し、画像変化検知パラメータは画像変化検知部250に設定する。JPEG符号化部240は設定された符号化パラメータに従って動作し、画像変化検知部250は設定された画像変化検知パラメータに従って動作する。
【0020】
クライアント端末300では、通信部310が所定の手順に従って合成データを受信する。合成データはデータ分離部320に渡され、1フレーム分の符号化データと1または複数フレーム分の画像変化情報に分離される。1フレーム分の符号化データはJPEG復号化部330に渡され、復号化されて画像データになり、表示部350に表示される。一方、1または複数フレーム分の画像変化情報は不図示の中央演算部で処理され、図5乃至図9に例示した様な手順に従って表示部350に図形として表示される。パラメータ設定部340は符号化パラメータおよび画像変化検知パラメータを入力するためのGUI(グラフィカルユーザインタフェース)を表示部350に表示し、ユーザが入力部360から入力した符号化パラメータおよび画像変化検知パラメータを受け取る。これらのパラメータは通信部310に渡され、所定の手順に従って画像配信装置200に送信される。
【0021】
なお、図1中の細い実線Aは画像データまたは符号化データの流れを示し、太い実線Bは合成データの流れを示し、点線Cは画像変化情報の流れを示し、破線Eは符号化パラメータおよび画像変化検知パラメータの流れを示し、一点鎖線DはGUIデータの流れを示している。
【0022】
図2は本発明に係る画像変化検知機能付き画像配信装置または監視装置における合成データの送信手順である。
【0023】
同図に示したように、まずクライアント端末300から合成データ送信要求が送られてくるので、それに対して画像配信装置200は最新の合成データを送信する。クライアント端末300は、合成データを受信した後に次の合成データ送信要求を送信する。
【0024】
図3は1フレーム分の画像変化情報を説明するための図である。
【0025】
同図において、左側の四角形のまとまり全体がフレームを示しており、1つ1つの四角形はフレームを分割して得られる所定サイズのブロックを示している。なお、このブロックはJPEG符号化のためのブロックに対応している。これにより、わざわざ検知結果のためにブロック化する手間も省くことができる。各ブロック内にはブロック番号が決められており、この例ではX軸方向に10ブロック、Y軸方向に8ブロックが含まれている。画像変化検知部250はブロック単位で画像変化の有無を計算し、画像変化があったブロックに対してビット1を与え、画像変化がなかったブロックに対してビット0を与え、すべてのビットをブロック番号順に並べることにより画像変化情報を作成する。こうして作成された画像変化情報は固定長データのまま符号化データと合成することもできるが、データ合成部260においてランレングス符号化などのエントロピー符号化を用いて圧縮してから記憶しておき、可変長データとして符号化データと合成してもよい。そうすれば、画像データが大きい場合や、変化情報が大きくなる場合や、画像のヘッダ部に割り当てる容量が少なくても十分に記録可能になりやすい。特に一度に合成すべき画像変化情報のフレーム数が多い時には有効となる。データ合成部260において画像変化情報をエントロピー符号化する場合は、データ分離部320において可変長データとして得られた画像変化情報をエントロピー復号化することにより固定長のビット列に復元しなければならない。
【0026】
図4は表示部350に表示される画像データと画像変化情報の表示例である。
【0027】
同図において、画像1000の上に画像変化情報として複数の変化検知ブロック(画像変化があったブロック)を示す四角形の枠線1001が描画される。
【0028】
図5は複数フレーム分の画像変化情報の表示手順を示すフローチャートである。ここで、合成データに含まれる画像変化情報のフレーム数をfnとし、何フレーム目の画像変化情報であるかを示す画像変化情報のフレームカウンタをfcとする。ただし、fcは0からfn−1までを有効範囲とする。
【0029】
同図において、ステップS01ではfcを0で初期化する。ステップS02では1フレーム分の画像データを表示部350に描画する。これにより、以前描画された画像データおよび画像変化情報はすべて消去される。ステップS03ではfc番目のフレーム分の画像変化情報を表示部350に描画する。ステップS03の詳細な説明は図6を用いて行う。ステップS04ではfcに1を加算し、ステップS05ではfcがfnに達したかどうかを判断する。fcがfn以上であれば、すでに全フレーム分の画像変化情報を描画したことになるので処理を終了する。逆にfcがfn未満であれば、ステップS06に進んでタイマを設定し、処理を中断する。この時、タイマに設定する時間(秒)は、1フレーム分の符号化データの平均データ量(ビット)をデータ伝送媒体の平均伝送速度(ビット毎秒)で割った値よりもやや短めの時間とするとよい。ただし、1フレーム分の符号化データの平均データ量やデータ伝送媒体の平均伝送速度は一定時間計測しないと求めることができないので、これらの値が得られるまではあらかじめ適当に決めておいた時間を設定すればよい。ステップS07でタイマからタイムアウト通知がやってきたら、ステップS02に戻る。以上の処理により、1フレーム分の画像データに対してfnフレーム分の画像変化情報が時系列的に切替えながら表示される。
【0030】
たとえば、1フレームの画像を表示中に、変化情報のみを更新して動画的に複数フレーム表示するようにした。
【0031】
図6は1フレーム分の画像変化情報の表示手順を示すフローチャートである。ここで、1フレームに含まれるX軸方向のブロック数をnx、Y軸方向のブロック数をny、X軸方向の何番目のブロックであるかを示すX軸方向のブロックカウンタをbx、Y軸方向の何番目のブロックであるかを示すY軸方向のブロックカウンタをby、ブロック位置(bx,by)における画像変化情報をd(bx,by)、ブロックの幅をbw、ブロックの高さをbh、所定の描画色をcrとする。ただし、bxは0からnx−1までを有効範囲とし、byは0からny−1までを有効範囲とする。
【0032】
同図において、ステップS11ではbxとbyをいずれも0で初期化する。ステップS12ではd(bx,by)が0より大きいかどうか(0か1か)を判断し、0より大きい場合(1の場合)は変化のあったブロックなのでステップS13に進み、0以下の場合(0の場合)は変化のなかったブロックなのでステップS14に進む。ステップS13ではブロック位置(bx,by)に変化検知ブロックであることを示す四角形の枠線を所定の描画色crを用いて描画してから、ステップS14に進む。この際、四角形の左上隅のX座標はbx掛けるbw、Y座標はby掛けるbhの計算により求められる。また、四角形の幅はbw、高さはbhである。なお、四角形の描画色crは図6の処理手順を呼び出す側があらかじめ決めておく。
【0033】
ステップS14ではbxに1を加算し、ステップS15ではbxがnxに達したかどうかを判断する。bxがnx以上であれば現在のbyに対応するブロック(1ブロックライン)はすべて処理したことになるのでステップS16に進み、逆にbxがnx未満であればステップS12に戻る。ステップS16ではbxに0を代入し、byに1を加算してから、ステップS17に進む。ステップS17ではbyがnyに達したかどうかを判断する。byがny以上であればすべてのブロックを処理したことになるので処理を終了し、逆にbyがny未満であればステップS12に戻る。以上の処理により、1フレーム分の画像変化情報が表示される。
【0034】
図7は複数フレーム分の画像変化情報の表示手順を示すフローチャートである。ここで、合成データに含まれる画像変化情報のフレーム数をfnとし、何フレーム目の画像変化情報であるかを示す画像変化情報のフレームカウンタをfcとする。ただし、fcは0からfn−1までを有効範囲とする。
【0035】
同図において、ステップS21ではfcを0で初期化する。ステップS22では1フレーム分の画像データを表示部350に描画する。ステップS23ではfc番目のフレーム分の画像変化情報をあらかじめ決めておいたfc番目の描画色を用いて表示部350に描画する。ステップS03の詳細な処理手順は図6に示したものと同じである。ステップS24ではfcに1を加算し、ステップS25ではfcがfnに達したかどうかを判断する。fcがfn以上であれば、すでに全フレーム分の画像変化情報を描画したことになるので処理を終了する。逆にfcがfn未満であれば、ステップS23に戻る。以上の処理により、1フレーム分の画像データに対してfnフレーム分の画像変化情報がそれぞれ異なる表示色により表示される。この際、古いフレーム分の画像変化情報から順番に描画されるので、複数のフレームで変化のあったブロックに対しては、より新しいフレーム分の画像変化情報が上描きされることになる。
【0036】
(第2の実施形態)
本実施形態では、第1の実施形態と比較して、画像変化情報の表示の仕方が異なるだけであり、その装置構成などはほとんど同一であり、詳しい説明は省略する。
【0037】
図8は第2の実施形態における複数フレーム分の画像変化情報の表示手順の前処理を示すフローチャートである。ここで、合成データに含まれる画像変化情報のフレーム数をfn、何フレーム目の画像変化情報であるかを示す画像変化情報のフレームカウンタをfc、1フレームに含まれるX軸方向のブロック数をnx、Y軸方向のブロック数をny、X軸方向の何番目のブロックであるかを示すX軸方向のブロックカウンタをbx、Y軸方向の何番目のブロックであるかを示すY軸方向のブロックカウンタをby、fc番目のフレーム分のブロック位置(bx,by)における画像変化情報をd(fc,bx,by)とする。ただし、fcは0からfn−1までを有効範囲とし、bxは0からnx−1までを有効範囲とし、byは0からny−1までを有効範囲とする。
【0038】
同図において、ステップS31ではfc、bxおよびbyをいずれも0で初期化する。ステップS32ではd(fc,bx,by)を0で初期化する。ステップS33ではd(fc,bx,by)が0より大きいかどうか(0か1か)を判断し、0より大きい場合(1の場合)は変化のあったブロックなのでステップS34に進み、0以下の場合(0の場合)は変化のなかったブロックなのでステップS35に進む。ステップS34ではd(fc,bx,by)に1を代入し、ステップS37に進む。ステップS35ではfcに1を加算し、ステップS36ではfcがfnに達したかどうかを判断する。fcがfn以上であれば、ブロック位置(bx,by)における全フレーム分の画像変化情報を調べたことになるのでステップS37に進む。逆に、fcがfn未満であればステップS33に戻る。ステップS37ではfcに0を代入し、bxに1を加算してから、ステップS38に進む。ステップS38ではbxがnxに達したかどうかを判断する。bxがnx以上であれば現在のbyに対応するブロック(1ブロックライン)はすべて前処理したことになるのでステップS39に進み、逆にbxがnx未満であればステップS32に戻る。ステップS39ではbxに0を代入し、byに1を加算してから、ステップS40に進む。ステップS40ではbyがnyに達したかどうかを判断する。byがny以上であればすべてのブロックを前処理したことになるので前処理を終了し、逆にbyがny未満であればステップS32に戻る。以上の前処理により、画像変化情報が1フレーム分追加されて、fn+1フレーム分の画像変化情報が得られる。この後、fnに1を加算してから図7に示した処理を実行すると、1フレーム分の画像データに対して複数フレーム分の画像変化情報がそれぞれ異なる表示色により表示され、なおかつ複数のフレームで同じ位置に画像変化があった場合にはその位置にはさらに別の表示色が使用される(最後に追加された画像変化情報の表示色として表示される)。
【0039】
(第3の実施形態)
本実施形態では、第1、第2の実施形態と比較して、画像変化情報の表示の仕方が異なるだけであり、その装置構成などはほとんど同一であり、詳しい説明は省略する。
【0040】
図9は第3の実施形態mp複数フレーム分の画像変化情報の表示手順の前処理を示すフローチャートである。ここで、合成データに含まれる画像変化情報のフレーム数をfn、何フレーム目の画像変化情報であるかを示す画像変化情報のフレームカウンタをfc、1フレームに含まれるX軸方向のブロック数をnx、Y軸方向のブロック数をny、X軸方向の何番目のブロックであるかを示すX軸方向のブロックカウンタをbx、Y軸方向の何番目のブロックであるかを示すY軸方向のブロックカウンタをby、fc番目のフレーム分のブロック位置(bx,by)における画像変化情報をd(fc,bx,by)、複数フレームから求めたブロック位置(bx,by)における多値の画像変化情報をdm(bx,by)とする。ただし、fcは0からfn−1までを有効範囲とし、bxは0からnx−1までを有効範囲とし、byは0からny−1までを有効範囲とする。
【0041】
同図において、ステップS51ではfc、bxおよびbyをいずれも0で初期化する。ステップS52ではdm(bx,by)を0で初期化する。ステップS53ではdm(bx,by)にd(fc,bx,by)を加算し、fcに1を加算する。ステップS54ではfcがfnに達したかどうかを判断する。fcがfn以上であれば、ブロック位置(bx,by)における全フレーム分の画像変化情報を加算したことになるのでステップS55に進む。逆に、fcがfn未満であればステップS53に戻る。ステップS55ではfcに0を代入し、bxに1を加算してから、ステップS56に進む。ステップS56ではbxがnxに達したかどうかを判断する。bxがnx以上であれば現在のbyに対応するブロック(1ブロックライン)はすべて前処理したことになるのでステップS57に進み、逆にbxがnx未満であればステップS52に戻る。ステップS57ではbxに0を代入し、byに1を加算してから、ステップS58に進む。ステップS58ではbyがnyに達したかどうかを判断する。byがny以上であればすべてのブロックを前処理したことになるので前処理を終了し、逆にbyがny未満であればステップS52に戻る。以上の前処理により、複数の画像変化情報がブロック位置ごとに加算された多値の画像変化情報が得られる。この多値の画像変化情報の値または値の範囲ごとに異なる表示色を与えて図6に示した処理と同様の処理を実行すると、1フレーム分の画像データに対して複数フレーム分の画像変化情報の加算結果に応じて異なる表示色を用いた表示となる。
【0042】
以上の様に、受信画像と検知結果との同期をとりながら、1フレーム分の画像データに対して複数フレーム分の画像変化情報を表示することが出来た。
【0043】
また、データ分離手段により1フレーム分の画像データと複数フレーム分の画像変化情報が得られた場合、1フレーム分の画像データを表示している間に複数フレーム分の画像変化情報を時系列に切替えながら表示する(例えば、画像変化情報のみを更新して、動画の様に表示する)ようにしたので、時間変化に応じた変化情報が認識可能になる。
【0044】
また、データ分離手段により1フレーム分の画像データと複数フレーム分の画像変化情報が得られた場合、1フレーム分の画像データに対して複数フレーム分の画像変化情報を同時に重ね合わせて表示するようにしたので、画像のフレームレートが低くても、変化検知情報だけは高いフレームレートで認識可能になった。これは、変化検知情報をより重要視する場合に有効である。
【0045】
また、複数フレーム分の画像変化情報を同時に重ね合わせて表示する際に、各フレーム分の画像変化情報ごとに表示色を変え、フレームが古いものから順番に画像変化があった位置にのみ画像変化情報を描画するようにしたので、時間変化に応じた変化情報が認識可能になる。
【0046】
また、複数フレーム分の画像変化情報を同時に重ね合わせて表示する際に、各フレーム分の画像変化情報ごとに表示色を変え、なおかつ複数のフレームで同じ位置に画像変化があった場合にはその位置にさらに別の表示色を使用するようにしたので、時間変化に応じた変化情報が認識可能になるし、どの位置に集中して変化が検知されたかを認識しやすくなる。
【0047】
また、複数フレーム分の画像変化情報を同時に重ね合わせて表示する際に、各フレーム分の画像変化情報を同じ位置ごとに加算し、加算結果に応じて表示色を変えるようにしたので、時間変化に応じた変化情報が認識可能になるし、どの位置に集中して変化が検知されたかを認識しやすくなる。
【0048】
【発明の効果】
以上説明したように本発明によれば、代表画像データを表示している間に複数フレーム分の画像変化情報を、代表画像データの表示と重なるように時系列に切替えながら表示することで、時間変化に応じた変化情報が認識可能になる。
【0049】
特に通信回線の制限により、画像のフレームレートを大きく出来ない場合に本発明は大変有効である。
【図面の簡単な説明】
【図1】実施例における画像変化検知機能を備えた画像配信システムまたは監視システムの概略構成を示すブロック図である。
【図2】実施例における画像変化検知機能付き画像配信装置または監視装置における合成データの送信手順である。
【図3】実施例における1フレーム分の画像変化情報を説明するための図である。
【図4】表示部350に表示される画像データと画像変化情報の表示例である。
【図5】実施例における複数フレーム分の画像変化情報の表示手順を示すフローチャートである。
【図6】実施例における1フレーム分の画像変化情報の表示手順を示すフローチャートである。
【図7】実施例における複数フレーム分の画像変化情報の表示手順を示すフローチャートである。
【図8】第2実施例における複数フレーム分の画像変化情報の表示手順の前処理を示すフローチャートである。
【図9】第3実施例における複数フレーム分の画像変化情報の表示手順の前処理を示すフローチャートである。
【図10】従来の一般的な技術による画像変化検知機能付き画像配信装置または監視装置における符号化データおよび画像変化検知結果の送信手順である。
【符号の説明】
100 カメラ
200 画像配信装置
210 A/D変換部
220 (第一の)フレームメモリ
230 (第二の)フレームメモリ
240 JPEG符号化部
250 画像変化検知部
260 データ合成部
270 通信部
300 クライアント端末
310 通信部
320 データ分離部
330 JPEG復号化部
340 パラメータ設定部
350 表示部
360 入力部
1000 画像
1001 画像変化情報の表示例(複数の変化検知ブロックを示す四角形の枠線)
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image distribution system, a communication apparatus, a distribution apparatus, and a control method and storage medium in which an image distribution apparatus and one or more client terminals are connected by a data transmission medium, and more particularly to control based on an image change detection function. .
[0002]
[Prior art]
Image distribution systems or monitoring systems that distribute images continuously via data transmission media such as the Internet and Intranet are already in widespread use in society, and include various functions such as live video transmission, indoor / outdoor monitoring, and observation of animals and plants. Used in the field. Furthermore, some of these systems have a function of detecting temporal changes in images (image change detection function). In response to detecting the change, it sent an image or notified that the change was detected.
FIG. 10 shows a transmission procedure of encoded data and an image change detection result in an image distribution device with an image change detection function or a monitoring device according to a conventional general technique.
[0003]
As shown in the figure, first, an image data transmission request is sent from the client terminal, and the latest image data (encoded data) held by the image distribution apparatus is transmitted in response thereto. The client terminal transmits the next image data transmission request after receiving the image data (encoded data). Therefore, since the transmission frame rate of the image data (encoded data) depends on the transmission speed of the data transmission medium, it is usually smaller than the frame rate of the encoded data output from the JPEG encoding unit. That is, a part of the image data (encoded data) is discarded without being transmitted. On the other hand, since the image change detection notification shown in FIG. 10 is unilaterally transmitted from the image distribution apparatus to the client terminal for each changed frame, if there is an image change in all frames, the image change detection is performed. Is detected at a rate larger than the transmission frame rate of image data (encoded data).
[0004]
[Problems to be solved by the invention]
However, in the above-described conventional technology, only a simple image change detection result such as binary information informing the presence or absence of a change for each frame is transmitted from the image distribution apparatus to the client terminal.
[0005]
Further, as described above, since image data (encoded data) and an image change detection result cannot be transmitted in synchronization, detailed image change detection information such as which region of which image frame has changed at which timing, etc. Could not be known at the client terminal.
[0006]
Therefore, when the user tries to set up the image change detection device because the detection result is not displayed accurately while the received image is synchronized with the detection result, the detection is performed by trial and error several times. I had to check the situation.
[0007]
For example, consider a case in which an image change detection unit of an image distribution apparatus tries to determine parameters for setting under what conditions a change is detected. If the frame rate of the received image is low and all change information output at a higher rate cannot be recognized, the detection status cannot be completely grasped, and parameters must be determined by trial and error several times.
[0008]
Further, change information could not be recognized at a frame rate higher than the frame rate of the image.
[0009]
The present invention has been made in view of the above problems, and provides an image change detection system that can always provide detailed image change information to a user in synchronization with image data regardless of the transmission timing of the image data. It is an object.
[0010]
In particular, it is an object of the present invention to make it possible to recognize a detection result more accurately even if the frame rate of a received image is not so high due to a limitation of a communication line.
[0011]
[Means for Solving the Problems]
  In order to achieve the above object, an image change detection system according to the present invention is provided in an image distribution device,Input means for inputting image data for N frames, first holding means for sequentially holding the image data for N frames for one frame, and image data for the one frame held in the first holding means Encoding means for generating encoded data, and second holding means for acquiring and holding image data of one frame in N frames sequentially held for one frame in the first holding means, and Of the N frames input from the first holding means, the image data of (N-1) frames excluding the image data held in the second holding means are held in the second holding means. Image change information generating means for comparing image data of frames before each of the image data to generate image change information, encoded data generated by the encoding means, and ( -1) Data distribution means for distributing image change information for a frame to the communication device, wherein the communication device receives data distributed by the data distribution means, and decodes the encoded data Decoding means for generating decoded data, and display means for displaying the received image change information for (N-1) frames while switching in time series so as to overlap the display of the decoded data.It is characterized by providing.
[0012]
DETAILED DESCRIPTION OF THE INVENTION
【Example】
Hereinafter, embodiments of the present invention will be described with reference to FIGS.
[0013]
FIG. 1 is a block diagram showing a schematic configuration of an image distribution system or a monitoring system having an image change detection function according to the present invention. In this configuration, the user can set the image change detection parameter of the image distribution apparatus from the client terminal.
[0014]
This image change detection parameter is a condition for determining under which conditions the change is recognized.
[0015]
In this figure, there are a camera 100 and an image distribution device 200 on the image transmission side, and a client terminal 300 on the image reception side. The image distribution apparatus 200 and the client terminal 300 are connected via a data transmission medium such as the Internet or an intranet. Although a plurality of client terminals can be connected, only one client terminal is shown in the figure for the sake of simplicity. Further, one or both of the image distribution apparatus 200 and the client terminal 300 do not have to be dedicated devices, and can be realized by a form in which predetermined software is installed in a computing device such as a PC (personal computer).
[0016]
The analog video signal output from the camera 100 is input to the image distribution apparatus 200, converted into a digital signal (image data) by the A / D conversion unit 210, and then stored in the frame memory 220. The JPEG encoding unit 240 reads the image data stored in the frame memory 220, performs JPEG encoding, and then passes the encoded data to the data synthesis unit 260. The image data stored in the frame memory 220 is transferred to the frame memory 230 at regular intervals (frame memory update cycle). The image change detection unit 250 compares the current image data read from the frame memory 220 with the past image data read from the frame memory 230 to detect the image change, and the detailed image change information as shown in FIG. Is passed to the data composition unit 260. In addition, this image change detection is discriminate | determined for every block of the predetermined unit which divides | segments an image.
[0017]
The image change information is composed of a signal of 0 or 1 depending on the presence or absence of change detection for each block of a predetermined size that divides the image. In the embodiment, 1 is given to the block whose change is detected.
[0018]
The data synthesis unit 260 stores the latest encoded data for one frame passed from the JPEG encoding unit 240 and the image change information for one or more frames passed from the image change detection unit 250. The encoded data for the minute is discarded without being stored. When the data composition unit 260 receives the composite data transmission request from the communication unit 270, the data composition unit 260 composes the stored encoded data for one frame and image change information for one or more predetermined frames to create composite data. , The data is transferred to the communication unit 270 and all the stored encoded data and image change information are deleted. Here, there are the following two methods for creating the composite data, and either method may be adopted.
(I) Using an application marker of JPEG data, image change information is inserted into the header portion of the encoded data.
(II) A unique data format is defined in advance and synthesized according to this definition.
[0019]
The communication unit 270 transmits the composite data to the client terminal 300 according to a predetermined procedure as shown in FIG. The communication unit 270 receives the encoding parameter and the image change detection parameter from the client terminal 300 according to a predetermined procedure, sets the encoding parameter in the JPEG encoding unit 240, and sets the image change detection parameter in the image change detection unit 250. Set. The JPEG encoding unit 240 operates according to the set encoding parameter, and the image change detection unit 250 operates according to the set image change detection parameter.
[0020]
In the client terminal 300, the communication unit 310 receives the composite data according to a predetermined procedure. The synthesized data is passed to the data separation unit 320 and separated into encoded data for one frame and image change information for one or a plurality of frames. The encoded data for one frame is transferred to the JPEG decoding unit 330, decoded into image data, and displayed on the display unit 350. On the other hand, image change information for one or a plurality of frames is processed by a central processing unit (not shown) and displayed as a graphic on the display unit 350 according to the procedure illustrated in FIGS. The parameter setting unit 340 displays a GUI (graphical user interface) for inputting the encoding parameter and the image change detection parameter on the display unit 350, and receives the encoding parameter and the image change detection parameter input from the input unit 360 by the user. . These parameters are transferred to the communication unit 310 and transmitted to the image distribution apparatus 200 according to a predetermined procedure.
[0021]
In FIG. 1, a thin solid line A indicates a flow of image data or encoded data, a thick solid line B indicates a flow of synthesized data, a dotted line C indicates a flow of image change information, and a broken line E indicates an encoding parameter and The flow of image change detection parameters is shown, and the alternate long and short dash line D shows the flow of GUI data.
[0022]
FIG. 2 shows a synthetic data transmission procedure in the image distribution apparatus with image change detection function or the monitoring apparatus according to the present invention.
[0023]
As shown in the figure, since a composite data transmission request is first sent from the client terminal 300, the image distribution apparatus 200 transmits the latest composite data in response thereto. The client terminal 300 transmits the next composite data transmission request after receiving the composite data.
[0024]
FIG. 3 is a diagram for explaining image change information for one frame.
[0025]
In the same figure, the entire group of left squares shows a frame, and each square shows a block of a predetermined size obtained by dividing the frame. This block corresponds to a block for JPEG encoding. Thereby, the trouble of making a block for the detection result can be saved. Each block has a block number. In this example, 10 blocks are included in the X-axis direction and 8 blocks are included in the Y-axis direction. The image change detection unit 250 calculates the presence / absence of an image change for each block, gives bit 1 to a block having an image change, gives bit 0 to a block having no image change, and blocks all bits. Image change information is created by arranging in numerical order. The image change information created in this way can be combined with the encoded data without changing the fixed-length data, but is stored after being compressed using entropy encoding such as run-length encoding in the data combining unit 260, It may be combined with encoded data as variable length data. Then, when the image data is large, the change information becomes large, or even if the capacity allocated to the header portion of the image is small, it is easy to record sufficiently. This is particularly effective when the number of frames of image change information to be synthesized at a time is large. In the case where the image change information is entropy-encoded in the data synthesis unit 260, the image change information obtained as variable length data in the data separation unit 320 must be restored to a fixed-length bit string by entropy decoding.
[0026]
FIG. 4 is a display example of image data and image change information displayed on the display unit 350.
[0027]
In the drawing, a rectangular frame line 1001 indicating a plurality of change detection blocks (blocks having image changes) is drawn on the image 1000 as image change information.
[0028]
FIG. 5 is a flowchart showing a display procedure of image change information for a plurality of frames. Here, the number of frames of the image change information included in the composite data is set to fn, and the frame counter of the image change information indicating which frame the image change information is set to fc. However, the effective range of fc is from 0 to fn-1.
[0029]
In the figure, fc is initialized to 0 in step S01. In step S02, one frame of image data is drawn on the display unit 350. As a result, all previously drawn image data and image change information are erased. In step S03, image change information for the fc-th frame is drawn on the display unit 350. Details of step S03 will be described with reference to FIG. In step S04, 1 is added to fc, and in step S05, it is determined whether or not fc has reached fn. If fc is greater than or equal to fn, the image change information for all frames has already been drawn, and the process ends. Conversely, if fc is less than fn, the process proceeds to step S06, where a timer is set and the process is interrupted. At this time, the time (seconds) set in the timer is slightly shorter than the value obtained by dividing the average data amount (bits) of encoded data for one frame by the average transmission rate (bits per second) of the data transmission medium. Good. However, since the average amount of encoded data for one frame and the average transmission speed of the data transmission medium cannot be obtained unless they are measured for a certain period of time, a predetermined time is required until these values are obtained. You only have to set it. If a time-out notification is received from the timer in step S07, the process returns to step S02. With the above processing, image change information for fn frames is displayed while switching in time series with respect to image data for one frame.
[0030]
For example, while displaying a single frame image, only the change information is updated to display multiple frames as a moving image.
[0031]
FIG. 6 is a flowchart showing a display procedure of image change information for one frame. Here, the number of blocks in the X axis direction included in one frame is nx, the number of blocks in the Y axis direction is ny, the block counter in the X axis direction indicating the number of blocks in the X axis direction is bx, Y axis The block counter in the Y-axis direction indicating the number of the block in the direction is by, the image change information at the block position (bx, by) is d (bx, by), the block width is bw, and the block height is bh, a predetermined drawing color is cr. However, bx is an effective range from 0 to nx-1, and by is an effective range from 0 to ny-1.
[0032]
In the figure, in step S11, both bx and by are initialized with 0. In step S12, it is determined whether d (bx, by) is greater than 0 (0 or 1). If it is greater than 0 (1), the block has changed, and the process proceeds to step S13. Since (0) is a block that has not changed, the process proceeds to step S14. In step S13, a rectangular frame indicating a change detection block is drawn at the block position (bx, by) using a predetermined drawing color cr, and the process proceeds to step S14. At this time, the X coordinate of the upper left corner of the quadrangle is obtained by calculating bx multiplied by bw, and the Y coordinate calculated by by multiplied by bh. The width of the quadrangle is bw and the height is bh. Note that the rectangular drawing color cr is determined in advance by the caller of the processing procedure of FIG.
[0033]
In step S14, 1 is added to bx, and in step S15, it is determined whether bx has reached nx. If bx is greater than or equal to nx, all the blocks (one block line) corresponding to the current by have been processed, and the process proceeds to step S16. If bx is less than nx, the process returns to step S12. In step S16, 0 is substituted for bx, 1 is added to by, and then the process proceeds to step S17. In step S17, it is determined whether or not by has reached ny. If by is greater than or equal to ny, all blocks have been processed, and the process ends. Conversely, if by is less than ny, the process returns to step S12. Through the above processing, image change information for one frame is displayed.
[0034]
FIG. 7 is a flowchart showing a display procedure of image change information for a plurality of frames. Here, the number of frames of the image change information included in the composite data is set to fn, and the frame counter of the image change information indicating the number of frames of the image change information is set to fc. However, the effective range of fc is from 0 to fn-1.
[0035]
In the figure, fc is initialized to 0 in step S21. In step S22, one frame of image data is drawn on the display unit 350. In step S23, the image change information for the fc-th frame is drawn on the display unit 350 using the fc-th drawing color determined in advance. The detailed processing procedure of step S03 is the same as that shown in FIG. In step S24, 1 is added to fc, and in step S25, it is determined whether or not fc has reached fn. If fc is greater than or equal to fn, the image change information for all frames has already been drawn, and the process ends. Conversely, if fc is less than fn, the process returns to step S23. With the above processing, image change information for fn frames is displayed in different display colors with respect to image data for one frame. At this time, since the image change information for the old frame is drawn in order, the image change information for the newer frame is overdrawn for a block that has changed in a plurality of frames.
[0036]
(Second Embodiment)
The present embodiment is different from the first embodiment only in how image change information is displayed, and the apparatus configuration is almost the same, and detailed description thereof is omitted.
[0037]
FIG. 8 is a flowchart showing pre-processing of a display procedure of image change information for a plurality of frames in the second embodiment. Here, the number of frames of the image change information included in the composite data is fn, the frame counter of the image change information indicating which frame the image change information is fc, and the number of blocks in the X-axis direction included in one frame. nx, the number of blocks in the Y axis direction is ny, the block counter in the X axis direction indicating the number of blocks in the X axis direction is bx, the block number in the Y axis direction indicating the number of blocks in the Y axis direction Assume that the block counter is by and the image change information at the block position (bx, by) for the fc-th frame is d (fc, bx, by). However, fc is an effective range from 0 to fn-1, bx is an effective range from 0 to nx-1, and by is an effective range from 0 to ny-1.
[0038]
In the figure, in step S31, fc, bx and by are all initialized to 0. In step S32, d (fc, bx, by) is initialized with zero. In step S33, it is determined whether or not d (fc, bx, by) is greater than 0 (0 or 1). If it is greater than 0 (in the case of 1), the block has changed, and the process proceeds to step S34. In the case of (0), since the block has not changed, the process proceeds to step S35. In step S34, 1 is substituted into d (fc, bx, by), and the process proceeds to step S37. In step S35, 1 is added to fc, and in step S36, it is determined whether or not fc has reached fn. If fc is equal to or greater than fn, the image change information for all frames at the block position (bx, by) has been examined, and the process proceeds to step S37. Conversely, if fc is less than fn, the process returns to step S33. In step S37, 0 is substituted for fc, 1 is added to bx, and the process proceeds to step S38. In step S38, it is determined whether bx has reached nx. If bx is greater than or equal to nx, all the blocks (one block line) corresponding to the current by have been preprocessed, so the process proceeds to step S39. Conversely, if bx is less than nx, the process returns to step S32. In step S39, 0 is substituted for bx, 1 is added to by, and then the process proceeds to step S40. In step S40, it is determined whether or not by has reached ny. If by is greater than or equal to ny, all blocks have been preprocessed, so the preprocessing is terminated. Conversely, if by is less than ny, the process returns to step S32. Through the preprocessing described above, image change information for one frame is added, and image change information for fn + 1 frames is obtained. Thereafter, when 1 is added to fn and the processing shown in FIG. 7 is executed, image change information for a plurality of frames is displayed in different display colors for one frame of image data, and a plurality of frames are displayed. When there is an image change at the same position, another display color is used at that position (displayed as the display color of the image change information added last).
[0039]
(Third embodiment)
In this embodiment, compared with the first and second embodiments, only the display method of image change information is different, and the apparatus configuration and the like are almost the same, and detailed description thereof is omitted.
[0040]
FIG. 9 is a flowchart showing preprocessing of a display procedure of image change information for a plurality of frames according to the third embodiment. Here, the number of frames of the image change information included in the composite data is fn, the frame counter of the image change information indicating which frame the image change information is fc, and the number of blocks in the X-axis direction included in one frame. nx, the number of blocks in the Y axis direction is ny, the block counter in the X axis direction indicating the number of blocks in the X axis direction is bx, the block number in the Y axis direction indicating the number of blocks in the Y axis direction The block counter is by, the image change information at the block position (bx, by) for the fc-th frame is d (fc, bx, by), and the multi-value image change at the block position (bx, by) obtained from a plurality of frames The information is dm (bx, by). However, fc is an effective range from 0 to fn-1, bx is an effective range from 0 to nx-1, and by is an effective range from 0 to ny-1.
[0041]
In the figure, in step S51, fc, bx and by are all initialized to 0. In step S52, dm (bx, by) is initialized with zero. In step S53, d (fc, bx, by) is added to dm (bx, by), and 1 is added to fc. In step S54, it is determined whether or not fc has reached fn. If fc is equal to or greater than fn, the image change information for all frames at the block position (bx, by) is added, and the process proceeds to step S55. Conversely, if fc is less than fn, the process returns to step S53. In step S55, 0 is substituted into fc, 1 is added to bx, and then the process proceeds to step S56. In step S56, it is determined whether bx has reached nx. If bx is greater than or equal to nx, all the blocks (one block line) corresponding to the current by have been preprocessed, so the process proceeds to step S57. Conversely, if bx is less than nx, the process returns to step S52. In step S57, 0 is substituted for bx, 1 is added to by, and then the process proceeds to step S58. In step S58, it is determined whether or not by has reached ny. If by is greater than or equal to ny, all blocks have been preprocessed, so the preprocessing is terminated. Conversely, if by is less than ny, the process returns to step S52. Through the above preprocessing, multivalued image change information obtained by adding a plurality of pieces of image change information for each block position is obtained. When a different display color is given for each value or value range of the multi-value image change information and the same processing as the processing shown in FIG. 6 is executed, the image change for a plurality of frames is performed on the image data for one frame. The display is performed using different display colors depending on the information addition result.
[0042]
As described above, the image change information for a plurality of frames can be displayed for the image data for one frame while synchronizing the received image and the detection result.
[0043]
Further, when image data for one frame and image change information for a plurality of frames are obtained by the data separation means, the image change information for a plurality of frames is displayed in time series while the image data for one frame is displayed. Since the display is performed while switching (for example, only the image change information is updated and displayed like a moving image), the change information corresponding to the time change can be recognized.
[0044]
Further, when image data for one frame and image change information for a plurality of frames are obtained by the data separation means, the image change information for a plurality of frames is simultaneously superimposed and displayed on the image data for one frame. Therefore, even if the frame rate of the image is low, only the change detection information can be recognized at a high frame rate. This is effective when importance is attached to the change detection information.
[0045]
In addition, when displaying the image change information for multiple frames at the same time, the display color is changed for each image change information for each frame, and the image changes only at the position where the image changes in order from the oldest frame. Since the information is drawn, the change information corresponding to the time change can be recognized.
[0046]
Also, when displaying the image change information for multiple frames at the same time, the display color is changed for each image change information for each frame, and if there is an image change at the same position in multiple frames, Since another display color is used for the position, it becomes possible to recognize the change information corresponding to the time change, and it is easy to recognize the position where the change is detected.
[0047]
In addition, when image change information for multiple frames is superimposed and displayed at the same time, image change information for each frame is added at the same position, and the display color is changed according to the addition result. It is possible to recognize change information according to the position, and it is easy to recognize at which position the change is detected.
[0048]
【The invention's effect】
  As described above, according to the present invention,While displaying the representative image data, the image change information for a plurality of frames is displayed while being switched in time series so as to overlap the display of the representative image data, so that the change information corresponding to the time change can be recognized. .
[0049]
In particular, the present invention is very effective when the frame rate of an image cannot be increased due to communication line limitations.
[Brief description of the drawings]
FIG. 1 is a block diagram illustrating a schematic configuration of an image distribution system or a monitoring system having an image change detection function in an embodiment.
FIG. 2 is a synthetic data transmission procedure in an image distribution device with an image change detection function or a monitoring device in the embodiment.
FIG. 3 is a diagram for explaining image change information for one frame in the embodiment.
4 is a display example of image data and image change information displayed on a display unit 350. FIG.
FIG. 5 is a flowchart illustrating a display procedure of image change information for a plurality of frames in the embodiment.
FIG. 6 is a flowchart illustrating a display procedure of image change information for one frame in the embodiment.
FIG. 7 is a flowchart illustrating a display procedure of image change information for a plurality of frames in the embodiment.
FIG. 8 is a flowchart showing preprocessing of a display procedure of image change information for a plurality of frames in the second embodiment.
FIG. 9 is a flowchart showing pre-processing of a display procedure of image change information for a plurality of frames in the third embodiment.
FIG. 10 is a transmission procedure of encoded data and an image change detection result in an image distribution apparatus with an image change detection function or a monitoring apparatus according to a conventional general technique.
[Explanation of symbols]
100 cameras
200 Image Distribution Device
210 A / D converter
220 (first) frame memory
230 (second) frame memory
240 JPEG encoding unit
250 Image change detection unit
260 Data composition unit
270 communication unit
300 client terminals
310 Communication unit
320 Data separator
330 JPEG decoding unit
340 Parameter setting section
350 display
360 input section
1000 images
1001 Display example of image change information (rectangular frame indicating a plurality of change detection blocks)

Claims (17)

画像配信装置と通信装置がデータ伝送媒体により接続された画像配信システムであって、
画像配信装置において、
Nフレーム分の画像データを入力する入力手段と、
前記Nフレーム分の画像データを順次1フレーム分保持する第1の保持手段と、
前記第1の保持手段に保持された前記1フレームの画像データを符号化し、符号化データを生成する符号化手段と、
前記第1の保持手段に順次1フレーム分保持されNフレーム内の1フレームの画像データを取得し、保持する第2の保持手段と、
前記第1の保持手段から入力されるNフレームの内、第2の保持手段に保持される画像データを除く(N−1)フレームの画像データの夫々と、前記第2の保持手段に保持されている、該画像データの夫々よりも前のフレームの画像データとを比較し、画像変化情報を生成する画像変化情報生成手段と、
前記符号化手段によって生成された符号化データと、前記(N−1)フレーム分の画像変化情報とを前記通信装置に配信するデータ配信手段を備え、
通信装置において、
前記データ配信手段により配信されたデータを受信するデータ受信手段と、
前記符号化データを復号し、復号化データを生成する復号化手段と、
受信した前記(N−1)フレーム分の画像変化情報を、前記復号化データの表示と重なるように時系列に切り替えながら表示する表示手段とを備えることを特徴とする画像配信システム。
An image distribution system in which an image distribution device and a communication device are connected by a data transmission medium,
In the image distribution device,
Input means for inputting image data for N frames;
First holding means for sequentially holding the image data for N frames for one frame ;
Encoding means for encoding the image data of the one frame held in the first holding means and generating encoded data;
Second holding means acquires the image data of one frame in the N frame that will be sequentially one frame held in said first holding means, for holding,
Of the N frames input from the first holding means, each of the image data of (N-1) frames excluding the image data held in the second holding means is held in the second holding means. Image change information generating means for comparing image data of frames before each of the image data and generating image change information;
Data distribution means for distributing the encoded data generated by the encoding means and the image change information for the (N-1) frames to the communication device ,
In the communication device,
Data receiving means for receiving data distributed by the data distribution means;
Decoding means for decoding the encoded data and generating decoded data;
An image distribution system comprising: display means for displaying the received image change information for (N-1) frames while switching in time series so as to overlap the display of the decoded data.
前記通信装置において、前記(N−1)フレーム分の画像変化情報を表示する際に、各フレームの画像変化情報ごとに表示色を変えることを特徴とする請求項1に記載の画像配信システム。  2. The image distribution system according to claim 1, wherein when the image change information for the (N−1) frames is displayed in the communication device, a display color is changed for each image change information of each frame. 前記画像配信装置は更に、前記符号化データと前記(N−1)フレーム分の画像変化情報を合成するデータ合成手段を有し、データ合成手段によって得られた合成データを前記通信装置に配信し、
前記通信装置は更に、受信した前記合成データを、前記符号化データに対して前記(N−1)フレーム分の画像変化情報に分離する分離手段を有することを特徴とする請求項1ないし2のいずれか一項に記載の画像配信システム。
The image distribution device further includes data combining means for combining the encoded data and image change information for (N-1) frames, and distributes the combined data obtained by the data combining means to the communication device. ,
3. The communication apparatus according to claim 1, further comprising a separating unit that separates the received composite data into image change information for (N-1) frames with respect to the encoded data. The image delivery system as described in any one of Claims.
前記通信装置において、前記(N−1)フレーム分の画像変化情報を表示する際に、複数のフレームで同じ位置に画像変化があった場合とない場合とで、その位置の表示色を異ならせることを特徴とする請求項1ないし3のいずれか一項に記載の画像配信システム。  In the communication apparatus, when displaying the image change information for the (N-1) frames, the display color of the position is different depending on whether or not there is an image change at the same position in a plurality of frames. The image distribution system according to any one of claims 1 to 3, wherein 前記通信装置において、前記(N−1)フレーム分の画像変化情報を表示する際に、各フレーム分の画像変化情報を同じ位置ごとに加算し、加算結果に応じて表示色を変えることを特徴とする請求項1ないし4のいずれか一項に記載の画像配信システム。  In the communication device, when displaying the image change information for the (N-1) frames, the image change information for each frame is added for each same position, and the display color is changed according to the addition result. The image delivery system according to any one of claims 1 to 4. 前記画像配信装置において、前記第1の保持手段に保持された画像データは、所定サイズのブロックに分割されて符号化され、前記画像変化情報は、前記ブロックごとの変化情報であることを特徴とする請求項1ないし5のいずれか一項に記載の画像配信システム。  In the image distribution apparatus, the image data held in the first holding unit is encoded by being divided into blocks of a predetermined size, and the image change information is change information for each block. The image delivery system according to any one of claims 1 to 5. 前記画像配信装置において、前記(N−1)フレーム分の画像変化情報の表示において、前記ブロックごとの色が設定されて表示されることを特徴とする請求項6項に記載の画像配信システム。  The image distribution system according to claim 6, wherein in the image distribution apparatus, in displaying the image change information for the (N−1) frames, a color for each block is set and displayed. 1フレームの画像データを符号化した符号化データと、前記1フレームの画像データと該1フレームの画像データよりも後に表示されるNフレーム分との画像変化情報を受信する受信手段と、前記符号化データを復号し、復号化データを生成する復号化手段と、前記受信手段で受信した前記Nフレーム分の画像変化情報を、前記復号化手 段で復号された前記画像データの表示に重なるように時系列に切り替えながら表示させる表示手段とを有することを特徴とする通信装置。 Encoded data obtained by encoding one frame of image data, receiving means for receiving image change information of the one frame of image data and N frames displayed after the one frame of image data, and the code decodes the data, and decoding means for generating decoded data, said N frames image change information received by the receiving means, so as to overlap the display of the image data decoded by said decoding hands stage And a display means for displaying while switching in time series. 前記通信装置において、前記Nフレーム分の画像変化情報を表示する際に、各フレームの画像変化情報ごとに表示色を変えることを特徴とする請求項8に記載の通信装置。  9. The communication apparatus according to claim 8, wherein when the image change information for the N frames is displayed in the communication apparatus, a display color is changed for each image change information of each frame. 前記通信装置において、前記フレーム分の画像変化情報を表示する際に、複数のフレームで同じ位置に画像変化があった場合とない場合とで、その位置の表示色を異ならせることを特徴とする請求項8ないし9のいずれか一項に記載の通信装置。In the communication device, when displaying the image change information for the N frames, the display color of the position is different depending on whether or not there is an image change at the same position in a plurality of frames. The communication device according to any one of claims 8 to 9. 前記通信装置において、前記Nフレーム分の画像変化情報を表示する際に、各フレーム分の画像変化情報を同じ位置ごとに加算し、加算結果に応じて表示色を変えることを特徴とする請求項8ないし9のいずれか一項に記載の通信装置。  2. The display apparatus according to claim 1, wherein when the image change information for the N frames is displayed in the communication apparatus, the image change information for each frame is added at the same position, and the display color is changed according to the addition result. The communication device according to any one of 8 to 9. 前記通信装置において、前記1フレームの画像データは、所定サイズのブロックに分割されて符号化され、前記画像変化情報は、前記ブロックごとの変化情報であることを特徴とする請求項8ないし11のいずれか一項に記載の通信装置。  12. The communication device according to claim 8, wherein the image data of one frame is divided into blocks of a predetermined size and encoded, and the image change information is change information for each block. The communication apparatus as described in any one. 前記通信装置において、前記フレーム分の画像変化情報の表示において、前記ブロックごとの色が設定されて表示されることを特徴とする請求項12項に記載の通信装置。The communication apparatus according to claim 12, wherein, in the display of the image change information for the N frames, a color for each block is set and displayed in the communication apparatus. 画像配信装置と通信装置がデータ伝送媒体により接続された画像配信システムの制御方法であって、
画像配信装置において、
Nフレーム分の画像データを入力する入力工程と、
前記Nフレーム分の画像データを順次1フレーム分、第1の保持手段に保持する第1の保持工程と、
前記第1の保持手段に保持された前記1フレームの画像データを符号化し、符号化データを生成する符号化工程と、
前記第1の保持手段に順次1フレーム分保持されNフレーム内の1フレームの画像データを取得し、第2の保持手段に保持する第2の保持工程と、
前記第1の保持手段から入力されるNフレームの内、第2の保持手段に保持される画像データを除く(N−1)フレームの画像データの夫々と、前記第2の保持手段に保持されている、該画像データの夫々よりも前のフレームの画像データとを比較し、画像変化情報を生成する画像変化情報生成工程と、
前記符号化手段によって生成された符号化データと、前記(N−1)フレーム分の画像変化情報とを前記通信装置に配信するデータ配信工程を備え、
通信装置において、
前記データ配信工程により配信されたデータを受信するデータ受信工程と、
前記符号化データを復号し、復号化データを生成する復号化工程と、
受信した前記(N−1)フレーム分の画像変化情報を、前記復号化データの表示に重なるように時系列に切り替えながら表示する表示工程とを備えることを特徴とする画像配信システムの制御方法。
A control method of an image distribution system in which an image distribution device and a communication device are connected by a data transmission medium,
In the image distribution device,
An input process for inputting image data for N frames;
A first holding step of sequentially holding the image data for N frames for one frame in a first holding unit;
An encoding step of encoding the image data of the one frame held in the first holding means and generating encoded data;
Acquiring image data of one frame in the N frame that will be sequentially one frame held in said first holding means, a second holding step of holding the second holding means,
Of the N frames input from the first holding means, each of the image data of (N-1) frames excluding the image data held in the second holding means is held in the second holding means. An image change information generation step of comparing image data of a frame before each of the image data and generating image change information;
A data distribution step of distributing the encoded data generated by the encoding means and the image change information for the (N-1) frames to the communication device;
In the communication device,
A data receiving step for receiving data distributed by the data distribution step;
A decoding step of decoding the encoded data and generating decoded data;
A display step of displaying the received image change information for (N-1) frames while switching in time series so as to overlap the display of the decoded data.
1フレームの画像データを符号化した符号化データと、前記1フレームの画像データと該1フレームの画像データよりも後に表示されるNフレーム分との画像変化情報を受信する受信工程と、
前記符号化データを復号し、復号化データを生成する復号化工程と、
前記受信工程で受信した前記Nフレーム分の画像変化情報を、前記復号化工程で復号された前記画像データの表示に重なるように時系列に切り替えながら表示する表示工程とを有することを特徴とする通信装置の制御方法。
A receiving step of receiving encoded data obtained by encoding one frame of image data, and image change information of the one frame of image data and N frames displayed after the one frame of image data;
A decoding step of decoding the encoded data and generating decoded data;
A display step of displaying the image change information for the N frames received in the reception step while switching in time series so as to overlap the display of the image data decoded in the decoding step. A method for controlling a communication device.
前記通信装置において、前記Nフレーム分の画像変化情報を表示する際に、各フレームの画像変化情報ごとに表示色を変えることを特徴とする請求項15記載の通信装置の制御方法。  16. The method according to claim 15, wherein when the image change information for the N frames is displayed in the communication device, a display color is changed for each image change information of each frame. 請求項14乃至16のいずれか一項に記載の制御方法を構成する各工程を、コンピュータにより実行させるためのプログラムを記憶している記憶媒体。  A storage medium storing a program for causing a computer to execute the steps constituting the control method according to any one of claims 14 to 16.
JP2002055579A 2002-01-21 2002-03-01 Image distribution system, communication apparatus, distribution apparatus, control method thereof, and storage medium Expired - Lifetime JP4109879B2 (en)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2002055579A JP4109879B2 (en) 2002-03-01 2002-03-01 Image distribution system, communication apparatus, distribution apparatus, control method thereof, and storage medium
US10/340,720 US7130472B2 (en) 2002-01-21 2003-01-13 Image distribution apparatus, communication terminal apparatus, and control method thereof
US11/470,105 US7974482B2 (en) 2002-01-21 2006-09-05 Image distribution apparatus, communication terminal apparatus, and control method thereof
US12/132,987 US7738720B2 (en) 2002-01-21 2008-06-04 Image distribution apparatus, communication terminal apparatus, and control method thereof
US12/133,018 US7738715B2 (en) 2002-01-21 2008-06-04 Image distribution apparatus, communication terminal apparatus, and control method thereof
US12/133,002 US7844121B2 (en) 2002-01-21 2008-06-04 Image distribution apparatus, communication terminal apparatus, and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002055579A JP4109879B2 (en) 2002-03-01 2002-03-01 Image distribution system, communication apparatus, distribution apparatus, control method thereof, and storage medium

Publications (2)

Publication Number Publication Date
JP2003259341A JP2003259341A (en) 2003-09-12
JP4109879B2 true JP4109879B2 (en) 2008-07-02

Family

ID=28666382

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002055579A Expired - Lifetime JP4109879B2 (en) 2002-01-21 2002-03-01 Image distribution system, communication apparatus, distribution apparatus, control method thereof, and storage medium

Country Status (1)

Country Link
JP (1) JP4109879B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7421727B2 (en) 2003-02-14 2008-09-02 Canon Kabushiki Kaisha Motion detecting system, motion detecting method, motion detecting apparatus, and program for implementing the method
US10638093B2 (en) * 2013-09-26 2020-04-28 Rosemount Inc. Wireless industrial process field device with imaging

Also Published As

Publication number Publication date
JP2003259341A (en) 2003-09-12

Similar Documents

Publication Publication Date Title
US11521325B2 (en) Adaptive video streaming
US7738715B2 (en) Image distribution apparatus, communication terminal apparatus, and control method thereof
US6804295B1 (en) Conversion of video and audio to a streaming slide show
CN111131817B (en) Screen sharing method, device, storage medium and screen sharing system
IL124548A (en) Method and system for managing video broadcast
US10917604B2 (en) Captured image display device, captured image display method, and captured image display program
CN108307202A (en) Real-time video transcoding sending method, device and user terminal
JP4109879B2 (en) Image distribution system, communication apparatus, distribution apparatus, control method thereof, and storage medium
JP2007013697A (en) Image receiver and image receiving method
CN113542890B (en) Video editing method, device, equipment and medium
JP2000032460A (en) Method and system for generating selected image view
KR102264252B1 (en) Method for detecting moving objects in compressed image and video surveillance system thereof
JP4262913B2 (en) Image processing device
JP2003219397A (en) Video distribution server and video distribution system
KR100363733B1 (en) Multi-chennel image encoding system using synch priority detection
KR100492568B1 (en) A method and a device of transforming still image from video image
JP4000029B2 (en) Data transmission device
JP2002152716A (en) Method and device for receiving video image
CN115914711A (en) Audio and video playing method, device, equipment, medium and computer program product
CN117478834A (en) Monitoring method and monitoring system based on thumbnail
JP2022176542A (en) Frame skip detection device, learning device, and frame skip detection program
JP2001285841A (en) Image transmitter, image receiver and image transmission system
JPH10164589A (en) Image compressor
CN112911346A (en) Video source synchronization method and device
JPH10285563A (en) Image transmission system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040518

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20060629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060711

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060911

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070417

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070607

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070710

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070906

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20071002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071130

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20071214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080325

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080407

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110411

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4109879

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130411

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130411

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140411

Year of fee payment: 6

EXPY Cancellation because of completion of term