JP6222703B2 - Heat map image generation apparatus, heat map image generation method, and heat map image generation program - Google Patents

Heat map image generation apparatus, heat map image generation method, and heat map image generation program Download PDF

Info

Publication number
JP6222703B2
JP6222703B2 JP2014247190A JP2014247190A JP6222703B2 JP 6222703 B2 JP6222703 B2 JP 6222703B2 JP 2014247190 A JP2014247190 A JP 2014247190A JP 2014247190 A JP2014247190 A JP 2014247190A JP 6222703 B2 JP6222703 B2 JP 6222703B2
Authority
JP
Japan
Prior art keywords
heat map
image
frame
map image
image generation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014247190A
Other languages
Japanese (ja)
Other versions
JP2016110385A (en
Inventor
智昭 新田
智昭 新田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ciao Inc
Original Assignee
Ciao Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ciao Inc filed Critical Ciao Inc
Priority to JP2014247190A priority Critical patent/JP6222703B2/en
Priority to PCT/JP2015/072532 priority patent/WO2016024547A1/en
Publication of JP2016110385A publication Critical patent/JP2016110385A/en
Application granted granted Critical
Publication of JP6222703B2 publication Critical patent/JP6222703B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、空間内の動きを可視化する、いわゆるヒートマップ画像を生成するヒートマップ画像生成装置、ヒートマップ画像生成方法およびヒートマップ画像生成プログラムに関する。   The present invention relates to a heat map image generation apparatus, a heat map image generation method, and a heat map image generation program that generate a so-called heat map image that visualizes movement in space.

空間内の動きを可視化する、いわゆるヒートマップが知られている。例えば、特許文献1には、センサで検出された累積活動がコード化されたヒートマップを組み入れたセキュリティビデオが記載されている。ヒートマップ上には時間帯が示されており、ユーザは、ヒートマップ内のポイントをクリックして、その場所を見ることができるカメラを選択し、その時間セグメントの最初からのビデオの再生を開始することが可能となっている。   A so-called heat map that visualizes movement in space is known. For example, Patent Document 1 describes a security video that incorporates a heat map in which cumulative activity detected by a sensor is encoded. The time zone is shown on the heat map, the user clicks a point in the heat map, selects a camera that can see its location, and starts playing the video from the beginning of that time segment It is possible to do.

また、特許文献2には、GPSセンサにより得られる位置データ(緯度・経度)からユーザの居場所を滞在時間に基づいてカテゴライズすることによりヒートマップを作成することが記載されている。このヒートマップでは、各滞在場所でのユーザの位置の分布を知ることができ、滞在時間が長い場所は濃くなっており、その場所での移動を伴うところは広い範囲に分布するようになっている。   Patent Document 2 describes that a heat map is created by categorizing a user's whereabouts based on stay time from position data (latitude / longitude) obtained by a GPS sensor. In this heat map, you can know the distribution of the user's position at each staying place, the place where the staying time is long is dark, and the place with movement at that place is distributed over a wide range Yes.

特開2009−134688号公報JP 2009-134688 A 特開2010−72811号公報JP 2010-72811 A

特許文献1では、センサで検出された累積活動をコード化することでヒートマップを作成している。そのため、ビデオカメラの他にセンサを設ける必要がある。一方、特許文献2にはGPSセンサにより得られる位置データからヒートマップを作成することが記載されており、特許文献1のセンサとして特許文献2のGPSセンサを使用することが可能であると思われるが、ヒートマップを得るためにビデオカメラの他にセンサを設けることは装置が複雑化し、コスト高となる。   In patent document 1, the heat map is created by coding the cumulative activity detected by the sensor. Therefore, it is necessary to provide a sensor in addition to the video camera. On the other hand, Patent Document 2 describes that a heat map is created from position data obtained by a GPS sensor, and it seems that the GPS sensor of Patent Document 2 can be used as the sensor of Patent Document 1. However, providing a sensor other than a video camera to obtain a heat map complicates the apparatus and increases the cost.

そこで本発明においては、ビデオカメラなどのような撮像装置により取得した画像のみからヒートマップ画像を生成することが可能なヒートマップ画像生成装置、ヒートマップ画像生成方法およびヒートマップ画像生成プログラムを提供することを目的とする。   Accordingly, the present invention provides a heat map image generation device, a heat map image generation method, and a heat map image generation program capable of generating a heat map image only from an image acquired by an imaging device such as a video camera. For the purpose.

本発明のヒートマップ画像生成装置は、撮像装置により順次取得される連続した複数フレームの画像から背景とする画像(以下、「背景画像」と称す。)を得て、撮像装置により順次取得される連続した複数フレームの各フレームについて、順次、各フレームの画像と背景画像との間で差分を取り、予め区分した前記フレーム内の領域ごとに所定の時間内に差が発生している回数をカウントするカウント手段と、カウント手段により領域ごとにカウントした回数に応じて領域ごとに表現を変えた画像を生成するヒートマップ画像生成手段とを有するものである。   The heat map image generation device of the present invention obtains an image as a background (hereinafter referred to as “background image”) from a plurality of consecutive frames that are sequentially acquired by the imaging device, and is sequentially acquired by the imaging device. For each of a plurality of consecutive frames, a difference is sequentially taken between the image of each frame and the background image, and the number of occurrences of the difference within a predetermined time is counted for each area in the frame divided in advance. And a heat map image generating means for generating an image whose expression is changed for each area according to the number of times counted for each area by the counting means.

また、本発明のヒートマップ画像生成方法は、撮像装置により順次取得される連続した複数フレームの画像から背景とする画像(背景画像)を得て、撮像装置により順次取得される連続した複数フレームの各フレームについて、順次、各フレームの画像と背景画像との間で差分を取り、予め区分したフレーム内の領域ごとに所定の時間内に差が発生している回数をカウントすること、領域ごとにカウントした回数に応じて領域ごとに表現を変えた画像を生成することを含むことを特徴とする。   In addition, the heat map image generation method of the present invention obtains an image (background image) as a background from images of a plurality of consecutive frames sequentially acquired by the imaging device, and performs a process of acquiring a plurality of consecutive frames sequentially acquired by the imaging device. For each frame, sequentially take a difference between the image of each frame and the background image, and count the number of occurrences of the difference within a predetermined time for each area in the pre-divided frame, for each area The method includes generating an image whose expression is changed for each region in accordance with the counted number.

また、本発明のヒートマップ画像生成プログラムは、コンピュータに、撮像装置により順次取得される連続した複数フレームの画像から背景とする画像(背景画像)を得て、撮像装置により順次取得される連続した複数フレームの各フレームについて、順次、各フレームの画像と背景画像との間で差分を取り、予め区分したフレーム内の領域ごとに所定の時間内に差が発生している回数をカウントすること、領域ごとにカウントした回数に応じて領域ごとに表現を変えた画像を生成することを実行させるためのものである。   In addition, the heat map image generation program of the present invention obtains an image (background image) as a background from a plurality of continuous frame images sequentially acquired by the imaging device, and continuously acquires sequentially by the imaging device. For each frame of the plurality of frames, sequentially taking a difference between the image of each frame and the background image, and counting the number of times that the difference has occurred within a predetermined time for each area in the frame that is pre-segmented, This is for executing generation of an image whose expression is changed for each area according to the number of times counted for each area.

上記発明によれば、予め区分したフレーム内の領域ごとに、連続した複数フレームの各フレームの画像と背景画像との間で所定の時間内に差が発生している回数がカウントされ、領域ごとにカウントされた回数に応じて領域ごとに表現を変えた画像、すなわちヒートマップ画像が生成される。   According to the above-described invention, the number of times that a difference has occurred within a predetermined time between the images of the frames of the plurality of consecutive frames and the background image is counted for each region in the pre-divided frame. An image whose expression is changed for each region according to the number of times counted, that is, a heat map image is generated.

また、本発明のヒートマップ画像生成装置は、撮像拠点に設置され、撮像装置が接続される拠点サーバであり、カウント手段を有する拠点サーバと、拠点サーバと電気通信回線により接続される集約サーバであり、ヒートマップ画像生成手段を有する集約サーバとを含む構成とすることができる。これにより、撮像拠点の拠点サーバにより、予め区分したフレーム内の領域ごとに、連続した複数フレームの各フレームの画像と背景画像との間で所定の時間内に差が発生している回数がカウントされ、集約サーバにより、領域ごとにカウントされた回数に応じて領域ごとに表現を変えた画像、すなわちヒートマップ画像が生成される。   The heat map image generation apparatus of the present invention is a base server installed at an imaging base and connected to the imaging apparatus. The base server having a counting means and an aggregation server connected to the base server by an electric communication line. And a configuration including an aggregation server having a heat map image generation means. As a result, the base server at the imaging base counts the number of times that a difference has occurred within a predetermined time between the image of each frame of a plurality of consecutive frames and the background image for each region in the frame that has been pre-divided. Then, the aggregation server generates an image whose expression is changed for each area according to the number of times counted for each area, that is, a heat map image.

このとき、拠点サーバは、撮像装置により順次取得される連続した複数フレームの画像から所定のタイミングごとに基準となるフレーム(以下、「基準フレーム」と称す。)の画像データ(以下、「基準画像データ」と称す。)を集約サーバに伝送する基準画像伝送手段と、撮像装置により順次取得される連続した複数フレームの基準フレームの後の各フレームについて、順次、各フレームの画像と背景画像との間で差が発生している第1領域と、各フレームの直前のフレームの画像と背景画像との間で差が発生している第2領域との両方を取り囲む第3領域を算出する抽出領域算出手段と、各フレームの画像から各フレームの第3領域の画像データを順次抽出して集約サーバに伝送する抽出画像伝送手段とを含み、集約サーバは、拠点サーバから伝送された基準画像データおよび各フレームの第3領域の画像データから動画像を合成する画像合成手段とを含むことが望ましい。   At this time, the base server obtains image data (hereinafter referred to as “reference image”) that is a reference frame (hereinafter referred to as “reference frame”) at predetermined timings from a plurality of consecutive frames of images sequentially acquired by the imaging device. Reference image transmission means for transmitting the data to the aggregation server, and each frame after a plurality of consecutive reference frames sequentially acquired by the imaging device, sequentially with the image of each frame and the background image An extraction region that calculates a third region that surrounds both the first region in which a difference is generated and the second region in which a difference is generated between the image of the frame immediately before each frame and the background image Calculating means, and extracted image transmission means for sequentially extracting the image data of the third region of each frame from the image of each frame and transmitting it to the aggregation server. It is desirable to include an image synthesizing means for synthesizing the video image from the image data of the third region of the reference image data and each frame transmitted from.

これにより、前述のようにヒートマップ画像が生成されることに加えて、連続した複数フレームの画像の前後で変化のある領域をそれぞれ抽出して集約サーバに伝送して合成するのではなく、連続した複数フレームの各フレームの画像と背景画像との間で差が発生している第1領域と、各フレームの直前のフレームの画像と背景画像との間で差が発生している第2領域との両方を取り囲む第3領域の画像データを抽出し、集約サーバに伝送して合成した動画像が得られる。   As a result, in addition to the generation of the heat map image as described above, the areas that have changed before and after the images of a plurality of consecutive frames are extracted, transmitted to the aggregation server, and combined. A first region where a difference is generated between the image of each frame of the plurality of frames and the background image, and a second region where a difference is generated between the image of the frame immediately before each frame and the background image The image data of the third region that surrounds both are extracted, transmitted to the aggregation server, and a synthesized moving image is obtained.

また、本発明のヒートマップ画像生成装置は、撮像装置と電気通信回線により接続される集約サーバを含み、撮像装置が、複数フレームの画像を集約サーバへ送信するものであり、集約サーバが、カウント手段と、ヒートマップ画像生成手段とを有する構成とすることができる。これにより、撮像装置から集約サーバへ送信された複数フレームの画像に基づいて、予め区分したフレーム内の領域ごとに、連続した複数フレームの各フレームの画像と背景画像との間で所定の時間内に差が発生している回数がカウントされ、領域ごとにカウントされた回数に応じて領域ごとに表現を変えた画像、すなわちヒートマップ画像が生成される。   The heat map image generation device of the present invention includes an aggregation server connected to the imaging device via an electric communication line, and the imaging device transmits a plurality of frames of images to the aggregation server. And a heat map image generating means. As a result, based on the images of the plurality of frames transmitted from the imaging device to the aggregation server, for each region within the pre-divided frames, the images of the consecutive frames of the frames and the background image are within a predetermined time. The number of times the difference is generated is counted, and an image whose expression is changed for each region according to the number counted for each region, that is, a heat map image is generated.

また、本発明のヒートマップ画像生成装置は、撮像装置と電気通信回線により接続される蓄積サーバと、蓄積サーバと電気通信回線により接続される集約サーバとを含み、撮像装置が、複数フレームの画像を蓄積サーバへ送信するものであり、蓄積サーバが、撮像装置から送信された複数フレームの画像を蓄積する手段を有し、集約サーバが、蓄積サーバから複数フレームの画像を取得する手段と、カウント手段と、ヒートマップ画像生成手段とを有する構成とすることができる。これにより、撮像装置により順次取得される連続した複数フレームの画像が撮像装置から蓄積サーバへ送信されて蓄積され、集約サーバによりこの蓄積サーバに蓄積された複数フレームの画像が取得され、予め区分したフレーム内の領域ごとに、連続した複数フレームの各フレームの画像と背景画像との間で所定の時間内に差が発生している回数がカウントされ、領域ごとにカウントされた回数に応じて領域ごとに表現を変えた画像、すなわちヒートマップ画像が生成される。   The heat map image generation apparatus of the present invention includes a storage server connected to the imaging device by an electric communication line, and an aggregation server connected to the storage server by an electric communication line, and the imaging device has an image of a plurality of frames. The storage server has means for storing a plurality of frames of images transmitted from the imaging device, and the aggregation server has a means for acquiring a plurality of frames of images from the storage server, And a heat map image generating means. As a result, a plurality of consecutive frames of images sequentially acquired by the imaging device are transmitted from the imaging device to the storage server and stored, and a plurality of frames of images stored in the storage server are acquired by the aggregation server and classified in advance. For each area in the frame, the number of times that a difference has occurred within a predetermined time between the image of each frame of a plurality of consecutive frames and the background image is counted, and the area according to the number counted for each area An image whose expression is changed every time, that is, a heat map image is generated.

本発明によれば、ビデオカメラなどのような撮像装置により取得した画像のみからヒートマップ画像を生成することが可能となる。   According to the present invention, it is possible to generate a heat map image only from an image acquired by an imaging device such as a video camera.

本発明の第1実施形態におけるヒートマップ画像生成装置の概略構成図である。It is a schematic block diagram of the heat map image generation apparatus in 1st Embodiment of this invention. 本発明の第2実施形態におけるヒートマップ画像生成装置の概略構成図である。It is a schematic block diagram of the heat map image generation apparatus in 2nd Embodiment of this invention. 本発明の第3実施形態におけるヒートマップ画像生成装置の概略構成図である。It is a schematic block diagram of the heat map image generation apparatus in 3rd Embodiment of this invention. 本発明の第4実施形態におけるヒートマップ画像生成装置の概略構成図である。It is a schematic block diagram of the heat map image generation apparatus in 4th Embodiment of this invention. (a)〜(c)は連続したフレームの各画像と背景画像との間で差分を取った結果の画像の例を示す説明図である。(A)-(c) is explanatory drawing which shows the example of the image of the result of having taken the difference between each image of a continuous frame, and a background image. 本発明の第5実施形態におけるヒートマップ画像生成装置の概略構成図である。It is a schematic block diagram of the heat map image generation apparatus in 5th Embodiment of this invention. 図6のヒートマップ画像生成装置のブロック図である。It is a block diagram of the heat map image generation apparatus of FIG. 撮像装置により順次取得される連続した複数フレームの画像の説明図である。It is explanatory drawing of the image of the continuous several frame acquired sequentially by an imaging device. 複数フレームの画像例を示す図である。It is a figure which shows the example of an image of several frames. 図9の(a)、(b)、(c)の各フレームの画像とそれぞれの背景画像との差分を取った画像例を示す図である。It is a figure which shows the example of an image which took the difference of the image of each frame of (a), (b), (c) of FIG. 9, and each background image. (a)は図9の(a)のフレームの差分発生領域とこれを取り囲む第1領域を示す図、(b)は図9(b)のフレームの差分発生領域とこれらを取り囲む第2領域を示す図、(c)は図9(a)のフレームの差分発生領域と図9(b)のフレームの差分発生領域との両方を取り囲む第3領域を示す図である。FIG. 9A is a diagram showing the difference generation area of the frame of FIG. 9A and the first area surrounding it, and FIG. 9B is the difference generation area of the frame of FIG. 9B and the second area surrounding them. FIG. 9C is a diagram showing a third area surrounding both the difference occurrence area of the frame of FIG. 9A and the difference occurrence area of the frame of FIG. 9B. 図9(b)のフレームに図11(c)に示す第3領域を示した説明図である。It is explanatory drawing which showed the 3rd area | region shown in FIG.11 (c) in the flame | frame of FIG.9 (b). 図9(a)のフレームに図11(c)に示す第3領域を示した説明図である。It is explanatory drawing which showed the 3rd area | region shown in FIG.11 (c) in the flame | frame of Fig.9 (a).

(実施の形態1)
図1は本発明の第1実施形態におけるヒートマップ画像生成装置の概略構成図である。
図1において、本発明の第1実施形態におけるヒートマップ画像生成装置は、撮像装置2により順次取得される連続した複数フレームの各フレームの画像と背景画像との間で差分を取り、予め区分したフレーム内の領域ごとに差が発生している領域をカウントするカウント手段50と、カウント手段50により領域ごとにカウントした回数に応じて領域ごとに表現を変えた画像を生成するヒートマップ画像生成手段51とを有する。
(Embodiment 1)
FIG. 1 is a schematic configuration diagram of a heat map image generating apparatus according to the first embodiment of the present invention.
In FIG. 1, the heat map image generation device according to the first embodiment of the present invention takes a difference between the image of each of a plurality of consecutive frames sequentially acquired by the imaging device 2 and the background image, and classifies them in advance. Counting means 50 that counts areas where a difference is generated for each area in the frame, and heat map image generating means that generates an image whose expression is changed for each area according to the number of times counted for each area by the counting means 50 51.

撮像装置2は、所定の時間間隔(例えば、1/120秒〜1秒間隔)で静止画像を撮像することにより、連続した複数フレームの画像を取得する装置である。カウント手段50は、この撮像装置2により順次取得される連続した複数フレームの画像から背景とする画像(背景画像)を得て、撮像装置2により順次取得される連続した複数フレームの各フレームについて、順次、各フーレムの画像と背景画像との間で差分を取り、予め区分したフレーム内の領域ごとに所定の時間内に差が発生している回数をカウントする。   The imaging device 2 is a device that acquires images of a plurality of continuous frames by capturing still images at a predetermined time interval (for example, an interval of 1/120 seconds to 1 second). The counting unit 50 obtains an image (background image) as a background from a plurality of consecutive frames acquired sequentially by the imaging device 2, and for each of the consecutive plurality of frames sequentially acquired by the imaging device 2, Sequentially, a difference is taken between the image of each frame and the background image, and the number of occurrences of the difference within a predetermined time is counted for each region in the frame divided in advance.

なお、本実施形態においては、背景画像として、差分を取る各フレームの直前の複数フレームの画像を平均化したものを用いる。例えば、差分を取る1フレームについて背景画像との差が発生している領域を算出する場合、カウント手段50は、この1フレームの直前の100フレームの画像を平均したものを背景画像とする。そして、順次、差分を取る1フレームごとにそれぞれの直前の100フレームの画像を平均化して背景画像とし、各フレームの画像と背景画像との間で差分を取る。   In the present embodiment, an averaged image of a plurality of frames immediately before each frame for which a difference is taken is used as the background image. For example, when calculating a region where a difference from the background image has occurred for one frame for which the difference is taken, the counting means 50 sets the average of the images of 100 frames immediately before this one frame as the background image. Then, for each frame for which a difference is taken, the images of the immediately preceding 100 frames are averaged to obtain a background image, and a difference is taken between the image of each frame and the background image.

そして、カウント手段50は、予め区分したフレーム内の領域ごとに所定の時間内に差が発生している回数をカウントする。図5(a)〜(c)は連続したフレームの各画像と背景画像との間で差分を取った結果の画像の例を示している。また、同図(a)〜(c)には、撮像装置2により撮像するフレーム内を予め格子状の複数の領域に区分したグリッドを表示するとともに、各領域にはカウント手段50によりカウントした回数を表示している。   Then, the counting means 50 counts the number of times that a difference has occurred within a predetermined time for each region in the frame divided in advance. 5A to 5C show examples of images obtained as a result of taking a difference between each image of a continuous frame and a background image. Also, FIGS. 5A to 5C show a grid obtained by dividing the frame imaged by the imaging device 2 into a plurality of grid-like areas in advance, and the number of times counted by the counting means 50 in each area. Is displayed.

ヒートマップ画像生成手段51は、カウント手段50によりカウントした回数に応じて領域ごとに、色や濃淡などの表現を変えた画像を生成する。例えば、図5(c)において、各領域のカウント回数に応じて、色を変えたり、カウント回数の大小により濃淡を変えたりした画像を生成する。   The heat map image generating unit 51 generates an image in which the expression such as color and shade is changed for each region according to the number of times counted by the counting unit 50. For example, in FIG. 5C, an image is generated in which the color is changed according to the number of counts in each region, or the shade is changed depending on the number of counts.

上記構成のヒートマップ画像生成装置では、ビデオカメラなどのような撮像装置2により取得した画像のみから、予め区分したフレーム内の領域ごとに、連続した複数フレームの各フレームの画像と背景画像との間で所定の時間内に差が発生している回数がカウントされ、領域ごとにカウントされた回数に応じて領域ごとに表現を変えた画像、すなわちヒートマップ画像が生成される。   In the heat map image generation device having the above-described configuration, the image of each frame of a plurality of consecutive frames and the background image are obtained for each region in the frame divided in advance from only the image acquired by the imaging device 2 such as a video camera. The number of times the difference occurs within a predetermined time is counted, and an image whose expression is changed for each region according to the number counted for each region, that is, a heat map image is generated.

なお、上記構成のヒートマップ画像生成装置は、汎用サーバ、パーソナルコンピュータ、マイクロコンピュータ、PDA(個人情報端末)、ポケットコンピュータ、スマートフォン、フィーチャーフォン(携帯電話機)や携帯型ゲーム機等の様々なコンピュータ上で、このコンピュータを上記各手段50,51として機能させるためのプログラムを実行することにより実現される。この際、撮像装置2は、上述のコンピュータに内蔵されたものや、外部接続されたものを用いることが可能である。   Note that the heat map image generation apparatus having the above-described configuration is provided on various computers such as a general-purpose server, a personal computer, a microcomputer, a PDA (personal information terminal), a pocket computer, a smartphone, a feature phone (mobile phone), and a portable game machine. Thus, it is realized by executing a program for causing the computer to function as each of the means 50 and 51. At this time, the image pickup apparatus 2 can be one built in the above-described computer or one externally connected.

(実施の形態2)
図2は本発明の第2実施形態におけるヒートマップ画像生成装置の概略構成図である。
図2において、本発明の第2実施形態におけるヒートマップ画像生成装置は、撮像拠点に設置される1または複数の撮像装置2と、1または複数の撮像装置2と電気通信回線Nにより接続される集約サーバ4とから構成される。
(Embodiment 2)
FIG. 2 is a schematic configuration diagram of a heat map image generation apparatus according to the second embodiment of the present invention.
In FIG. 2, the heat map image generation apparatus according to the second embodiment of the present invention is connected to one or a plurality of imaging apparatuses 2 installed at an imaging base, and one or a plurality of imaging apparatuses 2 by an electric communication line N. And an aggregation server 4.

撮像装置2は、複数フレームの画像を電気通信回線Nを通じて集約サーバ4へ送信する機能を有する。集約サーバ4は、前述のカウント手段50と、ヒートマップ画像生成手段51とを有する。集約サーバ4は、1または複数の撮像装置2からそれぞれ送信された複数フレームの画像を1または複数の撮像装置2ごとに処理し、それぞれのヒートマップ画像を作成する。集約サーバ4は、前述のような様々なコンピュータ上で、このコンピュータを上記各手段50,51として機能させるためのプログラムを実行することにより実現される。   The imaging device 2 has a function of transmitting a plurality of frames of images to the aggregation server 4 through the electric communication line N. The aggregation server 4 includes the count unit 50 and the heat map image generation unit 51 described above. The aggregation server 4 processes a plurality of frames of images transmitted from one or a plurality of imaging devices 2 for each of the one or a plurality of imaging devices 2, and creates respective heat map images. The aggregation server 4 is realized by executing a program for causing this computer to function as each of the means 50 and 51 on various computers as described above.

上記構成のヒートマップ画像生成装置では、撮像拠点に設置された1または複数の撮像装置2により取得された画像が集約サーバ4へ集約され、集約サーバ4によりそれぞれの撮像拠点の撮像装置2により取得された画像のみからヒートマップ画像が生成される。   In the heat map image generation device having the above configuration, images acquired by one or a plurality of imaging devices 2 installed at the imaging base are aggregated to the aggregation server 4 and acquired by the imaging server 2 of each imaging base by the aggregation server 4. A heat map image is generated only from the processed image.

(実施の形態3)
図3は本発明の第3実施形態におけるヒートマップ画像生成装置の概略構成図である。
図3において、本発明の第2実施形態におけるヒートマップ画像生成装置は、撮像拠点に設置される1または複数の撮像装置2と、1または複数の撮像装置2と電気通信回線Nにより接続される蓄積サーバ6と、蓄積サーバ6と電気通信回線Nにより接続される集約サーバ4とから構成される。なお、撮像装置2と蓄積サーバ6とを接続する電気通信回線Nと、蓄積サーバ6と集約サーバ4とを接続する電気通信回線Nとは、同じ電気通信回線でも異なる電気通信回線でも良い。
(Embodiment 3)
FIG. 3 is a schematic configuration diagram of a heat map image generation apparatus according to the third embodiment of the present invention.
In FIG. 3, the heat map image generation apparatus according to the second embodiment of the present invention is connected to one or a plurality of imaging apparatuses 2 installed at an imaging base, and one or a plurality of imaging apparatuses 2 by an electric communication line N. The storage server 6 and the aggregation server 4 connected to the storage server 6 via the telecommunication line N are configured. Note that the telecommunication line N connecting the imaging device 2 and the storage server 6 and the telecommunication line N connecting the storage server 6 and the aggregation server 4 may be the same telecommunication line or different telecommunication lines.

撮像装置2は、複数フレームの画像を電気通信回線Nを通じて蓄積サーバ6へ送信する機能を有する。蓄積サーバ6は、1または複数の撮像装置2から送信された複数フレームの画像を1または複数の撮像装置2ごとに蓄積する記憶手段60を有する。蓄積サーバ6は、前述のような様々なコンピュータ上で、このコンピュータを上記各手段60として機能させるためのプログラムを実行することにより実現される。   The imaging device 2 has a function of transmitting a plurality of frames of images to the storage server 6 through the electric communication line N. The accumulation server 6 includes storage means 60 that accumulates a plurality of frames of images transmitted from one or a plurality of imaging devices 2 for each of the one or a plurality of imaging devices 2. The storage server 6 is realized by executing a program for causing the computer to function as each of the means 60 on various computers as described above.

集約サーバ4は、蓄積サーバ6から複数フレームの画像を取得する画像取得手段52と、前述のカウント手段50と、ヒートマップ画像生成手段51とを有する。集約サーバ4は、前述のような様々なコンピュータ上で、このコンピュータを上記各手段50,51,52として機能させるためのプログラムを実行することにより実現される。   The aggregation server 4 includes an image acquisition unit 52 that acquires images of a plurality of frames from the accumulation server 6, the above-described counting unit 50, and a heat map image generation unit 51. The aggregation server 4 is realized by executing a program for causing this computer to function as each of the means 50, 51, 52 on various computers as described above.

上記構成のヒートマップ画像生成装置では、撮像拠点に設置された1または複数の撮像装置2により取得された画像が蓄積サーバ6に一旦蓄積され、蓄積サーバ6に蓄積された画像のみから集約サーバ4によりそれぞれの撮像拠点のヒートマップ画像が生成される。   In the heat map image generation device having the above-described configuration, images acquired by one or a plurality of imaging devices 2 installed at the imaging base are temporarily stored in the storage server 6, and the aggregation server 4 is obtained from only the images stored in the storage server 6. Thus, a heat map image of each imaging base is generated.

(実施の形態4)
図4は本発明の第4実施形態におけるヒートマップ画像生成装置の概略構成図である。
図5において、本発明の第4実施形態におけるヒートマップ画像生成装置は、撮像拠点に設置される1または複数の撮像装置2と、それぞれ1または複数の撮像装置2が接続される1または複数の拠点サーバ3と、1または複数の拠点サーバ3と電気通信回線Nにより接続される集約サーバ4とから構成される。
(Embodiment 4)
FIG. 4 is a schematic configuration diagram of a heat map image generation device according to the fourth embodiment of the present invention.
In FIG. 5, the heat map image generation device according to the fourth exemplary embodiment of the present invention includes one or a plurality of imaging devices 2 installed at an imaging base and one or a plurality of imaging devices 2 connected to each other. A base server 3 and an aggregation server 4 connected to one or a plurality of base servers 3 by a telecommunication line N are configured.

拠点サーバ3は、前述のカウント手段50を有する。拠点サーバ3は、撮像拠点ごとにそれぞれ設置される。各拠点サーバ3には、1または複数の撮像装置2が接続される。拠点サーバ3は、撮像装置2により取得した画像から、カウント手段50により予め区分したフレーム内の領域ごとに所定の時間内に差が発生している回数をカウントし、その結果を、電気通信回線Nを通じて集約サーバ4へ送信する。拠点サーバ3は、前述のような様々なコンピュータ上で、このコンピュータを上記カウント手段50として機能させるためのプログラムを実行することにより実現される。   The base server 3 has the count means 50 described above. The base server 3 is installed for each imaging base. Each base server 3 is connected to one or a plurality of imaging devices 2. The base server 3 counts the number of times that a difference has occurred within a predetermined time for each area in the frame that has been divided in advance by the counting means 50 from the image acquired by the imaging device 2, and the result is transmitted to the telecommunication line. N is transmitted to the aggregation server 4 through N. The base server 3 is realized by executing a program for causing the computer to function as the counting means 50 on various computers as described above.

集約サーバ4は、前述のヒートマップ画像生成手段51を有する。集約サーバ4は、拠点サーバ3から送信されたカウント結果に基づいて、ヒートマップ画像生成手段51により領域ごとに色や濃淡などの表現を変えた画像を生成する。集約サーバ4は、前述のような様々なコンピュータ上で、このコンピュータを上記ヒートマップ画像生成手段51として機能させるためのプログラムを実行することにより実現される。   The aggregation server 4 includes the heat map image generation unit 51 described above. Based on the count result transmitted from the base server 3, the aggregation server 4 generates an image in which the expression such as color and shading is changed for each region by the heat map image generation unit 51. The aggregation server 4 is realized by executing a program for causing the computer to function as the heat map image generation unit 51 on various computers as described above.

上記構成のヒートマップ画像生成装置では、1または複数の撮像拠点にそれぞれ設置された1または複数の撮像装置2により取得された画像から拠点サーバ3のカウント手段50によりカウントされた結果のみが集約サーバ4へ集約され、集約サーバ4によりそれぞれの撮像拠点のヒートマップ画像が生成される。   In the heat map image generation device having the above configuration, only the result counted by the counting means 50 of the base server 3 from the images acquired by the one or plural imaging devices 2 respectively installed at the one or plural imaging bases is the aggregation server. 4 and the aggregation server 4 generates a heat map image of each imaging base.

(実施の形態5)
図6は本発明の第5実施形態におけるヒートマップ画像生成装置の概略構成図、図7は図6のヒートマップ画像生成装置のブロック図、図8は撮像装置により順次取得される連続した複数フレームの画像の説明図である。
(Embodiment 5)
6 is a schematic configuration diagram of a heat map image generation device according to a fifth embodiment of the present invention, FIG. 7 is a block diagram of the heat map image generation device of FIG. 6, and FIG. 8 is a plurality of consecutive frames sequentially acquired by the imaging device. It is explanatory drawing of the image of.

図6において、本発明の第5実施形態におけるヒートマップ画像生成装置は、撮像拠点に設置され、撮像装置2が接続される拠点サーバ3と、拠点サーバ3と電気通信回線Nにより接続される集約サーバ4とから構成される。   In FIG. 6, the heat map image generation device according to the fifth embodiment of the present invention is installed at the imaging base, the base server 3 to which the imaging device 2 is connected, and the base server 3 connected to the base server 3 by the telecommunication line N. And server 4.

図7に示すように、拠点サーバ3は、撮像装置2により順次取得される連続した複数フレームの各フレームの画像を一時記憶する記憶手段10と、所定のタイミングごとに基準となるフレーム(基準フレーム)の画像のデータ(基準画像データ)を集約サーバ4に伝送する基準画像伝送手段11と、前述のカウント手段50として機能するとともに複数フレームの基準フレームの後の各フレームから抽出する領域(以下、「抽出領域」と称す。)を算出するカウント手段兼抽出領域算出手段12と、各フレームの画像から各フレームの抽出領域の画像データを順次抽出して集約サーバ4に伝送する抽出画像伝送手段13とを有する。   As shown in FIG. 7, the base server 3 includes a storage unit 10 that temporarily stores images of a plurality of consecutive frames sequentially acquired by the imaging device 2, and a reference frame (reference frame) at each predetermined timing. ) Image data (reference image data) to be transmitted to the aggregation server 4, and a region (hereinafter referred to as the following) that functions as the count means 50 and that is extracted from each frame after the reference frames of a plurality of frames. Counting means / extraction area calculation means 12 for calculating the extraction area), and extracted image transmission means 13 for sequentially extracting the image data of the extraction area of each frame from the image of each frame and transmitting it to the aggregation server 4 And have.

拠点サーバ3は、前述のような様々なコンピュータ上で、このコンピュータを上記各手段10〜13として機能させるためのプログラムを実行することにより実現される。   The base server 3 is realized by executing a program for causing the computer to function as each of the means 10 to 13 on various computers as described above.

基準画像伝送手段11は、図8に示すように、撮像装置2により順次取得される連続した複数フレームの画像20a,20b,・・・,20c,20d,20e,20f,20g,20h,20i,20j,20k,・・・から所定のタイミングごとに基準となるフレーム(基準フレーム)の画像20a,20d,20jのデータ(基準画像データ)を集約サーバ4に伝送する。基準フレームは、予め設定された時間(例えば、30秒間隔や1分間隔など)や、予め設定されたフレーム数等のタイミングごとに決定される。   As shown in FIG. 8, the reference image transmission means 11 includes a plurality of consecutive frames 20a, 20b,..., 20c, 20d, 20e, 20f, 20g, 20h, 20i, which are sequentially acquired by the imaging device 2. 20j, 20k,..., The data (reference image data) of the images 20a, 20d, 20j of the reference frame (reference frame) is transmitted to the aggregation server 4 at predetermined timings. The reference frame is determined for each timing such as a preset time (for example, an interval of 30 seconds or an interval of 1 minute) or a preset number of frames.

カウント手段兼抽出領域算出手段12は、撮像装置2により順次取得される連続した複数フレームの画像から背景とする画像(背景画像)を得て、前述のカウント手段50として機能するとともに、撮像装置2により順次取得される連続した複数フレームの基準フレームの後の各フレームについて、順次、各フレームの画像と背景画像との間で差が発生している第1領域と、各フレームの直前のフレームの画像と背景画像との間で差が発生している第2領域との両方を取り囲む第3領域を算出する。第3領域が、抽出画像伝送手段13により抽出する領域(抽出領域)である。   The counting unit / extraction area calculating unit 12 obtains an image (background image) as a background from images of a plurality of consecutive frames sequentially acquired by the imaging device 2, functions as the above-described counting unit 50, and also functions as the imaging device 2. For each frame after a plurality of consecutive reference frames sequentially obtained by the first region in which a difference is generated between the image of each frame and the background image, and the frame immediately before each frame A third area surrounding both the image and the second area where the difference is generated between the background image is calculated. The third area is an area (extraction area) extracted by the extracted image transmission means 13.

ここで、背景画像は、各フレームの直前の複数フレームの画像を平均化したものを用いる。例えば、フレーム20dについて背景画像との差が発生している領域を算出する場合、カウント手段兼抽出領域算出手段12は、このフレーム20dの直前の100フレームの画像を平均したものを背景画像とする。そして、この背景画像とフレーム20dとの差分を取る。図9(a)〜(c)は各フレーム20d,20e,20fの画像の例を、図10(a)〜(c)は図9(a)〜(c)の各フレーム20d,20e,20fの画像とそれぞれの背景画像との差分を取った画像の例を、それぞれ示している。   Here, the background image is an averaged image of a plurality of frames immediately before each frame. For example, when calculating an area where the difference between the frame 20d and the background image has occurred, the counting unit / extracted area calculating unit 12 uses the average of the images of 100 frames immediately before the frame 20d as the background image. . Then, the difference between this background image and the frame 20d is taken. FIGS. 9A to 9C show examples of images of the frames 20d, 20e, and 20f, and FIGS. 10A to 10C show frames 20d, 20e, and 20f of FIGS. 9A to 9C. The example of the image which took the difference of each image and each background image is shown, respectively.

カウント手段兼抽出領域算出手段12は、このような差分処理を基準フレーム20dの後の各フレーム20e〜20iについて順次行い、各フレーム20e〜20iの画像と背景画像との間で差が発生している第1領域と、各フレーム20e〜20iの直前のフレーム20d〜20hの画像と背景画像との間で差が発生している第2領域との両方を取り囲む第3領域(抽出領域)を算出する。図11(a)はフレーム20dの差分発生領域31とこれを取り囲む第1領域41を示している。図11(b)はフレーム20eの差分発生領域32a,32bとこれらを取り囲む第2領域42を示している。図11(c)はフレーム20dの差分発生領域31とフレーム20eの差分発生領域32a,32bとの両方を取り囲む第3領域(抽出領域)43を示している。   The counting unit / extraction area calculating unit 12 sequentially performs such difference processing for each of the frames 20e to 20i after the reference frame 20d, and a difference occurs between the image of each of the frames 20e to 20i and the background image. A third region (extraction region) that surrounds both the first region and the second region where the difference between the images of the frames 20d to 20h immediately before the frames 20e to 20i and the background image is generated. To do. FIG. 11A shows a difference generation area 31 of the frame 20d and a first area 41 surrounding the difference generation area 31. FIG. 11B shows the difference generation areas 32a and 32b of the frame 20e and the second area 42 surrounding them. FIG. 11C shows a third area (extraction area) 43 that surrounds both the difference occurrence area 31 of the frame 20d and the difference occurrence areas 32a and 32b of the frame 20e.

なお、本実施形態において、カウント手段兼抽出領域算出手段12は、演算処理を簡単にするため、2本の水平線および2本の垂直線により構成される矩形により取り囲まれた領域を算出するが、本発明はこれに限られるものではない。要するに、差分が発生している画素領域を一纏めにして1つの領域により全て取り囲む領域を算出するものであれば良い。   In the present embodiment, the counting means / extraction area calculation means 12 calculates an area surrounded by a rectangle composed of two horizontal lines and two vertical lines in order to simplify the arithmetic processing. The present invention is not limited to this. In short, any pixel area may be used as long as pixel areas in which differences are generated are grouped to calculate an area surrounded by one area.

また、カウント手段兼抽出領域算出手段12は、各フレームに対する第3領域(抽出領域)の位置および大きさを特定する第3領域情報(以下、「抽出領域情報」と称す。)を算出する。図11(c)の例では、カウント手段兼抽出領域算出手段12は、抽出領域情報として、第3領域43の左上角の位置の座標(X,Y)と、第3領域43の大きさ(幅Wおよび高さH)を算出する。   The counting means / extraction area calculation means 12 calculates third area information (hereinafter referred to as “extraction area information”) that specifies the position and size of the third area (extraction area) for each frame. In the example of FIG. 11C, the counting unit / extracted area calculating unit 12 uses the coordinates (X, Y) of the position of the upper left corner of the third area 43 and the size of the third area 43 ( Width W and height H) are calculated.

抽出画像伝送手段13は、各フレームの画像からカウント手段兼抽出領域算出手段12により算出された各フレームの第3領域の画像データを順次抽出して集約サーバ4に伝送する。図9の例では、抽出画像伝送手段13は、図12に示すようにフレーム20eの画像から図11(c)に示す第3領域43の画像データを抽出して集約サーバ4に伝送する。また、抽出画像伝送手段13は、この第3領域43の画像データに加えて抽出領域情報(座標(X,Y)、幅Wおよび高さH)を集約サーバ4に伝送する。   The extracted image transmission unit 13 sequentially extracts the image data of the third area of each frame calculated by the counting unit / extraction area calculation unit 12 from the image of each frame and transmits the image data to the aggregation server 4. In the example of FIG. 9, the extracted image transmission means 13 extracts the image data of the third area 43 shown in FIG. 11C from the image of the frame 20e as shown in FIG. Further, the extracted image transmission means 13 transmits the extracted area information (coordinates (X, Y), width W and height H) to the aggregation server 4 in addition to the image data of the third area 43.

一方、集約サーバ4は、図7に示すように、前述のヒートマップ画像生成手段51として機能するとともに拠点サーバ3から伝送された基準画像データおよび各フレームの第3領域の画像データから動画像を合成するヒートマップ画像生成手段兼画像合成手段14と、ヒートマップ画像生成手段兼画像合成手段14により合成された動画像を記憶する記憶手段15と、電気通信回線Nを介して接続するコンピュータ5(図6参照。)に対して記憶手段15に記憶した動画像を提供する動画像提供手段16とを有する。集約サーバ4は、前述のような様々なコンピュータ上で、このコンピュータを上記各手段14〜16として機能させるためのプログラムを実行することにより実現される。   On the other hand, as shown in FIG. 7, the aggregation server 4 functions as the above-described heat map image generation unit 51 and also generates a moving image from the reference image data transmitted from the base server 3 and the image data of the third region of each frame. A heat map image generating unit / image combining unit 14 to be combined, a storage unit 15 for storing a moving image combined by the heat map image generating unit / image combining unit 14, and a computer 5 (via a telecommunication line N) 6), a moving image providing unit 16 for providing the moving image stored in the storage unit 15 is provided. The aggregation server 4 is realized by executing a program for causing the computer to function as each of the means 14 to 16 on various computers as described above.

ヒートマップ画像生成手段兼画像合成手段14は、前述のヒートマップ画像生成手段51と同様に、拠点サーバ3から送信されたカウント結果に基づいて領域ごとに色や濃淡などの表現を変えたヒートマップ画像を生成するとともに、拠点サーバ3から伝送された基準画像データおよび各フレームの第3領域の画像データから動画像を合成し、合成された動画像を記憶手段15に記憶する。本実施形態においては、ヒートマップ画像生成手段兼画像合成手段14は、各フレームの抽出領域情報に基づいて基準画像データの一部を、順次、各フレームの第3領域の画像データに置き換えることにより動画像を合成する。   The heat map image generating unit / image synthesizing unit 14 is similar to the heat map image generating unit 51 described above, and the heat map is obtained by changing the expression such as color and shading for each region based on the count result transmitted from the base server 3. While generating an image, a moving image is synthesized from the reference image data transmitted from the base server 3 and the image data of the third region of each frame, and the synthesized moving image is stored in the storage unit 15. In the present embodiment, the heat map image generation unit / image synthesis unit 14 sequentially replaces a part of the reference image data with the image data of the third region of each frame based on the extraction region information of each frame. Synthesize moving images.

図9の例では、ヒートマップ画像生成手段兼画像合成手段14は、図13に示す基準フレーム20dの画像に対し、フレーム20eの抽出領域情報に基づき、座標(X,Y)から幅Wおよび高さHの一部の画像データを、図12に示すフレーム20eの第3領域43の画像データに置き換え、基準フレーム20dの次のフレームの画像データとする。そして、ヒートマップ画像生成手段兼画像合成手段14は、次のフレーム20fについても、順次、直前のフレーム20eの画像に対し、フレーム20fの抽出領域情報に基づいてフレーム20fの第3領域の画像データに置き換えていくことにより、動画像を合成する。   In the example of FIG. 9, the heat map image generation unit / image synthesis unit 14 applies the width W and the height from the coordinates (X, Y) to the image of the reference frame 20d shown in FIG. 13 based on the extraction area information of the frame 20e. A part of the image data of the height H is replaced with the image data of the third region 43 of the frame 20e shown in FIG. Then, the heat map image generation unit / image composition unit 14 also sequentially applies the image data of the third region of the frame 20f to the image of the immediately preceding frame 20e based on the extraction region information of the frame 20f for the next frame 20f. A moving image is synthesized by replacing with.

動画像提供手段16は、電気通信回線Nを介して接続するコンピュータ5の要求に応じて記憶手段15に記憶したヒートマップ画像および動画像を提供する。動画像提供手段16は、コンピュータ5から撮像拠点ごとに撮像装置2を指定してヒートマップ画像および動画像のいずれか一方または両方が要求されると、要求されたヒートマップ画像および動画像のいずれか一方または両方を記憶手段15から取得し、電気通信回線Nを介してコンピュータ5に提供する。   The moving image providing means 16 provides the heat map image and moving image stored in the storage means 15 in response to a request from the computer 5 connected via the telecommunication line N. When the moving image providing means 16 designates the imaging device 2 for each imaging base from the computer 5 and requests one or both of the heat map image and the moving image, the moving image providing means 16 determines which of the requested heat map image and moving image. Either or both are acquired from the storage means 15 and provided to the computer 5 via the telecommunication line N.

上記構成のヒートマップ画像生成装置では、各撮像拠点に設置された拠点サーバ3が、1または複数の撮像装置2により順次取得される連続した複数フレームの画像からカウント結果に加えて所定のタイミングごとに基準フレームの画像データを基準画像伝送手段11により集約サーバ4に伝送し、この基準フレームの後の各フレームの画像については、順次、カウント手段兼抽出領域算出手段12により算出した各フレームの第3領域の画像データを抽出画像伝送手段13により抽出して集約サーバ4に伝送する。   In the heat map image generation apparatus having the above-described configuration, the base server 3 installed at each imaging base has a predetermined timing in addition to the count result from consecutive frames of images sequentially acquired by one or a plurality of imaging apparatuses 2. The image data of the reference frame is transmitted to the aggregation server 4 by the reference image transmission means 11, and the image of each frame after this reference frame is sequentially added to the first of the frames calculated by the counting means / extraction area calculation means 12. The three areas of image data are extracted by the extracted image transmission means 13 and transmitted to the aggregation server 4.

一方、集約サーバ4は、拠点サーバ3から送信されたカウント結果に基づいて領域ごとに色や濃淡などの表現を変えたヒートマップ画像を生成するとともに、拠点サーバ3から伝送された基準画像データと、順次伝送された各フレームの第3領域の画像データとから動画像を合成し、記憶手段15に記憶する。そして、集約サーバ4は、電気通信回線Nを介して接続するコンピュータ5の要求に応じて記憶手段15に記憶したヒートマップ画像および動画像を提供する。   On the other hand, the aggregation server 4 generates a heat map image in which expression such as color and shading is changed for each region based on the count result transmitted from the base server 3, and the reference image data transmitted from the base server 3 Then, a moving image is synthesized from the image data of the third area of each frame transmitted sequentially, and stored in the storage means 15. The aggregation server 4 provides the heat map image and the moving image stored in the storage unit 15 in response to a request from the computer 5 connected via the telecommunication line N.

このように、本実施形態におけるヒートマップ画像生成装置では、連続した複数フレームの画像の前後で変化のある領域をそれぞれ抽出して集約サーバ4に伝送して合成するのではなく、連続した複数フレームの各フレームの画像と背景画像との間で差が発生している第1領域と、各フレームの直前のフレームの画像と背景画像との間で差が発生している第2領域との両方を取り囲む第3領域(抽出領域)の画像データを抽出し、集約サーバ4に伝送して合成するので、連続した複数フレームの画像の前後で変化のある領域のそれぞれの光の揺らぎなどによる影響が少なくなり、動画像のぶれや残像の発生を防止しつつ伝送量を抑えることができる。   As described above, in the heat map image generation apparatus according to the present embodiment, a plurality of continuous frames are used instead of extracting and transmitting to the aggregation server 4 and synthesizing regions that have changed before and after the images of the continuous multiple frames. Both the first area in which a difference occurs between the image of each frame and the background image, and the second area in which a difference occurs between the image of the frame immediately before each frame and the background image Since the image data of the third area (extraction area) surrounding the image is extracted, transmitted to the aggregation server 4 and synthesized, there is an influence due to fluctuations of light in the areas where there is a change before and after the continuous image of a plurality of frames. As a result, the amount of transmission can be suppressed while preventing the occurrence of motion image blurring and afterimages.

なお、本実施形態においては、基準フレームを、予め設定された時間やフレーム数等のタイミングで変えているが、他のタイミングで変える構成とすることも可能である。例えば、一定量以上の差分が発生したタイミング(例えば全体の80%の画素が変化していたタイミング)で変えることも可能である。   In the present embodiment, the reference frame is changed at a timing such as a preset time or the number of frames, but may be changed at another timing. For example, it is possible to change the timing when a difference of a certain amount or more occurs (for example, timing when 80% of the pixels are changed).

また、本実施形態においては、背景画像として各フレームの直前の複数フレームの画像を平均化したものを用いているが、背景画像として基準フレームの画像を用いたり、基準フレームの直前の複数フレームの画像を平均化したものを用いたりすることも可能である。なお、背景画像として基準フレームの画像を用いると、あらゆる部分に差分が発生してしまうため、伝送量が増えてしまうが、本実施形態のように背景画像として各フレームの直前の複数フレームの画像を平均化したものを用いることで、差分の発生を抑制することができる。   In the present embodiment, an averaged image of a plurality of frames immediately before each frame is used as a background image. However, an image of a reference frame is used as a background image, or a plurality of frames immediately before a reference frame is used. It is also possible to use an averaged image. Note that if the image of the reference frame is used as the background image, a difference occurs in every part and the transmission amount increases. However, as in the present embodiment, the images of a plurality of frames immediately before each frame are used as the background image. The occurrence of the difference can be suppressed by using the averaged value.

本発明のヒートマップ画像生成装置、ヒートマップ画像生成方法およびヒートマップ画像生成プログラムは、空間内の動きを可視化するヒートマップ画像を生成する装置、方法およびプログラムとして有用である。   The heat map image generation apparatus, the heat map image generation method, and the heat map image generation program of the present invention are useful as an apparatus, a method, and a program for generating a heat map image that visualizes movement in space.

2 撮像装置
3 拠点サーバ
4 集約サーバ
5 コンピュータ
6 蓄積サーバ
10,15 記憶手段
11 基準画像伝送手段
12 カウント手段兼抽出領域算出手段
13 抽出画像伝送手段
14 ヒートマップ画像生成手段兼画像合成手段
16 動画像提供手段
50 カウント手段
51 ヒートマップ画像生成手段
52 画像取得手段
DESCRIPTION OF SYMBOLS 2 Imaging device 3 Base server 4 Aggregation server 5 Computer 6 Storage server 10, 15 Storage means 11 Reference image transmission means 12 Count means and extraction area calculation means 13 Extracted image transmission means 14 Heat map image generation means and image composition means 16 Moving image Providing means 50 Counting means 51 Heat map image generating means 52 Image acquiring means

Claims (6)

撮像装置により所定の時間間隔で順次取得される連続した複数フレームの画像を平均化することにより背景とする画像(以下、「背景画像」と称す。)を得て、前記撮像装置により順次取得される連続した複数フレームの各フレームについて、順次、前記各フレームの画像と前記背景画像との間で差分を取り、予め区分した前記フレーム内の領域ごとに所定の時間内に差が発生している回数をカウントするカウント手段と、
前記カウント手段により前記領域ごとにカウントした回数に応じて前記領域ごとに表現を変えた画像を生成するヒートマップ画像生成手段と
を有するヒートマップ画像生成装置。
A background image (hereinafter referred to as “background image”) is obtained by averaging images of a plurality of consecutive frames sequentially acquired at predetermined time intervals by the imaging device, and sequentially acquired by the imaging device. For each frame of a plurality of consecutive frames, a difference is sequentially taken between the image of each frame and the background image, and a difference is generated within a predetermined time for each area in the frame divided in advance. A counting means for counting the number of times;
A heat map image generation apparatus comprising: a heat map image generation unit configured to generate an image whose expression is changed for each region according to the number of times counted for each region by the counting unit.
撮像拠点に設置され、前記撮像装置が接続される拠点サーバであり、前記カウント手段を有する拠点サーバと、
前記拠点サーバと電気通信回線により接続される集約サーバであり、前記ヒートマップ画像生成手段を有する集約サーバと
を含む請求項1記載のヒートマップ画像生成装置。
A base server installed at an imaging base and connected to the imaging device, the base server having the counting means;
The heat map image generation apparatus according to claim 1, wherein the heat map image generation apparatus includes an aggregation server connected to the base server via an electric communication line and having the heat map image generation unit.
前記撮像装置と電気通信回線により接続される集約サーバを含み、
前記撮像装置は、前記複数フレームの画像を前記集約サーバへ送信するものであり、
前記集約サーバは、前記カウント手段と、前記ヒートマップ画像生成手段とを有するものである請求項1記載のヒートマップ画像生成装置。
An aggregation server connected to the imaging device by an electric communication line;
The imaging device is configured to transmit the images of the plurality of frames to the aggregation server;
The heat map image generation apparatus according to claim 1, wherein the aggregation server includes the counting unit and the heat map image generation unit.
前記撮像装置と電気通信回線により接続される蓄積サーバと、
前記蓄積サーバと電気通信回線により接続される集約サーバとを含み、
前記撮像装置は、前記複数フレームの画像を前記蓄積サーバへ送信するものであり、
前記蓄積サーバは、前記撮像装置から送信された前記複数フレームの画像を蓄積する手段を有し、
前記集約サーバは、前記蓄積サーバから前記複数フレームの画像を取得する手段と、前記カウント手段と、前記ヒートマップ画像生成手段とを有するものである請求項1記載のヒートマップ画像生成装置。
A storage server connected to the imaging device via a telecommunication line;
An aggregation server connected to the storage server by a telecommunication line,
The imaging device is configured to transmit the images of the plurality of frames to the storage server;
The storage server has means for storing the images of the plurality of frames transmitted from the imaging device;
The heat map image generation apparatus according to claim 1, wherein the aggregation server includes means for acquiring the images of the plurality of frames from the storage server, the count means, and the heat map image generation means.
撮像装置により所定の時間間隔で順次取得される連続した複数フレームの画像を平均化することにより背景とする画像(以下、「背景画像」と称す。)を得て、前記撮像装置により順次取得される連続した複数フレームの各フレームについて、順次、前記各フレームの画像と前記背景画像との間で差分を取り、予め区分した前記フレーム内の領域ごとに所定の時間内に差が発生している回数をカウントすること、
前記領域ごとにカウントした回数に応じて前記領域ごとに表現を変えた画像を生成すること
を含むヒートマップ画像生成方法。
A background image (hereinafter referred to as “background image”) is obtained by averaging images of a plurality of consecutive frames sequentially acquired at predetermined time intervals by the imaging device, and sequentially acquired by the imaging device. For each frame of a plurality of consecutive frames, a difference is sequentially taken between the image of each frame and the background image, and a difference is generated within a predetermined time for each area in the frame divided in advance. Counting times,
A heat map image generation method including generating an image whose expression is changed for each area according to the number of times counted for each area.
コンピュータに、
撮像装置により所定の時間間隔で順次取得される連続した複数フレームの画像を平均化することにより背景とする画像(以下、「背景画像」と称す。)を得て、前記撮像装置により順次取得される連続した複数フレームの各フレームについて、順次、前記各フレームの画像と前記背景画像との間で差分を取り、予め区分した前記フレーム内の領域ごとに所定の時間内に差が発生している回数をカウントすること、
前記領域ごとにカウントした回数に応じて前記領域ごとに表現を変えた画像を生成すること
を実行させるためのヒートマップ画像生成プログラム。
On the computer,
A background image (hereinafter referred to as “background image”) is obtained by averaging images of a plurality of consecutive frames sequentially acquired at predetermined time intervals by the imaging device, and sequentially acquired by the imaging device. For each frame of a plurality of consecutive frames, a difference is sequentially taken between the image of each frame and the background image, and a difference is generated within a predetermined time for each area in the frame divided in advance. Counting times,
The heat map image generation program for performing producing | generating the image which changed the expression for every said area | region according to the frequency | count counted for every said area | region.
JP2014247190A 2014-08-11 2014-12-05 Heat map image generation apparatus, heat map image generation method, and heat map image generation program Active JP6222703B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014247190A JP6222703B2 (en) 2014-12-05 2014-12-05 Heat map image generation apparatus, heat map image generation method, and heat map image generation program
PCT/JP2015/072532 WO2016024547A1 (en) 2014-08-11 2015-08-07 Heat map image generation device, heat map image generation method, and heat map image generation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014247190A JP6222703B2 (en) 2014-12-05 2014-12-05 Heat map image generation apparatus, heat map image generation method, and heat map image generation program

Publications (2)

Publication Number Publication Date
JP2016110385A JP2016110385A (en) 2016-06-20
JP6222703B2 true JP6222703B2 (en) 2017-11-01

Family

ID=56124371

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014247190A Active JP6222703B2 (en) 2014-08-11 2014-12-05 Heat map image generation apparatus, heat map image generation method, and heat map image generation program

Country Status (1)

Country Link
JP (1) JP6222703B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112070791A (en) * 2020-09-21 2020-12-11 深圳喜为智慧科技有限公司 Method and system for improving accuracy and efficiency of animal husbandry individual points
CN112822442B (en) * 2020-12-31 2023-04-28 杭州海康威视数字技术股份有限公司 Heat map generation method and device and electronic equipment
CN114820931B (en) * 2022-04-24 2023-03-24 江苏鼎集智能科技股份有限公司 Virtual reality-based CIM (common information model) visual real-time imaging method for smart city

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3150452B2 (en) * 1992-10-21 2001-03-26 日本電信電話株式会社 Video encoding device
JP3830616B2 (en) * 1996-12-26 2006-10-04 三菱電機株式会社 Image processing device for monitoring
JPH10336670A (en) * 1997-04-04 1998-12-18 Sony Corp Image transmitter, image transmission method and providing medium
JP2006013754A (en) * 2004-06-24 2006-01-12 Victor Co Of Japan Ltd Dynamic image coder and dynamic image decoder
JP2006059252A (en) * 2004-08-23 2006-03-02 Denso Corp Method, device and program for detecting movement, and monitoring system for vehicle
JP4623368B2 (en) * 2005-03-16 2011-02-02 ソニー株式会社 Moving object detection apparatus, moving object detection method, and program
US20090217315A1 (en) * 2008-02-26 2009-08-27 Cognovision Solutions Inc. Method and system for audience measurement and targeting media
JP2010062792A (en) * 2008-09-03 2010-03-18 Weigang Xu Image compression apparatus, image decompression apparatus, image compression program, and image decompression program
JP2010288230A (en) * 2009-06-15 2010-12-24 Tokai Paudekkusu:Kk Moving image information relay system and moving image information relay program
JP5597781B1 (en) * 2014-03-26 2014-10-01 パナソニック株式会社 Residence status analysis apparatus, residence status analysis system, and residence status analysis method

Also Published As

Publication number Publication date
JP2016110385A (en) 2016-06-20

Similar Documents

Publication Publication Date Title
JP6916888B2 (en) Virtual prop allocation method, server, client and storage medium
US9973677B2 (en) Refocusable images
CN109743626B (en) Image display method, image processing method and related equipment
CN104126299A (en) Video image stabilization
JP6693509B2 (en) Image processing apparatus, image processing method, and image processing system
JP6049024B2 (en) Image transmission apparatus, image transmission method, and image transmission program
JP6222703B2 (en) Heat map image generation apparatus, heat map image generation method, and heat map image generation program
WO2014045479A1 (en) Object information extraction unit, object information extraction program, and object information extraction method
CN106375682B (en) Image processing method and device, movable equipment, unmanned aerial vehicle remote controller and system
JP5460793B2 (en) Display device, display method, television receiver, and display control device
CN111788538B (en) Head-mounted display and method for reducing visually induced motion sickness in a connected remote display
JP2018141816A (en) Video system, video generation method, video distribution method, video generation program and video distribution program
CN105338281B (en) A kind of image display method and device
KR102168110B1 (en) Camera system
WO2016024547A1 (en) Heat map image generation device, heat map image generation method, and heat map image generation program
JP2018005091A (en) Display control program, display control method and display controller
JP2020017804A (en) Image transmission device, image transmission method and image transmission program
JPWO2017115587A1 (en) Information processing apparatus, control method, and program
US9532040B2 (en) Virtual viewpoint interval determination sections apparatus and method
CN115984336A (en) Optical flow estimation method and device
JP2018028572A (en) Image processing device and image processing method
JP6251651B2 (en) Digital watermark information embedding system, digital watermark information embedding method, and digital watermark information embedding program
JP4653154B2 (en) Status change distribution display device and method thereof
JP2015159396A (en) Imaging apparatus, image generation method, and program
JP2019125825A (en) Display control apparatus, television receiver, display control method, control program, and recording medium

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160712

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170523

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170804

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170815

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170919

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170927

R150 Certificate of patent or registration of utility model

Ref document number: 6222703

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150