JP2018129588A - Data distribution system and data distribution method - Google Patents

Data distribution system and data distribution method Download PDF

Info

Publication number
JP2018129588A
JP2018129588A JP2017019713A JP2017019713A JP2018129588A JP 2018129588 A JP2018129588 A JP 2018129588A JP 2017019713 A JP2017019713 A JP 2017019713A JP 2017019713 A JP2017019713 A JP 2017019713A JP 2018129588 A JP2018129588 A JP 2018129588A
Authority
JP
Japan
Prior art keywords
packet
image
information
interest
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017019713A
Other languages
Japanese (ja)
Other versions
JP6479062B2 (en
Inventor
悠一 瀧田
Yuichi Takita
悠一 瀧田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2017019713A priority Critical patent/JP6479062B2/en
Publication of JP2018129588A publication Critical patent/JP2018129588A/en
Application granted granted Critical
Publication of JP6479062B2 publication Critical patent/JP6479062B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a data distribution system and a data distribution method that can reduce the amount of communication.SOLUTION: A data transmission device 30 specifies the position in a picked-up image of a partial image from information on a payload part of a packet related to the partial image in the picked-up image, creates extended packets by including position information related to the specified position in a header part of the packet, and transmits the extended packets to a distribution control device 40. An image analysis device 60 analyzes the picked-up image, creates interest position information indicating the position at which an interest object is captured in the picked-up image, and transmits the interest position information to the distribution control device. The distribution control device includes: a specification part 434 that specifies, from the received extended packets, an extended packet in which the position related to the position information included in the header part corresponds to the position related to the received interest position information; and a packet distribution part 436 that distributes a packed based on the specified extended packet to a terminal device.SELECTED DRAWING: Figure 1

Description

本発明は、データを端末装置に配信するデータ配信システム及びデータ配信方法に関する。   The present invention relates to a data distribution system and a data distribution method for distributing data to a terminal device.

送信装置から画像データを端末装置に配信するデータ配信システムが利用されている。例えば、特許文献1の画像監視システムでは、カメラで撮影した画像データをカメラから端末装置(監視端末)に直接送信したり、画像データをレコーダやサーバに送信して記憶させておき当該サーバ等を介して端末装置に送信したりすることにより、端末装置において画像データを表示させる。   A data distribution system that distributes image data from a transmission device to a terminal device is used. For example, in the image monitoring system disclosed in Patent Document 1, image data captured by a camera is directly transmitted from the camera to a terminal device (monitoring terminal), or image data is transmitted to a recorder or server for storage, and the server or the like is stored. The image data is displayed on the terminal device by transmitting the data to the terminal device.

特開2012−209727号公報JP 2012-209727 A

ところで近年では、端末装置において受信した画像データを表示するだけでなく、人物認証したり不審者や不審物を検知したりといった様々な画像処理が広く行われている。そして、画像処理の目的によっては、必ずしも撮像画像の全領域の画像データを必要とせず、特定の画像領域を受信できればよい場合がある。例えば、端末装置において顔認証の画像処理を行う場合は、顔領域の画像データさえ受信できればよい場合がある。また、端末装置で不審者検知の画像処理を行う場合は、人物領域の画像データさえ受信できればよい場合がある。しかし、従来技術は、端末装置の画像処理の目的に関わらず全領域の画像データを送信するため、カメラの台数や配信先の端末装置の台数が多くなるほど、カメラ側における通信量が増大し、カメラ側の通信回線が逼迫するといった問題が生じる。   By the way, in recent years, various image processing such as not only displaying image data received at a terminal device but also authenticating a person or detecting a suspicious person or a suspicious object has been widely performed. Depending on the purpose of image processing, it is not always necessary to have image data for the entire area of the captured image, and it may be sufficient to receive a specific image area. For example, when face authentication image processing is performed in a terminal device, it may be sufficient to receive even face area image data. In addition, when image processing for suspicious person detection is performed by a terminal device, it may be sufficient to receive even image data of a person area. However, since the conventional technology transmits image data of the entire area regardless of the purpose of image processing of the terminal device, the amount of communication on the camera side increases as the number of cameras and the number of terminal devices as distribution destinations increase. There is a problem that the communication line on the camera side is tight.

複数の端末装置に画像データを送信する場合におけるカメラ側の通信量を削減するために、カメラからの画像データを一旦データセンタなどに設置されているサーバに送信して記憶させ、当該サーバから各端末装置へ画像データを配信することもできる。しかしながら、この場合においても、サーバから全領域の画像データが送信されるため、サーバ側(データセンタ側)における通信量が増大して通信回線が逼迫するといった他の問題が生じる。   In order to reduce the amount of communication on the camera side when transmitting image data to a plurality of terminal devices, the image data from the camera is temporarily transmitted to a server installed in a data center or the like and stored from the server. Image data can also be distributed to the terminal device. However, even in this case, since the image data of the entire area is transmitted from the server, another problem arises that the communication amount on the server side (data center side) increases and the communication line becomes tight.

本発明の目的は、配信先の端末装置が必要とする画像領域の画像データを含むパケットのみを配信することにより、通信量を抑えることができるデータ配信システム及びデータ配信方法を提供することにある。   An object of the present invention is to provide a data distribution system and a data distribution method capable of reducing the amount of communication by distributing only packets including image data of an image area required by a distribution destination terminal device. .

かかる課題を解決するため本発明は、データ送信装置と、画像解析装置と、配信制御装置とを有するデータ配信システムを提供する。係るデータ配信システムにおいて、データ送信装置は、撮像画像内の部分画像に係るパケットのペイロード部の情報から部分画像の撮像画像内の位置を特定し、特定した位置に関する位置情報をパケットのヘッダ部に含ませることにより拡張パケットを生成するとともに、拡張パケットを配信制御装置に送信し、画像解析装置は、撮像画像を画像解析することにより、撮像画像に関心対象が写っている位置を示す関心位置情報を生成するとともに、関心位置情報を配信制御装置に送信し、配信制御装置は、データ送信装置から送信された拡張パケットを受信する拡張パケット受信部と、画像解析装置から送信された関心位置情報を受信する関心位置情報受信部と、受信した拡張パケットの内、ヘッダ部に含まれる位置情報に係る位置が、受信した関心位置情報に係る位置に対応する拡張パケットを特定する特定部と、特定した拡張パケットに基づくパケットを端末装置に配信するパケット配信部と、を有する。   In order to solve this problem, the present invention provides a data distribution system including a data transmission device, an image analysis device, and a distribution control device. In such a data distribution system, the data transmission device identifies the position in the captured image of the partial image from the information of the payload portion of the packet related to the partial image in the captured image, and the position information regarding the identified position in the header portion of the packet In addition to generating an extended packet by including the extended packet, the extended packet is transmitted to the distribution control device, and the image analysis device performs image analysis on the captured image to indicate the position of interest in the captured image. And the position of interest information is transmitted to the distribution control device. The distribution control device receives the extension packet received from the data transmission device and the position of interest information transmitted from the image analysis device. The received position information receiving part and the position related to the position information included in the header part of the received extended packet are received. It has been a specifying unit for specifying an extended packet corresponding to the position of the point of interest information, and the packet distribution part for distributing packets based on specified extension packet to the terminal device.

また、本発明に係るデータ配信システムにおいて、関心位置情報は、当該関心位置情報が示す位置に写っている関心対象を更に示し、配信制御装置は、複数の端末装置の識別情報のそれぞれと、複数の関心対象の内の何れかの関心対象とを対応付けた関心対象情報を記憶する記憶部を更に有し、特定部は、記憶されている関心対象情報に係る関心対象が、受信した関心位置情報に係る関心対象に対応する端末装置を特定し、パケット配信部は、特定した拡張パケットに基づくパケットを特定した端末装置に配信することが好ましい。   In the data distribution system according to the present invention, the position-of-interest information further indicates an object of interest shown in the position indicated by the position-of-interest information, and the distribution control device includes a plurality of pieces of identification information of a plurality of terminal devices. A storage unit that stores interest information associated with any one of the interests of interest, and the specifying unit receives the position of interest received by the interest target related to the stored interest information. Preferably, the terminal device corresponding to the object of interest related to the information is specified, and the packet distribution unit distributes the packet based on the specified extended packet to the specified terminal device.

また、本発明に係るデータ配信システムにおいて、パケットのペイロード部には、部分画像の位置が記載されており、データ送信装置は、パケットのペイロード部に記載された位置を読み出すことにより、部分画像の撮像画像内の位置を特定することが好ましい。   Further, in the data distribution system according to the present invention, the position of the partial image is described in the payload portion of the packet, and the data transmitting device reads the position described in the payload portion of the packet, thereby It is preferable to specify the position in the captured image.

また、本発明に係るデータ配信システムにおいて、データ送信装置は、複数のパケットから撮像画像を復元し、復元した撮像画像に基づいて、部分画像の撮像画像内の位置を特定することが好ましい。   In the data distribution system according to the present invention, it is preferable that the data transmission device restores a captured image from a plurality of packets and specifies a position in the captured image of the partial image based on the restored captured image.

また、本発明に係るデータ配信システムにおいて、データ送信装置は、拡張パケットにおいて、端末装置が復号可能な暗号化方式によってペイロード部を暗号化することが好ましい。   In the data distribution system according to the present invention, it is preferable that the data transmitting apparatus encrypts the payload portion in the extension packet by an encryption method that can be decrypted by the terminal apparatus.

また、本発明に係るデータ配信システムにおいて、データは、警備装置により警備される監視対象に係るデータであり、配信制御装置は、警備装置が監視対象を警備中であるか否かを示す警備状態情報を記憶する記憶部を更に有し、パケット配信部は、警備装置が監視対象を警備中である場合に限り、特定した拡張パケットに基づくパケットを配信することが好ましい。   In the data distribution system according to the present invention, the data is data related to a monitoring target guarded by the security device, and the distribution control device is in a security state indicating whether the security device is guarding the monitoring target. It is preferable that the information processing apparatus further includes a storage unit that stores information, and the packet distribution unit distributes a packet based on the specified extended packet only when the security device is guarding the monitoring target.

また、かかる課題を解決するため本発明は、データ送信装置と、画像解析装置と、配信制御装置とを有するデータ配信システムにおけるデータ配信方法を提供する。係るデータ配信方法は、データ送信装置が、撮像画像内の部分画像に係るパケットのペイロード部の情報から部分画像の撮像画像内の位置を特定し、特定した位置に関する位置情報をパケットのヘッダ部に含ませることにより拡張パケットを生成するとともに、拡張パケットを配信制御装置に送信し、画像解析装置が、撮像画像を画像解析することにより、撮像画像に関心対象が写っている位置を示す関心位置情報を生成するとともに、関心位置情報を配信制御装置に送信し、配信制御装置が、データ送信装置から送信された拡張パケットを受信し、画像解析装置から送信された関心位置情報を受信し、受信した拡張パケットの内、ヘッダ部に含まれる位置情報に係る位置が、受信した関心位置情報に係る位置に対応する拡張パケットを特定し、特定した拡張パケットに基づくパケットを端末装置に配信することを含む。   In order to solve the problem, the present invention provides a data distribution method in a data distribution system including a data transmission device, an image analysis device, and a distribution control device. In such a data distribution method, the data transmission device specifies the position in the captured image of the partial image from the information of the payload portion of the packet related to the partial image in the captured image, and the position information related to the specified position in the header portion of the packet. In addition to generating an extended packet by including it, the extended packet is transmitted to the distribution control device, and the image analysis device performs image analysis of the captured image, thereby indicating the position of interest in the captured image. The position of interest information is transmitted to the distribution control device, the distribution control device receives the extended packet transmitted from the data transmission device, and receives the position of interest information transmitted from the image analysis device Among the extended packets, the position related to the position information included in the header portion identifies the extended packet corresponding to the position related to the received position information of interest. Comprises delivering packets based on specified extended packet to the terminal device.

本発明に係るデータ配信システム及びデータ配信方法は、通信量を抑えることが可能となる。   The data distribution system and data distribution method according to the present invention can reduce the amount of communication.

本実施形態によるデータ配信システム1の概略構成図である。It is a schematic structure figure of data distribution system 1 by this embodiment. データ送信装置30の概略構成を示す図である。2 is a diagram illustrating a schematic configuration of a data transmission device 30. FIG. 配信制御装置40の概略構成を示す図である。2 is a diagram showing a schematic configuration of a distribution control device 40. FIG. 画像解析装置60の概略構成を示す図である。2 is a diagram illustrating a schematic configuration of an image analysis device 60. FIG. 本実施形態に係るデータ配信システム1の全体動作シーケンス図である。It is a whole operation | movement sequence diagram of the data delivery system 1 which concerns on this embodiment. (a)〜(c)は画像パケットのデータ構造の一例を示す模式図であり、(d)は画像列形式情報のデータ構造の一例を示す模式図であり、(e)は画像形式情報のデータ構造の一例を示す模式図である。(A)-(c) is a schematic diagram which shows an example of the data structure of an image packet, (d) is a schematic diagram which shows an example of the data structure of image sequence format information, (e) is image format information It is a schematic diagram which shows an example of a data structure. 拡張パケット生成処理の動作の例を示すフローチャートである。It is a flowchart which shows the example of operation | movement of an extended packet production | generation process. (a)は拡張パケット生成用情報331のデータ構造の一例を示す模式図であり、(b)〜(d)は拡張パケットのデータ構造の一例を示す模式図であり、(e)は部分画像領域情報のデータ構造の一例を示す模式図である。(A) is a schematic diagram which shows an example of the data structure of the extended packet production | generation information 331, (b)-(d) is a schematic diagram which shows an example of the data structure of an extended packet, (e) is a partial image. It is a schematic diagram which shows an example of the data structure of area | region information. 画像解析処理の動作の例を示すフローチャートである。It is a flowchart which shows the example of operation | movement of an image analysis process. 関心領域パケットのデータ構造の一例を示す模式図である。It is a schematic diagram which shows an example of the data structure of a region-of-interest packet. (a)は配信先要求情報421のデータ構造の一例を示す模式図であり、(b)は配信先情報422のデータ構造の一例を示す模式図であり、(c)〜(e)は配信用パケットのデータ構造の一例を示す模式図である。(A) is a schematic diagram which shows an example of the data structure of the delivery destination request | requirement information 421, (b) is a schematic diagram which shows an example of the data structure of the delivery destination information 422, (c)-(e) is delivery It is a schematic diagram which shows an example of the data structure of a use packet. 端末装置特定処理の動作の例を示すフローチャートである。It is a flowchart which shows the example of operation | movement of a terminal device specific process.

以下、本発明のデータ配信システムについて図を参照しつつ説明する。   The data distribution system of the present invention will be described below with reference to the drawings.

図1は、本実施形態によるデータ配信システム1の概略構成を示す図である。図1に示すように、データ配信システム1は、画像送信装置10、警備装置20、データ送信装置30、配信制御装置40、複数の端末装置50、及び、画像解析装置60等を有する。画像送信装置10及び警備装置20は、警備エリア2に配置される。画像送信装置10及びデータ送信装置30は、それぞれネットワーク3に通信接続され、ネットワーク3を介して通信する。ネットワーク3は、例えばインターネット等の有線ネットワークである。なお、ネットワーク3は、無線LAN(Local Area Network)、WiMAX(Worldwide Interoperability for Microwave Access)又はPHS(Personal Handy-phone System)等の無線ネットワークでもよい。
配信制御装置40は、通信事業者網4の網内装置である。警備装置20、データ送信装置30、配信制御装置40、複数の端末装置50、及び、画像解析装置60は、それぞれ通信事業者網4に通信接続され、通信事業者網4内に配置された配信制御装置40と通信する。通信事業者網4は、W−CDMA(Wideband Code Division Multiple Access)、CDMA2000又はLTE(Long Term Evolution)等の通信方式に従ったネットワークである。なお、通信事業者網4は、イントラネット等の有線ネットワークでもよい。
FIG. 1 is a diagram showing a schematic configuration of a data distribution system 1 according to the present embodiment. As shown in FIG. 1, the data distribution system 1 includes an image transmission device 10, a security device 20, a data transmission device 30, a distribution control device 40, a plurality of terminal devices 50, an image analysis device 60, and the like. The image transmission device 10 and the security device 20 are arranged in the security area 2. The image transmission device 10 and the data transmission device 30 are connected to the network 3 for communication and communicate via the network 3. The network 3 is a wired network such as the Internet. The network 3 may be a wireless network such as a wireless LAN (Local Area Network), WiMAX (Worldwide Interoperability for Microwave Access), or PHS (Personal Handy-phone System).
The distribution control device 40 is an in-network device of the communication carrier network 4. The security device 20, the data transmission device 30, the distribution control device 40, the plurality of terminal devices 50, and the image analysis device 60 are each connected to the communication carrier network 4 and distributed in the communication carrier network 4. It communicates with the control device 40. The communication carrier network 4 is a network according to a communication method such as W-CDMA (Wideband Code Division Multiple Access), CDMA2000, or LTE (Long Term Evolution). The communication carrier network 4 may be a wired network such as an intranet.

画像送信装置10は、例えばネットワークカメラ等に搭載され、ネットワークカメラが撮像した撮像画像をパケット化する。例えば、各画像送信装置10は、ネットワークカメラが警備エリア2内の画像を撮像するように、警備エリア2内に配置され、警備エリア2内の侵入人物、不審物体等の監視対象を撮像した撮像画像を取得する。画像送信装置10は、取得した撮像画像を、H.264/MPEG(Moving Picture Experts Group)−4 AVC(Advanced Video Coding)規格等の所定の符号化規格に従って、所定の解像度、画質、フレームレート等の属性を有する画像データに符号化し、符号化した画像データに係る画像パケットを生成する。なお、画像送信装置10は、撮像画像を所定単位毎に複数の部分画像に分割し、部分画像毎に符号化して画像パケットを生成する。例えば、H.264/MPEG−4 AVC規格では、所定単位は、スライス(slice)である。画像送信装置10は、通信部を有し、生成した画像パケットを通信部を介してデータ送信装置30に送信する。
なお、データ配信システム1は、複数の画像送信装置10を有し、各画像送信装置10が画像パケットをデータ送信装置30に送信してもよい。
The image transmission device 10 is mounted on a network camera or the like, for example, and packetizes a captured image captured by the network camera. For example, each image transmission device 10 is arranged in the security area 2 so that the network camera captures an image in the security area 2, and captures an image of a monitoring target such as an intruder or a suspicious object in the security area 2. Get an image. The image transmission apparatus 10 uses the acquired captured image as an H.264 image. H.264 / MPEG (Moving Picture Experts Group) -4 Image encoded according to a predetermined encoding standard such as AVC (Advanced Video Coding) standard, and encoded into image data having attributes such as a predetermined resolution, image quality, and frame rate An image packet related to the data is generated. The image transmitting apparatus 10 divides the captured image into a plurality of partial images for each predetermined unit, and encodes each partial image to generate an image packet. For example, in the H.264 / MPEG-4 AVC standard, the predetermined unit is a slice. The image transmission device 10 includes a communication unit, and transmits the generated image packet to the data transmission device 30 via the communication unit.
The data distribution system 1 may include a plurality of image transmission devices 10, and each image transmission device 10 may transmit an image packet to the data transmission device 30.

警備装置20は、家屋、マンションの住戸等の警備エリア2内に設置され、警備エリア2内に侵入する侵入人物、警備エリア2内に存在する不審物体等の監視対象を監視し、警備する。警備装置20には、警備エリア2内の異常を検出するための1つ以上のセンサが接続される。センサは、例えば、受光した赤外線の光量変化に基づいて探知範囲内における監視対象の有無を検知する赤外線センサ、撮像画像と予め記憶された正常時の画像との差分信号に基づいて撮像範囲内における監視対象の有無を検知する画像センサ等である。警備装置20には「警備」又は「非警備」が設定される。警備装置20は、「警備」が設定されている間、警備エリア2内に監視対象が存在するか否かを監視し、警備エリア2内において監視対象を検知すると、配信制御装置40を介して端末装置50へ、監視対象が検知されたことを示す異常通報を行う。   The security device 20 is installed in the security area 2 such as a house or a dwelling unit of a condominium, and monitors and guards monitoring targets such as an intruder entering the security area 2 and a suspicious object existing in the security area 2. One or more sensors for detecting an abnormality in the security area 2 are connected to the security device 20. The sensor is, for example, an infrared sensor that detects the presence or absence of a monitoring target in the detection range based on a change in the amount of received infrared light, and a sensor in the imaging range based on a difference signal between a captured image and a normal image stored in advance. An image sensor or the like that detects the presence or absence of a monitoring target. In the security device 20, “security” or “non-security” is set. The security device 20 monitors whether or not there is a monitoring target in the security area 2 while “security” is set. When the monitoring target is detected in the security area 2, the security device 20 passes through the distribution control device 40. An abnormality report indicating that the monitoring target has been detected is sent to the terminal device 50.

端末装置50は、画像送信装置10が送信した撮像画像を長期保存する長期保管用のデータセンタに配置されるサーバ、画像送信装置10が送信した撮像画像を管制員により監視するための、監視管制センタに配置されるパーソナルコンピュータ、又は、撮像画像に写っている人物の顔等に基づいて人物を認証する認証装置等である。各端末装置50は、通信部及び表示部を有し、通信部を介して配信制御装置40から、画像送信装置10により送信された画像パケットに基づくパケットを受信し、受信したパケットから撮像画像を復元して表示部に表示する。   The terminal device 50 is a server arranged in a data center for long-term storage that stores a captured image transmitted by the image transmission device 10 and a monitoring control for monitoring a captured image transmitted by the image transmission device 10 by a controller. It is a personal computer arranged at the center, or an authentication device for authenticating a person based on the face of the person shown in the captured image. Each terminal device 50 includes a communication unit and a display unit, receives a packet based on the image packet transmitted by the image transmission device 10 from the distribution control device 40 via the communication unit, and captures a captured image from the received packet. Restore and display on the display.

図2は、データ送信装置30の概略構成を示す図である。データ送信装置30は、画像送信装置10から画像パケットを受信し、受信した画像パケットから拡張パケットを生成して配信制御装置40に送信する。データ送信装置30は、例えば、所定のアプリケーションプログラムに従ってデータ処理を実行可能なセットトップボックス等に搭載される。なお、データ送信装置30と画像送信装置10は、一つの装置として実装されてもよい。図2に示すように、データ送信装置30は、第1通信部31、第2通信部32、記憶部33及び制御部34等を有する。   FIG. 2 is a diagram illustrating a schematic configuration of the data transmission device 30. The data transmission device 30 receives the image packet from the image transmission device 10, generates an extension packet from the received image packet, and transmits the extended packet to the distribution control device 40. The data transmission device 30 is mounted on, for example, a set top box that can execute data processing according to a predetermined application program. The data transmission device 30 and the image transmission device 10 may be implemented as one device. As shown in FIG. 2, the data transmission device 30 includes a first communication unit 31, a second communication unit 32, a storage unit 33, a control unit 34, and the like.

第1通信部31は、データ送信装置30がネットワーク3と、TCP/IP等の通信方式に従った通信を行うための通信インタフェース回路を有する。第1通信部31は、ネットワーク3を介して画像送信装置10から受信したデータを制御部34に送る。また、第1通信部31は、制御部34から受け取ったデータをネットワーク3を介して画像送信装置10に送信する。   The first communication unit 31 includes a communication interface circuit for allowing the data transmission device 30 to communicate with the network 3 according to a communication method such as TCP / IP. The first communication unit 31 sends data received from the image transmission device 10 via the network 3 to the control unit 34. Further, the first communication unit 31 transmits the data received from the control unit 34 to the image transmission device 10 via the network 3.

第2通信部32は、データ送信装置30が通信事業者網4と、W−CDMA、CDMA2000又はLTE等の通信方式に従った携帯電話の無線通信を行うための通信インタフェース回路を有する。第2通信部32は、通信事業者網4を介して配信制御装置40から受信したデータを制御部34に送る。また、第2通信部32は、制御部34から受け取ったデータを通信事業者網4を介して配信制御装置40に送信する。   The second communication unit 32 includes a communication interface circuit for allowing the data transmission device 30 to perform wireless communication with the communication carrier network 4 and a mobile phone in accordance with a communication method such as W-CDMA, CDMA2000, or LTE. The second communication unit 32 sends data received from the distribution control device 40 via the communication carrier network 4 to the control unit 34. Further, the second communication unit 32 transmits the data received from the control unit 34 to the distribution control device 40 via the communication carrier network 4.

記憶部33は、ROM(Read Only Memory)、RAM(Random Access Memory)等の半導体メモリ、又は、磁気記録媒体及びそのアクセス装置もしくは光記録媒体及びそのアクセス装置等を有する。記憶部33は、データ送信装置30を制御するためのコンピュータプログラム及び各種データを記憶し、制御部34との間でこれらの情報を入出力する。コンピュータプログラムは、CD−ROM(compact disk read only memory)、DVD−ROM(digital versatile disk read only memory)等のコンピュータ読み取り可能な可搬型記録媒体から公知のセットアッププログラム等を用いて記憶部33にインストールされてもよい。また、記憶部33には、拡張パケット生成用情報331等が記憶される。拡張パケット生成用情報331の詳細については後述する。   The storage unit 33 includes a semiconductor memory such as a ROM (Read Only Memory) and a RAM (Random Access Memory), or a magnetic recording medium and its access device or an optical recording medium and its access device. The storage unit 33 stores a computer program and various data for controlling the data transmission device 30, and inputs / outputs such information to / from the control unit 34. The computer program is installed in the storage unit 33 from a computer-readable portable recording medium such as a CD-ROM (compact disk read only memory) or a DVD-ROM (digital versatile disk read only memory) using a known setup program. May be. The storage unit 33 stores extended packet generation information 331 and the like. Details of the extended packet generation information 331 will be described later.

制御部34は、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、周辺回路等を有する。制御部34は、拡張パケット生成部341及び拡張パケット送信部342等を有する。
拡張パケット生成部341は、第1通信部31を介して画像送信装置10から受信した、撮像画像内の部分画像に係る画像パケットのペイロード部の情報から、その部分画像の撮像画像内の位置を特定する。拡張パケット生成部341は、特定した位置に関する位置情報である部分画像位置情報を、その画像パケットのヘッダ部に含ませることにより拡張パケットを生成する。
拡張パケット送信部342は、拡張パケット生成部341が生成した拡張パケットを第2通信部32を介して配信制御装置40に送信する。
The control unit 34 includes a CPU (Central Processing Unit), an MPU (Micro Processing Unit), peripheral circuits, and the like. The control unit 34 includes an extended packet generation unit 341, an extended packet transmission unit 342, and the like.
The extended packet generation unit 341 determines the position of the partial image in the captured image from the information of the payload portion of the image packet related to the partial image in the captured image received from the image transmission device 10 via the first communication unit 31. Identify. The extended packet generator 341 generates an extended packet by including partial image position information, which is position information regarding the specified position, in the header portion of the image packet.
The extended packet transmitter 342 transmits the extended packet generated by the extended packet generator 341 to the distribution control device 40 via the second communication unit 32.

図3は、配信制御装置40の概略構成を示す図である。配信制御装置40は、データ送信装置30から拡張パケットを受信し、受信した拡張パケットに基づいて配信用パケットを生成する。また、配信制御装置40は、画像解析装置60から、撮像画像において、各端末装置50のユーザが関心を持ち、閲覧を要求する関心対象が写っている位置と、その位置に写っている関心対象とを示す関心位置情報を含む関心領域パケットを受信する。関心対象は、例えば人物又は物体の一部(人物の顔等)又は全部である。なお、関心対象は、警備エリア2へ侵入する侵入人物、不審物体等、特定の人物又は物体の一部又は全部でもよい。配信制御装置40は、受信した関心領域パケットに含まれる関心位置情報に基づいて、配信用パケットを送信すべき端末装置50を特定し、特定した端末装置50に配信用パケットを送信する。配信制御装置40は、例えば、所定のアプリケーションプログラムに従ってデータ処理を実行可能なルータ等に搭載される。図3に示すように、配信制御装置40は、通信部41、記憶部42及び制御部43等を有する。   FIG. 3 is a diagram illustrating a schematic configuration of the distribution control device 40. The distribution control device 40 receives the extension packet from the data transmission device 30, and generates a distribution packet based on the received extension packet. Also, the distribution control device 40 receives from the image analysis device 60 a position in which the user of each terminal device 50 is interested in the captured image, and the object of interest reflected in the position. The region-of-interest packet including the position-of-interest information indicating is received. The object of interest is, for example, a person or a part of an object (such as a person's face) or the entire object. Note that the target of interest may be a part or all of a specific person or object such as an intruder or suspicious object that enters the security area 2. The distribution control device 40 identifies the terminal device 50 to which the distribution packet is to be transmitted based on the interest position information included in the received region-of-interest packet, and transmits the distribution packet to the identified terminal device 50. The distribution control device 40 is mounted on, for example, a router that can execute data processing according to a predetermined application program. As illustrated in FIG. 3, the distribution control device 40 includes a communication unit 41, a storage unit 42, a control unit 43, and the like.

通信部41は、配信制御装置40が通信事業者網4を介して警備装置20、データ送信装置30、端末装置50及び画像解析装置60と通信を行うための通信インタフェース回路を有する。通信部41は、警備装置20、データ送信装置30、端末装置50又は画像解析装置60から受信したデータを制御部43に送る。また、通信部41は、制御部43から受け取ったデータを警備装置20、データ送信装置30、端末装置50又は画像解析装置60に送信する。   The communication unit 41 includes a communication interface circuit for the distribution control device 40 to communicate with the security device 20, the data transmission device 30, the terminal device 50, and the image analysis device 60 via the communication carrier network 4. The communication unit 41 sends data received from the security device 20, the data transmission device 30, the terminal device 50, or the image analysis device 60 to the control unit 43. The communication unit 41 transmits the data received from the control unit 43 to the security device 20, the data transmission device 30, the terminal device 50, or the image analysis device 60.

記憶部42は、ROM、RAM等の半導体メモリ、又は、磁気記録媒体及びそのアクセス装置もしくは光記録媒体及びそのアクセス装置等を有する。記憶部42は、配信制御装置40を制御するためのコンピュータプログラム及び各種データを記憶し、制御部43との間でこれらの情報を入出力する。コンピュータプログラムは、CD−ROM、DVD−ROM等のコンピュータ読み取り可能な可搬型記録媒体から公知のセットアッププログラム等を用いて記憶部42にインストールされてもよい。
また、記憶部42には、配信先要求情報421及び配信先情報422等が記憶される。配信先要求情報421には、各端末装置50の識別情報と、複数の関心対象の内、各端末装置50の利用者が閲覧を要求する関心対象を示す要求対象情報とが対応付けて記憶される。各端末装置50の識別情報は、例えば各端末装置50のIPアドレス及びポート番号等(以下、配信先端末アドレスと称する場合がある)である。要求対象情報は、関心対象情報の一例である。配信先情報422には、拡張パケットを配信すべき端末装置50の配信先端末アドレス等が記憶される。配信先要求情報421及び配信先情報422の詳細については後述する。
The storage unit 42 includes a semiconductor memory such as a ROM and a RAM, or a magnetic recording medium and its access device or an optical recording medium and its access device. The storage unit 42 stores a computer program and various data for controlling the distribution control device 40, and inputs / outputs such information to / from the control unit 43. The computer program may be installed in the storage unit 42 using a known setup program or the like from a computer-readable portable recording medium such as a CD-ROM or DVD-ROM.
The storage unit 42 stores distribution destination request information 421, distribution destination information 422, and the like. In the distribution destination request information 421, identification information of each terminal device 50 and request target information indicating a target of interest that a user of each terminal device 50 requests to browse among a plurality of targets of interest are stored in association with each other. The The identification information of each terminal device 50 is, for example, the IP address and port number of each terminal device 50 (hereinafter may be referred to as a distribution destination terminal address). The request target information is an example of interest target information. The delivery destination information 422 stores the delivery destination terminal address of the terminal device 50 to which the extended packet is to be delivered. Details of the distribution destination request information 421 and the distribution destination information 422 will be described later.

制御部43は、CPU、MPU、周辺回路等を有する。制御部43は、拡張パケット受信部431、関心位置情報受信部432、配信先情報更新部433、特定部434、配信用パケット生成部435及びパケット配信部436等を有する。
拡張パケット受信部431は、データ送信装置30から送信された拡張パケットを通信部41を介して受信する。
関心位置情報受信部432は、画像解析装置60から送信された関心位置情報を含む関心領域パケットを通信部41を介して受信する。
配信先情報更新部433は、配信先要求情報421と、画像解析装置60から送信された関心領域パケットに含まれる関心位置情報とに基づいて配信先情報422を更新する。
特定部434は、拡張パケット受信部431が受信した拡張パケットの内、ヘッダ部に含まれる部分画像位置情報に係る位置が、関心位置情報受信部432が受信した関心位置情報に係る位置に対応する拡張パケットを特定する。さらに、特定部434は、配信先要求情報421に記憶されている要求対象情報に係る関心対象が、関心位置情報受信部432が受信した関心位置情報に係る関心対象に対応する端末装置50を特定する。
配信用パケット生成部435は、拡張パケット受信部431が受信した拡張パケットに基づいて配信用パケットを生成する。
パケット配信部436は、配信用パケット生成部435が生成した配信用パケットの内、特定部434が特定した拡張パケットに基づく配信用パケットを、通信部41を介して、特定部434が特定した各端末装置50に配信する。
The control unit 43 includes a CPU, an MPU, a peripheral circuit, and the like. The control unit 43 includes an extended packet reception unit 431, a position of interest information reception unit 432, a distribution destination information update unit 433, a specification unit 434, a distribution packet generation unit 435, a packet distribution unit 436, and the like.
The extension packet receiving unit 431 receives the extension packet transmitted from the data transmission device 30 via the communication unit 41.
The region-of-interest information receiving unit 432 receives the region-of-interest packet including the region-of-interest information transmitted from the image analysis device 60 via the communication unit 41.
The distribution destination information update unit 433 updates the distribution destination information 422 based on the distribution destination request information 421 and the interest position information included in the region-of-interest packet transmitted from the image analysis device 60.
The specifying unit 434 has a position related to the partial image position information included in the header portion of the extended packet received by the extended packet receiving unit 431 corresponding to the position related to the interested position information received by the interested position information receiving unit 432. Identify extended packets. Further, the specifying unit 434 specifies the terminal device 50 in which the interest target related to the request target information stored in the distribution destination request information 421 corresponds to the target of interest related to the interested position information received by the interested position information receiving unit 432. To do.
The distribution packet generator 435 generates a distribution packet based on the extended packet received by the extended packet receiver 431.
The packet distribution unit 436 uses the communication unit 41 to identify the distribution packet based on the extended packet identified by the identification unit 434 among the distribution packets generated by the distribution packet generation unit 435. Delivered to the terminal device 50.

図4は、画像解析装置60の概略構成を示す図である。画像解析装置60は、撮像画像を画像解析することにより、撮像画像に関心対象が写っている位置を検出し、検出した位置と、その位置に写っている関心対象とを示す関心位置情報を生成し、生成した関心位置情報を含む関心領域パケットを配信制御装置40に送信する。なお、配信制御装置40と画像解析装置60は、一つの装置として実装されてもよい。図4に示すように、画像解析装置60は、通信部61、記憶部62及び制御部63等を有する。   FIG. 4 is a diagram illustrating a schematic configuration of the image analysis device 60. The image analysis device 60 performs image analysis on the captured image to detect a position where the object of interest appears in the captured image, and generates interest position information indicating the detected position and the object of interest reflected in the position. Then, the region-of-interest packet including the generated position-of-interest information is transmitted to the distribution control device 40. The distribution control device 40 and the image analysis device 60 may be implemented as one device. As shown in FIG. 4, the image analysis device 60 includes a communication unit 61, a storage unit 62, a control unit 63, and the like.

通信部61は、画像解析装置60が通信事業者網4と、W−CDMA、CDMA2000又はLTE等の通信方式に従った携帯電話の無線通信を行うための通信インタフェース回路を有する。通信部61は、通信事業者網4を介して配信制御装置40から受信したデータを制御部63に送る。また、通信部61は、制御部63から受け取ったデータを通信事業者網4を介して配信制御装置40に送信する。   The communication unit 61 includes a communication interface circuit that allows the image analysis device 60 to perform wireless communication with a communication carrier network 4 and a mobile phone in accordance with a communication method such as W-CDMA, CDMA2000, or LTE. The communication unit 61 sends data received from the distribution control device 40 via the communication carrier network 4 to the control unit 63. In addition, the communication unit 61 transmits the data received from the control unit 63 to the distribution control device 40 via the communication carrier network 4.

記憶部62は、ROM、RAM等の半導体メモリ、又は、磁気記録媒体及びそのアクセス装置もしくは光記録媒体及びそのアクセス装置等を有する。記憶部62は、画像解析装置60を制御するためのコンピュータプログラム及び各種データを記憶し、制御部63との間でこれらの情報を入出力する。コンピュータプログラムは、CD−ROM、DVD−ROM等のコンピュータ読み取り可能な可搬型記録媒体から公知のセットアッププログラム等を用いて記憶部62にインストールされてもよい。   The storage unit 62 includes a semiconductor memory such as a ROM and a RAM, or a magnetic recording medium and its access device or an optical recording medium and its access device. The storage unit 62 stores a computer program and various data for controlling the image analysis device 60, and inputs / outputs such information to / from the control unit 63. The computer program may be installed in the storage unit 62 using a known setup program or the like from a computer-readable portable recording medium such as a CD-ROM or DVD-ROM.

制御部63は、CPU、MPU、周辺回路等を有する。制御部63は、関心位置情報生成部631及び関心位置情報送信部632等を有する。
関心位置情報生成部631は、配信制御装置40から拡張パケットを受信し、受信した拡張パケットから撮像画像を復元する。関心位置情報生成部631は、復元した撮像画像から、公知の画像処理技術を用いて、関心対象を検知し、撮像画像に関心対象が写っている位置を特定する。そして、関心位置情報生成部631は、特定した位置(範囲を示す座標)と、その位置に写っている関心対象の識別子とを示す関心位置情報を生成し、関心位置情報を含む関心領域パケットを生成する。
関心位置情報送信部632は、関心位置情報生成部631が生成した関心位置情報を含む関心領域パケットを、通信部61を介して、配信制御装置40に送信する。
The control unit 63 includes a CPU, an MPU, a peripheral circuit, and the like. The control unit 63 includes a position-of-interest information generation unit 631, a position-of-interest information transmission unit 632, and the like.
The position-of-interest information generation unit 631 receives the extension packet from the distribution control device 40, and restores the captured image from the received extension packet. The position-of-interest information generation unit 631 detects a target of interest from the restored captured image using a known image processing technique, and identifies a position where the target of interest is shown in the captured image. Then, the position-of-interest information generation unit 631 generates position-of-interest information indicating the identified position (coordinates indicating the range) and the identifier of the object of interest reflected in the position, and generates a region-of-interest packet including the position-of-interest information. Generate.
The region-of-interest information transmission unit 632 transmits a region-of-interest packet including the region-of-interest information generated by the region-of-interest information generation unit 631 to the distribution control device 40 via the communication unit 61.

図5は、本実施形態に係るデータ配信システム1の全体動作シーケンス図である。以下に説明する動作シーケンスは、データ配信システム1が有する各装置の記憶部に予め記憶されているプログラムに基づいて、主に各装置の制御部により、各装置の各要素と協働して実行される。
まず、各画像送信装置10は、ネットワークカメラが撮像した撮像画像を取得し、取得した撮像画像内の部分画像を符号化し、符号化した部分画像に係る画像パケットを生成する(ステップS101)。
FIG. 5 is an overall operation sequence diagram of the data distribution system 1 according to the present embodiment. The operation sequence described below is executed mainly by the control unit of each device in cooperation with each element of each device based on a program stored in advance in the storage unit of each device included in the data distribution system 1. Is done.
First, each image transmission device 10 acquires a captured image captured by a network camera, encodes a partial image in the acquired captured image, and generates an image packet related to the encoded partial image (step S101).

図6(a)〜(c)は、画像パケットのデータ構造の一例を示す模式図である。図6(a)〜(c)に示すように、画像パケットはヘッダ部及びペイロード部を有する。
ヘッダ部は、画像送信装置ID及びデータ送信装置アドレス等を有する。画像送信装置IDは、画像送信装置10を一意に識別可能なユニークな値である。データ送信装置アドレスは、データ送信装置30のアドレスであり、例えばデータ送信装置30のIPアドレス及びポート番号等である。画像パケットの構成はペイロード部の構成によって3種類に分類される。
6A to 6C are schematic diagrams illustrating an example of the data structure of an image packet. As shown in FIGS. 6A to 6C, the image packet has a header portion and a payload portion.
The header part has an image transmission device ID, a data transmission device address, and the like. The image transmission device ID is a unique value that can uniquely identify the image transmission device 10. The data transmission device address is an address of the data transmission device 30, for example, an IP address and a port number of the data transmission device 30. The configuration of the image packet is classified into three types according to the configuration of the payload portion.

図6(a)は、時系列で連続する画像列について、解像度、画質又はフレームレート等の共通の形式情報を示す画像列形式情報がペイロード部に含まれる画像パケットの例である。
図6(d)は、画像列形式情報のデータ構造の一例を示す模式図である。図6(d)に示すように、画像列形式情報は、画像の解像度を示す解像度情報、画像の符号化品質(量子化パラメータ等)を示す画質情報、又は、1秒間に含まれる画像の枚数(フレーム数)を示すフレームレート情報等を有する。
画像列形式情報は、時系列で連続する画像列(複数フレームの画像)について、復号し表示するために必要な共通の形式情報である。例えば、H.264/MPEG−4 AVC規格では、画像列形式情報として、SPS(Sequence Parameter Set)、PPS(Picture Parameter Set)等が設定される。
なお、解像度情報として、SPSのframe_mbs_only_flag、pic_width_in_mbs_minus1、pic_height_in_map_units_minus1等が設定される。frame_mbs_only_flagは、ピクチャにフレーム・マクロブロックしか含まれない場合、即ちインターレースでない場合に1となり、そうでない場合に0となる。pic_width_in_mbs_minus1は(ピクチャの水平方向のマクロブロックの数−1)であり、pic_height_in_map_units_minus1は(ピクチャの垂直方向のマクロブロックの数−1)である。マクロブロックの水平及び垂直方向の画素数が16である場合、水平方向の画素数及び垂直方向の画素数は、以下の式により算出される。
水平方向の画素数=(pic_width_in_mbs_minus1+1)×16
垂直方向の画素数=(2−frame_mbs_only_flag)×(pic_height_in_map_units_minus1+1)×16
画像列形式情報には、上記した情報以外の情報が含まれていてもよい。
FIG. 6A is an example of an image packet in which image sequence format information indicating common format information such as resolution, image quality, or frame rate is included in the payload portion for time-sequential image sequences.
FIG. 6D is a schematic diagram illustrating an example of the data structure of the image sequence format information. As shown in FIG. 6D, the image sequence format information includes resolution information indicating the resolution of the image, image quality information indicating the encoding quality (quantization parameter, etc.) of the image, or the number of images included in one second. And frame rate information indicating (number of frames).
The image sequence format information is common format information necessary for decoding and displaying an image sequence (images of a plurality of frames) continuous in time series. For example, in the H.264 / MPEG-4 AVC standard, SPS (Sequence Parameter Set), PPS (Picture Parameter Set), etc. are set as image sequence format information.
Note that SPS frame_mbs_only_flag, pic_width_in_mbs_minus1, pic_height_in_map_units_minus1, etc. are set as resolution information. The frame_mbs_only_flag is set to 1 when only a frame / macroblock is included in a picture, that is, not interlaced, and set to 0 otherwise. pic_width_in_mbs_minus1 is (the number of macroblocks in the horizontal direction of the picture−1), and pic_height_in_map_units_minus1 is (the number of macroblocks in the vertical direction of the picture−1). When the number of pixels in the horizontal and vertical directions of the macroblock is 16, the number of pixels in the horizontal direction and the number of pixels in the vertical direction are calculated by the following equations.
Number of pixels in the horizontal direction = (pic_width_in_mbs_minus1 + 1) x 16
Number of pixels in the vertical direction = (2−frame_mbs_only_flag) × (pic_height_in_map_units_minus1 + 1) × 16
The image sequence format information may include information other than the information described above.

図6(b)は、画像データの一部である所定単位の部分画像データについて、符号化のタイプ等の形式情報を示す画像形式情報と、その部分画像データの一部とがペイロード部に含まれる画像パケットの例である。
図6(e)は、画像形式情報のデータ構造の一例を示す模式図である。図6(e)に示すように、画像形式情報は、フレーム番号、先頭マクロブロック番号等を有する。フレーム番号は、そのフレームの番号であり、先頭マクロブロック番号は、そのフレームに含まれる先頭のマクロブロックの番号である。画像形式情報は、符号化された画像の形式等のように、所定単位の画像データを復号し表示するために必要な形式情報である。例えば、H.264/MPEG−4 AVC規格では、画像形式情報として、スライス・ヘッダ(slice header)等が設定される。また、フレーム番号として、スライス・ヘッダ(slice header)のframe_num等が設定され、先頭マクロブロック番号として、スライス・ヘッダのfirst_mb_in_slice等が設定される。また、画像形式情報には、上記した情報以外の情報が含まれていてもよい。
所定単位の部分画像データが1つのパケットのサイズを超える場合、部分画像データは、さらに複数の画像データに分割されて複数のパケットに格納される。画像形式情報は、部分画像データの先頭に格納される。
FIG. 6B shows, for the partial image data in a predetermined unit that is a part of the image data, the image format information indicating the format information such as the encoding type and a part of the partial image data are included in the payload portion. FIG.
FIG. 6E is a schematic diagram illustrating an example of the data structure of the image format information. As shown in FIG. 6E, the image format information includes a frame number, a head macroblock number, and the like. The frame number is the number of the frame, and the head macroblock number is the number of the head macroblock included in the frame. The image format information is format information necessary for decoding and displaying a predetermined unit of image data such as the format of an encoded image. For example, in the H.264 / MPEG-4 AVC standard, a slice header or the like is set as image format information. Also, frame_num of a slice header (slice header) is set as the frame number, and first_mb_in_slice of the slice header is set as the top macroblock number. The image format information may include information other than the information described above.
When the partial image data of a predetermined unit exceeds the size of one packet, the partial image data is further divided into a plurality of image data and stored in a plurality of packets. The image format information is stored at the beginning of the partial image data.

図6(c)は、部分画像データの一部のみがペイロード部に含まれる画像パケットの例である。   FIG. 6C is an example of an image packet in which only a part of the partial image data is included in the payload portion.

次に、図5のステップS102において、画像送信装置10は、生成した画像パケットを通信部を介してデータ送信装置30に送信する(ステップS102)。次に、データ送信装置30の拡張パケット生成部341は、第1通信部31を介して各画像送信装置10から画像パケットを受信する(ステップS103)。次に、拡張パケット生成部341は、受信した各画像パケットについて、拡張パケット生成処理を実行する(ステップS104)。   Next, in step S102 of FIG. 5, the image transmission apparatus 10 transmits the generated image packet to the data transmission apparatus 30 via the communication unit (step S102). Next, the extended packet generation unit 341 of the data transmission device 30 receives an image packet from each image transmission device 10 via the first communication unit 31 (step S103). Next, the extended packet generation unit 341 executes extended packet generation processing for each received image packet (step S104).

図7は、拡張パケット生成処理の動作の例を示すフローチャートである。なお、図7に示す拡張パケット生成処理は、画像パケットを受信する度に実行される。また、拡張パケット生成部341は、各画像送信装置10から受信する画像パケットについて、画像列形式情報を含む画像パケットを最初に受信するまでは拡張パケット生成処理を実行しない。即ち、図7に示す拡張パケット生成処理は、画像列形式情報を含む画像パケットから実行されるものとする。   FIG. 7 is a flowchart illustrating an example of the operation of the extended packet generation process. The extended packet generation process shown in FIG. 7 is executed every time an image packet is received. Further, the extended packet generation unit 341 does not execute the extended packet generation process for the image packet received from each image transmission device 10 until the image packet including the image sequence format information is first received. That is, the extended packet generation process shown in FIG. 7 is executed from an image packet including image sequence format information.

まず、拡張パケット生成部341は、受信した画像パケットに画像列形式情報が含まれるか否かを判定する(ステップS201)。受信した画像パケットに画像列形式情報が含まれる場合(ステップS201のYes)、拡張パケット生成部341は、画像列形式情報に基づいて、拡張パケット生成用情報331を記憶(初期化)する(ステップS202)。   First, the extended packet generation unit 341 determines whether image sequence format information is included in the received image packet (step S201). When the received image packet includes image sequence format information (Yes in step S201), the extended packet generation unit 341 stores (initializes) the extended packet generation information 331 based on the image sequence format information (step S201). S202).

図8(a)は、拡張パケット生成用情報331のデータ構造の一例を示す模式図である。図8(a)に示すように、拡張パケット生成用情報331として、各画像送信装置10から受信する、時系列で連続する画像列毎に、画像送信装置ID、画像列形式情報、画像形式情報、フレームID及び部分画像位置情報等の各情報が対応付けて記憶される。   FIG. 8A is a schematic diagram illustrating an example of the data structure of the extended packet generation information 331. As shown in FIG. 8A, as the extended packet generation information 331, the image transmission device ID, the image sequence format information, and the image format information are received from each image transmission device 10 for each continuous image sequence in time series. Each information such as a frame ID and partial image position information is stored in association with each other.

画像送信装置IDは、画像パケットに含まれる画像送信装置IDである。
画像列形式情報は、画像パケットに含まれる画像列形式情報である。
画像形式情報は、画像パケットに含まれる画像形式情報である。
フレームIDは、各フレームを一意に識別可能な、フレーム毎にユニークな値である。フレームIDとして、例えばフレーム毎に1つずつ増加する値が割り当てられる。または、フレームIDとして、対応する画像が撮像された時刻等が割り当てられてもよい。
The image transmission device ID is an image transmission device ID included in the image packet.
The image sequence format information is image sequence format information included in the image packet.
The image format information is image format information included in the image packet.
The frame ID is a unique value for each frame that can uniquely identify each frame. As the frame ID, for example, a value that increases by one for each frame is assigned. Alternatively, the time when the corresponding image is captured may be assigned as the frame ID.

部分画像位置情報は、画像パケットのペイロード部に含まれる部分画像データに係る部分画像の撮像画像内の位置(座標)を示す位置情報である。例えば、部分画像が矩形領域である場合、部分画像位置情報として、部分画像の左上頂点のX座標及びY座標と、右下頂点のX座標及びY座標が設定される。また、部分画像が、H.264/MPEG−4 AVC規格の複数のマクロブロック(固定サイズの矩形の画素集合)に対応する場合、部分画像位置情報として、マクロブロック毎に上記の座標が設定される。
部分画像位置情報は、例えば、画像パケットの画像形式情報における先頭マクロブロック番号(first_mb_in_slice)を用いて算出される。拡張パケット生成部341は、受信した画像パケットの画像形式情報における先頭マクロブロック番号を記憶しておく。拡張パケット生成部341は、今回受信した1スライス分の画像パケットの画像形式情報における先頭マクロブロック番号から、前回受信した画像パケットの画像形式情報における先頭マクロブロック番号を減算した差分を部分画像データに含まれるマクロブロックの合計数(macroblock_count_in_slice)として算出する。なお、拡張パケット生成部341は、1スライス分の画像パケットを蓄積し、蓄積した画像パケットを走査して、1スライスに含まれるマクロブロックの合計数を計数してもよい。
拡張パケット生成部341は、マクロブロック番号がi{i=first_mb_in_slice, ... , first_mb_in_slice+macroblock_count_in_slice−1}である各マクロブロックの左上頂点のX座標left_top_x_i及びY座標left_top_y_iと、右下頂点のX座標right_bottom_x_i及びY座標right_bottom_y_iとを下記式により算出する。
left_top_x_i=(i%(pic_width_in_mbs_minus1+1))×16
left_top_y_i=[(i÷(pic_width_in_mbs_minus1+1))]×16
right_bottom_x_i=left_top_x_i+16
right_bottom_y_i=left_top_y_i+16
なお、上記式において、マクロブロックの水平及び垂直方向のサイズはそれぞれ16画素であるものとする。[%]は剰余を算出する算出記号である。pic_width_in_mbs_minus1は、画像列形式情報の解像度情報に含まれ、ピクチャの水平方向のマクロブロックの数−1を示す。
また、部分画像位置情報として、各マクロブロックの番号が設定されてもよい。
The partial image position information is position information indicating the position (coordinates) in the captured image of the partial image related to the partial image data included in the payload portion of the image packet. For example, when the partial image is a rectangular region, the X and Y coordinates of the upper left vertex and the X and Y coordinates of the lower right vertex of the partial image are set as the partial image position information. Further, when the partial image corresponds to a plurality of macroblocks (fixed size rectangular pixel set) of the H.264 / MPEG-4 AVC standard, the above coordinates are set for each macroblock as partial image position information. The
The partial image position information is calculated using, for example, the first macroblock number (first_mb_in_slice) in the image format information of the image packet. The extended packet generation unit 341 stores the first macroblock number in the image format information of the received image packet. The extended packet generator 341 subtracts the difference obtained by subtracting the head macroblock number in the image format information of the image packet received last time from the head macroblock number in the image format information of the image packet for one slice received this time as partial image data. Calculated as the total number of macroblocks included (macroblock_count_in_slice). The extended packet generation unit 341 may accumulate image packets for one slice, scan the accumulated image packets, and count the total number of macroblocks included in one slice.
The extended packet generation unit 341 includes the X coordinate left_top_x_i and the Y coordinate left_top_y_i of the upper left vertex and the X coordinate right_bottom_x_i of the lower right vertex of each macroblock whose macroblock number is i {i = first_mb_in_slice, ..., first_mb_in_slice + macroblock_count_in_slice-1} And Y coordinate right_bottom_y_i is calculated by the following formula.
left_top_x_i = (i% (pic_width_in_mbs_minus1 + 1)) × 16
left_top_y_i = [(i ÷ (pic_width_in_mbs_minus1 + 1))] × 16
right_bottom_x_i = left_top_x_i + 16
right_bottom_y_i = left_top_y_i + 16
In the above formula, the horizontal and vertical sizes of the macroblock are each assumed to be 16 pixels. [%] Is a calculation symbol for calculating the remainder. pic_width_in_mbs_minus1 is included in the resolution information of the image sequence format information and indicates the number of macroblocks in the horizontal direction of the picture minus one.
Further, the number of each macro block may be set as the partial image position information.

このように、画像パケットのペイロード部には、画像パケットに含まれる部分画像の撮像画像内における位置が記載されており、拡張パケット生成部341は、画像パケットのペイロード部に記載された、部分画像の撮像画像内の位置を読み出すことにより、部分画像の撮像画像内における位置を特定する。
なお、拡張パケット生成部341は、画像パケットのペイロード部を解析することにより、部分画像の撮像画像内における位置を特定してもよい。例えば、撮像画像に係る画像データが、水平方向の解像度に対する垂直方向の解像度が予め定められた比率になるようにRGB値による各画素が配置されたRAWデータであり、各フレームの先頭にスタートデータが含まれ、各フレームの最後にストップデータが含まれる場合について説明する。拡張パケット生成部341は、複数の画像パケットからスタートデータ及びストップデータを検出し、スタートデータとストップデータの間の画素数から撮像画像の解像度を特定し、撮像画像を復元する。そして、拡張パケット生成部341は、復元した撮像画像において、ペイロード部に含まれる各部分画像が対応する位置を特定する。
これにより、拡張パケット生成部341は、部分画像の撮像画像内の位置がペイロード部に記載されていない画像パケットについても、画像パケットに含まれる部分画像の撮像画像内の位置を特定することができる。
As described above, the position in the captured image of the partial image included in the image packet is described in the payload portion of the image packet, and the extended packet generation unit 341 includes the partial image described in the payload portion of the image packet. The position in the captured image of the partial image is specified by reading the position in the captured image.
Note that the extended packet generation unit 341 may specify the position of the partial image in the captured image by analyzing the payload portion of the image packet. For example, the image data relating to the captured image is RAW data in which each pixel based on RGB values is arranged so that the vertical resolution with respect to the horizontal resolution has a predetermined ratio, and the start data at the head of each frame Will be described, and stop data is included at the end of each frame. The extended packet generator 341 detects start data and stop data from a plurality of image packets, specifies the resolution of the captured image from the number of pixels between the start data and stop data, and restores the captured image. Then, the extended packet generation unit 341 specifies a position corresponding to each partial image included in the payload portion in the restored captured image.
Thereby, the extended packet generation unit 341 can specify the position in the captured image of the partial image included in the image packet even for the image packet in which the position in the captured image of the partial image is not described in the payload portion. .

ステップS202により、拡張パケット生成部341は、受信した画像パケットに画像列形式情報が含まれる場合、画像パケットに含まれる画像送信装置ID及び画像列形式情報を拡張パケット生成用情報331に設定することで、初期化する。   In step S202, when the received image packet includes image sequence format information, the extended packet generation unit 341 sets the image transmission device ID and the image sequence format information included in the image packet in the extended packet generation information 331. Then, initialize.

次に、図7のステップS203において、拡張パケット生成部341は、拡張パケット生成用情報331に基づいて、拡張パケットを生成し(ステップS203)、一連のステップを終了する。   Next, in step S203 of FIG. 7, the extended packet generator 341 generates an extended packet based on the extended packet generation information 331 (step S203), and the series of steps is terminated.

図8(b)〜(d)は、拡張パケットのデータ構造の一例を示す模式図である。図8(b)〜(d)に示すように、拡張パケットは画像パケットと同様のヘッダ部及びペイロード部を有する。
但し、ヘッダ部は、データ送信装置アドレスの代わりに配信制御装置アドレスを有し、さらに、部分画像領域情報を有する。配信制御装置アドレスは、配信制御装置40のアドレスであり、例えば配信制御装置40のIPアドレス及びポート番号等である。拡張パケットの構成も、画像パケットの構成と同様に、ペイロード部の構成によって3種類に分類される。
図8(e)は、部分画像領域情報のデータ構造の一例を示す模式図である。図8(e)に示すように、部分画像領域情報は、フレームID及び部分画像位置情報等の情報を有する。フレームID及び部分画像位置情報として、それぞれ拡張パケット生成用情報331に記憶されたフレームID及び部分画像位置情報が設定される。
8B to 8D are schematic diagrams illustrating an example of the data structure of the extension packet. As shown in FIGS. 8B to 8D, the extension packet has the same header part and payload part as the image packet.
However, the header portion has a distribution control device address instead of the data transmission device address, and further has partial image area information. The distribution control device address is an address of the distribution control device 40, for example, an IP address and a port number of the distribution control device 40. The configuration of the extended packet is classified into three types according to the configuration of the payload portion, similarly to the configuration of the image packet.
FIG. 8E is a schematic diagram illustrating an example of the data structure of the partial image area information. As shown in FIG. 8E, the partial image area information includes information such as a frame ID and partial image position information. As the frame ID and partial image position information, the frame ID and partial image position information stored in the extended packet generation information 331 are set, respectively.

拡張パケット生成部341は、画像列形式情報を含む画像パケット(図6(a))を受信した場合、画像列形式情報を含む拡張パケット(図8(b))を生成する。また、拡張パケット生成部341は、画像形式情報を含む画像パケット(図6(b))を受信した場合、画像形式情報を含む拡張パケット(図8(c))を生成する。一方、拡張パケット生成部341は、画像列形式情報及び画像形式情報を含まない画像パケット(図6(c))を受信した場合、画像列形式情報及び画像形式情報を含まない拡張パケット(図8(d))を生成する。   When the extended packet generation unit 341 receives an image packet including image sequence format information (FIG. 6A), the extended packet generation unit 341 generates an extended packet including image sequence format information (FIG. 8B). Further, when receiving the image packet including the image format information (FIG. 6B), the extended packet generation unit 341 generates the extended packet including the image format information (FIG. 8C). On the other hand, when the extended packet generation unit 341 receives the image sequence format information and the image packet not including the image format information (FIG. 6C), the extended packet generation unit 341 does not include the image sequence format information and the image format information (FIG. 8). (D)) is generated.

なお、拡張パケット生成部341は、拡張パケットにおいて、端末装置50又は画像解析装置60が復号可能な暗号化方式によってペイロード部を暗号化してもよい。配信制御装置40は、拡張パケットのペイロード部を参照できなくても、ヘッダ部のみに基づいて、配信先の端末装置50を特定することができる。一方、拡張パケットのペイロード部を暗号化することにより、配信制御装置40は、拡張パケットに含まれる画像データにアクセスできず、配信制御装置40の管理者等は、拡張パケットに含まれる画像データの内容を閲覧できなくなるため、セキュリティ性の向上及びプライバシーの保護を図ることが可能となる。   The extended packet generation unit 341 may encrypt the payload part in the extended packet by an encryption method that can be decrypted by the terminal device 50 or the image analysis device 60. Even if the distribution control device 40 cannot refer to the payload portion of the extension packet, the distribution control device 40 can specify the distribution destination terminal device 50 based only on the header portion. On the other hand, by encrypting the payload portion of the extension packet, the distribution control device 40 cannot access the image data included in the extension packet, and the administrator of the distribution control device 40 can download the image data included in the extension packet. Since the contents cannot be browsed, it is possible to improve security and protect privacy.

図7のステップS201において、受信した画像パケットに画像列形式情報が含まれない場合(ステップS201のNo)、拡張パケット生成部341は、受信した画像パケットに画像形式情報が含まれるか否かを判定する(ステップS204)。受信した画像パケットに画像形式情報が含まれる場合(ステップS204のYes)、拡張パケット生成部341は、画像形式情報に基づいて、拡張パケット生成用情報331を更新する(ステップS205)。   In step S201 in FIG. 7, when the received image packet does not include image sequence format information (No in step S201), the extended packet generation unit 341 determines whether or not the received image packet includes image format information. Determination is made (step S204). When the received image packet includes image format information (Yes in step S204), the extended packet generation unit 341 updates the extended packet generation information 331 based on the image format information (step S205).

ステップS205において、拡張パケット生成部341は、受信した画像パケットがフレームの先頭に対応する画像パケットであるか否かを判定し、フレームの先頭に対応する画像パケットである場合、拡張パケット生成用情報331のフレーム番号をインクリメント(1増加)する。拡張パケット生成部341は、画像形式情報に含まれるフレームタイプからフレーム番号を特定し、特定したフレーム番号が、前回受信した画像形式情報に含まれていたフレーム番号と異なるか否かにより、受信した画像パケットがフレームの先頭に対応する画像パケットであるか否かを判定する。
また、拡張パケット生成部341は、画像パケットに含まれる画像形式情報を拡張パケット生成用情報331に設定する。また、拡張パケット生成部341は、画像形式情報に含まれる先頭マクロブロック番号から部分画像位置情報を算出し、拡張パケット生成用情報331に設定する。
In step S205, the extended packet generation unit 341 determines whether or not the received image packet is an image packet corresponding to the head of the frame. If the received image packet is an image packet corresponding to the head of the frame, the extended packet generation information The frame number 331 is incremented (increased by 1). The extended packet generation unit 341 specifies the frame number from the frame type included in the image format information, and receives the received packet depending on whether the specified frame number is different from the frame number included in the previously received image format information. It is determined whether the image packet is an image packet corresponding to the head of the frame.
The extended packet generation unit 341 sets the image format information included in the image packet in the extended packet generation information 331. Also, the extended packet generation unit 341 calculates partial image position information from the top macroblock number included in the image format information, and sets the information in the extended packet generation information 331.

次に、拡張パケット生成部341は、拡張パケット生成用情報331に基づいて、拡張パケットを生成し(ステップS203)、一連のステップを終了する。   Next, the extended packet generation unit 341 generates an extended packet based on the extended packet generation information 331 (step S203) and ends a series of steps.

ステップS204において、受信した画像パケットに画像形式情報が含まれない場合(ステップS204のNo)、拡張パケット生成部341は、拡張パケット生成用情報331に基づいて、拡張パケットを生成し(ステップS203)、一連のステップを終了する。   If no image format information is included in the received image packet in step S204 (No in step S204), the extended packet generator 341 generates an extended packet based on the extended packet generation information 331 (step S203). , To end a series of steps.

次に、図5のステップS105において、拡張パケット送信部342は、拡張パケット生成部341が生成した拡張パケットを第2通信部32を介して配信制御装置40に送信する(ステップS105)。次に、配信制御装置40の拡張パケット受信部431は、通信部41を介してデータ送信装置30から拡張パケットを受信する(ステップS106)。次に、拡張パケット受信部431は、受信した拡張パケットを通信部41を介して画像解析装置60に送信する(ステップS107)。次に、画像解析装置60の関心位置情報生成部631は、通信部61を介して配信制御装置40から拡張パケットを受信する(ステップS108)。次に、関心位置情報生成部631は、受信した拡張パケットに基づいて、撮像画像の画像解析処理を実行する(ステップS109)。   Next, in step S105 of FIG. 5, the extended packet transmitter 342 transmits the extended packet generated by the extended packet generator 341 to the distribution control device 40 via the second communication unit 32 (step S105). Next, the extended packet receiving unit 431 of the distribution control device 40 receives the extended packet from the data transmitting device 30 via the communication unit 41 (step S106). Next, the extended packet receiving unit 431 transmits the received extended packet to the image analysis device 60 via the communication unit 41 (step S107). Next, the position-of-interest information generation unit 631 of the image analysis device 60 receives the extended packet from the distribution control device 40 via the communication unit 61 (step S108). Next, the position-of-interest information generation unit 631 executes image analysis processing of the captured image based on the received extension packet (step S109).

図9は、画像解析処理の動作の例を示すフローチャートである。なお、関心位置情報生成部631は、受信した拡張パケットを、画像送信装置IDとフレームIDが同一である拡張パケット毎に関連付けて記憶部62に記憶し、1枚の画像として復号することができた時点で図9に示す画像解析処理を実行する。   FIG. 9 is a flowchart illustrating an example of the operation of the image analysis process. The interested position information generation unit 631 can store the received extension packet in the storage unit 62 in association with each extension packet having the same frame ID as the image transmission device ID, and can decode it as one image. At that time, the image analysis processing shown in FIG. 9 is executed.

まず、関心位置情報生成部631は、受信した拡張パケットのペイロード部を復号して撮像画像を復元する。関心位置情報生成部631は、復元した撮像画像から、公知の画像処理技術を用いて、侵入人物、不審物体等の関心対象を検知する(ステップS301)。
例えば、関心位置情報生成部631は、機械学習技術を用いて、関心対象を検知する。関心位置情報生成部631は、関心対象が写っている複数のサンプル画像と関心対象が写っていない複数のサンプル画像を用いて、関心対象が写っている画像に対して関心対象が写っていることを示す識別結果を出力し、関心対象が写っていない画像に対しては関心対象が写っていないことを示す識別結果を出力するように事前に識別器を学習させておく。関心位置情報生成部631は、復元した撮像画像内の所定の大きさの領域を、その位置をずらしながら切り出して識別器に入力し、その領域内に関心対象が写っているか否かを示す識別結果を得ることにより、関心対象を検知する。
または、関心位置情報生成部631は、パターンマッチング技術を用いて、関心対象を検知してもよい。関心位置情報生成部631は、関心対象が写っている複数の画像のパターンを予め記憶部62に記憶しておく。関心位置情報生成部631は、復元した撮像画像内の所定の大きさの領域を、その位置をずらしながら切り出して、記憶部62に記憶しておいた画像のパターンの類似の程度を求め、求めた類似の程度が閾値以上であるか否かにより、関心対象を検知する。類似の程度は、例えば正規化相互相関値とすることができる。
First, the position-of-interest information generation unit 631 restores the captured image by decoding the payload portion of the received extension packet. The interested position information generation unit 631 detects a target of interest such as an intruding person or a suspicious object from the restored captured image using a known image processing technique (step S301).
For example, the position-of-interest information generation unit 631 detects an object of interest using machine learning technology. The position-of-interest information generation unit 631 uses a plurality of sample images in which the object of interest is captured and a plurality of sample images in which the object of interest is not captured, and the object of interest is captured with respect to the image in which the object of interest is captured. The discriminator is trained in advance to output an identification result indicating that the object of interest is not captured for an image in which the object of interest is not captured. The position-of-interest information generation unit 631 cuts out a region of a predetermined size in the reconstructed captured image while shifting the position, inputs the region to the classifier, and identifies whether the region of interest is captured in the region By obtaining the result, the object of interest is detected.
Alternatively, the position-of-interest information generation unit 631 may detect the object of interest using a pattern matching technique. The position-of-interest information generation unit 631 stores a plurality of image patterns in which the object of interest is captured in the storage unit 62 in advance. The position-of-interest information generation unit 631 cuts out a region of a predetermined size in the reconstructed captured image while shifting the position, and obtains the degree of similarity of the pattern of the image stored in the storage unit 62. The object of interest is detected based on whether the degree of similarity is equal to or greater than a threshold value. The degree of similarity can be a normalized cross-correlation value, for example.

次に、関心位置情報生成部631は、撮像画像から関心対象を検知した場合、検知した関心対象毎に、関心位置情報を生成するとともに、関心位置情報を含む関心領域パケットを生成し(ステップS302)、一連のステップを終了する。   Next, when the interested position information generating unit 631 detects the target of interest from the captured image, the interested position information generating unit 631 generates the interested position information for each detected target of interest and generates a region of interest packet including the interested position information (step S302). ), A series of steps is completed.

図10は、関心領域パケットのデータ構造の一例を示す模式図である。図10に示すように、関心領域パケットは、配信制御装置アドレス、画像送信装置ID、フレームID及び関心位置情報等を有する。
配信制御装置アドレス、画像送信装置ID及びフレームIDとして、関心対象が検知された拡張パケットに含まれる配信制御装置アドレス、画像送信装置ID及びフレームIDが設定される。
関心位置情報は、対応位置情報及び対応対象情報を有する。対応位置情報は、撮像画像に関心対象が写っている領域(特定の意味を有する領域)の位置(座標)を示す。対応対象情報は、対応位置情報が示す位置に写っている関心対象を示す識別子(ID)である。例えば、関心対象が画像全体である場合、対応対象情報として1が設定され、関心対象が人物の顔である場合、対応対象情報として2が設定され、関心対象が不審物体である場合、対応対象情報として3が設定される。
FIG. 10 is a schematic diagram illustrating an example of a data structure of a region-of-interest packet. As shown in FIG. 10, the region-of-interest packet has a distribution control device address, an image transmission device ID, a frame ID, and interest position information.
As the distribution control device address, the image transmission device ID, and the frame ID, the distribution control device address, the image transmission device ID, and the frame ID included in the extended packet in which the object of interest is detected are set.
The position-of-interest information includes corresponding position information and corresponding object information. The corresponding position information indicates the position (coordinates) of an area (area having a specific meaning) in which the object of interest is shown in the captured image. Correspondence target information is an identifier (ID) indicating an object of interest shown in the position indicated by the corresponding position information. For example, when the object of interest is the entire image, 1 is set as the corresponding target information, when the target of interest is a person's face, 2 is set as the corresponding target information, and when the target of interest is a suspicious object, the corresponding target 3 is set as information.

図5のステップS110において、関心位置情報送信部632は、関心位置情報生成部631が生成した関心位置情報を含む関心領域パケットを通信部61を介して配信制御装置40に送信する(ステップS110)。次に、配信制御装置40の関心位置情報受信部432は、通信部41を介して画像解析装置60から、関心位置情報を含む関心領域パケットを受信する(ステップS111)。次に、配信先情報更新部433は、関心位置情報受信部432が受信した関心領域パケットに含まれる関心位置情報と、記憶部42に記憶された配信先要求情報421とに基づいて、記憶部42に記憶された配信先情報422を更新する(ステップS112)。   In step S110 of FIG. 5, the position-of-interest information transmission unit 632 transmits a region-of-interest packet including the position-of-interest information generated by the position-of-interest information generation unit 631 to the distribution control device 40 via the communication unit 61 (step S110). . Next, the position-of-interest information reception unit 432 of the distribution control device 40 receives a region-of-interest packet including the position-of-interest information from the image analysis device 60 via the communication unit 41 (step S111). Next, the distribution destination information update unit 433 includes a storage unit based on the position of interest information included in the region of interest packet received by the position of interest information reception unit 432 and the distribution destination request information 421 stored in the storage unit 42. The delivery destination information 422 stored in 42 is updated (step S112).

図11(a)は、配信先要求情報421のデータ構造の一例を示す模式図である。図11(a)に示すように、配信先要求情報421として、配信用パケットの配信先である端末装置50に対応する項目毎に、画像送信装置ID、配信先端末アドレス及び要求対象情報等の各情報が対応付けて記憶される。配信先要求情報421は、不図示の入力装置を用いて、管理者により事前に設定される。または、配信先要求情報421は、各端末装置50から受信する、各画像送信装置10の利用者からの要求に従って設定されてもよい。   FIG. 11A is a schematic diagram illustrating an example of the data structure of the distribution destination request information 421. As shown in FIG. 11A, as the delivery destination request information 421, for each item corresponding to the terminal device 50 that is the delivery destination of the delivery packet, the image transmission device ID, the delivery destination terminal address, the request target information, etc. Each information is stored in association with each other. The distribution destination request information 421 is set in advance by the administrator using an input device (not shown). Alternatively, the distribution destination request information 421 may be set according to a request received from each terminal device 50 from a user of each image transmission device 10.

画像送信装置IDは、その端末装置50が受信すべき配信用パケットに対応する画像パケットを送信する画像送信装置10の画像送信装置IDである。
配信先端末アドレスは、配信用パケットの配信先の端末装置50のアドレスであり、例えば端末装置50のIPアドレス及びポート番号等である。
要求対象情報は、各端末装置50のユーザが関心を持っており、写っている画像を各端末装置50において受信し表示することが要求されている関心対象を示す識別子(ID)である。要求対象情報は、対応対象情報と同じ定義に従って設定される。
The image transmission device ID is an image transmission device ID of the image transmission device 10 that transmits an image packet corresponding to a distribution packet to be received by the terminal device 50.
The distribution destination terminal address is the address of the terminal device 50 that is the distribution destination of the distribution packet, and is, for example, the IP address and port number of the terminal device 50.
The request target information is an identifier (ID) indicating the target of interest for which the user of each terminal device 50 is interested and for which a captured image is requested to be received and displayed at each terminal device 50. The request target information is set according to the same definition as the corresponding target information.

図11(b)は、配信先情報422のデータ構造の一例を示す模式図である。図11(b)に示すように、配信先情報422として、配信用パケットの配信先である端末装置50に対応する項目毎に、画像送信装置ID、配信先端末アドレス、フレームID及び関心位置情報等の各情報が対応付けて記憶される。   FIG. 11B is a schematic diagram illustrating an example of a data structure of the distribution destination information 422. As shown in FIG. 11B, as the delivery destination information 422, for each item corresponding to the terminal device 50 that is the delivery destination of the delivery packet, the image transmission device ID, the delivery destination terminal address, the frame ID, and the position of interest information. Are stored in association with each other.

画像送信装置ID、フレームID及び関心位置情報として、関心領域パケットに含まれる画像送信装置ID、フレームID及び関心位置情報が設定される。
配信先端末アドレスは、配信用パケットの配信先の端末装置50のアドレスであり、例えば端末装置50のIPアドレス及びポート番号等である。
As the image transmission device ID, the frame ID, and the position of interest information, the image transmission device ID, the frame ID, and the position of interest information included in the region of interest packet are set.
The distribution destination terminal address is the address of the terminal device 50 that is the distribution destination of the distribution packet, and is, for example, the IP address and port number of the terminal device 50.

ステップS112において、配信先情報更新部433は、まず、関心位置情報受信部432が受信した関心領域パケットから画像送信装置ID及び対応対象情報を抽出する。そして、抽出した画像送信装置ID及び対応対象情報の組合せに対応(一致)する画像送信装置ID及び要求対象情報の組合せとなる項目が、配信先要求情報421に記憶されているか否かを判定する。そして、対応する項目が記憶されている場合、配信先情報422に新たな項目を追加する。ここで、配信先情報422に新たに追加する項目の画像送信装置ID、フレームID及び関心位置情報は、それぞれ関心領域パケットに含まれる画像送信装置ID、フレームID及び関心位置情報である。また、配信先情報422に新たに追加する項目の配信先端末アドレスは、配信先要求情報421において、関心領域パケットから抽出した画像送信装置ID及び対応対象情報に対応する項目の配信先端末アドレスである。なお、関心領域パケットから抽出した画像送信装置ID及び対応対象情報の組合せと対応する画像送信装置ID及び要求対象情報の組合せとなる項目が、配信先要求情報421に記憶されていない場合、配信先情報更新部433は、当該対応対象情報が示す関心領域を必要とする端末装置40が存在しないとみなして、配信先情報422を更新しない。   In step S112, the distribution destination information update unit 433 first extracts the image transmission device ID and the correspondence target information from the region-of-interest packet received by the position-of-interest information reception unit 432. Then, it is determined whether or not an item that is a combination of the image transmission device ID and the request target information that corresponds to (matches) the combination of the extracted image transmission device ID and the corresponding target information is stored in the distribution destination request information 421. . If the corresponding item is stored, a new item is added to the delivery destination information 422. Here, the image transmission device ID, the frame ID, and the position of interest information that are newly added to the distribution destination information 422 are the image transmission device ID, the frame ID, and the position of interest information included in the region of interest packet, respectively. Further, the distribution destination terminal address of the item newly added to the distribution destination information 422 is the distribution destination terminal address of the item corresponding to the image transmission apparatus ID extracted from the region of interest packet and the corresponding target information in the distribution destination request information 421. is there. If an item that is a combination of the image transmission device ID and the request target information corresponding to the combination of the image transmission device ID and the corresponding target information extracted from the region-of-interest packet is not stored in the distribution destination request information 421, the distribution destination The information update unit 433 considers that there is no terminal device 40 that requires the region of interest indicated by the corresponding target information, and does not update the distribution destination information 422.

次に、図5のステップS113において、特定部434は、受信した拡張パケットに基づくパケットの配信先を特定するために、端末装置特定処理を実行する(ステップS113)。   Next, in step S113 of FIG. 5, the specifying unit 434 executes terminal device specifying processing in order to specify a packet delivery destination based on the received extended packet (step S113).

図12は、端末装置特定処理の動作の例を示すフローチャートである。なお、図12に示す端末装置特定処理は、拡張パケットを受信する度に実行される。   FIG. 12 is a flowchart illustrating an example of the operation of the terminal device specifying process. The terminal device specifying process shown in FIG. 12 is executed every time an extended packet is received.

まず、特定部434は、受信した拡張パケットに含まれる画像送信装置IDが、記憶部42に配信先情報422として記憶されている画像送信装置IDの内の何れかに対応(一致)する項目が存在するか否かを判定する(ステップS401)。
拡張パケットに含まれる画像送信装置IDが、配信先情報422として記憶されている項目において何れの画像送信装置IDにも対応しない場合、特定部434は、対応する端末装置40(配信用パケットの配信先となる端末装置40)が存在しないとみなし(ステップS401のNo)、特に処理を実行せずに一連のステップを終了する。この場合、受信した拡張パケットに基づく配信用パケットは、何れの端末装置50にも配信されない。
一方、拡張パケットに含まれる画像送信装置IDが、配信先情報422として記憶されている項目の画像送信装置IDの内の何れかに対応する場合、特定部434は、対応する端末装置40(配信用パケットの配信先となる端末装置40)が存在するとみなし(ステップS401のYes)、配信先情報422から、当該項目を抽出する。次に、特定部434は、受信した拡張パケットに含まれる部分画像領域情報におけるフレームID及び部分画像位置情報が、配信先情報422から抽出した各項目におけるフレームID及び対応位置情報に対応するか否かを判定する(ステップS402)。
ここで、特定部434は、各フレームIDが一致し、且つ、拡張パケットの部分画像位置情報で示される領域と、配信先情報422の対応位置情報で示される領域の少なくとも一部が重複する場合、各情報が対応すると判定する。なお、特定部434は、拡張パケットの部分画像位置情報で示される領域が、配信先情報422の対応位置情報で示される領域に含まれる場合、各情報が対応すると判定してもよい。また、配信先情報422の対応位置情報で示される領域が、拡張パケットの部分画像位置情報で示される領域に含まれる場合、各情報が対応すると判定してもよい。また、拡張パケットの部分画像位置情報で示される領域と、配信先情報422の対応位置情報で示される領域とが一致する場合に限り、各情報が対応すると判定してもよい。
このように、特定部434は、拡張パケット受信部431により受信した拡張パケットの内、拡張パケットのヘッダ部に含まれる部分画像位置情報が配信先情報422の対応位置情報(関心位置情報受信部432が受信した関心位置情報)に対応する拡張パケットを特定する。そして、特定した拡張パケットに基づいて、配信用パケットを生成する。
また、配信先情報422において各情報が対応すると判定された項目における配信先端末アドレスは、関心位置情報受信部432により受信した関心位置情報に係る関心対象に対応する端末装置50のアドレスである。即ち、特定部434は、配信先情報422において各情報が対応する項目を特定することにより、配信先要求情報421に記憶されている要求対象情報に係る関心対象が、関心位置情報受信部432により受信した関心位置情報に係る関心対象に対応する端末装置50を特定している。
First, the specifying unit 434 has an item in which the image transmission device ID included in the received extension packet corresponds to (matches) any of the image transmission device IDs stored as the distribution destination information 422 in the storage unit 42. It is determined whether or not it exists (step S401).
When the image transmission device ID included in the extended packet does not correspond to any image transmission device ID in the item stored as the distribution destination information 422, the specifying unit 434 displays the corresponding terminal device 40 (distribution of distribution packet). It is assumed that there is no previous terminal device 40) (No in step S401), and a series of steps are terminated without executing any particular processing. In this case, a distribution packet based on the received extension packet is not distributed to any terminal device 50.
On the other hand, when the image transmission device ID included in the extension packet corresponds to any of the image transmission device IDs of the items stored as the distribution destination information 422, the specifying unit 434 displays the corresponding terminal device 40 (distribution The terminal device 40 serving as the distribution destination of the packet for use is present (Yes in step S401), and the item is extracted from the distribution destination information 422. Next, the specifying unit 434 determines whether or not the frame ID and partial image position information in the partial image area information included in the received extension packet correspond to the frame ID and corresponding position information in each item extracted from the distribution destination information 422. Is determined (step S402).
Here, the identification unit 434 matches the frame IDs, and at least a part of the area indicated by the partial image position information of the extension packet and the area indicated by the corresponding position information of the distribution destination information 422 overlap. It is determined that each information corresponds. Note that when the area indicated by the partial image position information of the extension packet is included in the area indicated by the corresponding position information of the delivery destination information 422, the specifying unit 434 may determine that each piece of information corresponds. In addition, when the area indicated by the corresponding position information of the distribution destination information 422 is included in the area indicated by the partial image position information of the extension packet, it may be determined that each piece of information corresponds. Further, only when the area indicated by the partial image position information of the extension packet matches the area indicated by the corresponding position information of the delivery destination information 422, it may be determined that each piece of information corresponds.
As described above, the specifying unit 434 includes, in the extended packet received by the extended packet receiving unit 431, the partial image position information included in the header portion of the extended packet is the corresponding position information (interesting position information receiving unit 432) of the distribution destination information 422. Specifies an extension packet corresponding to the received position information of interest). Then, a distribution packet is generated based on the identified extension packet.
The distribution destination terminal address in the item determined to correspond to each information in the distribution destination information 422 is the address of the terminal device 50 corresponding to the target of interest related to the position of interest information received by the position of interest information receiving unit 432. That is, the specifying unit 434 specifies the item to which each piece of information corresponds in the delivery destination information 422, so that the target of interest related to the request target information stored in the delivery destination request information 421 is obtained by the interested position information receiving unit 432. The terminal device 50 corresponding to the object of interest related to the received position-of-interest information is specified.

各情報が対応しない場合(ステップS402のNo)、特定部434は、特に処理を実行せずに一連のステップを終了する。この場合、拡張パケットに基づく配信用パケットは、何れの端末装置50にも配信されない。
一方、各情報が対応する場合(ステップS402のYes)、配信用パケット生成部435は、拡張パケットに基づいて、配信用パケットを生成し(ステップS403)、一連のステップを終了する。なお、ステップS403では、上記の特定した拡張パケットだけでなく、当該特定した拡張パケットと同じ画像送信装置IDを持つ図8(b)の拡張パケットについても配信用パケットが生成されるものとする。
When each information does not correspond (No of step S402), the specific | specification part 434 complete | finishes a series of steps, without performing a process in particular. In this case, the distribution packet based on the extension packet is not distributed to any terminal device 50.
On the other hand, when each information corresponds (Yes in step S402), the distribution packet generation unit 435 generates a distribution packet based on the extension packet (step S403), and ends a series of steps. In step S403, it is assumed that a distribution packet is generated not only for the specified extended packet but also for the extended packet in FIG. 8B having the same image transmission apparatus ID as the specified extended packet.

図11(c)〜(e)は、配信用パケットのデータ構造の一例を示す模式図である。図11(c)〜(e)に示すように、配信用パケットは拡張パケットと同様のヘッダ部及びペイロード部を有する。
但し、ヘッダ部は、配信制御装置アドレスの代わりに配信先端末アドレスを有し、部分画像領域情報は、ヘッダ部から除去される。配信先端末アドレスは、配信先情報422における画像送信装置ID及びフレームIDが受信した拡張パケットの画像送信装置ID及びフレームIDと一致する項目であって、対応位置情報が受信した拡張パケットの部分画像位置情報に対応すると判定された項目における配信先端末アドレスである。画像送信装置ID及びフレームIDが一致し、対応位置情報に対応すると判定された項目が複数ある(配信先端末アドレスのみが異なる)場合、配信先端末アドレスが異なる複数の配信用パケットが生成される。このように、特定部434は、配信先情報422の対応対象情報と対応付けられた一又は複数の端末装置50を特定することにより、配信先となる端末装置50を特定する処理を行う。ここで、配信先情報422における対応対象情報と端末装置50との対応付けは、画像解析装置60から送信された関心位置情報に基づいて生成されたものである。したがって、画像解析装置60が、(関心対象の識別子を示す)対応対象情報と当該関心対象の位置を示す対応位置情報とを関心位置情報として(関心領域パケットにより)送信することにより、当該関心対象の配信を要求する複数の端末装置50に対しても、当該関心対象に対応する部分画像の配信用パケットを適切に配信することが可能となる。
なお、配信用パケットの種類も、拡張パケットの種類と同様に、ペイロード部の構成によって3種類に分類される。
FIGS. 11C to 11E are schematic diagrams illustrating an example of the data structure of the distribution packet. As shown in FIGS. 11C to 11E, the distribution packet has the same header part and payload part as the extension packet.
However, the header part has a delivery destination terminal address instead of the delivery control device address, and the partial image area information is removed from the header part. The distribution destination terminal address is an item that matches the image transmission device ID and the frame ID of the extended packet received by the image transmission device ID and the frame ID in the distribution destination information 422, and is a partial image of the extended packet received by the corresponding position information It is a delivery destination terminal address in an item determined to correspond to position information. When the image transmission device ID and the frame ID match and there are a plurality of items determined to correspond to the corresponding position information (only the distribution destination terminal address is different), a plurality of distribution packets with different distribution destination terminal addresses are generated. . In this manner, the specifying unit 434 performs processing for specifying the terminal device 50 serving as a distribution destination by specifying one or a plurality of terminal devices 50 associated with the correspondence target information of the distribution destination information 422. Here, the association between the correspondence target information in the distribution destination information 422 and the terminal device 50 is generated based on the position-of-interest information transmitted from the image analysis device 60. Therefore, the image analysis apparatus 60 transmits the corresponding target information (indicating the identifier of the target of interest) and the corresponding position information indicating the position of the target of interest as the position of interest information (by the region of interest packet), thereby It is possible to appropriately distribute the partial image distribution packet corresponding to the object of interest also to the plurality of terminal devices 50 that request the distribution of the above.
Note that the types of distribution packets are also classified into three types according to the configuration of the payload portion, similar to the types of extension packets.

配信用パケット生成部435は、画像列形式情報を含む拡張パケット(図8(b))を受信した場合、画像列形式情報を含む配信用パケット(図11(c))を生成する。また、配信用パケット生成部435は、画像形式情報を含む拡張パケット(図8(c))を受信した場合、画像形式情報を含む配信用パケット(図11(d))を生成する。一方、配信用パケット生成部435は、画像列形式情報及び画像形式情報を含まない拡張パケット(図8(d))を受信した場合、画像列形式情報及び画像形式情報を含まない配信用パケット(図11(e))を生成する。   When receiving the extended packet (FIG. 8B) including the image string format information, the distribution packet generator 435 generates a distribution packet (FIG. 11C) including the image string format information. Further, when receiving the extended packet (FIG. 8C) including the image format information, the distribution packet generation unit 435 generates a distribution packet (FIG. 11D) including the image format information. On the other hand, when the distribution packet generation unit 435 receives the image sequence format information and the extended packet not including the image format information (FIG. 8D), the distribution packet generation unit 435 does not include the image sequence format information and the image format information ( FIG. 11E is generated.

次に、図5のステップS114において、パケット配信部436は、配信用パケット生成部435が生成した配信用パケットを通信部41を介して、配信用パケットに含まれる配信先端末アドレスの各端末装置50に送信する(ステップS114)。次に、各端末装置50は、通信部を介して配信制御装置40から配信用パケットを受信する(ステップS115)。次に、各端末装置50は、受信した配信用パケットのペイロード部を復号して部分画像を復元し、表示部に表示する(ステップS115)。なお、本実施形態では、スライス単位の画像データをペイロード部に含まれる部分画像データとしている。したがって、各端末装置50では、撮像画像の内、受信した配信用パケットに含まれるスライスの領域のみが表示され、他のスライスの領域については表示されない(黒色表示される)。これにより、データ配信システム1の全体動作シーケンスは終了する。   Next, in step S114 of FIG. 5, the packet distribution unit 436 uses the communication unit 41 to transmit the distribution packet generated by the distribution packet generation unit 435 to each terminal device of the distribution destination terminal address included in the distribution packet. 50 (step S114). Next, each terminal device 50 receives a distribution packet from the distribution control device 40 via the communication unit (step S115). Next, each terminal device 50 decodes the payload portion of the received distribution packet, restores the partial image, and displays it on the display portion (step S115). In the present embodiment, image data in units of slices is used as partial image data included in the payload portion. Therefore, in each terminal device 50, only the slice area included in the received distribution packet is displayed in the captured image, and the other slice areas are not displayed (displayed in black). Thereby, the entire operation sequence of the data distribution system 1 is completed.

なお、配信制御装置40のパケット配信部436は、所定の条件を満たす場合に限り、各配信用パケットを配信してもよい。
例えば、パケット配信部436は、警備装置20が監視対象を警備中である場合に限り、各配信用パケットを配信してもよい。その場合、配信制御装置40は、記憶部42に、警備装置20に「警備」が設定されているか「非警備」が設定されているか、即ち警備装置20が監視対象を警備中であるか否かを示す警備状態情報を記憶しておく。上記したように、画像パケットに含まれる撮像画像は、警備装置20により警備される監視対象を撮像した画像である。パケット配信部436は、警備装置20が監視対象を警備中でない場合は、各配信用パケットを配信せずに、警備装置20が監視対象を警備中である場合に限り、各配信用パケットを配信する。
これにより、警備装置20が監視対象を警備中でない場合は、各端末装置50が受信するパケットのデータ量を低減させてネットワーク負荷を軽減させつつ、警備装置20が監視対象を警備中である場合は、各端末装置50に画像を表示させることが可能となる。
The packet delivery unit 436 of the delivery control device 40 may deliver each delivery packet only when a predetermined condition is satisfied.
For example, the packet delivery unit 436 may deliver each delivery packet only when the security device 20 is guarding the monitoring target. In that case, the distribution control device 40 determines whether “security” or “non-security” is set in the security device 20 in the storage unit 42, that is, whether the security device 20 is monitoring the monitoring target. The security state information which shows is memorize | stored. As described above, the captured image included in the image packet is an image obtained by capturing the monitoring target to be guarded by the security device 20. When the security device 20 is not guarding the monitoring target, the packet delivery unit 436 delivers each delivery packet only when the security device 20 is guarding the monitoring target without delivering each delivery packet. To do.
Thereby, when the security device 20 is not guarding the monitoring target, the security device 20 is guarding the monitoring target while reducing the data load of the packet received by each terminal device 50 and reducing the network load. Can display an image on each terminal device 50.

また、画像解析装置60は、配信制御装置40から拡張パケットを受信することにより、撮像画像を取得するのではなく、他の方法により撮像画像を取得してもよい。例えば、画像解析装置60は、データ送信装置30から拡張パケットを受信することにより、撮像画像を取得してもよいし、画像送信装置10から画像パケットを受信することにより、撮像画像を取得してもよい。   Further, the image analysis device 60 may acquire the captured image by another method instead of acquiring the captured image by receiving the extension packet from the distribution control device 40. For example, the image analysis device 60 may acquire a captured image by receiving an extension packet from the data transmission device 30, or acquire a captured image by receiving an image packet from the image transmission device 10. Also good.

また、配信制御装置40は、配信先要求情報421において記憶されている関心対象情報に係る関心対象が、画像解析装置60から受信した関心位置情報に係る関心対象に対応する端末装置50を特定せずに、予め定められた所定の端末装置50に配信用パケットを配信してもよい。   In addition, the distribution control device 40 specifies the terminal device 50 in which the interest object related to the interest object information stored in the distribution destination request information 421 corresponds to the interest object related to the interest position information received from the image analysis device 60. Instead, the distribution packet may be distributed to a predetermined terminal device 50 that is determined in advance.

以上説明してきたように、本発明の一実施形態に係るデータ配信システム1では、配信制御装置40が、撮像画像内の部分画像に係るパケットについて、部分画像に関心対象が写っているパケットを特定し、その特定したパケットのみを端末装置50に配信する。これにより、データ配信システム1は、端末装置50に対して関心対象が写っている部分画像のパケットのみを配信することができ、各端末装置50が受信するパケットのデータ量を低減させてネットワーク負荷を軽減させることが可能となる。
また、配信制御装置40は、パケットを配信すべき端末装置50を即時に特定し、配信するため、受信したパケットを長期にわたって保持しておく必要がない。したがって、配信制御装置40における記憶容量の低減を図ることが可能となる。
また、配信制御装置40は、所定のデータに係るパケットを、パケット単位で取捨選択することによって、各端末装置50へ割り振るため、パケットから撮像画像を再構成して端末装置50が必要とする部分画像を切り出すような画像変換を実行する必要がなく、処理負荷を軽減させることが可能となる。
また、配信制御装置40は、データのヘッダ部のみにアクセスすればよく、ペイロード部(データ自体)にアクセスする必要がないため、配信制御装置40の管理者によるデータの閲覧を難しくすることが可能となり、セキュリティ性の向上及びプライバシーの保護を図ることが可能となる。特に、ペイロード部のデータを暗号化して送信した場合であっても、ヘッダ部のみに基づいてパケット単位で取捨選択できるため、配信制御装置40におけるデータの閲覧をより一層困難にすることができる。
As described above, in the data distribution system 1 according to the embodiment of the present invention, the distribution control device 40 identifies a packet in which a target object is shown in the partial image, for the packet related to the partial image in the captured image. Then, only the identified packet is distributed to the terminal device 50. Thereby, the data distribution system 1 can distribute only the packet of the partial image in which the object of interest is reflected to the terminal device 50, and the network load is reduced by reducing the data amount of the packet received by each terminal device 50. Can be reduced.
Further, since the distribution control device 40 immediately identifies and distributes the terminal device 50 to which the packet is to be distributed, it is not necessary to hold the received packet for a long time. Therefore, it is possible to reduce the storage capacity in the distribution control device 40.
In addition, the distribution control device 40 allocates the packet related to the predetermined data to each terminal device 50 by selecting in units of packets, so that the terminal device 50 needs to reconstruct a captured image from the packet. It is not necessary to perform image conversion that cuts out an image, and the processing load can be reduced.
Further, since the distribution control device 40 only needs to access the header portion of the data and does not need to access the payload portion (data itself), it is possible to make it difficult for the administrator of the distribution control device 40 to view the data. Thus, it is possible to improve security and protect privacy. In particular, even when the data in the payload part is encrypted and transmitted, the data can be selected in units of packets based only on the header part, so that it is possible to make the data browsing in the distribution control device 40 even more difficult.

1 データ配信システム
10 画像送信装置
20 警備装置
30 データ送信装置
40 配信制御装置
50 端末装置
60 画像解析装置
42 記憶部
431 拡張パケット受信部
432 関心位置情報受信部
433 配信先情報更新部
434 特定部
435 配信用パケット生成部
436 パケット配信部
DESCRIPTION OF SYMBOLS 1 Data distribution system 10 Image transmission apparatus 20 Security apparatus 30 Data transmission apparatus 40 Distribution control apparatus 50 Terminal apparatus 60 Image analysis apparatus 42 Memory | storage part 431 Extended packet receiving part 432 Interesting-position information receiving part 433 Delivery destination information update part 434 Identification | designated part 435 Delivery packet generator 436 Packet delivery unit

Claims (7)

データ送信装置と、画像解析装置と、配信制御装置とを有するデータ配信システムであって、
前記データ送信装置は、撮像画像内の部分画像に係るパケットのペイロード部の情報から前記部分画像の前記撮像画像内の位置を特定し、前記特定した位置に関する位置情報を前記パケットのヘッダ部に含ませることにより拡張パケットを生成するとともに、前記拡張パケットを前記配信制御装置に送信し、
前記画像解析装置は、前記撮像画像を画像解析することにより、前記撮像画像に関心対象が写っている位置を示す関心位置情報を生成するとともに、前記関心位置情報を前記配信制御装置に送信し、
前記配信制御装置は、
前記データ送信装置から送信された拡張パケットを受信する拡張パケット受信部と、
前記画像解析装置から送信された関心位置情報を受信する関心位置情報受信部と、
前記受信した拡張パケットの内、ヘッダ部に含まれる前記位置情報に係る位置が、前記受信した関心位置情報に係る位置に対応する拡張パケットを特定する特定部と、
前記特定した拡張パケットに基づくパケットを端末装置に配信するパケット配信部と、
を有することを特徴とするデータ配信システム。
A data distribution system having a data transmission device, an image analysis device, and a distribution control device,
The data transmission device identifies a position in the captured image of the partial image from information of a payload portion of a packet related to the partial image in the captured image, and includes position information regarding the identified position in a header portion of the packet Generating an extended packet, and transmitting the extended packet to the distribution control device,
The image analysis device performs image analysis on the captured image to generate interest position information indicating a position where an object of interest is reflected in the captured image, and transmits the interest position information to the distribution control device.
The delivery control device
An extended packet receiver for receiving an extended packet transmitted from the data transmitting device;
A position-of-interest information receiving unit for receiving position-of-interest information transmitted from the image analysis device;
Among the received extended packets, the position related to the position information included in the header part is a specifying unit for specifying an extended packet corresponding to the position related to the received position of interest information;
A packet delivery unit for delivering a packet based on the identified extended packet to the terminal device;
A data distribution system comprising:
前記関心位置情報は、当該関心位置情報が示す位置に写っている関心対象を更に示し、
前記配信制御装置は、複数の前記端末装置の識別情報のそれぞれと、複数の前記関心対象の内の何れかの関心対象を示す関心対象情報とを対応付けて記憶する記憶部を更に有し、
前記特定部は、前記記憶されている関心対象情報に係る関心対象が、前記受信した関心位置情報に係る関心対象に対応する端末装置を特定し、
前記パケット配信部は、前記特定した拡張パケットに基づくパケットを前記特定した端末装置に配信する、請求項1に記載のデータ配信システム。
The position of interest information further indicates an object of interest shown in the position indicated by the position of interest information,
The distribution control device further includes a storage unit that stores the identification information of the plurality of terminal devices in association with the interest target information indicating any one of the plurality of interest targets.
The identifying unit identifies a terminal device corresponding to the object of interest related to the received position of interest information, the object of interest related to the stored object of interest information;
The data distribution system according to claim 1, wherein the packet distribution unit distributes a packet based on the identified extension packet to the identified terminal device.
前記パケットの前記ペイロード部には、前記部分画像の前記位置が記載されており、
前記データ送信装置は、前記パケットの前記ペイロード部に記載された前記位置を読み出すことにより、前記部分画像の前記撮像画像内の位置を特定する、請求項1または2に記載のデータ配信システム。
In the payload portion of the packet, the position of the partial image is described,
3. The data distribution system according to claim 1, wherein the data transmission device identifies the position of the partial image in the captured image by reading the position described in the payload portion of the packet.
前記データ送信装置は、複数の前記パケットから前記撮像画像を復元し、前記復元した撮像画像に基づいて、前記部分画像の前記撮像画像内の位置を特定する、請求項1または2に記載のデータ配信システム。   The data according to claim 1, wherein the data transmission device restores the captured image from a plurality of the packets, and specifies a position in the captured image of the partial image based on the restored captured image. Distribution system. 前記データ送信装置は、前記拡張パケットにおいて、前記端末装置が復号可能な暗号化方式によって前記ペイロード部を暗号化する、請求項1〜請求項4の何れか一項に記載のデータ配信システム。   The data distribution system according to any one of claims 1 to 4, wherein the data transmission device encrypts the payload portion in the extension packet by an encryption method that the terminal device can decrypt. 前記撮像画像は、警備装置により警備される監視対象に係る画像であり、
前記配信制御装置は、前記警備装置が前記監視対象を警備中であるか否かを示す警備状態情報を記憶する記憶部を更に有し、
前記パケット配信部は、前記警備装置が前記監視対象を警備中である場合に限り、前記特定した拡張パケットに基づくパケットを配信する、請求項1〜請求項4の何れか一項に記載のデータ配信システム。
The captured image is an image relating to a monitoring target to be guarded by a security device,
The delivery control device further includes a storage unit that stores security state information indicating whether or not the security device is guarding the monitoring target,
The data according to any one of claims 1 to 4, wherein the packet distribution unit distributes a packet based on the specified extended packet only when the security device is guarding the monitoring target. Distribution system.
データ送信装置と、画像解析装置と、配信制御装置とを有するデータ配信システムにおけるデータ配信方法であって、
前記データ送信装置が、撮像画像内の部分画像に係るパケットのペイロード部の情報から前記部分画像の前記撮像画像内の位置を特定し、前記特定した位置に関する位置情報を前記パケットのヘッダ部に含ませることにより拡張パケットを生成するとともに、前記拡張パケットを前記配信制御装置に送信し、
前記画像解析装置が、前記撮像画像を画像解析することにより、前記撮像画像に関心対象が写っている位置を示す関心位置情報を生成するとともに、前記関心位置情報を前記配信制御装置に送信し、
前記配信制御装置が、
前記データ送信装置から送信された拡張パケットを受信し、
前記画像解析装置から送信された関心位置情報を受信し、
前記受信した拡張パケットの内、ヘッダ部に含まれる前記位置情報に係る位置が、前記受信した関心位置情報に係る位置に対応する拡張パケットを特定し、
前記特定した拡張パケットに基づくパケットを端末装置に配信する、
ことを含むことを特徴とするデータ配信方法。
A data distribution method in a data distribution system having a data transmission device, an image analysis device, and a distribution control device,
The data transmission device specifies a position of the partial image in the captured image from information of a payload portion of the packet related to the partial image in the captured image, and includes position information regarding the specified position in the header portion of the packet Generating an extended packet, and transmitting the extended packet to the distribution control device,
The image analysis device performs image analysis on the captured image to generate interest position information indicating a position where the object of interest is reflected in the captured image, and transmits the interest position information to the distribution control device.
The delivery control device is
Receiving an extended packet transmitted from the data transmitting device;
Receiving the position of interest information transmitted from the image analysis device;
Among the received extended packets, the position related to the position information included in the header part specifies an extended packet corresponding to the position related to the received position of interest information,
Delivering a packet based on the identified extended packet to the terminal device;
A data distribution method characterized by comprising:
JP2017019713A 2017-02-06 2017-02-06 Data distribution system and data distribution method Active JP6479062B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017019713A JP6479062B2 (en) 2017-02-06 2017-02-06 Data distribution system and data distribution method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017019713A JP6479062B2 (en) 2017-02-06 2017-02-06 Data distribution system and data distribution method

Publications (2)

Publication Number Publication Date
JP2018129588A true JP2018129588A (en) 2018-08-16
JP6479062B2 JP6479062B2 (en) 2019-03-06

Family

ID=63173266

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017019713A Active JP6479062B2 (en) 2017-02-06 2017-02-06 Data distribution system and data distribution method

Country Status (1)

Country Link
JP (1) JP6479062B2 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003084225A1 (en) * 2002-04-03 2003-10-09 Mitsubishi Denki Kabushiki Kaisha Video relay device, video distribution system, video relay method
JP2004193941A (en) * 2002-12-11 2004-07-08 Nippon Telegr & Teleph Corp <Ntt> Arbitrary viewpoint picture transmission method, apparatus for implementing the method, processing program therefor and recording medium
JP2006074822A (en) * 2001-08-30 2006-03-16 Hitachi Kokusai Electric Inc Monitored video delivery method, monitored video delivering apparatus, and monitored video delivery system
JP2012209831A (en) * 2011-03-30 2012-10-25 Panasonic Corp Image data control device
WO2016042946A1 (en) * 2014-09-19 2016-03-24 シャープ株式会社 Monitoring system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006074822A (en) * 2001-08-30 2006-03-16 Hitachi Kokusai Electric Inc Monitored video delivery method, monitored video delivering apparatus, and monitored video delivery system
WO2003084225A1 (en) * 2002-04-03 2003-10-09 Mitsubishi Denki Kabushiki Kaisha Video relay device, video distribution system, video relay method
JP2004193941A (en) * 2002-12-11 2004-07-08 Nippon Telegr & Teleph Corp <Ntt> Arbitrary viewpoint picture transmission method, apparatus for implementing the method, processing program therefor and recording medium
JP2012209831A (en) * 2011-03-30 2012-10-25 Panasonic Corp Image data control device
WO2016042946A1 (en) * 2014-09-19 2016-03-24 シャープ株式会社 Monitoring system

Also Published As

Publication number Publication date
JP6479062B2 (en) 2019-03-06

Similar Documents

Publication Publication Date Title
US11798211B2 (en) Image processing system, image processing method and program, and device
US20170323542A1 (en) Apparatus for security enhancement in closed circuit television using hardware security module and the method by using the same
US9210436B2 (en) Distributed video coding/decoding method, distributed video coding/decoding apparatus, and transcoding apparatus
US10511769B2 (en) System comprising a video camera and a client device and a method performed by the same
US8625973B2 (en) Method and apparatus for operating a video system
JP2018110399A (en) Method, device, and camera
US20100306793A1 (en) Method, system and computer program product for detecting pornographic contents in video sequences
US20140285659A1 (en) Intelligent central surveillance server system and controlling method thereof
WO2018135321A1 (en) Image processing device and method
US20190191210A1 (en) Systems and methods for transmitting a high quality video image from a low power sensor
JP2005229188A (en) Video communication apparatus and video communication method
JP2008042595A (en) Network camera apparatus and receiving terminal
KR20160104988A (en) Police video control system
JP6479062B2 (en) Data distribution system and data distribution method
JP2000032437A (en) Image transmission system
JP6545205B2 (en) Data distribution system and data distribution method
CN109698933B (en) Data transmission method, camera, electronic device, and computer-readable storage medium
CN110753243A (en) Image processing method, image processing server and image processing system
JPWO2020116177A1 (en) Image sensor, image sensor and method
KR101263669B1 (en) Image processing system of image change adaptation
JP6946148B2 (en) Data distribution system and distribution control device
EP3110143A1 (en) Image transmission device and image transmission system
KR102126794B1 (en) Apparatus and Method for Transmitting Video Data
JP2020017804A (en) Image transmission device, image transmission method and image transmission program
KR101411636B1 (en) System, apparatus, method and computer readable recording medium for providing n-screen service through the recognition of circumstantial based on the smart tv

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181212

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190205

R150 Certificate of patent or registration of utility model

Ref document number: 6479062

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250