JP6946148B2 - データ配信システム及び配信制御装置 - Google Patents

データ配信システム及び配信制御装置 Download PDF

Info

Publication number
JP6946148B2
JP6946148B2 JP2017211063A JP2017211063A JP6946148B2 JP 6946148 B2 JP6946148 B2 JP 6946148B2 JP 2017211063 A JP2017211063 A JP 2017211063A JP 2017211063 A JP2017211063 A JP 2017211063A JP 6946148 B2 JP6946148 B2 JP 6946148B2
Authority
JP
Japan
Prior art keywords
data
packet
image
information
quality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017211063A
Other languages
English (en)
Other versions
JP2019082950A (ja
Inventor
悠一 瀧田
悠一 瀧田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2017211063A priority Critical patent/JP6946148B2/ja
Publication of JP2019082950A publication Critical patent/JP2019082950A/ja
Application granted granted Critical
Publication of JP6946148B2 publication Critical patent/JP6946148B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、データを配信するデータ配信システム及び配信制御装置に関する。
建物等の監視区域に設置された監視カメラが撮像した撮像画像を端末装置に配信し、その撮像画像に基づいて不審者の侵入等のイベントを検知するデータ配信システムが利用されている。
例えば、特許文献1には、ある監視カメラでアラームが発行されると、その監視カメラと同じグループに属する他の監視カメラに向けて画像の送信命令を発行する画像監視システムが開示されている。この画像監視システムにおいて、監視カメラは、アラーム及び送信命令が発行されないときは、アラーム又は送信命令が発行されたときよりも低いフレームレートで撮影を行う。これにより、画像監視システムは、利用者に対し、発生した異常と関係の深い映像を提示しつつ、情報量の削減を可能としている。
特開2005−012590号公報
しかしながら、特許文献1の画像監視システムでは、監視カメラが、受信した送信命令に応じて画像の品質を変更するように画像を撮像する必要がある。そのため、特許文献1の画像監視システムでは、市販の監視カメラ等の汎用的なカメラを用いて画像監視システムを構築することが困難であった。
本発明の目的は、配信制御装置においてパケットの配信可否を制御することにより、監視カメラ等のデータ送信装置においてデータの品質を変更することなく、イベントに関係するデータの配信量を適切に制御することができるデータ配信システム及び配信制御装置を提供することにある。
かかる課題を解決するため本発明は、複数のデータ送信装置と、データ送信装置から受信したパケット毎に配信可否を制御し、配信するパケットに含まれるデータにより再構成される再構成データの単位時間当たりのデータ量を制御する配信制御装置とを有するデータ配信システムを提供する。係るデータ配信システムにおいて、複数のデータ送信装置のそれぞれは、データが生成された位置を示す位置情報を取得する位置情報取得部と、データ及び当該データに係る位置情報を含むパケットを配信制御装置に送信するパケット送信部と、を有し、配信制御装置は、複数のデータ送信装置のそれぞれから受信したパケットに含まれるデータに基づいて検出されたイベントに対して、当該イベントが検出されたパケットに含まれる位置情報が示す位置の近傍領域を示す領域情報を取得する領域情報取得部と、受信したパケットに含まれる位置情報を参照し、取得した領域情報に示される近傍領域内で生成されたデータを含むパケットに係る再構成データの単位時間当たりのデータ量が、近傍領域外で生成されたデータを含むパケットに係る再構成データの単位時間当たりのデータ量よりも大きくなるように、配信可否を制御する制御部と、を有する。
また、本発明に係るデータ配信システムにおいて、配信制御装置は、配信制御装置の最大通信帯域を記憶する記憶部をさらに有し、制御部は、パケットを配信した場合における通信帯域の総和が最大通信帯域を超えないように、配信可否を制御することが好ましい。
また、本発明に係るデータ配信システムにおいて、データ送信装置の送信するパケットには、品質情報が含まれ、制御部は、品質情報を参照して、近傍領域内で生成されたデータを含むパケットに係る再構成データの品質が、近傍領域外で生成されたデータを含むパケットに係る再構成データの品質より高くなるように、配信可否を制御することが好ましい。
また、本発明に係るデータ配信システムにおいて、品質情報は、データ送信装置の送信するパケットの、データと異なるヘッダ部に含まれており、制御部は、ヘッダ部から品質情報を特定することが好ましい。
また、本発明に係るデータ配信システムにおいて、位置情報は、データ送信装置の送信するパケットの、データと異なるヘッダ部に含まれており、制御部は、ヘッダ部から位置情報を特定することが好ましい。
また、本発明に係るデータ配信システムにおいて、制御部は、近傍領域外で生成されたデータを含むパケットの内、近傍領域に近い位置で生成されたデータを含むパケットほど、単位時間当たりのデータ量が大きくなるように、配信可否を制御することが好ましい。
また、かかる課題を解決するため本発明は、複数のデータ送信装置から受信したパケット毎に配信可否を制御し、配信するパケットに含まれるデータにより再構成される再構成データの単位時間当たりのデータ量を制御する配信制御装置を提供する。係る配信制御装置は、複数のデータ送信装置のそれぞれから受信した、データ及び当該データが生成された位置を示す位置情報を含むパケットに含まれるデータに基づいて検出されたイベントに対して、当該イベントが検出されたパケットに含まれる位置情報が示す位置の近傍領域を示す領域情報を取得する領域情報取得部と、受信したパケットに含まれる位置情報を参照し、取得した領域情報に示される近傍領域内で生成されたデータを含むパケットに係る再構成データの単位時間当たりのデータ量が、近傍領域外で生成されたデータを含むパケットに係る再構成データの単位時間当たりのデータ量よりも大きくなるように、配信可否を制御する制御部と、を有する。
本発明に係るデータ配信システム及び配信制御装置は、配信制御装置側でパケットの配信可否を制御することにより、データ送信装置においてデータの品質を変更することなく、イベントに関係するデータの配信量を適切に制御することができる。
本実施形態によるデータ配信システム1の概略構成図である。 (a)〜(c)は画像パケットのデータ構造の一例を示す模式図であり、(d)は画像列形式情報のデータ構造の一例を示す模式図であり、(e)は画像形式情報のデータ構造の一例を示す模式図である。 データ送信装置20の概略構成を示す図である。 (a)は拡張パケット生成用情報231のデータ構造の一例を示す模式図であり、(b)〜(d)は拡張パケットのデータ構造の一例を示す模式図であり、(e)は品質情報のデータ構造の一例を示す模式図である。 配信制御装置30の概略構成を示す図である。 (a)は配信先情報323のデータ構造の一例を示す模式図であり、(b)は品質レベル管理情報324のデータ構造の一例を示す模式図であり、(c)は品質レベル定義情報325のデータ構造の一例を示す模式図である。 (a)〜(c)は配信用パケットのデータ構造の一例を示す模式図である。 データ解析装置50の概略構成を示す図である。 本実施形態に係るデータ配信システム1の全体動作シーケンス図である。 拡張パケット生成処理の動作の例を示すフローチャートである。 配信用パケット生成処理の動作の例を示すフローチャートである。 品質レベル管理情報324の設定の例を説明する図である。
以下、本発明のデータ配信システムについて図を参照しつつ説明する。
図1は、本実施形態によるデータ配信システム1の概略構成を示す図である。図1に示すように、データ配信システム1は、複数の画像送信装置10、複数のデータ送信装置20、配信制御装置30、複数の端末装置40及びデータ解析装置50等を有する。各画像送信装置10及び各データ送信装置20は、警備エリア2に配置される。各画像送信装置10及びデータ送信装置20は、例えばLAN(Local Area Network)で構成されたイントラネット等の有線ネットワークで相互に通信する。なお、このネットワークは、無線LAN、WiMAX(Worldwide Interoperability for Microwave Access)又はPHS(Personal Handy-phone System)等の無線ネットワークでもよい。
配信制御装置30は、通信事業者網3の網内装置である。複数のデータ送信装置20、複数の端末装置40及びデータ解析装置50は、それぞれ通信事業者網3に通信接続され、通信事業者網3内に配置された配信制御装置30と通信する。通信事業者網3は、W−CDMA(Wideband Code Division Multiple Access)、CDMA2000又はLTE(Long Term Evolution)等の通信方式に従ったネットワークである。なお、通信事業者網3は、イントラネット等の有線ネットワークでもよい。
各画像送信装置10は、例えばネットワークカメラ等に搭載され、ネットワークカメラが撮像した時系列で連続する撮像画像(複数フレームからなる画像列)をパケット化する。例えば、各画像送信装置10は、ネットワークカメラが警備エリア2内の画像を撮像するように、警備エリア2内に配置され、警備エリア2内の侵入者、不審物体等の監視対象を撮像した画像列を取得する。各画像送信装置10は、取得した画像列を、H.264/MPEG(Moving Picture Experts Group)−4 AVC(Advanced Video Coding)規格等の所定の符号化規格に従って、所定の解像度、画質、フレームレート等の品質を有する画像データにエンコード(符号化)し、エンコードした画像データに係る画像パケットを生成する。各画像送信装置10は、通信部を有し、生成した画像パケットを通信部を介してデータ送信装置30に送信する。
各画像送信装置10は、異なる品質(解像度、画質、フレームレート)にて取得した画像列を、それぞれ異なる品質を有する複数の画像データにエンコードする。または、各画像送信装置10は、所定の品質で取得した画像列を、当該品質とは異なる品質の画像列に変換し、それぞれ異なる品質を有する複数の画像データにエンコードしてもよい。
図2(a)〜(c)は、エンコードした画像データを送信する画像パケットのデータ構造の一例を示す模式図である。図2(a)〜(c)に示すように、画像パケットはヘッダ部及びペイロード部を有する。
ヘッダ部は、画像送信装置ID及びデータ送信装置アドレス等を少なくとも有する。画像送信装置IDは、画像送信装置10を一意に識別可能なユニークな値(例えばIPアドレス及びポート番号等)である。データ送信装置アドレスは、各画像送信装置10と通信接続されたデータ送信装置20のアドレス(例えばIPアドレス及びポート番号等)である。画像パケットの構成はペイロード部の構成によって3種類に分類される。
図2(a)は、所定の画像列について共通する形式情報(画像列形式情報)がペイロード部に含まれる画像パケットの例である。図2(d)は、画像列形式情報のデータ構造の一例を示す模式図である。図2(d)に示すように、画像列形式情報は、画像の解像度を示す解像度情報、画像の符号化品質(量子化パラメータ等)を示す画質情報、又は、1秒間に含まれる画像の枚数(フレーム数)を示すフレームレート情報等を有する。例えば、H.264/MPEG−4 AVC規格では、画像列形式情報として、SPS(Sequence Parameter Set)、PPS(Picture Parameter Set)等が設定される。
例えば、解像度情報として、SPSのframe_mbs_only_flag、pic_width_in_mbs_minus1、pic_height_in_map_units_minus1等が設定される。frame_mbs_only_flagは、ピクチャにフレーム・マクロブロックしか含まれない場合、即ちインターレースでない場合に1となり、そうでない場合に0となる。pic_width_in_mbs_minus1は(ピクチャの水平方向のマクロブロックの数−1)であり、pic_height_in_map_units_minus1は(ピクチャの垂直方向のマクロブロックの数−1)である。マクロブロックの水平及び垂直方向の画素数が16である場合、水平方向の画素数及び垂直方向の画素数は、以下の式により算出される。
水平方向の画素数=(pic_width_in_mbs_minus1+1)×16
垂直方向の画素数=(2−frame_mbs_only_flag)×(pic_height_in_map_units_minus1+1)×16
例えば、解像度が4K(3840×2160)である場合、frame_mbs_only_flag=1, pic_width_in_mbs_minus1=255, pic_height_in_map_units_minus1=134に設定される。一方、解像度がFullHD(1920×1080)である場合、frame_mbs_only_flag=0, pic_width_in_mbs_minus1=119, pic_height_in_map_units_minus1=33に設定される。
また、画質情報として、PPSのpic_init_qp_minus26等が設定される。pic_init_qp_minus26は、スライスの量子化パラメータの初期値である。
フレームレート情報として、SPSに含まれるVUI(Video Usability Information)のnum_units_in_tick、time_scale等が設定される。フレームレートは、time_scaleをnum_units_in_tickで除算することにより、算出される。例えば、フレームレートが60fpsである場合、num_units_in_tick=1000, time_scale=60000に設定される。一方、フレームレートが30fpsである場合、num_units_in_tick=1000, time_scale=30000に設定される。
画像列形式情報には、上記した情報以外の情報が含まれていてもよい。
図2(b)は、所定の画像列における所定単位の画像データ(例えば、スライス)についての形式情報(画像形式情報)と、画像データの一部(部分画像データ)とがペイロード部に含まれる画像パケットの例である。
図2(e)は、画像形式情報のデータ構造の一例を示す模式図である。図2(e)に示すように、画像形式情報は、エンコードされた所定単位の画像データをデコードするために必要な形式情報であり、フレームタイプ等を有する。フレームタイプは、そのフレームが、フレーム間予測を用いずにエンコードされるIフレーム(基準フレーム)、前方向予測のみを用いてエンコードされるPフレーム、又は、前方向予測、後方向予測、両方向予測の内の何れかを選択してエンコードされるBフレームの内の何れであるかを示す。例えば、H.264/MPEG−4 AVC規格では、画像形式情報として、スライス・ヘッダ(slice header)のslice_type等が設定される。また、画像形式情報には、上記した情報以外の情報が含まれていてもよい。
所定単位の画像データが1つのパケットのサイズを超える場合、所定単位の画像データは、複数の部分画像データに分割されて複数のパケットに格納される。例えば、H.264/MPEG−4 AVC規格では、所定単位は、例えばスライスである。以下では、1スライスが1フレームであるものとして説明するが、1フレームに複数のスライスが含まれてもよい。画像形式情報は、所定単位の画像データの先頭に格納される。
図2(c)は、部分画像データのみがペイロード部に含まれる画像パケットの例である。なお、画像データが1つの画像パケットに格納できるほど十分に小さい場合、画像列形式情報、画像形式情報及び画像データは1つの画像パケットに格納されてもよい。
データ送信装置20は、画像送信装置10から画像パケットを受信し、受信した画像パケットから拡張パケットを生成して配信制御装置30に送信する。拡張パケットは、受信した画像パケットのヘッダ部に、当該画像パケットのデータに係る品質情報及び位置情報が付加されたパケットである。拡張パケットのペイロード部に含まれる画像パケットのデータは、配信制御装置30を介して端末装置40に送信され、端末装置40は、受信した画像パケットのデータをデパケット化して再構成することにより得られるデータ(以下「再構成データ」という)をデコードして画像列を復元する。ここで、画像パケットのデータが再構成データに含まれることにより達成される再構成データの品質を示す情報が、品質情報である。データ送信装置20は、例えば、所定のアプリケーションプログラムに従ってデータ処理を実行可能なセットトップボックス等に搭載される。データ送信装置20は、画像パケットの送信元である画像送信装置10に近接する位置に配置される。なお、データ送信装置20と画像送信装置10は、一つの装置として実装されてもよい。その場合、例えば、画像送信装置10及びデータ送信装置20は、警備員が着用可能なウェアラブルカメラ又は飛行ロボット等の移動カメラ等により構成される。また、単一のデータ送信装置20に対して複数の画像送信装置10が通信接続されてもよい。その場合、例えば、複数の画像送信装置10は、ポール等に設置された複数の固定カメラにより構成され、データ送信装置20は、そのポールの近傍に設置される。図3は、データ送信装置20の概略構成を示す図である。図3に示すように、データ送信装置20は、第1通信部21、第2通信部22、記憶部23及び処理部24等を有する。
第1通信部21は、データ送信装置20が画像送信装置10とTCP/IP等の所定の通信方式に従った通信を行うための通信インタフェース回路を有する。第1通信部21は、ネットワークを介して画像送信装置10から受信した画像パケット等のデータを処理部24に送る。また、第1通信部21は、処理部24から受け取ったデータをネットワークを介して画像送信装置10に送信する。
第2通信部22は、データ送信装置20が通信事業者網3と、W−CDMA、CDMA2000又はLTE等の通信方式に従った携帯電話の無線通信を行うための通信インタフェース回路を有する。第2通信部22は、通信事業者網3を介して配信制御装置30から受信したデータを処理部24に送る。また、第2通信部22は、処理部24から受け取ったデータを通信事業者網3を介して配信制御装置30に送信する。
記憶部23は、ROM(Read Only Memory)、RAM(Random Access Memory)等の半導体メモリ、又は、磁気記録媒体及びそのアクセス装置もしくは光記録媒体及びそのアクセス装置等を有する。記憶部23は、データ送信装置20を制御するためのコンピュータプログラム及び各種データを記憶し、処理部24との間でこれらの情報を入出力する。コンピュータプログラムは、CD−ROM(compact disk read only memory)、DVD−ROM(digital versatile disk read only memory)等のコンピュータ読み取り可能な可搬型記録媒体から公知のセットアッププログラム等を用いて記憶部23にインストールされてもよい。また、記憶部23には、拡張パケット生成用情報231等が記憶される。拡張パケット生成用情報231は、データ送信装置20が、画像パケットから拡張パケットを生成する際に参照される情報であり、画像パケットを受信する度に当該画像パケットのペイロード部の情報に基づいて更新される。
図4(a)は、拡張パケット生成用情報231のデータ構造の一例を示す模式図である。図4(a)に示すように、拡張パケット生成用情報231は、各画像送信装置10から受信する画像パケットに対応する画像列毎に、画像送信装置ID、解像度タイプ、画質タイプ、フレームレート、フレーム番号、フレームタイプ、フレーム番号間隔とフレームレートタイプの組及び位置情報等の各情報が対応付けて記憶される。
画像送信装置IDは、画像列を生成した画像送信装置の識別情報である。上述したように拡張パケット生成用情報231は画像列毎に記録されるため、ある画像送信装置10が品質の異なる複数種類の画像列を送信する場合、拡張パケット生成用情報231には当該画像送信装置10の画像送信装置IDが複数個登録される。
解像度タイプは、画像列の解像度に対応する識別情報(ID)である。例えば、解像度が4Kである場合、解像度タイプとして1が設定され、解像度がFullHDである場合、解像度タイプとして2が設定される。なお、解像度タイプとして、IDではなく、水平方向の画素数と垂直方向の画素数の組が設定されてもよい。
画質タイプは、画像列の画質情報に対応する識別情報(ID)である。例えば、H.264/MPEG−4 AVC規格に従う場合、量子化パラメータの初期値(pic_init_qp_minus26)が第1閾値(-6)以下である高画質な画像ならば画質タイプとして1が設定され、量子化パラメータの初期値が第1閾値より大きく且つ第2閾値(14)より小さい中画質な画像ならば画質タイプとして2が設定され、量子化パラメータの初期値が第2閾値以上である低画質な画像ならば画質タイプとして3が設定される。なお、画質タイプとして、IDではなく、量子化パラメータの初期値又は量子化パラメータの初期値の最小値及び最大値の組等が設定されてもよい。
フレームレートは、画像列のフレームレート値である。
フレーム番号は、画像列を構成するフレームの番号であって、受信した画像パケットに含まれるデータに対応するフレームの番号を示す。フレーム番号の最小値は1であり、最大値はフレームレートの値であり、フレーム番号は、フレーム毎に、1から単調に増加し、最大値まで達すると1に戻る。
フレームタイプは、画像列を構成するフレームのタイプであって、受信した画像パケットに含まれるデータに対応するフレームのタイプを示す。例えば、フレームタイプは、そのフレームが、Iフレーム(基準フレーム)、Pフレーム、又は、Bフレームの内の何れであるかを示す。
フレーム番号間隔とフレームレートタイプの組は、受信した画像パケットが再構成データにおいて実現可能なフレームレートを決定する際に参照される情報である。フレーム番号間隔は、特定のフレームレートの再構成データを実現できるフレームの間隔を示し、フレームレートタイプは、そのフレーム番号間隔のフレームにより実現されるフレームレートを示す。すなわち、フレーム番号間隔とフレームレートタイプの組が(2, 30)である場合、フレームレート30fpsの再構成データを実現できるフレームの間隔が2であることを示す。
フレーム番号間隔とフレームレートタイプの組は、存在し得る組み合わせ数だけ設定される。フレームレートタイプとして、フレームレートと、1秒間に基準フレームが発生する数(基準フレームレートと称する)の約数とが設定される。例えば、フレームレートが60fpsで、基準フレームレートが30の場合、フレームレートタイプは、60,30,15,10,6、5,3,2,1からなる集合となる。なお、基準フレームレートは、フレームレートを、基準フレームが発生するフレーム間隔(GOP(Group Of Picture))で除算することにより算出される。また、GOPは、画像形式情報に含まれるフレームタイプが基準フレームである画像パケットが発生する間隔から算出されるが、予め設定されていてもよい。フレーム番号間隔は、フレームレートを各フレームレートタイプで除算することにより算出される。
ここで、H.264/MPEG−4 AVC規格に従う場合における、フレーム番号間隔とフレームレートタイプの組を例示する。この場合、フレームレートが60fpsであり、GOPが2であるとき、基準フレームが出現する基準フレームレートは30となり、フレーム番号間隔とフレームレートタイプの組として{(1, 60), (2, 30), (4, 15), (6, 10), (10, 6), (12, 5), (20, 3), (30, 2), (60, 1)}が設定される。
位置情報は、位置情報取得部241が取得した、画像送信装置10から送信された画像パケットに含まれるデータが生成された位置を示す最新の位置情報である。
処理部24は、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、周辺回路等を有する。処理部24は、位置情報取得部241、拡張パケット生成部242及び拡張パケット送信部243等を有する。
位置情報取得部241は、画像送信装置10から送信された画像パケットに含まれるデータが生成された位置を示す位置情報を取得する。例えば、位置情報取得部241は、データ送信装置20の位置(緯度及び経度)を測定し、測定した位置をデータが生成された位置(データの送信元の画像送信装置10の位置)とみなして位置情報を生成する。その場合、位置情報取得部241は、三つ以上のGPS(全地球測位システム)衛星からの信号を受信するGPS受信機を有し、受信した各信号に基づいて、三角測量によりデータ送信装置20の位置を測定する。または、位置情報取得部241は、位置がわかっている三つ以上の基地局装置からの受信電波強度、または基地局装置までの電波到達時間に基づいて、三角測量によりデータ送信装置20の位置を測定してもよい。また、画像送信装置10がGPS技術又は三角測量技術に基づいて画像送信装置10の位置を測定し、位置情報取得部241は、第1通信部21を介して画像送信装置10から位置情報を受信してもよい。
拡張パケット生成部242は、第1通信部21を介して画像送信装置10から受信した画像パケットのペイロード部の情報から、当該画像パケットの品質情報を特定する。即ち、拡張パケット生成部242は、画像パケットのデータが再構成データに含まれることにより達成される品質を特定し、特定した品質を示す品質情報と、位置情報取得部241が取得した位置情報とをその画像パケットのヘッダ部に含ませることにより拡張パケットを生成する。拡張パケット生成部242における拡張パケット生成処理の詳細は後述する。
拡張パケット送信部243は、拡張パケット生成部242が生成した複数の拡張パケットを第2通信部22を介して配信制御装置30に送信する。
図4(b)〜(d)は、拡張パケットのデータ構造の一例を示す模式図である。図4(b)〜(d)に示すように、拡張パケットは画像パケットと同様、ヘッダ部及びペイロード部を有する。但し、ヘッダ部は、データ送信装置アドレスの代わりに配信制御装置アドレスを有し、さらに、品質情報及び位置情報を有する。即ち、品質情報及び位置情報は、拡張パケットの、データが記されたペイロード部と異なるヘッダ部に含まれる。これにより、配信制御装置30は、拡張パケットのペイロード部を参照することなく、ヘッダ部のみの情報(品質情報及び位置情報等)に基づいて、配信先の装置を特定することができ、セキュリティ性の向上及びプライバシーの保護を図ることが可能となる。
配信制御装置アドレスは、例えば、配信制御装置30のIPアドレス及びポート番号等である。拡張パケットの構成も、画像パケットの構成と同様に、ペイロード部の構成によって3種類に分類される。
図4(e)は、品質情報のデータ構造の一例を示す模式図である。図4(e)に示すように、品質情報は、解像度タイプ、画質タイプ及びフレームレートタイプ等の情報を有する。この品質情報は、ペイロード部に含まれるデータを再構成することにより得られる再構成データの品質を示す。拡張パケットの品質情報として、それぞれ拡張パケット生成用情報231に記憶された解像度タイプ、画質タイプ及びフレームレートタイプが設定される。この際、品質情報として設定されるフレームレートタイプには、拡張パケット生成用情報231のフレーム番号間隔とフレームレートタイプとの組の集合の中から、現在のフレーム番号に基づいて求めた組が選択され、当該組が示すフレームレートタイプが設定される。フレームレートタイプの設定方法の詳細については後述する。また、拡張パケットの位置情報として拡張パケット生成用情報231に記憶された(画像パケットの画像送信装置IDに対応する)位置情報が設定される。
なお、拡張パケットのペイロード部は、端末装置40又はデータ解析装置50が復号可能な暗号化方式によって拡張パケットのペイロード部を暗号化してもよい。即ち、後述する拡張パケット生成部242が拡張パケットのペイロード部を暗号化することにより、各配信制御装置30は、拡張パケットに含まれる画像データにアクセスできず、各配信制御装置30の管理者等は、拡張パケットに含まれる画像データの内容を閲覧できなくなるため、より一層、セキュリティ性の向上及びプライバシーの保護を図ることが可能となる。
拡張パケット生成部242は、画像列形式情報を含む画像パケット(図2(a))を受信した場合、画像列形式情報を含む拡張パケット(図4(b))を生成する。また、拡張パケット生成部242は、画像形式情報を含む画像パケット(図2(b))を受信した場合、画像形式情報を含む拡張パケット(図4(c))を生成する。また、拡張パケット生成部242は、画像列形式情報及び画像形式情報を含まない画像パケット(図2(c))を受信した場合、画像列形式情報及び画像形式情報を含まない拡張パケット(図4(d))を生成する。
配信制御装置30は、複数のデータ送信装置20のそれぞれから複数の拡張パケットを受信し、受信した複数の拡張パケットの内の少なくとも一部のパケットに基づいて生成した配信用パケットを複数の端末装置40に配信する。また、配信制御装置30は、受信した複数の拡張パケットをデータ解析装置50に配信する。配信制御装置30は、例えば、所定のアプリケーションプログラムに従ってデータ処理を実行可能なルータ等に搭載される。図5は、配信制御装置30の概略構成を示す図である。図5に示すように、配信制御装置30は、通信部31、記憶部32及び処理部33等を有する。
通信部31は、配信制御装置30が通信事業者網3を介してデータ送信装置20、端末装置40又はデータ解析装置50と通信を行うための通信インタフェース回路を有する。通信部31は、データ送信装置20、端末装置40又はデータ解析装置50から受信したデータを処理部33に送る。また、通信部31は、処理部33から受け取ったデータをデータ送信装置20、端末装置40又はデータ解析装置50に送信する。
記憶部32は、ROM、RAM等の半導体メモリ、又は、磁気記録媒体及びそのアクセス装置もしくは光記録媒体及びそのアクセス装置等を有する。記憶部32は、配信制御装置30を制御するためのコンピュータプログラム及び各種データを記憶し、処理部33との間でこれらの情報を入出力する。コンピュータプログラムは、CD−ROM、DVD−ROM等のコンピュータ読み取り可能な可搬型記録媒体から公知のセットアッププログラム等を用いて記憶部32にインストールされてもよい。また、記憶部32には、帯域情報321、領域情報322、配信先情報323、品質レベル管理情報324及び品質レベル定義情報325等が記憶される。帯域情報321は、配信制御装置30が送信可能な単位時間当たりのデータ量である最大通信帯域を示す。領域情報322は、イベントが検出された位置を含む所定範囲の領域(近傍領域)を示す情報であり、後述するようにデータ解析装置50から送信されたイベント通知パケットに基づいて更新される。本実施形態におけるイベントは、例えば警備エリア2への、侵入者、不審物体等の監視対象の侵入等である。近傍領域は、例えば、イベントが検出されたデータが生成された位置(緯度及び経度)と予め設定された半径とで示される円である。半径は例えば50mとすることができる。
配信先情報323は、配信制御装置30が受信したそれぞれの拡張パケットについて、各拡張パケットに対応する配信用パケットを所定の端末装置40に配信するか否かを判定する際に参照される情報である。図6(a)は配信先情報323のデータ構造の一例を示す模式図である。図6(a)に表すように、配信先情報323として、画像送信装置IDと、配信先装置アドレスとの組み合わせ毎に、要求品質情報(要求解像度タイプ、要求画質タイプ及び要求フレームレートタイプ)が対応付けて記憶される。
画像送信装置IDは、配信先となる端末装置40が受信すべき配信用パケットに対応する画像パケットの送信元となる画像送信装置10の画像送信装置IDである。配信先装置アドレスは、配信先となる端末装置40のアドレスである。要求品質情報である要求解像度タイプ、要求画質タイプ及び要求フレームレートタイプは、それぞれ各端末装置40において受信し表示することが要求されている画像列の品質を示す解像度タイプ、画質タイプ及びフレームレートタイプである。
配信先情報323は、後述する品質レベル管理情報324が更新される度に、当該品質レベル管理情報324と後述する品質レベル定義情報325とに基づいて、制御部334によって更新される。しかしこれに限らず、不図示の入力装置を用いて管理者等により事前に設定されたり、各端末装置40又はデータ解析装置50から受信する要求に従って設定されてもよい。
品質レベル管理情報324は、図6(b)に表すように、画像パケットの送信元となる画像送信装置10の画像送信装置IDと、当該画像パケットに基づく配信用パケットの配信先の配信先装置アドレスとの組み合わせ毎に、現在時点において設定されている品質レベルを表した情報である。品質レベルとは、配信先で要求される再構成データの品質(要求解像度タイプ、要求画質タイプ及び要求フレームレートタイプの組合せ)を一意に識別するための識別子である。本実施形態では、品質レベルは、品質が最も高い「優先レベル」、品質が優先レベルより低い「通常レベル」、又は、品質が通常レベルより低い「抑制レベル」の内の何れかに設定される。後述するように、品質レベル管理情報324は、受信した拡張パケットに含まれる位置情報を参照し、領域情報322に示される近傍領域内において当該拡張パケットのデータが生成されたか否かに基づいて更新される。具体的には、拡張パケットのデータが近傍領域内において生成されている場合、当該データを生成した画像送信装置IDに対応する品質レベルは、近傍領域外においてデータを生成している他の画像送信装置IDに対応する品質レベルよりも高いレベルに更新される。
品質レベル定義情報325は、図6(c)に表すように、品質レベル管理情報324にて使用されている各品質レベルに対応する要求解像度タイプ、要求画質タイプ及び要求フレームレートタイプの組合せと、当該組み合わせの品質にて配信用パケットを送信した場合に配信制御装置30において利用(占有)されうる通信帯域(単位時間当たりに送信され得るデータ量(データ速度))と、を定義した情報であり、管理者等により予め設定登録される情報とする。
例えば、品質レベルが「優先レベル」に対応する要求解像度タイプは3840x2160に設定され、要求画質タイプは高画質に設定され、要求フレームレートタイプは30fpsに設定され、この設定値の組み合わせの場合における通信帯域は40Mbpsとして設定される。また、品質レベルが「通常レベル」に対応する要求解像度タイプは3840x2160に設定され、要求画質タイプは中画質に設定され、要求フレームレートタイプは20fpsに設定され、この設定値の組み合わせの場合における通信帯域は30Mbpsとして設定される。また、品質レベルが「抑制レベル」に対応する要求解像度タイプは1920x1080に設定され、要求画質タイプは中画質に設定され、要求フレームレートタイプは10fpsに設定され、この設定値の組み合わせの場合における通信帯域は20Mbpsとして設定される。各品質レベルに対応する通信帯域は、事前に計測又は算出されるものとする。なお、配信先情報323は、端末装置40又はデータ解析装置50等の他の装置からの要求に基づいて更新してもよい。
処理部33は、CPU、MPU、周辺回路等を有する。処理部33は、通信帯域設定部331、拡張パケット受信部332、領域情報取得部333、制御部334及び配信用パケット配信部335等を有する。
通信帯域設定部331は、配信制御装置30が送信可能な単位時間当たりのデータ量である最大通信帯域を計測し、計測した最大通信帯域を示す帯域情報321を記憶部32に記憶する。通信帯域設定部331は、任意のタイミングで(例えば定期的に)、特定の装置にデータを送信し、所定の単位時間内に当該装置が受信できたデータ量に基づいて最大通信帯域を計測する。なお、通信帯域設定部331は、不図示の操作部を用いて、又は、通信部31を介して通信事業者網3の管理者が利用する装置から最大通信帯域の設定を受け付けてもよい。
拡張パケット受信部332は、複数のデータ送信装置20のそれぞれから送信された拡張パケットを通信部31を介して受信する。
領域情報取得部333は、通信部31を介して後述するデータ解析装置50から近傍領域を示す領域情報をイベント通知パケットによって取得し、取得した領域情報を領域情報322として記憶部32に記憶する。
制御部334は、データ送信装置20から受信した拡張パケット毎に配信可否を制御することにより、配信するパケットに含まれるデータにより再構成される再構成データの単位時間当たりのデータ量を制御する。制御部334は、拡張パケットに含まれる位置情報を参照し、領域情報322に示される近傍領域内で生成されたデータを含む拡張パケットに係る再構成データの単位時間当たりのデータ量が、近傍領域外で生成されたデータを含む拡張パケットに係る再構成データの単位時間当たりのデータ量よりも大きくなるように、パケットの配信可否を制御する。また、制御部334は、データ送信装置20から受信した各拡張パケットに含まれる品質情報と配信先情報323とに基づいて各配信先へのパケットの配信を制御する。なお、制御部334の処理の詳細については後述する。
配信用パケット配信部335は、受信した拡張パケットに基づいて制御部334が生成した配信用パケットを通信部31を介して各端末装置40に配信する。
図7(a)〜(c)は、配信用パケットのデータ構造の一例を示す模式図である。図7(a)〜(c)に示すように、配信用パケットは拡張パケットと同様のヘッダ部及びペイロード部を有する。
但し、ヘッダ部は、配信制御装置アドレスの代わりに配信先装置アドレスを有し、品質情報及び位置情報は、ヘッダ部から除去される。配信先装置アドレスは、配信先情報323において、画像送信装置ID及び要求品質情報の各タイプが対応すると判定された項目における配信先装置アドレスである。配信用パケットの構成も、拡張パケットの構成と同様に、ペイロード部の構成によって3種類に分類される。
制御部334は、画像列形式情報を含む拡張パケット(図4(b))を受信した場合、画像列形式情報を含む配信用パケット(図7(a))を生成する。また、制御部334は、画像形式情報を含む拡張パケット(図4(c))を受信した場合、画像形式情報を含む配信用パケット(図7(b))を生成する。一方、制御部334は、画像列形式情報及び画像形式情報を含まない拡張パケット(図4(d))を受信した場合、画像列形式情報及び画像形式情報を含まない配信用パケット(図7(c))を生成する。
端末装置40は、データ受信装置の一例である。端末装置40は、画像送信装置10が送信した画像列を長期保存するためのデータセンタに配置されるサーバ、画像送信装置10が送信した画像列を管制員により監視するための監視管制センタに配置されるパーソナルコンピュータ、又は、警備エリア2内に駆けつけて対応する現場対応者が所持する携帯端末(携帯電話)等である。各端末装置40は、通信部及び表示部を有し、通信部を介して配信制御装置30から、画像送信装置10により送信された画像パケットに基づく配信用パケットを受信し且つ受信した配信用パケットに含まれるデータを再構成し、要求品質情報に対応する品質である再構成データをデコードした画像列を表示部に表示する。
データ解析装置50は、データ受信装置の一例である。データ解析装置50は、配信制御装置30から受信した拡張パケットに基づいて撮像画像を画像解析して監視対象を検知することにより、警備エリア2への監視対象の侵入等のイベントを検出する。なお、配信制御装置30とデータ解析装置50は、一つの装置として実装されてもよい。図8は、データ解析装置50の概略構成を示す図である。図8に示すように、データ解析装置50は、通信部51、記憶部52及び処理部53等を有する。
通信部51は、データ解析装置50が通信事業者網3と、W−CDMA、CDMA2000又はLTE等の通信方式に従った携帯電話の無線通信を行うための通信インタフェース回路を有する。通信部51は、通信事業者網3を介して配信制御装置30から受信したデータを処理部53に送る。また、通信部51は、処理部53から受け取ったデータを通信事業者網3を介して配信制御装置30に送信する。
記憶部52は、ROM、RAM等の半導体メモリ、又は、磁気記録媒体及びそのアクセス装置もしくは光記録媒体及びそのアクセス装置等を有する。記憶部52は、データ解析装置50を制御するためのコンピュータプログラム及び各種データを記憶し、処理部53との間でこれらの情報を入出力する。コンピュータプログラムは、CD−ROM、DVD−ROM等のコンピュータ読み取り可能な可搬型記録媒体から公知のセットアッププログラム等を用いて記憶部52にインストールされてもよい。
処理部53は、CPU、MPU、周辺回路等を有する。
処理部53は、通信部51を介して配信制御装置30から拡張パケットを受信し、受信した拡張パケットに含まれるデータを再構成して撮像画像(画像列)を復元する。処理部53は、復元した撮像画像から公知の画像処理技術を用いて監視対象を検知することにより、警備エリア2への監視対象の侵入等のイベントを検出する。
例えば、処理部53は、機械学習技術を用いて、監視対象を検知する。処理部53は、監視対象が写っている複数のサンプル画像と監視対象が写っていない複数のサンプル画像を用いて、監視対象が写っている画像に対して監視対象が写っていることを示す識別結果を出力し、監視対象が写っていない画像に対しては監視対象が写っていないことを示す識別結果を出力するように事前に識別器を学習させておく。処理部53は、復元した撮像画像内の所定の大きさの領域を、その位置をずらしながら切り出して識別器に入力し、その領域内に監視対象が写っているか否かを示す識別結果を得ることにより、監視対象を検知する。
または、処理部53は、パターンマッチング技術を用いて監視対象を検知してもよい。処理部53は、監視対象が写っている複数の画像のパターンを予め記憶部52に記憶しておく。処理部53は、復元した撮像画像内の所定の大きさの領域を、その位置をずらしながら切り出して、記憶部52に記憶しておいた画像のパターンの類似の程度を求め、求めた類似の程度が閾値以上であるか否かにより、監視対象を検知する。類似の程度は、例えば正規化相互相関値とすることができる。
また、処理部53は、撮像画像から監視対象を検知した場合にイベントを検出したと判定したとき、検出したイベントに対して、当該イベントが検出された拡張パケットに含まれる位置情報が示す位置の近傍領域を示す領域情報を生成する。例えば、処理部53は、その位置情報と予め設定された半径(例えば50m)とからなる円形の近傍領域の情報を生成する。
また、処理部53は、イベントを検出した場合、イベントを検出したことを通知するイベント通知パケットを通信部51を介して配信制御装置30に送信する。
イベント通知パケットは、配信制御装置アドレス、イベントID及び領域情報等を少なくとも有するパケットである。配信制御装置アドレスとして、イベントが検出された拡張パケットに含まれる配信制御装置アドレスが設定される。イベントIDは、各イベントの種類を一意に識別可能なユニークな値である。領域情報は、処理部53が検出したイベントに係る近傍領域を示す。
以下、本実施形態に係るデータ配信システム1の全体動作を、図9の全体動作シーケンス図を用いて説明する。以下に説明する全体動作シーケンスは、データ配信システム1が有する各装置の記憶部に予め記憶されているプログラムに基づいて、主に各装置の制御部により、各装置の各要素と協働して実行される。
まず、各画像送信装置10は、ネットワークカメラが取得した画像列をそれぞれ異なる品質を有する複数のデータにエンコードし、エンコードした各データに係る画像パケットをそれぞれ生成する(ステップS101)。
次に、ステップS102において、各画像送信装置10は、生成した画像パケットを通信部を介して、各画像送信装置10と通信接続されたデータ送信装置20に送信する(ステップS102)。次に、データ送信装置20の拡張パケット生成部242は、第1通信部21を介して各画像送信装置10から画像パケットを受信する(ステップS103)。
次に、拡張パケット生成部242は、受信した各画像パケットについて、拡張パケット生成用情報231に基づいて、拡張パケットを生成する拡張パケット生成処理を実行する(ステップS104)。
図10は、拡張パケット生成処理の動作の例を示すフローチャートである。なお、図10に示す拡張パケット生成処理は、画像パケットを受信する度に実行される。また、拡張パケット生成部242は、各画像送信装置10から受信する画像パケットについて、画像列形式情報を含む画像パケットを最初に受信するまでは拡張パケット生成処理を実行しない。即ち、図10に示す拡張パケット生成処理は、画像列形式情報を含む画像パケットから実行され、部分画像データとしては、基準フレームの先頭データから実行されるものとする。
まず、拡張パケット生成部242は、受信した画像パケットに画像列形式情報が含まれるか否かを判定する(ステップS301)。受信した画像パケットに画像列形式情報が含まれる場合(ステップS301のYes)、拡張パケット生成部242は、画像列形式情報に基づいて、画像パケットに含まれる画像データに係る品質(画像データが再構成データに含まれることにより達成される再構成データの品質)を特定し、拡張パケット生成用情報231を記憶(初期化)する(ステップS302)。
すなわち、ステップS302にて拡張パケット生成用情報231は、画像列形式情報が記された画像パケットに含まれる画像送信装置ID、画像列形式情報に含まれる解像度タイプ、画像列形式情報に含まれる画質タイプ、画像列形式情報に含まれるフレームレート情報から算出されるフレームレートの値で初期化される。また、拡張パケット生成用情報231のフレーム番号は初期値(0)に設定され、フレームタイプも初期値に設定される。また、フレーム番号間隔とフレームレートタイプの組として、全てのフレームレートを含む特別な値(例えば(0,0))が初期値として設定される。
ステップS301において、受信した画像パケットに画像列形式情報が含まれない場合(ステップS301のNo)、拡張パケット生成部242は、受信した画像パケットに画像形式情報が含まれるか否かを判定する(ステップS304)。受信した画像パケットに画像形式情報が含まれる場合(ステップS304のYes)、拡張パケット生成部242は、画像形式情報に基づいて、拡張パケット生成用情報231を更新する(ステップS305)。
ステップS305では、拡張パケット生成部242は、画像形式情報に含まれるフレームタイプから、基準フレームが発生するフレーム間隔(GOP)を特定し、フレーム番号間隔とフレームレートタイプとの組を求めて、対応する画像列の拡張パケット生成用情報231に設定する。ここで、対応する画像列とは、S302で特定された画像列(すなわち、拡張画像パケット生成用情報のうち、画像パケットの画像列形式情報で初期された値、つまり、画像送信装置ID、解像度タイプ、画質タイプ、フレームレートタイプ、で特定される画像列)のことをいう。また、画像形式情報は、各フレームの先頭の画像パケットに格納されるので、拡張パケット生成部242は、拡張パケット生成用情報231の対応する画像列のフレーム番号をインクリメント(1増加)する。また、拡張パケット生成部242は、拡張パケット生成用情報231の対応する画像列のフレームタイプに、画像形式情報に含まれるフレームタイプを設定する。
ステップS302において拡張パケット生成用情報231を初期化した場合、ステップS305において拡張パケット生成用情報231を更新した場合、又はステップS304において受信した画像パケットに画像形式情報が含まれない場合(ステップS304のNo)、拡張パケット生成部242は、拡張パケット生成用情報231に基づいて、拡張パケットを生成する(ステップS303)。この際、拡張パケット生成用情報231に設定されている値を用いて拡張パケットの品質情報と位置情報とが設定される。
但し、フレームレートタイプについては、受信した画像パケットに画像列形式情報が含まれる場合と、含まれない場合とで設定の方法が異なる。受信した画像パケットに画像列形式情報が含まれる場合、拡張パケットに設定されるフレームレートタイプとして、拡張パケット生成用情報231に設定されている特別な値(例えば(0,0))が設定される。
一方、受信した画像パケットに画像列形式情報が含まれない場合、拡張パケットに設定されるフレームレートタイプは、次のようにして求められる。まず、拡張パケット生成部242は、拡張パケット生成用情報231に記憶されたフレーム番号間隔の内、拡張パケット生成用情報231に記憶されたフレーム番号から1を減算した値を除算した場合に余りが0になるフレーム番号間隔を抽出する。そして、拡張パケット生成部242は、抽出した各フレーム番号間隔に対応するフレームレートタイプを品質情報のフレームレートタイプとして設定する。例えば、拡張パケット生成用情報231にフレーム番号間隔とフレームレートタイプの組として{(1, 60), (2, 30), (4, 15), (6, 10), (10, 6), (12, 5), (20, 3), (30, 2), (60, 1)}が設定されている場合、フレーム番号が2である拡張パケットについては、フレーム番号間隔として、フレーム番号2から1を減算した値である1を割った場合に余りが0となる1のみが抽出され、品質情報のフレームレートタイプとして、60が設定される。後述する処理により、この拡張パケットは、フレームレートが60である画像データを要求する端末装置40に配信されるが、フレームレートが60未満である画像データを要求する端末装置40には配信されない。
拡張パケット生成部242は、ステップS303において拡張パケットを生成した後、拡張パケット生成処理の一連のステップを終了する。
このように、画像パケットのペイロード部には、画像パケットに含まれるデータに係る品質(画像パケットに含まれるデータが再構成データに含まれることにより達成される再構成データの品質)が記載されており、拡張パケット生成部242は、画像パケットのペイロード部に記載された品質を読み出すことにより、画像パケットに含まれるデータに係る品質を特定する。そして、拡張パケット生成部242は、特定した品質を品質情報としてヘッダ部に追加した拡張パケットを生成する。
なお、拡張パケット生成部242は、画像パケットのペイロード部を解析することにより、画像パケットに含まれるデータに係る品質を特定してもよい。例えば、ペイロード部に含まれる画像データが、水平方向の解像度に対する垂直方向の解像度が4:3になるようにRGB値による各画素が配置されたRAWデータであり、各フレームの先頭にスタートデータが含まれ、各フレームの最後にストップデータが含まれる場合について説明する。拡張パケット生成部242は、一又は複数の画像パケットからスタートデータ及びストップデータを検出し、スタートデータとストップデータの間の画素数から画像の解像度を特定する。また、拡張パケット生成部242は、スタートデータが存在する間隔から画像のフレームレートを特定する。
これにより、拡張パケット生成部242は、画像パケットに含まれるデータに係る品質がペイロード部に記載されていない画像パケットについても、画像パケットに含まれるデータに係る品質を特定することができる。
次に、拡張パケット送信部243は、図9のステップS104の拡張パケット生成処理において生成された拡張パケットを第2通信部22を介して配信制御装置30に送信する(ステップS105)。次に、配信制御装置30の拡張パケット受信部332は、通信部31を介してデータ送信装置20から拡張パケットを受信する(ステップS106)。次に、拡張パケット受信部332は、受信した拡張パケットを通信部31を介してデータ解析装置50に送信する(ステップS107)。次に、データ解析装置50の処理部53は、通信部51を介して配信制御装置30から拡張パケットを受信する(ステップS108)。
次に、処理部53は、受信した拡張パケットに含まれるデータに基づいて、撮像画像を解析してイベントを検出する(ステップS109)。なお、処理部53は、受信した拡張パケットから1枚の画像をデコードできた時点で撮像画像を解析する。まず、処理部53は、受信した拡張パケットのペイロード部をデコードすることにより、ペイロード部に含まれるデータを再構成して撮像画像を復元する。処理部53は、復元した撮像画像から、公知の画像処理技術を用いて監視対象を検知する。
処理部53は、撮像画像からイベントを検出した場合、そのイベントに係る近傍領域を検出し、当該近傍領域とイベントを検出したことを通知するイベント通知パケットを通信部51を介して配信制御装置30に送信する(ステップS110)。
次に、配信制御装置30の領域情報取得部333は、通信部31を介してデータ解析装置50からイベント通知パケットを受信する(ステップS111)。次に、領域情報取得部333は、受信したイベント通知パケットに含まれる領域情報を、当該イベント通知パケットに含まれるイベントIDと関連付けて領域情報322として記憶部32に記憶する(ステップS112)。なお、領域情報取得部333は、そのイベントIDと関連付けられた領域情報322が記憶部32に既に記憶されている場合、その領域情報322を更新する。
次に、処理部33は、受信した拡張パケットに基づく配信用パケットを生成するために、配信用パケット生成処理を実行する(ステップS113)。
図11は、配信用パケット生成処理の動作の例を示すフローチャートである。なお、図11に示す配信用パケット生成処理は、拡張パケットを受信する度に実行される。
まず、制御部334は、受信した拡張パケットと、配信先情報323とに基づいて、記憶部32に記憶された品質レベル管理情報324を更新する(ステップS201)。
この際、制御部334は、受信した拡張パケットに含まれる画像送信装置IDが品質レベル管理情報324に含まれているか否かを判定する。品質レベル管理情報324に画像送信装置IDが含まれていない場合、制御部334は、品質レベル管理情報324の画像送信装置IDとして、受信した拡張パケットに含まれる画像送信装置IDを設定し、品質レベル管理情報324の配信先装置アドレスとして、配信先情報323において、その画像送信装置IDに対応付けられている全ての配信先装置アドレスを追加設定する。品質レベル管理情報324の画像送信装置ID及び配信先装置アドレスを追加設定した場合、拡張パケットに含まれる位置情報と領域情報322とに基づいて、追加設定した項目における品質レベルを設定する。一方、受信した拡張パケットに含まれる画像送信装置IDが品質レベル管理情報324に既に含まれている場合、該当する項目の品質レベルを、拡張パケットに含まれる位置情報と領域情報322とに基づいて設定する。
品質レベルを設定するにあたり、制御部334は、受信した拡張パケットに含まれる位置情報に示される位置が、領域情報322に示される近傍領域内にあるか否かに応じた品質レベルを設定する。受信した拡張パケットに含まれる位置情報に示される位置が、領域情報322に示される近傍領域内である場合、制御部334は、品質レベルを「優先レベル」に設定する。一方、受信した拡張パケットに含まれる位置情報に示される位置が、領域情報322に示される近傍領域外であるとき、品質レベルを「通常レベル」に設定する。例えば近傍領域を円形で表す場合、制御部334は、受信した拡張パケットに含まれる位置情報に示される位置と、領域情報322に示される中心位置との間の距離を算出し、算出した距離が領域情報322に示される半径以内である場合は近傍領域内、算出した距離が半径より大きい場合は近傍領域外と判定する。
本実施形態では、また、品質レベル管理情報324の品質レベルを設定するにあたり、帯域情報321に示された最大通信帯域を考慮して設定される。具体的には、配信先情報323の要求品質情報に示される品質にて各端末装置40に配信用パケットを配信した場合における、各端末装置40との間の通信帯域の総和が、帯域情報321に示された最大通信帯域を超えないように設定される。画像送信装置ID=1,2,3の3台の画像送信装置から、配信先装置アドレス=Aの端末装置40に配信用パケットを配信する例を用いて説明する。図12(a)は、画像送信装置ID=1からのデータの生成された位置が近傍領域内にあるとして、該当する項目が「優先レベル」に設定された品質レベル管理情報324を例示したものである。品質レベル定義情報325には、「優先レベル」の場合の通信帯域が40Mbps、「通常レベル」の場合の通信帯域が30Mbps、「抑制レベル」の場合の通信帯域が20Mbpsと定義され、帯域情報321には最大通信帯域として80Mbpsと設定されていた場合、画像送信装置ID=1,2,3の画像送信装置から、配信先装置アドレス=Aの端末装置40に配信用パケットを配信する場合に利用される通信帯域の総和は40+30+30=100Mbpsとなり、最大通信帯域を超えることになる。本実施形態では、このように各配信先に配信用パケットを配信した場合における各配信先との間の通信帯域の総和が、帯域情報321に示された最大通信帯域を超える場合、近傍領域外で生成されたデータを含む拡張パケットを送信する画像送信装置(画像送信装置ID=2,3)の品質レベルを「通常レベル」から「抑制レベル」に下げる(図12(b))。これにより、画像送信装置ID=1,2,3の画像送信装置から、配信先装置アドレス=Aの配信先に配信用パケットを配信する場合に利用される通信帯域の総和は40+20+20=80Mbpsとなり、最大通信帯域内に収めることが可能となる。
この場合、例えば、制御部334は、品質レベル管理情報324に記された各画像送信装置IDに対応する画像送信装置の位置を、受信した拡張パケットに含まれる位置情報に基づいて記憶しておき、品質レベル管理情報324において品質レベルが「通常レベル」に設定されている画像送信装置のうち、位置が、近傍領域から遠い画像送信装置の品質レベルを優先して「抑制レベル」に設定してもよい。これにより、制御部334は、近傍領域外で生成されたデータを含む拡張パケットのうち、近傍領域に近い位置で生成されたデータを含む拡張パケットほど、単位時間当たりのデータ量が大きくなるように、配信用パケットの配信可否を制御する。
また、制御部334は、最大通信帯域を考慮して品質レベル管理情報324を設定したにも関わらず通信帯域の合計が依然として最大通信帯域を超える場合、品質レベルが「優先レベル」である各項目の品質レベルを「通常レベル」に再設定し、品質レベルが「通常レベル」である各項目の品質レベルを「抑制レベル」に再設定してもよい。その場合、例えば、制御部334は、品質レベルが「優先レベル」に設定されている項目のうち、位置情報に示される位置が、領域情報322に示される近傍領域の中心位置から遠い項目の品質レベルを優先して「通常レベル」に設定する。これにより、制御部334は、近傍領域内で生成されたデータを含む拡張パケットのうち、近傍領域の中心位置に近い位置で生成されたデータを含む拡張パケットほど、単位時間当たりのデータ量が大きくなるように、配信制御する。
また、制御部334は、品質レベル管理情報324に記された品質レベルにおける各通信帯域の合計が最大通信帯域を超えない範囲で、品質レベルが抑制レベルである各項目の品質レベルを「通常レベル」に再設定したり、品質レベルが通常レベルである各項目の品質レベルを「優先レベル」に再設定してもよい。
次に、制御部334は、ステップS201にて更新した品質レベル管理情報324と品質レベル定義情報325とに基づいて、配信先情報323を更新する(ステップS202)。例えば、品質レベル管理情報324の品質レベルを「優先レベル」と設定した場合、品質レベル定義情報325において「優先レベル」として定義されている要求品質情報の値が、配信先情報323における対応する項目(更新した品質レベル管理情報324の画像送信装置ID及び配信先装置アドレスの組み合わせに合致する配信先情報323の項目)の要求品質情報の値として設定される。
次に、制御部334は、受信した拡張パケットのヘッダ部から画像送信装置IDを特定し、特定した画像送信装置IDが、配信先情報323に記憶されている画像送信装置IDの内の何れかに対応するか否かを判定する(ステップS203)。
特定した画像送信装置IDが、配信先情報323に記憶されている画像送信装置IDの内の何れにも対応しない場合(ステップS203のNo)、制御部334は、特に処理を実行せずに一連のステップを終了する。この場合、配信用パケットは、何れの端末装置40にも配信されない。
一方、特定した画像送信装置IDが、配信先情報323に記憶されている画像送信装置IDの内の何れかに対応する場合(ステップS203のYes)、制御部334は、配信先情報323から、特定した画像送信装置IDに対応する項目(画像送信装置ID、配信先装置アドレス、及び要求品質情報である要求解像度タイプ、要求画質タイプ、要求フレームレートタイプ)を抽出する。
次に、制御部334は、配信先情報323から抽出した配信先(配信先装置アドレス)毎に、抽出した項目の要求品質情報と、受信した拡張パケットのヘッダ部に含まれる品質情報と、の比較を行い、拡張パケットのヘッダ部に含まれる品質情報に示される品質が、要求品質情報に示される品質より高いか否かを判定する(ステップS204)。制御部334は、受信した拡張パケットに含まれる品質情報に示される品質、即ちその拡張パケットに含まれる部分画像データが配信先で再構成された場合にその部分画像データが再構成データに含まれることにより達成される再構成データの品質を特定(推定)する。本実施形態では、品質情報に含まれる解像度タイプ、画質タイプ及びフレームレートタイプが、再構成データの品質を示している。制御部334は、拡張パケットの品質情報(解像度タイプ、画質タイプ及びフレームレートタイプ)に示される品質が、当該拡張パケットの送信元の画像送信装置ID及び配信先の配信先装置アドレスに対応する要求品質情報(要求解像度タイプ、要求画質タイプ及び要求フレームレートタイプ)に示される品質より高いか否かを判定する。
制御部334は、拡張パケットの品質情報に示される何れかの種類の品質が、配信先情報323の要求品質情報に示される品質より高い場合、当該拡張パケットに係る再構成データの品質が要求品質情報に示される品質より高いと判定する。一方、制御部334は、拡張パケットの品質情報に示される全ての種類の品質が、配信先情報323の要求品質情報に示される全ての品質より低い場合、再構成データの品質が要求品質情報に示される品質より低いと判定する。
再構成データの品質が要求品質情報に示される品質より高くない場合(ステップS204のNo)、制御部334は、受信した拡張パケットに基づいて、配信用パケットを生成する(ステップS205)。
一方、受信した拡張パケットに係る再構成データの品質が配信先情報323の要求品質情報に示される品質より高い場合(ステップS204のYes)、制御部334は、配信用パケットを生成しない。
対応する全ての配信先についてステップS204及びS205の処理が完了すると、配信用パケット生成処理は終了する。
このように、制御部334は、配信用パケット生成処理を実行することにより、近傍領域内で生成されたデータを含む拡張パケットに係る再構成データの品質が、近傍領域内で生成されたデータを含む拡張パケットに係る再構成データの品質より高くなるように、配信用パケットの配信可否を制御する。
次に、図9のステップS114において、配信用パケット配信部335は、制御部334が生成した配信用パケットを、通信部31を介して、各パケットに含まれる配信先装置アドレスの端末装置40に送信する(ステップS114)。次に、各端末装置40は、通信部を介して配信制御装置30から配信用パケットを受信する(ステップS115)。次に、各端末装置40は、受信した配信用パケットのペイロード部をデコードしてデータ(画像列)を復元し、表示部に表示する(ステップS116)。これにより、データ配信システム1の全体動作シーケンスは終了する。
本発明は、上記の実施形態に限定されるものではなく、特許請求の範囲に記載した技術的思想の範囲内で、更に種々の異なる実施例で実施されてもよいものである。また、実施形態に記載した効果は、これに限定されるものではない。
上記の実施形態では、画像送信装置10が予め決められた複数通りの異なる品質によってエンコードした画像パケットを送信し、データ送信装置20が画像パケットのペイロードに示される品質(当該画像パケットに係る再構成データの品質)に基づいて拡張パケットを生成して送信し、配信制御装置30が拡張パケットの品質情報と配信先情報323とを用いて拡張画像パケット又は配信用パケットの配信を制御している。
しかしこれに限らず、画像送信装置10は、端末装置40にて複数通りの異なる品質を再構成できるよう階層符号化(スケーラブル符号化)した画像データを含む画像パケットを送信してもよい。この場合、画像送信装置10が生成する各画像列(複数フレーム画像)は、階層符号化における各階層のデータ(基本階層データ又は一つ以上の拡張階層データ)である。基本階層データは、独立して所定の品質(最低品質)を有するデータを再構成できるデータであり、拡張階層データは、基本階層データ(及び自データより低階層の拡張階層データ)に付加することにより、付加前のデータより高い品質を有するデータを再構成できるデータである。拡張パケットの品質情報(解像度情報、画質情報及びフレームレート情報)は、それぞれ拡張パケットのデータを自データより低階層のデータに付加することにより得られる再構成データの品質を示す。そして、階層構造を示すために、図2(e)に示す画像形式情報は、フレームタイプに代わり、参照画像列IDが記される。参照画像列IDは、自データより一つ低い階層の階層データの画像列IDを示し、配信先でデータを再構成する際に参照される。画像列が基本階層データである場合、参照画像列IDにはブランクが設定される。そして、本他の実施形態における配信制御装置30は、配信先情報323に示される要求品質情報より高い拡張階層データを含む拡張パケットを、端末装置40に配信しない。
また、上記の実施形態における配信制御装置30は、受信した拡張パケットに含まれる品質情報を参照して、再構成データの品質を制御することにより、近傍領域内で生成されたデータに係る再構成データの品質(再構成データの単位時間当たりのデータ量)が、近傍領域外で生成されたデータに係る再構成データの品質(再構成データの単位時間当たりのデータ量)よりも高く(大きく)なるように制御している。しかし、これに限らず、配信制御装置30は、品質情報を参照することなく、近傍領域内で生成されたデータに係る再構成データの単位時間当たりのデータ量が、近傍領域外で生成されたデータに係る再構成データの単位時間当たりのデータ量よりも大きくなるように制御してもよい。すなわち、データ送信装置20は品質情報を付与しない拡張パケットを送信し、配信制御装置30は、当該品質情報が付与されない拡張パケットに基づいて配信制御してもよい。
例えば、画像送信装置10が所定の品質(例えば単一の品質)からなる画像列を送信することが予め定まっている場合、配信制御装置30は、データ送信装置20から受信した拡張パケットの受信順番のみから、当該拡張パケットに係る再構成データの品質を把握することができる。そのため、配信制御装置30は、例えば品質レベルが「抑制レベル」とされる画像送信装置IDの拡張パケットを受信した場合、「抑制レベル」に対応する再構成データの単位時間当たりのデータ量となるよう、配信用パケットを生成するか否かを判断すればよい。或いは、画像送信装置10が送信するN個の画像パケットに、1フレーム分の画像データが記されていることが予め定まっている場合、配信制御装置30は、N個の画像パケット毎に送信可否を判断し、品質レベルに応じた配信制御を行えばよい。すなわち、近傍領域内の画像送信装置10については全ての画像パケットに基づく配信用パケットを配信し、近傍領域外の画像送信装置10についてはN個のパケットおきの画像パケットに基づく配信用パケットを配信する。
また、データ配信システム1が配信するデータは、画像データに限定されず、音声データ等の他のデータでもよい。データ配信システム1は、音声データを配信する場合、音声のサンプリングレート等を品質として使用し、配信制御装置30は、近傍領域で取得された音声の品質が、近傍領域外で取得された音声の品質より高くなるように、各端末装置40へのパケットの配信を制御する。
以上説明してきたように、本発明の一実施形態に係るデータ配信システム1では、配信制御装置30が、イベントが検出されたデータが生成された位置の近傍領域で生成されたデータを含むパケットに係る再構成データの単位時間当たりのデータ量が、近傍領域外で生成されたデータを含むパケットに係る再構成データの単位時間当たりのデータ量より高くなるように、各端末装置40へのパケットの配信可否を制御する。これにより、配信システム1は、画像送信装置10又はデータ送信装置20においてデータの品質を変更することなく、イベントに関係するデータの配信量を適切に制御することができる。したがって、配信システム1では、画像送信装置10又はデータ送信装置20において、市販の監視カメラ等の汎用的なカメラを用いて画像監視システムを構築することができる。
また、配信制御装置30は、受信した拡張パケットに含まれる位置情報と、データ解析装置50から受信した領域情報とに基づいて、データが生成された位置が近傍領域内であるか否かを判定する。これにより、画像送信装置10が移動カメラ等であり、各パケットに含まれるデータが生成された位置が動的に変化する場合であっても、配信制御装置30は、データが生成された位置が近傍領域内であるか否かを、拡張パケットの受信時に、迅速且つ正確に判定することができる。
また、データ配信システム1では、各端末装置40からどのような品質のデータが要求されているかに関わらず、配信制御装置30が、最大通信帯域を超えないようにパケットの配信を制御するため、ネットワーク内で輻輳が発生することを抑制できる。
また、配信制御装置30は、近傍領域内で生成されたデータに係るパケットを、パケット単位で取捨選択することによって、各端末装置40へ割り振るため、パケットからデータを再構成して端末装置40が必要とする品質にデータ変換する必要がなく、処理負荷を軽減させることが可能となる。
また、配信制御装置30は、データのヘッダ部のみにアクセスすればよく、ペイロード部(データ自体)にアクセスする必要がないため、配信制御装置30の管理者によるデータの閲覧を難しくすることが可能となり、セキュリティ性の向上及びプライバシーの保護を図ることが可能となる。特に、ペイロード部のデータを暗号化して送信した場合であっても、ヘッダ部のみに基づいてパケット単位で取捨選択できるため、配信制御装置30におけるデータの閲覧をより一層困難にすることができる。
1 データ配信システム、20 データ送信装置、241 位置情報取得部、243 パケット送信部、30 配信制御装置、32 記憶部、332 拡張パケット受信部、333 領域情報取得部、334 制御部

Claims (7)

  1. 複数のデータ送信装置と、前記データ送信装置から受信したパケット毎に配信可否を制御し、配信するパケットに含まれるデータにより再構成される再構成データの単位時間当たりのデータ量を制御する配信制御装置とを有するデータ配信システムであって、
    前記複数のデータ送信装置のそれぞれは、
    前記データが生成された位置を示す位置情報を取得する位置情報取得部と、
    前記データ及び当該データに係る位置情報を含むパケットを前記配信制御装置に送信するパケット送信部と、を有し、
    前記配信制御装置は、
    前記複数のデータ送信装置のそれぞれから受信したパケットに含まれるデータに基づいて検出されたイベントに対して、当該イベントが検出されたパケットに含まれる位置情報が示す位置の近傍領域を示す領域情報を取得する領域情報取得部と、
    前記受信したパケットに含まれる位置情報を参照し、前記取得した領域情報に示される近傍領域内で生成されたデータを含むパケットに係る再構成データの単位時間当たりのデータ量が、前記近傍領域外で生成されたデータを含むパケットに係る再構成データの単位時間当たりのデータ量よりも大きくなるように、前記配信可否を制御する制御部と、
    を有することを特徴とするデータ配信システム。
  2. 前記配信制御装置は、前記配信制御装置の最大通信帯域を記憶する記憶部をさらに有し、
    前記制御部は、前記パケットを配信した場合における通信帯域の総和が前記最大通信帯域を超えないように、前記配信可否を制御する、請求項1に記載のデータ配信システム。
  3. 前記データ送信装置の送信するパケットには、品質情報が含まれ、
    前記制御部は、前記品質情報を参照して、前記近傍領域内で生成されたデータを含むパケットに係る再構成データの品質が、前記近傍領域外で生成されたデータを含むパケットに係る再構成データの品質より高くなるように、前記配信可否を制御する、請求項1または請求項2に記載のデータ配信システム。
  4. 前記品質情報は、前記データ送信装置の送信するパケットの、前記データと異なるヘッダ部に含まれており、
    前記制御部は、前記ヘッダ部から前記品質情報を特定する、請求項3に記載のデータ配信システム。
  5. 前記位置情報は、前記データ送信装置の送信するパケットの、前記データと異なるヘッダ部に含まれており、
    前記制御部は、前記ヘッダ部から前記位置情報を特定する、請求項1〜請求項4の何れか一項に記載のデータ配信システム。
  6. 前記制御部は、前記近傍領域外で生成されたデータを含むパケットの内、前記近傍領域に近い位置で生成されたデータを含むパケットほど、前記単位時間当たりのデータ量が大きくなるように、前記配信可否を制御する、請求項1〜請求項5の何れか一項に記載のデータ配信システム。
  7. 複数のデータ送信装置から受信したパケット毎に配信可否を制御し、配信するパケットに含まれるデータにより再構成される再構成データの単位時間当たりのデータ量を制御する配信制御装置であって、
    前記複数のデータ送信装置のそれぞれから受信した、データ及び当該データが生成された位置を示す位置情報を含むパケットに含まれるデータに基づいて検出されたイベントに対して、当該イベントが検出されたパケットに含まれる位置情報が示す位置の近傍領域を示す領域情報を取得する領域情報取得部と、
    前記受信したパケットに含まれる位置情報を参照し、前記取得した領域情報に示される近傍領域内で生成されたデータを含むパケットに係る再構成データの単位時間当たりのデータ量が、前記近傍領域外で生成されたデータを含むパケットに係る再構成データの単位時間当たりのデータ量よりも大きくなるように、前記配信可否を制御する制御部と、
    を有することを特徴とする配信制御装置。
JP2017211063A 2017-10-31 2017-10-31 データ配信システム及び配信制御装置 Active JP6946148B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017211063A JP6946148B2 (ja) 2017-10-31 2017-10-31 データ配信システム及び配信制御装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017211063A JP6946148B2 (ja) 2017-10-31 2017-10-31 データ配信システム及び配信制御装置

Publications (2)

Publication Number Publication Date
JP2019082950A JP2019082950A (ja) 2019-05-30
JP6946148B2 true JP6946148B2 (ja) 2021-10-06

Family

ID=66669651

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017211063A Active JP6946148B2 (ja) 2017-10-31 2017-10-31 データ配信システム及び配信制御装置

Country Status (1)

Country Link
JP (1) JP6946148B2 (ja)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007329636A (ja) * 2006-06-07 2007-12-20 Tietech Co Ltd 監視システム
JP2016058994A (ja) * 2014-09-12 2016-04-21 株式会社 日立産業制御ソリューションズ 監視カメラ装置および監視カメラシステム

Also Published As

Publication number Publication date
JP2019082950A (ja) 2019-05-30

Similar Documents

Publication Publication Date Title
US10951818B2 (en) Video encoding method and apparatus, device, and storage medium
CN110381316B (zh) 一种视频传输控制方法、装置、设备及存储介质
US10869069B2 (en) Information processing device and information processing method
US10547897B2 (en) Information processing device and information processing method to communicate based on capability information
EP2868107B1 (en) System and method for encoding video content using virtual intra-frames
US8934728B2 (en) Image display system, image composing and re-encoding apparatus, image display apparatus, method of displaying image, and computer-readable storage medium having stored therein image composing and re-encoding program
US11538316B2 (en) Surveillance system and control method thereof
KR101667970B1 (ko) 서버 장치, 단말, 씬 클라이언트 시스템, 화면 송신 방법 및 프로그램
US20120314127A1 (en) Provisioning network resources responsive to video requirements of user equipment nodes
US10917604B2 (en) Captured image display device, captured image display method, and captured image display program
WO2019048733A1 (en) TRANSMISSION OF VIDEO CONTENT BASED ON FEEDBACK
US20140111611A1 (en) Method and system for encoding multi-view video content
US8780233B2 (en) Method and apparatus for maintaining a minimum pixel density across an object of interest
JP6946148B2 (ja) データ配信システム及び配信制御装置
US11010019B2 (en) Video data streaming monitoring device, method, and program, and terminal device, and video data streaming monitoring system
KR20160104988A (ko) 경찰청 영상 관제 시스템
JP6545205B2 (ja) データ配信システム及びデータ配信方法
WO2020004073A1 (ja) 画像処理装置および方法
KR20150011051A (ko) 영상 감시 시스템에서 모니터링 채널 결정 방법 및 장치
JP7037331B2 (ja) データ配信システム及び配信制御装置
JP6479062B2 (ja) データ配信システム及びデータ配信方法
KR102101507B1 (ko) 무손실 네트워크 영상 전송 방법 및 장치
JP6375902B2 (ja) 画像送信制御装置、画像送信制御方法、画像送信制御プログラム
US20240236409A9 (en) Electronic apparatus, server apparatus and control method thereof
EP3829169B1 (en) Method for intra refresh encoding of a plurality of image frames using convex and concave distribution functions

Legal Events

Date Code Title Description
A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20171124

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200915

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210824

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210915

R150 Certificate of patent or registration of utility model

Ref document number: 6946148

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250