JP2023168733A - 侵入者検知システム及びプログラム - Google Patents
侵入者検知システム及びプログラム Download PDFInfo
- Publication number
- JP2023168733A JP2023168733A JP2022080016A JP2022080016A JP2023168733A JP 2023168733 A JP2023168733 A JP 2023168733A JP 2022080016 A JP2022080016 A JP 2022080016A JP 2022080016 A JP2022080016 A JP 2022080016A JP 2023168733 A JP2023168733 A JP 2023168733A
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- small area
- determination
- intruder
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 234
- 230000002159 abnormal effect Effects 0.000 claims abstract description 60
- 230000005856 abnormality Effects 0.000 claims abstract description 32
- 238000012544 monitoring process Methods 0.000 claims description 18
- 230000004044 response Effects 0.000 claims description 5
- 238000003384 imaging method Methods 0.000 description 36
- 238000010586 diagram Methods 0.000 description 28
- 230000010365 information processing Effects 0.000 description 24
- 238000010801 machine learning Methods 0.000 description 21
- 238000004891 communication Methods 0.000 description 18
- 238000012545 processing Methods 0.000 description 18
- 238000000034 method Methods 0.000 description 12
- 230000008859 change Effects 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 241001465754 Metazoa Species 0.000 description 7
- 230000002123 temporal effect Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000011144 upstream manufacturing Methods 0.000 description 2
- 241000282898 Sus scrofa Species 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000001932 seasonal effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000007873 sieving Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】背景画像が変化する場合であっても侵入者が映り込んでいるか否か等の異常を検出する。【解決手段】侵入者検知システムは、撮像された監視動画を取得する動画取得部と、基準画像と前記監視動画に含まれる検出対象画像との差分に基づいて、画像差分を検出する差分検出部と、前記画像差分の検出結果に基づいて、前記基準画像と異なる異常状態が前記監視動画に撮像されているか否かを、前記監視動画を区分した小領域ごとに判定する判定部と、を含む前段判定部と、前記前段判定部が異常であると判定した前記小領域について、当該小領域の部分の画像と、前記小領域ごとに学習された学習済みモデルの学習結果とに基づいて、前記小領域に異常状態が撮像されているかを判定する後段判定部とを備える。【選択図】図1
Description
本発明は、侵入者検知システム及びプログラムに関する。
従来、監視カメラ等の固定された撮像装置を用いて撮像された画像を画像処理することにより、侵入者が映り込んでいるか否か等の異常状態の発生の有無を検出する技術があった。このような画像処理技術の一例として、検出対象となる画像と背景画像とを比較することにより差分を検出し、検出された差分に基づいて異常状態の発生の有無を検出する技術が知られている(例えば、特許文献1を参照)。
上述したような背景差分による検出技術を用いた場合、背景画像が変化した場合に異常が発生したと誤検出をしてしまう場合があった。特に背景差分による検出技術を屋外で撮像された画像に用いる場合、急激な雨等の天候変化や風による木の葉の揺れ等により背景画像に変化がある場合が多く、誤検出をしてしまう場合があった。すなわち従来技術による異常検出技術によれば、比較対象となる背景画像が変化する場合における検出精度に課題があった。
そこで、本発明は、背景画像が変化する場合であっても侵入者が映り込んでいるか否か等の異常状態の発生の有無を検出することが可能な侵入者検知システム及びプログラムを提供することを目的とする。
(1)本発明の一態様は、撮像された監視動画を取得する動画取得部と、基準画像と前記監視動画に含まれる検出対象画像との差分に基づいて、画像差分を検出する差分検出部と、前記画像差分の検出結果に基づいて、前記基準画像と異なる異常状態が前記監視動画に撮像されているか否かを、前記監視動画を区分した小領域ごとに判定する判定部と、を含む前段判定部と、前記前段判定部が異常であると判定した前記小領域について、当該小領域の部分の画像と、前記小領域ごとに学習された学習済みモデルの学習結果とに基づいて、前記小領域に異常状態が撮像されているかを判定する後段判定部とを備える侵入者検知システムである。
(2)本発明の一態様は、上記(1)に記載の侵入者検知システムにおいて、前記基準画像は、前記監視動画に含まれる画像であって、前記検出対象画像が撮像された時点より前の時点において撮像された画像である。
(3)本発明の一態様は、上記(1)又は(2)に記載の侵入者検知システムにおいて、前記学習済みモデルは、時間軸で互いに異なるタイミングについてそれぞれ学習された複数の学習済みモデルから構成され、撮像されたタイミングを取得するタイミング取得部を更に備え、前記後段判定部は、取得された前記タイミングに応じた前記学習済みモデルに基づいて判定する。
(4)本発明の一態様は、上記(3)に記載の侵入者検知システムにおいて、前記学習済みモデルは、季節又は時間帯に応じて異なる複数の学習済みモデルから構成される。
(5)本発明の一態様は、上記(1)から(4)のいずれかに記載の侵入者検知システムにおいて、前記後段判定部による判定結果を提示する提示部と、前記提示部が前記判定結果を提示したことに応じて、前記判定結果が正しいか否かの判断結果を受け付ける判断結果受付部と、前記提示部が提示した前記判定結果の画像と、前記判断結果受付部が受け付けた前記判断結果との組み合わせを教師情報として、前記学習済みモデルを再学習させる学習部とを更に備える。
(6)本発明の一態様は、上記(5)に記載の侵入者検知システムにおいて、前記提示部は、前記小領域それぞれについて前記後段判定部による前記判定結果を提示し、前記判断結果受付部は、前記小領域それぞれについて前記判定結果が正しいか否かの判断結果を受け付ける。
(7)本発明の一態様は、コンピュータに、撮像された監視動画を取得する動画取得ステップと、基準画像と前記監視動画に含まれる検出対象画像との差分に基づいて、画像差分を検出する差分検出ステップと、前記画像差分の検出結果に基づいて、前記基準画像と異なる異常状態が前記監視動画に撮像されているか否かを、前記監視動画を区分した小領域ごとに判定する判定ステップと、を有する前段判定ステップと、前記前段判定ステップにより異常であると判定された前記小領域について、当該小領域の部分の画像と、前記小領域ごとに学習された学習済みモデルの学習結果とに基づいて、前記小領域に異常状態が撮像されているかを判定する後段判定ステップとを実行させるプログラムである。
本発明によれば、背景画像が変化する場合であっても侵入者が映り込んでいるか否か等の異常状態の発生の有無を検出することができる。
以下、本発明の態様に係る侵入者検知システム及びプログラムについて、好適な実施の形態を掲げ、添付の図面を参照しながら詳細に説明する。なお、本発明の態様は、これらの実施の形態に限定されるものではなく、多様な変更または改良を加えたものも含まれる。つまり、以下に記載した構成要素には、当業者が容易に想定できるもの、実質的に同一のものが含まれ、以下に記載した構成要素は適宜組み合わせることが可能である。また、本発明の要旨を逸脱しない範囲で構成要素の種々の省略、置換または変更を行うことができる。また、以下の図面においては、各構成をわかりやすくするために、各構造における縮尺および数等を、実際の構造における縮尺および数等と異ならせる場合がある。
まず、本実施形態の前提となる事項について説明する。本実施形態に係る侵入者検知システムは、監視カメラ等の撮像装置により撮像された動画を解析し、侵入者が撮像されている等の異常状態の発生の有無を検知する。本実施形態における撮像装置は、壁や柱等の土地に固定された建造物に設置されることが好適であるが、この一例に限定されない。本実施形態における撮像装置は、例えば、車両や船舶、ドローン等の移動体に設置されていてもよい。また、本実施形態における侵入者とは、撮像装置が撮像する範囲に通常存在し得ない物体等である。本実施形態において侵入者とは、人物に限定されず、熊や猪等の動物、車両やドローン等の移動体等を広く含む。
[第1の実施形態]
まず、図1から図9を参照しながら、第1の実施形態について説明する。
図1は、第1の実施形態に係る侵入者検知システムの機能構成の一例を示す機能構成図である。同図を参照しながら、侵入者検知システム1の機能構成の一例について説明する。侵入者検知システム1は、侵入者検知装置10と、撮像装置20とを含む。侵入者検知システム1において、侵入者検知装置10及び撮像装置20は、1対1で対応して備えられる。換言すれば、一の侵入者検知装置10は、一の撮像装置20に対応する。侵入者検知装置10と撮像装置20とは、所定の通信方法により接続される。
まず、図1から図9を参照しながら、第1の実施形態について説明する。
図1は、第1の実施形態に係る侵入者検知システムの機能構成の一例を示す機能構成図である。同図を参照しながら、侵入者検知システム1の機能構成の一例について説明する。侵入者検知システム1は、侵入者検知装置10と、撮像装置20とを含む。侵入者検知システム1において、侵入者検知装置10及び撮像装置20は、1対1で対応して備えられる。換言すれば、一の侵入者検知装置10は、一の撮像装置20に対応する。侵入者検知装置10と撮像装置20とは、所定の通信方法により接続される。
侵入者検知装置10及び撮像装置20は、共通の筐体に備えられていてもよいし、シリアル通信等の通信方式により有線接続がされていてもよいし、所定の通信ネットワークを介して1対1で通信可能なように接続されていてもよい。所定の通信ネットワークとは、接続ブルートゥース(登録商標)(Bluetooth)等の規格による近距離無線通信であってもよい。本実施形態における近距離無線通信は、ブルートゥース(登録商標)の一例に限定されず、種々の通信方式を採用可能である。例えば、近距離無線通信とは、Wi-Fi(登録商標)、IrDA(Infrared Data Association)、TransferJet(登録商標)、ZigBee(登録商標)等であってもよい。また、所定の通信ネットワークとは、有線イーサネット等の有線ネットワーク、又はWi-FiやLTE等の無線ネットワークであってもよい。
撮像装置20は、監視動画を撮像する。撮像装置20は、例えば所定箇所に固定された固定カメラである。撮像装置20は、画角及び撮像角度が固定されていてもよいし、画角及び撮像角度が変更可能なように構成されていてもよい。以下の説明においては、撮像装置20が同一の画角及び同一の撮像角度で監視動画を撮像する場合の一例について説明する。
撮像装置20は、CCD(Charge Coupled Devices)イメージセンサを用いたCCDカメラであってもよいし、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いたCMOSカメラであってもよい。また、撮像装置20により撮像される監視動画は、カラー動画であってもよいし、モノクロ動画であってもよい。
また、撮像装置20は近赤外線を含む光を用いた赤外線カメラであってもよい。すなわち撮像装置20により撮像される監視動画は、赤外線動画であってもよい。
なお、撮像装置20により撮像される動画の種類は、時間帯により異なっていてもよい。例えば、撮像装置20は、光量が豊富な昼間はカラー動画又はモノクロ動画を撮像し、光量が減少する夜間は赤外線動画を撮像してもよい。
なお、撮像装置20により撮像される動画の種類は、時間帯により異なっていてもよい。例えば、撮像装置20は、光量が豊富な昼間はカラー動画又はモノクロ動画を撮像し、光量が減少する夜間は赤外線動画を撮像してもよい。
撮像装置20は、撮像した監視動画を含む情報を監視動画情報MIとして侵入者検知装置10に出力する。撮像装置20は、例えば時間帯により異なる動画(例えばカラー動画又は赤外線動画)を撮像する場合、時間帯に応じて撮像された監視動画を含む情報を監視動画情報MIとして侵入者検知装置10に出力する。
侵入者検知装置10は、前段判定部110と、後段判定部120とを備える。侵入者検知装置10は、バスで接続された不図示のCPU(Central Processing Unit)、ROM(Read only memory)又はRAM(Random access memory)等の記憶装置等を備え、侵入者検知プログラムを実行することによって前段判定部110と、後段判定部120とを備える装置として機能する。
なお、侵入者検知装置10の各機能の全てまたは一部は、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)又はFPGA(Field-Programmable Gate Array)等のハードウェアを用いて実現されてもよい。侵入者検知プログラムは、コンピュータ読み取り可能な記録媒体に記録されてもよい。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置である。侵入者検知装置プログラムは、電気通信回線を介して送信されてもよい。
なお、侵入者検知装置10の各機能の全てまたは一部は、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)又はFPGA(Field-Programmable Gate Array)等のハードウェアを用いて実現されてもよい。侵入者検知プログラムは、コンピュータ読み取り可能な記録媒体に記録されてもよい。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置である。侵入者検知装置プログラムは、電気通信回線を介して送信されてもよい。
侵入者検知装置10は、前段判定部110を備えることで背景差分による異常検出を行い、後段判定部120を備えることで背景差分により異常と検出された場合に機械学習アルゴリズムによる詳細な異常検出を行う。ここで、侵入者検知装置10は、監視動画に含まれる検出対象画像を複数の小領域に分割し、分割された小領域ごとに異常が存在するか否かを判定する。小領域とは、例えば検出対象画像をn等分(nは2以上の自然数)した領域であってもよい。一例として、検出対象画像を10等分する場合であって、検出対象画像の画素数が1280[px(ピクセル)]×960[px]である場合、小領域のサイズは、256[px]×480[px]であってもよい。
具体的には、前段判定部110は、分割された小領域ごとに背景差分による異常検知を行う。前段判定部110は、背景差分による異常検知が発生した小領域についての情報を、小領域情報SAIとして後段判定部120に出力する。後段判定部120は、小領域の正常状態について予め学習された機械学習モデルを備える。後段判定部120は前段判定部110から取得した小領域情報SAIに含まれる異常を有すると判定された小領域に関する情報を機械学習モデルに入力し、機械学習アルゴリズムにより、異常が存在するか否かを推論する。
前段判定部110は、背景差分による異常検知を行うため、急激な雨等の天候変化や風による木の葉の揺れ等により背景画像に変化が生じた場合であっても異常と判定し、変化があった小領域に関する情報を後段判定部120に出力する。後段判定部120は、機械学習により小領域ごとの正常時の変化(例えば、急激な雨等の天候変化や風による樹木の揺れ等の変化)について予め学習されているため、当該変化が正常時における範囲内のものであれば、異常でないと推論する。すなわち、侵入者検知装置10は、前段判定部110及び後段判定部120を備え、2段階で異常検知を行うことにより、精度よく異常検知を行うことができる。また、後段判定部120は全ての小領域について機械学習アルゴリズムを適用せず、前段判定部110により異常と判定された小領域について機械学習アルゴリズムを適用する。したがって、侵入者検知装置10の処理量は、全ての小領域について機械学習アルゴリズムを適用する場合と比較して少ない。
図2は、第1の実施形態に係る前段判定部の機能構成の一例を示す機能構成図である。同図を参照しながら前段判定部110の機能構成の一例について説明する。前段判定部110は、動画取得部111と、基準画像記憶部112と、差分検出部113と、判定部114とを備える。
動画取得部111は、撮像装置20により撮像された監視動画を含む情報を監視動画情報MIとして取得する。動画取得部111は、取得した監視動画情報MIに含まれる監視動画のうち、検出対象とする画像を検出対象画像TIとして抽出する。検出対象画像TIは、監視動画を構成する複数のフレームのうち、いずれかのフレームであってよい。例えば、動画取得部111は、所定の時間間隔で検出対象画像TIを抽出する。所定の時間間隔とは、異常検知を行うタイミングであってもよい。所定の時間間隔が短いと、動画に短期間映り込むような異常を検知することができるが、頻繁に処理を行うことになるため処理負荷が増大してしまう。所定の時間間隔が長いと、処理を行う頻度が低くなることにより処理負荷が減少する一方、動画に短期間映り込むような異常を検知することができない。したがって、動画取得部111は、検出精度と処理負荷とのトレードオフを考慮した時間間隔により、監視動画から検出対象画像TIを抽出する。動画取得部111は、抽出した検出対象画像TIを差分検出部113に出力する。
基準画像記憶部112は、基準画像RIを記憶する。基準画像RIとは、背景差分を行う際に検出対象画像TIと比較の対象となる画像である。基準画像RIとは、正常時における背景画像ということもできる。基準画像RIは、好適には、検出対象画像TIを撮像した撮像装置20により撮像された画像であることが好適である。また、基準画像RIは、動画取得部111により取得された監視動画に含まれる画像であって、検出対象画像TIが撮像された時点より前の時点において撮像された画像であることが好適である。特に、基準画像RIとは、動画取得部111により取得された監視動画に含まれる画像であって、異常が検知されなかったときの画像(正常時の画像)であることが好適である。異常が検知されなかったときの画像であるか否かは、侵入者検知装置10の判定に基づいてもよいし、人為的に選定されてもよい。また、検出対象画像TIが撮像された時点より前の時点とは、例えば1年前であってもよいし、1秒前であってもよい。また、検出対象画像TIが撮像された時点より前の時点により撮像された画像とは、数フレーム前の画像であってもよい。また、基準画像RIは、複数枚で構成されてもよい。
図3は、第1の実施形態に係る基準画像の一例を示す図である。同図を参照しながら、基準画像RIの一例について説明する。同図に示すように基準画像RIには、背景が撮像されている。同図を平行方向に見て中央より左側付近には監視対象となる敷地の内側が撮像され、右側付近には監視対象となる敷地の外側が撮像されている。また、同図の左上付近には建物が、中央上側から下側及び中央下側から左下付近には道が撮像されている。同図に示した状態において、画像内に侵入者は確認できないため、同図に異常は存在せず、正常時の画像であるということができる。
なお、図3に示した一例においては、いかなる人物や動物又は移動体等も映り込んでいないが、監視対象となる範囲によっては、基準画像RIに人物や動物又は移動体等が映り込んでいる場合も想定される。例えば、監視対象となる範囲が広く、人通りが激しいような場所の場合、基準画像RIに人物が映り込んでいてもよい。基準画像RIに人物や動物又は移動体等が映り込んでいる場合、侵入者検知装置10は、正常時に映り込む人物や動物又は移動体等が有する特徴とは異なる特徴を有する人物や動物又は移動体等を侵入者として検知する。なお、正常時に映り込む人物や動物又は移動体等が有する特徴とは、静止画から判定可能な(外見的な)特徴であってもよいし、時間情報を含む動画から判定可能な(行動的な)特徴であってもよい。
図3に戻り、差分検出部113は、動画取得部111から検出対象画像TIを取得し、基準画像記憶部112から基準画像RIを取得する。差分検出部113は、取得した検出対象画像TIと基準画像RIとを比較して、差分を検出する。すなわち、差分検出部113は、基準画像RIと監視動画に含まれる検出対象画像TIとの差分に基づいて、画像差分を検出する。差分検出部113は、検出した画像差分を差分情報DIとして判定部114に出力する。
なお、基準画像RIが、複数枚で構成されている場合は、画素ごとの値の出現頻度等から、統計的に検出対象画像TIとの差分を検出してもよい。
なお、基準画像RIが、複数枚で構成されている場合は、画素ごとの値の出現頻度等から、統計的に検出対象画像TIとの差分を検出してもよい。
判定部114は、差分検出部113から差分情報DIを取得する。判定部114は、取得した差分情報DIに含まれる画像差分の検出結果に基づいて、検出対象画像TIに基準画像RIと異なる異常状態が監視動画に撮像されているか否かを判定する。異常状態であるか否かは、差分検出部113により検出された画像差分が、予め定められた所定の閾値以上であるか否かに基づいて判定されてもよい。具体的には、異常状態であるか否かは、所定の閾値以上の差分が発生した検出画素について、隣接する検出画素同士をクラスタ化し、クラスタを構成する画素数が一定以上か否かに基づいて判定されてもよい。クラスタを構成する画素数が一定以上であるとは、移動物体の大きさが一定以上であることを示す。また、異常状態であるか否かは、フレーム間のクラスタ中心の位置変化の連続数に基づいて判定されてもよい。フレーム間のクラスタ中心の位置が変化している場合、移動物体が存在していることを示す。
ここで、判定部114は、検出対象画像TIに基準画像RIと異なる異常状態が監視動画に撮像されているか否かを、監視動画を区分した小領域ごとに判定する。
ここで、判定部114は、検出対象画像TIに基準画像RIと異なる異常状態が監視動画に撮像されているか否かを、監視動画を区分した小領域ごとに判定する。
図4は、第1の実施形態に係る検出対象画像の一例を示す図である。同図を参照しながら、判定部114による判定の一例について説明する。同図には、検出対象画像TIを10の小領域に区分した場合の一例について説明する。具体的には、検出対象画像TIを水平方向に5区分、垂直方向に2区分、合計10区分に区分した場合の一例を示す。左上の小領域から順に小領域SA1、…小領域SA10とした場合、小領域SA1から小領域SA3、小領域SA5、及び小領域SA7から小領域SA10は正常である。小領域SA4には歩行者が撮像されているため、基準画像RIとの差分が存在し、異常である(画像差分が閾値以上である)と判定される。また、小領域SA6には作業員が撮像されているため、基準画像RIとの差分が存在し、異常である(画像差分が閾値以上である)と判定される。
判定部114は、異常である(画像差分が閾値以上である)と判定した小領域に関する情報を小領域情報SAIとして後段判定部120に出力する。小領域情報SAIには、小領域の位置を特定する識別情報、小領域の座標情報、小領域における検出対象画像TI及び基準画像RIの画像情報、小領域における検出対象画像TI及び基準画像RIの差分情報等が含まれていてもよい。
ここで、例えば小領域SA5には木の葉が撮像されているため、風の強さによっては、当該小領域内に侵入者が撮像されていない場合であっても、基準画像RIとの差分が閾値以上であると判定される場合がある。このように侵入者が撮像されていないにもかかわらず差分が生じた場合であっても、判定部114は、差分が存在すると判定し、当該小領域に関する情報を小領域情報SAIとして後段判定部120に出力する。後段判定部120は、小領域情報SAIに基づき、より詳細な異常か否かの判定を行う。すなわち、前段判定部110は、後段判定部120により詳細な判定が行われる前の、前処理(ふるい分けm又はスクリーニング)を行う構成であるともいうことができる。
図5は、第1の実施形態に係る後段判定部の機能構成の一例を示す機能構成図である。同図を参照しながら、後段判定部120の機能構成の一例について説明する。後段判定部120は、小領域情報取得部121と、学習済みモデル選択部122と、学習済みモデル123と、推論結果出力部124とを備える。
後段判定部120は、小領域情報取得部121と、学習済みモデル選択部122と、学習済みモデル123と、推論結果出力部124とを備えることにより、より詳細な判定を行う。具体的には、後段判定部120は、前段判定部110から小領域情報SAIを取得する。後段判定部120は、取得した小領域情報SAIにより示される小領域、すなわち前段判定部110により異常であると判定された小領域について、異常状態が撮像されているかを判定する。後段判定部120は、小領域ごとに学習された学習済みモデルの学習結果に基づいて以上の有無を判定する。換言すれば、後段判定部120は、前段判定部110が異常であると判定した小領域について、小領域の部分の画像と、小領域ごとに学習された学習済みモデルの学習結果とに基づいて、小領域に異常状態が撮像されているかを判定する。
小領域情報取得部121は、前段判定部110から小領域情報SAIを取得する。小領域情報取得部121は、取得した小領域情報SAIに基づき、推論すべき小領域に関する情報を学習済みモデル選択部122に出力する。なお、小領域情報取得部121は、取得した小領域情報SAIを加工せずに学習済みモデル選択部122に出力してもよいし、小領域情報SAIに基づいた情報を学習済みモデル選択部122に出力してもよい。
学習済みモデル選択部122は、小領域情報取得部121から、推論すべき小領域に関する情報(例えば、小領域情報SAI)を取得する。学習済みモデル選択部122は、取得した小領域に関する情報に基づき、推論に用いるべき学習済みモデルを選択する。例えば、学習済みモデル選択部122は、小領域を識別する小領域識別情報と、学習済みモデルを識別する学習済みモデル識別情報とを突合することにより、推論に用いるべき学習済みモデルを選択してもよい。学習済みモデル選択部122は、選択した学習モデルを識別する学習済みモデル識別情報を含む情報を、学習モデル選択情報MSIとして学習済みモデル123に出力する。なお、学習モデル選択情報MSIには、小領域情報SAIに含まれる小領域に関する情報であって、少なくとも検出対象画像TIのうち、推論すべき小領域に関する画像情報が含まれる。
学習済みモデル123は、複数の学習済みモデルを含む。学習済みモデル123に含まれる複数の学習済みモデルは、それぞれいずれかの小領域に対応する。図5に示す一例では、学習済みモデル123は、第1学習済みモデル1231と、第2学習済みモデル1232と、…、第n学習済みモデル123n(nは1以上の自然数)とを含む。図4に示した一例のように、10の小領域に分割される場合のnは10であり、すなわち学習済みモデル123は、第1学習済みモデル1231から第10学習済みモデル12310で識別される10の学習済みモデルを含む。
それぞれの学習済みモデルは、前段判定部110により区分して判定されたそれぞれの小領域に対応する。それぞれの学習済みモデルは、対応する小領域に異常が存在するか否かを推論するよう予め学習されている。すなわち、それぞれの学習済みモデルは、前段判定部110により基準画像RIとの差分が存在すると判定された小領域について、当該差分が想定される範囲のものであるか侵入者によるものであるかを、機械学習アルゴリズムにより推論する。
なお、それぞれの学習済みモデルは、対応する小領域に異常が存在するか否かに加えて、又は代えて、異常である程度、正常である程度、又は異常である程度及び正常である程度の両方を推論してもよい。
なお、それぞれの学習済みモデルは、対応する小領域に異常が存在するか否かに加えて、又は代えて、異常である程度、正常である程度、又は異常である程度及び正常である程度の両方を推論してもよい。
ここで、それぞれの学習済みモデルに用いられる機械学習アルゴリズムの一例としては、AutoEncoder、SSIM AutoEncoder、VAE-M又はAE-Grad等の自己符号化器(オートエンコーダ)系のアルゴリズムであってもよい。また、機械学習アルゴリズムのその他の一例としては、AnoGAN、Efficient-GAN、GANomaly又はSkipGANomaly等の敵対的生成ネットワーク(GAN)系のアルゴリズムであってもよい。また、機械学習アルゴリズムのその他の一例としては、TripletLoss、L2-Softmax-Loss又はArcFace等のmetric Learning(距離学習)系のアルゴリズムであってもよい。また、機械学習アルゴリズムのその他の一例としては、AE+GMM、DAGMM、DeepSVDD又はDeepSAD等の、深層学習による特徴量抽出と従来の識別機の組み合わせ(ハイブリットモデル)であってもよい。
学習済みモデル123は、推論した結果を、推論結果情報IRIとして推論結果出力部124に出力する。
推論結果出力部124は、学習済みモデル123から推論結果情報IRIを取得し、取得した結果を、所定の通信方式により出力する。
推論結果出力部124は、学習済みモデル123から推論結果情報IRIを取得し、取得した結果を、所定の通信方式により出力する。
図6は、第1の実施形態に係る前段判定部により小領域ごとに判定された画像の一例を示す図である。同図を参照しながら、学習済みモデル123により推論された結果の一例について説明する。同図を参照しながら、図4において説明した一例と同様の一例について説明する。図6に示す一例では、図4に示す一例と同様に、検出対象画像TIを水平方向に5区分、垂直方向に2区分、合計10区分に区分した場合の一例を示す。小領域SA1から小領域SA10のそれぞれには、対応する小領域に異常が存在するか否か、及び当該小領域が異常又は正常である程度が示されている。
図6に示す一例では、小領域SA1の“正常”である程度は、“92%”であり、小領域SA2の“正常”である程度は、“98%”であり、小領域SA3の“正常”である程度は、“94%”であり、小領域SA4の“正常”である程度は、“70%”であり、小領域SA5の“正常”である程度は、“74%”であり、小領域SA6の“異常”である程度は、“88%”であり、小領域SA7の“正常”である程度は、“98%”であり、小領域SA8の“正常”である程度は、“98%”であり、小領域SA9の“正常”である程度は、“98%”であり、小領域SA10の“正常”である程度は、“98%”である。
図4及び図6を比較すると、小領域SA4は、図4において前段判定部110により異常と判定された後、図6において後段判定部120により正常であると判定されている。この結果は、小領域SA4に映り込んでいる対象が歩行者であることに起因する。すなわち、小領域SA4に対応する学習済みモデルは、歩行者が通行することも含めて正常状態であることを学習しているため、たとえ基準画像RIと検出対象画像TIとの差分があったとしても、後段判定部120によれば、正常であると推論される。なお、小領域SA4の“正常”である程度は、“70%”と、他の正常な小領域と比較すると度合いが低くなっている。
また、図4及び図6を比較すると、小領域SA6は、図4において前段判定部110により異常と判定された後、図6においても同様に後段判定部120により異常であると判定されている。この結果は、小領域SA4に映り込む作業員の存在が、小領域SA6に対応する学習済みモデルにおいても正常状態とは学習されていなかったことに起因する。小領域SA6の“異常”である程度は、“88%”である。
なお、本実施形態においては、正常であるか異常であるかをまず示し、そのうえで、正常である場合、正常である度合いを0%から100%までの百分率で示し、異常である場合、異常である度合いを0%から100%までの百分率で示す。
なお、本実施形態においては、正常であるか異常であるかをまず示し、そのうえで、正常である場合、正常である度合いを0%から100%までの百分率で示し、異常である場合、異常である度合いを0%から100%までの百分率で示す。
また、図6において正常又は異常である程度をみてみると、小領域SA5における正常である程度が“74%”と低い。これは、小領域SA5には木の葉が映り込んでいることに起因する。木の葉は風により揺らぐため、基準画像RIと検出対象画像TIとの差分が生じる。また、木の葉の揺らぎ方はそのときに応じて異なり、学習時における揺らぎ方と推論時における揺らぎ方は完全に同一ではない。したがって、小領域SA5に対応する学習済みモデルが木の葉の揺らぎを正常の範囲と学習している場合であっても、正常である程度としては、他の正常である小領域と比較して低くなる。
図7は、第1の実施形態に係る侵入者検知システムの動作の一例を示すフローチャートである。同図を参照しながら、侵入者検知システム1の一連の動作の一例について説明する。
(ステップS110)まず、撮像装置20により監視対象となる範囲が撮像された監視動画を取得する。
(ステップS120)次に、差分検出部113により、監視動画に含まれる検出対象画像TIと基準画像RIとの差分を検出する。判定部114は、差分検出部113により検出された差分に基づき、異常状態が撮像されているか否かを判定する。判定部114は、異常状態が撮像されているか否かを、小領域ごとに判定する。
(ステップS110)まず、撮像装置20により監視対象となる範囲が撮像された監視動画を取得する。
(ステップS120)次に、差分検出部113により、監視動画に含まれる検出対象画像TIと基準画像RIとの差分を検出する。判定部114は、差分検出部113により検出された差分に基づき、異常状態が撮像されているか否かを判定する。判定部114は、異常状態が撮像されているか否かを、小領域ごとに判定する。
(ステップS130)次に、前段判定部110は、異常状態を含む小領域が存在する場合(すなわちステップS130;YES)、当該小領域に関する情報を、小領域情報SAIとして後段判定部120に出力し、処理をステップS140に進める。前段判定部110は、ステップS110により取得された動画に含まれる検出対象画像TIのいずれについても異常状態を含む小領域が存在しない場合(すなわちステップS130;NO)、再度動画を取得する。すなわち、処理をステップS110に戻す。
(ステップS140)次に、後段判定部120は、前段判定部110により異常状態を含むと判定された小領域について、異常が存在するか否かを機械学習アルゴリズムにより判定する。後段判定部120は、小領域ごとに対応する学習済みモデルを選択し、選択された学習済みモデルを用いて推論を行う。
(ステップS150)最後に、後段判定部120は、推論した判定結果を出力する。
(ステップS150)最後に、後段判定部120は、推論した判定結果を出力する。
なお、上述したステップS110からステップS130を含む工程をステップS10と記載する。ステップS10は、前段判定部110により行われる工程である。また、ステップS140及びステップS150を含む工程を、ステップS20と記載する。ステップS20は、後段判定部120により行われる工程である。
図8は、第1の実施形態に係る機械学習モデルを学習させる学習段階について説明するための図である。同図を参照しながら、学習済みモデル123に含まれる複数の機械学習モデルの学習段階における一例について説明する。同図に示す一例において、学習済みモデル123は、第1学習済みモデル1231と、第2学習済みモデル1232と、…、第n学習済みモデル123nとを含む。学習済みモデル123に含まれるそれぞれの学習モデルを区別しない場合、第n学習済みモデル123nと記載する場合がある。
学習済みモデル123は、教師データTDを用いた教師有り学習により学習される。教師データTDには、対応する小領域ごとの正常画像が用いられる。なお、学習済みモデル123は、動画に基づいて学習されてもよいが、以下に示す一例では静止画に基づいて学習される場合について説明する。
教師データTDは、第n学習済みモデル123nごとに用意される。具体的には、第1学習済みモデル1231は、第1小領域正常画像を第1教師データTD1として学習される。第2学習済みモデル1232は、第2小領域正常画像を第2教師データTD2として学習される。第n学習済みモデル123nは、第n小領域正常画像を第n教師データTDnとして学習される。
教師データTDは、第n学習済みモデル123nごとに用意される。具体的には、第1学習済みモデル1231は、第1小領域正常画像を第1教師データTD1として学習される。第2学習済みモデル1232は、第2小領域正常画像を第2教師データTD2として学習される。第n学習済みモデル123nは、第n小領域正常画像を第n教師データTDnとして学習される。
ここで、学習済みモデル123は、撮像装置20に応じて用意される。すなわち、学習済みモデル123は、撮像装置20が所定の位置(例えば壁や柱等)に設置された後、当該設置された位置から撮像された画像を教師データTDとして学習される。学習に用いられる教師データTDは、侵入者検知システム1により自動的に選定されてもよいし、管理者により異常状態が存在しないことが明らかにされた画像を用いてもよい。学習済みモデル123は、撮像装置20により撮像された動画に基づいて、所定のタイミングで追加学習を行ってもよい。
図9は、第1の実施形態に係る侵入者検知システムの機能構成の変形例を示す機能構成図である。同図を参照しながら、侵入者検知システム1の変形例である侵入者検知システム1Aについて説明する。侵入者検知システム1Aは、侵入者検知装置10に代えて侵入者検知装置10Aを備える点において侵入者検知システム1とは異なる。侵入者検知装置10Aは、後段判定部120を有しない点において侵入者検知装置10とは異なる。侵入者検知システム1Aの説明において、侵入者検知システム1と同様の構成については同様の符号を付すことにより説明を省略する場合がある。
侵入者検知装置10Aは、筐体内に後段判定部120を備えない代わりに、所定の通信ネットワークNWを介して後段判定部120Aと接続される。後段判定部120Aは、後段判定部120と同等の機能を有する。所定の通信ネットワークNWとは、有線イーサネット等の有線ネットワーク、又はWi-FiやLTE等の無線ネットワークであってもよい。
ここで、後段判定部120Aは機械学習による処理を行うため、前段判定部110と比較して処理量が多い。したがって、侵入者検知システム1Aによれば、後段判定部120Aを侵入者検知装置10Aの筐体外に備えることにより、侵入者検知装置10Aの大きさを小さくすることができる。また、侵入者検知システム1Aによれば、後段判定部120Aを侵入者検知装置10Aの筐体外に備えることにより、侵入者検知装置10Aの処理量を減らすことができる。侵入者検知装置10Aは、処理量を減らすことができるため、消費電力を減らすことができる。
ここで、後段判定部120Aは機械学習による処理を行うため、前段判定部110と比較して処理量が多い。したがって、侵入者検知システム1Aによれば、後段判定部120Aを侵入者検知装置10Aの筐体外に備えることにより、侵入者検知装置10Aの大きさを小さくすることができる。また、侵入者検知システム1Aによれば、後段判定部120Aを侵入者検知装置10Aの筐体外に備えることにより、侵入者検知装置10Aの処理量を減らすことができる。侵入者検知装置10Aは、処理量を減らすことができるため、消費電力を減らすことができる。
なお、侵入者検知システム1Aは、複数の侵入者検知装置10Aを備えていてもよい。侵入者検知システム1Aが複数の侵入者検知装置10Aを備える場合、それぞれの侵入者検知装置10Aは、所定の通信ネットワークNWを介してそれぞれ対応する後段判定部120Aに接続される。それぞれ対応する後段判定部120Aは、例えば管理センターが備えるサーバ装置や、クラウド上に備えられていてもよい。
[第1の実施形態のまとめ]
以上説明したように、本実施形態に係る侵入者検知システム1は、前段判定部110を備えることにより小領域に区分して背景差分により異常状態が撮像されているか否かを判定し、後段判定部120を備えることにより異常状態が撮像されていると判定された小領域ごとに機械学習により、より詳細な異常検知を行う。具体的には、前段判定部110は、動画取得部111を備えることにより撮像された監視動画を取得し、差分検出部113を備えることにより基準画像RIと監視動画に含まれる検出対象画像TIとの差分に基づいて、画像差分を検出し、判定部114を備えることにより画像差分の検出結果に基づいて、基準画像RIと異なる異常状態が監視動画に撮像されているか否かを小領域ごとに判定する。また、後段判定部120は、前段判定部110が異常であると判定した小領域について、当該小領域の部分の画像と、小領域ごとに学習された学習済みモデル123の学習結果とに基づいて、小領域に異常状態が撮像されているかを判定する。したがって、本実施形態によれば、背景差分により異常状態が検知された場合であっても、機械学習により詳細な異常検知が行われるため、背景画像が変化する場合であっても侵入者が映り込んでいるか否か等の異常を検出することができる。また、侵入者検知システム1によれば、小領域ごとに区分して処理を行うため、前段判定部110により異常状態が検出されなかった小領域については機械学習による推論を行わない。したがって、侵入者検知システム1によれば、システム全体の処理速度を向上させることができる。よって、侵入者検知システム1によれば、システム全体の処理速度を向上させることができるため、監視カメラ等のリアルタイム性が求められるアプリケーションにおいても、リアルタイム処理を行うことができる。
以上説明したように、本実施形態に係る侵入者検知システム1は、前段判定部110を備えることにより小領域に区分して背景差分により異常状態が撮像されているか否かを判定し、後段判定部120を備えることにより異常状態が撮像されていると判定された小領域ごとに機械学習により、より詳細な異常検知を行う。具体的には、前段判定部110は、動画取得部111を備えることにより撮像された監視動画を取得し、差分検出部113を備えることにより基準画像RIと監視動画に含まれる検出対象画像TIとの差分に基づいて、画像差分を検出し、判定部114を備えることにより画像差分の検出結果に基づいて、基準画像RIと異なる異常状態が監視動画に撮像されているか否かを小領域ごとに判定する。また、後段判定部120は、前段判定部110が異常であると判定した小領域について、当該小領域の部分の画像と、小領域ごとに学習された学習済みモデル123の学習結果とに基づいて、小領域に異常状態が撮像されているかを判定する。したがって、本実施形態によれば、背景差分により異常状態が検知された場合であっても、機械学習により詳細な異常検知が行われるため、背景画像が変化する場合であっても侵入者が映り込んでいるか否か等の異常を検出することができる。また、侵入者検知システム1によれば、小領域ごとに区分して処理を行うため、前段判定部110により異常状態が検出されなかった小領域については機械学習による推論を行わない。したがって、侵入者検知システム1によれば、システム全体の処理速度を向上させることができる。よって、侵入者検知システム1によれば、システム全体の処理速度を向上させることができるため、監視カメラ等のリアルタイム性が求められるアプリケーションにおいても、リアルタイム処理を行うことができる。
また、上述した実施形態に係る侵入者検知システム1によれば、基準画像RIは、撮像装置20により撮像された監視動画に含まれる画像であって、検出対象画像TIが撮像された時点より前の時点において撮像された画像である。すなわち、学習済みモデル123は、検出対象画像TIを撮像した撮像装置20により撮像された基準画像RIに基づいて学習される。したがって、侵入者検知システム1によれば、精度よく侵入者検知を行うことができる。また、撮像装置20は容易に教師データTDを撮像することができるため、容易に学習済みモデル123を学習させることができる。
[第2の実施形態]
次に、図10及び図11を参照しながら、第2の実施形態について説明する。まず、第2の実施形態が解決しようとする課題について説明する。本実施形態の前提として、侵入者検知システムの監視対象となる範囲における正常画像は、常に一定ではなく時間に応じて変化する場合がある。例えば昼間と夜間とでは明るさが異なる場合があり、正常状態において映り込む対象物が異なる場合もある。また、監視対象となる範囲に映り込む樹木等の自然物は、季節に応じて色彩や形状等が変化する場合がある。第1の実施形態においては、正常時における木の葉の揺れや通行人の往来等の時間的変化に対応した。第2の実施形態においては、1日のうちの時間的変化や、季節に応じた時間的変化等、背景画像の長時間にわたる時間的変化に対応するものである。
次に、図10及び図11を参照しながら、第2の実施形態について説明する。まず、第2の実施形態が解決しようとする課題について説明する。本実施形態の前提として、侵入者検知システムの監視対象となる範囲における正常画像は、常に一定ではなく時間に応じて変化する場合がある。例えば昼間と夜間とでは明るさが異なる場合があり、正常状態において映り込む対象物が異なる場合もある。また、監視対象となる範囲に映り込む樹木等の自然物は、季節に応じて色彩や形状等が変化する場合がある。第1の実施形態においては、正常時における木の葉の揺れや通行人の往来等の時間的変化に対応した。第2の実施形態においては、1日のうちの時間的変化や、季節に応じた時間的変化等、背景画像の長時間にわたる時間的変化に対応するものである。
図10は、第2の実施形態に係る侵入者検知システムの機能構成の一例を示す機能構成図である。同図を参照しながら、侵入者検知システム1Bの機能構成について説明する。侵入者検知システム1Bは、侵入者検知装置10に代えて侵入者検知装置10Bを備える点において侵入者検知システム1とは異なる。侵入者検知装置10Bは、後段判定部120に代えて後段判定部120Bを備え、更にタイミング取得部130を備える点において侵入者検知装置10とは異なる。侵入者検知システム1Bの説明において、侵入者検知システム1と同様の構成については同様の符号を付すことにより説明を省略する場合がある。
タイミング取得部130は、検出対象画像TIが撮像されたタイミングを取得する。タイミング取得部130は、例えば監視動画が撮像されたタイミングを撮像装置20から取得してもよいし、監視動画に含まれる検出対象画像TIが抽出されたタイミングを前段判定部110から取得してもよい。また、タイミング取得部130は、現在の日時に関する情報を取得する。タイミング取得部130は、例えば不図示のRTC(リアルタイムクロック)又は現在時刻を計時する時計から、現在の日時に関する情報を取得してもよい。
タイミング取得部130は、取得したタイミングに関する情報をタイミング情報TMIとして後段判定部120Bに出力する。
タイミング取得部130は、取得したタイミングに関する情報をタイミング情報TMIとして後段判定部120Bに出力する。
後段判定部120Bは、前段判定部110から小領域情報SAIを取得し、タイミング取得部130からタイミング情報TMIを取得する。後段判定部120Bは、取得したタイミング情報TMIに基づき、小領域情報SAIにより特定される小領域に異常状態が撮像されているか否かを判定する。後段判定部120Bは、複数の異なるタイミングに応じて学習された複数の学習済みモデルを備え、タイミング取得部130により取得されたタイミングに応じた学習済みモデルを選択し、推論を行う。すなわち、第2の実施形態に係る後段判定部120Bは、タイミング取得部130により取得されたタイミングに応じた学習済みモデルに基づいた判定を行う。
図11は、第2の実施形態に係る後段判定部の機能構成の一例を示す機能構成図である。同図を参照しながら、後段判定部120Bの機能構成の一例について説明する。後段判定部120Bは、学習済みモデル選択部122に代えて学習済みモデル選択部122Bを備え、学習済みモデル123に代えて学習済みモデル123Bを備える点において、後段判定部120とは異なる。後段判定部120Bの説明において後段判定部120と同様の構成については同様の符号を付すことにより説明を省略する場合がある。
学習済みモデル123Bは、複数の学習済みモデルを含む。学習済みモデル123に含まれる複数の学習済みモデルは、それぞれ小領域に対応する。図11に示す一例では、学習済みモデル123は、第1学習済みモデル1231と、第2学習済みモデル1232と、…、第n学習済みモデル123n(nは1以上の自然数)とを含む。また、第1学習済みモデル1231から第n学習済みモデル123nは、それぞれ時間軸で互いに異なるタイミングについてそれぞれ学習された複数の学習済みモデルを含む。図11に示す一例では、第1学習済みモデル1231は、第1タイミング学習済みモデル1231-1と、第2タイミング学習済みモデル1231-2と、…、第mタイミング学習済みモデル1231-m(mは1以上の自然数)とを含む。また、第2学習済みモデル1232は、第1タイミング学習済みモデル1232-1と、第2タイミング学習済みモデル1232-2と、…、第mタイミング学習済みモデル1232-mとを含む。また、第n学習済みモデル123nは、第1タイミング学習済みモデル123n-1と、第2タイミング学習済みモデル123n-2と、…、第mタイミング学習済みモデル123n-mとを含む。
第1学習済みモデル1231から第n学習済みモデル123nにそれぞれ含まれる学習済みモデルは、時間軸で互いに異なるタイミングについてそれぞれ学習される。すなわち学習済みモデル123Bは、時間軸で互いに異なるタイミングについてそれぞれ学習された複数の学習済みモデルから構成される。
時間軸で互いに異なるタイミングの一例としては、季節又は時間帯に応じて異なるタイミングであってもよい。すなわち学習済みモデル123Bは、季節又は時間帯に応じて異なる複数の学習済みモデルから構成されるともいうことができる。
なお、図11に示す一例では、複数の学習済みモデルが階層構造を有する場合の一例について説明したが、複数の学習済みモデルは、階層構造を有する場合の一例に限定されず、それぞれ別個独立に存在していてもよい。
時間軸で互いに異なるタイミングの一例としては、季節又は時間帯に応じて異なるタイミングであってもよい。すなわち学習済みモデル123Bは、季節又は時間帯に応じて異なる複数の学習済みモデルから構成されるともいうことができる。
なお、図11に示す一例では、複数の学習済みモデルが階層構造を有する場合の一例について説明したが、複数の学習済みモデルは、階層構造を有する場合の一例に限定されず、それぞれ別個独立に存在していてもよい。
学習済みモデル選択部122Bは、小領域情報取得部121から、推論すべき小領域に関する情報(例えば、小領域情報SAI)を取得する。また、学習済みモデル選択部122Bは、推論すべき小領域が含まれる検出対象画像TIが撮像されたタイミングを示す情報が含まれるタイミング情報TMIを、タイミング取得部130から取得する。学習済みモデル選択部122Bは、取得した小領域に関する情報と、推論すべき小領域が含まれる検出対象画像TIが撮像されたタイミングを示す情報とに基づき、推論に用いるべき学習済みモデルを選択する。例えば、学習済みモデル選択部122Bは、小領域を識別する小領域識別情報と、検出対象画像TIが撮像されたタイミングに応じた時間帯を識別する時間帯識別情報と、学習済みモデルを識別する学習済みモデル識別情報とを突合することにより、推論に用いるべき学習済みモデルを選択してもよい。学習済みモデル選択部122Bは、選択した学習モデルを識別する情報を含む情報を、学習モデル選択情報MSIとして学習済みモデル123Bに出力する。学習モデル選択情報MSIには、小領域情報SAIに含まれる小領域に関する情報であって、少なくとも検出対象画像TIのうち、推論すべき小領域に関する画像情報が含まれていてもよい。
[第2の実施形態のまとめ]
以上説明したように、本実施形態に係る侵入者検知システム1Bにおいて、学習済みモデル123Bは、時間軸で互いに異なるタイミングについてそれぞれ学習された複数の学習済みモデルから構成され、タイミング取得部130を備えることにより検出対象画像TIが撮像されたタイミングを取得し、後段判定部120Bは、取得されたタイミングに応じた学習済みモデルに基づいて判定を行う。したがって、本実施形態によれば、侵入者検知システム1Bは、時間的変化があった場合であっても、侵入者等の異常状態以外は、正常状態であると判定することができる。すなわち本実施形態によれば、侵入者検知システム1Bは、誤検知することなく、精度よく侵入者検知を行うことができる。
以上説明したように、本実施形態に係る侵入者検知システム1Bにおいて、学習済みモデル123Bは、時間軸で互いに異なるタイミングについてそれぞれ学習された複数の学習済みモデルから構成され、タイミング取得部130を備えることにより検出対象画像TIが撮像されたタイミングを取得し、後段判定部120Bは、取得されたタイミングに応じた学習済みモデルに基づいて判定を行う。したがって、本実施形態によれば、侵入者検知システム1Bは、時間的変化があった場合であっても、侵入者等の異常状態以外は、正常状態であると判定することができる。すなわち本実施形態によれば、侵入者検知システム1Bは、誤検知することなく、精度よく侵入者検知を行うことができる。
また、上述した実施形態に係る侵入者検知システム1Bによれば、学習済みモデル123Bは、季節又は時間帯に応じて異なる複数の学習済みモデルから構成される。したがって、本実施形態によれば、侵入者検知システム1Bは、1日のうちの時間的変化や、季節の時間的変化等、背景画像の長時間にわたる時間的変化があった場合であっても、侵入者等の異常状態とは異なる正常状態における変化は、正常状態の範囲内であると判定することができる。すなわち本実施形態によれば、侵入者検知システム1Bは、誤検知することなく、精度よく侵入者検知を行うことができる。
[第3の実施形態]
次に、図12から図15を参照しながら、第3の実施形態について説明する。まず、第3の実施形態の概要について説明する。第3の実施形態においては、侵入者検知装置10Cによる判定結果をユーザUが確認し、ユーザUにより確認された結果を入力として学習済みモデルを再学習させることにより、より精度よく学習及び推論を行おうとするものである。
次に、図12から図15を参照しながら、第3の実施形態について説明する。まず、第3の実施形態の概要について説明する。第3の実施形態においては、侵入者検知装置10Cによる判定結果をユーザUが確認し、ユーザUにより確認された結果を入力として学習済みモデルを再学習させることにより、より精度よく学習及び推論を行おうとするものである。
図12は、第3の実施形態に係る侵入者検知システムの概要について説明するための図である。同図を参照しながら、侵入者検知システム1Cについて説明する。侵入者検知システム1Cは、侵入者検知装置10に代えて侵入者検知装置10Cを備え、更に情報処理端末装置30を備える点において侵入者検知システム1とは異なる。侵入者検知システム1Cの説明において、侵入者検知システム1と同様の構成については同様の符号を付すことにより説明を省略する場合がある。
情報処理端末装置30は、ユーザUにより操作される端末である。情報処理端末装置30は、例えば、スマートフォン、タブレット端末又はノートパソコン等であってもよい。ユーザUとは、例えば侵入者検知システム1Cを提供する提供者、又は侵入者検知システム1Cを管理する管理者等であってもよい。情報処理端末装置30は、不図示のキーボード、タッチパネル又はマイク等の入力装置を備え、ユーザUからの操作を受け付ける。また、情報処理端末装置30は、不図示の液晶ディスプレイ等の表示部を備え、ユーザUに所定の情報を表示する。ユーザUは、表示部に表示された情報に基づき、入力装置に対して所定の操作を行うことにより、情報処理端末装置30に情報を入力する。
侵入者検知装置10Cは、侵入者検知をした結果を推論結果情報IRIとして情報処理端末装置30に出力する。情報処理端末装置30は、推論結果情報IRIを取得する。情報処理端末装置30は、取得した推論結果情報IRIに基づき、侵入者検知がされた結果をユーザUに提示する。ユーザUは提示された結果を視覚的に確認し、提示された結果が正しいか否かを情報処理端末装置30に対して入力する。情報処理端末装置30は、ユーザUから入力された情報に基づいた再学習を行う。
図13は、第3の実施形態に係る侵入者検知システムの機能構成の一例を示す機能構成図である。同図を参照しながら、侵入者検知システム1Cの機能構成の一例について説明する。まず、情報処理端末装置30の機能構成について説明する。情報処理端末装置30は、表示部31と、操作受付部32と、制御部33とを備える。
表示部31は、制御部33の制御に応じて各種情報を表示する。表示部31は、制御部33から表示情報DPIを取得し、取得した表示情報DPIに応じた情報を表示する。表示部31は、例えば液晶ディスプレイ、有機EL(Electroluminescence)ディスプレイ等であってもよい。
操作受付部32は、ユーザUからの入力操作を受け付ける。操作受付部32は、例えば不図示のキーボード、タッチパネル又はマイク等の入力装置をユーザUが操作することに応じて、ユーザUからの入力操作を受け付ける。操作受付部32は、ユーザUから取得した操作に関する情報を、操作情報OIとして制御部33に出力する。
制御部33は、不図示のCPU、ROM又はRAM等の記憶装置等を含み、情報処理端末装置プログラムを実行することにより制御部33として機能する。制御部33は、侵入者検知装置10Cから表示情報DPIを取得し、取得した表示情報DPIに基づき、表示部31に情報を表示させる。また、制御部33は、操作受付部32から操作情報OIを取得し、取得した操作情報OIを侵入者検知装置10Cに出力する。
操作受付部32は、ユーザUからの入力操作を受け付ける。操作受付部32は、例えば不図示のキーボード、タッチパネル又はマイク等の入力装置をユーザUが操作することに応じて、ユーザUからの入力操作を受け付ける。操作受付部32は、ユーザUから取得した操作に関する情報を、操作情報OIとして制御部33に出力する。
制御部33は、不図示のCPU、ROM又はRAM等の記憶装置等を含み、情報処理端末装置プログラムを実行することにより制御部33として機能する。制御部33は、侵入者検知装置10Cから表示情報DPIを取得し、取得した表示情報DPIに基づき、表示部31に情報を表示させる。また、制御部33は、操作受付部32から操作情報OIを取得し、取得した操作情報OIを侵入者検知装置10Cに出力する。
次に、侵入者検知装置10Cが備える各構成について説明する。侵入者検知装置10Cは、提示部150と、判断結果受付部160と、学習部170とを更に備える。
提示部150は、後段判定部120から推論結果情報IRIを取得し、取得した推論結果情報IRIに基づいて、表示情報DPIを生成する。提示部150は、生成した表示情報DPIを情報処理端末装置30に出力することにより、後段判定部120による判定結果を提示する。
表示情報DPIとは、情報処理端末装置30が備える表示部31に表示させるための情報である。表示部31に表示させる表示画面の画面構成の一例については後述する。
提示部150は、後段判定部120から推論結果情報IRIを取得し、取得した推論結果情報IRIに基づいて、表示情報DPIを生成する。提示部150は、生成した表示情報DPIを情報処理端末装置30に出力することにより、後段判定部120による判定結果を提示する。
表示情報DPIとは、情報処理端末装置30が備える表示部31に表示させるための情報である。表示部31に表示させる表示画面の画面構成の一例については後述する。
判断結果受付部160は、情報処理端末装置30から操作情報OIを取得する。判断結果受付部160は、取得した操作情報OIに基づいて、学習情報LIを生成する。学習情報LIとは、学習済みモデル123を再学習させるための情報である。判断結果受付部160は、学習情報LIを生成するため、後段判定部120から推論結果情報IRIを、又は提示部150から表示情報DPIを取得してもよい。学習情報LIとは、すなわちユーザUにより確認された正しい正解データを含む教師データTDであるともいうことができる。また、判断結果受付部160は、提示部150が判定結果を提示したことに応じて、判定結果が正しいか否かの判断結果を受け付けるともいうことができる。
学習部170は、判断結果受付部160から学習情報LIを取得する。学習部170は、取得した学習情報LIに基づき再学習をする。ここで、再学習のために用いられる教師データTDは、提示部150が提示した判定結果の画像と、判断結果受付部160が受け付けた判断結果との組み合わせであるともいうことができる。すなわち学習部170は、提示部150が提示した判定結果の画像と、判断結果受付部160が受け付けた判断結果との組み合わせを教師情報TDとして、学習済みモデル123を再学習させる。
次に図14及び図15を参照しながら表示部31が表示する表示画面の画面構成の一例について説明する。ユーザUにより行われる正しいか否かの判定方法としては、複数の小領域についてユーザUが検出対象画像TIを1つの単位として判定する場合と、複数の小領域それぞれについてユーザUが判定する場合とが考えられる。
図14は、第3の実施形態に係る情報処理端末装置が表示する表示画面の画面構成の一例を示す図である。同図を参照しながら、情報処理端末装置30が表示する表示画面の一例であって、複数の小領域についてユーザUが検出対象画像TIを1つの単位として判定する場合の一例について説明する。
図14は、第3の実施形態に係る情報処理端末装置が表示する表示画面の画面構成の一例を示す図である。同図を参照しながら、情報処理端末装置30が表示する表示画面の一例であって、複数の小領域についてユーザUが検出対象画像TIを1つの単位として判定する場合の一例について説明する。
表示画面41は、画面構成として符号411と符号412とを有する。符号411には、侵入者検知装置10Cにより判定された結果が表示される。符号411を見て明らかなように、符号411には、検出対象画像TIが小領域に分割され、分割された小領域ごとに正常又は異常であるかの判定結果が示されている。ユーザUは、当該出対象画像TIを1つの単位として、侵入者検知装置10Cによる判定結果が正しいか否かを判断する。符号411は、表示部31の一例であるともいうことができる。
符号412は、画面構成として符号4121と、符号4122とを備える。符号4121及び符号4122は、いずれもボタンである。当該ボタンは、ユーザUがマウスやキーボード等の入力装置を操作することにより、選択されることができる。また、当該ボタンは、ユーザUがタッチパネルをタップする操作により、選択されることができる。符号4121及び符号4122は、いずれか一方が排他的に選択される。
ユーザUは、侵入者検知装置10Cの判定が正しいと判断した場合、符号4121を選択する。また、ユーザUは、侵入者検知装置10Cの判定が誤りと判断した場合、符号4122を選択する。符号412は、操作受付部32の一例であるともいうことができる。
ユーザUは、侵入者検知装置10Cの判定が正しいと判断した場合、符号4121を選択する。また、ユーザUは、侵入者検知装置10Cの判定が誤りと判断した場合、符号4122を選択する。符号412は、操作受付部32の一例であるともいうことができる。
図15は、第3の実施形態に係る情報処理端末装置が表示する表示画面の画面構成の変形例を示す図である。同図を参照しながら、情報処理端末装置30が表示する表示画面の一例であって、複数の小領域それぞれについてユーザUが判定する場合の一例について説明する。複数の小領域それぞれについてユーザUが判定する場合の一例においては、操作受付部32が表示部31内の領域に存在するともいうことができる。
表示画面42は、画面構成として符号421を有する。符号421には、侵入者検知装置10Cにより判定された結果が表示される。符号421を見て明らかなように、符号421には、検出対象画像TIが小領域に分割され、分割された小領域ごとに正常又は異常であるかの判定結果が示されている。
表示画面42は、分割された小領域ごとに画面構成として符号422を有する。ユーザUは、複数の小領域それぞれについて、侵入者検知装置10Cによる判定結果が正しいか否かを判断する。
表示画面42は、分割された小領域ごとに画面構成として符号422を有する。ユーザUは、複数の小領域それぞれについて、侵入者検知装置10Cによる判定結果が正しいか否かを判断する。
具体的には、符号421は、小領域SA1に対応する符号422-1と、…、小領域SA10に対応する符号422-10とを備える。符号422-1はボタンとして符号4221-1と、符号4222-1とを備え、…、符号422-10はボタンとして符号4221-10と、符号4222-10とを備える。
ユーザUは、小領域SA1について、侵入者検知装置10Cの判定が正しいと判断した場合、符号4221-1を選択する。また、ユーザUは、小領域SA1について侵入者検知装置10Cの判定が誤りと判断した場合、符号4222-1を選択する。…また、ユーザUは、小領域SA10について、侵入者検知装置10Cの判定が正しいと判断した場合、符号4221-10を選択する。また、ユーザUは、小領域SA10について侵入者検知装置10Cの判定が誤りと判断した場合、符号4222-10を選択する。
ユーザUは、小領域SA1について、侵入者検知装置10Cの判定が正しいと判断した場合、符号4221-1を選択する。また、ユーザUは、小領域SA1について侵入者検知装置10Cの判定が誤りと判断した場合、符号4222-1を選択する。…また、ユーザUは、小領域SA10について、侵入者検知装置10Cの判定が正しいと判断した場合、符号4221-10を選択する。また、ユーザUは、小領域SA10について侵入者検知装置10Cの判定が誤りと判断した場合、符号4222-10を選択する。
図15に示した一例において、符号421は、表示部31の一例であるともいうことができる。表示部31は、提示部150から取得した表示情報DPIに基づいて、小領域それぞれについて後段判定部120Cによる判定結果を表示する。また、符号422は、操作受付部32の一例であるともいうことができる。操作受付部32は、取得した操作情報OIを、制御部33を介して判断結果受付部160に出力する。換言すれば、提示部150は、小領域それぞれについて後段判定部120Cによる判定結果を提示し、判断結果受付部160は、小領域それぞれについて判定結果が正しいか否かの判断結果を受け付ける。
[第3の実施形態のまとめ]
以上説明したように、本実施形態に係る侵入者検知システム1Cによれば、提示部150を備えることにより後段判定部120による判定結果を提示し、判断結果受付部160を備えることにより提示部150が判定結果を提示したことに応じて判定結果が正しいか否かの判断結果を受け付け、学習部170を備えることにより提示部150が提示した判定結果の画像と判断結果受付部160が受け付けた判断結果との組み合わせを教師情報TDとして、学習済みモデル123を再学習させる。したがって、本実施形態によれば、侵入者検知システム1Cは、侵入者検知装置10Cによる判定結果をユーザUが確認し、ユーザUにより確認された結果を入力として学習済みモデル123を再学習させることにより、より精度よく学習を行うことができる。よって、本実施形態によれば、精度よく推論を行うことができ、精度よく侵入者検知を行うことができる。
以上説明したように、本実施形態に係る侵入者検知システム1Cによれば、提示部150を備えることにより後段判定部120による判定結果を提示し、判断結果受付部160を備えることにより提示部150が判定結果を提示したことに応じて判定結果が正しいか否かの判断結果を受け付け、学習部170を備えることにより提示部150が提示した判定結果の画像と判断結果受付部160が受け付けた判断結果との組み合わせを教師情報TDとして、学習済みモデル123を再学習させる。したがって、本実施形態によれば、侵入者検知システム1Cは、侵入者検知装置10Cによる判定結果をユーザUが確認し、ユーザUにより確認された結果を入力として学習済みモデル123を再学習させることにより、より精度よく学習を行うことができる。よって、本実施形態によれば、精度よく推論を行うことができ、精度よく侵入者検知を行うことができる。
また、上述した実施形態に係る侵入者検知システム1Cによれば、提示部150は、小領域それぞれについて後段判定部120による判定結果を提示し、判断結果受付部160は、小領域それぞれについて判定結果が正しいか否かの判断結果を受け付ける。すなわち、本実施形態に係る侵入者検知システム1Cによれば、ユーザUは、小領域ごとに後段判定部120による判定結果が正しいか否かの判断を行う。したがって、本実施形態によれば、侵入者検知システム1Cは、侵入者検知装置10Cによる判定結果をユーザUが小領域ごとに確認し、ユーザUにより確認された結果を入力として学習済みモデル123を小領域ごとに再学習させることにより、より精度よく学習を行うことができる。よって、本実施形態によれば、精度よく推論を行うことができ、精度よく侵入者検知を行うことができる。
なお、上述した実施形態における侵入者検知システム1及び侵入者検知装置10が備える各部の機能全体あるいはその一部は、これらの機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現しても良い。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶部のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでも良い。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
以上、本発明の実施形態について説明したが、本発明は、上記実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲において種々の変更を加えることが可能である。
1…侵入者検知システム、10…侵入者検知装置、110…前段判定部、111…動画取得部、112…基準画像記憶部、113…差分検出部、114…判定部、120…後段判定部、121…小領域情報取得部、122…学習済みモデル選択部、123…学習済みモデル、124…推論結果出力部、130…タイミング取得部、150…提示部、160…判断結果受付部、170…学習部、20…撮像装置、30…情報処理端末装置、31…表示部、32…操作受付部、33…制御部、TD…教師データ、NW…通信ネットワーク、U…ユーザ、MI…監視動画情報、SAI…小領域情報、TI…検出対象画像、RI…基準画像、DI…差分情報、MSI…学習モデル選択情報、IRI…推論結果情報、TMI…タイミング情報、DPI…表示情報、OI…操作情報、LI…学習情報
Claims (7)
- 撮像された監視動画を取得する動画取得部と、
基準画像と前記監視動画に含まれる検出対象画像との差分に基づいて、画像差分を検出する差分検出部と、
前記画像差分の検出結果に基づいて、前記基準画像と異なる異常状態が前記監視動画に撮像されているか否かを、前記監視動画を区分した小領域ごとに判定する判定部と、
を含む前段判定部と、
前記前段判定部が異常であると判定した前記小領域について、当該小領域の部分の画像と、前記小領域ごとに学習された学習済みモデルの学習結果とに基づいて、前記小領域に異常状態が撮像されているかを判定する後段判定部と
を備える侵入者検知システム。 - 前記基準画像は、前記監視動画に含まれる画像であって、前記検出対象画像が撮像された時点より前の時点において撮像された画像である
請求項1に記載の侵入者検知システム。 - 前記学習済みモデルは、時間軸で互いに異なるタイミングについてそれぞれ学習された複数の学習済みモデルから構成され、
撮像されたタイミングを取得するタイミング取得部を更に備え、
前記後段判定部は、取得された前記タイミングに応じた前記学習済みモデルに基づいて判定する
請求項1又は請求項2に記載の侵入者検知システム。 - 前記学習済みモデルは、季節又は時間帯に応じて異なる複数の学習済みモデルから構成される
請求項3に記載の侵入者検知システム。 - 前記後段判定部による判定結果を提示する提示部と、
前記提示部が前記判定結果を提示したことに応じて、前記判定結果が正しいか否かの判断結果を受け付ける判断結果受付部と、
前記提示部が提示した前記判定結果の画像と、前記判断結果受付部が受け付けた前記判断結果との組み合わせを教師情報として、前記学習済みモデルを再学習させる学習部と
を更に備える請求項1又は請求項2に記載の侵入者検知システム。 - 前記提示部は、前記小領域それぞれについて前記後段判定部による前記判定結果を提示し、
前記判断結果受付部は、前記小領域それぞれについて前記判定結果が正しいか否かの判断結果を受け付ける
請求項5に記載の侵入者検知システム。 - コンピュータに、
撮像された監視動画を取得する動画取得ステップと、
基準画像と前記監視動画に含まれる検出対象画像との差分に基づいて、画像差分を検出する差分検出ステップと、
前記画像差分の検出結果に基づいて、前記基準画像と異なる異常状態が前記監視動画に撮像されているか否かを、前記監視動画を区分した小領域ごとに判定する判定ステップと、
を有する前段判定ステップと、
前記前段判定ステップにより異常であると判定された前記小領域について、当該小領域の部分の画像と、前記小領域ごとに学習された学習済みモデルの学習結果とに基づいて、前記小領域に異常状態が撮像されているかを判定する後段判定ステップと
を実行させるプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022080016A JP2023168733A (ja) | 2022-05-16 | 2022-05-16 | 侵入者検知システム及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022080016A JP2023168733A (ja) | 2022-05-16 | 2022-05-16 | 侵入者検知システム及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023168733A true JP2023168733A (ja) | 2023-11-29 |
Family
ID=88923581
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022080016A Pending JP2023168733A (ja) | 2022-05-16 | 2022-05-16 | 侵入者検知システム及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023168733A (ja) |
-
2022
- 2022-05-16 JP JP2022080016A patent/JP2023168733A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6905850B2 (ja) | 画像処理システム、撮像装置、学習モデル作成方法、情報処理装置 | |
CN109154976B (zh) | 通过机器学习训练对象分类器的系统和方法 | |
US7479980B2 (en) | Monitoring system | |
US20200012859A1 (en) | Methods and systems for fire detection | |
US11308777B2 (en) | Image capturing apparatus with variable event detecting condition | |
KR101375583B1 (ko) | 비디오에서의 물체 조밀도 판단 | |
US8126833B2 (en) | Detecting anomalous events using a long-term memory in a video analysis system | |
JP2018101317A (ja) | 異常監視システム | |
JP5388829B2 (ja) | 侵入物体検知装置 | |
US20030043160A1 (en) | Image data processing | |
CN106878668A (zh) | 对物体的移动检测 | |
US11263472B2 (en) | On-demand visual analysis focalized on salient events | |
WO2013101460A2 (en) | Clustering-based object classification | |
US20140146998A1 (en) | Systems and methods to classify moving airplanes in airports | |
KR102391853B1 (ko) | 영상 정보 처리 시스템 및 방법 | |
JP2013214143A (ja) | 車両異常管理装置、車両異常管理システム、車両異常管理方法、及びプログラム | |
JP6214426B2 (ja) | 物体検出装置 | |
JP6851221B2 (ja) | 画像監視装置 | |
CN117132949B (zh) | 一种基于深度学习的全天候跌倒检测方法 | |
CN116310922A (zh) | 石化厂区监控视频风险识别方法、系统、电子设备及存储介质 | |
EP1261951B1 (en) | Surveillance method, system and module | |
KR102564300B1 (ko) | 체온 행동 패턴을 이용한 학교 폭력 예방 시스템 | |
JP2023168733A (ja) | 侵入者検知システム及びプログラム | |
JP6784254B2 (ja) | 滞留物体検出システム、滞留物体検出方法およびプログラム | |
US11704889B2 (en) | Systems and methods for detecting patterns within video content |