JP2020170320A - 検出装置 - Google Patents
検出装置 Download PDFInfo
- Publication number
- JP2020170320A JP2020170320A JP2019070859A JP2019070859A JP2020170320A JP 2020170320 A JP2020170320 A JP 2020170320A JP 2019070859 A JP2019070859 A JP 2019070859A JP 2019070859 A JP2019070859 A JP 2019070859A JP 2020170320 A JP2020170320 A JP 2020170320A
- Authority
- JP
- Japan
- Prior art keywords
- information
- unit
- threshold value
- moving body
- detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】取得画像から得られるシーンや検出の用途等に応じて、認識率の閾値を変更可能な検出装置を提供する。【解決手段】検出装置は、移動体に設置され、移動体周辺の画像情報を取得する撮像部と、画像情報を入力データとして対象体を検出するとともに、対象体の認識率を算出し、該算出した認識率が閾値を超えたときに、対象体であると判断する検出部と、画像情報もしくは、移動体の位置情報、速度情報、周辺環境情報のうち少なくともいずれか一つを取得するセンサにより取得された情報を含む情報に基づいて、検出部における認識率の閾値を変更する切替判定部と、を備える。【選択図】図1
Description
本発明は、検出装置に関する。
近年、CPU(Central Processing Unit)及びGPU(Graphics Processing Unit)の高速化、メモリの大容量化、及び機械学習の技術が急速に進んできている。このため、数十万から百万といったオーダーの学習データを用いる機械学習が可能となり、精度の高い識別技術や分類技術が確立されつつある(非特許文献1参照)。
Yangqing Jia, Evan Shelhamer, Jeff Donahue, Sergey Karayev, Jonathan Long, Ross Girshick, Sergio Guadarrama, and Trevor Darrell. Caffe: Convolutional architecture for fast feature embedding. In Proceedings of the 22nd ACM international conference on Multimedia (pp. 675-678). ACM.
深層学習では、対象体候補を検出し、検出した対象体候補の認識率を算出する処理を行い、例えば、人等の任意の対象体のみの検出結果を出力することが行われている。また、今までの深層学習では、認識率が低い対象体候補を検出した場合には、誤検出の可能性が高いため、認識率が予め定めた閾値以下の場合には、反応しないように処理を行っていた。
しかしながら、取得画像から得られるシーンや検出の用途等によっては、認識率に対する閾値を柔軟に変更した方が、目的に沿う場合もある。
そこで、本発明は、上述の課題に鑑みてなされたものであって、取得画像から得られるシーンや検出の用途等に応じて、認識率の閾値を変更可能な検出装置を提供することを目的とする。
形態1;本発明の1またはそれ以上の実施形態は、移動体に設置され、移動体周辺の画像情報を取得する撮像部と、画像情報を入力データとして対象体を検出するとともに、前記対象体の認識率を算出し、該算出した認識率が閾値を超えたときに、前記対象体であると判断する検出部と、前記画像情報もしくは、前記移動体の位置情報、速度情報、周辺環境情報のうち少なくともいずれか一つを取得するセンサにより取得された情報を含む情報に基づいて、前記検出部における前記認識率の閾値を変更する切替判定部と、を備えたことを特徴とする検出装置を提案している。
形態2;本発明の1またはそれ以上の実施形態は、前記切替判定部は、前記画像情報から特殊作業場を検出した場合に、前記閾値を低くする検出装置を提案している。
形態3;本発明の1またはそれ以上の実施形態は、前記移動体の位置情報と危険エリア情報とを関連付けて記憶するデータベースを備え、前記切替判定部は、前記移動体の位置情報と前記データベースとから、前記移動体が危険エリアを走行中であることを検出した場合に、前記閾値を低くする検出装置を提案している。
形態4;本発明の1またはそれ以上の実施形態は、前記センサに前記移動体の加速度を検出する加速度センサを含み、前記切替判定部は、前記加速度センサの出力値から前記移動体の急加速、急停車を検出した場合に、前記閾値を低くする検出装置を提案している。
形態5;本発明の1またはそれ以上の実施形態は、前記センサからの情報に基づいて、前記移動体のエンジンの停止を検知する検知部を備え、前記切替判定部が、該検知部により前記移動体のエンジンの停止を検知したときに、前記閾値を高くする検出装置を提案している。
本発明の1またはそれ以上の実施形態によれば、取得画像から得られるシーンや検出の用途等に応じて、認識率の閾値を変更することができるという効果がある。
<第1の実施形態>
以下、本発明の第1の実施形態について、図1から図4を用いて説明する。
なお、以下では、移動体としてフォークリフトを例示して説明する。
以下、本発明の第1の実施形態について、図1から図4を用いて説明する。
なお、以下では、移動体としてフォークリフトを例示して説明する。
<検出装置の構成>
本実施形態に係る検出装置1は、図1に示すように、撮像部10と、記憶部20と、制御部30と、センサ40と、報知部50とを含んで構成されており、制御部30は、検出部37と、切替判定部35とを含んで構成されている。
本実施形態に係る検出装置1は、図1に示すように、撮像部10と、記憶部20と、制御部30と、センサ40と、報知部50とを含んで構成されており、制御部30は、検出部37と、切替判定部35とを含んで構成されている。
撮像部10は、移動体としてのフォークリフトに設置され、移動体としてのフォークリフト周辺の画像情報を取得する。撮像部10は、例えば、カメラであり、移動体としてのフォークリフトのヘッドガード内側部あるいは外側部の前方走行方向の画像が撮影可能な位置に取付られている。また、カメラの取付方向は、移動体としてのフォークリフトの前方走行方向の画像が撮影可能な状態であれば特に、限定されるものではない。また、1つのカメラでは、移動体としてのフォークリフトのマストやフォーク等による死角の影響がある場合には、2つ以上のカメラにより、移動体としてのフォークリフトの前方走行方向の画像を網羅的に撮影するようにしてもよい。また、ヘッドガードの外側に台座を設けてカメラを固定するようにしてもよい。また、移動体としてのフォークリフトの進行方向(例えば、前進、後退)に合わせて、カメラが回動するような機構を設けてもよい。
また、カメラは、無線カメラであっても、有線カメラであってもよい。また、カメラは、スチルカメラであってもムービーカメラであってもよい。
記憶部20は、後述する検出部37における認識率の閾値を記憶する。記憶部20は、不揮発性メモリ等であってもよいし、ハードディスク等であってもよい。また、ネットワークで、検出装置1と接続されたサーバ等であってもよい。
制御部30は、図示しないROM(Read Only Memory)等に記憶された制御プログラムに従って、検出装置1全体の動作を制御する。本実施形態においては、例えば、後述する検出部37における検出処理や切替判定部35における切替判定処理を制御する。なお、これらの制御の詳細については、後述する。
センサ40は、移動体としてのフォークリフトの位置情報、速度情報、周辺環境情報のうち、少なくともいずれか1つを取得する。センサ40は、例えば、図2に示すように、移動体としてのフォークリフトの走行位置情報40Aを検出するGPS受信機や画像情報とマップ情報、舵角センサ等との組み合わせ、移動体としてのフォークリフトの速度情報40Bを検出する車速センサ、移動体としてのフォークリフト周辺環境情報40Cを検出する照度情報を取得する照度センサ等を例示することができる。なお、位置情報の取得は、予め位置情報が既知のマーカ等を画像情報等から検出することにより行ってもよい。
報知部50は、検出部37における対象体の検出結果を、例えば、移動体としてのフォークリフトのオペレータに報知する。ここで、報知部50は、検出部37における対象体の検出結果して危険を視覚により知らせる表示装置であってもよいし、音声により知らせるスピーカ等でもよいし、例えば、移動体としてのフォークリフトのシートを振動させることによりオペレータに知らせるバイブレータのようなものであってもよく、特に、限定されるものではない。
<制御部30の構成>
本実施形態に係る検出装置1における制御部30は、図3に示すように、収集部31と、撮像画像データベース(DB)32と、抽出部33と、検出対象データ格納部34と、切替判定部35と、学習済みモデル36と、検出部37と、検出結果データベース(DB)38と、危険エリア情報データベース(DB)39とを含んで構成されている。
本実施形態に係る検出装置1における制御部30は、図3に示すように、収集部31と、撮像画像データベース(DB)32と、抽出部33と、検出対象データ格納部34と、切替判定部35と、学習済みモデル36と、検出部37と、検出結果データベース(DB)38と、危険エリア情報データベース(DB)39とを含んで構成されている。
収集部31は、図示しない通信部を介し、撮像部10からの撮像画像を収集する。ここで、収集された画像情報は、撮像画像データベース(DB)32に格納される。
抽出部33は、撮像画像データベース(DB)32から、深層学習に用いられる正例となる撮像画像、すなわち検出対象(対象体)の画像情報を抽出し、検出対象データ格納部34へ格納する。
一方、切替判定部35は、センサ40から得られる移動体としてのフォークリフトの位置情報、速度情報、周辺環境情報あるいは撮像部により取得された画像情報に基づいて、記憶部20に記憶された好適な閾値を選択して、検出部37に設定する。
例えば、切替判定部35は、画像情報から特殊作業場を検出した場合に、閾値を記憶部20に記憶された低い閾値に切り替える。
また、移動体としてのフォークリフトの位置情報と、移動体としてのフォークリフトの位置情報と危険エリア情報とを関連付けて記憶する危険エリア情報データベース(DB)39とから、移動体としてのフォークリフトが危険エリアを走行中であることを検出した場合に、検出部37において使用する閾値を記憶部20に記憶された低い閾値に切り替える。
また、センサ40に移動体としてのフォークリフトとしての移動体の加速度を検出する加速度センサを含み、切替判定部35は、加速度センサの出力値から移動体としてのフォークリフトとしての移動体の急加速、急停車を検出した場合に、閾値を記憶部20に記憶された低い閾値に切り替える。
検出部37は、撮像部10において取得される移動体としてのフォークリフト周辺の画像情報を入力として、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率とセンサ40により取得された移動体としてのフォークリフトの位置情報あるいは速度情報あるいは周辺環境情報あるいは撮像部10により取得された画像情報により、切替判定部35によって設定された閾値とに基づいて、対象体を検出する。なお、ここで、対象体とは、物体、人体、移動体、車線等を含むものである。
なお、上記では、記憶部20に記憶された閾値の切替を切替判定部35の判断処理で実行する例を示したが、記憶部20に記憶された閾値を手動で行う手動切替部を設け、移動体としてのフォークリフトのオペレータの判断で、当該閾値の切替を行えるようにしてもよい。
<検出装置の処理>
図4を用いて、本実施形態に係る検出装置1の処理について説明する。
図4を用いて、本実施形態に係る検出装置1の処理について説明する。
撮像部10は、移動体としてのフォークリフト周辺の画像情報を取得する(ステップS101)。収集部31は、撮像部10からの撮像画像を収集し、収集された画像情報を撮像画像データベース(DB)32に格納する(ステップS102)。
抽出部33は、撮像画像データベース(DB)32から、深層学習に用いられる正例となる撮像画像を抽出し、検出対象データ格納部34へ格納する(ステップS103)。
切替判定部35は、センサ40から得られる移動体としてのフォークリフトの位置情報あるいは速度情報あるいは周辺環境情報に基づいて、記憶部20に記憶された好適な閾値を選択して、当該閾値を検出部37に設定させる(ステップS104)。
検出部37は、撮像部10において取得された画像情報を入力データとして、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率と切替判定部35により設定された閾値とに基づいて、対象体を検出し(ステップS105)、当該検出結果を検出結果データベース(DB)38に格納する(ステップS106)。ここで、検出部37は、算出した対象体の認識率が切替判定部35により設定された閾値以下の場合には、ノイズを含むものと判定し、算出した対象体の認識率が切替判定部35により設定された閾値よりも大きい場合には、対象体を検出し、当該判定結果を検出結果として、検出結果データベース(DB)38に格納する。
ここで、制御部30は、次の画像情報に対する処理に移行し(ステップS107)、処理すべき画像情報があるのか否かを確認する(ステップS108)。そして、制御部30が、処理すべき画像情報がないと判断した場合(ステップS108の「Yes」)には、一連の処理を終了する。一方で、制御部30が、処理すべき画像情報があると判断した場合(ステップS108の「No」)には、処理をステップS105に戻す。
以上、説明したように、本実施形態によれば、検出装置1は、移動体としてのフォークリフトに設置され、移動体としてのフォークリフト周辺の画像情報を取得する撮像部10と、撮像部10において取得された画像情報を入力データとして対象体を検出するとともに、対象体の認識率を算出し、該算出した認識率が閾値を超えたときに、対象体であると判断する検出部37と、画像情報もしくは、移動体としてのフォークリフトの位置情報、速度情報、周辺環境情報のうち少なくともいずれか一つを取得するセンサにより取得された情報を含む情報に基づいて、検出部37における認識率の閾値を変更する切替判定部35と、を備えている。
つまり、検出部37は、撮像部10において取得される移動体としてのフォークリフト周辺の画像情報を入力として、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率とセンサ40により取得された移動体としてのフォークリフトの位置情報あるいは速度情報あるいは周辺環境情報あるいは撮像部10により取得された画像情報により、切替判定部35により設定された閾値とに基づいて、対象体を検出する。
そのため、一般的に予め設定された閾値を用いて検出を行う方式に比べて、現在の状況にあった閾値を用いて検出を行うため、移動体としてのフォークリフトの周辺環境に応じて、個別の対象体の未検出率の軽減を期待することができる。
つまり、検出部37は、撮像部10において取得される移動体としてのフォークリフト周辺の画像情報を入力として、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率とセンサ40により取得された移動体としてのフォークリフトの位置情報あるいは速度情報あるいは周辺環境情報あるいは撮像部10により取得された画像情報により、切替判定部35により設定された閾値とに基づいて、対象体を検出する。
そのため、一般的に予め設定された閾値を用いて検出を行う方式に比べて、現在の状況にあった閾値を用いて検出を行うため、移動体としてのフォークリフトの周辺環境に応じて、個別の対象体の未検出率の軽減を期待することができる。
また、本実施形態によれば、切替判定部35は、画像情報から特殊作業場を検出した場合に、閾値を低くする。
つまり、切替判定部35は、撮像部10が取得する画像情報から、例えば、特殊作業場を示すような識別標識を検出した場合には、閾値を低くし、検出部37は、撮像部10において取得される当該画像情報を入力として、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率とセンサ40により取得された移動体としてのフォークリフトの位置情報あるいは速度情報あるいは周辺環境情報あるいは撮像部10により取得された画像情報により、切替判定部35により設定された閾値とに基づいて、対象体を検出する。
そのため、検出部37が、特殊作業場において、対象体の検出漏れの少ない閾値を用いて対象体の検出を行うことから、従来の方式に比べて、現在の状況にあった検出処理を実行することができる。
つまり、切替判定部35は、撮像部10が取得する画像情報から、例えば、特殊作業場を示すような識別標識を検出した場合には、閾値を低くし、検出部37は、撮像部10において取得される当該画像情報を入力として、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率とセンサ40により取得された移動体としてのフォークリフトの位置情報あるいは速度情報あるいは周辺環境情報あるいは撮像部10により取得された画像情報により、切替判定部35により設定された閾値とに基づいて、対象体を検出する。
そのため、検出部37が、特殊作業場において、対象体の検出漏れの少ない閾値を用いて対象体の検出を行うことから、従来の方式に比べて、現在の状況にあった検出処理を実行することができる。
また、本実施形態によれば、検出装置1は、移動体としてのフォークリフトの位置情報と危険エリア情報とを関連付けて記憶する危険エリア情報データベース(DB)39を備え、切替判定部35は、移動体としてのフォークリフトの位置情報と、危険エリア情報データベース39とから、移動体としてのフォークリフトが危険エリアを走行中であることを検出した場合に、閾値を低くする。
つまり、検出部37は、撮像部10において取得される移動体としてのフォークリフト周辺の画像情報を入力として、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率とセンサ40により取得された移動体としてのフォークリフトの位置情報あるいは速度情報あるいは周辺環境情報あるいは撮像部10により取得された画像情報により、切替判定部35により設定された閾値とに基づいて、対象体を検出する。
そのため、検出部37が、危険エリアにおいて、検出漏れの少ない閾値を用いて対象体の検出を行うことから、従来の方式に比べて、現在の状況にあった検出処理を実行することができる。
つまり、検出部37は、撮像部10において取得される移動体としてのフォークリフト周辺の画像情報を入力として、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率とセンサ40により取得された移動体としてのフォークリフトの位置情報あるいは速度情報あるいは周辺環境情報あるいは撮像部10により取得された画像情報により、切替判定部35により設定された閾値とに基づいて、対象体を検出する。
そのため、検出部37が、危険エリアにおいて、検出漏れの少ない閾値を用いて対象体の検出を行うことから、従来の方式に比べて、現在の状況にあった検出処理を実行することができる。
また、本実施形態によれば、検出装置1は、センサ40に移動体としてのフォークリフトの加速度を検出する加速度センサを含み、切替判定部35は、加速度センサの出力値から移動体としてのフォークリフトの急加速、急停車を検出した場合に、閾値を低くする。
つまり、フォークリフトのオペレータが急加速や急停車を行うような粗い運転操作を行う場合には、経験的に、通常の運転操作を行うオペレータに比べて、例えば、物陰から出てきた人や走行レーンの左右から出てくる他のフォークリフト等と接触事故を起こす可能性が高い。
そこで、切替判定部35は、加速度センサの出力値から移動体としてのフォークリフトの急加速、急停車を検出した場合に、閾値を低くし、検出部37は、撮像部10において取得される移動体としてのフォークリフト周辺の画像情報を入力として、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率とセンサ40により取得された移動体としてのフォークリフトの位置情報あるいは速度情報あるいは周辺環境情報あるいは撮像部10により取得された画像情報により、切替判定部35により設定された閾値とに基づいて、対象体を検出する。
そのため、検出部37が、移動体としてのフォークリフトの急加速や急停止に応じた閾値を用いて対象体の検出を行うことから、従来の方式に比べて、現在の状況にあった検出処理を実行することができ、不慮の事故を未然に防止することができる。
つまり、フォークリフトのオペレータが急加速や急停車を行うような粗い運転操作を行う場合には、経験的に、通常の運転操作を行うオペレータに比べて、例えば、物陰から出てきた人や走行レーンの左右から出てくる他のフォークリフト等と接触事故を起こす可能性が高い。
そこで、切替判定部35は、加速度センサの出力値から移動体としてのフォークリフトの急加速、急停車を検出した場合に、閾値を低くし、検出部37は、撮像部10において取得される移動体としてのフォークリフト周辺の画像情報を入力として、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率とセンサ40により取得された移動体としてのフォークリフトの位置情報あるいは速度情報あるいは周辺環境情報あるいは撮像部10により取得された画像情報により、切替判定部35により設定された閾値とに基づいて、対象体を検出する。
そのため、検出部37が、移動体としてのフォークリフトの急加速や急停止に応じた閾値を用いて対象体の検出を行うことから、従来の方式に比べて、現在の状況にあった検出処理を実行することができ、不慮の事故を未然に防止することができる。
<第2の実施形態>
以下、図5から図7を用いて、本発明の第2の実施形態に係る検出装置1Aについて説明する。
なお、本実施形態に係る検出装置1Aは、その構成において、第1の実施形態とは、制御部30Aの構成のみが異なる。
以下、図5から図7を用いて、本発明の第2の実施形態に係る検出装置1Aについて説明する。
なお、本実施形態に係る検出装置1Aは、その構成において、第1の実施形態とは、制御部30Aの構成のみが異なる。
<制御部30Aの構成>
本実施形態に係る検出装置1Aにおける制御部30Aは、図5に示すように、収集部31と、撮像画像データベース(DB)32と、抽出部33と、検出対象データ格納部34と、切替判定部35Aと、学習済みモデル36と、検出部37と、検出結果データベース(DB)38と、危険エリア情報データベース(DB)39と、切替情報生成部39Aと、タイマ部39Bとを含んで構成されている。
なお、本実施形態においては、例示的に、検出対象データ格納部34および検出結果データベース(DB)38を検出装置1Aにおける制御部30Aの構成要素として、以下、説明を行うが、これらの構成要素については、必ずしも、必須の構成要素としなくてもよい。
また、第1の実施形態と同一の符号を付す構成要素については、同様の機能を有することから、その詳細な説明は省略する。
本実施形態に係る検出装置1Aにおける制御部30Aは、図5に示すように、収集部31と、撮像画像データベース(DB)32と、抽出部33と、検出対象データ格納部34と、切替判定部35Aと、学習済みモデル36と、検出部37と、検出結果データベース(DB)38と、危険エリア情報データベース(DB)39と、切替情報生成部39Aと、タイマ部39Bとを含んで構成されている。
なお、本実施形態においては、例示的に、検出対象データ格納部34および検出結果データベース(DB)38を検出装置1Aにおける制御部30Aの構成要素として、以下、説明を行うが、これらの構成要素については、必ずしも、必須の構成要素としなくてもよい。
また、第1の実施形態と同一の符号を付す構成要素については、同様の機能を有することから、その詳細な説明は省略する。
切替判定部35Aは、センサ40から得られるフォークリフトの位置情報、速度情報、周辺環境情報あるいは撮像部10により取得された画像情報に基づいて、記憶部20に記憶された好適な閾値を選択して、検出部37に供給する。また、切替判定部35Aは、後述する切替情報生成部39Aからの切替情報に基づいて、閾値を切り替える。また、切替判定部35Aは、検出部37Aの検出結果に基づく、切替情報により、閾値を切り替える。
切替情報生成部39Aは、任意の時間間隔、例えば、画像のフレーム間隔で、検出部37において用いられる閾値を記憶部20に記憶された閾値のうち、他の閾値に切り替える切替情報を切替判定部35Aに出力するとともに、検出部37における認識率よりも低い閾値への切替情報を切替判定部35Aに出力する。
タイマ部39Bは、任意の時間間隔、例えば、画像のフレーム間隔を計時する。
<検出装置の処理>
図6、図7を用いて、本実施形態に係る検出装置1Aの処理について説明する。
図6、図7を用いて、本実施形態に係る検出装置1Aの処理について説明する。
撮像部10は、移動体としてのフォークリフト周辺の画像情報を取得する(ステップS201)。収集部31は、撮像部10からの撮像画像を収集し、収集された画像情報を撮像画像データベース(DB)32に格納する(ステップS202)。
抽出部33は、撮像画像データベース(DB)32から、深層学習に用いられる正例となる撮像画像を抽出し、検出対象データ格納部34へ格納する(ステップS203)。
切替判定部35Aは、センサ40から得られる移動体としてのフォークリフトの位置情報、速度情報、周辺環境情報あるいは撮像部10により取得された画像情報に基づいて、記憶部20に記憶された好適な閾値(第1の閾値)を設定する(ステップS204)。
検出部37は、撮像部10において取得された画像情報を入力データとして、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率と切替判定部35Aにより設定された閾値(第1の閾値)とに基づいて、対象体を検出する(ステップS205)。ここで、検出部37は、算出した対象体の認識率が切替判定部35Aにより設定された閾値以下の場合には、ノイズを含むものと判定し、算出した対象体の認識率が切替判定部35により設定された閾値よりも大きい場合には、対象体を検出し、当該判定結果を検出結果として、検出結果データベース(DB)38に格納する。
タイマ部39Bは、任意の時間間隔、例えば、画像のフレーム間隔を計時すると、切替情報生成部39Aおよび検出部37がフレーム間処理を実行する(ステップS206)。具体的には、図7に示すように、切替情報生成部39Aが検出部37により用いられる閾値を記憶部20に記憶された閾値のうち、他の閾値(第2の閾値)に切り替える切替情報を切替判定部35Aに出力する(ステップS2061)。そして、抽出部33は、撮像画像データベース(DB)32から、深層学習に用いられる正例となる撮像画像、すなわち検出対象の画像情報を抽出し、検出対象データ格納部34へ格納し(ステップS2062)、検出部37は、撮像部10において取得された画像情報を入力データとして、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率と切替判定部35Aにより設定された閾値とに基づいて、対象体を検出する(ステップS2063)。
検出部37は、算出した対象体の認識率が切替判定部35Aにより設定された閾値以下の場合には、ノイズを含むものと判定し、算出した対象体の認識率が切替判定部35により設定された閾値よりも大きい場合には、対象体を検出し、当該判定結果を検出結果として、検出結果データベース(DB)38に格納する(ステップS207)。
切替情報生成部39Aは、検出部37における認識率よりも低い閾値への切替情報を切替判定部35Aに出力する(ステップS208)。
ここで、制御部30Aは、次の画像情報に対する処理に移行し(ステップS209)、処理すべき画像情報があるのか否かを確認する(ステップS210)。そして、制御部30Aが、処理すべき画像情報がないと判断した場合(ステップS210の「Yes」)には、一連の処理を終了する。一方で、制御部30Aが、処理すべき画像情報があると判断した場合(ステップS210の「No」)には、処理をステップS205に戻す。
以上、説明したように、本実施形態によれば、検出装置1は、切替判定部35Aに閾値の切替情報を出力する切替情報生成部39Aを備え、切替情報生成部39Aは、撮像部10において取得された画像情報に対して、任意の時間間隔で、検出部37において用いられる閾値を切り替える切替情報を切替判定部35Aに出力するとともに、検出部37における認識率よりも低い閾値への切替情報を切替判定部35Aに出力する。
つまり、切替情報生成部39Aは、任意の時間間隔で、例えば、画像情報のフレーム間隔で、検出部37において用いられる閾値を記憶部20に記憶された複数の閾値のうち、他の閾値に切り替える切替情報を切替判定部35Aに出力する。そして、検出部37において、対象体の検出に用いられる閾値を記憶部20に記憶された複数の閾値のうち、他の閾値に切り替える切替情報を切替判定部35Aに出力する。
そのため、検出漏れの少ない閾値によって、検出部37が対象体を検出するため、結果として、対象体の未検出率の軽減を期待することができる。また、一般的な従来の方式に比べて、現在の状況に最も適合した閾値を用いて対象体の検出を行うため、移動体としてのフォークリフトの周辺環境に応じて、個別の対象体における未検出率の軽減を期待することができる。
つまり、切替情報生成部39Aは、任意の時間間隔で、例えば、画像情報のフレーム間隔で、検出部37において用いられる閾値を記憶部20に記憶された複数の閾値のうち、他の閾値に切り替える切替情報を切替判定部35Aに出力する。そして、検出部37において、対象体の検出に用いられる閾値を記憶部20に記憶された複数の閾値のうち、他の閾値に切り替える切替情報を切替判定部35Aに出力する。
そのため、検出漏れの少ない閾値によって、検出部37が対象体を検出するため、結果として、対象体の未検出率の軽減を期待することができる。また、一般的な従来の方式に比べて、現在の状況に最も適合した閾値を用いて対象体の検出を行うため、移動体としてのフォークリフトの周辺環境に応じて、個別の対象体における未検出率の軽減を期待することができる。
<第3の実施形態>
以下、図8、図9を用いて、本発明の第3の実施形態に係る検出装置1Bについて説明する。
なお、本実施形態に係る検出装置1Bは、その構成において、第1の実施形態および第2の実施形態とは、制御部30Bの構成のみが異なる。
以下、図8、図9を用いて、本発明の第3の実施形態に係る検出装置1Bについて説明する。
なお、本実施形態に係る検出装置1Bは、その構成において、第1の実施形態および第2の実施形態とは、制御部30Bの構成のみが異なる。
<制御部30Bの構成>
本実施形態に係る検出装置1Bにおける制御部30Bは、図8に示すように、収集部31と、撮像画像データベース(DB)32と、抽出部33と、検出対象データ格納部34と、切替判定部35Bと、学習済みモデル36と、検出部37と、検出結果データベース(DB)38と、危険エリア情報データベース(DB)39と、検知部39Cとを含んで構成されている。
なお、第1の実施形態と同一の符号を付す構成要素については、同様の機能を有することから、その詳細な説明は省略する。
本実施形態に係る検出装置1Bにおける制御部30Bは、図8に示すように、収集部31と、撮像画像データベース(DB)32と、抽出部33と、検出対象データ格納部34と、切替判定部35Bと、学習済みモデル36と、検出部37と、検出結果データベース(DB)38と、危険エリア情報データベース(DB)39と、検知部39Cとを含んで構成されている。
なお、第1の実施形態と同一の符号を付す構成要素については、同様の機能を有することから、その詳細な説明は省略する。
切替判定部35Bは、後述する検知部39Cにより移動体としてのフォークリフトのエンジンの停止を検知したときに、閾値を検出部37において認識率が高い閾値に切り替える。
検知部39Cは、センサ40からの情報に基づいて、移動体としてのフォークリフトのエンジンの停止を検知する。具体的には、所定時間、速度がゼロであること、所定時間、位置情報に変化がないこと、あるいは、撮像部10が取得する画像情報が所定時間、大きな変化をしないこと等を検知することにより、移動体としてのフォークリフトのエンジンの停止を検知する。なお、上記に限らず、移動体としてのフォークリフト側からエンジン停止の情報を得て、移動体としてのフォークリフトのエンジンの停止を検知してもよい。また、本実施形態の場合には、検出装置1Bを移動体としてのフォークリフトのエンジン停止時においても動作させるためのバッテリが必要となる。
<検出装置の処理>
図9を用いて、本実施形態に係る検出装置1の処理について説明する。
図9を用いて、本実施形態に係る検出装置1の処理について説明する。
撮像部10は、移動体としてのフォークリフト周辺の画像情報を取得する(ステップS301)。収集部31は、撮像部10からの撮像画像を収集し、収集された画像情報を撮像画像データベース(DB)32に格納する(ステップS302)。
抽出部33は、撮像画像データベース(DB)32から、深層学習に用いられる正例となる撮像画像を抽出し、検出対象データ格納部34へ格納する(ステップS303)。
検知部39Cは、例えば、センサ40からの情報に基づいて、移動体としてのフォークリフトのエンジンが停止状態であるか否かを検知する(ステップS304)。
そして、検知部39Cが、移動体としてのフォークリフトのエンジンが停止状態ではないと検知した場合(ステップS304の「No」)には、切替判定部35Bが、センサ40から得られる移動体としてのフォークリフトの位置情報、速度情報、周辺環境情報あるいは撮像部10により取得された画像情報に基づいて、記憶部20に記憶された好適な閾値(第1の閾値)を設定する(ステップS305)。
検出部37は、撮像部10において取得された画像情報を入力データとして、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率と切替判定部35Bにより設定された閾値(第1の閾値)とに基づいて、対象体を検出する(ステップS306)。
検出部37は、算出した対象体の認識率が切替判定部35Bにより設定された閾値以下の場合には、ノイズを含むものと判定し、算出した対象体の認識率が切替判定部35により設定された閾値よりも大きい場合には、対象体を検出し、当該判定結果を検出結果として、検出結果データベース(DB)38に格納する(ステップS307)。
ここで、制御部30Bは、次の画像情報に対する処理に移行し(ステップS308)、処理すべき画像情報があるのか否かを確認する(ステップS309)。そして、制御部30Bが、処理すべき画像情報がないと判断した場合(ステップS309の「Yes」)には、一連の処理を終了する。一方で、制御部30Bが、処理すべき画像情報があると判断した場合(ステップS309の「No」)には、処理をステップS304に戻す。
一方で、検知部39Cが、移動体としてのフォークリフトのエンジンが停止状態ではあると検知した場合(ステップS304の「No」)には、切替判定部35Bは、センサ40から得られる移動体としてのフォークリフトの位置情報、速度情報、周辺環境情報あるいは撮像部10により取得された画像情報に基づいて、記憶部20に記憶された好適な閾値(第1の閾値)よりも高い第3の閾値を設定する(ステップS310)。
検出部37は、撮像部10において取得された画像情報を入力データとして、対象体の検出、認識を行って、深層学習により対象体の認識率を算出し、算出した認識率と切替判定部35Bにより設定された閾値(第3の閾値)とに基づいて、対象体を検出する(ステップS311)。
検出部37は、算出した対象体の認識率が切替判定部35Bにより設定された閾値以下の場合には、ノイズを含むものと判定し、算出した対象体の認識率が切替判定部35により設定された閾値よりも大きい場合には、対象体を検出し、当該判定結果を検出結果として、検出結果データベース(DB)38に格納する(ステップS312)。
ここで、制御部30Bは、次の画像情報に対する処理に移行し(ステップS313)、処理すべき画像情報があるのか否かを確認する(ステップS309)。そして、制御部30Bが、処理すべき画像情報がないと判断した場合(ステップS309の「Yes」)には、一連の処理を終了する。一方で、制御部30Bが、処理すべき画像情報があると判断した場合(ステップS309の「No」)には、処理をステップS304に戻す。
以上、説明したように、本実施形態によれば、検出装置1Bは、センサ40からの情報に基づいて、移動体としてのフォークリフトのエンジンの停止を検知する検知部39Cを備え、切替判定部35Bは、検知部39Cにより移動体としてのフォークリフトのエンジンの停止を検知したときに、閾値を高くする。
つまり、移動体としてのフォークリフトのエンジンが停止状態である場合においても、検出装置1Bを動作させ、その際の閾値を高くする。
そのため、検出装置1Bを、例えば、定点観測用の検出漏れの少ない監視カメラとして機能させることができる。また、検出装置1Bが、任意の時間、画像情報を取得し、認識率の高い閾値により対象体の検出を行うことから、当該検出結果により、そのエリアが安全なエリアであるのか危険なエリアであるのかを判定でき、これらのデータによって、危険エリア情報データベース(DB)39をバージョンアップすることもできる。また、定点観測を行うことから、特に、夜間帯において不審者を発見することもできる。
つまり、移動体としてのフォークリフトのエンジンが停止状態である場合においても、検出装置1Bを動作させ、その際の閾値を高くする。
そのため、検出装置1Bを、例えば、定点観測用の検出漏れの少ない監視カメラとして機能させることができる。また、検出装置1Bが、任意の時間、画像情報を取得し、認識率の高い閾値により対象体の検出を行うことから、当該検出結果により、そのエリアが安全なエリアであるのか危険なエリアであるのかを判定でき、これらのデータによって、危険エリア情報データベース(DB)39をバージョンアップすることもできる。また、定点観測を行うことから、特に、夜間帯において不審者を発見することもできる。
なお、上記においては、例えば、センサ40が取得した情報に基づいて、検出部37において用いられる閾値を切り替えることを示したが、例えば、安全なエリアで、撮像部10から得られる画像情報にあまり変化がない場合には、閾値を固定して検出処理を間引いてもよい。
また、記憶部20に記憶される閾値は、例えば、様々な画像情報を検出装置に入力して、学習を行うことにより、その閾値の評価を行うようにしてもよい。また、移動体としてのフォークリフトの導入前に、移動体としてのフォークリフトが用いられる現場を試走して取得した画像情報に基づいて、記憶部20に記憶される閾値を再評価するようにしてもよい。
また、第1の実施形態においては、センサ40が、移動体としてのフォークリフトの位置情報、速度情報、周辺環境情報のうち少なくともいずれか一つを取得するものとして説明を行ったが、センサ40の取得情報として、明るさを含めてもよい。つまり、明るさの変化によって、明るすぎる場合には、撮像部10が取得する画像情報に白とびが発生し、暗すぎる場合には、画像情報全体が暗くなり、対象体の検出が困難になる。そのため、閾値を切り替える要素に、明るさを考慮することにより、対象体の未検出率の軽減を期待することができる。
また、検出装置1の処理をコンピュータシステムが読み取り可能な記録媒体に記録し、この記録媒体に記録されたプログラムを検出装置1に読み込ませ、実行することによって本発明の検出装置1を実現することができる。ここでいうコンピュータシステムとは、OSや周辺装置等のハードウェアを含む。これは、検出装置1A、1Bについても同様である。
また、「コンピュータシステム」は、WWW(World Wide Web)システムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組合せで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
以上、この発明の実施形態につき、図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
1;検出装置
10;撮像部
20;記憶部
30;制御部
31;収集部
32;撮像画像データベース(DB)
33;抽出部33
34;検出対象データ格納部
35、35A;切替判定部
36;学習済みモデル
37;検出部
38;検出結果データベース(DB)
39A;切替情報生成部
39B;タイマ部
39C;検知部
39D;画像類似度判定部
40;センサ
50;報知部
10;撮像部
20;記憶部
30;制御部
31;収集部
32;撮像画像データベース(DB)
33;抽出部33
34;検出対象データ格納部
35、35A;切替判定部
36;学習済みモデル
37;検出部
38;検出結果データベース(DB)
39A;切替情報生成部
39B;タイマ部
39C;検知部
39D;画像類似度判定部
40;センサ
50;報知部
Claims (5)
- 移動体に設置され、移動体周辺の画像情報を取得する撮像部と、
画像情報を入力データとして対象体を検出するとともに、前記対象体の認識率を算出し、該算出した認識率が閾値を超えたときに、前記対象体であると判断する検出部と、
前記画像情報もしくは、前記移動体の位置情報、速度情報、周辺環境情報のうち少なくともいずれか一つを取得するセンサにより取得された情報を含む情報に基づいて、前記検出部における前記認識率の閾値を変更する切替判定部と、
を備えたことを特徴とする検出装置。 - 前記切替判定部は、前記画像情報から特殊作業場を検出した場合に、前記閾値を低くすることを特徴とする請求項1に記載の検出装置。
- 前記移動体の位置情報と危険エリア情報とを関連付けて記憶するデータベースを備え、
前記切替判定部は、前記移動体の位置情報と前記データベースとから、前記移動体が危険エリアを走行中であることを検出した場合に、前記閾値を低くすることを特徴とする請求項1に記載の検出装置。 - 前記センサに前記移動体の加速度を検出する加速度センサを含み、
前記切替判定部は、前記加速度センサの出力値から前記移動体の急加速、急停車を検出した場合に、前記閾値を低くすることを特徴とする請求項1に記載の検出装置。 - 前記センサからの情報に基づいて、前記移動体のエンジンの停止を検知する検知部を備え、
前記切替判定部が、該検知部により前記移動体のエンジンの停止を検知したときに、前記閾値を高くすることを特徴とする請求項1から4に記載の検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019070859A JP2020170320A (ja) | 2019-04-02 | 2019-04-02 | 検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019070859A JP2020170320A (ja) | 2019-04-02 | 2019-04-02 | 検出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020170320A true JP2020170320A (ja) | 2020-10-15 |
Family
ID=72745973
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019070859A Pending JP2020170320A (ja) | 2019-04-02 | 2019-04-02 | 検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2020170320A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022209135A1 (ja) * | 2021-03-30 | 2022-10-06 | 富士フイルム株式会社 | 制御装置、制御方法、及びプログラム |
-
2019
- 2019-04-02 JP JP2019070859A patent/JP2020170320A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022209135A1 (ja) * | 2021-03-30 | 2022-10-06 | 富士フイルム株式会社 | 制御装置、制御方法、及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109571468B (zh) | 安防巡检机器人及安防巡检方法 | |
CN109040709B (zh) | 视频监控方法及装置、监控服务器及视频监控系统 | |
EP1267313B1 (en) | Image surveillance apparatus, image surveillance method, and image surveillance processing program | |
WO2017125094A1 (zh) | 一种人体摔倒智能控制系统及其方法 | |
CN106027931A (zh) | 视频录制方法及服务器 | |
JP5810136B2 (ja) | 追尾装置、追尾方法及び追尾プログラム | |
JP2009048428A (ja) | 移動物体追跡装置 | |
CN104184986A (zh) | 一种视频监控方法、装置及系统 | |
KR101442669B1 (ko) | 지능형 객체감지를 통한 범죄행위 판별방법 및 그 장치 | |
JP2015040941A5 (ja) | ||
WO2015186395A1 (ja) | 車両周辺監視装置 | |
JP2020170319A (ja) | 検出装置 | |
JP2020170320A (ja) | 検出装置 | |
CN110933314B (zh) | 追焦拍摄方法及相关产品 | |
JP6088944B2 (ja) | 作業機械の周囲監視装置 | |
JP5018652B2 (ja) | 物体存在判定装置 | |
US10311690B2 (en) | Systems and methods for detecting motion based on a video pattern | |
US20220070361A1 (en) | A method of using a machine-readable code for instructing camera for detecting and monitoring objects | |
JP4765113B2 (ja) | 車両周辺監視装置、車両、車両周辺監視用プログラム、車両周辺監視方法 | |
JP2007274656A (ja) | 映像監視装置及び方法 | |
JP2009009206A (ja) | 画像中の輪郭抽出方法及びその画像処理装置 | |
JP2020170321A (ja) | 検出装置 | |
JP2013219531A (ja) | 画像処理装置及び画像処理方法 | |
KR100504819B1 (ko) | 휴대단말기의 이미지 신호 아웃포커싱 장치 및 방법 | |
JP2009085618A (ja) | 人体検出装置 |