JP7450794B1 - 通路監視制御方法、装置、デバイス、記憶媒体及びプログラム - Google Patents
通路監視制御方法、装置、デバイス、記憶媒体及びプログラム Download PDFInfo
- Publication number
- JP7450794B1 JP7450794B1 JP2023198740A JP2023198740A JP7450794B1 JP 7450794 B1 JP7450794 B1 JP 7450794B1 JP 2023198740 A JP2023198740 A JP 2023198740A JP 2023198740 A JP2023198740 A JP 2023198740A JP 7450794 B1 JP7450794 B1 JP 7450794B1
- Authority
- JP
- Japan
- Prior art keywords
- target
- video
- target object
- passage
- feature map
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 70
- 238000012544 monitoring process Methods 0.000 title claims abstract description 49
- 238000003860 storage Methods 0.000 title claims description 14
- 238000004519 manufacturing process Methods 0.000 claims abstract description 15
- 238000001514 detection method Methods 0.000 claims description 105
- 230000000875 corresponding effect Effects 0.000 claims description 35
- 238000012545 processing Methods 0.000 claims description 34
- 230000015654 memory Effects 0.000 claims description 22
- 230000008569 process Effects 0.000 claims description 15
- 238000000605 extraction Methods 0.000 claims description 10
- 238000007781 pre-processing Methods 0.000 claims description 8
- 230000002776 aggregation Effects 0.000 claims description 6
- 238000004220 aggregation Methods 0.000 claims description 6
- 230000002093 peripheral effect Effects 0.000 claims description 5
- 230000002596 correlated effect Effects 0.000 claims description 4
- 230000001276 controlling effect Effects 0.000 claims description 3
- 239000000203 mixture Substances 0.000 claims 1
- 208000027418 Wounds and injury Diseases 0.000 description 9
- 230000006378 damage Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 208000014674 injury Diseases 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 238000004804 winding Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000013024 troubleshooting Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0248—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means in combination with a laser
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B31/00—Predictive alarm systems characterised by extrapolation or other computation using updated historic data
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Automation & Control Theory (AREA)
- Signal Processing (AREA)
- Radar, Positioning & Navigation (AREA)
- Aviation & Aerospace Engineering (AREA)
- Emergency Management (AREA)
- Electromagnetism (AREA)
- Optics & Photonics (AREA)
- Remote Sensing (AREA)
- Artificial Intelligence (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Traffic Control Systems (AREA)
- Alarm Systems (AREA)
Abstract
Description
無人搬送車AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得することであって、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行し、前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含む、ことと、
カメラによってビデオ収集領域内で収集されたビデオデータを取得することであって、前記カメラは、複数のカメラのうちの1つであり、前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含む、ことと、
前記車体収集アセンブリによって収集された走査データ及び/又は前記カメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、前記目標体が位置する目標通路を取得し、前記目標通路は前記複数の監視制御対象通路のうちの1つである、ことと、
前記目標体が位置する目標通路の目標予警報情報を生成することと、を含む。
無人搬送車AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得し、カメラによってビデオ収集領域内で収集されたビデオデータを取得するための取得ユニットであって、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行し、前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含み、前記カメラは、複数のカメラのうちの1つであり、前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含む、取得ユニットと、
前記車体収集アセンブリによって収集された走査データ及び/又は前記カメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、前記複数の監視制御対象通路のうちの1つであって、前記目標体が位置する目標通路を取得し、前記目標体が位置する目標通路の目標予警報情報を生成するための処理ユニットと、を備える。
少なくとも1つのプロセッサと、
該少なくとも1つのプロセッサと通信接続されるメモリと、を備え、
該メモリには、該少なくとも1つのプロセッサで実行可能な命令が記憶され、該命令は、該少なくとも1つのプロセッサによって実行されると、本開示の実施例におけるいずれか1つの方法を実行させる。
第5態様では、プロセッサにより実行されると、本開示の実施例におけるいずれか1つの方法を実現するためのプログラムを提供する。
現在、巻糸パッケージ生産作業場において、生産された巻糸パッケージは一般的に無人搬送車(Automated Guided Vehicle、AGV)によって指定された位置に搬送されるが、AGVを使用する巻糸パッケージ生産作業場において、人と車両が混在して走行することがあり、特に通路が狭い場合、衝突事故が発生する恐れがあり、AGVの破損をもたらし、ひいては人員の死傷を引き起こすことがある。従って、AGVの損傷を減少させ且つ人員の傷害を効果的に回避するために、リアルタイムで効率的な監視制御方法が必要である。
方式1において、前記車体収集アセンブリによって収集された走査データに基づいて、走査データに目標体が存在すると判定した場合、走査データにおいて目標体が位置する目標通路を取得し、走査データにおいて目標体が位置する目標通路の走査予警報情報を生成する。
理解すべきことは、方式1において、AGVの車体収集アセンブリによって収集された走査データを検出することができ、それにより目標体が存在するか否かを判定し、且つ目標体が存在すると判定した場合、走査データにおいて目標体が位置する目標通路を取得し、この時、走査データにおいて目標体が位置する目標通路の走査予警報情報を直接生成する。
理解すべきことは、方式2において、カメラによってビデオ収集領域内で収集されたビデオデータを検出することができ、それにより目標体が存在するか否かを判定し、且つ目標体が存在すると判定した場合、ビデオデータにおいて目標体が位置する目標通路を取得し、この時、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を直接生成する。
なお、以上の前記走査データに存在する「目標体」と、前記ビデオデータに存在する「目標体」とは同一の「目標体」であってもよく、異なる2つの「目標体」であってもよく、本開示の方案ではこれを限定しない。
方式3において、前記車体収集アセンブリによって収集された走査データに基づいて、走査データに目標体が存在すると判定した場合、走査データにおいて目標体が位置する目標通路を取得し、前記カメラによって収集されたビデオデータに基づいて、ビデオデータに目標体が存在すると判定した場合、ビデオデータにおいて目標体が位置する目標通路を取得し、走査データにより取得された目標体が位置する目標通路と、前記ビデオデータにより取得された目標体が位置する目標通路とは同じであると判定した場合、目標通路に対する混合予警報情報を生成する。
ステップ1-1において、走査画像におけるエッジ領域を除去し、走査画像におけるコア領域に対応するサブ画像を得るように、前記車体収集アセンブリによって収集された走査データに含まれる走査画像に対して前処理を行う。
ステップ1-2において、走査画像におけるコア領域に対応するサブ画像を第1検出モデルに入力して、第1検出結果を得る。
ここで、前記第1検出モデルは、走査画像におけるコア領域に対応するサブ画像に対して特徴抽出を行って、コア領域の特徴マップを得、コア領域の特徴マップに目標体の少なくとも一部の局所特徴が存在するか否かを検出することに用いられる。
さらに、1つの具体的な例において、前記第1検出モデルは少なくとも第1ネットワーク層、第2ネットワーク層、及び第3ネットワーク層を含む。
さらに、前記第2ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップに基づいて、目標体の少なくとも一部の局所特徴が存在するか否かを予測し、確率値を得ることに用いられる。例えば、0より大きく1より小さい具体的な値が得られる。
さらに、前記第3ネットワーク層は、前記第2ネットワーク層によって得られた確率値を処理し、第1値又は第2値を得、前記第1検出結果は前記第1値又は第2値であり、前記第1値は、目標体の少なくとも一部の局所特徴が存在することを表すことに用いられ、前記第2値は、目標体の少なくとも一部の局所特徴が存在しないことを表すことに用いられる。
前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得る。ここで、前記第2検出モデルはビデオデータに目標体が存在するか否か(例えば、目標体の全体輪郭が存在するか否か)を識別することに用いられる。前記第2検出結果はビデオデータに目標体が存在するか否か、例えば目標体の全体輪郭が存在するか否かを表す。
理解すべきことは、前記第2検出モデルは目標体の輪郭全体を識別する一方、第1検出モデルは目標体の局所特徴を識別するため、従って、処理効率の点で、第1検出モデルの処理効率は第2検出モデルの処理効率よりも優れていてもよく、例えば、第1検出モデルの時間複雑度は前記第2検出モデルの時間複雑度より小さく、このように、粒度が異なる監視制御を効果的に確保すると共に、本開示の方案による通路監視制御方法の処理効率全体を効果的に向上する。
本開示の方案の1つの具体的な例において、以下の方式を用いて第2検出結果を得ることができる。具体的には、上記の前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得ることは、具体的には以下を含む。
ステップ2-1において、ビデオ画像セットを得るように、前記カメラによって収集されたビデオデータに対して前処理を行う。
ステップ2-2において、前記ビデオ画像セットにおける各ビデオ画像を第2検出モデルに入力して、ビデオ画像に対応するサブ結果を得る。例えば、各ビデオ画像に対応するサブ結果を得る。
ステップ2-3において、前記ビデオ画像セットの全てのビデオ画像のサブ結果のうち、少なくとも1つのサブ結果が第3値である場合、前記第3値を第2検出結果とし、あるいは、前記ビデオ画像セットの各ビデオ画像のサブ結果がいずれも第4値である場合、前記第4値を第2検出結果とする。前記第3値は目標体が存在することを表すことに用いられ、前記第4値は目標体が存在しないことを表すことに用いられる。
さらに、1つの具体的な例において、前記第2検出モデルは少なくとも第4ネットワーク層、第5ネットワーク層、及び第6ネットワーク層を含む。
さらに、前記第5ネットワーク層は前記少なくとも2つの緻密層における最後の緻密層により得られた接続特徴マップに対して特徴集約を行って、目標特徴マップを得ることに用いられる。
前記目標通路にAGVが走行しているか否かを判定することをさらに含み、
さらに、以上に記載のビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成することは具体的に、
AGVが走行していると判定した場合、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成することを含む。
ここで、前記予め設定された安全距離は経験値であり、実際のニーズに応じて設定することができ、本開示の方案ではこれを限定しない。
第1に、目標体検出の処理効率及び正確率を向上させる。本開示の方案は異なる監視制御データに対して、異なる検出モデルを用いて処理を行い、このように、検出の処理効率、及び目標体を識別する正確率を大幅に向上させることができる。
第2に、予警報への応答効率を向上させる。本開示の方案は異なる監視制御粒度のデータを監視制御し、通路内の安全状況を迅速に知ることができ、目標体が存在する通路に対して、予警報情報を迅速に生成することができ、このように、作業員がタイムリーに相応な処理措置を取ることに役立つ。
第3に、作業場の安全性を向上させる。本開示の方案は、巻糸パッケージ生産作業場内の安全上のトラブルの発生率を効果的に低下させるための技術的サポートを提供することができ、さらにAGV、生産装置の損傷を減少させ、及び人員の傷害を効果的に回避するための基礎を築き、このように、作業場の正常作動を最大限に確保し、及び作業場全体の安全性を向上させることができる。
無人搬送車AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得し、カメラによってビデオ収集領域内で収集されたビデオデータを取得するための取得ユニット501であって、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行し、前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含み、前記カメラは、複数のカメラのうちの1つであり、前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含む、取得ユニット501と、
前記車体収集アセンブリによって収集された走査データ及び/又は前記カメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、前記複数の監視制御対象通路のうちの1つであって、前記目標体が位置する目標通路を取得し、前記目標体が位置する目標通路の目標予警報情報を生成するための処理ユニット502と、を備える。
前記車体収集アセンブリによって収集された走査データに基づいて、走査データに目標体が存在すると判定した場合、走査データにおいて目標体が位置する目標通路を取得して、走査データにおいて目標体が位置する目標通路の走査予警報情報を生成することと、
前記カメラによって収集されたビデオデータに基づいて、ビデオデータに目標体が存在すると判定した場合、ビデオデータにおいて目標体が位置する目標通路を取得して、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成することと、
前記車体収集アセンブリによって収集された走査データに基づいて、走査データに目標体が存在すると判定した場合、走査データにおいて目標体が位置する目標通路を取得し、前記カメラによって収集されたビデオデータに基づいて、ビデオデータに目標体が存在すると判定した場合、ビデオデータにおいて目標体が位置する目標通路を取得し、走査データにより取得された目標体が位置する目標通路と、前記ビデオデータにより取得された目標体が位置する目標通路とは同じであると判定した場合、目標通路に対する混合予警報情報を生成することと、
のいずれか1つに用いられる。
本開示の方案の1つの具体的な例において、前記処理ユニットは、
前記車体収集アセンブリによって収集された走査データに含まれる走査画像を第1検出モデルに入力して、第1検出結果を得ることであって、前記第1検出モデルは画像に目標体の少なくとも一部の局所特徴が存在するか否かを識別することに用いられ、前記第1検出結果は走査データに含まれる走査画像に目標体が存在するか否かを表す、ことにさらに用いられる。
走査画像におけるエッジ領域を除去し、走査画像におけるコア領域に対応するサブ画像を得るように、前記車体収集アセンブリによって収集された走査データに含まれる走査画像に対して前処理を行うことと、
走査画像におけるコア領域に対応するサブ画像を第1検出モデルに入力して、第1検出結果を得ることと、に用いられ、
ここで、前記第1検出モデルは、走査画像におけるコア領域に対応するサブ画像に対して特徴抽出を行って、コア領域の特徴マップを得、コア領域の特徴マップに目標体の少なくとも一部の局所特徴が存在するか否かを検出することに用いられる。
ここで、前記第1ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップを得るように、コア領域に対応するサブ画像に対して特徴抽出を行うことに用いられ、ここで、少なくとも1つの特徴マップにおける特徴マップの数は、特徴マップの特徴ブロックのサイズと負の相関があり、
前記第2ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップに基づいて、目標体の少なくとも一部の局所特徴が存在するか否かを予測し、確率値を得ることに用いられ、
前記第3ネットワーク層は、確率値を処理し、目標体の少なくとも一部の局所特徴が存在することを表すための第1値、又は目標体の少なくとも一部の局所特徴が存在しないことを表すための第2値を得、前記第1検出結果は前記第1値又は第2値であることに用いられる。
本開示の方案の1つの具体的な例において、前記処理ユニットは、
前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得ることにさらに用いられ、ここで、前記第2検出モデルはビデオデータに目標体が存在するか否かを識別することに用いられ、前記第2検出結果はビデオデータに目標体が存在するか否かを表し、前記第2検出モデルの時間複雑度は前記第1検出モデルの時間複雑度より大きい。
ビデオ画像セットを得るように、前記カメラによって収集されたビデオデータに対して前処理を行うことであって、前記ビデオ画像セットは少なくとも1組の隣接する2フレームのビデオ画像を含み、前記隣接する2フレームのビデオ画像は、隣接する2フレームのビデオ画像の特徴マップ間の差異値は予め設定された差異値より大きい要件を満たす、ことと、
前記ビデオ画像セットにおける各ビデオ画像を第2検出モデルに入力して、ビデオ画像に対応するサブ結果を得ることと、
前記ビデオ画像セットの全てのビデオ画像のサブ結果のうち、少なくとも1つのサブ結果が、目標体が存在することを表すための第3値である場合、前記第3値を第2検出結果とし、あるいは、前記ビデオ画像セットの各ビデオ画像のサブ結果がいずれも、目標体が存在しないことを表すための第4値である場合、前記第4値を第2検出結果とすることと、に用いられる。
前記第4ネットワーク層は順に接続された少なくとも2つの緻密層を含み、ここで、直前の緻密層により得られた接続特徴マップは、次の緻密層の初期特徴マップとなり、前記2つの緻密層における緻密層は、初期特徴マップに対して畳み込み処理を行って、畳み込み特徴マップを得、初期特徴マップと畳み込み特徴マップとに対して接続処理を行って、接続特徴マップを得ることに用いられ、前記少なくとも2つの緻密層における最初の緻密層の初期特徴マップはビデオ画像に基づいて得られ、
前記第5ネットワーク層は前記少なくとも2つの緻密層における最後の緻密層により得られた接続特徴マップに対して特徴集約を行って、目標特徴マップを得ることに用いられ、
前記第6ネットワーク層は前記目標特徴マップに対して予測を行って、前記第3値又は前記第4値を得ることに用いられる。
ビデオデータにおいて目標体が位置する目標通路を取得した後、前記目標通路にAGVが走行しているか否かを判定することと、
AGVが走行していると判定した場合、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成することと、にさらに用いられる。
Claims (21)
- 無人搬送車AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得し、前記走査データに基づいて、前記走査データに第1目標体が存在すると判定した場合、前記第1目標体が位置する第1目標通路を取得することであって、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行し、前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含み、前記第1目標通路は前記複数の監視制御対象通路のうちの1つである、ことと、
カメラによってビデオ収集領域内で収集されたビデオデータを取得し、前記ビデオデータに基づいて、前記ビデオデータに第2目標体が存在すると判定した場合、前記第2目標体が位置する第2目標通路を取得することであって、前記カメラは、複数のカメラのうちの1つであり、前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含み、前記第2目標通路は前記複数の監視制御対象通路のうちの1つである、ことと、
前記第1目標体が位置する前記第1目標通路が、前記第2目標体が位置する前記第2目標通路と同じであるか否かを判定することと、
前記第1目標通路が前記第2目標通路と同じであると判定した場合に、該第1目標通路及び該第2目標通路に対する混合予警報情報を生成し、
前記第1目標通路が前記第2目標通路と異なると判定した場合に、前記走査データに対して前記第1目標通路に対する走査予警報情報を生成し、前記ビデオデータに対して前記第2目標通路に対するビデオ予警報情報を生成することであって、前記混合予警報情報、走査予警報情報、及びビデオ予警報情報は、三者の優先度が次第に低くなることと、を含む、
通路監視制御方法。 - 前記混合予警報情報に基づいて最高レベルの制御コマンドを生成し、前記最高レベルの制御コマンドは該第1目標通路及び該第2目標通路を走行しているAGVに現在の動作状態を一時停止状態に調整し、または現在の計画経路を調整するように制御することに用いられ、
前記走査予警報情報に基づいて次高レベルの制御コマンドを生成し、前記次高レベルの制御コマンドは前記第1目標通路を走行しているAGVに現在の走行速度を調整するように制御することに用いられ、
前記ビデオ予警報情報に基づいて提示情報を生成し、前記提示情報は一般的なレベルの危険を提示するように用いられる、
請求項1に記載の通路監視制御方法。 - 前記通路監視制御方法は、
前記車体収集アセンブリによって収集された走査データに含まれる走査画像を第1検出モデルに入力して、第1検出結果を得ることであって、前記第1検出モデルは画像に目標体の少なくとも一部の局所特徴が存在するか否かを識別することに用いられ、前記第1検出結果は走査データに含まれる走査画像に前記第1目標体が存在するか否かを表す、ことをさらに含む、
請求項1に記載の通路監視制御方法。 - 前記車体収集アセンブリによって収集された走査データに含まれる走査画像を第1検出モデルに入力して、第1検出結果を得ることは、
走査画像におけるエッジ領域を除去し、走査画像におけるコア領域に対応するサブ画像を得るように、前記車体収集アセンブリによって収集された走査データに含まれる走査画像に対して前処理を行うことと、
走査画像におけるコア領域に対応するサブ画像を第1検出モデルに入力して、第1検出結果を得ることと、を含み、
ここで、前記第1検出モデルは、走査画像におけるコア領域に対応するサブ画像に対して特徴抽出を行って、コア領域の特徴マップを得、コア領域の特徴マップに目標体の少なくとも一部の局所特徴が存在するか否かを検出することに用いられる、
請求項3に記載の通路監視制御方法。 - 前記第1検出モデルは少なくとも第1ネットワーク層、第2ネットワーク層、及び第3ネットワーク層を含み、
前記第1ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップを得るように、コア領域に対応するサブ画像に対して特徴抽出を行うことに用いられ、ここで、少なくとも1つの特徴マップにおける特徴マップの数は、特徴マップの特徴ブロックのサイズと負の相関があり、
前記第2ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップに基づいて、目標体の少なくとも一部の局所特徴が存在するか否かを予測し、確率値を得ることに用いられ、
前記第3ネットワーク層は、確率値を処理し、目標体の少なくとも一部の局所特徴が存在することを表すための第1値、又は目標体の少なくとも一部の局所特徴が存在しないことを表すための第2値を得、前記第1検出結果は前記第1値又は第2値であることに用いられる、
請求項4に記載の通路監視制御方法。 - 前記通路監視制御方法は、
前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得ることをさらに含み、ここで、前記第2検出モデルはビデオデータに目標体が存在するか否かを識別することに用いられ、前記第2検出結果はビデオデータに前記第2目標体が存在するか否かを表し、前記第2検出モデルの時間複雑度は前記第1検出モデルの時間複雑度より大きい、
請求項3に記載の通路監視制御方法。 - 前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得ることは、
ビデオ画像セットを得るように、前記カメラによって収集されたビデオデータに対して前処理を行うことであって、前記ビデオ画像セットは少なくとも1組の隣接する2フレームのビデオ画像を含み、前記隣接する2フレームのビデオ画像は、隣接する2フレームのビデオ画像の特徴マップ間の差異値は予め設定された差異値より大きい要件を満たす、ことと、
前記ビデオ画像セットにおける各ビデオ画像を第2検出モデルに入力して、ビデオ画像に対応するサブ結果を得ることと、
前記ビデオ画像セットの全てのビデオ画像のサブ結果のうち、少なくとも1つのサブ結果が、目標体が存在することを表すための第3値である場合、前記第3値を第2検出結果とし、あるいは、前記ビデオ画像セットの各ビデオ画像のサブ結果がいずれも、目標体が存在しないことを表すための第4値である場合、前記第4値を第2検出結果とすることと
、を含む、
請求項6に記載の通路監視制御方法。 - 前記第2検出モデルは少なくとも第4ネットワーク層、第5ネットワーク層、及び第6ネットワーク層を含み、
前記第4ネットワーク層は順に接続された少なくとも2つの緻密層を含み、ここで、直前の緻密層により得られた接続特徴マップは、次の緻密層の初期特徴マップとなり、前記2つの緻密層における緻密層は、初期特徴マップに対して畳み込み処理を行って、畳み込み特徴マップを得、初期特徴マップと畳み込み特徴マップとに対して接続処理を行って、接続特徴マップを得ることに用いられ、前記少なくとも2つの緻密層における最初の緻密層の初期特徴マップはビデオ画像に基づいて得られ、
前記第5ネットワーク層は前記少なくとも2つの緻密層における最後の緻密層により得られた接続特徴マップに対して特徴集約を行って、目標特徴マップを得ることに用いられ、
前記第6ネットワーク層は前記目標特徴マップに対して予測を行って、前記第3値又は前記第4値を得ることに用いられる、
請求項7に記載の通路監視制御方法。 - 前記通路監視制御方法は、ビデオデータにおいて前記第2目標体が位置する第2目標通路を取得した後、
前記第2目標通路にAGVが走行しているか否かを判定することをさらに含み、
ここで、前記ビデオデータに対して前記第2目標通路に対するビデオ予警報情報を生成することは、
AGVが走行していると判定した場合、ビデオデータにおいて前記第2目標体が位置する前記第2目標通路のビデオ予警報情報を生成することを含む、
請求項1に記載の通路監視制御方法。 - 無人搬送車AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得し、前記走査データに基づいて、前記走査データに第1目標体が存在すると判定した場合、前記第1目標体が位置する第1目標通路を取得し、カメラによってビデオ収集領域内で収集されたビデオデータを取得し、前記ビデオデータに基づいて、前記ビデオデータに第2目標体が存在すると判定した場合、前記第2目標体が位置する第2目標通路を取得するための取得ユニットであって、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行し、前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含み、前記第1目標通路は前記複数の監視制御対象通路のうちの1つであり、前記カメラは、複数のカメラのうちの1つであり、前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含み、前記第2目標通路は前記複数の監視制御対象通路のうちの1つである、取得ユニットと、
前記第1目標体が位置する前記第1目標通路が、前記第2目標体が位置する前記第2目標通路と同じであるか否かを判定し、前記第1目標通路が前記第2目標通路と同じであると判定した場合に、該第1目標通路及び該第2目標通路に対する混合予警報情報を生成し、前記第1目標通路が前記第2目標通路と異なると判定した場合に、前記走査データに対して前記第1目標通路に対する走査予警報情報を生成し、前記ビデオデータに対して前記第2目標通路に対するビデオ予警報情報を生成するための処理ユニットであって、前記混合予警報情報、走査予警報情報、及びビデオ予警報情報は、三者の優先度が次第に低くなる、処理ユニットと、を備える、
通路監視制御装置。 - 前記処理ユニットは、
前記混合予警報情報に基づいて最高レベルの制御コマンドを生成し、前記最高レベルの制御コマンドは該第1目標通路及び該第2目標通路を走行しているAGVに現在の動作状態を一時停止状態に調整し、または現在の計画経路を調整するように制御することに用いられ、
前記走査予警報情報に基づいて次高レベルの制御コマンドを生成し、前記次高レベルの制御コマンドは前記第1目標通路を走行しているAGVに現在の走行速度を調整するように制御することに用いられ、
前記ビデオ予警報情報に基づいて提示情報を生成し、前記提示情報は一般的なレベルの危険を提示するように用いられる、
ことにさらに用いられる、
請求項10に記載の通路監視制御装置。 - 前記処理ユニットは、
前記車体収集アセンブリによって収集された走査データに含まれる走査画像を第1検出モデルに入力して、第1検出結果を得ることであって、前記第1検出モデルは画像に目標体の少なくとも一部の局所特徴が存在するか否かを識別することに用いられ、前記第1検出結果は走査データに含まれる走査画像に前記第1目標体が存在するか否かを表す、ことにさらに用いられる、
請求項10に記載の通路監視制御装置。 - 前記処理ユニットは具体的に、
走査画像におけるエッジ領域を除去し、走査画像におけるコア領域に対応するサブ画像を得るように、前記車体収集アセンブリによって収集された走査データに含まれる走査画像に対して前処理を行うことと、
走査画像におけるコア領域に対応するサブ画像を第1検出モデルに入力して、第1検出結果を得ることと、に用いられ、
ここで、前記第1検出モデルは、走査画像におけるコア領域に対応するサブ画像に対して特徴抽出を行って、コア領域の特徴マップを得、コア領域の特徴マップに目標体の少なくとも一部の局所特徴が存在するか否かを検出することに用いられる、
請求項12に記載の通路監視制御装置。 - 前記第1検出モデルは少なくとも第1ネットワーク層、第2ネットワーク層、及び第3ネットワーク層を含み、
前記第1ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップを得るように、コア領域に対応するサブ画像に対して特徴抽出を行うことに用いられ、ここで、少なくとも1つの特徴マップにおける特徴マップの数は、特徴マップの特徴ブロックのサイズと負の相関があり、
前記第2ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップに基づいて、目標体の少なくとも一部の局所特徴が存在するか否かを予測し、確率値を得ることに用いられ、
前記第3ネットワーク層は、確率値を処理し、目標体の少なくとも一部の局所特徴が存在することを表すための第1値、又は目標体の少なくとも一部の局所特徴が存在しないことを表すための第2値を得、前記第1検出結果は前記第1値又は第2値であることに用いられる、
請求項13に記載の通路監視制御装置。 - 前記処理ユニットは、
前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得ることにさらに用いられ、ここで、前記第2検出モデルはビデオデータに目標体が存在するか否かを識別することに用いられ、前記第2検出結果はビデオデータに前記第2目標体が存在するか否かを表し、前記第2検出モデルの時間複雑度は前記第1検出モデルの時間複雑度より大きい、
請求項12に記載の通路監視制御装置。 - 前記処理ユニットは具体的に、
ビデオ画像セットを得るように、前記カメラによって収集されたビデオデータに対して前処理を行うことであって、前記ビデオ画像セットは少なくとも1組の隣接する2フレームのビデオ画像を含み、前記隣接する2フレームのビデオ画像は、隣接する2フレームのビデオ画像の特徴マップ間の差異値は予め設定された差異値より大きい要件を満たす、ことと、
前記ビデオ画像セットにおける各ビデオ画像を第2検出モデルに入力して、ビデオ画像に対応するサブ結果を得ることと、
前記ビデオ画像セットの全てのビデオ画像のサブ結果のうち、少なくとも1つのサブ結果が、目標体が存在することを表すための第3値である場合、前記第3値を第2検出結果とし、あるいは、前記ビデオ画像セットの各ビデオ画像のサブ結果がいずれも、目標体が存在しないことを表すための第4値である場合、前記第4値を第2検出結果とすることと、に用いられる、
請求項15に記載の通路監視制御装置。 - 前記第2検出モデルは少なくとも第4ネットワーク層、第5ネットワーク層、及び第6ネットワーク層を含み、
前記第4ネットワーク層は順に接続された少なくとも2つの緻密層を含み、ここで、直前の緻密層により得られた接続特徴マップは、次の緻密層の初期特徴マップとなり、前記2つの緻密層における緻密層は、初期特徴マップに対して畳み込み処理を行って、畳み込み特徴マップを得、初期特徴マップと畳み込み特徴マップとに対して接続処理を行って、接続特徴マップを得ることに用いられ、前記少なくとも2つの緻密層における最初の緻密層の初期特徴マップはビデオ画像に基づいて得られ、
前記第5ネットワーク層は前記少なくとも2つの緻密層における最後の緻密層により得られた接続特徴マップに対して特徴集約を行って、目標特徴マップを得ることに用いられ、
前記第6ネットワーク層は前記目標特徴マップに対して予測を行って、前記第3値又は前記第4値を得ることに用いられる、
請求項16に記載の通路監視制御装置。 - 前記処理ユニットは、
ビデオデータにおいて前記第2目標体が位置する第2目標通路を取得した後、前記第2目標通路にAGVが走行しているか否かを判定することと、
AGVが走行していると判定した場合、ビデオデータにおいて前記第2目標体が位置する第2目標通路のビデオ予警報情報を生成することと、にさらに用いられる、
請求項10から請求項14のいずれか1項に記載の通路監視制御装置。 - 少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサと通信接続されるメモリと、を備え、
前記メモリには、前記少なくとも1つのプロセッサで実行可能な命令が記憶され、前記命令は、前記少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサに、請求項1から請求項9のいずれか1項に記載の通路監視制御方法を実行させる、電子デバイス。 - コンピュータに請求項1から請求項9のいずれか1項に記載の通路監視制御方法を実行させるコンピュータ命令を記憶した非一時的なコンピュータ可読記憶媒体。
- プロセッサにより実行されると、請求項1から請求項9のいずれか1項に記載の通路監視制御方法を実現するためのプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310830901.2A CN116939160A (zh) | 2023-07-06 | 2023-07-06 | 一种通道监控方法、装置、设备以及存储介质 |
CN202310830901.2 | 2023-07-06 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP7450794B1 true JP7450794B1 (ja) | 2024-03-15 |
Family
ID=88391763
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023198740A Active JP7450794B1 (ja) | 2023-07-06 | 2023-11-24 | 通路監視制御方法、装置、デバイス、記憶媒体及びプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7450794B1 (ja) |
CN (1) | CN116939160A (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019139548A (ja) | 2018-02-13 | 2019-08-22 | セイコーエプソン株式会社 | 搬送車の走行制御システム、及び、搬送車の走行制御方法 |
JP2023076406A (ja) | 2021-11-22 | 2023-06-01 | ビッグハブソリューション インコーポレーテッド | 映像収集装置を活用した遠隔転倒有無確認判別システム |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103935365B (zh) * | 2014-05-14 | 2016-04-13 | 袁培江 | 一种新型物料搬运自动引导车智能防撞系统 |
CN108100079A (zh) * | 2018-02-01 | 2018-06-01 | 西华大学 | 一种新型全向轮行走及防碰撞系统 |
US11364903B2 (en) * | 2018-09-28 | 2022-06-21 | Logistics and Supply Chain MultiTech R&D Centre Limited | Automated guide vehicle with a collision avoidance apparatus |
CN210455023U (zh) * | 2019-09-12 | 2020-05-05 | 东莞市顺尔鸿自动化有限公司 | 一种无轨牵引式agv输送装置 |
CN111796590A (zh) * | 2019-09-24 | 2020-10-20 | 北京京东乾石科技有限公司 | 避障的控制方法、装置、物品搬运系统和可读存储介质 |
CN110737274B (zh) * | 2019-11-01 | 2022-07-15 | 牧星机器人(江苏)有限公司 | 一种agv避障方法、系统、agv及存储介质 |
CN111950420A (zh) * | 2020-08-04 | 2020-11-17 | 国以贤智能科技(上海)股份有限公司 | 一种避障方法、装置、设备和存储介质 |
CN113888557A (zh) * | 2021-09-22 | 2022-01-04 | 山东师范大学 | 一种基于rgb-d特征融合的场景语义分割方法及系统 |
CN215679136U (zh) * | 2021-09-27 | 2022-01-28 | 东风本田发动机有限公司 | 导航系统和agv小车 |
CN115526556A (zh) * | 2022-06-27 | 2022-12-27 | 上海力嘉物流科技有限公司 | 一种物流仓储管理系统 |
-
2023
- 2023-07-06 CN CN202310830901.2A patent/CN116939160A/zh active Pending
- 2023-11-24 JP JP2023198740A patent/JP7450794B1/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019139548A (ja) | 2018-02-13 | 2019-08-22 | セイコーエプソン株式会社 | 搬送車の走行制御システム、及び、搬送車の走行制御方法 |
JP2023076406A (ja) | 2021-11-22 | 2023-06-01 | ビッグハブソリューション インコーポレーテッド | 映像収集装置を活用した遠隔転倒有無確認判別システム |
Also Published As
Publication number | Publication date |
---|---|
CN116939160A (zh) | 2023-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110893858A (zh) | 一种智能驾驶方法及智能驾驶系统 | |
JP6389976B1 (ja) | 車両施設監視システム | |
JP7338637B2 (ja) | 交通支援システム、サーバ及び方法、車載装置及びその動作方法、コンピュータプログラム、記録媒体、コンピュータ、並びに半導体集積回路 | |
KR20200018612A (ko) | 물체 검출을 위한 방법, 장치 및 기기 | |
DE102017129076A1 (de) | Autonomer schulbus | |
WO2020098506A1 (zh) | 路口状态检测方法、装置、电子设备及车辆 | |
JP6275351B1 (ja) | 事故防止システム、方法及びプログラム | |
CN110175533A (zh) | 高架桥交通状况实时监测方法、装置、终端及存储介质 | |
JP7450794B1 (ja) | 通路監視制御方法、装置、デバイス、記憶媒体及びプログラム | |
CN114022846A (zh) | 作业车辆的防碰撞监控方法、装置、设备和介质 | |
CN110203787A (zh) | 一种电梯轿厢中人员异常受困的检测方法及系统 | |
CN113850400A (zh) | 一种巡检辅助判断方法及系统 | |
CN116788788A (zh) | 控制方法、装置、设备及存储介质 | |
CN117237935A (zh) | 一种空间物体的识别方法、装置、电子设备及存储介质 | |
CN116740617A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN116597422A (zh) | 一种基于图像数据的道路预警方法、装置及电子设备 | |
KR20140056674A (ko) | 사고 처리 지원 방법 및 이를 위한 장치 | |
CN116409716A (zh) | 起重机运行状态监控系统和方法 | |
CN115147929A (zh) | 一种施工场景监控方法、装置、设备及存储介质 | |
CN115631626A (zh) | 一种车辆数据监控分析方法、装置、设备及介质 | |
CN115829182B (zh) | 基于可变地理围栏的工程机械派工方法和装置 | |
US12005581B1 (en) | Control method, electronic device and storage medium | |
CN113911923B (zh) | 用于起重机的控制方法及装置、控制器和起重机 | |
WO2018123053A1 (ja) | 事故防止システム、方法及びプログラム | |
CN116543189B (zh) | 一种目标检测方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231124 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20231124 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231208 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240208 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240227 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240305 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7450794 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |