JP7450794B1 - 通路監視制御方法、装置、デバイス、記憶媒体及びプログラム - Google Patents

通路監視制御方法、装置、デバイス、記憶媒体及びプログラム Download PDF

Info

Publication number
JP7450794B1
JP7450794B1 JP2023198740A JP2023198740A JP7450794B1 JP 7450794 B1 JP7450794 B1 JP 7450794B1 JP 2023198740 A JP2023198740 A JP 2023198740A JP 2023198740 A JP2023198740 A JP 2023198740A JP 7450794 B1 JP7450794 B1 JP 7450794B1
Authority
JP
Japan
Prior art keywords
target
video
target object
passage
feature map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023198740A
Other languages
English (en)
Inventor
ワン,ペン
ペン,シャンタオ
リー,デイク
リウ,ミンジー
スー,フェン
シェン,ジュン
Original Assignee
チョーチアン ヘンイー ペトロケミカル カンパニー,リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by チョーチアン ヘンイー ペトロケミカル カンパニー,リミテッド filed Critical チョーチアン ヘンイー ペトロケミカル カンパニー,リミテッド
Application granted granted Critical
Publication of JP7450794B1 publication Critical patent/JP7450794B1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G05D1/0248Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means in combination with a laser
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B31/00Predictive alarm systems characterised by extrapolation or other computation using updated historic data

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Signal Processing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Emergency Management (AREA)
  • Electromagnetism (AREA)
  • Optics & Photonics (AREA)
  • Remote Sensing (AREA)
  • Artificial Intelligence (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Traffic Control Systems (AREA)
  • Alarm Systems (AREA)

Abstract

【課題】巻糸パッケージ生産作業場における通路監視制御方法を提供する。【解決手段】方法は、巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要があるAGVの車体周辺領域内で収集された走査データを取得することと、複数のカメラのうちの1つにより、複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことと、車体収集アセンブリによって収集された走査データ及び/又はカメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、目標体が位置する目標通路を取得することと、目標体が位置する目標通路の目標予警報情報を生成することと、を含む。【選択図】図1

Description

本開示は、データ処理技術分野に関し、特に通路監視制御方法、装置、デバイス、記憶媒体及びプログラムに関する。
巻糸パッケージ生産作業場において、無人搬送車(Automated Guided Vehicle、AGV)は重要な輸送手段であり、一般的に、無人搬送車両は所定の経路に従って走行し、該経路に作業員が現れると、安全事故、ひいては人員の死傷を引き起こす恐れがあり、従って、上記問題を効果的に解決するため、効果的な監視制御方法が必要となる。
本開示は、従来技術における1つ又は複数の技術的問題を解決又は緩和するために、通路監視制御方法、装置、デバイス、記憶媒体及びプログラムを提供する。
第1態様では、本開示は通路監視制御方法を提供し、当該方法は、
無人搬送車AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得することであって、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行し、前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含む、ことと、
カメラによってビデオ収集領域内で収集されたビデオデータを取得することであって、前記カメラは、複数のカメラのうちの1つであり、前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含む、ことと、
前記車体収集アセンブリによって収集された走査データ及び/又は前記カメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、前記目標体が位置する目標通路を取得し、前記目標通路は前記複数の監視制御対象通路のうちの1つである、ことと、
前記目標体が位置する目標通路の目標予警報情報を生成することと、を含む。
第2態様では、本開示は通路監視制御装置を提供し、当該装置は、
無人搬送車AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得し、カメラによってビデオ収集領域内で収集されたビデオデータを取得するための取得ユニットであって、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行し、前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含み、前記カメラは、複数のカメラのうちの1つであり、前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含む、取得ユニットと、
前記車体収集アセンブリによって収集された走査データ及び/又は前記カメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、前記複数の監視制御対象通路のうちの1つであって、前記目標体が位置する目標通路を取得し、前記目標体が位置する目標通路の目標予警報情報を生成するための処理ユニットと、を備える。
第3態様では、本開示は電子デバイスを提供し、該デバイスは、
少なくとも1つのプロセッサと、
該少なくとも1つのプロセッサと通信接続されるメモリと、を備え、
該メモリには、該少なくとも1つのプロセッサで実行可能な命令が記憶され、該命令は、該少なくとも1つのプロセッサによって実行されると、本開示の実施例におけるいずれか1つの方法を実行させる。
第4態様では、本開示の実施例におけるいずれか1つの方法をコンピュータに実行させるためのコンピュータ命令を記憶した非一時的コンピュータ可読記憶媒体を提供する。
第5態様では、プロセッサにより実行されると、本開示の実施例におけるいずれか1つの方法を実現するためのプログラムを提供する。
このように、本開示の方案によれば、取得された走査データ及び/又はビデオデータを検出することができ、これにより、予警報情報への応答効率を効果的に向上させると共に、異なる粒度の監視制御データによって、トラブルシューティングの効率を効果的に向上させるための基礎を築く。
ここに記載された内容は、本開示の実施例のキーポイント又は重要な特徴を記述することを意図せず、また、本開示の範囲を制限することにも用いられないことを理解すべきである。本開示の他の特徴については、下記の明細書を通して理解を促す。
添付の図面において、別段説明がない限り、複数の図面を通して同一の番号は同一又は類似の部品又は要素を表す。これらの添付図面は、必ずしも縮尺通りに描かれていない。これらの図面は、本開示により提供されるいくつかの実施形態のみを示し、本開示の範囲を限定するものと見なされるべきではないことを理解されたい。
本開示の一実施例による通路監視制御方法の概略フローチャートその一である。 本開示の一実施例による第1検出モデルの構成を示す概略図である。 本開示の一実施例による2つの緻密層を含む第4ネットワーク層の構成を示す概略図である。 本開示の一実施例による第2検出モデルの構成を示す概略図である。 本開示の一実施例による通路監視制御装置の構成を示す概略図である。 本開示の実施例による通路監視制御方法の電子デバイスのブロック図である。
以下、添付の図面を参照して本開示についてさらに詳細に説明する。添付の図面において、同一の参照番号は、機能的に同一又は類似の要素を表す。また、添付の図面において、実施形態の様々な態様が示されているが、別段説明がない限り、これらの添付の図面は、必ずしも縮尺通りに描かれていない。
さらに、本開示をよりよく説明するために、以下の具体的な実施形態にて多くの具体的な詳細を記載されている。当業者は、本開示が特定の詳細がなくても同様に実施され得ることを理解すべきである。いくつかの実施例では、本開示の主旨を不明瞭とならないように、当業者によく知られている方法、手段、構成要素、及び回路などは詳細に説明されていない。
現在、巻糸パッケージ生産作業場において、生産された巻糸パッケージは一般的に無人搬送車(Automated Guided Vehicle、AGV)によって指定された位置に搬送されるが、AGVを使用する巻糸パッケージ生産作業場において、人と車両が混在して走行することがあり、特に通路が狭い場合、衝突事故が発生する恐れがあり、AGVの破損をもたらし、ひいては人員の死傷を引き起こすことがある。従って、AGVの損傷を減少させ且つ人員の傷害を効果的に回避するために、リアルタイムで効率的な監視制御方法が必要である。
これに基づき、本開示の方案は通路監視制御方法を提供し、それによりAGVが走行しようとする複数の通路をリアルタイム且つ効率的に監視制御する。
具体的には、図1は本出願の一実施例による通路監視制御方法の概略フローチャートその一である。この方法は、任意選択で、パーソナルコンピュータ、サーバ、サーバクラスタなどの電子デバイスに適用される。この方法は、少なくとも以下の内容の少なくとも一部を含む。図1に示すように、以下を含む。
ステップS101において、AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得する。
ここで、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行する。前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含む。
一例では、AGVの先頭に車体収集アセンブリ(例えば、レーザレーダ)が設けられる。さらに、前記AGVの車尾に車体収集アセンブリ(例えば、レーザレーダ)が設けられてもよく、このように、監視制御対象通路におけるAGVは常に走行進行方向においてデータを収集することができる。
ステップS102において、カメラによってビデオ収集領域内で収集されたビデオデータを取得する。
ここで、前記カメラは複数のカメラのうちの1つであり、前記カメラは前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含む。
理解すべきことは、同一の監視制御対象通路に少なくとも1つのカメラを設置することができ、監視制御対象通路を監視制御することに用いられる。さらに、同一の監視制御対象通路に2つ又は2つ以上のカメラが設置された場合、異なるカメラのビデオ収集領域は異なってもよく、監視制御対象通路を監視制御できればよく、本開示の方案はカメラが設置される具体的な位置を限定しない。さらに、異なる監視制御対象通路に設置されるカメラの数は、同じであってもよく、異なっていてもよく、本開示の方案ではこれを限定しない。
ステップS103において、前記車体収集アセンブリによって収集された走査データ及び/又は前記カメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、前記目標体が位置する目標通路を取得する。
ここで、前記目標通路は複数の監視制御対象通路のうちの1つである。
理解すべきことは、本開示の方案は前記車体収集アセンブリによって収集された走査データに基づいて目標体が存在すると判定した場合、前記目標体が位置する目標通路を取得することができ、あるいは、前記カメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、前記目標体が位置する目標通路を取得することができ、あるいは、前記車体収集アセンブリによって収集された走査データ及び前記カメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、前記目標体が位置する目標通路を取得することができる。
一例では、前記目標体は、具体的には人、作業を停止しているAGVの少なくとも1つを含むことができるがこれらに限定されない。
ステップS104において、前記目標体が位置する目標通路の目標予警報情報を生成する。
一例では、前記目標予警報情報は予め設定された予警報信号を含み、例えば、予警報オーディオ(例えば、予め設定された放送)、予警報信号灯、予警報電話などであり、本開示の方案はこれを限定しない。
したがって、本開示の方案は、取得された走査データ及び/又はビデオデータに基いて、目標体が存在するか否かを検出することができ、それにより目標体が位置する目標通路を迅速に測位し、さらに目標通路に対する目標予警報情報を生成し、このように、予警報情報への応答効率を効果的に向上させると共に、異なる粒度の監視制御データによって、トラブルシューティングの効率を効果的に向上させるための基礎を築く。
さらに、巻糸パッケージ生産の応用シシナリオにおいて、本開示の方案は生成された予警報情報に基づき、作業員に迅速に通知することができ、それによりタイムリーに回避し又は危険排除を行うことができ、このように、AGVや生産装置の損傷を効果的に減少させると共に人員の傷害を効果的に回避するための技術的サポートを提供し、さらに作業場の正常作動を最大限に確保し、作業場の安全性を向上させるための技術的サポートを提供する。
本開示の方案の1つの具体的な例において、以下の方式を用いて前記目標体が位置する目標通路の目標予警報情報を得ることができる。具体的には、以上に記載の前記車体収集アセンブリによって収集された走査データ及び/又は前記カメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、前記目標体が位置する目標通路を取得し、前記目標体が位置する目標通路の目標予警報情報を生成すること(即ち以上に記載のステップS103)は、具体的には以下のいずれか1つを含む。
方式1において、前記車体収集アセンブリによって収集された走査データに基づいて、走査データに目標体が存在すると判定した場合、走査データにおいて目標体が位置する目標通路を取得し、走査データにおいて目標体が位置する目標通路の走査予警報情報を生成する。
理解すべきことは、方式1において、AGVの車体収集アセンブリによって収集された走査データを検出することができ、それにより目標体が存在するか否かを判定し、且つ目標体が存在すると判定した場合、走査データにおいて目標体が位置する目標通路を取得し、この時、走査データにおいて目標体が位置する目標通路の走査予警報情報を直接生成する。
方式2において、前記カメラによって収集されたビデオデータに基づいて、ビデオデータに目標体が存在すると判定した場合、ビデオデータにおいて目標体が位置する目標通路を取得し、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成する。
理解すべきことは、方式2において、カメラによってビデオ収集領域内で収集されたビデオデータを検出することができ、それにより目標体が存在するか否かを判定し、且つ目標体が存在すると判定した場合、ビデオデータにおいて目標体が位置する目標通路を取得し、この時、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を直接生成する。
なお、以上の前記走査データに存在する「目標体」と、前記ビデオデータに存在する「目標体」とは同一の「目標体」であってもよく、異なる2つの「目標体」であってもよく、本開示の方案ではこれを限定しない。
方式3において、前記車体収集アセンブリによって収集された走査データに基づいて、走査データに目標体が存在すると判定した場合、走査データにおいて目標体が位置する目標通路を取得し、前記カメラによって収集されたビデオデータに基づいて、ビデオデータに目標体が存在すると判定した場合、ビデオデータにおいて目標体が位置する目標通路を取得し、走査データにより取得された目標体が位置する目標通路と、前記ビデオデータにより取得された目標体が位置する目標通路とは同じであると判定した場合、目標通路に対する混合予警報情報を生成する。
つまり、方式3において、走査データに目標体が存在すると判定した場合、予警報情報を直接生成せず、また、ビデオデータに目標体が存在すると判定した場合も、予警報情報を直接生成せず、該走査データにおいて目標体が位置する目標通路が、該ビデオデータにおいて目標体が位置する目標通路と同じであるか否かをさらに判定するようにし、さらに、走査データにおいて目標体が位置する目標通路が、該ビデオデータにおいて目標体が位置する目標通路と同じである場合に、混合予警報情報を生成する。あるいは、走査データにおいて目標体が位置する目標通路が、該ビデオデータにおいて目標体が位置する目標通路と異なる場合、走査データに対して、走査データにおいて目標体が位置する目標通路の走査予警報情報を生成し、ビデオデータに対して、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成することができる。
例えば、一例では、車体収集アセンブリによって収集された走査データを検出し、走査データに作業員甲が存在することが判定され、さらに作業員甲が位置する目標通路が取得され、また、カメラによってビデオ収集領域内で収集されたビデオデータを検出し、ビデオデータにも作業員甲が存在することが判定され、さらに作業員甲が位置する目標通路が取得された場合、この時、車体収集アセンブリによって収集された領域及びカメラによって収集された領域はいずれも同一の監視制御対象通路に対応していること、即ち両者の目標通路は同一であることを示し、これに基づき、目標通路に対する混合予警報情報を生成する。
あるいは、別の例では、車体収集アセンブリによって収集された走査データを検出し、走査データに作業員甲が存在すると判定され、さらに作業員甲が位置する目標通路が取得され、また、カメラによってビデオ収集領域内で収集されたビデオデータを検出し、ビデオデータに作業員乙が存在すると判定され、さらに作業員乙が位置する目標通路が取得された場合、この時、両者の目標通路が同じである、すなわち同じ通路に属している場合、同じ目標通路内に作業員甲と作業員乙が同時に存在していると判定することができ、この時、目標通路に対する混合予警報情報を生成する。
また、別の例では、車体収集アセンブリによって収集された走査データを検出し、走査データに作業員甲が存在すると判定され、さらに作業員甲が位置する目標通路が取得され、また、カメラによってビデオ収集領域内で収集されたビデオデータを検出し、ビデオデータに作業員乙が存在すると判定され、さらに作業員乙が位置する目標通路が取得された場合、この時、両者の目標通路が異なる場合、2つの異なる目標通路において、いずれも作業員が存在すると判定することができ、この時、各目標通路に対して各々の予警報情報を生成し、例えば、走査データに対して、走査データにおいて目標体が位置する目標通路の走査予警報情報を生成し、ビデオデータに対して、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成する。
なお、実際の応用において、異なるシナリオのニーズに応じて、以上の三つの方式のうちのいずれか1つを選択して予警報情報を生成することができ、又はそのうちの2つを選択してもよく、3つのすべてを選択してもよく、本開示の方案ではこれを限定しない。
本開示の方案の1つの具体的な例において、前記混合予警報情報、走査予警報情報、及びビデオ予警報情報は、三者の優先度が次第に低くなる。
すなわち、この例では、前記混合予警報情報の優先度は走査予警報情報よりも高く、前記走査予警報情報はビデオ予警報情報よりも高い。
理解すべきことは、異なる優先度の予警報情報は異なってもよく、このようにすることで、作業員が現在の予警報情報の優先度を明確に区別しやすく、それによって監視制御の粒度をさらに改善することができる。
さらに、以上に記載の優先度に基づき、異なる処理措置を設定することができる。例えば、方式3で生成された混合予警報情報は、最高レベルの危険に属しており、この時、混合予警報情報を生成すると共に、さらに目標通路を走行しているAGVを遠隔制御する最高レベルの制御コマンドを生成することができ、該最高レベルの制御コマンドはAGVに現在の動作状態を調整するように制御することに用いられ、例えば、現在の正常動作状態から一時停止状態に調整し、且つ予め設定された時間で停止した後、正常動作状態に回復し、あるいは、目標体を回避するように、現在の計画経路を調整する等である。
また、例えば、方式1で生成された走査予警報情報は、次高レベルの危険に属しており、この時、走査予警報情報を生成すると共に、さらに目標通路が走行しているAGVを遠隔制御する次高レベルの制御コマンドを生成することができ、該次高レベルの制御コマンドはAGVに現在の走行速度を調整するように制御することに用いられ、例えば、減速処理等である。また、例えば、方式2で生成されたビデオ予警報情報は、一般的なレベルの危険に属しており、この時、ビデオ予警報情報のみを生成し、作業員に提示する。
このように、異なる予警報状況に対して、相応する応急措置を行うことができ、監視制御の粒度を大幅に改善し、作業場の正常作動を最大限に確保し、作業場での作業の安全性を向上させるための基礎を築く。
本開示の方案の1つの具体的な例において、走査データを取得した後、以下の方式を用いて走査データに目標体が存在するか否かを判定することができ、具体的なプロセスは以下を含む。
前記車体収集アセンブリによって収集された走査データに含まれる走査画像を第1検出モデルに入力して、第1検出結果を得る。ここで、前記第1検出モデルは画像に目標体の少なくとも一部の局所特徴が存在するか否かを識別することに用いられ、前記第1検出結果は走査データに含まれる走査画像に目標体が存在するか否かを表す。
理解すべきことは、走査データに含まれる走査画像は目標体の少なくとも一部の局所特徴を含む可能性があり、例えば作業員の肢体部位である。この時、第1検出モデルを用いて走査画像を識別して、目標体の少なくとも一部の局所特徴が存在するか否かを判定し、さらに走査データに含まれる走査画像に目標体が存在するか否かを判定する。
さらに、1つの具体的な例において、以下の方式を用いて第1検出結果を得ることができる。具体的には、前記車体収集アセンブリによって収集された走査データに含まれる走査画像を第1検出モデルに入力して、第1検出結果を得ることは、具体的には以下を含む。
ステップ1-1において、走査画像におけるエッジ領域を除去し、走査画像におけるコア領域に対応するサブ画像を得るように、前記車体収集アセンブリによって収集された走査データに含まれる走査画像に対して前処理を行う。
例えば、走査画像におけるエッジ領域を除去し、走査画像において通路が位置する領域(即ちコア領域)を保留し、さらに走査画像における通路の領域(即ちコア領域)に対応するサブ画像を得、このように、後続の第1検出モデルを用いて画像識別を行う識別処理の効率を効果的に向上させ、更にモデルの処理効率を向上させる。
理解すべきことは、上述の前処理は、走査データに含まれる走査画像に対して画像スケーリング処理、画像中の画素値の正規化処理などを実行することをさらに含み得る。
ステップ1-2において、走査画像におけるコア領域に対応するサブ画像を第1検出モデルに入力して、第1検出結果を得る。
ここで、前記第1検出モデルは、走査画像におけるコア領域に対応するサブ画像に対して特徴抽出を行って、コア領域の特徴マップを得、コア領域の特徴マップに目標体の少なくとも一部の局所特徴が存在するか否かを検出することに用いられる。
さらに、1つの具体的な例において、前記第1検出モデルは少なくとも第1ネットワーク層、第2ネットワーク層、及び第3ネットワーク層を含む。
ここで、前記第1ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップを得るように、コア領域に対応するサブ画像に対して特徴抽出を行うことに用いられ、ここで、少なくとも1つの特徴マップにおける特徴マップの数は、特徴マップの特徴ブロックのサイズと負の相関がある。さらに、一例では、前記第1ネットワーク層はサブ画像に対して特徴抽出を行う過程において、抽出された特徴マップの特徴ブロックのサイズを低下させることができ、例えばプリセット値まで低下させ、それにより特徴マップの数を増加させ、このように、モデルの複雑度を保証する前提で、豊富な特徴情報を得、さらにモデル識別結果の精度を向上させる。
さらに、前記第2ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップに基づいて、目標体の少なくとも一部の局所特徴が存在するか否かを予測し、確率値を得ることに用いられる。例えば、0より大きく1より小さい具体的な値が得られる。
さらに、前記第3ネットワーク層は、前記第2ネットワーク層によって得られた確率値を処理し、第1値又は第2値を得、前記第1検出結果は前記第1値又は第2値であり、前記第1値は、目標体の少なくとも一部の局所特徴が存在することを表すことに用いられ、前記第2値は、目標体の少なくとも一部の局所特徴が存在しないことを表すことに用いられる。
例えば、一例では、以上に記載の第1ネットワーク層は深さ残差ネットワーク(Deep residual network、ResNet)層であってもよく、さらに、以上に記載の第2ネットワーク層は多層パーセプトロン(MultiLayer Perceptron、MLP)層であってもよく、さらに、前記第3ネットワーク層は非線形活性化層であってもよく、例えばS字型曲線(Sigmoid)関数層であり、図2に示すように、まず、走査画像におけるコア領域に対応するサブ画像を第1検出モデルにおけるResNet層に入力して、サブ画像に対応する少なくとも1つの特徴マップを得、次に、前記サブ画像に対応する少なくとも1つの特徴マップをMLP層に入力して、サブ画像に目標体の少なくとも一部の局所特徴が存在する確率値を予測し、最後に、予測して得られた確率値をSigmoid層に入力して、出力結果を得、例えば第1値又は第2値であり、さらに、出力結果が第1値である場合、前記サブ画像に目標体の少なくとも一部の局所特徴が存在すると考えられ、あるいは、出力結果が第2値である場合、前記サブ画像に目標体の少なくとも一部の局所特徴が存在しないと考えられる。
本開示の方案の1つの具体的な例において、ビデオデータを取得した後、さらに以下の方式を用いてビデオデータに目標体が存在するか否かを判定することができ、具体的なプロセスは以下を含む。
前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得る。ここで、前記第2検出モデルはビデオデータに目標体が存在するか否か(例えば、目標体の全体輪郭が存在するか否か)を識別することに用いられる。前記第2検出結果はビデオデータに目標体が存在するか否か、例えば目標体の全体輪郭が存在するか否かを表す。
ここで、前記第2検出モデルの時間複雑度は前記第1検出モデルの時間複雑度より大きい。
理解すべきことは、前記第2検出モデルは目標体の輪郭全体を識別する一方、第1検出モデルは目標体の局所特徴を識別するため、従って、処理効率の点で、第1検出モデルの処理効率は第2検出モデルの処理効率よりも優れていてもよく、例えば、第1検出モデルの時間複雑度は前記第2検出モデルの時間複雑度より小さく、このように、粒度が異なる監視制御を効果的に確保すると共に、本開示の方案による通路監視制御方法の処理効率全体を効果的に向上する。
本開示の方案の1つの具体的な例において、以下の方式を用いて第2検出結果を得ることができる。具体的には、上記の前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得ることは、具体的には以下を含む。
ステップ2-1において、ビデオ画像セットを得るように、前記カメラによって収集されたビデオデータに対して前処理を行う。
ここで、前記ビデオ画像セットは少なくとも1組の隣接する2フレームのビデオ画像を含む。前記隣接する2フレームのビデオ画像は、隣接する2フレームのビデオ画像の特徴マップ間の差異値は予め設定された差異値より大きい要件を満たす。ここで、前記予め設定された差異値は経験値であり、実際のニーズに応じて設定することができ、本開示の方案ではこれを限定しない。
つまり、ビデオデータを取得した後、ビデオデータから要件を満たすビデオ画像を選別する必要があり、例えば、隣接する2フレームの特徴マップの差異が大きいビデオ画像を選択して、ビデオ画像セットを形成することで、モデル処理効率を最大限に向上させることができる。
ステップ2-2において、前記ビデオ画像セットにおける各ビデオ画像を第2検出モデルに入力して、ビデオ画像に対応するサブ結果を得る。例えば、各ビデオ画像に対応するサブ結果を得る。
ステップ2-3において、前記ビデオ画像セットの全てのビデオ画像のサブ結果のうち、少なくとも1つのサブ結果が第3値である場合、前記第3値を第2検出結果とし、あるいは、前記ビデオ画像セットの各ビデオ画像のサブ結果がいずれも第4値である場合、前記第4値を第2検出結果とする。前記第3値は目標体が存在することを表すことに用いられ、前記第4値は目標体が存在しないことを表すことに用いられる。
つまり、サブ結果のうちの1つでも第3値である場合、例えば1など予め設定されたキャラクターである場合、該ビデオデータに目標体が存在することを示し、そうでなければ、全てのサブ結果がいずれも第4値である場合、例えばいずれも0である場合、前記ビデオデータに目標体が存在しないことを示す。
さらに、1つの具体的な例において、前記第2検出モデルは少なくとも第4ネットワーク層、第5ネットワーク層、及び第6ネットワーク層を含む。
ここで、前記第4ネットワーク層は順に接続された少なくとも2つの緻密層を含み、ここで、直前の緻密層により得られた接続特徴マップは、次の緻密層の初期特徴マップとなり、例えば、図3に示すように、前記第4ネットワーク層は2つの緻密層を含み、ここで、1つ目の緻密層により得られた接続特徴マップは、2つ目の緻密層の初期特徴マップとなる。さらに、前記2つの緻密層における緻密層は初期特徴マップに対して畳み込み処理を行って、畳み込み特徴マップを得、初期特徴マップと畳み込み特徴マップとに対して接続処理を行って、接続特徴マップを得ることに用いられる。ここで、前記少なくとも2つの緻密層における最初の緻密層の初期特徴マップはビデオ画像に基づいて得られる。このように、計算量を効果的に減少すると共に、推論速度及び特徴抽出の豊富度並びに精度を効果的に確保した上で、特徴マップのサイズを減少させることができる。
さらに、前記第5ネットワーク層は前記少なくとも2つの緻密層における最後の緻密層により得られた接続特徴マップに対して特徴集約を行って、目標特徴マップを得ることに用いられる。
さらに、前記第6ネットワーク層は前記目標特徴マップに対して予測を行って、前記第3値又は前記第4値を得ることに用いられる。ここで、前記第3値は目標体が存在することを表すことに用いられる。前記第4値は目標体が存在しないことを表すことに用いられる。
例えば、一例では、以上に記載の第4ネットワーク層は、クロースステージ部分ネットワーク(Cross Stage Partial Networks、CSPNet)層であり、例えば、前記CSPNet層は2つの緻密層を含むことができ、さらに、以上に記載の第5ネットワーク層は経路集約ネットワーク(Path Aggregation Network、PANet)層であってもよく、さらに、以上に記載の第6ネットワーク層は予測(Prediction)層であってもよい。図4に示すように、まず、ビデオ画像セットにおけるビデオ画像を第2検出モデルにおけるCSPNet層に入力して、ビデオ画像に対応する接続特徴マップを得、次に、前記接続特徴マップをPANet層に入力して、特徴集約処理された目標特徴マップを得、最後に、前記目標特徴マップを予測層に入力して、出力結果を得、例えば、第3値又は第4値である。さらに、出力結果が第3値である場合、前記ビデオデータに目標体が存在すると考えられ、あるいは、出力結果が第4値である場合、前記ビデオデータに目標体が存在しないと考えられる。
本開示の方案の1つの具体的な例において、ビデオデータにおいて目標体が位置する目標通路を取得した後、該方法は具体的に、
前記目標通路にAGVが走行しているか否かを判定することをさらに含み、
さらに、以上に記載のビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成することは具体的に、
AGVが走行していると判定した場合、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成することを含む。
つまり、ビデオデータに目標体が存在することが検出され、及び前記目標体が位置する目標通路が判定された場合、さらに前記目標通路内にAGVが走行しているか否かを判定することができる。さらに、AGVが走行していれば、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成する一方、そうでなければ、ビデオ予警報情報を生成する必要がない。
さらに、一例では、目標通路にAGVが走行していると判定した場合、さらに前記目標体と前記AGVとの間の距離を判定することができ、さらに前記目標体と前記AGVとの間の距離が予め設定された安全距離より小さい場合、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成する。
ここで、前記予め設定された安全距離は経験値であり、実際のニーズに応じて設定することができ、本開示の方案ではこれを限定しない。
以上のように、本開示の方案が提供する通路監視制御方法は、従来技術に比べて、以下の利点を有する。
第1に、目標体検出の処理効率及び正確率を向上させる。本開示の方案は異なる監視制御データに対して、異なる検出モデルを用いて処理を行い、このように、検出の処理効率、及び目標体を識別する正確率を大幅に向上させることができる。
第2に、予警報への応答効率を向上させる。本開示の方案は異なる監視制御粒度のデータを監視制御し、通路内の安全状況を迅速に知ることができ、目標体が存在する通路に対して、予警報情報を迅速に生成することができ、このように、作業員がタイムリーに相応な処理措置を取ることに役立つ。
第3に、作業場の安全性を向上させる。本開示の方案は、巻糸パッケージ生産作業場内の安全上のトラブルの発生率を効果的に低下させるための技術的サポートを提供することができ、さらにAGV、生産装置の損傷を減少させ、及び人員の傷害を効果的に回避するための基礎を築き、このように、作業場の正常作動を最大限に確保し、及び作業場全体の安全性を向上させることができる。
本開示の方案はさらに通路監視制御装置を提供し、図5に示すように、該装置は、
無人搬送車AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得し、カメラによってビデオ収集領域内で収集されたビデオデータを取得するための取得ユニット501であって、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行し、前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含み、前記カメラは、複数のカメラのうちの1つであり、前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含む、取得ユニット501と、
前記車体収集アセンブリによって収集された走査データ及び/又は前記カメラによって収集されたビデオデータに基づいて目標体が存在すると判定した場合、前記複数の監視制御対象通路のうちの1つであって、前記目標体が位置する目標通路を取得し、前記目標体が位置する目標通路の目標予警報情報を生成するための処理ユニット502と、を備える。
本開示の方案の1つの具体的な例において、前記処理ユニットは具体的には、
前記車体収集アセンブリによって収集された走査データに基づいて、走査データに目標体が存在すると判定した場合、走査データにおいて目標体が位置する目標通路を取得して、走査データにおいて目標体が位置する目標通路の走査予警報情報を生成することと、
前記カメラによって収集されたビデオデータに基づいて、ビデオデータに目標体が存在すると判定した場合、ビデオデータにおいて目標体が位置する目標通路を取得して、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成することと、
前記車体収集アセンブリによって収集された走査データに基づいて、走査データに目標体が存在すると判定した場合、走査データにおいて目標体が位置する目標通路を取得し、前記カメラによって収集されたビデオデータに基づいて、ビデオデータに目標体が存在すると判定した場合、ビデオデータにおいて目標体が位置する目標通路を取得し、走査データにより取得された目標体が位置する目標通路と、前記ビデオデータにより取得された目標体が位置する目標通路とは同じであると判定した場合、目標通路に対する混合予警報情報を生成することと、
のいずれか1つに用いられる。
本開示の方案の1つの具体的な例において、前記混合予警報情報、走査予警報情報、及びビデオ予警報情報は、三者の優先度が次第に低くなる。
本開示の方案の1つの具体的な例において、前記処理ユニットは、
前記車体収集アセンブリによって収集された走査データに含まれる走査画像を第1検出モデルに入力して、第1検出結果を得ることであって、前記第1検出モデルは画像に目標体の少なくとも一部の局所特徴が存在するか否かを識別することに用いられ、前記第1検出結果は走査データに含まれる走査画像に目標体が存在するか否かを表す、ことにさらに用いられる。
本開示の方案の1つの具体的な例において、前記処理ユニットは具体的に、
走査画像におけるエッジ領域を除去し、走査画像におけるコア領域に対応するサブ画像を得るように、前記車体収集アセンブリによって収集された走査データに含まれる走査画像に対して前処理を行うことと、
走査画像におけるコア領域に対応するサブ画像を第1検出モデルに入力して、第1検出結果を得ることと、に用いられ、
ここで、前記第1検出モデルは、走査画像におけるコア領域に対応するサブ画像に対して特徴抽出を行って、コア領域の特徴マップを得、コア領域の特徴マップに目標体の少なくとも一部の局所特徴が存在するか否かを検出することに用いられる。
本開示の方案の1つの具体的な例において、そのうち、前記第1検出モデルは少なくとも第1ネットワーク層、第2ネットワーク層及び第3ネットワーク層を含み、
ここで、前記第1ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップを得るように、コア領域に対応するサブ画像に対して特徴抽出を行うことに用いられ、ここで、少なくとも1つの特徴マップにおける特徴マップの数は、特徴マップの特徴ブロックのサイズと負の相関があり、
前記第2ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップに基づいて、目標体の少なくとも一部の局所特徴が存在するか否かを予測し、確率値を得ることに用いられ、
前記第3ネットワーク層は、確率値を処理し、目標体の少なくとも一部の局所特徴が存在することを表すための第1値、又は目標体の少なくとも一部の局所特徴が存在しないことを表すための第2値を得、前記第1検出結果は前記第1値又は第2値であることに用いられる。
本開示の方案の1つの具体的な例において、前記処理ユニットは、
前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得ることにさらに用いられ、ここで、前記第2検出モデルはビデオデータに目標体が存在するか否かを識別することに用いられ、前記第2検出結果はビデオデータに目標体が存在するか否かを表し、前記第2検出モデルの時間複雑度は前記第1検出モデルの時間複雑度より大きい。
本開示の方案の1つの具体的な例において、前記処理ユニットは具体的に、
ビデオ画像セットを得るように、前記カメラによって収集されたビデオデータに対して前処理を行うことであって、前記ビデオ画像セットは少なくとも1組の隣接する2フレームのビデオ画像を含み、前記隣接する2フレームのビデオ画像は、隣接する2フレームのビデオ画像の特徴マップ間の差異値は予め設定された差異値より大きい要件を満たす、ことと、
前記ビデオ画像セットにおける各ビデオ画像を第2検出モデルに入力して、ビデオ画像に対応するサブ結果を得ることと、
前記ビデオ画像セットの全てのビデオ画像のサブ結果のうち、少なくとも1つのサブ結果が、目標体が存在することを表すための第3値である場合、前記第3値を第2検出結果とし、あるいは、前記ビデオ画像セットの各ビデオ画像のサブ結果がいずれも、目標体が存在しないことを表すための第4値である場合、前記第4値を第2検出結果とすることと、に用いられる。
本開示の方案の1つの具体的な例において、前記第2検出モデルは少なくとも第4ネットワーク層、第5ネットワーク層、及び第6ネットワーク層を含み、
前記第4ネットワーク層は順に接続された少なくとも2つの緻密層を含み、ここで、直前の緻密層により得られた接続特徴マップは、次の緻密層の初期特徴マップとなり、前記2つの緻密層における緻密層は、初期特徴マップに対して畳み込み処理を行って、畳み込み特徴マップを得、初期特徴マップと畳み込み特徴マップとに対して接続処理を行って、接続特徴マップを得ることに用いられ、前記少なくとも2つの緻密層における最初の緻密層の初期特徴マップはビデオ画像に基づいて得られ、
前記第5ネットワーク層は前記少なくとも2つの緻密層における最後の緻密層により得られた接続特徴マップに対して特徴集約を行って、目標特徴マップを得ることに用いられ、
前記第6ネットワーク層は前記目標特徴マップに対して予測を行って、前記第3値又は前記第4値を得ることに用いられる。
本開示の方案の1つの具体的な例において、前記処理ユニットは、
ビデオデータにおいて目標体が位置する目標通路を取得した後、前記目標通路にAGVが走行しているか否かを判定することと、
AGVが走行していると判定した場合、ビデオデータにおいて目標体が位置する目標通路のビデオ予警報情報を生成することと、にさらに用いられる。
本開示の実施例における装置の各ユニットの具体的な機能及び例示的な説明は、上記方法の実施例における対応するステップの関連説明を参照することができ、ここでは繰り返し述べない。
本開示の技術的解決策では、ユーザの個人的情報の取得、記憶、及びアプリケーションは、関連する法律及び規則の規定に準拠し、公序良俗に違反しない。
図6は本開示の一実施例による電子デバイスの構造ブロック図である。図6に示すように、該電子デバイスはメモリ610とプロセッサ620とを含み、メモリ610にはプロセッサ620で実行可能なコンピュータプログラムが記憶される。メモリ610及びプロセッサ620の数は、1つ又は複数であり得る。メモリ610は、1つ又は複数のコンピュータプログラムを記憶することができ、該1つ又は複数のコンピュータプログラムは、該電子デバイスによって実行されると、該電子デバイスに上記の方法の実施例により提供される方法を実行させる。該電子デバイスはさらに以下を含むことができる。通信インターフェース630は、外部デバイスと通信し、データのインタラクション・伝送を行うことに用いられる。
メモリ610、プロセッサ620、及び通信インターフェース630が独立して実装される場合、メモリ610、プロセッサ620、及び通信インターフェース630は、バスを介して互いに接続され、相互間の通信を行うことができる。該バスは、ISA(InduStryStandardArchitecture)バス、PCI(PeripheralComponentInterconnect)バス、又はEISA(ExtendedInduStryStandardArchitecture)バスなどであり得る。該バスは、アドレスバス、データバス、制御バスなどに分類することができる。説明を容易にするために、図6に一本の太線のみで示すが、一本のバス又は一種類のバスのみを示すものではない。
任意選択で、具体的な実装形態では、メモリ610、プロセッサ620、及び通信インターフェース630が1つのチップ上に集積される場合、メモリ610、プロセッサ620、及び通信インターフェース630は、内部インターフェースを介して相互間の通信を行うことができる。
上記プロセッサは中央処理装置(CentralProceSSingUnit、CPU)であってもよく、さらに他の汎用プロセッサ、デジタル信号プロセッサ(DigitalSignalProceSSing、DSP)、特定用途向け集積回路(ApplicationSpecificIntegratedCircuit、ASIC)、フィールドプログラマブルゲートアレイ(FieldProgrammableGateArray、FPGA)又は他のプログラマブルロジックデバイス、ディスクリートゲート又はトランジスタロジックデバイス、ディスクリートハードウェアアセンブリ等であってもよいことを理解されたい。汎用プロセッサは、マイクロプロセッサ又は任意の従来のプロセッサなどであり得る。なお、プロセッサは、AdvancedRISCMachineS(ARM)アーキテクチャをサポートするプロセッサであり得る。
さらに、選択的に、上記メモリは読み出し専用メモリ及びランダムアクセスメモリを含んでもよく、さらに不揮発性ランダムアクセスメモリを含んでもよい。該メモリは、揮発性メモリ又は不揮発性メモリのいずれかであり得るか、あるいは揮発性メモリと不揮発性メモリの両方を含み得る。ここで、不揮発性メモリは、ROM(Read-OnlyMemory)、PROM(ProgrammableROM)、EPROM(EraSablePROM)、EEPROM(ElectricallyEPROM)、又はフラッシュメモリを含むことができる。揮発性メモリは、外部キャッシュとして機能するランダムアクセスメモリ(RAM)を含むことができる。限定ではなく例として、多くの形態のRAMが利用可能である。例えば、スタティックランダムアクセスメモリ(StaticRAM、SRAM)、ダイナミックランダムアクセスメモリ(DynamicRandomAcceSSMemory、DRAM)、シナリオクロナスDRAM(SynchronouSDRAM、SDRAM)、ダブルデータレートSDRAM(DoubleDataDateSDRAM、DDRSDRAM)、エンハンストSDRAM(EnhancedSDRAM、ESDRAM)、シナリオクリンクDRAM(SynchlinkDRAM、SLDRAM)及びダイレクトRAMBUSRAM(DirectRAMBUSRAM、DRRAM)である。
上述の実施例では、全体的又は部分的に、ソフトウェア、ハードウェア、ファームウェア、又はそれらの任意の組合せで実装され得る。ソフトウェアで実装される場合に、全体又は一部はコンピュータプログラム製品の形態で実装され得る。コンピュータプログラム製品は、1つ又は複数のコンピュータ命令を含む。コンピュータ命令がロードされ、コンピュータ上で実行されると、本開示の実施例によるプロセス又は機能が全体的又は部分的に生成される。前記コンピュータは、汎用コンピュータ、専用コンピュータ、コンピュータネットワーク、又は他のプログラム可能な装置であってもよい。前記コンピュータ命令は、コンピュータ可読記憶媒体に記憶されてもよく、又は1つのコンピュータ可読記憶媒体から別のコンピュータ可読記憶媒体に送信されてもよく、例えば、前記コンピュータ命令は、有線(例えば、同軸ケーブル、光ファイバ、デジタル加入者線(Digital Subscriber Line、DSL))又は無線(例えば、赤外線、Bluetooth(登録商標)、マイクロ波等)を介して、1つのウェブサイトサイト、コンピュータ、サーバ、又はデータセンタから別のウェブサイトサイト、コンピュータ、サーバ、又はデータセンタに送信されてもよい。前記コンピュータ可読記憶媒体は、コンピュータによってアクセスされ得る任意の利用可能な媒体、又は1つもしくは複数の利用可能な媒体と統合されたサーバ、データセンタなどを含むデータ記憶デバイスであり得る。前記使用可能な媒体は、磁気媒体(例えば、フロッピー(登録商標)ディスク、ハードディスク、磁気テープ)、光媒体(例えば、デジタル多用途ディスク(Digital Versatile Disc、DVD))、又は半導体媒体(例えば、ソリッドステートディスク(Solid State Disk、SSD))などであり得る。なお、本開示で言及されるコンピュータ可読記憶媒体は、不揮発性記憶媒体、言い換えれば、非一時的記憶媒体であり得る。
当業者は上記実施例を実現する全部又は一部のステップがハードウェアによって実装されてもよく、プログラムによって関連するハードウェアに命令して実装されてもよく、前記プログラムはコンピュータ可読記憶媒体に記憶されてもよく、上記記憶媒体は読み出し専用メモリ、磁気ディスク又は光ディスク等であってもよいことを理解することができる。
本開示の実施例の説明において、参照用語"1つの実施例"、"いくつかの実施例"、"例"、"具体的な例"、又は"いくつかの例"等の説明は該実施例又は例に関連して説明された具体的な特徴、構造、材料又は特徴が本開示の少なくとも1つの実施例又は例に含まれることを意味する。且つ、説明された具体的な特徴、構造、材料又は特徴はいずれか1つ又は複数の実施例又は例において適切な方式で組み合わせることができる。さらに、当業者は、本明細書に記載された異なる実施形態又は例及び異なる実施形態又は例の特徴を、互いに矛盾しない範囲で組み合わせてもよい。
本開示の実施例の説明において、「/」は、別段の説明がない限り、又はという意味を表し、例えば、A/Bは、A又はBのいずれかを表し得る。本明細書における「及び/又は」は関連オブジェクトの関連関係を説明することに過ぎず、三種類の関係が存在してもよいことを示し、例えば、A及び/又はBは、以下を示すことができる。Aが単独で存在し、A及びBが同時に存在し、Bが単独で存在するという三種類の状況である。
本開示の実施例の説明では、「第1」及び「第2」という用語は、説明の目的のみのために使用され、相対的な重要性を示す又は暗示するものと解釈されるべきではなく、示される技術的特徴の数を暗示するものと解釈されるべきではない。したがって、「第1」及び「第2」として定義される特徴は、明示的又は暗黙的に、そのような特徴のうちの1つ又は複数を含み得る。本開示の実施例の説明において、「複数」とは、別段の説明がない限り、2つ以上を意味する。
以上は本開示の例示的な実施例に過ぎず、本開示を限定するものではなく、本開示の精神及び原則の範囲内で、行われた任意の修正、同等置換、改良等は、いずれも本開示の保護範囲内に含まれるべきである。

Claims (21)

  1. 無人搬送車AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得し、前記走査データに基づいて、前記走査データに第1目標体が存在すると判定した場合、前記第1目標体が位置する第1目標通路を取得することであって、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行し、前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含み、前記第1目標通路は前記複数の監視制御対象通路のうちの1つである、ことと、
    カメラによってビデオ収集領域内で収集されたビデオデータを取得し、前記ビデオデータに基づいて、前記ビデオデータに第2目標体が存在すると判定した場合、前記第2目標体が位置する第2目標通路を取得することであって、前記カメラは、複数のカメラのうちの1つであり、前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含み、前記第2目標通路は前記複数の監視制御対象通路のうちの1つである、ことと、
    前記第1目標体が位置する前記第1目標通路が、前記第2目標体が位置する前記第2目標通路と同じであるか否かを判定することと、
    前記第1目標通路が前記第2目標通路と同じであると判定した場合に、該第1目標通路及び該第2目標通路に対する混合予警報情報を生成し、
    前記第1目標通路が前記第2目標通路と異なると判定した場合に、前記走査データに対して前記第1目標通路に対する走査予警報情報を生成し、前記ビデオデータに対して前記第2目標通路に対するビデオ予警報情報を生成することであって、前記混合予警報情報、走査予警報情報、及びビデオ予警報情報は、三者の優先度が次第に低くなることと、を含む、
    通路監視制御方法。
  2. 前記混合予警報情報に基づいて最高レベルの制御コマンドを生成し、前記最高レベルの制御コマンドは該第1目標通路及び該第2目標通路を走行しているAGVに現在の動作状態を一時停止状態に調整し、または現在の計画経路を調整するように制御することに用いられ、
    前記走査予警報情報に基づいて次高レベルの制御コマンドを生成し、前記次高レベルの制御コマンドは前記第1目標通路を走行しているAGVに現在の走行速度を調整するように制御することに用いられ
    前記ビデオ予警報情報に基づいて提示情報を生成し、前記提示情報は一般的なレベルの危険を提示するように用いられる
    請求項に記載の通路監視制御方法。
  3. 前記通路監視制御方法は、
    前記車体収集アセンブリによって収集された走査データに含まれる走査画像を第1検出モデルに入力して、第1検出結果を得ることであって、前記第1検出モデルは画像に目標体の少なくとも一部の局所特徴が存在するか否かを識別することに用いられ、前記第1検出結果は走査データに含まれる走査画像に前記第1目標体が存在するか否かを表す、ことをさらに含む、
    請求項に記載の通路監視制御方法。
  4. 前記車体収集アセンブリによって収集された走査データに含まれる走査画像を第1検出モデルに入力して、第1検出結果を得ることは、
    走査画像におけるエッジ領域を除去し、走査画像におけるコア領域に対応するサブ画像を得るように、前記車体収集アセンブリによって収集された走査データに含まれる走査画像に対して前処理を行うことと、
    走査画像におけるコア領域に対応するサブ画像を第1検出モデルに入力して、第1検出結果を得ることと、を含み、
    ここで、前記第1検出モデルは、走査画像におけるコア領域に対応するサブ画像に対して特徴抽出を行って、コア領域の特徴マップを得、コア領域の特徴マップに目標体の少なくとも一部の局所特徴が存在するか否かを検出することに用いられる、
    請求項に記載の通路監視制御方法。
  5. 前記第1検出モデルは少なくとも第1ネットワーク層、第2ネットワーク層、及び第3ネットワーク層を含み、
    前記第1ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップを得るように、コア領域に対応するサブ画像に対して特徴抽出を行うことに用いられ、ここで、少なくとも1つの特徴マップにおける特徴マップの数は、特徴マップの特徴ブロックのサイズと負の相関があり、
    前記第2ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップに基づいて、目標体の少なくとも一部の局所特徴が存在するか否かを予測し、確率値を得ることに用いられ、
    前記第3ネットワーク層は、確率値を処理し、目標体の少なくとも一部の局所特徴が存在することを表すための第1値、又は目標体の少なくとも一部の局所特徴が存在しないことを表すための第2値を得、前記第1検出結果は前記第1値又は第2値であることに用いられる、
    請求項に記載の通路監視制御方法。
  6. 前記通路監視制御方法は、
    前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得ることをさらに含み、ここで、前記第2検出モデルはビデオデータに目標体が存在するか否かを識別することに用いられ、前記第2検出結果はビデオデータに前記第2目標体が存在するか否かを表し、前記第2検出モデルの時間複雑度は前記第1検出モデルの時間複雑度より大きい、
    請求項に記載の通路監視制御方法。
  7. 前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得ることは、
    ビデオ画像セットを得るように、前記カメラによって収集されたビデオデータに対して前処理を行うことであって、前記ビデオ画像セットは少なくとも1組の隣接する2フレームのビデオ画像を含み、前記隣接する2フレームのビデオ画像は、隣接する2フレームのビデオ画像の特徴マップ間の差異値は予め設定された差異値より大きい要件を満たす、ことと、
    前記ビデオ画像セットにおける各ビデオ画像を第2検出モデルに入力して、ビデオ画像に対応するサブ結果を得ることと、
    前記ビデオ画像セットの全てのビデオ画像のサブ結果のうち、少なくとも1つのサブ結果が、目標体が存在することを表すための第3値である場合、前記第3値を第2検出結果とし、あるいは、前記ビデオ画像セットの各ビデオ画像のサブ結果がいずれも、目標体が存在しないことを表すための第4値である場合、前記第4値を第2検出結果とすることと
    、を含む、
    請求項に記載の通路監視制御方法。
  8. 前記第2検出モデルは少なくとも第4ネットワーク層、第5ネットワーク層、及び第6ネットワーク層を含み、
    前記第4ネットワーク層は順に接続された少なくとも2つの緻密層を含み、ここで、直前の緻密層により得られた接続特徴マップは、次の緻密層の初期特徴マップとなり、前記2つの緻密層における緻密層は、初期特徴マップに対して畳み込み処理を行って、畳み込み特徴マップを得、初期特徴マップと畳み込み特徴マップとに対して接続処理を行って、接続特徴マップを得ることに用いられ、前記少なくとも2つの緻密層における最初の緻密層の初期特徴マップはビデオ画像に基づいて得られ、
    前記第5ネットワーク層は前記少なくとも2つの緻密層における最後の緻密層により得られた接続特徴マップに対して特徴集約を行って、目標特徴マップを得ることに用いられ、
    前記第6ネットワーク層は前記目標特徴マップに対して予測を行って、前記第3値又は前記第4値を得ることに用いられる、
    請求項に記載の通路監視制御方法。
  9. 前記通路監視制御方法は、ビデオデータにおいて前記第2目標体が位置する第2目標通路を取得した後、
    前記第2目標通路にAGVが走行しているか否かを判定することをさらに含み、
    ここで、前記ビデオデータに対して前記第2目標通路に対するビデオ予警報情報を生成することは、
    AGVが走行していると判定した場合、ビデオデータにおいて前記第2目標体が位置する前記第2目標通路のビデオ予警報情報を生成することを含む、
    請求項に記載の通路監視制御方法。
  10. 無人搬送車AGVの車体収集アセンブリによって車体周辺領域内で収集された走査データを取得し、前記走査データに基づいて、前記走査データに第1目標体が存在すると判定した場合、前記第1目標体が位置する第1目標通路を取得し、カメラによってビデオ収集領域内で収集されたビデオデータを取得し、前記ビデオデータに基づいて、前記ビデオデータに第2目標体が存在すると判定した場合、前記第2目標体が位置する第2目標通路を取得するための取得ユニットであって、前記AGVは複数のAGVのうちの1つであり、前記複数のAGVにおけるAGVは複数の監視制御対象通路のうちのいずれかの監視制御対象通路を走行し、前記複数の監視制御対象通路は巻糸パッケージ生産作業場において巻糸パッケージを搬送するために使用する必要がある複数の通路であり、前記車体周辺領域は前記AGVが走行する監視制御対象通路の少なくとも一部の領域を含み、前記第1目標通路は前記複数の監視制御対象通路のうちの1つであり、前記カメラは、複数のカメラのうちの1つであり、前記複数の監視制御対象通路のうちのいずれかの監視制御対象通路の少なくとも一部の領域に対してビデオ収集を行うことに用いられ、前記ビデオ収集領域は前記カメラが収集可能な監視制御対象通路の少なくとも一部の領域を含み、前記第2目標通路は前記複数の監視制御対象通路のうちの1つである、取得ユニットと、
    前記第1目標体が位置する前記第1目標通路が、前記第2目標体が位置する前記第2目標通路と同じであるか否かを判定し、前記第1目標通路が前記第2目標通路と同じであると判定した場合に、該第1目標通路及び該第2目標通路に対する混合予警報情報を生成し、前記第1目標通路が前記第2目標通路と異なると判定した場合に、前記走査データに対して前記第1目標通路に対する走査予警報情報を生成し、前記ビデオデータに対して前記第2目標通路に対するビデオ予警報情報を生成するための処理ユニットであって、前記混合予警報情報、走査予警報情報、及びビデオ予警報情報は、三者の優先度が次第に低くなる、処理ユニットと、を備える、
    通路監視制御装置。
  11. 前記処理ユニットは、
    前記混合予警報情報に基づいて最高レベルの制御コマンドを生成し、前記最高レベルの制御コマンドは該第1目標通路及び該第2目標通路を走行しているAGVに現在の動作状態を一時停止状態に調整し、または現在の計画経路を調整するように制御することに用いられ
    前記走査予警報情報に基づいて次高レベルの制御コマンドを生成し、前記次高レベルの制御コマンドは前記第1目標通路を走行しているAGVに現在の走行速度を調整するように制御することに用いられ
    前記ビデオ予警報情報に基づいて提示情報を生成し、前記提示情報は一般的なレベルの危険を提示するように用いられる、
    ことにさらに用いられる
    請求項10に記載の通路監視制御装置。
  12. 前記処理ユニットは、
    前記車体収集アセンブリによって収集された走査データに含まれる走査画像を第1検出モデルに入力して、第1検出結果を得ることであって、前記第1検出モデルは画像に目標体の少なくとも一部の局所特徴が存在するか否かを識別することに用いられ、前記第1検出結果は走査データに含まれる走査画像に前記第1目標体が存在するか否かを表す、ことにさらに用いられる、
    請求項10に記載の通路監視制御装置。
  13. 前記処理ユニットは具体的に、
    走査画像におけるエッジ領域を除去し、走査画像におけるコア領域に対応するサブ画像を得るように、前記車体収集アセンブリによって収集された走査データに含まれる走査画像に対して前処理を行うことと、
    走査画像におけるコア領域に対応するサブ画像を第1検出モデルに入力して、第1検出結果を得ることと、に用いられ、
    ここで、前記第1検出モデルは、走査画像におけるコア領域に対応するサブ画像に対して特徴抽出を行って、コア領域の特徴マップを得、コア領域の特徴マップに目標体の少なくとも一部の局所特徴が存在するか否かを検出することに用いられる、
    請求項12に記載の通路監視制御装置。
  14. 前記第1検出モデルは少なくとも第1ネットワーク層、第2ネットワーク層、及び第3ネットワーク層を含み、
    前記第1ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップを得るように、コア領域に対応するサブ画像に対して特徴抽出を行うことに用いられ、ここで、少なくとも1つの特徴マップにおける特徴マップの数は、特徴マップの特徴ブロックのサイズと負の相関があり、
    前記第2ネットワーク層は、サブ画像に対応する少なくとも1つの特徴マップに基づいて、目標体の少なくとも一部の局所特徴が存在するか否かを予測し、確率値を得ることに用いられ、
    前記第3ネットワーク層は、確率値を処理し、目標体の少なくとも一部の局所特徴が存在することを表すための第1値、又は目標体の少なくとも一部の局所特徴が存在しないことを表すための第2値を得、前記第1検出結果は前記第1値又は第2値であることに用いられる、
    請求項13に記載の通路監視制御装置。
  15. 前記処理ユニットは、
    前記カメラによって収集されたビデオデータを第2検出モデルに入力して、第2検出結果を得ることにさらに用いられ、ここで、前記第2検出モデルはビデオデータに目標体が存在するか否かを識別することに用いられ、前記第2検出結果はビデオデータに前記第2目標体が存在するか否かを表し、前記第2検出モデルの時間複雑度は前記第1検出モデルの時間複雑度より大きい、
    請求項12に記載の通路監視制御装置。
  16. 前記処理ユニットは具体的に、
    ビデオ画像セットを得るように、前記カメラによって収集されたビデオデータに対して前処理を行うことであって、前記ビデオ画像セットは少なくとも1組の隣接する2フレームのビデオ画像を含み、前記隣接する2フレームのビデオ画像は、隣接する2フレームのビデオ画像の特徴マップ間の差異値は予め設定された差異値より大きい要件を満たす、ことと、
    前記ビデオ画像セットにおける各ビデオ画像を第2検出モデルに入力して、ビデオ画像に対応するサブ結果を得ることと、
    前記ビデオ画像セットの全てのビデオ画像のサブ結果のうち、少なくとも1つのサブ結果が、目標体が存在することを表すための第3値である場合、前記第3値を第2検出結果とし、あるいは、前記ビデオ画像セットの各ビデオ画像のサブ結果がいずれも、目標体が存在しないことを表すための第4値である場合、前記第4値を第2検出結果とすることと、に用いられる、
    請求項15に記載の通路監視制御装置。
  17. 前記第2検出モデルは少なくとも第4ネットワーク層、第5ネットワーク層、及び第6ネットワーク層を含み、
    前記第4ネットワーク層は順に接続された少なくとも2つの緻密層を含み、ここで、直前の緻密層により得られた接続特徴マップは、次の緻密層の初期特徴マップとなり、前記2つの緻密層における緻密層は、初期特徴マップに対して畳み込み処理を行って、畳み込み特徴マップを得、初期特徴マップと畳み込み特徴マップとに対して接続処理を行って、接続特徴マップを得ることに用いられ、前記少なくとも2つの緻密層における最初の緻密層の初期特徴マップはビデオ画像に基づいて得られ、
    前記第5ネットワーク層は前記少なくとも2つの緻密層における最後の緻密層により得られた接続特徴マップに対して特徴集約を行って、目標特徴マップを得ることに用いられ、
    前記第6ネットワーク層は前記目標特徴マップに対して予測を行って、前記第3値又は前記第4値を得ることに用いられる、
    請求項16に記載の通路監視制御装置。
  18. 前記処理ユニットは、
    ビデオデータにおいて前記第2目標体が位置する第2目標通路を取得した後、前記第2目標通路にAGVが走行しているか否かを判定することと、
    AGVが走行していると判定した場合、ビデオデータにおいて前記第2目標体が位置する第2目標通路のビデオ予警報情報を生成することと、にさらに用いられる、
    請求項10から請求項14のいずれか1項に記載の通路監視制御装置。
  19. 少なくとも1つのプロセッサと、
    前記少なくとも1つのプロセッサと通信接続されるメモリと、を備え、
    前記メモリには、前記少なくとも1つのプロセッサで実行可能な命令が記憶され、前記命令は、前記少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサに、請求項1から請求項のいずれか1項に記載の通路監視制御方法を実行させる、電子デバイス。
  20. コンピュータに請求項1から請求項のいずれか1項に記載の通路監視制御方法を実行させるコンピュータ命令を記憶した非一時的なコンピュータ可読記憶媒体。
  21. プロセッサにより実行されると、請求項1から請求項のいずれか1項に記載の通路監視制御方法を実現するためのプログラム。
JP2023198740A 2023-07-06 2023-11-24 通路監視制御方法、装置、デバイス、記憶媒体及びプログラム Active JP7450794B1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202310830901.2A CN116939160A (zh) 2023-07-06 2023-07-06 一种通道监控方法、装置、设备以及存储介质
CN202310830901.2 2023-07-06

Publications (1)

Publication Number Publication Date
JP7450794B1 true JP7450794B1 (ja) 2024-03-15

Family

ID=88391763

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023198740A Active JP7450794B1 (ja) 2023-07-06 2023-11-24 通路監視制御方法、装置、デバイス、記憶媒体及びプログラム

Country Status (2)

Country Link
JP (1) JP7450794B1 (ja)
CN (1) CN116939160A (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019139548A (ja) 2018-02-13 2019-08-22 セイコーエプソン株式会社 搬送車の走行制御システム、及び、搬送車の走行制御方法
JP2023076406A (ja) 2021-11-22 2023-06-01 ビッグハブソリューション インコーポレーテッド 映像収集装置を活用した遠隔転倒有無確認判別システム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103935365B (zh) * 2014-05-14 2016-04-13 袁培江 一种新型物料搬运自动引导车智能防撞系统
CN108100079A (zh) * 2018-02-01 2018-06-01 西华大学 一种新型全向轮行走及防碰撞系统
US11364903B2 (en) * 2018-09-28 2022-06-21 Logistics and Supply Chain MultiTech R&D Centre Limited Automated guide vehicle with a collision avoidance apparatus
CN210455023U (zh) * 2019-09-12 2020-05-05 东莞市顺尔鸿自动化有限公司 一种无轨牵引式agv输送装置
CN111796590A (zh) * 2019-09-24 2020-10-20 北京京东乾石科技有限公司 避障的控制方法、装置、物品搬运系统和可读存储介质
CN110737274B (zh) * 2019-11-01 2022-07-15 牧星机器人(江苏)有限公司 一种agv避障方法、系统、agv及存储介质
CN111950420A (zh) * 2020-08-04 2020-11-17 国以贤智能科技(上海)股份有限公司 一种避障方法、装置、设备和存储介质
CN113888557A (zh) * 2021-09-22 2022-01-04 山东师范大学 一种基于rgb-d特征融合的场景语义分割方法及系统
CN215679136U (zh) * 2021-09-27 2022-01-28 东风本田发动机有限公司 导航系统和agv小车
CN115526556A (zh) * 2022-06-27 2022-12-27 上海力嘉物流科技有限公司 一种物流仓储管理系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019139548A (ja) 2018-02-13 2019-08-22 セイコーエプソン株式会社 搬送車の走行制御システム、及び、搬送車の走行制御方法
JP2023076406A (ja) 2021-11-22 2023-06-01 ビッグハブソリューション インコーポレーテッド 映像収集装置を活用した遠隔転倒有無確認判別システム

Also Published As

Publication number Publication date
CN116939160A (zh) 2023-10-24

Similar Documents

Publication Publication Date Title
CN110893858A (zh) 一种智能驾驶方法及智能驾驶系统
JP6389976B1 (ja) 車両施設監視システム
JP7338637B2 (ja) 交通支援システム、サーバ及び方法、車載装置及びその動作方法、コンピュータプログラム、記録媒体、コンピュータ、並びに半導体集積回路
KR20200018612A (ko) 물체 검출을 위한 방법, 장치 및 기기
DE102017129076A1 (de) Autonomer schulbus
WO2020098506A1 (zh) 路口状态检测方法、装置、电子设备及车辆
JP6275351B1 (ja) 事故防止システム、方法及びプログラム
CN110175533A (zh) 高架桥交通状况实时监测方法、装置、终端及存储介质
JP7450794B1 (ja) 通路監視制御方法、装置、デバイス、記憶媒体及びプログラム
CN114022846A (zh) 作业车辆的防碰撞监控方法、装置、设备和介质
CN110203787A (zh) 一种电梯轿厢中人员异常受困的检测方法及系统
CN113850400A (zh) 一种巡检辅助判断方法及系统
CN116788788A (zh) 控制方法、装置、设备及存储介质
CN117237935A (zh) 一种空间物体的识别方法、装置、电子设备及存储介质
CN116740617A (zh) 数据处理方法、装置、电子设备及存储介质
CN116597422A (zh) 一种基于图像数据的道路预警方法、装置及电子设备
KR20140056674A (ko) 사고 처리 지원 방법 및 이를 위한 장치
CN116409716A (zh) 起重机运行状态监控系统和方法
CN115147929A (zh) 一种施工场景监控方法、装置、设备及存储介质
CN115631626A (zh) 一种车辆数据监控分析方法、装置、设备及介质
CN115829182B (zh) 基于可变地理围栏的工程机械派工方法和装置
US12005581B1 (en) Control method, electronic device and storage medium
CN113911923B (zh) 用于起重机的控制方法及装置、控制器和起重机
WO2018123053A1 (ja) 事故防止システム、方法及びプログラム
CN116543189B (zh) 一种目标检测方法、装置、设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231124

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20231124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240305

R150 Certificate of patent or registration of utility model

Ref document number: 7450794

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150