JP2022052494A - 動作制御装置及び動作制御システム - Google Patents

動作制御装置及び動作制御システム Download PDF

Info

Publication number
JP2022052494A
JP2022052494A JP2020158918A JP2020158918A JP2022052494A JP 2022052494 A JP2022052494 A JP 2022052494A JP 2020158918 A JP2020158918 A JP 2020158918A JP 2020158918 A JP2020158918 A JP 2020158918A JP 2022052494 A JP2022052494 A JP 2022052494A
Authority
JP
Japan
Prior art keywords
foreign matter
unit
control
control signal
generates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020158918A
Other languages
English (en)
Other versions
JP6933765B1 (ja
Inventor
秀隆 小島
Hidetaka Kojima
健一 広瀬
Kenichi Hirose
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Original Assignee
Toshiba Corp
Toshiba Infrastructure Systems and Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp, Toshiba Infrastructure Systems and Solutions Corp filed Critical Toshiba Corp
Priority to JP2020158918A priority Critical patent/JP6933765B1/ja
Application granted granted Critical
Publication of JP6933765B1 publication Critical patent/JP6933765B1/ja
Publication of JP2022052494A publication Critical patent/JP2022052494A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • General Factory Administration (AREA)
  • Warehouses Or Storage Devices (AREA)

Abstract

【課題】搬送車により物品又は棚を搬送するシステムの構築、変更、又は維持等の負担を軽減することができる動作制御装置を提供する。【解決手段】実施形態に係る動作制御装置は、記憶部、制御部、及び通信部を備える。記憶部は、カメラからの画像データに基づき生成される地図データを記憶する。制御部は、前記地図データに基づき搬送車の移動を制御する制御信号を生成する。通信部は、前記搬送車に対して前記制御信号を送信する。【選択図】図4

Description

本発明の実施形態は、動作制御装置及び動作制御システムに関する。
近年、物流の配送拠点では荷物等の物品の取扱量が増加しており、物品の区分又は搬送に関する様々な効率化が図られている。その一つとして、人手を介さず物品を搬送する自動搬送車の導入が進められている。例えば、自動搬送車は、物品を収容した棚の下に潜り込み、棚を持ち上げて、棚を目的位置へ搬送する。
特表2009-539727号公報
自動搬送車を制御する動作制御システムを導入する場合、例えば、自動搬送車が走行する倉庫内の床面には、自動走行車の走行をナビゲートするためのQRコード(登録商標)、RF-ID、磁気テープ、又は反射板等が敷設される。
床面へQRコード等の敷設する場合、敷設作業に手間がかかること、倉庫内のレイアウトや搬送ルートの変更への柔軟な対応が難しいこと、敷設される情報の劣化対策として定期的なメンテナンスが必要なことなどから、改善が要望されている。
本発明の目的は、搬送車により物品又は棚を搬送するシステムの構築、変更、又は維持等の負担を軽減することができる動作制御装置及び動作制御システムを提供することである。
実施形態に係る動作制御装置は、記憶部、制御部、及び通信部を備える。記憶部は、カメラからの画像データに基づき生成される地図データを記憶する。制御部は、前記地図データに基づき搬送車の移動を制御する制御信号を生成する。通信部は、前記搬送車に対して前記制御信号を送信する。
図1は、実施形態に係る動作制御システムの適用例を示す図である。 図2は、実施形態に係る動作制御システムの一例を示すブロック図である。 図3は、実施形態に係る動作制御システムの制御サーバの一例を示すブロック図である。 図4は、実施形態に係る制御サーバのプロセッサの一例を示す機能ブロック図である。 図5は、実施形態に係る動作制御システムのAGVの概略構成の一例を示すブロック図である。 図6は、実施形態に係る制御サーバによるAGV動作制御処理の一例を示すフローチャートである。 図7は、実施形態に係る制御サーバによる位置ずれ補正処理の一例を示すフローチャートである。 図8は、実施形態に係る制御サーバによる異物処理の一例を示すフローチャートである。 図9は、実施形態に係る制御サーバによる異物回収支援の一例を示すフローチャートである。 図10は、実施形態に係る制御サーバによる異物回避処理の一例を示すフローチャートである。 図11は、実施形態に係る制御サーバから出力される異物回収ルート及び異物情報の表示例を示す図である。
以下、図面を参照して実施形態について説明する。
図1は、実施形態に係る動作制御システムの適用例を示す図である。
図1に示すように、動作制御システムは、例えば、各種物品を保管する倉庫等に適用可能であり、複数のカメラ11、12、制御サーバ2、複数の搬送車3、複数のAGV棚4、及び複数のピッキングステーション5を備える。制御サーバ2は、動作制御装置の一例である。なお、本実施形態では、搬送車3をAGV(automated guided vehicle)3と表記する。
カメラ11は、例えば天井や壁面等に固定されたカメラであり、倉庫内を撮影し、撮影データをリアルタイムに出力する。撮影データは、撮影日時データ(撮影時刻含む)及び撮影画像データを含む。撮影画像データは、動画データである。また、カメラ11は、制御サーバ2からの撮影制御信号に基づき上下左右に回動する。カメラ11が、上下左右に回動することにより、広範囲に倉庫内を監視することができる。
カメラ12は、移動カメラである。例えば、カメラ12は、ドローン等の小型無人飛行機であり、制御サーバ2からの移動制御信号に基づき指定された位置へ飛行し、制御サーバ2からの撮影制御信号に基づき指定された方向を撮影し、撮影データをリアルタイムに出力する。撮影データは、撮影日時データ(撮影時刻含む)及び撮影画像データを含む。
固定式のカメラ11と移動式のカメラ12を併用することにより、カメラ導入のコストを抑えつつ、広範囲を漏れなく撮影することができる。例えば、移動式のカメラ12により、障害物等で死角になっている領域を撮影することもできる。
制御サーバ2は、1又は複数台の汎用コンピュータ等により構成され、カメラ11の回動を制御し、カメラ12がドローンの場合にはドローンの飛行を制御する。また、制御サーバ2は、カメラ11及び12からの、撮影データを受信し記憶する。また、制御サーバ2は、AGV3の動作を制御する。制御サーバ2によるAGVの動作制御については後に詳しく説明する。
AGV3は、制御サーバ2からの制御信号に基づき動作する。例えば、AGV3は、指定された位置へ向かって走行し、指定された積み込み位置のAGV棚4を持ち上げて、指定された積み降ろし位置へ向かって走行し、指定された積み降ろし位置でAGV棚4を降ろす。
AGV棚4は、物品を収容する棚である。例えば、AGV棚4は、四本の支柱で直立し、棚下の高さは(床面から棚底までの高さ)、AGV3の高さよりも高い。これにより、AGV3は、AGV棚4の棚下に潜り込むことができる。棚下に潜り込んだAGV3は、プッシャーにより床面から支柱の先端が数センチ離れる程度にAGV棚4を持ち上げて、AGV棚4を持ち上げた状態で走行する。このようにしてAGV3は、AGV棚4を搬送する。
また、AGV棚4には、カメラ11又は12等で読み取り可能な棚識別情報が貼り付けられていてもよい。物品にも、カメラ11又は12等で読み取り可能な物品識別情報が貼り付けられていてもよい。例えば、棚識別情報及び物品識別情報は、バーコードや二次元コードである。なお、動作制御システムは、カメラ11又は12とは別に、これら棚識別情報及び物品識別情報を読み取る複数のリーダを備えてもよい。
ピッキングステーション5は、AGV3により搬送されたAGV棚4を受け入れる。ピッキングステーション5で受け入れられたAGV棚4には、物品が収容されており、ロボットアーム等でAGV棚4に収容された物品が取り出される。
図2は、実施形態に係る動作制御システムの一例を示すブロック図である。
図2に示すように、動作制御システムは、さらに、充電ステーション6、無線LANアクセスポイント7、スイッチ8、及び上位サーバ9を備える。
充電ステーション6は、電力出力部を備え、また、AGV3は、電力入力部及びバッテリーを備える。充電ステーション6は、電力出力部から出力される電力をAGV3(電力入力部)へ供給する。AGV3は、電力入力部を介して入力される電力をバッテリーに供給する。例えば、電力出力部の床面からの高さは、AGV3の電力入力部の床面からの高さと同一である。AGV3は、制御サーバ2からの制御に基づき充電ステーション6の電力出力部に対応する位置まで走行し、電力入力部を電力出力部に接続し、電力供給を受ける。なお、電力入力部と電力出力部の接続は、接触又は非接触の何れでも良い。
無線LANアクセスポイント7は、カメラ11、12、AGV3、及び充電ステーション6等の通信デバイスとデータを送受信する。また、スイッチ8は、受信したデータの宛先を選択して、選択した宛先にデータを送信する。上位サーバ9は、AGV棚4に収容される物品に関するオーダーのデータを管理し、制御サーバ2に対してオーダーのデータを送信する。オーダーのデータは、物品識別情報等を含む。
図3は、実施形態に係る動作制御システムの制御サーバの一例を示すブロック図である。
制御サーバ2は、カメラ11及び12からの撮影データに基づき地図データを生成する。また、制御サーバ2は、AGV棚4に収容される物品に関するオーダーのデータに基づき動作計画を生成する。また、制御サーバ2は、地図データ及び動作計画に基づきAGV3の動作を制御する制御信号を生成し、AGV3に対して制御信号を送信する。制御サーバ2は、所定のAGV3に対して制御信号を送信し、所定のAGV3によるAGV棚4の積み込み、移動、積み降ろし等を実現する。
また、AGV3は、AGV識別情報を記憶し、所定のタイミングで制御サーバ2に対してAGV識別情報を送信し、さらに、移動距離情報を送信する。制御サーバ2は、AGV3から送信されるAGV識別情報及び移動距離情報、並びに撮影データの解析結果から、各AGV3を識別するとともに、各AGV3の位置を特定する。撮影データは、複数の画像フレームを含み、制御サーバ2は、複数の画像フレームを解析することにより、各物体(各AGV3)を追跡する。
図3に示すように、制御サーバ2は、プロセッサ21(制御部)、ROM22、RAM23、補助記憶デバイス24(記憶部)、通信インタフェース25(通信部)、及び入出力部26を備える。
プロセッサ21は、制御部として機能し、カメラからの撮影データに基づく地図データの生成、及び撮影データに基づくAGV3の移動制御等に必要な演算及び制御などの処理を行うコンピュータの中枢部分に相当する。プロセッサ21は、ROM22又は補助記憶デバイス24などに記憶されたシステムソフトウェア、アプリケーションソフトウェア又はファームウェアなどのプログラムに基づいて、制御サーバ2の各種の機能を実現するべく制御を実行する。プロセッサ21は、例えば、CPU(central processing unit)、MPU(micro processing unit)、又はDSP(digital signal processor)である。あるいは、プロセッサ21は、これらのうちの複数を組み合わせたものである。
ROM22は、非一時的なコンピュータ可読記憶媒体であり、プロセッサ21を中枢とするコンピュータの主記憶装置に相当する。ROM22は、専らデータの読み出しに用いられる不揮発性メモリである。ROM22は、上記のプログラムを記憶する。また、ROM22は、プロセッサ21が各種の処理を行う上で使用するデータ又は各種の設定値などを記憶する。
RAM23は、プロセッサ21を中枢とするコンピュータの主記憶装置に相当する。RAM23は、データの読み書きに用いられるメモリである。RAM23は、プロセッサ21が各種の処理を行う上で一時的に使用するデータを記憶しておく、いわゆるワークエリアなどとして利用される。
補助記憶デバイス24は、非一時的なコンピュータ可読記憶媒体であり、プロセッサ21を中枢とするコンピュータの補助記憶装置に相当する。補助記憶デバイス24は、上記のプログラムを記憶する場合もある。また、補助記憶デバイス24は、プロセッサ21が各種の処理を行う上で使用するデータ、プロセッサ21での処理によって生成されたデータ又は各種の設定値などを保存する。
ROM22及び補助記憶デバイス24の少なくとも一方に記憶されるプログラムは、地図データ、動作計画、制御信号、補正信号、異物情報、及び異物回避ルート等を生成するためのプログラムを含む。一例として、制御サーバ2は、当該プログラムがROM22及び補助記憶デバイス24の少なくとも一方に記憶された状態で制御サーバ2の管理者などへと譲渡される。しかしながら、制御サーバ2は、当該プログラムが記憶されない状態で当該管理者などに譲渡されても良い。そして、当該プログラムが別途に当該管理者などへと譲渡され、当該管理者又はサービスマンなどによる操作の下に補助記憶デバイス24へ書き込まれても良い。このときの当該プログラムの譲渡は、例えば、磁気ディスク、光磁気ディスク、光ディスク又は半導体メモリなどのようなリムーバブルな記憶媒体に記録して、あるいはネットワークなどを介したダウンロードにより実現できる。
通信インタフェース25は、通信部として機能し、ネットワークなどを介してカメラ11、12、AGV3、充電ステーション6、及び上位サーバ9等の他の装置と通信し、他の装置から送信される各種情報を受信し、また、他の装置に各種情報を送信するためのインタフェースである。例えば、通信インタフェース25は、上位サーバ9からオーダーのデータを受信する。また、通信インタフェース25は、カメラ11、12から撮影データを受信する。さらに、通信インタフェース25は、AGV3に対して動作(移動)を制御する制御信号を送信する。
入出力部26は、キーボード、テンキー、マウス、ディスプレイ、及びスピーカ等を備える。入出力部26は、オペレータからの指示入力を受け付けプロセッサ21へ通知する。また、ディスプレイは、オペレータに対して各種情報を表示する。さらに、ディスプレイは、異物情報及び異物回避ルート等を表示する。
図4は、実施形態に係る制御サーバのプロセッサの一例を示す機能ブロック図である。
図4に示すように、プロセッサ21は、カメラ制御部211、撮影データ取得部212、画像解析部213、オーダー取得部214、動作計画部215、AGV制御部216、及び異常処理部217を備える。プロセッサ21は、ROM22及び補助記憶デバイス24の少なくとも一方に記憶されるプログラムに基づき動作し、各部の機能を実現する。
カメラ制御部211は、カメラ11及び12に対して撮影制御信号を送信し、また、カメラ12がドローンの場合には、カメラ12に対して移動制御信号を送信する。撮影制御信号は、カメラの撮影方向及び撮影倍率等を制御し、移動制御信号はカメラの位置を制御する。カメラ11は、撮影制御信号に従い所定方向に回動し所定方向を所定倍率で撮影し撮影データを出力する。また、カメラ12は、移動制御信号に従い目的位置へ移動(飛行)し、撮影制御信号に従い所定方向に回動し所定方向を所定倍率で撮影し撮影データを出力する。
撮影データ取得部212は、通信インタフェース25を介して、カメラ11及び12からの撮影データをリアルタイムに取得する。例えば、撮影データ取得部212は、カメラ11及び12から連続して出力される撮影データをリアルタイムに取得する。また、撮影データ取得部212は、取得した撮影データを補助記憶デバイス24へ出力する。補助記憶デバイス24は、出力される撮影データを記憶する。
画像解析部213は、撮影データ取得部212によりリアルタイムに取得される撮影データに含まれる撮影画像データに基づき地図データを生成する。例えば、画像解析部213は、カメラ11の位置情報、カメラ11及び12に対して出力された撮影制御信号(撮影方向及び撮影倍率)、及びカメラ12に対して出力された移動制御信号(撮影位置)等に基づき、カメラ11及び12の位置、撮影方向、及び撮影倍率等を検出する。また、画像解析部213は、カメラ11及び12の位置、撮影方向、及び撮影倍率等に基づき、撮影データに含まれる撮影時刻及び撮影画像データを解析し、解析結果に基づき地図データを生成する。画像解析部213は、生成される地図データを補助記憶デバイス24へ出力する。補助記憶デバイス24は、生成される地図データを記憶する。
地図データは、撮影時刻の異なる複数の地図を含み、所定のタイミングで最新版の地図が追加される。言い換えれば、所定のタイミングで最新版の地図が更新される。地図は、AGV棚4を搬送するAGV3、AGV3による搬送対象のAGV棚4、及びピッキングステーション5等の検出結果を含む。検出結果は、検出画像、検出時刻、及び検出位置の少なくとも一つを含む。
さらに、画像解析部213は、AGV棚4、ピッキングステーション5、及び障害物等の領域の外縁にマージン領域を加えたAGV走行禁止領域を検出し、AGV走行禁止領域を除外してAGV走行路を設定する。マージン領域は、AGV3とAGV棚4、ピッキングステーション5、及び障害物等との衝突防止のための領域であり、AGV3の上限走行速度に応じて定まるサイズとなる。即ち、AGV3の走行速度が速いほど、AGV3が停止するまでの制動距離が延びるので、広いサイズのマージン領域が設定される。例えば、画像解析部213は、AGV走行禁止領域を除外して、AGV棚4とピッキングステーション5との最短距離に対応するAGV走行路を設定する。地図データに含まれる地図は、設定される走行路を含む。
なお、画像解析部213は、カメラ11からの撮影データに基づき地図の全体像を生成し、指定位置に移動(飛行)させたカメラ12からの撮影データに基づき地図の細部を生成し、全体像と細部を合成して地図データを生成してもよい。
また、画像解析部213は、撮影データに含まれる撮影画像データから、物品識別情報及び棚識別情報を読み取る。或いは、カメラ11及び12は、物品に貼り付けられた物品識別情報を読み取り、読み取った物品識別情報を出力してもよい。同様に、カメラ11及び12は、AGV棚4に貼り付けられた棚識別情報を読み取り、読み取った棚識別情報を出力してもよい。画像解析部213は、物品識別情報及び棚識別情報に基づき、どのAGV棚4にどの物品が収納されているかを示す管理情報を生成する。画像解析部213は、生成した地図データと管理情報を含む解析結果を補助記憶デバイス24へ出力する。
また、画像解析部213は、撮影時刻の異なる複数の撮影画像データに基づき、脱落物及び侵入物等の異物を検出する。例えば、画像解析部213は、補助記憶デバイス24から地図データを読み出し、地図データに含まれる撮影時刻の異なる複数の地図の差分に基づき、異物を検出し、異物に関する異物情報を生成する。異物情報は、異物画像、異物検出時刻、及び異物位置の少なくとも一つを含む。画像解析部213は、生成した異物情報を補助記憶デバイス24へ出力する。補助記憶デバイス24は、出力される異物情報を記憶する。
オーダー取得部214は、通信インタフェース25を介して、上位サーバ9から送信されるオーダーのデータを取得する。また、オーダー取得部214は、取得したオーダーのデータを補助記憶デバイス24へ出力する。補助記憶デバイス24は、出力されるオーダーのデータを記憶する。
動作計画部215は、オーダー取得部214により取得されたオーダーのデータ等に基づき動作計画を生成する。オーダーのデータは、物品の識別情報及び個数等を含む。動作計画部215は、地図データと管理情報を含む解析結果、及びオーダーのデータに基づき動作計画を生成する。例えば、動作計画部215は、地図データと管理情報を含む解析結果及びオーダーのデータに基づき、どのAGV3にどのAGV棚4をどのタイミングで搬送させるかを計画した動作計画を生成する。
AGV制御部216は、補助記憶デバイス24から地図データ及び動作計画を読み出し、地図データ及び動作計画に基づき各AGV3の移動を制御する制御信号を生成する。制御信号は、通信インタフェース25を介して、各AGV3へ送信される。地図データは、少なくとも各AGV棚4の位置情報を含むので、AGV制御部216は、地図データに基づき所定のAGV3に対して、所定のAGV棚4の位置(棚下)へ移動する制御信号を生成することができる。また、AGV制御部216は、地図データ及び動作計画に基づき、搬送対象となる複数のAGV棚4のそれぞれにAGV3を割り当てて、搬送対象となる複数のAGV棚4の移動を並列処理するための制御信号を生成してもよい。また、1台のAGV3は1回の移動で1台のAGV棚4を移動するが、AGV制御部216は、1台のAGV3の複数回の移動で複数台のAGV棚4を移動させる場合に、1台のAGV3の最小移動距離で複数のAGV棚4を移動させるための制御信号を生成してもよい。また、AGV制御部216は、補助記憶デバイス24から地図データ、動作計画、及び異物情報を読み出し、地図データ、動作計画、及び異物情報に基づき異物を回避してAGV3を移動させる制御信号を生成してもよい。
さらに、AGV制御部216は、動作計画及び撮影データに基づき、AVG3の位置ずれを補正する補正信号を生成し、補正信号を含む制御信号を生成してもよい。AGV制御部216は、動作計画から予測される所定時刻のAGV3の予測位置を検出する。また、AGV制御部216は、撮影データに含まれる撮影画像データから検出される所定時刻のAGV3の実際位置を検出する。なお、制御サーバ2は、各AGV3から送信される識別情報と移動距離情報及び画像解析に基づき、各AGV3追跡しており、AGV制御部216は、同一のAGV3について予測位置と実際位置を検出する。AGV制御部216は、予測位置及び実際位置に基づき、AVG3の位置ずれを補正する補正信号を生成する。つまり、AGV制御部216は、予測位置及び実際位置の差分(差分距離)に基づき、AGV3の移動量を補正する補正信号を生成する。例えば、補正信号は、本来の減速タイミングより早いタイミングで減速を指示し、低速走行区間を長くする信号である。これにより、AGV3を高精度に停止させることができ、AGV3の位置精度の向上を図ることができる。
例えば、AGV制御部216は、AGV3の出発地点、方向転換地点、又は目的地点でAGV3が停止した状態を対象として、予測停止位置と実際停止位置を検出し補正信号を生成する。また、AGV制御部216は、AGV3の移動距離が閾値を超え、且つAGV3の出発地点、方向転換地点、又は目的地点でAGV3が停止したときに、予測停止位置と実際停止位置を検出し補正信号を生成してもよい。AGV3の移動距離が長くなるほど誤差が蓄積されやすくなる。移動距離が閾値を超えた後の所定のタイミングで補正信号を生成することにより、タイムリーな補正を実現することができる。
異常処理部217は、補助記憶デバイス24から異物情報を読み出し、通信インタフェース25を介して上位サーバ9等へ出力する。或いは、異常処理部217は、異物情報を入出力部26へ出力する。上位サーバ9又は入出力部26のディスプレイ等は、異物情報を表示する。例えば、ディスプレイには、異物画像、異物検出時刻、及び異物位置(地図上における異物位置)の少なくとも一つが表示される。また、入出力部26は、異物情報の表示に対応してアラートを映像及び音声で出力してもよい。
また、異常処理部217は、補助記憶デバイス24から地図データ及び異物情報を読み出し、地図データ及び異物情報に基づき、係員等が異物を回収するにあたり推奨される異物回収ルートを生成し、通信インタフェース25を介して上位サーバ9等へ出力する。或いは、異常処理部217は、異物回収ルートを入出力部26へ出力する。上位サーバ9のディスプレイ、又は入出力部26のディスプレイ等は、異物回収ルートを表示する。例えば、ディスプレイには、地図に重ね合わせて異物回収ルートが表示される。
図5は、実施形態に係る動作制御システムのAGVの概略構成の一例を示すブロック図である。
図5に示すように、AGV3は、プロセッサ31(制御部)、ROM32、RAM33、補助記憶デバイス34、通信インタフェース35(受信部)、駆動部36、センサ37、バッテリー38、充電機構39、及びプッシャーPを備える。
プロセッサ31は、制御部として機能し、移動(加速、減速、及び停止)、方向転換、及びAGV棚4の積み降ろし等の動作に必要な演算及び制御などの処理を行うコンピュータの中枢部分に相当する。プロセッサ31は、ROM32又は補助記憶デバイス34などに記憶されたシステムソフトウェア、アプリケーションソフトウェア又はファームウェアなどのプログラムに基づいて、AGV3の各種の機能を実現するべく制御を実行する。プロセッサ31は、例えば、CPU、MPU、又はDSPである。或いは、プロセッサ31は、これらのうちの複数を組み合わせたものである。
例えば、制御サーバ2は、AGV3を現在位置から第1の位置(目的のAGV棚4の位置)へ移動させて第1の位置から第2の位置(目的のピッキングステーション5の位置)へ移動させて、第2の位置から第1の位置へ移動する(戻る)ための制御信号を送信する。なお、制御サーバ2は、一連の動作をまとめた制御信号を送信してもよいし、一連の動作を分割して複数回の制御信号を送信してもよい。プロセッサ31は、制御サーバ2から送信される制御信号に応じた駆動信号を出力する。これにより、AGV3は、現在位置から第1の位置へ移動し、第1の位置から第2の位置へ移動し、第2の位置から第1の位置へ移動する。また、プロセッサ31は、制御サーバ2から送信される制御信号に含まれるAGV棚4の積み降ろし指示に応じた駆動信号を出力する。これにより、AGV3は、プッシャーPによりAGV棚4を持ち上げたり、持ち上げたAGV3を降ろしたりする。
ROM32は、非一時的なコンピュータ可読記憶媒体であり、プロセッサ31を中枢とするコンピュータの主記憶装置に相当する。ROM32は、専らデータの読み出しに用いられる不揮発性メモリである。ROM32は、上記のプログラムを記憶する。また、ROM32は、プロセッサ31が各種の処理を行う上で使用するデータ又は各種の設定値などを記憶する。
RAM33は、プロセッサ31を中枢とするコンピュータの主記憶装置に相当する。RAM33は、データの読み書きに用いられるメモリである。RAM33は、プロセッサ31が各種の処理を行う上で一時的に使用するデータを記憶しておく、いわゆるワークエリアなどとして利用される。
補助記憶デバイス34は、非一時的なコンピュータ可読記憶媒体であり、プロセッサ31を中枢とするコンピュータの補助記憶装置に相当する。補助記憶デバイス34は、上記のプログラムを記憶する場合もある。また、補助記憶デバイス34は、プロセッサ31が各種の処理を行う上で使用するデータ、プロセッサ31での処理によって生成されたデータ又は各種の設定値などを保存する。
通信インタフェース35は、ネットワークなどを介して制御サーバ2等の他の装置と無線で通信し、他の装置から送信される各種情報を受信し、また、他の装置に各種情報を送信するためのインタフェースである。例えば、通信インタフェース35は、受信部として機能し、制御サーバ2からの制御信号を受信する。また、通信インタフェース35は、制御サーバ2に対して、所定のタイミングでAGV識別情報及び移動距離情報を送信する。また、通信インタフェース35は、目的位置への走行完了、及びAGV棚4の積み降ろしの完了等を通知する完了通知を送信する。
駆動部36は、モータ、モータからの動力で回転する車輪、進行方向を切り替える操舵機構等を備える。駆動部36は、プロセッサ31から出力される駆動信号に基づきモータを回転又は停止し、また、操舵機構を制御し、AGV3本体を目的位置へ移動させる。また、AGV3がAGV棚4下に潜り込んだ状態で、駆動部36は、プロセッサ31から出力される駆動信号に基づきモータを回転(順回転)し、プッシャーPが上昇しAGV棚4が持ち上げられる。また、AGV3が目的位置に到達した後、駆動部36は、プロセッサ31から出力される駆動信号に基づきモータを回転(逆回転)し、プッシャーPが下降しAGV棚4が床面に降ろされる。
センサ37は、反射センサである。反射センサは、周囲の物体までの距離を検知し、検知信号をプロセッサ31へ通知する。プロセッサ31は、センサ37からの検知信号に基づき、AGV3の走行を制御する制御信号を出力する。例えば、プロセッサ31は、センサ37からの検知信号に基づき、物体への衝突を回避する減速又は停止等の制御信号を出力する。なお、センサ37以外に、カメラを備え、カメラが、周辺を撮影し撮影画像をプロセッサ31へ出力してもよい。この場合、プロセッサ31は、撮影画像を解析し、物体への衝突を回避する減速又は停止等の制御信号を出力する。
バッテリー38は、駆動部36等に必要な電力を供給する。充電機構39は、充電ステーション6とバッテリー38とを接続する機構であり、バッテリー38は、充電機構39を介して充電ステーション6から供給される電力により充電される。
図6は、実施形態に係る制御サーバによるAGV動作制御処理の一例を示すフローチャートである。図6を参照して、制御サーバ2のプロセッサ21によるAGV動作制御処理を説明する。
カメラ制御部211は、カメラ11及び12に対して撮影制御信号を送信し、また、カメラ12がドローンの場合には、カメラ12に対して移動制御信号を送信する(ST1)。カメラ11は、撮影制御信号に従い撮影動作を実行し、撮影データを出力する。また、カメラ12は、移動制御信号に従い目的位置へ移動(飛行)し、撮影制御信号に従い撮影動作を実行し撮影データを出力する。撮影データ取得部212は、通信インタフェース25を介して、カメラ11及び12からの撮影データをリアルタイムに取得する(ST2)。
画像解析部213は、カメラ11及び12に対して出力された撮影制御信号、及びカメラ12に対して出力された移動制御信号に基づき、カメラ11及び12の位置、撮影方向、及び撮影倍率等を検出する。また、画像解析部213は、カメラ11及び12の位置、撮影方向、及び撮影倍率等に基づき、撮影データに含まれる撮影時刻及び撮影画像データを解析し(ST3)、解析結果に基づき地図データを生成する(ST4)。補助記憶デバイス24は、生成される地図データを記憶する(ST5)。なお、地図データを生成する専用サーバを設置し、専用サーバが映像データを受信し、受信した映像データを解析して地図データを生成し、制御サーバ2へ地図データを転送してもよい。
オーダー取得部214は、通信インタフェース25を介して、上位サーバ9から送信されるオーダーのデータを取得する(ST6)。なお、オーダーのデータの取得は、他のタイミングでもよく、例えば、カメラにより撮影を開始する前に、オーダーのデータを取得してもよい。
動作計画部215は、オーダー取得部214により取得されたオーダーのデータ等に基づき動作計画を生成する(ST7)。AGV制御部216は、地図データ及び動作計画に基づき各AGV3の移動を制御する制御信号を生成する(ST8)。通信インタフェース25は、所定のAGV3との通信を確立し、所定のAGV3用の制御信号を所定のAGV3へ送信する(ST9)。
図7は、実施形態に係る制御サーバによる位置ずれ補正処理の一例を示すフローチャートである。図7を参照して、制御サーバ2のプロセッサ21による位置ずれ補正処理を説明する。
AGV制御部216は、動作計画から予測される所定時刻のAGV3の予測位置を検出する(ST11)。また、AGV制御部216は、撮影データに含まれる撮影画像データから検出される所定時刻のAGV3の実際位置を検出する(ST12)。AGV制御部216は、予測位置及び実際位置の差分(差分距離)に基づき、位置ずれを検出し(ST13)、ずれ量を補正する補正信号を生成する(ST14)。通信インタフェース25は、所定のAGV3との通信を確立し、所定のAGV3用の補正信号を含む制御信号を所定のAGV3へ送信する。
図8は、実施形態に係る制御サーバによる異物処理の一例を示すフローチャートである。図8を参照して、制御サーバ2のプロセッサ21による異物処理を説明する。
画像解析部213は、撮影時刻の異なる複数の地図の差分に基づき、脱落物及び侵入物等の異物を検出し(ST21)、異物に関する異物情報を生成する(ST22)。異物情報は、異物画像、異物検出時刻、及び異物位置の少なくとも一つを含む。補助記憶デバイス24は、生成される異物情報を記憶する。
異常処理部217は、補助記憶デバイス24から異物情報を読み出し、通信インタフェース25を介して上位サーバ9及び入出力部26へ出力する(ST23)。上位サーバ9又は入出力部26のディスプレイ等は、異物情報を表示する。例えば、入出力部26は、異物情報の表示に対応してアラートを映像又は音声で出力してもよい。
図9は、実施形態に係る制御サーバによる異物回収支援の一例を示すフローチャートである。図9を参照して、制御サーバ2のプロセッサ21による異物回収支援を説明する。
画像解析部213は、撮影時刻の異なる複数の地図の差分に基づき、脱落物及び侵入物等の異物を検出し(ST31)、異物に関する異物情報を生成する。異常処理部217は、地図データ及び異物情報に基づき、係員等が異物を回収するにあたり推奨される異物回収ルートに関する情報を生成する(ST32)。通信インタフェース25は、上位サーバ9等へ異物回収ルートに関する情報を出力する(ST33)。或いは、異常処理部217は、異物回収ルートに関する情報を入出力部26へ出力する。上位サーバ9のディスプレイ、又は入出力部26のディスプレイ等は、異物回収ルートに関する情報に基づき、異物回収ルートを表示する。
図10は、実施形態に係る制御サーバによる異物回避処理の一例を示すフローチャートである。図10を参照して、制御サーバ2のプロセッサ21による異物回避処理を説明する。
画像解析部213は、撮影時刻の異なる複数の地図の差分に基づき、脱落物及び侵入物等の異物を検出し(ST41)、異物に関する異物情報を生成する。AGV制御部216は、地図データ、動作計画、及び異物情報に基づき異物を回避してAGV3を移動させる制御信号を生成する(ST42)。或いは、AGV制御部216は、地図データ、動作計画、及び異物情報に基づき、異物及び異物回収ルートを回避してAGV3を移動させる制御信号を生成する(ST42)。通信インタフェース25は、所定のAGV3との通信を確立し、所定のAGV3に対して制御信号を送信する(ST43)。
図11は、実施形態に係る制御サーバから出力される異物回収ルート及び異物情報の表示例を示す図である。
図11に示すように、入出力部26のディスプレイは、地図261に重ね合わせて異物回収ルート262を表示する。地図261と異物回収ルート262を異なる色で表示してもよい。また、このディスプレイは、異物情報として脱落物画像263も表示する。加えて、異物情報として、異物検出時刻を表示してもよい。係員は、ディスプレイで、回収ルート262及び脱落物画像263を把握することにより、効率よく異物を回収することができる。
なお、本実施形態では、動作制御システムを倉庫等に適用するケースについて説明した。倉庫又は倉庫近隣に制御サーバ2を設置してもよいし、倉庫と離れた遠隔地に制御サーバを設置してもよい。このように、制御サーバ2の設置位置は特に限定されない。また、制御サーバ2が、一つの倉庫内の各AGV3の動作を制御してもよいし、複数の倉庫内の各AGVの動作を統括して制御してもよい。後者の場合、制御サーバ2は、倉庫毎に割り当てられたカメラ11及び12からの撮影データに基づき、倉庫毎に地図データを生成し、倉庫毎の地図データに基づき倉庫毎のAGV3の動作を制御する制御信号を生成する。或いは、複数の制御サーバ2のそれぞれが、1つの倉庫内の各AGV3の動作を制御するようにしてもよい。この場合、各制御サーバ2が、情報を共有するようにしてもよい。例えば、所定の倉庫を管理する所定の制御サーバ2が、所定の倉庫内で異物を検出した場合、所定の倉庫内で異物が検出されたことを示す異物情報を他の制御サーバ2と共有し、所定の倉庫の係員及び他の倉庫の係員に向けてディスプレイ等で異物情報を表示するようにしてもよい。
以上説明した実施形態の制御サーバ2及び動作制御システムによれば、搬送車により物品又は棚を搬送するシステムの構築、変更、又は維持等の負担を軽減することができる。即ち、動作制御システムでは、AGVの走行をナビゲートするためのQRコード、RF-IDタイル、磁気テープ、又は反射板等を床面に張り付ける必要はない。よって、システムの構築、変更、又は維持等の負担を軽減することができる。また、AGV3に自動運転技術又はSLAM(Simultaneous Localization and Mapping)技術を搭載する必要もない。よって、AVG3のコストも抑制できる。
また、動作制御システムは、AGV3の位置ずれを検出して、位置ずれを補正する補正信号を生成し、補正信号を含む制御信号をAGV3へ送信する。これにより、AGV3を高精度に制御することができる。また、動作制御システムは、異物を検出して、異物情報を生成し、異物情報を出力する。異物情報は、異物画像、異物検出時刻、及び異物位置の少なくとも一つを含む。また、動作制御システムは、異物を検出して、異物回収ルートを生成し、異物回収ルートに関する情報を出力する。これにより、係員は、異物情報及び異物回収ルートを見て、異物が発生したことを知り、異物を効率良く回収することができる。
また、動作制御システムは、異物を検出して、異物を回避する制御信号を生成し、制御信号をAGV3へ送信する。或いは、動作制御システムは、異物及び異物回収ルートを回避する制御信号を生成し、制御信号をAGV3へ送信する。これにより、AGV3の異物への衝突を回避することができ、また、異物を回収しようとした係員とAGV3との衝突を回避することもできる。短時間での復旧と稼働率低下の抑制効果が期待できる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
2…制御サーバ
3…AGV
4…AGV棚
5…ピッキングステーション
6…充電ステーション
7…アクセスポイント
8…スイッチ
9…上位サーバ
11…カメラ
12…カメラ(ドローン)
21…プロセッサ
24…補助記憶デバイス
25…通信インタフェース
26…入出力部
31…プロセッサ
34…補助記憶デバイス
35…通信インタフェース
36…駆動部
37…センサ
38…バッテリー
39…充電機構
211…カメラ制御部
212…撮影データ取得部
213…画像解析部
214…オーダー取得部
215…動作計画部
216…AGV制御部
217…異常処理部
261…地図
262…回収ルート
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[C1]
カメラからの画像データに基づき生成される地図データを記憶する記憶部と、
前記地図データに基づき搬送車の移動を制御する制御信号を生成する制御部と、
前記搬送車に対して前記制御信号を送信する通信部と、
を備える動作制御装置。
[C2]
前記制御部は、前記通信部を介して受信される前記画像データに基づき前記地図データを生成する、[C1]の動作制御装置。
[C3]
前記地図データは、前記搬送車による搬送対象の棚の位置データを含む、[C1]又は[C2]の動作制御装置。
[C4]
前記記憶部は、前記棚に収容される物品に関するオーダーを記憶し、
前記制御部は、前記オーダーに基づき動作計画を生成し、前記動作計画に基づき前記棚の移動を制御する前記制御信号を生成する、[C3]の動作制御装置。
[C5]
前記制御部は、前記動作計画から予測される前記搬送車の予測位置、及び前記画像データから検出される前記搬送車の実際位置に基づき、前記搬送車の位置ずれを補正する補正信号を生成し、
前記通信部は、前記搬送車に対して前記補正信号を含む前記制御信号を送信する、[C4]の動作制御装置。
[C6]
前記制御部は、撮影時刻の異なる複数の前記画像データに基づき異物を検出し、
前記通信部は、前記異物に関する異物情報を出力する、[C1]乃至[C5]の何れか一つの動作制御装置。
[C7]
前記制御部は、前記地図データ及び前記異物情報に基づき異物の回収ルートを生成し、 前記通信部は、前記回収ルートを出力する、[C6]の動作制御装置。
[C8]
前記制御部は、前記異物を回避して前記搬送車を移動させる前記制御信号を生成する、[C6]又は[C7]の動作制御装置。
[C9]
前記異物情報は、異物画像、異物検出時刻、及び異物位置の少なくとも一つを含む、[C6]乃至[C8]の何れか一つの動作制御装置。
[C10]
制御信号を送信する動作制御装置と、
前記制御信号に基づき動作する搬送車と、
を備える制御システムであって、
前記動作制御装置は、
カメラからの画像データに基づき生成される地図データを記憶する記憶部と、
前記地図データに基づき搬送車の移動を制御する前記制御信号を生成する第1の制御部と、
前記搬送車に対して前記制御信号を送信する送信部と、
を備え、
前記搬送車は、
前記制御信号を受信する受信部と、
前記制御信号に基づき移動を制御する第2の制御部と、
を備える動作制御システム。

Claims (10)

  1. カメラからの画像データに基づき生成される地図データを記憶する記憶部と、
    前記地図データに基づき搬送車の移動を制御する制御信号を生成する制御部と、
    前記搬送車に対して前記制御信号を送信する通信部と、
    を備える動作制御装置。
  2. 前記制御部は、前記通信部を介して受信される前記画像データに基づき前記地図データを生成する、請求項1の動作制御装置。
  3. 前記地図データは、前記搬送車による搬送対象の棚の位置データを含む、請求項1又は2の動作制御装置。
  4. 前記記憶部は、前記棚に収容される物品に関するオーダーを記憶し、
    前記制御部は、前記オーダーに基づき動作計画を生成し、前記動作計画に基づき前記棚の移動を制御する前記制御信号を生成する、請求項3の動作制御装置。
  5. 前記制御部は、前記動作計画から予測される前記搬送車の予測位置、及び前記画像データから検出される前記搬送車の実際位置に基づき、前記搬送車の位置ずれを補正する補正信号を生成し、
    前記通信部は、前記搬送車に対して前記補正信号を含む前記制御信号を送信する、請求項4の動作制御装置。
  6. 前記制御部は、撮影時刻の異なる複数の前記画像データに基づき異物を検出し、
    前記通信部は、前記異物に関する異物情報を出力する、請求項1乃至5の何れか一つの動作制御装置。
  7. 前記制御部は、前記地図データ及び前記異物情報に基づき異物の回収ルートを生成し、
    前記通信部は、前記回収ルートを出力する、請求項6の動作制御装置。
  8. 前記制御部は、前記異物を回避して前記搬送車を移動させる前記制御信号を生成する、請求項6又は7の動作制御装置。
  9. 前記異物情報は、異物画像、異物検出時刻、及び異物位置の少なくとも一つを含む、請求項6乃至8の何れか一つの動作制御装置。
  10. 制御信号を送信する動作制御装置と、
    前記制御信号に基づき動作する搬送車と、
    を備える制御システムであって、
    前記動作制御装置は、
    カメラからの画像データに基づき生成される地図データを記憶する記憶部と、
    前記地図データに基づき搬送車の移動を制御する前記制御信号を生成する第1の制御部と、
    前記搬送車に対して前記制御信号を送信する送信部と、
    を備え、
    前記搬送車は、
    前記制御信号を受信する受信部と、
    前記制御信号に基づき移動を制御する第2の制御部と、
    を備える動作制御システム。
JP2020158918A 2020-09-23 2020-09-23 動作制御装置及び動作制御システム Active JP6933765B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020158918A JP6933765B1 (ja) 2020-09-23 2020-09-23 動作制御装置及び動作制御システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020158918A JP6933765B1 (ja) 2020-09-23 2020-09-23 動作制御装置及び動作制御システム

Publications (2)

Publication Number Publication Date
JP6933765B1 JP6933765B1 (ja) 2021-09-08
JP2022052494A true JP2022052494A (ja) 2022-04-04

Family

ID=77550046

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020158918A Active JP6933765B1 (ja) 2020-09-23 2020-09-23 動作制御装置及び動作制御システム

Country Status (1)

Country Link
JP (1) JP6933765B1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009052907A (ja) * 2007-08-23 2009-03-12 Kozo Keikaku Engineering Inc 異物検出システム
JP2018162122A (ja) * 2017-03-24 2018-10-18 ソフトバンク株式会社 搬送装置、プログラム及び搬送システム
JP6736788B1 (ja) * 2020-02-28 2020-08-05 株式会社東芝 搬送制御装置、搬送制御方法、及びプログラム
JP2020527810A (ja) * 2019-04-04 2020-09-10 シャンハイ クイックトロン インテリジェント テクノロジー カンパニー リミテッドShanghai Quicktron Intelligent Technology Co., Ltd ナビゲーション制御方法、スマート倉庫システム及び無人搬送車

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009052907A (ja) * 2007-08-23 2009-03-12 Kozo Keikaku Engineering Inc 異物検出システム
JP2018162122A (ja) * 2017-03-24 2018-10-18 ソフトバンク株式会社 搬送装置、プログラム及び搬送システム
JP2020527810A (ja) * 2019-04-04 2020-09-10 シャンハイ クイックトロン インテリジェント テクノロジー カンパニー リミテッドShanghai Quicktron Intelligent Technology Co., Ltd ナビゲーション制御方法、スマート倉庫システム及び無人搬送車
JP6736788B1 (ja) * 2020-02-28 2020-08-05 株式会社東芝 搬送制御装置、搬送制御方法、及びプログラム

Also Published As

Publication number Publication date
JP6933765B1 (ja) 2021-09-08

Similar Documents

Publication Publication Date Title
US10754350B2 (en) Sensor trajectory planning for a vehicle
US11188088B2 (en) Human interacting automatic guided vehicle
KR101323705B1 (ko) 무인 화물 이송로봇을 이용한 무인 화물 이송시스템
US20200338763A1 (en) Self-driving vehicle system with steerable camera and indicator
KR101319045B1 (ko) 무인 화물 이송로봇
US9429951B2 (en) Transport management apparatus, transport system, and transport management program
US10025886B1 (en) Methods and systems for using projected patterns to facilitate mapping of an environment
CN110703745A (zh) 自动引导车的导航
US10990106B2 (en) Mobile unit, inventory management system and the method for mobile unit localization
JP2022052489A (ja) 動作制御装置及び動作制御システム
JP6933765B1 (ja) 動作制御装置及び動作制御システム
US20230211508A1 (en) Loading and unloading by an autonomous mobile robot
US20220162001A1 (en) Predicting a path of material handling equipment and determining an obstacle-free path
JP7116451B1 (ja) 飛行体制御システムおよび荷物管理システム
EP4298033A1 (en) Transportation assemblies providing a puzzle based storage system
JP2023042704A (ja) 飛行体制御システム
JP7446889B2 (ja) 搬送制御システム及びプログラム
US20240134378A1 (en) Automated Recovery Assistance for Incapacitated Mobile Robots
US20240231390A9 (en) Automated Recovery Assistance for Incapacitated Mobile Robots
US20240211879A1 (en) Conveyance plan generation method, conveyance plan generation apparatus, and computer-readable storage medium
JP7096614B1 (ja) 飛行体制御システムおよび荷物管理システム
US20230236600A1 (en) Operational State Detection for Obstacles in Mobile Robots
US20220267102A1 (en) Conveyance system, conveyance method, and conveyance program
KR20240031719A (ko) 스마트 물류 차량 및 그 제어 방법
JP2022181862A (ja) 荷物管理システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201202

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20201202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210305

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210512

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210720

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210819

R150 Certificate of patent or registration of utility model

Ref document number: 6933765

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150