JP2023537080A - 可動ロボットによる棚の位置姿勢の調整のための方法および装置 - Google Patents

可動ロボットによる棚の位置姿勢の調整のための方法および装置 Download PDF

Info

Publication number
JP2023537080A
JP2023537080A JP2023509431A JP2023509431A JP2023537080A JP 2023537080 A JP2023537080 A JP 2023537080A JP 2023509431 A JP2023509431 A JP 2023509431A JP 2023509431 A JP2023509431 A JP 2023509431A JP 2023537080 A JP2023537080 A JP 2023537080A
Authority
JP
Japan
Prior art keywords
shelf
identifier
orientation
target shelf
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023509431A
Other languages
English (en)
Inventor
シャオヤン ファン
ジングェン タン
Original Assignee
ベイジン・ジンドン・チアンシ・テクノロジー・カンパニー・リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ベイジン・ジンドン・チアンシ・テクノロジー・カンパニー・リミテッド filed Critical ベイジン・ジンドン・チアンシ・テクノロジー・カンパニー・リミテッド
Publication of JP2023537080A publication Critical patent/JP2023537080A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • G05D1/0253Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting relative motion information from a plurality of images taken successively, e.g. visual odometry, optical flow
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Signal Processing (AREA)
  • Warehouses Or Storage Devices (AREA)
  • Manipulator (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

本開示の実施形態は、可動ロボットによる棚の位置姿勢の調整のための方法および装置を開示する。当該方法の一つの具体的な実施形態は、画像採集装置が所定の採集位置で対象棚の棚識別子を所定の採集姿勢で撮影した画像である対象棚の棚識別子画像を取得するステップと、対象棚の位置姿勢識別子を棚識別子画像から認識し、対象棚の位置姿勢識別子に基づいて対象棚の現在の位置姿勢を特定するステップと、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値が所定の偏差閾値よりも大きいことに応答して、対象棚にズレが生じたと判定するステップと、対象棚にズレが生じたと判定されたことに応答して、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成するステップと、搬送経路を可動ロボットに送信し、可動ロボットが搬送経路に沿って対象棚の現在の位置姿勢を予め設定された位置姿勢と一致するように調整させるようにするステップとを含む。棚の位置姿勢を自動的に検出し、修正することができる。【選択図】図1

Description

<関連出願の相互参照>
本開示は、2021年1月29日に提出された出願番号が202110134237.9で、発明の名称が「可動ロボットによる棚の位置姿勢の調整のための方法および装置」である中国特許出願に基づく優先権を主張し、当該特許出願の全文を引用により本開示に組み込む。
本開示の実施形態は、コンピュータの技術分野に関し、具体的にはスマート倉庫の分野に関し、特に可動ロボットによる棚の位置姿勢の調整のための方法および装置に関する。
可動ロボットはスマート倉庫において非常に広く利用されており、通常、棚の搬送に用いられている。可動ロボットが棚を搬送する過程で、周囲の棚と接触する場合があり、その接触により周囲の棚がずれてしまう可能性がある。
従来技術では、通常、オペレータが定期的に棚を観察し、ズレが生じた棚を手動で補正する。
本開示の実施形態は、可動ロボットによる棚の位置姿勢の調整のための方法および装置を提供する。
第1の態様では、本開示の実施形態は、可動ロボットによる棚の位置姿勢の調整のための方法であって、対象棚の棚識別子画像を取得するステップであって、棚識別子画像は、画像採集装置が所定の採集位置で対象棚の棚識別子を所定の採集姿勢で撮影した画像であり、棚識別子は、対象棚の位置姿勢識別子を含む、ステップと、対象棚の位置姿勢識別子を棚識別子画像から認識し、対象棚の位置姿勢識別子に基づいて対象棚の現在の位置姿勢を特定するステップと、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値が所定の偏差閾値よりも大きいことに応答して、対象棚にズレが生じたと判定するステップと、対象棚にズレが生じたと判定されたことに応答して、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成するステップと、搬送経路を可動ロボットに送信し、可動ロボットが搬送経路に沿って対象棚の現在の位置姿勢を予め設定された位置姿勢と一致するように調整させるようにするステップとを含む方法を提供する。
いくつかの実施形態では、棚識別子の中心点と対象棚の中心点は水平面内での投影が重なり、位置姿勢識別子は、棚の長手方向識別子と、棚の幅方向識別子と、距離識別子とを含み、距離識別子は、棚識別子のエリア内に均一に分布する複数のエリア識別子を含み、エリア識別子の各々は、当該エリア識別子が所属するエリアの、棚識別子の中心点からの相対位置を表し、対象棚の現在の位置姿勢は、棚識別子画像における対象棚の長手方向識別子と幅方向識別子に基づいて、対象棚の現在の長手方向と幅方向を特定し、対象棚の現在の姿勢を得るステップと、棚識別子画像におけるエリア識別子から、画像採集装置に対する対象棚の相対位置を認識し、対象棚の画像採集装置に対する相対位置と所定の採集位置とに基づいて、対象棚の現在の位置を特定するステップと、対象棚の現在の姿勢と現在の位置に基づいて、対象棚の現在の位置姿勢を得るステップと、によって特定される。
いくつかの実施形態では、所定の採集位置には、第1の基準方向識別子と第2の基準方向識別子とを含む予め設定された採集位置識別子が設けられており、方法は、予め設定された採集位置識別子の画像を取得するステップと、予め設定された採集位置識別子の画像から第1の基準方向識別子と第2の基準方向識別子を認識するステップと、第1の基準方向識別子が示す方向を対象棚の所定の長さ方向とし、第2の基準方向識別子が示す方向を対象棚の所定の幅方向とし、対象棚の予め設定された姿勢を取得するステップと、所定の採集位置の中心点を対象棚の予め設定された位置とするステップと、予め設定された姿勢と対象棚の予め設定された位置に基づいて、対象棚の予め設定された位置姿勢を特定するステップと、をさらに含む。
いくつかの実施形態では、当該方法は、棚識別子画像に対象棚の棚識別子が存在しないと判断されたことに応答して警告情報を送信するステップをさらに含む。
第2の態様では、本開示の実施形態は、可動ロボットによる棚の位置姿勢の調整のための装置であって、対象棚の棚識別子画像を取得するように構成される画像取得ユニットであって、棚識別子画像は、画像採集装置が所定の採集位置で対象棚の棚識別子を所定の採集姿勢で撮影した画像であり、棚識別子は、対象棚の位置姿勢識別子を含む、画像取得ユニットと、対象棚の位置姿勢識別子を棚識別子画像から認識し、対象棚の位置姿勢識別子に基づいて対象棚の現在の位置姿勢を特定するように構成される画像認識ユニットと、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値が所定の偏差閾値よりも大きいことに応答して、対象棚にズレが生じたと判定するように構成される位置姿勢判定ユニットと、対象棚にズレが生じたと判定されたことに応答して、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成するように構成される経路生成ユニットと、搬送経路を可動ロボットに送信し、可動ロボットが搬送経路に沿って対象棚の現在の位置姿勢を予め設定された位置姿勢と一致するように調整させるように構成される経路送信ユニットと、を備える装置を提供する。
いくつかの実施形態では、棚識別子の中心点と対象棚の中心点は水平面内での投影が重なり、位置姿勢識別子は、棚の長手方向識別子と、棚の幅方向識別子と、距離識別子とを含み、距離識別子は、棚識別子のエリア内に均一に分布する複数のエリア識別子を含み、エリア識別子の各々は、当該エリア識別子が所属するエリアの、棚識別子の中心点からの相対位置を表し、画像認識ユニットは、棚識別子画像における対象棚の長手方向識別子と幅方向識別子に基づいて、対象棚の現在の長手方向と幅方向を特定し、対象棚の現在の姿勢を得るように構成される現在姿勢特定モジュールと、棚識別子画像におけるエリア識別子から、対象棚の画像採集装置に対する相対位置を認識し、対象棚の画像採集装置に対する相対位置と所定の採集位置とに基づいて、前記対象棚の現在の位置を特定するように構成される現在位置特定モジュールと、対象棚の現在の姿勢と現在の位置に基づいて、対象棚の現在の位置姿勢を得るように構成される現在位置姿勢特定モジュールとを備える。
いくつかの実施形態では、所定の採集位置には、第1の基準方向識別子と第2の基準方向識別子とを含む予め設定された採集位置識別子が設けられており、装置は、予め設定された採集位置識別子の画像を取得し、予め設定された採集位置識別子の画像から第1の基準方向識別子と第2の基準方向識別子を認識し、第1の基準方向識別子が示す方向を対象棚の所定の長さ方向とし、第2の基準方向識別子が示す方向を対象棚の所定の幅方向とし、対象棚の予め設定された姿勢を取得し、予め設定された採集位置識別子の中心点を対象棚の予め設定された位置とし、予め設定された姿勢と予め設定された位置に基づいて、対象棚の予め設定された位置姿勢を特定するように構成される事前設定位置姿勢特定ユニットをさらに備える。
いくつかの実施形態では、当該装置は、棚識別子画像に対象棚の棚識別子が存在しないと判断されたことに応答して警告情報を送信するように構成される警告ユニットをさらに備える。
第3の態様では、本開示の実施形態は、第1の画像採集装置と、昇降装置と、コントローラとを備える可動ロボットであって、第1の画像採集装置は、可動ロボットの車体に固設され、棚の底面に設けられた棚識別子の画像を垂直上方へ採集するように構成され、昇降装置は、上下移動手段と、回転移動手段とを備え、上下移動手段は回転移動手段に連結され、回転移動手段を垂直方向に移動させるように構成され、回転移動手段は棚を垂直方向を中心に回転させるように構成され、コントローラは、第1の画像採集装置および昇降装置と通信可能に接続されており、上記可動ロボットによる棚の位置姿勢の調整のための方法におけるステップを実行するように構成される可動ロボットを提供する。
いくつかの実施形態では、可動ロボットは、可動ロボットの車体に固設された第2の画像採集装置をさらに備え、当該第2の画像採集装置は、地上に設置された予め設定された採集位置識別子の画像を垂直下方へ採集するように構成され、コントローラはさらに、予め設定された採集位置識別子の画像を認識して、可動ロボットを所定の採集位置に移動させるように制御するように構成される。
いくつかの実施形態では、回転移動手段は、水平に設置されたトレイを備え、トレイの底面は、上下移動手段に接続され、トレイの中央エリアには、中心軸がトレイの回転軸と同一直線にある垂直貫通孔が設けられ、第1の画像採集装置は、トレイの水平面内における投影の貫通孔のエリアに位置する。
第4の態様では、本開示の実施形態は、棚と、無人搬送車と、上記可動ロボットとを備え、棚の底面中心に棚識別子が設けられ、無人搬送車は、棚を搬送するように構成され、
可動ロボットは、棚にズレが生じたか否かを検出し、ズレが生じた棚の位置姿勢を予め設定された位置姿勢に調整するように構成される搬送システムを提供する。
いくつかの実施形態では、当該搬送システムは、少なくとも第1の可動ロボットと第2の可動ロボットとを備え、第1の可動ロボットと第2の可動ロボットとは、棚にズレが生じたか否かをそれぞれ検出し、ズレが生じた棚を同時に調整対象となる棚とし、第1の可動ロボットはさらに、調整対象となる棚の位置姿勢を予め設定された位置姿勢に調整するように構成され、第2の可動ロボットは、調整対象となる棚の調整後の位置姿勢にズレが生じたか否かを検出し、調整対象となる棚の調整後の位置姿勢にズレが生じたと判定したことに応答して警告情報を送信するように構成される。
本開示の他の特徴、目的および利点は、以下の図面を参照してなされる非限定的な実施形態に係る詳細な説明を読むことにより、より明らかになる。
本開示に係る可動ロボットによる棚の位置姿勢の調整のための方法の一実施形態を示すフローチャートである。 図1に示した可動ロボットによる棚の位置姿勢の調整のための方法の一適用シーンの概略図である。 本開示に係る可動ロボットによる棚の位置姿勢の調整のための方法のもう一つの実施形態を示すフローチャートである。 本開示に係る可動ロボットの一実施形態を示す構造概略図である。 本開示に係る可動ロボットによる棚の位置姿勢の調整のための装置の一実施形態の構造概略図である。 本開示の実施形態の実現に適する電子機器の構造概略図である。
以下、図面および実施形態を参照しながら本開示をより詳細に説明する。ここで述べている具体的な実施形態は関連発明を説明するためのものにすぎず、当該発明を限定するものではないことを理解すべきである。なお、説明の便宜上、図面には発明に関連する部分のみが示されている。
なお、本開示の実施形態および実施形態における特徴は、矛盾を生じない限り、相互に組み合わせることができる。以下、図面および実施形態を参照しながら本開示を詳細に説明する。
図1は、本開示に係る可動ロボットによる棚の位置姿勢の調整のための方法の一実施形態のフロー100を示す。当該フローは、次のステップを含む。
ステップ101では、対象棚の棚識別子画像を取得する。棚識別子画像は、画像採集装置が所定の採集位置で対象棚の棚識別子を所定の採集姿勢で撮影した画像であり、棚識別子は、対象棚の位置姿勢識別子を含む。
本実施形態では、位置姿勢識別子は、棚の水平面内における姿勢情報および位置情報を表す。画像採集装置が棚識別子を撮影するときの所定の採集位置と所定の採集姿勢は、画像採集装置のカメラ外部パラメータを予め決定するために用いられる。このように、可動ロボットによって棚の位置姿勢を調整する方法が実行される電子機器(例えば、WMS(Warehouse Management System,倉庫物流システムであってもよい)を稼働する端末装置)は、ネットワークを介して、画像採集装置により採集された棚識別子画像を取得し、採集された棚識別子画像における位置姿勢識別子の画素座標に基づいて、画像処理分野における座標変換アルゴリズムにより、画像採集装置のカメラ外部パラメータとカメラ内部パラメータとを組み合わせて、対象棚の実際のシーンにおける現在の位置姿勢を特定することができる。
一例として、棚識別子を対象棚(例えば棚の水平面上であってもよい)に予め固定しておき、棚識別子の中心点で対象棚の位置情報を表してもよい。例えば、棚識別子において画像(例えば、矢印)の形式で対象棚の方向を示し、棚識別子に均等に分布するキー点を設定し、隣接する2つのキー点間の距離が所定の固定長となるようにしてもよい。このように、可動ロボットによって棚の位置姿勢を調整するための方法が実行される電子機器は、棚識別子画像から対象棚の現在の姿勢を認識することができ、また、棚識別子画像におけるキー点間の画素距離と所定の固定長とを比較することによって、棚識別子画像のスケーリング係数を決定し、さらに、画像採集装置に対する棚識別子の相対位置を特定し、画像採集装置の所定の採集位置と結合して、対象棚の現在の位置姿勢を得ることができる。
また、例えば、棚識別子は、対象棚の位置姿勢識別子として、間隔をあけて配列された白黒格子画像を用いてもよい。各格子エリアの辺長がいずれも標定長であり、かつ辺長の延在方向が対象棚の長手方向または幅方向と平行である。このように、対象棚の位置情報と姿勢情報とを、格子画像によって同時に表すことができる。
具体的な一例では、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、その車体に画像採集装置が設けられたAGV(Automated Guided Vehicle,無人搬送車)のコントローラであってもよい。AGVが所定の採集位置に移動すると、画像採集装置により、対象棚に取り付けられた棚識別子を所定の採集姿勢で撮影し、対象棚の棚識別子画像を取得してAGVのコントローラに送信する。
ステップ102では、棚識別子画像から対象棚の位置姿勢識別子を認識し、対象棚の位置姿勢識別子に基づいて対象棚の現在の位置姿勢を特定する。
本実施形態では、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器において、棚識別子画像から対象棚の位置姿勢識別子を認識し、位置姿勢識別子の画素座標を特定し、画像採集装置のカメラ外部パラメータ、カメラ内部パラメータ、および対象棚に対する棚識別子の相対位置姿勢と組み合わせて、対象棚の現在の位置姿勢を特定することができる。例えば、対象棚の現在の位置姿勢を位置姿勢行列の形で表してもよい。
現在の位置姿勢には、現在の位置情報と現在の姿勢情報が含まれていることが理解できる。例えば、現在の位置情報を座標で表し、現在の姿勢情報を方向ベクトルで表してもよい。
なお、画像の画素座標、カメラ外部パラメータおよびカメラ内部パラメータに基づいて、画像中の各画素点の実際のシーンにおける位置を特定することは、画像処理分野の成熟した技術であり、本開示はこれを限定しない。
ステップ103では、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値が所定の偏差閾値よりも大きいことに応答して、対象棚にズレが生じたと判定する。
本実施形態では、現在の位置姿勢と予め設定された位置姿勢との差は、姿勢差分値と位置差分値とを含み、姿勢差分値は方向のなす角で表してもよい。例えば、現在の位置姿勢における対象棚の長手方向と、予め設定された位置姿勢における対象棚の長手方向とのなす角で表してもよい。したがって、偏差閾値には、姿勢差分閾値および位置差分閾値も含まれる。
例えば、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器において、ステップ103で取得された対象棚の現在のGPS(Global Positioning System,全地球測位システム)座標と、予め設定されたGPS座標とに基づいて、両者の差分値を取得して対象棚の位置差分値とし、ステップ103で求められた対象棚の方向ベクトルと、予め設定された方向ベクトルとのなす角に基づいて、対象棚の予め設定された姿勢に対する偏向角、すなわち、対象棚の姿勢差分値を決定するようにしてもよい。その後、電子機器は、位置差分値と位置差分閾値、姿勢差分値と姿勢差分閾値をそれぞれ比較する。2つの差分値のいずれもが閾値以下である場合、対象棚にはズレが生じていないと判定され、2つの差分値のいずれかまたは両方が閾値よりも大きい場合、対象棚にはズレが生じたと判定される。
ステップ104では、対象棚にはズレが生じたと判定されたことに応答して、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成する。
本実施形態では、搬送経路は、可動ロボットが、棚の現在の位置姿勢を予め設定された位置姿勢に合わせて調整するための棚の搬送経路を示す。
例示として、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器において、ステップ103で特定された対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値は、方向のなす角が30°、第1の方向の距離が-10cm、第2の方向の距離が30cmであり、正および負の符号は基準方向を示す。そして、電子機器が生成した搬送経路は、対象棚を現在の位置で-30°回転させた後、対象棚を第1の方向に10cm進行させ、最後に第2の方向と逆方向に30cm進行させる動作を可動ロボットに指示するためのものである。
ステップ105では、搬送経路を可動ロボットに送信し、可動ロボットが搬送経路に沿って対象棚の現在の位置姿勢を予め設定された位置姿勢と一致するように調整させるようにする。
例えば、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、端末装置であってもよい。この端末装置は、搬送タスクを実行する可動ロボットとネットワークを介してデータのやり取りを行い、搬送経路を可動ロボットに送信することができる。
また、例えば、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、可動ロボットのコントローラであってもよい。このように、可動ロボットのコントローラは、可動ロボットを直接制御して対象棚の底部に移動させた後、可動ロボットによって対象棚を持ち上げて搬送経路に沿って移動させることにより、対象棚の姿勢を調整し、対象棚を予め設定された位置姿勢で示した位置に搬送して、対象棚の姿勢修正を行うことができる。
次に、図1に示す方法の一応用シーンを示す概略図である図2を参照する。まず、図2Aに示すシーンを参照し、棚識別子が対象棚201の底面に設けられ、AGV202の車体に画像採集装置が設けられている。AGV202が対象棚の下方の所定の採集位置まで走行すると、画像採集装置によって棚識別子を撮影して、対象棚201の棚識別子画像を得る。次に、図2Bを参照し、AGV202は、ネットワークを介して端末装置203に棚識別子画像を送信する。端末装置203は取得した棚識別子画像を認識し、対象棚201の現在の位置姿勢を特定し、現在の位置姿勢と予め設定された位置姿勢との差分値を特定し、差分値と予め設定された偏差閾値とを比較することにより、対象棚201にズレが生じたか否かを判定する。対象棚201にズレが生じたと判定されると、現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成し、搬送経路をAGV202に送信し、搬送経路に応じて対象棚202の位置姿勢を調整するようにAGV202に指示する。図2Cに示すように、位置姿勢の調整が完了した後に、対象棚201の姿勢は、予め設定された姿勢と一致する。
ズレが生じた棚は可動ロボットの搬送タスクに影響を与えることがあり、倉庫の管理にも隠れた危険をもたらす。本開示の実施形態に係る可動ロボットによる棚の位置姿勢の調整のための方法および装置は、棚識別子に基づいて対象棚の現在の位置姿勢を特定し、現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて対象棚にズレが生じたか否かを判定することができる。対象棚にズレが生じた場合、現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成し、可動ロボットに対象棚の位置姿勢を予め設定された位置姿勢に合わせて調整するよう指示し、棚の位置姿勢の自動検出と修正が実現され、倉庫の管理コストを低減することができる。
次に、本開示に係る可動ロボットによる棚の位置姿勢の調整のための方法のもう一つの実施形態のフロー300を示す図3を参照する。当該可動ロボットによる棚の位置姿勢の調整のための方法のフロー300は、次のステップを含む。
ステップ301では、対象棚の棚識別子画像を取得する。
本実施形態では、棚識別子の中心点と対象棚の中心点は水平面内での投影が重なり、位置姿勢識別子は、棚の長手方向識別子、棚の幅方向識別子および距離識別子を含む。距離識別子は、棚識別子エリア内に均一に分布した複数のエリア識別子を含み、各エリア識別子は、そのエリア識別子の所属するエリアの、棚識別子の中心点からの相対位置を表す。
本実施形態では、棚識別子の中心点の水平面内での位置は、対象棚の水平位置を表すことができる。
例示として、棚識別子において対象棚の長手方向および幅方向を矢印のアイコンでマークしてもよい。このように、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、棚識別子画像における矢印アイコンの向きを認識するだけで、対象棚の現在の姿勢を特定することができる。
また、別の例では、棚識別子の中心点を原点とし、対象棚の長手方向および幅方向を座標軸として棚座標系を作成し、棚識別子に画像の形式で座標軸をマークすることにより、棚識別子において対象棚の姿勢を示してもよい。このように、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、棚識別子画像から棚座標系を認識し、棚座標系と画像採集装置の画像座標系とにより、画像採集装置に対する対象棚の相対位置姿勢を特定し、画像採集装置の実際のシーンにおける所定の採集位置と所定の採集姿勢とを結合して、対象棚の現在の位置姿勢を特定することができる。
本実施形態では、棚識別子における各エリアと棚識別子の中心点との相対位置情報を予め符号化して、エリア識別子を生成することができる。
例示として、予め棚識別子の中心点を原点とし、対象棚の長手方向と幅方向を座標軸として、棚座標系を作成しておいてもよい。そして、各エリアの中心点の棚座標系における座標を各エリアの相対位置情報とし、相対位置情報を符号化して、画像認識モデルによって認識可能な画像(例えばエリア識別子に直接座標数値を埋め込んでもよい)を生成し、すなわち各エリアのエリア識別子を得る。
具体的な例示では二次元コード画像をエリア識別子として採用してもよく、各二次元コード画像は、辺長が等しい正方形であり、二次元コード画像の辺長の延在方向が対象棚の長手方向または幅方向と平行であり、そして、棚の識別子中心点に対する二次元コード画像の所属するエリアの中心点の相対位置を二次元コード画像として符号化する。このように、画像採集装置は、棚識別子画像の中央エリアに位置する二次元コードに示された情報を認識するだけで、対象棚の中心点の画素座標を特定することができ、すなわち、対象棚の画像採集装置に対する相対位置を得ることができる。そして、二次元コード画像の辺長の延在方向で、対象棚の長手方向および幅方向を決定し、これにより、対象棚の画像採集装置に対する相対姿勢を特定する。対象棚の相対位置および相対姿勢を結合すれば、画像採集装置に対する対象棚の相対位置姿勢を取得できる。そして、画像採集装置の実際のシーンにおける所定の採集位置と所定の採集姿勢とを結合すれば、実際のシーンにおける対象棚の現在の姿勢を特定できる。
ステップ302では、棚識別子画像における対象棚の長手方向識別子と幅方向識別子に基づいて、対象棚の現在の長手方向と幅方向を特定し、対象棚の現在の姿勢を得る。
本実施形態において、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、画像認識モデルを用いて、ステップ301で得られた棚識別子画像から、対象棚の長手方向および幅方向を認識することができ、例えば、棚識別子画像における対象棚の長手方向および幅方向を示すための画像マーカー、座標軸またはエリアの辺長の延在方向を認識することができる。このようにして、画像採集装置に対する対象棚の相対姿勢を特定することができる。そして、画像採集装置の所定の採集姿勢を結合して、対象棚の現在の姿勢を特定する。
ステップ303では、棚識別子画像におけるエリア識別子から、対象棚の画像採集装置に対する相対位置を認識し、対象棚の画像採集装置に対する相対位置と所定の採集位置とに基づいて、対象棚の現在の位置を特定する。
本実施形態において、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、棚識別子画像の中央エリアのエリア識別子を、画像採集装置に対する対象棚の相対位置を表すための対象エリア識別子としてもよい。そして、このエリア識別子から、棚識別子の中心点(すなわち、対象棚の中心点)に対する当該エリアの相対位置を認識することにより、対象棚の画像採集装置に対する相対位置を得ることができ、実際のシーンにおける画像採集装置の位置(所定の採集位置)を結合すれば、対象棚の現在の位置を特定することができる。
ステップ304では、対象棚の現在の姿勢と現在の位置に基づいて、対象棚の現在の位置姿勢を取得する。
例示として、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、ステップ302およびステップ303で得られた対象棚の現在の姿勢および現在の位置をベクトルの形で表した後、それぞれのベクトルを位置姿勢行列の規則に従って組み合わせることにより、得られた位置姿勢行列を、対象棚の現在の位置姿勢を表すためのものとしてもよい。
本実施形態に係る可動ロボットによる棚の位置姿勢の調整のための方法では、ステップ305~ステップ309により対象棚の予め設定された位置姿勢を特定することができる。
ステップ305では、予め設定された採集位置識別子の画像を取得する。
本実施形態では、所定の採集位置には、予め設定された採集位置識別子が設けられており、予め設定された採集位置識別子は、第1の基準方向識別子と第2の基準方向識別子とを含む。
本実施形態のいくつかのオプション的な実施形態では、画像採集装置の所定の採集姿勢は、画像採集装置の画像座標系における座標軸の方向が第1の基準方向識別子または第2の基準方向識別子に示された方向と平行になるように、第1の基準方向識別子と第2の基準方向識別子に基づいて特定されることができる。このように、棚識別子画像において、画像座標系に対する対象棚の長手方向と幅方向とのなす角と、対象棚の予め設定された姿勢に対する現在の姿勢の差分値とは、線形的に相関している。可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、画像採集装置のスケーリング係数と組み合わせて線形演算を行うだけで、対象棚の現在の姿勢の予め設定された姿勢に対する差分値を特定することができる。
例示として、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、AGVのコントローラであってもよい。このAGVには2つのカメラが搭載されており、2つのカメラが生成する画像の画像座標系は、AGVの進行方向と平行または垂直である。第1のカメラの撮影角度は、垂直上向きであり、対象棚の棚識別子を撮影するように構成され、第2のカメラの撮影角度は、垂直下向きであり、予め設定された採集位置識別子を撮影するように構成される。AGVの対象棚への移動中に、第2のカメラが捕捉した予め設定された採集位置識別子の中心点と第2のカメラの中心点とが一致した場合、AGVが所定の採集位置に到達したことを示し、AGVの移動を停止する。その後、AGVのコントローラは、予め設定された採集位置識別子から第1の基準方向識別子および第2の基準方向識別子を認識し、第1の基準方向識別子および第2の基準方向識別子が示す方向に基づいてAGVの姿勢を調整し、例えば、第1の基準方向識別子が示す方向をAGVの進行方向としてもよい。このようにして、第1のカメラの所定の採集位置および所定の採集姿勢の特定が実現され、第1のカメラの画像座標系における座標軸の方向が、対象棚の所定の長手方向または所定の幅方向と平行または垂直となる。
ステップ306では、予め設定された採集位置識別子の画像から第1の基準方向識別子と第2の基準方向識別子を認識する。
ステップ307では、第1の基準方向識別子が示す方向を対象棚の所定の長手方向とし、第2の基準方向識別子が示す方向を対象棚の所定の幅方向として、対象棚の予め設定された姿勢を取得する。
本実施形態では、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、ステップ306およびステップ307により、予め設定された採集位置識別子から対象棚の予め設定された姿勢を特定することができる。
また、画像採集装置の予め設定された姿勢が第1の基準方向識別子と第2の基準方向識別子とに基づいて特定されたものであれば、画像採集装置の画像座標系と対象棚の予め設定された姿勢座標系とが平行となり、演算データ量の削減、演算効率の向上に役立つ。
ステップ308では、予め設定された採集位置識別子の中心点を、対象棚の予め設定された位置とする。
本実施形態では、画像採集装置が撮像した画像の中心点と対象棚の予め設定された位置との水平面内での投影が重なるように、画像採集装置が画像を採集する時の所定の採集位置を対象棚の予め設定された位置とする。このように、棚識別子画像の中心点に対する棚識別子の中心点の相対位置と、対象棚の現在の位置と対象棚の予め設定された位置との差分値とは、線形的に相関している。可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、画像採集装置のスケーリング係数を結合するだけで、対象棚の現在の位置と対象棚の予め設定された位置との差分値を特定することができ、それにより、演算量が低減され、演算効率が向上された。
ステップ309では、対象棚の予め設定された姿勢と対象棚の予め設定された位置に基づいて、対象棚の予め設定された位置姿勢を特定する。
本実施形態では、ステップ305~ステップ309により、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、予め設定された採集位置識別子から、対象棚の予め設定された位置姿勢を認識することができる。
さらにステップ305の例を合わせて説明すると、第1のカメラと第2のカメラの中心は、AGVの中心と垂直方向に同一直線上にある。このように、AGVが所定の採集位置で所定の採集姿勢に調整されると、第1のカメラの画像座標系における座標軸の方向は、対象棚の所定の長手方向と平行または垂直である。このように、可動ロボットによる棚の位置姿勢の調整のための方法が実行される電子機器は、線形変換により、棚識別子画像における対象棚の相対位置姿勢に基づいて、予め設定された位置姿勢に対する対象棚の差分値を特定することができる。したがって、演算データ量が低減され、演算効率が向上した。
ステップ310では、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値が所定の偏差閾値よりも大きいことに応答して、対象棚にズレが生じたと判定する。
ステップ311では、対象棚にズレが生じたと判定されたことに応答して、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成する。
ステップ312では、搬送経路を可動ロボットに送信し、可動ロボットが搬送経路に沿って対象棚の現在の位置姿勢を予め設定された位置姿勢と一致するように調整させるようにする。
ステップ310~ステップ312は、上述したステップ103~ステップ105に対応するものであり、ここでは説明を省略する。
図3から分かるように、本実施形態の可動ロボットによる棚の位置姿勢の調整のための方法のフロー300では、棚識別子における対象棚の長手方向と幅方向を認識することにより対象棚の現在の姿勢を特定し、エリア識別子を認識することにより対象棚の現在の位置を特定し、予め設定された採集位置識別子を認識することにより対象棚の予め設定された位置姿勢を特定することを強調している。演算量の低減、演算効率の向上に役立つ。
上記実施形態のいくつかのオプション的な実施形態では、可動ロボットによる棚の位置姿勢の調整のための方法は、棚識別子画像に対象棚の棚識別子が存在しないと判断されたことに応答して、警告情報を送信することをさらに含んでもよい。
本実施形態では、棚識別子画像に対象棚の棚識別子が存在しないとは、対象棚のずれ距離が大きくて、それによる安全リスクが大きいことを示しており、この場合には、安全上の危険性を排除するために、オペレータに知らせる必要がある。
次に、図4を参照すると、本開示に係る可動ロボットの一実施形態の構造概略図が示されており、図4に示すように、可動ロボット400は、第1の画像採集装置401と、昇降装置402と、コントローラ(図示せず)とを備えている。このうち、第1の画像採集装置401は、可動ロボットの車体に固設され、棚の底面に設けられた棚識別子の画像を垂直上方へ採集するように構成されており、昇降装置402は、上下移動手段403と、回転移動手段404とを備え、上下移動手段403は回転移動手段404に連結され、回転移動手段404を垂直方向に移動させるように構成され、回転移動手段404は棚を垂直方向を中心に回転させるように構成され、コントローラは、第1の画像採集装置401および昇降装置402と通信可能に接続されており、上記可動ロボットによる棚の位置姿勢の調整のための方法におけるステップを実行するように構成される。
本実施形態において、可動ロボットは、倉庫AGVであってもよいし、倉庫AMR(Autonomous Mobile Robot)であってもよい。可動ロボットのコントローラには、上記実施形態に係る可動ロボットによる棚の位置姿勢の調整のための方法が搭載されており、可動ロボットが棚にズレが生じたか否かを認識するように制御し、棚にズレが生じた場合に棚の位置姿勢を自動的に修正することにより、倉庫の管理コストを低減することができる。
一例では、可動ロボットはAGVであり、AGVの車体の上部にはカメラが設けられている。AGVは、内蔵されたジャイロスコープによって、AGVのリアルタイムな位置および進行方向を決定することができる。AGVが対象棚の所定の採集位置まで移動すると、コントローラはカメラを制御して棚の底面にある棚識別子を垂直上方へ撮影し、得られた棚識別子画像を認識して対象棚にズレが生じたか否かを判断する。対象棚にズレが生じたと判定された場合、コントローラは、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成し、この搬送経路に沿ってAGVを制御する。すなわち、対象棚の底部の中心点まで進行するようにAGVを制御し、対象棚を持ち上げるように昇降装置内の上下移動手段403を上昇させるように制御し、対象棚の姿勢を予め設定された姿勢と一致に調整するために対象棚を回転させるように回転移動手段404を制御し、対象棚の予め設定された位置姿勢が指す位置にAGVを移動させるように制御し、対象棚を地面に載置するように上下移動手段を制御する。対象棚の位置姿勢修正を完了する。
本実施形態のいくつかのオプション的な実施形態では、可動ロボットは、可動ロボットの車体に固設された第2の画像採集装置(図示せず)をさらに備え、第2の画像採集装置は、地上に設置された予め設定された採集位置識別子の画像を垂直下方へ採集するように構成され、コントローラはさらに、予め設定された採集位置識別子の画像を認識して、可動ロボットを所定の採集位置に移動させるように制御するように構成される。
本実施形態では、予め設定された採集位置識別子で倉庫に所定の採取位置をマークすることができる。このように、可動ロボットは、第2の画像採集装置によって予め設定された採集位置識別子の画像を取得し、コントローラによって採集された予め設定された採集位置識別子の画像を認識するだけで、可動ロボットが所定の採集位置に到達したか否かを判断することができる。
本実施形態のいくつかのオプション的な実施形態では、回転移動手段404は、水平に設置されたトレイを備え、トレイの底面は、上下移動手段に接続され、トレイの中央エリアには、中心軸がトレイの回転軸と同一直線にある垂直貫通孔が設けられ、第1の画像採集装置401は、トレイの水平面内における投影の貫通孔エリアに位置する。
本実施形態では、トレイは、対象棚を持ち上げるために用いられる。第1の画像採集装置401は、可動ロボットが対象棚の姿勢を調整する際に、トレイの中央エリアの貫通孔を介して棚識別子画像をリアルタイムに捕捉することができる。これにより、コントローラは、対象棚の現在の姿勢を特定して搬送経路を更新することができ、棚の姿勢の修正精度を向上させることができる。
本開示の実施形態による可動ロボットは、第1の画像採集装置により対象棚の棚識別子画像を採集することにより、対象棚の現在の姿勢を認識し、対象棚にズレが生じたか否かを判断することができる。対象棚にズレが生じたと判定すると、自動的に対象棚の姿勢を予め設定された位置姿勢に合わせて調整し、管理コストを低減することができる。
また、本開示の実施形態はさらに、棚と、無人搬送車と、上記可動ロボットとを備える搬送システムを提供する。このうち、棚の底面中心に棚識別子が設けられ、無人搬送車は、棚を搬送するように構成され、可動ロボットは、棚にズレが生じたか否かを検出し、ズレが生じた棚の位置姿勢を予め設定された位置姿勢に調整するように構成される。
本実施形態では、無人搬送車は日常の搬送タスクを実行するために用いられ、可動ロボットは倉庫内の棚の位置姿勢を監視するために用いられ、棚の位置姿勢のずれが検出されると、可動ロボットによって棚の位置姿勢を予め設定された位置姿勢と一致するように自動的に調整させる。このようにして、棚の位置姿勢のずれによる危険性を回避し、管理コストを低減することができる。
本実施形態のいくつかのオプション的な実施形態では、当該搬送システムは、少なくとも第1の可動ロボットと第2の可動ロボットとを備え、第1の可動ロボットと第2の可動ロボットとは、棚にズレが生じたか否かをそれぞれ検出し、ズレが生じた棚を同時に調整対象となる棚とし、第1の可動ロボットはさらに、調整対象となる棚の位置姿勢を予め設定された位置姿勢に調整するように構成され、第2の可動ロボットは、調整対象となる棚の調整後の位置姿勢にズレが生じたか否かを検出し、調整対象となる棚の調整後の位置姿勢にズレが生じたと判断したことに応答して警告情報を送信するように構成される。
本実施形態では、第1の可動ロボットと第2の可動ロボットとにより調整対象となる棚を決定し、調整対象となる棚の調整後の位置姿勢を第2の可動ロボットにより検出することにより、可動ロボットによる棚の位置姿勢調整の許容誤差を高め、可動ロボットの故障による棚の位置姿勢ずれを回避し、リスクをさらに低減することができる。
更に図5を参照すると、上記の各図に示された方法の実施態様として、本開示は、可動ロボットによる棚の位置姿勢の調整のための装置の一実施形態を提供し、当該装置の実施形態は、図2に示された方法の実施形態に対応しており、当該装置は、具体的に様々な電子機器に適用することができる。
図5に示すように、本実施形態の可動ロボットによる棚の位置姿勢の調整のための装置500は、対象棚の棚識別子画像を取得するように構成される画像取得ユニット501であって、棚識別子画像は、画像採集装置が所定の採集位置で対象棚の棚識別子を所定の採集姿勢で撮影した画像であり、棚識別子は、対象棚の位置姿勢識別子を含む、画像取得ユニット501と、対象棚の位置姿勢識別子を棚識別子画像から認識し、対象棚の位置姿勢識別子に基づいて対象棚の現在の位置姿勢を特定するように構成される画像認識ユニット502と、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値が所定の偏差閾値よりも大きいことに応答して、対象棚にズレが生じたと判定するように構成される位置姿勢判定ユニット503と、対象棚にズレが生じたと判定されたことに応答して、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成するように構成される経路生成ユニット504と、搬送経路を可動ロボットに送信し、可動ロボットが搬送経路に沿って対象棚の現在の位置姿勢を予め設定された位置姿勢と一致になるように調整させるように構成される経路送信ユニット505と、を備える。
本実施形態では、棚識別子の中心点と対象棚の中心点の水平面内での投影が重なる。位置姿勢識別子は、棚の長手方向識別子と、棚の幅方向識別子と、距離識別子とを含み、距離識別子は、棚識別子のエリア内に均一に分布する複数のエリア識別子を含み、エリア識別子の各々は、当該エリア識別子が所属するエリアの、棚識別子の中心点からの相対位置を表す。画像認識ユニット502は、棚識別子画像における対象棚の長手方向識別子と幅方向識別子に基づいて、対象棚の現在の長手方向と幅方向を特定し、対象棚の現在の姿勢を得るように構成される現在姿勢特定モジュールと、棚識別子画像におけるエリア識別子から、対象棚の画像採集装置に対する相対位置を認識し、対象棚の画像採集装置に対する相対位置と所定の採集位置とに基づいて、前記対象棚の現在の位置を特定するように構成される現在位置特定モジュールと、対象棚の現在の姿勢と現在の位置に基づいて、対象棚の現在の位置姿勢を得るように構成される現在位置姿勢特定モジュールとを備える。
本実施形態では、所定の採集位置には、第1の基準方向識別子と第2の基準方向識別子とを含む予め設定された採集位置識別子が設けられる。装置は、予め設定された採集位置識別子の画像を取得し、予め設定された採集位置識別子の画像から第1の基準方向識別子と第2の基準方向識別子を認識し、第1の基準方向識別子が示す方向を対象棚の所定の長さ方向とし、第2の基準方向識別子が示す方向を対象棚の所定の幅方向とし、対象棚の予め設定された姿勢を取得し、予め設定された採集位置識別子の中心点を対象棚の予め設定された位置とし、予め設定された姿勢と予め設定された位置に基づいて、対象棚の予め設定された位置姿勢を特定するように構成される事前設定位置姿勢特定ユニットをさらに備える。
本実施形態では、当該装置500は、棚識別子画像に対象棚の棚識別子が存在しないと判定されたことに応答して警告情報を送信するように構成される警告ユニットをさらに備える。
以下、本開示の実施形態を実現するために適用される電子機器(例えば、図1に示すサーバまたは端末装置)600を示す構造概略図である図6を参照する。本開示の実施形態における端末装置は、携帯電話、ノート型コンピュータ、デジタル放送受信機、PDA(パーソナルデジタルアシスタント)、PAD(タブレット)等の携帯端末、デジタルTV、デスクトップ型コンピュータ等の固定端末を含むが、これらに限定されない。図6に示す端末装置は、あくまでも一例に過ぎず、本開示の実施形態の機能および使用範囲には如何なる制限をも与えない。
図6に示すように、電子機器600は、読み出し専用メモリ(ROM)602に格納されているプログラムまたは記憶装置608からランダムアクセスメモリ(RAM)603にロードされたプログラムによって様々な適当な動作および処理を実行可能な処理装置(例えば、中央処理装置、グラフィックスプロセッサなど)601を含んでもよい。RAM603には、電子機器600の動作に必要な様々なプログラムおよびデータが更に格納されている。処理装置601、ROM602およびRAM603は、バス604を介して互いに接続されている。入/出力(I/O)インターフェース605もバス604に接続されている。
通常、例えば、タッチスクリーン、タッチパッド、キーボード、マウス、カメラ、マイクロホン、加速度計、ジャイロスコープなどを含む入力装置606、液晶ディスプレイ(LCD)、スピーカ、振動子などを含む出力装置607、例えば、磁気テープ、ハードディスクなどを含む記憶装置608、および通信装置609がI/Oインターフェース605に接続されてもよい。通信装置609により、電子機器600は、データを交換するために他のデバイスと無線または有線で通信可能になる。図6は、様々な装置を有する電子機器600を示しているが、図示された装置のすべてを実装または具備することが要求されないことを理解すべきである。オプション的に実行されるか、またはより多いまたはより少ない装置が実装されてもよい。図6に示す各ブロックは、1つの装置を表すことも、必要に応じて複数の装置を表すこともできる。
特に、本開示の実施形態によれば、上述したフローチャートを参照しながら記載されたプロセスは、コンピュータのソフトウェアプログラムとして実装されてもよい。例えば、本開示の実施形態は、コンピュータ可読媒体に具現化されるコンピュータプログラムを含むコンピュータプログラム製品を備え、当該コンピュータプログラムは、フローチャートで示される方法を実行するためのプログラムコードを含む。このような実施形態では、該コンピュータプログラムは、通信装置609を介してネットワークからダウンロードされてインストールされることが可能であり、または記憶装置608またはROM602からインストールされ得る。当該コンピュータプログラムが処理装置601によって実行されると、本開示の実施形態の方法で限定された上記機能を実行する。なお、本開示の実施形態に記載されたコンピュータ可読媒体は、コンピュータ可読信号媒体またはコンピュータ可読記憶媒体、またはこれらの任意の組み合わせであってもよい。コンピュータ可読記憶媒体は、例えば、電気的、磁気的、光学的、電磁気的、赤外線、または半導体のシステム、装置もしくはデバイス、またはこれらの任意の組み合わせであってもよいが、これらに限定されない。コンピュータ可読記憶媒体のより具体的な例としては、1本または複数本の導線により電気的に接続された、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ(RAM)、読み取り専用メモリ(ROM)、消去可能プログラマブル読取り専用メモリ(EPROMもしくはフラッシュメモリ)、光ファイバ、ポータブルコンパクトディスク読取り専用メモリ(CD-ROM)、光メモリ、磁気メモリ、またはこれらの任意の適切な組み合わせを含んでもよいが、これらに限定されない。本開示の実施形態において、コンピュータ可読記憶媒体は、指令実行システム、装置もしくはデバイスによって使用可能な、またはそれらに組み込まれて使用可能なプログラムを包含または格納する任意の有形の媒体であってもよい。本開示の実施形態において、コンピュータ可読信号媒体は、ベースバンドにおける、または搬送波の一部として伝搬されるデータ信号を含んでもよく、その中にコンピュータ可読プログラムコードが担持されている。かかる伝搬されたデータ信号は、様々な形態をとることができ、電磁信号、光信号、またはこれらの任意の適切な組み合わせを含むが、これらに限定されない。コンピュータ可読信号媒体は、更にコンピュータ可読記憶媒体以外の任意のコンピュータ可読媒体であってもよい。当該コンピュータ可読信号媒体は、指令実行システム、装置もしくはデバイスによって使用されるか、またはそれらに組み込まれて使用されるプログラムを、送信、伝搬または伝送することができる。コンピュータ可読媒体に含まれるプログラムコードは任意の適切な媒体で伝送することができ、当該任意の適切な媒体とは、電線、光ケーブル、RF(無線周波数)など、またはこれらの任意の適切な組み合わせを含むが、これらに限定されない。
上記コンピュータ可読媒体は、上記電子機器に含まれるものであってもよく、当該電子機器に実装されずに別体として存在するものであってもよい。上記コンピュータ可読媒体には、1つまたは複数のプログラムが搭載されており、上記1つまたは複数のプログラムが当該電子機器によって実行されると、画像採集装置が所定の採集位置で、対象棚の、位置姿勢識別子を含む棚識別子を、所定の採集姿勢で撮影した画像である対象棚の棚識別子画像を取得するステップと、対象棚の位置姿勢識別子を棚識別子画像から認識し、対象棚の位置姿勢識別子に基づいて対象棚の現在の位置姿勢を特定するステップと、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値が所定の偏差閾値よりも大きいことに応答して、対象棚にズレが生じたと判定するステップと、対象棚にズレが生じたと判定されたことに応答して、対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成するステップと、搬送経路を可動ロボットに送信し、可動ロボットが搬送経路に沿って対象棚の現在の位置姿勢を予め設定された位置姿勢と一致するように調整させるようにするステップとを当該電子機器に実行させる。
本開示の実施形態の動作を実行するためのコンピュータプログラムコードは、1種以上のプログラミング言語、またはそれらの組み合わせで作成されることができ、前記プログラミング言語は、Java、Smalltalk、C++などのオブジェクト指向プログラミング言語と、「C」言語または同様のプログラミング言語などの従来の手続き型プログラミング言語とを含む。プログラムコードは、完全にユーザのコンピュータで実行されることも、部分的にユーザのコンピュータで実行されることも、単独のソフトウェアパッケージとして実行されることも、部分的にユーザのコンピュータで実行されながら部分的にリモートコンピュータで実行されることも、または完全にリモートコンピュータもしくはサーバで実行されることも可能である。リモートコンピュータの場合、リモートコンピュータは、ローカルエリアネットワーク(LAN)またはワイドエリアネットワーク(WAN)を含む任意の種類のネットワークを介してユーザコンピュータに接続することができ、または(例えば、インターネットサービスプロバイダによるインターネットサービスを介して)外部コンピュータに接続することができる。
図面のうちのフローチャートおよびブロック図は、本開示の様々な実施形態に係るシステム、方法およびコンピュータプログラムによって実現できるアーキテクチャ、機能および動作の表示例である。これについては、フローチャートまたはブロック図における各ブロックは、モジュール、プログラムセグメント、またはコードの一部を表すことができる。当該モジュール、プログラムセグメント、またはコードの一部には、所定のロジック機能を実現するための1つまたは複数の実行可能な指令が含まれている。なお、いくつかのオプション的な実施形態においては、ブロックに示されている機能は図面に示されているものとは異なる順番で実行することも可能である。例えば、連続して示された2つのブロックは、実際には係る機能に応答して、ほぼ並行して実行されてもよく、時には逆の順序で実行されてもよい。さらに注意すべきなのは、ブロック図および/またはフローチャートにおけるすべてのブロック、ならびにブロック図および/またはフローチャートにおけるブロックの組み合わせは、所定の機能または動作を実行する専用のハードウェアベースのシステムで実装されてもよく、または専用のハードウェアとコンピュータ指令との組み合わせで実装されてもよい。
本開示の実施形態に記載されたユニットは、ソフトウェアで実装されてもよく、ハードウェアで実装されてもよい。記載されたユニットは、プロセッサに設置されてもよく、例えば、「画像取得ユニットと、画像認識ユニットと、位置姿勢判定ユニットと、経路生成ユニットと、経路送信ユニットとを備えるプロセッサ」というように記載されてもよい。ここで、これらのユニットの名称は、ある場合において当該ユニットその自体を限定するものではなく、例えば、画像取得ユニットは、「対象棚の棚識別子画像を取得するユニット」として記載されてもよい。
以上の記載は、本開示の好ましい実施形態、および適用される技術的原理に関する説明に過ぎない。当業者であれば、本開示に係る発明の範囲が、上記技術的特徴の特定の組み合わせからなる技術案に限定されるものではなく、上述した本開示の趣旨を逸脱しない範囲で、上記技術的特徴またはそれらの均等の特徴の任意の組み合わせからなる他の技術案も含むべきであることを理解すべきである。例えば、上記の特徴と、本開示の実施形態に開示された(これに限定されていない)類似の機能を持っている技術的特徴と互いに置き換えてなる技術案が挙げられる。
401:第1の画像採集装置;
402:昇降装置;
403:上下移動手段;
404:回転移動手段。
第5の態様では、本開示の実施形態は、1つまたは複数のプロセッサと、1つまたは複数のプログラムが格納されている記憶装置と、を備える電子機器であって、1つまたは複数のプログラムが1つまたは複数のプロセッサによって実行されると、1つまたは複数のプロセッサに第1の態様のいずれかの実施形態に記載の方法を実現させる電子機器を提供する。
第6の態様では、本開示の実施形態は、コンピュータプログラムが格納されているコンピュータ可読媒体であって、コンピュータプログラムがプロセッサによって実行されると、第1の態様のいずれかの実施形態に記載の方法を実現するコンピュータ可読媒体を提供する。
第7の態様では、本開示の実施形態は、プロセッサによって実行されると、第1の態様のいずれかの実施形態に記載の方法を実現するコンピュータプログラムを提供する。
本開示の他の特徴、目的および利点は、以下の図面を参照してなされる非限定的な実施形態に係る詳細な説明を読むことにより、より明らかになる。
本開示に係る可動ロボットによる棚の位置姿勢の調整のための方法の一実施形態を示すフローチャートである。 図1に示した可動ロボットによる棚の位置姿勢の調整のための方法の一適用シーンの概略図である。 図1に示した可動ロボットによる棚の位置姿勢の調整のための方法の一適用シーンの概略図である。 図1に示した可動ロボットによる棚の位置姿勢の調整のための方法の一適用シーンの概略図である。 本開示に係る可動ロボットによる棚の位置姿勢の調整のための方法のもう一つの実施形態を示すフローチャートである。 本開示に係る可動ロボットの一実施形態を示す構造概略図である。 本開示に係る可動ロボットによる棚の位置姿勢の調整のための装置の一実施形態の構造概略図である。 本開示の実施形態の実現に適する電子機器の構造概略図である。

Claims (15)

  1. 可動ロボットによる棚の位置姿勢の調整のための方法であって、
    対象棚の棚識別子画像を取得するステップであって、前記棚識別子画像は、画像採集装置が所定の採集位置で前記対象棚の棚識別子を所定の採集姿勢で撮影した画像であり、前記棚識別子は、前記対象棚の位置姿勢識別子を含む、ステップと、
    前記対象棚の位置姿勢識別子を前記棚識別子画像から認識し、前記対象棚の位置姿勢識別子に基づいて前記対象棚の現在の位置姿勢を特定するステップと、
    前記対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値が所定の偏差閾値よりも大きいことに応答して、前記対象棚にズレが生じたと判定するステップと、
    前記対象棚にズレが生じたと判定されたことに応答して、前記対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成するステップと、
    前記搬送経路を可動ロボットに送信し、前記可動ロボットが前記搬送経路に沿って前記対象棚の現在の位置姿勢を前記予め設定された位置姿勢と一致するように調整するようにするステップと
    を含む方法。
  2. 前記棚識別子の中心点と前記対象棚の中心点は水平面内での投影が重なり、前記位置姿勢識別子は、棚の長手方向識別子と、棚の幅方向識別子と、距離識別子とを含み、前記距離識別子は、前記棚識別子のエリア内に均一に分布する複数のエリア識別子を含み、前記エリア識別子の各々は、当該エリア識別子が所属するエリアの、前記棚識別子の中心点からの相対位置を表し、
    前記対象棚の現在の位置姿勢は、
    前記棚識別子画像における対象棚の長手方向識別子と幅方向識別子に基づいて、前記対象棚の現在の長手方向と幅方向を特定し、前記対象棚の現在の姿勢を得るステップと、
    前記棚識別子画像におけるエリア識別子から、前記対象棚の前記画像採集装置に対する相対位置を認識し、前記対象棚の前記画像採集装置に対する相対位置と前記所定の採集位置とに基づいて、前記対象棚の現在の位置を特定するステップと、
    前記対象棚の現在の姿勢と現在の位置に基づいて、前記対象棚の現在の位置姿勢を得るステップと、
    によって特定される、請求項1に記載の方法。
  3. 前記所定の採集位置には、第1の基準方向識別子と第2の基準方向識別子とを含む予め設定された採集位置識別子が設けられており、
    前記方法は、
    前記予め設定された採集位置識別子の画像を取得するステップと、
    前記予め設定された採集位置識別子の画像から前記第1の基準方向識別子と前記第2の基準方向識別子を認識するステップと、
    前記第1の基準方向識別子が示す方向を前記対象棚の所定の長さ方向とし、前記第2の基準方向識別子が示す方向を前記対象棚の所定の幅方向とし、前記対象棚の予め設定された姿勢を取得するステップと、
    前記所定の採集位置の中心点を前記対象棚の予め設定された位置とするステップと、
    前記予め設定された姿勢と前記対象棚の予め設定された位置に基づいて、前記対象棚の予め設定された位置姿勢を特定するステップと、
    をさらに含む請求項2に記載の方法。
  4. 前記棚識別子画像に前記対象棚の棚識別子が存在しないと判定されたことに応答して警告情報を送信するステップをさらに含む請求項1~3のいずれか一項に記載の方法。
  5. 可動ロボットによる棚の位置姿勢の調整のための装置であって、
    対象棚の棚識別子画像を取得するように構成される画像取得ユニットであって、前記棚識別子画像は、画像採集装置が前記所定の採集位置で前記対象棚の棚識別子を所定の採集姿勢で撮影した画像であり、前記棚識別子は、前記対象棚の位置姿勢識別子を含む、画像取得ユニットと、
    前記対象棚の位置姿勢識別子を前記棚識別子画像から認識し、前記対象棚の位置姿勢識別子に基づいて前記対象棚の現在の位置姿勢を特定するように構成される画像認識ユニットと、
    前記対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値が所定の偏差閾値よりも大きいことに応答して、前記対象棚にズレが生じたと判定するように構成される位置姿勢判定ユニットと、
    前記対象棚にズレが生じたと判定されたことに応答して、前記対象棚の現在の位置姿勢と予め設定された位置姿勢との差分値に基づいて搬送経路を生成するように構成される経路生成ユニットと、
    前記搬送経路を可動ロボットに送信し、前記可動ロボットが前記搬送経路に沿って前記対象棚の現在の位置姿勢を前記予め設定された位置姿勢と一致するように調整するように構成される経路送信ユニットと
    を備える装置。
  6. 前記棚識別子の中心点と前記対象棚の中心点は水平面内での投影が重なり、前記位置姿勢識別子は、棚の長手方向識別子と、棚の幅方向識別子と、距離識別子とを含み、前記距離識別子は、前記棚識別子のエリア内に均一に分布する複数のエリア識別子を含み、前記エリア識別子の各々は、当該エリア識別子が所属するエリアの、前記棚識別子の中心点からの相対位置を表し、
    前記画像認識ユニットは、
    前記棚識別子画像における対象棚の長手方向識別子と幅方向識別子に基づいて、前記対象棚の現在の長手方向と幅方向を特定し、前記対象棚の現在の姿勢を得るように構成される現在姿勢特定モジュールと、
    前記棚識別子画像におけるエリア識別子から、前記対象棚の前記画像採集装置に対する相対位置を認識し、前記対象棚の前記画像採集装置に対する相対位置と前記所定の採集位置とに基づいて、前記対象棚の現在の位置を特定するように構成される現在位置特定モジュールと、
    前記対象棚の現在の姿勢と現在の位置に基づいて、前記対象棚の現在の位置姿勢を得るように構成される現在位置姿勢特定モジュールと
    を備える請求項5に記載の装置。
  7. 前記所定の採集位置には、第1の基準方向識別子と第2の基準方向識別子とを含む予め設定された採集位置識別子が設けられており、
    前記装置は、事前設定位置姿勢特定ユニットをさらに備え、
    前記事前設定位置姿勢特定ユニットは、
    前記予め設定された採集位置識別子の画像を取得し、
    前記予め設定された採集位置識別子の画像から前記第1の基準方向識別子と前記第2の基準方向識別子を認識し、
    前記第1の基準方向識別子が示す方向を前記対象棚の所定の長さ方向とし、前記第2の基準方向識別子が示す方向を前記対象棚の所定の幅方向とし、前記対象棚の予め設定された姿勢を取得し、
    前記予め設定された採集位置識別子の中心点を前記対象棚の予め設定された位置とし、
    前記予め設定された姿勢と前記対象棚の予め設定された位置に基づいて、前記対象棚の予め設定された位置姿勢を特定するように構成される
    請求項6に記載の装置。
  8. 前記装置は、
    前記棚識別子画像に前記対象棚の棚識別子が存在しないと判定されたことに応答して警告情報を送信するように構成される警告ユニットをさらに備える請求項7に記載の装置。
  9. 第1の画像採集装置と、昇降装置と、コントローラとを備える可動ロボットであって、
    前記第1の画像採集装置は、前記可動ロボットの車体に固設され、棚の底面に設けられた棚識別子の画像を垂直上方へ採集するように構成され、
    前記昇降装置は、上下移動手段と、回転移動手段とを備え、前記上下移動手段は前記回転移動手段に連結され前記回転移動手段を垂直方向に移動させるように構成され、前記回転移動手段は棚を垂直方向を中心に回転させるように構成され、
    前記コントローラは、前記第1の画像採集装置および前記昇降装置と通信可能に接続されており、請求項1~4のいずれか一項に記載の可動ロボットによる棚の位置姿勢の調整のための方法におけるステップを実行するように構成される
    可動ロボット。
  10. 前記可動ロボットは、前記可動ロボットの車体に固設された第2の画像採集装置をさらに備え、当該第2の画像採集装置は、地上に設置された予め設定された採集位置識別子の画像を垂直下方へ採集するように構成され、
    前記コントローラはさらに、前記予め設定された採集位置識別子の画像を認識して、前記可動ロボットを所定の採集位置に移動させるように制御するように構成される
    請求項9に記載の可動ロボット。
  11. 前記回転移動手段は、水平に設置されたトレイを備え、前記トレイの底面は、前記上下移動手段に接続され、前記トレイの中央エリアには、中心軸が前記トレイの回転軸と同一直線にある垂直貫通孔が設けられ、
    前記第1の画像採集装置は、前記トレイの水平面内における投影の貫通孔のエリアに位置する
    請求項9に記載の可動ロボット。
  12. 棚と、無人搬送車と、請求項9~11のいずれか一項に記載の可動ロボットとを備え、
    前記棚の底面中心に棚識別子が設けられ、
    前記無人搬送車は、前記棚を搬送するように構成され、
    前記可動ロボットは、前記棚にズレが生じたか否かを検出し、ズレが生じた棚の位置姿勢を予め設定された位置姿勢に調整するように構成される
    搬送システム。
  13. 前記搬送システムは、少なくとも第1の可動ロボットと第2の可動ロボットとを備え、
    前記第1の可動ロボットと前記第2の可動ロボットは、前記棚にズレが生じたか否かをそれぞれ検出し、ズレが生じた棚を同時に調整対象となる棚とするように構成され、
    前記第1の可動ロボットはさらに、前記調整対象となる棚の位置姿勢を予め設定された位置姿勢に調整するように構成され、
    前記第2の可動ロボットは、前記調整対象となる棚の調整後の位置姿勢にズレがあるか否かを検出し、前記調整対象となる棚の調整後の位置姿勢にズレがあると判定したことに応答して警告情報を送信するように構成される
    請求項12に記載の搬送システム。
  14. 1つまたは複数のプロセッサと、1つまたは複数のプログラムが格納されている記憶装置と、を備える電子機器であって、
    前記1つまたは複数のプログラムが前記1つまたは複数のプロセッサによって実行されると、前記1つまたは複数のプロセッサに請求項1~4のいずれか一項に記載の方法を実現させる、電子機器。
  15. コンピュータプログラムが格納されているコンピュータ可読媒体であって、
    前記コンピュータプログラムがプロセッサによって実行されると、請求項1~4のいずれか一項に記載の方法を実現する、コンピュータ可読媒体。
JP2023509431A 2021-01-29 2022-01-14 可動ロボットによる棚の位置姿勢の調整のための方法および装置 Pending JP2023537080A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN202110134237.9A CN114089735A (zh) 2021-01-29 2021-01-29 可移动机器人调整货架位姿的方法和装置
CN202110134237.9 2021-01-29
PCT/CN2022/072023 WO2022161186A1 (zh) 2021-01-29 2022-01-14 可移动机器人调整货架位姿的方法和装置

Publications (1)

Publication Number Publication Date
JP2023537080A true JP2023537080A (ja) 2023-08-30

Family

ID=80295964

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023509431A Pending JP2023537080A (ja) 2021-01-29 2022-01-14 可動ロボットによる棚の位置姿勢の調整のための方法および装置

Country Status (4)

Country Link
EP (1) EP4187348A1 (ja)
JP (1) JP2023537080A (ja)
CN (1) CN114089735A (ja)
WO (1) WO2022161186A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115057190B (zh) * 2022-04-26 2024-04-26 浙江华睿科技股份有限公司 目标移动方法、系统、电子设备和计算机可读存储介质
KR20240044929A (ko) * 2022-09-29 2024-04-05 네이버랩스 주식회사 식별자 인식 기반 위치 결정 방법 및 장치
CN115973651B (zh) * 2023-03-21 2023-06-23 烟台东方瑞创达电子科技有限公司 基于智能监控技术的仓储运输设备
CN116674920B (zh) * 2023-04-25 2024-01-23 中国铁建电气化局集团有限公司 一种智能化运输方法、装置、设备和存储介质
CN116750463B (zh) * 2023-08-09 2023-11-03 杭州蓝芯科技有限公司 货架调整自动拆分方法及系统

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6350243B2 (ja) * 2014-11-28 2018-07-04 株式会社ダイフク 移動棚設備
CN206014333U (zh) * 2016-08-02 2017-03-15 诺力机械股份有限公司 一种基于二维码定位的货物托盘存取系统
CN106556341B (zh) * 2016-10-08 2019-12-03 浙江国自机器人技术有限公司 一种基于特征信息图形的货架位姿偏差检测方法和系统
CN106347919A (zh) * 2016-11-10 2017-01-25 杭州南江机器人股份有限公司 一种自动仓储系统
CL2017003463A1 (es) * 2017-12-28 2019-10-11 Univ Pontificia Catolica Chile Sistema robótico autónomo para el monitoreo automático del estado de estanterías en tiendas
CN109189066A (zh) * 2018-08-31 2019-01-11 深圳市易成自动驾驶技术有限公司 Agv小车与货架对接方法、装置及计算机可读存储介质
TWI721628B (zh) * 2018-11-22 2021-03-11 仁寶電腦工業股份有限公司 搬運裝置、搬運系統及貨架搬運方法
CN111256676B (zh) * 2018-11-30 2022-02-11 杭州海康机器人技术有限公司 移动机器人定位方法、装置和计算机可读存储介质
CN110002367B (zh) * 2019-03-28 2023-05-05 上海快仓智能科技有限公司 Agv搬运货架过程中agv姿态调整系统及方法
CN110189068B (zh) * 2019-04-14 2023-11-03 炬星科技(深圳)有限公司 一种仓库快速配置方法、设备及存储介质

Also Published As

Publication number Publication date
WO2022161186A1 (zh) 2022-08-04
CN114089735A (zh) 2022-02-25
EP4187348A1 (en) 2023-05-31

Similar Documents

Publication Publication Date Title
JP2023537080A (ja) 可動ロボットによる棚の位置姿勢の調整のための方法および装置
US11830618B2 (en) Interfacing with a mobile telepresence robot
CN111442722B (zh) 定位方法、装置、存储介质及电子设备
US20220077820A1 (en) Method and system for soar photovoltaic power station monitoring
US10229501B2 (en) Mobile robot and method for controlling the same
CN102789173B (zh) 手持控制装置与控制电子装置的方法
JP2023530787A (ja) Pvモジュールのロボット操作
WO2003102706A1 (fr) Robot telecommande et procede d'identification automatique de la position de robot.
CN109660723B (zh) 一种全景拍摄方法及装置
CN111512255B (zh) 多设备机器人控制
CN111988524A (zh) 一种无人机与摄像头协同避障方法、服务器及存储介质
US11815913B2 (en) Mutual recognition method between unmanned aerial vehicle and wireless terminal
CN110223413A (zh) 智能巡检方法、装置、计算机存储介质和电子设备
US11279036B2 (en) Methods and systems for implementing customized motions based on individual profiles for identified users
US20220191463A1 (en) Apparatus and method for providing wrap-around view based on 3d distance information
JP2014063411A (ja) 遠隔制御システム、制御方法、及び、プログラム
US20220012494A1 (en) Intelligent multi-visual camera system and method
KR20200046161A (ko) 운송 로봇의 실내 위치 인식 시스템
CN114074321A (zh) 机器人标定方法及装置
Takeda et al. Initial Localization of Mobile Robot Based on Expansion Resetting Without Manual Pose Adjustment in Robot Challenge Experiment
US20210023716A1 (en) Methods and systems for automatically annotating items by robots
CN113646606A (zh) 一种控制方法、设备、无人机及存储介质
CN110595480A (zh) 一种导航方法、装置、设备和存储介质
CN114019963B (zh) 一种面向桌面集群机器人的外部定位系统
TWI788253B (zh) 適應性移動操作設備及方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230208

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230208

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20231127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240326

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240611