JP7243066B2 - Automated warehouse system - Google Patents

Automated warehouse system Download PDF

Info

Publication number
JP7243066B2
JP7243066B2 JP2018138656A JP2018138656A JP7243066B2 JP 7243066 B2 JP7243066 B2 JP 7243066B2 JP 2018138656 A JP2018138656 A JP 2018138656A JP 2018138656 A JP2018138656 A JP 2018138656A JP 7243066 B2 JP7243066 B2 JP 7243066B2
Authority
JP
Japan
Prior art keywords
image
package
data
automated warehouse
packages
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018138656A
Other languages
Japanese (ja)
Other versions
JP2020015576A (en
Inventor
剛 垣貫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Murata Machinery Ltd
Original Assignee
Murata Machinery Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Murata Machinery Ltd filed Critical Murata Machinery Ltd
Priority to JP2018138656A priority Critical patent/JP7243066B2/en
Publication of JP2020015576A publication Critical patent/JP2020015576A/en
Application granted granted Critical
Publication of JP7243066B2 publication Critical patent/JP7243066B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、自動倉庫に入庫される荷物を管理する自動倉庫システムに関する。 The present invention relates to an automated warehouse system that manages packages stored in an automated warehouse.

特許文献1には、自動倉庫に出入庫されるバケットについて、当該バケットに設けられたバーコードをバーコードリーダにおいて読み取ることによりバケットの種類を検出する自動倉庫が開示されている。この自動倉庫では、バーコードリーダにより検出したバケットの種類を用いて、自動倉庫へのバケットの出入庫の管理を行っている。 Patent Literature 1 discloses an automated warehouse that detects the type of a bucket that is loaded into and unloaded from the automated warehouse by reading a barcode provided on the bucket with a barcode reader. In this automated warehouse, the types of buckets detected by a barcode reader are used to manage the entry and exit of buckets into and out of the automated warehouse.

実開平3-127606号公報Japanese Utility Model Laid-Open No. 3-127606

しかしながら、特許文献1の技術では、バーコードまたはバーコードリーダの状態によっては、バケットのバーコードの読み取りができないおそれがある。つまり、バーコードが汚れていたり破損していたりすると、バーコードリーダは、当該バーコードの読み取りができない場合がある。バーコードリーダが汚れている場合も同様にバーコードの読み取りができない場合がある。特に、例えば、複数の荷物の複数のバーコードを撮像し、撮像により得られた画像に含まれる複数のバーコードを一括で認識する場合、当該画像に含まれる一部のバーコードを認識できないときに、当該一部のバーコードが付与された荷物に関する荷物データが得られないため、当該荷物を見失うこととなる。 However, with the technique of Patent Document 1, there is a possibility that the barcode of the bucket cannot be read depending on the status of the barcode or the barcode reader. In other words, if the barcode is dirty or damaged, the barcode reader may not be able to read the barcode. Similarly, if the barcode reader is dirty, it may not be possible to read the barcode. In particular, for example, when capturing multiple barcodes of multiple packages and recognizing multiple barcodes included in the images obtained by capturing images at once, when some barcodes included in the image cannot be recognized. In addition, since it is not possible to obtain parcel data related to parcels to which the partial barcodes have been assigned, the parcels are lost.

また、特許文献1に、荷物を撮像することで得られた画像を用いて1つの荷物の外面の文字を読み取るOCR(Optical Character Recognition/Reader)を適用することで、荷物の種類などを認識することも考えられる。しかしながら、OCRを利用する場合であっても、文字を誤認識した場合、誤った荷物データで当該荷物を管理することになる。このため、誤った荷物データで管理した荷物を見失ってしまうおそれがある。 In addition, in Patent Document 1, OCR (Optical Character Recognition/Reader), which reads characters on the outer surface of one package using an image obtained by imaging the package, is applied to recognize the type of package. It is also possible. However, even when OCR is used, if characters are erroneously recognized, the parcel is managed with wrong parcel data. For this reason, there is a risk of losing sight of packages managed with incorrect package data.

上記のようなバーコードの読み取りミス、文字の誤認識などの認識ミスを防ぐために、自動倉庫へ荷物が入庫されるときに自動倉庫に正しく荷物が認識されたかを作業者に確認させることが考えられる。しかしながら、この場合には、作業者に正しく荷物が認識されるまで、荷物を自動倉庫の入庫口で待機させることとなる。このため、自動倉庫の入庫口で荷物の滞留が発生し、荷物を自動倉庫へ入庫させる効率が低下するという課題がある。 In order to prevent recognition errors such as barcode reading errors and character misrecognition as described above, it is conceivable to have the worker check whether the package has been correctly recognized by the automated warehouse when the package enters the automated warehouse. be done. However, in this case, the cargo is kept waiting at the entrance of the automated warehouse until the worker correctly recognizes the cargo. As a result, there is a problem that the cargo stays at the entrance of the automated warehouse, and the efficiency of loading the cargo into the automated warehouse decreases.

そこで、本発明は、このような状況に鑑みてなされたものであり、自動倉庫に入庫する荷物の認識ミスを低減し、かつ、荷物を自動倉庫へ効率よく入庫させることができる自動倉庫システムを提供することを目的とする。 Therefore, the present invention has been made in view of such circumstances, and provides an automated warehouse system capable of reducing recognition errors of packages entering an automated warehouse and efficiently storing packages into the automated warehouse. intended to provide

上記目的を達成するために、本発明の一態様に係る自動倉庫システムは、棚と、搬送装置とを有する自動倉庫を備えた自動倉庫システムであって、前記自動倉庫に入庫する荷物を撮像する撮像装置と、前記撮像装置により得られた画像を表示可能な表示装置と、(i)前記荷物を前記搬送装置で前記棚に格納させ、(ii)前記荷物に関する荷物データを取得し、(iii)取得した前記荷物データと共に前記画像を前記表示装置に表示させるコントローラと、を備える。 In order to achieve the above object, an automated warehouse system according to one aspect of the present invention is an automated warehouse system comprising an automated warehouse having shelves and a transport device, wherein images of packages entering the automated warehouse are captured. an imaging device, a display device capable of displaying an image obtained by the imaging device, (i) causing the transport device to store the package on the shelf, (ii) acquiring package data relating to the package, and (iii) ) a controller that causes the display device to display the image together with the acquired parcel data.

これによれば、自動倉庫は、撮像装置により撮像された後の荷物を作業者の許可を得ることなく入庫するため、自動倉庫の入庫口で荷物が滞留することを低減することができる。また、コントローラは、自動倉庫に入庫する荷物の画像を、当該荷物に関する荷物データと共に表示装置に表示させるため、例えば作業者は、表示装置に表示された荷物データと画像とを比較することで、荷物に関する荷物データが正しいか否かを容易に確認することができる。このため、作業者は、正しくない荷物データの荷物を容易に特定することができ、自動倉庫に入庫する荷物の認識ミスを効果的に低減することができる。 According to this, since the automated warehouse receives the packages imaged by the imaging device without obtaining the permission of the operator, it is possible to reduce the stagnation of the packages at the entrance of the automated warehouse. In addition, the controller displays an image of a package entering the automated warehouse on the display device together with package data related to the package. It is possible to easily confirm whether or not the parcel data regarding the parcel is correct. Therefore, the operator can easily identify packages with incorrect package data, and can effectively reduce misrecognition of packages entering the automated warehouse.

また、さらに、前記画像を取得し、取得した前記画像に対して画像認識処理を実行することで、前記画像に含まれる前記荷物に関する前記荷物データを生成する認識装置を備え、前記コントローラは、前記荷物データを前記認識装置から取得してもよい。 Further, a recognition device that acquires the image and executes image recognition processing on the acquired image to generate the luggage data related to the luggage included in the image, wherein the controller comprises the Package data may be obtained from the recognition device.

このため、作業者は、自動倉庫に入庫する荷物の、認識装置による認識ミスを効果的に低減することができる。 Therefore, the worker can effectively reduce recognition errors of the packages entering the automated warehouse by the recognition device.

また、前記コントローラは、取得した複数の前記荷物データと、前記撮像装置が撮像することにより得られた複数の前記画像とを、所定条件に基づいて並べ替えた順序で前記表示装置に表示させてもよい。 Further, the controller causes the display device to display the plurality of acquired parcel data and the plurality of images obtained by imaging by the imaging device in an order rearranged based on a predetermined condition. good too.

このため、作業者は、所定の条件で類似する荷物の画像を連続して確認することができるため、確認作業を短時間で完了させることができる。 Therefore, the worker can continuously check the images of similar packages under predetermined conditions, and can complete the checking work in a short time.

また、前記自動倉庫システムは、複数の前記表示装置を備え、前記コントローラは、前記複数の表示装置のそれぞれで互いに異なる前記荷物データおよび前記画像を表示させてもよい。 Further, the automated warehouse system may include a plurality of the display devices, and the controller may cause the plurality of display devices to display the parcel data and the images different from each other.

このため、複数の作業者が分担して確認作業を行うことができ、確認作業を短時間で完了させることができる。 Therefore, a plurality of workers can share the checking work, and the checking work can be completed in a short time.

また、複数の前記荷物は、1以上の所定の個数毎に複数のグループにグループ化されており、前記撮像装置は、前記複数のグループのそれぞれについて、当該グループに含まれる前記所定の個数の荷物を撮像し、前記コントローラは、前記複数のグループのそれぞれについて、当該グループに対応する前記荷物データと、当該グループが含まれる前記画像とを前記表示装置に表示させてもよい。 Further, the plurality of packages are grouped into a plurality of groups for each of a predetermined number of one or more, and the image pickup device selects the predetermined number of packages included in each group for each of the plurality of groups. may be imaged, and the controller may cause the display device to display, for each of the plurality of groups, the package data corresponding to the group and the image including the group.

このため、作業者は、グループ毎に確認作業を行うことができ、確認作業を短時間で完了させることができる。 Therefore, the worker can perform confirmation work for each group, and can complete the confirmation work in a short time.

また、複数の前記荷物は、1以上の所定の個数毎に複数のグループにグループ化されており、前記撮像装置は、前記複数のグループのそれぞれについて、当該グループを撮像し、前記認識装置は、(i)前記画像認識処理を実行することで、前記画像に含まれる前記グループの前記荷物の個数を認識し、(ii)認識することにより得られた個数である認識個数を含む前記荷物データを生成し、前記コントローラは、さらに、前記複数のグループのそれぞれについて、当該グループとして入庫する荷物の個数である入庫個数を取得し、取得した前記入庫個数と、前記荷物データに含まれる前記認識個数とが一致するか否かを判定し、前記入庫個数および前記認識個数が一致するグループに対応する前記荷物データおよび前記画像を前記表示装置に表示させず、前記入庫個数および前記認識個数が一致しないグループに対応する前記荷物データおよび前記画像を前記表示装置に表示させてもよい。 Also, the plurality of packages are grouped into a plurality of groups for each of a predetermined number of one or more, the imaging device captures an image of each of the plurality of groups, and the recognition device is configured to: (i) recognizing the number of packages in the group included in the image by executing the image recognition process; and (ii) obtaining the package data including the number of packages obtained by recognition. Further, the controller acquires the number of received goods, which is the number of goods received as the group, for each of the plurality of groups, and combines the acquired number of received goods with the recognized number of goods included in the goods data. are matched, and the display device does not display the parcel data and the image corresponding to the group in which the received number and the recognized number match, and the group in which the received number and the recognized number do not match may be displayed on the display device.

これによれば、コントローラは、入庫個数および認識個数が一致するグループについては正しく認識されていると判断し、当該グループに対応する荷物データおよび画像を表示装置に表示させない。このため、作業者が確認する画像の数を少なくすることができ、作業者は、確認作業を短時間で完了させることができる。 According to this, the controller judges that a group in which the number of received goods and the number of recognized goods are the same is correctly recognized, and does not display the baggage data and image corresponding to the group on the display device. Therefore, the number of images to be checked by the worker can be reduced, and the worker can complete the checking work in a short time.

また、複数の前記荷物は、1以上の所定の個数毎に複数のグループにグループ化されており、前記搬送装置は、前記自動倉庫に格納された前記複数のグループの中から、出庫指示に応じた一のグループを出庫し、作業者によりピッキングされた後の前記一のグループを前記自動倉庫に再入庫し、前記認識装置は、前記再入庫される前記一のグループが前記撮像装置により撮像された画像に対して前記画像認識処理を実行することで、再入庫されるときの前記一のグループの前記荷物の個数を認識し、認識することにより得られた個数である認識個数を含む前記荷物データを生成し、前記コントローラは、さらに、ピッキングされる前の前記一のグループの前記荷物の個数から、前記出庫指示によって前記作業者にピッキングさせた前記荷物の個数を減じた個数である再入庫予定個数が、取得した前記荷物データに含まれる前記荷物の個数である前記認識個数と一致しない場合、前記再入庫予定個数および前記認識個数が一致しないことを示す情報を通知してもよい。 In addition, the plurality of packages are grouped into a plurality of groups by a predetermined number of one or more, and the transport device selects from among the plurality of groups stored in the automated warehouse in response to a shipping instruction. The other group is taken out, and the one group after being picked by the worker is re-stocked in the automated warehouse, and the recognition device detects that the re-stocked one group is imaged by the imaging device. By executing the image recognition processing on the image that has been stored, the number of the packages in the one group when restocked is recognized, and the packages including the recognized number, which is the number obtained by recognizing Data is generated, and the controller further calculates the number of parcels in the one group before picking minus the number of parcels picked by the worker according to the delivery instruction. If the planned number does not match the recognized number, which is the number of parcels included in the acquired parcel data, information indicating that the planned restocking number and the recognized number do not match may be notified.

このため、誤ってピッキングが行われた荷物を特定することが容易にできる。 Therefore, it is possible to easily identify a package that has been erroneously picked.

なお、これらの全般的または具体的な態様は、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD-ROMなどの記録媒体で実現されてもよく、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。 It should be noted that these general or specific aspects may be realized by methods, integrated circuits, computer programs, or recording media such as computer-readable CD-ROMs. Any combination may be used.

本発明に係る自動倉庫システムによれば、自動倉庫に入庫する荷物の認識ミスを低減し、かつ、荷物を自動倉庫へ効率よく入庫させることができる。 According to the automated warehouse system according to the present invention, it is possible to reduce recognition errors of packages to be stored in the automated warehouse, and to efficiently store the packages in the automated warehouse.

図1は、実施の形態に係る自動倉庫システムの構成概要を示す平面図である。FIG. 1 is a plan view showing a schematic configuration of an automated warehouse system according to an embodiment. 図2は、実施の形態に係る自動倉庫システムの機能構成の一例を示すブロック図である。FIG. 2 is a block diagram showing an example of the functional configuration of the automated warehouse system according to the embodiment. 図3は、実施の形態に係る撮像装置および撮像装置の撮像対象について説明するための概略図である。FIG. 3 is a schematic diagram for explaining an imaging device and an imaging target of the imaging device according to the embodiment. 図4は、実施の形態に係る撮像装置に撮像されることにより得られた画像の一例を示す図である。FIG. 4 is a diagram showing an example of an image captured by the imaging device according to the embodiment. 図5は、認識装置により生成される荷物データの一例を示す図である。FIG. 5 is a diagram showing an example of parcel data generated by the recognition device. 図6は、実施の形態に係る表示装置に表示されるUIの一例を示す図である。6 is a diagram illustrating an example of a UI displayed on the display device according to the embodiment; FIG. 図7は、実施の形態に係る表示装置に表示されるUIの一例を示す図である。7 is a diagram illustrating an example of a UI displayed on the display device according to the embodiment; FIG. 図8は、更新後の荷物データの一例を示す図である。FIG. 8 is a diagram showing an example of updated parcel data. 図9は、実施の形態に係る自動倉庫システムの動作を説明するためのシーケンス図である。FIG. 9 is a sequence diagram for explaining the operation of the automated warehouse system according to the embodiment. 図10は、変形例1に係る自動倉庫システムの動作を説明するためのシーケンス図である。FIG. 10 is a sequence diagram for explaining the operation of the automated warehouse system according to Modification 1. As shown in FIG. 図11は、変形例2に係る自動倉庫システムの機能構成の一例を示すブロック図である。FIG. 11 is a block diagram showing an example of the functional configuration of an automated warehouse system according to Modification 2. As shown in FIG. 図12は、変形例2に係る自動倉庫システムの再入庫の動作を説明するためのシーケンス図である。FIG. 12 is a sequence diagram for explaining the re-entry operation of the automated warehouse system according to Modification 2. As shown in FIG. 図13は、変形例3に係る撮像装置および撮像装置の撮像対象について説明するための概略図である。13A and 13B are schematic diagrams for explaining an imaging device and an imaging target of the imaging device according to Modification 3. FIG. 図14は、変形例3に係る撮像装置に撮像されることにより得られた画像の一例を示す図である。14A and 14B are diagrams illustrating an example of an image captured by an imaging device according to Modification 3. FIG. 図15は、変形例3に係る認識装置により生成される荷物データの一例を示す図である。FIG. 15 is a diagram showing an example of parcel data generated by the recognition device according to Modification 3. As shown in FIG. 図16は、変形例3に係る表示装置に表示されるUIの一例を示す図である。16 is a diagram illustrating an example of a UI displayed on a display device according to Modification 3. FIG. 図17は、変形例4に係る自動倉庫システムの表示装置に送信する荷物データおよび画像について説明するための図である。17A and 17B are diagrams for explaining parcel data and images to be transmitted to the display device of the automated warehouse system according to Modification 4. FIG. 図18は、変形例5に係る自動倉庫システムの表示装置に送信する荷物データおよび画像について説明するための図である。18A and 18B are diagrams for explaining parcel data and images to be transmitted to the display device of the automated warehouse system according to Modification 5. FIG.

以下、本発明の一態様に係る自動倉庫システムについて、図面を参照しながら具体的に説明する。 Hereinafter, an automated warehouse system according to one aspect of the present invention will be specifically described with reference to the drawings.

なお、以下で説明する実施の形態は、いずれも本発明の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。 It should be noted that each of the embodiments described below is a specific example of the present invention. Numerical values, shapes, materials, components, arrangement positions and connection forms of components, steps, order of steps, and the like shown in the following embodiments are examples and are not intended to limit the present invention. In addition, among the constituent elements in the following embodiments, constituent elements that are not described in independent claims representing the highest concept will be described as arbitrary constituent elements.

なお、各図は模式図であり、必ずしも厳密に図示されたものではない。また、各図において、実質的に同一の構成に対しては同一の符号を付し、重複する説明は省略または簡略化される場合がある。 Each figure is a schematic diagram and is not necessarily strictly illustrated. Moreover, in each figure, the same code|symbol is attached|subjected with respect to substantially the same structure, and the overlapping description may be abbreviate|omitted or simplified.

(実施の形態)
図1及び図2を用いて、実施の形態に係る自動倉庫システムの構成を説明する。
(Embodiment)
The configuration of an automated warehouse system according to an embodiment will be described with reference to FIGS. 1 and 2. FIG.

図1は、実施の形態に係る自動倉庫システムの構成概要を示す平面図である。図2は、実施の形態に係る自動倉庫システムの機能構成の一例を示すブロック図である。 FIG. 1 is a plan view showing a schematic configuration of an automated warehouse system according to an embodiment. FIG. 2 is a block diagram showing an example of the functional configuration of the automated warehouse system according to the embodiment.

本実施の形態に係る自動倉庫システム1は、自動倉庫100に出入庫される荷物を正確に管理するためのシステムである。自動倉庫システム1は、自動倉庫100と、撮像装置200と、コントローラ300と、表示装置400とを備える。自動倉庫システム1は、さらに、指示装置500を備えていてもよい。 The automated warehouse system 1 according to the present embodiment is a system for accurately managing packages entering and leaving the automated warehouse 100 . The automated warehouse system 1 includes an automated warehouse 100 , an imaging device 200 , a controller 300 and a display device 400 . The automated warehouse system 1 may further include an indicating device 500 .

自動倉庫100は、棚110と、搬送装置120、130とを有する。 The automated warehouse 100 has shelves 110 and transport devices 120 and 130 .

棚110は、荷物20を保管する。棚110は、例えば、複数の荷物20が載置されたパレット10を保管する。棚110は、図1に示すように水平方向に2列あり、1列につき複数のパレット10が配置可能な構成であってもよいし、垂直方向に複数のパレット10が配置可能な構成であってもよい。また、棚110は、パレット10に載置されていない荷物20を保管してもよい。 Shelves 110 store packages 20 . The shelf 110 stores, for example, a pallet 10 on which a plurality of packages 20 are placed. As shown in FIG. 1, the shelf 110 may have two rows in the horizontal direction, and may have a configuration in which a plurality of pallets 10 can be arranged in each row, or a configuration in which a plurality of pallets 10 can be arranged in the vertical direction. may Also, the shelf 110 may store packages 20 that are not placed on the pallet 10 .

搬送装置120は、入庫用の入庫コンベア121と、出庫用の出庫コンベア122とを有する。搬送装置120は、さらに、再入庫用の再入庫コンベア123を有していてもよい。なお、搬送装置120は、コンベアにより構成されているが、環状の経路を周回して走行する搬送車により構成されていてもよい。 The transport device 120 has an incoming conveyor 121 for incoming goods and an outgoing conveyor 122 for outgoing goods. The transport device 120 may further have a restocking conveyor 123 for restocking. In addition, although the transport device 120 is configured by a conveyor, it may be configured by a transport vehicle that travels around a circular route.

入庫コンベア121は、棚110に保管するパレット10を棚110に搬送する、つまり自動倉庫100にパレット10を入庫するコンベアである。出庫コンベア122は、棚110に保管されていたパレット10を搬送する、つまり自動倉庫100からパレット10を出庫するコンベアである。再入庫コンベア123は、出庫コンベア122から出庫されたパレット10のうち、ピッキングステーション140にて作業者Uに所定の荷物20がピッキングされたあとのパレット10を再入庫するためのコンベアである。再入庫コンベア123は、ピッキングステーション140から入庫コンベア121へパレット10を搬送する。 The warehousing conveyor 121 is a conveyor that conveys the pallets 10 to be stored on the racks 110 to the racks 110 , that is, that warehousing the pallets 10 into the automated warehouse 100 . The unloading conveyor 122 is a conveyor that transports the pallets 10 stored on the racks 110 , that is, unloads the pallets 10 from the automated warehouse 100 . The re-entering conveyor 123 is a conveyor for re-entering the pallets 10 after predetermined packages 20 have been picked by the worker U at the picking station 140 among the pallets 10 delivered from the delivery conveyor 122 . The re-receiving conveyor 123 conveys the pallet 10 from the picking station 140 to the receiving conveyor 121 .

搬送装置130は、入庫コンベア121からパレット10を受け取って、受け取ったパレット10を棚110の所定の位置に移載する移載装置である。また、搬送装置130は、棚110に保管されているパレット10を棚110から引き出して、出庫コンベア122に移載する移載装置である。搬送装置130は、例えば、スタッカクレーンである。 The transport device 130 is a transfer device that receives the pallet 10 from the warehousing conveyor 121 and transfers the received pallet 10 to a predetermined position on the shelf 110 . Further, the transport device 130 is a transfer device that pulls out the pallet 10 stored on the shelf 110 from the shelf 110 and transfers it to the delivery conveyor 122 . The transport device 130 is, for example, a stacker crane.

次に、撮像装置200、および、撮像装置200の撮像対象について、図1および図2に加えて、図3および図4も用いて説明する。図3は、実施の形態に係る撮像装置および撮像装置の撮像対象について説明するための概略図である。図4は、実施の形態に係る撮像装置に撮像されることにより得られた画像の一例を示す図である。 Next, the imaging device 200 and the object to be imaged by the imaging device 200 will be described using FIGS. 3 and 4 in addition to FIGS. 1 and 2. FIG. FIG. 3 is a schematic diagram for explaining an imaging device and an imaging target of the imaging device according to the embodiment. FIG. 4 is a diagram showing an example of an image captured by the imaging device according to the embodiment.

図1および図3に示すように、撮像装置200は、自動倉庫100に入庫するパレット10を撮像する。撮像装置200は、自動倉庫100の入庫コンベア121上の空間A1を撮像対象とするように、当該空間A1を撮像する位置および姿勢で固定されている。撮像装置200は、例えば、レンズなどの光学系およびイメージセンサを有するカメラである。 As shown in FIGS. 1 and 3, the imaging device 200 images the pallet 10 entering the automated warehouse 100 . The imaging device 200 is fixed at a position and posture for imaging the space A1 on the incoming conveyor 121 of the automated warehouse 100 so as to capture the space A1. The imaging device 200 is, for example, a camera having an optical system such as a lens and an image sensor.

撮像装置200は、空間A1にパレット10または荷物20があることを検出し、パレット10または荷物20を検出したときに撮像を実行することで自動倉庫100に入庫されるパレット10または荷物20を撮像してもよい。この場合、撮像装置200は、物体を検出する距離センサ(例えば赤外線センサ)を用いて、撮像対象とする空間A1にパレット10または荷物20があることを検出してもよい。撮像装置200は、複数のパレット10のそれぞれについて、当該パレット10および当該パレット10に載置されている複数の荷物20を撮像する。 The imaging device 200 detects that there is a pallet 10 or a package 20 in the space A1, and performs imaging when the pallet 10 or the package 20 is detected, thereby capturing an image of the pallet 10 or the package 20 stored in the automated warehouse 100. You may In this case, the imaging device 200 may detect the presence of the pallet 10 or the load 20 in the space A1 to be imaged using a distance sensor (for example, an infrared sensor) that detects objects. The imaging device 200 images the pallet 10 and the packages 20 placed on the pallet 10 for each of the pallets 10 .

図3に示すように、パレット10は、側面にバーコードを含むラベル11を有している。また、パレット10には、複数の荷物20が載置されている。つまり、複数の荷物20は、複数のパレット10毎にグループ化され、複数のグループに分類されている。つまり、1つのパレット10に載置されている第1の個数(1以上)の荷物20は、当該1つのパレット10に対応する1つのグループ(つまり同一のグループ)に属する。よって、複数の荷物20は、パレット10の数と同じ数のグループに分類されている。複数の荷物20のそれぞれには、側面にバーコードを含むラベル21が貼り付けられている。ラベル11、21には、バーコードの代わりに2次元コードが含まれていてもよいし、他の光学読み取り用コードであってもよい。ラベル11、21に含まれる光学読み取り用コードは、パレット10および荷物20を識別するための識別子であり、それぞれ、グループIDおよび荷物IDを示す。 As shown in FIG. 3, the pallet 10 has a label 11 containing a bar code on its side. A plurality of packages 20 are placed on the pallet 10 . That is, a plurality of packages 20 are grouped by a plurality of pallets 10 and classified into a plurality of groups. That is, the first number (one or more) of packages 20 placed on one pallet 10 belongs to one group (that is, the same group) corresponding to the one pallet 10 . Therefore, the plurality of packages 20 are classified into the same number of groups as the number of pallets 10 . A label 21 including a barcode is attached to each of the plurality of packages 20 on the side. The labels 11 and 21 may contain two-dimensional codes instead of barcodes, or other optical reading codes. The optical reading codes included in the labels 11 and 21 are identifiers for identifying the pallet 10 and the packages 20, and indicate group IDs and package IDs, respectively.

なお、1つのグループは1つパレット10に対応し、当該1つのパレット10に載置されている第1の個数の荷物20が同一のグループに属するとしたがこれに限らない。1つのグループは複数の商品を管理しやすくするための集合であればよく、例えば、同じ種類の複数の商品が同一のグループに属するとしてもよい。 Although one group corresponds to one pallet 10 and the first number of packages 20 placed on the one pallet 10 belongs to the same group, the present invention is not limited to this. One group may be a collection for facilitating management of multiple products. For example, multiple products of the same type may belong to the same group.

ラベル11は、パレット10に予め貼り付けられている。ラベル21は、荷物20が入庫される前に、貼り付けられる。このため、ラベル21は、荷物20の個数と同じ枚数が発行されている。また、ラベル11、21は、パレット10および荷物20の、少なくとも入庫コンベア121に対して撮像装置200が配置されている側の側面に貼り付けられている。 The label 11 is affixed to the pallet 10 in advance. The label 21 is attached before the package 20 is stored. Therefore, the same number of labels 21 as the number of parcels 20 is issued. Also, the labels 11 and 21 are attached to the side surfaces of the pallet 10 and the package 20 at least on the side where the imaging device 200 is arranged with respect to the incoming conveyor 121 .

また、撮像装置200は、複数のグループのそれぞれについて、当該グループに含まれる所定の個数の荷物20を撮像する。言い換えると、撮像装置200は、複数のパレット10のそれぞれについて、当該パレット10および当該パレット10に載置されている1以上の荷物20を撮像する。また、パレット10にはラベル11が貼り付けられ、荷物20にはラベル21が貼り付けられているため、撮像装置200は、パレット10および荷物20を撮像したときに、パレット10のラベル11および荷物20のラベル21も共に撮像することとなる。これにより、図4に示すように、撮像装置200では、パレット10およびそのラベル11と、荷物20およびそのラベル21とが含まれる画像201が得られる。 In addition, the image capturing device 200 captures an image of a predetermined number of packages 20 included in each of a plurality of groups. In other words, the imaging device 200 images the pallet 10 and one or more packages 20 placed on the pallet 10 for each of the plurality of pallets 10 . In addition, since the label 11 is attached to the pallet 10 and the label 21 is attached to the package 20, the imaging device 200 captures the label 11 of the pallet 10 and the package 20 when the pallet 10 and the package 20 are imaged. The label 21 of 20 is also imaged together. As a result, as shown in FIG. 4, the imaging device 200 obtains an image 201 including the pallet 10 and its label 11 and the parcel 20 and its label 21 .

なお、撮像装置200は、距離センサを用いて空間A1にパレット10または荷物20があることを検出するとしたが、これに限らない。撮像装置200は、撮像装置200により撮像されている画像(例えば動画像)に画像処理を行うことで撮像対象とする空間A1にパレット10または荷物20があることを検出してもよい。撮像装置200は、画像処理によりパレット10または荷物20があることを検出する場合、当該検出のために撮像している動画像を利用するため、補助記憶装置に記憶させずに主記憶装置に記憶させた動画像を用いて検出してもよい。また、この場合、撮像装置200は、動画像として補助記憶装置に記憶させておいてから、記憶させた動画像からパレット10または荷物20が映っている画像を抽出することで、パレット10または荷物20が映っている画像を得てもよい。なお、補助記憶装置は、例えば、HDD(Hard Disk Drive)、SSD(Solid Stated Drive)、不揮発性メモリなどである。また、主記憶装置は、例えば、RAM(RandomAccess Memory)などの揮発性メモリである。 Although the imaging device 200 detects that the pallet 10 or the load 20 is in the space A1 using the distance sensor, the present invention is not limited to this. The imaging device 200 may detect that there is a pallet 10 or a parcel 20 in the space A1 to be imaged by performing image processing on an image (for example, moving image) captured by the imaging device 200 . When the imaging device 200 detects the presence of the pallet 10 or the parcel 20 by image processing, the moving image being captured is used for the detection. It may be detected using a moving image that has been adjusted. Further, in this case, the imaging device 200 stores the pallet 10 or the load 20 in the auxiliary storage device as a moving image, and extracts the image showing the pallet 10 or the load 20 from the stored moving image. 20 may be obtained. Note that the auxiliary storage device is, for example, a HDD (Hard Disk Drive), an SSD (Solid Stated Drive), a non-volatile memory, or the like. Also, the main storage device is, for example, a volatile memory such as a RAM (Random Access Memory).

コントローラ300は、自動倉庫システム1の制御および管理を行うコントローラである。つまり、コントローラ300は、上位コンピュータであり、例えば、自動倉庫100の搬送装置120、130と情報のやり取りを行うことで、棚110に対して入出庫されるパレット10またはパレット10に載置されている荷物20の管理を行う。コントローラ300は、入庫指示または出庫指示を搬送装置120、130に送信し、搬送装置120、130から入庫完了または出庫完了を示す完了情報を受信する。これにより、コントローラ300は、棚110のどの位置にどの種類の荷物20が載置されているかを示す管理情報を最新の状態に更新することができる。つまり、コントローラ300は、棚110に載置されているパレット10又はパレット10に載置されている荷物20に応じて、管理情報をリアルタイムに更新することで、荷物20を管理する。 The controller 300 is a controller that controls and manages the automated warehouse system 1 . That is, the controller 300 is a host computer, and for example, by exchanging information with the transport devices 120 and 130 of the automated warehouse 100, the pallets 10 that are put in and out of the racks 110 or the pallets 10 that are placed on the pallets 10 are stored. It manages the baggage 20 that is in the state. The controller 300 transmits a warehousing instruction or a warehousing instruction to the transport devices 120 and 130, and receives completion information indicating warehousing completion or warehousing completion from the transport devices 120 and 130. FIG. As a result, the controller 300 can update the management information indicating which type of package 20 is placed at which position on the shelf 110 to the latest state. That is, the controller 300 manages the packages 20 by updating the management information in real time according to the pallets 10 placed on the shelf 110 or the packages 20 placed on the pallets 10 .

コントローラ300は、例えば、搬送装置120、130を用いてパレット10を自動倉庫100に入庫する場合、撮像装置200に当該パレット10を撮像させた後に入庫する。つまり、コントローラ300は、撮像装置200に撮像されたパレット10を、作業者または外部の装置からの許可を得ることなく搬送装置120、130で棚110に格納させる。なお、搬送装置120、130は、コントローラ300から荷物20の入庫指示を受信している場合、撮像装置200において当該荷物20の撮像が完了していることが確認できれば、コントローラ300からの指示を得なくても当該荷物20を自動倉庫100に入庫してもよい。このとき、搬送装置120、130は、撮像装置200において荷物20の撮像が完了したことを、撮像装置200からの完了報告を受信することで検出してもよいし、荷物20が空間A1内において所定期間経過したことで検出してもよい。 For example, when the pallet 10 is stored in the automated warehouse 100 using the transport devices 120 and 130 , the controller 300 stores the pallet 10 after imaging the pallet 10 with the imaging device 200 . That is, the controller 300 stores the pallet 10 imaged by the imaging device 200 on the shelf 110 by the transport devices 120 and 130 without obtaining permission from the operator or an external device. Note that, when receiving an instruction to store the cargo 20 from the controller 300, the conveying devices 120 and 130 obtain the instruction from the controller 300 if it can be confirmed that the imaging of the cargo 20 has been completed by the imaging device 200. The package 20 may be stored in the automated warehouse 100 even if there is no such package. At this time, the conveying devices 120 and 130 may detect that the imaging device 200 has completed the imaging of the package 20 by receiving a completion report from the imaging device 200. It may be detected when a predetermined period of time has elapsed.

また、コントローラ300は、認識装置310を有していてもよい。認識装置310は、撮像装置200により得られた画像を取得し、取得した画像に対して画像認識処理を実行することで、画像に含まれる荷物に関する荷物データを生成する。認識装置310は、コントローラ300が撮像装置200に撮像されたパレット10を自動倉庫100に格納させている間に、または、自動倉庫100に格納させた後に、複数の画像のそれぞれに対して画像認識処理を実行してもよい。認識装置310は、記憶装置を有しており、所定期間の間に撮像装置200において撮像された複数の画像を記憶装置に記憶させてもよい。認識装置310は、記憶装置に記憶させた複数の画像に対して画像認識処理を実行してもよい。認識装置310が有する記憶装置は、例えば、HDD(Hard Disk Drive)、SSD(Solid Stated Drive)、不揮発性メモリなどである。 The controller 300 may also have a recognition device 310 . The recognition device 310 acquires an image obtained by the imaging device 200 and performs image recognition processing on the acquired image to generate package data related to the package included in the image. While the controller 300 stores the pallet 10 imaged by the imaging device 200 in the automated warehouse 100, or after storing it in the automated warehouse 100, the recognition device 310 performs image recognition on each of the plurality of images. processing may be performed. The recognition device 310 has a storage device, and may store a plurality of images captured by the imaging device 200 during a predetermined period in the storage device. The recognition device 310 may perform image recognition processing on a plurality of images stored in the storage device. The storage device included in the recognition device 310 is, for example, an HDD (Hard Disk Drive), an SSD (Solid Stated Drive), a non-volatile memory, or the like.

ここで、認識装置310による画像認識処理が、図4の画像201に対して実行された場合を例にして説明する。認識装置310は、具体的には、画像201からパレット10に付与されているラベル11を認識することで、グループIDを認識する。また、認識装置310は、画像201から複数の荷物20に付与されている複数のラベル21を認識することで、荷物IDを認識する。また、認識装置310は、複数のラベル21を認識した数をカウントすることで、荷物20の個数(以下、「認識個数」という。)を認識する。これにより、認識装置310は、1枚の画像201から、1枚の画像201に含まれるパレット10および複数の荷物20について、グループID、荷物IDおよび認識個数を認識し、これらを関連付けることで図5に示すような荷物データを生成する。なお、認識装置310は、ラベル11、21を認識することでグループID、荷物IDおよび認識個数を認識するだけでなく、荷物20の側面に記載されている文字を認識することで商品名、製造業者、賞味期限、型番、シリアルナンバーなどを認識してもよい。なお、図5は、認識装置により生成される荷物データの一例を示す図である。 Here, a case where the image recognition processing by the recognition device 310 is performed on the image 201 in FIG. 4 will be described as an example. Specifically, the recognition device 310 recognizes the group ID by recognizing the label 11 attached to the pallet 10 from the image 201 . Further, the recognition device 310 recognizes the parcel ID by recognizing the plurality of labels 21 attached to the plurality of parcels 20 from the image 201 . The recognition device 310 also recognizes the number of packages 20 (hereinafter referred to as “the number of recognized items”) by counting the number of recognized labels 21 . As a result, the recognition device 310 recognizes the group ID, the parcel ID, and the number of recognized parcels 20 of the pallet 10 and the plurality of parcels 20 included in the single image 201 from the single image 201, and associates them with each other. 5 to generate parcel data. Note that the recognition device 310 not only recognizes the group ID, package ID, and the number of recognized items by recognizing the labels 11 and 21, but also recognizes the characters written on the side of the package 20 to identify the product name, manufacturing date, and so on. The vendor, expiration date, model number, serial number, etc. may be recognized. FIG. 5 is a diagram showing an example of parcel data generated by the recognition device.

図5に示すように、荷物データは、画像P1から認識されたパレット10のラベル11が示すグループIDが「G01」であり、画像P1から認識された複数の荷物20のラベル21が示す荷物IDが「B11」、「B12」、「B13」、・・・、「B20」であり、認識された複数の荷物20の個数が「10」であることを示している。つまり、認識装置310は、画像P1を画像認識処理することで、グループID「G01」のパレット10の上に、荷物ID「B11」~「B20」の10個の荷物20を認識したことが荷物データによって示されている。 As shown in FIG. 5, the parcel data includes a group ID "G01" indicated by the label 11 of the pallet 10 recognized from the image P1, and parcel IDs indicated by the labels 21 of the plurality of parcels 20 recognized from the image P1. are 'B11', 'B12', 'B13', . In other words, the recognition device 310 recognizes ten packages 20 with package IDs "B11" to "B20" on the pallet 10 with the group ID "G01" by performing image recognition processing on the image P1. indicated by the data.

荷物データには、さらに、画像毎、つまり、グループ毎に、ステータスを示すステータス情報が付加されていてもよい。ステータスには、例えば、「仮」と、「確定」とがある。ステータスは、荷物データが認識装置310により生成された時点では、「仮」に設定されている。ステータスが「仮」であることは、当該荷物データのグループであるパレット10および複数の荷物20が自動倉庫100への入庫が確定していないことを示す。ステータスは、後述する表示装置400を用いて作業者が荷物データおよび画像の確認作業が終了した場合、「確定」に変更される。ステータスが「確定」であることは、荷物データの荷物データのグループであるパレット10および複数の荷物20が自動倉庫100への入庫が確定していることを示す。例えば、コントローラ300は、ステータスが「仮」であるグループに含まれる複数の荷物20を出庫のための検索対象に含めない。これにより、コントローラ300は、誤認識により誤った荷物データで管理されている荷物20を自動倉庫100から出庫することを低減することができる。 Status information indicating the status may be added to the parcel data for each image, that is, for each group. The status includes, for example, "temporary" and "confirmed". The status is set to "provisional" at the time the package data is generated by the recognition device 310 . When the status is "temporary", it indicates that the pallet 10 and the plurality of packages 20, which are the group of the package data, have not been confirmed to be stored in the automated warehouse 100. FIG. The status is changed to "confirmed" when the worker finishes confirming the package data and images using the display device 400, which will be described later. When the status is "confirmed", it indicates that the pallet 10 and the plurality of packages 20, which are the package data group of the package data, are confirmed to be delivered to the automated warehouse 100. FIG. For example, the controller 300 does not include a plurality of parcels 20 included in a group whose status is "provisional" in the search targets for shipping. As a result, the controller 300 can reduce the number of deliveries from the automated warehouse 100 of packages 20 managed with incorrect package data due to erroneous recognition.

なお、荷物データにおける画像の項目は、画像そのものでなくてもよく、例えば、ファイル名、画像へのリンク先などの画像を特定するための情報であればよい。また、画像P1は、図4で説明した画像201と同じ画像であるものとする。 Note that the image item in the package data may not be the image itself, and may be information for specifying the image, such as a file name and a link destination to the image, for example. It is also assumed that the image P1 is the same image as the image 201 described with reference to FIG.

なお、認識装置310は、コントローラ300と同じコンピュータにより実現されてもよい。また、認識装置310は、コントローラ300とは別体の図示しないコンピュータにより実現されてもよい。 Note that the recognition device 310 may be implemented by the same computer as the controller 300 . Also, the recognition device 310 may be implemented by a computer (not shown) that is separate from the controller 300 .

コントローラ300は、荷物データを取得した場合、取得した荷物データを記憶装置に記憶させ、かつ、当該荷物データと共に撮像装置200により得られた画像を表示装置400に送信する。これにより、コントローラ300は、表示装置400に荷物データおよび画像を表示させる。このとき、コントローラ300は、図5に示すように、複数の画像と、複数の画像のそれぞれに対応付けられた荷物データとを表示装置400に送信することで、複数のグループのそれぞれについて、当該グループに対応する荷物データと、当該グループが含まれる画像とを表示装置400に表示させる。また、コントローラ300は、撮像装置200に撮像されたパレット10を自動倉庫100に格納させている間に、または、自動倉庫100に格納させた後に、複数の画像と、複数の画像のそれぞれに対応付けられた荷物データとを表示装置400に表示させてもよい。 When acquiring package data, the controller 300 stores the acquired package data in the storage device, and transmits an image obtained by the imaging device 200 together with the package data to the display device 400 . Thereby, the controller 300 causes the display device 400 to display the package data and the image. At this time, as shown in FIG. 5, the controller 300 transmits a plurality of images and parcel data associated with each of the plurality of images to the display device 400 so that each of the plurality of groups can be displayed. The parcel data corresponding to the group and the image including the group are displayed on the display device 400 . Further, the controller 300 is configured to correspond to the plurality of images and to each of the plurality of images while the pallet 10 imaged by the imaging device 200 is being stored in the automated warehouse 100 or after being stored in the automated warehouse 100. The attached package data may be displayed on the display device 400 .

なお、1つのグループには、1つのパレット上の荷物が属するとしたが、2以上のパレット上の荷物が属するとしてもよい。このため、1つのグループに2以上のパレット上の荷物が属する場合、2枚以上の画像にまたがって1つのグループに属する荷物が含まれてもよい。また、1つのグループに同一種類の商品が属するとする場合にも、2以上の画像にまたがって1つのグループに属する荷物が含まれてもよい。 In addition, although it is assumed that a package on one pallet belongs to one group, packages on two or more pallets may belong to one group. Therefore, when packages on two or more pallets belong to one group, packages belonging to one group may be included across two or more images. Also, even if products of the same type belong to one group, packages belonging to one group may be included across two or more images.

また、表示装置400に表示させる荷物データは、認識装置310により認識された荷物データに限らずに、認識した荷物データを用いて、外部サーバなどの情報機器または記憶装置に記憶されているデータベースを照合することにより得られた当該認識した荷物データに関連する詳細データを含んでいてもよい。 The package data to be displayed on the display device 400 is not limited to the package data recognized by the recognition device 310. Using the recognized package data, information equipment such as an external server or a database stored in a storage device can be displayed. Detailed data associated with the recognized package data obtained by matching may be included.

表示装置400は、画像を表示する装置である。表示装置400は、通信部410、表示部420、および入力受付部430を有する。 The display device 400 is a device that displays an image. Display device 400 has communication unit 410 , display unit 420 , and input reception unit 430 .

通信部410は、コントローラ300から荷物データおよび画像を受信する。また、通信部410は、後述する入力データをコントローラ300に送信する。通信部410は、例えば、プログラムを実行するプロセッサ、プログラムを記憶しているメモリ、および、無線通信または有線通信を行う通信インタフェースなどにより実現される。 Communication unit 410 receives package data and images from controller 300 . The communication unit 410 also transmits input data, which will be described later, to the controller 300 . The communication unit 410 is implemented by, for example, a processor that executes a program, a memory that stores the program, a communication interface that performs wireless communication or wired communication, and the like.

表示部420は、通信部410により受信された荷物データおよび画像を表示する。具体的には、表示部420は、荷物データおよび画像を含み、作業者からの入力を受け付けるためのUI(User Interface)を表示する。表示部420は、例えば、プログラムを実行するプロセッサ、プログラムを記憶しているメモリ、および、ディスプレイにより実現される。ディスプレイは、例えば、液晶ディスプレイ、有機EL(Electro Luminance)ディスプレイなどである。 Display unit 420 displays package data and images received by communication unit 410 . Specifically, the display unit 420 displays a UI (User Interface) for receiving input from the operator, including parcel data and images. The display unit 420 is realized by, for example, a processor executing a program, a memory storing the program, and a display. The display is, for example, a liquid crystal display, an organic EL (Electro Luminance) display, or the like.

表示部420は、例えば、荷物データおよび画像を用いて、グループ毎に、当該グループに属する荷物データと、当該グループに対応付けられた画像とを表示してもよい。つまり、表示装置400は、グループ毎に、当該グループに属する、グループID、荷物ID、認識個数およびステータスの少なくとも1つと、画像とを表示してもよい。 For example, the display unit 420 may use package data and images to display, for each group, package data belonging to the group and an image associated with the group. That is, the display device 400 may display at least one of the group ID, package ID, number of recognized items, and status belonging to the group, and an image for each group.

入力受付部430は、表示部420に表示されているUIへの作業者からの入力を受け付ける。通信部410により送信される入力データは、入力受付部により受け付けられた入力を示す。入力受付部430は、例えば、マウス、キーボード、タッチパネル、タッチパッドなどの入力インタフェースにより実現される。 The input reception unit 430 receives input from the operator to the UI displayed on the display unit 420 . The input data transmitted by the communication unit 410 indicates the input received by the input receiving unit. The input reception unit 430 is implemented by an input interface such as a mouse, keyboard, touch panel, or touch pad, for example.

表示装置400は、ディスプレイを有するコンピュータにより構成され、例えば、デスクトップコンピュータ、ラップトップコンピュータ、タブレット端末、スマートフォンなどである。 The display device 400 is configured by a computer having a display, such as a desktop computer, laptop computer, tablet terminal, or smart phone.

図6および図7は、実施の形態に係る表示装置に表示されるUIの一例を示す図である。 6 and 7 are diagrams showing examples of UIs displayed on the display device according to the embodiment.

図6に示すように、UI441は、荷物データ442と、画像443とを含む。UI441は、さらに、操作ボタン444、メッセージ445、および、荷物IDボタン446を含んでいてもよい。荷物データ442は、図5に示した荷物データのうちのグループID「G01」のグループに含まれる荷物20の個数、つまり、認識個数である。荷物データ442は、入力ボックスとなっており、作業者が変更可能となっている。つまり、荷物データ442の「10」は、入力受付部430が受け付けた作業者からの入力に応じて変更されうる。なお、UI441には、荷物データとして、荷物IDが含まれていてもよい。画像443は、荷物データにおいてグループID「G01」と対応付けられている画像P1である。 As shown in FIG. 6 , UI 441 includes package data 442 and image 443 . UI 441 may further include operation buttons 444 , message 445 , and parcel ID button 446 . The parcel data 442 is the number of parcels 20 included in the group with the group ID "G01" in the parcel data shown in FIG. 5, that is, the number of recognized parcels. The package data 442 is an input box that can be changed by the operator. In other words, “10” in package data 442 can be changed according to the input from the worker received by input receiving unit 430 . Note that the UI 441 may include a parcel ID as the parcel data. An image 443 is an image P1 associated with the group ID "G01" in the parcel data.

操作ボタン444は、「次へボタン」であり、マウスなどのポインティングデバイスでクリックされることで、荷物データ442の入力ボックスに入力されている数値が確定される。つまり、操作ボタン444は、認識個数を確定するためのボタンである。操作ボタン444が押された場合、表示部420は、例えば図5に示した荷物データのうち次のグループID「G02」に対応する荷物データの認識個数と、画像P2とを表示させてもよい。 The operation button 444 is a "next button", and by clicking it with a pointing device such as a mouse, the numerical value entered in the input box of the parcel data 442 is determined. That is, the operation button 444 is a button for confirming the number of recognitions. When the operation button 444 is pressed, the display unit 420 may display, for example, the recognized number of parcel data corresponding to the next group ID "G02" among the parcel data shown in FIG. 5 and the image P2. .

メッセージ445は、作業者に入力を促すためのメッセージである。メッセージ445は、例えば、画像443中の荷物20の個数と、荷物データ442中の数値、つまり、認識個数とを作業者に確認させることを促すメッセージである。これにより、作業者は、画像443中の荷物20の個数と、荷物データ442中の数値とが一致していれば、当該数値を管理すべき荷物20の個数として確定させる。 A message 445 is a message for prompting the operator to input. The message 445 is, for example, a message prompting the worker to confirm the number of packages 20 in the image 443 and the numerical value in the package data 442, that is, the number of recognized packages. As a result, if the number of packages 20 in the image 443 and the numerical value in the package data 442 match, the operator determines the numerical value as the number of packages 20 to be managed.

反対に、作業者は、画像443中の荷物20の個数と、荷物データ442中の数値とが一致していなければ、正しい数値を荷物データ442の入力ボックスに入力し、操作ボタン444を押すことで入力した数値を管理すべき荷物20の個数として確定させる。例えば、図6では、画像443中の荷物20の個数と、荷物データ442中の数値とが一致していないため、作業者は、荷物20の正しい個数である「11」を荷物データ442の入力ボックスに入力し、操作ボタン444で確定させることとなる。これにより、グループIDが「G01」に対応付けられている認識個数は、「10」から「11」に変更される。 Conversely, if the number of parcels 20 in the image 443 and the numerical value in the parcel data 442 do not match, the operator inputs the correct numerical value in the input box of the parcel data 442 and presses the operation button 444 . The numerical value input in is determined as the number of packages 20 to be managed. For example, in FIG. 6, since the number of packages 20 in the image 443 does not match the numerical value in the package data 442, the worker inputs "11", which is the correct number of packages 20, into the package data 442. Input in the box and confirm with the operation button 444 . As a result, the recognized number associated with the group ID "G01" is changed from "10" to "11".

荷物IDボタン446は、荷物データのうちグループID「G01」のグループに含まれる複数の荷物20の荷物IDを編集するためのUI450を表示させるためのボタンである。荷物IDボタン446が押された場合、表示部420は、図7に示すUI450を表示する。作業者は、画像443中の荷物20の個数と、荷物データ442中の数値とが一致していなければ、荷物IDボタン446を押すことで、UI450を表示部420に表示させ、荷物IDを編集することとなる。表示部420は、例えば、UI441に重畳してUI450を表示する。なお、表示部420は、荷物IDボタン446が押されなくても、荷物データ442が編集されることで認識個数が変更された場合に、UI450を表示してもよい。つまり、この場合、荷物IDボタン446は、UI441において表示されなくてもよい。 The parcel ID button 446 is a button for displaying the UI 450 for editing the parcel IDs of a plurality of parcels 20 included in the group of the group ID "G01" among the parcel data. When the package ID button 446 is pressed, the display unit 420 displays the UI 450 shown in FIG. If the number of packages 20 in the image 443 does not match the numerical value in the package data 442, the operator presses the package ID button 446 to display the UI 450 on the display unit 420 and edit the package ID. It will be done. The display unit 420 displays, for example, the UI 450 superimposed on the UI 441 . Note that the display unit 420 may display the UI 450 when the number of recognized items is changed by editing the package data 442 without pressing the package ID button 446 . That is, in this case, the package ID button 446 may not be displayed on the UI441.

図7に示すように、UI450は、例えば、グループID「G01」のグループに含まれる荷物IDの一覧451と、追加ボタン452、削除ボタン453、追加入力ボックス454、OKボタン455、および、キャンセルボタン456を含む。 As shown in FIG. 7, the UI 450 includes, for example, a list 451 of package IDs included in the group with the group ID "G01", an add button 452, a delete button 453, an add input box 454, an OK button 455, and a cancel button. 456 included.

荷物IDの一覧451には、グループID「G01」のグループにおいて認識されている荷物の荷物IDの一覧が表示される。図7に示す例では、荷物IDがB11~B20の10個の荷物の荷物IDが示されている。 The package ID list 451 displays a list of package IDs of packages recognized in the group with the group ID "G01". In the example shown in FIG. 7, package IDs of ten packages with package IDs B11 to B20 are shown.

追加ボタン452は、荷物IDの一覧451において認識されていない荷物が画像443に含まれている場合に、荷物IDの一覧451に当該認識されていない荷物の荷物IDを入力するための追加入力ボックス454を追加するためのボタンである。追加ボタン452が押された場合、表示部420は、追加入力ボックス454を追加して表示する。図7では、番号11の追加入力ボックス454が追加して表示されている例が示されている。 The add button 452 is an additional input box for entering the package ID of the unrecognized package in the package ID list 451 when the image 443 includes an unrecognized package in the package ID list 451 . 454 is added. When the add button 452 is pressed, the display unit 420 additionally displays an additional input box 454 . FIG. 7 shows an example in which an additional input box 454 with number 11 is additionally displayed.

削除ボタン453は、追加した追加入力ボックス454を削除するためのボタンである。図7に示される状態で、削除ボタン453が押されると、表示部420は、番号11の追加入力ボックス454が削除した一覧を表示する。 The delete button 453 is a button for deleting the added additional input box 454 . When the delete button 453 is pressed in the state shown in FIG. 7, the display unit 420 displays a list in which the number 11 additional input box 454 has been deleted.

追加入力ボックス454は、上述したとおり、荷物IDの一覧451に当該認識されていない荷物の荷物IDを入力するための入力ボックスである。 The additional input box 454 is an input box for inputting the package ID of the unrecognized package in the package ID list 451, as described above.

OKボタン455は、UI450での荷物IDの編集を確定させるためのボタンである。OKボタン455が押されると、UI450での編集が確定される。 An OK button 455 is a button for confirming editing of the package ID on the UI 450 . When the OK button 455 is pressed, editing on the UI 450 is confirmed.

キャンセルボタン456は、UI450での荷物IDの編集をキャンセルさせるためのボタンである。キャンセルボタン456が押されると、UI450での編集が編集前の状態に戻される。 A cancel button 456 is a button for canceling editing of the package ID on the UI 450 . When the cancel button 456 is pressed, the editing on the UI 450 is returned to the state before editing.

このように、作業者は、UI450において荷物IDを編集することより、画像443中に含まれる荷物のうちで荷物IDの一覧451に含まれていない荷物の荷物IDを、荷物データに追加することができる。なお、図7では、UI450に、画像443が表示されない形態を例示したが、画像443が表示される形態であってもよい。作業者は、画像443を見ながら、荷物IDを編集できるからである。 In this way, by editing the package IDs on the UI 450, the worker can add the package IDs of the packages included in the image 443 that are not included in the package ID list 451 to the package data. can be done. In addition, in FIG. 7, although the form which the image 443 is not displayed on UI450 was illustrated, the form which the image 443 is displayed may be sufficient. This is because the worker can edit the package ID while viewing the image 443 .

なお、UI441において荷物データ442の数値を編集しなくても、UI450において荷物IDの編集が行われた場合、荷物IDの編集に応じて、荷物データ442の数値を変更してもよい。つまり、UI450において、荷物IDが追加されれば、荷物IDが追加された数だけ荷物データ442の荷物の個数を示す数値を増加させ、荷物IDが削除されれば、荷物IDが削除された数だけ荷物データ442の荷物の個数を示す数値を減少させてもよい。 Even if the numerical value of the package data 442 is not edited on the UI 441, if the package ID is edited on the UI 450, the numerical value of the package data 442 may be changed according to the editing of the package ID. That is, in the UI 450, if a package ID is added, the number indicating the number of packages in the package data 442 is increased by the number of added package IDs, and if the package ID is deleted, the number of deleted package IDs is increased. The numerical value indicating the number of packages in the package data 442 may be decreased by the amount.

表示装置400は、UI441、450への作業者からの入力によって確定された数値および荷物IDを含む入力データをコントローラ300に送信する。入力データは、例えば、グループIDと、変更された荷物データである認識個数と、編集された荷物IDとが対応付けられた変更データを含む。また、入力データは、例えば、変更された認識個数および編集された荷物IDが対応付けられておらず、かつ、確認作業が実行されたグループIDを示す確定データを含む。確定データは、変更されていない認識個数、および、編集されていない荷物IDがグループIDに対応付けられているデータであってもよい。 The display device 400 transmits to the controller 300 the input data including the numeric value and package ID determined by the operator's input to the UIs 441 and 450 . The input data includes, for example, change data in which a group ID, the number of recognized items, which is changed package data, and an edited package ID are associated with each other. In addition, the input data includes, for example, fixed data indicating the group ID in which the changed number of recognized packages and the edited package ID are not associated and the confirmation work has been performed. The fixed data may be data in which the unaltered recognized number and the unedited package ID are associated with the group ID.

そして、コントローラ300は、入力データを受信した場合、入力データが示す入力に応じて荷物データを更新し、更新後の荷物データを用いて荷物を管理する。具体的には、コントローラ300は、コントローラ300が記憶している荷物データのうち、入力データにより示されるグループIDで対応付けられている認識個数を、当該グループIDで入力データにおいて対応付けられている個数に変更する。また、コントローラ300は、入力データにより示されるグループIDで対応付けられている荷物IDを、当該グループIDで入力データにおいて対応付けられている荷物IDに変更する。また、コントローラ300は、これらの変更と共に、ステータスを「仮」から「確定」に変更する。例えば、コントローラ300は、図6のUI441において作業者に入力された入力データを受信した場合、図8に示すようにグループIDが「G01」に対応付けられている認識個数を「10」から「11」に変更し、荷物IDを11個の荷物IDであるB11~B20にさらにB201を追加すると共に、ステータスを「仮」から「確定」に変更する。なお、図8は、更新後の荷物データの一例を示す図である。 Then, when the input data is received, the controller 300 updates the package data according to the input indicated by the input data, and manages the package using the updated package data. Specifically, the controller 300 associates the number of packages associated with the group ID indicated by the input data in the parcel data stored in the controller 300 with the group ID in the input data. Change to number. Also, the controller 300 changes the parcel ID associated with the group ID indicated by the input data to the parcel ID associated with the group ID in the input data. Also, the controller 300 changes the status from "provisional" to "fixed" along with these changes. For example, when the controller 300 receives the input data input by the worker on the UI 441 of FIG. 11”, B201 is added to the 11 package IDs B11 to B20, and the status is changed from “temporary” to “fixed”. FIG. 8 is a diagram showing an example of package data after updating.

このように、コントローラ300は、認識装置310によって認識された結果である荷物データを、作業者に確認させることで得られた入力データに更新することで、荷物データを正しい情報に変更することができる。また、コントローラ300は、作業者に確認させることで得られた入力データに基づいて、作業者に確認された荷物データのステータスを確定させるため、作業者が確認済みの荷物データを用いて荷物を管理することができる。 In this way, the controller 300 updates the package data, which is the result of recognition by the recognition device 310, to the input data obtained by having the operator confirm the package data, thereby changing the package data to correct information. can. In addition, the controller 300 confirms the status of the package data confirmed by the worker based on the input data obtained by having the worker confirm the package. can be managed.

なお、表示装置400は、自動倉庫100が配置されている空間とは異なる空間、例えば、空調されている空間に配置されていてもよい。これにより、作業者は、表示装置400を用いて画像および荷物データの確認作業を、快適な空間で行うことができる。よって、作業効率を向上させることができる。 Note that the display device 400 may be arranged in a space different from the space in which the automated warehouse 100 is arranged, for example, in an air-conditioned space. As a result, the worker can use the display device 400 to check images and package data in a comfortable space. Therefore, working efficiency can be improved.

図9は、実施の形態に係る自動倉庫システムの動作を説明するためのシーケンス図である。 FIG. 9 is a sequence diagram for explaining the operation of the automated warehouse system according to the embodiment.

まず、撮像装置200は、荷物を検出したか否かを判定する(S1)。 First, the imaging device 200 determines whether or not baggage is detected (S1).

撮像装置200は、荷物を検出していれば(S1でYes)、検出した荷物を撮像し(S2)、荷物を検出していなければ(S1でNo)荷物が検出されるまでステップS1での検出を繰り返す。 If the imaging device 200 detects a package (Yes in S1), it captures an image of the detected package (S2). Repeat detection.

撮像装置200は、撮像することにより得られた画像をコントローラ300に送信する(S3)。 The imaging device 200 transmits an image obtained by imaging to the controller 300 (S3).

コントローラ300は、画像を撮像装置200から受信した場合、受信した画像をコントローラ300が備える認識装置310が有する記憶装置に記憶させる(S4)。 When the image is received from the imaging device 200, the controller 300 stores the received image in the storage device of the recognition device 310 of the controller 300 (S4).

なお、ステップS1~S4は、所定期間において繰り返し実行され、コントローラ300は、所定期間において撮像装置200により撮像された複数の画像を記憶することとなる。なお、ステップS1、S2が所定期間において繰り返し実行され、所定期間において撮像装置200により撮像された複数の画像がステップS3においてコントローラ300に送信されてもよい。 Note that steps S1 to S4 are repeatedly executed in a predetermined period, and the controller 300 stores a plurality of images captured by the imaging device 200 in the predetermined period. Note that steps S1 and S2 may be repeatedly executed for a predetermined period, and a plurality of images captured by the imaging device 200 during the predetermined period may be transmitted to the controller 300 in step S3.

コントローラ300の認識装置310は、記憶装置に記憶させた複数の画像のそれぞれに対して画像認識処理を実行し、認識結果として荷物データを生成する(S5)。 The recognition device 310 of the controller 300 performs image recognition processing on each of the plurality of images stored in the storage device, and generates parcel data as a recognition result (S5).

コントローラ300は、画像および当該画像に対応する荷物データを、認識装置310の記憶装置に記憶させ、かつ、表示装置400に送信する(S6)。 The controller 300 stores the image and the parcel data corresponding to the image in the storage device of the recognition device 310, and transmits them to the display device 400 (S6).

表示装置400の表示部420は、画像および荷物データを受信し、受信した画像および荷物データを含むUI441を表示する(S7)。 Display unit 420 of display device 400 receives the image and package data, and displays UI 441 including the received image and package data (S7).

表示装置400の入力受付部430は、表示部420に表示しているUI441(場合によってはUI450)への入力を受け付ける(S8)。そして、表示装置400の通信部410は、入力受付部430により受け付けられた入力に基づく入力データをコントローラ300に送信する。 The input reception unit 430 of the display device 400 receives input to the UI 441 (or UI 450 in some cases) displayed on the display unit 420 (S8). Then, the communication unit 410 of the display device 400 transmits input data based on the input accepted by the input accepting unit 430 to the controller 300 .

コントローラ300は、入力データを表示装置400から受信した場合、管理している荷物データのステータスを確定させる(S9)。 When the input data is received from the display device 400, the controller 300 confirms the status of the managed parcel data (S9).

本実施の形態に係る自動倉庫システム1は、棚110と、搬送装置120、130とを有する自動倉庫100を備えた自動倉庫システム1であって、撮像装置200と、表示装置400と、コントローラ300とを備える。撮像装置200は、自動倉庫100に入庫する荷物20を撮像する。表示装置400は、撮像装置200により得られた画像を表示可能である。コントローラ300は、(i)作業者からの許可を得ることなく荷物20を搬送装置120、130で棚110に格納させ、(ii)荷物20に関する荷物データを取得し、(iii)取得した荷物データと共に画像を表示装置400に表示させる。 An automated warehouse system 1 according to the present embodiment includes an automated warehouse 100 having shelves 110 and transport devices 120 and 130, and includes an imaging device 200, a display device 400, and a controller 300. and The imaging device 200 images the package 20 entering the automated warehouse 100 . The display device 400 can display an image obtained by the imaging device 200 . The controller 300 (i) causes the transport devices 120 and 130 to store the package 20 on the shelf 110 without obtaining permission from the operator, (ii) acquires package data regarding the package 20, and (iii) stores the acquired package data. At the same time, the image is displayed on the display device 400 .

これによれば、自動倉庫100は、撮像装置200により撮像された後の荷物20を作業者の許可を得ることなく入庫するため、自動倉庫100の入庫口で荷物20が滞留することを低減することができる。また、コントローラ300は、自動倉庫100に入庫する荷物20の画像を、当該荷物20に関する荷物データと共に表示装置400に表示させるため、作業者は、表示装置400に表示された荷物データと画像とを比較することで、荷物20に関する荷物データが正しいか否かを容易に確認することができる。このため、作業者は、正しくない荷物データの荷物20を容易に特定することができ、自動倉庫100に入庫する荷物20の認識ミスを効果的に低減することができる。 According to this, since the automated warehouse 100 receives the packages 20 captured by the imaging device 200 without obtaining permission from the operator, it is possible to reduce the stagnation of the packages 20 at the entrance of the automated warehouse 100. be able to. In addition, since the controller 300 causes the display device 400 to display the image of the package 20 entering the automated warehouse 100 together with the package data related to the package 20, the operator can display the package data and the image displayed on the display device 400. By comparing, it is possible to easily confirm whether or not the package data regarding the package 20 is correct. Therefore, the operator can easily identify packages 20 with incorrect package data, and can effectively reduce misrecognition of packages 20 entering the automated warehouse 100 .

また、本実施の形態に係る自動倉庫システム1は、さらに、認識装置310を備える。認識装置310は、撮像装置200により得られた画像を取得し、取得した画像に対して画像認識処理を実行することで、画像に含まれる荷物に関する荷物データを生成する。そして、コントローラ300は、荷物データを認識装置310から取得する。このため、作業者は、自動倉庫100に入庫する荷物20の、認識装置310による認識ミスを効果的に低減することができる。また、認識装置310は、荷物20の自動倉庫100への入庫を待機させることなく画像認識処理を複数の画像に対してまとめて実行することができるため、荷物20の入庫口での滞留を低減でき、かつ、効率よく画像認識処理を実行することができる。 Moreover, the automated warehouse system 1 according to this embodiment further includes a recognition device 310 . The recognition device 310 acquires an image obtained by the imaging device 200 and performs image recognition processing on the acquired image to generate package data related to the package included in the image. The controller 300 then acquires the parcel data from the recognition device 310 . Therefore, the worker can effectively reduce recognition errors by the recognition device 310 of the packages 20 entering the automated warehouse 100 . In addition, since the recognition device 310 can collectively perform image recognition processing on a plurality of images without waiting for the goods 20 to enter the automated warehouse 100, the accumulation of the goods 20 at the entrance can be reduced. It is possible to perform image recognition processing efficiently.

また、本実施の形態に係る自動倉庫システム1において、複数の荷物20は、1以上の第1の個数毎に複数のグループにグループ化されている。また、撮像装置200は、複数のグループのそれぞれを撮像する。撮像装置200は、例えば、各グループを1回ずつ撮像することで、1グループにつき1枚の画像を得る。そして、コントローラ300は、複数のグループのそれぞれについて、当該グループに対応する荷物データと、当該グループが含まれる画像とを表示装置400に表示させる。このため、作業者は、グループ毎に確認作業を行うことができ、確認作業を短時間で完了させることができる。 Moreover, in the automated warehouse system 1 according to the present embodiment, the plurality of packages 20 are grouped into a plurality of groups for each first number of one or more. In addition, the imaging device 200 images each of the plurality of groups. For example, the imaging device 200 obtains one image per group by imaging each group once. Then, the controller 300 causes the display device 400 to display package data corresponding to each group and an image including the group for each of the plurality of groups. Therefore, the worker can perform confirmation work for each group, and can complete the confirmation work in a short time.

(変形例1)
変形例1に係る自動倉庫システムについて説明する。
(Modification 1)
An automated warehouse system according to Modification 1 will be described.

上記実施の形態に係る自動倉庫システム1では、コントローラ300は、全てのグループについて、画像および荷物データを表示装置400に送信し、作業者に画像および荷物データの確認作業を行わせていたが、全てのグループについて確認作業を行わせなくてもよい。 In the automated warehouse system 1 according to the above-described embodiment, the controller 300 transmits images and parcel data for all groups to the display device 400 and causes the worker to confirm the images and parcel data. It is not necessary to perform confirmation work for all groups.

図10は、変形例1に係る自動倉庫システムの動作を説明するためのシーケンス図である。 FIG. 10 is a sequence diagram for explaining the operation of the automated warehouse system according to Modification 1. As shown in FIG.

変形例1に係る自動倉庫システム1では、実施の形態に係る自動倉庫システム1と比較して、コントローラ300においてさらにステップS11およびS12が行われる点が異なる。変形例1に係る自動倉庫システム1のその他の動作は、実施の形態に係る自動倉庫システム1の動作と同様であるため、詳細な説明を省略する。 The automated warehouse system 1 according to Modification 1 differs from the automated warehouse system 1 according to the embodiment in that the controller 300 further performs steps S11 and S12. Other operations of the automated warehouse system 1 according to Modification 1 are the same as those of the automated warehouse system 1 according to the embodiment, so detailed description thereof will be omitted.

コントローラ300は、ステップS5の後で、複数のグループのそれぞれの入庫個数を取得する(S11)。例えば、コントローラ300は、1つのパレット10に対応する複数の荷物20のそれぞれに発行されたラベル21の発行枚数をラベル21の発行装置から取得することで、入庫個数を取得する。また、例えば、コントローラ300は、入庫予定の荷物の個数を外部の装置から取得することで、入庫個数を取得してもよい。なお、コントローラ300は、パレット単位で荷物20の入庫個数を取得しなくてもよく、第2の個数(2以上の定められた個数)のパレットの荷物20の入庫個数を取得してもよい。例えば、コントローラ300は、2つのパレット10に対して20個の荷物20のそれぞれに20枚のラベル21が発行された場合、当該2つのパレット10に対する入庫個数として20個を取得する。コントローラ300は、第2の個数のパレット単位で入庫個数を取得する場合、第2の個数のパレットを1グループとして認識してもよい。 After step S5, the controller 300 acquires the number of stocked items in each of the plurality of groups (S11). For example, the controller 300 obtains the number of goods received by obtaining the number of labels 21 issued to each of the plurality of packages 20 corresponding to one pallet 10 from the label 21 issuing device. Further, for example, the controller 300 may acquire the number of parcels to be stored by acquiring the number of parcels to be stored from an external device. Note that the controller 300 does not have to acquire the number of stored packages 20 on a pallet basis, and may acquire the number of stored packages 20 on a second number (predetermined number of 2 or more) of pallets. For example, when 20 labels 21 are issued to each of 20 packages 20 for two pallets 10 , the controller 300 acquires 20 as the number of warehousing for the two pallets 10 . When the controller 300 acquires the number of goods received in units of the second number of pallets, the controller 300 may recognize the second number of pallets as one group.

コントローラ300は、複数のグループのそれぞれについて、当該グループとして入庫する荷物の個数である入庫個数と、荷物データに含まれる認識個数とが一致するか否かを判定する(S12)。 For each of the plurality of groups, the controller 300 determines whether or not the received number, which is the number of packages to be stored as the group, matches the recognized number included in the package data (S12).

コントローラ300は、入庫個数および認識個数が一致しない場合(S12でNo)、入庫個数および認識個数が一致しないグループに対応する荷物データおよび画像を表示装置400に送信し(S6)、当該荷物データおよび当該画像を表示装置400に表示させる(S7)。 If the number of received goods and the number of recognized goods do not match (No in S12), the controller 300 transmits the parcel data and image corresponding to the group in which the number of received goods and the recognized number do not match to the display device 400 (S6). The image is displayed on the display device 400 (S7).

一方で、コントローラ300は、入庫個数および認識個数が一致する場合(S12でYes)、入庫個数および認識個数が一致するグループに対応する荷物データおよび画像を表示装置400に表示させず、つまり、当該荷物データおよび当該画像を表示装置400に送信せずに、当該グループに対応する荷物データのステータスを確定した状態で認識装置310の記憶装置に記憶させる(S9)。コントローラ300が入庫個数および認識個数が一致する場合に対応する荷物データおよび画像を表示装置400に送信しないのは、入庫個数および認識個数が一致したことが正しく認識できた結果であると考えられるからであり、この場合、作業者によるチェックの必要がないと考えられるからである。 On the other hand, if the entered quantity and the recognized quantity match (Yes in S12), the controller 300 does not cause the display device 400 to display the parcel data and images corresponding to the group in which the entered quantity and the recognized quantity match. Without transmitting the parcel data and the relevant image to the display device 400, the status of the parcel data corresponding to the group is determined and stored in the storage device of the recognition device 310 (S9). The reason why the controller 300 does not transmit the parcel data and image corresponding to the case where the number of received goods and the number of recognized goods match to the display device 400 is considered to be the result of correctly recognizing that the number of received goods and the recognized number of goods match. , and in this case, it is considered that there is no need for checking by the operator.

これによれば、コントローラ300は、入庫個数および認識個数が一致するグループについては正しく認識されていると判断し、当該グループに対応する荷物データおよび画像を表示装置400に表示させない。このため、作業者が確認する画像の数を少なくすることができ、作業者は、確認作業を短時間で完了させることができる。 According to this, the controller 300 determines that a group with the same number of received goods and the same number of recognized goods is correctly recognized, and does not display the parcel data and images corresponding to the group on the display device 400 . Therefore, the number of images to be checked by the worker can be reduced, and the worker can complete the checking work in a short time.

なお、コントローラ300は、認識装置310において得られた認識個数を取得するとしたが、認識個数を取得する代わりに、複数の荷物20にRFID(Radio Frequency Identifier)タグが付与されている場合には、RFIDリーダにより読み取られた荷物の個数を取得してもよいし、外部の機器から得られたデータに含まれる荷物の個数を取得してもよい。つまり、変形例1では、コントローラ300は、グループに含まれる荷物の個数である所定の個数を取得し、入庫個数および認識個数が一致するか否かに応じて、ステップS6を実行するか、ステップS9を実行するかを行う構成であればよい。 Although the controller 300 acquires the number of recognized items obtained by the recognition device 310, instead of acquiring the number of recognized items, if a plurality of packages 20 are attached with RFID (Radio Frequency Identifier) tags, The number of parcels read by the RFID reader may be acquired, or the number of parcels included in data obtained from an external device may be acquired. That is, in Modification 1, the controller 300 acquires a predetermined number of parcels included in the group, and depending on whether or not the received number and the recognized number match, either executes step S6 or performs step S6. Any configuration may be used as long as it determines whether to execute S9.

(変形例2)
変形例2に係る自動倉庫システムについて説明する。
(Modification 2)
An automated warehouse system according to Modification 2 will be described.

上記実施の形態に係る自動倉庫システム1では、さらに、グループのうち出庫指示に応じて一部の荷物がピッキングされた後の荷物を再入庫する際に、ピッキングが作業者によって正確に行われたか否かを判定することに、更新後の荷物データにおける認識個数を利用してもよい。 In the automated warehouse system 1 according to the above-described embodiment, furthermore, when re-stocking packages after some of the packages in the group have been picked in response to the delivery instruction, whether the picking has been performed correctly by the worker. The number of recognized items in the updated parcel data may be used to determine whether or not.

図11は、変形例2に係る自動倉庫システムの機能構成の一例を示すブロック図である。 FIG. 11 is a block diagram showing an example of the functional configuration of an automated warehouse system according to Modification 2. As shown in FIG.

変形例2に係る自動倉庫システム1Aは、実施の形態に係る自動倉庫システム1と比較して、さらに、指示装置500を備える点が異なる。変形例2に係る自動倉庫システム1Aのその他の構成は、実施の形態に係る自動倉庫システム1と同様であるため、詳細な説明を省略する。 The automated warehouse system 1A according to Modification 2 is different from the automated warehouse system 1 according to the embodiment in that it further includes an indicating device 500 . Since other configurations of the automated warehouse system 1A according to Modification 2 are the same as those of the automated warehouse system 1 according to the embodiment, detailed description thereof will be omitted.

再入庫がされる場合、まず、搬送装置120、130は、自動倉庫100に複数のグループの中から、コントローラ300からの出庫指示に応じた一のグループを出庫する。ここで出庫される位置のグループは、一つのパレット10である。搬送装置120、130は、作業者Uによりピッキングされた後においても、当該一のグループに荷物20が含まれる場合、当該一のグループを自動倉庫100に再入庫する。 When the goods are re-stocked, the transport devices 120 and 130 first deliver one group to the automated warehouse 100 according to a delivery instruction from the controller 300 from a plurality of groups. The group of positions to be delivered here is one pallet 10 . If the one group includes the package 20 even after it has been picked by the worker U, the transport devices 120 and 130 re-stock the one group in the automated warehouse 100 .

指示装置500は、ピッキングステーション140において作業をしている作業者Uに、出庫コンベア122から出庫されたパレット10から出庫指示で指定された荷物をピッキングさせる指示を通知する通知部510を有する装置である。通知部510は、画像を表示することで通知するディスプレイであってもよいし、音声を出力することで通知するスピーカであってもよい。指示装置500は、例えば、ディスプレイまたはスピーカを有するコンピュータにより構成され、例えば、デスクトップコンピュータ、ラップトップコンピュータ、タブレット端末、スマートフォンなどである。 The instruction device 500 is a device having a notification unit 510 for notifying the operator U working at the picking station 140 of an instruction to pick up the package specified by the delivery instruction from the pallet 10 delivered from the delivery conveyor 122. be. The notification unit 510 may be a display that notifies by displaying an image, or may be a speaker that notifies by outputting sound. The instruction device 500 is configured by, for example, a computer having a display or speaker, such as a desktop computer, a laptop computer, a tablet terminal, a smart phone, or the like.

認識装置310は、再入庫される一のグループが撮像装置200により撮像された画像に対して画像認識処理を実行することで、再入庫されるときの一のグループの荷物20の個数を認識し、認識することにより得られた個数である認識個数を再入庫個数として含む荷物データを生成する。 The recognition device 310 recognizes the number of parcels 20 in one group to be restocked by executing image recognition processing on an image captured by the imaging device 200 of the one group to be restocked. , the parcel data including the recognized number obtained by the recognition as the restocked number is generated.

コントローラ300は、ピッキングされる前の一のグループの荷物の個数から、出庫指示によって作業者Uにピッキングさせた荷物の個数を減じた個数である再入庫予定個数が、再入庫個数と一致するか否かを判定する。コントローラ300は、再入庫予定個数が再入庫個数と一致しない場合、再入庫予定個数および再入庫個数が一致しないことを示す情報である通知情報を指示装置500に送信する。これにより、指示装置500は、作業者Uに、再入庫予定個数および再入庫個数が一致しないことを通知する。 The controller 300 determines whether the number of packages to be restocked, which is the number obtained by subtracting the number of packages picked by the worker U according to the delivery instruction from the number of packages in one group before being picked, matches the number of packages to be restocked. determine whether or not When the planned restocking quantity does not match the restocking quantity, the controller 300 transmits notification information indicating that the planned restocking quantity and the restocking quantity do not match to the instruction device 500 . Thereby, the instruction device 500 notifies the worker U that the scheduled restocking quantity and the restocking quantity do not match.

なお、通知情報は、例えば、当該ピッキングが出庫指示に従って行われなかったこと通知する情報であってもよいし、認識装置310において誤認識が発生したことを示す情報であってもよい。 Note that the notification information may be, for example, information notifying that the picking was not performed in accordance with the delivery instruction, or information indicating that the recognition device 310 has made an erroneous recognition.

なお、コントローラ300は、認識装置310において得られた認識個数を再入庫個数として含む荷物データを取得するとしたが、これに限らずに、複数の荷物20にRFID(Radio Frequency Identifier)タグが付与されている場合には、RFIDリーダにより読み取られた荷物の個数を再入庫個数として含む荷物データを取得してもよいし、外部の機器から得られたデータを再入庫個数として含む荷物データを取得してもよい。 Although the controller 300 acquires package data including the number of recognized items obtained by the recognition device 310 as the number of restocked items, the present invention is not limited to this, and a plurality of packages 20 are provided with RFID (Radio Frequency Identifier) tags. If so, the number of parcels read by the RFID reader may be acquired as parcel data as the number of parcels restocked, or the parcel data including the number of parcels restocked as the number of parcels obtained from an external device may be acquired. may

図12は、変形例2に係る自動倉庫システムの再入庫の動作を説明するためのシーケンス図である。 FIG. 12 is a sequence diagram for explaining the re-entry operation of the automated warehouse system according to Modification 2. As shown in FIG.

変形例2に係る自動倉庫システム1Aでは、実施の形態に係る自動倉庫システム1と比較して、コントローラ300においてさらにステップS11a、S12aおよびS13が行われる点と、指示装置500においてステップS14が行われる点とが異なる。変形例2に係る自動倉庫システム1Aのその他の動作は、実施の形態に係る自動倉庫システム1の動作と同様であるため、詳細な説明を省略する。 In the automated warehouse system 1A according to Modification 2, steps S11a, S12a, and S13 are further performed in the controller 300, and step S14 is performed in the instruction device 500, as compared with the automated warehouse system 1 according to the embodiment. point is different. Other operations of the automated warehouse system 1A according to Modification 2 are the same as those of the automated warehouse system 1 according to the embodiment, so detailed description thereof will be omitted.

ステップS1a~S5aでは、基本的には、実施の形態で説明したステップS1~S5と同様の動作が行われる。異なる点は、再入庫されるグループを撮像した画像に再入庫されたことを識別する識別情報が付与されることである。再入庫されたグループであることは、出庫されたグループをトラッキングすることで検出されてもよいし、当該グループのパレット10に付与されているラベル11を読み取ることで検出されてもよい。 In steps S1a to S5a, basically the same operations as steps S1 to S5 described in the embodiment are performed. A different point is that identification information for identifying restocking is added to an image of a group to be restocked. The restocked group may be detected by tracking the group that has been taken out, or by reading the label 11 attached to the pallet 10 of the group.

コントローラ300は、ステップS5aの後で、再入庫される予定のグループの入庫個数である再入庫予定個数を取得する(S11a)。再入庫予定個数は、上述したように、再入庫されるグループのピッキング前における認識個数、つまり、更新後の荷物データにおいて当該グループに対応付けられている認識個数から出庫指示でピッキングさせた荷物の個数を減じることで算出される。 After step S5a, the controller 300 acquires the scheduled restocking number, which is the number of stocks in the group scheduled to be restocked (S11a). As described above, the number of packages to be restocked is the number of packages to be picked up by the delivery instruction based on the number of packages recognized before picking of the group to be restocked, that is, the number of packages to be picked up based on the number of packages associated with the group in the updated package data. Calculated by subtracting the number.

コントローラ300は、再入庫予定個数と、再入庫される予定のグループの荷物の認識結果である荷物データに含まれる認識個数とが一致するか否かを判定する(S12a)。 The controller 300 determines whether or not the planned restocking quantity matches the recognized quantity included in the parcel data, which is the recognition result of the parcels in the group scheduled to be restocked (S12a).

コントローラ300は、再入庫予定個数および認識個数が一致しない場合(S12aでNo)、通知情報を指示装置500に送信する(S13)。 When the planned restocking quantity and the recognized quantity do not match (No in S12a), the controller 300 transmits notification information to the instruction device 500 (S13).

指示装置500は、通知情報を受信した場合、再入庫予定個数および再入個数が一致しないことを通知する(S14)。指示装置500は、例えば、通知情報に応じて、ピッキングが出庫指示に従って正しく行われなかった、または、誤認識が発生したことを作業者Uに通知する。 When the notification information is received, the instruction device 500 notifies that the scheduled restocking quantity and the restocking quantity do not match (S14). For example, the instruction device 500 notifies the worker U that picking was not correctly performed according to the delivery instruction or that an erroneous recognition has occurred, according to the notification information.

一方で、コントローラ300は、再入庫予定個数および認識個数が一致する場合(S12aでYes)、通知を行わず、荷物データの認識個数を再入庫予定個数に更新する(S15)。 On the other hand, when the planned restocking quantity and the recognized quantity match (Yes in S12a), the controller 300 updates the recognized quantity in the parcel data to the planned restocking quantity (S15).

変形例2に係る自動倉庫システム1Aによれば、再入庫されたグループについて、画像処理によって認識された荷物の認識個数と、荷物データおよび出庫指示によって算出される再入庫予定個数とを比較することで、ピッキングが作業者Uに正しく行われたか否かを判定し、ピッキングが作業者Uに正しく行われていない場合にその旨を通知している。このため、誤ってピッキングが行われた荷物を特定することが容易にできる。 According to the automated warehouse system 1A according to the modified example 2, for the group that has been restocked, the number of packages recognized by image processing is compared with the planned number of packages to be restocked calculated from the package data and the delivery instruction. , it is determined whether or not the picking was correctly performed by the worker U, and if the picking was not correctly performed by the worker U, the fact is notified. Therefore, it is possible to easily identify a package that has been erroneously picked.

(変形例3)
変形例3に係る自動倉庫システムについて説明する。
(Modification 3)
An automated warehouse system according to Modification 3 will be described.

上記実施の形態に係る自動倉庫システム1では、認識装置310は、画像中のバーコードなどの光学読み取り用コードを認識する画像認識処理を行うとしたが、これに限らずに、画像認識処理として画像中の文字列を認識するOCRを行う構成としてもよい。 In the automated warehouse system 1 according to the above embodiment, the recognition device 310 performs image recognition processing for recognizing an optical reading code such as a barcode in an image. The configuration may be such that OCR is performed to recognize character strings in an image.

図13は、変形例3に係る撮像装置および撮像装置の撮像対象について説明するための概略図である。図14は、変形例3に係る撮像装置に撮像されることにより得られた画像の一例を示す図である。 13A and 13B are schematic diagrams for explaining an imaging device and an imaging target of the imaging device according to Modification 3. FIG. 14A and 14B are diagrams illustrating an example of an image captured by an imaging device according to Modification 3. FIG.

図13に示すように、この場合、入庫コンベア121は、1個単位で荷物20Aの搬送を行う。このため、撮像装置200は、複数の荷物20Aのそれぞれについて、当該荷物20Aを撮像する。これにより、図14に示すように、撮像装置200では、荷物20Aの側面に配置されている、ラベル21、商品名22、製造業者23、賞味期限24およびバーコード25が含まれる画像202が得られる。なお、荷物20Aには、ラベル21またはバーコード25が含まれていなくてもよく、商品名22、製造業者23および賞味期限24のいずれかが含まれていればよい。 As shown in FIG. 13, in this case, the warehousing conveyor 121 conveys the packages 20A in units of one. Therefore, the imaging device 200 captures an image of each of the packages 20A. As a result, as shown in FIG. 14, the imaging device 200 obtains an image 202 including the label 21, the product name 22, the manufacturer 23, the expiration date 24, and the bar code 25 arranged on the side of the package 20A. be done. Note that the package 20A may not include the label 21 or the bar code 25, and may include any one of the product name 22, the manufacturer 23, and the expiration date 24. FIG.

認識装置310は、撮像装置200により得られた画像202に対してOCRを含む画像認識処理を行う。これにより、認識装置310は、荷物ID、商品名、製造業者、および賞味期限を認識する。認識装置310は、具体的には、ラベル21を認識することで、荷物IDを認識する。なお、認識装置310は、荷物20Aの側面に配置されているバーコードを認識することで、荷物IDを認識してもよい。また、認識装置310は、荷物20Aの側面の商品名22、製造業者23および賞味期限24に対してOCRを行うことで、それぞれ、製造業者、商品名および賞味期限を認識する。これにより、認識装置310は、画像202から、当該画像202に含まれる荷物について、荷物ID、商品名、製造業者、および賞味期限を認識し、これらを関連付けることで図15に示されるような荷物データを生成する。なお、認識装置310は、ラベル21またはバーコードを認識せずに、OCRを行うことで、製造業者、商品名および賞味期限を認識し、荷物データを生成してもよい。なお、図15は、変形例3に係る認識装置により生成される荷物データの一例を示す図である。 The recognition device 310 performs image recognition processing including OCR on the image 202 obtained by the imaging device 200 . Thereby, the recognition device 310 recognizes the parcel ID, product name, manufacturer, and expiration date. Specifically, the recognition device 310 recognizes the package ID by recognizing the label 21 . Note that the recognition device 310 may recognize the parcel ID by recognizing a bar code arranged on the side of the parcel 20A. Further, the recognition device 310 performs OCR on the product name 22, the manufacturer 23, and the expiration date 24 on the side of the package 20A, thereby recognizing the manufacturer, the product name, and the expiration date, respectively. As a result, the recognition device 310 recognizes, from the image 202, the package ID, product name, manufacturer, and best-before date of the package included in the image 202, and associates them to create packages as shown in FIG. Generate data. Note that the recognition device 310 may recognize the manufacturer, product name, and best-before date by performing OCR without recognizing the label 21 or barcode, and generate package data. Note that FIG. 15 is a diagram showing an example of parcel data generated by the recognition device according to Modification 3. As shown in FIG.

図15に示すように、荷物データは、画像P11から認識された荷物20Aのラベル21が示す荷物IDが「B11」であり、画像P11から認識された商品名、製造業者および賞味期限がそれぞれ「商品a11」、「メーカA」および「2018/08」であることを示している。つまり、認識装置310は、画像P11を画像認識処理することで、荷物ID「B11」、商品名「商品a11」、製造業者「メーカA」および賞味期限「2018/08」の荷物20Aを認識したことが荷物データによって示されている。また、実施の形態と同様に、荷物データには、さらに、画像毎、つまり、荷物毎に、ステータスを示すステータス情報が付加されていてもよい。 As shown in FIG. 15, in the parcel data, the parcel ID indicated by the label 21 of the parcel 20A recognized from the image P11 is "B11", and the product name, manufacturer and expiration date recognized from the image P11 are respectively " Product a11”, “Manufacturer A”, and “2018/08”. That is, the recognition device 310 recognizes the package 20A with the package ID "B11", the product name "product a11", the manufacturer "manufacturer A", and the expiration date "2018/08" by performing image recognition processing on the image P11. This is shown by the parcel data. Also, as in the embodiment, status information indicating a status may be added to the parcel data for each image, that is, for each parcel.

図16は、変形例3に係る表示装置に表示されるUIの一例を示す図である。 16 is a diagram illustrating an example of a UI displayed on a display device according to Modification 3. FIG.

図16に示すように、UI441Aは、荷物データ442a~442cと、画像443Aとを含む。UI441Aは、さらに、操作ボタン444、および、メッセージ445Aを含んでいてもよい。荷物データ442a~442cは、それぞれ、図15に示した荷物データのうちの荷物ID「B11」に対応付けられている商品名、製造業者および賞味期限である。荷物データ442a~442cのそれぞれは、入力ボックスとなっており、作業者が変更可能となっている。つまり、荷物データ442aの「商品a11」、荷物データ442bの「メーカA」および荷物データ442cの「2018/08」は、入力受付部430が受け付けた作業者からの入力に応じて変更されうる。なお、UI441Aには、荷物データとして、荷物IDが含まれていてもよい。画像443Aは、荷物データにおいて荷物ID「B11」と対応付けられている画像P11である。 As shown in FIG. 16, UI 441A includes package data 442a-442c and image 443A. UI 441A may further include operation buttons 444 and message 445A. Package data 442a to 442c are the product name, manufacturer, and expiration date associated with package ID "B11" in the package data shown in FIG. 15, respectively. Each of the package data 442a to 442c is an input box that can be changed by the operator. In other words, the “product a11” of the package data 442a, the “manufacturer A” of the package data 442b, and the “2018/08” of the package data 442c can be changed according to the input received by the input receiving unit 430 from the worker. In addition, the package ID may be included in the UI 441A as the package data. Image 443A is image P11 associated with package ID "B11" in the package data.

操作ボタン444は、実施の形態のUI441での操作ボタン444と同じ「次へボタン」であり、マウスなどのポインティングデバイスでクリックされることで、荷物データ442a~442cの入力ボックスに入力されている文字列が確定される。これにより、作業者は、画像443A中の荷物20Aの商品名22、製造業者23、賞味期限24と、荷物データ442a~442c中の文字列とが一致していれば、当該文字列を管理すべき荷物20Aの荷物データとして確定させる。反対に、作業者は、画像443A中の荷物20Aの商品名22、製造業者23、賞味期限24と、荷物データ442a~442c中の文字列とが一致していなければ、正しい文字列を荷物データ442a~442cの入力ボックスに入力し、操作ボタン444を押すことで入力した文字列を管理すべき荷物20Aの荷物データとして確定させる。例えば、図16では、画像443A中の商品名22および製造業者23と、荷物データ442a、442b中の文字列とが一致しているが、画像443A中の賞味期限24と、荷物データ442c中の文字列とが一致していないため、作業者は、荷物20Aの正しい賞味期限24である「2018/09」を荷物データ442cの入力ボックスに入力し、操作ボタン444で確定させることとなる。これにより、荷物ID「B11」に対応付けられている賞味期限は、「2018/08」から「2018/09」に変更される。 The operation button 444 is the same "next button" as the operation button 444 in the UI 441 of the embodiment, and by clicking with a pointing device such as a mouse, input is made to the input boxes of the package data 442a to 442c. String is fixed. As a result, if the product name 22, manufacturer 23, and expiration date 24 of the package 20A in the image 443A match the character strings in the package data 442a to 442c, the worker can manage the character strings. It is determined as the parcel data of the parcel 20A to be delivered. Conversely, if the product name 22, manufacturer 23, and best-before date 24 of the package 20A in the image 443A do not match the character strings in the package data 442a to 442c, the worker will insert the correct character strings into the package data. By inputting in the input boxes 442a to 442c and pressing the operation button 444, the input character string is confirmed as the parcel data of the parcel 20A to be managed. For example, in FIG. 16, the product name 22 and manufacturer 23 in the image 443A match the character strings in the package data 442a and 442b, but the expiration date 24 in the image 443A and the package data 442c Since the character string does not match the character string, the worker enters "2018/09", which is the correct expiration date 24 of the package 20A, into the input box of the package data 442c and confirms it with the operation button 444. As a result, the expiration date associated with the parcel ID "B11" is changed from "2018/08" to "2018/09".

そして、コントローラ300は、入力データを受信した場合、入力データが示す入力に応じて荷物データを更新し、更新後の荷物データを用いて荷物を管理する。以降の処理は、実施の形態と同様であるので詳細な説明を省略する。 Then, when the input data is received, the controller 300 updates the package data according to the input indicated by the input data, and manages the package using the updated package data. Subsequent processing is the same as that of the embodiment, so detailed description is omitted.

このように、認識装置310がOCRを実行することで荷物20Aの側面に含まれる文字列を認識することにより得られた荷物データであっても、表示装置400を用いて作業者が確認作業することにより、正しい文字列に確定させることができるため、自動倉庫に入庫する荷物の認識ミスを効果的に低減することができる。 In this way, even if the package data is obtained by recognizing the character strings included in the side surface of the package 20A through the OCR performed by the recognition device 310, the worker can check the package data using the display device 400. As a result, since the correct character string can be determined, it is possible to effectively reduce misrecognition of packages to be stored in the automated warehouse.

なお、入庫コンベア121は、1個単位で荷物20Aの搬送を行うとしたが、パレット単位で荷物の搬送を行ってもよい。この場合、撮像装置200は、パレット単位で撮像し、認識装置310は、自動倉庫にパレットが入庫された後に、撮像装置200によりえら得た画像に対してOCRを含む画像処理を行う。この場合、認識装置310は、パレット上の複数の荷物のそれぞれに記載されている文字に対してOCRを行ってもよいし、パレットに記載されている文字に対してOCRを行ってもよい。 Although the warehousing conveyor 121 conveys the articles 20A in units of one, the articles may be conveyed in units of pallets. In this case, the imaging device 200 takes an image in units of pallet, and the recognition device 310 performs image processing including OCR on the image obtained by the imaging device 200 after the pallet is stored in the automated warehouse. In this case, the recognition device 310 may perform OCR on the characters written on each of the packages on the pallet, or may perform OCR on the characters written on the pallet.

(変形例4)
変形例4に係る自動倉庫システムについて説明する。
(Modification 4)
An automated warehouse system according to Modification 4 will be described.

図17は、変形例4に係る自動倉庫システムの表示装置に送信する荷物データおよび画像について説明するための図である。 17A and 17B are diagrams for explaining parcel data and images to be transmitted to the display device of the automated warehouse system according to Modification 4. FIG.

変形例4に係る自動倉庫システムでは、図17に示すように変形例3に係る自動倉庫システム1において、さらに、コントローラ300が、撮像装置200が撮像することにより得られた複数の画像を所定の条件に基づいて並べ替えた順序で表示装置400に表示させる。具体的には、コントローラ300は、例えば、所定の条件としての、製造業者名、商品名などの共通の項目を有するデータを並べ替えることで、複数の画像および荷物データを、商品名別または製造業者別で一括または連続して表示させる。これにより、表示装置400には、商品名または製造業者名に関係なくバラバラに撮像された複数の画像、または、バラバラに認識された荷物データを、同じ商品名または同じ製造業者毎に連続して表示されることができる。つまり、作業者は、所定の条件で類似する荷物の画像を連続して確認することができるため、確認作業のミスを減少させることができ、また、確認作業を短時間で完了させることができる。 In the automated warehouse system according to Modified Example 4, in the automated warehouse system 1 according to Modified Example 3, as shown in FIG. They are displayed on the display device 400 in the sorted order based on the conditions. Specifically, for example, the controller 300 rearranges data having common items such as manufacturer name and product name as predetermined conditions, thereby sorting a plurality of images and parcel data by product name or by manufacturer. It is displayed collectively or continuously for each trader. As a result, the display device 400 displays a plurality of separately captured images regardless of the product name or manufacturer name, or separately recognized parcel data for each of the same product name or the same manufacturer. can be displayed. In other words, since the worker can continuously check images of similar packages under predetermined conditions, mistakes in checking work can be reduced, and the checking work can be completed in a short time. .

(変形例5)
変形例5に係る自動倉庫システムについて説明する。
(Modification 5)
An automated warehouse system according to modification 5 will be described.

実施の形態に係る自動倉庫システム1は、1台の表示装置400を備える構成であるとしたが、これに限らずに、複数の表示装置を備える構成としてもよい。 Although the automated warehouse system 1 according to the embodiment is configured to include one display device 400, the configuration is not limited to this and may be configured to include a plurality of display devices.

図18は、変形例5に係る自動倉庫システムの表示装置に送信する荷物データおよび画像について説明するための図である。 18A and 18B are diagrams for explaining parcel data and images to be transmitted to the display device of the automated warehouse system according to Modification 5. FIG.

この場合、コントローラ300は、複数の表示装置400A、400Bのそれぞれで互いに異なる荷物データおよび画像を表示させる。コントローラ300は、取得した荷物データを表示装置の数(本変形例では2)の分だけ分割し、分割することで得られた複数の分割荷物データをそれぞれ複数の表示装置に表示させる。つまり、コントローラ300は、表示装置400Aに表示させる荷物データおよび画像を表示装置400Bに表示させず、表示装置400Bで表示させる荷物データおよび画像を表示装置400Aに表示させない。図18に示す例では、表示装置400Aに製造業者がメーカAである荷物データを表示させ、表示装置400Bに製造業者がメーカBである荷物データを表示させる。このため、複数の作業者が分担して確認作業を行うことができ、確認作業を短時間で完了させることができる。 In this case, the controller 300 causes the plurality of display devices 400A and 400B to display different package data and images. The controller 300 divides the acquired parcel data by the number of display devices (2 in this modified example), and causes the plurality of divided parcel data obtained by the division to be displayed on the respective display devices. That is, controller 300 does not cause display device 400B to display the package data and images to be displayed on display device 400A, and does not cause display device 400A to display the package data and images to be displayed by display device 400B. In the example shown in FIG. 18, display device 400A displays package data whose manufacturer is maker A, and display device 400B displays package data whose manufacturer is maker B. In the example shown in FIG. Therefore, a plurality of workers can share the checking work, and the checking work can be completed in a short time.

なお、コントローラ300は、表示装置400Aおよび表示装置400Bに重複する荷物データおよび画像を表示させてもよい。この場合、コントローラ300は、複数の作業者の作業の重複を避けるために、表示装置400Aおよび表示装置400Bの一方で確定された荷物データおよび画像を、他方では確定作業が既に行われたことを示す態様で表示させてもよい。確定作業が既に行われたことを示す態様での表示とは、例えば、グレーアウトさせた表示、確定済みを示すメッセージと共に表示などである。 Note that the controller 300 may cause the display device 400A and the display device 400B to display overlapping package data and images. In this case, the controller 300 displays the confirmed package data and image on one of the display devices 400A and 400B, and on the other indicates that the confirmed work has already been performed, in order to avoid duplication of work by a plurality of workers. It may be displayed in the manner shown. The display in a manner indicating that the confirmation work has already been performed is, for example, a grayed-out display, a display with a message indicating that confirmation has been completed, or the like.

(その他)
以上、本発明の自動倉庫システムについて、実施の形態に基づいて説明した。しかしながら、本発明は、上記実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものも、あるいは、上記説明された複数の構成要素を組み合わせて構築される形態も、本発明の範囲内に含まれる。
(others)
The automated warehouse system of the present invention has been described above based on the embodiments. However, the present invention is not limited to the above embodiments. As long as it does not deviate from the spirit of the present invention, various modifications that a person skilled in the art can think of are applied to this embodiment, or a form constructed by combining a plurality of the above-described constituent elements is within the scope of the present invention. include.

実施の形態では、コントローラ300は、認識装置310の認識結果としての荷物データを取得するとしたが、これに限らずに、複数の荷物20にRFID(Radio Frequency Identifier)タグが付与されている場合には、RFIDリーダにより読み取られたデータ(例えば荷物の個数)を荷物データとして取得してもよい。同様に、コントローラ300は、外部の機器から得られたデータを荷物データとして取得してもよい。この場合であっても、作業者は、表示装置400を用いて荷物データと画像とを比較することで、RFIDリーダまたは外部の機器から得られた荷物データが正しい情報であるかを確認し、誤った情報であれば正しい情報に変更することができる。 In the embodiment, the controller 300 acquires package data as the recognition result of the recognition device 310, but is not limited to this. may acquire data read by an RFID reader (for example, the number of parcels) as parcel data. Similarly, the controller 300 may acquire data obtained from an external device as package data. Even in this case, the operator can use the display device 400 to compare the package data and the image to confirm whether the package data obtained from the RFID reader or the external device is correct information. Incorrect information can be changed to correct information.

実施の形態に係る表示装置400を用いた作業者の確認作業において、UI441に表示された画像443がぼけている、画像443に汚れが映っている、画像443にノイズが映っているなど画像443の品質が悪い場合、表示装置400は、作業者から画像443の品質が悪いことを示す入力を受け付けてもよい。これにより、表示装置400は、当該入力を示す情報をコントローラ300に送信し、コントローラ300は、該当する画像に対応する荷物またはグループを出庫して再入庫させ、再度、撮像装置200に当該荷物またはグループを撮像させてもよい。また、この場合、コントローラ300は、撮像装置200に不具合が発生している可能性があることを示す情報を作業者に通知してもよい。 In the confirmation work performed by the worker using the display device 400 according to the embodiment, the image 443 displayed on the UI 441 is blurred, the image 443 contains dirt, or the image 443 contains noise. If the quality of the image 443 is poor, the display device 400 may receive an input from the operator indicating that the quality of the image 443 is poor. As a result, the display device 400 transmits information indicating the input to the controller 300, and the controller 300 takes out and re-enters the package or group corresponding to the relevant image, and sends the imaging device 200 again. A group may be imaged. Also, in this case, the controller 300 may notify the operator of information indicating that the imaging device 200 may be malfunctioning.

変形例3に係る認識装置310は、異なるエンジンのOCRを実行し、第1のエンジンのOCRの結果と、第2のエンジンのOCRの結果とが一致する場合、荷物データのステータスを確定する処理を行ってもよい。これにより、作業者の確認作業を少なくすることができる。 The recognition device 310 according to Modification 3 executes OCR of different engines, and when the OCR result of the first engine and the OCR result of the second engine match, the process of determining the status of the parcel data. may be performed. As a result, confirmation work by the operator can be reduced.

変形例3に係る認識装置310は、画像202に対してOCRを実行することで、商品名、製造業者および賞味期限を認識するとしたが、これに限らずに、バーコード25などの光学読み取り用コードを認識することで当該コードに関連付けられた商品名、製造業者および賞味期限の少なくとも1つを認識してもよい。 The recognition device 310 according to Modification 3 performs OCR on the image 202 to recognize the product name, manufacturer, and expiration date. Recognizing the code may recognize at least one of the product name, manufacturer and expiration date associated with the code.

変形例3では、荷物20Aの側面に賞味期限24が含まれているとしたが、賞味期限24に限らずに製造年月日が含まれてもよい。つまり、荷物には、商品の製造に関する時期が含まれていてもよい。この場合、認識装置310は、当該時期を画像認識処理で認識することとなる。 In Modified Example 3, the expiration date 24 is included on the side of the package 20A, but the date of manufacture may be included instead of the expiration date 24. FIG. In other words, the package may include the date of manufacture of the product. In this case, the recognition device 310 recognizes the time by image recognition processing.

本発明は、自動倉庫に入庫する荷物の認識ミスを低減し、かつ、荷物を自動倉庫へ効率よく入庫させることができる自動倉庫システムなどとして有用である。 INDUSTRIAL APPLICABILITY The present invention is useful as an automated warehouse system or the like that can reduce recognition errors of packages entering an automated warehouse and efficiently store packages into the automated warehouse.

1、1A 自動倉庫システム
10 パレット
11、21 ラベル
20、20A 荷物
22 商品名
23 製造業者
24 賞味期限
25 バーコード
100 自動倉庫
110 棚
120、130 搬送装置
121 入庫コンベア
122 出庫コンベア
123 再入庫コンベア
140 ピッキングステーション
200 撮像装置
201、202 画像
300 コントローラ
310 認識装置
400、400A、400B 表示装置
410 通信部
420 表示部
430 入力受付部
441、441A、450 UI(User Interface)
442、442a、442b、442c 荷物データ
443、443A 画像
444 操作ボタン
445、445A メッセージ
446 荷物IDボタン
451 一覧
452 追加ボタン
453 削除ボタン
454 追加入力ボックス
455 OKボタン
456 キャンセルボタン
500 指示装置
510 通知部
A1 空間
1, 1A Automated Warehouse System 10 Pallet 11, 21 Label 20, 20A Package 22 Product Name 23 Manufacturer 24 Expiration Date 25 Barcode 100 Automated Warehouse 110 Shelves 120, 130 Transfer Device 121 Incoming Conveyor 122 Outgoing Conveyor 123 Re-Incoming Conveyor 140 Picking Station 200 Imaging devices 201, 202 Image 300 Controller 310 Recognition device 400, 400A, 400B Display device 410 Communication unit 420 Display unit 430 Input receiving unit 441, 441A, 450 UI (User Interface)
442, 442a, 442b, 442c Package data 443, 443A Image 444 Operation buttons 445, 445A Message 446 Package ID button 451 List 452 Add button 453 Delete button 454 Add input box 455 OK button 456 Cancel button 500 Instruction device 510 Notification unit A1 Space

Claims (7)

棚と、搬送装置とを有する自動倉庫を備えた自動倉庫システムであって、
前記自動倉庫に入庫する荷物を撮像する撮像装置と、
前記撮像装置により得られた画像を表示可能な表示装置と、
(i)前記自動倉庫への前記荷物の入庫の許可を作業者または外部の装置から得ることなく前記荷物を前記搬送装置で前記棚に格納させ、(ii)前記荷物に関する荷物データを取得し、(iii)前記荷物を前記搬送装置で前記棚に格納させている間、または、格納させた後に、取得した前記荷物データが正しいか否かの確認作業のために、前記荷物データと共に前記画像を前記表示装置に表示させるコントローラと、
前記荷物データを変更可能な入力受付部と、を備える
自動倉庫システム。
An automated warehouse system comprising an automated warehouse having shelves and a transport device,
an image pickup device that picks up an image of a package entering the automated warehouse;
a display device capable of displaying an image obtained by the imaging device;
(i) causing the transport device to store the cargo on the shelf without obtaining permission from an operator or an external device to store the cargo in the automated warehouse ; and (ii) acquiring cargo data related to the cargo. , (iii) during or after the cargo is stored on the rack by the transport device, the image is displayed together with the cargo data for confirming whether or not the acquired cargo data is correct; a controller for displaying on the display device;
an input reception unit capable of changing the parcel data.
さらに、
前記画像を取得し、取得した前記画像に対して画像認識処理を実行することで、前記画像に含まれる前記荷物に関する前記荷物データを生成する認識装置を備え、
前記コントローラは、前記荷物データを前記認識装置から取得する
請求項1に記載の自動倉庫システム。
moreover,
a recognition device that acquires the image and performs image recognition processing on the acquired image to generate the package data related to the package included in the image;
The automated warehouse system according to claim 1, wherein the controller acquires the parcel data from the recognition device.
前記コントローラは、取得した複数の前記荷物データと、前記撮像装置が撮像することにより得られた複数の前記画像とを、所定条件に基づいて並べ替えた順序で前記表示装置に表示させる
請求項1または2に記載の自動倉庫システム。
2. The controller causes the display device to display the plurality of acquired parcel data and the plurality of images obtained by imaging by the imaging device in a rearranged order based on a predetermined condition. Or the automatic warehouse system according to 2.
前記自動倉庫システムは、複数の前記表示装置を備え、
前記コントローラは、前記複数の表示装置のそれぞれで互いに異なる前記荷物データおよび前記画像を表示させる
請求項1から3のいずれか1項に記載の自動倉庫システム。
The automated warehouse system includes a plurality of the display devices,
4. The automated warehouse system according to any one of claims 1 to 3, wherein the controller causes each of the plurality of display devices to display the package data and the image that are different from each other.
複数の前記荷物は、1以上の所定の個数毎に複数のグループにグループ化されており、
前記撮像装置は、前記複数のグループのそれぞれについて、当該グループに含まれる前記所定の個数の荷物を撮像し、
前記コントローラは、前記複数のグループのそれぞれについて、当該グループに対応する前記荷物データと、当該グループが含まれる前記画像とを前記表示装置に表示させる
請求項1から4のいずれか1項に記載の自動倉庫システム。
The plurality of packages are grouped into a plurality of groups by a predetermined number of one or more,
The imaging device captures an image of the predetermined number of packages included in each of the plurality of groups,
5. The controller according to any one of claims 1 to 4, wherein for each of the plurality of groups, the controller causes the display device to display the package data corresponding to the group and the image including the group. Automated warehouse system.
棚と、搬送装置とを有する自動倉庫を備えた自動倉庫システムであって、
前記自動倉庫に入庫する荷物を撮像する撮像装置と、
前記撮像装置により得られた画像を表示可能な表示装置と、
(i)前記荷物を前記搬送装置で前記棚に格納させ、(ii)前記荷物に関する荷物データを取得し、(iii)取得した前記荷物データと共に前記画像を前記表示装置に表示させるコントローラと、
前記画像を取得し、取得した前記画像に対して画像認識処理を実行することで、前記画像に含まれる前記荷物に関する前記荷物データを生成する認識装置と、を備え、
前記コントローラは、前記荷物データを前記認識装置から取得し、
複数の前記荷物は、1以上の所定の個数毎に複数のグループにグループ化されており、
前記撮像装置は、前記複数のグループのそれぞれについて、当該グループを撮像し、
前記認識装置は、(i)前記画像認識処理を実行することで、前記画像に含まれる前記グループの前記荷物の個数を認識し、(ii)認識することにより得られた個数である認識個数を含む前記荷物データを生成し、
前記コントローラは、
さらに、前記複数のグループのそれぞれについて、当該グループとして入庫する荷物の個数である入庫個数を取得し、取得した前記入庫個数と、前記荷物データに含まれる前記認識個数とが一致するか否かを判定し、
前記入庫個数および前記認識個数が一致するグループに対応する前記荷物データおよび前記画像を前記表示装置に表示させず、
前記入庫個数および前記認識個数が一致しないグループに対応する前記荷物データおよび前記画像を前記表示装置に表示させる
自動倉庫システム。
An automated warehouse system comprising an automated warehouse having shelves and a transport device,
an image pickup device that picks up an image of a package entering the automated warehouse;
a display device capable of displaying an image obtained by the imaging device;
(i) a controller that causes the transport device to store the package on the shelf, (ii) acquires package data related to the package, and (iii) displays the image together with the acquired package data on the display device;
a recognition device that acquires the image and performs image recognition processing on the acquired image to generate the luggage data related to the luggage included in the image,
The controller acquires the parcel data from the recognition device,
The plurality of packages are grouped into a plurality of groups by a predetermined number of one or more,
The imaging device captures an image of each of the plurality of groups,
The recognition device (i) recognizes the number of packages in the group included in the image by executing the image recognition process, and (ii) recognizes the number of packages obtained by recognition. generating said package data including;
The controller is
Further, for each of the plurality of groups, the number of goods received, which is the number of goods received as the group, is acquired, and whether or not the acquired number of goods received matches the recognized number contained in the goods data. judge,
preventing the display device from displaying the parcel data and the image corresponding to the group in which the number of items received and the number of recognized items match;
An automated warehouse system that causes the display device to display the parcel data and the image corresponding to a group in which the number of goods received and the number of recognized goods do not match.
棚と、搬送装置とを有する自動倉庫を備えた自動倉庫システムであって、
前記自動倉庫に入庫する荷物を撮像する撮像装置と、
前記撮像装置により得られた画像を表示可能な表示装置と、
(i)前記荷物を前記搬送装置で前記棚に格納させ、(ii)前記荷物に関する荷物データを取得し、(iii)取得した前記荷物データと共に前記画像を前記表示装置に表示させるコントローラと、
前記画像を取得し、取得した前記画像に対して画像認識処理を実行することで、前記画像に含まれる前記荷物に関する前記荷物データを生成する認識装置と、を備え、
前記コントローラは、前記荷物データを前記認識装置から取得し、
複数の前記荷物は、1以上の所定の個数毎に複数のグループにグループ化されており、
前記搬送装置は、前記自動倉庫に格納された前記複数のグループの中から、出庫指示に応じた一のグループを出庫し、作業者によりピッキングされた後の前記一のグループを前記自動倉庫に再入庫し、
前記認識装置は、前記再入庫される前記一のグループが前記撮像装置により撮像された画像に対して前記画像認識処理を実行することで、再入庫されるときの前記一のグループの前記荷物の個数を認識し、認識することにより得られた個数である認識個数を含む前記荷物データを生成し、
前記コントローラは、さらに、ピッキングされる前の前記一のグループの前記荷物の個数から、前記出庫指示によって前記作業者にピッキングさせた前記荷物の個数を減じた個数である再入庫予定個数が、取得した前記荷物データに含まれる前記荷物の個数である前
記認識個数と一致しない場合、前記再入庫予定個数および前記認識個数が一致しないことを示す情報を通知する
自動倉庫システム。
An automated warehouse system comprising an automated warehouse having shelves and a transport device,
an image pickup device that picks up an image of a package entering the automated warehouse;
a display device capable of displaying an image obtained by the imaging device;
(i) a controller that causes the transport device to store the package on the shelf, (ii) acquires package data related to the package, and (iii) displays the image together with the acquired package data on the display device;
a recognition device that acquires the image and performs image recognition processing on the acquired image to generate the luggage data related to the luggage included in the image,
The controller acquires the parcel data from the recognition device,
The plurality of packages are grouped into a plurality of groups by a predetermined number of one or more,
The transport device issues one group according to a delivery instruction from among the plurality of groups stored in the automated warehouse, and re-stores the one group after being picked by a worker into the automated warehouse. in stock,
The recognition device executes the image recognition processing on an image of the one group to be restocked captured by the imaging device, thereby determining the number of packages in the one group when the one group is restocked. recognizing the number of items, generating the parcel data including the recognized number of items obtained by recognizing the number of items;
The controller further obtains a scheduled re-stocking quantity, which is the number of packages in the one group before picking minus the number of packages picked by the worker according to the delivery instruction. an automated warehouse system for notifying information indicating that the scheduled restocking number and the recognized number do not match when the number of packages included in the package data obtained does not match the recognized number.
JP2018138656A 2018-07-24 2018-07-24 Automated warehouse system Active JP7243066B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018138656A JP7243066B2 (en) 2018-07-24 2018-07-24 Automated warehouse system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018138656A JP7243066B2 (en) 2018-07-24 2018-07-24 Automated warehouse system

Publications (2)

Publication Number Publication Date
JP2020015576A JP2020015576A (en) 2020-01-30
JP7243066B2 true JP7243066B2 (en) 2023-03-22

Family

ID=69579498

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018138656A Active JP7243066B2 (en) 2018-07-24 2018-07-24 Automated warehouse system

Country Status (1)

Country Link
JP (1) JP7243066B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7375609B2 (en) 2020-02-26 2023-11-08 村田機械株式会社 picking system
CN111885120A (en) * 2020-07-02 2020-11-03 广东菜丁科技集团有限公司 Agricultural product information acquisition method and system based on Internet of things
KR102408933B1 (en) * 2020-09-03 2022-06-13 주식회사 에스엠코어 Automatic warehouse manage system using carmer device
WO2022269807A1 (en) * 2021-06-23 2022-12-29 株式会社Lozi Logistics management system, logistics management method, and program
JP2023031618A (en) 2021-08-25 2023-03-09 株式会社東芝 Apparatus, method and system for managing article, and program

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002211713A (en) 2001-01-15 2002-07-31 Nippon Yusoki Co Ltd Automated storage and retrieval warehouse
JP2007197122A (en) 2006-01-24 2007-08-09 Toppan Forms Co Ltd Article control system and method
JP2010241539A (en) 2009-04-03 2010-10-28 Murata Machinery Ltd Automatic warehouse
JP2014080283A (en) 2012-10-18 2014-05-08 Kanden Plant Kk Article management system and article management method

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0936197A (en) * 1995-07-19 1997-02-07 Hitachi Ltd Production management method and apparatus

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002211713A (en) 2001-01-15 2002-07-31 Nippon Yusoki Co Ltd Automated storage and retrieval warehouse
JP2007197122A (en) 2006-01-24 2007-08-09 Toppan Forms Co Ltd Article control system and method
JP2010241539A (en) 2009-04-03 2010-10-28 Murata Machinery Ltd Automatic warehouse
JP2014080283A (en) 2012-10-18 2014-05-08 Kanden Plant Kk Article management system and article management method

Also Published As

Publication number Publication date
JP2020015576A (en) 2020-01-30

Similar Documents

Publication Publication Date Title
JP7243066B2 (en) Automated warehouse system
CN110414638B (en) Three-dimensional warehouse management system and management method based on RFID
CN109255569B (en) Warehouse goods sorting method, device, server and storage medium
JP6220406B2 (en) Picking system
JP6791534B2 (en) Product management device, product management method and program
EP1818285B1 (en) Automatic warehouse
CN104574011B (en) Produce the method and apparatus and warehouse management system of order
JP6489562B1 (en) Distribution warehouse work grasping system
JP6011490B2 (en) Goods storage facility
KR20070085549A (en) Storing system
JP6679891B2 (en) Inspection processing device, inspection system, inspection processing method and program
US9754235B1 (en) System and method for authoritative item identification based on facility operations
JPWO2005110896A1 (en) Warehouse management system
KR20130082529A (en) System and method for actual inspecting stock
JP2019112231A (en) Article control system and article control module
WO2022222801A1 (en) Warehousing management method and apparatus, warehousing robot, warehousing system, and medium
JP6450576B2 (en) Book checking device, book checking method, and program for book storage management system
JP5432861B2 (en) Delivery storage navigation system, method and program thereof
CN114626780A (en) Warehouse-out operation method, electronic equipment, medium and product
JP6156049B2 (en) Image management system
JP4744932B2 (en) Article collection apparatus and method
CN215477503U (en) Sorting device and warehousing system
TW201617983A (en) Distribution center management method and system
US11030541B1 (en) Proactive resolution of event information
CN115676194A (en) Cargo processing method and device, robot, sorting device and warehousing system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210423

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221014

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230207

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230220

R150 Certificate of patent or registration of utility model

Ref document number: 7243066

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150