JP6656328B1 - Work support device - Google Patents

Work support device Download PDF

Info

Publication number
JP6656328B1
JP6656328B1 JP2018168439A JP2018168439A JP6656328B1 JP 6656328 B1 JP6656328 B1 JP 6656328B1 JP 2018168439 A JP2018168439 A JP 2018168439A JP 2018168439 A JP2018168439 A JP 2018168439A JP 6656328 B1 JP6656328 B1 JP 6656328B1
Authority
JP
Japan
Prior art keywords
box
shelf
article
sensor
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018168439A
Other languages
Japanese (ja)
Other versions
JP2020040767A (en
Inventor
吉川 孝道
孝道 吉川
飯田 哲也
哲也 飯田
江川 孝義
孝義 江川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aioi Systems Co Ltd
Original Assignee
Aioi Systems Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aioi Systems Co Ltd filed Critical Aioi Systems Co Ltd
Priority to JP2018168439A priority Critical patent/JP6656328B1/en
Priority to EP19191289.8A priority patent/EP3621000A1/en
Priority to CN201910812657.0A priority patent/CN110889317B/en
Application granted granted Critical
Publication of JP6656328B1 publication Critical patent/JP6656328B1/en
Publication of JP2020040767A publication Critical patent/JP2020040767A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders

Abstract

【課題】作業の効率化を図る。【解決手段】作業支援装置1は、カメラ30と、演算装置61と、プロジェクタ20とを備える。カメラ30は、複数の箱50が置かれた物品棚10の撮像画像を取得する。演算装置61は、撮像画像に基づき、複数の箱のうちの第1箱50−1の位置を特定し、第1箱に対応した表示領域100−1の位置を決定する。プロジェクタ20は、表示領域100に作業者への指示を表示する。また、第1箱50−1には、マーカー51が付されてもよい。この場合、演算装置61は、撮像画像におけるマーカー51の位置に基づき、第1箱50−1の位置を特定してもよい。【選択図】図1PROBLEM TO BE SOLVED: To improve work efficiency. A work support device 1 includes a camera 30, a calculation device 61, and a projector 20. The camera 30 acquires a captured image of the article shelf 10 on which the plurality of boxes 50 are placed. The arithmetic device 61 specifies the position of the first box 50-1 of the plurality of boxes based on the captured image, and determines the position of the display area 100-1 corresponding to the first box. The projector 20 displays an instruction to the worker in the display area 100. A marker 51 may be attached to the first box 50-1. In this case, the arithmetic device 61 may specify the position of the first box 50-1 based on the position of the marker 51 in the captured image. [Selection diagram] Fig. 1

Description

本発明は、作業支援装置に関するものである。   The present invention relates to a work support device.

作業支援装置は、棚に並べられている様々な物品(例えば、部品や商品)のいずれを取るべきかを作業者に指示する装置であり、生産ラインや物流拠点において広く使用される。一例としては、作業支援装置は、生産ラインにおいて、部品庫(典型的には、部品棚)に蓄積されている様々な部品のうち、対象の製品に組み付けるべき部品及びその個数を作業者に指示するために用いられる。他の例としては、作業支援装置は、物流拠点において、商品庫(典型的には、商品棚)にストックされている様々な商品のうち、対象のシッパー(コンテナ)に収納すべき商品及びその個数を作業者に指示するために用いられる。   The work support device is a device for instructing an operator on which of various articles (for example, parts or goods) to be taken on a shelf, and is widely used in a production line or a distribution base. As an example, the work support apparatus instructs a worker on a production line, out of various parts accumulated in a parts warehouse (typically, a parts shelf), a part to be assembled to a target product and the number of parts to be assembled. Used to As another example, the work support device is configured such that, among the various products stocked in a merchandise store (typically, a merchandise shelf) at a distribution base, a product to be stored in a target shipper (container) and a product to be stored in the target shipper (container). It is used to indicate the number to the operator.

作業支援装置は、作業者に指示を与えるための表示デバイスを備えている。作業支援装置の表示デバイスとしては、最も伝統的には、ランプやセグメント表示器が用いられてきたが、近年では、プロジェクタを用いることが提案されている。例えば、橋本 明解 他、「商品物流における仕分け作業支援への複合現実感技術の応用(2)」、第19回日本バーチャルリアリティ学会大会論文集、2014年9月、pp.553−556(非特許文献1)は、仕分け作業の支援におけるウェアラブル型のプロジェクタと据置型のプロジェクタのメリットとデメリットについて議論している。   The work support device includes a display device for giving an instruction to a worker. Most traditionally, a lamp or a segment display has been used as a display device of the work support apparatus, but in recent years, it has been proposed to use a projector. For example, Akira Hashimoto et al., "Application of Mixed Reality Technology to Sorting Support in Merchandise Distribution (2)", Proceedings of the 19th Annual Meeting of the Virtual Reality Society of Japan, September 2014, pp. 553-556 (Non-Patent Document 1) discusses advantages and disadvantages of a wearable projector and a stationary projector in support of a sorting operation.

作業支援装置に求められる要求の一つは、作業ミスの防止である。作業ミスの防止のために、様々な機構が提案されている。例えば、特開2005−1781号公報(特許文献1)は、各シッパーに収容された商品の重量を計測し、計測された重量に基づいてシッパーに収納された物品が正しいかを判断するピッキング支援装置を開示している。また、特開2006−321590号公報(特許文献2)は、商品棚の間口において作業者の手が通過する位置を、赤外線を用いて検出し、検出した位置が、不適正である場合に警告を発生する構成のピッキング支援装置を開示している。   One of the requirements for a work support device is to prevent work mistakes. Various mechanisms have been proposed to prevent operation errors. For example, Japanese Patent Laying-Open No. 2005-1781 (Patent Document 1) discloses a picking support that measures the weight of a product stored in each shipper and determines whether an article stored in the shipper is correct based on the measured weight. An apparatus is disclosed. Japanese Patent Application Laid-Open No. 2006-321590 (Patent Literature 2) discloses that a position where a worker's hand passes in the frontage of a product shelf is detected using infrared rays, and a warning is issued when the detected position is inappropriate. Discloses a picking support device configured to generate the following.

特開2005−1781号公報JP 2005-1781A 特開2006−321590号公報JP 2006-321590 A

橋本 明解 他、「商品物流における仕分け作業支援への複合現実感技術の応用(2)」、第19回日本バーチャルリアリティ学会大会論文集、2014年9月、pp.553−556Akira Hashimoto et al., "Application of Mixed Reality Technology to Sorting Support in Merchandise Distribution (2)", Proceedings of the 19th Annual Meeting of the Virtual Reality Society of Japan, September 2014, pp. 553-556

作業支援装置を用いて作業を開始する際には、物品の位置に応じてランプやセグメント表示機の位置、または、プロジェクタによる表示位置を設定する必要がある。このような状況を鑑み、本発明は、作業を効率的に行うための作業支援装置を提供することを目的とする。他の目的については、以下の記載及び実施の形態の説明から理解することができる。   When starting work using the work support device, it is necessary to set the position of a lamp or a segment display or the display position of a projector according to the position of an article. In view of such a situation, an object of the present invention is to provide a work support device for performing work efficiently. Other objects can be understood from the following description and the description of the embodiments.

以下に、発明を実施するための形態で使用される番号・符号を用いて、課題を解決するための手段を説明する。これらの番号・符号は、特許請求の範囲の記載と発明を実施するための形態との対応関係の一例を示すために、参考として、括弧付きで付加されたものである。よって、括弧付きの記載により、特許請求の範囲は、限定的に解釈されるべきではない。   Hereinafter, means for solving the problems will be described using numbers and reference numerals used in the embodiments for carrying out the invention. These numbers and symbols are added in parentheses for reference in order to show an example of the correspondence between the description of the claims and the embodiment for carrying out the invention. Therefore, the appended claims should not be construed as limiting the scope of the appended claims.

上記目的を達成するため、本発明の第1の態様に係る作業支援装置(1)は、カメラ(30)と、演算装置(61)と、プロジェクタ(20)とを備える。カメラ(30)は、複数の箱(50)が置かれた物品棚(10)の撮像画像を取得する。演算装置(61)は、撮像画像に基づき、複数の箱のうちの第1箱(50−1)の位置を特定し、第1箱に対応した表示領域(100−1)の位置を決定する。プロジェクタ(20)は、表示領域(100)に作業者への指示を表示する。   In order to achieve the above object, a work support device (1) according to a first aspect of the present invention includes a camera (30), an arithmetic device (61), and a projector (20). The camera (30) acquires a captured image of the article shelf (10) in which a plurality of boxes (50) are placed. The arithmetic unit (61) specifies the position of the first box (50-1) of the plurality of boxes based on the captured image, and determines the position of the display area (100-1) corresponding to the first box. . The projector (20) displays an instruction for an operator in a display area (100).

本発明の第2の態様に係る作業支援装置(1)は、センサ(40)と、演算装置(61)とを備える。センサ(40)は、物品を収容する物品棚に設定された監視範囲内の物体の位置を検知する。演算装置(61)は、第1モードでは、センサの検知結果に基づき、ピッキングにおける作業ミスを検知する。第2モードでは、センサの検知結果に基づき、補充を要求された物品を特定する。   A work support device (1) according to a second aspect of the present invention includes a sensor (40) and a calculation device (61). The sensor (40) detects a position of an object within a monitoring range set on an article shelf that stores articles. In the first mode, the arithmetic unit (61) detects a work error in picking based on the detection result of the sensor. In the second mode, the article requested to be replenished is specified based on the detection result of the sensor.

本発明に係る作業支援装置によれば、作業の効率化を図ることができる。   According to the work support device of the present invention, work efficiency can be improved.

本実施の形態に係る作業支援装置の構成を示す正面図である。It is a front view showing the composition of the work support device concerning this embodiment. 本実施の形態に係る作業支援装置の構成を示す右側面図である。It is a right side view showing the composition of the work support device concerning this embodiment. 図1の箱の斜視図である。It is a perspective view of the box of FIG. 図1のカメラが撮像した画像の一例である。2 is an example of an image captured by the camera in FIG. 1. 本実施の形態に係る作業支援装置のシステム構成を示す図である。It is a figure showing the system configuration of the work support device concerning this embodiment. 図5の演算装置に登録されている箱情報の一例である。It is an example of box information registered in the arithmetic unit of FIG. 箱の位置を演算装置に設定するときの処理を示すフロー図である。It is a flowchart which shows the process at the time of setting the position of a box to an arithmetic unit. 補充すべき物品を報知するときの処理を示すフロー図である。It is a flowchart which shows the process at the time of alerting | reporting the article which should be replenished. 本実施の形態に係る作業支援装置の構成の一例を示す右側面図である。It is a right side view showing an example of the composition of the work support device concerning this embodiment.

図1に示すように、本実施の形態に係る作業支援装置1は、物品棚10と、プロジェクタ20と、カメラ30と、センサ40とを備える。物品棚10は、床Fの上に設置され、上下方向に並べて配置された複数の棚11(第1棚11−1、第2棚11−2、第3棚11−3、第4棚11−4、第5棚11−5)を備える。理解を容易にするため、直交座標系を用いて説明する。棚11の前端の延びる方向をx方向とする。x方向に直交し、床Fに平行な方向をy方向とする。物品棚10の上下方向をz方向とする。なお、物品棚10の前側とは、図2に示すように、人が作業している方向を指す。 As shown in FIG. 1, the work support device 1 according to the present embodiment includes an article shelf 10, a projector 20, a camera 30, and a sensor 40. The article shelf 10 is installed on the floor F and includes a plurality of shelves 11 (first shelf 11-1, second shelf 11-2, third shelf 11-3, fourth shelf 11-3) arranged vertically. -4, fifth shelf 11-5). In order to facilitate understanding, description will be made using a rectangular coordinate system. The direction of extension of the front end of the shelf 11 and x 1 direction. orthogonal to the x 1 direction and a direction parallel to the floor F and y 1 direction. The vertical direction of the article shelf 10 and z 1 direction. Note that the front side of the article shelf 10 refers to the direction in which a person is working, as shown in FIG.

下から3段の棚11(第1棚11−1、第2棚11−2、第3棚11−3)には、物品を収容する複数の箱50が置かれている。箱50が置かれた棚11には、箱50の落下を防止するため、バー12が設けられている。また、箱50を、バー12に接するように置くことで、各棚11において、直線状に配置することができる。   A plurality of boxes 50 for storing articles are placed on the three shelves 11 from the bottom (first shelf 11-1, second shelf 11-2, and third shelf 11-3). A bar 12 is provided on the shelf 11 on which the box 50 is placed in order to prevent the box 50 from dropping. In addition, by arranging the box 50 so as to be in contact with the bar 12, the box 50 can be linearly arranged on each shelf 11.

また、箱50が置かれた棚11に隣接する上方の棚11には、前端、つまり−y方向の端に、x方向に延びるスクリーン13が設けられている。具体的には、第1スクリーン13−1が、箱50が置かれた第1棚11−1に隣接する上方の第2棚11−2の−y方向の端に設けられている。同様に、第2スクリーン13−2が第3棚11−3の−y方向の端に、第3スクリーン13−3が第4棚11−4の−y方向の端に、それぞれ設けられている。 Above the rack 11 adjacent to the rack 11 of the box 50 is placed, the front end, in other words -y 1 direction of the end, the screen 13 extending in the x 1 direction. More specifically, the first screen 13-1 is provided in the -y 1 direction of the end of the second shelf 11-2 upward adjacent to the first shelf 11-1 the box 50 is placed. Similarly, the second screen 13-2 -y 1 direction of the end of the third shelf 11-3, third screen 13-3 in the -y 1 direction of the end of the fourth shelf 11-4, respectively provided ing.

また、箱50が置かれた棚11(第1棚11−1、第2棚11−2、第3棚11−3)の各々は、図2に示すように、y方向に対して、傾いて配置されている。具体的には、z方向において、前端(−y方向の端)よりも、後端(+y方向の端)が上方に位置するように、箱50が置かれた棚11は配置されている。このため、作業者Wは、箱50から物品を取り出しやすい。 Further, the box 50 is placed shelves 11 (first shelf 11-1, second shelf 11-2, third shelf 11-3) each, as shown in FIG. 2, with respect to y 1 direction, It is arranged at an angle. Specifically, in the z 1 direction, the front end than the (-y 1 direction end), a shelf 11 that the rear end (+ y 1 direction end) is positioned above the box 50 is placed is arranged ing. Therefore, the worker W can easily take out the article from the box 50.

各棚11の前端は、z方向から見たときに、最下段の第1棚11−1から順番に、+y方向に並ぶように配置されている。具体的には、第2棚11−2の前端は、第1棚11−1の前端よりも+y方向に配置されている。第3棚11−3の前端は、第2棚11−2の前端よりも+y方向に配置されている。第4棚11−4の前端は、第3棚11−3の前端よりも+y方向に配置されている。第5棚11−5の前端は、第4棚11−4の前端よりも+y方向に配置されている。 The front end of each shelf 11, when viewed from the z 1 direction, are arranged in order from the first stage 11-1 of the bottom, so as to be aligned in + y 1 direction. Specifically, the front end of the second shelf 11-2 is arranged in + y 1 direction from the front end of the first shelf 11-1. The front end of the third shelf 11-3 is arranged in + y 1 direction from the front end of the second shelf 11-2. Front end of the fourth shelf 11-4 is arranged in + y 1 direction from the front end of the third shelf 11-3. Front end of the 5 shelf 11-5 is arranged in + y 1 direction from the front end of the fourth shelf 11-4.

また、最上段の第5棚11−5には、図2に示すように、プロジェクタ20が設置されている。プロジェクタ20は、アーム14を介して、第5棚11−5に支持されている。アーム14は、第5棚11−5の前方に突出して設けられている。言い換えると、プロジェクタ20は、第5棚11−5の前端より−y方向に設置されている。このため、プロジェクタ20は、スクリーン13に投影し、作業者Wへの指示を表示する。 Further, a projector 20 is installed on the fifth shelf 11-5 at the top as shown in FIG. The projector 20 is supported on the fifth shelf 11-5 via the arm 14. The arm 14 is provided to protrude forward of the fifth shelf 11-5. In other words, the projector 20 is installed in the -y 1 direction from the front end of the fifth shelf 11-5. Therefore, the projector 20 projects the image on the screen 13 and displays an instruction to the worker W.

作業者Wが箱50に収容されている物品(例えば、部品や商品)を取り出すときに、作業支援装置1は、スクリーン13に作業者Wへの指示(例えば、ピッキングすべき物品の指定)を表示する。作業者Wは、スクリーン13の表示に基づき、指定された物品を箱50から取出す。例えば、第1箱50−1に収納された物品を取り出すことを作業者Wに指示するとする。ここで、第1箱50−1は、第3棚11−3の−x方向の端に置かれているとする。この場合、作業支援装置1は、スクリーン13の領域のうち、第1箱50−1の上方にある第1表示領域100−1に、第1箱50−1に収容された物品と、取り出す数量とを表示する。作業者Wは、表示領域100の中から表示されている第1表示領域100−1を確認し、第1表示領域100−1の下方にある第1箱50−1に収容されている物品を取り出す。このように、作業者Wは、作業支援装置1が表示する表示領域100を確認することで、作業ミスを低減することができる。 When the worker W takes out an article (for example, a part or a product) stored in the box 50, the work support apparatus 1 displays an instruction to the worker W on the screen 13 (for example, designation of an article to be picked). indicate. The worker W takes out the designated article from the box 50 based on the display on the screen 13. For example, it is assumed that the worker W is instructed to take out the articles stored in the first box 50-1. The first box 50-1 to be laid in the -x 1 direction of the end of the third shelf 11-3. In this case, the work support device 1 displays, in the first display area 100-1 above the first box 50-1 in the area of the screen 13, the articles stored in the first box 50-1 and the number of pieces to be taken out. And are displayed. The worker W checks the first display area 100-1 displayed in the display area 100, and removes the articles stored in the first box 50-1 below the first display area 100-1. Take out. As described above, the worker W can reduce a work error by checking the display area 100 displayed by the work support device 1.

また、最上段の第5棚11−5には、センサ40が設置されている。センサ40は、図2に示すように、物品棚10の前側に設定された監視範囲41において、手などの物体の位置を検知する。具体的には、箱50が置かれている棚11と、これに隣接する上方の棚11との間で形成される空間の前側に監視範囲41が設定されている。また、箱50と、箱50に隣接する上方の棚11との間で形成される空間の前側に監視範囲41が設定されてもよい。   A sensor 40 is provided on the fifth shelf 11-5 at the top. As shown in FIG. 2, the sensor 40 detects the position of an object such as a hand in a monitoring range 41 set in front of the article shelf 10. Specifically, the monitoring range 41 is set in front of a space formed between the shelf 11 on which the box 50 is placed and the upper shelf 11 adjacent thereto. Further, the monitoring range 41 may be set in front of a space formed between the box 50 and the upper shelf 11 adjacent to the box 50.

作業者Wは、スクリーン13に表示された指示に従い、第1箱50−1に収納されている物品を取り出す。このとき、作業者Wの手は、監視範囲41を通過する。この結果、センサ40は、監視範囲41を通過する作業者Wの手の位置を検知する。この検知結果に基づき、作業支援装置1は、作業者Wが指定された第1箱50−1から物品を取り出しているかを判定することができる。作業支援装置1は、作業者Wの手の位置が第1箱50−1と異なる位置であると判定すると、作業者Wに報知する。つまり、作業支援装置1は、作業者Wのピッキングにおける作業ミスを検知すると、作業者Wに報知する。例えば、プロジェクタ20がスクリーン13に赤色を点滅表示することで、作業者Wに報知する。物品棚10はスピーカーを備え、音声により作業者Wに報知してもよい。   The worker W takes out the articles stored in the first box 50-1 according to the instructions displayed on the screen 13. At this time, the hand of the worker W passes through the monitoring range 41. As a result, the sensor 40 detects the position of the hand of the worker W passing through the monitoring range 41. Based on the detection result, the work support apparatus 1 can determine whether the worker W has taken out the article from the designated first box 50-1. When the work support device 1 determines that the position of the hand of the worker W is different from the position of the first box 50-1, it notifies the worker W. That is, when the work support device 1 detects a work mistake in picking by the worker W, the work support device 1 notifies the worker W. For example, the projector 20 notifies the worker W by blinking red on the screen 13. The article shelf 10 may include a speaker and notify the worker W by voice.

さらに、作業者Wは、第1箱50−1から指定された数量の物品を取り出した後、第1表示領域100−1を触る。センサ40は、第1表示領域100−1に対応する監視範囲41において、作業者Wの手を検知する。この結果、作業支援装置1は、第1箱50−1からの取り出し作業が完了したことを判定する。   Further, the worker W takes out the designated number of articles from the first box 50-1, and then touches the first display area 100-1. The sensor 40 detects the hand of the worker W in the monitoring range 41 corresponding to the first display area 100-1. As a result, the work support device 1 determines that the removal work from the first box 50-1 has been completed.

また、最上段の第5棚11−5には、カメラ30が設置されている。カメラ30は、アーム15を介して、第5棚11−5に支持されている。アーム15も、第5棚11−5の前方に突出して設けられている。言い換えると、カメラ30も、第5棚11−5の前端より−y方向に設置されている。 A camera 30 is installed on the fifth shelf 11-5 at the top. The camera 30 is supported on the fifth shelf 11-5 via the arm 15. The arm 15 is also provided so as to protrude forward of the fifth shelf 11-5. In other words, the camera 30 are also installed -y in one direction from the front end of the fifth shelf 11-5.

カメラ30は、箱50の位置を特定するために、物品棚10の上方から各棚11を撮像する。z方向から見たときに、各棚11は、前端が最下段から順番に+y方向に並ぶように、配置されている。このため、カメラ30は、各棚11に置かれた箱50の前端を撮像することができる。また、箱50は、図3に示すように、上側の四隅の少なくとも1か所に、マーカー51が付されている。箱50は、このマーカー51が棚11の前方に配置されるように、棚11に置かれる。このため、カメラ30は、図4に示すように、各棚11に置かれた箱50のマーカー51を撮像することができる。 The camera 30 images each shelf 11 from above the article shelf 10 in order to specify the position of the box 50. when viewed from the z 1 direction, each shelf 11, as the front end is arranged in the + y 1 direction from the bottom in order, are disposed. For this reason, the camera 30 can image the front end of the box 50 placed on each shelf 11. As shown in FIG. 3, the box 50 has markers 51 at at least one of the four upper corners. The box 50 is placed on the shelf 11 such that the marker 51 is arranged in front of the shelf 11. Therefore, the camera 30 can image the marker 51 of the box 50 placed on each shelf 11 as shown in FIG.

カメラ30が撮像した撮像画像は、棚11の前端が延びる方向をx方向とし、これに直交する方向をy方向として、解析される。ここで、+y方向は、棚11の前方から後方に向かう方向とする。箱50の前端にマーカー51が付されているため、撮像画像において、同じ棚11に配置された箱50のマーカー51は、x方向に並ぶ。これにより、作業支援装置1は、棚11において、箱50が置かれているx方向の位置を、x方向の位置から特定することができる。また、各棚11の前端は、z方向、つまりカメラ30の撮像方向から見たときに、+y方向に並ぶように配置されている。このため、撮像画像において、各棚11の前端は、+y方向に並ぶ。具体的には、撮像画像において、最下段の第1棚11−1の前端よりも、+y方向に、第1棚11−1の上方に隣接する第2棚11−2の前端は位置する。第2棚11−2の前端よりも、+y方向に、第2棚11−2の上方に隣接する第3棚11−3の前端は位置する。このため、第1棚11−1に置かれている箱50よりも、第2棚11−2に置かれている箱50は、+y方向に位置する。また、第2棚11−2に置かれている箱50よりも、第3棚11−3に置かれている箱50は、+y方向に位置する。言い換えると、y方向において、最下段の第1棚11−1に置かれている箱50のマーカー51が写される領域は、2段目の第2棚11−2に置かれている箱50のマーカー51が写される領域と区別することができる。同様に、y方向において、2段目の第2棚11−2に置かれている箱50のマーカー51が写される領域は、3段目の第3棚11−3に置かれている箱50のマーカー51が写される領域と区別することができる。このようにy方向における箱50の位置、つまりマーカー51の位置に基づき、箱50が置かれている棚11を特定することができる。 Captured image by the camera 30 is imaged, the direction extending front end of the shelf 11 and x 2 direction, the direction orthogonal thereto as y 2 direction, is analyzed. Here, + y 2 direction is a direction from the front to the rear of the shelf 11. Since the marker 51 is attached to the front end of the box 50, in the captured image, the marker 51 of the box 50 arranged on the same shelf 11, arranged in x 2 direction. Thus, the work support device 1, in rack 11, the x 1 direction position the box 50 is placed can be identified from the x 2 direction position. Further, the front end of each shelf 11, z 1 direction, that is, when viewed from the imaging direction of the camera 30, are arranged side by side in + y 1 direction. Therefore, in the captured image, the front end of each shelf 11 is aligned in the + y 2 direction. Specifically, in the captured image, the front end of the first shelf 11-1 of the bottom, + y in two directions, the front end of the second shelf 11-2 adjacent above the first shelf 11-1 located . The front end of the second shelf 11-2, + y in two directions, the third front edge of the shelf 11-3 adjacent to the upper side of the second shelf 11-2 located. Therefore, than a box 50 which is located in the first stage 11-1, a box 50 which is located in the second shelf 11-2 is located in + y 2 direction. Moreover, than a box 50 which is located in the second shelf 11-2, third box is placed on a shelf 11-3 50 is located in + y 2 direction. Box In other words, y 2 directions, a region marker 51 of the box 50 which is placed on the first shelf 11-1 lowermost is photographed is being placed on the second shelf 11-2 in the second stage It can be distinguished from the area where the 50 markers 51 are captured. Similarly, in the y 2 direction, the region where the marker 51 of that box 50 placed on the second shelf 11-2 in the second stage is photographed is placed on the third shelf 11-3 in the third stage It can be distinguished from the area where the marker 51 of the box 50 is photographed. Thus the position of the box 50 in the y 2 direction, that based on the position of the marker 51, it is possible to identify the shelf 11 for the box 50 is placed.

ここで、マーカー51は、ARマーカー、QRコード(登録商標)など、撮像画像から箱50を識別するために利用される。このため、カメラ30の撮像画像に基づき、各箱50の位置を特定することができる。   Here, the marker 51 is used to identify the box 50 from the captured image, such as an AR marker and a QR code (registered trademark). Therefore, the position of each box 50 can be specified based on the image captured by the camera 30.

次に、作業支援装置1のシステム構成を説明する。作業支援装置1は、図5に示すように、管理端末60を備える。管理端末60は、作業支援装置1の動作を制御する。例えば、管理端末60は、カメラ30の撮像画像と、センサ40の検知結果とに基づき、プロジェクタ20が表示する画像を制御する。管理端末60は、演算装置61と、表示装置62と、入力装置63と、インターフェース64とを備える。   Next, a system configuration of the work support device 1 will be described. The work support device 1 includes a management terminal 60 as shown in FIG. The management terminal 60 controls the operation of the work support device 1. For example, the management terminal 60 controls an image displayed by the projector 20 based on a captured image of the camera 30 and a detection result of the sensor 40. The management terminal 60 includes an arithmetic device 61, a display device 62, an input device 63, and an interface 64.

インターフェース64は、カメラ30と、センサ40と、プロジェクタ20とに電気的に接続されている。具体的には、インターフェース64は、カメラ30が撮像した画像を示す画像情報をカメラ30から受信する。また、インターフェース64は、センサ40が検知した物体の位置を示す位置情報をセンサ40から受信する。さらに、インターフェース64は、プロジェクタ20に、表示する画像を示す表示情報を送信する。インターフェース64は、カメラ30と、センサ40と、プロジェクタ20と有線または無線で接続されている。また、作業支援装置1は、作業者Wなどに報知する出力装置70(例えば、スピーカーなど)を備えてもよい。この場合、出力装置70も同様に、インターフェース64と電気的に接続されている。   The interface 64 is electrically connected to the camera 30, the sensor 40, and the projector 20. Specifically, the interface 64 receives image information indicating an image captured by the camera 30 from the camera 30. Further, the interface 64 receives, from the sensor 40, position information indicating the position of the object detected by the sensor 40. Further, the interface 64 transmits display information indicating an image to be displayed to the projector 20. The interface 64 is connected to the camera 30, the sensor 40, and the projector 20 by wire or wirelessly. Further, the work support device 1 may include an output device 70 (for example, a speaker or the like) that notifies the worker W or the like. In this case, the output device 70 is also electrically connected to the interface 64.

演算装置61は、作業支援装置1の動作を制御するためのデータ処理を行う。例えば、演算装置61は、作業者Wが取り出すべき物品と、その数量とを指定する指示データを生成する。演算装置61は、生成した指示データに基づき、作業者Wへの指示を所望の位置に表示するための表示情報を生成し、プロジェクタ20に送信する。   The arithmetic device 61 performs data processing for controlling the operation of the work support device 1. For example, the arithmetic unit 61 generates instruction data for specifying the articles to be taken out by the worker W and the quantity thereof. The arithmetic device 61 generates display information for displaying an instruction to the worker W at a desired position based on the generated instruction data, and transmits the display information to the projector 20.

例えば、演算装置61は、センサ40の検知結果に基づき、作業者Wが指定した物品を取り出しているかを判定する。具体的には、演算装置61は、センサ40の検知した位置が、指定した箱50に対応する領域に含まれるかを判定する。演算装置61は、センサ40の検知した位置が指定した箱50に対応する領域に含まれない場合、作業ミスが発生したと判断し、赤色を点滅表示する表示情報を生成し、プロジェクタ20に送信する。また、演算装置61は、作業ミスを示す音声情報を生成し、出力装置70から警報を出力してもよい。ここで、箱50に対応する領域は、例えば、監視範囲41の中の、箱50の−y方向の領域である。また、この領域は、−x方向の端が箱50の−x方向の端であり、+x方向の端は箱50の+x方向の端であり、−z方向の端は箱50の置かれている棚11であり、+z方向の端はこれに隣接する上方の棚11でもよい。 For example, the arithmetic unit 61 determines whether the article specified by the worker W is taken out based on the detection result of the sensor 40. Specifically, the arithmetic unit 61 determines whether the position detected by the sensor 40 is included in an area corresponding to the specified box 50. When the position detected by the sensor 40 is not included in the area corresponding to the specified box 50, the arithmetic unit 61 determines that an operation error has occurred, generates display information that flashes red, and transmits the display information to the projector 20. I do. Further, the arithmetic device 61 may generate audio information indicating a work error, and output an alarm from the output device 70. Here, the region corresponding to the box 50, for example, in the monitoring range 41, a -y 1 direction of a region of the box 50. Also, this region is a -x 1 direction of the end of the -x 1 direction end box 50, + x 1 direction of the end is + x 1 direction of the end of the box 50, -z 1 direction of the end the box a rack 11 which is placed a 50, + z 1 direction of the end good even above the shelf 11 adjacent thereto.

また、演算装置61は、例えば、箱50の表示領域100に対応する領域において、センサ40が物体を検知した場合、物品の取り出しが完了したと判定する。具体的には、作業者Wは、物品の取り出しが完了すると、指定した箱50の上方にある表示領域100を触る。このため、表示領域100の−y方向の領域において、センサ40が作業者Wの手を検知する。演算装置61は、センサ40が検知した位置が、表示している表示領域100に対応する領域に含まれる場合、作業が完了したと判定する。 In addition, for example, when the sensor 40 detects an object in an area corresponding to the display area 100 of the box 50, the arithmetic device 61 determines that the removal of the article is completed. Specifically, when the removal of the article is completed, the worker W touches the display area 100 above the designated box 50. Therefore, the sensor 40 detects the hand of the worker W in the area in the −y 1 direction of the display area 100. When the position detected by the sensor 40 is included in the area corresponding to the displayed display area 100, the arithmetic device 61 determines that the work has been completed.

表示装置62は、作業者Wへの指示など、管理端末60が保有する様々なデータを表示する。また、入力装置63は、演算装置61に設定するデータなどを入力する。入力装置63は、例えば、キーボード、マウス、マイクなどが例示される。また、管理端末60は、汎用のパーソナルコンピュータなどが例示される。   The display device 62 displays various data held by the management terminal 60, such as an instruction to the worker W. The input device 63 inputs data to be set in the arithmetic device 61 and the like. The input device 63 is, for example, a keyboard, a mouse, a microphone, and the like. The management terminal 60 is, for example, a general-purpose personal computer.

(箱の位置の特定)
作業支援装置1は、カメラ30の撮像画像により、箱50の位置を特定することができる。このため、作業支援装置1は、箱50を配置した後に、カメラ30の撮像画像を解析することで、各物品が収納された箱50の位置を特定することができる。
(Identify the position of the box)
The work support apparatus 1 can specify the position of the box 50 based on the image captured by the camera 30. For this reason, after arranging the box 50, the work support apparatus 1 can identify the position of the box 50 in which each article is stored by analyzing the image captured by the camera 30.

演算装置61は、図6に示すように、箱50に付されているマーカー51と、箱50の幅、つまりx方向の長さと、箱50に収納されている物品を示す物品IDと、箱50に対応した表示領域100の範囲を関連付けた箱情報200が登録されている。この箱情報200は、表示領域100の範囲を除き、入力装置63から予め登録される。 Arithmetic unit 61, as shown in FIG. 6, a marker 51 that is attached to the box 50, the width of the box 50, i.e. the length of x 1 direction, and the article ID showing the article being housed in a box 50, Box information 200 that associates the range of the display area 100 corresponding to the box 50 is registered. The box information 200 is registered in advance from the input device 63 except for the range of the display area 100.

作業支援装置1が箱50の位置を特定するための動作を説明する。図1に示すように、スクリーン13に、箱50の位置を設定するための設定要求領域110が設けられている。作業者Wは、箱50の位置を変更した場合、設定要求領域110を触る。設定要求領域110は、表示領域100に含まれない領域である。設定要求領域110には、表示領域100と区別するための画像が表示されている。   The operation of the work support apparatus 1 for specifying the position of the box 50 will be described. As shown in FIG. 1, a setting request area 110 for setting the position of the box 50 is provided on the screen 13. When the position of the box 50 is changed, the worker W touches the setting request area 110. The setting request area 110 is an area that is not included in the display area 100. An image for distinguishing from the display area 100 is displayed in the setting request area 110.

作業者Wが設定要求領域110を触ると、センサ40は設定要求領域110の−y方向において、作業者Wの手を検知する。演算装置61は、図7に示すように、センサ40の検知結果に基づき、箱50の設定要求が入力されたと判断する(ステップS110:Yes)。具体的には、演算装置61は、センサ40が検知した位置が、設定要求領域110の−y方向である場合に、設定要求が入力されたと判断する。演算装置61は、センサ40が検知した位置が設定要求領域110に対応した空間でない場合、設定要求が入力されていないと判断する(ステップS110:No)。 When the operator W touches the setting request area 110, the sensor 40 in the -y 1 direction setting request area 110, it detects the hand of the operator W. As shown in FIG. 7, the arithmetic unit 61 determines that a setting request for the box 50 has been input based on the detection result of the sensor 40 (step S110: Yes). Specifically, the arithmetic unit 61, a position sensor 40 has detected, in the case of -y 1 direction setting request area 110, it is determined that the setting request is input. If the position detected by the sensor 40 is not a space corresponding to the setting request area 110, the arithmetic device 61 determines that a setting request has not been input (step S110: No).

演算装置61は、設定要求が入力されると、カメラ30から撮像画像を取得する(ステップS120)。例えば、演算装置61は、カメラ30に対して撮像する指令を示す撮像信号を送信する。カメラ30は、撮像信号に基づき、物品棚10を撮像し、撮像画像を演算装置61に送信する。また、カメラ30は、常時撮像してもよい。この場合、演算装置61は、設定要求が入力されたときに撮像された撮像画像を取得する。   When the setting request is input, the arithmetic device 61 acquires a captured image from the camera 30 (step S120). For example, the arithmetic unit 61 transmits an imaging signal indicating an instruction to perform imaging to the camera 30. The camera 30 captures an image of the article shelf 10 based on the image capturing signal and transmits the captured image to the arithmetic device 61. Further, the camera 30 may always take an image. In this case, the arithmetic device 61 acquires a captured image captured when the setting request is input.

カメラ30の撮像画像には、図4に示すように、各箱50に付されたマーカー51が含まれている。このため、演算装置61は、マーカー51の位置から、マーカー51が付された箱50の位置を特定する(ステップS130)。具体的には、演算装置61は、撮像画像において、各棚11のy方向の範囲を特定する。カメラ30が物品棚10に固定されているため、各棚11のy方向の範囲は、予め入力装置63から登録されていてもよい。次に、演算装置61は、最下段に設けられている第1棚11−1の範囲において、マーカー51を検出する。演算装置61は、x方向において、マーカー51が検出された位置に基づき、第1棚11−1における箱50の位置を特定する。さらに、演算装置61は、箱情報200から、検出したマーカー51を検索し、対応する箱50の幅と、物品IDとを抽出する。ここで、箱50の幅が取得されるため、x方向における箱50の両端を特定することができる。次に、演算装置61は、第2棚11−2の範囲、第3棚11−3の範囲においても、同様にマーカー51を検出し、箱50の位置を特定する。このように、演算装置61は、y方向における箱50の位置、つまりマーカー51の位置に基づき、箱50が置かれている棚11を特定する。また、演算装置61は、x方向における箱50の位置、つまりマーカー51の位置に基づき、各棚11におけるx方向の位置を特定する。 As shown in FIG. 4, the captured image of the camera 30 includes a marker 51 attached to each box 50. Therefore, the arithmetic device 61 specifies the position of the box 50 to which the marker 51 is attached from the position of the marker 51 (step S130). Specifically, the arithmetic unit 61, in the captured image, to identify the y 2 direction in the range of each shelf 11. Since the camera 30 is fixed to the article shelf 10, y 2 direction in the range of each shelf 11 may be registered in advance from the input device 63. Next, the arithmetic unit 61 detects the marker 51 in the range of the first shelf 11-1 provided at the lowermost stage. Arithmetic unit 61, in the x 2 direction, based on the position where the marker 51 is detected to identify the position of the box 50 in the first stage 11-1. Further, the arithmetic unit 61 searches the box information 200 for the detected marker 51, and extracts the width of the corresponding box 50 and the article ID. Here, since the width of the box 50 is acquired, it is possible to identify the two ends of the box 50 in x 1 direction. Next, the arithmetic unit 61 similarly detects the marker 51 in the range of the second shelf 11-2 and the range of the third shelf 11-3, and specifies the position of the box 50. Thus, the arithmetic unit 61, the position of the box 50 in the y 2 direction, that based on the position of the marker 51 to identify the shelf 11 for the box 50 is placed. The arithmetic unit 61, the position of the box 50 in the x 2 direction, that based on the position of the marker 51 to identify the x 1 direction position in each shelf 11.

演算装置61は、特定した箱50の位置に基づき、箱50に対応した表示領域100を決定する(ステップS140)。具体的には、演算装置61は、表示領域100の−x方向の端を箱50の−x方向の端に決定し、表示領域100の+x方向の端を、箱50の+x方向の端に決定する。演算装置61は、z方向においては、箱50が置かれている棚11の上方に隣接して設けられているスクリーン13の範囲を、表示領域100として決定する。箱情報200に、決定した表示領域100が登録される。 The arithmetic unit 61 determines the display area 100 corresponding to the box 50 based on the specified position of the box 50 (Step S140). Specifically, the arithmetic unit 61, a -x 1 direction of the end of the display area 100 determined in -x 1 direction of the end of the box 50, a + x 1 direction of the end of the display area 100, box 50 + x 1 Determine at the end of the direction. Arithmetic unit 61, in the z 1 direction, the range of the screen 13 is provided adjacent the upper shelf 11 that the box 50 is placed, is determined as the display area 100. The determined display area 100 is registered in the box information 200.

演算装置61は、すべての箱50の位置を特定し、表示領域100を決定すると、作業者Wに設定作業が完了したことを報知する(ステップS150)。例えば、設定要求領域110に触ると設定要求領域110への表示が消え、設定作業が完了したときに設定要求領域110が表示されてもよい。また、出力装置70に含まれるスピーカーにより、設定作業が完了したことを示す音声が出力されてもよい。このとき、演算装置61は、設定作業が完了したことを示す表示情報や音声情報を生成し、生成した表示情報や音声情報をプロジェクタ20や出力装置70に送信する。言い換えると、演算装置61は、プロジェクタ20の表示や出力装置70の出力を制御する制御信号を生成し、送信する。   After specifying the positions of all the boxes 50 and determining the display area 100, the arithmetic unit 61 notifies the worker W that the setting operation has been completed (step S150). For example, when the setting request area 110 is touched, the display on the setting request area 110 disappears, and when the setting operation is completed, the setting request area 110 may be displayed. Further, a sound indicating that the setting operation has been completed may be output by a speaker included in the output device 70. At this time, the arithmetic unit 61 generates display information and audio information indicating that the setting operation is completed, and transmits the generated display information and audio information to the projector 20 and the output device 70. In other words, the arithmetic device 61 generates and transmits a control signal for controlling the display of the projector 20 and the output of the output device 70.

以上のように、作業支援装置1は、箱50の位置を変更しても、箱50の位置を管理端末60に入力装置63から登録することなく、設定作業を完了することができる。また、箱50を新たに配置する場合も、同様に処理することができる。このように、箱50の移動を容易にし、作業の効率化を図ることができる。なお、作業支援装置1は、プロジェクタ20が作業者Wへの指示を表示するときに、取り出すべき物品を箱情報200から検索し、対応する表示領域100を抽出する。抽出した表示領域100に作業者Wへの指示を表示する表示情報がプロジェクタ20に送信される。   As described above, even when the position of the box 50 is changed, the work support device 1 can complete the setting operation without registering the position of the box 50 in the management terminal 60 from the input device 63. Also, when the box 50 is newly arranged, the same processing can be performed. Thus, the movement of the box 50 can be facilitated, and the work efficiency can be improved. When the projector 20 displays an instruction to the worker W, the work support apparatus 1 searches the box information 200 for an article to be taken out, and extracts a corresponding display area 100. Display information for displaying an instruction to the worker W in the extracted display area 100 is transmitted to the projector 20.

(物品の補充)
作業者Wは、箱50に収納されている物品の数が少なくなると、その物品を補充する。このため、図1に示すように、スクリーン13に、物品の補充を要求するための補充要求領域120が設けられている。作業者Wは、箱50に収納されている物品の数が少なくなると、補充要求領域120に触る。その後、作業者Wは、物品の少ない箱50に対応した表示領域100を触り、再度、補充要求領域120を触る。これにより、作業支援装置1は、補充すべき物品を取得し、出力装置70を用いて、他の作業者に報知する。
(Replenishment of goods)
When the number of articles stored in the box 50 decreases, the worker W replenishes the articles. For this reason, as shown in FIG. 1, the screen 13 is provided with a replenishment request area 120 for requesting replenishment of articles. When the number of articles stored in the box 50 decreases, the worker W touches the replenishment request area 120. Thereafter, the worker W touches the display area 100 corresponding to the box 50 with a small number of articles, and touches the replenishment request area 120 again. Thereby, the work support device 1 acquires the article to be replenished, and notifies the other worker using the output device 70.

作業者Wが補充要求領域120に触ると、センサ40は、作業者Wの手を、補充要求領域120の−y方向において検知する。演算装置61は、図8に示すように、センサ40の検知結果に基づき、物品の補充要求が入力されたと判断する(ステップS210:Yes)。具体的には、演算装置61は、センサ40が検知した位置が、補充要求領域120の−y方向である場合に、補充要求が入力されたと判断する。演算装置61は、センサ40が検知した位置が補充要求領域120に対応した空間でない場合、補充要求が入力されていないと判断する(ステップS210:No)。 When the operator W is touching the refill request area 120, the sensor 40, the hand of the worker W, it detects the -y 1 direction of refill required area 120. As shown in FIG. 8, the arithmetic unit 61 determines that a request for replenishment of an article has been input based on the detection result of the sensor 40 (step S210: Yes). Specifically, the arithmetic unit 61, a position sensor 40 has detected, in the case of -y 1 direction refill request area 120, it is determined that the replenishment request is input. If the position detected by the sensor 40 is not a space corresponding to the refill request area 120, the arithmetic unit 61 determines that a refill request has not been input (step S210: No).

演算装置61は、補充要求が入力されると、プロジェクタ20の表示が変更される(ステップS220)。例えば、すべての表示領域100を認識できる画像を示す画像情報を生成し、プロジェクタ20に送信する。例えば、すべての表示領域100が青色となる画像を示す画像情報を生成する。これにより、作業支援装置1は、補充を要求するモードに切り替えられたことを作業者Wに報知する。また、すべての表示領域100に、対応する箱50に収容されている物品の名称を表示してもよい。   When the replenishment request is input, arithmetic unit 61 changes the display of projector 20 (step S220). For example, image information indicating an image in which all the display areas 100 can be recognized is generated and transmitted to the projector 20. For example, image information indicating an image in which all the display areas 100 are blue is generated. As a result, the work support device 1 notifies the worker W that the mode has been switched to the mode requiring replenishment. Further, the names of the articles stored in the corresponding boxes 50 may be displayed in all the display areas 100.

作業者Wは、補充すべき物品が収容されている箱50に対応した表示領域100を触る。このため、センサ40は、作業者Wの手の位置を検知する。演算装置61は、センサ40が検知した位置を取得する(ステップS230:Yes)。センサ40が検知した位置は表示領域100に対応した空間であるため(ステップS240:その他)、演算装置61は補充すべき物品を特定する(ステップS260)。このため、演算装置61は、箱情報200から表示領域100を検索し、対応する物品IDを抽出する。抽出した物品IDが示す物品が補充を要求された物品として特定される。作業支援装置1は、特定された物品に対応する表示領域100の色を変化させる。つまり、演算装置61は、特定された物品が収納されている箱50に対応した表示領域100の色を変化させた画像を示す画像情報を生成し、プロジェクタ20に送信する。これにより、プロジェクタ20は、要求された物品に対応した箱50の表示領域100の色を変化させた画像を表示する。これにより、作業者Wは、要求した物品を確認することができる。   The worker W touches the display area 100 corresponding to the box 50 containing the articles to be refilled. Therefore, the sensor 40 detects the position of the hand of the worker W. The calculation device 61 acquires the position detected by the sensor 40 (Step S230: Yes). Since the position detected by the sensor 40 is a space corresponding to the display area 100 (step S240: other), the arithmetic unit 61 specifies an article to be refilled (step S260). Therefore, the arithmetic unit 61 searches the display area 100 from the box information 200 and extracts the corresponding article ID. The article indicated by the extracted article ID is specified as the article requested to be refilled. The work support device 1 changes the color of the display area 100 corresponding to the specified article. That is, the arithmetic device 61 generates image information indicating an image in which the color of the display area 100 corresponding to the box 50 in which the specified article is stored is changed, and transmits the image information to the projector 20. Thereby, the projector 20 displays an image in which the color of the display area 100 of the box 50 corresponding to the requested article has been changed. Thereby, the worker W can confirm the requested article.

作業者Wは、さらに補充すべき物品がある場合、他の表示領域100を触る。同様に、センサ40が作業者Wの手の位置を検知し、演算装置61は補充すべき物品を特定する。また、作業支援装置1は、要求された箱50の表示領域100の色を変化させる。   The worker W touches another display area 100 when there is an article to be refilled. Similarly, the sensor 40 detects the position of the hand of the worker W, and the calculation device 61 specifies the article to be refilled. Further, the work support device 1 changes the color of the display area 100 of the requested box 50.

作業者Wは、補充すべき物品をすべて選択すると、補充要求領域120を触る。このため、センサ40は、作業者Wの手を、補充要求領域120の−y方向において検知する。センサ40が検知した位置は補充要求領域120に対応した空間であるため(ステップS240:補充要求)、演算装置61は、補充すべき物品の一覧情報を生成し、出力装置70に送信する(ステップS250)。言い換えると、演算装置61は、出力装置70を制御する制御信号を送信する。出力装置70は、補充すべき物品の一覧を表示し、他の作業者に報知する。出力装置70は、補充すべき物品の一覧情報を受信したときに、アラームが鳴ってもよい。また、演算装置61は、補充を要求する前にプロジェクタ20が表示していた画像を示す画像情報を生成し、プロジェクタ20に送信する。これにより、作業支援装置1は、作業者Wに、補充を要求するモードから通常のモードに切り替えられたことを報知する。 When all the articles to be refilled are selected, the worker W touches the refill request area 120. Thus, sensor 40, the hand of the worker W, detects the -y 1 direction of refill required area 120. Since the position detected by the sensor 40 is a space corresponding to the replenishment request area 120 (step S240: replenishment request), the arithmetic unit 61 generates list information of articles to be replenished and transmits it to the output device 70 (step S240). S250). In other words, the arithmetic device 61 transmits a control signal for controlling the output device 70. The output device 70 displays a list of articles to be replenished and notifies another worker. The output device 70 may sound an alarm when receiving the list information of the articles to be refilled. Further, the arithmetic unit 61 generates image information indicating an image displayed by the projector 20 before requesting replenishment, and transmits the image information to the projector 20. Thereby, the work support device 1 notifies the worker W that the mode has been switched from the mode requesting replenishment to the normal mode.

上記実施の形態では、y方向において、各棚11の前端が最下段から順番に並び、カメラ30の撮像方向がz方向である例を示したが、これに限定されない。カメラ30の撮像画像を用いて、箱50が置かれている位置を特定できればよく、任意の方式を選択することができる。例えば、y方向において、各棚11の前端が同じ位置であっても、図9に示すように、カメラ30の撮影方向がz方向から傾いていればよい。言い換えると、カメラ30の撮影方向から見たときに、各棚11の前端が、前端の延びる方向に直交する方向に、カメラ30から近い棚11から順に並んでいればよい。これにより、カメラ30は、各棚11の前端を撮像することができる。 In the above embodiment, in the y 1 direction, the front end of each shelf 11 is arranged in order from the bottom, but the imaging direction of the camera 30 is an example which is z 1 direction is not limited thereto. It is sufficient that the position where the box 50 is placed can be specified using the image captured by the camera 30, and an arbitrary method can be selected. For example, in the y 1 direction, even the front end have the same position of each shelf 11, as shown in FIG. 9, the photographing direction of the camera 30 has only to inclined from z 1 direction. In other words, when viewed from the shooting direction of the camera 30, the front ends of the shelves 11 may be arranged in order in a direction orthogonal to the direction in which the front ends extend, starting from the shelves 11 closer to the camera 30. Thereby, the camera 30 can image the front end of each shelf 11.

また、演算装置61が、撮像画像において、箱50のy方向の位置に基づき、箱50の置かれている棚11を特定する例を示したが、これに限定されない。演算装置61が、箱50の置かれている棚11を特定することができれば、任意の方法を選択することができる。例えば、演算装置61は、撮像画像に写されたマーカー51の大きさにより、棚11を特定してもよい。マーカー51の大きさが同じ場合、箱50の位置がカメラ30から離れると、撮像画像に写されたマーカー51の大きさは小さくなる。また、マーカー51のx方向の長さに基づき、箱50が置かれている棚11が特定されてもよい。 The arithmetic unit 61, in the captured image, based on the y 2 position of the box 50, an example of specifying a rack 11 which is placed a box 50 is not limited to this. If the arithmetic unit 61 can specify the shelf 11 on which the box 50 is placed, any method can be selected. For example, the arithmetic unit 61 may specify the shelf 11 based on the size of the marker 51 shown in the captured image. When the size of the marker 51 is the same, if the position of the box 50 is away from the camera 30, the size of the marker 51 shown in the captured image becomes smaller. Further, based on the length of the x 1 direction marker 51, rack 11 the box 50 is placed may be specified.

上記実施の方法では、スクリーン13が棚11の前端に設けられている例を示したが、これに限定されない。スクリーン13は、箱50に対応する表示領域100を表示できればよく、任意に選択することができる。例えば、箱50に設けられてもよい。   In the above embodiment, the example in which the screen 13 is provided at the front end of the shelf 11 has been described, but the present invention is not limited to this. The screen 13 only needs to be able to display the display area 100 corresponding to the box 50, and can be arbitrarily selected. For example, it may be provided in the box 50.

また、監視範囲41が物品棚10の前側に設定されている例を示したが、これに限定されない。センサ40の検知結果に基づき、演算装置61が、作業者Wが手を伸ばす箱50を特定できればよく、任意の方法を選択することができる。   Further, the example in which the monitoring range 41 is set in front of the article shelf 10 has been described, but the present invention is not limited to this. Based on the detection result of the sensor 40, the arithmetic unit 61 only needs to be able to specify the box 50 in which the worker W reaches, and an arbitrary method can be selected.

ピッキング作業終了時などに、スクリーン13に触れたことを、センサ40で検知する例を示したが、これに限定されない。例えば、スクリーン13がタッチセンサを備えてもよい。この場合、スクリーン13は、物体が触れると、その位置を検出し、検出結果を演算装置61に送信する。また、スクリーン13に、ピッキング作業終了時に押下する複数のスイッチを設けてもよい。演算装置61は、押下されたスイッチの位置を特定し、ピッキング作業が終了したことを判断する。また、作業者Wが物品を取り出した後に触る領域を、表示領域100と異なる1つまたは複数の領域に設けてもよい。なお、設定要求領域110と、補充要求領域120とについても同様に、スイッチやタッチセンサを用いてもよい。   An example is described in which the sensor 40 detects that the screen 13 has been touched at the end of the picking operation or the like, but the invention is not limited to this. For example, the screen 13 may include a touch sensor. In this case, when an object touches the screen 13, the screen 13 detects the position and transmits the detection result to the arithmetic device 61. Further, the screen 13 may be provided with a plurality of switches that are pressed at the end of the picking operation. The arithmetic unit 61 specifies the position of the pressed switch and determines that the picking operation has been completed. Further, an area that the worker W touches after taking out the article may be provided in one or more areas different from the display area 100. Note that a switch or a touch sensor may be used for the setting request area 110 and the replenishment request area 120 in the same manner.

以上において説明した処理は一例であり、各ステップの順番、処理内容は、機能を阻害しない範囲で変更してもよい。また、説明した構成は、機能を阻害しない範囲で、任意に変更してもよい。例えば、箱50が置かれる棚11の段数は、任意に選択することができる。また、箱50の位置を特定するために、撮像画像における各棚11の範囲からマーカー51を検出する例を示したが、これに限定されない。例えば、最初にマーカー51の位置を検出し、検出したマーカー51のy方向の位置から箱50が置かれている棚11を特定してもよい。また、カメラ30を用いて箱50の位置を特定する場合、作業支援装置1はカメラ30と演算装置61とを備えればよい。また、補充すべき物品を特定する場合、作業支援装置1はセンサ40と演算装置61とを備えればよい。また、作業支援装置1は、箱50から物品を取り出す作業を例に説明したが、これに限定されない。例えば、物品を取り出す作業を、物品を収容する作業に置き換えることで、物品を収容する作業に作業支援装置1を適用することができることを理解できよう。 The processing described above is an example, and the order of each step and the processing content may be changed within a range that does not impair the function. In addition, the configuration described above may be arbitrarily changed without impairing the function. For example, the number of shelves 11 on which the boxes 50 are placed can be arbitrarily selected. In addition, an example has been described in which the marker 51 is detected from the range of each shelf 11 in the captured image in order to specify the position of the box 50, but the present invention is not limited to this. For example, first detects the position of the marker 51, the box 50 from y 2 position of the detected marker 51 may identify the shelf 11 is located. When the position of the box 50 is specified using the camera 30, the work support device 1 may include the camera 30 and the arithmetic device 61. Further, when specifying an article to be replenished, the work support device 1 may include the sensor 40 and the arithmetic device 61. In addition, the work support apparatus 1 has been described with reference to the example of the work of taking out an article from the box 50, but is not limited to this. For example, it can be understood that the work support device 1 can be applied to the work of housing the articles by replacing the work of taking out the articles with the work of housing the articles.

1 作業支援装置
10 物品棚
11 棚
11−1 第1棚
11−2 第2棚
11−3 第3棚
11−4 第4棚
11−5 第5棚
12 バー
13 スクリーン
13−1 第1スクリーン
13−2 第2スクリーン
13−3 第3スクリーン
14 アーム
15 アーム
20 プロジェクタ
30 カメラ
40 センサ
41 監視範囲
50 箱
50−1 第1箱
51 マーカー
60 管理端末
61 演算装置
62 表示装置
63 入力装置
64 インターフェース
70 出力装置
100 表示領域
100−1 第1表示領域
110 設定要求領域
120 補充要求領域
200 箱情報
F 床
W 作業者

DESCRIPTION OF SYMBOLS 1 work support apparatus 10 goods shelf 11 shelf 11-1 1st shelf 11-2 2nd shelf 11-3 3rd shelf 11-4 4th shelf 11-5 5th shelf 12 bar 13 screen 13-1 first screen 13 -2 second screen 13-3 third screen 14 arm 15 arm 20 projector 30 camera 40 sensor 41 monitoring range 50 box 50-1 first box 51 marker 60 management terminal 61 arithmetic unit 62 display device 63 input device 64 interface 70 output Apparatus 100 display area 100-1 first display area 110 setting request area 120 replenishment request area 200 box information F floor W worker

Claims (5)

複数の箱が置かれた物品棚の撮像画像を取得するカメラと、
前記撮像画像に基づき、前記複数の箱のうちの第1箱の位置を特定し、前記第1箱に対応した表示領域の位置を決定する演算装置と、
前記表示領域に作業者への指示を表示するプロジェクタと、
前記物品棚に設定された監視範囲内の物体の位置を検知するセンサと、
を備え、
前記第1箱には、マーカーが付され、
前記撮像画像には、前記マーカーが写され、
前記演算装置は、
前記マーカーと、前記第1箱に収容されている第1物品の情報とを関連づけて保持し、
前記マーカーに基づき、前記第1物品が収容されている前記第1箱の位置を特定し、
前記第1物品の情報に基づき、前記表示領域に表示する表示情報を生成し、
前記プロジェクタは前記表示情報に基づき前記表示領域に表示し、
前記演算装置は、
第1モードでは、前記センサの検知結果に基づき、ピッキングにおける作業ミスを検知し、
第2モードでは、
前記センサの検知結果に基づき、前記物体により示された前記第1箱を特定し、
前記第1箱に収容されている前記第1物品を、補充が要求された物品として特定する
業支援装置。
A camera for acquiring an image of an article shelf on which a plurality of boxes are placed,
A computing device that identifies a position of a first box of the plurality of boxes based on the captured image, and determines a position of a display area corresponding to the first box;
A projector for displaying instructions to the operator in the display area,
A sensor for detecting a position of an object within a monitoring range set on the article shelf ;
With
A marker is attached to the first box,
The marker is captured in the captured image,
The arithmetic unit includes:
Holding the marker in association with information on the first article contained in the first box,
Based on the marker, identify the position of the first box in which the first article is stored,
Based on the information of the first article, generating display information to be displayed in the display area,
The projector displays in the display area based on the display information,
The arithmetic unit includes:
In the first mode, an operation error in picking is detected based on the detection result of the sensor,
In the second mode,
Based on the detection result of the sensor, identify the first box indicated by the object,
Identifying the first article contained in the first box as an article for which replenishment has been requested
Work support device.
前記演算装置は、前記第1モードのときに、前記センサが前記監視範囲内の第1領域において、前記物体を検知すると、前記第1モードから前記第2モードに切り替える
請求項に記載の作業支援装置。
The computing device, when the first mode, in said sensor first region within the monitoring range, when detecting the object, working according to claim 1 for switching from said first mode to said second mode Support equipment.
前記演算装置は、前記第2モードのときに、前記センサが前記第1領域において、前記物体を検知すると、前記第2モードから前記第1モードに切り替える
請求項に記載の作業支援装置。
The work support device according to claim 2 , wherein the arithmetic device switches from the second mode to the first mode when the sensor detects the object in the first region in the second mode.
前記演算装置は、前記第2モードに切り替えられたことを示す画像情報を前記プロジェクタに送信する
請求項1から3のいずれか1項に記載の作業支援装置。
The work support device according to any one of claims 1 to 3 , wherein the arithmetic device transmits image information indicating that the mode has been switched to the second mode to the projector.
物品を収容する物品棚に設定された監視範囲内の物体の位置を検知するセンサと
演算装置と、
を備え、
前記物品棚には、第1物品を収容する第1箱が置かれ、
前記演算装置は、
前記第1箱に収容されている前記第1物品の情報を保持し、
第1モードでは、前記センサの検知結果に基づき、ピッキングにおける作業ミスを検知し、
第2モードでは、
前記センサの検知結果に基づき、前記物体により示された前記第1箱を特定し、
前記第1箱に収容されている前記第1物品を、補充が要求された物品として特定する
作業支援装置。
A sensor for detecting a position of an object within a monitoring range set on an article shelf for storing articles, an arithmetic unit,
With
A first box containing a first article is placed on the article shelf,
The arithmetic unit includes:
Holding information on the first article stored in the first box,
In the first mode, an operation error in picking is detected based on the detection result of the sensor,
In the second mode,
Based on the detection result of the sensor, identify the first box indicated by the object,
A work support device for identifying the first article stored in the first box as an article for which replenishment has been requested.
JP2018168439A 2018-09-10 2018-09-10 Work support device Active JP6656328B1 (en)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018168439A JP6656328B1 (en) 2018-09-10 2018-09-10 Work support device
EP19191289.8A EP3621000A1 (en) 2018-09-10 2019-08-12 Operation assist device
CN201910812657.0A CN110889317B (en) 2018-09-10 2019-08-30 Operation assisting device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018168439A JP6656328B1 (en) 2018-09-10 2018-09-10 Work support device

Publications (2)

Publication Number Publication Date
JP6656328B1 true JP6656328B1 (en) 2020-03-04
JP2020040767A JP2020040767A (en) 2020-03-19

Family

ID=67658689

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018168439A Active JP6656328B1 (en) 2018-09-10 2018-09-10 Work support device

Country Status (3)

Country Link
EP (1) EP3621000A1 (en)
JP (1) JP6656328B1 (en)
CN (1) CN110889317B (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021149182A (en) * 2020-03-16 2021-09-27 大豊精機株式会社 Work management system and method for setting work management system
WO2023067857A1 (en) 2021-10-20 2023-04-27 株式会社アイオイ・システム Work support device and non-transitory storage medium

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023031618A (en) * 2021-08-25 2023-03-09 株式会社東芝 Apparatus, method and system for managing article, and program

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4074222B2 (en) 2003-06-09 2008-04-09 株式会社アイオイ・システム Picking support device
DE102004028743A1 (en) * 2003-06-20 2005-03-03 Omron Corp. Work support device
JP2006321590A (en) 2005-05-17 2006-11-30 Aioi Systems Co Ltd Picking assist device
JP2008222386A (en) * 2007-03-13 2008-09-25 Omron Corp Work support device
US9361628B2 (en) * 2010-04-13 2016-06-07 Dean Stark Interactive video shelving system
US9694488B2 (en) * 2010-12-08 2017-07-04 Apex Industrial Technologies Llc Direct access dispensing system
US9911290B1 (en) * 2015-07-25 2018-03-06 Gary M. Zalewski Wireless coded communication (WCC) devices for tracking retail interactions with goods and association to user accounts
JP6590610B2 (en) * 2015-09-15 2019-10-16 共同印刷株式会社 Method, apparatus and program
JP6775179B2 (en) * 2016-05-12 2020-10-28 学校法人立命館 Picking system
CA3028156A1 (en) * 2016-06-30 2018-01-04 Bossa Nova Robotics Ip, Inc. Multiple camera system for inventory tracking
JP2018018372A (en) * 2016-07-29 2018-02-01 オリンパス株式会社 Bar-code reading device, bar-code reading method, and program
CN108137230B (en) * 2016-09-12 2020-07-03 爱鸥自动化系统有限公司 Auxiliary device for picking up goods
CN106516530B (en) * 2016-12-21 2020-07-03 锥能机器人(上海)有限公司 Automatic storage sorting station and sorting method thereof
US10198711B2 (en) * 2017-02-28 2019-02-05 Walmart Apollo, Llc Methods and systems for monitoring or tracking products in a retail shopping facility
CN207576954U (en) * 2017-08-11 2018-07-06 南京宣怀智能科技有限公司 A kind of system rechecked when picking and reinspection vehicle

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021149182A (en) * 2020-03-16 2021-09-27 大豊精機株式会社 Work management system and method for setting work management system
JP7432407B2 (en) 2020-03-16 2024-02-16 大豊精機株式会社 Work management system and how to set up the work management system
WO2023067857A1 (en) 2021-10-20 2023-04-27 株式会社アイオイ・システム Work support device and non-transitory storage medium

Also Published As

Publication number Publication date
CN110889317A (en) 2020-03-17
JP2020040767A (en) 2020-03-19
EP3621000A1 (en) 2020-03-11
CN110889317B (en) 2023-12-19

Similar Documents

Publication Publication Date Title
TWI641545B (en) Pick Support Device
JP6656328B1 (en) Work support device
US20210267387A1 (en) Image display device, image display system, image display method, and program
JP6610348B2 (en) Management program, management apparatus, and management method
JP2024019591A (en) Information processing device, information processing system, control method, and program
JP6678790B1 (en) Work support device
JP2022140498A (en) Information processing device, information processing system, information processing method, and program
KR20190108044A (en) Defect checking apparatus, defect checking method and computer readable recording medium
JP6853031B2 (en) Information processing equipment, information processing system, information processing method, and program
KR20170127318A (en) Object Tracking System
JP2020062707A (en) Information processing device
JP2022129435A (en) Information processing device, information processing system, and program
JP7322423B2 (en) Information processing device, production navigation system, information processing method and program
CN112532874B (en) Method and device for generating plane thermodynamic diagram, storage medium and electronic equipment
US11367176B2 (en) Commodity management device and commodity management system
JP7358848B2 (en) Production navigation device, production navigation method and program
JP7435021B2 (en) Information processing device, information processing method, and program
JP2022130814A (en) Information processor, method for processing information, and program
JP7367846B2 (en) Product detection device, product detection method, and program
JP2023034399A (en) Information processing device, information processing system, information processing method, and program
JP2022091214A (en) Information processing system, information processing method, and information processing program
WO2023080230A1 (en) Management device, management system, management method, and management program
JP2021134039A (en) Information processing device, information processing method, program and information processing system
JP2023098485A (en) Shop management support system and method for supporting shop management
JP2021174113A (en) Image projection device, image projection method, and image projection program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180910

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190619

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190724

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200204

R150 Certificate of patent or registration of utility model

Ref document number: 6656328

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250