WO2021006306A1 - Automatic dishwashing system, automatic dishwashing method, automatic dishwashing program, and storage medium - Google Patents

Automatic dishwashing system, automatic dishwashing method, automatic dishwashing program, and storage medium Download PDF

Info

Publication number
WO2021006306A1
WO2021006306A1 PCT/JP2020/026770 JP2020026770W WO2021006306A1 WO 2021006306 A1 WO2021006306 A1 WO 2021006306A1 JP 2020026770 W JP2020026770 W JP 2020026770W WO 2021006306 A1 WO2021006306 A1 WO 2021006306A1
Authority
WO
WIPO (PCT)
Prior art keywords
tableware
unit
information acquisition
dish
marker
Prior art date
Application number
PCT/JP2020/026770
Other languages
French (fr)
Japanese (ja)
Inventor
裕士 白木
Original Assignee
TechMagic株式会社
株式会社フジマック
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by TechMagic株式会社, 株式会社フジマック filed Critical TechMagic株式会社
Priority to JP2021530724A priority Critical patent/JP7018637B2/en
Publication of WO2021006306A1 publication Critical patent/WO2021006306A1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47LDOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L15/00Washing or rinsing machines for crockery or tableware
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47LDOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L15/00Washing or rinsing machines for crockery or tableware
    • A47L15/24Washing or rinsing machines for crockery or tableware with movement of the crockery baskets by conveyors
    • AHUMAN NECESSITIES
    • A47FURNITURE; DOMESTIC ARTICLES OR APPLIANCES; COFFEE MILLS; SPICE MILLS; SUCTION CLEANERS IN GENERAL
    • A47LDOMESTIC WASHING OR CLEANING; SUCTION CLEANERS IN GENERAL
    • A47L15/00Washing or rinsing machines for crockery or tableware
    • A47L15/42Details
    • A47L15/46Devices for the automatic control of the different phases of cleaning ; Controlling devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J13/00Controls for manipulators
    • B25J13/08Controls for manipulators by means of sensing devices, e.g. viewing or touching devices

Definitions

  • an identifier for determining the type of tableware and a symbol for specifying the position, range and orientation of the identifier are provided in the tableware hill, and the dishwashing is performed by pattern matching processing.
  • the system determines the type of tableware.
  • all the tableware is used in a state where it is lined up horizontally with respect to the conveyor (the state where the hill faces directly upward), and the tableware is transported on the conveyor at three-dimensionally different angles. In that case, the dishwashing system of Patent Document 2 cannot handle this.
  • the symbols or characters provided on the hill of ceramics are limited to those that can be identified by humans. Furthermore, it has not been possible to automate the process of arranging dishes on the washing conveyor.
  • FIG. 4A is a plan view of the tableware taking-out part
  • FIG. 4B is a perspective view of the tableware taking-out part. It is explanatory drawing of the use example of a marker.
  • FIG. 7A is a perspective view of a modified example of the hand
  • FIG. 7B is a side view of the modified example of the hand
  • FIG. 8A is a perspective view of another modified example of the hand
  • FIG. 8B is a side view of another modified example of the hand.
  • the stacking type tableware placing portion 13 of FIG. 9B a position for stacking the tableware is determined for each type, and a means for raising and lowering according to the weight of the tableware is provided at each stacking position. Therefore, the tableware to be stacked next can be adjusted so as to be located on the upper surface of the tableware placing portion 13. As a result, since the articulated robot 12 knows in advance the place and height at which the tableware is to be stacked, it is possible to accurately stack each tableware. If no means for raising and lowering according to the weight of the tableware is provided at each stacking position, the tableware extraction calculation unit 30 indicates how many tableware are placed in the tableware storage unit 13 for each type of tableware.

Landscapes

  • Engineering & Computer Science (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Manipulator (AREA)
  • Washing And Drying Of Tableware (AREA)

Abstract

Provided is an automatic dishwashing system which may determine a type and a state of each dish, allow a robot to safely pick the dish up, and store the dish at a prescribed storage position, in a state where dishes are conveyed on a conveyor at three-dimensionally different angles. An automatic dishwashing system according to an embodiment of the present invention is characterized by being provided with: a dish insertion part; a dish washing part; a dish conveying part; a dish information acquisition part which identifies a dish and acquires information about the dish; a dish placing part; and a dish pickup unit, wherein the acquisition information acquired by the dish information acquisition part includes at least one among the type, size, shape, color, position, orientation, direction, marker, or the code of the dish. When the dish information acquisition part identifies a dish which is being conveyed in the dish conveying part, the dish pickup part picks the dish up in correspondence to the state of the dish on the basis of the information acquired by the dish information acquisition part.

Description

食器自動洗浄システム、食器自動洗浄方法、食器自動洗浄プログラム及び記憶媒体Automatic dishwashing system, automatic dishwashing method, automatic dishwashing program and storage medium
 本発明は、食器等を自動的に洗浄する食器自動洗浄システム、食器自動洗浄方法、食器自動洗浄プログラム及び記憶媒体に関する。 The present invention relates to an automatic dishwashing system for automatically washing dishes and the like, an automatic dishwashing method, an automatic dishwashing program, and a storage medium.
 近年、飲食店における従業員不足等の背景から、飲食店における業務やサービスの工程を自動化したいという要請がある。食器洗浄についても、自動化の要請があり、従来、特許文献1のような技術が提案されている。 In recent years, due to the shortage of employees at restaurants, there has been a demand to automate the processes of operations and services at restaurants. There is also a demand for automation of dishwashing, and conventionally, a technique as described in Patent Document 1 has been proposed.
 上記特許文献1に記載の食器洗浄システムは、陶磁器であることを識別するために陶器の高台内に人間が識別できる記号又は文字を設けておき、洗浄用コンベア上の画像をカメラで取得し、取得した画像からテンプレートマッチングにより陶磁器に設けられた記号又は文字を読み取ることにより、陶磁器を認識してロボットアーム機構により陶磁器をピッキングする。 In the dishwashing system described in Patent Document 1, a human-identifiable symbol or character is provided in a hill of the pottery in order to identify the pottery, and an image on the washing conveyor is acquired by a camera. By reading the symbols or characters provided on the pottery by template matching from the acquired image, the pottery is recognized and the pottery is picked by the robot arm mechanism.
 上記特許文献2に記載の食器洗浄システムは、食器の高台に人間が識別できると共に食器の種類(大きさ、茶碗、丼、皿等)を判定するための識別子と、識別子の位置と範囲と向きを特定するためのシンボルとが表記されており、洗浄用コンベア上の画像をカメラで取得し、取得した画像からパターンマッチングにより陶磁器に設けられた識別子を認識し、ロボットアーム機構により食器をピッキングする。また、特許文献2では、識別子としては、人間が識別できるものであり、バーコード、二次元コード、磁気的コード等は除外される。 The dishwashing system described in Patent Document 2 has an identifier for identifying the type of tableware (size, bowl, bowl, dish, etc.) as well as being able to identify the tableware on the hill, and the position, range and orientation of the identifier. The symbol for identifying the dish is written, and the image on the washing conveyor is acquired by the camera, the identifier provided on the ceramic is recognized by pattern matching from the acquired image, and the tableware is picked by the robot arm mechanism. .. Further, in Patent Document 2, the identifier is one that can be identified by a human being, and a barcode, a two-dimensional code, a magnetic code, and the like are excluded.
 上記特許文献3に記載の食器洗浄システムは、食器洗浄機から取り出され、ウェイテングエリアからピッキングエリアに移されて静止している食器について、ピッキングエリアカメラで取得した画像を処理して食器の種類を判別するとともに食器の重心位置を計算し、ロボットアーム機構によりピッキングして、リリースエリアへ食器の種類ごとに積み重ねる。特許文献3では、画像処理としてパターンマッチング処理を行い、食器の種類、重心位置、皿を上方から見た際の長手方向の向き(長方形上の皿の向き)を判定する。 The dishwashing system described in Patent Document 3 is a type of tableware that is taken out from a dishwasher, moved from a waiting area to a picking area, and stationary, and processed with an image acquired by a picking area camera. The position of the center of gravity of the tableware is calculated, picked by the robot arm mechanism, and stacked in the release area for each type of tableware. In Patent Document 3, pattern matching processing is performed as image processing, and the type of tableware, the position of the center of gravity, and the orientation of the plate in the longitudinal direction when viewed from above (the orientation of the plate on the rectangle) are determined.
 上記特許文献4に記載の食器洗浄システムは、洗浄用ラックを洗浄室に搬入すること、食器洗浄機のドアを開閉すること、洗浄スイッチを押すこと、洗浄室から搬出台に洗浄用ラックを搬出すること、搬出台から食器をピッキングし、ストックラックに食器を移送することを、ロボットアームが行う。洗浄用ラックが静止している状態で、洗浄用ラックの位置に対応する搬出台上のピッキングエリアをピッキングカメラで撮影した画像をパターンマッチング処理することにより、食器の種類、食器の重心位置、皿を上方から見た際の長手方向の向き(長方形上の皿の向き)を判定する。 In the dishwashing system described in Patent Document 4, the washing rack is carried into the washing room, the door of the dishwashing machine is opened and closed, the washing switch is pressed, and the washing rack is carried out from the washing room to the unloading table. The robot arm is responsible for picking the dishes from the unloading table and transferring the dishes to the stock rack. With the washing rack stationary, the picking area on the unloading table corresponding to the position of the washing rack is pattern-matched with the image taken by the picking camera to determine the type of tableware, the position of the center of gravity of the tableware, and the dish. Is determined in the longitudinal direction (the orientation of the dish on the rectangle) when viewed from above.
特開2018-126272号公報JP-A-2018-126272 特開2019-037349号公報JP-A-2019-037349 国際公開第2018/034251号International Publication No. 2018/034251 国際公開第2018/034252号International Publication No. 2018/034252
 上記特許文献1に記載の食器洗浄システムでは、陶磁器の高台内に設けた人間が識別できる記号又は文字を、カメラで取得した画像からテンプレートマッチングすることにより、陶磁器を認識してロボットアーム機構により陶磁器をピッキングしている。しかしながら、陶磁器は全てコンベアに対して水平に伏せて並べられた状態(高台が真上を向いた状態)で使用することが前提である上、陶磁器の種類までも判別することまでは記載されていない。陶磁器が三次元的に異なる角度でコンベア上を搬送される場合には、特許文献1の食器洗浄システムでは対応できない。また、陶磁器の高台内に設ける記号又は文字は人間が識別できるものに限定される。さらに、洗浄用コンベアに陶磁器を並べることまでは自動化できていない。 In the dishwashing system described in Patent Document 1, the ceramics are recognized by the robot arm mechanism by template matching the human-identifiable symbols or characters provided in the hill of the ceramics from the image acquired by the camera. Is picking. However, it is premised that all the pottery is used in a state where it is lined up horizontally with respect to the conveyor (a state where the hill faces directly above), and it is described that even the type of pottery is identified. Absent. When the ceramics are conveyed on the conveyor at three-dimensionally different angles, the dishwashing system of Patent Document 1 cannot handle it. In addition, the symbols or characters provided on the hill of ceramics are limited to those that can be identified by humans. Furthermore, it has not been possible to automate the process of arranging ceramics on a cleaning conveyor.
 上記特許文献2に記載の食器洗浄システムでは、食器の種類を判定するための識別子と、識別子の位置と範囲と向きを特定するためのシンボルを食器の高台内に設け、パターンマッチング処理により食器洗浄システムが食器の種類を判別している。しかしながら、食器は全てコンベアに対して水平に伏せて並べられた状態(高台が真上を向いた状態)で使用することが前提であり、食器が三次元的に異なる角度でコンベア上を搬送される場合には、特許文献2の食器洗浄システムでは対応できない。また、陶磁器の高台内に設ける記号又は文字は人間が識別できるものに限定される。さらに、洗浄用コンベアに食器を並べることまでは自動化できていない。 In the dishwashing system described in Patent Document 2, an identifier for determining the type of tableware and a symbol for specifying the position, range and orientation of the identifier are provided in the tableware hill, and the dishwashing is performed by pattern matching processing. The system determines the type of tableware. However, it is premised that all the tableware is used in a state where it is lined up horizontally with respect to the conveyor (the state where the hill faces directly upward), and the tableware is transported on the conveyor at three-dimensionally different angles. In that case, the dishwashing system of Patent Document 2 cannot handle this. In addition, the symbols or characters provided on the hill of ceramics are limited to those that can be identified by humans. Furthermore, it has not been possible to automate the process of arranging dishes on the washing conveyor.
 上記特許文献3に記載の食器洗浄システムでは、ピッキングエリアにおいて静止している食器について、ピッキングエリアカメラで取得した画像を処理して食器の種類を判別している。このため、ピッキングエリアのピッキングコンベアと洗浄コンベアとを分け、さらにその間にリレーコンベアを設ける必要があり、コンベアの構造が複雑となっている。また、食器は全てコンベアに対して水平に伏せて並べられた状態(高台が真上を向いた状態)で使用することが前提であり、食器が三次元的に異なる角度でコンベア上を搬送される場合には、特許文献3の食器洗浄システムでは対応できない。さらに、洗浄コンベアに食器を並べることまでは自動化できていない。 In the dishwashing system described in Patent Document 3, the type of tableware is determined by processing the image acquired by the picking area camera for the tableware that is stationary in the picking area. Therefore, it is necessary to separate the picking conveyor and the washing conveyor in the picking area and further provide a relay conveyor between them, which complicates the structure of the conveyor. In addition, it is assumed that all tableware is used in a state where it is lined up horizontally with respect to the conveyor (a state in which the hill faces directly upward), and the tableware is transported on the conveyor at three-dimensionally different angles. In that case, the dishwashing system of Patent Document 3 cannot handle this. Furthermore, it has not been possible to automate the process of arranging dishes on the washing conveyor.
 上記特許文献4に記載の食器洗浄システムでは、洗浄用ラックが静止している状態で、洗浄用ラックの位置に対応する搬出台上のピッキングエリアをピッキングカメラで撮影した画像をパターンマッチング処理することにより、食器の種類を判別している。このため、コンベア上で移動中の食器をピックアップする用途には利用できない。また、食器は全てコンベアに対して水平に伏せて並べられた状態(高台が真上を向いた状態)で使用することが前提であり、食器が三次元的に異なる角度でコンベア上を搬送される場合には、特許文献4の食器洗浄システムでは対応できない。さらに、洗浄用ラックに食器を並べることまでは自動化できていない。 In the dishwashing system described in Patent Document 4, in a state where the washing rack is stationary, pattern matching processing is performed on an image taken by a picking camera of a picking area on a carry-out table corresponding to the position of the washing rack. The type of tableware is determined by. Therefore, it cannot be used for picking up tableware moving on a conveyor. In addition, it is assumed that all tableware is used in a state where it is lined up horizontally with respect to the conveyor (a state in which the hill faces directly upward), and the tableware is transported on the conveyor at three-dimensionally different angles. In that case, the dishwashing system of Patent Document 4 cannot handle this. Moreover, it has not been possible to automate the process of arranging dishes in the washing rack.
 上記特許文献1~4では、複数の食器が三次元的に異なる角度でコンベア上を搬送されている状態で、ロボットが食器をピックアップすることが考慮されていない。本発明者は全自動の食器自動洗浄システムを実現すべく、例えば洗浄前の食器をコンベアへ並べる段階から自動化すること、食器を並べる角度は実用上、高台が真上を向いた状態だけではないこと、コンベア上で移動中の食器をピックアップすること、ロボットの姿勢には制限があること等の条件のもと、食器及びロボットについて静的及び動的な分析を行うことを通じて鋭意全自動の食器自動洗浄システムについて研究開発を進めた結果、本発明の実施形態を完成するに至った。すなわち、本発明の目的は、食器が三次元的に異なる角度でコンベア上を搬送されている状態で、各食器の種類や状態を判別し、ロボットが安全に食器をピックアップし、所定の収納位置に載置可能な食器自動洗浄システムを提供することにある。 In the above Patent Documents 1 to 4, it is not considered that the robot picks up the tableware in a state where the plurality of tableware is conveyed on the conveyor at three-dimensionally different angles. In order to realize a fully automatic automatic tableware washing system, the present inventor, for example, automates the stage of arranging the dishes before washing on the conveyor, and practically, the angle of arranging the dishes is not limited to the state where the hill faces directly upward. Fully automatic tableware through static and dynamic analysis of tableware and robots under the conditions such as picking up tableware moving on the conveyor and restrictions on the posture of the robot. As a result of advancing research and development on the automatic cleaning system, the embodiment of the present invention has been completed. That is, an object of the present invention is to determine the type and state of each tableware in a state where the tableware is conveyed on the conveyor at three-dimensionally different angles, the robot safely picks up the tableware, and a predetermined storage position. The purpose is to provide an automatic dishwashing system that can be placed on a conveyor.
 本発明の上記目的は、以下の構成によって達成できる。すなわち、本発明の第1の態様の食器自動洗浄システムは、
 食器を投入する食器投入部から投入された食器を洗浄する食器洗浄部と、
 前記食器洗浄部で洗浄された食器を搬送する食器搬送部と、
 前記食器搬送部で搬送される食器を識別すると共に当該食器の情報を取得する食器情報取得部と、
 前記食器搬送部で搬送された食器が載置される食器載置部と、
 前記食器搬送部から食器を取り上げ、当該食器を前記食器載置部へ食器を載置する食器取上部と、
を備える食器自動洗浄システムにおいて、
 前記食器情報取得部が取得する情報には、食器の種類、食器の大きさ、食器の形状、食器の色彩、食器の位置、食器の姿勢、食器の向き、食器に付されたマーカ、又は、食器に付されたコードの少なくともいずれか1つが含まれ、
 前記食器情報取得部が前記食器搬送部で搬送されている食器を識別すると、前記食器取上部は前記食器情報取得部で取得された情報に基づいて、食器の状態に対応して食器を取り上げることを特徴とする。
The above object of the present invention can be achieved by the following configuration. That is, the automatic dishwashing system according to the first aspect of the present invention is
A dishwashing section that cleans the dishes that are thrown in from the tableware throwing section
A tableware transporting unit that transports dishes washed by the dishwashing unit,
A tableware information acquisition unit that identifies the tableware to be transported by the tableware transport unit and acquires information on the tableware.
A tableware storage unit on which the tableware transported by the tableware transport unit is placed,
The tableware is picked up from the tableware transport section, and the tableware is placed on the tableware storage section.
In an automatic dishwashing system equipped with
The information acquired by the tableware information acquisition unit includes the type of tableware, the size of the tableware, the shape of the tableware, the color of the tableware, the position of the tableware, the posture of the tableware, the orientation of the tableware, the marker attached to the tableware, or Includes at least one of the codes attached to the tableware,
When the tableware information acquisition unit identifies the tableware being transported by the tableware transport unit, the tableware collector picks up the tableware according to the state of the tableware based on the information acquired by the tableware information acquisition unit. It is characterized by.
 本発明の実施形態によれば、食器が三次元的に異なる角度でコンベア上を搬送されている状態で、各食器の種類や状態を判別し、ロボットが安全に食器をピックアップし、所定の収納位置に載置可能な食器自動洗浄システムを提供することができる。 According to the embodiment of the present invention, in a state where the tableware is conveyed on the conveyor at three-dimensionally different angles, the type and state of each tableware is determined, and the robot safely picks up the tableware and stores it in a predetermined state. An automatic dishwashing system that can be placed in place can be provided.
食器自動洗浄システムの工程図である。It is a process diagram of the tableware automatic washing system. 食器自動洗浄システムの全体構成図である。It is the whole block diagram of the tableware automatic washing system. 食器取出部のブロック図である。It is a block diagram of a tableware taking-out part. 図4Aは食器取出部の平面図であり、図4Bは食器取出部の斜視図である。FIG. 4A is a plan view of the tableware taking-out part, and FIG. 4B is a perspective view of the tableware taking-out part. マーカの使用例の説明図である。It is explanatory drawing of the use example of a marker. ハンドの斜視図である。It is a perspective view of a hand. 図7Aはハンドの変形例の斜視図、図7Bはハンドの変形例の側面図である。FIG. 7A is a perspective view of a modified example of the hand, and FIG. 7B is a side view of the modified example of the hand. 図8Aは、ハンドの別の変形例の斜視図であり、図8Bは、ハンドの別の変形例の側面図である。FIG. 8A is a perspective view of another modified example of the hand, and FIG. 8B is a side view of another modified example of the hand. 図9Aは積み上げ式の食器載置部の説明図、図9Bは積み下げ式の食器載置部の説明図である。FIG. 9A is an explanatory view of the stacking type tableware placing portion, and FIG. 9B is an explanatory view of the stacking type tableware placing portion. 図10は、食器の裏面に刻印されたARマーカの説明図である。FIG. 10 is an explanatory diagram of an AR marker engraved on the back surface of the tableware. 図11は食器の裏面にARマーカを印刷した後にコーティングしたものの説明図である。FIG. 11 is an explanatory view of the back surface of the tableware after the AR marker is printed and then coated. 食器マーカを使わない食器の画像認識の説明図である。It is explanatory drawing of the image recognition of the tableware which does not use the tableware marker. 実施形態4の食器取出部の平面図である。It is a top view of the tableware taking out part of Embodiment 4. 図14Aは、食器自動洗浄システムの上面図であり、図14Bは、食器自動洗浄システムの斜視図である。14A is a top view of the automatic dishwashing system, and FIG. 14B is a perspective view of the automatic dishwashing system. 食器自動洗浄システムの受け渡し台周辺を示す図である。It is a figure which shows the area around the delivery table of the automatic dishwashing system.
 以下、図面を参照して本発明の実施形態に係る食器自動洗浄システム、食器自動洗浄方法、食器自動洗浄プログラム及び記憶媒体を説明する。但し、以下に示す実施形態は本発明の技術思想を具体化するための食器自動洗浄システムを例示するものであって、本発明をこれらに特定するものではなく、特許請求の範囲に含まれるその他の実施形態のものにも等しく適用し得るものである。 Hereinafter, the tableware automatic washing system, the tableware automatic washing method, the tableware automatic washing program, and the storage medium according to the embodiment of the present invention will be described with reference to the drawings. However, the embodiments shown below exemplify an automatic dishwashing system for embodying the technical idea of the present invention, and do not specify the present invention as these, but are included in the scope of claims. It is equally applicable to those of the embodiment of.
[第1実施形態]
 本発明の第1実施形態に係る食器自動洗浄システム、食器自動洗浄方法、食器自動洗浄プログラム及び記憶媒体について、図1~図9を参照して説明する。
[First Embodiment]
The tableware automatic washing system, the tableware automatic washing method, the tableware automatic washing program, and the storage medium according to the first embodiment of the present invention will be described with reference to FIGS. 1 to 9.
 図1は本実施形態に係る食器自動洗浄システムの工程図の一例である。本実施形態の食器自動洗浄システムは、食器投入部1、食器洗浄部2及び食器取出部3を含んでいる。また、本実施形態の食器自動洗浄システムは、食器から残渣やゴミを除去する工程S1、食器をコンベア上に並べて置く工程S2、水流と洗剤により洗浄する工程S3、乾燥する工程S4、及び、食器をコンベア上から保管場所へ移す工程S5を含んでいる。食器投入部1においては、食器から残渣やゴミを除去する工程S1及び食器をコンベア上に並べて置く工程S2が実行され、食器洗浄部2においては、水流と洗剤により洗浄する工程S3及び乾燥する工程S4が実行され、食器取出部3においては、食器をコンベア上から保管場所へ移す工程S5を実行する。 FIG. 1 is an example of a process diagram of the automatic dishwashing system according to the present embodiment. The tableware automatic washing system of the present embodiment includes a tableware input unit 1, a tableware cleaning unit 2, and a tableware extraction unit 3. Further, in the tableware automatic washing system of the present embodiment, a step S1 of removing residues and dust from the tableware, a step S2 of arranging the tableware side by side on a conveyor, a step S3 of washing with a water stream and a detergent, a step S4 of drying, and the tableware. Includes step S5 of moving the dish from the tableware to the storage location. In the tableware loading section 1, a step S1 for removing residues and dust from the dishes and a step S2 for placing the dishes side by side on a conveyor are executed, and in the dishwashing section 2, a step S3 for washing with a stream of water and a detergent and a step for drying. S4 is executed, and the tableware taking-out unit 3 executes the step S5 of moving the tableware from the conveyor to the storage place.
 図2は本実施形態に係る食器自動洗浄システムの全体構成図の一例である。食器11としては、例えば、洋食器、和食器、形状等の種類を問わず、例えば食品を盛るための皿、ボール、碗、丼、鉢等、飲料を入れるカップ、コップ、グラス、茶碗,酒器等,食物を取り扱う箸、フォーク、ナイフ、スプーン、マドラー、レンゲ等、調理用具ないしキッチン用品である鍋、フライパン、まな板、包丁、ナイフ、ボール、カップ、コンテナ、フライ返し、へら、杓子等、食事に用いられる道具や器具の全てを含む。食器11は食器搬送部10によって、食器投入部1から食器洗浄部2を介して食器取出部3まで搬送される。食器搬送部10は、例えば食器投入部1から食器洗浄部2を通して、食器取出部3まで食器を搬送するための単一のコンベアとすることもできるが、例えば食器投入部1用のコンベア、食器洗浄部2用のコンベア、及び、食器取出部3用のコンベアに分けて複数のコンベアから構成することも可能であり、さらに、各部においてコンベアを複数に分けて設けることも可能であり、あるいは、複数のコンベアに代えて1つのコンベアとすることも可能である。 FIG. 2 is an example of an overall configuration diagram of the tableware automatic washing system according to the present embodiment. The tableware 11 includes, for example, Western tableware, Japanese tableware, shape, etc., for example, plates, balls, bowls, bowls, bowls, etc. for serving food, cups, cups, glasses, tea bowls, liquor for containing beverages. Bowls, chopsticks that handle food, forks, knives, spoons, madler, rangers, etc., cooking utensils or kitchen utensils such as pots, frying pans, cutting boards, kitchen utensils, knives, balls, cups, containers, frying bars, spatulas, ladle, etc. Includes all tools and utensils used for meals. The tableware 11 is transported from the tableware input unit 1 to the tableware take-out unit 3 via the tableware washing unit 2 by the tableware transport unit 10. The tableware transport unit 10 may be, for example, a single conveyor for transporting tableware from the tableware input unit 1 through the tableware washing unit 2 to the tableware take-out unit 3, but for example, a conveyor for the tableware input unit 1 and tableware. It is possible to divide the conveyor for the cleaning unit 2 and the conveyor for the tableware taking-out unit 3 into a plurality of conveyors, and further, it is possible to provide a plurality of conveyors in each unit. It is also possible to use one conveyor instead of a plurality of conveyors.
 食器搬送部10は特に限定されるものではないが、例えば食器を搬送できるコンベアである。なおコンベアの種類としては、例えばa)コンベア面がフラットで、食器をコンベア上に伏せておくタイプのコンベアであるフラットコンベア、b)コンベア面の下に食器を差し込めるスペースを設け、薄い食器から洗浄ラックまで対応できるアンダーフライトコンベア、c)コンベア上の突起に食器を立てかけて洗浄を行い、薄い食器から洗浄ラックまで対応できるフライトコンベア、d)洗浄ラックに収納した食器を洗浄する場合に用いるラックコンベア等、あらゆるタイプのコンベアに対応可能である。 The tableware transport unit 10 is not particularly limited, but is, for example, a conveyor capable of transporting tableware. The types of conveyors include, for example, a) a flat conveyor that has a flat surface and the tableware is laid down on the conveyor, and b) a space under the conveyor surface where tableware can be inserted, starting from thin tableware. An underflight conveyor that can handle up to a washing rack, c) A flight conveyor that can handle dishes from thin dishes to a washing rack by leaning the dishes against the protrusions on the conveyor, d) A rack used to wash the dishes stored in the washing rack. It can be used for all types of conveyors such as conveyors.
 食器取出部3には、食器取上部としての多関節ロボット12、食器取上部で食器搬送部10から取り上げた食器をまとめて載置するための食器載置部13、食器搬送部10で搬送される食器を識別する共に食器の情報を取得する食器情報取得部14が設けられている。食器取出部3においては、食器情報取得部14からの食器の情報に基づいて、食器取上部としての多関節ロボット12によって食器を取り上げ、取り上げられた食器を食器載置部13へまとめて載置する。ここでは、食器取上部として、多関節ロボット12を例示したが、本実施形態はこれに限定されるものではなく、例えば変形自在のアームを持ったロボット、吊り上げ形のロボット等を含む産業用ロボット等、食器を取り上げることができる仕組みを備えていれば全ての食器取り上げ用の手段が含まれる。食器載置部13においては、食器取上部によって取り上げられた食器が、例えば種類ごとにまとめて載置される。食器載置部13において食器をまとめて載置する方法としては、例えば同じ種類の食器を伏せた状態で同じ方向に重ねて載置する。食器取出部3は、食器情報取得部14からの情報により、食器の種類と姿勢を把握することができるため、例えば平面視長方形の食器の長辺と短辺の方向を揃えた状態で、食器を食器載置部13に重ねて載置することができる。食器の種類としては、食器の大きさ、形状、色彩等が含まれる。また、多関節ロボット12は、食器が食器搬送部10で搬送されている状態、すなわち食器が移動している時でも、食器を食器搬送部10から取り上げることができる。 The tableware take-out unit 3 is transported by an articulated robot 12 as the upper part of the tableware picker, a tableware storage part 13 for collectively placing the tableware picked up from the tableware transporter 10 at the upper part of the tableware picker, and a tableware transporter 10. A tableware information acquisition unit 14 is provided to identify tableware and acquire tableware information. In the tableware taking out unit 3, based on the tableware information from the tableware information acquisition unit 14, the tableware is picked up by the articulated robot 12 as the upper part of the tableware collecting, and the picked up tableware is put together in the tableware storage unit 13. To do. Here, the articulated robot 12 is illustrated as the upper part of the tableware picking, but the present embodiment is not limited to this, and for example, an industrial robot including a robot having a deformable arm, a lifting robot, and the like. If a mechanism for picking up tableware is provided, all means for picking up tableware are included. In the tableware placing section 13, the tableware picked up by the upper part of the tableware picker is placed together, for example, by type. As a method of placing the tableware together in the tableware placing section 13, for example, the same type of tableware is placed face down and stacked in the same direction. Since the tableware extraction unit 3 can grasp the type and posture of the tableware from the information from the tableware information acquisition unit 14, for example, the tableware is in a state where the long side and the short side of the rectangular tableware in a plan view are aligned. Can be placed on the tableware placing portion 13 in an overlapping manner. The type of tableware includes the size, shape, color, etc. of the tableware. Further, the articulated robot 12 can pick up the tableware from the tableware transport unit 10 even when the tableware is being transported by the tableware transport unit 10, that is, when the tableware is moving.
 本実施形態では、食器自動洗浄システムを全自動化する観点から説明しているが、例えば食器投入部1の一部を手動で行うようにすることも可能である。 In the present embodiment, the explanation is given from the viewpoint of fully automating the tableware automatic washing system, but for example, it is also possible to manually perform a part of the tableware loading unit 1.
 食器投入部1は、食器浸漬ユニット、食器かき上げユニット、及び、洗浄ポンプを含み、食器浸漬ユニットは、食器浸漬シンク及びジェットノズルを有し、食器かき上げユニットは食器かき上げ用コンベア、食器整列部及びストレーナを有している。食器浸漬シンクには水が溜められており、ジェットノズルからの水流によって、食器から残渣やゴミが除去される。ストレーナによって濾過された水は、洗浄ポンプによって加圧され、ジェットノズルから噴射される。ジェットノズルからの水流によって、残渣やゴミが除去された食器は、食器かき上げ用コンベアによって、食器洗浄部2に搬送される。なお、洗浄ポンプは食器洗浄部の下部に、ストレーナは食器かき上げ用コンベアの下部に、ジェットノズルは食器かき上げ用コンベアの正面に描かれているが、これは一例にすぎず、食器浸漬ユニット、食器かき上げユニット、及び、食器洗浄部の形状や配置に応じて、洗浄ポンプ、ストレーナ、及び、ジェットノズルの配置は適宜変更可能である。 The tableware input unit 1 includes a tableware immersion unit, a tableware raising unit, and a washing pump, the tableware immersion unit has a tableware immersion sink and a jet nozzle, and the tableware raising unit is a tableware raising conveyor and a tableware alignment. It has a part and a strainer. Water is stored in the tableware immersion sink, and the water flow from the jet nozzle removes residues and debris from the tableware. The water filtered by the strainer is pressurized by the washing pump and ejected from the jet nozzle. The dishes from which residues and dust have been removed by the water flow from the jet nozzle are conveyed to the dishwashing unit 2 by the dish-raising conveyor. The washing pump is drawn at the bottom of the dishwashing section, the strainer is drawn at the bottom of the dishwashing conveyor, and the jet nozzle is drawn at the front of the dishwashing conveyor, but this is just an example, and the dish immersion unit. The arrangement of the washing pump, the strainer, and the jet nozzle can be changed as appropriate according to the shape and arrangement of the dishwashing unit and the dishwashing unit.
 食器整列部は、食器かき上げ用コンベア上において、食器洗浄部に搬送される食器の種類や姿勢を整列させる手段であって、例えば多関節ロボット等の産業用ロボット等を使用することができる。食器かき上げ用コンベアでかき上げられる食器は、そのままの状態では、食器が重なっていたり、食器の姿勢が食器洗浄部2の洗浄に適さない状態となっていたりすることがある。食器整列部は、食器の配置や姿勢を整えることによって、食器洗浄部2において食器が洗浄されやすいように、また、食器取出部3において食器を取り出しやすいようすることができる。例えば食器かき上げ用コンベア上で大皿が伏せられた状態で搬送されると、大皿の下に小皿や、碗等、比較的小さな他の食器が重なり、この後の工程である、食器洗浄部2において荒い残しが生じるおそれがある。また、食器が重なっていると、食器情報取得部14において食器の情報が取得されない場合があり、この場合、食器取出部3において、食器の取り出し漏れが生じる可能性がある。このため、食器かき上げ用コンベア上で大皿が伏せられた状態であると、例えば大皿が他の食器の上に重ならないように、食器かき上げ用コンベア上の突起に大皿を立てかけた状態に整える。 The tableware aligning unit is a means for aligning the types and postures of the tableware transported to the tableware washing unit on the tableware raising conveyor, and for example, an industrial robot such as an articulated robot can be used. As for the dishes that are scooped up by the tableware scooping conveyor, the dishes may overlap or the posture of the dishes may be unsuitable for washing the dishwashing unit 2. By arranging the arrangement and posture of the tableware, the tableware arranging unit can make it easier for the tableware washing unit 2 to wash the tableware and the tableware taking-out unit 3 for taking out the tableware easily. For example, when a large plate is transported face down on a tableware raising conveyor, a small plate, a bowl, or other relatively small tableware is placed under the large plate, and the dishwashing unit 2 is the subsequent process. Rough residue may occur in. Further, if the tableware is overlapped, the tableware information acquisition unit 14 may not acquire the tableware information, and in this case, the tableware extraction unit 3 may not take out the tableware. For this reason, if the platter is laid down on the tableware-raising conveyor, for example, the platter is arranged so that it stands against the protrusion on the tableware-raising conveyor so that the platter does not overlap with other dishes. ..
 また、コンベアの搬送方向に対して、食器の姿勢を揃えておくと、例えばコンベアの進行方向に食器の裏面(糸底)が向くように揃えて並べておくと、食器洗浄部2において各食器を適切に洗浄することができるようになると共に、食器取出部3においては各食器を取り出しやすくすることができる。さらに、後述のように、食器投入部1において、食器の種類、位置、及び姿勢を予め決められたルールによって食器を投入することにより、食器取出部3における食器の種類、位置及び姿勢の画像認識の精度を向上し、食器の取り上げの失敗を低減すると共に、食器取り上げの速度の上にもつなげることができる。 Further, if the tableware is aligned with respect to the transport direction of the conveyor, for example, if the tableware is arranged so that the back surface (thread bottom) of the tableware faces the traveling direction of the conveyor, each tableware is appropriately arranged in the dishwashing unit 2. In addition to being able to wash the dishes, the tableware taking-out unit 3 can easily take out each tableware. Further, as will be described later, by loading the tableware in the tableware loading section 1 according to a predetermined rule for the type, position, and posture of the tableware, the image recognition of the tableware type, position, and posture in the tableware taking-out section 3 It can improve the accuracy of tableware, reduce the failure of tableware picking, and increase the speed of tableware picking.
 食器洗浄部2のタイプに応じて、すなわち、食器投入位置と食器取出位置との配置に応じて、食器投入部1及び食器取出部3の配置が調整される。したがって、図2に示した食器自動洗浄システムの全体構成図は本実施形態の一例であり、直線タイプについて説明したものであり、本実施形態はこの図面に示されたレイアウトに限定されるものではく、コーナータイプやランドライプ等の他の様々なタイプの食器洗浄部2に対応するレイアウトが可能である。 The arrangement of the tableware input unit 1 and the tableware extraction unit 3 is adjusted according to the type of the tableware washing unit 2, that is, according to the arrangement of the tableware input position and the tableware removal position. Therefore, the overall configuration diagram of the automatic dishwashing system shown in FIG. 2 is an example of the present embodiment and describes the linear type, and the present embodiment is not limited to the layout shown in this drawing. In addition, a layout corresponding to various other types of dishwashing parts 2 such as a corner type and a land rip is possible.
 図3は本実施形態に係る食器取出部3のブロック図の一例を示す。食器取出部3は、食器情報取得部14としての画像取得部、食器取出演算部30及び多関節ロボット12を含んでいる。食器取出演算部30は、例えばパーソナルコンピュータ(以下「PC」という。)やタブレット端末等で構成できるものであり、食器位置・姿勢検出部31、食器取出順序計画部32、及び、食器取出動作指令部33を有している。食器位置・姿勢検出部31は、食器情報取得部14から食器の位置、姿勢及び種類等に関する情報を取得する。 FIG. 3 shows an example of a block diagram of the tableware taking-out unit 3 according to the present embodiment. The tableware extraction unit 3 includes an image acquisition unit as a tableware information acquisition unit 14, a tableware extraction calculation unit 30, and an articulated robot 12. The tableware extraction calculation unit 30 can be configured by, for example, a personal computer (hereinafter referred to as “PC”), a tablet terminal, or the like, and includes a tableware position / posture detection unit 31, a tableware extraction order planning unit 32, and a tableware extraction operation command. It has a unit 33. The tableware position / posture detection unit 31 acquires information on the position, posture, type, etc. of the tableware from the tableware information acquisition unit 14.
 食器取出順序計画部31が食器搬送部10にコンベアの稼働、または、停止の指令を出すと共に、食器投入部1にコンベアの稼働に応じた稼働、または、停止の指令を出す。
 また、食器位置・姿勢検出部31が、食器情報取得部14の他に、食器投入部1、食器搬送部10及び食器洗浄部2等と接続し、各部と通信できる場合には、例えば食器投入部1からの食器投入時の食器位置ないし姿勢情報、食器搬送部による食器搬送速度の情報、食器洗浄部による洗浄水流の強さに関する情報等を、食器位置・姿勢検出部31が食器の位置、姿勢及び種類等に関する情報の取得に利用することもできる。
The tableware take-out order planning unit 31 issues a command to the tableware transport unit 10 to operate or stop the conveyor, and also issues a command to the tableware input unit 1 to operate or stop the conveyor according to the operation of the conveyor.
If the tableware position / orientation detection unit 31 is connected to the tableware loading unit 1, the tableware transporting unit 10, the tableware washing unit 2, etc. in addition to the tableware information acquisition unit 14, and can communicate with each unit, for example, tableware insertion. The tableware position / posture detection unit 31 provides information on the tableware position or posture when the tableware is put in from unit 1, information on the tableware transport speed by the tableware transport unit, information on the strength of the washing water flow by the tableware washing unit, etc. It can also be used to acquire information on posture and type.
 食器取出動作指令部33は多関節ロボット12に食器取出し動作の指令を出力し、この指令に基づいて多関節ロボット12は食器を食器搬送部10から取り上げ、食器載置部へ食器をまとめて載置する。 The tableware removal operation command unit 33 outputs a command for the tableware removal operation to the articulated robot 12, and based on this command, the articulated robot 12 picks up the tableware from the tableware transport unit 10 and puts the tableware together on the tableware storage unit. Place.
 図4は本実施形態に係る食器取出部3の概観図の一例である。図4Aは食器取出部3の平面図であり、図4Bは食器取出部3の斜視図である。食器取出部3においては、食器情報取得部14からの食器の情報に基づいて、食器取上部としての多関節ロボット12によって食器搬送部10によって搬送されている食器を取り上げ、取り上げられた食器を食器載置部13へまとめて載置する。ここで、図4A及び図4Bは、多関節ロボット12、食器搬送部10及び食器載置部13の配置は本実施形態の一例であり、例えば食器搬送部10を挟んで、多関節ロボット12の反対側に、食器搬送部10を設けることもできる。このように、食器搬送部10上で多関節ロボット12が食器を取り上げる位置と食器載置部13との距離をできるだけ短く設定することにより、食器取上部12の動作を高速化することができる。 FIG. 4 is an example of an overview diagram of the tableware taking-out unit 3 according to the present embodiment. FIG. 4A is a plan view of the tableware taking-out section 3, and FIG. 4B is a perspective view of the tableware taking-out section 3. In the tableware taking out unit 3, based on the tableware information from the tableware information acquisition unit 14, the tableware transported by the tableware transporting unit 10 by the articulated robot 12 as the tableware collecting upper part is picked up, and the picked up tableware is picked up. They are collectively placed on the mounting unit 13. Here, in FIGS. 4A and 4B, the arrangement of the articulated robot 12, the tableware transporting unit 10 and the tableware placing unit 13 is an example of the present embodiment, and for example, the articulated robot 12 sandwiches the tableware transporting unit 10. A tableware carrier 10 may be provided on the opposite side. In this way, by setting the distance between the position where the articulated robot 12 picks up the tableware and the tableware placing portion 13 on the tableware transporting unit 10 is set as short as possible, the operation of the tableware collecting upper portion 12 can be speeded up.
 食器搬送部10の進行側の端部には、多関節ロボット12が取り上げできなかった食器を受け取るための食器受取部(図示省略)が設けられている。多関節ロボット12の各関節には可動限界があるため、1つの姿勢から次の姿勢に変位する際には、可動限界に伴う制限がある。食器の姿勢によっては、多関節ロボット12の可動限界のために、食器を取り上げできない可能性がある。また、食器情報取得部14がARマーカ42を適切に読み取ることができなかった場合、例えば食器同士が重なっていた場合等には、多関節ロボット12が食器を取り上げできない可能性がある。そこで、食器搬送部10の進行側の端部に食器受取部を設けておくことにより、例え多関節ロボット12が食器を取り上げできなかった場合にも、安全に食器を受け取ることができ、食器自動洗浄システムに冗長性を持たせることができる。 At the end of the tableware transport unit 10 on the advancing side, a tableware receiving unit (not shown) for receiving the tableware that the articulated robot 12 could not pick up is provided. Since each joint of the articulated robot 12 has a movable limit, there is a limitation due to the movable limit when displacing from one posture to the next posture. Depending on the posture of the tableware, it may not be possible to pick up the tableware due to the movable limit of the articulated robot 12. Further, if the tableware information acquisition unit 14 cannot properly read the AR marker 42, for example, if the tableware overlaps with each other, the articulated robot 12 may not be able to pick up the tableware. Therefore, by providing a tableware receiving unit at the advancing end of the tableware transporting unit 10, even if the articulated robot 12 cannot pick up the tableware, the tableware can be safely received and the tableware is automatically installed. Redundancy can be added to the cleaning system.
 図5は本実施形態に係るマーカの使用例の説明図の一例である。本実施例では、マーカ、例えばARマーカ42を食器の裏面(糸底)に設け、食器情報取得部14としての食器検出用カメラで食器の画像を取得して画像認識することにより、食器を認識すると共に、食器の位置、姿勢及び種類に関する情報を取得する一例について説明する。 FIG. 5 is an example of an explanatory diagram of a usage example of the marker according to the present embodiment. In this embodiment, a marker, for example, an AR marker 42 is provided on the back surface (thread bottom) of the tableware, and the tableware is recognized by acquiring an image of the tableware with a tableware detection camera as the tableware information acquisition unit 14 and recognizing the image. In addition, an example of acquiring information on the position, posture, and type of tableware will be described.
 食器情報取得部14としての食器検出用カメラは、図4に示されているように例えば食器搬送部10の上方であって、食器取上部12の上流側であって、食器搬送部10の両側に、食器搬送部10の幅方向の中央を向くように設けられている。食器の裏面(糸底)には、食器の種類ごとに異なるマーカ、例えばARマーカ42が設けられている。なお、本実施形態のマーカとしてはARマーカ42に限定されるものではなく、食器の種類、食器の位置、又は、食器の姿勢のいずれか少なくとも1つを識別可能なマーカであれば、どのようなマーカを用いてもよい。
 なお、図4では食器情報取得部14が2つ設けられるものを例示したが、食器情報取得部14の数は2つに限らず1以上であればよい。例えば、4つの食器情報取得部14を設けてもよい。4つの食器情報取得部14を設ける場合、図4に示す2つの食器情報取得部14のそれぞれに対して高さを同じくしてコンベアの搬送方向に離間した位置に食器情報取得部14を設ける。例えば、4つの食器情報取得部14を4角形のラインの各角に対応する位置に配置すると共にコンベアの横幅方向中心の所定領域に光軸が集まるように向きを調整した場合、4つの食器情報取得部14によって搬送方向の正逆両方向から食器の画像を取得することができる。
 すなわち、4つの食器情報取得部14を設けると、コンベアの進行方向に食器11の裏面(糸底)が向くように揃えて並べるルールから外れた食器11についても、コンベアの進行方向側に光軸が傾けられた食器情報取得部14によって食器11の裏面(糸底)の画像を取得することができる。
As shown in FIG. 4, the tableware detection camera as the tableware information acquisition unit 14 is, for example, above the tableware transport unit 10, upstream of the tableware collector upper portion 12, and on both sides of the tableware transport unit 10. Is provided so as to face the center of the tableware transport unit 10 in the width direction. On the back surface (thread bottom) of the tableware, a marker different for each type of tableware, for example, an AR marker 42 is provided. The marker of the present embodiment is not limited to the AR marker 42, and any marker can identify at least one of the type of tableware, the position of the tableware, and the posture of the tableware. Markers may be used.
Although FIG. 4 illustrates that two tableware information acquisition units 14 are provided, the number of tableware information acquisition units 14 is not limited to two and may be one or more. For example, four tableware information acquisition units 14 may be provided. When the four tableware information acquisition units 14 are provided, the tableware information acquisition units 14 are provided at positions that are the same height as each of the two tableware information acquisition units 14 shown in FIG. 4 and are separated from each other in the transport direction of the conveyor. For example, when the four tableware information acquisition units 14 are arranged at positions corresponding to each corner of the quadrangular line and the orientation is adjusted so that the optical axes are gathered in a predetermined area at the center in the width direction of the conveyor, the four tableware information The acquisition unit 14 can acquire images of tableware from both the forward and reverse directions of the transport direction.
That is, when the four tableware information acquisition units 14 are provided, the optical axis of the tableware 11 that deviates from the rule of arranging the tableware 11 so that the back surface (thread bottom) of the tableware 11 faces the traveling direction of the conveyor is arranged on the traveling direction side of the conveyor. An image of the back surface (thread bottom) of the tableware 11 can be acquired by the tilted tableware information acquisition unit 14.
 ARマーカ42について、「ARマーカーとは、画像認識型AR(Augmented Reality:拡張現実)システムにおいて、付加情報を表示する位置を指定するための標識となる、決まったパターンの画像のこと。」(ウェブサイトIT用語辞典e-Wordsによる)。ARマーカ42を用いることにより、食器検出用カメラで検出される画像において、食器の画像は見る角度や距離によって変化するが、ARマーカ42を利用すれば、ARマーカ42に付加されたデジタル情報を読み出すことができると共に、ARマーカ42の姿勢、すなわちARマーカが付された食器の姿勢を検出することができる。また、ARマーカ42に食器の種類をコード化しておけば、ARマーカを食器検出用カメラで撮影することにより、食器の位置、姿勢及び種類等を食器の上方として検出することが可能である。なお、ARマーカ42を撮影することによって取得する食器の位置情報としては、食器の裏面(糸底)の中心位置が挙げられる。 Regarding the AR marker 42, "The AR marker is an image having a fixed pattern that serves as a marker for designating a position for displaying additional information in an image recognition type AR (Augmented Reality) system." ( Website IT Glossary e-Words). By using the AR marker 42, in the image detected by the tableware detection camera, the image of the tableware changes depending on the viewing angle and distance, but if the AR marker 42 is used, the digital information added to the AR marker 42 can be obtained. It can be read out, and the posture of the AR marker 42, that is, the posture of the tableware with the AR marker can be detected. Further, if the type of tableware is coded in the AR marker 42, the position, posture, type, etc. of the tableware can be detected as above the tableware by photographing the AR marker with the tableware detection camera. The position information of the tableware acquired by photographing the AR marker 42 includes the center position of the back surface (thread bottom) of the tableware.
 多関節ロボット12のアームの先端側には、ハンド40が取り付けられており、ハンド40の先端側には食器を吸着するための吸着部41が設けられている。 A hand 40 is attached to the tip side of the arm of the articulated robot 12, and a suction portion 41 for sucking tableware is provided on the tip side of the hand 40.
 図6は本実施形態に係るハンド40の斜視図の一例を示す。ハンド40は、延存部45、延存部45の一端側のハンド取付部46、延存部45の他端側の吸着部41、及び、真空ホース47を備えている。ハンド取付部46は多関節ロボット12のアーム側に取り付けられる。真空ホース47の配管は延存部45を通して吸着部41まで延存しており、吸着部41は真空により食器の裏面(糸底)を吸着することができる。なお、真空ホースの他端側は多関節ロボット12に設けられたロボット側真空ホース取付部(図示省略)に取り付けられており、このロボット側真空ホース取付部により吸着部41は真空引きされている。 FIG. 6 shows an example of a perspective view of the hand 40 according to the present embodiment. The hand 40 includes a extending portion 45, a hand mounting portion 46 on one end side of the extending portion 45, a suction portion 41 on the other end side of the extending portion 45, and a vacuum hose 47. The hand mounting portion 46 is mounted on the arm side of the articulated robot 12. The piping of the vacuum hose 47 extends to the suction portion 41 through the extension portion 45, and the suction portion 41 can suck the back surface (thread bottom) of the tableware by vacuum. The other end of the vacuum hose is attached to a robot-side vacuum hose attachment portion (not shown) provided on the articulated robot 12, and the suction portion 41 is evacuated by the robot-side vacuum hose attachment portion. ..
 多関節ロボット12が食器を吸着して搬送する際、大きい食器、重い食器を高速で運ぶと、振動が大きくなり、後の積み上げがうまくいかなくなることがある。この振動の原因は、ハンド40の吸着部41が、食器を吸着後に変形することである。吸着部41を囲むように、パッドよりも剛性の高いリング状の部材を設置し、吸着時に食器を内力で吸着し、ハンド40の変形を抑えることにより、多関節ロボット12により食器を吸着して搬送する際の食器の振動を大幅に低減することができる。 When the articulated robot 12 sucks and transports tableware, if large or heavy tableware is transported at high speed, vibration will increase and subsequent stacking may not be successful. The cause of this vibration is that the suction portion 41 of the hand 40 deforms after sucking the tableware. A ring-shaped member having a higher rigidity than the pad is installed so as to surround the suction portion 41, and the tableware is sucked by an internal force at the time of suction to suppress the deformation of the hand 40, so that the tableware is sucked by the articulated robot 12. The vibration of tableware during transportation can be significantly reduced.
 図7は本実施形態に係るハンド40Aの別の実施例の斜視図の一例を示す。ハンド40Aは延存部45、延存部45の一端側のハンド取付部46、延存部45の他端側の結合部49、結合部に設けられた第1の吸着部41Aと第2の吸着部41B、及び、ハンド側真空ホース取付部48を備えている。ハンド側真空ホース取付部48には、図示されない真空ホースが取り付けられており、この真空ホースの他端はロボット側真空ホース取付部(図示省略)に取り付けられている。ハンド側真空ホース取付部からの配管は延存部45を通して吸着部41A,41Bまで延存されており、吸着部41A,41Bは真空により食器の裏面(糸底)を吸着することができる。両吸着部41A,41Bは略90度間隔で結合部49に設けられている。吸着部41A,41Bが2箇所あることによって、多関節ロボット12が無理な姿勢を取ることなく食器を取り上げることができるようになる。また、これにより食器の取り出し失敗の割合を低減することができる。 FIG. 7 shows an example of a perspective view of another embodiment of the hand 40A according to the present embodiment. The hand 40A includes an extension portion 45, a hand attachment portion 46 on one end side of the extension portion 45, a coupling portion 49 on the other end side of the extension portion 45, and a first suction portion 41A and a second suction portion 41A provided on the coupling portion. A suction portion 41B and a hand-side vacuum hose attachment portion 48 are provided. A vacuum hose (not shown) is attached to the hand-side vacuum hose attachment portion 48, and the other end of the vacuum hose is attached to the robot-side vacuum hose attachment portion (not shown). The piping from the hand-side vacuum hose attachment portion extends to the suction portions 41A and 41B through the extension portion 45, and the suction portions 41A and 41B can suck the back surface (thread bottom) of the tableware by vacuum. Both suction portions 41A and 41B are provided in the coupling portion 49 at intervals of approximately 90 degrees. Since the suction portions 41A and 41B are provided at two locations, the articulated robot 12 can pick up the tableware without taking an unreasonable posture. In addition, this can reduce the rate of failure to take out tableware.
 図8Aは、ハンドの別の変形例の斜視図であり、図8Bは、ハンドの別の変形例の側面図である。図8では、図7と同じ構成には同一の符号を用い、その説明は省略する。 FIG. 8A is a perspective view of another modified example of the hand, and FIG. 8B is a side view of another modified example of the hand. In FIG. 8, the same reference numerals are used for the same configuration as in FIG. 7, and the description thereof will be omitted.
 多関節ロボット12は、食器11の認識(食器11の位置と姿勢)の誤差により、食器11ではない位置に取り上げにいくことがある。例えば、多関節ロボット12が食器11よりも奥側の位置に取り上げにいくことがある。
 その際、吸着部41等のハンド40の一部が、食器搬送部10のコンベアや他の部材に接触し、食器11を取り上げることができないままにハンド40をコンベアに押し付けてしまうことがあり、コンベア、食器11、あるいは、ハンド40を破損させてしまうおそれがあった。
The articulated robot 12 may pick up the tableware 11 at a position other than the tableware 11 due to an error in recognition of the tableware 11 (position and posture of the tableware 11). For example, the articulated robot 12 may pick up the tableware 11 at a position behind the tableware 11.
At that time, a part of the hand 40 such as the suction unit 41 may come into contact with the conveyor and other members of the tableware transport unit 10 and press the hand 40 against the conveyor without being able to pick up the tableware 11. There was a risk of damaging the conveyor, tableware 11, or the hand 40.
 従来は、ハンド40に力覚センサ(6軸センサ)を設け、ハンド40に負荷される力を力覚センサによって検出し、ハンド40に過大な外力が負荷された場合、多関節ロボット12の動作を止めていた。
 しかしながら、力覚センサは、水濡れに弱く、衝撃力で壊れ易く、高価であるという理由から、省略したいという要請がある。
Conventionally, a force sensor (6-axis sensor) is provided on the hand 40, the force applied to the hand 40 is detected by the force sensor, and when an excessive external force is applied to the hand 40, the articulated robot 12 operates. Was stopped.
However, there is a demand for the force sensor to be omitted because it is vulnerable to water wetting, is easily broken by impact force, and is expensive.
 ハンド40Cは、複数のバネ機構60及びボールジョイント61を備えている。なお、ハンド40Cは、力覚センサ62も備えている。
 複数のバネ機構60及びボールジョイント61は、ハンド40Cがコンベア等の押し付け先から受ける反力(外力)及びコンベア、及び/又は食器11がハンド40Cから受ける押し付け力を低減させる。
 複数のバネ機構60は、円形の板状部分であるハンド取付部46とハンド取付部46に対向配置された円形板状部材との間に設けられている。
The hand 40C includes a plurality of spring mechanisms 60 and a ball joint 61. The hand 40C also includes a force sensor 62.
The plurality of spring mechanisms 60 and the ball joint 61 reduce the reaction force (external force) received by the hand 40C from the pressing destination of the conveyor or the like and the pressing force received by the conveyor and / or the tableware 11 from the hand 40C.
The plurality of spring mechanisms 60 are provided between the hand mounting portion 46, which is a circular plate-shaped portion, and the circular plate-shaped member arranged to face the hand mounting portion 46.
 バネ機構60は、ハンド40Cがコンベア等に押し付けられた際、弾性を有する部分がハンド取付部46と円形板状部材との間で外力に応じて弾性変形されることによって外力を低減させるものである。
 このバネ機構60は、バネ定数を適切に設定することによって、外力が負荷されていない弾性的に中立な状態では変形することなく過大な外力が負荷された場合のみ弾性変形されるようになっている。
The spring mechanism 60 reduces the external force by elastically deforming the elastic portion between the hand mounting portion 46 and the circular plate-shaped member in response to the external force when the hand 40C is pressed against the conveyor or the like. is there.
By appropriately setting the spring constant, the spring mechanism 60 does not deform in an elastically neutral state where no external force is applied, and is elastically deformed only when an excessive external force is applied. There is.
 ボールジョイント61は、ハンド取付部46の中央位置に配置される。これにより、ボールジョイント61を中心として回転される方向にのみバネ機構60による弾性力が作用されるようになっている。
 このため、ハンド40Cの手首(ハンド取付部46)から離れたところに吸着部41A,41Bがあることにより手首に並進力よりもモーメントが大きくかかる場合であっても、ハンド40Cの並進方向への不要なたわみを防ぎつつ、吸着部41A,41Bから受けるモーメントにはバネ機構60が弾性変形して倣うようになっている。
The ball joint 61 is arranged at the center position of the hand mounting portion 46. As a result, the elastic force of the spring mechanism 60 is applied only in the direction of rotation around the ball joint 61.
Therefore, even if the suction portions 41A and 41B are located away from the wrist (hand mounting portion 46) of the hand 40C and a moment is applied to the wrist larger than the translational force, the hand 40C can be moved in the translation direction. The spring mechanism 60 elastically deforms and imitates the moment received from the suction portions 41A and 41B while preventing unnecessary deflection.
 このハンド40Cを用いることによって、食器11を取り上げることができないまま吸着部41等のハンド40Cの一部がコンベアに押し付けられた場合であっても、コンベア等の押し付け先からハンド40Cが受ける反力(外力)、及びコンベア、食器11がハンド40Cから受ける押し付け力を低減させることができるため、コンベア、食器11、及びハンド40Cが破損することを防ぐことができる。 By using this hand 40C, even if a part of the hand 40C such as the suction unit 41 is pressed against the conveyor without being able to pick up the tableware 11, the reaction force received by the hand 40C from the pressing destination of the conveyor or the like. (External force) and the pressing force received by the conveyor and the tableware 11 from the hand 40C can be reduced, so that the conveyor, the tableware 11 and the hand 40C can be prevented from being damaged.
 なお、本実施形態では、ボールジョイント61を中心として回転される方向にのみ弾性力が作用されるようにしているが、ボールジョイント61の軸方向についても弾性力が作用される構成にしても構わない。 In the present embodiment, the elastic force is applied only in the direction of rotation around the ball joint 61, but the elastic force may also be applied in the axial direction of the ball joint 61. Absent.
 図9は本実施形態に係る食器載置部13の説明図であり、図9Aは積み上げ式の食器載置部の説明図、図9Bは積み下げ式の食器載置部の説明図である。図9Aの積み上げ式の食器載置部13の場合には、食器載置部13の上面は平面としておく。多関節ロボット12は、食器情報取得部14で取得された食器の種類の情報に基づいて、食器の種類ごとに食器載置部13の所定の場所に食器を積み重ねていく。食器取出演算部30においては、食器載置部13にいくつの食器を載置したのか食器の種類ごとにカウントしているので、食器の種類と数に応じた食器が積み上げられた高さを予測することが可能である。また、食器載置部13に位置に応じて食器の有無を検出する手段、食器が積み上げられた高さを検出する手段を設けておくこともでき、例えば、食器載置部13を撮影する食器載置部画像取得部(図示省略)を解析することにより、食器載置部13に載置されている食器の位置、種類及び個数を検出することができる。 FIG. 9 is an explanatory view of the tableware placing part 13 according to the present embodiment, FIG. 9A is an explanatory view of the stacking type tableware placing part, and FIG. 9B is an explanatory view of the stacking type tableware placing part. In the case of the stacking type tableware placing portion 13 of FIG. 9A, the upper surface of the tableware placing portion 13 is set to be flat. Based on the tableware type information acquired by the tableware information acquisition unit 14, the articulated robot 12 stacks the tableware at a predetermined place in the tableware storage unit 13 for each type of tableware. Since the tableware extraction calculation unit 30 counts how many dishes are placed in the tableware storage unit 13 for each type of tableware, the height at which the tableware is stacked according to the type and number of tableware is predicted. It is possible to do. Further, the tableware placing portion 13 may be provided with a means for detecting the presence or absence of tableware according to the position and a means for detecting the height at which the tableware is stacked. For example, the tableware for photographing the tableware placing portion 13. By analyzing the tableware image acquisition unit (not shown), the position, type, and number of tableware placed on the tableware storage unit 13 can be detected.
 図9Bの積み下げ式の食器載置部13の場合には、種類ごとに食器を積み下げていく位置を決めておき、各積み下げ位置において食器の重さに応じて昇降する手段を設けることにより、次に積まれる食器がちょうど食器載置部13の上面に位置するような位置になるように調整することができる。これにより、多関節ロボット12は食器を積み下げていく場所及び高さを予め把握しているため、正確に各食器を積み下げていくことが可能である。なお、各積み下げ位置において食器の重さに応じて昇降する手段を設けない場合には、食器取出演算部30においては、食器載置部13にいくつの食器を載置したのか食器の種類ごとにカウントしておくことで、食器が積み上げられた高さを検出する手段を設けておくことにより、所定の積み下げ高さまで各食器を載置することができる。また、各食器が載置されている高さを検出する適宜の手段を設けた場合には、多関節ロボット12に対して各食器の積み下げ位置を指示することも可能である。 In the case of the stacking type tableware placing portion 13 of FIG. 9B, a position for stacking the tableware is determined for each type, and a means for raising and lowering according to the weight of the tableware is provided at each stacking position. Therefore, the tableware to be stacked next can be adjusted so as to be located on the upper surface of the tableware placing portion 13. As a result, since the articulated robot 12 knows in advance the place and height at which the tableware is to be stacked, it is possible to accurately stack each tableware. If no means for raising and lowering according to the weight of the tableware is provided at each stacking position, the tableware extraction calculation unit 30 indicates how many tableware are placed in the tableware storage unit 13 for each type of tableware. By providing a means for detecting the height at which the tableware is stacked, each tableware can be placed up to a predetermined stacking height. Further, when an appropriate means for detecting the height on which each tableware is placed is provided, it is also possible to instruct the articulated robot 12 on the stacking position of each tableware.
[食器情報取得部について]
 食器の種類ごとに食器載置部13へ食器を積み分けるため、食器の裏面(糸底)に種類ごとに異なるARマーカを設けている。ARマーカを食器に設けることにより、食器の位置と姿勢が一定でないものでも多関節ロボット12が食器を取り上げることができる。食器情報取得部14としての複数の食器検出用カメラの入力を用いて、カルマンフィルタによる個々のARマーカの追跡を行うことにより、食器の位置及び姿勢を認識する精度を上げることができる。また、食器搬送部10が動作中であっても、多関節ロボット12は移動中の食器を取り上げることができる。
[About the tableware information acquisition department]
In order to stack tableware on the tableware storage unit 13 for each type of tableware, different AR markers are provided on the back surface (thread bottom) of the tableware for each type. By providing the AR marker on the tableware, the articulated robot 12 can pick up the tableware even if the position and posture of the tableware are not constant. By using the inputs of the plurality of tableware detection cameras as the tableware information acquisition unit 14 and tracking the individual AR markers by the Kalman filter, the accuracy of recognizing the position and orientation of the tableware can be improved. Further, even when the tableware transport unit 10 is in operation, the articulated robot 12 can pick up the moving tableware.
[食器取上部について]
 多関節ロボット12により食器をピックアップするためのロボットの姿勢は無数に存在するが、実際にロボットが取れる姿勢ないし取りやすい姿勢は限られている。ロボットの姿勢を適切に選ばないと、ロボットが動けない姿勢、もしくは、可動限界に近すぎて停止してしまう。例えばロボットの姿勢が特異点を取った場合には、ロボットが停止してしまうことがある。そこで、多関節ロボット12の動きやすさの指標である可操作度と、可動限界までの近さを用いて、いくつかの姿勢の候補のうち、ロボットが動きやすい姿勢を選んで食器をピックアップする。
[About the upper part of the tableware]
There are innumerable postures of the robot for picking up tableware by the articulated robot 12, but the postures that the robot can actually take or the postures that are easy to take are limited. If the posture of the robot is not properly selected, the robot will not be able to move, or it will stop because it is too close to the movable limit. For example, if the posture of the robot takes a singular point, the robot may stop. Therefore, using the operability, which is an index of the mobility of the articulated robot 12, and the proximity to the movable limit, the robot selects a posture that is easy to move from among several posture candidates and picks up the tableware. ..
 通常、多関節ロボット12の動きは、スタートからゴールまでの最短距離を動こうとするが、食器のピックアップ時に最短距離を動くと関節が可動範囲を超えてしまう可能性がある。そこで、スタートからゴールまでの多関節ロボット12の動きを予めシミュレーションし、可動範囲を超える可能性のある関節の角度を、予めゴールまでの最短距離に近い角度に合わせてからスタートする。これにより、ゴールまでの姿勢にたどりつくまでに、特定の関節が可動範囲を超えてしまう状況を防ぐことができる。 Normally, the movement of the articulated robot 12 tries to move the shortest distance from the start to the goal, but if the shortest distance is moved when picking up tableware, the joints may exceed the movable range. Therefore, the movement of the articulated robot 12 from the start to the goal is simulated in advance, and the angle of the joint that may exceed the movable range is adjusted in advance to an angle close to the shortest distance to the goal before starting. As a result, it is possible to prevent a situation in which a specific joint exceeds the range of motion before reaching the posture to the goal.
 食器載置部13に食器を積み上げるとき、高さが合わないと、食器を落下させて騒音が大きくなるおそれ、あるいは、食器を押し付けることにより食器を破損するおそれがある。そこで、多関節ロボット12のアームとハンド40との間に力覚センサを設け、食器が押し付けられる力を検知し、食器が落下しないようにする。コンプライアンス制御を用いて、多関節ロボット12のアーム先端ないしハンド40に仮想的なバネ性を持たせて、食器を押し付けても破損したりしないようにする。積み重ね方がずれている方向を力覚センサで検知して、そちらの方向へ倣うようにする。 When stacking tableware on the tableware storage unit 13, if the height does not match, the tableware may drop and make noise, or the tableware may be damaged by pressing the tableware. Therefore, a force sensor is provided between the arm of the articulated robot 12 and the hand 40 to detect the force with which the tableware is pressed and prevent the tableware from falling. By using the compliance control, the tip of the arm or the hand 40 of the articulated robot 12 is given a virtual spring property so that the tableware will not be damaged even if it is pressed against it. The force sensor detects the direction in which the stacking method is misaligned, and follows that direction.
 食器の認識に誤りがあった場合に吸着が出来ない場合等、食器や食器搬送部10を吸着部41以外で触って押し付けて、多関節ロボット12や食器搬送部10の故障の原因になる可能性や、食器を壊す可能性がある。コンプライアンス制御を利用しつつ、力覚センサで積み重ね方がずれている方向を検知すると同時に、設定した手先の力の閾値を超える力がかかった場合に、ピックアップ失敗として異常処理(食器を見逃す、あるいは、もう一度センサで計測して正しい位置姿勢を計測する等の処理)を行えば、処理を続けることが可能になる。 If the tableware cannot be sucked when the tableware is recognized incorrectly, the tableware or tableware transporting unit 10 may be touched and pressed by a device other than the suction unit 41, which may cause a failure of the articulated robot 12 or the tableware transporting unit 10. There is a possibility of breaking the sex and tableware. While using compliance control, the force sensor detects the direction in which the stacking method is misaligned, and at the same time, if a force that exceeds the set hand force threshold is applied, abnormal processing (tableware is overlooked or tableware is overlooked) is performed as a pickup failure. , Processing such as measuring with a sensor again and measuring the correct position and orientation) makes it possible to continue the processing.
 食器を食器載置部13に積み重ねる時、食器載置部1の側に位置ずれがあったり、先に置いた食器の位置姿勢がずれていたりした場合に、食器を押し付ける力が発生して食器を破損したり、食器が跳ねて載置に失敗する可能性がある。そこで、コンプライアンス制御を利用することのより、これらの失敗確率を低減することができる。また、コンプライアンス制御で手先がずれる方向が分かるので、そちらに手先の目標値を移動させる、すなわち、倣うことで、位置姿勢のずれ自体を推定して解消することが可能になる。 When stacking tableware on the tableware storage unit 13, if the position of the tableware storage unit 1 is misaligned or the position and orientation of the tableware placed earlier is misaligned, a force to press the tableware is generated and the tableware is tableware. There is a possibility that the tableware may be damaged or the tableware may bounce and fail to be placed. Therefore, the probability of these failures can be reduced by using compliance control. In addition, since the direction in which the hand shifts can be known by compliance control, it is possible to estimate and eliminate the position / posture shift itself by moving the target value of the hand there, that is, by imitating it.
[予測について]
 ARマーカを検出する際、カメラの一般的な特性として、カメラの光軸方向(奥行き方向)の精度が悪化する。ARマーカの位置の精度が悪いと、ロボットが食器をピックアップする位置がずれて、ピッキングに失敗する場合がある。また、ARマーカの向きがカメラからよく見えない場合や、隠れている場合には、食器を検出できない場合がある。そこで、カメラを複数台使い、ARマーカをトラッキングする。ARマーカをトラッキングするにはカルマンフィルタを用いる。複数のカメラから計測したマーカの位置及び姿勢をカルマンフィルタで混合して推定することにより、カメラからARマーカを計測できない瞬間があった場合でも、ARマーカを見失うことなくその位置及び姿勢を追跡ですることができる。
[Forecast]
When detecting an AR marker, as a general characteristic of the camera, the accuracy in the optical axis direction (depth direction) of the camera deteriorates. If the position of the AR marker is not accurate, the position where the robot picks up the tableware may shift and picking may fail. In addition, if the direction of the AR marker cannot be seen well from the camera or if it is hidden, the tableware may not be detected. Therefore, multiple cameras are used to track the AR marker. A Kalman filter is used to track the AR marker. By mixing and estimating the positions and orientations of markers measured from multiple cameras with a Kalman filter, even if there is a moment when the AR markers cannot be measured from the cameras, the positions and orientations can be tracked without losing sight of the AR markers. be able to.
 カルマンフィルタを用いて、より精度よく推定するため次の2点の改良を行った。
(a)カルマンフィルタには、誤差の大きさ(誤差の共分散行列)をパラメータとして設定することができる。カメラの光軸方向への誤差は原理的に大きいことは分かっているので、カメラの光軸方向の誤差の値を大きく設定することで、位置と姿勢の推定制度が向上する。
(b)カルマンフィルタでは、状態量として他のパラメータ、例えば(イ)マーカの大きさが想定と違う、(ロ)カメラの姿勢が想定よりも少しずれている、(ハ)コンベアの向きが微妙にずれている等の量を推定することができる。これらの状態量を用いることにより、より精度よくマーカの位置及姿勢を推定することができる。
The following two improvements were made to make more accurate estimates using the Kalman filter.
(A) The magnitude of the error (covariance matrix of the error) can be set as a parameter in the Kalman filter. Since it is known that the error in the optical axis direction of the camera is large in principle, setting a large value of the error in the optical axis direction of the camera improves the position and orientation estimation system.
In the Kalman filter, other parameters such as the state quantity, for example, (a) the size of the marker is different from the assumption, (b) the attitude of the camera is slightly different from the assumption, (c) the direction of the conveyor is slightly delicate. It is possible to estimate the amount of deviation. By using these state quantities, the position and orientation of the marker can be estimated more accurately.
 カメラの配置については、カメラの光軸方向に測定精度が悪いことが分かっているので、カメラの光軸方向をできるだけ違う向きにすることで、精度の悪化の偏りを防ぐことができる。そのため、画像取得部として2つのカメラは、コンベアをはさんで両側からコンベアの中心方向に光軸が向くように配置されている。 Regarding the placement of the camera, it is known that the measurement accuracy is poor in the direction of the optical axis of the camera, so by setting the direction of the optical axis of the camera as different as possible, it is possible to prevent a bias in the deterioration of accuracy. Therefore, the two cameras as the image acquisition unit are arranged so that the optical axis faces the center of the conveyor from both sides of the conveyor.
 食器を食器洗浄部に投入するには、一定のルールがあるので、このルールに従って取り出す際の食器の位置も予測することができる。また、食器を食洗器に投入する際にマーカ情報を読み取る場合には、予めコンベア上の食器の配置が把握されているため、食器をピックアップする位置を精度よく予測できるようになる。 There are certain rules for putting dishes into the dishwashing department, so you can predict the position of the dishes when you take them out according to these rules. Further, when the marker information is read when the tableware is put into the dishwasher, the arrangement of the tableware on the conveyor is known in advance, so that the position where the tableware is picked up can be predicted accurately.
 また、食器をピックアップする手順は、1)複数のカメラでマーカを計測し、その位置をカルマンフィルタで推定し、2)マーカがカメラの視野から外れると、コンベアの移動量(コンベアに設置したエンコーダで直接計測した移動量)から、移動後のマーカの位置を推定しつづけ、3)推定した位置に基づいて、そこにあるはずの食器をロボットがピックアップするという手順が挙げられる。コンベア上で食器が他のものに当たったり、コンベア上で食器が不安定であったりした場合、カメラでマーカを観測していない間に食器が動いてしまうことがあり得るため、本来は、ロボットが食器をピックアップする直前まで、カメラでマーカを観測し続けるのが最も確実である。常に食器をカメラの視野内に収めることができれば、食器の位置の測定精度はさらに改善される。ただし、カルマンフィルタ自体は、常に食器が視野内に入っているとしても、複数のカメラを使って観測の精度を上げるためには必要である。なお、ロボットの動作範囲の近くにカメラの視野をむけるためにカメラをロボットに近づけると、ロボットがカメラにあたってしまうことがあるため、全体の構成やカメラの配置を工夫する必要がある。 In addition, the procedure for picking up tableware is as follows: 1) Measure the markers with multiple cameras, estimate their positions with the Kalman filter, and 2) When the markers are out of the field of view of the cameras, the amount of movement of the conveyor (with the encoder installed on the conveyor) The procedure is that the robot continues to estimate the position of the marker after movement from the directly measured movement amount), and 3) the robot picks up the tableware that should be there based on the estimated position. If the tableware hits something else on the conveyor, or if the tableware is unstable on the conveyor, the tableware may move while the camera is not observing the marker. It is most certain that you will continue to observe the markers with your camera until just before you pick up the dishes. If the tableware can always be kept within the field of view of the camera, the accuracy of measuring the position of the tableware will be further improved. However, the Kalman filter itself is necessary to improve the accuracy of observation using multiple cameras, even if the tableware is always in the field of view. If the camera is brought close to the robot in order to have the camera's field of view close to the robot's operating range, the robot may hit the camera, so it is necessary to devise the overall configuration and the arrangement of the cameras.
[学習について]
 食器の投入をロボットで行う場合には、食器の投入時のルールを、ピックアップの失敗事例を受けて随時修正していくことができる。ロボットが無理な姿勢にならないように、食器を投入していくルールを学習によって最適化していくことができる。例えば、ピックアップに適した入れ方、規則正しい食器の入れ方、あるいは取りやすい向きとした食器の入れ方を、学習、例えば強化学習のような仕組みで食器の投入ルールを最適化することが可能である。
[About learning]
When the tableware is put in by a robot, the rules for putting the tableware can be corrected at any time in response to the pick-up failure case. By learning, the rules for throwing tableware can be optimized so that the robot does not take an unreasonable posture. For example, it is possible to optimize the tableware insertion rule by learning, for example, reinforcement learning, how to insert tableware suitable for pickup, how to insert regular tableware, or how to insert tableware in an easy-to-take orientation. ..
 強化学習は、ロボットの行動の結果に対する報酬を設定し、その報酬をできるだけ高めるような行動を獲得させる方法である。報酬の一例としては、食器ピックアップの成功と失敗の結果を真空吸着の圧力センサで判定し、ピックアップできた場合に報酬を与えるようにする。観測した食器の画像などを入力にして、この報酬を最大化するようにロボットのピックアップ時の軌道の補正量(の決め方)を獲得するような強化学習を行うことが有効である。
なお、実際に本実施形態の食器自動洗浄システムを運転しながら強化学習を行うには、所定の試行回数が必要であるため、強化学習が進みピックアップ制度が向上するまでの間に、食器とアームとの衝突などによる破損や故障を防ぐために、前述のコンプライアンス制御を採用することが効果的である。
Reinforcement learning is a method of setting a reward for the result of a robot's action and acquiring an action that raises the reward as much as possible. As an example of the reward, the success or failure result of tableware pickup is judged by the pressure sensor of vacuum suction, and the reward is given when the tableware can be picked up. It is effective to input the observed tableware image and perform reinforcement learning to acquire the correction amount (how to determine) of the trajectory at the time of picking up the robot so as to maximize this reward.
In addition, since it is necessary to perform reinforcement learning while actually operating the tableware automatic washing system of the present embodiment, a predetermined number of trials are required. Therefore, until the reinforcement learning progresses and the pickup system is improved, the tableware and the arm It is effective to adopt the above-mentioned compliance control in order to prevent damage or failure due to collision with.
 ロボットの姿勢が制限されるため、アーム先端を最短距離で移動させることができない場合がある。現在の食器をピックアップする動作に続けて次の食器を滑らかにピックアップできるように、多関節ロボット12のアーム先端の軌道の補正量、どの食器をピックアップ対象に選出するかを最適化するような学習も可能である。例えば学習済みのAIを用いれば、食洗器の導入初期から、ロボットが熟練者のような滑らかな動きで迅速に食器をピックアップすることが可能になる。例えば、ロボットのピックアップ時の軌道に補正量を入れ、ピックアップが上手くいく方向に強化学習、あるいは、DNN(ディープニューラルネットワーク)による教師あり学習等により、その補正量の最適化を行うことは効果的であり、ロボットの高速化にも寄与する。 Because the posture of the robot is restricted, it may not be possible to move the tip of the arm in the shortest distance. Learning to optimize the correction amount of the trajectory of the arm tip of the articulated robot 12 and which tableware to pick up so that the next tableware can be picked up smoothly following the operation of picking up the current tableware. Is also possible. For example, using learned AI enables robots to quickly pick up dishes with smooth movements like a skilled person from the beginning of the introduction of the dishwasher. For example, it is effective to put a correction amount in the trajectory when the robot is picked up and optimize the correction amount by reinforcement learning in the direction in which the pickup works, or supervised learning by DNN (deep neural network). It also contributes to speeding up the robot.
[実施形態2]
 図10~図11を参照して、本発明の実施形態2の食器自動洗浄システム、食器自動洗浄方法、食器自動洗浄プログラム及び記憶媒体について説明する。本実施形態では、実施形態1で用いるマーカの複数の変形例について説明する。
[Embodiment 2]
The tableware automatic washing system, the tableware automatic washing method, the tableware automatic washing program, and the storage medium of the second embodiment of the present invention will be described with reference to FIGS. 10 to 11. In this embodiment, a plurality of modified examples of the markers used in the first embodiment will be described.
[変形例1]
 変形例1では、ARマーカを印刷したシールを張り付ける方法について説明する。特に限定するものではないが、例えば
(a)白地のシート部材に黒色インクでARマーカを印刷したシート部材、
(b)透明のシート部材に黒色インクでARマーカを印刷したシート部材、
(c)黒色のシート部材に白色インクでARマーカを印刷したシート部材、又は、
(d)透明のシート部材に白色インクでARマーカを印刷したシート部材、
のいずれか1つのシート部材を接着剤ないしは粘着剤により食器の裏面(糸底)に貼り付ける。ここで、シート部材及びインクの色は、透明、白色ないしは黒色に限定されるものではなく、印刷されたシート部材を食器の裏面に貼り付けた時に、ARマーカを読み取ることができる色の組み合わせであればよい。画像認識のソフトウエアを調整することにより、様々な色の組み合わせに対応することが可能であるが、一般的に食器の色としては白または黒が多いため、白地に黒インク、黒字に白インクの組み合わせが多く用いられる。この場合、黒地の食器には、白地の食器用のマーカのパターンを白黒反転して用いることができる。なお、上記(b)のシート部材は白色等、黒色インクが識別できる薄い色の食器に用いられ、上記(d)のシート部材は黒色等、白色インクが識別できる濃い色の食器に用いられる。
[Modification 1]
In the first modification, a method of attaching a sticker on which an AR marker is printed will be described. Although not particularly limited, for example, (a) a sheet member in which an AR marker is printed with black ink on a white sheet member,
(B) A sheet member in which an AR marker is printed with black ink on a transparent sheet member,
(C) A sheet member in which an AR marker is printed with white ink on a black sheet member, or
(D) A sheet member in which an AR marker is printed with white ink on a transparent sheet member,
Any one of the sheet members is attached to the back surface (thread bottom) of the tableware with an adhesive or an adhesive. Here, the colors of the sheet member and the ink are not limited to transparent, white or black, and are a combination of colors that can read the AR marker when the printed sheet member is attached to the back surface of the tableware. All you need is. By adjusting the image recognition software, it is possible to handle various color combinations, but since the color of tableware is generally white or black, black ink is used on a white background and white ink is used on black characters. The combination of is often used. In this case, for the black tableware, the black and white inverted pattern of the marker pattern for the white tableware can be used. The sheet member of (b) is used for tableware of a light color such as white that can identify black ink, and the sheet member of (d) is used for tableware of a dark color such as black that can identify white ink.
 防水シートとしては、例えばシート部材の表面に防水フィルムないしは防水コーティングを有し、耐水性及び耐熱性の高いものを用いることが望ましい。シート部材を食器に貼り付けるための接着剤ないしは粘着剤についても、繰り返し洗浄して用いることができるように、耐水性及び耐熱性の高いものを用いることが望ましい。また、シート部材を貼り付けることができる限りにおいて、食器の形状や材質はどのようなものでも構わない。なお、ARマーカは例えば食器の裏面の糸底などの平面部分に設けられる必要がある。既存の食器に後からシート部材を貼り付けることができるので、特別な食器を用意する必要がない。 As the waterproof sheet, it is desirable to use, for example, a sheet member having a waterproof film or a waterproof coating and having high water resistance and heat resistance. It is desirable to use an adhesive or an adhesive for attaching the sheet member to the tableware, which has high water resistance and heat resistance so that it can be repeatedly washed and used. In addition, the shape and material of the tableware may be any as long as the sheet member can be attached. The AR marker needs to be provided on a flat surface such as a thread bottom on the back surface of tableware. Since the sheet member can be attached to the existing tableware later, there is no need to prepare special tableware.
 防水シートないしコーティングについて、耐水性及び耐熱性の高いものを用いることを説明したが、本実施例はこれに限定されるものではなく、食器は繰り返し洗浄され、食品を盛り付けて使用されるため、例えば防水シートないしコーティングは化学的にも物理的にも耐久性を有することが望ましい。すなわち、例えば耐アルカリ、耐酸性等、さまざまな食品に対しても、また、洗剤に対しても耐性を有し、繰り返し洗浄しても剥がれにくく、使用時や洗浄時の摩擦にも耐久性を有することが望ましい。 It has been explained that a waterproof sheet or coating having high water resistance and heat resistance is used, but this embodiment is not limited to this, and the tableware is repeatedly washed and used by serving food. For example, a tarpaulin or coating should be chemically and physically durable. That is, it has resistance to various foods such as alkali resistance and acid resistance, and also to detergents, is hard to peel off even after repeated washing, and has durability against friction during use and washing. It is desirable to have.
[変形例2]
 図10を用いて変形例2について説明する。変形例2では、食器の裏面にARマーカ42をレーザー加工により刻印する方法である。変形例2で用いられる食器としては、レーザー加工により溝を形成できる素材のものであればよく、例えばメラミン製とすることができる。食器の形状としては、ARマーカを設けるだけの平面部分、例えば裏面に平面上の糸底を有する食器であれば、どのような形状のものでも構わない。
[Modification 2]
The second modification will be described with reference to FIG. The second modification is a method of engraving the AR marker 42 on the back surface of the tableware by laser processing. The tableware used in the second modification may be made of a material capable of forming a groove by laser processing, and may be made of melamine, for example. The shape of the tableware may be any shape as long as it is a flat portion on which an AR marker is provided, for example, a tableware having a flat thread bottom on the back surface.
 食器裏面のARマーカに対応するインクを詰めたい部分に、例えば約0.3mm間隔のハッチング状、すなわち、複数の略平行な線状の溝をレーザーにより加工する。この溝に食器の色とは異なる色のインクを詰める。ハッチングの間隔は特に限定されるものではなく、例えば約0.3mmよりも狭い間隔とすることもできるし、これよりも広い間隔としてもよい。インクとしては耐水性のもの用い、かつ、耐熱性のものが望ましい。溝内に詰められたインクは、溝内に保持されるため耐久性を有しているためコーティング等を設ける必要は無い。ただし、より耐久性を向上するためにARマーカ部に耐水性及び耐熱性を有する防水フィルムないしは防止コーティングを設けることもできる。既存の食器に後からレーザー加工することができるため、特別な食器を用意する必要がない。 Laser processing a hatched shape, that is, a plurality of substantially parallel linear grooves, for example, at intervals of about 0.3 mm on the part of the back of the tableware where the ink corresponding to the AR marker is to be filled. Fill this groove with ink of a color different from the color of the tableware. The hatching interval is not particularly limited, and may be narrower than, for example, about 0.3 mm, or may be wider than this. It is desirable that the ink used is water resistant and heat resistant. Since the ink packed in the groove is held in the groove and has durability, it is not necessary to provide a coating or the like. However, in order to further improve the durability, a waterproof film or a preventive coating having water resistance and heat resistance may be provided on the AR marker portion. Since the existing tableware can be laser-processed later, there is no need to prepare special tableware.
 図10Aは白地の食器には黒色インクを詰めた例である。マーカの大きさは、特に限定されるものでないが、約20mm角とすることができ、また、より小さな食器に対応するために約15mm角等、より小さい大きさでもよく、さらに、約30mm角等より大きいサイズでも構わない。図10Bは黒色の食器に白色インクを詰めた例である。食器の色及びインクの色は黒色ないし白色に限定されるものではなく、ARマーカ42を読み取ることができる色の組み合わせであればよい。画像認識のソフトウエアを調整することにより、様々な色の組み合わせ、様々なサイズのマーカに対応することが可能である。なお、画像認識のアルゴリズムの簡略化及び位置ないし姿勢等の認識精度の向上のため、ARマーカのサイズは統一しておくことが望ましい。 FIG. 10A is an example of tableware on a white background filled with black ink. The size of the marker is not particularly limited, but can be about 20 mm square, and may be smaller, such as about 15 mm square to accommodate smaller tableware, and further about 30 mm square. It does not matter if the size is larger than the above. FIG. 10B is an example of black tableware filled with white ink. The color of the tableware and the color of the ink are not limited to black or white, and any combination of colors that can read the AR marker 42 may be used. By adjusting the image recognition software, it is possible to support various color combinations and markers of various sizes. It is desirable to unify the size of the AR marker in order to simplify the image recognition algorithm and improve the recognition accuracy of the position or posture.
[変形例3]
 図11を用いて変形例3について説明する。変形例3は、食器の裏面にARマーカ42を直接印刷した後にコーティングする方法である。まず、メラミン製食器の製造工程においてARマーカを設ける方法について説明する。メラミン製の食器の製造工程において、適宜のインクによりARマーカを印刷し、その表面にコーティング、例えばメラミンコーティングを施す。コーティングの材質はメラミンに限定されるものではないが、食器の素材が例えばメラミン製である場合には、ARマーカの表面のコーティングもメラミンコーティングとすることが望ましい。インクとしては、特に限定されるものではないが、例えば紫外線発色インク、紫外線変色インク、紫外線硬化インク等を用いることができる。
[Modification 3]
A modified example 3 will be described with reference to FIG. The third modification is a method in which the AR marker 42 is directly printed on the back surface of the tableware and then coated. First, a method of providing an AR marker in the manufacturing process of melamine tableware will be described. In the process of manufacturing tableware made of melamine, an AR marker is printed with an appropriate ink, and a coating, for example, a melamine coating is applied to the surface thereof. The material of the coating is not limited to melamine, but when the material of the tableware is, for example, melamine, it is desirable that the coating on the surface of the AR marker is also a melamine coating. The ink is not particularly limited, but for example, an ultraviolet coloring ink, an ultraviolet discoloring ink, an ultraviolet curing ink, and the like can be used.
 メラミン製の食器を例に挙げて説明したが、変形例3のARマーカ印刷方法はメラミン製の食器に限定されるものでもなく、陶器、ガラス、樹脂等、さまざまな食器にも適用可能であり、材質に応じた適宜のコーティング、例えば樹脂コーティングを施すものとする。また、既存の食器に対して後からARマーカを印刷することができる。この場合には、既存の食器に後からレーザー加工することができるため、特別な食器を用意する必要がない。また、ARマーカはコーティングされているため、耐久性が高い。 Although the melamine tableware has been described as an example, the AR marker printing method of the modified example 3 is not limited to the melamine tableware, and can be applied to various tableware such as pottery, glass, and resin. , Appropriate coating according to the material, for example, resin coating shall be applied. In addition, the AR marker can be printed later on the existing tableware. In this case, it is not necessary to prepare special tableware because the existing tableware can be laser-processed later. Moreover, since the AR marker is coated, it has high durability.
 図11Aは白地の食器に黒色インクを印刷した例である。食器の材質、インクの仕様や状態、コーティングの仕様や状態によって黒色インクの発色が薄くなる場合があるが、画像認識のソフトウエアの調整により、黒色インクの発色が薄くなった場合にもARマーカを認識できるようにできる。図11Bは黒生の食器に白色インクを印刷した例である。食器の材質、インクの仕様や状態、コーティングの仕様や状態によって白色インクの発色が例えばやや茶色がかる場合があるが、画像認識のソフトウエアの調整によりARマーカを認識できるようにできる。なお、変形例3の食器の色及びインクの色の組み合わせは黒色ないし白色に限定されるものではなく、ARマーカを識別できる限りにおいて他の様々な色の組み合わせが可能であり、画像認識のソフトウエアを調整することにより、様々な色の組み合わせのARマーカを認識することができる。 FIG. 11A is an example of printing black ink on white tableware. Depending on the material of the tableware, the specifications and condition of the ink, and the specifications and condition of the coating, the color of the black ink may become lighter, but even if the color of the black ink becomes lighter due to the adjustment of the image recognition software, the AR marker Can be recognized. FIG. 11B is an example of printing white ink on black tableware. Depending on the material of the tableware, the specifications and condition of the ink, and the specifications and condition of the coating, the color of the white ink may be slightly brownish, for example, but the AR marker can be recognized by adjusting the image recognition software. The combination of the tableware color and the ink color of the modification 3 is not limited to black or white, and various other color combinations are possible as long as the AR marker can be identified, and the image recognition software. By adjusting the wear, AR markers with various color combinations can be recognized.
[変形例4]
 変形例4では、ARマーカを有したタグを食器に接着する方法を説明する。例えばコイン状の形状(薄い円状の形状)のタグにARマーカを印刷しておき、このタグの印刷面を表面にして食器の裏面の例えば糸底に接着剤ないし粘着剤にて貼り付ける。タグの印刷面には耐水性及び耐熱性を有する防水フィルムないしは防止コーティングが設けることが望ましい。また、タグを食器に貼り付けるための接着剤ないし粘着剤についても、耐水性及び耐熱性を有するものを用いることが望ましい。変形例4のタグの形状や材質などの仕様は、コイン状に限定されるものではなく、ARマーカを有する限りにおいては、どのような仕様のものでも構わない。既存の食器に対して後からARマーカを有したタグを貼り付けるので、特別な食器を用意する必要がない。
[Modification example 4]
In the fourth modification, a method of adhering a tag having an AR marker to tableware will be described. For example, an AR marker is printed on a coin-shaped (thin circular shape) tag, and the tag is attached to the back surface of tableware, for example, with an adhesive or adhesive, with the printed surface of the tag as the front surface. It is desirable to provide a waterproof film or preventive coating having water resistance and heat resistance on the printed surface of the tag. Further, it is desirable to use an adhesive or an adhesive for attaching the tag to the tableware, which has water resistance and heat resistance. The specifications such as the shape and material of the tag of the modification 4 are not limited to the coin shape, and any specifications may be used as long as the tag has an AR marker. Since the tag with the AR marker is attached to the existing tableware later, there is no need to prepare special tableware.
[変形例5]
 変形例5では、マーカの種類、マーカの位置について説明する。変形例1~4ではマーカとしてARマーカを用いる例を説明したが、本実施形態においてマーカはARマーカに限定されるものではなく、食器の種類、食器の位置、又は、食器の姿勢のいずれか少なくとも1つを識別可能なマーカであれば、どのようなマーカを用いてもよい。
[Modification 5]
In the fifth modification, the type of marker and the position of the marker will be described. In the modified examples 1 to 4, an example in which an AR marker is used as a marker has been described, but in the present embodiment, the marker is not limited to the AR marker, and either the type of tableware, the position of the tableware, or the posture of the tableware. Any marker may be used as long as it can identify at least one marker.
 また、マーカの配置は、食器の裏側の例えば糸底の中央に設けることができるが、本実施形態はこれに限定されるものではない。例えば、食器の種類ごとにマーカが所定の位置にあれば、画像認識ソフトウエアにおいて、その位置を予め登録しておくことにより、食器をピックアップする位置を把握することが可能である。 Further, the marker can be arranged on the back side of the tableware, for example, in the center of the thread bottom, but the present embodiment is not limited to this. For example, if the marker is at a predetermined position for each type of tableware, the position for picking up the tableware can be grasped by registering the position in advance in the image recognition software.
[実施形態3]
 図12を参照して本発明の実施形態3の食器自動洗浄システム、食器自動洗浄方法、食器自動洗浄プログラム及び記憶媒体について説明する。図12では、図1~11において説明した符号は同じものを用い、その説明は省略する。実施形態1、2では食器情報取得部14がARマーカを用いて食器を認識する例を説明したが、実施形態2では、ARマーカが無くとも食器を認識する例を説明する。
[Embodiment 3]
The automatic dishwashing system, the automatic dishwashing method, the automatic dishwashing program, and the storage medium of the third embodiment of the present invention will be described with reference to FIG. In FIG. 12, the same reference numerals are used as those described in FIGS. 1 to 11, and the description thereof will be omitted. In the first and second embodiments, the tableware information acquisition unit 14 recognizes the tableware using the AR marker, but in the second embodiment, the example of recognizing the tableware without the AR marker will be described.
 食器情報取得部14としての複数の食器検出用カメラのからの画像、及び、3次元点群(例えば複数カメラ画像から得られる)による食器の認識を行うことにより、ARマーカが無くても食器の位置及び姿勢を認識することができる。特に限定されるものではないが、例えばIntel RealSense Depth Camera D400シリーズの深度計測が可能なステレオビジョンの深度カメラを使用可能である。二つのイメージの差を検出してリアルタイムな深度イメージ処理が可能なイメージセンサセット(2の深度センサ、最大解像度1280×720)を搭載し、カラーデータのスケーリングが可能で、IR投射器を搭載し、USB給電で動作する。例えば白一色の無地の壁を観測する際にも深度データをより正確に取るための、対象を照らすアクティブIR投射器により赤外光のランダムなドットパターンを投影して、見かけ対象物上に模様を付加し、2つのカメラ画像の対応を取りやすくしている。 By recognizing the tableware from a plurality of tableware detection cameras as the tableware information acquisition unit 14 and the tableware by a three-dimensional point cloud (for example, obtained from a plurality of camera images), the tableware can be displayed without the AR marker. The position and posture can be recognized. Although not particularly limited, for example, a stereo vision depth camera capable of depth measurement of the Intel RealSense Depth Camera D400 series can be used. Equipped with an image sensor set (2 depth sensors, maximum resolution 1280 x 720) that can detect the difference between two images and perform real-time depth image processing, can scale color data, and is equipped with an IR projector. , Works with USB power supply. For example, in order to obtain depth data more accurately when observing a plain white wall, a random dot pattern of infrared light is projected by an active IR projector that illuminates the object, and the pattern is displayed on the apparent object. Is added to make it easier to match the two camera images.
 3次元点群を得る方法として上述のステレオカメラ方式の他に、1)レーザー光やLED等のパターンを照射して、その模様の映り方を撮影し、3次元点群を取る方法(Structured Light方式)、2)レーザー光やLED等の光を照射し、反射して帰ってくるまでの時間を計測する方式(Time of Flight方式)、及び、3)画像の焦点が合う位置を探索して奥行情報を知る方式(合焦方式)等も用いることができる。 In addition to the stereo camera method described above, as a method of obtaining a three-dimensional point group, 1) a method of irradiating a pattern such as a laser beam or an LED, photographing the appearance of the pattern, and taking a three-dimensional point group (Structured Light). Method), 2) A method of irradiating light such as laser light or LED and measuring the time until it is reflected and returned (Time of Flight method), and 3) Searching for the position where the image is in focus. A method of knowing the depth information (focusing method) or the like can also be used.
 また、例えば、図12に示すように、食器の画像認識にDNNを用いれば、その食器だけを含む画像もしくは点群の領域を切り出すことができるので、食器の位置及び姿勢の検出精度も向上する。図12においては認識された食器が検出枠50により表示され、さらにその種別が種別表示51として表示される。 Further, for example, as shown in FIG. 12, if DNN is used for image recognition of tableware, it is possible to cut out an image or a point cloud area including only the tableware, so that the detection accuracy of the position and orientation of the tableware is also improved. .. In FIG. 12, the recognized tableware is displayed by the detection frame 50, and the type is further displayed as the type display 51.
 実施形態3では複数の食器検出用カメラのからの画像、及び、3次元点群により食器の認識を行う方法を例示したが、本実施形態はこれに限定されるものではなく、例えば、2次元画像を用いて食器を検出する方法、学習制御により食器を認識する方法、食器の画像から糸底を検出する方法、これらを組み合わせた方法等も適用することができる。例えば、2次元画像からでも食器の位置及び姿勢を検出することは可能であるので、ARマーカが無くとも食器を画像認識し、この画像認識に基づいて食器の糸底を多関節ロボット12の吸着部41を有するハンド40により吸着して取り上げることが可能である。 In the third embodiment, images from a plurality of tableware detection cameras and a method of recognizing tableware by a three-dimensional point group are illustrated, but the present embodiment is not limited to this, and for example, two-dimensional. A method of detecting tableware using an image, a method of recognizing tableware by learning control, a method of detecting a thread bottom from an image of tableware, a method combining these, and the like can also be applied. For example, since it is possible to detect the position and orientation of the tableware even from a two-dimensional image, the tableware is image-recognized without the AR marker, and the thread bottom of the tableware is attached to the suction portion of the articulated robot 12 based on this image recognition. It can be picked up by being sucked by the hand 40 having 41.
[実施形態4]
 図13を参照して本発明の実施形態4の食器自動洗浄システム、食器自動洗浄方法、食器自動洗浄プログラム及び記憶媒体について説明する。図13は実施形態4の食器取出部の平面図である。図13では、図1~12と同じ構成には同一の符号を用い、その説明は省略する。実施形態4では、多関節ロボット12と共に、コンテナ収容ロボット56を用いる例を説明する。
[Embodiment 4]
The automatic dishwashing system, the automatic dishwashing method, the automatic dishwashing program, and the storage medium of the fourth embodiment of the present invention will be described with reference to FIG. FIG. 13 is a plan view of the tableware taking-out portion of the fourth embodiment. In FIG. 13, the same reference numerals are used for the same configurations as those in FIGS. 1 to 12, and the description thereof will be omitted. In the fourth embodiment, an example in which the container housing robot 56 is used together with the articulated robot 12 will be described.
 食器11を食器搬送部10から取り上げてコンテナ57に収納する動作を1台の多関節ロボット12、例えば6軸多関節ロボットで行う場合には、多関節ロボット12の可動範囲が限られているため、コンテナ57に食器を水平に積み上げて収納することは困難である。このため、食器11を食器搬送部10から取り上げてコンテナ57に収納する動作を全て、1台の多関節ロボット12により実現しようとすると、装置が大型化してしまう。 When the tableware 11 is picked up from the tableware transport unit 10 and stored in the container 57 by one articulated robot 12, for example, a 6-axis articulated robot, the movable range of the articulated robot 12 is limited. , It is difficult to horizontally stack and store tableware in the container 57. Therefore, if all the operations of picking up the tableware 11 from the tableware transport unit 10 and storing it in the container 57 are to be realized by one articulated robot 12, the device will become large.
 図13では、多関節ロボット12と共に、コンテナ収容ロボット56を用いて、食器搬送部10から食器11を取り上げて、コンテナ57に収容する動作を行う。多関節ロボット12は、食器搬送部10から食器11を取り上げて、受け渡し台55に食器11を伏せた状態、すなわち、糸底が上を向いた姿勢で載置する。受け渡し台55に載置された食器11は、コンテナ収容ロボット56によってコンテナ57に収容される。コンテナ収容ロボット56としては特に限定されるものではないが、例えば水平多関節ロボットを用いることができる。 In FIG. 13, the container storage robot 56 is used together with the articulated robot 12 to pick up the tableware 11 from the tableware transport unit 10 and store the tableware 11 in the container 57. The articulated robot 12 picks up the tableware 11 from the tableware transporting unit 10 and places the tableware 11 on the delivery table 55 in a state of lying down, that is, in a posture in which the thread bottom faces upward. The tableware 11 placed on the delivery table 55 is housed in the container 57 by the container storage robot 56. The container accommodating robot 56 is not particularly limited, but for example, a horizontal articulated robot can be used.
 多関節ロボット12及びコンテナ収容ロボット56は食器11を取り上げる手段を有している。例えば、多関節ロボット12は吸着部41を備えるハンド40を有しおり、吸着部41により食器11の糸底を吸着して食器11を取り上げることができる。また、例えば、コンテナ収容ロボット56もアームの先端側に吸着部41を有しており、吸着部41により食器11の糸底を吸着して食器11を取り上げることができる。 The articulated robot 12 and the container housing robot 56 have means for picking up the tableware 11. For example, the articulated robot 12 has a hand 40 including a suction unit 41, and the suction unit 41 can suck the thread bottom of the tableware 11 to pick up the tableware 11. Further, for example, the container accommodating robot 56 also has a suction portion 41 on the tip end side of the arm, and the suction portion 41 can suck the thread bottom of the tableware 11 to pick up the tableware 11.
 食器搬送部10により搬送されてきた食器11を多関節ロボット12が取り上げて、食器11を受け渡し台55に載置する。受け渡し台55に載置された食器11をコンテナ収容ロボット56が取り上げて、コンテナ57へ収納する。図13では、コンテナ収容ロボット56が食器を収納できる範囲内に、コンテナが4個配置されているが、コンテナの数はこれに限定されるものではなく、コンテナ収容ロボット56が食器を収納できる範囲内に1個以上配置される。コンテナ収容ロボット56は、食器11の種類に応じて、所定のコンテナに食器11を収納することができる。例えば、1つのコンテナに1種類の食器11を収納することができる。 The articulated robot 12 picks up the tableware 11 transported by the tableware transport unit 10 and places the tableware 11 on the delivery table 55. The container accommodating robot 56 picks up the tableware 11 placed on the delivery table 55 and stores it in the container 57. In FIG. 13, four containers are arranged within the range in which the container storage robot 56 can store tableware, but the number of containers is not limited to this, and the range in which the container storage robot 56 can store tableware. One or more are placed inside. The container accommodating robot 56 can store the tableware 11 in a predetermined container according to the type of the tableware 11. For example, one type of tableware 11 can be stored in one container.
 多関節ロボット12及びコンテナ収容ロボット56は、受け渡し台55の周辺など、互いの可動領域が重なるところがある。このため、多関節ロボット12及びコンテナ収容ロボット56が互いに干渉しないように協調制御する。本実施形態では、多関節ロボット12及びコンテナ収容ロボット56の動作の役割は明確に分けられており、その動作において干渉する場面は限定されている。このため、本実施例の協調制御には、例えば単純なインターロック制御等も適用可能であり、必ずしも複雑な制御を必要とするものではなく、また、この協調制御としては様々な制御方法が適用可能である。 The articulated robot 12 and the container accommodating robot 56 have places where their movable areas overlap each other, such as around the delivery table 55. Therefore, the articulated robot 12 and the container accommodating robot 56 are cooperatively controlled so as not to interfere with each other. In the present embodiment, the roles of the actions of the articulated robot 12 and the container accommodating robot 56 are clearly separated, and the scenes of interference in the actions are limited. Therefore, for example, a simple interlock control or the like can be applied to the cooperative control of the present embodiment, and does not necessarily require complicated control, and various control methods are applied to the cooperative control. It is possible.
 コンテナ57に食器11を収納する際に、食器の外形、すなわち、平積み時の横幅(例えば円形の食器の場合には半径、方形の食器の場合には一辺(特に長辺)の長さ等)を確実に取得しておかないと、食器11が食器自動洗浄システムの各部に接触し、破損してしまう虞がある。食器11の食器の外形が確実に取得できない場合、例えば画像認識にて食器の大きさを推定する場合、画像取得部を追加したり、画像処理する計算機が必要となったりするため、高コストになってしまう。 When the tableware 11 is stored in the container 57, the outer shape of the tableware, that is, the width when stacked flat (for example, the radius in the case of circular tableware, the length of one side (particularly the long side) in the case of square tableware, etc. ) Is not surely acquired, the tableware 11 may come into contact with each part of the tableware automatic cleaning system and be damaged. If the outer shape of the tableware of the tableware 11 cannot be reliably acquired, for example, when estimating the size of the tableware by image recognition, an image acquisition unit is added or a computer for image processing is required, resulting in high cost. turn into.
 そこで、受け渡し台55の所定の位置に所定の形状の衝立部材を設ける。多関節ロボット12が食器11を平置き姿勢で受け渡し台55に下ろす際に、食器の側面を衝立部材に押し付けるまで水平移動し、衝立部材に接触した位置を検出する。この検出には例えば、多関節ロボット12のアーム先端部やハンド40等に設けられた力覚センサ、振動センサや、加速度センサ、あるいは、多関節ロボット12の駆動モータの負荷電流センサ、画像取得部等、様々なセンサを用いることができる。衝立部材の位置は予め分かっており、また、多関節ロボット12の軌跡も計算できるため、多関節ロボット12が取り上げている食器11が衝立部材に接触した位置から、食器外形を計算することができる。また、このように食器11の外形を計算することができれば、食器11の寸法が登録されていない場合であっても、コンテナ57への食器11の収納までを自動化することができる。 Therefore, an abutment member having a predetermined shape is provided at a predetermined position on the delivery table 55. When the articulated robot 12 lowers the tableware 11 onto the delivery table 55 in a flat position, it horizontally moves until the side surface of the tableware is pressed against the counterbore member, and detects a position in contact with the counterbore member. For this detection, for example, a force sensor, a vibration sensor, an acceleration sensor, a load current sensor of the drive motor of the articulated robot 12, or an image acquisition unit provided on the arm tip of the articulated robot 12 or the hand 40 or the like. Etc., various sensors can be used. Since the position of the abutment member is known in advance and the locus of the articulated robot 12 can be calculated, the outer shape of the tableware can be calculated from the position where the tableware 11 taken up by the articulated robot 12 comes into contact with the abutment member. .. Further, if the outer shape of the tableware 11 can be calculated in this way, even if the dimensions of the tableware 11 are not registered, the storage of the tableware 11 in the container 57 can be automated.
[実施形態5]
 図14を参照して本発明の実施形態5の食器自動洗浄システム、食器自動洗浄方法、食器自動洗浄プログラム及び記憶媒体について説明する。図14Aは、食器自動洗浄システムの上面図であり、図14Bは、食器自動洗浄システムの斜視図である。図14では、図1~13と同じ構成には同一の符号を用い、その説明は省略する。実施形態5では、実施形態4と同様に多関節ロボット12と共に、コンテナ収容ロボット56を用いる例を説明する。
[Embodiment 5]
The automatic dishwashing system, the automatic dishwashing method, the automatic dishwashing program, and the storage medium of the fifth embodiment of the present invention will be described with reference to FIG. 14A is a top view of the automatic dishwashing system, and FIG. 14B is a perspective view of the automatic dishwashing system. In FIG. 14, the same reference numerals are used for the same configurations as those in FIGS. 1 to 13, and the description thereof will be omitted. In the fifth embodiment, an example in which the container accommodating robot 56 is used together with the articulated robot 12 will be described as in the fourth embodiment.
 食器搬送部10の脇に多関節ロボット12を配置すると(図13参照)、多関節ロボット12の設置側に対して反対側の食器搬送部10の端部周辺領域に多関節ロボット12のハンド40が届きにくくなり、姿勢の採れる範囲も狭くなってしまう。結果的に、食器搬送部10の脇に多関節ロボット12を配置すると、食器搬送部10の食器11の搬送領域によって食器11の取り上げが難しくなる場合がある。 When the articulated robot 12 is placed beside the tableware transport unit 10 (see FIG. 13), the hand 40 of the articulated robot 12 is located in the area around the end of the tableware transport unit 10 on the side opposite to the installation side of the articulated robot 12. It becomes difficult to reach, and the range in which the posture can be taken is narrowed. As a result, if the articulated robot 12 is arranged beside the tableware transport unit 10, it may be difficult to pick up the tableware 11 depending on the transport area of the tableware 11 of the tableware transport unit 10.
 また、食器搬送部10の脇に多関節ロボット12を配置すると、システム全体が大きくなってしまいスペース効率が悪くなる。 Also, if the articulated robot 12 is placed beside the tableware transport unit 10, the entire system becomes large and space efficiency deteriorates.
 本実施形態の食器自動洗浄システムは、食器搬送部10の上を食器搬送部10の横幅方向で跨ぐ位置に多関節ロボット12を設置するための搬送部跨ぎ架台70を備えている。 The tableware automatic washing system of the present embodiment includes a transport unit straddling stand 70 for installing the articulated robot 12 at a position straddling the tableware transport unit 10 in the width direction of the tableware transport unit 10.
 搬送部跨ぎ架台70は、門型であり、上部を橋渡す壁に多関節ロボット12が固定される。本実施形態では、多関節ロボット12の可動範囲が食器搬送部10の横幅方向における中心を対称とする範囲になるように多関節ロボット12が搬送部跨ぎ架台70に固定される。 The transport section straddling pedestal 70 is a gate type, and the articulated robot 12 is fixed to the wall bridging the upper part. In the present embodiment, the articulated robot 12 is fixed to the transport unit straddle stand 70 so that the movable range of the articulated robot 12 is a range symmetrical about the center in the lateral width direction of the tableware transport unit 10.
 本実施形態5の食器自動洗浄システムでは、多関節ロボット12の可動範囲が食器搬送部10の横幅方向における中心を対称とする範囲になるように、多関節ロボット12が搬送部跨ぎ架台70に固定されるため、多関節ロボット12が食器搬送部10上の幅方向における広い範囲での食器11の取り上げが可能になると共に、様々な姿勢をとり易くなる。 In the automatic tableware washing system of the fifth embodiment, the articulated robot 12 is fixed to the transport unit straddling pedestal 70 so that the movable range of the articulated robot 12 is a range in which the center in the width direction of the tableware transport unit 10 is symmetrical. Therefore, the articulated robot 12 can pick up the tableware 11 in a wide range in the width direction on the tableware transport unit 10, and can easily take various postures.
 また、本実施形態5の食器自動洗浄システムでは、これまで有効に活用されていなかった食器搬送部10の出口の上方付近に多関節ロボット12を配置しているため、システム全体のコンパクト化、及び通路を占有しない等の省スペース化を図ることができる。 Further, in the automatic tableware washing system of the fifth embodiment, since the articulated robot 12 is arranged near the upper side of the exit of the tableware transport unit 10, which has not been effectively utilized so far, the entire system can be made compact and the whole system can be made compact. Space can be saved by not occupying the passage.
[実施形態6]
 図15を参照して本発明の実施形態6の食器自動洗浄システム、食器自動洗浄方法、食器自動洗浄プログラム及び記憶媒体について説明する。図15は、食器自動洗浄システムの受け渡し台55周辺を示す図である。図15では、図1~14と同じ構成には同一の符号を用い、その説明は省略する。
[Embodiment 6]
The automatic dishwashing system, the automatic dishwashing method, the automatic dishwashing program, and the storage medium of the sixth embodiment of the present invention will be described with reference to FIG. FIG. 15 is a diagram showing the vicinity of the delivery table 55 of the automatic dishwashing system. In FIG. 15, the same reference numerals are used for the same configurations as in FIGS. 1 to 14, and the description thereof will be omitted.
 多関節ロボット12が、食器11を取り上げて受け渡し台55に伏せて置く際に、食器11の種類、及び食器11の高さを認識していれば、受け渡し台55の高さに合わせて食器11を置くことができる。しかし、食器11の種類が誤って認識された場合、受け渡し台55に食器11を押し付けたり、受け渡し台55の上方から食器11を落としたりすることになる。
 このように食器11の種類が誤って認識された場合、食器11の破損や、受け渡し台55上の食器11の位置が大きくずれるため、コンテナ収容ロボット56の動作ができなくなる問題がある。
 このような問題は、多関節ロボット12の速度を下げ、食器11の認識に対する確実性を上げることによって解消することができるが、食器11の処理性能が出なくなる。
When the articulated robot 12 picks up the tableware 11 and puts it face down on the delivery table 55, if the articulated robot 12 recognizes the type of the tableware 11 and the height of the tableware 11, the tableware 11 is adjusted to the height of the delivery table 55. Can be placed. However, if the type of tableware 11 is erroneously recognized, the tableware 11 may be pressed against the delivery table 55 or the tableware 11 may be dropped from above the delivery table 55.
If the type of tableware 11 is erroneously recognized in this way, there is a problem that the container accommodating robot 56 cannot operate because the tableware 11 is damaged or the position of the tableware 11 on the delivery table 55 is greatly deviated.
Such a problem can be solved by reducing the speed of the articulated robot 12 and increasing the certainty of the recognition of the tableware 11, but the processing performance of the tableware 11 is not obtained.
 本実施形態の食器自動洗浄システムは、受け渡し台55から所定間隔上方に離れた水平面を食器11が横切ったことを検出する検出器80を備える。 The tableware automatic washing system of the present embodiment includes a detector 80 that detects that the tableware 11 has crossed a horizontal plane separated from the delivery table 55 by a predetermined interval.
 検出器80は、例えば、透過型センサによって実現される。検出器80として透過型センサを用いた場合、検出器80は、直線状のレーザーを、例えば、受け渡し台55から数cm上方に離れた水平面上に投影し、レーザーを食器11が横切ったことを検出する。 The detector 80 is realized by, for example, a transmissive sensor. When a transmissive sensor is used as the detector 80, the detector 80 projects a linear laser onto, for example, a horizontal plane a few cm above the delivery table 55, indicating that the tableware 11 has crossed the laser. To detect.
 食器自動洗浄システムは、多関節ロボット12が、食器11を取り上げて受け渡し台55に伏せて置く際に、食器11の種類を認識していない場合や、食器11の高さを認識していな場合であっても、検出器80が受け渡し台55から所定間隔上方に離れた水平面を食器11が横切ったことを検出したタイミングで多関節ロボット12を減速させると同時に食器11の高さを推定することによって受け渡し台55の高さに合わせて食器11を置く。 In the tableware automatic washing system, when the articulated robot 12 picks up the tableware 11 and puts it face down on the delivery table 55, it does not recognize the type of the tableware 11 or the height of the tableware 11. Even so, the height of the tableware 11 is estimated at the same time as the articulated robot 12 is decelerated at the timing when the detector 80 detects that the tableware 11 has crossed the horizontal plane separated from the delivery table 55 by a predetermined interval. Place the tableware 11 according to the height of the delivery table 55.
 本実施形態6の食器自動洗浄システムでは、検出器80によって、受け渡し台55から所定間隔上方に離れた水平面を食器11が横切ったことを検出することによって、食器11の画像認識に頼らず、受け渡し台55の高さに合わせて食器11を置くことができるため、高速かつ確実な食器11の処理を行うことができる。 In the automatic tableware washing system of the sixth embodiment, the detector 80 detects that the tableware 11 has crossed a horizontal plane separated from the delivery table 55 by a predetermined interval, so that the tableware 11 is delivered without relying on image recognition. Since the tableware 11 can be placed according to the height of the table 55, the tableware 11 can be processed at high speed and reliably.
 以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は本発明の技術思想を具体化するための食器自動洗浄システムを例示するものであって、本発明をこれらに特定するものではなく、その他の実施形態のものにも等しく適用し得るものであり、また、これらの実施形態の一部を省略、追加、変更することや、各実施形態の態様を組み合わせることが可能である。 Although some embodiments of the present invention have been described above, these embodiments exemplify an automatic dishwashing system for embodying the technical idea of the present invention, and specify the present invention to these. It is not a thing, and it can be applied equally to those of other embodiments, and it is possible to omit, add, or change a part of these embodiments, or to combine the embodiments of each embodiment. is there.
 1…食器投入部        2…食器洗浄部
 3…食器取出部       10…食器搬送部
 11…食器         12…多関節ロボット
 13…食器載置部      14…食器情報取得部
 30…食器取出演算部    31…食器位置・姿勢検出部
 32…食器取出順序計画部  33…食器取出動作指令部
 35…画像取得部      36…食器投入部
 37…食器搬送部      38…食器洗浄部
 40、40C…ハンド    41…吸着部
 41A…第1の吸着部    41B…第2の吸着部
 42…ARマーカ      45…延存部
 46…ハンド取付部     47…真空ホース
 48…ハンド側真空ホース取付部 49…結合部
 50…検出枠        51…種別表示
 55…受け渡し台      56…コンテナ収容ロボット56
 57…コンテナ       60…バネ機構
 61…ボールジョイント   62…力覚センサ
 70…搬送部跨ぎ架台    80…検出器
1 ... Tableware input unit 2 ... Tableware washing unit 3 ... Tableware extraction unit 10 ... Tableware transport unit 11 ... Tableware 12 ... Articulated robot 13 ... Tableware storage unit 14 ... Tableware information acquisition unit 30 ... Tableware extraction calculation unit 31 ... Tableware position・ Attitude detection unit 32… Tableware extraction order planning unit 33… Tableware extraction operation command unit 35… Image acquisition unit 36… Tableware loading unit 37… Tableware transport unit 38… Dishwashing unit 40, 40C… Hand 41… Suction unit 41A… No. 1 suction part 41B ... second suction part 42 ... AR marker 45 ... extension part 46 ... hand attachment part 47 ... vacuum hose 48 ... hand side vacuum hose attachment part 49 ... joint part 50 ... detection frame 51 ... type display 55 ... Delivery table 56 ... Container storage robot 56
57 ... Container 60 ... Spring mechanism 61 ... Ball joint 62 ... Force sensor 70 ... Transport section straddle mount 80 ... Detector

Claims (14)

  1.  食器を投入する食器投入部から投入された食器を洗浄する食器洗浄部と、
     前記食器洗浄部で洗浄された食器を搬送する食器搬送部と、
     前記食器搬送部で搬送される食器を識別すると共に当該食器の情報を取得する食器情報取得部と、
     前記食器搬送部で搬送された食器が載置される食器載置部と、
     前記食器搬送部から食器を取り上げ、当該食器を前記食器載置部へ食器を載置する食器取上部と、
    を備える食器自動洗浄システムにおいて、
     前記食器情報取得部が取得する情報には、食器の種類、食器の大きさ、食器の形状、食器の色彩、食器の位置、食器の姿勢、食器の向き、食器に付されたマーカ、又は、食器に付されたコードの少なくともいずれか1つが含まれ、
     前記食器情報取得部が前記食器搬送部で搬送されている食器を識別すると、前記食器取上部は前記食器情報取得部で取得された情報に基づいて、食器の状態に対応して食器を取り上げることを特徴とする食器自動洗浄システム。
    A dishwashing section that cleans the dishes that are thrown in from the tableware throwing section
    A tableware transporting unit that transports dishes washed by the dishwashing unit,
    A tableware information acquisition unit that identifies the tableware to be transported by the tableware transport unit and acquires information on the tableware.
    A tableware storage unit on which the tableware transported by the tableware transport unit is placed,
    The tableware is picked up from the tableware transport section, and the tableware is placed on the tableware storage section.
    In an automatic dishwashing system equipped with
    The information acquired by the tableware information acquisition unit includes the type of tableware, the size of the tableware, the shape of the tableware, the color of the tableware, the position of the tableware, the posture of the tableware, the orientation of the tableware, the marker attached to the tableware, or Includes at least one of the codes attached to the tableware,
    When the tableware information acquisition unit identifies the tableware being transported by the tableware transport unit, the tableware collector picks up the tableware according to the state of the tableware based on the information acquired by the tableware information acquisition unit. An automatic dishwashing system featuring.
  2.  食器が前記食器搬送部で搬送されている状態で、前記食器情報取得部が食器を取り上げることを特徴とする請求項1に記載の食器自動洗浄システム。 The automatic tableware cleaning system according to claim 1, wherein the tableware information acquisition unit picks up the tableware while the tableware is being transported by the tableware transport unit.
  3.  前記食器情報取得部は画像取得部を備えることを特徴とする請求項1又は2に記載の食器自動洗浄システム。 The tableware automatic washing system according to claim 1 or 2, wherein the tableware information acquisition unit includes an image acquisition unit.
  4.  前記食器情報取得部が取得する情報がマーカである場合、
     前記マーカは、
    (1)シールを貼付したもの、
    (2)レーザー加工により形成したもの、
    (3)印刷により付与されたもの、
    (4)コーティングされたもの、又は、
    (5)前記マーカが印刷された他の部材を貼付したもの、
    のいずれか少なくとも1つであることを特徴とする請求項1~3のいずれか1項に記載の食器自動洗浄システム。
    When the information acquired by the tableware information acquisition unit is a marker,
    The marker is
    (1) A sticker attached,
    (2) Formed by laser processing,
    (3) What was given by printing,
    (4) Coated or coated
    (5) Another member to which the marker is printed is attached.
    The automatic dishwashing system according to any one of claims 1 to 3, wherein the dish is at least one of the above.
  5.  食器にマーカが設けられていない状態で、食器を識別することを特徴とする請求項1~3のいずれか1項に記載の食器自動洗浄システム。 The automatic tableware washing system according to any one of claims 1 to 3, wherein the tableware is identified without a marker provided on the tableware.
  6.  前記食器情報取得部ないし前記食器取上部は、食器の位置を予測することを特徴とする請求項1~5のいずれか1項に記載の食器自動洗浄システム。 The tableware automatic washing system according to any one of claims 1 to 5, wherein the tableware information acquisition unit or the tableware pick-up upper portion predicts the position of the tableware.
  7.  前記食器取上部は弾性部材を備えることを特徴とする請求項1~6のいずれか1項に記載の食器自動洗浄システム。 The automatic tableware washing system according to any one of claims 1 to 6, wherein the upper part of the tableware picker is provided with an elastic member.
  8.  前記食器投入部、前記食器情報取得部、又は、前記食器取上部のいずれか少なくとも1つは機械学習を用いて制御されることを特徴とする請求項1~7のいずれか1項に記載の食器自動洗浄システム。 The invention according to any one of claims 1 to 7, wherein at least one of the tableware input unit, the tableware information acquisition unit, and the tableware picking upper portion is controlled by using machine learning. Automatic dishwashing system.
  9.  前記食器情報取得部は1以上の撮像部を備え、該撮像部によって取得された1又は複数の画像から食器の情報を取得できることを特徴とする請求項1~8のいずれか1項に記載の食器自動洗浄システム。 The item according to any one of claims 1 to 8, wherein the tableware information acquisition unit includes one or more image pickup units, and can acquire tableware information from one or a plurality of images acquired by the image pickup unit. Automatic dishwashing system.
  10.  前記食器取上部は吸着部により食器を取り上げる多関節ロボットを含み、
     前記吸着部は、吸着方向が異なる複数の吸着部を備えることを特徴とする請求項1~9のいずれか1項に記載の食器自動洗浄システム。
    The upper part of the tableware collecting includes an articulated robot that picks up the tableware by the suction part.
    The automatic dishwashing system according to any one of claims 1 to 9, wherein the suction portion includes a plurality of suction portions having different suction directions.
  11.  さらに、コンテナ収容ロボットを用いて食器をコンテナに収容することを特徴とする請求項1~10のいずれか1項に記載の食器自動洗浄システム。 Further, the automatic tableware washing system according to any one of claims 1 to 10, wherein the tableware is stored in a container using a container storage robot.
  12.  投入された食器を洗浄する食器洗浄工程と、
     前記食器洗浄工程で洗浄された食器を搬送する食器搬送工程と、
     前記食器搬送工程で搬送される食器を識別すると共に当該食器の情報を取得する食器情報取得工程と、
     前記食器搬送工程で搬送される食器を取り上げ、当該取り上げた食器を載置する食器取上工程と、
    を含む食器自動洗浄方法において、
     前記食器情報取得工程で取得される情報には、食器の種類、食器の大きさ、食器の形状、食器の色彩、食器の位置、食器の姿勢、食器の向き、食器に付されたマーカ、又は、食器に付されたコードの少なくともいずれか1つが含まれ、
     前記食器情報取得工程によって前記食器搬送工程で搬送されている食器を識別すると、前記食器取上工程では前記食器情報取得工程で取得された情報に基づいて、食器の状態に対応して食器を取り上げることを特徴とする食器自動洗浄方法。
    The dishwashing process to wash the thrown dishes and
    The tableware transporting process for transporting the dishes washed in the dishwashing step and
    A tableware information acquisition process for identifying the tableware to be transported in the tableware transportation process and acquiring information on the tableware,
    The tableware picking process of picking up the tableware transported in the tableware transporting process and placing the picked up tableware,
    In the automatic dishwashing method including
    The information acquired in the tableware information acquisition process includes the type of tableware, the size of the tableware, the shape of the tableware, the color of the tableware, the position of the tableware, the orientation of the tableware, the orientation of the tableware, the marker attached to the tableware, or Includes at least one of the codes attached to the tableware,
    When the tableware transported in the tableware transporting process is identified by the tableware information acquisition process, the tableware picking process picks up the tableware according to the state of the tableware based on the information acquired in the tableware information acquisition process. An automatic dishwashing method characterized by this.
  13.  請求項12に記載の食器自動洗浄方法における各工程をコンピュータ部により実行可能なことを特徴とする食器自動洗浄プログラム。 An automatic dishwashing program characterized in that each step in the automatic dishwashing method according to claim 12 can be executed by a computer unit.
  14.  請求項13に記載の食器自動洗浄プログラムを記憶した記憶媒体。 A storage medium that stores the automatic dishwashing program according to claim 13.
PCT/JP2020/026770 2019-07-08 2020-07-08 Automatic dishwashing system, automatic dishwashing method, automatic dishwashing program, and storage medium WO2021006306A1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021530724A JP7018637B2 (en) 2019-07-08 2020-07-08 Automatic dishwashing system, automatic dishwashing method, automatic dishwashing program and storage media

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
JP2019127266 2019-07-08
JP2019-127266 2019-07-08
JP2019208170 2019-11-18
JP2019-208170 2019-11-18
JP2020024860 2020-02-18
JP2020-024860 2020-02-18

Publications (1)

Publication Number Publication Date
WO2021006306A1 true WO2021006306A1 (en) 2021-01-14

Family

ID=74114872

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/026770 WO2021006306A1 (en) 2019-07-08 2020-07-08 Automatic dishwashing system, automatic dishwashing method, automatic dishwashing program, and storage medium

Country Status (3)

Country Link
JP (1) JP7018637B2 (en)
TW (1) TW202110384A (en)
WO (1) WO2021006306A1 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112842216A (en) * 2021-01-25 2021-05-28 佛山市顺德区美的洗涤电器制造有限公司 Control method, processor and device for dish washing machine and dish washing machine
US20220304546A1 (en) * 2021-03-25 2022-09-29 Sri Rama Prasanna Pavani Dish cleaning by dirt localization and targeting
JP2023100453A (en) * 2022-01-06 2023-07-19 日清医療食品株式会社 Dishwashing assist device and dishwashing system
JP2023100452A (en) * 2022-01-06 2023-07-19 日清医療食品株式会社 Dishwashing assist device and dishwashing system

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101812015B1 (en) 2011-11-11 2018-01-25 엘지전자 주식회사 Air conditioner and method for controlling the same
KR20240034958A (en) * 2022-09-07 2024-03-15 삼성전자주식회사 Robot linking with dish washer and method for controlling thereof

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004017208A (en) * 2002-06-14 2004-01-22 Kondo Seisakusho:Kk Double chuck unit
JP2018027581A (en) * 2016-08-17 2018-02-22 株式会社安川電機 Picking system
WO2018034251A1 (en) * 2016-08-14 2018-02-22 ライフロボティクス株式会社 Dishwashing system, and robot device
JP2018126272A (en) * 2017-02-07 2018-08-16 ライフロボティクス株式会社 Pottery
JP2018187687A (en) * 2017-04-28 2018-11-29 ファナック株式会社 Article take-out system
JP2019025618A (en) * 2017-08-01 2019-02-21 オムロン株式会社 Robot control apparatus, robot control method, and robot control program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7044706B2 (en) 2016-08-14 2022-03-30 ファナック株式会社 Dishwashing system
JP2019037349A (en) 2017-08-23 2019-03-14 ライフロボティクス株式会社 Tableware and workpiece

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004017208A (en) * 2002-06-14 2004-01-22 Kondo Seisakusho:Kk Double chuck unit
WO2018034251A1 (en) * 2016-08-14 2018-02-22 ライフロボティクス株式会社 Dishwashing system, and robot device
JP2018027581A (en) * 2016-08-17 2018-02-22 株式会社安川電機 Picking system
JP2018126272A (en) * 2017-02-07 2018-08-16 ライフロボティクス株式会社 Pottery
JP2018187687A (en) * 2017-04-28 2018-11-29 ファナック株式会社 Article take-out system
JP2019025618A (en) * 2017-08-01 2019-02-21 オムロン株式会社 Robot control apparatus, robot control method, and robot control program

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112842216A (en) * 2021-01-25 2021-05-28 佛山市顺德区美的洗涤电器制造有限公司 Control method, processor and device for dish washing machine and dish washing machine
US20220304546A1 (en) * 2021-03-25 2022-09-29 Sri Rama Prasanna Pavani Dish cleaning by dirt localization and targeting
JP2023100453A (en) * 2022-01-06 2023-07-19 日清医療食品株式会社 Dishwashing assist device and dishwashing system
JP2023100452A (en) * 2022-01-06 2023-07-19 日清医療食品株式会社 Dishwashing assist device and dishwashing system

Also Published As

Publication number Publication date
JP7018637B2 (en) 2022-02-14
TW202110384A (en) 2021-03-16
JPWO2021006306A1 (en) 2021-10-21

Similar Documents

Publication Publication Date Title
WO2021006306A1 (en) Automatic dishwashing system, automatic dishwashing method, automatic dishwashing program, and storage medium
JP7044706B2 (en) Dishwashing system
US11420329B2 (en) Processing systems and methods for providing processing of a variety of objects
JP6965247B2 (en) Dishwashing system and robot equipment
JP2020121887A (en) Control device and control method for robot system
EP3938151B1 (en) Manipulating boxes using a zoned gripper
JP2010520076A (en) Method and apparatus for recognizing, retrieving and rearranging objects
US11628572B2 (en) Robotic pack station
JP2022033056A (en) Tableware automatic washing system, tableware automatic washing method, tableware automatic washing program, and storage medium
CN210883777U (en) Automatic food and beverage flow line
CN219078244U (en) Transfer robot
CN111606042B (en) Article transfer device
CN211365833U (en) Storage material taking device and storage management system
US20230020976A1 (en) Automated item picking systems and methods
JP7321992B2 (en) Dishwashing aids and dishwashing systems
WO2021166806A1 (en) Dishwashing system, control device for dishwashing system, and program
JP2001315079A (en) Test tube conveying device
CN217451091U (en) Automatic tableware sorting and assembling system
JP2022102557A (en) Tableware washing auxiliary device and tableware washing system
WO2023213864A1 (en) Slide imaging apparatus
JP2023100453A (en) Dishwashing assist device and dishwashing system
JP2023100452A (en) Dishwashing assist device and dishwashing system
JP2022102555A (en) Tableware washing auxiliary device and tableware washing system
JP2022102558A (en) Tableware washing auxiliary device and tableware washing system
JP2022102556A (en) Tableware washing auxiliary device and tableware washing system

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20836145

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021530724

Country of ref document: JP

Kind code of ref document: A

122 Ep: pct application non-entry in european phase

Ref document number: 20836145

Country of ref document: EP

Kind code of ref document: A1