JP2019185385A - Recognition processing apparatus, recognition processing method, and recognition processing program - Google Patents

Recognition processing apparatus, recognition processing method, and recognition processing program Download PDF

Info

Publication number
JP2019185385A
JP2019185385A JP2018075359A JP2018075359A JP2019185385A JP 2019185385 A JP2019185385 A JP 2019185385A JP 2018075359 A JP2018075359 A JP 2018075359A JP 2018075359 A JP2018075359 A JP 2018075359A JP 2019185385 A JP2019185385 A JP 2019185385A
Authority
JP
Japan
Prior art keywords
size
beverage container
target
feature
recognition processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018075359A
Other languages
Japanese (ja)
Other versions
JP6716133B2 (en
Inventor
英智 田中
Hidetomo Tanaka
英智 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Axell Corp
Original Assignee
Axell Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Axell Corp filed Critical Axell Corp
Priority to JP2018075359A priority Critical patent/JP6716133B2/en
Publication of JP2019185385A publication Critical patent/JP2019185385A/en
Application granted granted Critical
Publication of JP6716133B2 publication Critical patent/JP6716133B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

To provide a technique for improving the recognition accuracy of a subject.SOLUTION: The recognition processing apparatus includes an acquisition unit, a detection unit, and a determination unit. The acquisition unit acquires a captured image of a region including an object to be placed in a placement position. When the object is placed in the placement position, a size of the object is a first size, the detection unit extracts a feature of a background, and if the size of the object is a second size, which is larger than the first size, the detection unit detects a first feature of a first area included in the captured image in which the feature of the object is extracted. When the object is placed at the placement position, if the first feature indicates the feature of the background, the determination unit determines that the size of the object is the first size, and if the first characteristic indicates the feature of the object, the determination unit determines that the size of the object is the second size.SELECTED DRAWING: Figure 1

Description

本発明は、対象を認識する技術に関する。   The present invention relates to a technique for recognizing an object.

カップを用いる飲料の自動販売機を利用するとき、ユーザは所望の飲料に対応するカップを購入し、購入したカップを自動販売機が有するガイドに沿って置くことにより、載置位置にカップを載置する。そして、ユーザは、自動販売機が有する飲料選択用のボタンの中から、購入したカップに対応する飲料の選択ボタンを押下げする。これにより、ユーザは、購入したカップに所望の飲料の供給を受ける。以下の説明では、カップを用いる飲料の自動販売機のことを、飲料供給装置ともいう。また、飲料の選択ボタンのことを、単に選択ボタンともいう。
しかしながら、飲料供給装置が有する選択ボタンの中から、購入したカップに対応する飲料の選択ボタンを選択するとき、ユーザは、購入したカップに対応しない飲料の選択ボタンを誤って選択することがある。これに対応するため、自動販売機が、載置位置に載置されたカップの種類を認識し、認識したカップの種類に応じて自動的に購入したカップに対応する飲料を供給する、という技術が知られている。
When using a beverage vending machine using a cup, the user purchases a cup corresponding to a desired beverage, and places the purchased cup along a guide of the vending machine, thereby placing the cup at the placement position. Put. And a user pushes down the selection button of the drink corresponding to the purchased cup from the buttons for drink selection which a vending machine has. Thereby, a user receives supply of a desired drink to the purchased cup. In the following description, a beverage vending machine using a cup is also referred to as a beverage supply device. The beverage selection button is also simply referred to as a selection button.
However, when selecting a beverage selection button corresponding to a purchased cup from among selection buttons of the beverage supply device, the user may erroneously select a beverage selection button that does not correspond to the purchased cup. In order to cope with this, a technology in which the vending machine recognizes the type of cup placed at the placement position and automatically supplies beverages corresponding to the purchased cup according to the recognized cup type. It has been known.

関連する技術として、撮影部が撮影した飲料容器の画像を、画像登録部が予め記憶部に登録する。その後、購入者が飲料容器を購入し、撮影部で撮影すると、容器認識部が、記憶部に予め登録されている画像情報と、撮影した画像情報を比較し、飲料容器を判定する。表示部が、容器認識部が判定した飲料容器に対応する飲料メニューと飲料サイズを表示し、購入者の操作に基づいて、飲料吐出部が飲料容器に飲料を吐き出す技術が知られている(例えば、特許文献1)。   As a related technique, the image registration unit registers the image of the beverage container photographed by the photographing unit in the storage unit in advance. Thereafter, when the purchaser purchases a beverage container and photographs it with the photographing unit, the container recognition unit compares the image information registered in advance in the storage unit with the photographed image information to determine the beverage container. A technique is known in which the display unit displays the beverage menu and the beverage size corresponding to the beverage container determined by the container recognition unit, and the beverage discharge unit discharges the beverage to the beverage container based on the purchaser's operation (for example, Patent Document 1).

関連する他の技術として、注文を管理し、商品を供給するための方法がある。注文入力ステーションにおいてユーザに商品種の選択を要求し、少なくとも選択した商品種を示す表示を容器に印刷し、商品供給ステーションで表示を読み取り、そして選択した商品種を容器に供給することを包含する技術が知られている(例えば、特許文献2)。   Another related technology is a method for managing orders and supplying goods. Including requesting the user to select a product type at the order entry station, printing a display indicating at least the selected product type on the container, reading the display at the product supply station, and supplying the selected product type to the container. A technique is known (for example, Patent Document 2).

関連する他の技術として、カップセンサは、カップ式飲料自動販売機の販売口は前面が開放された箱状に形作られ、前面には図示しない扉が設けられ、カップステージ上のマイカップの有無を検出する。カップ上端センサは、マイカップの上端部を検出する。カップ径センサは、マイカップの横幅を検出する。ステージ位置センサは、カップステージの停止位置を検出する。ステージ昇降装置は、カップステージ11を昇降させる。そして、利用者によりカップステージ上に載置されたマイカップの高さ寸法に合わせてカップステージを昇降させてマイカップの上端を所定の位置に停止させる技術が知られている(例えば、特許文献3)。
As another related technology, the cup sensor is a box-type beverage vending machine with a front opening that is shaped like a box, a front door (not shown) is provided, and there is a My Cup on the cup stage. Is detected. A cup upper end sensor detects the upper end part of my cup. The cup diameter sensor detects the width of the my cup. The stage position sensor detects the stop position of the cup stage. The stage lifting device moves the cup stage 11 up and down. And the technique which raises / lowers a cup stage according to the height dimension of the my cup mounted on the cup stage by the user, and stops the upper end of my cup in a predetermined position is known (for example, patent documents). 3).

特開2017−159941号公報JP 2017-159941 A 特開2013−540294号公報JP2013-540294A 特開2007−128379号公報JP 2007-128379 A

前述した認識技術において、対象を認識するとき、予め登録されている画像と、撮影した対象の画像とを比較するため、氷の入り方で見た目が異なる、氷入りのプラスチックカップなどの対象の認識精度が低下することがある。
本発明は、一側面として、対象の認識精度を向上する技術を提供する。
In the recognition technology described above, when recognizing an object, it recognizes an object such as a plastic cup with ice that looks different in terms of how ice enters, in order to compare the pre-registered image with the captured image of the object. Accuracy may be reduced.
One aspect of the present invention provides a technique for improving the recognition accuracy of an object.

本明細書で開示する認識処理装置のひとつに、取得部と、検出部と、判定部とを備える認識処理装置がある。取得部は、載置位置に載置される対象を含む領域の撮影画像を取得する。検出部は、載置位置に対象が載置されたとき、対象のサイズが第1サイズの場合、背景の特徴が抽出され、対象のサイズが第1サイズよりも大きい第2サイズの場合、対象の特徴が抽出される撮影画像に含まれる第1領域の第1特性を検出する。判定部は、載置位置に対象が載置されたとき、第1特性が背景の特徴を示す場合、対象のサイズを第1サイズと判定し、第1特性が対象の特徴を示す場合、対象のサイズを第2サイズと判定する。   One of the recognition processing devices disclosed in this specification is a recognition processing device including an acquisition unit, a detection unit, and a determination unit. An acquisition part acquires the picked-up image of the area | region containing the object mounted in a mounting position. When the target is placed at the placement position, the detection unit extracts a background feature if the target size is the first size, and if the target size is the second size larger than the first size, the target The first characteristic of the first region included in the photographed image from which the feature is extracted is detected. The determination unit determines that the size of the target is the first size when the first characteristic indicates the background feature when the target is placed at the mounting position, and the target when the first characteristic indicates the feature of the target Is determined as the second size.

1実施態様によれば、対象の認識精度を向上することができる。   According to one embodiment, the recognition accuracy of an object can be improved.

飲料供給装置の一実施例を示す図(その1)である。It is FIG. (1) which shows one Example of a drink supply apparatus. 飲料供給装置の一実施例を示す図(その2)である。It is FIG. (2) which shows one Example of a drink supply apparatus. 飲料供給装置の一実施例を示す図(その3)である。It is FIG. (3) which shows one Example of a drink supply apparatus. 飲料供給装置の一実施例を示す図(その4)である。It is FIG. (4) which shows one Example of a drink supply apparatus. 飲料供給装置の一実施例を示す図(その5)である。It is FIG. (5) which shows one Example of a drink supply apparatus. 認識処理装置の一実施例を示す機能ブロック図である。It is a functional block diagram which shows one Example of a recognition processing apparatus. 検出領域の輝度の度数分布を示す図(その1)である。It is a figure (the 1) which shows the frequency distribution of the brightness | luminance of a detection area. 検出領域の色相の度数分布を示す図(その1)である。FIG. 6 is a diagram (part 1) illustrating a hue frequency distribution in a detection region. 種類情報の一例を示す図である。It is a figure which shows an example of type information. サイズ情報の一例を示す図である。It is a figure which shows an example of size information. 認識処理の一例を示すフローチャート(その1)である。It is a flowchart (the 1) which shows an example of recognition processing. 認識処理の一例を示すフローチャート(その2)である。It is a flowchart (the 2) which shows an example of a recognition process. コンピュータ装置の一実施例を示すブロック図である。It is a block diagram which shows one Example of a computer apparatus. 飲料供給装置の一実施例を示す図(その6)である。It is FIG. (6) which shows one Example of a drink supply apparatus. 文字が記載されたカップの認識処理を説明する図である。It is a figure explaining the recognition process of the cup in which the character was described. 飲料供給装置の一実施例を示す図(その7)である。It is FIG. (7) which shows one Example of a drink supply apparatus. 検出領域の輝度の度数分布を示す図(その2)である。FIG. 10 is a second diagram illustrating a frequency distribution of luminance in a detection region; 検出領域の色相の度数分布を示す図(その2)である。FIG. 6 is a diagram (part 2) illustrating a hue frequency distribution in a detection region. 飲料供給装置の一実施例を示す図(その8)である。It is FIG. (8) which shows one Example of a drink supply apparatus.

[実施形態1]
実施形態1の認識処理装置について説明する。
実施形態1の認識処理装置は、飲料供給装置の載置台に載置された飲料容器の種類及びサイズを認識する。そして、認識処理装置は、認識した飲料容器の種類及びサイズに応じた種類及び分量の飲料を、飲料供給装置から飲料容器に供給させるという処理を実行する。
以下の説明では、一例として、コーヒーが注がれるカップ状の飲料容器を認識する処理について説明するが、本発明の認識処理装置は、飲料容器に限らず、種類及びサイズの少なくとも一方が異なる対象の認識処理に用いることができる。
[Embodiment 1]
The recognition processing apparatus of Embodiment 1 is demonstrated.
The recognition processing apparatus of Embodiment 1 recognizes the kind and size of the beverage container placed on the placement table of the beverage supply device. And a recognition processing apparatus performs the process of supplying the drink of a kind and quantity according to the kind and size of the recognized drink container from a drink supply apparatus to a drink container.
In the following description, as an example, a process for recognizing a cup-shaped beverage container into which coffee is poured will be described. However, the recognition processing device of the present invention is not limited to a beverage container, and at least one of a type and a size is different. Can be used for the recognition process.

図1〜図5は、飲料供給装置の一実施例を示す図である。図1〜図5を参照して、本発明の認識処理装置1を備える飲料供給装置100が、飲料容器の種類及びサイズの少なくとも一方を認識する処理の概要について説明する。   1-5 is a figure which shows one Example of a drink supply apparatus. With reference to FIGS. 1-5, the outline | summary of the process in which the drink supply apparatus 100 provided with the recognition processing apparatus 1 of this invention recognizes at least one of the kind and size of a drink container is demonstrated.

以下の説明では、飲料容器の種類は、アイスコーヒー用の氷の入りの透明のプラスチックカップ、及びホットコーヒー用の白色の紙カップの2種類であるものとする。また、2種類のカップには、それぞれ、レギュラーサイズ(第1サイズ)及びレギュラーサイズよりも大きいラージサイズ(第2サイズ)の2つのサイズがあるものとする。以下の説明では、アイスコーヒー用の氷の入りの透明のプラスチックカップは、単にプラカップともいう。また、ホットコーヒー用の白色の紙カップは、単に紙カップともいう。   In the following description, it is assumed that there are two types of beverage containers: a transparent plastic cup with ice for iced coffee and a white paper cup for hot coffee. The two types of cups have two sizes, a regular size (first size) and a large size (second size) larger than the regular size. In the following description, the transparent plastic cup with ice for iced coffee is also simply referred to as a plastic cup. A white paper cup for hot coffee is also simply called a paper cup.

図2に示す飲料容器3aは、レギュラーサイズのプラカップである。図3に示す飲料容器3bは、ラージサイズのプラカップである。図4に示す飲料容器3cは、レギュラーサイズの紙カップである。図5に示す飲料容器3dは、ラージサイズの紙カップである。以下の説明では、飲料容器3a〜3dは、特に区別しないとき、飲料容器3ともいう。   The beverage container 3a shown in FIG. 2 is a regular size plastic cup. A beverage container 3b shown in FIG. 3 is a large plastic cup. The beverage container 3c shown in FIG. 4 is a regular size paper cup. The beverage container 3d shown in FIG. 5 is a large-size paper cup. In the following description, the beverage containers 3a to 3d are also referred to as the beverage containers 3 unless particularly distinguished.

図1を参照して説明する。
飲料供給装置100は、表示装置110と、選択ボタン121〜124と、開口部130と、載置台141と、ガイド142と、供給口150と、補助部材161と、撮影穴170と、認識処理装置1と、撮像装置2とを備える。選択ボタン121〜124は、特に区別しないとき、選択ボタン120ともいう。
A description will be given with reference to FIG.
The beverage supply device 100 includes a display device 110, selection buttons 121 to 124, an opening 130, a mounting table 141, a guide 142, a supply port 150, an auxiliary member 161, a photographing hole 170, and a recognition processing device. 1 and the imaging device 2. The selection buttons 121 to 124 are also referred to as selection buttons 120 unless particularly distinguished.

表示装置110は、画像や動画などを用いて、広告、宣伝、及び操作画面などの各種情報を表示する。また、表示装置110は、タッチパネルを備え、コーヒーに加える砂糖及びミルクの量の調整や、コーヒーの濃さの選択などを受け付けてもよい。   The display device 110 displays various types of information such as advertisements, advertisements, and operation screens using images and moving images. The display device 110 may include a touch panel, and may accept adjustment of the amount of sugar and milk added to the coffee, selection of coffee strength, and the like.

選択ボタン120は、認識処理装置1が認識した飲料容器3の種類及びサイズに対応するボタンを点灯させ、載置台141に載置された飲料容器3の種類及びサイズを利用者に通知する。選択ボタン121は、レギュラーサイズのホットコーヒーRHに対応する。選択ボタン122は、ラージサイズのホットコーヒーLHに対応する。選択ボタン123は、レギュラーサイズのアイスコーヒーRCに対応する。選択ボタン124は、ラージサイズのアイスコーヒーLCに対応する。   The selection button 120 lights a button corresponding to the type and size of the beverage container 3 recognized by the recognition processing device 1, and notifies the user of the type and size of the beverage container 3 placed on the placement table 141. The selection button 121 corresponds to regular size hot coffee RH. The selection button 122 corresponds to large-sized hot coffee LH. The selection button 123 corresponds to the regular size ice coffee RC. The selection button 124 corresponds to the large size ice coffee LC.

なお、選択ボタン120は、タッチパネルを備え、利用者に所望のボタンが押下げられたとき、載置された飲料容器3の種類及びサイズを受け付けてもよい。この場合には、認識処理装置1は、利用者に選択された種類及びサイズに対応する種類及び分量の飲料を、飲料供給装置100に供給させる。以下の説明では、選択ボタン120は、飲料容器3の種類及びサイズの通知のみを実行し、飲料容器3の種類及びサイズの受け付けは実行しないものとして説明する。   The selection button 120 includes a touch panel, and may accept the type and size of the placed beverage container 3 when a user presses a desired button. In this case, the recognition processing device 1 causes the beverage supply device 100 to supply the beverage of the type and amount corresponding to the type and size selected by the user. In the following description, it is assumed that the selection button 120 executes only notification of the type and size of the beverage container 3 and does not execute reception of the type and size of the beverage container 3.

開口部130は、飲料供給装置100の前面に設けられた空間であり、利用者が飲料容器3を載置する載置台141が設けられている。
載置台141は、利用者が飲料容器3を載置する黒色の台である。なお、載置台141の色は、黒色に限定されるものではなく、例えば、認識処理装置1が飲料容器3の特徴と、載置台141の特徴とを、輝度及び色相の少なくとも一方のヒストグラムの特徴から識別可能な色であればよい。ヒストグラムは、撮像装置2で撮像された撮影画像に含まれる、飲料容器3と載置台141との輝度または色相の特性を示すものである。以下の説明では、飲料容器3の特徴と、載置台141の特徴と、背景の特徴とは、各対象の画像に対応するヒストグラムの特徴であるものとする。以下の説明では、ヒストグラムのことを、単に特性ともいう。また、輝度及び色相のヒストグラムを区別しないときは、単にヒストグラムともいう。
The opening 130 is a space provided on the front surface of the beverage supply apparatus 100, and a mounting table 141 on which the user places the beverage container 3 is provided.
The mounting table 141 is a black table on which the user mounts the beverage container 3. Note that the color of the mounting table 141 is not limited to black, and for example, the recognition processing device 1 uses the characteristics of the beverage container 3 and the characteristics of the mounting table 141 as the characteristics of at least one of luminance and hue histograms. Any color can be used as long as it can be identified. The histogram shows the luminance or hue characteristics of the beverage container 3 and the mounting table 141 included in the captured image captured by the imaging device 2. In the following description, the characteristics of the beverage container 3, the characteristics of the mounting table 141, and the background characteristics are assumed to be characteristics of a histogram corresponding to each target image. In the following description, the histogram is also simply referred to as a characteristic. Further, when the luminance and hue histograms are not distinguished, they are also simply referred to as histograms.

ガイド142は、例えば、コの字型の形状で載置台141の上に設けられ、飲料容器3がガイド142で囲まれる載置位置に置かれるように誘導する。これにより、利用者は、ガイド142に沿って飲料容器3を載置台141に載置することにより、飲料容器3を載置位置に載置することができる。以下の説明では、ガイド142で囲まれる載置位置のことを、単に載置位置ともいう。   The guide 142 is provided on the mounting table 141 in a U-shape, for example, and guides the beverage container 3 to be placed at the mounting position surrounded by the guide 142. Thereby, the user can place the beverage container 3 at the placement position by placing the beverage container 3 on the placement table 141 along the guide 142. In the following description, the mounting position surrounded by the guide 142 is also simply referred to as a mounting position.

供給口150は、飲料供給装置100が飲料容器3に飲料を供給するときに用いられる注ぎ口である。すなわち、飲料供給装置100は、認識処理装置1が認識した飲料容器3の種類及びサイズに対応する種類及び分量の飲料を、供給口150を用いて飲料容器3に供給する。   The supply port 150 is a spout used when the beverage supply device 100 supplies a beverage to the beverage container 3. That is, the beverage supply device 100 supplies the beverage container 3 with a type and amount of beverage corresponding to the type and size of the beverage container 3 recognized by the recognition processing device 1 using the supply port 150.

補助部材161は、載置位置に飲料容器3aが載置されたとき、撮影画像の第1領域r1に、黒色の画像が写し出される位置に設置された黒色の部材である。なお、補助部材161の色は、黒色に限定されるものではなく、例えば、認識処理装置1が飲料容器3bの特徴と、補助部材161の特徴とを、輝度及び色相の少なくとも一方のヒストグラムの特徴から識別可能な色であればよい。以下の説明では、補助部材161の特徴は、各対象の画像に対応する輝度及び色相のすくなくとも一方のヒストグラムの特徴であるものとする。
撮像穴170は、飲料供給装置100の筐体内部に配置された撮像装置2が、開口部130内の画像を撮像するために設けられた穴である。
The auxiliary member 161 is a black member installed at a position where a black image is projected in the first region r1 of the photographed image when the beverage container 3a is placed at the placement position. Note that the color of the auxiliary member 161 is not limited to black, and for example, the recognition processing device 1 uses the characteristics of the beverage container 3b and the characteristics of the auxiliary member 161 as the characteristics of at least one of luminance and hue histograms. Any color can be used as long as it can be identified. In the following description, it is assumed that the feature of the auxiliary member 161 is the feature of at least one of the luminance and hue corresponding to each target image.
The imaging hole 170 is a hole provided for the imaging device 2 arranged inside the casing of the beverage supply device 100 to capture an image in the opening 130.

認識処理装置1は、撮像装置2で撮像された撮影画像を取得し、図2から図5に示すように、載置位置に対象が載置されたとき、飲料容器3のサイズによらずに飲料容器3の特徴が抽出される、撮影画像に含まれる第2領域r2の第2ヒストグラムを検出する。そして、認識処理装置1は、第2ヒストグラムの特徴が飲料容器3の特徴を示すとき、載置位置に飲料容器3が載置されたものと判定する。このとき、認識処理装置1は、第2領域r2の第2ヒストグラムの特徴から飲料容器3の種類も判定する。なお、図1〜図5に示す第1領域r1及び第2領域r2は、撮影画像に含まれる第1領域r1及び第2領域r2の位置を示したものである。以下の説明では、第2領域r2の第2ヒストグラムのことを、単に第2ヒストグラムともいう。   The recognition processing device 1 acquires a captured image captured by the imaging device 2 and, as shown in FIGS. 2 to 5, when the target is placed at the placement position, regardless of the size of the beverage container 3. A second histogram of the second region r2 included in the photographed image from which the characteristics of the beverage container 3 are extracted is detected. And the recognition processing apparatus 1 determines with the drink container 3 having been mounted in the mounting position, when the characteristic of a 2nd histogram shows the characteristic of the drink container 3. FIG. At this time, the recognition processing apparatus 1 also determines the type of the beverage container 3 from the characteristics of the second histogram of the second region r2. Note that the first region r1 and the second region r2 shown in FIGS. 1 to 5 indicate the positions of the first region r1 and the second region r2 included in the captured image. In the following description, the second histogram of the second region r2 is simply referred to as a second histogram.

認識処理装置1は、載置位置に飲料容器3が載置されたと判定すると、飲料容器3の種類に応じて第1領域r1の位置を設定し、第1領域r1の第1ヒストグラムを検出する。第1領域r1の位置を飲料容器3の種類に応じて設定するのは、飲料容器3の種類によりサイズがことなるので、背景との特徴の違いを判定するのに適した領域が異なるためである。   When the recognition processing device 1 determines that the beverage container 3 is placed at the placement position, the recognition processing device 1 sets the position of the first region r1 according to the type of the beverage container 3, and detects the first histogram of the first region r1. . The position of the first region r1 is set according to the type of the beverage container 3 because the size differs depending on the type of the beverage container 3, and the region suitable for determining the difference in characteristics from the background is different. is there.

そして、認識処理装置1は、第1領域r1の第1ヒストグラムが背景の特徴を示す場合、飲料容器3のサイズをレギュラーサイズであると判定する。また、認識処理装置1は、第1領域r1の第1ヒストグラムが飲料容器3の特徴を示す場合、飲料容器3のサイズをラージサイズであると判定する。以下の説明では、第1領域r1の第1ヒストグラムのことを、単に第1ヒストグラムともいう。   And the recognition processing apparatus 1 determines with the size of the drink container 3 being regular size, when the 1st histogram of 1st area | region r1 shows the characteristic of a background. Moreover, the recognition processing apparatus 1 determines with the size of the drink container 3 being large size, when the 1st histogram of 1st area | region r1 shows the characteristic of the drink container 3. FIG. In the following description, the first histogram of the first region r1 is also simply referred to as a first histogram.

認識処理装置1は、載置位置に飲料容器3aが載置されたとき、背景として、第1領域r1に含まれる補助部材161の画像の特性を示す第1ヒストグラムを検出する。また、認識処理装置1は、載置位置に飲料容器3bが載置されたとき、飲料容器として、第1領域r1に含まれる飲料容器3bの開口部のふちの画像の特性を示す第1ヒストグラムを検出する。これにより、認識処理装置1は、飲料容器3aと飲料容器3bで検出される第1ヒストグラムの特性の違いを明確にし、精度良く飲料容器3aと飲料容器3bとを認識する。   When the beverage container 3a is placed at the placement position, the recognition processing device 1 detects a first histogram indicating the image characteristics of the auxiliary member 161 included in the first region r1 as the background. Moreover, the recognition processing apparatus 1 is the 1st histogram which shows the characteristic of the image of the edge of the opening part of the drink container 3b contained in 1st area | region r1 as a drink container when the drink container 3b is mounted in the mounting position. Is detected. Thereby, the recognition processing apparatus 1 clarifies the difference of the characteristic of the 1st histogram detected with the drink container 3a and the drink container 3b, and recognizes the drink container 3a and the drink container 3b with high precision.

認識処理装置1は、認識した飲料容器3の種類に対応する種類の飲料を選択する。さらに、認識処理装置1は、認識した飲料容器3のサイズに対応する分量を選択する。認識処理装置1は、選択した種類及び分量の飲料を、飲料供給装置100から飲料容器3に供給させる。   The recognition processing device 1 selects a type of beverage corresponding to the recognized type of the beverage container 3. Furthermore, the recognition processing apparatus 1 selects an amount corresponding to the recognized size of the beverage container 3. The recognition processing device 1 causes the beverage of the selected type and amount to be supplied from the beverage supply device 100 to the beverage container 3.

以上のように、認識処理装置1は、撮像装置2で撮像された撮影画像に含まれる指定された領域の特徴を抽出することにより、載置位置に載置された対象の種類及びサイズを認識するので、対象の認識精度を向上することができる。   As described above, the recognition processing device 1 recognizes the type and size of the target placed at the placement position by extracting the feature of the designated area included in the captured image captured by the imaging device 2. Therefore, the recognition accuracy of the target can be improved.

認識処理装置1の処理について、より詳細に説明する。
図6は、認識処理装置の一実施例を示す機能ブロック図である。
認識処理装置1は、制御部10と、記憶部20とを備える。そして、認識処理装置1は、撮像装置2と接続される。また、認識処理装置1は、図示しない飲料供給装置100の動作を制御する制御装置と接続される。以下の説明では、認識処理装置1は、制御装置に指示を出すことにより、選択した種類及び分量の飲料を飲料供給装置100から飲料容器3に供給させるものとして説明する。なお、認識処理装置1は、飲料容器3の種類及びサイズを制御装置に通知してもよい。この場合には、制御装置は、通知内容に応じて選択した種類及び分量の飲料を、飲料供給装置100から飲料容器3に供給させる。
The process of the recognition processing apparatus 1 will be described in more detail.
FIG. 6 is a functional block diagram showing an embodiment of the recognition processing apparatus.
The recognition processing device 1 includes a control unit 10 and a storage unit 20. The recognition processing device 1 is connected to the imaging device 2. Moreover, the recognition processing apparatus 1 is connected with the control apparatus which controls operation | movement of the drink supply apparatus 100 which is not shown in figure. In the following description, the recognition processing device 1 will be described as supplying the beverage of the selected type and quantity from the beverage supply device 100 to the beverage container 3 by issuing an instruction to the control device. Note that the recognition processing device 1 may notify the control device of the type and size of the beverage container 3. In this case, the control device causes the beverage container 3 to supply the beverage of the type and amount selected according to the notification content from the beverage supply device 100.

制御部10は、取得部11と、検出部12と、判定部13と、設定部14と、選択部15とを含む。記憶部20は、特徴情報21と、領域情報22と、種類情報23と、サイズ情報24とを記憶する。各情報は、記憶部20に複数格納されてもよい。   The control unit 10 includes an acquisition unit 11, a detection unit 12, a determination unit 13, a setting unit 14, and a selection unit 15. The storage unit 20 stores feature information 21, region information 22, type information 23, and size information 24. A plurality of pieces of information may be stored in the storage unit 20.

特徴情報21は、撮影画像に含まれる第1領域r1の第1ヒストグラムについて、飲料容器3が写っているときの特徴と、飲料容器3が写っていないときの特徴とを格納する。また、特徴情報21は、飲料容器3の第1ヒストグラムについて、氷入りのプラスチックカップが写っているときの特徴と、白い紙カップが写っているときの特徴とを格納する。
さらに、特徴情報21は、撮影画像に含まれる第2領域r2の第2ヒストグラムについて、飲料容器3が写っているときの特徴と、飲料容器3が写っていないときの特徴とを格納する。また、特徴情報21は、飲料容器3の第2ヒストグラムについて、氷入りのプラスチックカップが写っているときの特徴と、白い紙カップが写っているときの特徴とを格納する。
特徴情報21は、ユーザにより実験的に求められた特徴を格納してもよい。特徴情報21は、例えば、複数回撮像した撮影画像から、複数回第1領域r1及び第2領域r2の特徴を抽出し、抽出した特徴の平均値を格納してもよい。また、特徴情報21には、理論上得られると考えられる、第1領域r1及び第2領域r2の特徴を格納してもよい。
The feature information 21 stores a feature when the beverage container 3 is reflected and a feature when the beverage container 3 is not reflected in the first histogram of the first region r1 included in the photographed image. In addition, the feature information 21 stores, for the first histogram of the beverage container 3, a feature when an iced plastic cup is reflected and a feature when a white paper cup is reflected.
Further, the feature information 21 stores a feature when the beverage container 3 is reflected and a feature when the beverage container 3 is not reflected in the second histogram of the second region r2 included in the photographed image. In addition, the feature information 21 stores, for the second histogram of the beverage container 3, a feature when an iced plastic cup is reflected and a feature when a white paper cup is reflected.
The feature information 21 may store features experimentally obtained by the user. For example, the feature information 21 may extract features of the first region r1 and the second region r2 a plurality of times from a captured image captured a plurality of times, and store an average value of the extracted features. The feature information 21 may store the features of the first region r1 and the second region r2 that are considered to be theoretically obtained.

図7は、検出領域の輝度の度数分布を示す図(その1)である。
図7を参照して、飲料容器3の認識に、輝度のヒストグラムを用いるときの特徴情報21の一例について説明する。
特徴情報21は、図7に示す、カップなし、飲料容器3a、飲料容器3b、飲料容器3c、および飲料容器3dについて、撮影画像に含まれる第1領域r1及び第2領域r2の輝度のヒストグラムの特徴を格納する。
FIG. 7 is a diagram (part 1) illustrating a luminance frequency distribution in a detection region.
With reference to FIG. 7, an example of the feature information 21 when a luminance histogram is used for recognition of the beverage container 3 will be described.
The characteristic information 21 is a histogram of the luminance of the first region r1 and the second region r2 included in the photographed image for the cupless beverage container 3a, the beverage container 3b, the beverage container 3c, and the beverage container 3d shown in FIG. Stores features.

特徴情報21は、例えば、カップなしの第1ヒストグラム及び第2ヒストグラムの特徴として、第1領域r1及び第2領域r2に輝度を有する画素が第1閾値以下という特徴を格納する。これは、載置位置に飲料容器3が載置されていないとき、カップなしの載置状態に示すように、第1領域r1と、第2領域r2との画像には、それぞれ背景として黒色の補助部材161と、黒色の載置台141とが写し出されるために有する特徴である。飲料容器3が載置されていないとき、背景として黒色の載置台141の画像が写し出されるように第2領域r2を設定しておくことにより、飲料容器3が載置されているときと、飲料容器3が載置されていないときとの第2ヒストグラムの特性の違いを明確にする。これにより、認識処理装置1は、飲料容器3aと飲料容器3bとを精度良く認識することができる。   The feature information 21 stores, for example, a feature in which pixels having luminance in the first region r1 and the second region r2 are equal to or less than the first threshold as features of the first histogram and the second histogram without a cup. This is because when the beverage container 3 is not placed at the placement position, as shown in the placement state without the cup, the images of the first region r1 and the second region r2 are each black as a background. This is a characteristic that the auxiliary member 161 and the black mounting table 141 are projected. When the beverage container 3 is not placed, the second region r2 is set so that an image of the black placement table 141 is projected as a background, so that the beverage container 3 is placed and the beverage The difference in the characteristics of the second histogram from when the container 3 is not placed is clarified. Thereby, the recognition processing apparatus 1 can recognize the beverage container 3a and the beverage container 3b with high accuracy.

特徴情報21は、例えば、飲料容器3aの第1ヒストグラムの特徴として、第1領域r1に輝度を有する画素が第1閾値以下という特徴を格納する。また、特徴情報21は、例えば、飲料容器3aの第2ヒストグラムの特徴として、第2領域r2の輝度が第2閾値以上の広がりを有するという特徴を格納する。   The feature information 21 stores, for example, a feature that a pixel having luminance in the first region r1 is equal to or less than a first threshold value as a feature of the first histogram of the beverage container 3a. In addition, the feature information 21 stores, for example, a feature that the luminance of the second region r2 has a spread equal to or larger than the second threshold value as a feature of the second histogram of the beverage container 3a.

これは、載置位置に飲料容器3aが載置されているとき、飲料容器3aの載置状態に示すように、第1領域r1の画像には、背景として黒色の補助部材161が写し出されるために有する特徴である。また、載置位置に飲料容器3aが載置されているとき、飲料容器3aの載置状態に示すように、第2領域r2の画像には、飲料容器3aの下方部分が写し出されるので、氷の反射により輝度がばらつくために有する特徴である。第2領域r2の輝度が第2閾値以上の広がりがあるとは、例えば、第2閾値r2の輝度のばらつきが所定の閾値以上である、または第2領域r2の輝度の最大値と最小値との差が所定の閾値以上であることを基準にして判定してもよい。   This is because when the beverage container 3a is placed at the placement position, as shown in the placement state of the beverage container 3a, the black auxiliary member 161 is projected as a background in the image of the first region r1. It is the characteristic which has. Further, when the beverage container 3a is placed at the placement position, as shown in the placement state of the beverage container 3a, the lower portion of the beverage container 3a is projected on the image of the second region r2, so that the ice This is because the luminance varies due to the reflection of light. The fact that the brightness of the second region r2 has a spread greater than or equal to the second threshold is, for example, that the variation in the brightness of the second threshold r2 is greater than or equal to a predetermined threshold, or the maximum and minimum values of the brightness of the second region r2 It may be determined on the basis that the difference is equal to or greater than a predetermined threshold.

特徴情報21は、例えば、飲料容器3bの第1ヒストグラムの特徴として、第1領域r1に飲料容器3bの開口部のふちに対応する輝度を有する画素が含まれるという特徴を格納する。また、特徴情報21は、例えば、飲料容器3bの第2ヒストグラムの特徴として、第2領域r2の輝度が第2閾値以上の広がりを有するという特徴を格納する。   The feature information 21 stores, for example, a feature that a pixel having luminance corresponding to the edge of the opening of the beverage container 3b is included in the first region r1 as the feature of the first histogram of the beverage container 3b. In addition, the feature information 21 stores, for example, a feature that the luminance of the second region r2 has a spread equal to or larger than the second threshold value as a feature of the second histogram of the beverage container 3b.

これは、載置位置に飲料容器3bが載置されているとき、飲料容器3bの載置状態に示すように、第1領域r1の画像には、飲料容器3bの開口部のふちが写し出されるために有する特徴である。また、載置位置に飲料容器3bが載置されているとき、飲料容器3bの載置状態に示すように、第2領域r2の画像には、飲料容器3bの下方部分が写し出されるので、氷の反射により輝度がばらつくために有する特徴である。   This is because when the beverage container 3b is placed at the placement position, as shown in the placement state of the beverage container 3b, the edge of the opening of the beverage container 3b is projected in the image of the first region r1. It is a feature to have. Further, when the beverage container 3b is placed at the placement position, as shown in the placement state of the beverage container 3b, the lower portion of the beverage container 3b is projected on the image of the second region r2, so that the ice This is because the luminance varies due to the reflection of light.

特徴情報21は、例えば、飲料容器3cのヒストグラムの特徴として、第1領域r1に背景のヒストグラムに対応する特徴を格納する。また、特徴情報21は、例えば、飲料容器3cのヒストグラムの特徴として、第2領域r2の輝度が第2閾値未満の広がりを有するという特徴を格納する。   The feature information 21 stores, for example, features corresponding to the background histogram in the first region r1 as features of the histogram of the beverage container 3c. The feature information 21 stores, for example, a feature that the brightness of the second region r2 has a spread less than the second threshold value as a feature of the histogram of the beverage container 3c.

これは、載置位置に飲料容器3cが載置されているとき、飲料容器3cの載置状態に示すように、第1領域r1の画像には、飲料容器3cではなく背景が写し出されるために有する特徴である。また、載置位置に飲料容器3cが載置されているとき、飲料容器3cの載置状態に示すように、第2領域r2の画像には、飲料容器3cの下方部分が写し出されるので、白色に対応する輝度が現れるために有する特徴である。   This is because when the beverage container 3c is placed at the placement position, as shown in the placement state of the beverage container 3c, the background of the first region r1 is projected in the image of the first region r1. It is the characteristic which has. Further, when the beverage container 3c is placed at the placement position, as shown in the placement state of the beverage container 3c, the lower region of the beverage container 3c is projected on the image of the second region r2, so that white This is a characteristic that the brightness corresponding to the appears.

特徴情報21は、例えば、飲料容器3dのヒストグラムの特徴として、第2領域r2の輝度が第2閾値未満の広がりを有するという特徴を格納する。これは、載置位置に飲料容器3dが載置されているとき、飲料容器3dの載置状態に示すように、第1領域r1及び第2領域r2の画像には、それぞれ飲料容器3dの上方部分と下方部分とが写し出されるので、白色に対応する輝度が現れるために有する特徴である。   The feature information 21 stores, for example, a feature that the brightness of the second region r2 has a spread less than the second threshold value as a feature of the histogram of the beverage container 3d. This is because when the beverage container 3d is placed at the placement position, as shown in the placement state of the beverage container 3d, the images of the first region r1 and the second region r2 are respectively above the beverage container 3d. Since the portion and the lower portion are projected, this is a feature that the luminance corresponding to white appears.

図8は、検出領域の色相の度数分布を示す図(その1)である。
図8を参照して、飲料容器3の認識に、色相のヒストグラムを用いるときの特徴情報21の一例について説明する。
特徴情報21には、図8に示す、カップなしと、飲料容器3aと、飲料容器3bと、飲料容器3cと、飲料容器3dとが、撮像装置2により撮像されたときの、撮影画像の色相のヒストグラムに対応する特徴が格納されている。
FIG. 8 is a diagram (part 1) illustrating a hue frequency distribution in a detection region.
With reference to FIG. 8, an example of the feature information 21 when the hue histogram is used for the recognition of the beverage container 3 will be described.
The feature information 21 includes the hue of the captured image when the imaging device 2 captures the image of the cupless beverage container 3a, the beverage container 3b, the beverage container 3c, and the beverage container 3d shown in FIG. The features corresponding to the histograms are stored.

特徴情報21は、例えば、カップなしの第1ヒストグラム及び第2ヒストグラムの特徴として、第1領域r1及び第2領域r2に含まれる色の種類が第4閾値以下であるという特徴を格納する。これは、載置位置に飲料容器3が載置されていないとき、カップなしの載置状態に示すように、第1領域r1と、第2領域r2との画像には、それぞれ黒色の補助部材161と、黒色の載置台141とが写し出されるために有する特徴である。飲料容器3が載置されていないとき、背景として黒色の載置台141の画像が写し出されるように第2領域r2を設定しておくことにより、飲料容器3が載置されているときと、飲料容器3が載置されていないときとの第2ヒストグラムの特性の違いを明確にする。これにより、認識処理装置1は、飲料容器3aと飲料容器3bとを精度良く認識することができる。   The feature information 21 stores, for example, a feature that the type of color included in the first region r1 and the second region r2 is equal to or less than a fourth threshold value as the feature of the first histogram and the second histogram without the cup. This is because when the beverage container 3 is not placed at the placement position, as shown in the placement state without the cup, the images of the first region r1 and the second region r2 are each black auxiliary members. 161 and the black mounting table 141 are projected. When the beverage container 3 is not placed, the second region r2 is set so that an image of the black placement table 141 is projected as a background, so that the beverage container 3 is placed and the beverage The difference in the characteristics of the second histogram from when the container 3 is not placed is clarified. Thereby, the recognition processing apparatus 1 can recognize the beverage container 3a and the beverage container 3b with high accuracy.

特徴情報21は、例えば、飲料容器3aの第1ヒストグラムの特徴として、第1領域r1に含まれる色の種類が第4閾値以下であるという特徴を格納する。また、特徴情報21は、例えば、飲料容器3aの第2ヒストグラムの特徴として、第2領域r2に含まれる色の種類が第5閾値以上であるという特徴を格納する。   The feature information 21 stores, for example, a feature that the color type included in the first region r1 is the fourth threshold value or less as the feature of the first histogram of the beverage container 3a. In addition, the feature information 21 stores, for example, a feature that the color type included in the second region r2 is greater than or equal to the fifth threshold as a feature of the second histogram of the beverage container 3a.

これは、載置位置に飲料容器3aが載置されているとき、飲料容器3aの載置状態に示すように、第1領域r1の画像には、黒色の補助部材161が写し出されるために有する特徴である。また、載置位置に飲料容器3aが載置されているとき、飲料容器3aの載置状態に示すように、第2領域r2の画像には、飲料容器3bの下方部分が写し出されるので、氷の反射により色の種類が複数になるために有する特徴である。   This is because when the beverage container 3a is placed at the placement position, as shown in the placement state of the beverage container 3a, the black auxiliary member 161 is projected in the image of the first region r1. It is a feature. Further, when the beverage container 3a is placed at the placement position, as shown in the placement state of the beverage container 3a, the lower portion of the beverage container 3b is projected on the image of the second region r2, so that the ice This is a feature possessed by the fact that there are a plurality of types of colors due to reflection.

特徴情報21は、例えば、飲料容器3bのヒストグラムの特徴として、第1領域r1に含まれる色の種類が第6閾値以上であるという特徴を格納する。また、特徴情報21は、例えば、飲料容器3bのヒストグラムの特徴として、第2領域r2に含まれる色の種類が第5閾値以上であるという特徴を格納する。   The feature information 21 stores, for example, a feature that the color type included in the first region r1 is equal to or greater than the sixth threshold value as a feature of the histogram of the beverage container 3b. In addition, the feature information 21 stores, for example, a feature that the color type included in the second region r2 is equal to or more than the fifth threshold value as a feature of the histogram of the beverage container 3b.

これは、載置位置に飲料容器3bが載置されているとき、飲料容器3bの載置状態に示すように、第1領域r1の画像には、飲料容器3bの開口部のふちが写し出されるために有する特徴である。また、載置位置に飲料容器3aが載置されているとき、飲料容器3aの載置状態に示すように、第2領域r2の画像には、飲料容器3bの下方部分が写し出されるので、氷の反射により色の種類が複数になるために有する特徴である。   This is because when the beverage container 3b is placed at the placement position, as shown in the placement state of the beverage container 3b, the edge of the opening of the beverage container 3b is projected in the image of the first region r1. It is a feature to have. Further, when the beverage container 3a is placed at the placement position, as shown in the placement state of the beverage container 3a, the lower portion of the beverage container 3b is projected on the image of the second region r2, so that the ice This is a feature possessed by the fact that there are a plurality of types of colors due to reflection.

特徴情報21は、例えば、飲料容器3cのヒストグラムの特徴として、第1領域r1に背景のヒストグラムに対応する色の特徴を格納する。また、特徴情報21は、例えば、飲料容器3cのヒストグラムの特徴として、第2領域r2に含まれる色の種類が第5閾値未満であるという特徴を格納する。   The feature information 21 stores, for example, a color feature corresponding to the background histogram in the first region r1 as the histogram feature of the beverage container 3c. In addition, the feature information 21 stores, for example, a feature that the color type included in the second region r2 is less than the fifth threshold value as a feature of the histogram of the beverage container 3c.

これは、載置位置に飲料容器3cが載置されているとき、飲料容器3cの載置状態に示すように、第1領域r1の画像には、飲料容器3cではなく背景が写し出されるために有する特徴である。また、載置位置に飲料容器3cが載置されているとき、飲料容器3cの載置状態に示すように、第2領域r2の画像には、それぞれ飲料容器3dの上方部分と下方部分とが写し出されるので、白色に対応する色が現れるために有する特徴である。   This is because when the beverage container 3c is placed at the placement position, as shown in the placement state of the beverage container 3c, the background of the first region r1 is projected in the image of the first region r1. It is the characteristic which has. When the beverage container 3c is placed at the placement position, as shown in the placement state of the beverage container 3c, the image of the second region r2 includes an upper portion and a lower portion of the beverage container 3d, respectively. Since it is copied, it is a feature that the color corresponding to white appears.

特徴情報21は、例えば、飲料容器3dのヒストグラムの特徴として、第1領域r1及び第2領域r2に含まれる色の種類が第5閾値未満であるという特徴を格納する。載置位置に飲料容器3dが載置されているとき、飲料容器3dの載置状態に示すように、第1領域r1及び第2領域r2の画像には、飲料容器3dの下方部分が写し出されるので、白色に対応する色が現れるために有する特徴である。   The feature information 21 stores, for example, a feature that the color type included in the first region r1 and the second region r2 is less than the fifth threshold value as a feature of the histogram of the beverage container 3d. When the beverage container 3d is placed at the placement position, as shown in the placement state of the beverage container 3d, the lower part of the beverage container 3d is projected on the images of the first region r1 and the second region r2. Therefore, this is a feature that the color corresponding to white appears.

図6を参照して説明する。
領域情報22は、飲料容器3の種類に対応する第1領域r1及び第2領域r2の位置を格納する。より具体的には、領域情報22は、飲料容器3のサイズがレギュラーサイズかラージサイズかを、第1ヒストグラムの特徴から判定可能な第1領域r1の位置を格納する。また、領域情報22は、載置位置に飲料容器3が載置されているかいないかを、第2ヒストグラムの特徴から判定可能な第2領域r2の位置を格納する。
This will be described with reference to FIG.
The area information 22 stores the positions of the first area r1 and the second area r2 corresponding to the type of the beverage container 3. More specifically, the region information 22 stores the position of the first region r1 that can determine whether the size of the beverage container 3 is a regular size or a large size from the characteristics of the first histogram. In addition, the area information 22 stores the position of the second area r2 where it can be determined from the characteristics of the second histogram whether or not the beverage container 3 is placed at the placement position.

領域情報22は、ユーザにより実験的に求められた第1領域r1及び第2領域r2の位置を格納してもよい。領域情報22は、例えば、複数回特徴を抽出した結果から、精度良く飲料容器3の種類及びサイズを判定できた第1領域r1及び第2領域r2の位置を格納してもよい。また、特徴情報21には、精度良く飲料容器3の種類及びサイズを精度良く判定可能であると、理論上得られると考えられる第1領域r1及び第2領域r2の特徴を格納してもよい。   The area information 22 may store the positions of the first area r1 and the second area r2 obtained experimentally by the user. The region information 22 may store, for example, the positions of the first region r1 and the second region r2 that have been able to accurately determine the type and size of the beverage container 3 from the result of extracting the features a plurality of times. Further, the feature information 21 may store the features of the first region r1 and the second region r2 that can be theoretically obtained when the type and size of the beverage container 3 can be accurately determined. .

領域情報22は、例えば、図7の飲料容器3a及び飲料容器3bの第1領域r1に示すように、氷の入った透明のプラスチックカップの第1領域r1として、飲料容器3bの開口部のふちの位置を示す領域情報を格納する。また、領域情報22は、例えば、図7の飲料容器3c及び飲料容器3dの第1領域r1に示すように、白色の紙カップの第1領域r1として、飲料容器3cの開口部よりも上方であり、飲料容器3dの開口部よりも下方である位置を示す領域情報を格納する。   For example, as shown in the first region r1 of the beverage container 3a and the beverage container 3b in FIG. 7, the region information 22 is the first region r1 of the transparent plastic cup containing ice, and the edge of the opening of the beverage container 3b. The area information indicating the position of is stored. Moreover, the area | region information 22 is above the opening part of the drink container 3c as the 1st area | region r1 of a white paper cup, for example, as shown to the 1st area | region r1 of the drink container 3c and the drink container 3d of FIG. The area information indicating the position below the opening of the beverage container 3d is stored.

領域情報22は、例えば、図7のカップなし、飲料容器3a、飲料容器3b、飲料容器3c、及び飲料容器3dの第2領域r2に示すように、飲料容器3の下方の位置を示す領域情報を格納する。第2領域r2には、飲料容器3の種類によらずに同じ位置が設定される。   The region information 22 is, for example, region information indicating the position below the beverage container 3 as shown in the second region r2 of the cupless, beverage container 3a, beverage container 3b, beverage container 3c, and beverage container 3d in FIG. Is stored. The same position is set in the second region r2 regardless of the type of the beverage container 3.

種類情報23は、飲料容器3の種類を識別する容器識別子と、飲料容器3の種類に対応する供給する飲料の種類と、飲料容器3の種類に対応する供給する飲料の温度とを関連付けて格納する。   The type information 23 stores the container identifier for identifying the type of the beverage container 3, the type of beverage to be supplied corresponding to the type of the beverage container 3, and the temperature of the beverage to be supplied corresponding to the type of the beverage container 3. To do.

図9は、種類情報の一例を示す図である。
図9を参照して、種類情報23の一例を説明する。
種類情報23は、容器識別子と、飲料の種類と、飲料の温度とが関連付けられて格納する。
FIG. 9 is a diagram illustrating an example of type information.
An example of the type information 23 will be described with reference to FIG.
The type information 23 stores a container identifier, a beverage type, and a beverage temperature in association with each other.

そして、種類情報23において、飲料容器3aに関連付けられたレコードは、飲料容器3aには温度20度のアイスコーヒーを供給することを示す。飲料容器3bに関連付けられたレコードは、飲料容器3bには温度20度のアイスコーヒーを供給することを示す。また、飲料容器3cに関連付けられたレコードは、飲料容器3cには温度55度のホットコーヒーを供給することを示す。飲料容器3dに関連付けられたレコードは、飲料容器3dには温度55度のホットコーヒーを供給することを示す。   In the type information 23, the record associated with the beverage container 3a indicates that iced coffee having a temperature of 20 degrees is supplied to the beverage container 3a. The record associated with the beverage container 3b indicates that iced coffee at a temperature of 20 degrees is supplied to the beverage container 3b. The record associated with the beverage container 3c indicates that hot coffee having a temperature of 55 degrees is supplied to the beverage container 3c. The record associated with the beverage container 3d indicates that the beverage container 3d is supplied with hot coffee having a temperature of 55 degrees.

図6を参照して説明する。
サイズ情報24は、飲料容器3の種類を識別する容器識別子と、飲料容器3のサイズと、飲料容器3のサイズに対応する飲料の分量とを関連付けて格納する。
This will be described with reference to FIG.
The size information 24 stores the container identifier for identifying the type of the beverage container 3, the size of the beverage container 3, and the amount of the beverage corresponding to the size of the beverage container 3 in association with each other.

図10は、サイズ情報の一例を示す図である。
図10を参照して、サイズ情報24の一例を説明する。
サイズ情報24は、容器識別子と、容器のサイズと、飲料の分量とが関連付けられて格納する。
FIG. 10 is a diagram illustrating an example of the size information.
An example of the size information 24 will be described with reference to FIG.
The size information 24 stores a container identifier, a container size, and a beverage quantity in association with each other.

そして、サイズ情報24において、飲料容器3aに関連付けられたレコードは、飲料容器3aはレギュラーサイズであり、飲料容器3aには150mlのコーヒーを供給することを示す。飲料容器3bに関連付けられたレコードは、飲料容器3bはラージサイズであり、飲料容器3bには300mlのコーヒーを供給することを示す。また、飲料容器3cに関連付けられたレコードは、飲料容器3cはレギュラーサイズであり、飲料容器3cには120mlのコーヒーを供給することを示す。飲料容器3dに関連付けられたレコードは、飲料容器3dはラージサイズであり、飲料容器3dには240mlのコーヒーを供給することを示す。   In the size information 24, the record associated with the beverage container 3a indicates that the beverage container 3a is a regular size and 150 ml of coffee is supplied to the beverage container 3a. The record associated with the beverage container 3b indicates that the beverage container 3b is large and 300 ml of coffee is supplied to the beverage container 3b. Also, the record associated with the beverage container 3c indicates that the beverage container 3c is of regular size and 120 ml of coffee is supplied to the beverage container 3c. The record associated with the beverage container 3d indicates that the beverage container 3d is large and that the beverage container 3d is supplied with 240 ml of coffee.

図6を参照して説明する。
取得部11は、撮像装置3により撮像された載置位置の撮像画像を取得する。また、取得部11は、載置位置に飲料容器3が載置されたとき、撮像装置3により撮像された、飲料容器3を含む撮影画像を取得する。
This will be described with reference to FIG.
The acquisition unit 11 acquires a captured image of the placement position imaged by the imaging device 3. Moreover, the acquisition part 11 acquires the picked-up image containing the drink container 3 imaged with the imaging device 3, when the drink container 3 is mounted in the mounting position.

検出部12は、撮影画像に含まれる第1領域r1の第1ヒストグラムの特性を検出する。より具体的には、検出部12は、載置位置にレギュラーサイズの飲料容器3が載置されたとき、判定部13により背景の特徴が抽出される第1ヒストグラムを検出する。また、検出部12は、載置位置にラージサイズの飲料容器3が載置されたとき、判定部13により飲料容器3の特徴が抽出される第1ヒストグラムを検出する。
飲料供給装置100は、飲料容器3aに対応する第1領域r1の画像を不透明にする補助部材161を備えている。これにより、検出部12は、飲料容器3aと飲料容器3bで検出される第1ヒストグラムの特性の違いを明確にし、精度良く飲料容器3aと飲料容器3bとを認識可能にする。
The detection unit 12 detects the characteristics of the first histogram of the first region r1 included in the captured image. More specifically, when the regular-sized beverage container 3 is placed at the placement position, the detection unit 12 detects a first histogram from which the background feature is extracted by the determination unit 13. Moreover, the detection part 12 detects the 1st histogram from which the characteristic of the drink container 3 is extracted by the determination part 13 when the large sized drink container 3 is mounted in the mounting position.
The beverage supply device 100 includes an auxiliary member 161 that makes the image of the first region r1 corresponding to the beverage container 3a opaque. Thereby, the detection part 12 makes clear the difference in the characteristic of the 1st histogram detected with the drink container 3a and the drink container 3b, and makes it possible to recognize the drink container 3a and the drink container 3b with high precision.

検出部12は、撮像画像に含まれる第2領域の第2ヒストグラムの特性を検出する。より具体的には、検出部12は、載置位置に飲料容器3が載置されたとき、飲料容器3のサイズによらずに飲料容器3の特徴が抽出される、撮影画像に含まれる第2領域r2の第2ヒストグラムを検出する。   The detection unit 12 detects the characteristics of the second histogram of the second region included in the captured image. More specifically, the detection unit 12 includes the first feature included in the captured image in which the feature of the beverage container 3 is extracted regardless of the size of the beverage container 3 when the beverage container 3 is placed at the placement position. A second histogram of two regions r2 is detected.

判定部13は、載置位置に飲料容器3が載置されたとき、第1ヒストグラムが背景の特徴を示す場合、飲料容器3のサイズをレギュラーサイズと判定し、第1ヒストグラムが飲料容器3の特徴を示す場合、飲料容器3のサイズをラージサイズと判定する。具体的には、判定部13は、検出部12により検出された第1ヒストグラムの特徴を抽出し、抽出した特徴が背景の特徴を示す場合、飲料容器3のサイズをレギュラーサイズであると判定する。また、判定部13は、検出部12により検出された第1ヒストグラムの特徴を抽出し、抽出した特徴が飲料容器3の特徴を示す場合、飲料容器3のサイズをラージサイズであると判定する。   When the beverage container 3 is placed at the placement position, the determination unit 13 determines that the size of the beverage container 3 is a regular size when the first histogram indicates a background feature, and the first histogram is the beverage container 3. When the feature is indicated, the size of the beverage container 3 is determined as the large size. Specifically, the determination unit 13 extracts the feature of the first histogram detected by the detection unit 12, and determines that the size of the beverage container 3 is a regular size when the extracted feature indicates a background feature. . Moreover, the determination part 13 extracts the characteristic of the 1st histogram detected by the detection part 12, and when the extracted characteristic shows the characteristic of the drink container 3, it determines with the size of the drink container 3 being large size.

判定部13は、第2ヒストグラムが飲料容器3の特徴を示すとき、載置位置に飲料容器3が載置されたと判定する。第2ヒストグラムは、例えば、第2領域r2に含まれる画素が有する輝度または色相の度数分布を示すヒストグラムである。
判定部13は、第2ヒストグラムを用いて、飲料容器3の種類を判定する。第2ヒストグラムが輝度の度数分布を示す場合、判定部13は、第2ヒストグラムの広がりが第2閾値以上のとき、飲料容器3が氷入りの透明の飲料容器であると判定する。また、第2ヒストグラムが色相の度数分布を示す場合、判定部13は、第2領域r2に含まれる色の種類が第5閾値以上のとき、飲料容器3が氷入りの透明の飲料容器であると判定する。
The determination unit 13 determines that the beverage container 3 is placed at the placement position when the second histogram shows the characteristics of the beverage container 3. The second histogram is, for example, a histogram indicating the frequency distribution of luminance or hue of the pixels included in the second region r2.
The determination unit 13 determines the type of the beverage container 3 using the second histogram. When the second histogram indicates a frequency distribution of luminance, the determination unit 13 determines that the beverage container 3 is a transparent beverage container with ice when the spread of the second histogram is equal to or greater than the second threshold value. When the second histogram shows the frequency distribution of the hue, the determination unit 13 determines that the beverage container 3 is a transparent beverage container with ice when the color type included in the second region r2 is equal to or greater than the fifth threshold. Is determined.

設定部14は、図7の載置状態に示すように、飲料容器3の種類に応じて、載置位置に飲料容器3が載置されたとき、飲料容器3のサイズがレギュラーサイズの場合、背景の特徴が抽出される位置に、第1領域r1の位置を設定する。また、設定部14は、図7の載置状態に示すように、飲料容器3の種類に応じて、載置位置に飲料容器3が載置されたとき、飲料容器3のサイズがラージサイズの場合、飲料容器3の特徴が抽出される位置に、第1領域r1の位置を設定する。   As shown in the placement state of FIG. 7, when the beverage container 3 is placed at the placement position according to the type of the beverage container 3, the setting unit 14, when the size of the beverage container 3 is a regular size, The position of the first region r1 is set at the position where the background feature is extracted. Further, as shown in the placement state of FIG. 7, the setting unit 14 has a large size when the beverage container 3 is placed at the placement position according to the type of the beverage container 3. In this case, the position of the first region r1 is set to a position where the characteristics of the beverage container 3 are extracted.

設定部14は、飲料容器3が氷入りの透明の飲料容器3である場合、図7の飲料容器3aの載置状態に示すように、飲料容器3のサイズがレギュラーサイズのとき背景の特徴が判定部13により抽出される位置に、第1領域r1の位置を設定する。また、設定部14は、飲料容器3が氷入りの透明の飲料容器3である場合、図7の飲料容器3bの載置状態に示すように、飲料容器3のサイズがラージサイズのとき飲料容器3の開口部のふちの特徴が判定部13により抽出される位置に、第1領域r1の位置を設定する。   When the beverage container 3 is a transparent beverage container 3 with ice, the setting unit 14 has a background feature when the size of the beverage container 3 is a regular size as shown in the placement state of the beverage container 3a in FIG. The position of the first region r1 is set to the position extracted by the determination unit 13. Moreover, when the drink container 3 is the transparent drink container 3 containing ice, as shown in the mounting state of the drink container 3b of FIG. 7, the setting part 14 is a drink container when the size of the drink container 3 is large size. The position of the first region r <b> 1 is set at a position where the edge feature of the three openings is extracted by the determination unit 13.

設定部14は、飲料容器3が氷入りの透明の飲料容器3でない場合、図7の飲料容器3cの載置状態に示すように、飲料容器3のサイズがレギュラーサイズのとき背景の特徴が判定部13により抽出される位置に、前記第1領域の位置を設定する。設定部14は、飲料容器3が不透明な飲料容器3である場合、図7の飲料容器3dの載置状態に示すように、飲料容器3のサイズがラージサイズのとき飲料容器3の上方位置の特徴が抽出される位置に、第1領域r1の位置を設定する。   When the beverage container 3 is not a transparent beverage container 3 with ice, the setting unit 14 determines the background characteristics when the size of the beverage container 3 is a regular size, as shown in the placement state of the beverage container 3c in FIG. The position of the first region is set to the position extracted by the unit 13. When the beverage container 3 is an opaque beverage container 3, the setting unit 14 is located at an upper position of the beverage container 3 when the size of the beverage container 3 is a large size, as shown in the placement state of the beverage container 3 d in FIG. 7. The position of the first region r1 is set at the position where the feature is extracted.

選択部15は、飲料容器3の種類に応じて、提供する飲料の種類を選択する。具体的には、選択部13は、判定部13の判定処理により飲料容器3の種類が認識されると、種類情報23を参照し、認識された飲料容器3の種類に関連付けられた飲料の種類と飲料の温度とに応じて、飲料容器3に供給する飲料を選択する。   The selection unit 15 selects the type of beverage to be provided according to the type of the beverage container 3. Specifically, when the type of the beverage container 3 is recognized by the determination process of the determination unit 13, the selection unit 13 refers to the type information 23, and the type of beverage associated with the recognized type of the beverage container 3. The beverage to be supplied to the beverage container 3 is selected according to the beverage temperature.

選択部15は、飲料容器3のサイズに応じて、提供する飲料の量を選択する。具体的には、選択部13は、判定部13の判定処理により飲料容器3の種類が認識されると、サイズ情報24を参照し、認識された飲料容器3の種類に関連付けられた容器のサイズと飲料の分量とに応じて、飲料容器3に供給する飲料の分量を選択する。   The selection unit 15 selects the amount of beverage to be provided according to the size of the beverage container 3. Specifically, when the type of the beverage container 3 is recognized by the determination process of the determination unit 13, the selection unit 13 refers to the size information 24 and the size of the container associated with the recognized type of the beverage container 3. The amount of the beverage supplied to the beverage container 3 is selected according to the amount of the beverage.

図11、図12は、認識処理の一例を示すフローチャートである。図11、図12を参照して、認識処理装置1による認識処理について説明する。以下の説明において、認識処理装置1の記憶部20には、飲料容器3aから3dに対応する、特徴情報21と、領域情報22と、種類情報23と、サイズ情報24とが予め記憶されているものとする。   11 and 12 are flowcharts illustrating an example of the recognition process. A recognition process performed by the recognition processing apparatus 1 will be described with reference to FIGS. 11 and 12. In the following description, feature information 21, region information 22, type information 23, and size information 24 corresponding to beverage containers 3a to 3d are stored in advance in the storage unit 20 of the recognition processing device 1. Shall.

図11を参照して説明する。
取得部11は、撮像装置2により撮像された、載置位置に載置される飲料容器3を含む領域の撮影画像を取得する(S101)。
検出部12は、取得部11により撮影画像が取得されると、飲料容器3の下方部分の第2領域r2に含まれる画素の特性を示す第2ヒストグラムを検出する(S102)。
This will be described with reference to FIG.
The acquisition part 11 acquires the picked-up image of the area | region containing the drink container 3 mounted in the mounting position imaged with the imaging device 2 (S101).
The detection part 12 will detect the 2nd histogram which shows the characteristic of the pixel contained in the 2nd area | region r2 of the lower part of the drink container 3, if a picked-up image is acquired by the acquisition part 11 (S102).

判定部13は、第2ヒストグラムの特徴を抽出し、第2ヒストグラムが飲料容器3の特徴を示すか否かを判定する(S103)。判定部13は、第2ヒストグラムが背景の特徴を示すとき(S103にてNo)、載置位置に飲料容器3が載置されていないと判定し、S101の処理を実行する。判定部13は、第2ヒストグラムが飲料容器3の特徴を示すとき(S103にてYes)、載置位置に飲料容器3が載置されたと判定し、S104の処理を実行する。   The determination unit 13 extracts the feature of the second histogram and determines whether or not the second histogram shows the feature of the beverage container 3 (S103). When the second histogram indicates the background feature (No in S103), the determination unit 13 determines that the beverage container 3 is not placed at the placement position, and executes the process of S101. When the second histogram shows the characteristics of the beverage container 3 (Yes in S103), the determination unit 13 determines that the beverage container 3 is placed at the placement position, and executes the process of S104.

判定部13は、飲料容器3がプラカップか否かを判定する(S104)。
一例として、判定部13は、第2ヒストグラムが輝度のヒストグラムである場合、第2ヒストグラムの広がりが第2閾値以上であるとき、飲料容器3がプラカップであると判定する。また、判定部13は、第2ヒストグラムが輝度のヒストグラムである場合、第2ヒストグラムの広がりが第2閾値未満であるとき、飲料容器3が紙カップであると判定する。
その他の例として、判定部13は、第2ヒストグラムが色相のヒストグラムである場合、第2領域r2に含まれる色の種類が第5閾値以上であるとき、飲料容器3がプラカップであると判定する。また、判定部13は、第2ヒストグラムが色相のヒストグラムである場合、第2領域r2に含まれる色の種類が第5閾値未満であるとき、飲料容器3が紙カップであると判定する。
The determination unit 13 determines whether or not the beverage container 3 is a plastic cup (S104).
As an example, when the second histogram is a luminance histogram, the determination unit 13 determines that the beverage container 3 is a plastic cup when the spread of the second histogram is equal to or greater than the second threshold. Further, when the second histogram is a luminance histogram, the determination unit 13 determines that the beverage container 3 is a paper cup when the spread of the second histogram is less than the second threshold.
As another example, when the second histogram is a hue histogram, the determination unit 13 determines that the beverage container 3 is a plastic cup when the color type included in the second region r2 is greater than or equal to the fifth threshold. . In addition, when the second histogram is a hue histogram, the determination unit 13 determines that the beverage container 3 is a paper cup when the color type included in the second region r2 is less than the fifth threshold.

設定部13は、判定部13により飲料容器3がプラカップである判定されたとき(S104にてYes)、領域情報22を参照し、プラカップに対応する位置に第1領域r1を設定する(S105)。具体的には、設定部13は、飲料容器3がプラカップである場合、飲料容器3がレギュラーサイズのとき背景の特徴が抽出され、飲料容器3がラージサイズのとき飲料容器3の開口部のふちの特徴が抽出される位置に、第1領域r1の位置を設定する。   When the determination unit 13 determines that the beverage container 3 is a plastic cup (Yes in S104), the setting unit 13 refers to the region information 22 and sets the first region r1 at a position corresponding to the plastic cup (S105). . Specifically, when the beverage container 3 is a plastic cup, the setting unit 13 extracts the background characteristics when the beverage container 3 is a regular size, and the edge of the opening of the beverage container 3 when the beverage container 3 is a large size. The position of the first region r1 is set to the position where the features of.

検出部12は、設定部13により第1領域r1の設定がされると、第1ヒストグラムを検出する(S106)。
判定部13は、検出部12により検出された第1ヒストグラムの特徴を抽出し、飲料容器3がレギュラーサイズであるかラージサイズであるかを判定する(S106)。具体的には、判定部13は、第1ヒストグラムが背景の特徴を示す場合、飲料容器3のサイズをレギュラーサイズと判定し、第1ヒストグラムが飲料容器3の特徴を示す場合、飲料容器3のサイズをラージサイズと判定する。
When the setting unit 13 sets the first region r1, the detection unit 12 detects the first histogram (S106).
The determination unit 13 extracts the feature of the first histogram detected by the detection unit 12, and determines whether the beverage container 3 is a regular size or a large size (S106). Specifically, the determination unit 13 determines the size of the beverage container 3 as a regular size when the first histogram indicates a background feature, and determines the size of the beverage container 3 when the first histogram indicates the feature of the beverage container 3. The size is determined to be a large size.

選択部13は、判定部13により飲料容器3がレギュラーサイズであると判定されたとき(S107にてYes)、レギュラーサイズの分量の冷たい飲料を飲料容器3に供給するように、飲料供給装置100の制御装置に要求する(S108)。そして、認識処理装置1は、認識処理を終了する。具体的には、選択部13は、判定部13により飲料容器3がプラカップのレギュラーサイズであると判定されると、種類情報23を参照し、飲料容器3aに関連付けられた飲料の種類と飲料の温度とに応じて、飲料容器3に供給する飲料を選択する。さらに、選択部13は、判定部13により飲料容器3がプラカップのレギュラーサイズであると判定されると、サイズ情報24を参照し、飲料容器3aに関連付けられた容器のサイズと飲料の分量とに応じて、飲料容器3に供給する飲料の分量を選択する。   When the determination unit 13 determines that the beverage container 3 has a regular size (Yes in S107), the selection unit 13 supplies the beverage container 3 with a cold beverage having a regular size amount. (S108). Then, the recognition processing apparatus 1 ends the recognition process. Specifically, when the determination unit 13 determines that the beverage container 3 is the regular size of the plastic cup, the selection unit 13 refers to the type information 23 and specifies the type of beverage and the beverage associated with the beverage container 3a. A beverage to be supplied to the beverage container 3 is selected according to the temperature. Further, when the determination unit 13 determines that the beverage container 3 is the regular size of the plastic cup, the selection unit 13 refers to the size information 24 and determines the size of the container and the amount of the beverage associated with the beverage container 3a. In response, the amount of beverage to be supplied to the beverage container 3 is selected.

選択部13は、判定部13により飲料容器3がラージサイズであると判定されたとき(S107にてNo)、ラージサイズの分量の冷たい飲料を飲料容器3に供給するように、飲料供給装置100の制御装置に要求する(S108)。そして、認識処理装置1は、認識処理を終了する。具体的には、選択部13は、判定部13により飲料容器3がプラカップのラージサイズであると判定されると、種類情報23を参照し、飲料容器3bに関連付けられた飲料の種類と飲料の温度とに応じて、飲料容器3に供給する飲料を選択する。さらに、選択部13は、判定部13により飲料容器3がプラカップのラージサイズであると判定されると、サイズ情報24を参照し、飲料容器3bに関連付けられた容器のサイズと飲料の分量とに応じて、飲料容器3に供給する飲料の分量を選択する。   When the determination unit 13 determines that the beverage container 3 is the large size (No in S107), the selection unit 13 supplies the beverage container 3 with a large amount of cold beverage supplied to the beverage container 3. (S108). Then, the recognition processing apparatus 1 ends the recognition process. Specifically, when the determination unit 13 determines that the beverage container 3 is a plastic cup large size, the selection unit 13 refers to the type information 23 and specifies the type of beverage and the beverage associated with the beverage container 3b. A beverage to be supplied to the beverage container 3 is selected according to the temperature. Further, when the determination unit 13 determines that the beverage container 3 is the plastic cup large size, the selection unit 13 refers to the size information 24 and determines the size of the container and the amount of the beverage associated with the beverage container 3b. In response, the amount of beverage to be supplied to the beverage container 3 is selected.

図12を参照して説明する。
設定部13は、判定部13により飲料容器3が紙カップである判定されたとき(S104にてNo)、領域情報22を参照し、紙カップに対応する位置に第1領域r1を設定する(S201)。具体的には、設定部13は、飲料容器3が紙カップである場合、飲料容器3がレギュラーサイズのとき背景の特徴が抽出され、飲料容器3がラージサイズのとき飲料容器3の上方部分の特徴が抽出される位置に、第1領域r1の位置を設定する。
検出部12は、設定部13により第1領域r1の設定がされると、第1ヒストグラムを検出する(S202)。
This will be described with reference to FIG.
When the determination unit 13 determines that the beverage container 3 is a paper cup (No in S104), the setting unit 13 refers to the region information 22 and sets the first region r1 at a position corresponding to the paper cup (S201). . Specifically, when the beverage container 3 is a paper cup, the setting unit 13 extracts a background feature when the beverage container 3 is a regular size, and a feature of an upper portion of the beverage container 3 when the beverage container 3 is a large size. The position of the first region r1 is set to the position where is extracted.
The detection unit 12 detects the first histogram when the setting unit 13 sets the first region r1 (S202).

判定部13は、検出部12により検出された第1ヒストグラムの特徴を抽出し、飲料容器3がレギュラーサイズであるか否かを判定する(S203)。具体的には、判定部13は、第1ヒストグラムが背景の特徴を示す場合、飲料容器3のサイズをレギュラーサイズと判定し、第1ヒストグラムが飲料容器3の特徴を示す場合、飲料容器3のサイズをラージサイズと判定する。   The determination unit 13 extracts the feature of the first histogram detected by the detection unit 12, and determines whether or not the beverage container 3 has a regular size (S203). Specifically, the determination unit 13 determines the size of the beverage container 3 as a regular size when the first histogram indicates a background feature, and determines the size of the beverage container 3 when the first histogram indicates the feature of the beverage container 3. The size is determined to be a large size.

選択部13は、判定部13により飲料容器3がレギュラーサイズであると判定されたとき(S204にてYes)、レギュラーサイズの分量の温かい飲料を飲料容器3に供給するように、飲料供給装置100の制御装置に要求する(S205)。そして、認識処理装置1は、認識処理を終了する。具体的には、選択部13は、判定部13により飲料容器3が紙カップのレギュラーサイズであると判定されると、種類情報23を参照し、飲料容器3cに関連付けられた飲料の種類と飲料の温度とに応じて、飲料容器3に供給する飲料を選択する。さらに、具体的には、選択部13は、判定部13により飲料容器3が紙カップのレギュラーサイズであると判定されると、サイズ情報24を参照し、飲料容器3cに関連付けられた容器のサイズと飲料の分量とに応じて、飲料容器3に供給する飲料の分量を選択する。   When the determination unit 13 determines that the beverage container 3 has a regular size (Yes in S204), the selection unit 13 supplies the beverage container 3 with a warm beverage having a regular size amount. (S205). Then, the recognition processing apparatus 1 ends the recognition process. Specifically, when the determination unit 13 determines that the beverage container 3 is the regular size of the paper cup, the selection unit 13 refers to the type information 23 and determines the type of beverage and the beverage associated with the beverage container 3c. A beverage to be supplied to the beverage container 3 is selected according to the temperature. Furthermore, specifically, when the determination unit 13 determines that the beverage container 3 is the regular size of the paper cup, the selection unit 13 refers to the size information 24 and the size of the container associated with the beverage container 3c. The amount of the beverage to be supplied to the beverage container 3 is selected according to the amount of the beverage.

選択部13は、判定部13により飲料容器3がラージサイズであると判定されたとき(S204にてNo)、ラージサイズの分量の冷たい飲料を飲料容器3に供給するように、飲料供給装置100の制御装置に要求する(S206)。そして、認識処理装置1は、認識処理を終了する。具体的には、選択部13は、判定部13により飲料容器3が紙カップのラージサイズであると判定されると、種類情報23を参照し、飲料容器3dに関連付けられた飲料の種類と飲料の温度とに応じて、飲料容器3に供給する飲料を選択する。さらに、具体的には、選択部13は、判定部13により飲料容器3が紙カップのラージサイズであると判定されると、サイズ情報24を参照し、飲料容器3dに関連付けられた容器のサイズと飲料の分量とに応じて、飲料容器3に供給する飲料の分量を選択する。   When the determination unit 13 determines that the beverage container 3 is the large size (No in S204), the selection unit 13 supplies the beverage container 3 with a large amount of cold beverage. (S206). Then, the recognition processing apparatus 1 ends the recognition process. Specifically, when the determination unit 13 determines that the beverage container 3 is the large size of the paper cup, the selection unit 13 refers to the type information 23 and determines the type of beverage and the beverage associated with the beverage container 3d. A beverage to be supplied to the beverage container 3 is selected according to the temperature. More specifically, when the determination unit 13 determines that the beverage container 3 is the large size of the paper cup, the selection unit 13 refers to the size information 24 and the size of the container associated with the beverage container 3d. The amount of the beverage to be supplied to the beverage container 3 is selected according to the amount of the beverage.

図13は、コンピュータ装置の一実施例を示すブロック図である。
図13を参照して、コンピュータ装置200の構成について説明する。
FIG. 13 is a block diagram illustrating an embodiment of a computer device.
The configuration of the computer apparatus 200 will be described with reference to FIG.

図13において、コンピュータ装置200は、制御回路201と、記憶装置202と、読書装置203と、記録媒体204と、通信インターフェイス205と、入出力インターフェイス206と、入力装置207と、表示装置208と、撮像装置209とを含む。また、通信インターフェイス205は、ネットワーク210と接続される。そして、各構成要素は、バス211により接続される。認識処理装置1は、コンピュータ装置200に記載の構成要素の一部または全てを適宜選択することにより構成することができる。   In FIG. 13, a computer device 200 includes a control circuit 201, a storage device 202, a reading device 203, a recording medium 204, a communication interface 205, an input / output interface 206, an input device 207, a display device 208, An imaging device 209. In addition, the communication interface 205 is connected to the network 210. Each component is connected by a bus 211. The recognition processing device 1 can be configured by appropriately selecting some or all of the components described in the computer device 200.

制御回路201は、コンピュータ装置200全体の制御をする。そして、制御回路201は、例えば、CPU(Central Processing Unit)、マルチコアCPU、FPGA(Field Programmable Gate Array)およびPLD(Programmable Logic Device)などのプロセッサである。そして、制御回路201は、例えば、図6において、制御部10として機能する。   The control circuit 201 controls the entire computer device 200. The control circuit 201 is, for example, a processor such as a CPU (Central Processing Unit), a multi-core CPU, an FPGA (Field Programmable Gate Array), and a PLD (Programmable Logic Device). The control circuit 201 functions as the control unit 10 in FIG. 6, for example.

記憶装置202は、各種データを記憶する。そして、記憶装置202は、例えば、ROM(Read Only Memory)およびRAM(Random Access Memory)などのメモリや、HD(Hard Disk)などである。記憶装置202は、例えば、図6において、記憶部20として機能する。   The storage device 202 stores various data. The storage device 202 is, for example, a memory such as a ROM (Read Only Memory) and a RAM (Random Access Memory), or an HD (Hard Disk). For example, the storage device 202 functions as the storage unit 20 in FIG. 6.

また、ROMは、ブートプログラムなどのプログラムを記憶している。RAMは、制御回路201のワークエリアとして使用される。HDは、OS、アプリケーションプログラム、ファームウェアなどのプログラム、および各種データを記憶している。記憶装置202は、制御回路201を、制御部10として機能させる認識処理プログラムを記憶してもよい。   The ROM stores a program such as a boot program. The RAM is used as a work area for the control circuit 201. The HD stores an OS, an application program, a program such as firmware, and various data. The storage device 202 may store a recognition processing program that causes the control circuit 201 to function as the control unit 10.

認識処理装置1は、認識処理をするとき、記憶装置202に記憶されたプログラムをRAMに読み出す。RAMに読み出されたプログラムを制御回路201で実行することにより、認識処理装置1は、取得処理と、検出処理と、判定処理と、設定処理と、選択処理とのいずれか1以上を含む認識処理を実行する。   When performing the recognition process, the recognition processing device 1 reads the program stored in the storage device 202 into the RAM. By executing the program read into the RAM with the control circuit 201, the recognition processing apparatus 1 recognizes including at least one of an acquisition process, a detection process, a determination process, a setting process, and a selection process. Execute the process.

なお、上述の各プログラムは、制御回路201が通信インターフェイス205を介してアクセス可能であれば、ネットワーク210上のサーバが有する記憶装置に記憶されていても良い。   Each program described above may be stored in a storage device included in a server on the network 210 as long as the control circuit 201 is accessible via the communication interface 205.

読書装置203は、制御回路201に制御され、着脱可能な記録媒体204のデータのリード/ライトを行なう。そして、読書装置203は、例えば、FDD(Floppy Disk Drive)、CDD(Compact Disc Drive)、DVDD(Digital Versatile Disk Drive)、BDD(Blu−ray Disk Drive)およびUSB(Universal Serial Bus)などである。   The reading device 203 is controlled by the control circuit 201 and reads / writes data on the removable recording medium 204. The reading device 203 is, for example, an FDD (Floppy Disk Drive), a CDD (Compact Disc Drive), a DVDD (Digital Versatile Disk Drive), a BDD (Blu-ray Disk Drive), or a BDD (Blu-ray Disk Drive).

記録媒体204は、各種データを保存する。記録媒体204は、例えば、認識処理プログラムを記憶する。さらに、記録媒体204は、図6に示す、特徴情報21と、領域情報22と、種類情報23と、サイズ情報24とを記憶しても良い。そして、記録媒体204は、読書装置203を介してバス211に接続され、制御回路201が読書装置203を制御することにより、データのリード/ライトが行なわれる。   The recording medium 204 stores various data. The recording medium 204 stores a recognition processing program, for example. Furthermore, the recording medium 204 may store the feature information 21, the region information 22, the type information 23, and the size information 24 illustrated in FIG. The recording medium 204 is connected to the bus 211 via the reading device 203, and the control circuit 201 controls the reading device 203 to read / write data.

また、記録媒体204は、例えば、SDメモリーカード(SD Memory Card)、FD(Floppy Disk)、CD(Compact Disc)、DVD(Digital Versatile Disk)、BD(Blu−ray Disk:登録商標)、およびフラッシュメモリなどの非一時的記録媒体である。   The recording medium 204 is, for example, an SD memory card (SD Memory Card), an FD (Floppy Disk), a CD (Compact Disc), a DVD (Digital Versatile Disk), a BD (Blu-ray Disk: registered trademark), and a flash. A non-temporary recording medium such as a memory.

通信インターフェイス205は、ネットワーク210を介してコンピュータ装置200と他の装置とを通信可能に接続する。また、通信インターフェイス205は、無線LANの機能を有するインターフェイス、および近距離無線通信機能を有するインターフェイスを含んでも良い。そして、無線LANインターフェイスは、例えば、無線LAN規格として、Wi−Fi(登録商標)をサポートしても良い。近距離無線インターフェイスは、例えば、近距離無線通信規格として、Bluetooth(登録商標)をサポートしても良い。LANは、Local Area Networkの略である。   The communication interface 205 connects the computer device 200 and other devices via the network 210 so that they can communicate with each other. The communication interface 205 may include an interface having a wireless LAN function and an interface having a short-range wireless communication function. The wireless LAN interface may support Wi-Fi (registered trademark) as a wireless LAN standard, for example. For example, the short-range wireless interface may support Bluetooth (registered trademark) as a short-range wireless communication standard. LAN is an abbreviation for Local Area Network.

入出力インターフェイス206は、例えば、キーボード、マウス、およびタッチパネルなどの入力装置207と接続され、接続された入力装置207から各種情報を示す信号が入力されると、バス211を介して入力された信号を制御回路201に出力する。また、入出力インターフェイス206は、制御回路201から出力された各種情報を示す信号がバス211を介して入力されると、接続された各種装置にその信号を出力する。
さらに、入出力インターフェイス206は、例えば、表示装置208と接続され、制御回路201により描画された画像を表示装置に出力する。
また、入出力インターフェイス206は、撮像装置209と接続され、撮像装置209で撮像された撮影画像の入力を受け付ける。
The input / output interface 206 is connected to an input device 207 such as a keyboard, a mouse, and a touch panel, for example. When a signal indicating various information is input from the connected input device 207, the signal input via the bus 211 is input. Is output to the control circuit 201. In addition, when a signal indicating various information output from the control circuit 201 is input via the bus 211, the input / output interface 206 outputs the signal to various connected devices.
Further, the input / output interface 206 is connected to the display device 208, for example, and outputs an image drawn by the control circuit 201 to the display device.
The input / output interface 206 is connected to the imaging device 209 and accepts input of a captured image captured by the imaging device 209.

入力装置207は、例えば、コーヒーに加える砂糖及びミルクの量の調整や、コーヒーの濃さの選択、特徴情報21の各閾値及び領域情報22に格納される各領域の位置の微調整などを受け付けても良い。また、入力装置207は、特徴情報21と、領域情報22と、種類情報23と、サイズ情報24の入力を受け付けてもよい。
表示装置208は、各種情報を表示する。表示装置208は、タッチパネルでの入力を受け付けるための情報を表示しても良い。
The input device 207 accepts, for example, adjustment of the amount of sugar and milk to be added to the coffee, selection of the coffee strength, fine adjustment of each threshold value of the feature information 21 and the position of each region stored in the region information 22, etc. May be. Further, the input device 207 may accept input of the feature information 21, the region information 22, the type information 23, and the size information 24.
The display device 208 displays various information. The display device 208 may display information for accepting input on the touch panel.

また、入出力インターフェイス206、入力装置207、及び表示装置208は、GUI(Graphical User Interface)として機能してもよい。これにより、コンピュータ装置200は、タッチパネルやマウスなどによる直感的な操作を受け付ける。このとき、GUIは、例えば、コーヒーに加える砂糖及びミルクの量の調整や、コーヒーの濃さの選択の選択を受け付けてもよい。
撮像装置209は、例えば、カメラである。撮像装置209は、例えば、図6において、撮像装置2として機能する。
ネットワーク210は、例えば、LAN、無線通信、またはインターネットなどであり、コンピュータ装置200と他の装置を通信接続する。
The input / output interface 206, the input device 207, and the display device 208 may function as a GUI (Graphical User Interface). Thereby, the computer apparatus 200 accepts an intuitive operation using a touch panel, a mouse, or the like. At this time, the GUI may accept, for example, adjustment of the amount of sugar and milk to be added to the coffee or selection of selection of the coffee strength.
The imaging device 209 is, for example, a camera. The imaging device 209 functions as, for example, the imaging device 2 in FIG.
The network 210 is, for example, a LAN, wireless communication, the Internet, or the like, and communicatively connects the computer apparatus 200 to another apparatus.

以上のように、実施形態1の認識処理装置1は、載置位置に飲料容器3が載置されたとき、第1領域r1の第1ヒストグラムが背景の特徴を示す場合、飲料容器3のサイズをレギュラーサイズと判定する。また、認識処理装置1は、第1ヒストグラムが飲料容器3の特徴を示す場合、飲料容器のサイズをラージサイズと判定する。これにより、認識処理装置1は、第1領域r1の特徴を抽出することにより、載置位置に載置された飲料容器3のサイズを認識するので、飲料容器3の画像の写り方による認識精度の低下を抑制し、飲料容器3の認識精度を向上することができる。   As described above, when the beverage container 3 is placed at the placement position, the recognition processing device 1 according to the first embodiment has the size of the beverage container 3 when the first histogram of the first region r1 indicates the background feature. Is determined as a regular size. Moreover, the recognition processing apparatus 1 determines the size of a drink container as large size, when a 1st histogram shows the characteristic of the drink container 3. FIG. Thereby, since the recognition processing apparatus 1 recognizes the size of the beverage container 3 placed at the placement position by extracting the feature of the first region r1, the recognition accuracy is based on how the beverage container 3 is imaged. , And the recognition accuracy of the beverage container 3 can be improved.

認識処理装置1は、飲料容器3の種類に応じて、飲料容器3のサイズがレギュラーサイズの場合、背景の特徴が抽出され、飲料容器3のサイズがラージサイズの場合、飲料容器3の特徴が抽出される位置に、第1領域r1の位置を設定する。これにより、認識処理装置1は、複数の種類の飲料容器3のサイズを自動的に判定するので、飲料容器3の認識処理を容易にすることができる。   When the size of the beverage container 3 is a regular size, the recognition processing device 1 extracts a background feature, and when the size of the beverage container 3 is a large size, the feature of the beverage container 3 is The position of the first region r1 is set as the extracted position. Thereby, since the recognition processing apparatus 1 automatically determines the sizes of the plurality of types of beverage containers 3, the recognition processing of the beverage containers 3 can be facilitated.

認識処理装置1は、氷部分は光を乱反射することにより、第2ヒストグラムの度数分布が広がりを持つということを利用して、氷の画像の第2ヒストグラムの広がりが第2閾値以上のとき、飲料容器3が氷入りの透明の飲料容器3であると判定する。これにより、認識処理装置1は、飲料容器3ごとに氷の入り方が異なるため、画像認識では認識が困難であった、氷入りの透明の飲料容器3の認識精度を向上することができる。   When the spread of the second histogram of the ice image is equal to or larger than the second threshold, the recognition processing device 1 utilizes the fact that the ice portion diffuses light and diffuses the frequency distribution of the second histogram. It is determined that the beverage container 3 is a transparent beverage container 3 containing ice. As a result, the recognition processing apparatus 1 can improve the recognition accuracy of the transparent beverage container 3 with ice, which is difficult to recognize by image recognition because the way of entering ice is different for each beverage container 3.

認識処理装置1は、飲料容器3が氷入りの透明の飲料容器である場合、飲料容器3のサイズがラージサイズのとき飲料容器3の開口部のふちの特徴が抽出される位置に、第1領域r1の位置を設定する。これにより、認識処理装置1は、飲料容器3がプラカップのとき、特有の反射を有するふちと背景との明確に異なる特徴を抽出することにより、飲料容器3のサイズを判定するので、飲料容器3の認識精度を向上することができる。   When the beverage container 3 is a transparent beverage container with ice, the recognition processing device 1 is located at a position where the feature of the opening of the beverage container 3 is extracted when the size of the beverage container 3 is large. The position of the area r1 is set. Thus, when the beverage container 3 is a plastic cup, the recognition processing device 1 determines the size of the beverage container 3 by extracting features that are clearly different from the edge having a specific reflection and the background. Recognition accuracy can be improved.

認識処理装置1は、飲料容器3が氷入りの透明の飲料容器でない場合、飲料容器3のサイズがレギュラーサイズのとき背景の特徴が抽出され、飲料容器3のサイズがラージサイズのとき飲料容器3の上方位置の特徴が抽出される位置に、第1領域r1の位置を設定する。これにより、認識処理装置1は、飲料容器3が紙カップのとき、背景と紙カップとの明確に異なる特徴を抽出することにより、飲料容器3のサイズを判定するので、飲料容器3の認識精度を向上することができる。   When the beverage container 3 is not a transparent beverage container containing ice, the recognition processing device 1 extracts the background features when the size of the beverage container 3 is a regular size, and the beverage container 3 when the size of the beverage container 3 is a large size. The position of the first region r1 is set to a position where the upper position feature is extracted. Thereby, when the beverage container 3 is a paper cup, the recognition processing apparatus 1 determines the size of the beverage container 3 by extracting features that are clearly different between the background and the paper cup, so that the recognition accuracy of the beverage container 3 is improved. can do.

認識処理装置1は、飲料容器3のサイズに応じて、提供する飲料の量を選択する。これにより、認識処理装置1は、選択した分量の飲料を飲料供給装置100から飲料容器3に自動的に供給させることができる。   The recognition processing device 1 selects the amount of beverage to be provided according to the size of the beverage container 3. Accordingly, the recognition processing device 1 can automatically supply a selected amount of beverage from the beverage supply device 100 to the beverage container 3.

認識処理装置1は、飲料容器3の種類に応じて、提供する飲料の種類を選択する。これにより、認識処理装置1は、選択した種類の飲料を飲料供給装置100から飲料容器3に自動的に供給させることができる。   The recognition processing device 1 selects the type of beverage to be provided according to the type of the beverage container 3. Thereby, the recognition processing apparatus 1 can automatically supply the selected type of beverage from the beverage supply device 100 to the beverage container 3.

認識処理装置1は、第2ヒストグラムが飲料容器3の特徴を示すとき、載置位置に対象が載置されたと判定する。これにより、認識処理装置1は、飲料容器3が載置されたとき、飲料容器3の種類及びサイズを判定する処理を自動的に開始するこができる。   The recognition processing device 1 determines that the target is placed at the placement position when the second histogram indicates the characteristics of the beverage container 3. Thereby, the recognition processing apparatus 1 can automatically start the process which determines the kind and size of the drink container 3, when the drink container 3 is mounted.

[実施形態2]
実施形態2の認識処理装置について説明する。
図14は、飲料供給装置の一実施例を示す図(その6)である。図15は、文字が記載されたカップの認識を説明する図である。
実施形態2の認識処理装置6は、側面に文字及び図面の少なくとも一方が記載されている氷入りの飲料容器3と、側面に文字及び図面の記載がない氷入りの飲料容器3との2種類を含む飲料容器3を識別する。認識処理装置6の機能ブロックは、実施形態1の認識処理装置1の機能ブロックと同じ構成であるが、検出部12及び判定部13の処理と、領域情報22が格納する情報とが異なるので、検出部12及び判定部13の処理と、領域情報22について説明する。
[Embodiment 2]
A recognition processing apparatus according to the second embodiment will be described.
FIG. 14 is a view (No. 6) showing an embodiment of the beverage supply apparatus. FIG. 15 is a diagram for explaining recognition of a cup on which characters are described.
The recognition processing device 6 according to the second embodiment has two types of drink containers 3 containing ice, on which at least one of characters and drawings is written on the side, and drink containers 3 containing ice, which are not shown on the side. The beverage container 3 containing is identified. The functional block of the recognition processing device 6 has the same configuration as the functional block of the recognition processing device 1 of the first embodiment, but the processing of the detection unit 12 and the determination unit 13 is different from the information stored in the region information 22. Processing of the detection unit 12 and the determination unit 13 and the region information 22 will be described.

図14、図15を参照して、認識処理装置6の処理について説明する。以下の説明では、飲料容器3eには、図14、図15に示すように、下方部分を囲む位置に「ABCDEFG…」の文字が記載されているものとして説明する。
領域情報22は、撮像装置2により撮像された文字が記載された飲料容器3eの撮影画像において、文字を含む第3領域r3の位置と、文字を含まない第4領域r4の位置とを格納する。第3領域r3及び第4領域r4には、撮影画像に飲料容器3に入っている氷の画像が含まれる位置が設定される。
Processing of the recognition processing device 6 will be described with reference to FIGS. 14 and 15. In the following description, as shown in FIGS. 14 and 15, the beverage container 3e is described on the assumption that the letters “ABCDEFG...” Are written at a position surrounding the lower portion.
The area information 22 stores the position of the third area r3 that includes characters and the position of the fourth area r4 that does not include characters in the captured image of the beverage container 3e in which the characters captured by the imaging device 2 are described. . In the third region r3 and the fourth region r4, a position where the photographed image includes the image of ice contained in the beverage container 3 is set.

検出部12は、載置位置に飲料容器3が載置されたとき、第3領域r3の輝度の第3ヒストグラムと、第4領域r4の輝度の第4ヒストグラムとを検出する。
判定部13は、第3ヒストグラムと第4ヒストグラムとの差分difが、文字の輝度に応じた第5ヒストグラムの特徴を示すとき、飲料容器3は文字の記載がある飲料容器3eであると判定する
When the beverage container 3 is placed at the placement position, the detection unit 12 detects the third histogram of the luminance of the third region r3 and the fourth histogram of the luminance of the fourth region r4.
When the difference dif between the third histogram and the fourth histogram indicates the characteristics of the fifth histogram according to the brightness of the characters, the determination unit 13 determines that the beverage container 3 is a beverage container 3e with the description of characters.

認識処理装置6は、図形が記載されているか否かを認識する場合について説明する。
領域情報22は、撮像装置2により撮像された図形が記載された飲料容器3d(図示なし)の撮影画像において、図形を含む第3領域r3の位置と、図形を含まない第4領域r4の位置とを格納する。第3領域r3及び第4領域r4には、撮影画像に飲料容器3に入っている氷の位置を含む領域が設定される。
The case where the recognition processing device 6 recognizes whether or not a graphic is described will be described.
The area information 22 is the position of the third area r3 including the graphic and the position of the fourth area r4 not including the graphic in the captured image of the beverage container 3d (not shown) in which the graphic imaged by the imaging device 2 is described. And store. In the third region r3 and the fourth region r4, a region including the position of ice contained in the beverage container 3 in the photographed image is set.

検出部12は、載置位置に飲料容器3が載置されたとき、第3領域r3の輝度の第3ヒストグラムと、第4領域r4の輝度の第4ヒストグラムとを検出する。
判定部13は、第3ヒストグラムと第4ヒストグラムとの差分difが、図形の輝度に応じた第5ヒストグラムの特徴を示すとき、飲料容器3は図形の記載がある飲料容器3eであると判定する。
When the beverage container 3 is placed at the placement position, the detection unit 12 detects the third histogram of the luminance of the third region r3 and the fourth histogram of the luminance of the fourth region r4.
When the difference dif between the third histogram and the fourth histogram indicates the characteristics of the fifth histogram according to the luminance of the graphic, the determination unit 13 determines that the beverage container 3 is a beverage container 3e having a graphic description. .

上述の説明では、飲料容器3が氷入りの飲料容器であるものとして説明したが、同様の処理を実行することにより、他の飲料容器3においても、文字及び図形の少なくとも一方が記載されているか否かを判定することができる。また、飲料容器3eは、必ずしも下方部分を囲む位置の全体に文字及び図形が記載されている必要はなく、少なくとも文字及び図形の一部の記載が第3領域r3に含まれるように、文字及び図形が記載されていればよい。   In the above description, the beverage container 3 is described as being an iced beverage container. However, by executing the same process, at least one of characters and figures is described in the other beverage containers 3 as well. It can be determined whether or not. In addition, the beverage container 3e does not necessarily have characters and figures written in the entire position surrounding the lower part, and at least characters and figures are included in the third region r3. It only has to be a graphic.

以上により、実施形態2の認識処理装置6は、特徴の差分を見ることにより、文字及び図形の少なくとも一方が記載されているか否か判定するので、飲料容器3の画像の写り方による認識精度の低下を抑制し、飲料容器3の認識精度を向上することができる。   As described above, the recognition processing device 6 according to the second embodiment determines whether or not at least one of a character and a graphic is described by looking at the difference between features. Therefore, the recognition accuracy of the image of the beverage container 3 can be improved. A fall can be suppressed and the recognition accuracy of the beverage container 3 can be improved.

[実施形態3]
実施形態3の飲料供給装置300について説明する。実施形態3の認識処理装置1は、実施形態1の認識処理装置1と同じ構成である。
図16は、飲料供給装置の一実施例を示す図(その7)である。図17は、検出領域の輝度度数分布を示す図(その2)である。図18は、検出領域の色相の度数分布を示す図(その2)である。
[Embodiment 3]
A beverage supply apparatus 300 according to Embodiment 3 will be described. The recognition processing device 1 according to the third embodiment has the same configuration as the recognition processing device 1 according to the first embodiment.
FIG. 16 is a view (No. 7) showing an embodiment of the beverage supply apparatus. FIG. 17 is a diagram (part 2) illustrating the luminance frequency distribution in the detection region. FIG. 18 is a diagram (part 2) illustrating a hue frequency distribution in a detection region.

実施形態3の飲料供給装置300は、図16に示すように、補助部材162を備える。補助部材161は、載置位置に飲料容器3cが載置されたとき、撮影画像の第1領域r1に、黒色の画像が写し出される位置に設置された黒色の部材である。なお、補助部材161の色は、黒色に限定されるものではなく、例えば、認識処理装置1が飲料容器3dの特徴と、補助部材162の特徴とを、輝度及び色相の少なくとも一方のヒストグラムの特徴から識別可能な色であればよい。   As shown in FIG. 16, the beverage supply device 300 according to the third embodiment includes an auxiliary member 162. The auxiliary member 161 is a black member installed at a position where a black image is projected in the first region r1 of the photographed image when the beverage container 3c is placed at the placement position. Note that the color of the auxiliary member 161 is not limited to black. For example, the recognition processing device 1 uses the characteristics of the beverage container 3d and the characteristics of the auxiliary member 162 as the characteristics of at least one of luminance and hue histograms. Any color can be used as long as it can be identified.

検出部12は、載置位置に飲料容器3cが載置されたとき、背景として、第1領域r1に含まれる補助部材162の画像の特性を示す第1ヒストグラムを検出する。また、検出部12は、載置位置に飲料容器3dが載置されたとき、飲料容器3として、第1領域r1に含まれる飲料容器3dの上方部分の特性を示す第1ヒストグラムを検出する。これにより、認識処理装置1は、飲料容器3cと飲料容器3dで検出される第1ヒストグラムの特性の違いを明確にし、精度良く飲料容器3cと飲料容器3dとを認識する。   When the beverage container 3c is placed at the placement position, the detection unit 12 detects a first histogram indicating the characteristics of the image of the auxiliary member 162 included in the first region r1 as the background. Moreover, the detection part 12 detects the 1st histogram which shows the characteristic of the upper part of the drink container 3d contained in 1st area | region r1 as the drink container 3 when the drink container 3d is mounted in the mounting position. Thereby, the recognition processing apparatus 1 clarifies the difference in the characteristics of the first histogram detected between the beverage container 3c and the beverage container 3d, and recognizes the beverage container 3c and the beverage container 3d with high accuracy.

図17、図18に示すように、実施形態3の飲料供給装置300の載置位置に飲料容器3cが載置されたとき、認識処理装置1により検出される第1ヒストグラムは、輝度及び色を有する画素が少ない補助部材162の特性を示す。これにより、飲料容器3cが載置されたときの第1ヒストグラムと、飲料容器3dが載置されたときの第1ヒストグラムとの違いを明確にし、精度良く飲料容器3cと飲料容器3dとを、認識処理装置1に認識させることができる。   As shown in FIGS. 17 and 18, when the beverage container 3 c is placed at the placement position of the beverage supply device 300 according to the third embodiment, the first histogram detected by the recognition processing device 1 shows the luminance and color. The characteristic of the auxiliary member 162 having few pixels is shown. Thereby, the difference between the first histogram when the beverage container 3c is placed and the first histogram when the beverage container 3d is placed is clarified, and the beverage container 3c and the beverage container 3d are accurately obtained. The recognition processing apparatus 1 can be made to recognize.

[実施形態4]
実施形態4の認識処理装置7及び飲料供給装置400について説明する。実施形態4の認識処理装置7の機能ブロックは、実施形態1の認識処理装置1の機能ブロックと同じ構成であるが、判定部13の処理が異なるので、判定部13の処理について説明する。
[Embodiment 4]
The recognition processing device 7 and the beverage supply device 400 according to the fourth embodiment will be described. The functional blocks of the recognition processing device 7 of the fourth embodiment have the same configuration as the functional blocks of the recognition processing device 1 of the first embodiment, but the processing of the determination unit 13 is different, so the processing of the determination unit 13 will be described.

図19は、飲料供給装置の一実施例を示す図(その8)である。
飲料供給装置400は、飲料供給装置100の構成に加えて、センサ4を備える。センサ4は、例えば、発光部で光を発光し、飲料容器3で反射した光を受光部で受光したとき、飲料容器3が載置台にあることを検知する光反射型センサや、飲料容器3が載置台141に載置されたときの圧力を検知する感圧センサなどである。
センサ4は、載置位置に飲料容器3が載置されたか否かを検出し、認識処理装置7に通知する。判定部13は、飲料容器3が載置位置に載置されたことが検出されたとき、載置位置に飲料容器3が載置されたと判定する。
FIG. 19 is a view (No. 8) showing one embodiment of the beverage supply apparatus.
The beverage supply device 400 includes a sensor 4 in addition to the configuration of the beverage supply device 100. For example, the sensor 4 emits light by the light emitting unit and receives light reflected by the beverage container 3 by the light receiving unit. The light reflective sensor detects that the beverage container 3 is on the mounting table, or the beverage container 3. Is a pressure-sensitive sensor that detects the pressure when the is mounted on the mounting table 141.
The sensor 4 detects whether or not the beverage container 3 is placed at the placement position, and notifies the recognition processing device 7 of it. When it is detected that the beverage container 3 is placed at the placement position, the determination unit 13 determines that the beverage container 3 is placed at the placement position.

以上により、認識処理装置7は、飲料容器3が載置位置に載置されたことを検出する処理の負荷を低減することができる。
なお、本実施形態は、以上に述べた実施形態に限定されるものではなく、本実施形態の要旨を逸脱しない範囲内で種々の構成または実施形態を取ることができる。
As described above, the recognition processing device 7 can reduce the processing load for detecting that the beverage container 3 is placed at the placement position.
In addition, this embodiment is not limited to embodiment described above, A various structure or embodiment can be taken in the range which does not deviate from the summary of this embodiment.

1 認識処理装置
2 撮像装置
10 制御部
20 記憶部
100 飲料供給装置
200 コンピュータ装置
201 制御回路
202 記憶装置
203 読書装置
204 記録媒体
205 通信I/F
206 入出力I/F
207 入力装置
208 表示装置
209 撮像装置
210 ネットワーク
211 バス
DESCRIPTION OF SYMBOLS 1 Recognition processing apparatus 2 Imaging device 10 Control part 20 Storage part 100 Beverage supply apparatus 200 Computer apparatus 201 Control circuit 202 Storage apparatus 203 Reading apparatus 204 Recording medium 205 Communication I / F
206 I / O I / F
207 Input device 208 Display device 209 Imaging device 210 Network 211 Bus

Claims (15)

載置位置に載置される対象を含む領域の撮影画像を取得する取得部と、
前記載置位置に前記対象が載置されたとき、前記対象のサイズが第1サイズの場合、背景の特徴が抽出され、前記対象のサイズが前記第1サイズよりも大きい第2サイズの場合、前記対象の特徴が抽出される前記撮影画像に含まれる第1領域の第1特性を検出する検出部と、
前記載置位置に前記対象が載置されたとき、前記第1特性が背景の特徴を示す場合、前記対象のサイズを第1サイズと判定し、前記第1特性が前記対象の特徴を示す場合、前記対象のサイズを第2サイズと判定する判定部と、
を備えることを特徴とする認識処理装置。
An acquisition unit for acquiring a captured image of an area including a target placed at the placement position;
When the target is placed at the placement position, if the size of the target is the first size, a background feature is extracted, and if the size of the target is a second size larger than the first size, A detection unit for detecting a first characteristic of a first region included in the captured image from which the feature of the target is extracted;
When the target is placed at the placement position, when the first characteristic indicates a background feature, the size of the target is determined as the first size, and the first characteristic indicates the target feature A determination unit that determines the size of the target as a second size;
A recognition processing apparatus comprising:
前記検出部は、
前記載置位置に前記対象が載置されたとき、前記対象のサイズによらずに前記対象の特徴が抽出される前記撮影画像に含まれる第2領域の第2特性を検出し、
前記判定部は、
前記第2特性を用いて、前記対象の種類を判定し、
前記認識処理装置は、さらに、
前記対象の種類に応じて、前記載置位置に前記対象が載置されたとき、前記対象のサイズが前記第1サイズの場合、前記背景の特徴が抽出され、前記対象のサイズが前記第2サイズの場合、前記対象の特徴が抽出される位置に、前記第1領域の位置を設定する設定部
を備えることを特徴とする請求項2に記載の認識処理装置。
The detector is
When the object is placed at the placement position, the second characteristic of the second region included in the captured image from which the feature of the object is extracted regardless of the size of the object;
The determination unit
Using the second characteristic to determine the type of the object;
The recognition processing device further includes:
According to the type of the target, when the target is placed at the placement position, if the size of the target is the first size, the background feature is extracted, and the size of the target is the second size. The recognition processing apparatus according to claim 2, further comprising: a setting unit that sets a position of the first region at a position where the feature of the target is extracted in the case of size.
前記対象は、
カップ状の飲料容器であり、
前記第2特性は、
前記第2領域の輝度の第2度数分布を含み、
前記判定部は、
前記第2度数分布の広がりが第2閾値以上のとき、前記飲料容器が氷入りの透明の飲料容器であると判定する
ことを特徴とする請求項1または2に記載の認識処理装置。
The subject is
A cup-shaped beverage container,
The second characteristic is:
Including a second frequency distribution of luminance of the second region;
The determination unit
The recognition processing device according to claim 1, wherein when the spread of the second frequency distribution is equal to or greater than a second threshold value, the beverage container is determined to be a transparent beverage container containing ice.
前記設定部は、
前記飲料容器が氷入りの透明の飲料容器である場合、前記飲料容器のサイズが前記第1サイズのとき背景の特徴が抽出され、前記飲料容器のサイズが前記第2サイズのとき前記飲料容器の開口部のふちの特徴が抽出される位置に、前記第1領域の位置を設定する
ことを特徴とする請求項3に記載の認識処理装置。
The setting unit
When the beverage container is a transparent beverage container with ice, a background feature is extracted when the size of the beverage container is the first size, and when the size of the beverage container is the second size, The recognition processing apparatus according to claim 3, wherein the position of the first region is set to a position where the feature of the edge of the opening is extracted.
前記設定部は、
前記飲料容器が不透明な飲料容器である場合、前記飲料容器のサイズが前記第1サイズのとき背景の特徴が抽出され、前記飲料容器のサイズが前記第2サイズのとき前記飲料容器の上方位置の特徴が抽出される位置に、前記第1領域の位置を設定する
を備えることを特徴とする請求項3または4に記載の認識処理装置。
The setting unit
When the beverage container is an opaque beverage container, background features are extracted when the size of the beverage container is the first size, and when the size of the beverage container is the second size, The recognition processing apparatus according to claim 3, further comprising: setting a position of the first region at a position where the feature is extracted.
前記飲料容器の種類は、
文字及び図形の記載がない第1飲料容器と、前記文字及び図形の少なくとも一方の記載がある第2飲料容器との2種類を含み、
前記検出部は、
前記載置位置に前記飲料容器が載置されたとき、前記第2飲料容器の撮像画像において、前記文字及び図形の少なくとも一方を含む、第3領域の輝度の第3度数分布と、前記文字及び図形を含まない、第4領域の輝度の第4度数分布とを検出し、
前記判定部は、
前記第3度数分布と前記第4度数分布との差分が、前記文字及び図形の少なくとも一方の輝度に応じた第5度数分布の特徴を示すとき、前記飲料容器が前記第2飲料容器であると判定する
ことを特徴とする請求項3から5のいずれか一つに記載の認識処理装置。
The type of the beverage container is
Including two types, a first beverage container without description of characters and graphics, and a second beverage container with description of at least one of the characters and graphics,
The detector is
When the beverage container is placed at the placement position, in the captured image of the second beverage container, the third frequency distribution of the brightness of the third region including at least one of the characters and graphics, the characters and Detecting a fourth frequency distribution of luminance in the fourth region, which does not include a figure,
The determination unit
When the difference between the third frequency distribution and the fourth frequency distribution indicates the characteristics of the fifth frequency distribution according to the luminance of at least one of the characters and figures, the beverage container is the second beverage container. The recognition processing device according to claim 3, wherein the recognition processing device is determined.
前記第2飲料容器が前記氷入りの透明の飲料容器であり、前記文字及び図形の少なくとも一方が前記氷の入った位置に記載されているとき、
前記第3領域及び前記第4領域は、
前記氷の入った位置を含む領域である
ことを特徴とする請求項6に記載の認識処理装置。
When the second beverage container is the transparent beverage container containing ice, and at least one of the letters and figures is written at the position containing the ice,
The third region and the fourth region are:
The recognition processing device according to claim 6, wherein the recognition processing device is a region including a position where the ice is contained.
前記認識処理装置は、さらに、
前記飲料容器のサイズに応じて、提供する飲料の量を選択する選択部
を備えることを特徴とする請求項3から7のいずれか一つに記載の認識処理装置。
The recognition processing device further includes:
The recognition processing apparatus according to any one of claims 3 to 7, further comprising a selection unit that selects an amount of a beverage to be provided according to a size of the beverage container.
前記認識処理装置は、さらに、
前記飲料容器の種類に応じて、提供する飲料の種類を選択する選択部
を備えることを特徴とする請求項3から8のいずれか一つに記載の認識処理装置。
The recognition processing device further includes:
The recognition processing apparatus according to any one of claims 3 to 8, further comprising a selection unit that selects a type of beverage to be provided according to a type of the beverage container.
前記検出部は、
前記載置位置に前記対象が載置されたとき、前記対象のサイズによらずに前記対象の特徴が抽出される前記撮影画像に含まれる第2領域の第2特性を検出し、
前記判定部は、
前記第2特性が前記対象の特徴を示すとき、前記載置位置に対象が載置されたと判定する
ことを特徴とする請求項1から9のいずれか一つに記載の認識処理装置。
The detector is
When the object is placed at the placement position, the second characteristic of the second region included in the captured image from which the feature of the object is extracted regardless of the size of the object;
The determination unit
The recognition processing apparatus according to any one of claims 1 to 9, wherein when the second characteristic indicates the feature of the target, it is determined that the target is placed at the placement position.
前記判定部は、
前記対象が載置位置に載置されたことを検出するセンサにより、前記対象が載置されたことが検出されたとき、前記載置位置に対象が載置されたと判定する
ことを特徴とする請求項1から10のいずれか一つに記載の認識処理装置。
The determination unit
When it is detected that the target is placed by a sensor that detects that the target is placed at the placement position, it is determined that the subject is placed at the placement position. The recognition processing apparatus according to any one of claims 1 to 10.
前記第1領域は、
前記載置位置に第2サイズの対象が設置されていないとき、不透明な画像になる領域である
ことを特徴とする請求項1から11のいずれか一つに記載の認識処理装置。
The first region is
The recognition processing device according to any one of claims 1 to 11, wherein the recognition processing device is a region that becomes an opaque image when a second-size target is not placed at the placement position.
載置位置に載置される対象を含む領域の撮影画像を取得する取得部と、
前記載置位置に前記対象が載置されたとき、前記対象のサイズが第1サイズの場合、背景の特徴が抽出され、前記対象のサイズが前記第1サイズよりも大きい第2サイズの場合、前記対象の特徴が抽出される前記撮影画像に含まれる第1領域の第1特性を検出する検出部と、
前記載置位置に前記対象が載置されたとき、前記第1特性が背景の特徴を示す場合、前記対象のサイズを第1サイズと判定し、前記第1特性が前記対象の特徴を示す場合、前記対象のサイズを第2サイズと判定する判定部と、
前記載置位置に第2サイズの対象が設定されていないとき、前記第1領域に写し出される画像を不透明にする補助部と、
を備えることを特徴とする飲料供給装置。
An acquisition unit for acquiring a captured image of an area including a target placed at the placement position;
When the target is placed at the placement position, if the size of the target is the first size, a background feature is extracted, and if the size of the target is a second size larger than the first size, A detection unit for detecting a first characteristic of a first region included in the captured image from which the feature of the target is extracted;
When the target is placed at the placement position, when the first characteristic indicates a background feature, the size of the target is determined as the first size, and the first characteristic indicates the target feature A determination unit that determines the size of the target as a second size;
An auxiliary unit that makes an image projected in the first region opaque when a second size target is not set at the placement position;
A beverage supply device comprising:
認識処理装置のプロセッサによって実行される情報処理援方法であって、
前記プロセッサは、
載置位置に載置される対象を含む領域の撮影画像を取得し、
前記載置位置に前記対象が載置されたとき、前記対象のサイズが第1サイズの場合、背景の特徴が抽出され、前記対象のサイズが前記第1サイズよりも大きい第2サイズの場合、前記対象の特徴が抽出される前記撮影画像に含まれる第1領域の第1特性を検出し、
前記載置位置に前記対象が載置されたとき、前記第1特性が背景の特徴を示す場合、前記対象のサイズを第1サイズと判定し、前記第1特性が前記対象の特徴を示す場合、前記対象のサイズを第2サイズと判定する
ことを特徴とする設計支援方法。
An information processing support method executed by a processor of a recognition processing device,
The processor is
Acquire a captured image of the area including the target placed at the placement position,
When the target is placed at the placement position, if the size of the target is the first size, a background feature is extracted, and if the size of the target is a second size larger than the first size, Detecting a first characteristic of a first region included in the captured image from which the feature of the object is extracted;
When the target is placed at the placement position, when the first characteristic indicates a background feature, the size of the target is determined as the first size, and the first characteristic indicates the target feature And determining the size of the object as a second size.
認識処理装置のプロセッサによって実行される情報処理プログラムであって、
載置位置に載置される対象を含む領域の撮影画像を取得し、
前記載置位置に前記対象が載置されたとき、前記対象のサイズが第1サイズの場合、背景の特徴が抽出され、前記対象のサイズが前記第1サイズよりも大きい第2サイズの場合、前記対象の特徴が抽出される前記撮影画像に含まれる第1領域の第1特性を検出し、
前記載置位置に前記対象が載置されたとき、前記第1特性が背景の特徴を示す場合、前記対象のサイズを第1サイズと判定し、前記第1特性が前記対象の特徴を示す場合、前記対象のサイズを第2サイズと判定する
処理をプロセッサに実行させることを特徴とする認識処理プログラム。
An information processing program executed by a processor of a recognition processing device,
Acquire a captured image of the area including the target placed at the placement position,
When the target is placed at the placement position, if the size of the target is the first size, a background feature is extracted, and if the size of the target is a second size larger than the first size, Detecting a first characteristic of a first region included in the captured image from which the feature of the object is extracted;
When the target is placed at the placement position, when the first characteristic indicates a background feature, the size of the target is determined as the first size, and the first characteristic indicates the target feature A recognition processing program for causing a processor to execute a process of determining the target size as a second size.
JP2018075359A 2018-04-10 2018-04-10 Recognition processing device, recognition processing method, and recognition processing program Active JP6716133B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018075359A JP6716133B2 (en) 2018-04-10 2018-04-10 Recognition processing device, recognition processing method, and recognition processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018075359A JP6716133B2 (en) 2018-04-10 2018-04-10 Recognition processing device, recognition processing method, and recognition processing program

Publications (2)

Publication Number Publication Date
JP2019185385A true JP2019185385A (en) 2019-10-24
JP6716133B2 JP6716133B2 (en) 2020-07-01

Family

ID=68341323

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018075359A Active JP6716133B2 (en) 2018-04-10 2018-04-10 Recognition processing device, recognition processing method, and recognition processing program

Country Status (1)

Country Link
JP (1) JP6716133B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020085669A (en) * 2018-11-27 2020-06-04 富士電機株式会社 Cup detector
WO2020110971A1 (en) * 2018-11-27 2020-06-04 富士電機株式会社 Cup detection device and beverage supply device

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012001221A (en) * 2010-06-14 2012-01-05 Hoshizaki Electric Co Ltd Beverage dispenser
JP2017159941A (en) * 2016-03-10 2017-09-14 パナソニックIpマネジメント株式会社 Beverage dispenser

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012001221A (en) * 2010-06-14 2012-01-05 Hoshizaki Electric Co Ltd Beverage dispenser
JP2017159941A (en) * 2016-03-10 2017-09-14 パナソニックIpマネジメント株式会社 Beverage dispenser

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020085669A (en) * 2018-11-27 2020-06-04 富士電機株式会社 Cup detector
WO2020110971A1 (en) * 2018-11-27 2020-06-04 富士電機株式会社 Cup detection device and beverage supply device

Also Published As

Publication number Publication date
JP6716133B2 (en) 2020-07-01

Similar Documents

Publication Publication Date Title
EP3361740B1 (en) Display device and method for replacing advertisement
US20160140534A1 (en) Information processing apparatus, store system and method
JP6716133B2 (en) Recognition processing device, recognition processing method, and recognition processing program
US20210045572A1 (en) Beverage server
KR102090973B1 (en) Information processing apparatus, information processing method, and storage medium
US20190191078A1 (en) Information processing apparatus, a non-transitory computer readable storage medium and information processing method
US11210778B2 (en) Image processing method and image processing apparatus that generate an inspection region serving as a target of image processing
US20180184012A1 (en) Image processing apparatus, control method, and storage medium
CN109672800B (en) Information processing apparatus, storage medium, information processing method, and information processing system
US20130100295A1 (en) Information processing apparatus and method
US20200334656A1 (en) Product recognition apparatus, sales data processing apparatus, and control method
US10075614B2 (en) Image processing apparatus and non-transitory computer readable medium
JP2019101508A (en) Beverage supply system
JP5640112B2 (en) Product recognition apparatus and product recognition program
US20170223319A1 (en) Projector and projection apparatus and image processing program product
US10997382B2 (en) Reading apparatus and method
EP4354851A1 (en) Electronic device for adaptively displaying image, and operation method thereof
JP5788367B2 (en) Long object number measuring device, long object number measuring method, and computer program
US10318801B2 (en) Image processing apparatus and non-transitory computer readable medium
JP2012185810A (en) Image processing system and image processing program
JP6175583B1 (en) Image processing apparatus, actual dimension display method, and actual dimension display processing program
US11480664B2 (en) Optical detection device of detecting a distance relative to a target object
JP2018152760A (en) Image processing apparatus, image processing program, and image detecting method of image processing apparatus
JP5233739B2 (en) Image processing apparatus, image reading apparatus, and image forming apparatus
JP6853154B2 (en) Information processing equipment, information processing programs, information processing methods and information processing systems

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190411

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200303

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200421

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200515

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200602

R150 Certificate of patent or registration of utility model

Ref document number: 6716133

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250