JP7274644B2 - Article recognition device - Google Patents

Article recognition device Download PDF

Info

Publication number
JP7274644B2
JP7274644B2 JP2022069355A JP2022069355A JP7274644B2 JP 7274644 B2 JP7274644 B2 JP 7274644B2 JP 2022069355 A JP2022069355 A JP 2022069355A JP 2022069355 A JP2022069355 A JP 2022069355A JP 7274644 B2 JP7274644 B2 JP 7274644B2
Authority
JP
Japan
Prior art keywords
article
processor
information
feature point
recognition device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022069355A
Other languages
Japanese (ja)
Other versions
JP2022106808A (en
Inventor
哲也 信岡
真明 安永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2018089976A external-priority patent/JP7062507B2/en
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2022069355A priority Critical patent/JP7274644B2/en
Publication of JP2022106808A publication Critical patent/JP2022106808A/en
Application granted granted Critical
Publication of JP7274644B2 publication Critical patent/JP7274644B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Cash Registers Or Receiving Machines (AREA)
  • Image Analysis (AREA)

Description

本発明の実施形態は、物品認識装置に関する。 Embodiments of the present invention relate to article recognition devices.

物品認識装置には、物品を撮影した画像から特徴点を抽出し、抽出した特徴点に基づいて物品を認識するものがある。そのような物品認識装置は、物品が設置される設置台の模様又は外光などが画像に含まれることで、物品以外の領域から特徴点を抽出することがある。その結果、物品認識装置は、物品の認識精度が低下する可能性があるという課題がある。 2. Description of the Related Art Some article recognition apparatuses extract feature points from an image of an article and recognize the article based on the extracted feature points. Such an article recognition device may extract feature points from an area other than the article by including the pattern of the installation table on which the article is installed, the external light, or the like in the image. As a result, the object recognition device has a problem that the object recognition accuracy may deteriorate.

特開2017-123163号公報JP 2017-123163 A

上記の課題を解決するため、効果的に物品を認識することができる物品認識装置を提供する。 In order to solve the above problems, an article recognition device capable of effectively recognizing articles is provided.

実施形態によれば、物品認識装置は、画像インターフェースと、距離情報インターフェースと、プロセッサと、を備える。画像インターフェースは、設置台に配置された物品を撮影した画像を取得する。距離情報インターフェースは、前記設置台及び前記物品からの距離を示す距離情報を取得する。プロセッサは、前記画像から前記物品を認識するための画像情報を抽出し、前記画像情報を含むリストを生成し、前記距離情報に基づいて、前記リストから前記設置台と同一の距離にある画像情報を削除し、前記リストの画像情報に基づいて物品を認識する。 According to embodiments, an article recognition device comprises an image interface, a distance information interface, and a processor. The image interface acquires a photographed image of the article placed on the installation table. A distance information interface acquires distance information indicating a distance from the installation table and the article. The processor extracts image information for recognizing the article from the image, generates a list including the image information, and extracts image information at the same distance from the installation table from the list based on the distance information. and recognize the item based on the image information of the list.

図1は、第1の実施形態に係る物品認識装置の構成例を概略的に示す図である。FIG. 1 is a diagram schematically showing a configuration example of an article recognition device according to the first embodiment. 図2は、第1の実施形態に係る物品認識装置の構成例を示すブロック図である。FIG. 2 is a block diagram showing a configuration example of the article recognition device according to the first embodiment. 図3は、第1の実施形態に係る撮影画像の例を示す図である。FIG. 3 is a diagram showing an example of a captured image according to the first embodiment. 図4は、第1の実施形態に係る特徴点情報の例を示す図である。FIG. 4 is a diagram showing an example of feature point information according to the first embodiment. 図5は、第1の実施形態に係る特徴点情報の例を示す図である。FIG. 5 is a diagram showing an example of feature point information according to the first embodiment. 図6は、第1の実施形態に係る特徴点情報の例を示す図である。FIG. 6 is a diagram showing an example of feature point information according to the first embodiment. 図7は、第1の実施形態に係る特徴点情報の例を示す図である。FIG. 7 is a diagram showing an example of feature point information according to the first embodiment. 図8は、第1の実施形態に係る物品認識装置の動作例を示すフローチャートである。FIG. 8 is a flow chart showing an operation example of the article recognition device according to the first embodiment. 図9は、第2の実施形態に係る特徴点情報の例を示す図である。FIG. 9 is a diagram showing an example of feature point information according to the second embodiment. 図10は、第2の実施形態に係る特徴点情報の例を示す図である。FIG. 10 is a diagram showing an example of feature point information according to the second embodiment.

以下、実施形態について、図面を参照して説明する。
(第1の実施形態)
まず、第1の実施形態について説明する。
第1の実施形態に係る物品認識装置は、物品を認識する。物品認識装置は、自身にセットされた物品を撮影する。物品認識装置は、撮影した画像から特徴点を抽出する。物品認識装置は、抽出された特徴点などに基づいて物品を認識する。
Hereinafter, embodiments will be described with reference to the drawings.
(First embodiment)
First, the first embodiment will be explained.
An article recognition device according to the first embodiment recognizes an article. An article recognition device photographs an article set on itself. An article recognition device extracts feature points from a photographed image. The article recognition device recognizes the article based on the extracted feature points.

たとえば、物品認識装置は、商品を決済するためのレジなどに設置される。たとえば、物品認識装置は、商品を認識する。また、物品認識装置は、認識した商品を決済するものであってもよい。物品認識装置は、利用者が自ら決済処理を行うセルフレジとして設置されてもよい。また、物品認識装置は、店舗の店員が決済処理をする通常のレジとして設置されてもよい。また、物品認識装置、決済後に購入された物品か否かを判定する検品装置などとして設置されてもよい。 For example, an article recognition device is installed at a cash register or the like for payment of merchandise. For example, an article recognition device recognizes merchandise. Also, the article recognition device may be used to pay for the recognized merchandise. The article recognition device may be installed as a self-checkout where users themselves perform payment processing. Also, the article recognition device may be installed as a normal cash register where a store clerk performs payment processing. Moreover, it may be installed as an article recognition device, an inspection device for determining whether or not an article is purchased after settlement, or the like.

図1は、実施形態に係る物品認識装置1の構成例を概略的に示す図である。図1が示すように、物品認識装置1は、筐体2、カメラ3、距離センサ4、操作部5、表示部6、設置台7及び制御部10などを備える。 FIG. 1 is a diagram schematically showing a configuration example of an article recognition device 1 according to an embodiment. As shown in FIG. 1, the article recognition device 1 includes a housing 2, a camera 3, a distance sensor 4, an operation section 5, a display section 6, a mounting table 7, a control section 10, and the like.

筐体2は、物品認識装置1の外形を形成するフレームである。筐体2は、設置台7を設置することができるように形成される。図1が示す例においては、筐体2は、コの字型に形成される。 The housing 2 is a frame that forms the outer shape of the article recognition device 1 . The housing 2 is formed so that the installation table 7 can be installed. In the example shown in FIG. 1, the housing 2 is formed in a U-shape.

カメラ3は、筐体2の上部に下向きで設置される。カメラ3は、設置台7上の物品Aを撮影する。即ち、カメラ3は、物品Aを上方から撮影するように設置される。カメラ3は、斜め上方から物品Aを撮影するように設置されてもよい。カメラ3が設置される位置及び向きは、特定の構成に限定されるものではない。カメラ3は、撮影した画像を制御部10に送信する。 The camera 3 is installed in the upper part of the housing 2 facing downward. The camera 3 photographs the article A on the installation base 7 . That is, the camera 3 is installed so as to photograph the article A from above. The camera 3 may be installed so as to photograph the article A from obliquely above. The position and orientation at which the camera 3 is installed are not limited to a specific configuration. The camera 3 transmits the captured image to the control section 10 .

距離センサ4は、筐体2の上部に下向きで設置される。距離センサ4は、所定の基準面からの距離(たとえば、所定の基準面から距離センサ4までの距離又は所定の基準面から距離センサ4に水平な面まで距離)を測定する。 The distance sensor 4 is installed downward on the upper part of the housing 2 . The distance sensor 4 measures the distance from a predetermined reference plane (for example, the distance from the predetermined reference plane to the distance sensor 4 or the distance from the predetermined reference plane to a plane parallel to the distance sensor 4).

距離センサ4は、測定結果に基づいて、所定の基準面からの距離を示す距離情報を生成する。たとえば、距離情報は、所定の三次元座標系における各点の座標を示す。距離センサ4は、生成した距離情報を制御部10に送信する。 The distance sensor 4 generates distance information indicating the distance from a predetermined reference plane based on the measurement result. For example, distance information indicates the coordinates of each point in a predetermined three-dimensional coordinate system. The distance sensor 4 transmits the generated distance information to the controller 10 .

たとえば、距離センサ4は、光源と光源から照射される光の反射光を検出するセンサとを備える。距離センサ4は、光源から照射される光(可視光又は不可視光)の反射光に基づいて距離を測定する。たとえば、距離センサ4は、照射された光が測定対象で反射し距離センサ4に届くまでの時間に基づいて当該測定対象との距離を測定するToF(Time-fo-Flight)方式を行ってもよい。 For example, the distance sensor 4 includes a light source and a sensor that detects reflected light emitted from the light source. The distance sensor 4 measures the distance based on the reflected light of the light (visible light or invisible light) emitted from the light source. For example, the distance sensor 4 may perform a ToF (Time-for-Flight) method of measuring the distance to the measurement target based on the time it takes for the irradiated light to be reflected by the measurement target and reach the distance sensor 4. good.

距離センサ4は、2つのカメラ(ステレオカメラ)が撮影した各画像の視差に基づいて距離を算出するものであってもよい。また、距離センサ4は、ドットパターンを投影しドットパターンの歪みから距離を測定するものであってもよい。
距離センサ4の構成は、特定の構成に限定されるものではない。
The distance sensor 4 may calculate the distance based on the parallax of each image captured by two cameras (stereo cameras). Further, the distance sensor 4 may project a dot pattern and measure the distance from the distortion of the dot pattern.
The configuration of the distance sensor 4 is not limited to a specific configuration.

操作部5は、オペレータから種々の操作の入力を受け付ける。操作部5は、受け付けた操作を示す信号をプロセッサ11へ送信する。ここでは、操作部5は、タッチパネルから構成される。なお、操作部5は、キーボード又はテンキーをさらに備えてもよい。 The operation unit 5 receives inputs of various operations from the operator. The operation unit 5 transmits a signal indicating the accepted operation to the processor 11 . Here, the operation unit 5 is composed of a touch panel. Note that the operation unit 5 may further include a keyboard or numeric keypad.

表示部6は、プロセッサ11の制御により種々の情報を表示する。たとえば、表示部6は、液晶モニタから構成される。ここでは、表示部6は、操作部5と一体的に形成される。 The display unit 6 displays various information under the control of the processor 11 . For example, the display unit 6 is composed of a liquid crystal monitor. Here, the display section 6 is formed integrally with the operation section 5 .

設置台7は、筐体2の下部に設置される。設置台7は、物品Aを設置する台である。たとえば、設置台7は、所定の大きさの矩形状に形成される。なお、設置台7は、物品Aが配置されたことを検知するセンサを備えてもよい。センサは、物品Aが配置されたことを示す信号をプロセッサ11に送信する。 The installation table 7 is installed in the lower part of the housing 2 . The installation table 7 is a table on which the article A is installed. For example, the installation table 7 is formed in a rectangular shape with a predetermined size. Note that the installation table 7 may include a sensor that detects that the article A has been placed. The sensor sends a signal to processor 11 indicating that item A has been placed.

制御部10は、物品認識装置1全体を制御する。制御部10は、オペレータからの指示などに基づいて、設置台7に設置される物品Aを認識する。制御部10は、操作部5を通じて、オペレータから種々の入力を受け付ける。また、制御部10は、表示部6を通じて、オペレータに種々の情報を表示する。 The control unit 10 controls the article recognition device 1 as a whole. The control unit 10 recognizes the article A placed on the installation table 7 based on an instruction from the operator or the like. The control unit 10 receives various inputs from the operator through the operation unit 5 . Also, the control unit 10 displays various information to the operator through the display unit 6 .

図2は、物品認識装置1の構成例を示すブロック図である。図2が示すように、物品認識装置1は、制御部10、カメラ3、距離センサ4、操作部5及び表示部6などを備える。制御部10と、カメラ3、距離センサ4、操作部5及び表示部6とは、電気的に接続する。カメラ3、距離センサ4、操作部5及び表示部6は、前述の通りである。 FIG. 2 is a block diagram showing a configuration example of the article recognition device 1. As shown in FIG. As shown in FIG. 2, the article recognition device 1 includes a control section 10, a camera 3, a distance sensor 4, an operation section 5, a display section 6, and the like. The control unit 10, the camera 3, the distance sensor 4, the operation unit 5, and the display unit 6 are electrically connected. The camera 3, distance sensor 4, operation unit 5 and display unit 6 are as described above.

制御部10は、プロセッサ11、ROM12、RAM13、NVM14、カメラインターフェース15、距離センサインターフェース16、操作部インターフェース17及び表示部インターフェース18などを備える。プロセッサ11と、ROM12、RAM13、NVM14、カメラインターフェース15、距離センサインターフェース16、操作部インターフェース17及び表示部インターフェース18とは、電気的に接続する。カメラインターフェース15は、カメラ3と電気的に接続する。距離センサインターフェース16は、距離センサ4と電気的に接続する。操作部インターフェース17は、操作部5と電気的に接続する。表示部インターフェース18は、表示部6と電気的に接続する。 The control unit 10 includes a processor 11, a ROM 12, a RAM 13, an NVM 14, a camera interface 15, a distance sensor interface 16, an operation unit interface 17, a display unit interface 18, and the like. The processor 11, the ROM 12, the RAM 13, the NVM 14, the camera interface 15, the distance sensor interface 16, the operation interface 17, and the display interface 18 are electrically connected. The camera interface 15 electrically connects with the camera 3 . The distance sensor interface 16 electrically connects with the distance sensor 4 . The operating section interface 17 is electrically connected to the operating section 5 . The display interface 18 is electrically connected to the display 6 .

プロセッサ11は、制御部10全体の動作を制御する。即ち、プロセッサ11は、物品認識装置1全体の動作を制御する。プロセッサ11は、内部キャッシュ及び各種のインターフェースなどを備えてもよい。プロセッサ11は、内部キャッシュ、ROM12又はNVM14が予め記憶するプログラムを実行することにより種々の処理を実現する。 The processor 11 controls the operation of the control unit 10 as a whole. That is, the processor 11 controls the operation of the article recognition device 1 as a whole. Processor 11 may include an internal cache, various interfaces, and the like. The processor 11 implements various processes by executing programs pre-stored in the internal cache, ROM 12 or NVM 14 .

なお、プロセッサ11がプログラムを実行することにより実現する各種の機能のうちの一部は、ハードウエア回路により実現されるものであってもよい。この場合、プロセッサ11は、ハードウエア回路により実行される機能を制御する。 Note that some of the various functions realized by the processor 11 executing the program may be realized by hardware circuits. In this case, processor 11 controls the functions performed by the hardware circuits.

ROM12は、制御プログラム及び制御データなどが予め記憶された不揮発性のメモリである。ROM12に記憶される制御プログラム及び制御データは、制御部10の仕様に応じて予め組み込まれる。ROM12は、たとえば、制御部10の回路基板を制御するプログラムなどを格納する。 The ROM 12 is a nonvolatile memory in which control programs, control data, and the like are stored in advance. The control program and control data stored in the ROM 12 are installed in advance according to the specifications of the control unit 10 . ROM 12 stores, for example, a program for controlling the circuit board of control unit 10 .

RAM13は、揮発性のメモリである。RAM13は、プロセッサ11の処理中のデータなどを一時的に格納する。RAM13は、プロセッサ11からの命令に基づき種々のアプリケーションプログラムを格納する。また、RAM13は、アプリケーションプログラムの実行に必要なデータ及びアプリケーションプログラムの実行結果などを格納してもよい。 RAM 13 is a volatile memory. The RAM 13 temporarily stores data being processed by the processor 11 . RAM 13 stores various application programs based on instructions from processor 11 . Also, the RAM 13 may store data necessary for executing the application program, execution results of the application program, and the like.

NVM14は、データの書き込み及び書き換えが可能な不揮発性のメモリである。NVM14は、たとえば、HDD(Hard Disk Drive)、SSD(Solid State Drive)、EEPROM(登録商標)(Electrically Erasable Programmable Read-Only Memory)又はフラッシュメモリなどから構成される。NVM14は、制御部10の運用用途に応じて制御プログラム、アプリケーション及び種々のデータなどを格納する。 The NVM 14 is a non-volatile memory in which data can be written and rewritten. The NVM 14 is composed of, for example, a HDD (Hard Disk Drive), SSD (Solid State Drive), EEPROM (registered trademark) (Electrically Erasable Programmable Read-Only Memory), flash memory, or the like. The NVM 14 stores control programs, applications, various data, and the like according to the operational use of the control unit 10 .

NVM14は、物品情報を格納する。物品情報は、物品に関する情報である。物品情報は、物品コードと辞書情報と外形情報とを対応付けて格納する。
物品コードは、物品を示す識別子である。たとえば、物品コードは、数値、文字列、記号又はそれらの組合せなどから構成される。
The NVM 14 stores article information. The product information is information related to products. The product information stores the product code, the dictionary information, and the shape information in association with each other.
An article code is an identifier that indicates an article. For example, the product code is composed of numerical values, character strings, symbols, or combinations thereof.

辞書情報は、局所特徴量を用いて物品を特定するための情報である。辞書情報は、物品画像の特徴点及び特徴量を格納する。たとえば、辞書情報は、複数の特徴点の位置と特徴量とを対応付けて特徴点セットとして格納する。また、辞書情報は、物品の各面の画像の特徴点セットを格納してもよい。 The dictionary information is information for specifying an article using local features. The dictionary information stores feature points and feature amounts of article images. For example, the dictionary information associates the positions of a plurality of feature points with feature amounts and stores them as feature point sets. The dictionary information may also store feature point sets of images of each side of the article.

外形情報は、辞書情報の特徴点の座標系における物品の外形を示す。即ち、外形情報は、特徴点の位置と外形との相対的な位置関係を示す。たとえば、外形情報は、物品の四隅の座標を示す。 The outline information indicates the outline of the article in the coordinate system of the feature points of the dictionary information. That is, the outline information indicates the relative positional relationship between the positions of the feature points and the outline. For example, the outline information indicates the coordinates of the four corners of the article.

また、物品情報は、物品の外寸、物品名及び価格などを備えてもよい。物品情報の構成は、特定の構成に限定されるものではない。 Also, the item information may include the outer dimensions of the item, the name of the item, the price, and the like. The structure of article information is not limited to a specific structure.

NVM14は、予め各物品に関する物品情報を格納する。たとえば、プロセッサ11は、外部装置から物品情報を受信し、NVM14に格納する。また、物品情報は、適宜更新されてもよい。 The NVM 14 pre-stores article information about each article. For example, processor 11 receives article information from an external device and stores it in NVM 14 . Also, the article information may be updated as appropriate.

カメラインターフェース15(画像インターフェース)は、カメラとデータを送受信するためのインターフェースである。たとえば、カメラインターフェース15は、プロセッサ11の制御に基づいて、カメラ3に撮影を指示する信号を送信する。また、カメラインターフェース15は、カメラ3から撮影で得られた撮影画像を取得する。たとえば、カメラインターフェース15は、USB接続をサポートするものであってもよい。 A camera interface 15 (image interface) is an interface for transmitting and receiving data to and from the camera. For example, the camera interface 15 transmits a signal instructing the camera 3 to shoot under the control of the processor 11 . Also, the camera interface 15 acquires a photographed image obtained by photographing from the camera 3 . For example, camera interface 15 may support USB connectivity.

距離センサインターフェース16(距離情報インターフェース)は、距離センサ4とデータを送受信するためのインターフェースである。たとえば、距離センサインターフェース16は、プロセッサ11の制御に基づいて、距離センサ4に距離情報を取得させる信号を送信する。また、距離センサインターフェース16は、距離センサ4から、距離情報を取得する。たとえば、距離センサインターフェース16は、USB接続をサポートするものであってもよい。 A distance sensor interface 16 (distance information interface) is an interface for transmitting and receiving data to and from the distance sensor 4 . For example, the distance sensor interface 16 transmits a signal to cause the distance sensor 4 to acquire distance information under the control of the processor 11 . Also, the distance sensor interface 16 acquires distance information from the distance sensor 4 . For example, range sensor interface 16 may support USB connectivity.

操作部インターフェース17は、操作部5とデータを送受信するためのインターフェースである。たとえば、操作部インターフェース17は、オペレータから受け付けた操作を示す信号を操作部5から受信する。たとえば、操作部インターフェース17は、USB接続をサポートするものであってもよい。 The operation unit interface 17 is an interface for transmitting and receiving data to and from the operation unit 5 . For example, the operation unit interface 17 receives from the operation unit 5 a signal indicating an operation received from an operator. For example, the operation unit interface 17 may support USB connection.

表示部インターフェース18は、表示部6とデータを送受信するためのインターフェースである。また、表示部インターフェース18は、プロセッサ11の制御に基づいて、オペレータに表示する画面を示す情報を表示部6に送信する。たとえば、表示部インターフェース18は、USB接続をサポートするものであってもよい。 The display unit interface 18 is an interface for transmitting and receiving data to and from the display unit 6 . Further, the display unit interface 18 transmits information indicating a screen to be displayed to the operator to the display unit 6 under the control of the processor 11 . For example, display interface 18 may support a USB connection.

なお、物品認識装置1は、図1及び図2が示すような構成の他に必要に応じた構成を具備したり、物品認識装置1から特定の構成が除外されたりしてもよい。 Note that the article recognition device 1 may be provided with other configurations as necessary in addition to the configurations shown in FIGS. 1 and 2, or a specific configuration may be excluded from the article recognition device 1.

次に、物品認識装置1が実現する機能について説明する。物品認識装置1が実現する機能は、プロセッサ11がROM12又はNVM14などに格納されるプログラムを実行することで実現される。 Next, functions realized by the article recognition device 1 will be described. The functions realized by the article recognition device 1 are realized by the processor 11 executing a program stored in the ROM 12, the NVM 14, or the like.

まず、プロセッサ11は、物品が配置された設置台7を撮影した画像(撮影画像)を取得する機能を有する。ここでは、プロセッサ11は、設置台7上に配置された物品を撮影した画像を取得する。 First, the processor 11 has a function of acquiring an image (captured image) of the installation table 7 on which the article is placed. Here, the processor 11 acquires a photographed image of the article placed on the installation table 7 .

たとえば、プロセッサ11は、設置台7上に利用者によって物品が配置されたことを検知する。たとえば、プロセッサ11は、設置台7からの信号に基づいて設置台7上に物品が配置されたことを検知する。なお、プロセッサ11は、カメラ3からの画像に基づいて設置台7上に物品が配置されたことを検知してもよい。また、プロセッサ11は、利用者から物品を設置台7上に配置したことを示す操作を受け付けてもよい。 For example, the processor 11 detects that an article has been placed on the installation table 7 by the user. For example, processor 11 detects that an article has been placed on installation table 7 based on a signal from installation table 7 . Note that the processor 11 may detect that an article has been placed on the installation table 7 based on the image from the camera 3 . Further, the processor 11 may receive an operation indicating that an article has been placed on the installation table 7 from the user.

プロセッサ11は、物品が配置されたことを検知すると、物品を含む画像を撮影する。たとえば、プロセッサ11は、カメラ3に対して撮影を行う信号を送信する。プロセッサ11は、カメラ3から撮影画像を取得する。なお、プロセッサ11は、画像を撮影するために、撮影パラメータをカメラ3に設定してもよい。
なお、プロセッサ11は、外部装置から撮影画像を取得してもよい。
When the processor 11 detects that the article has been placed, it takes an image including the article. For example, processor 11 sends a signal to camera 3 to take an image. A processor 11 acquires a captured image from the camera 3 . Note that the processor 11 may set shooting parameters for the camera 3 in order to shoot an image.
Note that the processor 11 may acquire the captured image from an external device.

図3は、撮影画像の例を示す。図3が示す例では、撮影画像は、設置台7、外光50、物品A、物品B及び物品Cなどを写す。 FIG. 3 shows an example of a captured image. In the example shown in FIG. 3, the photographed image shows the installation table 7, the external light 50, the article A, the article B, the article C, and the like.

外光50は、設置台7上を照らす光である。たとえば、外光50は、太陽光又は照明光などである。 The outside light 50 is light that illuminates the installation table 7 . For example, the external light 50 is sunlight, illumination light, or the like.

物品A、B及びCは、認識対象となる物品である。物品A、B及びCは、特定の面を上面に設置台7に配置される。 Articles A, B, and C are objects to be recognized. Articles A, B, and C are placed on the installation table 7 with a specific surface facing up.

なお、撮影画像は、4つ以上の物品を写してもよい。また、撮影画像は、1つ又は2つの物品を写してもよい。撮影画像が写す物品の個数は、特定の個数に限定されるものではない。 It should be noted that the photographed image may show four or more articles. Also, the captured image may show one or two items. The number of articles shown in the photographed image is not limited to a specific number.

また、プロセッサ11は、距離センサ4から距離情報を取得する機能を有する。
プロセッサ11は、設置台7上に利用者によって物品が配置されたことを検知すると、距離センサ4から距離情報を取得する。たとえば、プロセッサ11は、距離センサ4に対して距離の測定を行う信号を送信する。プロセッサ11は、距離センサ4から距離情報を取得する。
The processor 11 also has a function of acquiring distance information from the distance sensor 4 .
The processor 11 acquires distance information from the distance sensor 4 when detecting that an article has been placed on the installation table 7 by the user. For example, processor 11 sends a signal to distance sensor 4 to perform a distance measurement. Processor 11 acquires distance information from distance sensor 4 .

プロセッサ11は、撮影画像を取得した後に距離情報を取得してもよい。また、プロセッサ11は、撮影画像と同時に距離情報を取得してもよい。また、プロセッサ11は、撮影画像を取得する前に距離情報を取得してもよい。 The processor 11 may acquire the distance information after acquiring the captured image. Also, the processor 11 may acquire the distance information at the same time as the captured image. Also, the processor 11 may acquire the distance information before acquiring the captured image.

また、プロセッサ11は、撮影画像から物品を認識するための特徴点情報(画像情報)を抽出する機能を有する。
即ち、プロセッサ11は、撮影画像から特徴点を抽出し、各特徴点の特徴量を算出する。特徴点情報は、特徴点及び特徴量などの情報を含む。
The processor 11 also has a function of extracting feature point information (image information) for recognizing an article from the captured image.
That is, the processor 11 extracts feature points from the captured image and calculates the feature amount of each feature point. The feature point information includes information such as feature points and feature amounts.

たとえば、特徴点は、画像のコーナー部分の点、又は、画像濃度の2次微分関数の極点(極大・極小点)など局所領域内で一意に定められる点である。特徴点は、位置を表す座標(x、y)によって示される。 For example, a feature point is a point uniquely defined within a local region, such as a corner point of an image or a extreme point (maximum/minimum point) of a secondary differential function of image density. A feature point is indicated by coordinates (x, y) representing a position.

特徴量は、特徴点又は特徴点周辺の画像から算出される値である。たとえば、特徴量は、特徴点近傍の濃度パターンなどに基づいて算出される。 A feature amount is a value calculated from a feature point or an image around the feature point. For example, the feature amount is calculated based on the density pattern in the vicinity of the feature point.

特徴点情報の構成は、特定の構成に限定されるものではない。 The structure of feature point information is not limited to a specific structure.

プロセッサ11は、抽出した特徴点情報を特徴点リストに格納する。 The processor 11 stores the extracted feature point information in a feature point list.

図4は、プロセッサ11が撮影画像から抽出した特徴点リストの例を示す。図4では、円101は、特徴点を示す。また、円101の大きさは、特徴量を示す。図4が示すように、プロセッサ11は、複数の円101を抽出する。プロセッサ11は、物品A乃至C上にそれぞれ複数の円101を抽出する。また、プロセッサ11は、外光50上に複数の円101を抽出する。 FIG. 4 shows an example of the feature point list extracted from the captured image by the processor 11 . In FIG. 4, circles 101 indicate feature points. Also, the size of the circle 101 indicates the feature amount. As FIG. 4 shows, processor 11 extracts a plurality of circles 101 . Processor 11 extracts a plurality of circles 101 on items A-C, respectively. Also, the processor 11 extracts a plurality of circles 101 on the outside light 50 .

また、プロセッサ11は、距離情報に基づいて特徴点リストから設置台7上に抽出された特徴点情報を削除する機能を有する。 The processor 11 also has a function of deleting the feature point information extracted on the installation table 7 from the feature point list based on the distance information.

プロセッサ11は、距離情報に基づいて、各特徴点の高さを特定する。各特徴点の高さを特定すると、プロセッサ11は、設置台7と同一の高さの特徴点情報を特徴点リストから削除する。たとえば、プロセッサ11は、設置台7からの高さが所定の閾値以下である特徴点情報を特徴点リストから削除する。 Processor 11 identifies the height of each feature point based on the distance information. After specifying the height of each feature point, the processor 11 deletes the feature point information having the same height as the installation table 7 from the feature point list. For example, the processor 11 deletes feature point information whose height from the installation table 7 is equal to or less than a predetermined threshold from the feature point list.

図5は、設置台7の同一の高さを有する特徴点情報を削除した特徴点リストの例を示す。外光50は、設置台7上に写る。従って、外光50上に抽出される特徴点情報は、設置台7と同一の高さを有する。よって、プロセッサ11は、図5が示すように、特徴点リストから外光50上の特徴点情報を削除する。 FIG. 5 shows an example of a feature point list in which feature point information having the same height of the installation table 7 is deleted. External light 50 is reflected on the installation base 7 . Therefore, the feature point information extracted on the outside light 50 has the same height as the installation table 7 . Therefore, the processor 11 deletes the feature point information on the external light 50 from the feature point list, as shown in FIG.

また、プロセッサ11は、特徴点リストに基づいて物品を認識する機能を有する。即ち、プロセッサ11は、設置台7上に抽出された特徴点情報以外の特徴点情報から物品を認識する。 The processor 11 also has a function of recognizing an article based on the feature point list. That is, the processor 11 recognizes the article from feature point information other than the feature point information extracted on the installation table 7 .

プロセッサ11は、NVM14から1つの物品情報を取得する。物品情報を取得すると、プロセッサ11は、物品情報の特徴点セットと特徴点リストとに基づいて特徴点セットの類似率Rを算出する。 Processor 11 acquires one article information from NVM 14 . After obtaining the product information, the processor 11 calculates the similarity rate R of the feature point set based on the feature point set and the feature point list of the product information.

プロセッサ11は、NVM14が格納する各物品情報について類似率Rを算出する。各物品情報の類似率Rを算出すると、プロセッサ11は、類似率Rの中から最も高い類似率Rmaxを特定する。類似率Rmaxを特定すると、プロセッサ11は、類似率Rmaxが閾値Rthrを超えるか判定する。類似率Rmaxが閾値Rthrを超えると判定すると、プロセッサ11は、類似率Rmaxの物品情報に対応する物品を認識する。たとえば、プロセッサ11は、物品の物品コードを取得する。 The processor 11 calculates a similarity rate R for each article information stored by the NVM 14 . After calculating the similarity rate R of each article information, the processor 11 specifies the highest similarity rate Rmax from among the similarity rates R. After identifying the similarity rate Rmax, the processor 11 determines whether the similarity rate Rmax exceeds the threshold value Rthr. When determining that the similarity rate Rmax exceeds the threshold value Rthr, the processor 11 recognizes the article corresponding to the article information of the similarity rate Rmax. For example, processor 11 obtains the item code of the item.

なお、プロセッサ11は、撮影画像からバーコードを読み取って物品を認識してもよい。たとえば、プロセッサ11は、所定の画像処理によってバーコードが写るバーコード領域を抽出する。バーコード領域を特定すると、プロセッサ11は、バーコード領域内のバーコードをデコードする。即ち、プロセッサ11は、バーコードから物品を特定する物品コードを読み取る。プロセッサ11は、物品コードを読み取った物品を認識する。 Note that the processor 11 may recognize the article by reading the barcode from the captured image. For example, the processor 11 extracts a barcode area in which the barcode appears by predetermined image processing. Having identified the barcode area, the processor 11 decodes the barcode within the barcode area. That is, the processor 11 reads an article code specifying an article from the bar code. The processor 11 recognizes the article whose article code is read.

また、プロセッサ11は、撮影画像から認識した物品が写る物品領域を特定する機能を有する。
プロセッサ11は、認識した物品の外形情報を取得する。プロセッサ11は、撮影画像において認識に用いられた特徴点情報の特徴点の位置及び外形情報に基づいて物品領域を特定する。たとえば、プロセッサ11は、撮影画像において認識に用いられた特徴点情報の特徴点の位置と外形情報とから撮影画像において物品の上面が写る領域を特定する。プロセッサ11は、特定した領域を物品領域として特定する。
The processor 11 also has a function of specifying an article area in which an article recognized from the photographed image is captured.
The processor 11 acquires outline information of the recognized article. The processor 11 identifies the article area based on the positions of the feature points and the outline information of the feature point information used for recognition in the captured image. For example, the processor 11 identifies an area in which the upper surface of the article is captured in the captured image from the positions of the feature points in the feature point information used for recognition in the captured image and the outer shape information. The processor 11 identifies the identified area as an article area.

なお、バーコードを読み取って物品を認識した場合、プロセッサ11は、認識した物品の物品情報の辞書情報を取得する。プロセッサ11は、特徴点リストの特徴点情報と辞書情報とをマッチングする。たとえば、プロセッサ11は、特徴点リストから辞書情報の特徴点セットと最も近い特徴点を抽出する。プロセッサ11は、バーコードの領域から所定の距離内又はバーコードの領域の位置に基づいて設定される所定の領域内の特徴点から特徴点セットに対応する特徴点を抽出してもよい。 Note that when an article is recognized by reading a barcode, the processor 11 acquires dictionary information of article information of the recognized article. The processor 11 matches feature point information in the feature point list with dictionary information. For example, the processor 11 extracts the feature point closest to the feature point set of the dictionary information from the feature point list. The processor 11 may extract feature points corresponding to the feature point set from feature points within a predetermined distance from the barcode area or within a predetermined area set based on the position of the barcode area.

特徴点リストから辞書情報の特徴点セットと最も近い特徴点を抽出すると、プロセッサ11は、抽出した特徴点の位置及び外形情報に基づいて物品領域を特定する。 After extracting the feature points closest to the feature point set of the dictionary information from the feature point list, the processor 11 identifies the article area based on the position and outline information of the extracted feature points.

また、プロセッサ11は、特徴点リストから物品領域内にある特徴点情報を削除する機能を有する。
プロセッサ11は、特徴点リストの各特徴点情報の特徴点が物品領域内にあるか判定する。プロセッサ11は、物品領域内にあると判定した特徴点の特徴点情報を特徴点リストから削除する。
The processor 11 also has a function of deleting feature point information within the product area from the feature point list.
The processor 11 determines whether the feature point of each feature point information in the feature point list is within the article area. The processor 11 deletes the feature point information of the feature points determined to be within the article area from the feature point list.

プロセッサ11は、物品の認識動作から特徴点情報の削除動作までを繰り返して撮影画像から各物品を認識する。 The processor 11 repeats the operation from recognizing the article to deleting the feature point information to recognize each article from the photographed image.

図5が示す例では、たとえば、プロセッサ11は、特徴点リストに基づいて物品Aを特定する。物品Aを特定すると、プロセッサ11は、物品Aの物品領域を特定する。物品Aの物品領域を特定すると、プロセッサ11は、特徴点リストから物品Aの物品領域内の特徴点情報を削除する。 In the example shown in FIG. 5, for example, processor 11 identifies article A based on the feature point list. After identifying item A, processor 11 identifies an item region of item A. FIG. After specifying the article area of the article A, the processor 11 deletes the feature point information within the article area of the article A from the feature point list.

図6は、物品Aの物品領域内の特徴点情報を削除した特徴点リストの例を示す。図6が示すように、物品Aの物品領域内の円101が削除されている。 FIG. 6 shows an example of a feature point list in which the feature point information within the article area of article A is deleted. As FIG. 6 shows, the circle 101 within the item area of item A has been deleted.

特徴点リストから物品Aの物品領域内の特徴点情報を削除すると、プロセッサ11は、特徴点リストに基づいて物品Bを特定する。物品Bを特定すると、プロセッサ11は、物品Bの物品領域を特定する。物品Bの物品領域を特定すると、プロセッサ11は、特徴点リストから物品Bの物品領域内の特徴点情報を削除する。 After deleting the feature point information within the article region of the article A from the feature point list, the processor 11 identifies the article B based on the feature point list. After identifying item B, processor 11 identifies an item region of item B. FIG. After specifying the article region of the article B, the processor 11 deletes the feature point information within the article region of the article B from the feature point list.

図7は、物品Bの物品領域内の特徴点情報を削除した特徴点リストの例を示す。図7が示すように、物品A及び物品Bの物品領域内の円101が削除されている。 FIG. 7 shows an example of a feature point list in which the feature point information within the article region of article B is deleted. As shown in FIG. 7, the circles 101 within the article regions of article A and article B have been deleted.

同様に、プロセッサ11は、物品Cを認識する。 Similarly, processor 11 recognizes item C.

また、プロセッサ11は、物品を認識できない場合、特徴点リストの特徴点情報の個数に基づいて警告を出力する機能を有する。 The processor 11 also has a function of outputting a warning based on the number of pieces of feature point information in the feature point list when the article cannot be recognized.

たとえば、認識処理において類似率Rmaxが閾値Rthr以下であると判定すると、プロセッサ11は、物品を認識できない(認識に失敗した)と判定する。物品を認識できないと判定すると、プロセッサ11は、特徴点リストの特徴点情報の個数をカウントする。特徴点リストの特徴点情報の個数をカウントすると、プロセッサ11は、カウントした個数が所定の閾値以下であるか判定する。 For example, when determining that the similarity rate Rmax is equal to or less than the threshold value Rthr in the recognition process, the processor 11 determines that the article cannot be recognized (recognition has failed). When determining that the article cannot be recognized, the processor 11 counts the number of pieces of feature point information in the feature point list. After counting the number of pieces of feature point information in the feature point list, the processor 11 determines whether the counted number is equal to or less than a predetermined threshold.

カウントした個数が所定の閾値以下であると判定すると、プロセッサ11は、物品の認識を完了したものと判定する。 When determining that the counted number is equal to or less than the predetermined threshold value, the processor 11 determines that recognition of the article has been completed.

カウントした個数が所定の閾値を超えていると判定すると、プロセッサ11は、認識していない物品があるものと判定し、認識していない物品があることを示す警告を出力する。たとえば、プロセッサ11は、表示部6を用いて警告を表示する。また、プロセッサ11は、警告を外部装置に送信してもよい。プロセッサ11が警告を出力する方法は、特定の方法に限定されるものではない。 When it is determined that the counted number exceeds the predetermined threshold, the processor 11 determines that there are unrecognized articles and outputs a warning indicating that there are unrecognized articles. For example, processor 11 uses display 6 to display a warning. Processor 11 may also send an alert to an external device. The method by which processor 11 outputs a warning is not limited to a specific method.

次に、物品認識装置1の動作例について説明する。図8は、物品認識装置1の動作例について説明するためのフローチャートである。 Next, an operation example of the article recognition device 1 will be described. FIG. 8 is a flowchart for explaining an operation example of the article recognition device 1. FIG.

まず、物品認識装置1のプロセッサ11は、設置台7に物品が配置されたか判定する(ACT11)。設置台7に物品が配置されていないと判定すると(ACT11、NO)、プロセッサ11は、ACT11に戻る。 First, the processor 11 of the article recognition device 1 determines whether an article has been placed on the installation table 7 (ACT 11). If it is determined that no article is placed on the installation table 7 (ACT11, NO), the processor 11 returns to ACT11.

設置台7に物品が配置されたと判定すると(ACT11、YES)、プロセッサ11は、カメラ3を用いて撮影画像を取得する(ACT12)。撮影画像を取得すると、プロセッサ11は、距離センサ4を用いて距離情報を取得する(ACT13)。 When determining that an article has been placed on the installation table 7 (ACT 11, YES), the processor 11 obtains a photographed image using the camera 3 (ACT 12). After acquiring the captured image, the processor 11 acquires distance information using the distance sensor 4 (ACT 13).

距離情報を取得すると、プロセッサ11は、撮影画像から特徴点情報を抽出し特徴点リストに格納する(ACT14)。撮影画像から特徴点情報を抽出し特徴点リストに格納すると、プロセッサ11は、特徴点リストから設置台7上に抽出された特徴点情報を削除する(ACT15)。 After obtaining the distance information, the processor 11 extracts feature point information from the captured image and stores it in the feature point list (ACT 14). When the feature point information is extracted from the captured image and stored in the feature point list, the processor 11 deletes the feature point information extracted on the installation table 7 from the feature point list (ACT 15).

特徴点情報を削除すると、プロセッサ11は、特徴点リストの特徴点情報に基づいて物品を認識する(ACT16)。物品の認識に成功すると(ACT17、YES)、プロセッサ11は、撮影画像において認識した物品の物品領域を特定する(ACT18)。物品領域を特定すると、プロセッサ11は、特徴点リストから物品領域内の特徴点情報を削除する(ACT19)。 After deleting the feature point information, the processor 11 recognizes the article based on the feature point information in the feature point list (ACT 16). When the article is successfully recognized (ACT17, YES), the processor 11 identifies the article area of the recognized article in the captured image (ACT18). After identifying the article area, the processor 11 deletes the feature point information within the article area from the feature point list (ACT 19).

特徴点リストから物品領域内の特徴点情報を削除すると、プロセッサ11は、ACT16に戻る。 After deleting the feature point information within the article area from the feature point list, the processor 11 returns to ACT16.

物品の認識に失敗すると、プロセッサ11は、特徴点リストの特徴点情報の個数が所定の閾値以下であるか判定する(ACT20)。特徴点リストの特徴点情報の個数が所定の閾値以下であると判定すると(ACT20、YES)、プロセッサ11は、認識処理が完了したことを表示部6に表示する(ACT21)。 When the article recognition fails, the processor 11 determines whether or not the number of pieces of feature point information in the feature point list is equal to or less than a predetermined threshold (ACT20). When determining that the number of pieces of feature point information in the feature point list is equal to or less than the predetermined threshold (ACT20, YES), the processor 11 displays on the display section 6 that the recognition processing is completed (ACT21).

特徴点リストの特徴点情報の個数が所定の閾値を超えていると判定すると(ACT20、NO)、プロセッサ11は、認識に失敗した物品があることを示す警告を出力する(ACT22)。 When determining that the number of pieces of feature point information in the feature point list exceeds a predetermined threshold (ACT20, NO), the processor 11 outputs a warning indicating that there is an article for which recognition has failed (ACT22).

認識処理が完了したことを表示部6に表示した場合(ACT21)、又は、認識に失敗した物品があることを示す警告を出力した場合(ACT22)、プロセッサ11は、動作を終了する。 When the completion of the recognition process is displayed on the display unit 6 (ACT 21), or when a warning is output indicating that there is an article for which recognition has failed (ACT 22), the processor 11 ends the operation.

なお、プロセッサ11は、認識した物品を決済してもよい。たとえば、プロセッサ11は、利用者からクレジットカード情報を取得して、当該クレジットカード情報に基づいて物品を決済する。また、プロセッサ11は、利用者から現金を収受して物品を決済してもよい。 Note that the processor 11 may pay for the recognized goods. For example, the processor 11 acquires credit card information from the user and settles the goods based on the credit card information. Also, the processor 11 may receive cash from the user to settle the goods.

また、プロセッサ11は、認識した物品の物品コードを外部装置に送信してもよい。 また、プロセッサ11は、認識した物品を示す情報を表示部6に表示してもよい。 The processor 11 may also transmit the article code of the recognized article to the external device. The processor 11 may also display information indicating the recognized article on the display unit 6 .

以上のように構成された物品認識装置は、撮影画像において、物品が配置される設置台上に抽出された特徴点情報を削除する。物品認識装置は、残った特徴点情報に基づいて物品を認識する。その結果、物品認識装置は、外光又は設置台の模様など物品以外の要因によって生じた特徴点情報を削除することができる。従って、物品認識装置は、適切に物品を認識することができる。 The article recognition apparatus configured as described above deletes the feature point information extracted on the installation table on which the article is placed in the photographed image. The article recognition device recognizes the article based on the remaining feature point information. As a result, the article recognition device can eliminate feature point information generated by factors other than the article, such as external light or the pattern of the installation table. Therefore, the article recognition device can appropriately recognize the article.

また、物品認識装置は、認識した物品の物品領域内の特徴点情報を削除する。その結果、物品認識装置は、既に認識した物品によって生じた特徴点情報を削除することができる。従って、物品認識装置は、未認識の物品によって生じた特徴点情報に基づいて物品を認識することができる。 Also, the article recognition device deletes feature point information within the article area of the recognized article. As a result, the article recognition device can delete feature point information generated by an already recognized article. Therefore, the article recognition device can recognize the article based on the feature point information generated by the unrecognized article.

また、物品認識装置は、物品の認識後に残った特徴点情報の個数が所定の閾値を超えている場合には警告を出力する。その結果、物品認識装置は、認識に失敗した物品が存在することを警告することができる。
(第2の実施形態)
次に、第2の実施形態について説明する。
第2の実施形態に係る物品認識装置は、認識した物品の上面よりも広い領域を物品領域として特定する点で第1の実施形態にかかるそれと異なる。従って、その他の点については、同一の符号を付して詳細な説明を省略する。
Also, the article recognition device outputs a warning when the number of pieces of feature point information remaining after article recognition exceeds a predetermined threshold. As a result, the article recognition device can warn that there is an article for which recognition has failed.
(Second embodiment)
Next, a second embodiment will be described.
The article recognition apparatus according to the second embodiment differs from that according to the first embodiment in that an area wider than the upper surface of the recognized article is specified as an article area. Therefore, other points are denoted by the same reference numerals, and detailed description thereof is omitted.

第2の実施形態に係る物品認識装置1の構成は、第1の実施形態に係るそれと同様であるため説明を省略する。 The configuration of the article recognition device 1 according to the second embodiment is the same as that according to the first embodiment, so the description is omitted.

次に、物品認識装置1が実現する機能について説明する。物品認識装置1が実現する機能は、プロセッサ11がROM12又はNVM14などに格納されるプログラムを実行することで実現される。 Next, functions realized by the article recognition device 1 will be described. The functions realized by the article recognition device 1 are realized by the processor 11 executing a program stored in the ROM 12, the NVM 14, or the like.

プロセッサ11は、認識した物品の上面よりも広い領域を物品領域として特定する機能を有する。
プロセッサ11は、認識した物品の外形情報を取得する。プロセッサ11は、撮影画像において認識に用いられた特徴点情報の特徴点の位置及び外形情報に基づいて物品の上面が写る領域を特定する。物品の上面が写る領域を特定すると、プロセッサ11は、当該領域よりも大きな領域を物品領域として特定する。
The processor 11 has a function of identifying an area wider than the upper surface of the recognized article as an article area.
The processor 11 acquires outline information of the recognized article. The processor 11 specifies an area in which the upper surface of the article is captured based on the positions of the feature points and the outline information of the feature point information used for recognition in the captured image. After identifying the area where the upper surface of the article is captured, the processor 11 identifies an area larger than the area as the article area.

たとえば、プロセッサ11は、物品の上面が写る領域と物品の側面が写る領域とを物品領域として特定する。たとえば、プロセッサ11は、カメラの特性、物品との距離、物品の位置及び/又は物品の高さなどに基づいて物品の側面が写る領域を特定する。 For example, the processor 11 identifies an area in which the upper surface of the article is captured and an area in which the side surface of the article is captured as the article area. For example, the processor 11 identifies the area where the side of the article is captured based on camera characteristics, distance to the article, position of the article and/or height of the article.

なお、プロセッサ11は、物品の上面が写る領域を所定の倍率で拡大した領域を物品領域として特定してもよい。また、プロセッサ11は、物品の上面が写る領域を所定のドット分、拡大した領域を物品領域として特定してもよい。プロセッサ11が物品領域を特定する方法は、特定の方法に限定されるものではない。 Note that the processor 11 may specify, as the article area, an area obtained by enlarging the area in which the upper surface of the article is shown by a predetermined magnification. In addition, the processor 11 may specify, as the article area, an area in which the upper surface of the article is captured and which is enlarged by a predetermined number of dots. The method by which the processor 11 identifies the article area is not limited to any particular method.

図9は、プロセッサ11が撮影画像から抽出した特徴点リストの例を示す。ここでは、撮影画像は、物品D、物品E及び物品Fを写すものとする。図9では、円102は、特徴点を示す。円102の大きさは、特徴量を示す。図9が示すように、プロセッサ11は、複数の円102を抽出する。 FIG. 9 shows an example of a feature point list extracted from the captured image by the processor 11 . Here, it is assumed that the photographed images show the article D, the article E, and the article F. As shown in FIG. In FIG. 9, circles 102 indicate feature points. The size of the circle 102 indicates the feature amount. As FIG. 9 shows, processor 11 extracts a plurality of circles 102 .

プロセッサ11は、物品D、物品E及び物品Fの上面にそれぞれ複数の円102を抽出する。また、プロセッサ11は、物品E及び物品Fの側面にそれぞれ複数の円102を抽出する。 The processor 11 extracts a plurality of circles 102 on the upper surfaces of the article D, the article E, and the article F, respectively. The processor 11 also extracts a plurality of circles 102 on the sides of the article E and the article F, respectively.

図10は、プロセッサ11が特定した物品領域の例を示す。ここでは、プロセッサ11は、物品Fを認識したものとする。図10が示すように、プロセッサ11は、物品Fの上面及び側面を含む物品領域201を特定する。また、プロセッサ11は、特徴点リストから物品領域201内の特徴点情報を削除する。 FIG. 10 shows an example of an article area identified by processor 11 . Here, it is assumed that the processor 11 has recognized the article F. As FIG. 10 shows, processor 11 identifies an article region 201 that includes the top and sides of article F. FIG. Also, the processor 11 deletes the feature point information within the product area 201 from the feature point list.

物品認識装置1の動作例は、第1の実施形態に係るそれと同様であるため説明を省略する。 An example of the operation of the article recognition device 1 is the same as that according to the first embodiment, so the explanation is omitted.

以上のように構成された物品認識装置は、撮影画像から物品の上面よりも大きな領域を物品領域として抽出する。その結果、物品認識装置は、物品の認識に用いられた上面と当該物品の側面などとを含む領域を物品領域として抽出することができる。従って、物品認識装置は、認識した物品の側面などから抽出された特徴点情報を削除することができる。よって、物品認識装置は、後続する認識処理においてより適切に物品を認識することができる。 The article recognition apparatus configured as described above extracts an area larger than the upper surface of the article from the photographed image as an article area. As a result, the article recognition device can extract, as an article area, an area including the upper surface used for article recognition and the side surface of the article. Therefore, the article recognition device can delete the feature point information extracted from the side of the recognized article. Therefore, the article recognition device can recognize the article more appropriately in subsequent recognition processing.

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[C1]
設置台に配置された物品を撮影した画像を取得する画像インターフェースと、
前記設置台及び前記物品からの距離を示す距離情報を取得する距離情報インターフェースと、
前記画像から前記物品を認識するための画像情報を抽出し、前記画像情報を含むリストを生成し、
前記距離情報に基づいて、前記リストから前記設置台の高さと同一の高さを有する画像情報を削除し、
前記リストの画像情報に基づいて物品を認識する、
プロセッサと、
を備える物品認識装置。
[C2]
前記画像情報は、特徴点と特徴量とを含む、
前記C1に記載の物品認識装置。
[C3]
前記プロセッサは、
前記リストから、認識した物品の物品領域内にある画像情報を削除し、
認識した物品の物品領域内にある画像情報を削除した前記リストに基づいて物品を認識する、
前記C1又は2に記載の物品認識装置。
[C4]
前記物品領域は、前記物品の上面の領域と前記物品の側面の領域とを含む、
前記C3に記載の物品認識装置。
[C5]
物品を撮影した画像を取得する画像インターフェースと、
前記画像から前記物品を認識するための画像情報を抽出し、前記画像情報を含むリストを生成し、
前記リストの画像情報に基づいて物品を認識し、
前記リストから、認識した物品の物品領域内にある画像情報を削除し、
認識した物品の物品領域内にある画像情報を削除した前記リストに基づいて物品を認識し、
前記リストから物品を認識できない場合、前記リストの画像情報の個数が所定の閾値を超えていると警告を出力する、
プロセッサと、
を備える物品認識装置。
While several embodiments of the invention have been described, these embodiments have been presented by way of example and are not intended to limit the scope of the invention. These novel embodiments can be implemented in various other forms, and various omissions, replacements, and modifications can be made without departing from the scope of the invention. These embodiments and modifications thereof are included in the scope and gist of the invention, and are included in the scope of the invention described in the claims and equivalents thereof.
The invention described in the scope of claims at the time of filing of the present application will be additionally described below.
[C1]
an image interface for acquiring an image of the article placed on the installation table;
a distance information interface that acquires distance information indicating distances from the installation table and the article;
extracting image information for recognizing the article from the image, generating a list containing the image information;
deleting image information having the same height as the height of the installation table from the list based on the distance information;
recognizing an item based on the image information of the list;
a processor;
An article recognition device comprising:
[C2]
The image information includes feature points and feature amounts,
The article recognition device according to C1.
[C3]
The processor
deleting from the list image information within the article area of the recognized article;
recognizing an article based on the list from which image information within the article area of the recognized article is deleted;
The article recognition device according to C1 or 2 above.
[C4]
The article area includes an upper surface area of the article and a side area of the article,
The article recognition device according to C3.
[C5]
an image interface for acquiring a photographed image of an article;
extracting image information for recognizing the article from the image, generating a list containing the image information;
recognizing an article based on the image information of the list;
deleting from the list image information within the article area of the recognized article;
recognizing an article based on the list from which image information within the article area of the recognized article is deleted;
outputting a warning if the number of image information items in the list exceeds a predetermined threshold when the item cannot be recognized from the list;
a processor;
An article recognition device comprising:

1…物品認識装置、2…筐体、3…カメラ、4…距離センサ、5…操作部、6…表示部、7…設置台、10…制御部、11…プロセッサ、12…ROM、13…RAM、14…NVM、15…カメラインターフェース、16…距離センサインターフェース、17…操作部インターフェース、18…表示部インターフェース、50…外光、101…円、102…円、201…物品領域。 DESCRIPTION OF SYMBOLS 1... Article recognition apparatus, 2... Housing, 3... Camera, 4... Distance sensor, 5... Operation part, 6... Display part, 7... Installation stand, 10... Control part, 11... Processor, 12... ROM, 13... RAM, 14... NVM, 15... Camera interface, 16... Distance sensor interface, 17... Operation unit interface, 18... Display unit interface, 50... Outside light, 101... Yen, 102... Yen, 201... Article area.

Claims (4)

設置台に配置された物品を撮影した画像を取得する画像インターフェースと、
前記設置台及び前記物品からの距離を示す距離情報を取得する距離情報インターフェースと、
前記画像から前記物品を認識するための画像情報を抽出し、前記画像情報を含むリストを生成し、
前記距離情報に基づいて、前記リストから前記設置台と同一の距離にある画像情報を削除し、
前記リストの画像情報に基づいて物品を認識する、
プロセッサと、
を備える物品認識装置。
an image interface for acquiring an image of the article placed on the installation table;
a distance information interface that acquires distance information indicating distances from the installation table and the article;
extracting image information for recognizing the article from the image, generating a list containing the image information;
deleting image information at the same distance from the installation table from the list based on the distance information;
recognizing an item based on the image information of the list;
a processor;
An article recognition device comprising:
前記画像情報は、特徴点と特徴量とを含む、
前記請求項1に記載の物品認識装置。
The image information includes feature points and feature amounts,
The article recognition device according to claim 1.
前記プロセッサは、
前記リストから、認識した物品の物品領域内にある画像情報を削除し、
認識した物品の物品領域内にある画像情報を削除した前記リストに基づいて物品を認識する、
前記請求項1又は2に記載の物品認識装置。
The processor
deleting from the list image information within the article area of the recognized article;
recognizing an article based on the list from which image information within the article area of the recognized article is deleted;
3. The article recognition device according to claim 1 or 2.
前記物品領域は、前記物品の上面の領域と前記物品の側面の領域とを含む、
前記請求項3に記載の物品認識装置。
The article area includes an upper surface area of the article and a side area of the article,
4. The article recognition device according to claim 3.
JP2022069355A 2018-05-08 2022-04-20 Article recognition device Active JP7274644B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022069355A JP7274644B2 (en) 2018-05-08 2022-04-20 Article recognition device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018089976A JP7062507B2 (en) 2018-05-08 2018-05-08 Article recognition device
JP2022069355A JP7274644B2 (en) 2018-05-08 2022-04-20 Article recognition device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018089976A Division JP7062507B2 (en) 2018-05-08 2018-05-08 Article recognition device

Publications (2)

Publication Number Publication Date
JP2022106808A JP2022106808A (en) 2022-07-20
JP7274644B2 true JP7274644B2 (en) 2023-05-16

Family

ID=87888300

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022069355A Active JP7274644B2 (en) 2018-05-08 2022-04-20 Article recognition device

Country Status (1)

Country Link
JP (1) JP7274644B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015095028A (en) 2013-11-11 2015-05-18 日本電気株式会社 Pos terminal device, pos system, image processing method, and program
JP2017123163A (en) 2016-01-06 2017-07-13 東芝テック株式会社 Image recognition apparatus
JP2018036770A (en) 2016-08-30 2018-03-08 富士通株式会社 Position attitude estimation device, position attitude estimation method, and position attitude estimation program
JP2018067307A (en) 2016-10-21 2018-04-26 東芝テック株式会社 Image processing device and image processing method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015095028A (en) 2013-11-11 2015-05-18 日本電気株式会社 Pos terminal device, pos system, image processing method, and program
JP2017123163A (en) 2016-01-06 2017-07-13 東芝テック株式会社 Image recognition apparatus
JP2018036770A (en) 2016-08-30 2018-03-08 富士通株式会社 Position attitude estimation device, position attitude estimation method, and position attitude estimation program
JP2018067307A (en) 2016-10-21 2018-04-26 東芝テック株式会社 Image processing device and image processing method

Also Published As

Publication number Publication date
JP2022106808A (en) 2022-07-20

Similar Documents

Publication Publication Date Title
JP6999404B2 (en) Article recognition device and article recognition method
US9454708B2 (en) Recognition dictionary creation apparatus and method for creating recognition dictionary by the same
JP2017010535A (en) Article recognition apparatus and image processing method
JP2021057054A (en) Image recognition apparatus
JP2018133071A (en) Article recognition apparatus, settlement apparatus, and article recognition method
JP6651169B2 (en) Display status judgment system
EP2897110A1 (en) Commodity reading apparatus, sales data processing apparatus having the same and method for recognizing commodity
JP6957300B2 (en) Image processing device and image processing method
JP2019046461A (en) Article recognition device, article recognition method, and non-transitory readable storage medium
JP7274644B2 (en) Article recognition device
JP6967981B2 (en) Goods recognition device and product settlement device
US11651663B2 (en) Article recognition device
US10963726B2 (en) Article recognition device
JP7337628B2 (en) Article recognition device
US10977512B2 (en) Article recognition device
US10631668B2 (en) Inspection system, information collection apparatus, inspection method, information collection method, and non-transitory storage medium
JP6841352B2 (en) Product registration device, control method, and program
JP6981538B2 (en) Image identification cash register device, image identification cash register system, product information display method, and program
JP2018129037A (en) Article recognition device and article recognition method
JP2019219854A (en) Article recognition device
JP2019192105A (en) Product registration device, product registration method, and program
JP2020068006A (en) Article recognition device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220420

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220420

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230327

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230501

R150 Certificate of patent or registration of utility model

Ref document number: 7274644

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150