JP7105826B2 - 注文書生成方法及びその装置、商品棚、記憶媒体 - Google Patents

注文書生成方法及びその装置、商品棚、記憶媒体 Download PDF

Info

Publication number
JP7105826B2
JP7105826B2 JP2020085622A JP2020085622A JP7105826B2 JP 7105826 B2 JP7105826 B2 JP 7105826B2 JP 2020085622 A JP2020085622 A JP 2020085622A JP 2020085622 A JP2020085622 A JP 2020085622A JP 7105826 B2 JP7105826 B2 JP 7105826B2
Authority
JP
Japan
Prior art keywords
image
product
target
detection
rgb difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020085622A
Other languages
English (en)
Other versions
JP2021135992A (ja
Inventor
チャン、ファーエン
ワン、ジュー
クー、チェンユアン
シュー、フイ
Original Assignee
▲創▼新奇智(上海)科技有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ▲創▼新奇智(上海)科技有限公司 filed Critical ▲創▼新奇智(上海)科技有限公司
Publication of JP2021135992A publication Critical patent/JP2021135992A/ja
Application granted granted Critical
Publication of JP7105826B2 publication Critical patent/JP7105826B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0633Lists, e.g. purchase orders, compilation or processing
    • G06Q30/0635Processing of requisition or of purchase orders
    • G06Q30/0637Approvals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217Validation; Performance evaluation; Active pattern learning techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F9/00Details other than those peculiar to special kinds or types of apparatus
    • G07F9/006Details of the software used for the vending machines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Economics (AREA)
  • Multimedia (AREA)
  • General Business, Economics & Management (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • Operations Research (AREA)
  • Human Resources & Organizations (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Image Analysis (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Financial Or Insurance-Related Operations Such As Payment And Settlement (AREA)

Description

本出願は、コンピュータネットワークの技術分野に属し、具体的に、注文書生成方法及びその装置、商品棚、記憶媒体に関する。
従来のインテリジェントシェルフの自動決済のアルゴリズムは、一般的に、ディープニューラルネットを用いてインテリジェントシェルフから取得した画像情報に対して検知処理及び分類識別処理を行って、商品棚における商品の種類及び数量を得るものである。そして、これらを、前回の注文の画像から識別した商品の種類及び数量と比較して、顧客が取った商品の情報を得て、自動決済を実現する。しかしながら、最終の注文自動決済結果の正確性が該注文の画像及び前回の注文の画像におけるすべての商品に対する検知及び分類の正確性に左右されるので、検知問題及び分類問題に対する許容度が十分ではなく、正確率が低い。
上記の問題に対して、いまだに有効な技術的解決案がなかった。
本出願における実施例は、注文書生成の正確率を向上させる注文書生成方法及びその装置、電子設備、記憶媒体を提供することを目的とする。
第1の局面として、本出願における実施例による注文書生成方法は、
取り出し操作が発生する前の目標商品棚の初期画像と、前記初期画像を処理して得た複数の第1商品枠を含む第1検知画像及び各前記第1商品枠における商品に対応する第1標識情報を含む第1検知結果と、を取得するステップと、
取り出し操作が完了した後の目標商品棚の結果画像を取得するステップと、
前記結果画像及び前記初期画像に基づいて購買前後のRGB差分画像を生成するステップと、
前記RGB差分画像及び前記第1検知結果に基づいて、取り出された商品に対応する商品注文書を生成するステップと、を含む。
本出願における実施例は、取り出し前後の画像を利用して生成したRGB差分画像に基づいて、各商品の取り出しの有無を判断し、対応する商品注文書を生成するため、注文書の正確率を向上させることができる。
好ましくは、本出願における実施例による注文書生成方法において、前記前記RGB差分画像及び前記第1検知結果に基づいて、取り出された商品に対応する商品注文書を生成するステップは、
前記RGB差分画像に基づいて前記第1検知画像におけるすべての第1商品枠から、RGB差分値が第1既設値より小さい第1目標商品枠を選出し、対応する第1標識情報を取得するステップと、
前記第1目標商品枠及び対応する第1標識情報に基づいて、取り出された商品に対応する商品注文書を生成するステップと、を含む。
好ましくは、本出願における実施例による注文書生成方法において、取り出し操作が完了した後の目標商品棚の結果画像を取得するステップのあと、
前記結果画像に対して検知処理を行って、前記結果画像を処理して得た複数の第2商品枠を含む第2検知画像及び各前記第2商品枠における商品に対応する第2標識情報を含む第2検知結果を取得するステップをさらに含み、
前記RGB差分画像及び前記第1検知結果に基づいて、取り出された商品に対応する商品注文書を生成するステップは、
前記RGB差分画像に基づいて前記第1検知画像におけるすべての第1商品枠から、RGB差分値が第1既設値より小さい第1目標商品枠を選出し、対応する第1標識情報を取得するステップと、
前記RGB差分画像に基づいて、前記第2検知画像におけるすべての第2商品枠から、RGB差分値が第1既設値より小さい第2目標商品枠を選出し、対応する第2標識情報を取得するステップと、
前記第1目標商品枠、前記第1標識情報、前記第2目標商品枠及び前記第2標識情報に基づいて、取り出された商品に対応する商品注文書を生成するステップと、を含む。
本出願における実施例は、RGB差分画像を利用して第1検知画像及び第2検知画像のそれぞれに対してフィルタを行い、両方の結果を合わせて商品注文書を算出するため、商品の位置変更に起因した取り出しの有無に対する誤判断を避けることができ、注文書の正確率を向上させることができる。
好ましくは、本出願における実施例による注文書生成方法において、前記結果画像に対して検知を行って第2検知結果を取得するステップは、
前記結果画像に対して検知処理を行い、それぞれ1件の商品を有する複数の第2商品枠を含む第2検知画像を取得するステップと、
前記RGB差分画像に基づいて前記第2検知画像に対してフィルタ処理を行い、RGB差分値が第1既設値より小さい第2商品枠及び対応する商品を前記第2検知画像から削除して、第2目標検知画像を得るステップと、
前記第2目標検知画像に対して識別処理を行って、前記目標検知画像における各第2商品枠内の第2標識情報を取得するステップと、を含む。
本出願における実施例は、結果画像に対して検知処理を行うとき、先にフィルタを行い、そして識別操作を行うため、計算効率を向上させ、仕事量を低減することができる。
好ましくは、本出願における実施例による注文書生成方法において、前記結果画像及び前記第2検知結果を記憶し、次の取り出し操作の初期画像及び第1検知結果とするステップをさらに含む。
好ましくは、本出願における実施例による注文書生成方法において、取り出し操作が発生する前の目標商品棚の初期画像と第1検知結果とを取得するステップは、
取り出し操作が発生する前の目標商品棚の初期画像を取得するステップと、
前記初期画像に対して検知処理を行って、それぞれ1件の商品を有する複数の第1商品枠を含む第1検知画像を取得するステップと、
前記第1検知画像に対して識別処理を行って、前記第1検知画像における各前記第1商品枠内の商品の第1標識情報を取得するステップと、を含む。
第2の局面として、本出願における実施例による注文書生成装置は、
取り出し操作が発生する前の目標商品棚の初期画像と、前記初期画像を処理して得た複数の第1商品枠を含む第1検知画像及び各前記第1商品枠における商品に対応する第1標識情報を含む第1検知結果と、を取得する第1取得モジュールと、
取り出し操作が完了した後の目標商品棚の結果画像を取得する第2取得モジュールと、
前記結果画像及び前記初期画像に基づいて購買前後のRGB差分画像を生成する第1生成モジュールと、
前記RGB差分画像及び前記第1検知結果に基づいて、取り出された商品に対応する商品注文書を生成する第2生成モジュールと、を有する。
好ましくは、本出願における実施例による注文書生成装置において、前記第2生成モジュールは、
前記RGB差分画像に基づいて前記第1検知画像におけるすべての第1商品枠から、RGB差分値が第1既設値より小さい第1目標商品枠を選出し、対応する第1標識情報を取得する第1取得手段と、
前記第1目標商品枠及び対応する第1標識情報に基づいて、取り出された商品に対応する商品注文書を生成する第1生成手段と、を有する。
第3の局面として、本出願における実施例による電子設備は、プロセッサーとメモリとを有し、前記メモリにコンピュータ読み取り可能な命令が記憶され、前記コンピュータ読み取り可能な命令が前記プロセッサーにより実行されるとき、上記の第1の局面による前記方法のステップを実行する。
第4の局面として、本出願における実施例による記憶媒体は、コンピュータプログラムが記憶され、前記コンピュータプログラムがプロセッサーにより実行されるとき、上記の第1の局面による前記方法のステップを実行する。
上記から分かるように、本出願における実施例は、取り出し操作が発生する前の目標商品棚の初期画像と、前記初期画像を処理して得た複数の第1商品枠を含む第1検知画像及び各前記第1商品枠における商品に対応する第1標識情報を含む第1検知結果と、を取得し、取り出し操作が完了した後の目標商品棚の結果画像を取得し、前記結果画像及び前記初期画像に基づいて購買前後のRGB差分画像を生成し、前記RGB差分画像及び前記第1検知結果に基づいて、取り出された商品に対応する商品注文書を生成することによって、商品注文書の自動生成を実現させる。前後の画像を利用してRGB差分画像を生成し、差分画像に基づいて商品の取り出しの有無を判断することを実現させるため、誤検知率が低下し、検知の正確率を向上させた。
本出願のその他の特徴及び利点は、明細書の他部分で説明され、そして、その一部が明細書から自明になり、又は本出願における実施例を実施することにより理解できる。本出願の目的及びその他の利点は、明細書、特許請求の範囲及び図面に特定される構成により実現、獲得することができる。
本出願の実施例の技術案をより明瞭に説明するため、以下、本出願の実施例の説明に必要な図面を簡単に説明する。以下の図面は、本出願の一部の実施例を示すものに過ぎず、範囲を限定するものではない。当業者は、発明能力を用いなくても、これらの図面に基づいてその他の関連図面を得ることが可能である。
本出願における実施例による注文書生成方法のフローチャートである。 本出願における実施例によるその他の注文書生成方法のフローチャートである。 本出願における実施例による注文書生成装置の構成模式図である。 本出願における実施例によるその他の注文書生成装置の構成模式図である。 本出願における実施例による電子設備の構成模式図である。
以下、本出願における実施例の図面を参照しながら、本出願における実施例の技術案を明瞭且つ完全に説明する。説明する実施例は、本出願の一部の実施例にすぎず、全部の実施例ではない。ここで図面を用いて示した本出願における実施例における部品は、様々な配置方法で配置、設計することが可能である。このため、以下の、図面に示された本出願における実施例に対する詳細な説明は、本出願の選択された実施例を示すものにすぎず、保護しようとする本出願の範囲を限定するものではない。本出願における実施例をもとに、当業者が発明能力を用いることなく得たすべての他の実施例は、いずれも本出願の保護範囲に属する。
なお、同様な符号は、図面において同様なものを示すので、1つの図面で定義された場合、その他の図面でその符号をさらに定義、解釈することは不要になる。また、本出願の説明では、「第1」、「第2」等の用語は、区別して説明するためのものにすぎず、相対重要性を明示又は暗示するものではない。
図1は、本出願における一部の実施例による注文書生成方法のフローチャートである。該注文書生成方法は、無人インテリジェントシェルフに適用するものである。該方法は、図1に示すように、サーバ又は端末設備等の電子設備に適用することができる。該注文書生成方法は、以下のステップを含む。
ステップS101は、取り出し操作が発生する前の目標商品棚の初期画像と、前記初期画像を処理して得た複数の第1商品枠を含む第1検知画像及び各前記第1商品枠における商品に対応する第1標識情報を含む第1検知結果と、を取得する。
ステップS102は、取り出し操作が完了した後の目標商品棚の結果画像を取得する。
ステップS103は、前記結果画像及び前記初期画像に基づいて購買前後のRGB差分画像を生成する。
ステップS104は、前記RGB差分画像及び前記第1検知結果に基づいて、取り出された商品に対応する商品注文書を生成する。
該ステップS101において、該目標商品棚内に商品室が形成され、該商品室内に、顧客が選択できる間隔をあけて配置される複数の商品が置かれる。該初期画像は、該目標商品棚の内部の天井に設置されるカメラで撮られるものである。該目標商品棚内の明るさを一定に保つ。電子設備は、カメラで撮られた初期画像を取得したあと、既設のモデルを用いて該初期画像に対して処理を行って、検知結果を取得する。具体的に、該初期画像に対して領域を区画し、即ち、1件の商品を1つの商品枠に割り当て、そして各商品枠における商品をそれぞれ識別する。
具体的に、一部の実施例において、該ステップS101は、取り出し操作が発生する前の目標商品棚の初期画像を取得するステップS1011と、前記初期画像に対して検知処理を行って、それぞれ1件の商品を有する複数の第1商品枠を含む第1検知画像を取得するステップS1012と、前記第1検知画像に対して識別処理を行って、前記第1検知画像における各前記第1商品枠内の商品の第1標識情報を取得するステップS1013と、を含む。
該ステップS1012において、既設の検知モデルを用いて該検知処理操作を実施することによって、第1商品枠で該初期画像における各商品をマーキングすることを実現する。1つの第1商品枠に1件の商品を有する。該ステップS1013において、既設の識別モデル又は分類モデルを用いて各第1商品枠における商品を識別し、該商品の第1標識情報を取得する。
該ステップS102において、顧客の購買が完了したあと、決済がクリックされたとき、該目標商品棚内のカメラが最終の結果画像を撮影する。該結果画像には、顧客に選択されて取り出された商品がもうなくなった。
該ステップS103において、購買前後の初期画像及び結果画像の各画素のRGBの3つのチャンネルにおける差の絶対値の大きさを算出することにより、前後画像差異の情報を反映できるdiff画像、即ちRGB差分画像を得ることができる。diff情報画像、即ちRGB差分画像は、該取り出し操作の前後の画像変化状況を反映するものである。商品枠内におけるRGB差分値の変化の平均値が閾値より低くなる場合、該商品枠内における商品に変化がないと認められる。
該ステップS104において、商品枠内のうちの、RGB差分値の比較的に大きい、即ち第1既設値より大きい商品枠を、その中の商品が取り出された枠と認められるため、取り出された商品の第1標識情報に基づいて商品注文書を生成することができる。
具体的に、一部の実施例において、該ステップS104は、前記RGB差分画像に基づいて前記第1検知画像におけるすべての第1商品枠から、RGB差分値が第1既設値より小さい第1目標商品枠を選出し、対応する第1標識情報を取得するステップS1041と、前記第1目標商品枠及び対応する第1標識情報に基づいて、取り出された商品に対応する商品注文書を生成するステップS1042とを含む。該第1既設値の設定には、カメラの撮影誤差等に起因した明るさの変化を考慮する必要がある。該第1目標商品枠内における商品が顧客に取り出されたので、第1目標商品枠内における商品を商品注文書に加えて金額を算出する。
一部の実施例において、該注文書生成方法は、前記結果画像及び前記第2検知結果を記憶し、次の取り出し操作の初期画像及び第1検知結果とするステップS105をさらに含む。次の取り出し操作が発生するとき、直接該初期画像及び第1検知結果を利用して計算を行い、効率を向上させることができる。
上記から分かるように、本出願における実施例は、取り出し操作が発生する前の目標商品棚の初期画像と、前記初期画像を処理して得た複数の第1商品枠を含む第1検知画像及び各前記第1商品枠における商品に対応する第1標識情報を含む第1検知結果と、を取得し、取り出し操作が完了した後の目標商品棚の結果画像を取得し、そして前記結果画像及び前記初期画像に基づいて購買前後のRGB差分画像を生成し、前記RGB差分画像及び前記第1検知結果に基づいて、取り出された商品に対応する商品注文書を生成することによって、商品注文書の自動生成を実現させる。前後の画像を利用してRGB差分画像を生成し、差分画像に基づいて商品の取り出しの有無を判断することを実現させるため、誤検知率が低下し、検知の正確率を向上させた。
図2は、本出願における一部の実施例による注文書生成方法のフローチャートである。該注文書生成方法は、無人インテリジェントシェルフに適用する方法である。該方法は、サーバ又は端末設備等の電子設備に適用することができる。該注文書生成方法は、図2に示すように、以下のステップを含む。
ステップS201は、取り出し操作が発生する前の目標商品棚の初期画像と、前記初期画像を処理して得た複数の第1商品枠を含む第1検知画像及び各前記第1商品枠における商品に対応する第1標識情報を含む第1検知結果と、を取得する。
ステップS202は、取り出し操作が完了した後の目標商品棚の結果画像を取得する。
ステップS203は、前記結果画像及び前記初期画像に基づいて購買前後のRGB差分画像を生成する。
ステップS204は、前記結果画像に対して検知処理を行って、前記結果画像を処理して得た複数の第2商品枠を含む第2検知画像及び各前記第2商品枠における商品に対応する第2標識情報を含む第2検知結果を取得する。
ステップS205は、前記RGB差分画像、前記第2検知結果及び前記第1検知結果に基づいて、取り出された商品に対応する商品注文書を生成する。
該ステップS201において、該目標商品棚内に商品室が形成され、該商品室内に、顧客が選択できる間隔をあけて配置される複数の商品が置かれる。該初期画像は、該目標商品棚の内部の天井に設置されるカメラで撮られるものである。該目標商品棚内の明るさを一定に保つ。電子設備は、カメラで撮られた初期画像を取得したあと、既設のモデルを用いて該初期画像に対して処理を行って、検知結果を取得する。具体的に、該初期画像に対して領域を区画し、即ち、1件の商品を1つの商品枠に割り当て、そして各商品枠における商品をそれぞれ識別する。
具体的に、一部の実施例において、該ステップS201は、取り出し操作が発生する前の目標商品棚の初期画像を取得するステップS2011と、前記初期画像に対して検知処理を行って、それぞれ1件の商品を有する複数の第1商品枠を含む第1検知画像を取得するステップS2012と、前記第1検知画像に対して識別処理を行って、前記第1検知画像における各前記第1商品枠内の商品の第1標識情報を取得するステップS2013と、を含む。
該ステップS2012において、既設の検知モデルを用いて該検知の処理操作を実施することによって、第1商品枠で該初期画像における各商品をマーキングすることを実現する。1つの第1商品枠に1件の商品を有する。該ステップS2013において、既設の識別モデル又は分類モデルを用いて各第1商品枠における商品を識別し、該商品の第1標識情報を取得する。
該ステップS202において、顧客の購買が完了したあと、決済がクリックされたとき、該目標商品棚内のカメラが最終の結果画像を撮影する。該結果画像には、顧客に選択されて取り出された商品がもうなくなった。
該ステップS203において、購買前後の初期画像及び結果画像の各画素のRGBの3つのチャンネルにおける差の絶対値の大きさを算出することにより、前後画像差異の情報を反映できるdiff情報画像、即ちRGB差分画像を得ることができる。diff情報画像、即ちRGB差分画像は、該取り出し操作の前後の画像の変化領域を反映するものである。商品枠内におけるRGB差分値が閾値より低くなる場合、該商品枠内における商品に変化がないと認められる。
該ステップS204において、既設の検知処理モデルにより該結果画像に対して検知処理を行い、第2商品枠で該結果画像における各商品をマーキングする。そして、マーキングされた商品を識別し、その第2標識情報を取得する。
具体的に、一部の実施例において、該ステップS204は、前記結果画像に対して検知処理を行い、それぞれ1件の商品を有する複数の第2商品枠を含む第2検知画像を取得するステップS2041と、前記RGB差分画像に基づいて前記第2検知画像に対してフィルタ処理を行い、RGB差分値が第1既設値より小さい第2商品枠及び対応する商品を前記第2検知画像から削除して、第2目標検知画像を得るステップS2042と、前記第2目標検知画像に対して識別処理を行って、前記目標検知画像における各第2商品枠内の第2標識情報を取得するステップS2043と、を含む。該ステップS2042において、RGB差分値が第1既設値より小さい第2商品枠及び対応する商品を該画像から削除することによって、そのあとに実行される識別処理操作の仕事量を減少させ、計算速度を向上させることができる。該ステップS2043において、既設の識別モデル又は分類モデルを用いて該第2目標検知画像における商品を識別して、対応する第2標識情報を取得する。
該ステップS205において、該ステップS203により取得した第1目標商品枠及び対応する第1標識情報と、ステップS204により取得した第2目標商品枠及び対応する第2標識情報とを合わせて、取り出された商品を正確に算出することができる。これよって、取り出された商品を商品注文書に加えて金額を算出し、商品注文書を生成する。
ただし、顧客が商品を取ったり置いたりするうちに商品の位置が変わることがあるので、ステップS203により算出した第1目標商品枠において、取り出されたのではなくただ位置が変化したことに起因して該第1目標商品枠に対応する領域のRGB差分値の変化が比較的に大きくなる場合がある。この場合、該領域における第1目標商品が、取り出された商品とされるようになり、注文書が不正確になる。このため、本実施例に訂正ステップが加えられる。ステップS204により取得した第2目標検知画像における各第2商品枠内の商品が、位置が変動し取り出されていない商品であり、該位置が変動し取り出されていない商品を、該ステップS203により取得した第1目標商品枠における商品から除去して、顧客により取り出された商品を得る。したがって、検知の正確率を向上させ、商品注文書の間違いを避けることができる。
一部の実施例において、該注文書生成方法は、前記結果画像及び前記第2検知結果を記憶し、次の取り出し操作の初期画像及び第1検知結果とするステップS206をさらに含む。次の取り出し操作が発生するとき、直接該初期画像及び第1検知結果を利用して計算を行い、効率を向上させることができる。
図3は、本出願における一部の実施例による注文書生成装置の構成模式図である。該注文書生成装置は、図3に示すように、第1取得モジュール301と、第2取得モジュール302と、第1生成モジュール303と、第2生成モジュール304とを有する。
該第1取得モジュール301は、取り出し操作が発生する前の目標商品棚の初期画像と、前記初期画像を処理して得た複数の第1商品枠を含む第1検知画像及び各前記第1商品枠における商品に対応する第1標識情報を含む第1検知結果と、を取得する。該目標商品棚内に商品室が形成され、該商品室内に、顧客が選択できる間隔をあけて配置される複数の商品が置かれる。該初期画像は、該目標商品棚の内部の天井に設置されるカメラで撮られるものである。該目標商品棚内の明るさを一定に保つ。電子設備は、カメラで撮られた初期画像を取得したあと、既設のモデルを用いて該初期画像に対して処理を行って、検知結果を取得する。具体的に、該初期画像に対して領域を区画し、即ち、1件の商品を1つの商品枠に割り当て、そして各商品枠における商品をそれぞれ識別する。
具体的に、一部の実施例において、該第1取得モジュール301は、取り出し操作が発生する前の目標商品棚の初期画像を取得し、前記初期画像に対して検知処理を行って、それぞれ1件の商品を有する複数の第1商品枠を含む第1検知画像を取得し、前記第1検知画像に対して識別処理を行って、前記第1検知画像における各前記第1商品枠内の商品の第1標識情報を取得する。
該第2取得モジュール302は、取り出し操作が完了した後の目標商品棚の結果画像を取得する。顧客の購買が完了したあと、決済がクリックされたとき、該目標商品棚内のカメラが最終の結果画像を撮影する。該結果画像には、顧客に選択されて取り出された商品がもうなくなった。
該第1生成モジュール303は、前記結果画像及び前記初期画像に基づいて購買前後のRGB差分画像を生成する。購買前後の初期画像及び結果画像の各画素のRGBの3つのチャンネルにおける差の絶対値の大きさを算出することにより、前後画像差異の情報を反映できるdiff情報画像、即ち、RGB差分画像を得ることができる。diff情報画像、即ちRGB差分画像は、該取り出し操作の前後の画像の変化領域を反映するものである。商品枠内におけるRGB差分値が閾値より低くなる場合、該商品枠内における商品に変化がないと認められる。
該第2生成モジュール304は、前記RGB差分画像及び前記第1検知結果に基づいて、取り出された商品に対応する商品注文書を生成する。
一部の実施例において、該第2生成モジュール304は、前記RGB差分画像に基づいて前記第1検知画像におけるすべての第1商品枠から、RGB差分値が第1既設値より小さい第1目標商品枠を選出し、対応する第1標識情報を取得する第1取得手段と、前記第1目標商品枠及び対応する第1標識情報に基づいて、取り出された商品に対応する商品注文書を生成する第1生成手段と、を有する。該第1既設値の設定には、カメラの撮影誤差等に起因した明るさの変化を考慮する必要がある。該第1目標商品枠内における商品が顧客に取り出されたので、第1目標商品枠内における商品を商品注文書に加えて金額を算出する。
図4に示すように、一部の実施例において、該注文書生成装置は、検知モジュール305をさらに有する。検知モジュール305は、前記結果画像に対して検知処理を行って、前記結果画像を処理して得た複数の第2商品枠を含む第2検知画像及び各前記第2商品枠における商品に対応する第2標識情報を含む第2検知結果を取得する。対応に、該実施例において、該第2生成モジュール304は、前記RGB差分画像に基づいて前記第1検知画像におけるすべての第1商品枠から、RGB差分値が第1既設値より小さい第1目標商品枠を選出し、対応する第1標識情報を取得し、前記RGB差分画像に基づいて、前記第2検知画像におけるすべての第2商品枠から、RGB差分値が第1既設値より小さい第2目標商品枠を選出し、対応する第2標識情報を取得し、前記第1目標商品枠、前記第1標識情報、前記第2目標商品枠及び前記第2標識情報に基づいて、取り出された商品に対応する商品注文書を生成する。
図5は、本出願における実施例による電子設備の構成模式図である。図5に示すように、本出願による電子設備4は、プロセッサー401とメモリ402とを有する。プロセッサー401とメモリ402とは、通信バス403及び/又は他の形式の接続機構(図示せず)により接続されて通信する。メモリ402には、プロセッサー401の実行可能なコンピュータプログラムが記憶され、演算設備が作動するとき、プロセッサー401が該コンピュータプログラムを実行して、上記の実施例によるいずれか1つの実現方式における方法を実行する。
一部の実施例において、該電子設備の各機能を、1つのシステムにおける異なる設備に割り当てることができる。検知処理及び識別処理は、第1設備及び第2設備の2つのGPUで実行されることができる。よって、システムが相応の信号プロセスに従って並行処理を行うことができるので、注文書処理の速度を向上させる一方、空き時間帯の演算資源をよりよく利用できる。
本出願における実施例は、記憶媒体を提供し、前記コンピュータプログラムがプロセッサーにより実行されるとき、上記の実施例によるいずれか1つの実現方式における方法を実行する。記憶媒体は、任意タイプの揮発性又は不揮発性の記憶設備又はこれらの組み合わせにより実現されることが可能である。例えば、スタティックランダムアクセスメモリ(Static Random Access Memory、SRAMと略称する)、電気的に消去可能なプログラマブル読み出し専用メモリ(Electrically Erasable Programmable Read-Only Memory、EEPROMと略称する)、消去可能なプログラマブル読み出し専用メモリ(Erasable Programmable Read-Only Memory、EPROMと略称する)、プログラマブル読み出し専用メモリ(Programmable Read-Only Memory、PROMと略称する)、読み出し専用メモリ(Read-Only Memory、ROMと略称する)、磁気メモリ、フラッシュメモリ、磁気ディスク又は光ディスクが挙げられる。
本出願による実施例において、記載された装置及び方法は、その他の方式により実現されることが可能である。上記に説明された装置の実施例は、例示的なものにすぎない。例えば、前記のユニットの区分は、単に論理的な機能区分であり、実際の実現では別の区分であってもよい。例えば、複数のユニット又はコンポーネントを組み合わせ、又は別のシステムに統合してもよく、或いは一部の特徴が省略又は不実行にしてもよい。また、表示されもしくは論述された相互結合又は直接結合又は通信接続は、いくつかのインターフェース、装置又はユニットを介する間接結合又は通信接続であってもよく、電気的、機械的又は他の形式による接続であってもよい。
また、別個の部品として説明されたユニットは、物理的に別個であってもなくてもよい。ユニットとして表示されている部品は、物理的なユニットであってもなくてもよく、つまり、同一場所に位置してもよく、複数のネットワークユニットに分散してもよい。本実施例の案の目的を達成するために、実際の要求に応じて一部又は全部のユニットを選択することが可能である。
また、本出願の各実施例における各機能モジュールは、1つの独立部分に集積されてもよく、各モジュールが単独に存在していてもよく、2つ又は2つ以上のモジュールが1つの独立部分に集積されていてもよい。
本明細書において、第1及び第2などのような関係用語は、1つのエンティティ若しくはアクションを別のエンティティ若しくはアクションから、必ずしもそのようなエンティティ若しくはアクション間に如何なる事実上のそのような関係又は順序も要求又は暗示することなく、区別するためだけに用いられることができる。
上記の記載は、本出願における実施例にすぎず、本出願の保護範囲を限定するものでははい。当業者から見て、本出願に各種の変更や変化を有してもよい。本出願の精神及び主旨から逸脱しない限り、行った如何なる変更、均等置換、改良等も、本出願の保護範囲内に属する。

Claims (4)

  1. 第1取得モジュールにより取り出し操作が発生する前の目標商品棚の初期画像と、前記初期画像を処理して得た複数の第1商品枠を含む第1検知画像及び各前記第1商品枠における商品に対応する第1標識情報を含む第1検知結果と、を取得するステップと、
    第2取得モジュールにより取り出し操作が完了した後の目標商品棚の結果画像を取得するステップと、
    第1生成モジュールにより前記結果画像及び前記初期画像に基づいて購買前後のRGB差分画像を生成するステップと、
    検知モジュールにより、前記結果画像に対して検知処理を行い、それぞれ1件の商品を有する複数の第2商品枠を含む第2検知画像を取得するステップと、
    前記検知モジュールにより、前記RGB差分画像に基づいて前記第2検知画像に対してフィルタ処理を行い、RGB差分値が第1既設値より小さい第2商品枠及び対応する商品を前記第2検知画像から削除して、第2目標検知画像を得るステップと、
    前記検知モジュールにより、前記第2目標検知画像に対して識別処理を行って、前記第2目標検知画像における各第2商品枠内の第2標識情報を取得するステップと、
    第2生成モジュールにより、前記RGB差分画像に基づいて前記第1検知画像におけるすべての第1商品枠から、RGB差分値が第1既設値より小さい第1目標商品枠を選出し、対応する第1標識情報を取得し、RGB差分値が第1既設値より小さい第1目標商品枠および対応する商品を前記第1検知画像から削除して、第1目標検知画像を得、前記第1目標検知画像から第2目標検知画像における第2標識情報に対応する商品を削除して第1目標検知画像における残りの第1標識情報に対応する商品に基づいて、取り出された商品に対応する商品注文書を生成するステップと、
    を含むことを特徴とする注文書生成方法。
  2. 前記第1取得モジュールにより取り出し操作が発生する前の目標商品棚の初期画像と、第1検知結果とを取得するステップは、
    前記第1取得モジュールにより実行される、
    取り出し操作が発生する前の目標商品棚の初期画像を取得するステップと、
    前記初期画像に対して検知処理を行って、それぞれ1件の商品を有する複数の第1商品枠を含む第1検知画像を取得するステップと、
    前記第1検知画像に対して識別処理を行って、前記第1検知画像における各前記第1商品枠内の商品の第1標識情報を取得するステップと、
    を含むことを特徴とする請求項1に記載の注文書生成方法。
  3. 取り出し操作が発生する前の目標商品棚の初期画像と、前記初期画像を処理して得た複数の第1商品枠を含む第1検知画像及び各前記第1商品枠における商品に対応する第1標識情報を含む第1検知結果と、を取得する第1取得モジュールと、
    取り出し操作が完了した後の目標商品棚の結果画像を取得する第2取得モジュールと、
    前記結果画像及び前記初期画像に基づいて購買前後のRGB差分画像を生成する第1生成モジュールと、
    前記結果画像に対して検知処理を行い、それぞれ1件の商品を有する複数の第2商品枠を含む第2検知画像を取得し、前記RGB差分画像に基づいて前記第2検知画像に対してフィルタ処理を行い、RGB差分値が第1既設値より小さい第2商品枠及び対応する商品を前記第2検知画像から削除して、第2目標検知画像を得、前記第2目標検知画像に対して識別処理を行って、前記第2目標検知画像における各第2商品枠内の第2標識情報を取得する検知モジュールと、
    前記RGB差分画像に基づいて前記第1検知画像におけるすべての第1商品枠から、RGB差分値が第1既設値より小さい第1目標商品枠を選出し、対応する第1標識情報を取得し、RGB差分値が第1既設値より小さい第1目標商品枠および対応する商品を前記第1検知画像から削除して、第1目標検知画像を得、前記第1目標検知画像から第2目標検知画像における第2標識情報に対応する商品を削除して第1目標検知画像における残りの第1標識情報に対応する商品に基づいて、取り出された商品に対応する商品注文書を生成する第2生成モジュールと、
    を有することを特徴とする注文書生成装置。
  4. コンピュータプログラムが記憶されている記憶媒体において、前記コンピュータプログラムがプロセッサーにより実行されるとき、請求項1または2に記載の方法を実行することを特徴とする記憶媒体。
JP2020085622A 2020-02-27 2020-05-15 注文書生成方法及びその装置、商品棚、記憶媒体 Active JP7105826B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202010127461.0 2020-02-27
CN202010127461.0A CN111369317B (zh) 2020-02-27 2020-02-27 订单生成方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
JP2021135992A JP2021135992A (ja) 2021-09-13
JP7105826B2 true JP7105826B2 (ja) 2022-07-25

Family

ID=71212043

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020085622A Active JP7105826B2 (ja) 2020-02-27 2020-05-15 注文書生成方法及びその装置、商品棚、記憶媒体

Country Status (3)

Country Link
US (1) US11861668B2 (ja)
JP (1) JP7105826B2 (ja)
CN (1) CN111369317B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113647817B (zh) * 2021-07-27 2023-10-03 北京镁伽机器人科技有限公司 饮品过滤件装置及饮品制作设备
CN113727029B (zh) * 2021-11-03 2022-03-18 武汉星巡智能科技有限公司 多视角采集图像后合并的智能生成订单方法及智能售货机
CN115100640B (zh) * 2022-08-29 2023-12-12 广东番客连锁品牌管理有限公司 基于人工智能的智慧超市商品销售大数据检测方法及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015148955A (ja) 2014-02-06 2015-08-20 東芝テック株式会社 画像処理装置,品薄状態監視システム及び画像処理プログラム
JP2016532932A (ja) 2013-06-26 2016-10-20 アマゾン テクノロジーズ インコーポレイテッド 物品の相互作用及び移動検出方法
JP2019079322A (ja) 2017-10-25 2019-05-23 東芝テック株式会社 商品管理装置及び商品管理プログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7516888B1 (en) * 2004-06-21 2009-04-14 Stoplift, Inc. Method and apparatus for auditing transaction activity in retail and other environments using visual recognition
US20110320322A1 (en) * 2010-06-25 2011-12-29 Symbol Technologies, Inc. Inventory monitoring using complementary modes for item identification
CN102479321B (zh) * 2010-11-26 2016-10-26 罗普特(厦门)科技集团有限公司 差异影像自动识别系统及方法
US10290031B2 (en) * 2013-07-24 2019-05-14 Gregorio Reid Method and system for automated retail checkout using context recognition
US9505554B1 (en) * 2013-09-24 2016-11-29 Amazon Technologies, Inc. Capturing packaging image via scanner
JP7093783B2 (ja) * 2017-02-10 2022-06-30 グラバンゴ コーポレイション 自動化買物環境における動的な顧客チェックアウト体験のためのシステム及び方法
US10474988B2 (en) * 2017-08-07 2019-11-12 Standard Cognition, Corp. Predicting inventory events using foreground/background processing
CN107833083B (zh) * 2017-09-25 2020-09-04 阿里巴巴集团控股有限公司 一种货物订单处理方法、装置、服务器、购物终端及系统
CN108596128B (zh) * 2018-04-28 2020-06-26 京东方科技集团股份有限公司 对象识别方法、装置及存储介质
CN109033985B (zh) * 2018-06-29 2020-10-09 百度在线网络技术(北京)有限公司 商品识别的处理方法、装置、设备、系统及存储介质
CN109711238B (zh) * 2018-07-24 2020-11-20 台州市怡开包装有限公司 防鼠式智能化橱柜
US10789720B1 (en) * 2019-10-25 2020-09-29 7-Eleven, Inc. Multi-camera image tracking on a global plane
CN109740459B (zh) * 2018-12-19 2021-04-16 创新奇智(合肥)科技有限公司 一种图像差异对比方法、系统及无人售货装置
CN109903265B (zh) * 2019-01-19 2021-05-11 创新奇智(南京)科技有限公司 一种图像变化区域侦测阀值设定方法、系统及其电子装置
CN110378761A (zh) * 2019-06-21 2019-10-25 珠海威泓急救云科技有限公司 一种自动取物控制系统及其方法
CN110826481A (zh) * 2019-11-01 2020-02-21 北京云迹科技有限公司 数据处理方法、商品识别方法、服务器和存储介质

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016532932A (ja) 2013-06-26 2016-10-20 アマゾン テクノロジーズ インコーポレイテッド 物品の相互作用及び移動検出方法
JP2015148955A (ja) 2014-02-06 2015-08-20 東芝テック株式会社 画像処理装置,品薄状態監視システム及び画像処理プログラム
JP2019079322A (ja) 2017-10-25 2019-05-23 東芝テック株式会社 商品管理装置及び商品管理プログラム

Also Published As

Publication number Publication date
US20210272170A1 (en) 2021-09-02
US11861668B2 (en) 2024-01-02
CN111369317A (zh) 2020-07-03
CN111369317B (zh) 2023-08-18
JP2021135992A (ja) 2021-09-13

Similar Documents

Publication Publication Date Title
JP7105826B2 (ja) 注文書生成方法及びその装置、商品棚、記憶媒体
WO2019165894A1 (zh) 物品识别方法、装置、系统及存储介质
CN110537187B (zh) 一种拓扑处理方法和装置以及系统
CN109117824B (zh) 商品的管理方法、装置、电子设备及储存介质
CN109446883A (zh) 商品状态识别方法、装置、电子设备及可读存储介质
US20140003655A1 (en) Method, apparatus and system for providing image data to represent inventory
CN102201121A (zh) 视频场景中的物件侦测系统与方法
CN109168052B (zh) 服务满意度的确定方法、装置及计算设备
CN108769634A (zh) 一种图像处理方法、图像处理装置及终端设备
CN108389230A (zh) 冰箱容量自动检测方法、系统、设备及存储介质
WO2020026643A1 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
CN109684320A (zh) 监测数据在线清洗的方法和设备
CN111724377A (zh) 断纱检测方法、装置、电子设备、存储介质及停机系统
CN115063084A (zh) 一种卷烟零售商户库存盘点方法及系统
WO2021233058A1 (zh) 监控货架上的物品的方法、计算机和系统
CN107437174B (zh) 虚拟卡片管理方法和装置
CN116485378A (zh) 一种基于物联网的再生资源智能回收数据管理系统及方法
CN112734446A (zh) 基于视觉和重力检测的商品验证方法和装置
WO2021031091A1 (en) Method and apparatus for detecting operating status of device, and computer readable medium
CN111242554A (zh) 拣货方式类型确定方法和装置
CN111340795B (zh) 物品质量的确定方法及装置
CN111027466A (zh) 一种银行网点超柜使用规范智能检测方法及装置
CN111047550A (zh) 一种基于机器视觉的产品异常检测方法、装置及设备
CN104268901A (zh) 基于线阵图像传感器的高速运动物体检测处理方法和系统
CN115375407B (zh) Oms的库存管理方法及系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210929

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20210929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211014

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220324

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20220324

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20220408

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20220412

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220621

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220712

R150 Certificate of patent or registration of utility model

Ref document number: 7105826

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150