JP6729553B2 - システム、画像認識方法、および、プログラム - Google Patents

システム、画像認識方法、および、プログラム Download PDF

Info

Publication number
JP6729553B2
JP6729553B2 JP2017506072A JP2017506072A JP6729553B2 JP 6729553 B2 JP6729553 B2 JP 6729553B2 JP 2017506072 A JP2017506072 A JP 2017506072A JP 2017506072 A JP2017506072 A JP 2017506072A JP 6729553 B2 JP6729553 B2 JP 6729553B2
Authority
JP
Japan
Prior art keywords
product
data
image recognition
recognition
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017506072A
Other languages
English (en)
Other versions
JPWO2016147612A1 (ja
Inventor
蕊寒 包
蕊寒 包
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2016147612A1 publication Critical patent/JPWO2016147612A1/ja
Application granted granted Critical
Publication of JP6729553B2 publication Critical patent/JP6729553B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0623Item investigation
    • G06Q30/0625Directed, with specific intent or strategy
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Economics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Development Economics (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Library & Information Science (AREA)
  • Artificial Intelligence (AREA)
  • Human Resources & Organizations (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • Software Systems (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)
  • Cash Registers Or Receiving Machines (AREA)

Description

本発明は、画像認識装置、システム、画像認識方法および記録媒体に関する。
デジタルカメラ等によって撮影された画像を認識する方法が、例えば、特許文献1に記載されている。特許文献1に記載の情報処理システムは、撮影された画像情報がデータベース内の検索用画像情報に一致するか否かを判別することにより、撮影された画像を認識する。
また、認識を行う際に、共起確率等を用いる方法が、特許文献2および3に記載されている。
特開2003−16086号公報 特開2009−265905号公報 特表2009−521665号公報
商品を販売する店舗では、商品の売り上げは、商品の陳列状態に依存することが知られている。そのため、商品が陳列されている状態を撮影した撮影画像から陳列されている商品を認識する方法が考えられている。
複数の商品に関する情報を記憶するデータベースは、現時点において、店舗で販売されている商品の有無にかかわらずに、複数の商品に関する情報を格納している場合が多い。そのため、撮影画像から該撮影画像に含まれる商品を認識する場合、撮影画像に含まれる商品と、このデータベースに含まれる商品全部との照合を行うため、例えば、撮影画像に含まれる商品が、類似した商品に認識されてしまい、認識精度が低下してしまう可能性があった。
特許文献1から3には、この課題については何ら言及されていない。
本発明は、上記課題に鑑みてなされたものであり、その目的は、撮影画像に含まれる商品の認識精度を向上させる技術を提供することにある。
本発明の一態様に係る画像認識装置は、店舗で販売される商品に関する商品データに基づいて、複数の商品に関する情報を記憶するデータベースから、照合先のデータである照合先データを限定するデータ決定手段と、前記店舗で撮影された画像を用いて、前記限定された照合先データから前記撮影された画像に含まれる認識対象商品を認識する画像認識手段と、を備える。
本発明の一態様に係るシステムは、店舗で販売される商品を撮影する撮像装置と、前記撮像装置によって撮影された画像を受信する画像認識装置と、複数の商品に関する情報を記憶するデータベースを管理するデータベース管理装置と、を備え、前記画像認識装置は、前記店舗で販売される商品に関する商品データに基づいて、前記データベースから、照合先のデータである照合先データを限定するデータ決定手段と、前記撮像装置から受信した画像を用いて、前記限定された照合先データから前記撮影された画像に含まれる認識対象商品を認識する画像認識手段と、を備える。
本発明の一態様に係るシステムは、店舗で販売される商品を撮影する撮像装置と、前記撮像装置によって撮影された画像を受信する画像認識装置と、複数の商品に関する情報を記憶するデータベースを管理するデータベース管理装置と、を備え、前記データベース管理装置は、前記店舗で販売される商品に関する商品データに基づいて、前記データベースから、照合先のデータである照合先データを限定するデータ決定手段を備え、前記画像認識装置は、前記撮像装置から受信した画像を用いて、前記限定された照合先データから前記撮影された画像に含まれる認識対象商品を認識する画像認識手段、を備える。
本発明の一態様に係るシステムは、店舗で販売される商品を撮影する撮像装置と、前記撮像装置によって撮影された画像を受信する画像認識装置と、複数の商品に関する情報を記憶するデータベースを管理するデータベース管理装置と、を備え、前記データベース管理装置は、前記店舗で販売される商品に関する商品データに基づいて、前記データベースから、照合先のデータである照合先データを限定する第1のデータ決定手段を備え、前記画像認識装置は、前記撮像装置から受信した画像を用いて、前記限定された照合先データから前記撮影された画像に含まれる認識対象商品を認識する画像認識手段、を備える。
本発明の一態様に係る画像認識装置は、店舗で撮影された画像を用いて、複数の商品に関する情報を記憶するデータベースから、前記撮影された画像に含まれる認識対象商品を認識する画像認識手段と、前記店舗で販売される商品に関する商品データに基づいて、該商品の所定の範囲内の商品の総数に対する割合を算出する算出手段と、前記撮影された画像に含まれる認識対象商品に対する認識結果を、前記算出手段によって算出された前記割合に基づいて補正する補正手段と、を備え、前記算出手段は、在庫数が他の商品より多い商品に対する、前記認識結果の確からしさを示す認識スコアが、前記他の商品に対する認識スコアよりも高くなるように、前記割合を算出する。
本発明の一態様に係る画像認識方法は、店舗で販売される商品に関する商品データに基づいて、複数の商品に関する情報を記憶するデータベースから、照合先のデータである照合先データを限定し、前記店舗で撮影された画像を用いて、前記限定された照合先データから前記撮影された画像に含まれる認識対象商品を認識する。
なお、上記各装置、各システムまたは方法を、コンピュータによって実現するコンピュータプログラム、およびそのコンピュータプログラムが格納されている、コンピュータ読み取り可能な記憶媒体も、本発明の範疇に含まれる。
本発明によれば、撮影画像に含まれる商品の認識精度を向上させることができる。
本発明の第1の実施の形態に係る画像認識装置を含む画像認識システムの全体構成の一例を示す図である。 本発明の第1の実施の形態に係る画像認識装置の機能構成の一例を示す機能ブロック図である。 本発明の第1の実施の形態に係る画像認識装置における照合先データ決定処理の流れの一例を示すフローチャートである。 本発明の第1の実施の形態に係る画像認識装置における画像認識処理の流れの一例を示すフローチャートである。 本発明の第2の実施の形態に係る画像認識装置の機能構成の一例を示す機能ブロック図である。 本発明の第2の実施の形態に係る画像認識装置における画像認識処理の流れの一例を示すフローチャートである。 本発明の第3の実施の形態に係る画像認識装置の機能構成の一例を示す機能ブロック図である。 本発明の第3の実施の形態に係る画像認識装置における事前確率算出処理の流れの一例を示すフローチャートである。 本発明の第3の実施の形態に係る画像認識装置における画像認識処理の流れの一例を示すフローチャートである。 本発明の第4の実施の形態に係る画像認識装置の機能構成の一例を示す機能ブロック図である。 本発明の第4の実施の形態に係る画像認識装置における画像認識処理の流れの一例を示すフローチャートである。 本発明の第5の実施の形態に係る画像認識装置を含む画像認識システムの全体構成の一例を示す図である。 本発明の第5の実施の形態に係る画像認識装置および商品DB管理装置の機能構成の一例を示す機能ブロック図である。 本発明の第5の実施の形態に係る画像認識装置における画像認識処理の流れの一例を示すフローチャートである。 本発明の第6の実施の形態に係る画像認識装置および商品DB管理装置の機能構成の一例を示す機能ブロック図である。 本発明の第6の実施の形態に係る画像認識装置における画像認識処理の流れの一例を示すフローチャートである。 本発明の第7の実施の形態に係る画像認識装置の機能構成の一例を示す機能ブロック図である。 本発明の第7の実施の形態に係る画像認識装置における画像認識処理の流れの一例を示すフローチャートである。 本発明の第8の実施の形態に係る画像認識装置の機能構成の一例を示す機能ブロック図である。 本発明の第9の実施の形態に係る画像認識システムの機能構成の一例を示す機能ブロック図である。 本発明の各実施の形態を実現可能なコンピュータ(情報処理装置)のハードウェア構成を例示的に説明する図である。
<第1の実施の形態>
本発明の第1の実施の形態について、図面を参照して詳細に説明する。まず、図1を参照して、本実施の形態に係る画像認識装置を含む画像認識システムの全体構成について説明する。
図1は、本実施の形態に係る画像認識装置を含む画像認識システムの全体構成の一例を示す図である。図1に示す通り、本実施の形態に係る画像認識システム1は、画像認識装置10、撮像装置20、POS(Point Of Sale)端末21、および、商品DB(DataBase)管理装置(データベース管理装置)30を含んでいる。画像認識装置10と商品DB管理装置30とは、ネットワーク40を介して通信可能に接続している。また、画像認識装置10は、撮像装置20およびPOS端末21と通信可能に接続している。なお、図1に示す画像認識システム1は、本実施の形態に特有な構成について示したものであり、図1に示す画像認識システム1が図1に示されていない部材を有していてもよいことは言うまでもない。
商品DB管理装置30は、複数の商品に関する情報が格納されたデータベースを管理する。商品DB管理装置30は、図1に示す通り、商品DB31を備えている。商品DB31は、複数の商品に関する情報を記憶するデータベースである。具体的には、商品DB31には、画像認識装置10が商品の認識を行う際に使用する、商品に関する情報が商品毎に格納されている。商品DB31には、例えば、商品名毎に商品画像が含まれている。なお、商品DB31に含まれるデータは、商品の認識を行う際に使用する情報であればよく、例えば、商品画像内の特徴点を示すデータであってもよい。
撮像装置20は、1または複数の店舗の夫々に設置された1または複数の監視カメラ等により実現される。なお、図1では、説明の便宜上、1つの店舗のみを記載しているが、店舗の数は1以上である。また、撮像装置20は、監視カメラに限定されるものではなく、ユーザが所持する携帯可能な装置であってもよいし、その他の撮像装置であってもよい。
撮像装置20は、店舗に配置(陳列)された商品を撮影する。商品は、店舗に設置された、一般的には商品棚(単に棚とも呼ぶ)に陳列されている。そのため、撮像装置20は、商品が陳列された商品棚を撮影するとも言える。そして、撮像装置20は、撮影した画像であって、該画像内に商品が含まれる画像を示す撮影画像データ(単に、画像データとも呼ぶ)を、画像認識装置10に送信する。
画像認識装置10は、画像認識装置10が設置されている店舗と、同じ店舗に設置されている1または複数のPOS端末21と通信を行い、該POS端末21から、店舗で販売されている商品に関する情報である商品データを受信する。画像認識装置10は、商品データとして、例えば、各商品の売上に関する情報(売上情報)を受信する。ここで、売上情報とは、例えば、ある商品の売上高や売上数など、一般的なPOSデータであるとするが、売上情報はこれに限定されない。また、画像認識装置10は、商品データとして、例えば、商品の仕入れに関する情報(仕入情報)、商品の発注に関する情報(発注情報)等を受信してもよい。この商品データには、個々の商品を識別する情報が含まれる。個々の商品を識別する情報として、本実施の形態では、商品名を例に挙げ、説明を行うが、個々の商品を識別する情報はこれに限定されるものではなく、例えば、商品ID(IDentifier)であってもよい。また、商品データには、例えば、各商品に対し、該商品の種類(カテゴリー)等の情報が含まれてもよい。
また、画像認識装置10は、商品データを、POS端末21以外のその他の装置から取得してもよい。例えば、ユーザが発注情報や受注情報を入力する装置がPOS端末21以外の装置である場合、画像認識装置10は、この発注情報や受注情報を入力する装置から、商品データを受信してもよい。
また、画像認識装置10は、画像認識装置10が設置されている店舗と、同じ店舗に設置されている1または複数の撮像装置20から撮影画像データを受信する。画像認識装置10の詳細な機能については、図2を参照して説明する。
(画像認識装置10の機能構成について)
次に、図2を参照して、本実施の形態に係る画像認識装置10の機能構成について説明する。図2は、本実施の形態に係る画像認識装置10の機能構成の一例を示す機能ブロック図である。
図2に示す通り、本実施の形態に係る画像認識装置10は、データ処理部110と、照合先データ決定部(データ決定部)120と、画像認識部130と、記憶部140と、を備えている。
データ処理部110は、POS端末21および/またはその他の装置から商品データを受信する。そして、データ処理部110は、商品データに含まれる売上情報、仕入情報および発注情報の少なくとも何れかに基づいて、店舗で販売される各商品に関する数量を算出する。具体的には、データ処理部110は、商品データに基づいて、各商品の在庫数を算出する。なお、データ処理部110は各商品の、売上数(販売数)、仕入数、発注数等を算出してもよい。また、例えば、商品データに、店舗に仕入れた商品のうち、検品を終えた商品を示す情報が含まれる場合、データ処理部110は、検品済の各商品の数量(検品済数)を算出してもよい。また、商品データに、店頭に陳列した商品を示す情報が含まれる場合、データ処理部110は、商品毎に、店舗に陳列した商品の数量を算出してもよい。また、商品データに、廃棄した商品を示す情報が含まれる場合、データ処理部110は、廃棄済の各商品の数量(廃棄数)を算出してもよい。また、データ処理部110は、商品毎に、この店舗に陳列した商品の数量の履歴と、売上数とに基づいて、その時点での陳列数を算出してもよい。このように、データ処理部110は、商品の売上、仕入、発注、検品済、廃棄、陳列などの履歴に基づいて、各商品に関する数量を算出してもよい。
データ処理部110は、算出した、店舗で販売される各商品の数量を、各商品の商品名と共に、照合先データ決定部120に出力する。以降、データ処理部110が出力する、商品名および該商品名によって示される商品の数量からなるデータを、商品数情報と呼ぶ。
照合先データ決定部120は、データ処理部110から、商品数情報を受信する。そして、照合先データ決定部120は、商品数情報に含まれる、各商品に関する数量に基づいて、商品DB31に格納されているデータから、画像認識部130が画像認識を行う際に照合先(検索対象)として使用するデータ(照合先データ)を抽出する。具体的には、照合先データ決定部120は、商品DB31に含まれる商品うち、該照合先データ決定部120を備える画像認識装置10が設置された店舗内において、在庫数がゼロの商品を抽出し、この抽出した商品のデータを削除したデータベースを、新たに作成する。そして、照合先データ決定部120は、この新たに作成したデータベースを構成するデータを、画像認識部130が画像認識を行う際に照合先として使用する照合先データとする。言い換えれば、照合先データ決定部120は、商品DB31から、商品の数量が1以上の商品に関するデータを抽出し、抽出したデータに限定されたデータベースを作成する。
画像認識部130が、商品DB31に含まれる全ての商品に関するデータを用いて認識処理を行った場合、照合先のデータとして用いる照合先データは、上記商品DB31内の全ての商品に関するデータとなる。しかし、上述したとおり、照合先データ決定部120は、在庫数がゼロの商品のデータを削除したデータベースを作成する。つまり、照合先データ決定部120は、商品DB31から、画像認識部130が照合の際にデータとして用いる照合先データを限定することができる。
ここで、在庫数がゼロの商品とは、例えば、以下の(a)および(b)である。
(a)商品数情報に含まれる商品の数量がゼロの商品、
(b)商品名が、商品DB31に含まれ、且つ、商品数情報に含まれない商品。
照合先データ決定部120は、作成したデータベースを、記憶部140に格納する。なお、照合先データ決定部120は、作成したデータベースを、画像認識部130に出力してもよい。
記憶部140は、照合先データ決定部120によって限定された照合先データを示す情報を格納する。具体的には、記憶部140は、照合先データ決定部120が作成したデータベースを格納する。記憶部140が格納するデータベースを構成するデータは、上述したとおり、画像認識を行う際に照合先として使用する照合先データである。なお、記憶部140は、画像認識装置10内に内蔵されるものであってもよいし、画像認識装置10とは別個の記憶装置で実現してもよい。記憶部140は、照合先データ決定部120内に内蔵されるものであってもよい。また、照合先データ決定部120が、作成した照合先データを画像認識部130に出力した場合、記憶部140は、画像認識部130内に内蔵されるものであってもよい。
画像認識部130は、撮像装置20から撮影画像データを受信する。この撮影画像データが表す撮影画像は、画像認識を行う対象となる画像(対象画像と呼ぶ)である。画像認識部130は、照合先データ決定部120によって、照合先のデータが限定された照合先データから、対象画像の画像認識を行う。具体的には、画像認識部130は、対象画像と、照合先データとを照合することによって、対象画像に含まれる商品の認識を行う。画像認識部130は、画像認識の結果(認識結果と呼ぶ)を、出力する。画像認識部130は、例えば、記憶部140または図示しない表示装置に出力してもよい。
(画像認識装置10の処理の流れ)
次に、図3および図4を参照して、画像認識装置10の処理の流れについて説明する。図3は、本実施の形態に係る画像認識装置10における照合先データ決定処理の流れの一例を示すフローチャートである。
図3に示す通り、まず、データ処理部110が、POS端末21および/またはその他の装置から商品データを受信する(ステップS31)。
そして、データ処理部110が、受信した商品データに基づいて、店舗で販売される各商品の数量(例えば、商品毎の売上数、仕入数、発注数、検品済数、陳列数等)を算出する(ステップS32)。
その後、照合先データ決定部120が、各商品に関する数量に基づいて、商品DB31の照合先データを限定する(ステップS33)。具体的には、上述したとおり、照合先データ決定部120は、商品DB31から、ステップS32で算出した各商品に関する数量に基づいて、画像認識部130が画像認識を行う際に照合先として使用する照合先データからなるデータベースを作成する。
以上で、画像認識装置10は、照合先データ決定処理を終了する。
次に、図4を参照して、本実施の形態に係る画像認識装置10における画像認識処理について説明する。図4は、本実施の形態に係る画像認識装置10における画像認識処理の流れの一例を示すフローチャートである。
図4に示す通り、まず、画像認識部130が、撮像装置20から撮影画像データを受信する(ステップS41)。
次に、照合先データ決定部120がステップS33において限定した照合先データを用いて、画像認識部130は、撮影画像データによって表される撮影画像の画像認識を行う(ステップS42)。
そして、画像認識部130が、認識結果を出力する(ステップS43)。
以上で、画像認識装置10は、画像認識処理を終了する。
なお、画像認識装置10は、上述した照合先データ決定処理と、画像認識処理とを、同期させて実行してもよいし、非同期で実行してもよい。例えば、画像認識装置10は、照合先データ決定処理を、画像認識処理を行う直前に実行してもよい。
また、例えば、画像認識装置10は、照合先データ決定処理を、画像認識処理の実行時間に拘らず、予め定められた時間に実行してもよい。予め定められた時間とは、例えば、商品が店舗に陳列される時間、商品を仕入れる時間、商品の検品を行う時間等であるが、これに限定されるものではない。また、このとき、照合先データ決定部120は、照合先として用いる照合先データを更新してもよい。例えば、商品が店舗に陳列された際に、ユーザが陳列した商品を示す情報を、図示しない入力装置等を用いて画像認識装置10に通知すると、画像認識装置10は、照合先データに該商品が含まれるか否かを確認する。そして、照合先データに該商品が含まれていない場合、画像認識装置10は、照合先データに、上記商品を含める。
また、画像認識装置10は、商品が売れるたびに、照合先データ決定処理を行ってもよい。例えば、画像認識装置10は、商品が売れた際に、該商品の現時点の在庫数を確認し、在庫数がゼロの場合、照合先データから該商品を削除してもよい。このように、照合先データ決定部120は、所定のタイミングで、照合先データを更新することができる。
(効果)
本実施の形態に係る画像認識装置10によれば、撮影画像に含まれる商品の認識精度を向上させることができる。なぜならば、照合先データ決定部120が商品DB31から、商品データに基づいて、照合先データを限定し、画像認識部130がこの限定された照合先データを用いて、撮影画像に含まれる商品の認識を行うからである。このとき照合先データ決定部120は、商品DB31から、店舗における在庫数がゼロの商品を削除したデータベースを作成することにより、照合先データを限定することが好ましい。
これにより、本実施の形態に係る画像認識装置10は、照合先データと認識対象商品と照合することにより、認識対象商品を認識することができる。照合を行う照合先のデータ数が多いと、認識結果にばらつきが出てしまい、認識精度が低下してしまう。しかしながら、本実施の形態に係る画像認識装置10が限定する照合先データに含まれる商品は、商品DB31に含まれる商品より数が少ない。したがって、本実施の形態に係る画像認識装置10は、認識精度を高めることができる。
また、画像認識装置10は、照合先データ決定部120が限定した照合先データのデータのみを商品DB管理装置30から取得するため、画像認識装置10と商品DB管理装置30との間の通信量を削減することができる。
また、画像認識装置10は、在庫数がゼロの商品との照合を行わないため、認識処理に掛かる時間を削減することができる。
(変形例)
なお、上述した第1の実施の形態では、照合先データ決定部120が、照合先データによって構成されるデータベースを新たに作成することについて説明を行ったが、照合先データ決定部120は、データベースを作成しなくてもよい。本変形例では、照合先データ決定部120がデータベースを作成せずに、照合先データを限定する方法について説明する。
本変形例における照合先データ決定部120は、商品DB31から、照合先データとして使用するデータを決定する。そして、照合先データ決定部120は、決定したデータが、画像認識部130に画像認識を行う際に照合先データとして用いられるように、制御する。
例えば、照合先データ決定部120は、商品DB31から、照合先データとして使用するデータに関連付けられた商品名を、記憶部140に格納する。そして、画像認識部130が画像認識を行う際に、商品DB31のうち、記憶部140に格納された商品名のデータを用いるように制御する。
また、例えば、照合先データ決定部120は、商品DB31内のデータのうち、画像認識に使用するデータには1を示すフラグを、使用しないデータには0を示すフラグを生成してもよい。そして、照合先データ決定部120は、画像認識部130が1のフラグのデータのみを画像認識で使用するように制御してもよい。このとき、照合先データ決定部120は、生成したフラグを、限定した照合先データを示す情報として、記憶部140に格納してもよい。
また、例えば、照合先データ決定部120は、商品DB31内に含まれるテーブルから、照合先データとして使用するデータからなるビューを生成するコマンドを発行し、画像認識部130に該ビューを用いて画像認識を行うように制御してもよい。このとき、照合先データ決定部120は、発行したコマンドを、限定した照合先データを示す情報として、記憶部140に格納してもよい。このように、本変形例に係る画像認識装置10の照合先データ決定部120は、どのような方法で商品DB31から、照合先データを限定してもよい。
本変形例では、上述した第1の実施の形態に係る画像認識装置10と同様に、検索に掛かる時間を削減でき、認識精度を高めることができる。また、照合先データ決定部120がデータベースを画像認識装置10内に新たに作成しないため、商品DB管理装置30から画像認識装置10へ送信されるデータ量を少なくすることができる。
また、本変形例においても、照合先データ決定部120は、所定のタイミングで、照合先データを更新してもよい。例えば、照合先データ決定部120が、商品DB31から、照合先データとして使用するデータに関連付けられた商品名を、記憶部140に格納する場合、照合先データ決定部120は、この商品名を所定のタイミングで更新することにより、照合先データを更新してもよい。
また、例えば、照合先データ決定部120が、商品DB31内のデータに対してフラグを生成する場合、照合先データ決定部120は、このフラグを所定のタイミングで更新することにより、照合先データを更新してもよい。
このように、本変形例に係る照合先データ決定部120は、第1の実施の形態における照合先データ決定部120と同様に、所定のタイミングで、照合先データを更新することができる。
<第2の実施の形態>
次に、本発明の第2の実施の形態について、図面を参照して説明を行う。なお、説明の便宜上、前述した第1の実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。
上述した第1の実施の形態では、照合先データ決定部120が、画像認識装置10が設けられた店舗における商品データに基づいて、照合先データを限定することについて説明を行った。本実施の形態では、商品データとして、更に、撮影された棚に関する情報を用いることについて説明を行う。
本実施の形態に係る画像認識システム1は、上述した第1の実施の形態に係る画像認識システム1の画像認識装置10に代えて画像認識装置11を含む。本実施の形態に係る画像認識システム1のその他の構成は、図1に示す通り、上述した第1の実施の形態に係る画像認識システム1と同様である。
本実施の形態においては、撮像装置20が撮影した画像を示す撮影画像データには、どの商品棚を撮影した撮影画像データであるかを示す情報(撮影棚情報)を含む。この撮影棚情報は、撮像装置20が設置された店舗を示す情報および該撮像装置20が撮影した商品棚の位置を示す情報等であるとするが、撮影棚情報はこれに限定されるものではない。この撮影棚情報は、撮影者によって入力されるものであってもよいし、例えばGPS(Global Positioning System)等を用いて測位される、撮像装置20の位置を示す撮影位置情報であってもよい。また、撮影棚情報は、例えば、撮像装置20の位置を示す情報と該撮像装置20の向きを示す情報であってもよい。撮像装置20の位置と、該撮像装置20の向きとにより、該撮像装置20がどの商品棚を撮影したものかを判別できる。このように、撮影棚情報は、撮影した商品棚が、どの位置の商品棚かが判別可能な情報であればよい。
(画像認識装置11の機能構成について)
図5を参照して、本実施の形態に係る画像認識装置11の機能構成について説明する。図5は、本実施の形態に係る画像認識装置11の機能構成の一例を示す機能ブロック図である。
図5に示す通り、本実施の形態に係る画像認識装置11は、データ処理部111と、照合先データ決定部120と、画像認識部130と、記憶部141と、を備えている。
記憶部141には、第1の実施の形態に係る記憶部140と同様に、照合先データ決定部120が作成したデータベースが格納される。また、記憶部141には、店舗における棚割り情報が格納されている。棚割り情報とは、棚ごとに、各商品に対する該商品が陳列される可能性がある位置(例えば、棚の位置、および、該棚における段の位置)を示す情報である。棚割り情報とは、例えば、商品棚ごとに、推奨される棚割り情報、現時点におけるレイアウト情報、棚割りに関する指示書、棚割りの管理履歴等によって示される情報である。なお、棚割り情報とは、これに限定されるものではなく、例えば、一般的な棚割りソフトウェアから出力された棚割り図等であってもよい。なお、棚割り情報は、例えば、外部装置等から送信されるものであってもよい。また、棚割り情報に含まれる情報には、陳列される商品の種類(カテゴリー)が含まれてもよい。また、棚割り情報は、時間(時間帯、曜日など)によって変化する情報であってもよい。
データ処理部111は、撮像装置20から撮影画像データに含まれる撮影棚情報を受信する。そして、データ処理部111は、記憶部141から棚割り情報を取得する。なお、棚割り情報が外部装置等から送信される場合、データ処理部111は、該外部装置等から棚割り情報を受信する。また、データ処理部111は、POS端末21および/またはその他の装置から商品データを受信する。
そして、データ処理部111は、撮影棚情報、商品データおよび棚割り情報に基づいて、各商品の在庫数を算出する。データ処理部111は、撮影棚情報が示す商品棚の位置に一致する位置の商品棚に対する棚割り情報から、該商品棚に陳列される可能性がある商品を特定する。
棚割り情報には、上述したとおり、各商品に対する該商品が陳列される可能性がある位置を示している。したがって、撮影棚情報が示す商品棚の位置に一致する位置の商品棚に対する棚割り情報には、該商品棚に陳列される可能性がある商品が含まれる。データ処理部111は、この棚割り情報から、該当する商品棚に陳列される可能性がある商品を示す情報を抽出することにより、該商品棚に陳列される可能性がある商品を特定する。
そして、データ処理部111は、特定した各商品に対し、商品データに基づいて、各商品に関する数量を算出する。そして、データ処理部111は、算出した各商品に関する数量を商品数情報として、照合先データ決定部120に出力する。
照合先データ決定部120および画像認識部130は、第1の実施の形態に係る照合先データ決定部120および画像認識部130と同様の機能を有するため、説明を省略する。
(画像認識装置11の処理の流れ)
次に、図6を参照して、画像認識装置11の処理の流れについて説明する。図6は、本実施の形態に係る画像認識装置11における画像認識処理の流れの一例を示すフローチャートである。図6に示す画像認識装置11による画像認識処理は、上述した第1の実施の形態における照合先データ決定処理および画像認識処理を含む。
図6に示す通り、まず、データ処理部111が、POS端末21および/またはその他の装置から商品データを受信する(ステップS61)。また、画像認識部130が撮影画像データを受信する(ステップS62)。また、データ処理部111が上記撮影画像データの撮影棚情報を受信する(ステップS63)。なお、データ処理部111は、撮影画像データ全体を受信してもよい。なお、ステップS61からステップS63は、どのような順番で行われてもよい。また、ステップS61からステップS63は、同時に行われてもよい。
そして、データ処理部111が、受信した商品データと、撮影棚情報と、棚割り情報と、に基づいて、店舗で販売される商品であって、撮影された商品棚に陳列される可能性がある各商品に関する数量(例えば、在庫数)を算出する(ステップS64)。
その後、照合先データ決定部120が、ステップS64にて算出された各商品の数量に基づいて、商品DB31の照合先データを限定する(ステップS65)。具体的には、第1の実施の形態と同様に、照合先データ決定部120は、商品DB31から、ステップS64で算出した各商品に関する数量に基づいて、図3のステップS33と同様に、画像認識部130が画像認識を行う際に照合先として使用する照合先データからなるデータベースを作成する。
そして、照合先データ決定部120がステップS65において限定した照合先データを用いて、画像認識部130は、撮影画像データによって表される撮影画像の画像認識を行う(ステップS66)。
そして、画像認識部130が、認識結果を出力する(ステップS67)。
以上で、画像認識装置11は、画像認識処理を終了する。
なお、上述した第1の実施の形態における変形例と同様に、照合先データ決定部120は、新たなデータベースを作成せずに、照合先データを限定してもよい。
以上のように、本実施の形態に係る画像認識装置11は、上述した画像認識装置10と同様の効果を得ることができる。また、更に、本実施の形態に係る画像認識装置11によれば、データ処理部111が、撮影された商品棚に対する棚割り情報から、該商品棚に陳列される可能性がある商品を特定し、特定した商品に関する数量を算出する。そして、照合先データ決定部120が、この算出された数量に基づいて、照合先データを限定する。これにより、画像認識装置11は、店舗内の何れかの棚に陳列された商品であっても、撮影された商品棚には、陳列されない商品を照合先データに含めなくすることができる。したがって、本実施の形態に係る画像認識装置11によれば、認識精度をより高めることができる。
(変形例)
上述した第2の実施の形態では、照合先データ決定部120は、データ処理部111が撮影棚情報に基づいて算出した商品数情報を用いて、照合先データを限定したが、照合先データ決定部120が照合先データを限定する方法はこれに限定されるものではない。
まず、データ処理部111は、第1の実施の形態におけるデータ処理部110と同様に、受信した商品データに基づいて、店舗で販売される各商品の数量(第1の商品数情報と呼ぶ)を算出する。照合先データ決定部120は、算出された第1の商品数情報に基づいて、照合先データを限定する。この限定した照合先データを第1の照合先データと呼ぶ。この第1の照合先データは、所定のタイミングで更新可能である。
次に、データ処理部111は、撮影棚情報を受信すると、撮影された商品棚に陳列される可能性がある各商品に関する数量(第2の商品数情報と呼ぶ)を算出する。そして、照合先データ決定部120は、上記第1の照合先データから、第2の商品数情報に基づいて、更に、照合先データを限定する。
以上のようにして、第2の実施の形態の変形例における画像認識装置11は、照合先データを限定してもよい。これにより、第2の実施の形態における照合先データ決定部120が照合先データを限定する場合に比べ、商品DB管理装置30に対するアクセス数を削減することができる。なぜならば、本変形例における照合先データ決定部120は、第1の照合先データに限定する際に商品DB管理装置30に対してアクセスを行い、第2の照合先データに限定する際には、商品DB管理装置30に対してアクセスを行わないからである。複数の商品棚を有する店舗において、商品棚を撮影する度に商品DB管理装置30に対してアクセスを行うことが無いため、商品DB管理装置30に対するアクセス数を削減することができる。
また、撮影された商品棚に対応する商品棚に関する棚割り情報に商品の種類が含まれる場合、データ処理部111は、この商品の種類を照合先データ決定部120に出力してもよい。この商品の種類は、撮影された商品棚に陳列される可能性がある商品の種類(カテゴリー)を示す。そして、照合先データ決定部120は、受信した種類の商品のデータを、照合先データに含めてもよい。このように、照合先データ決定部120は、商品DB31から、商品の種類に基づいて、照合先データを限定することができる。
また、照合先データ決定部120は、照合先データに、SNS(Social Networking Service)上で話題となっている商品が含まれていない場合、該商品のデータを照合先データに含めてもよい。また、照合先データに、SNS上で話題となっている商品が含まれており、該商品が品切れである等の情報が上記SNS上に載っている場合、照合先データ決定部120は、照合先データから該商品のデータを削除してもよい。このように、照合先データ決定部120は、インターネット等を経由して取得した情報に基づいて、照合先データを更新してもよい。
<第3の実施の形態>
次に、本発明の第3の実施の形態について、図面を参照して説明を行う。なお、説明の便宜上、前述した第1および第2の実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。
本実施の形態では、認識結果に対し、補正を行うことにより、更に認識精度を高める方法について説明する。
本実施の形態に係る画像認識システム1は、上述した第1の実施の形態に係る画像認識システム1の画像認識装置10に代えて画像認識装置12を含む。本実施の形態に係る画像認識システム1のその他の構成は、図1に示す通り、上述した第1の実施の形態に係る画像認識システム1と同様である。
(画像認識装置12の機能構成について)
図7を参照して、本実施の形態に係る画像認識装置12の機能構成について説明する。図7は、本実施の形態に係る画像認識装置12の機能構成の一例を示す機能ブロック図である。図7に示す通り、本実施の形態に係る画像認識装置12は、データ処理部110と、照合先データ決定部122と、画像認識部132と、記憶部140と、を備える。本実施の形態に係る画像認識装置12は、第1の実施の形態に係る画像認識装置10の照合先データ決定部120に代えて照合先データ決定部122を備え、画像認識部130に代えて画像認識部132を備える構成である。
照合先データ決定部122は、データ処理部110から、データ処理部110が算出した商品数情報を受信する。照合先データ決定部122は、図7に示す通り、決定部1221と、算出部1222とを備える。決定部1221は、上述した第1の実施の形態における照合先データ決定部120と同様の機能を有する。決定部1221は、商品数情報に含まれる、各商品に関する数量に基づいて、商品DB31内のデータのうち、画像認識部132が画像認識を行う際に照合先として使用する照合先データを限定する。
算出部1222は、商品数情報に基づいて、算出部1222を含む画像認識装置12が設置された店舗で販売されている各商品に対する事前確率を算出する。ここで、本実施の形態では、所定の範囲内の商品の総数に対する、ある商品の割合を、事前確率として求める。例えば、商品Aの在庫数がN個(Nは自然数)とした場合、算出部1222は、商品Aの事前確率P_Aを、P_A=N/(所定の範囲内の商品の総数)を用いて算出する。
例えば、所定の範囲内の商品の総数とは、ある商品が販売されている店舗における商品の在庫数の総数であってもよい。つまり、算出部1222は、ある商品が販売されている店舗における商品の在庫数の総数をS個(Sは自然数)とした場合、P_A=N/Sを用いて、商品Aに対する事前確率を算出する。
また、所定の範囲内の商品の総数は、例えば、ある商品が販売されている店舗における、該ある商品に類似する商品の在庫数の総数であってもよい。また、所定の範囲内の商品の総数は、例えば、ある商品が陳列される可能性がある商品棚と同じ商品棚に陳列される可能性がある商品の在庫数の総数であってもよい。また、所定の範囲内の商品の総数は、所定の時間(例えば、仕入のタイミング)における店舗内または商品棚内等の商品の総数であってもよい。また、所定の範囲内の商品の総数は、このある商品がSNS上でヒットするヒット数であってもよい。
このように、算出部1222は、各商品に対して、事前確率を算出する。このとき、算出部1222は、例えば、在庫数が他の商品に比べて多い商品に対する、後述する認識スコアが高くなるように、事前確率を算出してもよい。そして、算出部1222は、算出した各商品に対する事前確率を、該事前確率の算出の対象となる商品を示す情報(例えば、商品名)に関連付けて、記憶部140に格納する。なお、算出部1222は、事前確率を画像認識部132に出力してもよい。
画像認識部132は、撮像装置20から撮影画像データを受信する。画像認識部132は、図7に示す通り、認識部1321と、補正部1322とを備える。認識部1321は、上述した第1の実施の形態における画像認識部130と同様の機能を有する。認識部1321は、認識結果(第1の認識結果と呼ぶ)を、補正部1322に出力する。この認識部1321が出力する第1の認識結果には、撮影画像データによって表される撮影画像に含まれる商品の夫々に対し、商品毎の認識スコアが含まれる。認識スコアとは、認識結果の確からしさを示すものである。本実施の形態では、認識スコアは、1.0を上限とし、1.0に近い値ほど信頼性が高いことを示すとして説明を行う。例えば、認識部1321は、ある商品を認識した結果として、「商品Aの認識スコアが0.8、商品Bの認識スコアが0.5」という認識結果を出力する。このように、認識部1321は、第1の認識結果として、商品毎に、認識された商品を示す情報(例えば商品名)と、該商品に対する認識スコアとを補正部1322に出力する。
補正部1322は、認識部1321から第1の認識結果を受信する。また、補正部1322は、記憶部140から商品毎の事前確率を取得する。補正部1322は、取得した事前確率を用いて、第1の認識結果を補正し、補正した認識結果(第2の認識結果と呼ぶ)を、画像認識装置12の認識結果として出力する。
ここで、補正部1322が行う補正について説明する。例えば、ある商品に対する第1の認識結果R1を、R1=(S1_A,S1_B,・・・)であるとする。ここで、S1_Aは、ある商品が商品Aと認識された場合の認識スコアを示し、S1_Bは、ある商品が商品Bと認識された場合の認識スコアを示す。ある商品における第1の認識結果が、上述した「商品Aに対する認識スコアが0.8、商品Bに対する認識スコアが0.5」である場合、R1=(0.8,0.5)となる。
また、最終的に得られる認識結果(第2の認識結果)R2を、R2=(S2_A,S2_B,・・・)とする。ここで、S2_Aは、ある商品が商品Aと認識された場合の最終的な認識スコアを示し、S2_Bは、ある商品が商品Bと認識された場合の最終的な認識スコアを示す。なお、R1およびR2出力形式は、一例であり、これに限定されるものではない。
補正部1322は、例えば、第1の認識結果R1に含まれる商品Aに関する認識スコアS1_Aと事前確率P_Aとを合成することにより、認識スコアS1_Aを補正した認識スコアS2_Aを算出する。補正部1322は、例えば、所定の係数(αとする)を掛ける、または、掛けない事前確率と、第1の認識結果に含まれる認識スコアとの和を、補正後の認識スコアとしてもよい。
つまり、補正部1322は、商品Aに関する認識スコアを、S2_A=S1_A+αP_A、または、S2_A=S1_A+P_Aを用いて算出してもよい。なお、合成の方法は特に限定されるものではない。例えば、補正部1322は、第1の認識結果に含まれる認識スコアと、事前確率とを掛け合わせた結果を、補正後の認識スコアとしてもよい。つまり、補正部1322は、商品Aに関する認識スコアを、S2_A=S1_A*P_Aを用いて算出してもよい。
なお、補正部1322は、全ての第1の認識結果に対して補正を行ってもよいし、所定の条件を満たす第1の認識結果に対して補正を行ってもよい。所定の条件とは、例えば、以下の(A)、(B)等が挙げられるがこれに限定されるものではない。
(A)最も高い値の認識スコアが、所定の閾値より低い、
(A)最も高い値の認識スコアと、次に高い値の認識スコアとの差が、所定の値より小さい。
そして、補正部1322は、第2の認識結果のうち、認識スコアが最も高い商品を最終的な認識結果として出力してもよいし、算出した第2の認識結果を、画像認識装置12の最終的な認識結果として、出力してもよい。
例えば、算出部1222が、在庫数が他の商品に比べて多い商品に対する、後述する認識スコアが高くなるように、事前確率を算出した場合について説明する。認識部1321が出力した、ある商品に対する第1の認識結果R1が、R1=(S1_A,S1_B,S1_C)=(0.50,0.46,0.40)であるとする。そして、商品Aの在庫数が商品Bおよび商品Cの在庫数より多いとし、商品Bの在庫数が商品Cの在庫数より多いとする。このとき、算出部1222は、商品Aに対する事前確率が、商品Bに対する事前確率および商品Cに対する事前確率より高くなるように、および、商品Bに対する事前確率が商品Cに対する事前確率より高くなるように各事前確率を算出する。ここで、算出部1222が算出した事前確率が、(P_A,P_B,P_C)=(1.20,0.50,0.45)であるとする。
そして、補正部1322が、例えば事前確率と、第1の認識結果に含まれる認識スコアとの積を、補正後の認識スコアとする。したがって、R2=(S2_A,S2_B,S2_C)=(0.50*1.20,0.46*0.50,0.40*0.45)=(0.96,0.23,0.18)が得られる。
そして、補正部1322は、この第2の認識結果R2または、最も認識スコアが高い商品Aを示す情報を出力する。このように、算出部1222が、在庫数が他の商品に比べて多い商品に対する、認識スコアが高くなるように、事前確率を算出する。これにより、補正部1322は、この事前確率に基づいて、第1の認識結果を補正することができる。したがって、画像認識装置12は、認識精度をより高めることができる。
(画像認識装置12の処理の流れ)
次に、図8および図9を参照して、画像認識装置12の処理の流れについて説明する。図8は、本実施の形態に係る画像認識装置12における事前確率算出処理の流れの一例を示すフローチャートである。
図8に示す通り、まず、データ処理部110が、POS端末21および/またはその他の装置から商品データを受信する(ステップS81)。
そして、データ処理部110が、受信した商品データに基づいて、店舗で販売される各商品の数量(例えば、商品毎の売上数、仕入数、発注数、検品済数、陳列数等)を算出する(ステップS82)。
その後、照合先データ決定部122の決定部1221が、各商品に関する数量に基づいて、商品DB31の照合先データを限定する(ステップS83)。なお、このステップS81からステップS83は、図3を用いて説明した照合先データ決定処理と同様の処理である。
そして、照合先データ決定部122の算出部1222が、各商品に関する数量に基づいて、各商品に対する事前確率を算出する(ステップS84)。なお、ステップS84は、ステップS83と同時に実行してもよいし、逆順で実行してもよい。
以上で、画像認識装置12は、事前確率算出処理を終了する。
次に、図9を参照して、本実施の形態に係る画像認識装置12における画像認識処理について説明する。図9は、本実施の形態に係る画像認識装置12における画像認識処理の流れの一例を示すフローチャートである。
図9に示す通り、まず、画像認識部132が、撮像装置20から撮影画像データを受信する(ステップS91)。
次に、照合先データ決定部122の決定部1221がステップS83において限定した照合先データを用いて、画像認識部132の認識部1321は、撮影画像データによって表される撮影画像の画像認識を行う(ステップS92)。
次に、照合先データ決定部122の算出部1222がステップS84で算出した事前確率に基づいて、画像認識部132の補正部1322は、認識部1321がステップS92で認識した結果(第1の認識結果)を、補正する(ステップS94)。
そして、画像認識部132の補正部1322が、補正した認識結果(第2の認識結果)を、画像認識装置12の認識結果として出力する(ステップS95)。
以上で、画像認識装置12は、画像認識処理を終了する。
なお、画像認識装置12は、上述した事前確率算出処理と、画像認識処理とを、同期させて実行してもよいし、非同期で実行してもよい。例えば、画像認識装置12は、事前確率算出処理を、画像認識処理を行う直前に実行してもよい。
また、例えば、画像認識装置12は、事前確率算出処理を、画像認識処理の実行時間に拘らず、予め定められた時間に実行してもよい。予め定められた時間とは、例えば、商品が店舗に陳列される時間、商品を仕入れる時間、商品の検品を行う時間等であるが、これに限定されるものではない。また、このとき、照合先データ決定部122の決定部1221は、照合先として用いる照合先データを更新してもよい。また、画像認識装置12は、事前確率算出処理を、商品が売れるたびに行ってもよい。このように、照合先データ決定部122は、所定のタイミングで、事前確率を更新することができる。
(効果)
本実施の形態に係る画像認識装置12によれば、上述した第1の実施の形態に係る画像認識装置10と同様の効果を得る。また、本実施の形態に係る画像認識装置12によれば、算出部1222が事前確率を算出し、補正部1322が、事前確率に基づいて、認識結果を補正するため、認識精度をより高めることができる。
また、照合先データ決定部122は、第1の実施の形態の変形例において説明した照合先データ決定部120と同様に、データベースを作成せずに、照合先データを限定してもよい。このような場合であっても、照合先データ決定部122は、認識精度を高めることができる。
<第4の実施の形態>
次に、本発明の第4の実施の形態について、図面を参照して説明を行う。なお、説明の便宜上、前述した各実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。
上述した第3の実施の形態では、照合先データ決定部122が、画像認識装置12が設けられた店舗における商品データに基づいて、照合先データを限定することについて説明を行った。本実施の形態では、第2の実施の形態に係る画像認識装置11と同様に、商品データとして、更に、撮影された棚に関する情報を用いることについて説明を行う。
本実施の形態に係る画像認識システム1は、上述した第1の実施の形態に係る画像認識システム1の画像認識装置10に代えて画像認識装置13を含む。本実施の形態に係る画像認識システム1のその他の構成は、図1に示す通り、上述した第1の実施の形態に係る画像認識システム1と同様である。
本実施の形態においては、第2の実施の形態と同様に、撮像装置20が撮影した画像を示す撮影画像データには、どの商品棚を撮影した撮影画像データであるかを示す撮影棚情報を含む。
(画像認識装置13の機能構成について)
図10を参照して、本実施の形態に係る画像認識装置13の機能構成について説明する。図10は、本実施の形態に係る画像認識装置13の機能構成の一例を示す機能ブロック図である。
図10に示す通り、本実施の形態に係る画像認識装置13は、データ処理部111と、照合先データ決定部122と、画像認識部132と、記憶部141と、を備えている。
記憶部141およびデータ処理部111は、第2の実施の形態に係る記憶部141およびデータ処理部111とそれぞれ同様の機能を有する。また、照合先データ決定部122および画像認識部132は、第3の実施の形態に係る照合先データ決定部122および画像認識部132とそれぞれ同様の機能を有する。
(画像認識装置13の処理の流れ)
次に、図11を参照して、画像認識装置13の処理の流れについて説明する。図11は、本実施の形態に係る画像認識装置13における画像認識処理の流れの一例を示すフローチャートである。図11に示す画像認識装置13による画像認識処理は、上述した第3の実施の形態における事前確率算出処理および画像認識処理を含む。
図11に示す通り、まず、データ処理部111が、POS端末21および/またはその他の装置から商品データを受信する(ステップS111)。また、画像認識部132が撮影画像データを受信する(ステップS112)。また、データ処理部111が上記撮影画像データの撮影棚情報を受信する(ステップS113)。なお、データ処理部111は、撮影画像データ全体を受信してもよい。なお、ステップS111からステップS113は、どのような順番で行われてもよい。また、ステップS111からステップS113は、同時に行われてもよい。
そして、データ処理部111が、受信した商品データに基づいて、店舗で販売される商品であって、撮影された商品棚に陳列される可能性がある各商品に関する数量を算出する(ステップS114)。
その後、照合先データ決定部122の決定部1221が、ステップS114にて算出された各商品の数量に基づいて、商品DB31の照合先データを限定する(ステップS115)。
そして、照合先データ決定部122の算出部1222が、各商品に関する数量に基づいて、各商品に対する事前確率を算出する(ステップS116)。なお、ステップS116は、ステップS115と同時に実行してもよいし、逆順で実行してもよい。
そして、照合先データ決定部122の決定部1221がステップS115において限定した照合先データを用いて、画像認識部132の認識部1321は、撮影画像データによって表される撮影画像の画像認識を行う(ステップS117)。なお、ステップS117は、ステップS115の後であればよく、ステップS116より前またはステップS116と同時に実行してもよい。
次に、照合先データ決定部122の算出部1222がステップS116で算出した事前確率に基づいて、画像認識部132の補正部1322は、認識部1321がステップS117で認識した結果(第1の認識結果)を、補正する(ステップS118)。
そして、画像認識部132の補正部1322が、補正した認識結果(第2の認識結果)を、画像認識装置13の認識結果として出力する(ステップS119)。
以上で、画像認識装置13は、画像認識処理を終了する。
なお、上述した各実施の形態と同様に、照合先データ決定部122は、新たなデータベースを作成せずに、照合先データを限定してもよい。
また、上述した第2の実施の形態と同様に、データ処理部111が、第1の商品数情報を算出し、照合先データ決定部122が、算出された第1の商品数情報に基づいて、照合先データを限定してもよい。そして、データ処理部111は、撮影棚情報を受信すると、撮影された商品棚に陳列される可能性がある各商品に関する第2の商品数情報を算出してもよい。更に、照合先データ決定部122は、上記第1の照合先データから、第2の商品数情報に基づいて、照合先データを限定してもよい。
また、照合先データ決定部122は、第2の実施の形態と同様に、商品DB31から、商品の種類に基づいて、照合先データを限定してもよい。また、照合先データ決定部122の算出部1222が事前確率を算出する対象の商品は、撮影棚情報に基づいて、撮影された棚に陳列される可能性が高い各商品であってもよい。
以上のように、本実施の形態に係る画像認識装置13は、上述した各実施の形態に係る画像認識装置と同様の効果を得ることができる。
<第5の実施の形態>
次に、本発明の第5の実施の形態について、図面を参照して説明を行う。なお、説明の便宜上、前述した各実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。
上述した各実施の形態では、画像認識装置が、照合先データを限定することについて説明を行ったが、商品DB31を有した装置が照合先データを限定してもよい。本実施の形態では、この構成について説明を行う。
まず、図12を参照して、本実施の形態に係る画像認識システム2の全体構成について説明する。図12は、本実施の形態に係る画像認識装置を含む画像認識システム2の全体構成の一例を示す図である。図12に示す通り、本実施の形態に係る画像認識システム2は、画像認識装置14、撮像装置20、POS端末21、商品DB管理装置32、および、POSシステム50を含んでいる。画像認識装置14、POS端末21、商品DB管理装置32およびPOSシステム50は、ネットワーク40を介して通信可能に接続している。また、画像認識装置14は、撮像装置20およびPOS端末21と通信可能に接続している。なお、図12に示す画像認識システム2は、本実施の形態に特有な構成について示したものであり、図12に示す画像認識システム2が図12に示されていない部材を有していてもよいことは言うまでもない。
商品DB管理装置32は、上述した商品DB管理装置30と同様に複数の商品に関する情報が格納されたデータベース(商品DB31)を管理する。また、商品DB管理装置32は、POSシステム50から、商品データを受信する。
POSシステム50は、各店舗に設置された1または複数のPOS端末21と通信を行い、該POS端末21から、該POS端末21が設置されている店舗における、例えば、店舗で販売されている商品に関する情報を受信する。POSシステム50は、店舗で販売されている商品に関する情報として、例えば、各商品の売上に関する情報(売上情報)を受信する。POSシステム50は、この受信した売上情報を商品名毎、店舗毎に管理するシステムである。ここで、売上情報とは、例えば、ある商品の売上高や売上数など、一般的なPOSデータであるとするが、売上情報はこれに限定されない。以降、POSシステム50が管理する情報(商品データ)は、上記各実施の形態において、POS端末21から各画像認識装置が受信する商品データである。
なお、図12において、POSシステム50は、POS端末21が設置されている店舗とは別個に設けられることを示しているが、POSシステム50の設置場所はこれに限定されるものではない。POSシステム50は、店舗毎に設けられるものであってもよい。また、POSシステム50は、POS端末21と一体となったものであってもよい。また、POSシステム50は、商品DB管理装置32内に設けられるものであってもよい。POSシステム50は、管理する商品データを、画像認識装置14に送信する。
また、画像認識装置14は、商品データを、POSシステム50およびPOS端末21以外のその他の装置から取得してもよい。また、画像認識装置14は、画像認識装置14が設置されている店舗と、同じ店舗に設置されている1または複数の撮像装置20から撮影画像データを受信する。
なお、説明の便宜上、図12に示す画像認識システム2は、1つの店舗のみを記載したが、店舗の数は複数であってもよい。
(画像認識装置14および商品DB管理装置32の機能構成について)
次に、図13を参照して、本実施の形態に係る画像認識装置14および商品DB管理装置32の機能構成について説明する。図13は、本実施の形態に係る画像認識装置14および商品DB管理装置32の機能構成の一例を示す機能ブロック図である。
図13に示す通り、本実施の形態に係る画像認識装置14は、画像認識部130と、記憶部140と、受信部170とを備えている。また、商品DB管理装置32は、データ処理部321と、照合先データ決定部322と、商品DB31と、を備えている。
商品DB管理装置32のデータ処理部321は、上述したデータ処理部110またはデータ処理部111と同様の機能を有する。データ処理部321は、POSシステム50から商品データを受信する。そして、データ処理部321は、商品データに含まれる売上情報、仕入情報および発注情報の少なくとも何れかに基づいて、店舗ごとに、店舗で販売される各商品に関する数量を算出する。データ処理部321は、店舗毎に算出した商品数情報を、照合先データ決定部322に出力する。
照合先データ決定部322は、上述した照合先データ決定部120または照合先データ決定部122と同様の機能を有する。照合先データ決定部322は、データ処理部321から、店舗毎の商品数情報を受信する。そして、照合先データ決定部322は、店舗毎に、該店舗の商品数情報に含まれる、各商品に関する数量に基づいて、商品DB31内のデータのうち、該店舗の画像認識部130が画像認識を行う際に照合先として使用する照合先データを限定する。
照合先データ決定部322は、限定した照合先データを示す情報、または、照合先データそのものを、対応する店舗の画像認識装置14に送信する。
画像認識装置14の受信部170は、商品DB管理装置32から、限定された照合先データを示す情報、または、照合先データそのものを、受信する。まず、画像認識装置14の受信部170が、照合先データそのものを受信した場合について説明する。この場合、受信部170は、受信した照合先データを、記憶部140に格納する。これにより記憶部140は、第1の実施の形態に係る記憶部140と同様に照合先データからなるデータベースを格納する。
また、画像認識装置14の受信部170が照合先データを示す情報を受信したとする。この場合、受信部170は、受信した情報によって示される照合先データが、画像認識部130に画像認識を行う際に照合先データとして用いられるために必要な情報を記憶部140に格納する。例えば、照合先データを示す情報が、照合先データとして使用するデータに関連付けられた商品名の場合、受信部170は、該商品名を記憶部140に格納する。
また、例えば、照合先データを示す情報が、商品DB31内のデータのうち、画像認識に使用する/しないに応じて生成されたフラグの場合、受信部170は、該フラグを記憶部140に格納する。
また、例えば、照合先データ決定部322が商品DB31内に含まれるテーブルから、照合先データとして使用するデータからなるビューを生成し、照合先データを示す情報として、受信部170に該ビューの場所を送信したとする。この場合、受信部170は、該ビューの場所(ビューの名前)を記憶部140に格納してもよい。
なお、本実施の形態では、受信部170が照合先データそのものを、受信するとして説明を行う。また、受信部170は、受信した照合先データを、画像認識部130に直接出力してもよい。
画像認識部130は、各実施の形態において説明した画像認識部130と同様に、撮像装置20から受信した画像を用いて、限定された照合先データから撮影された画像に含まれる認識対象商品を認識し、認識結果を出力する。
(商品DB管理装置32の処理の流れ)
次に、商品DB管理装置32の処理の流れについて説明する。なお、商品DB管理装置32の処理の流れは、図3に示すフローチャートと同様であるため、図3を参照して説明する。
まず、商品DB管理装置32のデータ処理部321が、POSシステム50から商品データを受信する(ステップS31)。
そして、データ処理部321が、受信した商品データに基づいて、店舗毎に、店舗で販売される各商品の数量(例えば、商品毎の売上数、仕入数、発注数、検品済数、陳列数等)を算出する(ステップS32)。
その後、照合先データ決定部322が、店舗毎に、各商品に関する数量に基づいて、商品DB31の照合先データを限定する(ステップS33)。具体的には、照合先データ決定部322は、商品DB31から、ステップS32で算出した各商品に関する数量に基づいて、画像認識装置14が画像認識を行う際に照合先として使用する照合先データそのものを画像認識装置14に送信する。
以上で、商品DB管理装置32は、照合先データ決定処理を終了する。
(画像認識装置14の処理の流れ)
次に、図14を参照して、本実施の形態に係る画像認識装置14における画像認識処理について説明する。図14は、本実施の形態に係る画像認識装置14における画像認識処理の流れの一例を示すフローチャートである。
図14に示す通り、まず、画像認識部130が、撮像装置20から撮影画像データを受信する(ステップS141)。
また、受信部170が、商品DB管理装置32から、限定された照合先データまたは照合先データを示す情報を受信する(ステップS142)。
次に、受信した照合先データに基づいて、画像認識部130は撮影画像データによって表される撮影画像の画像認識を行う(ステップS143)。
そして、画像認識部130が、認識結果を出力する(ステップS144)。
以上で、画像認識装置14は、画像認識処理を終了する。
なお、画像認識装置14は、上述した照合先データ決定処理と、画像認識処理とを、同期させて実行してもよいし、非同期で実行してもよい。例えば、画像認識装置14は、照合先データ決定処理を、画像認識処理を行う直前に実行してもよい。
また、例えば、画像認識装置14は、照合先データ決定処理を、画像認識処理の実行時間に拘らず、予め定められた時間に実行してもよい。
(効果)
以上により、本実施の形態に係る画像認識システム2は、上述した第1の実施の形態に係る画像認識システム1と同様の効果を得ることができる。
<第6の実施の形態>
次に、本発明の第6の実施の形態について、図面を参照して説明を行う。なお、説明の便宜上、前述した各実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。
本実施の形態では、上述した商品DB管理装置32が限定した照合先データを、更に、画像認識装置が、撮影された棚に関する情報を用いて限定することについて説明を行う。
本実施の形態に係る画像認識システム2は、上述した第5の実施の形態に係る画像認識システム2の画像認識装置14に代えて画像認識装置15を含む。本実施の形態に係る画像認識システム2のその他の構成は、図12に示す通り、上述した第5の実施の形態に係る画像認識システム2と同様である。
本実施の形態においては、第2の実施の形態と同様に、撮像装置20が撮影した画像を示す撮影画像データには、どの商品棚を撮影した撮影画像データであるかを示す撮影棚情報を含む。
(画像認識装置15および商品DB管理装置32の機能構成について)
次に、図15を参照して、本実施の形態に係る画像認識装置15および商品DB管理装置32の機能構成について説明する。図15は、本実施の形態に係る画像認識装置15および商品DB管理装置32の機能構成の一例を示す機能ブロック図である。
図15に示す通り、本実施の形態に係る画像認識装置15は、データ処理部111と、照合先データ決定部(第2のデータ決定部)120と、画像認識部130と、記憶部140と、受信部170とを備えている。また、商品DB管理装置32は、データ処理部321と、照合先データ決定部(第1のデータ決定部)322と、商品DB31と、を備えている。
なお、本実施の形態に係る商品DB管理装置32の機能および動作は、上述した第5の実施の形態に係る商品DB管理装置32と同様であるため、説明を省略する。
本実施の形態に係る画像認識装置15の各部材の動作について、図16のフローチャートを参照して説明する。図16は、本実施の形態に係る画像認識装置15における画像認識処理の流れの一例を示すフローチャートである。
図16に示す通り、まず、データ処理部111が、POS端末21および/またはその他の装置から商品データを受信する(ステップS161)。また、画像認識部130が撮影画像データを受信する(ステップS162)。また、データ処理部111が上記撮影画像データの撮影棚情報を受信する(ステップS163)。なお、データ処理部111は、撮影画像データ全体を受信してもよい。受信部170が、商品DB管理装置32から、限定された照合先データまたは照合先データを示す情報を受信する(ステップS164)。
なお、ステップS161からステップS164は、どのような順番で行われてもよい。また、ステップS161からステップS164は、同時に行われてもよい。
そして、データ処理部111が、受信した商品データに基づいて、店舗で販売される商品であって、撮影された商品棚に陳列される可能性がある各商品に関する数量を算出する(ステップS165)。なお、このステップS165は、ステップS164の前に行われてもよいし、ステップS164と同時に行われてもよい。
その後、照合先データ決定部120が、ステップS165にて算出された各商品の数量に基づいて、ステップS164にて受信した限定された照合先データ、または、受信した情報によって示される、限定された照合先データを更に限定する(ステップS166)。
そして、照合先データ決定部120がステップS166において限定した照合先データを用いて、画像認識部130は、撮影画像データによって表される撮影画像の画像認識を行う(ステップS167)。
そして、画像認識部130は、認識結果を出力する(ステップS168)。
以上で、画像認識装置15は、画像認識処理を終了する。
なお、照合先データ決定部120は、商品DB31から、商品の種類に基づいて、照合先データを限定してもよい。
本実施の形態に係る画像認識システム2によれば、上述した画像認識システム1と同様の効果を得ることができる。更に、本実施の形態に係る画像認識システム2によれば、商品DB管理装置32が限定した照合先データを更に、画像認識装置15において限定するため、認識精度をより高めることができる。
<第7の実施の形態>
次に、本発明の第7の実施の形態について、図面を参照して説明を行う。なお、説明の便宜上、前述した各実施の形態で説明した図面に含まれる部材と同じ機能を有する部材については、同じ符号を付し、その説明を省略する。
本実施の形態に係る画像認識システム1は、上述した第1の実施の形態に係る画像認識システム1の画像認識装置10に代えて画像認識装置16を含む。本実施の形態に係る画像認識システム1のその他の構成は、図1に示す通り、上述した第1の実施の形態に係る画像認識システム1と同様である。
上述した各実施の形態に係る画像認識装置では、認識精度を向上させるために、照合先データを限定したが、本実施の形態では、照合先データを限定せずに認識精度を向上させる方法について説明する。
図17は、本実施の形態に係る画像認識装置16の機能構成の一例を示す図である。画像認識装置16は、図17に示す通り、画像認識部136と、算出部150と、補正部160とを備えている。また、画像認識装置16は、データ処理部110を更に備えていてもよい。また、データ処理部110は、算出部150に内蔵されていてもよい。
データ処理部110は、上述したデータ処理部110と同様に、POS端末21および/またはその他の装置から商品データを受信する。そして、データ処理部110は、商品データに含まれる売上情報、仕入情報および発注情報に基づいて、店舗で販売される各商品に関する数量を算出する。データ処理部110は、算出した数量(商品数情報)を算出部150に出力する。
算出部150は、第3の実施の形態における算出部1222の機能を有する。算出部150は、データ処理部110から、データ処理部110が算出した商品数情報を受信する。算出部150は、受信した商品数情報に基づいて、算出部150を備える画像認識装置16が設置された店舗で販売されている各商品に対する事前確率を算出する。算出部150による事前確率の算出方法は、上述した算出部1222と同様であるため、説明を省略する。算出部150は、算出した事前確率を、補正部160に出力する。なお、算出部150は、図示しない記憶装置に、算出した事前確率を、該事前確率の算出の対象となる商品を示す情報(例えば、商品名)に関連付けて、格納してもよい。
画像認識部136は、撮像装置20から撮影画像データを受信する。そして、画像認識部136は、受信した撮影画像データによって表される画像(対象画像)の画像認識を、複数の商品に関する情報を記憶する商品DB31を用いて行う。画像認識部136は、認識結果を第1の認識結果として、補正部160に出力する。画像認識部136が出力する第1の認識結果は、上述した認識部1321が出力する第1の認識結果と同様の形式であるとする。つまり、画像認識部136が出力する第1の認識結果には、撮影画像データによって表される撮影画像に含まれる商品の夫々に対し、商品毎の認識スコアが含まれる。
補正部160は、第3の実施の形態における補正部1322の機能を有する。補正部160は、画像認識部136から第1の認識結果を受信する。また、補正部160は、算出部150から商品毎の事前確率を取得する。そして、補正部160は、取得した事前確率を用いて、第1の認識結果を補正し、補正した認識結果(第2の認識結果)を、画像認識装置16の認識結果として出力する。
なお、補正部160による、認識結果の補正の方法は、上述した補正部1322と同様であるため説明を省略する。
(画像認識装置16の処理の流れ)
次に、図18を参照して、画像認識装置16の処理の流れについて説明する。図18は、本実施の形態に係る画像認識装置16における画像認識処理の流れの一例を示すフローチャートである。
図18に示す通り、まず、データ処理部110が、POS端末21および/またはその他の装置から商品データを受信する(ステップS181)。また、画像認識部136が撮影画像データを受信する(ステップS182)。なお、ステップS181とステップS182とは同時に行われてもよしい、逆順で行われてもよい。
そして、データ処理部110が、受信した商品データに基づいて、店舗で販売される各商品の数量(例えば、商品毎の売上数、仕入数、発注数、検品済数、陳列数等)を算出する(ステップS183)。
その後、算出部150が、各商品に関する数量に基づいて、各商品に対する事前確率を算出する(ステップS184)。
また、画像認識部136は、撮影画像データによって表される撮影画像の画像認識を行う(ステップS185)。なお、ステップS185は、ステップS182の後であればよい。
次に、算出部150がステップS184で算出した事前確率に基づいて、補正部160は、画像認識部136がステップS185で認識した結果(第1の認識結果)を、補正する(ステップS186)。
そして、補正部160が、補正した認識結果(第2の認識結果)を、画像認識装置16の認識結果として出力する(ステップS187)。
以上で、画像認識装置16は、画像認識処理を終了する。
なお、図18のフローチャートでは、画像認識装置16の各部の処理を一連の処理として説明を行ったが、画像認識を行う処理(ステップS182、S185〜ステップS187)と、事前確率を算出する処理(ステップS181、S183、S184)とは、異なるタイミングで行われるものであってもよい。
以上のように、本実施の形態に係る画像認識装置16の算出部150は、算出部1222と同様に、在庫数が他の商品より多い商品に対する認識スコアが、他の商品に対する認識スコアよりも高くなるように、事前確率を算出する。そして、補正部160は、補正部1322と同様に、撮影された画像に含まれる認識対象商品に対する認識結果を、事前確率に基づいて補正する。
このように、本実施の形態に係る画像認識装置16は、画像認識の結果を、事前確率を用いて補正することにより、例えば、在庫数が他の商品より多い商品を認識されやすくすることができる。これにより、本実施の形態に係る画像認識装置16によれば、在庫が無い商品に認識されることを防ぐことができる。したがって、本実施の形態に係る画像認識装置16は、認識精度を高めることができる。
<第8の実施の形態>
次に、本発明の第8の実施の形態について説明する。本実施の形態では、本発明の課題を解決する最小の構成であって、上述した第1から第4の実施の形態における画像認識装置の基本となる構成について説明を行う。
図19は、本実施の形態に係る画像認識装置100の機能構成を示す図である。画像認識装置100は、図19に示す通り、データ決定部101と、画像認識部102とを備えている。
データ決定部101は、上述した照合先データ決定部(120、122)に相当する。データ決定部101は、店舗で販売される商品に関する商品データを、例えば、POS端末等から受信する。データ決定部101は、複数の商品に関する情報を記憶するデータベース(商品DB31)から、受信した商品データに基づいて、照合先のデータである照合先データを限定する。データ決定部101は、限定した照合先データを、画像認識部102に出力する。
画像認識部102は、上述した画像認識部(130、132)に相当する。画像認識部102は、データ決定部101から限定された照合先データを受信する。そして、画像認識部102は、店舗で撮影された撮影画像を用いて、限定された照合先データから撮影画像に含まれる認識対象商品を認識する。
これにより、本実施の形態に係る画像認識装置100は、照合先データと認識対象商品と照合することにより、認識対象商品を認識することができる。照合を行う照合先のデータ数が多いと、認識結果にばらつきが出てしまい、認識精度が低下してしまう。しかしながら、本実施の形態に係る画像認識装置100が限定する照合先データに含まれる商品は、商品DB31に含まれる商品より数が少ない。したがって、本実施の形態に係る画像認識装置100は、認識精度を高めることができる。
また、本実施の形態に係る画像認識装置100は、複数の商品に関する情報を記憶する商品DB31に含まれる商品に関するデータ全部と、認識対象商品とを照合する場合に比べ、照合に掛かる時間を削減することができる。更に、本実施の形態に係る画像認識装置100によれば、画像認識を行う際に、商品DB31を含む装置との通信量を減らすことができる。
<第9の実施の形態>
次に、本発明の第9の実施の形態について説明する。本実施の形態では、上述した第5および第6の実施の形態における画像認識システムの基本となる構成について説明を行う。
図20は、本実施の形態に係る画像認識システム3の機能構成を示す図である。画像認識システム3は、図20に示す通り、画像認識装置103と、データベース管理装置105と、撮像装置20と、を備えている。画像認識装置103は、画像認識部104を備えている。また、データベース管理装置105は、データ決定部(第1のデータ決定部)106を備えている。
撮像装置20は、上述した第5および第6の実施の形態における撮像装置20と同様の機能を有する。撮像装置20は、店舗で販売される商品を撮影する。撮像装置20は撮影した画像(撮影画像)を、画像認識装置103に出力する。
データベース管理装置105は、複数の商品に関する情報を記憶するデータベース(商品DB31)を管理する。データベース管理装置105が備えるデータ決定部106は、上述した照合先データ決定部322に相当する。データ決定部106は、店舗で販売される商品に関する商品データを、例えば、POS端末等から受信する。データ決定部106は、商品DB31から、受信した商品データに基づいて、照合先のデータである照合先データを限定する。データ決定部106は、限定した照合先データを、画像認識部104に出力する。
画像認識装置103は、撮像装置20によって撮影された撮影画像を受信する。画像認識装置103の画像認識部104は、上述した画像認識部130に相当する。画像認識部104は、データ決定部106から限定された照合先データを受信する。そして、画像認識部104は、撮影画像を用いて、限定された照合先データから撮影画像に含まれる認識対象商品を認識する。
これにより、本実施の形態に係る画像認識システム3は、照合先データと認識対象商品と照合することにより、認識対象商品を認識することができる。照合を行う照合先のデータ数が多いと、認識結果にばらつきが出てしまい、認識精度が低下してしまう。しかしながら、本実施の形態に係る画像認識システム3が限定する照合先データに含まれる商品は、商品DB31に含まれる商品より数が少ない。したがって、本実施の形態に係る画像認識システム3は、認識精度を高めることができる。
<ハードウェアの構成例>
ここで、上述した各実施の形態に係る画像認識装置(10〜16、100、103)、商品DB管理装置(30、32)およびデータベース管理装置105を実現可能なハードウェアの構成例について説明する。上述した画像認識装置(10〜16、100、103)、商品DB管理装置(30、32)およびデータベース管理装置105は、専用の装置として実現してもよいが、コンピュータ(情報処理装置)を用いて実現してもよい。
図21は、本発明の各実施の形態を実現可能なコンピュータ(情報処理装置)のハードウェア構成を例示する図である。
図21に示した情報処理装置(コンピュータ)300のハードウェアは、以下に示す部材を備える。
・CPU(Central Processing Unit)311、
・通信インタフェース(I/F)312、入出力ユーザインタフェース313、
・ROM(Read Only Memory)314、
・RAM(Random Access Memory)315、
・記憶装置317、及び
・コンピュータ読み取り可能な記憶媒体319のドライブ装置318。
また、これらはバス316を介して接続されている。入出力ユーザインタフェース313は、入力デバイスの一例であるキーボードや、出力デバイスとしてのディスプレイ等のマンマシンインタフェースである。通信インタフェース312は、上述した各実施の形態に係る装置(図2、図5、図7、図10、図13、図15、図17、図19および図20)が、外部装置と、通信ネットワーク200を介して通信するための一般的な通信手段である。係るハードウェア構成において、CPU311は、各実施の形態に係る画像認識装置(10〜16、100、103)、商品DB管理装置(30、32)およびデータベース管理装置105を実現する情報処理装置300について、全体の動作を司る。
上述した各実施の形態は、例えば、上記各実施の形態において説明した処理を実現可能なプログラム(コンピュータプログラム)を、図21に示す情報処理装置300に対して供給した後、そのプログラムを、CPU311に読み出して実行することによって達成される。なお、係るプログラムは、例えば、上記各実施の形態において説明した各種処理や、或いは、図2、図5、図7、図10、図13、図15、図17、図19および図20に示したブロック図において当該装置内に示した各部(各ブロック)を実現可能なプログラムであってもよい。
また、情報処理装置300内に供給されたプログラムは、読み書き可能な一時記憶メモリ(315)またはハードディスクドライブ等の不揮発性の記憶装置(317)に格納されてもよい。即ち、記憶装置317において、プログラム群317Aは、例えば、上述した各実施の形態における画像認識装置(10〜16、100、103)、商品DB管理装置(30、32)およびデータベース管理装置105内に示した各部の機能を実現可能なプログラムである。また、各種の記憶情報317Bは、例えば、上述した各実施の形態における認識結果、照合先DB、商品データ、事前確率、商品数情報等である。ただし、情報処理装置300へのプログラムの実装に際して、個々のプログラムモジュールの構成単位は、ブロック図(図2、図5、図7、図10、図13、図15、図17、図19および図20)に示した各ブロックの区分けには限定されず、当業者が実装に際して適宜選択してよい。
また、前記の場合において、当該装置内へのプログラムの供給方法は、以下のような現在では一般的な手順を採用することができる。
・CD(Compact Disc)−ROM、フラッシュメモリ等のコンピュータ読み取り可能な各種の記録媒体(319)を介して当該装置内にインストールする方法、
・インターネット等の通信回線(200)を介して外部よりダウンロードする方法。
そして、このような場合において、本発明の各実施の形態は、係るコンピュータプログラムを構成するコード(プログラム群317A)或いは係るコードが格納された記憶媒体(319)によって構成されると捉えることができる。
また、図2、図5、図7、図10、図13、図15、図17、図19および図20に示した各ブロックに示す機能は、一部または全部を、ハードウェアの回路として実現してもよい。
以上、本発明を、上述した模範的な実施の形態に適用した例として説明した。しかしながら、本発明の技術的範囲は、上述した各実施の形態に記載した範囲には限定されない。当業者には、係る実施の形態に対して多様な変更または改良を加えることが可能であることは明らかである。そのような場合、係る変更または改良を加えた新たな実施の形態も、本発明の技術的範囲に含まれ得る。そしてこのことは、請求の範囲に記載した事項から明らかである。
この出願は、2015年3月16日に出願された日本出願特願2015−052216を基礎とする優先権を主張し、その開示の全てをここに取り込む。
1 画像認識システム
2 画像認識システム
3 画像認識システム
10 画像認識装置
11 画像認識装置
12 画像認識装置
13 画像認識装置
14 画像認識装置
15 画像認識装置
16 画像認識装置
20 撮像装置
21 POS端末
30 商品DB管理装置
31 商品DB
32 商品DB管理装置
40 ネットワーク
50 POSシステム
100 画像認識装置
101 データ決定部
102 画像認識部
103 画像認識装置
104 画像認識部
105 データベース管理装置
106 データ決定部
110 データ処理部
111 データ処理部
120 照合先データ決定部
122 照合先データ決定部
1221 決定部
1222 算出部
130 画像認識部
132 画像認識部
1321 認識部
1322 補正部
136 画像認識部
140 記憶部
141 記憶部
150 算出部
160 補正部
170 受信部
321 データ処理部
322 照合先データ決定部

Claims (12)

  1. 店舗で販売される商品に関する商品データに基づいて、複数の商品に関する情報を記憶するデータベースから、照合先のデータである照合先データを限定するデータ決定手段と、
    前記店舗で撮影された画像を用いて、前記限定された照合先データから前記撮影された画像に含まれる認識対象商品を認識する画像認識手段と、
    備え、
    前記データ決定手段は、商品の在庫数が他の商品より多い商品に対する、認識結果の確からしさを示す認識スコアが、前記他の商品に対する認識スコアよりも高くなるように制御する
    システム。
  2. 前記データ決定手段は、前記店舗で販売される各商品に関する数量に基づいて、前記照合先データを限定する、
    請求項1に記載のシステム。
  3. 前記データ決定手段は、前記商品の在庫数に基づいて、該商品の所定の範囲内の商品の総数に対する割合を算出する算出手段を備え、
    前記画像認識手段は、前記撮影された画像に含まれる認識対象商品に対する認識結果を、前記算出手段によって算出された前記割合に基づいて補正する補正手段を備え、
    前記算出手段は、在庫数が他の商品より多い商品に対する前記認識スコアが、前記他の商品に対する認識スコアよりも高くなるように、前記割合を算出する、
    請求項1又は2に記載のシステム。
  4. 前記補正手段は、最も高い値の前記認識スコアが所定の閾値より低い場合、および、最も高い値の前記認識スコアと次に高い値の認識スコアとの差が所定の値より小さい場合の少なくとも何れかの場合のとき、前記割合に基づいて前記認識結果を補正する、
    請求項3に記載のシステム。
  5. 前記データ決定手段は、前記データベースから、前記店舗における在庫数がゼロの商品を削除したデータベースを作成することにより、前記照合先データを限定し、
    前記画像認識手段は、前記データ決定手段が作成したデータベースを用いて、前記撮影された画像に含まれる商品を認識する、
    請求項1から4の何れか1項に記載のシステム。
  6. 前記データ決定手段は、所定のタイミングで前記照合先データを更新する、
    請求項1から5の何れか1項に記載のシステム。
  7. 前記商品データを受信するデータ処理手段を更に備え、
    前記データ処理手段は、前記商品データに含まれる売上情報、仕入情報および発注情報の少なくとも何れかに基づいて、前記店舗で販売される各商品に関する前記数量を算出する、
    請求項2に記載のシステム。
  8. 前記撮影された画像には、撮影された店舗内の棚の位置が含まれており、
    前記データ決定手段は、前記棚の位置と、該棚に陳列される可能性がある商品を示す情報と、前記商品データとに基づいて、前記照合先データを、該棚に陳列される可能性がある商品に限定する、
    請求項1から7の何れか1項に記載のシステム。
  9. 前記データ決定手段によって限定された前記照合先データを示す情報を格納する記憶手段を更に備える、
    請求項1から8の何れか1項に記載のシステム。
  10. 店舗で撮影された画像を用いて、複数の商品に関する情報を記憶するデータベースから、前記撮影された画像に含まれる認識対象商品を認識する画像認識手段と、
    前記店舗で販売される商品に関する商品データに基づいて、該商品の所定の範囲内の商品の総数に対する割合を算出する算出手段と、
    前記撮影された画像に含まれる認識対象商品に対する認識結果を、前記算出手段によって算出された前記割合に基づいて補正する補正手段と、を備え、
    前記算出手段は、在庫数が他の商品より多い商品に対する、前記認識結果の確からしさを示す認識スコアが、前記他の商品に対する認識スコアよりも高くなるように、前記割合を算出する、
    システム。
  11. 店舗で販売される商品に関する商品データに基づいて、複数の商品に関する情報を記憶するデータベースから、照合先のデータである照合先データを限定し、
    前記店舗で撮影された画像を用いて、前記限定された照合先データから前記撮影された画像に含まれる認識対象商品を認識し、
    商品の在庫数が他の商品より多い商品に対する、認識結果の確からしさを示す認識スコアが、前記他の商品に対する認識スコアよりも高くなるように制御する、
    画像認識方法。
  12. 店舗で販売される商品に関する商品データに基づいて、複数の商品に関する情報を記憶するデータベースから、照合先のデータである照合先データを限定するデータ決定処理と、
    前記店舗で撮影された画像を用いて、前記限定された照合先データから前記撮影された画像に含まれる認識対象商品を認識する画像認識処理と、
    商品の在庫数が他の商品より多い商品に対する、認識結果の確からしさを示す認識スコアが、前記他の商品に対する認識スコアよりも高くなるように制御する処理と、をコンピュータに実行させる、プログラム。
JP2017506072A 2015-03-16 2016-03-09 システム、画像認識方法、および、プログラム Active JP6729553B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015052216 2015-03-16
JP2015052216 2015-03-16
PCT/JP2016/001291 WO2016147612A1 (ja) 2015-03-16 2016-03-09 画像認識装置、システム、画像認識方法、および、記録媒体

Publications (2)

Publication Number Publication Date
JPWO2016147612A1 JPWO2016147612A1 (ja) 2018-01-11
JP6729553B2 true JP6729553B2 (ja) 2020-07-22

Family

ID=56919550

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017506072A Active JP6729553B2 (ja) 2015-03-16 2016-03-09 システム、画像認識方法、および、プログラム

Country Status (3)

Country Link
US (1) US20180293635A1 (ja)
JP (1) JP6729553B2 (ja)
WO (1) WO2016147612A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6915314B2 (ja) * 2017-03-09 2021-08-04 日本電気株式会社 情報処理装置、制御方法、及びプログラム
JP7036548B2 (ja) * 2017-07-21 2022-03-15 東芝テック株式会社 画像処理装置、情報処理装置、システム及びプログラム
JP7318039B2 (ja) * 2017-07-21 2023-07-31 東芝テック株式会社 画像処理装置、情報処理装置、システム及びプログラム
JP6579456B1 (ja) * 2018-05-31 2019-09-25 株式会社マーケットヴィジョン 検索対象情報絞込システム
JP6861421B2 (ja) * 2019-08-06 2021-04-21 株式会社マーケットヴィジョン 画像処理システム
CN110619354A (zh) * 2019-08-27 2019-12-27 广州伊思高科技有限公司 一种无人售货柜图像识别系统及方法
JP7147122B2 (ja) * 2020-05-12 2022-10-05 株式会社シプソル 検品装置

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7693757B2 (en) * 2006-09-21 2010-04-06 International Business Machines Corporation System and method for performing inventory using a mobile inventory robot
US8630924B2 (en) * 2007-08-31 2014-01-14 Accenture Global Services Limited Detection of stock out conditions based on image processing
US8189855B2 (en) * 2007-08-31 2012-05-29 Accenture Global Services Limited Planogram extraction based on image processing
JP2009187482A (ja) * 2008-02-08 2009-08-20 Nippon Sogo System Kk 棚割再現方法、棚割再現プログラム、棚割評価方法、棚割評価プログラム及び記録媒体
JP2009214949A (ja) * 2008-03-07 2009-09-24 Toshiba Tec Corp 物品管理システム及び情報処理装置
JP2010006557A (ja) * 2008-06-27 2010-01-14 Toshiba Tec Corp 物品管理システム
US20120016856A1 (en) * 2010-07-15 2012-01-19 Google Inc Content extractor
US8392261B2 (en) * 2010-07-15 2013-03-05 Google Inc. Local shopping and inventory
JP5194149B2 (ja) * 2010-08-23 2013-05-08 東芝テック株式会社 店舗システムおよびプログラム
US8953570B2 (en) * 2010-11-23 2015-02-10 Symbol Technologies, Inc. Radio frequency identification system and related operating methods
JP5984096B2 (ja) * 2011-08-30 2016-09-06 ディジマーク コーポレイション 物体を識別する方法及び機構
JP5194160B1 (ja) * 2011-10-19 2013-05-08 東芝テック株式会社 情報処理装置、情報処理方法及びプログラム
US10134056B2 (en) * 2011-12-16 2018-11-20 Ebay Inc. Systems and methods for providing information based on location
JP5612645B2 (ja) * 2012-09-06 2014-10-22 東芝テック株式会社 情報処理装置及びプログラム
JP2014153894A (ja) * 2013-02-07 2014-08-25 Toshiba Tec Corp 情報処理装置及びプログラム
US10438157B2 (en) * 2013-06-26 2019-10-08 Verint Americas Inc. System and method of customer interaction monitoring
JP6122805B2 (ja) * 2013-07-16 2017-04-26 東芝テック株式会社 情報処理装置及びプログラム
US9473747B2 (en) * 2013-07-25 2016-10-18 Ncr Corporation Whole store scanner
JP6529078B2 (ja) * 2013-09-06 2019-06-12 日本電気株式会社 顧客行動分析システム、顧客行動分析方法、顧客行動分析プログラム及び棚システム
CN105580040A (zh) * 2013-09-06 2016-05-11 日本电气株式会社 销售促进系统、销售促进方法、非瞬时计算机可读介质和货架系统
US9338603B2 (en) * 2013-09-30 2016-05-10 Qualcomm Incorporated Location based brand detection
US20150262116A1 (en) * 2014-03-16 2015-09-17 International Business Machines Corporation Machine vision technology for shelf inventory management
JP6329840B2 (ja) * 2014-07-30 2018-05-23 東芝テック株式会社 認識辞書管理装置及びプログラム
US10212319B1 (en) * 2014-11-04 2019-02-19 Amazon Technologies, Inc. Camera positioning fixture
US9443164B2 (en) * 2014-12-02 2016-09-13 Xerox Corporation System and method for product identification
US10169677B1 (en) * 2014-12-19 2019-01-01 Amazon Technologies, Inc. Counting stacked inventory using image analysis
US9569851B2 (en) * 2014-12-23 2017-02-14 Ricoh Co., Ltd. Sequencing products recognized in a shelf image
US9442958B2 (en) * 2014-12-24 2016-09-13 International Business Machines Corporation Product identification via image analysis

Also Published As

Publication number Publication date
WO2016147612A1 (ja) 2016-09-22
JPWO2016147612A1 (ja) 2018-01-11
US20180293635A1 (en) 2018-10-11

Similar Documents

Publication Publication Date Title
JP6729553B2 (ja) システム、画像認識方法、および、プログラム
CN106446816B (zh) 人脸识别方法及装置
JP6619634B2 (ja) 画像処理装置及び画像処理方法
CN108389316B (zh) 自动售货方法、装置和计算机可读存储介质
JP6962356B2 (ja) 画像処理装置、表示制御装置、画像処理方法、および、記録媒体
US8773467B2 (en) Enhanced asset management and planning system
JP6619635B2 (ja) 画像処理装置及び画像処理方法
US20190188729A1 (en) System and method for detecting counterfeit product based on deep learning
US10748007B2 (en) Identifying objects in an image
US20130022244A1 (en) Image processing apparatus and image processing method
US20200265238A1 (en) Methods and Systems for Identification and Augmentation of Video Content
CN105787133A (zh) 广告信息过滤方法及装置
CN110490237B (zh) 数据处理方法、装置、存储介质及电子设备
US20210044420A1 (en) Method for linking block-chain using hyper-chain, and apparatus therefor
US9269118B2 (en) Device, method, and program for extracting abnormal event from medical information
US20150278656A1 (en) Job discrimination method and device
US11080173B2 (en) Boundary search test support device and boundary search test support method
JP6635208B1 (ja) 検索装置、検索方法、およびプログラム
JP6700146B2 (ja) 評価値に基づいて推奨するコンテンツを決定するシステム
CN116071590A (zh) 模型训练方法、系统、计算机设备以及存储介质
KR102084564B1 (ko) 얼굴인식 사진 공유 시스템 및 방법
JP5188290B2 (ja) アノテーション装置、アノテーション方法およびプログラム
CN112711703A (zh) 用户标签获取方法、装置、服务器及存储介质
CN110647826A (zh) 商品训练图片的获取方法、装置、计算机设备和存储介质
JP6844681B2 (ja) 検索装置、検索方法、およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170905

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200615

R150 Certificate of patent or registration of utility model

Ref document number: 6729553

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150