JP2020047051A - 情報取得システム、制御装置及び情報取得方法 - Google Patents

情報取得システム、制御装置及び情報取得方法 Download PDF

Info

Publication number
JP2020047051A
JP2020047051A JP2018176035A JP2018176035A JP2020047051A JP 2020047051 A JP2020047051 A JP 2020047051A JP 2018176035 A JP2018176035 A JP 2018176035A JP 2018176035 A JP2018176035 A JP 2018176035A JP 2020047051 A JP2020047051 A JP 2020047051A
Authority
JP
Japan
Prior art keywords
information acquisition
images
information
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018176035A
Other languages
English (en)
Other versions
JP6780682B2 (ja
Inventor
二徳 高田
Nitoku Takada
二徳 高田
秀雄 横井
Hideo Yokoi
秀雄 横井
岩元 浩太
Kota Iwamoto
浩太 岩元
壮馬 白石
Soma Shiraishi
壮馬 白石
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2018176035A priority Critical patent/JP6780682B2/ja
Priority to US17/276,217 priority patent/US11450119B2/en
Priority to PCT/JP2019/035658 priority patent/WO2020059587A1/ja
Publication of JP2020047051A publication Critical patent/JP2020047051A/ja
Application granted granted Critical
Publication of JP6780682B2 publication Critical patent/JP6780682B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/12Cash registers electronically operated
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/772Determining representative reference patterns, e.g. averaging or distorting patterns; Generating dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/22Character recognition characterised by the type of writing
    • G06V30/224Character recognition characterised by the type of writing of printed characters having additional code marks or containing code marks
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07GREGISTERING THE RECEIPT OF CASH, VALUABLES, OR TOKENS
    • G07G1/00Cash registers
    • G07G1/0036Checkout procedures

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Image Analysis (AREA)
  • Cash Registers Or Receiving Machines (AREA)
  • Studio Devices (AREA)

Abstract

【課題】複数の環境条件によって撮影された複数の物体識別用画像を効率よく取得することができる情報取得システムを提供すること。【解決手段】対象物を撮影して画像を生成するカメラを含む撮像装置と、複数の異なる環境条件による複数の画像が生成されるように前記撮像装置を制御する制御部と、物体を識別する識別器に入力される対象物情報を取得する情報取得部であって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、情報取得部と、を含む制御装置と、を備える。【選択図】図3

Description

本発明は、情報取得システム、制御装置及び情報取得方法に関する。
特許文献1には、物体認識に用いられる認識辞書の作成のための技術が開示されている。特許文献1の技術は、撮影した画像を回転させてから特徴量を抽出して、角度が異なる複数の特徴量を取得している。これにより、認識辞書を作成するために要する作業量が削減される。
特開2013−246790号公報
物体認識の精度を向上させるためには、多くの異なる画像を取得することが必要となる場合がある。特許文献1には、1つの画像から複数の特徴量を抽出することによる作業量の削減については開示されているものの、複数の画像を効率よく取得することについては開示されていない。
本発明は、複数の環境条件によって撮影された複数の物体識別用画像を効率よく取得することができる情報取得システム、制御装置及び情報取得方法を提供することを目的とする。
本発明の一観点によれば、対象物を撮影して画像を生成するカメラを含む撮像装置と、複数の異なる環境条件による複数の画像が生成されるように前記撮像装置を制御する制御部と、物体を識別する識別器に入力される対象物情報を取得する情報取得部であって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、情報取得部と、を含む制御装置と、を備える、情報取得システムが提供される。
本発明の他の一観点によれば、複数の異なる環境条件による複数の画像が生成されるように撮像装置を制御する制御部と、物体を識別する識別器に入力される対象物情報を取得する情報取得部であって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、情報取得部と、を備える、制御装置が提供される。
本発明の他の一観点によれば、複数の異なる環境条件による複数の画像が生成されるように撮像装置を制御するステップと、物体を識別する識別器に入力される対象物情報を取得するステップであって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、ステップと、を備える、情報取得方法が提供される。
本発明によれば、複数の環境条件によって撮影された複数の物体識別用画像を効率よく取得することができる情報取得システム、制御装置及び情報取得方法を提供することができる。
第1実施形態に係る情報取得システムの全体構成を示すブロック図である。 第1実施形態に係る制御装置のハードウェア構成例を示すブロック図である。 第1実施形態に係る制御装置及び撮像装置の機能ブロック図である。 第1実施形態に係る撮像装置の外観を模式的に示す図である。 第1実施形態に係る制御装置により行われる対象物情報の取得処理を示すフローチャートである。 第1実施形態に係る情報取得システムにより取得される情報の例を示す表である。 第1実施形態に係る識別装置の機能ブロック図である。 第1実施形態に係る識別装置により行われる学習の処理を示すフローチャートである。 第1実施形態に係る識別装置により行われる識別又は評価の処理を示すフローチャートである。 第2実施形態に係る撮像装置の外観を模式的に示す図である。 第3実施形態に係る撮像装置の外観を模式的に示す図である。 第4実施形態に係る制御装置により行われる画像の取得処理を示すフローチャートである。 第5実施形態に係る商品登録システムの全体構成を示す模式図である。 第5実施形態に係る商品登録装置の機能ブロック図である。 第5実施形態に係る商品登録装置により行われる商品登録の処理を示すフローチャートである。 第6実施形態に係る情報取得システムの機能ブロック図である。
以下、図面を参照して、本発明の例示的な実施形態を説明する。図面において同様の要素又は対応する要素には同一の符号を付し、その説明を省略又は簡略化することがある。
[第1実施形態]
本実施形態に係る情報取得システム10について、図1乃至図6を参照しつつ説明する。本実施形態の情報取得システム10は、物体認識用のプログラムに入力される対象物の画像又は対象物の画像から抽出された特徴量等の情報を取得するためのシステムである。ここで、対象物の画像及び対象物の画像から抽出された特徴量は、より一般的に対象物情報と呼ばれることもある。
図1は、本実施形態に係る情報取得システム10の全体構成を示すブロック図である。情報取得システム10は、互いに通信可能に接続された制御装置100と撮像装置200とを備える。
制御装置100と撮像装置200は、共同して対象物400の対象物情報を取得する。制御装置100は撮像装置200を制御する装置である。撮像装置200は、制御装置100の制御に応じて対象物400を撮影し、対象物400の画像を取得する装置である。対象物400の種類は、物体認識の対象となり得るものであれば特に限定されないが、例えば、小売店において販売される商品であり得る。
識別装置300は、物体の画像から物体の種別等を識別する装置である。識別装置300は、対象物400の画像又は対象物400の画像から抽出された特徴量が入力されて構築される物体認識モデルを用いて物体の識別を行う。この物体識別モデルは、例えば、ディープラーニング等の機械学習モデル、特徴量マッチング技術等に基づいて構築された識別器を含む。
なお、この全体構成は一例であり、例えば、制御装置100と撮像装置200が一体の装置として構成されていてもよく、識別装置300の機能が情報取得システム10の内部に組み込まれていてもよい。
図2は、制御装置100のハードウェア構成例を示すブロック図である。制御装置100は、演算、制御及び記憶を行うコンピュータとして、CPU(Central Processing Unit)151、RAM(Random Access Memory)152、ROM(Read Only Memory)153及びHDD(Hard Disk Drive)154を備える。また、制御装置100は、通信I/F(インターフェース)155、表示装置156及び入力装置157を備える。CPU151、RAM152、ROM153、HDD154、通信I/F155、表示装置156及び入力装置157は、バス158を介して相互に接続される。なお、表示装置156及び入力装置157は、これらの装置を駆動するための不図示の駆動装置を介してバス158に接続されていてもよい。
図2では、制御装置100を構成する各部が一体の装置として図示されているが、これらの機能の一部は外付け装置により提供されるものであってもよい。例えば、表示装置156及び入力装置157は、CPU151等を含むコンピュータの機能を構成する部分とは別の外付け装置であってもよい。
CPU151は、ROM153、HDD154等に記憶されたプログラムに従って所定の演算を行うとともに、制御装置100の各部を制御する機能をも有するプロセッサである。RAM152は、揮発性記憶媒体から構成され、CPU151の動作に必要な一時的なメモリ領域を提供する。ROM153は、不揮発性記憶媒体から構成され、制御装置100の動作に用いられるプログラム等の必要な情報を記憶する。HDD154は、不揮発性記憶媒体から構成され、取得した画像等のデータ、制御装置100の動作用プログラム等の記憶を行う記憶装置である。
通信I/F155は、イーサネット(登録商標)、Wi−Fi(登録商標)、4G等の規格に基づく通信インターフェースであり、他の装置との通信を行うためのモジュールである。表示装置156は、液晶ディスプレイ、OLED(Organic Light Emitting Diode)ディスプレイ等であって、取得した画像、撮影条件の設定、操作入力用のGUI(Graphical User Interface)等の表示に用いられる。入力装置157は、キーボード、ポインティングデバイス等であって、ユーザが制御装置100を操作するために用いられる。ポインティングデバイスの例としては、マウス、トラックボール、タッチパネル、ペンタブレット等が挙げられる。表示装置156及び入力装置157は、タッチパネルとして一体に形成されていてもよい。
なお、図2に示されているハードウェア構成は例示であり、これら以外の装置が追加されていてもよく、一部の装置が設けられていなくてもよい。また、一部の装置が同様の機能を有する別の装置に置換されていてもよい。更に、本実施形態の一部の機能がネットワークを介して他の装置により提供されてもよく、本実施形態の機能が複数の装置に分散されて実現されるものであってもよい。例えば、HDD154は、半導体メモリを用いたSSD(Solid State Drive)に置換されていてもよく、クラウドストレージに置換されていてもよい。
図3は、本実施形態に係る制御装置100及び撮像装置200の機能ブロック図である。制御装置100は、光源制御部101、カメラ制御部102、画像取得部103、特徴量取得部104、表示情報生成部105及び記憶部106を有する。撮像装置200は、光源201及びカメラ202を有する。なお、図3において、光源201及びカメラ202は1個ずつ記載されているが、光源201及びカメラ202はいずれも複数個であり得る。
CPU151は、ROM153、HDD154等に記憶されたプログラムをRAM152にロードして実行する。これにより、CPU151は、光源制御部101、カメラ制御部102、画像取得部103、特徴量取得部104及び表示情報生成部105の機能を実現する。CPU151は、当該プログラムに基づいてHDD154を制御することにより記憶部106の機能を実現する。これらの各部で行われる具体的な処理については後述する。
光源201は、対象物400に撮影用の光を照射する発光装置である。光源201は、白熱電球、蛍光灯、LED(Light Emitting Diode)等の発光素子と、電流供給、調光等の機能を有する駆動回路とを有する。光源201による発光の有無、発光時の光量、発光のタイミング、光の色(光の波長分布)等の光の照射条件は、光源制御部101により制御され得る。
カメラ202は、対象物400を撮影して静止画又は動画の電子データを生成するデジタルカメラ等の装置である。カメラ202は、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の撮像素子、制御回路、信号処理回路等を含んで構成される。カメラ202による撮影の有無、撮影のタイミング、シャッタースピード、絞り値、焦点距離、ISO(International Organization for Standardization)感度等の撮影条件は、カメラ制御部102により制御され得る。
図4は、第1実施形態に係る撮像装置200の外観を模式的に示す図である。撮像装置200は、複数の光源201、複数のカメラ202、フレーム203、載置台204、入力装置設置台205、制御装置設置台206及び複数の車輪207を有する。
載置台204は、撮影時に対象物400を載置するための台である。ユーザは、撮影を行う対象物400を載置台204の上面に載置する。フレーム203は、撮像装置200の骨組みを構成する棒状の部材である。フレーム203は、載置台204の上方において、三次元格子状に組み合わされている。複数のカメラ202は、フレーム203の最上段の互いに異なる位置に設置されている。複数の光源201は、複数のカメラ202と載置台204の間の段において、互いに異なる位置に設置されている。複数の光源201は、載置台204の上の対象物400に光を照射することができる位置に設置される。複数の光源201は、対象物400に互いに異なる角度から光を照射する。複数のカメラ202は、載置台204の上の対象物400を撮影することができる位置に設置される。複数のカメラ202は、対象物400を互いに異なる角度から撮影する。
なお、図4では、複数の光源201及び複数のカメラ202は、対象物400の上方にのみ配されているが、対象物400の側方に配されていてもよい。
入力装置設置台205は、キーボード、マウス等の入力装置157を設置するための台である。入力装置設置台205及びその上に設置された入力装置157は、対象物400を載置台204に載置する際の妨げにならないように、載置台204の下方に収納可能である。
制御装置設置台206は、載置台204の下方に設けられている。制御装置設置台206は、制御装置100を構成するコンピュータの本体を設置するための台である。制御装置設置台206には、光源201に電力を供給する電源装置等の情報取得システム10を構成する装置が設置されていてもよい。
複数の車輪207は、撮像装置200の最下段に設けられている。これにより、撮像装置200の運搬が容易となる。
なお、表示装置156は、図4においては不図示であるが、例えば、フレーム203に取り付けられていてもよく、入力装置設置台205の上に設置されていてもよく、撮像装置200とは別の場所に設置されていてもよい。
図5は、本実施形態に係る制御装置100により行われる対象物情報の取得処理を示すフローチャートである。図5を参照して、制御装置100の動作を説明する。
図5の処理は、ユーザが情報取得システム10を操作して、撮像装置200の制御を開始したときに実行される。ステップS101において、制御装置100は、対象物400を載置台204に載置させるための処理を行う。この処理は、例えば、表示情報生成部105が対象物400を載置台204に載置するようユーザに促すメッセージを含む表示情報を生成し、表示装置156に当該メッセージを表示させるものであり得る。
なお、情報取得システム10の操作手順があらかじめ対象物400を載置台204に載置しておくというものである等、既に対象物400が載置されている場合には、ステップS101の処理は省略され得る。
ステップS102において、光源制御部101は、複数の光源201の各々を制御するための制御信号を生成し、複数の光源201の各々に送信する。これにより、光源制御部101は、光源201の発光の有無、発光時の光量、発光のタイミング、光の色(光の波長分布)等の光の照射条件を制御することができる。
ステップS103において、カメラ制御部102は、複数のカメラ202を制御するための制御信号を生成し、複数のカメラ202の各々に送信する。これにより、カメラ制御部102は、撮影の有無、撮影のタイミング、シャッタースピード、絞り値、焦点距離、ISO感度等の撮影条件を制御することができる。その後、複数のカメラ202は、対象物400の撮影を行い、複数の画像を撮影する。なお、複数のカメラ202による撮影は同時に行われるものであってもよく、順次行われるものであってもよい。なお、光源制御部101及びカメラ制御部102は、いずれも撮像装置200を制御するものであることから、より一般的に制御部と呼ばれることもある。
なお、上述の照射条件、撮影条件はより一般的に環境条件と呼ばれることもある。光源201の照射条件を変えることにより、複数の異なる環境条件による複数の画像が生成され得る。複数のカメラ202は互いに異なる位置に配されているため、複数のカメラ202で撮影された複数の画像は、異なる撮影位置(視点)から撮影された画像となる。言い換えると、複数のカメラ202により、複数の異なる環境条件による複数の画像が撮影されるといえる。なお、環境条件は、あらかじめ設定されていてもよく、ステップS102、S103の段階でユーザにより入力されるものであってもよい。
ステップS104において、画像取得部103は、複数のカメラ202により撮影された複数の画像を取得する。取得された複数の画像は、記憶部106に記憶される。
ステップS105において、CPU151は、あらかじめ設定されている数の画像を取得したか否かを判定する。所定数の画像を取得済みである場合(ステップS105においてYES)、処理はステップS107に移行する。所定数の画像を取得していない場合(ステップS105においてNO)、処理はステップS106に移行する。
ステップS106において、制御装置100は、対象物400の位置を変更させるための処理を行う。この処理は、例えば、表示情報生成部105がユーザに対象物400の位置を動かすよう促すメッセージを含む表示情報を生成し、表示装置156に当該メッセージを表示させるものであり得る。その後、処理はステップS102に戻り、位置が変更された対象物400に対して同様の画像取得が行われる。
なお、ステップS105における判定の基準は画像の数としているが、これは一例であり、これ以外の条件で判定が行われてもよい。例えば、あらかじめ設定されたすべての位置で対象物400の撮像が完了したか否かを判定するものであってもよく、十分な数の画像が取得されたかどうかをユーザに確認して入力させるものであってもよい。
ステップS107において、CPU151は、あらかじめ設定されている数の対象物400を撮影したか否かを判定する。所定数の対象物400を撮影済みである場合(ステップS107においてYES)、処理はステップS109に移行する。所定数の対象物400を撮影していない場合(ステップS107においてNO)、処理はステップS108に移行する。
ステップS108において、制御装置100は、別の対象物400を載置台204に載置させることにより対象物400を変更するための処理を行う。この処理は、例えば、表示情報生成部105がユーザに対象物400を別の物に変えるようユーザに促すメッセージを含む表示情報を生成し、表示装置156に当該メッセージを表示させるものであり得る。その後、処理はステップS102に戻り、変更された対象物400に対して同様の画像取得が行われる。
なお、ステップS107における判定の基準は対象物400の数としているが、これは一例であり、これ以外の条件で判定が行われてもよい。例えば、あらかじめ設定されたすべての対象物400の撮像が完了したか否かを判定するものであってもよく、撮像処理を完了してもよいかどうかをユーザに確認して、完了の可否を入力させるものであってもよい。
ステップS109において、特徴量取得部104は、画像取得部103により取得された複数の画像から特徴量を取得する処理を行う。この特徴量の取得は、例えば、画像に含まれている複数の特徴的な箇所(特徴点)を抽出して、抽出された特徴点の座標群を特徴量として取得する処理であり得る。なお、画像取得部103及び特徴量取得部104は、いずれも対象物情報を取得するものであることから、より一般的に情報取得部と呼ばれることもある。
上述のようにして、複数の画像及び複数の特徴量が取得され、記憶部106に記憶される。図6は、情報取得システム10によって取得され、記憶部106に記憶される情報の例を示す表である。本例では、対象物400は、店舗等で販売される商品であるものとしている。
図6に示されるように、記憶部106には、「商品ID(Identifier)」、「商品名」、「画像」、「特徴量」、「カメラID」、「照射条件」及び「商品位置」が相互に対応付けられた状態で記憶されている。「商品ID」は、商品の識別番号等のIDであり、「商品名」は、商品の名称である。
「画像」は、画像取得部103により取得された複数の画像のファイル名を示している。「画像」は、撮影された対象物400の「商品ID」及び「商品名」と対応付けられて記憶されている。「特徴量」は、特徴量取得部104により取得された複数の特徴量のファイル名を示している。「特徴量」は、特徴量を取得した画像及び対象物400の「商品ID」及び「商品名」と対応付けられて記憶されている。図5に示す処理では、1つの対象物400から複数の画像及び複数の特徴量が取得されるため、図6に示されるように、1つの商品に対して複数の画像及び複数の特徴量が対応付けられている。
「カメラID」は、各画像を撮影したカメラ202を識別するIDである。カメラIDは、撮影条件の1つである。「カメラ1」、「カメラ2」等のカメラIDにより、カメラ202の位置が確定されるため、対象物400を撮影した角度が特定される。図6には、撮影条件としてカメラ202のIDのみが記載されているが、シャッタースピード、絞り値、焦点距離、ISO感度等、カメラID以外の撮影条件が更に記憶されていてもよい。
「照射条件」は、複数の光源201による発光の有無、発光時の光量、発光のタイミング、光の色等の条件であり、撮影条件の1つである。図6には、これらの光源201の条件の組み合わせをまとめた条件群である「レシピ1」、「レシピ2」等のレシピ番号が記載されている。
「商品位置」は、対象物400の載置台204における位置を示している。この位置は、ユーザにより入力されるものであってもよく、複数の画像を解析することにより位置を特定するものであってもよい。図6には、「位置A」のようにあらかじめ定められている位置に対象物400を載置することを前提として、載置位置を示す符号が示されている。しかしながら、別の方法により位置が特定されていてもよく、例えば、載置台204における対象物400の位置座標により位置が特定されていてもよい。
以上、情報取得システム10による対象物情報の取得について説明した。情報取得システム10により取得された対象物情報は、識別装置300に含まれる識別器の学習データ、識別器における識別時の参照データ又は識別器の評価データとして用いられる。識別装置300における処理の概略を図7乃至図9を参照しつつ説明する。
図7は、本実施形態に係る識別装置300の機能ブロック図である。識別装置300は、入力部301、第1識別部302、第2識別部303、統合部304、学習部305、モデル記憶部306及び特徴量記憶部307を有する。識別装置300のハードウェア構成は、制御装置100と同様であるため説明を省略する。また、各部の機能は識別装置300のCPUがプログラムに基づく処理を行うことにより実現される。
入力部301は、識別装置300での識別対象を含む画像が入力される部分である。第1識別部302は、ディープラーニング等のニューラルネットワークにより構築された機械学習モデルを用いて画像中の物体の識別を行う部分である。第2識別部303は、特徴量を用いた画像マッチングにより物体の識別を行う部分である。統合部304は、第1識別部302による識別結果と、第2識別部303による識別結果とを統合して最終的な識別結果を生成する部分である。
学習部305は、第1識別部302の機械学習モデルの学習のために学習用データを記憶部106から取得する等の学習処理の制御を行う部分である。モデル記憶部306は、機械学習モデルの記憶を行う部分である。特徴量記憶部307は、第2識別部303のマッチングに用いられる参照データである特徴量を記憶部106から取得して記憶する部分である。
図8は、本実施形態に係る識別装置300により行われる機械学習モデルの学習の処理を示すフローチャートである。まず、図8を参照して、機械学習モデルの学習の処理を説明する。
図8の処理は、ユーザが識別装置300に対して学習の操作を行ったときに実行される。ステップS101において、学習部305は、識別対象を含む画像を記憶部106から取得する。取得された画像は、第1識別部302に入力され、機械学習モデルの学習用データとして用いられる。なお、本学習処理において、入力された画像を所定の角度だけ回転して得られた画像、複数の画像を合成して得られた画像等の入力された画像を加工することにより得られた画像を用いて学習を行ってもよい。
ステップS202において、第1識別部302は、学習用データを用いて学習を行い、学習の結果が反映されるようにモデルを更新する。このモデルの更新は、例えば、ニューラルネットワークを構成するニューロンの間の重みを変更する処理であり得る。更新されたモデルは、モデル記憶部306に記憶される。
図9は、本実施形態に係る識別装置300により行われる識別又は評価の処理を示すフローチャートである。図9を参照して、識別装置300による識別時又は識別装置300の評価時の処理を説明する。ここで、識別時とは、実際に識別すべき物体の画像を用いてその物体を特定する時点を指しており、評価時とは、1つ又は複数の物体を含むテスト用の画像を用いて正しく物体が特定できるかどうかを評価する時点を指している。なお、ここでの評価とは、テスト用の画像を用いた評価結果に基づいて、より適切な結果が得られるように識別装置300のパラメータを調整することを含んでもよいものとする。識別時の処理と評価時の処理は、目的においては異なるものの、流れは大筋で同様となるので、以下ではこれらをまとめて説明する。
図9の処理は、ユーザが識別装置300に対して識別又は評価の操作を行ったときに実行される。ステップS301において、入力部301は、識別の対象となる画像又は識別装置300の評価用の画像の入力を受け付ける。
ステップS302において、第1識別部302は、モデル記憶部306に記憶されている学習済みの機械学習モデルを用いて、入力された画像に含まれる物体の識別を行う。この識別処理は例えば、入力された画像にりんごが含まれている場合に、その物体がりんごであることを識別するような処理である。あるいは、画像に含まれ得るりんごの品種がいくつかある場合にその物体がりんごであることを識別し、更にそのりんごの品種を特定するものであってもよい。
ステップS303において、第2識別部303は、入力された画像から特徴量を抽出し、特徴量記憶部307に記憶されている特徴量とマッチングを行うことにより、入力された画像に含まれる物体の識別を行う。この識別処理も第1識別部302における処理と同様の識別を行うものであり得る。
ステップS304において、統合部304は、第1識別部302による識別結果と第2識別部303による識別結果とを統合して、最終的な識別結果を生成する。この処理は、第1識別部302と第2識別部303による物体の識別結果を考慮して、物体の種類に応じた適用割合で2つの識別結果を統合するものであり得る。
ディープラーニング等の機械学習は、個体ごとの外観の違いが大きい自然物の識別の精度が高く、特徴量マッチングは、外観が酷似した物体が多種存在する工業製品等の人工物の識別の精度が高い。このように物体の種類に応じて適切なアルゴリズムが異なる場合がある。上述のように、識別装置300は、ディープラーニング等の機械学習に基づく第1識別部302と、特徴量マッチングに基づく第2識別部303とを備えている。識別装置300は、2つのアルゴリズムの出力結果を統合することにより、様々な物体に対して高精度に識別を行うことができる。
本実施形態の情報取得システム10は、複数の異なる環境条件で対象物400を撮影するように撮像装置200を制御する。これにより、複数の環境条件によって撮影された複数の物体識別用画像を効率よく取得することができる。取得された物体識別用画像は、識別装置300に入力され、識別器の学習データ、識別器における識別時の参照データ又は識別器の評価データとして用いられる。物体識別用画像が上述のいずれの用途に用いられる場合であっても、物体識別用画像の数が多いほど識別装置300の高精度化が実現される。したがって、本実施形態の情報取得システム10により効率よく多数の物体識別用画像を取得することにより、識別装置300の高精度化が実現される。
[第2実施形態]
本実施形態の情報取得システム10は、撮像装置200に表示部208が設けられている点で第1実施形態と相違する。以下では主として第1実施形態との相違点について説明するものとし、共通部分については説明を省略又は簡略化する。
図10は、本実施形態に係る撮像装置200の外観を模式的に示す図である。本実施形態において、載置台204は、対象物400を載置する面の一部に表示部208を備えている。
表示部208は、液晶ディスプレイ、OLEDディスプレイ等により構成されており、制御装置100により制御される。表示部208は、制御装置100からの制御に応じて、背景画像を表示することができる。この背景画像の種別は、環境条件の1つであり、制御装置100は、表示部208に表示される背景画像を変えることにより、複数の異なる環境条件による複数の画像を取得するよう制御することができる。
背景画像の例について説明する。背景画像は、対象物400の背景を変えて、対象物400の見え方に変化を与えることができるものであれば、あらゆるものが用いられ得る。背景画像の具体例としては、赤色、青色、白色、黒色等の無地の画像が挙げられる。この場合、背景色を変えた複数の画像を得ることができる。これにより、対象物400の色と背景色との関係によって画像内のコントラストが変化する影響を考慮した学習が可能となる。また、背景画像の輝度値をあらかじめ設定された既知の値としておくことにより、撮影後に画像中の対象物400の色、輝度等を自己補正することができる。
また背景画像の別の例としては、文字、図形等の既知のパターンを表示するものが挙げられる。この場合、既知のパターンの一部が対象物400により隠されるため、対象物400の輪郭が明確になる。これにより、得られた画像から対象物400の領域を切り出して用いる等、既知のパターンを画像処理に活用することができる。
また背景画像の更に別の例としては、グリッドパターン、寸法線等の既知の大きさの図形を表示するものが挙げられる。これにより、得られた画像から対象物400のサイズを計測することができる。
以上のように、本実施形態によれば、背景画像を変えることができる表示部208を備えることにより、複数の異なる背景画像が表示された複数の画像を取得することができる情報取得システム10が提供される。
なお、本実施形態において、表示部208は、ユーザに対する操作ナビゲーションに用いられてもよい。例えば、表示部208は、ステップS106の処理において、対象物400を動かすべき位置又は向きを表示してもよい。具体的には、対象物400の位置又は載置の向きをメッセージ等の文字、矢印、破線等の図形により表示させることで、ユーザに対する操作ナビゲーションが実現される。また、表示部208は、ステップS101又はステップS108の処理において、上述と同様に、対象物400の位置又は載置の向きを表示してもよく、載置すべき対象物400の種類又は名称を表示してもよい。
[第2実施形態の変形例]
上述の第2実施形態における載置台204の構造の変形例として、載置台204の一部が光学的に透明な材料(透明部)に置き換えられていてもよい。すなわち、図10における表示部208の部分が透明部に置き換えられていてもよい。透明部を構成する材料の例としては、プラスチック、ガラス等が挙げられる。本例では、対象物400を上方から撮影した場合に画像の背景を無色(透明)にすることができる。また、カメラ202を載置台204の下方にも設置するように更に変形することにより、透明部を介して対象物400を撮影することができる。これにより、対象物400を裏返すことなく、対象物400の裏側を撮影することができる。
なお、表示部208が透明OLEDディスプレイ等の光透過性を有するディスプレイである場合には、表示部208は、第2実施形態の背景画像を変える機能と、本変形例の透明部の機能とを両立することができる。
[第3実施形態]
本実施形態の情報取得システム10は、撮像装置200に位置変更部209が設けられている点で第1実施形態と相違する。以下では主として第1実施形態との相違点について説明するものとし、共通部分については説明を省略又は簡略化する。
図11は、本実施形態に係る撮像装置200の外観を模式的に示す図である。本実施形態において、撮像装置200は、対象物400の位置を変えるための位置変更部209を備えている。なお、図11において、光源201については図示が省略されている。
位置変更部209は、例えば、図11に示されているようなロボットアームであり、制御装置100により制御される。位置変更部209は、制御装置100からの制御に応じて、対象物400を動かして位置を変えることができる。したがって、ユーザが手動で対象物400を動かさなくても自動的に対象物400の位置を変えることができる。この処理は、図5のステップS106の処理において、対象物400の位置を変更する際に実行される。
本実施形態によれば、対象物400の位置を制御装置100からの制御に応じて自動的に変更させることができ、ユーザの作業が更に簡略化される情報取得システム10が提供される。
なお、位置変更部209の構成はロボットアームに限定されるものではなく、対象物400とカメラ202との位置関係を変えるようなものであればこれ以外のものであってもよい。例えば、載置台204の一部がベルトコンベアで構成されており、自動的に対象物400を動かすことができるように撮像装置200が構成されていてもよい。あるいは、カメラ202の位置を動かすことができるカメラ駆動機構を追加することにより、対象物400とカメラ202との位置関係が自動的に変化するように撮像装置200が構成されていてもよい。あるいは、想定される対象物400が被服等の軽いものであれば、位置変更部209は、対象物400に風を当てて動かすための送風機であってもよい。
また、位置変更部209によって対象物400を動かす処理は、図5のステップS108の処理において、対象物を変更する際に実行されてもよい。この場合ユーザの作業が更に簡略化される。この処理を実現する撮像装置200の具体的構成としては、位置変更部209がベルトコンベアであり、ある対象物の撮影が完了すると、ベルトコンベアが駆動して自動的に次の対象物が撮影範囲に移動してくるようなものが挙げられる。
なお、位置変更部209は、対象物400を裏返すことが可能であることが望ましい。対象物400を載置台204に載置した状態では、複数のカメラ202で撮影しても通常は、対象物400の裏側の画像が得られない。これに対し、位置変更部209により対象物400を裏返すことで対象物400の裏側の画像を撮影可能となる。
[第4実施形態]
本実施形態の情報取得システム10は、図5のステップS104の処理に画像記憶の適正化の処理が追加されている点が第1実施形態と相違する。以下では主として第1実施形態との相違点について説明するものとし、共通部分については説明を省略又は簡略化する。
図12は、本実施形態に係る制御装置100により行われる画像の取得処理を示すフローチャートである。本処理は、図5のステップS104の処理をより詳細に示したものであり、ステップS104以外の処理については図5と同一であるため説明を省略する。
ステップS110において、画像取得部103は、複数のカメラ202により撮影された複数の画像を取得する。ステップS111において、CPU151は、ステップS110において取得された画像に含まれる対象物400と同種の物体が含まれている画像が既に記憶部106に記憶されているか否かを判定する。同種の物体が含まれている画像を取得済みである場合(ステップS111においてYES)、処理はステップS113に移行する。同種の物体が含まれている画像を取得していない場合(ステップS111においてNO)、処理はステップS112に移行する。
ステップS112において、ステップS110の処理で取得された画像は、記憶部106に記憶される。他方、ステップS113において、ステップS110の処理で取得された画像は破棄され、記憶部106には記憶されない。
以上のように、本実施形態では、画像の取得時において記憶部106に既に同種の物体の画像が記憶されているか否かを判定し、判定結果に応じて異なる処理を行っている。これにより、同種の物体を含む画像が重複して別のものとして登録されてデータ容量が不必要に増大することを避けることができる。
なお、同種の物体とは、例えば、同じ商品名の商品、同じ品種の生鮮食品(例えば、野菜、果物、鮮魚、精肉)等、小売業において、同種の商品として扱われるような物体であり得る。
ステップS113の処理において、画像の破棄を行っているが、ステップS112の場合と区別した処理がなされていれば、この画像は、記憶部106に記憶されてもよい。例えば、同種の物体が既に記憶されていることを示す重複フラグを付した上で、記憶部106に記憶しておくというものであってもよい。この場合、学習時、評価時等に重複フラグが付された画像をスキップして学習処理、評価処理等を行うことにより、ステップ数を少なくすることができ、これらの処理の効率化が実現される。
[第5実施形態]
本実施形態の商品登録システム50は、上述の第1乃至第4実施形態の情報取得システム10により取得された画像、特徴量等の対象物情報を用いて構成された識別器を含む。商品登録システム50は、当該識別器により商品の画像を識別して商品の識別情報を取得し、商品登録を行う。
本実施形態に係る商品登録システム50について、図13乃至図15を参照しつつ説明する。図13は、本実施形態に係る商品登録システム50の全体構成を示す模式図である。商品登録システム50は、商品登録装置500、商品撮影装置510及び商品登録台520を備える。なお、本実施形態の商品登録システム50は、店員が操作を行うものであってもよく、顧客が単独で操作を行う、いわゆるセルフレジであってもよい。
商品登録装置500は、小売店において、顧客が持参した商品を登録して代金の精算のための販売額の算出等を行う装置である。商品登録装置500は、POS(Point Of Sales)システムと連携していてもよく、POS装置と呼ばれることもある。
商品撮影装置510は、カメラ等の画像取得機能を有する装置であり、商品登録台520の上面の一部又は全部である撮影領域Aを撮影することができるように、商品登録台520の上方に配されている。商品登録台520は顧客が購入しようとする商品を載置する台である。商品の載置作業は、顧客が行ってもよく、店員が行ってもよい。また、載置される商品は、複数であってもよく、1つであってもよい。
図14は、本実施形態に係る商品登録装置500の機能ブロック図である。商品登録装置500は、商品画像取得部501、識別情報取得部502、登録部503及び識別情報記憶部504を有する。なお、商品登録装置500のハードウェア構成は、図2に示すコンピュータのハードウェアにキャッシュドロワ、レシートプリンタ、カードリーダ等の一般的なPOS装置に備えられている金銭の精算用装置が付加されたものであるため、説明を省略する。また、各部の機能は商品登録装置500のCPUがプログラムに基づく処理を行うことにより実現される。
識別情報取得部502は、例えば、図7で示した識別装置300の機能を有する部分である。識別情報取得部502は、上述の第1乃至第4実施形態の情報取得システム10により取得された画像、特徴量等の対象物情報を用いて構成された識別器を含む。
識別情報記憶部504は、識別器により識別可能な商品と、その商品の識別情報とが対応付けられて記憶されている。ここで、識別情報は、例えば、商品の種別を識別するための商品IDである。小売店の店舗等に設けられたPOSシステムは、商品IDに基づいて、商品の価格、在庫量等を特定することができる。商品画像取得部501及び登録部503の機能については後述する。
図15は、本実施形態に係る商品登録装置500により行われる商品登録の処理を示すフローチャートである。図15の処理は、顧客が購入しようとする商品が商品登録台520に載置されたあと、顧客又は店員が商品登録装置500に所定の操作を行ったときに開始される。
ステップS401において、商品画像取得部501は、商品撮影装置510を制御することにより、撮影領域Aを撮影して商品画像を取得する。この商品画像には1つ又は複数の商品が含まれ得る。
ステップS402において、識別情報取得部502は、商品画像に含まれる商品を識別し、対応する商品の識別情報を識別情報記憶部504から取得する。商品画像に含まれる商品が複数である場合には、複数の商品のそれぞれについて、識別情報が取得される。
ステップS403において、登録部503は、ステップS402において取得された識別情報に基づいて、顧客が購入しようとする商品を特定し、登録する。商品画像に含まれる商品が複数である場合には、複数の商品がいずれも登録される。登録された商品は、例えば、商品登録システム50に備えられたディスプレイに価格とともに表示され、顧客は、商品の購入のための精算を行うことができる。この精算の処理は、商品登録システム50に一体に備えられていてもよく、小売店内に別途設けられた精算装置において行われるものであってもよい。
本実施形態によれば、上述の第1乃至第4実施形態の情報取得システム10により取得された画像、特徴量等の対象物情報を用いて構成された識別器を含む商品登録システム50が提供される。情報取得システム10は複数の環境条件によって撮影された複数の物体識別用画像を効率よく取得することができるため、これらの物体識別用画像を用いて構築された識別器を含む商品登録システム50は、高精度に商品の識別を行って商品を登録することができる。
また、本実施形態の商品登録システム50は、複数の商品を商品登録台520に並べるだけで一括して商品登録を行うことができる。これにより、各商品からバーコードを読み取って商品登録する場合等と比較して、商品登録作業を短時間に行うことができる。
上述の実施形態において説明したシステムは以下の第6実施形態のようにも構成することができる。
[第6実施形態]
図16は、第6実施形態に係る情報取得システム600の機能ブロック図である。情報取得システム600は、撮像装置601、制御装置602を備える。制御装置602は、制御部603及び情報取得部604を備える。撮像装置601は、対象物を撮影して画像を生成するカメラを含む。制御部603は、複数の異なる環境条件による複数の画像が生成されるように撮像装置601を制御する。情報取得部604は、物体を識別する識別器に入力される対象物情報を取得する。対象物情報は複数の画像又は複数の画像から得られた複数の特徴量を含む。
本実施形態によれば、複数の環境条件によって撮影された複数の物体識別用画像を効率よく取得することができる情報取得システム600が提供される。
[変形実施形態]
本発明は、上述の実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において適宜変更可能である。
上述の実施形態において、対象物400の個数は複数であってもよい。この場合、ユーザは、複数の対象物400を載置台204に載置する。撮像装置200は複数の対象物400を一括して撮影する。この場合、画像取得部103は、エッジ検出等の画像認識技術により、複数の対象物400を分離検出することにより、対象物400ごとに画像を分割して画像を取得してもよいが、1つの画像に複数の対象物400が含まれた状態で画像を取得してもよい。特徴量取得部104は上述のいずれの状態で画像が取得された場合であっても、対象物400ごとに特徴量の取得を行う。本例では、複数個の対象物400を一括して撮影することにより、作業時間が短縮される。
上述の実施形態において、撮像装置200は、車輪207を備えており移動可能な構成となっているが、あくまでも据え置きを前提とした構造となっている。しかしながら、対象物400がある場所に撮像装置200を持参する方が好都合な場合もあり、撮像装置200を持ち運びたいというニーズが存在する。
そこで、撮像装置200は、運搬用ケース内に光源201、カメラ202、フレーム203を収納可能な構成とし、運搬用ケースの内面又は外面が載置台204として機能する構成であってもよい。この構成では、運搬用ケースを開いた状態でその上方にフレーム203を格子状に組み立て、フレーム203に光源201及びカメラ202を接続することにより、撮像装置200を組み立てることができる。これにより、図4から入力装置設置台205、制御装置設置台206及び車輪207を除いた構造の撮像装置200が実現される。本例では、持ち運び可能な撮像装置200が提供される。なお、撮像装置200とともに用いられる制御装置100は、運搬用ケース内に更に収納可能であってもよく、ノートPC等の運搬可能なPCを制御装置100として用いてもよい。
また、上述の実施形態において、制御装置100の画像取得部103又は情報取得部604は、一次元コードリーダ、二次元コードリーダ又はOCR(Optical Character Recognition)の機能を備えていてもよい。ここで、一次元コード及び二次元コードは、単にコードと呼ばれる場合もある。
画像中の対象物400には、文字又はコードが付されている場合がある。この文字又はコードには、例えば、商品名、商品ID等の対象物400の種別を特定する商品識別情報が含まれている。画像取得部103又は情報取得部604は文字又はコードを取得することにより、対象物400の対象物情報(画像又は特徴量)に対応する対象物400を特定する情報を更に取得することができる。これにより、例えば、商品名、商品ID、画像、特徴量等の対応付けを自動で行うことができる。
また、上述の実施形態において、画像取得の環境条件の設定は、識別装置300の設置場所の環境に応じて設定され得る。例えば、識別装置300が、直射日光が入ることがある明るい店舗に設置される場合には、識別装置300の学習等に用いられる画像も同様に明るい環境で撮影されたものであることが望ましい。また、識別装置300が、青色、緑色、黄色、赤色等の白色以外の照明が設けられている店舗に設置される場合には、識別装置300の学習等に用いられる画像は、対応する色の照明下で撮影されたものであることが望ましい。このように、識別装置300の設置場所の環境を考慮して画像取得の環境条件を設定することで、識別装置300の識別精度が向上し得る。
また、上述の実施形態において、撮像装置200により撮影される画像は静止画であることを前提としているが、これは動画であってもよい。この場合、動画を構成するフレーム画像のうちの一部を抜き出すことにより静止画の場合と同様の処理を行われ得る。本例は、対象物400が動物である場合、ユーザが対象物を動かしながら撮影を行う場合等、対象物400が動いている場合に有効である。
上述の実施形態の機能を実現するように該実施形態の構成を動作させるプログラムを記憶媒体に記録させ、記憶媒体に記録されたプログラムをコードとして読み出し、コンピュータにおいて実行する処理方法も各実施形態の範疇に含まれる。すなわち、コンピュータ読取可能な記憶媒体も各実施形態の範囲に含まれる。また、上述のプログラムが記録された記憶媒体だけでなく、そのプログラム自体も各実施形態に含まれる。また、上述の実施形態に含まれる1又は2以上の構成要素は、各構成要素の機能を実現するように構成されたASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等の回路であってもよい。
該記憶媒体としては例えばフロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD(Compact Disk)−ROM、磁気テープ、不揮発性メモリカード、ROMを用いることができる。また該記憶媒体に記録されたプログラム単体で処理を実行しているものに限らず、他のソフトウェア、拡張ボードの機能と共同して、OS(Operating System)上で動作して処理を実行するものも各実施形態の範疇に含まれる。
上述の各実施形態の機能により実現されるサービスは、SaaS(Software as a Service)の形態でユーザに対して提供することもできる。
なお、上述の実施形態は、いずれも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
上述の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
対象物を撮影して画像を生成するカメラを含む撮像装置と、
複数の異なる環境条件による複数の画像が生成されるように前記撮像装置を制御する制御部と、
物体を識別する識別器に入力される対象物情報を取得する情報取得部であって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、情報取得部と、
を含む制御装置と、
を備える、情報取得システム。
(付記2)
前記撮像装置は、前記対象物に光を照射する光源を更に備え、
前記制御部は、前記光の照射条件が異なる複数の画像を生成させるように前記撮像装置を制御する、
付記1に記載の情報取得システム。
(付記3)
前記撮像装置は、互いに異なる位置に配された複数のカメラを備え、
前記制御部は、前記複数のカメラのそれぞれに前記対象物を撮像させることにより、撮影位置が異なる複数の画像を生成させるように前記撮像装置を制御する、
付記1又は2に記載の情報取得システム。
(付記4)
前記制御装置は、前記情報取得部により取得された前記対象物情報を前記対象物と対応付けて記憶する記憶部を更に備える、
付記1乃至3のいずれか1項に記載の情報取得システム。
(付記5)
前記記憶部は、更に前記環境条件を前記対象物情報と対応付けて記憶する、
付記4に記載の情報取得システム。
(付記6)
前記情報取得部は、前記対象物情報の取得時において前記記憶部に既に前記対象物と同種の物体の前記対象物情報が記憶されているか否かを判定し、判定結果に応じて異なる処理を行う、
付記4又は5に記載の情報取得システム。
(付記7)
前記情報取得部は、前記複数の画像の少なくとも1つに含まれる文字又はコードに基づいて前記対象物情報に対応する前記対象物を特定する、
ことを特徴とする付記4乃至6のいずれか1項に記載の情報取得システム。
(付記8)
前記制御部は、前記識別器により識別を行う識別装置の設置場所の環境に応じて前記環境条件を設定する、
付記1乃至7のいずれか1項に記載の情報取得システム。
(付記9)
前記対象物情報は、前記識別器の学習データ、前記識別器における識別時の参照データ又は前記識別器の評価データとして用いられる、
付記1乃至8のいずれか1項に記載の情報取得システム。
(付記10)
前記撮像装置は、前記対象物が載置される載置台を更に備え、
前記載置台は、背景画像を表示する表示部を備える、
付記1乃至9のいずれか1項に記載の情報取得システム。
(付記11)
前記撮像装置は、前記対象物が載置される載置台を更に備え、
前記載置台は、少なくとも一部が透明であり、
前記カメラは、前記載置台の透明な部分を介して前記対象物を撮影する、
付記1乃至10のいずれか1項に記載の情報取得システム。
(付記12)
前記撮像装置は、前記対象物と前記カメラとの位置関係を変えるための位置変更部を更に備える、
付記1乃至11のいずれか1項に記載の情報取得システム。
(付記13)
前記撮像装置は、複数の前記対象物を一括して撮影可能であり、
前記情報取得部は、前記複数の対象物のそれぞれについて前記対象物情報を取得する、
付記1乃至12のいずれか1項に記載の情報取得システム。
(付記14)
付記1乃至13のいずれか1項に記載の情報取得システムにより取得された前記対象物情報が入力された前記識別器により商品の画像から商品の識別情報を取得する識別情報取得部と、
前記識別情報に基づいて前記商品を登録する登録部と、
を備える、商品登録装置。
(付記15)
複数の異なる環境条件による複数の画像が生成されるように撮像装置を制御する制御部と、
物体を識別する識別器に入力される対象物情報を取得する情報取得部であって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、情報取得部と、
を備える、制御装置。
(付記16)
複数の異なる環境条件による複数の画像が生成されるように撮像装置を制御するステップと、
物体を識別する識別器に入力される対象物情報を取得するステップであって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、ステップと、
を備える、情報取得方法。
(付記17)
コンピュータに、
複数の異なる環境条件による複数の画像が生成されるように撮像装置を制御するステップと、
物体を識別する識別器に入力される対象物情報を取得するステップであって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、ステップと、
を備える情報取得方法を実行させるためのプログラム。
10、600 情報取得システム
50 商品登録システム
100、602 制御装置
101 光源制御部
102 カメラ制御部
103 画像取得部
104 特徴量取得部
105 表示情報生成部
106 記憶部
151 CPU
152 RAM
153 ROM
154 HDD
155 通信I/F
156 表示装置
157 入力装置
158 バス
200、601 撮像装置
201 光源
202 カメラ
203 フレーム
204 載置台
205 入力装置設置台
206 制御装置設置台
207 車輪
208 表示部
209 位置変更部
300 識別装置
301 入力部
302 第1識別部
303 第2識別部
304 統合部
305 学習部
306 モデル記憶部
307 特徴量記憶部
400 対象物
500 商品登録装置
501 商品画像取得部
502 識別情報取得部
503 登録部
504 識別情報記憶部
510 商品撮影装置
520 商品登録台
603 制御部
604 情報取得部

Claims (10)

  1. 対象物を撮影して画像を生成するカメラを含む撮像装置と、
    複数の異なる環境条件による複数の画像が生成されるように前記撮像装置を制御する制御部と、
    物体を識別する識別器に入力される対象物情報を取得する情報取得部であって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、情報取得部と、
    を含む制御装置と、
    を備える、情報取得システム。
  2. 前記撮像装置は、前記対象物に光を照射する光源を更に備え、
    前記制御部は、前記光の照射条件が異なる複数の画像を生成させるように前記撮像装置を制御する、
    請求項1に記載の情報取得システム。
  3. 前記制御装置は、前記情報取得部により取得された前記対象物情報及び前記環境条件を前記対象物と対応付けて記憶する記憶部を更に備える、
    請求項1又は2に記載の情報取得システム。
  4. 前記情報取得部は、前記対象物情報の取得時において前記記憶部に既に前記対象物と同種の物体の前記対象物情報が記憶されているか否かを判定し、判定結果に応じて異なる処理を行う、
    請求項3に記載の情報取得システム。
  5. 前記情報取得部は、前記複数の画像の少なくとも1つに含まれる文字又はコードに基づいて前記対象物情報に対応する前記対象物を特定する、
    ことを特徴とする請求項3又は4に記載の情報取得システム。
  6. 前記撮像装置は、前記対象物が載置される載置台を更に備え、
    前記載置台は、少なくとも一部が透明であり、
    前記カメラは、前記載置台の透明な部分を介して前記対象物を撮影する、
    請求項1乃至5のいずれか1項に記載の情報取得システム。
  7. 前記撮像装置は、複数の前記対象物を一括して撮影可能であり、
    前記情報取得部は、前記複数の対象物のそれぞれについて前記対象物情報を取得する、
    請求項1乃至6のいずれか1項に記載の情報取得システム。
  8. 請求項1乃至7のいずれか1項に記載の情報取得システムにより取得された前記対象物情報が入力された前記識別器により商品の画像から商品の識別情報を取得する識別情報取得部と、
    前記識別情報に基づいて前記商品を登録する登録部と、
    を備える、商品登録装置。
  9. 複数の異なる環境条件による複数の画像が生成されるように撮像装置を制御する制御部と、
    物体を識別する識別器に入力される対象物情報を取得する情報取得部であって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、情報取得部と、
    を備える、制御装置。
  10. 複数の異なる環境条件による複数の画像が生成されるように撮像装置を制御するステップと、
    物体を識別する識別器に入力される対象物情報を取得するステップであって、前記対象物情報は前記複数の画像又は前記複数の画像から得られた複数の特徴量を含む、ステップと、
    を備える、情報取得方法。
JP2018176035A 2018-09-20 2018-09-20 情報取得システム、制御装置及び情報取得方法 Active JP6780682B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018176035A JP6780682B2 (ja) 2018-09-20 2018-09-20 情報取得システム、制御装置及び情報取得方法
US17/276,217 US11450119B2 (en) 2018-09-20 2019-09-11 Information acquisition system, control apparatus, information acquisition method, and storage medium
PCT/JP2019/035658 WO2020059587A1 (ja) 2018-09-20 2019-09-11 情報取得システム、制御装置、情報取得方法及び記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018176035A JP6780682B2 (ja) 2018-09-20 2018-09-20 情報取得システム、制御装置及び情報取得方法

Publications (2)

Publication Number Publication Date
JP2020047051A true JP2020047051A (ja) 2020-03-26
JP6780682B2 JP6780682B2 (ja) 2020-11-04

Family

ID=69887653

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018176035A Active JP6780682B2 (ja) 2018-09-20 2018-09-20 情報取得システム、制御装置及び情報取得方法

Country Status (3)

Country Link
US (1) US11450119B2 (ja)
JP (1) JP6780682B2 (ja)
WO (1) WO2020059587A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112866559A (zh) * 2020-12-30 2021-05-28 深圳追一科技有限公司 图像采集方法、装置、系统及存储介质

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6780682B2 (ja) * 2018-09-20 2020-11-04 日本電気株式会社 情報取得システム、制御装置及び情報取得方法
CN111612875A (zh) * 2020-04-23 2020-09-01 北京达佳互联信息技术有限公司 一种动态图像生成方法、装置、电子设备及存储介质
JP2022071437A (ja) * 2020-10-28 2022-05-16 オムロン株式会社 寸法情報管理装置およびこれを備えた寸法情報管理システム、寸法情報管理方法、寸法情報管理プログラム
JP7459769B2 (ja) 2020-11-25 2024-04-02 オムロン株式会社 埋設物情報管理装置およびこれを備えた埋設物情報管理システム、埋設物情報管理方法、埋設物情報管理プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013054673A (ja) * 2011-09-06 2013-03-21 Toshiba Tec Corp 情報処理装置及びプログラム
JP2014219881A (ja) * 2013-05-09 2014-11-20 東芝テック株式会社 商品認識装置及び商品認識プログラム
JP2017049974A (ja) * 2015-09-04 2017-03-09 キヤノン株式会社 識別器生成装置、良否判定方法、およびプログラム

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6636635B2 (en) * 1995-11-01 2003-10-21 Canon Kabushiki Kaisha Object extraction method, and image sensing apparatus using the method
US6711293B1 (en) * 1999-03-08 2004-03-23 The University Of British Columbia Method and apparatus for identifying scale invariant features in an image and use of same for locating an object in an image
JP2001174881A (ja) 1999-12-16 2001-06-29 Casio Comput Co Ltd 撮影装置、及び記憶媒体
US7522745B2 (en) * 2000-08-31 2009-04-21 Grasso Donald P Sensor and imaging system
JP2004266511A (ja) 2003-02-28 2004-09-24 Sony Corp 撮像装置
US7953277B2 (en) * 2006-09-05 2011-05-31 Williams Robert C Background separated images for print and on-line use
JP4607940B2 (ja) 2007-11-29 2011-01-05 東芝テック株式会社 商品販売データ処理装置及びコンピュータプログラム
US8224021B2 (en) * 2008-03-14 2012-07-17 Millivision Technologies, Inc. Method and system for automatic detection of a class of objects
JP2012203668A (ja) * 2011-03-25 2012-10-22 Sony Corp 情報処理装置、物体認識方法、プログラム及び端末装置
JP2013246790A (ja) 2012-05-29 2013-12-09 Toshiba Tec Corp 認識辞書作成装置及びプログラム
JP6025470B2 (ja) * 2012-09-13 2016-11-16 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
JP5713376B1 (ja) 2014-12-10 2015-05-07 株式会社ニレコ 魚種判別装置および魚種判別方法
US20170069075A1 (en) 2015-09-04 2017-03-09 Canon Kabushiki Kaisha Classifier generation apparatus, defective/non-defective determination method, and program
JP6780682B2 (ja) * 2018-09-20 2020-11-04 日本電気株式会社 情報取得システム、制御装置及び情報取得方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013054673A (ja) * 2011-09-06 2013-03-21 Toshiba Tec Corp 情報処理装置及びプログラム
JP2014219881A (ja) * 2013-05-09 2014-11-20 東芝テック株式会社 商品認識装置及び商品認識プログラム
JP2017049974A (ja) * 2015-09-04 2017-03-09 キヤノン株式会社 識別器生成装置、良否判定方法、およびプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112866559A (zh) * 2020-12-30 2021-05-28 深圳追一科技有限公司 图像采集方法、装置、系统及存储介质
CN112866559B (zh) * 2020-12-30 2021-09-28 深圳追一科技有限公司 图像采集方法、装置、系统及存储介质

Also Published As

Publication number Publication date
US11450119B2 (en) 2022-09-20
WO2020059587A1 (ja) 2020-03-26
US20220036042A1 (en) 2022-02-03
JP6780682B2 (ja) 2020-11-04

Similar Documents

Publication Publication Date Title
JP6780682B2 (ja) 情報取得システム、制御装置及び情報取得方法
US10540551B2 (en) Generation of two-dimensional and three-dimensional images of items for visual recognition in checkout apparatus
US10423946B2 (en) POS terminal device, commodity recognition method, and non-transitory computer readable medium storing program
CN108073845A (zh) 用于单个帧时间内的两个或更多成像条件之下所呈现的光学标记的读取器
JP6919982B2 (ja) 画像検査装置
US10628695B2 (en) Fast item identification for checkout counter
US8320633B2 (en) System and method for identifying produce
US11265481B1 (en) Aligning and blending image data from multiple image sensors
JP2023528391A (ja) 3dカメラを有するバーコードリーダ
WO2015016960A1 (en) Universal assay reader
US11354885B1 (en) Image data and simulated illumination maps
US20200202091A1 (en) System and method to enhance image input for object recognition system
US20190164281A1 (en) Robotic pill filling, counting, and validation
JP2021128171A (ja) 画像検査装置
US20190070324A1 (en) Data collection device with anti-microbial illumination
JP2021009581A (ja) 情報処理装置および消灯ランプ確認プログラム
US20190333004A1 (en) Processing system, processing method, and non-transitory storage medium
JP2013106238A (ja) マーカの検出および追跡装置
CN106164988B (zh) Pos终端、信息处理设备、白平衡调节方法以及记录介质
US11062138B2 (en) Object verification/recognition with limited input
EP3727476B1 (en) Data collection device with anti-microbial illumination
US10664962B1 (en) Determining direction of illumination
TW202113681A (zh) 用以形成用於一物件辨識系統之至少一實況資料庫之裝置及方法
JP6664675B2 (ja) 画像認識システム
WO2023180178A1 (en) System and method for object recognition utilizing color identification and/or machine learning

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200707

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200915

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200928

R150 Certificate of patent or registration of utility model

Ref document number: 6780682

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150