JP7366651B2 - 棚撮像装置及び情報処理装置 - Google Patents

棚撮像装置及び情報処理装置 Download PDF

Info

Publication number
JP7366651B2
JP7366651B2 JP2019160539A JP2019160539A JP7366651B2 JP 7366651 B2 JP7366651 B2 JP 7366651B2 JP 2019160539 A JP2019160539 A JP 2019160539A JP 2019160539 A JP2019160539 A JP 2019160539A JP 7366651 B2 JP7366651 B2 JP 7366651B2
Authority
JP
Japan
Prior art keywords
imaging device
shelf
fixture
distance
allowable
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019160539A
Other languages
English (en)
Other versions
JP2021038063A (ja
Inventor
徳政 有賀
真明 安永
景太 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba TEC Corp
Original Assignee
Toshiba TEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba TEC Corp filed Critical Toshiba TEC Corp
Priority to JP2019160539A priority Critical patent/JP7366651B2/ja
Priority to US16/896,114 priority patent/US20210063850A1/en
Priority to EP20184457.8A priority patent/EP3789937A1/en
Priority to CN202010656443.1A priority patent/CN112449106B/zh
Publication of JP2021038063A publication Critical patent/JP2021038063A/ja
Application granted granted Critical
Publication of JP7366651B2 publication Critical patent/JP7366651B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/56Accessories
    • G03B17/561Support related camera accessories
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G06Q10/047Optimisation of routes or paths, e.g. travelling salesman problem
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F16ENGINEERING ELEMENTS AND UNITS; GENERAL MEASURES FOR PRODUCING AND MAINTAINING EFFECTIVE FUNCTIONING OF MACHINES OR INSTALLATIONS; THERMAL INSULATION IN GENERAL
    • F16MFRAMES, CASINGS OR BEDS OF ENGINES, MACHINES OR APPARATUS, NOT SPECIFIC TO ENGINES, MACHINES OR APPARATUS PROVIDED FOR ELSEWHERE; STANDS; SUPPORTS
    • F16M11/00Stands or trestles as supports for apparatus or articles placed thereon ; Stands for scientific apparatus such as gravitational force meters
    • F16M11/02Heads
    • F16M11/18Heads with mechanism for moving the apparatus relatively to the stand
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F16ENGINEERING ELEMENTS AND UNITS; GENERAL MEASURES FOR PRODUCING AND MAINTAINING EFFECTIVE FUNCTIONING OF MACHINES OR INSTALLATIONS; THERMAL INSULATION IN GENERAL
    • F16MFRAMES, CASINGS OR BEDS OF ENGINES, MACHINES OR APPARATUS, NOT SPECIFIC TO ENGINES, MACHINES OR APPARATUS PROVIDED FOR ELSEWHERE; STANDS; SUPPORTS
    • F16M11/00Stands or trestles as supports for apparatus or articles placed thereon ; Stands for scientific apparatus such as gravitational force meters
    • F16M11/42Stands or trestles as supports for apparatus or articles placed thereon ; Stands for scientific apparatus such as gravitational force meters with arrangement for propelling the support stands on wheels
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/51Housings
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/695Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Economics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Resources & Organizations (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Development Economics (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Theoretical Computer Science (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Mechanical Engineering (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Game Theory and Decision Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Warehouses Or Storage Devices (AREA)
  • Display Racks (AREA)

Description

本発明の実施形態は、棚撮像装置及び情報処理装置に関する。
棚を有する什器に置かれた商品(物品)を撮像する棚撮像装置(商品棚撮像装置)がある。商品棚撮像装置は、撮像装置と移動機構とを備える。撮像装置は、光学系と、光学系により結像された光に基づき画像を生成する撮像素子とを備える。移動機構は、例えばモータと、モータにより駆動されることにより撮像装置を移動させる車輪とを備える。
商品棚撮像装置は、什器の棚に対して所定の距離を維持した状態で移動しつつ、棚の端部(商品陳列面)に設けられた棚札を撮像する。即ち、商品棚撮像装置は、商品陳列面と平行な方向に移動しつつ、棚札を撮像する。棚札には、商品情報(例えば商品名、価格など)が記載されている。商品棚撮像装置により撮像された棚札の画像(棚札画像)を画像解析(分析)することにより、棚札に記載された商品に関する情報を取得することが可能になる。
什器に、突出量の異なる複数の棚が設けられている場合がある。商品棚撮像装置が棚札を撮像する場合、デフォーカスの為、突出量の異なる複数の棚の棚札から、分析可能な状態の棚札画像を取得することができない可能性がある。そこで、商品棚撮像装置は、商品陳列面と対向する方向(棚の突出方向)に移動し、再度商品陳列面と平行な方向に移動しつつ荷札を撮像することにより、分析可能な状態の棚札画像を取得する。しかし、移動距離、及び撮像回数が増えることにより、棚札画像の取得に時間を要するという課題がある。
特開2008-308262号公報
本発明が解決しようとする課題は、棚札画像の取得を効率化することができる棚撮像装置及び情報処理装置を提供することである。
一実施形態に係る棚撮像装置は、撮像装置と、前記撮像装置を移動させる移動機構と、メモリと、プロセッサとを具備する。メモリは、什器の位置及び什器が有する複数の棚毎の突出量を示す什器情報と、前記撮像装置によって撮像対象の情報を取得可能な距離を示す情報であって、許容撮影下限距離と許容撮影上限距離とにより構成される許容撮影距離とを記憶する。プロセッサは、前記什器が有する複数の棚毎の突出量の差分と、前記許容撮影距離とに基づいて、前記什器に対する相対的な走行ルートを生成する。
図1は、第1の実施形態に係る商品棚撮像装置の概略的な構成の例について説明する為の図である。 図2は、第1の実施形態に係る商品棚撮像装置の構成の例について説明する為の図である。 図3は、第1の実施形態に係る商品棚撮像装置による走行ルートの生成の例について説明する為の図である。 図4は、第1の実施形態に係る商品棚撮像装置による走行ルートの生成の例について説明する為の図である。 図5は、第1の実施形態に係る商品棚撮像装置による走行ルートの生成の例について説明する為の図である。 図6は、第2の実施形態に係る商品棚撮像装置の構成の例について説明する為の図である。
以下、実施の形態について図面を参照して説明する。
(第1の実施形態)
図1は、第1の実施形態に係る商品棚撮像装置1の概略的な構成の例について説明するための説明図である。
商品棚撮像装置1は、店舗、倉庫などの所定の場所に設置された陳列用の什器2と、什器2に置かれた商品(物品)3などを撮像する。
什器2は、バックボード11と、バックボード11から突出した棚12とを備える。
バックボード11は、什器2を構成する部材である。バックボード11は、例えば、垂直方向に起立した板状に構成される。
棚12は、商品3を支持する棚板である。棚12は、例えばバックボード11から水平方向に突出するように構成される。また、棚12のバックボード11と逆側の端部には、例えば商品名、価格、または他の種々の商品情報が記載された棚札13が設けられている。
例えば、複数の什器2は、所定間隔離されて配置されることにより、通路を構成する。棚12は、バックボード11から通路側に突出するように構成される。即ち、棚札13は、通路に向けて設けられている。また、棚12に並べられた商品3は、商品3の正面(所謂フェイス)が通路に向かうように陳列される。
商品棚撮像装置1は、バックボード11から突出する方向(第1の方向D1)において、什器2の棚12の端部に対して所定の距離を維持した状態で、棚札13が並べられた方向と平行(即ちバックボード11と平行)な方向(第2の方向D2)に移動しつつ撮像を行う。これにより、商品棚撮像装置1は、複数の棚札13、及び棚12に並べられた商品3の画像を取得する。なお、以下棚札13の画像を棚札画像と称する。
次に、商品棚撮像装置1の詳細な構成について説明する。
商品棚撮像装置1は、制御装置21、カメラ22、移動機構23、及び物体検出センサ24を備える。
制御装置21は、カメラ22の動作の制御、移動機構23の動作の制御、物体検出センサ24の検出結果に基づく判断を行う装置である。さらに、制御装置21は、カメラ22により取得した棚札画像に対する画像解析(分析)、商品棚撮像装置1の走行ルートの生成などの処理を行う。
カメラ22は、光学系と、制御装置21の制御に基づいて、光学系により結像された光に基づき画像を生成する撮像素子とを備える撮像装置である。
光学系は、例えば、中心射影方式の撮像レンズである。光学系は、被写体からの光を撮像素子の撮像面上に結像させる。また、光学系は、例えば、複数のレンズと、レンズを介して撮像素子に入射する光束の量を調整する絞りとを備える。複数のレンズのうちの1つまたは複数は、光学系の主点から物体面までの距離(撮影距離)を調整するフォーカシングレンズとして構成されていてもよい。
撮像素子は、光を光電変換し電荷を蓄える画素が複数配列されて構成された撮像面を備える。撮像素子は、例えば、Charge Coupled Devices(CCD)イメージセンサ、Complementary Metal Oxide Semiconductor(CMOS)イメージセンサ、または他の撮像素子により構成される。撮像素子は、光学系によって撮像面上に結像された被写体像を電気信号(画像信号)に変換する。撮像素子は、アナログ電気信号である画像信号をディジタル信号である画像データに変換して出力する。
なお、カメラ22は、光学系の画角(撮像範囲)に光を照射する照明を備えていてもよい。また、照明は、カメラ22ではなく商品棚撮像装置1のどの構成が備えるものであってもよい。
移動機構23は、制御装置21の制御に基づいて、カメラ22を移動させる装置である。移動機構23は、例えばカメラ22が固定される台車(基部)と、台車の車輪を回転駆動させるモータとを備える。例えばカメラ22は、光学系の光軸が水平になるように台車に固定される。移動機構23は、モータにより車輪を駆動することにより、台車に固定されたカメラ22を移動させる。なお、移動機構23は、クランクを利用した可動脚、またはプロペラなど、如何なる手段によって基部を移動させる構成であってもよい。
物体検出センサ24は、制御装置21の制御に基づいて、物体を検出するセンサである。物体検出センサ24は、例えば移動機構23の台車に固定される。物体検出センサ24は、例えばレーザレンジファインダである。物体検出センサ24は、測定対象にレーザを照射し、反射光が入射するまでの時間に基づいて、測定対象までの距離を測定する。この場合、物体検出センサ24は、レーザが照射された点を測距点として、レーザの反射光を受光するセンサと測距点との距離を測定する。物体検出センサ24の検出結果により、商品棚撮像装置1の周囲の什器2までの距離を認識することができる。物体検出センサ24は、例えば移動機構23の進行方向の前方を検出することができる位置に配置される。また、物体検出センサ24は、移動機構23の台車に複数設けられていてもよい。
次に、制御装置21について詳細に説明する。
図2は、制御装置21の構成例について説明する為の説明図である。制御装置21は、システムコントローラ31、表示部32、操作インタフェース33、通信インタフェース34、カメラコントローラ35、移動機構コントローラ36、及びセンサインタフェース37を備える。
システムコントローラ31は、商品棚撮像装置1の制御を行う。システムコントローラ31は、例えば、プロセッサ41及びメモリ42を備える。
プロセッサ41は、演算処理を実行する演算素子である。プロセッサ41は、例えばCPUである。プロセッサ41は、メモリ42に記憶されているプログラムなどのデータに基づいて種々の処理を行う。プロセッサ41は、メモリ42に格納されているプログラムを実行することにより、種々の動作を実行可能な制御部として機能する。
メモリ42は、プログラム及びプログラムで用いられるデータなどを記憶する記憶媒体である。また、メモリ42は、ワーキングメモリとしても機能する。すなわち、メモリ42は、プロセッサ41の処理中のデータ、及びプロセッサ41が実行するプログラムなどを一時的に格納する。
表示部32は、システムコントローラ31または図示されないグラフィックコントローラなどの表示制御部から入力される映像信号に応じて画面を表示するディスプレイを備える。例えば、表示部32のディスプレイには、商品棚撮像装置1の種々の設定の為の画面が表示される。
操作インタフェース33は、図示されない操作部材に接続されている。操作インタフェース33は、操作部材の操作に応じた操作信号をシステムコントローラ31に供給する。操作部材は、例えば、タッチセンサ、テンキー、電源キー、用紙フィードキー、種々のファンクションキー、またはキーボードなどである。タッチセンサは、ある領域内において指定された位置を示す情報を取得する。タッチセンサは、表示部32と一体にタッチパネルとして構成されることにより、表示部32に表示された画面上のタッチされた位置を示す信号をシステムコントローラ31に入力する。
通信インタフェース34は、他の機器と通信する為のインターフェースである。通信インタフェース34は、例えば、上位装置(外部機器)との通信に用いられる。通信インタフェース34は、Bluetooth(登録商標)またはWi-fi(登録商標)などの規格に従って他の機器と無線通信を行う。また、例えば、通信インタフェース34は、LANコネクタなどとして構成されてもよい。
カメラコントローラ35は、カメラ22の制御を行う。カメラコントローラ35は、システムコントローラ31の制御に基づき、カメラ22に撮像を実行させる。また、カメラコントローラ35は、カメラ22の撮像パラメータを制御もしくはカメラ22へ送信する。
撮像パラメータは、例えば、焦点距離、絞り値、露光時間、感度(ISO)、及び撮影距離(光学系の主点から物体面までの距離)などである。また、カメラコントローラ35は、カメラ22と通信することにより、カメラ22の光学系に関する情報(光学特性情報)を取得してもよい。例えば、カメラコントローラ35は、カメラ22から、光学系の焦点距離、絞り値、及び撮影距離などの情報を取得する構成であってもよい。即ち、カメラコントローラ35は、カメラ22において現在用いられている撮像パラメータを把握することができる。また、カメラコントローラ35は、撮像パラメータをシステムコントローラ31にも供給する。
移動機構コントローラ36は、移動機構23の制御を行う。移動機構コントローラ36は、システムコントローラ31の制御に基づき、移動機構23によるカメラ22の移動を実行させる。
センサインタフェース37は、物体検出センサ24とシステムコントローラ31との通信を中継する。なお、移動機構コントローラ36が、物体検出センサ24の検出結果に基づいて移動機構23を制御する構成である場合、センサインタフェース37は、物体検出センサ24からの検出結果を移動機構コントローラ36にも供給する。
次に、制御装置21における商品棚撮像装置1の走行ルートの生成処理について説明する。
制御装置21のシステムコントローラ31は、什器情報と、許容撮影距離と、に基づいて、走行ルートを生成する。
まず、許容撮影距離及び什器情報について説明する。
制御装置21のシステムコントローラ31のメモリ42は、許容撮影距離を予め記憶している。許容撮影距離は、画像解析によって商品情報を読み取ることができる棚札画像を、商品棚撮像装置1のカメラ22によって取得可能な距離を示す情報である。許容撮影距離は、許容撮影下限距離と、許容撮影上限距離とにより構成される。許容撮影距離は、例えば、被写体と光学系の主点の距離に対する相対的な距離である。具体的には、許容撮影距離は、撮影距離を変えつつ商品棚撮像装置1のカメラ22により棚札画像を取得し、画像解析によって商品情報を読み取ることができた距離の範囲を収集することにより決定される。なお、許容撮影距離は、被写体と光学系の主点の距離ではなく、被写体と商品棚撮像装置1の筐体の所定の位置との相対的な距離であってもよい。
また、許容撮影距離は、商品棚撮像装置1のカメラ22の光学特性情報に基づいて算出されたものであってもよい。例えば、画像解析に必要な解像度に基づいて決定された許容錯乱円と、焦点距離と、絞り値と、及び光学系の主点から物体面までの距離である撮影距離と、に基づいて、前方被写界深度及び後方被写界深度をそれぞれ算出する。算出された前方被写界深度を許容撮影下限距離として設定し、算出された後方被写界深度を許容撮影上限距離として設定することにより、許容撮影距離が設定されてもよい。
また、制御装置21のシステムコントローラ31のメモリ42は、什器情報を予め記憶している。什器情報は、所定の領域に配置された什器2に関する情報である。什器情報は、什器位置と、突出量リストと、を什器2毎に有する情報である。
什器位置は、所定の領域内の什器2が設置された位置を示す情報である。走行ルート生成領域は、予め生成されたマップ上の領域である。什器位置は、例えば、二次元空間上において什器2の四隅の位置を示す座標として構成される。什器位置は、例えばレーザレンジファインダを備える装置によって所定の領域内の什器2を検出することにより、予め生成される。また、什器位置は、商品棚撮像装置1の物体検出センサ24の検出結果に基づいて予め生成されたものであってもよい。
突出量リストは、什器2の棚12の突出量を棚毎に示す情報である。例えば、突出量リストは、棚12の識別情報(例えば棚番号)と、突出量とが対応付けられて構成されている。突出量は、例えば、什器2のバックボード11から突出した棚12の長さを示す。具体的には、突出量は、第1の方向D1におけるバックボード11と棚12の棚札13が設けられた位置との差の距離である。即ち、突出量リストは、什器2の棚12の端部に設けられた棚札13の位置を、上記の什器位置に基づいて特定することができる情報であれば、如何なる情報であってもよい。さらに言い換えると、什器情報は、走行ルート生成領域内における棚札13の位置を、什器2毎に示す情報である。
次に、什器情報と、許容撮影距離と、に基づいて、走行ルートを生成する例について説明する。
図4は、走行ルートを生成する処理について説明する為の説明図である。なお、什器2に対する商品棚撮像装置1の相対的な距離は、以下の例では、什器2のバックボード11に対する商品棚撮像装置1上の基準点との第1の方向D1における距離であると仮定して説明する。具体的には、什器2に対する商品棚撮像装置1の相対的な距離は、什器2のバックボード11に対する商品棚撮像装置1のカメラ22の光学系の主点との距離である。また、什器2に対する商品棚撮像装置1の相対的な距離は、什器2のバックボード11に対する商品棚撮像装置1の筐体の所定の位置との距離であってもよい。
まず、システムコントローラ31のプロセッサ41は、メモリ42から什器情報及び許容撮影距離を読み出す(ACT11)。プロセッサ41は、走行ルートを作成する什器2を選択する(ACT12)。例えば、プロセッサ41は、表示部32に什器2を選択させる為の画面を表示させ、操作インタフェース33の操作に基づいて、什器2を選択する、また、プロセッサ41は、什器情報内の全ての什器2を1つずつ選択していく構成であってもよい。
プロセッサ41は、選択された什器2に対応付けられた突出量リストをメモリ42から読み出す(ACT13)。これにより、プロセッサ41は、選択された什器2の什器位置、及び什器2が備える複数の棚12毎の突出量を取得する。なお、メモリ42から読み出された突出量リストを第1の突出量リスト称する。また、プロセッサ41は、第1の突出量リストとは異なる第2の突出量リストを記憶する為の記憶領域をメモリ42上に生成する。この時点では、第2の突出量リストは空のリストである。
プロセッサ41は、取得した突出量リストの中で最も値の大きな突出量と、最も値の小さな突出量との差が、許容撮影距離以内であるか否か判断する(ACT14)。
プロセッサ41は、最も値の大きな突出量と最も値の小さな突出量との差が、許容撮影距離以内であると判断した場合(ACT14、YES)、1つの走行ルートを生成する(ACT15)。
プロセッサ41は、什器2のバックボード11から最も突出した棚12の端部と、最も突出していない棚12の端部とが、許容撮影距離内に収まるように、走行ルートを生成する。具体的には、プロセッサ41は、什器2のバックボード11と、商品棚撮像装置1の基準点との距離が、「最も突出していない棚12の突出量+許容撮影上限距離」よりも短く、「最も突出した棚12の突出量+許容撮影下限距離」よりも長くなるように、第1の方向D1における商品棚撮像装置1の位置を決定する。
さらに、プロセッサ41は、決定した第1の方向D1における商品棚撮像装置1の位置で、第2の方向D2に商品棚撮像装置1を移動させつつカメラ22により撮像を行わせるように走行ルートを生成する。これにより、第2の方向D2に並んだ複数の棚札13を商品棚撮像装置1に撮像させる為の走行ルートを生成することができる。
次に、プロセッサ41は、第2の突出量リストに残りが存在するか否か判断する(ACT16)。即ち、プロセッサ41は、第2の突出量リストが空であるか否か判断する。プロセッサ41は、第2の突出量リストが空であると判断した場合(ACT16、YES)、異なる什器2が選択されたか否か判断する(ACT17)。プロセッサ41は、異なる什器2が選択されたと判断した場合(ACT17、YES)、ACT12の処理に移行する。また、プロセッサ41は、異なる什器2が選択されていないと判断した場合(ACT17、NO)、図3の処理を終了する。
また、プロセッサ41は、ACT14において、最も値の大きな突出量と最も値の小さな突出量との差が、許容撮影距離以内ではないと判断した場合(ACT14、NO)、突出量が最も大きな棚12の棚番号と、突出量と、を第2の突出量リストに追加する(ACT18)。
プロセッサ41は、突出量が最も大きな棚12の棚番号と、突出量と、第1の突出量リストから削除し(ACT19)、ACT14の処理に移行する。即ち、プロセッサ41は、第1の突出量リストの全ての棚12が、許容撮影距離に収まるまで、第1の突出量リストから第2の突出量リストに情報を移す。
また、プロセッサ41は、ACT16において、第2の突出量リストが空ではないと判断した場合(ACT16、NO)、第2の突出量リストの棚番号及び突出量を第1の突出量リストに追加する(ACT20)。
プロセッサ41は、第2の突出量リストからすべての棚番号及び突出量を削除し(ACT21)、ACT14の処理に移行する。即ち、プロセッサ41は、第2の突出量リストの棚番号及び突出量をすべて第1の突出量リストに移す。
これにより、プロセッサ41は、許容撮影距離に収まるまで、第1の突出量リスト内の棚12を除き、許容撮影距離内で撮像が可能になった段階で走行ルートを生成する。即ち、プロセッサ41は、許容撮影距離内で撮像が可能な棚12にグループ分けし、グループごとに走行ルートを生成する。プロセッサ41は、生成した走行ルートをメモリ42に格納する。また、プロセッサ41は、通信インタフェース34を介して外部の機器に走行ルートを供給する構成であってもよい。
商品棚撮像装置1は、生成された走行ルートを移動機構23により、棚札13が並べられた方向と平行な方向(即ちバックボード11と平行且つ水平方向)に移動しつつ、カメラ22により什器2の棚12の端部設けられた棚札13を撮像する。また、許容撮影距離に収まらなかった棚12が存在する場合、商品棚撮像装置1は、什器2のバックボード11に対向する方向に移動する。さらに、商品棚撮像装置1は、再度棚札13が並べられた方向と平行に移動しつつ、カメラ22により什器2の棚12の端部設けられた棚札13を撮像する。これにより、商品棚撮像装置1は、棚札画像を取得する。この結果、棚札画像の取得を効率化することが可能になる。さらに、商品棚撮像装置1は、棚札画像に対して画像解析を行い、商品情報を取得することができる。
走行ルートの生成について具体例を挙げて説明する。
図4及び図5は、走行ルートを生成する例について説明する為の説明図である。図4は、什器2及び商品棚撮像装置1を第2の方向D2から見た図である。図5は、什器2及び商品棚撮像装置1を第1の方向D1及び第2の方向D2に直交する方向から見た図である。
図4及び図5の例では、什器位置が(xru, yru)、(xII, yru)、(xII, yII)、(xru, yII)であり、什器2が第1の突出量P1の第1の棚12Aと、第2の突出量P2の第2の棚12Bと、第3の突出量P3の第3の棚12Cと、を備えている。また、第1の突出量P1と第3の突出量P3との差が許容撮影距離を超えており、第1の突出量P1と第2の突出量P3との差が許容撮影距離を超えていないと仮定する。なお、本例では、カメラ22の向き及び画角を考慮し、第2の方向D2において走行マージンSを設定する。
この場合、第1の突出量リストには、「第1の棚12A:第1の突出量P1」、「第2の棚12B:第2の突出量P2」、及び「第3の棚12C:第3の突出量P3」が含まれている。
第1の突出量P1と第3の突出量P3との差が許容撮影距離を超えている為、プロセッサ41は、最も突出量の大きい「第3の棚12C:第3の突出量P3」を第1の突出量リストから第2の突出量リストに移す。
第1の突出量P1と第2の突出量P2との差が許容撮影距離を超えていない為、プロセッサ41は、第1の棚12Aの端部の棚札13A及び第2の棚12Bの端部の棚札13Bが許容撮影距離に含まれるように、第1の方向D1においてX1の位置に第1の走行ルートを生成する。X1は、什器2のバックボード11の第1の方向D1における座標であるXIIを基準に、「第1の突出量P1+許容撮影上限距離」よりも短く、「第2の突出量P2+許容撮影下限距離」よりも長くなる位置である。
また、残った第3の突出量P3に基づいて、第3の棚12Cの端部の棚札13Cが許容撮影距離に含まれるように、第1の方向D1においてX2の位置に第2の走行ルートを生成する。X2は、什器2のバックボード11の第1の方向D1における座標であるXIIを基準に、「第3の突出量P3+許容撮影上限距離」よりも短く、「第3の突出量P3+許容撮影下限距離」よりも長くなる位置である。
上記の方法によると、プロセッサ41は、図5に示されるように、(X1,yII-S)から(X1,yru+S)まで撮像を行いつつ移動し、(X2,yru+S)に移動する第1の走行ルートを生成する。第1の走行ルートでは、商品棚撮像装置1は、第1の棚12A及び第2の棚12Bの棚札13A及び棚札13Bの棚札画像を取得することができる。
また、プロセッサ41は、図5に示されるように、(X2,yru+S)から(X2,yII-S)まで撮像を行いつつ移動し、(X1,yII-S)に移動する第2の走行ルートを生成する。第2の走行ルートでは、商品棚撮像装置1は、第3の棚12Cの棚札13Cの棚札画像を取得することができる。
(第2の実施形態)
第1の実施形態では、商品棚撮像装置1が、走行ルートの生成を行う構成であると説明したが、この構成に限定されない。商品棚撮像装置1と通信する情報処理装置が走行ルートを商品棚撮像装置1に供給し、商品棚撮像装置1が走行ルートに基づいて棚札画像を取得する構成であってもよい。この場合、情報処理装置が走行ルートの生成を行う。
図6は、第2の実施形態に係る商品棚撮像装置1A及び情報処理装置4の構成例について説明する為の説明図である。第2の実施形態は、商品棚撮像装置1Aと通信する情報処理装置4が走行ルートを生成し、商品棚撮像装置1Aに供給する構成である。なお、第1の実施形態と同様の構成には、同じ参照符号を付し、詳細な説明を省略する。
商品棚撮像装置1Aは、制御装置21A、カメラ22、移動機構23、及び物体検出センサ24を備える。
制御装置21Aは、システムコントローラ31A、通信インタフェース34A、カメラコントローラ35、移動機構コントローラ36、及びセンサインタフェース37を備える。
システムコントローラ31Aは、走行ルートの生成を行わない点がシステムコントローラ31と異なる。
通信インタフェース34Aは、通信インタフェース34と同様に無線通信により外部機器と通信を行う。通信インタフェース34Aは、情報処理装置4と通信を行う。例えば、通信インタフェース34Aは、情報処理装置4から走行ルートを受け取り、システムコントローラ31Aに供給する。また、通信インタフェース34Aは、カメラ22の光学特性情報を7情報処理装置4に供給する構成であってもよい。また、通信インタフェース34Aは、カメラ22により取得した棚札画像を情報処理装置4に供給する構成であってもよい。
情報処理装置4は、システムコントローラ31B、表示部32、操作インタフェース33、及び通信インタフェース34Bを備える。
システムコントローラ31Bは、走行ルートの生成を行う。システムコントローラ31Bは、例えば、プロセッサ41B及びメモリ42Bを備える。
プロセッサ41Bは、演算処理を実行する演算素子である。プロセッサ41Bは、例えばCPUである。プロセッサ41Bは、メモリ42Bに記憶されているプログラムなどのデータに基づいて種々の処理を行う。プロセッサ41Bは、メモリ42Bに格納されているプログラムを実行することにより、種々の動作を実行可能な制御部として機能する。
メモリ42Bは、プログラム及びプログラムで用いられるデータなどを記憶する記憶媒体である。また、メモリ42Bは、ワーキングメモリとしても機能する。すなわち、メモリ42Bは、プロセッサ41の処理中のデータ、及びプロセッサ41が実行するプログラムなどを一時的に格納する。
また、メモリ42Bは、什器情報と、許容撮影距離と、を商品棚撮像装置1A毎、または商品棚撮像装置1Aの種類ごとに予め記憶している。
情報処理装置4のシステムコントローラ31Bのプロセッサ41Bは、図3に示された走行ルートを生成する処理を実行する。即ち、プロセッサ41Bは、メモリ42Bから什器情報及び許容撮影距離を読み出す。プロセッサ41Bは、走行ルートを作成する什器2を選択する。プロセッサ41Bは、選択された什器2に対応付けられた突出量リストをメモリ42Bから読み出す。これにより、プロセッサ41Bは、選択された什器2の什器位置、及び什器2が備える複数の棚12毎の突出量を取得する。なお、メモリ42Bから読み出された突出量リストを第1の突出量リスト称する。また、プロセッサ41Bは、第1の突出量リストとは異なる第2の突出量リストを記憶する為の記憶領域をメモリ42B上に生成する。この時点では、第2の突出量リストは空のリストである。
プロセッサ41Bは、許容撮影距離に収まるまで、第1の突出量リスト内の棚12を除き、許容撮影距離内で撮像が可能になった段階で走行ルートを生成する。即ち、プロセッサ41Bは、許容撮影距離内で撮像が可能な棚12にグループ分けし、グループごとに走行ルートを生成する。プロセッサ41Bは、生成した走行ルートを商品棚撮像装置1Aに供給する。
これにより、情報処理装置4は、商品棚撮像装置1Aにおける棚札画像の取得を効率化することが可能になる。さらに、情報処理装置4は、商品棚撮像装置1Aから棚札画像を受け取り、棚札画像に対して画像解析を行い、商品情報を取得する構成であってもよい。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
なお、以下に本願の出願当初の特許請求の範囲の記載を付記する。
[C1]
撮像装置と、
前記撮像装置を移動させる移動機構と、
什器の位置及び什器が有する棚毎の突出量を示す什器情報と、前記撮像装置の許容撮影距離とを記憶したメモリと、
前記什器情報の棚毎の突出量の差分と、前記許容撮影距離とに基づいて、前記什器に対する相対的な走行ルートを生成するプロセッサと、
を具備する棚撮像装置。
[C2]
前記プロセッサは、端部が前記許容撮影距離内に入る少なくとも1つ以上の棚のグループを生成し、グループごとに前記走行ルートを生成する請求項1に記載の棚撮像装置。
[C3]
前記プロセッサは、前記什器に対する相対的な距離が、最も小さな突出量と許容撮影上限距離との和よりも短く、最も大きな突出量と許容撮影下限距離との和よりも長くなるように、前記グループごとの走行ルートを生成する請求項2に記載の棚撮像装置。
[C4]
前記撮像装置は、走行ルートに基づいて移動機構により移動しつつ、棚の端部に設けられた棚札の画像を取得し、
前記プロセッサは、前記撮像装置により取得した画像を画像解析することにより文字列の情報を取得し、
前記プロセッサは、前記画像解析可能か否かに基づいて前記許容撮影距離を決定する請求項1乃至3のいずれか1項に記載の棚撮像装置。
[C5]
撮像装置と、前記撮像装置を移動させる移動機構と、を備える商品棚撮像装置に走行ルートを供給する情報処理装置であって、
什器の位置及び什器が有する棚毎の突出量を示す什器情報と、前記撮像装置の許容撮影距離とを記憶したメモリと、
前記什器情報の棚毎の突出量の差分と、前記許容撮影距離とに基づいて、前記什器に対する相対的な走行ルートを生成し、前記商品棚撮像装置に供給するプロセッサと、
を具備する情報処理装置。
1…商品棚撮像装置、2…什器、3…商品、4…情報処理装置、11…バックボード、12…棚、13…棚札、21…制御装置、22…カメラ、23…移動機構、24…物体検出センサ、31…システムコントローラ、32…表示部、33…操作インタフェース、34…通信インタフェース、35…カメラコントローラ、36…移動機構コントローラ、37…センサインタフェース、41…プロセッサ、42…メモリ。

Claims (5)

  1. 撮像装置と、
    前記撮像装置を移動させる移動機構と、
    什器の位置及び什器が有する複数の棚毎の突出量を示す什器情報と、前記撮像装置によって撮像対象の情報を取得可能な距離を示す情報であって、許容撮影下限距離と許容撮影上限距離とにより構成される許容撮影距離とを記憶したメモリと、
    前記什器が有する複数の棚毎の突出量の差分と、前記許容撮影距離とに基づいて、前記什器に対する相対的な走行ルートを生成するプロセッサと、
    を具備する棚撮像装置。
  2. 前記プロセッサは、前記什器が有する複数の棚毎の突出量のうち、最も値の大きな突出量と最も値の小さな突出量との差が、前記許容撮影上限距離と前記許容撮影下限距離との差以内である、少なくとも1つ以上の棚のグループを生成し、グループごとに前記走行ルートを生成する請求項1に記載の棚撮像装置。
  3. 前記プロセッサは、前記什器に対する相対的な距離が、前記最も小さな突出量と前記許容撮影上限距離との和よりも短く、前記最も大きな突出量と前記許容撮影下限距離との和よりも長くなるように、前記グループごとの前記走行ルートを生成する請求項2に記載の棚撮像装置。
  4. 前記撮像装置は、前記走行ルートに基づいて移動機構により移動しつつ、前記棚の端部に設けられた棚札の画像を取得し、
    前記プロセッサは、前記撮像装置により取得した画像を画像解析することにより文字列の情報を取得し、
    前記プロセッサは、前記画像解析可能か否かに基づいて前記許容撮影距離を決定する請求項1乃至3のいずれか1項に記載の棚撮像装置。
  5. 撮像装置と、前記撮像装置を移動させる移動機構と、を備える商品棚撮像装置に走行ルートを供給する情報処理装置であって、
    什器の位置及び什器が有する複数の棚毎の突出量を示す什器情報と、前記撮像装置によって撮像対象の情報を取得可能な距離を示す情報であって、許容撮影下限距離と許容撮影上限距離とにより構成される許容撮影距離とを記憶したメモリと、
    前記什器が有する複数の棚毎の突出量の差分と、前記許容撮影距離とに基づいて、前記什器に対する相対的な走行ルートを生成し、前記商品棚撮像装置に供給するプロセッサと、
    を具備する情報処理装置。
JP2019160539A 2019-09-03 2019-09-03 棚撮像装置及び情報処理装置 Active JP7366651B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019160539A JP7366651B2 (ja) 2019-09-03 2019-09-03 棚撮像装置及び情報処理装置
US16/896,114 US20210063850A1 (en) 2019-09-03 2020-06-08 Imaging device, method for controlling imaging device, and system including imaging device
EP20184457.8A EP3789937A1 (en) 2019-09-03 2020-07-07 Imaging device, method for controlling image device, and system including image device
CN202010656443.1A CN112449106B (zh) 2019-09-03 2020-07-09 架板拍摄装置及信息处理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019160539A JP7366651B2 (ja) 2019-09-03 2019-09-03 棚撮像装置及び情報処理装置

Publications (2)

Publication Number Publication Date
JP2021038063A JP2021038063A (ja) 2021-03-11
JP7366651B2 true JP7366651B2 (ja) 2023-10-23

Family

ID=71523041

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019160539A Active JP7366651B2 (ja) 2019-09-03 2019-09-03 棚撮像装置及び情報処理装置

Country Status (4)

Country Link
US (1) US20210063850A1 (ja)
EP (1) EP3789937A1 (ja)
JP (1) JP7366651B2 (ja)
CN (1) CN112449106B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3177901C (en) * 2020-06-01 2024-01-02 Ido Merkado Systems and methods for retail environments

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016117600A1 (ja) 2015-01-22 2016-07-28 日本電気株式会社 商品棚割管理装置及び商品棚割管理方法
US20180107968A1 (en) 2016-10-17 2018-04-19 Conduent Business Services, Llc System and method for retail store promotional price tag detection

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102006040197A1 (de) * 2006-08-28 2008-03-06 Jungheinrich Aktiengesellschaft Steuersystem für Flurförderzeuge
JP5316471B2 (ja) * 2010-04-27 2013-10-16 株式会社デンソー 物体認識装置、及びプログラム
CN109414819A (zh) * 2016-01-08 2019-03-01 4D空间天才股份有限公司 用于自动化图像获取的机器人
CN108012325B (zh) * 2017-10-30 2021-01-19 上海神添实业有限公司 一种基于uwb和双目视觉的导航定位方法
JP7055293B2 (ja) 2018-03-13 2022-04-18 多摩川精機株式会社 防水コネクタ
CN108594822A (zh) * 2018-05-10 2018-09-28 哈工大机器人(昆山)有限公司 基于二维码的机器人定位方法、机器人充电方法及系统
CN108958263A (zh) * 2018-08-03 2018-12-07 江苏木盟智能科技有限公司 一种机器人避障方法及机器人

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016117600A1 (ja) 2015-01-22 2016-07-28 日本電気株式会社 商品棚割管理装置及び商品棚割管理方法
US20180107968A1 (en) 2016-10-17 2018-04-19 Conduent Business Services, Llc System and method for retail store promotional price tag detection

Also Published As

Publication number Publication date
CN112449106A (zh) 2021-03-05
US20210063850A1 (en) 2021-03-04
CN112449106B (zh) 2022-05-31
EP3789937A1 (en) 2021-03-10
JP2021038063A (ja) 2021-03-11

Similar Documents

Publication Publication Date Title
US20190026878A1 (en) Image-stitching for dimensioning
US20170124687A1 (en) Image transformation for indicia reading
US10163216B2 (en) Automatic mode switching in a volume dimensioner
CN107077729B (zh) 用于识别相机图像中的投影结构图案的结构元素的方法和设备
JP2016173657A (ja) オブジェクト認識装置および認識結果提示方法
US10733748B2 (en) Dual-pattern optical 3D dimensioning
US20170076428A1 (en) Information processing apparatus
Tabata et al. High-speed 3D sensing with three-view geometry using a segmented pattern
CN105721854A (zh) 摄像装置及其便携式终端以及使用摄像装置的摄像方法
JP5222430B1 (ja) 寸法計測装置、寸法計測方法及び寸法計測装置用のプログラム
JP5874252B2 (ja) 対象物との相対位置計測方法と装置
JP7366651B2 (ja) 棚撮像装置及び情報処理装置
JP5891399B2 (ja) 作業検知システムの設定方法及びそれを用いた作業検知システム
JP5482032B2 (ja) 距離計測装置および距離計測方法
US10339661B2 (en) Movement direction determination method and movement direction determination device
JP2014041074A (ja) 画像処理装置及び検査装置
JP2011112379A (ja) 画像処理装置および画像処理プログラム
JPWO2015145977A1 (ja) 情報処理装置、画像処理方法とプログラム、ならびに、pos端末装置
JP2009199247A (ja) 対象物認識装置、指示装置およびプログラム
US11417025B2 (en) Information processing apparatus, article identification apparatus, and article identification system
JP5581612B2 (ja) 位置計測システム及び位置計測方法
JP2010281685A (ja) 位置計測システム及び位置計測方法
JP6398755B2 (ja) 入力装置、入力方法及び入力処理用コンピュータプログラムならびに入力システム
KR20240043743A (ko) 오브젝트에 심볼을 할당하기 위한 시스템들 및 방법들
JP2022071136A (ja) コード認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220715

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230509

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230912

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231011

R150 Certificate of patent or registration of utility model

Ref document number: 7366651

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150