JP6687199B2 - 商品棚位置登録プログラム、及び情報処理装置 - Google Patents
商品棚位置登録プログラム、及び情報処理装置 Download PDFInfo
- Publication number
- JP6687199B2 JP6687199B2 JP2018060074A JP2018060074A JP6687199B2 JP 6687199 B2 JP6687199 B2 JP 6687199B2 JP 2018060074 A JP2018060074 A JP 2018060074A JP 2018060074 A JP2018060074 A JP 2018060074A JP 6687199 B2 JP6687199 B2 JP 6687199B2
- Authority
- JP
- Japan
- Prior art keywords
- product
- information
- shelf
- unit
- tag
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 42
- 238000001514 detection method Methods 0.000 claims description 44
- 238000004364 calculation method Methods 0.000 claims description 17
- 239000003550 marker Substances 0.000 claims description 10
- 238000000034 method Methods 0.000 description 55
- 230000008569 process Effects 0.000 description 45
- 230000036544 posture Effects 0.000 description 25
- 238000012545 processing Methods 0.000 description 18
- 238000012986 modification Methods 0.000 description 8
- 230000004048 modification Effects 0.000 description 8
- 238000013527 convolutional neural network Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000012015 optical character recognition Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 229910001416 lithium ion Inorganic materials 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Image Analysis (AREA)
Description
なお、本発明は、上記の各実施形態の構成に限られず、発明の趣旨を変更しない範囲で種々の変形が可能である。次に、本発明の変形例について説明する。
上記の実施形態では、請求項における商品ID情報が、一次元バーコード形式で記載された商品ID情報である場合の例について説明したが、商品ID情報は、QRコード等の二次元バーコード形式で記載された商品ID情報であってもよい。また、請求項における商品ID情報は、商品名やヒューマンリーダブル文字(図5参照)等の文字情報であってもよい。この場合は、請求項における商品ID情報認識部は、スマートフォンのカメラ等により読み取った文字情報を、OCR(Optical Character Recognition/Reader)の技術を用いて、スマートフォンを含む情報処理装置が利用可能な文字コードの形式に変換することにより、上記の文字情報を認識するものであってもよい。また、上記の実施形態では、請求項における商品ID情報が、商品タグに記載された商品ID情報である場合の例について説明したが、商品ID情報は、これに限られず、例えば、商品(商品のパッケージを含む)自体に記載された商品ID情報であってもよい。
上記の実施形態では、CPU4の商品棚判別部29によって、最初に認識に成功した商品ID情報に対応した商品が陳列されていると判別された商品棚31の商品32の商品タグ33のうち、表示用商品タグ領域検出部28による(2次元位置とサイズの)検出に成功した商品タグ33を、赤色等の枠41で囲んだ状態で表示するようにした。けれども、CPUの表示用商品タグ領域検出部による検出に成功した商品タグに付するマーカーは、これに限られず、例えば、星印や丸印のマーカーであってもよい。また、商品タグを検出する代わりに、商品自体の領域を検出して、上記の商品棚の商品の領域のうち、検出に成功した商品の領域に、マーカーを付して表示するようにしてもよい。
上記の実施形態では、撮影画像に写り込んだ各商品32の商品タグ33に記載された商品ID情報を認識して、最初に認識に成功した商品ID情報に対応した商品が陳列された商品棚31の商品のうち、撮影画像に写り込んだ各商品32について、これらの商品32の商品タグ33に記載された商品ID情報に対応した商品名42を、撮影画像における各商品32の商品タグ33の3次元位置に対応した位置に表示するようにした。けれども、上記の商品ID情報に対応した商品名の代わりに、商品ID情報に対応した他の商品情報(例えば、商品の識別コードや識別番号)を表示するようにしてもよい。
上記の実施形態では、スマートフォン1が、撮影画像に写り込んだ各商品32の商品タグ33に記載された商品ID情報を認識して、この商品ID情報の認識が最初に成功したときに、認識に成功した商品ID情報に対応した商品が陳列された商品棚31を、商品棚位置情報ELに基づいて判別するようにした。けれども、撮影画像に写り込んだ各商品の商品タグに記載された商品ID情報の認識が複数回成功したときに、これらの認識に成功した商品ID情報に対応した商品が陳列された商品棚を、商品棚位置情報ELに基づいて判別するようにしてもよい。
上記の実施形態では、本発明の情報処理装置が、スマートフォン1である場合の例を示したが、本発明の情報処理装置は、これに限られず、例えば、カメラを備えたタブレット型コンピュータであってもよい。
上記の実施形態では、商品棚位置登録プログラム6を実装した情報処理装置(スマートフォン1)自体が、表示装置(ディスプレイ9)とカメラ8を備える場合の例を示した。けれども、本発明の商品棚位置登録プログラムを実装した情報処理装置自体が、必ずしも、表示装置とカメラを備える必要はなく、例えば、商品棚位置登録プログラムを実装したパーソナルコンピューター(情報処理装置)と、表示装置及びカメラを備えたスマートフォン又はタブレット型コンピュータとを組み合わせて用いても良い。
6 商品棚位置登録プログラム
8 カメラ
9 ディスプレイ(表示装置)
21 カメラ位置姿勢推定部
23 商品タグ領域検出部(登録用商品タグ領域検出部)
24 バーコード認識部(商品ID情報認識部)
25 商品タグ位置算出部(商品3次元位置算出部)
26 商品棚位置情報登録部
28 表示用商品タグ領域検出部(商品領域検出部)
29 商品棚判別部
30 表示制御部
31 商品棚
32 商品
33 商品タグ(商品の領域)
41 枠(マーカー)
42 商品名(商品情報)
EL 商品棚位置情報
l_t カメラ位置(カメラの3次元位置)
p_t 姿勢(カメラの撮影方向)
Claims (11)
- 情報処理装置を、
商品棚の撮影画像に写り込んだ各商品の商品ID情報を認識する商品ID情報認識部、
前記撮影画像の撮影時における、カメラの3次元位置及び撮影方向を推定するカメラ位置姿勢推定部、
前記撮影画像と、前記カメラ位置姿勢推定部により推定した前記カメラの3次元位置及び撮影方向とに基づいて、前記商品ID情報認識部により認識した商品ID情報に対応した商品の3次元位置を算出する商品3次元位置算出部、及び
前記撮影画像に写り込んだ各商品について、前記商品ID情報認識部により認識した商品ID情報と、前記商品3次元位置算出部により算出した商品の3次元位置とを、前記商品ID情報に対応した商品が陳列された商品棚と関連付けて、商品棚位置情報の一部又は全部として登録する商品棚位置情報登録部、
として機能させるための、商品棚位置登録プログラム。 - 前記情報処理装置を、さらに、
前記撮影画像に写り込んだ各商品の商品ID情報を認識して、この商品ID情報の認識が最初に成功したときに、認識に成功した商品ID情報に対応した商品が陳列された商品棚を、前記商品棚位置情報登録部により登録した商品棚位置情報に基づいて、判別する商品棚判別部と、
前記商品棚判別部によって、前記認識に成功した商品ID情報に対応した商品が陳列されていると判別された商品棚の商品のうち、前記撮影画像に写り込んだ各商品について、これらの商品の商品ID情報に対応した商品情報を、前記商品棚位置情報に基づいて、前記撮影画像における前記各商品の3次元位置に対応した位置に表示するように制御する表示制御部として機能させることを特徴とする請求項1に記載の商品棚位置登録プログラム。 - 前記情報処理装置を、さらに、
前記撮影画像に写り込んだ各商品の領域を検出する商品領域検出部として機能させ、
前記表示制御部は、前記商品棚判別部によって、前記認識に成功した商品ID情報に対応した商品が陳列されていると判別された商品棚の商品の領域のうち、前記商品領域検出部による検出に成功した商品の領域に、マーカーを付して表示することを特徴とする請求項2に記載の商品棚位置登録プログラム。 - 前記商品ID情報は、各商品の商品タグに記載された商品ID情報であり、
前記情報処理装置を、さらに、
前記撮影画像に写り込んだ前記各商品の商品タグの2次元位置とサイズを検出する商品タグ領域検出部として機能させ、
前記商品3次元位置算出部は、前記カメラ位置姿勢推定部により推定した、前記カメラの3次元位置及び撮影方向に加えて、前記商品タグ領域検出部により検出した各商品の商品タグの2次元位置とサイズに基づいて、前記撮影画像に写り込んだ各商品の商品タグの3次元位置を算出することを特徴とする請求項1乃至請求項3のいずれか一項に記載の商品棚位置登録プログラム。 - 商品棚の撮影画像に写り込んだ各商品の商品ID情報を認識する商品ID情報認識部と、
前記撮影画像の撮影時における、カメラの3次元位置及び撮影方向を推定するカメラ位置姿勢推定部と、
前記撮影画像と、前記カメラ位置姿勢推定部により推定した前記カメラの3次元位置及び撮影方向とに基づいて、前記商品ID情報認識部により認識した商品ID情報に対応した商品の3次元位置を算出する商品3次元位置算出部と、
前記撮影画像に写り込んだ各商品について、前記商品ID情報認識部により認識した商品ID情報と、前記商品3次元位置算出部により算出した商品の3次元位置とを、前記商品ID情報に対応した商品が陳列された商品棚と関連付けて、商品棚位置情報の一部又は全部として登録する商品棚位置情報登録部とを備える情報処理装置。 - 前記撮影画像に写り込んだ各商品の商品ID情報を認識して、この商品ID情報の認識が最初に成功したときに、認識に成功した商品ID情報に対応した商品が陳列された商品棚を、前記商品棚位置情報登録部により登録した商品棚位置情報に基づいて、判別する商品棚判別部と、
前記商品棚判別部によって、前記認識に成功した商品ID情報に対応した商品が陳列されていると判別された商品棚の商品のうち、前記撮影画像に写り込んだ各商品について、これらの商品の商品ID情報に対応した商品情報を、前記商品棚位置情報に基づいて、前記撮影画像における前記各商品の3次元位置に対応した位置に表示するように制御する表示制御部とをさらに備えることを特徴とする請求項5に記載の情報処理装置。 - 前記撮影画像に写り込んだ各商品の領域を検出する商品領域検出部をさらに備え、
前記表示制御部は、前記商品棚判別部によって、前記認識に成功した商品ID情報に対応した商品が陳列されていると判別された商品棚の商品の領域のうち、前記商品領域検出部による検出に成功した商品の領域に、マーカーを付して表示することを特徴とする請求項6に記載の情報処理装置。 - 前記商品ID情報は、各商品の商品タグに記載された商品ID情報であり、
前記撮影画像に写り込んだ前記各商品の商品タグの2次元位置とサイズを検出する商品タグ領域検出部をさらに備え、
前記商品3次元位置算出部は、前記カメラ位置姿勢推定部により推定した、前記カメラの3次元位置及び撮影方向に加えて、前記商品タグ領域検出部により検出した各商品の商品タグの2次元位置とサイズに基づいて、前記撮影画像に写り込んだ各商品の商品タグの3次元位置を算出することを特徴とする請求項5乃至請求項7のいずれか一項に記載の情報処理装置。 - 前記情報処理装置は、前記カメラをさらに備えることを特徴とする請求項8に記載の情報処理装置。
- 前記情報処理装置は、表示装置をさらに備えることを特徴とする請求項5乃至請求項9のいずれか一項に記載の情報処理装置。
- 前記情報処理装置は、携帯可能な情報処理装置であることを特徴とする請求項5乃至請求項10のいずれか一項に記載の情報処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018060074A JP6687199B2 (ja) | 2018-03-27 | 2018-03-27 | 商品棚位置登録プログラム、及び情報処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018060074A JP6687199B2 (ja) | 2018-03-27 | 2018-03-27 | 商品棚位置登録プログラム、及び情報処理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019174959A JP2019174959A (ja) | 2019-10-10 |
JP6687199B2 true JP6687199B2 (ja) | 2020-04-22 |
Family
ID=68168762
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018060074A Active JP6687199B2 (ja) | 2018-03-27 | 2018-03-27 | 商品棚位置登録プログラム、及び情報処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6687199B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7404038B2 (ja) * | 2019-11-21 | 2023-12-25 | 株式会社Retail AI | 情報処理システムと情報処理装置と情報処理プログラムと情報処理方法 |
JP7021321B1 (ja) | 2020-09-30 | 2022-02-16 | PayPay株式会社 | 端末装置、決済方法及び決済プログラム |
IT202000029354A1 (it) * | 2020-12-01 | 2022-06-01 | Sentric S R L | Metodo di mappatura di prodotti |
JP7506352B2 (ja) | 2022-05-31 | 2024-06-26 | 日本製鉄株式会社 | 物品管理装置、物品管理方法、およびプログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012190094A (ja) * | 2011-03-09 | 2012-10-04 | Sony Corp | サーバ装置、情報処理方法及びプログラム |
JP6043094B2 (ja) * | 2012-05-30 | 2016-12-14 | 辛東主 | 商品陳列情報集計システム |
JP2014048752A (ja) * | 2012-08-29 | 2014-03-17 | Teraoka Seiko Co Ltd | 表示札処理システム |
US20140244392A1 (en) * | 2013-02-27 | 2014-08-28 | Xue Si Xing Digital Marketing Co., Ltd. | Graphical Recognition Inventory Management and Marketing System |
US10579962B2 (en) * | 2014-09-30 | 2020-03-03 | Nec Corporation | Information processing apparatus, control method, and program |
JP2016194833A (ja) * | 2015-03-31 | 2016-11-17 | 富士通株式会社 | 商品陳列位置の判定処理方法、商品陳列位置の判定処理プログラム、及び商品陳列位置の判定処理装置 |
US10304031B2 (en) * | 2015-06-23 | 2019-05-28 | Toshiba Tec Kabushiki Kaisha | Image processing apparatus |
US9864969B2 (en) * | 2015-06-26 | 2018-01-09 | Toshiba Tec Kabushiki Kaisha | Image processing apparatus for generating map of differences between an image and a layout plan |
-
2018
- 2018-03-27 JP JP2018060074A patent/JP6687199B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019174959A (ja) | 2019-10-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6687199B2 (ja) | 商品棚位置登録プログラム、及び情報処理装置 | |
US11501614B2 (en) | Skip-scanning identification method, apparatus, and self-service checkout terminal and system | |
EP3510571A1 (en) | Order information determination method and apparatus | |
US20170068945A1 (en) | Pos terminal apparatus, pos system, commodity recognition method, and non-transitory computer readable medium storing program | |
EP3745368A1 (en) | Self-checkout device to which hybrid product recognition technology is applied | |
KR20230020953A (ko) | 다수의 광학 코드의 디코딩 | |
KR20210098509A (ko) | 정보 처리 | |
JP2009003701A (ja) | 情報システム及び情報処理装置 | |
JP6218151B2 (ja) | 出荷作業支援方法、出荷作業支援装置および出荷作業支援プログラム | |
JP6846467B2 (ja) | システム、情報処理装置、情報処理方法、プログラム及び記録媒体 | |
CN111428743B (zh) | 商品识别方法、商品处理方法、装置及电子设备 | |
US20170262795A1 (en) | Image in-stock checker | |
EP3629276A1 (en) | Context-aided machine vision item differentiation | |
US11568564B2 (en) | Mapping multiple views to an identity | |
US20210241356A1 (en) | Information processing apparatus, control method, and program | |
JPWO2017179543A1 (ja) | 情報処理装置、情報処理方法及びプログラム記録媒体 | |
CN112560563A (zh) | 物品布局的识别方法、装置及电子设备 | |
US11941860B2 (en) | Computational load mitigation for image-based item recognition | |
EP3474184A1 (en) | Device for detecting the interaction of users with products arranged on a stand or display rack of a store | |
JP2022011666A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6949340B1 (ja) | ピッキング作業支援システム | |
US20230139490A1 (en) | Automatic training data sample collection | |
US20240220999A1 (en) | Item verification systems and methods for retail checkout stands | |
US20230169452A1 (en) | System Configuration for Learning and Recognizing Packaging Associated with a Product | |
US20220261578A1 (en) | Method, System and Apparatus for Dynamic Inventory Guidance and Mapping |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200123 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20200123 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20200203 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200212 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200304 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200317 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200318 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6687199 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |