KR102508419B1 - 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 - Google Patents
상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 Download PDFInfo
- Publication number
- KR102508419B1 KR102508419B1 KR1020200125567A KR20200125567A KR102508419B1 KR 102508419 B1 KR102508419 B1 KR 102508419B1 KR 1020200125567 A KR1020200125567 A KR 1020200125567A KR 20200125567 A KR20200125567 A KR 20200125567A KR 102508419 B1 KR102508419 B1 KR 102508419B1
- Authority
- KR
- South Korea
- Prior art keywords
- product
- information
- product information
- image
- specifying
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 26
- 238000013528 artificial neural network Methods 0.000 claims abstract description 7
- 238000004422 calculation algorithm Methods 0.000 claims description 14
- 238000013135 deep learning Methods 0.000 claims description 14
- 238000013527 convolutional neural network Methods 0.000 claims description 13
- 238000007781 pre-processing Methods 0.000 claims description 11
- 239000004615 ingredient Substances 0.000 claims description 5
- 230000008859 change Effects 0.000 claims description 4
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 239000011159 matrix material Substances 0.000 description 4
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000012015 optical character recognition Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000007635 classification algorithm Methods 0.000 description 1
- 239000002537 cosmetic Substances 0.000 description 1
- 239000008406 cosmetic ingredient Substances 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 239000005022 packaging material Substances 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000010454 slate Substances 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0623—Item investigation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0631—Item recommendations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
- G06Q30/0601—Electronic shopping [e-shopping]
- G06Q30/0641—Shopping interfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/001—Image restoration
- G06T5/002—Denoising; Smoothing
-
- G06T5/70—
Landscapes
- Business, Economics & Management (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Accounting & Taxation (AREA)
- Finance (AREA)
- General Physics & Mathematics (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
상품 정보 검색 장치의 제어 방법은 사용자 단말기에서 촬영된 상품 정보 이미지를 획득하는 단계, 획득된 상품 정보 이미지에서 상품 정보를 식별하는 단계, 및 식별된 상품 정보에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하는 단계를 포함하되, 상품 정보를 식별하는 단계는, 인공 신경망 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하는 단계, 및 특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고, 데이터베이스에 저장하는 단계는, 텍스트 데이터에 기초하여 상품의 속성 정보를 저장하는 단계를 포함한다.
Description
오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법에 관한 것으로, 특히 오프라인 리테일 매장 내 존재하는 상품정보에 관한 이미지를 활용하는 것에 관한 발명이다.
각종 온라인 비즈니스가 활성화되면서, 전통적인 유통 사업도 차별화된 프로모션 방법의 개발에 대한 압박을 받고 있다. 그러나, 여전히 많은 상품들은 오프라인 매장에서 판매되기도 하고, 온라인 매장에서 판매되기도 한다. 또한, 전 세계적으로 쇼핑의 91%는 여전히 오프라인 매장에서 이루어지고 있으며, 소비자의 구매 여정에 대한 정보는 오프라인 매장의 어떤 자극과 정보를 접했는지 확인할 수 있는 주요한 정보이다.
그러나, 오프라인 매장을 통해 얻게 되는 데이터는 온라인 데이터에 비해 수집이 어려우며, 실제 소비자의 오프라인 라이프가 담긴 데이터이기 때문에 매우 가치 있는 데이터로 주목 받고 있음에도 불구하고, 오프라인 매장과 온라인 매장 모두 소비자의 오프라인 상에서의 구매 여정을 파악하기 어려운 실정이었다.
소비자가 구매 과정에서 어떤 경험을 선호하고 반응하는지 상세하게 정보를 수집하고 분석하여 개인 맞춤형 서비스가 비즈니스 전반에 활용될 수 있게 하는 상품 정보 검색 장치 및 이를 위한 제어방법을 제공하고자 한다.
일 측면에 따른 상품 정보 검색 장치의 제어 방법은 사용자 단말기에서 촬영된 상품 정보 이미지를 획득하는 단계, 획득된 상품 정보 이미지에서 상품 정보를 식별하는 단계, 및 식별된 상품 정보에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하는 단계를 포함하되, 상품 정보를 식별하는 단계는, 인공 신경망 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하는 단계, 및 특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고, 데이터베이스에 저장하는 단계는, 텍스트 데이터에 기초하여 상품의 속성 정보를 저장하는 단계를 포함한다.
인공 신경망 모델은 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 포함할 수 있다.
객체는 상품명, 가격, 프로모션 정보, 성분, 및 고유의 식별 코드 중 적어도 어느 하나를 포함할 수 있다.
상품 정보를 식별하는 단계는, 상품 정보 이미지가 촬영된 장소의 위치 정보를 수신하는 단계를 더 포함하고, 데이터베이스에 저장하는 단계는, 수신한 위치 정보에 기초하여 상품 정보 이미지에 상응하는 매장 정보를 특정하고, 매장 정보를 저장하는 단계를 더 포함하는 상품 정보 검색 장치의 제어 방법.
속성 정보를 저장하는 단계는, 추출된 객체를 특정하여 속성 정보를 저장하는 단계를 포함할 수 있다.
상품 정보 검색 장치의 제어 방법은 적어도 어느 한 객체를 특정하는 단계 이전에, 상품 정보 이미지에 대한 전처리를 수행하는 단계를 더 포함할 수 있다.
전처리를 수행하는 단계는, 이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 중 적어도 어느 하나를 수행할 수 있다.
상품 정보 검색 장치의 제어 방법은 속성 정보에 기초하여 상품 정보 이미지를 촬영한 사용자의 관심 상품을 특정하는 단계, 관심 상품에 상응하는 서비스 정보를 특정하는 단계, 및 서비스 정보를 사용자 단말기로 제공하는 단계를 더 포함할 수 있다.
사용자의 관심 상품을 특정하는 단계는, 딥러닝 기반 예측 알고리즘을 이용하여 사용자의 관심 상품을 특정하는 단계를 포함할 수 있다.
딥러닝 기반 예측 알고리즘은 Word2Vec 및 CBOW(Continuous Bag-of-Words) 모델을 포함할 수 있다.
서비스 정보를 특정하는 단계는, 관심 상품의 속성정보에 대응되는 속성 정보를 갖는 추천 상품에 대한 정보를 서비스 정보로 특정하는 단계를 포함할 수 있다.
다른 측면에 따른 상품 정보 검색 장치는 상품 정보 검색 장치는 프로세서를 포함하고, 프로세서는, 사용자 단말기에서 촬영된 상품 정보 이미지를 획득하고, 획득된 상품 정보 이미지에서 상품 정보를 식별하고, 식별된 상품 정보에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하되, 상품 정보를 식별하는 것은, 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하고, 특정된 객체의 텍스트 데이터를 추출하고, 데이터베이스에 저장하는 것은, 텍스트 데이터에 기초하여 상품의 속성 정보를 저장한다.
프로세서는, 적어도 어느 한 객체를 특정하기 전에, 상품 정보 이미지에 대한 전처리를 수행할 수 있다.
프로세서는, 속성 정보에 기초하여 상품 정보 이미지를 촬영한 사용자의 관심 상품을 특정하고, 관심 상품에 상응하는 서비스 정보를 특정하고, 서비스 정보를 사용자 단말기로 제공할 수 있다.
프로세서는, 딥러닝 기반 예측 알고리즘을 이용하여 사용자의 관심 상품을 특정할 수 있다.
프로세서는, 관심 상품의 속성정보에 대응되는 속성 정보를 갖는 추천 상품에 대한 정보를 서비스 정보로 특정할 수 있다.
전술한 과제 해결 수단에 의하면, 소비자의 오프라인 상에서의 다양한 구매 여정에 대한 정보를 수집함으로써 개인 맞춤형 서비스가 비즈니스 전반에 활용될 수 있게 된다.
도 1은 상품 정보 검색 장치 및 상품 정보 검색 장치가 획득하는 상품 정보 이미지의 예시도이다.
도 2는 상품 정보 이미지가 포함하는 다양한 객체를 보여주는 도면이다.
도 3은 상품 정보 검색 장치가 상품 정보 이미지에 대한 전처리 과정을 설명하기 위한 예시도이다.
도 4는 상품 정보 검색 장치가 제공하는 화면의 예시도이다.
도 5는 일 실시예에 따른 상품 정보 검색 장치가 저장하는 속성 정보의 개념도이다.
도 6은 벡터화하여 저장된 속성 정보의 개념도이다.
도 7은 일 실시예에 따른 상품 정보 검색 장치의 제어방법에 대한 순서도이다.
도 2는 상품 정보 이미지가 포함하는 다양한 객체를 보여주는 도면이다.
도 3은 상품 정보 검색 장치가 상품 정보 이미지에 대한 전처리 과정을 설명하기 위한 예시도이다.
도 4는 상품 정보 검색 장치가 제공하는 화면의 예시도이다.
도 5는 일 실시예에 따른 상품 정보 검색 장치가 저장하는 속성 정보의 개념도이다.
도 6은 벡터화하여 저장된 속성 정보의 개념도이다.
도 7은 일 실시예에 따른 상품 정보 검색 장치의 제어방법에 대한 순서도이다.
명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다. 본 명세서가 실시예들의 모든 요소들을 설명하는 것은 아니며, 본 발명이 속하는 기술분야에서 일반적인 내용 또는 실시예들 간에 중복되는 내용은 생략한다. 명세서에서 사용되는 '부, 모듈, 부재, 블록'이라는 용어는 소프트웨어 또는 하드웨어로 구현될 수 있으며, 실시예들에 따라 복수의 '부, 모듈, 부재, 블록'이 하나의 구성요소로 구현되거나, 하나의 '부, 모듈, 부재, 블록'이 복수의 구성요소들을 포함하는 것도 가능하다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐 아니라, 간접적으로 연결되어 있는 경우를 포함하고, 간접적인 연결은 무선 통신망을 통해 연결되는 것을 포함한다.
또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
제 1, 제 2 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위해 사용되는 것으로, 구성요소가 전술된 용어들에 의해 제한되는 것은 아니다.
단수의 표현은 문맥상 명백하게 예외가 있지 않는 한, 복수의 표현을 포함한다.
각 단계들에 있어 식별부호는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 실시될 수 있다.
상품 정보 검색 장치는 상품 정보 이미지를 촬영하여 일련의 과정들을 수행하는 어플리케이션이 설치된 사용자 단말이 될 수도 있고, 사용자 단말로부터 촬영된 상품 정보 이미지를 수신하여 일련의 과정들을 수행하고 데이터를 사용자 단말과 교환하는 서버가 될 수도 있다. 이하, 설명의 편의를 위해 상품 정보 검색 장치가 사용자 단말의 형태로 구현된 것을 예로 들어 설명한다.
사용자 단말은 컴퓨터나 휴대용 단말기로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(desktop), 랩톱(laptop), 태블릿 PC, 슬레이트 PC 등을 포함하고, 휴대용 단말기는 예를 들어, 휴대성과 이동성이 보장되는 무선 통신 장치로서, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), WiBro(Wireless Broadband Internet) 단말, 스마트 폰(Smart Phone) 등과 같은 모든 종류의 핸드헬드(Handheld) 기반의 무선 통신 장치와 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD) 등과 같은 웨어러블 장치를 포함할 수 있다.
상품에는 상품명이나 고유의 식별 코드가 기재되어 있다. 또는, 상품과 인접한 부분에 상품정보가 기재된 프라이스택 등이 위치할 수 있다.
도 1은 상품 정보 검색 장치 및 상품 정보 검색 장치가 획득하는 상품 정보 이미지의 예시도이다.
상품 정보 검색 장치(100)는 상품과 함께 인접한 주변 물체를 함께 촬영할 수 있다. 상품 정보 검색 장치(100)가 촬영한 상품 정보 이미지에는 상품명, 고유의 식별 코드 또는 기타 정보가 포함될 수 있다.
상품 정보 이미지는 상품을 식별할 수 있는 정보 또는 특정 상품을 다른 상품과 구별할 수 있는 정보를 포함하는 촬영된 이미지를 의미한다. 예를 들어, 상품 정보 이미지는 상품 정보를 포함할 수 있다. 상품 정보는 상품명, 가격, 프로모션 정보, 및 고유의 식별 코드 등 다양한 객체에 대한 정보를 포함할 수 있다. 즉, 상품 정보 이미지는 도 1의 (a)와 같이 상품 정보가 기재된 프라이스택을 촬영한 이미지일 수 있고, 도 1의 (b)와 같이 상품 정보가 표면에 기재된 상품을 촬영한 이미지일 수 있고, 도 1의 (c)와 같이 상품 정보가 기재된 포장재를 촬영한 이미지일 수도 있다.
상품 정보 검색 장치(100)는 촬영된 상품 정보 이미지에서 상품 정보를 식별할 수 있다.
구체적으로, 상품 정보 검색 장치(100)는 상품 정보 이미지에서 적어도 어느 한 객체를 특정할 수 있다.
도 2는 상품 정보 이미지가 포함하는 다양한 객체를 보여주는 도면이다.
예를 들어, 상품 정보 검색 장치(100)는 상품명(Ob1), 가격(Ob2; '할인 전 가격', '할인 후 가격' 등), 프로모션 정보(Ob3; '1+1', '할인', '적립', '사은품 증정' 등), 및 고유의 식별 코드(Ob4) 중 적어도 어느 한 객체를 특정할 수 있다. 이때, 상품 정보 검색 장치(100)는 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 객체를 특정할 수 있는데, 일 예로서, 상품 정보 검색 장치(100)는 딥러닝 R-CNN ("Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation, Ross Girshick, Jeff Donahue, Trevor Darrell and Jitendra Malik, in CVPR 2014" 참고) 모델에 기반하여 객체 탐지 기술(Object Detection)로써 객체를 특정할 수 있다.
합성곱 신경망 모델에서의 '합성곱(Convolution)' 연산은 이미지의 구성 요소를 추출내는 연산으로 아래와 같은 수학식 1을 기반으로 구현할 수 있다.
[수학식 1]
수치화 된 이미지 매트릭스에 커널 매트릭스를 통과시켜 자신의 위치 픽셀과 주변에 인접한 픽셀의 데이터를 계산하여 결과를 도출하고, 출력 매트릭스로서 저장된 데이터가 이미지의 특징을 갖는다.
다만, 합성곱 연산만을 지속하면 특정 시점부터 정확도가 떨어지는 오버 피팅이 발생하게 되는데, 오버 피팅을 방지하기 위해 상품 정보 검색 장치(100)는 출력 매트릭스의 인접값에서 큰 값으로 풀링(Pooling)할 수 있고, 드롭아웃(Dropout)을 수행할 수 있다.
이후 상품 정보 검색 장치(100)는 데이터 분류 알고리즘(예를 들어, SVM(Support Vector Machine), SoftMax)을 이용하여 상품 정보 이미지에서 객체의 위치를 추출할 수 있고 객체를 특정할 수 있다.
또한, 상품 정보 검색 장치(100)는 상품 정보 이미지의 정확도를 높이기 위해, 객체를 특정하기 이전에, 상품 정보 이미지에 대한 전처리를 수행할 수도 있다. 전처리는 예를 들어, 이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 등을 수행하는 것일 수 있다.
도 3은 상품 정보 검색 장치가 상품 정보 이미지에 대한 전처리 과정을 설명하기 위한 예시도이다.
도 3을 참조하면, 일 예로서, 상품 정보 검색 장치(100)는 상품 정보 이미지에서 프라이스택 이미지(도 3의 가격표 이미지)를 추출하고, 프라이스택 이미지를 균일 사이즈의 이미지로 변환할 수 있다. 그리고, 프라이스택 내 객체들의 좌표를 계산하여 좌표 별 수치데이터로 객체에 대한 이미지 데이터를 수치 데이터로 변환할 수 있다. 상품 정보 검색 장치(100)는 이러한 좌표에 따른 이미지의 수치 데이터에 기반하여 객체를 특정할 수 있다.
또한, 상품 정보 검색 장치(100)는 촬영된 이미지 내의 텍스트를 식별하고, 텍스트 데이터를 추출할 수 있다. 이때, 상품 정보 검색 장치(100)는 전체 이미지 영역을 판독하여 텍스트를 식별하거나, 특정된 객체 별 텍스트를 식별할 수 있다.
도 4는 상품 정보 검색 장치가 제공하는 화면의 예시도이다.
도 4를 참조하면, 상품 정보 검색 장치(100)는 사용자에게 일정 영역 내에 상품 정보가 위치하도록 표시하는 가이드 영역을 제공할 수도 있다. 상품 정보 검색 장치(100)는 상품 정보 이미지 내의 가이드 영역만을 판독하여 텍스트를 식별할 수 있다. 일 실시 예로서, 상품 정보 검색 장치(100)는 광학적 문자 판독(Optical Character Recognition, OCR) 방식 등을 이용하여 이미지 내의 텍스트를 검출할 수 있다.
상품 정보 검색 장치(100)는 정확하게 텍스트를 검출하기 위해, 인식된 텍스트 결과 중 오탈자가 있는 경우와 없는 경우를 나눈 후 오인식된 상품명과 보정된 상품명을 매칭하여 딥러닝 모델을 학습시킬 수 있다.
또한, 상품 정보 검색 장치(100)는 상품 정보 이미지가 촬영된 장소의 위치 정보를 메타 정보로서 획득할 수 있다. 실시예에 따라서는 촬영시간에 대한 정보 또한 메타 정보로서 획득할 수도 있다. 위치 정보는 상품 정보 이미지로부터 촬영좌표를 추출함으로써 획득될 수도 있고, 별개의 GPS 등을 수집함으로써 획득될 수도 있다.
상품 정보 검색 장치(100)는 인식된 객체 별 텍스트 데이터에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장할 수 있다.
도 5는 일 실시예에 따른 상품 정보 검색 장치가 저장하는 속성 정보의 개념도이다.
도 5를 참조하면, 상품 정보 검색 장치(100)는 상품의 카테고리 별로 해당 상품의 속성 정보(예를 들어, 상품명, 가격, 프로모션 정보, 성분, 및 고유의 식별 코드 등)를 데이터베이스에 저장할 수 있다. 또한, 상품 정보 검색 장치(100)는 상품 정보 이미지가 촬영된 장소의 위치 정보에 기초하여 상품 정보 이미지에 상응하는 매장정보를 특정하고, 매장 정보 또한 속성 정보로서 함께 저장하는 것이 가능하다.
일례로, 상품 정보 검색 장치(100)는 딥러닝 기반 예측 알고리즘을 이용하여 상품의 속성 정보를 벡터화하여 저장할 수 있다.
도 6은 벡터화하여 저장된 속성 정보의 개념도이다.
구체적으로, 도 6과 같이 상품 정보 검색 장치(100)는 Word2Vec을 활용하여 화장품 유형별 성분, 속성 정보를 벡터화하고, CBOW(Continuous Bag-of-Words) 모델을 활용하여 화장품 성분 사이의 거리를 벡터화할 수 있다. Word2Vec과 CBOW은 공지된 기술이므로 자세한 설명을 생략한다. 이는 추후 유저의 촬영 기록과 검색 내역 등의 기입 내용에 근거하여 산출된 속성 정보와 벡터상 가까운 거리의 성분이 포함된 제품이 추천될 수 있도록 하기 위함이다.
그리고 상품 정보 검색 장치(100)는 상품 정보 이미지를 촬영한 사용자의 관심 상품을 특정하고, 관심 상품에 상응하는 서비스 정보를 특정하고, 특정된 서비스 정보를 사용자에게 제공할 수 있다.
예를 들어, 사용자가 특정 상품의 상품 정보 이미지를 촬영한 경우, 사용자에게 특정 상품과 동일 또는 유사한 벡터 성분을 갖는(예를 들면, 미리 설정된 기준 범위 내의 벡터값을 갖는) 타 상품을 서비스 정보로써 제공할 수도 있다.
또한, 상품 정보 검색 장치(100)는 타 상품이 판매되는 매장정보 또한 서비스 정보(예컨대, 보다 저렴한 타 매장의 판매정보, 또는 속성이 동일/유사한 대 체상품에 대한 정보 등)로써 제공할 수도 있다.
전술한 바와 같이 상품 정보 검색 장치(100)가 상품 정보 이미지만으로도 다량의 학습 데이터를 확보하고, 속성 정보를 고도화하여 저장하고, 이에 따라 서비스 정보가 특정되어 사용자에게 제공됨으로써 다양한 카테고리 별 맞춤 속성 정보들이 채워질 수 있고, 사용자들이 구매 결정을 함에 있어서 도움이 되는 정보의 양이 늘어나 서비스의 품질이 높아질 수 있다.
상품 정보 검색 장치(100)는 본 발명의 기술적 사상을 구현하기 위해 필요한 하드웨어 리소스(resource) 및/또는 소프트웨어를 구비할 수 있으며, 반드시 하나의 물리적인 구성요소를 의미하거나 하나의 장치를 의미하는 것은 아니다. 즉, 상기 촬영기반 정보제공 시스템(100)은 본 발명의 기술적 사상을 구현하기 위해 구비되는 하드웨어 및/또는 소프트웨어의 논리적인 결합을 의미할 수 있으며, 필요한 경우에는 서로 이격된 장치에 설치되어 각각의 기능을 수행함으로써 본 발명의 기술적 사상을 구현하기 위한 논리적인 구성들의 집합으로 구현될 수도 있다.
또한, 상품 정보 검색 장치(100)는 상품 정보 검색 장치(100) 내 구성요소들의 동작을 제어하기 위한 알고리즘 또는 알고리즘을 재현한 프로그램 또는 어플리케이션에 대한 데이터베이스를 저장하는 메모리, 및 메모리에 저장된 데이터베이스를 이용하여 전술한 동작을 수행하는 프로세서를 포함할 수 있다. 이때, 메모리와 프로세서는 각각 별개의 칩으로 구현될 수 있다. 또는, 메모리와 프로세서는 단일 칩으로 구현될 수도 있다.
이하, 도 7을 참조하여, 상품 정보 검색 장치(100)의 제어방법에 대해서 설명한다. 도 7은 일 실시예에 따른 상품 정보 검색 장치의 제어방법에 대한 순서도이다.
우선, 일 실시예에 따른 상품 정보 검색 장치(100)는 사용자 단말기에서 촬영된 상품 정보 이미지를 획득한다(1100).
다음으로, 일 실시예에 따른 상품 정보 검색 장치(100)는 획득된 상품 정보 이미지에서 상품 정보를 식별한다(1200).
여기서, 상품 정보를 식별하는 동작(1200)은 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하는 동작과, 특정된 객체의 텍스트 데이터를 추출하는 동작을 포함할 수 있다.
객체는 상품명, 가격, 프로모션 정보, 성분, 및 고유의 식별 코드 중 적어도 어느 하나를 포함할 수 있다.
객체를 특정하는 동작에 대해서는 딥러닝 R-CNN, 풀링, 드롭아웃과 관련하여 전술한 바, 중복된 설명을 생략한다.
텍스트 데이터를 추출하는 동작에 대해서는 광학적 문자 판독 방식과 관련하여 전술한 바, 중복된 설명을 생략한다.
또한, 상품 정보를 식별하는 동작(1200)은 적어도 어느 한 객체를 특정하기 전에, 상품 정보 이미지에 대한 전처리를 수행하는 동작을 더 포함할 수 있다. 상품 정보 이미지에 대한 전처리를 수행하는 동작은, 상품 정보 이미지에 대해 이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 중 적어도 어느 하나를 포함할 수 있다.
그리고, 상품 정보를 식별하는 동작(1200)은 상품 정보 이미지가 촬영된 장소의 위치 정보를 수신하는 동작을 더 포함할 수 있다.
다음으로, 일 실시예에 따른 상품 정보 검색 장치(100)는 식별된 상품 정보에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장한다(1300).
상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하는 동작(1300)은 추출된 객체를 특정하여 속성 정보를 저장하는 동작을 포함하고, 위치 정보에 기초하여 상품 정보 이미지에 상응하는 매장정보를 특정하고, 매장 정보를 저장하는 동작을 포함할 수 있다.
한편, 상품 정보 검색 장치(100)는 속성 정보를 저장하는 것에서 더 나아가, 저장된 속성 정보에 기초하여 사용자에게 서비스 정보를 제공하는 것 또한 가능하다.
다른 실시예에 따른 상품 정보 검색 장치(100)는 저장된 속성 정보에 대한 데이터베이스를 이용하여 상품 정보 이미지를 촬영한 사용자의 관심 상품을 특정할 수도 있다.
사용자의 관심 상품을 특정하는 동작은 딥러닝 기반 예측 알고리즘을 이용하여 사용자의 관심 상품을 특정하는 동작을 포함할 수 있다. 이때, 딥러닝 기반 예측 알고리즘은 Word2Vec 및 CBOW(Continuous Bag-of-Words) 모델을 포함할 수 있고, 이에 대한 중복된 설명은 생략한다.
다음으로, 다른 실시예에 따른 상품 정보 검색 장치(100)는 특정된 사용자의 관심 상품에 상응하는 서비스 정보를 특정할 수도 있다.
서비스 정보를 특정하는 동작은 관심 상품의 속성정보에 대응되는 속성 정보를 갖는 추천 상품에 대한 정보를 서비스 정보로 특정하는 동작을 포함할 수 있다.
한편, 개시된 실시예들은 컴퓨터에 의해 실행 가능한 명령어를 저장하는 기록매체의 형태로 구현될 수 있다. 명령어는 프로그램 코드의 형태로 저장될 수 있으며, 프로세서에 의해 실행되었을 때, 프로그램 모듈을 생성하여 개시된 실시예들의 동작을 수행할 수 있다. 기록매체는 컴퓨터로 읽을 수 있는 기록매체로 구현될 수 있다.
컴퓨터가 읽을 수 있는 기록매체로는 컴퓨터에 의하여 해독될 수 있는 명령어가 저장된 모든 종류의 기록 매체를 포함한다. 예를 들어, ROM(Read Only Memory), RAM(Random Access Memory), 자기 테이프, 자기 디스크, 플래쉬 메모리, 광 데이터 저장장치 등이 있을 수 있다.
이상에서와 같이 첨부된 도면을 참조하여 개시된 실시예들을 설명하였다. 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고도, 개시된 실시예들과 다른 형태로 본 발명이 실시될 수 있음을 이해할 것이다. 개시된 실시예들은 예시적인 것이며, 한정적으로 해석되어서는 안 된다.
100: 상품 정보 검색 장치
Claims (13)
- 상품 정보 검색 장치의 제어 방법에 있어서,
사용자가 상품에 기재되거나 상기 상품에 인접한 부분에 기재된 상품 정보를 위치시키도록, 사용자 단말기의 촬영 화면 내에 표시되는 가이드 영역을 제공하는 단계;
상기 사용자 단말기에서 촬영된 상품 정보 이미지를 획득하는 단계;
상기 획득된 상품 정보 이미지에서 상품 정보를 식별하는 단계; 및
상기 식별된 상품 정보에 기초하여 상기 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하는 단계를 포함하되,
상기 상품 정보를 식별하는 단계는,
상기 획득된 상품 정보 이미지의 전체 이미지 영역 중에서 상기 가이드 영역만을 판독 영역으로 하여, 인공 신경망 모델을 사용하여 상기 판독 영역인 상기 가이드 영역에서 프라이스택 이미지가 추출되는 경우, 상기 프라이스택 이미지를 소정의 균일 사이즈의 이미지로 변환한 다음, 상기 소정의 균일 사이즈의 이미지 내에 포함된 적어도 어느 한 객체를 상기 객체의 좌표에 따른 수치 데이터에 기반하여 특정하는 단계, 및
상기 특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고,
상기 데이터베이스에 저장하는 단계는,
Word2Vec 및 CBOW(Continuous Bag-of-Words) 모델을 포함하는 딥러닝 기반 예측 알고리즘을 이용하여, 상기 텍스트 데이터를 기초로 상기 상품의 속성 정보를 벡터화하여 저장하는 단계를 포함하되,
상기 상품 정보 검색 장치의 제어 방법은,
상기 딥러닝 기반 예측 알고리즘을 이용하여, 상기 벡터화된 속성 정보를 기초로 상기 촬영된 상품인 관심 상품을 특정하는 단계;
상기 관심 상품의 상기 벡터화된 속성 정보로부터 미리 설정된 기준 범위 내의 벡터값을 갖는 속성 정보에 대응되는 추천 상품 - 상기 추천 상품은 상기 관심 상품보다 저렴한 상품임 - 을 판매하는 타 매장의 판매정보를 서비스 정보로 특정하는 단계; 및
상기 서비스 정보를 상기 사용자 단말기로 제공하는 단계를 더 포함하는 상품 정보 검색 장치의 제어 방법. - 제 1 항에 있어서,
상기 인공 신경망 모델은 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 포함하는 상품 정보 검색 장치의 제어 방법. - 제 1 항에 있어서,
상기 객체는 상품명, 가격, 프로모션 정보, 성분, 및 고유의 식별 코드 중 적어도 어느 하나를 포함하는 상품 정보 검색 장치의 제어방법. - 제 1 항에 있어서,
상기 상품 정보를 식별하는 단계는,
상기 상품 정보 이미지가 촬영된 장소의 위치 정보를 수신하는 단계를 더 포함하고,
상기 데이터베이스에 저장하는 단계는,
수신한 상기 위치 정보에 기초하여 상기 상품 정보 이미지에 상응하는 매장 정보를 특정하고, 상기 매장 정보를 저장하는 단계를 더 포함하는 상품 정보 검색 장치의 제어 방법. - 삭제
- 제 1 항에 있어서,
상기 적어도 어느 한 객체를 특정하는 단계 이전에,
상기 상품 정보 이미지에 대한 전처리를 수행하는 단계를 더 포함하는 상품 정보 검색 장치의 제어방법. - 제 6 항에 있어서,
상기 전처리를 수행하는 단계는,
이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 중 적어도 어느 하나를 수행하는 상품 정보 검색 장치의 제어방법. - 삭제
- 삭제
- 삭제
- 삭제
- 상품 정보 검색 장치에 있어서,
상기 상품 정보 검색 장치는 프로세서를 포함하고,
상기 프로세서는,
사용자가 상품에 기재되거나 상기 상품에 인접한 부분에 기재된 상품 정보를 위치시키도록, 사용자 단말기의 촬영 화면 내에 표시되는 가이드 영역을 제공하고,
상기 사용자 단말기에서 촬영된 상품 정보 이미지를 획득하고,
상기 획득된 상품 정보 이미지에서 상품 정보를 식별하고,
상기 식별된 상품 정보에 기초하여 상기 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하되,
상기 상품 정보를 식별하는 동작은,
상기 획득된 상품 정보 이미지의 전체 이미지 영역 중에서 상기 가이드 영역만을 판독 영역으로 하여, 인공 신경망 모델을 사용하여 상기 판독 영역인 상기 가이드 영역에서 프라이스택 이미지가 추출되는 경우, 상기 프라이스택 이미지를 소정의 균일 사이즈의 이미지로 변환한 다음, 상기 소정의 균일 사이즈의 이미지 내에 포함된 적어도 어느 한 객체를 상기 객체의 좌표에 따른 수치 데이터에 기반하여 특정하고, 상기 특정된 객체의 텍스트 데이터를 추출하는 동작을 포함하고,
상기 데이터베이스에 저장하는 동작은,
Word2Vec 및 CBOW(Continuous Bag-of-Words) 모델을 포함하는 딥러닝 기반 예측 알고리즘을 이용하여, 상기 텍스트 데이터를 기초로 상기 상품의 속성 정보를 벡터화하여 저장하는 동작을 포함하되,
상기 프로세서는,
상기 딥러닝 기반 예측 알고리즘을 이용하여, 상기 벡터화된 속성 정보를 기초로 상기 촬영된 상품인 관심 상품을 특정하고,
상기 관심 상품의 상기 속성 정보로부터 미리 설정된 기준 범위 내의 벡터값을 갖는 속성 정보에 대응되는 추천 상품 - 상기 추천 상품은 상기 관심 상품보다 저렴한 상품임 - 을 판매하는 타 매장의 판매정보를 서비스 정보로 특정하고,
상기 서비스 정보를 상기 사용자 단말기로 제공하는 상품 정보 검색 장치. - 사용자가 상품에 기재되거나 상기 상품에 인접한 부분에 기재된 상품 정보를 위치시키도록, 사용자 단말기의 촬영 화면 내에 표시되는 가이드 영역을 제공하는 단계;
상기 사용자 단말기에서 촬영된 상품 정보 이미지를 획득하는 단계;
상기 획득된 상품 정보 이미지에서 상품 정보를 식별하는 단계; 및
상기 식별된 상품 정보에 기초하여 상기 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하는 단계를 포함하되,
상기 상품 정보를 식별하는 단계는,
상기 획득된 상품 정보 이미지의 전체 이미지 영역 중에서 상기 가이드 영역만을 판독 영역으로 하여, 인공 신경망 모델을 사용하여 상기 판독 영역인 상기 가이드 영역에서 프라이스택 이미지가 추출되는 경우, 상기 프라이스택 이미지를 소정의 균일 사이즈의 이미지로 변환한 다음, 상기 소정의 균일 사이즈의 이미지 내에 포함된 적어도 어느 한 객체를 특정하고, 상기 특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고,
상기 데이터베이스에 저장하는 단계는,
Word2Vec 및 CBOW(Continuous Bag-of-Words) 모델을 포함하는 딥러닝 기반 예측 알고리즘을 이용하여, 상기 텍스트 데이터를 기초로 상기 상품의 속성 정보를 벡터화하여 저장하는 단계를 포함하되,
상기 딥러닝 기반 예측 알고리즘을 이용하여, 상기 벡터화된 속성 정보를 기초로 상기 촬영된 상품인 관심 상품을 특정하는 단계;
상기 관심 상품의 상기 속성 정보로부터 미리 설정된 기준 범위 내의 벡터값을 갖는 속성 정보에 대응되는 추천 상품 - 상기 추천 상품은 상기 관심 상품보다 저렴한 상품임 - 을 판매하는 타 매장의 판매정보를 서비스 정보로 특정하는 단계; 및
상기 서비스 정보를 상기 사용자 단말기로 제공하는 단계를 더 포함하는 방법이 기록된 컴퓨터로 판독 가능한 기록 매체.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200125567A KR102508419B1 (ko) | 2020-09-28 | 2020-09-28 | 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 |
| PCT/KR2020/014866 WO2022065572A1 (ko) | 2020-09-28 | 2020-10-29 | 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200125567A KR102508419B1 (ko) | 2020-09-28 | 2020-09-28 | 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20220042583A KR20220042583A (ko) | 2022-04-05 |
| KR102508419B1 true KR102508419B1 (ko) | 2023-03-09 |
Family
ID=81181832
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020200125567A KR102508419B1 (ko) | 2020-09-28 | 2020-09-28 | 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102508419B1 (ko) |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019185299A (ja) * | 2018-04-06 | 2019-10-24 | データ・サイエンティスト株式会社 | 検索ニーズの評価装置、評価システム、評価方法、及び評価モジュール生産方法 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101715036B1 (ko) * | 2010-06-29 | 2017-03-22 | 에스케이플래닛 주식회사 | 객체 인식을 통한 상품 분류 검색 및 쇼핑 정보 제공 서비스 방법, 서버 및 시스템 |
| KR102477841B1 (ko) * | 2017-03-30 | 2022-12-15 | 씨제이올리브영 주식회사 | 상품 검색 장치, 서버 및 검색 시스템의 제어 방법 |
-
2020
- 2020-09-28 KR KR1020200125567A patent/KR102508419B1/ko active IP Right Grant
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019185299A (ja) * | 2018-04-06 | 2019-10-24 | データ・サイエンティスト株式会社 | 検索ニーズの評価装置、評価システム、評価方法、及び評価モジュール生産方法 |
Non-Patent Citations (1)
| Title |
|---|
| 한국정보과학회 학술발표논문집, 이철훈 외 2인, 객체 추적과 OCR을 통한 표시 정보의 실시간 인식 방법(2019.06.)* |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20220042583A (ko) | 2022-04-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111582297B (zh) | 细粒度分类 | |
| US10210178B2 (en) | Machine learning image processing | |
| US20190311210A1 (en) | Automated extraction of product attributes from images | |
| KR102279456B1 (ko) | 문서의 광학 문자 인식 기법 | |
| CN111275038A (zh) | 图像文本识别方法、装置、计算机设备及计算机存储介质 | |
| WO2016029796A1 (zh) | 识别视频图像中的商品和展示其信息的方法、装置及系统 | |
| Zhang et al. | Toward new retail: A benchmark dataset for smart unmanned vending machines | |
| Wu et al. | An intelligent self-checkout system for smart retail | |
| CA2804439A1 (en) | System and method for categorizing an image | |
| KR101835333B1 (ko) | 얼굴 인식 서비스 제공 방법 | |
| CN105022773B (zh) | 包括图像优先级的图像处理系统 | |
| CN113627411A (zh) | 一种基于超分辨率的商品识别与价格匹配方法及系统 | |
| CN105183739B (zh) | 图像处理方法 | |
| US20210042663A1 (en) | Data attribution based on spatial memory using machine learning pipeline | |
| CN113963147A (zh) | 一种基于语义分割的关键信息提取方法及系统 | |
| CN113705733A (zh) | 医疗票据图像处理方法及装置、电子设备、存储介质 | |
| CN113222022A (zh) | 一种网页分类识别方法及装置 | |
| CN115019322A (zh) | 字体检测方法、装置、设备及介质 | |
| KR102477840B1 (ko) | 사용자 정보를 활용한 상품 정보 검색 장치 및 이를 위한 제어방법 | |
| EP3926567A1 (en) | System and method for authentication and registration of products and dynamically rendering content | |
| KR102508419B1 (ko) | 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 | |
| KR102086600B1 (ko) | 상품 구매 정보 제공 장치 및 방법 | |
| US20210166028A1 (en) | Automated product recognition, analysis and management | |
| KR102508420B1 (ko) | 구매 영수증 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 | |
| CN114239758B (zh) | 珠宝款码确定方法、装置、计算机设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E90F | Notification of reason for final refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |