KR20220042583A - 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 - Google Patents

상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 Download PDF

Info

Publication number
KR20220042583A
KR20220042583A KR1020200125567A KR20200125567A KR20220042583A KR 20220042583 A KR20220042583 A KR 20220042583A KR 1020200125567 A KR1020200125567 A KR 1020200125567A KR 20200125567 A KR20200125567 A KR 20200125567A KR 20220042583 A KR20220042583 A KR 20220042583A
Authority
KR
South Korea
Prior art keywords
product information
product
information
image
storing
Prior art date
Application number
KR1020200125567A
Other languages
English (en)
Other versions
KR102508419B1 (ko
Inventor
김화경
Original Assignee
로켓뷰 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 로켓뷰 주식회사 filed Critical 로켓뷰 주식회사
Priority to KR1020200125567A priority Critical patent/KR102508419B1/ko
Priority to PCT/KR2020/014866 priority patent/WO2022065572A1/ko
Publication of KR20220042583A publication Critical patent/KR20220042583A/ko
Application granted granted Critical
Publication of KR102508419B1 publication Critical patent/KR102508419B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0623—Item investigation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Item recommendations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0641—Shopping interfaces
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T5/002—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Development Economics (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

상품 정보 검색 장치의 제어 방법은 사용자 단말기에서 촬영된 상품 정보 이미지를 획득하는 단계, 획득된 상품 정보 이미지에서 상품 정보를 식별하는 단계, 및 식별된 상품 정보에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하는 단계를 포함하되, 상품 정보를 식별하는 단계는, 인공 신경망 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하는 단계, 및 특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고, 데이터베이스에 저장하는 단계는, 텍스트 데이터에 기초하여 상품의 속성 정보를 저장하는 단계를 포함한다.

Description

상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법{DEVICE FOR SEARCHING GOODS INFORMATION IN OFFLINE RETAIL ENVIRONMENT USING GOODS INFORMATION IMAGE AND CONTROL METHOD THEREOF}
오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법에 관한 것으로, 특히 오프라인 리테일 매장 내 존재하는 상품정보에 관한 이미지를 활용하는 것에 관한 발명이다.
각종 온라인 비즈니스가 활성화되면서, 전통적인 유통 사업도 차별화된 프로모션 방법의 개발에 대한 압박을 받고 있다. 그러나, 여전히 많은 상품들은 오프라인 매장에서 판매되기도 하고, 온라인 매장에서 판매되기도 한다. 또한, 전 세계적으로 쇼핑의 91%는 여전히 오프라인 매장에서 이루어지고 있으며, 소비자의 구매 여정에 대한 정보는 오프라인 매장의 어떤 자극과 정보를 접했는지 확인할 수 있는 주요한 정보이다.
그러나, 오프라인 매장을 통해 얻게 되는 데이터는 온라인 데이터에 비해 수집이 어려우며, 실제 소비자의 오프라인 라이프가 담긴 데이터이기 때문에 매우 가치 있는 데이터로 주목 받고 있음에도 불구하고, 오프라인 매장과 온라인 매장 모두 소비자의 오프라인 상에서의 구매 여정을 파악하기 어려운 실정이었다.
소비자가 구매 과정에서 어떤 경험을 선호하고 반응하는지 상세하게 정보를 수집하고 분석하여 개인 맞춤형 서비스가 비즈니스 전반에 활용될 수 있게 하는 상품 정보 검색 장치 및 이를 위한 제어방법을 제공하고자 한다.
일 측면에 따른 상품 정보 검색 장치의 제어 방법은 사용자 단말기에서 촬영된 상품 정보 이미지를 획득하는 단계, 획득된 상품 정보 이미지에서 상품 정보를 식별하는 단계, 및 식별된 상품 정보에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하는 단계를 포함하되, 상품 정보를 식별하는 단계는, 인공 신경망 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하는 단계, 및 특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고, 데이터베이스에 저장하는 단계는, 텍스트 데이터에 기초하여 상품의 속성 정보를 저장하는 단계를 포함한다.
인공 신경망 모델은 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 포함할 수 있다.
객체는 상품명, 가격, 프로모션 정보, 성분, 및 고유의 식별 코드 중 적어도 어느 하나를 포함할 수 있다.
상품 정보를 식별하는 단계는, 상품 정보 이미지가 촬영된 장소의 위치 정보를 수신하는 단계를 더 포함하고, 데이터베이스에 저장하는 단계는, 수신한 위치 정보에 기초하여 상품 정보 이미지에 상응하는 매장 정보를 특정하고, 매장 정보를 저장하는 단계를 더 포함하는 상품 정보 검색 장치의 제어 방법.
속성 정보를 저장하는 단계는, 추출된 객체를 특정하여 속성 정보를 저장하는 단계를 포함할 수 있다.
상품 정보 검색 장치의 제어 방법은 적어도 어느 한 객체를 특정하는 단계 이전에, 상품 정보 이미지에 대한 전처리를 수행하는 단계를 더 포함할 수 있다.
전처리를 수행하는 단계는, 이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 중 적어도 어느 하나를 수행할 수 있다.
상품 정보 검색 장치의 제어 방법은 속성 정보에 기초하여 상품 정보 이미지를 촬영한 사용자의 관심 상품을 특정하는 단계, 관심 상품에 상응하는 서비스 정보를 특정하는 단계, 및 서비스 정보를 사용자 단말기로 제공하는 단계를 더 포함할 수 있다.
사용자의 관심 상품을 특정하는 단계는, 딥러닝 기반 예측 알고리즘을 이용하여 사용자의 관심 상품을 특정하는 단계를 포함할 수 있다.
딥러닝 기반 예측 알고리즘은 Word2Vec 및 CBOW(Continuous Bag-of-Words) 모델을 포함할 수 있다.
서비스 정보를 특정하는 단계는, 관심 상품의 속성정보에 대응되는 속성 정보를 갖는 추천 상품에 대한 정보를 서비스 정보로 특정하는 단계를 포함할 수 있다.
다른 측면에 따른 상품 정보 검색 장치는 상품 정보 검색 장치는 프로세서를 포함하고, 프로세서는, 사용자 단말기에서 촬영된 상품 정보 이미지를 획득하고, 획득된 상품 정보 이미지에서 상품 정보를 식별하고, 식별된 상품 정보에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하되, 상품 정보를 식별하는 것은, 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하고, 특정된 객체의 텍스트 데이터를 추출하고, 데이터베이스에 저장하는 것은, 텍스트 데이터에 기초하여 상품의 속성 정보를 저장한다.
프로세서는, 적어도 어느 한 객체를 특정하기 전에, 상품 정보 이미지에 대한 전처리를 수행할 수 있다.
프로세서는, 속성 정보에 기초하여 상품 정보 이미지를 촬영한 사용자의 관심 상품을 특정하고, 관심 상품에 상응하는 서비스 정보를 특정하고, 서비스 정보를 사용자 단말기로 제공할 수 있다.
프로세서는, 딥러닝 기반 예측 알고리즘을 이용하여 사용자의 관심 상품을 특정할 수 있다.
프로세서는, 관심 상품의 속성정보에 대응되는 속성 정보를 갖는 추천 상품에 대한 정보를 서비스 정보로 특정할 수 있다.
전술한 과제 해결 수단에 의하면, 소비자의 오프라인 상에서의 다양한 구매 여정에 대한 정보를 수집함으로써 개인 맞춤형 서비스가 비즈니스 전반에 활용될 수 있게 된다.
도 1은 상품 정보 검색 장치 및 상품 정보 검색 장치가 획득하는 상품 정보 이미지의 예시도이다.
도 2는 상품 정보 이미지가 포함하는 다양한 객체를 보여주는 도면이다.
도 3은 상품 정보 검색 장치가 상품 정보 이미지에 대한 전처리 과정을 설명하기 위한 예시도이다.
도 4는 상품 정보 검색 장치가 제공하는 화면의 예시도이다.
도 5는 일 실시예에 따른 상품 정보 검색 장치가 저장하는 속성 정보의 개념도이다.
도 6은 벡터화하여 저장된 속성 정보의 개념도이다.
도 7은 일 실시예에 따른 상품 정보 검색 장치의 제어방법에 대한 순서도이다.
명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다. 본 명세서가 실시예들의 모든 요소들을 설명하는 것은 아니며, 본 발명이 속하는 기술분야에서 일반적인 내용 또는 실시예들 간에 중복되는 내용은 생략한다. 명세서에서 사용되는 '부, 모듈, 부재, 블록'이라는 용어는 소프트웨어 또는 하드웨어로 구현될 수 있으며, 실시예들에 따라 복수의 '부, 모듈, 부재, 블록'이 하나의 구성요소로 구현되거나, 하나의 '부, 모듈, 부재, 블록'이 복수의 구성요소들을 포함하는 것도 가능하다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐 아니라, 간접적으로 연결되어 있는 경우를 포함하고, 간접적인 연결은 무선 통신망을 통해 연결되는 것을 포함한다.
또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
제 1, 제 2 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위해 사용되는 것으로, 구성요소가 전술된 용어들에 의해 제한되는 것은 아니다.
단수의 표현은 문맥상 명백하게 예외가 있지 않는 한, 복수의 표현을 포함한다.
각 단계들에 있어 식별부호는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 실시될 수 있다.
상품 정보 검색 장치는 상품 정보 이미지를 촬영하여 일련의 과정들을 수행하는 어플리케이션이 설치된 사용자 단말이 될 수도 있고, 사용자 단말로부터 촬영된 상품 정보 이미지를 수신하여 일련의 과정들을 수행하고 데이터를 사용자 단말과 교환하는 서버가 될 수도 있다. 이하, 설명의 편의를 위해 상품 정보 검색 장치가 사용자 단말의 형태로 구현된 것을 예로 들어 설명한다.
사용자 단말은 컴퓨터나 휴대용 단말기로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(desktop), 랩톱(laptop), 태블릿 PC, 슬레이트 PC 등을 포함하고, 휴대용 단말기는 예를 들어, 휴대성과 이동성이 보장되는 무선 통신 장치로서, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), WiBro(Wireless Broadband Internet) 단말, 스마트 폰(Smart Phone) 등과 같은 모든 종류의 핸드헬드(Handheld) 기반의 무선 통신 장치와 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD) 등과 같은 웨어러블 장치를 포함할 수 있다.
상품에는 상품명이나 고유의 식별 코드가 기재되어 있다. 또는, 상품과 인접한 부분에 상품정보가 기재된 프라이스택 등이 위치할 수 있다.
도 1은 상품 정보 검색 장치 및 상품 정보 검색 장치가 획득하는 상품 정보 이미지의 예시도이다.
상품 정보 검색 장치(100)는 상품과 함께 인접한 주변 물체를 함께 촬영할 수 있다. 상품 정보 검색 장치(100)가 촬영한 상품 정보 이미지에는 상품명, 고유의 식별 코드 또는 기타 정보가 포함될 수 있다.
상품 정보 이미지는 상품을 식별할 수 있는 정보 또는 특정 상품을 다른 상품과 구별할 수 있는 정보를 포함하는 촬영된 이미지를 의미한다. 예를 들어, 상품 정보 이미지는 상품 정보를 포함할 수 있다. 상품 정보는 상품명, 가격, 프로모션 정보, 및 고유의 식별 코드 등 다양한 객체에 대한 정보를 포함할 수 있다. 즉, 상품 정보 이미지는 도 1의 (a)와 같이 상품 정보가 기재된 프라이스택을 촬영한 이미지일 수 있고, 도 1의 (b)와 같이 상품 정보가 표면에 기재된 상품을 촬영한 이미지일 수 있고, 도 1의 (c)와 같이 상품 정보가 기재된 포장재를 촬영한 이미지일 수도 있다.
상품 정보 검색 장치(100)는 촬영된 상품 정보 이미지에서 상품 정보를 식별할 수 있다.
구체적으로, 상품 정보 검색 장치(100)는 상품 정보 이미지에서 적어도 어느 한 객체를 특정할 수 있다.
도 2는 상품 정보 이미지가 포함하는 다양한 객체를 보여주는 도면이다.
예를 들어, 상품 정보 검색 장치(100)는 상품명(Ob1), 가격(Ob2; '할인 전 가격', '할인 후 가격' 등), 프로모션 정보(Ob3; '1+1', '할인', '적립', '사은품 증정' 등), 및 고유의 식별 코드(Ob4) 중 적어도 어느 한 객체를 특정할 수 있다. 이때, 상품 정보 검색 장치(100)는 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 객체를 특정할 수 있는데, 일 예로서, 상품 정보 검색 장치(100)는 딥러닝 R-CNN ("Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation, Ross Girshick, Jeff Donahue, Trevor Darrell and Jitendra Malik, in CVPR 2014" 참고) 모델에 기반하여 객체 탐지 기술(Object Detection)로써 객체를 특정할 수 있다.
합성곱 신경망 모델에서의 '합성곱(Convolution)' 연산은 이미지의 구성 요소를 추출내는 연산으로 아래와 같은 수학식 1을 기반으로 구현할 수 있다.
[수학식 1]
Figure pat00001
수치화 된 이미지 매트릭스에 커널 매트릭스를 통과시켜 자신의 위치 픽셀과 주변에 인접한 픽셀의 데이터를 계산하여 결과를 도출하고, 출력 매트릭스로서 저장된 데이터가 이미지의 특징을 갖는다.
다만, 합성곱 연산만을 지속하면 특정 시점부터 정확도가 떨어지는 오버 피팅이 발생하게 되는데, 오버 피팅을 방지하기 위해 상품 정보 검색 장치(100)는 출력 매트릭스의 인접값에서 큰 값으로 풀링(Pooling)할 수 있고, 드롭아웃(Dropout)을 수행할 수 있다.
이후 상품 정보 검색 장치(100)는 데이터 분류 알고리즘(예를 들어, SVM(Support Vector Machine), SoftMax)을 이용하여 상품 정보 이미지에서 객체의 위치를 추출할 수 있고 객체를 특정할 수 있다.
또한, 상품 정보 검색 장치(100)는 상품 정보 이미지의 정확도를 높이기 위해, 객체를 특정하기 이전에, 상품 정보 이미지에 대한 전처리를 수행할 수도 있다. 전처리는 예를 들어, 이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 등을 수행하는 것일 수 있다.
도 3은 상품 정보 검색 장치가 상품 정보 이미지에 대한 전처리 과정을 설명하기 위한 예시도이다.
도 3을 참조하면, 일 예로서, 상품 정보 검색 장치(100)는 상품 정보 이미지에서 프라이스택 이미지(도 3의 가격표 이미지)를 추출하고, 프라이스택 이미지를 균일 사이즈의 이미지로 변환할 수 있다. 그리고, 프라이스택 내 객체들의 좌표를 계산하여 좌표 별 수치데이터로 객체에 대한 이미지 데이터를 수치 데이터로 변환할 수 있다. 상품 정보 검색 장치(100)는 이러한 좌표에 따른 이미지의 수치 데이터에 기반하여 객체를 특정할 수 있다.
또한, 상품 정보 검색 장치(100)는 촬영된 이미지 내의 텍스트를 식별하고, 텍스트 데이터를 추출할 수 있다. 이때, 상품 정보 검색 장치(100)는 전체 이미지 영역을 판독하여 텍스트를 식별하거나, 특정된 객체 별 텍스트를 식별할 수 있다.
도 4는 상품 정보 검색 장치가 제공하는 화면의 예시도이다.
도 4를 참조하면, 상품 정보 검색 장치(100)는 사용자에게 일정 영역 내에 상품 정보가 위치하도록 표시하는 가이드 영역을 제공할 수도 있다. 상품 정보 검색 장치(100)는 상품 정보 이미지 내의 가이드 영역만을 판독하여 텍스트를 식별할 수 있다. 일 실시 예로서, 상품 정보 검색 장치(100)는 광학적 문자 판독(Optical Character Recognition, OCR) 방식 등을 이용하여 이미지 내의 텍스트를 검출할 수 있다.
상품 정보 검색 장치(100)는 정확하게 텍스트를 검출하기 위해, 인식된 텍스트 결과 중 오탈자가 있는 경우와 없는 경우를 나눈 후 오인식된 상품명과 보정된 상품명을 매칭하여 딥러닝 모델을 학습시킬 수 있다.
또한, 상품 정보 검색 장치(100)는 상품 정보 이미지가 촬영된 장소의 위치 정보를 메타 정보로서 획득할 수 있다. 실시예에 따라서는 촬영시간에 대한 정보 또한 메타 정보로서 획득할 수도 있다. 위치 정보는 상품 정보 이미지로부터 촬영좌표를 추출함으로써 획득될 수도 있고, 별개의 GPS 등을 수집함으로써 획득될 수도 있다.
상품 정보 검색 장치(100)는 인식된 객체 별 텍스트 데이터에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장할 수 있다.
도 5는 일 실시예에 따른 상품 정보 검색 장치가 저장하는 속성 정보의 개념도이다.
도 5를 참조하면, 상품 정보 검색 장치(100)는 상품의 카테고리 별로 해당 상품의 속성 정보(예를 들어, 상품명, 가격, 프로모션 정보, 성분, 및 고유의 식별 코드 등)를 데이터베이스에 저장할 수 있다. 또한, 상품 정보 검색 장치(100)는 상품 정보 이미지가 촬영된 장소의 위치 정보에 기초하여 상품 정보 이미지에 상응하는 매장정보를 특정하고, 매장 정보 또한 속성 정보로서 함께 저장하는 것이 가능하다.
일례로, 상품 정보 검색 장치(100)는 딥러닝 기반 예측 알고리즘을 이용하여 상품의 속성 정보를 벡터화하여 저장할 수 있다.
도 6은 벡터화하여 저장된 속성 정보의 개념도이다.
구체적으로, 도 6과 같이 상품 정보 검색 장치(100)는 Word2Vec을 활용하여 화장품 유형별 성분, 속성 정보를 벡터화하고, CBOW(Continuous Bag-of-Words) 모델을 활용하여 화장품 성분 사이의 거리를 벡터화할 수 있다. Word2Vec과 CBOW은 공지된 기술이므로 자세한 설명을 생략한다. 이는 추후 유저의 촬영 기록과 검색 내역 등의 기입 내용에 근거하여 산출된 속성 정보와 벡터상 가까운 거리의 성분이 포함된 제품이 추천될 수 있도록 하기 위함이다.
그리고 상품 정보 검색 장치(100)는 상품 정보 이미지를 촬영한 사용자의 관심 상품을 특정하고, 관심 상품에 상응하는 서비스 정보를 특정하고, 특정된 서비스 정보를 사용자에게 제공할 수 있다.
예를 들어, 사용자가 특정 상품의 상품 정보 이미지를 촬영한 경우, 사용자에게 특정 상품과 동일 또는 유사한 벡터 성분을 갖는(예를 들면, 미리 설정된 기준 범위 내의 벡터값을 갖는) 타 상품을 서비스 정보로써 제공할 수도 있다.
또한, 상품 정보 검색 장치(100)는 타 상품이 판매되는 매장정보 또한 서비스 정보(예컨대, 보다 저렴한 타 매장의 판매정보, 또는 속성이 동일/유사한 대 체상품에 대한 정보 등)로써 제공할 수도 있다.
전술한 바와 같이 상품 정보 검색 장치(100)가 상품 정보 이미지만으로도 다량의 학습 데이터를 확보하고, 속성 정보를 고도화하여 저장하고, 이에 따라 서비스 정보가 특정되어 사용자에게 제공됨으로써 다양한 카테고리 별 맞춤 속성 정보들이 채워질 수 있고, 사용자들이 구매 결정을 함에 있어서 도움이 되는 정보의 양이 늘어나 서비스의 품질이 높아질 수 있다.
상품 정보 검색 장치(100)는 본 발명의 기술적 사상을 구현하기 위해 필요한 하드웨어 리소스(resource) 및/또는 소프트웨어를 구비할 수 있으며, 반드시 하나의 물리적인 구성요소를 의미하거나 하나의 장치를 의미하는 것은 아니다. 즉, 상기 촬영기반 정보제공 시스템(100)은 본 발명의 기술적 사상을 구현하기 위해 구비되는 하드웨어 및/또는 소프트웨어의 논리적인 결합을 의미할 수 있으며, 필요한 경우에는 서로 이격된 장치에 설치되어 각각의 기능을 수행함으로써 본 발명의 기술적 사상을 구현하기 위한 논리적인 구성들의 집합으로 구현될 수도 있다.
또한, 상품 정보 검색 장치(100)는 상품 정보 검색 장치(100) 내 구성요소들의 동작을 제어하기 위한 알고리즘 또는 알고리즘을 재현한 프로그램 또는 어플리케이션에 대한 데이터베이스를 저장하는 메모리, 및 메모리에 저장된 데이터베이스를 이용하여 전술한 동작을 수행하는 프로세서를 포함할 수 있다. 이때, 메모리와 프로세서는 각각 별개의 칩으로 구현될 수 있다. 또는, 메모리와 프로세서는 단일 칩으로 구현될 수도 있다.
이하, 도 7을 참조하여, 상품 정보 검색 장치(100)의 제어방법에 대해서 설명한다. 도 7은 일 실시예에 따른 상품 정보 검색 장치의 제어방법에 대한 순서도이다.
우선, 일 실시예에 따른 상품 정보 검색 장치(100)는 사용자 단말기에서 촬영된 상품 정보 이미지를 획득한다(1100).
다음으로, 일 실시예에 따른 상품 정보 검색 장치(100)는 획득된 상품 정보 이미지에서 상품 정보를 식별한다(1200).
여기서, 상품 정보를 식별하는 동작(1200)은 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하는 동작과, 특정된 객체의 텍스트 데이터를 추출하는 동작을 포함할 수 있다.
객체는 상품명, 가격, 프로모션 정보, 성분, 및 고유의 식별 코드 중 적어도 어느 하나를 포함할 수 있다.
객체를 특정하는 동작에 대해서는 딥러닝 R-CNN, 풀링, 드롭아웃과 관련하여 전술한 바, 중복된 설명을 생략한다.
텍스트 데이터를 추출하는 동작에 대해서는 광학적 문자 판독 방식과 관련하여 전술한 바, 중복된 설명을 생략한다.
또한, 상품 정보를 식별하는 동작(1200)은 적어도 어느 한 객체를 특정하기 전에, 상품 정보 이미지에 대한 전처리를 수행하는 동작을 더 포함할 수 있다. 상품 정보 이미지에 대한 전처리를 수행하는 동작은, 상품 정보 이미지에 대해 이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 중 적어도 어느 하나를 포함할 수 있다.
그리고, 상품 정보를 식별하는 동작(1200)은 상품 정보 이미지가 촬영된 장소의 위치 정보를 수신하는 동작을 더 포함할 수 있다.
다음으로, 일 실시예에 따른 상품 정보 검색 장치(100)는 식별된 상품 정보에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장한다(1300).
상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하는 동작(1300)은 추출된 객체를 특정하여 속성 정보를 저장하는 동작을 포함하고, 위치 정보에 기초하여 상품 정보 이미지에 상응하는 매장정보를 특정하고, 매장 정보를 저장하는 동작을 포함할 수 있다.
한편, 상품 정보 검색 장치(100)는 속성 정보를 저장하는 것에서 더 나아가, 저장된 속성 정보에 기초하여 사용자에게 서비스 정보를 제공하는 것 또한 가능하다.
다른 실시예에 따른 상품 정보 검색 장치(100)는 저장된 속성 정보에 대한 데이터베이스를 이용하여 상품 정보 이미지를 촬영한 사용자의 관심 상품을 특정할 수도 있다.
사용자의 관심 상품을 특정하는 동작은 딥러닝 기반 예측 알고리즘을 이용하여 사용자의 관심 상품을 특정하는 동작을 포함할 수 있다. 이때, 딥러닝 기반 예측 알고리즘은 Word2Vec 및 CBOW(Continuous Bag-of-Words) 모델을 포함할 수 있고, 이에 대한 중복된 설명은 생략한다.
다음으로, 다른 실시예에 따른 상품 정보 검색 장치(100)는 특정된 사용자의 관심 상품에 상응하는 서비스 정보를 특정할 수도 있다.
서비스 정보를 특정하는 동작은 관심 상품의 속성정보에 대응되는 속성 정보를 갖는 추천 상품에 대한 정보를 서비스 정보로 특정하는 동작을 포함할 수 있다.
한편, 개시된 실시예들은 컴퓨터에 의해 실행 가능한 명령어를 저장하는 기록매체의 형태로 구현될 수 있다. 명령어는 프로그램 코드의 형태로 저장될 수 있으며, 프로세서에 의해 실행되었을 때, 프로그램 모듈을 생성하여 개시된 실시예들의 동작을 수행할 수 있다. 기록매체는 컴퓨터로 읽을 수 있는 기록매체로 구현될 수 있다.
컴퓨터가 읽을 수 있는 기록매체로는 컴퓨터에 의하여 해독될 수 있는 명령어가 저장된 모든 종류의 기록 매체를 포함한다. 예를 들어, ROM(Read Only Memory), RAM(Random Access Memory), 자기 테이프, 자기 디스크, 플래쉬 메모리, 광 데이터 저장장치 등이 있을 수 있다.
이상에서와 같이 첨부된 도면을 참조하여 개시된 실시예들을 설명하였다. 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고도, 개시된 실시예들과 다른 형태로 본 발명이 실시될 수 있음을 이해할 것이다. 개시된 실시예들은 예시적인 것이며, 한정적으로 해석되어서는 안 된다.
100: 상품 정보 검색 장치

Claims (13)

  1. 상품 정보 검색 장치의 제어 방법에 있어서,
    사용자 단말기에서 촬영된 상품 정보 이미지를 획득하는 단계;
    상기 획득된 상품 정보 이미지에서 상품 정보를 식별하는 단계; 및
    상기 식별된 상품 정보에 기초하여 상기 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하는 단계를 포함하되,
    상기 상품 정보를 식별하는 단계는,
    인공 신경망 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하는 단계, 및
    특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고,
    상기 데이터베이스에 저장하는 단계는,
    상기 텍스트 데이터에 기초하여 상기 상품의 속성 정보를 저장하는 단계를 포함하는 상품 정보 검색 장치의 제어 방법.
  2. 제 1 항에 있어서,
    상기 인공 신경망 모델은 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 포함하는 상품 정보 검색 장치의 제어 방법.
  3. 제 1 항에 있어서,
    상기 객체는 상품명, 가격, 프로모션 정보, 성분, 및 고유의 식별 코드 중 적어도 어느 하나를 포함하는 상품 정보 검색 장치의 제어방법.
  4. 제 1 항에 있어서,
    상기 상품 정보를 식별하는 단계는,
    상기 상품 정보 이미지가 촬영된 장소의 위치 정보를 수신하는 단계를 더 포함하고,
    상기 데이터베이스에 저장하는 단계는,
    수신한 상기 위치 정보에 기초하여 상기 상품 정보 이미지에 상응하는 매장 정보를 특정하고, 상기 매장 정보를 저장하는 단계를 더 포함하는 상품 정보 검색 장치의 제어 방법.
  5. 제 1 항에 있어서,
    상기 속성 정보를 저장하는 단계는,
    추출된 객체를 특정하여 속성 정보를 저장하는 단계를 포함하는 상품 정보 검색 장치의 제어 방법.
  6. 제 1 항에 있어서,
    상기 적어도 어느 한 객체를 특정하는 단계 이전에,
    상기 상품 정보 이미지에 대한 전처리를 수행하는 단계를 더 포함하는 상품 정보 검색 장치의 제어방법.
  7. 제 6 항에 있어서,
    상기 전처리를 수행하는 단계는,
    이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 중 적어도 어느 하나를 수행하는 상품 정보 검색 장치의 제어방법.
  8. 제 1 항에 있어서,
    상기 속성 정보에 기초하여 상기 상품 정보 이미지를 촬영한 사용자의 관심 상품을 특정하는 단계;
    상기 관심 상품에 상응하는 서비스 정보를 특정하는 단계; 및
    상기 서비스 정보를 상기 사용자 단말기로 제공하는 단계를 더 포함하는 상품 정보 검색 장치의 제어방법.
  9. 제 8 항에 있어서,
    상기 사용자의 관심 상품을 특정하는 단계는,
    딥러닝 기반 예측 알고리즘을 이용하여 상기 사용자의 관심 상품을 특정하는 단계를 포함하는 상품 정보 검색 장치의 제어방법.
  10. 제 9 항에 있어서,
    상기 딥러닝 기반 예측 알고리즘은 Word2Vec 및 CBOW(Continuous Bag-of-Words) 모델을 포함하는 상품 정보 검색 장치의 제어방법.
  11. 제 1 항에 있어서,
    상기 서비스 정보를 특정하는 단계는,
    상기 관심 상품의 속성정보에 대응되는 속성 정보를 갖는 추천 상품에 대한 정보를 상기 서비스 정보로 특정하는 단계를 포함하는 상품 정보 검색 장치의 제어방법.
  12. 상품 정보 검색 장치에 있어서,
    상기 상품 정보 검색 장치는 프로세서를 포함하고,
    상기 프로세서는,
    사용자 단말기에서 촬영된 상품 정보 이미지를 획득하고,
    상기 획득된 상품 정보 이미지에서 상품 정보를 식별하고,
    상기 식별된 상품 정보에 기초하여 상기 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하되,
    상기 상품 정보를 식별하는 것은,
    합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하고, 특정된 객체의 텍스트 데이터를 추출하고,
    상기 데이터베이스에 저장하는 것은,
    상기 텍스트 데이터에 기초하여 상기 상품의 속성 정보를 저장하는 상품 정보 검색 장치.
  13. 사용자 단말기에서 촬영된 상품 정보 이미지를 획득하는 단계;
    상기 획득된 상품 정보 이미지에서 상품 정보를 식별하는 단계; 및
    상기 식별된 상품 정보에 기초하여 상기 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장하는 단계를 포함하되,
    상기 상품 정보를 식별하는 단계는,
    합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 상품 정보 이미지에 포함된 적어도 어느 한 객체를 특정하고, 특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고,
    상기 데이터베이스에 저장하는 단계는,
    상기 텍스트 데이터에 기초하여 상기 상품의 속성 정보를 저장하는 단계를 포함하는 방법이 기록된 컴퓨터로 판독 가능한 기록 매체.
KR1020200125567A 2020-09-28 2020-09-28 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 KR102508419B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200125567A KR102508419B1 (ko) 2020-09-28 2020-09-28 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법
PCT/KR2020/014866 WO2022065572A1 (ko) 2020-09-28 2020-10-29 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200125567A KR102508419B1 (ko) 2020-09-28 2020-09-28 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법

Publications (2)

Publication Number Publication Date
KR20220042583A true KR20220042583A (ko) 2022-04-05
KR102508419B1 KR102508419B1 (ko) 2023-03-09

Family

ID=81181832

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200125567A KR102508419B1 (ko) 2020-09-28 2020-09-28 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법

Country Status (1)

Country Link
KR (1) KR102508419B1 (ko)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120001285A (ko) * 2010-06-29 2012-01-04 에스케이플래닛 주식회사 객체 인식을 통한 상품 분류 검색 및 쇼핑 정보 제공 서비스 방법, 서버 및 시스템
KR20180111451A (ko) * 2017-03-30 2018-10-11 로켓뷰 주식회사 상품 검색 장치, 서버 및 검색 시스템의 제어 방법
JP2019185299A (ja) * 2018-04-06 2019-10-24 データ・サイエンティスト株式会社 検索ニーズの評価装置、評価システム、評価方法、及び評価モジュール生産方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120001285A (ko) * 2010-06-29 2012-01-04 에스케이플래닛 주식회사 객체 인식을 통한 상품 분류 검색 및 쇼핑 정보 제공 서비스 방법, 서버 및 시스템
KR20180111451A (ko) * 2017-03-30 2018-10-11 로켓뷰 주식회사 상품 검색 장치, 서버 및 검색 시스템의 제어 방법
JP2019185299A (ja) * 2018-04-06 2019-10-24 データ・サイエンティスト株式会社 検索ニーズの評価装置、評価システム、評価方法、及び評価モジュール生産方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
한국정보과학회 학술발표논문집, 이철훈 외 2인, 객체 추적과 OCR을 통한 표시 정보의 실시간 인식 방법(2019.06.)* *

Also Published As

Publication number Publication date
KR102508419B1 (ko) 2023-03-09

Similar Documents

Publication Publication Date Title
US11055557B2 (en) Automated extraction of product attributes from images
CN111275038A (zh) 图像文本识别方法、装置、计算机设备及计算机存储介质
CN110020009B (zh) 在线问答方法、装置及系统
CN107833082B (zh) 一种商品图片的推荐方法和装置
US20140172643A1 (en) System and method for categorizing an image
CN105022773B (zh) 包括图像优先级的图像处理系统
CN108492160A (zh) 信息推荐方法和装置
CN110347786B (zh) 一种语义模型的调优方法及系统
CN105183739B (zh) 图像处理方法
US20210042663A1 (en) Data attribution based on spatial memory using machine learning pipeline
CN112396079A (zh) 号码识别模型训练方法、号码识别方法及装置
CN113222022A (zh) 一种网页分类识别方法及装置
CN114282019A (zh) 目标多媒体数据查找方法、装置、计算机设备、存储介质
KR102477840B1 (ko) 사용자 정보를 활용한 상품 정보 검색 장치 및 이를 위한 제어방법
CN111460888B (zh) 基于机器学习的物品识别方法及装置
US20230394865A1 (en) Methods and systems for performing data capture
CN111539782B (zh) 基于深度学习的商户信息数据处理方法及其系统
US20210166028A1 (en) Automated product recognition, analysis and management
KR102508419B1 (ko) 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법
CN113495987A (zh) 数据搜索方法、装置、设备和存储介质
KR102508420B1 (ko) 구매 영수증 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법
KR102588679B1 (ko) Ｎｆｔ 기반 신규 폰트 파일을 생성하는 방법, 장치, 및 컴퓨터 프로그램
KR20220076650A (ko) 상품정보 이미지에 기반한 리테일 환경에서의 상품 정보 검색 장치 및 방법
CN114066564A (zh) 服务推荐时间确定方法、装置、计算机设备、存储介质
KR102545190B1 (ko) 오프라인 리테일 환경에서의 상품 정보 제공 장치 및 상품 정보 제공 장치의 제어방법

Legal Events

Date Code Title Description
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant