KR20220042585A - 구매 영수증 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 - Google Patents

구매 영수증 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 Download PDF

Info

Publication number
KR20220042585A
KR20220042585A KR1020200125570A KR20200125570A KR20220042585A KR 20220042585 A KR20220042585 A KR 20220042585A KR 1020200125570 A KR1020200125570 A KR 1020200125570A KR 20200125570 A KR20200125570 A KR 20200125570A KR 20220042585 A KR20220042585 A KR 20220042585A
Authority
KR
South Korea
Prior art keywords
information
product
purchase
receipt image
specifying
Prior art date
Application number
KR1020200125570A
Other languages
English (en)
Other versions
KR102508420B1 (ko
Inventor
김화경
Original Assignee
로켓뷰 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 로켓뷰 주식회사 filed Critical 로켓뷰 주식회사
Priority to KR1020200125570A priority Critical patent/KR102508420B1/ko
Priority to PCT/KR2020/014866 priority patent/WO2022065572A1/ko
Publication of KR20220042585A publication Critical patent/KR20220042585A/ko
Application granted granted Critical
Publication of KR102508420B1 publication Critical patent/KR102508420B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0623—Item investigation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0631—Item recommendations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]
    • G06Q30/0641—Shopping interfaces
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/18—Extraction of features or characteristics of the image
    • G06V30/1801—Detecting partial patterns, e.g. edges or contours, or configurations, e.g. loops, corners, strokes or intersections
    • G06V30/18019—Detecting partial patterns, e.g. edges or contours, or configurations, e.g. loops, corners, strokes or intersections by matching or filtering
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40—Document-oriented image-based pattern recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/40—Document-oriented image-based pattern recognition
    • G06V30/41—Analysis of document content

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Accounting & Taxation (AREA)
  • General Physics & Mathematics (AREA)
  • Finance (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Development Economics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Molecular Biology (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

상품 정보 검색 장치의 제어 방법은, 사용자 단말기에서 촬영된 구매 영수증 이미지를 획득하는 단계, 획득된 구매 영수증 이미지에서 인공 신경망 모델을 사용하여 구매 정보를 식별하는 단계, 식별된 구매 정보에 기초하여 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 단계, 특정된 관심 상품에 상응하는 서비스 정보를 특정하는 단계, 및 서비스 정보를 사용자 단말기로 제공하는 단계를 포함한다.

Description

구매 영수증 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법{DEVICE FOR SEARCHING GOODS INFORMATION IN OFFLINE RETAIL ENVIRONMENT USING PURCHASE RECEIPT IMAGE AND CONTROL METHOD THEREOF}
오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법에 관한 것으로, 특히 오프라인 리테일 매장에서의 상품 구매 영수증 이미지를 활용하는 것에 관한 발명이다.
각종 온라인 비즈니스가 활성화되면서, 전통적인 유통 사업도 차별화된 프로모션 방법의 개발에 대한 압박을 받고 있다. 그러나, 여전히 많은 상품들은 오프라인 매장에서 판매되기도 하고, 온라인 매장에서 판매되기도 한다. 또한, 전 세계적으로 쇼핑의 91%는 여전히 오프라인 매장에서 이루어지고 있으며, 소비자의 구매 여정에 대한 정보는 오프라인 매장의 어떤 자극과 정보를 접했는지 확인할 수 있는 주요한 정보이다.
그러나, 오프라인 매장을 통해 얻게 되는 데이터는 온라인 데이터에 비해 수집이 어려우며, 실제 소비자의 오프라인 라이프가 담긴 데이터이기 때문에 매우 가치 있는 데이터로 주목 받고 있음에도 불구하고, 오프라인 매장과 온라인 매장 모두 소비자의 오프라인 상에서의 구매 여정을 파악하기 어려운 실정이었다.
소비자가 구매 과정에서 어떤 경험을 선호하고 반응하는지 상세하게 정보를 수집하고 분석하여 개인 맞춤형 서비스가 비즈니스 전반에 활용될 수 있게 하는 상품 정보 검색 장치 및 이를 위한 제어방법을 제공하고자 한다.
일 측면에 따른 상품 정보 검색 장치의 제어 방법은, 사용자 단말기에서 촬영된 구매 영수증 이미지를 획득하는 단계, 획득된 구매 영수증 이미지에서 인공 신경망 모델을 사용하여 구매 정보를 식별하는 단계, 식별된 구매 정보에 기초하여 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 단계, 특정된 관심 상품에 상응하는 서비스 정보를 특정하는 단계, 및 서비스 정보를 사용자 단말기로 제공하는 단계를 포함한다.
구매 정보를 식별하는 단계는, 인공 신경망 모델을 사용하여 구매 영수증 이미지에 포함된 적어도 어느 한 객체를 특정하는 단계, 및 특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고, 관심 상품을 특정하는 단계는, 추출된 텍스트 데이터에 기초하여 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 단계를 포함할 수 있다.
인공 신경망 모델은 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 포함할 수 있다.
객체는 매장 정보, 상품명, 가격, 프로모션 정보, 수량 정보, 구매 시기 정보, 구매자 정보, 및 고유의 식별 코드 중 적어도 어느 하나를 포함할 수 있다.
구매 정보를 식별하는 단계는, 추출된 텍스트 데이터를 후처리하는 단계를 더 포함하되, 후처리하는 단계는, 구매 영수증 이미지의 글자 단위 정보 및 텍스트 문맥 정보 중 적어도 어느 하나에 기초하여 텍스트 데이터를 후처리하는 단계를 포함할 수 있다.
상품 정보 검색 장치의 제어방법은 구매 정보를 식별하는 단계 이전에, 구매 영수증 이미지에 대한 전처리를 수행하는 단계를 더 포함할 수 있다.
관심 상품을 특정하는 단계는, 구매 영수증 이미지를 통해 획득?? 사용자의 구매 정보에 매칭되는 사용자 정보를 별도의 개인 정보 서버로부터 수신하는 단계, 데이터베이스에 저장된 복수의 상품들 중 구매 영수증 이미지가 촬영된 상품의 속성 정보와 가장 유사한 속성 정보를 갖는 적어도 어느 한 상품을 관심 상품으로서 특정하는 단계, 및 사용자 정보를 관심 상품과 매칭하여 저장하는 단계를 포함할 수 있다.
서비스 정보를 특정하는 단계는 관심 상품의 속성 정보에 대응되는 속성 정보를 갖는 추천 상품에 대한 정보를 서비스 정보로 특정하는 단계를 포함할 수 있다.
다른 측면에 따른 상품 정보 검색 장치는 상품 정보 검색 장치는 프로세서를 포함하고, 프로세서는, 사용자 단말기에서 촬영된 구매 영수증 이미지를 획득하고, 획득된 구매 영수증 이미지에서 인공 신경망 모델을 사용하여 구매 정보를 식별하고, 식별된 구매 정보에 기초하여 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하고, 특정된 관심 상품에 상응하는 서비스 정보를 특정하고, 서비스 정보를 사용자 단말기로 제공한다.
구매 정보를 식별하는 것은, 인공 신경망 모델을 사용하여 구매 영수증 이미지에 포함된 적어도 어느 한 객체를 특정하고, 특정된 객체의 텍스트 데이터를 추출하는 것을 포함하고, 관심 상품을 특정하는 것은, 추출된 텍스트 데이터에 기초하여 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 것을 포함할 수 있다.
또 다른 측면에 따른 방법이 기록된 컴퓨터로 판독 가능한 기록 매체는 사용자 단말기에서 촬영된 구매 영수증 이미지를 획득하는 단계, 획득된 구매 영수증 이미지에서 인공 신경망 모델을 사용하여 구매 정보를 식별하는 단계, 식별된 구매 정보에 기초하여 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 단계, 특정된 관심 상품에 상응하는 서비스 정보를 특정하는 단계, 및 서비스 정보를 사용자 단말기로 제공하는 단계를 포함한다.
구매 정보를 식별하는 단계는, 인공 신경망 모델을 사용하여 구매 영수증 이미지에 포함된 적어도 어느 한 객체를 특정하는 단계, 및 특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고, 관심 상품을 특정하는 단계는, 추출된 텍스트 데이터에 기초하여 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 단계를 포함할 수 있다.
전술한 과제 해결 수단에 의하면, 소비자의 오프라인 상에서의 다양한 구매 여정에 대한 정보를 수집함으로써 개인 맞춤형 서비스가 비즈니스 전반에 활용될 수 있게 된다.
도 1은 상품 정보 검색 장치 및 상품 정보 검색 장치가 획득하는 상품 정보 이미지의 예시도이다.
도 2는 상품 정보 이미지가 포함하는 다양한 객체를 보여주는 도면이다.
도 3은 상품 정보 검색 장치가 상품 정보 이미지에 대한 전처리 과정을 설명하기 위한 예시도이다.
도 4는 상품 정보 검색 장치가 제공하는 화면의 예시도이다.
도 5는 구매 영수증 이미지의 예시도이다.
도 6은 상품 검색 장치에 의해 제공되는 서비스 정보의 다양한 예시도이다.
도 7은 일 실시예에 따른 상품 정보 검색 장치의 제어방법에 대한 순서도이다.
명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다. 본 명세서가 실시예들의 모든 요소들을 설명하는 것은 아니며, 본 발명이 속하는 기술분야에서 일반적인 내용 또는 실시예들 간에 중복되는 내용은 생략한다. 명세서에서 사용되는 '부, 모듈, 부재, 블록'이라는 용어는 소프트웨어 또는 하드웨어로 구현될 수 있으며, 실시예들에 따라 복수의 '부, 모듈, 부재, 블록'이 하나의 구성요소로 구현되거나, 하나의 '부, 모듈, 부재, 블록'이 복수의 구성요소들을 포함하는 것도 가능하다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 직접적으로 연결되어 있는 경우뿐 아니라, 간접적으로 연결되어 있는 경우를 포함하고, 간접적인 연결은 무선 통신망을 통해 연결되는 것을 포함한다.
또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.
제 1, 제 2 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위해 사용되는 것으로, 구성요소가 전술된 용어들에 의해 제한되는 것은 아니다.
단수의 표현은 문맥상 명백하게 예외가 있지 않는 한, 복수의 표현을 포함한다.
각 단계들에 있어 식별부호는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 실시될 수 있다.
상품 정보 검색 장치는 상품 정보 이미지를 촬영하여 일련의 과정들을 수행하는 어플리케이션이 설치된 사용자 단말이 될 수도 있고, 사용자 단말로부터 촬영된 상품 정보 이미지를 수신하여 일련의 과정들을 수행하고 데이터를 사용자 단말과 교환하는 서버가 될 수도 있다. 이하, 설명의 편의를 위해 상품 정보 검색 장치가 사용자 단말로 구현된 것을 예로 들어 설명한다.
사용자 단말은 컴퓨터나 휴대용 단말기로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(desktop), 랩톱(laptop), 태블릿 PC, 슬레이트 PC 등을 포함하고, 휴대용 단말기는 예를 들어, 휴대성과 이동성이 보장되는 무선 통신 장치로서, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), WiBro(Wireless Broadband Internet) 단말, 스마트 폰(Smart Phone) 등과 같은 모든 종류의 핸드헬드(Handheld) 기반의 무선 통신 장치와 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD) 등과 같은 웨어러블 장치를 포함할 수 있다.
상품에는 상품명이나 고유의 식별 코드가 기재되어 있다. 또는, 상품과 인접한 부분에 상품정보가 기재된 프라이스택 등이 위치할 수 있다.
도 1은 상품 정보 검색 장치 및 상품 정보 검색 장치가 획득하는 상품 정보 이미지의 예시도이다.
상품 정보 검색 장치(100)는 상품과 함께 인접한 주변 물체를 함께 촬영할 수 있다. 상품 정보 검색 장치(100)가 촬영한 상품 정보 이미지에는 상품명, 고유의 식별 코드 또는 기타 정보가 포함될 수 있다.
상품 정보 이미지는 상품을 식별할 수 있는 정보 또는 특정 상품을 다른 상품과 구별할 수 있는 정보를 포함하는 촬영된 이미지를 의미한다. 예를 들어, 상품 정보 이미지는 상품 정보를 포함할 수 있다. 상품 정보는 상품명, 가격, 프로모션 정보, 및 고유의 식별 코드 등 다양한 객체에 대한 정보를 포함할 수 있다. 즉, 상품 정보 이미지는 도 1의 (a)와 같이 상품 정보가 기재된 프라이스택을 촬영한 이미지일 수 있고, 도 1의 (b)와 같이 상품 정보가 표면에 기재된 상품을 촬영한 이미지일 수 있고, 도 1의 (c)와 같이 상품 정보가 기재된 포장재를 촬영한 이미지일 수도 있다.
상품 정보 검색 장치(100)는 촬영된 상품 정보 이미지에서 상품 정보를 식별할 수 있다.
구체적으로, 상품 정보 검색 장치(100)는 상품 정보 이미지에서 적어도 어느 한 객체를 특정할 수 있다.
도 2는 상품 정보 이미지가 포함하는 다양한 객체를 보여주는 도면이다.
예를 들어, 상품 정보 검색 장치(100)는 상품 정보 이미지에서 상품명(Ob1), 가격(Ob2; '할인 전 가격', '할인 후 가격' 등), 프로모션 정보(Ob3; '1+1', '할인', '적립', '사은품 증정' 등), 및 고유의 식별 코드(Ob4) 중 적어도 어느 한 객체를 특정할 수 있다. 이때, 상품 정보 검색 장치(100)는 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 객체를 특정할 수 있는데, 일 예로서, 상품 정보 검색 장치(100)는 딥러닝 R-CNN ("Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation, Ross Girshick, Jeff Donahue, Trevor Darrell and Jitendra Malik, in CVPR 2014" 참고) 모델에 기반하여 객체 탐지 기술(Object Detection)로써 객체를 특정할 수 있다.
합성곱 신경망 모델에서의 '합성곱(Convolution)' 연산은 이미지의 구성 요소를 추출내는 연산으로 아래와 같은 수학식 1을 기반으로 구현할 수 있다.
[수학식 1]
Figure pat00001
수치화 된 이미지 매트릭스에 커널 매트릭스를 통과시켜 자신의 위치 픽셀과 주변에 인접한 픽셀의 데이터를 계산하여 결과를 도출하고, 출력 매트릭스로서 저장된 데이터가 이미지의 특징을 갖는다.
다만, 합성곱 연산만을 지속하면 특정 시점부터 정확도가 떨어지는 오버 피팅이 발생하게 되는데, 오버 피팅을 방지하기 위해 상품 정보 검색 장치(100)는 출력 매트릭스의 인접값에서 큰 값으로 풀링(Pooling)할 수 있고, 드롭아웃(Dropout)을 수행할 수 있다.
이후 상품 정보 검색 장치(100)는 데이터 분류 알고리즘(예를 들어, SVM(Support Vector Machine), SoftMax)을 이용하여 상품 정보 이미지에서 객체의 위치를 추출할 수 있고 객체를 특정할 수 있다.
또한, 상품 정보 검색 장치(100)는 상품 정보 이미지의 정확도를 높이기 위해, 객체를 특정하기 이전에, 상품 정보 이미지에 대한 전처리를 수행할 수도 있다. 전처리는 예를 들어, 이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 등을 수행하는 것일 수 있다.
도 3은 상품 정보 검색 장치가 상품 정보 이미지에 대한 전처리 과정을 설명하기 위한 예시도이다.
도 3을 참조하면, 일 예로서, 상품 정보 검색 장치(100)는 상품 정보 이미지에서 프라이스택 이미지(도 3의 가격표 이미지)를 추출하고, 프라이스택 이미지를 균일 사이즈의 이미지로 변환할 수 있다. 그리고, 프라이스택 내 객체들의 좌표를 계산하여 좌표 별 수치데이터로 객체에 대한 이미지 데이터를 수치 데이터로 변환할 수 있다. 상품 정보 검색 장치(100)는 이러한 좌표에 따른 이미지의 수치 데이터에 기반하여 객체를 특정할 수 있다.
또한, 상품 정보 검색 장치(100)는 촬영된 이미지 내의 텍스트를 식별하고, 텍스트 데이터를 추출할 수 있다. 이때, 상품 정보 검색 장치(100)는 전체 이미지 영역을 판독하여 텍스트를 식별하거나, 특정된 객체 별 텍스트를 식별할 수 있다.
일 실시 예로서, 상품 정보 검색 장치(100)는 광학적 문자 판독(Optical Character Recognition, OCR) 방식 등을 이용하여 상품 정보 이미지 내의 텍스트를 검출할 수 있다.
상품 정보 검색 장치(100)는 정확하게 텍스트를 검출하기 위해, 인식된 텍스트 결과 중 오탈자가 있는 경우와 없는 경우를 나눈 후 오인식된 상품명과 보정된 상품명을 매칭하여 딥러닝 모델을 학습시킬 수 있다.
또한, 상품 정보 검색 장치(100)는 상품 정보 이미지가 촬영된 장소의 위치 정보를 메타 정보로서 획득할 수 있다. 실시예에 따라서는 촬영시간에 대한 정보 또한 메타 정보로서 획득할 수도 있다. 위치 정보는 상품 정보 이미지로부터 촬영좌표를 추출함으로써 획득될 수도 있고, 별개의 GPS 등을 수집함으로써 획득될 수도 있다.
상품 정보 검색 장치(100)는 인식된 객체 별 텍스트 데이터에 기초하여 상품 정보 이미지가 촬영된 상품의 속성 정보를 데이터베이스에 저장할 수 있다.
도 4는 일 실시예에 따른 상품 정보 검색 장치가 저장하는 속성 정보의 개념도이다.
도 4를 참조하면, 상품 정보 검색 장치(100)는 상품의 카테고리 별로 해당 상품의 속성 정보(예를 들어, 상품명, 가격, 프로모션 정보, 성분, 및 고유의 식별 코드 등)를 데이터베이스에 저장할 수 있다. 또한, 상품 정보 검색 장치(100)는 상품 정보 이미지가 촬영된 장소의 위치 정보에 기초하여 상품 정보 이미지에 상응하는 매장정보를 특정하고, 매장 정보 또한 속성 정보로서 함께 저장하는 것이 가능하다.
일례로, 상품 정보 검색 장치(100)는 딥러닝 기반 예측 알고리즘을 이용하여 상품의 속성 정보를 벡터화하여 저장할 수 있다.
구체적으로, 상품 정보 검색 장치(100)는 Word2Vec을 활용하여 화장품 유형별 성분, 속성 정보를 벡터화하고, CBOW(Continuous Bag-of-Words) 모델을 활용하여 화장품 성분 사이의 거리를 벡터화할 수 있다. Word2Vec과 CBOW은 공지된 기술이므로 자세한 설명을 생략한다. 이는 추후 유저의 촬영 기록과 검색 내역 등의 기입 내용에 근거하여 산출된 속성 정보와 벡터상 가까운 거리의 성분이 포함된 제품이 추천될 수 있도록 하기 위함이다.
상품 정보 검색 장치(100)는 구매 영수증 이미지를 촬영하거나 외부 장치로부터 획득할 수도 있다. 이 경우에도 마찬가지로, 상품 정보 검색 장치(100)는 구매 영수증 이미지를 촬영하여 일련의 과정들을 수행하는 어플리케이션이 설치된 사용자 단말이 될 수도 있고, 사용자 단말로부터 촬영된 구매 영수증 이미지를 수신하여 일련의 과정들을 수행하고 데이터를 사용자 단말과 교환하는 서버가 될 수도 있으나, 설명의 편의를 위해 상품 정보 검색 장치(100)가 사용자 단말로 구현되어 구매 영수증 이미지를 획득한 것을 예로 들어 설명한다.
구매 영수증에는 다양한 상품의 구매와 관련된 정보가 기재되어 있다. 상품 정보 검색 장치(100)가 촬영한 구매 영수증에는 매장 정보, 상품명, 가격, 프로모션 정보, 수량 정보, 구매 시기 정보, 구매자 정보, 및 고유의 식별 코드 등 다양한 구매와 관련된 정보가 포함되어 있을 수 있다.
도 5는 구매 영수증 이미지의 예시도이다.
구매 영수증 이미지는 소비자의 구매 내역에 대해 식별할 수 있는 정보가 촬영된 이미지를 의미한다. 예를 들어, 구매 영수증 이미지는 구매 정보를 포함할 수 있다. 구매 정보는 매장 정보, 구매자 정보(성명, 전화번호 등), 상품명, 가격, 프로모션 정보, 수량 정보, 구매 시기 정보, 구매자 정보, 및 고유의 식별 코드 등 다양한 객체에 대한 정보를 포함할 수 있다. 구매 영수증 이미지는 오프라인 상에서 직접 촬영된 지면 영수증을 촬영한 이미지일 수도 있고, 온라인 상에서 발행된 온라인 영수증의 이미지일 수도 있다.
상품 정보 검색 장치(100)는 촬영된 구매 영수증 이미지에서 구매 정보를 식별할 수 있다.
구체적으로, 상품 정보 검색 장치(100)는 구매 영수증 이미지에서 적어도 어느 한 객체를 특정할 수 있다.
예를 들어 도 5를 참조하면, 상품 정보 검색 장치(100)는 구매 영수증 이미지에서 매장 정보(Ob5), 상품명(Ob6), 가격(Ob7), 프로모션 정보(Ob8), 수량 정보(Ob9), 구매 시기 정보(Ob10), 및 고유의 식별 코드(Ob11) 중 적어도 어느 한 객체를 특정할 수 있다. 이때, 상품 정보 검색 장치(100)는 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 객체를 특정할 수 있는데, 일 예로서, 상품 정보 검색 장치(100)는 MobileNet ("MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications, Howard AG, Zhu M, Chen B, Kalenichenko D, Wang W, Weyand T, Andreetto M, Adam H, arXiv:1704.04861, 2017.; MobileNetV2: Inverted Residuals and Linear Bottlenecks, Sandler M, Howard A, Zhu M, Zhmoginov A, Chen LC. arXiv preprint. arXiv:1801.04381, 2018." 참고) 모델에 기반하여 객체 탐지 기술(Object Detection)로써 객체를 특정할 수 있다.
MobileNet 모델은 깊이 방향으로 나눈 합성곱 레이어를 이용하여 간소화된 구조를 기반으로 하는 모델로서, 전체 이미지에 대한 합성곱을 연산하되, 채널별 합성곱과 1 x 1 합성곱으로 인수분해함으로써 구매 영수증 이미지에 포함된 객체들을 탐지할 수 있게 된다. MobileNet 모델을 사용하는 경우, 기존 방식보다 이미지의 크기 및 형태 측면에 비교적 적은 제약을 받으면서, 빠른 속도로 객체 탐지가 가능하게 된다. 특히, 모바일 기기와 같은 사용자 단말에서의 모델 활용성이 높아진다.
또한, 상품 정보 검색 장치(100)는 구매 영수증 이미지의 정확도를 높이기 위해, 객체를 특정하기 이전에, 구매 영수증 이미지에 대한 전처리를 수행할 수도 있다. 전처리는 예를 들어, 이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 등을 수행하는 것일 수 있다.
또한, 상품 정보 검색 장치(100)는 촬영된 구매 영수증 이미지 내의 텍스트를 식별하고, 텍스트 데이터를 추출할 수 있다. 이때, 상품 정보 검색 장치(100)는 전체 이미지 영역을 판독하여 텍스트를 식별하거나, 특정된 객체 별 텍스트를 식별할 수 있다.
일 실시 예로서, 상품 정보 검색 장치(100)는 광학적 문자 판독(Optical Character Recognition, OCR) 방식 등을 이용하여 구매 영수증 이미지 내의 텍스트를 검출할 수 있다.
상품 정보 검색 장치(100)는 텍스트 데이터에 대해 후처리를 수행할 수 있다.
일 실시예로서, 상품 정보 검색 장치(100)는 구매 영수증 이미지의 글자 단위 정보 및 텍스트 문맥 정보 중 적어도 어느 하나에 기초하여 텍스트 데이터를 후처리할 수 있다.
예를 들어, 상품 정보 검색 장치(100)는 프로모션 정보가 훼손된 구매 영수증 이미지에서 % (퍼센트) 혹은 - (차감) 부호를 통해 가격 할인 이벤트가 발생하였음을 프로모션 정보로서 추론할 수 있다.
또한, 상품 정보 검색 장치(100)는 특정 객체 정보가 훼손된 구매 영수증 이미지에서 주변 텍스트들 간의 문맥 정보를 활용해 특정 객체가 어떤 객체에 해당하는 정보인지 매칭시켜줄 수도 있다.
그리고 상품 정보 검색 장치(100)는 구매 영수증 이미지를 획득한 사용자의 관심 상품을 특정하고, 관심 상품에 상응하는 서비스 정보를 특정하고, 특정된 서비스 정보를 사용자에게 제공할 수 있다.
구체적으로, 상품 정보 검색 장치(100)는 사용자가 특정 상품의 구매 영수증 이미지를 촬영한 경우, 사용자에게 특정 상품과 동일 또는 유사한 벡터 성분을 갖는(예를 들면, 미리 설정된 기준 범위 내의 벡터값을 갖는) 타 상품을 서비스 정보로써 제공할 수도 있다.
또한, 상품 정보 검색 장치(100)는 타 상품이 판매되는 매장정보 또한 서비스 정보(예컨대, 보다 저렴한 타 매장의 판매정보, 또는 속성이 동일/유사한 대 체상품에 대한 정보 등)로써 제공할 수도 있다.
또한, 상품 정보 검색 장치(100)는 다른 사용자들로부터 복수개의 상품 정보 이미지가 획득되고, 복수개의 상품 정보 이미지에 각각 대응하는 속성 정보가 데이터베이스에 저장된 상태에서 사용자가 특정 상품의 구매 영수증 이미지를 획득한 경우, 데이터베이스 상에 축적된 여러 상품들 중 구매 영수증 이미지로부터 획득된 사용자의 관심 상품을 특정하고, 특정된 관심 상품에 상응하는 서비스 정보를 또한 특정할 수 있다.
도 6은 상품 검색 장치에 의해 제공되는 서비스 정보의 다양한 예시도이다.
예를 들어, 도 6의 (a)를 참조하면, 상품 정보 검색 장치(100)는 데이터베이스 상에 사용자의 오프라인 로그 기록으로서 A상품과 B상품과 C상품에 대한 속성 정보가 저장되어 있고, 사용자가 A상품의 구매 영수증 이미지를 획득한 경우, 사용자의 A상품과 유사한 속성 정보를 갖는 타 상품의 상위 서비스 정보로 제공하고, A상품과 B상품과 C상품의 속성 정보를 종합적으로 고려하여 종합 속성 정보를 특정하고, 특정된 종합 속성 정보와 유사한 속성 정보를 갖는 다양한 타 상품들을 하위 서비스 정보로 제공할 수 있다.
다른 예를 들어, 도 6의 (b)를 참조하면, 상품 정보 검색 장치(100)는 데이터베이스 상에 사용자의 오프라인 로그 기록으로서 B상품과 C상품에 대한 속성 정보가 저장되어 있고, 사용자가 A상품의 구매 영수증 이미지를 획득한 경우, 데이터베이스에 저장된 상품에 대한 정보 중 사용자의 A상품과 가장 유사한 속성 정보를 갖는 B상품을 서비스 정보로서 특정할 수 있다.
또한, 상품 정보 검색 장치(100)는 상품 정보 이미지를 통해 획득한 사용자의 관심 상품에 대한 속성 정보에 구매 영수증 이미지를 통해 획득한 사용자의 구매 정보를 연관시킬 수 있다.
예를 들어, 도 6의 (c)를 참조하면, 상품 정보 검색 장치(100)는 상품 정보 이미지를 통해 A상품에 대한 상품명과 프로모션 정보를 속성 정보로서 저장한 경우, 사용자의 구매 영수증 이미지를 통해 획득한 사용자의 구매 정보(예를 들어, 이름 또는 전화 번호와 같은 개인 정보)에 매칭되는 사용자 정보(예를 들어, 나이, 성별 등)를 별도의 개인 정보 서버로부터 수신하고, 사용자 정보를 A상품의 속성 정보와 매칭하여 별도로 저장할 수도 있다. 이 경우, 상품 정보 검색 장치(100)는 유사한 사용자 정보를 갖는 다른 사용자(예를 들어, 19세 남성)에게 A상품에 대한 추천 서비스 정보를 제공할 수도 있게 된다.
전술한 바와 같이 상품 정보 검색 장치(100)가 상품 정보 이미지와 구매 영수증 이미지로 다량의 학습 데이터를 확보하고, 개인 별 맞춤형 서비스 정보가 특정되어 사용자에게 제공됨으로써 사용자들이 구매 결정을 함에 있어서 도움이 되는 정보의 양이 늘어나 서비스의 품질이 높아질 수 있다.
상품 정보 검색 장치(100)는 본 발명의 기술적 사상을 구현하기 위해 필요한 하드웨어 리소스(resource) 및/또는 소프트웨어를 구비할 수 있으며, 반드시 하나의 물리적인 구성요소를 의미하거나 하나의 장치를 의미하는 것은 아니다. 즉, 상기 촬영기반 정보제공 시스템(100)은 본 발명의 기술적 사상을 구현하기 위해 구비되는 하드웨어 및/또는 소프트웨어의 논리적인 결합을 의미할 수 있으며, 필요한 경우에는 서로 이격된 장치에 설치되어 각각의 기능을 수행함으로써 본 발명의 기술적 사상을 구현하기 위한 논리적인 구성들의 집합으로 구현될 수도 있다.
또한, 상품 정보 검색 장치(100)는 상품 정보 검색 장치(100) 내 구성요소들의 동작을 제어하기 위한 알고리즘 또는 알고리즘을 재현한 프로그램 또는 어플리케이션에 대한 데이터베이스를 저장하는 메모리, 및 메모리에 저장된 데이터베이스를 이용하여 전술한 동작을 수행하는 프로세서를 포함할 수 있다. 이때, 메모리와 프로세서는 각각 별개의 칩으로 구현될 수 있다. 또는, 메모리와 프로세서는 단일 칩으로 구현될 수도 있다.
이하, 도 7을 참조하여, 상품 정보 검색 장치(100)의 제어방법에 대해서 설명한다. 도 7은 일 실시예에 따른 상품 정보 검색 장치의 제어방법에 대한 순서도이다.
우선, 일 실시예에 따른 상품 정보 검색 장치(100)는 사용자 단말기에서 촬영된 구매 영수증 이미지를 획득한다(1100).
다음으로, 일 실시예에 따른 상품 정보 검색 장치(100)는 획득된 구매 영수증 이미지에서 인공 신경망 모델을 사용하여 구매 정보를 식별한다(1200).
여기서, 구매 정보를 식별하는 동작(1200)은 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 사용하여 구매 영수증 이미지에 포함된 적어도 어느 한 객체를 특정하는 동작, 및 특정된 객체의 텍스트 데이터를 추출하는 동작을 포함할 수 있다.
구매 정보는 매장 정보, 구매자 정보(성명, 전화번호 등), 상품명, 가격, 프로모션 정보, 수량 정보, 구매 시기 정보, 구매자 정보, 및 고유의 식별 코드 등 다양한 객체에 대한 정보를 포함할 수 있다.
구매 영수증 이미지에서 객체를 특정하는 동작에 대해서는 MobilNet과 관련하여 전술한 바, 중복된 설명을 생략한다.
텍스트 데이터를 추출하는 동작에 대해서는 광학적 문자 판독 방식과 관련하여 전술한 바, 중복된 설명을 생략한다.
또한, 구매 정보를 식별하는 동작(1200)은 적어도 어느 한 객체를 특정하기 전에, 구매 영수증 이미지에 대한 전처리를 수행하는 동작을 더 포함할 수 있다. 구매 영수증 이미지에 대한 전처리를 수행하는 동작은, 구매 영수증 이미지에 대해 이미지 이진화 변환, 노이즈 제거, 주변 배경 제거, 및 해상도 변경 중 적어도 어느 하나를 포함할 수 있다.
구매 정보를 식별하는 동작(1200)은 추출된 텍스트 데이터를 후처리하는 동작을 더 포함할 수 있다. 후처리하는 동작은, 구매 영수증 이미지의 글자 단위 정보 및 텍스트 문맥 정보 중 적어도 어느 하나에 기초하여 텍스트 데이터를 후처리하는 동작을 포함할 수 있다. 글자 단위 정보 및 텍스트 문맥 정보 중 적어도 어느 하나에 기초하여 텍스트 데이터를 후처리하는 방법과 관련된 자세한 설명은 전술한 바 생략한다.
다음으로, 일 실시예에 따른 상품 정보 검색 장치(100)는 식별된 구매 정보에 기초하여 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정할 수 있다(1300).
관심 상품을 특정하는 동작(1300)은 추출된 텍스트 데이터에 기초하여 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 동작을 포함할 수 있다.
또한, 상품 정보 검색 장치(100)는 사용자의 구매 영수증 이미지를 통해 획득?? 사용자의 구매 정보(예를 들어, 구매자의 이름 또는 전화번호와 같은 구매자 정보)에 매칭되는 사용자 정보(예를 들어, 나이, 성별 등)를 별도의 개인 정보 서버로부터 수신하고, 사용자 정보를 구매 영수증 이미지가 촬영된 상품과 매칭하여 데이터베이스에 저장할 수도 있다. 구매 영수증 이미지가 촬영된 상품을 특정하기 위해 상품 정보 검색 장치(100)는 구매 영수증 이미지가 촬영된 상품의 속성 정보와 가장 유사한 속성 정보를 갖는 데이터베이스에 저장된 적어도 어느 한 상품을 관심 상품으로서 특정할 수 있다. 데이터베이스에 저장된 상품의 속성 정보는 미리 상품 정보 이미지를 통해 획득된 것일 수 있다.
사용자의 관심 상품을 특정하는 동작(1300)은 딥러닝 기반 예측 알고리즘을 이용하여 사용자의 관심 상품을 특정하는 동작을 포함할 수 있다. 이때, 딥러닝 기반 예측 알고리즘은 Word2Vec 및 CBOW(Continuous Bag-of-Words) 모델을 포함할 수 있고, 이에 대한 중복된 설명은 생략한다.
다음으로, 상품 정보 검색 장치(100)는 특정된 사용자의 관심 상품에 상응하는 서비스 정보를 특정할 수 있다(1400). 그리고, 상품 정보 검색 장치(100)는 특정된 서비스 정보를 사용자에게 제공할 수 있다(1500).
서비스 정보를 특정하는 동작(1400)은 관심 상품의 속성정보에 대응되는 속성 정보를 갖는 추천 상품에 대한 정보를 서비스 정보로 특정하는 동작을 포함할 수 있다.
예를 들어, 서비스 정보를 특정하는 동작(1400)은 사용자가 특정 상품의 구매 영수증 이미지를 촬영한 경우, 사용자에게 특정 상품과 동일 또는 유사한 벡터 성분을 갖는(예를 들면, 미리 설정된 기준 범위 내의 벡터값을 갖는) 타 상품을 서비스 정보로써 제공할 수도 있다.
이 경우, 상품 정보 검색 장치(100)는 구매 영수증 이미지에 포함된 사용자의 구매 정보에 기초하여 사용자와 유사한 사용자 정보를 갖는 다른 사용자(예를 들어, 19세 남성)가 선호하는 상품에 대한 추천 서비스 정보를 제공할 수도 있게 된다.
한편, 개시된 실시예들은 컴퓨터에 의해 실행 가능한 명령어를 저장하는 기록매체의 형태로 구현될 수 있다. 명령어는 프로그램 코드의 형태로 저장될 수 있으며, 프로세서에 의해 실행되었을 때, 프로그램 모듈을 생성하여 개시된 실시예들의 동작을 수행할 수 있다. 기록매체는 컴퓨터로 읽을 수 있는 기록 매체로 구현될 수 있다.
컴퓨터가 읽을 수 있는 기록 매체로는 컴퓨터에 의하여 해독될 수 있는 명령어가 저장된 모든 종류의 기록 매체를 포함한다. 예를 들어, ROM(Read Only Memory), RAM(Random Access Memory), 자기 테이프, 자기 디스크, 플래쉬 메모리, 광 데이터 저장장치 등이 있을 수 있다.
이상에서와 같이 첨부된 도면을 참조하여 개시된 실시예들을 설명하였다. 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고도, 개시된 실시예들과 다른 형태로 본 발명이 실시될 수 있음을 이해할 것이다. 개시된 실시예들은 예시적인 것이며, 한정적으로 해석되어서는 안 된다.
100: 상품 정보 검색 장치

Claims (13)

  1. 상품 정보 검색 장치의 제어 방법에 있어서,
    사용자 단말기에서 촬영된 구매 영수증 이미지를 획득하는 단계;
    상기 획득된 구매 영수증 이미지에서 인공 신경망 모델을 사용하여 구매 정보를 식별하는 단계;
    상기 식별된 구매 정보에 기초하여 상기 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 단계;
    상기 특정된 관심 상품에 상응하는 서비스 정보를 특정하는 단계; 및
    상기 서비스 정보를 상기 사용자 단말기로 제공하는 단계를 포함하는 상품 정보 검색 장치의 제어방법.
  2. 제 1 항에 있어서,
    상기 구매 정보를 식별하는 단계는,
    인공 신경망 모델을 사용하여 상기 구매 영수증 이미지에 포함된 적어도 어느 한 객체를 특정하는 단계, 및
    특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고,
    상기 관심 상품을 특정하는 단계는,
    상기 추출된 텍스트 데이터에 기초하여 상기 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 단계를 포함하는 상품 정보 검색 장치의 제어 방법.
  3. 제 1 항에 있어서,
    상기 인공 신경망 모델은 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 포함하는 상품 정보 검색 장치의 제어 방법.
  4. 제 1 항에 있어서,
    상기 객체는 매장 정보, 상품명, 가격, 프로모션 정보, 수량 정보, 구매 시기 정보, 구매자 정보, 및 고유의 식별 코드 중 적어도 어느 하나를 포함하는 상품 정보 검색 장치의 제어방법.
  5. 제 2 항에 있어서,
    상기 구매 정보를 식별하는 단계는,
    상기 추출된 텍스트 데이터를 후처리하는 단계를 더 포함하되,
    상기 후처리하는 단계는,
    상기 구매 영수증 이미지의 글자 단위 정보 및 텍스트 문맥 정보 중 적어도 어느 하나에 기초하여 상기 텍스트 데이터를 후처리하는 단계를 포함하는 상품 정보 검색 장치의 제어방법.
  6. 제 1 항에 있어서,
    상기 구매 정보를 식별하는 단계 이전에,
    상기 구매 영수증 이미지에 대한 전처리를 수행하는 단계를 더 포함하는 상품 정보 검색 장치의 제어방법.
  7. 제 1 항에 있어서,
    상기 관심 상품을 특정하는 단계는,
    구매 영수증 이미지를 통해 획득?? 사용자의 구매 정보에 매칭되는 사용자 정보를 별도의 개인 정보 서버로부터 수신하는 단계,
    데이터베이스에 저장된 복수의 상품들 중 상기 구매 영수증 이미지가 촬영된 상품의 속성 정보와 가장 유사한 속성 정보를 갖는 적어도 어느 한 상품을 관심 상품으로서 특정하는 단계, 및
    상기 사용자 정보를 상기 관심 상품과 매칭하여 저장하는 단계를 포함하는 상품 정보 검색 장치의 제어방법.
  8. 제 1 항에 있어서,
    상기 서비스 정보를 특정하는 단계는,
    상기 관심 상품의 속성 정보에 대응되는 속성 정보를 갖는 추천 상품에 대한 정보를 상기 서비스 정보로 특정하는 단계를 포함하는 상품 정보 검색 장치의 제어방법.
  9. 상품 정보 검색 장치에 있어서,
    상기 상품 정보 검색 장치는 프로세서를 포함하고,
    상기 프로세서는,
    사용자 단말기에서 촬영된 구매 영수증 이미지를 획득하고,
    상기 획득된 구매 영수증 이미지에서 인공 신경망 모델을 사용하여 구매 정보를 식별하고,
    상기 식별된 구매 정보에 기초하여 상기 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하고,
    상기 특정된 관심 상품에 상응하는 서비스 정보를 특정하고,
    상기 서비스 정보를 상기 사용자 단말기로 제공하는 상품 정보 검색 장치.
  10. 제 9 항에 있어서,
    상기 구매 정보를 식별하는 것은,
    인공 신경망 모델을 사용하여 상기 구매 영수증 이미지에 포함된 적어도 어느 한 객체를 특정하고, 특정된 객체의 텍스트 데이터를 추출하는 것을 포함하고,
    상기 관심 상품을 특정하는 것은,
    상기 추출된 텍스트 데이터에 기초하여 상기 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 것을 포함하는 상품 정보 검색 장치.
  11. 제 10항에 있어서,
    상기 인공 신경망 모델은 합성곱 신경망(Convolutional Neural Network, CNN) 모델을 포함하는 상품 정보 검색 장치.
  12. 사용자 단말기에서 촬영된 구매 영수증 이미지를 획득하는 단계;
    상기 획득된 구매 영수증 이미지에서 인공 신경망 모델을 사용하여 구매 정보를 식별하는 단계;
    상기 식별된 구매 정보에 기초하여 상기 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 단계;
    상기 특정된 관심 상품에 상응하는 서비스 정보를 특정하는 단계; 및
    상기 서비스 정보를 상기 사용자 단말기로 제공하는 단계를 포함하는 방법이 기록된 컴퓨터로 판독 가능한 기록 매체.
  13. 제 12 항에 있어서,
    상기 구매 정보를 식별하는 단계는,
    인공 신경망 모델을 사용하여 상기 구매 영수증 이미지에 포함된 적어도 어느 한 객체를 특정하는 단계, 및
    특정된 객체의 텍스트 데이터를 추출하는 단계를 포함하고,
    상기 관심 상품을 특정하는 단계는,
    상기 추출된 텍스트 데이터에 기초하여 상기 구매 영수증 이미지가 촬영된 사용자의 관심 상품을 특정하는 단계를 포함하는 기록 매체.
KR1020200125570A 2020-09-28 2020-09-28 구매 영수증 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법 KR102508420B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200125570A KR102508420B1 (ko) 2020-09-28 2020-09-28 구매 영수증 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법
PCT/KR2020/014866 WO2022065572A1 (ko) 2020-09-28 2020-10-29 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200125570A KR102508420B1 (ko) 2020-09-28 2020-09-28 구매 영수증 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법

Publications (2)

Publication Number Publication Date
KR20220042585A true KR20220042585A (ko) 2022-04-05
KR102508420B1 KR102508420B1 (ko) 2023-03-09

Family

ID=81181939

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200125570A KR102508420B1 (ko) 2020-09-28 2020-09-28 구매 영수증 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법

Country Status (1)

Country Link
KR (1) KR102508420B1 (ko)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110103264A (ko) * 2010-03-12 2011-09-20 에스케이마케팅앤컴퍼니 주식회사 영수증 판독을 통한 자동 정보 수집 시스템 및 방법
KR20150056119A (ko) * 2013-11-14 2015-05-26 주식회사 케이티 사용자의 영수증 스캔 데이터에 대한 피드백 정보를 제공하는 서버 및 방법
KR102149050B1 (ko) * 2020-04-24 2020-08-28 주식회사 애자일소다 인공지능을 이용한 ocr 기반 문서 분석 시스템 및 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110103264A (ko) * 2010-03-12 2011-09-20 에스케이마케팅앤컴퍼니 주식회사 영수증 판독을 통한 자동 정보 수집 시스템 및 방법
KR20150056119A (ko) * 2013-11-14 2015-05-26 주식회사 케이티 사용자의 영수증 스캔 데이터에 대한 피드백 정보를 제공하는 서버 및 방법
KR102149050B1 (ko) * 2020-04-24 2020-08-28 주식회사 애자일소다 인공지능을 이용한 ocr 기반 문서 분석 시스템 및 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
인터넷 블로그, ‘Word2Vec 그리고 추천 시스템의 Item2Vec’(2017.02.16.)* *

Also Published As

Publication number Publication date
KR102508420B1 (ko) 2023-03-09

Similar Documents

Publication Publication Date Title
CN109716327B (zh) 视觉搜索平台的视频摄取框架
US11055557B2 (en) Automated extraction of product attributes from images
US11768993B2 (en) Methods, systems, apparatus and articles of manufacture for receipt decoding
WO2016123538A1 (en) Mobile visual commerce system
US20140172643A1 (en) System and method for categorizing an image
Wu et al. An intelligent self-checkout system for smart retail
CN112364204B (zh) 视频搜索方法、装置、计算机设备及存储介质
KR101835333B1 (ko) 얼굴 인식 서비스 제공 방법
CN113963147B (zh) 一种基于语义分割的关键信息提取方法及系统
US20210042663A1 (en) Data attribution based on spatial memory using machine learning pipeline
CN113222022A (zh) 一种网页分类识别方法及装置
Gundimeda et al. An automated computer vision system for extraction of retail food product metadata
CN115019322A (zh) 字体检测方法、装置、设备及介质
CN115240203A (zh) 业务数据处理方法、装置、设备及存储介质
KR102477840B1 (ko) 사용자 정보를 활용한 상품 정보 검색 장치 및 이를 위한 제어방법
Kousik et al. An E-Commerce Product Feedback Review Using Sentimental Analysis
CN111539782B (zh) 基于深度学习的商户信息数据处理方法及其系统
KR102086600B1 (ko) 상품 구매 정보 제공 장치 및 방법
KR102508420B1 (ko) 구매 영수증 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법
US20210166028A1 (en) Automated product recognition, analysis and management
KR102508419B1 (ko) 상품정보 이미지를 활용한 오프라인 리테일 환경에서의 상품 정보 검색 장치 및 이를 위한 제어방법
KR20220076650A (ko) 상품정보 이미지에 기반한 리테일 환경에서의 상품 정보 검색 장치 및 방법
CN115186165A (zh) 一种移动电子商务图像搜索购物方法
CN114066564A (zh) 服务推荐时间确定方法、装置、计算机设备、存储介质
KR102545190B1 (ko) 오프라인 리테일 환경에서의 상품 정보 제공 장치 및 상품 정보 제공 장치의 제어방법

Legal Events

Date Code Title Description
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant