KR102596036B1 - 인공지능 기반 무인매장 운영 서비스 제공 시스템 - Google Patents

인공지능 기반 무인매장 운영 서비스 제공 시스템 Download PDF

Info

Publication number
KR102596036B1
KR102596036B1 KR1020220180958A KR20220180958A KR102596036B1 KR 102596036 B1 KR102596036 B1 KR 102596036B1 KR 1020220180958 A KR1020220180958 A KR 1020220180958A KR 20220180958 A KR20220180958 A KR 20220180958A KR 102596036 B1 KR102596036 B1 KR 102596036B1
Authority
KR
South Korea
Prior art keywords
management
kiosk
user
unmanned store
terminal
Prior art date
Application number
KR1020220180958A
Other languages
English (en)
Inventor
이용인
황선금
Original Assignee
주식회사 인조이웍스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 인조이웍스 filed Critical 주식회사 인조이웍스
Priority to KR1020220180958A priority Critical patent/KR102596036B1/ko
Application granted granted Critical
Publication of KR102596036B1 publication Critical patent/KR102596036B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0281Customer communication at a business location, e.g. providing product or service information, consulting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • G06K19/06Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code
    • G06K19/06009Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking
    • G06K19/06037Record carriers for use with machines and with at least a part designed to carry digital markings characterised by the kind of the digital marking, e.g. shape, nature, code with optically detectable marking multi-dimensional coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/087Inventory or stock management, e.g. order filling, procurement or balancing against orders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00Payment architectures, schemes or protocols
    • G06Q20/08Payment architectures
    • G06Q20/18Payment architectures involving self-service terminals [SST], vending machines, kiosks or multimedia terminals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0631Item recommendations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/30Transportation; Communications
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/08Speech classification or search
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Accounting & Taxation (AREA)
  • Strategic Management (AREA)
  • Finance (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • Development Economics (AREA)
  • Human Resources & Organizations (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Acoustics & Sound (AREA)
  • Primary Health Care (AREA)
  • General Engineering & Computer Science (AREA)
  • Game Theory and Decision Science (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

인공지능 기반 무인매장 운영 서비스 제공 시스템이 제공되며, 음성인식 기반으로 음성발화를 인식하여 응대하고, 화상상담 요청이 입력된 경우 화상채널을 생성하여 상담원 단말과 연결하며, 바코드 또는 QR 코드를 스캔한 후 결제 프로세스를 진행하는 적어도 하나의 키오스크 및 적어도 하나의 키오스크를 식별하는 고유식별코드를 부여하고 설치된 무인매장의 위치를 매핑하여 저장하는 키오스크관리부, 키오스크에서 음성인식 기반으로 음성발화를 인식하고 질의에 응답하는 챗봇(ChatBot)을 구축 및 업데이트하는 챗봇관리부, 키오스크에서 화상상담이 요청된 경우 키오스크의 카메라를 구동하여 상담원 단말과 연결되도록 화상채널을 생성하는 화상상담부를 포함하는 운영 서비스 제공 서버를 포함한다.

Description

인공지능 기반 무인매장 운영 서비스 제공 시스템{SYSTEM FOR PROVIDING ARTIFICIAL INTELLIGENCE BASED UNMANNED STORE MANAGEMENT SERVICE}
본 발명은 인공지능 기반 무인매장 운영 서비스 제공 시스템에 관한 것으로, 음성인식 기반 챗봇을 이용하여 질의응답을 실시간으로 수행하도록 하고, 화상상담이 요청된 경우 상담원과 화상채널로 연결되어 직관적인 상담이 가능하도록 하는 시스템을 제공한다.
최근 무인매장은 ICT 등 다양한 기술을 접목하여 온오프라인을 연결하는 새로운 환경의 소매점으로 주목받고 있다. 현재 무인매장은 편의점, 백화점 등의 매장에 첨단기술이 접목되는 방향으로 진화하고 있는데, 결제방식에 따라 크게 자판기형, 셀프계산대형, 저스트 워크아웃(Just Walk Out)형으로 분류된다. 이 중 셀프계산대형은 소비자가 일반 매장과 동일하게 상품을 고르고 직접 바코드나 QR코드를 스캔한 후 결제까지 수행하는 방식인데, 무인매장에서는 계산 대기시간 단축과 인건비 절감 등의 장점이 있다. POS(Point of Sale) 계산대 시스템을 사용하는 셀프 계산대 무인매장은 소비자에게 익숙한 매장 형태이나, 도난과 보안의 이유로 세 유형 중 구매 과정이 가장 까다로운 편이다. 모바일 소프트웨어, 디바이스 POS 시스템, RFID, 안면 인식, 정맥 인증, 컴퓨터 비전, 인공지능, 센서퓨전, 머신러닝 등의 기술을 도입하여 운영되는데, 세븐일레븐 시그니처 DDR(Dual Data Revolution)가 대표적이다.
이때, 무인매장을 운영할 때 사용자 인증을 통하여 출입을 관리하는 방법이 연구 및 개발되었는데, 이와 관련하여, 선행기술인 한국등록특허 제10-2347645호(2022년01월10일 공고) 및 한국등록특허 제10-2365190호(2022년02월17일 공고)에는, 무인매장별 출입인증, 상품관리 및 재고관리를 수행하고, 상품구매 및 결제 프로세스를 관리하기 위하여, 각 무인매장별로 출입을 통제하는 출입인증모듈, 무인매장의 출입, 스캔 및 결제를 위한 사용자 단말, 상품관리 및 무인매장 정보를 관리하는 무인매장 단말을 구비하는 구성과, 사용자 단말로 사용자 인증을 수행하고, 매장이용에 대한 승인이 된 경우 매장 단말에서 구매물품 결제정보를 수집하고, 측정된 무게와 결제된 내역을 비교하여 정상결제여부를 확인하는 구성이 각각 개시되어 있다.
다만, 전자 및 후자의 구성 모두 무인매장의 도난을 방지하기 위하여 사용자의 출입을 관리하는 구성에 초점을 맞추고 있을 뿐 사용자의 페인포인트(PainPoint)를 해결하는 구성 또는 니즈를 충족시키는 구성을 개시하고 있지 않다. 아직 도입 초기 단계에 있는 무인매장이 지속적으로 성장하기 위해서는 소비자의 니즈를 파악하려는 노력도 병행되어야 하지만, 현재 무인매장 서비스 프로세스는 무인 및 자동화 시스템 구현을 위한 기술력에 중점을 둠으로 인해 실질적인 고객 경험의 만족도가 낮다는 문제가 발생하고 있다. 무인매장은 다양한 기술이 집약된 매장으로 고객에게 혁신적인 가치를 제공하지만, 무인 시스템과 사용자의 상호작용을 제대로 이해하지 못하고 설계하면 소비자는 무인 시스템에 대해 부정적 경험을 하게 된다. 이는 결국 매장 이용 프로세스의 전체적인 만족도 하락으로 이어질 수 있다. 이에, 사용자의 페인포인트를 감소시키고 이용만족도를 높일 수 있는 플랫폼의 연구 및 개발이 요구된다.
본 발명의 일 실시예는, 무인매장에 설치된 키오스크에 챗봇(Chatbot)을 설치하여 사용자의 질의에 실시간으로 응답할 수 있도록 하고, 상품의 파손, 교환, 환불 및 키오스크 오류 등에 대한 상담을 위해 상담원과 화상상담으로 연결될 수 있는 화상채널을 제공하며, 사용자가 원하는 상품이 없는 경우 상품문의에 상품의 입고를 요청할 수 있도록 하고, 사용자 애플리케이션을 제공하여 주변 무인매장 찾기에서부터 각 카테고리별 상품을 추천까지 다양한 서비스를 제공할 수 있으며, 관리자 웹 페이지 및 애플리케이션을 제공하여 재고관리, 상품관리, 매출관리 등 각 관리자별 관리메뉴를 제공함으로써 무인매장의 운영 솔루션을 제공할 수 있는, 인공지능 기반 무인매장 운영 서비스 제공 시스템을 제공할 수 있다. 다만, 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 일 실시예는, 음성인식 기반으로 음성발화를 인식하여 응대하고, 화상상담 요청이 입력된 경우 화상채널을 생성하여 상담원 단말과 연결하며, 바코드 또는 QR 코드를 스캔한 후 결제 프로세스를 진행하는 적어도 하나의 키오스크 및 적어도 하나의 키오스크를 식별하는 고유식별코드를 부여하고 설치된 무인매장의 위치를 매핑하여 저장하는 키오스크관리부, 키오스크에서 음성인식 기반으로 음성발화를 인식하고 질의에 응답하는 챗봇(ChatBot)을 구축 및 업데이트하는 챗봇관리부, 키오스크에서 화상상담이 요청된 경우 키오스크의 카메라를 구동하여 상담원 단말과 연결되도록 화상채널을 생성하는 화상상담부를 포함하는 운영 서비스 제공 서버를 포함한다.
전술한 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 무인매장에 설치된 키오스크에 챗봇(Chatbot)을 설치하여 사용자의 질의에 실시간으로 응답할 수 있도록 하고, 상품의 파손, 교환, 환불 및 키오스크 오류 등에 대한 상담을 위해 상담원과 화상상담으로 연결될 수 있는 화상채널을 제공하며, 사용자가 원하는 상품이 없는 경우 상품문의에 상품의 입고를 요청할 수 있도록 하고, 사용자 애플리케이션을 제공하여 주변 무인매장 찾기에서부터 각 카테고리별 상품을 추천까지 다양한 서비스를 제공할 수 있으며, 관리자 웹 페이지 및 애플리케이션을 제공하여 재고관리, 상품관리, 매출관리 등 각 관리자별 관리메뉴를 제공함으로써 무인매장의 운영 솔루션을 제공할 수 있다.
도 1은 본 발명의 일 실시예에 따른 인공지능 기반 무인매장 운영 서비스 제공 시스템을 설명하기 위한 도면이다.
도 2는 도 1의 시스템에 포함된 운영 서비스 제공 서버를 설명하기 위한 블록 구성도이다.
도 3 내지 도 6은 본 발명의 일 실시예에 따른 인공지능 기반 무인매장 운영 서비스가 구현된 일 실시예를 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른 인공지능 기반 무인매장 운영 서비스 제공 방법을 설명하기 위한 동작 흐름도이다.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미하며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
명세서 전체에서 사용되는 정도의 용어 "약", "실질적으로" 등은 언급된 의미에 고유한 제조 및 물질 허용오차가 제시될 때 그 수치에서 또는 그 수치에 근접한 의미로 사용되고, 본 발명의 이해를 돕기 위해 정확하거나 절대적인 수치가 언급된 개시 내용을 비양심적인 침해자가 부당하게 이용하는 것을 방지하기 위해 사용된다. 본 발명의 명세서 전체에서 사용되는 정도의 용어 "~(하는) 단계" 또는 "~의 단계"는 "~ 를 위한 단계"를 의미하지 않는다.
본 명세서에 있어서 '부(部)'란, 하드웨어에 의해 실현되는 유닛(unit), 소프트웨어에 의해 실현되는 유닛, 양방을 이용하여 실현되는 유닛을 포함한다. 또한, 1 개의 유닛이 2 개 이상의 하드웨어를 이용하여 실현되어도 되고, 2 개 이상의 유닛이 1 개의 하드웨어에 의해 실현되어도 된다. 한편, '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니며, '~부'는 어드레싱 할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체 지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다.
본 명세서에 있어서 단말, 장치 또는 디바이스가 수행하는 것으로 기술된 동작이나 기능 중 일부는 해당 단말, 장치 또는 디바이스와 연결된 서버에서 대신 수행될 수도 있다. 이와 마찬가지로, 서버가 수행하는 것으로 기술된 동작이나 기능 중 일부도 해당 서버와 연결된 단말, 장치 또는 디바이스에서 수행될 수도 있다.
본 명세서에서 있어서, 단말과 매핑(Mapping) 또는 매칭(Matching)으로 기술된 동작이나 기능 중 일부는, 단말의 식별 정보(Identifying Data)인 단말기의 고유번호나 개인의 식별정보를 매핑 또는 매칭한다는 의미로 해석될 수 있다.
이하 첨부된 도면을 참고하여 본 발명을 상세히 설명하기로 한다.
도 1은 본 발명의 일 실시예에 따른 인공지능 기반 무인매장 운영 서비스 제공 시스템을 설명하기 위한 도면이다. 도 1을 참조하면, 인공지능 기반 무인매장 운영 서비스 제공 시스템(1)은, 적어도 하나의 사용자 단말(100), 운영 서비스 제공 서버(300), 적어도 하나의 키오스크(400) 및 적어도 하나의 관리자 단말(500)을 포함할 수 있다. 다만, 이러한 도 1의 인공지능 기반 무인매장 운영 서비스 제공 시스템(1)은, 본 발명의 일 실시예에 불과하므로, 도 1을 통하여 본 발명이 한정 해석되는 것은 아니다.
이때, 도 1의 각 구성요소들은 일반적으로 네트워크(Network, 200)를 통해 연결된다. 예를 들어, 도 1에 도시된 바와 같이, 적어도 하나의 사용자 단말(100)은 네트워크(200)를 통하여 운영 서비스 제공 서버(300)와 연결될 수 있다. 그리고, 운영 서비스 제공 서버(300)는, 네트워크(200)를 통하여 적어도 하나의 사용자 단말(100), 적어도 하나의 키오스크(400), 적어도 하나의 관리자 단말(500)과 연결될 수 있다. 또한, 적어도 하나의 키오스크(400)는, 네트워크(200)를 통하여 운영 서비스 제공 서버(300)와 연결될 수 있다. 그리고, 적어도 하나의 관리자 단말(500)은, 네트워크(200)를 통하여 적어도 하나의 사용자 단말(100), 운영 서비스 제공 서버(300) 및 적어도 하나의 키오스크(400)과 연결될 수 있다.
여기서, 네트워크는, 복수의 단말 및 서버들과 같은 각각의 노드 상호 간에 정보 교환이 가능한 연결 구조를 의미하는 것으로, 이러한 네트워크의 일 예에는 근거리 통신망(LAN: Local Area Network), 광역 통신망(WAN: Wide Area Network), 인터넷(WWW: World Wide Web), 유무선 데이터 통신망, 전화망, 유무선 텔레비전 통신망 등을 포함한다. 무선 데이터 통신망의 일례에는 3G, 4G, 5G, 3GPP(3rd Generation Partnership Project), 5GPP(5th Generation Partnership Project), LTE(Long Term Evolution), WIMAX(World Interoperability for Microwave Access), 와이파이(Wi-Fi), 인터넷(Internet), LAN(Local Area Network), Wireless LAN(Wireless Local Area Network), WAN(Wide Area Network), PAN(Personal Area Network), RF(Radio Frequency), 블루투스(Bluetooth) 네트워크, NFC(Near-Field Communication) 네트워크, 위성 방송 네트워크, 아날로그 방송 네트워크, DMB(Digital Multimedia Broadcasting) 네트워크 등이 포함되나 이에 한정되지는 않는다.
하기에서, 적어도 하나의 라는 용어는 단수 및 복수를 포함하는 용어로 정의되고, 적어도 하나의 라는 용어가 존재하지 않더라도 각 구성요소가 단수 또는 복수로 존재할 수 있고, 단수 또는 복수를 의미할 수 있음은 자명하다 할 것이다. 또한, 각 구성요소가 단수 또는 복수로 구비되는 것은, 실시예에 따라 변경가능하다 할 것이다.
적어도 하나의 사용자 단말(100)은, 인공지능 기반 무인매장 운영 서비스 관련 웹 페이지, 앱 페이지, 프로그램 또는 애플리케이션을 이용하여 주변 무인매장을 검색하거나, 무인매장에 새로 입고된 상품, 인기상품 등 카테고리별 상품을 출력하며, 무인매장에 상품문의로 입고요청을 하거나 각 무인매장별 이용현황을 출력하는 사용자의 단말일 수 있다.
여기서, 적어도 하나의 사용자 단말(100)은, 네트워크를 통하여 원격지의 서버나 단말에 접속할 수 있는 컴퓨터로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 네비게이션, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(Desktop), 랩톱(Laptop) 등을 포함할 수 있다. 이때, 적어도 하나의 사용자 단말(100)은, 네트워크를 통해 원격지의 서버나 단말에 접속할 수 있는 단말로 구현될 수 있다. 적어도 하나의 사용자 단말(100)은, 예를 들어, 휴대성과 이동성이 보장되는 무선 통신 장치로서, 네비게이션, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), Wibro(Wireless Broadband Internet) 단말, 스마트폰(Smartphone), 스마트 패드(Smartpad), 타블렛 PC(Tablet PC) 등과 같은 모든 종류의 핸드헬드(Handheld) 기반의 무선 통신 장치를 포함할 수 있다.
운영 서비스 제공 서버(300)는, 인공지능 기반 무인매장 운영 서비스 웹 페이지, 앱 페이지, 프로그램 또는 애플리케이션을 제공하는 서버일 수 있다. 그리고, 운영 서비스 제공 서버(300)는, 음성인식 기반 챗봇을 구축하여 각 무인매장의 키오스크(400)에서 동작하도록 하는 서버일 수 있다. 또한, 운영 서비스 제공 서버(300)는, 사용자의 음성인식으로 대화형 서비스가 가능하도록 하며, 챗봇의 음성이 음성으로만 전달하는 것이 아니라 텍스트, 이미지, 사진 및 동영상 등의 콘텐츠가 매핑된 경우 이를 함께 화면에서 전달하도록 하는 서버일 수 있다. 그리고, 운영 서비스 제공 서버(300)는, 각 키오스크(400)나 사용자 단말(100)에서 무인매장의 인기상품, 입고상품 등을 카테고리별로 조회할 수 있도록 하고, 사용자 단말(100) 또는 키오스크(400)를 통하여 상담원 단말(미도시)과 실시간 비대면 상담이 가능하도록 하는 서버일 수 있다. 그리고, 운영 서비스 제공 서버(300)는, 관리자 단말(500)별로 각 무인매장을 관리하도록 하거나, 무인매장 전체를 관리할 수 있는 웹 페이지 및 애플리케이션을 제공하는 서버일 수 있다.
여기서, 운영 서비스 제공 서버(300)는, 네트워크를 통하여 원격지의 서버나 단말에 접속할 수 있는 컴퓨터로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 네비게이션, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(Desktop), 랩톱(Laptop) 등을 포함할 수 있다.
적어도 하나의 키오스크(400)는, 인공지능 기반 무인매장 운영 서비스 관련 웹 페이지, 앱 페이지, 프로그램 또는 애플리케이션을 이용하여 챗봇으로 사용자의 질의에 응답하거나 안내를 수행하고, 상담원 연결 요청이 수신되면 상담원 단말(400)과 화상상담으로 연결되도록 하는 장치일 수 있다.
여기서, 적어도 하나의 키오스크(400)는, 네트워크를 통하여 원격지의 서버나 단말에 접속할 수 있는 컴퓨터로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 네비게이션, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(Desktop), 랩톱(Laptop) 등을 포함할 수 있다. 이때, 적어도 하나의 키오스크(400)는, 네트워크를 통해 원격지의 서버나 단말에 접속할 수 있는 단말로 구현될 수 있다. 적어도 하나의 키오스크(400)는, 예를 들어, 휴대성과 이동성이 보장되는 무선 통신 장치로서, 네비게이션, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), Wibro(Wireless Broadband Internet) 단말, 스마트폰(Smartphone), 스마트 패드(Smartpad), 타블렛 PC(Tablet PC) 등과 같은 모든 종류의 핸드헬드(Handheld) 기반의 무선 통신 장치를 포함할 수 있다.
적어도 하나의 관리자 단말(500)은, 인공지능 기반 무인매장 운영 서비스 관련 웹 페이지, 앱 페이지, 프로그램 또는 애플리케이션을 이용하여 각 무인매장을 운영하거나 무인매장 전체를 관리하는 관리자의 단말일 수 있다. 이때, 관리자 단말(500)은, 각 무인매장의 매출, 상품, 재고 등을 관리하는 메뉴를 제공할 수 있고, 전체 무인매장의 매출, 이용현황 등을 관리하는 메뉴를 제공할 수 있다.
여기서, 적어도 하나의 관리자 단말(500)은, 네트워크를 통하여 원격지의 서버나 단말에 접속할 수 있는 컴퓨터로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 네비게이션, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(Desktop), 랩톱(Laptop) 등을 포함할 수 있다. 이때, 적어도 하나의 관리자 단말(500)은, 네트워크를 통해 원격지의 서버나 단말에 접속할 수 있는 단말로 구현될 수 있다. 적어도 하나의 관리자 단말(500)은, 예를 들어, 휴대성과 이동성이 보장되는 무선 통신 장치로서, 네비게이션, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), Wibro(Wireless Broadband Internet) 단말, 스마트폰(Smartphone), 스마트 패드(Smartpad), 타블렛 PC(Tablet PC) 등과 같은 모든 종류의 핸드헬드(Handheld) 기반의 무선 통신 장치를 포함할 수 있다.
도 2는 도 1의 시스템에 포함된 운영 서비스 제공 서버를 설명하기 위한 블록 구성도이고, 도 3 내지 도 6은 본 발명의 일 실시예에 따른 인공지능 기반 무인매장 운영 서비스가 구현된 일 실시예를 설명하기 위한 도면이다.
도 2를 참조하면, 운영 서비스 제공 서버(300)는, 키오스크관리부(310), 챗봇관리부(320), 화상상담부(330), 상담연동부(340), 관리메뉴제공부(350), 직관상담부(360), 정보전달부(370), 업그레이드부(380) 및 추천부(390)를 포함할 수 있다.
본 발명의 일 실시예에 따른 운영 서비스 제공 서버(300)나 연동되어 동작하는 다른 서버(미도시)가 적어도 하나의 사용자 단말(100), 적어도 하나의 키오스크(400) 및 적어도 하나의 관리자 단말(500)로 인공지능 기반 무인매장 운영 서비스 애플리케이션, 프로그램, 앱 페이지, 웹 페이지 등을 전송하는 경우, 적어도 하나의 사용자 단말(100), 적어도 하나의 키오스크(400) 및 적어도 하나의 관리자 단말(500)은, 인공지능 기반 무인매장 운영 서비스 애플리케이션, 프로그램, 앱 페이지, 웹 페이지 등을 설치하거나 열 수 있다. 또한, 웹 브라우저에서 실행되는 스크립트를 이용하여 서비스 프로그램이 적어도 하나의 사용자 단말(100), 적어도 하나의 키오스크(400) 및 적어도 하나의 관리자 단말(500)에서 구동될 수도 있다. 여기서, 웹 브라우저는 웹(WWW: World Wide Web) 서비스를 이용할 수 있게 하는 프로그램으로 HTML(Hyper Text Mark-up Language)로 서술된 하이퍼 텍스트를 받아서 보여주는 프로그램을 의미하며, 예를 들어 넷스케이프(Netscape), 익스플로러(Explorer), 크롬(Chrome) 등을 포함한다. 또한, 애플리케이션은 단말 상의 응용 프로그램(Application)을 의미하며, 예를 들어, 모바일 단말(스마트폰)에서 실행되는 앱(App)을 포함한다.
도 2를 참조하면, 키오스크관리부(310)는, 적어도 하나의 키오스크(400)를 식별하는 고유식별코드를 부여하고 설치된 무인매장의 위치를 매핑하여 저장할 수 있다. 본 발명의 일 실시예에 따른 시스템은 본 출원인의 한국등록특허 제10-2284675호(2021년08월03일 공고) 및 한국등록특허 제10-2284676호(2021년08월03일 공고)의 후출원으로, 출원인의 선등록특허와 동일한 구성이나 프로세스는 본 발명의 일 실시예에 따른 시스템에서 중복하여 설명하지 않으므로, 본 출원인의 선등록특허를 참조하기로 한다. 이때, 키오스크관리부(310)는, 각 무인매장에 자율주행로봇이 존재하는 경우, 각 자율주행로봇도 함께 매핑하여 등록 및 관리할 수 있다. 최근 무인매장의 절도나 도난사건이 연일 보도됨에 따라 신용카드 등을 이용하여 사용자를 식별한 후 출입을 관리하는 방법도 연구되고는 있으나, 이를 이용하는 경우 신용카드나 신분증이 없는 어린이나 청소년 등의 출입이 자연스럽게 제한되면서, 어린이나 청소년을 대상으로 하는 문구점 등은 사용을 할 수가 없게 된다. 이에, 각 무인매장에 자율주행로봇을 이용하여 무인매장으로 들어오는 사용자의 얼굴을 확인하고, 도난이나 절도가 발생하는 경우 이를 디지털증거팩표준포맷으로 저장해두었다가 형사사법기관에 전달할 수도 있다.
이에 더하여, 각 키오스크(400) 양측에 로봇암을 설치하고, 사용자가 계산하는 척하다가 계산하지 않고 그냥 나가려는 경우, 로봇암이 사용자의 팔이나 다리 등을 잡은 채로, 키오스크(400)에서 영상 기반 딥러닝, 예를 들어, YOLO(You Only Look Once)를 이용하여 사용자의 인상착의, 성별, 추정 나이대, 현재 무인매장의 위치를 텍스트로 생성하여 112에 바로 문자 신고를 할 수 있도록 설정할 수 있다. 법치주의국가라면 당연히 자력구제금지란 대원칙이 적용되지만, 형법에서도 자력구제를 인정하고 있고, 판례상 절도를 막는 수준에서의 유형력 행사는 가능하다. 또, 대부분 관할 파출소에서 출동한 후 5 분 이내로 도착하게 되므로, 로봇암은 사용자의 팔이나 다리 등 인체의 부분을 5 분 정도만 잡고 버티기만 하면 된다.
챗봇관리부(320)는, 키오스크(400)에서 음성인식 기반으로 음성발화를 인식하고 질의에 응답하는 챗봇(ChatBot)을 구축 및 업데이트할 수 있다. 이때, 챗봇에 RPA(Robotic Process Automation)를 연결하면, 관리자의 단순반복업무를 줄여줄 수 있는데, 시중에 나와 있는 챗봇은 자연어처리(Natural Language ProcesS)에 미숙하여 RPA 시스템을 효율적으로 결합하기가 어렵다. 또 미리 설정한 [질의-응답] 셋(Set)에 벗어나는 질문인 경우, "무슨 말인지 이해하지 못했어요" 등의 답답한 응답만 내놓기 때문에 챗봇이 유용하다고 느끼기는 아직 이른 상태다. 이에, 본 발명의 일 실시예는 발화자의 의도(Intent)와 핵심어(Entity)를 구분할 수 있도록, 오픈소스 기계학습 챗봇 프레임워크인 RASA를 이용할 수 있다.
<챗봇>
RASA는, NLP에서 더 나아가 NLU(Natural Language Understanding)에 기반하여 대화 의도분류(Intent Classification)와 개체추출(Entity Extraction)에 특화되어 있다. 대부분 무인매장에서 많이 하는 질의가, "눈오리 어디에 있나요?", "눈오리 다 팔렸나요? 그럼 눈오리 언제 들어오나요?" , "눈오리를 사갔는데 불량이에요. 교환해주세요", "키오스크가 돈 먹었어요" 등 상품의 위치질문, 입고질문, 교환 또는 반품 요청, 고장신고 등이므로, 대화 의도분류 및 개체추출로 무인매장에서 일어나는 질의 및 응답을 커버할 수 있고, RASA의 챗봇을 RPA와 연동하는 경우, 관리자가 해야 하는 단순반복적인 업무를 RPA가 대신 수행함으로써 관리자가 중요한 업무에 집중할 수 있도록 도와줄 수 있다. 또한, 통신 방식인 gRPC와 REST를 이용하여 다중접속처리 효율을 최적화할 수 있다.
RASA 챗봇은 정해진 선택지나 규칙으로 의도를 구분하지 않고 기계학습을 통해 문장들을 학습한 후 사용자의 텍스트를 분석해 확률적으로 구분한다. 결과적으로, 사용자는 명령지시에 있어 다양한 표현을 할 수 있다. RASA 챗봇은 의도와 개체가 구분된 학습데이터셋을 형태소 분석기, 트랜스포머(Transformer) 등 미리 정의된 알고리즘으로 학습을 한다. 학습이 완료되면 생성된 모델 메타데이터(MetaData)를 기반으로 의도와 개체를 구분할 수 있다. gRPC 서버는 동시적인 수신 신호에 대하여 병렬처리가 가능하므로, 다중접속환경에서 gRPC를 활용하면 높은 효율을 얻을 수 있다. 성능 비교를 위해 REST 서버와 gRPC 서버의 통신효율을 측정한 후 더 높은 효율을 가지는 서버를 본 발명의 일 실시예에 따른 서버로 세팅할 수 있다.
<RPA>
챗봇관리부(320)는, 챗봇에서 처리하지 못한 확인 및 요청에 대하여, 기 설정된 자동화 프로세스의 처리가 요구되는 경우 RPA(Robotic Process Automation)를 거쳐 관리자 단말(500)로 전달되도록 할 수 있다. 이때, RPA는, 사람이 수행하던 정형화 및 규칙적이고 반복적인 업무 프로세스를, 소프트웨어 로봇을 이용하여 자동화하는 것으로, 비즈니스 프로세스를 사람을 대신하여 소프트웨어 로봇이 수행하도록 자동화하는 것을 의미하며, 반복적인 업무들을 대신해 미리 정해진 프로세스에 따라 처리하는 소프트웨어 기술이다. RPA는 AI와 결합을 통해 IPA(Intelligent Process Automation)로 진화할 수 있는데, IPA는 명확한 규칙 또는 정형화된 규칙(Regular Expression)의 업무에 특화되어 있는 RPA 기술이 AI 인지기술이 결합되어, 스스로 판단하며 업무수행이 가능하다. 이와 더불어 딥러닝, 머신러닝을 이용하여 자연어 처리 능력을 갖추는 경우, 사람이 처리하던 반복적인 업무 뿐만 아니라, 대부분의 업무를 대체할 수 있다.
IPA는 워크 플로우를 재정의하여 최종 관리자의의 행동을 유도하는 것을 목표로 한다. 예를 들어, 단순한 작업을 반복적으로 하는 경우는 RPA를 이용하여 진행을 하지만, 비즈니스 로직이 조금 복잡해지거나 관리자와 상호작용을 필요로 하게 되는 경우 RPA는 한계를 보인다. 이러한 한계를 극복하기 위하여 상술한 IPA를 사용할 수 있는데, 예를 들어, AI를 활용하여 고객응대(Customer Service) 뿐만 아니라, 각 매출, 재고, 인기상품, 매장관리, 근태관리 등의 다양한 데이터를 파악하고 관리자 단말(500)로 신속하고 정확한 정보를 전달할 수 있다. 이러한 방식은 기존에 유선, 이메일, 팩스 등으로 진행하던 방식에 비하여 매우 효율적이다. [챗봇-RPA(IPA)-ERP]의 연계를 통하여, 무인매장의 관리를 자동화 및 간소화할 수 있고, 각 상품관리의 자동화 및 간소화 뿐만 아니라 ICT 장비와 연계하여 각 상품의 위치 및 상태를 실시간으로 파악하여 사용자에게 안내할 수 있다.
이때, 챗봇관리부(320)는, 챗봇과 RPA를 연계시켜야 하는데, 우선 챗봇 서버를 오픈소스인 Mattermost와 Flask 및 상술한 RASA를 이용하여 구축할 수 있다. RASA는 기계학습을 통해 다양한 방식으로 입력된 명령을 처리할 수 있다. Mattermost 서버는 관리자 메신저용 서버이며 관리자의 메시지를 RASA 서버에 전송한다. RASA 서버는 학습된 모델 메타데이터를 기반으로 받은 메시지로부터 의도(Intent)와 엔티티(Entity)를 파악한 후 3 개의 서버로 구성된 RPA 시스템으로 전송하여 필요 업무를 수행시킬 수 있다. RASA 챗봇은 정해진 선택지나 규칙으로 의도를 구분하지 않고 기계학습을 통해 문장들을 학습한 후 관리자 또는 사용자의 텍스트를 분석해 확률적으로 구분한다. 결과적으로, 관리자 또는 사용자는 명령지시에 있어 다양한 표현을 할 수 있다.
<RPA 모델링>
업무확인이나 업무요청, 챗봇의 응대, RPA의 자동화 프로세스 및 관리자 단말(500)의 응답 데이터를 매핑하여 플로우 데이터셋(Flow DataSet)을 수집하고, 업무확인이나 업무요청이 질의(Query)로 입력되는 경우 응대, 자동화 프로세스 및 응답 데이터의 플로우가 자동으로 진행되도록 적어도 하나의 인공지능 알고리즘을 학습 및 검증함으로써 모델링할 수 있다. 예를 들어, [A-B-C-D-E]로 진행되는 업무 플로우가 존재한다고 가정하자. RPA를 구동하기 위해 [A-B-C-D-E]와 같은 시나리오를 추출 및 구축하고 케이스를 설계하고 이를 레코딩하는 경우, 상당히 많은 공수와 시간을 소요하게 된다. 이에 따라, 본 발명의 일 실시예에서는, 이러한 시나리오와 케이스를 분석하고 설계하는 단계에서 소모되는 공수와 시간을 줄이고, 실제 사용자의 패턴을 기반으로 실질적인 시나리오 및 케이스를 설계하는 것을 자동화하는 모델을 이용할 수 있다. 본 발명의 일 실시예는, 분석 스크립트가 설치된 웹 서비스, 데이터를 수집하는 메시지큐(Message Queue) 시스템, 로그(Log)를 분석하는 로그 분석 시스템, UI(User Interface) 관리도구 및 데이터베이스를 포함할 수 있다.
이를 위한 시스템 프로세스는 6 단계로 이루어질 수 있다. 첫째, 설치 단계이다. 최초 UI 관리를 위한 대상 서비스에 분석 스크립트를 설치한다. 둘째, 분석 단계로 관리자 단말(500)에서 서비스를 이용하면서 웹 로그를 메시지큐 시스템으로 데이터를 전송하게 된다. 메시지큐 시스템에서는 대량으로 수집되는 데이터를 순차적으로 DB에 저장하고 로그 분석 시스템에서 주기적으로 데이터를 분석한다. 셋째, 웹 로그분석에 대한 대시보드를 통해 조회할 수 있다. 넷째, 설계 단계로 우선 분석으로 추출된 데이터를 이용해서 테스트 시나리오 케이스를 자동화 설계하고 설계된 테스트 시나리오와 케이스를 수정하는 테일러링 과정이 있다. 목록 작성이 완료되면 목록과 동일하게 테스트 케이스를 레코딩한다. 다섯째, 수행 단계로 매일 등록된 시나리오에 대해 테스트를 수행한다. 여섯째, 테스트 수행결과를 확인할 수 있는 대시보드를 출력하는 단계이다. 물론, 상술한 방법 이외에도 다양한 방법으로 시나리오 및 케이스를 구축할 수도 있다.
추가적으로, RPA의 자동화 프로세스를 위해서는 관리자가 반복해서 사용하는 플로우를 우선 추출해야 한다. 이를 위하여, RPA 도구의 녹화 기능을 이용할 수 있는데, 사용자의 동선을 Mouse Listener와 Keyboard Listener를 통해 좌표값, 이미지, 키보드 입력값을 데이터화하여 엑셀 파일로 저장한다. 저장된 엑셀파일을 실행하면 자동으로 마우스 움직임과 키보드 입력값이 실행된다. 또한, 해당 기능은 파일명 값의 유무로 기존 녹화 파일을 실행하거나 새로 파일을 녹화하도록 설정된다. 또, Matplotlib로 시각화하여, 관리자가 지정한 비대칭 데이터를 변환 방법을 선택할 수 있도록 도와주는 작업인 비대칭 데이터 변환 기능을 수행할 수 있다. Log Transform, Square Transform, Box-Cox Transform 중 가장 정규분포에 가깝다고 생각하는 변환 방법의 버튼을 클릭하면 해당하는 변환 방법으로 데이터 행이 변환되어 저장될 수 있다. 데이터 모델의 성능 향상을 위해 IQR(Interquartile Range) 방식을 이용해 이상치(Outlier) 데이터를 제거할 수도 있다. 이를 통하여, RPA에서 비대칭 데이터 변환, 이상치 처리를 통해 데이터를 시각화하고 양질의 데이터로 변환할 수 있다. 또한, 녹화 기능으로 RPA 도구에서 자동화 기능을 강화할 수 있다.
화상상담부(330)는, 키오스크(400)에서 화상상담이 요청된 경우 키오스크(400)의 카메라를 구동하여 상담원 단말과 연결되도록 화상채널을 생성할 수 있다. 적어도 하나의 키오스크(400)는, 음성인식 기반으로 음성발화를 인식하여 응대하고, 화상상담 요청이 입력된 경우 화상채널을 생성하여 상담원 단말과 연결하며, 바코드 또는 QR 코드를 스캔한 후 결제 프로세스를 진행할 수 있다. 이때, 상담사 단말과 연결되기 이전에, 키오스크(400)의 고유식별코드를 이용하여 무인매장을 식별하고, 사용자가 화상상담을 원하는 상품 등에 대한 정보를 미리 추출하여 상담사 단말에서 사용자에게 질문을 계속하지 않고 바로 해결할 수 있도록 해당 정보를 미리 상담사 단말로 전송할 수 있도록 한다. 사용자가 상담사를 연결할 때까지 챗봇과도 이야기를 해보았지만 해결을 못했고, 여러가지 가이드를 찾아봤지만 안되었다고 가정하면, 상담사를 연결했을 때 이러한 문제를 다시 모두 설명하는 것은 정말 진이 빠지는 일이다. 이에 따라, 사용자가 챗봇과 대화했던 히스토리가 있다면 이를 요약하여 상담사에게 전달하고, 사용자가 키오스크를 조작했던 히스토리도 함께 전달해줄 수 있다. 이때, 교환이나 환불 등, 즉 상품에 문제가 있어서 교환이나 환불을 요청하는 경우에는 화상연결이므로 바로 상담사가 보고 교환이나 환불을 결정해줄 수 있고, 키오스크(400)의 소프트웨어 문제라면 원격제어로 키오스크(400)의 오류를 고쳐줄 수 있다.
<대화요약>
문서요약은 크게 두 가지 방법으로 수행되는데, 원문에서 중요한 문장을 선택하는 추출요약과, 원문의 핵심 의미를 보존하면서 재구성하는 생성요약으로 나눌 수 있다. 원문에서 문장 단위의 요약 과업을 수행할 경우, 추출요약은 원문에서 주요 문장을 선택하는 분류 문제로 정의되며, 생성요약은 자연어 문장을 생성하는 문제로 정의된다. 이 중 생성요약은 원문 텍스트를 그대로 사용하지 않고 새로운 문장을 구성해야 하므로 난이도가 높은 과제이지만, 자연스럽고 유창한 요약문을 얻을 수 있다는 장점이 존재한다. 다만 대규모의 학습 데이터가 필요하다는 단점이 있다. 특히 영어의 경우 대량의 영문 요약 과업 전용 데이터셋이 존재하지만 한, 국어 요약 과제를 위한 전용 데이터셋의 규모는 매우 작다. 이는 유사한 모델 구조를 사용하지만 영문 요약보다 한국어 요약의 성능이 낮게 나타나는 주요 원인으로 지목되어 왔다. 그리고, 텍스트 형식 측면에서 대화형 텍스트의 요약은, 문서 형식 텍스트의 요약보다 어려운 과제로 여겨지고 있다. 데이터 특성상 구어적 속성을 가지기 때문에 문장 성분의 생략과 축약적 표현의 사용 등이 빈번히 일어나고 2 명 이상의 화자 간 대화를 종합해서 요약해야 한다는 점 때문이다. 이에, 본 발명의 일 실시예는 한국어 대화요약 데이터셋(AI Hub)을 이용하여 Sequence-to-Sequence 기법을 이용하여 사용자와 챗봇 간 대화를 요약한 후 상담사 단말로 전달할 수 있다. 이러한 경우 사용자는 동일한 대화를 두 번 하지 않아도 되고 상담사에게 중복하여 설명하지 않아도 된다.
<LSTM>
Sequence-to-Sequence 모델은 입력 시퀀스와 출력 시퀀스가 각각 가변 길이일 때 적용할 수 있는 지도학습 기반의 모델로, 기계번역, 요약문 생성과 같은 과제에 주로 사용된다. 인코더-디코더(Encoder-Decoder)에 LSTM(Long Short-Term Memory)을 사용한 모델은, 토큰(Toekn) 단위로 임베딩된 원문 텍스트에 RNN(Recurrent Neural Network)을 사용하여 단일 벡터인 문맥(Context) 벡터로 인코딩한다. 학습은 한국어 형태소 단위로 토큰화되어 인코더에 추가된다. 다음으로 문맥 벡터는 두 번째 RNN에 의해 디코딩되어 한 번에 한 토큰씩 출력 문장을 생성하는 방식으로 요약문을 생성한다.
<Transformer>
Transformer 모델은 인코더 부분을 먼저 살펴보면 크게 Multi-Head Attention, Feed Foward Neural Network, Layer Nomalization 3 가지 요소로 구성된다. 디코더 부분에는 Masked Multi-Head Attention을 수행하고, 인코더에서 받은 정보와 디코더 입력과 함께 Multi-Head Attention을 추가로 수행한다. Transformer 모델은 BASE 모델과 한국어 BERT(Bidirectional Encoder Representations from Transformers, KoBERT)를 이용하여 사전 훈련 및 학습 데이터로 미세조정(Fine Tuning)한 모델을 각각 테스트하고 정확도를 측정해볼 수 있다. 대화 텍스트의 정답 요약문 생성 규칙은 육하원칙 요소를 포함하며 한 문장으로 요약하도록 정의될 수 있다.
<MASTER-SLAVE>
이때, 만약 키오스크(400)에 돈이 끼이거나 부품의 교체가 발생한 상황이라면 상담사는 이를 바로 해결해줄 수 없다. 이때, 각 무인매장에 로봇암(Arm)이 포함된 자율주행로봇이 배치된 경우, 상담사 단말이 MASTER로, 자율주행로봇의 로봇암이 SLAVE로 [상담사 단말-자율주행로봇]을 [MASTER-SLAVE]로 역할하도록 함으로써, 예를 들어, 키오스크(400)에 돈이 끼이거나 카드가 나오지 않는 경우 등과 같이 하드웨어적인 문제가 발생했을 때, 상담사의 손의 제스쳐를 그대로 로봇암이 따라하도록 함으로써 돈이 끼이거나 카드가 나오지 않는 문제 등을 해결해줄 수 있도록 한다. 또는, 사용자가 초등학생이고 무인매장이 문방구인데, 상품이 초등학생의 키보다 높은 곳에 위치해있어서 꺼내지를 못한다면, 이를 로봇암을 이용하여 꺼내줄 수도 있다. 이러한 경우에도 문제가 해결되지 않는 경우, 각 기사 단말(미도시)의 현위치를 파악한 후, 키오스크(400)의 문제나 다른 이슈 등을 해결하도록 업무를 할당할 수 있다.
상담연동부(340)는, 사용자 단말(100)에서 화상상담을 요청하는 경우, 사용자 단말(100)의 위치정보로 무인매장의 위치를 추출하고, 사용자 단말(100)의 카메라 및 마이크를 구동시켜 화상채널에 연결시킨 후 상담원 단말과 연동되도록 할 수 있다. 화상상담을 하고 싶은데 키오스크(400)에 사람이 많다거나, 교환을 해야 하는데 이미 줄이 길게 서 있는 경우에는 사용자는 사용자 애플리케이션을 이용하여 상담사 단말과 연결될 수도 있다. 이때, 사용자가 자신이 위치한 무인매장의 위치를 다시 설명하지 않아도 되도록 사용자의 위치와 동일한 위치의 무인매장을 추출하여 상담사 단말로 전송할 수 있다. 사용자 단말(100)은, 적어도 하나의 무인매장을 검색하고, 적어도 하나의 무인매장별 최근입고상품, 신규상품 및 인기상품을 포함하는 카테고리별로 상품을 나열하여 출력하며, 적어도 하나의 무인매장을 지정하여 상품문의를 입력하고, 적어도 하나의 무인매장별 구매내역을 출력할 수 있다.
<ABR>
사용자 단말(100)로 상담사 단말과 연결을 했는데, 중간중간 사용자의 말이나 화면이 끊겨 상담사에게 전달되지 않는다거나, 상담사의 말이나 화면이 끊겨 사용자에게 전달되지 않는 경우, 상담사와 사용자 모두 답답함을 느낄 수 있다. 이에, 지연이 없도록 각 사용자 단말(100)의 컴퓨팅 자원 및 네트워크 자원을 고려하고, 송신단(End)에 맞는 스트리밍이 가능하도록 설정할 수 있다. 예를 들어, ABR(Adaptive Bitrate Rate) 스트리밍 시스템은 비디오를 작은 시간 단위의 파일로 분리하여 여러 개의 해상도로 인코딩하고 각 사용자가 자신이 겪는 네트워크 가용 전송량 변화에 맞게 비디오를 전송하도록 하여 실시간 스트리밍을 제공하지만, ABR 형태로 비디오를 준비하기 위해 미디어 서버가 실시간으로 생성되는 비디오 프레임을 트랜스코딩(Transcoding)해야 하므로 수 초 이상의 지연시간이 필연적으로 발생하며, 비디오가 사용자의 네트워크 상황을 고려하지 않고 미리 정의된 인코딩율로 인코딩되어 저지연 보장을 위해서는 빈번하게 품질을 급격히 낮출 수밖에 없다.
이에 따라, 본 발명의 일 실시예에서는, 송신단이 다수의 인코딩율로 실시간 비디오를 인코딩하고, 인코딩된 프레임을 세그먼트 단위(Group of Pictures, GoP)로 미디어 서버에 전송하는 구조를 이용할 수 있다. 이때, 수신단의 ABR 스트리밍과 호환되기 위해서 각 세그먼트의 처음 프레임은 키 프레임으로 인코딩하며, 미디어 서버는 세그먼트 버퍼에 세그먼트를 저장하여 수신단 요청시 전달할 수 있다. 목표 지연시간 이상으로 세그먼트가 저장되면, 저지연 전송을 위해서 미디어 서버는 이전 세그먼트를 누락시킨다. 이런 구조를 통해 트랜스코딩 없는 저지연 전송이 실현할 수 있다. 이에 더해, 시스템상에서 미디어 서버는 인코딩을 수행하여 비디오 품질을 최대화하기 위한 최적화된 인코딩율을 계산할 수 있다. 먼저, 미디어 서버는 수신단으로부터 수집한 가용 전송량을 추정하며, K-Means 클러스터링(Clustering)을 통해 추정된 가용 전송량을 인코딩율 개수만큼 클러스터링한다. 최종적으로 그룹별로 가용 전송량의 최솟값을 인코딩율로 결정함으로써 저지연 성능을 보장하면서도 최적화된 비디오 품질을 보장하는 인코딩율을 설정할 수 있다.
이에 따라, 트랜스코딩으로 인해 발생하는 지연시간을 줄이기 위해 송신단 기반 ABR 인코딩 기법을 이용할 수 있고, 수신단의 네트워크 상황을 반영한 인코딩율 계산을 통해 최적화된 비디오 품질을 제공할 수 있다. 이에 따라 수 초 수준으로 발생하던 종단간(End-to-End) 지연시간을 저지연 애플리케이션이 필수적으로 보장받아야 하는 500ms 이하로 보장하면서도, 비디오 품질 또한 다수 수신단의 네트워크 상황에 맞게 실시간으로 최적화할 수 있다.
관리메뉴제공부(350)는, 관리자 단말(500)에서 적어도 하나의 메뉴에 대한 데이터를 표시하는 대시보드를 제공하고, 적어도 하나의 메뉴의 데이터에 대하여 관리자 단말(500)에서 입출력하도록 적어도 하나의 키오스크(400)와 실시간으로 동기화를 수행할 수 있다. 관리자 단말(500)은, 무인매장관리, 사용자관리, 상품관리, 재고관리, 매출관리, 예치금관리, 거래처관리, 홈페이지관리, 시재(Cash on Hand)관리 및 상품라벨출력의 메뉴를 관리할 수 있다. 무인매장관리는, 가맹점관리 및 키오스크(400) 관리의 하위메뉴를 포함하고, 상품관리는, 분류관리, 전체상품관리, 장바구니, 주문내역관리 및 반품내역관리의 하위메뉴를 포함하고, 재고관리는, 재고조회 및 손실관리의 하위메뉴를 포함하고, 매출관리는, 가맹점별 매출현황, 상품별 매출현황, 결제내역, 현금입출금내역, 인기상품 및 상품선호도의 하위메뉴를 포함하고, 거래처관리는, 주문관리, 주문내역관리 및 예수금관리의 하위메뉴를 포함할 수 있다. 이때, 관리자는, 각 무인매장(가맹점)을 관리하는 가맹점주, 각 가맹점을 관리하는 최고관리자, 각 가맹점이나 본사에 상품을 영업하는 영업관리자, 각 가맹점이나 본사에 상품을 공급하는 공급업자로 각각 나뉘어져 있다. 각각의 관리자는 접근할 수 있는 메뉴가 미리 설정되어 있으므로 시스템에서 허용된 메뉴만을 이용할 수 있다. 이때, 도 5a 내지 도 5f와 같이 각 관리자별 이용가능메뉴가 나뉘어질 수 있으나, 실시예에 따라 변경될 수도 있음은 자명하다 할 것이다.
직관상담부(360)는, 키오스크(400)에서 음성인식 기반으로 음성발화를 인식하여 응대할 때, 챗봇에서 출력하는 음성발화에 대응하는 텍스트를 화면상에 표시하면서, 텍스트에 대응하는 이미지, 사진 및 동영상 중 어느 하나에 대응하는 콘텐츠가 기 매핑되어 저장되어 있는 경우, 콘텐츠를 텍스트와 함께 표시할 수 있다. 이때, 챗봇에서 음성으로 응답을 하더라도 무인매장에 사람이 많아서 소음이 많은 경우이거나 청각장애인 등과 같은 사용자의 경우에는 챗봇이 음성으로 발화해도 알아듣지 못하는 경우가 많다. 이를 위하여, 챗봇의 음성발화를 텍스트로도 화면에 표시해주고, 텍스트 내 상품에 대한 키워드가 포함된 경우, 그 키워드에 대응하는 이미지, 사진 등도 함께 제공해줄 수 있다. 또, 챗봇의 음성발화와 동기화되도록 화면에 텍스트를 자막과 같이 표기해줄 수 있다.
정보전달부(370)는, 키오스크(400)에서 화상상담이 진행될 때, 키오스크(400)에서 상품의 바코드 또는 QR 코드를 스캔하도록 하고, 상담원 단말의 화면으로 상품의 바코드 또는 QR 코드에 대한 정보를 전송할 수 있다. 이때, 상품의 바코드 또는 QR 코드에 대한 정보에 상품 이미지 등이 함께 매핑되어 있는 경우 이를 출력해줄 수 있다.
업그레이드부(380)는, 챗봇에서 질의에 응답을 하지 못한 질의 리스트를 추출하고, 질의 리스트에 대한 응답을 입력하거나 기 구축된 데이터베이스와 연동하도록 알람을 출력할 수 있다. 예를 들어, 챗봇에서 "무슨 말인지 이해하지 못했어요"라고 대답한 사용자의 질의를 추출한다. 이렇게 추출한 질의를 자연어처리를 통하여 질의를 분류하고, 분류된 질의에 대한 응답을 관리자 단말(500)로부터 업로드받아 질의에 대한 응답의 가능 개수를 늘릴 수 있다. 질의-응답 데이터셋이 구축되어 있지 않다고 하더라도, 챗봇에서 데이터베이스에 직접 엑세스할 수 있다면, 데이터베이스의 데이터를 이용하여 응답을 생성할 수도 있다.
추천부(390)는, 복수의 사용자 단말(100)에서 주문한 상품에 대한 정보를 수집한 후, 협업필터링을 통하여 사용자 및 상품 간 선호도에 대한 그룹을 생성한 후, 사용자 단말(100)의 그룹을 지정하고 지정된 그룹 내 선호도에 기반하여 사용자 단말(100)로 추천상품 리스트를 생성하여 제공할 수 있다. 사용자 단말(100)은 복수의 주체에 귀속된 복수의 사용자 단말(100)일 수 있다.
<딥러닝>
추천 분야에서 딥러닝은 [사용자-아이템] 상호작용의 비선형성을 모델링하고 선호도를 예측하는 데에 있어서 그 우수성을 입증했는데, 명시적 피드백인 평가 점수를 사용하여 사용자-아이템의 상호작용을 모델링하기 위한 두 계층으로 제한된 볼츠만 머신(Restricted Boltzmann Machines)을 이용할 수도 있고, 오토인코더(Auto-Encoder)도 명시적 피드백에 기반을 둔 추천 시스템에 적용할 수 있다. 반면에 명시적 피드백이 항상 이용 가능하지 않기 때문에 암시적 피드백을 이용할 수도 있다. 암시적 피드백에서 사용자와 아이템 간의 상호작용의 선형성과 비선형성을 모델링하기 위해 피드포워드 신경망(Feedforward Network)을 사용하는 딥러닝 기반 협업 필터링 기법인 NCF(Neural Collaborative Filtering)를 이용할 수도 있고, 특성 변환 함수(Two Feature Transforming Function)를 이용하여, 암시적 피드백과 부가 정보를 통합하는 DMF(Deep Matrix Factorization)를 이용할 수도 있다. 암시적 피드백에서 아이템 간의 복잡한 상호작용 기능을 자동으로 학습하기 위해 신경망을 활용하는 DeepICF(Deep Item-based Collaborative Filtering)를 이용할 수도 있다.
<교차 도메인 추천>
일반적인 추천 기법은 데이터 희소성과 콜드 스타트 문제라는 오랜 장애물에 직면해왔기에 교차 도메인의 개념이 등장했는데, 최근 딥러닝과 신경망의 발달에 따라 이를 교차 도메인 추천에 이용하기도 한다. 예를 들어, 두 개의 생성기(Generator)를 사용하여 두 도메인에서 동일한 기간에 발생한 사용자-아이템 상호작용 정보를 지식을 양방향으로 매핑하는 CGN(Cycle Generation Network)을 이용할 수도 있고, 사전 훈련된 오토인코더(Auto-Encoder)에 기반을 둔 DDTCDR(Deep Dual Transfer Cross Domain Recommendation) 모델을 이용할 수도 있다. 이는 개별 도메인의 내부 정보와 도메인 간의 사용자-아이템 상호작용을 모델링하고, 도메인 간의 지식을 전달하기 위해 잠재 직교 매핑 함수(Latent Orthogonal Mapping Function)를 이용하여 두 도메인에 대한 성능을 동시에 높일 수 있다. 물론, 상술한 방법 외에도 다양한 방법이 이용될 수 있다.
예를 들어, 사용자 김직원이 마음의 평화와 안정을 위해 책상 위에 놓을 작은 분수를 고르고 있다. 이에, 김직원은 [미니분수], [사무실분수], [가정용분수] 등의 검색어로 분수를 찾고 있다면, ① 김직원은 [실내용 분수]를 찾고 있는 것이다. 이때, 김직원이 이전에 구매했던 아이템의 태그에 모던, 심플 등의 태그가 부착되어 있다면, 사용자는 모던 및 심플한 아이템을 좋아한다고 유추할 수 있으므로, ② [모던] 및 [심플]을 추출한다. 또, 사용자가 이전에 구매했던 아이템인 양키캔들에는 별 5 점, 페어리라이트(Fairy Light)에도 별 5 점이 부과되었다면, 사용자가 ③ 양키캔들이나 페어리라이트와 같은 아이템을 좋아하는 사용자 그룹이라는 것이라는 정보가 추출된다. 즉, ① 검색어로부터 구매하고자 하는 아이템을 추출할 수 있고, ② 구매했던 아이템으로부터 취향을 파악할 수 있고, ③ 고객리뷰로부터 사용자 그룹을 분류할 수 있다. 이에 따라, 사용자가 찾고자 하는 ① 대상이 ②에서 추출된 태그를 포함하고 있고, ③으로 분류된 사용자 그룹도 좋아하는 아이템(협업 필터링)인 경우 추출을 하여 사용자에게 추천할 수 있다. 즉, ① [실내용 분수] 중에서 ② [모던] 및 [심플]의 태그를 가지고 있고, ③으로 분류된 사용자 그룹도 좋아했던 실내용 분수를 추출하여 추천해줄 수 있다.
이때, 사용자가 추천해준 아이템을 클릭도 하지 않거나(무관심 또는 싫어함), 빠르게 스와이프(Swipe) 또는 드래그(Drag)를 하는 등의 키스트로크 등의 이벤트를 분석하여 사용자의 취향을 다시 재조정할 수 있다. 추천을 해주었는데 보지도 않거나 빠르게 넘겨버리는 경우 암시적(Implicit) 표현으로 사용자의 거부를 나타낸다고 볼 수 있기 때문이다. 이를 반영하지 않고 사용자가 싫어하는 조잡한 분수를 계속하여 추천한다면 사용자는 인공지능이 아직 사용할만하지 않다고 생각하고 앞으로 추천해주는 아이템들도 거들떠 보지 않을 가능성이 높고 심지어는 플랫폼의 추천기능을 의심하여 플랫폼의 신뢰도까지 떨어뜨릴 수 있다. 이에, 사용자가 빠르게 넘기는 등의 모션, 제스쳐 등을 취하는 경우 이를 다시 추천해주지 않는 방법을 더 이용할 수도 있다.
덧붙여서, 본 발명의 일 실시예는 사용자 단말(100)에서 각 상품의 위치가 어디에 있는지를 파악하기 위해 실내에서 사용할 수 있는 지도를 제공할 수 있다. 실내에서는 GPS가 정확하지 않을 수도 있기 때문에, 메쉬노드 및 핑거프린팅을 이용하여 각 위치에서의 WIFI 세기로 위치를 파악하도록 하고, 사용자의 현위치 및 사용자가 찾고자 하는 상품의 구역, 선반 및 열까지 함께 안내해줄 수 있다. 키오스크(400)까지 가서 찾아보려면 너무 불편하기 때문에 사용자 단말(100)의 애플리케이션에서 손 쉽게 챗봇과 질의응답할 수 있도록 하고, 이를 AR(증강현실)로 표시해주어 사용자가 직원이 없더라도 더욱 더 손 쉽게 찾을 수 있도록 해줄 수 있다. AR 콘텐츠를 포켓몬고와 같이 구현하는 경우 재미요소도 함께 제공해줄 수 있다.
이하, 상술한 도 2의 운영 서비스 제공 서버의 구성에 따른 동작 과정을 도 3 내지 도 6을 예로 들어 상세히 설명하기로 한다. 다만, 실시예는 본 발명의 다양한 실시예 중 어느 하나일 뿐, 이에 한정되지 않음은 자명하다 할 것이다.
<사용자 애플리케이션>
도 3a를 참조하면, 사용자 단말(100)은, 매장검색, 구매내역, 내정보 등의 메뉴를 이용할 수 있고, 포인트를 충전하거나 결제인증을 수행할 수 있으며, 구매내역 등에 따라 부여받은 레벨을 확인할 수 있으며, 상품문의(입고문의)에 대한 입고알람을 받을 수도 있다. 이때, 빨간색 점으로 표시된 부분은 관리자 단말(500)의 메뉴로, 사용자 단말(100)에서 상품문의(입고문의)를 하면, 관리자 단말(500)에서 입고상품등록 등을 수행할 수 있다. 사용자 단말(100)은, 도 3b와 같이 가입을 한 후 카메라나 GPS 등 권한을 허용하면 도 3c와 같이 현재 포인트, 즐겨찾는 매장, 최근 입고상품이나 신규추천상품들을 도 3d와 같이 홈 화면 내에서 출력할 수 있다. 도 3e에서 사용자 단말(100)로부터 상품문의를 받으면 관리자 단말(500)에서 입고상품등록 등을 수행할 수 있다. 도 3f와 같이 사용자 단말(100)은 알림내역을 리스트업하여 출력할 수 있고, 도 3g 및 도 3h와 같이 상품문의를 할 수 있으며, 관리자 단말(500)은 도 3i와 같이 입고상품을 등록할 수 있다. 사용자 단말(100)은 도 3j와 같이 매장을 지도상에서 검색할 수 있고, 도 3k와 같이 구매내역을 확인할 수 있다. 구매내역 상세보기를 하면 도 3l과 같은 화면이 출력되고, 도 3m과 같이 내정보 메뉴에서 정보를 수정할 수 있다.
<키오스크>
도 4a와 같은 화면이 키오스크(400)의 기본화면으로 출력되고, 도 4b와 같이 각 상품이 스캔되는 동안 키오스크(400)는 CCTV 화면, 사용자 정보, 상담메뉴 등의 인터페이스가 출력된다. 이때, 화상상담이 선택되는 경우 도 4d와 같은 화면이 출력되고, 상담이 종료되면 도 4d와 같은 화면이 출력된다. 키오스크(400)는 도 4e와 같이 결제방식을 선택받고 도 4f와 같이 결제 프로세스를 진행하며, 도 4g와 같이 포인트로 결제하는 경우 포인트가 유효한지의 여부를 운영 서비스 제공 서버(300)에 질의한 후 그 결과에 따른 화면을 출력할 수 있다. 키오스크(400)는 도 4h와 같이 현금결제를 하는 경우 현금결제기에 현금을 투입받고, 도 4i와 같이 거스름돈을 포인트로 적립할 것인지를 묻는다. 키오스크(400)는 도 4j와 같이 챗봇상담이 선택되는 경우 카테고리를 선택하도록 하고, 도 4k와 같이 키보드로 텍스트를 입력받거나, 도 4l과 같이 음성인식을 하고 있음을 화면으로 출력할 수도 있다. 또 키오스크(400)는 도 4m과 같이 챗봇상담을 진행할 수 있고, 도 4n과 같이 응답에 이미지가 포함된 경우 이미지도 함께 표시해줌으로써 사용자가 이해하기 쉽게 응답을 제공한다. 키오스크(400)는 도 4o와 같이 돋보기 기능을 제공함으로써 시력이 좋지 않은 사용자도 어떠한 상품이 스캔되었는지를 확인할 수 있도록 한다.
<관리자 웹 페이지>
도 5a 내지 도 5f와 같이 각 관리자에 따라 어떠한 메뉴에 엑세스할 수 있는지를 설정할 수 있으나, 이는 실시예에 따라 변경될 수 있으므로 반드시 이에 한정되는 것은 아니다. 도 5g 내지 도 5j와 같이 관리자 단말(500)의 대시보드에서는 각 메뉴의 대략적인 내용들을 직관적인 그래프나 인포그래픽 등으로 한 눈에 볼 수 있도록 제공하고, 관리자 단말(500)은, 도 5k와 같이 문의게시판에 업로드된 사용자 단말(100)의 문의가 현재 어떻게 처리되고 있는지를 확인할 수 있다. 또, 도 5l과 같이 관리자 단말(500)의 관리자가 영업관리자인 경우 가맹점별 매출현황을 관리하거나 기간별 또는 상품별 매출을 확인할 수 있는 메뉴를 제공하고, 도 5m과 같이 전체상품을 관리할 수 있도록 페이지를 제공할 수 있다. 또, 도 5n과 같이 주문리스트를, 도 5o와 같이 출고리스트를 제공할 수 있고, 도 5p와 같이 거래명세서를 제공할 수도 있다. 도 5q와 같이 관리자 단말(500)은 반품내역등록의 플로우를 진행하여 반품내역을 등록할 수도 있고, 도 5r과 같이 매입등록관리, 도 5s와 같이 재고관리를 수행할 수도 있다. 관리자 단말(500)은 도 5t와 같이 가맹점별 매출현황을 관리할 수도 있고, 도 5u와 같이 인기상품 또는 선호도를 인구통계학적 데이터별로 관리할 수도 있다. 이렇게 수집 및 누적된 데이터는 이후 사용자의 그룹을 나누고 사용자에게 어떠한 상품을 추천해줄 것인지, 시즌별 어떠한 상품을 입고시킬 것인지 등에 대한 기초자료를 제공해줄 수 있다. 도 5v와 같이 관리자 단말(500)은 상품주문을 수행할 수 있고 이는 B2B(Business-to-Business)로 SCM(Supply Chain Management)가 적용될 수 있다. 도 5w와 같이 시재관리를 수행할 수 있는데, 시재관리를 통하여 키오스크(400)에 얼마나 돈이 있고 각 화폐단위로 얼마가 모자르며 얼마를 채워넣어야 하고 또 비워야 하는지 등의 시점을 파악해야 하기 때문이다. 또 도 5x와 같이 관리자 단말(500)은 라벨을 출력하기 위해 라벨을 생성할 수 있고, 도 5y와 같이 라벨을 관리할 수도 있고, 도 5z와 같이 선호도를 파악한 결과를 표시해줄 수도 있다. SCM 및 라벨 관련 구성은 본 출원인의 선등록특허를 참조하기로 한다.
<관리자 애플리케이션>
관리자 애플리케이션은 관리자 웹 페이지와 유사하나 스마트폰 환경에 맞게 변경한 화면이므로 도 5의 내용과 동일 및 유사하므로 동일한 내용은 중복하여 설명하지 않는다. 도 6a와 같은 메뉴를 제공할 수 있으며, 도 6b 및 도 6c와 같이 대시보드 페이지를 제공할 수 있고, 도 6d와 같이 ≡ 아이콘을 누르면 아래로 펼쳐지도록 드로워 메뉴를 제공할 수 있다. 도 6e와 같이 사용자 단말(100)의 문의 또는 키오스크(400)에서 입력된 문의내역을 가맹점별로 또 처리자별로 소팅하여 출력할 수 있으며, 도 6f와 같이 문의를 모바일 기반으로도 빠르고 쉽게 처리할 수 있다. 도 6g와 같이 관리자 단말(500)은, 관리자 가이드를 등록함으로써 각 관리자별 튜토리얼을 제공할 수도 있고, 도 6h와 같이 키오스크 에러 등을 확인할 수 있도록 메뉴를 제공할 수 있다. 도 6i와 같이 본 발명의 플랫폼과 가맹점주 간 계약상황을 확인하고 도 6j와 같이 키오스크(400)를 등록할 수도 있고, 도 6k와 같이 사용자 상세관리를 수행할 수도 있다. 또 도 6l과 같이 각 상품을 분류하는 카테고리나 대분류-중분류-소분류 등의 상하레벨을 만들 수도 있고, 도 6m 및 도 6n과 같이 전체상품관리를 통하여 상품명을 정하거나 바코드를 입력할 수도 있다. 도 6o와 같이 재고관리를 수행할 수도 있고, 도 6p와 같이 결제내역을 확인할 수도 있으며, 도 6q와 같이 현금입출금 내역을 모바일 상에서 손 쉽게 확인할 수 있고, 도 6r과 같이 현재 인기있는 상품이 무엇인지를 리스트업해서 볼 수도 있으며, 도 6s와 같이 관리자 단말(500)은, 어떠한 단위화폐를 채우러 가야하는지, 또는 언제 수금을 하러 가야하는지 등을 실시간으로 확인할 수 있고, 도 6t와 같이 화상상담을 진행할 수도 있다.
이와 같은 도 2 내지 도 6의 인공지능 기반 무인매장 운영 서비스 제공 방법에 대해서 설명되지 아니한 사항은 앞서 도 1을 통해 인공지능 기반 무인매장 운영 서비스 제공 방법에 대하여 설명된 내용과 동일하거나 설명된 내용으로부터 용이하게 유추 가능하므로 이하 설명을 생략하도록 한다.
도 7은 본 발명의 일 실시예에 따른 도 1의 인공지능 기반 무인매장 운영 서비스 제공 시스템에 포함된 각 구성들 상호 간에 데이터가 송수신되는 과정을 나타낸 도면이다. 이하, 도 7을 통해 각 구성들 상호간에 데이터가 송수신되는 과정의 일 예를 설명할 것이나, 이와 같은 실시예로 본원이 한정 해석되는 것은 아니며, 앞서 설명한 다양한 실시예들에 따라 도 7에 도시된 데이터가 송수신되는 과정이 변경될 수 있음은 기술분야에 속하는 당업자에게 자명하다.
도 7을 참조하면, 운영 서비스 제공 서버는, 적어도 하나의 키오스크를 식별하는 고유식별코드를 부여하고 설치된 무인매장의 위치를 매핑하여 저장한다(S7100).
그리고, 운영 서비스 제공 서버는, 키오스크에서 음성인식 기반으로 음성발화를 인식하고 질의에 응답하는 챗봇(ChatBot)을 구축 및 업데이트하고(S7200), 키오스크에서 화상상담이 요청된 경우 키오스크의 카메라를 구동하여 상담원 단말과 연결되도록 화상채널을 생성한다(S7300).
상술한 단계들(S7100~S7300)간의 순서는 예시일 뿐, 이에 한정되지 않는다. 즉, 상술한 단계들(S7100~S7300)간의 순서는 상호 변동될 수 있으며, 이중 일부 단계들은 동시에 실행되거나 삭제될 수도 있다.
이와 같은 도 7의 인공지능 기반 무인매장 운영 서비스 제공 방법에 대해서 설명되지 아니한 사항은 앞서 도 1 내지 도 6을 통해 인공지능 기반 무인매장 운영 서비스 제공 방법에 대하여 설명된 내용과 동일하거나 설명된 내용으로부터 용이하게 유추 가능하므로 이하 설명을 생략하도록 한다.
도 7을 통해 설명된 일 실시예에 따른 인공지능 기반 무인매장 운영 서비스 제공 방법은, 컴퓨터에 의해 실행되는 애플리케이션이나 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다.
전술한 본 발명의 일 실시예에 따른 인공지능 기반 무인매장 운영 서비스 제공 방법은, 단말기에 기본적으로 설치된 애플리케이션(이는 단말기에 기본적으로 탑재된 플랫폼이나 운영체제 등에 포함된 프로그램을 포함할 수 있음)에 의해 실행될 수 있고, 사용자가 애플리케이션 스토어 서버, 애플리케이션 또는 해당 서비스와 관련된 웹 서버 등의 애플리케이션 제공 서버를 통해 마스터 단말기에 직접 설치한 애플리케이션(즉, 프로그램)에 의해 실행될 수도 있다. 이러한 의미에서, 전술한 본 발명의 일 실시예에 따른 인공지능 기반 무인매장 운영 서비스 제공 방법은 단말기에 기본적으로 설치되거나 사용자에 의해 직접 설치된 애플리케이션(즉, 프로그램)으로 구현되고 단말기에 등의 컴퓨터로 읽을 수 있는 기록매체에 기록될 수 있다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (10)

  1. 음성인식 기반으로 음성발화를 인식하여 응대하고, 화상상담 요청이 입력된 경우 화상채널을 생성하여 상담원 단말과 연결하며, 바코드 또는 QR 코드를 스캔한 후 결제 프로세스를 진행하는 적어도 하나의 키오스크;
    적어도 하나의 무인매장을 검색하고, 상기 적어도 하나의 무인매장별 최근입고상품, 신규상품 및 인기상품을 포함하는 카테고리별로 상품을 나열하여 출력하며, 상기 적어도 하나의 무인매장을 지정하여 상품문의를 입력하고, 상기 적어도 하나의 무인매장별 구매내역을 출력하는 사용자 단말; 및
    상기 적어도 하나의 키오스크를 식별하는 고유식별코드를 부여하고 설치된 무인매장의 위치를 매핑하여 저장하는 키오스크관리부, 상기 키오스크에서 음성인식 기반으로 음성발화를 인식하고 질의에 응답하는 챗봇(ChatBot)을 구축 및 업데이트하는 챗봇관리부, 상기 키오스크에서 화상상담이 요청된 경우 상기 키오스크의 카메라를 구동하여 상담원 단말과 연결되도록 화상채널을 생성하는 화상상담부, 상기 사용자 단말에서 상기 화상상담을 요청하는 경우, 상기 사용자 단말의 위치정보로 무인매장의 위치를 추출하고, 상기 사용자 단말의 카메라 및 마이크를 구동시켜 화상채널에 연결시킨 후 상기 상담원 단말과 연동되도록 하는 상담연동부를 포함하는 운영 서비스 제공 서버;를 포함하며,
    상기 키오스크관리부는,
    무인매장 내의 자율주행로봇을 이용하여 무인매장으로 들어오는 사용자의 얼굴을 확인하고, 도난이나 절도가 발생한 경우 확인된 사용자의 얼굴을 디지털증거팩표준포맷으로 저장해두었다가 형사사법기관에 전달하며,
    상기 키오스크 양측에 로봇암을 설치하고, 사용자가 계산하는 척하다가 계산하지 않고 그냥 나가려는 경우, 상기 로봇암이 사용자의 팔이나 다리를 잡은 채로, 상기 키오스크에서 영상 기반 딥러닝을 이용하여 사용자의 인상착의, 성별, 추정 나이대 및 현재 무인매장의 위치를 텍스트로 생성하여 112에 바로 문자 신고를 할 수 있도록 설정하며,
    상기 챗봇관리부는,
    NLU(Natural Language Understanding)에 기반하여, 사용자의 상품의 위치질문, 입고질문, 교환 또는 반품 요청 및 고장신고에 따른 대화 의도 분류 및 핵심어인 개체를 추출하여 질의 및 응답을 처리하며,
    상기 화상상담부는,
    사용자가 상담사를 연결할 때까지 챗봇과도 이야기를 해보았지만 해결을 못했고, 여러가지 가이드를 찾아봤지만 안되었을 때, 한국어 대화요약 데이터셋을 근거로 Sequence-to-Sequence 기법을 이용하여 사용자와 챗봇 간 대화를 요약한 후 상기 상담원 단말에 전달하고, 사용자가 상기 키오스크를 조작했던 히스토리도 함께 상기 상담원 단말에 전달하며,
    상기 상담연동부는,
    상기 사용자 단말의 컴퓨팅 자원 및 네트워크 자원을 고려하고, 송신단에 맞는 스트리밍이 가능하도록 송신단이 다수의 인코딩율로 실시간 비디오를 인코딩하고, 인코딩된 프레임을 세그먼트 단위로 미디어 서버에 전송하며, 수신단인 상담원 단말의 ABR(Adaptive Bitrate Rate) 스트리밍과 호환되기 위해서 각 세그먼트의 처음 프레임은 키 프레임으로 인코딩하며, 상기 미디어 서버는 세그먼트 버퍼에 세그먼트를 저장하여 수신단 요청시 전달하며,
    상기 자율주행로봇은,
    상기 상담원 단말이 MASTER로, 상기 자율주행로봇의 로봇암이 SLAVE로 작동하며, 상기 키오스크에 돈이 끼이거나 카드가 나오지 않는 경우를 포함하는 하드웨어적인 문제가 발생했을 때, 상담사의 손의 제스쳐를 그대로 상기 로봇암이 따라하도록 함으로써 돈이 끼이거나 카드가 나오지 않는 문제를 해결하고, 상품이 사용자의 키보다 높은 곳에 위치해있어서 꺼내지를 못할 때 상기 로봇암을 이용하여 꺼내주도록 작동하는 것을 특징으로 하는 인공지능 기반 무인매장 운영 서비스 제공 시스템.
  2. 삭제
  3. 삭제
  4. 제 1 항에 있어서,
    상기 인공지능 기반 무인매장 운영 서비스 제공 시스템은,
    무인매장관리, 사용자관리, 상품관리, 재고관리, 매출관리, 예치금관리, 거래처관리, 홈페이지관리, 시재(Cash on Hand)관리 및 상품라벨출력의 메뉴를 관리하는 관리자 단말;
    를 더 포함하는 것을 특징으로 하는 인공지능 기반 무인매장 운영 서비스 제공 시스템.
  5. 제 4 항에 있어서,
    상기 무인매장관리는, 가맹점관리 및 키오스크 관리의 하위메뉴를 포함하고,
    상기 상품관리는, 분류관리, 전체상품관리, 장바구니, 주문내역관리 및 반품내역관리의 하위메뉴를 포함하고,
    상기 재고관리는, 재고조회 및 손실관리의 하위메뉴를 포함하고,
    상기 매출관리는, 가맹점별 매출현황, 상품별 매출현황, 결제내역, 현금입출금내역, 인기상품 및 상품선호도의 하위메뉴를 포함하고,
    상기 거래처관리는, 주문관리, 주문내역관리 및 예수금관리의 하위메뉴를 포함하는 것을 특징으로 하는 인공지능 기반 무인매장 운영 서비스 제공 시스템.
  6. 제 4 항에 있어서,
    상기 운영 서비스 제공 서버는,
    상기 관리자 단말에서 적어도 하나의 메뉴에 대한 데이터를 표시하는 대시보드를 제공하고, 상기 적어도 하나의 메뉴의 데이터에 대하여 상기 관리자 단말에서 입출력하도록 상기 적어도 하나의 키오스크와 실시간으로 동기화를 수행하는 관리메뉴제공부;
    를 더 포함하는 것을 특징으로 하는 인공지능 기반 무인매장 운영 서비스 제공 시스템.
  7. 제 1 항에 있어서,
    상기 운영 서비스 제공 서버는,
    상기 키오스크에서 상기 음성인식 기반으로 음성발화를 인식하여 응대할 때, 상기 챗봇에서 출력하는 음성발화에 대응하는 텍스트를 화면상에 표시하면서, 상기 텍스트에 대응하는 이미지, 사진 및 동영상 중 어느 하나에 대응하는 콘텐츠가 기 매핑되어 저장되어 있는 경우, 상기 콘텐츠를 상기 텍스트와 함께 표시하는 직관상담부;
    를 더 포함하는 것을 특징으로 하는 인공지능 기반 무인매장 운영 서비스 제공 시스템.
  8. 제 1 항에 있어서,
    상기 운영 서비스 제공 서버는,
    상기 키오스크에서 화상상담이 진행될 때, 상기 키오스크에서 상품의 바코드 또는 QR 코드를 스캔하도록 하고, 상기 상담원 단말의 화면으로 상기 상품의 바코드 또는 QR 코드에 대한 정보를 전송하는 정보전달부;
    를 더 포함하는 것을 특징으로 하는 인공지능 기반 무인매장 운영 서비스 제공 시스템.
  9. 제 1 항에 있어서,
    상기 운영 서비스 제공 서버는,
    상기 챗봇에서 질의에 응답을 하지 못한 질의 리스트를 추출하고, 상기 질의 리스트에 대한 응답을 입력하거나 기 구축된 데이터베이스와 연동하도록 알람을 출력하는 업그레이드부;
    를 더 포함하는 것을 특징으로 하는 인공지능 기반 무인매장 운영 서비스 제공 시스템.
  10. 제 1 항에 있어서,
    상기 사용자 단말은 복수의 주체에 귀속된 복수의 사용자 단말이고,
    상기 운영 서비스 제공 서버는,
    상기 복수의 사용자 단말에서 주문한 상품에 대한 정보를 수집한 후, 협업필터링을 통하여 사용자 및 상품 간 선호도에 대한 그룹을 생성한 후, 상기 사용자 단말의 그룹을 지정하고 지정된 그룹 내 선호도에 기반하여 상기 사용자 단말로 추천상품 리스트를 생성하여 제공하는 추천부;
    를 더 포함하는 것을 특징으로 하는 인공지능 기반 무인매장 운영 서비스 제공 시스템.
KR1020220180958A 2022-12-21 2022-12-21 인공지능 기반 무인매장 운영 서비스 제공 시스템 KR102596036B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020220180958A KR102596036B1 (ko) 2022-12-21 2022-12-21 인공지능 기반 무인매장 운영 서비스 제공 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220180958A KR102596036B1 (ko) 2022-12-21 2022-12-21 인공지능 기반 무인매장 운영 서비스 제공 시스템

Publications (1)

Publication Number Publication Date
KR102596036B1 true KR102596036B1 (ko) 2023-11-01

Family

ID=88746180

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220180958A KR102596036B1 (ko) 2022-12-21 2022-12-21 인공지능 기반 무인매장 운영 서비스 제공 시스템

Country Status (1)

Country Link
KR (1) KR102596036B1 (ko)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190053725A (ko) * 2017-11-10 2019-05-20 삼성전자주식회사 디스플레이장치 및 그 제어방법
KR20200094311A (ko) * 2019-01-30 2020-08-07 주식회사 레드타이 챗봇 서비스 제공 방법, 장치 및 그 시스템
KR20200125300A (ko) * 2019-04-26 2020-11-04 차봇모빌리티 주식회사 자동차 보험 상품의 비교 견적 및 가입 서비스를 제공하는 키오스크 장치 및 시스템
KR102284675B1 (ko) * 2021-01-20 2021-08-03 주식회사 문구야놀자 인공지능 기반 무인매장 운영 서비스 제공 시스템
KR20220010895A (ko) * 2020-07-20 2022-01-27 주식회사 지오에프엔비 Erp 통합 관리 시스템
KR20220114857A (ko) * 2021-02-09 2022-08-17 주식회사 네이처랭귀지 무인화 점포를 위한 챗봇 시스템 및 그 방법

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190053725A (ko) * 2017-11-10 2019-05-20 삼성전자주식회사 디스플레이장치 및 그 제어방법
KR20200094311A (ko) * 2019-01-30 2020-08-07 주식회사 레드타이 챗봇 서비스 제공 방법, 장치 및 그 시스템
KR20200125300A (ko) * 2019-04-26 2020-11-04 차봇모빌리티 주식회사 자동차 보험 상품의 비교 견적 및 가입 서비스를 제공하는 키오스크 장치 및 시스템
KR20220010895A (ko) * 2020-07-20 2022-01-27 주식회사 지오에프엔비 Erp 통합 관리 시스템
KR102284675B1 (ko) * 2021-01-20 2021-08-03 주식회사 문구야놀자 인공지능 기반 무인매장 운영 서비스 제공 시스템
KR20220114857A (ko) * 2021-02-09 2022-08-17 주식회사 네이처랭귀지 무인화 점포를 위한 챗봇 시스템 및 그 방법

Similar Documents

Publication Publication Date Title
US20220293107A1 (en) Multi-service business platform system having conversation intelligence systems and methods
US11790180B2 (en) Omnichannel data communications system using artificial intelligence (AI) based machine learning and predictive analysis
US11373045B2 (en) Determining context and intent in omnichannel communications using machine learning based artificial intelligence (AI) techniques
US11361211B2 (en) Artificial intelligence (AI) based chatbot creation and communication system
US20210042662A1 (en) Interactive Information Capture and Retrieval with User-Defined and/or Machine Intelligence Augmented Prompts and Prompt Processing
US20220343250A1 (en) Multi-service business platform system having custom workflow actions systems and methods
Seddon A respecification and extension of the DeLone and McLean model of IS success
US10990645B1 (en) System and methods for performing automatic data aggregation
US20220067115A1 (en) Information processing method, apparatus, electrical device and readable storage medium
KR20230141907A (ko) 자동 내비게이션을 용이하게 하기 위한 웹 페이지 분석
US11632341B2 (en) Enabling communication with uniquely identifiable objects
Ravindran et al. Mastering social media mining with R
CN105431839A (zh) 具有提供对知识的一步访问的自适应用户接口的智能互联网系统
CA2838283A1 (en) System and method for building and managing user experience for computer software interfaces
CN103534697B (zh) 用于提供统计对话管理器训练的方法和系统
US10091308B2 (en) Method of providing number URL service
US20190354557A1 (en) System and Method For Providing Intelligent Customer Service
CN107925698A (zh) 文件类型相关的查询系统
US20230377023A1 (en) Systems and methods for user personalization and recommendations
Lee et al. Disruptive technologies and innovation in hospitality: A computer-assisted qualitative data analysis approach
KR102073069B1 (ko) Pc 애프터 서비스 관리 시스템
KR102596036B1 (ko) 인공지능 기반 무인매장 운영 서비스 제공 시스템
Chen The augmenting effects of artificial intelligence on marketing performance
US20220383125A1 (en) Machine learning aided automatic taxonomy for marketing automation and customer relationship management systems
Rainsberger AI-The new intelligence in sales: Tools, applications and potentials of Artificial Intelligence

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant