KR102196241B1 - 쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치 및 그 동작 방법 - Google Patents

쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치 및 그 동작 방법 Download PDF

Info

Publication number
KR102196241B1
KR102196241B1 KR1020200108483A KR20200108483A KR102196241B1 KR 102196241 B1 KR102196241 B1 KR 102196241B1 KR 1020200108483 A KR1020200108483 A KR 1020200108483A KR 20200108483 A KR20200108483 A KR 20200108483A KR 102196241 B1 KR102196241 B1 KR 102196241B1
Authority
KR
South Korea
Prior art keywords
product
image
color
display
search result
Prior art date
Application number
KR1020200108483A
Other languages
English (en)
Inventor
권영주
Original Assignee
주식회사 씨앤비 컴퍼니
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 씨앤비 컴퍼니 filed Critical 주식회사 씨앤비 컴퍼니
Priority to KR1020200108483A priority Critical patent/KR102196241B1/ko
Application granted granted Critical
Publication of KR102196241B1 publication Critical patent/KR102196241B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/242—Query formulation
    • G06F16/2428—Query predicate definition using graphical user interfaces, including menus and forms
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/242—Query formulation
    • G06F16/2425—Iterative querying; Query formulation based on the results of a preceding query
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
    • G06F16/2462—Approximate or statistical queries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/248—Presentation of query results
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/06—Buying, selling or leasing transactions
    • G06Q30/0601—Electronic shopping [e-shopping]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Business, Economics & Management (AREA)
  • Probability & Statistics with Applications (AREA)
  • Finance (AREA)
  • Accounting & Taxation (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Development Economics (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Human Computer Interaction (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Biophysics (AREA)
  • Fuzzy Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

다양한 실시예들에 따르면, 쇼핑몰 관련 웹 사이트를 통해 검색 결과를 표시하는 전자 장치는, 디스플레이, 적어도 하나의 프로세서 및 메모리를 포함하고, 상기 메모리는, 실행 시, 상기 적어도 하나의 프로세서가, 상기 디스플레이를 통하여, 사용자로부터 상품 검색을 위한 제1 텍스트를 수신하고, 상기 수신된 제1 텍스트와 관련된 복수의 상품들을 포함하는 제1 검색 결과를 상기 디스플레이 상에 표시하고, 상기 제1 검색 결과는, 상기 복수의 상품들 각각에 대응하는 복수의 이미지들을 포함하고, 상기 표시된 제1 검색 결과에 포함된 상기 복수의 상품들 중, 제1 상품을 선택하는 제1 사용자 입력을 상기 디스플레이를 통하여 수신하고, 상기 제1 사용자 입력이 수신되면, 상기 선택된 제1 상품에 대한 정보를 입력하기 위한 제1 사용자 인터페이스를 상기 디스플레이 상에 표시하고, 상기 제1 검색 결과에서 상기 선택된 제1 상품 및 상기 제1 상품과 관련된 적어도 하나의 상품을 제외한 하나 이상의 상품들을 포함하는 제2 검색 결과를 상기 디스플레이 상에 표시하도록 하는 인스트럭션들을 저장하고, 상기 적어도 하나의 상품은, 상기 표시된 제1 사용자 인터페이스를 통해 입력된 제2 텍스트 및 상기 제1 상품에 대응하는 제1 이미지에 기반하여 확인될 수 있다. 그 밖의 다양한 실시예가 가능하다.

Description

쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치 및 그 동작 방법{ELECTRONIC DEVICE FOR PROVIDING SEARCH RESULT THROUGH WEBSITE RELATED TO SHOPPING MALL AND METHOD FOR OPERATION THEREOF}
본 발명의 다양한 실시예들은, 쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치 및 그 동작 방법에 관한 것이다.
온라인 쇼핑은 통신을 이용하여 상품을 검색하고 주문하는 것을 의미하는데, 정보통신의 발달과 상품 구매의 편의성으로 인해 매년 큰 성장을 이루고 있다.
온라인 쇼핑몰 관련 웹사이트를 통해 사용자는 자신이 원하는 상품을 검색하고, 검색 결과를 제공받을 수 있다.
하지만, 사용자가 구체적으로 검색어를 지정하지 않는다면 과도하게 방대한 양의 검색 결과가 제공되기 때문에, 사용자는 검색 결과 내에서 자신이 원하는 상품을 찾기 위해 많은 시간을 소비하게 될 수 있다. 예를 들어, 검색 결과 내에는 사용자가 원하지 않은 상품들이 포함될 수 있다. 사용자는, 자신이 원하지 않은 상품들을 발견하더라도, 사용자는 이러한 상품들을 제외한 검색 결과를 얻기 위해서 검색어를 다시 지정하도록 요구될 수 있다. 사용자가 다시 검색어를 지정하여 상품을 검색하게 되면, 다시 검색 결과 내에서 상품을 확인하는 과정이 요구될 수 있다.
따라서, 적은 횟수로 검색어를 지정하더라도, 사용자에게 다양한 상품들의 검색 결과를 제공하면서도 사용자가 원하는 상품들로 구성된(예: 사용자가 원하지 않은 상품들을 제외한) 검색 결과를 효율적으로 제공할 필요성이 증대되고 있다.
또한, 본 발명은 쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치에 있어서, 4차 산업 기술인 인공지능(artificial intelligence) 기술을 접목시키는 내용을 제안하려고 한다.
현재, 디지털기술과 정보통신기술(ICT, information and communication technology)의 융합에 의한 제4차 산업 혁명이 눈앞에 전개되고 있다. 4차 산업혁명은 사물인터넷(IoT), 로봇공학, 가상현실(VR) 및 인공지능(AI)과 같은 혁신적인 기술이 우리가 살고 일하는 방식을 변화시키는 현재 및 미래를 의미한다. 디지털 혁명(Digital Revolution)이라고 하는 3차 산업혁명이 일으킨 컴퓨터와 정보기술(IT)의 발전이 계속 이루어지고 있는 형태이지만 발전의 폭발성과 파괴성 때문에 3차 산업 혁명이 계속된다고 하기 보다 새로운 시대로 여겨진다.
현재 진행되고 있는 제4차 산업혁명의 특징은 디지털, 바이오, 오프라인 등의 각 기술의 융합으로 각종 정보 및 데이터의 생성과 수집 기술, 수집된 각종 정보 및 데이터의 분류 및 분석, 이러한 분석을 통하여 반복 학습에 의한 최적의 목표값(새로운 SW)을 도출하고 있다. 이러한 제4차 산업혁명과 관련된 기술들은 우선 인공지능(Artificial Intelligence: AI)이 핵심으로 부상하고 있고, 그 외에 빅데이터(Big data), 사물인터넷(loT), 블록체인(Block chain) 등이 있다. 이들의 기술들은 단독으로 또는 융합된 기술사상으로 컴퓨터, 인터넷, 모바일, 로봇 등 다양한 산업분야에 적용됨으로써 인간이 상상할 수 없을 정도의 비약적인 사회 변화와 산업발전을 촉진하고 있다.
세계 각국에서는 제4차 산업혁명이 일어나면서 한 시대를 지배하던 패러다임이 완전히 사라지고 상호 간 보완과 경쟁 관계에 있던 패러다임이 새로운 패러다임으로 자리를 대신하고 있다. 제4차 산업혁명은 현실세계에서 데이터를 수집하여(데이터 확보), 가상세계에서 이를 분석하여 지식을 추출하고(데이터분석), 이를 다시 현실세계에 활용(현실에 적용)하는 가치창출 방식에 주목하면서, 종전의 정보통신기술(ICT)을 넘어서는 다양한 SW분야로서 AI, 빅데이터, IoT, 블록체인, 클라우드 컴퓨팅, 모바일 등에 관한 지능정보기술의 개발이 진행되고 있다. 특히 제4차 산업혁명의 중심지표는 기술적으로 발전한 각종 기술들이 상호 간 융합하면편서 컴퓨터의 소프트웨어(SW)를 기반으로 한 AI가 가장 중요한 지위에 있다.
이러한 컴퓨터와 정보통신기술(ICT)의 융합현상은 모든 사물 및 다양한 빅데이터가 네트워크를 통해 상호연결 및 결합(융합)되는 IoT 및 블록체인, 그리고 이들의 기술 경계를 넘어 혁신과 기업의경계가 무너지는 산업현장에서 뚜렷한 현상이 나타나고 있다. 각국 4차 산업혁명의 특징은 초연결 사회, 융합, 탈경계라는 목표를 가지고 컴퓨터와 정보통신기술(ICT)의 발전에 의해 인간과 인간, 사물과 사물, 인간과 사물이 상호 간에 연결된 초연결사회(hyper-connected society)를 형성하고, 이로 인하여 산업 경계가 없어지는 사회 융합이 이루어지는 새로운 기술적 혁명을 일으키고 있다. 제4차 산업혁명 시대는 컴퓨터, 스마트폰, SNS, 모바일 등으로 소통하던 과거의 정보화사회와 달리, AI와 빅데이터, IoT, 블록체인 등으로 융합된 네트워크를 구축함으로서 초연결사회가 형성되고, 이러한 초연결사회에서는 오프라인과 온라인의 융합을 통해 가치혁신산업으로서의 신사업 및 신상품 등 그동안 생각하지 못한 새로운 성장과 혁신, 가치창출을 달성하고 있다.
앞으로는 수십억 인구가 모바일 기기로 연결되어 거대용량의 데이터 및 정보의 수집과 저장이 가능하고, 그 수집된 데이터와 정보는 인간의 지식과 유사한 인공신경망의 딥러닝 기술로 초연결성을 가지게 됨으로써 AI와 빅데이터의 결합 기술, AI와 IoT의 결합 기술, AI와 빅데이터 및 IoT의 복합결합기술의 발전으로 제조, 유통, 의료, 교육, 금융, 영화 등 다양한 분야에서 지능적이고 혁신적인 변화가 일어나고 있다. 즉, 제4차 산업혁명 관련기술의 융합 및 응용으로 기존의 인터넷과 모바일 발전에 의한 산업성장보다 획기적이고 진보된 지능정보사회로 변화하고 있다.
본 발명은 상기와 같은 문제점을 해결하기 위하여 창작된 것으로서, 다양한 실시예에 따른 전자 장치 및 그 동작 방법은, 사용자의 검색어에 따른 검색 결과를 제공한 후, 검색 결과 내에서 사용자가 원하지 않은 상품 및 이와 유사한 상품이 제외되도록 검색 결과를 수정하는 쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치 및 그 동작 방법을 제공할 수 있다.
다양한 실시예들에 따르면, 쇼핑몰 관련 웹 사이트를 통해 검색 결과를 표시하는 전자 장치는, 디스플레이, 적어도 하나의 프로세서 및 메모리를 포함하고, 상기 메모리는, 실행 시, 상기 적어도 하나의 프로세서가, 상기 디스플레이를 통하여, 사용자로부터 상품 검색을 위한 제1 텍스트를 수신하고, 상기 수신된 제1 텍스트와 관련된 복수의 상품들을 포함하는 제1 검색 결과를 상기 디스플레이 상에 표시하고, 상기 제1 검색 결과는, 상기 복수의 상품들 각각에 대응하는 복수의 이미지들을 포함하고, 상기 표시된 제1 검색 결과에 포함된 상기 복수의 상품들 중, 제1 상품을 선택하는 제1 사용자 입력을 상기 디스플레이를 통하여 수신하고, 상기 제1 사용자 입력이 수신되면, 상기 선택된 제1 상품에 대한 정보를 입력하기 위한 제1 사용자 인터페이스를 상기 디스플레이 상에 표시하고, 상기 제1 검색 결과에서 상기 선택된 제1 상품 및 상기 제1 상품과 관련된 적어도 하나의 상품을 제외한 하나 이상의 상품들을 포함하는 제2 검색 결과를 상기 디스플레이 상에 표시하도록 하는 인스트럭션들을 저장하고, 상기 적어도 하나의 상품은, 상기 표시된 제1 사용자 인터페이스를 통해 입력된 제2 텍스트 및 상기 제1 상품에 대응하는 제1 이미지에 기반하여 확인될 수 있다.
상기 제2 텍스트는 상기 제1 상품을 특정하는 시각적 특징(visual feature) 또는 텍스트 특징 중 적어도 하나를 포함하는 것을 특징으로 할 수 있다.
상기 적어도 하나의 상품은, 상기 입력된 제2 텍스트와의 유사성 판단 및 상기 제1 이미지와 유사성 판단에 기반하여 확인되고, 상기 제1 이미지와의 유사성 판단은, 상기 제1 이미지에 기반하여 생성된 제1 유사도 벡터가 컨벌루션 신경망 기반의 이미지 검색(CNN-based image retrieval) 알고리즘에 적용됨에 기반하여 확인되는 것을 특징으로 할 수 있다.
상기 인스트럭션들은, 상기 적어도 하나의 프로세서가, 상기 표시된 제2 검색 결과에 포함된 상기 하나 이상의 상품들 중, 제2 상품을 선택하는 제2 사용자 입력을 상기 디스플레이를 통하여 수신하고, 상기 제2 사용자 입력이 수신되면, 상기 제1 상품 및 상기 선택된 제2 상품의 유사성 판단에 기반하여, 상기 제2 검색 결과에서 상기 제1 상품 및 상기 제2 상품과 관련된 적어도 하나의 다른 상품을 제외한 제3 검색 결과를 상기 디스플레이 상에 표시하도록 할 수 있다.
상기 제1 상품 및 상기 제2 상품의 유사성 판단은, 상기 제1 이미지 및 상기 제2 상품에 대응하는 제2 이미지의 공통된 특징에 기반하여 수행되고, 상기 적어도 하나의 다른 상품은, 상기 공통된 특징을 가지는 상품인 것을 특징으로 할 수 있다.
상기 인스트럭션들은, 상기 적어도 하나의 프로세서가, 상기 제1 검색 결과에서 제외된, 상기 제1 상품 및 상기 적어도 하나의 상품을 포함하는 제2 사용자 인터페이스를 상기 디스플레이 상에 표시하도록 하는 것을 특징으로 할 수 있다.
다양한 실시예에 따르면, 사용자의 검색어에 따른 검색 결과를 제공한 후, 검색 결과 내에서 사용자가 원하지 않은 상품 및 이와 유사한 상품이 제외되도록 검색 결과를 수정함으로써, 사용자가 원하는 상품을 발견하기 위해, 방대한 양의 검색 결과를 확인하는 비용을 절감할 수 있다.
도 1은, 다양한 실시예들에 따른 전자 장치 및 네트워크의 블록도를 도시한다.
도 2는, 다양한 실시예에 따른 전자 장치의 블록도이다.
도 3은, 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는, 다양한 실시예들에 따른, 전자 장치가, 사용자에 의해 입력된 텍스트 및/또는 상품 이미지에 기반하여, 검색 결과를 수정하는 방법을 설명하기 위한 흐름도이다.
도 5a는, 다양한 실시예들에 따른, 제1 검색 결과를 나타내는 도면이다.
도 5b는, 다양한 실시예들에 따른, 제1 검색 결과에서, 제1 텍스트를 입력 받는 사용자 인터페이스를 나타내는 도면이다.
도 5c는, 다양한 실시예들에 따른, 제2 검색 결과를 나타내는 도면이다.
도 5d는, 다양한 실시예들에 따른, 제2 검색 결과에서, 제2 상품이 선택되는 것을 나타내는 도면이다.
도 5e는, 다양한 실시예들에 따른, 제3 검색 결과를 나타내는 도면이다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 기재된다. 실시예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료기기, 카메라, 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM, 상점의 POS(point of sales), 또는 사물 인터넷 장치 (예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다. 어떤 실시예에 따르면, 전자 장치는 가구, 건물/구조물 또는 자동차의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터, 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 플렉서블하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다. 버스(110)는 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다. 통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시예에 따르면, 무선 통신은, 예를 들면, WiFi(wireless fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 한실시예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP)(210), 통신 모듈(220), (가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다. 프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
통신 모듈(220)(예: 통신 인터페이스(170))와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227), NFC 모듈(228) 및 RF 모듈(229)를 포함할 수 있다. 셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(252), (디지털) 펜 센서(254), 키(256), 또는 초음파 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(256)는, 예를 들면, 하드웨어 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 프로젝터(266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나 이상의 모듈로 구성될 수 있다. 한 실시예에 따르면, 패널(262)은 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서)를 포함할 수 있다. 상기 압력 센서는 터치 패널(252)과 일체형으로 구현되거나, 또는 터치 패널(252)과는 별도의 하나 이상의 센서로 구현될 수 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 인터페이스(270)는, 예를 들면, HDMI(272), USB(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다. 전자 장치(201)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치(예: 전자 장치(201))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
다양한 실시예들에서, 전자 장치(201)(또는, 전자 장치(101))는, 전면, 후면 및 상기 전면과 상기 후면 사이의 공간을 둘러싸는 측면을 포함하는 하우징을 포함할 수도 있다. 터치스크린 디스플레이(예: 디스플레이(260))는, 상기 하우징 안에 배치되며, 상기 전면을 통하여 노출될 수 있다. 마이크(288)는, 상기 하우징 안에 배치되며, 상기 하우징의 부분을 통하여 노출될 수 있다. 적어도 하나의 스피커(282)는, 상기 하우징 안에 배치되며, 상기 하우징의 다른 부분을 통하여 노출될 수 있다. 하드웨어 버튼(예: 키(256))는, 상기 하우징의 또 다른 부분에 배치되거나 또는 상기 터치스크린 디스플레이 상에 표시하도록 설정될 수 있다. 무선 통신 회로(예: 통신 모듈(220))은, 상기 하우징 안에 위치할 수 있다. 상기 프로세서(210)(또는, 프로세서(120))는, 상기 하우징 안에 위치하며, 상기 터치스크린 디스플레이, 상기 마이크(288), 상기 스피커(282) 및 상기 무선 통신 회로에 전기적으로 연결될 수 있다. 상기 메모리(230)(또는, 메모리(130))는, 상기 하우징 안에 위치하며, 상기 프로세서(210)에 전기적으로 연결될 수 있다.
다양한 실시예들에서, 상기 메모리(230)는, 텍스트 입력을 수신하기 위한 제 1 사용자 인터페이스를 포함하는 제 1 어플리케이션 프로그램을 저장하도록 설정되고, 상기 메모리(230)는, 실행 시에, 상기 프로세서(210)가, 제 1 동작과 제 2 동작을 수행하도록 야기하는 인스트럭션들을 저장하고, 상기 제 1 동작은, 상기 제 1 사용자 인터페이스가 상기 터치스크린 디스플레이 상에 표시되지 않는 도중에, 상기 버튼을 통하여 제 1 타입의 사용자 입력을 수신하고, 상기 제 1 타입의 사용자 입력을 수신한 이후에, 상기 마이크(288)를 통하여 제 1 사용자 발화를 수신하고, 자동 스피치 인식(ASR: automatic speech recognition) 및 지능 시스템(intelligence system)을 포함하는 외부 서버로 상기 제 1 사용자 발화에 대한 제 1 데이터를 제공하고, 상기 제 1 데이터를 제공한 이후에, 상기 외부 서버로부터 상기 제 1 사용자 발화에 응답하여 상기 지능 시스템에 의하여 생성되는 태스크를 수행하도록 하는 적어도 하나의 명령을 수신하고, 상기 제 2 동작은, 상기 터치스크린 디스플레이 상에 상기 제 1 사용자 인터페이스가 표시되는 도중에 상기 버튼을 통하여 상기 제 1 사용자 입력을 수신하고, 상기 제 1 타입의 사용자 입력을 수신한 이후에, 상기 마이크(288)를 통하여 제 2 사용자 발화를 수신하고, 상기 외부 서버로 상기 제 2 사용자 발화에 대한 제 2 데이터를 제공하고, 상기 제 2 데이터를 제공한 이후에, 상기 서버로부터, 상기 제 2 사용자 발화로부터 상기 자동 스피치 인식에 의하여 생성된 텍스트에 대한 데이터를 수신하지만, 상기 지능 시스템에 의하여 생성되는 명령은 수신하지 않고, 상기 제 1 사용자 인터페이스에 상기 텍스트를 입력할 수 있다.
다양한 실시예들에서, 상기 버튼은, 상기 하우징의 상기 측면에 위치하는 물리적인 키를 포함할 수 있다.
다양한 실시예들에서, 상기 제 1 타입의 사용자 입력은, 상기 버튼에 대한 1회 누름, 상기 버튼에 대한 2회 누름, 상기 버튼에 대한 3회 누름, 상기 버튼에 대한 1회 누른 이후에 누름 유지, 또는 상기 버튼에 대한 2회 누름 및 누름 유지 중 하나일 수 있다.
다양한 실시예들에서, 상기 인스트럭션들은, 상기 프로세서가 상기 제 1 사용자 인터페이스를 가상 키보드와 함께 표시하도록 더 야기할 수 있다. 상기 버튼은, 상기 가상 키보드의 일부가 아닐 수 있다.
다양한 실시예들에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 외부 서버로부터, 상기 제 1 동작 내에서의 상기 제 1 사용자 발화로부터 ASR에 의하여 생성되는 텍스트에 대한 데이터를 수신하도록 더 야기할 수 있다.
다양한 실시예들에서, 상기 제 1 어플리케이션 프로그램은, 노트 어플리케이션 프로그램, 이메일 어플리케이션 프로그램, 웹 브라우저 어플리케이션 프로그램 또는 달력 어플리케이션 프로그램 중 적어도 하나를 포함할 수 있다.
다양한 실시예들에서, 상기 제 1 어플리케이션 프로그램은, 메시지 어플리케이션을 포함하고, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 텍스트를 입력한 이후에 선택된 시간 기간이 초과하면, 상기 무선 통신 회로를 통하여 자동으로 입력된 텍스트를 송신하도록 더 야기할 수 있다.
다양한 실시예들에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 제 3 동작을 수행하도록 더 야기하고, 상기 제 3 동작은, 상기 터치스크린 디스플레이 상에 상기 제 1 사용자 인터페이스를 표시하는 도중에, 상기 버튼을 통하여 제 2 타입의 사용자 입력을 수신하고, 상기 제 2 타입의 사용자 입력을 수신한 이후에, 상기 마이크를 통하여 제 3 사용자 발화를 수신하고, 상기 외부 서버로 상기 제 3 사용자 발화에 대한 제 3 데이터를 제공하고, 상기 제 3 데이터를 제공한 이후에, 상기 제 3 사용자 발화에 응답하여 상기 지능 시스템에 의하여 생성된 태스크를 수행하기 위한 적어도 하나의 명령을 상기 외부 서버로부터 수신할 수 있다.
다양한 실시예들에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 제 4 동작을 수행하도록 더 야기하고, 상기 제 4 동작은, 상기 터치스크린 디스플레이 상에 상기 제 1 사용자 인터페이스가 표시되지 않는 도중에, 상기 버튼을 통하여 상기 제 2 타입의 사용자 입력을 수신하고, 상기 제 2 타입의 사용자 입력을 수신한 이후에, 상기 마이크(288)를 통하여 제 4 사용자 발화를 수신하고, 상기 제 4 사용자 발화에 대한 제 4 데이터를 상기 외부 서버로 제공하고, 상기 제 4 데이터를 제공한 이후에, 상기 제 4 사용자 발화에 응답하여, 상기 지능 시스템에 의하여 생성된 태스크를 수행하기 위한 적어도 하나의 명령을 상기 외부 서버로부터 수신하고, 상기 마이크를 통하여 제 5 사용자 발화를 수신하고, 상기 외부 서버로, 상기 제 5 사용자 발화에 대한 제 5 데이터를 제공하고, 및 상기 제 5 데이터를 제공한 이후에, 상기 제 5 사용자 발화에 응답하여 상기 지능 시스템에 의하여 생성된 태스크를 수행하기 위한 적어도 하나의 명령을 상기 외부 서버로부터 수신할 수 있다.
다양한 실시예들에서, 상기 제 1 타입의 사용자 입력 및 상기 제 2 타입의 사용자 입력은 서로 다르며, 상기 버튼에 대한 1회 누름, 상기 버튼에 대한 2회 누름, 상기 버튼에 대한 3회 누름, 상기 버튼에 대한 1회 누른 이후에 누름 유지, 또는 상기 버튼에 대한 2회 누름 및 누름 유지 중 하나로부터 선택될 수 있다.
다양한 실시예들에서, 상기 메모리(230)는, 텍스트 입력을 수신하기 위한 제 2 사용자 인터페이스를 포함하는 제 2 어플리케이션 프로그램을 저장하도록 더 설정되며, 상기 인스트럭션들은, 실행 시에, 상기 프로세서(210)가, 제 3 동작을 수행하도록 더 야기하고, 상기 제 3 동작은, 상기 제 2 사용자 인터페이스를 표시하는 도중에 상기 버튼을 통하여 상기 제 1 타입의 사용자 입력을 수신하고, 상기 제 1 타입의 사용자 입력이 수신된 이후에, 상기 마이크를 통하여 제 3 사용자 발화를 수신하고, 상기 외부 서버로, 상기 제 3 사용자 발화에 대한 제 3 데이터를 제공하고, 상기 제 3 데이터를 제공한 이후에, 상기 외부 서버로부터, 상기 제 3 사용자 발화로부터 ASR에 의하여 생성된 텍스트에 대한 데이터를 수신하면서, 상기 지능 시스템에 의하여 생성되는 명령은 수신하지 않고, 상기 제 2 사용자 인터페이스에 상기 텍스트를 입력하고, 및 상기 텍스트를 입력하고, 선택된 시간 기간이 초과하면, 상기 무선 통신 회로를 통하여 상기 입력된 텍스트를 자동으로 송신할 수 있다.
다양한 실시예들에서, 상기 메모리(230)는, 텍스트 입력을 수신하기 위한 제 1 사용자 인터페이스를 포함하는 제 1 어플리케이션 프로그램을 저장하도록 설정되고, 상기 메모리(230)는, 실행 시에, 상기 프로세서(210)가, 제 1 동작과 제 2 동작을 수행하도록 야기하는 인스트럭션들을 저장하고, 상기 제 1 동작은, 상기 버튼을 통하여 제 1 타입의 사용자 입력을 수신하고, 상기 제 1 타입의 사용자 입력을 수신한 이후에, 상기 마이크(288)를 통하여 제 1 사용자 발화를 수신하고, 자동 스피치 인식(ASR: automatic speech recognition) 및 지능 시스템(intelligence system)을 포함하는 외부 서버로, 상기 제 1 사용자 발화에 대한 제 1 데이터를 제공하고, 및 상기 제 1 데이터를 제공한 이후에, 상기 제 1 사용자 발화에 응답하여 상기 지능 시스템에 의하여 생성된 태스크를 수행하기 위한 적어도 하나의 명령을 상기 외부 서버로부터 수신하고, 상기 제 2 동작은, 상기 버튼을 통하여 제 2 타입의 사용자 입력을 수신하고, 상기 제 2 타입의 사용자 입력을 수신한 이후에, 상기 마이크(288)를 통하여 제 2 사용자 발화를 수신하고, 상기 외부 서버로 상기 제 2 사용자 발화에 대한 제 2 데이터를 제공하고, 상기 제 2 데이터를 제공한 이후에, 상기 서버로부터, 상기 제 2 사용자 발화로부터 ASR에 의하여 생성된 텍스트에 대한 데이터를 수신하면서, 상기 지능 시스템에 의하여 생성되는 명령은 수신하지 않으며, 상기 제 1 사용자 인터페이스에 상기 텍스트를 입력할 수 있다.
다양한 실시예들에서, 상기 인스트럭션들은, 상기 프로세서(210)가 상기 제 1 사용자 인터페이스를 가상 키보드와 함께 표시하도록 더 야기할 수 있으며, 상기 버튼은, 상기 가상 키보드의 일부가 아닐 수 있다.
다양한 실시예들에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 외부 서버로부터 상기 제 1 동작 내에서 상기 제 1 사용자 발화로부터 상기 ASR에 의하여 생성되는 텍스트에 대한 데이터를 수신하도록 더 야기할 수 있다.
다양한 실시예들에서, 상기 제 1 어플리케이션 프로그램은, 노트 어플리케이션 프로그램, 이메일 어플리케이션 프로그램, 웹 브라우저 어플리케이션 프로그램 또는 달력 어플리케이션 프로그램 중 적어도 하나를 포함할 수 있다.
다양한 실시예들에서, 상기 제 1 어플리케이션 프로그램은, 메시지 어플리케이션을 포함하고, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 텍스트를 입력한 이후에 선택된 시간 기간이 초과하면, 상기 무선 통신 회로를 통하여 자동으로 입력된 텍스트를 송신하도록 더 야기할 수 있다.
다양한 실시예들에서, 상기 인스트럭션들은, 상기 프로세서(210)가 상기 제 1 사용자 인터페이스의 상기 디스플레이 상에 표시와 독립적으로 상기 제 1 동작을 수행하도록 더 야기할 수 있다.
다양한 실시예들에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 전자 장치가 잠금 상태에 있거나 또는 상기 터치스크린 디스플레이가 턴 오프된 것 중 적어도 하나인 경우에, 상기 제 2 동작을 수행하도록 더 야기할 수 있다.
다양한 실시예들에서, 상기 인스트럭션들은, 상기 프로세서(210)가, 상기 터치스크린 디스플레이 상에 상기 제 1 사용자 인터페이스를 표시하는 도중에, 상기 제 2 동작을 수행하도록 더 야기할 수 있다.
다양한 실시예들에서, 상기 메모리(230)는, 실행 시에, 상기 프로세서(210)가, 상기 마이크(288)를 통하여 사용자 발화를 수신하고, 자동 스피치 인식(automatic speech recognition: ASR) 또는 자연어 이해(natural language understanding: NLU) 중 적어도 하나를 수행하는 외부 서버로, 상기 사용자 발화에 대한 데이터와 함께, 상기 사용자 발화에 대한 데이터에 대하여 상기 ASR을 수행하여 획득된 텍스트에 대하여 상기 자연어 이해를 수행할지 여부와 연관된 정보를 송신하고, 상기 정보가 상기 자연어 이해를 수행하지 않을 것을 나타내면, 상기 외부 서버로부터 상기 사용자 발화에 대한 데이터에 대한 상기 텍스트를 수신하고, 상기 정보가 상기 자연어 이해를 수행할 것을 나타내면, 상기 외부 서버로부터 상기 텍스트에 대한 상기 자연어 이해 수행 결과 획득된 명령을 수신하도록 야기하는 인스트럭션을 저장할 수 있다.
삭제
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 한 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 3을 참조하면, 프로그램 모듈(310)은 커널(320)(예: 커널(141)), 미들웨어(330)(예: 미들웨어(143)), (API(360)(예: API(145)), 및/또는 어플리케이션(370)(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.
커널(320)은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330) 는 런타임 라이브러리(335), 어플리케이션 매니저(341), 윈도우 매니저(342), 멀티미디어 매니저(343), 리소스 매니저(344), 파워 매니저(345), 데이터베이스 매니저(346), 패키지 매니저(347), 커넥티비티 매니저(348), 노티피케이션 매니저(349), 로케이션 매니저(350), 그래픽 매니저(351), 또는 시큐리티 매니저(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370)의 생명 주기를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(345)는, 예를 들면, 배터리의 용량 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보를 제공할 수 있다. 한 실시예에 따르면, 파워 매니저(345)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(346)는, 예를 들면, 어플리케이션(370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
커넥티비티 매니저(348)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 로케이션 매니저(350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 한 실시예에 따르면, 미들웨어(330)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 와치(384), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(210)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
도 4는, 다양한 실시예들에 따른, 전자 장치(예: 도 1의 전자 장치(101))가, 사용자에 의해 입력된 텍스트 및/또는 상품 이미지에 기반하여, 검색 결과를 수정하는 방법을 설명하기 위한 흐름도(400)이다.
도 5a는, 다양한 실시예들에 따른, 제1 검색 결과를 나타내는 도면이다.
도 5b는, 다양한 실시예들에 따른, 제1 검색 결과에서, 제1 텍스트를 입력 받는 사용자 인터페이스를 나타내는 도면이다.
도 5c는, 다양한 실시예들에 따른, 제2 검색 결과를 나타내는 도면이다.
도 5d는, 다양한 실시예들에 따른, 제2 검색 결과에서, 제2 상품이 선택되는 것을 나타내는 도면이다.
도 5e는, 다양한 실시예들에 따른, 제3 검색 결과를 나타내는 도면이다.
이하에서는, 도 5a 내지 도 5e를 함께 참조하여, 도 4의 흐름도(400)에 따른 전자 장치(101)의 동작 방법을 설명하도록 한다.
본 개시에서, 전자 장치(101)가 특정 동작을 수행하는 것은, 예를 들어, 전자 장치(101)에 포함된 프로세서가, 특정 동작을 수행하거나, 특정 동작을 수행하도록 다른 하드웨어(예: 통신 모듈(220))를 제어하는 것을 의미할 수 있다. 또는, 전자 장치(101)가 특정 동작을 수행하는 것은, 예를 들어, 전자 장치(101)에 포함된 메모리에 저장된 적어도 하나의 명령이 실행됨에 따라서, 프로세서가 특정 동작을 수행하거나, 특정 동작을 수행하도록 다른 하드웨어(예: 통신 모듈(220))를 제어하는 것을 의미할 수도 있다.
다양한 실시예들에 따르면, 전자 장치(101)는, 동작 410에서, 상품 검색을 위한 제1 텍스트를 수신할 수 있다. 예를 들어, 도 5a를 참조하면, 전자 장치(101)는, 온라인 쇼핑몰 웹 사이트를 포함하는 화면(이하, 쇼핑몰 웹 사이트)(501)을 디스플레이(예: 도 1의 디스플레이(160)) 상에 표시할 수 있다.
쇼핑몰 웹 사이트(501)는, 사용자로부터 검색어를 입력 받기 위한 검색 인터페이스(search interface)(503a)를 포함할 수 있다. 전자 장치(101)는, 검색 인터페이스(503a) 내 입력되는 검색어(이하, 제1 텍스트)를 확인할 수 있다. 예를 들어, 제1 텍스트는, 사용자가 자신이 원하는 상품을 검색하기 위해 지정한 적어도 하나의 단어를 포함할 수 있다. 예를 들어, 제1 텍스트는, 특정 상품의 제조사 및/또는 유형(예: 니트, 티셔츠 등)을 포함할 수 있다. 전자 장치(101)는, 사용자로부터 검색 아이콘(503b)을 선택하는 입력(예: 터치 입력)을 수신할 수 있다. 전자 장치(101)는, 검색 아이콘(503b)을 선택하는 입력이 수신되면, 입력된 제1 텍스트에 관한 정보를 서버(예: 도 1의 서버(106))에게 전송할 수 있다. 서버(106)는, 제1 텍스트에 관한 정보를 수신하고, 제1 텍스트에 기반하여, 이에 대응하는 상품들을 검색할 수 있다.
다양한 실시예들에 따르면, 전자 장치(101)는, 동작 420에서, 제1 텍스트와 관련된 복수의 상품들을 포함하는 제1 검색 결과를 표시할 수 있다. 예를 들어, 전자 장치(101)는, 서버(106)로부터, 제1 텍스트에 기반하여 검색된 복수의 상품들의 정보를 수신할 수 있다. 전자 장치(101)는, 수신된 복수의 상품들의 정보를 포함하는 제1 검색 결과를 표시할 수 있다.
예를 들어, 도 5a를 참조하면, 서버(106)로부터 수신된 정보에는, 검색된 복수의 상품들에 대응하는 이미지들(505a, 505b, 505c, 505d, 505e, 505f) 및/또는 검색된 복수의 상품들에 대응하는 상품 설명들(507a, 507b, 507c, 507d, 507e, 507f)이 포함될 수 있다. 예를 들어, 복수의 상품들에 대응하는 이미지들은, 각각에 대응하는 상품을 나타내는 이미지(예: 제품 이미지)를 포함할 수 있다. 예를 들어, 복수의 상품들에 대응하는 상품 설명들은, 각각에 대응하는 상품에 관한 상세 설명(예: 상품 가격, 상품 이름, 할인 여부 등)을 포함할 수 있다. 전자 장치(101)는, 서버(106)로부터 수신된 상품 정보 내 복수의 상품들 중에서, 일부만을 쇼핑몰 웹 사이트(501)에 포함되도록 표시할 수도 있다. 전자 장치(101)는, 복수의 상품들에 대응하는 이미지들(505a, 505b, 505c, 505d, 505e, 505f) 및 검색된 복수의 상품들에 대응하는 상품 설명들(507a, 507b, 507c, 507d, 507e, 507f)을 포함하는 제1 검색 결과(509)를 쇼핑몰 웹 사이트(501)의 일 영역 상에 표시할 수 있다. 도시된 바와 다르게, 상품에 대응하는 이미지 또는 상품 설명 중 어느 하나만 표시될 수도 있다.
다양한 실시예들에 따르면, 전자 장치(101)는, 동작 430에서, 복수의 상품들 중 제1 상품을 선택하는 제1 사용자 입력을 수신할 수 있다.
예를 들어, 도 5a를 참조하면, 전자 장치(101)는, 복수의 상품들에 대응하는 이미지들(505a, 505b, 505c, 505d, 505e, 505f) 중에서, 제1 상품(예: A 상품)에 대응하는 제1 이미지(505a)를 선택하는 사용자 입력(예: 숏 터치(short touch), 롱 터치(long touch) 또는 더블 탭(double tap))을 수신할 수 있다.
다른 예로, 전자 장치(101)는, 복수의 상품들에 대응하는 상품 설명들(507a, 507b, 507c, 507d, 507e, 507f) 중 어느 하나를 선택하는 입력(예: 터치 입력)을 수신할 수도 있다.
또 다른 예로, 전자 장치(101)는, 마이크(예: 도 2의 마이크(288))를 통해 사용자의 음성 입력(예: "A")을 획득하고, 획득된 음성 입력에 기반하여, 제1 상품을 선택할 수도 있다.
예를 들어, 제1 사용자 입력은, 제1 검색 결과에 포함된 복수의 상품들 중에서, 사용자가 제1 검색 결과로부터 제외하고자 하는 상품을 지정하는 입력일 수 있다. 전자 장치(101)는, 제1 사용자 입력에 의해 선택된 제1 상품의 이미지 및/또는 상품 설명을, 다른 상품들의 이미지 및/또는 상품 설명과 시각적으로 상이하게 표시할 수도 있다. 예를 들어, 전자 장치(101)는, 도 5a를 참조하면, 제1 사용자 입력에 의해 선택된 제1 상품(예: A 상품)에 대응하는 제1 이미지(505a)를 다른 상품들(예: B 내지 F 상품)에 대응하는 이미지(예: 505b 내지 505f)와 상이하게, 예를 들어, 음영 처리하여 표시할 수 있다.
다양한 실시예들에 따르면, 전자 장치(101)는, 동작 440에서, 제1 상품에 대한 정보를 입력하기 위한 제1 사용자 인터페이스를 표시할 수 있다.
예를 들어, 도 5b를 참조하면, 전자 장치(101)는, 동작 430의 제1 사용자 입력이 수신되면, 제1 상품과 관련하여, 사용자로부터 텍스트(이하, 제2 텍스트)를 입력 받기 위한 제1 사용자 인터페이스(511)를 디스플레이(260) 상에 표시할 수 있다. 예를 들어, 제1 사용자 인터페이스(511)는, 제1 검색 결과(509)가 표시되는 쇼핑몰 웹 사이트(501)의 일 영역을 오버랩 하도록 표시될 수 있다. 예를 들어, 제1 사용자 인터페이스(511)는, 팝업 형태로 표시될 수 있다.
전자 장치(101)는, 제1 사용자 인터페이스(511)의 일 영역(511a)을 통해 입력되는 제2 텍스트를 확인할 수 있다. 예를 들어, 제2 텍스트는, 사용자에 의해 선택된 상품(예: A 상품)을 특정하는 시각적 특징 또는 텍스트 특징 중 적어도 하나를 포함할 수 있다. 예를 들어, 사용자에 의해 선택된 상품이 제조사 1의 파란색 줄무늬 니트인 경우, 시각적 특징은 선택된 상품의 외형에 관한 특징인, "파란색", "줄무늬" 또는 "니트"일 수 있으며, 텍스트 특징은 선택된 상품의 정보에 관한 특징인, "제조사 1"일 수 있다. 다른 예로, 텍스트 특징은, 선택된 상품을 특정하는 하나 이상의 숫자들로 구성된 제품 번호(예: XXXX-XXX)일 수도 있다.
전자 장치(101)는, 제1 사용자 인터페이스(511)의 일 영역(511a)을 통해 제2 텍스트가 입력된 상태에서, 제1 버튼(511b)을 선택하는 입력(예: 터치 입력)이 수신되면, 입력된 제2 텍스트에 관한 정보를 서버(106)에게 전송할 수 있다. 전자 장치(101)는, 제2 텍스트에 관한 정보를 전송할 때, 사용자에 의해 선택된 상품(예: A 상품)을 가리키는(indicating) 정보를 함께 서버(106)에게 전송할 수 있다. 예를 들어, 사용자에 의해 선택된 상품(예: A 상품)을 가리키는 정보는, 사용자에 의해 선택된 상품(예: A 상품)의 이름을 포함할 수 있다. 다른 예로, 전자 장치(101)는, 제2 텍스트에 관한 정보를 전송할 때, 사용자에 의해 선택된 상품(예: A 상품)에 대응하는 제1 이미지(505a)에 관한 정보를 함께 전송할 수도 있다. 전자 장치(101)는, 제1 사용자 인터페이스(511)의 일 영역(511a)을 통해 제2 텍스트가 입력되지 않은 상태에서 제1 버튼(511b)을 선택하는 입력(예: 터치 입력)이 수신되거나, 제2 버튼(511c)을 선택하는 입력(예: 터치 입력)이 수신되면, 사용자에 의해 선택된 상품(예: A 상품)을 가리키는 정보(예: 이름)를 서버(106)에게 전송할 수 있다.
다양한 실시예들에 따르면, 전자 장치(101)는, 동작 450에서, 제1 검색 결과에서 제1 상품 및 제1 상품과 관련된 적어도 하나의 상품을 제외한 하나 이상의 상품들을 포함하는 제2 검색 결과를 표시할 수 있다.
예를 들어, 제1 상품과 관련된 적어도 하나의 상품은, 제2 텍스트 또는 제1 이미지(505a) 중 적어도 하나에 기반하여 서버(106)에 의해 확인될 수 있다.
예를 들어, 서버(106)는, 인공지능 모델을 이용하여, 쇼핑몰 웹 사이트에 등록된 복수의 상품 이미지들(예: 각 상품의 대표 이미지)의 벡터 데이터와, 제1 이미지(505a)의 벡터 데이터를 비교하여, 유사도가 높은 상품 이미지들을 확인할 수 있고, 확인된 상품 이미지들에 대응하는, 제1 상품과 관련된 적어도 하나의 상품을 확인할 수 있다. 다양한 실시예들에 따르면, 인공지능 모델은 이미지의 형태를 변형시키는 처리, 색상을 변형시키는 처리, 및 노이즈를 추가하는 처리 중 적어도 하나를 적용하여 생성된 증강데이터를 기반으로 훈련될 수 있다.
인공지능 모델 학습에는 많은 데이터가 필요하기 때문에, 서버(106)는 상품 이미지를 기준으로 노이즈, 상하반전, 형태변형 등의 임의의 영상처리를 적용하여 증강데이터 셋을 생성할 수 있다. 예를 들어, 서버(106)는 특정 상품의 이미지를 기반으로 특정 부위의 형태를 축소하거나 회전시키는 등의 형태 변형 이미지를 생성할 수 있다. 또한, 서버(106)는 컬러를 변경하여 컬러변경 이미지를 생성할 수 있다. 여기에는, 흑백처리 및 색온도 변경도 포함된다. 또한, 서버(106)는 상하를 반전하거나 특정 기울기로 기울이는 등의 처리를 수행하여 증강 데이터를 생성할 수 있다. 추가적으로, 노이즈를 추가하거나 블러(blur) 처리를 수행하여 윤곽선이 명확히 구분되지 않는 처리를 수행할 수도 있다. 이외에 다양한 방식의 영상 변형 처리를 통해 더 많은 증강 데이터를 생성할 수 있다. 서버(106)는 상품 이미지와 증강 데이터를 인공지능 모델의 학습 데이터로 사용할 수 있다. 일 실시예에 따르면, 쇼핑몰 웹 사이트에 등록된 상품 이미지뿐만 아니라, 기타 채널(SNS 등)을 통해 유입되는 상품과 관련된 이미지들도 인공지능 모델의 학습 데이터로 사용될 수 있다. 학습 데이터를 사용하여 인공지능 모델을 훈련한 결과, 특정 이미지를 쿼리(query)로 입력하였을 때, 유사도가 벡터 형태로 출력될 수 있다. 일 실시예에 따르면, 검색 대상 이미지(예: 제1 이미지(505a))의 유사도 벡터는 검색 대상 이미지와 비교 대상 이미지 사이의 유사도를 나타낼 수 있다. 일 실시예에 따르면, 인공지능 모델은 검색 대상 이미지를 기반으로 유사도 벡터를 생성하고, 유사도 벡터의 처리를 위한 컨볼루션 신경망 기반의 이미지 검색(CNN-based image retrieval) 알고리즘을 사용할 수 있다.
다른 예로, 서버(106)는, 제1 이미지(505a)의 대표 색상에 기반하여, 유사도가 높은 상품 이미지들을 확인할 수 있고, 확인된 상품 이미지들에 대응하는, 제1 상품과 관련된 적어도 하나의 상품을 확인할 수 있다. 서버(106)는, 제1 이미지(505a)의 각 픽셀을 구성하는 RGB 값(예: R값, G값 B 값)들을 확인하고, 확인된 RGB 값이 R 색상(예: RGB 값이 255, 0, 0인 색상), G 색상(예: RGB 값이, 0, 255, 0인 색상) 또는 B 색상(예: RGB 값이 0, 0, 255인 색상) 중 어떤 색상에 가장 가까운지를 확인할 수 있다. 예를 들어, 서버(106)는, 제1 이미지(505a)의 각 픽셀들의 RGB 값의 평균이 125, 5, 250이면, 제1 이미지(505a)의 대표 색상이 B 색상임을 확인할 수 있다. 예를 들어, 서버(106)는, RGB 값을 3차원 좌표값으로 확인할 수 있으며, 상기 각 픽셀들의 RGB 값의 평균을, 상기 R 색상의 3차원 좌표값인 (255, 0, 0), 상기 G 색상의 3차원 좌표값인 (0, 255, 0) 및 상기 B 색상의 3차원 좌표값인 (0, 0, 255)과의 거리(예: 유클리드 거리(Euclidean distance))를 확인하여, R 색상, G 색상 및 B 색상 중 가장 가까운 좌표값을 가지는 색상을 확인함으로써 제1 이미지(505a)의 대표 색상을 확인할 수 있다. 서버(106)는, 제1 검색 결과 내 포함된 상품들의 이미지들 각각의 대표 색상을 확인할 수 있다. 서버(106)는, 상기 확인된 각 상품들의 이미지들 중, 상기 확인된 제1 이미지(505a)의 대표 색상과 일치하는 이미지들을 확인할 수 있고, 상기 대표 색상이 일치하는 이미지들에 대응하는 상품들을 상기 제1 이미지(505a)에 대응하는 제1 상품과 유사한 상품이라고 확인할 수 있다.
예를 들어, 서버(106)는, 제2 텍스트에 기반하여, 제1 상품과 관련된 적어도 하나의 상품을 확인할 수 있다. 하기의 표 1은, 상품 A 내지 D에 대응하는 시각적 특징 및 텍스트 특징의 일 예를 설명하는 것이다.
<제2 텍스트> 시각적 특징 텍스트 특징
상품 A a, b, c 제조사 1
상품 B a, c, d 제조사 1
상품 C c, d, e 제조사 2
상품 D d, e, f 제조사 3
표 1의 '시각적 특징'은 동작 440에서 설명한 상품의 외형에 관한 특징이며, '텍스트 특징'은 상품의 정보에 관한 특징일 수 있으며, 시각적 특징을 나타내는 단어 및/또는 텍스트 특징을 나타내는 단어가 제2 텍스트를 구성할 수 있다.
예를 들어, 서버(106)는, 제1 상품과 관련하여 입력된 제2 텍스트에, 'c'가 포함됨이 확인되면, 시각적 특징 및/또는 텍스트 특징에'c'를 포함하는 상품 B 및 상품 C를 제1 상품과 관련된 적어도 하나의 상품으로 확인할 수 있다. 또는, 서버(106)는, 상기 제2 텍스트에, '제조사 1'가 포함됨이 확인되면, 시각적 특징 및/또는 텍스트 특징에 '제조사 1'을 포함하는 상품 B를 제1 상품과 관련된 적어도 하나의 상품으로 확인할 수 있다. 또는, 서버(106)는, 제1 상품과 관련하여 입력된 제2 텍스트에 '제조사 1' 및 'c'가 포함됨이 확인되면, 시각적 특징 및/또는 텍스트 특징에 '제조자 1' 또는 'c' 중 적어도 하나를 포함하는 상품 B 및 상품 C를 제1 상품과 관련된 적어도 하나의 상품으로 확인할 수 있다. 다른 예로, 서버(106)는, 제1 상품과 관련하여 입력된 제2 텍스트에 '제조사 1' 및 'c'가 포함됨이 확인되면, 시각적 특징 및/또는 텍스트 특징에 '제조자 1' 및 'c'를 모두 포함하는 상품 B를 제1 상품과 관련된 적어도 하나의 상품으로 확인할 수도 있다.
다양한 실시예들에 따르면, 서버(106)는, 상술한 제1 이미지(505a)와 유사도가 높은 상품 이미지에 대응하는 상품들(이하, 유사 이미지를 가지는 상품들)과, 제2 텍스트에 포함된 단어에 대응하는 상품들(이하, 유사 텍스트를 가지는 상품들)을 확인하고, 상기 유사 이미지를 가지는 상품들과 상기 유사 텍스트를 가지는 상품들을, 동작 450의 적어도 하나의 상품으로 확인할 수 있다. 다른 예로, 서버(106)는, 상술한 제1 이미지(505a)와 유사도가 높은 상품 이미지에 대응하면서 제2 텍스트에 포함된 단어에 대응하는 상품들(다른 말로, 상술한 2가지 기준을 모두 충족하는 상품들)을 동작 450의 적어도 하나의 상품으로 확인할 수도 있다. 서버(106)는, 확인된 적어도 하나의 상품에 대한 정보(예: 확인된 각 상품의 이름)를 전자 장치(101)에게 전송할 수 있다.
다양한 실시예들에 따르면, 전자 장치(101)는, 서버(106)로부터 수신된 적어도 하나의 상품에 대한 정보를 확인하고, 제1 검색 결과에서, 제1 상품 및 제1 상품과 관련된 적어도 하나의 상품을 제외한 나머지(remaining) 하나 이상의 상품들을 포함하는 제2 검색 결과를 표시할 수 있다. 예를 들어, 도 5c를 참조하면, 전자 장치(101)는, 제1 검색 결과(509) 내 포함된 상품 A 내지 F 중, 사용자에 의해 선택된 상품 A 및 상기 상품 A와 관련된 상품 B를 검색 결과에서 제외하고, 나머지 상품 C 내지 F를 제2 검색 결과(513)에 포함시켜 표시할 수 있다. 또한, 전자 장치(101)는, 제1 검색 결과에 표시되지는 않았지만 동작 410에서 검색된 다른 적어도 하나의 상품(예: 상품 G 및 상품 H)에 관한 정보(예: G 이미지(505g) 및 H 이미지(505h) 및/또는 G 상품 설명(507g) 및 H 상품 설명(507h))를 제2 검색 결과에 함께 포함시켜 표시할 수 있다.
다양한 실시예들에 따르면, 전자 장치(101)는, 동작 460에서, 하나 이상의 상품들 중 제2 상품을 선택하는 제2 사용자 입력을 수신할 수 있다.
예를 들어, 도 5c를 참조하면, 전자 장치(101)는, 하나 이상의 상품들에 대응하는 이미지들(505c, 505d, 505e, 505f, 505g, 505h) 중에서, 제2 상품(예: C 상품)에 대응하는 제2 이미지(505c)를 선택하는 사용자 입력(예: 숏 터치(short touch), 롱 터치(long touch) 또는 더블 탭(double tap))을 수신할 수 있다. 다른 예로, 전자 장치(101)는, 복수의 상품들에 대응하는 상품 설명들(507c, 507d, 507e, 507f, 507g, 507h) 중 어느 하나를 선택하는 입력(예: 터치 입력)을 수신할 수도 있다.
또 다른 예로, 전자 장치(101)는, 마이크(예: 도 2의 마이크(288))를 통해 사용자의 음성 입력(예: "C")을 획득하고, 획득된 음성 입력에 기반하여, 제2 상품을 선택할 수도 있다.
예를 들어, 제2 사용자 입력은, 제2 검색 결과에 포함된 하나 이상의 상품들 중에서(다른 말로, 제1 검색 결과에서 제1 상품 및 제1 상품과 관련된 상품들을 제외한 하나 이상의 상품들 중에서), 사용자가 제2 검색 결과로부터 제외하고자 하는 상품을 지정하는 입력일 수 있다.
전자 장치(101)는, 제2 사용자 입력에 의해 선택된 제2 상품의 이미지 및/또는 상품 설명을, 다른 상품들의 이미지 및/또는 상품 설명과 시각적으로 상이하게 표시할 수도 있다. 예를 들어, 전자 장치(101)는, 도 5c를 참조하면, 제2 사용자 입력에 의해 선택된 제2 상품(예: C 상품)에 대응하는 제2 이미지(505b)를 다른 상품들(예: D 내지 H 상품)에 대응하는 이미지(예: 505d 내지 505h)와 상이하게, 예를 들어, 음영 처리하여 표시할 수 있다. 도 5d를 참조하면, 전자 장치(101)는, 제2 사용자 입력이 수신되면, 제2 사용자 인터페이스(515)를 디스플레이(260) 상에 표시할 수도 있다. 예를 들어, 제2 사용자 인터페이스(515)는, 사용자가 검색 결과로부터 제외하고자 지정하였던 상품(예: A 상품)의 리스트(예: '현재 선택된 상품')를 포함할 수 있다. 예를 들어, 제2 사용자 인터페이스(515)는, 제2 상품을 선택하는 사용자의 의사를 확인(confirm)하기 위한 것일 수 있다. 예를 들어, 제2 사용자 인터페이스(515)는, 제2 검색 결과(513)가 표시되는 쇼핑몰 웹 사이트(501)의 일 영역을 오버랩 하도록 표시될 수 있다.
다양한 실시예들에 따르면, 전자 장치(101)는, 제3 버튼(515a)을 선택하는 입력(예: 터치 입력)이 수신되면, 제2 사용자 입력에 의해 선택된 제2 상품(예: C 상품)을 가리키는 정보(예: 제2 상품의 이름)를 서버(106)에게 전송할 수 있다. 전자 장치(101)는, 사용자에 의해 선택된 상품(예: A 상품)에 대응하는 제1 이미지(505a)에 관한 정보를 서버(106)로 함께 전송할 수도 있다. 다양한 실시예들에 따르면, 전자 장치(101)는, 제4 버튼(515b)을 선택하는 입력(예: 터치 입력)이 수신되면, 제2 사용자 입력에 의한 제2 상품(예: C 상품)의 선택을 해제(release)(예: 취소(cancel))할 수 있다.
다양한 실시예들에 따르면, 전자 장치(101)는, 동작 470에서, 제1 상품 및 제2 상품의 유사성 판단에 기반하여, 제2 검색 결과에서 제1 상품 및 제2 상품과 관련된 적어도 하나의 다른 상품을 제외한 제3 검색 결과를 표시할 수 있다.
예를 들어, 제1 상품 및 제2 상품과 관련된 적어도 하나의 다른 상품은, 제1 상품 및 제2 상품의 유사성 판단에 기반하여, 서버(106)에 의해 확인될 수 있다.
예를 들어, 서버(106)는, 동작 450에서 상술한 인공지능 모델을 이용하여, 제1 상품에 대응하는 제1 이미지 및 제2 상품에 대응하는 제2 이미지의 공통된 특징을 가지는 적어도 하나의 이미지를 확인할 수 있다. 예를 들어, 서버(106)는, 제1 이미지에 대응하는 제1 벡터 데이터 및 제2 이미지에 대응하는 제2 벡터 데이터를 확인하고, 제1 벡터 데이터와 유사한 벡터 데이터를 가지는 이미지들(이하, 제1 이미지와 유사한 이미지들)과, 제2 벡터 데이터와 유사한 벡터 데이터를 가지는 이미지들(이하, 제2 이미지와 유사한 이미지들)을 확인할 수 있다. 서버(106)는, 제1 이미지와 유사한 이미지들과 제2 이미지와 유사한 이미지들에 공통적으로 포함된 적어도 하나의 이미지를 확인할 수 있다. 서버(106)는, 확인된 적어도 하나의 이미지에 대응하는 적어도 하나의 상품을, 상기 적어도 하나의 다른 상품으로 확인할 수 있다. 서버(106)는, 확인된 적어도 하나의 다른 상품에 대한 정보(예: 확인된 각 상품의 이름)를 전자 장치(101)에게 전송할 수 있다.
다른 예로, 서버(106)는, 동작 450에서 상술한 대표 색상을 확인하는 방법에 기반하여, 제1 이미지 및 제2 이미지 각각의 대표 색상을 확인할 수 있다.
또한 서버(106)는, 제1 이미지의 대표 색상과 제2 이미지의 대표 색상이 일치하는지 여부를 확인할 수 있다.
서버(106)는, 제1 이미지의 대표 색상과 제2 이미지의 대표 색상이 일치(예: 동일)하다면, 제2 검색 결과 내 포함된 상품들의 이미지들 중, 상기 대표 색상을 가지는 이미지들을 확인하고, 상기 확인된 이미지들에 대응하는 상품들을, 상기 적어도 하나의 다른 상품으로 확인할 수 있다.
서버(106)는, 제1 이미지의 대표 색상과 제2 이미지의 대표 색상이 일치하지 않는다면(예: 상이하다면), 상기 적어도 하나의 다른 상품을 확인하지 않고, 이후에 다시 사용자가 다른 이미지(예: 제3 이미지)를 선택하는 사용자 입력이 더 수신되면, 다시 상기 다른 이미지(예: 제3 이미지)의 대표 색상을 확인하고, 선택된 모든 이미지들(예: 제1, 2, 3 이미지)의 대표 색상들 중, 가장 많은 빈도를 가지고 선택된 대표 색상을 확인할 수 있다. 서버(106)는, 제2 검색 결과 내에서, 가장 많은 빈도를 가지고 선택된 대표 색상을 가지는 이미지들을 확인할 수 있고, 상기 확인된 이미지들에 대응하는 상품들을, 상기 적어도 하나의 다른 상품으로 확인할 수 있다. 서버(106)는, 가장 많은 빈도를 가지고 선택된 대표 색상에 대응하는 이미지를 확인할 때, 사용자의 열람 내역을 확인할 수도 있다. 예를 들어, 서버(106)는, 사용자가 상기 제2 검색 결과 내에서, 특정 상품의 상세 정보(예: 상품 설명)를 확인하는 입력이 확인되면, 서버(106)는, 상기 특정 상품의 대표 색상을 확인하여, 이전에 선택된 이미지들의 대표 색상의 빈도수를 확인할 때, 상기 특정 상품의 대표 색상의 빈도수를 낮게 확인할 수 있다. 예를 들어, 사용자가 대표 색상이 R 색상인 상품을 3회 선택하고, G 색상인 상품을 2회 선택한 경우에, 사용자가 대표 색상이 R 색상인 상품의 상세 정보(예: 상품 설명)를 2회 확인(또는, R 색상인 상품 2개를 확인)하였다면, R 색상의 빈도수를 1회(예: 3회에서 2회를 차감한 값), G 색상의 빈도수를 2회로 확인하여, 가장 높은 빈도를 가지고 선택된 대표 색상을 G 색상이라고 확인할 수 있다. 서버(106)는, 상술한 방법에 따라서, 가장 높은 빈도를 가지고 선택된 대표 색상을 가지는 이미지들에 대응하는 상품들을, 상기 제2 검색 결과 내 상기 적어도 하나의 다른 상품으로 확인할 수 있다.
다양한 실시예들에 따르면, 전자 장치(101)는, 서버(106)로부터 수신된 적어도 하나의 다른 상품에 대한 정보에 기반하여, 적어도 하나의 다른 상품을 확인할 수 있다. 전자 장치(101)는, 제2 검색 결과에서, 제1 상품 및 제2 상품과 관련된 적어도 하나의 다른 상품을 제외한 나머지 상품들을 포함하는 제3 검색 결과를 표시할 수 있다. 예를 들어, 도 5e를 참조하면, 전자 장치(101)는, 제2 검색 결과(513) 내 포함된 상품 C 내지 H 중, 상품 A 및 상품 B와 관련된 상품 C, G를 검색 결과에서 제외하고, 나머지 상품 D 내지 상품 F 및 상품 H를 제3 검색 결과(517)에 포함시켜 표시할 수 있다. 또한, 전자 장치(101)는, 제2 검색 결과에 표시되지 않았지만 동작 410에서 검색된 다른 적어도 하나의 상품(예: 상품 I 및 상품 J)에 관한 정보(예: I 이미지(505i) 및 J 이미지(505j) 및/또는 I 상품 설명(507i) 및 J 상품 설명(507j))를 제2 검색 결과에 함께 포함시켜 표시할 수 있다.
다양한 실시예들에 따르면, 쇼핑몰 관련 웹 사이트를 통해 검색 결과를 표시하는 전자 장치는, 디스플레이, 적어도 하나의 프로세서 및 메모리를 포함하고, 상기 메모리는, 실행 시, 상기 적어도 하나의 프로세서가, 상기 디스플레이를 통하여, 사용자로부터 상품 검색을 위한 제1 텍스트를 수신하고, 상기 수신된 제1 텍스트와 관련된 복수의 상품들을 포함하는 제1 검색 결과를 상기 디스플레이 상에 표시하고, 상기 제1 검색 결과는, 상기 복수의 상품들 각각에 대응하는 복수의 이미지들을 포함하고, 상기 표시된 제1 검색 결과에 포함된 상기 복수의 상품들 중, 제1 상품을 선택하는 제1 사용자 입력을 상기 디스플레이를 통하여 수신하고, 상기 제1 사용자 입력이 수신되면, 상기 선택된 제1 상품에 대한 정보를 입력하기 위한 제1 사용자 인터페이스를 상기 디스플레이 상에 표시하고, 상기 제1 검색 결과에서 상기 선택된 제1 상품 및 상기 제1 상품과 관련된 적어도 하나의 상품을 제외한 하나 이상의 상품들을 포함하는 제2 검색 결과를 상기 디스플레이 상에 표시하도록 하는 인스트럭션들을 저장하고, 상기 적어도 하나의 상품은, 상기 표시된 제1 사용자 인터페이스를 통해 입력된 제2 텍스트 및 상기 제1 상품에 대응하는 제1 이미지에 기반하여 확인될 수 있다.
다양한 실시예들에 따르면, 상기 제2 텍스트는, 상기 제1 상품을 특정하는 시각적 특징(visual feature) 또는 텍스트 특징 중 적어도 하나를 포함할 수 있다.
다양한 실시예들에 따르면, 상기 적어도 하나의 상품은, 상기 입력된 제2 텍스트와의 유사성 판단 및 상기 제1 이미지와 유사성 판단에 기반하여 확인되고, 상기 제1 이미지와의 유사성 판단은, 상기 제1 이미지에 기반하여 생성된 제1 유사도 벡터가 컨벌루션 신경망 기반의 이미지 검색(CNN-based image retrieval) 알고리즘에 적용됨에 기반하여 확인될 수 있다.
다양한 실시예들에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서가, 상기 표시된 제2 검색 결과에 포함된 상기 하나 이상의 상품들 중, 제2 상품을 선택하는 제2 사용자 입력을 상기 디스플레이를 통하여 수신하고, 상기 제2 사용자 입력이 수신되면, 상기 제1 상품 및 상기 선택된 제2 상품의 유사성 판단에 기반하여, 상기 제2 검색 결과에서 상기 제1 상품 및 상기 제2 상품과 관련된 적어도 하나의 다른 상품을 제외한 제3 검색 결과를 상기 디스플레이 상에 표시하도록 할 수 있다.
다양한 실시예들에 따르면, 상기 제1 상품 및 상기 제2 상품의 유사성 판단은, 상기 제1 이미지 및 상기 제2 상품에 대응하는 제2 이미지의 공통된 특징에 기반하여 수행되고, 상기 적어도 하나의 다른 상품은, 상기 공통된 특징을 가지는 상품일 수 있다.
다양한 실시예들에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서가, 상기 제1 검색 결과에서 제외된, 상기 제1 상품 및 상기 적어도 하나의 상품을 포함하는 제2 사용자 인터페이스를 상기 디스플레이 상에 표시하도록 할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다. 다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(130))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
그리고 본 문서에 개시된 실시예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 개시의 범위를 한정하는 것은 아니다. 따라서, 본 개시의 범위는, 본 개시의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.

Claims (5)

  1. 쇼핑몰 관련 웹 사이트를 통해 검색 결과를 표시하는 전자 장치에 있어서,
    디스플레이; 및
    상기 디스플레이를 제어하는 프로세서; 를 포함하고,
    상기 프로세서는,
    상기 디스플레이를 통하여, 사용자로부터 상품 검색을 위한 제1 텍스트를 수신하고,
    상기 수신된 제1 텍스트와 관련된 복수의 상품들을 포함하는 제1 검색 결과를 상기 디스플레이 상에 표시하고, 상기 제1 검색 결과는 상기 복수의 상품들 각각에 대응하는 복수의 이미지들을 포함하고,
    상기 표시된 제1 검색 결과에 포함된 상기 복수의 상품들 중에서 제1 상품을 선택하는 제1 사용자 입력을 상기 디스플레이를 통하여 수신하고,
    상기 제1 사용자 입력이 상기 디스플레이를 통하여 수신되면, 상기 선택된 제1 상품에 대한 정보를 입력하기 위한 제1 사용자 인터페이스를 상기 디스플레이 상에 표시하고,
    상기 표시된 제1 사용자 인터페이스를 통해 입력된 제2 텍스트 및 상기 제1 상품에 대응하는 제1 이미지 사이의 유사성 판단에 기반하여 적어도 하나의 제1 제외 상품을 결정하되, 상기 제2 텍스트는 상기 제1 상품의 외형에 관한 특징을 포함하는 시각적 특징(visual feature)을 포함하고, 상기 제1 이미지와의 유사성 판단은 상기 제1 이미지에 기반하여 생성된 벡터 데이터가 컨벌루션 신경망(CNN, Convolutional Neural Network) 기반의 이미지 검색(CNN-based image retrieval) 알고리즘에 적용됨에 기반하여 수행되고,
    상기 제1 검색 결과에서 상기 선택된 제1 상품 및 상기 적어도 하나의 제1 제외 상품을 제외한 하나 이상의 상품들을 포함하는 제2 검색 결과를 상기 디스플레이 상에 표시하도록 제어하고,
    상기 프로세서는,
    상기 표시된 제2 검색 결과에 포함된 상기 하나 이상의 상품들 중에서 제2 상품을 선택하는 제2 사용자 입력을 상기 디스플레이를 통하여 수신하고,
    상기 제1 상품에 대응하는 상기 제1 이미지의 제1 RGB 3차원 좌표값을 추출하고, 상기 제2 상품에 대응하는 제2 이미지의 제2 RGB 3차원 좌표값을 추출하고,
    상기 제1 RGB 3차원 좌표값과 R 색상(red color)의 RGB 3차원 좌표값인 (255, 0, 0)과의 제1 유클리드 거리(Euclidean distance)를 산출하고, 상기 제2 RGB 3차원 좌표값과 상기 R 색상의 RGB 3차원 좌표값인 (255, 0, 0)과의 제4 유클리드 거리를 산출하고,
    상기 제1 RGB 3차원 좌표값과 G 색상(green color)의 RGB 3차원 좌표값인 (0, 255, 0)과의 제2 유클리드 거리를 산출하고, 상기 제2 RGB 3차원 좌표값과 상기 G 색상의 RGB 3차원 좌표값인 (0, 255, 0)과의 제5 유클리드 거리를 산출하고,
    상기 제1 RGB 3차원 좌표값과 B 색상(blue color)의 RGB 3차원 좌표값인 (0, 0, 255)과의 제3 유클리드 거리를 산출하고, 상기 제2 RGB 3차원 좌표값과 상기 B 색상의 RGB 3차원 좌표값인 (0, 0, 255)과의 제6 유클리드 거리를 산출하고,
    상기 제1 내지 상기 제3 유클리드 거리 중에서 상기 제1 유클리드 거리가 가장 작은 값을 갖으면, 상기 제1 이미지의 대표 색상을 R 색상으로 설정하고,
    상기 제1 내지 상기 제3 유클리드 거리 중에서 상기 제2 유클리드 거리가 가장 작은 값을 갖으면, 상기 제1 이미지의 대표 색상을 G 색상으로 설정하고,
    상기 제1 내지 상기 제3 유클리드 거리 중에서 상기 제3 유클리드 거리가 가장 작은 값을 갖으면, 상기 제1 이미지의 대표 색상을 B 색상으로 설정하고,
    상기 제4 내지 상기 제6 유클리드 거리 중에서 상기 제4 유클리드 거리가 가장 작은 값을 갖으면, 상기 제2 이미지의 대표 색상을 R 색상으로 설정하고,
    상기 제4 내지 상기 제6 유클리드 거리 중에서 상기 제5 유클리드 거리가 가장 작은 값을 갖으면, 상기 제2 이미지의 대표 색상을 G 색상으로 설정하고,
    상기 제4 내지 상기 제6 유클리드 거리 중에서 상기 제6 유클리드 거리가 가장 작은 값을 갖으면, 상기 제2 이미지의 대표 색상을 B 색상으로 설정하고,
    상기 제1 이미지의 대표 색상과 상기 제2 이미지의 대표 색상의 동일 여부를 판단하고,
    상기 제1 이미지의 대표 색상과 상기 제2 이미지의 대표 색상이 일치하면, 상기 제1 이미지의 대표 색상에 대응하는 상품을 적어도 하나의 제2 제외 상품으로 설정하고,
    상기 제1 이미지의 대표 색상과 상기 제2 이미지의 대표 색상이 상이하면, 제3 이미지를 선택하는 제3 사용자 입력을 상기 디스플레이를 통하여 더 수신하고, 상기 제3 이미지의 대표 색상을 설정하고, 상기 제1 내지 상기 제3 이미지의 대표 색상들 각각에 상응하는 상품을 상기 사용자가 검색한 횟수에서 상기 제1 내지 상기 제3 이미지의 대표 색상들 각각에 상응하는 상품에 관한 상품 설명을 상기 사용자가 열람한 횟수를 차감한 값에 기반하여 상기 제1 내지 상기 제3 이미지의 대표 색상들 중에서 최종 색상을 설정하고, 상기 최종 색상에 기반하여 상기 적어도 하나의 제2 제외 상품으로 설정하고,
    상기 제2 검색 결과에서 상기 제1 상품 및 상기 적어도 하나의 제2 제외 상품을 제외한 제3 검색 결과를 상기 디스플레이 상에 표시하도록 제어하는,
    전자 장치.
  2. 삭제
  3. 삭제
  4. 삭제
  5. 삭제
KR1020200108483A 2020-08-27 2020-08-27 쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치 및 그 동작 방법 KR102196241B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200108483A KR102196241B1 (ko) 2020-08-27 2020-08-27 쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치 및 그 동작 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200108483A KR102196241B1 (ko) 2020-08-27 2020-08-27 쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치 및 그 동작 방법

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020200180593A Division KR102201577B1 (ko) 2020-12-22 2020-12-22 쇼핑몰 관련 정보를 제공하는 방법 및 그 장치

Publications (1)

Publication Number Publication Date
KR102196241B1 true KR102196241B1 (ko) 2020-12-29

Family

ID=74090420

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200108483A KR102196241B1 (ko) 2020-08-27 2020-08-27 쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치 및 그 동작 방법

Country Status (1)

Country Link
KR (1) KR102196241B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023229080A1 (ko) * 2022-05-23 2023-11-30 쿠팡 주식회사 아이템 정보 검색 방법 및 이를 위한 전자 장치

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019057060A (ja) * 2017-09-20 2019-04-11 ヤフー株式会社 情報検索装置、情報検索方法、及び情報検索プログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019057060A (ja) * 2017-09-20 2019-04-11 ヤフー株式会社 情報検索装置、情報検索方法、及び情報検索プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023229080A1 (ko) * 2022-05-23 2023-11-30 쿠팡 주식회사 아이템 정보 검색 방법 및 이를 위한 전자 장치

Similar Documents

Publication Publication Date Title
US10586390B2 (en) Virtual reality electronic device for displaying combined graphic object and image frame and corresponding computer-readable recording medium
US10146412B2 (en) Method and electronic device for providing information
US20170046123A1 (en) Device for providing sound user interface and method thereof
EP3107087B1 (en) Device for controlling multiple areas of display independently and method thereof
KR102324964B1 (ko) 외부 입력 장치의 입력을 처리하는 전자 장치 및 방법
US10510170B2 (en) Electronic device and method for generating image file in electronic device
KR102588524B1 (ko) 전자 장치 및 그의 동작 방법
KR102652362B1 (ko) 전자 장치 및 전자 장치 제어 방법
KR102368847B1 (ko) 객체에 대응하는 콘텐트를 출력하기 위한 방법 및 그 전자 장치
KR102358849B1 (ko) 스마트 워치에 대한 정보를 제공하는 전자 장치와 이의 동작 방법
KR102222711B1 (ko) 쇼핑몰 관련 웹사이트를 제공하는 전자 장치 및 그 동작 방법
US10719209B2 (en) Method for outputting screen and electronic device supporting the same
US20170017359A1 (en) Electronic device for displaying image and control method thereof
KR102201577B1 (ko) 쇼핑몰 관련 정보를 제공하는 방법 및 그 장치
US10564822B2 (en) Electronic device for reducing burn-in and computer-readable recording medium
US10606460B2 (en) Electronic device and control method therefor
KR102651793B1 (ko) 영상 통화를 수행하기 위한 전자 장치 및 컴퓨터 판독 가능한 기록매체
KR20180029745A (ko) 소프트 키를 표시하는 방법 및 그 전자 장치
US20160110372A1 (en) Method and apparatus for providing location-based social search service
KR20170065904A (ko) 콘텐트 프리로딩 방법 및 이를 지원하는 전자 장치
KR102323797B1 (ko) 전자 장치 및 그의 정보 공유 방법
US10455381B2 (en) Apparatus and method for providing function of electronic device corresponding to location
US10845940B2 (en) Electronic device and display method of electronic device
KR102656557B1 (ko) 영상 처리 방법 및 이를 지원하는 전자 장치
KR102196241B1 (ko) 쇼핑몰 관련 웹사이트를 통한 검색 결과를 제공하는 전자 장치 및 그 동작 방법

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
A107 Divisional application of patent
GRNT Written decision to grant