KR20200001319A - 편집된 이미지를 이용한 이미지 검색을 위한 방법 및 장치 - Google Patents

편집된 이미지를 이용한 이미지 검색을 위한 방법 및 장치 Download PDF

Info

Publication number
KR20200001319A
KR20200001319A KR1020180074126A KR20180074126A KR20200001319A KR 20200001319 A KR20200001319 A KR 20200001319A KR 1020180074126 A KR1020180074126 A KR 1020180074126A KR 20180074126 A KR20180074126 A KR 20180074126A KR 20200001319 A KR20200001319 A KR 20200001319A
Authority
KR
South Korea
Prior art keywords
sketch
image
line
screen
user
Prior art date
Application number
KR1020180074126A
Other languages
English (en)
Inventor
김기현
김하윤
Original Assignee
십일번가 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 십일번가 주식회사 filed Critical 십일번가 주식회사
Priority to KR1020180074126A priority Critical patent/KR20200001319A/ko
Publication of KR20200001319A publication Critical patent/KR20200001319A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • G06F16/532Query formulation, e.g. graphical querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually

Abstract

본 발명은 이미지 검색을 위한 방법 및 이를 위한 장치에 관한 것이다. 이러한 본 발명은 이미지 검색을 위한 장치가 이미지 검색을 수행하여 상기 이미지 검색의 검색 결과에 따른 복수의 이미지를 표시하는 단계와, 상기 복수의 이미지 중 어느 하나가 선택되면, 상기 선택된 이미지의 선 및 면을 편집 가능하도록 상기 선택된 이미지의 선 및 면을 특정한 밑그림을 생성하는 단계와, 상기 밑그림의 선 및 면 중 적어도 하나를 편집하여 이미지 검색어를 생성하는 단계와, 상기 이미지 검색어를 통해 이미지 검색을 수행하는 단계를 포함한다.

Description

편집된 이미지를 이용한 이미지 검색을 위한 방법 및 장치{A method for image searching using an edited image and an apparatus therefor}
본 발명은 이미지 검색 기술에 관한 것으로, 더욱 상세하게는, 이미지 검색을 통해 검색된 이미지를 선 또는 면을 편집 가능한 형태로 변형하여 밑그림을 생성하고, 생성된 밑그림을 편집하여 편집된 이미지를 통해 이미지 검색을 수행하는 방법 및 장치에 관한 것이다.
이미지 검색은 이미지를 찾는 방법과 목적에 따라 크게 두 가지로 구분할 수 있다. 첫 번째는 텍스트 검색어를 이용해 관련 이미지를 찾는 것이다. 예를 들어 텍스트 '꽃'이라는 키워드를 입력하면 다양한 종류의 꽃 사진을 볼 수 있다. 이 유형은 인터넷 초창기부터 있었던 전통적인 검색방식이다. 두 번째는 이미지 파일인 이미지 검색어를 입력하면, 이미지 파일을 분석해서 동일 또는 유사한 이미지를 찾아내는 것이다. 컴퓨터 분석 기술과 인터넷 기술이 발달하면서 등장한 방식이다. 키워드 방식에 비해 사용자가 이미지를 직관적으로 검색할 수 있다는 이점이 있다.
한국공개특허 제2012-0033859호, 2012년 04월 09일 2013년 06월 05일 공개 (명칭: 이미지 검색 방법 및 검색 시스템)
본 발명의 목적은 사용자가 검색에 사용할 적절한 질의 이미지가 없는 경우 초기 이미지 검색을 통해 밑그림으로 사용하고자 하는 이미지를 검색하고, 검색된 이미지를 밑그림으로 사용할 수 있도록 변환한 후, 변환된 밑그림을 이용하여 스케치 기반 이미지 검색을 제공할 수 있는 방법 및 장치를 제공함에 있다.
상술한 바와 같은 목적을 달성하기 위한 본 발명의 바람직한 실시예에 따른 이미지 검색 방법은, 이미지 검색을 위한 장치가, 이미지 검색을 수행하여 상기 이미지 검색의 검색 결과에 따른 복수의 이미지를 표시하는 단계와, 상기 복수의 이미지 중 어느 하나가 선택되면, 상기 선택된 이미지의 선 및 면을 편집 가능하도록 상기 선택된 이미지의 선 및 면을 특정한 밑그림을 생성하는 단계와, 상기 밑그림의 선 및 면 중 적어도 하나를 편집하여 이미지 검색어를 생성하는 단계와, 상기 이미지 검색어를 통해 이미지 검색을 수행하는 단계를 포함한다.
상기 이미지 검색어를 생성하는 단계는 화면의 편집 영역에 상기 밑그림의 선을 활성화하여 표시하는 단계와, 상기 편집 영역의 밑그림 상에 터치 입력을 감지하면, 터치 입력의 자취에 따라 상기 밑그림의 선을 삭제하거나, 상기 밑그림에 선을 추가하는 단계를 포함한다.
상기 이미지 검색어를 생성하는 단계는 화면의 편집 영역에 상기 밑그림의 선을 활성화하여 표시하는 단계와, 선으로 이루어진 복수의 보조 밑그림을 표시하는 단계와, 상기 복수의 보조 밑그림 중 어느 하나가 선택되면, 선택된 보조 밑그림을 활성화하는 단계와, 상기 선택된 보조 밑그림 중 일부 영역이 선택되면, 보조 밑그림의 선택된 영역의 선의 형태로 상기 밑그림의 대응하는 영역의 선을 편집하는 단계를 포함한다.
상기 이미지 검색어를 생성하는 단계는 화면의 편집 영역에 상기 밑그림의 적어도 하나의 면을 활성화하여 표시하는 단계와, 상기 활성화된 면 중 어느 하나의 면이 선택되고, 선택된 면에 대한 텍스처 수정 요청이 있으면, 상기 선택된 면에 사용자에 의해 입력된 선이 존재하는지 여부를 판단하는 단계와, 사용자에 의해 입력된 선이 존재하면, 화면의 정보 영역에 미리 저장된 복수의 텍스처 중 사용자에 의해 입력된 선과 동일 또는 유사한 형상을 포함하는 복수의 텍스처를 추출하여 표시하는 단계와, 상기 표시된 복수의 텍스처 중 어느 하나가 선택되면, 상기 선택된 텍스트를 상기 선택된 면에 적용하는 단계를 포함한다.
상기 이미지 검색어를 생성하는 단계는 화면의 편집 영역에 상기 밑그림의 적어도 하나의 면을 활성화하여 표시하는 단계와, 상기 활성화된 면 중 어느 하나의 면이 선택되고, 선택된 면에 대한 텍스처 수정 요청이 있으면, 상기 선택된 면에 사용자에 의해 입력된 선이 존재하는지 여부를 판단하는 단계와, 사용자에 의해 입력된 선이 존재하지 않으면, 화면의 정보 영역에 미리 저장된 복수의 텍스처 중 상기 밑그림과 동일한 카테고리에 속한 복수의 텍스처를 추출하여 표시하는 단계와, 상기 표시된 복수의 텍스처 중 어느 하나가 선택되면, 상기 이미지편집부가 상기 선택된 텍스트를 상기 선택된 면에 적용하는 단계를 포함한다.
상기 이미지 검색어를 생성하는 단계는 화면의 편집 영역에 상기 밑그림의 적어도 하나의 면을 활성화하여 표시하는 단계와, 상기 활성화된 면 중 어느 하나의 면이 선택되고, 선택된 면에 대한 색상 수정 요청이 있으면, 화면의 정보 영역에 미리 저장된 복수의 색상 중 상기 밑그림과 동일한 카테고리에 속한 복수의 색상을 포함하는 색상표를 표시하는 단계와, 상기 복수의 색상 중 어느 하나가 선택되면, 선택된 색상을 상기 선택된 면에 적용하는 단계를 포함한다.
상기 밑그림을 생성하는 단계는 상기 선택된 이미지에 대한 형태 분석을 통해 상기 선택된 이미지의 선을 특정하는 단계와, 상기 특정된 선이 형성하는 폐곡선을 기초로 적어도 하나의 면을 특정하는 단계를 포함한다.
상술한 바와 같은 목적을 달성하기 위한 본 발명의 바람직한 실시예에 따른 이미지 검색을 위한 장치는 이미지 검색의 검색 결과에 따른 복수의 이미지 중 어느 하나가 선택되면, 상기 선택된 이미지의 선 및 면을 편집 가능하도록 상기 선택된 이미지의 선 및 면을 특정한 밑그림을 생성하고, 상기 밑그림의 선 및 면 중 적어도 하나를 편집하여 이미지 검색어를 생성하는 이미지편집부와, 상기 이미지 검색어를 통해 이미지 검색을 수행하는 이미지검색부를 포함한다.
상기 이미지편집부는 화면의 편집 영역에 상기 밑그림의 선이 활성화되어 표시된 상태에서, 상기 편집 영역의 밑그림 상에 터치 입력을 감지하면, 터치 입력의 자취에 따라 상기 밑그림의 선을 삭제하거나, 상기 밑그림에 선을 추가하거나, 또는, 화면의 편집 영역에 상기 밑그림의 선이 활성화되어 표시되고, 선으로 이루어진 복수의 보조 밑그림을 표시된 상태에서, 상기 복수의 보조 밑그림 중 어느 하나가 선택되고, 선택된 보조 밑그림 중 일부 영역이 선택되면, 보조 밑그림의 선택된 영역의 선의 형태로 상기 밑그림의 대응하는 영역의 선을 편집하는 것을 특징으로 한다.
상기 이미지편집부는 화면의 편집 영역에 상기 밑그림의 적어도 하나의 면이 활성화하여 표시된 상태에서, 상기 활성화된 면 중 어느 하나의 면이 선택되고, 선택된 면에 대한 텍스처 수정 요청이 있으면, 상기 선택된 면에 사용자에 의해 입력된 선이 존재하는지 여부를 판단하고, 사용자에 의해 입력된 선이 존재하면, 화면의 정보 영역에 미리 저장된 복수의 텍스처 중 사용자에 의해 입력된 선과 동일 또는 유사한 형상을 포함하는 복수의 텍스처를 추출하여 표시하거나, 사용자에 의해 입력된 선이 존재하지 않으면, 화면의 정보 영역에 미리 저장된 복수의 텍스처 중 상기 밑그림과 동일한 카테고리를 가지는 복수의 텍스처를 추출하여 표시하고, 상기 표시된 복수의 텍스처 중 어느 하나가 선택되면, 상기 선택된 텍스트를 상기 선택된 면에 적용하는 것을 특징으로 한다.
상기 이미지편집부는 화면의 편집 영역에 상기 밑그림의 적어도 하나의 면이 활성화되어 표시된 상태에서, 상기 활성화된 면 중 어느 하나의 면이 선택되고, 선택된 면에 대한 색상 수정 요청이 있으면, 화면의 정보 영역에 미리 저장된 복수의 색상 중 상기 밑그림과 동일한 카테고리를 가지는 복수의 색상을 포함하는 색상표를 표시하고, 상기 복수의 색상 중 어느 하나가 선택되면, 선택된 색상을 상기 선택된 면에 적용하는 것을 특징으로 한다.
본 발명에 따르면, 이미지 검색을 통해 검색된 이미지를 가공하여 사용자의 스케치를 돕기 위한 밑그림으로 활용하기 때문에 사용자가 자신이 검색하고자 하는 이미지를 더욱 명확하게 직관적으로 표현할 수 있다. 이에 따라, 사용자의 의도에 상응하는 이미지 검색 결과를 제공할 수 있다.
도 1은 본 발명의 실시예에 따른 이미지 검색을 제공하는 시스템을 설명하기 위한 도면이다.
도 2는 본 발명의 실시예에 따른 검색서버의 구성을 설명하기 위한 블록도이다.
도 3은 본 발명의 실시예에 따른 사용자장치의 구성을 설명하기 위한 블록도이다.
도 4는 본 발명의 실시예에 따른 사용자 데이터를 수집하는 방법을 설명하기 위한 흐름도이다.
도 5 및 도 6은 본 발명의 실시예에 따른 사용자 데이터를 수집하는 방법을 설명하기 위한 도면이다.
도 7은 본 발명의 실시예에 따른 이미지 검색을 위한 방법을 설명하기 위한 흐름도이다.
도 8은 본 발명의 실시예에 따른 검색된 이미지를 편집하여 이미지 검색어를 생성하는 방법을 설명하기 위한 흐름도이다.
도 9는 본 발명의 실시예에 따른 검색된 이미지를 수정 가능한 형태로 제공하는 방법을 설명하기 위한 도면이다.
도 10은 본 발명의 일 실시예에 따른 밑그림의 선을 편집하는 방법을 설명하기 위한 흐름도이다.
도 11은 본 발명의 일 실시예에 따른 밑그림의 선을 편집하는 방법을 설명하기 위한 화면 예이다.
도 12는 본 발명의 다른 실시예에 따른 밑그림의 선을 편집하는 방법을 설명하기 위한 흐름도이다.
도 13 내지 도 15는 본 발명의 다른 실시예에 따른 밑그림의 선을 편집하는 방법을 설명하기 위한 화면 예이다.
도 16은 본 발명의 실시예에 따른 밑그림의 면에 텍스처를 추가하는 방법을 설명하기 위한 흐름도이다.
도 17 및 도 18은 본 발명의 실시예에 따른 밑그림의 면에 텍스처를 추가하는 방법을 설명하기 위한 도면이다.
도 19는 본 발명의 실시예에 따른 밑그림의 면에 색상을 추가하는 방법을 설명하기 위한 흐름도이다.
도 20은 본 발명의 실시예에 따른 밑그림의 면에 색상을 추가하는 방법을 설명하기 위한 도면이다.
본 발명의 과제 해결 수단의 특징 및 이점을 보다 명확히 하기 위하여, 첨부된 도면에 도시된 본 발명의 특정 실시 예를 참조하여 본 발명을 더 상세하게 설명한다.
다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.
이하의 설명 및 도면에서 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시 예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시 예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다.
또한, 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하기 위해 사용하는 것으로, 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 뿐, 상기 구성요소들을 한정하기 위해 사용되지 않는다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제2 구성요소는 제1 구성요소로 명명될 수 있고, 유사하게 제1 구성요소도 제2 구성요소로 명명될 수 있다.
더하여, 어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급할 경우, 이는 논리적 또는 물리적으로 연결되거나, 접속될 수 있음을 의미한다. 다시 말해, 구성요소가 다른 구성요소에 직접적으로 연결되거나 접속되어 있을 수 있지만, 중간에 다른 구성요소가 존재할 수도 있으며, 간접적으로 연결되거나 접속될 수도 있다고 이해되어야 할 것이다.
또한, 본 명세서에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 또한, 본 명세서에서 기술되는 "포함 한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
또한, 명세서에 기재된 "?부", "?기", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.
또한, "일(a 또는 an)", "하나(one)", "그(the)" 및 유사어는 본 발명을 기술하는 문맥에 있어서(특히, 이하의 청구항의 문맥에서) 본 명세서에 달리 지시되거나 문맥에 의해 분명하게 반박되지 않는 한, 단수 및 복수 모두를 포함하는 의미로 사용될 수 있다.
아울러, 본 발명의 범위 내의 실시 예들은 컴퓨터 실행가능 명령어 또는 컴퓨터 판독가능 매체에 저장된 데이터 구조를 가지거나 전달하는 컴퓨터 판독가능 매체를 포함한다. 이러한 컴퓨터 판독가능 매체는, 범용 또는 특수 목적의 컴퓨터 시스템에 의해 액세스 가능한 임의의 이용 가능한 매체일 수 있다. 예로서, 이러한 컴퓨터 판독가능 매체는 RAM, ROM, EPROM, CD-ROM 또는 기타 광 디스크 저장장치, 자기 디스크 저장장치 또는 기타 자기 저장장치, 또는 컴퓨터 실행가능 명령어, 컴퓨터 판독가능 명령어 또는 데이터 구조의 형태로 된 소정의 프로그램 코드 수단을 저장하거나 전달하는 데에 이용될 수 있고, 범용 또는 특수 목적 컴퓨터 시스템에 의해 액세스 될 수 있는 임의의 기타 매체와 같은 물리적 저장 매체를 포함할 수 있지만, 이에 한정되지 않는다.
이하의 설명 및 특허 청구 범위에서, "네트워크"는 컴퓨터 시스템들 및/또는 모듈들 간의 전자 데이터를 전송할 수 있게 하는 하나 이상의 데이터 링크로서 정의된다. 정보가 네트워크 또는 다른 (유선, 무선, 또는 유선 또는 무선의 조합인) 통신 접속을 통하여 컴퓨터 시스템에 전송되거나 제공될 때, 이 접속은 컴퓨터-판독가능매체로서 이해될 수 있다. 컴퓨터 판독가능 명령어는, 예를 들면, 범용 컴퓨터 시스템 또는 특수 목적 컴퓨터 시스템이 특정 기능 또는 기능의 그룹을 수행하도록 하는 명령어 및 데이터를 포함한다. 컴퓨터 실행가능 명령어는, 예를 들면, 어셈블리어, 또는 심지어는 소스코드와 같은 이진, 중간 포맷 명령어일 수 있다.
아울러, 본 발명은 퍼스널 컴퓨터, 랩탑 컴퓨터, 핸드헬드 장치, 멀티프로세서 시스템, 마이크로프로세서-기반 또는 프로그램 가능한 가전제품(programmable consumer electronics), 네트워크 PC, 미니컴퓨터, 메인프레임 컴퓨터, 모바일 전화, PDA, 페이저(pager) 등을 포함하는 다양한 유형의 컴퓨터 시스템 구성을 가지는 네트워크 컴퓨팅 환경에서, 상기 컴퓨터 시스템들을 대상으로 광고를 제공하는데 적용될 수 있다. 본 발명은 또한 네트워크를 통해 유선 데이터 링크, 무선 데이터 링크, 또는 유선 및 무선 데이터 링크의 조합으로 링크된 로컬 및 원격 컴퓨터 시스템 모두가 태스크를 수행하는 분산형 시스템 환경에서 실행될 수 있다. 분산형 시스템 환경에서, 프로그램 모듈은 로컬 및 원격 메모리 저장 장치에 위치될 수 있다.
먼저, 본 발명의 실시예에 따른 스케치 기반 이미지 검색을 제공하는 시스템에 대해서 설명하기로 한다. 도 1은 본 발명의 실시예에 따른 이미지 검색을 제공하는 시스템을 설명하기 위한 도면이다. 도 1을 참조하면, 이미지 검색 시스템은 검색서버(100) 및 사용자장치(200)를 포함한다.
검색서버(100) 및 사용자장치(200)는 네트워크(NW)를 통해 상호간에 데이터를 송수신할 수 있다. 예를 들면, 네트워크(NW)는 WLAN(Wireless LAN), 와이파이(Wi-Fi), 와이브로(Wibro), 와이맥스(Wimax), HSDPA(High Speed Downlink Packet Access) 등의 무선 네트워크를 포함할 수 있으며, 시스템 구현 방식에 따라 이더넷(Ethernet), xDSL(ADSL, VDSL), HFC(Hybrid Fiber Coaxial Cable), FTTC(Fiber to The Curb), FTTH(Fiber To The Home) 등의 유선 네트워크를 포함할 수도 있다.
아울러, 본 발명의 네트워크(NW)는 예컨대, 다수의 접속망(미도시) 및 이들을 연결하는 코어망(미도시)으로 이루어진 이동네트워크를 포함할 수 있다. 여기서, 접속망은 단말과 직접 접속하여 무선 통신을 수행하는 망으로서, 예를 들어, BS(Base Station), BTS(Base Transceiver Station), NodeB, eNodeB 등과 같은 다수의 기지국과, BSC(Base Station Controller), RNC(Radio Network Controller)와 같은 기지국 제어기로 구현될 수 있다. 또한, 전술한 바와 같이, 기지국에 일체로 구현되어 있던 디지털 신호 처리부와 무선 신호 처리부를 각각 디지털 유니트(Digital Unit, 이하 DU라 함과 무선 유니트(Radio Unit, 이하 RU라 함)으로 구분하여, 다수의 영역에 각각 다수의 RU(미도시)를 설치하고, 다수의 RU를 집중화된 DU와 연결하여 구성할 수도 있다. 또한, 접속망과 함께 모바일 망을 구성하는 코어망(미도시)은 접속망과 외부 망, 예컨대, 인터넷망과 같은 다른 네트워크를 연결하는 역할을 수행한다.
이러한 코어망은 앞서 설명한 바와 같이, 접속망 간의 이동성 제어 및 스위칭 등의 이동통신 서비스를 위한 주요 기능을 수행하는 네트워크 시스템으로서, 서킷 교환(circuit switching) 또는 패킷 교환(packet switching)을 수행하며, 모바일 망 내에서의 패킷 흐름을 관리 및 제어한다. 또한, 코어망은 주파수간 이동성을 관리하고, 접속망 및 코어망 내의 트래픽 및 다른 네트워크, 예컨대 인터넷망과의 연동을 위한 역할을 수행할 수도 있다. 이러한 코어망은 SGW(Serving GateWay), PGW(PDN GateWay), MSC(Mobile Switching Center), HLR(Home Location Register), MME(Mobile Mobility Entity)와 HSS(Home Subscriber Server) 등을 더 포함하여 구성될 수도 있다.
또한, 본 발명에 따른 네트워크(NW)은 인터넷망을 포함할 수 있다. 인터넷망은 TCP/IP 프로토콜에 따라서 정보가 교환되는 통상의 공개된 네트워크, 즉 공용망을 의미한다. 이러한 네트워크(NW)을 통해서 검색서버(100) 및 사용자장치(200)가 상호 연동하여 본 발명에 따른 스케치 기반 이미지 검색 시스템을 구성한다.
검색서버(100)는 사용자장치(200)로부터 이미지 검색어를 수신하면, 수신된 이미지 검색어와 동일 혹은 유사한 이미지를 네트워크 상에 연결되는 복수의 웹 사이트(웹 페이지)로부터 검색하여 사용자장치(200)에 제공한다.
사용자장치(200)는 이미지 검색어로 사용자의 터치 입력의 자취에 따라 작성된, 즉, 사용자가 스케치한 이미지를 이용할 수 있다. 이때, 사용자장치(200)는 이러한 스케치를 가이드하기 위하여 밑그림을 제공할 수 있다. 하지만, 제공되는 밑그림이 사용자가 원하는 것과 동떨어진 경우, 해당 밑그림은 사용하기 어렵다.
따라서 사용자장치(200)는 이미지 검색을 통해 밑그림으로 사용하기에 적합한 이미지를 선택하도록 하고, 선택된 이미지의 선 및 면을 편집 가능한 형태로 변환하여 밑그림으로 제공한다. 이에 따라, 사용자는 원하는 밑그림을 제공 받을 수 있고, 사용자장치(200)는 사용자의 입력에 따라 해당 밑그림을 편집하여 이미지 검색어를 생성하고, 생성된 이미지 검색어로 검색서버(100)에 제공한다. 그러면, 검색서버(100)는 스케치 이미지에 대한 이미지 검색을 수행하여 동일 혹은 유사한 이미지를 검색하여 사용자장치(200)에 제공한다. 이에 따라, 사용자가 의도하는 바에 따라 이미지 검색이 이루어질 수 있다.
여기서, 검색서버(100)는 네트워크 상에 존재하는 하나의 엔티티로, 애프리케이션 서버(application server)의 역할을 수행한다. 이러한 검색서버(100)는 네트워크를 통해 다른 서버, 즉, 웹 서버에 접속하여 복수의 웹 페이지로부터 이미지를 검색할 수 있다.
또한, 사용자장치(200)는 이동통신단말기를 대표적인 예로서 설명하지만 단말기는 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말기, 유선 단말기, 고정형 단말기 및 IP(Internet Protocol) 단말기 등의 다양한 단말기에 적용될 수 있다. 일례로, 단말기는 휴대폰, PMP(Portable MultimediaPlayer), MID(Mobile Internet Device), 스마트폰(Smart Phone), 태블릿 PC, 패블릿 PC 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말기일 때 유리하게 활용될 수 있다. 다른 예로, 단말기는 노트북, 퍼스널컴퓨터 등이 될 수도 있다.
그러면, 보다 상세히 본 발명의 실시예에 따른 검색서버(100) 및 사용자장치(200)의 구성에 대해서 살펴보기로 한다. 먼저, 본 발명의 실시예에 따른 검색서버(100)의 구성에 대해서 설명하기로 한다. 도 2는 본 발명의 실시예에 따른 검색서버의 구성을 설명하기 위한 블록도이다. 도 2를 참조하면, 검색서버(100)는 통신모듈(110), 저장모듈(120) 및 제어모듈(130)을 포함한다.
통신모듈(110)은 사용자장치(200)와의 통신을 위한 것이다. 통신모듈(110)은 사용자장치(200)가 검색서버(100)에 접속하면 사용자장치(200)와 필요한 정보를 포함하는 데이터를 교환하기 위한 통신을 수행한다. 즉, 통신모듈(110)은 제어모듈(130)로부터 사용자장치(200)로 전송하기 위한 데이터를 전달받으면, 전달받은 데이터를 패킷으로 구성하여 전송한다. 또한, 통신모듈(110)은 사용자장치(200)로부터 수신되는 패킷으로부터 데이터를 추출하여, 추출된 데이터를 제어모듈(130)로 전달한다.
저장모듈(120)은 검색서버(100)의 동작에 필요한 프로그램 및 데이터를 저장하는 역할을 수행하며, 프로그램 영역과 데이터 영역으로 구분될 수 있다. 프로그램 영역은 검색서버(100)의 전반적인 동작을 제어하는 프로그램 및 검색서버(100)를 부팅시키는 운영체제(OS, Operating System), 이미지 검색을 위한 애플리케이션을 등을 저장할 수 있다. 데이터 영역은 검색서버(100)의 운영에 따라 발생하는 데이터 및 검색서버(100)의 운영에 필요한 데이터가 저장되는 영역이다. 저장모듈(120)에 저장되는 각 종 데이터는 사용자의 조작에 따라, 삭제, 변경, 추가될 수 있다.
제어모듈(130)은 검색서버(100)의 전반적인 동작 및 검색서버(100)의 내부 블록들 간 신호 흐름을 제어하고, 데이터를 처리하는 데이터 처리 기능을 수행할 수 있다. 이러한 제어모듈(130)은 중앙 처리 장치(Central Processing Unit: CPU)인 것이 바람직하다.
제어모듈(130)은 이미지검색모듈(131)을 포함한다. 일 실시예에 따르면, 이미지검색모듈(131)은 이미지 검색어를 수신하면 이미지 검색어와 동일 및 유사한 이미지를 검색하고, 그 검색 결과에 따른 이미지를 통신모듈(110)을 통해 사용자장치(200)에 전송한다. 이러한 이미지검색모듈(131)을 포함하는 제어모듈(130)의 동작은 아래에서 보다 상세하게 설명될 것이다.
다음으로, 본 발명의 실시예에 따른 사용자장치(200)에 대해서 설명하기로 한다. 도 3은 본 발명의 실시예에 따른 사용자장치의 구성을 설명하기 위한 블록도이다. 도 3을 참조하면, 본 발명의 실시예에 따른 사용자장치(200)는 통신부(210), 입력부(220), 표시부(230), 오디오부(270), 저장부(240) 및 제어부(250)를 포함한다.
통신부(210)는 네트워크(NW)를 통해서 검색서버(100)를 비롯한 다른 장치와 통신을 위한 것으로, 다양한 통신 연결 방식을 통해 통신을 수행한다. 이러한 통신부(210)는 다양한 통신 연결 방식의 통신 기능 중 어느 하나를 선택하여 통신할 수 있다. 이러한 통신부(210)는 하나의 모듈 혹은 복수의 모듈로 구현될 수도 있다. 예컨대, 통신부(210)는 WCDMA, LTE, LTE-A 등의 표준에 따라 기지국을 통해 네트워크에 접속하는 광대역이동통신 방식, Wi-Fi(wireless fidelity)를 이용하는 WLAN(Wireless Local Area Network) 방식에 따라 접속포인트(AP: Access Point)를 통해 네트워크에 접속하여 통신을 수행하는 무선근거리통신 방식, 블루투스, 적외선통신 등의 ISM(industrial scientific and medical equipment) 대역에서 다른 기기와 직접 연결하여 통신하는 P2P 방식 등을 이용할 수 있다. 통신부(210)는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF송신기와, 수신되는 신호를 저 잡음 증폭하고 주파수를 하강 변환하는 RF수신기 등으로 구성될 수 있다. 또한, 통신부(210)는 무선 채널을 통해 데이터를 포함하는 무선 신호를 수신하여 제어부(250)로 전달할 수 있다. 또한, 제어부(250)로부터 전달 받은 데이터를 무선 신호로 변환하여 무선 채널을 통해 전송할 수 있다.
입력부(220)는 사용자장치(200)를 제어하기 위한 사용자의 키 조작을 입력 받고 입력 신호를 생성하여 제어부(250)로 전달한다. 입력부(220)는 전원 on/off를 위한 전원 키, 숫자 키, 방향키 중 어느 하나를 포함할 수 있으며, 사용자장치(200)의 일면에 소정의 기능키로 형성될 수 있다. 표시부(230)가 터치스크린으로 이루어진 경우, 입력부(220)의 각 종 키들의 기능이 표시부(230)에서 이루어질 수 있으며, 터치스크린만으로 모든 기능을 수행할 수 있는 경우, 입력부(220)는 생략될 수도 있다.
표시부(230)는 사용자장치(200)의 메뉴, 입력된 데이터, 기능 설정 정보 및 기타 다양한 정보를 사용자에게 시각적으로 제공한다. 표시부(230)는 사용자장치(200)의 부팅 화면, 대기 화면, 메뉴 화면 등의 각종 화면을 출력하는 기능을 수행한다. 이러한 표시부(230)는 액정표시장치(LCD, Liquid Crystal Display), 유기 발광 다이오드(OLED, Organic Light Emitting Diodes), 능동형 유기 발광 다이오드(AMOLED, Active Matrix Organic Light Emitting Diodes) 등의 다양한 디스플레이 장치로 형성될 수 있다.
한편, 표시부(230)는 터치스크린으로 구현된다. 이러한 경우, 표시부(230)는 터치센서를 포함하며, 제어부(250)는 터치센서를 통해 사용자의 터치 입력을 감지할 수 있다. 터치센서는 정전용량 방식(capacitive overlay), 압력식, 저항막 방식(resistive overlay), 적외선 감지 방식(infrared beam) 등의 터치 감지 센서로 구성되거나, 압력 감지 센서(pressure sensor)로 구성될 수도 있다. 상기 센서들 이외에도 물체의 접촉 또는 압력을 감지할 수 있는 모든 종류의 센서 기기가 본 발명의 터치센서로 이용될 수 있다. 터치센서는 사용자의 터치 입력을 감지하고, 감지 신호를 발생시켜 제어부(250)로 전송한다. 이러한 감지 신호에는 사용자가 터치를 입력한 좌표 데이터가 포함될 수 있다. 사용자가 터치 위치 이동 동작을 입력한 경우에 터치센서는 터치 위치 이동 경로의 좌표 데이터를 포함한 감지 신호를 발생시켜 제어부(250)로 전송할 수 있다.
특히, 표시부(230)는 화면으로 밑그림을 표시하는 편집 영역 및 복수의 보조 밑그림, 복수의 텍스처, 복수의 색상을 표시하기 위한 정보 영역을 제공할 수 있다. 표시부(230)는 편집 영역 및 정보 영역 상에서 터치 입력이 이루어지면, 사용자의 터치 입력을 감지하여 그 터치 입력의 좌표, 터치 위치 이동 경로의 좌표 데이터 등을 제어부(250)에 제공한다.
저장부(240)는 사용자장치(200)의 동작에 필요한 프로그램 및 데이터를 저장하는 역할을 수행하며, 프로그램 영역과 데이터 영역으로 구분될 수 있다. 프로그램 영역은 사용자장치(200)의 전반적인 동작을 제어하는 프로그램 및 사용자장치(200)를 부팅시키는 운영체제(OS, Operating System), 응용 프로그램 등을 저장할 수 있다. 데이터 영역은 사용자장치(200)의 사용에 따라 발생하는 데이터가 저장되는 영역이다. 또한, 저장부(240)는 사용자장치(200)의 동작에 따라 발생되는 각 종 데이터, 예컨대, 텍스처, 색상표, 보조 밑그림 등을 저장할 수 있다.
제어부(250)는 사용자장치(200)의 전반적인 동작 및 사용자장치(200)의 내부 블록들 간 신호 흐름을 제어하고, 데이터를 처리하는 데이터 처리 기능을 수행할 수 있다. 이러한 제어부(250)는 중앙 처리 장치(Central Processing Unit: CPU), 애플리케이션 프로세서(Application Processor), 그래픽 프로세서(GPU: graphic processing unit) 등이 될 수 있다.
제어부(250)는 이미지검색부(251) 및 이미지편집부(253)를 포함한다. 이미지검색부(251)는 이미지 검색어가 제공되면, 통신부(210)를 통해 이미지 검색어를 검색서버(100)로 전송하고, 검색서버(100)로부터 검색결과에 따른 복수의 이미지를 수신하면, 수신된 복수의 이미지를 표시부(230)를 통해 표시한다. 이미지편집부(253)는 이미지 검색의 검색 결과에 따른 복수의 이미지 중 어느 하나가 선택되면, 선택된 이미지의 선 및 면을 편집 가능하도록 선택된 이미지의 선 및 면을 특정한 밑그림을 생성하고, 밑그림의 선 및 면 중 적어도 하나를 편집하여 이미지 검색어를 생성한다. 이러한 이미지검색부(251) 및 이미지편집부(253)를 포함하는 제어부(250)의 동작은 아래에서 더 상세하게 설명될 것이다.
그러면, 본 발명의 실시예에 따른 이미지 검색을 위한 방법에 대해서 설명하기로 한다.
먼저, 본 발명의 실시예에 따른 사용자 데이터를 수집하는 방법에 대해서 설명하기로 한다. 도 4는 본 발명의 실시예에 따른 사용자 데이터를 수집하는 방법을 설명하기 위한 흐름도이다. 도 5 및 도 6은 본 발명의 실시예에 따른 사용자 데이터를 수집하는 방법을 설명하기 위한 도면이다.
도 4를 참조하면, 사용자의 조작에 따라 제어부(250)의 이미지검색부(251)는 S110 단계에서 통신부(210)를 통해 검색어를 검색서버(100)로 전송한다. 이러한 검색어는 텍스트 검색어 또는 이미지 검색어가 될 수 있다. 그러면, 검색서버(100) 제어모듈(130)의 이미지검색모듈(131)은 S120 단계에서 이미지 검색을 수행하여 검색어에 따라 복수의 이미지를 검색하고, S130 단계에서 검색된 복수의 이미지를 포함하는 검색 결과를 통신모듈(110)을 통해 사용자장치(200)로 전송한다.
검색 결과로 복수의 이미지를 수신한 제어부(250)의 이미지검색부(251)는 복수의 이미지를 표시하고, 사용자의 선택에 따라 복수의 이미지 중 어느 하나의 이미지가 선택될 수 있다. 이와 같이, 이미지 검색 결과 사용자가 선택한 이미지를 유효 이미지라고 칭하기로 한다.
그러면, 제어부(250)의 이미지수정부(253)는 S140 단계에서 유효 이미지로부터 사용자 데이터를 추출하고, 추출된 사용자 데이터를 해당 이미지의 카테고리별로 저장한다. 여기서, 카테고리는 유효 이미지가 속한 분야를 의미한다. 여기서, 사용자 데이터는 보조 밑그림, 텍스처 및 색상을 포함한다. 이러한 S140 단계에 대해 보다 상세하게 설명하면 다음과 같다.
먼저, 제어부(250)의 이미지편집부(253)는 도 5에 도시된 바와 같이, 형태 분석 기법(morphology analysis)을 이용하여 사용자가 선택한 이미지(SI)로부터 윤곽선을 검출하고, 검출된 윤곽선으로 이루어진 이진 이미지(BI)로 변환하여 보조 밑그림을 생성할 수 있다. 제어부(250)는 생성된 보조 밑그림을 카테고리별로 저장부(240)에 저장한다. 또한, 도 6에 도시된 바와 같이, 제어부(250)는 선택한 이미지(SI)로부터 텍스처 및 색상 중 적어도 하나를 추출하고, 추출된 텍스처 및 색상을 카테고리에 따라 저장부(240)에 저장한다.
전술한 도 4 내지 도 6을 참조로 하는 실시예는 이미지 검색이 이루어질 때마다 반복해서 수행된다. 이와 같이, 사용자 데이터가 누적된 상태에서 본 발명의 실시예에 따른 이미지 검색이 이루어진다고 가정한다. 그러면, 본 발명의 실시예에 따른 이미지 검색을 위한 방법을 설명하기로 한다. 도 7은 본 발명의 실시예에 따른 이미지 검색을 위한 방법을 설명하기 위한 흐름도이다.
도 7을 참조하면, 사용자의 조작에 따라 제어부(250) 이미지검색부(251)는 S210 단계에서 통신부(210)를 통해 이미지 또는 텍스트로 이루어진 검색어를 검색서버(100)로 전송한다. 그러면, 검색서버(100)의 이미지검색모듈(131)은 S120 단계에서 이미지 검색을 수행하여 검색어와 동일 혹은 유사한 복수의 이미지를 검색하고, S230 단계에서 앞서 검색된 복수의 이미지를 포함하는 검색 결과를 통신모듈(110)을 통해 사용자장치(200)로 전송한다.
사용자장치(200)의 이미지편집부(253)는 S240 단계에서 사용자의 조작에 따라 복수의 이미지 중 어느 하나를 선택하고, 선택된 이미지의 선 및 면을 편집 가능한 형태로 변환하여 밑그림으로 표시하고, 사용자의 조작에 따라 밑그림의 선 및 면 중 적어도 하나를 편집하여 검색어 이미지를 생성한다. 그러면, 이미지검색부(251)는 S250 단계에서 통신부(210)를 통해 편집되어 생성된 이미지를 검색어로 검색서버(100)로 전송한다.
이에 따라, 이미지 검색어를 수신한 검색서버(100)의 이미지검색모듈(131)은 S260 단계에서 이미지 검색을 수행하여 이미지 검색어와 동일 혹은 유사한 복수의 이미지를 검색한다. 그리고 이미지검색모듈(131)은 S270 단계에서 검색된 복수의 이미지를 포함하는 검색 결과를 통신모듈(110)을 통해 사용자장치(200)로 전송한다. 검색 결과를 수신한 사용자장치(200)의 이미지검색부(251)는 S280 단계에서 표시부(230)를 통해 수신된 복수의 이미지를 표시한다.
그러면, 전술한 S240 단계에 대해 보다 상세하게 설명하기로 한다. 도 8은 본 발명의 실시예에 따른 검색된 이미지를 편집하여 이미지 검색어를 생성하는 방법을 설명하기 위한 흐름도이다. 도 9는 본 발명의 실시예에 따른 검색된 이미지를 수정 가능한 형태로 제공하는 방법을 설명하기 위한 도면이다.
전술한 바와 같이, 검색서버(100)로부터 초기 이미지 검색에서 검색된 복수의 이미지를 수신하면(S220, S230), 사용자장치(200)의 이미지검색부(251)는 S310 단계에서 표시부(230)를 통해 복수의 이미지를 표시한다.
사용자는 표시된 복수의 이미지 중 밑그림으로 사용하기 위한 어느 하나의 이미지를 선택할 수 있다. 그러면, 이미지편집부(253)는 S320 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 선택을 감지할 수 있다. 여기서, 사용자는 도 9의 (가)와 같은 이미지를 선택하였다고 가정한다.
이미지편집부(253)는 S330 단계에서 선택된 이미지에 대한 형태 분석(morphology analysis)을 통해 선택된 이미지로부터 윤곽선을 검출하여 검출된 윤곽선에 따라 밑그림의 선을 특정한다.
보다 자세히 설명하면, 이미지편집부(253)는 도 9의 (가)와 같은 사용자가 선택한 이미지에 가우시안 필터를 이용하여 노이즈를 제거한다. 그런 다음, 이미지편집부(253)는 노이즈가 제거된 이미지의 모든 픽셀에 대해 소정 크기(예컨대, 3*3, 5*5, 9*9)의 소벨(Sobel) 마스크를 컨볼루션(convolution) 연산하여 에지 그레디언트 벡터(edge gradient vector)의 크기와 방향을 계산한다. 이어서, 이미지편집부(253)는 소정 크기의 윈도우를 사용하여 그레디언트 벡터 방향에서 그레디언트 벡터의 크기가 최대값인 픽셀만 남기고 나머지 픽셀은 0으로 결정하여 1차로 윤곽선을 선택한다. 다음으로, 이미지편집부(253)는 히스테리시스 임계값(hysteresis thresholding) 방식을 사용 그레디언트 벡터의 크기가 제1 임계값 보다 큰 제2 임계값을 사용하여 그레디언트 방향에서 제1 임계값이 나올 때까지 각 픽셀 단위로 추적하여 1차로 선택된 윤곽선들을 연결하여 최종적으로 윤곽선을 검출한다. 이로써, 이미지편집부(253)는 최종적으로 검출된 윤곽선을 도 9의 (나)와 같이, 밑그림의 선(BL)으로 특정한다.
이미지편집부(253)는 S340 단계에서 밑그림의 선(BL)이 형성하는 폐곡선을 기초로 밑그림에 적어도 하나의 면을 특정한다. 예컨대, 도 9의 (나)와 같이, 밑그림의 선(BL) 중 일부는 폐곡선을 형성할 수 있다. 따라서 이미지편집부(253)는 이러한 폐곡선을 도출하여 도출된 폐곡선이 형성하는 면을 밑그림의 면(A1, A2)으로 특정한다. 이에 따라, 선과 적어도 하나의 면을 포함하는 밑그림이 생성된다.
이미지편집부(253)는 S350 단계에서 사용자의 입력에 따라 선 및 면 중 적어도 하나를 편집하여 이미지 검색어를 생성한다. 이러한 S350 단계에서 이미지편집부(253)는 선을 삭제 혹은 추가하여 수정하거나, 면에 텍스처를 적용하거나, 색상을 적용할 수 있다. 그러면, 이러한 S350 단계에 대해 보다 상세하게 설명하기로 한다.
먼저, 본 발명의 일 실시예에 따른 S350 단계에서 밑그림의 선을 편집하는 방법을 설명하기로 한다. 도 10은 본 발명의 일 실시예에 따른 밑그림의 선을 편집하는 방법을 설명하기 위한 흐름도이다. 도 11은 본 발명의 일 실시예에 따른 밑그림의 선을 편집하는 방법을 설명하기 위한 화면 예이다.
도 10을 참조하면, 사용자장치(200)의 이미지편집부(253)는 S410 단계에서 표시부(230)를 통해 도 11의 (a)와 같이, 화면의 편집 영역에 밑그림을 표시한다. 이때, 사용자는 밑그림에 대한 선의 편집을 요청하는 입력을 할 수 있다. 그러면, 이미지편집부(253)는 S420 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 요청을 감지하고, S430 단계에서 밑그림의 선을 활성화한다.
한편, 사용자는 선을 삭제하거나, 추가하기 위하여 삭제 혹은 추가 기능 중 어느 하나를 선택하는 입력을 할 수 있다. 이미지편집부(253)는 S440 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 입력을 판별하여 사용자의 입력이 삭제 기능을 선택하는 것이면, S450 단계로 진행하고, 사용자의 입력이 추가 기능을 선택하는 것이면, S460 단계로 진행한다.
S450 단계에서 이미지편집부(253)는 사용자의 터치 입력을 감지하여 사용자의 터치 입력의 자취에 따라 밑그림의 선을 삭제할 수 있다. 예컨대, 도 11의 (a)와 같은 밑그림 상에 도 11의 (b)와 같은 자취를 가지는 터치 입력(점선)을 하였다고 가정한다. 그러면, 도 11의 (c)와 같이, 터치 입력의 자취 상에 존재하는 선이 삭제된다.
S460 단계에서 이미지편집부(253)는 사용자의 터치 입력을 감지하여 사용자의 터치 입력의 자취에 따라 선을 추가할 수 있다. 예컨대, 도 11의 (c)와 같은 밑그림 상에 도 11의 (d)와 같은 자취를 가지는 터치 입력(점선)을 하였다고 가정한다. 그러면, 이미지편집부(253)은 도 11의 (e)와 같이, 터치 입력의 자취에 따라 밑그림에 선을 추가한다.
다음으로, 본 발명의 다른 실시예에 따라 S350 단계에서 밑그림의 선을 편집하는 방법을 설명하기로 한다. 도 12는 본 발명의 다른 실시예에 따른 밑그림의 선을 편집하는 방법을 설명하기 위한 흐름도이다. 도 13 내지 도 15는 본 발명의 다른 실시예에 따른 밑그림의 선을 편집하는 방법을 설명하기 위한 화면 예이다.
도 12를 참조하면, 이미지편집부(253)은 S510 단계에서 표시부(230)를 통해 화면의 편집 영역에 밑그림을 표시한다. 이때, 사용자는 밑그림의 선의 편집을 요청하는 입력을 할 수 있다. 그러면, 이미지편집부(253)은 S520 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 요청을 감지하고, S530 단계에서 밑그림의 선을 활성화한다.
이러한 상태에서 사용자는 밑그림의 선을 편집하기 위해 보조 밑그림을 요청할 수 있다. 그러면, 이미지편집부(253)은 S540 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 요청을 감지하고, S550 단계에서 표시부(230)를 통해 밑그림과 동일한 카테고리의 동일 또는 유사한 형상을 가지는 복수의 보조 밑그림을 추출하여 화면의 정보 영역에 표시한다. 예컨대, 도 13에 도시된 바와 같이, 화면의 편집 영역(K)에 밑그림을 표시한 상태에서 정보 영역(U)에 복수의 보조 밑그림을 표시할 수 있다. 여기서, 보조 밑그림은 앞서 S140 단계에서 미리 추출되어 카테고리별로 저장된 것이다.
사용자는 밑그림의 선을 편집하기 위하여 복수의 보조 밑그림 중 어느 하나를 선택할 수 있다. 그러면, 이미지편집부(253)는 S560 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 선택을 감지하여 선택된 보조 밑그림을 활성화한다. 예를 들면, 제1 보조 밑그림(Y1), 제2 보조 밑그림(Y2) 등이 선택될 수 있다.
또한, 사용자는 활성화된 보조 밑그림 중 일부 영역을 터치 입력 등을 통해 선택할 수 있다. 그러면, 이미지편집부(253)은 S570 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 선택을 감지하고, S580 단계에서 보조 밑그림의 선택된 영역의 선과 동일한 형상으로 밑그림의 대응하는 영역의 선을 변경한다.
일례로, 도 14에 도시된 바와 같이, 밑그림(X1)이 표시된 상태에서 제1 보조 밑그림(Y1)이 선택되고, 제1 보조 밑그림(Y1)의 일부 영역(g1)이 선택되면, 선택된 영역(g1)의 선과 동일한 형상으로 밑그림(X1)의 대응하는 영역(r1)의 선이 수정된다. 그 결과 밑그림(Z1)과 같이, 해당 영역(b1)의 선의 형상이 변경된다.
다른 예로 도 15에 도시된 바와 같이, 밑그림(X2)이 표시된 상태에서 제2 보조 밑그림(Y2)이 선택되고, 제2 보조 밑그림(Y2)의 일부 영역(g2)이 선택되면, 선택된 영역(g2)의 선과 동일한 형상으로 밑그림(X2)의 대응하는 영역(r2)의 선이 수정된다. 그 결과 밑그림(Z2)과 같이, 해당 영역(b2)의 선의 형상이 변경된다.
다음으로, 본 발명의 실시예에 따라 S350 단계에서 밑그림의 면에 텍스처를 추가하는 방법을 설명하기로 한다. 도 16은 본 발명의 실시예에 따른 밑그림의 면에 텍스처를 추가하는 방법을 설명하기 위한 흐름도이다. 도 17 및 도 18은 본 발명의 실시예에 따른 밑그림의 면에 텍스처를 추가하는 방법을 설명하기 위한 도면이다.
도 16을 참조하면, 이미지편집부(253)는 화면의 편집 영역에 밑그림을 표시부(230)를 통해 표시한다. 이때, 사용자는 밑그림의 면을 편집하기 위해 면의 편집을 요청하는 입력을 할 수 있다. 그러면, 이미지편집부(253)는 S620 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 요청을 감지하고, 밑그림에 포함된 모든 면을 활성화한다.
사용자는 수정하고자 하는 면을 선택할 수 있다. 이에 따라, 이미지편집부(253)는 S630 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 선택을 감지하고, 선택된 면을 활성화한다.
그리고 사용자는 해당 면에 텍스처를 추가하도록 요청할 수 있다. 이에 따라, 이미지편집부(253)는 S640 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 요청을 감지한다. 그리고 이러한 요청에 따라, 이미지편집부(253)은 S650 단계에서 선택된 면 내에 사용자에 의해 입력된 선이 존재하는지 여부를 판단한다.
S650 단계의 판단 결과, 사용자에 의해 입력된 선이 존재하면, S660 단계로 진행하고, 사용자에 의해 입력된 선이 존재하지 않으면, S670 단계로 진행한다.
사용자에 의해 입력된 선이 존재하는 경우, 이미지편집부(253)은 S660 단계에서 저장부(240)에 미리 저장된 복수의 텍스처 중 사용자에 의해 입력된 윤곽선과 동일 또는 유사한 형상을 포함하는 복수의 텍스처를 추출하여 표시한다.
예컨대, 도 17을 참조하면, (i)와 같이 제1 및 제2 면(A1, A2)을 포함하는 밑그림에 (ii)와 같이 제2 면(A2)에 선(drw)을 추가할 수 있다. 이때, 도 18에 도시된 바와 같이, 사용자가 제2 면(A2)을 선택하고, 텍스처를 추가하도록 하는 입력을 한 경우, 이미지편집부(253)은 앞서 S140 단계에서 저장된 복수의 텍스처 중 사용자에 의해 입력된 선(drw)과 동일 또는 유사한 형상을 포함하는 복수의 텍스처(TX)를 추출하여 표시할 수 있다.
반면, 사용자에 의해 입력된 선이 존재하지 않으면, 이미지편집부(253)은 S670 단계에서 미리 저장된 복수의 텍스처 중 밑그림과 동일한 카테고리에 속한 복수의 텍스처를 추출하여 표시한다.
사용자는 표시된 복수의 텍스처 중 자신이 원하는 텍스처를 선택할 수 있다. 그러면, 이미지편집부(253)은 S680 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 선택을 감지하고, S690 단계에서 도 18의 (iii)에 도시된 바와 같이, 선택된 텍스처를 앞서(S630) 선택된 면(A2)에 적용한다.
다음으로, 본 발명의 실시예에 따라 S350 단계에서 밑그림의 면에 색상을 추가하는 방법을 설명하기로 한다. 도 19는 본 발명의 실시예에 따른 밑그림의 면에 색상을 추가하는 방법을 설명하기 위한 흐름도이다. 도 20은 본 발명의 실시예에 따른 밑그림의 면에 색상을 추가하는 방법을 설명하기 위한 도면이다.
도 19를 참조하면, 이미지편집부(253)는 S710 단계에서 표시부(230)를 통해 밑그림을 화면의 편집 영역에 표시한다. 이때, 사용자는 밑그림의 면을 편집하도록 요청하는 입력을 할 수 있다. 그러면, 이미지편집부(253)은 S720 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 요청을 감지하고, 밑그림의 모든 면을 활성화한다.
사용자는 수정하고자 하는 면을 선택할 수 있다. 이에 따라, 이미지편집부(253)는 S730 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 선택을 감지하고, 선택된 면을 활성화한다. 예컨대, 도 20에서 제1 면(A1)이 활성화될 수 있다.
그리고 사용자는 해당 영역에 색상을 추가하도록 요청할 수 있다. 이에 따라, 이미지편집부(253)는 S740 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 요청을 감지한다. 이에 따라, 이미지편집부(253)는 S740 단계에서 저장부(240)에 미리 저장된 복수의 색상 중 밑그림과 동일한 카테고리에 속한 복수의 색상을 추출하여 추출된 복수의 색상을 포함하는 색상표를 표시한다. 예를 들면, 도 20에 도시된 바와 같이, 사용자가 제1 면(A1)을 선택하고, 색상을 추가하도록 하는 입력을 한 경우, 이미지편집부(253)는 앞서 S140 단계에서 저장부(240)에 저장한 복수의 색상 중 밑그림과 카테고리가 동일한 복수의 색상을 추출하여 추출된 복수의 색상으로 이루어진 색상표(CC)를 표시할 수 있다.
그러면, 사용자는 색상표를 통해 표시된 복수의 색상 중 자신이 원하는 색상을 선택할 수 있다. 그러면, 이미지편집부(253)는 S750 단계에서 입력부(220) 또는 표시부(230)를 통해 사용자의 선택을 감지하고, S760 단계에서 도 20의 (iv)에 도시된 바와 같이, 선택된 색상을 앞서(S730) 선택된 제1 면(A1)에 적용할 수 있다.
이상에서 설명한 바와 같이, 본 명세서는 다수의 특정한 구현물의 세부사항들을 포함하지만, 이들은 어떠한 발명이나 청구 가능한 것의 범위에 대해서도 제한적인 것으로서 이해되어서는 안되며, 오히려 특정한 발명의 특정한 실시형태에 특유할 수 있는 특징들에 대한 설명으로서 이해되어야 한다. 개별적인 실시형태의 문맥에서 본 명세서에 기술된 특정한 특징들은 단일 실시형태에서 조합하여 구현될 수도 있다. 반대로, 단일 실시형태의 문맥에서 기술한 다양한 특징들 역시 개별적으로 혹은 어떠한 적절한 하위 조합으로도 복수의 실시형태에서 구현 가능하다. 나아가, 특징들이 특정한 조합으로 동작하고 초기에 그와 같이 청구된 바와 같이 묘사될 수 있지만, 청구된 조합으로부터의 하나 이상의 특징들은 일부 경우에 그 조합으로부터 배제될 수 있으며, 그 청구된 조합은 하위 조합이나 하위 조합의 변형물로 변경될 수 있다.
마찬가지로, 특정한 순서로 도면에서 동작들을 묘사하고 있지만, 이는 바람직한 결과를 얻기 위하여 도시된 그 특정한 순서나 순차적인 순서대로 그러한 동작들을 수행하여야 한다거나 모든 도시된 동작들이 수행되어야 하는 것으로 이해되어서는 안 된다. 특정한 경우, 멀티태스킹과 병렬 프로세싱이 유리할 수 있다. 또한, 상술한 실시형태의 다양한 시스템 컴포넌트의 분리는 그러한 분리를 모든 실시형태에서 요구하는 것으로 이해되어서는 안되며, 설명한 프로그램 컴포넌트와 시스템들은 일반적으로 단일의 소프트웨어 제품으로 함께 통합되거나 다중 소프트웨어 제품에 패키징될 수 있다는 점을 이해하여야 한다.
본 명세서에서 설명한 주제의 특정한 실시형태를 설명하였다. 기타의 실시형태들은 이하의 청구항의 범위 내에 속한다. 예컨대, 청구항에서 인용된 동작들은 상이한 순서로 수행되면서도 여전히 바람직한 결과를 성취할 수 있다. 일 예로서, 첨부도면에 도시한 프로세스는 바람직한 결과를 얻기 위하여 반드시 그 특정한 도시된 순서나 순차적인 순서를 요구하지 않는다. 특정한 구현예에서, 멀티태스킹과 병렬 프로세싱이 유리할 수 있다.
본 기술한 설명은 본 발명의 최상의 모드를 제시하고 있으며, 본 발명을 설명하기 위하여, 그리고 당업자가 본 발명을 제작 및 이용할 수 있도록 하기 위한 예를 제공하고 있다. 이렇게 작성된 명세서는 그 제시된 구체적인 용어에 본 발명을 제한하는 것이 아니다. 따라서, 상술한 예를 참조하여 본 발명을 상세하게 설명하였지만, 당업자라면 본 발명의 범위를 벗어나지 않으면서도 본 예들에 대해 개조, 변경 및 변형을 가할 수 있다.
따라서 본 발명의 범위는 설명된 실시 예에 의하여 정할 것이 아니고 특허청구범위에 의해 정하여져야 한다.
본 발명은 스케치 기반의 이미지 검색을 위한 밑그림 제공 방법 및 이를 위한 장치에 관한 것으로서, 본 발명에 따르면, 초기 검색을 통해 검색된 이미지의 선 및 면을 사용자의 의도에 따라 수정하여 이미지 검색어를 생성하고, 이를 통해 이미지 검색을 수행하기 때문에 사용자가 직관적으로 원하는 이미지를 검색할 수 있다. 따라서 본 발명은 시판 또는 영업의 가능성이 충분할 뿐만 아니라 현실적으로 명백하게 실시할 수 있는 정도이므로 산업상 이용가능성이 있다.
100: 검색서버 110: 통신모듈
120: 저장모듈 130: 제어모듈
131: 이미지검색모듈 200: 사용자장치
210: 통신부 220: 입력부
230: 표시부 240: 저장부
250: 제어부 251: 이미지검색부
253: 이미지편집부

Claims (11)

  1. 이미지 검색을 위한 장치가,
    이미지 검색을 수행하여 상기 이미지 검색의 검색 결과에 따른 복수의 이미지를 표시하는 단계;
    상기 복수의 이미지 중 어느 하나가 선택되면, 상기 선택된 이미지의 선 및 면을 편집 가능하도록 상기 선택된 이미지의 선 및 면을 특정한 밑그림을 생성하는 단계;
    상기 밑그림의 선 및 면 중 적어도 하나를 편집하여 이미지 검색어를 생성하는 단계; 및
    상기 이미지 검색어를 통해 이미지 검색을 수행하는 단계;를 포함하는 것을 특징으로 하는 이미지 검색 방법.
  2. 제1항에 있어서,
    상기 이미지 검색어를 생성하는 단계는
    화면의 편집 영역에 상기 밑그림의 선을 활성화하여 표시하는 단계; 및
    상기 편집 영역의 밑그림 상에 터치 입력을 감지하면, 터치 입력의 자취에 따라 상기 밑그림의 선을 삭제하거나, 상기 밑그림에 선을 추가하는 단계;를 포함하는 것을 특징으로 하는 이미지 검색 방법.
  3. 제1항에 있어서,
    상기 이미지 검색어를 생성하는 단계는
    화면의 편집 영역에 상기 밑그림의 선을 활성화하여 표시하는 단계; 및
    선으로 이루어진 복수의 보조 밑그림을 표시하는 단계;
    상기 복수의 보조 밑그림 중 어느 하나가 선택되면, 선택된 보조 밑그림을 활성화하는 단계; 및
    상기 선택된 보조 밑그림 중 일부 영역이 선택되면, 보조 밑그림의 선택된 영역의 선의 형태로 상기 밑그림의 대응하는 영역의 선을 편집하는 단계;를 포함하는 것을 특징으로 하는 이미지 검색 방법.
  4. 제1항에 있어서,
    상기 이미지 검색어를 생성하는 단계는
    화면의 편집 영역에 상기 밑그림의 적어도 하나의 면을 활성화하여 표시하는 단계;
    상기 활성화된 면 중 어느 하나의 면이 선택되고, 선택된 면에 대한 텍스처 수정 요청이 있으면, 상기 선택된 면에 사용자에 의해 입력된 선이 존재하는지 여부를 판단하는 단계; 및
    사용자에 의해 입력된 선이 존재하면, 화면의 정보 영역에 미리 저장된 복수의 텍스처 중 사용자에 의해 입력된 선과 동일 또는 유사한 형상을 포함하는 복수의 텍스처를 추출하여 표시하는 단계; 및
    상기 표시된 복수의 텍스처 중 어느 하나가 선택되면, 상기 선택된 텍스트를 상기 선택된 면에 적용하는 단계;를 포함하는 것을 특징으로 하는 이미지 검색 방법.
  5. 제1항에 있어서,
    상기 이미지 검색어를 생성하는 단계는
    화면의 편집 영역에 상기 밑그림의 적어도 하나의 면을 활성화하여 표시하는 단계;
    상기 활성화된 면 중 어느 하나의 면이 선택되고, 선택된 면에 대한 텍스처 수정 요청이 있으면, 상기 선택된 면에 사용자에 의해 입력된 선이 존재하는지 여부를 판단하는 단계; 및
    사용자에 의해 입력된 선이 존재하지 않으면, 화면의 정보 영역에 미리 저장된 복수의 텍스처 중 상기 밑그림과 동일한 카테고리에 속한 복수의 텍스처를 추출하여 표시하는 단계; 및
    상기 표시된 복수의 텍스처 중 어느 하나가 선택되면, 상기 선택된 텍스트를 상기 선택된 면에 적용하는 단계;를 포함하는 것을 특징으로 하는 이미지 검색 방법.
  6. 제1항에 있어서,
    상기 이미지 검색어를 생성하는 단계는
    화면의 편집 영역에 상기 밑그림의 적어도 하나의 면을 활성화하여 표시하는 단계;
    상기 활성화된 면 중 어느 하나의 면이 선택되고, 선택된 면에 대한 색상 수정 요청이 있으면, 화면의 정보 영역에 미리 저장된 복수의 색상 중 상기 밑그림과 동일한 카테고리에 속한 복수의 색상을 포함하는 색상표를 표시하는 단계; 및
    상기 복수의 색상 중 어느 하나가 선택되면, 선택된 색상을 상기 선택된 면에 적용하는 단계;를 포함하는 것을 특징으로 하는 이미지 검색 방법.
  7. 제1항에 있어서,
    상기 밑그림을 생성하는 단계는
    상기 선택된 이미지에 대한 형태 분석을 통해 상기 선택된 이미지의 선을 특정하는 단계; 및
    상기 특정된 선이 형성하는 폐곡선을 기초로 적어도 하나의 면을 특정하는 단계;를 포함하는 것을 특징으로 하는 이미지 검색 방법.
  8. 이미지 검색의 검색 결과에 따른 복수의 이미지 중 어느 하나가 선택되면, 상기 선택된 이미지의 선 및 면을 편집 가능하도록 상기 선택된 이미지의 선 및 면을 특정한 밑그림을 생성하고, 상기 밑그림의 선 및 면 중 적어도 하나를 편집하여 이미지 검색어를 생성하는 이미지편집부; 및
    상기 이미지 검색어를 통해 이미지 검색을 수행하는 이미지검색부;를 포함하는 것을 특징으로 하는 이미지 검색을 위한 장치.
  9. 제9항에 있어서,
    상기 이미지편집부는
    화면의 편집 영역에 상기 밑그림의 선이 활성화되어 표시된 상태에서, 상기 편집 영역의 밑그림 상에 터치 입력을 감지하면, 터치 입력의 자취에 따라 상기 밑그림의 선을 삭제하거나, 상기 밑그림에 선을 추가하거나, 또는,
    화면의 편집 영역에 상기 밑그림의 선이 활성화되어 표시되고, 선으로 이루어진 복수의 보조 밑그림을 표시된 상태에서, 상기 복수의 보조 밑그림 중 어느 하나가 선택되고, 선택된 보조 밑그림 중 일부 영역이 선택되면, 보조 밑그림의 선택된 영역의 선의 형태로 상기 밑그림의 대응하는 영역의 선을 편집하는 것을 특징으로 하는 이미지 검색을 위한 장치.
  10. 제8항에 있어서,
    상기 이미지편집부는
    화면의 편집 영역에 상기 밑그림의 적어도 하나의 면이 활성화하여 표시된 상태에서,
    상기 활성화된 면 중 어느 하나의 면이 선택되고, 선택된 면에 대한 텍스처 수정 요청이 있으면, 상기 선택된 면에 사용자에 의해 입력된 선이 존재하는지 여부를 판단하고,
    사용자에 의해 입력된 선이 존재하면, 화면의 정보 영역에 미리 저장된 복수의 텍스처 중 사용자에 의해 입력된 선과 동일 또는 유사한 형상을 포함하는 복수의 텍스처를 추출하여 표시하거나, 사용자에 의해 입력된 선이 존재하지 않으면, 화면의 정보 영역에 미리 저장된 복수의 텍스처 중 상기 밑그림과 동일한 카테고리를 가지는 복수의 텍스처를 추출하여 표시하고,
    상기 표시된 복수의 텍스처 중 어느 하나가 선택되면, 상기 선택된 텍스트를 상기 선택된 면에 적용하는 것을 특징으로 하는 이미지 검색을 위한 장치.
  11. 제8항에 있어서,
    상기 이미지편집부는
    화면의 편집 영역에 상기 밑그림의 적어도 하나의 면이 활성화되어 표시된 상태에서,
    상기 활성화된 면 중 어느 하나의 면이 선택되고, 선택된 면에 대한 색상 수정 요청이 있으면, 화면의 정보 영역에 미리 저장된 복수의 색상 중 상기 밑그림과 동일한 카테고리를 가지는 복수의 색상을 포함하는 색상표를 표시하고,
    상기 복수의 색상 중 어느 하나가 선택되면, 선택된 색상을 상기 선택된 면에 적용하는 것을 특징으로 하는 이미지 검색을 위한 장치.
KR1020180074126A 2018-06-27 2018-06-27 편집된 이미지를 이용한 이미지 검색을 위한 방법 및 장치 KR20200001319A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180074126A KR20200001319A (ko) 2018-06-27 2018-06-27 편집된 이미지를 이용한 이미지 검색을 위한 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180074126A KR20200001319A (ko) 2018-06-27 2018-06-27 편집된 이미지를 이용한 이미지 검색을 위한 방법 및 장치

Publications (1)

Publication Number Publication Date
KR20200001319A true KR20200001319A (ko) 2020-01-06

Family

ID=69159180

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180074126A KR20200001319A (ko) 2018-06-27 2018-06-27 편집된 이미지를 이용한 이미지 검색을 위한 방법 및 장치

Country Status (1)

Country Link
KR (1) KR20200001319A (ko)

Similar Documents

Publication Publication Date Title
JP6311194B2 (ja) 連絡先グルーピング方法および装置
CN108572764B (zh) 一种文字输入控制方法、设备及计算机可读存储介质
CN114371803B (zh) 操作方法、智能终端及存储介质
CN114327189B (zh) 操作方法、智能终端及存储介质
KR20200005060A (ko) 가이드라인 기반 촬영 이미지를 이용한 이미지 검색 방법 및 이를 위한 장치
KR20200001319A (ko) 편집된 이미지를 이용한 이미지 검색을 위한 방법 및 장치
US20220197939A1 (en) Image-based search method, server, terminal, and medium
CN112230825A (zh) 分享方法、移动终端及存储介质
KR20200026398A (ko) 정보 공유 서비스의 고도화 방법 및 이를 위한 장치
KR20200026373A (ko) 검색 히스토리를 이용한 이미지 검색 방법 및 이를 위한 장치
CN111966804A (zh) 一种表情处理方法、终端及存储介质
KR20200023091A (ko) 유사도에 대한 정보를 제공하는 이미지 검색 방법 및 이를 위한 장치
KR20200003564A (ko) 복수의 아이템을 포함하는 이미지를 이용한 이미지 검색을 위한 방법 및 장치
WO2019072193A1 (zh) 一种信息智能检索的方法、装置及存储介质
WO2019166004A1 (zh) 智能终端及其文件管理方法、具有存储功能的装置
KR20200026391A (ko) 추천 서비스 제공 방법 및 이를 위한 장치
KR20200026422A (ko) 이미지 검색 장치 및 방법
KR20200004979A (ko) 업로드된 이미지를 편집하기 위한 방법 및 이를 위한 장치
KR20200026423A (ko) 사용자 컨텍스트 기반 사용자 분석 결과 제공 장치 및 방법
CN114860674B (zh) 文件处理方法、智能终端及存储介质
KR20200024037A (ko) 필터링을 이용한 이미지 검색 방법 및 이를 위한 장치
CN107623780B (zh) 一种编辑方法、终端及计算机可读存储介质
KR20200021737A (ko) 실시간 인기 검색어를 이용한 이미지 검색 방법 및 이를 위한 장치
KR20200001238A (ko) 스케치 기반의 이미지 검색을 위한 방법 및 장치
KR20200026338A (ko) 이미지 매칭을 이용한 이미지 검색 방법 및 이를 위한 장치

Legal Events

Date Code Title Description
N231 Notification of change of applicant