KR20200003564A - 복수의 아이템을 포함하는 이미지를 이용한 이미지 검색을 위한 방법 및 장치 - Google Patents

Abstract

본 발명은 복수의 아이템을 포함하는 이미지를 이용한 이미지 검색을 위한 방법 및 장치에 관한 것이다. 이러한 본 발명은 하나의 이미지 내에 복수의 아이템이 포함된 복합 이미지에 대한 이미지 검색 요청을 수신하는 단계와, 상기 복수의 아이템을 구분하고, 구분된 아이템 각각의 카테고리를 도출하는 단계와, 상기 이미지 검색 요청 시점으로부터 소정 기간 이전의 복수의 단위 기간 별로 사용자 컨텍스트를 추출하는 단계와, 상기 도출된 카테고리 각각과 상기 추출된 사용자 컨텍스트와의 상관관계에 따라 사용자가 이미지 검색하고자 하는 아이템의 카테고리를 예측하는 예측식에 상기 추출된 사용자 컨텍스트를 입력하여 카테고리를 예측하는 단계와, 상기 복합 이미지에서 상기 예측된 카테고리에 상응하는 아이템을 특정하는 단계와, 상기 복합 이미지로부터 특정된 아이템에 해당하는 이미지를 추출하여 이미지 검색어를 생성하는 단계와, 상기 이미지 검색어를 통해 이미지 검색을 수행하는 단계;를 포함한다.

Description

복수의 아이템을 포함하는 이미지를 이용한 이미지 검색을 위한 방법 및 장치{A method for image searching using an image comprising a plurality of items and an apparatus therefor}

본 발명은 이미지 검색 기술에 관한 것으로, 더욱 상세하게는, 하나의 이미지 내에 복수의 아이템이 포함된 복합 이미지를 이미지 검색어로 이용할 때, 사용자 컨텍스트에 따라 복수의 아이템 중 사용자가 검색을 원하는 아이템을 판별하여 판별된 객체에 대한 이미지 검색을 수행하는 방법 및 장치에 관한 것이다.

이미지 검색은 이미지를 찾는 방법과 목적에 따라 크게 두 가지로 구분할 수 있다. 첫 번째는 텍스트 검색어를 이용해 관련 이미지를 찾는 것이다. 예를 들어 텍스트 '꽃'이라는 키워드를 입력하면 다양한 종류의 꽃 사진을 볼 수 있다. 이 유형은 인터넷 초창기부터 있었던 전통적인 검색방식이다. 두 번째는 이미지 파일인 이미지 검색어를 입력하면, 이미지 파일을 분석해서 동일 또는 유사한 이미지를 찾아내는 것이다. 컴퓨터 분석 기술과 인터넷 기술이 발달하면서 등장한 방식이다. 키워드 방식에 비해 사용자가 이미지를 직관적으로 검색할 수 있다는 이점이 있다.

한국공개특허 제2010-0043823호, 2010년 04월 29일 공개 (명칭: 상품이미지를 이용한 온라인 쇼핑 기능을 제공하는 방법 및 쇼핑몰 서버)

본 발명의 목적은 하나의 이미지 내에 복수의 아이템이 포함된 복합 이미지를 이미지 검색어로 이용할 때, 복수의 아이템 중 어떤 아이템에 대한 이미지 검색을 수행할 것인지를 사용자 컨텍스트에 따라 판별하고, 판별된 아이템에 대한 이미지 검색을 수행하는 방법 및 장치를 제공함에 있다.

상술한 바와 같은 목적을 달성하기 위한 본 발명의 바람직한 실시예에 따른 이미지 검색을 위한 방법은 이미지 검색을 위한 장치가, 하나의 이미지 내에 복수의 아이템이 포함된 복합 이미지에 대한 이미지 검색 요청을 수신하면, 상기 복수의 아이템을 구분하고, 구분된 아이템 각각의 카테고리를 도출하는 단계와, 상기 이미지 검색 요청 시점으로부터 소정 기간 이전의 복수의 단위 기간 별로 사용자 컨텍스트를 추출하는 단계와, 상기 도출된 카테고리 각각과 상기 추출된 사용자 컨텍스트와의 상관관계에 따라 사용자가 이미지 검색하고자 하는 아이템의 카테고리를 예측하는 예측식에 상기 추출된 사용자 컨텍스트를 입력하여 카테고리를 예측하는 단계와, 상기 복합 이미지에서 상기 예측된 카테고리에 상응하는 아이템을 특정하는 단계와, 상기 복합 이미지로부터 특정된 아이템에 해당하는 이미지를 추출하여 이미지 검색어를 생성하는 단계와, 상기 이미지 검색어를 통해 이미지 검색을 수행하는 단계를 포함한다.

상기 방법은 상기 이미지 검색 요청을 수신하는 단계 전, 검색어 입력을 통해 이미지 검색이 이루어질 때마다, 검색어 입력 시점(Tin)을 기준으로 소정 기간 이전부터 검색어 입력 시점까지의 사용자 컨텍스트를 단위 기간 별로 추출하는 단계와, 상기 입력된 검색어에 따라 검색된 이미지의 카테고리 및 상기 추출된 사용자 컨텍스트를 1 세트의 훈련 데이터로 저장하는 단계를 더 포함한다.

상기 방법은 훈련 데이터로 저장하는 단계 후, 상기 이미지 검색 요청을 수신하는 단계 전, 복수의 세트의 훈련 데이터를 회기방정식에 입력하여 연립 방정식 구성하는 단계와, 상기 연립방정식의 해인 가중치를 산출하는 단계와, 상기 산출된 가중치가 적용된 회기방정식을 상기 예측식으로 결정하는 단계를 더 포함한다.

상기 회기방정식은

이고,

상기 x는 카테고리의 인덱스이고, 상기 Cx는 인덱스 x의 카테고리가 선택될 확률이고, 상기 j는 단위 기간의 인덱스이고, 상기 m은 단위 기간의 가중치이고, 상기 i는 사용자 컨텍스트의 인덱스이고, 상기 n은 사용자 컨텍스트이며, 상기 a는 사용자 컨텍스트의 가중치인 것을 특징으로 한다.

상기 사용자 컨텍스트는 수학식

를 통해 지수화한 지수값을 사용하며,

상기 n은 사용자 컨텍스트의 값이고, 상기 i는 카테고리 인덱스이고, 상기 j는 단위 기간의 인덱스이고, 상기 nx는 사용자 컨텍스트의 지수값인 것을 특징으로 한다.

상기 예측된 카테고리에 상응하는 아이템을 특정하는 단계는 상기 이미지처리모듈이 상기 복합 이미지에 상기 예측된 카테고리에 상응하는 아이템이 단수인지 복수인지 여부를 판별하는 단계와, 상기 이미지처리모듈이 상기 판별 결과, 단수이면, 단수인 상기 예측된 카테고리에 해당하는 아이템을 특정하고, 상기 판별 결과, 복수이면, 미리 선정된 디자인 선호도에 따라 복수의 아이템 중 선호도가 가장 높은 아이템을 특정하는 단계를 포함한다.

상기 방법은 상기 이미지 검색 요청을 수신하는 단계 전, 검색어 입력을 통해 이미지 검색이 이루어질 때마다, 검색된 이미지를 카테고리별로 분류하여 누적 저장하는 단계와, 카테고리별로 상기 검색된 이미지를 디자인 분류에 따라 그룹화하여 복수의 그룹을 생성하는 단계와, 복수의 그룹 각각에 속한 상기 검색된 이미지의 수에 따라 상기 디자인 분류의 디자인 선호도를 결정하는 단계를 더 포함한다.

상술한 바와 같은 목적을 달성하기 위한 본 발명의 바람직한 실시예에 따른 복수의 아이템을 포함하는 이미지를 이용한 이미지 검색을 위한 장치는 하나의 이미지 내에 복수의 아이템이 포함된 복합 이미지에 대한 이미지 검색 요청을 수신하면, 상기 복수의 아이템을 구분하고, 구분된 아이템 각각의 카테고리를 도출하고, 상기 이미지 검색 요청 시점으로부터 소정 기간 이전의 복수의 단위 기간 별로 사용자 컨텍스트를 추출하고, 상기 도출된 카테고리 각각과 상기 추출된 사용자 컨텍스트와의 상관관계에 따라 사용자가 이미지 검색하고자 하는 아이템의 카테고리를 예측하는 예측식에 상기 추출된 사용자 컨텍스트를 입력하여 카테고리를 예측하는 카테고리예측모듈과, 상기 복합 이미지에서 상기 예측된 카테고리에 상응하는 아이템을 특정하고, 상기 복합 이미지로부터 특정된 아이템에 해당하는 이미지를 추출하여 이미지 검색어를 생성하는 이미지처리모듈과, 상기 이미지 검색어를 통해 이미지 검색을 수행하는 이미지검색모듈을 포함한다.

상기 카테고리예측모듈은 상기 이미지 검색 요청 수신 전, 검색어 입력을 통해 이미지 검색이 이루어질 때마다, 검색어 입력 시점(Tin)을 기준으로 소정 기간 이전부터 검색어 입력 시점까지의 사용자 컨텍스트를 단위 기간 별로 추출하고, 상기 입력된 검색어에 따라 검색된 이미지의 카테고리 및 상기 추출된 사용자 컨텍스트를 1 세트의 훈련 데이터로 저장하며, 복수의 세트의 훈련 데이터를 회기방정식에 입력하여 연립 방정식 구성하고, 상기 연립방정식의 해인 가중치를 산출하여 상기 산출된 가중치가 적용된 회기방정식을 상기 예측식으로 결정하는 것을 특징으로 한다.

상기 회기방정식은

이고,

상기 x는 카테고리의 인덱스이고, 상기 Cx는 인덱스 x의 카테고리가 선택될 확률이고, 상기 j는 단위 기간의 인덱스이고, 상기 m은 단위 기간의 가중치이고, 상기 i는 사용자 컨텍스트의 인덱스이고, 상기 n은 사용자 컨텍스트이고, 상기 a는 사용자 컨텍스트의 가중치인 것을 특징으로 한다.

상기 사용자 컨텍스트는

수학식

를 통해 지수화한 지수값을 사용하며,

상기 n은 사용자 컨텍스트의 값이고, 상기 i는 카테고리 인덱스이고, 상기 j는 단위 기간의 인덱스이고, 상기 nx는 사용자 컨텍스트의 지수값인 것을 특징으로 한다.

상기 이미지처리모듈은 상기 복합 이미지에 상기 예측된 카테고리에 상응하는 아이템이 단수인지 복수인지 여부를 판별하고, 상기 판별 결과, 단수이면, 단수인 상기 예측된 카테고리에 해당하는 아이템을 특정하고, 상기 판별 결과, 복수이면, 미리 선정된 디자인 선호도에 따라 복수의 아이템 중 선호도가 가장 높은 아이템을 특정하는 것을 특징으로 한다.

상기 이미지처리모듈은 상기 이미지 검색 요청 수신 전, 검색어 입력을 통해 이미지 검색이 이루어질 때마다, 이미지 검색 시 마다, 검색된 이미지를 카테고리별로 분류하여 누적 저장하고, 카테고리별로 상기 검색된 이미지를 디자인 분류에 따라 그룹화하여 복수의 그룹을 생성하고, 복수의 그룹 각각에 속한 상기 검색된 이미지의 수에 따라 상기 디자인 분류의 디자인 선호도를 결정하는 것을 특징으로 한다.

본 발명에 따르면, 복수의 아이템을 포함하는 복합 이미지 중 사용자 컨텍스트를 통해 사용자의 의도를 예측하여 예측된 아이템에 대한 이미지 검색을 수행함으로써, 복합 이미지를 입력하는 경우에도 사용자가 원하는 아이템에 대한 이미지 검색을 수행할 수 있다. 이는 사용자 편의를 제공하는 사용자경험(UX)을 제공한다.

도 1은 본 발명의 실시예에 따른 복합 이미지를 위한 이미지 검색 시스템을 설명하기 위한 도면이다.
도 2는 본 발명에 따른 이미지 검색을 위한 검색 서버의 구성을 나타낸 블록도이다.
도 3은 본 발명에 따른 이미지 검색을 위한 사용자 장치의 구성을 나타낸 블록도이다.
도 4는 본 발명의 실시예에 따른 이미지 검색을 위한 방법에 있어서, 사용자 컨텍스트를 수집하는 과정을 설명하기 위한 흐름도이다.
도 5는 본 발명의 실시예에 따른 이미지 검색을 위한 방법에 있어서, 사용자 컨텍스트를 수집하는 과정을 설명하기 위한 모식도이다.도 6은 본 발명의 실시예에 따른 이미지 검색을 위한 방법에 있어서, 예측식을 도출하는 과정을 설명하기 위한 흐름도이다.
도 7은 본 발명의 실시예에 따른 이미지 검색을 위한 방법에 있어서, 이미지 선호도를 산출하는 과정을 설명하기 위한 흐름도이다.
도 8은 본 발명의 실시예에 따른 이미지 검색을 위한 방법에 있어서, 이미지 선호도를 산출하는 과정의 예시도이다.
도 9는 본 발명의 실시예에 따른 이미지 검색 시스템에 있어서, 이미지 검색 과정을 나타낸 흐름도이다.
도 10은 본 발명의 실시 예에 따른 검색서버의 동작을 설명하기 위한 순서도이다.
도 11 및 도 12는 본 발명의 실시예에 따른 복수의 이미지를 포함하는 복합 이미지 및 그 검색 과정을 설명하기 위한 예시도이다.

본 발명의 과제 해결 수단의 특징 및 이점을 보다 명확히 하기 위하여, 첨부된 도면에 도시된 본 발명의 특정 실시 예를 참조하여 본 발명을 더 상세하게 설명한다.

다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.

이하의 설명 및 도면에서 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시 예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시 예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다.

또한, 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하기 위해 사용하는 것으로, 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 뿐, 상기 구성요소들을 한정하기 위해 사용되지 않는다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제2 구성요소는 제1 구성요소로 명명될 수 있고, 유사하게 제1 구성요소도 제2 구성요소로 명명될 수 있다.

더하여, 어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급할 경우, 이는 논리적 또는 물리적으로 연결되거나, 접속될 수 있음을 의미한다. 다시 말해, 구성요소가 다른 구성요소에 직접적으로 연결되거나 접속되어 있을 수 있지만, 중간에 다른 구성요소가 존재할 수도 있으며, 간접적으로 연결되거나 접속될 수도 있다고 이해되어야 할 것이다.

또한, 본 명세서에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 또한, 본 명세서에서 기술되는 "포함 한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

또한, 명세서에 기재된 "?부", "?기", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.

또한, "일(a 또는 an)", "하나(one)", "그(the)" 및 유사어는 본 발명을 기술하는 문맥에 있어서(특히, 이하의 청구항의 문맥에서) 본 명세서에 달리 지시되거나 문맥에 의해 분명하게 반박되지 않는 한, 단수 및 복수 모두를 포함하는 의미로 사용될 수 있다.

아울러, 본 발명의 범위 내의 실시 예들은 컴퓨터 실행가능 명령어 또는 컴퓨터 판독가능 매체에 저장된 데이터 구조를 가지거나 전달하는 컴퓨터 판독가능 매체를 포함한다. 이러한 컴퓨터 판독가능 매체는, 범용 또는 특수 목적의 컴퓨터 시스템에 의해 액세스 가능한 임의의 이용 가능한 매체일 수 있다. 예로서, 이러한 컴퓨터 판독가능 매체는 RAM, ROM, EPROM, CD-ROM 또는 기타 광 디스크 저장장치, 자기 디스크 저장장치 또는 기타 자기 저장장치, 또는 컴퓨터 실행가능 명령어, 컴퓨터 판독가능 명령어 또는 데이터 구조의 형태로 된 소정의 프로그램 코드 수단을 저장하거나 전달하는 데에 이용될 수 있고, 범용 또는 특수 목적 컴퓨터 시스템에 의해 액세스 될 수 있는 임의의 기타 매체와 같은 물리적 저장 매체를 포함할 수 있지만, 이에 한정되지 않는다.

이하의 설명 및 특허 청구 범위에서, "네트워크"는 컴퓨터 시스템들 및/또는 모듈들 간의 전자 데이터를 전송할 수 있게 하는 하나 이상의 데이터 링크로서 정의된다. 정보가 네트워크 또는 다른 (유선, 무선, 또는 유선 또는 무선의 조합인) 통신 접속을 통하여 컴퓨터 시스템에 전송되거나 제공될 때, 이 접속은 컴퓨터-판독가능매체로서 이해될 수 있다. 컴퓨터 판독가능 명령어는, 예를 들면, 범용 컴퓨터 시스템 또는 특수 목적 컴퓨터 시스템이 특정 기능 또는 기능의 그룹을 수행하도록 하는 명령어 및 데이터를 포함한다. 컴퓨터 실행가능 명령어는, 예를 들면, 어셈블리어, 또는 심지어는 소스코드와 같은 이진, 중간 포맷 명령어일 수 있다.

아울러, 본 발명은 퍼스널 컴퓨터, 랩탑 컴퓨터, 핸드헬드 장치, 멀티프로세서 시스템, 마이크로프로세서-기반 또는 프로그램 가능한 가전제품(programmable consumer electronics), 네트워크 PC, 미니컴퓨터, 메인프레임 컴퓨터, 모바일 전화, PDA, 페이저(pager) 등을 포함하는 다양한 유형의 컴퓨터 시스템 구성을 가지는 네트워크 컴퓨팅 환경에서, 상기 컴퓨터 시스템들을 대상으로 광고를 제공하는데 적용될 수 있다. 본 발명은 또한 네트워크를 통해 유선 데이터 링크, 무선 데이터 링크, 또는 유선 및 무선 데이터 링크의 조합으로 링크된 로컬 및 원격 컴퓨터 시스템 모두가 태스크를 수행하는 분산형 시스템 환경에서 실행될 수 있다. 분산형 시스템 환경에서, 프로그램 모듈은 로컬 및 원격 메모리 저장 장치에 위치될 수 있다.

먼저, 본 발명의 실시예에 따른 복수의 아이템을 포함하는 이미지를 이용한 이미지 검색 시스템에 대해서 설명하기로 한다. 도 1은 본 발명의 실시예에 따른 복수의 아이템을 포함하는 이미지를 이용한 이미지 검색 시스템을 나타낸 도면이다. 도 1을 참조하면, 이미지 검색 시스템은 네트워크(NW)를 통해 연결된 검색서버(100) 및 사용자장치(200)를 포함한다.

검색서버(100) 및 사용자장치(200)는 네트워크(NW)을 통해 상호간에 데이터를 송수신할 수 있다. 예를 들면, 통신망(NW)은 WLAN(Wireless LAN), 와이파이(Wi-Fi), 와이브로(Wibro), 와이맥스(Wimax), HSDPA(High Speed Downlink Packet Access) 등의 무선 통신망을 포함할 수 있으며, 시스템 구현 방식에 따라 이더넷(Ethernet), xDSL(ADSL, VDSL), HFC(Hybrid Fiber Coaxial Cable), FTTC(Fiber to The Curb), FTTH(Fiber To The Home) 등의 유선 통신망을 포함할 수도 있다.

아울러, 본 발명의 네트워크 (NW)은 예컨대, 다수의 접속망(미도시) 및 이들을 연결하는 코어망(미도시)으로 이루어진 이동통신망을 포함할 수 있다. 여기서, 접속망은 단말과 직접 접속하여 무선 통신을 수행하는 망으로서, 예를 들어, BS(Base Station), BTS(Base Transceiver Station), NodeB, eNodeB 등과 같은 다수의 기지국과, BSC(Base Station Controller), RNC(Radio Network Controller)와 같은 기지국 제어기로 구현될 수 있다. 또한, 전술한 바와 같이, 기지국에 일체로 구현되어 있던 디지털 신호 처리부와 무선 신호 처리부를 각각 디지털 유니트(Digital Unit, 이하 DU라 함과 무선 유니트(Radio Unit, 이하 RU라 함)으로 구분하여, 다수의 영역에 각각 다수의 RU(미도시)를 설치하고, 다수의 RU를 집중화된 DU와 연결하여 구성할 수도 있다. 또한, 접속망과 함께 모바일 망을 구성하는 코어망(미도시)은 접속망과 외부 망, 예컨대, 인터넷망과 같은 다른 통신망을 연결하는 역할을 수행한다.

이러한 코어망은 앞서 설명한 바와 같이, 접속망 간의 이동성 제어 및 스위칭 등의 이동통신 서비스를 위한 주요 기능을 수행하는 네트워크 시스템으로서, 서킷 교환(circuit switching) 또는 패킷 교환(packet switching)을 수행하며, 모바일 망 내에서의 패킷 흐름을 관리 및 제어한다. 또한, 코어망은 주파수간 이동성을 관리하고, 접속망 및 코어망 내의 트래픽 및 다른 네트워크, 예컨대 인터넷망과의 연동을 위한 역할을 수행할 수도 있다. 이러한 코어망은 SGW(Serving GateWay), PGW(PDN GateWay), MSC(Mobile Switching Center), HLR(Home Location Register), MME(Mobile Mobility Entity)와 HSS(Home Subscriber Server) 등을 더 포함하여 구성될 수도 있다.

또한, 본 발명에 따른 네트워크(NW)는 인터넷망을 포함할 수 있다. 인터넷망은 TCP/IP 프로토콜에 따라서 정보가 교환되는 통상의 공개된 통신망, 즉 공용망을 의미한다. 이러한 네트워크(NW)를 통해서 검색서버(100) 및 사용자장치(200)가 상호 연동하여 본 발명에 따른 기반 이미지 검색 시스템을 구성한다.

사용자장치(200)는 하나의 이미지 내에 복수의 아이템이 포함된 복합 이미지를 이미지 검색어로 하는 이미지 검색 요청이 입력되면, 입력된 이미지 검색어를 검색서버(100)로 전송하여 이미지 검색을 요청한다.

이에 따라, 검색서버(100)가 복합 이미지에 대한 이미지 검색 요청을 수신하면, 사용자가 이미지 검색하고자 하는 아이템의 카테고리를 예측한다. 이러한 예측은 사용자 컨텍스트와 카테고리의 상관관계를 통해 이루어진다. 또한, 검색서버(100)는 복합 이미지로부터 예측된 카테고리의 아이템에 해당하는 이미지를 추출하여 이미지 검색어를 생성하고, 생성된 이미지 검색어를 통해 이미지 검색을 수행한다.

따라서 검색서버(100)는 생성된 이미지 검색어에 대한 이미지 검색을 수행하여 해당 이미지 검색어와 동일 혹은 유사한 이미지를 검색하고, 그 이미지 검색 결과 도출된 동일 혹은 유사한 이미지를 사용자장치(200)에 제공한다. 이에 따라, 사용자가 복수의 아이템을 포함하는 복합 이미지를 입력하는 경우에도 사용자가 원하는 아이템에 대한 이미지 검색 결과를 제공할 수 있다.

여기서, 검색서버(100)는 네트워크 상에 존재하는 하나의 엔티티(Entity)로, 웹 서버(web server), 데이터베이스 서버(database server) 및 애플리케이션 서버(application server)의 역할을 수행한다. 바람직한 일 실시예에 따르면, 검색서버(100)는 쇼핑 몰 웹 사이트를 제공하는 웹 서버와, 이러한 웹 사이트에서 판매되는 아이템의 이미지를 저장하는 데이터베이스 서버 및 이미지 검색어와 동일 또는 유사한 이미지를 검색하여 제공하는 애플리케이션 서버의 역할을 수행할 수 있다. 이하의 실시예에서 검색서버(100)는 다양한 제품을 판매하는 인터넷 쇼핑 몰 서비스를 제공하는 서버라고 가정한다. 이에 따라, 검색서버(100)는 데이터베이스에 저장된 복수의 이미지에서 이미지를 검색할 수 있다. 인터넷 쇼핑 몰에서 판매하는 이러한 이미지는 상품 이미지가 될 수 있다. 한편, 다른 실시예에 따르면, 검색서버(100)는 네트워크를 통해 다른 서버, 즉, 웹 서버에 접속하여 복수의 웹 페이지로부터 이미지를 검색할 수 있다.

또한, 사용자장치(200)는 이동통신단말기를 대표적인 예로서 설명하지만 단말기는 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말기, 유선 단말기, 고정형 단말기 및 IP(Internet Protocol) 단말기 등의 다양한 단말기에 적용될 수 있다. 일례로, 단말기는 휴대폰, PMP(Portable MultimediaPlayer), MID(Mobile Internet Device), 스마트폰(Smart Phone), 태블릿 PC, 패블릿 PC 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말기일 때 유리하게 활용될 수 있다. 다른 예로, 단말기는 노트북, 퍼스널컴퓨터 등이 될 수도 있다.

그러면, 보다 상세히 본 발명의 실시예에 따른 검색서버(100) 및 사용자장치(200)의 구성에 대해서 살펴보기로 한다. 먼저, 본 발명의 실시예에 따른 검색서버(100)의 구성에 대해서 설명하기로 한다.

도 2는 본 발명의 실시예에 따른 검색서버의 구성을 설명하기 위한 블록도이다. 도 2를 참조하면, 검색서버(100)는 통신모듈(110), 저장모듈(120) 및 제어모듈(130)을 포함한다.

통신모듈(110)은 사용자장치(200)와의 통신을 위한 것이다. 통신모듈(110)은 사용자장치(200)가 검색서버(100)에 접속하면 사용자장치(200)와 필요한 정보를 포함하는 데이터를 교환하기 위한 통신을 수행한다. 통신모듈(110)은 제어모듈(130)로부터 사용자장치(200)로 전송하기 위한 데이터, 예컨대, 복수의 이미지를 포함하는 검색 결과를 전달받으면, 전달받은 데이터를 패킷으로 구성하여 전송한다. 또한, 통신모듈(110)은 사용자장치(200)로부터 수신되는 패킷으로부터 데이터, 즉, 복수의 아이템을 포함하는 복합 이미지를 추출하여, 추출된 데이터를 제어모듈(130)로 전달한다.

저장모듈(120)은 검색서버(100)의 동작에 필요한 프로그램 및 데이터를 저장하는 역할을 수행하며, 프로그램 영역과 데이터 영역으로 구분될 수 있다. 프로그램 영역은 검색서버(100)의 전반적인 동작을 제어하는 프로그램 및 검색서버(100)를 부팅시키는 운영체제(OS, Operating System), 이미지 검색을 위한 애플리케이션을 등을 저장할 수 있다. 데이터 영역은 검색서버(100)의 운영에 따라 발생하는 데이터 및 검색서버(100)의 운영에 필요한 데이터가 저장되는 영역이다. 예컨대, 저장모듈(120)은 복수의 아이템에 대한 이미지를 저장할 수 있다. 저장모듈(120)에 저장되는 각 종 데이터는 사용자의 조작에 따라, 삭제, 변경, 추가될 수 있다.

제어모듈(130)은 검색서버(100)의 전반적인 동작 및 검색서버(100)의 내부 블록들 간 신호 흐름을 제어하고, 데이터를 처리하는 데이터 처리 기능을 수행할 수 있다. 이러한 제어모듈(130)은 마이크로프로세서 또는 중앙 처리 장치(Central Processing Unit: CPU)인 것이 바람직하다. 제어모듈(130)은 카테고리예측모듈(131), 이미지처리모듈(133) 및 이미지검색모듈(135)을 포함한다.

카테고리예측모듈(131)은 복합 이미지에 포함된 복수의 이미지 중 사용자 컨텍스트와의 상관관계에 따라 사용자가 이미지 검색하고자 하는 아이템의 카테고리를 예측한다. 이미지처리모듈(133)은 복합 이미지에서 상기 예측된 카테고리에 상응하는 아이템을 특정하고, 복합 이미지로부터 특정된 아이템에 해당하는 이미지를 추출하여 이미지 검색어를 생성한다. 이미지검색모듈(135)은 이미지처리모듈(133)이 생성한 이미지 검색어를 통해 이미지 검색을 수행한다. 이러한 카테고리예측모듈(131), 이미지처리모듈(133) 및 이미지검색모듈(135)을 포함하는 제어모듈(130)의 동작은 아래에서 더 상세하게 설명될 것이다.

다음으로, 본 발명의 실시예에 따른 사용자장치(200)에 대해서 설명하기로 한다. 도 3은 본 발명의 실시예에 따른 사용자장치의 구성을 설명하기 위한 블록도이다. 도 3을 참조하면, 본 발명의 실시예에 따른 사용자장치(200)는 통신부(210), 입력부(220), 표시부(230), 저장부(240) 및 제어부(250)를 포함한다.

통신부(210)는 검색서버(100)를 비롯한 다른 장치와 통신을 위한 것으로, 다양한 통신 연결 방식을 통해 통신을 수행한다. 이러한 통신부(210)는 다양한 통신 연결 방식의 통신 기능 중 어느 하나를 선택하여 통신할 수 있다. 이러한 통신부(210)는 하나의 모듈 혹은 복수의 모듈로 구현될 수도 있다. 예컨대, 통신부(210)는 WCDMA, LTE, LTE-A 등의 표준에 따라 기지국을 통해 네트워크에 접속하는 광대역이동통신 방식, Wi-Fi(wireless fidelity)를 이용하는 WLAN(Wireless Local Area Network) 방식에 따라 접속포인트(AP: Access Point)를 통해 네트워크에 접속하여 통신을 수행하는 무선근거리통신 방식 등을 이용할 수 있다. 통신부(210)는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF송신기와, 수신되는 신호를 저 잡음 증폭하고 주파수를 하강 변환하는 RF수신기 등으로 구성될 수 있다. 제어부(250)로부터 전달 받은 데이터, 예컨대, 이미지 검색어를 무선 신호로 변환하여 무선 채널을 통해 전송할 수 있다. 또한, 통신부(210)는 무선 채널을 통해 데이터, 예컨대, 이미지 검색 결과를 포함하는 무선 신호를 수신하여 제어부(250)로 전달할 수 있다.

입력부(220)는 사용자장치(200)를 제어하기 위한 사용자의 키 조작을 입력 받고 입력 신호를 생성하여 제어부(250)로 전달한다. 입력부(220)는 전원 on/off를 위한 전원 키, 숫자 키, 방향키 중 어느 하나를 포함할 수 있으며, 사용자장치(200)의 일면에 소정의 기능키로 형성될 수 있다. 표시부(230)가 터치스크린으로 이루어진 경우, 입력부(220)의 각 종 키들의 기능이 표시부(230)에서 이루어질 수 있으며, 터치스크린만으로 모든 기능을 수행할 수 있는 경우, 입력부(220)는 생략될 수도 있다.

표시부(230)는 사용자장치(200)의 메뉴, 입력된 데이터, 기능 설정 정보 및 기타 다양한 정보를 사용자에게 시각적으로 제공한다. 표시부(230)는 사용자장치(200)의 부팅 화면, 대기 화면, 메뉴 화면 등의 각종 화면을 출력하는 기능을 수행한다. 이러한 표시부(230)는 액정표시장치(LCD, Liquid Crystal Display), 유기 발광 다이오드(OLED, Organic Light Emitting Diodes), 능동형 유기 발광 다이오드(AMOLED, Active Matrix Organic Light Emitting Diodes) 등으로 형성될 수 있다. 한편, 표시부(230)는 터치스크린으로 구현될 수 있다. 이러한 경우, 표시부(230)는 터치센서를 포함하며, 제어부(250)는 터치센서를 통해 사용자의 터치 입력을 감지할 수 있다. 터치센서는 정전용량 방식(capacitive overlay), 압력식, 저항막 방식(resistive overlay), 적외선 감지 방식(infrared beam) 등의 터치 감지 센서로 구성되거나, 압력 감지 센서(pressure sensor)로 구성될 수도 있다. 상기 센서들 이외에도 물체의 접촉 또는 압력을 감지할 수 있는 모든 종류의 센서 기기가 본 발명의 터치센서로 이용될 수 있다. 터치센서는 사용자의 터치 입력을 감지하고, 감지 신호를 발생시켜 제어부(250)로 전송한다. 이러한 감지 신호에는 사용자가 터치를 입력한 좌표 데이터가 포함될 수 있다. 사용자가 터치 위치 이동 동작을 입력한 경우에 터치센서는 터치 위치 이동 경로의 좌표 데이터를 포함한 감지 신호를 발생시켜 제어부(250)로 전송할 수 있다.

저장부(240)는 사용자장치(200)의 동작에 필요한 프로그램 및 데이터를 저장하는 역할을 수행하며, 프로그램 영역과 데이터 영역으로 구분될 수 있다. 프로그램 영역은 사용자장치(200)의 전반적인 동작을 제어하는 프로그램 및 사용자장치(200)를 부팅시키는 운영체제(OS, Operating System), 응용 프로그램 등을 저장할 수 있다. 데이터 영역은 사용자장치(200)의 사용에 따라 발생하는 데이터가 저장되는 영역이다. 또한, 저장부(240)는 사용자장치(200)의 동작에 따라 발생되는 각 종 데이터 등을 저장할 수 있다. 제어부(250)는 사용자장치(200)의 전반적인 동작 및 사용자장치(200)의 내부 블록들 간 신호 흐름을 제어하고, 데이터를 처리하는 데이터 처리 기능을 수행할 수 있다. 이러한 제어부(250)는 중앙 처리 장치(Central Processing Unit: CPU), 애플리케이션 프로세서(Application Processor), 그래픽 프로세서(GPU: graphic processing unit) 등이 될 수 있다. 제어부(250)는 이미지 검색어, 예컨대, 복합 이미지가 입력되면, 입력된 복합 이미지를 통신부(210)를 통해 검색서버(100)로 전송하며, 검색서버(100)로부터 검색 결과가 수신되면, 수신된 검색 결과를 표시부(130)를 통해 표시할 수 있다.

다음으로, 본 발명의 실시예에 따른 복수의 아이템을 포함하는 이미지를 이용한 이미지 검색을 위한 방법에 대해서 설명하기로 한다. 본 발명의 실시예에 따른 복합 이미지에 대한 이미지 검색을 위해 사용자 컨텍스트를 수집하고, 예측식을 도출하며, 디자인 분류에 따른 이미지 선호도를 산출하는 절차가 선행되어야 한다. 이러한 절차에 대해서 설명하기로 한다.

먼저, 본 발명의 실시예에 따른 이미지 검색을 위한 방법에 있어서, 사용자 컨텍스트를 수집하는 과정에 대해서 설명하기로 한다.

도 4는 본 발명의 실시예에 따른 사용자 컨텍스트를 수집하는 방법에 대해서 설명하기 위한 흐름도이다. 도 5는 본 발명의 실시예에 따른 사용자 컨텍스트를 수집하는 방법에 대해서 설명하기 위한 모식도이다.

검색서버(100)의 이미지검색모듈(135)은 사용자장치(200)로부터 텍스트 검색어 및 이미지 검색어 중 어느 하나의 검색어를 포함하는 이미지 검색 요청을 수신하면, 해당 검색어에 따라 이미지 검색을 수행한다. 이러한 이미지 검색의 절차와 별개로 카테고리예측모듈(131)은 다음과 같은 절차를 수행한다.

도 4 및 도 5를 참조하면, 상기 검색서버(100)의 카테고리예측모듈(131)은 S110 단계에서 사용자장치(200)로부터 텍스트 검색어 및 이미지 검색어 중 어느 하나의 검색어를 포함하는 이미지 검색 요청을 수신하면, S120 단계에서 검색어 입력 시점(Tin)을 기준으로 소정 기간 이전(Tb)부터 검색어 입력 시점(Tin)까지의 소정의 단위 기간(T1, T2, T3, ......) 별로 복수의 사용자 컨텍스트를 추출한다.

예컨대, 검색서버(100)가 인터넷 쇼핑 몰 서비스를 제공하는 서버라고 가정할 때, 사용자장치(200)는 검색서버(100)에 접속하여 아이템을 구매하거나, 관심있는 아이템을 장바구니에 담거나(임시저장), 구매하고자 하는 아이템을 검색할 수 있다. 검색서버(100)는 사용자장치(200)의 이러한 동작이 있을 때마다, 구매, 임시저장 및 검색한 시간, 횟수 및 그 아이템이 속한 카테고리를 사용자장치(200)의 식별자 혹은 사용자 식별자(예컨대, ID)에 매핑하여 저장할 수 있다. 이러한 경우, 복수의 사용자 컨텍스트는 카테고리 별 아이템의 구매 횟수, 카테고리 별 아이템을 장바구니에 담은 횟수, 카테고리 별 아이템의 검색 횟수 등을 예시할 수 있다. 이러한 사용자 컨텍스트는, 웹 브라우저에서 생성되는 쿠키를 이용하여 수집될 수 있다.

이와 같이, 사용자 컨텍스트를 추출한 후, 카테고리예측모듈(131)은 S130 단계에서 이미지 검색 요청(S110)에 따라 검색된 이미지의 카테고리 및 추출된 사용자 컨텍스트를 1세트의 훈련 데이터로 하여 저장모듈(120)에 누적하여 저장한다.

전술한 바와 같이, 검색 이전 소정 기간(T1, T2, T3, ......)의 사용자 컨텍스트를 수집하여 이미지 검색이 이루어지기 전, 소정 기간(T1, T2, T3, ......) 동안 사용자가 관심을 가졌던 아이템의 카테고리와 검색 수행 시점(Tin)에 사용자가 의도한 아이템의 카테고리의 관계에 대해서 분석할 수 있다.

전술한 사용자 컨텍스트를 추출하는 절차는 이미지 검색이 이루어질 때마다 반복된다. 한편, 충분히 많은 세트의 훈련 데이터가 누적되어 저장되면, 예측식을 도출할 수 있다. 그러면, 본 발명의 실시예에 따른 예측식을 도출하는 방법에 대해서 설명하기로 한다. 도 6은 본 발명의 실시예에 따른 그러면, 본 발명의 실시예에 따른 예측식을 도출하는 방법을 설명하기 위한 흐름도이다.

도 6을 참조하면, 검색서버(100)의 카테고리예측모듈(131)은 먼저 S210 단계에서 회기방정식을 마련한다.

전술한 바와 같이, 1 세트의 훈련 데이터는 검색된 이미지의 카테고리 및 단위기간(T1, T2, ??) 별로 추출된 사용자 컨텍스트를 포함한다. 회기방정식에서 사용자 컨텍스트는 다음의 수학식 1과 같이 단위 기간별로 지수화한 지수값을 사용한다.

여기서, n은 사용자 컨텍스트의 값(횟수)를 나타내며, i는 카테고리 인덱스이며, j는 단위 기간의 인덱스를 나타낸다. 그리고 nx는 사용자 컨텍스트의 지수값을 나타낸다.

또한, 본 발명의 실시예에 따른 회기방정식은 다음의 수학식 2와 같다.

여기서, x는 카테고리의 인덱스이고, Cx는 인덱스 x의 카테고리가 선택될 확률이다. 또한, j는 단위 기간의 인덱스이고, m은 단위 기간의 가중치이다. 즉, m1, m2, m3, ?? mj는 서로 다른 단위 기간의 가중치를 나타낸다. 예컨대, m2는 2번째 단위 기간의 가중치를 나타낸다. 그리고 i는 사용자 컨텍스트의 인덱스이고, n은 사용자 컨텍스트이며, 앞서 산출된 지수값을 사용한다. 즉, n1, n2, ?? ni는 서로 다른 사용자 컨텍스트를 나타낸다. 예컨대, n2,3은 3번째 단위 기간의 2번째 사용자 컨텍스트를 나타낸다. 또한, a는 사용자 컨텍스트의 가중치이다. 즉, a1, a2, ? ai는 서로 다른 사용자 컨텍스트의 가중치를 나타낸다. 예컨대, a1,2는 2번째 단위 기간의 1번째 사용자 컨텍스트의 가중치를 나타낸다. a0는 보정 가중치를 나타낸다. 예컨대, a0,j는 j번째 단위 기간의 모든 사용자 컨텍스트에 대한 보정 가중치를 나타낸다.

예시적으로, 3개의 사용자 컨텍스트가 사용되며, 이러한 3개의 사용자 컨텍스트는 카테고리에 해당하는 아이템의 구매 횟수, 카테고리에 해당하는 아이템을 장바구니에 담은 횟수, 카테고리에 해당하는 아이템의 검색 횟수를 포함한다고 가정한다. 이러한 경우, 수학식 2의 선형회귀방정식은 다음의 수학식 3와 같이 사용될 수 있다.

여기서, n1은 카테고리에 해당하는 아이템의 구매 횟수의 지수값을 나타내며, n2는 카테고리에 해당하는 아이템을 장바구니에 담은 횟수의 지수값을 나타내고, n3는 카테고리에 해당하는 아이템의 검색 횟수의 지수값을 나타낸다.

예컨대, n1,1은 첫번째 단위 기간에 카테고리에 해당하는 아이템의 구매 횟수의 지수값을 나타내며, n1,3은 세번째 단위 기간에 카테고리에 해당하는 아이템의 구매 횟수의 지수값을 나타낸다.

검색서버(100)의 카테고리예측모듈(131)은 S220 단계에서 복수의 세트의 훈련 데이터를 회기방정식에 입력하여 연립 방정식을 구성한다. 그런 다음, 카테고리예측모듈(131)은 S230 단계에서 연립방정식의 해인 가중치를 산출한다. 여기서, 가중치는 단위 기간의 가중치(m1, m2, m3, ?? mj), 사용자 컨텍스트의 가중치(a1, a2, ? ai) 및 보정 가중치(a0)를 포함한다.

이에 따라, 카테고리예측모듈(131)은 S240 단계에서 산출된 가중치를 적용한 회기방정식을 예측식으로 결정할 수 있다. 예컨대, C1은 모자를 나타내며, i, j = 2일때, 도출된 가중치가 m1 = 0.602, m2 = 0.398이고, a0,1, a1,1, a2,1 각각이 0.013, 0.025, 0.832이고, a0,2, a1,2, a2,2 각각이 0.042, 0.264, 0.678이면, 예측식은 다음의 수학식 4와 같다.

이러한 예측식에 따라 사용자 컨텍스트와 이미지 검색 시 사용자가 검색하고자 하는 아이템의 카테고리의 상관관계가 정의될 수 있다.

다음으로, 본 발명이 실시예에 따른 이미지 선호도를 산출하는 절차에 대해서 설명하기로 한다. 도 7은 본 발명이 실시예에 따른 이미지 선호도를 산출하는 절차에 대해서 설명하기 위한 흐름도이다. 도 8은 본 발명이 실시예에 따른 이미지 선호도를 산출하는 과정의 예시도이다.

도 7을 참조하면, 검색서버(100)의 이미지검색모듈(135)은 S310 단계에서 통신모듈(110)을 통해 사용자장치(200)로부터 텍스트 검색어 및 이미지 검색어 중 어느 하나의 검색어를 포함하는 이미지 검색 요청을 수신하면, 해당 검색어에 따라 이미지 검색을 수행하고, 그 검색 결과에 따른 복수의 이미지를 사용자장치(200)에 전송한다.

검색 결과를 수신한 사용자장치(200)의 제어부(250)는 표시부(230)를 통해 검색 결과인 복수의 이미지를 표시한다. 사용자는 복수의 이미지 중 사용자가 원하는 이미지를 선택할 수 있다. 이에 따라, 어느 하나의 이미지가 선택되면, 제어부(250)는 입력부(220) 또는 표시부(230)를 통해 이를 감지하고, 통신부(210)를 통해 사용자가 선택한 이미지에 대한 정보를 검색서버(100)로 전달한다. 이에 따라, 검색서버(100)의 이미지처리모듈(133)는 S320 단계에서 검색 결과의 복수의 이미지 중 사용자가 선택한 이미지에 대한 정보를 수신할 수 있다.

그러면, 검색서버(100)의 이미지처리모듈(133)는 S330 단계에서 검색 결과에 포함된 복수의 이미지 중 사용자가 선택한 이미지를 카테고리별로 분류하고, 누적하여 저장한다.

그런 다음, 이미지처리모듈(133)는 S340 단계에서 카테고리별로 검색된 이미지를 디자인 분류에 따라 그룹화하여 복수의 그룹을 생성할 수 있다. 도 8에 카테고리 '모자'의 복수(8개)의 디자인 분류(D)가 도시되었다. 예를 들면, 이미지처리모듈(133)는 야구 모자 형상을 나타내는 디자인 분류에 따라 3개의 이미지를 그룹화하여 제1 그룹(R1)을 생성하고, 비니 형상을 나타내는 디자인 분류에 따라 5개의 이미지를 그룹화하여 제2 그룹(R2)을 생성할 수 있다.

전술한 바와 같이, 복수의 그룹이 생성되면, 이미지처리모듈(133)는 S350 단계에서 각 그룹의 원소의 수에 따라 디자인의 선호도를 결정한다. 예컨대, 도 8의 야구 모자 형상 디자인 분류의 제1 그룹(R1)은 원소의 수가 3개이고, 비니 형상의 디자인 분류의 제2 그룹(R2)은 원소의 수가 5개이다. 따라서 이미지처리모듈(133)는 해당 사용자가 제1 그룹(R1) 보다 제2 그룹(R2)에 대한 디자인 선호도가 높은 것으로 결정할 수 있다.

이상, 예측식을 도출하고, 디자인 선호도를 산정하는 방법에 대해서 설명하였다. 이와 같이, 예측식 및 디자인 선호도가 생성된 상태에서 복수의 아이템을 포함하는 복합 이미지에 대한 이미지 검색을 수행하는 방법에 대해서 설명하기로 한다. 도 9는 본 발명의 실시예에 따른 이미지 검색을 위한 방법을 설명하기 위한 흐름도이다.

사용자장치(200)의 제어부(250)는 S410 단계에서 통신부(210)를 통해 이미지 검색어로 복수의 아이템을 포함하는 복합 이미지를 검색서버(100)로 전송하여 이미지 검색을 요청한다.

검색서버(100)의 제어모듈(130)은 통신모듈(110)을 통해 복합 이미지를 수신하면, S420 단계에서 사용자 컨텍스트에 따라 사용자가 검색을 의도하는 카테고리를 예측하고, 복합 이미지에 포함된 복수의 아이템 중 해당 카테고리의 아이템의 이미지를 추출하여 이미지 검색어를 생성한 후, 생성된 이미지 검색어를 이용하여 이미지 검색을 수행한다.

그런 다음, 검색서버(100)의 제어모듈(130)은 S430 단계에서 통신모듈(110)을 통해 복수의 이미지를 포함하는 검색 결과를 사용자장치(100)로 전송한다.

사용자장치(200)의 제어부(250)는 통신부(210)를 통해 검색 결과를 수신하면, S440 단계에서 표시부(230)를 통해 복수의 이미지를 표시한다. 이에 따라, 사용자는 복합 이미지를 이미지 검색어로 전송한 경우에도 자신이 의도하는 아이템에 대한 이미지를 검색할 수 있다.

다음으로, 전술한 S420 단계의 검색서버(100)에 의한 이미지 검색 과정을 보다 상세하게 설명하기로 한다. 도 10은 본 발명의 실시예에 따른 검색서버(100)에 의한 복수의 아이템을 포함하는 복합 이미지를 이용한 이미지 검색 과정을 나타낸 순서도이다. 도 11 및 도 12는 본 발명의 실시예에 따른 복수의 이미지를 포함하는 복합 이미지 및 검색 과정을 설명하기 위한 화면 예이다.

도 10 내지 도 12를 참고하면, 검색서버(100)의 카테고리예측모듈(131)은 S510 단계에서 사용자장치(200)로부터 통신모듈(110)을 통해 복합 이미지를 포함하는 이미지 검색 요청을 수신한다. 예를 들면, 수신된 복합 이미지는 도 11의 (A)와 같다고 가정한다.

복합 이미지에 대한 이미지 검색 요청을 수신하면, 카테고리예측모듈(131)은 S520 단계에서 복합 이미지에 포함된 복수의 아이템을 구분하고, 구분된 복수의 아이템 각각의 카테고리를 도출한다. 예를 들면, 도 11의 (B)와 같이, 이미지 인식 기법을 통해 복합 이미지 내에 포함된 복수의 아이템을 구분하고, 구분된 복수의 아이템의 카테고리를 {모자, 상의, 하의, 가방}로 도출할 수 있다.

이어서, 카테고리예측모듈(131)은 S530 단계에서 이미지 검색 요청 시점(Tin)을 기준으로 소정 기간 이전(Tb)부터 이미지 검색 요청 시점에 이르기까지 복수의 단위 기간(T1, T2, T3, ??) 별로 사용자 컨텍스트를 추출한다. 이러한 사용자 컨텍스트는 예컨대, 복수의 사용자 컨텍스트는 카테고리 별 아이템의 구매 횟수, 카테고리 별 아이템을 장바구니에 담은 횟수, 카테고리 별 아이템의 검색 횟수 등이 될 수 있다.

카테고리예측모듈(131)은 도출된 카테고리 각각에 대한 예측식에 추출된 사용자 컨텍스트를 입력하여 카테고리를 예측한다. 이러한 예측식은 앞서 수학식 1 내지 수학식 4를 통해 설명된 바와 같이, 카테고리와 사용자 컨텍스트와의 상관관계를 정의하며, 추출된 사용자 컨텍스트를 예측식에 대입하여 사용자가 이미지 검색하고자 하는 아이템의 카테고리를 예측할 수 있다. 예컨대, C1, C2, C3, C4 각각은 카테고리 {모자, 상의, 하의, 가방}에 대한 예측식이라고 가정한다. 이때, 카테고리예측모듈(131)이 예측식에 사용자 컨텍스트를 입력한 결과는 C1 = 0.001, C2 = 0.457, C3 = 0.032, C4 = 0.732와 같다고 가정한다. 그러면, 사용자가 이미지 검색하고자 하는 아이템의 카테고리를 가방(C4= 0.732)으로 예측한다.

다음으로, 이미지처리모듈(133)은 S550 단계에서 복합 이미지에 예측된 카테고리에 속하는 아이템이 단수인지 복수인지 여부를 판별한다. 예컨대, 도 11의 (A)와 같이, 복합 이미지 내에 포함된 아이템의 카테고리가 모두 상이한 경우, 하나의 카테고리에는 하나의 아이템만 포함된다. 하지만, 도 12와 같이, 복합 이미지 내에 카테고리 모자에 2개의 아이템(H1, H2)이 포함되고, 카테고리 가방에 2개의 아이템(B1, B2)가 포함될 수 있다.

따라서 S550 단계의 판단 결과, 이미지처리모듈(133)은 예측된 카테고리에 속하는 아이템이 단수이면, S560 단계로 진행한다. 반면, 예측된 카테고리에 속하는 아이템이 단수이면, S570 단계로 진행한다.

S560 단계에서 이미지처리모듈(133)은 예측된 카테고리에 속하는 아이템이 하나이기 때문에 예측된 카테고리에 해당하는 아이템을 특정한다. 예컨대, 도 11의 (C)와 같이, 예측된 카테고리 가방에 해당하는 아이템을 특정한다.

반면, S570 단계에서 이미지처리모듈(133)은 예측된 카테고리에 속하는 아이템이 복수이기 때문에 앞서(S350) 결정된 디자인 선호도에 따라 복수의 아이템 중 선호도가 가장 높은 아이템을 특정한다.

예컨대, 도 12를 참조하면, 예측된 카테고리가 모자이고, 앞서(350) 단계에서 결정된 사용자의 디자인 선호도에 따르면, 해당 사용자는 디자인 분류 파나마(PANAMA) 보다 디자인 분류 비니(BEANIE)가 선호도가 높다고 가정한다. 그러면, 이미지처리모듈(133)은 파나마 형상의 모자(H1) 및 비니 형상의 모자(H2) 중 비니 형상의 모자(H2)를 특정한다.

전술한 바와 같이, 아이템이 특정되면, 이미지처리모듈(133)은 S580 단계에서 복합 이미지로부터 특정된 아이템에 해당하는 이미지를 추출하여 이미지 검색어를 생성한다. 예를 들면, 이러한 이미지 검색어의 화면 예가 도 11의 (D)에 도시되었다. 도시된 바와 같이, 이미지 검색어는 예측된 카테고리가 가방인 경우 선택된 아이템을 추출하여 생성된다.

이와 같이, 새로 이미지 검색어가 생성된 후, 이미지검색모듈(135)는 S590 단계에서 새로 생성된 이미지 검색어를 이용하여 이미지 검색을 수행할 수 있다. 이에 따라, 사용자는 복합 이미지를 통해 이미지 검색을 요청한 경우에도 자신이 원하는 아이템에 대해 이미지 검색을 수행할 수 있다.

이상에서 설명한 바와 같이, 본 명세서는 다수의 특정한 구현물의 세부사항들을 포함하지만, 이들은 어떠한 발명이나 청구 가능한 것의 범위에 대해서도 제한적인 것으로서 이해되어서는 안되며, 오히려 특정한 발명의 특정한 실시형태에 특유할 수 있는 특징들에 대한 설명으로서 이해되어야 한다. 개별적인 실시형태의 문맥에서 본 명세서에 기술된 특정한 특징들은 단일 실시형태에서 조합하여 구현될 수도 있다. 반대로, 단일 실시형태의 문맥에서 기술한 다양한 특징들 역시 개별적으로 혹은 어떠한 적절한 하위 조합으로도 복수의 실시형태에서 구현 가능하다. 나아가, 특징들이 특정한 조합으로 동작하고 초기에 그와 같이 청구된 바와 같이 묘사될 수 있지만, 청구된 조합으로부터의 하나 이상의 특징들은 일부 경우에 그 조합으로부터 배제될 수 있으며, 그 청구된 조합은 하위 조합이나 하위 조합의 변형물로 변경될 수 있다.

마찬가지로, 특정한 순서로 도면에서 동작들을 묘사하고 있지만, 이는 바람직한 결과를 얻기 위하여 도시된 그 특정한 순서나 순차적인 순서대로 그러한 동작들을 수행하여야 한다거나 모든 도시된 동작들이 수행되어야 하는 것으로 이해되어서는 안 된다. 특정한 경우, 멀티태스킹과 병렬 프로세싱이 유리할 수 있다. 또한, 상술한 실시형태의 다양한 시스템 컴포넌트의 분리는 그러한 분리를 모든 실시형태에서 요구하는 것으로 이해되어서는 안되며, 설명한 프로그램 컴포넌트와 시스템들은 일반적으로 단일의 소프트웨어 제품으로 함께 통합되거나 다중 소프트웨어 제품에 패키징될 수 있다는 점을 이해하여야 한다.

본 명세서에서 설명한 주제의 특정한 실시형태를 설명하였다. 기타의 실시형태들은 이하의 청구항의 범위 내에 속한다. 예컨대, 청구항에서 인용된 동작들은 상이한 순서로 수행되면서도 여전히 바람직한 결과를 성취할 수 있다. 일 예로서, 첨부도면에 도시한 프로세스는 바람직한 결과를 얻기 위하여 반드시 그 특정한 도시된 순서나 순차적인 순서를 요구하지 않는다. 특정한 구현예에서, 멀티태스킹과 병렬 프로세싱이 유리할 수 있다.

본 기술한 설명은 본 발명의 최상의 모드를 제시하고 있으며, 본 발명을 설명하기 위하여, 그리고 당업자가 본 발명을 제작 및 이용할 수 있도록 하기 위한 예를 제공하고 있다. 이렇게 작성된 명세서는 그 제시된 구체적인 용어에 본 발명을 제한하는 것이 아니다. 따라서, 상술한 예를 참조하여 본 발명을 상세하게 설명하였지만, 당업자라면 본 발명의 범위를 벗어나지 않으면서도 본 예들에 대한 개조, 변경 및 변형을 가할 수 있다.

따라서 본 발명의 범위는 설명된 실시 예에 의하여 정할 것이 아니고 특허청구범위에 의해 정하여져야 한다.

본 발명은 복수의 아이템을 포함하는 이미지를 이용한 이미지 검색을 위한 방법 및 이를 위한 장치에 관한 것으로서, 본 발명에 따르면, 복수의 아이템을 포함하는 복합 이미지 중 사용자 컨텍스트를 통해 사용자의 의도를 예측하여 예측된 아이템에 대한 이미지 검색을 수행함으로써, 복합 이미지를 입력하는 경우에도 사용자가 원하는 아이템에 대한 이미지 검색을 수행할 수 있다. 이는 사용자 편의를 제공하는 사용자경험(UX)을 제공한다. 따라서 본 발명은 시판 또는 영업의 가능성이 충분할 뿐만 아니라 현실적으로 명백하게 실시할 수 있는 정도이므로 산업상 이용가능성이 있다.

100: 검색서버 110: 통신모듈
120: 저장모듈 130: 제어모듈
131: 카테고리예측모듈 133: 이미지처리모듈
135: 이미지검색모듈 200: 사용자장치
210: 통신부 220: 입력부
230: 표시부 240: 저장부
250: 제어부

Claims (13)

1. 이미지 검색을 위한 장치가,
   하나의 이미지 내에 복수의 아이템이 포함된 복합 이미지에 대한 이미지 검색 요청을 수신하는 단계;
   상기 복합 이미지로부터 상기 복수의 아이템을 구분하고, 구분된 아이템 각각의 카테고리를 도출하는 단계;
   상기 이미지 검색 요청 시점으로부터 소정 기간 이전의 복수의 단위 기간 별로 사용자 컨텍스트를 추출하는 단계;
   상기 도출된 카테고리 각각과 상기 추출된 사용자 컨텍스트와의 상관관계에 따라 사용자가 이미지 검색하고자 하는 아이템의 카테고리를 예측하는 예측식에 상기 추출된 사용자 컨텍스트를 입력하여 카테고리를 예측하는 단계;
   상기 복합 이미지에서 상기 예측된 카테고리에 상응하는 아이템을 특정하는 단계;
   상기 복합 이미지로부터 특정된 아이템에 해당하는 이미지를 추출하여 이미지 검색어를 생성하는 단계; 및
   상기 이미지 검색어를 통해 이미지 검색을 수행하는 단계;를 포함하는 것을 특징으로 하는 이미지 검색을 위한 방법.
2. 제1항에 있어서,
   상기 이미지 검색 요청을 수신하는 단계 전,
   검색어 입력을 통해 이미지 검색이 이루어질 때마다, 검색어 입력 시점(Tin)을 기준으로 소정 기간 이전부터 검색어 입력 시점까지의 사용자 컨텍스트를 단위 기간 별로 추출하는 단계; 및
   상기 입력된 검색어에 따라 검색된 이미지의 카테고리 및 상기 추출된 사용자 컨텍스트를 1 세트의 훈련 데이터로 저장하는 단계;를 더 포함하는 것을 특징으로 하는 이미지 검색을 위한 방법.
3. 제2항에 있어서,
   상기 훈련 데이터로 저장하는 단계 후,
   복수의 세트의 훈련 데이터를 회기방정식에 입력하여 연립 방정식 구성하는 단계;
   상기 연립방정식의 해인 가중치를 산출하는 단계; 및
   상기 산출된 가중치가 적용된 회기방정식을 상기 예측식으로 결정하는 단계;를 더 포함하는 것을 특징으로 하는 이미지 검색을 위한 방법.
4. 제3항에 있어서,
   상기 회기방정식은
   

   

   
   이고,
   상기 x는 카테고리의 인덱스이고,
   상기 Cx는 인덱스 x의 카테고리가 선택될 확률이고,
   상기 j는 단위 기간의 인덱스이고,
   상기 m은 단위 기간의 가중치이고,
   상기 i는 사용자 컨텍스트의 인덱스이고,
   상기 n은 사용자 컨텍스트이며,
   상기 a는 사용자 컨텍스트의 가중치인 것을 특징으로 하는 이미지 검색을 위한 방법.
5. 제3항에 있어서,
   상기 사용자 컨텍스트는
   수학식
   

   

   를 통해 지수화한 지수값을 사용하며,
   상기 n은 사용자 컨텍스트의 값이고,
   상기 i는 카테고리 인덱스이고,
   상기 j는 단위 기간의 인덱스이고,
   상기 nx는 사용자 컨텍스트의 지수값인
   것을 특징으로 하는 이미지 검색을 위한 방법.
6. 제1항에 있어서,
   상기 예측된 카테고리에 상응하는 아이템을 특정하는 단계는
   상기 복합 이미지에 상기 예측된 카테고리에 상응하는 아이템이 단수인지 복수인지 여부를 판별하는 단계;
   상기 판별 결과, 단수이면, 단수인 상기 예측된 카테고리에 해당하는 아이템을 특정하고, 상기 판별 결과, 복수이면, 미리 선정된 디자인 선호도에 따라 복수의 아이템 중 선호도가 가장 높은 아이템을 특정하는 단계;를 포함하는 것을 특징으로 하는 이미지 검색을 위한 방법.
7. 제1항에 있어서,
   상기 이미지 검색 요청을 수신하는 단계 전,
   검색어 입력을 통해 이미지 검색이 이루어질 때마다, 검색된 이미지를 카테고리별로 분류하여 누적 저장하는 단계;
   카테고리별로 상기 검색된 이미지를 디자인 분류에 따라 그룹화하여 복수의 그룹을 생성하는 단계; 및
   복수의 그룹 각각에 속한 상기 검색된 이미지의 수에 따라 상기 디자인 분류의 디자인 선호도를 결정하는 단계;를 더 포함하는 것을 특징으로 하는 이미지 검색을 위한 방법.
8. 하나의 이미지 내에 복수의 아이템이 포함된 복합 이미지에 대한 이미지 검색 요청을 수신하면, 상기 복수의 아이템을 구분하고, 구분된 아이템 각각의 카테고리를 도출하고, 상기 이미지 검색 요청 시점으로부터 소정 기간 이전의 복수의 단위 기간 별로 사용자 컨텍스트를 추출하고, 상기 도출된 카테고리 각각과 상기 추출된 사용자 컨텍스트와의 상관관계에 따라 사용자가 이미지 검색하고자 하는 아이템의 카테고리를 예측하는 예측식에 상기 추출된 사용자 컨텍스트를 입력하여 카테고리를 예측하는 카테고리예측모듈;
   상기 복합 이미지에서 상기 예측된 카테고리에 상응하는 아이템을 특정하고, 상기 복합 이미지로부터 특정된 아이템에 해당하는 이미지를 추출하여 이미지 검색어를 생성하는 이미지처리모듈; 및
   상기 이미지 검색어를 통해 이미지 검색을 수행하는 이미지검색모듈;를 포함하는 것을 특징으로 하는 이미지 검색을 위한 장치.
9. 제8항에 있어서,
   상기 카테고리예측모듈은
   상기 이미지 검색 요청 수신 전,
   검색어 입력을 통해 이미지 검색이 이루어질 때마다, 검색어 입력 시점(Tin)을 기준으로 소정 기간 이전부터 검색어 입력 시점까지의 사용자 컨텍스트를 단위 기간 별로 추출하고, 상기 입력된 검색어에 따라 검색된 이미지의 카테고리 및 상기 추출된 사용자 컨텍스트를 1 세트의 훈련 데이터로 저장하며, 복수의 세트의 훈련 데이터를 회기방정식에 입력하여 연립 방정식 구성하고, 상기 연립방정식의 해인 가중치를 산출하여 상기 산출된 가중치가 적용된 회기방정식을 상기 예측식으로 결정하는 것을 특징으로 하는 이미지 검색을 위한 장치.
10. 제9항에 있어서,
    상기 회기방정식은
    

    

    
    이고,
    상기 x는 카테고리의 인덱스이고,
    상기 Cx는 인덱스 x의 카테고리가 선택될 확률이고,
    상기 j는 단위 기간의 인덱스이고,
    상기 m은 단위 기간의 가중치이고,
    상기 i는 사용자 컨텍스트의 인덱스이고,
    상기 n은 사용자 컨텍스트이고,
    상기 a는 사용자 컨텍스트의 가중치인 것을 특징으로 하는 이미지 검색을 위한 방법.
11. 제9항에 있어서,
    상기 사용자 컨텍스트는
    수학식
    

    

    를 통해 지수화한 지수값을 사용하며,
    상기 n은 사용자 컨텍스트의 값이고,
    상기 i는 카테고리 인덱스이고,
    상기 j는 단위 기간의 인덱스이고,
    상기 nx는 사용자 컨텍스트의 지수값인
    것을 특징으로 하는 이미지 검색을 위한 방법.
12. 제9항에 있어서,
    상기 이미지처리모듈은
    상기 복합 이미지에 상기 예측된 카테고리에 상응하는 아이템이 단수인지 복수인지 여부를 판별하고, 상기 판별 결과, 단수이면, 단수인 상기 예측된 카테고리에 해당하는 아이템을 특정하고, 상기 판별 결과, 복수이면, 미리 선정된 디자인 선호도에 따라 복수의 아이템 중 선호도가 가장 높은 아이템을 특정하는 것을 특징으로 하는 이미지 검색을 위한 장치.
13. 제9항에 있어서,
    상기 이미지처리모듈은
    상기 이미지 검색 요청 수신 전,
    검색어 입력을 통해 이미지 검색이 이루어질 때마다,
    이미지 검색 시 마다, 검색된 이미지를 카테고리별로 분류하여 누적 저장하고, 카테고리별로 상기 검색된 이미지를 디자인 분류에 따라 그룹화하여 복수의 그룹을 생성하고, 복수의 그룹 각각에 속한 상기 검색된 이미지의 수에 따라 상기 디자인 분류의 디자인 선호도를 결정하는 것을 특징으로 하는 이미지 검색을 위한 장치.

Images