KR101667346B1 - 시각 질의에 응답하기 위한 아키텍처 - Google Patents

시각 질의에 응답하기 위한 아키텍처 Download PDF

Info

Publication number
KR101667346B1
KR101667346B1 KR1020127006113A KR20127006113A KR101667346B1 KR 101667346 B1 KR101667346 B1 KR 101667346B1 KR 1020127006113 A KR1020127006113 A KR 1020127006113A KR 20127006113 A KR20127006113 A KR 20127006113A KR 101667346 B1 KR101667346 B1 KR 101667346B1
Authority
KR
South Korea
Prior art keywords
visual query
results
user
search
query
Prior art date
Application number
KR1020127006113A
Other languages
English (en)
Other versions
KR20120058538A (ko
Inventor
데이비드 페트로우
Original Assignee
구글 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 구글 인코포레이티드 filed Critical 구글 인코포레이티드
Publication of KR20120058538A publication Critical patent/KR20120058538A/ko
Application granted granted Critical
Publication of KR101667346B1 publication Critical patent/KR101667346B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G06F16/532—Query formulation, e.g. graphical querying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/245—Query processing
    • G06F16/2457—Query processing with adaptation to user needs
    • G06F16/24578—Query processing with adaptation to user needs using ranking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24—Querying
    • G06F16/248—Presentation of query results
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5838—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Library & Information Science (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Processing Or Creating Images (AREA)
  • Character Input (AREA)

Abstract

사진, 스크린 샷, 스캔된 이미지, 비디오 프레임, 또는 콘텐츠 저작 애플리케이션에 의해 생성된 이미지와 같은 시각 질의는 시각 질의 검색 시스템에 제출된다. 검색 시스템은 각각이 별개의 시각 질의 검색 프로세스를 구현하는 복수의 병렬 검색 시스템들에 이를 송신함으로써 시각 질의를 프로세싱한다. 이러한 병렬 검색 시스템들은 광학식 문자 인식(OCR), 얼굴 인식, 물건 인식, 바 코드 인식, 랜드마크 인식, 지리-위치 정보에 의해 지원되는 장소 인식, 유사 이미지 인식, 오브젝트-또는-오브젝트-카테고리 인식, 명명 엔티티 인식, 및 색 인식을 포함할 수 있다(이에 제한되지 않음). 그 다음에 적어도 하나의 검색 결과는 클라이언트 시스템에 송신된다. 임의의 실시예들에서, 시각 질의가 텍스트 엘리먼트 및 비-텍스트 엘리먼트를 포함하는 이미지일 때, 적어도 하나의 검색 결과는 텍스트 엘리먼트에 대한 광학식 문자 인식 결과 및 비-텍스트 엘리먼트에 대한 적어도 하나의 이미지-매칭 결과를 포함한다.

Description

시각 질의에 응답하기 위한 아키텍처{ARCHITECTURE FOR RESPONDING TO A VISUAL QUERY}
개시된 실시예들은 일반적으로 시각 질의를 프로세싱하기 위한 복수의 병렬 검색 시스템들을 포함하는 서버 시스템 아키텍처에 관한 것이다.
사용자가 검색 엔진에 단어 또는 구문을 입력하고 다양한 결과들을 수신하는, 텍스트 기반 또는 용어-기반 검색은 검색을 위한 유용한 툴이다. 그러나, 용어 기반 질의들은 사용자가 관련 용어를 입력할 수 있음을 요구한다. 때때로, 사용자는 이미지에 관한 정보를 알고자할 수 있다. 예를 들어, 사용자는 사진에서 사람의 명칭을 알기를 원할 수 있거나 사용자는 픽처에서 꽃 또는 새의 명칭을 알기를 원할 수 있다. 따라서, 시각 질의를 수신하고 검색 결과들을 제공할 수 있는 시스템이 바람직할 수 있다.
임의의 실시예들에 따라, 서버 시스템에서 시각 질의를 프로세싱하는 컴퓨터-구현된 방법이 존재한다. 시각 질의는 클라이언트 시스템으로부터 수신된다. 시각 질의는 동시 프로세싱을 위해 복수의 병렬 검색 시스템들에 시각 질의를 송신함으로써 프로세싱된다. 복수의 검색 시스템들의 각각은 복수의 시각 질의 검색 프로세스들 중 별개의 시각 질의 검색 프로세스를 구현한다. 복수의 시각 질의 검색 프로세스들은 적어도, 광학식 문자 인식(OCR), 얼굴 인식, 및 OCR 및 얼굴 인식 외에 제 1 이미지에 의한 질의(query-by-image) 프로세스를 포함한다. 복수의 검색 결과들은 복수의 병렬 검색 시스템들 중 하나 이상으로부터 수신된다. 복수의 검색 결과들 중 적어도 하나는 클라이언트 시스템에 송신된다.
임의의 실시예들에서, 방법은 수신된 검색 결과들 중 적어도 둘이 미리 정의된 기준을 만족시킬 때, 미리 정의된 기준을 만족하는 수신된 검색 결과들을 순위화하는 단계 및 클라이언트 시스템에 순위화된 검색 결과들 중 적어도 하나의 검색 결과를 송신하는 단계를 더 포함한다.
임의의 실시예들에서, 제 1 이미지에 의한 질의 프로세스는 물건 인식, 바 코드 인식, 오브젝트-또는-오브젝트-카테고리 인식, 명명 엔티티 인식 또는 색 인식이다.
임의의 실시예들에서, 시각 질의는 사진, 스크린 샷, 스캔된 이미지 또는 비디오 프레임이다. 클라이언트 시스템은 모바일 디바이스, 데스크톱 디바이스 또는 다른 디바이스일 수 있다.
임의의 실시예들에서, 시각 질의는 검색 애플리케이션, 브라우저 애플리케이션에 대한 검색 엔진 플러그-인 또는 브라우저 애플리케이션에 대한 검색 엔진 확장과 같은, 클라이언트 시스템에 의해 실행되는 클라이언트 애플리케이션으로부터 수신된다. 임의의 실시예들에서, 시각 질의는 클라이언트 시스템에 의해 실행되는 콘텐츠 저작(authoring) 애플리케이션으로부터 수신된다.
시각 질의가 텍스트 엘리먼트 및 비-텍스트 엘리먼트를 포함하는 이미지일 때, 임의의 실시예들에서, 검색 결과는 텍스트 엘리먼트에 대한 광학식 문자 인식 결과 및 비-텍스트 엘리먼트에 대한 적어도 하나의 이미지-매칭 결과를 포함한다.
임의의 실시예들에서, 시각 질의가 텍스트 엘리먼트 및 비-텍스트 엘리먼트를 포함하는 이미지일 때, 검색 결과는 광학식 문자 인식 프로세스에 의해 산출되는 검색 결과에 링크를 가진 텍스트 엘리먼트에 대한 제 1 시각 식별자 및 이미지-매칭 프로세스에 의해 산출되는 검색 결과에 링크를 가진 비-텍스트 엘리먼트에 대한 제 2 시각 식별자를 포함하는 상호작용 결과 문서를 포함한다.
임의의 실시예들에서, 방법은 복수의 검색 결과들 중 적어도 둘을 복합 검색 결과로 결합하는 단계를 더 포함한다.
임의의 실시예들에 따라, 검색 엔진 시스템은 시각 질의를 프로세싱하기 위해 제공된다. 시스템은 프로그램들을 실행하기 위한 하나 이상의 중앙 프로세싱 유닛들 및 상기 하나 이상의 중앙 프로세싱 유닛들에 의해 실행될 하나 이상의 프로그램들을 저장하는 메모리를 포함한다. 하나 이상의 프로그램들은 이하를 수행하기 위한 명령들을 포함한다. 시각 질의가 클라이언트 시스템으로부터 수신된다. 시각 질의는 동시 프로세싱을 위해 복수의 병렬 검색 시스템들에 시각 질의를 송신함으로써 프로세싱된다. 복수의 검색 시스템들의 각각은 복수의 시각 질의 검색 프로세스들 중 별개의 시각 질의 검색 프로세스를 구현한다. 복수의 시각 질의 검색 프로세스들은 적어도, 광학식 문자 인식(OCR), 얼굴 인식, 및 OCR 및 얼굴 인식 외에 제 1 이미지에 의한 질의 프로세스를 포함한다. 복수의 검색 결과들은 복수의 병렬 검색 시스템들 중 하나 이상으로부터 수신된다. 복수의 검색 결과들 중 적어도 하나는 클라이언트 시스템에 송신된다. 이러한 시스템은 상기 논의된 부가적인 옵션들을 실행하기 위한 프로그램 명령들을 더 포함할 수 있다.
임의의 실시예들에 따라, 시각 질의를 프로세싱하기 위한 컴퓨터 판독가능한 저장 매체 시스템이 제공된다. 컴퓨터 판독가능한 저장 매체는 컴퓨터에 의해 실행하기 위해 구성된 하나 이상의 프로그램들을 저장하고, 하나 이상의 프로그램들은 이하를 수행하기 위한 명령들을 포함한다. 시각 질의가 클라이언트 시스템으로부터 수신된다. 시각 질의는 동시 프로세싱을 위해 복수의 병렬 검색 시스템들에 시각 질의를 송신함으로써 프로세싱된다. 복수의 검색 시스템들의 각각은 복수의 시각 질의 검색 프로세스들 중 별개의 시각 질의 검색 프로세스를 구현한다. 복수의 시각 질의 검색 프로세스들은 적어도, 광학식 문자 인식(OCR), 얼굴 인식 및 OCR 및 얼굴 인식 외에 제 1 이미지에 의한 질의 프로세스를 포함한다. 복수의 검색 결과들은 복수의 병렬 검색 시스템들 중 하나 이상으로부터 수신된다. 복수의 검색 결과들 중 적어도 하나는 클라이언트 시스템에 송신된다. 이러한 컴퓨터 판독가능한 저장 매체는 상기 논의된 부가적인 옵션들을 실행하기 위한 프로그램 명령들을 더 포함할 수 있다.
도 1은 시각 질의 서버 시스템을 포함하는 컴퓨터 네트워크를 도시하는 블록도이다.
도 2는 임의의 실시예들에 따라, 시각 질의에 응답하기 위한 프로세스를 도시하는 흐름도이다.
도 3은 임의의 실시예들에 따라, 상호작용 결과 문서를 이용하여 시각 질의에 응답하기 위한 프로세스를 도시하는 흐름도이다.
도 4는 임의의 실시예들에 따라, 클라이언트 및 시각 질의 서버 시스템 사이에서 통신들을 도시하는 흐름도이다.
도 5는 임의의 실시예들에 따라, 클라이언트 시스템을 도시하는 블록도이다.
도 6은 임의의 실시예들에 따라, 프론트 엔드 시각 질의 프로세싱 서버 시스템을 도시하는 블록도이다.
도 7은 임의의 실시예들에 따라, 시각 질의를 프로세싱하기 위해 이용되는 병렬 검색 시스템들 중 포괄적인 시스템을 도시하는 블록도이다.
도 8은 임의의 실시예들에 따라, 시각 질의를 프로세싱하기 위해 이용되는 OCR 검색 시스템을 도시하는 블록도이다.
도 9는 임의의 실시예들에 따라, 시각 질의를 프로세싱하기 위해 이용되는 얼굴 인식 검색 시스템을 도시하는 블록도이다.
도 10은 임의의 실시예들에 따라, 시각 질의를 프로세싱하기 위해 이용되는 이미지 대 용어들 검색 시스템을 도시하는 블록도이다.
도 11은 임의의 실시예들에 따라, 예시적인 시각 질의의 스크린 샷을 가진 클라이언트 시스템을 도시한다.
도 12a 및 12b 각각은 임의의 실시예들에 따라, 바운딩 박스들을 가진 상호작용 결과 문서의 스크린 샷을 가진 클라이언트 시스템을 도시한다.
도 13은 임의의 실시예들에 따라, 타입에 의해 코딩된 상호작용 결과 문서의 스크린 샷을 가진 클라이언트 시스템을 도시한다.
도 14는 임의의 실시예들에 따라, 라벨들을 가진 상호작용 결과 문서의 스크린 샷을 가진 클라이언트 시스템을 도시한다.
도 15는 임의의 실시예들에 따라, 결과 리스트와 동시에 디스플레이되는 상호작용 결과 문서 및 시각 질의의 스크린 샷을 도시한다.
동일한 참조 번호들은 도면들 전체를 통해 대응하는 부분들을 지칭한다.
이제 첨부된 도면들에서 설명되는 실시예들에 대한 참조가 상세히 이루어질 것이다. 아래의 상세한 설명에서, 많은 특정 세부사항들이 본 발명의 완전한 이해를 제공하기 위해 설명된다. 하지만, 본 발명이 이러한 특정 세부사항들 없이 실시될 수 있음이 당업자에게 명백할 것이다. 다른 예시들에서, 공지된 방법들, 절차들, 컴포넌트들, 회로들 및 네트워크들이 실시예들의 양상들을 필요이상으로 불분명하지 않도록 상세히 설명되지 않았다.
용어들 제 1, 제 2 등이 다양한 엘리먼트들을 설명하기 위해 본 명세서에 존재할 수 있지만, 이러한 엘리먼트들은 이러한 용어들에 의해 제한되지 않아야 함이 또한 이해될 것이다. 이러한 용어들은 하나의 엘리먼트를 다른 엘리먼트와 구별하기 위해서만 사용된다. 본 발명의 범위로부터 벗어남이 없이 예를 들어, 제 1 컨택트는 제 2 컨택트로 지칭될 수 있고, 유사하게, 제 2 컨택트는 제 1 컨택트로 지칭될 수 있다. 제 1 컨택트 및 제 2 컨택트는 둘 다 컨택트들이지만, 동일한 컨택트가 아니다.
본 명세서에서 본 발명의 설명에서 사용되는 용어는 특정 실시예들을 설명하기 위한 목적일 뿐, 본 발명의 제한으로 의도되지 않는다. 본 발명의 설명 및 첨부된 청구항들에서 사용되는 바와 같이, 단수 형태들은 문맥이 명백하게 달리 나타내지 않는 한 또한 복수 형태들을 포함하고자 의도된다. 또한 본 명세서에서 사용되는 용어 "및/또는"은 연관된 리스트된 아이템들 중 하나 이상 중 임의의 그리고 모든 가능한 조합들을 지칭하고 포함한다고 이해될 것이다. 또한, 용어들 "포함하는(comprises 및/또는 comprising)"은 이 상세에서 사용될 때, 언급된 특징들, 정수들, 단계들, 동작들, 엘리먼트들, 및/또는 컴포넌트들을 식별하지만, 하나 이상의 다른 특징들, 정수들, 단계들, 동작들, 엘리먼트들, 컴포넌트들, 및/또는 이들의 그룹들의 존재 또는 부가를 못하게 하는 것이 아니다.
본 명세서에서 사용되는, 용어 "~할 경우(if)"는 문맥에 따라 "때(when)" 또는 "~할 시(upon)" 또는 "결정에 응답하여" 또는 "검출에 응답하여"를 의미하도록 해석될 수 있다. 유사하게, 구문 "결정될 경우" 또는 "검출될 경우"는 문맥에 따라 "결정 시", 또는 "결정에 응답하여" 또는 "(언급된 조건 또는 이벤트)검출 시" 또는 "(언급된 조건 또는 이벤트)검출에 응답하여"를 의미하도록 해석될 수 있다.
도 1은 임의의 실시예들에 따른 시각 질의 서버 시스템을 포함하는 컴퓨터 네트워크를 도시하는 블록도이다. 컴퓨터 네트워크(100)는 하나 이상의 클라이언트 시스템들(102) 및 시각 질의 서버 시스템(106)을 포함한다. 하나 이상의 통신 네트워크들(104)은 이러한 컴포넌트들을 상호접속한다. 통신 네트워크(104)는 로컬 영역 네트워크들(LAN), 광역 네트워크들(WAN), 무선 네트워크들, 유선 네트워크들, 인터넷 또는 이러한 네트워크들의 조합을 포함하는, 다양한 네트워크들 중 임의의 네트워크일 수 있다.
클라이언트 시스템(102)은 시각 질의(예를 들어, 도 11의 시각 질의(1102))를 수신하기 위해, 클라이언트 시스템에 의해 실행되는 클라이언트 애플리케이션(108)을 포함한다. 시각 질의는 검색 엔진 또는 검색 시스템에 질의로서 제출되는 이미지이다. 제한이 아닌, 시각 질의들의 예시들은 사진들, 스캔된 문서들 및 이미지들 및 그림들을 포함한다. 임의의 실시예들에서, 클라이언트 애플리케이션(108)은 검색 애플리케이션, 브라우저 애플리케이션에 대한 검색 엔진 플러그-인 및 브라우저 애플리케이션에 대한 검색 엔진 확장으로 구성되는 세트로부터 선택된다. 임의의 실시예들에서, 클라이언트 애플리케이션(108)은 "잡식성(omnivorous)" 검색 박스이고, 이는 사용자가 시각 질의로서 사용될 임의의 포맷의 이미지를 검색 박스로 드래그 앤 드롭할 수 있도록 한다.
클라이언트 시스템(102)은 시각 질의 서버 시스템(106)에 질의들을 송신하고 시각 질의 서버 시스템(106)으로부터 데이터를 수신한다. 클라이언트 시스템(102)은 임의의 컴퓨터 또는 시각 질의 서버 시스템(106)과 통신할 수 있는 다른 디바이스일 수 있다. 제한이 아닌, 예시들은 데스크톱 및 노트북 컴퓨터들, 메인프레임 컴퓨터들, 서버 컴퓨터들, 휴대 전화들 및 개인 휴대 정보 단말들과 같은 모바일 디바이스들, 네트워크 단말들 및 셋-톱 박스들을 포함한다.
시각 질의 서버 시스템(106)은 프론트 엔드 시각 질의 프로세싱 서버(110)를 포함한다. 프론트 엔드 서버(110)는 클라이언트(102)로부터 시각 질의를 수신하고 동시 프로세싱을 위해 복수의 병렬 검색 시스템들(112)에 시각 질의를 송신한다. 검색 시스템들(112) 각각은 별개의 시각 질의 검색 프로세스를 구현하고 자신들의 별개의 검색 프로세스에 의해 시각 질의를 프로세스할 필요에 따라 자신들의 대응하는 데이터베이스들(114)에 액세스한다. 예를 들어, 얼굴 인식 검색 시스템(112-A)은 이미지 질의에 대한 얼굴 매칭들을 찾기 위해 얼굴 이미지 데이터베이스(114-A)에 액세스할 것이다. 도 9와 관련하여 더 상세히 설명될 바와 같이, 시각 질의가 얼굴을 포함하는 경우, 얼굴 인식 검색 시스템(112-A)은 얼굴 이미지 데이터베이스(114-A)로부터 하나 이상의 검색 결과들(예를 들어, 명칭들, 매칭 얼굴들 등)을 리턴할 것이다. 다른 예시에서, 광학식 문자 인식(OCR) 검색 시스템(112-B)은 시각 질의에서 임의의 인식가능한 텍스트를 하나 이상의 검색 결과들로서 리턴하기 위한 텍스트로 변환한다. 광학식 문자 인식(OCR) 검색 시스템(112-B)에서, OCR 데이터베이스(114-B)는 도 8에 관하여 더 상세히 설명되는 특정 폰트들 또는 텍스트 패턴들을 인식하기 위해 액세스될 수 있다.
임의의 수의 병렬 검색 시스템들(112)이 사용될 수 있다. 임의의 실시예들은 얼굴 인식 검색 시스템(112-A), OCR 검색 시스템(112-B), 이미지-대-용어들 검색 시스템(112-C)(오브젝트 또는 오브젝트 카테고리를 인식할 수 있음), 물건 인식 검색 시스템(책 커버들 및 CD들과 같은 2-D 이미지들을 인식하도록 구성될 수 있고 또한 가구와 같은 3-D 이미지들을 인식하도록 구성될 수 있음), 바 코드 인식 검색 시스템(1D 및 2D 스타일 바 코드들을 인식함), 명명 엔티티 인식 검색 시스템, 랜드마크 인식(에펠 타워와 같은 특정 유명한 랜드마크들을 인식하도록 구성될 수 있고, 또한 빌보드들과 같은 특유한 이미지들의 코퍼스(corpus)를 인식하도록 구성될 수 있음), 클라이언트 시스템(102) 또는 모바일 전화 네트워크의 GPS 수신기에 의해 제공되는 지리-위치 정보에 의해 도움을 받는 장소 인식, 색 인식 검색 시스템 및 유사 이미지 검색 시스템(시각 질의에 유사한 이미지들을 검색하고 식별함)을 포함한다. 추가의 검색 시스템들은 시스템(112-N)에 의해 도 1에 제시된, 부가적인 병렬 검색 시스템들로서 부가될 수 있다. OCR 검색 시스템을 제외한 모든 검색 시스템들은 이미지-매칭 프로세스를 수행하는 검색 시스템들로서 본 명세서에서 집합적으로 정의된다. OCR 검색 시스템을 포함하는 모든 검색 시스템들은 이미지에 의한 질의 검색 시스템들로서 집합적으로 지칭된다. 임의의 실시예들에서, 시각 질의 서버 시스템(106)은 얼굴 인식 검색 시스템(112-A), OCR 검색 시스템(112-B), 및 적어도 하나의 다른 이미지에 의한 질의 검색 시스템(112)을 포함한다.
병렬 검색 시스템들(112) 각각은 개별적으로 시각 검색 질의를 프로세싱하고 자신들의 결과들을 프론트 엔드 서버 시스템(110)에 리턴한다. 임의의 실시예들에서, 프론트 엔드 서버(100)는, 결과들을 복합 문서로 통합하는 것, 디스플레이할 결과들의 서브세트를 선택하는 것, 및 도 6에 관하여 더 상세히 설명될 바와 같이 결과들을 순위화하는 것 중 하나 이상과 같이 검색 결과들에서 하나 이상의 분석들을 수행할 수 있다. 프론트 엔드 서버(110)는 클라이언트 시스템(102)에 검색 결과들을 통신한다.
클라이언트 시스템(102)은 사용자에 하나 이상의 검색 결과들을 제시한다. 결과들은 디스플레이상에, 오디오 스피커에 의해 또는 사용자에 정보를 통신하기 위해 사용되는 임의의 다른 수단에 의해 제시될 수 있다. 사용자는 다양한 방식들로 검색 결과들과 상호작용할 수 있다. 임의의 실시예들에서, 사용자의 선택들, 주석들, 및 검색 결과들과의 다른 상호작용들은 시각 질의 서버 시스템(106)에 전송되고 질의 및 주석 데이터베이스(116)에 시각 질의와 함께 기록된다. 질의 및 주석 데이터베이스 내의 정보는 시각 질의 결과들을 향상시키기 위해 사용될 수 있다. 임의의 실시예들에서, 질의 및 주석 데이터베이스(116)로부터의 정보는 병렬 검색 시스템들(112)에 주기적으로 푸싱되고, 정보의 임의의 관련 부분들을 병렬 검색 시스템들(112)의 각각의 개별 데이터베이스들(114)로 통합한다.
컴퓨터 네트워크(100)는 선택적으로 용어 질의들에 응답하여 검색들을 수행하기 위한 용어 질의 서버 시스템(118)을 포함한다. 용어 질의는 이미지를 포함하는 시각 질의에 반대되는, 하나 이상의 용어들을 포함하는 질의이다. 용어 질의 서버 시스템(118)은 시각 질의 서버 시스템(106)에서 다양한 검색 엔진들에 의해 산출되는 정보를 보충하는 검색 결과들을 발생시키기 위해 사용될 수 있다. 용어 질의 서버 시스템(118)으로부터 리턴되는 결과들은 임의의 포맷을 포함할 수 있다. 용어 질의 서버 시스템(118)은 텍스트 문서들, 이미지들, 비디오 등을 포함할 수 있다. 용어 질의 서버 시스템(118)이 도 1에 분리된 시스템으로 도시되었지만, 선택적으로 시각 질의 서버 시스템(106)은 용어 질의 서버 시스템(118)을 포함할 수 있다.
시각 질의 서버 시스템(106)의 동작에 관한 부가적인 정보는 도 2-4에서 흐름도들에 관하여 아래 제공된다.
도 2는 본 발명의 특정 실시예들에 따라, 시각 질의에 응답하기 위한 시각 질의 서버 시스템 방법을 도시하는 흐름도이다. 도 2에 도시된 동작들의 각각은 컴퓨터 메모리 또는 컴퓨터 판독가능한 저장 매체에 저장되는 명령들에 대응할 수 있다.
시각 질의 서버 시스템은 클라이언트 시스템으로부터 시각 질의를 수신한다(202). 예를 들어, 클라이언트 시스템은 데스크톱 컴퓨터 디바이스, 모바일 디바이스 또는 도 1을 참조하여 설명되는 다른 유사한 디바이스일 수 있다(204). 예시적인 클라이언트 시스템에서 예시적인 시각 질의는 도 11에 도시된다.
시각 질의는 임의의 적합한 포맷의 이미지 문서이다. 예를 들어, 시각 질의는 사진, 스크린 샷, 스캔된 이미지 또는 프레임 또는 비디오의 다수의 프레임들의 시퀀스일 수 있다(206). 임의의 실시예들에서, 시각 질의는 콘텐츠 저작 프로그램(736, 도 5)에 의해 산출되는 그림이다. 따라서, 임의의 실시예들에서, 사용자는 시각 질의를 "그리는" 반면, 다른 실시예들에서, 사용자는 시각 질의를 스캔하거나 또는 사진 찍는다. 임의의 시각 질의들은 아크로바트(Acrobat), 사진 편집 프로그램, 그림 프로그램 또는 이미지 편집 프로그램과 같은 이미지 발생 애플리케이션을 사용하여 생성된다. 예를 들어, 시각 질의는, 사용자가 자신의 휴대 전화에서 자신의 친구의 사진을 찍고 그 다음에 서버 시스템에 시각 질의로서 사진을 제출하는 것으로부터 올 수 있다. 시각 질의는 또한, 사용자가 잡지의 페이지를 스캔하거나 또는 데스크톱 컴퓨터에서 웹페이지의 스크린 샷을 취하고 그 다음에 서버 시스템에 시각 질의로서 스캔 또는 스크린 샷을 제출하는 것으부터 올 수 있다. 임의의 실시예들에서, 시각 질의는 브라우저 애플리케이션의 검색 엔진 확장을 통해, 브라우저 애플리케이션에 대한 플러그-인을 통해 또는 클라이언트 시스템(102)에 의해 실행되는 검색 애플리케이션에 의해 서버 시스템(106)에 제출된다. 시각 질의들은 또한 클라이언트 시스템에 의해 원격으로 위치된 서버에 전송될 수 있는 이미지들을 지원 또는 발생시키는 다른 애플리케이션 프로그램들(클라이언트 시스템에 의해 실행됨)에 의해 제출될 수 있다.
시각 질의는 텍스트 및 비-텍스트 엘리먼트들의 조합일 수 있다(208). 예를 들어, 질의는 도로 표지판 옆에 서있는 사람과 같은, 이미지들 및 텍스트를 포함하는 잡지 페이지의 스캔일 수 있다. 시각 질의는 클라이언트 시스템에 임베딩된 카메라에 의해 촬영되는, 사람의 얼굴의 이미지 또는 클라이언트 시스템에 의해 스캔되거나 그렇지 않으면 수신되는 문서를 포함할 수 있다. 시각 질의는 또한 텍스트만을 포함하는 문서의 스캔일 수 있다. 시각 질의는 또한 숲 속의 여러 새들, 사람 및 오브젝트(예를 들어, 차, 공원 벤치 등), 사람 및 동물(예를 들어, 애완동물, 농장 동물, 나비 등)과 같은 많은 별개의 서브젝트들의 이미지일 수 있다. 시각 질의들은 둘 이상의 별개의 엘리먼트들을 가질 수 있다. 예를 들어, 시각 질의는 물건의 바코드 및 이미지 또는 물건 포장의 물건 명칭을 포함할 수 있다. 예를 들어, 시각 질의는 책의 타이틀, 커버 아트 및 바코드를 포함하는 책 커버의 픽처일 수 있다. 임의의 예시들에서, 하나의 시각 질의는 아래에 더 상세히 논의되는 바와 같이, 시각 질의의 상이한 부분들에 대응하는 둘 이상의 별개의 검색 결과들을 산출할 것이다.
서버 시스템은 아래와 같은 시각 질의를 프로세싱한다. 프론트 엔드 서버 시스템은 동시 프로세싱을 위해 복수의 병렬 검색 시스템들에 시각 질의를 송신한다(210). 각 검색 시스템은 별개의 시각 질의 검색 프로세스를 구현하고, 즉, 개별 검색 시스템은 자신의 고유의 프로세싱 방식에 의해 시각 질의를 프로세싱한다.
임의의 실시예들에서, 프로세싱을 위해 시각 질의가 송신되는 검색 시스템들 중 하나는 광학식 문자 인식(OCR) 검색 시스템이다. 임의의 실시예들에서, 프로세싱을 위해 시각 질의가 송신되는 검색 시스템들 중 하나는 얼굴 인식 검색 시스템이다. 임의의 실시예들에서, 별개의 시각 질의 검색 프로세스들을 실행하는 복수의 검색 시스템들은 적어도, 광학식 문자 인식(OCR), 얼굴 인식, 및 OCR 및 얼굴 인식 외에 다른 이미지에 의한 질의 프로세스를 포함한다(212). 다른 이미지에 의한 질의 프로세스는 물건 인식, 바 코드 인식, 오브젝트-또는-오브젝트-카테고리 인식, 명명 엔티티 인식 및 색 인식을 포함하는(이에 제한되지 않음) 프로세스들의 세트로부터 선택된다(212).
임의의 실시예들에서, 명명 엔티티 인식은 OCR 검색 시스템의 포스트 프로세스로서 발생하고, OCR의 텍스트 결과는 유명한 사람들, 위치들, 오브젝트들 등에 대하여 분석되고, 그 다음에 명명 엔티티들로서 식별되는 용어들은 용어 질의 서버 시스템(118, 도 1)에서 검색된다. 다른 실시예들에서, 유명한 랜드마크들, 로고들, 사람들, 앨범 커버들, 상표들 등의 이미지들은 이미지-대-용어들 검색 시스템에 의해 인식된다. 다른 실시예들에서, 이미지-대-용어들 검색 시스템으로부터 분리된 별개의 명명 엔티티 이미지에 의한 질의 프로세스가 이용된다. 오브젝트-또는-오브젝트 카테고리 인식 시스템은 "차"와 같은 포괄적인 결과 타입들을 인식한다. 임의의 실시예들에서, 이 시스템은 물건 브랜드들, 특정 물건 물건 모델들 등을 인식하고, "포르쉐"와 같은 더 상세한 설명들을 제공한다. 검색 시스템들 중 일부는 특별 사용자 특유 검색 시스템들일 수 있다. 예를 들어, 색 인식 및 얼굴 인식의 특정 버전들은 블라인드에 의해 사용되는 특별 검색 시스템들일 수 있다.
프론트 엔드 서버 시스템은 병렬 검색 시스템들로부터 결과들을 수신한다(214). 임의의 실시예들에서, 결과들은 검색 스코어를 동반한다. 임의의 시각 질의들에 대하여, 검색 시스템들 중 일부는 관련 결과들을 발견하지 않을 것이다. 예를 들어, 시각 질의가 꽃의 픽처인 경우, 얼굴 인식 검색 시스템 및 바 코드 검색 시스템은 임의의 관련 결과들을 발견하지 않을 것이다. 임의의 실시예들에서, 관련 결과들이 발견되지 않은 경우, 널 또는 제로 검색 스코어가 상기 검색 시스템으로부터 수신된다(216). 임의의 실시예들에서, 프론트 엔드 서버가 미리-정의된 시간의 기간(예를 들어, 0.2, 0.5, 1, 2 또는 5 초들) 후에 검색 시스템으로부터 결과를 수신하지 않는 경우, 타임 아웃된 서버가 널 검색 스코어를 산출한 것처럼 수신된 결과들을 프로세싱할 것이고 다른 검색 시스템들로부터 수신된 결과들을 프로세싱할 것이다.
선택적으로, 수신된 검색 결과들 중 적어도 둘이 미리-정의된 기준을 만족시킬 때, 이들은 순위화된다(218). 임의의 실시예들에서, 미리 정의된 기준 중 하나는 무효 결과들을 배제한다. 미리-정의된 기준은 결과들이 무효이지 않다는 것이다. 임의의 실시예들에서, 미리 정의된 기준 중 하나는 미리-정의된 최소 스코어 미만에 있는 숫자 스코어를 가지는 결과들(예를 들어, 관련 팩터들에 대하여)을 배제한다. 선택적으로 복수의 검색 결과들이 필터링된다(220). 임의의 실시예들에서, 결과들은 결과들의 총 수가 미리-정의된 임계치를 초과하는 경우에만 필터링된다. 임의의 실시예들에서, 모든 결과들이 순위화되지만 미리-정의된 최소 스코어 미만에 있는 결과들은 배제된다. 임의의 시각 질의들에 대하여, 결과들의 콘텐츠가 필터링된다. 예를 들어, 결과들의 일부가 사설 정보 또는 개인 보호 정보를 포함하는 경우, 이러한 결과들은 필터링되어 제외된다.
선택적으로, 시각 질의 서버 시스템은 복합 검색 결과를 생성한다(222). 이의 일 실시예는 도 3에 관하여 설명된 바와 같이, 상호작용 결과 문서에 둘 이상의 검색 시스템 결과가 임베딩될 때이다. 용어 질의 서버 시스템(118, 도 1)은 용어 검색으로부터의 결과들로 병렬 검색 시스템들 중 하나로부터의 결과들을 보강할 수 있고, 부가적인 결과들은 문서들 또는 정보 소스들에 대한 링크들 또는 텍스트 및/또는 시각 질의에 관련될 수 있는 부가적인 정보를 포함하는 이미지들이다. 그러므로, 예를 들어, 복합 검색 결과는 OCR 결과 및 OCR 문서에서 명명 엔티티에 대한 링크를 포함할 수 있다(224).
임의의 실시예들에서, OCR 검색 시스템(112-B, 도 1) 또는 프론트 엔드 시각 질의 프로세싱 서버(110, 도 1)는 텍스트에서 비슷한 관련 단어들을 인식한다. 예를 들어, 유명한 사람들 또는 장소들과 같은 명명 엔티티들을 인식할 수 있다. 명명 엔티티들은 용어 질의 서버 시스템(118, 도 1)에 질의 용어들로서 제출된다. 임의의 실시예들에서, 용어 질의 서버 시스템에 의해 산출되는 용어 질의 결과들은 "링크"로서 시각 질의 결과에 임베딩된다. 임의의 실시예들에서, 용어 질의 결과들은 분리된 링크들로서 리턴된다. 예를 들어, 책 커버의 픽처가 시각 질의인 경우, 오브젝트 인식 검색 시스템이 책에 대한 고 스코어 히트를 산출할 가능성이 높다. 따라서, 책의 타이틀에 대한 용어 질의는 용어 질의 서버 시스템(118)에서 실행될 수 있고 용어 질의 결과들은 시각 질의 결과들과 함께 리턴된다. 임의의 실시예들에서, 용어 질의 결과들은 시각 질의 결과들로부터 자신들을 구별하기 위해 라벨링된 그룹으로 제시된다. 결과들은 개별적으로 검색될 수 있거나, 검색은 특히 관련된 부가적인 검색 결과들을 산출하기 위해 검색 질의에서 모든 인식된 명명 엔티티들을 사용하여 수행될 수 있다. 예를 들어, 시각 질의가 파리(Paris)에 관한 스캐닝된 여행 브로슈어인 경우, 리턴된 결과는 용어 질의 "노틀 담"에서 검색을 개시하기 위해 용어 질의 서버 시스템(118)에 대한 링크들을 포함할 수 있다. 유사하게, 복합 검색 결과들은 인식된 유명한 이미지들에 대한 텍스트 검색들로부터의 결과들을 포함한다. 예를 들어, 동일한 여행 브로슈어에서, "에펠 탑" 및 "루브르"와 같은 브로슈어에서 픽처들로 도시된 유명한 목적지들에 대한 용어 질의 결과들에 대한 라이브 링크들이 또한 도시될 수 있다(용어들 "에펠 탑" 및 "루브르"는 브로슈어 자신에서 나타나지 않을 수 있는 경우에도).
시각 질의 서버 시스템은 그 다음에 클라이언트 시스템에 적어도 하나의 결과를 송신한다(226). 전형적으로, 시각 질의 프로세싱 서버가 복수의 검색 시스템들 중 적어도 일부로부터 복수의 검색 결과들을 수신하는 경우, 시각 질의 프로세싱 서버는 클라이언트 시스템에 복수의 검색 결과들 중 적어도 하나를 송신할 것이다. 임의의 시각 질의들에 대하여, 오직 하나의 검색 시스템이 관련 결과들을 리턴할 것이다. 예를 들어, 텍스트의 이미지만을 포함하는 시각 질의에서, 오직 OCR 서버의 결과들이 관련될 수 있다. 임의의 시각 질의들에 대하여, 하나의 검색 시스템으로부터의 오직 하나의 결과가 관련될 수 있다. 예를 들어, 스캐닝된 바 코드에 관련된 물건만이 관련될 수 있다. 이러한 예시들에서, 프론트 엔드 시각 프로세싱 서버는 관련 검색 결과(들)만을 리턴할 것이다. 임의의 시각 질의들에 대하여, 복수의 검색 결과들은 클라이언트 시스템에 송신되고, 복수의 검색 결과들은 병렬 검색 시스템들 중 둘 이상으로부터의 검색 결과들을 포함한다(228). 이는 둘 이상의 별개 이미지가 시각 질의에 있을 때 발생할 수 있다. 예를 들어, 시각 질의가 말을 타는 사람의 픽처인 경우, 사람의 얼굴 인식의 결과들은 말에 대한 오브젝트 인식 결과들과 함께 디스플레이될 수 있다. 임의의 실시예들에서, 이미지 검색 시스템에 의한 특정 질의에 대한 모든 결과들은 함께 그룹화되고 제시된다. 예를 들어, 상위 N개의 얼굴 인식 결과들은 제목 "얼굴 인식 결과들" 하에서 디스플레이되고 상위 N개의 오브젝트 인식 결과들은 제목 "오브젝트 인식 결과들" 하에서 함께 디스플레이된다. 대안적으로, 아래에 논의되는 바와 같이, 특정 이미지 검색 시스템으로부터의 검색 결과들은 이미지 영역에 의해 그룹화될 수 있다. 예를 들어, 시각 질의가 두 개의 얼굴들을 포함하는 경우, 두 얼굴 모두는 얼굴 인식 결과들을 산출하고, 각 얼굴에 대한 결과들은 별개의 그룹으로 제시될 수 있다. 임의의 시각 질의들(예를들어, 텍스트 및 하나 이상의 오브젝트들 둘다의 이미지를 포함하는 시각 질의)에 대하여, 검색 결과들은 OCR 결과들 및 하나 이상의 이미지-매칭 결과들 둘 다를 포함할 수 있다(230).
임의의 실시예들에서, 사용자는 특정 검색 결과에 관해 더 알게 되기를 원할 수 있다. 예를 들어, 시각 질의가 돌고래의 픽처이고 "이미지 대 용어들" 검색 시스템이 아래의 용어들 "물", "돌고래", "파란색" 및 "물갈퀴"를 리턴하는 경우, 사용자는 "물갈퀴"에서 텍스트 기반 질의 용어 검색을 실행하기를 원할 수 있다. 사용자가 용어 질의(예를 들어, 검색 결과들에서 대응하는 링크를 클릭하거나 그렇지 않으면 선택하는 사용자에 의해 나타내는)에서 검색을 실행하기를 원할 때, 질의 용어 서버 시스템(118, 도 1)이 액세스되고, 선택된 용어(들)상에서 검색이 실행된다. 대응하는 검색 용어 결과들이 시각 질의 결과들과 함께 또는 분리하여 클라이언트 시스템상에 디스플레이된다(232). 임의의 실시예들에서, 프론트 엔드 시각 질의 프로세싱 서버(110, 도 1)는 자동으로(즉, 초기 시각 질의 외에 어떤 사용자 커맨드도 수신하지 않고) 시각 질의에 대한 하나 이상의 상위 잠재 결과들을 선택하고, 용어 질의 서버 시스템(118)상에 이 텍스트 결과들을 실행하고 그 다음에 클라이언트 시스템에 적어도 하나의 검색 결과를 송신하는 일부로서 클라이언트 시스템에 시각 질의 결과와 함께 이 용어 질의 결과들을 리턴한다(232). 상기 예시에서, "물갈퀴"가 돌고래의 시각 질의 픽처에 대한 제 1 용어 결과인 경우, 프론트 엔드 서버는 "물갈퀴"에서 용어 질의를 실행하고 클라이언트 시스템에 시각 질의 결과들과 함께 이러한 용어 질의 결과들을 리턴한다. 사용자에 의해 선택될 것으로 고려되는 용어 결과가 시각 질의로부터 사용자에게 검색 결과들을 송신하기 전에 자동으로 실행되는 이 실시예는 사용자 시간을 절약한다. 임의의 실시예들에서, 이러한 결과들은 상기 설명된 바와 같이 복합 검색 결과로서 디스플레이된다(222). 다른 실시예들에서, 결과들은 복합 검색 결과 대신에 또는 복합 검색 결과 외에 검색 결과 리스트의 부분이다.
도 3은 상호작용 결과 문서를 이용하여 시각 질의에 응답하기 위한 프로세스를 도시하는 흐름도이다. 제 1 세 개의 동작들(202, 210, 214)은 도 2를 참조하여 상기 설명된다. 병렬 검색 시스템들(214)로부터 수신되는 검색 결과들로부터, 상호작용 결과 문서가 생성된다(302).
상호작용 결과 문서의 생성(302)은 이제 상세히 설명될 것이다. 임의의 시각 질의들에 대하여, 상호작용 결과 문서는 시각 질의의 각각의 서브-부분들의 하나 이상의 시각 식별자들을 포함한다. 각 시각 식별자는 검색 결과들 중 적어도 하나에 대한 적어도 하나의 사용자 선택가능한 링크를 가진다. 시각 식별자는 시각 질의의 각각의 서브-부분을 식별한다. 임의의 시각 질의들에 대하여, 상호작용 결과 문서는 하나 이상의 결과들에 대한 하나의 사용자 선택가능한 링크를 가진 오직 하나의 시각 식별자를 가진다. 임의의 실시예들에서, 검색 결과들 중 하나 이상에 대한 각각의 사용자 선택가능한 링크는 활성 영역을 가지고, 활성 영역은 대응하는 시각 식별자와 연관된 시각 질의의 서브-부분에 대응한다.
임의의 실시예들에서, 시각 식별자는 바운딩 박스(304)이다. 임의의 실시예들에서, 바운딩 박스는 도 12a에 도시된 바와 같이 시각 질의의 서브-부분을 둘러싼다. 바운딩 박스는 정사각형 또는 직사각형 박스 형상일 필요가 없고, (예를 들어, 시각 질의의 오브젝트, 시각 질의의 엔티티 또는 시각 질의의 영역에 대해), 원형, 타원형, 등각, 불규칙 또는 도 12에 도시된 바와 같이 임의의 다른 형상일 수 있다. 임의의 시각 질의들에 대하여, 바운딩 박스는 시각 질의의 서브-부분에서 식별가능한 엔티티의 경계의 윤곽을 나타낸다(306). 임의의 실시예들에서, 각 바운딩 박스는 하나 이상의 검색 결과들에 대한 사용자 선택가능한 링크를 포함하고, 사용자 선택가능한 링크는 바운딩 박스에 의해 서라운딩되는 시각 질의의 서브-부분에 대응하는 활성 영역을 가진다. 바운딩 박스 내의 공간이(사용자 선택가능한 링크의 활성 영역) 사용자에 의해 선택될 때, 윤곽이 나타내어진 서브-부분에서 이미지에 대응하는 검색 결과들이 리턴된다.
임의의 실시예들에서, 시각 식별자는 도 14에 도시된 바와 같은 라벨이다(307). 임의의 실시예들에서, 라벨은 시각 질의의 각각의 서브-부분에서 이미지와 연관되는 적어도 하나의 용어를 포함한다. 각 라벨은 각각의 서브-부분에 또는 그 주위에 상호작용 결과 문서로 표시하기 위해 포맷된다. 임의의 실시예들에서 라벨들은 색 코딩된다.
임의의 실시예들에서, 각 개별적인 시각 식별자들은 시각 질의의 각각의 서브-부분에서 인식된 엔티티의 타입에 따라 시각적으로 구별되는 방식으로 표시하기 위해 포맷된다. 예를 들어, 도 13에 도시된 바와 같이, 물건, 사람, 상표 및 두 개의 텍스트 영역들 주위의 바운딩 박스들은 각각 상이하게 색칠된 투명 바운딩 박스들을 표시하는, 별개의 크로스-해칭 패턴들로 표시된다. 임의의 실시예들에서, 시각 식별자들은 오버레이 색, 오버레이 패턴, 라벨 배경 색, 라벨 배경 패턴, 라벨 폰트 색 및 경계 색과 같은 시각적으로 구별되는 방식들로 표시하기 위해 포맷된다.
임의의 실시예들에서, 상호작용 결과 문서의 사용자 선택가능한 링크는 시각 질의의 대응하는 서브-부분에 관련된 하나 이상의 결과들을 포함하는 문서 또는 오브젝트에 대한 링크이다(308). 임의의 실시예들에서, 적어도 하나의 검색 결과는 시각 질의의 대응하는 서브-부분에 관련된 데이터를 포함한다. 따라서, 사용자가 각각의 서브-부분과 연관된 선택가능한 링크를 선택할 때, 사용자는 시각 질의의 각각의 서브-부분에서 인식된 엔티티에 대응하는 검색 결과들로 안내된다.
예를 들어, 시각 질의가 바 코드의 사진이었던 경우, 바 코드가 부착된 포장의 관련된 부분들인 사진의 부분들이 존재할 수 있다. 상호작용 결과 문서는 오직 바 코드 주위만의 바운딩 박스를 포함할 수 있다. 윤곽이 나타내어진 바 코드 바운딩 박스 내에서 사용자가 선택할 때, 바 코드 검색 결과가 디스플레이된다. 바 코드 검색 결과는 하나의 결과, 상기 바 코드에 대응하는 물건의 명칭을 포함할 수 있거나, 또는 바 코드 결과들은 물건이 구입, 리뷰 등이 될 수 있는 다양한 장소들과 같은 여러 결과들을 포함할 수 있다.
임의의 실시예들에서, 개별적인 시각 식별자에 대응하는 시각 질의의 서브-부분이 하나 이상의 용어들을 포함하는 텍스트를 포함할 때, 개별적인 시각 식별자에 대응하는 검색 결과들은 텍스트의 용어들 중 적어도 하나에 대한 용어 질의 검색으로부터의 결과들을 포함한다. 임의의 실시예들에서, 개별적인 시각 식별자에 대응하는 시각 질의의 서브-부분이 미리 정의된 신뢰성(또는 다른) 기준을 만족시키는, 적어도 하나의 매칭(즉, 검색 결과)이 발견되는 사람의 얼굴을 포함할 때, 개별적인 시각 식별자에 대응하는 검색 결과들은 명칭, 핸들, 컨택트 정보, 어카운트 정보, 주소 정보, 선택가능한 서브-부분에 포함된 얼굴을 갖는 사람과 연관된 관련 모바일 디바이스의 현재 위치, 선택가능한 서브-부분에 포함된 얼굴을 갖는 사람의 다른 이미지들 및 그 사람의 얼굴에 대한 잠재 이미지 매칭들 중 하나 이상을 포함한다. 임의의 실시예들에서, 개별적인 시각 식별자에 대응하는 시각 질의의 서브-부분이 미리 정의된 신뢰성(또는 다른) 기준을 만족하는, 적어도 하나의 매칭(즉, 검색 결과)이 발견되는 물건을 포함할 때, 개별적인 시각 식별자에 대응하는 검색 결과들은 물건 정보, 물건 리뷰, 물건의 구입을 개시하기 위한 옵션, 물건에 입찰을 개시하기 위한 옵션, 유사한 물건들의 리스트 및 관련된 물건들의 리스트 중 하나 이상을 포함한다.
선택적으로, 상호 작용 결과 문서에서 개별적인 사용자 선택가능한 링크는 앵커(anchor) 텍스트를 포함하고, 이는 링크를 활성함이 없이 문서에 디스플레이된다. 앵커 텍스트는 링크가 활성화될 때 획득되는 정보에 관련된 키 워드 또는 용어와 같은 정보를 제공한다. 앵커 텍스트는 라벨의 일부로서 디스플레이되거나(307) 또는 바운딩 박스의 부분에 디스플레이되거나(304) 또는 사용자가 1 초와 같은 미리-결정된 시간의 기간에 대한 사용자 선택가능한 링크 위에 커서를 맴돌게 할 때 디스플레이되는 부가적인 정보로서 디스플레이될 수 있다.
선택적으로, 상호작용 결과 문서에서 개별적인 사용자 선택가능한 링크는 텍스트-기반 질의(때때로 용어 질의로 본 명세서에서 지칭됨)에 대응하는 문서들 또는 정보를 검색하기 위한 검색 엔진에 대한 링크이다. 링크의 활성화는 검색 엔진에 의한 검색의 실행을 야기하고, 질의 및 검색 엔진은 클라이언트 시스템에 리턴되는 결과들을 가진, 링크에 의해 특정된다(예를 들어, 검색 엔진은 링크에서 URL에 의해 특정되고 텍스트-기반 검색 질의는 링크의 URL 파라미터에 의해 특정됨). 선택적으로, 이 실시예에서 링크는 검색 질의에서 용어들 또는 텍스트를 명시하는 앵커 텍스트를 포함할 수 있다.
임의의 실시예들에서, 시각 질의에 응답하여 산출되는 상호작용 결과 문서는 동일한 검색 시스템으로부터의 결과들에 대응하는 복수의 링크들을 포함할 수 있다. 예를 들어, 시각 질의는 사람들의 그룹의 픽처 또는 이미지일 수 있다. 상호작용 결과 문서는 각 사람 주위에 바운딩 박스들을 포함할 수 있고, 활성화될 때 그룹에서 각 얼굴에 대하여 얼굴 인식 검색 시스템으로부터 결과들을 리턴한다. 임의의 시각 질의들에 대하여, 상호작용 결과 문서에서 복수의 링크들은 둘 이상의 검색 시스템으로부터의 검색 결과들에 대응한다(310). 예를 들어, 사람 및 개의 픽처가 시각 질의로서 제출되었던 경우, 상호작용 결과 문서에서 바운딩 박스들은 사람 및 개를 분리하여 윤곽을 나타낼 수 있다. (상호작용 결과 문서에서) 개인이 선택될 때, 얼굴 인식 검색 시스템으로부터 검색 결과들이 리턴되고, (상호작용 결과 문서에서) 개가 선택될 때, 이미지-대-용어들 검색 시스템으로부터 결과들이 리턴된다. 임의의 시각 질의들에 대하여, 상호작용 결과 문서는 OCR 결과 및 이미지 매칭 결과를 포함한다(312). 예를 들어, 표지판 옆에 서있는 사람의 픽처가 시각 질의로서 제출되는 경우, 상호작용 결과 문서는 표지판의 텍스트에 대하여 그리고 사람에 대하여 시각 식별자들을 포함할 수 있다. 유사하게, 잡지의 스캔이 시각 질의로서 사용되는 경우, 상호작용 결과 문서는 또한 상기 페이지에서 기사의 텍스트에 대한 시각 식별자뿐만 아니라 페이지상에서 광고들에서 사진들 또는 상표들에 대한 시각 식별자들을 포함할 수 있다.
상호작용 결과 문서가 생성된 후, 클라이언트 시스템에 송신된다(314). 임의의 실시예들에서, 상호작용 결과 문서(예를 들어, 문서(1200), 도 15)는 도 2를 참조하여 상기 설명된 바와 같이, 하나 이상의 병렬 검색 시스템들로부터 검색 결과들의 리스트와 함께 송신된다. 임의의 실시예들에서, 상호작용 결과 문서는 도 15에 도시된 바와 같이 하나 이상의 병렬 검색 시스템들로부터 검색 결과들의 리스트 위에 또는 그렇지 않으면 상기 리스트에 인접하여 클라이언트 시스템에서 디스플레이된다(315).
선택적으로, 사용자는 결과 문서에서 시각 식별자를 선택함으로써 결과 문서와 상호작용할 것이다. 서버 시스템은 상호 결과 문서에서 시각 식별자의 사용자 선택에 관한 정보를 클라이언트 시스템으로부터 수신한다(316). 상기 논의된 바와 같이, 임의의 실시예들에서, 링크는 바운딩 박스 내에 활성 영역을 선택함으로써 활성화된다. 다른 실시예들에서, 링크는 바운딩 박스가 아닌, 시각 질의의 서브-부분의 시각 식별자의 사용자 선택에 의해 활성화된다. 임의의 실시예들에서, 링크된 시각 식별자가 핫 버튼, 서브-부분 근처에 위치된 라벨, 텍스트에서 밑줄쳐진 단어 또는 시각 질의에서 오브젝트 또는 서브젝트의 다른 표시이다.
검색 결과 리스트가 상호작용 결과 문서로 표시되는(315) 실시예들에서, 사용자가 사용자 선택가능한 링크를 선택할 때(316), 선택된 링크에 대응하는 검색 결과 리스트에서 검색 결과가 식별된다. 임의의 실시예들에서, 커서는 선택된 링크에 대응하는 제 1 결과를 점프하거나 또는 자동으로 제 1 결과로 이동할 것이다. 클라이언트(102)의 디스플레이가 상호작용 결과 문서 및 전체 검색 결과 리스트 둘 다를 디스플레이하기에는 너무 작은 임의의 실시예들에서, 상호작용 결과 문서에서 링크를 선택하는 것은 선택된 링크에 대응하는 적어도 하나의 제 1 결과를 디스플레이하도록 검색 결과 리스트를 스크롤 또는 점프하게 한다. 임의의 다른 실시예들에서, 상호작용 결과 문서에서 링크의 사용자 선택에 응답하여 결과 리스트는 결과 리스트의 상부에서 링크에 대응하는 제 1 결과가 디스플레이되도록 다시 순서화된다.
임의의 실시예들에서, 사용자가 사용자 선택가능한 링크를 선택할 때(316), 시각 질의 서버 시스템은 사용자에 디스플레이하기 위해 클라이언트에 시각 질의의 대응하는 서브-부분에 관련된 결과들의 적어도 서브세트를 송신한다(318). 임의의 실시예들에서, 사용자는 동시에 다수의 시각 식별자들을 선택할 수 있고 선택된 시각 식별자들 모두에 대한 결과들의 서브세트를 동시에 수신할 것이다. 다른 실시예들에서, 사용자 선택가능한 링크들에 대응하는 검색 결과들은, 상호작용 결과 문서의 하나 이상의 링크들의 사용자 선택에 응답하여 순간적으로 가상으로 사용자에게 검색 결과들을 제공하도록 사용자 선택가능한 링크들 중 일부의 사용자 선택 전에 클라이언트에 선로딩된다.
도 4는 클라이언트 및 시각 질의 서버 시스템 사이에서의 통신들을 도시하는 흐름도이다. 클라이언트(102)는 사용자/질의자로부터 시각 질의를 수신한다(402). 임의의 실시예들에서, 시각 질의들은 시각 질의 시스템에 사인 업 또는 "옵트 인(opt in)"되는 사용자들로부터만 수용될 수 있다. 임의의 실시예들에서, 얼굴 인식 매칭들에 대한 검색들은 얼굴 인식 시각 질의 시스템에 대하여 사인 업한 사용자들에 대해서만 수행되는 반면, 시각 질의들의 다른 타입들은 사용자들이 얼굴 인식 부분에 "옵트 인"했는지에 관계없이 누구에 대해서도 수행된다.
상기 설명된 바와 같이 시각 질의의 포맷은 많은 형태들을 취할 수 있다. 시각 질의는 시각 질의 문서의 서브-부분들에 위치된 하나 이상의 서브젝트들을 포함할 가능성이 있을 것이다. 임의의 시각 질의들에 대하여, 클라이언트 시스템(102)은 시각 질의에 타입 인식 선-프로세싱을 수행한다(404). 임의의 실시예들에서, 클라이언트 시스템(102)은 이 선-프로세싱 시스템에서 특정 인식가능한 패턴들을 검색한다. 예를 들어, 임의의 시각 질의들에 대하여 클라이언트는 색들을 인식할 수 있다. 임의의 시각 질의들에 대하여, 클라이언트는 특정 서브-부분이 텍스트를 포함할 가능성이 있음을 인식할 수 있다(상기 영역이 빛 공간 등에 의해 서라운딩된 작은 어두운 문자들로 이루어지기 때문에). 클라이언트는 임의의 수의 선-프로세싱 타입 인식기들 또는 타입 인식 모듈들을 포함할 수 있다. 임의의 실시예들에서, 클라이언트는 바 코드들을 인식하기 위해 타입 인식 모듈을 가질 것이다(바코드 인식(406)). 직사각형 영역에서 독특한 줄무늬 패턴을 인식함으로써 그렇게 할 수 있다. 임의의 실시예들에서, 클라이언트는 시각 질의의 서브-부분 또는 특정 서브젝트가 얼굴을 포함할 가능성이 있음을 인식하기 위해 타입 인식 모듈을 가질 것이다(얼굴 검출(408)).
임의의 실시예들에서, 인식된 "타입"은 확인을 위해 사용자에 리턴된다. 예를 들어, 클라이언트 시스템(102)은 "바 코드가 당신의 시각 질의에서 발견되었다, 당신은 바 코드 질의 결과들을 수신하는데 관심이 있는가?"라고 말하는 메시지를 리턴할 수 있다. 임의의 실시예들에서, 메시지는 타입이 발견되는 시각 질의의 서브-부분도 나타낼 수 있다. 임의의 실시예들에서, 이 표시는 도 3을 참조하여 설명된 상호작용 결과 문서와 유사하다. 예를 들어, 시각 질의의 서브-부분의 윤곽을 나타낼 수 있고, 서브-부분이 얼굴을 포함할 가능성이 있음을 나타내고 사용자에게 자신들이 얼굴 인식 결과들을 수신하는데 관심이 있는지를 물을 수 있다.
클라이언트(102)가 시각 질의의 선택적 선-프로세싱을 수행한 후, 클라이언트는 시각 질의 서버 시스템(106)에, 특히 프론트 엔드 시각 질의 프로세싱 서버(110)에 시각 질의를 송신한다. 임의의 실시예들에서, 선-프로세싱이 관련 결과들을 산출한 경우, 즉, 타입 인식 모듈들 중 하나가 질의 또는 질의의 서브-부분이 특정 타입(얼굴, 텍스트, 바코드 등)일 가능성이 있음을 나타내는, 특정 임계치 초과의 결과들을 산출하는 경우, 클라이언트는 선-프로세싱의 결과들에 관한 정보를 패스할 것이다. 예를 들어, 클라이언트는 얼굴 인식 모듈이 시각 질의의 특정 서브-부분이 얼굴을 포함한다고 75% 확신한다고 나타낼 수 있다. 더 일반적으로, 선-프로세싱 결과들은, 존재한다면, 하나 이상의 서브젝트 타입 값들(예를 들어, 바 코드, 얼굴, 텍스트 등)을 포함한다. 선택적으로, 시각 질의 서버 시스템에 송신된 선-프로세싱 결과들은, 선-프로세싱 결과들에서 각 서브젝트 타입에 대하여 서브젝트 타입 값에 대응하는 시각 질의의 서브-부분을 식별하는 정보 및 선-프로세싱 결과들에서 각 서브젝트 타입에 대하여, 시각 질의의 대응하는 서브-부분의 식별 및/또는 서브젝트 타입 값에서 확신의 레벨을 나타내는 확신 값 중 하나 이상을 포함한다.
프론트 엔드 서버(110)는 클라이언트 시스템으로부터 시각 질의를 수신한다(202). 수신되는 시각 질의는 상기 논의된 선-프로세싱 정보를 포함할 수 있다. 상기 설명된 바와 같이, 프론트 엔드 서버는 복수의 병렬 검색 시스템들에 시각 질의를 송신한다(210). 프론트 엔드 서버(110)가 서브-부분이 특정 타입의 서브젝트를 포함하는 가능성에 관한 선-프로세싱 정보를 수신한 경우, 프론트 엔드 서버는 병렬 검색 시스템들 중 하나 이상에 따라 이 정보를 패스할 수 있다. 예를 들어, 얼굴 인식 검색 시스템(112-A)이 먼저 시각 질의의 그 서브섹션을 프로세싱할 수 있도록 특정 서브-부분이 얼굴일 가능성이 있다는 정보를 패스할 수 있다. 유사하게, (특정 서브-부분이 얼굴일 가능성이 있다는) 동일 정보의 송신은 그 서브-부분을 무시 또는 다른 서브-부분들을 먼저 분석하기 위해 다른 병렬 검색 시스템들에 의해 사용될 수 있다. 임의의 실시예들에서, 프론트 엔드 서버는 병렬 검색 시스템들에 선-프로세싱 정보를 패스하지 않을 것이지만, 병렬 검색 시스템들로부터 수신되는 결과들을 프로세싱할 방법을 보강하기 위해 이 정보를 대신 사용할 것이다.
도 2를 참조하여 설명된 바와 같이, 얼마 정도의 시각 질의들에 대하여, 프론트 엔드 서버(110)는 병렬 검색 시스템들로부터 복수의 검색 결과들을 수신한다(214). 프론트 엔드 서버는 그 다음에 다양한 순위화 및 필터링을 수행할 수 있고, 도 2 및 3을 참조하여 설명되는 상호작용 검색 결과 문서를 생성할 수 있다. 프론트 엔드 서버(110)가 서브-부분이 특정 타입의 서브젝트를 포함하는 가능성에 관한 선-프로세싱 정보를 수신한 경우, 선-프로세싱된 인식된 서브젝트 타입에 매칭하는 이러한 결과들에 선호도를 부여함으로써 필터링 및 순서화할 수 있다. 상용자가 특정 타입의 결과가 요청되었다고 나타내는 경우, 프론트 엔드 서버는 결과들을 프로세싱할 때 사용자의 요청들을 고려할 것이다. 예를 들어, 프론트 엔드 서버는 사용자가 바 코드 정보를 요청한 경우에만 모든 다른 결과들을 필터링할 수 있거나 또는 프론트 엔드 서버가 다른 결과들을 리스팅하기 전에 요청된 타입에 포함되는 모든 결과들을 리스팅할 것이다. 상호작용 시각 질의 문서가 리턴된 경우, 오직 상호작용 결과 문서에 나타난 다른 서브젝트들에 대한 관련 검색들을 수행하기 위해 링크들을 제공하면서 서버는 사용자가 관심있다고 나타낸 타입의 결과와 연관된 링크들을 선-검색할 수 있다. 그 다음에 프론트 엔드 서버(110)는 클라이언트 시스템에 검색 결과들을 송신한다(226).
클라이언트(102)는 서버 시스템으로부터 결과들을 수신한다(412). 적용가능할 때, 이러한 결과들은 선-프로세싱 스테이지에서 발견된 결과의 타입에 매칭하는 결과들을 포함할 것이다. 예를 들어, 임의의 실시예들에서, 상기 결과들은 하나 이상의 바 코드 결과들을 포함하거나(414) 또는 하나 이상의 얼굴 인식 결과들을 포함할 것이다(416). 클라이언트의 선-프로세싱 모듈들이 특정 타입의 결과가 선호됐음을 나타냈고 그 결과가 발견된 경우, 상기 타입의 발견된 결과들은 두드러지게 리스팅될 것이다.
선택적으로 사용자는 결과들 중 하나 이상을 선택하거나 또는 주석을 달 것이다(418). 사용자는 하나의 검색 결과를 선택할 수 있고, 특정 타입의 검색 결과를 선택할 수 있고 그리고/또는 상호작용 결과 문서의 부분을 선택할 수 있다(420). 결과의 선택은 리턴된 결과가 질의에 관련되었다는 묵시된 피드백이다. 이러한 피드백 정보는 미래의 질의 프로세싱 동작들에 이용될 수 있다. 주석은 또한 미래의 질의 프로세싱 동작들에서 이용될 수 있는 리턴된 결과에 관한 명시적 피드백을 제공한다. 주석들은 분리된 주석(자유 형태 또는 구조된 형태) 또는 리턴된 결과의 부분들의 (오(mis)-OCR된 단어에 대한 정정과 같은) 정정들의 형태를 취한다.
동일 타입 중 여럿으로부터 "올바른" 결과를 일반적으로 선택하는(예를 들어, 얼굴 인식 서버로부터 정확한 결과를 선택하는), 하나의 검색 결과의 사용자의 선택은 해석들 사이에서의 선택으로 지칭되는 프로세스이다. 여러 상이한 타입들의 리턴된 결과들로부터 관심의 결과 "타입"을 일반적으로 선택하는, 특정 타입의 검색 결과의 사용자의 선택(예를 들어, 또한 동일 페이지상에서 광고들에 대한 시각 결과들보다 오히려 잡지에서 기사의 OCR된 텍스트를 선택)은 의도의 명확화로 지칭되는 프로세스이다. 사용자는 도 8을 참조하여 상세히 설명된 OCR된 문서에서 특정 링크된 단어들(인식된 명명 엔티티들과 같은)을 유사하게 선택할 수 있다.
사용자는 대안적으로 또는 부가적으로 특정 검색 결과들에 주석을 달고자할 수 있다. 이 주석은 자유형 스타일 또는 구조된 포맷으로 이루어질 수 있다(422). 주석들은 결과의 설명들일 수 있거나 또는 결과의 리뷰들일 수 있다. 예를 들어, 주석들은 결과에서 서브젝트(들)의 명칭을 나타낼 수 있거나 또는 주석들은 "이는 좋은 책" 또는 "이 물건은 구입한 해 내에 망가졌다"를 나타낼 수 있다. 주석의 다른 예는 바운딩 박스 내에 서브젝트 또는 오브젝트를 식별하는 사용자-제공된 텍스트 및 시각 질의의 서브-부분 주위에 사용자에 의해 그려진 바운딩 박스이다. 사용자 주석들은 도 5를 참조하여 더 상세히 설명된다.
다른 주석들 및 검색 결과들의 사용자 선택들은 서버 시스템에 송신된다(424). 프론트 엔드 서버(110)는 선택들 및 주석들을 수신하고 추가적으로 이들을 프로세싱한다(426). 정보가 상호작용 결과 문서에서 오브젝트, 서브-영역 또는 용어의 선택인 경우, 상기 선택에 관한 추가의 정보는 적절히 요청될 수 있다. 예를 들어, 선택이 하나의 시각 결과인 경우, 시각 결과에 관한 더 많은 정보가 요청될 수 있다. 선택이 단어인 경우(OCR 서버 또는 이미지-대-용어들 서버로부터), 상기 용어의 텍스트 검색은 용어 질의 서버 시스템(118)에 송신될 수 있다. 선택이 얼굴 이미지 인식 검색 시스템으로부터의 사람인 경우, 상기 사람의 프로파일이 요청될 수 있다. 선택이 상호작용 검색 결과 문서의 특정 부분에 대한 것인 경우, 밑줄친 시각 질의 결과들이 요청될 수 있다.
서버 시스템이 주석을 수신하는 경우, 주석은 도 5를 참조하여 설명된, 질의 및 주석 데이터베이스(116)에 저장된다. 그 다음에 주석 데이터베이스(116)로부터의 정보는 도 7 내지 도 10을 참조하여 아래에 논의되는 바와 같이, 병렬 서버 시스템들 중 하나 이상에 대하여 개별적인 주석 데이터베이스들에 주기적으로 카피된다.
도 5는 본 발명의 일 실시예에 따라 클라이언트 시스템(102)을 도시하는 블록도이다. 클라이언트 시스템(102)은 전형적으로 하나 이상의 프로세싱 유닛(CPU)들(702), 하나 이상의 네트워크 또는 다른 통신 인터페이스들(704), 메모리(712) 및 이러한 컴포넌트들을 상호접속시키기 위한 하나 이상의 통신 버스들(714)를 포함한다. 클라이언트 시스템(102)은 사용자 인터페이스(705)를 포함한다. 사용자 인터페이스(705)는 디스플레이 디바이스(706)를 포함하고 선택적으로 키보드, 마우스 또는 다른 입력 버튼들(708)과 같은 입력 수단을 포함한다. 대안적으로 또는 부가적으로 디스플레이 디바이스(706)는 터치 감응 표면(709)을 포함하고, 이 경우 디스플레이(706/709)가 터치 감응 디스플레이이다. 터치 감응 디스플레이(706/709)를 가지는 클라이언트 시스템들에서, 물리 키보드는 선택적이다(예를 들어, 키보드 입력이 필요할 때 소프트 키보드가 디스플레이될 수 있다). 또한, 임의의 클라이언트 시스템들은 키보드를 보충하거나 대체하기 위해 마이크로폰 및 음성 인식을 사용한다. 선택적으로, 클라이언트(102)는 GPS(global positioning satellite) 수신기 또는 클라이언트 시스템의 위치를 결정하기 위한 다른 위치 검출 장치(707)를 포함한다. 임의의 실시에들에서, 클라이언트 시스템(102)의 위치를 나타내는 위치 정보를 수신하기 위해 클라이언트 시스템(102)이 시각 질의 서버 시스템을 제공하도록 요구하는 시각 질의 검색 디바이스들이 제공된다.
클라이언트 시스템(102)은 또한 카메라 또는 스캐너와 같은 이미지 캡처 디바이스(710)를 포함한다. 메모리(712)는 DRAM, SRAM, DDR RAM 또는 다른 랜덤 액세스 솔리드 스테이트 메모리 디바이스들과 같은, 고속 랜덤 액세스 메모리를 포함하고, 하나 이상의 자기 디스크 저장 디바이스들, 광 디스크 저장 디바이스들, 플래시 메모리 디바이스들 또는 다른 비-휘발성 솔리드 스테이트 저장 디바이스들과 같은 비-휘발성 메모리를 포함할 수 있다. 메모리(712)는 선택적으로 CPU(들)(702)로부터 원격으로 위치된 하나 이상의 저장 디바이스들을 포함할 수 있다. 메모리(712) 또는 대안적으로 메모리(712) 내의 비-휘발성 메모리 디바이스(들)는 비-일시적인 컴퓨터 판독가능한 저장 매체를 포함한다. 임의의 실시예들에서, 메모리(712) 또는 메모리(712)의 컴퓨터 판독가능한 저장 매체는 아래의 프로그램들, 모듈들 및 데이터 구조들 또는 이들의 서브셋을 저장한다:
· 하드웨어 의존 태스크들을 수행하기 위한 그리고 다양한 기본 시스템 서비스들을 핸들링하기 위한 절차들을 포함하는 운영 시스템(716);
· 인터넷, 다른 광역 네트워크들, 로컬 영역 네트워크들, 도시 영역 네트워크들 등과 같은, 하나 이상의 통신 네트워크들 및 하나 이상의 통신 네트워크 인터페이스들(704)(유선 또는 무선)을 통해 다른 컴퓨터들에 클라이언트 시스템(102)을 접속시키기 위해 사용되는 네트워크 통신 모듈(718);
· 이미지 캡처 디바이스/카메라(710)에 의해 캡처된 개별적인 이미지를 프로세싱하기 위한 이미지 캡처 모듈(720), 여기서, 개별적인 이미지는 시각 질의 서버 시스템에 시각 질의로서 (예를 들어, 클라이언트 애플리케이션 모듈에 의해) 송신될 수 있다;
· 시각 질의 서버 시스템에 시각 질의들을 제출하기 위한 이미지에 의한 질의 제출 모듈(724); 선택적으로 이미지에서 관심 영역의 (터치 감응 디스플레이(706/709)상에서 동작과 같은) 선택을 검출하고 상기 관심 영역을 시각 질의로서 준비하는 관심 영역 선택 모듈(725); 시각 질의의 결과들을 디스플레이하기 위한 결과 브라우저(726); 및 선택적으로, 다양한 포맷들로부터 주석들을 수용할 수 있는, 자유형 주석 텍스트 입력(732) 또는 일 형태로 파일링하는 것과 같은 구조된 주석 텍스트 입력(730)에 대한 선택적 모듈들을 가진 주석 모듈(728) 및 주석을 위한 이미지의 특정 서브-부분을 사용자가 선택하도록 하는 이미지 영역 선택 모듈(734)(때때로 결과 선택 모듈로 본 명세서에서 지칭됨)을 포함하는(이에 제한되지 않음) 이미지에 의한 질의의 다양한 양상들을 핸들링하기 위한 하나 이상의 클라이언트 애플리케이션 모듈들(722);
· 사용자가 이미지 캡처 디바이스(710)를 통해 바로 캡처링한 것보다 이미지를 생성하거나 편집함으로써 시각 질의를 저작하도록 하는 선택적 콘텐츠 저작 애플리케이션(들)(736); 선택적으로 하나 또는 이러한 애플리케이션들(736)은 사용자가 시각 질의로서 사용하기 위한 이미지의 서브-부분을 선택할 수 있도록 하는 명령들을 포함할 수 있다;
· 시각 질의 서버 시스템에 시각 질의를 송신하기 전에 시각 질의를 선-프로세싱하는 선택적 로컬 이미지 분석 모듈(738). 로컬 이미지 분석은 이미지들의 특정 타입들 또는 이미지 내의 서브-영역들을 인식할 수 있다. 이러한 모듈들(738)에 의해 인식될 수 있는 이미지 타입들의 예시들은 얼굴 타입(시각 질의 내에 인식된 얼굴 이미지), 바 코드 타입(시각 질의 내에 인식된 바 코드), 및 텍스트 타입(시각 질의 내에 인식된 텍스트) 중 하나 이상을 포함한다; 그리고
· 이메일 애플리케이션, 전화 애플리케이션, 브라우저 애플리케이션, 맵핑 애플리케이션, 인스턴트 메시징 애플리케이션, 소셜 네트워킹 애플리케이션 등과 같은 부가적인 선택적 클라이언트 애플리케이션들(740). 임의의 실시예들에서, 적절한 실행가능한 검색 결과에 대응하는 애플리케이션은 실행가능한 검색 결과가 선택될 때 런칭(launch) 또는 액세스될 수 있다.
선택적으로, 사용자가 주석에 대한 이미지의 특정 서브-부분을 선택하도록 하는 이미지 영역 선택 모듈(734)은 또한 사용자가 추가로 주석을 달 필요 없이 검색 결과를 "정확한" 히트로서 선택하도록 한다. 예를 들어, 사용자는 상위 N개의 얼굴 인식 매칭들을 제시받을 수 있고 상기 결과 리스트로부터 정확한 사람들 선택할 수 있다. 임의의 검색 질의들에 대하여 둘 이상의 타입의 결과가 표시될 것이고, 사용자는 결과의 타입을 선택할 것이다. 예를 들어, 이미지 질의는 나무 옆에 서있는 사람을 포함할 수 있지만 사람에 관한 결과들만 사용자에 관심이 있다. 그러므로, 이미지 선택 모듈(734)은 사용자가 어떤 타입의 이미지가 "정확한" 타입인지 - 즉, 사용자가 수신하기를 원하는 타입인지를 나타내도록 한다. 사용자는 또한 자유형 주석 텍스트 입력 모듈(732) 또는 (일 형태로 파일링하기 위한) 주석 텍스트 입력 모듈(730)을 사용하여 개인적 코멘트들 또는 설명 단어들을 부가함으로써 검색 결과에 주석을 달고자 할 수 있다.
임의의 실시예들에서, 선택적 로컬 이미지 분석 모듈(738)은 클라이언트 애플리케이션(108, 도 1)의 부분이다. 또한, 임의의 실시예들에서, 선택적 로컬 이미지 분석 모듈(738)은 시각 질의 또는 이들의 부분을 선-프로세싱 또는 카테고리화하기 위해 로컬 이미지 분석을 수행하기 위한 하나 이상의 프로그램들을 포함한다. 예를 들어, 클라이언트 애플리케이션(722)은 검색 엔진에 시각 질의를 제출하기 전에 이미지가 바 코드, 얼굴, 또는 텍스트를 포함함을 인식할 수 있다. 임의의 실시예들에서, 로컬 이미지 분석 모듈(738)이 시각 질의가 특정 타입의 이미지를 포함함을 검출할 때, 모듈은 사용자에게 자신들이 대응하는 타입의 검색 결과에 관심이 있는지 묻는다. 예를 들어, 로컬 이미지 분석 모듈(738)은 자신의 일반적 특성들에 기반하여 얼굴을 검출하고(즉, 어떤 사람의 얼굴인지 결정하지 않고), 시각 질의 서버 시스템에 질의를 송신하기 전에 사용자에 즉시 피드백을 제공할 수 있다. "얼굴이 검출되었다, 당신은 이 얼굴에 대한 얼굴 인식 매칭들을 얻는데 관심이 있는가"와 같은 결과를 리턴할 수 있다. 이는 시각 질의 서버 시스템(106, 도 1)에 대하여 시간들을 절약할 수 있다. 임의의 시각 질의들에 대하여, 프론트 엔드 시각 질의 프로세싱 서버(110, 도 1)는 오직 로컬 이미지 분석 모듈(738)에 의해 인식되는 이미지의 타입에 대응하는 검색 시스템(112)에 시각 질의를 송신한다. 다른 실시예들에서, 검색 시스템(112)에 대한 시각 질의는 검색 시스템들(112A-N) 모두에 시각 질의를 송신할 수 있지만, 로컬 이미지 분석 모듈(738)에 의해 인식되는 이미지의 타입에 대응하는 검색 시스템(112)으로부터의 결과들을 순위화할 것이다. 임의의 실시예들에서, 로컬 이미지 분석이 시각 질의 서버 시스템의 동작에 영향을 주는 방식은 클라이언트 시스템의 구성 또는 사용자 또는 클라이언트 시스템과 연관된 파라미터들의 구성 또는 프로세싱에 의존한다. 또한, 임의의 특정 시각 질의 및 로컬 이미지 분석에 의해 산출되는 결과들의 실제 콘텐츠는 상이한 시각 질의들이 클라이언트 시스템 및 시각 질의 서버 시스템 둘 다 또는 둘 중 하나에서 상이하게 핸들링되도록 할 수 있다.
임의의 실시예들에서, 바 코드 인식은 시각 질의가 로컬 이미지 분석 모듈(738)에서 클라이언트 시스템상에서 수행되는 바 코드를 포함하는지의 분석을 이용하여, 두 단계들로 수행된다. 그 다음에 시각 질의는 시각 질의가 바 코드를 포함할 가능성이 있다고 클라이언트가 결정하는 경우에만 바 코드 검색 시스템에 패스된다. 다른 실시예들에서, 바 코드 검색 시스템은 모든 시각 질의를 프로세싱한다.
선택적으로, 클라이언트 시스템(102)은 부가적인 클라이언트 애플리케이션들(740)을 포함한다.
도 6은 본 발명의 일 실시예에 따라 프론트 엔드 시각 질의 프로세싱 서버 시스템(110)을 도시하는 블록도이다. 프론트 엔드 서버(110)는 전형적으로 하나 이상의 프로세싱 유닛(CPU)들(802), 하나 이상의 네트워크 또는 다른 통신 인터페이스들(804), 메모리(812), 및 이러한 컴포넌트들을 상호접속시키기 위한 하나 이상의 통신 버스들(814)을 포함한다. 메모리(812)는 DRAM, SRAM, DDR RAM 또는 다른 랜덤 액세스 솔리드 스테이트 메모리 디바이스들과 같은, 고속 랜덤 액세스 메모리를 포함하고, 하나 이상의 자기 디스크 저장 디바이스들, 광학 디스크 저장 디바이스들, 플래시 메모리 디바이스들 또는 다른 비-휘발성 솔리드 스테이트 저장 디바이스들과 같은, 비-휘발성 메모리를 포함할 수 있다. 메모리(812)는 CPU(들)(802)로부터 원격으로 위치된 하나 이상의 저장 디바이스들을 선택적으로 포함할 수 있다. 메모리(812) 또는 대안적으로 메모리(812) 내의 비-휘발성 메모리 디바이스(들)은 비-일시적인 컴퓨터 판독가능한 저장 매체를 포함한다. 임의의 실시예들에서, 메모리(812) 또는 메모리(812)의 컴퓨터 판독가능한 저장 매체는 아래의 프로그램들, 모듈들 및 데이터 구조들 또는 이들의 서브셋을 저장한다;
·하드웨어 의존 태스크들을 수행하기 위한 그리고 다양한 기본 시스템 서비스들을 핸들링하기 위한 절차들을 포함하는 운영 시스템(816);
· 인터넷, 다른 광역 네트워크들, 로컬 영역 네트워크들, 도시 영역 네트워크들 등과 같은 하나 이상의 통신 네트워크들 및 하나 이상의 통신 네트워크 인터페이스들(804)(유선 또는 무선)을 통해 다른 컴퓨터들에 프론트 엔드 서버 시스템(110)을 접속시키기 위해 사용되는 네트워크 통신 모듈(818);
· 클라이언트 시스템(102)으로부터 인입하는 시각 질의들을 핸들링하고 이들을 둘 이상의 병렬 검색 시스템들에 송신하기 위한 질의 관리자(820); 본 출원의 다른 곳에서 설명된 바와 같이, 임의의 특별 상황들에서, 시각 질의는 예를 들어, 시각 질의가 클라이언트-발생된 명령을 포함할 때(예를 들어, "얼굴 인식 검색만"), 오직 하나의 검색 시스템들에 안내될 수 있다;
·하나 이상의 병렬 검색 시스템들로부터의 결과들을 선택적으로 필터링하고 표시를 위해 클라이언트 시스템(102)에 상위 또는 "관련" 결과들을 송신하기 위한 결과 필터링 모듈(822);
·하나 이상의 병렬 검색 시스템들로부터의 결과들을 선택적으로 순위화하고 표시를 위해 결과들을 포맷화하기 위한 결과 순위화 및 포맷화 모듈(824);
·상호작용 검색 결과 문서를 생성하기 위해 결과 문서 생성 모듈(826)이 적절할 때 사용된다; 모듈(826)은 바운딩 박스 생성 모듈(828) 및 링크 생성 모듈(830)을 포함하는(이에 제한되지 않음) 서브-모듈들을 포함할 수 있다;
· 시각 질의의 개별적인 서브-부분들의 시각 식별자들인 라벨들을 생성하기 위한 라벨 생성 모듈(831);
· 사용자로부터 주석들을 수신하고 이들을 주석 데이터베이스(116)에 송신하기 위한 주석 모듈(832);
· 시각 질의에 응답하여 하나 이상의 실행가능한 검색 결과 엘리먼트들을 발생시키기 위한 실행가능한 검색 결과 모듈(838), 각각은 클라이언트-측 실행을 런칭하도록 구성된다; 실행가능한 검색 결과 엘리먼트들의 예시들은 전화 통화를 개시하고, 이메일 메시지를 개시하고, 주소를 맵핑하고, 레스토랑 예약을 하고, 물건을 구입하기 위한 옵션을 제공하기 위한 버튼들이다; 그리고
· 데이터 베이스 자체(834) 및 데이터베이스에 대한 인덱스(836)를 포함하는 질의 및 주석 데이터베이스(116)
결과 순위화 및 포맷화 모듈(824)은 하나 이상의 병렬 검색 시스템들(112-A ― 112-N, 도 1)로부터 리턴되는 결과들을 순위화한다. 이미 상기 언급된 바와 같이, 임의의 시각 질의들에 대하여, 하나의 검색 시스템으로부터의 결과들만이 관련될 수 있다. 이러한 예시에서, 하나의 검색 시스템으로부터의 관련 검색 결과들만이 순위화된다. 이러한 예시들에서, 임의의 실시예들에서, 여러 타입들의 검색 결과들이 관련될 수 있다. 이러한 예시들에서, 임의의 실시예들에서, 결과 순위화 및 포맷화 모듈(824)은 덜 관련된 검색 시스템들에 대한 결과들 위에 가장 관련된 결과(예를 들어, 가장 높은 관련 스코어를 가진 결과)를 가지는 검색 시스템으로부터의 모든 결과들을 순위화한다. 다른 실시예들에서, 결과 순위화 및 포맷화 모듈(824)은 남아있는 결과들 위에 각 관련 검색 시스템으로부터의 상위 결과를 순위화한다. 임의의 실시예들에서, 결과 순위화 및 포맷화 모듈(824)은 검색 결과들의 각각에 대하여 계산된 관련성 스코어에 따라 결과들을 순위화한다. 임의의 시각 질의들에 대하여, 보강된 텍스트 질의들은 병렬 시각 검색 시스템들에서 검색에 부가하여 수행된다. 임의의 실시예들에서, 또한 텍스트 질의들이 수행될 때, 자신들의 결과들이 시각 검색 시스템 결과들로부터 시각적으로 별개인 방식으로 표시된다.
결과 순위화 및 포맷화 모듈(824)은 결과들을 또한 포맷한다. 임의의 실시예들에서, 결과들은 리스트 포맷으로 표시된다. 임의의 실시예들에서, 결과들은 상호작용 결과 문서에 의해 표시된다. 임의의 실시예들에서, 상호작용 결과 문서 및 결과들의 리스트 둘 다가 표시된다. 임의의 실시예들에서, 질의의 타입은 어떻게 결과들이 표시될지를 좌우한다. 예를 들어, 둘 이상의 검색가능한 서브젝트가 시각 질의에서 검출되는 경우, 그 다음에 상호작용 결과 문서가 산출되는 반면, 오직 하나의 검색가능한 서브젝트가 검출되는 경우, 결과들은 리스트 포맷으로만 디스플레이될 것이다.
결과 문서 생성 모듈(826)은 상호작용 검색 결과 문서를 생성하기 위해 사용된다. 상호작용 검색 결과 문서는 하나 이상의 검출되고 검색된 서브젝트들을 가질 수 있다. 바운딩 박스 생성 모듈(828)은 검색된 서브젝트들 중 하나 이상 주위에 바운딩 박스를 생성한다. 바운딩 박스들은 직사각형 박스들일 수 있거나 또는 서브젝트(들)의 형상(들)의 윤곽을 표시할 수 있다. 링크 생성 모듈(830)은 상호작용 검색 결과 문서에서 자신들의 개별적인 서브젝트와 연관된 검색 결과들에 대한 링크들을 생성한다. 임의의 실시예들에서, 바운딩 박스 영역 내의 클릭은 링크 생성 모듈에 의해 삽입되는 대응하는 링크를 활성화한다.
질의 및 주석 데이터베이스(116)는 시각 질의 결과들을 개선하기 위해 사용될 수 있는 정보를 포함한다. 임의의 실시예들에서, 사용자는 시각 질의 결과들이 표시된 후에 이미지에 주석을 달 수 있다. 또한, 임의의 실시예들에서, 사용자는 시각 질의 검색 시스템에 이미지를 송신하기 전에 이미지에 주석을 달 수 있다. 선-주석은 결과들을 포커싱 또는 시각 질의 검색과 병렬로 주석된 단어들에 텍스트 기반 검색들을 실행함으로써 시각 질의 프로세싱을 도울 수 있다. 임의의 실시예들에서, 픽처의 주석된 버전들은 잠재 이미지 매칭 히트로서 리턴되도록 공지될 수 있다(예를 들어, 사용자가 예를 들어, 사적이지 않도록 이미지 및 주석(들)을 지정함으로써 공개를 위한 허가를 줄 때). 예를 들어, 사용자가 꽃의 픽처를 찍고, 상기 꽃에 대해 세부 속(genus) 및 종(species) 정보를 부여함으로써 이미지에 주석을 다는 경우, 사용자는 상기 꽃을 찾는 시각 질의 리서치를 수행하는 누군가에게 상기 이미지가 표시되기를 원할 수 있다. 임의의 실시예들에서, 질의 및 주석 데이터베이스(116)로부터의 정보는 자신들의 각각의 개별 데이터베이스들(114)로 정보의 관련 부분(존재한다면)을 통합하는, 병렬 검색 시스템들(112)에 주기적으로 푸시된다.
도 7은 시각 질의를 프로세싱하도록 이용되는 병렬 검색 시스템들 중 하나를 도시하는 블록도이다. 도 7은 본 발명의 일 실시예에 따라 "포괄적인" 서버 시스템(112-N)을 도시한다. 이 서버 시스템은 시각 질의 검색 서버들(112-N) 중 임의의 하나를 표시하는 경우에만 포괄적이다. 포괄적인 서버 시스템(112-N)은 전형적으로 하나 이상의 프로세싱 유닛(CPU)들(502), 하나 이상의 네트워크 또는 다른 통신 인터페이스들(504), 메모리(512), 및 이러한 컴포넌트들을 상호접속시키기 위한 하나 이상의 통신 버스들(514)을 포함한다. 메모리(512)는 DRAM, SRAM, DDR RAM 또는 다른 랜덤 액세스 솔리드 스테이트 메모리 디바이스들과 같은, 고속 랜덤 액세스 메모리를 포함하고; 그리고 하나 이상의 자기 디스크 저장 디바이스들, 광학 디스크 저장 디바이스들, 플래시 메모리 디바이스들 또는 다른 비-휘발성 솔리드 스테이트 저장 디바이스들과 같은, 비-휘발성 메모리를 포함할 수 있다. 메모리(512)는 CPU(들)(502)로부터 원격으로 위치된 하나 이상의 저장 디바이스들을 선택적으로 포함할 수 있다. 메모리(512) 또는 대안적으로 메모리(512) 내의 비-휘발성 메모리 디바이스(들)는 비-일시적인 컴퓨터 판독가능한 저장 매체를 포함한다. 임의의 실시예들에서, 메모리(512) 또는 메모리(512)의 컴퓨터 판독가능한 저장 매체는 아래의 프로그램들, 모듈들 및 데이터 구조들 또는 이들의 서브세트를 저장한다;
·하드웨어 의존 태스크들을 수행하기 위한 그리고 다양한 기본 시스템 서비스들을 핸들링하기 위한 절차들을 포함하는 운영 시스템(516);
·인터넷, 다른 광역 네트워크들, 로컬 영역 네트워크들, 도시 영역 네트워크들 등과 같은, 하나 이상의 통신 네트워크들 및 하나 이상의 통신 네트워크 인터페이스들(504)(유선 또는 무선)을 통해 다른 컴퓨터들에 포괄적 서버 시스템(112-N)을 접속시키기 위해 사용되는 네트워크 통신 모듈(518);
· 특정 서버 시스템에 특유한 검색 애플리케이션(520), 예를 들어, 바 코드 검색 애플리케이션, 색 인식 검색 애플리케이션, 물건 인식 검색 애플리케이션, 오브젝트-또는-오브젝트 카테고리 검색 애플리케이션 등일 수 있다;
· 특정 검색 애플리케이션이 인덱스를 이용하는 경우 선택적 인덱스(522);
· 특정 검색 애플리케이션에 관련된 이미지들을 저장하기 위한 선택적 이미지 데이터베이스(524), 존재한다면, 저장된 이미지 데이터는 검색 프로세스 타입에 의존한다;
·검색 애플리케이션으로부터의 결과들을 순위화하기 위한 선택적 결과 순위화 모듈(526)(때때로 관련 스코어링 모듈로 지칭됨), 순위화 모듈은 검색 애플리케이션으로부터 각 결과에 대한 관련성 스코어를 할당할 수 있고, 결과들이 미리-정의된 최소 스코어에 도달하지 않는 경우, 이 서버 시스템으로부터의 결과들이 관련되지 않음을 나타내는 널 및 제로 값 스코어를 프론트 엔드 시각 질의 프로세싱 서버에 리턴할 수 있다; 그리고
·주석 정보 중 일부가 특정 검색 애플리케이션에 관련되는지 여부를 결정하는 주석 정보를 주석 데이터베이스(116, 도 1)로부터 수신하고 주석 정보의 임의의 결정된 관련 부분들을 각각의 주석 데이터베이스(530)에 통합하기 위한 주석 모듈(528).
도 8은 본 발명의 일 실시예에 따라 시각 질의를 프로세싱하기 위해 이용되는 OCR 검색 시스템(112-B)을 도시하는 블록도이다. OCR 검색 시스템(112-B)은 전형적으로, 하나 이상의 프로세싱 유닛(CPU)들(602), 하나 이상의 네트워크 또는 다른 통신 인터페이스들(604), 메모리(612) 및 이러한 컴포넌트들을 상호접속시키기 위한 하나 이상의 통신 버스들(614)을 포함한다. 메모리(612)는 DRAM, SRAM, DDR RAM 또는 다른 랜덤 액세스 솔리드 스테이트 메모리 디바이스들과 같은 고속 랜덤 액세스 메모리를 포함하고; 하나 이상의 자기 디스크 저장 디바이스들, 광학 디스크 저장 디바이스들, 플래시 메모리 디바이스들 또는 다른 비-휘발성 솔리드 스테이트 저장 디바이스들과 같은 비-휘발성 메모리를 포함할 수 있다. 메모리(612)는 CPU(들)(602)로부터 원격으로 위치된 하나 이상의 저장 디바이스들을 선택적으로 포함할 수 있다. 메모리(612) 또는 대안적으로 메모리(612) 내의 비-휘발성 메모리 디바이스(들)는 비-일시적인 컴퓨터 판독가능한 저장 매체를 포함한다. 임의의 실시예들에서, 메모리(612) 또는 메모리(612)의 컴퓨터 판독가능한 저장 매체는 아래의 프로그램들, 모듈들 및 데이터 구조들 또는 이들의 서브셋을 저장한다;
·다양한 기본 시스템 서비스들을 핸들링하고 하드웨어 의존 태스크들을 수행하기 위한 절차들을 포함하는 운영 시스템(616);
·인터넷, 다른 광역 네트워크들, 로컬 영역 네트워크들, 도시 영역 네트워크들 등과 같은, 하나 이상의 통신 네트워크들 및 하나 이상의 통신 네트워크 인터페이스들(604)(무선 또는 유선)을 통해 다른 컴퓨터들에 OCR 검색 시스템(112-B)을 접속시키기 위해 사용되는 네트워크 통신 모듈(618);
·시각 질의에서 텍스트를 인식하기 위해 시도하고 글자들의 이미지들을 문자들로 변환하는 광학식 문자 인식(OCR) 모듈(620);
· 특정 폰트들, 텍스트 패턴들 및 글자 인식에 고유한 다른 특성들을 인식하기 위해 OCR 모듈(620)에 의해 이용되는 선택적 OCR 데이터베이스(114-B);
· 사전에 대하여 변환된 단어들을 확인하고, 잠재적으로 오-변환된 글자들을 이와 다른 사전 단어에 매칭하는 단어들로 대체함으로써 글자들의 이미지들의 문자들로의 변환을 개선하는 선택적 철자 확인 모듈(622);
·변환된 텍스트 내에서 명명 엔티티들을 검색하고, 용어 질의 서버 시스템(118, 도 1)에 용어 질의의 용어들로서 인식된 명명 엔티티들을 송신하고, 인식된 명명 엔티티들과 연관된 OCR된 텍스트에 임베딩된 링크들로서 용어 질의 서버 시스템으로부터의 결과들을 제공하는 선택적 명명 엔티티 인식 모듈(624);
·텍스트 세그먼트들의 데이터베이스에 대하여 변환된 세그먼트들(변환된 문장들 및 문구들과 같은)을 확인하고, 잠재적으로 오-변환된 글자들을 이와 다른 텍스트 매칭 애플리케이션 텍스트 세그먼트에 매칭하는 OCR된 텍스트 세그먼트들로 대체함으로써 글자들의 이미지들의 문자들로의 변환을 개선하는 선택적 텍스트 매칭 애플리케이션(632), 임의의 실시예들에서, 텍스트 매칭 애플리케이션에 의해 발견된 텍스트 세그먼트는 사용자에게 링크로서 제공된다(예를 들어, 사용자가 뉴욕 타임즈의 한 페이지를 스캔한 경우, 텍스트 매칭 애플리케이션은 뉴욕 타임즈 웹사이트에서 전체 포스팅된 기사에 대한 링크를 제공할 수 있다);
·표시를 위해 OCR된 결과들을 포맷하고 명명 엔티티들에 대한 선택적 링크들을 포맷하고 또한 선택적으로 텍스트 매칭 애플리케이션으로부터 임의의 관련된 결과들을 순위화하기 위한 결과 순위화 및 포맷화 모듈(626); 및
· 임의의 주석 정보가 OCR 검색 시스템에 관련되는지 여부를 결정하는 주석 정보를 주석 데이터베이스(116, 도 1)로부터 수신하고, 주석 정보의 임의의 결정된 관련 부분들을 각각의 주석 데이터베이스(630)에 통합하기 위한 선택적 주석 모듈(628).
도 9는 본 발명의 일 실시예에 따라 시각 질의를 프로세싱하도록 이용되는 얼굴 인식 검색 시스템(112-A)을 도시하는 블록도이다. 얼굴 인식 검색 시스템(112-A)은 전형적으로 하나 이상의 프로세싱 유닛(CPU)들(902), 하나 이상의 네트워크 또는 다른 통신 인터페이스들(904), 메모리(912) 및 이러한 컴포넌트들을 상호접속시키기 위한 하나 이상의 통신 버스들(914)을 포함한다. 메모리(912)는 DRAM, SRAM, DDR RAM 또는 다른 랜덤 액세스 솔리드 스테이트 메모리 디바이스들과 같은 고속 랜덤 액세스 메모리를 포함하고; 하나 이상의 자기 디스크 저장 디바이스들, 광학 디스크 저장 디바이스들, 플래시 메모리 디바이스들 또는 다른 비-휘발성 솔리드 스테이트 저장 디바이스들과 같은 비-휘발성 메모리를 포함할 수 있다. 메모리(912)는 선택적으로 CPU(들)(902)로부터 원격으로 위치된 하나 이상의 저장 디바이스들을 포함할 수 있다. 메모리(912) 또는 대안적으로 메모리(912) 내의 비-휘발성 메모리 디바이스(들)는 비-일시적인 컴퓨터 판독가능한 저장 매체를 포함한다. 임의의 실시예들에서, 메모리(912) 또는 메모리(912)의 컴퓨터 판독가능한 저장 매체는 아래의 프로그램들, 모듈들 및 데이터 구조들 또는 이들의 서브셋을 저장한다:
· 다양한 기본 시스템 서비스들을 핸들링하고 하드웨어 의존 태스크들을 수행하기 위한 절차들을 포함하는 운영 시스템(916);
·인터넷, 다른 광역 네트워크들, 로컬 영역 네트워크들, 도시 영역 네트워크들 등과 같은 하나 이상의 통신 네트워크들 및 하나 이상의 통신 네트워크 인터페이스들(904)(유선 또는 무선)을 통해 다른 컴퓨터들에 얼굴 인식 검색 시스템(112-A)을 접속시키기 위해 사용되는 네트워크 통신 모듈(918);
·얼굴 이미지 데이터베이스(114-A)에서 시각 질의에 표시되는 얼굴(들)에 매칭하는 얼굴 이미지들을 검색하기 위한 얼굴 인식 검색 애플리케이션(920)은 얼굴 이미지 데이터베이스(114-A)에서 발견된 각 매칭에 관한 정보에 대하여 소셜 네트워크 데이터베이스(922)를 검색한다.
·복수의 사용자들에 대한 하나 이상의 얼굴 이미지들을 저장하기 위한 얼굴 이미지 데이터베이스(114-A); 선택적으로, 얼굴 이미지 데이터베이스는 가족 구성원들 및 사용자들에 의해 알려지고 얼굴 이미지 데이터베이스(114-A)에 포함된 이미지들에 나타난 것으로 식별된 다른 사람들과 같은 사용자들 외의 사람들에 대한 얼굴 이미지들을 포함한다; 선택적으로, 얼굴 이미지 데이터베이스는 예를 들어, 법률적으로 공공 도메인에 있는 얼굴 이미지들의 벤더들과 같은, 외부 소스들로부터 획득되는 얼굴 이미지들을 포함한다;
·선택적으로, 도 12a를 참조하여 더 상세히 설명되는 바와 같이, 명칭, 주소, 직업, 그룹 멤버십들, 소셜 네트워크 접속들, 모바일 디바이스의 현재 GPS 위치, 공유 선호도들, 관심들, 나이, 고향, 개인적 통계들, 일 정보 등과 같은 소셜 네트워크의 사용자들에 관한 정보를 포함하는 소셜 네트워크 데이터베이스(922);
·얼굴 이미지 데이터베이스(114-A)로부터 잠재 얼굴 매칭들을 순위화(예를 들어, 관련 및/또는 매칭 품질 스코어를 할당)하고 표시를 위해 결과들을 포맷하기 위한 결과 순위화 및 포맷화 모듈(924); 임의의 실시예들에서, 결과들의 순위화 또는 스코어링은 앞서 언급된 소셜 네트워크 데이터베이스로부터 리트리브되는 관련 정보를 이용한다; 임의의 실시예에서, 검색 포맷 결과들은 소셜 네트워크 데이터베이스로부터의 정보의 서브셋뿐만 아니라 잠재 이미지 매칭들을 포함한다; 그리고
·임의의 주석 정보가 얼굴 인식 검색 시스템에 관련되는지 여부를 결정하는 주석 정보를 주석 데이터베이스(116, 도 1)로부터 수신하고 각각의 주석 데이터베이스(928)로 주석 정보의 임의의 결정된 관련 부분들을 저장하기 위한 주석 모듈(926).
도 10은 본 발명의 일 실시예에 따라 시각 질의를 프로세싱하도록 이용된 이미지-대-용어들 검색 시스템(112-C)을 도시하는 블록도이다. 임의의 실시예들에서, 이미지-대-용어들 검색 시스템은 시각 질의에서 오브젝트들을 인식한다(인스턴스 인식). 다른 실시예들에서, 이미지-대-용어들 검색 시스템은 시각 질의에서 오브젝트 카테고리들을 인식한다(타입 인식). 임의의 실시예들에서, 이미지 대 용어들 시스템은 오브젝트들 및 오브젝트-카테고리들 둘 다를 인식한다. 이미지-대-용어들 검색 시스템은 시각 질의에서 이미지들에 대한 잠재 용어 매칭들을 리턴한다. 이미지-대-용어들 검색 시스템(112-C)은 전형적으로 하나 이상의 프로세싱 유닛(CPU)들(1002), 하나 이상의 네트워크 또는 다른 통신 인터페이스들(1004), 메모리(1012), 및 이러한 컴포넌트들을 상호접속시키기 위한 하나 이상의 통신 버스들(1014)을 포함한다. 메모리(1012)는 DRAM, SRAM, DDR RAM 또는 다른 랜덤 액세스 솔리드 스테이트 메모리 디바이스들과 같은 고속 랜덤 액세스 메모리를 포함하고, 하나 이상의 자기 디스크 저장 디바이스들, 광학 디스크 저장 디바이스들, 플래시 메모리 디바이스들 또는 다른 비-휘발성 솔리드 스테이트 저장 디바이스들과 같은 비-휘발성 메모리를 포함할 수 있다. 메모리(1012)는 선택적으로 CPU(들)(1002)로부터 원격으로 위치된 하나 이상의 저장 디바이스들을 포함한다. 메모리(1012) 또는 대안적으로 메모리(1012) 내의 비-휘발성 메모리 디바이스(들)는 비-일시적인 컴퓨터 판독가능한 저장 매체를 포함한다. 임의의 실시예들에서, 메모리(1012) 또는 메모리(1012)의 컴퓨터 판독가능한 저장 매체는 아래의 프로그램들, 모듈들 및 데이터 구조들을 저장하거나 또는 이들의 서브세트를 저장한다:
· 다양한 기본 시스템 서비스들을 핸들링하고 하드웨어 의존 태스크들을 수행하기 위한 절차들을 포함하는 운영 시스템(1016);
·인터넷, 다른 광역 네트워크들, 로컬 영역 네트워크들, 도시 영역 네트워크들 등과 같은, 하나 이상의 통신 네트워크들 및 하나 이상의 통신 네트워크 인터페이스들(1004)(유선 또는 무선)을 통해 다른 컴퓨터들에 이미지-대-용어들 검색 시스템(112-C)을 접속시키기 위해 사용되는 네트워크 통신 모듈(1018);
·이미지 검색 데이터베이스(114-C)에서 시각 질의의 서브젝트 또는 서브젝트들에 매칭하는 이미지들을 검색하는 이미지-대-용어들 검색 애플리케이션(1020);
·시각 질의의 서브젝트(들)에 유사한 이미지들을 발견하기 위해 검색 애플리케이션(1020)에 의해 검색될 수 있는 이미지 검색 데이터베이스(114-C);
·텍스트 기반 질의 검색 엔진(1006)을 이용하는 이미지들을 검색할 때 사용자들에 의해 사용되는 텍스트 용어들을 저장하는 용어들-대-이미지 역 인덱스(1022);
·잠재 이미지 매칭들을 순위화하고 그리고/또는 용어들-대-이미지 역 인덱스(1022)에 식별되는 잠재 이미지 매칭들과 연관된 용어들을 순위화하기 위한 결과 순위화 및 포맷 모듈(1024); 및
·임의의 주석 정보가 이미지-대 용어 검색 시스템(112-C)에 관련되는지 여부를 결정하는 주석 정보를 주석 데이터베이스(116, 도 1)로부터 수신하고 각각의 주석 데이터베이스(1028)로 주석 정보의 임의의 결정된 관련 부분들을 저장하기 위한 주석 모듈(1026).
도 5-10은 본 명세서에 설명된 실시예들의 구조적 도식보다 컴퓨터 시스템들의 세트로 표현될 수 있는 다양한 특징들의 기능적 설명들로 의도된다. 실제, 그리고 당업자에 의해 인식되는 바와 같이, 분리하여 도시된 아이템들은 결합될 수 있고 임의의 아이템들은 분리될 수 있다. 예를 들어, 이러한 도면들로 분리하여 도시된 임의의 아이템들은 단일 서버들에서 구현될 수 있고 단일 아이템들은 하나 이상의 서버들에 의해 구현될 수 있다. 시각 질의 프로세싱을 구현하기 위해 사용되는 시스템들의 실제 수 및 어떤 특징들이 이들 사이에 할당되는지는 구현에 따라 변할 것이다.
본 명세서에 설명된 방법들의 각각은 비-일시적인 컴퓨터 판독가능한 저장 매체에 저장되고 하나 이상의 서버들 또는 클라이언트들의 하나 이상의 프로세서들에 의해 실행되는 명령들에 의해 감독될 수 있다. 상기 식별된 모듈들 또는 프로그램들(즉, 명령들의 세트들)은 분리된 소프트웨어 프로그램들, 절차들 또는 모듈들로서 구현될 필요가 없고, 그러므로, 이러한 모듈들의 다양한 서브세트들은 다양한 실시예들에서 결합될 수 있거나 또는 달리 말하면 재배열될 수 있다. 도 5-10에 도시된 동작들의 각각은 컴퓨터 메모리 또는 비-일시적인 컴퓨터 판독가능한 저장 매체에 저장된 명령들에 대응할 수 있다.
도 11은 예시적인 시각 질의(1102)의 스크린 샷을 가진 클라이언트 시스템(102)을 도시한다. 도 11에 도시된 클라이언트 시스템(102)은 휴대 전화, 휴대용 음악 플레이어 또는 휴대용 이메일 디바이스와 같은 모바일 디바이스이다. 클라이언트 시스템(102)은 디스플레이(706) 및 이 도면에 도시된 버튼들과 같은 하나 이상의 입력 수단(708)을 포함한다. 임의의 실시예들에서, 디스플레이(706)는 터치 감응 디스플레이(709)이다. 터치 감응 디스플레이(709)를 가지는 실시예들에서, 디스플레이(709)에 디스플레이된 소프트 버튼들은 전자기계식 버튼들(708) 중 일부 또는 전부를 선택적으로 대체할 수 있다. 터치 감응 디스플레이들은 또한 아래에 더 상세히 설명된 바와 같이, 시각 질의 결과들과 상호작용하는 것을 도울 수 있다. 클라이언트 시스템(102)은 또한 카메라(710)와 같은 이미지 캡처 메커니즘을 포함한다.
도 11은 스토어의 선반에서 포장의 비디오 프레임 또는 사진인 비디오 질의(1102)를 도시한다. 본 명세서에 설명된 실시예들에서, 시각 질의는 두 차원들의 각각의 픽셀들에서 시각 질의의 크기에 대응하는 해상도를 가지는 2 차원 이미지이다. 이 실시예에서 시각 질의(1102)는 3 차원 오브젝트들의 2 차원 이미지이다. 시각 질의(1102)는 배경 엘리먼트, 물건 포장(1104) 및 사람의 이미지(1106), 상표의 이미지(1108), 물건의 이미지(1110) 및 다양한 텍스트 엘리먼트들(1112)을 포함하는 포장의 다양한 타입들의 엔티티들을 포함한다.
도 3을 참조하여 설명된 바와 같이, 시각 질의(1102)는 복수의 병렬 검색 시스템들(112A-N)에 시각 질의(1102)를 송신하고, 결과들을 수신하고 상호작용 결과 문서를 생성하는 프론트 엔드 서버(110)에 송신된다.
도면들(12a 및 12b)은 각각 상호작용 결과 문서(1200)의 실시예의 스크린 샷을 가진 클라이언트 시스템(102)을 도시한다. 상호작용 결과 문서(1200)는 검색 결과들의 서브세트에 대한 사용자 선택가능한 링크를 각각 포함하는, 시각 질의(1102)의 각각의 서브-부분들의 하나 이상의 시각 식별자들(1202)을 포함한다. 도면들(12a 및 12b)은 바운딩 박스들(1202)(예를 들어, 바운딩 박스들(1202-1, 1202-2, 1202-3))인 시각 식별자들을 가진 상호작용 결과 문서(1200)를 도시한다. 도면들(12a 및 12b)에 도시된 실시예들에서, 사용자는 자신의 바운딩 박스(1202)에 의해 윤곽이 나타내어진 공간 내에 활성 영역을 탭핑함으로써 특정 서브-부분에 대응하는 검색 결과들의 디스플레이를 활성화한다. 예를 들어, 사용자는 사람의 이미지를 서라운딩하는 바운딩 박스(1306)(도 13)를 탭핑함으로써, 사람의 이미지에 대응하는 검색 결과들을 활성화할 수 있다. 다른 실시예들에서, 선택가능한 링크는 터치 감응 디스플레이보다 마우스 또는 키보드를 사용하여 선택된다. 임의의 실시예들에서, 제 1 대응하는 검색 결과는 사용자가 바운딩 박스(1202)를 프리뷰할 때(즉, 사용자가 한 번 틀릭하거나, 한 번 탭핑하거나, 바운딩 박스 위에 포인터를 맴돌 때) 디스플레이된다. 사용자는 사용자가 바운딩 박스를 선택할 때(즉, 사용자가 더블 클릭하거나, 두 번 탭핑하거나 또는 선택을 나타내기 위한 다른 메커니즘을 사용할 때) 복수의 대응하는 검색 결과들의 디스플레이를 활성화한다.
도면들(12a 및 12b)에서 시각 식별자들은 시각 질의의 서브-부분들을 서라운딩하는 바운딩 박스들(1202)이다. 도면 12a는 정사각 또는 직사각형인 바운딩 박스들(1202)을 도시한다. 도면 12b는 음료수 병에 대한 바운딩 박스(1202-3)와 같은 시각 질의의 서브-부분에서 식별가능한 엔티티의 경계의 윤곽을 나타내는 바운딩 박스(1202)를 도시한다. 임의의 실시예들에서, 각각의 바운딩 박스(1202)는 그 내에 더 작은 바운딩 박스들(1202)을 포함한다. 예를 들어, 도면들(12a 및 12b)에서, 포장(1202-1)을 식별하는 바운딩 박스는 상표(1202-2)를 식별하는 바운딩 박스 및 다른 바운딩 박스들(1202) 모두를 서라운딩한다. 텍스트를 포함하는 임의의 실시예들에서, 또한 텍스트 용어들 중 일부에 대하여 활성 핫 링크들(1204)을 포함한다. 도면 12b는 "Active Drink" 및 "United States"가 핫 링크들(1204)로서 디스플레이되는 실시예를 도시한다. 이러한 용어들에 대응하는 검색 결과들은 용어 질의 서버 시스템(118)으로부터 수신되는 결과들인 반면, 바운딩 박스들에 대응하는 결과들은 이미지 검색 시스템들에 의한 질의로부터의 결과들이다.
도 13은 시각 질의에서 인식된 엔티티의 타입에 의해 코딩되는 상호작용 결과 문서(1200)의 스크린 샷을 가진 클라이언트 시스템(102)을 도시한다. 도 11의 시각 질의는 사람의 이미지(1106), 상표의 이미지(1108), 물건의 이미지(1110), 및 다양한 텍스트 엘리먼트들(1112)를 포함한다. 따라서, 도 13에 디스플레이되는 상호작용 결과 문서(1200)는 사람(1306), 상표(1308), 물건(1310) 및 두 텍스트 영역들(1312) 주위의 바운딩 박스들(1202)을 포함한다. 도 13의 바운딩 박스들은 상이하게 색칠된 투명 바운딩 박스들(1202)을 나타내는 분리된 크로스-해칭을 이용하여 각각 표시된다. 임의의 실시예들에서, 바운딩 박스들의 시각 식별자들(및/또는 상호작용 결과 문서(1200)에서 라벨들 또는 다른 시각 식별자들)은 오버레이 컬러, 오버레이 패턴, 라벨 배경 색, 라벨 배경 패턴, 라벨 폰트 색, 및 바운딩 박스 경계 색과 같은 시각적으로 구별되는 방식들로 표시하기 위해 포맷된다. 특정 인식된 엔티티들에 대한 타입 코딩은 도 13에서 바운딩 박스들에 관하여 도시되지만, 타입에 의한 코딩은 또한 라벨들인 시각 식별자들에 적용될 수 있다.
도 14는 도 11의 시각 질의(1102)의 각각의 서브-부분들의 시각 식별자들인 라벨들(1402)을 가진 상호작용 결과 문서(1200)의 스크린 샷을 가진 클라이언트 디바이스(102)를 도시한다. 라벨 시각 식별자들(1402) 각각은 대응하는 검색 결과들의 서브세트에 대한 사용자 선택가능한 링크를 포함한다. 임의의 실시예들에서, 선택가능한 링크는 라벨(1402)의 영역 내에 디스플레이되는 설명 텍스트에 의해 식별된다. 임의의 실시예들은 하나의 라벨(1402) 내에 복수의 링크들을 포함한다. 예를 들어, 도 14에서, 음료를 마시는 여성의 이미지 위에 맴도는 라벨은 여성에 대한 얼굴 인식 결과들에 대한 링크 및 상기 특정 픽처(예를 들어, 동일한 픽처를 사용하는 다른 물건들 또는 광고들의 이미지들)에 대한 이미지 인식 결과들에 대한 링크를 포함한다.
도 14에서, 라벨들(1402)은 상호작용 결과 문서의 자신들의 각각의 서브-부분들 위에 위치되는 텍스트를 가진 부분적으로 투명한 영역들로서 디스플레이된다. 다른 실시예들에서, 각각의 라벨은 근처에 포지셔닝되지만 상호작용 결과 문서의 자신의 각각의 서브-부분 위에 위치되지 않는다. 임의의 실시예들에서, 라벨들은 도 13을 참조하여 논의되는 동일한 방식으로 타입에 의해 코딩된다. 임의의 실시예들에서, 사용자는 라벨(1302)의 주변 또는 에지들에 의해 윤곽이 나타내어진 공간 내에 활성 영역을 탭핑함으로써 라벨(1302)에 대응하는 특정 서브-부분에 대응하는 검색 결과들의 디스플레이를 활성화한다. 도면들(12a 및 12b)의 바운딩 박스들을 참조하여 상기 논의된 동일한 프리뷰 및 선택 기능들은 또한 라벨들(1402)인 시각 식별자들에 적용한다.
도 15는 결과 리스트(1500)와 동시에 디스플레이되는 오리지널 시각 질의(1102) 및 상호작용 결과 문서(1200)의 스크린 샷을 도시한다. 임의의 실시예들에서, 상호작용 결과 문서(1200)는 도 12-14에 도시된 바와 같이 자기 자신에 의해 디스플레이된다. 다른 실시예들에서, 상호작용 결과 문서(1200)는 도 15에 도시된 바와 같이 오리지널 시각 질의와 동시에 디스플레이된다. 임의의 실시예들에서, 시각 질의 결과들의 리스트(1500)는 오리지널 시각 질의(1102) 및/또는 상호작용 결과 문서(1200)와 함께 동시에 디스플레이된다. 클라이언트 시스템의 타입 및 디스플레이(706)상의 빈 공간의 양은 결과들의 리스트(1500)가 상호작용 결과 문서(1200)와 동시에 디스플레이되는지를 결정할 수 있다. 임의의 실시예들에서, 클라이언트 시스템(102)은 (시각 질의 서버 시스템에 제출된 시각 질의에 응답하여) 결과들의 리스트(1500) 및 상호작용 결과 문서(1200) 둘 다를 수신할 뿐만 아니라, 사용자가 상호작용 결과 문서(1200) 아래로 스크롤할 때 결과의 리스트(1500)를 디스플레이한다. 이러한 실시예들의 일부에서, 클라이언트 시스템(102)은, 결과들의 리스트(1500)가 시각 질의에 응답하여 클라이언트 시스템(102)에 의해 수신되고 그 다음에 클라이언트 시스템(102)에서 로컬하게 저장되기 때문에 다시 서버에 질의할 필요가 없이 사용자 선택된 시각 식별자(1202/1402)에 대응하는 결과들을 디스플레이한다.
임의의 실시예들에서, 결과들의 리스트(1500)는 카테고리들(1502)로 정리된다. 각 카테고리는 적어도 하나의 결과(1503)를 포함한다. 임의의 실시예들에서, 카테고리 타이틀들은 결과들(1503)로부터 자신들을 구별하도록 강조된다. 카테고리들(1502)은 자신들의 계산된 카테고리 가중치에 따라 순서화된다. 임의의 실시예들에서, 카테고리 가중치는 그 카테고리에서 최상위 N개의 결과들의 가중치들의 조합이다. 따라서, 더 관련된 결과들을 산출할 것 같은 카테고리가 먼저 디스플레이된다. 둘 이상의 카테고리(1502)가 동일한 인식된 엔티티에 대하여 리턴되는 (도 15에 도시된 얼굴 이미지 인식 매칭 및 이미지 매칭과 같은) 실시예들에서, 먼저 디스플레이되는 카테고리는 더 높은 카테고리 가중치를 가진다.
도 3에 관하여 설명되는 바와 같이, 임의의 실시예들에서, 상호작용 결과 문서(1200)에서 선택가능한 링크가 클라이언트 시스템(102)의 사용자에 의해 선택될 때, 커서는 적절한 카테고리(1502)로 또는 상기 카테고리에서의 제 1 결과(1503)로 자동으로 이동할 것이다. 대안적으로, 상호작용 결과문서에서 선택가능한 링크가 클라이언트 시스템(102)의 사용자에 의해 선택될 때, 결과들의 리스트(1500)는 선택된 링크에 관련된 카테고리 또는 카테고리들이 먼저 디스플레이되도록 재순서화된다. 이는 예를 들어, 선택가능한 링크들을 대응하는 검색 결과들을 식별하는 정보로 코딩하거나, 대응하는 선택가능한 링크들을 나타내거나 또는 대응하는 결과 카테고리들을 나타내도록 검색 결과들을 코딩함으로써 달성된다 .
임의의 실시예들에서, 검색 결과들의 카테고리들은 이러한 검색 결과들을 산출하는 이미지에 의한 질의 검색 시스템에 대응한다. 예를 들어, 도 15에서, 카테고리들의 일부는 물건 매칭(1506), 로고 매칭(1508), 얼굴 인식 매칭(1510), 이미지 매칭(1512)이다. 오리지널 시각 질의(1102) 및/또는 상호작용 결과 문서(1200)는 질의(1504)와 같은 카테고리 타이틀과 유사하게 디스플레이될 수 있다. 유사하게, 용어 질의 서버에 의해 수행되는 임의의 용어 검색으로부터의 결과들은 또한 웹 결과들(1514)과 같은, 분리된 카테고리로서 디스플레이될 수 있다. 다른 실시예들에서, 시각 질의에서 둘 이상의 엔티티는 동일한 이미지에 의한 질의 검색 시스템으로부터의 결과들을 산출할 것이다. 예를 들어, 시각 질의는 얼굴 인식 검색 시스템으로부터 분리된 결과들을 리턴할 수 있는 두 상이한 얼굴들을 포함할 수 있다. 따라서, 임의의 실시예들에서, 카테고리들(1502)은 검색 시스템에 의해서보다 오히려 인식된 엔티티에 의해 분할된다. 임의의 실시예들에서, 인식된 엔티티의 이미지는, 이미지 검색 시스템에 의한 동일한 질의에 의해 두개의 결과들이 산출되더라도 상기 인식된 엔티티에 대한 결과들이 다른 인식된 엔티티에 대한 결과들과 구별가능하도록, 인식되는 엔티티 카테고리 헤더(1502)에서 디스플레이된다. 예를 들어, 도 15에서, 물건 매칭 카테고리(1506)는 두 개의 엔티티 물건 엔티티들 및 또한 두 개의 엔티티 카테고리들(1502)을 포함한다 - 박스 포장된 물건(1516) 및 병에 담긴 물건(1518), 각각은 복수의 대응하는 검색 결과들(1503)을 가진다. 임의의 실시예들에서, 카테고리들은 인식된 엔티티들 및 이미지에 의한 질의 시스템의 타입에 의해 분할될 수 있다. 예를 들어, 도 15에서, 물건 매칭 카테고리 물건 하에서 관련 결과들을 리턴한 두 개의 분리된 엔티티들이 존재한다.
임의의 실시예들에서, 결과들(1503)은 섬네일 이미지들을 포함한다. 예를 들어, 도 15에서 얼굴 인식 매칭 결과들에 대하여 도시된 바와 같이, "여배우 X" 및 "소셜 네트워크 친구 Y"에 대한 얼굴 매칭들의 픽처들의 작은 버전들(또한 섬네일 이미지들로 지칭됨)은 이미지에서 사람의 명칭과 같은 임의의 텍스트 설명과 함께 디스플레이된다.
설명의 목적을 위해 상기 설명은 특유의 실시예들을 참조하여 설명되었다. 하지만, 상기 예시적인 논의들은 개시된 정확한 형태들로 본 발명을 제한하거나 또는 모두 기재하고자 의도되지 않는다. 많은 수정들 및 변경들이 상기 교시들의 관점에서 가능하다. 실시예들은 본 발명의 원리들 및 이의 실제적 적용들을 가장 잘 설명하기 위해 설명되고 선택되었고 이에 의해 당업자들을 고려되는 특정 사용에 적합한 다양한 수정들을 가진 다양한 실시예들 및 본 발명을 가장 잘 이용하도록 할 수 있다.

Claims (36)

  1. 시각 질의(visual query)를 프로세싱하는 컴퓨터-구현된 방법으로서,
    하나 이상의 프로세서들 및 상기 하나 이상의 프로세서들에 의한 실행을 위해 하나 이상의 프로그램들을 저장하는 메모리를 포함하는 컴퓨팅 디바이스에서,
    2 이상의 오브젝트들을 가지는 시각 질의를 획득하는 단계, 상기 2 이상의 오브젝트들은:
    (i) 제1 오브젝트 타입을 가지는 제1 오브젝트 및 (ii) 상기 제1 타입과 별개인 제2 오브젝트 타입을 가지는 제2 오브젝트를 포함하며, 상기 제1 및 제2 오브젝트 타입들은 OCR 문자들, 사람의 얼굴, 비-인간 오브젝트(non-human object) 및 바코드를 포함하는 그룹으로부터 선택되며;
    상기 시각 질의를 제1 영역 및 제2 영역을 포함하는 2 이상의 영역들로 분할(partitioning)하는 단계, 상기 제1 영역은 상기 제1 오브젝트를 포함하며 그리고 상기 제2 영역은 상기 제2 오브젝트를 포함하며;
    시각 질의 검색 결과들을 동시적으로 획득함으로써 상기 시각 질의를 프로세싱하는 단계, 상기 시각 질의 검색 결과들은:
    (i)상기 제1 오브젝트에 따라 생성된 결과들의 제1 세트 및
    (ii)상기 제2 오브젝트에 따라 생성된 결과들의 제2 세트를 포함하며;
    (i)상기 결과들의 제1 세트 및 (ii)상기 결과들의 제2 세트를 사용자에게 동시에 디스플레이하기 위해 포맷팅(formatting)하는 단계;
    상기 결과들의 제1 세트 또는 상기 결과들의 제2 세트에서 특정 결과의 하나 이상의 사용자 주석들을 획득하는 단계, 상기 하나 이상의 사용자 주석들은 상기 시각 쿼리에 대한 각각의 검색 결과의 관련성 또는 관련성의 흠결을 표시하는 사용자에 의해 취해진 액션을 표시하며;
    제2 시각 쿼리를 획득하는 단계; 및
    상기 제2 시각 쿼리를 획득함에 응답하여, 상기 하나 이상의 사용자 주석들에서 적어도 하나의 주석에 기초하여 제2 복수의 검색 결과들을 획득하는 단계를 포함하는 것을 특징으로 하는 시각 질의를 프로세싱하는 컴퓨터-구현된 방법.
  2. 삭제
  3. 삭제
  4. 청구항 1에 있어서,
    상기 시각 질의는 사진, 스크린 샷, 스캔된 이미지, 비디오 프레임 및 복수의 비디오 프레임들로 구성되는 그룹으로부터 선택되는 것을 특징으로 하는 시각 질의를 프로세싱하는 컴퓨터-구현된 방법.
  5. 삭제
  6. 삭제
  7. 삭제
  8. 삭제
  9. 시각 질의를 프로세싱하기 위한 컴퓨터 시스템으로서,
    프로그램들을 실행하기 위한 하나 이상의 중앙 프로세싱 유닛들;
    상기 하나 이상의 중앙 프로세싱 유닛들에 의해 실행될 하나 이상의 프로그램들을 저장하는 메모리를 포함하고, 상기 하나 이상의 프로그램들은:
    2 이상의 오브젝트들을 가지는 시각 질의를 획득하고, 상기 2 이상의 오브젝트들은:
    (i) 제1 오브젝트 타입을 가지는 제1 오브젝트 및 (ii) 상기 제1 타입과 별개인 제2 오브젝트 타입을 가지는 제2 오브젝트를 포함하며, 상기 제1 및 제2 오브젝트 타입들은 OCR 문자들, 사람의 얼굴, 비-인간 오브젝트(non-human object) 및 바코드를 포함하는 그룹으로부터 선택되며;
    상기 시각 질의를 제1 영역 및 제2 영역을 포함하는 2 이상의 영역들로 분할(partitioning)하고, 상기 제1 영역은 상기 제1 오브젝트를 포함하며 그리고 상기 제2 영역은 상기 제2 오브젝트를 포함하며;
    시각 질의 검색 결과들을 동시적으로 획득함으로써 상기 시각 질의를 프로세싱하고, 상기 시각 질의 검색 결과들은:
    (i)상기 제1 오브젝트에 따라 생성된 결과들의 제1 세트 및
    (ii)상기 제2 오브젝트에 따라 생성된 결과들의 제2 세트를 포함하며;
    (i)상기 결과들의 제1 세트 및 (ii)상기 결과들의 제2 세트를 사용자에게 동시에 디스플레이하기 위해 포맷팅(formatting)하고;
    상기 결과들의 제1 세트 또는 상기 결과들의 제2 세트에서 특정 결과의 하나 이상의 사용자 주석들을 획득하고, 상기 하나 이상의 사용자 주석들은 상기 시각 쿼리에 대한 각각의 검색 결과의 관련성 또는 관련성의 흠결을 표시하는 사용자에 의해 취해진 액션을 표시하며;
    제2 시각 쿼리를 획득하고; 및
    상기 제2 시각 쿼리를 획득함에 응답하여, 상기 하나 이상의 사용자 주석들에서 적어도 하나의 주석에 기초하여 제2 복수의 검색 결과들을 획득하기 위한 명령들을 포함하는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 시스템.
  10. 삭제
  11. 삭제
  12. 청구항 9에 있어서,
    상기 시각 질의는 사진, 스크린 샷, 스캔된 이미지, 비디오 프레임 및 복수의 비디오 프레임들로 구성되는 그룹으로부터 선택되는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 시스템.
  13. 삭제
  14. 삭제
  15. 삭제
  16. 삭제
  17. 컴퓨터에 의한 실행을 위해 구성된 하나 이상의 프로그램들을 저장하는, 시각 질의를 프로세싱하기 위한 컴퓨터 판독가능한 저장 매체로서, 상기 하나 이상의 프로그램들은:
    2 이상의 오브젝트들을 가지는 시각 질의를 획득하고, 상기 2 이상의 오브젝트들은:
    (i) 제1 오브젝트 타입을 가지는 제1 오브젝트 및 (ii) 상기 제1 타입과 별개인 제2 오브젝트 타입을 가지는 제2 오브젝트를 포함하며, 상기 제1 및 제2 오브젝트 타입들은 OCR 문자들, 사람의 얼굴, 비-인간 오브젝트(non-human object) 및 바코드를 포함하는 그룹으로부터 선택되며;
    상기 시각 질의를 제1 영역 및 제2 영역을 포함하는 2 이상의 영역들로 분할(partitioning)하고, 상기 제1 영역은 상기 제1 오브젝트를 포함하며 그리고 상기 제2 영역은 상기 제2 오브젝트를 포함하며;
    시각 질의 검색 결과들을 동시적으로 획득함으로써 상기 시각 질의를 프로세싱하고, 상기 시각 질의 검색 결과들은:
    (i)상기 제1 오브젝트에 따라 생성된 결과들의 제1 세트 및
    (ii)상기 제2 오브젝트에 따라 생성된 결과들의 제2 세트를 포함하며;
    (i)상기 결과들의 제1 세트 및 (ii)상기 결과들의 제2 세트를 사용자에게 동시에 디스플레이하기 위해 포맷팅(formatting)하고;
    상기 결과들의 제1 세트 또는 상기 결과들의 제2 세트에서 특정 결과의 하나 이상의 사용자 주석들을 획득하고, 상기 하나 이상의 사용자 주석들은 상기 시각 쿼리에 대한 각각의 검색 결과의 관련성 또는 관련성의 흠결을 표시하는 사용자에 의해 취해진 액션을 표시하며;
    제2 시각 쿼리를 획득하고; 및
    상기 제2 시각 쿼리를 획득함에 응답하여, 상기 하나 이상의 사용자 주석들에서 적어도 하나의 주석에 기초하여 제2 복수의 검색 결과들을 획득하기 위한 명령들을 포함하는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 판독가능한 저장 매체.
  18. 삭제
  19. 삭제
  20. 청구항 17에 있어서,
    상기 시각 질의는 사진, 스크린 샷, 스캔된 이미지, 비디오 프레임 및 복수의 비디오 프레임들로 구성되는 그룹으로부터 선택되는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 판독가능한 저장 매체.
  21. 삭제
  22. 삭제
  23. 삭제
  24. 삭제
  25. 청구항 1에 있어서,
    상기 하나 이상의 사용자 주석들은 상기 시각 쿼리의 사용자-표시 부분 및 상기 시각 쿼리의 상기 부분에 디스플레이되는 오브젝트를 식별하는 대응하는 사용자-제공 정보를 포함하는 것을 특징으로 하는 시각 질의를 프로세싱하는 컴퓨터-구현된 방법.
  26. 청구항 25에 있어서,
    상기 대응하는 사용자-제공 정보는 상기 제1 오브젝트 또는 상기 제2 오브젝트를 식별하는 텍스트를 포함하는 것을 특징으로 하는 시각 질의를 프로세싱하는 컴퓨터-구현된 방법.
  27. 청구항 1에 있어서,
    상기 결과들의 제1 세트 및 상기 결과들의 제2 세트는 상기 사용자에게 디스플레이되는 서로 다른 그룹들로 그룹화되는 것을 특징으로 하는 시각 질의를 프로세싱하는 컴퓨터-구현된 방법.
  28. 청구항 1에 있어서,
    상기 하나 이상의 사용자 주석들은 상기 시각 쿼리의 사용자 설명, 상기 시각 쿼리 부분의 사용자 설명, 사용자 리뷰 및 각각의 검색 결과의 사용자 수정으로 구성되는 그룹으로부터 선택되는 것을 특징으로 하는 시각 질의를 프로세싱하는 컴퓨터-구현된 방법.
  29. 청구항 9에 있어서,
    상기 하나 이상의 사용자 주석들은 상기 시각 쿼리의 사용자-표시 부분 및 상기 시각 쿼리의 상기 부분에 디스플레이되는 오브젝트를 식별하는 대응하는 사용자-제공 정보를 포함하는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 시스템.
  30. 청구항 29에 있어서,
    상기 대응하는 사용자-제공 정보는 상기 제1 오브젝트 또는 상기 제2 오브젝트를 식별하는 텍스트를 포함하는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 시스템.
  31. 청구항 9에 있어서,
    상기 결과들의 제1 세트 및 상기 결과들의 제2 세트는 상기 사용자에게 디스플레이되는 서로 다른 그룹들로 그룹화되는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 시스템.
  32. 청구항 9에 있어서,
    상기 하나 이상의 사용자 주석들은 상기 시각 쿼리의 사용자 설명, 상기 시각 쿼리 부분의 사용자 설명, 사용자 리뷰 및 각각의 검색 결과의 사용자 수정으로 구성되는 그룹으로부터 선택되는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 시스템.
  33. 청구항 17에 있어서,
    상기 하나 이상의 사용자 주석들은 상기 시각 쿼리의 사용자-표시 부분 및 상기 시각 쿼리의 상기 부분에 디스플레이되는 오브젝트를 식별하는 대응하는 사용자-제공 정보를 포함하는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 판독가능한 저장 매체.
  34. 청구항 33에 있어서,
    상기 대응하는 사용자-제공 정보는 상기 제1 오브젝트 또는 상기 제2 오브젝트를 식별하는 텍스트를 포함하는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 판독가능한 저장 매체.
  35. 청구항 17에 있어서,
    상기 결과들의 제1 세트 및 상기 결과들의 제2 세트는 상기 사용자에게 디스플레이되는 서로 다른 그룹들로 그룹화되는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 판독가능한 저장 매체.
  36. 청구항 17에 있어서,
    상기 하나 이상의 사용자 주석들은 상기 시각 쿼리의 사용자 설명, 상기 시각 쿼리 부분의 사용자 설명, 사용자 리뷰 및 각각의 검색 결과의 사용자 수정으로 구성되는 그룹으로부터 선택되는 것을 특징으로 하는 시각 질의를 프로세싱하기 위한 컴퓨터 판독가능한 저장 매체.
KR1020127006113A 2009-08-07 2010-08-05 시각 질의에 응답하기 위한 아키텍처 KR101667346B1 (ko)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US23239709P 2009-08-07 2009-08-07
US61/232,397 2009-08-07
US26611609P 2009-12-02 2009-12-02
US61/266,116 2009-12-02
US12/850,483 2010-08-04
US12/850,483 US9135277B2 (en) 2009-08-07 2010-08-04 Architecture for responding to a visual query
PCT/US2010/044603 WO2011017557A1 (en) 2009-08-07 2010-08-05 Architecture for responding to a visual query

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020167020177A Division KR101725885B1 (ko) 2009-08-07 2010-08-05 시각 질의에 응답하기 위한 아키텍처

Publications (2)

Publication Number Publication Date
KR20120058538A KR20120058538A (ko) 2012-06-07
KR101667346B1 true KR101667346B1 (ko) 2016-10-18

Family

ID=42752283

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020127006113A KR101667346B1 (ko) 2009-08-07 2010-08-05 시각 질의에 응답하기 위한 아키텍처
KR1020167020177A KR101725885B1 (ko) 2009-08-07 2010-08-05 시각 질의에 응답하기 위한 아키텍처

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020167020177A KR101725885B1 (ko) 2009-08-07 2010-08-05 시각 질의에 응답하기 위한 아키텍처

Country Status (9)

Country Link
US (3) US9135277B2 (ko)
EP (1) EP2462520B1 (ko)
JP (3) JP2013501975A (ko)
KR (2) KR101667346B1 (ko)
CN (1) CN102625937B (ko)
AU (2) AU2010279333B2 (ko)
BR (1) BR112012002815B8 (ko)
CA (2) CA3068761C (ko)
WO (1) WO2011017557A1 (ko)

Families Citing this family (185)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090327235A1 (en) * 2008-06-27 2009-12-31 Google Inc. Presenting references with answers in forums
US8463053B1 (en) 2008-08-08 2013-06-11 The Research Foundation Of State University Of New York Enhanced max margin learning on multimodal data mining in a multimedia database
US9135277B2 (en) 2009-08-07 2015-09-15 Google Inc. Architecture for responding to a visual query
EP2629211A1 (en) * 2009-08-21 2013-08-21 Mikko Kalervo Väänänen Method and means for data searching and language translation
US8121618B2 (en) 2009-10-28 2012-02-21 Digimarc Corporation Intuitive computing methods and systems
US9197736B2 (en) 2009-12-31 2015-11-24 Digimarc Corporation Intuitive computing methods and systems
US9176986B2 (en) 2009-12-02 2015-11-03 Google Inc. Generating a combination of a visual query and matching canonical document
US9405772B2 (en) 2009-12-02 2016-08-02 Google Inc. Actionable search results for street view visual queries
US9852156B2 (en) 2009-12-03 2017-12-26 Google Inc. Hybrid use of location sensor data and visual query to return local listings for visual query
WO2011082332A1 (en) 2009-12-31 2011-07-07 Digimarc Corporation Methods and arrangements employing sensor-equipped smart phones
US8600173B2 (en) * 2010-01-27 2013-12-03 Dst Technologies, Inc. Contextualization of machine indeterminable information based on machine determinable information
WO2012050251A1 (ko) * 2010-10-14 2012-04-19 엘지전자 주식회사 이동 단말기 및 그 제어방법
US8861896B2 (en) * 2010-11-29 2014-10-14 Sap Se Method and system for image-based identification
US9196028B2 (en) 2011-09-23 2015-11-24 Digimarc Corporation Context-based smartphone sensor logic
US8995775B2 (en) * 2011-05-02 2015-03-31 Facebook, Inc. Reducing photo-tagging spam
JP5316582B2 (ja) * 2011-05-23 2013-10-16 コニカミノルタ株式会社 画像処理システム、画像処理装置、端末装置、および制御プログラム
EP2533141A1 (en) * 2011-06-07 2012-12-12 Amadeus S.A.S. A personal information display system and associated method
JP5830784B2 (ja) * 2011-06-23 2015-12-09 サイバーアイ・エンタテインメント株式会社 画像認識システムを組込んだ関連性検索によるインタレスト・グラフ収集システム
KR101814120B1 (ko) * 2011-08-26 2018-01-03 에스프린팅솔루션 주식회사 이미지를 전자문서에 삽입하는 방법 및 이를 수행하는 장치
US8890827B1 (en) 2011-10-05 2014-11-18 Google Inc. Selected content refinement mechanisms
US10013152B2 (en) 2011-10-05 2018-07-03 Google Llc Content selection disambiguation
US8825671B1 (en) * 2011-10-05 2014-09-02 Google Inc. Referent determination from selected content
US9652556B2 (en) 2011-10-05 2017-05-16 Google Inc. Search suggestions based on viewport content
US8878785B1 (en) 2011-10-05 2014-11-04 Google Inc. Intent determination using geometric shape input
US9032316B1 (en) 2011-10-05 2015-05-12 Google Inc. Value-based presentation of user-selectable computing actions
US9305108B2 (en) 2011-10-05 2016-04-05 Google Inc. Semantic selection and purpose facilitation
US8589410B2 (en) * 2011-10-18 2013-11-19 Microsoft Corporation Visual search using multiple visual input modalities
EP2587745A1 (en) 2011-10-26 2013-05-01 Swisscom AG A method and system of obtaining contact information for a person or an entity
TWI451347B (zh) * 2011-11-17 2014-09-01 Univ Nat Chiao Tung 物品資料查詢系統及方法
US8891907B2 (en) 2011-12-06 2014-11-18 Google Inc. System and method of identifying visual objects
WO2013088994A1 (ja) * 2011-12-14 2013-06-20 日本電気株式会社 映像処理システム、映像処理方法、携帯端末用またはサーバ用の映像処理装置およびその制御方法と制御プログラム
JP2015062090A (ja) * 2011-12-15 2015-04-02 日本電気株式会社 映像処理システム、映像処理方法、携帯端末用またはサーバ用の映像処理装置およびその制御方法と制御プログラム
US10115127B2 (en) 2011-12-16 2018-10-30 Nec Corporation Information processing system, information processing method, communications terminals and control method and control program thereof
US8989515B2 (en) 2012-01-12 2015-03-24 Kofax, Inc. Systems and methods for mobile image capture and processing
US10146795B2 (en) * 2012-01-12 2018-12-04 Kofax, Inc. Systems and methods for mobile image capture and processing
US8620021B2 (en) 2012-03-29 2013-12-31 Digimarc Corporation Image-related methods and arrangements
US8935246B2 (en) 2012-08-08 2015-01-13 Google Inc. Identifying textual terms in response to a visual query
US8868598B2 (en) * 2012-08-15 2014-10-21 Microsoft Corporation Smart user-centric information aggregation
CN102902771A (zh) * 2012-09-27 2013-01-30 百度国际科技（深圳）有限公司 一种图片搜索方法、装置及服务器
CN102930263A (zh) * 2012-09-27 2013-02-13 百度国际科技（深圳）有限公司 一种信息处理方法及装置
US8990194B2 (en) * 2012-11-02 2015-03-24 Google Inc. Adjusting content delivery based on user submissions of photographs
US20140149257A1 (en) * 2012-11-28 2014-05-29 Jim S. Baca Customized Shopping
US9298712B2 (en) * 2012-12-13 2016-03-29 Microsoft Technology Licensing, Llc Content and object metadata based search in e-reader environment
WO2014124407A2 (en) * 2013-02-08 2014-08-14 Emotient Collection of machine learning training data for expression recognition
US10235358B2 (en) * 2013-02-21 2019-03-19 Microsoft Technology Licensing, Llc Exploiting structured content for unsupervised natural language semantic parsing
US9311640B2 (en) 2014-02-11 2016-04-12 Digimarc Corporation Methods and arrangements for smartphone payments and transactions
US9208176B2 (en) * 2013-03-12 2015-12-08 International Business Machines Corporation Gesture-based image shape filtering
US9355312B2 (en) 2013-03-13 2016-05-31 Kofax, Inc. Systems and methods for classifying objects in digital images captured using mobile devices
US10127636B2 (en) 2013-09-27 2018-11-13 Kofax, Inc. Content-based detection and three dimensional geometric reconstruction of objects in image and video data
US9258597B1 (en) 2013-03-13 2016-02-09 Google Inc. System and method for obtaining information relating to video images
US9247309B2 (en) 2013-03-14 2016-01-26 Google Inc. Methods, systems, and media for presenting mobile content corresponding to media content
US9705728B2 (en) 2013-03-15 2017-07-11 Google Inc. Methods, systems, and media for media transmission and management
US20140316841A1 (en) 2013-04-23 2014-10-23 Kofax, Inc. Location-based workflows and services
US20140330814A1 (en) * 2013-05-03 2014-11-06 Tencent Technology (Shenzhen) Company Limited Method, client of retrieving information and computer storage medium
WO2014186840A1 (en) * 2013-05-21 2014-11-27 Fmp Group (Australia) Pty Limited Image recognition of vehicle parts
US10176500B1 (en) * 2013-05-29 2019-01-08 A9.Com, Inc. Content classification based on data recognition
US10408613B2 (en) 2013-07-12 2019-09-10 Magic Leap, Inc. Method and system for rendering virtual content
GB201314642D0 (en) * 2013-08-15 2013-10-02 Summerfield Gideon Image Identification System and Method
CN104424257A (zh) * 2013-08-28 2015-03-18 北大方正集团有限公司 信息检索装置和信息检索方法
CN103455590B (zh) * 2013-08-29 2017-05-31 百度在线网络技术（北京）有限公司 在触屏设备中进行检索的方法和装置
AU2014321165B2 (en) * 2013-09-11 2020-04-09 See-Out Pty Ltd Image searching method and apparatus
US10095833B2 (en) * 2013-09-22 2018-10-09 Ricoh Co., Ltd. Mobile information gateway for use by medical personnel
US9386235B2 (en) 2013-11-15 2016-07-05 Kofax, Inc. Systems and methods for generating composite images of long documents using mobile video data
US9491522B1 (en) 2013-12-31 2016-11-08 Google Inc. Methods, systems, and media for presenting supplemental content relating to media content on a content interface based on state information that indicates a subsequent visit to the content interface
US9456237B2 (en) 2013-12-31 2016-09-27 Google Inc. Methods, systems, and media for presenting supplemental information corresponding to on-demand media content
US10002191B2 (en) 2013-12-31 2018-06-19 Google Llc Methods, systems, and media for generating search results based on contextual information
US9411825B2 (en) * 2013-12-31 2016-08-09 Streamoid Technologies Pvt. Ltd. Computer implemented system for handling text distracters in a visual search
US10248856B2 (en) 2014-01-14 2019-04-02 Toyota Motor Engineering & Manufacturing North America, Inc. Smart necklace with stereo vision and onboard processing
US9915545B2 (en) 2014-01-14 2018-03-13 Toyota Motor Engineering & Manufacturing North America, Inc. Smart necklace with stereo vision and onboard processing
US10360907B2 (en) 2014-01-14 2019-07-23 Toyota Motor Engineering & Manufacturing North America, Inc. Smart necklace with stereo vision and onboard processing
US10024679B2 (en) 2014-01-14 2018-07-17 Toyota Motor Engineering & Manufacturing North America, Inc. Smart necklace with stereo vision and onboard processing
KR101791518B1 (ko) 2014-01-23 2017-10-30 삼성전자주식회사 사용자 인증 방법 및 장치
US9832353B2 (en) 2014-01-31 2017-11-28 Digimarc Corporation Methods for encoding, decoding and interpreting auxiliary data in media signals
PL3066591T3 (pl) 2014-02-10 2020-04-30 Geenee Gmbh Systemy i sposoby rozpoznawania oparte na obrazie
US9830391B1 (en) 2014-06-24 2017-11-28 Google Inc. Query modification based on non-textual resource context
US9811592B1 (en) 2014-06-24 2017-11-07 Google Inc. Query modification based on textual resource context
US9916328B1 (en) 2014-07-11 2018-03-13 Google Llc Providing user assistance from interaction understanding
US10062099B2 (en) * 2014-07-25 2018-08-28 Hewlett Packard Enterprise Development Lp Product identification based on location associated with image of product
KR101690528B1 (ko) * 2015-06-05 2016-12-28 오드컨셉 주식회사 검색 정보를 표시하는 방법, 장치 및 컴퓨터 프로그램
US10024667B2 (en) 2014-08-01 2018-07-17 Toyota Motor Engineering & Manufacturing North America, Inc. Wearable earpiece for providing social and environmental awareness
US9965559B2 (en) 2014-08-21 2018-05-08 Google Llc Providing automatic actions for mobile onscreen content
JP6220079B2 (ja) * 2014-09-08 2017-10-25 日本電信電話株式会社 表示制御装置、表示制御方法および表示制御プログラム
US9922236B2 (en) * 2014-09-17 2018-03-20 Toyota Motor Engineering & Manufacturing North America, Inc. Wearable eyeglasses for providing social and environmental awareness
US10024678B2 (en) 2014-09-17 2018-07-17 Toyota Motor Engineering & Manufacturing North America, Inc. Wearable clip for providing social and environmental awareness
US9760788B2 (en) 2014-10-30 2017-09-12 Kofax, Inc. Mobile document detection and orientation based on reference object characteristics
CN104391938B (zh) * 2014-11-24 2017-10-10 武汉海川云谷软件技术有限公司 一种实物资产管理中的图片批量导入数据库的方法及系统
CN104615639B (zh) * 2014-11-28 2018-08-24 北京百度网讯科技有限公司 一种用于提供图片的呈现信息的方法和设备
CN105868385B (zh) * 2014-12-12 2020-02-07 北京奇虎科技有限公司 基于终端界面触控操作进行搜索的方法及系统
CN104572986A (zh) * 2015-01-04 2015-04-29 百度在线网络技术（北京）有限公司 信息搜索方法和装置
US11120478B2 (en) 2015-01-12 2021-09-14 Ebay Inc. Joint-based item recognition
US20160217157A1 (en) * 2015-01-23 2016-07-28 Ebay Inc. Recognition of items depicted in images
US10490102B2 (en) 2015-02-10 2019-11-26 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for braille assistance
US9586318B2 (en) 2015-02-27 2017-03-07 Toyota Motor Engineering & Manufacturing North America, Inc. Modular robot with smart device
US9811752B2 (en) 2015-03-10 2017-11-07 Toyota Motor Engineering & Manufacturing North America, Inc. Wearable smart device and method for redundant object identification
US9922271B2 (en) 2015-03-20 2018-03-20 Netra, Inc. Object detection and classification
US9760792B2 (en) 2015-03-20 2017-09-12 Netra, Inc. Object detection and classification
US9972216B2 (en) 2015-03-20 2018-05-15 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for storing and playback of information for blind users
CN104794220A (zh) * 2015-04-28 2015-07-22 百度在线网络技术（北京）有限公司 信息搜索方法和信息搜索装置
US9703541B2 (en) 2015-04-28 2017-07-11 Google Inc. Entity action suggestion on a mobile device
US10062015B2 (en) 2015-06-25 2018-08-28 The Nielsen Company (Us), Llc Methods and apparatus for identifying objects depicted in a video using extracted video frames in combination with a reverse image search engine
AU2016277553B2 (en) * 2015-06-26 2022-02-17 Rovi Guides, Inc. Systems and methods for automatic formatting of images for media assets based on user profile
US10628009B2 (en) 2015-06-26 2020-04-21 Rovi Guides, Inc. Systems and methods for automatic formatting of images for media assets based on user profile
WO2017000109A1 (zh) * 2015-06-29 2017-01-05 北京旷视科技有限公司 搜索方法、搜索装置、用户设备和计算机程序产品
US10769200B1 (en) * 2015-07-01 2020-09-08 A9.Com, Inc. Result re-ranking for object recognition
US10242285B2 (en) 2015-07-20 2019-03-26 Kofax, Inc. Iterative recognition-guided thresholding and data extraction
CN105069083B (zh) 2015-07-31 2019-03-08 小米科技有限责任公司 关联用户的确定方法及装置
US9898039B2 (en) 2015-08-03 2018-02-20 Toyota Motor Engineering & Manufacturing North America, Inc. Modular smart necklace
CN108431829A (zh) * 2015-08-03 2018-08-21 奥兰德股份公司 用于在目录中搜索产品的系统和方法
ITUB20153277A1 (it) * 2015-08-28 2017-02-28 St Microelectronics Srl Procedimento per ricerche visuali, sistema, apparecchiatura e prodotto informatico corrispondenti
US10970646B2 (en) 2015-10-01 2021-04-06 Google Llc Action suggestions for user-selected content
US11055343B2 (en) 2015-10-05 2021-07-06 Pinterest, Inc. Dynamic search control invocation and visual search
US11609946B2 (en) * 2015-10-05 2023-03-21 Pinterest, Inc. Dynamic search input selection
JP6204957B2 (ja) * 2015-10-15 2017-09-27 ヤフー株式会社 情報処理装置、情報処理方法および情報処理プログラム
US20180004845A1 (en) * 2015-10-16 2018-01-04 Carlos A. Munoz Web Based Information Search Method
US10178527B2 (en) 2015-10-22 2019-01-08 Google Llc Personalized entity repository
US10055390B2 (en) 2015-11-18 2018-08-21 Google Llc Simulated hyperlinks on a mobile device based on user intent and a centered selection of text
US9881236B2 (en) 2015-12-28 2018-01-30 Google Llc Organizing images associated with a user
US20170185670A1 (en) * 2015-12-28 2017-06-29 Google Inc. Generating labels for images associated with a user
US10043102B1 (en) * 2016-01-20 2018-08-07 Palantir Technologies Inc. Database systems and user interfaces for dynamic and interactive mobile image analysis and identification
US9779293B2 (en) * 2016-01-27 2017-10-03 Honeywell International Inc. Method and tool for post-mortem analysis of tripped field devices in process industry using optical character recognition and intelligent character recognition
US10024680B2 (en) 2016-03-11 2018-07-17 Toyota Motor Engineering & Manufacturing North America, Inc. Step based guidance system
US10445355B2 (en) * 2016-04-07 2019-10-15 RELX Inc. Systems and methods for providing a visualizable results list
US11003667B1 (en) 2016-05-27 2021-05-11 Google Llc Contextual information for a displayed resource
US9958275B2 (en) 2016-05-31 2018-05-01 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for wearable smart device communications
US10152521B2 (en) 2016-06-22 2018-12-11 Google Llc Resource recommendations for a displayed resource
US10353950B2 (en) 2016-06-28 2019-07-16 Google Llc Visual recognition using user tap locations
US10802671B2 (en) 2016-07-11 2020-10-13 Google Llc Contextual information for a displayed resource that includes an image
US10561519B2 (en) 2016-07-20 2020-02-18 Toyota Motor Engineering & Manufacturing North America, Inc. Wearable computing device having a curved back to reduce pressure on vertebrae
US10489459B1 (en) 2016-07-21 2019-11-26 Google Llc Query recommendations for a displayed resource
US10051108B2 (en) 2016-07-21 2018-08-14 Google Llc Contextual information for a notification
US10467300B1 (en) 2016-07-21 2019-11-05 Google Llc Topical resource recommendations for a displayed resource
MX2019002626A (es) * 2016-09-06 2019-10-02 Walmart Apollo Llc Selector de imagenes de una pieza de un producto.
RU2720536C1 (ru) * 2016-09-08 2020-04-30 Гох Су Сиах Фреймворк приема видео для платформы визуального поиска
US10949605B2 (en) * 2016-09-13 2021-03-16 Bank Of America Corporation Interprogram communication with event handling for online enhancements
US10212113B2 (en) 2016-09-19 2019-02-19 Google Llc Uniform resource identifier and image sharing for contextual information display
US10535005B1 (en) 2016-10-26 2020-01-14 Google Llc Providing contextual actions for mobile onscreen content
US10432851B2 (en) 2016-10-28 2019-10-01 Toyota Motor Engineering & Manufacturing North America, Inc. Wearable computing device for detecting photography
US10346727B2 (en) * 2016-10-28 2019-07-09 Adobe Inc. Utilizing a digital canvas to conduct a spatial-semantic search for digital visual media
USD827143S1 (en) 2016-11-07 2018-08-28 Toyota Motor Engineering & Manufacturing North America, Inc. Blind aid device
US10012505B2 (en) 2016-11-11 2018-07-03 Toyota Motor Engineering & Manufacturing North America, Inc. Wearable system for providing walking directions
US10521669B2 (en) 2016-11-14 2019-12-31 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for providing guidance or feedback to a user
US11237696B2 (en) 2016-12-19 2022-02-01 Google Llc Smart assist for repeated actions
US20180218237A1 (en) * 2017-01-30 2018-08-02 International Business Machines Corporation System, method and computer program product for creating a contact group using image analytics
US11449495B2 (en) * 2017-02-01 2022-09-20 United Parcel Service Of America, Inc. Indexable database profiles comprising multi-language encoding data and methods for generating the same
JP6807268B2 (ja) * 2017-04-18 2021-01-06 日本電信電話株式会社 画像認識エンジン連携装置およびプログラム
KR102368847B1 (ko) 2017-04-28 2022-03-02 삼성전자주식회사 객체에 대응하는 콘텐트를 출력하기 위한 방법 및 그 전자 장치
JP6353118B1 (ja) * 2017-05-10 2018-07-04 ヤフー株式会社 表示プログラム、情報提供装置、表示装置、表示方法、情報提供方法および情報提供プログラム
US11928482B2 (en) * 2017-06-13 2024-03-12 Google Llc Interaction with electronic chat interfaces
US10679068B2 (en) 2017-06-13 2020-06-09 Google Llc Media contextual information from buffered media data
CN111295669A (zh) * 2017-06-16 2020-06-16 马克波尔公司 图像处理系统
US10652592B2 (en) 2017-07-02 2020-05-12 Comigo Ltd. Named entity disambiguation for providing TV content enrichment
KR102469717B1 (ko) * 2017-08-01 2022-11-22 삼성전자주식회사 오브젝트에 대한 검색 결과를 제공하기 위한 전자 장치 및 이의 제어 방법
WO2019027240A1 (en) 2017-08-01 2019-02-07 Samsung Electronics Co., Ltd. ELECTRONIC DEVICE AND METHOD FOR PROVIDING A RESEARCH RESULT THEREOF
KR102586170B1 (ko) * 2017-08-01 2023-10-10 삼성전자주식회사 전자 장치 및 이의 검색 결과 제공 방법
JP6938680B2 (ja) * 2017-09-13 2021-09-22 グーグル エルエルシーＧｏｏｇｌｅ ＬＬＣ 関連コンテンツを使用した画像の効率的な増強
US10942966B2 (en) 2017-09-22 2021-03-09 Pinterest, Inc. Textual and image based search
US11126653B2 (en) 2017-09-22 2021-09-21 Pinterest, Inc. Mixed type image based search results
US11841735B2 (en) 2017-09-22 2023-12-12 Pinterest, Inc. Object based image search
KR102599947B1 (ko) * 2017-10-27 2023-11-09 삼성전자주식회사 관련 이미지를 검색하기 위한 전자 장치 및 이의 제어 방법
US11062176B2 (en) 2017-11-30 2021-07-13 Kofax, Inc. Object detection and image cropping using a multi-detector approach
US11200611B2 (en) * 2017-12-29 2021-12-14 Ebay Inc. Computer vision for unsuccessful queries and iterative search
US10740394B2 (en) * 2018-01-18 2020-08-11 Oath Inc. Machine-in-the-loop, image-to-video computer vision bootstrapping
CN108270794B (zh) * 2018-02-06 2020-10-09 腾讯科技（深圳）有限公司 内容发布方法、装置及可读介质
KR102068535B1 (ko) * 2018-02-28 2020-01-21 엔에이치엔 주식회사 대화방 내 상담 메시지를 기초로 서비스를 예약하는 방법
US10558857B2 (en) * 2018-03-05 2020-02-11 A9.Com, Inc. Visual feedback of process state
JP6684846B2 (ja) * 2018-04-23 2020-04-22 株式会社ワコム 物品検索システム
US10810457B2 (en) * 2018-05-09 2020-10-20 Fuji Xerox Co., Ltd. System for searching documents and people based on detecting documents and people around a table
CN108897841A (zh) * 2018-06-27 2018-11-27 百度在线网络技术（北京）有限公司 全景图搜索方法、装置、设备、服务器及存储介质
KR102544781B1 (ko) 2018-08-08 2023-06-19 삼성전자주식회사 우선 순위에 기반하여 상품과 관련된 정보를 제공하는 방법 및 그 전자 장치
US10699112B1 (en) * 2018-09-28 2020-06-30 Automation Anywhere, Inc. Identification of key segments in document images
US11574473B2 (en) * 2018-11-25 2023-02-07 Google Llc Finding and filtering elements of a visual scene
JP6934855B2 (ja) * 2018-12-20 2021-09-15 ヤフー株式会社 制御プログラム
KR101982990B1 (ko) * 2018-12-27 2019-05-27 건국대학교 산학협력단 챗봇을 이용한 질의 응답 방법 및 장치
KR101982991B1 (ko) * 2018-12-28 2019-05-27 건국대학교 산학협력단 복수의 챗봇을 이용한 질의 응답 방법 및 장치
US11494884B2 (en) 2019-02-21 2022-11-08 Canon U.S.A., Inc. Method and system for evaluating image sharpness
KR102245774B1 (ko) 2019-11-06 2021-04-27 연세대학교 산학협력단 공정성 분류 네트워크를 이용한 시각 질의 응답 방법 및 장치
KR102368560B1 (ko) 2020-01-31 2022-02-25 연세대학교 산학협력단 선택적 잔여학습을 이용한 시각 질의 응답 방법 및 장치
KR102104246B1 (ko) * 2020-02-17 2020-04-24 주식회사 비에이템 화면 분할을 이용한 이미지 병렬 검색 시스템
CN111539438B (zh) * 2020-04-28 2024-01-12 北京百度网讯科技有限公司 文本内容的识别方法、装置及电子设备
US20220092105A1 (en) * 2020-09-18 2022-03-24 Google Llc Intelligent Systems and Methods for Visual Search Queries
CN112733779B (zh) * 2021-01-19 2023-04-07 三星电子（中国）研发中心 一种基于人工智能的视频海报展示方法和系统
CN112766269B (zh) * 2021-03-04 2024-03-12 深圳康佳电子科技有限公司 一种图片文本检索方法、智能终端及存储介质
US20220300550A1 (en) * 2021-03-19 2022-09-22 Google Llc Visual Search via Free-Form Visual Feature Selection
CN114969479B (zh) * 2021-04-21 2023-08-15 中移互联网有限公司 一种搜索方法、装置及存储介质
US11835995B2 (en) 2022-02-10 2023-12-05 Clarifai, Inc. Automatic unstructured knowledge cascade visual search

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080267504A1 (en) * 2007-04-24 2008-10-30 Nokia Corporation Method, device and computer program product for integrating code-based and optical character recognition technologies into a mobile visual search

Family Cites Families (218)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4888690A (en) 1985-01-11 1989-12-19 Wang Laboratories, Inc. Interactive error handling means in database management
US4899292A (en) * 1988-03-02 1990-02-06 Image Storage/Retrieval Systems, Inc. System for storing and retrieving text and associated graphics
CA2048306A1 (en) 1990-10-02 1992-04-03 Steven P. Miller Distributed configuration profile for computing system
US5649183A (en) 1992-12-08 1997-07-15 Microsoft Corporation Method for compressing full text indexes with document identifiers and location offsets
US5574898A (en) 1993-01-08 1996-11-12 Atria Software, Inc. Dynamic software version auditor which monitors a process to provide a list of objects that are accessed
US5544051A (en) 1993-09-17 1996-08-06 Digital Equipment Corporation Document management system using multiple threaded processes and having asynchronous repository responses and no busy cursor
JP2813728B2 (ja) * 1993-11-01 1998-10-22 インターナショナル・ビジネス・マシーンズ・コーポレイション ズーム／パン機能付パーソナル通信機
US5560005A (en) 1994-02-25 1996-09-24 Actamed Corp. Methods and systems for object-based relational distributed databases
US6216138B1 (en) * 1994-04-22 2001-04-10 Brooks Automation Inc. Computer interface system for automatically generating graphical representations of computer operations linked together according to functional relationships
US6029195A (en) * 1994-11-29 2000-02-22 Herz; Frederick S. M. System for customized electronic identification of desirable objects
US5764799A (en) * 1995-06-26 1998-06-09 Research Foundation Of State Of State Of New York OCR method and apparatus using image equivalents
US5963940A (en) 1995-08-16 1999-10-05 Syracuse University Natural language information retrieval system and method
US6006221A (en) 1995-08-16 1999-12-21 Syracuse University Multilingual document retrieval system and method using semantic vector matching
US6026388A (en) * 1995-08-16 2000-02-15 Textwise, Llc User interface and other enhancements for natural language information retrieval system and method
US5815415A (en) 1996-01-19 1998-09-29 Bentley Systems, Incorporated Computer system for portable persistent modeling
US6076088A (en) * 1996-02-09 2000-06-13 Paik; Woojin Information extraction system and method using concept relation concept (CRC) triples
US5778378A (en) * 1996-04-30 1998-07-07 International Business Machines Corporation Object oriented information retrieval framework mechanism
US6014661A (en) * 1996-05-06 2000-01-11 Ivee Development Ab System and method for automatic analysis of data bases and for user-controlled dynamic querying
US6101515A (en) 1996-05-31 2000-08-08 Oracle Corporation Learning system for classification of terminology
JPH09330336A (ja) 1996-06-11 1997-12-22 Sony Corp 情報処理装置
US5870739A (en) * 1996-09-20 1999-02-09 Novell, Inc. Hybrid query apparatus and method
JP3099756B2 (ja) * 1996-10-31 2000-10-16 富士ゼロックス株式会社 文書処理装置、単語抽出装置及び単語抽出方法
US6480194B1 (en) 1996-11-12 2002-11-12 Silicon Graphics, Inc. Computer-related method, system, and program product for controlling data visualization in external dimension(s)
US6498921B1 (en) 1999-09-01 2002-12-24 Chi Fai Ho Method and system to answer a natural-language question
US5966126A (en) 1996-12-23 1999-10-12 Szabo; Andrew J. Graphic user interface for database system
US5946692A (en) 1997-05-08 1999-08-31 At & T Corp Compressed representation of a data base that permits AD HOC querying
CA2242158C (en) * 1997-07-01 2004-06-01 Hitachi, Ltd. Method and apparatus for searching and displaying structured document
US5987448A (en) * 1997-07-25 1999-11-16 Claritech Corporation Methodology for displaying search results using character recognition
US6188403B1 (en) * 1997-11-21 2001-02-13 Portola Dimensional Systems, Inc. User-friendly graphics generator using direct manipulation
US6105030A (en) 1998-02-27 2000-08-15 Oracle Corporation Method and apparatus for copying data that resides in a database
US6173287B1 (en) 1998-03-11 2001-01-09 Digital Equipment Corporation Technique for ranking multimedia annotations of interest
US6269188B1 (en) 1998-03-12 2001-07-31 Canon Kabushiki Kaisha Word grouping accuracy value generation
US6327574B1 (en) 1998-07-07 2001-12-04 Encirq Corporation Hierarchical models of consumer attributes for targeting content in a privacy-preserving manner
US6137907A (en) 1998-09-23 2000-10-24 Xerox Corporation Method and apparatus for pixel-level override of halftone detection within classification blocks to reduce rectangular artifacts
US6529900B1 (en) 1999-01-14 2003-03-04 International Business Machines Corporation Method and apparatus for data visualization
US6377943B1 (en) * 1999-01-20 2002-04-23 Oracle Corp. Initial ordering of tables for database queries
GB9903451D0 (en) 1999-02-16 1999-04-07 Hewlett Packard Co Similarity searching for documents
US6584464B1 (en) 1999-03-19 2003-06-24 Ask Jeeves, Inc. Grammar template query system
US6263328B1 (en) * 1999-04-09 2001-07-17 International Business Machines Corporation Object oriented query model and process for complex heterogeneous database queries
US20030195872A1 (en) 1999-04-12 2003-10-16 Paul Senn Web-based information content analyzer and information dimension dictionary
US6304864B1 (en) 1999-04-20 2001-10-16 Textwise Llc System for retrieving multimedia information from the internet using multiple evolving intelligent agents
US6629097B1 (en) 1999-04-28 2003-09-30 Douglas K. Keith Displaying implicit associations among items in loosely-structured data sets
JP2000331006A (ja) 1999-05-18 2000-11-30 Nippon Telegr & Teleph Corp <Ntt> 情報検索装置
US6721713B1 (en) * 1999-05-27 2004-04-13 Andersen Consulting Llp Business alliance identification in a web architecture framework
US6885990B1 (en) * 1999-05-31 2005-04-26 Nippon Telegraph And Telephone Company Speech recognition based on interactive information retrieval scheme using dialogue control to reduce user stress
US6408293B1 (en) * 1999-06-09 2002-06-18 International Business Machines Corporation Interactive framework for understanding user's perception of multimedia data
US6873982B1 (en) * 1999-07-16 2005-03-29 International Business Machines Corporation Ordering of database search results based on user feedback
US6341306B1 (en) * 1999-08-13 2002-01-22 Atomica Corporation Web-based information retrieval responsive to displayed word identified by a text-grabbing algorithm
CA2281331A1 (en) 1999-09-03 2001-03-03 Cognos Incorporated Database management system
JP4770875B2 (ja) 1999-09-27 2011-09-14 三菱電機株式会社 画像特徴データ生成装置、画像特徴判定装置および画像検索システム
US6105020A (en) 1999-10-11 2000-08-15 International Business Machines Corporation System and method for identifying and constructing star joins for execution by bitmap ANDing
US6850896B1 (en) * 1999-10-28 2005-02-01 Market-Touch Corporation Method and system for managing and providing sales data using world wide web
US6546388B1 (en) * 2000-01-14 2003-04-08 International Business Machines Corporation Metadata search results ranking system
US6606659B1 (en) 2000-01-28 2003-08-12 Websense, Inc. System and method for controlling access to internet sites
US20030120659A1 (en) * 2000-03-20 2003-06-26 Sridhar Mandayam Anandampillai Systems for developing websites and methods therefor
US6643641B1 (en) 2000-04-27 2003-11-04 Russell Snyder Web search engine with graphic snapshots
US7325201B2 (en) * 2000-05-18 2008-01-29 Endeca Technologies, Inc. System and method for manipulating content in a hierarchical data-driven search and navigation system
US7401131B2 (en) 2000-05-22 2008-07-15 Verizon Business Global Llc Method and system for implementing improved containers in a global ecosystem of interrelated services
US6754677B1 (en) * 2000-05-30 2004-06-22 Outlooksoft Corporation Method and system for facilitating information exchange
US7328349B2 (en) * 2001-12-14 2008-02-05 Bbn Technologies Corp. Hash-based systems and methods for detecting, preventing, and tracing network worms and viruses
US7640489B2 (en) * 2000-08-01 2009-12-29 Sun Microsystems, Inc. Methods and systems for inputting data into spreadsheet documents
US7100083B2 (en) 2000-08-04 2006-08-29 Sun Microsystems, Inc. Checks for product knowledge management
US20030217052A1 (en) 2000-08-24 2003-11-20 Celebros Ltd. Search engine method and apparatus
EP1312039B1 (en) 2000-08-24 2006-03-29 Olive Software, Inc. System and method for automatic preparation and searching of scanned documents
US6968343B2 (en) 2000-09-01 2005-11-22 Borland Software Corporation Methods and systems for integrating process modeling and project planning
US6832218B1 (en) 2000-09-22 2004-12-14 International Business Machines Corporation System and method for associating search results
US6823084B2 (en) * 2000-09-22 2004-11-23 Sri International Method and apparatus for portably recognizing text in an image sequence of scene imagery
US20020065815A1 (en) * 2000-10-04 2002-05-30 Xcelerix, Inc. Systems and methods for searching a database
US7016532B2 (en) 2000-11-06 2006-03-21 Evryx Technologies Image capture and identification system and process
US20020103920A1 (en) 2000-11-21 2002-08-01 Berkun Ken Alan Interpretive stream metadata extraction
US7013308B1 (en) * 2000-11-28 2006-03-14 Semscript Ltd. Knowledge storage and retrieval system and method
US6781599B2 (en) 2001-01-04 2004-08-24 At&T System and method for visualizing massive multi-digraphs
JP2002223105A (ja) * 2001-01-26 2002-08-09 Sanyo Electric Co Ltd 同軸共振器、並びにこれを用いた誘電体フィルタ及び誘電体デュプレクサ
JP4077608B2 (ja) 2001-02-27 2008-04-16 株式会社エヌ・ティ・ティ・ドコモ 特徴領域抽出方法およびその装置ならびに情報提供方法およびその装置
US6748398B2 (en) * 2001-03-30 2004-06-08 Microsoft Corporation Relevance maximizing, iteration minimizing, relevance-feedback, content-based image retrieval (CBIR)
US6920477B2 (en) * 2001-04-06 2005-07-19 President And Fellows Of Harvard College Distributed, compressed Bloom filter Web cache server
US7031955B1 (en) * 2001-04-27 2006-04-18 I2 Technologies Us, Inc. Optimization using a multi-dimensional data model
US6961723B2 (en) 2001-05-04 2005-11-01 Sun Microsystems, Inc. System and method for determining relevancy of query responses in a distributed network search mechanism
US7398201B2 (en) 2001-08-14 2008-07-08 Evri Inc. Method and system for enhanced data searching
US7403938B2 (en) * 2001-09-24 2008-07-22 Iac Search & Media, Inc. Natural language query processing
US7313617B2 (en) * 2001-09-28 2007-12-25 Dale Malik Methods and systems for a communications and information resource manager
JP2003150617A (ja) 2001-11-12 2003-05-23 Olympus Optical Co Ltd 画像処理装置およびプログラム
US6826572B2 (en) 2001-11-13 2004-11-30 Overture Services, Inc. System and method allowing advertisers to manage search listings in a pay for placement search system using grouping
JP3931214B2 (ja) * 2001-12-17 2007-06-13 日本アイ・ビー・エム株式会社 データ解析装置およびプログラム
US6988018B2 (en) * 2001-12-26 2006-01-17 Eames John D System and method for analyzing controlling forming sections of a paper machine in operation
US20030154071A1 (en) 2002-02-11 2003-08-14 Shreve Gregory M. Process for the document management and computer-assisted translation of documents utilizing document corpora constructed by intelligent agents
US7343365B2 (en) 2002-02-20 2008-03-11 Microsoft Corporation Computer system architecture for automatic context associations
US6928436B2 (en) 2002-02-28 2005-08-09 Ilog Sa Interactive generation of graphical visualizations of large data structures
US7043521B2 (en) * 2002-03-21 2006-05-09 Rockwell Electronic Commerce Technologies, Llc Search agent for searching the internet
US20040030731A1 (en) * 2002-04-03 2004-02-12 Liviu Iftode System and method for accessing files in a network
US20030208665A1 (en) 2002-05-01 2003-11-06 Jih-Kwon Peir Reducing data speculation penalty with early cache hit/miss prediction
US7158983B2 (en) * 2002-09-23 2007-01-02 Battelle Memorial Institute Text analysis technique
DE10245900A1 (de) 2002-09-30 2004-04-08 Neven jun., Hartmut, Prof.Dr. Bildbasiertes Anfragesystem für Suchmaschinen für mobile Endgeräte mit eingebauter Kamera
EP1588277A4 (en) 2002-12-06 2007-04-25 Attensity Corp SYSTEMS AND METHOD FOR PROVIDING A MIXING DATA INTEGRATION SERVICE
US7181450B2 (en) * 2002-12-18 2007-02-20 International Business Machines Corporation Method, system, and program for use of metadata to create multidimensional cubes in a relational database
US7278111B2 (en) * 2002-12-26 2007-10-02 Yahoo! Inc. Systems and methods for selecting a date or range of dates
US7472110B2 (en) * 2003-01-29 2008-12-30 Microsoft Corporation System and method for employing social networks for information discovery
US7146538B2 (en) 2003-03-28 2006-12-05 Hewlett-Packard Development Company, L.P. Bus interface module
US7111025B2 (en) 2003-04-30 2006-09-19 International Business Machines Corporation Information retrieval system and method using index ANDing for improving performance
US7853508B2 (en) 2003-05-19 2010-12-14 Serena Software, Inc. Method and system for object-oriented management of multi-dimensional data
US7926103B2 (en) * 2003-06-05 2011-04-12 Hewlett-Packard Development Company, L.P. System and method for preventing replay attacks
US7836391B2 (en) 2003-06-10 2010-11-16 Google Inc. Document search engine including highlighting of confident results
US9026901B2 (en) 2003-06-20 2015-05-05 International Business Machines Corporation Viewing annotations across multiple applications
US8321470B2 (en) 2003-06-20 2012-11-27 International Business Machines Corporation Heterogeneous multi-level extendable indexing for general purpose annotation systems
US7162473B2 (en) 2003-06-26 2007-01-09 Microsoft Corporation Method and system for usage analyzer that determines user accessed sources, indexes data subsets, and associated metadata, processing implicit queries based on potential interest to users
US7274822B2 (en) * 2003-06-30 2007-09-25 Microsoft Corporation Face annotation for photo management
US7565425B2 (en) * 2003-07-02 2009-07-21 Amazon Technologies, Inc. Server architecture and methods for persistently storing and serving event data
US7814093B2 (en) * 2003-07-25 2010-10-12 Microsoft Corporation Method and system for building a report for execution against a data store
US7444515B2 (en) * 2003-08-14 2008-10-28 Washington University Method and apparatus for detecting predefined signatures in packet payload using Bloom filters
US7174328B2 (en) * 2003-09-02 2007-02-06 International Business Machines Corp. Selective path signatures for query processing over a hierarchical tagged data structure
US7409406B2 (en) * 2003-09-08 2008-08-05 International Business Machines Corporation Uniform search system and method for selectively sharing distributed access-controlled documents
US20050057566A1 (en) * 2003-09-11 2005-03-17 International Business Machines Corporation Rich graphic visualization generation from abstract data representation
US7236982B2 (en) * 2003-09-15 2007-06-26 Pic Web Services, Inc. Computer systems and methods for platform independent presentation design
US7496560B2 (en) * 2003-09-23 2009-02-24 Amazon Technologies, Inc. Personalized searchable library with highlighting capabilities
JP2005107978A (ja) 2003-09-30 2005-04-21 Nec Corp 撮影機能付き情報端末による情報検索装置、及び、情報検索方法
US7370034B2 (en) * 2003-10-15 2008-05-06 Xerox Corporation System and method for performing electronic information retrieval using keywords
US7620624B2 (en) * 2003-10-17 2009-11-17 Yahoo! Inc. Systems and methods for indexing content for fast and scalable retrieval
US20050083413A1 (en) * 2003-10-20 2005-04-21 Logicalis Method, system, apparatus, and machine-readable medium for use in connection with a server that uses images or audio for initiating remote function calls
US7415456B2 (en) * 2003-10-30 2008-08-19 Lucent Technologies Inc. Network support for caller identification based on biometric measurement
JP2005165461A (ja) 2003-11-28 2005-06-23 Nifty Corp 情報提供装置及び情報提供プログラム
US7872669B2 (en) * 2004-01-22 2011-01-18 Massachusetts Institute Of Technology Photo-based mobile deixis system and related techniques
US7707039B2 (en) 2004-02-15 2010-04-27 Exbiblio B.V. Automatic modification of web pages
JP4413633B2 (ja) 2004-01-29 2010-02-10 株式会社ゼータ・ブリッジ 情報検索システム、情報検索方法、情報検索装置、情報検索プログラム、画像認識装置、画像認識方法および画像認識プログラム、ならびに、販売システム
US20050187898A1 (en) 2004-02-05 2005-08-25 Nec Laboratories America, Inc. Data Lookup architecture
US7751805B2 (en) 2004-02-20 2010-07-06 Google Inc. Mobile image-based information retrieval system
US7451185B2 (en) 2004-02-27 2008-11-11 Fotomedia Technologies, Llc Method and system for providing links to resources related to a specified resource
US20050216464A1 (en) 2004-03-27 2005-09-29 Microsoft Corporation Automated authoring tool and method to facilitate inclusion of maps and other geographical data into travelogues
US20050219929A1 (en) 2004-03-30 2005-10-06 Navas Julio C Method and apparatus achieving memory and transmission overhead reductions in a content routing network
WO2005114476A1 (en) 2004-05-13 2005-12-01 Nevengineering, Inc. Mobile image-based information retrieval system
US20050268212A1 (en) 2004-05-28 2005-12-01 Michael Dagel System, apparatus, and method for desktop-based creation and publication of a periodic community newsletter
US7685112B2 (en) * 2004-06-17 2010-03-23 The Regents Of The University Of California Method and apparatus for retrieving and indexing hidden pages
US8051207B2 (en) * 2004-06-25 2011-11-01 Citrix Systems, Inc. Inferring server state in s stateless communication protocol
US7493335B2 (en) * 2004-07-02 2009-02-17 Graphlogic Inc. Object process graph relational database interface
US20060020582A1 (en) * 2004-07-22 2006-01-26 International Business Machines Corporation Method and system for processing abstract derived entities defined in a data abstraction model
US20060020630A1 (en) * 2004-07-23 2006-01-26 Stager Reed R Facial database methods and systems
US7890871B2 (en) * 2004-08-26 2011-02-15 Redlands Technology, Llc System and method for dynamically generating, maintaining, and growing an online social network
JP2006085379A (ja) 2004-09-15 2006-03-30 Canon Inc 情報処理装置及びその制御方法、プログラム
US8385589B2 (en) 2008-05-15 2013-02-26 Berna Erol Web-based content detection in images, extraction and recognition
US8489583B2 (en) * 2004-10-01 2013-07-16 Ricoh Company, Ltd. Techniques for retrieving documents using an image capture device
US7809763B2 (en) * 2004-10-15 2010-10-05 Oracle International Corporation Method(s) for updating database object metadata
US20060085386A1 (en) * 2004-10-19 2006-04-20 Microsoft Corporation Two pass calculation to optimize formula calculations for a spreadsheet
WO2006043319A1 (ja) 2004-10-20 2006-04-27 Fujitsu Limited 端末及びサーバ
US8320641B2 (en) 2004-10-28 2012-11-27 DigitalOptics Corporation Europe Limited Method and apparatus for red-eye detection using preview or other reference images
US20060149700A1 (en) * 2004-11-11 2006-07-06 Gladish Randolph J System and method for automatic geospatial web network generation via metadata transformation
US7464090B2 (en) 2006-01-27 2008-12-09 Google Inc. Object categorization for information extraction
US20060150119A1 (en) * 2004-12-31 2006-07-06 France Telecom Method for interacting with automated information agents using conversational queries
US9451219B2 (en) 2004-12-31 2016-09-20 Nokia Technologies Oy Provision of target specific information
JP4282612B2 (ja) 2005-01-19 2009-06-24 エルピーダメモリ株式会社 メモリ装置及びそのリフレッシュ方法
US20060173824A1 (en) 2005-02-01 2006-08-03 Metalincs Corporation Electronic communication analysis and visualization
US20070201749A1 (en) 2005-02-07 2007-08-30 Masaki Yamauchi Image Processing Device And Image Processing Method
JP4267584B2 (ja) 2005-02-28 2009-05-27 株式会社東芝 機器制御装置及びその方法
US7917299B2 (en) * 2005-03-03 2011-03-29 Washington University Method and apparatus for performing similarity searching on a data stream with respect to a query string
US7587387B2 (en) 2005-03-31 2009-09-08 Google Inc. User interface for facts query engine with snippets from information sources that include query terms and answer terms
US7765231B2 (en) 2005-04-08 2010-07-27 Rathus Spencer A System and method for accessing electronic data via an image search engine
US7773822B2 (en) * 2005-05-02 2010-08-10 Colormax, Inc. Apparatus and methods for management of electronic images
US7783135B2 (en) * 2005-05-09 2010-08-24 Like.Com System and method for providing objectified image renderings using recognition information from images
US7760917B2 (en) * 2005-05-09 2010-07-20 Like.Com Computer-implemented method for performing similarity searches
US7809722B2 (en) * 2005-05-09 2010-10-05 Like.Com System and method for enabling search and retrieval from image files based on recognized information
US7945099B2 (en) * 2005-05-09 2011-05-17 Like.Com System and method for use of images with recognition analysis
US7519200B2 (en) 2005-05-09 2009-04-14 Like.Com System and method for enabling the use of captured images through recognition
US7809192B2 (en) 2005-05-09 2010-10-05 Like.Com System and method for recognizing objects from images and identifying relevancy amongst images and information
KR100754656B1 (ko) 2005-06-20 2007-09-03 삼성전자주식회사 이미지와 관련한 정보를 사용자에게 제공하는 방법 및시스템과 이를 위한 이동통신단말기
US20080005064A1 (en) * 2005-06-28 2008-01-03 Yahoo! Inc. Apparatus and method for content annotation and conditional annotation retrieval in a search context
US7702681B2 (en) * 2005-06-29 2010-04-20 Microsoft Corporation Query-by-image search and retrieval system
JP2007018166A (ja) 2005-07-06 2007-01-25 Nec Corp 情報検索装置、情報検索システム、情報検索方法及び情報検索プログラム
JP2007018456A (ja) 2005-07-11 2007-01-25 Nikon Corp 情報表示装置及び情報表示方法
US20070022085A1 (en) * 2005-07-22 2007-01-25 Parashuram Kulkarni Techniques for unsupervised web content discovery and automated query generation for crawling the hidden web
US8666928B2 (en) * 2005-08-01 2014-03-04 Evi Technologies Limited Knowledge repository
US7457825B2 (en) * 2005-09-21 2008-11-25 Microsoft Corporation Generating search requests from multimodal queries
US20090060289A1 (en) * 2005-09-28 2009-03-05 Alex Shah Digital Image Search System And Method
US7876978B2 (en) * 2005-10-13 2011-01-25 Penthera Technologies, Inc. Regions of interest in video frames
US20070098303A1 (en) * 2005-10-31 2007-05-03 Eastman Kodak Company Determining a particular person from a collection
US8849821B2 (en) * 2005-11-04 2014-09-30 Nokia Corporation Scalable visual search system simplifying access to network and device functionality
US7826665B2 (en) 2005-12-12 2010-11-02 Xerox Corporation Personal information retrieval using knowledge bases for optical character recognition correction
US7725477B2 (en) * 2005-12-19 2010-05-25 Microsoft Corporation Power filter for online listing service
US7555471B2 (en) 2006-01-27 2009-06-30 Google Inc. Data object visualization
US20070179965A1 (en) 2006-01-27 2007-08-02 Hogue Andrew W Designating data objects for analysis
US8874591B2 (en) 2006-01-31 2014-10-28 Microsoft Corporation Using user feedback to improve search results
US9336333B2 (en) 2006-02-13 2016-05-10 Linkedin Corporation Searching and reference checking within social networks
US7668405B2 (en) * 2006-04-07 2010-02-23 Eastman Kodak Company Forming connections between image collections
US7917514B2 (en) * 2006-06-28 2011-03-29 Microsoft Corporation Visual and multi-dimensional search
US9176984B2 (en) * 2006-07-31 2015-11-03 Ricoh Co., Ltd Mixed media reality retrieval of differentially-weighted links
US20080031506A1 (en) * 2006-08-07 2008-02-07 Anuradha Agatheeswaran Texture analysis for mammography computer aided diagnosis
US7934156B2 (en) * 2006-09-06 2011-04-26 Apple Inc. Deletion gestures on a portable multifunction device
JP2008071311A (ja) 2006-09-15 2008-03-27 Ricoh Co Ltd 画像検索装置、画像検索方法、画像検索プログラム、及び、情報記憶媒体
KR100865973B1 (ko) 2007-02-08 2008-10-30 (주)올라웍스 동영상에서 특정인을 검색하는 방법, 동영상에서 특정인에대한 저작권 보고서를 생성하는 방법 및 장치
US9058370B2 (en) 2007-02-27 2015-06-16 International Business Machines Corporation Method, system and program product for defining imports into and exports out from a database system using spread sheets by use of a control language
US8861898B2 (en) 2007-03-16 2014-10-14 Sony Corporation Content image search
CN104866469B (zh) * 2007-04-11 2018-10-02 谷歌有限责任公司 具有第二语言模式的输入法编辑器
US7917518B2 (en) * 2007-07-20 2011-03-29 Hewlett-Packard Development Company, L.P. Compositional balance and color driven content retrieval
US10069924B2 (en) * 2007-07-25 2018-09-04 Oath Inc. Application programming interfaces for communication systems
JP5207688B2 (ja) 2007-08-30 2013-06-12 キヤノン株式会社 画像処理装置および統合ドキュメント生成方法
US8145660B2 (en) 2007-10-05 2012-03-27 Fujitsu Limited Implementing an expanded search and providing expanded search results
KR101435140B1 (ko) * 2007-10-16 2014-09-02 삼성전자 주식회사 영상 표시 장치 및 방법
US9237213B2 (en) * 2007-11-20 2016-01-12 Yellowpages.Com Llc Methods and apparatuses to initiate telephone connections
US20090144056A1 (en) * 2007-11-29 2009-06-04 Netta Aizenbud-Reshef Method and computer program product for generating recognition error correction information
KR100969298B1 (ko) 2007-12-31 2010-07-09 인하대학교 산학협력단 얼굴인식을 통한 영상에서의 사람 상호관계 추론 방법
US20090237546A1 (en) 2008-03-24 2009-09-24 Sony Ericsson Mobile Communications Ab Mobile Device with Image Recognition Processing Capability
US8190604B2 (en) 2008-04-03 2012-05-29 Microsoft Corporation User intention modeling for interactive image retrieval
US8406531B2 (en) * 2008-05-15 2013-03-26 Yahoo! Inc. Data access based on content of image recorded by a mobile device
US20090299990A1 (en) 2008-05-30 2009-12-03 Vidya Setlur Method, apparatus and computer program product for providing correlations between information from heterogenous sources
JP5109836B2 (ja) * 2008-07-01 2012-12-26 株式会社ニコン 撮像装置
US8520979B2 (en) * 2008-08-19 2013-08-27 Digimarc Corporation Methods and systems for content processing
US8452794B2 (en) * 2009-02-11 2013-05-28 Microsoft Corporation Visual and textual query suggestion
US8670597B2 (en) 2009-08-07 2014-03-11 Google Inc. Facial recognition with social network aiding
US9087059B2 (en) * 2009-08-07 2015-07-21 Google Inc. User interface for presenting search results for multiple regions of a visual query
US9135277B2 (en) 2009-08-07 2015-09-15 Google Inc. Architecture for responding to a visual query
US8370358B2 (en) * 2009-09-18 2013-02-05 Microsoft Corporation Tagging content with metadata pre-filtered by context
US9405772B2 (en) * 2009-12-02 2016-08-02 Google Inc. Actionable search results for street view visual queries
US9183224B2 (en) 2009-12-02 2015-11-10 Google Inc. Identifying matching canonical documents in response to a visual query
US8977639B2 (en) 2009-12-02 2015-03-10 Google Inc. Actionable search results for visual queries
US8811742B2 (en) 2009-12-02 2014-08-19 Google Inc. Identifying matching canonical documents consistent with visual query structural information
US9176986B2 (en) 2009-12-02 2015-11-03 Google Inc. Generating a combination of a visual query and matching canonical document
US8805079B2 (en) * 2009-12-02 2014-08-12 Google Inc. Identifying matching canonical documents in response to a visual query and in accordance with geographic information
US20110128288A1 (en) 2009-12-02 2011-06-02 David Petrou Region of Interest Selector for Visual Queries
US9852156B2 (en) 2009-12-03 2017-12-26 Google Inc. Hybrid use of location sensor data and visual query to return local listings for visual query
US8189964B2 (en) * 2009-12-07 2012-05-29 Google Inc. Matching an approximately located query image against a reference image set
US8489589B2 (en) * 2010-02-05 2013-07-16 Microsoft Corporation Visual search reranking

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080267504A1 (en) * 2007-04-24 2008-10-30 Nokia Corporation Method, device and computer program product for integrating code-based and optical character recognition technologies into a mobile visual search

Also Published As

Publication number Publication date
JP6148367B2 (ja) 2017-06-14
US20190012334A1 (en) 2019-01-10
CA3068761A1 (en) 2011-02-10
JP2013501975A (ja) 2013-01-17
EP2462520B1 (en) 2014-07-02
KR20120058538A (ko) 2012-06-07
JP5933677B2 (ja) 2016-06-15
US20110125735A1 (en) 2011-05-26
AU2013205924A1 (en) 2013-06-06
AU2010279333A1 (en) 2012-03-15
US9135277B2 (en) 2015-09-15
WO2011017557A1 (en) 2011-02-10
BR112012002815B8 (pt) 2020-10-06
KR101725885B1 (ko) 2017-04-11
JP2015064901A (ja) 2015-04-09
AU2010279333B2 (en) 2013-02-21
AU2013205924B2 (en) 2015-12-24
US10534808B2 (en) 2020-01-14
CA3068761C (en) 2022-09-13
BR112012002815B1 (pt) 2020-06-09
EP2462520A1 (en) 2012-06-13
KR20160092045A (ko) 2016-08-03
CA2771094C (en) 2020-03-24
US20140164406A1 (en) 2014-06-12
CN102625937A (zh) 2012-08-01
CA2771094A1 (en) 2011-02-10
JP2016139424A (ja) 2016-08-04
CN102625937B (zh) 2014-02-12

Similar Documents

Publication Publication Date Title
KR101667346B1 (ko) 시각 질의에 응답하기 위한 아키텍처
KR101670956B1 (ko) 시각 질의의 다수 영역들에 대한 검색 결과들을 제시하기 위한 사용자 인터페이스
KR101760855B1 (ko) 소셜 네트워크 지원을 이용한 얼굴 인식
US9087059B2 (en) User interface for presenting search results for multiple regions of a visual query
CA2781845C (en) Actionable search results for visual queries
WO2011068572A1 (en) Region of interest selector for visual queries
AU2016200659B2 (en) Architecture for responding to a visual query

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
A107 Divisional application of patent
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20190927

Year of fee payment: 4