KR102241486B1 - 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법 - Google Patents

이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법 Download PDF

Info

Publication number
KR102241486B1
KR102241486B1 KR1020190017006A KR20190017006A KR102241486B1 KR 102241486 B1 KR102241486 B1 KR 102241486B1 KR 1020190017006 A KR1020190017006 A KR 1020190017006A KR 20190017006 A KR20190017006 A KR 20190017006A KR 102241486 B1 KR102241486 B1 KR 102241486B1
Authority
KR
South Korea
Prior art keywords
image
mosaic
images
pixel
category
Prior art date
Application number
KR1020190017006A
Other languages
English (en)
Other versions
KR20200099271A (ko
Inventor
김현기
이록규
박지혁
송치영
Original Assignee
엔에이치엔 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엔에이치엔 주식회사 filed Critical 엔에이치엔 주식회사
Priority to KR1020190017006A priority Critical patent/KR102241486B1/ko
Priority to US16/792,117 priority patent/US11244424B2/en
Priority to JP2020023806A priority patent/JP6922012B2/ja
Publication of KR20200099271A publication Critical patent/KR20200099271A/ko
Application granted granted Critical
Publication of KR102241486B1 publication Critical patent/KR102241486B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G06T11/60—Editing figures and text; Combining figures or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/55—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/243—Classification techniques relating to the number of classes
    • G06F18/2431—Multiple classes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/30—Scenes; Scene-specific elements in albums, collections or shared content, e.g. social network photos or video
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 모자이크 서비스 제공서버에서 모자이크 이미지를 생성하여 제공하는 방법으로서, 복수의 이미지를 이미지 별로 태그어를 결정하고 상기 태그어에 따라서 분류하는 단계; 상기 복수의 이미지 중 타겟 이미지를 결정하는 단계; 상기 결정된 타겟 이미지를 모자이크화 하기 위한 픽셀 이미지를 상기 태그어를 기초로 선택하는 픽셀 이미지 선택 인터페이스를 제공하는 단계; 및 상기 픽셀 이미지 선택 인터페이스를 통해 선정된 픽셀 이미지를 기초로 상기 타겟 이미지에 대한 모자이크 이미지를 생성하는 단계를 포함한다.

Description

이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법{METHOD THAT PROVIDES AND CREATES MOSAIC IMAGE BASED ON IMAGE TAG-WORD}
본 발명은 이미지의 태그어에 기초한 모자이크 이미지 생성 및 제공방법에 관한 것이다.
보다 상세하게는, 딥러닝 뉴럴 네트워크를 이용하여 이미지의 태그어에 기반한 모자이크 이미지를 생성해 제공하는 방법에 관한 것이다.
포토 모자이크(Photo mosaic)란, 서로 다른 수많은 사진이나 그림을 모아 한 장의 모자이크 형식 이미지를 생성하는 기술이다.
포토 모자이크 생성 알고리즘의 대표적 알고리즘은 로버트 실버스 알고리즘(Robert Silver's Algorithm)으로, 모자이크화 하고자 하는 목표 이미지(즉, 타겟(Target) 이미지)를 일정 수의 블록(단위 셀(Cell))으로 나누고, 소스 이미지(픽셀 이미지)의 블록 또한 일정 수의 블록으로 나누어 목표 이미지의 격자와 소스 이미지의 격자를 각각 같은 서브디비전(subdivision, 3X3)으로 분할하여 각 서브디비전(subdivision) 사이의 RGB 컬러 디스턴스(RGB color distance)를 합한 것이 최소가 되는 타일을 선택하는 방법으로 구성되어 있다.
즉, 목표 이미지에 대하여 포토 모자이크 기술을 적용하면, 포토 모자이크 블록들로 구성된 포토 모자이크 형식의 이미지가 생성된다.
여기서, 포토 모자이크 형식의 이미지는 목표 이미지와 유사하도록 생성되고, 각각의 포토 모자이크 블록은 별도의 소스 이미지들로 구성된다.
그러나, 이러한 포토 모자이크 기술을 이용함에 있어서, 수많은 이미지 중에 포토 모자이크 형식의 이미지를 목표 이미지와 가장 유사하게 구현할 수 있는 소스 이미지들을 사용자가 자의적으로 선별하기에는 어려움이 있다.
또한, 포토 모자이크 형식의 이미지를 생성하기 위해서는 소정의 개수 이상의 수많은 소스 이미지에 대한 사용자의 선택이 필요하고, 상황에 따라 특정 카테고리로 분류된 이미지들만을 선택해야하는 경우가 발생하나, 수많은 이미지들을 사용자의 요구에 따라 편리하게 분류 · 추출 · 조합하여 효과적으로 소스 이미지를 선택할 수 있는 기술이 미흡한 실정이다.
본 발명은, 사용자가 모자이크 이미지의 구성요소로 사용하려는 이미지들을 효과적으로 선택할 수 있도록, 이미지에 태그어 및/또는 카테고리를 매칭하여 사용자가 이미지를 편리하게 분류 · 추출 · 조합하여 모자이크 이미지를 구성할 수 있는 이미지의 태그어에 기반한 모자이크 이미지 생성 및 제공 방법을 목적으로 한다.
또한, 본 발명은, 생성하고자 하는 모자이크 이미지를 구성하기 적합한 이미지를 자동으로 선별하여 제공할 수 있는 이미지의 태그어에 기반한 모자이크 이미지 생성 및 제공 방법을 구현하는데 그 목적이 있다.
다만, 본 발명 및 본 발명의 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.
본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 모자이크 서비스 제공서버에서 모자이크 이미지를 생성하여 제공하는 방법으로서, 복수의 이미지를 이미지 별로 태그어를 결정하고 상기 태그어에 따라서 분류하는 단계; 상기 복수의 이미지 중 타겟 이미지를 결정하는 단계; 상기 결정된 타겟 이미지를 모자이크화 하기 위한 픽셀 이미지를 상기 태그어를 기초로 선택하는 픽셀 이미지 선택 인터페이스를 제공하는 단계; 및 상기 픽셀 이미지 선택 인터페이스를 통해 선정된 픽셀 이미지를 기초로 상기 타겟 이미지에 대한 모자이크 이미지를 생성하는 단계를 포함한다.
이때, 복수의 이미지를 이미지 별로 태그어를 결정하고 상기 태그어에 따라서 분류하는 단계는, 상기 이미지를 딥러닝 뉴럴 네트워크에 입력하여 자동으로 결정된 태그어를 상기 이미지의 태그어로 결정하는 단계를 포함한다.
또한, 상기 결정된 태그어를 적어도 하나 이상 포함하는 카테고리를 생성하고, 상기 태그어를 가지는 복수의 이미지를 상기 카테고리로 분류하는 단계를 더 포함한다.
또한, 상기 복수의 이미지 중 타겟 이미지를 결정하는 단계는, 딥러닝 뉴럴 네트워크를 이용하여 카테고리별 추천 타겟 이미지를 제공하는 단계와, 상기 추천 타겟 이미지에서 상기 타겟 이미지를 선택하는 사용자의 입력을 획득하는 단계를 포함한다.
또한, 상기 딥러닝 뉴럴 네트워크를 이용하여 카테고리별 추천 타겟 이미지를 제공하는 단계는, 각 카테고리 내 이미지들의 대표 팩터 분포 데이터와 각 카테고리 내 각 이미지의 단위 셀들의 대표 팩터 분포 데이터를 비교하여, 상기 각 카테고리 내 이미지들의 대표 팩터 분포 데이터와 각 카테고리 내 각 이미지의 단위 셀들의 대표 팩터 분포 데이터의 매칭률이 소정의 기준 이상을 충족하는 상기 각 카테고리 내 이미지를 검출하여 상기 추천 타겟 이미지로 제공하는 단계를 포함한다.
또한, 상기 픽셀 이미지 선택 인터페이스를 제공하는 단계는, 상기 태그어 또는 카테고리를 선택하여 상기 태그어 또는 상기 카테고리에 속하는 이미지들을 상기 픽셀 이미지로 선정하는 단계를 포함한다.
또한, 상기 픽셀 이미지 선택 인터페이스를 제공하는 단계는, 딥러닝 뉴럴 네트워크를 이용하여 추천 태그어를 제공하는 단계를 더 포함한다.
또한, 상기 모자이크 이미지를 생성하는 단계는, 상기 타겟 이미지를 복수의 단위 셀로 분류하는 단계와, 상기 단위 셀 별로 픽셀 이미지를 매칭하는 단계와, 상기 단위 셀에 매칭된 상기 픽셀 이미지를 삽입하는 단계를 포함한다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 모자이크 서비스 제공서버에서 모자이크 이미지를 생성하여 제공하는 방법으로서, 복수의 이미지를 이미지 별로 태그어를 결정하고 상기 태그어에 따라서 분류하는 단계; 상기 복수의 이미지 중 픽셀 이미지를 결정하는 단계; 상기 결정된 픽셀 이미지를 기반으로 모자이크화 하기 위한 타겟 이미지를 상기 태그어를 기초로 선택하는 타겟 이미지 선택 인터페이스를 제공하는 단계; 및 상기 선정된 픽셀 이미지와 상기 타겟 이미지 선택 인터페이스를 통해 선정된 타겟 이미지를 기반으로 모자이크 이미지를 생성하는 단계를 포함한다.
이때, 상기 결정된 픽셀 이미지를 기반으로 모자이크화 하기 위한 타겟 이미지를 상기 태그어를 기초로 선택하는 타겟 이미지 선택 인터페이스를 제공하는 단계는, 딥러닝 뉴럴 네트워크를 이용하여 상기 선정된 픽셀 이미지 또는 상기 복수의 이미지 중에서 추천 타겟 이미지를 검출하여 제공하는 단계와, 상기 추천 타겟 이미지 또는 상기 복수의 이미지를 기반으로 상기 타겟 이미지를 선택하는 사용자의 입력을 획득하는 단계를 포함한다.
또한, 상기 추천 타겟 이미지를 검출하여 제공하는 단계는, 선정된 픽셀 이미지들의 대표 팩터 분포 데이터와 상기 선정된 픽셀 이미지 각각의 단위 셀들의 대표 팩터 분포 데이터를 비교하여, 상기 선정된 픽셀 이미지들의 대표 팩터 분포 데이터와 상기 선정된 픽셀 이미지 각각의 단위 셀들의 대표 팩터 분포 데이터의 매칭률이 소정의 기준 이상을 충족하는 상기 픽셀 이미지를 검출하여 상기 추천 픽셀 이미지로 제공하는 단계를 포함한다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 복수의 이미지들과 상기 복수의 이미지들을 기초로 모자이크 이미지를 생성하기 위한 프로그램을 저장하는 저장부; 상기 생성된 모자이크 이미지를 출력하는 디스플레이부; 및 상기 저장부의 프로그램을 독출하여 상기 모자이크 이미지를 생성하는 제어부를 포함하고, 상기 제어부는, 상기 복수의 이미지를 이미지 별로 태그어를 결정하고 상기 태그어에 따라서 분류하고, 상기 복수의 이미지 중 타겟 이미지를 결정하며, 상기 결정된 타겟 이미지를 모자이크화 하기 위한 픽셀 이미지를 상기 태그어를 기초로 선택하는 픽셀 이미지 선택 인터페이스를 제공하고, 상기 픽셀 이미지 선택 인터페이스를 통해 선정된 픽셀 이미지를 기초로 상기 타겟 이미지에 대한 모자이크 이미지를 생성하며, 상기 생성된 모자이크 이미지를 상기 디스플레이부가 출력하도록 제어한다.
이때, 상기 제어부는, 상기 결정된 태그어를 적어도 하나 이상 포함하는 카테고리를 생성하고, 상기 태그어를 가지는 복수의 이미지를 상기 카테고리로 분류하도록 제어한다.
또한, 상기 제어부는, 딥러닝 뉴럴 네트워크를 이용하여 카테고리별 추천 타겟 이미지를 제공하고, 상기 추천 타겟 이미지에서 상기 타겟 이미지를 선택하는 사용자의 입력을 획득하여 상기 복수의 이미지에서 타겟 이미지를 결정하도록 제어한다.
또한, 상기 제어부는, 각 카테고리 내 이미지들의 대표 팩터 분포 데이터와 각 카테고리 내 각 이미지의 단위 셀들의 대표 팩터 분포 데이터를 비교하여, 상기 각 카테고리 내 이미지들의 대표 팩터 분포 데이터와 각 카테고리 내 각 이미지의 단위 셀들의 대표 팩터 분포 데이터의 매칭률이 소정의 기준 이상을 충족하는 상기 각 카테고리 내 이미지를 검출하여 상기 추천 타겟 이미지로 제공한다.
또한, 상기 제어부는, 상기 태그어 또는 카테고리를 선택하여 상기 태그어 또는 상기 카테고리에 속하는 이미지들을 상기 픽셀 이미지로 선정하고, 딥러닝 뉴럴 네트워크를 이용하여 추천 태그어를 제공한다.
또한, 상기 제어부는, 상기 타겟 이미지를 복수의 단위 셀로 분류하고, 상기 단위 셀 별로 픽셀 이미지를 매칭하며, 상기 단위 셀에 매칭된 상기 픽셀 이미지를 삽입하여 상기 모자이크 이미지를 생성한다.
본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 이미지에 태그어 및/또는 카테고리를 매칭하고, 이미지에 매칭된 태그어 및/또는 카테고리를 기반으로 사용자가 이미지를 분류 · 추출 · 조합해 모자이크 이미지를 구성할 수 있게 함으로써, 모자이크 이미지를 구성할 픽셀 이미지들을 손쉽게 결정할 수 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 사용자가 선택한 픽셀 이미지들을 기반으로 모자이크 이미지로 생성하기 적합한 타겟 이미지를 자동으로 검출하여 추천함으로써, 선택된 픽셀 이미지들에 기초하여 완성도 높은 모자이크 이미지를 생성할 수 있는 타겟 이미지를 제공할 수 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 사용자가 선택한 타겟 이미지에 기반하여 생성하고자 하는 모자이크 이미지를 구성하기 적합한 픽셀 이미지들을 자동으로 선별하여 제공함으로써, 선택된 타겟 이미지를 완성도 높은 모자이크 이미지로 생성할 수 있는 픽셀 이미지들을 용이하게 제공할 수 있고, 선택된 타겟 이미지와 관련성 있는 픽셀 이미지들을 이용하여 고퀄리티의 모자이크 이미지를 생성할 수 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 딥러닝 뉴럴 네트워크를 이용하여 이미지를 분류 · 추천 · 필터링 · 생성함으로써, 이미지의 태그어를 기반으로 모자이크 이미지를 생성해 제공하는 서비스에 필요한 데이터 처리를 인공지능을 활용하여 빠르고 효율적으로 수행할 수 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 복수의 태그어를 포함할 수 있는 카테고리를 생성하여 이미지를 분류함으로써, 이미지를 보다 체계적으로 관리할 수 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 카테고리별로 모자이크 이미지를 생성하기 적합한 타겟 이미지를 자동으로 검출하여 추천함으로써, 카테고리별로 포함하고 있는 이미지들에 기초하여 완성도 높은 모자이크 이미지를 생성할 수 있는 타겟 이미지를 제공할 수 있다.
다만, 본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 명확하게 이해될 수 있다.
도 1은 본 발명의 실시예에 따른 단말의 내부 블록도이다.
도 2는 본 발명의 실시예에 따른 모자이크 서비스 제공서버의 내부 블록도이다.
도 3은 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법을 설명하기 위한 흐름도이다.
도 4는 본 발명의 실시예에 따른 이미지의 태그어 결정 과정에서 사용자의 피드백을 입력받는 일례를 나타낸다.
도 5는 본 발명의 실시예에 따른 타겟 이미지를 추천하는 방법을 설명하기 위한 도면이다.
도 6은 본 발명의 다른 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법을 설명하기 위한 흐름도이다.
도 7은 본 발명의 다른 실시예에 따른 타겟 이미지를 추천하는 방법을 설명하기 위한 도면이다.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 본 발명의 효과 및 특징, 그리고 그것들을 달성하는 방법은 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있다. 이하의 실시예에서, 제1, 제2 등의 용어는 한정적인 의미가 아니라 하나의 구성 요소를 다른 구성 요소와 구별하는 목적으로 사용되었다. 또한, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 또한, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 또는 구성요소가 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다. 또한, 도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 두께는 설명의 편의를 위해 임의로 나타내었으므로, 본 발명이 반드시 도시된 바에 한정되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예들을 상세히 설명하기로 하며, 도면을 참조하여 설명할 때 동일하거나 대응하는 구성 요소는 동일한 도면부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
- 단말
먼저, 본 발명의 실시예에서 단말(100)은, 모자이크 이미지(Mosaic Image) 생성의 기반이 되는 이미지를 획득해 저장할 수 있고, 획득된 이미지를 외부의 서버(예컨대, 모자이크 서비스 제공서버 및/또는 소셜 네트워크 서비스(SNS) 서버 등)로 송신할 수 있다.
또한, 단말(100)은, 모자이크 서비스 제공서버로부터 상기 이미지를 기반으로 생성된 모자이크 이미지를 수신하여 출력할 수 있다. 다른 실시예에서, 단말(100)은, 직접 데이터 처리를 통해 상기 이미지를 기초로 모자이크 이미지를 생성한 후 생성한 모자이크 이미지를 출력할 수 있다.
더하여, 단말(100)은, 모자이크 이미지를 생성하는 프로세스(Process)에서 사용자가 모자이크 이미지에 사용되길 원하는 이미지를 선택할 수 있는 인터페이스를 제공할 수 있다.
자세히, 단말(100)은, 모자이크 이미지를 생성하기 위한 타겟 이미지(Target Image) 및 픽셀 이미지(Pixel Image) 중 적어도 어느 하나를 선택하는 사용자 입력을 획득할 수 있다.
여기서, 모자이크 이미지란, 타겟 이미지를 기반으로 복수의 픽셀 이미지를 모자이크 방식으로 조합하여 생성한 이미지를 의미한다.
또한, 타겟 이미지란, 복수의 이미지를 조합하여 모자이크 이미지로 표현하려는 이미지 즉, 목표 이미지를 의미한다.
또한, 픽셀 이미지란, 모자이크 이미지의 각 단위 셀에 삽입될 이미지 즉, 소스 이미지를 의미한다.
이때, 단위 셀(Cell)이란, 이미지를 기설정된 단위(예를 들면, 100x100 블록 등)로 나누어 생성된 셀을 의미한다.
한편, 본 발명의 실시예에서 이러한 단말(100)은, 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스를 수행하기 위한 프로그램이 설치된 휴대용 단말인 스마트 폰, 디지털방송용 단말기, 휴대폰, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 태블릿 PC(tablet PC), 웨어러블 디바이스(wearable device) 및 스마트 글라스(smart glass) 등을 포함할 수 있다.
또한, 단말(100)은, 고정형 단말인 데스크 탑 PC, 노트북 컴퓨터(laptop computer), 울트라북(ultrabook)과 같은 퍼스널 컴퓨터 등과 같이 유/무선 통신을 기반으로 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스를 제공하기 위한 프로그램이 설치된 장치를 더 포함할 수 있다.
이하, 실시예에서 단말(100)은, 휴대형 단말로 한정하여 설명하기로 한다.
도 1은 본 발명의 실시예에 따른 단말(100)의 내부 블록도이다.
도 1를 참조하면, 단말(100)은, 통신부(110), 카메라(120), 입력부(130), 디스플레이부(140), 터치스크린(135: touch screen), 저장부(150) 및 제어부(160)를 포함할 수 있다.
먼저, 통신부(110)는, 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스를 제공하기 위한 각종 데이터 및/또는 정보 등을 송수신할 수 있다.
실시예에서, 통신부(110)는, 타유저의 단말(100) 및/또는 모자이크 서비스 제공서버와 통신하여 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스와 관련된 데이터를 송수신할 수 있다.
또한, 통신부(110)는, 획득된 이미지를 외부 프린터로 전송하여 오프라인 출력물로 프린팅하도록 보조할 수 있다.
이러한 통신부(110)는, 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)에 따라 구축된 이동 통신망 상에서 기지국, 외부의 단말(100), 임의의 서버 중 적어도 하나와 무선 신호를 송수신할 수 있다.
다음으로, 카메라(120)는, 사용자의 입력에 따라 촬영을 수행하여 이미지를 획득할 수 있고, 이미지를 획득한 단말(100)은, 획득된 이미지를 디스플레이부(140)를 통해 출력할 수 있으며, 저장부(150)에 기록할 수 있다.
또한, 카메라(120)는, 단말(100)의 전면 또는/및 후면에 배치되어 배치된 방향측을 촬영하여 영상을 획득할 수 있으며, 단말(100)의 외부에 배치되어 외부 시점에서 진료 과정을 촬영할 수도 있다.
단말(100)의 외부에 카메라(120)가 배치된 경우, 카메라(120)는, 통신부(110)를 통해 제어부(160)로 촬영한 이미지를 송신할 수 있다.
그리고 이러한 카메라(120)는, 이미지 센서와 영상 처리 모듈을 포함할 수 있다.
자세히, 카메라(120)는, 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상(즉, 이미지) 또는 동영상을 처리할 수 있다.
또한, 카메라(120)는, 영상 처리 모듈을 이용하여 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공해 필요한 정보를 추출하고, 추출된 정보를 제어부(160)에 전달할 수도 있다.
다음으로, 입력부(130)는, 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스와 관련된 사용자의 입력을 감지할 수 있다.
실시예로, 입력부(130)는, 타겟 이미지를 선택하는 인터페이스를 통한 사용자의 입력 및/또는 픽셀 이미지를 선택하는 인터페이스를 통한 사용자의 입력 등을 감지할 수 있다.
다음으로, 디스플레이부(140)는, 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스와 관련된 다양한 정보를 그래픽 이미지를 출력할 수 있다.
이러한 디스플레이부(140)는, 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
또한, 상기 입력부(130) 및 상기 디스플레이부(140)가 결합되어 터치스크린(135)으로 구현될 수 있다.
다음으로, 저장부(150)는, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스를 제공하는 각종 응용 프로그램, 데이터 및 명령어 중 어느 하나 이상을 저장할 수 있다.
이러한 저장부(150)는, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기일 수 있고, 인터넷(internet)상에서 상기 저장부(150)의 저장 기능을 수행하는 웹 스토리지(web storage)일 수도 있다.
마지막으로, 제어부(160)는, 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스를 제공하기 위하여 전술한 각 구성요소의 전반적인 동작을 컨트롤할 수 있다.
이러한 제어부(160)는, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세스(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
다만, 도 1에 도시된 구성요소들은 단말(100)을 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 단말(100)은 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다.
- 모자이크 서비스 제공서버
한편, 본 발명의 실시예에서 모자이크 서비스 제공서버(200)는, 단말(100) 및/또는 외부 서버(예컨대, 소셜 네트워크 서비스(SNS) 서버 등)로부터 이미지를 수신할 수 있고, 수신된 이미지에 기초하여 모자이크 이미지를 생성할 수 있다.
이하, 실시예에서는 모자이크 서비스 제공서버(200)가 이미지를 기초로 모자이크 이미지를 생성하는 것으로 설명하나, 실시예에 따라서 단말(100)에서 직접 모자이크 이미지를 생성하는 데이터 처리가 수행될 수도 있다.
자세히, 모자이크 서비스 제공서버(200)는, 수신된 이미지를 기반으로 딥러닝(Deep Learning)을 수행하여 모자이크 이미지를 생성할 수 있다.
또한, 모자이크 서비스 제공서버(200)는, 생성된 모자이크 이미지를 단말(100)로 송신하여 사용자에게 제공할 수 있다.
도 2는 본 발명의 실시예에 따른 모자이크 서비스 제공서버(200)의 내부 블록도이다.
좀 더 자세히, 도 2를 참조하면, 본 발명의 실시예에서 모자이크 서비스 제공서버(200)는, 이미지 분류부(210), 타겟 이미지 추천부(220), 픽셀 이미지 필터링부(230) 및 모자이크 이미지 생성부(240)를 포함할 수 있다.
먼저, 이미지 분류부(210)는, 딥러닝 뉴럴 네트워크를 통하여 단말(100) 및/또는 외부 서버로부터 획득된 이미지에 대한 태그어를 결정할 수 있고, 결정된 태그어에 기반하여 이미지를 분류할 수 있다.
또한, 이미지 분류부(210)는, 복수의 태그어를 포함하는 카테고리를 생성하여, 태그어를 가지는 이미지들을 해당 카테고리로 분류하여 관리할 수 있다.
다음으로, 타겟 이미지 추천부(220)는, 상황에 따라 적절한 타겟 이미지를 검출하여 제공할 수 있다.
실시예에서, 타겟 이미지 추천부(220)는, 카테고리별 추천 타겟 이미지를 검출하여 제공할 수도 있고, 선정된 픽셀 이미지에 적합한 타겟 이미지를 선별하여 제공할 수도 있다.
다음으로, 픽셀 이미지 필터링부(230)는, 태그어, 카테고리 및/또는 딥러닝 뉴럴 네트워크를 이용하여 사용자의 이미지로부터 모자이크 이미지를 생성하기 위해 사용할 픽셀 이미지를 필터링하여 제공할 수 있다.
이때, 사용자의 이미지란, 단말(100) 및/또는 외부 서버로부터 사용자 입력에 의해 획득된 이미지로서, 예를 들면, 사용자의 단말(100) 내 이미지, 클라우드 서버로부터 획득된 이미지 및 소셜 네트워크 서비스(SNS) 서버로부터 획득된 이미지 중 적어도 어느 하나 이상일 수 있다.
실시예에서, 픽셀 이미지 필터링부(230)는, 선정된 타겟 이미지의 모자이크화에 적합한 태그어 및/또는 카테고리에 포함된 이미지를 필터링하여 제공할 수도 있고, 사용자가 이미지 검색 인터페이스를 통해 입력한 태그어 및/또는 카테고리에 포함된 이미지를 필터링하여 제공할 수도 있다.
마지막으로, 모자이크 이미지 생성부(240)는, 타겟 이미지와 픽셀 이미지를 기반으로 모자이크 이미지를 생성할 수 있다.
한편, 모자이크 서비스 제공서버(200)의 각 구성 유닛(즉, 이미지 분류부(210), 타겟 이미지 추천부(220), 픽셀 이미지 필터링부(230) 및/또는 모자이크 이미지 생성부(240))은, 실시예에 따라서 모자이크 서비스 제공서버(200)에 직접 설치되거나, 모자이크 서비스 제공서버(200)와는 별도의 장치인 외부의 서버에 설치될 수 있다.
즉, 이미지 분류부(210), 타겟 이미지 추천부(220), 픽셀 이미지 필터링부(230) 및/또는 모자이크 이미지 생성부(240)는 각각 별도의 서버일 수 있다.
이때, 모자이크 서비스 제공서버(200)의 각 구성 유닛은, 데이터 송수신부, 데이터 처리부 및 데이터베이스를 포함할 수 있다.
여기서, 데이터 송수신부는, 단말(100) 및/또는 외부 서버와 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스를 제공하기 위한 각종 데이터를 네트워크를 통해 주고받을 수 있다.
또한, 데이터 처리부는, 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스를 제공하기 위한 일련의 데이터 처리를 수행할 수 있다.
이때, 실시예에서 데이터 처리부는, 이미지 딥러닝 뉴럴 네트워크(Image Deep Running Neural Network)와 연동하여 수신된 이미지에 기반한 딥러닝을 수행할 수 있다.
여기서, 실시예에 따라 이미지 딥러닝 뉴럴 네트워크는, 모자이크 서비스 제공서버(200) 및/또는 각 구성 유닛에 직접 설치되거나, 모자이크 서비스 제공서버(200) 및/또는 각 구성 유닛과는 별개의 장치로서 이미지를 수신하여 딥러닝을 수행할 수 있다.
이하 본 발명의 실시예에서는, 이미지 딥러닝 뉴럴 네트워크가 각 구성 유닛에 직접 설치되어 딥러닝을 수행하는 실시예를 기준으로 설명한다.
자세히, 데이터 처리부는, 딥러닝 뉴럴 네트워크 구동 프로그램을 데이터베이스로부터 독출할 수 있고, 독출된 구동 프로그램에 구축된 딥러닝 뉴럴 네트워크 시스템에 따라 딥러닝을 수행할 수 있다. 이러한 데이터 처리부는, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세스(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
한편, 데이터베이스는, 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 서비스와 관련된 각종 데이터를 저장할 수 있다.
실시예로, 데이터베이스는, 딥러닝 뉴럴 네트워크 구동 프로그램을 저장할 수 있고, 데이터 처리부의 요청에 의하여 제공할 수 있다.
이러한 데이터베이스는, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기일 수 있고, 인터넷(internet)상에서 상기 데이터베이스의 저장 기능을 수행하는 웹 스토리지(web storage)일 수도 있다.
- 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 방법
이하, 첨부된 도면을 참조하여 이미지의 태그어에 기반하여 모자이크 이미지를 생성하는 방법에 대해 상세히 설명하고자 한다.
도 3은 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법을 설명하기 위한 흐름도이다.
도 3을 참조하면, 실시예에 따른 모자이크 서비스 제공서버(200: 이하, 모자이크 서버)는, 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하기 위하여, 타겟 이미지를 먼저 선정하고, 이후 선정된 타겟 이미지의 모자이크화에 이용할 픽셀 이미지들을 선정하여 모자이크 이미지를 생성할 수 있다.
자세히, 모자이크 서버(200)는, 먼저 사용자의 이미지에 대하여 태그어를 결정하고 분류할 수 있다. (S101)
여기서, 사용자의 이미지는, 단말(100) 및/또는 외부 서버로부터 사용자 입력에 의해 획득된 이미지로서, 예를 들면, 사용자의 단말(100) 내 이미지, 클라우드 서버로부터 획득된 이미지 및 소셜 네트워크 서비스(SNS) 서버로부터 획득된 이미지 중 적어도 어느 하나 이상일 수 있다.
또한, 본 발명의 실시예에서 태그어란, 이미지에 태깅(Tagging)된 해당 이미지를 분류하기 위한 대표 단어를 의미한다. 예를 들어, '산(山)' 오브젝트를 포함하는 이미지는, '산' 영역으로 분류될 수 있고, '산' 태그어가 매칭될 수 있다.
이러한 태그어는, 사용자가 이미지를 검색할 시 이용할 수 있으며, 사용자가 태그어를 통해 이미지를 검색한 경우, 해당 태그어가 태깅된 모든 이미지를 군집화하여 볼 수 있는 해시태그(Hashtag) 기능을 제공할 수 있다.
다시 돌아와서, 자세히 모자이크 서버(200)는, 이미지 분류부(210)를 통한 딥러닝을 기반으로 사용자의 이미지 각각에 매칭하는 태그어를 결정할 수 있으며, 결정된 태그어에 기반하여 이미지를 분류할 수 있다.
이와 같이, 모자이크 서버(200)는, 딥러닝을 이용하여 이미지에 태그어를 매칭함으로써, 별도의 수작업 없이 많은 이미지들의 태그어를 결정하고 태그어에 따라 이미지들을 분류할 수 있다.
또한, 모자이크 서버(200)는, 이미지의 태그어를 결정하는 과정에서 사용자의 피드백을 받을 수 있다.
자세히, 도 4를 참조하면, 모자이크 서버(200)는, 단말(100)과 연동하여 딥러닝을 통해 결정된 이미지의 태그어를 해당 이미지와 함께 사용자에게 제공할 수 있다.
그리고 모자이크 서버(200)는, 이미지와 해당 이미지에 대하여 결정된 태그어가 올바르게 매칭되었는지를 나타내는 태그어 일치 여부를 사용자 입력을 통하여 획득할 수 있다.
이때, 모자이크 서버(200)는, 이미지와 태그어가 일치한 경우, 해당 태그어를 이미지의 태그어로 최종 결정할 수 있고, 이미지와 태그어가 일치하지 않은 경우, 해당 정보를 딥러닝 뉴럴 네트워크에 반영하고, 이후 딥러닝을 재수행하여 이미지의 태그어를 재결정할 수 있다.
또한, 모자이크 서버(200)는, 단말(100)과 연동하여 이미지에 매칭될 태그어를 사용자로부터 입력받아 추가 태그어로 생성할 수도 있다.
이와 같이, 모자이크 서버(200)는, 이미지의 태그어를 결정할 시에 사용자의 피드백을 수용함으로써, 인공지능적 판단뿐만 아니라 사용자의 인지적 판단까지 고려하여 이미지의 태그어를 결정할 수 있다.
다음으로, 이미지의 태그어를 결정하여 분류한 모자이크 서버(200)는, 결정된 태그어에 기초하여 카테고리별로 이미지를 분류할 수 있다. (S103)
자세히, 모자이크 서버(200)는, 이미지 분류부(210)를 통하여 복수의 태그어를 포함하는 카테고리를 생성할 수 있고, 해당 카테고리에 포함된 태그어를 가지는 이미지들을 해당 카테고리로 분류하여 관리할 수 있다.
자세히, 이미지 분류부(210)는, 동일한 개념의 태그어들을 포함하는 상위 개념을 카테고리로 설정하고, 태그어들과 태그어들에 매칭된 이미지들을 설정된 카테고리로 분류할 수 있다.
예를 들어, 모자이크 서버(200)는, '강', '산' 및/또는 '바다' 등의 태그어와 매칭된 이미지들을 풍경 카테고리 및/또는 여행 카테고리 등으로 분류할 수 있다. 다른 예시로, 모자이크 서버(200)는, '강아지' 및/또는 '고양이' 등의 태그어와 매칭된 이미지들을 반려동물 카테고리 등으로 분류할 수 있다.
이와 같이, 모자이크 서버(200)는, 복수의 태그어를 포함할 수 있는 카테고리를 생성하여 이미지를 분류함으로써, 이미지를 보다 체계적으로 관리할 수 있고, 사용자의 이미지 검색/선택 과정에 활용할 수 있다.
다음으로, 이미지를 분류한 모자이크 서버(200)는, 타겟 이미지를 결정할 수 있다. (S105)
여기서, 타겟 이미지는, 복수의 이미지를 조합하여 모자이크 이미지로 표현하려는 이미지 즉, 목표 이미지를 의미한다.
이때, 타겟 이미지는, 사용자의 이미지가 될 수도 있고, 모자이크 서버(200)에서 제공하는 이미지(예컨대, 명화 이미지 등)가 될 수도 있다.
자세히, 모자이크 서버(200)는, 타겟 이미지를 선정하기 위하여 단말(100)과 연동해 타겟 이미지를 선택하는 사용자의 입력을 수신할 수 있다.
그리고 모자이크 서버(200)는, 수신된 사용자의 입력을 기반으로 모자이크 이미지로 표현할 타겟 이미지를 선정할 수 있다.
다른 실시예에서, 모자이크 서버(200)는, 타겟 이미지 추천부(220)가 카테고리별로 모자이크 이미지로 생성하기 적합한 이미지를 추천한 후, 추천된 이미지를 자동으로 또는 사용자의 선택에 따라 타겟 이미지로 결정할 수 있다.
즉, 타겟 이미지 추천부(220)는, 카테고리 내 이미지들로 모자이크 이미지를 생성하려할 때, 가장 적합한 적어도 하나 이상의 이미지를 검출하고, 검출된 이미지를 사용자에게 추천하거나 타겟 이미지로 결정할 수 있다.
자세히 도 5를 참조하면, 모자이크 서버(200)는, 먼저 제 1 카테고리 내 각 이미지의 대표 팩터(Factor)를 결정할 수 있다.
여기서, 이미지의 팩터란 색감 및/또는 질감을 나타내는 요인이다. 예를 들어, 팩터는, 이미지를 이루는 픽셀의 색감을 나타내는 R, G, B 값일 수 있다.
그리고 이미지의 대표 팩터는, 상기 픽셀들로 이루어진 전체 이미지가 나타내는 색감 또는/및 질감 요인을 포함할 수 있다. 예를 들어, 대표 팩터는, 픽셀들의 색감 또는/및 질감의 평균값일 수 있다.
모자이크 서버(200)는, 딥러닝 뉴럴 네트워크를 통해 제 1 카테고리 내 각 이미지 별로색감 및/또는 질감 요인을 산출하여 제 1 카테고리 내 각 이미지의 대표 팩터를 결정할 수 있다.
계속해서, 제 1 카테고리 내 각 이미지의 대표 팩터를 결정한 모자이크 서버(200)는, 제 1 카테고리 내 이미지들의 대표 팩터 분포 데이터를 생성할 수 있다.
여기서, 대표 팩터 분포 데이터란, 복수의 이미지들의 대표 팩터들이 어떠한 분포를 가지는지 나타내는 데이터를 의미한다.
예를 들어, 대표 팩터 분포 데이터는, 복수의 대표 팩터의 분포 형태를 히스토그램 형식으로 표시한 그래프 데이터일 수 있다.
이후, 제 1 카테고리 내 이미지들의 대표 팩터 분포 데이터를 생성한 모자이크 서버(200)는, 제 1 카테고리 내 각 이미지를 단위 셀로 분할할 수 있다.
즉, 모자이크 서버(200)는, 제 1 카테고리 내 각 이미지를 기설정된 단위(예를 들면, 100x100 블록 등)로 분할하여 단위 셀의 집합으로 구성할 수 있다.
그리고 나서, 모자이크 서버(200)는, 딥러닝 뉴럴 네트워크를 통하여 제 1 카테고리 내 각 이미지의 각 단위 셀의 대표 팩터를 결정할 수 있다.
그리고 모자이크 서버(200)는, 제 1 카테고리 내 각 이미지별로 획득되는 단위 셀들의 대표 팩터 분포 데이터를 생성할 수 있다.
계속해서, 모자이크 서버(200)는, 생성된 제 1 카테고리의 대표 팩터 분포 데이터와 단일 이미지의 단위 셀들의 대표 팩터 분포 데이터를 비교하여, 매칭률을 산출할 수 있다.
즉, 모자이크 서버(200)는, 제 1 카테고리의 대표 팩터 분포 데이터와 매칭률이 높은 대표 팩터 분포 데이터를 가지는 이미지들을 선별하여, 제 1 카테고리 내 이미지들로 생성하기 적합한 제 1 카테고리 내 이미지를 검출할 수 있다.
이후, 모자이크 서버(200)는, 상기 비교의 결과로 제 1 카테고리 내 이미지들의 대표 팩터 분포 데이터와 제 1 카테고리 내 각 이미지별로 획득된 단위 셀들의 대표 팩터 분포 데이터의 매칭률이 기설정된 기준(예컨대, 소정의 백분율 등) 이상으로 높은 제 1 카테고리 내 이미지를 검출할 수 있다.
그리고, 모자이크 서버(200)는, 검출된 적어도 하나 이상의 제 1 카테고리 내 이미지를 제 1 카테고리의 추천 타겟 이미지로 결정할 수 있다.
또한, 모자이크 서버(200)는, 상기 기술과 동일한 방식으로 복수의 카테고리에 대하여 추천 타겟 이미지를 결정할 수 있다. 즉, 모자이크 서버(200)는, 카테고리별 추천 타겟 이미지를 결정할 수 있다.
카테고별 추천 타겟 이미지를 결정한 모자이크 서버(200)는, 결정된 카테고리별 추천 타겟 이미지를 단말(100)을 통해 사용자에게 제공할 수 있다.
또한, 모자이크 서버(200)는, 카테고리별 추천 타겟 이미지를 사용자에게 제공한 이후, 단말(100)을 통해 획득되는 사용자의 타겟 이미지 선택 입력에 따라 타겟 이미지를 선정할 수 있다.
이와 같이, 모자이크 서버(200)는, 카테고리별로 모자이크 이미지를 생성하기 적합한 타겟 이미지를 자동으로 검출하여 추천함으로써, 카테고리별로 포함하고 있는 이미지들에 기초하여 완성도 높은 모자이크 이미지를 생성할 수 있는 타겟 이미지를 제공할 수 있고, 사용자가 선택하도록 유도할 수 있는 효과가 있다. 다음으로, 타겟 이미지를 선정한 모자이크 서버(200)는, 결정된 타겟 이미지를 모자이크화 하기 위한 픽셀 이미지를 선정할 수 있다. (S107)
자세히, 모자이크 서버(200)는, 먼저 픽셀 이미지 필터링부(230)를 통하여 이미지에 매칭된 태그어 및/또는 카테고리에 기반한 픽셀 이미지 선택기능을 사용자에게 제공할 수 있다.
즉, 모자이크 서버(200)는, 태그어 또는/및 카테고리를 선택하여 해당 태그어 또는/및 카테고리에 속하는 이미지들을 픽셀 이미지로 선택하는 인터페이스를 제공할 수 있다. 따라서, 사용자는, 모자이크 이미지를 생성하는데 사용할 픽셀 이미지를 일일이 선택하지 않아도 된다. 또한, 사용자는, 타겟 이미지와 관련성이 높은 픽셀 이미지들을 태그어나 카테고리 선택을 통해 손쉽게 결정할 수 있다.
보다 상세히, 모자이크 서버(200)는, 단말(100)과 연동하여 모자이크 이미지를 생성하는데 이용할 픽셀 이미지를 태그어 및/또는 카테고리를 통해 검색할 수 있고, 검색을 통해 출력된 상기 태그어 및/또는 카테고리에 매칭된 이미지들 중에 픽셀 이미지로 사용할 소정의 개수 이상의 이미지를 선택할 수 있는 픽셀 이미지 선택 인터페이스를 사용자에게 제공할 수 있다.
그리고 모자이크 서버(200)는, 픽셀 이미지 선택 인터페이스를 통해 획득된 사용자 입력을 기반으로, 선정된 타겟 이미지를 모자이크화 하기 위한 픽셀 이미지들을 선정할 수 있다.
이와 같이, 모자이크 서버(200)는, 이미지에 태그어 및/또는 카테고리를 매칭하고, 이미지에 매칭된 태그어 및/또는 카테고리를 기반으로 사용자가 이미지를 분류 · 추출 · 조합해 모자이크 이미지를 구성할 수 있게 함으로써, 사용자가 모자이크 이미지를 구성할 픽셀 이미지들을 사용자의 요구에 따라 편리하게 선택하게 할 수 있다.
다른 실시예에서, 모자이크 서버(200)는, 선정된 타겟 이미지의 모자이크화에 적합한 태그어 및/또는 카테고리에 포함된 이미지를 자동으로 필터링하여 제공할 수 있다.
자세히, 모자이크 서버(200)는, 타겟 이미지가 속하는 카테고리에 포함되는 픽셀 이미지들을 추출할 수 있고, 추출된 이미지를 단말(100)을 통해 사용자에게 추천할 수 있다.
또한, 모자이크 서버(200)는, 타겟 이미지의 태그어와 동일한 태그어에 속하는 픽셀 이미지들을 추출하여 단말(100)을 통해 사용자에게 추천할 수도 있다.
즉, 모자이크 서버(200)는, 타겟 이미지의 태그어 및/또는 카테고리에 포함된 이미지를 추천 픽셀 이미지로 제공함으로써, 사용자가 선택한 타겟 이미지와 관련성 있는 이미지들로 모자이크 이미지를 생성하게 할 수 있다.
더하여, 모자이크 서버(200)는, 픽셀 이미지 필터링부(230)를 통한 딥러닝을 이용하여, 타겟 이미지 단위 셀들의 대표 팩터 분포 데이터를 획득할 수 있고, 획득된 타겟 이미지 단위 셀들의 대표 팩터 분포 데이터와 매칭률이 높은 카테고리 대표 팩터 분포 데이터 및/또는 태그어 대표 팩터 분포 데이터를 검출할 수 있다.
자세히, 모자이크 서버(200)는, 딥러닝 뉴럴 네트워크를 통하여 타겟 이미지 단위 셀들의 대표 팩터 분포 데이터, 카테고리별 대표 팩터 분포 데이터 및 태그어별 대표 팩터 분포 데이터 중 적어도 어느 둘 이상의 대표 팩터 분포 데이터를 생성할 수 있다.
이때, 카테고리별 대표 팩터 분포 데이터는, 각 카테고리에 속하는 복수의 이미지를 기반으로 딥러닝을 수행하여 각 카테고리의 대표 팩터를 결정하고, 결정된 각 카테고리의 대표 팩터를 종합하는 딥러닝을 수행해 획득될 수 있다.
또한, 태그어별 대표 팩터 분포 데이터는, 각 태그어에 속하는 복수의 이미지를 기반으로 딥러닝을 수행하여 각 태그어의 대표 팩터를 결정하고, 결정된 각 태그어의 대표 팩터를 종합하여 딥러닝을 수행해 획득될 수 있다.
그리고 모자이크 서버(200)는, 생성된 타겟 이미지 단위 셀들의 대표 팩터 분포 데이터와 카테고리별 및/또는 태그어별 대표 팩터 분포 데이터를 비교하여 기설정된 기준(예컨대, 소정의 백분율 등) 이상의 매칭률을 나타내는 카테고리 및/또는 태그어 대표 팩터 분포 데이터를 획득할 수 있다.
이후, 모자이크 서버(200)는, 검출된 카테고리 및/또는 태그어 대표 팩터 분포 데이터의 해당 카테고리 및/또는 태그어에 포함되는 픽셀 이미지들을 추출하여 단말(100)을 통해 사용자에게 제공할 수 있다.
이와 같이, 모자이크 서버(200)는, 사용자가 선택한 타겟 이미지에 기반하여 생성하고자 하는 모자이크 이미지를 구성하기 적합한 픽셀 이미지들을 자동으로 선별하여 제공함으로써, 선택된 타겟 이미지를 완성도 높은 모자이크 이미지로 생성할 수 있는 픽셀 이미지들을 용이하게 제공할 수 있다.
다음으로, 타겟 이미지와 픽셀 이미지를 선정한 모자이크 서버(200)는, 선정된 픽셀 이미지들을 이용해 선정된 타겟 이미지를 모자이크화 하여 모자이크 이미지를 생성할 수 있다. (S109)
자세히, 모자이크 이미지 생성부(240)는, 타겟 이미지의 단위 셀들을 복수의 픽셀 이미지로 대체하여, 모자이크 이미지를 생성할 수 있다.
실시예로, 모자이크 서버(200)는, 타겟 이미지의 각 단위 셀의 대표 팩터와 가장 매칭도(즉, 일치율)가 높은 픽셀 이미지의 대표 팩터를 가지는 픽셀 이미지를 해당 단위 셀에 매칭하여 삽입할 수 있다. 즉, 타겟 이미지의 각 단위 셀과 픽셀 이미지 사이의 전반적인 색감 및/또는 질감 유사성을 최대화하는 매칭 처리를 수행할 수 있다.
또한, 모자이크 이미지 생성부(240)는, 어스 무버스 디스턴스(EMD, earth mover's distance)를 기초로한 오토 포토 모자이크 알고리즘을 활용하여, 타겟 이미지와 복수의 픽셀 이미지에 기반한 모자이크 이미지를 생성할 수 있다.
이와 같이, 모자이크 서버(200)는, 딥러닝 뉴럴 네트워크 및/또는 어스 무버스 디스턴스(EMD, Earth Mover's Distance)를 활용하여 타겟 이미지의 각 단위 셀에 적합한 픽셀 이미지를 매칭해 모자이크 이미지를 생성함으로써, 픽셀 이미지들을 이용하여 타겟 이미지를 높은 유사도로 표현하는 고품질의 모자이크 이미지를 생성할 수 있다.
다음으로, 모자이크 이미지를 생성한 모자이크 서버(200)는, 생성된 모자이크 이미지를 단말(100)로 송신하여 출력할 수 있다. (S111)
자세히, 모자이크 서버(200)는, 생성된 모자이크 이미지를 단말(100)로 송신할 수 있고, 모자이크 서버(200)로부터 모자이크 이미지를 수신한 단말(100)은, 수신된 모자이크 이미지를 디스플레이부를 통해 그래픽 이미지로 출력하여 사용자에게 제공할 수 있다. 다른 실시예에서, 단말(100)의 제어부(160)가 모자이크 서버(200)에서 수행되는 데이터 처리의 적어도 일부를 수행하여 모자이크 이미지를 생성할 수 있다. 자세히, 단말(100)의 제어부(160)는, 1) 저장부(150)에 저장된 사용자의 이미지들에 대해 태그어를 결정하고 분류하고, 2) 결정된 태그어에 기초하여 카테고리별로 이미지를 분류한 후, 3) 타겟 이미지를 결정하고, 4) 결정된 타겟 이미지를 모자이크화 하기 위한 픽셀 이미지를 선정한 후, 5) 선정된 픽셀 이미지들을 이용해 선정된 타겟 이미지를 모자이크화 하여 모자이크 이미지를 생성하고, 6) 생성된 모자이크 이미지를 디스플레이부(140)를 제어하여 출력할 수 있다.
이러한 제어부(160)가 모자이크 이미지를 생성하고 출력하는 일련의 과정은, 저장부(160)에 저장된 모자이크 생성하는 서비스를 제공하기 위한 프로그램을 독출하여 수행될 수 있을 것이다.
또 다른 실시예에서는, 단말(100)의 제어부(160)가 1~6 단계 중 적어도 일부를 수행하고, 모자이크 서버(200)가 나머지 단계를 수행하는 실시예도 가능할 것이다.
한편, 도 6은 본 발명의 다른 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법을 설명하기 위한 흐름도이다.
도 6을 참조하면, 다른 실시예에서 모자이크 서버(200)는, 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하기 위하여, 픽셀 이미지들을 먼저 선정하고, 이후 선정된 픽셀 이미지들을 이용하여 모자이크화 하기 위한 타겟 이미지를 선정해 모자이크 이미지를 생성할 수 있다.
이하, 효과적인 설명을 위하여 상기 기술한 내용과 중복되는 기재는 생략될 수 있다.
먼저, 모자이크 서버(200)는, 사용자의 이미지에 대하여 태그어를 결정하고 분류할 수 있다. (S201)
자세히 모자이크 서버(200)는, 이미지 분류부(210)를 통한 딥러닝을 기반으로 사용자의 이미지 각각에 매칭하는 태그어를 결정할 수 있으며, 결정된 태그어에 기반하여 이미지를 분류할 수 있다.
이때, 모자이크 서버(200)는, 이미지의 태그어를 결정하는 과정에서 사용자의 피드백을 수용할 수도 있다.
자세히, 모자이크 서버(200)는, 태그어 일치 여부 및/또는 추가 태그어에 대한 사용자의 입력을 기반으로 사용자 피드백을 수용할 수 있고, 이를 통해 인공지능적 판단뿐만 아니라 사용자의 인지적 판단까지 고려하여 이미지의 태그어를 결정할 수 있다.
다음으로, 이미지의 태그어를 결정하여 분류한 모자이크 서버(200)는, 결정된 태그어에 기초하여 카테고리별로 이미지를 분류할 수 있다. (S203)
자세히, 모자이크 서버(200)는, 이미지 분류부(210)를 통하여 복수의 태그어를 포함하는 카테고리를 생성할 수 있고, 해당 카테고리에 포함된 태그어를 가지는 이미지들을 해당 카테고리로 분류하여 관리할 수 있다.
다음으로, 이미지를 분류한 모자이크 서버(200)는, 픽셀 이미지를 선정할 수 있다. (S205)
자세히, 모자이크 서버(200)는, 먼저 픽셀 이미지 필터링부(230)를 통하여 이미지에 매칭된 태그어 및/또는 카테고리에 기반한 픽셀 이미지 선택기능을 사용자에게 제공할 수 있다.
보다 상세히, 모자이크 서버(200)는, 단말(100)과 연동하여 모자이크 이미지를 생성하는데 이용할 이미지를 태그어 및/또는 카테고리를 통해 검색할 수 있고, 검색을 통해 출력된 상기 태그어 및/또는 카테고리에 매칭된 이미지들 중에 픽셀 이미지로 사용할 소정의 개수 이상의 이미지를 선택할 수 있는 픽셀 이미지 선택 인터페이스를 사용자에게 제공할 수 있다.
그리고 모자이크 서버(200)는, 픽셀 이미지 선택 인터페이스를 통해 획득된 사용자 입력을 기반으로, 모자이크 이미지에 사용하기 위한 픽셀 이미지들을 선정할 수 있다.
이와 같이, 모자이크 서버(200)는, 이미지의 태그어 및/또는 카테고리를 기반으로 사용자가 이미지를 분류 · 추출 · 조합해 모자이크 이미지를 구성할 수 있게 함으로써, 사용자가 모자이크 이미지를 구성할 픽셀 이미지들을 사용자의 요구에 따라 편리하게 선택하게 할 수 있다.
다음으로, 픽셀 이미지를 선정한 모자이크 서버(200)는, 타겟 이미지를 선정할 수 있다. (S207)
자세히, 모자이크 서버(200)는, 타겟 이미지를 선정하기 위하여 단말(100)과 연동해 타겟 이미지를 선택하는 사용자의 입력을 수신할 수 있다.
그리고 모자이크 서버(200)는, 수신된 사용자의 입력을 기반으로 모자이크 이미지로 표현할 타겟 이미지를 선정할 수 있다.
다른 실시예에서, 모자이크 서버(200)는, 타겟 이미지 추천부(220)를 통한 딥러닝을 기반으로 선정된 픽셀 이미지들을 이용하여 모자이크화 하기 적합한 타겟 이미지를 검출하여 제공할 수 있다.
자세히, 모자이크 서버(200)는, 딥러닝 뉴럴 네트워크를 이용하여, 선정된 픽셀 이미지들에 기반해 모자이크 이미지로 생성하기 적합한 이미지를 검출할 수 있고, 검출된 이미지를 추천 타겟 이미지로 사용자 단말(100)을 통해 제공할 수 있다.
이때, 모자이크 서버(200)는, 추천 타겟 이미지를 1) 선정된 픽셀 이미지들 및/또는 2) 모자이크 서버(200)에 저장된 이미지(이하, 서버 이미지)들에 기반하여 검출할 수 있다.
이하의 설명에서는, 모자이크 서버(200)가 추천 타겟 이미지를 선정된 픽셀 이미지들에 기반하여 검출하는 실시예를 기준으로 설명하기로 한다.
보다 상세히, 도 7을 참조하면, 모자이크 서버(200)는, 먼저 픽셀 이미지별 대표 팩터를 결정할 수 있다.
즉, 모자이크 서버(200)는, 딥러닝 뉴럴 네트워크를 통하여, 선정된 각 픽셀 이미지에 대한 복수의 색감 및/또는 질감 요인을 대표하는 대표 팩터를 결정해 픽셀 이미지별 대표 팩터를 결정할 수 있다.
계속해서, 선정된 픽셀 이미지별 대표 팩터를 결정한 모자이크 서버(200)는, 선정된 픽셀 이미지들의 대표 팩터 분포 데이터를 생성할 수 있다.
여기서, 대표 팩터 분포 데이터란, 복수의 대표 팩터가 색감 및/또는 질감 요인에 기준하여 어떠한 분포 형태를 나타내는지를 제공하는 데이터일 수 있다.
예를 들어, 대표 팩터 분포 데이터는, 복수의 대표 팩터의 분포 형태를 히스토그램 형식으로 표시한 그래프 데이터일 수 있다.
이후, 픽셀 이미지들의 대표 팩터 분포 데이터를 생성한 모자이크 서버(200)는, 각 픽셀 이미지를 단위 셀로 분할할 수 있다.
즉, 모자이크 서버(200)는, 각 픽셀 이미지를 기설정된 단위(예를 들면, 100x100 블록 등)로 분할하여 단위 셀의 집합으로 구성할 수 있다.
그리고 나서, 모자이크 서버(200)는, 딥러닝 뉴럴 네트워크를 통하여 각 픽셀 이미지의 각 단위 셀의 대표 팩터를 결정할 수 있다.
그리고 모자이크 서버(200)는, 각 픽셀 이미지별로 획득되는 단위 셀들의 대표 팩터 분포 데이터를 생성할 수 있다.
계속해서, 모자이크 서버(200)는, 생성된 픽셀 이미지들의 대표 팩터 분포 데이터와 각 픽셀 이미지별로 획득된 단위 셀들의 대표 팩터 분포 데이터를 비교할 수 있다.
이후, 모자이크 서버(200)는, 상기 비교의 결과로 픽셀 이미지들의 대표 팩터 분포 데이터와 각 픽셀 이미지별로 획득된 단위 셀들의 대표 팩터 분포 데이터의 매칭률이 기설정된 기준(예컨대, 소정의 백분율 등) 이상으로 높은 픽셀 이미지를 검출할 수 있다.
그리고, 모자이크 서버(200)는, 검출된 적어도 하나 이상의 픽셀 이미지를 추천 타겟 이미지로 결정할 수 있다.
또한, 추천 타겟 이미지를 결정한 모자이크 서버(200)는, 결정된 추천 타겟 이미지를 단말(100)을 통해 사용자에게 제공할 수 있다.
그리고 모자이크 서버(200)는, 추천 타겟 이미지를 사용자에게 제공한 이후, 단말(100)을 통해 획득되는 사용자의 타겟 이미지 선택 입력에 따라 타겟 이미지를 선정할 수 있다.
또한, 모자이크 서버(200)는, 상기 기술과 동일한 방식으로 서버 이미지에 기반한 추천 타겟 이미지를 결정할 수 있고, 결정된 서버 이미지에 기반한 추천 타겟 이미지를 단말(100)을 통해 사용자에게 제공할 수 있으며, 이후 단말(100)을 통해 획득되는 사용자의 타겟 이미지 선택 입력에 따라 타겟 이미지를 선정할 수도 있다.
이와 같이, 모자이크 서버(200)는, 사용자가 선택한 픽셀 이미지들을 기반으로 모자이크 이미지로 생성하기 적합한 타겟 이미지를 자동으로 검출하여 추천함으로써, 선택된 픽셀 이미지들에 기초하여 완성도 높은 모자이크 이미지를 생성할 수 있는 타겟 이미지를 제공할 수 있고, 사용자가 선택하도록 유도할 수 있다.
다음으로, 픽셀 이미지와 타겟 이미지를 선정한 모자이크 서버(200)는, 선정된 픽셀 이미지들을 이용해 선정된 타겟 이미지를 모자이크화 하여 모자이크 이미지를 생성할 수 있다. (S209)
자세히, 모자이크 서버(200)는, 모자이크 이미지 생성부(240)를 통해 딥러닝 뉴럴 네트워크 및/또는 어스 무버스 디스턴스(EMD, earth mover's distance)를 활용하여, 타겟 이미지와 복수의 픽셀 이미지에 기반한 모자이크 이미지를 생성할 수 있다.
실시예로, 모자이크 서버(200)는, 타겟 이미지의 각 단위 셀의 대표 팩터와 가장 매칭도(즉, 일치율)가 높은 픽셀 이미지의 대표 팩터를 가지는 해당 픽셀 이미지를 해당 단위 셀에 매칭하여 삽입할 수 있다. 즉, 타겟 이미지의 각 단위 셀과 픽셀 이미지 사이의 전반적인 색감 및/또는 질감 유사성을 최대화하는 매칭 처리를 수행할 수 있다.
이와 같이, 모자이크 서버(200)는, 타겟 이미지의 각 단위 셀에 적합한 픽셀 이미지를 매칭해 모자이크 이미지를 생성함으로써, 픽셀 이미지들을 이용하여 타겟 이미지를 높은 유사도로 표현하는 고품질의 모자이크 이미지를 생성할 수 있다.
다음으로, 모자이크 이미지를 생성한 모자이크 서버(200)는, 생성된 모자이크 이미지를 단말(100)로 송신하여 출력할 수 있다. (S211)
자세히, 모자이크 서버(200)는, 생성된 모자이크 이미지를 단말(100)로 송신할 수 있고, 모자이크 서버(200)로부터 모자이크 이미지를 수신한 단말(100)은, 수신된 모자이크 이미지를 디스플레이부를 통해 그래픽 이미지로 출력하여 사용자에게 제공할 수 있다.
다른 실시예에서, 단말(100)의 제어부(160)가 모자이크 서버(200)에서 수행되는 데이터 처리의 적어도 일부를 수행하여 모자이크 이미지를 생성할 수 있다. 자세히, 단말(100)의 제어부(160)는, 1) 저장부(150)에 저장된 사용자의 이미지들에 대해 태그어를 결정하고 분류하고, 2) 결정된 태그어에 기초하여 카테고리별로 이미지를 분류한 후, 3) 픽셀 이미지를 선정하고, 4) 선정된 픽셀 이미지를 기초로 생성할 타겟 이미지를 결정한 후, 5) 선정된 픽셀 이미지들을 이용해 선정된 타겟 이미지를 모자이크화 하여 모자이크 이미지를 생성하고, 6) 생성된 모자이크 이미지를 디스플레이부(140)를 제어하여 출력할 수 있다.
이러한 제어부(160)가 모자이크 이미지를 생성하고 출력하는 일련의 과정은, 저장부(160)에 저장된 모자이크 생성하는 서비스를 제공하기 위한 프로그램을 독출하여 수행될 수 있을 것이다.
또 다른 실시예에서는, 단말(100)의 제어부(160)가 1~6 단계 중 적어도 일부를 수행하고, 모자이크 서버(200)가 나머지 단계를 수행하는 실시예도 가능할 것이다.
이상, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 이미지에 태그어 및/또는 카테고리를 매칭하고, 이미지에 매칭된 태그어 및/또는 카테고리를 기반으로 사용자가 이미지를 분류 · 추출 · 조합해 모자이크 이미지를 구성할 수 있게 함으로써, 모자이크 이미지를 구성할 픽셀 이미지들을 사용자의 요구에 따라 편리하게 선택할 수 있는 효과가 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 사용자가 선택한 픽셀 이미지들을 기반으로 모자이크 이미지로 생성하기 적합한 타겟 이미지를 자동으로 검출하여 추천함으로써, 선택된 픽셀 이미지들에 기초하여 완성도 높은 모자이크 이미지를 생성할 수 있는 타겟 이미지를 제공할 수 있고, 사용자가 선택하도록 유도할 수 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 사용자가 선택한 타겟 이미지에 기반하여 생성하고자 하는 모자이크 이미지를 구성하기 적합한 픽셀 이미지들을 자동으로 선별하여 제공함으로써, 선택된 타겟 이미지를 완성도 높은 모자이크 이미지로 생성할 수 있는 픽셀 이미지들을 용이하게 제공할 수 있고, 선택된 타겟 이미지와 관련성 있는 픽셀 이미지들을 이용한 모자이크 이미지의 생성을 보조할 수 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 딥러닝 뉴럴 네트워크를 이용하여 이미지를 분류 · 추천 · 필터링 · 생성함으로써, 이미지의 태그어를 기반으로 모자이크 이미지를 생성해 제공하는 서비스에 필요한 데이터 처리를 인공지능을 활용하여 빠르고 효율적으로 수행할 수 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 이미지의 태그어를 결정할 시에 사용자의 피드백을 수용함으로써, 인공지능적 판단뿐만 아니라 사용자의 인지적 판단까지 고려하여 이미지의 태그어를 결정할 수 있는 효과가 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 복수의 태그어를 포함할 수 있는 카테고리를 생성하여 이미지를 분류함으로써, 이미지를 보다 체계적으로 관리할 수 있고, 사용자의 이미지 검색/선택 과정이 더욱 효율적으로 동작되게 할 수 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 카테고리별로 모자이크 이미지를 생성하기 적합한 타겟 이미지를 자동으로 검출하여 추천함으로써, 카테고리별로 포함하고 있는 이미지들에 기초하여 완성도 높은 모자이크 이미지를 생성할 수 있는 타겟 이미지를 제공할 수 있고, 사용자가 선택하도록 유도할 수 있는 효과가 있다.
또한, 본 발명의 실시예에 따른 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법은, 딥러닝 뉴럴 네트워크 및/또는 어스 무버스 디스턴스(EMD, Earth Mover's Distance)를 활용하여 모자이크 이미지를 생성함으로써, 픽셀 이미지들을 이용하여 타겟 이미지를 높은 유사도로 표현하는 고품질의 모자이크 이미지를 생성할 수 있다.
또한, 이상 설명된 본 발명에 따른 실시예는 다양한 컴퓨터 구성요소를 통하여 실행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 실행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위하여 하나 이상의 소프트웨어 모듈로 변경될 수 있으며, 그 역도 마찬가지이다.
본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, “필수적인”, “중요하게” 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.
또한 설명한 본 발명의 상세한 설명에서는 본 발명의 바람직한 실시 예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자 또는 해당 기술분야에 통상의 지식을 갖는 자라면 후술할 특허청구범위에 기재된 본 발명의 사상 및 기술 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다. 따라서, 본 발명의 기술적 범위는 명세서의 상세한 설명에 기재된 내용으로 한정되는 것이 아니라 특허청구범위에 의해 정하여져야만 할 것이다.

Claims (17)

  1. 모자이크 서비스 제공서버에서 모자이크 이미지를 생성하여 제공하는 방법으로서,
    복수의 이미지를 이미지 별로 태그어를 결정하고 상기 태그어에 따라서 분류하는 단계;
    상기 복수의 이미지 중 타겟 이미지를 결정하는 단계;
    상기 결정된 타겟 이미지를 모자이크화 하기 위한 픽셀 이미지를 상기 태그어를 기초로 선택하는 픽셀 이미지 선택 인터페이스를 제공하는 단계; 및
    상기 픽셀 이미지 선택 인터페이스를 통해 선정된 픽셀 이미지를 기초로 상기 타겟 이미지에 대한 모자이크 이미지를 생성하는 단계를 포함하고,
    상기 결정된 태그어를 적어도 하나 이상 포함하는 카테고리를 생성하여 상기 태그어를 가지는 복수의 이미지를 상기 카테고리로 분류하는 단계와,
    상기 카테고리 내 이미지들의 대표 팩터 분포 데이터와 각 카테고리 내 각 이미지의 단위 셀들의 대표 팩터 분포 데이터를 비교하여, 상기 각 카테고리 내 이미지들의 대표 팩터 분포 데이터와 각 카테고리 내 각 이미지의 단위 셀들의 대표 팩터 분포 데이터의 매칭률이 소정의 기준 이상을 충족하는 상기 각 카테고리 내 이미지를 검출하여 추천 타겟 이미지로 제공하는 단계를 더 포함하고,
    상기 대표 팩터는,
    상기 이미지를 구성하는 각 픽셀의 색감 및 질감 중 적어도 하나를 나타내는 팩터들을 기반으로, 상기 이미지 전체에 대한 색감 및 질감을 나타내는 인자인
    이미지의 태그어에 기반하여 모자이크 이미지를 제공하는 방법.
  2. 제 1 항에 있어서,
    복수의 이미지를 이미지 별로 태그어를 결정하고 상기 태그어에 따라서 분류하는 단계는,
    상기 이미지를 딥러닝 뉴럴 네트워크에 입력하여 자동으로 결정된 태그어를 상기 이미지의 태그어로 결정하는 단계를 포함하는
    이미지의 태그어에 기반하여 모자이크 이미지를 제공하는 방법.
  3. 삭제
  4. 제 1 항에 있어서,
    상기 복수의 이미지 중 타겟 이미지를 결정하는 단계는,
    상기 추천 타겟 이미지에서 상기 타겟 이미지를 선택하는 사용자의 입력을 획득하는 단계를 포함하는
    이미지의 태그어에 기반하여 모자이크 이미지를 제공하는 방법.
  5. 삭제
  6. 제 4 항에 있어서,
    상기 픽셀 이미지 선택 인터페이스를 제공하는 단계는,
    상기 태그어 또는 카테고리를 선택하여 상기 태그어 또는 상기 카테고리에 속하는 이미지들을 상기 픽셀 이미지로 선정하는 단계를 포함하는
    이미지의 태그어에 기반하여 모자이크 이미지를 제공하는 방법.
  7. 제 6 항에 있어서,
    상기 픽셀 이미지 선택 인터페이스를 제공하는 단계는,
    딥러닝 뉴럴 네트워크를 이용하여 상기 타겟 이미지의 태그어에 매칭되는 태그어를 가지는 상기 카테고리에 속하는 상기 픽셀 이미지를 추천하는 추천 태그어를 제공하는 단계를 더 포함하는
    이미지의 태그어에 기반하여 모자이크 이미지를 제공하는 방법.
  8. 제 1 항에 있어서,
    상기 모자이크 이미지를 생성하는 단계는,
    상기 타겟 이미지를 복수의 단위 셀로 분류하는 단계와, 상기 단위 셀 별로 픽셀 이미지를 매칭하는 단계와, 상기 단위 셀에 매칭된 상기 픽셀 이미지를 삽입하는 단계를 포함하는
    이미지의 태그어에 기반하여 모자이크 이미지를 제공하는 방법.
  9. 모자이크 서비스 제공서버에서 모자이크 이미지를 생성하여 제공하는 방법으로서,
    복수의 이미지를 이미지 별로 태그어를 결정하고 상기 태그어에 따라서 분류하는 단계;
    상기 복수의 이미지 중 픽셀 이미지를 결정하는 단계;
    상기 결정된 픽셀 이미지를 기반으로 모자이크화 하기 위한 타겟 이미지를 상기 태그어를 기초로 선택하는 타겟 이미지 선택 인터페이스를 제공하는 단계; 및
    상기 선정된 픽셀 이미지와 상기 타겟 이미지 선택 인터페이스를 통해 결정된 픽셀 이미지를 기반으로 모자이크 이미지를 생성하는 단계를 포함하고,
    상기 타겟 이미지 선택 인터페이스를 제공하는 단계는,
    딥러닝 뉴럴 네트워크를 이용하여 상기 선정된 픽셀 이미지 또는 상기 복수의 이미지 중에서 추천 타겟 이미지를 검출하여 제공하는 단계와, 상기 선정된 픽셀 이미지들의 대표 팩터 분포 데이터와 상기 선정된 픽셀 이미지 각각의 단위 셀들의 대표 팩터 분포 데이터를 비교하여, 상기 선정된 픽셀 이미지들의 대표 팩터 분포 데이터와 상기 선정된 픽셀 이미지 각각의 단위 셀들의 대표 팩터 분포 데이터의 매칭률이 소정의 기준 이상을 충족하는 상기 픽셀 이미지를 검출하여 상기 추천 타겟 이미지로 제공하는 단계를 포함하는
    이미지의 태그어에 기반하여 모자이크 이미지를 제공하는 방법.
  10. 제 9 항에 있어서,
    상기 타겟 이미지 선택 인터페이스를 제공하는 단계는,
    상기 추천 타겟 이미지 또는 상기 복수의 이미지를 기반으로 상기 타겟 이미지를 선택하는 사용자의 입력을 획득하는 단계를 포함하는
    이미지의 태그어에 기반하여 모자이크 이미지를 제공하는 방법.
  11. 삭제
  12. 복수의 이미지들과 상기 복수의 이미지들을 기초로 모자이크 이미지를 생성하기 위한 프로그램을 저장하는 저장부;
    상기 생성된 모자이크 이미지를 출력하는 디스플레이부; 및
    상기 저장부의 프로그램을 독출하여 상기 모자이크 이미지를 생성하는 제어부를 포함하고,
    상기 제어부는,
    상기 복수의 이미지를 이미지 별로 태그어를 결정하고 상기 태그어에 따라서 분류하고,
    상기 복수의 이미지 중 타겟 이미지를 결정하며,
    상기 결정된 타겟 이미지를 모자이크화 하기 위한 픽셀 이미지를 상기 태그어를 기초로 선택하는 픽셀 이미지 선택 인터페이스를 제공하고,
    상기 픽셀 이미지 선택 인터페이스를 통해 선정된 픽셀 이미지를 기초로 상기 타겟 이미지에 대한 모자이크 이미지를 생성하며,
    상기 생성된 모자이크 이미지를 상기 디스플레이부가 출력하도록 제어하고,
    상기 제어부는,
    딥러닝 뉴럴 네트워크를 이용하여 카테고리 별 추천 타겟 이미지를 제공하며, 상기 카테고리 내 이미지들의 대표 팩터 분포 데이터와 각 카테고리 내 각 이미지의 단위 셀들의 대표 팩터 분포 데이터를 비교하여, 상기 각 카테고리 내 이미지들의 대표 팩터 분포 데이터와 각 카테고리 내 각 이미지의 단위 셀들의 대표 팩터 분포 데이터의 매칭률이 소정의 기준 이상을 충족하는 상기 각 카테고리 내 이미지를 검출하여 상기 추천 타겟 이미지로 제공하는
    모자이크 이미지 제공장치.
  13. 제 12 항에 있어서,
    상기 제어부는,
    상기 결정된 태그어를 적어도 하나 이상 포함하는 카테고리를 생성하고, 상기 태그어를 가지는 복수의 이미지를 상기 카테고리로 분류하도록 제어하는
    모자이크 이미지 제공장치.
  14. 제 13 항에 있어서,
    상기 제어부는,
    상기 추천 타겟 이미지에서 상기 타겟 이미지를 선택하는 사용자의 입력을 획득하여 상기 복수의 이미지에서 타겟 이미지를 결정하도록 제어하는
    모자이크 이미지 제공장치.
  15. 삭제
  16. 제 14 항에 있어서,
    상기 제어부는,
    상기 태그어 또는 카테고리를 선택하여 상기 태그어 또는 상기 카테고리에 속하는 이미지들을 상기 픽셀 이미지로 선정하고,
    딥러닝 뉴럴 네트워크를 이용하여 추천 태그어를 제공하는
    모자이크 이미지 제공장치.
  17. 제 12 항에 있어서,
    상기 제어부는,
    상기 타겟 이미지를 복수의 단위 셀로 분류하고, 상기 단위 셀 별로 픽셀 이미지를 매칭하며, 상기 단위 셀에 매칭된 상기 픽셀 이미지를 삽입하여 상기 모자이크 이미지를 생성하는
    모자이크 이미지 제공장치.
KR1020190017006A 2019-02-14 2019-02-14 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법 KR102241486B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020190017006A KR102241486B1 (ko) 2019-02-14 2019-02-14 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법
US16/792,117 US11244424B2 (en) 2019-02-14 2020-02-14 Apparatus and method for creating and providing mosaic image based on image tag-word
JP2020023806A JP6922012B2 (ja) 2019-02-14 2020-02-14 イメージのタグに基づいてモザイクイメージを提供する方法、モザイクイメージ提供装置、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190017006A KR102241486B1 (ko) 2019-02-14 2019-02-14 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법

Publications (2)

Publication Number Publication Date
KR20200099271A KR20200099271A (ko) 2020-08-24
KR102241486B1 true KR102241486B1 (ko) 2021-05-17

Family

ID=72042231

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190017006A KR102241486B1 (ko) 2019-02-14 2019-02-14 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법

Country Status (3)

Country Link
US (1) US11244424B2 (ko)
JP (1) JP6922012B2 (ko)
KR (1) KR102241486B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102449823B1 (ko) * 2021-11-11 2022-09-30 위즈코어 주식회사 건설 현장의 이미지 태깅 방법 및 이를 수행하는 서버 및 시스템

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11272097B2 (en) * 2020-07-30 2022-03-08 Steven Brian Demers Aesthetic learning methods and apparatus for automating image capture device controls
CN112148773B (zh) * 2020-09-24 2021-08-13 上海松鼠课堂人工智能科技有限公司 基于大数据的游戏化学习方法
CN115858840B (zh) * 2023-02-28 2023-05-05 北京数慧时空信息技术有限公司 基于场景的遥感影像镶嵌方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006313497A (ja) * 2005-05-09 2006-11-16 Matsushita Electric Ind Co Ltd 画像検索装置及び画像検索方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5156342B2 (ja) * 2007-11-09 2013-03-06 株式会社ニコンシステム 画像分析装置、及び、この画像分析装置を有する情報交換システム。
JP2011078076A (ja) * 2009-09-03 2011-04-14 Sony Corp 画像処理装置および方法、並びにプログラム
JP2011054081A (ja) * 2009-09-04 2011-03-17 Sony Corp 画像処理装置および方法、並びにプログラム
US9390472B2 (en) * 2014-03-07 2016-07-12 Fractograf, LLC Systems and methods for generating an interactive mosaic comprising user visual content data on a portable terminal and an image sharing platform
KR20160096460A (ko) * 2015-02-05 2016-08-16 삼성전자주식회사 복수의 분류기를 포함하는 딥 러닝 기반 인식 시스템 및 그 제어 방법
CN104715449A (zh) * 2015-03-31 2015-06-17 百度在线网络技术（北京）有限公司 生成马赛克图像的方法和装置
KR101778679B1 (ko) * 2015-10-02 2017-09-14 네이버 주식회사 딥러닝을 이용하여 텍스트 단어 및 기호 시퀀스를 값으로 하는 복수 개의 인자들로 표현된 데이터를 자동으로 분류하는 방법 및 시스템
KR20170131924A (ko) * 2016-05-23 2017-12-01 네이버 주식회사 이미지 검색 방법, 장치 및 컴퓨터 프로그램
JP7053422B2 (ja) * 2018-09-19 2022-04-12 富士フイルム株式会社 画像処理装置，画像処理方法および画像処理プログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006313497A (ja) * 2005-05-09 2006-11-16 Matsushita Electric Ind Co Ltd 画像検索装置及び画像検索方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102449823B1 (ko) * 2021-11-11 2022-09-30 위즈코어 주식회사 건설 현장의 이미지 태깅 방법 및 이를 수행하는 서버 및 시스템

Also Published As

Publication number Publication date
JP6922012B2 (ja) 2021-08-18
KR20200099271A (ko) 2020-08-24
JP2020135889A (ja) 2020-08-31
US11244424B2 (en) 2022-02-08
US20200265553A1 (en) 2020-08-20

Similar Documents

Publication Publication Date Title
KR102241486B1 (ko) 이미지의 태그어에 기반하여 모자이크 이미지를 생성해 제공하는 방법
US10147216B1 (en) Intelligent camera
EP2851811B1 (en) Method and device for achieving augmented reality application
EP2680222A1 (en) Method, apparatus and computer program product for processing media content
US20110098029A1 (en) Sensor-based mobile search, related methods and systems
CN102016882A (zh) 利用脸部签名来标识和共享数字图像的方法、系统和计算机程序
WO2014132250A1 (en) Generating user insights from images and other data
KR101782590B1 (ko) 이미지 분석기반의 관계형 태그생성 및 추천 방법
Zhu et al. A multilayer backpropagation saliency detection algorithm based on depth mining
CN111667001B (zh) 目标重识别方法、装置、计算机设备和存储介质
CN107886512A (zh) 一种确定训练样本的方法
US10810466B2 (en) Method for location inference from map images
US20200265238A1 (en) Methods and Systems for Identification and Augmentation of Video Content
Rawat et al. Context-aware photography learning for smart mobile devices
EP3989158A1 (en) Method, apparatus and device for video similarity detection
US20130343618A1 (en) Searching for Events by Attendants
US11341744B2 (en) Computerized system and method for in-video modification
US11468571B2 (en) Apparatus and method for generating image
CN109963072B (zh) 对焦方法、装置、存储介质及电子设备
CN115761529A (zh) 图像处理方法和电子设备
EP2991036B1 (en) Method, apparatus and computer program product for disparity estimation of foreground objects in images
WO2021185184A1 (zh) 内容推荐方法、装置、电子设备和存储介质
CN114255360A (zh) 图像聚类方法、装置及计算机存储介质
US10929723B2 (en) Information presenting apparatus, information presenting method and program
Osuna-Coutiño et al. Structure extraction in urbanized aerial images from a single view using a CNN-based approach

Legal Events

Date Code Title Description
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right