KR102054300B1 - Photo­book production apparatus for recommending user customized photo­book services and the method thereof - Google Patents

Photo­book production apparatus for recommending user customized photo­book services and the method thereof Download PDF

Info

Publication number
KR102054300B1
KR102054300B1 KR1020170156172A KR20170156172A KR102054300B1 KR 102054300 B1 KR102054300 B1 KR 102054300B1 KR 1020170156172 A KR1020170156172 A KR 1020170156172A KR 20170156172 A KR20170156172 A KR 20170156172A KR 102054300 B1 KR102054300 B1 KR 102054300B1
Authority
KR
South Korea
Prior art keywords
photobook
image information
mobile device
user
clustered
Prior art date
Application number
KR1020170156172A
Other languages
Korean (ko)
Other versions
KR20190058847A (en
Inventor
이원주
Original Assignee
(주)스냅스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)스냅스 filed Critical (주)스냅스
Priority to KR1020170156172A priority Critical patent/KR102054300B1/en
Priority to CN201810427729.5A priority patent/CN109815972A/en
Publication of KR20190058847A publication Critical patent/KR20190058847A/en
Application granted granted Critical
Publication of KR102054300B1 publication Critical patent/KR102054300B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Abstract

본 발명은 모바일 디바이스에 포함된 복수의 이미지 정보를 이용하여 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천하는 맞춤형 포토북 서비스를 추천하는 포토북 제작 장치 및 그 방법에 관한 것으로, 딥러닝(Deep Learning) 기법을 통해 모바일 디바이스에 포함된 복수의 이미지 중 포토북 제작에 적합한 셀렉 이미지 정보를 분류하여 클러스터링하고, 클러스터링된 셀렉 이미지 정보에 따른 맞춤형 포토북 서비스를 추천할 수 있다.The present invention relates to a photobook production apparatus and method for recommending a photobook service for recommending a photobook service according to user pattern information and user preferences using a plurality of image information included in a mobile device, and deep learning. A deep learning technique may classify and cluster select image information suitable for photobook production among a plurality of images included in a mobile device, and recommend a customized photobook service according to the clustered select image information.

Description

맞춤형 포토북 서비스를 추천하는 포토북 제작 장치 및 그 방법{PHOTO­BOOK PRODUCTION APPARATUS FOR RECOMMENDING USER CUSTOMIZED PHOTO­BOOK SERVICES AND THE METHOD THEREOF}Photobook production device recommending customized photobook service and its method {PHOTO­BOOK PRODUCTION APPARATUS FOR RECOMMENDING USER CUSTOMIZED PHOTO­BOOK SERVICES AND THE METHOD THEREOF}

본 발명은 맞춤형 포토북 서비스를 추천하는 포토북 제작 장치 및 그 방법에 관한 것으로, 보다 상세하게는 모바일 디바이스에 포함된 복수의 이미지 정보를 이용하여 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천하는 포토북 제작 장치에 관한 것이다. The present invention relates to a photobook production apparatus and method for recommending a customized photobook service, and more particularly, to a customized photobook service based on user pattern information and user preferences using a plurality of image information included in a mobile device. It is related with the recommended photobook production apparatus.

최근에는 디지털 카메라 또는 휴대폰 카메라로 촬영한 사진들을 인화하여 포토북, 액자, 카드 또는 기프트(gift) 상품 등으로 제작하는 이들이 늘고 있다. 그 중에서 포토북 제작은 예를 들면, 사용자가 소지하는 PC(personal computer), 노트북 컴퓨터(laptop computer), 스마트폰(smart phone), 태블릿(tablet), 웨어러블 컴퓨터(wearable computer) 등의 모바일 디바이스를 이용하여 포토북을 제작하기 위한 테마 및 스타일과 템플릿, 리소스 등을 선택하고, 선택에 따라 상기 모바일 디바이스에 포함된 복수의 이미지 중 임의의 이미지를 선택하여 배치함으로써 수행된다.Recently, more and more people print photos taken with a digital camera or a mobile phone camera to produce photo books, frames, cards, or gift items. Among them, the photobook production includes mobile devices such as a personal computer, a laptop computer, a smart phone, a tablet, a wearable computer, etc. possessed by a user. It is performed by selecting a theme, a style, a template, a resource, etc. for producing a photobook, and selecting and arranging an arbitrary image among a plurality of images included in the mobile device according to the selection.

즉, 기존의 사용자는 포토북 제작을 위해, 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 등의 포토북 정보를 선택하고, 각 포토북 정보에 따른 템플릿 및 리소스를 선택하며, 레이아웃에 적합하도록 복수의 이미지를 편집 및 배치하여 포토북을 제작하였다. That is, an existing user selects photobook information such as photobook size, number of photobook pages, photobook style, and photobook theme for photobook production, and selects templates and resources according to each photobook information. Photobooks were created by editing and arranging a plurality of images to suit the layout.

이에, 본 명세서에서는 모바일 디바이스에 포함된 복수의 이미지 정보에 적합한 맞춤형 포토북 서비스를 추천하는 기술을 제안한다. Accordingly, the present specification proposes a technique for recommending a customized photobook service suitable for a plurality of image information included in a mobile device.

미국공개특허 US2017/0132510(2017.05.11 공개), "IDENTIFYING CONTENT ITEMS USING A DEEP­LEARNING MODEL"United States Patent Application Publication No. 2017/0132510 published on May 11, 2017 "IDENTIFYING CONTENT ITEMS USING A DEEP® LEARNING MODEL"

본 발명의 목적은 딥러닝(Deep Learning) 기법에 기반하여 모바일 디바이스에 포함된 복수의 이미지 중 포토북 제작에 적합한 셀렉 이미지 정보를 분류하여 클러스터링하고, 클러스터링된 셀렉 이미지 정보에 따른 맞춤형 포토북 서비스를 추천할 수 있는 기술을 제공하고자 한다.Disclosure of Invention An object of the present invention is to classify and cluster select image information suitable for photobook production among a plurality of images included in a mobile device based on a deep learning technique, and to provide a customized photobook service according to the clustered select image information. We want to provide a recommendation.

또한, 본 발명의 목적은 클러스터링 결과에 따라 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보를 추출하고, 셀렉 이미지 정보를 포토북 정보에 맞춤형으로 편집 및 배치하여 포토북 서비스를 추천할 수 있는 기술을 제공하고자 한다. In addition, an object of the present invention is to extract at least one or more photobook information of the customized photobook size, photobook page number, photobook style and photobook theme according to the clustering result, and to tailor the select image information to the photobook information It is intended to provide a technology that can recommend a photobook service by editing and arrangement.

또한, 본 발명의 목적은 셀렉 이미지 정보에 대한 안면 인식 결과에 따라, 셀렉 이미지를 편집하여 위치 및 배치시킬 수 있는 기술을 제공하고자 한다. Another object of the present invention is to provide a technique for editing, positioning, and placing a select image according to a face recognition result of the select image information.

본 발명의 실시예에 따른 모바일 디바이스의 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치에 있어서, 상기 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링하는 이미지 셀렉부 및 상기 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천하는 포토북 추천부를 포함한다.A custom photobook production apparatus installed with photobook editing software of a mobile device according to an embodiment of the present invention and providing a photobook service, comprising: a photobook based on a machine learning algorithm among a plurality of image information received from the mobile device; And an image selector for classifying and classifying select image information suitable for production, and a clustered selector image information, and a photobook recommender for recommending a customized photobook service according to user pattern information and user preferences.

또한, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 포토북 제작에 대한 상기 사용자 패턴 정보를 학습하는 패턴 학습부 및 상기 모바일 디바이스에 생성되는 상기 복수의 이미지 정보에 기초하여 상기 포토북 서비스의 권장을 푸시하는 제어부를 더 포함할 수 있다.In addition, the device for producing a custom photobook according to an embodiment of the present invention is based on the pattern learning unit for learning the user pattern information for photobook production and the plurality of image information generated on the mobile device based on the It may further include a control unit for pushing the recommendation.

상기 패턴 학습부는 포토북 제작에 대한 사용자의 사용 패턴 및 주문 패턴에 기초하여 상기 사용자 선호도를 획득하고, 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 각각에서의 상기 사용자 선호도에 따른 상기 사용자 패턴 정보를 학습할 수 있다.The pattern learning unit obtains the user preferences based on a user's usage pattern and order pattern for photobook production, and according to the user's preference in each photobook size, number of photobook pages, photobook style, and photobook theme. The user pattern information can be learned.

상기 이미지 셀렉부는 상기 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 상기 모바일 디바이스로부터 수신되는 상기 셀렉 이미지 정보를 항목별로 클러스터링할 수 있다. The image selector may cluster the select image information received from the mobile device for each item by using a deep learning technique, which is the machine learning algorithm.

상기 이미지 셀렉부는 상기 셀렉 이미지 정보를 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목별로 클러스터링하며, 안면 인식 결과에 따라 인물별로 상기 셀렉 이미지 정보를 클러스터링할 수 있다. The image selector may cluster the select image information by an item such as a theme, an object, text, a creation date, and a location, and may cluster the select image information by a person according to a facial recognition result.

상기 포토북 추천부는 항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치하여 상기 맞춤형 포토북 서비스를 추천할 수 있다.The photobook recommendation unit may include a template, a resource, and a layout selected by at least one of photobook information selected from among customized photobook sizes, photobook pages, photobook styles, and photobook themes according to clustering classified by items. Accordingly, the clustered select image information may be arranged to recommend the customized photobook service.

상기 포토북 추천부는 상기 이미지 셀렉부에 의해 추출된 안면 인식 결과에 기초하여, 상기 레이아웃에 상기 클러스터링된 셀렉 이미지 정보 각각을 얼굴 중심으로 배치하여 표시할 수 있다.The photobook recommender may arrange and display each of the clustered select image information in the layout based on a face recognition result extracted by the image selector.

상기 제어부는 상기 모바일 디바이스에서 생성되는 상기 복수의 이미지 정보가 분류되어 클러스터링되는 상기 셀렉 이미지 정보에 적합하고, 기 설정된 용량 또는 개수를 초과하는 경우, 상기 모바일 디바이스를 통해 상기 맞춤형 포토북 서비스의 사용을 푸시할 수 있다.The controller may be configured to use the customized photobook service through the mobile device when the plurality of image information generated by the mobile device is suitable for the selected image information that is classified and clustered and exceeds a preset capacity or number. Can push

상기 제어부는 상기 모바일 디바이스에 포함되는 상기 복수의 이미지 정보를 외부 서버로 전송하고, 상기 외부 서버로부터 상기 복수의 이미지 정보에 대한 분석 결과를 수신하며, 상기 분석 결과를 상기 이미지 셀렉부 및 상기 포토북 추천부에 제공할 수 있다.The controller transmits the plurality of image information included in the mobile device to an external server, receives an analysis result of the plurality of image information from the external server, and transmits the analysis result to the image selector and the photobook. Can be provided to the recommendation section.

본 발명의 다른 실시예에 따른 맞춤형 포토북 제작 시스템은 복수의 이미지 정보에 따른 맞춤형 포토북 서비스를 표시하여 제공하고, 사용자로부터 선택 입력을 수신하는 모바일 디바이스 및 상기 모바일 디바이스로부터 수신되는 상기 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하여 클러스터링하고, 상기 클러스터링된 셀렉 이미지 정보와 사용자 패턴 정보 및 사용자 선호도에 따른 상기 맞춤형 포토북 서비스를 추천하는 외부 서버를 포함한다.According to another embodiment of the present invention, a custom photobook production system displays and provides a custom photobook service according to a plurality of image information, and receives a selection input from a user, and the plurality of images received from the mobile device. An external server that classifies and clusters select image information suitable for photobook production based on a machine learning algorithm among information, and recommends the customized photobook service according to the clustered select image information, user pattern information, and user preference. Include.

상기 외부 서버는 상기 사용자 패턴 정보 및 상기 사용자 선호도에 따라 추천되는 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치할 수 있다.The external server may include a template and a resource selected by at least one photobook information among photobook size, photobook page number, photobook style, and photobook theme recommended according to the user pattern information and the user preference. And the clustered select image information according to a layout.

상기 외부 서버는 상기 셀렉 이미지 정보에 대한 안면 인식 결과에 기초하여, 상기 레이아웃에 상기 클러스터링된 셀렉 이미지 정보 각각을 얼굴 중심으로 배치하여 상기 모바일 디바이스로 상기 맞춤형 포토북 서비스를 추천할 수 있다.The external server may recommend the customized photobook service to the mobile device by arranging each of the clustered select image information in the layout based on a face recognition result of the select image information.

본 발명의 실시예에 따른 모바일 디바이스의 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치의 동작 방법에 있어서, 상기 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링하는 단계 및 상기 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천하는 단계를 포함한다.A method of operating a customized photobook manufacturing apparatus installed with photobook editing software of a mobile device and providing a photobook service according to an embodiment of the present invention, the method comprising: based on a machine learning algorithm among a plurality of image information received from the mobile device; And classifying and clustering the select image information suitable for photobook production by item, and recommending the clustered select image information, a custom photobook service according to user pattern information, and user preference.

상기 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링하는 단계는 상기 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 상기 모바일 디바이스로부터 수신되는 상기 셀렉 이미지 정보를 항목별로 클러스터링할 수 있다.The classifying and clustering the select image information for each item may cluster the select image information received from the mobile device for each item using a deep learning technique, which is the machine learning algorithm.

상기 맞춤형 포토북 서비스를 추천하는 단계는 항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치하여 상기 맞춤형 포토북 서비스를 추천할 수 있다. The recommending of the customized photobook service may include selecting a template based on at least one photobook information of a customized photobook size, photobook page number, photobook style, and photobook theme according to clustering classified by items. The clustered select image information may be arranged according to resources and layouts to recommend the customized photobook service.

본 발명의 실시예에 따르면, 딥러닝(Deep Learning) 기법에 기반하여 모바일 디바이스에 포함된 복수의 이미지 중 포토북 제작에 적합한 셀렉 이미지 정보를 분류하여 클러스터링하고, 클러스터링된 셀렉 이미지 정보에 따른 맞춤형 포토북 서비스를 추천할 수 있다.According to an embodiment of the present invention, based on a deep learning technique, classifying and clustering select image information suitable for producing a photobook among a plurality of images included in a mobile device, and custom photo according to the clustered select image information We can recommend book service.

또한, 본 발명의 실시예에 따르면, 클러스터링 결과에 따라 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보를 추출하고, 셀렉 이미지 정보를 포토북 정보에 맞춤형으로 편집 및 배치하여 포토북 서비스를 추천할 수 있다.In addition, according to an embodiment of the present invention, according to the clustering result, at least one or more photobook information of the customized photobook size, the number of photobook pages, the photobook style, and the photobook theme is extracted, and the selected image information is selected from the photobook information. Photobook service can be recommended by editing and arranging in a customized manner.

또한, 본 발명의 실시예에 따르면, 셀렉 이미지 정보에 대한 안면 인식 결과에 따라, 셀렉 이미지를 편집하여 위치 및 배치시킬 수 있다. In addition, according to an embodiment of the present invention, the select image may be edited and positioned and arranged according to a result of facial recognition of the select image information.

도 1은 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치의 세부 구성을 설명하기 위해 도시한 것이다.
도 2는 본 발명의 실시예에 따른 클러스터링 예를 도시한 것이다.
도 3a 내지 도 3b는 본 발명의 실시예에 따른 모바일 디바이스의 적용 예를 도시한 것이다.
도 4는 본 발명의 실시예에 따른 포토북 서비스의 구성 예를 도시한 것이다.
도 5는 본 발명의 다른 실시예에 따른 맞춤형 포토북 제작 시스템의 구성을 설명하기 위해 도시한 것이다.
도 6은 본 발명의 실시예에 따른 맞춤형 포토북 제작 방법의 흐름도를 도시한 것이다.
1 is a view illustrating a detailed configuration of a custom photobook manufacturing apparatus according to an embodiment of the present invention.
2 illustrates an example of clustering according to an embodiment of the present invention.
3A to 3B illustrate an application example of a mobile device according to an embodiment of the present invention.
4 illustrates a configuration example of a photobook service according to an embodiment of the present invention.
5 is a view illustrating a configuration of a custom photobook manufacturing system according to another embodiment of the present invention.
6 is a flowchart illustrating a method of manufacturing a custom photobook according to an embodiment of the present invention.

이하, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 또한, 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. However, the present invention is not limited or limited by the embodiments. Also, like reference numerals in the drawings denote like elements.

또한, 본 명세서에서 사용되는 용어(terminology)들은 본 발명의 바람직한 실시예를 적절히 표현하기 위해 사용된 용어들로서, 이는 시청자, 운용자의 의도 또는 본 발명이 속하는 분야의 관례 등에 따라 달라질 수 있다. 따라서, 본 용어들에 대한 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. In addition, terms used in the present specification (terminology) are terms used to properly express preferred embodiments of the present invention, which may vary depending on the intention of the viewer, the operator, or customs in the field to which the present invention belongs. Therefore, the definitions of the terms should be made based on the contents throughout the specification.

본 발명은 맞춤형 포토북 서비스를 추천하는 포토북 제작 장치 및 그 방법에 관한 것으로, 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치에 관한 것이다. 예를 들면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 어플리케이션(Application)일 수 있으며, 사용자에 의해 모바일 디바이스에 설치되어 수행되는 것일 수 있다. The present invention relates to a photobook production apparatus for recommending a custom photobook service and a method thereof, and more particularly, to a custom photobook production apparatus installed with photobook editing software and providing a photobook service. For example, the custom photobook production apparatus according to the embodiment of the present invention may be an application, and may be installed and performed on a mobile device by a user.

본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 모바일 디바이스에 저장되어 포함되거나, SNS(Social Networking Service) 상에 연동되어 연관된 복수의 이미지 정보를 이용하여 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천한다. 이 때, 모바일 디바이스는 사용자가 소지하는 단말 기기일 수 있으며, 예를 들면, PC(personal computer), 노트북 컴퓨터(laptop computer), 스마트폰(smart phone), 태블릿(tablet) 및 웨어러블 컴퓨터(wearable computer) 중 적어도 어느 하나일 수 있다.An apparatus for producing a customized photobook according to an embodiment of the present invention may be stored in a mobile device or included in a mobile device or may be linked to an SNS (Social Networking Service) using a plurality of image information associated with a customized photobook according to user pattern information and user preferences. Recommend service In this case, the mobile device may be a terminal device possessed by a user, for example, a personal computer, a laptop computer, a smart phone, a tablet, and a wearable computer. It may be at least one of).

나아가 본 발명의 실시예에 따르면, 사용자가 소지하는 모바일 디바이스에 포토북 편집 소프트웨어로 설치되어 맞춤형 포토북 서비스를 추천하는 기술이나, 다른 실시예에 따라서는 외부 서버에서 모바일 디바이스로 맞춤형 포토북 서비스를 추천할 수도 있다. 예를 들면, 본 발명의 다른 실시예에 따르면, 외부 서버는 모바일 디바이스로부터 수신되는 복수의 이미지 정보를 이용하여 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 생성하고, 이를 모바일 디바이스에 추천할 수도 있다.Furthermore, according to an embodiment of the present invention, a technology for recommending a customized photobook service is installed in a mobile device possessed by a user as a photobook editing software, or in another embodiment, a customized photobook service is performed from an external server to a mobile device. It may be recommended. For example, according to another embodiment of the present invention, the external server generates a custom photobook service according to user pattern information and user preference using a plurality of image information received from the mobile device, and recommends it to the mobile device. It may be.

즉, 본 발명은 모바일 디바이스 또는 외부 서버에서 복수의 이미지 정보에 따른 맞춤형 포토북 서비스를 생성할 수 있으며, 이를 모바일 디바이스로 추천할 수 있다. That is, the present invention may generate a customized photobook service according to a plurality of image information in a mobile device or an external server, and may recommend it as a mobile device.

이하에서는, 도 1 내지 도 6을 참조하여 본 발명에 대해 상세히 설명하고자 한다. Hereinafter, the present invention will be described in detail with reference to FIGS. 1 to 6.

도 1은 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치의 세부 구성을 설명하기 위해 도시한 것이다.1 is a view illustrating a detailed configuration of a custom photobook manufacturing apparatus according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 모바일 디바이스에 포함된 복수의 이미지 정보를 이용하여 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천한다.Referring to FIG. 1, a custom photobook manufacturing apparatus according to an embodiment of the present invention recommends a custom photobook service based on user pattern information and user preference using a plurality of image information included in a mobile device.

이를 위해, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치(100)는 이미지 셀렉부(110) 및 포토북 추천부(120)를 포함한다.To this end, the custom photobook manufacturing apparatus 100 according to the embodiment of the present invention includes an image selector 110 and a photobook recommender 120.

이미지 셀렉부(110)는 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링한다.The image selector 110 classifies and clusters select image information suitable for producing a photobook among items based on a machine learning algorithm among a plurality of image information received from a mobile device.

이하에서는 도 2를 참조하여 본 발명의 실시예에 따른 이미지 셀렉부에 대해 상세히 설명하고자 한다.Hereinafter, an image selector according to an exemplary embodiment of the present invention will be described in detail with reference to FIG. 2.

도 2는 본 발명의 실시예에 따른 클러스터링 예를 도시한 것이다.2 illustrates an example of clustering according to an embodiment of the present invention.

도 2를 참조하면, 본 발명의 실시예에 따른 이미지 셀렉부(110)는 기계 학습 알고리즘에 기초하여 모바일 디바이스로부터 수신되는 복수의 이미지 정보(10)를 항목별(A, B, C)로 분류하고, 클러스터링(210, 220, 230)한다.Referring to FIG. 2, the image selector 110 according to an embodiment of the present invention classifies a plurality of image information 10 received from a mobile device into items (A, B, C) based on a machine learning algorithm. And clustering (210, 220, 230).

본 발명의 실시예에 따른 이미지 셀렉부(110)는 사용자가 소지하는 모바일 디바이스에 저장되어 포함된 복수의 이미지 정보(10) 또는 모바일 디바이스에 연동된 SNS(Social Networking Service) 상에 복수의 이미지 정보(10) 중 셀렉 이미지 정보(20)를 분류할 수 있다. 이 때, 셀렉 이미지 정보(20)는 포토북 제작에 적합한 이미지 정보일 수 있다. The image selector 110 according to an exemplary embodiment of the present invention stores a plurality of image information 10 stored in a mobile device possessed by a user or a plurality of image information on an SNS (Social Networking Service) linked to the mobile device. The select image information 20 may be classified in step 10. In this case, the select image information 20 may be image information suitable for producing a photo book.

구체적으로, 모바일 디바이스에 저장되어 포함되거나, SNS 상에 연동된 많은 양의 이미지 정보(10) 중에는 접사 사진 또는 중복 사진 중 화질, 해상도가 떨어지는 이미지, 포토북 제작에 적합하지 않거나 중요하지 않은 이미지, 예를 들면 캡쳐 이미지, 업무용 이미지, 확인용 이미지 등이 포함되어 있으므로, 이를 제외시키는 작업이 필요하다. 이에 따라서, 이미지 셀렉부(110)는 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 복수의 이미지 정보(10) 중 포토북 제작에 적합한 셀렉 이미지 정보(20)를 추출할 수 있으며, 추출된 셀렉 이미지 정보(20)를 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목별(A, B, C)로 분류하여 클러스터링(210, 220, 230)할 수 있다. Specifically, among a large amount of image information 10 stored and included in a mobile device or linked on an SNS, the image quality of a macro photograph or a duplicate photo is poor, the resolution of which is not suitable or important for making a photo book, For example, it includes a capture image, business image, confirmation image, etc., it is necessary to exclude it. Accordingly, the image selector 110 may extract select image information 20 suitable for producing a photobook among the plurality of image information 10 by using a deep learning technique, which is a machine learning algorithm. The selected select image information 20 may be classified into items (A, B, and C) such as a theme, an object, a text, a creation date, and a location, and clustered (210, 220, 230).

예를 들면, 이미지 셀렉부(110)는 여행, 바다, 친구, 단체, 가족 및 독사진 등의 테마 분류, 건물, 장소, 사물 및 사람 등의 오브젝트 분류, 텍스트(Text) 분류, 숫자 분류, 안면 분석을 통한 표정 분류 및 감성 분류 등을 수행할 수 있다. 나아가, 이미지 셀렉부(110)는 분류 또는 항목에 따라 셀렉 이미지 정보(20)를 클러스터링하거나, 생성일 및 지역 등을 이용하여 셀렉 이미지 정보(20)를 클러스터링할 수 있다. 상기 생성일 및 지역(또는 위치)은 불분명한 셀렉 이미지 정보(20)를 객관적으로 분류할 수 있는 명확한 기준이 될 수 있다. For example, the image selector 110 may classify themes such as travel, sea, friends, groups, family, and dog pictures, classify objects such as buildings, places, objects, and people, text classification, number classification, and facial analysis. Facial expression classification and emotion classification can be performed. In addition, the image selector 110 may cluster the select image information 20 according to a classification or an item, or may cluster the select image information 20 using a generation date and a region. The generation date and region (or location) may be a definite criterion for objectively classifying the unclear select image information 20.

본 발명의 실시예에 따른 맞춤형 포토북 제작 장치(100)는 포토북 제작에 대한 사용자 패턴 정보를 학습하는 패턴 학습부(140)를 더 포함할 수 있으며, 이미지 셀렉부(110)는 딥러닝 기법을 기반으로 셀렉 이미지 정보(20)를 추출 및 분류하여 클러스터링(210, 220, 230)하는 과정에서, 패턴 학습부(140)로부터 학습된 사용자 패턴 정보 및 사용자 선호도를 활용할 수 있다. Custom photobook production apparatus 100 according to an embodiment of the present invention may further include a pattern learning unit 140 for learning user pattern information for photobook production, the image selector 110 is a deep learning technique In the process of extracting and classifying the select image information 20 based on the clustering (210, 220, 230), the user pattern information learned from the pattern learner 140 may be utilized.

예를 들면, 패턴 학습부(140)는 사용자가 포토북을 제작하였던 히스토리(history)에 기반하여 선택하거나 선호했던 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 각각에 대한 사용 패턴 및 주문 패턴을 획득할 수 있고, 이에 따라 사용자 선호도 및 사용자 선호도에 따른 사용자 패턴 정보를 학습할 수 있다. 이에 따라서, 이미지 셀렉부(110)는 사용자 선호도 및 사용자 패턴 정보와, 딥러닝 기법을 이용하여 사용자에 맞춤형으로 셀렉 이미지 정보(20)를 추출 및 분류하여 클러스터링(210, 220, 230)할 수 있다.For example, the pattern learning unit 140 uses patterns for each photobook size, photobook page, photobook style, and photobook theme that the user selected or preferred based on the history of the photobook creation. And order patterns, thereby learning user preferences and user pattern information according to user preferences. Accordingly, the image selector 110 may extract and classify the selector image information 20 according to the user's preference and user pattern information and the deep learning technique to cluster the clusters 210, 220, and 230. .

도 2를 참조하여 예를 들면, 본 발명의 실시예에 따른 이미지 셀렉부(110)는 복수의 이미지 정보(10) 중 포토북 제작에 적합한 셀렉 이미지 정보(20)를 추출하고, 셀렉 이미지 정보(20) 중 동일한 위치별(A)로 분류하여 위치에 따른 클러스터링(210)을 형성할 수 있으며, 동일한 오브젝트별(B), 예를 들면 파리의 에펠탑, 이탈리아의 피사의 사탑 등으로 분류하여 오브젝트에 따른 클러스터링(220)를 형성할 수 있고, 동일한 생성일(C)로 분류하여 생성일에 따른 클러스터링(230)을 형성할 수도 있다. 또 다른 예로, 본 발명의 실시예에 따른 이미지 셀렉부(110)는 셀렉 이미지 정보(20) 중 안면 인식 결과에 따라 인물별로 셀렉 이미지 정보를 클러스터링할 수 있다. 다만, 셀렉 이미지 정보(20)를 분류 및 클러스터링하는 항목은 이에 한정되지 않는다. For example, referring to FIG. 2, the image selector 110 according to an exemplary embodiment of the present invention extracts select image information 20 suitable for producing a photo book from among a plurality of image information 10, and selects image information ( Clustering 210 according to the position can be formed by classifying the same by location (A) of 20), and the object by classifying it into the same object (B), for example, the Eiffel Tower in Paris, the Leaning Tower of Pisa, Italy, etc. The clustering 220 according to the present invention may be formed, or may be classified into the same generation date C to form the clustering 230 according to the generation date. As another example, the image selector 110 according to an exemplary embodiment of the present invention may cluster select image information for each person according to a facial recognition result of the select image information 20. However, items for classifying and clustering the select image information 20 are not limited thereto.

다시 도 1을 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치(100)의 포토북 추천부(120)는 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천한다. Referring back to FIG. 1, the photobook recommendation unit 120 of the custom photobook manufacturing apparatus 100 according to an embodiment of the present invention may provide a customized photobook service according to clustered select image information, user pattern information, and user preference. Recommended.

포토북 추천부(120)는 항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 셀렉 이미지를 배치하여 맞춤형 포토북 서비스를 추천할 수 있다. 또한, 포토북 추천부(120)는 클러스터링된 셀렉 이미지 정보를 이용하여 포토북 서비스의 타이틀(title)을 결정할 수 있다. The photobook recommendation unit 120 may include a template and a resource selected by at least one of photobook information among custom photobook sizes, photobook pages, photobook styles, and photobook themes according to clustering classified by items. And by selecting the layout image according to the layout can recommend a custom photobook service. In addition, the photobook recommendation unit 120 may determine a title of the photobook service using the clustered select image information.

예를 들면, 포토북 추천부(120)는 클러스터링된 셀렉 이미지 정보(20)의 특성, 예를 들면 여행 테마에 맞춤형으로 포토북 테마를 설정하고, 커버 종류, 커버 코팅 종류, 내지타입, 제본타입 등의 포토북 스타일, 및 포토북 스타일에 따라 선택된 6x6, 5x7, 8x8, 8x10, A4, 10x10, 12x12 중 적어도 어느 하나의 포토북 사이즈 및 페이지 수를 설정할 수 있다. 이 때, 포토북 추천부(120)는 패턴 학습부(140)로부터 수신되는 사용자 선호도 및 사용자 패턴 정보를 우선적으로 반영하여 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마를 추천하고, 템플릿, 리소스 및 레이아웃의 디자인, 개수 및 배치 형태 등을 추천할 수 있다.For example, the photobook recommendation unit 120 sets the photobook theme in accordance with the characteristics of the clustered select image information 20, for example, a travel theme, and includes a cover type, a cover coating type, a to type, and a bookbinding type. The photobook size and the number of pages of at least one of 6x6, 5x7, 8x8, 8x10, A4, 10x10, and 12x12 selected according to the photobook style and the photobook style may be set. At this time, the photobook recommender 120 recommends the photobook size, the number of photobook pages, the photobook style, and the photobook theme by first reflecting the user preference and user pattern information received from the pattern learner 140. , Design, number, and layout of templates, resources, and layouts.

이후, 포토북 추천부(120)는 포토북 각 페이지에 포함된 템플릿, 리소스, 스티커 및 레이아웃에 따라 여행 테마별로 클러스터링된 셀렉 이미지를 편집 및 배치할 수 있다. 이 때, 포토북 추천부(120)는 이미지 셀렉부(110)에 의해 추출된 안면 인식 결과에 기초하여, 레이아웃에 클러스터링된 셀렉 이미지 각각을 얼굴 중심으로 배치하여 표시할 수 있다. 예를 들면, 포토북 추천부(120)는 페이스 디텍션(face detection) 기술을 통해 추출된 각 셀렉 이미지 내의 얼굴을 포토북 페이지에 포함된 레이아웃의 개수 및 위치에 따라 배치시킬 수 있다. 다만, 셀렉 이미지 내의 복수의 사람이 포함되는 경우 복수의 인원에 대한 얼굴 영역을 추출하고, 추출된 얼굴 영역을 기준으로 레이아웃 내에 배치시킬 수 있다.Thereafter, the photobook recommendation unit 120 may edit and arrange the clustered select image for each travel theme according to templates, resources, stickers, and layouts included in each page of the photobook. In this case, the photobook recommendation unit 120 may arrange and display each of the clustered select images in the layout based on the face recognition result extracted by the image selector 110. For example, the photobook recommendation unit 120 may arrange a face in each select image extracted through face detection according to the number and positions of layouts included in the photobook page. However, when a plurality of people are included in the select image, face areas of the plurality of persons may be extracted and arranged in the layout based on the extracted face areas.

포토북 추천부(120)는 셀렉 이미지 정보를 이용한 맞춤형 포토북 서비스의 추천 외에, 셀렉 이미지 정보를 이용한 액자, 카드, 머그컵, 텀블러, 핸드폰케이스, 가렌드 등의 상품 종류를 추천할 수 있으며, 장소, 텍스트 등의 이미지 기반, 통계성 데이터의 지표 기반, 클릭수, 추천수, 주문내역, 검색 조건, 행동 패턴 등의 사용자 기반 및 100일, 1주년, 10주년, 기념일 등의 이벤트 기반에 따른 맞춤형 포토북 서비스, 액자, 카드, 머그컵, 텀블러, 핸드폰케이스, 가렌드 등을 추천할 수도 있다.The photobook recommendation unit 120 may recommend product types such as photo frames, cards, mugs, tumblers, cell phone cases, and garlands using the select image information in addition to recommending a customized photo book service using the select image information. , Photo-based images, statistical data indicators, user bases such as clicks, referrals, order history, search conditions, behavior patterns, and event-based events such as 100 days, 1st anniversary, 10th anniversary, and anniversary Book services, photo frames, cards, mugs, tumblers, cell phone cases, and garlands may be recommended.

도 1을 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치(100)는 제어부(130)를 더 포함할 수 있으며, 제어부(130)는 모바일 디바이스에 생성되는 복수의 이미지 정보에 기초하여 포토북 서비스의 권장을 푸시할 수 있다. Referring to FIG. 1, the custom photobook manufacturing apparatus 100 according to the embodiment of the present invention may further include a controller 130, and the controller 130 is based on a plurality of image information generated in the mobile device. It can push the recommendation of photobook service.

일 실시 예로, 이미지 셀렉부(110)에서 분류되어 클러스터링되는 셀렉 이미지 정보를 기반으로, 제어부(130)는 클러스터링되는 셀렉 이미지의 용량 또는 개수가 기 설정된 기준을 초과하는 경우, 사용자에게 맞춤형 포토북 서비스의 사용을 푸시할 수 있다. 나아가, 제어부(130)는 클러스터링된 셀렉 이미지 정보에 따른 임시의 포토북 서비스를 안내할 수 있으며, 모바일 디바이스로부터 수신되는 사용자의 선택 입력에 따라 포토북 추천부(120)를 통한 맞춤형 포토북 서비스의 추천을 제어할 수도 있다. According to an embodiment, based on the select image information classified and clustered in the image selector 110, the controller 130 may customize a photobook service to the user when the capacity or number of the clustered select images exceeds a preset criterion. Can push the use of Furthermore, the controller 130 may guide the temporary photobook service according to the clustered select image information, and the customized photobook service through the photobook recommendation unit 120 according to a user's selection input received from the mobile device. You can also control recommendations.

다른 예로, 제어부(130)는 사용자가 소지하는 모바일 디바이스에 저장되어 포함된 복수의 이미지 정보 또는 모바일 디바이스에 연동된 SNS(Social Networking Service) 상에 복수의 이미지 정보를 외부 서버로 전송하고, 외부 서버로부터 복수의 이미지 정보에 대한 분석 결과를 수신하며, 분석 결과를 이미지 셀렉부(110) 및 포토북 추천부(120)에 제공할 수 있다. 이 때, 외부 서버에서 수행되는 분석은 복수의 이미지 정보에 따른 항목별 분류 작업, 또는 여행, 바다, 친구, 단체, 가족 및 독사진 등의 테마 분류, 건물, 장소, 사물 및 사람 등의 오브젝트 분류, 텍스트(Text) 분류, 숫자 분류, 안면 분석을 통한 표정 분류 및 감성 분류 등의 작업일 수 있다. As another example, the controller 130 transmits a plurality of image information stored in a mobile device possessed by the user or a plurality of image information on an SNS (Social Networking Service) linked to the mobile device to an external server, An analysis result of the plurality of image information may be received from the image information, and the analysis result may be provided to the image selector 110 and the photobook recommendation unit 120. At this time, the analysis performed on the external server may be classified by the item according to a plurality of image information, or the theme classification such as travel, sea, friends, groups, family and dog pictures, object classification such as buildings, places, objects and people, It may be a task such as text classification, number classification, facial expression analysis and emotional classification through facial analysis.

또 다른 예로, 제어부(130)는 포토북 추천부(120)에서 추천되는 포토북 정보에 대응하는 포토북 커버 또는 속지의 리소스, 이미지, 레이아웃, 배경, 스티커, 텍스트 및 템플릿 등을 선택 및 적용할 수 있다. 나아가, 제어부(130)는 모바일 디바이스에 제공되는 맞춤형 포토북 서비스에 대한 사용자의 선택 입력에 따라 포토북 서비스를 편집할 수도 있다. As another example, the controller 130 may select and apply a resource, an image, a layout, a background, a sticker, a text, a template, and the like of a photobook cover or inlay corresponding to the photobook information recommended by the photobook recommender 120. Can be. In addition, the controller 130 may edit the photobook service according to a user's selection input for the customized photobook service provided to the mobile device.

도 3a 내지 도 3b는 본 발명의 실시예에 따른 모바일 디바이스의 적용 예를 도시한 것이다.3A to 3B illustrate an application example of a mobile device according to an embodiment of the present invention.

도 3a를 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 셀렉 이미지를 추가 및 배치시킬 수 있다. Referring to FIG. 3A, at least one photobook of a custom photobook size, photobook page number, photobook style, and photobook theme according to clustering categorized by items may be used. The select image may be added and arranged according to a template, a resource, and a layout selected by the information.

예를 들면, 포토북은 복수의 페이지(310)를 포함하며, 포토북 페이지(310) 각각은 서로 다른 형태, 디자인, 개수 등의 템플릿, 리소스 및 레이아웃을 포함할 수 있다. 이 때, 상기 리소스는 포토북 서비스를 제공하기 위한 이미지, 배경, 스티커 및 텍스트 등일 수 있다. For example, the photobook may include a plurality of pages 310, and each of the photobook pages 310 may include templates, resources, and layouts of different shapes, designs, and numbers. In this case, the resource may be an image, a background, a sticker, and a text for providing a photobook service.

도 3b 및 도 3c는 세로 레이아웃에 가로 셀렉 이미지를 배치하는 예를 나타내는 것으로, 포토북 제작에 관련된 종래 기술은 세로 레이아웃(330)에 가로 셀렉 이미지(320)를 자동으로 배치하는 경우, 도 3b에 도시된 바와 같이 전체 셀렉 이미지(320)는 세로 레이아웃(330)의 중앙에 위치하게 되어 셀렉 이미지(320)의 왼쪽 가장자리에 위치하는 인물은 레이아웃에 포함되지 않는다. 3B and 3C illustrate an example of arranging a horizontal select image in a vertical layout. In the related art related to photobook production, when the horizontal select image 320 is automatically disposed in the vertical layout 330, FIG. As shown in the drawing, the entire select image 320 is positioned at the center of the vertical layout 330 so that the person positioned at the left edge of the select image 320 is not included in the layout.

이에 반해 도 3c를 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 페이스 디텍션(face detection) 기술을 통해 셀렉 이미지(320)에서 인물을 추출하고, 추출된 얼굴을 기준으로 세로 레이아웃(330) 중심에 배치시킬 수 있다. On the contrary, referring to FIG. 3C, the device for producing a custom photobook according to an embodiment of the present invention extracts a person from the select image 320 through face detection technology and uses a vertical layout based on the extracted face. 330) can be placed in the center.

실시예에 따라서, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 셀렉 이미지(320)에 포함된 얼굴을 중심으로 크로핑(cropping)하여 레이아웃(330)에 배치시킬 수 있으며, 셀렉 이미지(320) 내에 복수의 인원이 포함된 경우, 복수의 얼굴 영역을 추출하여 레이아웃(330)에 배치시킬 수 있다. 예를 들면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 일반적인 페이지 풀 방식처럼 레이아웃(330)과 셀렉 이미지(320) 비율을 산출하고, 산출 값에 따라 셀렉 이미지(320) 내의 얼굴 영역을 레이아웃(330)의 중앙에 위치시킬 수 있다. 다만, 얼굴 영역을 레이아웃(330) 중심에 배치시키는 경우, 레이아웃(330) 영역 내 빈 공간이 형성될 수 있으므로, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 빈 공간이 없도록 셀렉 이미지(320)를 상/하 또는 좌/우로 이동시키거나 줌인/줌아웃(Zoom In/Out) 방식, 이미지 풀 방식을 사용할 수도 있다. According to an embodiment, the custom photobook manufacturing apparatus according to an embodiment of the present invention may be disposed on the layout 330 by cropping around a face included in the select image 320 and selecting the image 320. When a plurality of persons are included in the), a plurality of face regions may be extracted and arranged in the layout 330. For example, the custom photobook production apparatus according to the embodiment of the present invention calculates the ratio of the layout 330 and the select image 320 as in the general page pull method, and adjusts the face area in the select image 320 according to the calculated value. It may be positioned in the center of the layout 330. However, when the face area is disposed at the center of the layout 330, an empty space may be formed in the area of the layout 330, so that the custom photobook manufacturing apparatus according to the embodiment of the present invention may select the image 320 so that there is no empty space. ) Can be moved up / down or left / right, zoom in / out, or image pull.

도 4는 본 발명의 실시예에 따른 포토북 서비스의 구성 예를 도시한 것이다.4 illustrates a configuration example of a photobook service according to an embodiment of the present invention.

본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 결혼 및 아기 등의 가족, 여행/허니문, 단체 및 졸업 등의 학교/교육의 각 항목별로 분류되어 클러스터링된 셀렉 이미지 정보에 기초하여 템플릿(Template), 리소스 및 레이아웃을 선정하고, 맞춤형 포토북 서비스를 구성할 수 있다.Custom photobook production apparatus according to an embodiment of the present invention is a template (Template) based on the clustered select image information classified by each item of school / education, such as family, travel / honeymoon, group and graduation, such as marriage and baby You can choose resources, layouts, and configure custom photobook services.

도 4를 참조하면, 멀티폼 템플릿(Multiform template) 내의 페이지 템플릿(Template)들은 복수의 이미지를 포함할 수 있는 레이아웃(Layout)을 포함하며, 이는 구성 가능한 이미지의 수가 정해져 있다. 이에, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 템플릿마다 사용 가능한 레이아웃을 관리하며, 클러스터링된 셀렉 이미지 정보에 따라 레이아웃을 선택 및 적용할 수 있다. 이 때, 각 템플릿에서의 배경, 스티커 및 텍스트 등의 리소스는 변경되지 않으며, 다양한 컨셉(Concept) 및 테마(Thema)에 따라 기 설정된 복수의 레이아웃 형태를 그대로 사용하는 것을 기본으로 한다. Referring to FIG. 4, page templates in a multiform template include a layout that may include a plurality of images, and the number of configurable images is determined. Accordingly, the apparatus for producing a custom photobook according to an embodiment of the present invention manages a layout available for each template, and selects and applies a layout according to clustered select image information. At this time, resources such as background, sticker, and text in each template are not changed, and it is basically based on using a plurality of preset layout forms according to various concepts and themes.

다만, 포토북 서비스를 구성하는 분류 항목, 멀티폼 템플릿, 템플릿 및 레이아웃의 종류, 형태 및 스타일은 이에 한정되지 않는다. However, the types, shapes, and styles of the classification items, multiform templates, templates, and layouts that constitute the photobook service are not limited thereto.

도 5는 본 발명의 다른 실시예에 따른 맞춤형 포토북 제작 시스템의 구성을 설명하기 위해 도시한 것이다. 5 is a view illustrating a configuration of a custom photobook manufacturing system according to another embodiment of the present invention.

도 5를 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 시스템(500)은 모바일 디바이스(510) 및 외부 서버(520)를 포함한다. 도 5에서는 보다 명확한 설명을 위해 단수의 모바일 디바이스(510)를 도시하였으나, 단수에 한정되지 아니하며, 복수의 모바일 디바이스(510)와 외부 서버(520) 간의 통신이 수행될 수도 있다. Referring to FIG. 5, the customized photobook production system 500 according to the embodiment of the present invention includes a mobile device 510 and an external server 520. In FIG. 5, a single mobile device 510 is illustrated for clarity, but is not limited thereto. Communication between the mobile device 510 and the external server 520 may be performed.

모바일 디바이스(510)는 복수의 이미지 정보에 따른 맞춤형 포토북 서비스를 표시하여 제공하고, 사용자로부터 선택 입력을 수신한다.The mobile device 510 displays and provides a customized photobook service according to the plurality of image information, and receives a selection input from the user.

예를 들면, 모바일 디바이스(510)는 저장되어 포함된 복수의 이미지 정보 또는 연동된 SNS(Social Networking Service) 상에 복수의 이미지 정보를 Ethernet/3G, 4G, 5G의 무선 데이터 통신을 통해 외부 서버(520)로 전송할 수 있다. 또한, 모바일 디바이스(510)는 무선 데이터 통신을 통해 외부 서버(520)로부터 분석 결과에 관련된 정보를 수신할 수 있으며, 사용자로부터 선택 입력을 수신할 수도 있다. 다만, 모바일 디바이스(510)와 외부 서버(520)의 통신은 와이파이(Wi­Fi) 연결인 상태 또는 충전 상태일 경우에 수행되는 것을 기본으로 한다. For example, the mobile device 510 stores a plurality of stored image information or a plurality of image information on an associated SNS (Social Networking Service) through an external server (Wireless Data Communication of Ethernet / 3G, 4G, 5G). 520). In addition, the mobile device 510 may receive information related to the analysis result from the external server 520 through wireless data communication, and may receive a selection input from the user. However, the communication between the mobile device 510 and the external server 520 is performed based on a Wi-Fi connection or a charging state.

실시예에 따라서, 모바일 디바이스(510)는 PC(personal computer), 노트북 컴퓨터(laptop computer), 스마트폰(smart phone), 태블릿(tablet) 및 웨어러블 컴퓨터(wearable computer) 중 적어도 어느 하나일 수 있으며, 디스플레이부(미도시), 메모리부(미도시), 입력부(미도시), 출력부(미도시) 및 통신부/제어부(미도시)를 포함할 수 있다. 이 때, 통신부/제어부는 도 1에 도시된 제어부(130)를 일컫을 수 있다.According to an embodiment, the mobile device 510 may be at least one of a personal computer, a laptop computer, a smart phone, a tablet, and a wearable computer. It may include a display unit (not shown), a memory unit (not shown), an input unit (not shown), an output unit (not shown), and a communication unit / control unit (not shown). In this case, the communication unit / control unit may refer to the controller 130 illustrated in FIG. 1.

상기 디스플레이부는 맞춤형 포토북 서비스를 구성하는 다수의 아이템들을 포함하는 제1 화면 및 햅틱(haptic) 접촉 또는 택틸(tactile) 접촉에 기초하여 사용자로부터 입력을 수신하는 터치­감지 표면, 센서 또는 센서 집합에 기초하여 기능과 관련된 적어도 하나 이상의 아이템을 포함하는 제2 화면을 표시할 수 있다. The display unit is based on a first screen including a plurality of items constituting a customized photobook service and a touch sensing surface, a sensor, or a sensor set that receives an input from a user based on haptic contact or tactile contact. The second screen including at least one item related to the function may be displayed.

상기 메모리부는 고속 랜덤 액세스 메모리(high­speed random access memory), 자기 디스크, 에스램(SRAM), 디램(DRAM), 롬(ROM), 플래시 메모리 또는 비휘발성 메모리를 포함할 수 있다.The memory unit may include high speed random access memory, a magnetic disk, an SRAM, a DRAM, a ROM, a flash memory, or a nonvolatile memory.

상기 입력부는 터치 키보드, 터치 입력, 터치 패드, 다이얼, 슬라이더 스위치, 버튼 등을 포함할 수 있으며, 상기 출력부는 오디오 모듈, 스피커 모듈 또는 부저를 이용하여 경고음을 출력하거나, LED(Light Emitting Diode)를 이용하여 경고등을 점멸할 수 있으며, 진동 모듈을 이용하여 진동을 출력할 수 있다.The input unit may include a touch keyboard, a touch input, a touch pad, a dial, a slider switch, a button, and the like, and the output unit may output a warning sound by using an audio module, a speaker module, or a buzzer, or output a light emitting diode (LED). Warning light can be flickered by using, and vibration can be output by using vibration module.

상기 통신부/제어부는 전기 신호를 전자기 신호로 변환하거나 전자기 신호로부터 전기 신호를 변환하고, 전자기 신호를 통해 통신 네트워크, 다른 통신 장치 및 외부 장치와 통신할 수 있으며, 프로세서, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서를 포함할 수 있다.The communication unit / control unit may convert an electrical signal into an electromagnetic signal or convert an electrical signal from the electromagnetic signal, and communicate with a communication network, another communication device and an external device through the electromagnetic signal, and may include a processor, a central processing unit, an application processor, Or a communication processor.

외부 서버(520)는 모바일 디바이스(510)로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하여 클러스터링하고, 클러스터링된 셀렉 이미지 정보와 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천한다. The external server 520 classifies and clusters select image information suitable for producing a photobook among the plurality of image information received from the mobile device 510 by item, and clusters the selected cluster image information and the user pattern information. And custom photobook services based on user preferences.

예를 들면, 외부 서버(520)는 사용자 패턴 정보 및 사용자 선호도에 따라 추천되는 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보와, 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 셀렉 이미지를 배치할 수 있다. 또한, 외부 서버(520)는 셀렉 이미지 정보에 대한 안면 인식 결과에 기초하여, 레이아웃에 클러스터링된 셀렉 이미지 각각을 얼굴 중심으로 배치시킴으로써, 모바일 디바이스로 맞춤형 포토북 서비스를 추천할 수 있다. For example, the external server 520 may include at least one or more photobook information among photobook sizes, photobook pages, photobook styles, and photobook themes recommended according to user pattern information and user preferences, and selected templates ( You can place select images according to templates, resources, and layouts. In addition, the external server 520 may recommend the customized photobook service to the mobile device by arranging each of the clustered select images in the layout based on the face recognition result of the select image information.

보다 구체적으로, 외부 서버(520)는 사용자 정보를 이용한 모바일 디바이스(510)와의 인증 수행 후, 모바일 디바이스(510)로부터 복수의 이미지 정보를 수신할 수 있으며, 빅데이터 모델의 딥러닝(Deep Learning) 기법을 통해 복수의 이미지 정보에 대한 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목을 분석하고, 선명도, 접사 여부, 연사 여부 및 SNS 업로드 여부 등을 분석할 수도 있다.More specifically, the external server 520 may receive a plurality of image information from the mobile device 510 after performing authentication with the mobile device 510 using user information, and deep learning of the big data model. Through the technique, items such as a theme, an object, text, a creation date and a location of a plurality of image information may be analyzed, and sharpness, affiliation, continuous shooting, and SNS upload may be analyzed.

이후, 외부 서버(520)는 분석 결과에 기초하여 복수의 이미지 정보 중 포토북 제작에 적합한 셀렉 이미지 정보를 추출하고, 추출된 셀렉 이미지 정보를 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목 또는 교환 이미지 파일 형식(EXchangable Image File format; Exif)에 따라 클러스터링할 수 있다. Subsequently, the external server 520 extracts select image information suitable for producing a photo book from among the plurality of image information based on the analysis result, and extracts the extracted select image information based on a theme, an object, text, a creation date and a location It can be clustered according to the items of Exchangable Image File Format or Exif.

실시예에 따라서, 외부 서버(520)는 클러스터링되는 셀렉 이미지의 용량 또는 개수가 기 설정된 기준을 초과하는 경우, 모바일 디바이스(510)로 맞춤형 포토북 서비스의 사용을 푸시할 수 있다. 나아가, 외부 서버(520)는 모바일 디바이스(510)를 통한 사용자의 선택 입력으로부터 맞춤형 포토북 서비스의 추천을 제어할 수도 있다. According to an embodiment, the external server 520 may push the use of the customized photobook service to the mobile device 510 when the capacity or number of clustered select images exceeds a preset criterion. In addition, the external server 520 may control the recommendation of the customized photobook service from the user's selection input through the mobile device 510.

다른 실시예에 따라서, 외부 서버(520)는 셀렉 이미지 정보를 이용한 맞춤형 포토북 서비스의 추천 외에, 셀렉 이미지 정보를 이용한 액자, 카드, 머그컵, 텀블러, 핸드폰케이스, 가렌드 등의 상품 종류를 모바일 디바이스(510)로 추천할 수 있으며, 장소, 텍스트 등의 이미지 기반, 통계성 데이터의 지표 기반, 클릭수, 추천수, 주문내역, 검색 조건, 행동 패턴 등의 사용자 기반 및 100일, 1주년, 10주년, 기념일 등의 이벤트 기반에 따라 셀렉 이미지 정보를 이용한 맞춤형 포토북 서비스, 액자, 카드, 머그컵, 텀블러, 핸드폰케이스, 가렌드 등을 추천할 수도 있다. According to another exemplary embodiment, in addition to recommending a customized photobook service using the select image information, the external server 520 may display a product type such as a frame, a card, a mug, a tumbler, a mobile phone case, or a garland using the select image information. 510, can be based on image, such as place, text, indicator base of statistical data, user base such as clicks, referrals, order history, search conditions, behavior patterns, and 100 days, 1st anniversary, 10th anniversary Depending on the event base such as, anniversary, personalized photobook service using the select image information, frame, card, mugs, tumbler, cell phone case, garland, etc. may be recommended.

도 6은 본 발명의 실시예에 따른 맞춤형 포토북 제작 방법의 흐름도를 도시한 것이다.6 is a flowchart illustrating a method of manufacturing a custom photobook according to an embodiment of the present invention.

도 6에 도시된 방법은 도 1에 도시된 모바일 디바이스의 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치에 의해 수행될 수 있다.The method illustrated in FIG. 6 may be performed by a custom photobook manufacturing apparatus installed with photobook editing software of the mobile device illustrated in FIG. 1 and providing a photobook service.

단계 610에서, 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링한다. In operation 610, select image information suitable for making a photobook is classified and classified based on a machine learning algorithm among the plurality of image information received from the mobile device.

단계 610은 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 모바일 디바이스로부터 수신되는 셀렉 이미지 정보를 항목별로 클러스터링하는 단계일 수 있다. 예를 들면, 단계 610은 사용자가 소지하는 모바일 디바이스에 저장되어 포함된 복수의 이미지 정보 또는 모바일 디바이스에 연동된 SNS(Social Networking Service) 상에 복수의 이미지 정보 중 포토북 제작에 적합한 셀렉 이미지 정보를 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목별로 분류하고, 분류 항목에 따라 클러스터링하는 단계일 수 있다.Step 610 may be a step of clustering the select image information received from the mobile device by item using a deep learning technique, a machine learning algorithm. For example, in operation 610, a plurality of image information stored and included in a mobile device possessed by a user or select image information suitable for making a photobook among a plurality of image information on an SNS (Social Networking Service) linked to the mobile device. It may be a step of classifying by item such as theme, object, text, creation date and location, and clustering according to the classification item.

단계 620에서, 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천한다. In operation 620, the customized photobook service according to the clustered select image information, the user pattern information, and the user preference is recommended.

단계 620은 항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보와, 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 셀렉 이미지를 배치하여 맞춤형 포토북 서비스를 추천하는 단계일 수 있다. 또한, 단계 620은 클러스터링된 셀렉 이미지 정보를 이용하여 포토북 서비스의 타이틀(title)을 결정할 수 있다. In operation 620, at least one or more of photobook information including custom photobook sizes, photobook pages, photobook styles, and photobook themes according to clustering classified by items, templates, and resources selected by the photobook information. And arranging the select image according to the layout and recommending the customized photobook service. In operation 620, the title of the photobook service may be determined using the clustered select image information.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The apparatus described above may be implemented as a hardware component, a software component, and / or a combination of hardware components and software components. For example, the devices and components described in the embodiments include, for example, processors, controllers, arithmetic logic units (ALUs), digital signal processors, microcomputers, field programmable arrays (FPAs), It may be implemented using one or more general purpose or special purpose computers, such as a programmable logic unit (PLU), microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. The processing device may also access, store, manipulate, process, and generate data in response to the execution of the software. For convenience of explanation, one processing device may be described as being used, but one of ordinary skill in the art will appreciate that the processing device includes a plurality of processing elements and / or a plurality of types of processing elements. It can be seen that it may include. For example, the processing device may include a plurality of processors or one processor and one controller. In addition, other processing configurations are possible, such as parallel processors.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.The software may include a computer program, code, instructions, or a combination of one or more of the above, and configure the processing device to operate as desired, or process it independently or collectively. You can command the device. Software and / or data may be any type of machine, component, physical device, virtual equipment, computer storage medium or device in order to be interpreted by or to provide instructions or data to the processing device. Or may be permanently or temporarily embodied in a signal wave to be transmitted. The software may be distributed over networked computer systems so that they may be stored or executed in a distributed manner. Software and data may be stored on one or more computer readable recording media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD­ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기­광 매체(magneto­optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method according to the embodiment may be embodied in the form of program instructions that can be executed by various computer means and recorded in a computer readable medium. The computer readable medium may include program instructions, data files, data structures, etc. alone or in combination. The program instructions recorded on the media may be those specially designed and constructed for the purposes of the embodiments, or they may be of the kind well-known and available to those having skill in the computer software arts. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tape, optical media such as CDROMs, DVDs, and magneto-optical media such as floppy disks. (magnetooptical media), and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like. The hardware device described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.Although the embodiments have been described by the limited embodiments and the drawings as described above, various modifications and variations are possible to those skilled in the art from the above description. For example, the described techniques may be performed in a different order than the described method, and / or components of the described systems, structures, devices, circuits, etc. may be combined or combined in a different manner than the described method, or other components. Or even if replaced or replaced by equivalents, an appropriate result can be achieved.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are within the scope of the claims that follow.

10: 복수의 이미지 정보
20: 셀렉 이미지 정보
100: 맞춤형 포토북 제작 장치
210, 220, 230: 클러스터링
310: 포토북 페이지
320: 셀렉 이미지
330: 레이아웃
500: 맞춤형 포토북 제작 시스템
10: multiple image information
20: Select Image Information
100: custom photobook production device
210, 220, 230: clustering
310: photobook page
320: select image
330: layout
500: Custom Photobook Production System

Claims (16)

모바일 디바이스의 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치에 있어서,
상기 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링하는 이미지 셀렉부;
상기 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천하는 포토북 추천부;
포토북 제작에 대한 상기 사용자 패턴 정보를 학습하는 패턴 학습부; 및
상기 모바일 디바이스에 생성되는 상기 복수의 이미지 정보에 기초하여 상기 포토북 서비스의 권장을 푸시하는 제어부
를 포함하는 맞춤형 포토북 제작 장치.
In the custom photobook production apparatus installed by the photobook editing software of the mobile device to provide a photobook service,
An image selector for classifying and clustering select image information suitable for producing a photobook among items of a plurality of image information received from the mobile device, and clustering the selected image information for each item;
A photobook recommendation unit recommending a customized photobook service based on the clustered select image information, user pattern information, and user preferences;
A pattern learner learning the user pattern information on the photobook production; And
A controller configured to push the recommendation of the photobook service based on the plurality of image information generated in the mobile device
Custom photobook production apparatus comprising a.
삭제delete 제1항에 있어서,
상기 패턴 학습부는
포토북 제작에 대한 사용자의 사용 패턴 및 주문 패턴에 기초하여 상기 사용자 선호도를 획득하고, 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 각각에서의 상기 사용자 선호도에 따른 상기 사용자 패턴 정보를 학습하는 맞춤형 포토북 제작 장치.
The method of claim 1,
The pattern learning unit
The user preference is obtained based on a user usage pattern and an order pattern for photobook production, and the user pattern information according to the user preference in each photobook size, photobook page number, photobook style, and photobook theme. Photobook creation device to learn.
제1항에 있어서,
상기 이미지 셀렉부는
상기 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 상기 모바일 디바이스로부터 수신되는 상기 셀렉 이미지 정보를 항목별로 클러스터링하는 맞춤형 포토북 제작 장치.
The method of claim 1,
The image selector is
And a device for clustering the select image information received from the mobile device by item using a deep learning technique, which is the machine learning algorithm.
제4항에 있어서,
상기 이미지 셀렉부는
상기 셀렉 이미지 정보를 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목별로 클러스터링하며, 안면 인식 결과에 따라 인물별로 상기 셀렉 이미지 정보를 클러스터링하는 맞춤형 포토북 제작 장치.
The method of claim 4, wherein
The image selector is
And clustering the select image information by items such as a theme, an object, text, a creation date, and a location, and clustering the select image information by a person according to a facial recognition result.
제1항에 있어서,
상기 포토북 추천부는
항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치하여 상기 맞춤형 포토북 서비스를 추천하는 맞춤형 포토북 제작 장치.
The method of claim 1,
The photobook recommendation unit
The clustered selector according to a template, a resource, and a layout selected by at least one photobook information of a customized photobook size, photobook page number, photobook style, and photobook theme according to clustering classified by items. Custom photobook production apparatus for recommending the customized photobook service by placing image information.
제6항에 있어서,
상기 포토북 추천부는
상기 이미지 셀렉부에 의해 추출된 안면 인식 결과에 기초하여, 상기 레이아웃에 상기 클러스터링된 셀렉 이미지 정보 각각을 얼굴 중심으로 배치하여 표시하는 것을 특징으로 하는 맞춤형 포토북 제작 장치.
The method of claim 6,
The photobook recommendation unit
And arranging each of the clustered select image information on the layout based on a facial recognition result extracted by the image selector to display the clustered select image information in a face center.
제1항에 있어서,
상기 제어부는
상기 모바일 디바이스에서 생성되는 상기 복수의 이미지 정보가 분류되어 클러스터링되는 상기 셀렉 이미지 정보에 적합하고, 기 설정된 용량 또는 개수를 초과하는 경우, 상기 모바일 디바이스를 통해 상기 맞춤형 포토북 서비스의 사용을 푸시하는 맞춤형 포토북 제작 장치.
The method of claim 1,
The control unit
When the plurality of image information generated in the mobile device is suitable for the select image information that is classified and clustered, and exceeds a predetermined capacity or number, a customized to push the use of the customized photobook service through the mobile device Photobook production device.
제1항에 있어서,
상기 제어부는
상기 모바일 디바이스에 포함되는 상기 복수의 이미지 정보를 외부 서버로 전송하고, 상기 외부 서버로부터 상기 복수의 이미지 정보에 대한 분석 결과를 수신하며, 상기 분석 결과를 상기 이미지 셀렉부 및 상기 포토북 추천부에 제공하는 맞춤형 포토북 제작 장치.
The method of claim 1,
The control unit
Transmitting the plurality of image information included in the mobile device to an external server, receiving an analysis result of the plurality of image information from the external server, and transmitting the analysis result to the image selector and the photobook recommendation unit. Providing custom photobook production device.
복수의 이미지 정보에 따른 맞춤형 포토북 서비스를 표시하여 제공하고, 사용자로부터 선택 입력을 수신하는 모바일 디바이스; 및
상기 모바일 디바이스로부터 수신되는 상기 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하여 클러스터링하고, 상기 클러스터링된 셀렉 이미지 정보와 사용자 패턴 정보 및 사용자 선호도에 따른 상기 맞춤형 포토북 서비스를 추천하는 외부 서버를 포함하고,
상기 외부 서버는
상기 사용자 패턴 정보 및 상기 사용자 선호도에 따라 추천되는 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치하는, 맞춤형 포토북 제작 시스템.
A mobile device displaying and providing a customized photobook service according to a plurality of image information, and receiving a selection input from a user; And
Among the plurality of image information received from the mobile device, selectable image information suitable for making a photobook is classified and clustered by items based on a machine learning algorithm, and the clustered select image information, user pattern information, and user preferences Include an external server that recommends custom photobook services,
The external server
According to a template, a resource, and a layout selected by at least one photobook information among photobook sizes, photobook pages, photobook styles, and photobook themes recommended according to the user pattern information and the user preferences. And placing the clustered select image information.
삭제delete 제10항에 있어서,
상기 외부 서버는
상기 셀렉 이미지 정보에 대한 안면 인식 결과에 기초하여, 상기 레이아웃에 상기 클러스터링된 셀렉 이미지 정보 각각을 얼굴 중심으로 배치하여 상기 모바일 디바이스로 상기 맞춤형 포토북 서비스를 추천하는 맞춤형 포토북 제작 시스템.
The method of claim 10,
The external server
Based on a face recognition result of the select image information, placing each of the clustered select image information in the layout centered on a face to recommend the customized photobook service to the mobile device.
삭제delete 삭제delete 삭제delete 삭제delete
KR1020170156172A 2017-11-22 2017-11-22 Photo­book production apparatus for recommending user customized photo­book services and the method thereof KR102054300B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020170156172A KR102054300B1 (en) 2017-11-22 2017-11-22 Photo­book production apparatus for recommending user customized photo­book services and the method thereof
CN201810427729.5A CN109815972A (en) 2017-11-22 2018-05-07 Recommend the album making device and its method of Custom Prosthesis album-service

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170156172A KR102054300B1 (en) 2017-11-22 2017-11-22 Photo­book production apparatus for recommending user customized photo­book services and the method thereof

Publications (2)

Publication Number Publication Date
KR20190058847A KR20190058847A (en) 2019-05-30
KR102054300B1 true KR102054300B1 (en) 2019-12-10

Family

ID=66600160

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170156172A KR102054300B1 (en) 2017-11-22 2017-11-22 Photo­book production apparatus for recommending user customized photo­book services and the method thereof

Country Status (2)

Country Link
KR (1) KR102054300B1 (en)
CN (1) CN109815972A (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102116264B1 (en) * 2018-04-02 2020-06-05 카페24 주식회사 Main image recommendation method and apparatus, and system
KR102317195B1 (en) * 2019-12-31 2021-10-25 (주)케이아이에스 Method Of Making Virtual Reality Photo Book By System For Playing Field Study Using Virtual Reality
KR102200909B1 (en) * 2020-01-13 2021-01-11 (주)에스프레소미디어 AI-based image style learning and sharing system
CN111966308A (en) * 2020-08-25 2020-11-20 北京雅昌艺术影像有限公司 Intelligent picture album manufacturing process

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006510113A (en) * 2002-12-12 2006-03-23 イーストマン コダック カンパニー Method for generating customized photo album pages and prints based on person and gender profiles
JP2007199925A (en) 2006-01-25 2007-08-09 Fujifilm Corp Album theme determination device and method, and program
JP2008305275A (en) 2007-06-08 2008-12-18 Fujifilm Corp Album creation device, method and program
JP2016071412A (en) * 2014-09-26 2016-05-09 キヤノン株式会社 Image classification apparatus, image classification system, image classification method, and program

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008005275A (en) * 2006-06-23 2008-01-10 Matsushita Electric Ind Co Ltd Camera position registration device and camera position registration method
KR20090003646A (en) * 2007-07-03 2009-01-12 에스케이네트웍스 주식회사 System and method for providing personalized album production
US20120294514A1 (en) * 2011-05-19 2012-11-22 Xerox Corporation Techniques to enable automated workflows for the creation of user-customized photobooks
EP2894605A4 (en) * 2012-09-03 2016-04-27 Sony Corp Information processing device, information processing method, and program
US8799756B2 (en) * 2012-09-28 2014-08-05 Interactive Memories, Inc. Systems and methods for generating autoflow of content based on image and user analysis as well as use case data for a media-based printable product
KR101841641B1 (en) * 2016-02-15 2018-03-26 (주)유신당피씨에스 Automatic layout photo album Processing System using history

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006510113A (en) * 2002-12-12 2006-03-23 イーストマン コダック カンパニー Method for generating customized photo album pages and prints based on person and gender profiles
JP2007199925A (en) 2006-01-25 2007-08-09 Fujifilm Corp Album theme determination device and method, and program
JP2008305275A (en) 2007-06-08 2008-12-18 Fujifilm Corp Album creation device, method and program
JP2016071412A (en) * 2014-09-26 2016-05-09 キヤノン株式会社 Image classification apparatus, image classification system, image classification method, and program

Also Published As

Publication number Publication date
CN109815972A (en) 2019-05-28
KR20190058847A (en) 2019-05-30

Similar Documents

Publication Publication Date Title
KR102054300B1 (en) Photo­book production apparatus for recommending user customized photo­book services and the method thereof
EP3531370B1 (en) Method for correcting image by device and device therefor
JP6323465B2 (en) Album creating program, album creating method, and album creating apparatus
US10867081B2 (en) Computer aided systems and methods for creating custom products
US9077823B1 (en) Systems and methods for automatically generating a photo-based project having a flush photo montage on the front cover
US9219830B1 (en) Methods and systems for page and spread arrangement in photo-based projects
CN105320428B (en) Method and apparatus for providing image
CN105451846B (en) Method and apparatus for classifying to content
EP3183640B1 (en) Device and method of providing handwritten content in the same
JP2010118056A (en) Device for making album of content and method for making album of content
US20190197364A1 (en) Functional image archiving
US9251404B2 (en) Name bubble handling
CN106557226A (en) Mobile terminal and its control method
CN104917954A (en) Image processor, important person determination method, image layout method as well as program and recording medium
KR102139664B1 (en) System and method for sharing profile image card
CN109716275B (en) Method for displaying images in a multi-dimensional mode based on personalized themes
US11093839B2 (en) Media object grouping and classification for predictive enhancement
US9405500B1 (en) Photo album device and system
WO2013136637A1 (en) Content display processing device, content display processing method, program, and integrated circuit
JP2014016790A (en) Information processing apparatus, information processing method, and program
CN110390086A (en) A kind of method, apparatus and storage medium generating text
KR102301231B1 (en) Method and device for providing image
CN108369797A (en) Display device, display program and display methods
KR20220136938A (en) Method and electronic device to provide sticker based on content input
KR20230053673A (en) Automatic generation of events using machine learning models

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant