KR20190058847A - Photo­book production apparatus for recommending user customized photo­book services and the method thereof - Google Patents

Photo­book production apparatus for recommending user customized photo­book services and the method thereof Download PDF

Info

Publication number
KR20190058847A
KR20190058847A KR1020170156172A KR20170156172A KR20190058847A KR 20190058847 A KR20190058847 A KR 20190058847A KR 1020170156172 A KR1020170156172 A KR 1020170156172A KR 20170156172 A KR20170156172 A KR 20170156172A KR 20190058847 A KR20190058847 A KR 20190058847A
Authority
KR
South Korea
Prior art keywords
photobook
image information
customized
mobile device
service
Prior art date
Application number
KR1020170156172A
Other languages
Korean (ko)
Other versions
KR102054300B1 (en
Inventor
이원주
Original Assignee
(주)스냅스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)스냅스 filed Critical (주)스냅스
Priority to KR1020170156172A priority Critical patent/KR102054300B1/en
Priority to CN201810427729.5A priority patent/CN109815972A/en
Publication of KR20190058847A publication Critical patent/KR20190058847A/en
Application granted granted Critical
Publication of KR102054300B1 publication Critical patent/KR102054300B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Abstract

The present invention relates to a photo book production apparatus for recommending a customized photo book service according to user pattern information and user preference using information on a plurality of images included in a mobile device and a method thereof. The apparatus may classify and cluster information on selected images suitable for photo book production of a plurality of images included in a mobile device through a deep learning method and recommend customized photo book service according to the clustered information on the selected images.

Description

맞춤형 포토북 서비스를 추천하는 포토북 제작 장치 및 그 방법{PHOTO­BOOK PRODUCTION APPARATUS FOR RECOMMENDING USER CUSTOMIZED PHOTO­BOOK SERVICES AND THE METHOD THEREOF}BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a photobook production apparatus and a method thereof for recommending a customized photobook service,

본 발명은 맞춤형 포토북 서비스를 추천하는 포토북 제작 장치 및 그 방법에 관한 것으로, 보다 상세하게는 모바일 디바이스에 포함된 복수의 이미지 정보를 이용하여 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천하는 포토북 제작 장치에 관한 것이다. The present invention relates to a photobook production apparatus and a method thereof for recommending a customized photobook service, and more particularly, to a photobook production apparatus and a method thereof for recommending a customized photobook service by using a plurality of image information included in a mobile device, The present invention relates to a photo book manufacturing apparatus that is recommended.

최근에는 디지털 카메라 또는 휴대폰 카메라로 촬영한 사진들을 인화하여 포토북, 액자, 카드 또는 기프트(gift) 상품 등으로 제작하는 이들이 늘고 있다. 그 중에서 포토북 제작은 예를 들면, 사용자가 소지하는 PC(personal computer), 노트북 컴퓨터(laptop computer), 스마트폰(smart phone), 태블릿(tablet), 웨어러블 컴퓨터(wearable computer) 등의 모바일 디바이스를 이용하여 포토북을 제작하기 위한 테마 및 스타일과 템플릿, 리소스 등을 선택하고, 선택에 따라 상기 모바일 디바이스에 포함된 복수의 이미지 중 임의의 이미지를 선택하여 배치함으로써 수행된다.In recent years, there have been more and more people who print photographs taken with a digital camera or a mobile phone camera, such as photobooks, photo frames, cards, or gift items. Among them, photobook production includes, for example, a mobile device such as a personal computer (PC), a laptop computer, a smart phone, a tablet, and a wearable computer carried by a user Selecting a theme, a style, a template, a resource, and the like for creating a photobook using the selected image, and selecting and arranging any of a plurality of images included in the mobile device according to the selection.

즉, 기존의 사용자는 포토북 제작을 위해, 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 등의 포토북 정보를 선택하고, 각 포토북 정보에 따른 템플릿 및 리소스를 선택하며, 레이아웃에 적합하도록 복수의 이미지를 편집 및 배치하여 포토북을 제작하였다. That is, in order to make a photobook, an existing user selects photobook information such as a photobook size, a number of photobook pages, a photobook style and a photobook theme, selects a template and a resource according to each photobook information, A plurality of images were edited and arranged in accordance with the layout to produce a photobook.

이에, 본 명세서에서는 모바일 디바이스에 포함된 복수의 이미지 정보에 적합한 맞춤형 포토북 서비스를 추천하는 기술을 제안한다. Accordingly, in the present specification, a technique for recommending a customized photobook service suitable for a plurality of image information included in a mobile device is proposed.

미국공개특허 US2017/0132510(2017.05.11 공개), "IDENTIFYING CONTENT ITEMS USING A DEEP­LEARNING MODEL"&Quot; IDENTIFYING CONTENT ITEMS USING A DEEPLEARNING MODEL ", U.S. Published Patent Application No. US2017 / 0132510

본 발명의 목적은 딥러닝(Deep Learning) 기법에 기반하여 모바일 디바이스에 포함된 복수의 이미지 중 포토북 제작에 적합한 셀렉 이미지 정보를 분류하여 클러스터링하고, 클러스터링된 셀렉 이미지 정보에 따른 맞춤형 포토북 서비스를 추천할 수 있는 기술을 제공하고자 한다.It is an object of the present invention to provide a method and system for classifying and clustering SELM image information suitable for photobook production among a plurality of images included in a mobile device based on a Deep Learning technique and providing a customized photobook service according to the clustered SELM image information I would like to provide a recommendable technique.

또한, 본 발명의 목적은 클러스터링 결과에 따라 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보를 추출하고, 셀렉 이미지 정보를 포토북 정보에 맞춤형으로 편집 및 배치하여 포토북 서비스를 추천할 수 있는 기술을 제공하고자 한다. It is also an object of the present invention to extract at least one photobook information of a customized photobook size, a number of photobook pages, a photobook style, and a photobook theme according to a result of clustering, Edit, and arrange a photo book service.

또한, 본 발명의 목적은 셀렉 이미지 정보에 대한 안면 인식 결과에 따라, 셀렉 이미지를 편집하여 위치 및 배치시킬 수 있는 기술을 제공하고자 한다. It is also an object of the present invention to provide a technique capable of editing and positioning and arranging a selec- tive image according to a facial recognition result for selct image information.

본 발명의 실시예에 따른 모바일 디바이스의 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치에 있어서, 상기 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링하는 이미지 셀렉부 및 상기 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천하는 포토북 추천부를 포함한다.A personalized photobook producing apparatus installed in a photobook editing software of a mobile device according to an embodiment of the present invention to provide a photobook service, the apparatus comprising: And a photobook recommending unit for recommending a customized photobook service according to user pattern information and user preference. The photobook recommending unit includes: an image selector unit for sorting and categorizing the select image information suitable for fabrication;

또한, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 포토북 제작에 대한 상기 사용자 패턴 정보를 학습하는 패턴 학습부 및 상기 모바일 디바이스에 생성되는 상기 복수의 이미지 정보에 기초하여 상기 포토북 서비스의 권장을 푸시하는 제어부를 더 포함할 수 있다.In addition, a customized photobook production apparatus according to an embodiment of the present invention includes a pattern learning unit that learns the user pattern information for photobook production, and a pattern learning unit that generates a photobook service based on the plurality of image information generated in the mobile device. And a control unit for pushing the recommendation.

상기 패턴 학습부는 포토북 제작에 대한 사용자의 사용 패턴 및 주문 패턴에 기초하여 상기 사용자 선호도를 획득하고, 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 각각에서의 상기 사용자 선호도에 따른 상기 사용자 패턴 정보를 학습할 수 있다.The pattern learning unit obtains the user preference based on a usage pattern and an order pattern of a user for making a photobook, and stores the user preference in accordance with the user preference in the photobook size, the number of photobook pages, the photobook style, The user pattern information can be learned.

상기 이미지 셀렉부는 상기 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 상기 모바일 디바이스로부터 수신되는 상기 셀렉 이미지 정보를 항목별로 클러스터링할 수 있다. The image selector may cluster the select image information received from the mobile device by item using a Deep Learning technique which is the machine learning algorithm.

상기 이미지 셀렉부는 상기 셀렉 이미지 정보를 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목별로 클러스터링하며, 안면 인식 결과에 따라 인물별로 상기 셀렉 이미지 정보를 클러스터링할 수 있다. The image selec- tory unit clusters the SEL image information according to items such as a theme, an object, a text, a creation date and a location, and clusters the SEL image information according to the facial recognition result.

상기 포토북 추천부는 항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치하여 상기 맞춤형 포토북 서비스를 추천할 수 있다.The photobook recommending unit may include a template selected by at least one of photobook information of a customized photobook size, a number of photobook pages, a photobook style, and a photobook theme according to clustering classified by items, a resource, and a layout Accordingly, the clustered SEL image information can be arranged to recommend the customized photo book service.

상기 포토북 추천부는 상기 이미지 셀렉부에 의해 추출된 안면 인식 결과에 기초하여, 상기 레이아웃에 상기 클러스터링된 셀렉 이미지 정보 각각을 얼굴 중심으로 배치하여 표시할 수 있다.The photobook recommending unit may display each of the clustered selec- tive image information on the layout by centering the face on the basis of the face recognition result extracted by the image selec- tion unit.

상기 제어부는 상기 모바일 디바이스에서 생성되는 상기 복수의 이미지 정보가 분류되어 클러스터링되는 상기 셀렉 이미지 정보에 적합하고, 기 설정된 용량 또는 개수를 초과하는 경우, 상기 모바일 디바이스를 통해 상기 맞춤형 포토북 서비스의 사용을 푸시할 수 있다.Wherein the controller is adapted to use the customized photobook service through the mobile device if the plurality of image information generated by the mobile device is suitable for the selected image information to be classified and clustered and exceeds a preset capacity or number Can be pushed.

상기 제어부는 상기 모바일 디바이스에 포함되는 상기 복수의 이미지 정보를 외부 서버로 전송하고, 상기 외부 서버로부터 상기 복수의 이미지 정보에 대한 분석 결과를 수신하며, 상기 분석 결과를 상기 이미지 셀렉부 및 상기 포토북 추천부에 제공할 수 있다.Wherein the control unit transmits the plurality of pieces of image information included in the mobile device to an external server, receives analysis results of the plurality of pieces of image information from the external server, Can be provided to the recommendation department.

본 발명의 다른 실시예에 따른 맞춤형 포토북 제작 시스템은 복수의 이미지 정보에 따른 맞춤형 포토북 서비스를 표시하여 제공하고, 사용자로부터 선택 입력을 수신하는 모바일 디바이스 및 상기 모바일 디바이스로부터 수신되는 상기 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하여 클러스터링하고, 상기 클러스터링된 셀렉 이미지 정보와 사용자 패턴 정보 및 사용자 선호도에 따른 상기 맞춤형 포토북 서비스를 추천하는 외부 서버를 포함한다.A customized photobook production system according to another embodiment of the present invention is a system for displaying and providing a customized photobook service according to a plurality of image information, comprising: a mobile device for receiving a selection input from a user; And an external server for recommending the customized photobook service according to the user's preference and the clustered selec- tive image information, the user pattern information, .

상기 외부 서버는 상기 사용자 패턴 정보 및 상기 사용자 선호도에 따라 추천되는 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치할 수 있다.The external server may include a template selected by at least one of photobook size, photobook page number, photobook style, and photobook theme recommended according to the user pattern information and the user preference, And the clustered selct image information according to the layout.

상기 외부 서버는 상기 셀렉 이미지 정보에 대한 안면 인식 결과에 기초하여, 상기 레이아웃에 상기 클러스터링된 셀렉 이미지 정보 각각을 얼굴 중심으로 배치하여 상기 모바일 디바이스로 상기 맞춤형 포토북 서비스를 추천할 수 있다.The external server can recommend the customized photobook service to the mobile device by arranging each of the clustered selec- tive image information in the layout on the basis of the facial recognition result for the selct image information.

본 발명의 실시예에 따른 모바일 디바이스의 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치의 동작 방법에 있어서, 상기 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링하는 단계 및 상기 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천하는 단계를 포함한다.A method of operating a customized photo book production apparatus provided with photo book editing software of a mobile device according to an exemplary embodiment of the present invention to provide a photo book service, the method comprising: Classifying and sorting the SEL image information suitable for the photobook production into items, and recommending the customized PHOTOBOOK service according to the clustered SEL image information, the user pattern information, and the user preference.

상기 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링하는 단계는 상기 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 상기 모바일 디바이스로부터 수신되는 상기 셀렉 이미지 정보를 항목별로 클러스터링할 수 있다.The sorting and clustering of the SEL image information items may cluster the SEL image information received from the mobile device by using a Deep Learning technique as the machine learning algorithm.

상기 맞춤형 포토북 서비스를 추천하는 단계는 항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치하여 상기 맞춤형 포토북 서비스를 추천할 수 있다. The step of recommending the customized photobook service includes a template selected by at least one of photobook information of a customized photobook size according to clustering classified by items, a number of photobook pages, a photobook style, and a photobook theme, , The clustered selct image information may be arranged according to the resource and the layout to recommend the customized book service.

본 발명의 실시예에 따르면, 딥러닝(Deep Learning) 기법에 기반하여 모바일 디바이스에 포함된 복수의 이미지 중 포토북 제작에 적합한 셀렉 이미지 정보를 분류하여 클러스터링하고, 클러스터링된 셀렉 이미지 정보에 따른 맞춤형 포토북 서비스를 추천할 수 있다.According to the embodiment of the present invention, it is possible to categorize and categorize the select image information suitable for the photobook production among the plurality of images included in the mobile device based on the Deep Learning technique, Book service can be recommended.

또한, 본 발명의 실시예에 따르면, 클러스터링 결과에 따라 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보를 추출하고, 셀렉 이미지 정보를 포토북 정보에 맞춤형으로 편집 및 배치하여 포토북 서비스를 추천할 수 있다.Further, according to the embodiment of the present invention, at least any one of the photobook information of the customized photobook size, the number of photobook pages, the photobook style, and the photobook theme is extracted according to the clustering result, Can be customized to edit and place the recommendation of the photobook service.

또한, 본 발명의 실시예에 따르면, 셀렉 이미지 정보에 대한 안면 인식 결과에 따라, 셀렉 이미지를 편집하여 위치 및 배치시킬 수 있다. In addition, according to the embodiment of the present invention, the selec- tive image can be edited, positioned, and placed according to the face recognition result for the selec- tive image information.

도 1은 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치의 세부 구성을 설명하기 위해 도시한 것이다.
도 2는 본 발명의 실시예에 따른 클러스터링 예를 도시한 것이다.
도 3a 내지 도 3b는 본 발명의 실시예에 따른 모바일 디바이스의 적용 예를 도시한 것이다.
도 4는 본 발명의 실시예에 따른 포토북 서비스의 구성 예를 도시한 것이다.
도 5는 본 발명의 다른 실시예에 따른 맞춤형 포토북 제작 시스템의 구성을 설명하기 위해 도시한 것이다.
도 6은 본 발명의 실시예에 따른 맞춤형 포토북 제작 방법의 흐름도를 도시한 것이다.
FIG. 1 is a view for explaining a detailed configuration of a customized photobook production apparatus according to an embodiment of the present invention.
Figure 2 illustrates an example of clustering in accordance with an embodiment of the present invention.
3A and 3B show application examples of a mobile device according to an embodiment of the present invention.
4 illustrates an exemplary configuration of a photobook service according to an embodiment of the present invention.
5 is a view for explaining a configuration of a customized photobook production system according to another embodiment of the present invention.
Figure 6 shows a flow chart of a customized photo book production method according to an embodiment of the present invention.

이하, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 또한, 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.Hereinafter, embodiments according to the present invention will be described in detail with reference to the accompanying drawings. However, the present invention is not limited to or limited by the embodiments. In addition, the same reference numerals shown in the drawings denote the same members.

또한, 본 명세서에서 사용되는 용어(terminology)들은 본 발명의 바람직한 실시예를 적절히 표현하기 위해 사용된 용어들로서, 이는 시청자, 운용자의 의도 또는 본 발명이 속하는 분야의 관례 등에 따라 달라질 수 있다. 따라서, 본 용어들에 대한 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. Also, terminologies used herein are terms used to properly represent preferred embodiments of the present invention, which may vary depending on the viewer, the intention of the operator, or the custom in the field to which the present invention belongs. Therefore, the definitions of these terms should be based on the contents throughout this specification.

본 발명은 맞춤형 포토북 서비스를 추천하는 포토북 제작 장치 및 그 방법에 관한 것으로, 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치에 관한 것이다. 예를 들면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 어플리케이션(Application)일 수 있으며, 사용자에 의해 모바일 디바이스에 설치되어 수행되는 것일 수 있다. The present invention relates to a photobook production apparatus and method for recommending a customized photobook service, and a photobook production apparatus provided with photobook editing software for providing a photobook service. For example, a customized photobook production apparatus according to an embodiment of the present invention may be an application, and may be installed and performed by a user on a mobile device.

본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 모바일 디바이스에 저장되어 포함되거나, SNS(Social Networking Service) 상에 연동되어 연관된 복수의 이미지 정보를 이용하여 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천한다. 이 때, 모바일 디바이스는 사용자가 소지하는 단말 기기일 수 있으며, 예를 들면, PC(personal computer), 노트북 컴퓨터(laptop computer), 스마트폰(smart phone), 태블릿(tablet) 및 웨어러블 컴퓨터(wearable computer) 중 적어도 어느 하나일 수 있다.A customized photobook production apparatus according to an embodiment of the present invention may be stored in a mobile device or may be incorporated in a mobile network using a plurality of associated image information linked to an SNS (Social Networking Service) Service is recommended. At this time, the mobile device may be a terminal device possessed by the user and may be a personal computer, a laptop computer, a smart phone, a tablet, and a wearable computer ). ≪ / RTI >

나아가 본 발명의 실시예에 따르면, 사용자가 소지하는 모바일 디바이스에 포토북 편집 소프트웨어로 설치되어 맞춤형 포토북 서비스를 추천하는 기술이나, 다른 실시예에 따라서는 외부 서버에서 모바일 디바이스로 맞춤형 포토북 서비스를 추천할 수도 있다. 예를 들면, 본 발명의 다른 실시예에 따르면, 외부 서버는 모바일 디바이스로부터 수신되는 복수의 이미지 정보를 이용하여 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 생성하고, 이를 모바일 디바이스에 추천할 수도 있다.Further, according to the embodiment of the present invention, a technique of recommending a customized photo book service installed in a mobile device owned by a user by using photo book editing software or a customized photo book service using an external server in a mobile device It may be recommended. For example, according to another embodiment of the present invention, the external server generates a customized photobook service according to user pattern information and user preference using a plurality of image information received from the mobile device, and recommends the photobook service to the mobile device It is possible.

즉, 본 발명은 모바일 디바이스 또는 외부 서버에서 복수의 이미지 정보에 따른 맞춤형 포토북 서비스를 생성할 수 있으며, 이를 모바일 디바이스로 추천할 수 있다. That is, the present invention can create a customized photo book service according to a plurality of pieces of image information in a mobile device or an external server, and recommend it to a mobile device.

이하에서는, 도 1 내지 도 6을 참조하여 본 발명에 대해 상세히 설명하고자 한다. Hereinafter, the present invention will be described in detail with reference to FIGS. 1 to 6. FIG.

도 1은 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치의 세부 구성을 설명하기 위해 도시한 것이다.FIG. 1 is a view for explaining a detailed configuration of a customized photobook production apparatus according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 모바일 디바이스에 포함된 복수의 이미지 정보를 이용하여 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천한다.Referring to FIG. 1, a customized photo book production apparatus according to an exemplary embodiment of the present invention recommends customized photo book service based on user pattern information and user preference using a plurality of image information included in a mobile device.

이를 위해, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치(100)는 이미지 셀렉부(110) 및 포토북 추천부(120)를 포함한다.To this end, the customized photobook production apparatus 100 according to the embodiment of the present invention includes an image selection unit 110 and a photobook recommending unit 120.

이미지 셀렉부(110)는 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링한다.The image selector 110 classifies and clusters the SEL image information suitable for photobook production based on the machine learning algorithm among a plurality of pieces of image information received from the mobile device.

이하에서는 도 2를 참조하여 본 발명의 실시예에 따른 이미지 셀렉부에 대해 상세히 설명하고자 한다.Hereinafter, an image selector according to an embodiment of the present invention will be described in detail with reference to FIG.

도 2는 본 발명의 실시예에 따른 클러스터링 예를 도시한 것이다.Figure 2 illustrates an example of clustering in accordance with an embodiment of the present invention.

도 2를 참조하면, 본 발명의 실시예에 따른 이미지 셀렉부(110)는 기계 학습 알고리즘에 기초하여 모바일 디바이스로부터 수신되는 복수의 이미지 정보(10)를 항목별(A, B, C)로 분류하고, 클러스터링(210, 220, 230)한다.2, an image selector 110 according to an embodiment of the present invention classifies a plurality of pieces of image information 10 received from a mobile device on the basis of a machine learning algorithm into items A, B, and C And clustering (210, 220, 230).

본 발명의 실시예에 따른 이미지 셀렉부(110)는 사용자가 소지하는 모바일 디바이스에 저장되어 포함된 복수의 이미지 정보(10) 또는 모바일 디바이스에 연동된 SNS(Social Networking Service) 상에 복수의 이미지 정보(10) 중 셀렉 이미지 정보(20)를 분류할 수 있다. 이 때, 셀렉 이미지 정보(20)는 포토북 제작에 적합한 이미지 정보일 수 있다. The image selector 110 according to the embodiment of the present invention may store a plurality of image information 10 stored in a mobile device held by a user or a plurality of image information 10 on a social networking service (SNS) It is possible to classify the cell image information 20 among the cell image information 10 as shown in FIG. At this time, the selct image information 20 may be image information suitable for photobook production.

구체적으로, 모바일 디바이스에 저장되어 포함되거나, SNS 상에 연동된 많은 양의 이미지 정보(10) 중에는 접사 사진 또는 중복 사진 중 화질, 해상도가 떨어지는 이미지, 포토북 제작에 적합하지 않거나 중요하지 않은 이미지, 예를 들면 캡쳐 이미지, 업무용 이미지, 확인용 이미지 등이 포함되어 있으므로, 이를 제외시키는 작업이 필요하다. 이에 따라서, 이미지 셀렉부(110)는 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 복수의 이미지 정보(10) 중 포토북 제작에 적합한 셀렉 이미지 정보(20)를 추출할 수 있으며, 추출된 셀렉 이미지 정보(20)를 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목별(A, B, C)로 분류하여 클러스터링(210, 220, 230)할 수 있다. Specifically, among the large amount of image information 10 stored or included in the mobile device or interworking on the SNS, the image quality of the close-up picture or the overlapping picture, the image with low resolution, the image which is not suitable for making a photobook, For example, a capture image, a business image, and an image for confirmation are included, so it is necessary to exclude it. Accordingly, the image selector 110 can extract the selec- tive image information 20 suitable for the photobook production among the plurality of image information 10 by using the Deep Learning technique, which is a machine learning algorithm, The selected cell image information 20 can be classified into clusters 210, 220, and 230 according to the items A, B, and C such as a theme, an object, a text,

예를 들면, 이미지 셀렉부(110)는 여행, 바다, 친구, 단체, 가족 및 독사진 등의 테마 분류, 건물, 장소, 사물 및 사람 등의 오브젝트 분류, 텍스트(Text) 분류, 숫자 분류, 안면 분석을 통한 표정 분류 및 감성 분류 등을 수행할 수 있다. 나아가, 이미지 셀렉부(110)는 분류 또는 항목에 따라 셀렉 이미지 정보(20)를 클러스터링하거나, 생성일 및 지역 등을 이용하여 셀렉 이미지 정보(20)를 클러스터링할 수 있다. 상기 생성일 및 지역(또는 위치)은 불분명한 셀렉 이미지 정보(20)를 객관적으로 분류할 수 있는 명확한 기준이 될 수 있다. For example, the image selection unit 110 may classify a theme such as a trip, a sea, a friend, a group, a family and a poisonous person, an object classification such as a building, a place, an object and a person, a text classification, And the like. Further, the image selector 110 may cluster the selctery information 20 according to the classification or item, or cluster the selektor image information 20 using the generation date and the area. The creation date and region (or location) can be a clear reference for objectively categorizing the unclear selct image information 20.

본 발명의 실시예에 따른 맞춤형 포토북 제작 장치(100)는 포토북 제작에 대한 사용자 패턴 정보를 학습하는 패턴 학습부(140)를 더 포함할 수 있으며, 이미지 셀렉부(110)는 딥러닝 기법을 기반으로 셀렉 이미지 정보(20)를 추출 및 분류하여 클러스터링(210, 220, 230)하는 과정에서, 패턴 학습부(140)로부터 학습된 사용자 패턴 정보 및 사용자 선호도를 활용할 수 있다. The customized photobook production apparatus 100 according to the embodiment of the present invention may further include a pattern learning unit 140 for learning user pattern information on the photobook production. The image selection unit 110 may include a deep learning technique The user pattern information and the user preference learned from the pattern learning unit 140 can be utilized in the process of extracting and classifying the SEL image information 20 and clustering it 210,

예를 들면, 패턴 학습부(140)는 사용자가 포토북을 제작하였던 히스토리(history)에 기반하여 선택하거나 선호했던 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 각각에 대한 사용 패턴 및 주문 패턴을 획득할 수 있고, 이에 따라 사용자 선호도 및 사용자 선호도에 따른 사용자 패턴 정보를 학습할 수 있다. 이에 따라서, 이미지 셀렉부(110)는 사용자 선호도 및 사용자 패턴 정보와, 딥러닝 기법을 이용하여 사용자에 맞춤형으로 셀렉 이미지 정보(20)를 추출 및 분류하여 클러스터링(210, 220, 230)할 수 있다.For example, the pattern learning unit 140 may calculate a usage pattern for each of a photobook size, a number of photobook pages, a photobook style, and a photobook theme based on a history of a user creating a photobook And an order pattern, thereby learning user pattern information according to user preference and user preference. Accordingly, the image selector 110 can extract, sort, and clustering (210, 220, 230) the selec- tive image information 20 customized to the user by using the user preference, the user pattern information, .

도 2를 참조하여 예를 들면, 본 발명의 실시예에 따른 이미지 셀렉부(110)는 복수의 이미지 정보(10) 중 포토북 제작에 적합한 셀렉 이미지 정보(20)를 추출하고, 셀렉 이미지 정보(20) 중 동일한 위치별(A)로 분류하여 위치에 따른 클러스터링(210)을 형성할 수 있으며, 동일한 오브젝트별(B), 예를 들면 파리의 에펠탑, 이탈리아의 피사의 사탑 등으로 분류하여 오브젝트에 따른 클러스터링(220)를 형성할 수 있고, 동일한 생성일(C)로 분류하여 생성일에 따른 클러스터링(230)을 형성할 수도 있다. 또 다른 예로, 본 발명의 실시예에 따른 이미지 셀렉부(110)는 셀렉 이미지 정보(20) 중 안면 인식 결과에 따라 인물별로 셀렉 이미지 정보를 클러스터링할 수 있다. 다만, 셀렉 이미지 정보(20)를 분류 및 클러스터링하는 항목은 이에 한정되지 않는다. 2, the image selector 110 according to the embodiment of the present invention extracts the selftest image information 20 suitable for the photobook production among the plurality of image information 10, The clustering 210 can be classified into the same location A by the same location A and classified by the object B of the same object, for example, the Eiffel tower of Paris, the Leaning Tower of Pisa of Italy, Clustering 220 according to the creation date may be formed, and clustering 230 according to creation days may be formed by classifying the same creation day (C). As another example, the image selector 110 according to the embodiment of the present invention may cluster the SEL image information by the person according to the facial recognition result of the SELF image information 20. [ However, items for sorting and clustering the selcture image information 20 are not limited thereto.

다시 도 1을 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치(100)의 포토북 추천부(120)는 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천한다. Referring again to FIG. 1, the photobook recommending unit 120 of the customized photobook producing apparatus 100 according to the embodiment of the present invention includes clustering selected image information, user pattern information, and customized photobook service Is recommended.

포토북 추천부(120)는 항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 셀렉 이미지를 배치하여 맞춤형 포토북 서비스를 추천할 수 있다. 또한, 포토북 추천부(120)는 클러스터링된 셀렉 이미지 정보를 이용하여 포토북 서비스의 타이틀(title)을 결정할 수 있다. The photobook recommending unit 120 includes a template selected by at least one of photobook information of a customized photobook size according to clustering classified by items, a number of photobook pages, a photobook style, and a photobook theme, And arranging the selec- tive image according to the layout to recommend the customized photo book service. In addition, the photobook recommending unit 120 can determine the title of the photobook service using the clustered selct image information.

예를 들면, 포토북 추천부(120)는 클러스터링된 셀렉 이미지 정보(20)의 특성, 예를 들면 여행 테마에 맞춤형으로 포토북 테마를 설정하고, 커버 종류, 커버 코팅 종류, 내지타입, 제본타입 등의 포토북 스타일, 및 포토북 스타일에 따라 선택된 6x6, 5x7, 8x8, 8x10, A4, 10x10, 12x12 중 적어도 어느 하나의 포토북 사이즈 및 페이지 수를 설정할 수 있다. 이 때, 포토북 추천부(120)는 패턴 학습부(140)로부터 수신되는 사용자 선호도 및 사용자 패턴 정보를 우선적으로 반영하여 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마를 추천하고, 템플릿, 리소스 및 레이아웃의 디자인, 개수 및 배치 형태 등을 추천할 수 있다.For example, the photobook recommending unit 120 sets the theme of the photobook book to be customized to the characteristics of the clustered selec- tive image information 20, for example, a travel theme, and specifies the cover type, cover type, And the number of pages of at least one of 6x6, 5x7, 8x8, 8x10, A4, 10x10, and 12x12 selected according to the photobook style and the photobook style. At this time, the photobook recommending unit 120 preferentially reflects the user preference and the user pattern information received from the pattern learning unit 140 to recommend the photobook size, the number of photobook pages, the photobook style, and the photobook theme , Templates, resources, and layout design, number, and layout.

이후, 포토북 추천부(120)는 포토북 각 페이지에 포함된 템플릿, 리소스, 스티커 및 레이아웃에 따라 여행 테마별로 클러스터링된 셀렉 이미지를 편집 및 배치할 수 있다. 이 때, 포토북 추천부(120)는 이미지 셀렉부(110)에 의해 추출된 안면 인식 결과에 기초하여, 레이아웃에 클러스터링된 셀렉 이미지 각각을 얼굴 중심으로 배치하여 표시할 수 있다. 예를 들면, 포토북 추천부(120)는 페이스 디텍션(face detection) 기술을 통해 추출된 각 셀렉 이미지 내의 얼굴을 포토북 페이지에 포함된 레이아웃의 개수 및 위치에 따라 배치시킬 수 있다. 다만, 셀렉 이미지 내의 복수의 사람이 포함되는 경우 복수의 인원에 대한 얼굴 영역을 추출하고, 추출된 얼굴 영역을 기준으로 레이아웃 내에 배치시킬 수 있다.Thereafter, the photobook recommending unit 120 can edit and arrange the SELECTION images clustered according to travel themes according to the templates, resources, stickers, and layouts included in each page of the photo book. At this time, the photobook recommending unit 120 can display each of the clustered selec- tive images in the layout on the basis of the face recognition result extracted by the image selec- tor 110, and display them. For example, the photobook recommending unit 120 may arrange the faces in each SEL image extracted through the face detection technique according to the number and position of the layout included in the photo book page. However, when a plurality of persons in the selec- tive image are included, it is possible to extract face regions for a plurality of persons and arrange them in the layout based on the extracted face regions.

포토북 추천부(120)는 셀렉 이미지 정보를 이용한 맞춤형 포토북 서비스의 추천 외에, 셀렉 이미지 정보를 이용한 액자, 카드, 머그컵, 텀블러, 핸드폰케이스, 가렌드 등의 상품 종류를 추천할 수 있으며, 장소, 텍스트 등의 이미지 기반, 통계성 데이터의 지표 기반, 클릭수, 추천수, 주문내역, 검색 조건, 행동 패턴 등의 사용자 기반 및 100일, 1주년, 10주년, 기념일 등의 이벤트 기반에 따른 맞춤형 포토북 서비스, 액자, 카드, 머그컵, 텀블러, 핸드폰케이스, 가렌드 등을 추천할 수도 있다.The photobook recommending unit 120 can recommend a product type such as a photo frame, a card, a mug, a tumbler, a cell phone case, a garland, etc. using the selec- tive image information in addition to a recommendation of a customized photobook service using the selec- , Based on images such as texts, index based on statistical data, user base such as clicks, referrals, order history, search conditions, behavior patterns, and customized photo based on events such as 100 days, 1st anniversary, 10th anniversary, Book service, picture frame, card, mug, tumbler, cell phone case, garland etc. can be recommended.

도 1을 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치(100)는 제어부(130)를 더 포함할 수 있으며, 제어부(130)는 모바일 디바이스에 생성되는 복수의 이미지 정보에 기초하여 포토북 서비스의 권장을 푸시할 수 있다. 1, a customized photobook production apparatus 100 according to an exemplary embodiment of the present invention may further include a controller 130. The controller 130 may control the image forming apparatus 100 based on a plurality of pieces of image information generated in the mobile device The recommendation of the photobook service can be pushed.

일 실시 예로, 이미지 셀렉부(110)에서 분류되어 클러스터링되는 셀렉 이미지 정보를 기반으로, 제어부(130)는 클러스터링되는 셀렉 이미지의 용량 또는 개수가 기 설정된 기준을 초과하는 경우, 사용자에게 맞춤형 포토북 서비스의 사용을 푸시할 수 있다. 나아가, 제어부(130)는 클러스터링된 셀렉 이미지 정보에 따른 임시의 포토북 서비스를 안내할 수 있으며, 모바일 디바이스로부터 수신되는 사용자의 선택 입력에 따라 포토북 추천부(120)를 통한 맞춤형 포토북 서비스의 추천을 제어할 수도 있다. In one embodiment, based on the select image information classified and clustered in the image selector 110, the controller 130 may instruct the user to select a customized photo book service Can be pushed. In addition, the control unit 130 may guide the provisional photobook service according to the clustered selec- tive image information. The control unit 130 may provide the photobook service through the photobook recommending unit 120 according to the user's selection input received from the mobile device. You can also control referrals.

다른 예로, 제어부(130)는 사용자가 소지하는 모바일 디바이스에 저장되어 포함된 복수의 이미지 정보 또는 모바일 디바이스에 연동된 SNS(Social Networking Service) 상에 복수의 이미지 정보를 외부 서버로 전송하고, 외부 서버로부터 복수의 이미지 정보에 대한 분석 결과를 수신하며, 분석 결과를 이미지 셀렉부(110) 및 포토북 추천부(120)에 제공할 수 있다. 이 때, 외부 서버에서 수행되는 분석은 복수의 이미지 정보에 따른 항목별 분류 작업, 또는 여행, 바다, 친구, 단체, 가족 및 독사진 등의 테마 분류, 건물, 장소, 사물 및 사람 등의 오브젝트 분류, 텍스트(Text) 분류, 숫자 분류, 안면 분석을 통한 표정 분류 및 감성 분류 등의 작업일 수 있다. Alternatively, the controller 130 may transmit a plurality of pieces of image information stored in the mobile device held by the user or a plurality of pieces of image information on a Social Networking Service (SNS) linked to the mobile device to an external server, And provides analysis results to the image selec- tion unit 110 and the photobook recommending unit 120. The image selecting unit 110 and the photobook recommending unit 120 may be configured to receive the analysis result. In this case, the analysis performed by the external server may be classified according to items of image information, or classified according to theme such as travel, sea, friend, group, family, and poisonous person, object classification such as building, place, Text classification, number classification, facial classification through facial analysis, and emotional classification.

또 다른 예로, 제어부(130)는 포토북 추천부(120)에서 추천되는 포토북 정보에 대응하는 포토북 커버 또는 속지의 리소스, 이미지, 레이아웃, 배경, 스티커, 텍스트 및 템플릿 등을 선택 및 적용할 수 있다. 나아가, 제어부(130)는 모바일 디바이스에 제공되는 맞춤형 포토북 서비스에 대한 사용자의 선택 입력에 따라 포토북 서비스를 편집할 수도 있다. As another example, the control unit 130 may select and apply a photobook cover or inlay resource, image, layout, background, sticker, text and template corresponding to photobook information recommended by the photobook recommending unit 120 . Further, the control unit 130 may edit the photobook service according to the user's selection input for the customized photobook service provided to the mobile device.

도 3a 내지 도 3b는 본 발명의 실시예에 따른 모바일 디바이스의 적용 예를 도시한 것이다.3A and 3B show application examples of a mobile device according to an embodiment of the present invention.

도 3a를 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 셀렉 이미지를 추가 및 배치시킬 수 있다. 3A, a customized photobook production apparatus according to an embodiment of the present invention includes at least any one of a customized photobook size, a number of photobook pages, a photobook style, and a photobook theme according to clustering classified by items A SELECTION IMAGE can be added and arranged according to a template, a resource, and a layout selected by information.

예를 들면, 포토북은 복수의 페이지(310)를 포함하며, 포토북 페이지(310) 각각은 서로 다른 형태, 디자인, 개수 등의 템플릿, 리소스 및 레이아웃을 포함할 수 있다. 이 때, 상기 리소스는 포토북 서비스를 제공하기 위한 이미지, 배경, 스티커 및 텍스트 등일 수 있다. For example, a photobook includes a plurality of pages 310, and each of the photobook pages 310 may include templates, resources, and layouts of different shapes, designs, numbers, and the like. At this time, the resource may be an image, a background, a sticker, and text for providing a photobook service.

도 3b 및 도 3c는 세로 레이아웃에 가로 셀렉 이미지를 배치하는 예를 나타내는 것으로, 포토북 제작에 관련된 종래 기술은 세로 레이아웃(330)에 가로 셀렉 이미지(320)를 자동으로 배치하는 경우, 도 3b에 도시된 바와 같이 전체 셀렉 이미지(320)는 세로 레이아웃(330)의 중앙에 위치하게 되어 셀렉 이미지(320)의 왼쪽 가장자리에 위치하는 인물은 레이아웃에 포함되지 않는다. 3B and 3C show an example of arranging the horizontal selec- tive image in the vertical layout. When the horizontal selec- tive image 320 is automatically arranged in the vertical layout 330, As shown, the entire selec- tive image 320 is located at the center of the vertical layout 330, so that the person located at the left edge of the selec- tive image 320 is not included in the layout.

이에 반해 도 3c를 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 페이스 디텍션(face detection) 기술을 통해 셀렉 이미지(320)에서 인물을 추출하고, 추출된 얼굴을 기준으로 세로 레이아웃(330) 중심에 배치시킬 수 있다. Referring to FIG. 3C, a customized photobook production apparatus according to an embodiment of the present invention extracts a person from the selec- tive image 320 through face detection technology, 330).

실시예에 따라서, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 셀렉 이미지(320)에 포함된 얼굴을 중심으로 크로핑(cropping)하여 레이아웃(330)에 배치시킬 수 있으며, 셀렉 이미지(320) 내에 복수의 인원이 포함된 경우, 복수의 얼굴 영역을 추출하여 레이아웃(330)에 배치시킬 수 있다. 예를 들면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 일반적인 페이지 풀 방식처럼 레이아웃(330)과 셀렉 이미지(320) 비율을 산출하고, 산출 값에 따라 셀렉 이미지(320) 내의 얼굴 영역을 레이아웃(330)의 중앙에 위치시킬 수 있다. 다만, 얼굴 영역을 레이아웃(330) 중심에 배치시키는 경우, 레이아웃(330) 영역 내 빈 공간이 형성될 수 있으므로, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 빈 공간이 없도록 셀렉 이미지(320)를 상/하 또는 좌/우로 이동시키거나 줌인/줌아웃(Zoom In/Out) 방식, 이미지 풀 방식을 사용할 수도 있다. According to an embodiment, a customized photo book production apparatus according to an embodiment of the present invention can crop the face included in the select image 320 and place it in the layout 330, and the select image 320 ), A plurality of face regions can be extracted and arranged in the layout 330. Fig. For example, the customized photobook production apparatus according to the embodiment of the present invention calculates the ratio of the layout 330 and the select image 320 as in the general page pool method, and calculates the face area in the selct image 320 according to the calculated value And can be positioned at the center of the layout 330. [ However, if the face area is arranged at the center of the layout 330, a blank space in the area of the layout 330 may be formed. Therefore, the customized photobook producing apparatus according to the embodiment of the present invention may be configured to include the selct image 320 ) Can be moved up / down or left / right, or a zoom in / out method or an image full method can be used.

도 4는 본 발명의 실시예에 따른 포토북 서비스의 구성 예를 도시한 것이다.4 illustrates an exemplary configuration of a photobook service according to an embodiment of the present invention.

본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 결혼 및 아기 등의 가족, 여행/허니문, 단체 및 졸업 등의 학교/교육의 각 항목별로 분류되어 클러스터링된 셀렉 이미지 정보에 기초하여 템플릿(Template), 리소스 및 레이아웃을 선정하고, 맞춤형 포토북 서비스를 구성할 수 있다.The customized photobook production apparatus according to the embodiment of the present invention is a template for creating a template based on the classified image information classified and grouped by each item of school / education such as family such as marriage and baby, travel / honeymoon, , Resources and layouts, and customized photobook services.

도 4를 참조하면, 멀티폼 템플릿(Multiform template) 내의 페이지 템플릿(Template)들은 복수의 이미지를 포함할 수 있는 레이아웃(Layout)을 포함하며, 이는 구성 가능한 이미지의 수가 정해져 있다. 이에, 본 발명의 실시예에 따른 맞춤형 포토북 제작 장치는 템플릿마다 사용 가능한 레이아웃을 관리하며, 클러스터링된 셀렉 이미지 정보에 따라 레이아웃을 선택 및 적용할 수 있다. 이 때, 각 템플릿에서의 배경, 스티커 및 텍스트 등의 리소스는 변경되지 않으며, 다양한 컨셉(Concept) 및 테마(Thema)에 따라 기 설정된 복수의 레이아웃 형태를 그대로 사용하는 것을 기본으로 한다. Referring to FIG. 4, page templates in a multiform template include a layout that can include a plurality of images, and the number of configurable images is fixed. Accordingly, the customized photobook production apparatus according to the embodiment of the present invention manages the layout usable for each template, and can select and apply a layout according to the clustered selct image information. At this time, the resources such as the background, the sticker, and the text in each template are not changed, and a plurality of predetermined layout forms are used as they are according to various concepts and themes.

다만, 포토북 서비스를 구성하는 분류 항목, 멀티폼 템플릿, 템플릿 및 레이아웃의 종류, 형태 및 스타일은 이에 한정되지 않는다. However, classification items, multi-form templates, templates, and types, forms, and styles of the layout constituting the photobook service are not limited thereto.

도 5는 본 발명의 다른 실시예에 따른 맞춤형 포토북 제작 시스템의 구성을 설명하기 위해 도시한 것이다. 5 is a view for explaining a configuration of a customized photobook production system according to another embodiment of the present invention.

도 5를 참조하면, 본 발명의 실시예에 따른 맞춤형 포토북 제작 시스템(500)은 모바일 디바이스(510) 및 외부 서버(520)를 포함한다. 도 5에서는 보다 명확한 설명을 위해 단수의 모바일 디바이스(510)를 도시하였으나, 단수에 한정되지 아니하며, 복수의 모바일 디바이스(510)와 외부 서버(520) 간의 통신이 수행될 수도 있다. Referring to FIG. 5, a customized photo book production system 500 according to an embodiment of the present invention includes a mobile device 510 and an external server 520. Although FIG. 5 illustrates a single mobile device 510 for the sake of clarity, communication between a plurality of mobile devices 510 and an external server 520 may be performed.

모바일 디바이스(510)는 복수의 이미지 정보에 따른 맞춤형 포토북 서비스를 표시하여 제공하고, 사용자로부터 선택 입력을 수신한다.The mobile device 510 displays and provides a customized photobook service according to a plurality of image information, and receives a selection input from the user.

예를 들면, 모바일 디바이스(510)는 저장되어 포함된 복수의 이미지 정보 또는 연동된 SNS(Social Networking Service) 상에 복수의 이미지 정보를 Ethernet/3G, 4G, 5G의 무선 데이터 통신을 통해 외부 서버(520)로 전송할 수 있다. 또한, 모바일 디바이스(510)는 무선 데이터 통신을 통해 외부 서버(520)로부터 분석 결과에 관련된 정보를 수신할 수 있으며, 사용자로부터 선택 입력을 수신할 수도 있다. 다만, 모바일 디바이스(510)와 외부 서버(520)의 통신은 와이파이(Wi­Fi) 연결인 상태 또는 충전 상태일 경우에 수행되는 것을 기본으로 한다. For example, the mobile device 510 may store a plurality of image information or a plurality of image information on an associated SNS (Social Networking Service) through an Ethernet / 3G, 4G, or 5G wireless data communication to an external server 520). In addition, the mobile device 510 may receive information related to the analysis results from the external server 520 via wireless data communication, and may receive selection inputs from the user. However, the communication between the mobile device 510 and the external server 520 is based on a WiFi connection or a charging state.

실시예에 따라서, 모바일 디바이스(510)는 PC(personal computer), 노트북 컴퓨터(laptop computer), 스마트폰(smart phone), 태블릿(tablet) 및 웨어러블 컴퓨터(wearable computer) 중 적어도 어느 하나일 수 있으며, 디스플레이부(미도시), 메모리부(미도시), 입력부(미도시), 출력부(미도시) 및 통신부/제어부(미도시)를 포함할 수 있다. 이 때, 통신부/제어부는 도 1에 도시된 제어부(130)를 일컫을 수 있다.The mobile device 510 may be at least one of a personal computer (PC), a laptop computer, a smart phone, a tablet, and a wearable computer, (Not shown), a memory unit (not shown), an input unit (not shown), an output unit (not shown), and a communication unit / controller (not shown). In this case, the communication unit / control unit may be referred to as the control unit 130 shown in FIG.

상기 디스플레이부는 맞춤형 포토북 서비스를 구성하는 다수의 아이템들을 포함하는 제1 화면 및 햅틱(haptic) 접촉 또는 택틸(tactile) 접촉에 기초하여 사용자로부터 입력을 수신하는 터치­감지 표면, 센서 또는 센서 집합에 기초하여 기능과 관련된 적어도 하나 이상의 아이템을 포함하는 제2 화면을 표시할 수 있다. The display unit is based on a first screen including a plurality of items making up a customized photo book service and a touch sensitive surface, sensor or sensor set that receives input from a user based on haptic or tactile contact. And display a second screen including at least one item related to the function.

상기 메모리부는 고속 랜덤 액세스 메모리(high­speed random access memory), 자기 디스크, 에스램(SRAM), 디램(DRAM), 롬(ROM), 플래시 메모리 또는 비휘발성 메모리를 포함할 수 있다.The memory unit may include a high speed random access memory, a magnetic disk, an SRAM, a DRAM, a ROM, a flash memory or a non-volatile memory.

상기 입력부는 터치 키보드, 터치 입력, 터치 패드, 다이얼, 슬라이더 스위치, 버튼 등을 포함할 수 있으며, 상기 출력부는 오디오 모듈, 스피커 모듈 또는 부저를 이용하여 경고음을 출력하거나, LED(Light Emitting Diode)를 이용하여 경고등을 점멸할 수 있으며, 진동 모듈을 이용하여 진동을 출력할 수 있다.The input unit may include a touch keyboard, a touch input, a touch pad, a dial, a slider switch, a button, etc. The output unit may output a warning sound using an audio module, a speaker module or a buzzer, The warning light can be blinked by using the vibration module, and the vibration can be outputted by using the vibration module.

상기 통신부/제어부는 전기 신호를 전자기 신호로 변환하거나 전자기 신호로부터 전기 신호를 변환하고, 전자기 신호를 통해 통신 네트워크, 다른 통신 장치 및 외부 장치와 통신할 수 있으며, 프로세서, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서를 포함할 수 있다.The communication unit / control unit may convert an electric signal into an electromagnetic signal, convert an electric signal from the electromagnetic signal, communicate with the communication network, another communication apparatus, and an external apparatus through the electromagnetic signal, and may include a processor, a central processing unit, Or a communication processor.

외부 서버(520)는 모바일 디바이스(510)로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하여 클러스터링하고, 클러스터링된 셀렉 이미지 정보와 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천한다. The external server 520 classifies and categorizes the select image information suitable for photobook production into items based on the machine learning algorithm among the plurality of pieces of image information received from the mobile device 510, And customized photo book service based on user preference.

예를 들면, 외부 서버(520)는 사용자 패턴 정보 및 사용자 선호도에 따라 추천되는 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보와, 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 셀렉 이미지를 배치할 수 있다. 또한, 외부 서버(520)는 셀렉 이미지 정보에 대한 안면 인식 결과에 기초하여, 레이아웃에 클러스터링된 셀렉 이미지 각각을 얼굴 중심으로 배치시킴으로써, 모바일 디바이스로 맞춤형 포토북 서비스를 추천할 수 있다. For example, the external server 520 may determine at least one of the photobook size, the number of photobook pages, the photobook style, and the photobook theme recommended according to the user pattern information and the user preference, Templates, resources and layouts. In addition, the external server 520 can recommend a personalized photo book service to the mobile device by locating each of the clustered selec- tive images in the layout on the basis of the facial recognition result for the selec- tive image information.

보다 구체적으로, 외부 서버(520)는 사용자 정보를 이용한 모바일 디바이스(510)와의 인증 수행 후, 모바일 디바이스(510)로부터 복수의 이미지 정보를 수신할 수 있으며, 빅데이터 모델의 딥러닝(Deep Learning) 기법을 통해 복수의 이미지 정보에 대한 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목을 분석하고, 선명도, 접사 여부, 연사 여부 및 SNS 업로드 여부 등을 분석할 수도 있다.More specifically, the external server 520 can receive a plurality of pieces of image information from the mobile device 510 after authentication with the mobile device 510 using the user information, and can perform deep learning of the big data model, Technique, the theme, object, text, creation date and location of the image information are analyzed, and analysis of sharpness, affinity, presence of speaker, and uploading of SNS can be analyzed.

이후, 외부 서버(520)는 분석 결과에 기초하여 복수의 이미지 정보 중 포토북 제작에 적합한 셀렉 이미지 정보를 추출하고, 추출된 셀렉 이미지 정보를 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목 또는 교환 이미지 파일 형식(EXchangable Image File format; Exif)에 따라 클러스터링할 수 있다. Then, the external server 520 extracts the SEL image information suitable for the photobook production among the plurality of pieces of image information based on the analysis result, and outputs the extracted SEL image information as a theme, an object, a text, Or an EXchangeable Image File format (Exif).

실시예에 따라서, 외부 서버(520)는 클러스터링되는 셀렉 이미지의 용량 또는 개수가 기 설정된 기준을 초과하는 경우, 모바일 디바이스(510)로 맞춤형 포토북 서비스의 사용을 푸시할 수 있다. 나아가, 외부 서버(520)는 모바일 디바이스(510)를 통한 사용자의 선택 입력으로부터 맞춤형 포토북 서비스의 추천을 제어할 수도 있다. According to an embodiment, the external server 520 may push the use of the customized photobook service to the mobile device 510 if the capacity or number of the selectable images to be clustered exceeds a predetermined criterion. Further, the external server 520 may control the recommendation of the customized photobook service from the user ' s selection input via the mobile device 510. [

다른 실시예에 따라서, 외부 서버(520)는 셀렉 이미지 정보를 이용한 맞춤형 포토북 서비스의 추천 외에, 셀렉 이미지 정보를 이용한 액자, 카드, 머그컵, 텀블러, 핸드폰케이스, 가렌드 등의 상품 종류를 모바일 디바이스(510)로 추천할 수 있으며, 장소, 텍스트 등의 이미지 기반, 통계성 데이터의 지표 기반, 클릭수, 추천수, 주문내역, 검색 조건, 행동 패턴 등의 사용자 기반 및 100일, 1주년, 10주년, 기념일 등의 이벤트 기반에 따라 셀렉 이미지 정보를 이용한 맞춤형 포토북 서비스, 액자, 카드, 머그컵, 텀블러, 핸드폰케이스, 가렌드 등을 추천할 수도 있다. According to another embodiment, the external server 520 may provide a recommendation of a customized photobook service using select image information, a product type of a frame, card, mug, tumbler, mobile phone case, (510), and can be recommended as a user base such as an image based on places, texts, index based on statistical data, clicks, recommendation numbers, order details, search conditions and behavior patterns, and 100 days, A photo book service, a photo frame, a card, a mug, a tumbler, a cellular phone case, and a garland may be recommended according to an event basis such as a holiday,

도 6은 본 발명의 실시예에 따른 맞춤형 포토북 제작 방법의 흐름도를 도시한 것이다.Figure 6 shows a flow chart of a customized photo book production method according to an embodiment of the present invention.

도 6에 도시된 방법은 도 1에 도시된 모바일 디바이스의 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치에 의해 수행될 수 있다.The method shown in FIG. 6 can be performed by a customized photobook production apparatus that is installed in the photobook editing software of the mobile device shown in FIG. 1 and provides a photobook service.

단계 610에서, 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링한다. In step 610, the SEL image information suitable for the photobook production is classified and clustered based on the machine learning algorithm among the plurality of pieces of image information received from the mobile device.

단계 610은 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 모바일 디바이스로부터 수신되는 셀렉 이미지 정보를 항목별로 클러스터링하는 단계일 수 있다. 예를 들면, 단계 610은 사용자가 소지하는 모바일 디바이스에 저장되어 포함된 복수의 이미지 정보 또는 모바일 디바이스에 연동된 SNS(Social Networking Service) 상에 복수의 이미지 정보 중 포토북 제작에 적합한 셀렉 이미지 정보를 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목별로 분류하고, 분류 항목에 따라 클러스터링하는 단계일 수 있다.Step 610 may be a step of clustering the SEL image information received from the mobile device by item using a Deep Learning technique which is a machine learning algorithm. For example, in operation 610, a plurality of pieces of image information stored in a mobile device owned by a user or a plurality of pieces of image information on a Social Networking Service (SNS) A theme, an object, a text, a creation date and a location, and clustering according to a classification item.

단계 620에서, 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천한다. In step 620, the clustered selec- tive image information, user pattern information, and customized photobook service according to user preferences are recommended.

단계 620은 항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보와, 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 셀렉 이미지를 배치하여 맞춤형 포토북 서비스를 추천하는 단계일 수 있다. 또한, 단계 620은 클러스터링된 셀렉 이미지 정보를 이용하여 포토북 서비스의 타이틀(title)을 결정할 수 있다. Step 620 includes at least one of the photobook information of at least one of the customized photobook size, the number of photobook pages, the photobook style, and the photobook theme according to the clustering classified by items, the template selected by the photobook information, And recommending the customized photo book service by arranging the selec- tive image according to the layout. In addition, the step 620 may determine the title of the photobook service using the clustered selct image information.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The apparatus described above may be implemented as a hardware component, a software component, and / or a combination of hardware components and software components. For example, the apparatus and components described in the embodiments may be implemented within a computer system, such as, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable array (FPA) A programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. The processing device may also access, store, manipulate, process, and generate data in response to execution of the software. For ease of understanding, the processing apparatus may be described as being used singly, but those skilled in the art will recognize that the processing apparatus may have a plurality of processing elements and / As shown in FIG. For example, the processing unit may comprise a plurality of processors or one processor and one controller. Other processing configurations are also possible, such as a parallel processor.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.The software may include a computer program, code, instructions, or a combination of one or more of the foregoing, and may be configured to configure the processing device to operate as desired or to process it collectively or collectively Device can be commanded. The software and / or data may be in the form of any type of machine, component, physical device, virtual equipment, computer storage media, or device , Or may be permanently or temporarily embodied in a transmitted signal wave. The software may be distributed over a networked computer system and stored or executed in a distributed manner. The software and data may be stored on one or more computer readable recording media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD­ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기­광 매체(magneto­optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method according to an embodiment may be implemented in the form of a program command that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions to be recorded on the medium may be those specially designed and configured for the embodiments or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape, optical media such as CDROMs and DVDs, magnetic optical media such as floppy disks, magnetooptical media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions include machine language code such as those produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like. The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments. For example, it is to be understood that the techniques described may be performed in a different order than the described methods, and / or that components of the described systems, structures, devices, circuits, Lt; / RTI > or equivalents, even if it is replaced or replaced.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are also within the scope of the following claims.

10: 복수의 이미지 정보
20: 셀렉 이미지 정보
100: 맞춤형 포토북 제작 장치
210, 220, 230: 클러스터링
310: 포토북 페이지
320: 셀렉 이미지
330: 레이아웃
500: 맞춤형 포토북 제작 시스템
10: Multiple image information
20: Select image information
100: Customized photobook production device
210, 220, 230: Clustering
310: Photo Book Page
320: Select image
330: Layout
500: Customized Photobook Production System

Claims (16)

모바일 디바이스의 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치에 있어서,
상기 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링하는 이미지 셀렉부; 및
상기 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천하는 포토북 추천부
를 포함하는 맞춤형 포토북 제작 장치.
A customized photobook production apparatus installed in a photobook editing software of a mobile device to provide a photobook service,
An image selector for classifying and sorting the SEL image information suitable for photobook production based on a machine learning algorithm among a plurality of pieces of image information received from the mobile device; And
A photobook recommending section for recommending the customized photobook service according to the user preference and the user pattern information and the clustered selct image information,
And a photographed photo book production device.
제1항에 있어서,
포토북 제작에 대한 상기 사용자 패턴 정보를 학습하는 패턴 학습부; 및
상기 모바일 디바이스에 생성되는 상기 복수의 이미지 정보에 기초하여 상기 포토북 서비스의 권장을 푸시하는 제어부
를 더 포함하는 맞춤형 포토북 제작 장치.
The method according to claim 1,
A pattern learning unit for learning the user pattern information on the photobook production; And
A controller for pushing recommendation of the photobook service based on the plurality of pieces of image information generated in the mobile device
Further comprising: means for generating a customized photobook program.
제2항에 있어서,
상기 패턴 학습부는
포토북 제작에 대한 사용자의 사용 패턴 및 주문 패턴에 기초하여 상기 사용자 선호도를 획득하고, 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 각각에서의 상기 사용자 선호도에 따른 상기 사용자 패턴 정보를 학습하는 맞춤형 포토북 제작 장치.
3. The method of claim 2,
The pattern learning unit
Acquiring the user preference on the basis of a usage pattern and an order pattern of a user for a photobook production, calculating the user pattern information according to the user preference in each of a photobook size, a number of photo book pages, a photo book style, A customized photobook production system for learning.
제1항에 있어서,
상기 이미지 셀렉부는
상기 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 상기 모바일 디바이스로부터 수신되는 상기 셀렉 이미지 정보를 항목별로 클러스터링하는 맞춤형 포토북 제작 장치.
The method according to claim 1,
The image selector
Wherein the select image information received from the mobile device is clustered by item using a Deep Learning technique which is a machine learning algorithm.
제4항에 있어서,
상기 이미지 셀렉부는
상기 셀렉 이미지 정보를 테마, 오브젝트(object), 텍스트, 생성일 및 위치 등의 항목별로 클러스터링하며, 안면 인식 결과에 따라 인물별로 상기 셀렉 이미지 정보를 클러스터링하는 맞춤형 포토북 제작 장치.
5. The method of claim 4,
The image selector
Clustering the SEL image information by items such as a theme, an object, a text, a creation date and a location, and clustering the SEL image information by a person according to a facial recognition result.
제1항에 있어서,
상기 포토북 추천부는
항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치하여 상기 맞춤형 포토북 서비스를 추천하는 맞춤형 포토북 제작 장치.
The method according to claim 1,
The photo book recommending unit
A template selected by at least one of photobook information of a customized photobook size according to clustering classified by items, a number of photobook pages, a photobook style, and a photobook theme, resources, and layout, And arranging image information to recommend the customized photobook service.
제6항에 있어서,
상기 포토북 추천부는
상기 이미지 셀렉부에 의해 추출된 안면 인식 결과에 기초하여, 상기 레이아웃에 상기 클러스터링된 셀렉 이미지 정보 각각을 얼굴 중심으로 배치하여 표시하는 것을 특징으로 하는 맞춤형 포토북 제작 장치.
The method according to claim 6,
The photo book recommending unit
And displays the clustered selec- tive image information on the layout by centering the face on the basis of the face recognition result extracted by the image selec- tion unit.
제2항에 있어서,
상기 제어부는
상기 모바일 디바이스에서 생성되는 상기 복수의 이미지 정보가 분류되어 클러스터링되는 상기 셀렉 이미지 정보에 적합하고, 기 설정된 용량 또는 개수를 초과하는 경우, 상기 모바일 디바이스를 통해 상기 맞춤형 포토북 서비스의 사용을 푸시하는 맞춤형 포토북 제작 장치.
3. The method of claim 2,
The control unit
Wherein the mobile device is adapted to push the use of the customized photobook service through the mobile device if the plurality of image information generated by the mobile device is suitable for the select image information to be classified and clustered and exceeds a predetermined capacity or number, Photobook production device.
제2항에 있어서,
상기 제어부는
상기 모바일 디바이스에 포함되는 상기 복수의 이미지 정보를 외부 서버로 전송하고, 상기 외부 서버로부터 상기 복수의 이미지 정보에 대한 분석 결과를 수신하며, 상기 분석 결과를 상기 이미지 셀렉부 및 상기 포토북 추천부에 제공하는 맞춤형 포토북 제작 장치.
3. The method of claim 2,
The control unit
The image processing method according to claim 1, further comprising: transmitting the plurality of pieces of image information included in the mobile device to an external server, receiving analysis results of the plurality of pieces of image information from the external server, A customized photobook production device provided.
복수의 이미지 정보에 따른 맞춤형 포토북 서비스를 표시하여 제공하고, 사용자로부터 선택 입력을 수신하는 모바일 디바이스; 및
상기 모바일 디바이스로부터 수신되는 상기 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하여 클러스터링하고, 상기 클러스터링된 셀렉 이미지 정보와 사용자 패턴 정보 및 사용자 선호도에 따른 상기 맞춤형 포토북 서비스를 추천하는 외부 서버
를 포함하는 맞춤형 포토북 제작 시스템.
A mobile device displaying and providing a customized photobook service according to a plurality of pieces of image information, and receiving a selection input from a user; And
And classifying and sorting the SEL image information suitable for photobook production based on the machine learning algorithm among the plurality of pieces of image information received from the mobile device and classifying the sorted image information into CLOBs according to the clustered SEL image information, External server recommending customized photo book service
The system comprising:
제10항에 있어서,
상기 외부 서버는
상기 사용자 패턴 정보 및 상기 사용자 선호도에 따라 추천되는 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치하는 맞춤형 포토북 제작 시스템.
11. The method of claim 10,
The external server
Depending on the template selected by at least one of the photobook size, the number of photobook pages, the photobook style and the photobook theme, and the photobook information recommended according to the user pattern information and the user preference, And arranging the clustered selct image information.
제11항에 있어서,
상기 외부 서버는
상기 셀렉 이미지 정보에 대한 안면 인식 결과에 기초하여, 상기 레이아웃에 상기 클러스터링된 셀렉 이미지 정보 각각을 얼굴 중심으로 배치하여 상기 모바일 디바이스로 상기 맞춤형 포토북 서비스를 추천하는 맞춤형 포토북 제작 시스템.
12. The method of claim 11,
The external server
Arranging each of the clustered selec- tive image information in the layout on the basis of a face recognition result of the selec- tive image information to recommend the customized book service to the mobile device.
모바일 디바이스의 포토북 편집 소프트웨어로 설치되어 포토북 서비스를 제공하는 맞춤형 포토북 제작 장치의 동작 방법에 있어서,
상기 모바일 디바이스로부터 수신되는 복수의 이미지 정보 중 기계학습 알고리즘에 기초하여 포토북 제작에 적합한 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링하는 단계; 및
상기 클러스터링된 셀렉 이미지 정보와, 사용자 패턴 정보 및 사용자 선호도에 따른 맞춤형 포토북 서비스를 추천하는 단계
를 포함하는 맞춤형 포토북 제작 방법.
A method of operating a customized photo book production apparatus installed in a photo book editing software of a mobile device to provide a photo book service,
Classifying and sorting the SEL image information suitable for photobook production based on a machine learning algorithm among a plurality of pieces of image information received from the mobile device by items; And
Recommending a customized photobook service according to the clustered selec- tive image information, user pattern information, and user preferences
The method comprising the steps of:
제13항에 있어서,
상기 셀렉 이미지 정보를 항목별로 분류하고, 클러스터링하는 단계는
상기 기계학습 알고리즘인 딥러닝(Deep Learning) 기법을 이용하여 상기 모바일 디바이스로부터 수신되는 상기 셀렉 이미지 정보를 항목별로 클러스터링하는 맞춤형 포토북 제작 방법.
14. The method of claim 13,
The step of classifying and clustering the SEL image information by items
The method of claim 1, wherein the selection information received from the mobile device is clustered by item using a Deep Learning technique that is a machine learning algorithm.
제13항에 있어서,
상기 맞춤형 포토북 서비스를 추천하는 단계는
항목별로 분류된 클러스터링에 따른 맞춤형 포토북 사이즈, 포토북 페이지 수, 포토북 스타일 및 포토북 테마 중 적어도 어느 하나 이상의 포토북 정보에 의해 선택되는 템플릿(Template), 리소스 및 레이아웃에 따라 상기 클러스터링된 셀렉 이미지 정보를 배치하여 상기 맞춤형 포토북 서비스를 추천하는 맞춤형 포토북 제작 방법.
14. The method of claim 13,
The step of recommending the customized photo book service
A template selected by at least one of photobook information of a customized photobook size according to clustering classified by items, a number of photobook pages, a photobook style, and a photobook theme, resources, and layout, And arranging image information to recommend the customized photobook service.
제13항 내지 제15항 중 어느 한 항의 방법을 수행하기 위하여 컴퓨터로 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램.
16. A computer program stored in a computer-readable medium for performing the method of any one of claims 13 to 15.
KR1020170156172A 2017-11-22 2017-11-22 Photo­book production apparatus for recommending user customized photo­book services and the method thereof KR102054300B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020170156172A KR102054300B1 (en) 2017-11-22 2017-11-22 Photo­book production apparatus for recommending user customized photo­book services and the method thereof
CN201810427729.5A CN109815972A (en) 2017-11-22 2018-05-07 Recommend the album making device and its method of Custom Prosthesis album-service

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170156172A KR102054300B1 (en) 2017-11-22 2017-11-22 Photo­book production apparatus for recommending user customized photo­book services and the method thereof

Publications (2)

Publication Number Publication Date
KR20190058847A true KR20190058847A (en) 2019-05-30
KR102054300B1 KR102054300B1 (en) 2019-12-10

Family

ID=66600160

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170156172A KR102054300B1 (en) 2017-11-22 2017-11-22 Photo­book production apparatus for recommending user customized photo­book services and the method thereof

Country Status (2)

Country Link
KR (1) KR102054300B1 (en)
CN (1) CN109815972A (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190119219A (en) * 2018-04-02 2019-10-22 카페24 주식회사 Main image recommendation method and apparatus, and system
KR20210085882A (en) * 2019-12-31 2021-07-08 (주)케이아이에스 Method Of Making Virtual Reality Photo Book By System For Playing Field Study Using Virtual Reality
WO2021145635A1 (en) * 2020-01-13 2021-07-22 (주)에스프레소미디어 Ai-based system for training and sharing image style

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111966308A (en) * 2020-08-25 2020-11-20 北京雅昌艺术影像有限公司 Intelligent picture album manufacturing process

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006510113A (en) * 2002-12-12 2006-03-23 イーストマン コダック カンパニー Method for generating customized photo album pages and prints based on person and gender profiles
JP2007199925A (en) * 2006-01-25 2007-08-09 Fujifilm Corp Album theme determination device and method, and program
JP2008305275A (en) * 2007-06-08 2008-12-18 Fujifilm Corp Album creation device, method and program
KR20090003646A (en) * 2007-07-03 2009-01-12 에스케이네트웍스 주식회사 System and method for providing personalized album production
JP2016071412A (en) * 2014-09-26 2016-05-09 キヤノン株式会社 Image classification apparatus, image classification system, image classification method, and program
KR20170095543A (en) * 2016-02-15 2017-08-23 (주)유신당피씨에스 Automatic layout photo album Processing System using history

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008005275A (en) * 2006-06-23 2008-01-10 Matsushita Electric Ind Co Ltd Camera position registration device and camera position registration method
US20120294514A1 (en) * 2011-05-19 2012-11-22 Xerox Corporation Techniques to enable automated workflows for the creation of user-customized photobooks
JP6065913B2 (en) * 2012-09-03 2017-01-25 ソニー株式会社 Information processing apparatus, information processing method, and program
US8799756B2 (en) * 2012-09-28 2014-08-05 Interactive Memories, Inc. Systems and methods for generating autoflow of content based on image and user analysis as well as use case data for a media-based printable product

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006510113A (en) * 2002-12-12 2006-03-23 イーストマン コダック カンパニー Method for generating customized photo album pages and prints based on person and gender profiles
JP2007199925A (en) * 2006-01-25 2007-08-09 Fujifilm Corp Album theme determination device and method, and program
JP2008305275A (en) * 2007-06-08 2008-12-18 Fujifilm Corp Album creation device, method and program
KR20090003646A (en) * 2007-07-03 2009-01-12 에스케이네트웍스 주식회사 System and method for providing personalized album production
JP2016071412A (en) * 2014-09-26 2016-05-09 キヤノン株式会社 Image classification apparatus, image classification system, image classification method, and program
KR20170095543A (en) * 2016-02-15 2017-08-23 (주)유신당피씨에스 Automatic layout photo album Processing System using history

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
미국공개특허 US2017/0132510(2017.05.11 공개), "IDENTIFYING CONTENT ITEMS USING A DEEP­LEARNING MODEL"

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190119219A (en) * 2018-04-02 2019-10-22 카페24 주식회사 Main image recommendation method and apparatus, and system
KR20210085882A (en) * 2019-12-31 2021-07-08 (주)케이아이에스 Method Of Making Virtual Reality Photo Book By System For Playing Field Study Using Virtual Reality
WO2021145635A1 (en) * 2020-01-13 2021-07-22 (주)에스프레소미디어 Ai-based system for training and sharing image style

Also Published As

Publication number Publication date
KR102054300B1 (en) 2019-12-10
CN109815972A (en) 2019-05-28

Similar Documents

Publication Publication Date Title
EP3531370B1 (en) Method for correcting image by device and device therefor
KR102054300B1 (en) Photo­book production apparatus for recommending user customized photo­book services and the method thereof
US8929669B2 (en) Image evaluation apparatus that calculates an importance degree of each of a plurality of images
US9219830B1 (en) Methods and systems for page and spread arrangement in photo-based projects
US9077823B1 (en) Systems and methods for automatically generating a photo-based project having a flush photo montage on the front cover
JP6323465B2 (en) Album creating program, album creating method, and album creating apparatus
CN104917954B (en) Image processing apparatus, very important person's determination method, image layout method and recording medium
US8358902B2 (en) Apparatus, method and program for image search
US10410108B2 (en) Systems, methods, and computer program products for searching and sorting images by aesthetic quality personalized to users or segments
JP2010118056A (en) Device for making album of content and method for making album of content
CN104065869A (en) Method for displaying image combined with playing audio in an electronic device
CN106557226A (en) Mobile terminal and its control method
US20150143236A1 (en) Generating photo albums from unsorted collections of images
JP2020115294A (en) Image candidate determination device, image candidate determination method, program controlling image candidate determination device, and storage media storing program thereof
CN102065196A (en) Information processing apparatus, information processing method, and program
US10162879B2 (en) Label filters for large scale multi-label classification
CN110929065A (en) Image processing apparatus, image processing method, and image processing program
US10621475B2 (en) Support vector machine prediction method
JP6896608B2 (en) Information presentation devices, methods and programs
CN104216626B (en) A kind of image acquiring method and electronic equipment
KR20220136938A (en) Method and electronic device to provide sticker based on content input
KR101545386B1 (en) Method and system for producing photo album
KR20150096552A (en) System and method for providing online photo gallery service by using photo album or photo frame
CN109062995A (en) A kind of social activity plan opens up the personalized recommendation algorithm of drawing board (Board) cover on network
KR20110012602A (en) Apparatus and method for classifying photograph

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant