KR20210122586A - Apparatus, method and computer program for recommending photo - Google Patents

Apparatus, method and computer program for recommending photo Download PDF

Info

Publication number
KR20210122586A
KR20210122586A KR1020200039923A KR20200039923A KR20210122586A KR 20210122586 A KR20210122586 A KR 20210122586A KR 1020200039923 A KR1020200039923 A KR 1020200039923A KR 20200039923 A KR20200039923 A KR 20200039923A KR 20210122586 A KR20210122586 A KR 20210122586A
Authority
KR
South Korea
Prior art keywords
photos
photo
information
score
recommendation
Prior art date
Application number
KR1020200039923A
Other languages
Korean (ko)
Inventor
김종성
권재철
김민철
Original Assignee
주식회사 케이티
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 케이티 filed Critical 주식회사 케이티
Priority to KR1020200039923A priority Critical patent/KR20210122586A/en
Publication of KR20210122586A publication Critical patent/KR20210122586A/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/245Query processing
    • G06F16/2457Query processing with adaptation to user needs
    • G06F16/24578Query processing with adaptation to user needs using ranking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/24Querying
    • G06F16/248Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/28Databases characterised by their database models, e.g. relational or object models
    • G06F16/284Relational databases
    • G06F16/285Clustering or classification
    • G06F16/287Visualization; Browsing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/903Querying
    • G06F16/9032Query formulation
    • G06F16/90324Query formulation using system suggestions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Business, Economics & Management (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Tourism & Hospitality (AREA)
  • Software Systems (AREA)
  • Human Resources & Organizations (AREA)
  • Artificial Intelligence (AREA)
  • General Business, Economics & Management (AREA)
  • General Health & Medical Sciences (AREA)
  • Economics (AREA)
  • Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Marketing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Strategic Management (AREA)
  • Computing Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

The present invention provides a photo recommendation device, method, and computer program for collecting feedback information on a user's photo and recommending a photo, which can reflect personal preference information by performing reinforcement learning on a policy table based on feedback information. The photo recommendation device comprises: a collection unit for collecting user reaction information and quality standard information for a plurality of photos; a score derivation unit for deriving scores for the plurality of photos based on the collected user reaction information and the collected quality reference information; an object extraction unit for extracting an object from the plurality of photos; and a recommendation unit for recommending at least one among the plurality of photos based on a recommendation policy table learned based on the derived score and the extracted object.

Description

사진을 추천하는 사진 추천 장치, 방법 및 컴퓨터 프로그램{APPARATUS, METHOD AND COMPUTER PROGRAM FOR RECOMMENDING PHOTO}PHOTO RECOMMENDATION DEVICE, METHOD AND COMPUTER PROGRAM FOR RECOMMENDING PHOTO

본 발명은 사진을 추천하는 사진 추천 장치, 방법 및 컴퓨터 프로그램에 관한 것이다.The present invention relates to a photo recommendation apparatus, method and computer program for recommending photos.

사용자에게 사진을 추천하기 위한 여러 가지 방법들이 존재한다. 일 예로, 사용자의 사진 선택 패턴에 기초하여 사진을 추천하는 방법은 사용자가 과거에 사진을 선택한 데이터를 패턴화하여 분석하고 사용자가 선호하는 사진의 색상 및 방향에 관한 정보를 추출하여 이를 이용해 사진을 추천하는 방식이다.There are several methods for recommending photos to a user. As an example, in a method of recommending a photo based on a user's photo selection pattern, data from which a user has selected a photo in the past is patterned and analyzed, and information about the color and direction of a photo preferred by the user is extracted and used to select a photo. the recommended method.

사진의 색상 정보만으로는 여러 사진을 구분하기 어려우므로, 사용자가 선호하는 사진을 추천하기에 어려움이 있다. 예를 들어, 하늘을 포함하는 사진과 바다를 포함하는 사진과 같이 색감이 비슷한 사진을 구분하기 어려우며, 인물을 포함하는 사진의 경우 어떤 인물이 포함되는 사진을 선호하는지 파악하기에 한계가 있다.Since it is difficult to distinguish several photos using only the color information of the photo, it is difficult to recommend a photo preferred by the user. For example, it is difficult to distinguish a photograph with similar colors, such as a photograph including the sky and a photograph including the sea, and there is a limit to determining which person is preferred for a photograph including a person.

이외에도 얼굴 인식 정보, 사진과 관련된 시간 정보 및 공간 정보 등을 활용한 사진 추천 방법이 있으나, 종래의 방법들은 사용자마다 선호하는 사진 정보를 효과적으로 반영하여 추천하기 어렵다는 한계점이 존재하였다.In addition, there is a photo recommendation method using face recognition information, photo-related temporal information, and spatial information. However, conventional methods have a limitation in that it is difficult to recommend by effectively reflecting the photo information preferred by each user.

미국공개특허공보 제 2017-0185669호 (2017.06.29. 공개)US Patent Publication No. 2017-0185669 (published on June 29, 2017)

본 발명은 전술한 종래 기술의 문제점을 해결하기 위한 것으로서, 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하여 복수의 사진에 대한 스코어를 도출하고, 복수의 사진으로부터 객체를 추출하고, 스코어 및 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 복수의 사진 중 적어도 하나의 사진을 추천하고자 한다.The present invention is to solve the problems of the prior art described above, by collecting user reaction information and quality criterion information for a plurality of photos to derive scores for a plurality of photos, extract objects from the plurality of photos, and score and recommending at least one photo among a plurality of photos based on the recommendation policy table learned based on the object.

사용자의 사진에 대한 피드백 정보를 수집하고 피드백 정보에 기초하여 정책 테이블에 대한 강화 학습을 수행함으로써 개인의 선호 정보를 반영할 수 있는 사진을 추천하는 사진 추천 장치, 방법 및 컴퓨터 프로그램을 제공하고자 한다.An object of the present invention is to provide a photo recommendation apparatus, method, and computer program for recommending photos that can reflect personal preference information by collecting feedback information on a user's photo and performing reinforcement learning on a policy table based on the feedback information.

다만, 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.However, the technical problems to be achieved by the present embodiment are not limited to the technical problems described above, and other technical problems may exist.

상술한 기술적 과제를 달성하기 위한 수단으로서, 본 발명의 일 실시예는, 사진을 추천하는 사진 추천 장치에 있어서, 상기 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하는 수집부, 상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하는 스코어 도출부, 상기 복수의 사진으로부터 객체를 추출하는 객체 추출부 및 상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 추천부를 포함할 수 있다.As a means for achieving the above-described technical problem, an embodiment of the present invention provides a photo recommendation device for recommending a photo, a collecting unit collecting user reaction information and quality reference information for the plurality of photos, the collecting A score derivation unit for deriving a score for the plurality of photos based on the user reaction information and the collected quality reference information, an object extracting unit for extracting an object from the plurality of photos, and the derived score and the extracted object and a recommender for recommending at least one of the plurality of photos based on the learned recommendation policy table.

일 실시예에서, 상기 스코어 도출부는 상기 사용자 반응 정보에 기초하여 상기 복수의 사진 각각에 대한 반응 스코어를 도출하는 반응 스코어 도출부; 및In one embodiment, the score deriving unit reaction score deriving unit for deriving a reaction score for each of the plurality of photos based on the user reaction information; and

상기 품질 기준 정보에 기초하여 상기 복수의 사진 각각에 대한 품질 스코어를 도출하는 품질 스코어 도출부를 포함할 수 있다.and a quality score deriving unit for deriving a quality score for each of the plurality of photos based on the quality reference information.

일 실시예에서, 상기 수집부는 상기 복수의 사진에 대한 사용자의 반응 영상을 더 수집하고, 상기 반응 스코어 도출부는 상기 복수의 사진 각각에 대한 응시 시간 정보 및 상기 반응 영상으로부터 인식된 표정 정보를 포함하는 상기 사용자 반응 정보에 기초하여 상기 반응 스코어를 도출할 수 있다.In one embodiment, the collection unit further collects a reaction image of the user to the plurality of photos, and the reaction score derivation unit includes gaze time information for each of the plurality of photos and facial expression information recognized from the reaction image The reaction score may be derived based on the user reaction information.

일 실시예에서, 상기 품질 스코어 도출부는 상기 복수의 사진 각각에 대한 구도, 선명도, 밝기 및 색상 중 적어도 하나를 포함하는 상기 품질 기준 정보에 기초하여 상기 품질 스코어를 도출할 수 있다.In an embodiment, the quality score deriving unit may derive the quality score based on the quality criterion information including at least one of composition, sharpness, brightness, and color for each of the plurality of photos.

일 실시예에서, 상기 객체 추출부는 상기 복수의 사진으로부터 기설정된 클래스에 해당하는 객체를 추출하고, 상기 기설정된 클래스는 얼굴을 포함하는 인물 클래스 및 상기 얼굴을 제외한 사물을 포함하는 사물 클래스 중 적어도 하나를 포함할 수 있다.In an embodiment, the object extraction unit extracts an object corresponding to a preset class from the plurality of photos, and the preset class is at least one of a person class including a face and an object class including an object excluding the face. may include.

일 실시예에서, 상기 추천부는 상기 도출한 스코어 및 상기 추출한 객체에 기초하여 상기 복수의 사진 각각에 대한 비트스트림(bit stream)을 생성하는 비트스트림 생성부, 상기 생성된 비트스트림에 기초하여 상기 복수의 사진을 매트릭스 형태로 정렬하는 정렬부 및 상기 매트릭스 형태로 정렬된 상기 복수의 사진을 상기 추천 정책 테이블에 매핑시킴으로써 상기 추천 정책 테이블을 관리하는 테이블 관리부를 포함할 수 있다.In an embodiment, the recommendation unit includes a bitstream generation unit for generating a bitstream for each of the plurality of photos based on the derived score and the extracted object, and the plurality of pieces based on the generated bitstream. It may include an arranging unit for arranging the photos of the matrix form, and a table management unit for managing the recommendation policy table by mapping the plurality of photos arranged in the matrix form to the recommendation policy table.

일 실시예에서, 상기 수집부는 상기 추천된 사진에 대한 피드백 정보를 더 수집할 수 있다.In an embodiment, the collecting unit may further collect feedback information on the recommended photo.

일 실시예에서, 상기 테이블 관리부는 상기 수집된 피드백 정보에 기초하여 상기 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다.In an embodiment, the table manager may perform reinforcement learning on the recommendation policy table based on the collected feedback information.

일 실시예에서, 상기 추천부는 상기 강화 학습이 수행된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천할 수 있다.In an embodiment, the recommendation unit may recommend at least one photo among the plurality of photos based on a recommendation policy table on which the reinforcement learning is performed.

본 발명의 다른 실시예는, 사진을 추천하는 방법에 있어서, 상기 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하는 단계, 상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하는 단계, 상기 복수의 사진으로부터 객체를 추출하는 단계 및 상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 단계를 포함할 수 있다.Another embodiment of the present invention provides a method for recommending a photo, comprising: collecting user reaction information and quality standard information for the plurality of photos; based on the collected user reaction information and the collected quality standard information Deriving a score for the plurality of photos, extracting an object from the plurality of photos, and at least one of the plurality of photos based on a recommendation policy table learned based on the derived score and the extracted object It may include a step of recommending a photo.

본 발명의 또 다른 실시예는, 사진을 추천하는 명령어들의 시퀀스를 포함하는 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램에 있어서, 상기 컴퓨터 프로그램은 컴퓨팅 장치에 의해 실행될 경우, 상기 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하고, 상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하고, 상기 복수의 사진으로부터 객체를 추출하고, 상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하도록 하는 명령어들의 시퀀스를 포함할 수 있다.Another embodiment of the present invention is a computer program stored in a computer readable recording medium including a sequence of instructions for recommending a picture, when the computer program is executed by a computing device, a user reaction to the plurality of pictures Collect information and quality criterion information, derive scores for the plurality of photos based on the collected user reaction information and the collected quality criterion information, extract an object from the plurality of photos, and the derived score and a sequence of commands for recommending at least one photo among the plurality of photos based on a recommendation policy table learned based on the extracted object.

상술한 과제 해결 수단은 단지 예시적인 것으로서, 본 발명을 제한하려는 의도로 해석되지 않아야 한다. 상술한 예시적인 실시예 외에도, 도면 및 발명의 상세한 설명에 기재된 추가적인 실시예가 존재할 수 있다.The above-described problem solving means are merely exemplary, and should not be construed as limiting the present invention. In addition to the exemplary embodiments described above, there may be additional embodiments described in the drawings and detailed description.

전술한 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 본 발명은 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하여 복수의 사진에 대한 스코어를 도출하고, 복수의 사진으로부터 객체를 추출하고, 스코어 및 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 복수의 사진 중 적어도 하나의 사진을 추천할 수 있다.According to any one of the above-described problem solving means of the present invention, the present invention collects user reaction information and quality reference information for a plurality of photos to derive scores for a plurality of photos, extracts objects from the plurality of photos, , a score, and at least one photo among a plurality of photos may be recommended based on the learned recommendation policy table based on the object.

또한, 사용자의 사진에 대한 피드백 정보를 수집하고 피드백 정보에 기초하여 정책 테이블에 대한 강화 학습을 수행함으로써 개인의 선호 정보를 반영하여 사진을 추천할 수 있다.In addition, by collecting feedback information on a user's photo and performing reinforcement learning on a policy table based on the feedback information, a photo may be recommended by reflecting personal preference information.

또한, 추천된 사진 정보를 이용하여 새로운 콘텐츠를 생성하는 서비스를 제공할 수 있다.In addition, a service for generating new content by using the recommended photo information may be provided.

도 1은 본 발명의 일 실시예에 따른 사진 추천 장치의 구성도이다.
도 2는 본 발명의 일 실시예에 따라 품질 스코어를 도출하는 방법을 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시예에 따라 품질 스코어를 도출하는 방법을 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 사진 추천 방법의 순서도이다.
도 5는 본 발명의 일 실시예에 따른 사진 추천 방법의 순서도이다.
도 6은 본 발명의 일 실시예에 따라 사진을 추천하는 방법을 설명하기 위한 도면이다.
1 is a block diagram of a photo recommendation apparatus according to an embodiment of the present invention.
2 is a diagram for explaining a method of deriving a quality score according to an embodiment of the present invention.
3 is a diagram for explaining a method of deriving a quality score according to an embodiment of the present invention.
4 is a flowchart of a photo recommendation method according to an embodiment of the present invention.
5 is a flowchart of a photo recommendation method according to an embodiment of the present invention.
6 is a diagram for explaining a method of recommending a photo according to an embodiment of the present invention.

아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those of ordinary skill in the art can easily implement them. However, the present invention may be embodied in many different forms and is not limited to the embodiments described herein. And in order to clearly explain the present invention in the drawings, parts irrelevant to the description are omitted, and similar reference numerals are attached to similar parts throughout the specification.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미하며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.Throughout the specification, when a part is "connected" with another part, this includes not only the case of being "directly connected" but also the case of being "electrically connected" with another element interposed therebetween. . Also, when a part "includes" a component, it means that other components may be further included, rather than excluding other components, unless otherwise stated, and one or more other features However, it is to be understood that the existence or addition of numbers, steps, operations, components, parts, or combinations thereof is not precluded in advance.

본 명세서에 있어서 '부(部)'란, 하드웨어에 의해 실현되는 유닛(unit), 소프트웨어에 의해 실현되는 유닛, 양방을 이용하여 실현되는 유닛을 포함한다. 또한, 1 개의 유닛이 2 개 이상의 하드웨어를 이용하여 실현되어도 되고, 2 개 이상의 유닛이 1 개의 하드웨어에 의해 실현되어도 된다. 한편, '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니며, '~부'는 어드레싱 할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다.In this specification, a "part" includes a unit realized by hardware, a unit realized by software, and a unit realized using both. In addition, one unit may be implemented using two or more hardware, and two or more units may be implemented by one hardware. Meanwhile, '~ unit' is not limited to software or hardware, and '~ unit' may be configured to be in an addressable storage medium or may be configured to reproduce one or more processors. Thus, as an example, '~' denotes components such as software components, object-oriented software components, class components, and task components, and processes, functions, properties, and procedures. , subroutines, segments of program code, drivers, firmware, microcode, circuitry, data, databases, data structures, tables, arrays and variables. The functions provided in the components and '~ units' may be combined into a smaller number of components and '~ units' or further separated into additional components and '~ units'. In addition, components and '~ units' may be implemented to play one or more CPUs in a device or secure multimedia card.

이하에서 언급되는 "네트워크"는 단말들 및 서버들과 같은 각각의 노드 상호 간에 정보 교환이 가능한 연결 구조를 의미하는 것으로, 근거리 통신망(LAN: Local Area Network), 광역 통신망(WAN: Wide Area Network), 인터넷 (WWW: World Wide Web), 유무선 데이터 통신망, 전화망, 유무선 텔레비전 통신망 등을 포함한다. 무선 데이터 통신망의 일례에는 3G, 4G, 5G, 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution), WIMAX(World Interoperability for Microwave Access), 와이파이(Wi-Fi), 블루투스 통신, 적외선 통신, 초음파 통신, 가시광 통신(VLC: Visible Light Communication), 라이파이(LiFi) 등이 포함되나 이에 한정되지는 않는다.The "network" referred to below means a connection structure in which information can be exchanged between each node, such as terminals and servers, and a local area network (LAN), a wide area network (WAN) , the Internet (WWW: World Wide Web), wired and wireless data networks, telephone networks, wired and wireless television networks, and the like. Examples of wireless data communication networks include 3G, 4G, 5G, 3rd Generation Partnership Project (3GPP), Long Term Evolution (LTE), World Interoperability for Microwave Access (WIMAX), Wi-Fi, Bluetooth communication, infrared communication, ultrasound Communication, Visible Light Communication (VLC), LiFi, etc. are included, but are not limited thereto.

본 명세서에 있어서 단말 또는 디바이스가 수행하는 것으로 기술된 동작이나 기능 중 일부는 해당 단말 또는 디바이스와 연결된 서버에서 대신 수행될 수도 있다. 이와 마찬가지로, 서버가 수행하는 것으로 기술된 동작이나 기능 중 일부도 해당 서버와 연결된 단말 또는 디바이스에서 수행될 수도 있다.Some of the operations or functions described as being performed by the terminal or device in the present specification may be instead performed by a server connected to the terminal or device. Similarly, some of the operations or functions described as being performed by the server may also be performed in a terminal or device connected to the server.

이하 첨부된 도면을 참고하여 본 발명의 일 실시예를 상세히 설명하기로 한다.Hereinafter, an embodiment of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 일 실시예에 따른 사진 추천 장치의 구성도이다. 도 1을 참조하면, 사진 추천 장치(100)는 사진 저장부(110), 수집부(120), 스코어 도출부(130), 객체 추출부(140) 및 추천부(150)를 포함할 수 있다.1 is a block diagram of a photo recommendation apparatus according to an embodiment of the present invention. Referring to FIG. 1 , the photo recommendation apparatus 100 may include a photo storage unit 110 , a collection unit 120 , a score derivation unit 130 , an object extraction unit 140 , and a recommendation unit 150 . .

사진 추천 장치(100)는 복수의 사진으로부터 사진을 추천할 수 있다. 사진 추천 장치(100)는 예를 들어, 복수의 사진 중에서 하나 이상의 사진을 선별함으로써 사용자의 선호 정보를 반영하여 사진을 추천할 수 있다. 사진 추천 장치(100)는 사용자의 복수의 사진을 저장하고, 저장 중인 복수의 사진에서 사진을 추천할 수 있는 사용자 단말일 수 있고, 사용자 단말로부터 복수의 사진 또는 복수의 사진에 대한 정보를 수신하고, 수신된 정보에 기초하여 사진을 추천할 수 있는 서버일 수 있다.The photo recommendation apparatus 100 may recommend a photo from a plurality of photos. The photo recommendation apparatus 100 may recommend a photo by reflecting the user's preference information by selecting one or more photos from among a plurality of photos, for example. The photo recommendation apparatus 100 may be a user terminal capable of storing a plurality of photos of the user and recommending photos from the plurality of photos being stored, receiving a plurality of photos or information on the plurality of photos from the user terminal, and , it may be a server capable of recommending a photo based on the received information.

사진 저장부(110)는 복수의 사진을 저장할 수 있다. 사진 저장부(110)는 예를 들어, 사용자 단말, 외부 서버, 클라우드 또는 외부 장치로부터 복수의 사진을 전송받아 저장할 수 있다.The photo storage unit 110 may store a plurality of photos. The photo storage unit 110 may receive and store a plurality of photos, for example, from a user terminal, an external server, a cloud, or an external device.

수집부(120)는 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집할 수 있다.The collection unit 120 may collect user reaction information and quality reference information for a plurality of photos.

수집부(120)는 복수의 사진에 대한 사용자의 반응 영상을 더 수집할 수 있다. 사용자의 반응 영상은 예를 들어, 복수의 사진이 사용자 단말의 디스플레이를 통해 출력되는 동안에 사용자 단말에 부착된 카메라를 이용하여 촬영한 사용자의 얼굴 영상일 수 있다.The collection unit 120 may further collect the reaction image of the user to the plurality of photos. The reaction image of the user may be, for example, a face image of the user captured using a camera attached to the user terminal while a plurality of photos are output through the display of the user terminal.

사용자 반응 정보는 복수의 사진에 대한 사용자의 반응 영상에 기초하여 도출된 것일 수 있다. 사용자 반응 정보는 예를 들어, 복수의 사진 각각에 대한 응시 시간 정보 및 반응 영상으로부터 인식된 표정 정보를 포함할 수 있다.The user reaction information may be derived based on the user's reaction image to the plurality of photos. The user reaction information may include, for example, gaze time information for each of a plurality of photos and facial expression information recognized from a reaction image.

다른 실시예에서, 사진 추천 장치(100)는 복수의 사진에 대한 사용자의 반응 영상을 수집하고, 사진 추천 장치(100)가 사용자의 반응 영상으로부터 사용자 반응 정보를 도출할 수 있다.In another embodiment, the photo recommendation apparatus 100 may collect reaction images of the user to a plurality of photos, and the photo recommendation apparatus 100 may derive user reaction information from the user reaction images.

예를 들어, 사진 추천 장치(100)는 복수의 사진에 대한 사용자의 반응 영상으로부터 사용자의 얼굴 영상을 검출할 수 있다. 사진 추천 장치(100)는 사용자의 얼굴 부분에 포함되는 사용자의 표정 정보를 도출할 수 있다. 사진 추천 장치(100)는 사용자의 얼굴 영상으로부터 복수의 표정 중 어느 하나에 해당할 확률값에 기초하여 사용자의 표정 정보를 도출할 수 있다. 복수의 표정은 예를 들어, 무표정, 미소, 웃음, 화남, 슬픔 중 하나 이상을 포함할 수 있다.For example, the photo recommendation apparatus 100 may detect the user's face image from the user's reaction image to a plurality of photos. The photo recommendation apparatus 100 may derive facial expression information of the user included in the user's face part. The photo recommendation apparatus 100 may derive expression information of the user from the user's face image based on a probability value corresponding to any one of a plurality of expressions. The plurality of facial expressions may include, for example, one or more of an expressionless expression, a smile, a smile, an anger, and a sadness.

품질 기준 정보는 예를 들어, 복수의 사진 각각에 대한 구도, 선명도, 밝기 및 색상 중 적어도 하나를 포함할 수 있다.The quality reference information may include, for example, at least one of composition, sharpness, brightness, and color of each of the plurality of photos.

스코어 도출부(130)는 수집된 사용자 반응 정보 및 수집된 품질 기준 정보에 기초하여 복수의 사진에 대한 스코어를 도출할 수 있다.The score derivation unit 130 may derive scores for a plurality of photos based on the collected user reaction information and the collected quality reference information.

다시 도 1을 참조하면, 스코어 도출부(130)는 반응 스코어 도출부(131) 및 품질 스코어 도출부(132)를 포함할 수 있다.Referring back to FIG. 1 , the score deriving unit 130 may include a response score deriving unit 131 and a quality score deriving unit 132 .

반응 스코어 도출부(131)는 사용자 반응 정보에 기초하여 복수의 사진 각각에 대한 반응 스코어를 도출할 수 있다. 사용자 반응 정보는 예를 들어, 복수의 사진 각각에 대한 응시 시간 정보 및 반응 영상으로부터 인식된 표정 정보를 포함할 수 있다.The reaction score deriving unit 131 may derive a reaction score for each of the plurality of photos based on user reaction information. The user reaction information may include, for example, gaze time information for each of a plurality of photos and facial expression information recognized from a reaction image.

반응 스코어 도출부(131)는 예를 들어, 복수의 사진 각각에 대한 응시 시간 정보에 기초하여, 사용자가 사진을 응시하는 시간이 길수록 높은 반응 스코어를 부여할 수 있다.The response score derivation unit 131 may give a higher response score as the user gazes at the picture longer, for example, based on gaze time information for each of the plurality of pictures.

반응 스코어 도출부(131)는 예를 들어, 복수의 사진 각각에 대한 반응 영상으로부터 인식된 표정 정보에 기초하여, 사용자의 표정이 강하게 표현되거나 또는 긍정적인 의미의 표정이 많이 나타날수록 높은 반응 스코어를 부여할 수 있다.The reaction score derivation unit 131, for example, based on the expression information recognized from the reaction image for each of the plurality of photos, the user's expression is strongly expressed or the more positive expressions appear, the higher the reaction score. can be given

품질 스코어 도출부(132)는 품질 기준 정보에 기초하여 복수의 사진 각각에 대한 품질 스코어를 도출할 수 있다.The quality score derivation unit 132 may derive a quality score for each of the plurality of photos based on the quality criterion information.

품질 기준 정보는 예를 들어, 복수의 사진 각각에 대한 구도, 선명도, 밝기 및 색상 중 적어도 하나를 포함할 수 있다.The quality reference information may include, for example, at least one of composition, sharpness, brightness, and color of each of the plurality of photos.

도 2 및 도 3은 본 발명의 일 실시예에 따라 품질 스코어를 도출하는 방법을 설명하기 위한 도면이다.2 and 3 are diagrams for explaining a method of deriving a quality score according to an embodiment of the present invention.

예를 들어, 품질 스코어 도출부(132)는 도 2의 (a)와 같은 사진에 대하여 품질 기준 정보에 기초하여 품질 스코어를 도출할 수 있다. 품질 스코어 도출부(132)는 도 2의 (b)에 도시된 바와 같이 윤곽선을 검출하여 수평선 및 소실점의 위치를 분석할 수 있다. 품질 스코어 도출부(132)는 도 2의 (c)에 도시된 바와 같이 사진이 3 등분 구도의 템플릿임을 분석할 수 있다.For example, the quality score derivation unit 132 may derive a quality score for the picture as shown in FIG. 2A on the basis of the quality criterion information. The quality score derivation unit 132 may analyze the position of the horizontal line and the vanishing point by detecting the contour as shown in (b) of FIG. 2 . The quality score deriving unit 132 may analyze that the photo is a template of a three-part composition as shown in FIG. 2C .

예를 들어, 품질 스코어 도출부(132)는 3 등분 구도의 사진에 대하여 사진의 수평선 및 소실점이 1/3 지점에 존재하는지 여부를 기준으로 품질 스코어를 도출할 수 있다. 품질 스코어 도출부(132)는 다음의 수학식 1을 이용하여 3 등분 구도의 사진에 대한 품질 스코어(S1)를 도출할 수 있다.For example, the quality score derivation unit 132 may derive a quality score based on whether a horizontal line and a vanishing point of the picture exist at 1/3 of the picture having a composition of three equal parts. The quality score derivation unit 132 may derive a quality score (S 1 ) for a photograph of a composition divided into thirds by using Equation 1 below.

Figure pat00001
Figure pat00001

다른 예를 들어, 품질 스코어 도출부(132)는 도 3의 (a)와 같은 사진에 대하여 품질 기준 정보에 기초하여 품질 스코어를 도출할 수 있다. 품질 스코어 도출부(132)는 도 3의 (b)에 도시된 바와 같이 윤곽선을 검출할 수 있다. 품질 스코어 도출부(132)는 도 3의 (c)에 도시된 바와 같이 사진이 대칭 구도의 템플릿임을 분석할 수 있다.As another example, the quality score deriving unit 132 may derive a quality score based on the quality criterion information for the picture as shown in FIG. 3A . The quality score deriving unit 132 may detect an outline as shown in FIG. 3B . The quality score deriving unit 132 may analyze that the photo is a template of a symmetric composition as shown in FIG. 3C .

예를 들어, 품질 스코어 도출부(132)는 대칭 구도의 사진에 대하여 사진의 대칭 정도를 기준으로 품질 스코어를 도출할 수 있다. 품질 스코어 도출부(132)는 도 3의 (b)와 같이 검출한 윤곽선을 이용하여 대칭 정도를 기준으로 품질 스코어를 도출할 수 있다. 품질 스코어 도출부(132)는 다음의 수학식 2를 이용하여 대칭 구도의 사진에 대한 품질 스코어(S2)를 도출할 수 있다.For example, the quality score deriving unit 132 may derive a quality score based on the degree of symmetry of the photo with respect to the photo having a symmetric composition. The quality score derivation unit 132 may derive a quality score based on the degree of symmetry by using the detected outline as shown in FIG. 3B . The quality score derivation unit 132 may derive a quality score (S 2 ) for a symmetrical photograph using Equation 2 below.

Figure pat00002
Figure pat00002

스코어 도출부(130)는 반응 스코어 및 품질 스코어에 기초하여 복수의 사진 각각에 대한 최종 스코어를 도출할 수 있다.The score derivation unit 130 may derive a final score for each of the plurality of photos based on the response score and the quality score.

객체 추출부(140)는 복수의 사진으로부터 객체를 추출할 수 있다.The object extraction unit 140 may extract an object from a plurality of photos.

객체 추출부(140)는 복수의 사진으로부터 기설정된 클래스에 해당하는 객체를 추출할 수 있다. 기설정된 클래스는 예를 들어, 얼굴을 포함하는 인물 클래스 및 얼굴을 제외한 사물을 포함하는 사물 클래스 중 적어도 하나를 포함할 수 있다.The object extraction unit 140 may extract an object corresponding to a preset class from a plurality of photos. The preset class may include, for example, at least one of a person class including a face and an object class including an object other than the face.

예를 들어, 객체 추출부(140)는 얼굴 검출 모델을 이용하여 복수의 사진으로부터 얼굴 클래스에 해당하는 객체를 추출할 수 있다. 객체 추출부(140)는 복수의 사진으로부터 얼굴에 포함되는 랜드마크 정보를 더 추출할 수 있다. 객체 추출부(140)는 복수의 사진으로부터 얼굴에 포함되는 얼굴 인식을 위한 특징값 정보를 더 추출할 수 있다.For example, the object extractor 140 may extract an object corresponding to a face class from a plurality of photos by using the face detection model. The object extraction unit 140 may further extract landmark information included in the face from the plurality of photos. The object extractor 140 may further extract feature value information for recognizing a face included in a face from a plurality of photos.

예를 들어, 객체 추출부(140)는 복수의 사물 검출 모델을 이용하여 복수의 사진으로부터 각 사물 클래스에 해당하는 객체를 추출할 수 있다. 사물 클래스는 예를 들어, 건물 클래스, 가구 클래스, 자동차 클래스 등의 얼굴을 제외하는 사물을 포함하는 하나 이상의 클래스를 의미할 수 있다.For example, the object extractor 140 may extract an object corresponding to each object class from a plurality of photos by using a plurality of object detection models. The thing class may mean, for example, one or more classes including things excluding faces such as a building class, a furniture class, and a car class.

추천부(150)는 추천 정책 테이블에 기초하여 복수의 사진 중 적어도 하나의 사진을 추천할 수 있다. 추천 정책 테이블은 도출한 스코어 및 추출한 객체에 기초하여 도출될 수 있다.The recommendation unit 150 may recommend at least one photo among a plurality of photos based on the recommendation policy table. The recommendation policy table may be derived based on the derived score and the extracted object.

다시 도 1을 참조하면, 추천부(150)는 비트스트림 생성부(151), 정렬부(152) 및 테이블 관리부(153)를 포함할 수 있다.Referring back to FIG. 1 , the recommendation unit 150 may include a bitstream generation unit 151 , an alignment unit 152 , and a table management unit 153 .

비트스트림 생성부(151)는 도출한 스코어 및 추출한 객체에 기초하여 복수의 사진 각각에 대한 비트스트림(bit stream)을 생성할 수 있다.The bitstream generator 151 may generate a bitstream for each of the plurality of photos based on the derived score and the extracted object.

비트스트림 생성부(151)는 예를 들어, 반응 스코어 및 품질 스코어에 대한 양자화를 수행할 수 있다. 비트스트림 생성부(151)는 예를 들어, 추출한 객체가 포함되는 클래스 각각의 클래스 ID에 대한 이진화를 수행할 수 있다.The bitstream generator 151 may perform quantization on, for example, a response score and a quality score. The bitstream generator 151 may, for example, perform binarization on the class ID of each class including the extracted object.

비트스트림 생성부(151)는 반응 스코어 및 품질 스코어에 대하여 양자화를 수행한 결과값 및 클래스 ID에 대하여 이진화를 수행한 결과값에 기초하여 복수의 사진 각각에 대한 비트스트림을 생성할 수 있다.The bitstream generator 151 may generate a bitstream for each of the plurality of photos based on a result value obtained by performing quantization on the response score and the quality score and a result value obtained by performing binarization on the class ID.

정렬부(152)는 생성된 비트스트림에 기초하여 복수의 사진을 매트릭스 형태로 정렬할 수 있다. 정렬부(152)는 예를 들어, 비트스트림을 내림차순 또는 오름차순으로 정렬함으로써 복수의 사진을 매트릭스 형태로 정렬할 수 있다. 비트스트림을 단순 정렬하는 경우에는 상위 비트에 위치한 값에 의해 영향을 가장 크게 받는다. 따라서 비트스트림에서 어떤 스코어 또는 클래스 ID에 관련되는 값이 상위 비트에 위치했는지에 따라 이에 의한 영향이 커질 수 있으나, 비트스트림을 매트릭스 형태로 정렬함으로써 상위 비트에 위치한 값에 의한 영향을 작게할 수 있다.The sorting unit 152 may align a plurality of photos in a matrix form based on the generated bitstream. The sorting unit 152 may sort the plurality of photos in a matrix form, for example, by arranging bitstreams in a descending order or an ascending order. In the case of simple sorting of the bitstream, it is most affected by the value located in the upper bit. Therefore, the influence may be increased depending on which score or class ID-related value in the bitstream is located in the upper bit. .

테이블 관리부(153)는 매트릭스 형태로 정렬된 복수의 사진을 추천 정책 테이블에 매핑시킴으로써 추천 정책 테이블을 관리할 수 있다.The table manager 153 may manage the recommendation policy table by mapping a plurality of photos arranged in a matrix form to the recommendation policy table.

수집부(120)는 추천된 사진에 대한 피드백 정보를 더 수집할 수 있다. 일 실시예에서, 수집부(120)는 사용자가 추천된 사진을 선택하였는지 또는 거부하였는지 여부에 기초하여 생성된 피드백 정보를 수집할 수 있다.The collection unit 120 may further collect feedback information on the recommended photo. In an embodiment, the collection unit 120 may collect feedback information generated based on whether the user has selected or rejected the recommended photo.

다른 실시예에서, 수집부(120)는 복수의 사진 중에서 사용자가 선택한 사진 정보에 기초하여 생성된 피드백 정보를 수집할 수 있다.In another embodiment, the collection unit 120 may collect feedback information generated based on photo information selected by a user from among a plurality of photos.

테이블 관리부(153)는 수집된 피드백 정보에 기초하여 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다. 테이블 관리부(153)는 예를 들어, 수집된 피드백 정보에 기초하여 리워드를 업데이트하고, 업데이트된 리워드에 기초하여 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다.The table manager 153 may perform reinforcement learning on the recommendation policy table based on the collected feedback information. The table manager 153 may, for example, update a reward based on the collected feedback information, and may perform reinforcement learning on the recommendation policy table based on the updated reward.

추천부(150)는 강화 학습이 수행된 추천 정책 테이블에 기초하여 복수의 사진 중 적어도 하나의 사진을 추천할 수 있다. 예를 들어, 추천부(150)는 강화 학습이 수행된 추천 정책 테이블의 값이 높은 순서대로, 비트스트림이 정렬된 매트릭스에서 이에 대응하는 비트스트림의 사진을 추천할 수 있다.The recommender 150 may recommend at least one photo among a plurality of photos based on a recommendation policy table on which reinforcement learning is performed. For example, the recommender 150 may recommend a picture of a bitstream corresponding to the bitstream in a matrix in which bitstreams are arranged in an order of increasing values of a recommendation policy table on which reinforcement learning is performed.

추천부(150)는 예를 들어, 강화 학습이 수행된 추천 정책 테이블에 기초하여 복수의 사진 중 사용자가 원하는 수만큼의 사진을 추천할 수 있다. 추천부(150)는 예를 들어, 추천 정책 테이블의 값이 동일한 복수의 비트스트림이 존재하는 경우에, 비트스트림에 기초하여 복수의 사진 중 하나 이상을 선택하여 추천할 수 있다.The recommender 150 may recommend the number of photos desired by the user from among the plurality of photos, for example, based on a recommendation policy table on which reinforcement learning is performed. For example, when a plurality of bitstreams having the same value of the recommendation policy table exist, the recommendation unit 150 may select and recommend one or more of the plurality of photos based on the bitstream.

도 4는 본 발명의 일 실시예에 따라 사진을 추천하는 방법의 순서도이다. 도 4에 도시된 사진 추천 장치(100)에서 수행되는 사진을 추천하는 방법(400)은 도 1에 도시된 실시예에 따라 사진 추천 장치(100)에 의해 시계열적으로 처리되는 단계들을 포함한다. 따라서, 이하 생략된 내용이라고 하더라도 도 1에 도시된 실시예에 따라 사진 추천 장치(100)에서 수행되는 사진을 추천하는 방법에도 적용된다.4 is a flowchart of a method for recommending a photo according to an embodiment of the present invention. The method 400 for recommending a photo performed by the photo recommending device 100 shown in FIG. 4 includes steps that are time-series processed by the photo recommending device 100 according to the embodiment shown in FIG. 1 . Accordingly, even if the description is omitted below, it is also applied to the method of recommending a photo performed by the photo recommendation apparatus 100 according to the embodiment shown in FIG. 1 .

단계 S410에서 사진 추천 장치(100)는 복수의 사진을 저장할 수 있다.In step S410, the photo recommendation apparatus 100 may store a plurality of photos.

단계 S420에서 사진 추천 장치(100)는 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집할 수 있다.In step S420 , the photo recommendation apparatus 100 may collect user reaction information and quality reference information for a plurality of photos.

단계 S430에서 사진 추천 장치(100)는 수집된 사용자 반응 정보 및 수집된 품질 기준 정보에 기초하여 복수의 사진에 대한 스코어를 도출할 수 있다.In step S430 , the photo recommendation apparatus 100 may derive scores for a plurality of photos based on the collected user reaction information and the collected quality reference information.

단계 S440에서 사진 추천 장치(100)는 복수의 사진으로부터 객체를 추출할 수 있다.In step S440 , the photo recommendation apparatus 100 may extract an object from a plurality of photos.

단계 S450에서 사진 추천 장치(100)는 도출한 스코어 및 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 복수의 사진 중 적어도 하나의 사진을 추천할 수 있다.In step S450 , the photo recommendation apparatus 100 may recommend at least one photo among a plurality of photos based on a recommendation policy table learned based on the derived score and the extracted object.

상술한 설명에서, 단계 S410 내지 S450은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 전환될 수도 있다.In the above description, steps S410 to S450 may be further divided into additional steps or combined into fewer steps according to an embodiment of the present invention. In addition, some steps may be omitted if necessary, and the order between the steps may be switched.

도 5은 본 발명의 일 실시예에 따라 사진을 추천하는 방법의 순서도이다. 도 5에 도시된 사진 추천 장치(100)에서 수행되는 사진을 추천하는 방법(500)은 도 1에 도시된 실시예에 따라 사진 추천 장치(100)에 의해 시계열적으로 처리되는 단계들을 포함한다. 따라서, 이하 생략된 내용이라고 하더라도 도 1에 도시된 실시예에 따라 사진 추천 장치(100)에서 수행되는 사진을 추천하는 방법에도 적용된다.5 is a flowchart of a method for recommending a photo according to an embodiment of the present invention. The method 500 for recommending a photo performed by the photo recommending device 100 shown in FIG. 5 includes steps that are time-series processed by the photo recommending device 100 according to the embodiment shown in FIG. 1 . Accordingly, even if the description is omitted below, it is also applied to the method of recommending a photo performed by the photo recommendation apparatus 100 according to the embodiment shown in FIG. 1 .

단계 S510에서 사진 추천 장치(100)는 복수의 사진에 기초하여 M×N 매트릭스를 생성할 수 있다.In operation S510 , the photo recommendation apparatus 100 may generate an M×N matrix based on a plurality of photos.

사진 추천 장치(100)는 예를 들어, 복수의 사진 각각에 대한 비트스트림을 생성하고, 생성된 비트스트림에 기초하여 복수의 사진을 매트릭스 형태로 정렬함으로써 M×N 개의 사진으로부터 M×N 매트릭스를 생성할 수 있다.The photo recommendation apparatus 100 generates an M×N matrix from M×N photos by, for example, generating a bitstream for each of a plurality of photos, and arranging the plurality of photos in a matrix form based on the generated bitstream. can create

단계 S520에서 사진 추천 장치(100)는 난수를 발생하여 i 번째 사진을 선택할 수 있다.In step S520 , the photo recommendation apparatus 100 may generate a random number to select the i-th photo.

사진 추천 장치(100)는 추천 정책 테이블에 대하여 강화 학습을 수행하기 전에 난수를 발생하여 임의의 사진을 추천함으로써 복수의 사진에 대한 피드백 정보를 수집할 수 있다.The photo recommendation apparatus 100 may collect feedback information on a plurality of photos by generating a random number and recommending a random number before reinforcement learning is performed on the recommendation policy table.

단계 S530에서 사진 추천 장치(100)는 선택된 i 번째 사진을 사용자에게 출력할 수 있다.In step S530, the photo recommendation apparatus 100 may output the selected i-th photo to the user.

단계 S540에서 사진 추천 장치(100)는 출력된 i 번째 사진에 대한 피드백 정보를 수집할 수 있다.In step S540 , the photo recommendation apparatus 100 may collect feedback information on the output i-th photo.

사진 추천 장치(100)는 예를 들어, 출력된 i 번째 사진을 사용자가 선택하였는지 또는 거부하였는지에 기초하여 생성된 피드백 정보를 수집할 수 있다.The photo recommendation apparatus 100 may collect, for example, feedback information generated based on whether the user selects or rejects the output i-th photo.

단계 S550에서 사진 추천 장치(100)는 수집된 피드백 정보에 기초하여 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다.In operation S550 , the photo recommendation apparatus 100 may perform reinforcement learning on the recommendation policy table based on the collected feedback information.

사진 추천 장치(100)는 예를 들어, 수집된 피드백 정보에 기초하여 리워드를 업데이트하고, 업데이트된 리워드에 기초하여 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다.The photo recommendation apparatus 100 may, for example, update a reward based on the collected feedback information, and may perform reinforcement learning on the recommendation policy table based on the updated reward.

단계 S560에서 사진 추천 장치(100)는 강화 학습이 수행된 추천 정책 테이블에 기초하여 사진을 추천할 수 있다(미도시).In step S560, the photo recommendation apparatus 100 may recommend a photo based on a recommendation policy table on which reinforcement learning is performed (not shown).

상술한 설명에서, 단계 S510 내지 S560은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 전환될 수도 있다.In the above description, steps S510 to S560 may be further divided into additional steps or combined into fewer steps, according to an embodiment of the present invention. In addition, some steps may be omitted if necessary, and the order between the steps may be switched.

도 6을 참조하여, 본 발명의 일 실시예에 따라 사진을 추천하는 방법을 설명한다. 간략한 설명을 위해 2×2의 매트릭스를 이용하여 4 장의 사진 중 2 장의 사진을 추천한다고 가정한다.A method of recommending a photo according to an embodiment of the present invention will be described with reference to FIG. 6 . For the sake of brevity, it is assumed that 2 pictures out of 4 pictures are recommended using a 2×2 matrix.

도 6의 (a)는 사용자 단말에 새로 저장된 4 장의 사진을 도시한다. 예를 들어, ID가 001인 사진의 경우 품질 스코어 82점, 반응 스코어 32점 및 추출한 객체에 기초하여 비트스트림 "0101 0010 0010 0000"을 생성할 수 있다. ID가 002인 사진의 경우 품질 스코어 85점, 반응 스코어 29점 및 추출한 객체에 기초하여 비트스트림 "0101 0101 0001 1101"을 생성할 수 있다. ID가 003인 사진의 경우 품질 스코어 32점, 반응 스코어 78점 및 추출한 객체에 기초하여 비트스트림 "010 0000 0100 1110"을 생성할 수 있다. ID가 004인 사진의 경우 품질 스코어 65점, 반응 스코어 92점 및 추출한 객체에 기초하여 비트스트림 "0100 0001 0101 1100"을 생성할 수 있다.6A shows four photos newly stored in the user terminal. For example, in the case of a photo having an ID of 001, a bitstream "0101 0010 0010 0000" may be generated based on a quality score of 82 points, a response score of 32 points, and the extracted object. In the case of a photo having an ID of 002, a bitstream "0101 0101 0001 1101" may be generated based on a quality score of 85 points, a reaction score of 29 points, and the extracted object. In the case of a picture having an ID of 003, a bitstream "010 0000 0100 1110" may be generated based on a quality score of 32 points, a response score of 78 points, and the extracted object. In the case of a photo having an ID of 004, a bitstream "0100 0001 0101 1100" may be generated based on a quality score of 65 points, a response score of 92 points, and the extracted object.

도 6의 (b)는 현재의 추천 정책 테이블을 예시적으로 도시한다. 현재의 추천 정책 테이블은 예를 들어, 이전에 추천된 사진에 대한 피드백 정보에 기초하여 강화 학습이 수행된 추천 정책 테이블일 수 있다.6B exemplarily illustrates a current recommendation policy table. The current recommendation policy table may be, for example, a recommendation policy table in which reinforcement learning is performed based on feedback information on previously recommended photos.

예를 들어, 사진 추천 장치(100)는 이전 분기에 저장된 복수의 사진의 비트스트림을 매트릭스 형태로 정렬하고, 매트릭스 형태로 정렬된 비트스트림을 추천 정책 테이블의 각 값에 매핑시킬 수 있다. 사진 추천 장치(100)는 이전 분기에 저장된 복수의 사진 중 추천된 사진에 대한 피드백 정보에 기초하여 리워드를 업데이트하고, 업데이트된 리워드에 기초하여 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다. 즉, 추천 정책 테이블에서 사용자가 선호하는 사진의 비트스트림이 매핑된 위치(좌표값)일수록 높은 값을 가질 수 있다.For example, the photo recommendation apparatus 100 may arrange bitstreams of a plurality of photos stored in a previous branch in a matrix form, and map the bitstreams arranged in a matrix form to respective values of the recommendation policy table. The photo recommendation apparatus 100 may update a reward based on feedback information on a recommended photo among a plurality of photos stored in the previous branch, and may perform reinforcement learning on the recommendation policy table based on the updated reward. That is, the location (coordinate value) to which the bitstream of the user's preferred picture is mapped in the recommendation policy table may have a higher value.

이어서, 사진 추천 장치(100)는 동일한 방식으로 금번 분기에 저장된 복수의 사진의 비트스트림을 매트릭스 형태로 정렬할 수 있다. 이 때 이전 분기의 복수의 사진 및 금번 분기의 복수의 사진의 비트스트림이 각각 매트릭스 형태로 정렬되면 매트릭스에서의 비트스트림의 배열은 동일한 경향을 나타낼 수 있다. 사진 추천 장치(100)는 매트릭스 형태로 정렬된 비트스트림을 강화 학습이 수행된 현재의 추천 정책 테이블의 각 값에 매핑시킬 수 있다.Subsequently, the photo recommendation apparatus 100 may arrange bitstreams of a plurality of photos stored in this branch in a matrix form in the same manner. At this time, if the bitstreams of the plurality of photos of the previous branch and the plurality of photos of the current branch are arranged in a matrix form, the arrangement of the bitstreams in the matrix may exhibit the same tendency. The photo recommendation apparatus 100 may map a bitstream arranged in a matrix form to each value of a current recommendation policy table in which reinforcement learning is performed.

즉, 금번 분기의 복수의 사진의 비트스트림과 이전 분기의 복수의 사진의 비트스트림이 동일한 경향성을 갖도록 정렬되어 있다. 따라서 사진 추천 장치(100)는 이전 분기에서 강화 학습된 추천 정책 테이블을 금번 분기의 복수의 사진의 비트스트림에 매핑시킴으로써, 추천 정책 테이블의 값이 높은 위치에 대응하는 비트스트림에 해당하는 사진을 사용자에게 추천할 수 있다.That is, the bitstreams of the plurality of photos of this branch and the bitstreams of the plurality of photos of the previous branch are arranged to have the same tendency. Therefore, the photo recommendation apparatus 100 maps the recommendation policy table, which has been reinforcement-learned in the previous branch, to the bitstream of a plurality of photos of the current branch, so that the photo corresponding to the bitstream corresponding to the position where the value of the recommendation policy table is high is displayed to the user. can recommend to

도 6의 (c)는 도 6의 (a)에 도시된 4 장의 사진의 비트스트림을 내림차순으로 정렬함으로써 각 사진의 ID를 매트릭스 형태로 정렬한 것이다. 사진 추천 장치(100)는 상술한 바와 같이 도 6의 (b) 및 (c)에 기초하여 추천 정책 테이블의 값이 높은 순서대로, 추천 정책 테이블의 값이 0.8인 위치(601)에 대응하는 ID가 004인 사진(611)과 추천 정책 테이블의 값이 0.3인 위치(603)에 대응하는 ID가 003인 사진(613)을 추천할 수 있다.FIG. 6(c) shows that the bitstreams of the four pictures shown in FIG. 6(a) are arranged in a descending order so that IDs of each picture are arranged in a matrix form. As described above, based on (b) and (c) of FIG. 6 , the photo recommendation device 100 sets the ID corresponding to the position 601 where the value of the recommendation policy table is 0.8, in the order of increasing the value of the recommendation policy table. A photo 611 having a value of 004 and a photo 613 having an ID of 003 corresponding to a location 603 having a value of 0.3 in the recommendation policy table may be recommended.

도 6의 (d) 및 (e)는 추천된 사진에 대한 피드백 정보에 기초하여 강화 학습이 수행된 추천 정책 테이블을 예시적으로 나타낸다. 사용자가 추천된 사진(ID 004(611) 및 ID 003(613))을 모두 선택한 경우, 도 6의 (d)과 같이 선택된 사진에 대응하는 추천 정책 테이블의 값이 증가할 수 있다. 예를 들어, 사용자에 의해 선택된 ID 004(611)에 대한 추천 정책 테이블의 값(621)은 '(기존 추천 정책 테이블의 값+(선택될 경우 리워드 값(=1)-기존추천 정책 테이블의 값))/시도횟수'로 결정될 수 있고, 구체적으로 (0.8+(1-0.8))/1=1로 증가할 수 있다. 다른 예를 들어, 사용자에 의해 선택된 ID 003(613)에 대한 추천 정책 테이블의 값(623)은 (0.3+(1-0.3))/1=1로 증가할 수 있다. 사용자가 추천된 사진 중 ID 004인 사진(611)을 선택하고 ID 003인 사진(613)을 거부한 경우, 도 6의 (e)과 같이 선택된 사진에 대응하는 추천 정책 테이블의 값이 증가하고, 거부된 사진에 대응하는 추천 정책 테이블의 값이 감소할 수 있다. 예를 들어, 사용자에 의해 선택된 ID 004(611)에 대한 추천 정책 테이블의 값(631)은 (0.8+(1-0.8))/1=1로 증가할 수 있다. 다른 예를 들어, 사용자에 의해 선택된 ID 003(613)에 대한 추천 정책 테이블의 값(633)은 '(기존 추천 정책 테이블의 값+(거부될 경우 리워드 값(=0)-기존추천 정책 테이블의 값))/시도횟수'로 결정될 수 있고, 구체적으로 (0.3+(0-0.3))/1=0으로 감소할 수 있다.6 (d) and (e) exemplarily show a recommendation policy table in which reinforcement learning is performed based on feedback information on a recommended photo. When the user selects both the recommended photos (ID 004 (611) and ID 003 (613)), the value of the recommendation policy table corresponding to the selected photo may increase as shown in (d) of FIG. 6 . For example, the value 621 of the recommendation policy table for the ID 004 (611) selected by the user is '(Value of the existing recommendation policy table + (reward value (=1) if selected - value of the existing recommendation policy table) ))/number of attempts', and specifically (0.8+(1-0.8))/1=1. As another example, the value 623 of the recommendation policy table for the ID 003 ( 613 ) selected by the user may increase to (0.3+(1-0.3))/1=1. When the user selects the photo 611 with ID 004 from among the recommended photos and rejects the photo 613 with ID 003, the value of the recommendation policy table corresponding to the selected photo increases as shown in FIG. The value of the recommendation policy table corresponding to the rejected photo may decrease. For example, the value 631 of the recommendation policy table for the ID 004 (611) selected by the user may increase to (0.8+(1-0.8))/1=1. As another example, the value 633 of the recommendation policy table for ID 003 (613) selected by the user is '(Value of the existing recommendation policy table + (reward value (= 0) when rejected) - of the existing recommendation policy table value))/number of attempts', and specifically, it can be reduced to (0.3+(0-0.3))/1=0.

도 1 내지 도 6을 통해 설명된 사진 추천 장치에서 사진을 추천하는 방법은 컴퓨터에 의해 실행되는 매체에 저장된 컴퓨터 프로그램 또는 컴퓨터에 의해 실행 가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다.The method for recommending a photo in the photo recommendation apparatus described with reference to FIGS. 1 to 6 may be implemented in the form of a computer program stored in a medium executed by a computer or a recording medium including instructions executable by the computer.

컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체를 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다.Computer-readable media can be any available media that can be accessed by a computer and includes both volatile and nonvolatile media, removable and non-removable media. Also, computer-readable media may include computer storage media. Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The above description of the present invention is for illustration, and those of ordinary skill in the art to which the present invention pertains can understand that it can be easily modified into other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are illustrative in all respects and not restrictive. For example, each component described as a single type may be implemented in a dispersed form, and likewise components described as distributed may be implemented in a combined form.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is indicated by the following claims rather than the above detailed description, and all changes or modifications derived from the meaning and scope of the claims and their equivalent concepts should be interpreted as being included in the scope of the present invention. do.

100: 사진 추천 장치
110: 사진 저장부
120: 수집부
130: 스코어 도출부
140: 객체 추출부
150: 추천부
100: photo recommendation device
110: photo storage unit
120: collection unit
130: score derivation unit
140: object extraction unit
150: recommendation

Claims (19)

사진을 추천하는 사진 추천 장치에 있어서,
복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하는 수집부;
상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하는 스코어 도출부;
상기 복수의 사진으로부터 객체를 추출하는 객체 추출부; 및
상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 추천부
를 포함하는 것인, 사진 추천 장치.
In the photo recommendation device for recommending a photo,
a collection unit for collecting user reaction information and quality reference information for a plurality of photos;
a score derivation unit for deriving scores for the plurality of photos based on the collected user reaction information and the collected quality reference information;
an object extraction unit for extracting objects from the plurality of photos; and
A recommendation unit for recommending at least one photo among the plurality of photos based on a recommendation policy table learned based on the derived score and the extracted object
Which will include, a photo recommendation device.
제 1 항에 있어서,
상기 스코어 도출부는
상기 사용자 반응 정보에 기초하여 상기 복수의 사진 각각에 대한 반응 스코어를 도출하는 반응 스코어 도출부; 및
상기 품질 기준 정보에 기초하여 상기 복수의 사진 각각에 대한 품질 스코어를 도출하는 품질 스코어 도출부
를 포함하는 것인, 사진 추천 장치.
The method of claim 1,
The score derivation unit
a reaction score deriving unit for deriving a reaction score for each of the plurality of photos based on the user reaction information; and
A quality score derivation unit for deriving a quality score for each of the plurality of photos based on the quality reference information
Which will include, a photo recommendation device.
제 2 항에 있어서,
상기 수집부는 상기 복수의 사진에 대한 사용자의 반응 영상을 더 수집하고,
상기 반응 스코어 도출부는 상기 복수의 사진 각각에 대한 응시 시간 정보 및 상기 반응 영상으로부터 인식된 표정 정보를 포함하는 상기 사용자 반응 정보에 기초하여 상기 반응 스코어를 도출하는 것인, 사진 추천 장치.

3. The method of claim 2,
The collection unit further collects the user's reaction image to the plurality of photos,
The reaction score deriving unit will derive the reaction score based on the user reaction information including gaze time information for each of the plurality of photos and facial expression information recognized from the reaction image.

제 2 항에 있어서,
상기 품질 스코어 도출부는 상기 복수의 사진 각각에 대한 구도, 선명도, 밝기 및 색상 중 적어도 하나를 포함하는 상기 품질 기준 정보에 기초하여 상기 품질 스코어를 도출하는 것인, 사진 추천 장치.
3. The method of claim 2,
Wherein the quality score derivation unit derives the quality score based on the quality criterion information including at least one of composition, sharpness, brightness, and color for each of the plurality of photos.
제 1 항에 있어서,
상기 객체 추출부는 상기 복수의 사진으로부터 기설정된 클래스에 해당하는 객체를 추출하고,
상기 기설정된 클래스는 얼굴을 포함하는 인물 클래스 및 상기 얼굴을 제외한 사물을 포함하는 사물 클래스 중 적어도 하나를 포함하는 것인, 사진 추천 장치.
The method of claim 1,
The object extraction unit extracts an object corresponding to a preset class from the plurality of photos,
The preset class includes at least one of a person class including a face and an object class including an object excluding the face.
제 1 항에 있어서,
상기 추천부는
상기 도출한 스코어 및 상기 추출한 객체에 기초하여 상기 복수의 사진 각각에 대한 비트스트림(bit stream)을 생성하는 비트스트림 생성부;
상기 생성된 비트스트림에 기초하여 상기 복수의 사진을 매트릭스 형태로 정렬하는 정렬부; 및
상기 매트릭스 형태로 정렬된 상기 복수의 사진을 상기 추천 정책 테이블에 매핑시킴으로써 상기 추천 정책 테이블을 관리하는 테이블 관리부
를 포함하는 것인, 사진 추천 장치.
The method of claim 1,
The recommendation is
a bitstream generator for generating a bitstream for each of the plurality of photos based on the derived score and the extracted object;
an alignment unit aligning the plurality of photos in a matrix form based on the generated bitstream; and
A table management unit for managing the recommendation policy table by mapping the plurality of photos arranged in the matrix form to the recommendation policy table
Which will include, a photo recommendation device.
제 6 항에 있어서,
상기 수집부는 상기 추천된 사진에 대한 피드백 정보를 더 수집하는 것인, 사진 추천 장치.
7. The method of claim 6,
Wherein the collecting unit further collects feedback information on the recommended photo.
제 7 항에 있어서,
상기 테이블 관리부는 상기 수집된 피드백 정보에 기초하여 상기 추천 정책 테이블에 대한 강화 학습을 수행하는 것인, 사진 추천 장치.
8. The method of claim 7,
The table manager will perform reinforcement learning on the recommendation policy table based on the collected feedback information, a photo recommendation device.
제 8 항에 있어서,
상기 추천부는 상기 강화 학습이 수행된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 것인, 사진 추천 장치.
9. The method of claim 8,
Wherein the recommendation unit recommends at least one photo among the plurality of photos based on the recommendation policy table on which the reinforcement learning is performed.
사진을 추천하는 방법에 있어서,
복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하는 단계;
상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하는 단계;
상기 복수의 사진으로부터 객체를 추출하는 단계; 및
상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 단계
를 포함하는 것인, 사진 추천 방법.
In the method of recommending a photo,
collecting user reaction information and quality reference information for a plurality of photos;
deriving scores for the plurality of photos based on the collected user reaction information and the collected quality reference information;
extracting an object from the plurality of photos; and
Recommending at least one photo among the plurality of photos based on a recommendation policy table learned based on the derived score and the extracted object
A method for recommending photos, which includes.
제 10 항에 있어서,
상기 스코어를 도출하는 단계는
상기 사용자 반응 정보에 기초하여 상기 복수의 사진 각각에 대한 반응 스코어를 도출하는 단계; 및
상기 품질 기준 정보에 기초하여 상기 복수의 사진 각각에 대한 품질 스코어를 도출하는 단계
를 포함하는 것인, 사진 추천 방법.
11. The method of claim 10,
The step of deriving the score is
deriving a reaction score for each of the plurality of photos based on the user reaction information; and
deriving a quality score for each of the plurality of photos based on the quality reference information
A method for recommending photos, which includes.
제 11 항에 있어서,
상기 복수의 사진에 대한 사용자의 반응 영상을 수집하는 단계를 더 포함하고,
상기 반응 스코어를 도출하는 단계는 상기 복수의 사진 각각에 대한 응시 시간 정보 및 상기 반응 영상으로부터 인식된 표정 정보를 포함하는 상기 사용자 반응 정보에 기초하여 상기 반응 스코어를 도출하는 것인, 사진 추천 방법.

12. The method of claim 11,
Further comprising the step of collecting the user's reaction image to the plurality of photos,
The step of deriving the reaction score is to derive the reaction score based on the user reaction information including gaze time information for each of the plurality of photos and facial expression information recognized from the reaction image.

제 11 항에 있어서,
상기 품질 스코어를 도출하는 단계는 상기 복수의 사진 각각에 대한 구도, 선명도, 밝기 및 색상 중 적어도 하나를 포함하는 상기 품질 기준 정보에 기초하여 상기 품질 스코어를 도출하는 것인, 사진 추천 방법.
12. The method of claim 11,
The step of deriving the quality score is to derive the quality score based on the quality criterion information including at least one of composition, sharpness, brightness, and color for each of the plurality of photos.
제 10 항에 있어서,
상기 객체를 추출하는 단계는 상기 복수의 사진으로부터 기설정된 클래스에 해당하는 객체를 추출하고,
상기 기설정된 클래스는 얼굴을 포함하는 인물 클래스 및 상기 얼굴을 제외한 사물을 포함하는 사물 클래스 중 적어도 하나를 포함하는 것인, 사진 추천 방법.
11. The method of claim 10,
The step of extracting the object extracts an object corresponding to a preset class from the plurality of photos,
The preset class includes at least one of a person class including a face and an object class including an object excluding the face.
제 10 항에 있어서,
상기 도출한 스코어 및 상기 추출한 객체에 기초하여 상기 복수의 사진 각각에 대한 비트스트림(bit stream)을 생성하는 단계;
상기 생성된 비트스트림에 기초하여 상기 복수의 사진을 매트릭스 형태로 정렬하는 단계; 및
상기 매트릭스 형태로 정렬된 상기 복수의 사진을 상기 추천 정책 테이블에 매핑시킴으로써 상기 추천 정책 테이블을 관리하는 단계
를 더 포함하는 것인, 사진 추천 방법.
11. The method of claim 10,
generating a bit stream for each of the plurality of photos based on the derived score and the extracted object;
arranging the plurality of photos in a matrix form based on the generated bitstream; and
managing the recommendation policy table by mapping the plurality of photos arranged in the matrix form to the recommendation policy table
Which will further include, a photo recommendation method.
제 15 항에 있어서,
상기 추천된 사진에 대한 피드백 정보를 수집하는 단계를 더 포함하는 것인, 사진 추천 방법.
16. The method of claim 15,
The method further comprising the step of collecting feedback information on the recommended photo, photo recommendation method.
제 16 항에 있어서,
상기 추천 정책 테이블을 관리하는 단계는 상기 수집된 피드백 정보에 기초하여 상기 추천 정책 테이블에 대한 강화 학습을 수행하는 것인, 사진 추천 방법.
17. The method of claim 16,
The managing of the recommendation policy table may include performing reinforcement learning on the recommendation policy table based on the collected feedback information.
제 17 항에 있어서,
상기 추천하는 단계는 상기 강화 학습이 수행된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 것인, 사진 추천 방법.
18. The method of claim 17,
The recommending step is to recommend at least one photo among the plurality of photos based on a recommendation policy table on which the reinforcement learning is performed.
사진을 추천하는 명령어들의 시퀀스를 포함하는 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램에 있어서,
상기 컴퓨터 프로그램은 컴퓨팅 장치에 의해 실행될 경우,
복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하고,
상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하고,
상기 복수의 사진으로부터 객체를 추출하고,
상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하도록 하는 명령어들의 시퀀스를 포함하는 것인, 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.
In a computer program stored on a computer-readable recording medium comprising a sequence of instructions for recommending a picture,
When the computer program is executed by a computing device,
Collect user reaction information and quality standard information for a plurality of photos,
Derive a score for the plurality of photos based on the collected user reaction information and the collected quality reference information,
Extracting an object from the plurality of photos,
A computer program stored in a computer-readable recording medium comprising a sequence of instructions for recommending at least one of the plurality of photos based on a recommendation policy table learned based on the derived score and the extracted object. .
KR1020200039923A 2020-04-01 2020-04-01 Apparatus, method and computer program for recommending photo KR20210122586A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200039923A KR20210122586A (en) 2020-04-01 2020-04-01 Apparatus, method and computer program for recommending photo

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200039923A KR20210122586A (en) 2020-04-01 2020-04-01 Apparatus, method and computer program for recommending photo

Publications (1)

Publication Number Publication Date
KR20210122586A true KR20210122586A (en) 2021-10-12

Family

ID=78078640

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200039923A KR20210122586A (en) 2020-04-01 2020-04-01 Apparatus, method and computer program for recommending photo

Country Status (1)

Country Link
KR (1) KR20210122586A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230108210A (en) * 2022-01-10 2023-07-18 김중연 Method and apparatus for providng photo print service based user trends

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230108210A (en) * 2022-01-10 2023-07-18 김중연 Method and apparatus for providng photo print service based user trends

Similar Documents

Publication Publication Date Title
US20140153832A1 (en) Facial expression editing in images based on collections of images
US11704933B2 (en) Information processing apparatus, information processing method, and program
KR102299960B1 (en) Apparatus and method for recommending keyword related to video
CN102486793A (en) Method and system for searching target user
CN110543811A (en) non-cooperation type examination person management method and system based on deep learning
CN105684046A (en) Generating image compositions
CN112084812A (en) Image processing method, image processing device, computer equipment and storage medium
KR20210122586A (en) Apparatus, method and computer program for recommending photo
CN113450369B (en) Classroom analysis system and method based on face recognition technology
JP2024045460A (en) Information processing system, information processing device, information processing method, and program
CN108345847B (en) System and method for generating label data of face image
US9286707B1 (en) Removing transient objects to synthesize an unobstructed image
CN112348077A (en) Image recognition method, device, equipment and computer readable storage medium
CN111274447A (en) Target expression generation method, device, medium and electronic equipment based on video
US20220222967A1 (en) Retrieval device, control method, and non-transitory storage medium
CN111611979A (en) Intelligent health monitoring system and method based on facial scanning
CN114495188A (en) Image data processing method and device and related equipment
JP2016197345A (en) Image analyzer, image analysis method and program
KR20210095405A (en) Server, method and computer program for detecting object
JP2018033103A (en) Frame rate determination device, frame rate determination method and computer program for frame rate determination
Verma et al. Review Paper on Attendance Capturing System using Face Recognition
CN115205918A (en) Face image data updating method, device, equipment and storage medium
KR20230142878A (en) Method and apparatus for classifying video genre
JP2023184309A (en) Operating method of information processing device, information processing device, and program
Galteri Deep Learning for Detection in Compressed Videos and Images