KR20210122586A - Apparatus, method and computer program for recommending photo - Google Patents
Apparatus, method and computer program for recommending photo Download PDFInfo
- Publication number
- KR20210122586A KR20210122586A KR1020200039923A KR20200039923A KR20210122586A KR 20210122586 A KR20210122586 A KR 20210122586A KR 1020200039923 A KR1020200039923 A KR 1020200039923A KR 20200039923 A KR20200039923 A KR 20200039923A KR 20210122586 A KR20210122586 A KR 20210122586A
- Authority
- KR
- South Korea
- Prior art keywords
- photos
- photo
- information
- score
- recommendation
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000004590 computer program Methods 0.000 title claims abstract description 10
- 230000002787 reinforcement Effects 0.000 claims abstract description 22
- 238000009795 derivation Methods 0.000 claims abstract description 20
- 238000000605 extraction Methods 0.000 claims abstract description 9
- 239000011159 matrix material Substances 0.000 claims description 21
- 239000000284 extract Substances 0.000 claims description 13
- 239000000203 mixture Substances 0.000 claims description 10
- 230000008921 facial expression Effects 0.000 claims description 7
- 238000013507 mapping Methods 0.000 claims description 4
- 230000004044 response Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2457—Query processing with adaptation to user needs
- G06F16/24578—Query processing with adaptation to user needs using ranking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/248—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
- G06F16/285—Clustering or classification
- G06F16/287—Visualization; Browsing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
- G06F16/9032—Query formulation
- G06F16/90324—Query formulation using system suggestions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Business, Economics & Management (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Tourism & Hospitality (AREA)
- Software Systems (AREA)
- Human Resources & Organizations (AREA)
- Artificial Intelligence (AREA)
- General Business, Economics & Management (AREA)
- General Health & Medical Sciences (AREA)
- Economics (AREA)
- Health & Medical Sciences (AREA)
- Primary Health Care (AREA)
- Marketing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Strategic Management (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
본 발명은 사진을 추천하는 사진 추천 장치, 방법 및 컴퓨터 프로그램에 관한 것이다.The present invention relates to a photo recommendation apparatus, method and computer program for recommending photos.
사용자에게 사진을 추천하기 위한 여러 가지 방법들이 존재한다. 일 예로, 사용자의 사진 선택 패턴에 기초하여 사진을 추천하는 방법은 사용자가 과거에 사진을 선택한 데이터를 패턴화하여 분석하고 사용자가 선호하는 사진의 색상 및 방향에 관한 정보를 추출하여 이를 이용해 사진을 추천하는 방식이다.There are several methods for recommending photos to a user. As an example, in a method of recommending a photo based on a user's photo selection pattern, data from which a user has selected a photo in the past is patterned and analyzed, and information about the color and direction of a photo preferred by the user is extracted and used to select a photo. the recommended method.
사진의 색상 정보만으로는 여러 사진을 구분하기 어려우므로, 사용자가 선호하는 사진을 추천하기에 어려움이 있다. 예를 들어, 하늘을 포함하는 사진과 바다를 포함하는 사진과 같이 색감이 비슷한 사진을 구분하기 어려우며, 인물을 포함하는 사진의 경우 어떤 인물이 포함되는 사진을 선호하는지 파악하기에 한계가 있다.Since it is difficult to distinguish several photos using only the color information of the photo, it is difficult to recommend a photo preferred by the user. For example, it is difficult to distinguish a photograph with similar colors, such as a photograph including the sky and a photograph including the sea, and there is a limit to determining which person is preferred for a photograph including a person.
이외에도 얼굴 인식 정보, 사진과 관련된 시간 정보 및 공간 정보 등을 활용한 사진 추천 방법이 있으나, 종래의 방법들은 사용자마다 선호하는 사진 정보를 효과적으로 반영하여 추천하기 어렵다는 한계점이 존재하였다.In addition, there is a photo recommendation method using face recognition information, photo-related temporal information, and spatial information. However, conventional methods have a limitation in that it is difficult to recommend by effectively reflecting the photo information preferred by each user.
본 발명은 전술한 종래 기술의 문제점을 해결하기 위한 것으로서, 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하여 복수의 사진에 대한 스코어를 도출하고, 복수의 사진으로부터 객체를 추출하고, 스코어 및 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 복수의 사진 중 적어도 하나의 사진을 추천하고자 한다.The present invention is to solve the problems of the prior art described above, by collecting user reaction information and quality criterion information for a plurality of photos to derive scores for a plurality of photos, extract objects from the plurality of photos, and score and recommending at least one photo among a plurality of photos based on the recommendation policy table learned based on the object.
사용자의 사진에 대한 피드백 정보를 수집하고 피드백 정보에 기초하여 정책 테이블에 대한 강화 학습을 수행함으로써 개인의 선호 정보를 반영할 수 있는 사진을 추천하는 사진 추천 장치, 방법 및 컴퓨터 프로그램을 제공하고자 한다.An object of the present invention is to provide a photo recommendation apparatus, method, and computer program for recommending photos that can reflect personal preference information by collecting feedback information on a user's photo and performing reinforcement learning on a policy table based on the feedback information.
다만, 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.However, the technical problems to be achieved by the present embodiment are not limited to the technical problems described above, and other technical problems may exist.
상술한 기술적 과제를 달성하기 위한 수단으로서, 본 발명의 일 실시예는, 사진을 추천하는 사진 추천 장치에 있어서, 상기 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하는 수집부, 상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하는 스코어 도출부, 상기 복수의 사진으로부터 객체를 추출하는 객체 추출부 및 상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 추천부를 포함할 수 있다.As a means for achieving the above-described technical problem, an embodiment of the present invention provides a photo recommendation device for recommending a photo, a collecting unit collecting user reaction information and quality reference information for the plurality of photos, the collecting A score derivation unit for deriving a score for the plurality of photos based on the user reaction information and the collected quality reference information, an object extracting unit for extracting an object from the plurality of photos, and the derived score and the extracted object and a recommender for recommending at least one of the plurality of photos based on the learned recommendation policy table.
일 실시예에서, 상기 스코어 도출부는 상기 사용자 반응 정보에 기초하여 상기 복수의 사진 각각에 대한 반응 스코어를 도출하는 반응 스코어 도출부; 및In one embodiment, the score deriving unit reaction score deriving unit for deriving a reaction score for each of the plurality of photos based on the user reaction information; and
상기 품질 기준 정보에 기초하여 상기 복수의 사진 각각에 대한 품질 스코어를 도출하는 품질 스코어 도출부를 포함할 수 있다.and a quality score deriving unit for deriving a quality score for each of the plurality of photos based on the quality reference information.
일 실시예에서, 상기 수집부는 상기 복수의 사진에 대한 사용자의 반응 영상을 더 수집하고, 상기 반응 스코어 도출부는 상기 복수의 사진 각각에 대한 응시 시간 정보 및 상기 반응 영상으로부터 인식된 표정 정보를 포함하는 상기 사용자 반응 정보에 기초하여 상기 반응 스코어를 도출할 수 있다.In one embodiment, the collection unit further collects a reaction image of the user to the plurality of photos, and the reaction score derivation unit includes gaze time information for each of the plurality of photos and facial expression information recognized from the reaction image The reaction score may be derived based on the user reaction information.
일 실시예에서, 상기 품질 스코어 도출부는 상기 복수의 사진 각각에 대한 구도, 선명도, 밝기 및 색상 중 적어도 하나를 포함하는 상기 품질 기준 정보에 기초하여 상기 품질 스코어를 도출할 수 있다.In an embodiment, the quality score deriving unit may derive the quality score based on the quality criterion information including at least one of composition, sharpness, brightness, and color for each of the plurality of photos.
일 실시예에서, 상기 객체 추출부는 상기 복수의 사진으로부터 기설정된 클래스에 해당하는 객체를 추출하고, 상기 기설정된 클래스는 얼굴을 포함하는 인물 클래스 및 상기 얼굴을 제외한 사물을 포함하는 사물 클래스 중 적어도 하나를 포함할 수 있다.In an embodiment, the object extraction unit extracts an object corresponding to a preset class from the plurality of photos, and the preset class is at least one of a person class including a face and an object class including an object excluding the face. may include.
일 실시예에서, 상기 추천부는 상기 도출한 스코어 및 상기 추출한 객체에 기초하여 상기 복수의 사진 각각에 대한 비트스트림(bit stream)을 생성하는 비트스트림 생성부, 상기 생성된 비트스트림에 기초하여 상기 복수의 사진을 매트릭스 형태로 정렬하는 정렬부 및 상기 매트릭스 형태로 정렬된 상기 복수의 사진을 상기 추천 정책 테이블에 매핑시킴으로써 상기 추천 정책 테이블을 관리하는 테이블 관리부를 포함할 수 있다.In an embodiment, the recommendation unit includes a bitstream generation unit for generating a bitstream for each of the plurality of photos based on the derived score and the extracted object, and the plurality of pieces based on the generated bitstream. It may include an arranging unit for arranging the photos of the matrix form, and a table management unit for managing the recommendation policy table by mapping the plurality of photos arranged in the matrix form to the recommendation policy table.
일 실시예에서, 상기 수집부는 상기 추천된 사진에 대한 피드백 정보를 더 수집할 수 있다.In an embodiment, the collecting unit may further collect feedback information on the recommended photo.
일 실시예에서, 상기 테이블 관리부는 상기 수집된 피드백 정보에 기초하여 상기 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다.In an embodiment, the table manager may perform reinforcement learning on the recommendation policy table based on the collected feedback information.
일 실시예에서, 상기 추천부는 상기 강화 학습이 수행된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천할 수 있다.In an embodiment, the recommendation unit may recommend at least one photo among the plurality of photos based on a recommendation policy table on which the reinforcement learning is performed.
본 발명의 다른 실시예는, 사진을 추천하는 방법에 있어서, 상기 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하는 단계, 상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하는 단계, 상기 복수의 사진으로부터 객체를 추출하는 단계 및 상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 단계를 포함할 수 있다.Another embodiment of the present invention provides a method for recommending a photo, comprising: collecting user reaction information and quality standard information for the plurality of photos; based on the collected user reaction information and the collected quality standard information Deriving a score for the plurality of photos, extracting an object from the plurality of photos, and at least one of the plurality of photos based on a recommendation policy table learned based on the derived score and the extracted object It may include a step of recommending a photo.
본 발명의 또 다른 실시예는, 사진을 추천하는 명령어들의 시퀀스를 포함하는 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램에 있어서, 상기 컴퓨터 프로그램은 컴퓨팅 장치에 의해 실행될 경우, 상기 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하고, 상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하고, 상기 복수의 사진으로부터 객체를 추출하고, 상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하도록 하는 명령어들의 시퀀스를 포함할 수 있다.Another embodiment of the present invention is a computer program stored in a computer readable recording medium including a sequence of instructions for recommending a picture, when the computer program is executed by a computing device, a user reaction to the plurality of pictures Collect information and quality criterion information, derive scores for the plurality of photos based on the collected user reaction information and the collected quality criterion information, extract an object from the plurality of photos, and the derived score and a sequence of commands for recommending at least one photo among the plurality of photos based on a recommendation policy table learned based on the extracted object.
상술한 과제 해결 수단은 단지 예시적인 것으로서, 본 발명을 제한하려는 의도로 해석되지 않아야 한다. 상술한 예시적인 실시예 외에도, 도면 및 발명의 상세한 설명에 기재된 추가적인 실시예가 존재할 수 있다.The above-described problem solving means are merely exemplary, and should not be construed as limiting the present invention. In addition to the exemplary embodiments described above, there may be additional embodiments described in the drawings and detailed description.
전술한 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 본 발명은 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하여 복수의 사진에 대한 스코어를 도출하고, 복수의 사진으로부터 객체를 추출하고, 스코어 및 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 복수의 사진 중 적어도 하나의 사진을 추천할 수 있다.According to any one of the above-described problem solving means of the present invention, the present invention collects user reaction information and quality reference information for a plurality of photos to derive scores for a plurality of photos, extracts objects from the plurality of photos, , a score, and at least one photo among a plurality of photos may be recommended based on the learned recommendation policy table based on the object.
또한, 사용자의 사진에 대한 피드백 정보를 수집하고 피드백 정보에 기초하여 정책 테이블에 대한 강화 학습을 수행함으로써 개인의 선호 정보를 반영하여 사진을 추천할 수 있다.In addition, by collecting feedback information on a user's photo and performing reinforcement learning on a policy table based on the feedback information, a photo may be recommended by reflecting personal preference information.
또한, 추천된 사진 정보를 이용하여 새로운 콘텐츠를 생성하는 서비스를 제공할 수 있다.In addition, a service for generating new content by using the recommended photo information may be provided.
도 1은 본 발명의 일 실시예에 따른 사진 추천 장치의 구성도이다.
도 2는 본 발명의 일 실시예에 따라 품질 스코어를 도출하는 방법을 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시예에 따라 품질 스코어를 도출하는 방법을 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 사진 추천 방법의 순서도이다.
도 5는 본 발명의 일 실시예에 따른 사진 추천 방법의 순서도이다.
도 6은 본 발명의 일 실시예에 따라 사진을 추천하는 방법을 설명하기 위한 도면이다.1 is a block diagram of a photo recommendation apparatus according to an embodiment of the present invention.
2 is a diagram for explaining a method of deriving a quality score according to an embodiment of the present invention.
3 is a diagram for explaining a method of deriving a quality score according to an embodiment of the present invention.
4 is a flowchart of a photo recommendation method according to an embodiment of the present invention.
5 is a flowchart of a photo recommendation method according to an embodiment of the present invention.
6 is a diagram for explaining a method of recommending a photo according to an embodiment of the present invention.
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those of ordinary skill in the art can easily implement them. However, the present invention may be embodied in many different forms and is not limited to the embodiments described herein. And in order to clearly explain the present invention in the drawings, parts irrelevant to the description are omitted, and similar reference numerals are attached to similar parts throughout the specification.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미하며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.Throughout the specification, when a part is "connected" with another part, this includes not only the case of being "directly connected" but also the case of being "electrically connected" with another element interposed therebetween. . Also, when a part "includes" a component, it means that other components may be further included, rather than excluding other components, unless otherwise stated, and one or more other features However, it is to be understood that the existence or addition of numbers, steps, operations, components, parts, or combinations thereof is not precluded in advance.
본 명세서에 있어서 '부(部)'란, 하드웨어에 의해 실현되는 유닛(unit), 소프트웨어에 의해 실현되는 유닛, 양방을 이용하여 실현되는 유닛을 포함한다. 또한, 1 개의 유닛이 2 개 이상의 하드웨어를 이용하여 실현되어도 되고, 2 개 이상의 유닛이 1 개의 하드웨어에 의해 실현되어도 된다. 한편, '~부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니며, '~부'는 어드레싱 할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 '~부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '~부'들로 결합되거나 추가적인 구성요소들과 '~부'들로 더 분리될 수 있다. 뿐만 아니라, 구성요소들 및 '~부'들은 디바이스 또는 보안 멀티미디어카드 내의 하나 또는 그 이상의 CPU들을 재생시키도록 구현될 수도 있다.In this specification, a "part" includes a unit realized by hardware, a unit realized by software, and a unit realized using both. In addition, one unit may be implemented using two or more hardware, and two or more units may be implemented by one hardware. Meanwhile, '~ unit' is not limited to software or hardware, and '~ unit' may be configured to be in an addressable storage medium or may be configured to reproduce one or more processors. Thus, as an example, '~' denotes components such as software components, object-oriented software components, class components, and task components, and processes, functions, properties, and procedures. , subroutines, segments of program code, drivers, firmware, microcode, circuitry, data, databases, data structures, tables, arrays and variables. The functions provided in the components and '~ units' may be combined into a smaller number of components and '~ units' or further separated into additional components and '~ units'. In addition, components and '~ units' may be implemented to play one or more CPUs in a device or secure multimedia card.
이하에서 언급되는 "네트워크"는 단말들 및 서버들과 같은 각각의 노드 상호 간에 정보 교환이 가능한 연결 구조를 의미하는 것으로, 근거리 통신망(LAN: Local Area Network), 광역 통신망(WAN: Wide Area Network), 인터넷 (WWW: World Wide Web), 유무선 데이터 통신망, 전화망, 유무선 텔레비전 통신망 등을 포함한다. 무선 데이터 통신망의 일례에는 3G, 4G, 5G, 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution), WIMAX(World Interoperability for Microwave Access), 와이파이(Wi-Fi), 블루투스 통신, 적외선 통신, 초음파 통신, 가시광 통신(VLC: Visible Light Communication), 라이파이(LiFi) 등이 포함되나 이에 한정되지는 않는다.The "network" referred to below means a connection structure in which information can be exchanged between each node, such as terminals and servers, and a local area network (LAN), a wide area network (WAN) , the Internet (WWW: World Wide Web), wired and wireless data networks, telephone networks, wired and wireless television networks, and the like. Examples of wireless data communication networks include 3G, 4G, 5G, 3rd Generation Partnership Project (3GPP), Long Term Evolution (LTE), World Interoperability for Microwave Access (WIMAX), Wi-Fi, Bluetooth communication, infrared communication, ultrasound Communication, Visible Light Communication (VLC), LiFi, etc. are included, but are not limited thereto.
본 명세서에 있어서 단말 또는 디바이스가 수행하는 것으로 기술된 동작이나 기능 중 일부는 해당 단말 또는 디바이스와 연결된 서버에서 대신 수행될 수도 있다. 이와 마찬가지로, 서버가 수행하는 것으로 기술된 동작이나 기능 중 일부도 해당 서버와 연결된 단말 또는 디바이스에서 수행될 수도 있다.Some of the operations or functions described as being performed by the terminal or device in the present specification may be instead performed by a server connected to the terminal or device. Similarly, some of the operations or functions described as being performed by the server may also be performed in a terminal or device connected to the server.
이하 첨부된 도면을 참고하여 본 발명의 일 실시예를 상세히 설명하기로 한다.Hereinafter, an embodiment of the present invention will be described in detail with reference to the accompanying drawings.
도 1은 본 발명의 일 실시예에 따른 사진 추천 장치의 구성도이다. 도 1을 참조하면, 사진 추천 장치(100)는 사진 저장부(110), 수집부(120), 스코어 도출부(130), 객체 추출부(140) 및 추천부(150)를 포함할 수 있다.1 is a block diagram of a photo recommendation apparatus according to an embodiment of the present invention. Referring to FIG. 1 , the
사진 추천 장치(100)는 복수의 사진으로부터 사진을 추천할 수 있다. 사진 추천 장치(100)는 예를 들어, 복수의 사진 중에서 하나 이상의 사진을 선별함으로써 사용자의 선호 정보를 반영하여 사진을 추천할 수 있다. 사진 추천 장치(100)는 사용자의 복수의 사진을 저장하고, 저장 중인 복수의 사진에서 사진을 추천할 수 있는 사용자 단말일 수 있고, 사용자 단말로부터 복수의 사진 또는 복수의 사진에 대한 정보를 수신하고, 수신된 정보에 기초하여 사진을 추천할 수 있는 서버일 수 있다.The
사진 저장부(110)는 복수의 사진을 저장할 수 있다. 사진 저장부(110)는 예를 들어, 사용자 단말, 외부 서버, 클라우드 또는 외부 장치로부터 복수의 사진을 전송받아 저장할 수 있다.The
수집부(120)는 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집할 수 있다.The
수집부(120)는 복수의 사진에 대한 사용자의 반응 영상을 더 수집할 수 있다. 사용자의 반응 영상은 예를 들어, 복수의 사진이 사용자 단말의 디스플레이를 통해 출력되는 동안에 사용자 단말에 부착된 카메라를 이용하여 촬영한 사용자의 얼굴 영상일 수 있다.The
사용자 반응 정보는 복수의 사진에 대한 사용자의 반응 영상에 기초하여 도출된 것일 수 있다. 사용자 반응 정보는 예를 들어, 복수의 사진 각각에 대한 응시 시간 정보 및 반응 영상으로부터 인식된 표정 정보를 포함할 수 있다.The user reaction information may be derived based on the user's reaction image to the plurality of photos. The user reaction information may include, for example, gaze time information for each of a plurality of photos and facial expression information recognized from a reaction image.
다른 실시예에서, 사진 추천 장치(100)는 복수의 사진에 대한 사용자의 반응 영상을 수집하고, 사진 추천 장치(100)가 사용자의 반응 영상으로부터 사용자 반응 정보를 도출할 수 있다.In another embodiment, the
예를 들어, 사진 추천 장치(100)는 복수의 사진에 대한 사용자의 반응 영상으로부터 사용자의 얼굴 영상을 검출할 수 있다. 사진 추천 장치(100)는 사용자의 얼굴 부분에 포함되는 사용자의 표정 정보를 도출할 수 있다. 사진 추천 장치(100)는 사용자의 얼굴 영상으로부터 복수의 표정 중 어느 하나에 해당할 확률값에 기초하여 사용자의 표정 정보를 도출할 수 있다. 복수의 표정은 예를 들어, 무표정, 미소, 웃음, 화남, 슬픔 중 하나 이상을 포함할 수 있다.For example, the
품질 기준 정보는 예를 들어, 복수의 사진 각각에 대한 구도, 선명도, 밝기 및 색상 중 적어도 하나를 포함할 수 있다.The quality reference information may include, for example, at least one of composition, sharpness, brightness, and color of each of the plurality of photos.
스코어 도출부(130)는 수집된 사용자 반응 정보 및 수집된 품질 기준 정보에 기초하여 복수의 사진에 대한 스코어를 도출할 수 있다.The
다시 도 1을 참조하면, 스코어 도출부(130)는 반응 스코어 도출부(131) 및 품질 스코어 도출부(132)를 포함할 수 있다.Referring back to FIG. 1 , the
반응 스코어 도출부(131)는 사용자 반응 정보에 기초하여 복수의 사진 각각에 대한 반응 스코어를 도출할 수 있다. 사용자 반응 정보는 예를 들어, 복수의 사진 각각에 대한 응시 시간 정보 및 반응 영상으로부터 인식된 표정 정보를 포함할 수 있다.The reaction
반응 스코어 도출부(131)는 예를 들어, 복수의 사진 각각에 대한 응시 시간 정보에 기초하여, 사용자가 사진을 응시하는 시간이 길수록 높은 반응 스코어를 부여할 수 있다.The response
반응 스코어 도출부(131)는 예를 들어, 복수의 사진 각각에 대한 반응 영상으로부터 인식된 표정 정보에 기초하여, 사용자의 표정이 강하게 표현되거나 또는 긍정적인 의미의 표정이 많이 나타날수록 높은 반응 스코어를 부여할 수 있다.The reaction
품질 스코어 도출부(132)는 품질 기준 정보에 기초하여 복수의 사진 각각에 대한 품질 스코어를 도출할 수 있다.The quality
품질 기준 정보는 예를 들어, 복수의 사진 각각에 대한 구도, 선명도, 밝기 및 색상 중 적어도 하나를 포함할 수 있다.The quality reference information may include, for example, at least one of composition, sharpness, brightness, and color of each of the plurality of photos.
도 2 및 도 3은 본 발명의 일 실시예에 따라 품질 스코어를 도출하는 방법을 설명하기 위한 도면이다.2 and 3 are diagrams for explaining a method of deriving a quality score according to an embodiment of the present invention.
예를 들어, 품질 스코어 도출부(132)는 도 2의 (a)와 같은 사진에 대하여 품질 기준 정보에 기초하여 품질 스코어를 도출할 수 있다. 품질 스코어 도출부(132)는 도 2의 (b)에 도시된 바와 같이 윤곽선을 검출하여 수평선 및 소실점의 위치를 분석할 수 있다. 품질 스코어 도출부(132)는 도 2의 (c)에 도시된 바와 같이 사진이 3 등분 구도의 템플릿임을 분석할 수 있다.For example, the quality
예를 들어, 품질 스코어 도출부(132)는 3 등분 구도의 사진에 대하여 사진의 수평선 및 소실점이 1/3 지점에 존재하는지 여부를 기준으로 품질 스코어를 도출할 수 있다. 품질 스코어 도출부(132)는 다음의 수학식 1을 이용하여 3 등분 구도의 사진에 대한 품질 스코어(S1)를 도출할 수 있다.For example, the quality
다른 예를 들어, 품질 스코어 도출부(132)는 도 3의 (a)와 같은 사진에 대하여 품질 기준 정보에 기초하여 품질 스코어를 도출할 수 있다. 품질 스코어 도출부(132)는 도 3의 (b)에 도시된 바와 같이 윤곽선을 검출할 수 있다. 품질 스코어 도출부(132)는 도 3의 (c)에 도시된 바와 같이 사진이 대칭 구도의 템플릿임을 분석할 수 있다.As another example, the quality
예를 들어, 품질 스코어 도출부(132)는 대칭 구도의 사진에 대하여 사진의 대칭 정도를 기준으로 품질 스코어를 도출할 수 있다. 품질 스코어 도출부(132)는 도 3의 (b)와 같이 검출한 윤곽선을 이용하여 대칭 정도를 기준으로 품질 스코어를 도출할 수 있다. 품질 스코어 도출부(132)는 다음의 수학식 2를 이용하여 대칭 구도의 사진에 대한 품질 스코어(S2)를 도출할 수 있다.For example, the quality
스코어 도출부(130)는 반응 스코어 및 품질 스코어에 기초하여 복수의 사진 각각에 대한 최종 스코어를 도출할 수 있다.The
객체 추출부(140)는 복수의 사진으로부터 객체를 추출할 수 있다.The
객체 추출부(140)는 복수의 사진으로부터 기설정된 클래스에 해당하는 객체를 추출할 수 있다. 기설정된 클래스는 예를 들어, 얼굴을 포함하는 인물 클래스 및 얼굴을 제외한 사물을 포함하는 사물 클래스 중 적어도 하나를 포함할 수 있다.The
예를 들어, 객체 추출부(140)는 얼굴 검출 모델을 이용하여 복수의 사진으로부터 얼굴 클래스에 해당하는 객체를 추출할 수 있다. 객체 추출부(140)는 복수의 사진으로부터 얼굴에 포함되는 랜드마크 정보를 더 추출할 수 있다. 객체 추출부(140)는 복수의 사진으로부터 얼굴에 포함되는 얼굴 인식을 위한 특징값 정보를 더 추출할 수 있다.For example, the
예를 들어, 객체 추출부(140)는 복수의 사물 검출 모델을 이용하여 복수의 사진으로부터 각 사물 클래스에 해당하는 객체를 추출할 수 있다. 사물 클래스는 예를 들어, 건물 클래스, 가구 클래스, 자동차 클래스 등의 얼굴을 제외하는 사물을 포함하는 하나 이상의 클래스를 의미할 수 있다.For example, the
추천부(150)는 추천 정책 테이블에 기초하여 복수의 사진 중 적어도 하나의 사진을 추천할 수 있다. 추천 정책 테이블은 도출한 스코어 및 추출한 객체에 기초하여 도출될 수 있다.The
다시 도 1을 참조하면, 추천부(150)는 비트스트림 생성부(151), 정렬부(152) 및 테이블 관리부(153)를 포함할 수 있다.Referring back to FIG. 1 , the
비트스트림 생성부(151)는 도출한 스코어 및 추출한 객체에 기초하여 복수의 사진 각각에 대한 비트스트림(bit stream)을 생성할 수 있다.The
비트스트림 생성부(151)는 예를 들어, 반응 스코어 및 품질 스코어에 대한 양자화를 수행할 수 있다. 비트스트림 생성부(151)는 예를 들어, 추출한 객체가 포함되는 클래스 각각의 클래스 ID에 대한 이진화를 수행할 수 있다.The
비트스트림 생성부(151)는 반응 스코어 및 품질 스코어에 대하여 양자화를 수행한 결과값 및 클래스 ID에 대하여 이진화를 수행한 결과값에 기초하여 복수의 사진 각각에 대한 비트스트림을 생성할 수 있다.The
정렬부(152)는 생성된 비트스트림에 기초하여 복수의 사진을 매트릭스 형태로 정렬할 수 있다. 정렬부(152)는 예를 들어, 비트스트림을 내림차순 또는 오름차순으로 정렬함으로써 복수의 사진을 매트릭스 형태로 정렬할 수 있다. 비트스트림을 단순 정렬하는 경우에는 상위 비트에 위치한 값에 의해 영향을 가장 크게 받는다. 따라서 비트스트림에서 어떤 스코어 또는 클래스 ID에 관련되는 값이 상위 비트에 위치했는지에 따라 이에 의한 영향이 커질 수 있으나, 비트스트림을 매트릭스 형태로 정렬함으로써 상위 비트에 위치한 값에 의한 영향을 작게할 수 있다.The
테이블 관리부(153)는 매트릭스 형태로 정렬된 복수의 사진을 추천 정책 테이블에 매핑시킴으로써 추천 정책 테이블을 관리할 수 있다.The
수집부(120)는 추천된 사진에 대한 피드백 정보를 더 수집할 수 있다. 일 실시예에서, 수집부(120)는 사용자가 추천된 사진을 선택하였는지 또는 거부하였는지 여부에 기초하여 생성된 피드백 정보를 수집할 수 있다.The
다른 실시예에서, 수집부(120)는 복수의 사진 중에서 사용자가 선택한 사진 정보에 기초하여 생성된 피드백 정보를 수집할 수 있다.In another embodiment, the
테이블 관리부(153)는 수집된 피드백 정보에 기초하여 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다. 테이블 관리부(153)는 예를 들어, 수집된 피드백 정보에 기초하여 리워드를 업데이트하고, 업데이트된 리워드에 기초하여 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다.The
추천부(150)는 강화 학습이 수행된 추천 정책 테이블에 기초하여 복수의 사진 중 적어도 하나의 사진을 추천할 수 있다. 예를 들어, 추천부(150)는 강화 학습이 수행된 추천 정책 테이블의 값이 높은 순서대로, 비트스트림이 정렬된 매트릭스에서 이에 대응하는 비트스트림의 사진을 추천할 수 있다.The
추천부(150)는 예를 들어, 강화 학습이 수행된 추천 정책 테이블에 기초하여 복수의 사진 중 사용자가 원하는 수만큼의 사진을 추천할 수 있다. 추천부(150)는 예를 들어, 추천 정책 테이블의 값이 동일한 복수의 비트스트림이 존재하는 경우에, 비트스트림에 기초하여 복수의 사진 중 하나 이상을 선택하여 추천할 수 있다.The
도 4는 본 발명의 일 실시예에 따라 사진을 추천하는 방법의 순서도이다. 도 4에 도시된 사진 추천 장치(100)에서 수행되는 사진을 추천하는 방법(400)은 도 1에 도시된 실시예에 따라 사진 추천 장치(100)에 의해 시계열적으로 처리되는 단계들을 포함한다. 따라서, 이하 생략된 내용이라고 하더라도 도 1에 도시된 실시예에 따라 사진 추천 장치(100)에서 수행되는 사진을 추천하는 방법에도 적용된다.4 is a flowchart of a method for recommending a photo according to an embodiment of the present invention. The
단계 S410에서 사진 추천 장치(100)는 복수의 사진을 저장할 수 있다.In step S410, the
단계 S420에서 사진 추천 장치(100)는 복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집할 수 있다.In step S420 , the
단계 S430에서 사진 추천 장치(100)는 수집된 사용자 반응 정보 및 수집된 품질 기준 정보에 기초하여 복수의 사진에 대한 스코어를 도출할 수 있다.In step S430 , the
단계 S440에서 사진 추천 장치(100)는 복수의 사진으로부터 객체를 추출할 수 있다.In step S440 , the
단계 S450에서 사진 추천 장치(100)는 도출한 스코어 및 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 복수의 사진 중 적어도 하나의 사진을 추천할 수 있다.In step S450 , the
상술한 설명에서, 단계 S410 내지 S450은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 전환될 수도 있다.In the above description, steps S410 to S450 may be further divided into additional steps or combined into fewer steps according to an embodiment of the present invention. In addition, some steps may be omitted if necessary, and the order between the steps may be switched.
도 5은 본 발명의 일 실시예에 따라 사진을 추천하는 방법의 순서도이다. 도 5에 도시된 사진 추천 장치(100)에서 수행되는 사진을 추천하는 방법(500)은 도 1에 도시된 실시예에 따라 사진 추천 장치(100)에 의해 시계열적으로 처리되는 단계들을 포함한다. 따라서, 이하 생략된 내용이라고 하더라도 도 1에 도시된 실시예에 따라 사진 추천 장치(100)에서 수행되는 사진을 추천하는 방법에도 적용된다.5 is a flowchart of a method for recommending a photo according to an embodiment of the present invention. The
단계 S510에서 사진 추천 장치(100)는 복수의 사진에 기초하여 M×N 매트릭스를 생성할 수 있다.In operation S510 , the
사진 추천 장치(100)는 예를 들어, 복수의 사진 각각에 대한 비트스트림을 생성하고, 생성된 비트스트림에 기초하여 복수의 사진을 매트릭스 형태로 정렬함으로써 M×N 개의 사진으로부터 M×N 매트릭스를 생성할 수 있다.The
단계 S520에서 사진 추천 장치(100)는 난수를 발생하여 i 번째 사진을 선택할 수 있다.In step S520 , the
사진 추천 장치(100)는 추천 정책 테이블에 대하여 강화 학습을 수행하기 전에 난수를 발생하여 임의의 사진을 추천함으로써 복수의 사진에 대한 피드백 정보를 수집할 수 있다.The
단계 S530에서 사진 추천 장치(100)는 선택된 i 번째 사진을 사용자에게 출력할 수 있다.In step S530, the
단계 S540에서 사진 추천 장치(100)는 출력된 i 번째 사진에 대한 피드백 정보를 수집할 수 있다.In step S540 , the
사진 추천 장치(100)는 예를 들어, 출력된 i 번째 사진을 사용자가 선택하였는지 또는 거부하였는지에 기초하여 생성된 피드백 정보를 수집할 수 있다.The
단계 S550에서 사진 추천 장치(100)는 수집된 피드백 정보에 기초하여 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다.In operation S550 , the
사진 추천 장치(100)는 예를 들어, 수집된 피드백 정보에 기초하여 리워드를 업데이트하고, 업데이트된 리워드에 기초하여 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다.The
단계 S560에서 사진 추천 장치(100)는 강화 학습이 수행된 추천 정책 테이블에 기초하여 사진을 추천할 수 있다(미도시).In step S560, the
상술한 설명에서, 단계 S510 내지 S560은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 전환될 수도 있다.In the above description, steps S510 to S560 may be further divided into additional steps or combined into fewer steps, according to an embodiment of the present invention. In addition, some steps may be omitted if necessary, and the order between the steps may be switched.
도 6을 참조하여, 본 발명의 일 실시예에 따라 사진을 추천하는 방법을 설명한다. 간략한 설명을 위해 2×2의 매트릭스를 이용하여 4 장의 사진 중 2 장의 사진을 추천한다고 가정한다.A method of recommending a photo according to an embodiment of the present invention will be described with reference to FIG. 6 . For the sake of brevity, it is assumed that 2 pictures out of 4 pictures are recommended using a 2×2 matrix.
도 6의 (a)는 사용자 단말에 새로 저장된 4 장의 사진을 도시한다. 예를 들어, ID가 001인 사진의 경우 품질 스코어 82점, 반응 스코어 32점 및 추출한 객체에 기초하여 비트스트림 "0101 0010 0010 0000"을 생성할 수 있다. ID가 002인 사진의 경우 품질 스코어 85점, 반응 스코어 29점 및 추출한 객체에 기초하여 비트스트림 "0101 0101 0001 1101"을 생성할 수 있다. ID가 003인 사진의 경우 품질 스코어 32점, 반응 스코어 78점 및 추출한 객체에 기초하여 비트스트림 "010 0000 0100 1110"을 생성할 수 있다. ID가 004인 사진의 경우 품질 스코어 65점, 반응 스코어 92점 및 추출한 객체에 기초하여 비트스트림 "0100 0001 0101 1100"을 생성할 수 있다.6A shows four photos newly stored in the user terminal. For example, in the case of a photo having an ID of 001, a bitstream "0101 0010 0010 0000" may be generated based on a quality score of 82 points, a response score of 32 points, and the extracted object. In the case of a photo having an ID of 002, a bitstream "0101 0101 0001 1101" may be generated based on a quality score of 85 points, a reaction score of 29 points, and the extracted object. In the case of a picture having an ID of 003, a bitstream "010 0000 0100 1110" may be generated based on a quality score of 32 points, a response score of 78 points, and the extracted object. In the case of a photo having an ID of 004, a bitstream "0100 0001 0101 1100" may be generated based on a quality score of 65 points, a response score of 92 points, and the extracted object.
도 6의 (b)는 현재의 추천 정책 테이블을 예시적으로 도시한다. 현재의 추천 정책 테이블은 예를 들어, 이전에 추천된 사진에 대한 피드백 정보에 기초하여 강화 학습이 수행된 추천 정책 테이블일 수 있다.6B exemplarily illustrates a current recommendation policy table. The current recommendation policy table may be, for example, a recommendation policy table in which reinforcement learning is performed based on feedback information on previously recommended photos.
예를 들어, 사진 추천 장치(100)는 이전 분기에 저장된 복수의 사진의 비트스트림을 매트릭스 형태로 정렬하고, 매트릭스 형태로 정렬된 비트스트림을 추천 정책 테이블의 각 값에 매핑시킬 수 있다. 사진 추천 장치(100)는 이전 분기에 저장된 복수의 사진 중 추천된 사진에 대한 피드백 정보에 기초하여 리워드를 업데이트하고, 업데이트된 리워드에 기초하여 추천 정책 테이블에 대한 강화 학습을 수행할 수 있다. 즉, 추천 정책 테이블에서 사용자가 선호하는 사진의 비트스트림이 매핑된 위치(좌표값)일수록 높은 값을 가질 수 있다.For example, the
이어서, 사진 추천 장치(100)는 동일한 방식으로 금번 분기에 저장된 복수의 사진의 비트스트림을 매트릭스 형태로 정렬할 수 있다. 이 때 이전 분기의 복수의 사진 및 금번 분기의 복수의 사진의 비트스트림이 각각 매트릭스 형태로 정렬되면 매트릭스에서의 비트스트림의 배열은 동일한 경향을 나타낼 수 있다. 사진 추천 장치(100)는 매트릭스 형태로 정렬된 비트스트림을 강화 학습이 수행된 현재의 추천 정책 테이블의 각 값에 매핑시킬 수 있다.Subsequently, the
즉, 금번 분기의 복수의 사진의 비트스트림과 이전 분기의 복수의 사진의 비트스트림이 동일한 경향성을 갖도록 정렬되어 있다. 따라서 사진 추천 장치(100)는 이전 분기에서 강화 학습된 추천 정책 테이블을 금번 분기의 복수의 사진의 비트스트림에 매핑시킴으로써, 추천 정책 테이블의 값이 높은 위치에 대응하는 비트스트림에 해당하는 사진을 사용자에게 추천할 수 있다.That is, the bitstreams of the plurality of photos of this branch and the bitstreams of the plurality of photos of the previous branch are arranged to have the same tendency. Therefore, the
도 6의 (c)는 도 6의 (a)에 도시된 4 장의 사진의 비트스트림을 내림차순으로 정렬함으로써 각 사진의 ID를 매트릭스 형태로 정렬한 것이다. 사진 추천 장치(100)는 상술한 바와 같이 도 6의 (b) 및 (c)에 기초하여 추천 정책 테이블의 값이 높은 순서대로, 추천 정책 테이블의 값이 0.8인 위치(601)에 대응하는 ID가 004인 사진(611)과 추천 정책 테이블의 값이 0.3인 위치(603)에 대응하는 ID가 003인 사진(613)을 추천할 수 있다.FIG. 6(c) shows that the bitstreams of the four pictures shown in FIG. 6(a) are arranged in a descending order so that IDs of each picture are arranged in a matrix form. As described above, based on (b) and (c) of FIG. 6 , the
도 6의 (d) 및 (e)는 추천된 사진에 대한 피드백 정보에 기초하여 강화 학습이 수행된 추천 정책 테이블을 예시적으로 나타낸다. 사용자가 추천된 사진(ID 004(611) 및 ID 003(613))을 모두 선택한 경우, 도 6의 (d)과 같이 선택된 사진에 대응하는 추천 정책 테이블의 값이 증가할 수 있다. 예를 들어, 사용자에 의해 선택된 ID 004(611)에 대한 추천 정책 테이블의 값(621)은 '(기존 추천 정책 테이블의 값+(선택될 경우 리워드 값(=1)-기존추천 정책 테이블의 값))/시도횟수'로 결정될 수 있고, 구체적으로 (0.8+(1-0.8))/1=1로 증가할 수 있다. 다른 예를 들어, 사용자에 의해 선택된 ID 003(613)에 대한 추천 정책 테이블의 값(623)은 (0.3+(1-0.3))/1=1로 증가할 수 있다. 사용자가 추천된 사진 중 ID 004인 사진(611)을 선택하고 ID 003인 사진(613)을 거부한 경우, 도 6의 (e)과 같이 선택된 사진에 대응하는 추천 정책 테이블의 값이 증가하고, 거부된 사진에 대응하는 추천 정책 테이블의 값이 감소할 수 있다. 예를 들어, 사용자에 의해 선택된 ID 004(611)에 대한 추천 정책 테이블의 값(631)은 (0.8+(1-0.8))/1=1로 증가할 수 있다. 다른 예를 들어, 사용자에 의해 선택된 ID 003(613)에 대한 추천 정책 테이블의 값(633)은 '(기존 추천 정책 테이블의 값+(거부될 경우 리워드 값(=0)-기존추천 정책 테이블의 값))/시도횟수'로 결정될 수 있고, 구체적으로 (0.3+(0-0.3))/1=0으로 감소할 수 있다.6 (d) and (e) exemplarily show a recommendation policy table in which reinforcement learning is performed based on feedback information on a recommended photo. When the user selects both the recommended photos (ID 004 (611) and ID 003 (613)), the value of the recommendation policy table corresponding to the selected photo may increase as shown in (d) of FIG. 6 . For example, the
도 1 내지 도 6을 통해 설명된 사진 추천 장치에서 사진을 추천하는 방법은 컴퓨터에 의해 실행되는 매체에 저장된 컴퓨터 프로그램 또는 컴퓨터에 의해 실행 가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다.The method for recommending a photo in the photo recommendation apparatus described with reference to FIGS. 1 to 6 may be implemented in the form of a computer program stored in a medium executed by a computer or a recording medium including instructions executable by the computer.
컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체를 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다.Computer-readable media can be any available media that can be accessed by a computer and includes both volatile and nonvolatile media, removable and non-removable media. Also, computer-readable media may include computer storage media. Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The above description of the present invention is for illustration, and those of ordinary skill in the art to which the present invention pertains can understand that it can be easily modified into other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are illustrative in all respects and not restrictive. For example, each component described as a single type may be implemented in a dispersed form, and likewise components described as distributed may be implemented in a combined form.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is indicated by the following claims rather than the above detailed description, and all changes or modifications derived from the meaning and scope of the claims and their equivalent concepts should be interpreted as being included in the scope of the present invention. do.
100: 사진 추천 장치
110: 사진 저장부
120: 수집부
130: 스코어 도출부
140: 객체 추출부
150: 추천부100: photo recommendation device
110: photo storage unit
120: collection unit
130: score derivation unit
140: object extraction unit
150: recommendation
Claims (19)
복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하는 수집부;
상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하는 스코어 도출부;
상기 복수의 사진으로부터 객체를 추출하는 객체 추출부; 및
상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 추천부
를 포함하는 것인, 사진 추천 장치.
In the photo recommendation device for recommending a photo,
a collection unit for collecting user reaction information and quality reference information for a plurality of photos;
a score derivation unit for deriving scores for the plurality of photos based on the collected user reaction information and the collected quality reference information;
an object extraction unit for extracting objects from the plurality of photos; and
A recommendation unit for recommending at least one photo among the plurality of photos based on a recommendation policy table learned based on the derived score and the extracted object
Which will include, a photo recommendation device.
상기 스코어 도출부는
상기 사용자 반응 정보에 기초하여 상기 복수의 사진 각각에 대한 반응 스코어를 도출하는 반응 스코어 도출부; 및
상기 품질 기준 정보에 기초하여 상기 복수의 사진 각각에 대한 품질 스코어를 도출하는 품질 스코어 도출부
를 포함하는 것인, 사진 추천 장치.
The method of claim 1,
The score derivation unit
a reaction score deriving unit for deriving a reaction score for each of the plurality of photos based on the user reaction information; and
A quality score derivation unit for deriving a quality score for each of the plurality of photos based on the quality reference information
Which will include, a photo recommendation device.
상기 수집부는 상기 복수의 사진에 대한 사용자의 반응 영상을 더 수집하고,
상기 반응 스코어 도출부는 상기 복수의 사진 각각에 대한 응시 시간 정보 및 상기 반응 영상으로부터 인식된 표정 정보를 포함하는 상기 사용자 반응 정보에 기초하여 상기 반응 스코어를 도출하는 것인, 사진 추천 장치.
3. The method of claim 2,
The collection unit further collects the user's reaction image to the plurality of photos,
The reaction score deriving unit will derive the reaction score based on the user reaction information including gaze time information for each of the plurality of photos and facial expression information recognized from the reaction image.
상기 품질 스코어 도출부는 상기 복수의 사진 각각에 대한 구도, 선명도, 밝기 및 색상 중 적어도 하나를 포함하는 상기 품질 기준 정보에 기초하여 상기 품질 스코어를 도출하는 것인, 사진 추천 장치.
3. The method of claim 2,
Wherein the quality score derivation unit derives the quality score based on the quality criterion information including at least one of composition, sharpness, brightness, and color for each of the plurality of photos.
상기 객체 추출부는 상기 복수의 사진으로부터 기설정된 클래스에 해당하는 객체를 추출하고,
상기 기설정된 클래스는 얼굴을 포함하는 인물 클래스 및 상기 얼굴을 제외한 사물을 포함하는 사물 클래스 중 적어도 하나를 포함하는 것인, 사진 추천 장치.
The method of claim 1,
The object extraction unit extracts an object corresponding to a preset class from the plurality of photos,
The preset class includes at least one of a person class including a face and an object class including an object excluding the face.
상기 추천부는
상기 도출한 스코어 및 상기 추출한 객체에 기초하여 상기 복수의 사진 각각에 대한 비트스트림(bit stream)을 생성하는 비트스트림 생성부;
상기 생성된 비트스트림에 기초하여 상기 복수의 사진을 매트릭스 형태로 정렬하는 정렬부; 및
상기 매트릭스 형태로 정렬된 상기 복수의 사진을 상기 추천 정책 테이블에 매핑시킴으로써 상기 추천 정책 테이블을 관리하는 테이블 관리부
를 포함하는 것인, 사진 추천 장치.
The method of claim 1,
The recommendation is
a bitstream generator for generating a bitstream for each of the plurality of photos based on the derived score and the extracted object;
an alignment unit aligning the plurality of photos in a matrix form based on the generated bitstream; and
A table management unit for managing the recommendation policy table by mapping the plurality of photos arranged in the matrix form to the recommendation policy table
Which will include, a photo recommendation device.
상기 수집부는 상기 추천된 사진에 대한 피드백 정보를 더 수집하는 것인, 사진 추천 장치.
7. The method of claim 6,
Wherein the collecting unit further collects feedback information on the recommended photo.
상기 테이블 관리부는 상기 수집된 피드백 정보에 기초하여 상기 추천 정책 테이블에 대한 강화 학습을 수행하는 것인, 사진 추천 장치.
8. The method of claim 7,
The table manager will perform reinforcement learning on the recommendation policy table based on the collected feedback information, a photo recommendation device.
상기 추천부는 상기 강화 학습이 수행된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 것인, 사진 추천 장치.
9. The method of claim 8,
Wherein the recommendation unit recommends at least one photo among the plurality of photos based on the recommendation policy table on which the reinforcement learning is performed.
복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하는 단계;
상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하는 단계;
상기 복수의 사진으로부터 객체를 추출하는 단계; 및
상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 단계
를 포함하는 것인, 사진 추천 방법.
In the method of recommending a photo,
collecting user reaction information and quality reference information for a plurality of photos;
deriving scores for the plurality of photos based on the collected user reaction information and the collected quality reference information;
extracting an object from the plurality of photos; and
Recommending at least one photo among the plurality of photos based on a recommendation policy table learned based on the derived score and the extracted object
A method for recommending photos, which includes.
상기 스코어를 도출하는 단계는
상기 사용자 반응 정보에 기초하여 상기 복수의 사진 각각에 대한 반응 스코어를 도출하는 단계; 및
상기 품질 기준 정보에 기초하여 상기 복수의 사진 각각에 대한 품질 스코어를 도출하는 단계
를 포함하는 것인, 사진 추천 방법.
11. The method of claim 10,
The step of deriving the score is
deriving a reaction score for each of the plurality of photos based on the user reaction information; and
deriving a quality score for each of the plurality of photos based on the quality reference information
A method for recommending photos, which includes.
상기 복수의 사진에 대한 사용자의 반응 영상을 수집하는 단계를 더 포함하고,
상기 반응 스코어를 도출하는 단계는 상기 복수의 사진 각각에 대한 응시 시간 정보 및 상기 반응 영상으로부터 인식된 표정 정보를 포함하는 상기 사용자 반응 정보에 기초하여 상기 반응 스코어를 도출하는 것인, 사진 추천 방법.
12. The method of claim 11,
Further comprising the step of collecting the user's reaction image to the plurality of photos,
The step of deriving the reaction score is to derive the reaction score based on the user reaction information including gaze time information for each of the plurality of photos and facial expression information recognized from the reaction image.
상기 품질 스코어를 도출하는 단계는 상기 복수의 사진 각각에 대한 구도, 선명도, 밝기 및 색상 중 적어도 하나를 포함하는 상기 품질 기준 정보에 기초하여 상기 품질 스코어를 도출하는 것인, 사진 추천 방법.
12. The method of claim 11,
The step of deriving the quality score is to derive the quality score based on the quality criterion information including at least one of composition, sharpness, brightness, and color for each of the plurality of photos.
상기 객체를 추출하는 단계는 상기 복수의 사진으로부터 기설정된 클래스에 해당하는 객체를 추출하고,
상기 기설정된 클래스는 얼굴을 포함하는 인물 클래스 및 상기 얼굴을 제외한 사물을 포함하는 사물 클래스 중 적어도 하나를 포함하는 것인, 사진 추천 방법.
11. The method of claim 10,
The step of extracting the object extracts an object corresponding to a preset class from the plurality of photos,
The preset class includes at least one of a person class including a face and an object class including an object excluding the face.
상기 도출한 스코어 및 상기 추출한 객체에 기초하여 상기 복수의 사진 각각에 대한 비트스트림(bit stream)을 생성하는 단계;
상기 생성된 비트스트림에 기초하여 상기 복수의 사진을 매트릭스 형태로 정렬하는 단계; 및
상기 매트릭스 형태로 정렬된 상기 복수의 사진을 상기 추천 정책 테이블에 매핑시킴으로써 상기 추천 정책 테이블을 관리하는 단계
를 더 포함하는 것인, 사진 추천 방법.
11. The method of claim 10,
generating a bit stream for each of the plurality of photos based on the derived score and the extracted object;
arranging the plurality of photos in a matrix form based on the generated bitstream; and
managing the recommendation policy table by mapping the plurality of photos arranged in the matrix form to the recommendation policy table
Which will further include, a photo recommendation method.
상기 추천된 사진에 대한 피드백 정보를 수집하는 단계를 더 포함하는 것인, 사진 추천 방법.
16. The method of claim 15,
The method further comprising the step of collecting feedback information on the recommended photo, photo recommendation method.
상기 추천 정책 테이블을 관리하는 단계는 상기 수집된 피드백 정보에 기초하여 상기 추천 정책 테이블에 대한 강화 학습을 수행하는 것인, 사진 추천 방법.
17. The method of claim 16,
The managing of the recommendation policy table may include performing reinforcement learning on the recommendation policy table based on the collected feedback information.
상기 추천하는 단계는 상기 강화 학습이 수행된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하는 것인, 사진 추천 방법.
18. The method of claim 17,
The recommending step is to recommend at least one photo among the plurality of photos based on a recommendation policy table on which the reinforcement learning is performed.
상기 컴퓨터 프로그램은 컴퓨팅 장치에 의해 실행될 경우,
복수의 사진에 대한 사용자 반응 정보 및 품질 기준 정보를 수집하고,
상기 수집된 사용자 반응 정보 및 상기 수집된 품질 기준 정보에 기초하여 상기 복수의 사진에 대한 스코어를 도출하고,
상기 복수의 사진으로부터 객체를 추출하고,
상기 도출한 스코어 및 상기 추출한 객체에 기초하여 학습된 추천 정책 테이블에 기초하여 상기 복수의 사진 중 적어도 하나의 사진을 추천하도록 하는 명령어들의 시퀀스를 포함하는 것인, 컴퓨터 판독가능 기록매체에 저장된 컴퓨터 프로그램.
In a computer program stored on a computer-readable recording medium comprising a sequence of instructions for recommending a picture,
When the computer program is executed by a computing device,
Collect user reaction information and quality standard information for a plurality of photos,
Derive a score for the plurality of photos based on the collected user reaction information and the collected quality reference information,
Extracting an object from the plurality of photos,
A computer program stored in a computer-readable recording medium comprising a sequence of instructions for recommending at least one of the plurality of photos based on a recommendation policy table learned based on the derived score and the extracted object. .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200039923A KR20210122586A (en) | 2020-04-01 | 2020-04-01 | Apparatus, method and computer program for recommending photo |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200039923A KR20210122586A (en) | 2020-04-01 | 2020-04-01 | Apparatus, method and computer program for recommending photo |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20210122586A true KR20210122586A (en) | 2021-10-12 |
Family
ID=78078640
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020200039923A KR20210122586A (en) | 2020-04-01 | 2020-04-01 | Apparatus, method and computer program for recommending photo |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20210122586A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230108210A (en) * | 2022-01-10 | 2023-07-18 | 김중연 | Method and apparatus for providng photo print service based user trends |
-
2020
- 2020-04-01 KR KR1020200039923A patent/KR20210122586A/en unknown
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230108210A (en) * | 2022-01-10 | 2023-07-18 | 김중연 | Method and apparatus for providng photo print service based user trends |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20140153832A1 (en) | Facial expression editing in images based on collections of images | |
US11704933B2 (en) | Information processing apparatus, information processing method, and program | |
KR102299960B1 (en) | Apparatus and method for recommending keyword related to video | |
CN102486793A (en) | Method and system for searching target user | |
CN110543811A (en) | non-cooperation type examination person management method and system based on deep learning | |
CN105684046A (en) | Generating image compositions | |
CN112084812A (en) | Image processing method, image processing device, computer equipment and storage medium | |
KR20210122586A (en) | Apparatus, method and computer program for recommending photo | |
CN113450369B (en) | Classroom analysis system and method based on face recognition technology | |
JP2024045460A (en) | Information processing system, information processing device, information processing method, and program | |
CN108345847B (en) | System and method for generating label data of face image | |
US9286707B1 (en) | Removing transient objects to synthesize an unobstructed image | |
CN112348077A (en) | Image recognition method, device, equipment and computer readable storage medium | |
CN111274447A (en) | Target expression generation method, device, medium and electronic equipment based on video | |
US20220222967A1 (en) | Retrieval device, control method, and non-transitory storage medium | |
CN111611979A (en) | Intelligent health monitoring system and method based on facial scanning | |
CN114495188A (en) | Image data processing method and device and related equipment | |
JP2016197345A (en) | Image analyzer, image analysis method and program | |
KR20210095405A (en) | Server, method and computer program for detecting object | |
JP2018033103A (en) | Frame rate determination device, frame rate determination method and computer program for frame rate determination | |
Verma et al. | Review Paper on Attendance Capturing System using Face Recognition | |
CN115205918A (en) | Face image data updating method, device, equipment and storage medium | |
KR20230142878A (en) | Method and apparatus for classifying video genre | |
JP2023184309A (en) | Operating method of information processing device, information processing device, and program | |
Galteri | Deep Learning for Detection in Compressed Videos and Images |