KR102453169B1 - 디바이스가 이미지를 보정하는 방법 및 그 디바이스 - Google Patents
디바이스가 이미지를 보정하는 방법 및 그 디바이스 Download PDFInfo
- Publication number
- KR102453169B1 KR102453169B1 KR1020220011794A KR20220011794A KR102453169B1 KR 102453169 B1 KR102453169 B1 KR 102453169B1 KR 1020220011794 A KR1020220011794 A KR 1020220011794A KR 20220011794 A KR20220011794 A KR 20220011794A KR 102453169 B1 KR102453169 B1 KR 102453169B1
- Authority
- KR
- South Korea
- Prior art keywords
- image
- objects
- filter
- processor
- preview image
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims description 119
- 238000013528 artificial neural network Methods 0.000 claims abstract description 164
- 238000004590 computer program Methods 0.000 claims description 17
- 238000012937 correction Methods 0.000 abstract description 372
- 238000013473 artificial intelligence Methods 0.000 abstract description 19
- 238000010801 machine learning Methods 0.000 abstract description 10
- 238000013135 deep learning Methods 0.000 abstract description 6
- 238000012549 training Methods 0.000 description 57
- 238000010586 diagram Methods 0.000 description 52
- 238000004891 communication Methods 0.000 description 39
- 230000006870 function Effects 0.000 description 34
- 238000011156 evaluation Methods 0.000 description 24
- 230000004044 response Effects 0.000 description 19
- 238000005516 engineering process Methods 0.000 description 15
- 238000012545 processing Methods 0.000 description 15
- 238000003702 image correction Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000012546 transfer Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 241000167854 Bourreria succulenta Species 0.000 description 4
- 235000019693 cherries Nutrition 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 239000004973 liquid crystal related substance Substances 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 238000007781 pre-processing Methods 0.000 description 4
- 241000596603 Virgilia oroboides Species 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 3
- 235000013305 food Nutrition 0.000 description 3
- 238000010295 mobile communication Methods 0.000 description 3
- 238000011176 pooling Methods 0.000 description 3
- 230000005236 sound signal Effects 0.000 description 3
- 241000196324 Embryophyta Species 0.000 description 2
- 241000282326 Felis catus Species 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 230000019771 cognition Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000003058 natural language processing Methods 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 239000010409 thin film Substances 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 239000004904 UV filter Substances 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000003796 beauty Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000005672 electromagnetic field Effects 0.000 description 1
- 239000010408 film Substances 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 235000013550 pizza Nutrition 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 235000012773 waffles Nutrition 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/001—Image restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration by the use of local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G06T5/60—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20012—Locally adaptive
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
Abstract
하나 이상의 인스트럭션을 저장하는 메모리; 메모리에 저장된 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 프로세서는 하나 이상의 인스트럭션을 실행함으로써, 복수의 객체를 포함하는 이미지를 획득하고, 하나 이상의 뉴럴 네트워크(neural network)를 이용한 결과에 기초하여, 이미지 내의 복수의 객체를 식별하고, 식별된 복수의 객체에 각각 대응되는 복수의 보정 필터를 결정하며, 결정된 복수의 보정 필터를 이용하여 이미지 내의 복수의 객체를 각각 보정하는 디바이스를 개시한다.
상기 디바이스는 복수의 객체를 식별하고, 식별된 복수의 객체에 각각 대응되는 보정 필터를 결정하는 경우, 규칙 기반 또는 인공 지능 알고리즘을 이용할 수 있다. 인공 지능 알고리즘을 이용하여 복수의 객체를 식별하고, 식별된 복수의 객체에 각각 대응되는 보정 필터를 결정하는 경우, 디바이스는 기계 학습, 신경망 또는 딥러닝 알고리즘을 이용할 수 있다.
상기 디바이스는 복수의 객체를 식별하고, 식별된 복수의 객체에 각각 대응되는 보정 필터를 결정하는 경우, 규칙 기반 또는 인공 지능 알고리즘을 이용할 수 있다. 인공 지능 알고리즘을 이용하여 복수의 객체를 식별하고, 식별된 복수의 객체에 각각 대응되는 보정 필터를 결정하는 경우, 디바이스는 기계 학습, 신경망 또는 딥러닝 알고리즘을 이용할 수 있다.
Description
디바이스가 이미지를 보정하는 방법 및 그 디바이스에 관한 것으로서, 더욱 상세하게는, 이미지에 포함된 객체들 각각을 보정하는 방법 및 그 디바이스에 관한 것이다.
또한 본 개시는 딥러닝 등의 기계 학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 인공 지능(Artificial Intelligence, AI) 시스템 및 그 응용 기술에 관련된 것이다.
컴퓨터 기술의 발달과 함께 데이터 트래픽이 지수함수 형태로 증가하면서 인공지능은 미래 혁신을 주도하는 중요한 트랜드로 자리잡았다. 인공지능은 사람의 사고방식을 모방하는 방식이기 때문에 사실상 전 산업에 무한하게 응용이 가능하다.
인공지능의 대표적인 기술로는 패턴 인식, 기계 학습, 전문가 시스템, 뉴럴 네트워크, 자연어 처리 등이 있다. 인공지능은, 빅데이터를 자기 학습을 통해 확률적으로 인식률을 높일 수 있도록 하는 기계학습과 인공신경망 기술을 통해, 디바이스가 합리적인 의사결정을 하는 것을 목표로 발전하였다.
1950년대 중반부터 개화를 시작한 인공지능 분야는, 2000년까지 인간의 지능을 넘는 범용 인공지능의 개발을 목표로 하였으나, 그 낙관은 점점 하락하는 추세였다. 그러나 1990년대 이후 들어 대량의 데이터가 지속적으로 축적되어가고 있고, CPU 등 관련 하드웨어의 성능이 개선되었다는 것, 딥 러닝(deep learning)과 같이 자기 학습이 가능한 알고리즘의 발전됨에 따라, 기계학습과 인공신경망을 이용하는 디바이스에 대한 관심이 높아지고 있다.
인공지능 시스템은 인간 수준의 지능을 구현하는 컴퓨터 시스템이며, 기존 Rule 기반 스마트 시스템과 달리 기계가 스스로 학습하고 판단하며 똑똑해지는 시스템이다. 인공지능 시스템은 사용할수록 인식률이 향상되고 사용자 취향을 보다 정확하게 이해할 수 있게 되어, 기존 Rule 기반 스마트 시스템은 점차 딥러닝 기반 인공지능 시스템으로 대체되고 있다.
인공 지능 기술은 기계학습(딥러닝) 및 기계학습을 활용한 요소 기술들로 구성된다.
기계학습은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘 기술이며, 요소기술은 딥러닝 등의 기계학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 기술로서, 언어적 이해, 시각적 이해, 추론/예측, 지식 표현, 동작 제어 등의 기술 분야로 구성된다.
인공지능 기술이 응용되는 다양한 분야는 다음과 같다. 언어적 이해는 인간의 언어/문자를 인식하고 응용/처리하는 기술로서, 자연어 처리, 기계 번역, 대화시스템, 질의 응답, 음성 인식/합성 등을 포함한다. 시각적 이해는 사물을 인간의 시각처럼 인식하며 처리하는 기술로서, 객체 인식, 객체 추적, 영상 검색, 사람 인식, 장면 이해, 공간 이해, 영상 개선 등을 포함한다. 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서, 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함한다. 지식 표현은 인간의 경험정보를 지식데이터로 자동화 처리하는 기술로서, 지식 구축(데이터 생성/분류), 지식 관리(데이터 활용) 등을 포함한다. 동작 제어는 차량의 자율 주행, 로봇의 움직임을 제어하는 기술로서, 움직임 제어(항법, 충돌, 주행), 조작 제어(행동 제어) 등을 포함한다.
개시된 실시예들은, 뉴럴 네트워크(neural network)를 이용하여 이미지 속성을 분석한 결과에 기초하여, 이미지 내의 객체들 각각에 대응되는 보정 필터들을 결정함으로써, 객체들 각각에 대응되는 이미지 보정을 수행하는 방법 및 그 디바이스를 제공할 수 있다.
상술한 과제를 해결하기 위한 기술적 수단으로서, 본 개시의 제 1 측면은, 하나 이상의 인스트럭션을 저장하는 메모리; 메모리에 저장된 하나 이상의 인스트럭션을 실행하는 프로세서를 포함하고, 프로세서는 하나 이상의 인스트럭션을 실행함으로써, 복수의 객체를 포함하는 이미지를 획득하고, 하나 이상의 뉴럴 네트워크(neural network)를 이용한 결과에 기초하여, 이미지 내의 복수의 객체를 식별하고, 식별된 복수의 객체에 각각 대응되는 복수의 보정 필터를 결정하며, 결정된 복수의 보정 필터를 이용하여 이미지 내의 복수의 객체를 각각 보정하는 디바이스를 제공한다.
또한, 프로세서는, 하나 이상의 인스트럭션을 실행함으로써, 복수의 객체를 식별하는데 이용되는 기 설정된 복수의 이미지 속성, 및 복수의 보정 필터를 결정하는데 이용되는 기 설정된 복수의 객체의 디스플레이 속성을 이용한 결과에 기초하여, 복수의 객체를 식별하고 복수의 보정 필터를 결정할 수 있다.
또한, 복수의 이미지 속성 및 복수의 객체의 디스플레이 속성은, 뉴럴 네트워크에 의해 동적으로 선택될 수 있다.
또한, 프로세서는, 하나 이상의 인스트럭션을 실행함으로써, 뉴럴 네트워크에 이미지가 입력된 것에 응답하여, 이미지 내 복수의 객체 각각의 카테고리 정보를 획득하고, 뉴럴 네트워크에 복수의 객체 각각의 카테고리 정보가 입력된 것에 응답하여, 복수의 객체에 각각 대응되는 복수의 보정 필터에 대한 정보를 획득할 수 있다.
또한, 뉴럴 네트워크는, 복수의 객체를 식별하기 위한 복수의 레이어들을 포함하며, 프로세서는, 하나 이상의 인스트럭션을 실행함으로써, 복수의 객체를 식별하기 위한 복수의 레이어들을 이용하여 이미지로부터 이미지 내에 포함된 이미지 속성들을 검출하고, 검출된 이미지 속성들에 기초하여, 복수의 객체 각각에 대응되는 카테고리를 결정할 수 있다.
또한, 뉴럴 네트워크는, 복수의 보정 필터를 결정하기 위한 복수의 레이어들을 포함하며, 프로세서는, 하나 이상의 인스트럭션을 실행함으로써, 복수의 보정 필터를 결정하기 위한 복수의 레이어들을 이용하여 복수의 객체 각각에 대응되는 객체의 디스플레이 속성들을 검출하고, 검출된 객체의 디스플레이 속성들에 기초하여, 복수의 객체에 대응되는 복수의 보정 필터를 각각 결정할 수 있다.
또한, 프로세서는, 하나 이상의 인스트럭션을 실행함으로써, 뉴럴 네트워크 내의 복수의 객체 각각에 대응되는 카테고리를 결정하기 위한 제1 네트워크 및 객체 각각에 대응되는 보정 필터를 결정하기 위한 제2 네트워크를 이용하여, 객체를 식별하고 보정 필터를 결정하는 기준을 학습할 수 있다.
또한, 디바이스는, 사용자 입력을 수신하는 사용자 인터페이스;를 더 포함하며, 프로세서는, 하나 이상의 인스트럭션을 실행함으로써, 이미지를 디바이스의 화면 상에 디스플레이하도록 디스플레이를 제어하고, 디스플레이된 이미지 내의 복수의 객체 중 하나를 터치하는 사용자 입력을 수신하도록 사용자 인터페이스를 제어하며, 사용자 입력에 의해 터치된 위치 정보가 뉴럴 네트워크에 입력됨에 따라, 선택된 객체에 대응되는 보정 필터를 획득할 수 있다.
또한, 프로세서는, 하나 이상의 인스트럭션을 실행함으로써, 결정된 보정 필터를 추천할 수 있다.
또한, 프로세서는, 하나 이상의 인스트럭션을 실행함으로써, 추천된 보정 필터를 이용하여 보정된 이미지를 나타내는 프리뷰 이미지를 디스플레이하도록 디스플레이를 제어할 수 있다.
또한, 본 개시의 제 2 측면은, 복수의 객체를 포함하는 이미지를 획득하는 단계; 이미지 내의 복수의 객체를 식별하는 단계; 식별된 복수의 객체에 각각 대응되는 복수의 보정 필터를 결정하는 단계; 및 결정된 복수의 보정 필터를 이용하여 이미지 내의 복수의 객체를 각각 보정하는 단계; 를 포함하며, 복수의 객체를 식별하는 단계 및 복수의 보정 필터를 결정하는 단계는, 하나 이상의 뉴럴 네트워크(neural network)를 이용한 결과에 기초하여, 복수의 객체를 식별하고 복수의 보정 필터를 결정하는 것을 특징으로 하는, 디바이스가 이미지를 보정하는 방법을 제공한다.
또한, 본 개시의 제 3 측면은, 제 2 측면의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체를 제공할 수 있다.
본 개시의 일 실시예에 따르면, 이미지에 포함된 복수 개의 객체를 식별하고, 식별된 복수개의 객체들에 대하여 각각 대응되는 보정을 하여 이미지의 표현 효과를 살리고 사용자의 의도에 부합하는 이미지를 생성할 수 있다.
도 1은 일 실시예에 따른 디바이스가 이미지를 보정하는 예시를 나타내는 개요도이다.
도 2는 일 실시예에 따라 디바이스가 뉴럴 네트워크(neural network)를 이용하여 이미지를 보정하는 방법을 설명하기 위한 흐름도이다.
도 3은 일 실시예에 따른 디바이스의 구성을 도시한 도면이다.
도 4는 다른 실시예에 따른 디바이스의 구성을 도시한 도면이다.
도 5는 일 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 6은 일 실시예에 따른 이미지에 포함된 객체에 대한 식별을 위해 제 1 프로세서로부터 제 2 프로세서에 전송되는 객체 식별 요청에 포함된 정보를 표시한 도면이다.
도 7은 다른 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 8은 일 실시예에 따라 디바이스가 이미지에 포함된 객체들 각각에 적용될 수 있는 보정 필터를 추천하는 방법을 설명하는 흐름도이다.
도 9는 일 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 이미지에 포함된 객체들 각각에 적용될 수 있는 보정 필터를 추천하는 방법을 설명하는 흐름도이다.
도 10은 다른 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 이미지에 포함된 객체들 각각에 적용될 수 있는 보정 필터를 추천하는 방법을 설명하는 흐름도이다.
도 11은 디바이스가 이미지 내의 객체들 각각에 대응되는 보정 필터들을 추천하는 일례이다.
도 12는 디바이스가 프리뷰 이미지를 디스플레이하는 일례이다.
도 13은 일 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 실시간으로 프리뷰 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 14는 다른 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 실시간으로 프리뷰 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 15는 디바이스가 실시간으로 프리뷰 이미지에 포함된 복수의 객체에 각각 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 16은 일 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 메모리에 저장된 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 17은 다른 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 메모리에 저장된 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 18은 일 실시예에 따라 디바이스가 사용자 입력에 응답하여 이미지 내의 객체를 보정하는 방법을 설명하는 흐름도이다.
도 19는 일 실시예에 따른 이미지 내에서, 사용자 입력을 기초로 선택된 객체에 대한 식별을 위해, 제 1 프로세서로부터 제 2 프로세서에 전송되는 객체 식별 요청에 포함된 정보를 표시한 도면이다.
도 20은 디바이스가 사용자 입력에 응답하여 이미지 내의 객체를 보정하는 일례이다.
도 21은 디바이스가 사용자 정보를 기초로 식별된 복수의 객체 중 사용자와 관련된 객체에 대한 보정 필터를 결정하는 방법을 설명하는 흐름도이다.
도 22는 일 실시예에 따른 이미지 내에서 사용자와 관련된 객체에 대한 식별을 위해 제 1 프로세서로부터 제 2 프로세서에 전송되는 객체 식별 요청에 포함된 정보를 표시한 도면이다.
도 23은 디바이스가 사용자 정보를 기초로 식별된 복수의 객체 중 사용자와 관련된 객체에 대한 보정 필터를 결정하는 방법을 설명하는 도면이다.
도 24는 디바이스가 객체의 보정 필터에 관한 히스토리 정보를 기초로 객체에 대응되는 보정 필터를 결정하는 방법을 설명하는 흐름도이다.
도 25는 디바이스가 객체의 보정 필터에 관한 히스토리 정보를 기초로 객체에 대응되는 보정 필터를 결정하는 방법을 설명하는 도면이다.
도 26은 디바이스가 이미지를 포함하는 컨텐트의 주제를 이용하여, 이미지에 포함된 복수의 객체에 각각 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 27은 일 실시예에 따른 도 3의 프로세서를 상세히 도시한 도면이다.
도 28은 다른 실시예에 따른 도 3의 프로세서를 상세히 도시한 도면이다.
도 29는 일 실시예에 따른 데이터 학습부의 블록도이다.
도 30은 일 실시예에 따른 데이터 인식부의 블록도이다.
도 31은 도 3의 메모리에 저장된 소프트웨어 구성을 설명하기 위한 도면이다.
도 32는 디바이스가 이미지를 보정하기 위해 이용하는 뉴럴 네트워크(neural network)의 일례이다.
도 33은 도 32의 제1 네트워크의 제1 레이어를 상세히 도시한 도면이다.
도 34는 도 32의 제1 네트워크를 상세히 도시한 도면이다.
도 35은 디바이스가 제1 네트워크 및 제2 네트워크를 이용하여, 객체를 식별하고 보정 필터를 결정하는 기준을 학습하는 방법을 설명하는 흐름도이다.
도 36은 디바이스가 뉴럴 네트워크를 학습하는 일례이다.
도 37은 디바이스가 이미지 내에 포함된 복수의 객체를 식별하기 위해 이미지 속성을 선택하는 방법을 설명하기 위한 도면이다.
도 38은 일 실시예에 따라 디바이스의 구성을 상세히 도시한 도면이다.
도 39는 다른 실시예에 따라 디바이스가 이미지를 보정하는 예시를 나타내는 개요도이다.
도 40은 일 실시예에 따른 디바이스와 서버가 이미지에 포함된 적어도 하나의 객체에 보정 필터를 적용하는 방법을 설명하는 흐름도이다.
도 41은 일 실시예에 따른 디바이스 및 서버가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 42는 다른 일 실시예에 따라 디바이스 및 서버가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 43은 다른 실시예에 따라 디바이스, 제 1 서버 및 제 2 서버가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 44는 일 실시예에 따라 디바이스 및 서버가 프리뷰 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 45는 일 실시예에 따라 디바이스 및 서버가 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 46은 다른 실시예에 따라 디바이스 및 서버가 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 47은 일 실시예에 따라 디바이스(10), 제 1 서버 및 제 2 서버가 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 48은 일 실시예에 따라 디바이스, 클라우드 서버 및 서버가 클라우드 서버(50)에 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 49는 일 실시예에 따라 디바이스, 제 1 서버 및 제 2 서버가 클라우드 서버에 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 50은 다른 실시예에 따른 서버의 구성을 도시한 도면이다.
도 51은 일부 실시예에 따른 디바이스 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
도 2는 일 실시예에 따라 디바이스가 뉴럴 네트워크(neural network)를 이용하여 이미지를 보정하는 방법을 설명하기 위한 흐름도이다.
도 3은 일 실시예에 따른 디바이스의 구성을 도시한 도면이다.
도 4는 다른 실시예에 따른 디바이스의 구성을 도시한 도면이다.
도 5는 일 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 6은 일 실시예에 따른 이미지에 포함된 객체에 대한 식별을 위해 제 1 프로세서로부터 제 2 프로세서에 전송되는 객체 식별 요청에 포함된 정보를 표시한 도면이다.
도 7은 다른 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 8은 일 실시예에 따라 디바이스가 이미지에 포함된 객체들 각각에 적용될 수 있는 보정 필터를 추천하는 방법을 설명하는 흐름도이다.
도 9는 일 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 이미지에 포함된 객체들 각각에 적용될 수 있는 보정 필터를 추천하는 방법을 설명하는 흐름도이다.
도 10은 다른 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 이미지에 포함된 객체들 각각에 적용될 수 있는 보정 필터를 추천하는 방법을 설명하는 흐름도이다.
도 11은 디바이스가 이미지 내의 객체들 각각에 대응되는 보정 필터들을 추천하는 일례이다.
도 12는 디바이스가 프리뷰 이미지를 디스플레이하는 일례이다.
도 13은 일 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 실시간으로 프리뷰 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 14는 다른 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 실시간으로 프리뷰 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 15는 디바이스가 실시간으로 프리뷰 이미지에 포함된 복수의 객체에 각각 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 16은 일 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 메모리에 저장된 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 17은 다른 실시예에 따른 제 1 프로세서 및 제 2 프로세서가 메모리에 저장된 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 18은 일 실시예에 따라 디바이스가 사용자 입력에 응답하여 이미지 내의 객체를 보정하는 방법을 설명하는 흐름도이다.
도 19는 일 실시예에 따른 이미지 내에서, 사용자 입력을 기초로 선택된 객체에 대한 식별을 위해, 제 1 프로세서로부터 제 2 프로세서에 전송되는 객체 식별 요청에 포함된 정보를 표시한 도면이다.
도 20은 디바이스가 사용자 입력에 응답하여 이미지 내의 객체를 보정하는 일례이다.
도 21은 디바이스가 사용자 정보를 기초로 식별된 복수의 객체 중 사용자와 관련된 객체에 대한 보정 필터를 결정하는 방법을 설명하는 흐름도이다.
도 22는 일 실시예에 따른 이미지 내에서 사용자와 관련된 객체에 대한 식별을 위해 제 1 프로세서로부터 제 2 프로세서에 전송되는 객체 식별 요청에 포함된 정보를 표시한 도면이다.
도 23은 디바이스가 사용자 정보를 기초로 식별된 복수의 객체 중 사용자와 관련된 객체에 대한 보정 필터를 결정하는 방법을 설명하는 도면이다.
도 24는 디바이스가 객체의 보정 필터에 관한 히스토리 정보를 기초로 객체에 대응되는 보정 필터를 결정하는 방법을 설명하는 흐름도이다.
도 25는 디바이스가 객체의 보정 필터에 관한 히스토리 정보를 기초로 객체에 대응되는 보정 필터를 결정하는 방법을 설명하는 도면이다.
도 26은 디바이스가 이미지를 포함하는 컨텐트의 주제를 이용하여, 이미지에 포함된 복수의 객체에 각각 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 27은 일 실시예에 따른 도 3의 프로세서를 상세히 도시한 도면이다.
도 28은 다른 실시예에 따른 도 3의 프로세서를 상세히 도시한 도면이다.
도 29는 일 실시예에 따른 데이터 학습부의 블록도이다.
도 30은 일 실시예에 따른 데이터 인식부의 블록도이다.
도 31은 도 3의 메모리에 저장된 소프트웨어 구성을 설명하기 위한 도면이다.
도 32는 디바이스가 이미지를 보정하기 위해 이용하는 뉴럴 네트워크(neural network)의 일례이다.
도 33은 도 32의 제1 네트워크의 제1 레이어를 상세히 도시한 도면이다.
도 34는 도 32의 제1 네트워크를 상세히 도시한 도면이다.
도 35은 디바이스가 제1 네트워크 및 제2 네트워크를 이용하여, 객체를 식별하고 보정 필터를 결정하는 기준을 학습하는 방법을 설명하는 흐름도이다.
도 36은 디바이스가 뉴럴 네트워크를 학습하는 일례이다.
도 37은 디바이스가 이미지 내에 포함된 복수의 객체를 식별하기 위해 이미지 속성을 선택하는 방법을 설명하기 위한 도면이다.
도 38은 일 실시예에 따라 디바이스의 구성을 상세히 도시한 도면이다.
도 39는 다른 실시예에 따라 디바이스가 이미지를 보정하는 예시를 나타내는 개요도이다.
도 40은 일 실시예에 따른 디바이스와 서버가 이미지에 포함된 적어도 하나의 객체에 보정 필터를 적용하는 방법을 설명하는 흐름도이다.
도 41은 일 실시예에 따른 디바이스 및 서버가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 42는 다른 일 실시예에 따라 디바이스 및 서버가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 43은 다른 실시예에 따라 디바이스, 제 1 서버 및 제 2 서버가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 44는 일 실시예에 따라 디바이스 및 서버가 프리뷰 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 45는 일 실시예에 따라 디바이스 및 서버가 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 46은 다른 실시예에 따라 디바이스 및 서버가 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 47은 일 실시예에 따라 디바이스(10), 제 1 서버 및 제 2 서버가 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 48은 일 실시예에 따라 디바이스, 클라우드 서버 및 서버가 클라우드 서버(50)에 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 49는 일 실시예에 따라 디바이스, 제 1 서버 및 제 2 서버가 클라우드 서버에 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 50은 다른 실시예에 따른 서버의 구성을 도시한 도면이다.
도 51은 일부 실시예에 따른 디바이스 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다.
본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용될 수 있지만, 구성 요소들은 용어들에 의해 한정되지는 않는다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 항목들의 조합 또는 복수의 관련된 항목들 중의 어느 하나의 항목을 포함한다.
명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에서 사용되는 "부"라는 용어는 소프트웨어, FPGA 또는 ASIC과 같은 하드웨어 구성요소를 의미하며, "부"는 어떤 역할들을 수행한다. 그렇지만 "부"는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. "부"는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 "부"는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 "부"들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 "부"들로 결합되거나 추가적인 구성요소들과 "부"들로 더 분리될 수 있다.
아래에서는 첨부한 도면을 참고하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
도 1은 일 실시예에 따른 디바이스가 이미지를 보정하는 예시를 나타내는 개요도이다.
도 1을 참조하면, 일 실시예에 따른 디바이스(10)는 뉴럴 네트워크(neural network)를 이용하여 이미지를 보정할 수 있다. 여기서, 뉴럴 네트워크(neural network)는, 통계학적 기계 학습의 결과를 이용하여, 이미지 내 다양한 속성들을 추출하여 이용함으로써, 이미지 내의 객체들을 식별 및/또는 판단하는 알고리즘 집합일 수 있다. 또한, 뉴럴 네트워크는 전술한 알고리즘 집합을 실행하기 위한 소프트웨어 또는 엔진(engine) 등으로 구현될 수 있다. 소프트웨어 또는 엔진 등으로 구현된 뉴럴 네트워크는 디바이스(10) 내의 프로세서 또는 서버(미도시)의 프로세서에 의해 실행될 수 있다. 뉴럴 네트워크는, 뉴럴 네트워크에 입력된 이미지 내에 포함된 다양한 속성들을 추상화함으로써, 이미지 내의 객체들을 식별할 수 있다. 이 경우, 이미지 내 속성들을 추상화한다는 것은, 이미지로부터 속성들을 검출하여, 검출된 속성들 중에서 핵심 속성을 판단하는 것일 수 있다.
일 실시예에 따라 디바이스(10)는 뉴럴 네트워크(12)를 이용하여 원본 이미지(11) 내의 객체들을 식별하고, 식별된 객체들 각각에 대응되는 보정 필터를 결정 또는 추천할 수 있다. 또한, 디바이스(10)는 결정 또는 추천된 보정 필터를 이용하여 원본 이미지(11)를 보정할 수 있다.
일 실시예에 따라 디바이스(10)는 뉴럴 네트워크(12)에 입력된 원본 이미지(11)로부터 이미지 내의 다양한 속성들을 추상화함으로써 이미지 내에서 객체들을 식별하고, 식별된 객체들 각각에 대응되는 보정 필터에 대한 정보를 획득할 수 있다. 또한, 디바이스(10)는 뉴럴 네트워크(12)를 이용하여 식별된 객체들 각각에 획득된 보정 필터를 적용하여 결과 이미지(13)를 획득할 수 있다.
한편, 디바이스(10)는 스마트폰, 태블릿 PC, PC, 스마트 TV, 휴대폰, PDA(personal digital assistant), 랩톱, 미디어 플레이어, 마이크로 서버, GPS(global positioning system) 장치, 전자책 단말기, 디지털방송용 단말기, 네비게이션, 키오스크, MP3 플레이어, 디지털 카메라, 가전기기 및 기타 모바일 또는 비모바일 컴퓨팅 장치일 수 있으나, 이에 제한되지 않는다. 또한, 디바이스(10)는 통신 기능 및 데이터 프로세싱 기능을 구비한 시계, 안경, 헤어 밴드 및 반지 등의 웨어러블 디바이스일 수 있다.
도 2는 일 실시예에 따라 디바이스가 뉴럴 네트워크(neural network)를 이용하여 이미지를 보정하는 방법을 설명하기 위한 흐름도이다.
단계 s210 에서, 디바이스(10)는 복수의 객체를 포함하는 이미지를 획득한다.
일 실시예에 따른 디바이스(10)는 디바이스(10)에 저장된 이미지를 획득할 수 있다. 예를 들어, 디바이스(10)는 사진첩 어플리케이션 등을 실행하여, 기 저장된 이미지를 획득할 수 있다.
다른 실시예에 따라, 디바이스(10)는 외부 서버 또는 외부 디바이스로부터 이미지를 수신할 수 있다. 여기에서, 외부 서버 또는 외부 디바이스는 소셜 네트워크 서버(social network server), 클라우드 서버(cloud server), 웹 서버(web server) 또는 콘텐트 제공 서버 등을 포함할 수 있다. 예를 들어, 디바이스(10)에서 SNS(social network service) 어플리케이션, 웹(web) 어플리케이션, 동영상 재생 어플리케이션 및 검색 어플리케이션 중 적어도 하나가 실행되는 경우, 디바이스(10)는 외부 서버 또는 외부 디바이스에 접근하여, 이미지를 수신할 수 있다. 다른 예에 따라, 디바이스(10)는 디바이스(10)의 주변에 위치한 외부 디바이스로부터 근거리 무선 네트워크를 이용하여 이미지를 수신할 수 있다.
또 다른 실시예에 따라, 디바이스(10)는 디바이스(10)에 구비된 카메라를 통해 새로운 이미지를 획득할 수 있다. 예를 들어, 디바이스(10)에서 카메라 어플리케이션 등이 실행되는 경우, 디바이스(10)는 디바이스(10)의 주변에 위치한 객체를 감지하여, 프리뷰(preview) 이미지를 획득할 수 있다. 프리뷰(preview) 이미지는 카메라 어플리케이션 등에서 객체의 촬영을 가이드 하기 위해 제공되는 이미지로서, 촬영에 앞서 디바이스(10)에 획득될 수 있다. 또한, 디바이스(10)는 프리뷰 이미지를 획득하는 중에 사용자로부터 촬영 요청이 입력됨에 따라, 디바이스(10) 주변의 객체가 촬영된 이미지(이하, 캡쳐 이미지로 설명)를 획득할 수 있다.
한편, 프리뷰 이미지는 실시간으로 디바이스(10)의 카메라를 통해 획득되는 이미지로서, 캡쳐 이미지와는 상이한 해상도를 가질 수 있다. 예를 들어, 프리뷰 이미지의 해상도가 HD(High Definition)로 설정되는 반면에, 캡쳐 이미지의 해상도는 UHD(Ultra High Definition)로 설정될 수 있다. 디바이스(10)가 카메라 어플리케이션을 통해 이미지를 획득하는 방법에 대해서는, 도 14 내지 도 16을 참조하여 보다 구체적으로 후술하도록 한다.
단계 s220 에서, 디바이스(10)는 이미지 내의 복수의 객체를 식별한다. 디바이스(10)는 뉴럴 네트워크(12)를 이용하여, 이미지로부터 이미지 내의 객체들을 식별할 수 있다. 예를 들어, 디바이스(10)는 이미지를 뉴럴 네트워크(12)에 입력 데이터로 적용한 결과, 이미지 내에 포함된 객체들 각각의 위치(예를 들어, 객체에 대응하는 픽셀들의 좌표) 및/또는 객체들 각각의 카테고리(category) 등의 출력 데이터를 획득할 수 있다.
구체적으로, 디바이스(10)는 뉴럴 네트워크(12)를 이용하여, 이미지 내에서 기 설정된 이미지 속성들을 검출하고, 검출된 이미지 속성들에 기초하여 이미지 내의 객체들 각각의 위치 및/또는 객체들 각각에 대응되는 카테고리를 결정할 수 있다. 여기에서, 이미지 속성은, 객체를 식별하기 위한 뉴럴 네트워크의 입력 파라미터로서 적용될 수 있는 이미지 고유의 특성(feature)을 나타낼 수 있다. 예를 들어, 이미지 속성은, 이미지를 구성하는 색상, 엣지(edge), 폴리건(polygon), 채도(saturation), 명도(brightness), 색온도, 블러(blur), 선명도(sharpness), 명도비(contrast) 등을 포함할 수 있으나, 이미지 속성이 이에 한정되는 것은 아니다.
또한, 단계 s230 에서, 디바이스(10)는 식별된 복수의 객체에 각각 대응되는 복수의 보정 필터를 결정한다.
일 실시예에 따른 디바이스(10)는 전술한 뉴럴 네트워크(12)를 이용하여 식별된 객체들 각각의 디스플레이 속성을 분석한 결과에 기초하여, 식별된 객체들 각각에 대응되는 보정 필터들을 결정할 수 있다.
구체적으로, 디바이스(10)는 뉴럴 네트워크(12)를 이용한 결과에 기초하여, 식별된 객체들에 대응되는 이미지 영역으로부터 객체의 디스플레이 속성들을 검출하고, 검출된 객체의 디스플레이 속성들에 기초하여 객체들 각각에 대응되는 보정 필터들을 결정할 수 있다. 여기서, 객체의 디스플레이 속성은, 객체에 대응되는 보정 필터를 결정하기 위해 이미지로부터 검출하는 객체의 속성일 수 있으며, 객체를 구성하는 이미지의 색상, 엣지(edge), 폴리건(polygon), 채도(saturation), 명도(brightness), 색온도, 블러(blur), 선명도(sharpness), 명도비(contrast) 중 적어도 하나를 포함할 수 있다.
한편, 디바이스(10)가 뉴럴 네트워크(12)를 이용하여 보정 필터를 결정한다는 것은, 디바이스(10)가 뉴럴 네트워크(12)를 이용한 결과에 따라, 이미지 내의 객체들 각각에 적용될 보정 필터의 종류 및/또는 보정 필터에 입력될 파라미터(parameter)를 획득하는 것일 수 있다. 이를 위해, 디바이스(10)는 전술한 뉴럴 네트워크(12)가 식별된 객체들 각각에 대응되는 보정 필터를 결정하도록, 뉴럴 네트워크(12)를 더 학습시킬 수 있다. 예를 들어, 디바이스(10)는, 뉴럴 네트워크(12) 내에서 객체의 카테고리에 대응되는 객체의 디스플레이 속성에 대해 지도 학습 및/또는 비지도 학습된 결과를 분석 및/또는 평가하는 동작을 반복 수행함으로써, 뉴럴 네트워크(12)를 학습시킬 수 있다.
한편, 보정 필터는, 이미지 내의 객체의 디스플레이 속성을 변경하기 위해 디바이스(10)에 구비된 하드웨어 구성요소 및/또는 소프트웨어 모듈일 수 있다. 예를 들어, 보정 필터는, 색 보정 필터, UV 필터, 색온도 변환 필터, 선명도 강조 필터, 블러 필터 등을 포함할 수 있다.
다만, 이는 일 실시예일 뿐, 다른 예에 따라 디바이스(10)는 객체의 카테고리 별로 기 설정된 보정 필터에 관한 정보를 기초로, 식별된 객체들 각각에 대응되는 보정 필터들을 결정할 수도 있다. 예를 들어, 이미지에 포함된 객체가 '개'로 식별된 경우, 디바이스(10)는 기 설정된 보정 필터에 관한 정보에 따라, 제 1 보정 필터를 '개'에 대한 보정 필터로 결정할 수 있다.
단계 s240 에서, 디바이스(10)는 결정된 복수의 보정 필터를 이용하여, 이미지 내의 복수의 객체 각각을 보정한다. 디바이스(10)는 뉴럴 네트워크(12)로부터 출력된 이미지 내의 객체들의 위치 및 객체들 각각에 대응되는 보정 필터 관련 정보에 기초하여, 이미지 내의 객체들 각각에 대해 서로 다른 보정 필터를 적용할 수 있다.
예를 들어, 디바이스(10)는 뉴럴 네트워크(12)로부터 출력된 이미지 내의 제1 객체의 위치, 제2 객체의 위치, 제1 객체에 대응되는 보정 필터들(및/또는, 보정 필터들에 입력된 파라미터들) 및 제2 객체에 대응되는 보정 필터들(및/또는, 보정 필터들에 입력된 파라미터들)에 대한 정보를 획득할 수 있다. 여기에서, 보정 필터에 대한 정보에는 보정 필터의 종류, 보정 필터에 적용되는 파라미터의 종류 및 파라미터의 값 중 적어도 하나에 관한 정보가 포함될 수 있다. 따라서, 디바이스(10)는 이미지 내에서 제1 객체에 대응되는 영역에 제1 객체에 대응되는 보정 필터들을 적용하고, 이미지 내에서 제2 객체에 대응되는 영역에 제2 객체에 대응되는 보정 필터들을 적용할 수 있다. 이때, 제1 및 제2 객체에 대응되는 보정 필터들은, 서로 다를 수 있다. 또한, 제1 및 제2 객체에 대응되는 보정 필터들이 동일한 경우라도, 서로 다른 파라미터(parameter)가 보정 필터들에 입력될 수 있다. 이와 같이, 디바이스(10)는 이미지 내의 객체들 각각에 대응되는 이미지 영역을 보정함으로써, 이미지에 포함된 객체들 각각에 적합한 보정을 수행할 수 있다.
또한, 디바이스(10)는 보정 작업이 완료된 이미지를 디바이스(10)의 화면에 디스플레이 할 수 있다.
일 실시예에 따른 디바이스(10)는 이미지에 포함된 객체들 각각을 식별하고, 식별된 객체들 각각에 적합한 보정 필터를 결정하여 보정을 수행함으로써, 획일적으로 이미지 전체에 보정 필터를 적용하는 것에 비해, 이미지의 품질을 보다 향상시킬 수 있다. 특히, 디바이스(10)는 특정 객체에 대해 적절하다고 판단된 특정 필터를 이미지 내의 모든 객체들이 아닌 특정 객체에만 적용함으로써 다른 객체의 속성을 변경시키지 않고도 이미지의 품질을 향상시킬 수 있다.
도 3은 일 실시예에 따른 디바이스(10)의 구성을 도시한 도면이다.
도 3을 참조하면, 디바이스(10)는 디스플레이부(310), 메모리(320) 및 프로세서(330)를 포함한다.
디스플레이부(310)는 프로세서(330)의 제어에 의해, 프로세서(330)에서 처리되는 정보를 디스플레이 할 수 있다. 디스플레이부(310)는 프로세서(330)에 의해 영상 처리된 이미지 데이터를 디바이스(10)의 화면에 출력할 수 있다. 또한, 디스플레이부(310)는 프로세서(330)의 제어에 의해, 다양한 그래픽 사용자 인터페이스(GUI)를 디바이스(10)의 화면에 출력할 수 있다.
메모리(320)는 디바이스(10)를 구동하고 제어하기 위한 다양한 데이터, 프로그램 또는 어플리케이션을 저장할 수 있다. 메모리(320)에 저장되는 프로그램은 하나 이상의 인스트럭션들을 포함할 수 있다. 메모리(320)에 저장된 프로그램(하나 이상의 인스트럭션들) 또는 어플리케이션은 프로세서(330)에 의해 실행될 수 있다.
일 실시예에 따른 메모리(320)는 뉴럴 네트워크를 구성하는 하나 이상의 인스트럭션들을 포함할 수 있다. 또한, 메모리(320)는 뉴럴 네트워크를 제어하는 하나 이상의 인스트럭션들을 포함할 수 있다. 뉴럴 네트워크는, 입력 이미지로부터 이미지 내의 객체들을 식별 및/또는 판단하는 하나 이상의 인스트럭션들을 포함하는 복수의 레이어들, 및 입력 이미지로부터 식별된 객체들 각각에 대응되는 보정 필터를 결정하는 하나 이상의 인스트럭션들을 포함하는 복수의 레이어들로 구성될 수 있다. 메모리(320)의 상세한 구조에 대해서는, 도 31을 참조하여 설명한다.
프로세서(330)는 메모리(320)에 저장된 OS(Operation System) 및 다양한 어플리케이션들을 실행할 수 있다. 프로세서(330)는 싱글 코어, 듀얼 코어, 트리플 코어, 쿼드 코어 및 그 배수의 코어를 포함하는 하나 이상의 프로세서(processor)를 포함할 수 있다. 또한, 예를 들어, 프로세서(330)는 메인 프로세서(main processor, 미도시) 및 슬립 모드(sleep mode)에서 동작하는 서브 프로세서(sub processor, 미도시)로 구현될 수 있다.
일 실시예에 따른 프로세서(330)는 이미지를 획득한다. 예를 들어, 프로세서(330)는 사진첩 어플리케이션 등을 실행하여, 메모리(320)에 저장된 이미지를 독출할 수 있다. 또는, 프로세서(330)는 통신부(미도시)를 통해 외부 서버(예를 들어, SNS 서버, 클라우드 서버, 컨텐츠 제공 서버 등)로부터 이미지를 수신할 수 있다. 또는, 프로세서(330)는 카메라부(미도시)를 통해 프리뷰 이미지와 캡쳐 이미지를 획득할 수도 있다.
일 실시예에 따른 프로세서(330)는 메모리(320)에 저장된 뉴럴 네트워크를 구성하는 명령어들을 이용하여 이미지 내의 객체들을 식별하고, 객체들 각각에 대응되는 보정 필터들을 결정할 수 있다. 이를 통해, 프로세서(330)는 이미지 내의 객체들 각각에 가장 적합한 이미지 보정을 수행할 수 있다.
한편, 프로세서(330)가 이미지 내의 객체를 식별하고 식별된 객체에 대한 보정 필터를 결정하는 방법은 도 2를 참조하여 전술한 단계 S220 내지 단계 S230와 대응될 수 있다. 또한, 프로세서(330)는 보정된 이미지가 저장되도록 메모리(320)를 제어할 수 있다.
도 4는 다른 실시예에 따른 디바이스(400)의 구성을 도시한 도면이다.
도 4를 참조하면, 디바이스(400)는 제 1 프로세서(410), 디스플레이부(420), 메모리(430) 및 제 2 프로세서(440)를 포함한다. 그러나 도시된 구성요소 모두가 필수구성요소인 것은 아니다. 도시된 구성요소보다 많은 구성요소에 의해 디바이스(400)가 구현될 수도 있고, 그보다 적은 구성요소에 의해서도 디바이스(400)는 구현될 수 있다. 예를 들어, 디바이스(400)는, 제 1 프로세서(410), 디스플레이부(420), 메모리(430) 및 제 2 프로세서(440) 이외에 카메라(미도시) 및 통신부(미도시)를 더 포함할 수도 있다.
제 1 프로세서(410)는 디바이스(400)에 설치된 적어도 하나의 어플리케이션의 실행을 제어하고, 디바이스(400)에 획득되는 이미지에 대한 그래픽 처리를 수행할 수 있다. 제 1 프로세서(410)는 CPU(central processing unit), GPU(graphic processing unit), 통신칩 및 센서 등의 기능이 통합된 SoC(system on chip) 형태로 구현될 수 있다. 또한, 제 1 프로세서(410)는 본 명세서 내에서 AP(application processor)로 설명될 수도 있다.
디스플레이부(420) 및 메모리(430)는 도 3을 참조하여 전술한 디스플레이부(310) 및 메모리(320)와 대응될 수 있다.
제 2 프로세서(440)는 뉴럴 네트워크(12)를 이용하여 이미지로부터 이미지 내의 객체들을 식별할 수 있다. 또한, 일 실시예에 따른 제 2 프로세서(440)는 뉴럴 네트워크(12)를 이용하여 식별된 객체들 각각에 대응되는 보정 필터들을 결정할 수도 있다.
한편, 제 2 프로세서(440)는 뉴럴 네트워크를 이용한 객체 식별 및 보정 필터 결정의 기능을 수행하는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수 있다.
본 개시의 다양한 실시예에 따르면, 제 1 프로세서(410)가 수행하는 기능은 메모리(430)에 저장되어 다양한 기능을 수행하는 어플리케이션들이 대응하여 수행할 수 있고, 제 2 프로세서(440)가 수행하는 기능은 디바이스(400)의 OS가 대응하여 수행할 수 있다.
예를 들어, 카메라 어플리케이션이 이미지를 생성하여 OS에 전송하면, OS는 이미지에 포함된 객체들을 식별하고, 식별된 객체들에 각각 보정 필터를 결정하고, 적용하는 일련의 프로세스를 수행할 수 있다.
일 실시예에 따른, 제 1 프로세서(410) 및 제 2 프로세서(440)는 서로 연동하여, 도 3을 참조하여 전술한 프로세서(330)가 이미지에 포함된 복수의 객체들을 식별하고, 식별된 객체들에 각각 보정 필터를 적용하는 일련의 프로세스를 수행할 수 있다. 이에 대해서는, 도 5 내지 도 20을 참조하여 구체적으로 후술하도록 한다.
도 5는 일 실시예에 따른 제 1 프로세서(410) 및 제 2 프로세서(440)가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
단계 s510에서, 제 1 프로세서(410)는 디스플레이부(420)를 통해 프리뷰 이미지를 표시할 수 있다.
제 1 프로세서(410)는 사용자 입력에 기반하여 카메라 어플리케이션이 실행됨에 따라, 디스플레이부(420)를 통해, 디바이스(400)에서 감지되는 적어도 하나의 객체를 포함한 프리뷰 이미지를 표시할 수 있다. 다만, 이는 일 실시예일 뿐, 카메라 어플리케이션 이외에, 촬영 기능을 동반한 다른 어플리케이션이 실행되는 경우에도, 제 1 프로세서(410)는 디스플레이부(420)를 통해 프리뷰 이미지를 표시할 수 있다. 또한, 여기에서, 프리뷰 이미지의 해상도는 디바이스(400)의 디스플레이부(420)에 설정된 해상도에 따라 결정될 수 있다.
단계 s520에서, 제 1 프로세서(410)는 카메라(미도시)를 통해 적어도 하나의 객체를 촬영하여, 이미지를 획득할 수 있다.
제 1 프로세서(410)는 촬영 요청이 수신되는 경우, 카메라(미도시)를 통해 촬영 요청이 수신된 시점에 감지된 적어도 하나의 객체를 포함하는 이미지를 촬영할 수 있다. 촬영된 이미지는 카메라에 기 설정된 해상도에 따라 인코딩 된 이미지 일 수 있다.
단계 s530에서, 제 1 프로세서(410)는 메모리(430)를 통해 획득된 이미지를 저장할 수 있다.
단계 s540에서, 제 1 프로세서(410)는 제 2 프로세서(440)에 저장된 이미지에 포함된 적어도 하나의 객체를 식별할 것을 요청할 수 있다.
예를 들어, 제 1 프로세서(410)는 제 2 프로세서(440)에 저장된 이미지를 포함한 객체 식별 요청 신호를 제 2 프로세서(440)에 전송할 수 있다. 다른 예에 따라, 제 1 프로세서(410)는 이미지가 저장된 메모리(430)의 위치에 대한 식별자를 포함한 객체 식별 요청 신호를 제 2 프로세서(440)에 전송할 수도 있다.
단계 s550에서, 제 2 프로세서(440)는 뉴럴 네트워크를 이용하여 저장된 이미지에 포함된 적어도 하나의 객체를 식별할 수 있다. 여기에서, 단계 s550은 도 2를 참조하여 전술한 단계 s220과 대응될 수 있다.
단계 s560에서, 제 2 프로세서(440)는 식별된 적어도 하나의 객체 각각에 적용할 보정 필터를 결정할 수 있다. 여기에서, 단계 s560은 도 2를 참조하여 전술한 단계 s230과 대응될 수 있다.
단계 s570에서, 제 2 프로세서(440)는 식별된 적어도 하나의 객체 각각에 대해 결정된 보정 필터 정보를 제 1 프로세서(410)에 전송할 수 있다.
일 실시예에 따른 보정 필터 정보에는 이미지 상에서 식별된 객체가 표시된 위치 정보(예를 들어, 픽셀 좌표), 식별된 객체에 대응되는 보정 필터의 종류 및 보정 필터 적용 시의 파라미터 값 등에 관한 정보가 포함될 수 있다.
단계 s580에서, 제 1 프로세서(410)는 이미지에 포함된 적어도 하나의 객체에 각각 보정 필터를 적용할 수 있다. 여기에서, 단계 s580은 도 2를 참조하여 전술한 단계 s240과 대응될 수 있다.
단계 s590에서, 제 1 프로세서(410)는 메모리(430)를 통해 보정 필터가 적용된 이미지를 저장할 수 있다.
일 실시예에 따른, 제 1 프로세서(410)는 보정 필터가 적용된 이미지의 포맷에서 설정되어 있는 특정 필드 영역에 보정 필터가 적용되기 전의 이미지를 함께 저장할 수 있다. 예를 들어, 보정 필터가 적용된 이미지가 JPEG 파일 형식으로 저장되는 경우, 제 1 프로세서(410)는 보정 필터가 적용된 이미지의 헤더(header)의 메이커 노트 영역에 보정 전 이미지를 저장할 수 있다. 다른 예에 따라, 제 1 프로세서(410)는 메이커 노트에 보정 전 이미지가 저장된 메모리(320)의 영역과 연결될 수 있는 링크 또는 메모리(320) 영역의 식별 정보를 저장할 수 있다.
한편, 다른 실시예에 따라, 제 1 프로세서(410)는 보정 필터가 적용된 이미지가 저장됨에 따라, 보정 필터가 적용되기 전의 이미지를 메모리(430) 내에서 제거할 수도 있다.
단계 S595에서, 제 1 프로세서(410)는 디스플레이부(420)를 통해, 보정 필터가 적용된 이미지를 표시할 수 있다. 예를 들어, 제 1 프로세서(410)는 사용자 입력에 기반하여 촬영 되거나 저장된 이미지를 표시하는 사진첩 어플리케이션이 실행됨에 따라, 디스플레이부(420)를 통해, 보정 필터가 적용된 이미지를 표시할 수 있다.
도 6은 일 실시예에 따른 이미지에 포함된 객체에 대한 식별을 위해 제 1 프로세서(410)로부터 제 2 프로세서(420)에 전송되는 객체 식별 요청(600)에 포함된 정보를 표시한 도면이다.
객체 식별 요청(600)을 위해서, 제 1 프로세서(410)와 제 2 프로세서(420)간의 데이터(예를 들면, 보정 필터 적용되기 전 이미지)를 송/수신하기 위한 인터페이스가 정의될 수 있다.
예를 들면, 뉴럴 네트워크에 입력할 데이터를 전달 값으로 갖는 API(application program interface) 함수가 정의될 수 있다. 이 경우, 제 1 프로세서(410)가 상기 API 함수를 호출하여 데이터 전달 값으로 보정 전 이미지 및 요청 목적을 입력하면, 상기 API 함수는 보정 전 이미지 및 요청 목적을 뉴럴 네트워크에 입력할 데이터로서 제 2 프로세서(420)에 전달할 수 있다.
도 6을 참조하면, 객체 식별 요청(600)에는 이미지(610) 및 요청 목적에 관한 정보(620)가 포함될 수 있다. 한편, 본 실시예에서는, 객체 식별 요청(600)에 이미지(610)가 포함되는 것으로 설명하였으나, 이는 일 실시예일 뿐, 이미지(610)가 저장된 메모리의 위치에 대한 식별자가 객체 식별 요청(600)에 포함될 수도 있다.
요청 목적에 관한 정보(620)에는 요청 대상을 나타내는 요청 목적의 타입(622)과 응답 조건(624)에 관한 정보가 포함될 수 있다. 본 실시예에서, 요청 목적의 타입(622)은 객체 인식으로 설정될 수 있고, 응답 조건(624)은 인식된 객체의 최대 개수는 10개로 제한되는 것으로 설정될 수 있다.
도 7은 다른 실시예에 따른 제 1 프로세서(410) 및 제 2 프로세서(440)가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
도 7에서, 단계 s710 내지 단계 s750은 도 5를 참조하여 전술한 단계 s510 내지 단계 s550과 대응될 수 있다.
한편, 단계 s760에서, 제 2 프로세서(440)는 제 1 프로세서(410)에 식별된 적어도 하나의 객체에 관한 정보를 전송할 수 있다.
일 실시예에 따라, 제 2 프로세서(440)는 이미지 내에서의 식별된 객체의 위치 및 위치에 대응되는 객체의 식별 정보가 포함된 정보를 제 1 프로세서(410)에 전송할 수 있다. 예를 들어, 제 2 프로세서(440)는 이미지 내의 [x1, y1]와 [x2, y2]간의 영역에 '개'객체가 포함됨을 알리는 정보를 제 1 프로세서(410)에 전송할 수 있다.
단계 s770에서, 제 1 프로세서(410)는 식별된 적어도 하나의 객체에 관한 정보를 기초로, 식별된 적어도 하나의 객체에 각각 적용할 보정 필터를 결정할 수 있다. 여기에서, 단계 s770은 도 5를 참조하여 전술한 단계 s560과 대응될 수 있다.
또한, 단계 s780 및 단계 s790은 도 5를 참조하여 전술한 단계 s580 및 단계 s590과 대응될 수 있다.
단계 S795에서, 제 1 프로세서(410)는 디스플레이부(420)를 통해, 보정 필터가 적용된 이미지를 표시할 수 있다. 예를 들어, 제 1 프로세서(410)는 사용자 입력에 기반하여 촬영 되거나 저장된 이미지를 표시하는 사진첩 어플리케이션이 실행됨에 따라, 디스플레이부(420)를 통해, 보정 필터가 적용된 이미지를 표시할 수 있다.
도 8은 일 실시예에 따라 디바이스(10)가 이미지에 포함된 객체들 각각에 적용될 수 있는 보정 필터를 추천하는 방법을 설명하는 흐름도이다.
단계 s810 에서, 디바이스(10)는 이미지 내 객체들 각각에 대하여, 뉴럴 네트워크(12)를 이용한 학습 결과에 따라 결정된 보정 필터들을 추천할 수 있다. 예를 들어, 디바이스(10)는 뉴럴 네트워크(12)를 이용하여 결정된 이미지 내 객체들 각각에 대응되는 보정 필터들의 목록을 이미지 상의 해당 객체와 연관된 영역에 디스플레이 할 수 있다.
또는, 디바이스(10)는 이미지 내에서 사용자 입력에 의해 터치된 위치에 대응되는 객체를 보정하기 위한 보정 필터들을 이미지 상의 선택된 객체와 연관된 영역에 디스플레이할 수도 있다. 예를 들어, 디바이스(10)는 이미지 내의 적어도 하나의 객체를 터치하는 사용자 입력에 응답하여, 선택된 적어도 하나의 객체에 대응되는 보정 필터들의 목록을 디스플레이할 수 있다.
단계 s820 에서, 디바이스(10)는 추천된 보정 필터들을 이용하여 보정된 이미지를 나타내는 프리뷰 이미지(preview image) 를 디스플레이 할 수 있다.
일 실시예에 따라 디바이스(10)는 이미지에 포함된 모든 객체들에 대하여 대응되는 추천된 보정 필터들 중 적어도 하나를 각각 적용한 제1 프리뷰 이미지(예를 들어 도 11의 '개' 객체에는 제 1 보정 필터, '꽃' 객체에는 제2 보정 필터, '피자'객체에는 제 3 보정 필터, '와플' 객체에는 제 2 보정 필터가 적용된 프리뷰 이미지), 이미지에 포함된 객체들 중에서 적어도 하나의 객체에 대하여 대응되는 추천된 보정 필터들 중 적어도 하나를 각각 적용한 제2 프리뷰 이미지(예를 들어 도 11의 '개' 객체에 제 1 보정 필터가 적용된 프리뷰 이미지), 모든 객체에 대응되는 추천된 모든 보정 필터가 적용된 제 3 프리뷰 이미지)중 적어도 하나를 디스플레이 할 수 있다.
이때, 제2 프리뷰 이미지는, 디바이스(10)의 이전 보정 이력에 기초하여, 이미지에 포함된 객체들 중에서 사용자가 선호하는 적어도 하나의 객체들에 대해 선호하는 보정 필터들 중 적어도 하나를 각각 적용한 것일 수 있다.
단계 s830 에서, 디바이스(10)는 사용자 입력에 응답하여, 보정된 이미지를 저장할 수 있다. 디바이스(10)는 제1 내지 제3 프리뷰 이미지들 중 하나를 선택하는 사용자 입력에 응답하여, 선택된 프리뷰 이미지에 대응되는 보정된 이미지를 저장할 수 있다. 또한, 디바이스는 보정된 이미지에 적용된 보정 필터에 대한 정보를 보정된 이미지와 함께 또는 연동하여 저장 할 수 있고, 보정된 이미지와 원본 이미지를 서로 연동하여 저장할 수 있다.
예를 들어, 디바이스(10)는 보정된 이미지의 포맷에서 설정된 특정 필드 영역에 적용된 보정 필터에 대한 정보, 원본 이미지 및 원본 이미지가 저장된 주소 중 적어도 하나를 저장할 수 있다.
한편, 단계 s820 은 생략될 수 있다. 이 경우, 디바이스(10)는 단계 s810 에서 추천된 보정 필터들에 대한 사용자 입력에 응답하여, 사용자 입력에 의해 선택된 보정 필터들을 적용한 이미지를 저장할 수 있다.
도 9는 일 실시예에 따른 제 1 프로세서(410) 및 제 2 프로세서(440)가 이미지에 포함된 객체들 각각에 적용될 수 있는 보정 필터를 추천하는 방법을 설명하는 흐름도이다.
도 9에서, 단계 s905 내지 단계 s925는 도 5를 참조하여 전술한 단계 s510 내지 단계 s550과 대응될 수 있다.
한편, 단계 s930에서, 제 2 프로세서(440)는 식별된 객체에 적용할 적어도 하나 이상의 보정 필터 후보를 선택할 수 있다. 예를 들어, 제 2 프로세서(440)는 식별된 객체의 디스플레이 속성을 뉴럴 네트워크를 이용하여 분석한 결과에 따라, 식별된 객체에 적용되는 것이 적합하다고 판단되는 적어도 하나의 보정 필터를 선택할 수 있다. 여기에서, 식별된 객체에 대한 보정 필터의 적합성은 뉴럴 네트워크를 통해 확률값으로 산출될 수 있다. 제 2 프로세서(440)는 확률값이 기 설정된 임계값 이상인 적어도 하나 이상의 보정 필터를 보정 필터 후보로 선택할 수 있다.
단계 s935에서, 제 2 프로세서(440)는 이미지에 포함된 적어도 하나 이상의 객체에 각각 적용할 보정 필터 후보를 디스플레이부를 통해 표시할 수 있다.
예를 들면, 제 2 프로세서(440)는 보정 필터 후보 목록을 식별된 객체와 인접한 위치(예를 들어, 기 설정된 거리 범위 내)에 표시할 수 있다. 또한, 제 2 프로세서(440)는 이미지에 포함된 적어도 하나 이상의 객체에 각각 보정 필터가 적용된 보정 프리뷰 이미지를 표시할 수 있다.
단계 s940에서, 제 2 프로세서(440)는 식별된 객체에 적용할 보정 필터를 결정할 수 있다. 예를 들어, 제 2 프로세서(440)는 적어도 하나 이상의 보정 필터 후보 중에서, 사용자가 선택한 보정 필터를 식별된 객체에 적용할 보정 필터로 선택할 수 있다.
또한, 단계 s945 내지 단계 s960 은 도 5를 참조하여 전술한 단계 s570 내지 단계 s595와 대응될 수 있다.
도 10은 다른 실시예에 따른 제 1 프로세서(410) 및 제 2 프로세서(440)가 이미지에 포함된 객체들 각각에 적용될 수 있는 보정 필터를 추천하는 방법을 설명하는 흐름도이다.
도 10에서, 단계 s1005 내지 단계 s1030은 도 9를 참조하여 전술한 단계 s905 내지 단계 s930과 대응될 수 있다.
한편, 단계 s1035에서, 제 2 프로세서(440)는 적어도 하나의 보정 필터 후보에 관한 정보를 제 1 프로세서(410)에 전송할 수 있다.
일 실시예에 따른 보정 필터 후보에 관한 정보에는 이미지 상에서 식별된 객체가 표시된 위치 정보(예를 들어, 픽셀 좌표), 식별된 객체에 대응되는 보정 필터 후보의 종류에 관한 정보가 포함될 수 있다.
단계 s1040에서, 제 1 프로세서(410)는 이미지에 포함된 적어도 하나 이상의 객체에 각각 적용할 보정 필터 후보를 디스플레이부를 통해 표시할 수 있다.
예를 들면, 제 1 프로세서(410)는 보정 필터 후보 목록을 식별된 객체와 인접 한 위치(예를 들어, 기 설정된 거리 범위 내)에 표시할 수 있다. 또한, 제 1 프로세서(410)는 이미지에 포함된 적어도 하나 이상의 객체에 각각 보정 필터가 적용된 보정 프리뷰 이미지를 표시할 수 있다.
단계 s1045에서, 제 1 프로세서(410)는 식별된 객체에 적용할 보정 필터를 결정할 수 있다. 예를 들어, 제 1 프로세서(410)는 적어도 하나의 보정 필터 후보 중에서, 사용자가 선택한 보정 필터를 식별된 객체에 적용할 보정 필터로 선택할 수 있다.
또한, 단계 s1050 및 단계 s1060은 도 9를 참조하여 전술한 단계 s950 및 단계 s960과 대응될 수 있다.
도 11은 디바이스가 이미지 내의 객체들 각각에 대응되는 보정 필터들을 추천하는 일례이다.
도 11을 참조하면, 디바이스(10)는 뉴럴 네트워크(12)를 이용한 결과에 기초하여 식별된 객체들 및 식별된 객체들 각각에 대응되는 보정 필터들을 추천하기 위해, 이미지(1110) 내에서 각 객체에 대응되는 보정 필터 목록(1111 내지 1114)을 디스플레이할 수 있다.
이때, 디바이스(10)는 보정 필터 목록(1111 내지 1114)에 대응되는 식별된 객체를 가리키는 지시자(도 11에서는 화살표도 도시됨)를 디스플레이할 수 있다. 또한 각각의 식별된 객체의 인식된 결과를 나타내는 정보를 함께 디스플레이할 수 있다. 사용자가 보기에 인식된 결과가 잘못되었을 경우, 재인식을 위한 사용자 명령을 수신할 수 있는 입력 인터페이스를 제공할 수 있다. 예를 들어 식별된 객체 또는 식별된 객체 인식 결과 정보를 터치할 경우 재인식을 통해 재인식 된 결과를 제공할 수 있다.
일 실시예에 따라 디바이스(10)는 보정 필터 목록(1111 내지 1114) 중 적어도 하나에 대한 사용자 입력을 수신할 수 있다. 디바이스(10)는 사용자 입력에 응답하여, 선택된 보정 필터 목록(1111 내지 1114)에 대응되는 이미지 보정을 수행할 수 있다. 예를 들어, 디바이스(10)는 이미지(1110) 내에서 '개'에 대응되는 보정 필터 목록(1111)을 터치하는 사용자 입력에 응답하여, '개'가 디스플레이된 이미지 영역(1120)에 제1 및/또는 제3 보정 필터를 적용함으로써 보정된 이미지를 생성 및/또는 저장할 수 있다.
일 실시예에 따른 디바이스(10)는 식별된 객체에 적용되기 적절한 것으로 판단되는 복수의 필터 중 어느 하나를 사용자의 입력에 기초하여 선택하여 적용함으로써, 객체에 적절한 보정 필터에 관한 정보를 제공할 수 있을 뿐만 아니라 사용자가 원하는 이미지의 품질 개선 효과가 극대화된 이미지를 생성할 수 있다.
도 12는 디바이스가 프리뷰 이미지를 디스플레이하는 일례이다.
도 12를 참조하면, 디바이스(10)는 이미지(1201)에, 뉴럴 네트워크(12)를 이용한 결과에 기초하여 결정된 보정 필터들을 적용한 결과 획득된 프리뷰 이미지들(1203 내지 1205)을 보정되지 않은 이미지(1201)와 함께 디스플레이할 수 있다. 따라서, 사용자는 보정 전후의 이미지 변화를 용이하게 식별할 수 있다.
예를 들어, 디바이스(10)는 이미지(1201)에 포함된 객체들에 대응되는 보정 필터들이 이미지(1201)에 각각 적용된 제1 프리뷰 이미지(1203), 이전 보정 이력에 따라 사용자가 선호하는 객체(예를 들어, '개')에 대해서 보정 필터들이 적용된 제2 프리뷰 이미지(1204), 이미지(1201)에 포함된 모든 객체들에 대해서 모든 보정 필터들이 적용된 제3 프리뷰 이미지(1205)를 디스플레이 할 수 있다.
한편, 디바이스(10)는 복수의 프리뷰 이미지들을 디스플레이 하기 위하여, 프리뷰 이미지들이 디스플레이 된 제1 영역(1202)을 좌우로 슬라이드(slide)하는 사용자 입력을 수신할 수도 있다. 디바이스(10)는 제1 영역(1202)을 슬라이드 하는 사용자 입력에 응답하여, 이미지(1201) 내의 서로 다른 객체가 보정된 프리뷰 이미지를 디스플레이 할 수 있다.
일 실시예에 따라 디바이스(10)는 프리뷰 이미지들 내에서 보정 필터들이 적용된 객체를 강조(예를 들어, 객체 깜빡임, 객체의 경계 강조)하여 디스플레이 할 수 있다.
일 실시예에 따라 디바이스(10)는 프리뷰 이미지의 경계를 드래그 앤 드랍(drag & drop)하는 사용자 입력(1206)에 응답하여, 프리뷰 이미지가 화면에 디스플레이되는 크기를 변경할 수 있다.
도 13은 일 실시예에 따른 제 1 프로세서(410) 및 제 2 프로세서(440)가 실시간으로 프리뷰 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
단계 s1310에서, 제 1 프로세서(410)는 카메라(미도시)를 통해 프리뷰 이미지를 획득할 수 있다.
제 1 프로세서(410)는 카메라 어플리케이션이 실행됨에 따라, 카메라(미도시)를 통해, 디바이스(400)에서 감지되는 적어도 하나의 객체를 포함한 프리뷰 이미지를 획득할 수 있다. 여기에서, 제 1 프로세서(410)는 기 설정된 프레임 레이트에 따라 실시간으로 프리뷰 이미지를 획득할 수 있다. 예를 들어, 제 1 프로세서(410)는 프레임 레이트가 30fps로 설정된 경우, 1초에 30장의 프리뷰 이미지를 획득할 수 있다.
한편, 제 1 프로세서(410)는 사용자가 프리뷰 이미지에 대한 보정을 요청한 경우, 후술할 일련의 보정 프로세스에서 소요되는 시간을 고려하여, 프레임 레이트를 변경할 수 있다. 예를 들어, 제 1 프로세서(410)는 30fps의 프레임 레이트를 24fps로 변경할 수 있다.
단계 s1320에서, 제 1 프로세서(410)는 제 2 프로세서(440)에 프리뷰 이미지에 포함된 적어도 하나의 객체를 식별할 것을 요청할 수 있다.
예를 들어, 제 1 프로세서(410)는 제 2 프로세서(440)에 프리뷰 이미지를 포함한 객체 식별 요청 신호를 제 2 프로세서(440)에 전송할 수 있다.
단계 s1330에서, 제 2 프로세서(440)는 뉴럴 네트워크를 이용하여, 프리뷰 이미지에 포함된 적어도 하나의 객체를 식별할 수 있다. 여기에서, 단계 s1330은 도 2를 참조하여 전술한 단계 s220에서 이미지에 포함된 적어도 하나의 객체를 식별하는 방법과 대응될 수 있다.
단계 s1340에서, 제 2 프로세서(440)는 식별된 적어도 하나의 객체 각각에 적용할 보정 필터를 결정할 수 있다.
한편, 다른 예에 따라, 제 2 프로세서(440)는 식별된 적어도 하나의 객체 각각에 적용할 적어도 하나의 보정 필터 후보를 결정할 수도 있다.
단계 s1350에서, 제 2 프로세서(440)는 식별된 적어도 하나의 객체 각각에 대해 결정된 보정 필터 정보를 제 1 프로세서(410)에 전송할 수 있다.
한편, 다른 예에 따라, 단계 s1340에서, 적어도 하나의 보정 필터 후보가 결정된 경우, 제 2 프로세서(440)는 적어도 하나의 보정 필터 후보에 관한 정보를 제 1 프로세서(410)에 전송할 수도 있다.
단계 s1360에서, 제 1 프로세서(410)는 수신한 보정 필터 정보를 기초로 프리뷰 이미지에 포함된 적어도 하나의 객체에 각각 보정 필터를 적용할 수 있다.
한편, 다른 예에 따라, 제 1 프로세서(410)는 제 2 프로세서(440)로부터 적어도 하나의 보정 필터 후보에 관한 정보를 수신한 경우, 사용자 입력에 기초하여, 적어도 하나의 보정 필터 후보 중 어느 하나를 선택할 수도 있다.
단계 s1370에서, 제 1 프로세서(410)는 디스플레이부를 통해 보정 필터가 적용된 프리뷰 이미지를 표시할 수 있다. 일 실시예에 따른 제 1 프로세서(410)는 기 설정된 프레임 레이트에 따라 보정 필터가 적용된 이미지를 실시간으로 표시할 수 있다.
도 14는 다른 실시예에 따른 제 1 프로세서(410) 및 제 2 프로세서(440)가 실시간으로 프리뷰 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 14에서, 단계 s1410 내지 단계 s1430은 도 13을 참조하여 전술한 단계 s1310 내지 단계 s1330과 대응될 수 있다.
한편, 단계 s1440에서, 제 2 프로세서(440)는 식별된 적어도 하나의 객체에 관한 정보를 제 1 프로세서(410)에 전송할 수 있다.
일 실시예에 따른 식별된 적어도 하나의 객체에 관한 정보에는 이미지 내에서의 객체의 위치에 관한 정보 및 객체의 식별 정보가 포함될 수 있다.
단계 s1450에서, 제 1 프로세서(410)는 식별된 적어도 하나의 객체에 각각 적용할 보정 필터를 결정할 수 있다.
한편, 다른 예에 따라, 제 2 프로세서(440)는 식별된 적어도 하나의 객체 각각에 적용할 적어도 하나의 보정 필터 후보를 결정할 수도 있다.
단계 s1460 및 단계 s1470은 도 13을 참조하여 전술한 단계 s1360 및 단계 s1370과 대응될 수 있다.
도 15는 디바이스(10)가 실시간으로 프리뷰 이미지(1510)에 포함된 복수의 객체(1511, 1512, 1513, 1514)에 각각 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 15를 참조하면, 디바이스(10)는 디바이스(10) 내에 설치된 카메라 어플리케이션 등 실시간으로 프리뷰 이미지를 획득하는 어플리케이션이 실행됨에 따라, 디바이스(10)에 감지되는 프리뷰 이미지(1510)에 포함되는 복수의 객체(1511, 1512, 1513, 1514)를 식별할 수 있다. 예를 들어, 디바이스(10)는 동영상 촬영 또는 사진을 촬영하기 전에 화면에 보이는 이미지에 포함되는 복수의 객체를 식별할 수 있다. 또한, 디바이스(10)는 프리뷰 이미지로부터 식별된 복수의 객체(1511, 1512, 1513, 1514)에 각각 대응되는 영역에 보정 필터를 적용하여 화면에 표시할 수 있다. 디바이스(10)는 식별된 복수의 객체(1511, 1512, 1513, 1514) 각각에 대응되는 보정 필터를 적용함으로써, 실시간으로 획득되는 이미지의 품질을 높일 수 있다.
또한, 디바이스(10)는 동영상 저장 또는 사진 촬영을 요청하는 사용자 입력이 수신되는 경우, 보정 필터가 적용된 프리뷰 이미지(1520)를 저장 할 수 있다.
한편, 본 실시예에서 실시간으로 프리뷰 이미지에 포함된 복수의 객체(1511, 1512, 1513, 1514) 각각에 대한 보정 필터를 적용하는 방법은 도 2를 참조하여 전술한 방법과 대응될 수 있다.
도 16은 일 실시예에 따른 제 1 프로세서(410) 및 제 2 프로세서(440)가 메모리(430)에 저장된 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
단계 s1610에서, 제 1 프로세서(410)는 디스플레이부를 통해 메모리(430)에 저장된 이미지를 표시할 수 있다.
제 1 프로세서(410)는 사진첩 어플리케이션의 실행을 요청하는 사용자 입력을 수신할 수 있다. 제 1 프로세서(410)는 사용자 입력이 수신됨에 따라, 메모리(430)에 저장된 적어도 하나의 이미지의 목록을 디스플레이부를 통해 표시할 수 있다. 또한, 제 1 프로세서(410)는 표시된 적어도 하나의 이미지의 목록에서 특정 이미지가 선택됨에 따라, 선택된 이미지를 표시할 수 있다.
단계 s1620에서, 제 1 프로세서(410)는 제 2 프로세서(440)에 저장된 이미지에 포함된 적어도 하나의 객체를 식별할 것을 요청할 수 있다.
예를 들어, 제 1 프로세서(410)는 제 2 프로세서(440)에 저장된 이미지를 포함한 객체 식별 요청 신호를 제 2 프로세서(440)에 전송할 수 있다. 다른 예에 따라, 제 1 프로세서(410)는 이미지가 저장된 메모리(430)의 위치에 대한 식별자를 포함한 객체 식별 요청 신호를 제 2 프로세서(440)에 전송할 수도 있다.
한편, 단계 s1630 내지 단계 s1660은 도 5를 참조하여 전술한 단계 s550 내지 단계 s580과 대응될 수 있다.
단계 s1670에서, 제 1 프로세서(410)는 메모리를 통해 보정 필터가 적용된 이미지를 저장할 수 있다.
단계 s1680에서, 제 1 프로세서(410)는 디스플레이부를 통해 보정 필터가 적용된 이미지를 표시할 수 있다.
예를 들어, 제 1 프로세서(410)는 실행 중이던 사진첩 어플리케이션을 이용하여 보정 필터가 적용된 이미지를 표시할 수 있다.
다른 예에 따라, 제 1 프로세서(410)는 이미지 편집 어플리케이션의 실행을 요청하는 사용자 입력이 수신되는 경우, 이미지 편집 어플리케이션을 이용하여 보정 필터가 적용된 이미지를 표시할 수 있다. 예를 들어, 제 1 프로세서(410)는 이미지 편집 어플리케이션에서 제공되는 이미지 목록에, 메모리(430)에 저장되어 있는, 보정 필터가 적용된 이미지를 표시할 수 있다.
도 17은 다른 실시예에 따른 제 1 프로세서(410) 및 제 2 프로세서(440)가 메모리(430)에 저장된 이미지에 포함된 객체에 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 17에서, 단계 s1710 내지 단계 s1730은 도 16을 참조하여 전술한 단계 s1610 내지 단계 s1630과 대응될 수 있다.
단계 s1740에서, 제 2 프로세서(440)는 제 1 프로세서(410)에 식별된 적어도 하나의 객체에 관한 정보를 전송할 수 있다. 일 실시예에 따라, 제 2 프로세서(440)는 이미지 내에서의 식별된 객체의 위치 및 위치에 대응되는 객체의 식별 정보가 포함된 정보를 제 1 프로세서(410)에 전송할 수 있다.
단계 s1750에서, 제 1 프로세서(440)는 식별된 적어도 하나의 객체 각각에 대한 보정 필터를 결정할 수 있다. 한편, 단계 s1750은 도 2를 참조하여 전술한 단계 s230에서 보정 필터를 결정하는 방법과 대응될 수 있다.
한편, 단계 s1760 내지 단계 s1780은 도 16을 참조하여 전술한 단계 s1660 내지 단계 s1680과 대응될 수 있다.
도 18은 일 실시예에 따라 디바이스(10)가 사용자 입력에 응답하여 이미지 내의 객체를 보정하는 방법을 설명하는 흐름도이다.
도 18을 참조하면, 단계 s1810 에서, 디바이스(10)는 이미지를 디스플레이 할 수 있다. 디바이스(10)는 보정되지 않은 이미지를 디스플레이 할 수 있다.
단계 s1820 에서, 디바이스(10)는 이미지 내의 객체들 중 하나를 터치하는 사용자 입력을 수신할 수 있다. 그러나 이미지 내의 객체들 중 하나를 선택하는 방법은 터치에 한정되지는 않는다. 예를 들어, 디바이스(10)가 별도의 입력 장치를 제공하는 경우, 사용자는 제공되는 입력 장치를 이용하여 이미지 내의 객체들 중 하나를 선택할 수 있다.
단계 s1830 에서, 디바이스(10)는 사용자 입력에 의해 터치된 이미지의 위치 정보와 이미지가 뉴럴 네트워크(12)에 입력됨에 따라, 상기 입력된 이미지 내의 선택된 객체에 대응되는 보정 필터들을 결정할 수 있다. 또한, 디바이스(10)는 뉴럴 네트워크(12)를 이용한 결과에 기초하여, 위치 정보에 대응되는 이미지 내 객체를 식별하고 식별된 객체에 대응되는 보정 필터를 결정할 수 있다.
또는, 디바이스(10)는 이미지로부터 사용자에 의해 터치된 위치에 대응되는 일부 영역의 이미지 정보를 추출하고, 추출된 이미지 영역의 이미지 정보만을 뉴럴 네트워크(12)에 입력할 수도 있다. 여기에서, 이미지 정보는 이미지의 적어도 일부 영역과 관련된 이미지 데이터일 수 있다.
일 실시예에 따른, 디바이스(10)는 사용자에 의해 선택된 객체를 식별하고, 식별된 객체에 대응되는 보정 필터를 적용함으로써, 뉴럴 네트워크를 이용하여 이미지 전체를 분석하지 않고도, 사용자가 원하는 객체를 선택적으로 보정할 수 있어, 객체 식별에 이용되는 자원(예를 들어, 컴퓨팅 자원)의 소모를 줄이면서도, 이미지의 품질 개선 효과를 극대화 시킬 수 있다.
도 19는 일 실시예에 따른 이미지 내에서, 사용자 입력을 기초로 선택된 객체에 대한 식별을 위해, 제 1 프로세서(410)로부터 제 2 프로세서(440)에 전송되는 객체 식별 요청(1900)에 포함된 정보를 표시한 도면이다.
일 실시예에 따른 제 1 프로세서(410)는 사진첩 어플리케이션, 카메라 어플리케이션, 이미지 편집 어플리케이션 및 웹 어플리케이션 등을 포함하는 적어도 하나의 어플리케이션이 실행됨에 따라, 디스플레이부(420)를 통해 이미지를 표시할 수 있다. 제 1 프로세서(410)는 표시된 이미지 내의 객체를 선택하는 사용자 입력을 수신할 수 있다. 또한, 제 1 프로세서(410)는 선택된 객체에 대한 식별 요청(1900)을 제 2 프로세서(440)에 전송할 수 있다.
객체 식별 요청을 위해, 제 1 프로세서(410)와 제 2 프로세서(420)간의 데이터(예를 들면, 보정 필터 적용되기 전 이미지)를 송/수신하기 위한 인터페이스가 정의될 수 있다.
예를 들면, 뉴럴 네트워크에 입력할 데이터를 전달 값으로 갖는 API(application program interface) 함수가 정의될 수 있다. 이 경우, 제 1 프로세서(410)가 상기 API 함수를 호출하여 데이터 전달 값으로 보정 전 이미지 및 요청 목적을 입력하면, 상기 API 함수는 보정 전 이미지 및 요청 목적을 뉴럴 네트워크에 입력할 데이터로서 제 2 프로세서(420)에 전달할 수 있다.
도 19를 참조하면, 선택된 객체에 대한 식별 요청(1900)에는 보정 대상에 관한 정보(1910) 및 요청 목적에 관한 정보(1920)가 포함될 수 있다. 보정 대상에 관한 정보(1910)에는 이미지(1912) 및 이미지(1912) 내의 선택된 객체의 영역(1914)에 관한 정보가 포함될 수 있다. 또한, 요청 목적에 관한 정보(1920)에는 요청 목적이 객체 인식임을 나타내는 정보가 포함될 수 있다.
도 20은 디바이스가 사용자 입력에 응답하여 이미지 내의 객체를 보정하는 일례이다.
도 20을 참조하면, 디바이스(10)는 화면에 디스플레이 된 이미지(2010), 및 사용자 입력에 의해 터치된 제 1 위치 정보(즉, {x1, y1} 위치, 또는{x1, y1}부터 {xn, yn} 등의 소정 영역)를 뉴럴 네트워크(12)에 입력할 수 있다. 디바이스(10)는 뉴럴 네트워크(12)로부터 제1 위치정보에 대응되는 객체에 대한 정보 및 객체에 적용될 제 1 보정 필터, 제 1 보정 필터에 입력될 파라미터값(P1), 제2 보정 필터 및 제 2 보정 필터에 입력될 파라미터값(P2)을 획득할 수 있다.
디바이스(10)는 뉴럴 네트워크(12)로부터 획득된 값들에 기초하여, 이미지(2010)를 보정할 수 있다. 따라서, 디바이스(10)는 이미지(2010) 내에서 사용자 입력에 의해 터치된 '개'에 대해서만 이미지 보정을 수행할 수 있다. 디바이스(10)는 이미지 보정이 수행됨에 따라,'개'에 대응되는 영역이 보정된 이미지(2020)를 디스플레이부를 통해 표시할 수 있다.
도 21은 디바이스(10)가 사용자 정보를 기초로 식별된 복수의 객체 중 사용자와 관련된 객체에 대한 보정 필터를 결정하는 방법을 설명하는 흐름도이다.
단계 S2110에서, 디바이스(10)는 뉴럴 네트워크를 이용하여 이미지 내의 복수의 객체를 식별할 수 있다.
한편, 단계 S2110은 도 2를 참조하여 전술한 단계 S230과 대응될 수 있다.
단계 S2120에서, 디바이스(10)는 기 저장된 사용자 정보를 기초로, 식별된 복수의 객체 중 사용자와 관련된 객체를 선택할 수 있다.
여기에서, 사용자 정보는 사용자 및 사용자와 관련된 객체를 식별할 수 있는 정보를 나타낸다. 예를 들어, 사용자의 이미지, 사용자의 가족 또는 친구의 이미지 및 사용자의 애완견의 이미지 등이 사용자 정보에 포함될 수 있다. 또한, 디바이스(10)는 디바이스(10)의 메모리 또는 디바이스(10)에 설치된 적어도 하나의 어플리케이션을 통해 사용자 정보를 획득할 수 있다. 예를 들어, 디바이스(10)는 사진첩 어플리케이션을 통해 사용자 정보를 획득하거나, SNS 어플리케이션의 외부 서버에 저장된 사용자 정보를 획득할 수 있다.
디바이스(10)는 식별된 복수의 객체와 사용자 정보를 비교하여, 식별된 복수의 객체 중에서 사용자와 관련된 객체를 선택할 수 있다. 예를 들어, 이미지에 복수의 사람이 포함되어 있는 경우, 디바이스(10)는 사용자 정보와 복수의 사람을 비교하여, 복수의 사람 중에서 사용자와 사용자의 친구를 선택할 수 있다.
단계 S2130에서, 디바이스(10)는 선택된 객체에 대응되는 보정 필터를 결정할 수 있다.
한편 디바이스(10)가 선택된 객체에 대응되는 보정 필터를 결정하는 방법은 도 2의 S230을 참조하여 전술한 방법과 대응될 수 있다. 일 실시예에 따른 디바이스(10)는 이미지에 포함된 모든 객체를 보정하지 않고, 사용자와 관련된 객체에 대해서만 보정을 수행함으로써, 보정에 소요되는 시간, 메모리 등의 자원을 보다 효율적으로 사용할 수 있다.
도 22는 일 실시예에 따른 이미지 내에서 사용자와 관련된 객체에 대한 식별을 위해 제 1 프로세서(410)로부터 제 2 프로세서(440)에 전송되는 객체 식별 요청(2200)에 포함된 정보를 표시한 도면이다.
객체 식별 요청을 위해서, 제 1 프로세서(410)와 제 2 프로세서(420)간의 데이터(예를 들면, 보정 필터 적용되기 전 이미지)를 송/수신하기 위한 인터페이스가 정의될 수 있다.
예를 들면, 뉴럴 네트워크에 입력할 데이터를 전달 값으로 갖는 API(application program interface) 함수가 정의될 수 있다. 이 경우, 제 1 프로세서(410)가 상기 API 함수를 호출하여 데이터 전달 값으로 보정 전 이미지 및 요청 목적을 입력하면, 상기 API 함수는 보정 전 이미지 및 요청 목적을 뉴럴 네트워크에 입력할 데이터로서 제 2 프로세서(420)에 전달할 수 있다.
도 22를 참조하면, 객체 식별 요청(2200)에는 이미지(2210) 및 요청 목적에 관한 정보(2220)가 포함될 수 있다. 한편, 본 실시예에서는, 객체 식별 요청(2200)에 이미지(2210)가 포함되는 것으로 설명하였으나, 이는 일 실시예일 뿐, 이미지(2210)가 저장된 메모리의 위치에 대한 식별자가 객체 식별 요청(2200)에 포함될 수도 있다.
또한, 요청 목적에 관한 정보(2220)에는 요청 대상을 나타내는 요청 목적의 타입(2222)과 응답 조건(2224)에 관한 정보가 포함될 수 있다. 본 실시예에서, 요청 목적의 타입(2222)은 객체 인식으로 설정될 수 있고, 응답 조건(2224)은, 사용자와 관계 있는 객체를 인식하고, 인식된 객체의 최대 개수는 10개로 제한되는 것으로 설정될 수 있다.
도 23은 디바이스(10)가 사용자 정보를 기초로 식별된 복수의 객체 중 사용자와 관련된 객체에 대한 보정 필터를 결정하는 방법을 설명하는 도면이다.
도 23을 참조하면, 디바이스(10)는 뉴럴 네트워크를 이용하여 이미지(2310) 내의 복수의 객체(2311, 2312, 2313)를 식별할 수 있다. 구체적으로, 디바이스(10)는 뉴럴 네트워크를 이용하여 이미지(2310)에 포함된 벚꽃 나무(2311), 사람 1(2312) 및 사람 2(2313)를 식별할 수 있다.
일 실시예에 따른 디바이스(10)는 기 저장된 사용자 정보를 메모리 또는 어플리케이션과 연관된 서버로부터 획득할 수 있다. 디바이스(10)는 예를 들어, 사진첩 어플리케이션에 저장된 복수의 사진을 획득할 수 있다.
디바이스(10)는 이미지(2310) 내에 복수의 사람(2312, 2313)에 포함됨에 따라, 식별된 사람 1(2312) 및 사람 2(2313)와 기 획득한 복수의 사진을 비교할 수 있다. 디바이스(10)는 비교 결과, 사람 1(2312)이 디바이스(10)의 사용자이고, 사람 2(2313)는 사용자와 관련 있지 않은 사람으로 결정할 수 있다.
이에 따라, 디바이스(10)는 복수의 객체(2311, 2312, 2313) 중에서 벚꽃 나무(2311)와 사람 1(2312)을 선택할 수 있다. 디바이스(10)는 선택된 벚꽃 나무(2311)와 사람 1(2312)에 대해 각각 대응되는 보정 필터를 결정하고, 결정된 보정 필터를 이용하여 이미지(2310)에 포함된 벚꽃 나무(2311)와 사람 1(2312)을 보정할 수 있다.
도 24는 디바이스가 객체의 보정 필터에 관한 히스토리 정보를 기초로 객체에 대응되는 보정 필터를 결정하는 방법을 설명하는 흐름도이다.
단계 S2410에서, 디바이스(10)는 뉴럴 네트워크를 이용하여 이미지 내의 복수의 객체를 식별할 수 있다.
한편, 단계 S2410은 도 2를 참조하여 전술한 단계 S230과 대응될 수 있다.
단계 S2420에서, 디바이스(10)는 이미지의 보정 이전에 사용자가 복수의 객체 각각에 대해 설정한 보정 필터를 나타내는 히스토리 정보를 획득할 수 있다.
디바이스(10)는 이미지의 보정 이전에 획득되었던 적어도 하나의 이미지로부터 식별된 복수의 객체들 각각에 대해 설정된 보정 필터의 정보를 저장할 수 있다. 예를 들어, 디바이스(10)는 사용자가 제 1 객체에 대해, 제 1 보정 필터를 선택하였던 경우, 제 1 객체에 대응되는 보정 필터를 제 1 보정 필터로 저장할 수 있다.
또한, 디바이스(10)는 사용자가 제 1 객체에 대해 다양한 종류의 보정 필터를 설정했던 히스토리가 존재하는 경우, 보정 필터의 종류 별로 설정 횟수에 대한 정보를 저장할 수도 있다.
단계 S2430에서, 디바이스(10)는 획득된 히스토리 정보에 기초하여 복수의 객체에 각각 대응되는 보정 필터를 결정할 수 있다.
예를 들어, 디바이스(10)는 히스토리 정보 내에 제 1 객체에 대해 사용자가 선택한 보정 필터가 제 1 보정 필터로 저장되어 있는 경우 선택하였던 경우, 복수의 객체 중 제 1 객체에 대응되는 보정 필터를 제 1 보정 필터로 결정할 수 있다.
또한, 디바이스(10)는 사용자가 제 1 객체에 대해 다양한 종류의 보정 필터를 설정했던 히스토리가 존재하는 경우, 히스토리에 기초하여 보정 필터 별로 설정 횟수에 가중치를 두어 제 1 객체에 대응되는 보정 필터를 설정할 수도 있다.
일 실시예에 따른 디바이스(10)는 사용자가 객체에 대해 설정한 보정 필터를 나타내는 히스토리 정보를 이용함으로써 사용자의 취향 등을 반영하여 객체에 대한 보정 필터를 설정할 수 있다.
도 25는 디바이스(10)가 객체의 보정 필터에 관한 히스토리 정보를 기초로 객체에 대응되는 보정 필터를 결정하는 방법을 설명하는 도면이다.
도 25를 참조하면, 디바이스(10)는 이미지(2510) 내에서, 뉴럴 네트워크를 기초로 식별된 복수의 객체에 대응되는 보정 필터를 결정하기 위해 히스토리 정보(2520)를 획득할 수 있다. 여기에서, 히스토리 정보(2520)는 이미지 보정 이전에 처리되었던 적어도 하나의 이미지의 보정 결과로부터 생성될 수 있다. 구체적으로, 히스토리 정보(2520)에는 이미지 보정 이전에 처리되었던 적어도 하나의 이미지에 포함된 복수의 객체 각각에 대해 사용자가 설정한 보정 필터의 정보가 포함될 수 있다.
예를 들어, 히스토리 정보(2520)에는 동물, 식물 및 음식에 각각 제 1 보정 필터, 제 2 보정 필터 및 제 3 보정 필터가 설정됨을 나타내는 정보가 포함될 수 있다. 이에 따라, 디바이스(10)는 히스토리 정보를 기초로 이미지(2510)에 포함된 동물(2511), 음식(2512, 2513) 및 식물(2514)의 보정 필터를 각각 제 1 보정 필터, 제 3 보정 필터 및 제 2 보정 필터로 결정할 수 있다.
도 26은 디바이스(10)가 이미지(2610)를 포함하는 컨텐트의 주제를 이용하여, 이미지(2610)에 포함된 복수의 객체(2611, 2612)에 각각 보정 필터를 적용하는 방법을 설명하기 위한 도면이다.
도 26을 참조하면, 디바이스(10)는 이미지(2610)가 포함된 컨텐트의 주제를 식별할 수 있다. 여기에서, 컨텐트는 동영상 및 사진 등을 포함할 수 있으나, 컨텐트의 종류가 전술한 예에 한정되는 것은 아니다.
디바이스(10)는 이미지(2610) 또는 컨텐트의 메타데이터를 이용하여 컨텐트의 제목 및 컨텐트를 제공하는 채널 등을 식별할 수 있다. 또한, 디바이스(10)는 식별된 컨텐트의 제목 및 컨텐트를 제공하는 채널 중 적어도 하나를 기초로 컨텐트의 주제를 식별할 수 있다. 예를 들어, 컨텐트의 주제에는 스포츠, 음식 및 미용 등이 포함될 수 있으나, 이는 일 예일 뿐 컨텐트의 주제가 전술한 예에 한정되는 것은 아니다. 도 26의 일 실시예에서, 디바이스(10)는 이미지(2610)가 포함된 축구 경기 동영상임을 식별할 수 있다.
한편, 디바이스(10)는 뉴럴 네트워크를 이용하여 이미지(2610)에 포함된 복수의 객체(2611, 2612)를 식별할 수 있다. 예를 들어, 디바이스(10)는 이미지(2610)에 운동 선수(2611) 및 광고판(2612)이 포함됨을 확인할 수 있다.
디바이스(10)는 식별된 컨텐트의 주제 및 식별된 복수의 객체(2611, 2612)를 기초로 복수의 객체(2611, 2612) 각각에 적용되는 보정 필터를 결정할 수 있다. 예를 들어, 디바이스(10)는 이미지(2610)가 축구 경기 동영상의 한 장면임이 식별됨에 따라, 운동 선수(2611)의 에지를 명확히 하는 보정 필터 A를 선택할 수 있다. 또한, 다른 예에 따라 디바이스(10)는 광고판(2612)의 대비를 높이는 보정 필터 B를 선택할 수 있다.
디바이스(10)는 선택된 보정 필터 A 및 선택된 보정 필터 B를 이용하여 각각 이미지(2610)에 포함된 운동 선수(2611) 및 광고판(2612)을 보정함으로써, 보정된 이미지(2620)를 생성할 수 있다.
도 27은 일 실시예에 따른 도 3의 프로세서(330)를 상세히 도시한 도면이다.
도 27를 참조하면, 도 3의 프로세서(330)는 제어부(2701), 그래픽 처리부(graphic processing unit)(2702)를 포함할 수 있다.
제어부(2701)는 그래픽 처리부(2702)를 제어하기 위한 동작을 수행할 수 있다. 제어부(2701)는 하나 이상의 코어(core, 미도시) 및 그래픽 처리부(2702) 및/또는 다른 구성 요소와 신호를 송수신하는 연결 통로(예를 들어, 버스(bus) 등)를 포함할 수 있다.
그래픽 처리부(graphic processing unit)(2702)는 연산부(2703) 및 렌더링부(2704)를 포함할 수 있다. 연산부(2703)는 병렬적으로 연산하는 복수의 프로세서들을 포함할 수 있다. 일 실시예에 따라 연산부(2703)는 제어부(2701)의 제어에 의해, 뉴럴 네트워크 모듈 내의 레이어들에 포함된 하나 이상의 인스트럭션들을 병렬적으로 처리할 수 있다. 이에 대해서는, 도 31을 참고하여 보다 구체적으로 후술하도록 한다. 또한, 연산부(2703)는 처리된 결과(즉, 이미지 내 객체들 각각에 대응되는 보정 필터 정보)를 제어부(2710)로 제공할 수 있다.
또한, 연산부(2703)는 화면의 레이아웃에 따라 각 객체들이 표시될 좌표값, 형태, 크기, 컬러 등과 같은 속성값을 보정할 수 있다. 렌더링부(2704)는, 연산부(2703)에 의해 보정된 결과를 디스플레이부(310)의 디스플레이 영역에 출력할 수 있다.
한편, 프로세서(330)는 프로세서(330) 내부에서 처리되는 신호(또는, 데이터)를 일시적 및/또는 영구적으로 저장하는 램(RAM: Random Access Memory, 미도시) 및 롬(ROM: Read-Only Memory, 미도시)을 더 포함할 수 있다. 또한, 프로세서(330)는 전술한 제어부(2701), 그래픽 처리부(2702), 램 및 롬 중 적어도 하나를 포함하는 시스템온칩(SoC: system on chip) 형태로 구현될 수 있다.
도 28은 다른 실시예에 따른 도 3의 프로세서(330)를 상세히 도시한 도면이다.
도 28을 참조하면, 일부 실시예에 따른 프로세서(330)는 데이터 학습부(2810) 및 데이터 인식부(2820)를 포함할 수 있다.
데이터 학습부(2810)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 객체 식별 또는 이미지에 포함된 객체에 관한 보정 필터를 결정하기 위한 판단 기준을 학습할 수 있다.
데이터 학습부(2810)는 데이터 인식 모델이 이미지 내에 포함된 객체를 식별하기 위한 판단 기준을 갖도록 학습할 수 있다. 예를 들어, 데이터 학습부(2810)는 객체를 식별하기 위해 사용되는 이미지 속성과 객체의 종류에 따른 카테고리를 학습할 수 있다.
또한 데이터 학습부(2810)는 데이터 인식 모델이 객체에 적합한 보정 필터를 결정하기 위한 판단 기준을 갖도록 객체의 디스플레이 속성을 학습할 수 있다.
데이터 인식부(2820)는 데이터에 기초하여, 객체를 식별하거나 이미지에 포함된 객체의 보정 필터를 결정할 수 있다. 예를 들어, 데이터 인식부(2820)는 이미지 속성에 관한 학습 결과를 이용하여, 이미지 내에 포함된 객체를 식별할 수 있다.
다른 예에 따라, 데이터 인식부(2820)는 객체의 디스플레이 속성에 관한 학습 결과를 이용하여, 식별된 객체의 보정 필터를 결정할 수도 있다. 또한, 데이터 인식부(2820)는 획득된 데이터를 입력 값으로 하여 데이터 인식 모델에 의해 출력된 결과 값은, 데이터 인식 모델을 갱신하는데 이용될 수 있다.
데이터 학습부(2810) 및 데이터 인식부(2820) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 디바이스(10)에 탑재될 수 있다. 예를 들어, 데이터 학습부(2810) 및 데이터 인식부(2820) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 디바이스(10)에 탑재될 수도 있다.
이 경우, 데이터 학습부(2810) 및 데이터 인식부(2820)는 하나의 디바이스(10)에 탑재될 수도 있으며, 또는 별개의 디바이스들에 각각 탑재될 수도 있다. 예를 들어, 데이터 학습부(2810) 및 데이터 인식부(2820) 중 하나는 디바이스(10)에 포함되고, 나머지 하나는 서버에 포함될 수 있다. 또한, 데이터 학습부(2810) 및 데이터 인식부(2820)는 유선 또는 무선으로 통하여, 데이터 학습부(2810)가 구축한 모델 정보를 데이터 인식부(2820)로 제공할 수도 있고, 데이터 인식부(2820)로 입력된 데이터가 추가 학습 데이터로서 데이터 학습부(2810)로 제공될 수도 있다.
한편, 데이터 학습부(2810) 및 데이터 인식부(2820) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 학습부(2810) 및 데이터 인식부(2820) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 어플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 어플리케이션에 의해 제공될 수 있다.
도 29는 일 실시예에 따른 데이터 학습부(2810)의 블록도이다.
도 29를 참조하면, 일 실시예에 따른 데이터 학습부(2810)는 데이터 획득부(2910), 전처리부(2920), 학습 데이터 선택부(2930), 모델 학습부(2940) 및 모델 평가부(2950)를 포함할 수 있다. 다만, 이는 일 실시예일 뿐, 데이터 학습부(2810)는 전술한 구성 요소들 중 일부를 포함하거나, 전술한 구성 요소들 이외에 다른 구성 요소를 더 포함할 수도 있다.
데이터 획득부(2910)는 객체의 식별 또는 보정 필터의 결정에 필요한 데이터를 획득할 수 있다. 예를 들어, 데이터 획득부(2910)는 디바이스(10)의 주변 상황을 센싱하여 데이터를 획득할 수 있다. 다른 예에 따라, 데이터 획득부(2910)는 소셜 네트워크 서버(social network server), 클라우드 서버(cloud server) 또는 콘텐트 제공 서버 등의 외부 서버로부터 데이터를 획득할 수 있다.
데이터 획득부(2910)는 이미지 및 동영상 중 적어도 하나를 획득할 수 있다. 여기에서, 동영상은 복수의 이미지들로 구성될 수 있다. 일 예로, 데이터 획득부(2910)는 데이터 학습부(2810)를 포함하는 디바이스(10)의 카메라, 또는 데이터 학습부(2810)를 포함하는 디바이스(10)와 통신 가능한 외부의 카메라(예로, CCTV 또는 블랙박스 등)를 통하여 동영상을 입력 받을 수 있다. 여기서, 카메라는 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다.)
전처리부(2920)는 객체의 식별 또는 보정 필터의 결정을 위한 학습에 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 전처리부(2920)는 후술할 모델 학습부(2940)가 객체의 식별 또는 보정 필터의 결정을 위한 학습을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
예를 들어, 전처리부(2920)는 입력된 이미지를 복수의 이미지들로 구분하고, 구분된 각각의 이미지로부터 R 속성, G 속성 및 B 속성을 검출할 수 있다. 또한, 전처리부(2920)는 구분된 각각의 이미지로부터, 기 결정된 크기의 영역 별로 검출된 속성들에 대한 대표 속성값을 결정할 수 있다. 대표 속성값은, 최대 속성값, 최소 속성값 및 평균 속성값 등을 포함할 수 있다.
학습 데이터 선택부(2930)는 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 모델 학습부(2940)에 제공될 수 있다. 학습 데이터 선택부(2930)는 객체의 식별 또는 보정 필터의 결정을 위한 기 설정된 선별 기준에 따라, 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 또한, 학습 데이터 선택부(2930)는 후술할 모델 학습부(2940)에 의한 학습에 의해 기 설정된 선별 기준에 따라 데이터를 선택할 수도 있다.
예를 들어, 학습 데이터 선택부(2930)는 전처리된 데이터를 기초로, 객체에 대응되는 카테고리에 대하여, 연관성이 상대적으로 높은(예를 들어, 확률 분포의 밀도가 높은) 이미지 속성들의 종류, 개수 또는 수준 등을 객체를 식별하기 위한 기준에 포함되는 데이터로 결정할 수 있다.
모델 학습부(2940)는 데이터 인식 모델이 학습 데이터에 기초하여 객체의 식별 또는 보정 필터의 결정을 어떻게 판단할 지에 관한 판단 기준을 갖도록 학습할 수 있다. 또한, 모델 학습부(2940)는 객체의 식별 또는 보정 필터의 결정을 위하여 어떤 학습 데이터를 이용해야 하는 지에 대한 선별 기준을 학습할 수도 있다.
예를 들어, 모델 학습부(2940)는 학습 이미지 내 객체들을 식별하는 판단 기준으로서 제 1 기준을 갖도록 학습할 수 있다. 여기에서, 제 1 기준은, 디바이스(10)가 뉴럴 네트워크를 이용하여, 학습 이미지로부터 학습 이미지 내의 객체를 식별하는데 이용되는 이미지 속성들의 종류, 개수 또는 수준 등을 포함할 수 있다.
다른 예에 따라, 모델 학습부(2940)는 뉴럴 네트워크를 이용하여, 학습 이미지 내 객체들 각각에 대응되는 보정 필터를 결정하는 판단 기준으로서 제 2 기준을 갖도록 학습할 수 있다. 여기에서, 제 2 기준은, 디바이스(10)가 뉴럴 네트워크를 이용하여, 학습 이미지 내의 객체들 각각에 대응되는 보정 필터들을 결정하는데 이용되는, 객체의 디스플레이 속성의 종류, 개수 또는 수준 등을 포함할 수 있다.
또한, 모델 학습부(2940)는 객체의 식별 또는 보정 필터의 결정에 이용되는 데이터 인식 모델을 학습 데이터를 이용하여 학습시킬 수 있다. 이 경우, 데이터 인식 모델은 미리 구축된 모델일 수 있다. 예를 들어, 데이터 인식 모델은 기본 학습 데이터(예를 들어, 샘플 이미지 등)을 입력 받아 미리 구축된 모델일 수 있다.
데이터 인식 모델은, 인식 모델의 적용 분야, 학습의 목적 또는 장치의 컴퓨터 성능 등을 고려하여 구축될 수 있다. 데이터 인식 모델은, 예를 들어, 신경망(Neural Network)을 기반으로 하는 모델일 수 있다. 예컨대, DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network)과 같은 모델이 데이터 인식 모델로서 사용될 수 있으나, 이에 한정되지 않는다.
다양한 실시예에 따르면, 모델 학습부(2940)는 미리 구축된 데이터 인식 모델이 복수 개가 존재하는 경우, 입력된 학습 데이터와 기본 학습 데이터의 관련성이 큰 데이터 인식 모델을 학습할 데이터 인식 모델로 결정할 수 있다. 이 경우, 기본 학습 데이터는 데이터의 타입 별로 기 분류되어 있을 수 있으며, 데이터 인식 모델은 데이터의 타입 별로 미리 구축되어 있을 수 있다. 예를 들어, 기본 학습 데이터는 학습 데이터가 생성된 지역, 학습 데이터가 생성된 시간, 학습 데이터의 크기, 학습 데이터의 장르, 학습 데이터의 생성자, 학습 데이터 내의 오브젝트의 종류 등과 같은 다양한 기준으로 기 분류되어 있을 수 있다.
또한, 모델 학습부(2940)는, 예를 들어, 오류 역전파법(error back-propagation) 또는 경사 하강법(gradient descent)을 포함하는 학습 알고리즘 등을 이용하여 데이터 인식 모델을 학습시킬 수 있다.
또한, 모델 학습부(2940)는, 예를 들어, 판단 기준의 학습을 위한 학습 데이터를 입력 값으로 하는 지도 학습(supervised learning) 을 통하여, 데이터 인식 모델을 학습시킬 수 있다. 또한, 모델 학습부(2940)는, 예를 들어, 별다른 지도 없이 객체의 식별 또는 보정 필터의 결정을 위해 필요한 데이터를 이용하여 스스로 학습함으로써, 객체의 식별 또는 보정 필터의 결정을 위한 판단 기준을 발견하는 비지도 학습(unsupervised learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다.
또한, 모델 학습부(2940)는, 예를 들어, 학습에 따른 객체의 식별 또는 보정 필터의 결정의 결과가 올바른 지에 대한 피드백을 이용하는 강화 학습(reinforcement learning)을 통하여, 데이터 인식 모델을 학습시킬 수 있다.
또한, 데이터 인식 모델이 학습되면, 모델 학습부(2940)는 학습된 데이터 인식 모델을 저장할 수 있다. 이 경우, 모델 학습부(2940)는 학습된 데이터 인식 모델을 데이터 학습부(2810)를 포함하는 디바이스(10)의 메모리에 저장할 수 있다. 또는, 모델 학습부(2940)는 학습된 데이터 인식 모델을 후술할 데이터 인식부(2820)를 포함하는 디바이스(10)의 메모리에 저장할 수 있다. 또는, 모델 학습부(2940)는 학습된 데이터 인식 모델을 디바이스(10)와 유선 또는 무선 네트워크로 연결되는 서버의 메모리에 저장할 수도 있다.
이 경우, 학습된 데이터 인식 모델이 저장되는 메모리는, 예를 들면, 디바이스(10)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 함께 저장할 수도 있다. 또한, 메모리는 소프트웨어 및/또는 프로그램을 저장할 수도 있다. 프로그램은, 예를 들면, 커널, 미들웨어, 어플리케이션 프로그래밍 인터페이스(API) 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 등을 포함할 수 있다.
모델 평가부(2950)는 데이터 인식 모델에 평가 데이터를 입력하고, 평가 데이터로부터 출력되는 인식 결과가 소정 기준을 만족하지 못하는 경우, 모델 학습부(2940)로 하여금 다시 학습하도록 할 수 있다. 이 경우, 평가 데이터는 데이터 인식 모델을 평가하기 위한 기 설정된 데이터일 수 있다. 여기에서, 평가 데이터는 데이터 인식 모델을 기반으로 식별된 객체와 실제의 객체 간의 일치 비율 및 보정 필터를 적용한 이후의 이미지의 화질 등을 포함할 수 있다.
예를 들어, 모델 평가부(2950)는 평가 데이터에 대한 학습된 데이터 인식 모델의 인식 결과 중에서, 인식 결과가 정확하지 않은 평가 데이터의 개수 또는 비율이 미리 설정된 임계치를 초과하는 경우 소정 기준을 만족하지 못한 것으로 평가할 수 있다. 예컨대, 소정 기준이 비율 2%로 정의되는 경우, 학습된 데이터 인식 모델이 총 1000개의 평가 데이터 중의 20개를 초과하는 평가 데이터에 대하여 잘못된 인식 결과를 출력하는 경우, 모델 평가부(2950)는 학습된 데이터 인식 모델이 적합하지 않은 것으로 평가할 수 있다.
한편, 학습된 데이터 인식 모델이 복수 개가 존재하는 경우, 모델 평가부(2950)는 각각의 학습된 동영상 인식 모델에 대하여 소정 기준을 만족하는지를 평가하고, 소정 기준을 만족하는 모델을 최종 데이터 인식 모델로서 결정할 수 있다. 이 경우, 소정 기준을 만족하는 모델이 복수 개인 경우, 모델 평가부(2950)는 평가 점수가 높은 순으로 미리 설정된 어느 하나 또는 소정 개수의 모델을 최종 데이터 인식 모델로서 결정할 수 있다.
한편, 데이터 학습부(2310) 내의 데이터 획득부(2910), 전처리부(2920), 학습 데이터 선택부(2930), 모델 학습부(2940) 및 모델 평가부(2950) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 디바이스(10)에 탑재될 수 있다. 예를 들어, 데이터 획득부(2910), 전처리부(2920), 학습 데이터 선택부(2930), 모델 학습부(2940) 및 모델 평가부(2950) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 디바이스(10)에 탑재될 수도 있다.
또한, 데이터 획득부(2910), 전처리부(2920), 학습 데이터 선택부(2930), 모델 학습부(2940) 및 모델 평가부(2950)는 하나의 디바이스(10)에 탑재될 수도 있으며, 또는 별개의 디바이스(10)들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(2910), 전처리부(2920), 학습 데이터 선택부(2930), 모델 학습부(2940) 및 모델 평가부(2950) 중 일부는 디바이스(10)에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(2910), 전처리부(2920), 학습 데이터 선택부(2930), 모델 학습부(2940) 및 모델 평가부(2950) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(2910), 전처리부(2920), 학습 데이터 선택부(2930), 모델 학습부(2940) 및 모델 평가부(2950) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 어플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 어플리케이션에 의해 제공될 수 있다.
도 30은 일 실시예에 따른 데이터 인식부(2820)의 블록도이다.
도 30을 참조하면, 일 실시예에 따른 데이터 인식부(2820)는 데이터 획득부(3010), 전처리부(3020), 인식 데이터 선택부(3030), 인식 결과 제공부(3040) 및 모델 갱신부(3050)를 포함할 수 있다. 다만, 이는 일 실시예일 뿐, 데이터 인식부(2820)는 전술한 구성 요소들 중 일부를 포함하거나, 전술한 구성 요소들 이외에 다른 구성 요소를 더 포함할 수도 있다.
데이터 획득부(3010)는 객체의 식별 또는 보정 필터의 결정에 필요한 데이터를 획득할 수 있으며, 전처리부(3020)는 객체의 식별 또는 보정 필터의 결정을 위해 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 전처리부(3020)는 후술할 인식 결과 제공부(3040)가 객체의 식별 또는 보정 필터의 결정을 위하여 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.
인식 데이터 선택부(3030)는 전처리된 데이터 중에서 객체의 식별 또는 보정 필터의 결정에 필요한 인식 데이터를 선택할 수 있다. 선택된 인식 데이터는 인식 결과 제공부(3040)에게 제공될 수 있다. 인식 데이터 선택부(3030)는 객체의 식별 또는 보정 필터의 결정을 위한 기 설정된 선별 기준에 따라, 전처리된 인식 데이터 중에서 일부 또는 전부를 선택할 수 있다.
인식 결과 제공부(3040)는 선택된 데이터를 데이터 인식 모델에 적용하여 상황을 판단할 수 있다. 인식 결과 제공부(3040)는 데이터의 인식 목적에 따른 인식 결과를 제공할 수 있다. 인식 결과 제공부(3040)는 인식 데이터 선택부(3030)에 의해 선택된 인식 데이터를 입력 값으로 이용함으로써, 선택된 인식 데이터를 데이터 인식 모델에 적용할 수 있다. 또한, 인식 결과는 데이터 인식 모델에 의해 결정될 수 있다.
인식 결과 제공부(3040)는 이미지에 포함된 적어도 하나의 객체의 식별 정보를 제공할 수 있다. 예를 들어, 인식 결과 제공부(3040)는 식별된 객체가 포함되는 카테고리, 식별된 객체의 명칭, 객체의 위치 정보 등에 관한 정보를 제공할 수 있다.
또한, 인식 결과 제공부(3040)는 이미지에 포함된 객체가 식별됨에 따라, 식별된 객체에 적합한 보정 필터 정보를 제공할 수 있다. 예를 들어, 인식 결과 제공부(3040)는 '개'로 식별된 객체에 적합한 보정 필터가 제 1 보정 필터, 제 2 보정 필터 및 제 6 보정 필터 임을 나타내는 정보를 텍스트 또는 이미지 등으로 제공할 수 있다. 인식 결과 제공부(3040)는 식별된 객체에 적합한 것으로 결정된 보정 필터를 이미지 내에서 객체가 포함된 영역에 적용하여, 보정된 이미지를 제공할 수 있다.
모델 갱신부(3050)는 인식 결과 제공부(3040)에 의해 제공되는 인식 결과에 대한 평가에 기초하여, 데이터 인식 모델이 갱신되도록 제어할 수 있다. 예를 들어, 모델 갱신부(3050)는 인식 결과 제공부(3040)에 의해 제공되는 인식 결과를 모델 학습부(2440)에게 제공함으로써, 모델 학습부(2440)가 데이터 인식 모델을 갱신하도록 제어할 수 있다.
한편, 데이터 인식부(2820) 내의 데이터 획득부(3010), 전처리부(3020), 인식 데이터 선택부(3030), 인식 결과 제공부(3040) 및 모델 갱신부(3050) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 디바이스(10)에 탑재될 수 있다. 예를 들어, 데이터 획득부(3010), 전처리부(3020), 인식 데이터 선택부(3030), 인식 결과 제공부(3040) 및 모델 갱신부(3050) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 디바이스(10)에 탑재될 수도 있다.
또한, 데이터 획득부(3010), 전처리부(3020), 인식 데이터 선택부(3030), 인식 결과 제공부(3040) 및 모델 갱신부(3050)는 하나의 디바이스(10)에 탑재될 수도 있으며, 또는 별개의 디바이스(10)들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(3010), 전처리부(3020), 인식 데이터 선택부(3030), 인식 결과 제공부(3040) 및 모델 갱신부(3050) 중 일부는 디바이스(10)에 포함되고, 나머지 일부는 서버에 포함될 수 있다.
또한, 데이터 획득부(3010), 전처리부(3020), 인식 데이터 선택부(3030), 인식 결과 제공부(3040) 및 모델 갱신부(3050) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(3010), 전처리부(3020), 인식 데이터 선택부(3030), 인식 결과 제공부(3040) 및 모델 갱신부(3050) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 어플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 어플리케이션에 의해 제공될 수 있다.
도 31은 도 3의 메모리(320)에 저장된 소프트웨어 구성을 설명하기 위한 도면이다.
도 31을 참조하면, 메모리(320)에는 프로세서(330)의 처리 및 제어를 위한 프로그램들(하나 이상의 인스트럭션들)을 저장할 수 있다. 메모리(320)에 저장된 프로그램들은 기능에 따라 복수 개의 모듈들로 구분될 수 있다. 일 실시예에 따라 메모리(320)는 뉴럴 네트워크 모듈(3110), 보정 필터 모듈(3120), 어플리케이션 모듈(3130) 및 터치 모듈(3140)을 포함할 수 있다.
뉴럴 네트워크 모듈(3110)은 N 개의 레이어들(3111 내지 3114) 및 풀리 커넥티드 레이어(pully connected layer)(3115)를 포함할 수 있다. 제1 내지 제 N 레이어들(3111 내지 3114)은 각각 이미지로부터 적어도 하나의 이미지 속성 및/또는 객체의 디스플레이 속성을 검출하고, 검출된 적어도 하나의 이미지 속성 및/또는 객체의 디스플레이 속성을 추상화하는 하나 이상의 인스트럭션들을 포함할 수 있다.
예를 들어, 제1 내지 제 N 레이어들(3111 내지 3114)은 각각 이미지로부터 이미지 속성 및/또는 객체의 디스플레이 속성을 검출하는 하나 이상의 인스트럭션을 포함하는 컨벌루셔널 레이어(convolutional layer), 및/또는 검출된 이미지 속성 및/또는 객체의 디스플레이 속성 중에서 대표값을 추출하는 하나 이상의 인스트럭션을 포함하는 폴링 레이어(polling layer)를 포함할 수 있다.
또한, 풀리 커넥티드 레이어 (3115)는 N 개의 레이어들(3111 내지 3114)로부터 검출된 이미지 속성 및/또는 객체의 디스플레이 속성들을 이용하여, 이미지 내의 객체들을 식별하고 식별된 객체들 각각에 대응되는 보정 필터를 결정하는 하나 이상의 인스트럭션들을 포함할 수 있다.
이때, 실시예에 따라 메모리(320)는 이미지 속성들을 이용하여 이미지 내의 객체들을 식별하는 제 1 풀리 커넥티드 레이어, 및 객체의 디스플레이 속성들을 이용하여 객체들 각각에 대응되는 보정 필터들을 결정하는 제 2 풀리 커넥티드 레이어를 포함할 수도 있다.
또한, 뉴럴 네트워크 모듈(3110)은 뉴럴 네트워크의 학습 결과 데이터(예를 들어, 이미지 속성들 및 객체의 카테고리 간의 확률 분포(연관성), 객체의 디스플레이 속성들 및 객체의 카테고리 간의 확률 분포(연관성))를 저장할 수 있다.
보정 필터 모듈(3120)은 이미지를 보정하기 위한 하나 이상의 인스트럭션을 포함할 수 있다. 프로세서(330)는 보정 필터 모듈(3120)에 저장된 하나 이상의 인스트럭션들을 이용하여, 이미지 내의 객체들 각각에 대응되는 이미지 보정을 수행할 수 있다. 또는, 프로세서(330)는 보정 필터 모듈(3120)에 저장된 하나 이상의 인스트럭션들을 이용하여, 보정 필터 구성요소(미도시)로 이미지 내의 객체들 각각을 보정하라는 신호를 전달할 수 있다.
어플리케이션 모듈(3130)은 프로세서(330)가 어플리케이션을 실행하는데 이용되는 하나 이상의 인스트럭션들, 이미지 및 음향 등을 포함할 수 있다. 예를 들어, 어플리케이션 모듈(3130)은 사진첩 어플리케이션 모듈, 메신저 어플리케이션 모듈, SNS 어플리케이션 모듈 등과 같은 다양한 프로그램 모듈을 포함할 수 있다.
터치 모듈(3140)은 디스플레이부(310)를 통해 입력되는 사용자의 터치 이벤트를 감지하고, 감지된 이벤트에 대응되는 신호를 프로세서(330)로 전달하는 하나 이상의 인스트럭션들을 포함할 수 있다. 실시예에 따라 터치 모듈(3140)은 컨트롤러를 포함하는 별도의 하드웨어로 구성될 수도 있다.
도 31 에서는 다양한 프로그램 모듈들을 도시하였으나, 도시된 각종 프로그램 모듈들은 디바이스(10)의 종류 및 특성에 따라 일부 생략되거나 변형 또는 추가될 수 있다. 예를 들어, 메모리(320)는 디바이스(10)에 포함된 각 하드웨어들로부터 프로세서(330)에 전달되는 신호 및/또는 프로세서(330)로부터 각 하드웨어들로 전달되는 신호를 저장하는 베이스 모듈, 디바이스(10)와 외부 장치 간의 네트워크 연결을 지원하기 위한 네트워크 모듈을 더 포함할 수 있다.
도 32는 디바이스가 이미지를 보정하기 위해 이용하는 뉴럴 네트워크(neural network)의 일례이다.
도 32을 참조하면, 뉴럴 네트워크(12)는 이미지로부터 객체들을 식별하기 위한 제1 내지 제3 레이어(3211, 3213 및 3215)를 포함하는 제1 네트워크(3210) 및 식별된 객체들 각각에 대응되는 보정 필터와 관련된 정보 결정하기 위한 제4 내지 제6 레이어(3221, 3223 및 3225)를 포함하는 제2 네트워크(3220)를 포함할 수 있다.
일 실시예에 따라 디바이스(10)는 제1 내지 제3 레이어(3211, 3213 및 3215)를 이용하여, 이미지로부터 적어도 하나의 이미지 속성을 검출할 수 있다. 이때, 각 레이어에서 검출되는 이미지 속성은 서로 상이할 수 있으나, 이에 제한되는 것은 아니다.
예를 들어, 디바이스(10)는 제1 내지 제3 레이어(3211, 3213 및 3215)를 이용하여 이미지로부터 색상, 엣지(edge), 폴리건(polygon), 채도(saturation), 명도(brightness), 색온도, 블러(blur), 선명도(sharpness), 명도비(contrast) 중 적어도 하나를 를 검출할 수 있다. 이 경우, 디바이스(10)는 각 레이어에서 검출되는 색상, 엣지(edge), 폴리건(polygon), 채도(saturation), 명도(brightness), 색온도, 블러(blur), 선명도(sharpness), 명도비(contrast)중 적어도 하나의 검출 수준(level)을 달리할 수 있다.
디바이스(10)는 제1 네트워크(3210)의 제1 내지 제3 레이어(3211, 3213 및 3215)를 이용한 결과 이미지들(또는, 결과 벡터)을 조합(또는, 연결)하여, 기 저장된 학습 결과를 이용하여 이미지 내의 객체를 식별할 수 있다. 또한, 디바이스(10)는 식별된 객체를 검증할 수 있다.
일 실시예에 따라 디바이스(10)는 제1 네트워크(3210)를 이용하여 식별된 객체들 각각에 대응되는 객체의 대스플레이 속성을 검출할 수 있다. 또한, 디바이스(10)는 제2 네트워크(3220)를 이용한 결과에 기초하여, 이미지 내의 객체들 각각에 대하여, 식별된 객체들 각각에 대응되는 객체의 디스플레이 속성에 따른 적어도 하나의 보정 필터를 결정할 수 있다. 또한, 디바이스(10)는 결정된 보정 필터를 검증할 수 있다.
일 실시예에 따라 디바이스(10)는 뉴럴 네트워크(12)를 이용하여 검출되는 이미지 속성 또는 객체의 디스플레이 속성은 연동되어 선택 되어질 수 있다. 예를 들어, 디바이스(10)는 뉴럴 네트워크(12)를 이용한 결과에 기초하여, 이전 레이어의 결과 이미지(또는, 결과 벡터)에 따라 다음 레이어에서 검출할 이미지 속성 또는 객체의 디스플레이 속성을 선택될 수도 있다.
한편, 디바이스(10)는 제1 내지 제6 레이어들(3211 내지 3225)을 이용하여, 이미지를 추상화할 수 있다. 예를 들어, 디바이스(10)는 이미지를 기 결정된 크기의 영역들로 구분하고, 구분된 영역들로부터 검출된 이미지 속성(또는, 객체의 디스플레이 속성)의 최대값(또는, 최소값 또는 평균값)을 추출하여 이미지 내의 객체들(또는, 객체들 각각에 대응되는 보정 필터들)을 식별 및/또는 판단하는데 이용할 수 있다. 이에 대해서는, 도 33을 참조하여 설명한다.
한편, 도 32에서는 제1 및 제2 네트워크(3210 및 3220)가 각각 세 개의 레이어를 포함하는 것으로 설명하였으나, 이에 제한되지 않는다. 예를 들어, 각 네트워크는 세 개보다 작거나 또는 더 많은 레이어를 포함할 수 있다.
또한, 도 32에서는 디바이스(10)가 제1 및 제2 네트워크(3210 및 3220)에 포함되는 레이어들을 구분하여 도시하였으나 이에 제한되지 않는다. 일 실시예에 따라 디바이스(10)는 제 1 레이어(3211), 제 2 레이어(3213) 및 제 3 레이어(3215)를 이용하여 이미지로부터 이미지 내 객체들을 식별하고, 제 4 레이어(3221), 제 5 레이어(3223) 및 제 6 레이어(3225)를 이용하여 식별된 객체들 각각에 대응되는 보정 필터를 결정할 수 있다.
도33는 도 32의 제1 네트워크(3210)의 제1 레이어(3211)를 상세히 도시한 도면이다.
도 33를 참조하면, 제1 레이어(3211)는 딥 컬벌루셔널 뉴럴 네트워크(deep convolutional neural network) 기법에 따라, 컨벌루셔널 레이어(convolutional layer)(3310) 및 풀링 레이어(pooling layer)(3320)를 포함할 수 있다.
일 실시예에 따라 컨벌루셔널 레이어(3310)는, 디바이스(10)가 제1 레이어(3211)를 이용하여, 입력 이미지(3301)의 적어도 일부 영역(3302)으로부터 기 설정된 적어도 하나의 이미지 속성을 검출하는데 이용될 수 있다. 이때, 컨벌루셔널 레이어(3310)는, 입력 이미지(3301)를 복수의 이미지로 구분하도록 구성될 수 있다. 예를 들어, 디바이스(10)는 컨벌루셔널 레이어(3310)를 이용하여 입력 이미지(3301)를 세 개의 이미지들(3311, 3312 및 3313)로 구분하고, 각 이미지로부터 R 속성, G 속성 및 B 속성을 검출할 수 있다.
일 실시예에 따라 디바이스(10)는 컨벌루셔널 레이어(3310)를 이용하여, 이미지로부터 검출된 속성에 가중치(weighted value)를 부여할 수 있다. 또한, 디바이스(10)는 컨벌루셔널 레이어(3310)를 이용하여, 이미지로부터 검출된 속성에 대해 시그모이드(sigmoid) 알고리즘에 따른 비선형(non-linear) 변환을 수행할 수 있다.
일 실시예에 따라 풀링 레이어(3320)는, 디바이스(10)가 구분된 이미지들(3311, 3312 및 3313) 각각에서 기 결정된 LxL 크기(예를 들어, 5x5 화소 크기 등) 영역(3331)을 이동시켜가며, 검출된 이미지 속성들 중에서 LxL 크기 영역(3331)을 나타내는 대표 속성값을 결정하는데 이용될 수 있다. 예를 들어, 풀링 레이어(3320)는 LxL 크기 영역(3331) 내에서 최대 속성값 또는 최소 속성값 또는 평균 속성값을 추출하도록 구성될 수 있다. 이를 통해, 디바이스(10)는 이미지를 추상화시키는 한편, 다음 레이어(예를 들어, 제2 레이어(3213))에 입력되는 이미지(3332)의 크기를 감소시킬 수 있다.
한편, 도 33에서는 도 32의 제1 레이어(3211)의 일례를 설명하였으나, 도 33의 예는 뉴럴 네트워크(12)를 구성하는 다른 레이어들에도 적용될 수 있다.
또한, 실시예에 따라 뉴럴 네트워크(12)를 구성하는 제2 레이어(3213) 또는 제5 레이어(3223)는, 폴링 레이어를 포함하지 않을 수 있다. 이 경우, 디바이스(10)는 제2 레이어(3213) 및 제5 레이어(3223)에 포함된 컨벌루셔널 레이어의 결과 이미지를 다음 레이어로 전달할 수 있다.
도 34는 도 32의 제1 네트워크(3210)를 상세히 도시한 도면이다.
도 34를 참조하면, 도 32의 제1 네트워크(3210)는 이미지로부터 검출된 속성들에 기초하여, 이미지 내의 객체를 식별 및/또는 판단하는 풀 커넥션 레이어(3410)를 더 포함할 수 있다. 풀 커넥션 레이어(3410)는 도 31의 풀리 커넥티드 레이어(3115)에 대응할 수 있다.
일 실시예에 따라 디바이스(10)는 풀 커넥션 레이어(3410)를 이용하여, 제1 네트워크(3210) 내의 제1 내지 제3 레이어(3211, 3213 및 3215)를 이용하여 검출된 이미지 속성들을 연결(또는, 조합)할 수 있다. 또한, 디바이스(10)는 풀 커넥션 레이어(3410)를 이용하여, 연결된 이미지 속성들에 확률적으로 유사한 객체의 카테고리를 결정할 수 있다.
예를 들어, 디바이스(10)는 풀 커넥션 레이어(3410)를 이용하여, 도 3의 입력 이미지 내의 객체가 '개(dog)'에 확률적으로 가장 유사하다는 결과값 및 객체의 이미지 내 위치를 획득할 수 있다.
한편, 도 33 및 도 34에서 설명된 예는, 제2 네트워크(3220)에도 적용될 수 있다. 따라서, 제2 네트워크(3220)는 풀 커넥션 레이어를 더 포함하여, 제2 네트워크(3220)에 포함된 제4 내지 제6 레이어(3221, 3223 및 3225)와 연결될 수 있다.
또는, 뉴럴 네트워크(12)는 하나의 풀 커넥션 레이어를 포함할 수도 있다. 이 경우, 풀 커넥션 레이어는 제1 및 제2 네트워크(3210 및 3220)의 제1 내지 제6 레이어들(3211 내지 3225)과 연결될 수 있다. 디바이스(10)는 풀 커넥션 레이어 및 제1 내지 제6 레이어들(3211 내지 3225) 간의 연결을 동적으로 조정함으로써, 입력 이미지로부터 이미지 내의 객체들을 식별하고, 식별된 객체들에 대응되는 보정 필터를 결정할 수 있다.
도 35는 디바이스가 제 1 네트워크 및 제 2 네트워크를 이용하여, 객체를 식별하고 보정 필터를 결정하는 기준을 학습하는 방법을 설명하는 흐름도이다.
도 35을 참조하면, 단계 s3510 에서, 디바이스(10)는 학습 이미지 및 학습 이미지 내 객체들 각각의 카테고리를 뉴럴 네트워크(12)에 입력할 수 있다. 디바이스(10)는 지도 학습 기법에 기초하여, 학습 이미지 및 학습 이미지 내 객체들 각각의 카테고리를 뉴럴 네트워크(12)에 입력할 수 있다.
예를 들어, 디바이스(10)는 학습 이미지 내의 제 1 객체의 카테고리를 나타내는 레이블(label)을 학습 이미지와 함께 뉴럴 네트워크(12)에 입력할 수 있다. 또한, 디바이스(10)는 학습 이미지 내의 제 1 객체의 위치를 뉴럴 네트워크(12)에 더 입력할 수 있다.
한편, 일 실시예에 따라 디바이스(10)는 디바이스(10)의 사용자에 의해 생성된 학습 이미지를 뉴럴 네트워크(12)에 입력할 수 있다. 사용자에 의해 생성된 학습 이미지는, 디바이스(10)가 사용자 입력에 응답하여, 캡쳐된 이미지, 보정된 이미지, 또는 외부 서버로부터 수신한 이미지 등을 포함할 수 있다. 디바이스(10)는 사용자에 의해 생성된 학습 이미지를 뉴럴 네트워크(12)에 입력함으로써, 사용자에게 보다 적합하게 뉴럴 네트워크(12)를 학습할 수 있다.
다만, 이는 일 실시예일뿐, 다른 예에 따라, 디바이스(10)는 지도 학습뿐만 아니라, 뉴럴 네트워크(12) 내에서 객체 별 이미지 속성에 대해 비지도 학습(또는, 자율 학습 또는 능동 학습)된 결과를 분석/및 또는 평가하는 동작을 반복 수행함으로써, 뉴럴 네트워크(12)를 학습시킬 수도 있다.
단계 s3520 에서, 디바이스(10)는 뉴럴 네트워크(12) 내의 제 1 네트워크를 이용하여, 학습 이미지 내 객체들을 식별하는 판단 기준으로서 제 1 기준을 갖도록 학습할 수 있다. 여기서, 제 1 기준은, 디바이스(10)가 뉴럴 네트워크(12)를 이용하여, 학습 이미지로부터 학습 이미지 내의 객체를 식별하는데 이용되는 이미지 속성들의 종류, 개수 또는 수준 등을 포함할 수 있다.
디바이스(10)는 학습 이미지로부터 검출된 이미지 속성들과, 학습 이미지 내의 객체들 간의 연관성을 분석함으로써, 제 1 기준을 갖도록 학습할 수 있다.
예를 들어, 디바이스(10)는 제 1 네트워크를 이용하여, 제 1 객체를 포함하는 X 개의 학습 이미지로부터 검출된 이미지 속성들과, 제 1 객체 간의 연관성을 분석할 수 있다. 디바이스(10)는 제 1 네트워크를 이용하여, X 개의 학습 이미지로부터 검출된 이미지 속성들 각각과, 제 1 객체에 대응되는 카테고리 간의 확률 분포를 이용하여, 이미지 속성들과 제 1 객체 간의 연관성을 분석할 수 있다.
디바이스(10)는 제 1 객체에 대응되는 카테고리에 대하여, 연관성이 상대적으로 높은(즉, 확률 분포의 밀도가 높은) 이미지 속성들의 종류, 개수 또는 수준 등을, 제1 기준으로 결정할 수 있다.
또한, 디바이스(10)는 제 1 객체에 대응되는 카테고리에 대하여, 연관성이 상대적으로 낮은(즉, 확률 분포의 밀도가 낮은) 이미지 속성들의 종류, 개수 또는 수준 등을, 제1 기준으로부터 제거할 수 있다.
구체적으로, 디바이스(10)는 제 1 네트워크를 이용하여 X개의 학습 이미지에 포함된 제 1 객체와 X개의 학습 이미지에서 추출한 이미지 속성 중에서 명도, 엣지, 색상, 선명도 등을 결정하고, 명도 값, 엣지의 형상, 색상의 설정값, 선명도 값 등을 도출하여 제 1 객체가 속한 "얼굴" 카테고리와 도출된 이미지 속성들의 확률 분포를 획득할 수 있다. 이로 인해, 디바이스(10)는 "얼굴" 카테고리가 포함된 이미지와 연관성이 상대적으로 높은 명도 값, 엣지의 형상, 색상의 설정값, 선명도 값 등을 결정할 수 있다.
디바이스(10)는 제 1 네트워크를 이용하여 "얼굴" 카테고리가 포함된 이미지와 연관성이 상대적으로 적은 이미지 속성의 종류를 제거할 수 있다. 또한, 디바이스(10)는 제 1 네트워크를 이용하여 "얼굴"카테고리가 포함된 이미지와 연관성이 상대적으로 낮은 엣지의 형상, 색상의 설정값 등을 결정할 수 있다.
디바이스(10)는 뉴럴 네트워크(12) 내의 계층적인 네트워크를 순차적으로 적용하여, 이미지와 연관성이 낮은 기준들은 제거함으로써, 이미지 내의 객체 식별에 소요되는 연산량을 줄일 수 있다.
단계 s3530 에서, 디바이스(10)는 뉴럴 네트워크(12) 내의 제 2 네트워크를 이용하여, 학습 이미지 내 객체들 각각에 대응되는 보정 필터를 결정하는 판단 기준으로서 제 2 기준을 갖도록 학습할 수 있다. 여기서, 제2 기준은, 디바이스(10)가 뉴럴 네트워크(12)를 이용하여, 학습 이미지 내의 객체들 각각에 대응되는 보정 필터들을 결정하는데 이용되는, 객체의 디스플레이 속성의 종류, 개수 또는 수준 등을 포함할 수 있다.
디바이스(10)는 학습 이미지에 포함된 객체들에 대응되는 이미지 영역으로부터 검출된 객체의 디스플레이 속성들 및 객체들 간의 연관성을 분석함으로써, 제 2 기준을 갖도록 학습할 수 있다.
예를 들어, 디바이스(10)는 제 2 네트워크를 이용하여, 제 1 객체에 대응되는 학습 이미지의 일부 영역으로부터 검출된 객체의 디스플레이 속성들과, 제 1 객체에 대응되는 카테고리 간의 확률 분포를 획득할 수 있다. 디바이스(10)는 획득된 확률 분포를 이용하여, 객체의 디스플레이 속성들과 제 1 객체에 대응되는 카테고리 간의 연관성을 분석할 수 있다.
디바이스(10)는 제 1 객체에 대응되는 카테고리에 대하여, 연관성이 상대적으로 높은(즉, 확률 분포의 밀도가 높은) 객체의 디스플레이 속성들의 종류, 개수 또는 수준 등을, 제 2 기준으로 결정할 수 있다.
또한, 디바이스(10)는 제 1 객체에 대응되는 카테고리에 대하여, 연관성이 상대적으로 낮은(즉, 확률 분포의 밀도가 낮은) 디스플레이 속성들의 종류, 개수 또는 수준 등을, 제 2 기준으로부터 제거할 수 있다.
구체적으로, 디바이스(10)는 제 1 객체가 속한 카테고리가 "얼굴"에 해당하는 경우, 객체의 디스플레이 속성 중에서 명도, 엣지, 색온도, 선명도 등의 설정값들을 도출할 수 있다. 디바이스(10)는 제 2 네트워크를 이용하여 "얼굴" 카테고리와 명도 값, 엣지의 형상, 색온도 값, 선명도 값 등의 설정값 간의 확률 분포를 획득할 수 있다. 이로 인해, 디바이스(10)는 "얼굴" 카테고리에 대하여 연관성이 상대적으로 높은 명도 값, 엣지의 형상, 색온도 값, 선명도 값 등을 가지는 보정 필터를 결정할 수 있다.
또한, 디바이스(10)는 제 2 네트워크를 이용하여 "얼굴" 카테고리에 대하여 연관성이 상대적으로 낮은 객체의 디스플레이 속성의 종류를 제거할 수 있다. 또한, 디바이스(10)는 제 2 네트워크를 이용하여 "얼굴" 카테고리에 대하여 연관성이 상대적으로 낮은 명도 값, 엣지의 형상, 색온도 값, 선명도 값 등을 가지는 보정 필터를 결정할 수 있다.
도 36은 디바이스가 뉴럴 네트워크를 학습하는 일례이다.
도 36을 참조하면, 디바이스(10)는 객체들의 카테고리가 정해진 학습 이미지들(3610)을 뉴럴 네트워크(12)에 입력할 수 있다.
일 실시예에 따른 디바이스(10)는 뉴럴 네트워크(12)의 제1 네트워크(3620)를 이용하여, 학습 이미지들(3610)로부터 이미지 속성들을 검출하고, 검출된 이미지 속성들과 학습 이미지들(3610) 내에 포함된 객체들의 카테고리들 간의 확률 분포(3621)를 획득할 수 있다.
일 실시예에 따라 디바이스(10)는 제1 네트워크(3620)를 이용하여, 획득된 확률 분포(3621)를 정규화(또는, 추상화)할 수 있다.
디바이스(10)는 제1 네트워크(3620)를 이용하여, 학습 이미지들(3610)의 이미지 속성들과 학습 이미지들(3610)에 포함된 객체들의 카테고리 간의 연관성을 분석함으로써, 제 1 기준(3662)을 갖도록 학습할 수 있다.
일 실시예에 따른 디바이스(10)는 뉴럴 네트워크(12)의 제2 네트워크(3630)를 이용하여, 객체들에 대응되는 학습 이미지들(3610)의 일부 영역으로부터 객체의 디스플레이 속성들을 검출할 수 있다. 또한, 디바이스(10)는 검출된 객체의 디스플레이 속성들과 학습 이미지들(3610) 내에 포함된 객체들의 카테고리들 간의 확률 분포(3631)를 획득할 수 있다.
일 실시예에 따라 디바이스(10)는 제2 네트워크(3630)를 이용하여, 획득된 확률 분포(3631)를 정규화(또는, 추상화)할 수 있다.
디바이스(10)는 제2 네트워크(3630)를 이용하여, 학습 이미지들(3610) 내에 객체들에 대응되는 객체의 디스플레이 속성들과 학습 이미지들(3610) 내에 포함된 객체들의 카테고리 간의 연관성을 분석함으로써, 제2 기준(3632)을 갖도록 학습할 수 있다.
도 37은 디바이스(10)가 이미지(3710) 내에 포함된 복수의 객체(3711, 3712)를 식별하기 위해 이미지 속성을 선택하는 방법을 설명하기 위한 도면이다.
도 37을 참조하면, 디바이스(10)는 이미지(3710) 내에서 식별하고자 하는 복수의 객체(3711, 3712)의 종류에 따라 서로 다른 데이터 셋(3720, 3730)을 이용하여 뉴럴 네트워크(3740, 1550)를 학습 시킬 수 있다. 또한, 디바이스(10)는 복수의 객체(3711, 3712) 중에서 배경에 대응되는 객체(3711)를 식별하기 위한 제 1 뉴럴 네트워크(3740) 및 배경이 아닌 객체(3712)를 식별하기 위한 제 2 뉴럴 네트워크(3750)를 각각 상이하게 학습 시킬 수 있다.
구체적으로, 디바이스(10)는 산, 바다, 강, 호수 등 배경에 관한 데이터 셋(3720)을 이용하여 적어도 하나의 레이어로 구성된 제 1 뉴럴 네트워크(3740)를 학습 시킬 수 있다. 여기에서, 제 1 뉴럴 네트워크(3740)를 구성하는 복수의 레이어 각각은 배경을 식별하는데 적합한 이미지 속성을 검출하도록 학습될 수 있다.
또한, 디바이스(10)는 개, 고양이, 사람 등 배경이 아닌 객체에 관한 데이터 셋(3730)을 이용하여, 적어도 하나의 레이어로 구성된 제 2 뉴럴 네트워크(3750)를 학습 시킬 수 있다. 여기에서, 제 2 뉴럴 네트워크(3750)를 구성하는 복수의 레이어 각각은 배경이 아닌 객체를 식별하는데 적합한 이미지 속성을 검출하도록 학습될 수 있다.
다만, 이는 일 실시예일 뿐, 복수의 객체 중에서 배경에 대응되는 객체 및 배경이 아닌 객체를 식별하기 위한 뉴럴 네트워크가 하나의 뉴럴 네트워크로서 학습될 수도 있다.
디바이스(10)는 제 1 뉴럴 네트워크(3740) 및 제 2 뉴럴 네트워크(3750)를 각각 이용하여 이미지(3710)에 포함된 복수의 객체(3711, 3712)를 식별한 결과, 복수의 객체(3711, 3712)는 각각 숲과 고양이 임을 식별할 수 있다.
도 38은 일 실시예에 따라 디바이스의 구성을 상세히 도시한 도면이다.
도 38을 참조하면, 일 실시예에 따른 디바이스(3800)는 도 3의 디스플레이부(310), 메모리(320) 및 프로세서(330)에 대응되는 출력부(3820), 메모리(3870) 및 프로세서(3830) 이외에, 사용자 입력부(3810), 센싱부(38400), 통신부(3850), A/V 입력부(3860)를 더 포함할 수 있다.
사용자 입력부(3810)는 사용자가 디바이스(3800)를 제어하기 위한 데이터를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력부(3810)에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.
일 실시예에 따라 사용자 입력부(3810)는 터치 패드를 이용하여, 화면에 디스플레이된 이미지 내의 객체들 중에서 하나를 터치하는 사용자 입력을 수신할 수 있다.
출력부(3820)는 오디오 신호 또는 비디오 신호 또는 진동 신호를 출력할 수 있으며, 출력부(3820)는 디스플레이부(3821), 음향 출력부(3822), 및 진동 모터(3823)를 포함할 수 있다.
디스플레이부(3821)는 디바이스(3800)에서 처리되는 정보를 표시 출력한다. 디스플레이부(3821)와 터치 패드가 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이부(3821)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 한편, 디스플레이부(3821)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전기영동 디스플레이(electrophoretic display), 투명 디스플레이 중에서 적어도 하나를 포함할 수 있다.
음향 출력부(3822)는 통신부(3850)로부터 수신되거나 메모리(3870)에 저장된 오디오 데이터를 출력한다. 진동 모터(3823)는 진동 신호를 출력할 수 있다.
프로세서(3830)는 통상적으로 디바이스(3800)의 전반적인 동작 및 디바이스(1000)의 내부 구성 요소들 사이의 신호 흐름을 제어하고, 데이터를 처리하는 기능을 수행한다. 예를 들어, 프로세서(3830)는, 메모리(3870)에 저장된 프로그램들(하나 이상의 인스트럭션들)을 실행함으로써, 사용자 입력부(3810), 출력부(3820), 센싱부(3840), 통신부(3850), A/V 입력부(3860) 등을 전반적으로 제어할 수 있다.
일 실시예에 따라 프로세서(3830)는, 상술한 디바이스(3800)의 기능을 수행하기 위하여, 뉴럴 네트워크를 이용하여 이미지로부터 이미지 내의 객체들을 식별하고, 식별된 객체들 각각에 대응되는 보정 필터들을 결정함으로써, 이미지 내 객체들 각각을 보정하도록 디바이스(10)의 구성 요소들을 제어할 수 있다. 프로세서(3830)는 도 3의 프로세서(330)에 대응되므로, 자세한 설명은 생략한다.
센싱부(3840)는 디바이스(3800)의 상태 또는 디바이스(3800) 주변의 상태를 감지하고, 감지된 정보를 제어부(1300)로 전달할 수 있다. 센싱부(3840)는 지자기 센서(Magnetic sensor), 가속도 센서(Acceleration sensor), 온/습도 센서, 적외선 센서, 자이로스코프 센서, 위치 센서(예컨대, GPS), 기압 센서, 근접 센서, 및 RGB 센서(illuminance sensor) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. 각 센서들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있으므로, 구체적인 설명은 생략하기로 한다.
통신부(3850)는 외부 서버(예를 들어, SNS 서버, 클라우드 서버, 콘텐트 제공 서버 등) 및 기타 외부 장치와 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 통신부(3850)는 근거리 통신부(3851), 이동 통신부(3852), 방송 수신부(3853)를 포함할 수 있다.
근거리 통신부(short-range wireless communication unit)(3851)는, 블루투스 통신부, BLE(Bluetooth Low Energy) 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다.
이동 통신부(3852)는 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
방송 수신부(3853)는 방송 채널을 통하여 외부로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 실시예에 따라서 디바이스(3800)가 방송 수신부(3853)를 포함하지 않을 수도 있다.
일 실시예에 따라 통신부(3850)는 외부 서버로부터 이미지를 수신하고, 수신된 이미지를 프로세서(3830)로 제공할 수 있다.
A/V(Audio/Video) 입력부(3860)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(3861)와 마이크로폰(3862) 등이 포함될 수 있다.
카메라(3861)는 카메라 인식 범위에서 이미지를 캡처한다. 일 실시예에 따라 카메라(3861)에 의해 캡처된 이미지는, 프로세서(3830)에 의해 이미지 처리되어 디스플레이부(3821)를 통해 표시 출력될 수 있다.
메모리(3870)는 프로세서(3830)의 처리 및 제어를 위한 프로그램들(하나 이상의 인스트럭션들)을 저장할 수 있고, 디바이스(3800)로 입력되거나 디바이스(3800)로부터 출력되는 데이터를 저장할 수도 있다. 메모리(3870)에 저장된 프로그램들은 도 3을 참조하여 전술한 프로그램과 대응될 수 있다.
메모리(3870)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈(3871), 터치 스크린 모듈(3872), 알림 모듈(3873) 등으로 분류될 수 있다.
UI 모듈(3871)은, 어플리케이션 별로 디바이스(3800)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈(3872)은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 프로세서(3830)로 전달할 수 있다. 본 발명의 일 실시예에 따른 터치 스크린 모듈(3872)은 터치 코드를 인식하고 분석할 수 있다. 터치 스크린 모듈(3872)은 컨트롤러를 포함하는 별도의 하드웨어로 구성될 수도 있다.
터치스크린의 터치 또는 근접 터치를 감지하기 위해 터치스크린의 내부 또는 근처에 다양한 센서가 구비될 수 있다. 터치스크린의 터치를 감지하기 위한 센서의 일례로 촉각 센서가 있다. 촉각 센서는 사람이 느끼는 정도로 또는 그 이상으로 특정 물체의 접촉을 감지하는 센서를 말한다. 촉각 센서는 접촉면의 거칠기, 접촉 물체의 단단함, 접촉 지점의 온도 등의 다양한 정보를 감지할 수 있다.
또한, 터치스크린의 터치를 감지하기 위한 센서의 일례로 근접 센서가 있다.
근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 사용자의 터치 제스처에는 탭, 터치&홀드, 더블 탭, 드래그, 패닝, 플릭, 드래그 앤드 드롭, 스와이프 등이 있을 수 있다.
알림 모듈(3873)은 디바이스(3800)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다. 디바이스(3800)에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 일정 알림 등이 있다. 알림 모듈(3873)은 디스플레이부(3821)를 통해 비디오 신호 형태로 알림 신호를 출력할 수도 있고, 음향 출력부(3822)를 통해 오디오 신호 형태로 알림 신호를 출력할 수도 있고, 진동 모터(3823)를 통해 진동 신호 형태로 알림 신호를 출력할 수도 있다.메모리(3870)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM), SRAM(Static Random Access Memory), 롬(ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
한편, 도 1 내지 38에 도시된 디바이스(10, 400, 3800)의 구성은 일 실시예이며, 디바이스(10, 400, 3800)의 각 구성요소는 구현되는 디바이스(10, 400, 3800)의 사양에 따라 통합, 추가, 또는 생략될 수 있다. 즉, 필요에 따라 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나, 혹은 하나의 구성요소가 2 이상의 구성요소로 세분되어 구성될 수 있다. 또한, 각 구성(또는, 모듈)에서 수행하는 기능은 실시예들을 설명하기 위한 것이며, 그 구체적인 동작이나 장치는 본 발명의 권리범위를 제한하지 아니한다.
도 39는 다른 실시예에 따라 디바이스가 이미지를 보정하는 예시를 나타내는 개요도이다.
도 39를 참조하면, 다른 실시예에 따라 디바이스(10)는 서버(20)에 구비된 뉴럴 네트워크(22)를 이용하여 이미지를 보정할 수 있다.
다른 실시예에 따라 디바이스(10)는 이미지(3910)를 서버(20)로 전송하고, 보정된 이미지(3920)를 수신할 수 있다. 서버(20)는 뉴럴 네트워크(22)를 이용하여, 디바이스(10)로부터 수신된 이미지(3910) 내의 객체들을 식별하고, 식별된 객체들 각각에 대응되는 보정 필터들을 결정할 수 있다. 또한, 서버(20)는 결정된 보정 필터들을 이용하여 이미지(3910) 내의 객체들 각각을 보정한 후, 보정된 이미지(3920)를 디바이스(10)로 전송할 수 있다.
또는, 서버(20)는 뉴럴 네트워크(22)를 이용하여 결정된 보정 필터들에 대한 정보를 디바이스(10)로 전송할 수 있다. 이 경우, 디바이스(10)는 서버(20)로부터 수신된 보정 필터들에 대한 정보를 이용하여, 이미지(3910) 내의 객체들 각각을 보정함으로써, 보정된 이미지를 생성할 수 있다.
한편, 서버(20)는 클라이언트 디바이스들에게 서비스를 제공하는 컴퓨팅 장치일 수 있으며, 예를 들어, PC, 랩톱, 휴대폰, 마이크로 서버, GPS(global positioning system) 장치, 전자책 단말기, 가전기기, 자동차 내의 전자 장치 및 기타 모바일 또는 비모바일 컴퓨팅 장치일 수 있다. 그러나, 이에 제한되지 않으며, 서버(20)는 통신 기능 및 데이터 프로세싱 기능을 구비한 모든 종류의 기기를 포함할 수 있다.
또한, 디바이스(10)는 서버(20)와 네트워크를 통해 통신 연결될 수 있다. 이 경우, 네트워크는 근거리 통신망(Local Area Network; LAN), 광역 통신망(Wide Area Network; WAN), 부가가치 통신망(Value Added Network; VAN), 이동 통신망(mobile radio communication network), 위성 통신망 및 이들의 상호 조합을 포함할 수 있으며, 디바이스(10) 및 서버(20)가 서로 원활하게 통신을 할 수 있도록 하는 포괄적인 의미의 데이터 통신망이며, 유선 인터넷, 무선 인터넷 및 모바일 무선 통신망을 포함할 수 있다.
도 40은 일 실시예에 따른 디바이스(10)와 서버(20)가 이미지에 포함된 적어도 하나의 객체에 보정 필터를 적용하는 방법을 설명하는 흐름도이다.
단계 s4010 에서, 디바이스(10)는 복수의 객체를 포함하는 이미지를 획득한다. 예를 들어, 디바이스(10)는 디바이스(10)에서 사진첩 어플리케이션, 이미지 편집 어플리케이션 등이 실행됨에 따라 저장된 이미지를 독출할 수 있다. 또한, 다른 예에 따라, 디바이스(100)는 외부 서버(예를 들어, SNS 서버, 클라우드 서버, 콘텐트 제공 서버 등)로부터 이미지를 다운로드하거나, 카메라를 이용하여 이미지를 캡쳐할 수 있다.
단계 s4020 에서, 디바이스(10)는 획득된 이미지를 뉴럴 네트워크(22)를 구비한 서버(20)로 전송한다.
단계 s4030 에서, 서버(20)는 뉴럴 네트워크(22)를 이용한 학습 결과에 기초하여, 이미지 내의 객체들을 식별하고 식별된 객체들 각각에 대응되는 보정 필터들을 결정할 수 있다.
서버(20)는 뉴럴 네트워크(22)에 이미지를 입력함으로써, 이미지로부터 적어도 하나의 이미지 속성들을 검출하고, 검출된 이미지 속성들에 기초하여 이미지 내의 객체들 각각의 위치 및/또는 객체들 각각의 카테고리를 결정할 수 있다. 또한, 서버(20)는 뉴럴 네트워크(12)를 이용하여, 식별된 객체들에 대응되는 이미지 영역으로부터 객체의 디스플레이 속성들을 검출하고, 검출된 객체의 디스플레이 속성들에 기초하여 객체들 각각에 대응되는 보정 필터들을 결정할 수 있다. 뉴럴 네트워크(22)의 구조 및 기능에 대해서는, 도 31내지 도 35의 실시예가 적용될 수 있으므로, 자세한 설명은 생략한다.
단계 s4040 에서, 디바이스(10)는, 서버(20)로부터, 이미지로부터 식별된 객체들에 대한 정보 및 객체들 각각에 대응되는 보정 필터들에 대한 정보를 수신한다.
단계 s4050 에서, 디바이스(10)는 서버(20)로부터 수신된 정보에 기초하여, 이미지 내의 복수의 객체를 각각 보정한다. 디바이스(10)는 이미지 내의 객체들 각각에 대응되는 보정 필터들을 이용하여, 이미지를 보정할 수 있다.
예를 들어, 디바이스(10)는 이미지 내의 제1 객체에 대하여, 제1 보정 필터를 적용하고, 이미지 내의 제2 객체에 대하여 제2 보정 필터를 적용할 수 있다. 또는, 디바이스(10)는 이미지 내의 제1 및 제2 객체에 대하여 제1 보정 필터를 적용할 수도 있다. 이 경우, 이미지 내의 제1 및 제2 객체 각각에 적용되는 제1 보정 필터의 파라미터는 상이할 수 있다.
도 41은 일 실시예에 따른 디바이스(10) 및 서버(20)가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
단계 s4110에서, 디바이스(10)는 디스플레이부(420)를 통해 프리뷰 이미지를 표시할 수 있다.
디바이스(10)는 카메라 어플리케이션이 실행됨에 따라, 디스플레이부(420)를 통해, 디바이스(400)에서 감지되는 적어도 하나의 객체를 포함한 프리뷰 이미지를 표시할 수 있다.
단계 s4120에서, 디바이스(10)는 카메라(미도시)를 통해 적어도 하나의 객체를 촬영하여, 이미지를 획득할 수 있다.
디바이스(10)는 촬영 요청이 수신되는 경우, 카메라(미도시)를 통해 촬영 요청이 수신된 시점에 감지된 적어도 하나의 객체를 촬영할 수 있다.
단계 s4130에서, 디바이스(10)는 메모리(430)를 통해 획득된 이미지를 저장할 수 있다.
단계 s4140에서, 디바이스(10)는 서버(20)에 저장된 이미지에 포함된 적어도 하나의 객체를 식별할 것을 요청할 수 있다.
예를 들어, 디바이스(10)는 서버(20)에 저장된 이미지를 포함한 객체 식별 요청 신호를 서버(20)에 전송할 수 있다. 다른 예에 따라, 디바이스(10)는 이미지가 저장된 메모리(430)의 위치에 대한 식별자를 포함한 객체 식별 요청 신호를 서버(20)에 전송할 수도 있다.
단계 s4150에서, 서버(20)는 뉴럴 네트워크를 이용하여 저장된 이미지에 포함된 적어도 하나의 객체를 식별할 수 있다.
한편, 단계 s4140은 도 2를 참조하여 전술한 단계 s220의 이미지에 포함된 적어도 하나의 객체를 식별하는 방법과 대응될 수 있다.
단계 s4160에서, 서버(20)는 식별된 적어도 하나의 객체에 대한 정보를 디바이스(10)에 전송할 수 있다.
단계 s4170에서, 디바이스(10)는 이미지에 포함된 식별된 적어도 하나의 객체 각각에 적용할 보정 필터를 결정할 수 있다.
한편, 단계 s4170은 도 2를 참조하여 전술한 단계 s230의 객체 각각에 대한 보정 필터를 결정하는 방법과 대응될 수 있다.
단계 s4180에서, 디바이스(10)는 이미지에 포함된 적어도 하나의 객체에 각각 보정 필터를 적용할 수 있다. 여기에서, 단계 s4180은 도 2를 참조하여 전술한 단계 s240과 대응될 수 있다.
단계 s4190에서, 디바이스(10)는 메모리(430)를 통해 보정 필터가 적용된 이미지를 저장할 수 있다.
단계 S4195에서, 디바이스(10)는 디스플레이부(420)를 통해 보정 필터가 적용된 이미지를 표시할 수 있다. 예를 들어, 디바이스(10)는 사용자 입력에 기반하여 촬영 되거나 저장된 이미지를 표시하는 사진첩 어플리케이션이 실행됨에 따라, 디스플레이부(420)를 통해, 보정 필터가 적용된 이미지를 표시할 수 있다.
도 42는 다른 일 실시예에 따라 디바이스(10) 및 서버(20)가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
본 실시예에서, 디바이스(10)에 포함된 제 1 프로세서 및 제 2 프로세서는 도 4를 참조하여 전술한 제 1 프로세서(410) 및 제 2 프로세서(420)와 각각 대응될 수 있다.
단계 s4205에서, 제 1 프로세서는 디스플레이부를 통해 프리뷰 이미지를 표시할 수 있다. 제 1 프로세서는 카메라 어플리케이션이 실행됨에 따라, 디스플레이부를 통해, 디바이스(10)에서 감지되는 적어도 하나의 객체를 포함한 프리뷰 이미지를 표시할 수 있다.
단계 s4210에서, 제 1 프로세서는 카메라(미도시)를 통해 적어도 하나의 객체를 촬영하여, 이미지를 획득할 수 있다.
단계 s4215에서, 제 1 프로세서는 메모리를 통해 획득된 이미지를 저장할 수 있다.
단계 s4220에서, 제 1 프로세서는 서버(20)에 저장된 이미지에 포함된 적어도 하나의 객체를 식별할 것을 요청할 수 있다.
단계 s4225에서, 서버(20)는 뉴럴 네트워크를 이용하여 저장된 이미지에 포함된 적어도 하나의 객체를 식별할 수 있다.
한편, 단계 s4225는 도 2를 참조하여 전술한 단계 s220의 이미지에 포함된 적어도 하나의 객체를 식별하는 방법과 대응될 수 있다.
단계 s4230에서, 서버(20)는 식별된 적어도 하나의 객체에 대한 정보를 제 2 프로세서에 전송할 수 있다.
단계 s4235에서, 제 2 프로세서는 뉴럴 네트워크를 이용하여 이미지 내의 식별된 적어도 하나의 객체 각각에 적용할 보정 필터를 결정할 수 있다.
한편, 단계 s4235는 도 2를 참조하여 전술한 단계 s230의 식별된 객체에 대해 보정 필터를 결정하는 방법과 대응될 수 있다.
단계 s4240에서, 제 2 프로세서는 식별된 적어도 하나의 객체 각각에 대해 결정된 보정 필터 정보를 제 1 프로세서에 전송할 수 있다.
단계 s4245에서, 제 1 프로세서는 이미지 내의 식별된 적어도 하나의 객체에 각각 결정된 보정 필터를 적용할 수 있다.
단계 s4250에서, 제 1 프로세서는 메모리를 통해 보정 필터가 적용된 이미지를 저장할 수 있다.
단계 S4255에서, 제 1 프로세서는 디스플레이부(420)를 통해 보정 필터가 적용된 이미지를 표시할 수 있다. 예를 들어, 제 1 프로세서는 사용자 입력에 기반하여 촬영 되거나 저장된 이미지를 표시하는 사진첩 어플리케이션이 실행됨에 따라, 디스플레이부(420)를 통해, 보정 필터가 적용된 이미지를 표시할 수 있다.
도 43은 다른 실시예에 따라 디바이스(10), 제 1 서버(30) 및 제 2 서버(40)가 촬영 시 획득된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
본 실시예에서, 디바이스(10)에 포함된 제 1 프로세서 및 제 2 프로세서는 도 4를 참조하여 전술한 제 1 프로세서(410) 및 제 2 프로세서(420)와 각각 대응될 수 있다.
한편, 단계 s4305 내지 단계 s4315는 도 42를 참조하여 전술한 단계 s4205 내지 단계 s4315와 대응될 수 있다.
단계 s4320에서, 제 1 프로세서는 제 1 서버(30)에 저장된 이미지에 포함된 적어도 하나의 객체를 식별할 것을 요청할 수 있다.
단계 s4325에서, 제 1 서버(30)는 뉴럴 네트워크를 이용하여 저장된 이미지에 포함된 적어도 하나의 객체를 식별할 수 있다.
한편, 단계 s4325는 도 2를 참조하여 전술한 단계 s220의 이미지에 포함된 적어도 하나의 객체를 식별하는 방법과 대응될 수 있다.
단계 s4330에서, 제 1 서버(30)는 식별된 적어도 하나의 객체에 대한 정보를 제 2 서버(40)에 전송할 수 있다.
단계 s4335에서, 제 2 서버(40)는 뉴럴 네트워크를 이용하여 이미지 내의 식별된 적어도 하나의 객체 각각에 적용할 보정 필터를 결정할 수 있다.
단계 s4340에서, 제 2 서버(40)는 식별된 적어도 하나의 객체 각각에 대해 결정된 보정 필터 정보를 제 1 프로세서에 전송할 수 있다.
또한, 단계 s4345 내지 단계 s4355는 도 42를 참조하여 전술한 단계 s4245 내지 단계 s4255와 대응될 수 있다.
도 44는 일 실시예에 따라 디바이스(10) 및 서버(20)가 프리뷰 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
본 실시예에서, 디바이스(10)에 포함된 제 1 프로세서 및 제 2 프로세서는 도 4를 참조하여 전술한 제 1 프로세서(410) 및 제 2 프로세서(420)와 각각 대응될 수 있다.
단계 s4410에서, 제 1 프로세서는 카메라를 통해 프리뷰 이미지를 획득할 수 있다. 제 1 프로세서는 카메라 어플리케이션이 실행됨에 따라, 카메라를 통해, 실시간으로 프리뷰 이미지를 획득할 수 있다.
단계 s4420에서, 제 1 프로세서는 제 2 프로세서에 프리뷰 이미지에 포함된 적어도 하나의 객체에 대한 식별 요청을 전송할 수 있다.
단계 s4430에서, 제 2 프로세서는 뉴럴 네트워크를 이용하여, 프리뷰 이미지에 포함된 적어도 하나의 객체를 식별할 수 있다.
단계 s4440에서, 제 2 프로세서는 식별된 적어도 하나의 객체에 대한 정보를 서버(20)에 전송할 수 있다.
단계 s4450에서, 서버(20)는 뉴럴 네트워크를 이용하여 이미지 내의 식별된 적어도 하나의 객체 각각에 적용할 보정 필터를 결정할 수 있다.
단계 s4460에서, 서버는 식별된 적어도 하나의 객체 각각에 대해 결정된 보정 필터 정보를 제 1 프로세서에 전송할 수 있다.
단계 s4470에서, 제 1 프로세서는 이미지 내의 식별된 적어도 하나의 객체에 각각 결정된 보정 필터를 적용할 수 있다.
단계 s4480에서, 제 1 프로세서는 디스플레이부를 통해 보정 필터가 적용된 이미지를 표시할 수 있다.
도 45는 일 실시예에 따라 디바이스(10) 및 서버(20)가 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
본 실시예에서, 디바이스(10)에 포함된 제 1 프로세서 및 제 2 프로세서는 도 4를 참조하여 전술한 제 1 프로세서(410) 및 제 2 프로세서(420)와 각각 대응될 수 있다.
단계 s4510에서, 제 1 프로세서는 디스플레이부를 통해 저장된 이미지를 표시할 수 있다. 예를 들어, 제 1 프로세서는 사진첩 어플리케이션 또는 이미지 편집 어플리케이션 등이 실행됨에 따라, 디스플레이부를 통해 저장된 이미지를 표시할 수 있다.
또한, 단계 s4520 내지 단계 s4570은 도 44를 참조하여 전술한 단계 s4420 내지 단계 s4470과 대응될 수 있다.
단계 s4580에서, 제 1 프로세서는 메모리를 통해 보정 필터가 적용된 이미지를 저장할 수 있다.
단계 S4590에서, 제 1 프로세서는 디스플레이부를 통해 보정 필터가 적용된 이미지를 표시할 수 있다. 예를 들어, 제 1 프로세서는 사용자 입력에 기반하여 촬영 되거나 저장된 이미지를 표시하는 사진첩 어플리케이션이 실행됨에 따라, 디스플레이부를 통해, 보정 필터가 적용된 이미지를 표시할 수 있다.
도 46은 다른 실시예에 따라 디바이스(10) 및 서버(20)가 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
본 실시예에서, 디바이스(10)에 포함된 제 1 프로세서 및 제 2 프로세서는 도 4를 참조하여 전술한 제 1 프로세서(410) 및 제 2 프로세서(420)와 각각 대응될 수 있다.
한편, 단계 s4610은, 도 45를 참조하여 전술한 단계 s4510과 대응될 수 있다.
단계 s4620에서, 제 1 프로세서는 서버(20)에 표시된 이미지에 포함된 적어도 하나의 객체에 대한 식별 요청을 전송할 수 있다.
단계 s4630에서, 서버(20)는 뉴럴 네트워크를 이용하여, 이미지에 포함된 적어도 하나의 객체를 식별할 수 있다.
단계 s4640에서, 서버(20)는 뉴럴 네트워크를 이용하여 이미지 내의 식별된 적어도 하나의 객체 각각에 적용할 보정 필터를 결정할 수 있다.
단계 s4650에서, 서버(20)는 식별된 적어도 하나의 객체 각각에 대해 결정된 보정 필터 정보를 제 1 프로세서에 전송할 수 있다.
또한, 단계 s4660 내지 단계 s4680은 도 45를 참조하여 전술한 단계 s4570 내지 단계 s4590과 대응될 수 있다.
도 47은 일 실시예에 따라 디바이스(10), 제 1 서버(30) 및 제 2 서버(40)가 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
단계 s4710에서, 디바이스(10)는 디스플레이부를 통해 저장된 이미지를 표시할 수 있다. 예를 들어, 디바이스(10)는 사진첩 어플리케이션 또는 이미지 편집 어플리케이션 등이 실행됨에 따라, 디스플레이부를 통해 저장된 이미지를 표시할 수 있다.
단계 s4720에서, 디바이스는 제 1 서버(30)에 표시된 이미지에 포함된 적어도 하나의 객체에 대한 식별 요청을 전송할 수 있다.
단계 s4730에서, 제 1 서버(30)는 뉴럴 네트워크를 이용하여, 프리뷰 이미지에 포함된 적어도 하나의 객체를 식별할 수 있다.
단계 s4740에서, 제 1 서버(30)는 식별된 적어도 하나의 객체에 대한 정보를 제 2 서버(40)에 전송할 수 있다.
단계 s4750에서, 제 2 서버(40)는 뉴럴 네트워크를 이용하여 이미지 내의 식별된 적어도 하나의 객체 각각에 적용할 보정 필터를 결정할 수 있다.
단계 s4760에서, 제 2 서버(40)는 식별된 적어도 하나의 객체 각각에 대해 결정된 보정 필터 정보를 디바이스(10)에 전송할 수 있다.
또한, 단계 s4770 내지 단계 4790은 도 46을 참조하여 전술한 단계 S4660 내지 S4680에 대응될 수 있다.
도 48은 일 실시예에 따라 디바이스(10), 클라우드 서버(50) 및 서버(20)가 클라우드 서버(50)에 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
단계 s4805에서, 디바이스(10)는 디스플레이부를 통해 이미지를 표시할 수 있다. 예를 들어, 디바이스(10)는 카메라 어플리케이션, 사진첩 어플리케이션 또는 이미지 편집 어플리케이션 등이 실행됨에 따라, 디스플레이부를 통해 이미지를 표시할 수 있다.
단계 s4810에서, 디바이스(10)는 클라우드 서버(50)에 표시된 이미지를 전송할 수 있다. 예를 들어, 디바이스(10)는 클라우드 서버(50)에 이미지를 저장하기 위해, 클라우드 서버(50)에 이미지를 전송할 수 있다.
단계 s4815에서, 클라우드 서버(50)는 디바이스(10)로부터 수신한 이미지를 저장할 수 있다.
단계 s4820에서, 디바이스(10)는 클라우드 서버(50)에 저장된 이미지에 포함된, 적어도 하나의 객체에 대한 식별 요청을 서버(20)에 전송할 수 있다.
단계 s4825에서, 서버(20)는 클라우드 서버(50)에 객체 식별을 위한 이미지를 요청할 수 있다.
단계 s4830에서, 클라우드 서버(50)는 서버(20)의 요청에 따라 저장된 이미지를 서버(20)에 전송할 수 있다.
단계 s4835에서, 서버(20)는 뉴럴 네트워크를 이용하여, 프리뷰 이미지에 포함된 적어도 하나의 객체를 식별할 수 있다.
단계 s4840에서, 서버(20)는 뉴럴 네트워크를 이용하여 이미지 내의 식별된 적어도 하나의 객체 각각에 적용할 보정 필터를 결정할 수 있다.
단계 s4845에서, 서버(20)는 식별된 적어도 하나의 객체 각각에 대해 결정된 보정 필터 정보를 디바이스(10)에 전송할 수 있다.
또한, 단계 s4850 내지 단계 s4860은 도 47을 참조하여 단계 s4770 내지 s4790에 대응될 수 있다.
도 49는 일 실시예에 따라 디바이스(10), 제 1 서버(30) 및 제 2 서버(40)가 클라우드 서버(50)에 저장된 이미지 내의 객체를 보정하는 방법을 설명하기 위한 흐름도이다.
한편, 단계 s4905 내지 단계 s4915는 도 48을 참조하여 전술한 단계 s4805 내지 단계 s4815와 대응될 수 있다.
단계 s4920에서, 디바이스(10)는 클라우드 서버(50)에 저장된 이미지에 포함된, 적어도 하나의 객체에 대한 식별 요청을 제 1 서버(30)에 전송할 수 있다.
단계 s4925에서, 제 1 서버(30)는 클라우드 서버(50)에 객체 식별을 위한 이미지를 요청할 수 있다.
단계 s4930에서, 클라우드 서버(50)는 제 1 서버(30)의 요청에 따라 저장된 이미지를 서버(20)에 전송할 수 있다.
단계 s4935에서, 제 1 서버(30)는 뉴럴 네트워크를 이용하여, 프리뷰 이미지에 포함된 적어도 하나의 객체를 식별할 수 있다.
단계 s4940에서, 제 1 서버(30)는 식별된 적어도 하나의 객체에 관한 정보를 제 2 서버(40)에 전송할 수 있다.
단계 s4945에서, 제 2 서버(40)는 뉴럴 네트워크를 이용하여 이미지 내의 식별된 적어도 하나의 객체 각각에 적용할 보정 필터를 결정할 수 있다.
단계 s4950에서, 제 2 서버(40)는 식별된 적어도 하나의 객체 각각에 대해 결정된 보정 필터 정보를 디바이스(10)에 전송할 수 있다.
또한, 단계 s4955 내지 단계 s4965는 도 48을 참조하여 전술한 단계 s4850 내지 단계 s4860과 대응될 수 있다.
도 50는 다른 실시예에 따른 서버의 구성을 도시한 도면이다.
도 50를 참조하면, 서버(20)는 통신부(5010), 제어부(5020) 및 메모리(5030)를 포함할 수 있다.
통신부(5010)는 제어부(5020)의 제어에 의해 서버(20)를 디바이스(10) 등과 같은 클라이언트 디바이스들과 통신을 하게 하는 적어도 하나의 구성요소를 포함할 수 있다. 제어부(5020)는 통신부(5010)를 통해 연결된 디바이스(10)로부터 데이터를 송수신할 수 있다.
통신부(5010)는 예를 들어, 무선랜(예를 들어, 와이- 파이(Wi-Fi)), 블루투스, 및 유선 이더넷(Ethernet) 중 하나를 포함할 수 있다. 또한, 통신부(5010)는 무선랜, 블루투스 및 유선 이더넷의 조합을 포함할 수 있다.
제어부(5020)는 서버(20)의 전반적인 동작 및 서버(20) 내부 구성 요소들 사이의 신호 흐름을 제어하고 데이터를 처리하는 기능을 수행한다. 제어부(5020)는 하나 이상의 코어(미도시)로 구현되는 하나 이상의 프로세서를 포함할 수 있으며, 제어부(5020)로 입력되는 신호 또는 데이터를 저장하는 저장 영역으로 사용되는 램(미도시) 및 롬(미도시)을 포함할 수 있다.
제어부(5020)는 메모리(5030)에 저장되는 하나 이상의 프로그램들을 실행할 수 있다. 일 실시예에 따라 제어부(5020)는 뉴럴 네트워크를 이용한 결과를 메모리(5030)로부터 독출하여, 통신부(5010)를 통해 디바이스(10)로부터 수신된 이미지 내의 객체들을 식별하고, 식별된 객체들 각각에 대응되는 보정 필터를 결정할 수 있다.
구체적으로, 제어부(5020)는 뉴럴 네트워크를 이용한 결과에 따라, 이미지 내에서 기 설정된 이미지 속성들을 검출하고, 검출된 이미지 속성들에 기초하여 이미지 내의 객체들 각각의 위치 및/또는 객체들 각각에 대응되는 카테고리를 결정할 수 있다.
또한, 제어부(5020)는 뉴럴 네트워크를 이용한 결과에 기초하여, 식별된 객체들에 대응되는 이미지 영역으로부터 객체의 디스플레이 속성들을 검출하고, 검출된 객체의 디스플레이 속성들에 기초하여 객체들 각각에 대응되는 보정 필터들을 결정할 수 있다. 예를 들어, 제어부(5020)는 이미지 내의 객체들 각각에 적용될 보정 필터의 종류 및/또는 보정 필터에 입력될 파라미터(parameter)를, 뉴럴 네트워크를 이용하여 결정할 수 있다.
제어부(5020)는 뉴럴 네트워크를 이용하여 획득한 이미지 내 객체들에 대한 정보(예를 들어, 이미지 내 위치 정보 및 카테고리 정보), 및 객체들 각각에 대응되는 보정 필터 정보(예를 들어, 보정 필터의 종류 및 파라미터 정보)를 디바이스(10)로 전송하도록 통신부(5010)를 제어할 수 있다.
메모리(5030)는 서버(20)를 구동하고 제어하기 위한 다양한 데이터, 프로그램 또는 어플리케이션을 저장할 수 있다. 메모리(5030)에 저장되는 프로그램은 하나 이상의 인스트럭션들을 포함할 수 있다. 메모리(5030)에 저장된 프로그램(하나 이상의 인스트럭션들) 또는 어플리케이션은 제어부(5020)에 의해 실행될 수 있다.
일 실시예에 따라 메모리(5030)는 뉴럴 네트워크 내의 복수의 레이어들을 구성하는 하나 이상의 프로그램들 및 뉴럴 네트워크를 이용한 결과가 저장된 뉴럴 네트워크 모듈(미도시)을 포함할 수 있다. 이에 대해서는, 도 21의 실시예가 적용될 수 있으므로, 자세한 설명은 생략한다.
또한 메모리(5030)는, 어플리케이션들을 실행하기 위한 하나 이상의 프로그램들 및 어플리케이션 데이터가 저장된 어플리케이션 모듈(미도시), 외부와 통신을 수행하기 위한 하나 이상의 프로그램들 및 통신 데이터가 저장된 통신 모듈(미도시) 등을 포함할 수 있으나, 이에 제한되지 않는다.
일 실시예에 따라 메모리(5030)는 클라이언트 디바이스들 별로 뉴럴 네트워크를 이용한 결과를 저장할 수도 있다.
한편, 서버(20)가 이미지를 보정할 수 있는 보정 필터(예를 들어, 보정 필터 프로그램 모듈 또는 하드웨어 구성요소)를 더 구비하는 경우, 제어부(5020)는 결정된 보정 필터들을 이용하여 이미지 내의 객체들을 각각 보정하도록 메모리(5030) 또는 하드웨어 구성요소(미도시)를 제어하고, 보정된 이미지를 디바이스(10)로 전송하도록 통신부(5010)를 제어할 수도 있다.
또한, 도 50에 도시된 구성 요소 모두가 서버(20)의 필수 구성 요소인 것은 아니다. 도 50에 도시된 구성 요소보다 많은 구성 요소에 의해 서버(20)가 구현될 수도 있고, 도 50에 도시된 구성 요소보다 적은 구성 요소에 의해 서버(20)가 구현될 수도 있다. 예를 들어, 서버(20)는 사용자 입력을 수신하는 사용자 입력부(미도시), 서버(20)에서 처리되는 정보를 표시 출력하는 디스플레이부(미도시)를 더 포함할 수도 있다.
도 51은 일부 실시예에 따른 디바이스(10) 및 서버(20)가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 나타내는 도면이다.
도 51을 참조하면, 서버(20)는 이미지 내에 포함된 객체를 식별하기 위한 기준을 학습할 수 있다. 예를 들어, 서버(20)는 객체를 식별하기 위해 사용되는 객체의 속성과 객체의 종류에 따른 속성을 학습할 수 있다. 또한, 서버(20)는 객체에 적합한 보정 필터를 결정하는데 기준이 되는 디스플레이 속성을 학습할 수 있다. 서버(20)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 객체의 식별 또는 보정 필터의 결정을 위한 기준을 학습할 수 있다.
한편, 서버(20)의 데이터 획득부(5110), 전처리부(5120), 학습 데이터 선택부(5130), 모델 학습부(5140) 및 모델 평가부(5150)는 도 29에 도시된 데이터 획득부(2910), 전처리부(2920), 학습 데이터 선택부(2930), 모델 학습부(2940) 및 모델 평가부(2950) 의 기능을 수행할 수 있다.
데이터 획득부(5110)는 객체의 식별 또는 보정 필터의 결정에 필요한 데이터를 획득할 수 있다. 전처리부(5120)는 객체의 식별 또는 보정 필터의 결정을 위한 학습에 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 학습 데이터 선택부(5130)는 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 모델 학습부(5140)에 제공될 수 있다.
모델 학습부(5140)는 객체를 식별하거나 보정 필터를 결정하기 위해 입력된 이미지 내에서, 어떤 이미지 속성 또는 디스플레이 속성을 이용할 지, 이미지 속성 또는 디스플레이 속성을 이용하여 객체 또는 보정 필터의 종류를 어떻게 판단할 지에 관한 기준을 학습할 수 있다. 모델 학습부(5140)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 인식 모델에 적용함으로써, 객체의 식별 또는 보정 필터의 결정을 위한 기준을 학습할 수 있다.모델 평가부(5150)는 데이터 인식 모델에 평가 데이터를 입력하고, 평가 데이터로부터 출력되는 인식 결과가 소정 기준을 만족하지 못하는 경우, 모델 학습부(5140)로 하여금 다시 학습하도록 할 수 있다.
서버(20)는 생성된 인식 모델을 디바이스(10)에 제공할 수 있다. 이 경우, 디바이스(10)는 수신된 인식 모델을 이용하여 객체를 식별하거나 보정 필터를 결정할 수 있다.
한편, 다른 실시예에 따라, 서버(20)는 디바이스(10)로부터 수신된 데이터를 생성된 데이터 인식 모델에 적용하여, 객체를 식별하거나 보정 필터를 결정할 수 있다. 예를 들어, 디바이스(10)는 인식 데이터 선택부(3030)에 의해 선택된 데이터를 서버(20)에게 전송하고, 서버(20)가 선택된 데이터를 인식 모델에 적용하여 객체를 식별하거나 보정 필터를 결정할 수 있다.
또한, 서버(20)는 서버(20)에 의해 식별된 객체 또는 결정된 보정 필터의 종류에 관한 정보를 디바이스(10)에 제공할 수 있다. 이에 따라, 디바이스(10)는 서버(20)로부터 이미지에 포함된 객체의 식별 정보 또는 보정 필터의 종류에 관한 정보를 수신할 수 있다.
한편, 상술한 본 발명의 실시예들은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다.
상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 플로피 디스크, 하드디스크 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등) 및 캐리어 웨이브(예를 들면, 인터넷을 통한 전송)와 같은 저장매체를 포함한다.
개시된 실시예들은 컴퓨터로 읽을 수 있는 저장 매체(computer-readable storage media)에 저장된 명령어를 포함하는 S/W 프로그램으로 구현될 수 있다.
컴퓨터는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 개시된 실시예에 따른 동작이 가능한 장치로서, 개시된 실시예들에 따른 디바이스(10)를 포함할 수 있다.
컴퓨터로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서,'비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
또한, 개시된 실시예들에 따른 제어 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다.
컴퓨터 프로그램 제품은 S/W 프로그램, S/W 프로그램이 저장된 컴퓨터로 읽을 수 있는 저장 매체를 포함할 수 있다. 예를 들어, 컴퓨터 프로그램 제품은 디바이스(10)의 제조사 또는 전자 마켓(예, 구글 플레이 스토어, 앱 스토어)을 통해 전자적으로 배포되는 S/W 프로그램 형태의 상품(예, 다운로더블 앱)을 포함할 수 있다. 전자적 배포를 위하여, S/W 프로그램의 적어도 일부는 저장 매체에 저장되거나, 임시적으로 생성될 수 있다. 이 경우, 저장 매체는 제조사의 서버, 전자 마켓의 서버, 또는 SW 프로그램을 임시적으로 저장하는 중계 서버의 저장매체가 될 수 있다.
컴퓨터 프로그램 제품은, 서버 및 디바이스(10)로 구성되는 시스템에서, 서버의 저장매체 또는 디바이스(10)의 저장매체를 포함할 수 있다. 또는, 서버 또는 디바이스(10)와 통신 연결되는 제 3 장치(예, 스마트폰)가 존재하는 경우, 컴퓨터 프로그램 제품은 제 3 장치의 저장매체를 포함할 수 있다. 또는, 컴퓨터 프로그램 제품은 서버로부터 디바이스(10) 또는 제 3 장치로 전송되거나, 제 3 장치로부터 디바이스(10)로 전송되는 S/W 프로그램 자체를 포함할 수 있다.
이 경우, 서버, 디바이스(10) 및 제 3 장치 중 하나가 컴퓨터 프로그램 제품을 실행하여 개시된 실시예들에 따른 방법을 수행할 수 있다. 또는, 서버, 디바이스(10) 및 제 3 장치 중 둘 이상이 컴퓨터 프로그램 제품을 실행하여 개시된 실시예들에 따른 방법을 분산하여 실시할 수 있다.
예를 들면, 서버(예로, 클라우드 서버 또는 인공 지능 서버 등)가 서버에 저장된 컴퓨터 프로그램 제품을 실행하여, 서버와 통신 연결된 디바이스(10)가 개시된 실시예들에 따른 방법을 수행하도록 제어할 수 있다.
또 다른 예로, 제 3 장치가 컴퓨터 프로그램 제품을 실행하여, 제 3 장치와 통신 연결된 디바이스(10)가 개시된 실시예에 따른 방법을 수행하도록 제어할 수 있다. 제 3 장치가 컴퓨터 프로그램 제품을 실행하는 경우, 제 3 장치는 서버로부터 컴퓨터 프로그램 제품을 다운로드하고, 다운로드 된 컴퓨터 프로그램 제품을 실행할 수 있다. 또는, 제 3 장치는 프리로드 된 상태로 제공된 컴퓨터 프로그램 제품을 실행하여 개시된 실시예들에 따른 방법을 수행할 수도 있다.
이상과 첨부된 도면을 참조하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다.
Claims (20)
- 이미지를 보정하는 디바이스에 있어서,
하나 이상의 인스트럭션을 저장하는 메모리;
상기 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행하는 하나 이상의 프로세서를 포함하고,
상기 하나 이상의 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
복수의 객체들을 포함하는 프리뷰 이미지를 표시하고,
하나 이상의 뉴럴 네트워크를 이용한 결과에 기초하여, 상기 프리뷰 이미지 내의 상기 복수의 객체들을 식별하고,
상기 프리뷰 이미지에 적용될 수 있는 필터 후보를 나타내는 복수의 필터 이미지들을 상기 프리뷰 이미지와 함께 표시하되, 상기 복수의 필터 이미지들 각각은, 상기 복수의 객체들 중 적어도 하나의 객체에 필터가 적용되도록하는, 선택 가능한 필터를 나타내는 것이고, 상기 복수의 필터 이미지들 각각에서 보정된 적어도 하나의 객체는 같거나 상이하며,
상기 프리뷰 이미지에 적용될 필터를 결정하되, 상기 결정된 필터는 상기 복수의 필터 이미지들 중 하나를 선택한 것에 대응하며,
상기 결정된 필터를, 상기 프리뷰 이미지의 상기 복수의 객체들 중 상기 결정된 필터에 대응하는 적어도 하나의 객체에 적용하고,
상기 프리뷰 이미지에 상기 필터가 적용된, 보정된 이미지를 캡쳐하는, 디바이스.
- 제1항에 있어서,
상기 하나 이상의 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
상기 하나 이상의 뉴럴 네트워크를 이용하여 상기 복수의 객체들 중의 각각의 객체의 하나 이상의 디스플레이 속성을 검출하고,
상기 하나 이상의 디스플레이 속성에 따라 상기 복수의 객체들 중 각각의 객체에 적용 가능한 하나 이상의 필터를 결정하는, 디바이스.
- 제2항에 있어서,
상기 하나 이상의 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
상기 복수의 객체들 중에서 전경에 대응되는 객체를 나타내는 제1 객체의 디스플레이 속성에 기초하여 상기 제1 객체에 적용 가능한 제1 필터를 결정하고,
상기 복수의 객체들 중에서 배경에 대응되는 객체를 나타내는 제2 객체의 디스플레이 속성에 기초하여 상기 제2 객체에 적용 가능한 제2 필터를 결정하는, 디바이스.
- 제1항에 있어서,
상기 하나 이상의 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
상기 프리뷰 이미지 내 상기 복수의 객체들 각각의 위치 정보를 획득하고,
상기 위치 정보에 기초하여, 상기 복수의 객체들의 각각에 대하여, 복수의 필터들 중 상기 복수의 객체들의 각각에 대응하는 필터를 적용함으로써, 상기 복수의 객체들의 각각을 변경하는, 디바이스.
- 제1항에 있어서,
상기 디바이스는 카메라;를 더 포함하며,
상기 프리뷰 이미지는 상기 카메라를 통해 획득되는 것인, 디바이스.
- 제1항에 있어서,
상기 결정된 필터는, 상기 프리뷰 이미지 내에서 상기 객체 외 다른 객체에는 적용되지 않는 것인, 디바이스.
- 제1항에 있어서,
상기 결정된 필터는, 상기 프리뷰 이미지 내의 전경 객체 및 배경 객체 중에서 어느 하나로 결정된 제1 객체 및 다른 하나로 결정된 제2 객체에 기초하여, 상기 제1 객체에 적용되고, 상기 제2 객체에 적용되지 않는 것인, 디바이스.
- 제1항에 있어서,
상기 하나 이상의 프로세서는, 상기 하나 이상의 인스트럭션을 실행함으로써,
상기 복수의 객체들 중에서 제1 객체에 적용되고 제2 객체에 적용되지 않는, 선택 가능한 필터인 제1 필터를 나타내는 제1 필터 이미지를 표시하고,
상기 복수의 객체들 중에서 제2 객체에 적용되고 제1 객체에 적용되지 않는, 선택 가능한 필터인 제2 필터를 나타내는 제1 필터 이미지를 표시하는, 디바이스.
- 제8항에 있어서,
상기 제1 객체는 전경 객체로 결정된 것이고, 상기 제2 객체는 배경 객체로 결정된 것인, 디바이스.
- 제1항에 있어서,
상기 하나 이상의 프로세서는 제1 프로세서 및 제2 프로세서를 포함하고,
상기 제1 프로세서는
상기 복수의 객체들을 포함하는 상기 프리뷰 이미지를 획득하고,
상기 제2 프로세서를 이용하여 식별되는 상기 복수의 객체들 중에서, 상기 복수의 객체들 각각에 적용되도록 선택 가능한 복수의 필터들을 결정하고,
상기 복수의 객체들의 각각에 대하여, 상기 복수의 필터들 중 상기 복수의 객체들의 각각에 대응하는 필터를 적용함으로써, 상기 복수의 객체들의 각각을 변경하며,
상기 제2 프로세서는,
상기 하나 이상의 뉴럴 네트워크를 이용한 결과에 기초하여, 상기 프리뷰 이미지 내의 상기 복수의 객체들을 식별하는 것인, 디바이스.
- 디바이스가 이미지를 보정하는 방법에 있어서,
복수의 객체들을 포함하는 프리뷰 이미지를 표시하는 단계;
하나 이상의 뉴럴 네트워크를 이용한 결과에 기초하여, 상기 프리뷰 이미지 내의 상기 복수의 객체들을 식별하는 단계;
상기 프리뷰 이미지에 적용될 수 있는 필터 후보를 나타내는 복수의 필터 이미지들을 상기 프리뷰 이미지와 함께 표시하되, 상기 복수의 필터 이미지들 각각은, 상기 복수의 객체들 중 적어도 하나의 객체에 필터가 적용되도록하는, 선택 가능한 필터를 나타내는 것이고, 상기 복수의 필터 이미지들 각각에서 보정된 적어도 하나의 객체는 같거나 상이한 것인, 단계;
상기 프리뷰 이미지에 적용될 필터를 결정하되, 상기 결정된 필터는 상기 복수의 필터 이미지들 중 하나를 선택한 것에 대응하는 것인, 단계;
상기 결정된 필터를, 상기 프리뷰 이미지의 상기 복수의 객체들 중 상기 결정된 필터에 대응하는 적어도 하나의 객체에 적용하는 단계; 및
상기 프리뷰 이미지에 상기 필터가 적용된, 보정된 이미지를 캡쳐하는 단계를 포함하는, 방법.
- 제11항에 있어서,
상기 방법은,
상기 하나 이상의 뉴럴 네트워크를 이용하여 상기 복수의 객체들 중의 각각의 객체의 하나 이상의 디스플레이 속성을 검출하는 단계; 및
상기 하나 이상의 디스플레이 속성에 따라 상기 복수의 객체들 중 각각의 객체에 적용 가능한 하나 이상의 필터를 결정하는 단계를 더 포함하는, 방법.
- 제12항에 있어서,
상기 하나 이상의 필터를 결정하는 단계는,
상기 복수의 객체들 중에서 전경에 대응되는 객체를 나타내는 제1 객체의 디스플레이 속성에 기초하여 상기 제1 객체에 적용 가능한 제1 필터를 결정하는 단계; 및
상기 복수의 객체들 중에서 배경에 대응되는 객체를 나타내는 제2 객체의 디스플레이 속성에 기초하여 상기 제2 객체에 적용 가능한 제2 필터를 결정하는 단계를 포함하는, 방법.
- 제11항에 있어서,
상기 방법은,
상기 프리뷰 이미지 내 상기 복수의 객체들 각각의 위치 정보를 획득하는 단계; 및
상기 위치 정보에 기초하여, 상기 복수의 객체들의 각각에 대하여, 복수의 필터들 중 상기 복수의 객체들의 각각에 대응하는 필터를 적용함으로써, 상기 복수의 객체들의 각각을 변경하는 단계를 더 포함하는, 방법.
- 제11항에 있어서,
상기 프리뷰 이미지는 카메라를 통해 획득되는 것인, 방법.
- 제11항에 있어서,
상기 결정된 필터는, 상기 프리뷰 이미지 내에서 상기 객체 외 다른 객체에는 적용되지 않는 것인, 방법.
- 제11항에 있어서,
상기 결정된 필터는, 상기 프리뷰 이미지 내의 전경 객체 및 배경 객체 중에서 어느 하나로 결정된 제1 객체 및 다른 하나로 결정된 제2 객체에 기초하여, 상기 제1 객체에 적용되고, 상기 제2 객체에 적용되지 않는 것인, 방법.
- 제11항에 있어서,
상기 복수의 필터 이미지들을 상기 프리뷰 이미지와 함께 표시하는 단계는,
상기 복수의 객체들 중에서 제1 객체에 적용되고 제2 객체에 적용되지 않는, 선택 가능한 필터인 제1 필터를 나타내는 제1 필터 이미지를 표시하는 단계; 및
상기 복수의 객체들 중에서 제2 객체에 적용되고 제1 객체에 적용되지 않는, 선택 가능한 필터인 제2 필터를 나타내는 제1 필터 이미지를 표시하는 단계를 포함하는, 방법.
- 제18항에 있어서,
상기 제1 객체는 전경 객체로 결정된 것이고, 상기 제2 객체는 배경 객체로 결정된 것인, 방법.
- 디바이스가 이미지를 보정하는 방법에 있어서,
복수의 객체들을 포함하는 프리뷰 이미지를 표시하는 단계;
하나 이상의 뉴럴 네트워크를 이용한 결과에 기초하여, 상기 프리뷰 이미지 내의 상기 복수의 객체들을 식별하는 단계;
상기 프리뷰 이미지에 적용될 수 있는 필터 후보를 나타내는 복수의 필터 이미지들을 상기 프리뷰 이미지와 함께 표시하되, 상기 복수의 필터 이미지들 각각은, 상기 복수의 객체들 중 적어도 하나의 객체에 필터가 적용되도록하는, 선택 가능한 필터를 나타내는 것이고, 상기 복수의 필터 이미지들 각각에서 보정된 적어도 하나의 객체는 같거나 상이한 것인, 단계;
상기 프리뷰 이미지에 적용될 필터를 결정하되, 상기 결정된 필터는 상기 복수의 필터 이미지들 중 하나를 선택한 것에 대응하는 것인, 단계;
상기 결정된 필터를, 상기 프리뷰 이미지의 상기 복수의 객체들 중 상기 결정된 필터에 대응하는 적어도 하나의 객체에 적용하는 단계; 및
상기 프리뷰 이미지에 상기 필터가 적용된, 보정된 이미지를 캡쳐하는 단계를 실행시키기 위하여 기록매체에 저장된 컴퓨터 프로그램.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020220127397A KR102585877B1 (ko) | 2016-11-08 | 2022-10-05 | 디바이스가 이미지를 보정하는 방법 및 그 디바이스 |
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020160148183 | 2016-11-08 | ||
| KR20160148183 | 2016-11-08 | ||
| KR1020170134807A KR102359391B1 (ko) | 2016-11-08 | 2017-10-17 | 디바이스가 이미지를 보정하는 방법 및 그 디바이스 |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020170134807A Division KR102359391B1 (ko) | 2016-11-08 | 2017-10-17 | 디바이스가 이미지를 보정하는 방법 및 그 디바이스 |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020220127397A Division KR102585877B1 (ko) | 2016-11-08 | 2022-10-05 | 디바이스가 이미지를 보정하는 방법 및 그 디바이스 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20220020296A KR20220020296A (ko) | 2022-02-18 |
| KR102453169B1 true KR102453169B1 (ko) | 2022-10-14 |
Family
ID=62109423
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020220011794A KR102453169B1 (ko) | 2016-11-08 | 2022-01-26 | 디바이스가 이미지를 보정하는 방법 및 그 디바이스 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11222413B2 (ko) |
| KR (1) | KR102453169B1 (ko) |
| WO (1) | WO2018088794A2 (ko) |
Families Citing this family (26)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10614347B2 (en) * | 2018-01-25 | 2020-04-07 | Adobe Inc. | Identifying parameter image adjustments using image variation and sequential processing |
| TWI682359B (zh) * | 2018-01-29 | 2020-01-11 | 國立清華大學 | 影像補全方法 |
| JP7386706B2 (ja) * | 2018-06-08 | 2023-11-27 | シャンハイ カンブリコン インフォメーション テクノロジー カンパニー リミテッド | 汎用機械学習モデル、モデルファイルの生成および解析方法 |
| US10380997B1 (en) * | 2018-07-27 | 2019-08-13 | Deepgram, Inc. | Deep learning internal state index-based search and classification |
| KR102558166B1 (ko) * | 2018-08-08 | 2023-07-24 | 삼성전자주식회사 | 복수의 객체들을 포함하는 이미지를 보정하는 전자 장치 및 그 제어 방법 |
| JP7330758B2 (ja) * | 2018-10-05 | 2023-08-22 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 情報処理方法、及び、情報処理システム |
| WO2020085694A1 (ko) * | 2018-10-23 | 2020-04-30 | 삼성전자 주식회사 | 이미지 획득 장치 및 그의 제어 방법 |
| KR102618900B1 (ko) * | 2019-01-08 | 2023-12-29 | 삼성전자주식회사 | 디스플레이 장치 및 그 제어 방법 |
| JP7272626B2 (ja) * | 2019-01-09 | 2023-05-12 | ｉ－ＰＲＯ株式会社 | 照合システム、照合方法およびカメラ装置 |
| KR20200095106A (ko) | 2019-01-31 | 2020-08-10 | 삼성전자주식회사 | 전자 장치 및 이미지 처리 방법 |
| KR102608127B1 (ko) | 2019-04-08 | 2023-12-01 | 삼성전자주식회사 | 이미지 프로세싱을 수행하는 전자 장치 및 방법 |
| KR20210000013A (ko) | 2019-06-24 | 2021-01-04 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 제어 방법 |
| CN110598543B (zh) * | 2019-08-05 | 2021-01-05 | 华中科技大学 | 基于属性挖掘和推理的模型训练方法及行人再识别方法 |
| KR102287460B1 (ko) * | 2019-08-16 | 2021-08-10 | 엘지전자 주식회사 | 인공지능 무빙 에이전트 |
| KR20190110967A (ko) * | 2019-09-11 | 2019-10-01 | 엘지전자 주식회사 | 객체 식별 장치 및 방법 |
| KR20210062477A (ko) * | 2019-11-21 | 2021-05-31 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
| KR20210067699A (ko) | 2019-11-29 | 2021-06-08 | 삼성전자주식회사 | 전자 장치 및 그 제어 방법 |
| EP4049235A4 (en) * | 2020-01-23 | 2023-01-11 | Samsung Electronics Co., Ltd. | ELECTRONIC DEVICE AND ELECTRONIC DEVICE CONTROL METHOD |
| US11675879B2 (en) * | 2020-02-20 | 2023-06-13 | K2Ai, LLC | Apparatus and method for operating a detection and response system |
| US11665273B2 (en) | 2020-03-03 | 2023-05-30 | Samsung Electronics Co., Ltd. | System and method for image color management |
| CN112749607B (zh) * | 2020-06-01 | 2023-09-12 | 腾讯科技（深圳）有限公司 | 基于人工智能的图像识别方法及装置 |
| US11895409B2 (en) * | 2020-08-20 | 2024-02-06 | Qualcomm Incorporated | Image processing based on object categorization |
| KR102230797B1 (ko) * | 2020-09-23 | 2021-03-22 | 국방과학연구소 | 적외선 이미지를 이용한 딥러닝 학습 방법 및 시스템 |
| CN112270377B (zh) * | 2020-11-11 | 2024-03-15 | 北京百度网讯科技有限公司 | 目标图像提取方法、神经网络训练方法和装置 |
| CN114723928A (zh) * | 2021-01-05 | 2022-07-08 | 华为技术有限公司 | 图像处理方法和装置 |
| US20230059007A1 (en) * | 2021-08-20 | 2023-02-23 | Adobe Inc. | Generating object-based layers for digital image editing using object classification machine learning models |
Family Cites Families (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20020081003A1 (en) | 2000-12-27 | 2002-06-27 | Sobol Robert E. | System and method for automatically enhancing graphical images |
| WO2007142621A1 (en) | 2006-06-02 | 2007-12-13 | Fotonation Vision Limited | Modification of post-viewing parameters for digital images using image region or feature information |
| US7471846B2 (en) | 2003-06-26 | 2008-12-30 | Fotonation Vision Limited | Perfecting the effect of flash within an image acquisition devices using face detection |
| KR100858681B1 (ko) * | 2007-02-15 | 2008-09-17 | 연세대학교 산학협력단 | 지문 영상 생성을 위한 영상 필터 조합 생성 방법 |
| KR102063915B1 (ko) * | 2013-03-14 | 2020-01-08 | 삼성전자주식회사 | 사용자 기기 및 그 동작 방법 |
| KR102105323B1 (ko) | 2013-04-15 | 2020-04-28 | 인텔렉추얼디스커버리 주식회사 | 객체 기반 적응적 밝기 보상 방법 및 장치 |
| KR20140134844A (ko) | 2013-05-15 | 2014-11-25 | 오충록 | 객체 기반 사진 촬영 방법 및 장치 |
| JP6619732B2 (ja) | 2013-10-28 | 2019-12-11 | モレキュラー デバイシーズ， エルエルシー | 顕微鏡画像内の個々の細胞を分類および識別するための方法およびシステム |
| US20150370474A1 (en) * | 2014-06-19 | 2015-12-24 | BrightSky Labs, Inc. | Multiple view interface for video editing system |
| JP2016012387A (ja) | 2014-06-30 | 2016-01-21 | 株式会社東芝 | 高周波アシスト記録ヘッドおよびこれを備えた磁気記録装置 |
| US10417525B2 (en) | 2014-09-22 | 2019-09-17 | Samsung Electronics Co., Ltd. | Object recognition with reduced neural network weight precision |
| KR20160051390A (ko) | 2014-11-03 | 2016-05-11 | 삼성전자주식회사 | 전자장치 및 전자장치의 필터 제공 방법 |
| KR101653812B1 (ko) * | 2014-12-05 | 2016-09-05 | 연세대학교 산학협력단 | 감성 효과 생성을 위한 인물 영상 처리 장치 및 그 방법 |
| US9569697B1 (en) * | 2015-02-19 | 2017-02-14 | Google Inc. | Object oriented image editing |
| KR102367828B1 (ko) * | 2015-06-05 | 2022-02-25 | 삼성전자주식회사 | 이미지 운용 방법 및 이를 지원하는 전자 장치 |
| JP6664163B2 (ja) * | 2015-08-05 | 2020-03-13 | キヤノン株式会社 | 画像識別方法、画像識別装置及びプログラム |
| US9773196B2 (en) * | 2016-01-25 | 2017-09-26 | Adobe Systems Incorporated | Utilizing deep learning for automatic digital image segmentation and stylization |
| KR101844513B1 (ko) * | 2016-08-11 | 2018-04-02 | 삼성전자주식회사 | 단층 영상 처리 장치 및 단층 영상 처리 방법 |
| US10311326B2 (en) | 2017-03-31 | 2019-06-04 | Qualcomm Incorporated | Systems and methods for improved image textures |
-
2017
- 2017-11-08 WO PCT/KR2017/012592 patent/WO2018088794A2/ko unknown
- 2017-11-08 US US16/347,330 patent/US11222413B2/en active Active
-
2022
- 2022-01-26 KR KR1020220011794A patent/KR102453169B1/ko active Application Filing
Also Published As
| Publication number | Publication date |
|---|---|
| WO2018088794A2 (ko) | 2018-05-17 |
| US20190279345A1 (en) | 2019-09-12 |
| US11222413B2 (en) | 2022-01-11 |
| KR20220020296A (ko) | 2022-02-18 |
| WO2018088794A3 (ko) | 2018-06-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102453169B1 (ko) | 디바이스가 이미지를 보정하는 방법 및 그 디바이스 | |
| KR102359391B1 (ko) | 디바이스가 이미지를 보정하는 방법 및 그 디바이스 | |
| US11470385B2 (en) | Method and apparatus for filtering video | |
| US11042728B2 (en) | Electronic apparatus for recognition of a user and operation method thereof | |
| US11699213B2 (en) | Image-capturing device and method for controlling same | |
| KR102425578B1 (ko) | 객체를 인식하는 방법 및 장치 | |
| KR102428920B1 (ko) | 전자 장치 및 그 동작 방법 | |
| US11670068B2 (en) | Apparatus and method for processing image | |
| US11831948B2 (en) | Video playback device and control method thereof | |
| KR102304701B1 (ko) | 사용자의 음성 입력에 대한 답변을 제공하는 방법 및 장치 | |
| JP2023036778A (ja) | 映像処理装置及びその方法 | |
| KR102384878B1 (ko) | 동영상을 필터링하는 방법 및 장치 | |
| KR102301231B1 (ko) | 영상 제공 방법 및 이를 위한 장치 | |
| KR20200094607A (ko) | 영상 시퀀스에 대한 캡션 정보를 생성하는 전자 장치 및 그 동작 방법 | |
| KR20200084395A (ko) | 영상에서 오브젝트를 인식하는 전자 장치 및 그 동작 방법 | |
| KR20200084428A (ko) | 동영상을 제작하는 방법 및 그에 따른 장치 | |
| US20230316470A1 (en) | Method for correcting image by device and device therefor |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A107 | Divisional application of patent | ||
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| A107 | Divisional application of patent |