KR102237131B1 - 객체를 포함하는 이미지를 처리하는 장치 및 방법 - Google Patents

Abstract

본 개시는 전자 장치가 객체를 포함하는 이미지를 처리하는 방법에 관한 것이다. 일 실시 예에 따른 전자 장치가 객체를 포함하는 이미지를 처리하는 방법은, 상기 객체를 포함하는 제1 이미지를 획득하는 단계; 상기 제1 이미지 내 상기 객체의 추적 상태를 식별하는 단계; 상기 식별된 객체의 추적 상태에 기초하여 상기 제1 이미지 내 객체의 위치를 결정하는 단계; 상기 객체에 적용할 서로 다른 이미지 효과를 나타내는 적어도 하나의 이미지 필터를 결정하는 단계; 및 상기 결정된 객체의 위치에 따라 상기 적어도 하나의 이미지 필터를 상기 제1 이미지 내 객체에 적용함으로써 제2 이미지를 생성하는 단계; 를 포함할 수 있다.

Description

객체를 포함하는 이미지를 처리하는 장치 및 방법 {APPRATUS AND METHOD FOR PROCESSING IMAGE INCLUDING AT LEAST ONE OBJECT}

본 개시는 적어도 하나의 객체를 포함하는 이미지를 처리하는 전자 장치 및 방법에 관한 것이다. 보다 상세하게는, 이미지 내 객체의 위치에 기초하여 이미지에 이미지 효과를 적용하기 위한 방법 및 장치에 관한 것이다.

정보통신기술이 발전함에 따라 복수의 프레임을 포함하는 영상에 포함된 객체를 식별하기 위한 기술들이 개발되고 있다. 특히, 인간이 지닌 인식 방법을 전자 장치에 적용시킴으로써, 전자 장치가 스스로 영상 내 객체를 식별하거나, 미리 설정된 소정의 객체를 식별하도록 하는 기술들이 개발되고 있다.

최근, 영상 내 객체를 추적하고, 추적된 객체에 대한 영상을 편집하기 위한 기술들이 활발하게 연구되고 있으며, 편집된 영상에 대한 컨텐츠를 실시간으로 제공하는 장치 및 소프트웨어들이 출시되고 있다.

그러나, 일반적인 영상 내 객체 추적 및 추적된 객체에 대한 영상 편집 기술은 객체의 위치를 실시간으로 정확하게 파악하지 못하고, 객체의 위치 추적 및 영상 편집에 많은 기기 자원이 소모되는 문제점이 있었다.

한국공개특허 제 10-2016-0110072호

일 실시 예에 따르면, 적어도 하나의 객체를 포함하는 이미지를 처리하는 전자 장치 및 방법이 제공될 수 있다.

또한, 일 실시 예에 의하면, 이미지 내 객체를 추적하고, 추적된 객체의 위치에 기초하여 이미지 효과를 적용할 수 있는 전자 장치가 제공될 수 있다.

상술한 기술적 과제를 달성하기 위한 본 개시의 일 실시 예에 따라, 전자 장치가 객체를 포함하는 이미지를 처리하는 방법은 상기 객체를 포함하는 제1 이미지를 획득하는 단계; 상기 제1 이미지 내 상기 객체의 추적 상태를 식별하는 단계; 상기 식별된 객체의 추적 상태에 기초하여 상기 제1 이미지 내 객체의 위치를 결정하는 단계; 상기 객체에 적용할 서로 다른 이미지 효과를 나타내는 적어도 하나의 이미지 필터를 결정하는 단계; 및 상기 결정된 객체의 위치에 따라 상기 적어도 하나의 이미지 필터를 상기 제1 이미지 내 객체에 적용함으로써 제2 이미지를 생성하는 단계; 를 포함할 수 있다.

또한, 상기 기술적 과제를 해결하기 위한 본 개시의 또 다른 실시 예에 따라, 객체를 포함하는 이미지를 처리하는 장치에 있어서, 디스플레이; 적어도 하나의 카메라; 하나 이상의 인스트럭션을 저장하는 메모리; 및 상기 하나 이상의 인스트럭션을 실행하는 적어도 하나의 프로세서; 를 포함하고, 상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 객체를 포함하는 제1 이미지를 획득하고, 상기 제1 이미지 내 상기 객체의 추적 상태를 식별하고, 상기 식별된 객체의 추적 상태에 기초하여 상기 제1 이미지 내 객체의 위치를 결정하고, 상기 객체에 적용할 서로 다른 이미지 효과를 나타내는 적어도 하나의 이미지 필터를 결정하고, 상기 결정된 객체의 위치에 따라 상기 적어도 하나의 이미지 필터를 상기 제1 이미지 내 객체에 적용함으로써 제2 이미지를 생성하는 전자 장치가 제공될 수 있다.

또한, 상기 기술적 과제를 해결하기 위한 본 개시의 또 다른 실시 예에 따라, 전자 장치가 객체를 포함하는 이미지를 처리하는 방법에 있어서, 상기 객체를 포함하는 제1 이미지를 획득하는 단계; 상기 제1 이미지 내 상기 객체의 추적 상태를 식별하는 단계; 상기 식별된 객체의 추적 상태에 기초하여 상기 제1 이미지 내 객체의 위치를 결정하는 단계; 상기 객체에 적용할 서로 다른 이미지 효과를 나타내는 적어도 하나의 이미지 필터를 결정하는 단계; 및 상기 결정된 객체의 위치에 따라 상기 적어도 하나의 이미지 필터를 상기 제1 이미지 내 객체에 적용함으로써 제2 이미지를 생성하는 단계; 를 포함하는, 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록 매체가 제공될 수 있다.

본 개시의 일 실시 예에 의하면, 이미지 내 객체의 종류를 정확하게 식별할 수 있다.

또한, 일 실시 예에 의하면, 서로 다른 스케일에 따른 복수의 가이드 영역들을 이용함으로써 이미지 내 객체의 종류를 정확하게 식별할 수 있다.

도 1은 일 실시 예에 따른 전자 장치가 객체를 포함하는 이미지를 처리하는 과정을 개략적을 설명하기 위한 도면이다.
도 2는 일 실시 예에 따른 전자 장치가 객체를 포함하는 이미지를 처리하는 방법을 나타내는 흐름도이다.
도 3은 일 실시 예에 따른 전자 장치가 이미지 내 객체의 추적 상태를 식별하는 방법을 설명하기 위한 흐름도이다.
도 4는 일 실시 예에 따른 전자 장치가 이미지 내 객체의 추적 상태를 식별하는 방법을 구체적으로 설명하기 위한 흐름도이다.
도 5는 일 실시 예에 따른 전자 장치가 객체가 추적 되지 않는 것으로 식별되는 경우 객체를 포함하는 이미지를 처리하는 방법을 설명하기 위한 도면이다.
도 6은 일 실시 예에 따른 전자 장치가 객체가 추적 되지 않는 것으로 식별되는 경우 객체를 포함하는 이미지를 처리하는 방법을 구체적으로 설명하기 위한 도면이다.
도 7은 일 실시 예에 따른 전자 장치가 적어도 하나의 가이드 영역을 이동시키면서 이미지 내 객체를 식별하는 과정을 설명하기 위한 도면이다.
도 8은 일 실시 예에 따른 전자 장치가 이미지 내 객체가 추적되는 것으로 식별되는 경우, 객체를 포함하는 이미지를 처리하는 방법을 설명하기 위한 도면이다.
도 9는 일 실시 예에 따른 전자 장치가 이미지 내 객체가 추적되는 것으로 식별되는 경우, 객체를 포함하는 이미지를 처리하는 방법을 구체적으로 설명하기 위한 도면이다.
도 10은 일 실시 예에 따른 전자 장치가 일련의 이미지들로부터 생성한 복수의 모션 벡터를 설명하기 위한 도면이다.
도 11은 일 실시 예에 따른 전자 장치가 이미지 내 적어도 하나의 잡음을 제거하기 위해 이미지를 전처리 하는 방법을 설명하기 위한 도면이다.
도 12는 일 실시 예에 따른 전자 장치가 적어도 하나의 가이드 영역으로부터, 객체에 관한 윤곽을 검출하는 과정을 설명하기 위한 도면이다.
도 13은 일 실시 예에 따른 전자 장치가 이진화된 적어도 하나의 가이드 영역 내 이미지로부터 윤곽선을 검출하는 구체적인 방법을 설명하기 위한 참고 도면이다.
도 14는 일 실시 예에 따라, 전자 장치가 가이드 영역 내 검출된 객체가 눈에 대응될 확률을 결정하기 위해 이용하는 식별 조건을 설명하기 위한 도면이다.
도 15는 일 실시 예에 따른 전자 장치의 블록도이다.
도 16은 또 다른 실시 예에 따른 전자 장치의 블록도이다.
도 17은 일 실시 예에 따른 서버의 블록도이다.
도 18은 일 실시 예에 따른 전자 장치 및 서버가 서로 연동함으로써 적어도 하나의 객체를 포함하는 이미지를 처리하는 과정을 설명하기 위한 도면이다.
도 19는 또 다른 실시 예에 따라 전자 장치 적어도 하나의 객체를 포함하는 이미지를 처리하는 과정을 설명하기 위한 도면이다.

본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 개시에 대해 구체적으로 설명하기로 한다.

본 개시에서 사용되는 용어는 본 개시에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 개시에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 정의되어야 한다.

명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에 기재된 "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.

아래에서는 첨부한 도면을 참고하여 본 개시의 실시 예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다. 그리고 도면에서 본 개시를 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.

도 1은 일 실시 예에 따른 전자 장치가 객체를 포함하는 이미지를 처리하는 과정을 개략적을 설명하기 위한 도면이다.

일 실시 예에 의하면, 전자 장치(1000)는 적어도 하나의 객체를 포함하는 제1 이미지를 획득하고, 획득된 이미지 내 객체의 위치에 기초하여 적어도 하나의 이미지 필터(104)를 제1 이미지(102) 내 객체(112, 114)에 적용함으로써 제2 이미지(106)를 생성할 수 있다. 예를 들어, 전자 장치(1000)는 적어도 하나의 카메라를 이용하여 동물을 포함하는 영상을 촬영할 수 있다. 전자 장치(1000)가 촬영한 영상은 일련의 영상 시퀀스로써, 프레임 인덱스로 구분되는 복수의 이미지들을 포함할 수 있다.

전자 장치(1000)는 동물을 촬영함으로써 획득된 영상 내 일련의 프레임 이미지들 각각에서 식별된 객체의 위치를 식별함으로써, 객체의 움직임을 추적할 수 있다. 예를 들어, 전자 장치(1000)는 동물을 촬영함으로써 획득된 제1 이미지(102)내 동물의 눈(112, 114) 또는 눈과 관련된 부분 객체들을 식별하고, 식별된 객체의 위치를 기준으로, 영상 내 제1 이미지(102)의 다음 프레임 인덱스를 가지는 제2 이미지 내 객체의 위치를 식별할 수 있다. 전자 장치(1000)는 제2 이미지(106)내 식별된 객체의 위치에 기초하여, 서로 다른 이미지 효과를 나타내는 적어도 하나의 이미지 필터들을 적용함으로써, 상기 객체의 인접 위치에 생성되는 효과 이미지를 생성하며, 생성된 효과 이미지 및 제1 이미지를 합성함으로써 제2 이미지를 생성할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)가 적어도 하나의 이미지 필터들을 객체에 적용함으로써 나타나는 이미지 효과는, 상기 객체의 눈 부분에 적용되는 이미지 효과로써, 제1 타입의 썬글라스(116) 생성 효과, 제2 타입의 썬글라스(128)생성 효과, 안경(122)생성 효과, 화난 표정을 나타내기 위한 이모티콘 생성 효과, 음표들을 나타내기 위한 이모티콘(120, 126)생성 효과, 우울한 표정을 나타내기 위한 비 구름 이모티콘(124) 생성 효과 등을 포함할 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)가 적어도 하나의 이미지 필터들을 객체에 적용함으로써 나타내는 이미지 효과들은 수묵화 효과, 흐림 효과, 블러 효과, 선명 효과, 윤곽선 효과, 카툰화 효과, 노이즈 제거 효과, 흑백 효과, 페인트 효과, 파스텔 효과등을 포함할 수 있다. 그러나 이에 한정되는 것은 아니고, 전자 장치(1000)가 적어도 하나의 이미지 필터들을 적용함으로써 생성할 수 있는 이미지 효과들은, 식별된 객체의 특성에 따라 달라질 수 있다.

본 개시에 따른 전자 장치(1000)가 식별하는 객체는 동물의 신체 부위 중 일부를 포함할 수 있다. 예를 들어, 전자 장치(1000)가 식별하는 객체는, 동물의 눈 또는 동물의 눈과 관련된 부분 객체들 중 적어도 하나를 포함할 수 있다. 일 실시 예에 의하면, 본 개시에 따른 부분 객체들은 동물의 눈과 관련된 눈썹, 눈동자, 흰자, 눈 영역의 주위에 위치하는 동물의 털 중 적어도 하나를 포함할 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)는 동물을 촬영함으로써 획득된 영상의 각각의 프레임 이미지로부터 동물의 코 또는 동물의 코와 관련된 부분 객체들 중 적어도 하나를 식별할 수도 있다. 전자 장치(1000)는 동물을 촬영함으로써 획득된 이미지 내 동물의 눈 영역, 또는 동물의 눈과 관련된 부분 객체들에 대한 영역으로써, 눈썹, 눈동자, 흰자를 포함하는 부분 객체 영역을 검출하고, 검출된 영역 내 객체 또는 부분 객체의 종류를 식별할 수 있다.

일 실시 예에 의하면, 전자 장치는(1000)는 서버 (2000)와 통신할 수 있는 통신 모듈을 포함하는 다양한 형태의 장치로 구현될 수 있다. 예를 들어, 전자 장치(1000)는 디지털 카메라, 모바일 단말, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 태블릿 PC, 전자북 단말기, 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션, MP3 플레이어 등이 있을 수 있으나, 이에 한정되는 것은 아니다. 또한, 일 실시 예에 의하면, 전자 장치(1000)는 사용자에 의해 착용될 수 있는 장치(wearable device)일 수도 있다.

예를 들어, 웨어러블 디바이스는 액세서리 형 장치(예컨대, 시계, 반지, 팔목 밴드, 발목 밴드, 목걸이, 안경, 콘택트 렌즈), 머리 착용형 장치(Head Mounted Display Device, HMD), 직물 또는 의류 일체형 장치(예: 전자 의복), 신체 부착형 장치(예컨대, 스킨 패드(skin pad)), 또는 생체 이식형 장치(예: implantable circuit) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다.

일 실시 예에 의하면, 서버(2000)는 네트워크(3000)를 통하여 전자 장치(1000)와 연결됨으로써, 전자 장치와 데이터를 송수신할 수 있는 기타 컴퓨팅 장치를 포함할 수 있다. 또한, 일 실시 예에 의하면, 서버 장치(2000)는 웨어러블 디바이스를 관리하기 위한 W-BMS(Wearable Business Management Server)일 수 있다. 일 실시 예에 의하면, 네트워크(3000)는 근거리 통신망(Local Area Network; LAN), 광역 통신망(Wide Area Network; WAN), 부가가치 통신망(Value Added Network; VAN), 이동 통신망(mobile radio communication network), 위성 통신망 및 이들의 상호 조합을 포함하고, 도 1에 도시된 각 네트워크 구성 주체가 서로 원활하게 통신을 할 수 있도록 하는 포괄적인 의미의 데이터 통신망이며, 유선 인터넷, 무선 인터넷 및 모바일 무선 통신망을 포함할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)는 사용자의 입력에 기초하여, 동물 이미지를 획득하고, 획득된 동물 이미지를 표시함과 함께, 적어도 하나의 가이드 영역(112, 114)를 화면에 표시할 수 있다. 또한, 일 실시 예에 의하면, 전자 장치(1000)는 사용자가 동물 이미지를 촬영하는 동안, 사용자의 촬영 편의를 위하여 '강아지의 왼눈을 촬영해 주세요' 또는 '강아지의 오른쪽 눈을 촬영해 주세요'와 같은 안내 메시지를 화면에 더 제공할 수도 있다.

본 개시에 따른 전자 장치(1000)는 가이드 영역(112, 114)에 촬영된 객체의 종류를 식별하고, 식별된 객체의 종류가 미리 설정된 객체의 종류와 일치하는 경우, 객체 검출 및 인증 과정을 완료한 후, 식별된 객체의 추적(Tracking)을 수행할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 사용자의 입력에 기초하여 획득된 이미지 내 가이드 영역(114)에 객체가 식별되는 경우, 가이드 영역(112, 114)을 미리 설정된 주기에 따라 깜빡이거나, 현재 표시된 가이드 영역(112, 114)의 색을 변경하여 표시함으로써, 사용자에게 이미지 내 객체가 검출 또는 식별 되었음을 나타낼 수 있다.

도 2는 일 실시 예에 따른 전자 장치가 이미지 내 객체를 식별하는 방법을 나타내는 흐름도이다.

S210에서, 전자 장치(1000)는 객체를 포함하는 제1 이미지를 획득할 수 있다. 예를 들어, 전자 장치(1000)는 전자 장치 내 포함된 적어도 하나의 카메라를 이용하여 제1 이미지를 획득할 수 있다. 전자 장치(1000)는 적어도 하나의 카메라를 이용하여 제1 이미지를 획득한 후, 다음 프레임의 제2 이미지를 획득할 수 있다. 일 실시 예에 의하면, 제1 이미지는 프레임 인덱스 N을 가지고, 제2 이미지는 프레임 인덱스 N+1을 가질 수도 있다. 본 개시에 따른 전자 장치(1000)는 객체에 관한 복수의 이미지들을 포함하는 영상을 획득할 수도 있다.

S220에서, 전자 장치(1000)는 제1 이미지 내 객체의 추적 상태를 식별할 수 있다. 예를 들어, 전자 장치(1000)는 제1 이미지가 전자 장치에서 재생되기 전 이미지로부터 추출된 특징점 및 상기 제1 이미지로부터 추출된 특징점에 기초하여, 현재 제1 이미지 내 객체의 추적 상태를 식별할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)가 식별하는 객체의 추적 상태는, 객체가 식별되는 상태, 객체가 식별되지 않는 상태, 객체의 추적 상태를 판단하기 불가능한 상태 중 적어도 하나를 포함할 수 있다.

S230에서, 전자 장치(1000)는 식별된 객체의 추적 상태에 기초하여, 제1 이미지 내 객체의 위치를 결정할 수 있다. 예를 들어, 전자 장치(1000)는 객체의 추적 상태가, 객체가 추적되지 않는 상태로 결정되는 경우, 제1 이미지로부터 객체를 검출하고, 검출된 객체를 인증하며, 객체의 인증이 성공하는 경우, 인증된 객체의 위치에 대한 정보를 이용하여, 제1 이미지 내 객체의 위치를 결정할 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)는 객체의 추적 상태가 객체가 추적되고 있는 상태로 결정되는 경우, 제1 이미지 이전에 재생된 이미지 및 현재 획득된 제1 이미지 사이의 옵티컬 플로우를 계산하고, 계산된 옵티컬 플로우를 이용하여 현재 제1 이미지 내 객체의 위치를 결정할 수 있다.

S240에서, 전자 장치(1000)는 객체에 적용할 서로 다른 이미지 효과를 나타내는 적어도 하나의 이미지 필터를 결정할 수 있다. 예를 들어, 전자 장치(1000)가 제1 이미지 내 객체에 적용할 이미지 필터는 선명 효과 필터, 윤곽선 필터, 수묵화 필터, 또는 흑백 필터 중 적어도 하나를 포함할 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)가 제1 이미지 내 객체에 적용할 필터가 나타내는 이미지 효과는 제1 타입의 썬글라스(116) 생성 효과, 제2 타입의 썬글라스(128)생성 효과, 안경(122)생성 효과, 화난 표정을 나타내기 위한 이모티콘 생성 효과, 음표들을 나타내기 위한 이모티콘(120, 126)생성 효과, 우울한 표정을 나타내기 위한 비 구름 이모티콘(124) 생성 효과를 포함할 수도 있다.

S250에서, 전자 장치(1000)는 결정된 객체의 위치에 따라 적어도 하나의 이미지 필터를 제1 이미지 내 객체에 적용함으로써 제2 이미지를 생성할 수 있다. 예를 들어, 전자 장치(1000)는 상기 적어도 하나의 이미지 필터의 효과에 따라 효과 이미지를 생성하고, 생성된 효과 이미지 및 제1 이미지를 합성함으로써, 제2 이미지를 생성할 수도 있다.

도 3은 일 실시 예에 따른 전자 장치가 이미지 내 객체의 추적 상태를 식별하는 방법을 설명하기 위한 흐름도이다.

S310에서, 전자 장치(1000)는 제1 이미지로부터 객체에 관한 특징점을 추출할 수 있다. 예를 들어, 전자 장치(1000)는 제1 이미지 내 픽셀들의 강도(Intensity) 또는 방향 중 적어도 하나에 기초하여 제1 이미지로부터 객체에 관한 특징점을 추출할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)가 복수의 이미지 각각으로부터 추출하는 특징점은 옵티컬 플로우(Optical Flow)을 결정하기 위한 특징점일 수 있다.

S320에서, 전자 장치(1000)는 제1 이미지로부터 추출된 특징점 및 상기 제1 이미지의 프레임 인덱스를 N으로 할 때, N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점의 비교결과에 기초하여, 상기 제1 이미지 내 특징점 중 유효 특징점의 수를 식별할 수 있다. 예를 들어, 전자 장치(1000)는 N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점들의 픽셀 값 및 제1 이미지로부터 추출된 특징점들의 픽셀 값을 비교함으로써, N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점들 중, 제1 이미지 내에 남아 있는 특징점의 수를 식별할 수 있다. 전자 장치(1000)는 제1 이미지로부터 추출된 특징점들 중, N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점들에 대응되는 특징점을 제외한 나머지 특징점들을 제거할 수 있다.

전자 장치(1000)는 제1 이미지로부터 추출된 특징점들 중, N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점들에 대응되는 특징점을 유효 특징점을 결정하고, 유효 특징점의 수를 식별할 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)는 N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점들 중, 제1 이미지 내에 남아 있는 특징점을 유효 특징점으로 결정하고, 결정된 유효 특징점의 수를 식별할 수도 있다.

S320에서, 전자 장치(1000)는 식별된 유효 특징점의 수에 기초하여 객체의 추적 상태를 결정할 수 있다. 예를 들어, 전자 장치(1000)는 제1 이미지 내 남아 있는 유효 특징점의 수가 기 설정된 임계치 이하인 경우, 제1 이미지 내 객체의 추적 상태를, 객체가 추적되고 있지 않는 상태로 결정할 수 있다. 그러나, 전자 장치(1000)는 제1 이미지 내 남아 있는 유효 특징점의 수가 기 설정된 임계치 보다 큰 경우, 제1 이미지 내 객체의 추적 상태를, 객체가 추적되고 있는 상태로 결정할 수 있다.

도 4는 일 실시 예에 따른 전자 장치가 이미지 내 객체의 추적 상태를 식별하는 방법을 구체적으로 설명하기 위한 흐름도이다.

S410에서, 전자 장치(1000)는 N프레임 인덱스를 가지는 제1 이미지 및 N-1 프레임 인덱스를 가지는 이미지로부터 객체에 관한 특징점을 각각 추출할 수 있다. 예를 들어, 전자 장치(1000)는 각 이미지 내 픽셀 값들의 세기 및 특정 지점의 픽셀 값과 상기 특정 지점 주변에 인접하는 픽셀 값들의 변화량에 기초하여, 상기 특정지점에서 결정되는 방향에 기초하여, 특징점을 추출할 수 있다.

S412에서, 전자 장치(1000)는 제1 이미지로부터 추출된 특징점 및 상기 제1 이미지의 프레임 인덱스를 N으로 할 때, N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점의 비교결과에 기초하여, 상기 제1 이미지 내 특징점 중 유효 특징점의 수를 식별할 수 있다. S412는 도 3의 S320에 대응될 수 있으므로 구체적인 설명은 생략하기로 한다.

S414에서, 전자 장치(1000)는 상기 식별된 유효 특징점의 수가 기 설정된 임계치 이상인지 여부를 식별한다. 일 실시 예에 의하면, 기 설정된 임계치는 전자 장치 내 카메라 특성, 카메라를 이용하여 획득된 이미지의 화소 값 등에 따라 달라질 수 있다. S416에서, 전자 장치(1000)는 제1 이미지 내 유효 특징점의 수가 기 설정된 임계치 이상인 경우, 객체 추적 상태를 객체가 추적되고 있는 상태로 식별할 수 있다.

S418에서, 전자 장치(1000)는 제1 이미지 내 유효 특징점의 수가 기 설정된 임계치 이하인 경우, 객체의 추적 상태를 객체가 추적되지 않는 상태로 식별할 수 있다. S420에서, 전자 장치(1000)는 제1 이미지 내 객체가 추적되지 않는 상태로 식별됨에 따라, 제1 이미지로부터 객체를 검출할 수 있다. S422에서, 전자 장치(1000)는 제1이미지로부터 검출된 객체를 식별할 수 있다. 예를 들어, 전자 장치(1000)는 검출된 객체에 관한 윤곽이 미리 설정된 객체의 종류를 나타내는지 여부를 인증(Validation)할 수 있다. S424에서, 전자 장치(1000)는 식별된 객체의 위치 정보를 결정하고, 위치 정보에 기초하여 새로 검출된 객체의 위치를 결정할 수 있다.

S426에서, 전자 장치(1000)는 객체의 추적 상태가, 객체가 추적 되고 있는 상태로 식별되는 경우, 상기 추적된 객체의 모션 벡터를 이용하여 현재 제1 이미지 내 객체의 위치를 결정할 수 있다. S428에서, 전자 장치(1000)는 결정된 객체의 위치에 이미지 필터를 적용할 수 있다. S430에서, 전자 장치(1000)는 결정된 객체의 위치에 이미지 필터를 적용함으로써, 제1 이미지에 소정의 이미지 효과가 나타난 제2 이미지를 생성할 수 있다.

도 5는 일 실시 예에 따른 전자 장치가 객체가 추적 되지 않는 것으로 식별되는 경우 객체를 포함하는 이미지를 처리하는 방법을 설명하기 위한 도면이다.

S510에서, 전자 장치(1000)는 제1 이미지 내 객체가 추적되지 않는 것으로 식별되는 경우, 제1 이미지의 관심 영역으로부터 객체를 검출할 수 있다. 일 실시 예에 의하면, 전자 장치는 제1 이미지 내 객체를 포함하는 일정 영역을 관심 영역으로 결정할 수 있다. 관심 영역의 위치, 크기는 객체의 위치, 크기 또는 관심 객체의 움직임 특성에 따라 달라질 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)는 획득된 영상 내 이미지의 영상 정보, 또는 전자 장치의 사용자 입력에 기초하여 관심 영역을 결정할 수도 있다.

일 실시 에에 의하면, 전자 장치(1000)는 관심 영역 내 픽셀들의 밝기 값의 변화량에 기초하여 객체에 관한 윤곽을 검출할 수 있다. 또한, 일 실시 예에 의하면, 전자 장치(1000)는 관심 영역 내 적어도 하나의 가이드 영역들을 이동시키면서, 이동된 위치의 가이드 영역으로부터 객체를 윤곽을 검출할 수 있다. 또한, 전자 장치(1000)는 가이드 영역을 이동시키면서, 가이드 영역 별로 검출된 객체의 윤곽이 소정의 객체에 대응될 확률을 결정할 수 있다. 전자 장치(1000)는 가이드 영역 별로 검출된 객체의 윤곽이 소정의 객체에 대응될 확률이 기 설정된 임계치 이상인 경우, 상기 확률이 기 설정된 임계치 이상인 윤곽을 객체 영역으로 검출할 수 있다.

S520에서, 전자 장치(1000)는 관심 영역 내 적어도 일부 영역으로부터 추출된 특징 벡터에 기초하여 검출된 객체의 종류를 식별할 수 있다. 예를 들어, 전자 장치(1000)는 관심 영역 내 서로 다른 타입의 가이드 영역을 이동시키면서, 이동된 위치 별 및 가이드 영역 별로 객체에 관한 윤곽을 검출하고, 검출된 윤곽이 소정의 객체에 대응될 확률을 결정할 수 있다. 전자 장치(1000)는 검출된 윤곽이 소정의 객체에 대응될 확률이 기 설정된 임계치 이상인 윤곽을 포함하는 위치에서의 가이드 영역을 식별하고, 식별된 가이드 영역으로부터 특징 벡터를 추출할 수 있다. 전자 장치(1000)는 상기 가이드 영역으로부터 추출된 특징 벡터를 미리 학습된 인공 지능 모델에 입력함으로써 검출된 객체의 종류를 식별할 수 있다.

S530에서, 전자 장치(1000)는 식별된 객체의 종류가 동물의 눈 또는 동물의 눈과 관련된 부분 객체들로 식별되는 경우, S520에서 검출된 객체의 위치 정보에 기초하여 객체의 위치를 결정할 수 있다. 예를 들어, 전자 장치(1000)는 검출된 객체의 종류가 소정의 객체의 종류인, 강아지의 왼쪽 눈으로 식별되는 경우, 상기 검출된 객체의 윤곽에 대응되는 객체의 위치 정보에 기초하여 이미지 내 객체의 위치를 결정할 수 있다. 일 실시 예에 의하면, 객체의 위치 정보는, 검출된 객체에 대응되는 윤곽의 경계 픽셀의 좌표, 윤곽의 중심 픽셀의 좌표 정보 중 적어도 하나를 포함할 수 있다.

도 6은 일 실시 예에 따른 전자 장치가 객체가 추적 되지 않는 것으로 식별되는 경우 객체를 포함하는 이미지를 처리하는 방법을 구체적으로 설명하기 위한 도면이다.

S610에서, 전자 장치(1000)는 제1 이미지의 관심 영역 내 적어도 하나의 가이드 영역을 이동시킬 수 있다. 예를 들어, 전자 장치(1000)는 객체의 일정 영역을 포함하는 영역을 관심 영역으로 결정하고, 상기 결정된 관심 영역 내에서 이동시킬 서로 다른 크기의 가이드 영역을 결정할 수 있다. 전자 장치(1000)는 제1 면적을 가지는 제1 가이드 영역을 결정하고, 상기 제1 가이드 영역을 미리 설정된 스케일에 따라 스케일링함으로써 제2 가이드 영역을 생성할 수 있다. 일 실시 예에 의하면, 제1 가이드 영역 및 제2 가이드 영역은 정사각 형태로 결정될 수 있다.

S620에서, 전자 장치(1000)는 적어도 하나의 가이드 영역 별로 객체에 관한 윤곽을 검출할 수 있다. 예를 들어, 전자 장치(1000)는 관심 영역 내 픽셀들의 밝기 값의 변화량에 기초하여 객체에 관한 윤곽을 검출할 수 있다. 또 다른 실시 에에 의하면, 전자 장치(1000)는 픽셀 값의 변화량에 기초하여 이미지 내 윤곽(Contour)을 추출하기 위한 알고리즘을 이용하여 객체에 관한 윤곽을 검출할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)는 적어도 하나의 가이드 영역 별 객체에 관한 윤곽을 검출할 수 있다. 예를 들어, 전자 장치(1000)는 이진화된 이미지에서 특징점을 추출하고, 추출된 특징점 중 같은 이미지 값을 나타내는 점들의 집합을 식별함으로써, 이미지 내 객체에 대응되는 윤곽(contour)을 검출할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 이미지 내 객체에 대응되는 복수의 윤곽들을 검출할 수 있고, 검출된 윤곽들 중, 최외곽 윤곽들을 결정할 수도 있다. 일 실시 예에 의하면, 전자 장치(1000)는 convex hull 알고리즘을 이용하여 이미지 내 검출된 윤곽들 중, 최외곽 윤곽(max contour)를 검출할 수도 있다. 그러나, 이에 한정되는 것은 아니며, 이미지 내 검출된 윤곽들 중, 기타 최외곽 윤곽을 검출하기 위한 알고리즘을 이용하여 최외곽 윤곽(max contour)을 검출할 수도 있다. 또한, 일 실시 예에 의하면, 전자 장치(1000)는 이진화된 이미지를 포함하는 적어도 하나의 가이드 영역으로부터 윤곽을 검출한 후, 검출된 윤곽에 대하여 중간값 필터를 적용함으로써, 윤곽의 경계를 평탄화(smoothing)하는 과정을 더 수행할 수도 있다. 전자 장치(1000)는 평탄화된 후보 윤곽선을 적어도 하나의 가이드 영역 별 객체에 관한 윤곽으로 검출할 수 있다.

S630에서, 전자 장치(1000)는 가이드 영역으로부터 검출된 윤곽이 객체에 대응될 확률을 결정할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 제1 가이드 영역을 생성하고, 생성된 제1 가이드 영역을 관심 영역 내에서 이동 시키면서, 이동된 위치 별 가이드 영역으로부터 객체에 관한 윤곽을 검출하고, 검출된 윤곽이 소정의 객체에 대응될 확률을 이동된 위치 별로 결정할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)는 위치 별 가이드 영역으로부터 검출된 윤곽 내 윤곽 성분들을 이용하여 객체를 식별하기 위한 식별 조건을 결정할 수 있다. 전자 장치(1000)는 상기 결정된 식별 조건에 서로 다른 가중치를 적용함으로써, 가이드 영역 내 윤곽이 객체에 대응될 확률을 결정할 수 있다.

예를 들어, 전자 장치(1000)는 특정 위치로 이동된 제1 가이드 영역에서 검출된 윤곽의 윤곽 성분들로써 윤곽의 높이, 윤곽의 폭, 윤곽의 면적, 윤곽을 구성하는 픽셀들, 상기 윤곽을 구성하는 픽셀들의 좌표 값, 상기 픽셀들을 포함하는 부분 영역의 경계에 관한 좌표 값을 결정할 수 있다. 전자 장치(1000)는 윤곽 성분들에 기초하여 상기 윤곽을 기준으로 정의되는 부분 영역 내 픽셀들의 강도, 검출된 윤곽의 면적, 검출된 윤곽의 높이 및 윤곽의 폭의 비율, 윤곽의 면적 및 최외곽 윤곽의 면적을 제외한 윤곽 내 면적의 비율과 같은 식별 조건들을 결정할 수 있다.

전자 장치(1000)는 특정 위치로 이동된 제1 가이드 영역에서 검출된 윤곽 및 상기 윤곽을 구성하는 윤곽 성분들로부터 상술한 바와 같은 식별 조건을 결정한 후, 검출된 윤곽들이, 서로 다른 가중치를 가지는 식별 조건에 해당할 점수를 결정할 수 있다. 전자 장치(1000)는 제1 가이드 영역에서 검출된 윤곽에 대하여, 식별 조건 별 점수를 할당한 후, 할당된 점수들을 식별 조건 별로 서로 다르게 할당된 가중치에 따라 가중합함으로써, 가이드 영역 내 윤곽이 객체에 대응될 확률을 결정할 수 있다.

또 다른 실시 예에 의하면, 전자 장치(1000)는 제1 가이드 영역 및 제2 가이드 영역을 생성하고, 생성된 제1 가이드 영역 및 제2 가이드 영역을 관심 영역 내에서 이동 시키면서, 이동된 위치 별 제1 가이드 영역 및 제2 가이드 영역 각각으로부터 객체에 관한 윤곽을 검출하고, 검출된 윤곽이 소정의 객체에 대응될 확률을 결정할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 관심 영역 내에서 제1 가이드 영역 및 제2 가이드 영역의 초기 위치를 다르게 결정할 수 있다. 또한, 전자 장치(1000)는 관심 영역 내 에서 제1 가이드 영역 및 제2 가이드 영역의 이동 속도, 이동 간격을 서로 다르게 설정할 수도 있다. 전자 장치(1000)는 제1 가이드 영역 및 제2 가이드 영역의 이동 속도 또는 이동 간격 중 적어도 하나를 다르게 설정함으로써, 관심 영역 내 객체를 효과적으로 검출할 수 있다.

S640에서, 전자 장치(1000)는 객체에 대응될 확률이 기 설정된 임계치 보다 큰 윤곽을 포함하는 가이드 영역으로부터 특징 벡터를 추출할 수 있다. 예를 들어, 전자 장치(1000)는 가이드 영역 내 검출된 윤곽이 객체에 대응될 확률이 기 설정된 임계치 이상인 경우, 소정의 객체에 대응될 확률이 기 설정된 임계치 이상인 윤곽이 위치하는 가이드 영역으로부터 특징 벡터를 추출할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)는 가이드 영역에 대응되는 이미지 내 픽셀 값들의 변화량에 기초하여 가이드 영역으로부터 특징 벡터를 추출할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 가이드 영역에 대응되는 이미지 내 픽셀 값들의 변화량에 기초하여, 이미지 내 픽셀들의 그래디언트(Gradient)를 결정하고, 결정된 그래디언트를 이용하여 이미지 내 부분 영역 별 히스토그램을 생성할 수 있다. 전자 장치(1000)는 부분 영역 별로 생성된 히스토그램의 빈(bin) 값들을 연결함으로써, 가이드 영역으로부터 객체를 식별하기 위한 특징 벡터를 추출할 수 있다.

또한, 일 실시 예에 의하면, 전자 장치(1000)는 특징 벡터를 추출하기에 앞서, 특징 벡터를 추출할 대상의 가이드 영역들을 전처리함으로써, 가이드 영역의 크기에 대응되는 이미지의 크기를 소정의 크기로 변경할 수 있다. 전자 장치(1000)는 소정의 크기로 변경된 이미지로부터 특징 벡터를 추출하고, 추출된 특징 벡터를 이용하여 이미지 내 객체를 식별할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)가 이미지로부터 추출하는 특징 벡터는 영상의 특징을 표현하기 위한 기술자(descriptor)일 수 있다. 일 실시 예에 의하면, 전자 장치(1000)가 이미지로부터 추출하는 특징 벡터는 HOG(Histogram of Oriented Gradients) 특징, SIFT(Scale Invariant Feature Transform) 특징, Haar 특징, Ferns 특징 중 적어도 하나에 따른 특징 값들을 포함할 수 있다. 그러나, 여기에 한정되는 것은 아니며, 본 개시에 따른 전자 장치는 기타 픽셀 값들을 이용한 특징(feature)추출 알고리즘을 이용하여 특징 벡터를 추출할 수 있다.

또 다른 실시 예에 의하면, 전자 장치(1000)는 가이드 영역에 대응되는 이미지를 분할함으로써 적어도 하나의 부분 영역들을 결정할 수 있다. 전자 장치(1000)는 결정된 부분 영역 별 픽셀들의 엣지(edge)를 결정하고, 결정된 엣지들의 x축 성분, y축 성분을 결정할 수 있다. 또한, 전자 장치(1000)는 결정된 부분 영역별 엣지들의 x축 성분, y축 성분들을 이용하여 엣지의 방향(orientation)을 결정하고, 결정된 엣지들의 방향을 카테고리로 하는 히스토그램을 생성할 수 있다. 전자 장치(10000)는 부분 영역 별로 생성된 히스토그램의 빈(bin)값들을 서로 연결함으로써 특징 벡터를 결정할 수 있다.

S650에서, 전자 장치(1000)는 추출된 특징 벡터를 인공 지능 모델(Artificial intelligence)에 입력함으로써, 가이드 영역 내 객체의 종류를 식별할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)가 이용하는 인공 지능 모델은, 노드들 및 상기 노드들을 연결하는 레이어들을 포함하는 인공 신경망 모델 또는 기타 인공 지능 학습 알고리즘에 따라 학습되는 기계 학습 모델을 포함할 수 있다. 일 실시 예에 의하면, 전자 장치가 이용하는 인공 지능 모델은, 특징 벡터가 입력되면, 객체의 종류가 미리 정의된 레이블(label) 별(예컨대, 왼쪽눈, 오른쪽눈, 코, 눈썹, 입 등) 확률 값들을 출력할 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)가 이용하는 인공 지능 모델은, 특징 벡터가 입력되면, 입력된 특징 벡터에 가장 높은 확률로 대응되는 레이블을, 객체의 종류로써 출력할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)가 이용하는 인공 신경망 모델은 여러 계층을 가진 깊은 신경망(deep neural network) 구조로 형성될 수 있다. 본 개시에 따른 전자 장치가 이용하는 인공 신경망 모델은 합성곱 신경망(Convolutional Neural Network), DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network), MLP(Multilayer Perceptron)을 포함할 수 있으나, 이에 한정되지 않는다.

또 다른 일 실시 예에 의하면, 전자 장치(1000)가 이용하는 인공 신경망 모델은 다층 퍼셉트론(MLP)으로써, 인접한 레이어의 퍼셉트론간의 연결은 존재하나, 동일한 레이어의 퍼셉트론끼리의 연결이 존재하지 않는 피드포워드(FeedForward) 형태의 인공 신경망일 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)가 이용하는 인공 신경망 모델은 컨벌루션 레이어와 풀링 레이어(pooling layer)가 반복 사용되는 CNN 구조에 풀리 커넥티드 레이어(fully-connected)가 연결된 구조일 수 있다.

도 7은 일 실시 예에 따른 전자 장치가 적어도 하나의 가이드 영역을 이동시키면서 이미지 내 객체를 식별하는 과정을 설명하기 위한 도면이다.

전자 장치(1000)는 상기 객체 영역을 포함하는 관심 영역(712)을 결정하고, 상기 관심 영역(712)내 적어도 하나의 가이드 영역(714)을 이동시키면서, 상기 적어도 하나의 가이드 영역 내 검출된 윤곽이 객체에 대응될 확률 값을 결정할 수 있다. 전자 장치(1000)는 가이드 영역 내 검출된 윤곽이 객체에 대응될 확률 값이 기 설정된 임계치 이상인 경우, 상기 윤곽이 위치하는 가이드 영역으로부터 객체를 검출할 수 있다.

예를 들어, 전자 장치의 화면 1(702)를 참조하면, 전자 장치(1000)는 관심 영역(712)내 제1 가이드 영역(714)을 결정하고, 상기 결정된 제1 가이드 영역의 탐색 시작위치를 관심 영역(712)의 좌측 상단으로 결정하며, 제1 가이드 영역을 오른쪽으로 기 설정된 간격만큼 이동시키면서, 제1 가이드 영역으로부터 객체를 검출한다. 전자 장치(1000)는 관심 영역(712)의 상단 제1행의 검색이 종료되면, 가이드 영역의 초기 위치에서 기 설정된 거리만큼 아래로 이격된 거리에서, 제1 가이드 영역을 오른쪽 방향으로 다시 이동시키면서, 객체를 검출하는 과정을 수행한다.

전자 장치의 화면 2(704)를 참조하면, 전자 장치(1000)는 제1 가이드 영역을 미리 설정된 스케일에 따라 스케일링함으로써 제2 가이드 영역(718)을 생성하고, 생성된 제2 가이드 영역을 관심 영역(712)내에서 이동시키면서 관심 영역으로부터 객체를 검출할 수 있다. 또 다른 실시 예에 따라, 전자 장치의 화면 3(706)을 참조하면, 전자 장치(1000)는 제1 가이드 영역(722) 및 제2 가이드 영역(724)을 결정하고, 결정된 제1 가이드 영역(722) 및 제2 가이드 영역(724)을 관심 영역(712)내에서 이동시키면서, 가이드 영역으로부터 객체를 검출할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)는 제1 가이드 영역(722) 및 제2 가이드 영역(724)의 초기 탐색 위치를 서로 다르게 설정할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 관심 영역 내 에서 제1 가이드 영역 및 제2 가이드 영역의 이동 속도, 이동 간격을 서로 다르게 설정할 수도 있다.

전자 장치(1000)는 서로 다르게 설정된 초기 탐색 위치에서, 제1 가이드 영역 및 제2 가이드 영역을 이동시키면서, 이동된 위치 별, 제1 가이드 영역 및 제2 가이드 영역 각각으로부터 객체에 관한 윤곽을 검출하고, 검출된 윤곽이 소정의 객체에 대응될 확률을 결정한다. 전자 장치(1000)는 이동된 위치 별 제1 가이드 영역 및 제2 가이드 영역 각각에서 검출된 윤곽이 소정의 객체에 대응될 확률 값이 기 설정된 임계치 이상인 경우, 해당 위치에서의 제1 가이드 영역 또는 제2 가이드 영역을 객체 영역으로 결정하고, 객체 영역으로부터 검출된 윤곽을 객체에 관한 윤곽으로 결정할 수 있다.

도 8은 일 실시 예에 따른 전자 장치가 이미지 내 객체가 추적되는 것으로 식별되는 경우, 객체를 포함하는 이미지를 처리하는 방법을 설명하기 위한 도면이다.

S820에서, 전자 장치(1000)는 제1 이미지 내 객체가 추적되는 것으로 식별되는 경우, N-1 프레임 인덱스를 가지는 이미지 내 객체의 위치를 식별할 수 있다. 예를 들어, 전자 장치(1000)는 N-1 프레임 인덱스로부터 검출된 객체에 대한 위치 정보를 메모리에 미리 저장할 수 있고, 미리 저장된 객체에 대한 위치 정보에 기초하여 N-1 프레임 인덱스를 가지는 이미지 내 객체의 위치를 식별할 수 있다. 일 실시 예에 의하면, 객체의 위치는 N-1 프레임 인덱스를 가지는 이미지 내 픽셀의 좌표를 포함할 수 있다.

S840에서, 전자 장치(1000)는 N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점 및 상기 제1 이미지로부터 추출된 특징점을 이용하여 모션 벡터를 결정할 수 있다. 예를 들어, 전자 장치(1000)는 제1 이미지로부터 추출된 특징점의 좌표 및 상기 특징점에 대응되는 상기 N-1 프레임 인덱스를 가지는 이미지 내 특징점의 좌표의 차이 값을 결정하고, 결정된 차이 값으로부터 X축 성분의 속도 값 및 Y축 성분의 속도 값을 결정할 수 있다. 전자 장치(1000)는 상기 결정된 X축 성분의 속도 값 및 Y축 성분의 속도 값에 기초하여 모션 벡터를 결정할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)가 결정하는 모션 벡터는 옵티컬 플로우에 대응될 수 있다.

예를 들어, 전자 장치(1000)는 N-1 프레임 인덱스로부터 추출된 특징점 및 제1 이미지로부터 추출된 특징점에 기초하여 옵티컬 플로우(Optical flow)를 결정할 수 있다. 전자 장치(1000)는 Lukas & Kanade 방법에 따라, 각 특징점별 편미분을 계산함으로써 x축 및 y축 속도 성분을 결정하고, 상기 결정된 속도 성분에 기초하여 옵티컬 플로우를 결정할 수 있다.

S860에서, 전자 장치(1000)는 N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치 및 상기 결정된 모션 벡터에 기초하여 제1 이미지 내 객체의 위치를 결정할 수 있다. 예를 들어, 전자 장치(1000)는 N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치를 기준으로, 상기 N-1 프레임 인덱스 및 상기 제1 이미지 내 소정의 추적 영역을 결정하고, 상기 결정된 모션 벡터 중, 상기 추적 영역 내에 위치하는 모션 벡터 및 상기 N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치에 기초하여 상기 제1 이미지 내 객체의 위치를 결정할 수 있다.

도 9는 일 실시 예에 따른 전자 장치가 이미지 내 객체가 추적되는 것으로 식별되는 경우, 객체를 포함하는 이미지를 처리하는 방법을 구체적으로 설명하기 위한 도면이다.

전자 장치(1000)는 N-1 프레임 인덱스를 가지는 이미지(902)로부터 특징점(912, 914, 918)을 추출할 수 있다. 또한, 전자 장치(1000)는 N프레임 인덱스를 가지는 이미지(904)인 제1 이미지로부터 특징점(920, 922, 924)를 추출할 수 있다. 또한, 전자 장치(1000)는 N+1 프레임 인덱스를 가지는 이미지(906)로부터 특징점(926, 934)를 추출할 수 있다.

전자 장치(1000)는 N-2 프레임 인덱스 이미지(미도시)로부터 추출된 특징점 및 N-1 프레임 인덱스를 가지는 이미지(902)로부터 추출된 특징점에 기초하여 결정된 모션 벡터를 이용하여 N-1 프레임 인덱스를 가지는 이미지(902)내 객체의 위치(912, 916)를 식별할 수 있다. 일 실시 예에 의하면, 객체의 위치는 객체의 윤곽 내 픽셀 중 적어도 하나의 픽셀의 좌표에 대응될 수 있다.

일 실시 예에 의하면, 전자 장치(1000)는 N-1 프레임 인덱스를 가지는 이미지(902)로부터 추출된 특징점 및 N프레임 인덱스를 가지는 제1 이미지(904)로부터 추출된 특징점의 차이 값에 기초하여, 제1 모션 벡터(908)를 결정할 수 있다. 예를 들어, 전자 장치(1000)는 N프레임 인덱스 이미지 내 특징점(922)의 좌표값 및 N-1 프레임 인덱스를 가지는 이미지(902)내 특징점(914)의 좌표값의 차이값을 결정하고, 결정된 차이 값에 기초하여 제1 부분 모션 벡터를 결정할 수 있다. 또한, 전자 장치(1000)는 N프레임 인덱스 이미지 내 특징점(924)의 좌표값 및 N-1 프레임 인덱스를 가지는 이미지(902)내 특징점(918)의 좌표값의 차이값을 결정하고, 결정된 차이 값에 기초하여 제2 부분 모션 벡터를 결정할 수 있다. 전자 장치는 제1 부분 모션 벡터 및 제2 부분 모션 벡터의 평균 값 또는 제1 부분 모션 벡터 및 제2 부분 모션 벡터에 서로 다른 가중치를 적용함으로써 결정된 가중합 벡터에 기초하여 제1 모션 벡터를 결정할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)는 N프레임 인덱스를 가지는 제1 이미지(904)내 유효 특징점의 수에 대응되는 수의 모션 벡터들을 결정할 수 있다. 또한, 일 실시 예에 의하면, 전자 장치(1000)는 N-1 프레임 인덱스를 가지는 이미지(902) 및 N프레임 인덱스를 가지는 이미지(904) 내 상기 추적된 객체의 위치에 인접한 추적 영역을 결정할 수 있다. 전자 장치(1000)는 N프레임 인덱스를 가지는 제1 이미지(904)내 유효 특징점의 대응되는 수의 모션벡터들 중, 추적 영역 내에 위치하는 모션 벡터들의 평균 값을 결정하고, 결정된 평균 값에 기초하여, 제1 모션 벡터(908)을 결정할 수도 있다.

일 실시 예에 의하면, 전자 장치(1000)는 N프레임 인덱스를 가지는 이미지(904)로부터 추출된 특징점 및 N+1 프레임 인덱스를 가지는 이미지(906)로부터 추출된 특징점의 차이 값에 기초하여 제2 모션 벡터(910)를 결정할 수 있다.

예를 들어, 전자 장치(1000)는 N+1프레임 인덱스 이미지(906) 내 특징점(926)의 좌표값 및 N 프레임 인덱스를 가지는 이미지(904)내 특징점(922)의 좌표값의 차이값을 결정하고, 결정된 차이 값에 기초하여 제3 부분 모션 벡터를 결정할 수 있다. 또한, 전자 장치(1000)는 N+1프레임 인덱스 이미지 내 특징점(934)의 좌표값 및 N 프레임 인덱스를 가지는 이미지(904)내 특징점(924)의 좌표값의 차이값을 결정하고, 결정된 차이 값에 기초하여 제4 부분 모션 벡터를 결정할 수 있다. 전자 장치는 제3 부분 모션 벡터 및 제4 부분 모션 벡터의 평균 값 또는 제3 부분 모션 벡터 및 제4 부분 모션 벡터에 서로 다른 가중치를 적용함으로써 결정된 가중합 벡터에 기초하여 제2 모션 벡터를 결정할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)는 N+1프레임 인덱스를 가지는 제1 이미지(904)내 유효 특징점의 수에 대응되는 수의 모션 벡터들을 결정할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 N 프레임 인덱스를 가지는 이미지(904) 및 N+1프레임 인덱스를 가지는 이미지(906) 내 상기 추적된 객체의 위치에 인접한 추적 영역을 결정할 수 있다. 전자 장치(1000)는 N+1프레임 인덱스를 가지는 제1 이미지(904)내 유효 특징점의 대응되는 수의 모션벡터들 중, 추적 영역 내에 위치하는 모션 벡터들의 평균 값을 결정하고, 결정된 평균 값에 기초하여, 제2 모션 벡터(910)을 결정할 수 있다.

전자 장치(1000)는 N-1 프레임 인덱스를 가지는 이미지(902)내 객체(예컨대 강아지 눈)의 위치에, 제1 모션 벡터를 적용함으로써, N프레임 인덱스 이미지(904) 내 객체의 위치(920, 924)를 식별할 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)는 제1 모션 벡터(908) 및 제2 모션 벡터(910)를 이용하여 객체의 이동 경로를 생성할 수 있다. 예를 들어, 전자 장치(1000)는 N-1 프레임 인덱스를 가지는 이미지(902) 내 객체의 위치를 시작점(912, 916)에, 제1 모션 벡터 및 제2 모션 벡터의 합 벡터를 적용함으로써, N+1 프레임 인덱스를 가지는 이미지(906)내에서 객체의 위치(936)을 식별할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)가 이전 프레임 인덱스의 이미지 내 객체의 위치에 모션 벡터를 적용하는 과정은, 이전 프레임 인덱스의 이미지 내 객체의 위치가, 모션 벡터의 벡터 원점이 되도록 정합하는 과정에 대응될 수 있다.

도 10은 일 실시 예에 따른 전자 장치가 일련의 이미지들로부터 생성한 복수의 모션 벡터를 설명하기 위한 도면이다.

일 실시 예에 의하면, 전자 장치(1000)는 복수의 프레임 이미지들 중 인접한 프레임 인덱스를 가지는 프레임 이미지 쌍별로 모션 벡터를 결정할 수 있다. 예를 들어, 전자 장치(1000)는 복수의 프레임 이미지 각각으로부터 특징점을 추출하고, 인접한 프레임 인덱스를 가지는 이미지 각각으로부터 추출된 특징점들(942 및 946, 946 및 948, 948 및 949, 952 및 954, 954 및 956)좌표의 차이 값에 기초하여 모션 벡터를 결정할 수 있다. 전자 장치(1000)는 결정된 모션 벡터들을 프레임 인덱스에 기초하여 연결함으로써, 특징점들의 이동 경로를 추적할 수 있다.

도 11은 일 실시 예에 따른 전자 장치가 이미지 내 적어도 하나의 잡음을 제거하기 위해 이미지를 전처리 하는 방법을 설명하기 위한 도면이다.

본 개시의 일 실시 예에 따르면, 전자 장치(1000)는 획득한 제1 이미지 내 잡음을 제거하고, 객체 검출의 정확도를 향상시키기 위해서 이미지를 전처리할 수 있다. 일 실시 예에 의하면, S1120에서, 전자 장치(1000)는 제1 이미지 내의 픽셀 값들에 소정의 커널을 적용함으로써 이미지 내 잡음(Noise)을 제거할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)는 가우시안 분포를 나타내는 가우시안 커널을 적용함으로써 이미지 내 가우시안 잡음을 제거할 수 있다. 예를 들어, 전자 장치(1000)가 획득하는 제1 이미지 내에는, 이미지를 촬영한 이미지 센서 자체 특성으로 인한 잡음과 같이 가우시안 분포를 따르는 잡음들이 포함될 수 있다. 이러한 잡음들은 이미지 또는 복수의 이미지를 포함하는 영상의 품질을 떨어뜨릴 수 있다. 전자 장치(1000)는 가우시안 분포(Gaussian Distribution)를 나타내는, 미리 설정된 크기의 가우시안 커널을 이미지에 적용함으로써, 이미지 내 가우시안 잡음을 제거할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 이미지를 소정의 부분 영역들로 분할하고, 분할된 부분 영역들 별로 가우시안 커널을 적용할 수도 있다. 그러나, 이에 한정되는 것은 아니며, 전자 장치(1000)는 이미지 내 잡음(Noise)을 제거하기 위한 기타 이미지 필터들을 이용하여 이미지 내 잡음을 제거할 수도 있다.

S1140에서, 전자 장치(1000)는 잡음이 제거된 이미지 내 픽셀 값들을 변환할 수 있다. 일 실시 예에 따라 가우시안 커널을 사용하는 경우, 전자 장치(1000)는 가우시안 잡음이 제거된 제1 이미지 내 픽셀 값들의 히스토그램을 평활화(equalizing) 할 수도 있다. 예를 들어, 전자 장치(1000)는 제1 이미지 내 픽셀 값들에 기초하여 이미지의 밝기 값들을 픽셀별로 획득할 수 있다. 전자 장치(1000)는 이미지 내 픽셀 별로 밝기 값을 소정의 레벨로 분류한 빈(bin)들에, 이미지 내 픽셀들의 밝기 값을 분류함으로써, 이미지 내 밝기 값에 대한 히스토그램을 생성할 수 있다.

일 실시 예에 의하면, 히스토그램은 이미지 내에서 특정 밝기 값을 나타내는 픽셀의 수를 포함하는 bin을 포함할 수 있고, bin들은 밝기 값을 분류하기 위한 소정의 범위를 가질 수 있다. 전자 장치(1000)는 제1 이미지에 대한 밝기 값의 분포를 나타내는 히스토그램을 평활화함으로써, 이미지 내 밝기 값들이 이미지 전체에 골고루 분포되게 할 수 있다. 또한, 전자 장치(1000)는 제1 이미지에 대한 히스토그램을 평활화함으로써, 이미지 전체의 contrast를 향상시킬 수 있다. 전자 장치는 히스토 그램이 평활화된 제1 이미지 내 관심 영역을 결정하고, 결정된 관심 영역 내 적어도 하나의 가이드 영역들을 이동시킬 수 있다.

또 다른 실시 예에 의하면, 전자 장치(1000)는 히스토그램이 아닌, 이미지 내 픽셀들의 세기(intensity)를 평활화(equalizing)할 수도 있다. 또한, 전자 장치(1000)는 상술한 평준화 방법에 외에 기타 공지의 픽셀 값들을 평준화(equalizing) 하기 위한 방법을 사용하여 이미지 내 픽셀 값들을 평준화할 수도 있다.S1160에서, 전자 장치(1000)는 픽셀 값들이 변환된 이미지들을 적어도 하나의 부분 영역들로 분할하고, 분할된 부분 영역 별로 결정되는 임계값들을 이용하여 부분 영역들 내 픽셀 값들을 이진화 할 수 있다. 예를 들어, 전자 장치(1000)는 이미지를 그레이 스케일(gray scale)이미지로 변환하고, 기 설정된 임계값을 이용하여 이미지를 이진화 할 수도 있다.

또한, 일 실시 예에 따라 전자 장치(1000)가 히스토그램 평활화 기법을 이용하는 경우, 전자 장치(1000)는 히스토그램이 평활화된 이미지들을 적어도 하나의 부분 영역들로 분할하며, 분할된 부분 영역 별로 결정되는 임계값들을 이용하여 부분 영역들 내 픽셀 값들을 이진화 할 수도 있다.

일 실시 예에 의하면, 전자 장치(1000)는 이미지가 그레이 스케일로 변환된 상태인 경우, 부분 영역 별로 결정된 임계값을 이용하여 부분 영역 내 픽셀별 발기 값을 이진화 할 수도 있다.

S1180에서, 전자 장치(1000)는 이진화된 픽셀 값들을 포함하는 제1 이미지 내 적어도 하나의 가이드 영역 별로 객체에 관한 윤곽을 검출할 수 있다. 전자 장치(1000)는 부분 영역 별로 서로 다른 임계값을 이용하여 이미지를 이진화 함으로써, 이진화된 이미지로부터 객체에 대응되는 윤곽을 더 정확하게 검출할 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)는 부부 영역 별로 이진화된 밝기 값을 포함하는 가이드 영역으로부터 객체에 관한 윤곽을 검출할 수도 있다.

도 12는 일 실시 예에 따른 전자 장치가 적어도 하나의 가이드 영역으로부터, 객체에 관한 윤곽을 검출하는 과정을 설명하기 위한 도면이다.

S1220에서, 전자 장치(1000)는 이진화된 픽셀 값들을 포함하는 제1 이미지 내 객체에 대응될 확률이 기 설정된 임계치 보다 큰 윤곽을 포함하는 가이드 영역을 포함하는 사각 형태의 경계 박스를 생성할 수 있다. 예를 들어, 전자 장치(1000)는 기 설정된 임계치 보다 큰 윤곽을 포함하는 가이드 영역으로부터 소정의 높이 및 폭을 증가시킴으로써 사각 형태의 경계 박스를 생성할 수 있다.

S1240에서, 전자 장치(1000)는 경계 박스의 각 변의 중심점에 기초하여 객체를 포함하는 후보 윤곽선을 결정할 수 있다. 예를 들어, 전자 장치(1000)는 경계박스의 꼭지점 좌표들을 식별하고, 식별된 꼭지점들의 좌표에 기초하여 경계박스의 중심점의 좌표를 식별할 수 있다. 전자 장치(1000)는 식별된 중심점의 좌표들 중, 인접한 두개의 중심점을 이용하여 후보 윤곽선을 결정할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)가 생성하는 후보 윤곽선은 인접한 두개의 중심점 중 일 중심점으로부터 시작되어, 다른 중심점에서 종료되는, 임의의 직선 또는 곡선 중 적어도 하나를 포함할 수 있다.

S1260에서, 전자 장치(1000)는 후보 윤곽을 따라 배치되는 후보 윤곽선으로부터 떨어진 거리에 기초하여, 서로 다른 점수를 나타내는 조정 박스들을 이용하여 후보 윤곽선을 조정할 수 있다. 예를 들어, 전자 장치(1000)는 후보 윤곽선을 기준으로 양쪽으로 제1 거리만큼 떨어진 제1 조정 박스를 생성하고, 후보 윤곽선을 기준으로 양쪽으로 제2 거리만큼 떨어진 제2 조정 박스를 생성할 수 있다. 전자 장치(1000)는 제1 조정 박스에는 제1 조정 점수를 할당하고, 제2 조정 박스에는 제2 조정 점수를 할당할 수 있다.

전자 장치(1000)는 서로 다른 점수를 나타내는 복수의 조정 박스들을 이용하여, 현재 생성된 후보 윤곽선들 내 부분 후보 윤곽선들에 대한 점수를 결정할 수 있다. 전자 장치(1000)는 부분 후보 윤곽선들에 대한 점수에 기초하여 부분 후보 윤곽선들을 조정함으로써, 전체 후보 윤곽선을 조정할 수 있다. S1280에서, 전자 장치(1000)는 조정된 후보 윤곽선을 가이드 영역 내 객체의 윤곽으로 검출할 수 있다.

도 13은 일 실시 예에 따른 전자 장치가 이진화된 적어도 하나의 가이드 영역 내 이미지로부터 윤곽선을 검출하는 구체적인 방법을 설명하기 위한 참고 도면이다.

전자 장치(1000)는 이진화된 픽셀 값들을 포함하는 제1 이미지 내 객체에 대응될 확률이 기 설정된 임계치 보다 큰 윤곽을 포함하는 가이드 영역을 포함하는 사각 형태의 경계 박스 (1112)를 생성할 수 있다. 전자 장치(1000)는 경계 박스(1112)의 꼭지점 좌표를 식별하고, 식별된 꼭지점의 좌표에 기초하여 경계 박스의 중심점(1102, 1104, 1106, 1108)의 좌표를 식별할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 식별된 중심점 중, 인접한 2개의 중심점을 연결함으로써 임의의 호를 생성할 수 있다. 예를 들어, 전자 장치(1000)는 경계박스의 중심점(1102) 및 중심점(1104)를 시점과 종점으로 하는 임의의 후보 윤곽(1116)을 검출할 수 있다. 또 다른 실시 예에 의하면, 전자 장치(1000)는 경계박스의 중심점(1106) 및 중심점(1108)을 시점과 종점으로 하는 임의의 후보 윤곽(1114)를 검출할 수도 있다.

예를 들어, 전자 장치(1000)가 경계박스의 인접한 2개의 중심점을 이용하여 후보 윤곽을 검출하는 방법을 구체적으로 설명하기로 한다. 예를 들어, 전자 장치(1000)가 현재 식별한 경계박스의 중심점을 점 A(1122) 및 점 B(1124)가정하기로 한다. 전자 장치(1000)는 점 A 및 점 B를 연결하는 직선을 생성하고, 생성된 직선의 중심점 C (1126)를 식별할 수 있다. 전자 장치(1000)는 점 A 및 점 B를 연결하는 직선에 수직하도록, 중심점 C(1125)로부터 기 설정된 거리만큼 이격된 점 D(1128)를 식별할 수 있다. 전자 장치(1000)는 점 A(1122), WJA B(1124) 및 점 D(1128)을 연결함으로써, 1차 후보 윤곽을 검출할 수 있다.

본 개시에 따른 전자 장치(1000)는 점 A(1122) 및 점 B(1124)를 이용하여 1차 후보 윤곽을 검출한 방법과 유사하게, 식별된 점 A(1122) 및 점 D(1128)를 이용하여 A(1122) 및 점 D(1128)사이의 2차 후보 윤곽을 검출할 수 있다. 또한, 전자 장치(1000)는 점 D(1128) 및 점 B(1124)를 이용하여 2차 후보 윤곽을 유사한 방법으로 검출할 수 있다. 전자 장치(1000)는 상술한 방식을 반복함으로써, 경계박스의 인접한 2개의 중심점을 연결하는 최적의 후보 윤곽선을 결정할 수 있다.

또한, 전자 장치(1000)는 결정된 후보 윤곽선을 따라 서로 다른 점수를 나타내는 조정 박스들을 생성할 수 있다. 예를 들어, 전자 장치(1000)는 후보 윤곽선으로부터 제1 거리만큼 떨어진 제1 조정 박스(1132)를 생성하고, 후보 윤곽선으로부터 제2 거리만큼 떨어진 제2 조정 박스(1134)를 생성할 수 있다. 전자 장치(1000)는 조정 박스들에 서로 다른 조정 점수를 할당할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 제1 조정 박스 및 제2 조정 박스 외의 영역(1136)에는 0의 조정 점수를 할당하거나, 음의 조정 점수를 할당할 수도 있다.

전자 장치(1000)는 후보 윤곽선들에 대하여 결정된 윤곽 점수들이 미리 설정된 임계치 이하보다 작은 경우, 이진화된 이미지를 포함하는 가이드 영역으로부터 다시 윤곽을 검출할 수 있다. 그러나, 전자 장치(1000)는 후보 윤곽선들에 대하여 결정된 윤곽 점수들이 미리 설정된 임계치 보다 큰 경우 해당 후보 윤곽을 객체의 윤곽으로 검출할 수 있다. 즉, 전자 장치(1000)는 후보 윤곽선들을 따라 배치된 복수의 조정 박스들을 이용하여 후보 윤곽선에 대한 윤곽 점수를 결정하고, 윤곽 점수와 미리 설정된 임계치를 비교함으로써, 후보 윤곽선들을 조정할 수 있다. 전자 장치(1000)는 서로 다른 점수를 나타내는 조정 박스들을 이용하여 후보 윤곽선을 조정하고, 조정된 후보 윤곽선을 가이드 영역 내 객체에 대한 최종 윤곽으로 검출할 수 있다.

도 14는 일 실시 예에 따라, 전자 장치가 가이드 영역 내 검출된 객체가 눈에 대응될 확률을 결정하기 위해 이용하는 식별 조건을 설명하기 위한 도면이다.

전자 장치(1000)는 이동하는 가이드 영역 내 검출된 윤곽이 객체에 대응될 확률을 결정하고, 결정된 확률이 미리 설정된 임계치 이상인 가이드 영역으로부터 특징 벡터를 추출하며, 추출된 특징 벡터를 이용하여 객체를 식별할 수 있다. 즉, 전자 장치(1000)는 이진화된 이미지를 포함하는 가이드 영역 내 윤곽을 구성하는 윤곽 성분(1146), 상기 윤곽 성분에 기초하여 소정의 식별 조건(1152)를 결정하고, 결정된 윤곽 성분 및 식별 조건에 기초하여, 특정 위치의 가이드 영역으로부터 특징 벡터를 추출할 지 여부를 결정할 수 있다.

일 실시 예에 의하면, 전자 장치(1000)가 가이드 영역을 이동시키는 도중, 특징 벡터를 추출할 특정 위치의 가이드 영역을 결정하기 위한 윤곽 성분(1146) 및 식별 조건들(1152)들은 각각에 할당된 고유 식별번호에 의하여 식별될 수 있다. 전자 장치(1000)는 윤곽 성분 및 식별 조건들을 매칭하여 전자 장치의 메모리에 저장해둘 수 있다.

일 실시 예에 의하면, 전자 장치(1000)가 이용하는 윤곽 성분(1146)은 가이드 영역으로부터 추출된 윤곽의 높이, 윤곽의 폭, 윤곽의 면적, 윤곽을 구성하는 픽셀, 상기 윤곽을 구성하는 픽셀들의 좌표에 대한 정보를 포함할 수 있다. 또한, 일 실시 예에 의하면, 전자 장치(1000)가 이용하는 식별 조건(1152)은 상기 윤곽 성분에 기초하여, 윤곽을 기준으로 형성된 타원 내 픽셀들의 강도, 검출된 윤곽의 면적을 포함할 수 있다.

또한, 일 실시 예에 의하면, 전자 장치(1000)가 이용하는 식별 조건(1152)은 검출된 윤곽의 좌표 정보, 검출된 윤곽의 높이 및 폭의 비율(Aspect ratio) 또는 최외곽 윤곽의 면적 및 상기 최외곽 윤곽의 면적을 제외한 상기 윤곽 내 면적의 비율(solidity)를 더 포함할 수도 있으나 이에 한정되는 것은 아니다.

일 실시 예에 의하면, 전자 장치(1000)는 결정된 식별 조건에 서로 다른 가중치를 적용함으로써, 적어도 하나의 가이드 영역 내 윤곽들이 객체에 대응될 확률을 결정할 수 있다. 예를 들어, 전자 장치(1000)는 가이드 영역에서 검출된 윤곽을 기준으로 형성된 타원 내 픽셀들의 강도 값을 식별한 후, 식별된 강도 값의 세기에 따라, 식별 조건 내 하나의 식별 조건인 제1 항목에는 제1 점수를 할당할 수 있다.

또한, 전자 장치(1000)는 가이드 영역에서 검출된 윤곽의 높이 및 폭의 비율(Aspect ratio)에 따라 식별 조건 내 제2 항목의 식별 조건에는 제2 점수를 할당할 수 있다. 또한, 전자 장치(1000)는 가이드 영역에서 검출된 최외곽 윤곽의 면적 및 최외곽 윤곽의 면적을 제외한 윤곽 내 면적의 비율(solidity)에 따라 제3 항목을 결정할 수 있으며, 식별 조건 내 제3 항목에는 제3 점수를 할당할 수 있다. 마찬가지로, 전자 장치(1000)는 가이드 영역으로부터 검출된 윤곽이 다른 식별조건의 항목들에 대응하는 정도에 따라 점수를 할당할 수 있다.

전자 장치(1000)는 각 식별 조건의 항목 별로 할당된 점수를 합한 값에 기초하여, 가이드 영역으로부터 검출된 윤곽이 객체에 대응될 확률을 결정할 수 있다. 또한, 일 실시 예에 의하면, 전자 장치(1000)는 각 식별 조건에 대응되는 점수를 단순히 합하는 것이 아니라, 식별 조건 별로 서로 다른 가중치를 결정하고, 서로 다른 가중치에 따라 각 식별 조건에 대한 점수들을 가중합함으로써, 가이드 영역 내 윤곽이 객체에 대응될 확률을 결정할 수도 있다.

도 15는 일 실시 예에 따른 전자 장치의 블록도이다.

도 16은 또 다른 실시 예에 따른 전자 장치의 블록도이다.

도 15에 도시된 바와 같이, 전자 장치(1000)는 프로세서(1300), 메모리(1700), 카메라 모듈(1610) 및 디스플레이부(1210)를 포함할 수 있다. 그러나 도시된 구성 요소 모두가 필수구성요소인 것은 아니다. 도시된 구성요소보다 많은 구성요소에 의해 전자 장치(1000)가 구현될 수도 있고, 그보다 적은 구성 요소에 의해서도 전자 장치(1000)가 구현될 수도 있다.

예를 들어, 도 16에 도시된 바와 같이, 일 실시 예에 따른 전자 장치(1000)는 프로세서(1300), 메모리(1700), 카메라 모듈(1610) 및 디스플레이부(1210)이외에 사용자 입력 인터페이스(1100), 음향 출력부(1220) 및 진동 모터(1230)를 더 포함하는 출력부(1200), 센싱부(1400), 네트워크 인터페이스(1500), A/V 입력부(1600), 체결부(미도시)를 더 포함할 수도 있다.

사용자 입력 인터페이스(1100)는, 사용자가 전자 장치 (1000)를 제어하기 위한 시퀀스를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력 인터페이스(1100)에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다. 사용자 입력 인터페이스(1100)는 전자 장치(1000)가 디스플레이 상에 출력한 화면에 대한 사용자의 입력 시퀀스를 수신할 수 있다. 또한, 사용자 입력 인터페이스(1100)는 디스플레이를 터치하는 사용자의 터치 입력 또는 디스플레이상 그래픽 사용자 인터페이스를 통한 키 입력을 수신할 수도 있다.

출력부(1200)는, 오디오 신호 또는 비디오 신호 또는 진동 신호를 출력할 수 있으며, 출력부(1200)는 디스플레이부(1210), 음향 출력부(1220), 및 진동 모터(1230)를 포함할 수 있다.

디스플레이부(1210)는 전자 장치(1000)에서 처리되는 정보를 표시 출력하기 위한 화면을 포함한다. 또한, 화면은 동물 이미지를 사용자가 촬영하도록 하기 위한 안내 메시지, 적어도 하나의 가이드 영역들을 표시할 수 있다. 음향 출력부(1220)는 네트워크 인터페이스 (1500)로부터 수신되거나 메모리(1700)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력부(1220)는 전자 장치(1000)에서 수행되는 기능과 관련된 음향 신호를 출력한다. 진동 모터(1230)는 진동 신호를 출력할 수 있다. 예를 들어, 진동 모터(1230)는 전자 장치(1000)에서 수행되는 기능들의 출력에 대응하는 진동 신호를 출력할 수 있다.

프로세서(1300)는, 통상적으로 전자 장치(1000)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(1300)는, 메모리(1700)에 저장된 프로그램들을 실행함으로써, 사용자 입력부(1100), 출력부(1200), 센싱부(1400), 통신부(1500), A/V 입력부(1600) 등을 전반적으로 제어할 수 있다. 또한, 프로세서(1300)는 메모리(1700)에 저장된 프로그램들을 실행함으로써, 도 1 내지 도 13에 기재된 전자 장치(1000)의 기능을 수행할 수 있다.

구체적으로, 프로세서(1300)는 사용자 입력부를 제어함으로써 전자 장치의 화면을 터치하는 사용자의 입력을 획득할 수 있다. 일 실시 예에 의하면, 프로세서(1300)는 사용자의 음성을 획득하도록 마이크로폰을 제어할 수도 있다. 프로세서(1300)는 사용자 입력에 기초하여 객체를 포함하는 이미지들을 획득할 수 있고, 이미지 내 객체가 식별되지 않는 경우, 사용자로부터 재 수신된 사용자 입력에 기초하여, 객체를 포함하는 이미지를 다시 획득할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 메모리에 저장된 상기 하나 이상의 인스트럭션을 실행함으로써, 상기 객체를 포함하는 이미지를 획득하고, 상기 획득된 이미지 내 객체의 움직임을 추적하며, 추적된 객체의 움직임에 기초하여 결정되는 객체의 위치에 적어도 하나의 이미지 필터를 적용함으로써 제2 이미지를 생성할 수 있다. 일 실시 예에 의하면, 상기 인공 지능 모델은 인공 신경망 모델일 수 있고, 인공 신경망 모델은 입력 레이어, 출력 레이어 및 상기 입력 레이어와 출력 레이어 사이의 하나 이상의 히든 레이어들을 포함하고, 상기 입력 레이어, 출력 레이어 및 상기 히든 레이어들 사이의 연결 강도에 관한 가중치가 갱신되는 전방향(FeedForward) 네트워크일 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 객체를 포함하는 제1 이미지를 획득하고, 상기 제1 이미지 내 상기 객체의 추적 상태를 식별하고, 상기 식별된 객체의 추적 상태에 기초하여 상기 제1 이미지 내 객체의 위치를 결정하고, 상기 객체에 적용할 서로 다른 이미지 효과를 나타내는 적어도 하나의 이미지 필터를 결정하며, 상기 결정된 객체의 위치에 따라 상기 적어도 하나의 이미지 필터를 상기 제1 이미지 내 객체에 적용함으로써 제2 이미지를 생성할 수 있다.

또한, 일 실시 예에 의하면, 프로세서(1300)는 상기 제1 이미지로부터 상기 객체에 관한 특징점을 추출하고, 상기 추출된 특징점 및 상기 제1 이미지의 프레임 인덱스를 N으로 할 때, N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점의 비교결과에 기초하여, 상기 제1 이미지 내 특징점 중 유효 특징점의 수를 식별하고, 상기 유효 특징점의 수에 기초하여 상기 객체의 추적 상태를 식별할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 제1 이미지 내 상기 객체가 추적되지 않는 것으로 식별되는 경우, 상기 제1 이미지의 관심 영역으로부터 상기 객체를 검출하고, 상기 관심 영역 내 적어도 일부 영역으로부터 추출된 특징 벡터에 기초하여 상기 검출된 객체의 종류를 식별하고, 상기 식별된 객체의 종류가 동물의 눈 또는 상기 동물의 눈과 관련된 부분 객체들로 식별되는 경우, 상기 검출된 객체의 위치 정보에 기초하여 상기 객체의 위치를 결정할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 제1 이미지 내 상기 객체가 추적되는 것으로 식별되는 경우, 상기 N-1 프레임 인덱스를 가지는 이미지 내 상기 객체의 위치를 식별하고, 상기 N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점 및 상기 제1 이미지로부터 추출된 특징점을 이용하여 모션 벡터를 결정하며, 상기 N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치 및 상기 결정된 모션 벡터에 기초하여 상기 제1 이미지 내 객체의 위치를 결정할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 제1 이미지의 관심 영역 내 적어도 하나의 가이드 영역을 이동시키고, 상기 적어도 하나의 가이드 영역으로부터 상기 객체를 식별하기 위한 특징 벡터를 추출하며, 상기 추출된 특징 벡터를 인공 지능(Artificial intelligence) 모델에 입력함으로써 상기 이미지 내 객체의 종류를 식별할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 적어도 하나의 가이드 영역 별로 상기 객체에 관한 윤곽(Contour)을 검출하고, 상기 검출된 윤곽이 상기 객체에 대응될 확률을 결정하고, 상기 객체에 대응될 확률이 기 설정된 임계치 보다 큰 윤곽을 포함하는 가이드 영역으로부터 상기 특징 벡터를 추출하고, 상기 추출된 특징 벡터를 상기 인공 지능 모델에 입력함으로써 상기 이미지 내 객체의 종류를 식별할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 제1 이미지로부터 추출된 특징점의 좌표 및 상기 특징점에 대응되는 상기 N-1 프레임 인덱스를 가지는 이미지 내 특징점의 좌표의 차이 값을 결정하고, 상기 결정된 차이 값으로부터 X축 성분의 속도 값 및 Y축 성분의 속도 값을 결정하며, 상기 결정된 X축 성분의 속도 값 및 Y축 성분의 속도 값에 기초하여 상기 모션 벡터를 결정할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치를 기준으로, 상기 N-1 프레임 인덱스 및 상기 제1 이미지 내 소정의 추적 영역을 결정하고, 상기 결정된 모션 벡터 중, 상기 추적 영역 내에 위치하는 모션 벡터 및 상기 N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치에 기초하여 상기 제1 이미지 내 객체의 위치를 결정할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 적어도 하나의 가이드 영역 내 픽셀들의 그래디언트(Gradient)를 결정하고, 상기 결정된 그래디언트를 이용하여 상기 적어도 하나의 가이드 영역 내 부분 영역 별 히스토그램을 생성하며, 상기 부분 영역 별로 생성된 히스토그램의 빈(bin) 값을 연결함으로써 상기 특징 벡터를 추출할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 제1 이미지 내의 픽셀 값들에 가우시안 분포를 나타내는 가우시안 커널을 적용함으로써 상기 획득된 이미지 내 가우시안 잡음을 제거하고, 상기 가우시안 잡음이 제거된 제1 이미지 내 픽셀 값들의 히스토그램을 평활화(equalizing)하고, 상기 히스토그램이 평활화된 제1 이미지 내 관심 영역을 결정하고, 상기 결정된 관심 영역 내 상기 적어도 하나의 가이드 영역을 이동시킬 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 히스토그램이 평활화된 제1 이미지를 미리 설정된 크기의 적어도 하나의 부분 영역들로 분할하고, 상기 분할된 부분 영역들의 픽셀 값에 기초하여 상기 부분 영역 별로 임계값들을 결정하며, 상기 결정된 임계값들에 기초하여 상기 부분 영역들 내의 픽셀 값들을 이진화 하고, 상기 이진화된 픽셀 값들을 포함하는 제1 이미지 내, 상기 적어도 하나의 가이드 영역 별로 상기 객체에 관한 윤곽을 검출할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 검출된 윤곽 내 윤곽 성분들을 이용하여 상기 객체를 식별하기 위한 식별 조건을 결정하고, 상기 결정된 식별 조건에 서로 다른 가중치를 적용함으로써, 상기 적어도 하나의 가이드 영역 내 윤곽이 상기 객체에 대응될 확률을 결정할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 객체에 대응될 확률이 기 설정된 임계치 보다 큰 윤곽을 포함하는 상기 적어도 하나의 가이드 영역들의 크기를 리사이징(resizing) 하고, 상기 리사이징된 적어도 하나의 가이드 영역 별로 상기 특징 벡터를 추출할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 이진화된 픽셀 값들을 포함하는 제1 이미지 내, 상기 객체에 대응될 확률이 기 설정된 임계치 보다 큰 윤곽을 포함하는 가이드 영역을 포함하는 사각 형태의 경계 박스를 생성하고, 상기 생성된 경계박스의 각 변의 중심점에 기초하여 상기 객체를 포함하는 후보 윤곽선을 결정하고, 상기 결정된 후보 윤곽선을 따라 배치되고, 상기 후보 윤곽선으로부터 떨어진 거리에 기초하여, 서로 다른 점수를 나타내는 조정 박스들을 이용하여 상기 후보 윤곽선을 조정하며, 상기 조정된 후보 윤곽선을 상기 객체의 윤곽으로 검출할 수 있다.

일 실시 예에 의하면, 프로세서(1300)는 상기 조정된 후보 윤곽선을 기 설정된 중간값 필터를 이용하여 평탄화(smoothing) 하고, 상기 평탄화된 후보 윤곽선을 상기 적어도 하나의 가이드 영역 별 상기 객체에 관한 윤곽으로 검출할 수 있다.

상기 윤곽 성분들은 상기 검출된 윤곽의 높이, 상기 윤곽의 폭, 상기 검출된 윤곽의 면적, 상기 검출된 윤곽 중 최외곽 윤곽의 면적, 상기 윤곽을 구성하는 픽셀들을 포함하고, 상기 식별 조건은 상기 검출된 윤곽을 기준으로 형성된 타원 내 픽셀들의 강도, 상기 검출된 윤곽의 면적, 상기 검출된 윤곽의 좌표, 상기 검출된 윤곽의 높이 및 상기 윤곽의 폭의 비율, 상기 최외곽 윤곽의 면적 및 상기 최외곽 윤곽의 면적을 제외한 상기 윤곽 내 면적의 비율을 포함할 수 있다.

센싱부(1400)는, 전자 장치(1000)의 상태 또는 전자 장치(1000) 주변의 상태를 감지하고, 감지된 정보를 프로세서(1300)로 전달할 수 있다. 센싱부(1400)는, 지자기 센서(Magnetic sensor)(1410), 가속도 센서(Acceleration sensor)(1420), 온/습도 센서(1430), 적외선 센서(1440), 자이로스코프 센서(1450), 위치 센서(예컨대, GPS)(1460), 기압 센서(1470), 근접 센서(1480), 및 RGB 센서(illuminance sensor)(1490) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. 각 센서들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있으므로, 구체적인 설명은 생략하기로 한다.

네트워크 인터페이스(1500)는, 전자 장치(1000)가 다른 장치(미도시) 및 서버(2000)와 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 다른 장치(미도시)는 전자 장치(1000)와 같은 컴퓨팅 장치이거나, 센싱 장치일 수 있으나, 이에 제한되지 않는다. 예를 들어, 네트워크 인터페이스(1500)는, 무선 통신 인터페이스(1510), 유선 통신 인터페이스(1520) 및 이동 통신부(530)를 포함할 수 있다.

무선 통신 인터페이스(1510)는 근거리 통신부(short-range wireless communication unit), 블루투스 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다. 유선 통신 인터페이스(1520)는 서버(2000)또는 전자 장치(1000)를 유선으로 연결할 수 있다.

이동 통신부(1530)는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 무선 신호는, 음성 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

일 실시 예에 의하면, 네트워크 인터페이스(1500)는 프로세서의 제어에 의하여, 객체를 촬영한 이미지에 대한 정보 또는 복수의 프레임으로 구성된 영상들에 대한 정보를 서버로 전송할 수도 있다. 또한, 네트워크 인터페이스(1500)는 서버로부터 이미지 내 객체를 인식한 결과에 대한 정보를 더 수신할 수도 있다.

A/V(Audio/Video) 입력부(1600)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(1610)와 마이크로폰(1620) 등이 포함될 수 있다. 카메라(1610)는 화상 통화모드 또는 촬영 모드에서 이미지 센서를 통해 정지영상 또는 동영상 등의 화상 프레임을 얻을 수 있다. 이미지 센서를 통해 캡쳐된 이미지는 프로세서(1300) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다. 예를 들어, 카메라 모듈(1610)은 사용자 입력에 기초하여, 동물 이미지를 복수 횟수로 획득할 수 있다.

마이크로폰(1620)은, 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크로폰(1620)은 외부 디바이스 또는 사용자로부터 음향 신호를 수신할 수 있다. 마이크로폰(1620)은 사용자의 음성 입력을 수신할 수 있다. 마이크로폰(1620)은 외부의 음향 신호를 입력 받는 과정에서 발생 되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘을 이용할 수 있다.

메모리(1700)는, 프로세서(1300)의 처리 및 제어를 위한 프로그램을 저장할 수 있고, 전자 장치(1000)로 입력되거나, 출력되는 데이터를 저장할 수도 있다. 또한, 메모리(1700)는 전자 장치(1000)가 사용자 입력에 기초하여 획득한, 객체를 포함하는 이미지, 영상에 대한 정보, 이미지 또는 영상에 표시된 적어도 하나의 가이드 영역에 대한 정보, 추적된 객체의 움직임에 대한 정보, 추적된 객체에 적용할 이미지 필터들에 대한 정보, 가이드 영역으로부터 검출된 윤곽에 대한 정보, 가이드 영역 별 객체의 식별 결과에 대한 정보, 가이드 영역 별 윤곽이 객체에 대응될 확률을 결정하기 위한 윤곽 성분, 또는 식별 조건에 대한 정보를 더 저장할 수도 있다.

메모리(1700)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.

메모리(1700)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈(1710), 터치 스크린 모듈(1720), 알림 모듈(1730) 등으로 분류될 수 있다.

UI 모듈(1710)은, 애플리케이션 별로 전자 장치(1000)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈(1720)은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 프로세서(1300)로 전달할 수 있다. 일부 실시예에 따른 터치 스크린 모듈(1720)은 터치 코드를 인식하고 분석할 수 있다. 터치 스크린 모듈(1720)은 컨트롤러를 포함하는 별도의 하드웨어로 구성될 수도 있다.

알림 모듈(1730)은 전자 장치(1000)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다. 전자 장치(1000)에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 일정 알림 등이 있다. 알림 모듈(1730)은 디스플레이부(1210)를 통해 비디오 신호 형태로 알림 신호를 출력할 수도 있고, 음향 출력부(1220)를 통해 오디오 신호 형태로 알림 신호를 출력할 수도 있고, 진동 모터(1230)를 통해 진동 신호 형태로 알림 신호를 출력할 수도 있다.

도 17은 일 실시 예에 따른 서버의 블록도이다.

서버(2000)는 네트워크 인터페이스(2100), 데이터 베이스(2200) 및 프로세서(2300)를 포함할 수 있다. 네트워크 인터페이스(2100)는 도 16에 도시된 전자 장치(1000)의 네트워크 인터페이스(1500)에 대응될 수 있다. 예를 들어, 네트워크 인터페이스(2100)는 전자 장치(1000)로부터 객체들을 촬영한 이미지 또는 영상에 대한 정보, 추적된 객체의 움직임에 대한 정보, 수신된 이미지 또는 영상 내 객체를 식별한 결과, 이미지 또는 영상 내 식별된 객체의 위치에 이미지 필터를 적용함으로써 생성된 제2 이미지에 대한 정보를 전자 장치(1000)로 전송할 수 있다.

데이터 베이스(2200)는 도 16에 도시된 전자 장치(1000)의 메모리(1700)에 대응될 수 있다. 예를 들어, 데이터 베이스(2200)는 전자 장치(1000)가 사용자 입력에 기초하여 획득한, 객체를 포함하는 이미지, 영상에 대한 정보, 영상 내 객체의 움직임에 대한 정보, 객체에 적용될 적어도 하나의 필터들에 대한 정보, 이미지 또는 영상에 표시된 적어도 하나의 가이드 영역에 대한 정보, 가이드 영역으로부터 검출된 윤곽에 대한 정보, 가이드 영역 별 객체의 식별 결과에 대한 정보, 가이드 영역 별 윤곽이 객체에 대응될 확률을 결정하기 위한 윤곽 성분, 또는 식별 조건에 대한 정보를 더 저장할 수 있다.

프로세서(2300)는 통상적으로 서버(2000)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(2300)는, 서버(2000)의 DB(2200)에 저장된 프로그램들을 실행함으로써, DB(2200) 및 네트워크 인터페이스(2100) 등을 전반적으로 제어할 수 있다. 또한, 프로세서(2300)는 DB(2100)에 저장된 프로그램들을 실행함으로써, 도 1 내지 도14에서의 전자 장치(1000)의 동작의 일부를 수행할 수 있다. 예를 들어, 프로세서(2300)는 전자 장치로부터 객체를 포함하는 제1 이미지를 획득하고, 제1 이미지 내 상기 객체의 추적 상태를 식별하며, 상기 식별된 객체의 추적 상태에 기초하여 상기 제1 이미지 내 객체의 위치를 결정하고, 상기 객체에 적용할 서로 다른 이미지 효과를 나타내는 적어도 하나의 이미지 필터를 결정하며, 상기 결정된 객체의 위치에 따라 상기 적어도 하나의 이미지 필터를 상기 제1 이미지 내 객체에 적용함으로써 제2 이미지를 생성할 수 있다. 서버(2000)는 생성된 제2 이미지를 전자 장치(1000)로 전송할 수도 있다.

도 18은 일 실시 예에 따른 전자 장치 및 서버가 서로 연동함으로써 적어도 하나의 객체를 포함하는 이미지를 처리하는 과정을 설명하기 위한 도면이다.

S1602에서, 전자 장치(1000)는 객체를 포함하는 제1 이미지를 획득할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 전자 장치 내 적어도 하나의 카메라를 이용하여, 동물 이미지를 포함하는 영상을 획득할 수도 있다. S1604에서, 전자 장치(1000)는 객체를 포함하는 제1 이미지에 대한 정보를 서버(2000)로 전송할 수 있다. 일 실시 예에 의하면, 전자 장치(1000)는 동물을 포함하는 제1 이미지 또는 영상에 대한 정보를 서버(2000)로 전송할 수도 있다.

S1606에서, 서버(2000)는 제1 이미지 내 객체의 추적 상태를 식별할 수 있다. 일 실시 예에 의하면, 서버(2000)는 옵티컬 플로우를 결정하기 위한 제1 이미지 내 특징점들 중, 유효 특징점의 수를 결정하고, 결정된 유효 특징점의 수가 기 설정된 임계치 이상인지 여부에 기초하여 객체의 추적 상태를 식별할 수 있다.

S1608에서, 서버(2000)는 식별된 객체의 추적 상태에 기초하여 제1 이미지 내 객체의 위치를 결정할 수 있다. 예를 들어, 서버(2000)는 제1 이미지 내 객체가 추적되고 있는 것으로 식별되는 경우, N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치를 기준으로, 상기 N-1 프레임 인덱스 및 상기 제1 이미지 내 소정의 추적 영역을 결정하고, 상기 결정된 모션 벡터 중, 상기 추적 영역 내에 위치하는 모션 벡터 및 상기 N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치에 기초하여 상기 제1 이미지 내 객체의 위치를 결정할 수 있다.

또 다른 실시 에에 따라, 서버(2000)는 제1 이미지 내 객체가 추적되고 있지 않는 것으로 식별하는 경우, 제1 이미지로부터 객체를 새로 검출하고, 검출된 객체가 소정의 객체의 종류에 대응되는지 여부를 식별함으로써, 객체를 인증하며, 인증된 객체의 위치 정보에 기초하여, 제1 이미지 내 객체의 위치를 결정할 수 있다.

S1610에서, 서버(2000)는 객체에 적용할 서로 다른 이미지 효과를 나타내는 이미지 필터들을 결정할 수 있다. 예를 들어, 서버(2000)는 서로 다른 이미지 필터들에 대한 정보를 메모리에 저장할 수 있고, 이미지 내 객체들의 부분 객체들에 서로 다른 이미지 필터들을 적용할 수도 있다.

S1612에서, 서버(2000)는 결정된 객체의 위치에 따라 적어도 하나의 이미지 필터를 제1 이미지 내 객체에 적용함으로써 제2 이미지를 생성할 수 있다. 일 실시 예에 의하면, 서버(2000)는 제1 이미지 내 적어도 하나의 이미지 필터들을 적용함으로써 효과 이미지들을 생성하고, 생성된 효과 이미지들을 제1 이미지 내 식별된 객체의 위치에 합성함으로써 제2 이미지를 생성할 수 있다. S1614에서, 서버(2000)는 생성된 제2 이미지에 대한 정보를 전자 장치로 전송할 수 있다. S1616에서, 전자 장치(1000)는 서버로부터 수신된 제2 이미지를 출력할 수 있다.

전자 장치(1000) 및 서버(2000)가 연동함으로써 객체를 포함하는 이미지를 처리하는 방법은 상술한 바에 한정되지 않으며, 제1 이미지 내 객체의 추적 상태를 식별하는 과정, 추적 상태에 기초하여 제1 이미지 내 객체의 위치를 결정하는 과정, 결정된 객체의 위치에 대하여 서로 다른 이미지 필터들을 적용하는 과정 중 적어도 하나의 과정이 전자 장치에서 수행될 수도 있음은 물론이다.

도 19는 또 다른 실시 예에 따라 전자 장치 적어도 하나의 객체를 포함하는 이미지를 처리하는 과정을 설명하기 위한 도면이다.

S1902에서, 전자 장치(1000)는 강아지의 눈에 대응되는 객체를 포함하는 제1 이미지를 획득할 수 있다. S1904에서, 전자 장치(1000)는 제1 이미지 내 객체의 추적 상태를 식별한 결과, 객체가 추적되고 있지 않는 것으로 결정되는 경우, 제1 이미지 내 픽셀들 값의 변화량에 기초하여 눈을 검출할 수 있다. S1906에서, 전자 장치(1000)는 검출된 객체의 종류를 식별함으로써, 검출된 객체가 미리 결정된 강아지의 눈이 맞는지 여부를 인증할 수 있다. 또한, 전자 장치(1000)는 검출된 객체가 강아지의 눈으로 인증되는 경우, 인증된 강아지의 눈에 대한 위치 정보를 결정할 수 있다.

S1908에서, 서버(2000)는 제1 이미지의 이전 프레임 인덱스를 가지는 프레임 이미지로부터 추적된 눈의 위치 및 상기 제1 이미지로부터 추출된 특징점 및 이전 프레임 인덱스를 가지는 프레임이미지로부터 추출된 특징점의 좌표값의 차이에 기초하여 결정되는 모션 벡터를 이용하여, 현재 추적되고 있는 눈의 위치 정보를 결정할 수 있다.

S1910에서, 전자 장치(1000)는 제1 이미지보다 앞선 프레임 인덱스를 가지는 프레임 이미지들에서의 객체 추적 상태 및 제1 이미지로부터 현재 결정된 객체 추적 상태를 이용하여 현재 제1 이미지에 대한 옵티컬 플로우를 갱신할 수 있다. S1912에서, 전자 장치(1000)는 제1 이미지에 대하여 갱신된 옵티컬 플로우를 이용하여 제1 이미지 내 객체의 위치를 추정하고, 추정된 객체의 위치에 이미지 필터를 적용함으로써 제2 이미지를 생성할 수 있다.

일 실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 개시를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다.

또한, 상기 일 실시 예에 다른 방법을 수행하도록 하는 프로그램이 저장된 기록매체를 포함하는 컴퓨터 프로그램 장치가 제공될 수 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.

이상에서 본 개시의 실시예에 대하여 상세하게 설명하였지만 본 개시의 권리범위는 이에 한정되는 것은 아니고 다음의 청구범위에서 정의하고 있는 본 개시의 기본 개념을 이용한 당업자의 여러 변형 및 개량 형태 또한 본 개시의 권리범위에 속한다.

Claims (16)

1. 전자 장치가 객체를 포함하는 이미지를 처리하는 방법에 있어서,
   상기 객체를 포함하는 제1 이미지를 획득하는 단계;
   상기 제1 이미지 내 상기 객체의 추적 상태를 식별하는 단계;
   상기 식별된 객체의 추적 상태에 기초하여 상기 제1 이미지 내 객체의 위치를 결정하는 단계;
   상기 객체에 적용할 서로 다른 이미지 효과를 나타내는 적어도 하나의 이미지 필터를 결정하는 단계; 및
   상기 결정된 객체의 위치에 따라 상기 적어도 하나의 이미지 필터를 상기 제1 이미지 내 객체에 적용함으로써 제2 이미지를 생성하는 단계; 를 포함하고,
   상기 객체의 위치를 결정하는 단계는
   상기 제1 이미지 내 객체가 추적되지 않는 것으로 식별되는 경우, 상기 제1 이미지의 관심 영역 내 서로 다른 크기의 가이드 영역들을 이동시키는 단계;
   상기 서로 다른 크기의 가이드 영역들을 이동시키면서, 서로 다른 크기의 가이드 영역들 별로 검출되는 객체에 관한 윤곽(Contour)이 상기 객체에 대응될 확률 값이, 기 설정된 임계치 이상인 경우, 상기 객체에 대응될 확률 값이 기 설정된 임계치 이상으로 식별된 윤곽이 검출된 가이드 영역의 위치를 식별하는 단계;
   상기 식별된 위치에서의 가이드 영역으로부터 특징 벡터를 추출하는 단계; 및
   상기 추출된 특징 벡터를 인공 지능 모델에 입력함으로써 상기 인공 지능 모델로부터 출력되는 객체의 종류가 기 설정된 종류로 식별되는 경우, 상기 객체에 대응될 확률 값이 기 설정된 임계치 이상으로 식별된 윤곽으로부터 상기 객체의 위치를 결정하는 단계; 를 포함하는, 방법.
2. 제1항에 있어서, 상기 객체의 추적 상태를 식별하는 단계는
   상기 제1 이미지로부터 상기 객체에 관한 특징점을 추출하는 단계;
   상기 추출된 특징점 및 상기 제1 이미지의 프레임 인덱스를 N으로 할 때, N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점의 비교결과에 기초하여, 상기 제1 이미지 내 특징점 중 유효 특징점의 수를 식별하는 단계; 및
   상기 유효 특징점의 수에 기초하여 상기 객체의 추적 상태를 식별하는 단계; 를 포함하는, 방법.
3. 제1항에 있어서, 상기 객체의 위치를 결정하는 단계는
   상기 제1 이미지 내 상기 객체가 추적되지 않는 것으로 식별되는 경우, 상기 제1 이미지의 관심 영역으로부터 상기 객체를 검출하는 단계;
   상기 관심 영역 내 적어도 일부 영역으로부터 추출된 특징 벡터에 기초하여 상기 검출된 객체의 종류를 식별하는 단계; 및
   상기 식별된 객체의 종류가 동물의 눈 또는 상기 동물의 눈과 관련된 부분 객체들로 식별되는 경우, 상기 검출된 객체의 위치 정보에 기초하여 상기 객체의 위치를 결정하는 단계; 를 포함하는, 방법.
4. 제2항에 있어서, 상기 객체의 위치를 결정하는 단계는
   상기 제1 이미지 내 상기 객체가 추적되는 것으로 식별되는 경우, 상기 N-1 프레임 인덱스를 가지는 이미지 내 상기 객체의 위치를 식별하는 단계;
   상기 N-1 프레임 인덱스를 가지는 이미지로부터 추출된 특징점 및 상기 제1 이미지로부터 추출된 특징점을 이용하여 모션 벡터를 결정하는 단계; 및
   상기 N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치 및 상기 결정된 모션 벡터에 기초하여 상기 제1 이미지 내 객체의 위치를 결정하는 단계; 를 포함하는, 방법.
5. 제3항에 있어서, 상기 객체의 종류를 식별하는 단계는
   상기 서로 다른 크기의 가이드 영역들로부터 상기 객체를 식별하기 위한 특징 벡터를 추출하는 단계; 및
   상기 추출된 특징 벡터를 인공 지능(Artificial intelligence) 모델에 입력함으로써 상기 이미지 내 객체의 종류를 식별하는 단계; 를 포함하는, 방법.
6. 제5항에 있어서, 상기 객체의 종류를 식별하는 단계는
   상기 서로 다른 크기의 가이드 영역 별로 상기 객체에 관한 윤곽(Contour)을 검출하는 단계;
   상기 검출된 윤곽이 상기 객체에 대응될 확률을 결정하는 단계;
   상기 객체에 대응될 확률이 기 설정된 임계치 보다 큰 윤곽을 포함하는 가이드 영역으로부터 상기 특징 벡터를 추출하는 단계; 및
   상기 추출된 특징 벡터를 상기 인공 지능 모델에 입력함으로써 상기 이미지 내 객체의 종류를 식별하는 단계; 를 포함하는, 방법.
7. 제4항에 있어서, 상기 모션 벡터를 결정하는 단계는
   상기 제1 이미지로부터 추출된 특징점의 좌표 및 상기 특징점에 대응되는 상기 N-1 프레임 인덱스를 가지는 이미지 내 특징점의 좌표의 차이 값을 결정하는 단계;
   상기 결정된 차이 값으로부터 X축 성분의 속도 값 및 Y축 성분의 속도 값을 결정하는 단계; 및
   상기 결정된 X축 성분의 속도 값 및 Y축 성분의 속도 값에 기초하여 상기 모션 벡터를 결정하는 단계; 를 포함하는, 방법.
8. 제4항에 있어서, 상기 객체의 위치를 결정하는 단계는
   상기 N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치를 기준으로, 상기 N-1 프레임 인덱스 및 상기 제1 이미지 내 소정의 추적 영역을 결정하는 단계; 및
   상기 결정된 모션 벡터 중, 상기 추적 영역 내에 위치하는 모션 벡터 및 상기 N-1 프레임 인덱스를 가지는 이미지 내에서 식별된 객체의 위치에 기초하여 상기 제1 이미지 내 객체의 위치를 결정하는 단계; 를 포함하는, 방법.
9. 제5항에 있어서, 상기 특징 벡터를 추출하는 단계는
   상기 서로 다른 크기의 가이드 영역들 내 픽셀들의 그래디언트(Gradient)를 결정하는 단계; 및
   상기 결정된 그래디언트를 이용하여 상기 특징 벡터를 추출하는 단계; 를 포함하는, 방법.
10. 제6항에 있어서, 상기 객체의 종류를 식별하는 단계는
    상기 제1 이미지 내의 픽셀 값들에 커널을 적용함으로써 상기 획득된 이미지 내 잡음을 제거하는 단계;
    상기 잡음이 제거된 제1 이미지 내 픽셀 값들을 변환하는 단계; 및
    상기 픽셀 값들이 변환된 제1 이미지 내 관심 영역을 결정하고, 상기 결정된 관심 영역 내 상기 서로 다른 크기의 가이드 영역들을 이동시키는 단계; 를 더 포함하는, 방법.
11. 제10항에 있어서, 상기 객체의 종류를 식별하는 단계는
    상기 픽셀 값들이 변환된 제1 이미지를 미리 설정된 크기의 적어도 하나의 부분 영역들로 분할하는 단계;
    상기 분할된 부분 영역들의 픽셀 값에 기초하여 상기 부분 영역 별로 임계값들을 결정하는 단계;
    상기 결정된 임계값들에 기초하여 상기 부분 영역들 내의 픽셀 값들을 이진화 하는 단계; 및
    상기 이진화된 픽셀 값들을 포함하는 제1 이미지 내, 상기 서로 다른 크기의 가이드 영역들 별로 상기 객체에 관한 윤곽을 검출하는 단계; 를 더 포함하는, 방법.
12. 제6항에 있어서, 상기 검출된 윤곽이 객체에 대응될 확률을 결정하는 단계는
    상기 검출된 윤곽 내 윤곽 성분들을 이용하여 상기 객체를 식별하기 위한 식별 조건을 결정하는 단계; 및
    상기 결정된 식별 조건에 서로 다른 가중치를 적용함으로써, 상기 서로 다른 크기의 가이드 영역들 내 윤곽이 상기 객체에 대응될 확률을 결정하는 단계; 를 포함하는, 방법.
13. 제6항에 있어서, 상기 특징 벡터를 추출하는 단계는
    상기 객체에 대응될 확률이 기 설정된 임계치 보다 큰 윤곽을 포함하는 상기 적어도 하나의 가이드 영역들의 크기를 리사이징(resizing) 하는 단계; 및
    상기 리사이징된 적어도 하나의 가이드 영역 별로 상기 특징 벡터를 추출하는 단계; 를 포함하는, 방법.
14. 삭제
15. 삭제
16. 객체를 포함하는 이미지를 처리하는 장치에 있어서,
    디스플레이;
    적어도 하나의 카메라;
    하나 이상의 인스트럭션을 저장하는 메모리; 및
    상기 하나 이상의 인스트럭션을 실행하는 적어도 하나의 프로세서; 를 포함하고,
    상기 프로세서는 상기 하나 이상의 인스트럭션을 실행함으로써,
    상기 객체를 포함하는 제1 이미지를 획득하고,
    상기 제1 이미지 내 상기 객체의 추적 상태를 식별하고,
    상기 식별된 객체의 추적 상태에 기초하여 상기 제1 이미지 내 객체의 위치를 결정하고,
    상기 객체에 적용할 서로 다른 이미지 효과를 나타내는 적어도 하나의 이미지 필터를 결정하고,
    상기 결정된 객체의 위치에 따라 상기 적어도 하나의 이미지 필터를 상기 제1 이미지 내 객체에 적용함으로써 제2 이미지를 생성하며,
    상기 프로세서는 상기 제1 이미지 내 객체가 추적되지 않는 것으로 식별되는 경우, 상기 제1 이미지의 관심 영역 내 서로 다른 크기의 가이드 영역들을 이동시키면서, 상기 서로 다른 크기의 가이드 영역들 별로 검출되는 객체에 관한 윤곽(Contour)이 상기 객체에 대응될 확률 값이, 기 설정된 임계치 이상인지 여부를 식별하고, 상기 객체에 대응될 확률 값이 기 설정된 임계치 이상으로 식별된 윤곽이 검출된 가이드 영역의 위치를 식별하며, 상기 식별된 위치에서의 가이드 영역으로부터 특징 벡터를 추출하고, 상기 추출된 특징 벡터를 인공 지능 모델에 입력함으로써, 상기 인공 지능 모델로부터 출력되는 객체의 종류가 기 설정된 종류로 식별되는 경우, 상기 객체에 대응될 확률 값이 기 설정된 임계치 이상으로 식별된 윤곽으로부터 상기 객체의 위치를 결정하는, 전자 장치.

Images