KR102396794B1

KR102396794B1 - 전자 장치 및 이의 제어 방법

Info

Publication number: KR102396794B1
Application number: KR1020170134610A
Authority: KR
Inventors: 김재덕; 신영빈
Original assignee: 삼성전자주식회사
Priority date: 2016-12-23
Filing date: 2017-10-17
Publication date: 2022-05-13
Also published as: KR20180074562A

Abstract

사용자의 머리에 착용되어 영상을 제공하는 전자 장치 및 이의 제어 방법이 제공된다. 본 전자 장치의 제어 방법은 전자 장치를 착용하는 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 학습하여 사용자 모델을 구축하고, 컨텐츠를 재생하는 동안 재생되는 컨텐츠로부터 사용자 모델에 저장된 컨텐츠 특징이 검출되면, 검출된 컨텐츠 특징에 대응되는 사용자 눈의 반응 특징을 바탕으로 재생되는 컨텐츠를 처리한다.
전자 장치는 규칙 기반 또는 인공 지능 알고리즘을 이용하여 컨텐츠의 특징을 추정할 수 있다. 인공 지능 알고리즘을 이용하여 컨텐츠의 특징을 추정하는 경우, 영상 처리 장치는 기계 학습, 신경망 또는 딥러닝 알고리즘을 이용하여 컨텐츠의 특징을 추정할 수 있다.

Description

전자 장치 및 이의 제어 방법{Electronic device and Method for controlling the electronic device thereof}

본 발명은 전자 장치 및 이의 제어 방법에 관한 것으로, 더욱 상세하게는 사용자의 눈의 반응 특징에 따라 컨텐츠 특징을 학습하여 컨텐츠 특징에 따라 재생되는 컨텐츠의 재생을 제어할 수 있는 전자 장치 및 이의 제어 방법에 관한 것이다.

또한 본 개시는 딥러닝 등의 기계 학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 인공 지능(Artificial Intelligence, AI) 시스템 및 그 응용 기술에 관련된 것이다.

최근에는 사용자가 착용하여 가상 현실을 제공하는 전자 장치(예를 들어, HMD(Head Mounted Device)에 대한 관심 높아지고 있다. 예를 들어, HMD를 착용하면 사용자는 현실과는 완전 다른 가상의 세계에서 실감나는 입체적인 뷰를 보고 즐길 수 있다. 또한, 기존 2D 기반의 게임을 360도 뷰로 더욱 실감나는 게임을 즐길 수 있어, 게임 컨텐츠들을 시작으로 많은 VR 컨텐츠가 출시되고 있고, 뿐만 아니라, 가상 현실을 원격지와의 경험 공유를 하는 서비스로 원격 교육, 의료 등 다양한 분야에서 활용이 예상된다.

이러한 HMD의 경우, 사용자 눈과 전자 장치 사이의 거리가 매우 가까워 특정 색, 특정 밝기 변화에 따라 사용자 눈에 가하는 시각적 자극이 매우 높을 수 있다. 이에 의해, 사용자 눈의 피로도가 점점 높아질 수 있을 뿐만 아니라, 심할 경우 사용자 눈에 질병이 발생할 가능성도 생긴다.

또한, 사용자가 특정 오브젝트(예를 들어, 칼, 뾰족한 물체)에 대한 공포증을 가지고 있을 경우 HMD에서 제공하는 영상에 특정 오브젝트가 나타나면, 사용자가 공포감이 극대화되어 HMD를 이용하여 영상을 시청하는 것에 대해 불편함을 느낄 수 있게 된다.

또한, 최근 영상 처리 분야에도 인공지능 시스템이 도입되고 있다.

인공지능 시스템은 인간 수준의 지능을 구현하는 컴퓨터 시스템이며, 기존 Rule 기반 스마트 시스템과 달리 기계가 스스로 학습하고 판단하며 똑똑해지는 시스템이다 .인공지능 시스템은 사용할수록 인식률이 향상되고 사용자 취향을 보다 정확하게 이해할 수 있게 되어, 기존 Rule 기반 스마트 시스템은 점차 딥러닝 기반 인공지능 시스템으로 대체되고 있다.

인공 지능 기술은 기계학습(딥러닝) 및 기계학습을 활용한 요소 기술들로 구성된다.

기계학습은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘 기술이며, 요소기술은 딥러닝 등의 기계학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 기술로서, 언어적 이해, 시각적 이해, 추론/예측, 지식 표현, 동작 제어 등의 기술 분야로 구성된다.

인공지능 기술이 응용되는 다양한 분야는 다음과 같다. 언어적 이해는 인간의 언어/문자를 인식하고 응용/처리하는 기술로서, 자연어 처리, 기계 번역, 대화시스템, 질의 응답, 음성 인식/합성 등을 포함한다. 시각적 이해는 사물을 인간의 시각처럼 인식하며 처리하는 기술로서, 객체 인식, 객체 추적, 영상 검색, 사람 인식, 장면 이해, 공간 이해, 영상 개선 등을 포함한다. 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서, 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함한다. 지식 표현은 인간의 경험정보를 지식데이터로 자동화 처리하는 기술로서, 지식 구축(데이터 생성/분류), 지식 관리(데이터 활용) 등을 포함한다. 동작 제어는 차량의 자율 주행, 로봇의 움직임을 제어하는 기술로서, 움직임 제어(항법, 충돌, 주행), 조작 제어(행동 제어) 등을 포함한다.

본 개시의 목적은 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 학습하여 사용자 모델을 구축하고, 구축된 사용자 모델을 이용하여 컨텐츠를 재생하는 전자 장치 및 이의 제어 방법을 제공함에 있다.

상기 목적을 달성하기 위한 본 발명의 일 실시예에 따른, 사용자의 머리에 착용되는 전자 장치의 제어 방법은, 상기 전자 장치를 착용하는 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 학습하여 사용자 모델을 구축하는 단계; 및 컨텐츠를 재생하는 동안 상기 재생되는 컨텐츠로부터 상기 사용자 모델에 저장된 컨텐츠 특징이 검출되면, 상기 검출된 컨텐츠 특징에 대응되는 사용자 눈의 반응 특징을 바탕으로 상기 재생되는 컨텐츠를 처리하는 단계;를 포함한다.

그리고, 사용자의 머리에 착용되는 전자 장치는, 사용자의 눈을 촬영하는 촬영부; 상기 전자 장치를 착용하는 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 학습하여 구축된 사용자 모델을 저장하는 메모리; 및 컨텐츠를 재생하는 동안 상기 재생되는 컨텐츠로부터 상기 사용자 모델에 저장된 컨텐츠 특징이 검출되면, 상기 검출된 컨텐츠 특징에 대응되는 사용자 눈의 반응 특징을 바탕으로 상기 재생되는 컨텐츠를 처리하는 프로세서;를 포함한다.

상술한 바와 같은 본 발명의 다양한 실시예에 의하면, 사용자가 부정적인 반응을 보인 컨텐츠 특징에 대한 영상 처리를 수행함으로써, 사용자는 더욱 편안하고 자극없게 영상을 시청할 수 있게 된다. 또한, 사용자의 눈에 대한 질병 정보를 관찰함으로써, 사용자 눈의 이상 상태에 대한 정보를 제공할 수 있다.

도 1a 및 도 1b는 본 개시의 일 실시예에 따른, 전자 장치의 구성을 간략히 도시한 블럭도,
도 2는 본 개시의 일 실시예에 따른, 전자 장치의 구성을 상세히 도시한 블럭도,
도 3은 본 개시의 일 실시예에 따른, 전자 장치에 포함된 프로세서의 구성을 나타내는 블럭도,
도 4a는 본 개시의 일 실시예에 따른, 전자 장치에 포함된 데이터 학습부와 켄턴츠 제어부의 구성을 나타내는 블럭도,
도 4b는 본 개시의 일 실시예에 따른, 전자 장치 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 설명하기 위한 도면들,
도 5는 본 개시의 일 실시예에 따른, 데이터 학습부를 설명하기 위한 도면들,
도 6은 본 개시의 일 실시예에 따른, 컨텐츠 제어부를 이용하여 컨텐츠를 처리하는 방법을 설명하기 위한 도면,
도 7a 및 도 7b는 본 개시의 일 실시예에 따른, 사용자 눈의 반응특징 및 컨텐츠 특징을 수정하기 위한 UI를 표시한 도면들,
도 8a 및 도 8b는 본 개시의 일 실시예에 따른, 사용자가 부정적인 감정을 가지는 오브젝트에 대한 영상 처리를 수행하는 실시예를 설명하기 위한 도면들,
도 9는 본 개시의 일 실시예에 따른, 사용자 눈에 대한 질병 정보를 판단하는 실시예를 설명하기 위한 도면,
도 10은 본 개시의 일 실시예에 따른, 사용자 눈에 대한 질병 정보를 안내하기 위한 UI를 도시한 도면,
도 11은 본 개시의 일 실시예에 따른, 전자 장치의 제어 방법을 설명하기 위한 흐름도,
도 12는 본 개시의 일 실시예에 따른, 휴대 단말 및 전자 장치를 포함하는 시스템을 설명하기 위한 도면이다.
도 13은 일 실시예에 따른 전자 장치가 제 1 프로세서 및 제 2 프로세서를 포함하는 경우에 컨텐츠 특징을 추정하는 상황을 설명하기 위한 흐름도이다.
도 14는 일 실시예에 따른 전자 장치가 서버를 이용하여 컨텐츠 특징을 추정하는 상황을 설명하기 위한 흐름도이다.
도 15는 일 실시예에 따른 전자 장치가 서버를 이용하여 눈과 관련된 이상 상태를 추정하는 상황을 설명하기 위한 흐름도이다.

이하에서는 본 개시의 바람직한 실시 예가 첨부된 도면을 참조하여 상세히 설명한다. 본 개시를 설명함에 있어서, 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 개시의 요지를 불필요하게 흐릴 수 있다고 판단된 경우 그 상세한 설명은 생략한다. 그리고 후술되는 용어들은 본 개시에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해 한정되지는 않는다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 개시의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 항목들의 조합 또는 복수의 관련된 항목들 중의 어느 하나의 항목을 포함한다.

본 명세서에서 사용한 용어는 실시 예를 설명하기 위해 사용된 것으로, 본 개시를 제한 및/또는 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 숫자, 동작, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 동작, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

실시 예에 있어서 '모듈' 혹은 '부'는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어 또는 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 '모듈' 혹은 복수의 '부'는 특정한 하드웨어로 구현될 필요가 있는 '모듈' 혹은 '부'를 제외하고는 적어도 하나의 모듈로 일체화되어 적어도 하나의 프로세서로 구현될 수 있다.

이하에서는 첨부된 도면을 이용하여 본 개시에 대하여 구체적으로 설명한다. 도 1a는 본 개시의 일 실시예에 따른, 전자 장치(100)의 구성을 간략히 도시한 블럭도이다. 도 1a에 도시된 바와 같이, 전자 장치(100)는 디스플레이(110), 촬영부(120), 프로세서(130) 및 메모리(140)를 포함한다. 이때, 전자 장치(100)는 도 1b에 도시된 바와 같이, 사용자 머리에 착용되어 영상을 제공할 수 있는 헤드-업 디스플레이 장치(Head-Up Diplay)일 수 있으나, 이는 일 실시예에 불과할 뿐, 다른 전자 장치(예를 들어, 스마트 폰, 태블릿 PC, 노트북 PC 등)로 구현될 수 있다.

디스플레이(110)는 영상을 디스플레이한다. 특히, 디스플레이(110)는 다양한 소스로부터 획득된 영상을 3D 형태로 디스플레이할 수 있다. 이때, 디스플레이(110)는 사용자가 전자 장치(100)를 착용한 경우, 사용자의 눈이 바라보는 전자 장치(100)의 내측면에 위치할 수 있다. 따라서, 디스플레이부(110)는 전자 장치(100)를 착용한 사용자에게 더욱 몰입감 있고, 입체적인 영상을 제공할 수 있게 된다.

촬영부(120)는 사용자 눈을 촬영한다. 특히, 촬영부(120)는 전자 장치(100)의 내측면에 위치하여 사용자 눈을 촬영할 수 있다.

메모리(140)는 전자 장치(100)를 제어하기 위한 다양한 데이터 및 프로그램을 저장한다. 특히, 메모리(140)는 촬영부(120)에 의해 촬영된 사용자 눈의 반응 특징에 따라 컨텐츠 특징을 학습하여 구축된 사용자 모델을 저장할 수 있다.

프로세서(130)는 전자 장치(100)의 전반적인 동작을 제어할 수 있다. 컨텐츠를 재생하는 동안 재생되는 컨텐츠로부터 사용자 모델에 저장된 컨텐츠 특징이 검출되면, 프로세서(130)는 검출된 컨텐츠 특징에 대응되는 사용자 눈의 반응 특징을 바탕으로 재생되는 컨텐츠를 처리할 수 있다.

구체적으로, 프로세서(130)는 촬영부(120)에 의해 촬영된 사용자 눈의 반응 특징에 따라 컨텐츠 특징을 학습하여 사용자 모델을 구축할 수 있다. 이때, 사용자 눈의 반응 특징은 사용자 눈의 형태, 크기, 색의 변화 또는 눈의 반응 속도에 대한 특징으로, 눈 깜빡임, 눈 감음, 눈 찡그리기, 동공 확장, 동공 축소 등이 포함될 수 있다.

더욱 구체적으로, 프로세서(130)는 학습 컨텐츠가 재생되는 동안 촬영부(120)를 통해 전자 장치(100)를 착용하는 사용자의 눈을 포함하는 영상을 촬영할 수 있다. 그리고, 촬영된 영상 속에 포함된 사용자 눈에 대한 기설정된 반응 특징이 감지되면. 프로세서(130)는 기설정된 반응 특징이 감지된 시점으로부터 기설정된 구간 내의 컨텐츠 프레임에 포함된 컨텐츠 특징을 획득할 수 있다. 그리고, 프로세서(130)는 기설정된 반응 특징 및 컨텐츠 특징을 학습하여 사용자 모델을 구축할 수 있다. 이때, 컨텐츠 특징은 기설정된 반응 특징이 감지된 시점으로부터 기설정된 구간 내의 컨텐츠 프레임에 포함된 오브젝트(예를 들어, 칼, 귀신 등), 컨텐츠 프레임의 밝기 변화 및 컨텐츠 프레임의 색 변화 중 적어도 하나일 수 있다.　 그리고, 구축된 사용자 모델은 컨텐츠 특징에 대응되는 기설정된 반응 특징을 저장할 수 있다.

그리고, 프로세서(130)는 구축된 사용자 모델을 바탕으로 컨텐츠에 대한 영상 처리를 수행할 수 있다.

구체적으로, 프로세서(130)는 컨텐츠가 재생하는 동안 재생되는 컨텐츠를 분석하여 사용자 모델에 저장된 컨텐츠 특징이 존재하는지 여부를 판단할 수 있다. 재생되는 컨텐츠에 사용자 모델에 저장된 제1 컨텐츠 특징이 존재하는 경우, 프로세서(130)는 제1 컨텐츠 특징 및 상기 제1 컨텐츠 특징에 대응하는 반응 특징을 바탕으로 제1 컨텐츠 특징을 포함하는 컨텐츠 프레임에 대한 영상 처리를 수행할 수 있다.

본 발명의 일 실시예로, 제1 컨텐츠 특징이 특정 오브젝트이고 특정 오브젝트에 대한 반응 특징이 부정적인 반응(예를 들어, 눈 깜빡임, 눈 감음, 눈 찡그림 등)인 경우, 프로세서(130)는 컨텐츠에 포함된 오브젝트에 대한 필터링 처리를 수행하거나 스무딩 처리를 수행할 수 있다. 또 다른 실시예로, 제1 컨텐츠 특징이 특정 밝기 변화이고 특정 밝기 변화에 대한 사용자 반응이 부정적인 경우, 프로세서(130)는 특정 밝기 변화의 변화량을 조절할 수 있다. 또 다른 실시예로, 제1 컨텐츠 특징이 특정 색 변화이고 특정 색 변화에 대한 사용자 반응이 부정적인 경우, 프로세서(130)는 특정 색 변화의 채도값을 조절할 수 있다.

한편, 학습된 사용자 모델 중 제2 컨텐츠 특징에 대한 사용자 반응이 긍정적인 반응인 것으로 판단된 경우, 프로세서(130)는 컨텐츠 특징에 대한 키워드를 획득하며, 사용자 명령에 따라 상기 획득된 키워드를 바탕으로 판단된 추천 컨텐츠를 포함하는 리스트를 제공하도록 디스플레이(110)를 제어할 수 있다.

또한, 프로세서(130)는 사용자 눈을 포함하는 촬영된 영상을 메모리(140)에 누적하여 저장하며, 저장된 사용자 눈에 포함된 영상을 분석하여 사용자 눈의 이상 상태를 판단할 수 있다. 그리고, 사용자 눈이 이상 상태인 것으로 판단된 경우, 프로세서(130)는 이상 상태에 대한 정보를 제공하도록 디스플레이(110)를 제어할 수 있다.

도 2는 본 개시의 일 실시예에 따른, 전자 장치(100)의 구성을 상세히 도시한 블럭도이다. 도 2에 도시된 바와 같이, 디스플레이(110), 촬영부(120), 메모리(140), 통신부(150), 영상 처리부(160), 오디오 출력부(170), 입력부(180), 감지부(190) 및 프로세서(130)를 포함한다.

디스플레이(110)는 전자 장치(100)에서 제공하는 각종 영상 컨텐츠, 정보, UI 등을 표시할 수 있다. 특히 디스플레이(110)는 네비게이션 어플리케이션의 다양한 실행 화면을 표시할 수 있다.

특히, 디스플레이(110)는 다양한 소스로부터 획득된 영상을 3D 형태로 디스플레이할 수 있다. 구체적으로, 디스플레이(110)는 사용자의 왼쪽 눈에 대응되는 디스플레이를 통해 좌안 영상을 표시하고, 사용자의 오른쪽 눈에 대응되는 디스플레이를 통해 우안 영상을 표시하여 3D 형태의 영상을 디스플레이할 수 있다.

이때, 디스플레이(110)는 사용자가 전자 장치(100)를 착용한 경우, 사용자의 눈이 바라보는 전자 장치(100)의 내측면에 위치할 수 있다. 따라서, 디스플레이부(110)는 전자 장치(100)를 착용한 사용자에게 더욱 몰입감 있고, 입체적인 영상을 제공할 수 있게 된다.

촬영부(120)는 전자 장치(100)가 전자 장치(100)를 착용한 경우, 사용자 눈을 촬영하기 위해 전자 장치(100)의 내측면에 위치할 수 있다. 이때, 촬영부(120)는 일반 카메라일 수 있으나, 이는 일 실시예에 불과할 뿐, 적외선 카메라 등으로도 구현될 수 있다.

메모리(140)는 전자 장치(100)의 동작에 필요한 각종 프로그램 및 데이터를 저장할 수 있다. 메모리(140)는 비휘발성 메모리, 휘발성 메모리, 플래시메모리(flash-memory), 하드디스크 드라이브(HDD) 또는 솔리드 스테이트 드라이브(SSD) 등으로 구현될 수 있다. 메모리(140)는 프로세서(130)에 의해 액세스되며, 프로세서(130)에 의한 데이터의 독취/기록/수정/삭제/갱신 등이 수행될 수 있다. 본 개시에서 메모리라는 용어는 메모리(140), 프로세서(130) 내 롬(미도시), 램(미도시) 또는 전자 장치(100)에 장착되는 메모리 카드(미도시)(예를 들어, micro SD 카드, 메모리 스틱)를 포함할 수 있다.

또한, 메모리(140)에는 디스플레이(110)의 디스플레이 영역에 표시될 각종 화면을 구성하기 위한 프로그램 및 데이터 등이 저장될 수 있다. 또한, 메모리(140)는 본 개시의 일 실시예에 따른, 사용자 눈의 반응 특징과 대응되는 컨텐츠 특징을 저장하는 사용자 모델을 저장할 수도 있다.

통신부(150)는 다양한 유형의 통신방식에 따라 다양한 유형의 외부 기기와 통신을 수행할 수 있다. 통신부(150)는 와이파이칩, 블루투스 칩, 무선 통신 칩, NFC 칩 중 적어도 하나를 포함할 수 있다. 프로세서(130)는 통신부(150)를 이용하여 외부 서버 또는 각종 외부 기기와 통신을 수행할 수 있다.

특히, 통신부(150)는 외부의 전자 장치(예를 들어, 스마트 폰, 네비게이션 장치, 서버 등)와 통신을 수행할 수 있다. 예를 들어, 통신부(150)는 외부의 전자 장치로부터 영상 컨텐츠를 입력받을 수 있다.

영상 처리부(160)는 다양한 소스로부터 수신한 영상 데이터에 대한 영상 처리를 수행한다. 영상 처리부(160)는 영상 데이터에 대한 디코딩, 스케일링, 노이즈 필터링, 프레임 레이트 변환, 해상도 변환과 같은 다양한 이미지 처리를 수행할 수 있다.

오디오 출력부(170)는 오디오 처리 모듈에서 처리한 각종 오디오 데이터뿐만 아니라 각종 알림 음이나 음성 메시지를 출력할 수 있다.

입력부(180)는 전자 장치(100)를 조작하는 사용자 명령을 입력하여, 사용자 명령에 대한 정보를 프로세서(130)로 전송할 수 있다. 특히, 입력부(180)는 전자 장치(100)에 구비된 버튼(예를 들어, 물리적인 버튼, 광학식 키, 또는 키패드 등)일 수 있으나, 이는 일 실시예에 불과할 뿐, 다른 입력 장치로 구현될 수 있다.

예를 들어, 입력부(180)는 사용자 터치를 감지하기 위한 터치 패널, (디지털) 펜 센서 등으로 구현될 수 있다. 터치 패널은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널은 제어 회로를 더 포함할 수도 있다. 터치 패널은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서는, 예를 들면, 터치 패널의 일부이거나, 별도의 요약용 쉬트를 포함할 수 있다.

그러나, 입력부(120)가 터치 패널, 펜 센서 등으로 구현되는 것은 일 실시예에 불과할 뿐, 사용자 발화를 입력받기 위한 마이크, 사용자 모션을 촬영하기 위한 카메라, 포인팅 디바이스 등과 같은 다양한 전자 장치로 구현될 수 있다.

감지부(190)는 전자 장치(100)의 상태를 감지하기 위한 다양한 센서를 포함한다. 특히, 감지부(190)는 전자 장치(100)의 위치를 감지하기 위한 GPS 센서, 전자 장치(100)의 움직임을 감지하기 위한 모션 센서(예를 들어, 가속도 센서, 자이로 센서, 전자기 센서 등), 차가 주행하는 경로를 촬영하기 위한 카메라 센서 등을 포함할 수 있다.

프로세서(130)는 전자 장치(100)의 다양한 구성(예를 들어, 디스플레이(110), 메모리(140) 및 촬영부(120) 등)과 전기적으로 연결되어 전자 장치(100)의 전반적인 동작 및 기능을 제어할 수 있다. 특히, 프로세서(130)는 메모리(140)에 저장된 각종 프로그램을 이용하여 전자 장치(100)의 전반적인 동작을 제어할 수 있다.

구체적으로, 프로세서(130)는 도 3에 도시된 바와 같이, 사용자 모델(300)을 생성하기 위한 데이터 학습부(131) 및 사용자 모델(300)을 이용하여 컨텐츠를 처리하기 위한 컨텐츠 제어부(132)를 포함한다.

데이터 학습부(131)는 컨텐츠 특징에 대한 사용자 눈 반응 특징을 학습할 수 있다. 특히, 데이터 학습부(131)는 사용자 눈의 영상 및 학습 컨텐츠를 바탕으로 사용자 눈이 반응하는 컨텐츠 특징을 학습할 수 있다. 이때, 데이터 학습부(131)는 특정 컨텐츠 특징에 사용자가 특정 반응 특징을 보이는지 여부를 학습하여 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 저장하는 사용자 모델(300)을 구축할 수 있다.

컨텐츠 제어부(132)는 데이터 학습부(131)에 의해 생성된 사용자 모델(300)을 바탕으로 재생되는 컨텐츠를 처리한다. 구체적으로, 사용자 모델(300)에 저장된 컨텐츠 특징이 검출되면, 컨텐츠 제어부(132)는 검출된 컨텐츠 특징에 대응되는 사용자 눈의 반응 특징을 바탕으로 컨텐츠에 대한 영상 처리를 수행할 수 있다.

데이터 학습부(131) 및 컨텐츠 제어부(132) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치(100)에 탑재될 수 있다. 예를 들어, 데이터 학습부(131) 및 컨텐츠 제어부(132) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치(100)에 탑재될 수도 있다.

이 경우, 데이터 학습부(131) 및 컨텐츠 제어부(132)는 하나의 전자 장치(100)에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 학습부(131) 및 컨텐츠 제어부(132) 중 하나는 전자 장치에 포함되고, 나머지 하나는 외부의 휴대 단말(예를 들어, 스마트 폰) 또는 서버에 포함될 수 있다. 또한, 데이터 학습부(131) 및 컨텐츠 제어부(132)는 유선 또는 무선으로 통하여, 데이터 학습부(131)가 구축한 모델 정보를 컨텐츠 제어부(132)로 제공할 수도 있다.

한편, 데이터 학습부(131) 및 컨텐츠 제어부(132) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 학습부(131) 및 컨텐츠 제어부(132) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.

이하에서는 도 4a 내지 도 6을 참조하여, 데이터 학습부(131) 및 컨텐츠 제어부(132)에 대한 특징을 더욱 상세히 설명하기로 한다.

도 4a의 (a)를 참조하면, 일부 실시예에 따른 데이터 학습부(131)는 데이터 획득부(131-1), 전처리부(131-2), 학습 데이터 선택부(131-3), 모델 학습부(131-4) 및 모델 평가부(131-5)를 포함할 수 있다.

그러나 이에 한정되지는 않는다. 다양한 실시예에 따르면, 데이터 학습부(131)는 전술한 구성 요소 중 일부를 포함할 수 있다. 예를 들어, 데이터 학습부(131)는 데이터 획득부(131-1) 및 모델 학습부(131-4)만으로 구성될 수 있다. 또한, 다양한 실시예에 따르면, 데이터 학습부(131)는 전술한 구성 요소 이외에 다른 구성 요소를 더 포함할 수도 있다.

데이터 획득부(131-1)는 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 분석하는데 필요한 학습 데이터를 획득할 수 있다. 이때, 데이터 획득부(131-1)는 학습 데이터로 촬영부(120)에 의해 촬영된 사용자 눈을 포함하는 영상 데이터 및 컨텐츠 데이터 등을 획득할 수 있다. 이때, 컨텐츠 데이터에는 컨텐츠 데이터에 포함된 영상 데이터뿐만 아니라 오디오 데이터, 메타 데이터를 포함할 수 있다.

전처리부(131-2)는 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 분석하기 위해 획득된 학습 데이터가 이용될 수 있도록, 획득된 학습 데이터를 전처리할 수 있다. 전처리부(131-2)는 후술할 모델 학습부(131-4)가 사용자 눈의 반응 특징에 따른 컨텐츠 특징 분석을 위한 학습을 위하여 획득된 학습 데이터를 이용할 수 있도록, 획득된 데이터를 기설정된 포맷으로 가공할 수 있다.

　학습 데이터 선택부(131-3)는 전처리된 학습 데이터 중에서 학습에 필요한 학습 데이터를 선택할 수 있다. 선택된 학습 데이터는 모델 학습부(131-4)에 제공될 수 있다. 학습 데이터 선택부(131-3)는 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 분석하기 위한 기 설정된 기준에 따라, 전처리된 학습 데이터 중에서 학습에 필요한 학습 데이터를 선택할 수 있다. 예를 들어, 학습 데이터 선택부(131-3)는 기설정된 사용자 눈의 반응 특징을 포함하는 영상 데이터만을 학습 데이터로 이용할 수 있다.

다만, 학습 데이터 선택부(131-3)는 전처리된 학습 데이터 중 일부의 학습 데이터를 선택할 수 있으나, 이는 일 실시예에 불과할 뿐, 전처리된 모든 학습 데이터를 선택할 수 있다. 또한, 학습 데이터 선택부(131-3)는 전처리부(131-2)에 의한 전처리 단계 이전에 학습 데이터를 선택할 수 있음은 물론이다.

모델 학습부(131-4)는 학습 데이터에 기초하여 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 학습하여 사용자 모델을 구축할 수 있다. 이때, 모델 학습부(131-4)는 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 분석하고, 누적된 분석 결과를 학습하여 사용자 모델을 구축할 수 있다. 이때, 사용자 모델에는 사용자 눈의 반응 특징과 컨텐츠 특징이 매칭되어 저장될 수 있다. 모델 학습부(131-4)가 학습 데이터를 이용하여 사용자 모델을 구축하는 방법에 대해서는 도 5를 참조하여 더욱 상세히 설명하기로 한다.

또한, 모델 학습부(131-4)는 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 분석하기 위해 이용되는 사용자 모델을 학습 데이터를 이용하여 학습시킬 수 있다. 이 경우, 사용자 모델은 미리 구축된 모델일 수 있다. 예를 들어, 사용자 모델은 기본 학습 데이터(예를 들어, 일반적인 사용자 눈의 반응 특징, 일반적인 컨텐츠 특징 등)을 입력 받아 미리 구축된 모델일 수 있다.

사용자 모델은, 데이터 분석의 적용 분야, 학습의 목적 또는 장치의 컴퓨터 성능 등을 고려하여 구축될 수 있다. 사용자 모델은, 예를 들어, 신경망(Neural Network)을 기반으로 하는 모델일 수 있다. 예컨대, DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network)과 같은 모델이 사용자 모델로서 사용될 수 있으나, 이에 한정되지 않는다.

다양한 실시예에 따르면, 모델 학습부(131-4)는 미리 구축된 사용자 모델이 복수 개가 존재하는 경우, 입력된 학습 데이터와 기본 학습 데이터의 관련성이 큰 사용자 모델을 학습할 사용자 모델로 결정할 수 있다. 이 경우, 기본 학습 데이터는 데이터의 타입별로 기분류되어 있을 수 있으며, 사용자 모델은 데이터의 타입별로 미리 구축되어 있을 수 있다. 예를 들어, 기본 학습 데이터는 학습 데이터의 생성자, 학습 데이터가 생성된 시간, 학습 데이터의 크기, 학습 데이터의 장르, 학습 데이터 내의 오브젝트의 종류 등과 같은 다양한 기준으로 기 분류되어 있을 수 있다.

또한, 모델 학습부(131-4)는, 예를 들어, 오류 역전파법(error back-propagation) 또는 경사 하강법(gradient descent)을 포함하는 학습 알고리즘 등을 이용하여 사용자 모델을 학습시킬 수 있다.

또한, 모델 학습부(131-4)는, 예를 들어, 학습 데이터를 입력 값으로 하는 지도 학습(supervised learning) 을 통하여, 사용자 모델을 학습시킬 수 있다. 또한, 모델 학습부(131-4)는, 예를 들어, 별다른 지도없이 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 분석하기 위해 필요한 데이터의 종류를 스스로 학습함으로써, 사용자의 운전 히스토리 분석을 위한 기준을 발견하는 비지도 학습(unsupervised learning)을 통하여, 사용자 모델을 학습시킬 수 있다. 또한, 모델 학습부(131-4)는, 예를 들어, 학습에 따른 사용자의 운전 히스토리 분석의 결과가 올바른지에 대한 피드백을 이용하는 강화 학습(reinforcement learning)을 통하여, 사용자 모델을 학습시킬 수 있다.

또한, 사용자 모델이 학습되면, 모델 학습부(131-4)는 학습된 사용자 모델을 저장할 수 있다. 이 경우, 모델 학습부(131-4)는 학습된 사용자 모델을 컨텐츠 제어부(132)를 포함하는 전자 장치(100)의 메모리(140)에 저장할 수 있다. 또는, 모델 학습부(131-4)는 학습된 사용자 모델을 전자 장치(100)와 유선 또는 무선 네트워크로 연결되는 외부의 휴대 단말 또는 서버의 메모리에 저장할 수도 있다.

이 경우, 학습된 사용자 모델이 저장되는 메모리(140)는, 예를 들면, 전자 장치의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 함께 저장할 수도 있다. 또한, 메모리(140)는 소프트웨어 및/또는 프로그램을 저장할 수도 있다. 프로그램은, 예를 들면, 커널, 미들웨어, 어플리케이션 프로그래밍 인터페이스(API) 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 등을 포함할 수 있다.

모델 평가부(131-5)는 사용자 모델에 평가 데이터를 입력하고, 평가 데이터로부터 출력되는 분석 결과가 소정 기준을 만족하지 못하는 경우, 모델 학습부(131-4)로 하여금 다시 학습하도록 할 수 있다. 이 경우, 평가 데이터는 사용자 모델을 평가하기 위한 기 설정된 데이터일 수 있다.

예를 들어, 모델 평가부(131-5)는 평가 데이터에 대한 학습된 사용자 모델의 분석 결과 중에서, 분석 결과가 정확하지 않은 평가 데이터의 개수 또는 비율이 미리 설정된 임계치를 초과하는 경우 소정 기준을 만족하지 못한 것으로 평가할 수 있다. 예컨대, 소정 기준이 비율 2%로 정의되는 경우, 학습된 사용자 모델이 총 1000개의 평가 데이터 중의 20개를 초과하는 평가 데이터에 대하여 잘못된 분석 결과를 출력하는 경우, 모델 평가부(131-5)는 학습된 사용자 모델이 적합하지 않은 것으로 평가할 수 있다.

한편, 학습된 사용자 모델이 복수 개가 존재하는 경우, 모델 평가부(131-5)는 각각의 학습된 사용자 모델에 대하여 소정 기준을 만족하는지를 평가하고, 소정 기준을 만족하는 모델을 최종 사용자 모델로서 결정할 수 있다. 이 경우, 소정 기준을 만족하는 모델이 복수 개인 경우, 모델 평가부(131-5)는 평가 점수가 높은 순으로 미리 설정된 어느 하나 또는 소정 개수의 모델을 최종 사용자 모델로서 결정할 수 있다.

한편, 데이터 학습부(131) 내의 데이터 획득부(131-1), 전처리부(131-2), 학습 데이터 선택부(131-3), 모델 학습부(131-4) 및 모델 평가부(131-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(131-1), 전처리부(131-2), 학습 데이터 선택부(131-3), 모델 학습부(131-4) 및 모델 평가부(131-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.

또한, 데이터 획득부(131-1), 전처리부(131-2), 학습 데이터 선택부(131-3), 모델 학습부(131-4) 및 모델 평가부(131-5)는 전자 장치(100)에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(131-1), 전처리부(131-2), 학습 데이터 선택부(131-3), 모델 학습부(131-4) 및 모델 평가부(131-5) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.

또한, 데이터 획득부(131-1), 전처리부(131-2), 학습 데이터 선택부(131-3), 모델 학습부(131-4) 및 모델 평가부(131-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(131-1), 전처리부(131-2), 학습 데이터 선택부(131-3), 모델 학습부(131-4) 및 모델 평가부(131-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.

도 4 a의 (b)는 일 실시예에 따른 컨텐츠 제어부(132)의 블록도이다.

도 4 a의 (b)를 참조하면, 일부 실시예에 따른 컨텐츠 제어부(132)는 데이터 획득부(132-1), 전처리부(132-2), 인식 데이터 선택부(132-3), 인식 결과 제공부(132-4) 및 모델 갱신부(132-5)를 포함할 수 있다. 그러나 이에 한정되지는 않는다. 다양한 실시예에 따르면, 데이터 분류부(1400)는 전술한 구성 요소 중 일부를 포함할 수 있다. 예를 들어, 컨텐츠 제어부(132)는 데이터 획득부(132-1) 및 인식 결과 제공부(132-4)만으로 구성될 수 있다. 또한, 다양한 실시예에 따르면, 컨텐츠 제어부(132)는 전술한 구성 요소 이외에 다른 구성 요소를 더 포함할 수도 있다.

컨텐츠 제어부(132)는 적어도 하나 이상의 사용자 모델을 이용하여, 사용자 모델이 학습한 사용자 눈의 반응 특징에 따른 컨텐츠 특징에 해당하는지 판단하는 기준에 따라, 컨텐츠에 컨텐츠의 특징이 포함되어 있는지 추정할 수 있다.

데이터 획득부(132-1)는 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 추정하는데 필요한 입력 데이터를 획득할 수 있다. 이 경우, 데이터 획득부()는 동영상 데이터를 획득할 수 있다. 동영상 데이터는, 예를 들면, 전자 장치(100)의 메모리(140)에 저장되어 있거나, 타 전자 장치(예를 들면, 전자 장치(100)와 통신관계를 수립하여 컨텐츠를 송수신할 수 있는 스마트 폰, 태블릿 PC, 서버 등)로부터 수신받은 데이터일 수 있다.

전처리부(132-2)는 컨텐츠 특징을 추정하기 위해 획득한 입력 데이터가 이용될 수 있도록, 획득한 데이터를 전처리할 수 있다. 전처리부(132-2)는 후술할 인식 결과 제공부(132-4)가 영상에서 컨텐츠 특징을 추정할 때 획득한 데이터를 이용할 수 있도록 획득한 데이터를 기 설정된 포맷으로 가공할 수 있다.

예를 들어, 전처리부(132-2)는 데이터 획득부(132-1)에서 획득한 동영상 데이터에 대해, 의미 있는 데이터를 선별할 수 있도록 노이즈를 제거하거나, 소정의 형태로 가공할 수 있다.

인식 데이터 선택부(132-3)는 전처리된 입력 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 인식 결과 제공부(132-4)에 제공될 수 있다. 인식 데이터 선택부(132-3)는 영상에 컨텐츠 특징이 포함되어 있는지 추정하기 위해, 전처리된 데이터 중에서 일부 또는 전부를 선택할 수 있다.

인식 결과 제공부(132-4)는 선택된 입력 데이터를 사용자 모델에 적용하여 영상 내에 컨텐츠 특징이 포함되어 있는지 추정할 수 있다. 인식 결과 제공부(132-4)는 인식 데이터 선택부(132-3)에 의해 선택된 데이터를 입력 값으로 이용함으로써, 선택된 데이터를 사용자 모델에 적용할 수 있다. 인식 결과 제공부(132-4)는, 예를 들면, 적어도 하나 이상의 사용자 모델들 중에서 소정의 조건에 대응되는 사용자 모델에 기초하여 영상에 컨텐츠 특징이 포함되어 있는지 추정할 수 있다. 인식 결과 제공부(132-4)가 입력 데이터를 이용하여 컨텐츠 특징을 추정하는 방법에 대하여는 도 6을 참조하여 더욱 상세히 설명하기로 한다.

모델 갱신부(132-5)는 인식 결과 제공부(132-4)에 의해 제공되는 인식 결과에 대한 평가에 기초하여, 사용자 모델이 갱신되도록 할 수 있다. 예를 들어, 모델 갱신부(132-5)는 인식 결과 제공부(132-4)에 의해 제공되는 영상에 포함된 컨텐츠 특징으로 추정된 결과를 모델 학습부(131-4)에게 제공함으로써, 모델 학습부(131-4)가 사용자 모델을 갱신하도록 할 수 있다.

한편, 컨텐츠 제어부(132) 내의 데이터 획득부(132-1), 전처리부(132-2), 인식 데이터 선택부(132-3), 인식 결과 제공부(132-4) 및 모델 갱신부(132-5) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(132-1), 전처리부(132-2), 인식 데이터 선택부(132-3), 인식 결과 제공부(132-4) 및 모델 갱신부(132-5) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.

또한, 데이터 획득부(132-1), 전처리부(132-2), 인식 데이터 선택부(132-3), 인식 결과 제공부(132-4) 및 모델 갱신부(132-5)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(132-1), 전처리부(132-2), 인식 데이터 선택부(132-3), 인식 결과 제공부(132-4) 및 모델 갱신부(132-5) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.

또한, 데이터 획득부(132-1), 전처리부(132-2), 인식 데이터 선택부(132-3), 인식 결과 제공부(132-4) 및 모델 갱신부(132-5) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(132-1), 전처리부(132-2), 인식 데이터 선택부(132-3), 인식 결과 제공부(132-4) 및 모델 갱신부(132-5) 중 적어도 하나가 소프트웨어 모듈(또는, 인스터력션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.

도 4b는 일 실시예에 따른 전자 장치 및 서버가 서로 연동함으로써 데이터를 학습하고 인식하는 예시를 설명하기 위한 도면이다.

도 4b를 참조하면, 서버(2000)는 영상에 포함된 컨텐츠 특징을 추정하기 위한 사용자 모델과 눈의 이상 상태(예: 질병 상태 등)를 추정하기 위한 질병 예측 모델을 구축할 수 있다. 전자 장치(100)는 서버(2000)에서 구축된 사용자 모델을 이용하여 컨텐츠에 포함된 컨텐츠 특징을 추정할 수 있고, 질병 예측 모델을 이용하여 사용자의 눈의 이상 상태를 추정할 수 있다.

이 경우, 서버(2000)의 데이터 학습부(2100)는 도 4a에 도시된 데이터 학습부(131)의 기능을 수행할 수 있다. 즉, 서버(2000)의 데이터 학습부(2100)에 포함된 데이터 획득부(2100-1), 전처리부(2100-2), 학습 데이터 선택부(2100-3), 모델 학습부(2100-4), 및 모델 평가부(2100-5)는 도 4a에 데이터 학습부(131-1), 전처리부(131-2), 학습 데이터 선택부(131-3), 모델 학습부(131-4), 및 모델 평가부(131-5)에 대응될 수 있다.

서버(2000)의 데이터 학습부(2100)는 동영상에 포함된 컨텐츠 특징을 추정하기 위해 컨텐츠 특징에 대한 사용자 눈 반응 특징을 학습할 수 있다. 데이터 학습부(2100)는 특정 컨텐츠 특징에 사용자가 특정 반응 특징을 보이는지 여부를 학습하여 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 저장하는 사용자 모델(예: 도 3의 사용자 모델(300))을 구축할 수 있다.

또한, 서버(2000)의 데이터 학습부(2100)는 눈과 관련된 질병을 가진 눈의 상태에 따른 질병 종류를 학습할 수 있다. 데이터 학습부()는 기 설정된 시간 동안의 눈의 상태 변화에 따른 눈의 이상 상태 여부(예: 질병의 종류)를 학습하여 질병 예측 모델을 구축할 수 있다.

또한, 전자 장치(100)의 인식 결과 제공부(132-4)는 인식 데이터 선택부(132-3)에 의해 선택된 데이터를 서버(2000)에 의해 생성된 사용자 모델 또는 질병 예측 모델에 적용하여 컨텐츠의 특징을 추정하거나 또는 사용자의 눈과 관련된 이상 상태를 추정할 수 있다.

예를 들어, 인식 결과 제공부(132-4)는 인식 데이터 선택부(132-3)에 의해 선택된 입력 데이터를 서버(2000)에 전송하고, 서버(2000)가 수신된 입력 데이터를 사용자 모델 또는 질병 예측 모델에 적용하여 컨텐츠 특징을 추정하거나, 또는 눈과 관련된 이상 상태를 추정할 것을 요청할 수 있다. 인식 결과 제공부(132-4)는 서버(2000)에 의해 추정된 컨텐츠 특징 또는 눈과 관련된 이상 상태에 대응되는 정보를 서버(2000)로부터 수신할 수 있다.

도 5는 본 개시의 일 실시예에 따른, 모델 학습부(131-4)가 사용자 모델을 구축하는 방법을 설명하기 위한 도면이다. 모델 학습부(131-4)는 반응 특징 검출부(530) 및 컨텐츠 특징 검출부(540)를 포함할 수 있다.

우선, 반응 특징 검출부(530)는 학습 데이터로 사용자 눈을 포함하는 영상 데이터를 획득한다. 이때, 반응 특징 검출부(530)는 기설정된 포맷으로 전처리된 사용자 눈을 포함하는 영상 데이터를 실시간으로 획득할 수 있으나, 이는 일 실시예에 불과할 뿐, 특징 반응을 보이는 사용자 눈을 포함하는 영상 데이터만을 획득할 수 있다.

반응 특징 검출부(530)는 사용자마다 눈의 크기 및 형태가 상이하므로, 전자 장치(100)를 착용하는 사용자 눈에 대한 정보를 저장하는 사용자 눈 데이터베이스(510) 및 일반적인 사용자 눈의 반응 특징에 대한 정보를 저장하는 반응 특징 데이터베이스(520)를 이용하여 사용자 눈의 형태 및 크기 변화를 검출할 수 있다. 예를 들어, 반응 특징 검출부(530)는 사용자 눈의 반응 특징으로 눈 형태 변화(예를 들어, 찡그림) 눈의 깜빡임, 눈감음, 동공 확장 등을 검출할 수 있다.

컨텐츠 특징 검출부(540)는 학습 컨텐츠를 획득한다. 그리고, 컨텐츠 특징 검출부(540)는 사용자 눈의 반응 특징이 검출된 시점으로부터 기설정된 구간(예를 들어, 사용자 눈의 반응 특징이 검출된 시점으로부터 1초 전후 구간) 내의 컨텐츠 프레임을 분석하여 컨텐츠 특징을 검출할 수 있다. 이때, 컨텐츠 특징 검출부(540)는 컨텐츠 특징으로 컨텐츠 프레임에 포함된 오브젝트, 색 변화, 밝기 변화 등을 검출할 수 있다.

컨텐츠 특징 검출부(540)에 의해 컨텐츠 특징이 검출되면, 컨텐츠 특징 검출부(540)는 사용자 눈의 반응 특징 및 대응되는 컨텐츠 특징을 사용자 모델(300)로 출력할 수 있다. 컨텐츠 특징 검출부(540)에 의해 컨텐츠 특징이 검출되지 않으면, 반응 특징 검출부(530)는 컨텐츠에 의한 반응이 아닌 것으로 판단하여 검출된 반응 특징을 제거할 수 있다.

반응 특징 검출부(530) 및 컨텐츠 특징 검출부(540)는 상술한 바와 같은 방법을 반복적으로 수행하여 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 학습할 수 있다.

사용자 모델(300)은 상술한 바와 같은 방법에 의해 검출된 사용자 눈의 반응 특징 및 컨텐츠 특징을 매칭하여 저장할 수 있다. 예를 들어, 사용자가 피나 칼이 오는 장면에서 눈을 자주 감은 경우, 사용자 모델(300)은 사용자 눈의 반응 특징이 "눈 감음"이고, 대응되는 컨텐츠 특징이 "피, 칼"임을 저장할 수 있다. 또 다른 예로, 사용자가 휘도 변화가 100 이상(예를 들어, 13->113으로 증가)인 화면 전환에서 눈을 찡그린 경우, 사용자 모델(300)은 사용자 눈의 반응 특징이 "눈 찡그림"이고, 대응되는 컨텐츠 특징이 "휘도값 100 증가"임을 저장할 수 있다. 또 다른 예로, 사용자가 전체적으로 붉은 화면에서 사용자 눈을 깜빡인 경우, 사용자 모델(300)은 사용자 눈의 반응 특징이 "눈 깜빡임"이고, 대응도는 컨텐츠 특징이 "붉은 화면"이라고 저장할 수 있다. 상술한 바와 같은 예로, 사용자 모델(300)은 아래와 같은 테이블을 저장할 수 있다.

사용자 눈의 반응 특징	컨텐츠 특징
눈 감음	피, 칼
눈 깜빡임	휘도값이 100 증가
눈의 형태 변화(찡그림)	붉은 화면 등장

사용자 모델(300)은 반응 특징 검출부(530) 및 컨텐츠 특징 검출부(540)에 의해 검출된 반응 특징 및 컨텐츠 특징에 따라 저장된 내용을 업데이트할 수 있다. 예를 들어, 사용자 모델(300)은 반응 특징 검출부(530) 및 컨텐츠 특징 검출부(540)에 의해 검출된 결과를 바탕으로 기존에 저장된 내용을 삭제하거나 새로운 내용을 추가하여 저장할 수 있다. 즉, 전자 장치(100)은 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 지속적으로 학습하여 사용자에게 최적화된 사용자 모델을 구축할 수 있다.

또한, 사용자 모델(300)은 사용자 눈의 반응 특징 및 대응되는 컨텐츠 특징을 매칭하여 저장할 뿐만 아니라, 사용자 감정 정보(예를 들어, 부정, 긍정, 공포, 혐오, 선호 등), 검출 시기, 검출 횟수 등과 같은 다양한 정보를 함께 저장할 수 있다.

또한, 사용자 모델 수정부(550)에 의해 사용자 입력에 따라 사용자 모델(300)을 수정할 수 있다. 구체적으로, 사용자 모델 수정부(550)는 사용자 눈의 반응 특징 및 컨텐츠 특징을 추가/삭제하기 위한 UI를 생성하고, UI를 통해 입력된 사용자 입력에 따라 사용자 눈의 반응 특징 및 컨텐츠 특징을 수정할 수 있다. 예를 들어, 사용자 모델 수정부(550)는 도 7a에 도시된 바와 같이, 사용자 눈의 반응 특징을 추가/삭제하기 위한 UI를 표시할 수 있으며, 도 7b에 도시된 바와 같이, 컨텐츠 특징 중 사용자의 공포 오브젝트를 지정하기 위한 UI를 표시할 수 있다.

한편, 상술한 실시예에서는 시각적인 컨텐츠 특징과 사용자 눈의 반응 특징을 매칭하여 저장하는 것으로 설명하였으나, 이는 일 실시예에 불과할 뿐, 청각적인 컨텐츠 특징(예를 들어, 욕설, 폭탄 소리, 스티로폼으로부터 소리 등)과 사용자 눈의 반응 특징을 매칭하여 저장할 수 있다.

도 6은 본 개시의 일 실시예에 따른, 사용자 모델(300)을 이용하여 컨텐츠 제어부(132)의 인식 결과 제공부(132-4)가 컨텐츠를 처리하는 방법을 설명하기 위한 도면이다. 일 실시예에 따르면, 인식 결과 제공부(132-4)는 사용자 인식부(610), 컨텐츠 특징 인식부(620), 및 컨텐츠 재생 제어부(630)를 포함할 수 있다.

우선, 사용자 인식부(610)는 전자 장치(100)를 착용한 사용자를 인식한다. 이때, 사용자 인식부(610)는 촬영부(120)를 이용하여 사용자의 홍채를 촬영하여 사용자를 인식할 수 있으나, 이는 일 실시예에 불과할 뿐, 다른 방법(예를 들어, 지문, 비밀번호, 음성인식 등)으로 사용자를 인식할 수 있다.

사용자가 인식된 경우, 컨텐츠 특징 인식부(620)는 재생되는 컨텐츠 속에 사용자 모델(300)에 저장된 컨텐츠 특징이 존재하는지 분석할 수 있다. 구체적으로, 컨텐츠 특징 인식부(620)는 컨텐츠를 재생하는 동안 현재 재생되는 컨텐츠 프레임으로부터 앞 구간의 컨텐츠 프레임을 미리 분석하여 사용자 모델(300)에 저장된 컨텐츠 특징이 존재하는지 여부를 분석할 수 있다. 즉, 컨텐츠 특징 인식부(620)는 컨텐츠가 재생되는 동안 현재 재생되는 앞 구간의 컨텐츠 프레임에 특정 오브젝트가 감지되는지, 특정 색 변화가 감지되는지, 특정 밝기 변화가 감지되는지 여부를 판단할 수 있다.

컨텐츠 특징 인식부(620)에 의해 사용자 모델(300)에 저장된 컨텐츠 특징이 검출된 경우, 컨텐츠 재생 제어부(630)는 제어 모델(640)을 바탕으로 컨텐츠를 처리한다. 이때, 제어 모델(640)은 사용자 모델(300)에 저장된 사용자 눈의 반응 특징 및 컨텐츠 특징에 따른 컨텐츠 처리 방법을 매칭하여 저장하고 있다.

본 발명의 일 실시예로, 검출된 컨텐츠 특징이 특정 오브젝트이고 특정 오브젝트에 대한 반응 특징이 부정적인 반응(예를 들어, 눈 감음)인 경우, 컨텐츠 재생 제어부(630)는 제어 모델(640)을 이용하여 컨텐츠에 포함된 오브젝트에 대한 필터링 처리를 수행하거나 스무딩 처리를 수행할 수 있다. 예를 들어, 도 8a에 도시된 바와 같이, 검출된 컨텐츠 특징이 칼이고, 칼에 대한 반응 특징이 눈 감음인 경우, 컨텐츠 재생 제어부(630)는 도 8b에 도시된 바와 같이, 컨텐츠 프레임 중 칼 영역에 대한 필터링 처리를 수행할 수 있다.

또 다른 실시예로, 검출된 컨텐츠 특징이 특정 밝기 변화이고 특정 밝기 변화에 대한 사용자 반응이 부정적인 경우(예를 들어, 눈 찡그림), 컨텐츠 재생 제어부(630)는 특정 밝기 변화의 변화량을 조절할 수 있다. 예를 들어, 검출된 컨텐츠 특징이 휘도값 100 증가이고, 휘도값 100 증가에 대한 반응 특징이 눈 찡그림인 경우, 컨텐츠 재생 제어부(630)는 휘도 증가값을 100에서 70으로 감소시켜 휘도를 증가시킬 수 있다. 이때, 컨텐츠 재생 제어부(630)는 영상 처리를 수행하여 휘도 증가값으르 감소시킬 수 있으나, 이는 일 실시예에 불과할 뿐, 디스플레이(110)의 백라이트를 제어하여 휘도 증가값을 감소시킬 수 있다.

또 다른 실시예로, 검출된 컨텐츠 특징이 특정 색 변화이고 특정 색 변화에 대한 사용자 반응이 부정적인 경우(예를 들어, 눈을 깜빡임), 컨텐츠 재생 제어부(630)는 특정 색 변화의 채도값을 조절할 수 있다. 예를 들어, 검출된 컨텐츠 특징이 붉은 화면이고, 붉은 화면이 나타난 것에 대한 반응 특징이 눈 깜빡임인 경우, 컨텐츠 재생 제어부(630)는 붉은 화면을 주황색 화면으로 나타나도록 채도값을 조절할 수 있다.

한편, 상술한 실시예에서는 검출된 컨텐츠 특징이 시각적인 컨텐츠 특징인 것으로 설명하였으나, 이는 일 실시예에 불과할 뿐, 시각적인 컨텐츠 특징 이외에 청각적인 컨텐츠 특징 역시 본 발명의 기술적 사상에 포함될 수 있다. 예를 들어, 사용자 모델(300)에 컨텐츠 특징으로 "욕설"과 대응되는 반응 특징으로 "눈 찡그림"이 저장된 경우, 재생되는 컨텐츠에 욕설이 검출되면, 컨텐츠 재생 제어부(630)는 욕설을 묵음으로 처리하여 컨텐츠를 재생할 수 있다.

한편, 상술한 실시예에서는 검출된 사용자 눈의 반응 특징이 부정적인 것으로 설명하였으나, 이는 일 실시예에 불과할 뿐, 사용자 눈의 반응 특징이 긍정적인 경우, 긍정적인 사용자 눈의 반응 특징과 이에 대응되는 컨텐츠 특징을 매칭하여 사용자 모델(300)에 저장할 수 있다. 예를 들어, 사용자가 강아지가 나오는 화면에 동공이 확장되는 경우, 사용자 모델(300)은 컨텐츠 특징을 "강아지", 대응되는 반응 특징을 "동공 확장"이라고 저장할 수 있다. 이 경우, 추후 사용자가 컨텐츠 리스트를 생성하기 위한 명령을 입력한 경우, 프로세서(130)는 긍정적인 반응 특징에 대응되는 컨텐츠 특징으로부터 키워드(예를 들어, 강아지)를 획득하고, 키워드를 바탕으로 컨텐츠 특징이 포함된 컨텐츠 리스트를 생성할 수 있다.

또한, 프로세서(130)는 사용자 눈을 지속적으로 촬영하여 사용자 눈에 대한 질병 정보(또는 건강 정보)를 확인하고, 확인된 질병 정보 또는 건강 정보를 제공하도록 디스플레이(110)를 제어할 수 있다.

예를 들어, 사용자가 전자 장치(100)을 이용하여 동영상을 시청하는 경우, 프로세서(130)는 사용자의 눈을 지속적으로 촬영하여 눈에 대한 이상 상태를 확인하여 질병 정보 또는 건강 정보를 제공할 수 있다.

이에 대해서는 도 9 및 도 10을 참조하여 상세히 설명하기로 한다. 우선, 사용자 눈의 질병 정보를 확인하기 위하여, 프로세서(130)는 사용자 인식부(910), 사용자 눈 영상 획득부(920), 상태 감지부(930), 질병 판단부(940) 미 안내부(950)를 포함한다.

사용자 인식부(910)는 촬영된 사용자 눈에 대한 영상을 바탕으로 사용자를 인식한다. 특히, 사용자 인식부(910)는 홍채 인식을 통해 사용자를 인식할 수 있으나, 이는 일 실시예에 불과할 뿐, 다른 방법을 통해 사용자를 인식할 수 있다.

사용자 눈 영상 획득부(920)는 촬영부(920)에 의해 촬영된 사용자 눈을 포함하는 영상 데이터를 획득한다. 이때, 사용자 눈 영상 획득부(920)는 사용자 눈을 포함하는 영상 데이터를 획득할 수 있으나, 이는 일 실시예에 불과할 뿐, 영상 데이터 중 일부 영역(예를 들어, 눈 또는 동공)에 대한 정보만을 획득할 수 있다.

상태 감지부(930)는 영상 데이터에 포함된 사용자 눈의 상태를 감지한다. 이때, 상태 감지부(930)는 기존의 사용자 눈에 대한 영상을 저장하고 있는 사용자 눈 데이터베이스(960)를 바탕으로 사용자 눈의 크기, 형태, 색깔 등의 변화 등을 감지할 수 있다.

일 실시예에 따르면, 데이터 학습부(예: 도 4b의 데이터 학습부(2100))는 질병 예측 모델(970)을 생성할 수 있다.

질병 예측 모델(970)을 생성하기 위해 데이터 학습부(예: 도 4b의 데이터 학습부(2100))는 눈과 관련된 질병을 가진 눈의 상태에 따른 질병 종류를 학습할 수 있다. 이 경우, 질병 예측 모델(970)을 생성하기 위한 데이터 학습부(예: 도 4b의 데이터 학습부(2100))는 기 설정된 시간 동안의 눈의 상태 변화에 따른 눈의 이상 상태 여부(예: 질병의 종류)를 학습하여 질병 예측 모델(970)을 구축할 수 있다.

일 실시예에 따르면, 질병 예측 모델(970)은 전자 장치(100)의 외부에 위치하는 서버(2000)에 저장될 수도 있다. 또한, 다양한 실시예에 따르면, 전자 장치(100)는 질병 예측 모델(970)의 적어도 일부를 서버(2000)로부터 전송 받아서 전자 장치(100)의 메모리(140) 등에 저장할 수도 있다.

질병 판단부(940)는 질병 예측 모델(970)을 바탕으로 상태 감지부(930)의 감지된 사용자 눈의 상태에 따른 질병 여부를 판단할 수 있다. 예를 들어, 상태 감지부(930)에 의해 사용자 눈에 충혈이 발생한 것으로 감지된 경우, 질병 판단부(940)는 홍채염이 발생한 것으로 판단할 수 있다.

또 다른 예로, 동공 확대/축소에 대한 이상이 발생하거나 반응속도가 늦어진 것으로 감지된 경우, 질병 판단부(940)는 호르너 증후군 도는 아디스 증후군이 발생한 것으로 판단할 수 있다. 또 다른 예로, 머리 움직임에 따른 동공 움직임이 비정상적인 것으로 감지된 경우, 질병 판단부(940)는 이석증이 발생한 것으로 판단할 수 있다.

또 다른 예로, 질병 판단부(940)는 안구의 움직임에 따라 안구진탕(Nystagmus)의 발생 여부를 감지할 수 있다. 또 다른 예로, 시야 결손 여부에 따라 시신경 손상 또는 녹내장의 발생 여부 등을 감지할 수 있다. 이때, 질병 판단부(940)는 가상현실(VR) 컨텐츠 이용 중 동공의 움직임을 추적하여 시야 지도를 생성하고, 생성된 시야 지도를 통해 시야 결손 여부를 판단할 수 있다.

또한, 질병 판단부(940)는 상태 감지부(930)에 감지된 눈(또는 동공)의 크기 변화, 형태 변화, 색의 변화, 반응 속도를 바탕으로 질병 발생 예측 시기, 증상의 심각도를 함께 판단할 수 있다.

질병 판단부(940)에 의해 사용자 눈에 질병이 있는 것으로 판단된 경우, 안내부(950)는 사용자 눈에 대한 질병 정보를 포함하는 안내 메시지를 제공할 수 있다. 예를 들어, 도 10에 도시된 바와 같이, 안내부(950)는 "안구질환의 가능성이 매우 높습니다. 가까운 시일 내에 병원에 방문하세요"라는 안내 메시지(1010)를 제공할 수 있다. 이때, 안내 메시지에는 질병 예측 여부뿐만 아니라 질병 종류, 질병 발생 예측 시기, 질병의 심각도 등을 포함할 수 있다.

일 실시예에 따르면, 전자 장치(100)가 안내 메시지를 표시할 수 있고, 전자 장치(100)와 통신 관계를 수립하고 있는 타 전자 장치(예를 들면, 스마트 폰, 태블릿 PC)가 안내 메시지를 표시할 수도 있다.

이와 같이, 본 개시의 다양한 실시예에 따르면, 사용자는 전자 장치(100)를 이용하여 동영상과 같은 컨텐츠를 시청하면서 눈의 건강 상태까지 확인할 수 있다. 특히, 본 개시의 질병 예측 모델()을 이용하여 눈과 관련된 이상 상태를 추정하는 경우, 전자 장치(100)는 기 설정된 시간(예를 들면, 1시간 이상의 시간)동안의 눈 상태 변화에 따른 눈의 이상 상태를 추정하여 검사의 정확성을 높이고, 더불어 눈 검사를 위해 별도의 시간을 준비해야 하는 사용자의 불편함을 줄일 수 있다.

도 11은 본 개시의 일 실시예에 따른, 전자 장치의 제어 방법을 설명하기 위한 흐름도이다.

우선, 전자 장치(100)는 전자 장치(100)를 착용하는 사용자 눈의 반응 특징에 따른 컨텐츠 특징을 학습하여 사용자 모델을 구축한다(S1110). 구체적으로, 전자 장치(100)는 학습 컨텐츠가 재생되는 동안 전자 장치를 착용하는 사용자의 눈을 포함하는 영상을 촬영하고, 영상 속에 포함된 사용자 눈에 대한 기설정된 반응 특징이 감지되면, 기설정된 반응 특징이 감지된 시점으로부터 기설정된 구간 내의 컨텐츠 프레임에 포함된 컨텐츠 특징을 획득하며, 기설정된 반응 특징 및 컨텐츠 특징을 학습하여 사용자 모델을 구축할 수 있다.

그리고, 전자 장치(100)는 컨텐츠를 재생한다(S1120).

그리고, 전자 장치(100)는 재생되는 컨텐츠로부터 사용자 모델에 저장된 컨텐츠 특징을 검출한다(S1130). 구체적으로, 전자 장치(100)는 컨텐츠가 재생하는 동안 현재 재생되는 컨텐츠 프레임의 앞 구간에 대한 컨텐츠 프레임을 분석하여 사용자 모델에 저장된 컨텐츠 특징이 존재하는지 여부를 판단할 수 있다.

사용자 모델에 포함된 컨텐츠 특징이 검출되면(S1130-Y), 전자 장치(100)는 검출된 컨텐츠 특징에 대응되는 사용자 눈의 반응 특징을 바탕으로 재생되는 컨텐츠를 처리한다(S1140). 구체적으로, 전자 장치(100)는 검출된 컨텐츠 특징 및 검출된 컨텐츠 특징에 대응하는 반응 특징을 바탕으로 검출된 컨텐츠 특징이 포함된 컨텐츠 프레임에 대한 영상 처리를 수행할 수 있다. 예를 들어, 전자 장치(100)는 컨텐츠 특징이 포함된 컨텐츠 프레임에 대해 스무딩 처리, 필터링 처리를 수행하거나 밝기 변화값을 조절하거나 채도값을 조절할 수 있다.

상술한 바와 같은 본 발명의 다양한 실시예에 의하면, 사용자가 부정적인 반응을 보인 컨텐츠 특징에 대한 영상 처리를 수행함으로써, 사용자는 더욱 편안하고 자극없게 영상을 시청할 수 있게 된다.

한편, 상술한 실시예에서는 전자 장치(100)가 사용자 모델을 구축하고, 구축된 사용자 모델을 이용하여 컨텐츠를 처리하는 것으로 설명하였으나, 이는 일 실시예에 불과할 뿐, 도 12에 도시된 바와 같이, 전자 장치(100)와 연결된 휴대 단말(1200)이 사용자 모델을 구축하고, 구축된 사용자 모델을 이용하여 컨텐츠를 처리할 수 있다.

구체적으로, 휴대 단말(1200)이 학습 컨텐츠를 전자 장치(100)로 전송하여 전자 장치(100)가 학습 컨텐츠를 재생하는 동안 전자 장치(100)는 사용자 눈을 촬영하여 촬영된 영상 데이터를 휴대 단말(1200)로 전송할 수 있다. 이때, 전자 장치(100)는 사용자 눈에 대해 기설정된 반응 특징을 감지한 경우, 촬영된 영상 데이터를 휴대 단말(1200)로 전송할 수 있다.

그리고, 휴대 단말(1200)은 학습 컨텐츠 및 촬영된 영상 데이터를 바탕으로 사용자 눈의 반응 특징 및 대응되는 컨텐츠 특징을 저장하는 사용자 모델을 구축할 수 있다.

그리고, 휴대 단말(1200)이 사용자 모델에 포함된 컨텐츠 특징을 포함하는 컨텐츠를 전자 장치(100)로 전송하는 경우, 휴대 단말(1200)은 사용자 모델에 포함된 컨텐츠 특징 및 대응되는 사용자 눈의 반응 특징을 바탕으로 컨텐츠에 대한 영상 처리를 수행한 후, 영상 처리된 컨텐츠를 전자 장치(100)로 전송할 수 있다.

도 13은 일 실시예에 따른 전자 장치가 제 1 프로세서 및 제 2 프로세서를 포함하는 경우에 컨텐츠 특징을 추정하는 상황을 설명하기 위한 흐름도이다.

도 13을 참조하면, 전자 장치(100)는 제 1 프로세서(130a) 및 제 2 프로세서(130b)를 포함할 수 있다.

제 1 프로세서(130a)는 전자 장치(100)에 설치된 적어도 하나의 어플리케이션의 실행을 제어하고, 전자 장치(100)에 획득되는 영상(예: 라이브 뷰 영상, 촬영된 이미지, 동영상 등)에 대한 그래픽 처리를 수행할 수 있다. 제 1 프로세서(130a)는 CPU(central processing unit), GPU(graphic processing unit), 통신칩 및 센서 등의 기능이 통합된 SoC(system on chip) 형태로 구현될 수 있다. 또한, 제 1 프로세서(130a)는 본 명세서 내에서 AP(application processor)로 설명될 수도 있다.

제 2 프로세서(130b)는 데이터 인식 모델을 이용하여 이미지의 관심 영역을 추정할 수 있다.

한편, 제 2 프로세서(130b)는 데이터 인식 모델을 이용한 관심 영역 추정의 기능을 수행하는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수 있다. 다양한 실시예에 따르면, 시각적 이해를 요소기술로 하는 데이터 인식 모델의 경우, 인공 지능(AI: artificial intelligence)을 위한 전용 하드웨어 칩은 GPU를 포함할 수 있다.

또한, 전자 장치(100)는 제 2 프로세서(130b)와 동일한 기능을 수행하는 제 3 프로세서, 제 4 프로세서 등을 더 포함할 수도 있다.

본 개시의 다양한 실시예에 따르면, 제 1 프로세서(130a)가 수행하는 기능은 메모리(140)에 저장되어 다양한 기능을 수행하는 어플리케이션들이 대응하여 수행할 수 있고, 제 2 프로세서(130b)가 수행하는 기능은 전자 장치(100)의 OS가 대응하여 수행할 수 있다.

예를 들어, 카메라 어플리케이션은 라이브 뷰 영상을 생성하고, 소정의 조건에 대응하는 데이터 인식 모델을 결정할 수 있다. 카메라 어플리케이션은 OS 및/또는 전자 장치(100)의 외부에 위치하는 서버에 대하여 결정된 데이터 인식 모델 및 관심 영역 추정 요청과 관련된 정보를 전송할 수 있다.

OS 및/또는 외부의 서버는 각각 포함된 데이터 인식 모델을 이용하여 관심 영역을 추정할 수 있다.

일 실시예에 따르면, 제 1 프로세서(130a)는 컨텐츠를 재생할 수 있다(S1310).

예를 들어, 제 1 프로세서(130a)는 메모리에 저장된 동영상을 재생하거나, 외부 서버로부터 동영상 데이터를 스트리밍 받아서 재생할 수 있다.

그리고, 제 1 프로세서(130a)는 현재 재생하려는 프레임 보다 기 설정된 시간만큼 앞선 프레임을 제 2 프로세서(130b)로 전송할 수 있다(S1320).

그리고, 제 2 프로세서(130b)는 전송 받은 프레임을 사용자 모델에 적용하여 프레임에 포함된 컨텐츠 특징을 추정할 수 있다(S1330).

컨텐츠 특징이 추정 되면, 제 2 프로세서(130b)는 추정된 컨텐츠 특징을 제 1 프로세서(130a)로 전송할 수 있다.

제 1 프로세서(130a)는 추정된 컨텐츠 특징에 대응되는 컨텐츠 처리 방법을 결정하여 컨텐츠에 반영할 수 있다. 예를 들어, 제 1 프로세서(130a)는 컨텐츠 특징이 포함된 프레임에 대해 스무딩 처리, 필터링 처리를 수행하거나, 밝기값을 조절하거나 채도값을 조절할 수 있다(S1350).

그리고, 제 1프로세서()는 컨텐츠 처리 방법이 적용된 컨텐츠를 재생할 수 있다(S1360).

도 14는 일 실시예에 따른 전자 장치가 서버를 이용하여 컨텐츠 특징을 추정하는 상황을 설명하기 위한 흐름도이다.

도 4b에서 상술한 바와 같이, 일 실시예에 따른 서버(2000)는 사용자 모델을 포함할 수 있다.

일 실시예에 따르면, 전자 장치(100)는 컨텐츠를 재생할 수 있다(S1410).

예를 들어, 전자 장치(100)는 메모리에 저장된 동영상을 재생하거나, 외부 서버로부터 동영상 데이터를 스트리밍 받아서 재생할 수 있다.

그리고, 전자 장치(100)는 현재 재생하려는 프레임 보다 기 설정된 시간만큼 앞선 프레임을 서버(2000)로 전송할 수 있다(S1420).

그리고, 서버(2000)는 전송 받은 프레임을 사용자 모델에 적용하여 프레임에 포함된 컨텐츠 특징을 추정할 수 있다(S1430).

컨텐츠 특징이 추정 되면, 서버(2000)는 추정된 컨텐츠 특징을 전자 장치(100)로 전송할 수 있다.

전자 장치(100)는 추정된 컨텐츠 특징에 대응되는 컨텐츠 처리 방법을 결정하여 컨텐츠에 반영할 수 있다. 예를 들어, 전자 장치(100)는 컨텐츠 특징이 포함된 프레임에 대해 스무딩 처리, 필터링 처리를 수행하거나, 밝기값을 조절하거나 채도값을 조절할 수 있다(S1450).

그리고, 전자 장치(100)는 컨텐츠 처리 방법이 적용된 컨텐츠를 재생할 수 있다(S1460).

도 15는 일 실시예에 따른 전자 장치가 서버를 이용하여 눈과 관련된 이상 상태를 추정하는 상황을 설명하기 위한 흐름도이다.

일 실시예에 따른 서버(2000)는 질병 예측 모델을 포함할 수 있다.

일 실시예에 따르면, 전자 장치(100)는 컨텐츠를 재생할 수 있다(S1510).

그리고, 전자 장치(100)는 기 설정된 시간 이상 사용자의 눈 영상을 촬영할 수 있다(S1520). 예를 들어, 전자 장치(100)는 사용자가 동영상을 시청하고 있는 동안에, 동영상을 시청하는 사용자의 눈을 대략 한 시간 촬영할 수 있다. 또한, 다양한 실시예에 따르면, 전자 장치(100)는 사용자가 동영상을 시청하고 있는 동안에, 동영상을 시청하는 사용자의 눈을 대략 5초 촬영하고, 다시 1분 후 대략 5초 촬영하는 것을 반복할 수 있다.

전자 장치(100)는 촬영된 눈 영상을 서버(2000)로 전송할 수 있다(S1530).

그리고, 서버(2000)는 수신된 눈 영상을 질병 예측 모델에 적용하여 눈과 관련된 이상 상태를 추정할 수 있다(S1540). 예를 들어, 서버(2000)가 사용자의 눈동자 주변이 점차 붉게 변하는 영상을 질병 예측 모델에 적용하면, 질병 예측 모델은 사용자의 눈에 홍채염이 있는 것을 추정할 수 있다.

서버(2000)는 추정된 질병 내용을 전자 장치(100)로 전송할 수 있다(S1550).

전자 장치(100)는 전송 받은 질병 내용을 표시할 수 있다(S1560). 다양한 실시예에 따르면, 전자 장치(100)와 통신 관계를 수립하고 있는 타 전자 장치(예: 스마트 폰, 태블릿 PC 등)가 전송 받은 질병 내용을 표시할 수도 있다.

상기에서 설명된 방법들은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광 기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기의 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

또한, 개시된 실시예들은 컴퓨터로 읽을 수 있는 저장 매체(computer-readable storage media)에 저장된 명령어를 포함하는 S/W 프로그램으로 구현될 수 있다.

컴퓨터는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 개시된 실시예에 따른 동작이 가능한 장치로서, 개시된 실시예들에 따른 전자 장치를 포함할 수 있다.

컴퓨터로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서,기비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.

또한, 개시된 실시예들에 따른 제어 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다.

컴퓨터 프로그램 제품은 S/W 프로그램, S/W 프로그램이 저장된 컴퓨터로 읽을 수 있는 저장 매체를 포함할 수 있다. 예를 들어, 컴퓨터 프로그램 제품은 전자 장치의 제조사 또는 전자 마켓(예, 구글 플레이 스토어, 앱 스토어)을 통해 전자적으로 배포되는 S/W 프로그램 형태의 상품(예, 다운로더블 앱)을 포함할 수 있다. 전자적 배포를 위하여, S/W 프로그램의 적어도 일부는 저장 매체에 저장되거나, 임시적으로 생성될 수 있다. 이 경우, 저장 매체는 제조사의 서버, 전자 마켓의 서버, 또는 SW 프로그램을 임시적으로 저장하는 중계 서버의 저장매체가 될 수 있다.

컴퓨터 프로그램 제품은, 서버 및 전자 장치로 구성되는 시스템에서, 서버의 저장매체 또는 전자 장치의 저장매체를 포함할 수 있다. 또는, 서버 또는 전자 장치와 통신 연결되는 제 3 장치(예, 스마트폰)가 존재하는 경우, 컴퓨터 프로그램 제품은 제 3 장치의 저장매체를 포함할 수 있다. 또는, 컴퓨터 프로그램 제품은 서버로부터 전자 장치 또는 제 3 장치로 전송되거나, 제 3 장치로부터 전자 장치로 전송되는 S/W 프로그램 자체를 포함할 수 있다.

이 경우, 서버, 전자 장치 및 제 3 장치 중 하나가 컴퓨터 프로그램 제품을 실행하여 개시된 실시예들에 따른 방법을 수행할 수 있다. 또는, 서버, 전자 장치 및 제 3 장치 중 둘 이상이 컴퓨터 프로그램 제품을 실행하여 개시된 실시예들에 따른 방법을 분산하여 실시할 수 있다.

예를 들면, 서버(예로, 클라우드 서버 또는 인공 지능 서버 등)가 서버에 저장된 컴퓨터 프로그램 제품을 실행하여, 서버와 통신 연결된 전자 장치가 개시된 실시예들에 따른 방법을 수행하도록 제어할 수 있다.

또 다른 예로, 제 3 장치가 컴퓨터 프로그램 제품을 실행하여, 제 3 장치와 통신 연결된 전자 장치가 개시된 실시예에 따른 방법을 수행하도록 제어할 수 있다. 제 3 장치가 컴퓨터 프로그램 제품을 실행하는 경우, 제 3 장치는 서버로부터 컴퓨터 프로그램 제품을 다운로드하고, 다운로드 된 컴퓨터 프로그램 제품을 실행할 수 있다. 또는, 제 3 장치는 프리로드 된 상태로 제공된 컴퓨터 프로그램 제품을 실행하여 개시된 실시예들에 따른 방법을 수행할 수도 있다.

이상과 같이 본 개시는 비록 한정된 실시 예와 도면에 의해 설명되었으나, 본 개시는 상기의 실시 예에 한정되는 것은 아니며, 본 개시가 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 그러므로, 본 개시의 범위는 설명된 실시 예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등한 것들에 의해 정해져야 한다.

110: 디스플레이　　　　　　　　　　　　　　　　　　　　　120: 촬영부
130: 프로세서　　　　　　　　　　　　　　　　　　　140: 메모리
150: 통신부　　　　　　　　　　　　　　　　　　　　　　　　　　160: 영상 처리부
170: 오디오 출력부　　　　　　　　　　　　　180: 입력부
190: 감지부

Claims

사용자의 머리에 착용되어 영상을 제공하는 전자 장치의 제어 방법에 있어서,
상기 전자 장치를 착용하는 사용자 눈의 반응 특징과 상기 사용자 눈의 반응 특징에 대응되는 적어도 하나의 컨텐츠 특징에 의해 학습된 사용자 모델을 구축하는 단계;
컨텐츠를 재생하는 동안 상기 재생되는 컨텐츠의 컨텐츠 특징을 검출하는 단계;
상기 재생되는 컨텐츠의 컨텐츠 특징 중 상기 사용자 모델의 학습에 이용된 제1 컨텐츠 특징이 존재하면, 상기 제1 컨텐츠 특징에 대응되는 사용자 눈의 반응 특징에 기초하여 상기 재생되는 컨텐츠의 재생을 제어하는 단계;를 포함하고,
상기 검출하는 단계는,
상기 재생되는 컨텐츠의 현재 프레임의 앞 구간에 대한 컨텐츠 프레임을 분석하여 상기 재생되는 컨텐츠의 컨텐츠 특징 중 상기 사용자 모델의 학습에 이용된 상기 제1 컨텐츠 특징이 존재하는 지 판단하는 단계를 포함하는 제어 방법.
제1항에 있어서,
상기 구축하는 단계는,
학습 컨텐츠가 재생되는 동안 상기 전자 장치를 착용하는 사용자의 눈을 포함하는 영상을 촬영하는 단계;
상기 영상 속에 포함된 사용자 눈에 대한 기설정된 반응 특징이 감지되면, 상기 기설정된 반응 특징이 감지된 시점으로부터 기설정된 구간 내의 컨텐츠 프레임에 포함된 컨텐츠 특징을 획득하는 단계; 및
상기 기설정된 반응 특징 및 상기 컨텐츠 특징을 학습하여 상기 사용자 모델을 구축하는 단계;를 포함하는 것을 특징으로 하는 제어 방법.
제2항에 있어서,
상기 컨텐츠 특징은,
상기 기설정된 반응 특징이 감지된 시점으로부터 기설정된 구간 내의 컨텐츠 프레임에 포함된 오브젝트, 컨텐츠 프레임의 밝기 변화 및 컨텐츠 프레임의 색 변화 중 적어도 하나인 것을 특징으로 하는 제어 방법.
제3항에 있어서,
상기 사용자 모델은,
상기 컨텐츠 특징에 대응되는 상기 기설정된 반응 특징에 기초하여 학습되는 것을 특징으로 하는 제어 방법.
삭제
제4항에 있어서,
상기 제어하는 단계는,
상기 제1 컨텐츠 특징이 특정 오브젝트이고 상기 특정 오브젝트에 대한 반응 특징이 부정적인 반응인 경우, 상기 컨텐츠에 포함된 오브젝트에 대한 필터링 처리를 수행하거나 스무딩 처리를 수행하는 것을 특징으로 하는 제어 방법.
제4항에 있어서,
상기 제어하는 단계는,
상기 제1 컨텐츠 특징이 특정 밝기 변화이고 상기 특정 밝기 변화에 대한 사용자 반응이 부정적인 경우, 상기 특정 밝기 변화의 변화량을 조절하는 것을 특징으로 하는 제어 방법.
제4항에 있어서,
상기 제어하는 단계는,
상기 제1 컨텐츠 특징이 특정 색 변화이고 상기 특정 색 변화에 대한 사용자 반응이 부정적인 경우, 상기 특정 색 변화의 채도값을 조절하는 것을 특징으로 하는 제어 방법.
제2항에 있어서,
학습된 제2 컨텐츠 특징에 대한 사용자 반응이 긍정적인 반응인 것으로 판단된 경우, 제2 컨텐츠 특징에 대한 키워드를 획득하는 단계; 및
사용자 명령에 따라 상기 획득된 키워드를 바탕으로 판단된 추천 컨텐츠를 포함하는 리스트를 제공하는 단계;를 포함하는 제어 방법.
제1항에 있어서,
사용자 눈을 포함하는 촬영된 영상을 누적하여 저장하는 단계;
상기 저장된 사용자 눈에 포함된 영상을 분석하여 사용자 눈의 이상 상태를 판단하는 단계; 및
상기 사용자 눈이 이상 상태인 것으로 판단된 경우, 이상 상태에 대한 정보를 제공하는 단계;를 포함하는 제어 방법.
사용자의 머리에 착용되어 영상을 제공하는 전자 장치에 있어서,
컨텐츠를 표시하는 디스플레이;
사용자 눈을 촬영하는 촬영부;
상기 전자 장치를 착용하는 사용자 눈의 반응 특징과 상기 사용자 눈의 반응 특징에 대응되는 적어도 하나의 컨텐츠 특징이 반영된 사용자 모델을 저장하는 메모리; 및
프로세서;를 포함하고,
상기 프로세서는,
컨텐츠를 재생하는 동안 상기 재생되는 컨텐츠의 컨텐츠 특징을 검출하고,
상기 재생되는 컨텐츠의 컨텐츠 특징 중 상기 사용자 모델에 반영된 제1 컨텐츠 특징이 존재하면, 상기 제1 컨텐츠 특징에 대응되는 사용자 눈의 반응 특징에 기초하여 상기 재생되는 컨텐츠의 재생을 제어하는 전자 장치.
제11항에 있어서,
상기 프로세서는,
학습 컨텐츠가 재생되는 동안 상기 촬영부를 통해 상기 전자 장치를 착용하는 사용자의 눈을 포함하는 영상을 촬영하며, 상기 영상 속에 포함된 사용자 눈에 대한 기설정된 반응 특징이 감지되면 상기 기설정된 반응 특징이 감지된 시점으로부터 기설정된 구간 내의 컨텐츠 프레임에 포함된 컨텐츠 특징을 획득하고, 상기 기설정된 반응 특징 및 상기 컨텐츠 특징을 학습하여 상기 사용자 모델을 구축하는 것을 특징으로 하는 전자 장치.
제12항에 있어서,
상기 컨텐츠 특징은,
상기 기설정된 반응 특징이 감지된 시점으로부터 기설정된 구간 내의 컨텐츠 프레임에 포함된 오브젝트, 컨텐츠 프레임의 밝기 변화 및 컨텐츠 프레임의 색 변화 중 적어도 하나인 것을 특징으로 하는 전자 장치.
제13항에 있어서,
상기 사용자 모델은,
상기 컨텐츠 특징에 대응되는 상기 기설정된 반응 특징에 기초하여 학습되는 전자 장치.
삭제
제14항에 있어서,
상기 프로세서는,
상기 제1 컨텐츠 특징이 특정 오브젝트이고 상기 특정 오브젝트에 대한 반응 특징이 부정적인 반응인 경우, 상기 컨텐츠에 포함된 오브젝트에 대한 필터링 처리를 수행하거나 스무딩 처리를 수행하는 것을 특징으로 하는 전자 장치.
제14항에 있어서,
상기 프로세서는,
상기 제1 컨텐츠 특징이 특정 밝기 변화이고 상기 특정 밝기 변화에 대한 사용자 반응이 부정적인 경우, 상기 특정 밝기 변화의 변화량을 조절하는 것을 특징으로 하는 전자 장치.
제14항에 있어서,
상기 프로세서는,
상기 제1 컨텐츠 특징이 특정 색 변화이고 상기 특정 색 변화에 대한 사용자 반응이 부정적인 경우, 상기 특정 색 변화의 채도값을 조절하는 것을 특징으로 하는 전자 장치.
제12항에 있어서,
상기 프로세서는,
학습된 제2 컨텐츠 특징에 대한 사용자 반응이 긍정적인 반응인 것으로 판단된 경우, 상기 제2 컨텐츠 특징에 대한 키워드를 획득하며, 사용자 명령에 따라 상기 획득된 키워드를 바탕으로 판단된 추천 컨텐츠를 포함하는 리스트를 제공하도록 상기 디스플레이를 제어하는 것을 특징으로 하는 전자 장치.
제11항에 있어서,
상기 프로세서는,
사용자 눈을 포함하는 촬영된 영상을 상기 메모리에 누적하여 저장하며, 상기 저장된 사용자 눈에 포함된 영상을 분석하여 사용자 눈의 이상 상태를 판단하고, 상기 사용자 눈이 이상 상태인 것으로 판단된 경우 이상 상태에 대한 정보를 제공하도록 상기 디스플레이를 제어하는 것을 특징으로 하는 전자 장치.