KR101845972B1 - Measurement method and system of visual fatigue level based depth image and bio signal - Google Patents

Measurement method and system of visual fatigue level based depth image and bio signal Download PDF

Info

Publication number
KR101845972B1
KR101845972B1 KR1020160138121A KR20160138121A KR101845972B1 KR 101845972 B1 KR101845972 B1 KR 101845972B1 KR 1020160138121 A KR1020160138121 A KR 1020160138121A KR 20160138121 A KR20160138121 A KR 20160138121A KR 101845972 B1 KR101845972 B1 KR 101845972B1
Authority
KR
South Korea
Prior art keywords
image
visual fatigue
signal
bio
parameter
Prior art date
Application number
KR1020160138121A
Other languages
Korean (ko)
Inventor
조준동
박진훈
김종학
박진원
Original Assignee
성균관대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 성균관대학교 산학협력단 filed Critical 성균관대학교 산학협력단
Priority to KR1020160138121A priority Critical patent/KR101845972B1/en
Application granted granted Critical
Publication of KR101845972B1 publication Critical patent/KR101845972B1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4884Other medical applications inducing physiological or psychological stress, e.g. applications for stress testing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/024Detecting, measuring or recording pulse rate or heart rate
    • A61B5/02416Detecting, measuring or recording pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis

Abstract

The present invention relates to a method for measuring a 3D image expected visual fatigue level based on a depth image and a bio-signal considering a user and a system thereof. The method comprises the steps of: (a) obtaining an image expected visual fatigue level parameter associated with an image feature from a 3D image; (b) obtaining a bio-signal obtained visual fatigue level parameter appearing from a bio-signal of a viewer while watching a 3D image; and (c) generating weights by using a fuzzy function generated from the obtained image expected visual fatigue level parameter and the obtained bio-signal visual fatigue level parameter, and selecting one of the generated weights to calculate a user′s visual fatigue level.

Description

사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법 및 시스템{MEASUREMENT METHOD AND SYSTEM OF VISUAL FATIGUE LEVEL BASED DEPTH IMAGE AND BIO SIGNAL}TECHNICAL FIELD [0001] The present invention relates to a three-dimensional image visual fatigue measurement method and system based on a user-considered depth image and a bio-

본 발명은 3차원 영상 시각 피로도 측정방법 및 시스템에 관한 것으로, 보다 상세하게는 3D 영상특징과 사용자의 3D 영상 시청 간 변화하는 생체 신호를 분석하여 실시간으로 시각피로도를 측정하는 방법 및 시스템에 관한 것이다.The present invention relates to a method and system for measuring three-dimensional visual fatigue, and more particularly, to a method and system for measuring visual fatigue in real time by analyzing bio-signals varying between a 3D image feature and a user's 3D image viewing .

3D 영상은 인간이 시각적으로 느끼는 원리를 모방해 영상으로 구현하는 방식이다. 인간의 시각은 두 눈으로 영상정보를 지각한 후 이를 뇌에서 종합적으로 인지하는 방식으로 시각 정보를 획득한다. 이때 중요한 생체적 특성이 존재하는데 양쪽 눈이 약 6.5cm가량 떨어져 있다는 점이다. 따라서 특정 대상을 볼 때 양쪽 눈은 화각 차이로 인해 다른 영상을 만들어 낸다. 이를 양안 시차(binocular disparity)라고 한다. 시각적 차이가 있는 두 영상을 합성하면 입체감이 발생하고 이를 종합하는 과정에서 공간적 지각을 할 수 있는 영상 정보를 인지하게 되는 것이다.3D image is a method of imitating the principle that human beings visually feel and implements. The human vision perceives image information with two eyes and acquires the visual information in a way that the brain perceives it comprehensively. At this point, there is an important biologic characteristic that both eyes are about 6.5 cm apart. Therefore, when viewing a particular object, both eyes produce different images due to differences in angle of view. This is called binocular disparity. When two images with a visual difference are synthesized, a stereoscopic effect occurs, and in the process of synthesizing the stereoscopic effect, the image information capable of spatial perception is recognized.

도 1은 3D 영상의 시청에서 발생하는 시각피로도의 발생원리를 나타낸 모식도이다. 이와 같은 방식으로 만들어진 3D 영상을 시청할 경우 도 1과 같이 실제 영상의 거리와 3D효과로 인한 수렴 거리(convergence distance)가 일치하지 않게 됨으로써, 시각피로도가 발생하게 된다. 이때 발생된 시각피로도를 측정하기 위한 방법으로는 영상특징 정보를 이용하거나 시청자의 생체 신호 변화를 측정하여 나타낼 수 있다.FIG. 1 is a schematic diagram showing the principle of generation of visual fatigue caused by viewing of a 3D image. When viewing a 3D image created in this manner, the distance of the actual image and the convergence distance due to the 3D effect do not coincide with each other as shown in FIG. 1, thereby causing visual fatigue. As a method for measuring the visual fatigue generated at this time, it is possible to use the image feature information or to measure the change in the biological signal of the viewer.

먼저 영상특징 정보를 사용하여 시각피로도를 측정하는 방법은 3차원 영상의 깊이, AC conflict, 깊이 생성위치, 평균 움직임 속도와 같은 영상의 특징을 이용하여 구할 수 있다. 이와 같은 방법은 시청자가 영상 시청 전 미리 피로도를 예측할 수 있다. 또한 피로도의 근본적인 원인이 영상을 사용하여 피로도를 나타내기 때문에 안정성이 높다. 하지만 사용자가 느끼는 외부요인이나 사용자의 상태가 고려되지 않으므로 사용자의 맞춤형 피로도 측정이라고는 볼 수 없다.First, the method of measuring visual fatigue using image feature information can be obtained by using image features such as depth of 3D image, AC conflict, depth generation position, and average motion speed. Such a method can predict the fatigue in advance before the viewer views the video. Also, stability is high because the root cause of fatigue is fatigue using images. However, it does not take into account the user's external factors or the user's condition, so it can not be seen as a user's custom fatigue measurement.

다음으로 시청자가 3D 영상 시청 간 생체신호(뇌파, 맥파, 심전도, 근전도 등)를 측정하여 변화하는 파라미터를 사용할 수 있다. 생체신호 파라미터는 시청자가 느끼는 모든 것을 포함하여 변화하게 된다. 즉 영상시청 이외의 외부환경과 같은 요인들이 생체신호 파라미터에 포함되어있다. 하지만 3D 영상 시청외적인 것을 모두 포함하고 있기 때문에 시각피로도 파라미터로써 데이터(data)가 불안정하다고 볼 수 있다. Next, the viewer can use the changing parameters by measuring the bio-signals (brain wave, pulse wave, electrocardiogram, EMG, etc.) between the 3D image viewing. The biological signal parameters are changed including everything the viewer feels. In other words, factors such as external environment other than video viewing are included in the bio-signal parameter. However, since all of the 3D image viewing contents are included, the data (data) is unstable as the visual fatigue parameter.

대한민국 등록특허번호 제10-1595546호(등록일자: 2016년02월12일)Korean Registered Patent No. 10-1595546 (Registration date: February 12, 2016) 대한민국 등록특허번호 제10-1356427호(등록일자: 2014년01월22일)Korean Registered Patent No. 10-1356427 (Registered Date: January 22, 2014)

본 발명에 따른 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법 및 시스템은 다음과 같은 해결과제를 가진다.The method and system for measuring three-dimensional visual fatigue based on a depth image and a bio-signal considering a user according to the present invention have the following problems.

첫째, 본 발명은 영상정보와 생체신호를 사용함으로써 종래기술을 단점을 보완 하며 사용자 단위의 시각피로도를 실시간으로 측정할 수 있는 3D 영상 시각피로도 측정방법 및 시스템을 제공하고자 함이다.First, the present invention is to provide a 3D image visual fatigue measurement method and system that can compensate for the disadvantages of the prior art by using image information and biological signals, and can measure the visual fatigue of each user in real time.

둘째, 본 발명은 사용자가 느끼는 시각피로도를 정확히 측정하고, 이에 따라 깊이 영상을 조절하여 시각피로도가 적게 발생되는 영상을 제공할 수 있는 3D 영상 시각피로도 측정방법 및 시스템을 제공하고자 함이다.It is another object of the present invention to provide a 3D image visual fatigue measurement method and system capable of accurately measuring the visual fatigue experienced by a user and adjusting the depth image to provide an image with low visual fatigue.

본 발명의 해결과제는 이상에서 언급한 것들에 한정되지 않으며, 언급되지 아니한 다른 해결과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The present invention has been made in view of the above problems, and it is an object of the present invention to provide an apparatus and method for controlling the same.

상술한 과제를 해결하고자 하는 본 발명의 제1 특징은 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법으로, (a) 3D 영상으로부터 영상 특징과 관련된 영상 시각피로도(Expected Visual Fatigue level) 파라미터를 획득하는 단계; (b) 3D 영상을 시청하는 동안 시청자의 생체신호로부터 나타나는 생체 시각피로도(Obtained Visual Fatigue level) 파라미터를 획득하는 단계; 및 (c) 획득된 상기 영상 시각피로도 파라미터 및 생체 시각피로도 파라미터로부터 생성된 퍼지(FUZZY) 함수를 이용하여 가중치를 생성하고, 생성된 가중치 중 어느 하나를 선택하여 사용자 시각피로도를 산출하는 단계를 포함한다.According to a first aspect of the present invention, there is provided a 3D image visual fatigue measurement method based on a user-considered depth image and a bio-signal, the method comprising the steps of: (a) determining an image visual fatigue Obtaining a Fatigue level parameter; (b) obtaining an Obtained Visual Fatigue level parameter appearing from a bio-signal of a viewer while viewing the 3D image; And (c) generating a weight by using a fuzzy function generated from the acquired image-visual-fatigue parameter and the biometric-visual-fatigue parameter, and selecting one of the generated weights to calculate a user's visual-fatigue do.

여기서, 상기 (a) 단계는, 3D 영상의 시청으로부터 발생되는 조절 거리(Accommodation distance) 및 수렴 거리(Convergence distance)의 차이(AC conflict)를 이용하여 영상 시각피로도 파라미터를 산출하여 획득하는 단계인 것이 바람직하다.Here, the step (a) is a step of calculating and acquiring an image time fatigue parameter using an accommodation distance and an AC conflict between the convergence distance generated from watching the 3D image desirable.

또한, 상기 영상 시각피로도 파라미터를 산출하는 수학식은,Further, the equation for calculating the image-visual-fatigue parameter is:

Figure 112016102841568-pat00001
Figure 112016102841568-pat00001

(여기서, α는 디스플레이(display) 되는 화면의 시점각(view-point angle)이고 β는 양의 영역 γ는 음의 영역에서의 시점각(view-point angle)이다.)와 같은 식을 만족하는 것이 바람직하다.(Where a is the view-point angle of the screen to be displayed and beta is the view-point angle in the negative region) .

또한, 상기 (b) 단계에서, 상기 생체신호는 3D 영상을 시청하는 동안의 시청자의 맥파신호인 것이 바람직하고, 상기 (b) 단계는, (b1) 3D 영상을 시청하는 동안의 신청자의 맥파를 측정하여 PPG 데이터를 획득하는 단계; (b2) 상기 획득한 PPG 데이터를 시간영역과 주파수영역이 분석방법에 따라 다수개의 파라미터를 획득하는 단계; 및 (b3) 획득된 다수개의 파라미터 중 어느 하나를 선택하여 생체 시각피로도(Obtained Visual Fatigue) 파라미터로 선정하는 단계를 포함하는 것이 바람직하다.Preferably, in the step (b), the bio-signal is a pulse wave signal of a viewer while viewing a 3D image, and the step (b) includes the steps of: (b1) Obtaining PPG data by measurement; (b2) obtaining a plurality of parameters of the obtained PPG data according to an analysis method in a time domain and a frequency domain; And (b3) selecting any one of the acquired parameters and selecting the obtained parameter as an obtained visual fatigue parameter.

더하여, 상기 (c) 단계는, (c1) 상기 영상 시각피로도 파라미터 및 생체 시각피로도 파라미터를 이용하여 입력과 출력의 관계에 의해 결정되는 퍼지 규칙 테이블을 생성하는 단계; (c2) 생성된 퍼지 규칙 테이블을 바탕으로 생성된 퍼지 소속 함수(fuzzy membership function)를 이용하여 퍼지 출력 최소값과 퍼지 출력 최대값을 산출하는 단계; (c3) 산출된 퍼지 출력 최소값과 퍼지 출력 최대값을 역퍼지화(defuzzification) 프로세스를 이용하여 가중치를 산출하는 단계; 및 (c4) 생성된 가중치 중 어느 하나를 선택하여 융합기반 시각피로도(Fusion based Visual Fatigue Level)를 산출하는 단계를 포함하는 것이 바람직하다.In addition, the step (c) may further include the steps of: (c1) generating a fuzzy rule table determined by a relationship between input and output using the image visual fatigue parameter and the biometric fatigue parameter; (c2) calculating a fuzzy output minimum value and a fuzzy output maximum value using a fuzzy membership function generated based on the generated fuzzy rule table; (c3) calculating a weight by using a defuzzification process on the calculated fuzzy output minimum value and the calculated maximum fuzzy output value; And (c4) selecting one of the generated weights to calculate a fusion based visual fatigue level.

또한, 상기 가중치를 산출하는 식은,In addition, the equation for calculating the weight is:

Figure 112016102841568-pat00002
Figure 112016102841568-pat00002

(wEVF는 영상 시각피로도 관련 가중치이고, wOVF는 생체 시각피로도 관련 가중치를 나타내고, wi는 퍼지를 통해 구해진 가중치이고, Wi는 wi를 정규화한 값이다.)와 같은 만족하는 것이 바람직하고,(w EVF is weight related to image visual fatigue, w OVF is weight related to biometric fatigue, w i is weight obtained by purging, and W i is normalized value of w i ) and,

상기 융합기반 시각피로도(Fusion based Visual Fatigue Level: FVFL)를 산출하는 식은,The equation for calculating the fusion-based visual fatigue level (FVFL)

Figure 112016102841568-pat00003
Figure 112016102841568-pat00003

(여기서, EVF는 영상 시각피로도 파라미터를 나타내고, OVF는 생체 시각피로도 파라미터를 나타낸다.)와 같은 식을 만족하는 것이 바람직하다.(Where EVF denotes an image visual fatigue parameter and OVF denotes a biometric visual fatigue parameter).

그리고 본 발명의 제2 특징은 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정 시스템으로, 3D 영상을 디스플레이 하는 3D 영상장치; 일정거리에서 시청자가 상기 3D 영상장치로부터 디스플레이 되는 3D 영상을 시청하는 동안, 시청자의 생체신호를 측정하는 생체신호 측정장치; 상기 3D 영상장치와 연결되어 3D 영상으로부터 영상 특징과 관련된 영상 시각피로도(Expected Visual Fatigue) 파라미터를 획득하고, 상기 생체신호 측정장치와 연결되어 3D 영상을 시청하는 동안 시청자의 생체신호로부터 나타나는 생체 시각피로도(Obtained Visual Fatigue) 파라미터를 획득하고, 획득된 상기 영상 시각피로도 파라미터 및 생체 시각피로도 파라미터를 퍼지(FUZZY) 함수를 이용하여 가중치를 생성하고, 생성된 가중치 중 어느 하나를 선택하여 사용자 시각피로도를 산출하는 시각피로도 산출부를 포함한다.According to a second aspect of the present invention, there is provided a 3D image visual fatigue measurement system based on a depth image and a bio-signal considered by a user, comprising: a 3D image device for displaying a 3D image; A bio-signal measuring device for measuring a bio-signal of a viewer while a viewer watches a 3D image displayed from the 3D image device at a certain distance; Acquiring an Expected Visual Fatigue parameter associated with the image feature from the 3D image and connecting the 3D image device to the 3D image device, and displaying the bio-visual fatigue A visual fatigue parameter and a biometric fatigue parameter are obtained, a weight is generated by using a fuzzy function, and one of the generated weights is selected to calculate a user's visual fatigue And a visual fatigue calculating unit.

여기서, 상기 생체신호는 3D 영상을 시청하는 동안의 시청자의 맥파신호인 것이 바람직하고, 상기 시각피로도 산출부는, 3D 영상의 시청으로부터 발생되는 조절 거리(Accommodation distance) 및 수렴 거리(Convergence distance)의 차이(AC conflict)를 이용하여 영상 시각피로도 파라미터를 산출하여 획득하는 것이 바람직하다.Preferably, the bio-electrical signal is a pulse wave signal of a viewer while viewing a 3D image, and the visual fatigue calculator calculates a difference between an accommodation distance and a convergence distance generated from viewing the 3D image, It is preferable to calculate and obtain the image visual fatigue parameter using the AC conflict.

또한, 상기 영상 시각피로도 파라미터를 산출하는 수학식은,Further, the equation for calculating the image-visual-fatigue parameter is:

Figure 112016102841568-pat00004
Figure 112016102841568-pat00004

(여기서, α는 디스플레이(display) 되는 화면의 시점각(view-point angle)이고 β는 양의 영역 γ는 음의 영역에서의 시점각(view-point angle)이다.)와 같은 식을 만족하는 것이 바람직하다.(Where a is the view-point angle of the screen to be displayed and beta is the view-point angle in the negative region) .

더하여, 상기 시각피로도 산출부는, 3D 영상을 시청하는 동안의 신청자의 맥파를 측정하여 PPG 데이터를 획하고, 상기 획득한 PPG 데이터를 시간영역과 주파수영역이 분석방법에 따라 다수개의 파라미터를 획득하여, 획득된 다수개의 파라미터 중 어느 하나를 선택하여 생체 시각피로도(Obtained Visual Fatigue) 파라미터로 선정하는 것이 바람직하다.In addition, the visual fatigue calculating unit measures the pulse wave of the applicant while viewing the 3D image to compile the PPG data, acquires a plurality of parameters in the time domain and the frequency domain according to the analysis method, It is preferable to select any one of the acquired parameters and select the parameter as an Obtained Visual Fatigue parameter.

또한, 상기 시각피로도 산출부는, 상기 영상 시각피로도 파라미터 및 생체 시각피로도 파라미터를 이용하여 입력과 출력의 관계에 의해 결정되는 퍼지 규칙 테이블을 생성하고, 생성된 퍼지 규칙 테이블을 바탕으로 생성된 퍼지 소속 함수(fuzzy membership function)를 이용하여 퍼지 출력 최소값과 퍼지 출력 최대값을 산출하고, 산출된 퍼지 출력 최소값과 퍼지 출력 최대값을 역퍼지화(defuzzification) 프로세스를 이용하여 가중치를 산출하여, 생성된 가중치 중 어느 하나를 선택하여 융합기반 시각피로도(Fusion based Visual Fatigue Level)를 산출하는 것이 바람직하다.The visual fatigue calculating unit may be configured to generate a fuzzy rule table determined based on a relationship between input and output using the image visual fatigue parameter and the biometric fatigue parameter and generate a fuzzy membership function generated based on the generated fuzzy rule table a fuzzy membership function is used to calculate the fuzzy output minimum value and the maximum fuzzy output value, and the calculated fuzzy output minimum value and the fuzzy output maximum value are calculated using a defuzzification process, It is preferable to select one of them to calculate the fusion based visual fatigue level.

그리고, 상기 가중치를 산출하는 식은,The equation for calculating the weights,

Figure 112016102841568-pat00005
Figure 112016102841568-pat00005

(wEVF는 영상 시각피로도 관련 가중치이고, wOVF는 생체 시각피로도 관련 가중치를 나타내고, wi는 퍼지를 통해 구해진 가중치이고, Wi는 wi를 정규화한 값이다.)와 같은 만족하는 것이 바람직하고,(w EVF is weight related to image visual fatigue, w OVF is weight related to biometric fatigue, w i is weight obtained by purging, and W i is normalized value of w i ) and,

상기 융합기반 시각피로도(Fusion based Visual Fatigue Level: FVFL)를 산출하는 식은,The equation for calculating the fusion-based visual fatigue level (FVFL)

Figure 112016102841568-pat00006
Figure 112016102841568-pat00006

(여기서, EVF는 영상 시각피로도 파라미터를 나타내고, OVF는 생체 시각피로도 파라미터를 나타낸다.)와 같은 식을 만족하는 것이 바람직하다.(Where EVF denotes an image visual fatigue parameter and OVF denotes a biometric visual fatigue parameter).

본 발명의 제3 특징은, 하드웨어와 결합되어, 상술한 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법을 실행시키기 위하여 컴퓨터가 판독 가능한 기록매체에 저장된 컴퓨터프로그램을 그 특징으로 한다.A third aspect of the present invention is to provide a computer program stored in a computer-readable recording medium in combination with hardware in order to execute the above-described three-dimensional image visual fatigue measurement method based on a depth image and a bio- .

본 발명에 따른 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법 및 시스템은 다음과 같은 효과를 가진다.The 3D image visual fatigue measurement method and system based on the depth image and the bio-signal considering the user according to the present invention have the following effects.

첫째, 본 발명은 영상정보와 생체신호를 사용함으로써 보다 정확한 사용자 단위의 시각피로도를 실시간으로 측정할 수 있는 3D 영상 시각피로도 측정방법 및 시스템을 제공한다.First, the present invention provides a 3D image visual fatigue measurement method and system capable of measuring a more accurate user fatigue in real time by using image information and biological signals.

둘째, 본 발명은 보다 정밀한 시각피로도 측정을 통하여, 3D 영상 시청 시 피로도가 크게 발생할 경우 사용자에게 위험신호를 보내서 휴식을 유도할 수 있고, 사용자의 시각피로도가 높을 경우 3D 영상의 깊이를 줄여서 비교적 시각피로도가 적게 발생되는 영상을 재생함으로써 편안하게 3D 영상을 시청하게 할 수 있는 3D 영상 시각피로도 측정방법 및 시스템을 제공한다.Secondly, according to the present invention, it is possible to send a danger signal to a user when a fatigue is large when 3D image is viewed through more precise visual fatigue measurement, thereby inducing a rest. When the user's visual fatigue is high, A 3D image visual fatigue measurement method and system capable of viewing 3D images comfortably by reproducing images with low fatigue are provided.

본 발명의 효과는 이상에서 언급한 것들에 한정되지 않으며, 언급되지 아니한 다른 해결과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to those mentioned above, and other solutions not mentioned can be clearly understood by those skilled in the art from the following description.

도 1은 3D 영상의 시청에서 발생하는 시각피로도의 발생원리를 나타낸 모식도이다.
도 2는 본 발명의 실시예에 따른 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법의 흐름을 나타낸 도면이다.
도 3은 본 발명의 실시예에 따른 사용자가 고려된 깊이 영상과 생체신호에 기반한 3D 영상 시각피로도 측정 시스템의 구성을 나타낸 도면이다.
도 4는 퍼지이론을 적용하여 영상 및 생체 시각피로도 파라미터로부터 가중치를 도출하는 프로세스의 모식도이다.
도 5는 본 발명의 실시예에 따른 보다 구체적인 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법 프로세스 모식도이다.
도 6은 조절-수렴 거리 차이(AC conflict)를 구하는 방법의 원리를 나타낸 모식도이다.
도 7은 영상 및 생체 시각피로도 파라미터를 이용한 퍼지 규칙 테이블을 예시한 도면이다.
도 8은 삼각 소속 함수(triangle membership function)의 예시이다.
도 9는 최소(min)에 대한 출력 값과 최대(max)에 대한 출력 값의 테이블을 나타낸 표이다.
도 10은 역퍼지화(Defuzzification)를 도식화한 도면이다.
도 11은 EVF 와 SRVF를 선형회귀분석을 통하여 구해진 결과를 나타낸 그래프이다.
도 12는 SRVF와 OVF의 선형회귀 분석을 통하여 얻어진 결과를 나타낸 그래프이다.
도 13은 SRVF와의 관계를 EVF만 사용한 결과와 OVF만 사용한 결과, EVF와 OVF를 결합하여 사용한 결과를 나타낸 표이다.
도 14는 EVF와 OVF를 퍼지이론을 사용하여 구해진 가중치를 적용하여 FVFL을 구한 결과를 나타낸 그래프이다.
FIG. 1 is a schematic diagram showing the principle of generation of visual fatigue caused by viewing of a 3D image.
FIG. 2 is a flow chart illustrating a method of measuring a 3D image visual fatigue based on a depth image and a bio-signal according to an embodiment of the present invention.
FIG. 3 is a diagram illustrating a configuration of a 3D image visual fatigue measurement system based on a user-considered depth image and a bio-signal according to an embodiment of the present invention.
4 is a schematic diagram of a process for deriving a weight from image and biometric fatigue parameters by applying fuzzy theory.
5 is a schematic diagram illustrating a process of measuring a 3D image visual fatigue based on a depth image and a bio-signal in consideration of a more specific user according to an embodiment of the present invention.
FIG. 6 is a schematic diagram showing a principle of a method for obtaining an AC conflict.
7 is a diagram illustrating a fuzzy rule table using image and biometric fatigue parameter.
Figure 8 is an illustration of a triangle membership function.
FIG. 9 is a table showing a table of an output value for the minimum (min) and an output value for the maximum (max).
FIG. 10 is a diagram illustrating defuzzification. Referring to FIG.
11 is a graph showing the results obtained by linear regression analysis of EVF and SRVF.
12 is a graph showing the results obtained by linear regression analysis of SRVF and OVF.
Fig. 13 is a table showing the results of using EVF alone and OVF as a result of using only EVF and OVF in relation to SRVF.
14 is a graph showing a result of FVFL obtained by applying a weight obtained by using EVF and OVF using fuzzy theory.

본 발명의 추가적인 목적들, 특징들 및 장점들은 다음의 상세한 설명 및 첨부도면으로부터 보다 명료하게 이해될 수 있다. Further objects, features and advantages of the present invention will become more apparent from the following detailed description and the accompanying drawings.

본 발명의 상세한 설명에 앞서, 본 발명은 다양한 변경을 도모할 수 있고, 여러 가지 실시 예를 가질 수 있는바, 아래에서 설명되고 도면에 도시된 예시들은 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.Before describing the present invention in detail, it is to be understood that the present invention is capable of various modifications and various embodiments, and the examples described below and illustrated in the drawings are intended to limit the invention to specific embodiments It is to be understood that the invention includes all modifications, equivalents, and alternatives falling within the spirit and scope of the invention.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.It is to be understood that when an element is referred to as being "connected" or "connected" to another element, it may be directly connected or connected to the other element, . On the other hand, when an element is referred to as being "directly connected" or "directly connected" to another element, it should be understood that there are no other elements in between.

본 명세서에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도는 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terminology used herein is for the purpose of describing particular embodiments only and is not intended to be limiting of the invention. The singular expressions include plural expressions unless the context clearly dictates otherwise. In this specification, the terms "comprises" or "having" and the like refer to the presence of stated features, integers, steps, operations, elements, components, or combinations thereof, But do not preclude the presence or addition of one or more other features, integers, steps, operations, elements, components, or combinations thereof.

또한, 명세서에 기재된 "...부", "...유닛", "...모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미할 수 있다.Further, terms such as " part, "" unit," " module, "and the like described in the specification may mean a unit for processing at least one function or operation.

또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.In the following description of the present invention with reference to the accompanying drawings, the same components are denoted by the same reference numerals regardless of the reference numerals, and redundant explanations thereof will be omitted. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the following description, well-known functions or constructions are not described in detail since they would obscure the invention in unnecessary detail.

이하에서 본 발명의 바람직한 실시예를 도면을 참조하여 상세히 설명하기로 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the drawings.

도 2는 본 발명의 실시예에 따른 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법의 흐름을 나타낸 도면이고, 도 3은 본 발명의 실시예에 따른 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정 시스템의 구성을 나타낸 도면이다.FIG. 2 is a flowchart illustrating a method of measuring a 3D image visual fatigue based on a depth image and a bio-signal according to an exemplary embodiment of the present invention. FIG. Dimensional visual fatigue measurement system based on an image and a bio-signal.

도 2에 나타낸 바와 같이, 본 발명의 실시예에 따른 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법은, (a) 3D 영상으로부터 영상 특징과 관련된 영상 시각피로도(Expected Visual Fatigue level) 파라미터를 획득하는 단계; (b) 3D 영상을 시청하는 동안 시청자의 생체신호로부터 나타나는 생체 시각피로도(Obtained Visual Fatigue level) 파라미터를 획득하는 단계; 및 (c) 획득된 상기 영상 시각피로도 파라미터 및 생체 시각피로도 파라미터로부터 생성된 퍼지(FUZZY) 함수를 이용하여 가중치를 생성하고, 생성된 가중치 중 어느 하나를 선택하여 사용자 시각피로도를 산출하는 단계를 포함하여 구성된다.As shown in FIG. 2, a depth image and a 3D image visual fatigue measurement method based on a user-considered depth image and a bio-signal according to an exemplary embodiment of the present invention include (a) an image visual fatigue Obtaining a Fatigue level parameter; (b) obtaining an Obtained Visual Fatigue level parameter appearing from a bio-signal of a viewer while viewing the 3D image; And (c) generating a weight by using a fuzzy function generated from the acquired image-visual-fatigue parameter and the biometric-visual-fatigue parameter, and selecting one of the generated weights to calculate a user's visual-fatigue .

그리고, 도 3에 나타낸 바와 같이, 본 발명의 실시예에 따른 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정 시스템은, 3D 영상을 디스플레이 하는 3D 영상장치(100); 일정거리에서 시청자가 상기 3D 영상장치(100)로부터 디스플레이 되는 3D 영상을 시청하는 동안, 시청자의 생체신호를 측정하는 생체신호 측정장치(200); 및 상기 3D 영상장치(100)와 연결되어 3D 영상으로부터 영상 특징과 관련된 영상 시각피로도(Expected Visual Fatigue) 파라미터를 획득하고, 상기 생체신호 측정장치(200)와 연결되어 3D 영상을 시청하는 동안 시청자의 생체신호로부터 나타나는 생체 시각피로도(Obtained Visual Fatigue) 파라미터를 획득하고, 획득된 상기 영상 시각피로도 파라미터 및 생체 시각피로도 파라미터를 퍼지(FUZZY) 함수를 이용하여 가중치를 생성하고, 생성된 가중치 중 어느 하나를 선택하여 사용자 시각피로도를 산출하는 시각피로도 산출부(300)를 포함하여 구성된다.As shown in FIG. 3, the system for measuring three-dimensional image visual fatigue based on a depth image and a bio-signal according to an embodiment of the present invention includes a 3D image apparatus 100 for displaying a 3D image; A bio-signal measuring device 200 for measuring a bio-signal of a viewer while a viewer watches a 3D image displayed from the 3D image device 100 at a certain distance; And acquiring an Expected Visual Fatigue parameter associated with the image feature from the 3D image and connecting the 3D image device 100 to the 3D image device 100. While viewing the 3D image, Acquiring an Obtained Visual Fatigue parameter appearing from a bio-signal, generating a weight by using a fuzzy function of the acquired image-visual-fatigue parameter and the biometric-visual-fatigue parameter, and calculating one of the generated weights And a visual fatigue calculating unit 300 for calculating the user's visual fatigue.

여기서, 3D 영상장치(100)는 3D 영상을 구현할 수 있는 디스플레이 장치로서 3D TV, 3D 스크린 등 3D 영상 디스플레이 장치이고, 생체신호 측정장치(200)는 사용자 또는 시청자가 3D 영상을 시청하는 동안 시청자의 생체신호를 측정할 수 있는 장치이다.Here, the 3D image device 100 is a 3D image display device such as a 3D TV, a 3D screen, and the like, which can implement a 3D image. The bio-signal measuring device 200 is a device for displaying a 3D image, It is a device that can measure biological signals.

본 발명의 실시예에서는 생체신호로서 뇌파, 맥파, 심전도 근전도 등 다양한 생체신호를 측정하여 시각피로도 산출 데이터로 사용할 수 있다. 이하의 설명에서는 다양한 모바일 기기나 웨어러블 기기를 통해 쉽게 측정할 수 있는 맥파신호(PPG: Photo-plethysmography)를 중심으로 설명한다.In the embodiment of the present invention, various bio-signals such as brain waves, pulse waves, ECG electromyograms and the like can be measured and used as visual fatigue calculation data. In the following description, pulse-wave signals (PPG: Photo-plethysmography), which can be easily measured by various mobile devices or wearable devices, will be described.

시각피로도 산출부(300)는 상술한 3D 영상장치(100)로부터 획득한 영상의 특징을 이용한 파라미터와 측정한 생체신호에 의한 파라미터를 이용하여 시각피로도를 산출할 수 있는 컴퓨팅 장치이다. 시각피로도 산출부(300)는 적어도 하나 이상이 컴퓨팅 장치를 사용할 수 있음은 물론이다.The visual fatigue calculating unit 300 is a computing device that can calculate the visual fatigue using the parameters using the features of the image acquired from the 3D imaging apparatus 100 and the parameters based on the measured bio-signals. Of course, at least one of the visual fatigue calculator 300 can use the computing device.

이처럼, 본 발명의 실시예는 3D 영상 시청 시 사용자가 고려된 실시간 시각피로도 측정방법 및 시스템에 관한 것으로, 시각피로도 측정을 위해 3D 영상 특징 정보와 사용자가 영상 시청 시 변화하는 생체신호(맥파신호: PPG)를 사용하고, 영상정보와 생체신호를 융합 사용함으로써 종래기술의 단점을 개선하여 사용자 단위의 시각피로도를 실시간으로 측정할 수 있는 방법 및 장치를 제공한다.As described above, the embodiment of the present invention relates to a real-time visual fatigue measurement method and system considering a user when viewing a 3D image. In order to measure visual fatigue, 3D visual feature information and a biological signal (pulse wave signal: PPG), and by using the image information and the bio-signal in combination, it is possible to improve the disadvantages of the related art and provide a method and apparatus for measuring the visual fatigue of the user in real time.

또한, 3D 영상 시청 시 피로도가 크게 발생할 경우 사용자에게 위험신호를 보내서 휴식을 유도할 수 있고, 사용자의 시각피로도가 높을 경우 3D 영상의 깊이를 줄여서 비교적 시각피로도가 적게 발생되는 영상을 재생함으로써 원활한 영상 시청을 유도 할 수 있을 뿐만 아니라, 특히, 시각피로도 측정을 위한 생체신호 중 맥파신호의 경우 다른 생체신호(뇌파, 심전도, 근전도)와 비교하여 스마트 워치나 스마트 밴드로 데이터를 쉽게 얻을 수 있다는 장점이 있다.In addition, when fatigue occurs in the 3D image viewing, a risk signal is sent to the user to induce a rest, and when the user's visual fatigue is high, the depth of the 3D image is reduced to reproduce the image with relatively low visual fatigue, In particular, the advantage of being able to easily obtain data by smart watch or smart band compared with other bio-signals (electroencephalogram, electrocardiogram, EMG) in the case of pulse wave signal among biological signals for visual fatigue measurement have.

이하에서 각 단계별 프로세스를 구체적으로 도면을 참조하여 설명하기로 한다.Hereinafter, the process for each step will be described in detail with reference to the drawings.

먼저, 시각피로도 측정을 위해 영상정보 특징과 3D 영상을 시청하는 동안 시청자의 맥박변화를 파라미터로 사용한다. 여기서, 3D 영상에서 기대되는 영상 시각피로도(Expected Visual Fatigue Level) 값은 영상의 특징을 사용하여 구해진 피로도 예측 값이다. 즉, 영상의 깊이, 시야각, 움직임 속도 등 과 같은 영상의 특징으로 구할 수 있는 것을 파라미터로 사용 가능하다.First, we use the change of the viewer's pulse while viewing the image information feature and the 3D image for the visual fatigue. Here, the Expected Visual Fatigue Level value expected in the 3D image is a fatigue prediction value obtained using the feature of the image. That is, parameters that can be obtained by image features such as image depth, viewing angle, and motion speed can be used as parameters.

생체 시각피로도 파라미터는 사용자가 3D 영상 시청을 통해 변하는 생체신호 (맥파신호(PPG))를 파라미터로 사용한 것이다. PPG(Photo-plethysmography)는 광소자를 활용하여 심장의 활동을 해석하는 방법이다. 심장 박동 주기의 미세한 변화를 분석하게 된다. The biometric fatigue parameter is a parameter of the biometric signal (pulse wave signal (PPG)) that the user changes through watching the 3D image. PPG (Photo-plethysmography) is a method of analyzing the activity of the heart using optical devices. It analyzes the minute changes of the heartbeat cycle.

이 분석은 시간 영역분석과 주파수 영역분석에 따라 다양한 파라미터가 존재한다. 다음의 [표 1]에 나타낸 바와 같이, 시간영역에서의 파라미터는 Min(심박간격의 최소값), Max(심박간격의 최대값), Mean(심박간격의 평균), meanHR(심박수의 평균), sdHR(심박수의 편차)가 있고 주파수 영역분석은 주파수영역에 따라 VFL(0.003~0.04Hz), LF(0.04~0.15Hz), HF(0.15~0.4Hz)로 나타낼 수 있다. 그 외에도 파라미터를 조합하여 나타낼 수 있다.This analysis has various parameters according to time domain analysis and frequency domain analysis. The parameters in the time domain are Min (minimum value of heart rate interval), Max (maximum value of heart rate interval), Mean (average of heart rate interval), meanHR (average of heart rate), sdHR (Heart rate variance), and frequency domain analysis can be expressed as VFL (0.003-0.04Hz), LF (0.04-0.15Hz), and HF (0.15-0.4Hz) depending on the frequency domain. Other parameters can be combined.

ParametersParameters RepresentRepresent 시간time
영역domain
Min, Max, Mean, Min, Max, Mean, meanHRmeanHR , , sdHRsdHR Speed of heart rateSpeed of heart rate
SDNNSDNN External environment adaptabilityExternal environment adaptability (max-min)/mean, (max-min)/(max-min) / mean, (max-min) / SDNNSDNN , RMSSD/mean, , RMSSD / mean, RMSSDRMSSD // SDNNSDNN ,, Combining to distinguish visual fatigue levelCombining to distinguish visual fatigue level 주파수frequency
영역domain
VLF, LFVLF, LF Sympathetic nerveSympathetic nerve
HFHF Parasympathetic nerveParasympathetic nerve VLF/HF, LF/HFVLF / HF, LF / HF Balance of VLF, LF and HFBalance of VLF, LF and HF

이렇게 구해진 영상 시각피로도 파라미터와 생체 시각피로도 파라미터는 퍼지 이론을 통하여 피로도의 가중치를 구하게 된다. 도 4는 퍼지이론을 적용하여 영상 및 생체 시각피로도 파라미터로부터 가중치를 도출하는 프로세스의 모식도이다.The image visual fatigue parameter and the biometric visual fatigue parameter are obtained through the fuzzy theory. 4 is a schematic diagram of a process for deriving a weight from image and biometric fatigue parameters by applying fuzzy theory.

획득한 영상 및 생체 시각피로도 파라미터는 도 4에 나타난 순서를 따라 퍼지 이론을 적용하여 결합된다. 먼저 퍼지 규칙 테이블(fuzzy rule table)을 만들고, 퍼지 규칙 테이블(fuzzy rule table)은 입력(input) 데이터 셋의 특성에 따라 묘사되고 입력(input)과 출력(output)의 관계에 의해 결정된다. The obtained image and biometric fatigue parameters are combined by applying the fuzzy theory according to the order shown in FIG. First, a fuzzy rule table is created, and a fuzzy rule table is described according to the characteristics of the input data set and is determined by the relationship between the input and the output.

퍼지 규칙 테이블(fuzzy table)이 만들어지면 퍼지 소속 함수(Fuzzy membership function)를 사용하여 퍼지 출력(Fuzzy output)을 얻는다. 얻어진 퍼지 출력(Fuzzy output)을 퍼지 규칙 테이블(fuzzy rule table)에 최소 규칙(min rule), 최대 규칙(max rule)을 적용하여 값을 구한다. 구해진 출력 최소값과 출력 최대값을 역퍼지화(defuzzification)를 통하여 가중치 값을 구한다.When a fuzzy table is created, a fuzzy membership function is used to obtain a fuzzy output. The fuzzy output is obtained by applying a min rule and a max rule to a fuzzy rule table. The weight value is obtained by defuzzification of the obtained output minimum value and output maximum value.

구해진 영상 시각피로도(EVF) 가중치와 생체 시각피로도(OVF) 가중치를 정규화 하여 wi가 구해진다. 이때 영상 시각피로도(EVF)는 영상특징 파라미터이며 생체 시각피로도(OVF)는 생체신호 또는 맥파신호(PPG) 분석 파라미터이다. 그리고 나서, 최종적으로 융합 시각피로도(FVFL: Fusion based Visual Fatigue Level)을 구함으로써 사용자가 느끼는 피로도가 추정되거나 산출된다.The obtained image visual fatigue (EVF) weight and the biometric fatigue (OVF) weight are normalized to obtain w i . The image visual fatigue (EVF) is an image characteristic parameter and the biological visual fatigue (OVF) is a bio-signal or pulse wave signal (PPG) analysis parameter. Then, the fatigue felt by the user is estimated or calculated by finally obtaining the fusion-based visual fatigue level (FVFL).

이하에서 보다 상세하게 본 발명의 실시예에 따른 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법의 프로세스를 단계적으로 설명하기로 한다.Hereinafter, a process of a 3D image visual fatigue measurement method based on a user-considered depth image and a biological signal according to an embodiment of the present invention will be described in detail.

본 발명의 실시예에서는 사용자가 3D 영상 시청 간 발생하는 피로도를 실시간으로 측정하기 위한 방법이다. 피로도 측정을 위해 3D 영상 정보와 영상 시청간 사용자의 맥파를 측정하였다. 3D 영상의 피로도 특징과 측정된 생체신호를 결합하여 시각피로도를 예측한다. 데이터를 결합하는 수단으로는 퍼지이론을 사용하였다. 도 5는 본 발명의 실시예에 따른 보다 구체적인 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법 프로세스 모식도이다. 즉, 도 5에서 나타낸 순서를 따라 최종적으로 융합 시각피로도(FVFL: Fuzzy based Visual Fatigue Level)을 구하여 사용자의 시각피로도를 모델링하게 된다.In the embodiment of the present invention, it is a method for real-time measurement of fatigue that occurs during viewing of a 3D image by a user. We measured the user 's pulse wave between 3D image information and image viewing for fatigue measurement. Visual fatigue is predicted by combining the fatigue characteristics of the 3D image with the measured bio-signals. Fuzzy theory is used as a means of combining data. 5 is a schematic diagram illustrating a process of measuring a 3D image visual fatigue based on a depth image and a bio-signal in consideration of a more specific user according to an embodiment of the present invention. That is, the fuzzy based visual fatigue level (FVFL) is finally obtained according to the procedure shown in FIG. 5 to model the visual fatigue of the user.

먼저, 3D 영상 특징을 이용하여 EVF를 구하는 여러 방법 중 AC conflict을 구하여 사용하였다. 도 6은 조절-수렴 거리 차이(AC conflict)를 구하는 방법을 나타낸다. 조절-수렴 거리 차이(AC conflict)는 조절 거리(Accommodation distance)와 수렴 거리(Convergence distance)의 차이를 구하여 피로도를 나타낸 것이다. 이는 시점각 차이(Disparity of View-point Angles: DVA)로 구할 수 있다. First, AC conflicts were obtained from various methods of obtaining EVF using 3D image features. FIG. 6 shows a method for obtaining an AC conflict. The AC conflict is the difference between the accommodation distance and the convergence distance. This can be obtained from the Disparity of View-Point Angles (DVA).

이때 α는 디스플레이(display) 되는 하면의 시점각(view-point angle)이고 β는 양의 영역 γ는 음의 영역에서의 시점각(view-point angle)이다. DVA를 나타내면 다음의 [수학식 1]과 같다.In this case, α is the view-point angle of the bottom surface to be displayed and β is the view-point angle in the negative region. DVA is expressed by the following equation (1).

Figure 112016102841568-pat00007
Figure 112016102841568-pat00007

시점각(view-point angle)을 구하기 위하여 좌우 영상의 차인 차이(Disparity)와 양 눈의 거리

Figure 112016102841568-pat00008
이 필요하다. 다음으로 실제 시역 거리(Viewing distance)는
Figure 112016102841568-pat00009
와 양과 음의 viewing distance 인
Figure 112016102841568-pat00010
Figure 112016102841568-pat00011
의 관계를 이용하여 다음의 [수학식 2]와 같이 구할 수 있다.In order to obtain the view-point angle, the difference (Disparity) between the left and right images and the distance between both eyes
Figure 112016102841568-pat00008
Is required. Next, the actual viewing distance is
Figure 112016102841568-pat00009
And the viewing distance of positive and negative
Figure 112016102841568-pat00010
Wow
Figure 112016102841568-pat00011
The following equation (2) can be obtained.

Figure 112016102841568-pat00012
Figure 112016102841568-pat00012

그리고, 다음과 같은 [수학식 3]으로 ACc를 구할 수 있다. 구해진 ACc는 EVF 파라미터로 사용된다.Then, ACc can be obtained from the following equation (3). The obtained ACc is used as an EVF parameter.

Figure 112016102841568-pat00013
Figure 112016102841568-pat00013

다음으로 3D 영상을 시청하는 동안 사용자 또는 시청자의 맥파 측정을 통하여 PPG 데이터를 획득한다. 획득된 데이터는 시간영역과 주파수영역의 분석방법에 따라 다양한 파라미터를 구할 수 있다. 여러 파라미터중 적어도 하나를 선택하여 OVF로 선정한다. Next, the PPG data is acquired through the pulse wave measurement of the user or the viewer during the 3D image viewing. The obtained data can be obtained various parameters according to the analysis method of time domain and frequency domain. Select at least one of several parameters and select OVF.

구해진 EVF와 OVF에 따라 적어도 두 개에 대한 데이터 선택하여 도 7과 같이 퍼지 규칙 테이블(Fuzzy Rule table)을 작성한다. 퍼지 규칙 테이블은 데이터의 특성에 따라 달라질 수 있다. 도 7은 영상 및 생체 시각피로도 파라미터를 이용한 퍼지 규칙 테이블을 예시한 도면이다.And a fuzzy rule table is created as shown in FIG. 7 by selecting data of at least two according to the obtained EVF and OVF. The fuzzy rule table may vary depending on the characteristics of the data. 7 is a diagram illustrating a fuzzy rule table using image and biometric fatigue parameter.

다음으로 EVF과 OVF을 소속 함수(membership function)에 대입하여 L, M, H에서의 출력 값을 얻는다. 도 8은 삼각 소속 함수(triangle membership function)의 예시이다. 소속 함수(membership function)로 얻어진 출력 값은 작성된 퍼지 규칙 테이블에 최소, 최대 규칙(Min, Max rule)을 적용하여 도 9와 같이 최소(min)에 대한 출력 값과 최대(max)에 대한 출력 값을 얻을 수 있다.Next, EVF and OVF are substituted into the membership function to obtain output values at L, M, and H. Figure 8 is an illustration of a triangle membership function. The output value obtained by the membership function is obtained by applying the minimum and maximum rules to the generated fuzzy rule table and outputting the output value for the minimum (min) and the output value for the maximum (max) Can be obtained.

최소(min)에 대한 출력 값과 최대(max)에 대한 출력 값이 구해지면 최소(min)나 최대(max) 값 중 하나를 선택하여 소속 함수(membership function)에 역으로 대입하여 역퍼지화(defuzzification) 하게 된다. 도 10은 역퍼지화(defuzzification)의 예시이다. When the output value for the minimum (min) and the output value for the maximum (max) are obtained, one of min (max) and max (max) values is selected and substituted in the membership function to reverse fuzzy defuzzification. Figure 10 is an illustration of defuzzification.

이 과정을 통하여 산출된 값은 가중치 후보 값이 된다. 가중치 후보 값들은 다음과 같은 방법 중 하나를 선택하여 최종 가중치가 결정된다. : 최초 최대 값(First of Maximum; FOM), 최후최대값(Last of Maximum; LOM), 중간 최대값 (Middle of Maximum), 평균 최대값 (Mean of Maximum; MeOM) 및 무게중심 값(Center of Gravity; COG).The value calculated through this process becomes a weight candidate value. The weighted candidate values are determined by selecting one of the following methods. : First of Maximum (FOM), Last of Maximum (LOM), Middle of Maximum, Mean of Maximum (MEOM), and Center of Gravity ; COG).

퍼지를 통하여 구해진 가중치

Figure 112016102841568-pat00014
는 정규화 하여 다음의 [수학식 4]와 같이
Figure 112016102841568-pat00015
로 계산된다.Weight obtained through fuzzy
Figure 112016102841568-pat00014
Is normalized and expressed by the following equation (4)
Figure 112016102841568-pat00015
.

Figure 112016102841568-pat00016
Figure 112016102841568-pat00016

최종적으로 영상 시각피로도 파라미터(EVF)와 생체 시각피로도 파라미터(OVF)에 가중치를 적용하여 다음의 [수학식 5]와 같이 융합 시각피로도(FVFL: Fusion based Visual Fatigue Level)을 구함으로써 사용자가 느끼는 피로도를 추정 할 수 있다.Finally, a weight is applied to the image visual fatigue parameter EVF and the biometric visual fatigue parameter OVF to obtain a fusion visual fatigue level (FVFL) as shown in the following equation (5) Can be estimated.

Figure 112016102841568-pat00017
Figure 112016102841568-pat00017

이와 같이, 본 발명의 실시예에서는 3D 영상 정보와 사용자 또는 시청자가 3D 영상을 시청하는 동안 변화하는 생체신호로서 맥파신호(PPG) 데이터를 사용하여 시각피로도를 추정하여 3D 영상정보가 가지는 데이터 안정성과 PPG 데이터가 가지는 사용자 특성이 결합됨으로써 신뢰도 높은 시각피로도를 모델링 할 수 있는 방법 및 시스템을 제공한다. As described above, in the embodiment of the present invention, the visual fatigue is estimated using the 3D image information and the pulse wave signal (PPG) data as the biological signals that change while the user or the viewer watches the 3D image, A method and system for modeling a visual fatigue with high reliability by combining user characteristics of PPG data.

실험 내용 및 결과Experiment contents and results

도 3은 본 발명의 실시예에 따른 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정 시스템을 나타내는 동시에 본 발명이 실시예에 사용된 실험환경을 나타낸 도면이다. FIG. 3 is a diagram illustrating a three-dimensional image visual fatigue measurement system based on a depth image and a bio-signal according to an embodiment of the present invention, and shows the experimental environment used in the embodiment of the present invention.

도 3에 나타낸 바와 같이, 시청자와 3D 영상장치(100)(3D TV)는 120~150cm 간격을 두었고 왼쪽 검지에 생체신호 측정장치(200)(PPG 장치)를 착용하였다. 관찰자는 TV 시청에 영향을 주지 않는 공간에서 영상과 생체신호 데이터를 관찰하였다. 또한 시청자가 3D 영상 시청에만 집중할 수 있도록 환경 구성을 하였다. 데이터 분석 시 사용한 파라미터는 1분 간격으로 구하여 평균값을 사용하였다.As shown in FIG. 3, the viewer and the 3D video apparatus 100 (3D TV) were spaced 120 to 150 cm apart, and the bio-signal measuring apparatus 200 (PPG apparatus) was worn on the left index finger. The observer observe the image and the biomedical signal data in the space that does not affect TV watching. In addition, the environment is configured so that viewers can concentrate on viewing 3D images. The parameters used in the data analysis were obtained at intervals of 1 minute and the mean value was used.

측정된 시각피로도의 검증을 위해 종래의 연구 논문 “Simplified Relative Model to Measure Visual Fatigue in a Stereoscopy”에 나오는 SRVF를 이용하였다. SRVF는 시청자가 3D 영상시청 후 피로도에 관한 주관적 설문조사를 통하여 나온 결과를 바탕으로 3D 영상특징을 이용하여 피로도를 모델링한 것이다. In order to verify the measured visual fatigue, we used the SRVF from the previous research paper "Simplified Relative Model to Measure Visual Fatigue in a Stereoscopy". SRVF is a model of fatigue using 3D image features based on the result of subjective questionnaire about fatigue after watching 3D video.

우리는 SRVF를 사용하여 실험결과를 나타내었다. 도 11은 EVF 와 SRVF를 선형회귀분석을 통하여 구해진 결과이다. 파란색 점은 같은 영상에서의 EVF와 SRVF이고 line은 선형회귀를 통하여 얻어진 직선이다. 마찬가지로 도 12는 SRVF와 OVF의 선형회귀 분석을 통하여 얻어진 결과이다.We show the experimental results using SRVF. 11 shows the results obtained by linear regression analysis of EVF and SRVF. The blue dot is the EVF and SRVF in the same image, and line is the straight line obtained by linear regression. Similarly, FIG. 12 shows the results obtained by linear regression analysis of SRVF and OVF.

도 13은 SRVF와의 관계를 EVF만 사용한 결과와 OVF만 사용한 결과, EVF와 OVF를 결합하여 사용한 결과를 나타낸다. 상관관계와 결정계수를 비교해보면 EVF와 OVF를 결합하여 사용한 본 발명의 실시예에 따른 시각피로도 측정방법이 높은 상관계수와 결정계수를 가지는 것을 알 수 있다.Fig. 13 shows the result of using EVF alone and OVF as a result of using only EVF and OVF in relation to SRVF. When the correlation and the determination coefficient are compared, it can be seen that the visual fatigue measurement method according to the embodiment of the present invention using EVF and OVF has high correlation coefficient and determination coefficient.

도 14는 EVF와 OVF를 퍼지이론을 사용하여 구해진 가중치를 적용하여 FVFL을 나타낸 것이다. 14 shows FVFL by applying a weight obtained by using EVF and OVF using fuzzy theory.

그리고, 본 발명의 또 다른 실시예로서, 하드웨어와 결합되어 상술한 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법을 실행시키기 위하여 컴퓨터가 판독 가능한 매체에 저장된 컴퓨터프로그램일 수 있다.As another embodiment of the present invention, in order to execute the 3D image visual fatigue measurement method based on the depth image and the bio-signal combined with the hardware in the above-mentioned user, the computer program stored in the computer- have.

즉, 본 발명의 실시예에 따른 장치로서, 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽힐 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 기록매체의 예로는 ROM, RAM, 광학 디스크, 자기 테이프, 플로피 디스크, 하드 디스크, 비휘발성 메모리 등을 포함한다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.That is, the apparatus according to the embodiment of the present invention can be implemented as a computer-readable code on a computer-readable recording medium. A computer-readable recording medium includes all kinds of recording apparatuses in which data that can be read by a computer system is stored. Examples of the recording medium include ROM, RAM, optical disk, magnetic tape, floppy disk, hard disk, nonvolatile memory and the like. The computer-readable recording medium may also be distributed over a networked computer system so that computer readable code can be stored and executed in a distributed manner.

본 명세서에서 설명되는 실시 예와 첨부된 도면은 본 발명에 포함되는 기술적 사상의 일부를 예시적으로 설명하는 것에 불과하다. 따라서, 본 명세서에 개시된 실시예들은 본 발명의 기술적 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이므로, 이러한 실시 예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아님은 자명하다. 본 발명의 명세서 및 도면에 포함된 기술적 사상의 범위 내에서 당업자가 용이하게 유추할 수 있는 변형 예와 구체적인 실시 예는 모두 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.The embodiments and the accompanying drawings described in the present specification are merely illustrative of some of the technical ideas included in the present invention. Accordingly, the embodiments disclosed herein are for the purpose of describing rather than limiting the technical spirit of the present invention, and it is apparent that the scope of the technical idea of the present invention is not limited by these embodiments. It will be understood by those of ordinary skill in the art that various changes in form and details may be made therein without departing from the spirit and scope of the invention as defined by the appended claims.

100: 3D 영상장치 200: 생체신호 측정장치
300: 시각피로도 산출부
100: 3D imaging device 200: Biosignal measuring device
300: Visual fatigue calculating unit

Claims (17)

(a) 3D 영상으로부터 영상 특징과 관련된 영상 시각피로도(Expected Visual Fatigue level) 파라미터를 획득하는 단계;
(b) 3D 영상을 시청하는 동안 시청자의 생체신호로부터 나타나는 생체 시각피로도(Obtained Visual Fatigue level) 파라미터를 획득하는 단계; 및
(c) 획득된 상기 영상 시각피로도 파라미터 및 생체 시각피로도 파라미터로부터 생성된 퍼지(FUZZY) 함수를 이용하여 가중치를 생성하고, 생성된 가중치 중 어느 하나를 선택하여 사용자 시각피로도를 산출하는 단계를 포함하되;
상기 (c) 단계는, (c1) 상기 영상 시각피로도 파라미터 및 생체 시각피로도 파라미터를 이용하여 입력과 출력의 관계에 의해 결정되는 퍼지 규칙 테이블을 생성하는 단계; (c2) 생성된 퍼지 규칙 테이블을 바탕으로 생성된 퍼지 소속 함수(fuzzy membership function)를 이용하여 퍼지 출력 최소값과 퍼지 출력 최대값을 산출하는 단계; (c3) 산출된 퍼지 출력 최소값과 퍼지 출력 최대값을 역퍼지화(defuzzification) 프로세스를 이용하여 가중치를 산출하는 단계; 및 (c4) 생성된 가중치 중 어느 하나를 선택하여 융합기반 시각피로도(Fusion based Visual Fatigue Level)를 산출하는 단계를 포함하고;
상기 가중치를 산출하는 식은,
Figure 112018015532403-pat00038

(wEVF는 영상 시각피로도 관련 가중치이고, wOVF는 생체 시각피로도 관련 가중치를 나타내고, wi는 퍼지를 통해 구해진 가중치이고, Wi는 wi를 정규화한 값이다.)와 같은 식을 만족하는 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법.
(a) obtaining an Expected Visual Fatigue level parameter associated with an image feature from a 3D image;
(b) obtaining an Obtained Visual Fatigue level parameter appearing from a bio-signal of a viewer while viewing the 3D image; And
(c) generating a weight by using a fuzzy function generated from the acquired image time fatigue parameter and the biometric time fatigue parameter, and selecting any one of the generated weights to calculate a user time fatigue, ;
The step (c) includes the steps of: (c1) generating a fuzzy rule table determined by a relationship between an input and an output using the image visual fatigue parameter and the biometric fatigue parameter; (c2) calculating a fuzzy output minimum value and a fuzzy output maximum value using a fuzzy membership function generated based on the generated fuzzy rule table; (c3) calculating a weight by using a defuzzification process on the calculated fuzzy output minimum value and the calculated maximum fuzzy output value; And (c4) selecting one of the generated weights to calculate a fusion based visual fatigue level;
The equation for calculating the weights,
Figure 112018015532403-pat00038

(w EVF is weight related to image visual fatigue, w OVF is weight related to biometric fatigue, w i is weight obtained by purging, and W i is normalized value of w i ) A method for measuring three-dimensional visual fatigue based on a user-considered depth image and a bio-signal.
청구항 1에 있어서,
상기 (a) 단계는,
3D 영상의 시청으로부터 발생되는 조절 거리(Accommodation distance) 및 수렴 거리(Convergence distance)의 차이(AC conflict)를 이용하여 영상 시각피로도 파라미터를 산출하여 획득하는 단계인 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법.
The method according to claim 1,
The step (a)
And a step of calculating and acquiring an image visual fatigue parameter by using an accommodation distance and an AC conflict of a convergence distance arising from viewing of the 3D image, And 3 - D Visual Visual Fatigue Measurement Method Based on Biological Signal.
청구항 2에 있어서,
상기 영상 시각피로도 파라미터를 산출하는 수학식은,
Figure 112016102841568-pat00018

(여기서, α는 디스플레이(display) 되는 화면의 시점각(view-point angle)이고 β는 양의 영역 γ는 음의 영역에서의 시점각(view-point angle)이다.)와 같은 식을 만족하는 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법.
The method of claim 2,
The mathematical formula for calculating the image visual fatigue parameter is:
Figure 112016102841568-pat00018

(Where a is the view-point angle of the screen to be displayed and beta is the view-point angle in the negative region) A method of measuring three-dimensional visual fatigue based on a user-considered depth image and a bio-signal.
청구항 1에 있어서,
상기 (b) 단계에서,
상기 생체신호는 3D 영상을 시청하는 동안의 시청자의 맥파신호인 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법.
The method according to claim 1,
In the step (b)
Wherein the bio-signal is a pulse wave signal of a viewer while viewing a 3D image, wherein the user is considered to be a depth image and a bio-signal based 3D image visual fatigue measurement method.
청구항 1에 있어서,
상기 (b) 단계는,
(b1) 3D 영상을 시청하는 동안의 신청자의 맥파를 측정하여 PPG 데이터를 획득하는 단계;
(b2) 상기 획득한 PPG 데이터를 시간영역과 주파수영역이 분석방법에 따라 다수개의 파라미터를 획득하는 단계; 및
(b3) 획득된 다수개의 파라미터 중 어느 하나를 선택하여 생체 시각피로도(Obtained Visual Fatigue) 파라미터로 선정하는 단계를 포함하는 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법.
The method according to claim 1,
The step (b)
(b1) acquiring PPG data by measuring an applicant's pulse wave while watching a 3D image;
(b2) obtaining a plurality of parameters of the obtained PPG data according to an analysis method in a time domain and a frequency domain; And
(b3) selecting one of a plurality of acquired parameters as an obtained visual fatigue parameter, and selecting the depth image and the three-dimensional image visual fatigue based on the bio-signal, How to measure.
삭제delete 삭제delete 청구항 1에 있어서,
상기 융합기반 시각피로도(Fusion based Visual Fatigue Level: FVFL)를 산출하는 식은,
Figure 112018015532403-pat00020

(여기서, EVF는 영상 시각피로도 파라미터를 나타내고, OVF는 생체 시각피로도 파라미터를 나타낸다.)와 같은 식을 만족하는 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법.
The method according to claim 1,
The equation for calculating the fusion-based visual fatigue level (FVFL)
Figure 112018015532403-pat00020

(Wherein EVF denotes an image visual fatigue parameter and OVF denotes a biometric visual fatigue parameter), and a three-dimensional image visual fatigue measurement method based on a user-considered depth image and a bio-signal .
3D 영상을 디스 플레이 하는 3D 영상장치;
일정거리에서 시청자가 상기 3D 영상장치로부터 디스플레이 되는 3D 영상을 시청하는 동안, 시청자의 생체신호를 측정하는 생체신호 측정장치;
상기 3D 영상장치와 연결되어 3D 영상으로부터 영상 특징과 관련된 영상 시각피로도(Expected Visual Fatigue) 파라미터를 획득하고, 상기 생체신호 측정장치와 연결되어 3D 영상을 시청하는 동안 시청자의 생체신호로부터 나타나는 생체 시각피로도(Obtained Visual Fatigue) 파라미터를 획득하고, 획득된 상기 영상 시각피로도 파라미터 및 생체 시각피로도 파라미터를 퍼지(FUZZY) 함수를 이용하여 가중치를 생성하고, 생성된 가중치 중 어느 하나를 선택하여 사용자 시각피로도를 산출하는 시각피로도 산출부를 포함하되;
상기 시각피로도 산출부는, 상기 영상 시각피로도 파라미터 및 생체 시각피로도 파라미터를 이용하여 입력과 출력의 관계에 의해 결정되는 퍼지 규칙 테이블을 생성하고, 생성된 퍼지 규칙 테이블을 바탕으로 생성된 퍼지 소속 함수(fuzzy membership function)를 이용하여 퍼지 출력 최소값과 퍼지 출력 최대값을 산출하고, 산출된 퍼지 출력 최소값과 퍼지 출력 최대값을 역퍼지화(def uzzification) 프로세스를 이용하여 가중치를 산출하여, 생성된 가중치 중 어느 하나를 선택하여 융합기반 시각피로도(Fusion based Visual Fatigue Level)를 산출하고;
상기 가중치를 산출하는 식은,
Figure 112018015532403-pat00039

(wEVF 는 영상 시각피로도 관련 가중치이고, wOVF는 생체 시각피로도 관련 가중치를 나타내고, wi는 퍼지를 통해 구해진 가중치이고, Wi는 wi를 정규화한 값이다.)와 같은 식을 만족하는 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정 시스템.
A 3D image device for displaying a 3D image;
A bio-signal measuring device for measuring a bio-signal of a viewer while a viewer watches a 3D image displayed from the 3D image device at a certain distance;
Acquiring an Expected Visual Fatigue parameter associated with the image feature from the 3D image and connecting the 3D image device to the 3D image device, and displaying the bio-visual fatigue A visual fatigue parameter and a biometric fatigue parameter are obtained, a weight is generated by using a fuzzy function, and one of the generated weights is selected to calculate a user's visual fatigue A visual fatigue calculating unit for calculating a visual fatigue of the user;
Wherein the visual fatigue calculating unit generates a fuzzy rule table determined based on a relationship between input and output using the image visual fatigue parameter and the biometric fatigue parameter and generates a fuzzy membership function based on the generated fuzzy rule table The fuzzy output minimum value and the fuzzy output maximum value are calculated by using the membership function of the fuzzy output maximum value and the calculated fuzzy output maximum value and the fuzzy output maximum value are calculated using the defuzzification process, Selecting one to calculate a fusion based visual fatigue level;
The equation for calculating the weights,
Figure 112018015532403-pat00039

(w EVF is weight related to image visual fatigue, w OVF is weight related to biometric fatigue, w i is weight obtained by purging, and W i is normalized value of w i ) A 3D image visual fatigue measurement system based on a user - considered depth image and a bio - signal.
청구항 9에 있어서,
상기 생체신호는 3D 영상을 시청하는 동안의 시청자의 맥파신호인 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정 시스템.
The method of claim 9,
Wherein the bio-signal is a pulse wave signal of a viewer while viewing a 3D image, wherein the user is considered to have a depth image and a bio-signal based 3D image visual fatigue measurement system.
청구항 9에 있어서,
상기 시각피로도 산출부는,
3D 영상의 시청으로부터 발생되는 조절 거리(Accommodation distance) 및 수렴 거리(Convergence distance)의 차이(AC conflict)를 이용하여 영상 시각피로도 파라미터를 산출하여 획득하는 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정 시스템.
The method of claim 9,
The visual fatigue calculating unit may calculate,
And the image visual fatigue parameter is calculated and obtained by using the accommodation distance and the AC conflict between the accommodation distance and the convergence distance generated from the viewing of the 3D image. Signal - Based 3D Image Visual Fatigue Measurement System.
청구항 11에 있어서,
상기 영상 시각피로도 파라미터를 산출하는 수학식은,
Figure 112018015532403-pat00021

(여기서, α는 디스플레이(display) 되는 화면의 시점각(view-point angle)이고 β는 양의 영역 γ는 음의 영역에서의 시점각(view-point angle)이다.)와 같은 식을 만족하는 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정 시스템.
The method of claim 11,
The mathematical formula for calculating the image visual fatigue parameter is:
Figure 112018015532403-pat00021

(Where a is the view-point angle of the screen to be displayed and beta is the view-point angle in the negative region) A 3D image visual fatigue measurement system based on a user - considered depth image and a bio - signal.
청구항 9에 있어서,
상기 시각피로도 산출부는,
3D 영상을 시청하는 동안의 신청자의 맥파를 측정하여 PPG 데이터를 획하고, 상기 획득한 PPG 데이터를 시간영역과 주파수영역이 분석방법에 따라 다수개의 파라미터를 획득하여, 획득된 다수개의 파라미터 중 어느 하나를 선택하여 생체 시각피로도(Obtained Visual Fatigue) 파라미터로 선정하는 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정 시스템.
The method of claim 9,
The visual fatigue calculating unit may calculate,
The PPG data is measured by measuring the pulse wave of the applicant while viewing the 3D image, and the acquired PPG data is obtained by obtaining a plurality of parameters in the time domain and the frequency domain according to the analysis method, Is selected as an Obtained Visual Fatigue parameter, and a 3D image visual fatigue measurement system based on a user-considered depth image and a bio-signal is selected.
삭제delete 삭제delete 청구항 9에 있어서,
상기 융합기반 시각피로도(Fusion based Visual Fatigue Level: FVFL)를 산출하는 식은,
Figure 112018015532403-pat00023

(여기서, EVF는 영상 시각피로도 파라미터를 나타내고, OVF는 생체 시각피로도 파라미터를 나타낸다.)와 같은 식을 만족하는 것을 특징으로 하는 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정 시스템.
The method of claim 9,
The equation for calculating the fusion-based visual fatigue level (FVFL)
Figure 112018015532403-pat00023

(Where EVF denotes an image visual fatigue parameter and OVF denotes a biometric visual fatigue parameter), and a three-dimensional image visual fatigue measurement system based on a user-considered depth image and a bio-signal .
하드웨어와 결합되어,
청구항 1의 사용자가 고려된 깊이 영상과 생체신호에 기반한 3차원 영상 시각피로도 측정방법을 실행시키기 위하여 컴퓨터가 판독 가능한 기록매체에 저장된 컴퓨터프로그램.
Combined with hardware,
A computer program stored in a computer-readable recording medium for executing a method of measuring a three-dimensional image visual fatigue based on a depth image and a bio-signal considered by a user of claim 1.
KR1020160138121A 2016-10-24 2016-10-24 Measurement method and system of visual fatigue level based depth image and bio signal KR101845972B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160138121A KR101845972B1 (en) 2016-10-24 2016-10-24 Measurement method and system of visual fatigue level based depth image and bio signal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160138121A KR101845972B1 (en) 2016-10-24 2016-10-24 Measurement method and system of visual fatigue level based depth image and bio signal

Publications (1)

Publication Number Publication Date
KR101845972B1 true KR101845972B1 (en) 2018-05-18

Family

ID=62453565

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160138121A KR101845972B1 (en) 2016-10-24 2016-10-24 Measurement method and system of visual fatigue level based depth image and bio signal

Country Status (1)

Country Link
KR (1) KR101845972B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020116739A1 (en) * 2018-12-06 2020-06-11 연세대학교 산학협력단 Device and method for predicting sickness experienced by user when viewing virtual reality content

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012050759A (en) 2010-09-03 2012-03-15 Hitachi Ltd Detector of visual fatigue degree, controller of visual fatigue degree, and detecting method of visual fatigue degree
KR101218723B1 (en) * 2011-05-09 2013-01-09 성균관대학교산학협력단 Method for providing three-dimensional image considering visual fatigue of user
KR101595546B1 (en) * 2014-10-07 2016-02-19 동국대학교 산학협력단 Apparatus, method and program for measuring visual fatigue

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012050759A (en) 2010-09-03 2012-03-15 Hitachi Ltd Detector of visual fatigue degree, controller of visual fatigue degree, and detecting method of visual fatigue degree
KR101218723B1 (en) * 2011-05-09 2013-01-09 성균관대학교산학협력단 Method for providing three-dimensional image considering visual fatigue of user
KR101595546B1 (en) * 2014-10-07 2016-02-19 동국대학교 산학협력단 Apparatus, method and program for measuring visual fatigue

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020116739A1 (en) * 2018-12-06 2020-06-11 연세대학교 산학협력단 Device and method for predicting sickness experienced by user when viewing virtual reality content
KR20200069002A (en) * 2018-12-06 2020-06-16 연세대학교 산학협력단 Apparatus and method for predicting virtual reality sickness
KR102141740B1 (en) 2018-12-06 2020-08-05 연세대학교 산학협력단 Apparatus and method for predicting virtual reality sickness

Similar Documents

Publication Publication Date Title
CN111758229B (en) Digitally representing user engagement targeted content based on biometric sensor data
Cognolato et al. Head-mounted eye gaze tracking devices: An overview of modern devices and recent advances
Chardonnet et al. Features of the postural sway signal as indicators to estimate and predict visually induced motion sickness in virtual reality
Arabadzhiyska et al. Saccade landing position prediction for gaze-contingent rendering
Bando et al. Visual fatigue caused by stereoscopic images and the search for the requirement to prevent them: A review
US9144405B2 (en) User health monitoring system comprising 3D glasses and display apparatus, and display apparatus and control method thereof
US8878922B2 (en) Video image information processing apparatus and video image information processing method
US9486156B2 (en) Eye fatigue determination apparatus and eye fatigue determination method
CN105007812B (en) Eeg signal processing unit, eeg signal processing method, program and recording medium
EP3562398A2 (en) Emotion estimation apparatus, method, and program
Chen et al. Human factors/ergonomics evaluation for virtual reality headsets: a review
JP2014133080A (en) Evaluation method, evaluation device, program, and recording medium
US20170055900A1 (en) Method and system for monitoring pain of users immersed in virtual reality environment
CN110600103B (en) Wearable intelligent service system for improving eyesight
JP2014124308A (en) Eye potential generation device, eye potential generation method, and viewer
JP2021128807A (en) Evaluation method, evaluation device, and evaluation program
Kroupi et al. Modeling immersive media experiences by sensing impact on subjects
Liu et al. Measuring visually induced motion sickness using wearable devices
KR20190020418A (en) Virtual Reality Monitoring System Using Virtual Reality and Psychotherapy Using the Same
KR101845972B1 (en) Measurement method and system of visual fatigue level based depth image and bio signal
JP7311118B2 (en) Emotion estimation method and emotion estimation system
EP2997887A1 (en) Virtual environment utilizing neurophysiological analysis and analytical method used therein
KR102220837B1 (en) Augmented Reality Based Mirror Exercise System for Exercise Rehabilitation of Patients with Nervous and Musculoskeletal system
JP2003157136A (en) High-presence video display unit capable of recording biological reaction
JP5988415B1 (en) In-body treatment effect visualization system

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant