WO2017003054A1 - Method for displaying 3d image and device for same - Google Patents

Method for displaying 3d image and device for same Download PDF

Info

Publication number
WO2017003054A1
WO2017003054A1 PCT/KR2015/013992 KR2015013992W WO2017003054A1 WO 2017003054 A1 WO2017003054 A1 WO 2017003054A1 KR 2015013992 W KR2015013992 W KR 2015013992W WO 2017003054 A1 WO2017003054 A1 WO 2017003054A1
Authority
WO
WIPO (PCT)
Prior art keywords
parallax
video
user
eye
adjusting
Prior art date
Application number
PCT/KR2015/013992
Other languages
French (fr)
Korean (ko)
Inventor
쑨쩡쩡
치아오펑후이
후빙
쩡위엔
가오웨이
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from CN201510385882.2A external-priority patent/CN104967837A/en
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US15/741,144 priority Critical patent/US10531066B2/en
Priority to EP15897272.9A priority patent/EP3310047B1/en
Publication of WO2017003054A1 publication Critical patent/WO2017003054A1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/002Eyestrain reduction by processing stereoscopic signals or controlling stereoscopic devices

Definitions

  • the present disclosure relates to three-dimensional (3D) display technology, and more specifically, to devices and methods for adjusting 3D display effects.
  • the principle of 3D display technology is to create a binocular parallax by providing two images that are slightly different for each of the right and left eyes, creating a 3D stereoscopic effect on the brain.
  • the position of the first object 10 in the left eye image may be different from the position of the first object 20 in the right eye image.
  • the left eye image may mean an image provided to the left eye
  • the right eye image may mean an image provided to the right eye.
  • Parallax may refer to a difference in position of the same object in the left eye image and the right eye image. That is, parallax may mean a difference between a position on the left retina and a position on the right retina of the same object. For example, when the same object forms an image at a position of 4 mm to the left of the center of the left eye (Fovea) and an image is formed at a position of 3 mm to the left of the center of the right eye, the parallax of the object may be 1 mm. In addition, the parallax may mean a difference between positions in the left eye image and the right eye image of the same object.
  • the out-of-screen effect may refer to a three-dimensional effect that the object feels as if it sticks out of the screen
  • the in-screen effect may refer to a three-dimensional feeling that the object feels as if it enters the screen.
  • the parallax may be divided into a negative parallax, a positive parallax, and a zero parallax according to a difference in the position of the same object in the left eye image and the right eye image.
  • Some embodiments may provide an apparatus and method for adjusting the parallax of 3D video based on the degree of eye fatigue of a user.
  • FIG. 2 shows a diagram that adjusts the 3D display effect according to the current degree of fatigue of the user, in accordance with some embodiments of the present disclosure.
  • FIG. 3 shows a block diagram of a device, in accordance with some embodiments of the present disclosure.
  • FIG. 4 shows a flowchart illustrating a method for adjusting a 3D display effect, in accordance with some embodiments of the present disclosure.
  • FIG. 5 shows a flowchart illustrating a method for adjusting a 3D display effect, in accordance with some other embodiments of the present disclosure.
  • FIG. 6 is a diagram illustrating an example of adjusting a parallax parameter according to some embodiments of the present disclosure.
  • FIG. 7 shows a flowchart illustrating a method for adjusting a 3D display effect according to some other embodiments of the present disclosure.
  • FIG. 8 is a diagram illustrating an example of adjusting a parallax parameter according to another embodiment of the present disclosure.
  • FIG 9 illustrates an example of adjusting parallax parameters based on a focusing feature of the eye of the human body when the scene changes, in accordance with some embodiments of the present disclosure.
  • FIG. 10 shows a flowchart illustrating a method for adjusting 3D display effects, in accordance with some other embodiments of the present disclosure.
  • FIG. 11 illustrates an example of a user interface for adjusting 3D display effects, in accordance with some embodiments of the present disclosure.
  • FIG. 12 is a block diagram of a device, in accordance with some embodiments of the present disclosure.
  • FIG. 13 is a block diagram of a device, according to some other embodiments of the present disclosure.
  • a first aspect of the present disclosure is to obtain a feature of the user's eyes from the camera for photographing the eyes of the user watching the 3D video, and the image of the user's eyes taken
  • the device may include a controller configured to determine a degree of eye fatigue of the user based on the acquired eye characteristics, and to adjust a parallax of the 3D video according to the degree of eye fatigue of the user.
  • control unit is a parallax that is the difference between the average parallax between the left-eye image and the right-eye image of the 3D video, the maximum value of the negative parallax, the maximum value of the positive parallax, and the maximum value of the negative parallax and the maximum value of the positive parallax.
  • the eye feature of the user may include at least one of a blinking frequency, eye closing time, a change in binocular focus, and a binocular convergence angle.
  • the controller may adjust the parallax of the 3D video when the determined degree of eye fatigue is greater than or equal to the first threshold.
  • the controller may determine whether or not the parallax of the 3D video is greater than or equal to the second threshold value, and if the parallax of the 3D video is greater than or equal to the second threshold value, the controller controls the parallax of the 3D video to be less than the second threshold value. I can adjust it.
  • the controller may adjust the parallax of the 3D video by adjusting the rate of change of parallax between the frames of the 3D video.
  • the controller may determine a difference in parallax between the nth frame and the n-1th frame of the 3D video, and, if the difference in parallax is greater than or equal to the third threshold, such that the difference in parallax becomes less than the third threshold, By adjusting the parallax of the nth frame, the rate of change of parallax between the frames of the 3D video can be adjusted.
  • the controller may adjust the rate of change of parallax between frames of the 3D video by increasing the parallax of the nth frame so that the parallax difference is less than the third threshold.
  • the device may further include an output unit, and the controller may control the output unit to output the 3D video whose parallax is adjusted to the user.
  • the device may display, on the output unit, a notification window indicating that the parallax of the 3D video has been adjusted.
  • a second aspect of the present disclosure provides a method of photographing a user's eye watching a 3D video, acquiring a feature of the user's eye from an image of the captured user's eye, and based on the acquired eye feature. Determining a degree of fatigue of an eye, and adjusting the parallax of the 3D video according to the degree of fatigue of the user's eye.
  • the step of adjusting the parallax of the 3D video according to the degree of fatigue of the user, the average parallax between the left-eye image and the right-eye image of the 3D video, the maximum value of the negative parallax, the maximum value of the positive parallax and negative And adjusting at least one of a parallax range that is a difference between the maximum value of the parallax and the maximum value of the positive parallax.
  • adjusting the parallax of the 3D video according to the degree of fatigue of the user may include adjusting the parallax of the 3D video when the determined degree of fatigue of the user is greater than or equal to a first threshold.
  • the step of adjusting the parallax of the 3D video according to the degree of fatigue of the user determines whether the parallax of the 3D video is greater than or equal to the second threshold, and if the parallax of the 3D video is greater than or equal to the second threshold, the 3D video Adjusting the parallax of the 3D video such that the parallax of is less than the second threshold.
  • adjusting the parallax of the 3D video according to the degree of fatigue of the user may include adjusting the parallax of the 3D video by adjusting a rate of change of parallax between frames of the 3D video.
  • adjusting the parallax of the 3D video includes determining a difference in parallax between the nth frame and the n-1th frame of the 3D video, And adjusting the disparity of the n-th frame to adjust the rate of change of the parallax between frames of the 3D video so that if the difference is greater than or equal to the third threshold, the disparity is less than the third threshold.
  • adjusting the parallax of the nth frame such that the difference in parallax is less than the third threshold increases the parallax of the nth frame so that the parallax difference is less than the third threshold, thereby increasing the 3D video.
  • adjusting the rate of change of parallax between frames increases the parallax of the nth frame so that the parallax difference is less than the third threshold, thereby increasing the 3D video.
  • the method of adjusting the 3D display effect may further include outputting the parallax adjusted 3D video to the user.
  • the method of adjusting the 3D display effect may further include displaying a notification window indicating that the parallax of the 3D video has been adjusted.
  • any part of the specification is to “include” any component, this means that it may further include other components, except to exclude other components unless otherwise stated.
  • the terms “... unit”, “module”, etc. described in the specification mean a unit for processing at least one function or operation, which may be implemented in hardware or software or a combination of hardware and software. .
  • a method of improving the comfort level of a user's eyes by reducing parallax produces a satisfactory 3D stereoscopic display effect while enhancing the comfort level when watching 3D video, while the effect of the image is similar to that of a 2D display. Can be done.
  • the parallax parameters of the 3D video when viewing 3D video, may be adjusted based on the degree of fatigue of the user's eyes in order to improve the level of comfort.
  • the parallax parameter of the 3D video By adjusting the parallax parameter of the 3D video based on the degree of eye fatigue of the user, it is possible to maximize the stereoscopic display effect of the 3D video while reducing the eye fatigue of the user.
  • the object 40 may have a negative parallax, and the object 40 having a negative parallax may feel as if it is located in front of the screen.
  • the object 40 may have positive parallax, and the object 40 having positive parallax may feel as if it is located behind the screen.
  • the object 40 may have a parallax of zero, and the object 40 having a parallax of zero may be perceived as being displayed on the screen, that is, any perception from the image.
  • the user's eyes have a limited ability to merge two parallax images into a single image. That is, when the parallax is greater than any value, the user can see two images instead of one image.
  • both eyes when viewing an object, both eyes must focus on the object so that the user combines the different images seen by both eyes into one stereoscopic image through the Fusion function of the brain.
  • the angle formed between the lines of sight from the two eyes to the focus point 30 may be referred to as a convergence angle.
  • the object 40 having a negative parallax shown in (a) of FIG. 1 is an object having a positive parallax shown in (b) of FIG.
  • the object 40 having a negative parallax shown in (a) of FIG. 1 has a larger convergence angle.
  • eye fatigue is likely to occur when looking at objects with large convergence angles (ie when looking at objects at close range).
  • objects with negative parallax have an improved stereoscopic effect, but can more easily cause eye fatigue.
  • processing techniques for reducing parallax of an object in stereoscopic video are designed such that both positive parallax and negative parallax are limited to some extent.
  • Reduced parallax may mean closer to zero parallax to form a smaller convergence angle, and may make the effect of the image feel closer to 2D reproduction. Accordingly, the comfort level of the eye is improved while the 3D stereoscopic display effect of the image can be sacrificed. Reduction of the 3D stereoscopic display effect of an image may make the effect of the image feel closer to 2D reproduction. For this reason, when improving stereoscopic viewing comfort by reducing parallax, the stereoscopic feeling of the user can be significantly reduced.
  • FIG. 2 shows a diagram that adjusts the 3D display effect according to the current degree of fatigue of the user, in accordance with some embodiments of the present disclosure.
  • the user's head image is captured by the image capturing device 210 to parse the eye image 220 of the user.
  • it may be photographed by a camera, and face recognition may be performed based on a computer vision library (eg, Opencv library).
  • a feature of the eye of the user may be obtained from the eye image 220 of the user. After the eye feature is obtained, based on the acquired eye feature, the degree of fatigue of the user's current eye may be determined, and based on the current degree of fatigue of the user, the parallax parameter of the 3D video 230 may be adjusted. Can be.
  • the level of comfort may be improved when watching the 3D video 230.
  • the 3D display effect can be automatically adjusted based on the current degree of eye fatigue of the user. Therefore, while ensuring the 3D display effect, the inconvenience of the user's eyes caused when watching the 3D video 230 can be effectively reduced.
  • FIG. 3 illustrates a block diagram of a device 1000, in accordance with some embodiments of the present disclosure.
  • the device 1000 may include an eye feature acquirer 60, an eye fatigue degree determiner 70, and a parallax adjuster 80.
  • Configurations of the device 1000 may include general purpose hardware processors such as image sensors, digital signal processors (DSPs) and field programmable gate arrays (FPGAs), or special purpose chips such as dedicated chips to perform specific functions. It may be implemented by a hardware processor or entirely in software through computer programs such as individual modules in an application for adjusting the 3D display effect installed in the device 1000.
  • the eye feature acquisition unit 60, the eye fatigue degree determination unit 70, and the parallax adjustment unit 80 may be implemented by executing software such as a computer program by hardware.
  • the eye feature acquisition unit 60, the eye fatigue degree determination unit 70, and the parallax adjustment unit 80 may be implemented as one controller (not shown).
  • the eye feature acquirer 60 and the eye fatigue degree determiner 70 may be implemented as one controller (not shown), and the parallax adjusting unit 80 may be implemented as a separate image processor (not shown).
  • the eye feature acquisition unit 60 is used to acquire the eye feature of the user when the user watches the 3D video.
  • the eye feature acquirer 60 may control the image capturing device to capture the user's head image. After the user's head image is obtained, the eye feature acquirer 60 may detect the user's head from the recognized face area. Face recognition may be performed from the user's head image based on a computer vision library to parse the eye image. In addition, the eye feature acquirer 60 may extract a feature of the eye of the user from the acquired eye image.
  • the eye feature acquirer 60 may include blinking frequency, eye-closed time, and binocular focus as eye features from an eye image of the user photographed when the user watches a 3D video. At least one of the change in the binocular focus points and the binocular convergence angle may be extracted.
  • the eye fatigue degree determiner 70 may determine the degree of fatigue of the current eye of the user according to the acquired eye characteristics.
  • the degree of eye fatigue may be a value indicating a degree of fatigue of a current eye of a user based on a dynamically determined eye characteristic.
  • the eye fatigue degree determining unit 70 may determine that the eye fatigue of the user is greater as the number of times of blinking of the eyes per unit time increases.
  • the eye fatigue degree determiner 70 may determine that eye fatigue information is large when the user's closing time increases.
  • the eye fatigue degree determining unit 70 is based on the change in the binocular focus of the user, Can be used to comprehensively analyze the current eye fatigue. For example, it may be determined that the more frequent the change of binocular focus per unit time, the greater the degree of eye fatigue of the user.
  • the eye fatigue degree determining unit 70 may determine that the eye fatigue of the user is greater as the binocular convergence angle becomes larger.
  • the parallax adjustment unit 80 may adjust the parallax parameter of the 3D video according to the current degree of eye fatigue of the user.
  • the parallax parameter may mean an average parallax, a maximum value of a negative parallax, a maximum value of a positive parallax, or a parallax range of each pixel pair between a left eye image and a right eye image of three videos.
  • the parallax may mean a difference between positions of the same object in the left eye image and the right eye image.
  • a pixel in the right eye image corresponding to each pixel in the left eye image that is, a pixel in the right eye image matching each pixel in the left eye image
  • An image matching method may be performed in which a parallax (ie, a difference in displacement) between pixels to be obtained is obtained.
  • Pixels in the right-eye image corresponding to pixels in the left-eye image and pixels in the left-eye image may mean pixels in the left-eye image and pixels in the right-eye image representing one point in the same object.
  • an average parallax or a parallax range consisting of a maximum parallax and a minimum parallax may be obtained.
  • the average parallax may mean an average of parallaxes between matching pixels in one frame, and the parallax range may be a maximum of positive parallaxes and a maximum of negative parallaxes among parallaxes between matching pixels in one frame. It can mean the difference between the values.
  • the parallax adjusting unit 80 may determine whether the user's current eye fatigue degree is greater than or equal to an eye fatigue threshold.
  • the eye fatigue threshold may be a preset threshold used to determine whether the user feels tired.
  • the parallax adjustment unit 80 may not adjust the parallax parameter of the 3D video when the user's current eye fatigue is less than the eye fatigue threshold.
  • the parallax adjustment unit 80 may adjust the parallax parameter of the 3D video in an appropriate manner when the user's current eye fatigue is more than the eye fatigue threshold. For example, when the current eye fatigue level of the user is greater than or equal to the eye fatigue threshold, the parallax adjusting unit 80 determines whether or not the parallax parameter of the 3D video is greater than or equal to the parallax parameter threshold, and the parallax parameter of the 3D video is determined. When more than the parallax parameter threshold, the parallax parameter of the 3D video may be adjusted such that the parallax parameter of the 3D video is within the parallax parameter threshold.
  • the parallax parameter threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user.
  • the parallax parameter threshold may be a predetermined average parallax, parallax range or inherent average parallax, or may be a parallax range corresponding to the current degree of eye fatigue of a user.
  • an appropriate parallax parameter adjusting function may be selected according to a preset condition, and the parallax parameter may be adjusted within a parallax parameter threshold according to the parallax parameter adjusting function.
  • the parallax parameter adjusting function may denote a parallax parameter of the 3D video after adjustment, may denote a degree of fatigue of the user's current eye, and may denote a parallax parameter of the 3D video before adjustment.
  • the parallax parameter threshold may be a reduction function of the degree of fatigue of the user's current eye. That is, the parallax parameter threshold of the 3D video may decrease as the degree of fatigue of the current eye of the user increases.
  • the processing technique for adjusting the parallax is not only a method of reducing the average parallax or parallax range, but also caused by the human eye continuously changing the parallax. It may be a method of guaranteeing a smooth change of the parallax to prevent the feeling of discomfort.
  • the parallax adjustment unit 80 also determines whether the difference between the parallax parameter of the current frame of the 3D video and the parallax parameter of the previous frame is greater than or equal to the parallax variation threshold, and the difference between the parallax parameter of the current frame and the previous frame is greater than or equal to the parallax variation threshold. When the parallax parameter of the current frame and the previous frame is within the parallax variation threshold, the parallax parameter of the current frame of the 3D video may be adjusted.
  • the parallax variation threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user.
  • the parallax change threshold is a predetermined threshold used to measure a mean parallax or a change in the parallax range, or used to measure a change in the parallax range corresponding to the average parallax or the current degree of eye fatigue of a user. May be a unique threshold value.
  • an appropriate parallax parameter adjusting function may be selected according to preset conditions, and the parallax parameter of the current frame of the 3D video may be set so that the difference in the parallax parameter between the current frame and the previous frame is within a parallax variation threshold. Can be adjusted accordingly.
  • the parallax parameter adjusting function may denote a parallax parameter of the 3D video after being adjusted, may denote a degree of fatigue of the current eye of the user, and may denote a parallax parameter of the 3D video before being adjusted.
  • the parallax variation threshold may be a decreasing function of the degree of fatigue of the user's current eye. That is, the parallax variation threshold of the 3D video may decrease as the degree of fatigue of the current eye of the user increases.
  • the parallax adjusting unit 80 may also adjust the parallax according to the visual characteristics of the eye of the human body focusing when viewing an object.
  • the parallax adjustment unit 80 determines whether the difference between the parallax parameter of the current frame of the 3D video and the parallax parameter of the previous frame is greater than or equal to the parallax variation threshold value, and when the difference between the parallax parameter of the current frame and the previous frame is greater than or equal to the parallax variation threshold value,
  • the parallax parameter of the current frame of the 3D video may be adjusted such that the parallax parameter difference between the current frame and the previous frame is within the parallax variation threshold.
  • the device 1000 illustrated in FIG. 3 may further include an output unit (not shown) for outputting 3D video to the user according to the adjusted parallax parameter as an additional configuration.
  • the output can be a display device (eg, a display).
  • the 3D display effect in order to achieve the technical effect of the 3D image display according to the physiological characteristics of the eye of the human body, the 3D display effect can be adjusted according to the degree of fatigue of the user's current eye at an appropriate moment, and thus the eye fatigue of the user. At the same time, the stereoscopic display effect of 3D video can be maximized.
  • FIG. 4 shows a flowchart illustrating a method for adjusting a 3D display effect, in accordance with some embodiments of the present disclosure.
  • the method for adjusting the 3D display effect may be implemented by the device 1000 disclosed in FIG. 3, or may be implemented entirely in software through an application for adjusting the 3D display effect.
  • a feature of an eye of the user may be acquired.
  • the head image of the user may be photographed by the image capturing device, and after the head image of the user is obtained, computer vision for parsing the user's eye image from the recognized face area Face recognition may be performed from the user's head image based on the library.
  • the eye feature of the user may be extracted from the acquired eye image.
  • At least one of a blinking frequency, eye closing time, a change in binocular focus, and a binocular convergence angle may be extracted from the eye image of the user photographed when the user watches the 3D video.
  • the degree of fatigue of the current eye of the user may be determined according to the acquired eye characteristics.
  • the degree of eye fatigue may be a value indicating the degree of fatigue of the user's current eye based on the dynamically determined eye characteristics.
  • a value representing the current degree of fatigue of the user may be comprehensively analyzed based on the change in the binocular focus of the user.
  • the parallax parameter of the 3D video may be adjusted according to the current degree of eye fatigue of the user.
  • the parallax parameter may refer to an average parallax or parallax range of each pixel pair between the left eye image and the right eye image of 3 video.
  • the parallax may mean a difference between positions of the same object in the left eye image and the right eye image. Accordingly, in order to obtain a parallax parameter of the 3D video, a pixel in the right eye image corresponding to each pixel in the left eye image, that is, a pixel in the right eye image matching each pixel in the left eye image, is detected and matched. An image matching method may be performed in which a parallax (ie, a difference in displacement) between pixels to be obtained is obtained.
  • a parallax range consisting of the average parallax or the maximum parallax and the minimum parallax of the 3D video may be obtained.
  • the parallax parameter of the 3D video may be adjusted in a suitable manner based on the degree of fatigue of the user's current eye.
  • An example of adjusting the display image of 3D video will be described in detail with reference to FIGS. 5-9.
  • FIG. 5 shows a flowchart illustrating a method for adjusting a 3D display effect, in accordance with some other embodiments of the present disclosure.
  • steps S510 and S520 are similar to steps S410 and S420 illustrated in FIG. 4, descriptions of steps S510 and S520 of FIG. 5 will be omitted.
  • the eye fatigue threshold may be a preset threshold used to determine whether the user feels tired. . Specifically, by comparing the current degree of fatigue of the user with the eye fatigue threshold, it may be determined whether the 3D display effect should be adjusted.
  • step S560 it may be determined whether 3D video reproduction is stopped. When playback of the 3D video is not stopped, the method returns to step S510 where the eye features of the user when the user watches the 3D video can be acquired.
  • the parallax parameter threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user.
  • the parallax parameter threshold may be a predetermined average parallax, parallax range or inherent average parallax, or may be a parallax range corresponding to the current degree of eye fatigue of a user.
  • the parallax parameter of the 3D video may be adjusted to be within the parallax parameter threshold.
  • the parallax parameter may in particular be a parallax range of 3D video, so the parallax parameter threshold may mean an acceptable parallax range.
  • the lighter color portion corresponds to the parallax value within the parallax parameter threshold 610
  • the darker color portion corresponds to the parallax value greater than or equal to the parallax parameter threshold 610. It can correspond to.
  • "X" may mean an exemplary value among parallaxes between matching pixels in one frame.
  • the leftmost pixel 643 is the pixel having the maximum value of negative parallax in one frame
  • the rightmost pixel 645 is the pixel having the maximum value of positive parallax in one frame. have.
  • the interval 630 between dashed lines may mean a parallax range of 3D video in one frame.
  • some pixels 641, 643, 645 having parallaxes above the parallax parameter threshold may be adjusted such that the parallax becomes less than or equal to the parallax parameter threshold.
  • the parallax range 630 may be reduced to be located within the parallax parameter threshold 610 to alleviate eye fatigue of the user.
  • An appropriate parallax parameter adjustment function may be selected and the parallax parameter of the 3D video may be adjusted (decreased) within the parallax parameter threshold according to the parallax parameter adjustment function.
  • the parallax parameter adjusting function may denote a parallax parameter of the 3D video after adjustment, may denote a degree of fatigue of the user's current eye, and may denote a parallax parameter of the 3D video before adjustment.
  • the parallax parameter threshold may be a reduction function of the degree of fatigue of the user's current eye. That is, the parallax parameter threshold of the 3D video may decrease as the degree of fatigue of the current eye of the user increases.
  • the parallax range 630 of the 3D video may be indicated by dashed lines, as shown in FIG. That is, pixels 641, 643, and 645 above the parallax parameter threshold may be adjusted within the parallax parameter threshold 610, thus reducing the degree of fatigue of the user's eyes.
  • step S560 it may be determined whether 3D video reproduction is stopped. When the 3D video playback is not stopped, the method may return to step S510.
  • the visual feature of the eye of the human body focusing when looking at the object is that the eye of the human body must focus on the object.
  • the human eye can see most of the scene with the focus fixed.
  • the focus can be changed when the user wants to see an object at a different distance.
  • the human eye's focus can always stay on a book page, and when watching a typical 2D video, the human's eye's focus can always stay on the display panel.
  • the eye of the human body does not need to adjust the focal length (focal length) to a considerable extent, so that the fatigue of the eye is not caused by the change of focus.
  • the parallax parameter may be adjusted according to the visual characteristics of the eye of the human body focusing when viewing the object, so as to ensure a gentle change in the parallax, so that the human eye You may not feel uncomfortable with the constantly changing parallax.
  • FIG. 7 shows a flowchart illustrating a method for adjusting a 3D display effect according to some other embodiments of the present disclosure.
  • steps S710 and S720 are similar to steps S410 and S420 illustrated in FIG. 4, and thus descriptions of steps S710 and S720 of FIG. 7 will be omitted.
  • step S730 it may be determined whether the current degree of eye fatigue of the user is greater than or equal to an eye fatigue threshold.
  • the eye fatigue threshold may be a preset threshold used to determine whether the user feels tired. Specifically, by comparing the current degree of fatigue of the user with the eye fatigue threshold, it may be determined whether the 3D display effect should be adjusted.
  • step S760 it may be determined whether 3D video reproduction is stopped.
  • the method may return to step S710 to continue to acquire the features of the user's eyes when the user watches the 3D video.
  • the parallax change threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user.
  • the parallax variation threshold is a predetermined threshold used to measure the average parallax or variation in the parallax range, or inherent for measuring a variation in the average parallax or parallax range corresponding to the current degree of eye fatigue of the user. May be a predetermined threshold of.
  • step S750 the parallax parameter of the current frame of the 3D video is determined by the parallax parameter of the current frame of the 3D video and the previous frame.
  • the difference between the parallax parameters may be adjusted to be within the parallax variation threshold.
  • the parallax parameter may be an average parallax of an image frame of 3D video, whereby the parallax variation threshold may mean an allowable change in the average parallax between adjacent frame images.
  • FIG. 8A may be a graph illustrating an average parallax of each frame with respect to successive frames.
  • FIG. 8A may be a graph showing a maximum value of negative parallax among parallaxes of each frame.
  • FIG. 8A may be a graph showing a maximum value of positive parallaxes among parallaxes of each frame.
  • FIG. 8A may be a graph illustrating a parallax range of each frame.
  • parallax changes two types can be defined, positive parallax changes and negative parallax changes.
  • the value obtained by subtracting the parallax parameter of the previous frame from the parallax parameter of the current frame may have a positive value. That is, the parallax parameter of the current frame may be larger than the parallax parameter of the previous frame.
  • the positive parallax change can be obtained by subtracting the parallax parameter of frame 4 from the parallax parameter of frame 5 of FIG.
  • the value obtained by subtracting the parallax parameter of the previous frame from the parallax parameter of the current frame may have a negative value.
  • the parallax parameter of the current frame may be smaller than the parallax parameter of the previous frame.
  • the negative parallax change can be obtained by subtracting the parallax parameter of frame 7 from the parallax parameter of frame 8 of FIG.
  • Parallax parameters can be adjusted.
  • frames 1 to 4 form a continuous and gentle negative parallax variation (ie, when the parallax variation is less than the parallax variation threshold). Thus, it may not be necessary to perform parallax parameter adjustment. However, since the positive parallax change obtained by subtracting the parallax parameter of frame 4 from the parallax parameter of frame 5 is greater than or equal to the parallax variation threshold, in order to alleviate the fatigue of the user's eyes, parallax parameter of frame 5 and parallax of frame 4 It is necessary to reduce the parallax parameter of frame 5 so that the difference between the parameters is within the parallax variation threshold.
  • An appropriate parallax parameter adjustment function may be selected, and the parallax parameter of frame 5 of 3D video may be adjusted according to the parallax parameter adjustment function such that a difference from the parallax parameter of frame 4 is within a parallax variation threshold.
  • the parallax parameter adjusting function may denote a parallax parameter of the 3D video after being adjusted, may denote a degree of fatigue of the current eye of the user, and may denote a parallax parameter of the 3D video before being adjusted.
  • the parallax variation threshold may be a decreasing function of the degree of fatigue of the user's current eye. That is, the parallax variation threshold of the 3D video may decrease as the degree of fatigue of the current eye of the user increases.
  • the parallax parameter of frame 5 of the 3D video can be reduced as shown in FIG. 8 (b). That is, the parallax parameter change between the frames 5 and 4 may be adjusted within the parallax variation threshold.
  • the parallax parameter of frame 6 and the parallax parameter of frame 7 can be adjusted in the same way.
  • the parallax parameter of frame 8 may be adjusted (increased) according to the parallax parameter adjusting function such that the difference between the parallax parameter of frame 8 and the parallax parameter of frame 7 is within a parallax variation threshold.
  • the frames 9 to 11 form a continuous and relatively large change in negative parallax (that is, because the parallax change is greater than or equal to the parallax variation threshold), the frames 9 to 11 are shown in Fig. 8B. As shown, in order to obtain adjusted individual image frames, it may be adjusted in a similar manner to frame 8. As shown in the method, gentle changes in parallax parameters can be ensured, thus reducing the degree of eye strain of the user.
  • the parallax parameters not only change, but also make the user feel uncomfortable due to the frequently changed focusing.
  • Such depth change may occur in the same scene, or may occur when the scene changes.
  • FIG. 9 illustrates an example of adjusting parallax parameters based on a focusing feature of the eye of the human body when the scene changes, in accordance with some embodiments of the present disclosure.
  • a scene change may occur in a 3D video image, and a round object in the image may be changed into a rectangular object.
  • Light colored objects may mean an image for the left eye
  • dark colored objects may mean an image for the right eye.
  • Figs. 9A and 9B there is a relatively large amount of parallax in the image shown in Fig. 9A, and a relatively small amount in the image shown in Fig. 9B.
  • the adjustment may be performed by decreasing or increasing the parallax parameter of the current frame.
  • the adjusted image frame is shown in Fig. 9C.
  • the adjusted frame image has a relatively large amount of parallax compared to Fig. 9B, so that the adjusted positive parallax of the current frame is the positive parallax of the previous frame. It can be relatively close to, and the parallax parameter change of the current frame can be within the parallax variation threshold.
  • step S760 it may be determined whether 3D video playback is stopped. When the 3D video playback is not stopped, the method may return to step S710.
  • the parallax variation forcing the eye to change the focal length can be reduced according to the visual characteristics of the eye of the human body focusing when viewing the object.
  • smoothness of parallax can be ensured while playing back 3D video.
  • the reproduction of the 3D video can ensure a 3D visual effect and at the same time highly follow the physiological characteristics of the human eye.
  • FIG. 10 shows a flowchart illustrating a method for adjusting 3D display effects, in accordance with some other embodiments of the present disclosure.
  • steps S1010 and S1020 are similar to steps S410 and S420 illustrated in FIG. 4, and thus descriptions of steps S1010 and S1020 of FIG. 10 will be omitted.
  • the eye fatigue threshold may be a preset threshold used to determine whether the user feels tired. Specifically, by comparing the current degree of fatigue of the user with the eye fatigue threshold, it may be determined whether the 3D display effect should be adjusted.
  • step S1080 it may be determined whether 3D video reproduction is stopped. When the 3D video playback is not stopped, the method may return to step S1010 to continue to acquire the features of the user's eyes when the user watches the 3D video.
  • the parallax parameter threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user.
  • the parallax parameter threshold may be a predetermined average parallax, parallax range or inherent average parallax, or may be a parallax range corresponding to the current degree of eye fatigue of a user.
  • the parallax parameter of the 3D video may be adjusted to be within the parallax parameter threshold.
  • the parallax change threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user.
  • the parallax variation threshold is a predetermined threshold used to measure the average parallax or variation in the parallax range, or inherent for measuring a variation in the average parallax or parallax range corresponding to the current degree of eye fatigue of the user. May be a predetermined threshold of.
  • step S1070 the parallax parameter of the current frame of the 3D video is determined by the parallax parameter of the current frame of the 3D video and the previous frame.
  • the difference between the parallax parameters may be adjusted to be within the parallax variation threshold.
  • step S1080 After the parallax parameter of the 3D video is adjusted, in step S1080, it may be determined whether 3D video reproduction is stopped. When the 3D video playback is not stopped, the method may return to step S1010.
  • the 3D display effect may be adjusted according to the current degree of eye fatigue of the user at an appropriate moment, thereby reducing the user's eye fatigue and at the same time reducing the stereoscopic display effect of the 3D video. I can guarantee it. Accordingly, the technical effects of the 3D image display may be obtained while following the physiological characteristics of the human eye.
  • FIG. 11 illustrates an example of a user interface for adjusting 3D display effects, in accordance with some embodiments of the present disclosure.
  • the device 1000 may automatically perform parallax adjustment on 3D video and then display a notification window 1120 indicating that parallax adjustment is completed.
  • the notification window 1120 may include a confirmation button 1122, a fixed button 1124, and a cancel button 1126.
  • the device 1000 may delete the notification window. According to an embodiment, the device 1000 may automatically delete the notification window when a preset time elapses.
  • the device 1000 may continuously adjust the parallax of the 3D video based on the current parallax parameter threshold regardless of the degree of eye fatigue of the user.
  • the 3D video that has been adjusted can be returned to its pre-adjusted state.
  • 12 and 13 are block diagrams of a device 1000 according to some embodiments.
  • the device 1000 may include a user input unit 1100, an output unit 1200, a controller 1300, and a communication unit 1500.
  • the device 1000 may be implemented by more components than the components illustrated in FIG. 12, and the device 1000 may be implemented by fewer components than the components illustrated in FIG. 12.
  • the device 1000 may include a sensing unit 1400 in addition to the user input unit 1100, the output unit 1200, the control unit 1300, and the communication unit 1500. ) May further include an A / V input unit 1600 and a memory 1700.
  • the camera 1610 may be attached to the device 1000 to capture a face image including the user's eyes, and may be attached to the user's glasses (not shown) for viewing 3D video to capture the user's eye image.
  • the user input unit 1100 means a means for a user to input data for controlling the device 1000.
  • the user input unit 1100 includes a key pad, a dome switch, a touch pad (contact capacitive type, pressure resistive layer type, infrared sensing type, surface ultrasonic conduction type, and integral type). Tension measurement method, piezo effect method, etc.), a jog wheel, a jog switch, and the like, but are not limited thereto.
  • the user input unit 1100 may receive a user input for adjusting parallax of 3D video.
  • the output unit 1200 may output an audio signal, a video signal, or a vibration signal, and the output unit 1200 may include a display unit 1210, an audio output unit 1220, and a vibration motor 1230. have.
  • the display unit 1210 displays and outputs information processed by the device 1000.
  • the display unit 1210 may display 3D video.
  • the display unit 1210 may display a notification window notifying that the parallax of the 3D video is adjusted.
  • the display unit 1210 may be used as an input device in addition to the output device.
  • the display unit 1210 may include a liquid crystal display, a thin film transistor-liquid crystal display, an organic light-emitting diode, a flexible display, and a three-dimensional display. 3D display, an electrophoretic display.
  • the device 1000 may include two or more display units 1210 according to an implementation form of the device 1000. In this case, the two or more display units 1210 may be disposed to face each other using a hinge.
  • the sound output unit 1220 outputs audio data received from the communication unit 1500 or stored in the memory 1700.
  • the sound output unit 1220 outputs a sound signal related to a function (for example, a call signal reception sound, a message reception sound, and a notification sound) performed by the device 1000.
  • the sound output unit 1220 may include a speaker, a buzzer, and the like.
  • the vibration motor 1230 may output a vibration signal.
  • the vibration motor 1230 may output a vibration signal corresponding to the output of audio data or video data (eg, a call signal reception sound, a message reception sound, etc.).
  • the vibration motor 1230 may output a vibration signal when a touch is input to the touch screen.
  • the controller 1300 generally controls the overall operation of the device 1000.
  • the controller 1300 executes programs stored in the memory 1700, such that the user input unit 1100, the output unit 1200, the sensing unit 1400, the communication unit 1500, and the A / V input unit 1600 are provided. ) Can be controlled overall.
  • the controller 1300 obtains a feature of the user's eyes from the image of the user's eyes, determines the current eye fatigue level of the user based on the acquired eye feature, and the user's current eye fatigue. You can adjust the parallax of 3D video according to the degree.
  • the controller 1300 may adjust the parallax of the 3D video by adjusting the rate of change of parallax between the frames of the 3D video.
  • the controller 1300 determines whether the difference in the parallax between the current frame and the previous frame of the 3D video is greater than or equal to the parallax variation threshold, and when the difference in the parallax is greater than or equal to the parallax variation threshold, the difference in the parallax is parallax variation.
  • the controller 1300 may determine whether the user's current eye fatigue level is greater than or equal to the eye fatigue threshold value, and when the user's current eye fatigue level is greater than or equal to the eye fatigue threshold value, the controller 1300 may adjust the parallax of the 3D video.
  • the controller 1300 may determine whether the parallax of the 3D video is greater than or equal to the threshold when the degree of fatigue of the user is greater than or equal to the eye fatigue threshold.
  • the parallax of the 3D video may be adjusted such that the parallax is within a threshold.
  • controller 1300 may dynamically determine the parallax variation threshold value according to the current eye fatigue level of the user. In addition, the controller 1300 may dynamically determine the parallax parameter threshold according to the current degree of eye fatigue of the user.
  • the controller 1300 may lower the parallax variation threshold or parallax parameter threshold.
  • the controller 1300 may adjust the parallax of the 3D video based on the lowered parallax variation threshold or parallax parameter threshold.
  • the sensing unit 1400 may detect a state of the device 1000 or a state around the device 1000 and transmit the detected information to the controller 1300.
  • the sensing unit 1400 may include a geomagnetic sensor 1410, an acceleration sensor 1420, a temperature / humidity sensor 1430, an infrared sensor 1440, a gyroscope sensor 1450, and a position sensor. (Eg, GPS) 1460, barometric pressure sensor 1470, proximity sensor 1480, and RGB sensor (illuminance sensor) 1490, but are not limited thereto. Since functions of the respective sensors can be intuitively deduced by those skilled in the art from the names, detailed descriptions thereof will be omitted.
  • the communication unit 1500 may include one or more components that allow communication between the device 1000 and another device (not shown) or the device 1000 and a server (not shown).
  • the communicator 1500 may include a short range communicator 1510, a mobile communicator 1520, and a broadcast receiver 1530.
  • the short-range wireless communication unit 1510 includes a Bluetooth communication unit, a Bluetooth low energy (BLE) communication unit, a near field communication unit, a WLAN (Wi-Fi) communication unit, a Zigbee communication unit, an infrared ray ( IrDA (Infrared Data Association) communication unit, WFD (Wi-Fi Direct) communication unit, UWB (ultra wideband) communication unit, Ant + communication unit and the like, but may not be limited thereto.
  • the mobile communication unit 1520 transmits and receives a radio signal with at least one of a base station, an external terminal, and a server on a mobile communication network.
  • the wireless signal may include various types of data according to transmission and reception of a voice call signal, a video call call signal, or a text / multimedia message.
  • the broadcast receiving unit 1530 receives a broadcast signal and / or broadcast related information from the outside through a broadcast channel.
  • the broadcast channel may include a satellite channel and a terrestrial channel. According to an implementation example, the device 1000 may not include the broadcast receiver 1530.
  • the A / V input unit 1600 is for inputting an audio signal or a video signal, and may include a camera 1610 and a microphone 1620.
  • the camera 1610 may obtain an image frame such as a still image or a moving image through an image sensor in a video call mode or a photographing mode.
  • the image captured by the image sensor may be processed by the controller 1300 or a separate image processor (not shown).
  • the image frame processed by the camera 1610 may be stored in the memory 1700 or transmitted to the outside through the communication unit 1500. Two or more cameras 1610 may be provided according to the configuration aspect of the terminal.
  • the microphone 1620 receives an external sound signal and processes the external sound signal into electrical voice data.
  • the microphone 1620 may receive an acoustic signal from an external device or speaker.
  • the microphone 1620 may use various noise removing algorithms for removing noise generated in the process of receiving an external sound signal.
  • the memory 1700 may store a program for processing and controlling the controller 1300, and may store data input to or output from the device 1000.
  • the memory 1700 may include a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory), RAM Random Access Memory (RAM) Static Random Access Memory (SRAM), Read-Only Memory (ROM), Electrically Erasable Programmable Read-Only Memory (EEPROM), Programmable Read-Only Memory (PROM), Magnetic Memory, Magnetic Disk It may include at least one type of storage medium of the optical disk.
  • RAM Random Access Memory
  • SRAM Static Random Access Memory
  • ROM Read-Only Memory
  • EEPROM Electrically Erasable Programmable Read-Only Memory
  • PROM Programmable Read-Only Memory
  • Magnetic Memory Magnetic Disk It may include at least one type of storage medium of the optical disk.
  • Programs stored in the memory 1700 may be classified into a plurality of modules according to their functions.
  • the programs stored in the memory 1700 may be classified into a UI module 1710, a touch screen module 1720, a notification module 1730, and the like. .
  • the UI module 1710 may provide a specialized UI, GUI, or the like that is linked with the device 1000 for each application.
  • the touch screen module 1720 may detect a touch gesture on a user's touch screen and transmit information about the touch gesture to the controller 1300.
  • the touch screen module 1720 according to some embodiments may recognize and analyze a touch code.
  • the touch screen module 1720 may be configured as separate hardware including a controller.
  • Various sensors may be provided inside or near the touch screen to detect a touch or proximity touch of the touch screen.
  • An example of a sensor for sensing a touch of a touch screen is a tactile sensor.
  • the tactile sensor refers to a sensor that senses the contact of a specific object to the extent that a person feels or more.
  • the tactile sensor may sense various information such as the roughness of the contact surface, the rigidity of the contact object, the temperature of the contact point, and the like.
  • an example of a sensor for sensing a touch of a touch screen is a proximity sensor.
  • the proximity sensor refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or an object present in the vicinity without using a mechanical contact by using an electromagnetic force or infrared rays.
  • Examples of the proximity sensor include a transmission photoelectric sensor, a direct reflection photoelectric sensor, a mirror reflection photoelectric sensor, a high frequency oscillation proximity sensor, a capacitive proximity sensor, a magnetic proximity sensor, and an infrared proximity sensor.
  • the user's touch gesture may include tap, touch and hold, double tap, drag, pan, flick, drag and drop, and swipe.
  • the notification module 1730 may generate a signal for notifying occurrence of an event of the device 1000. Examples of events occurring in the device 1000 include call signal reception, message reception, key signal input, and schedule notification.
  • the notification module 1730 may output a notification signal in the form of a video signal through the display unit 1210, may output the notification signal in the form of an audio signal through the sound output unit 1220, and the vibration motor 1230. Through the notification signal may be output in the form of a vibration signal.
  • Computer readable media can be any available media that can be accessed by a computer and includes both volatile and nonvolatile media, removable and non-removable media.
  • Computer readable media may include both computer storage media and communication media.
  • Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data.
  • Communication media typically includes computer readable instructions, data structures, program modules, or other data in a modulated data signal such as a carrier wave, or other transmission mechanism, and includes any information delivery media.
  • any part of the specification is to “include” any component, this means that it may further include other components, except to exclude other components unless otherwise stated.
  • the terms “... unit”, “module”, etc. described in the specification mean a unit for processing at least one function or operation, which may be implemented in hardware or software or a combination of hardware and software. .

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

Disclosed is a device according to one embodiment of the present invention, comprising a camera which captures images of the eyes of a user watching a 3D video, and a control unit which obtains features of the user's eyes from the captured images of the user's eyes, determines the level of fatigue of the user's eyes on the basis of the obtained features of the user's eyes, and adjusts the parallax of the 3D video according to the level of fatigue of the user's eyes.

Description

3D 이미지를 디스플레이하는 방법 및 이를 위한 장치Method for displaying 3D image and apparatus for same
본 개시는 3 차원(Three-dimensional, 3D) 디스플레이 기술, 보다 구체적으로, 3D 디스플레이 효과를 조정하기 위한 디바이스 및 방법과 관련된다. The present disclosure relates to three-dimensional (3D) display technology, and more specifically, to devices and methods for adjusting 3D display effects.
전자 기술 및 3D 디스플레이 기술이 빠르게 발전함 따라, 3D 비디오 재생을 지원하는 다양한 전자 디바이스들이 사용자의 일상 생활에 들어왔다. 이에 따라, 사용자들은 영화관에 가지 않더라도 3D 비디오를 볼 수 있다. 게다가, 3D 비디오의 입체적인 깊이 효과(Stereoscopic depth effect)는 향상된 시각 경험을 제공한다. 현재는, 3D 디스플레이 기술에 대한 연구가 디스플레이 분야에서 연구 트렌드 중 하나가 되었다. With the rapid development of electronic and 3D display technologies, various electronic devices supporting 3D video playback have entered the daily life of users. This allows users to watch 3D video even if they do not go to the cinema. In addition, the stereoscopic depth effect of 3D video provides an enhanced visual experience. Currently, research on 3D display technology has become one of the research trends in the field of display.
3D 디스플레이 기술의 원리는, 오른쪽 눈과 왼쪽 눈 각각에 다소 차이가 있는 두 개의 이미지를 제공함으로써 양안 시차(Binocular parallax)를 형성하여 뇌에 3D 입체 효과를 만들어내는 것이다. 예를 들어, 좌안용 이미지내의 제 1 객체(10)의 위치와 우안용 이미지내의 제 1 객체(20)의 위치는 상이할 수 있다. 명세서 전체에서, 좌안용 이미지는 왼쪽 눈에 제공되는 이미지를 의미하며, 우안용 이미지는 오른쪽 눈에 제공되는 이미지를 의미할 수 있다. The principle of 3D display technology is to create a binocular parallax by providing two images that are slightly different for each of the right and left eyes, creating a 3D stereoscopic effect on the brain. For example, the position of the first object 10 in the left eye image may be different from the position of the first object 20 in the right eye image. Throughout the specification, the left eye image may mean an image provided to the left eye, and the right eye image may mean an image provided to the right eye.
시차(Parallax)는 왼쪽 눈 이미지와 오른쪽 눈 이미지에서의 동일한 객체의 위치 차이를 의미할 수 있다. 즉, 시차는 동일한 객체의 왼쪽 망막상의 위치와 오른쪽 망막상의 위치의 차이를 의미할 수 있다. 예를 들어, 동일한 객체가 왼쪽 눈의 중심와(Fovea)로부터 좌로 4mm 위치에 상이 맺히고, 오른쪽 눈의 중심와로부터 좌로 3mm 위치에 상이 맺히는 경우, 객체의 시차는 1mm일 수 있다. 또한, 시차는 동일한 객체의 좌안용 이미지와 우안용 이미지에서의 위치간의 차이를 의미할 수 있다.Parallax may refer to a difference in position of the same object in the left eye image and the right eye image. That is, parallax may mean a difference between a position on the left retina and a position on the right retina of the same object. For example, when the same object forms an image at a position of 4 mm to the left of the center of the left eye (Fovea) and an image is formed at a position of 3 mm to the left of the center of the right eye, the parallax of the object may be 1 mm. In addition, the parallax may mean a difference between positions in the left eye image and the right eye image of the same object.
디스플레이 화면에 기초한 입체 디스플레이(Stereoscopic display) 시스템에서, 시차가 클수록, 객체의 아웃-오브-스크린 및 인-스크린 효과(out-of-screen and in-screen effect)가 뚜렷해 진다. 아웃-오브-스크린 효과는 객체가 화면 바깥으로 튀어나오는 것처럼 느끼는 입체감을 의미하며, 인-스크린 효과는 객체가 화면 안쪽으로 들어가는 것처럼 느끼는 입체감을 의미할 수 있다. In stereoscopic display systems based on display screens, the greater the parallax, the more pronounced the out-of-screen and in-screen effects of the object are. The out-of-screen effect may refer to a three-dimensional effect that the object feels as if it sticks out of the screen, and the in-screen effect may refer to a three-dimensional feeling that the object feels as if it enters the screen.
구체적으로, 좌안용 이미지 및 우안용 이미지 내의 동일한 객체의 위치의 차이에 따라, 시차는 음의 시차, 양의 시차 및 0의 시차로 구분될 수 있다. Specifically, the parallax may be divided into a negative parallax, a positive parallax, and a zero parallax according to a difference in the position of the same object in the left eye image and the right eye image.
일부 실시예는, 사용자의 눈의 피로 정도에 기초하여 3D 비디오의 시차를 조정하는 장치 및 방법을 제공할 수 있다.Some embodiments may provide an apparatus and method for adjusting the parallax of 3D video based on the degree of eye fatigue of a user.
도 1은, 3D 디스플레이 기술에서, 음의 시차, 양의 시차 및 0의 시차 각각에 대한 예를 도시한다.1 shows an example for each of a negative parallax, a positive parallax and a zero parallax in 3D display technology.
도 2는, 본 개시의 일부 실시예에 따른, 사용자의 현재 눈의 피로 정도에 따라 3D 디스플레이 효과를 조정하는 다이어그램을 도시한다. 2 shows a diagram that adjusts the 3D display effect according to the current degree of fatigue of the user, in accordance with some embodiments of the present disclosure.
도 3은, 본 개시의 일부 실시예에 따른, 디바이스의 블록도를 도시한다. 3 shows a block diagram of a device, in accordance with some embodiments of the present disclosure.
도 4는, 본 개시의 일부 실시예에 따른, 3D 디스플레이 효과를 조정하기 위한 방법을 나타내는 흐름도를 도시한다. 4 shows a flowchart illustrating a method for adjusting a 3D display effect, in accordance with some embodiments of the present disclosure.
도 5는, 본 개시의 다른 일부 실시예에 따른, 3D 디스플레이 효과를 조정하기 위한 방법을 나타내는 흐름도를 도시한다.5 shows a flowchart illustrating a method for adjusting a 3D display effect, in accordance with some other embodiments of the present disclosure.
도 6은, 본 개시의 일부 실시예에 따른, 시차 파라미터를 조절하는 예시를 나타내는 도면이다. 6 is a diagram illustrating an example of adjusting a parallax parameter according to some embodiments of the present disclosure.
도 7은 본 개시의 다른 일부 실시예에 따른 3D 디스플레이 효과를 조정하기 위한 방법을 나타내는 흐름도를 도시한다. 7 shows a flowchart illustrating a method for adjusting a 3D display effect according to some other embodiments of the present disclosure.
도 8은, 본 개시의 다른 실시예에 따른, 시차 파라미터를 조절하는 예시를 나타내는 도면이다. 8 is a diagram illustrating an example of adjusting a parallax parameter according to another embodiment of the present disclosure.
도 9는 본 개시의 일부 실시예에 따른, 장면이 변경될 때, 인체의 눈의 포커싱 특징에 기초하여 시차 파라미터를 조정하는 예시를 도시한다.9 illustrates an example of adjusting parallax parameters based on a focusing feature of the eye of the human body when the scene changes, in accordance with some embodiments of the present disclosure.
도 10은, 본 개시의 다른 일부 실시예에 따른, 3D 디스플레이 효과를 조정하기 위한 방법을 나타내는 흐름도를 도시한다.10 shows a flowchart illustrating a method for adjusting 3D display effects, in accordance with some other embodiments of the present disclosure.
도 11은 본 개시의 일부 실시예에 따른, 3D 디스플레이 효과를 조정하기 위한 사용자 인터페이스의 예시를 도시한 도면이다. 11 illustrates an example of a user interface for adjusting 3D display effects, in accordance with some embodiments of the present disclosure.
도 12는 본 개시의 일부 실시예에 따른, 디바이스의 블럭도를 도시한 도면이다. 12 is a block diagram of a device, in accordance with some embodiments of the present disclosure.
도 13는 본 개시의 다른 일부 실시예에 따른, 디바이스의 블럭도를 도시한 도면이다. 13 is a block diagram of a device, according to some other embodiments of the present disclosure.
상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 개시의 제 1 측면은, 3D 비디오를 시청하는 사용자의 눈을 촬영하는 카메라, 및 촬영된 사용자의 눈의 이미지로부터 사용자의 눈의 특징을 획득하고, 획득된 눈의 특징에 기초하여 사용자의 눈의 피로 정도를 결정하고, 사용자의 눈의 피로 정도에 따라 3D 비디오의 시차를 조정하는 제어부를 포함하는, 디바이스를 제공할 수 있다.As a technical means for achieving the above-described technical problem, a first aspect of the present disclosure is to obtain a feature of the user's eyes from the camera for photographing the eyes of the user watching the 3D video, and the image of the user's eyes taken The device may include a controller configured to determine a degree of eye fatigue of the user based on the acquired eye characteristics, and to adjust a parallax of the 3D video according to the degree of eye fatigue of the user.
또한, 제어부는, 3D 비디오의 좌안용 이미지와 우안용 이미지간의 평균 시차, 음의 시차의 최대값, 양의 시차의 최대값 및 음의 시차의 최대값과 양의 시차의 최대값의 차이인 시차 범위 중 적어도 하나를 조정함으로써 3D 비디오의 시차를 조정할 수 있다. Further, the control unit is a parallax that is the difference between the average parallax between the left-eye image and the right-eye image of the 3D video, the maximum value of the negative parallax, the maximum value of the positive parallax, and the maximum value of the negative parallax and the maximum value of the positive parallax By adjusting at least one of the ranges, the parallax of the 3D video can be adjusted.
또한, 사용자의 눈의 특징은, 깜빡임 주파수, 눈 감음 시간, 양안 초점의 변화 및 양안 수렴 각도 중 적어도 하나를 포함할 수 있다.The eye feature of the user may include at least one of a blinking frequency, eye closing time, a change in binocular focus, and a binocular convergence angle.
또한, 제어부는, 결정된 눈의 피로 정도가 제 1 임계값 이상인 경우, 3D 비디오의 시차를 조정할 수 있다.The controller may adjust the parallax of the 3D video when the determined degree of eye fatigue is greater than or equal to the first threshold.
또한, 제어부는, 3D 비디오의 시차가 제 2 임계값 이상인지 여부를 결정하고, 3D 비디오의 시차가 제 2 임계값 이상인 경우, 3D 비디오의 시차가 제 2 임계값 미만이 되도록 3D 비디오의 시차를 조정할 수 있다.The controller may determine whether or not the parallax of the 3D video is greater than or equal to the second threshold value, and if the parallax of the 3D video is greater than or equal to the second threshold value, the controller controls the parallax of the 3D video to be less than the second threshold value. I can adjust it.
또한, 제어부는, 3D 비디오의 프레임간의 시차의 변화율을 조정함으로써, 3D 비디오의 시차를 조정할 수 있다.The controller may adjust the parallax of the 3D video by adjusting the rate of change of parallax between the frames of the 3D video.
또한, 제어부는, 3D 비디오의 제 n번째 프레임과 제 n-1번째 프레임간의 시차의 차이를 결정하고, 시차의 차이가 제 3 임계값 이상인 경우, 시차의 차이가 제 3 임계값 미만이 되도록, 제 n번째 프레임의 시차를 조정함으로써, 3D 비디오의 프레임간의 시차의 변화율을 조정할 수 있다. The controller may determine a difference in parallax between the nth frame and the n-1th frame of the 3D video, and, if the difference in parallax is greater than or equal to the third threshold, such that the difference in parallax becomes less than the third threshold, By adjusting the parallax of the nth frame, the rate of change of parallax between the frames of the 3D video can be adjusted.
또한, 제어부는, 시차의 차이가 제 3 임계값 미만이 되도록, 제 n번째 프레임의 시차를 증가시킴으로써, 3D 비디오의 프레임간의 시차의 변화율을 조정할 수 있다.In addition, the controller may adjust the rate of change of parallax between frames of the 3D video by increasing the parallax of the nth frame so that the parallax difference is less than the third threshold.
또한, 디바이스는, 출력부를 더 포함하고, 제어부는, 사용자에게 시차가 조정된 3D 비디오를 출력하도록 출력부를 제어할 수 있다.The device may further include an output unit, and the controller may control the output unit to output the 3D video whose parallax is adjusted to the user.
또한, 디바이스는, 출력부 상에, 3D 비디오의 시차가 조정되었음을 알리는 알림창을 디스플레이할 수 있다.In addition, the device may display, on the output unit, a notification window indicating that the parallax of the 3D video has been adjusted.
또한, 본 개시의 제 2 측면은, 3D 비디오를 시청하는 사용자의 눈을 촬영하는 단계, 촬영된 사용자의 눈의 이미지로부터 사용자의 눈의 특징을 획득하는 단계, 획득된 눈의 특징에 기초하여 사용자의 눈의 피로 정도를 결정하는 단계, 및 사용자의 눈의 피로 정도에 따라 3D 비디오의 시차를 조정하는 단계를 포함하는, 3D 디스플레이 효과를 조정하는 방법을 제공할 수 있다. Further, a second aspect of the present disclosure provides a method of photographing a user's eye watching a 3D video, acquiring a feature of the user's eye from an image of the captured user's eye, and based on the acquired eye feature. Determining a degree of fatigue of an eye, and adjusting the parallax of the 3D video according to the degree of fatigue of the user's eye.
또한, 사용자의 눈의 피로 정도에 따라 3D 비디오의 시차를 조정하는 단계는, 3D 비디오의 좌안용 이미지와 우안용 이미지간의 평균 시차, 음의 시차의 최대값, 양의 시차의 최대값 및 음의 시차의 최대값과 양의 시차의 최대값의 차이인 시차 범위 중 적어도 하나를 조정하는 단계를 포함할 수 있다.In addition, the step of adjusting the parallax of the 3D video according to the degree of fatigue of the user, the average parallax between the left-eye image and the right-eye image of the 3D video, the maximum value of the negative parallax, the maximum value of the positive parallax and negative And adjusting at least one of a parallax range that is a difference between the maximum value of the parallax and the maximum value of the positive parallax.
또한, 사용자의 눈의 피로 정도에 따라 3D 비디오의 시차를 조정하는 단계는, 결정된 사용자의 눈의 피로 정도가 제 1 임계값 이상인 경우, 3D 비디오의 시차를 조정하는 단계를 포함할 수 있다.In addition, adjusting the parallax of the 3D video according to the degree of fatigue of the user may include adjusting the parallax of the 3D video when the determined degree of fatigue of the user is greater than or equal to a first threshold.
또한, 사용자의 눈의 피로 정도에 따라 3D 비디오의 시차를 조정하는 단계는, 3D 비디오의 시차가 제 2 임계값 이상인지 여부를 결정하고, 3D 비디오의 시차가 제 2 임계값 이상인 경우, 3D 비디오의 시차가 제 2 임계값 미만이 되도록 3D 비디오의 시차를 조정하는 단계를 포함할 수 있다. In addition, the step of adjusting the parallax of the 3D video according to the degree of fatigue of the user, determines whether the parallax of the 3D video is greater than or equal to the second threshold, and if the parallax of the 3D video is greater than or equal to the second threshold, the 3D video Adjusting the parallax of the 3D video such that the parallax of is less than the second threshold.
또한, 사용자의 눈의 피로 정도에 따라 3D 비디오의 시차를 조정하는 단계는, 3D 비디오의 프레임간의 시차의 변화율을 조정함으로써, 3D 비디오의 시차를 조정하는 단계를 포함할 수 있다. In addition, adjusting the parallax of the 3D video according to the degree of fatigue of the user may include adjusting the parallax of the 3D video by adjusting a rate of change of parallax between frames of the 3D video.
또한, 3D 비디오의 프레임간의 시차의 변화율을 조정함으로써, 3D 비디오의 시차를 조정하는 단계는, 3D 비디오의 제 n번째 프레임과 제 n-1번째 프레임간의 시차의 차이를 결정하고, 시차의 차이가 제 3 임계값 이상인 경우, 시차의 차이가 제 3 임계값 미만이 되도록, 제 n번째 프레임의 시차를 조정함으로써, 3D 비디오의 프레임간의 시차의 변화율을 조정하는 단계를 포함할 수 있다. In addition, by adjusting the rate of change of parallax between frames of the 3D video, adjusting the parallax of the 3D video includes determining a difference in parallax between the nth frame and the n-1th frame of the 3D video, And adjusting the disparity of the n-th frame to adjust the rate of change of the parallax between frames of the 3D video so that if the difference is greater than or equal to the third threshold, the disparity is less than the third threshold.
또한, 시차의 차이가 제 3 임계값 미만이 되도록, 제 n번째 프레임의 시차를 조정하는 단계는, 시차의 차이가 제 3 임계값 미만이 되도록, 제 n번째 프레임의 시차를 증가시킴으로써, 3D 비디오의 프레임간의 시차의 변화율을 조정하는 단계를 포함할 수 있다.In addition, adjusting the parallax of the nth frame such that the difference in parallax is less than the third threshold increases the parallax of the nth frame so that the parallax difference is less than the third threshold, thereby increasing the 3D video. And adjusting the rate of change of parallax between frames.
또한, 3D 디스플레이 효과를 조정하는 방법은, 시차가 조정된 3D 비디오를 사용자에게 출력하는 단계를 더 포함할 수 있다. The method of adjusting the 3D display effect may further include outputting the parallax adjusted 3D video to the user.
또한, 3D 디스플레이 효과를 조정하는 방법은, 3D 비디오의 시차가 조정되었음을 알리는 알림창을 디스플레이하는 단계를 더 포함할 수 있다.Also, the method of adjusting the 3D display effect may further include displaying a notification window indicating that the parallax of the 3D video has been adjusted.
본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다. Terms used herein will be briefly described and the present invention will be described in detail.
본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다. The terms used in the present invention have been selected as widely used general terms as possible in consideration of the functions in the present invention, but this may vary according to the intention or precedent of the person skilled in the art, the emergence of new technologies and the like. In addition, in certain cases, there is also a term arbitrarily selected by the applicant, in which case the meaning will be described in detail in the description of the invention. Therefore, the terms used in the present invention should be defined based on the meanings of the terms and the contents throughout the present invention, rather than the names of the simple terms.
명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에 기재된 "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.When any part of the specification is to "include" any component, this means that it may further include other components, except to exclude other components unless otherwise stated. In addition, the terms "... unit", "module", etc. described in the specification mean a unit for processing at least one function or operation, which may be implemented in hardware or software or a combination of hardware and software. .
아래에서는 첨부한 도면을 참고하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.DETAILED DESCRIPTION Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art may easily implement the present invention. As those skilled in the art would realize, the described embodiments may be modified in various different ways, all without departing from the spirit or scope of the present invention. In the drawings, parts irrelevant to the description are omitted in order to clearly describe the present invention, and like reference numerals designate like parts throughout the specification.
관련 분야에서, 시차를 줄임으로써 사용자의 눈의 편안함 수준을 향상시키는 방법은, 3D 비디오를 시청할 때, 편안함 수준을 향상시키면서 만족스러운 3D 입체 디스플레이 효과를 야기하는 반면, 이미지의 효과가 2D 디스플레이와 비슷해질 수 있다. In related fields, a method of improving the comfort level of a user's eyes by reducing parallax produces a satisfactory 3D stereoscopic display effect while enhancing the comfort level when watching 3D video, while the effect of the image is similar to that of a 2D display. Can be done.
이를 위해, 본 개시의 일부 실시예에 따르면, 3D 비디오를 시청할 때, 편안함 수준을 향상시키기 위하여, 3D 비디오의 시차 파라미터가 사용자의 눈의 피로 정도에 기초하여 조정될 수 있다. 3D 비디오의 시차 파라미터를 사용자의 눈의 피로 정도에 기초하여 조정함으로써, 사용자의 눈 피로를 감소시키면서, 3D 비디오의 입체 디스플레이 효과를 극대화할 수 있다. To this end, in accordance with some embodiments of the present disclosure, when viewing 3D video, the parallax parameters of the 3D video may be adjusted based on the degree of fatigue of the user's eyes in order to improve the level of comfort. By adjusting the parallax parameter of the 3D video based on the degree of eye fatigue of the user, it is possible to maximize the stereoscopic display effect of the 3D video while reducing the eye fatigue of the user.
도 1은, 3D 디스플레이 기술에서, 음의 시차, 양의 시차 및 0의 시차 각각에 대한 예를 도시한다. 도 1 (a)에 도시된 바와 같이, 객체(40)는 음의 시차를 가질 수 있으며, 음의 시차를 갖는 객체(40)는 스크린의 앞에 위치하는 것처럼 느껴질 수 있다. 도 1의 (b)에 도시된 바와 같이, 객체(40)는 양의 시차를 가질 수 있으며, 양의 시차를 갖는 객체(40)는 스크린의 뒤에 위치하는 것처럼 느껴질 수 있다. 도 1의 (c)에 도시된 바와 같이, 객체(40)는 0의 시차를 가질 수 있으며, 0의 시차를 갖는 객체(40)는 스크린 상에 디스플레이된 것처럼, 즉, 이미지로부터 어떠한 지각할 수 있는 깊이 효과 없이, 객체(40)가 전형적인 2D 디스플레이 효과로써 디스플레이되는 것처럼 느껴질 수 있다. 일반적으로, 양의 시차와 비교하여, 음의 시차는 보다 분명한 입체 효과를 제공할 수 있다. 양의 시차 또는 음의 시차의 경우에, 보다 큰 시차값에 따른 입체 효과가, 보다 작은 시차값에 따른 입체 효과 보다 뚜렷이 나타날 수 있다. 1 shows an example for each of a negative parallax, a positive parallax and a zero parallax in 3D display technology. As shown in FIG. 1A, the object 40 may have a negative parallax, and the object 40 having a negative parallax may feel as if it is located in front of the screen. As shown in FIG. 1B, the object 40 may have positive parallax, and the object 40 having positive parallax may feel as if it is located behind the screen. As shown in FIG. 1C, the object 40 may have a parallax of zero, and the object 40 having a parallax of zero may be perceived as being displayed on the screen, that is, any perception from the image. Without the depth effect present, it may feel as if the object 40 is displayed as a typical 2D display effect. In general, compared with positive parallax, negative parallax can provide a more pronounced stereoscopic effect. In the case of positive parallax or negative parallax, a stereo effect with a larger parallax value may appear more pronounced than a stereo effect with a smaller parallax value.
시차가 클수록, 사용자가 느낄 수 있는 깊이 지각은 보다 강할 수 있으나, 시차가 클수록, 사용자의 불편함 및 눈의 피로를 야기하기 때문에, 사용자의 눈에 부담을 가중시키기 쉽다. 파늄의 법칙(Panum’s law)에 따르면, 사용자의 눈은 시차가 있는 두 개의 이미지를 하나의 이미지로 병합(Merge)하는 것에 제한된 능력을 갖는다. 즉, 시차가 어떠한 값보다 클 때, 사용자는 하나의 이미지가 아닌 두 개의 이미지를 볼 수 있다. 다른 측면에서, 객체를 볼 때, 사용자가 두 눈에 의해 보여지는 다른 이미지들을, 뇌의 퓨젼 기능(Fusion function)을 통해 하나의 입체 이미지로 결합하도록 두 눈은 객체에 집중해야만 한다. 두 눈에서부터 초첨(Focus point, 30)까지의 시선(Line of sight)들 간에 형성된 각도는 수렴 각도(Convergence angle)로서 언급될 수 있다. The larger the parallax, the deeper perception the user can feel, but the greater the parallax, the greater the discomfort and eye fatigue of the user, which is likely to increase the burden on the user's eyes. According to Panum's law, the user's eyes have a limited ability to merge two parallax images into a single image. That is, when the parallax is greater than any value, the user can see two images instead of one image. In another aspect, when viewing an object, both eyes must focus on the object so that the user combines the different images seen by both eyes into one stereoscopic image through the Fusion function of the brain. The angle formed between the lines of sight from the two eyes to the focus point 30 may be referred to as a convergence angle.
도 1의 (a) 및 (b)에 도시된 바와 같이, 도 1의 (a)에 도시된 음의 시차를 갖는 객체(40)는 도 1의 (b)에 도시된 양의 시차를 갖는 객체(40)와 비교하여, 보다 큰 수렴 각도를 갖는다. 생리학에서, 큰 수렴 각도를 갖는 객체를 볼 때(즉, 가까운 거리에 있는 객체를 볼 때) 눈의 피로가 야기되기 쉽다. 이에 따라, 양의 시차를 갖는 객체와 비교하여, 음의 시차를 갖는 객체는 향상된 입체 효과를 갖지만, 보다 쉽게 눈의 피로를 야기할 수 있다. As shown in (a) and (b) of FIG. 1, the object 40 having a negative parallax shown in (a) of FIG. 1 is an object having a positive parallax shown in (b) of FIG. Compared with 40, it has a larger convergence angle. In physiology, eye fatigue is likely to occur when looking at objects with large convergence angles (ie when looking at objects at close range). Thus, compared with objects with positive parallax, objects with negative parallax have an improved stereoscopic effect, but can more easily cause eye fatigue.
일반적으로, 관련 분야에서, 입체 비디오에서 객체의 시차를 줄이는 프로세싱 기술은 양의 시차 및 음의 시차 모두가 어떠한 범위 내로 제한되도록 설계된다. 감소된 시차는, 보다 작은 수렴 각도를 형성하기 위해서, 0의 시차와 보다 가까워진 것을 의미할 수 있으며, 이미지의 효과가 2D 재생에 더 가깝게 느끼도록 할 수 있다. 이에 따라, 눈의 편안함 수준(Comfort level)이 향상되는 반면, 이미지의 3D 입체 디스플레이 효과는 희생될 수 있다. 이미지의 3D 입체 디스플레이 효과의 감소는 이미지의 효과가 2D 재생에 더 가깝게 느끼도록 할 수 있다. 이러한 이유 때문에, 시차를 줄임으로써 입체 시청의 편안함 수준(Stereoscopic viewing comfort)을 향상시키는 경우에는, 사용자의 입체감은 현저히 감소될 수 있다. In general, in the related art, processing techniques for reducing parallax of an object in stereoscopic video are designed such that both positive parallax and negative parallax are limited to some extent. Reduced parallax may mean closer to zero parallax to form a smaller convergence angle, and may make the effect of the image feel closer to 2D reproduction. Accordingly, the comfort level of the eye is improved while the 3D stereoscopic display effect of the image can be sacrificed. Reduction of the 3D stereoscopic display effect of an image may make the effect of the image feel closer to 2D reproduction. For this reason, when improving stereoscopic viewing comfort by reducing parallax, the stereoscopic feeling of the user can be significantly reduced.
또한, 어떠한 범위 내의 큰 시차 또는 큰 수렴 각도는 눈의 피로 및 편안함 수준에 즉각적인 영향을 미치지 않을 수 있다. 비슷하게, 사용자는 책 또는 컴퓨터 디스플레이를 오랜 시간 본 후에만 눈의 불편함을 느낄 수 있다. 따라서, 동일한 시차의 3D 재생이라도, 시청 시간 또는 사용자의 눈의 상태에 따라 피로감을 느끼는 정도가 다를 수 있다. In addition, large parallax or large convergence angles within any range may not immediately affect eye fatigue and comfort levels. Similarly, a user may feel eye discomfort only after viewing a book or computer display for a long time. Therefore, even in the same parallax 3D reproduction, the degree of feeling of fatigue may vary depending on the viewing time or the state of the eyes of the user.
결론적으로, 3D 입체 디스플레이 효과를 조정하기 위한 현존하는 방법에서, 사용자의 눈의 건강한 사용을 보장하는 동시에 3D 비디오의 입체 디스플레이 효과를 보장하기 어렵다. In conclusion, in existing methods for adjusting the 3D stereoscopic display effect, it is difficult to ensure the stereoscopic display effect of the 3D video while ensuring the healthy use of the user's eyes.
도 2는, 본 개시의 일부 실시예에 따른, 사용자의 현재 눈의 피로 정도에 따라 3D 디스플레이 효과를 조정하는 다이어그램을 도시한다. 2 shows a diagram that adjusts the 3D display effect according to the current degree of fatigue of the user, in accordance with some embodiments of the present disclosure.
도 2에 도시된 바와 같이, 예로써, 3D 비디오(230)가 사용자에 의해 시청될 때, 사용자의 눈 이미지(220)를 파싱(Parsing)하기 위해서, 사용자의 머리 이미지가 이미지 촬영 디바이스(210, 예를 들어, 카메라)에 의해 촬영될 수 있으며, 컴퓨터 비젼(Computer vision) 라이브러리(예를 들어, Opencv library)에 기초하여 얼굴 인식이 수행될 수 있다. 또한, 사용자의 눈 이미지(220)로부터 사용자의 눈의 특징이 획득될 수 있다. 눈의 특징이 획득된 후에, 획득된 눈의 특징에 기초하여, 사용자의 현재 눈의 피로 정도가 결정될 수 있으며, 사용자의 현재 눈의 피로 정도에 기초하여, 3D 비디오(230)의 시차 파라미터가 조정될 수 있다. 이에 따라, 3D 비디오(230)를 시청할 때 편안함 수준이 향상될 수 있다. 이러한 방식으로, 3D 디스플레이 효과는 사용자의 현재 눈의 피로 정도에 기초하여, 자동으로 조정될 수 있다. 그러므로, 3D 디스플레이 효과를 보장하는 동시에, 3D 비디오(230)를 시청할 때 야기되는 사용자의 눈의 불편함은 효과적으로 감소될 수 있다. As shown in FIG. 2, for example, when the 3D video 230 is viewed by the user, the user's head image is captured by the image capturing device 210 to parse the eye image 220 of the user. For example, it may be photographed by a camera, and face recognition may be performed based on a computer vision library (eg, Opencv library). Also, a feature of the eye of the user may be obtained from the eye image 220 of the user. After the eye feature is obtained, based on the acquired eye feature, the degree of fatigue of the user's current eye may be determined, and based on the current degree of fatigue of the user, the parallax parameter of the 3D video 230 may be adjusted. Can be. Accordingly, the level of comfort may be improved when watching the 3D video 230. In this way, the 3D display effect can be automatically adjusted based on the current degree of eye fatigue of the user. Therefore, while ensuring the 3D display effect, the inconvenience of the user's eyes caused when watching the 3D video 230 can be effectively reduced.
도 3은, 본 개시의 일부 실시예에 따른, 디바이스(1000)의 블록도를 도시한다. 3 illustrates a block diagram of a device 1000, in accordance with some embodiments of the present disclosure.
도 3에 따르면, 디바이스(1000)는, 눈 특징 획득부(60), 눈 피로 정도 결정부(70) 및 시차 조정부(80)를 포함할 수 있다. 디바이스(1000)의 구성들은 특정한 기능을 수행하기 위한 이미지 센서, DSP(Digital Signal Processor) and FPGA(Field Programmable Gate Array)과 같은 일반적인 목적의 하드웨어 프로세서, 또는 전용 칩(Dedicated chip)과 같은 특별한 목적의 하드웨어 프로세서에 의해 구현되거나, 디바이스(1000)에 설치된 3D 디스플레이 효과를 조정하기 위한 어플리케이션 내의 개별적인 모듈들과 같은 컴퓨터 프로그램을 통해 완전히 소프트웨어로써 구현될 수도 있다. According to FIG. 3, the device 1000 may include an eye feature acquirer 60, an eye fatigue degree determiner 70, and a parallax adjuster 80. Configurations of the device 1000 may include general purpose hardware processors such as image sensors, digital signal processors (DSPs) and field programmable gate arrays (FPGAs), or special purpose chips such as dedicated chips to perform specific functions. It may be implemented by a hardware processor or entirely in software through computer programs such as individual modules in an application for adjusting the 3D display effect installed in the device 1000.
또한, 눈 특징 획득부(60), 눈 피로 정도 결정부(70) 및 시차 조정부(80)는 컴퓨터 프로그램과 같은 소프트웨어가 하드웨어에 의해 실행됨으로써 구현될 수도 있다. 이 경우, 눈 특징 획득부(60), 눈 피로 정도 결정부(70) 및 시차 조정부(80)는 하나의 제어부(미도시)로 구현될 수 있다. 또한, 눈 특징 획득부(60) 및 눈 피로 정도 결정부(70)는 하나의 제어부(미도시)로 구현되고, 시차 조정부(80)는 별도의 이미지 처리부(미도시)로 구현될 수도 있다. 앞서 기술된 디바이스(1000)에서, 눈 특징 획득부(60)는 사용자가 3D 비디오를 시청할 때, 사용자의 눈의 특징을 획득하기 위해 사용된다. Also, the eye feature acquisition unit 60, the eye fatigue degree determination unit 70, and the parallax adjustment unit 80 may be implemented by executing software such as a computer program by hardware. In this case, the eye feature acquisition unit 60, the eye fatigue degree determination unit 70, and the parallax adjustment unit 80 may be implemented as one controller (not shown). In addition, the eye feature acquirer 60 and the eye fatigue degree determiner 70 may be implemented as one controller (not shown), and the parallax adjusting unit 80 may be implemented as a separate image processor (not shown). In the device 1000 described above, the eye feature acquisition unit 60 is used to acquire the eye feature of the user when the user watches the 3D video.
구체적으로, 눈 특징 획득부(60)는 사용자가 3D 비디오를 시청할 때, 이미지 촬영 디바이스를 제어하여 사용자의 머리 이미지를 촬영할 수 있으며, 사용자의 머리 이미지가 획득된 후에, 인식된 얼굴 영역으로부터 사용자의 눈 이미지를 파싱하기 위해서 컴퓨터 비젼 라이브러리에 기초하여 사용자의 머리 이미지로부터 얼굴 인식을 수행할 수 있다. 또한, 눈 특징 획득부(60)는 획득된 눈 이미지로부터 사용자의 눈의 특징을 추출할 수 있다. In detail, when the user watches a 3D video, the eye feature acquirer 60 may control the image capturing device to capture the user's head image. After the user's head image is obtained, the eye feature acquirer 60 may detect the user's head from the recognized face area. Face recognition may be performed from the user's head image based on a computer vision library to parse the eye image. In addition, the eye feature acquirer 60 may extract a feature of the eye of the user from the acquired eye image.
예로써, 눈 특징 획득부(60)는, 사용자가 3D 비디오를 시청할 때 촬영된 사용자의 눈 이미지로부터, 눈의 특징으로써 깜빡임 주파수(Blinking frequency), 눈 감음 시간(eye-closed time), 양안 초점(Binocular focus points)의 변화 및 양안 수렴 각도 중 적어도 하나를 추출할 수 있다. For example, the eye feature acquirer 60 may include blinking frequency, eye-closed time, and binocular focus as eye features from an eye image of the user photographed when the user watches a 3D video. At least one of the change in the binocular focus points and the binocular convergence angle may be extracted.
눈 피로 정도 결정부(70)는 획득된 눈의 특징에 따라 사용자의 현재 눈의 피로 정도를 결정할 수 있다. 예로써, 눈의 피로 정도는, 동적으로 결정된 눈의 특징에 기초하여 사용자의 현재 눈의 피로 정도를 나타내는 값일 수 있다. The eye fatigue degree determiner 70 may determine the degree of fatigue of the current eye of the user according to the acquired eye characteristics. For example, the degree of eye fatigue may be a value indicating a degree of fatigue of a current eye of a user based on a dynamically determined eye characteristic.
예를 들어, 눈 피로 정도 결정부(70)는 단위 시간당 눈을 깜빡이는 횟수가 증가할수록 사용자의 눈의 피로 정도가 큰 것으로 결정할 수 있다. For example, the eye fatigue degree determining unit 70 may determine that the eye fatigue of the user is greater as the number of times of blinking of the eyes per unit time increases.
또한, 예를 들어, 눈 피로 정도 결정부(70)는 사용자가 눈을 감고 있는 시간이 증가할 경우 눈의 피로 정보가 큰 것으로 결정할 수 있다. Also, for example, the eye fatigue degree determiner 70 may determine that eye fatigue information is large when the user's closing time increases.
또한, 예를 들어, 눈 특징 획득부(60)에 의해 획득된 눈의 특징이 사용자의 양안 초점의 변화일 경우, 눈 피로 정도 결정부(70)는 사용자의 양안 초점의 변화에 기초하여, 사용자의 현재 눈의 피로 정도를 나타내는 값을 종합적으로 분석할 수 있다. 예를 들어, 단위 시간당 양안 초점의 변화가 빈번할수록 사용자의 눈의 피로 정도가 큰 것으로 결정할 수 있다. In addition, for example, when the eye feature acquired by the eye feature acquisition unit 60 is a change in the binocular focus of the user, the eye fatigue degree determining unit 70 is based on the change in the binocular focus of the user, Can be used to comprehensively analyze the current eye fatigue. For example, it may be determined that the more frequent the change of binocular focus per unit time, the greater the degree of eye fatigue of the user.
또한, 예를 들어, 눈 피로 정도 결정부(70)는 양안 수렴 각도가 임계값 이상일 때, 양안 수렴 각도가 커질 수록 사용자의 눈의 피로 정도가 큰 것으로 결정할 수 있다. For example, when the binocular convergence angle is greater than or equal to the threshold, the eye fatigue degree determining unit 70 may determine that the eye fatigue of the user is greater as the binocular convergence angle becomes larger.
시차 조정부(80)는 사용자의 현재 눈의 피로 정도에 따라 3D 비디오의 시차 파라미터를 조정할 수 있다. 시차 파라미터는 3 비디오의 좌안용 이미지 및 우안용 이미지간의 각각의 픽셀 쌍의 평균 시차, 음의 시차의 최대값, 양의 시차의 최대값 또는 시차 범위를 의미할 수 있다. 앞서 설명한 바와 같이, 시차는 좌안용 이미지 및 우안용 이미지 내의 동일한 객체의 위치간의 차이를 의미할 수 있다. The parallax adjustment unit 80 may adjust the parallax parameter of the 3D video according to the current degree of eye fatigue of the user. The parallax parameter may mean an average parallax, a maximum value of a negative parallax, a maximum value of a positive parallax, or a parallax range of each pixel pair between a left eye image and a right eye image of three videos. As described above, the parallax may mean a difference between positions of the same object in the left eye image and the right eye image.
이에 따라, 3D 비디오의 시차 파라미터를 획득하기 위하여, 좌안용 이미지 내의 각각의 픽셀에 대응되는 우안용 이미지 내의 픽셀 즉, 좌안용 이미지 내의 각각의 픽셀에 매칭되는 우안용 이미지 내의 픽셀이 검출되고, 매칭되는 픽셀들간의 시차(즉, 변위의 차이)가 획득되는 이미지 매칭 방법이 실행될 수 있다. 좌안용 이미지 내의 픽셀 및 좌안용 이미지 내의 픽셀에 대응되는 우안용 이미지 내의 픽셀은, 동일한 객체 내의 하나의 지점을 나타내는 좌안용 이미지 내의 픽셀 및 우안용 이미지 내의 픽셀을 의미할 수 있다. Accordingly, in order to obtain a parallax parameter of the 3D video, a pixel in the right eye image corresponding to each pixel in the left eye image, that is, a pixel in the right eye image matching each pixel in the left eye image, is detected and matched. An image matching method may be performed in which a parallax (ie, a difference in displacement) between pixels to be obtained is obtained. Pixels in the right-eye image corresponding to pixels in the left-eye image and pixels in the left-eye image may mean pixels in the left-eye image and pixels in the right-eye image representing one point in the same object.
3D 비디오에서 각각의 픽셀의 시차가 획득됨에 따라, 3D 비디오의 평균 시차, 또는 최대 시차와 최소 시차로 구성되는 시차 범위가 획득될 수 있다. 평균 시차 또는 시차 범위를 조정함으로써, 사용자의 눈의 피로는 감소될 수 있다. 평균 시차는, 하나의 프레임에서, 매칭되는 픽셀들간의 시차의 평균을 의미할 수 있으며, 시차 범위는 하나의 프레임에서, 매칭되는 픽셀들간의 시차 중 양의 시차의 최대값과 음의 시차의 최대값 간의 차이를 의미할 수 있다. As the parallax of each pixel in the 3D video is obtained, an average parallax or a parallax range consisting of a maximum parallax and a minimum parallax may be obtained. By adjusting the average parallax or parallax range, the eye fatigue of the user can be reduced. The average parallax may mean an average of parallaxes between matching pixels in one frame, and the parallax range may be a maximum of positive parallaxes and a maximum of negative parallaxes among parallaxes between matching pixels in one frame. It can mean the difference between the values.
구체적으로, 사용자의 현재 눈의 피로 정도가 눈 피로 정도 결정부(70)에 의해 결정된 후에, 시차 조정부(80)는 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상인지 여부를 결정할 수 있다. 눈 피로 임계값은 사용자가 눈이 피곤하다고 느끼는지 여부를 결정하기 위해 사용되는 기 설정된 임계값일 수 있다. 예로써, 사용자의 현재 눈의 피로 정도를 눈 피로 임계값과 비교함으로써, 3D 디스플레이 효과가 조정되어야 하는지 여부가 결정될 수 있다. 예를 들어, 시차 조정부(80)는 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 미만일 때, 3D 비디오의 시차 파라미터를 조정하지 않을 수 있다.In detail, after the user's current eye fatigue degree is determined by the eye fatigue degree determining unit 70, the parallax adjusting unit 80 may determine whether the user's current eye fatigue degree is greater than or equal to an eye fatigue threshold. The eye fatigue threshold may be a preset threshold used to determine whether the user feels tired. By way of example, by comparing the current eye fatigue level of the user with an eye fatigue threshold, it may be determined whether the 3D display effect should be adjusted. For example, the parallax adjustment unit 80 may not adjust the parallax parameter of the 3D video when the user's current eye fatigue is less than the eye fatigue threshold.
반면, 시차 조정부(80)는 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상일 때, 적절한 방법으로 3D 비디오의 시차 파라미터를 조정할 수 있다. 예로써, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상인 경우, 시차 조정부(80)는 3D 비디오의 시차 파라미터가 시차 파라미터 임계값(Threshold) 이상인지 여부를 결정하고, 3D 비디오의 시차 파라미터가 시차 파라미터 임계값 이상일 때, 3D 비디오의 시차 파라미터가 시차 파라미터 임계값 이내 이도록 3D 비디오의 시차 파라미터를 조정할 수 있다. 시차 파라미터 임계값은 미리 결정될 수 있으며, 사용자의 현재 눈의 피로 정도에 따라 동적으로 결정될 수도 있다. On the other hand, the parallax adjustment unit 80 may adjust the parallax parameter of the 3D video in an appropriate manner when the user's current eye fatigue is more than the eye fatigue threshold. For example, when the current eye fatigue level of the user is greater than or equal to the eye fatigue threshold, the parallax adjusting unit 80 determines whether or not the parallax parameter of the 3D video is greater than or equal to the parallax parameter threshold, and the parallax parameter of the 3D video is determined. When more than the parallax parameter threshold, the parallax parameter of the 3D video may be adjusted such that the parallax parameter of the 3D video is within the parallax parameter threshold. The parallax parameter threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user.
예를 들어, 시차 파라미터 임계값은 미리 결정된 평균 시차, 시차 범위 또는 고유의 평균 시차 일 수 있으며, 또는 사용자의 현재 눈의 피로 정도에 대응하는 시차 범위일 수 있다. 구체적으로, 적절한 시차 파라미터 조정 함수 는 기 설정된 조건에 따라 선택될 수 있으며, 시차 파라미터는 시차 파라미터 조정 함수 에 따라 시차 파라미터 임계값 이내로 조정될 수 있다. 시차 파라미터 조정 함수에서, 는 조정된 후의 3D 비디오의 시차 파라미터를 의미할 수 있으며, 는 사용자의 현재 눈의 피로 정도를 의미할 수 있으며, 는 조정되기 전의 3D 비디오의 시차 파라미터를 의미할 수 있다. 시차 파라미터 조정 함수 에서, 시차 파라미터 임계값은 사용자의 현재 눈의 피로 정도의 감소 함수일 수 있다. 즉, 3D 비디오의 시차 파라미터 임계값은 사용자의 현재 눈의 피로 정도가 증가함에 따라 감소할 수 있다.For example, the parallax parameter threshold may be a predetermined average parallax, parallax range or inherent average parallax, or may be a parallax range corresponding to the current degree of eye fatigue of a user. Specifically, an appropriate parallax parameter adjusting function may be selected according to a preset condition, and the parallax parameter may be adjusted within a parallax parameter threshold according to the parallax parameter adjusting function. In the parallax parameter adjusting function, may denote a parallax parameter of the 3D video after adjustment, may denote a degree of fatigue of the user's current eye, and may denote a parallax parameter of the 3D video before adjustment. In the parallax parameter adjustment function, the parallax parameter threshold may be a reduction function of the degree of fatigue of the user's current eye. That is, the parallax parameter threshold of the 3D video may decrease as the degree of fatigue of the current eye of the user increases.
한편, 사물을 볼 때 포커싱하는 인체의 눈의 시각 특징(Visual characteristic)에 따르면, 시차를 조정하는 프로세싱 기술은 평균 시차 또는 시차 범위를 줄이는 방법뿐만 아니라, 인체의 눈이 계속적으로 시차를 변경함으로서 야기되는 불편감을 느끼는 것을 방지하기 위해 시차의 완만한 변화를 보장하는 방법일 수 있다. On the other hand, according to the visual characteristic of the eye of the human body focusing when looking at an object, the processing technique for adjusting the parallax is not only a method of reducing the average parallax or parallax range, but also caused by the human eye continuously changing the parallax. It may be a method of guaranteeing a smooth change of the parallax to prevent the feeling of discomfort.
시차 조정부(80)는 또한 3D 비디오의 현재 프레임의 시차 파라미터 및 이전 프레임의 시차 파라미터간의 차이가 시차 변화 임계값 이상인지 여부를 결정하고, 현재 프레임과 이전 프레임의 시차 파라미터 차이가 시차 변화 임계값 이상일 때, 현재 프레임과 이전 프레임의 시차 파라미터 차이가 시차 변화 임계값 이내이도록, 3D 비디오의 현재 프레임의 시차 파라미터를 조정할 수 있다. The parallax adjustment unit 80 also determines whether the difference between the parallax parameter of the current frame of the 3D video and the parallax parameter of the previous frame is greater than or equal to the parallax variation threshold, and the difference between the parallax parameter of the current frame and the previous frame is greater than or equal to the parallax variation threshold. When the parallax parameter of the current frame and the previous frame is within the parallax variation threshold, the parallax parameter of the current frame of the 3D video may be adjusted.
시차 변화 임계값은 미리 결정될 수 있으며, 동적으로 사용자의 현재 눈의 피로 정도에 따라 결정될 수도 있다. 예를 들어, 시차 변화 임계값은 평균 시차 또는 시차 범위의 변화를 측정하기 위해 사용되는 미리 결정된 임계값, 또는 평균 시차 또는 사용자의 현재 눈의 피로 정도에 대응하는 시차 범위의 변화를 측정하기 위해 사용되는 고유의 임계값일 수 있다. 구체적으로, 적절한 시차 파라미터 조정 함수 는 기 설정된 조건에 따라 선택될 수 있으며, 3D 비디오의 현재 프레임의 시차 파라미터는, 현재 프레임과 이전 프레임의 시차 파라미터 차이가 시차 변화 임계값 이내 이도록, 시차 파라미터 조정 함수 에 따라 조정될 수 있다. 시차 파라미터 조정 함수에서, 은 조정된 후의 3D 비디오의 시차 파라미터를 의미할 수 있으며, 는 사용자의 현재 눈의 피로 정도를 의미할 수 있으며, 는 조정되기 전의 3D 비디오의 시차 파라미터를 의미할 수 있다. 시차 파라미터 조정 함수 에서, 시차 변화 임계값은 사용자의 현재 눈의 피로 정도의 감소 함수일 수 있다. 즉, 3D 비디오의 시차 변화 임계값은 사용자의 현재 눈의 피로 정도가 증가함에 따라 감소할 수 있다.The parallax variation threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user. For example, the parallax change threshold is a predetermined threshold used to measure a mean parallax or a change in the parallax range, or used to measure a change in the parallax range corresponding to the average parallax or the current degree of eye fatigue of a user. May be a unique threshold value. In detail, an appropriate parallax parameter adjusting function may be selected according to preset conditions, and the parallax parameter of the current frame of the 3D video may be set so that the difference in the parallax parameter between the current frame and the previous frame is within a parallax variation threshold. Can be adjusted accordingly. In the parallax parameter adjusting function, may denote a parallax parameter of the 3D video after being adjusted, may denote a degree of fatigue of the current eye of the user, and may denote a parallax parameter of the 3D video before being adjusted. In the parallax parameter adjustment function, the parallax variation threshold may be a decreasing function of the degree of fatigue of the user's current eye. That is, the parallax variation threshold of the 3D video may decrease as the degree of fatigue of the current eye of the user increases.
다른 예로써, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상일 때, 시차 조정부(80)는 또한 사물을 볼 때 포커싱하는 인체의 눈의 시각 특징에 따라 시차를 조정할 수 있다. 시차 조정부(80)는 3D 비디오의 현재 프레임의 시차 파라미터 및 이전 프레임의 시차 파라미터간의 차이가 시차 변화 임계값 이상인 여부를 결정하고, 현재 프레임과 이전 프레임의 시차 파라미터 차이가 시차 변화 임계값 이상일 때, 현재 프레임과 이전 프레임의 시차 파라미터 차이가 시차 변화 임계값 이내이도록, 3D 비디오의 현재 프레임의 시차 파라미터를 조정할 수 있다.As another example, when the current degree of eye fatigue of the user is greater than or equal to the eye fatigue threshold, the parallax adjusting unit 80 may also adjust the parallax according to the visual characteristics of the eye of the human body focusing when viewing an object. The parallax adjustment unit 80 determines whether the difference between the parallax parameter of the current frame of the 3D video and the parallax parameter of the previous frame is greater than or equal to the parallax variation threshold value, and when the difference between the parallax parameter of the current frame and the previous frame is greater than or equal to the parallax variation threshold value, The parallax parameter of the current frame of the 3D video may be adjusted such that the parallax parameter difference between the current frame and the previous frame is within the parallax variation threshold.
도 3에 도시된 디바이스(1000)는, 더 나아가, 부가적인 구성으로써, 조정된 시차 파라미터에 따라 사용자에게 3D 비디오를 출력하는 출력부(미도시)를 더 포함할 수 있다. 예로써, 출력부는 디스플레이 디바이스(예를 들어, 디스플레이부) 일 수 있다. The device 1000 illustrated in FIG. 3 may further include an output unit (not shown) for outputting 3D video to the user according to the adjusted parallax parameter as an additional configuration. By way of example, the output can be a display device (eg, a display).
상기 방법에서, 인체의 눈의 생리적 특성에 따르면서 3D 이미지 디스플레이의 기술적 효과를 성취하기 위해, 3D 디스플레이 효과는 적절한 순간에 사용자의 현재 눈의 피로 정도에 따라 조정될 수 있으며, 이에 따라, 사용자의 눈 피로를 줄이는 동시에 3D 비디오의 입체 디스플레이 효과가 극대화될 수 있다.In the above method, in order to achieve the technical effect of the 3D image display according to the physiological characteristics of the eye of the human body, the 3D display effect can be adjusted according to the degree of fatigue of the user's current eye at an appropriate moment, and thus the eye fatigue of the user. At the same time, the stereoscopic display effect of 3D video can be maximized.
도 4는, 본 개시의 일부 실시예에 따른, 3D 디스플레이 효과를 조정하기 위한 방법을 나타내는 흐름도를 도시한다.4 shows a flowchart illustrating a method for adjusting a 3D display effect, in accordance with some embodiments of the present disclosure.
3D 디스플레이 효과를 조정하기 위한 방법은 도 3에 개시된 디바이스(1000)에 의해 구현될 수 있으며, 또는 3D 디스플레이 효과를 조정하기 위한 어플리케이션을 통해 완전히 소프트웨어로써 구현될 수도 있다. The method for adjusting the 3D display effect may be implemented by the device 1000 disclosed in FIG. 3, or may be implemented entirely in software through an application for adjusting the 3D display effect.
도 4를 참조하면, 단계 S410에서, 사용자가 3D 비디오를 시청할 때, 사용자의 눈의 특징이 획득될 수 있다. Referring to FIG. 4, in operation S410, when a user views a 3D video, a feature of an eye of the user may be acquired.
구체적으로, 사용자가 3D 비디오를 시청할 때, 이미지 촬영 디바이스에 의해 사용자의 머리 이미지가 촬영될 수 있으며, 사용자의 머리 이미지가 획득된 후에, 인식된 얼굴 영역으로부터 사용자의 눈 이미지를 파싱하기 위해서 컴퓨터 비젼 라이브러리에 기초하여 사용자의 머리 이미지로부터 얼굴 인식이 수행될 수 있다. 또한, 획득된 눈 이미지로부터 사용자의 눈의 특징이 추출될 수 있다. Specifically, when the user watches the 3D video, the head image of the user may be photographed by the image capturing device, and after the head image of the user is obtained, computer vision for parsing the user's eye image from the recognized face area Face recognition may be performed from the user's head image based on the library. In addition, the eye feature of the user may be extracted from the acquired eye image.
예로써, 사용자가 3D 비디오를 시청할 때 촬영된 사용자의 눈 이미지로부터, 눈의 특징으로써 깜빡임 주파수, 눈 감음 시간, 양안 초점의 변화 및 양안 수렴 각도 중 적어도 하나가 추출될 수 있다.For example, at least one of a blinking frequency, eye closing time, a change in binocular focus, and a binocular convergence angle may be extracted from the eye image of the user photographed when the user watches the 3D video.
단계 S420에서, 획득된 눈의 특징에 따라 사용자의 현재 눈의 피로 정도가 결정될 수 있다. 예로써, 눈의 피로 정도는 동적으로 결정된 눈의 특징에 기초하여 사용자의 현재 눈의 피로 정도를 나타내는 값일 수 있다. 예를 들어, 단계 S410에서 획득된 눈의 특징이 사용자의 양안 초점의 변화일 경우, 사용자의 양안 초점의 변화에 기초하여, 사용자의 현재 눈의 피로 정도를 나타내는 값이 종합적으로 분석될 수 있다.In operation S420, the degree of fatigue of the current eye of the user may be determined according to the acquired eye characteristics. For example, the degree of eye fatigue may be a value indicating the degree of fatigue of the user's current eye based on the dynamically determined eye characteristics. For example, when the eye feature acquired in step S410 is a change in the binocular focus of the user, a value representing the current degree of fatigue of the user may be comprehensively analyzed based on the change in the binocular focus of the user.
단계 S430에서, 3D 비디오의 시차 파라미터가 사용자의 현재 눈의 피로 정도에 따라 조정될 수 있다. 시차 파라미터는 3 비디오의 좌안용 이미지 및 우안용 이미지간의 각각의 픽셀 쌍의 평균 시차 또는 시차 범위를 의미할 수 있다. 앞서 설명한 바와 같이, 시차는 좌안용 이미지 및 우안용 이미지 내의 동일한 객체의 위치간의 차이를 의미할 수 있다. 이에 따라, 3D 비디오의 시차 파라미터를 획득하기 위하여, 좌안용 이미지 내의 각각의 픽셀에 대응되는 우안용 이미지 내의 픽셀 즉, 좌안용 이미지 내의 각각의 픽셀에 매칭되는 우안용 이미지 내의 픽셀이 검출되고, 매칭되는 픽셀들간의 시차(즉, 변위의 차이)가 획득되는 이미지 매칭 방법이 실행될 수 있다. In step S430, the parallax parameter of the 3D video may be adjusted according to the current degree of eye fatigue of the user. The parallax parameter may refer to an average parallax or parallax range of each pixel pair between the left eye image and the right eye image of 3 video. As described above, the parallax may mean a difference between positions of the same object in the left eye image and the right eye image. Accordingly, in order to obtain a parallax parameter of the 3D video, a pixel in the right eye image corresponding to each pixel in the left eye image, that is, a pixel in the right eye image matching each pixel in the left eye image, is detected and matched. An image matching method may be performed in which a parallax (ie, a difference in displacement) between pixels to be obtained is obtained.
3D 비디오에서 각각의 픽셀의 시차가 획득됨에 따라, 3D 비디오의 평균 시차 또는 최대 시차와 최소 시차로 구성되는 시차 범위가 획득될 수 있다. 평균 시차 또는 시차 범위를 조정함으로써, 사용자의 눈의 피로는 감소될 수 있다. As the parallax of each pixel in the 3D video is obtained, a parallax range consisting of the average parallax or the maximum parallax and the minimum parallax of the 3D video may be obtained. By adjusting the average parallax or parallax range, the eye fatigue of the user can be reduced.
구체적으로, 3D 비디오의 시차 파라미터는 사용자의 현재 눈의 피로 정도에 기초하여, 적당한 방법으로 조정될 수 있다. 3D 비디오의 디스플레이 이미지를 조정하는 예시는 도 5 내지 도 9를 참조하여 상세히 개시될 것이다. Specifically, the parallax parameter of the 3D video may be adjusted in a suitable manner based on the degree of fatigue of the user's current eye. An example of adjusting the display image of 3D video will be described in detail with reference to FIGS. 5-9.
도 5는, 본 개시의 다른 일부 실시예에 따른, 3D 디스플레이 효과를 조정하기 위한 방법을 나타내는 흐름도를 도시한다.5 shows a flowchart illustrating a method for adjusting a 3D display effect, in accordance with some other embodiments of the present disclosure.
도 5를 참조하면, 단계 S510 및 S520는, 도 4에 도시된 단계 S410 및 S420와 유사하므로, 도 5의 단계 S510 및 S520에 대한 설명은 생략될 것이다. Referring to FIG. 5, since steps S510 and S520 are similar to steps S410 and S420 illustrated in FIG. 4, descriptions of steps S510 and S520 of FIG. 5 will be omitted.
단계 S530에서, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상인지 여부가 결정될 수 있다. 눈 피로 임계값은 사용자가 눈이 피곤하다고 느끼는지 여부를 결정하기 위해 사용되는 기 설정된 임계값일 수 있다. . 구체적으로, 사용자의 현재 눈의 피로 정도를 눈 피로 임계값과 비교함으로써, 3D 디스플레이 효과가 조정되어야 하는지 여부가 결정될 수 있다. In operation S530, it may be determined whether the current degree of eye fatigue of the user is greater than or equal to an eye fatigue threshold. The eye fatigue threshold may be a preset threshold used to determine whether the user feels tired. . Specifically, by comparing the current degree of fatigue of the user with the eye fatigue threshold, it may be determined whether the 3D display effect should be adjusted.
구체적으로, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 미만일 때, 3D 비디오의 시차 파라미터는 조정되지 않을 수 있다. 이에 따라, 단계 S560에서, 3D 비디오 재생이 중지되었는지 여부가 결정될 수 있다. 3D 비디오 재생이 중지되지 않았을 때, 방법은 단계 S510으로 되돌아가, 계속하여 사용자가 3D 비디오를 시청할 때의 사용자의 눈의 특징이 획득될 수 있다. Specifically, when the current eye fatigue level of the user is below the eye fatigue threshold, the parallax parameter of the 3D video may not be adjusted. Accordingly, in step S560, it may be determined whether 3D video reproduction is stopped. When playback of the 3D video is not stopped, the method returns to step S510 where the eye features of the user when the user watches the 3D video can be acquired.
반면, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상일 때, 단계 S540에서, 3D 비디오의 시차 파라미터가 시차 파라미터 임계값 이상인 여부가 결정될 수 있다. 예로써, 시차 파라미터 임계값은 미리 결정될 수 있으며, 사용자의 현재 눈의 피로 정도에 따라 동적으로 결정될 수도 있다. 예를 들어, 시차 파라미터 임계값은 미리 결정된 평균 시차, 시차 범위 또는 고유의 평균 시차 일 수 있으며, 또는 사용자의 현재 눈의 피로 정도에 대응하는 시차 범위일 수 있다.On the other hand, when the degree of fatigue of the user's current eye is greater than or equal to the eye fatigue threshold, in step S540, it may be determined whether or not the parallax parameter of the 3D video is greater than or equal to the parallax parameter threshold. By way of example, the parallax parameter threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user. For example, the parallax parameter threshold may be a predetermined average parallax, parallax range or inherent average parallax, or may be a parallax range corresponding to the current degree of eye fatigue of a user.
시차 파라미터가 시차 파라미터 임계값 이상일 때, 단계 S550에서, 3D 비디오의 시차 파라미터가 시차 파라미터 임계값 이내 이도록 조정될 수 있다.When the parallax parameter is greater than or equal to the parallax parameter threshold, in step S550, the parallax parameter of the 3D video may be adjusted to be within the parallax parameter threshold.
이후로, 시차 파라미터가 시차 파라미터 임계값 이상일 때, 시차 파라미터를 조절하는 예가, 도 6과 관련하여 설명될 것이다. 예를 들어, 시차 파라미터는 특히 3D 비디오의 시차 범위일 수 있으며, 따라서 시차 파라미터 임계값은 허용가능한 시차 범위를 의미할 수 있다. Subsequently, an example of adjusting the parallax parameter when the parallax parameter is greater than or equal to the parallax parameter threshold will be described with reference to FIG. 6. For example, the parallax parameter may in particular be a parallax range of 3D video, so the parallax parameter threshold may mean an acceptable parallax range.
구체적으로, 도 6의 (a) 및 (b)를 참조하면, 밝은 색 부분은 시차 파라미터 임계값(610) 이내의 시차값에 대응하며, 어두운 색 부분은 시차 파라미터 임계값(610) 이상의 시차값에 대응할 수 있다. 도 6에서 “X”는 하나의 프레임에서, 매칭되는 픽셀들간의 시차들 중 예시적인 값을 의미할 수 있다. . 가장 왼쪽에 위치한 픽셀(643)은 하나의 프레임에서, 음의 시차의 최대값을 갖는 픽셀이며, 가장 오른쪽에 위치한 픽셀(645)은 하나의 프레임에서, 양의 시차의 최대값을 갖는 픽셀일 수 있다.Specifically, referring to FIGS. 6A and 6B, the lighter color portion corresponds to the parallax value within the parallax parameter threshold 610, and the darker color portion corresponds to the parallax value greater than or equal to the parallax parameter threshold 610. It can correspond to. In FIG. 6, "X" may mean an exemplary value among parallaxes between matching pixels in one frame. . The leftmost pixel 643 is the pixel having the maximum value of negative parallax in one frame, and the rightmost pixel 645 is the pixel having the maximum value of positive parallax in one frame. have.
구체적으로, 도 6의 (a)에 도시된 바와 같이, 파선(Dashed line)들 사이의 간격(630)은 하나의 프레임에서, 3D 비디오의 시차 범위를 의미할 수 있다. 도 6의 (a)에 도시된 바와 같이, 시차 파라미터 임계값 이상의 시차들을 갖는 몇몇의 픽셀들(641, 643, 645)은, 시차가 시차 파라미터 임계값 이하가 되도록 조정될 수 있다. Specifically, as illustrated in FIG. 6A, the interval 630 between dashed lines may mean a parallax range of 3D video in one frame. As shown in FIG. 6A, some pixels 641, 643, 645 having parallaxes above the parallax parameter threshold may be adjusted such that the parallax becomes less than or equal to the parallax parameter threshold.
또한, 도 6의 (b)에 도시된 바와 같이, 사용자의 눈의 피로를 완화하기 위하여, 시차 범위(630)는 시차 파라미터 임계값(610) 내에 위치하도록 감소될 수 있다. 적절한 시차 파라미터 조정 함수 는 선택될 수 있으며, 3D 비디오의 시차 파라미터는 시차 파라미터 조정 함수 에 따라 시차 파라미터 임계값 이내로 조정(감소)될 수 있다. 시차 파라미터 조정 함수에서, 는 조정된 후의 3D 비디오의 시차 파라미터를 의미할 수 있으며, 는 사용자의 현재 눈의 피로 정도를 의미할 수 있으며, 는 조정되기 전의 3D 비디오의 시차 파라미터를 의미할 수 있다. 시차 파라미터 조정 함수 에서, 시차 파라미터 임계값은 사용자의 현재 눈의 피로 정도의 감소 함수일 수 있다. 즉, 3D 비디오의 시차 파라미터 임계값은 사용자의 현재 눈의 피로 정도가 증가함에 따라 감소할 수 있다. 그러한 조정을 통해, 3D 비디오의 시차 범위(630)는 도 6의 (b)에 도시된 바와 같이, 파선에 의해서 표시될 수 있다. 즉, 시차 파라미터 임계값 이상의 픽셀(641, 643, 645)은 시차 파라미터 임계값(610) 이내로 조정될 수 있으며, 따라서 사용자의 눈의 피로 정도가 감소될 수 있다. In addition, as illustrated in FIG. 6B, the parallax range 630 may be reduced to be located within the parallax parameter threshold 610 to alleviate eye fatigue of the user. An appropriate parallax parameter adjustment function may be selected and the parallax parameter of the 3D video may be adjusted (decreased) within the parallax parameter threshold according to the parallax parameter adjustment function. In the parallax parameter adjusting function, may denote a parallax parameter of the 3D video after adjustment, may denote a degree of fatigue of the user's current eye, and may denote a parallax parameter of the 3D video before adjustment. In the parallax parameter adjustment function, the parallax parameter threshold may be a reduction function of the degree of fatigue of the user's current eye. That is, the parallax parameter threshold of the 3D video may decrease as the degree of fatigue of the current eye of the user increases. Through such adjustment, the parallax range 630 of the 3D video may be indicated by dashed lines, as shown in FIG. That is, pixels 641, 643, and 645 above the parallax parameter threshold may be adjusted within the parallax parameter threshold 610, thus reducing the degree of fatigue of the user's eyes.
3D 비디오의 시차 파라미터가 조정된 후, 단계 S560에서, 3D 비디오 재생이 중지되었는지 여부가 결정될 수 있다. 3D 비디오 재생이 중지되지 않았을 때, 방법은 단계 S510으로 되돌아갈 수 있다. After the parallax parameter of the 3D video is adjusted, in step S560, it may be determined whether 3D video reproduction is stopped. When the 3D video playback is not stopped, the method may return to step S510.
게다가, 사물을 볼 때 포커싱하는 인체의 눈의 시각 특징은, 인체의 눈은 객체를 볼 때 초첨을 맞추어야 한다는 점이다. 일상 생활에서, 인체의 눈은 초점을 고정한 상태로 대부분의 장면들을 볼 수 있다. 초점은 사용자가 다른 거리에 있는 물체를 보기를 원할 때 변경될 수 있다. 예를 들어, 독서를 할 때 인체의 눈의 초점은 항상 책 페이지에 머무를 수 있으며, 전형적인 2D 비디오를 시청할 때, 인체의 눈의 초점은 항상 디스플레이 패널상에 머무를 수 있다. 이 경우, 눈의 피로가 초점 변화에 의해 야기되지 않도록, 인체의 눈은 초점 거리(초점 길이)를 상당한 정도로, 자주 조정할 필요가 없다. 그러나, 3D 입체 비디오를 시청할 때, 장면이 끊임없이 변경되기 때문에, 가상의 물체들은(virtual subjects) 다른 깊이들로 변경되며, 이에 따라 초점 거리는 끊임없이 변경될 수 있다. 비디오에서 객체를 선명하게 보기 위하여, 눈은 포커싱 조정을 수행하여야 한다. 이에 따라, 3D 비디오를 시청하는 동안에, 그러한 조정을 하도록 강요 당하므로, 눈 근육의 피로가 야기 될 수 있다. In addition, the visual feature of the eye of the human body focusing when looking at the object is that the eye of the human body must focus on the object. In everyday life, the human eye can see most of the scene with the focus fixed. The focus can be changed when the user wants to see an object at a different distance. For example, when reading, the human eye's focus can always stay on a book page, and when watching a typical 2D video, the human's eye's focus can always stay on the display panel. In this case, the eye of the human body does not need to adjust the focal length (focal length) to a considerable extent, so that the fatigue of the eye is not caused by the change of focus. However, when watching 3D stereoscopic video, because the scene is constantly changing, virtual subjects are changed to different depths, so the focal length can be constantly changing. To see the object clearly in the video, the eye must perform the focusing adjustment. Thus, while watching 3D video, such adjustments are forced, which can cause eye muscle fatigue.
물리적 한계 때문에, 인체의 눈이 비디오 시차의 변화 빈도를 따라갈 수 없을 때, 인체는 이미지를 선명하게 볼 수 없으며, 어지럽고 불편하게 느낄 수 있다. 이 경우에, 입체 효과를 줄이기 위해, 단지 어느 정도 시차 파라미터를 줄임으로써 시청 편안함 수준을 향상시키는 방법은, 사용자가 끊임없이 변경되는 시차에 불편함을 느끼게 하는 단점을 갖는다. 이러한 이유로, 본 개시의 일부 실시예에 따르면, 시차 파라미터는, 시차의 완만한 변화를 보장하기 위해서, 사물을 볼 때 포커싱하는 인체의 눈의 시각 특징에 따라 조정될 수 있으며, 따라서, 인체의 눈은 끊임없이 변경되는 시차에 불편함을 느끼지 않을 수 있다. 이하에서는, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상인 경우, 사물을 볼 때 포커싱하는 인체의 눈의 시각 특징에 따라, 시차 파라미터가 조정되는 예시가 도 7 내지 도 9와 관련하여 상세히 기술될 것이다.Due to physical limitations, when the human eye cannot keep up with the frequency of video parallax, the human body cannot see the image clearly and feel dizzy and uncomfortable. In this case, the method of improving the viewing comfort level by reducing the parallax parameter to some extent in order to reduce the stereoscopic effect has the disadvantage of making the user feel uncomfortable with the constantly changing parallax. For this reason, according to some embodiments of the present disclosure, the parallax parameter may be adjusted according to the visual characteristics of the eye of the human body focusing when viewing the object, so as to ensure a gentle change in the parallax, so that the human eye You may not feel uncomfortable with the constantly changing parallax. Hereinafter, when the current eye fatigue level of the user is above the eye fatigue threshold, an example in which parallax parameters are adjusted according to the visual characteristics of the eye of the human body focusing when viewing an object will be described in detail with reference to FIGS. 7 to 9. Will be.
도 7은 본 개시의 다른 일부 실시예에 따른 3D 디스플레이 효과를 조정하기 위한 방법을 나타내는 흐름도를 도시한다. 7 shows a flowchart illustrating a method for adjusting a 3D display effect according to some other embodiments of the present disclosure.
도 7을 참조하면, 단계 S710 및 S720는, 도 4에 도시된 단계 S410 및 S420와 유사하므로, 도 7의 단계 S710 및 S720에 대한 설명은 생략될 것이다. Referring to FIG. 7, steps S710 and S720 are similar to steps S410 and S420 illustrated in FIG. 4, and thus descriptions of steps S710 and S720 of FIG. 7 will be omitted.
단계 S730에서, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상인지 여부가 결정될 수 있다. 눈 피로 임계값은 사용자가 눈이 피곤하다고 느끼는지 여부를 결정하기 위해 사용되는 기 설정된 임계값일 수 있다. 구체적으로, 사용자의 현재 눈의 피로 정도를 눈 피로 임계값과 비교함으로써, 3D 디스플레이 효과가 조정되어야 하는지 여부가 결정될 수 있다. In step S730, it may be determined whether the current degree of eye fatigue of the user is greater than or equal to an eye fatigue threshold. The eye fatigue threshold may be a preset threshold used to determine whether the user feels tired. Specifically, by comparing the current degree of fatigue of the user with the eye fatigue threshold, it may be determined whether the 3D display effect should be adjusted.
구체적으로, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 미만일 때, 3D 비디오의 시차 파라미터는 조정되지 않을 수 있다. 이에 따라, 단계 S760에서, 3D 비디오 재생이 중지되었는지 여부가 결정될 수 있다. 3D 비디오 재생이 중지되지 않았을 때, 방법은 단계 S710으로 되돌아가, 계속하여 사용자가 3D 비디오를 시청할 때의 사용자의 눈의 특징을 획득할 수 있다. Specifically, when the current eye fatigue level of the user is below the eye fatigue threshold, the parallax parameter of the 3D video may not be adjusted. Accordingly, in step S760, it may be determined whether 3D video reproduction is stopped. When playback of the 3D video is not stopped, the method may return to step S710 to continue to acquire the features of the user's eyes when the user watches the 3D video.
반면, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상일 때, 단계 S740에서, 3D 비디오의 현재 프레임의 시차 파라미터 및 이전 프레임의 시차 파라미터간의 차이가 시차 변화 임계값 이상인지 여부가 결정될 수 있다. 예로써, 시차 변화 임계값은 미리 결정될 수 있으며, 사용자의 현재 눈의 피로 정도에 따라 동적으로 결정될 수도 있다. 예를 들어, 시차 변화 임계값은 평균 시차 또는 시차 범위의 변화를 측정하기 위해 사용되는 미리 결정된 임계값, 또는 사용자의 현재 눈의 피로 정도에 대응하는 평균 시차 또는 시차 범위의 변화를 측정하기 위한 고유의 미리 결정된 임계값일 수 있다.On the other hand, when the degree of fatigue of the user's current eye is greater than or equal to the eye fatigue threshold, in step S740, it may be determined whether the difference between the parallax parameter of the current frame of the 3D video and the parallax parameter of the previous frame is greater than or equal to the parallax variation threshold. By way of example, the parallax change threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user. For example, the parallax variation threshold is a predetermined threshold used to measure the average parallax or variation in the parallax range, or inherent for measuring a variation in the average parallax or parallax range corresponding to the current degree of eye fatigue of the user. May be a predetermined threshold of.
3D 비디오의 현재 프레임의 시차 파라미터 및 이전 프레임의 시차 파라미터간의 차이가 시차 변화 임계값 이상일 때, 단계 S750에서, 3D 비디오의 현재 프레임의 시차 파라미터는, 3D 비디오의 현재 프레임의 시차 파라미터 및 이전 프레임의 시차 파라미터간의 차이가 시차 변화 임계값 이내가 되도록 조정될 수 있다. When the difference between the parallax parameter of the current frame of the 3D video and the parallax parameter of the previous frame is greater than or equal to the parallax variation threshold, in step S750, the parallax parameter of the current frame of the 3D video is determined by the parallax parameter of the current frame of the 3D video and the previous frame. The difference between the parallax parameters may be adjusted to be within the parallax variation threshold.
이하에서는, 현재 프레임과 이전 프레임간의 시차 파라미터 변화가 시차 변화 임계값 이상일 때, 시차 파라미터를 조정하는 예가 도 8과 관련하여 도시될 것이다. 예를 들어, 시차 파라미터는 3D 비디오의 이미지 프레임의 평균 시차 일 수 있으며, 이에 따라, 시차 변화 임계값은 인접하는 프레임 이미지들 간의 평균 시차의 허용 가능한 변화를 의미할 수 있다. 도 8(a)는 연속적인 프레임들에 대한 각각의 프레임의 평균 시차를 나타내는 그래프일 수 있다. 또한, 도 8(a)는 각각의 프레임의 시차들 중 음의 시차의 최대값을 나타내는 그래프 일 수 있다. 또한, 도 8(a)는 각각의 프레임의 시차들 중 양의 시차의 최대값을 나타내는 그래프 일 수 있다. 또한, 도 8(a)는 각각의 프레임의 시차 범위를 나타내는 그래프 일 수 있다.In the following, an example of adjusting the parallax parameter when the parallax parameter change between the current frame and the previous frame is equal to or greater than the parallax variation threshold will be shown in relation to FIG. 8. For example, the parallax parameter may be an average parallax of an image frame of 3D video, whereby the parallax variation threshold may mean an allowable change in the average parallax between adjacent frame images. FIG. 8A may be a graph illustrating an average parallax of each frame with respect to successive frames. In addition, FIG. 8A may be a graph showing a maximum value of negative parallax among parallaxes of each frame. In addition, FIG. 8A may be a graph showing a maximum value of positive parallaxes among parallaxes of each frame. In addition, FIG. 8A may be a graph illustrating a parallax range of each frame.
구체적으로, 양의 시차 변화 및 음의 시차 변화인 두 개의 타입의 시차 파라미터 변화가 정의될 수 있다. 양의 시차 변화와 관련하여, 현재 프레임의 시차 파라미터로부터 이전 프레임의 시차 파라미터를 뺌으로써 획득된 값은 양의 값을 가질 수 있다. 즉, 현재 프레임의 시차 파라미터는 이전 프레임의 시차 파라미터 보다 클 수 있다. 예를 들어, 양의 시차 변화는 도 8의 (a)의 프레임 5의 시차 파라미터로부터 프레임 4의 시차 파라미터를 뺌으로써 획득될 수 있다. 반면, 음의 시차 변화와 관련하여, 현재 프레임의 시차 파라미터로부터 이전 프레임의 시차 파라미터를 뺌으로써 획득된 값은 음의 값을 가질 수 있다. 즉, 현재 프레임의 시차 파라미터는 이전 프레임의 시차 파라미터 보다 작을 수 있다. 예를 들어, 음의 시차 변화는 도 8의 (a)의 프레임 8의 시차 파라미터로부터 프레임 7의 시차 파라미터를 뺌으로써 획득될 수 있다. Specifically, two types of parallax parameter changes can be defined, positive parallax changes and negative parallax changes. With respect to the positive parallax change, the value obtained by subtracting the parallax parameter of the previous frame from the parallax parameter of the current frame may have a positive value. That is, the parallax parameter of the current frame may be larger than the parallax parameter of the previous frame. For example, the positive parallax change can be obtained by subtracting the parallax parameter of frame 4 from the parallax parameter of frame 5 of FIG. On the other hand, in relation to the negative parallax change, the value obtained by subtracting the parallax parameter of the previous frame from the parallax parameter of the current frame may have a negative value. That is, the parallax parameter of the current frame may be smaller than the parallax parameter of the previous frame. For example, the negative parallax change can be obtained by subtracting the parallax parameter of frame 7 from the parallax parameter of frame 8 of FIG.
시차 파라미터의 완만한 변화를 보장하기 위하여, 현재 프레임이 양의 시차 변화 또는 음의 시차 변화를 갖는지 여부에 상관없이, 현재 프레임과 이전 프레임간의 시차 파라미터 변화가 시차 변화 임계값 이상일 때, 현재 프레임의 시차 파라미터는 조정될 수 있다. To ensure a smooth change in the parallax parameter, regardless of whether the current frame has a positive or negative parallax change, when the parallax parameter change between the current frame and the previous frame is above the parallax variation threshold, Parallax parameters can be adjusted.
도 8의 (a)를 참조하면, 프레임 1 내지 4는 연속적이고 완만한 음의 시차 변화를 형성(즉, 시차 변화가 시차 변화 임계값 미만인 경우)한다. 따라서, 시차 파라미터 조정을 수행하는 것은 필요치 않을 수 있다. 그러나, 프레임 5의 시차 파라미터로부터 프레임 4의 시차 파라미터를 뺌으로써 획득된 양의 시차 변화가 시차 변화 임계값 이상이므로, 사용자의 눈의 피로를 완화하기 위하여, 프레임 5의 시차 파라미터 및 프레임 4의 시차 파라미터간의 차이가 시차 변화 임계값 이내가 되도록 프레임 5의 시차 파라미터를 감소시킬 필요가 있다. Referring to FIG. 8A, frames 1 to 4 form a continuous and gentle negative parallax variation (ie, when the parallax variation is less than the parallax variation threshold). Thus, it may not be necessary to perform parallax parameter adjustment. However, since the positive parallax change obtained by subtracting the parallax parameter of frame 4 from the parallax parameter of frame 5 is greater than or equal to the parallax variation threshold, in order to alleviate the fatigue of the user's eyes, parallax parameter of frame 5 and parallax of frame 4 It is necessary to reduce the parallax parameter of frame 5 so that the difference between the parameters is within the parallax variation threshold.
적절한 시차 파라미터 조정 함수 가 선택될 수 있으며, 3D 비디오의 프레임 5의 시차 파라미터는, 프레임 4의 시차 파라미터와의 차이가 시차 변화 임계값 이내 이도록, 시차 파라미터 조정 함수 에 따라 조정될 수 있다. 시차 파라미터 조정 함수에서, 은 조정된 후의 3D 비디오의 시차 파라미터를 의미할 수 있으며, 는 사용자의 현재 눈의 피로 정도를 의미할 수 있으며, 는 조정되기 전의 3D 비디오의 시차 파라미터를 의미할 수 있다. 시차 파라미터 조정 함수 에서, 시차 변화 임계값은 사용자의 현재 눈의 피로 정도의 감소 함수일 수 있다. 즉, 3D 비디오의 시차 변화 임계값은 사용자의 현재 눈의 피로 정도가 증가함에 따라 감소할 수 있다.An appropriate parallax parameter adjustment function may be selected, and the parallax parameter of frame 5 of 3D video may be adjusted according to the parallax parameter adjustment function such that a difference from the parallax parameter of frame 4 is within a parallax variation threshold. In the parallax parameter adjusting function, may denote a parallax parameter of the 3D video after being adjusted, may denote a degree of fatigue of the current eye of the user, and may denote a parallax parameter of the 3D video before being adjusted. In the parallax parameter adjustment function, the parallax variation threshold may be a decreasing function of the degree of fatigue of the user's current eye. That is, the parallax variation threshold of the 3D video may decrease as the degree of fatigue of the current eye of the user increases.
그러한 조정을 통해, 3D 비디오의 프레임 5의 시차 파라미터는 도 8의 (b)에 도시된 바와 같이 감소될 수 있다. 즉, 프레임 5와 4간의 시차 파라미터 변화는 시차 변화 임계값 이내로 조정될 수 있다. 게다가, 프레임 6과 프레임7은 조정된 이미지 프레임에 비하여 비교적 크기 때문에 (즉, 프레임 6 및 프레임 7의 변화는 시차 변화 임계값 이상이기 때문에), 도 8의 (b)에 도시된 바와 같이, 조정된 프레임 6 및 7을 획득하기 위해서, 프레임 6의 시차 파라미터 및 프레임 7의 시차 파라미터는 같은 방법으로 조정될 수 있다. Through such adjustment, the parallax parameter of frame 5 of the 3D video can be reduced as shown in FIG. 8 (b). That is, the parallax parameter change between the frames 5 and 4 may be adjusted within the parallax variation threshold. In addition, because Frame 6 and Frame 7 are relatively large compared to the adjusted image frame (i.e., because the change in Frame 6 and Frame 7 is above the parallax variation threshold), as shown in Fig. 8B, In order to obtain the frames 6 and 7 that have been made, the parallax parameter of frame 6 and the parallax parameter of frame 7 can be adjusted in the same way.
반면, 도 8의 (a) 및 (b)를 참조하면, 프레임 8의 시차 파라미터로부터 프레임 7의 조정된 시차 파라미터를 뺌으로써 획득된 차이가 시차 변화 임계값 이상이므로, 사용자의 눈의 피로를 완화하기 위하여, 프레임 8의 시차 파라미터와 프레임 7의 시차 파라미터간의 차이가 시차 변화 임계값 이내이도록 프레임 8의 시차 파라미터를 증가시킬 필요가 있다. 이에 따라, 상기 방법과 유사하게, 프레임 8의 시차 파라미터는, 프레임 8의 시차 파라미터와 프레임 7의 시차 파라미터간의 차이가 시차 변화 임계값 이내가 되도록 시차 파라미터 조정 함수 에 따라 조정(증가)될 수 있다. On the other hand, referring to Figures 8 (a) and (b), since the difference obtained by subtracting the adjusted parallax parameter of frame 7 from the parallax parameter of frame 8 is greater than or equal to the parallax variation threshold, user's eye fatigue is alleviated. To do this, it is necessary to increase the parallax parameter of frame 8 such that the difference between the parallax parameter of frame 8 and the parallax parameter of frame 7 is within the parallax variation threshold. Accordingly, similar to the above method, the parallax parameter of frame 8 may be adjusted (increased) according to the parallax parameter adjusting function such that the difference between the parallax parameter of frame 8 and the parallax parameter of frame 7 is within a parallax variation threshold. .
게다가, 프레임 9 내지 11은 연속적이고 비교적 변화가 큰 음의 시차 변화를 형성하기 때문에(즉, 시차 변화가 시차 변화 임계값 이상이기 때문에), 프레임 9 내지 11은, 도 8의 (b)에 도시된 바와 같이, 조정된 각각의 이미지 프레임들을 획득하기 위하여, 프레임 8과 비슷한 방법으로 조정될 수 있다. 상기 방법에서 보여진 것과 같이, 시차 파라미터의 완만한 변화는 보장될 수 있으며, 따라서 사용자의 눈의 피로 정도를 줄일 수 있다. In addition, since the frames 9 to 11 form a continuous and relatively large change in negative parallax (that is, because the parallax change is greater than or equal to the parallax variation threshold), the frames 9 to 11 are shown in Fig. 8B. As shown, in order to obtain adjusted individual image frames, it may be adjusted in a similar manner to frame 8. As shown in the method, gentle changes in parallax parameters can be ensured, thus reducing the degree of eye strain of the user.
이하에서는, 보다 구체적인 예와 관련하여, 장면이 변할 때, 시차 파라미터가 인체의 눈의 포커싱 특징에 따라 조정되는 방법이 개시될 것이다. In the following, in connection with a more specific example, a method will be disclosed in which the parallax parameters are adjusted according to the focusing characteristics of the eye of the human body when the scene changes.
앞서 설명된 바와 같이, 3D 비디오 내의 물체들의 깊이가 끊임없이 변경되기 때문에, 시차 파라미터는 변경될 뿐만 아니라, 빈번하게 변경된 포커싱 때문에 사용자로 하여금 눈이 불편하게 느끼게 한다. 그러한 깊이 변화는 동일한 장면에서 발생할 수 있으며, 장면이 변경될 때 발생할 수도 있다. As described above, because the depth of objects in the 3D video is constantly changing, the parallax parameters not only change, but also make the user feel uncomfortable due to the frequently changed focusing. Such depth change may occur in the same scene, or may occur when the scene changes.
도 9는 본 개시의 일부 실시예에 따른, 장면이 변경될 때, 인체의 눈의 포커싱 특징에 기초하여 시차 파라미터를 조정하는 예시를 도시한다. 도 9의 (a) 내지 (c)를 참조하면, 장면 변경은 3D 비디오 이미지에서 발생할 수 있으며, 이미지 내에서 둥근 물체는 직사각형 물체로 변경될 수 있다. 명확성을 위해, 좌안용 및 우안용 이미지 내의 동일 물체가 다른 음영으로 인식되도록 표현되었다. 밝은 색의 객체들은 좌안용 이미지를 의미할 수 있으며, 어두운 색의 객체들은 우안용 이미지를 의미할 수 있다. 도 9의 (a) 및 (b)에 도시된 바와 같이, 도 9의 (a)에 도시된 이미지에 비교적 큰 양의 시차가 존재하며, 도 9의 (b)에 도시된 이미지에 비교적 작은 양의 시차가 존재한다. 따라서, 현재 프레임에 대하여, 비교적 큰 음의 시차 변화가, 현재 프레임의 비교적 작은 양의 시차로부터 이전 프레임의 비교적 큰 양의 시차를 뺌으로써 획득되는 것을 알 수 있다. 음의 시차 변화가 시차 변화 임계값 이상일 때, 시차 파라미터를 조정할 필요가 있다.9 illustrates an example of adjusting parallax parameters based on a focusing feature of the eye of the human body when the scene changes, in accordance with some embodiments of the present disclosure. Referring to (a) to (c) of FIG. 9, a scene change may occur in a 3D video image, and a round object in the image may be changed into a rectangular object. For clarity, the same object in the left eye and right eye images has been represented in different shades. Light colored objects may mean an image for the left eye, and dark colored objects may mean an image for the right eye. As shown in Figs. 9A and 9B, there is a relatively large amount of parallax in the image shown in Fig. 9A, and a relatively small amount in the image shown in Fig. 9B. There is a parallax of. Thus, it can be seen that for a current frame, a relatively large negative parallax variation is obtained by subtracting a relatively large positive parallax of the previous frame from a relatively small positive parallax of the current frame. When the negative parallax change is greater than or equal to the parallax variation threshold, it is necessary to adjust the parallax parameter.
예를 들어, 이러한 구체적 예에서, 현재 프레임의 시차 파라미터를 감소시키거나 증가시킴으로써 조정은 수행될 수 있다. 조정된 이미지 프레임은 도 9의 (c)에 도시된다. 도 9의 (c)에 도시된 바와 같이, 조정된 프레임 이미지는 도 9의 (b)에 비하여 비교적 큰 양의 시차를 가지며, 따라서, 현재 프레임의 조정된 양의 시차는 이전 프레임의 양의 시차와 비교적 가까워 질 수 있으며, 현재 프레임의 시차 파라미터 변화가 시차 변화 임계값 이내가 될 수 있다.For example, in this specific example, the adjustment may be performed by decreasing or increasing the parallax parameter of the current frame. The adjusted image frame is shown in Fig. 9C. As shown in Fig. 9C, the adjusted frame image has a relatively large amount of parallax compared to Fig. 9B, so that the adjusted positive parallax of the current frame is the positive parallax of the previous frame. It can be relatively close to, and the parallax parameter change of the current frame can be within the parallax variation threshold.
다시 도 7을 참조하면, 3D 비디오의 시차 파라미터가 조정된 후에, 단계 S760에서, 3D 비디오 재생이 중지되었는지 여부가 결정될 수 있다. 3D 비디오 재생이 중지되지 않았을 때, 방법은 단계 S710으로 되돌아갈 수 있다.Referring back to FIG. 7, after the parallax parameter of the 3D video is adjusted, in step S760, it may be determined whether 3D video playback is stopped. When the 3D video playback is not stopped, the method may return to step S710.
상기 과정을 통해, 눈이 초점 길이를 변경하도록 강요하는 시차 변화는, 사물을 볼 때 포커싱하는 인체의 눈의 시각 특징에 따라 감소될 수 있다. 따라서, 3D 비디오를 재생하는 동안 시차의 완만함이 보장될 수 있다. 이에 따라, 사용자의 시각적 편안함 수준을 향상시키기 위하여, 3D 비디오의 재생은 3D 시각 효과를 보장하는 동시에, 인체의 눈의 생리적 특성을 고도로 따를 수 있다. Through the above process, the parallax variation forcing the eye to change the focal length can be reduced according to the visual characteristics of the eye of the human body focusing when viewing the object. Thus, smoothness of parallax can be ensured while playing back 3D video. Accordingly, in order to improve the level of visual comfort of the user, the reproduction of the 3D video can ensure a 3D visual effect and at the same time highly follow the physiological characteristics of the human eye.
게다가, 보다 나은 조정 효과를 획득하기 위하여, 상기 기술된 두 가지 방법은 결합될 수 있다. In addition, the two methods described above can be combined in order to obtain a better adjustment effect.
도 10은, 본 개시의 다른 일부 실시예에 따른, 3D 디스플레이 효과를 조정하기 위한 방법을 나타내는 흐름도를 도시한다.10 shows a flowchart illustrating a method for adjusting 3D display effects, in accordance with some other embodiments of the present disclosure.
도 10을 참조하면, 단계 S1010 및 S1020는, 도 4에 도시된 단계 S410 및 S420와 유사하므로, 도 10의 단계 S1010 및 S1020에 대한 설명은 생략될 것이다.Referring to FIG. 10, steps S1010 and S1020 are similar to steps S410 and S420 illustrated in FIG. 4, and thus descriptions of steps S1010 and S1020 of FIG. 10 will be omitted.
단계 S1030에서, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상인지 여부가 결정될 수 있다. 눈 피로 임계값은 사용자가 눈이 피곤하다고 느끼는지 여부를 결정하기 위해 사용되는 기 설정된 임계값일 수 있다. 구체적으로, 사용자의 현재 눈의 피로 정도를 눈 피로 임계값과 비교함으로써, 3D 디스플레이 효과가 조정되어야 하는지 여부가 결정될 수 있다. In operation S1030, it may be determined whether the current degree of eye fatigue of the user is greater than or equal to an eye fatigue threshold. The eye fatigue threshold may be a preset threshold used to determine whether the user feels tired. Specifically, by comparing the current degree of fatigue of the user with the eye fatigue threshold, it may be determined whether the 3D display effect should be adjusted.
구체적으로, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 미만일 때, 3D 비디오의 시차 파라미터는 조정되지 않을 수 있다. 이에 따라, 단계 S1080에서, 3D 비디오 재생이 중지되었는지 여부가 결정될 수 있다. 3D 비디오 재생이 중지되지 않았을 때, 방법은 단계 S1010으로 되돌아가, 계속하여 사용자가 3D 비디오를 시청할 때의 사용자의 눈의 특징을 획득할 수 있다. Specifically, when the current eye fatigue level of the user is below the eye fatigue threshold, the parallax parameter of the 3D video may not be adjusted. Accordingly, in step S1080, it may be determined whether 3D video reproduction is stopped. When the 3D video playback is not stopped, the method may return to step S1010 to continue to acquire the features of the user's eyes when the user watches the 3D video.
반면, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상일 때, 단계 S1040에서, 3D 비디오의 시차 파라미터가 시차 파라미터 임계값 이상인지 여부가 결정될 수 있다. 예로써, 시차 파라미터 임계값은 미리 결정될 수 있으며, 사용자의 현재 눈의 피로 정도에 따라 동적으로 결정될 수도 있다. 예를 들어, 시차 파라미터 임계값은 미리 결정된 평균 시차, 시차 범위 또는 고유의 평균 시차 일 수 있으며, 또는 사용자의 현재 눈의 피로 정도에 대응하는 시차 범위일 수 있다.On the other hand, when the degree of fatigue of the user's current eye is greater than or equal to the eye fatigue threshold, in step S1040, it may be determined whether or not the parallax parameter of the 3D video is greater than or equal to the parallax parameter threshold. By way of example, the parallax parameter threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user. For example, the parallax parameter threshold may be a predetermined average parallax, parallax range or inherent average parallax, or may be a parallax range corresponding to the current degree of eye fatigue of a user.
시차 파라미터가 시차 파라미터 임계값 이상일 때, 단계 S1050에서, 3D 비디오의 시차 파라미터가 시차 파라미터 임계값 이내 이도록 조정될 수 있다.When the parallax parameter is greater than or equal to the parallax parameter threshold, in step S1050, the parallax parameter of the 3D video may be adjusted to be within the parallax parameter threshold.
바람직하게, 더 나아가, 단계 S1060에서, 3D 비디오의 현재 프레임의 시차 파라미터 및 이전 프레임의 시차 파라미터간의 차이가 시차 변화 임계값 이상인지 여부가 결정될 수 있다. 예로써, 시차 변화 임계값은 미리 결정될 수 있으며, 사용자의 현재 눈의 피로 정도에 따라 동적으로 결정될 수도 있다. 예를 들어, 시차 변화 임계값은 평균 시차 또는 시차 범위의 변화를 측정하기 위해 사용되는 미리 결정된 임계값, 또는 사용자의 현재 눈의 피로 정도에 대응하는 평균 시차 또는 시차 범위의 변화를 측정하기 위한 고유의 미리 결정된 임계값일 수 있다.Preferably, furthermore, in step S1060, it may be determined whether the difference between the parallax parameter of the current frame of the 3D video and the parallax parameter of the previous frame is greater than or equal to the parallax variation threshold. By way of example, the parallax change threshold may be predetermined and may be dynamically determined according to the current degree of eye fatigue of the user. For example, the parallax variation threshold is a predetermined threshold used to measure the average parallax or variation in the parallax range, or inherent for measuring a variation in the average parallax or parallax range corresponding to the current degree of eye fatigue of the user. May be a predetermined threshold of.
3D 비디오의 현재 프레임의 시차 파라미터 및 이전 프레임의 시차 파라미터간의 차이가 시차 변화 임계값 이상일 때, 단계 S1070에서, 3D 비디오의 현재 프레임의 시차 파라미터는, 3D 비디오의 현재 프레임의 시차 파라미터 및 이전 프레임의 시차 파라미터간의 차이가 시차 변화 임계값 이내가 되도록 조정될 수 있다. When the difference between the parallax parameter of the current frame of the 3D video and the parallax parameter of the previous frame is greater than or equal to the parallax change threshold, in step S1070, the parallax parameter of the current frame of the 3D video is determined by the parallax parameter of the current frame of the 3D video and the previous frame. The difference between the parallax parameters may be adjusted to be within the parallax variation threshold.
3D 비디오의 시차 파라미터가 조정된 후에, 단계 S1080에서, 3D 비디오 재생이 중지되었는지 여부가 결정될 수 있다. 3D 비디오 재생이 중지되지 않았을 때, 방법은 단계 S1010으로 되돌아갈 수 있다.After the parallax parameter of the 3D video is adjusted, in step S1080, it may be determined whether 3D video reproduction is stopped. When the 3D video playback is not stopped, the method may return to step S1010.
앞서 설명한 바와 같이, 디바이스(1000) 및 방법에서, 3D 디스플레이 효과는 적절한 순간에 사용자의 현재 눈의 피로 정도에 따라 조정될 수 있으며, 이에 따라, 사용자의 눈 피로를 줄이는 동시에 3D 비디오의 입체 디스플레이 효과를 보장할 수 있다. 이에 따라, 인체의 눈의 생리적 특성을 따르면서, 3D 이미지 디스플레이의 기술적 효과를 획득할 수 있다. As described above, in the device 1000 and the method, the 3D display effect may be adjusted according to the current degree of eye fatigue of the user at an appropriate moment, thereby reducing the user's eye fatigue and at the same time reducing the stereoscopic display effect of the 3D video. I can guarantee it. Accordingly, the technical effects of the 3D image display may be obtained while following the physiological characteristics of the human eye.
도 11은 본 개시의 일부 실시예에 따른, 3D 디스플레이 효과를 조정하기 위한 사용자 인터페이스의 예시를 도시한 도면이다. 11 illustrates an example of a user interface for adjusting 3D display effects, in accordance with some embodiments of the present disclosure.
도 11을 참조하면, 디바이스(1000)는 3D 비디오에 대한 시차 조정을 자동으로 수행한 후, 시차 조정이 완료되었음을 나타내는 알림창(1120)을 디스플레이할 수 있다.Referring to FIG. 11, the device 1000 may automatically perform parallax adjustment on 3D video and then display a notification window 1120 indicating that parallax adjustment is completed.
알림창(1120)은 확인 버튼(1122), 고정 버튼(1124) 및 취소 버튼(1126)을 포함할 수 있다. The notification window 1120 may include a confirmation button 1122, a fixed button 1124, and a cancel button 1126.
확인 버튼(1122)을 선택하는 사용자 입력을 수신함에 따라, 디바이스(1000)는 알림창을 삭제할 수 있다. 또한, 실시예에 따라, 디바이스(1000)는 기 설정된 시간이 경과하면 알림창을 자동으로 삭제할 수도 있다.In response to receiving a user input of selecting the confirmation button 1122, the device 1000 may delete the notification window. According to an embodiment, the device 1000 may automatically delete the notification window when a preset time elapses.
고정 버튼(1124)을 선택하는 사용자 입력을 수신함에 따라, 디바이스(1000)는 사용자의 눈 피로 정도에 상관없이, 계속하여 현재의 시차 파라미터 임계값을 기준으로 3D 비디오의 시차를 조정할 수 있다. Upon receiving a user input of selecting the fixed button 1124, the device 1000 may continuously adjust the parallax of the 3D video based on the current parallax parameter threshold regardless of the degree of eye fatigue of the user.
취소 버튼(1126)을 선택하는 사용자 입력을 수신함에 따라, 시차가 조정되었던 3D 비디오를 조정되기 전 상태로 되돌릴 수 있다. Upon receiving a user input of selecting the cancel button 1126, the 3D video that has been adjusted can be returned to its pre-adjusted state.
도 12 및 도 13은 일부 실시예에 따른 디바이스(1000)의 블록도이다.12 and 13 are block diagrams of a device 1000 according to some embodiments.
도 12에 도시된 바와 같이, 일부 실시예에 따른 디바이스(1000)는, 사용자 입력부(1100), 출력부(1200), 제어부(1300), 및 통신부(1500)를 포함할 수 있다. 그러나, 도 12에 도시된 구성 요소 모두가 디바이스(1000)의 필수 구성 요소인 것은 아니다. 도 12에 도시된 구성 요소보다 많은 구성 요소에 의해 디바이스(1000)가 구현될 수도 있고, 도 12에 도시된 구성 요소보다 적은 구성 요소에 의해 디바이스(1000)가 구현될 수도 있다.As illustrated in FIG. 12, the device 1000 according to some embodiments may include a user input unit 1100, an output unit 1200, a controller 1300, and a communication unit 1500. However, not all of the components illustrated in FIG. 12 are essential components of the device 1000. The device 1000 may be implemented by more components than the components illustrated in FIG. 12, and the device 1000 may be implemented by fewer components than the components illustrated in FIG. 12.
예를 들어, 도 13에 도시된 바와 같이, 일부 실시예에 따른 디바이스(1000)는, 사용자 입력부(1100), 출력부(1200), 제어부(1300), 및 통신부(1500) 이외에 센싱부(1400), A/V 입력부(1600), 및 메모리(1700)를 더 포함할 수도 있다. For example, as illustrated in FIG. 13, the device 1000 according to some embodiments may include a sensing unit 1400 in addition to the user input unit 1100, the output unit 1200, the control unit 1300, and the communication unit 1500. ) May further include an A / V input unit 1600 and a memory 1700.
카메라(1610)는 디바이스(1000)에 부착되어 사용자의 눈을 포함하는 얼굴 이미지를 촬영할 수 있으며, 3D 비디오 시청을 위한 사용자의 안경(미도시)에 부착되어 사용자의 눈 이미지를 촬영할 수도 있다. The camera 1610 may be attached to the device 1000 to capture a face image including the user's eyes, and may be attached to the user's glasses (not shown) for viewing 3D video to capture the user's eye image.
사용자 입력부(1100)는, 사용자가 디바이스(1000)를 제어하기 위한 데이터를 입력하는 수단을 의미한다. 예를 들어, 사용자 입력부(1100)에는 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등), 조그 휠, 조그 스위치 등이 있을 수 있으나 이에 한정되는 것은 아니다.The user input unit 1100 means a means for a user to input data for controlling the device 1000. For example, the user input unit 1100 includes a key pad, a dome switch, a touch pad (contact capacitive type, pressure resistive layer type, infrared sensing type, surface ultrasonic conduction type, and integral type). Tension measurement method, piezo effect method, etc.), a jog wheel, a jog switch, and the like, but are not limited thereto.
사용자 입력부(1100)는, 3D 비디오의 시차를 조정하는 사용자 입력을 수신할 수 있다. The user input unit 1100 may receive a user input for adjusting parallax of 3D video.
출력부(1200)는, 오디오 신호 또는 비디오 신호 또는 진동 신호를 출력할 수 있으며, 출력부(1200)는 디스플레이부(1210), 음향 출력부(1220), 및 진동 모터(1230)를 포함할 수 있다.The output unit 1200 may output an audio signal, a video signal, or a vibration signal, and the output unit 1200 may include a display unit 1210, an audio output unit 1220, and a vibration motor 1230. have.
디스플레이부(1210)는 디바이스(1000)에서 처리되는 정보를 표시 출력한다. 예를 들어, 디스플레이부(1210)는, 3D 비디오를 디스플레이할 수 있다. 또한, 디스플레이부(1210)는, 3D 비디오의 시차가 조정되었음을 알리는 알림창을 디스플레이할 수 있다. The display unit 1210 displays and outputs information processed by the device 1000. For example, the display unit 1210 may display 3D video. In addition, the display unit 1210 may display a notification window notifying that the parallax of the 3D video is adjusted.
한편, 디스플레이부(1210)와 터치패드가 레이어 구조를 이루어 터치 스크린으로 구성되는 경우, 디스플레이부(1210)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 디스플레이부(1210)는 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display), 유기 발광 다이오드(organic light-emitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전기영동 디스플레이(electrophoretic display) 중에서 적어도 하나를 포함할 수 있다. 그리고 디바이스(1000)의 구현 형태에 따라 디바이스(1000)는 디스플레이부(1210)를 2개 이상 포함할 수도 있다. 이때, 2개 이상의 디스플레이부(1210)는 힌지(hinge)를 이용하여 마주보게 배치될 수 있다. Meanwhile, when the display unit 1210 and the touch pad form a layer structure and are configured as a touch screen, the display unit 1210 may be used as an input device in addition to the output device. The display unit 1210 may include a liquid crystal display, a thin film transistor-liquid crystal display, an organic light-emitting diode, a flexible display, and a three-dimensional display. 3D display, an electrophoretic display. In addition, the device 1000 may include two or more display units 1210 according to an implementation form of the device 1000. In this case, the two or more display units 1210 may be disposed to face each other using a hinge.
음향 출력부(1220)는 통신부(1500)로부터 수신되거나 메모리(1700)에 저장된 오디오 데이터를 출력한다. 또한, 음향 출력부(1220)는 디바이스(1000)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음, 알림음)과 관련된 음향 신호를 출력한다. 이러한 음향 출력부(1220)에는 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.The sound output unit 1220 outputs audio data received from the communication unit 1500 or stored in the memory 1700. In addition, the sound output unit 1220 outputs a sound signal related to a function (for example, a call signal reception sound, a message reception sound, and a notification sound) performed by the device 1000. The sound output unit 1220 may include a speaker, a buzzer, and the like.
진동 모터(1230)는 진동 신호를 출력할 수 있다. 예를 들어, 진동 모터(1230)는 오디오 데이터 또는 비디오 데이터(예컨대, 호신호 수신음, 메시지 수신음 등)의 출력에 대응하는 진동 신호를 출력할 수 있다. 또한, 진동 모터(1230)는 터치스크린에 터치가 입력되는 경우 진동 신호를 출력할 수도 있다.The vibration motor 1230 may output a vibration signal. For example, the vibration motor 1230 may output a vibration signal corresponding to the output of audio data or video data (eg, a call signal reception sound, a message reception sound, etc.). In addition, the vibration motor 1230 may output a vibration signal when a touch is input to the touch screen.
제어부(1300)는, 통상적으로 디바이스(1000)의 전반적인 동작을 제어한다. 예를 들어, 제어부(1300)는, 메모리(1700)에 저장된 프로그램들을 실행함으로써, 사용자 입력부(1100), 출력부(1200), 센싱부(1400), 통신부(1500), A/V 입력부(1600) 등을 전반적으로 제어할 수 있다. The controller 1300 generally controls the overall operation of the device 1000. For example, the controller 1300 executes programs stored in the memory 1700, such that the user input unit 1100, the output unit 1200, the sensing unit 1400, the communication unit 1500, and the A / V input unit 1600 are provided. ) Can be controlled overall.
예를 들어, 제어부(1300)는 촬영된 사용자의 눈의 이미지로부터 사용자의 눈의 특징을 획득하고, 획득된 눈의 특징에 기초하여 사용자의 현재 눈 피로 정도를 결정하고, 사용자의 현재 눈의 피로 정도에 따라 3D 비디오의 시차를 조정할 수 있다. For example, the controller 1300 obtains a feature of the user's eyes from the image of the user's eyes, determines the current eye fatigue level of the user based on the acquired eye feature, and the user's current eye fatigue. You can adjust the parallax of 3D video according to the degree.
예를 들어, 제어부(1300)는 3D 비디오의 프레임들간의 시차의 변화율을 조정함으로써 3D 비디오의 시차를 조정할 수 있다. 이 경우, 제어부(1300)는, 3D 비디오의 현재 프레임과 이전 프레임간의 시차의 차이가 시차 변화 임계값 이상인지 여부를 결정하고, 시차의 차이가 시차 변화 임계값 이상인 경우, 시차의 차이가 시차 변화 임계값 이내이도록, 현재 프레임의 시차를 조정함으로써, 3D 비디오의 현재 프레임과 이전 프레임간의 시차의 변화율을 조정할 수 있다.For example, the controller 1300 may adjust the parallax of the 3D video by adjusting the rate of change of parallax between the frames of the 3D video. In this case, the controller 1300 determines whether the difference in the parallax between the current frame and the previous frame of the 3D video is greater than or equal to the parallax variation threshold, and when the difference in the parallax is greater than or equal to the parallax variation threshold, the difference in the parallax is parallax variation. By adjusting the parallax of the current frame to be within the threshold, it is possible to adjust the rate of change of parallax between the current frame and the previous frame of the 3D video.
또한, 제어부(1300)는 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상인지 여부를 결정하고, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상인 경우, 3D 비디오의 시차를 조정할 수 있다. In addition, the controller 1300 may determine whether the user's current eye fatigue level is greater than or equal to the eye fatigue threshold value, and when the user's current eye fatigue level is greater than or equal to the eye fatigue threshold value, the controller 1300 may adjust the parallax of the 3D video.
또한, 제어부(1300)는, 사용자의 현재 눈의 피로 정도가 눈 피로 임계값 이상인 경우, 3D 비디오의 시차가 임계값 이상인지 여부를 결정하고, 3D 비디오의 시차가 임계값 이상인 경우, 3D 비디오의 시차가 임계값 이내가 되도록 3D 비디오의 시차를 조정할 수 있다. The controller 1300 may determine whether the parallax of the 3D video is greater than or equal to the threshold when the degree of fatigue of the user is greater than or equal to the eye fatigue threshold. The parallax of the 3D video may be adjusted such that the parallax is within a threshold.
또한, 제어부(1300)는 사용자의 현재 눈의 피로 정도에 따라 동적으로 시차 변화 임계값을 결정할 수 있다. 또한, 제어부(1300)는 사용자의 현재 눈의 피로 정도에 따라 동적으로 시차 파라미터 임계값을 결정할 수 있다. In addition, the controller 1300 may dynamically determine the parallax variation threshold value according to the current eye fatigue level of the user. In addition, the controller 1300 may dynamically determine the parallax parameter threshold according to the current degree of eye fatigue of the user.
예를 들어, 제어부(1300)는 현재 눈의 피로 정도가 큰 경우, 시차 변화 임계값 또는 시차 파라미터 임계값을 낮출 수 있다. 제어부(1300)는 낮춰진 시차 변화 임계값 또는 시차 파라미터 임계값에 기초하여, 3D 비디오의 시차를 조정할 수 있다. For example, when the current degree of eye fatigue is large, the controller 1300 may lower the parallax variation threshold or parallax parameter threshold. The controller 1300 may adjust the parallax of the 3D video based on the lowered parallax variation threshold or parallax parameter threshold.
센싱부(1400)는, 디바이스(1000)의 상태 또는 디바이스(1000) 주변의 상태를 감지하고, 감지된 정보를 제어부(1300)로 전달할 수 있다. The sensing unit 1400 may detect a state of the device 1000 or a state around the device 1000 and transmit the detected information to the controller 1300.
센싱부(1400)는, 지자기 센서(Magnetic sensor)(1410), 가속도 센서(Acceleration sensor)(1420), 온/습도 센서(1430), 적외선 센서(1440), 자이로스코프 센서(1450), 위치 센서(예컨대, GPS)(1460), 기압 센서(1470), 근접 센서(1480), 및 RGB 센서(illuminance sensor)(1490) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. 각 센서들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있으므로, 구체적인 설명은 생략하기로 한다.The sensing unit 1400 may include a geomagnetic sensor 1410, an acceleration sensor 1420, a temperature / humidity sensor 1430, an infrared sensor 1440, a gyroscope sensor 1450, and a position sensor. (Eg, GPS) 1460, barometric pressure sensor 1470, proximity sensor 1480, and RGB sensor (illuminance sensor) 1490, but are not limited thereto. Since functions of the respective sensors can be intuitively deduced by those skilled in the art from the names, detailed descriptions thereof will be omitted.
통신부(1500)는, 디바이스(1000)와 다른 디바이스(미도시) 또는 디바이스(1000)와 서버(미도시) 간의 통신을 하게 하는 하나 이상의 구성요소를 포함할 수 있다. 예를 들어, 통신부(1500)는, 근거리 통신부(1510), 이동 통신부(1520), 방송 수신부(1530)를 포함할 수 있다. The communication unit 1500 may include one or more components that allow communication between the device 1000 and another device (not shown) or the device 1000 and a server (not shown). For example, the communicator 1500 may include a short range communicator 1510, a mobile communicator 1520, and a broadcast receiver 1530.
근거리 통신부(short-range wireless communication unit)(1510)는, 블루투스 통신부, BLE(Bluetooth Low Energy) 통신부, 근거리 무선 통신부(Near Field Communication unit), WLAN(와이파이) 통신부, 지그비(Zigbee) 통신부, 적외선(IrDA, infrared Data Association) 통신부, WFD(Wi-Fi Direct) 통신부, UWB(ultra wideband) 통신부, Ant+ 통신부 등을 포함할 수 있으나, 이에 한정되는 것은 아니다. The short-range wireless communication unit 1510 includes a Bluetooth communication unit, a Bluetooth low energy (BLE) communication unit, a near field communication unit, a WLAN (Wi-Fi) communication unit, a Zigbee communication unit, an infrared ray ( IrDA (Infrared Data Association) communication unit, WFD (Wi-Fi Direct) communication unit, UWB (ultra wideband) communication unit, Ant + communication unit and the like, but may not be limited thereto.
이동 통신부(1520)는, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 여기에서, 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.The mobile communication unit 1520 transmits and receives a radio signal with at least one of a base station, an external terminal, and a server on a mobile communication network. Here, the wireless signal may include various types of data according to transmission and reception of a voice call signal, a video call call signal, or a text / multimedia message.
방송 수신부(1530)는, 방송 채널을 통하여 외부로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 구현 예에 따라서 디바이스(1000)가 방송 수신부(1530)를 포함하지 않을 수도 있다.The broadcast receiving unit 1530 receives a broadcast signal and / or broadcast related information from the outside through a broadcast channel. The broadcast channel may include a satellite channel and a terrestrial channel. According to an implementation example, the device 1000 may not include the broadcast receiver 1530.
A/V(Audio/Video) 입력부(1600)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(1610)와 마이크로폰(1620) 등이 포함될 수 있다. 카메라(1610)는 화상 통화모드 또는 촬영 모드에서 이미지 센서를 통해 정지영상 또는 동영상 등의 화상 프레임을 얻을 수 있다. 이미지 센서를 통해 캡쳐된 이미지는 제어부(1300) 또는 별도의 이미지 처리부(미도시)를 통해 처리될 수 있다. The A / V input unit 1600 is for inputting an audio signal or a video signal, and may include a camera 1610 and a microphone 1620. The camera 1610 may obtain an image frame such as a still image or a moving image through an image sensor in a video call mode or a photographing mode. The image captured by the image sensor may be processed by the controller 1300 or a separate image processor (not shown).
카메라(1610)에서 처리된 화상 프레임은 메모리(1700)에 저장되거나 통신부(1500)를 통하여 외부로 전송될 수 있다. 카메라(1610)는 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.The image frame processed by the camera 1610 may be stored in the memory 1700 or transmitted to the outside through the communication unit 1500. Two or more cameras 1610 may be provided according to the configuration aspect of the terminal.
마이크로폰(1620)은, 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 예를 들어, 마이크로폰(1620)은 외부 디바이스 또는 화자로부터 음향 신호를 수신할 수 있다. 마이크로폰(1620)은 외부의 음향 신호를 입력 받는 과정에서 발생 되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘을 이용할 수 있다. The microphone 1620 receives an external sound signal and processes the external sound signal into electrical voice data. For example, the microphone 1620 may receive an acoustic signal from an external device or speaker. The microphone 1620 may use various noise removing algorithms for removing noise generated in the process of receiving an external sound signal.
메모리(1700)는, 제어부(1300)의 처리 및 제어를 위한 프로그램을 저장할 수 있고, 디바이스(1000)로 입력되거나 디바이스(1000)로부터 출력되는 데이터를 저장할 수도 있다. The memory 1700 may store a program for processing and controlling the controller 1300, and may store data input to or output from the device 1000.
메모리(1700)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM, Random Access Memory) SRAM(Static Random Access Memory), 롬(ROM, Read-Only Memory), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. The memory 1700 may include a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory), RAM Random Access Memory (RAM) Static Random Access Memory (SRAM), Read-Only Memory (ROM), Electrically Erasable Programmable Read-Only Memory (EEPROM), Programmable Read-Only Memory (PROM), Magnetic Memory, Magnetic Disk It may include at least one type of storage medium of the optical disk.
메모리(1700)에 저장된 프로그램들은 그 기능에 따라 복수 개의 모듈들로 분류할 수 있는데, 예를 들어, UI 모듈(1710), 터치 스크린 모듈(1720), 알림 모듈(1730) 등으로 분류될 수 있다. Programs stored in the memory 1700 may be classified into a plurality of modules according to their functions. For example, the programs stored in the memory 1700 may be classified into a UI module 1710, a touch screen module 1720, a notification module 1730, and the like. .
UI 모듈(1710)은, 애플리케이션 별로 디바이스(1000)와 연동되는 특화된 UI, GUI 등을 제공할 수 있다. 터치 스크린 모듈(1720)은 사용자의 터치 스크린 상의 터치 제스처를 감지하고, 터치 제스처에 관한 정보를 제어부(1300)로 전달할 수 있다. 일부 실시예에 따른 터치 스크린 모듈(1720)은 터치 코드를 인식하고 분석할 수 있다. 터치 스크린 모듈(1720)은 컨트롤러를 포함하는 별도의 하드웨어로 구성될 수도 있다.The UI module 1710 may provide a specialized UI, GUI, or the like that is linked with the device 1000 for each application. The touch screen module 1720 may detect a touch gesture on a user's touch screen and transmit information about the touch gesture to the controller 1300. The touch screen module 1720 according to some embodiments may recognize and analyze a touch code. The touch screen module 1720 may be configured as separate hardware including a controller.
터치스크린의 터치 또는 근접 터치를 감지하기 위해 터치스크린의 내부 또는 근처에 다양한 센서가 구비될 수 있다. 터치스크린의 터치를 감지하기 위한 센서의 일례로 촉각 센서가 있다. 촉각 센서는 사람이 느끼는 정도로 또는 그 이상으로 특정 물체의 접촉을 감지하는 센서를 말한다. 촉각 센서는 접촉면의 거칠기, 접촉 물체의 단단함, 접촉 지점의 온도 등의 다양한 정보를 감지할 수 있다.Various sensors may be provided inside or near the touch screen to detect a touch or proximity touch of the touch screen. An example of a sensor for sensing a touch of a touch screen is a tactile sensor. The tactile sensor refers to a sensor that senses the contact of a specific object to the extent that a person feels or more. The tactile sensor may sense various information such as the roughness of the contact surface, the rigidity of the contact object, the temperature of the contact point, and the like.
또한, 터치스크린의 터치를 감지하기 위한 센서의 일례로 근접 센서가 있다.In addition, an example of a sensor for sensing a touch of a touch screen is a proximity sensor.
근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 사용자의 터치 제스처에는 탭, 터치&홀드, 더블 탭, 드래그, 패닝, 플릭, 드래그 앤드 드롭, 스와이프 등이 있을 수 있다.The proximity sensor refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or an object present in the vicinity without using a mechanical contact by using an electromagnetic force or infrared rays. Examples of the proximity sensor include a transmission photoelectric sensor, a direct reflection photoelectric sensor, a mirror reflection photoelectric sensor, a high frequency oscillation proximity sensor, a capacitive proximity sensor, a magnetic proximity sensor, and an infrared proximity sensor. The user's touch gesture may include tap, touch and hold, double tap, drag, pan, flick, drag and drop, and swipe.
알림 모듈(1730)은 디바이스(1000)의 이벤트 발생을 알리기 위한 신호를 발생할 수 있다. 디바이스(1000)에서 발생되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 일정 알림 등이 있다. 알림 모듈(1730)은 디스플레이부(1210)를 통해 비디오 신호 형태로 알림 신호를 출력할 수도 있고, 음향 출력부(1220)를 통해 오디오 신호 형태로 알림 신호를 출력할 수도 있고, 진동 모터(1230)를 통해 진동 신호 형태로 알림 신호를 출력할 수도 있다.The notification module 1730 may generate a signal for notifying occurrence of an event of the device 1000. Examples of events occurring in the device 1000 include call signal reception, message reception, key signal input, and schedule notification. The notification module 1730 may output a notification signal in the form of a video signal through the display unit 1210, may output the notification signal in the form of an audio signal through the sound output unit 1220, and the vibration motor 1230. Through the notification signal may be output in the form of a vibration signal.
본 발명의 일 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈, 또는 반송파와 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다. One embodiment of the present invention can also be implemented in the form of a recording medium containing instructions executable by a computer, such as a program module executed by the computer. Computer readable media can be any available media that can be accessed by a computer and includes both volatile and nonvolatile media, removable and non-removable media. In addition, computer readable media may include both computer storage media and communication media. Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data. Communication media typically includes computer readable instructions, data structures, program modules, or other data in a modulated data signal such as a carrier wave, or other transmission mechanism, and includes any information delivery media.
본 개시는 일부 실시예에 관하여 상세히 기술되고 도시됨으로써, 본 개시와 동일한 기술 분야의 통상의 기술자에 의해 이해될 수 있으며, 후술하는 특허청구범위에 의해 정의된 본 개시의 의미 및 범위로부터 벗어남 없이, 본 개시의 형식 및 세부 사항에서 다양한 변경이 이루어질 수 있다. The present disclosure has been described and described in detail with respect to some embodiments, which can be understood by a person skilled in the same art as the present disclosure, without departing from the meaning and scope of the present disclosure as defined by the following claims. Various changes may be made in the form and details of the disclosure.
본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다. The terms used in the present invention have been selected as widely used general terms as possible in consideration of the functions in the present invention, but this may vary according to the intention or precedent of the person skilled in the art, the emergence of new technologies and the like. In addition, in certain cases, there is also a term arbitrarily selected by the applicant, in which case the meaning will be described in detail in the description of the invention. Therefore, the terms used in the present invention should be defined based on the meanings of the terms and the contents throughout the present invention, rather than the names of the simple terms.
명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. 또한, 명세서에 기재된 "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.When any part of the specification is to "include" any component, this means that it may further include other components, except to exclude other components unless otherwise stated. In addition, the terms "... unit", "module", etc. described in the specification mean a unit for processing at least one function or operation, which may be implemented in hardware or software or a combination of hardware and software. .
아래에서는 첨부한 도면을 참고하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.DETAILED DESCRIPTION Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art may easily implement the present invention. As those skilled in the art would realize, the described embodiments may be modified in various different ways, all without departing from the spirit or scope of the present invention. In the drawings, parts irrelevant to the description are omitted in order to clearly describe the present invention, and like reference numerals designate like parts throughout the specification.

Claims (20)

  1. 3D 비디오를 시청하는 사용자의 눈을 촬영하는 촬상부; 및An imaging unit for capturing eyes of a user who views 3D video; And
    상기 촬영된 사용자의 눈의 이미지로부터 상기 사용자의 눈의 특징을 획득하고, 상기 획득된 눈의 특징에 기초하여 상기 사용자의 눈의 피로 정도를 결정하고, 상기 사용자의 눈의 피로 정도에 따라 상기 3D 비디오의 시차를 조정하는 제어부를 포함하는, 디바이스.Acquire a feature of the eye of the user from the image of the eye of the user, and determine the degree of fatigue of the user based on the acquired eye characteristic, the 3D according to the degree of eye fatigue of the user And a control unit for adjusting parallax of video.
  2. 제 1 항에 있어서,The method of claim 1,
    상기 제어부는,The control unit,
    상기 3D 비디오의 좌안용 이미지와 우안용 이미지간의 평균 시차, 음의 시차의 최대값, 양의 시차의 최대값 및 상기 음의 시차의 최대값과 양의 시차의 최대값의 차이인 시차 범위 중 적어도 하나를 조정함으로써 상기 3D 비디오의 시차를 조정하는, 디바이스.At least one of a parallax range that is an average parallax between a left eye image and a right eye image of the 3D video, a maximum value of a negative parallax, a maximum value of a positive parallax, and a difference between a maximum value of the negative parallax and a maximum value of the positive parallax Adjusting the parallax of the 3D video by adjusting one.
  3. 제 1 항에 있어서, The method of claim 1,
    상기 사용자의 눈의 특징은,Characteristics of the eyes of the user,
    깜빡임 주파수, 눈 감음 시간, 양안 초점의 변화 및 양안 수렴 각도 중 적어도 하나를 포함하는, 디바이스.At least one of a blinking frequency, eye closing time, a change in binocular focus, and a binocular convergence angle.
  4. 제 1 항에 있어서, The method of claim 1,
    상기 제어부는,The control unit,
    상기 결정된 눈의 피로 정도가 제 1 임계값 이상인 경우, 상기 3D 비디오의 시차를 조정하는, 디바이스.And adjust the parallax of the 3D video if the determined eye fatigue is above a first threshold.
  5. 제 1 항에 있어서, The method of claim 1,
    상기 제어부는,The control unit,
    상기 3D 비디오의 시차가 제 2 임계값 이상인지 여부를 결정하고, 상기 3D 비디오의 시차가 상기 제 2 임계값 이상인 경우, 상기 3D 비디오의 시차가 상기 제 2 임계값 미만이 되도록 상기 3D 비디오의 시차를 조정하는, 디바이스.It is determined whether or not the parallax of the 3D video is greater than or equal to a second threshold, and if the parallax of the 3D video is greater than or equal to the second threshold, the parallax of the 3D video is less than the second threshold. To adjust the device.
  6. 제 1 항에 있어서, The method of claim 1,
    상기 제어부는,The control unit,
    상기 3D 비디오의 프레임간의 시차의 변화율을 조정함으로써, 상기 3D 비디오의 시차를 조정하는, 디바이스.And adjusting the parallax of the 3D video by adjusting a rate of change of parallax between the frames of the 3D video.
  7. 제 6 항에 있어서, The method of claim 6,
    상기 제어부는,The control unit,
    상기 3D 비디오의 제 n번째 프레임과 제 n-1번째 프레임간의 시차의 차이를 결정하고, 상기 시차의 차이가 제 3 임계값 이상인 경우, 상기 시차의 차이가 상기 제 3 임계값 미만이 되도록, 상기 제 n번째 프레임의 시차를 조정함으로써, 상기 3D 비디오의 프레임간의 시차의 변화율을 조정하는, 디바이스. Determine a difference in parallax between the nth frame and the n-1th frame of the 3D video, and if the difference in parallax is greater than or equal to a third threshold, such that the difference in parallax is less than the third threshold, And adjusting the rate of change of parallax between frames of the 3D video by adjusting the parallax of the nth frame.
  8. 제 7 항에 있어서, The method of claim 7, wherein
    상기 제어부는,The control unit,
    상기 시차의 차이가 상기 제 3 임계값 미만이 되도록, 상기 제 n번째 프레임의 시차를 증가시킴으로써, 상기 3D 비디오의 프레임간의 시차의 변화율을 조정하는, 디바이스. And adjusting the rate of change of parallax between frames of the 3D video by increasing the parallax of the nth frame such that the difference in parallax is less than the third threshold.
  9. 제 1 항에 있어서,The method of claim 1,
    상기 디바이스는,The device,
    출력부를 더 포함하고,Further including an output unit,
    상기 제어부는, The control unit,
    상기 사용자에게 상기 시차가 조정된 3D 비디오를 출력하도록 상기 출력부를 제어하는, 디바이스.And control the output to output the parallax adjusted 3D video to the user.
  10. 제 9 항에 있어서, The method of claim 9,
    상기 디바이스는,The device,
    상기 출력부 상에, 상기 3D 비디오의 시차가 조정되었음을 알리는 알림창을 디스플레이하는, 디바이스.And displaying a notification window on the output unit informing that the parallax of the 3D video has been adjusted.
  11. 3D 비디오를 시청하는 사용자의 눈을 촬영하는 단계;Photographing the eyes of the user watching the 3D video;
    상기 촬영된 사용자의 눈의 이미지로부터 상기 사용자의 눈의 특징을 획득하는 단계;Acquiring a feature of the user's eye from the captured image of the user's eye;
    상기 획득된 눈의 특징에 기초하여 상기 사용자의 눈의 피로 정도를 결정하는 단계; 및Determining a degree of eye fatigue of the user based on the acquired eye characteristics; And
    상기 사용자의 눈의 피로 정도에 따라 상기 3D 비디오의 시차를 조정하는 단계를 포함하는, 3D 디스플레이 효과를 조정하는 방법.Adjusting the parallax of the 3D video according to the degree of fatigue of the user's eyes.
  12. 제 11 항에 있어서,The method of claim 11,
    상기 사용자의 눈의 피로 정도에 따라 상기 3D 비디오의 시차를 조정하는 단계는,Adjusting the parallax of the 3D video according to the degree of eye fatigue of the user,
    상기 3D 비디오의 좌안용 이미지와 우안용 이미지간의 평균 시차, 음의 시차의 최대값, 양의 시차의 최대값 및 상기 음의 시차의 최대값과 양의 시차의 최대값의 차이인 시차 범위 중 적어도 하나를 조정하는 단계를 포함하는, 방법.At least one of a parallax range that is an average parallax between a left eye image and a right eye image of the 3D video, a maximum value of a negative parallax, a maximum value of a positive parallax, and a difference between a maximum value of the negative parallax and a maximum value of the positive parallax Adjusting one.
  13. 제 11 항에 있어서, The method of claim 11,
    상기 사용자의 눈의 특징은,Characteristics of the eyes of the user,
    깜빡임 주파수, 눈 감음 시간, 양안 초점의 변화 및 양안 수렴 각도 중 적어도 하나를 포함하는, 방법.At least one of a blinking frequency, eye closing time, a change in binocular focus, and a binocular convergence angle.
  14. 제 11 항에 있어서, The method of claim 11,
    상기 사용자의 눈의 피로 정도에 따라 상기 3D 비디오의 시차를 조정하는 단계는,Adjusting the parallax of the 3D video according to the degree of eye fatigue of the user,
    상기 결정된 사용자의 눈의 피로 정도가 제 1 임계값 이상인 경우, 상기 3D 비디오의 시차를 조정하는 단계를 포함하는, 방법.Adjusting the parallax of the 3D video when the determined degree of eye fatigue of the user is greater than or equal to a first threshold.
  15. 제 11 항에 있어서, The method of claim 11,
    상기 사용자의 눈의 피로 정도에 따라 상기 3D 비디오의 시차를 조정하는 단계는,Adjusting the parallax of the 3D video according to the degree of eye fatigue of the user,
    상기 3D 비디오의 시차가 제 2 임계값 이상인지 여부를 결정하고, 상기 3D 비디오의 시차가 상기 제 2 임계값 이상인 경우, 상기 3D 비디오의 시차가 상기 제 2 임계값 미만이 되도록 상기 3D 비디오의 시차를 조정하는 단계를 포함하는, 방법.It is determined whether or not the parallax of the 3D video is greater than or equal to a second threshold, and if the parallax of the 3D video is greater than or equal to the second threshold, the parallax of the 3D video is less than the second threshold. Adjusting the method.
  16. 제 11 항에 있어서,The method of claim 11,
    상기 사용자의 눈의 피로 정도에 따라 상기 3D 비디오의 시차를 조정하는 단계는,Adjusting the parallax of the 3D video according to the degree of eye fatigue of the user,
    상기 3D 비디오의 프레임간의 시차의 변화율을 조정함으로써, 상기 3D 비디오의 시차를 조정하는 단계를 포함하는, 방법.Adjusting the parallax of the 3D video by adjusting a rate of change of parallax between frames of the 3D video.
  17. 제 16 항에 있어서, The method of claim 16,
    상기 3D 비디오의 프레임간의 시차의 변화율을 조정함으로써, 상기 3D 비디오의 시차를 조정하는 단계는,Adjusting the parallax of the 3D video by adjusting the rate of change of parallax between the frames of the 3D video,
    상기 3D 비디오의 제 n번째 프레임과 제 n-1번째 프레임간의 시차의 차이를 결정하고, 상기 시차의 차이가 제 3 임계값 이상인 경우, 상기 시차의 차이가 상기 제 3 임계값 미만이 되도록, 상기 제 n번째 프레임의 시차를 조정함으로써, 상기 3D 비디오의 프레임간의 시차의 변화율을 조정하는 단계를 포함하는, 방법. Determine the difference in parallax between the nth frame and the n-1th frame of the 3D video, and if the difference in parallax is greater than or equal to a third threshold, such that the difference in parallax is less than the third threshold, Adjusting the rate of change of parallax between frames of the 3D video by adjusting the parallax of the nth frame.
  18. 제 17 항에 있어서, The method of claim 17,
    상기 시차의 차이가 상기 제 3 임계값 미만이 되도록, 상기 제 n번째 프레임의 시차를 조정하는 단계는,Adjusting the parallax of the n-th frame so that the difference in parallax is less than the third threshold,
    상기 시차의 차이가 상기 제 3 임계값 미만이 되도록, 상기 제 n번째 프레임의 시차를 증가시킴으로써, 상기 3D 비디오의 프레임간의 시차의 변화율을 조정하는 단계를 포함하는, 방법. Adjusting the rate of change of parallax between frames of the 3D video by increasing the parallax of the nth frame such that the difference in parallax is less than the third threshold.
  19. 제 11 항에 있어서,The method of claim 11,
    상기 3D 디스플레이 효과를 조정하는 방법은,The method for adjusting the 3D display effect,
    상기 시차가 조정된 3D 비디오를 상기 사용자에게 출력하는 단계를 더 포함하는, 방법.Outputting the parallax adjusted 3D video to the user.
  20. 제 19 항에 있어서, The method of claim 19,
    상기 3D 디스플레이 효과를 조정하는 방법은,The method for adjusting the 3D display effect,
    상기 3D 비디오의 시차가 조정되었음을 알리는 알림창을 디스플레이하는 단계를 더 포함하는, 방법.And displaying a notification window informing that the parallax of the 3D video has been adjusted.
PCT/KR2015/013992 2015-06-30 2015-12-21 Method for displaying 3d image and device for same WO2017003054A1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
US15/741,144 US10531066B2 (en) 2015-06-30 2015-12-21 Method for displaying 3D image and device for same
EP15897272.9A EP3310047B1 (en) 2015-06-30 2015-12-21 Method for displaying 3d image and device for same

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
CN201510385882.2A CN104967837A (en) 2015-06-30 2015-06-30 Device and method for adjusting three-dimensional display effect
CN201510385882.2 2015-06-30
KR1020150177368A KR102334212B1 (en) 2015-06-30 2015-12-11 Method of displaying a 3d image and apparatus thereof
KR10-2015-0177368 2015-12-11

Publications (1)

Publication Number Publication Date
WO2017003054A1 true WO2017003054A1 (en) 2017-01-05

Family

ID=57608460

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2015/013992 WO2017003054A1 (en) 2015-06-30 2015-12-21 Method for displaying 3d image and device for same

Country Status (1)

Country Link
WO (1) WO2017003054A1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070078225A (en) * 2006-01-26 2007-07-31 삼성전자주식회사 3d image displaying apparatus and method using eye detection information
KR20110121794A (en) * 2010-05-03 2011-11-09 삼성전자주식회사 Apparatus and method of reducing visual fatigue of 3-dimension image
JP2012022150A (en) * 2010-07-14 2012-02-02 Nikon Corp Display device and display method
KR20120099976A (en) * 2011-03-02 2012-09-12 삼성전자주식회사 Apparatus and method for monitoring visual fatigue of 3-dimension image and apparatus and method for reducing visual fatigue
KR20130125777A (en) * 2010-12-08 2013-11-19 톰슨 라이센싱 Method and system for 3d display with adaptive disparity

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070078225A (en) * 2006-01-26 2007-07-31 삼성전자주식회사 3d image displaying apparatus and method using eye detection information
KR20110121794A (en) * 2010-05-03 2011-11-09 삼성전자주식회사 Apparatus and method of reducing visual fatigue of 3-dimension image
JP2012022150A (en) * 2010-07-14 2012-02-02 Nikon Corp Display device and display method
KR20130125777A (en) * 2010-12-08 2013-11-19 톰슨 라이센싱 Method and system for 3d display with adaptive disparity
KR20120099976A (en) * 2011-03-02 2012-09-12 삼성전자주식회사 Apparatus and method for monitoring visual fatigue of 3-dimension image and apparatus and method for reducing visual fatigue

Similar Documents

Publication Publication Date Title
WO2015053449A1 (en) Glass-type image display device and method for controlling same
KR102334212B1 (en) Method of displaying a 3d image and apparatus thereof
WO2017209533A1 (en) Mobile device and controlling method thereof
WO2016021747A1 (en) Head-mounted display device and control method therefor
WO2016190505A1 (en) Glass type terminal and control method therefor
WO2015190666A1 (en) Mobile terminal and method for controlling the same
WO2016200102A1 (en) Method and device for changing focal point of camera
WO2015037912A1 (en) Wearable computing device and user interface method
WO2016186257A1 (en) Head mounted display
WO2018048092A1 (en) Head mounted display and method for controlling the same
WO2015002362A1 (en) Display device and control method thereof
CN102954836A (en) Ambient light sensor, user applying device and display device
WO2016182090A1 (en) Glasses-type terminal and control method therefor
WO2015174611A1 (en) Mobile terminal and control method therefor
WO2017171412A2 (en) Image processing apparatus and mobile terminal
WO2018093005A1 (en) Mobile terminal and method for controlling the same
WO2012128399A1 (en) Display device and method of controlling the same
WO2016027932A1 (en) Glass-type mobile terminal and control method thereof
WO2019182185A1 (en) Head mounted display
KR20150057064A (en) Electronic device and control method thereof
WO2015064935A1 (en) Electronic device and control method thereof
WO2018080202A1 (en) Head-mounted display device and method for controlling same
EP2716052A1 (en) Interactive user interface for stereoscopic effect adjustment
WO2013015466A1 (en) Electronic device for displaying three-dimensional image and method of using the same
WO2013024920A1 (en) Method for processing an image and electronic device for same

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15897272

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2015897272

Country of ref document: EP