WO2020032485A1 - 카메라 - Google Patents

카메라 Download PDF

Info

Publication number
WO2020032485A1
WO2020032485A1 PCT/KR2019/009645 KR2019009645W WO2020032485A1 WO 2020032485 A1 WO2020032485 A1 WO 2020032485A1 KR 2019009645 W KR2019009645 W KR 2019009645W WO 2020032485 A1 WO2020032485 A1 WO 2020032485A1
Authority
WO
WIPO (PCT)
Prior art keywords
control mode
light
subject
input
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/KR2019/009645
Other languages
English (en)
French (fr)
Inventor
박정아
우정우
김민규
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
LG Innotek Co Ltd
Original Assignee
LG Innotek Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by LG Innotek Co Ltd filed Critical LG Innotek Co Ltd
Priority to CN201980053832.0A priority Critical patent/CN112585961B/zh
Priority to US17/266,411 priority patent/US11659155B2/en
Publication of WO2020032485A1 publication Critical patent/WO2020032485A1/ko
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88—Lidar systems specially adapted for specific applications
    • G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/894—Three-dimensional [3D] imaging with simultaneous measurement of time-of-flight at a two-dimensional [2D] array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808—Evaluating distance, position or velocity data
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/239—Image signal generators using stereoscopic image cameras using two two-dimensional [2D] image sensors having a relative position equal to or related to the interocular distance
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/254—Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes

Definitions

  • An embodiment relates to a camera.
  • Depth map is required to obtain a 3D image.
  • Depth information is information representing a distance in space and represents perspective information of another point with respect to one point of the 2D image.
  • One method of obtaining depth information is a method of projecting IR (Infrared) structured light onto an object and extracting depth information by analyzing light reflected from the object. According to the IR structured light method, it is difficult to obtain a desired depth resolution for a moving object.
  • IR structured light method it is difficult to obtain a desired depth resolution for a moving object.
  • the Time of Flight (TOF) method As a technology to replace the IR structured light method, the Time of Flight (TOF) method has attracted attention.
  • the distance to an object is calculated by measuring a flight time, that is, a time when light is reflected by shooting.
  • the embodiment relates to a camera, and to provide a camera capable of providing a method of driving a TOF camera optimized for a subject photographing situation.
  • the camera is a light emitting module for outputting an output light according to a set control mode, a light receiving module for receiving an input light corresponding to the output light according to the control mode, the presence of the subject based on the input light And detecting at least one of a distance from the subject, resetting the control mode according to a detection result, controlling an output of the light emitting module and an input of the light receiving module according to the reset control mode, and the reset control. And a control module configured to generate a depth map of the subject based on input light input according to a mode.
  • the control mode includes a first control mode and a second control mode, wherein the first control mode and the second control mode include an optical exposure time of the light emitting module, a frame rate of the light receiving module, and At least one of the number of pixels to be activated may be set differently.
  • the light emitting module When the camera operation signal is input, the light emitting module outputs a first output light according to the preset first control mode, and the light receiving module corresponds to the first output light according to the first control mode. Input light can be received.
  • the control module detects the presence of the subject based on the first input light, and when the subject is detected, reset to the second control mode, and the light emitting module outputs a second output according to the second control mode.
  • the light may be output and the light receiving module may receive the second input light reflected by the subject.
  • the control mode may include third to fifth control modes, and in the third to fifth control modes, at least one of an optical exposure time and a modulation frequency of the light emitting module may be set differently. .
  • the modulation frequency is set to a first frequency
  • the modulation frequency is set to a second frequency having a value greater than the first frequency
  • the fifth control mode may be set to the first frequency and the second frequency.
  • the light emitting module outputs a third output light according to the third control mode when the camera operation signal is input, and the light receiving module outputs a third input light corresponding to the third output light according to the third control mode. Can be input.
  • the control module detects the presence of the subject based on the third input light. When the subject is detected, the control module calculates a distance from the subject based on the third input light. If not, reconfigure to change to the fifth control mode, and according to the reset fifth control mode, the light emitting module outputs a fifth output light to the subject, and the light receiving module receives the fifth input light reflected by the subject. Can be input.
  • the control module resets the third control mode so that the third control mode is maintained when the distance to the subject is greater than or equal to a threshold value, and the light emitting module sends a third output light to the subject according to the reset third control mode. Outputs and receives the third input light reflected by the light receiving module to the subject, and when the distance to the subject is smaller than the threshold value, resets to change to the fourth control mode, and resets the fourth control mode.
  • the light emitting module may output the fourth output light to the subject, and the light receiving module may receive the fourth input light reflected by the subject.
  • the control module generates a depth map for the subject based on one of the third to fifth input lights reflected by the subject, and based on the third input light or the fifth input light reflected by the subject.
  • the depth map having a higher resolution than the depth map based on the fourth input light may be generated through super resolution.
  • the control module may calculate the size of the subject based on the generated depth information of the depth map and transmit the calculated size of the subject to the connected application.
  • FIG. 1 is a block diagram of a camera according to an embodiment of the present invention.
  • FIG. 2 is a flowchart illustrating a first embodiment of a camera control method according to an embodiment of the present invention.
  • FIG. 3 is a flowchart illustrating a second embodiment of a camera control method according to an embodiment of the present invention.
  • FIG. 4 is a flowchart illustrating a third embodiment of a camera control method according to an embodiment of the present invention.
  • FIG. 5 is a view for explaining a control mode according to an embodiment of the present invention.
  • FIG. 6 is a diagram for describing a fifth control mode according to an exemplary embodiment of the present invention.
  • FIG. 7 is a view for explaining an optimized camera operation according to an embodiment of the present invention.
  • the technical idea of the present invention is not limited to some embodiments described, but may be embodied in different forms, and within the technical idea of the present invention, one or more of the components may be selectively selected between the embodiments. Can be combined and substituted.
  • first, second, A, B, (a), and (b) may be used.
  • a component when a component is described as being 'connected', 'coupled' or 'connected' to another component, the component is not only connected, coupled or connected directly to the other component, It may also include the case of 'connected', 'coupled' or 'connected' due to another component between the other components.
  • top (bottom) or the bottom (bottom) is not only when two components are in direct contact with each other, but also one. It also includes a case where the above-described further components are formed or disposed between two components.
  • up (up) or down (down) may include the meaning of the down direction as well as the up direction based on one component.
  • FIG. 1 is a block diagram of a camera according to an embodiment of the present invention.
  • the camera 100 includes a light emitting module 110, a light receiving module 120, and a control module 130.
  • the light emitting module 110 outputs output light according to the set control mode.
  • the light emitting module 110 may include a light source unit and a light modulator to output output light.
  • the light source generates light.
  • the light generated by the light source unit may be infrared rays having a wavelength of 770 to 3000 nm, and may be visible light having a wavelength of 380 to 770 nm.
  • the light source unit may be implemented through a light emitting diode (LED), and a plurality of light emitting diodes may be arranged in a predetermined pattern.
  • the light source unit may include an organic light emitting diode (OLED) or a laser diode (LD).
  • OLED organic light emitting diode
  • LD laser diode
  • the light source unit repeatedly outputs a pulse wave or continuous wave output light by repeatedly turning on / off at predetermined time intervals. All of the plurality of light emitting diodes may repeat blinking at the same time interval.
  • all of the plurality of light emitting diodes may repeat blinking at different time intervals during some of the light exposure time.
  • the first set of light emitting diodes and the second set of light emitting diodes among the plurality of light emitting diodes may be repeated at different time intervals.
  • the light modulator controls the blinking of the light source unit according to the control mode.
  • the light modulator may control the blinking of the light source unit to output output light having a modulation frequency according to the control mode through frequency modulation or pulse modulation. Also.
  • the light modulator may control the blinking of the light source unit to output the output light during the light exposure time according to the control mode.
  • the light receiving module 120 receives input light corresponding to the output light according to the control mode.
  • the light receiving module 120 may include a lens unit and an image sensor unit to receive input light.
  • the lens unit collects the input light and transmits the light to the image sensor unit.
  • the lens unit may include a lens, a lens barrel, a lens holder and an IR filter.
  • the lens may be configured in plural, or may be composed of one.
  • each lens may be aligned with respect to the central axis to form an optical system.
  • the central axis may be the same as the optical axis of the optical system.
  • the lens barrel is coupled to the lens holder and may have a space for accommodating the lens therein.
  • the lens barrel may be rotationally coupled with one or more lenses, but this is exemplary and may be coupled in other ways, such as by using an adhesive (eg, an adhesive resin such as epoxy).
  • the lens holder may be coupled to the lens barrel to support the lens barrel, and may be coupled to a printed circuit board on which the image sensor is mounted.
  • the lens holder may include a space in which the IR filter may be attached to the lower part of the lens barrel.
  • a spiral pattern is formed on the inner circumferential surface of the lens holder, and similarly, the lens barrel can be rotatably coupled to the lens barrel on which the helical pattern is formed.
  • the lens holder may be divided into an upper holder coupled to the lens barrel and a lower holder coupled to a printed circuit board on which an image sensor is mounted.
  • the upper holder and the lower holder may be formed in one piece or formed in a structure separated from each other. May be combined. At this time, the diameter of the upper holder may be formed smaller than the diameter of the lower holder.
  • the lens holder may be mixed with the housing.
  • the image sensor unit absorbs the collected input light to generate an electrical signal.
  • the image sensor unit may absorb the input light in synchronization with the blinking period of the light source unit.
  • the image sensor unit may absorb the input light in the in phase and the out phase with the output light, respectively. That is, the image sensor unit may repeatedly perform the step of absorbing the input light at the time when the light source is turned on and the step of absorbing the input light at the time when the light source is turned off.
  • the image sensor unit may generate an electrical signal corresponding to each reference signal using a plurality of reference signals having different phase differences.
  • the frequency of the reference signal may be set equal to the frequency of the output light. Therefore, when output light is output at a plurality of frequencies, the image sensor unit generates an electrical signal using a plurality of reference signals corresponding to each frequency.
  • the electrical signal may include information about the amount of charge or voltage corresponding to each reference signal.
  • each reference signal C 1 to C 4 may have the same frequency as the output light, but may have a phase difference of 90 degrees.
  • One of the four reference signals C 1 may have the same phase as the output light.
  • the input light is delayed in phase by a distance from which the output light is reflected and then returned to the object.
  • the image sensor unit may mix the input light and each reference signal to generate an electrical signal for each reference signal.
  • the image sensor unit absorbs the input light according to the plurality of frequencies. For example, it is assumed that output light is generated at frequencies f 1 and f 2 , and the plurality of reference signals have a phase difference of 90 degrees. Then, the input light, so too have the frequencies f 1 and f 2, the frequency can be generated with four electrical signals from the four reference signals corresponding to the input light is f 1. Four electrical signals may be generated through input light having a frequency f 2 and four reference signals corresponding thereto. Thus, a total of eight electrical signals can be generated.
  • the image sensor unit may be implemented as an image sensor in which a plurality of photodiodes are arranged in a grid.
  • the image sensor may be a complementary metal oxide semiconductor (CMOS) image sensor, or may be a charge coupled device (CCD) image sensor.
  • CMOS complementary metal oxide semiconductor
  • CCD charge coupled device
  • the light emitting module 110 and the light receiving module 120 may be implemented in plural in the camera.
  • the first light emitting module 110 and the corresponding first light receiving module 120 may be disposed on the front of the smartphone
  • the second light emitting module 110 and the second light receiving module 120 corresponding to the second light emitting module 110 may be disposed at the rear of the smartphone.
  • control module 130 detects at least one of the presence of the subject and the distance to the subject based on the input light.
  • the control module 130 may detect at least one of the presence of the subject and the distance to the subject through the depth map generated through the input light.
  • the control module 130 may generate a depth map through an electrical signal corresponding to the input light.
  • the distance to the subject may be detected using Equation 1 below.
  • f means the frequency of the output light
  • c means the speed of light
  • ⁇ means the phase difference between the output light and the corresponding input light.
  • phase difference between the output light and the corresponding input light may be calculated through Equation 2 below.
  • Q 1 to Q 4 are charge charge amounts of each of the four electrical signals.
  • Q 1 is the amount of charge of the electric signal corresponding to the reference signal of the same phase as the incident light signal.
  • Q 2 is the amount of charge in the electrical signal corresponding to the reference signal 180 degrees slower than the incident light signal.
  • Q 3 is the amount of charge of the electrical signal corresponding to the reference signal 90 degrees slower than the incident light signal.
  • Q 4 is the amount of charge of the electrical signal corresponding to the reference signal 270 degrees slower than the incident light signal.
  • the control module 130 resets the control mode according to a detection result of at least one of the existence of the subject and the distance from the subject.
  • control module 130 when the presence of the subject is detected, the control module 130 resets the set first control mode to the second control mode. On the other hand, if the presence of the subject is not detected, the control module 130 resets to maintain the set first control mode.
  • the preset third control mode is reset to be maintained. If the presence of the subject is detected and the distance to the subject is greater than or equal to the threshold value, the control module 130 may reset the set third control mode to change to the fourth control mode. On the other hand, if the presence of the subject is not detected, the control module 130 resets the set third control mode to change to the fifth control mode.
  • the control module 130 controls the output of the light emitting module 110 and the input of the light receiving module 120 according to the reset control mode.
  • the control module 130 generates a depth map of the subject based on the input light input according to the reset control mode.
  • the process of generating the depth map is the same as that described through the above equation, and thus a detailed description thereof will be omitted.
  • the control module 130 when generating the depth map based on the third input light or the fifth input light reflected on the subject, the control module 130 has a higher resolution than the depth map based on the fourth input light through super resolution.
  • a depth map having a resolution may be generated.
  • the depth map based on the fourth input light has a resolution of QVGA (320x240) level
  • the depth map based on the third input light or the fifth input light may have a resolution of VGA (640x480) level.
  • the super resolution method that is, the super resolution (SR) method
  • SR super resolution
  • the SR technique means a technique for estimating x by applying an inverse function of the resolution degradation factors estimated to y k .
  • the SR technique can be largely divided into a statistical method and a multiframe method, and the multiframe method can be divided into a spatial partitioning method and a time partitioning method.
  • the control module 130 may transmit the depth map of the subject to the connected application.
  • the control module 130 may detect the size of the subject through the depth map of the subject, and transmit the detected size information to the connected application.
  • FIG. 2 is a flowchart illustrating a first embodiment of a camera control method according to an embodiment of the present invention.
  • the light emitting module when the camera operation signal is input, the light emitting module outputs the first output light according to the set first control mode (S205).
  • the light receiving module 120 receives the first input light corresponding to the first output light according to the set first control mode (S210).
  • control module 130 detects the presence of the subject based on the first input light (S215).
  • control module 130 When the presence of the subject is detected, the control module 130 resets the set first control mode to change to the second control mode (S220).
  • the light emitting module 110 outputs the second output light and the light receiving module 120 receives the second input light reflected from the subject (S225).
  • control module 130 generates a depth map for the subject based on the second input light (S230).
  • step S205 if the existence of the subject is not detected, the process proceeds again from step S205 after resetting the first control mode to be maintained. If the subject is not detected for a predetermined number of times, the process may end.
  • FIG. 3 is a flowchart illustrating a second embodiment of a camera control method according to an embodiment of the present invention.
  • the light emitting module 110 When the camera operation signal is input, the light emitting module 110 outputs the third output light according to the preset third control mode (S305).
  • the light receiving module 120 receives the third input light corresponding to the third output light according to the set third control mode (S310).
  • control module 130 detects the presence of the subject based on the third input light (S315).
  • control module 130 calculates a distance from the subject based on the third input light, and compares the calculated distance with the subject and a threshold value (S320).
  • the control module 130 resets to maintain the third control mode (S325).
  • the light emitting module 110 outputs the third output light to the subject, and the light receiving module 120 receives the third input light reflected on the subject (S330).
  • the control module 130 If the distance to the subject is smaller than the threshold value, the control module 130 resets the set third control mode to be changed to the fourth control mode (S335). According to the reset fourth control mode, the light emitting module 110 outputs the fourth output light to the subject, and the light receiving module 120 receives the fourth input light reflected by the subject (S340).
  • the control module 130 resets the preset third control mode to change to the fifth control mode (S345).
  • the light emitting module 110 outputs the fifth output light to the subject, and the light receiving module 120 receives the fifth input light reflected by the subject (S350).
  • the control module 130 generates a depth map for the projectile based on any one of the third to fifth input light (S355).
  • the process of generating the depth map is the same as that described through the above equation, and thus a detailed description thereof will be omitted.
  • the control module 130 is based on the fourth input light reflected on the subject through super resolution. A depth map having a higher resolution than the depth map may be generated.
  • the control module 130 may calculate the size of the subject based on the depth information of the generated depth map (S360), and transmit the size of the subject to the connected application (S365).
  • the connected application may be an application inputting a camera operation signal of step S305.
  • FIG. 4 is a flowchart illustrating a third embodiment of a camera control method according to an embodiment of the present invention.
  • the camera control method illustrated in FIG. 3 and the camera control method illustrated in FIG. 4 may be implemented together.
  • the control module 130 determines the type of the camera operation signal (S410). In this case, the control module 130 may operate the first light emitting module 110 and the first light receiving module 120 or may operate the second light emitting module 110 and the second light receiving module 120 according to the type of the camera operation signal. It can work.
  • the control module 130 may operate the first light emitting module 110 and the first light receiving module 120. Then, the control module 130 performs camera control according to the camera control method shown in FIG. For example, when a user inputs a first camera operation signal through a button input or a motion input for 3D face recognition, the control module 130 may include the first light emitting module 110 and the first light receiving module 120. The camera control may be performed according to steps S205 to S230 of FIG. 2.
  • the control module 130 may operate the second light emitting module 110 and the second light receiving module 120. Then, the control module 130 performs camera control according to the camera control method shown in FIG. For example, when a user inputs a second camera operation signal through an application to detect the size of an object, the control module 130 operates the second light emitting module 110 and the second light receiving module 120 to Camera control may be performed according to steps S305 to S365.
  • Steps S205 to S230 and steps 305 to S355 are described above with reference to FIGS. 2 and 3, and thus detailed descriptions thereof will be omitted.
  • FIG. 5 is a view for explaining a control mode according to an embodiment of the present invention.
  • a control mode may include first to fifth control modes, may be grouped into first and second control modes, and may be grouped into third to fifth control modes. Can be.
  • the camera according to the embodiment of the present invention may be controlled according to any one of the first control mode and the second control mode according to the camera operation signal.
  • the first control mode may be a control mode for searching for a subject
  • the second control mode may be a control mode for precisely measuring the subject.
  • the first control mode may be a control mode for detecting the presence of a face (subject)
  • the second control mode is a control mode for generating a depth map for the face (subject). Can be.
  • Table 1 below shows the characteristics of the first control mode and the second control mode.
  • the light exposure time of the light emitting module 110 in the first control mode may be set shorter than the light exposure time of the second control mode.
  • the light exposure time of the first control mode may be set shorter than 0.1 ms
  • the light exposure time of the second control mode may be set longer than 0.7 ms.
  • the frame rate of the light receiving module 120 in the first control mode may be set smaller than the frame rate of the second control mode.
  • the frame rate of the first control mode may be set to 1 fps
  • the frame rate of the second control mode may be set to greater than 15 fps.
  • the frame rate of the light receiving module 120 may be set to 1 fps to generate only one frame.
  • the number of pixels activated of the light receiving module 120 in the first control mode may be set smaller than the number of pixels activated in the second control mode. That is, the angle of view of the light receiving module 120 in the first control mode may be set smaller than the angle of view of the light receiving module 120 in the second control mode.
  • 112x86 pixels may be activated to set the angle of view of the light receiving module 120 to be 40 °.
  • 224x172 pixels may be activated to enable the angle of view of the light receiving module 120. Can be set to be 80 °.
  • the camera according to the embodiment of the present invention operates according to the first control mode, although the depth accuracy is lower than that of the second control mode, a farther subject can be measured with less power. That is, after detecting the presence of the subject with a small power, if it is determined that the subject exists, since the precise photographing is performed according to the second control mode, the power consumption of the camera can be reduced.
  • the camera according to the embodiment of the present invention may be controlled according to any one of the third to fifth control mode according to the camera operation signal.
  • Table 2 below shows the characteristics of the third to fifth control modes.
  • the light exposure time and the modulation frequency of the light emitting module 110 may be set differently.
  • the light exposure time of the light emitting module 110 in the fourth control mode may be set smaller than the light exposure time of the third control mode and the fifth control mode.
  • the light exposure time of the fourth control mode may be set smaller than 1.5 ms
  • the light exposure time of the third control mode and the fifth control mode may be set larger than 1.5 ms. Since the fourth control mode is a control mode for photographing a subject located within 1 m or less, even if the light exposure time is shorter than that of the third and fifth control modes, the light receiving module 120 generates a sufficient amount of light to generate a depth map. It can be secured.
  • the modulation frequency is set to the first frequency
  • the modulation frequency in the fourth control mode, is set to the second frequency having a value greater than the first frequency
  • the modulation frequency in the fifth control mode, is set to the first frequency and It may be set to a second frequency, that is, a combination of two frequencies.
  • the third control mode may be set to a modulation frequency of 60MHz
  • the fourth control mode may be set to a modulation frequency of 80MHz
  • the fifth control mode may be set to a modulation frequency of 60MHz and 80MHz.
  • the camera according to the embodiment of the present invention controls the light emitting module 110 and the light receiving module 120 differently according to the distance to the subject through the third to fifth control modes. That is, since the camera is operated by the control module 130 optimized according to the distance to the subject, the camera has an advantage of reducing power consumption.
  • FIG. 6 is a diagram for describing a fifth control mode according to an exemplary embodiment of the present invention.
  • FIG. 6 shows a process of combining two modulation frequencies. For example, assume that the first frequency is 60 MHz and the second frequency is 80 MHz.
  • the maximum distance at which the subject can be measured is determined by the frequency of the output light.
  • the output light according to the first frequency of 60 MHz can measure a subject located at a maximum of 1.8657 m, and the output light according to the second frequency of 80 MHz. You can measure a subject located up to 2.4876m. As such, the larger the frequency, the greater the maximum distance at which the subject can be measured. However, in order to increase the frequency, it is necessary to control the blinking cycle of the light emitting module 110 quickly, thereby increasing power consumption.
  • the first and second frequencies may be output at the same time to increase the measurement distance of the subject.
  • the first frequency and the second frequency have waveforms formed at different periods, and the phases of the two frequencies are different. Overlap may occur.
  • two frequencies are output at the same time, it is possible to see a period up to a portion where two frequency phases overlap. That is, when simultaneously outputting a frequency of 60MHz and 80MHz can be regarded as one output light having a frequency of 240MHz. In this case, compared to outputting the output light having a frequency of 240MHz has the advantage that can significantly reduce the power consumption.
  • FIG. 7 is a view for explaining an optimized camera operation according to an embodiment of the present invention.
  • FIG. 7 illustrates an example for describing a camera operation according to the camera control method of FIG. 3.
  • the control module 130 when photographing a small subject such as a ring, a bolt, or a food shown in (a) to (c), the user places the camera close to the subject and photographs the subject.
  • the control module 130 generates a depth map by photographing the subject in the fourth control mode based on the presence of the subject in the third control mode and distance information with the subject.
  • the control module 130 When photographing a relatively large subject such as a sofa or curtain shown in (d) and (e), the user takes a picture after positioning the camera at a distance or more away from the subject.
  • the control module 130 generates a depth map by photographing the subject according to the third control mode.
  • control module 130 when shooting for indoor positioning as shown in (f), the user is to shoot after placing the camera at a position far away from the subject.
  • the control module 130 generates a depth map by photographing the subject according to the fifth control mode based on the presence information of the subject according to the third control mode.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Studio Devices (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

본 발명의 실시예에 따른 카메라는 설정된 제어 모드에 따라 출력광을 출력하는 발광 모듈, 상기 제어 모드에 따라 상기 출력광에 대응하는 입력광을 입력받는 수광 모듈, 상기 입력광에 기초하여 피사체의 존재 및 상기 피사체와의 거리 중 적어도 하나를 검출하고, 검출 결과에 따라 상기 제어 모드를 재설정하며, 재설정된 상기 제어 모드에 따라 상기 발광 모듈의 출력 및 상기 수광 모듈의 입력을 제어하고, 재설정된 상기 제어 모드에 따라 입력된 입력광에 기초하여 상기 피사체에 대한 깊이맵을 생성하는 제어 모듈을 포함한다.

Description

카메라
실시 예는 카메라에 관한 것이다.
촬영 장치를 이용하여 3차원 영상을 획득하는 기술이 발전하고 있다. 3차원 영상을 획득하기 위하여 깊이 정보(Depth Map)가 필요하다. 깊이 정보는 공간 상의 거리를 나타내는 정보이며, 2차원 영상의 한 지점에 대하여 다른 지점의 원근 정보를 나타낸다.
깊이 정보를 획득하는 방법 중 하나는, IR(Infrared) 구조광을 객체에 투사하며, 객체로부터 반사된 광을 해석하여 깊이 정보를 추출하는 방식이다. IR 구조광 방식에 따르면, 움직이는 객체에 대하여 원하는 수준의 깊이 분해능(Depth resolution)을 얻기 어려운 문제가 있다.
IR 구조광 방식을 대체하는 기술로 TOF(Time of Flight) 방식이 주목받고 있다. TOF 방식에 따르면, 비행 시간, 즉 빛을 쏘아서 반사되어 오는 시간을 측정함으로써 물체와의 거리를 계산한다.
일반적으로, TOF 방식의 경우 피사체와의 거리를 정확히 측정하기 위해서는 먼 거리에서도 표면을 비출 수 있을 정도의 광량이 확보되어야 하며, 이에 따라 많은 전력이 소모된다.
하지만, TOF 카메라를 통해 획득한 깊이 정보를 이용하고자 하는 어플리케이션들은 각각이 요구하는 사양이 상이하다. 예를 들어, 일부 어플리케이션의 경우 저해상의 깊이 정보를 요구하거나, 적은 프레임의 깊이 정보를 요구하기도 한다. 이 경우, 고해상의 깊이 정보나 높은 프레임의 깊이 정보를 생성하기 위한 방식으로 TOF 카메라를 구동하게 된다면 불필요한 전력을 소모하게 될 뿐만 아니라 불필요하게 리소스(resource) 점유율이 높아지는 문제점이 있다.
따라서, TOF 카메라의 구동을 최적화할 수 있는 기술이 요구된다.
실시 예는 카메라에 관한 것으로서, 피사체 촬영 상황에 최적화된 TOF 카메라 구동 방법을 제공할 수 있는 카메라를 제공하기 위한 것이다.
실시 예에서 해결하고자 하는 과제는 이에 한정되는 것은 아니며, 아래에서 설명하는 과제의 해결수단이나 실시 형태로부터 파악될 수 있는 목적이나 효과도 포함된다고 할 것이다.
본 발명의 실시예에 따른 카메라는 설정된 제어 모드에 따라 출력광을 출력하는 발광 모듈, 상기 제어 모드에 따라 상기 출력광에 대응하는 입력광을 입력받는 수광 모듈, 상기 입력광에 기초하여 피사체의 존재 및 상기 피사체와의 거리 중 적어도 하나를 검출하고, 검출 결과에 따라 상기 제어 모드를 재설정하며, 재설정된 상기 제어 모드에 따라 상기 발광 모듈의 출력 및 상기 수광 모듈의 입력을 제어하고, 재설정된 상기 제어 모드에 따라 입력된 입력광에 기초하여 상기 피사체에 대한 깊이맵을 생성하는 제어 모듈을 포함한다.
상기 제어 모드는, 제1 제어 모드 및 제2 제어 모드를 포함하고, 상기 제1 제어 모드 및 상기 제2 제어 모드는, 상기 발광 모듈의 광 노출 시간, 상기 수광 모듈의 프레임 레이트(frame rate) 및 활성화되는 픽셀 수 중 적어도 하나가 서로 다르게 설정될 수 있다.
상기 발광 모듈은, 카메라 작동 신호가 입력되면 기 설정된 상기 제1 제어 모드에 따라 제1 출력광을 출력하고, 상기 수광 모듈은, 상기 제1 제어 모드에 따라 상기 제1 출력광에 대응하는 제1 입력광을 입력받을 수 있다.
상기 제어 모듈은, 상기 제1 입력광에 기초하여 피사체의 존재를 검출한 결과, 상기 피사체가 검출되면, 상기 제2 제어 모드로 재설정하고, 상기 제2 제어 모드에 따라 상기 발광 모듈이 제2 출력광을 출력하고 상기 수광 모듈이 피사체에 반사된 제2 입력광을 입력받을 수 있다.
상기 제어 모드는, 제3 제어 모드 내지 제5 제어 모드를 포함하고, 상기 제3 제어 모드 내지 제5 제어 모드는, 상기 발광 모듈의 광 노출 시간 및 변조 주파수 중 적어도 하나가 서로 다르게 설정될 수 있다.
상기 제3 제어 모드는, 상기 변조 주파수가 제1 주파수로 설정되고, 상기 제4 제어 모드는, 상기 변조 주파수가 상기 제1 주파수보다 큰 값을 가지는 제2 주파수로 설정되고, 상기 제5 제어 모드는, 상기 변조 주파수가 상기 제1 주파수 및 상기 제2 주파수로 설정될 수 있다.
상기 발광 모듈은, 카메라 작동 신호가 입력되면 상기 제3 제어 모드에 따라 제3 출력광을 출력하고, 상기 수광 모듈은, 상기 제3 제어 모드에 따라 제3 출력광에 대응하는 제3 입력광을 입력받을 수 있다.
상기 제어 모듈은, 상기 제3 입력광에 기초하여 피사체의 존재를 검출한 결과, 상기 피사체가 검출되면, 상기 제3 입력광에 기초하여 상기 피사체와의 거리를 산출하고, 검출 결과 상기 피사체가 검출되지 않으면, 상기 제5 제어 모드로 변경되도록 재설정하며, 재설정된 상기 제5 제어 모드에 따라 상기 발광 모듈이 상기 피사체로 제5 출력광을 출력하고 상기 수광 모듈이 피사체에 반사된 제5 입력광을 입력받을 수 있다.
상기 제어 모듈은, 상기 피사체와의 거리가 임계값보다 크거나 같으면, 상기 제3 제어 모드가 유지되도록 재설정하며, 재설정된 상기 제3 제어 모드에 따라 상기 발광 모듈이 상기 피사체로 제3 출력광을 출력하고 상기 수광 모듈이 상기 피사체에 반사된 제3 입력광을 입력받으며, 상기 피사체와의 거리가 상기 임계값보다 작으면, 상기 제4 제어 모드로 변경되도록 재설정하며, 재설정된 상기 제4 제어 모드에 따라 상기 발광 모듈이 상기 피사체로 제4 출력광을 출력하고 상기 수광 모듈이 상기 피사체에 반사된 제4 입력광을 입력받을 수 있다.
상기 제어 모듈은, 상기 피사체에 반사된 제3 내지 제5 입력광 중 하나에 기초하여 상기 피사체에 대한 깊이맵을 생성하되, 상기 피사체에 반사된 제3 입력광 또는 제5 입력광에 기초하여 상기 깊이맵을 생성하는 경우, 초고해상기법(super resolution)을 통해 상기 제4 입력광에 기초한 깊이맵보다 높은 해상도를 가지는 상기 깊이맵을 생성할 수 있다.
상기 제어 모듈은, 생성된 상기 깊이맵의 깊이 정보에 기초하여 상기 피사체의 크기를 산출하고, 산출된 상기 피사체의 크기를 연결된 어플리케이션으로 전송할 수 있다.
도 1은 본 발명의 실시예에 따른 카메라의 블록도이다.
도 2는 본 발명의 실시예에 따른 카메라 제어 방법의 제1 실시예를 나타낸 순서도이다.
도 3은 본 발명의 실시예에 따른 카메라 제어 방법의 제2 실시예를 나타낸 순서도이다.
도 4는 본 발명의 실시예에 따른 카메라 제어 방법의 제3 실시예를 나타낸 순서도이다.
도 5는 본 발명의 실시예에 따른 제어 모드를 설명하기 위한 도면이다.
도 6은 본 발명의 실시예에 따른 제5 제어 모드를 설명하기 위한 도면이다.
도 7은 본 발명의 실시예에 따른 최적화된 카메라 동작을 설명하기 위한 도면이다.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명한다.
다만, 본 발명의 기술 사상은 설명되는 일부 실시 예에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있고, 본 발명의 기술 사상 범위 내에서라면, 실시 예들간 그 구성 요소들 중 하나 이상을 선택적으로 결합, 치환하여 사용할 수 있다.
또한, 본 발명의 실시예에서 사용되는 용어(기술 및 과학적 용어를 포함)는, 명백하게 특별히 정의되어 기술되지 않는 한, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 일반적으로 이해될 수 있는 의미로 해석될 수 있으며, 사전에 정의된 용어와 같이 일반적으로 사용되는 용어들은 관련 기술의 문맥상의 의미를 고려하여 그 의미를 해석할 수 있을 것이다.
또한, 본 발명의 실시예에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다.
본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함할 수 있고, "A 및(와) B, C 중 적어도 하나(또는 한 개 이상)"로 기재되는 경우 A, B, C로 조합할 수 있는 모든 조합 중 하나 이상을 포함할 수 있다.
또한, 본 발명의 실시 예의 구성 요소를 설명하는 데 있어서, 제1, 제2, A, B, (a), (b) 등의 용어를 사용할 수 있다.
이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등으로 한정되지 않는다.
그리고, 어떤 구성 요소가 다른 구성요소에 '연결', '결합' 또는 '접속'된다고 기재된 경우, 그 구성 요소는 그 다른 구성 요소에 직접적으로 연결, 결합 또는 접속되는 경우뿐만 아니라, 그 구성 요소와 그 다른 구성 요소 사이에 있는 또 다른 구성 요소로 인해 '연결', '결합' 또는 '접속' 되는 경우도 포함할 수 있다.
또한, 각 구성 요소의 "상(위) 또는 하(아래)"에 형성 또는 배치되는 것으로 기재되는 경우, 상(위) 또는 하(아래)는 두 개의 구성 요소들이 서로 직접 접촉되는 경우뿐만 아니라 하나 이상의 또 다른 구성 요소가 두 개의 구성 요소들 사이에 형성 또는 배치되는 경우도 포함한다. 또한, "상(위) 또는 하(아래)"으로 표현되는 경우 하나의 구성 요소를 기준으로 위쪽 방향뿐만 아니라 아래쪽 방향의 의미도 포함할 수 있다.
우선, 도 1을 참조하여 본 발명의 실시예에 따른 카메라의 구성을 설명한다.
도 1은 본 발명의 실시예에 따른 카메라의 블록도이다.
도 1에 도시된 바와 같이, 본 발명의 실시예에 따른 카메라(100)는 발광 모듈(110), 수광 모듈(120) 및 제어 모듈(130)을 포함한다.
우선, 발광 모듈(110)은 설정된 제어 모드에 따라 출력광을 출력한다. 발광 모듈(110)은 출력광을 출력하기 위하여 광원부와 광변조부를 포함할 수 있다.
광원부는 빛을 생성한다. 광원부가 생성하는 빛은 파장이 770 내지 3000nm인 적외선 일 수 있으며, 파장이 380 내지 770 nm인 가시광선 일 수도 있다. 광원부는 발광 다이오드(Light Emitting Diode, LED)를 통해 구현될 수 있으며, 복수의 발광 다이오드가 일정한 패턴에 따라 배열된 형태로 구현될 수 있다. 뿐만 아니라, 광원부는 유기 발광 다이오드(Organic light emitting diode, OLED)나 레이저 다이오드(Laser diode, LD)를 포함할 수도 있다. 광원부는 일정 시간 간격으로 점멸(on/off)을 반복하여 펄스파(pulse wave) 형태나 지속파 형태(continuous wave)의 출력광을 출력한다. 복수의 발광 다이오드 전체는 동일한 시간 간격으로 점멸을 반복할 수 있다. 또한, 복수의 발광 다이오드 전체는 광 노출 시간 중 일부 시간 동안 서로 다른 시간 간격으로 점멸을 반복할 수 있다. 또한, 복수의 발광 다이오드 중 제1 집합의 발광 다이오드와 제2 집합의 발광 다이오드가 서로 다른 시간 간격으로 점멸을 반복할 수 있다.
광변조부는 제어 모드에 따라 광원부의 점멸을 제어한다. 광변조부는 주파수 변조(frequency modulation)나 펄스 변조(pulse modulation) 등을 통해 제어 모드에 따른 변조 주파수를 가지는 출력광이 출력되도록 광원부의 점멸을 제어할 수 있다. 또한. 광변조부는 제어 모드에 따른 광 노출 시간동안 출력광을 출력하도록 광원부의 점멸을 제어할 수 있다.
다음으로, 수광 모듈(120)은 제어 모드에 따라 출력광에 대응하는 입력광을 입력받는다. 수광 모듈(120)은 입력광을 입력받기 위하여 렌즈부와 이미지 센서부를 포함할 수 있다.
렌즈부는 입력광을 집광하여 이미지 센서부에 전달한다. 이를 위하여, 렌즈부는 렌즈, 렌즈 배럴, 렌즈 홀더 및 IR 필터를 포함할 수 있다.
렌즈는 복수 매로 구성될 수 있으며, 1매로 구성될 수도 있다. 렌즈가 복수 매로 구성될 경우 각 렌즈들은 중심축을 기준으로 정렬하여 광학계를 형성할 수 있다. 여기서, 중심축은 광학계의 광축(Optical axis)과 동일할 수 있다.
렌즈 배럴은 렌즈 홀더와 결합되며, 내부에 렌즈를 수용할 수 있는 공간을 구비할 수 있다. 렌즈 배럴은 하나 또는 복수의 렌즈와 회전 결합될 수 있으나, 이는 예시적인 것이며, 접착제(예를 들어, 에폭시(epoxy) 등의 접착용 수지)를 이용한 방식 등 다른 방식으로 결합될 수 있다.
렌즈 홀더는 렌즈 배럴과 결합되어 렌즈 배럴을 지지하고, 이미지 센서가 탑재된 인쇄회로기판에 결합될 수 있다. 렌즈 홀더는 렌즈 배럴 하부에 IR 필터가 부착될 수 있는 공간을 구비할 수 있다. 렌즈 홀더외 내주면에는 나선형 패턴이 형성되고, 마찬가지로 외주면에 나선형 패턴이 형성된 렌즈 배럴과 회전 결합할 수 있다. 그러나, 이는 예시적인 것이며, 렌즈 홀더와 렌즈 배럴은 접착제를 통해 결합되거나, 렌즈 홀더와 렌즈 배럴이 일체형으로 형성될 수도 있다.
렌즈 홀더는 렌즈 배럴과 결합되는 상부 홀더 및 이미지 센서가 탑재된 인쇄회로기판과 결합되는 하부 홀더로 구분될 수 있으며, 상부 홀더 및 하부 홀더는 일체형으로 형성되거나, 서로 분리된 구조로 형성된 후 체결 또는 결합될 수도 있다. 이때, 상부 홀더의 직경은 하부 홀더의 직경보다 작게 형성될 수 있다. 본 명세서에서, 렌즈 홀더는 하우징과 혼용될 수 있다.
이미지 센서부는 집광된 입력광을 흡수하여 전기 신호를 생성한다.
이미지 센서부는 광원부의 점멸 주기와 동기화되어 입력광을 흡수할 수 있다. 구체적으로, 이미지 센서부는 출력광과 동상(in phase) 및 이상(out phase)에서 각각 입력광을 흡수할 수 있다. 즉, 이미지 센서부는 광원부가 켜져 있는 시간에 입력광을 흡수하는 단계와 광원부가 꺼져 있는 시간에 입력광을 흡수하는 단계를 반복 수행할 수 있다.
이미지 센서부는 서로 다른 위상차를 가지는 복수의 참조 신호(reference signal)를 이용하여 각 참조 신호에 대응하는 전기 신호를 생성할 수 있다. 참조 신호의 주파수는 출력광의 주파수와 동일하게 설정될 수 있다. 따라서, 복수의 주파수로 출력광이 출력된 경우, 이미지 센서부는 각 주파수에 대응하는 복수의 참조 신호를 이용하여 전기 신호를 생성한다. 전기 신호는 각 참조 신호에 대응하는 전하량이나 전압에 관한 정보를 포함할 수 있다.
본 발명의 실시예에 따르면, 참조 신호는 4개(C1 내지 C4)일 수 있다. 각 참조 신호(C1 내지 C4)는 출력광과 동일한 주파수를 가지되, 서로 90도 위상차를 가질 수 있다. 4개의 참조 신호 중 하나(C1)는 출력광과 동일한 위상을 가질 수 있다. 입력광은 출력광이 객체에 입사된 후 반사되어 돌아오는 거리만큼 위상이 지연된다. 이미지 센서부는 입력광과 각 참조 신호를 각각 믹싱(mixing)하여, 각 참조 신호별로 전기 신호를 생성할 수 있다.
다른 실시예로, 광 노출 시간 동안 복수의 주파수로 출력광이 생성된 경우, 이미지 센서부는 복수의 주파수에 따른 입력광을 흡수한다. 예를 들어, 주파수 f1과 f2로 출력광이 생성되고, 복수의 참조 신호는 90도의 위상차를 가진다고 가정한다. 그러면, 입력광 역시 주파수 f1과 f2를 가지므로, 주파수가 f1인 입력광과 이에 대응하는 4개의 참조 신호를 통해 4개의 전기 신호가 생성될 수 있다. 그리고 주파수가 f2인 입력광과 이에 대응하는 4개의 참조 신호를 통해 4개의 전기 신호가 생성될 수 있다. 따라서, 전기 신호는 총 8개가 생성될 수 있다.
이미지 센서부는 복수의 포토 다이오드가 그리드 형태로 배열된 이미지 센서로 구현될 수 있다. 이미지 센서는 CMOS(Complementary Metal Oxide Semiconductor) 이미지 센서일 수 있으며, CCD(Charge Coupled Device) 이미지 센서일 수도 있다.
한편, 발광 모듈(110)은 및 수광 모듈(120)은 카메라 내에 복수로 구현될 수 있다. 예를 들어, 본 발명의 실시예에 따른 카메라가 스마트폰에 포함되는 경우, 제1 발광 모듈(110) 및 이에 대응하는 제1 수광 모듈(120)은 스마트폰의 전면부에 배치될 수 있으며, 제2 발광 모듈(110) 및 이에 대응하는 제2 수광 모듈(120)은 스마트폰의 후면부에 배치될 수 있다.
다음으로, 제어 모듈(130)은 입력광에 기초하여 피사체의 존재 및 피사체와의 거리 중 적어도 하나를 검출한다. 구체적으로, 제어 모듈(130)은 입력광을 통해 생성된 깊이맵을 통해 피사체의 존재 및 피사체와의 거리 중 적어도 하나를 검출할 수 있다. 예를 들어, 제어 모듈(130)은 입력광에 대응하는 전기 신호를 통해 깊이맵을 생성할 수 있다. 출력광이 지속파 형태로 출력되는 경우, 아래의 수학식 1을 이용하여 피사체와의 거리를 검출할 수 있다.
Figure PCTKR2019009645-appb-M000001
여기서, f는 출력광의 주파수를 의미하고, c는 빛의 속도를 의미하고, φ는 출력광과 대응하는 입력광 사이의 위상차를 의미한다.
그리고, 출력광과 대응하는 입력광 사이의 위상차는 아래의 수학식 2를 통해 계산될 수 있다.
Figure PCTKR2019009645-appb-M000002
여기서, τ는 비행시간(time of flight)을 의미한다. Q1 내지 Q4는 4개의 전기 신호 각각의 전하 충전량이다. Q1은 입사광 신호와 동일한 위상의 참조 신호에 대응하는 전기신호의 전하량이다. Q2는 입사광 신호보다 위상이 180도 느린 참조 신호에 대응하는 전기신호의 전하량이다. Q3는 입사광 신호보다 위상이 90도 느린 참조 신호에 대응하는 전기신호의 전하량이다. Q4는 입사광 신호보다 위상이 270도 느린 참조 신호에 대응하는 전기신호의 전하량이다.
제어 모듈(130)은 피사체의 존재 및 피사체와의 거리 중 적어도 하나에 대한 검출 결과에 따라 제어 모드를 재설정한다.
구체적으로, 피사체의 존재가 검출되면, 제어 모듈(130)은 설정된 제1 제어 모드를 제2 제어 모드로 재설정한다. 반면, 피사체의 존재가 미검출되면, 제어 모듈(130)은 설정된 제1 제어 모드가 유지되도록 재설정한다.
또는, 피사체의 존재가 검출되고, 피사체와의 거리가 임계값보다 크거나 같으면, 설정된 제3 제어 모드가 유지되도록 재설정한다. 그리고, 피사체의 존재가 검출되고, 피사체와의 거리가 임계값보다 크거나 같으면, 제어 모듈(130)은 설정된 제3 제어 모드가 제4 제어 모드로 변경되도록 재설정할 수 있다. 반면, 피사체의 존재가 검출되지 않으면, 제어 모듈(130)은 설정된 제3 제어 모드가 제5 제어 모드로 변경되도록 재설정한다.
제어 모듈(130)은 재설정된 제어 모드에 따라 발광 모듈(110)의 출력 및 수광 모듈(120)의 입력을 제어한다.
제어 모듈(130)은 재설정된 제어 모드에 따라 입력된 입력광에 기초하여 피사체에 대한 깊이맵을 생성한다. 깊이맵을 생성하는 과정은 위에서 수학식을 통해 설명한 것과 동일한 바 상세한 설명은 생략하도록 한다.
한편, 피사체에 반사된 제3 입력광 또는 제5 입력광에 기초하여 깊이맵을 생성하는 경우, 제어 모듈(130)은 초고해상기법(super resolution)을 통해 제4 입력광에 기초한 깊이맵보다 높은 해상도를 가지는 깊이맵을 생성할 수 있다.
예를 들어, 제4 입력광에 기초한 깊이맵이 QVGA(320x240) 급의 해상도를 가지는 경우, 제3 입력광 또는 제5 입력광에 기초한 깊이맵은 VGA(640x480) 급의 해상도를 가질 수 있다.
초해상기법, 즉, 수퍼 레졸루션(Super Resolution, SR) 기법은 복수의 저해상 영상으로부터 고해상 영상을 얻는 기법으로, SR 기법의 수학적 모델은 수학식 3과 같이 나타낼 수 있다.
Figure PCTKR2019009645-appb-M000003
여기서, 1≤k≤p이고, p는 저해상 영상의 개수이며, yk는 저해상 영상(=[yk,1, yk,2, …, yk,M]T, 여기서, M=N1*N2), Dk는 다운 샘플링(down sampling) 매트릭스, Bk는 광학 흐림(blur) 매트릭스, Mk는 영상 왜곡(warping) 매트릭스, x는 고해상 영상(=[x1, x2, …, xN]T, 여기서, N=L1N1*L2N2), nk는 노이즈를 나타낸다. 즉, SR 기법에 따르면, yk에 추정된 해상도 열화 요소들의 역함수를 적용하여 x를 추정하는 기술을 의미한다. SR 기법은 크게 통계적 방식과 멀티프레임 방식으로 나뉠 수 있으며, 멀티프레임 방식은 크게 공간 분할 방식과 시간 분할 방식으로 나뉠 수 있다.
제어 모듈(130)은 피사체에 대한 깊이맵을 연결된 어플리케이션으로 전송할 수 있다. 그리고, 제어 모듈(130)은 피사체에 대한 깊이맵을 통해 피사체의 크기를 검출할 수 있으며, 검출된 크기 정보를 연결된 어플리케이션으로 전송할 수 있다.
도 2는 본 발명의 실시예에 따른 카메라 제어 방법의 제1 실시예를 나타낸 순서도이다.
도 2를 참조하면, 카메라 작동 신호가 입력되면, 발광모듈이 설정된 제1 제어 모드에 따라 제1 출력광을 출력한다(S205).
그러면, 수광 모듈(120)은 설정된 제1 제어 모드에 따라 제1 출력광에 대응하는 제1 입력광을 입력받는다(S210).
다음으로, 제어 모듈(130)은 제1 입력광에 기초하여 피사체의 존재를 검출한다(S215).
피사체의 존재가 검출되면, 제어 모듈(130)은 설정된 제1 제어 모드가 제2 제어 모드로 변경되도록 재설정한다(S220).
그리고, 재설정된 제2 제어 모드에 따라, 발광 모듈(110)은 제2 출력광을 출력하고 수광 모듈(120)은 피사체로부터 반사된 제2 입력광을 입력받는다(S225).
그러면, 제어 모듈(130)은 제2 입력광에 기초하여 피사체에 대한 깊이맵을 생성한다(S230).
반면, 피사체의 존재가 미검출되면, 제1 제어 모드가 유지되도록 재설정한 후 S205 단계부터 다시 진행되며, 일정 횟수가 반복되는 동안 피사체가 미검출되면, 종료할 수 있다.
도 3은 본 발명의 실시예에 따른 카메라 제어 방법의 제2 실시예를 나타낸 순서도이다.
카메라 작동 신호가 입력되면, 발광 모듈(110)은 기 설정된 제3 제어 모드에 따라 제3 출력광을 출력한다(S305).
그러면, 수광 모듈(120)은 설정된 제3 제어 모드에 따라 제3 출력광에 대응하는 제3 입력광을 입력받는다(S310).
다음으로, 제어 모듈(130)은 제3 입력광에 기초하여 피사체의 존재를 검출한다(S315).
피사체의 존재가 검출되면, 제어 모듈(130)은 제3 입력광에 기초하여 피사체와의 거리를 산출하고, 산출된 피사체와의 거리와 임계값을 비교한다(S320).
이때, 피사체와의 거리가 임계값보다 크거나 같으면, 제어 모듈(130)은 제3 제어 모드가 유지되도록 재설정한다(S325). 그리고, 재설정된 제3 제어 모드에 따라, 발광 모듈(110)은 피사체로 제3 출력광을 출력하고, 수광 모듈(120)은 피사체에 반사된 제3 입력광을 입력받는다(S330).
피사체와의 거리가 임계값보다 작으면, 제어 모듈(130)은 설정된 제3 제어 모드가 제4 제어 모드로 변경되도록 재설정한다(S335). 그리고, 재설정된 제4 제어 모드에 따라, 발광 모듈(110)은 피사체로 제4 출력광을 출력하고, 수광 모듈(120)은 피사체에 반사된 제4 입력광을 입력받는다(S340).
반면, 피사체가 미검출되면, 제어 모듈(130)은 기 설정된 제3 제어 모드가 제5 제어 모드로 변경되도록 재설정한다(S345). 그리고, 재설정된 제5 제어 모드에 따라, 발광 모듈(110)은 피사체로 제5 출력광을 출력하고, 수광 모듈(120)은 피사체에 반사된 제5 입력광을 입력받는다(S350).
그러면, 제어 모듈(130)은 제3 내지 제5 입력광 중 어느 하나에 기초하여 파사체에 대한 깊이맵을 생성한다(S355). 깊이맵을 생성하는 과정은 위에서 수학식을 통해 설명한 것과 동일한 바 상세한 설명은 생략하도록 한다. 한편, 피사체에 반사된 제3 입력광 또는 제5 입력광에 기초하여 깊이맵을 생성하는 경우, 제어 모듈(130)은 초고해상기법(super resolution)을 통해 피사체에 반사된 제4 입력광에 기초한 깊이맵보다 높은 해상도를 가지는 깊이맵을 생성할 수 있다.
그리고, 제어 모듈(130)은 생성된 깊이맵의 깊이 정보에 기초하여 피사체의 크기를 산출하고(S360), 피사체의 크기를 연결된 어플리케이션으로 전송할 수 있다(S365). 이때, 연결된 어플리케이션은 S305 단계의 카메라 작동 신호를 입력한 어플리케이션일 수 있다.
도 4는 본 발명의 실시예에 따른 카메라 제어 방법의 제3 실시예를 나타낸 순서도이다.
도 4에 도시된 카메라 제어 방법에 따르면, 도 3에 도시된 카메라 제어 방법과 도 4에 도시된 카메라 제어 방법이 함께 구현될 수 있다.
도 4를 참조하면, 제어 모듈(130)은 카메라 작동 신호를 입력받으면(S405), 카메라 작동 신호의 종류를 판단한다(S410). 이때, 제어 모듈(130)은 카메라 작동 신호의 종류에 따라 제1 발광 모듈(110) 및 제1 수광 모듈(120)을 작동시키거나 제2 발광 모듈(110) 및 제2 수광 모듈(120)을 작동시킬 수 있다.
구체적으로, 입력된 카메라 작동 신호가 제1 카메라 작동 신호인 경우, 제어 모듈(130)은 제1 발광 모듈(110) 및 제1 수광 모듈(120)을 작동시킬 수 있다. 그러면, 제어 모듈(130)은 도 2에 도시된 카메라 제어 방법에 따라 카메라 제어를 수행한다. 예를 들어, 사용자가 3차원 얼굴 인식을 위하여 버튼 입력이나 모션 입력을 통해 제1 카메라 작동 신호를 입력하는 경우, 제어 모듈(130)은 제1 발광 모듈(110) 및 제1 수광 모듈(120)을 작동시켜, 도 2의 S205 내지 S230 단계에 따라 카메라 제어를 수행할 수 있다.
반면, 입력된 카메라 작동 신호가 제2 카메라 작동 신호인 경우, 제어 모듈(130)은 제2 발광 모듈(110) 및 제2 수광 모듈(120)을 작동시킬 수 있다. 그러면, 제어 모듈(130)은 도 3에 도시된 카메라 제어 방법에 따라 카메라 제어를 수행한다. 예를 들어, 사용자가 사물의 크기 검출을 위하여 어플리케이션을 통해 제2 카메라 작동 신호를 입력하는 경우, 제어 모듈(130)은 제2 발광 모듈(110) 및 제2 수광 모듈(120)을 작동시켜, S305 내지 S365 단계에 따라 카메라 제어를 수행할 수 있다.
S205 내지 S230 단계 및 305 내지 S355 단계는 위에서 도 2 및 도 3을 통해 설명한 바 상세한 설명은 생략하도록 한다.
도 5는 본 발명의 실시예에 따른 제어 모드를 설명하기 위한 도면이다.
도 5를 참조하면, 본 발명의 실시예에 따른 제어 모드는 제1 내지 제5 제어 모드를 포함할 수 있으며, 제1 및 제2 제어 모드로 그룹핑되고, 제3 내지 제5 제어 모드로 그룹핑 될 수 있다.
구체적으로, 본 발명의 실시예에 따른 카메라는 카메라 동작 신호에 따라 제1 제어 모드 및 제2 제어 모드 중 어느 하나에 따라 제어될 수 있다.
제1 제어 모드는 피사체를 검색하기 위한 제어 모드일 수 있으며, 제2 제어 모드는 피사체를 정밀 계측하기 위한 제어 모드일 수 있다. 예를 들어, 얼굴 인식을 위한 경우, 제1 제어 모드는 얼굴(피사체)의 존재를 검출하기 위한 제어 모드일 수 있고, 제2 제어 모드는 얼굴(피사체)에 대한 깊이맵을 생성하기 위한 제어 모드일 수 있다.
아래의 표 1은 제1 제어 모드 및 제2 제어 모드의 특징을 나타낸 표이다.
모드 거리 범위 깊이 정확도 수광 모듈 화각 광 노출 시간 프레임 레이트 수광부 및
제1 제어 모드 ~100cm <10% 40°~60° <0.1ms 1 fps <20mW
제2 제어 모드 ~60cm <1% 80° >0.7ms >15 fps >150mW
표 1에 나타난 바와 같이, 제1 제어 모드 및 제2 제어 모드는 발광 모듈(110)의 광 노출 시간, 수광 모듈(120)의 프레임 레이트(frame rate) 및 활성화되는 픽셀 수 중 적어도 하나가 서로 다르게 설정될 수 있다. 그리고 이에 따른 효과도 상이하다. 구체적으로, 제1 제어 모드에서 발광 모듈(110)의 광 노출 시간은 제2 제어 모드의 광 노출 시간보다 짧게 설정될 수 있다. 예를 들어, 제1 제어 모드의 광 노출 시간은 0.1ms보다 짧게 설정되고, 제2 제어 모드의 광 노출 시간은 0.7ms보다 길게 설정될 수 있다.
제1 제어 모드에서 수광 모듈(120)의 프레임 레이트는 제2 제어 모드의 프레임 레이트보다 작게 설정될 수 있다. 예를 들어, 제1 제어 모드의 프레임 레이트는 1fps로 설정되고, 제2 제어 모드의 프레임 레이트는 15fps보다 크게 설정될 수 있다. 특히, 제1 제어 모드는 피사체의 존재를 검출하기 위한 것이므로 1개의 프레임만 생성하도록 수광 모듈(120)의 프레임 레이트를 1fps로 설정할 수 있다.
제1 제어 모드에서 수광 모듈(120)의 활성화되는 픽셀 수는 제2 제어 모드에서 활성화되는 픽셀 수보다 작게 설정될 수 있다. 즉, 제1 제어 모드에서 수광 모듈(120)의 화각은 제2 제어 모드에서 수광 모듈(120)의 화각보다 작게 설정될 수 있다. 예를 들어, 제1 제어 모드에서는 112x86 개의 픽셀이 활성화되어 수광 모듈(120)의 화각이 40°가 되도록 설정될 수 있으며, 제2 제어 모드에서는 224x172 개의 픽셀이 활성화되어 수광 모듈(120)의 화각의 80°가 되도록 설정될 수 있다.
제1 제어 모드에 따라 본 발명의 실시예에 따른 카메라가 동작할 경우, 제2 제어 모드에 비해 깊이 정확도가 낮으나, 적은 전력으로 더 먼거리의 피사체를 측정할 수 있다. 즉, 적은 전력으로 피사체의 존재를 검출한 후, 피사체가 존재한다고 판단되면, 제2 제어 모드에 따라 정밀 촬영을 수행하므로, 카메라의 소비 전력을 절감시킬 수 있는 장점을 가진다.
다음으로, 본 발명의 실시예에 따른 카메라는 카메라 동작 신호에 따라 제3 내지 제5 제어 모드 중 어느 하나에 따라 제어될 수 있다.
아래의 표 2는 제3 내지 제5 제어 모드의 특징을 나타낸 표이다.
모드 거리 범위 해상도 광 노출 시간 변조 주파수 소비 전력
제3 제어 모드 ~2m VGA >1.5ms 60MHz >50mW
제4 제어 모드 ~1m QVGA <1.5ms 80MHz >25mW
제5 제어 모드 4m~ VGA >1.5ms 80MHz+60MHz >100mW
표 2에 나타난 바와 같이, 제3 내지 제5 제어 모드는 발광 모듈(110)의 광 노출 시간 및 변조 주파수 중 적어도 하나가 서로 다르게 설정될 수 있다. 제4 제어 모드에서 발광 모듈(110)의 광 노출 시간은 제3 제어 모드 및 제5 제어 모드의 광 노출 시간보다 작게 설정될 수 있다. 예를 들어, 제4 제어 모드의 광 노출 시간은 1.5ms보다 작게 설정될 수 있으며, 제3 제어 모드 및 제5 제어 모드의 광 노출 시간은 1.5ms보다 크게 설정될 수 있다. 제4 제어 모드는 1m 이내의 근거리에 위치한 피사체를 촬영하기 위한 제어 모드이므로, 제3 및 제5 제어 모드에 비해 광 노출 시간이 짧더라도 수광 모듈(120)이 깊이맵을 생성하기 위한 충분한 광량을 확보할 수 있기 때문이다.
제3 제어 모드는 변조 주파수가 제1 주파수로 설정되고, 제4 제어 모드는 변조 주파수가 제1 주파수보다 큰 값을 가지는 제2 주파수로 설정되고, 제5 제어 모드는 변조 주파수가 제1 주파수 및 제2 주파수, 즉 두 개의 주파수 조합으로 설정될 수 있다. 예를 들어, 제3 제어 모드는 변조 주파수가 60MHz로 설정되고, 제4 제어 모드는 변조 주파수가 80MHz로 설정되고, 제5 제어 모드는 변조 주파수가 60MHz 및 80MHz로 설정될 수 있다.
표 2에 나타난 바와 같이, 본 발명의 실시예에 따른 카메라는 제3 내지 제5 제어 모드를 통해 피사체와의 거리에 따라 발광 모듈(110) 및 수광 모듈(120)을 다르게 제어한다. 즉, 피사체와의 거리에 따라 최적화된 제어 모듈(130)로 카메라를 동작시키므로 카메라의 소비 전력을 절감시킬 수 있는 장점을 가진다.
도 6은 본 발명의 실시예에 따른 제5 제어 모드를 설명하기 위한 도면이다.
도 6은 2개의 변조 주파수의 조합 과정을 나타낸다. 예를 들어, 제1 주파수가 60MHz이고 제2 주파수가 80MHz라고 가정한다.
피사체를 측정할 수 있는 최대 거리는 출력광의 주파수에 따라 결정되는데, 60MHz의 제1 주파수에 따른 출력광으로는 최대 1.8657m에 위치한 피사체를 측정할 수 있으며, 80MHz의 제2 주파수에 따른 출력광으로는 최대 2.4876m에 위치한 피사체를 측정할 수 있다. 이와 같이, 주파수의 크기가 클수록 피사체를 측정할 수 있는 최대 거리가 늘어난다. 하지만, 주파수를 높이기 위해서는 발광 모듈(110)의 점멸 주기를 빠르게 제어해야 하므로 소모되는 전력이 늘어난다.
이에 따라, 본 발명의 실시예에 따른 제5 제어 모드는 제1 주파수 및 제2 주파수를 동시에 출력하여 피사체의 측정 거리를 늘릴 수 있다.
도 6에 도시된 바와 같이, 제1 주파수에 따른 출력광과 제2 주파수에 따른 출력광이 동시에 출력되는 경우, 제1 주파수 및 제2 주파수는 서로 다른 주기로 파형이 형성되다가 두 개의 주파수의 위상이 겹치는 부분이 발생할 수 있다. 이와 같이, 두 개의 주파수를 동시에 출력하는 경우 두 개의 주파수 위상이 겹치는 부분까지를 하나의 주기로 볼 수 있다. 즉, 60MHz와 80MHz의 주파수를 동시에 출력하는 경우 240MHz의 주파수를 가지는 하나의 출력광으로 간주할 수 있다. 이 경우, 240MHz의 주파수를 가지는 출력광을 출력하는 것에 비해 소비 전력을 크게 절감시킬 수 있는 장점을 가진다.
도 7은 본 발명의 실시예에 따른 최적화된 카메라 동작을 설명하기 위한 도면이다.
도 7은 도 3에 도시된 카메라 제어 방법에 따른 카메라 동작을 설명하기 위한 예시를 나타내고 있다. 도 7에 도시된 바와 같이, (a) 내지 (c)에 나타난 반지, 볼트, 음식과 같이 크기가 작은 피사체를 촬영하는 경우, 사용자는 카메라를 피사체와 가까운 곳에 위치시킨 후 촬영을 하게 된다. 이 경우에는, 제어 모듈(130)은 제3 제어 모드에 따른 피사체의 존재 및 피사체와의 거리 정보에 기초하여 제4 제어 모드에 따라 피사체를 촬영하여 깊이맵을 생성하게 된다.
만약, (d) 및 (e)에 나타난 쇼파나 커튼 같이 상대적으로 큰 피사체를 촬영하는 경우, 사용자는 피사체로부터 일정 거리 이상 떨어진 위치에 카메라를 위치시킨 후 촬영을 하게 된다. 이 경우, 제어 모듈(130)은 제3 제어 모드에 따라 피사체를 촬영하여 깊이맵을 생성하게 된다.
한편, (f)에 나타난 것처럼 실내 측위를 위해 촬영을 수행하는 경우, 사용자는 피사체로부터 상당히 멀리 떨어진 위치에 카메라를 위치시킨 후 촬영을 하게 된다. 이 경우, 제어 모듈(130)은 제3 제어 모드에 따른 피사체의 존재 정보에 기초하여 제5 제어 모드에 따라 피사체를 촬영하여 깊이맵을 생성하게 된다.

Claims (10)

  1. 설정된 제어 모드에 따라 출력광을 출력하는 발광 모듈,
    상기 제어 모드에 따라 상기 출력광에 대응하는 입력광을 입력받는 수광 모듈,
    상기 입력광에 기초하여 피사체의 존재 및 상기 피사체와의 거리 중 적어도 하나를 검출하고, 검출 결과에 따라 상기 제어 모드를 재설정하며, 재설정된 상기 제어 모드에 따라 상기 발광 모듈의 출력 및 상기 수광 모듈의 입력을 제어하고, 재설정된 상기 제어 모드에 따라 입력된 입력광에 기초하여 상기 피사체에 대한 깊이맵을 생성하는 제어 모듈을 포함하는 카메라.
  2. 제1항에 있어서,
    상기 제어 모드는,
    제1 제어 모드 및 제2 제어 모드를 포함하고,
    상기 제1 제어 모드 및 상기 제2 제어 모드는,
    상기 발광 모듈의 광 노출 시간, 상기 수광 모듈의 프레임 레이트(frame rate) 및 활성화되는 픽셀 수 중 적어도 하나가 서로 다르게 설정되는 카메라.
  3. 제2항에 있어서,
    상기 발광 모듈은, 카메라 작동 신호가 입력되면 기 설정된 상기 제1 제어 모드에 따라 제1 출력광을 출력하고,
    상기 수광 모듈은, 상기 제1 제어 모드에 따라 상기 제1 출력광에 대응하는 제1 입력광을 입력받는 카메라.
  4. 제3항에 있어서,
    상기 제어 모듈은,
    상기 제1 입력광에 기초하여 피사체의 존재를 검출한 결과, 상기 피사체가 검출되면, 상기 제2 제어 모드로 재설정하고, 상기 제2 제어 모드에 따라 상기 발광 모듈이 제2 출력광을 출력하고 상기 수광 모듈이 피사체에 반사된 제2 입력광을 입력받는 카메라.
  5. 제1항에 있어서,
    상기 제어 모드는,
    제3 제어 모드 내지 제5 제어 모드를 포함하고,
    상기 제3 제어 모드 내지 제5 제어 모드는,
    상기 발광 모듈의 광 노출 시간 및 변조 주파수 중 적어도 하나가 서로 다르게 설정되는 카메라.
  6. 제5항에 있어서,
    상기 제3 제어 모드는, 상기 변조 주파수가 제1 주파수로 설정되고,
    상기 제4 제어 모드는, 상기 변조 주파수가 상기 제1 주파수보다 큰 값을 가지는 제2 주파수로 설정되고,
    상기 제5 제어 모드는, 상기 변조 주파수가 상기 제1 주파수 및 상기 제2 주파수로 설정되는 카메라.
  7. 제6항에 있어서,
    상기 발광 모듈은, 카메라 작동 신호가 입력되면 상기 제3 제어 모드에 따라 제3 출력광을 출력하고,
    상기 수광 모듈은, 상기 제3 제어 모드에 따라 제3 출력광에 대응하는 제3 입력광을 입력받는 카메라.
  8. 제7항에 있어서,
    상기 제어 모듈은,
    상기 제3 입력광에 기초하여 피사체의 존재를 검출한 결과,
    상기 피사체가 검출되면, 상기 제3 입력광에 기초하여 상기 피사체와의 거리를 산출하고,
    검출 결과 상기 피사체가 검출되지 않으면, 상기 제5 제어 모드로 변경되도록 재설정하며, 재설정된 상기 제5 제어 모드에 따라 상기 발광 모듈이 상기 피사체로 제5 출력광을 출력하고 상기 수광 모듈이 피사체에 반사된 제5 입력광을 입력받는 카메라.
  9. 제8항에 있어서,
    상기 제어 모듈은,
    상기 피사체와의 거리가 임계값보다 크거나 같으면, 상기 제3 제어 모드가 유지되도록 재설정하며, 재설정된 상기 제3 제어 모드에 따라 상기 발광 모듈이 상기 피사체로 제3 출력광을 출력하고 상기 수광 모듈이 상기 피사체에 반사된 제3 입력광을 입력받으며,
    상기 피사체와의 거리가 상기 임계값보다 작으면, 상기 제4 제어 모드로 변경되도록 재설정하며, 재설정된 상기 제4 제어 모드에 따라 상기 발광 모듈이 상기 피사체로 제4 출력광을 출력하고 상기 수광 모듈이 상기 피사체에 반사된 제4 입력광을 입력받는 카메라.
  10. 제9항에 있어서,
    상기 제어 모듈은,
    상기 피사체에 반사된 제3 내지 제5 입력광 중 하나에 기초하여 상기 피사체에 대한 깊이맵을 생성하되,
    상기 피사체에 반사된 제3 입력광 또는 제5 입력광에 기초하여 상기 깊이맵을 생성하는 경우, 초고해상기법(super resolution)을 통해 상기 제4 입력광에 기초한 깊이맵보다 높은 해상도를 가지는 상기 깊이맵을 생성하는 카메라.
PCT/KR2019/009645 2018-08-07 2019-08-02 카메라 Ceased WO2020032485A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201980053832.0A CN112585961B (zh) 2018-08-07 2019-08-02 相机
US17/266,411 US11659155B2 (en) 2018-08-07 2019-08-02 Camera

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180091898A KR102469944B1 (ko) 2018-08-07 2018-08-07 카메라
KR10-2018-0091898 2018-08-07

Publications (1)

Publication Number Publication Date
WO2020032485A1 true WO2020032485A1 (ko) 2020-02-13

Family

ID=69414859

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2019/009645 Ceased WO2020032485A1 (ko) 2018-08-07 2019-08-02 카메라

Country Status (4)

Country Link
US (1) US11659155B2 (ko)
KR (1) KR102469944B1 (ko)
CN (1) CN112585961B (ko)
WO (1) WO2020032485A1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020134464A (ja) * 2019-02-25 2020-08-31 ソニーセミコンダクタソリューションズ株式会社 測距装置、測距方法、並びにプログラム
US11888289B2 (en) 2020-03-30 2024-01-30 Namuga, Co., Ltd. Light source module allowing differential control according to distance to subject and method for controlling the same
KR102476951B1 (ko) * 2020-03-30 2022-12-14 주식회사 나무가 광 출력장치의 광 출력 최적화 방법
KR20230049902A (ko) * 2021-10-07 2023-04-14 삼성전자주식회사 거리 센서를 포함하는 전자 장치 및 거리 측정 방법
JP2025106739A (ja) * 2024-01-04 2025-07-16 キヤノン株式会社 情報処理装置、制御方法、プログラム及び撮像システム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5584196B2 (ja) * 2009-03-05 2014-09-03 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 距離測定装置、距離測定方法、プログラムおよび集積回路
KR20150076760A (ko) * 2013-12-27 2015-07-07 주식회사 만도 차량용 tof 카메라 및 그의 구동 방법
KR20160038460A (ko) * 2014-09-30 2016-04-07 삼성전자주식회사 전자 장치와, 그의 제어 방법
US20160352998A1 (en) * 2015-05-26 2016-12-01 Novatek Microelectronics Corp. Flicker Detecting Method for Image Capturing Device
KR20180023785A (ko) * 2016-08-24 2018-03-07 삼성전자주식회사 복수의 발광소자를 포함하는 전자 장치 및 전자 장치의 동작 방법

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100731350B1 (ko) 2005-07-26 2007-06-21 삼성전자주식회사 공간적 균일성 보상 장치 및 그 방법
US8537229B2 (en) 2008-04-10 2013-09-17 Hankuk University of Foreign Studies Research and Industry—University Cooperation Foundation Image reconstruction
IN2014CN04569A (ko) * 2011-12-08 2015-09-18 Koninkl Philips Nv
KR20140095793A (ko) * 2013-01-25 2014-08-04 삼성디스플레이 주식회사 패널 얼룩 평가 방법 및 시스템
US9628177B1 (en) 2015-09-30 2017-04-18 Osram Sylvania Inc. Adaptive baud rate in light-based communication
US10225511B1 (en) * 2015-12-30 2019-03-05 Google Llc Low power framework for controlling image sensor mode in a mobile image capture device
KR101861515B1 (ko) * 2016-04-21 2018-05-25 송경희 급수 가압용 부스터 펌프 시스템에서 설정 양정에 대한 회전수별 유량 계산 방법
WO2018038340A2 (en) * 2016-08-24 2018-03-01 Samsung Electronics Co., Ltd. Electronic device including light-emitting elements and method of operating electronic device
US10616463B2 (en) * 2017-12-06 2020-04-07 Rockwell Collins, Inc. Synchronized camera and lighting system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5584196B2 (ja) * 2009-03-05 2014-09-03 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 距離測定装置、距離測定方法、プログラムおよび集積回路
KR20150076760A (ko) * 2013-12-27 2015-07-07 주식회사 만도 차량용 tof 카메라 및 그의 구동 방법
KR20160038460A (ko) * 2014-09-30 2016-04-07 삼성전자주식회사 전자 장치와, 그의 제어 방법
US20160352998A1 (en) * 2015-05-26 2016-12-01 Novatek Microelectronics Corp. Flicker Detecting Method for Image Capturing Device
KR20180023785A (ko) * 2016-08-24 2018-03-07 삼성전자주식회사 복수의 발광소자를 포함하는 전자 장치 및 전자 장치의 동작 방법

Also Published As

Publication number Publication date
KR102469944B1 (ko) 2022-11-23
CN112585961A (zh) 2021-03-30
CN112585961B (zh) 2024-11-15
KR20200016604A (ko) 2020-02-17
US11659155B2 (en) 2023-05-23
US20210329218A1 (en) 2021-10-21

Similar Documents

Publication Publication Date Title
WO2020032485A1 (ko) 카메라
WO2020045932A1 (ko) 영상 처리 장치 및 영상 처리 방법
US9229096B2 (en) Time-of-flight imaging systems
US9182490B2 (en) Video and 3D time-of-flight image sensors
US10277827B2 (en) Imaging apparatus and electronic apparatus
US10652513B2 (en) Display device, display system and three-dimension display method
US20210126025A1 (en) Imaging Method and Apparatus
KR101565451B1 (ko) 동기식 레이저 포인트 전자 화이트 보드 시스템
WO2020045946A1 (ko) 영상 처리 장치 및 영상 처리 방법
WO2020067738A1 (ko) 카메라 장치 및 그의 깊이 정보 추출 방법
WO2012115408A2 (ko) 이미지 센서 및 이를 포함하는 촬영 장치
CN101180634A (zh) 用于确定成像设备位置的系统和方法
WO2019245300A1 (ko) 이미지 센서 및 이를 이용하는 카메라 모듈
WO2020067745A1 (ko) 카메라 장치
EP1689171A1 (en) LED flash control
WO2019235889A1 (ko) 카메라 모듈 및 그의 깊이 정보 추출 방법
JP4315545B2 (ja) ３次元画像検出システムと３次元画像検出装置
CN112929519B (zh) 深度相机、成像装置和电子设备
WO2010123236A2 (ko) 폐쇄회로텔레비젼 카메라용 조명장치 및 조명제어방법, 폐쇄회로텔레비젼 카메라 연동형 조명 제어시스템
CN114040101A (zh) 一种用于周期性高速图像信号的采集方法及装置
WO2021124763A1 (ja) 測距装置及び測距装置の制御方法、並びに、電子機器
Le Francois et al. Top-down illumination photometric stereo imaging using light-emitting diodes and a mobile device
WO2020060321A1 (ko) 카메라 모듈
KR102812702B1 (ko) 카메라 모듈
EP4708899A1 (en) Image capturing apparatus with avalance photodiodes, image capturing method, and computer program product

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19848572

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205A DATED 06/07/2021)

122 Ep: pct application non-entry in european phase

Ref document number: 19848572

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 19848572

Country of ref document: EP

Kind code of ref document: A1