WO2022154338A1 - 소형 카메라를 포함하는 웨어러블 전자 장치 - Google Patents

소형 카메라를 포함하는 웨어러블 전자 장치 Download PDF

Info

Publication number
WO2022154338A1
WO2022154338A1 PCT/KR2021/020343 KR2021020343W WO2022154338A1 WO 2022154338 A1 WO2022154338 A1 WO 2022154338A1 KR 2021020343 W KR2021020343 W KR 2021020343W WO 2022154338 A1 WO2022154338 A1 WO 2022154338A1
Authority
WO
WIPO (PCT)
Prior art keywords
camera
electronic device
image sensor
frame
user
Prior art date
Application number
PCT/KR2021/020343
Other languages
English (en)
French (fr)
Inventor
송덕영
곽호근
박재흥
송형일
전진아
박용현
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to EP21919960.1A priority Critical patent/EP4215976A4/en
Priority to CN202180085294.0A priority patent/CN116635769A/zh
Priority to US17/569,883 priority patent/US20220229298A1/en
Publication of WO2022154338A1 publication Critical patent/WO2022154338A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B27/0176—Head mounted characterised by mechanical features
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30—Image reproducers
    • H04N13/366—Image reproducers using viewer tracking
    • H04N13/383—Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/51—Housings
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B2027/0178—Eyeglass type

Definitions

  • Various embodiments disclosed in this document relate to a wearable electronic device including a small camera that captures a user's eyes.
  • Augmented reality may refer to a technology for expressing a real reality recognized by a user by adding an element generated through computer graphic processing.
  • AR Augmented reality
  • a virtual object including information related to the object may be added to an object existing in reality and displayed together.
  • Augmented reality can be implemented through various devices.
  • augmented reality may be implemented through wearable electronic devices such as glasses-type wearable electronic devices and head mounted displays (HMDs).
  • wearable electronic devices such as glasses-type wearable electronic devices and head mounted displays (HMDs).
  • HMDs head mounted displays
  • an image may be displayed on the lens of the glasses in order to implement augmented reality in the glasses-type wearable electronic device.
  • an image By projecting light onto the lenses of the glasses, an image can be displayed on the lenses.
  • a projector with a very small size eg, a micro projector, or a pico projector
  • Examples of such a projector include a laser scanning display (LSD), a digital micro-mirro display (DMD), and a liquid crystal on silicon (LCoS).
  • LSD laser scanning display
  • DMD digital micro-mirro display
  • LCDoS liquid crystal on silicon
  • an image may be displayed on the lens using a transparent display.
  • the electronic device may include a plurality of cameras.
  • cameras for capturing images of both eyes in order to track the user's eye movement may be provided.
  • the size of the camera included in the electronic device is large, the volume and weight of the electronic device may increase, and thus the wearing comfort may decrease.
  • the size of the camera for photographing the user's eyes is large, a problem may occur that the camera enters the user's field of view.
  • Various embodiments disclosed in this document may provide a wearable electronic device including a small camera capable of photographing the user's eyes without the camera entering the user's field of view.
  • An electronic device includes a frame including a first area and a second area, a window member supported by the frame, a support member rotatably connected to the frame, and an image using the window member and a camera disposed in the second area of the frame to photograph a portion of the user's eye and a display module for projecting the image, wherein the camera includes a substrate and an image sensor disposed on the substrate, The area may be equal to or smaller than the area of the image sensor.
  • the camera included in the head-mounted electronic device includes a substrate, an image sensor disposed on the substrate and electrically connected to the substrate, a protective glass disposed on the image sensor, and the protective glass and a lens barrel disposed on the lens barrel and having a plurality of lenses therein, and a cover glass coupled to the lens barrel to protect the plurality of lenses included in the lens barrel, wherein an area of the substrate is larger than an area of the image sensor. may be less than or equal to
  • the electronic device can be made lighter by miniaturizing the camera, and the phenomenon that the camera is included in the user's field of view can be reduced, thereby increasing the usability of the electronic device.
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to various embodiments of the present disclosure
  • FIG. 2 is an overall configuration diagram of an electronic device including a plurality of cameras according to various embodiments of the present disclosure
  • 3A is a diagram of an electronic device according to various embodiments disclosed herein.
  • 3B is an exploded perspective view of an electronic device and a camera according to various embodiments disclosed herein.
  • 4A is a view for explaining a photographing area of a camera according to various embodiments disclosed in this document.
  • 4B is a view for explaining a photographing space according to various embodiments disclosed in this document.
  • FIG. 5 is a view of an image captured by a camera according to various embodiments disclosed herein.
  • 6A is a perspective view of a camera according to various embodiments disclosed herein.
  • FIG. 6B is an exploded perspective view of the camera shown in FIG. 6A .
  • FIG. 6C is a cross-sectional view of the camera shown in FIG. 6A taken along line A-A.
  • a or B at least one of A and B”, “or at least one of B,” “A, B or C,” “at least one of A, B and C,” and “B; or “at least one of C” may include any one of, or all possible combinations of, items listed together in the corresponding one of the phrases.
  • Terms such as “first”, “second”, or “first” or “second” may simply be used to distinguish an element from other elements in question, and may refer elements to other aspects (e.g., importance or order) is not limited. that one (e.g. first) component is “coupled” or “connected” to another (e.g. second) component with or without the terms “functionally” or “communicatively” When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100, according to various embodiments.
  • an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • a second network 199 e.g., a second network 199
  • the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120 , a memory 130 , an input module 150 , a sound output module 155 , a display module 160 , an audio module 170 , and a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or an antenna module 197 .
  • at least one of these components eg, the connection terminal 178
  • some of these components are integrated into one component (eg, display module 160 ). can be
  • the processor 120 for example, executes software (eg, a program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120. It can control and perform various data processing or operations. According to one embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 . may be stored in , process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • software eg, a program 140
  • the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 .
  • the volatile memory 132 may be stored in , process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • the processor 120 is the main processor 121 (eg, a central processing unit or an application processor) or a secondary processor 123 (eg, a graphic processing unit, a neural network processing unit (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
  • the main processor 121 eg, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor.
  • the main processor 121 e.g, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a
  • the secondary processor 123 may, for example, act on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or when the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the coprocessor 123 eg, an image signal processor or a communication processor
  • may be implemented as part of another functionally related component eg, the camera module 180 or the communication module 190 ). have.
  • the auxiliary processor 123 may include a hardware structure specialized for processing an artificial intelligence model.
  • Artificial intelligence models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself on which artificial intelligence is performed, or may be performed through a separate server (eg, the server 108).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but in the above example not limited
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the above example.
  • the artificial intelligence model may include, in addition to, or alternatively, a software structure in addition to the hardware structure.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176 ) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the non-volatile memory 134 may include an internal memory 136 and an external memory 138 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input module 150 may receive a command or data to be used by a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input module 150 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output module 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • the receiver can be used to receive incoming calls. According to one embodiment, the receiver may be implemented separately from or as part of the speaker.
  • the display module 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display module 160 may include, for example, a control circuit for controlling a display, a hologram device, or a projector and a corresponding device.
  • the display module 160 may include a touch sensor configured to sense a touch or a pressure sensor configured to measure the intensity of a force generated by the touch.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input module 150 , or an external electronic device (eg, a sound output module 155 ) connected directly or wirelessly with the electronic device 101 .
  • the electronic device 102) eg, a speaker or headphones
  • the electronic device 102 may output a sound.
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more specified protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication performance through the established communication channel.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a local area network (LAN) communication module, or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, : It may include a local area network (LAN) communication module, or a power line communication module.
  • a corresponding communication module among these communication modules is a first network 198 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a first network 198 eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)
  • a second network 199 eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a telecommunication network
  • the wireless communication module 192 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • subscriber information eg, International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the electronic device 101 may be identified or authenticated.
  • the wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, a new radio access technology (NR).
  • NR access technology includes high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low-latency) -latency communications)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low-latency
  • the wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • a high frequency band eg, mmWave band
  • the wireless communication module 192 uses various techniques for securing performance in a high-frequency band, for example, beamforming, massive multiple-input and multiple-output (MIMO), all-dimensional multiplexing. It may support technologies such as full dimensional MIMO (FD-MIMO), an array antenna, analog beam-forming, or a large scale antenna.
  • the wireless communication module 192 may support various requirements defined in the electronic device 101 , an external electronic device (eg, the electronic device 104 ), or a network system (eg, the second network 199 ).
  • the wireless communication module 192 may include a peak data rate (eg, 20 Gbps or more) for realizing eMBB, loss coverage (eg, 164 dB or less) for realizing mMTC, or U-plane latency for realizing URLLC ( Example: Downlink (DL) and uplink (UL) each 0.5 ms or less, or round trip 1 ms or less) can be supported.
  • a peak data rate eg, 20 Gbps or more
  • loss coverage eg, 164 dB or less
  • U-plane latency for realizing URLLC
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include an antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC)
  • RFIC radio frequency integrated circuit
  • the antenna module 197 may form a mmWave antenna module.
  • the mmWave antenna module comprises a printed circuit board, an RFIC disposed on or adjacent to a first side (eg, bottom side) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, an array antenna) disposed on or adjacent to a second side (eg, top or side) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the external electronic devices 102 or 104 may be the same as or different from the electronic device 101 .
  • all or a part of operations executed in the electronic device 101 may be executed in one or more external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • One or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing, distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 104 may include an Internet of things (IoT) device.
  • the server 108 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 104 or the server 108 may be included in the second network 199 .
  • the electronic device 101 may be applied to an intelligent service (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
  • FIG. 2 is an overall configuration diagram of an electronic device including a plurality of cameras (eg, the electronic device 101 of FIG. 1 ) according to various embodiments of the present disclosure.
  • the electronic device 200 may be an electronic device 200 manufactured to be worn on a user's head.
  • the electronic device 200 may be configured in the form of at least one of glasses, goggles, a helmet, or a hat, but is not limited thereto.
  • the electronic device 200 includes a plurality of glasses (eg, the first glass 220 and/or the second glass 230 ) corresponding to both eyes (eg, left and/or right eyes) of the user, respectively. ) may be included.
  • the electronic device 200 may provide an image related to an augmented reality (AR) service to the user.
  • AR augmented reality
  • the electronic device 200 projects or displays a virtual object on the first glass 220 and/or the second glass 230 so that a user can use the first glass 220 and/or the second glass 230 of the electronic device.
  • at least one virtual object may be superimposed on the reality perceived through the second glass 230 .
  • the electronic device 200 includes a body part 223 , a support part (eg, a first support part 221 , a second support part 222 ), and a hinge part (eg, a first support part 222 ). It may include a hinge part 240 - 1 and a second hinge part 240 - 2 ).
  • the body portion 223 and the support portions 221 and 222 may be operatively connected through the hinge portions 240 - 1 and 240 - 2 .
  • the body portion 223 may include a portion formed to be at least partially mounted on the user's nose.
  • the support parts 221 and 222 may include a support member having a shape that can be worn over the user's ear.
  • the support parts 221 and 222 may include a first support part 221 mounted on the left ear and/or a second support part 222 mounted on the right ear.
  • the first hinge part 240 - 1 may connect the first support part 221 and the body part 223 so that the first support part 221 is rotatable with respect to the body part 223 .
  • the second hinge part 240 - 2 may connect the second support part 222 and the body part 223 so that the second support part 222 is rotatable with respect to the body part 223 .
  • the hinge parts 240 - 1 and 240 - 2 of the electronic device 200 may be omitted.
  • the body part 223 and the support parts 221 and 222 may be directly connected to the body part 223 .
  • the main body 223 may include at least one glass (eg, the first glass 220 and the second glass 230 ) and at least one display module (eg, the first display module 214 - 1 ). ), the second display module 214-2), at least one camera module (eg, a front photographing camera module 213), a gaze tracking camera module (eg, the first gaze tracking camera module 212-1, the second Eye tracking camera module 212-2), a camera module for recognition (eg, a camera module for first recognition 211-1, a camera module for second recognition 211-2), and at least one microphone (eg: a first microphone 241-1, and a second microphone 241-2).
  • the first glass eg, the first glass 220 and the second glass 230
  • the display module eg, the first display module 214 - 1
  • the second display module 214-2 at least one camera module (eg, a front photographing camera module 213), a gaze tracking camera module (eg, the first gaze tracking camera module 212-1, the second Eye tracking camera module 21
  • light generated by the display modules 214 - 1 and 214 - 2 may be projected onto the glasses 220 and 230 to display information.
  • light generated by the first display module 214 - 1 may be projected on the first glass 220
  • light generated by the second display module 214 - 2 may be generated by the second glass 230 .
  • the light capable of displaying the virtual object is projected onto the glasses 220 and 230 at least partially formed of a transparent material, so that the user can recognize the reality in which the virtual object is superimposed.
  • a display module that may be included in the electronic device may be changed to a display module that includes various types of information display methods. For example, when a display panel including a light emitting element made of a transparent material is embedded in the glasses 220 and 230 itself, separate display modules (eg, the first display module 214-1 and the second display module 214) Information can be displayed without -2)).
  • the display module 160 described with reference to FIG. 1 may refer to the glasses 220 and 230 and a display panel included in the glass.
  • the virtual object output through the display modules 214 - 1 and 214 - 2 may include information related to an application program executed in the electronic device 200 and/or a user using the glasses 220 and 230 through the glasses 220 and 230 . It may include information related to an external object located in a recognized real space.
  • the external object may include an object existing in the real space.
  • the actual space perceived by the user through the glasses 220 and 230 will be referred to as a field of view (FoV) region of the user.
  • the electronic device 200 determines the area determined as the user's field of view (FoV). It is possible to check the external object included in at least a part.
  • the electronic device 200 may output a virtual object related to the checked external object through the display modules 214 - 1 and 214 - 2 .
  • the electronic device 200 may display a virtual object related to an augmented reality service together based on image information related to a real space acquired through the camera module 213 for photographing of the electronic device 200 .
  • the electronic device 200 includes a display module disposed to correspond to both eyes of the user (eg, a first display module 214-1 corresponding to the left eye, and/or a second display module corresponding to the right eye). (214-2)), a virtual object can be displayed.
  • the electronic device 200 may display the virtual object based on preset setting information (eg, resolution, frame rate, brightness, and/or display area).
  • the glasses 220 and 230 may include a condensing lens (not shown) and/or a waveguide (eg, the first waveguide 220-1 and/or the second waveguide 230-1). have.
  • the first waveguide 220 - 1 may be partially located on the first glass 220
  • the second waveguide 230 - 1 may be partially located on the second glass 230 .
  • Light emitted from the display modules 214 - 1 and 214 - 2 may be incident on one surface of the glasses 220 and 230 .
  • Light incident on one surface of the glasses 220 and 230 may be transmitted to the user through the waveguides 220 - 1 and 230-1 located in the glasses 220 and 230 .
  • the waveguides 220-1 and 230-1 may be made of glass, plastic, or polymer, and may include nanopatterns formed on one surface of the inside or outside.
  • the nanopattern may include a polygonal or curved grating structure.
  • light incident on one surface of the glasses 220 and 230 may be propagated or reflected inside the waveguides 220-1 and 230-1 by the nano-pattern and transmitted to the user.
  • the waveguides 220 - 1 and 23 - 1 ) include at least one of a diffractive element (eg, a diffractive optical element (DOE), a holographic optical element (HOE)) or a reflective element (eg, a reflective mirror). It may include at least one.
  • the waveguides 220 and 230 may guide the light emitted from the display modules 214 - 1 and 214 - 2 to the user's eyes using at least one diffractive element or a reflective element.
  • the electronic device 200 captures an image corresponding to a user's field of view (FoV) and/or a photographing camera module 213 (eg, RGB) for measuring a distance to an object. camera module), eye tracking camera modules 212-1 and 212-2 for confirming the direction of the user's gaze, and/or a recognition camera module for recognizing a certain space (gesture) camera module) 211-1 and 211-2.
  • a photographing camera module 213 eg, RGB
  • eye tracking camera modules 212-1 and 212-2 for confirming the direction of the user's gaze
  • a recognition camera module for recognizing a certain space (gesture) camera module
  • the camera module 213 for photographing may photograph the front direction of the electronic device 200
  • the eye tracking camera modules 212-1 and 212-2 are opposite to the photographing direction of the camera module 213 for photographing. direction can be taken.
  • the first eye tracking camera module 212-1 may partially photograph the user's left eye
  • the second eye tracking camera module 212-2 may partially photograph the user's right eye
  • the camera module 213 for photographing may include a high resolution camera module such as a high resolution (HR) camera module and/or a photo video (PV) camera module.
  • the gaze tracking camera modules 212-1 and 212-2 may detect the user's pupil and track the gaze direction. The tracked gaze direction may be used to move a center of a virtual image including a virtual object to correspond to the gaze direction.
  • the recognition camera modules 211-1 and 211-2 may detect a user gesture within a preset distance (eg, a predetermined space) and/or a predetermined space.
  • the camera modules 211-1 and 211-2 for recognition may include a camera module including a global shutter (GS).
  • the camera modules 211-1 and 211-2 for recognition include a GS in which a rolling shutter (RS) phenomenon can be reduced in order to detect and track quick hand movements and/or minute movements such as fingers. It may be a camera module.
  • GS global shutter
  • RS rolling shutter
  • the electronic device 200 uses at least one camera module 211-1, 211-2, 212-1, 212-2, and 213 to select a dominant eye and/or a left eye and/or a right eye.
  • an eye corresponding to the auxiliary eye may be detected.
  • the electronic device 200 may detect an eye corresponding to a primary eye and/or an auxiliary eye based on a user's gaze direction with respect to an external object or a virtual object.
  • At least one camera module (eg, a camera module 213 for photographing, eye tracking camera modules 212-1 and 212-2) and/or a camera module 211 for recognition included in the electronic device 200 illustrated in FIG. 2 . -1, 211-2)), the number and position may not be limited. For example, based on the shape (eg, shape or size) of the electronic device 200 , at least one camera module (eg, a camera module 213 for photographing, eye tracking camera modules 212-1 and 212-2) and / or the number and positions of the camera modules 211-1 and 211-2 for recognition) may be variously changed.
  • the electronic device 200 includes at least one camera module (eg, a camera module for photographing 213 , eye tracking camera modules 212 - 1 and 212 - 2 ) and/or a camera module for recognition 211 - 1, 211-2)), at least one illumination LED (eg, the first light emitting device 242-1 and the second light emitting device 242-2) may be included.
  • the first light emitting device 242-1 may be disposed on a portion corresponding to the user's left eye
  • the second light emitting device 242-2 may be disposed on a portion corresponding to the user's right eye.
  • the light emitting devices 242-1 and 242-2 may be used as auxiliary means for increasing accuracy when photographing the user's pupils with the eye tracking camera modules 212-1 and 212-2, and the infrared wavelength It may include an IR LED for generating light.
  • the light emitting devices 242-1 and 242-2 detect a subject to be photographed in a dark environment or due to mixing and reflected light of various light sources when photographing a user's gesture with the camera modules 211-1 and 211-2 for recognition. It can be used as an auxiliary means when this is not easy.
  • the electronic device 101 may include a microphone (eg, a first microphone 241-1 and a second microphone 241-2) for receiving a user's voice and ambient sounds.
  • a microphone eg, a first microphone 241-1 and a second microphone 241-2
  • the microphones 241-1 and 241-2 may be a component included in the audio module 170 of FIG. 1 .
  • the first support 221 and/or the second support 222 may include a printed circuit board (PCB) (eg, a first printed circuit board 231-1, a second printed circuit). board 231-2), a speaker (eg, first speaker 232-1, second speaker 232-2), and/or a battery (eg, first battery 233-1); a second battery 233 - 2).
  • PCB printed circuit board
  • the speakers 232-1 and 232-2 include a first speaker 232-1 for transmitting an audio signal to the user's left ear and a second speaker (232-1) for transmitting an audio signal to the user's right ear. 232-2) may be included.
  • the speakers 232-1 and 232-2 may be components included in the audio module 170 of FIG. 1 .
  • the electronic device 200 may be provided with a plurality of batteries 233 - 1 and 233 - 2 , and through a power management module (eg, the power management module 188 of FIG. 1 ), printing is performed. Power may be supplied to the circuit boards 231-1 and 231-2.
  • the plurality of batteries 233 - 1 and 233 - 2 may be electrically connected to a power management module (eg, the power management module 188 of FIG. 1 ).
  • the electronic device 200 may be a device for displaying augmented reality
  • the electronic device 200 may be a device for displaying virtual reality (VR).
  • the glasses 220 and 230 may be formed of an opaque material so that the user cannot recognize the actual space through the glasses 220 and 230 .
  • the glass 230 may function as the display module 160 .
  • the glasses 220 and 230 may include a display panel for displaying information.
  • 3A is a diagram of an electronic device according to various embodiments disclosed herein.
  • 3B is an exploded perspective view of an electronic device and a camera according to various embodiments disclosed herein.
  • the electronic device 300 includes a frame 310 (eg, the main body 223 of FIG. 2 ), a window member 330 (eg, the first glass 220 and the second glass of FIG. 2 ). 230), a support member 320 (eg, the first support 221 and the second support 222 of FIG. 2), a display module (not shown) (eg, the display module 160 of FIG. 1); A camera 340 (eg, the eye tracking camera 212 of FIG. 2 ), a light emitting unit (not shown) (eg, the light emitting device 242 of FIG. 2 ), and a processor (not shown) (eg, the processor of FIG. 1 ) (120)) may be included.
  • a frame 310 eg, the main body 223 of FIG. 2
  • a window member 330 eg, the first glass 220 and the second glass of FIG. 2
  • 230 eg, the first support 221 and the second support 222 of FIG. 2
  • a display module eg, the
  • a pair of the window member 330 , the support member 320 , the display module, the camera 340 , and the light emitting unit may be provided to correspond to the user's left eye and right eye.
  • the window member 330 may include a first window member 330 - 1 and a second window member 330 - 2
  • the support member 320 includes the first support member 320 - 1 .
  • the camera 340 may include a first camera 340 - 1 and a second camera 340 - 2 .
  • a configuration corresponding to the left eye and a configuration corresponding to the right eye of some of the above-described components may be different from each other.
  • the electronic device 300 is illustrated as an electronic device in the form of glasses, but the technical idea disclosed in this document includes a display and has various types of heads that can be mounted on a user's head It may be applied to an electronic device including a head mounted display (HMD).
  • HMD head mounted display
  • the frame 310 may support the window member 330 .
  • the frame 310 may be formed of a synthetic resin material. Since the window member 330 is fitted into the opening formed in the frame 310 , the frame 310 may support the window member 330 .
  • the support member 320 may be rotatably connected to the frame 310 .
  • the support member 320 may include a first support member 320-1 and a second support member 320-2.
  • the first support member 320 - 1 may be connected to the frame 310 on the left side (eg, -X direction of FIG. 3A ) with respect to the frame 310
  • the second support member 320 - 2 is the frame 310 .
  • ) may be connected to the frame 310 on the right side (eg, in the +X direction of FIG. 3A ).
  • the support member 320 may be fixedly installed on the frame.
  • first supporting member 320-1 connected to the left side of the frame 310 and the second supporting member 320-2 connected to the right side of the frame 310 may be connected to each other.
  • the support members connected to both sides of the frame 310 form a ring shape and may be worn in a manner that is fitted on the user's head.
  • the support member 320 may be deformed into various shapes in which the electronic device 300 can be worn on a user's face.
  • the support member 320 may be formed to be hung over the user's ear.
  • the electronic device 300 may be worn on the user's face in such a way that the support member 320 connected to the frame 310 is put over the user's ear.
  • the support member 320 may rotate with respect to the frame 310 .
  • the support member 320 is rotated in a direction close to the frame 310 to reduce the volume of the electronic device 300 .
  • the window member 330 may include a first window member 330 - 1 corresponding to the user's left eye and a second window member 330 - 2 corresponding to the user's right eye. .
  • the window member 330 may be supported by the frame 310 .
  • the window member 330 may be fitted into the opening formed in the frame 310 .
  • the AR image emitted from the display module may be projected on the window member 330 .
  • a waveguide eg, the first waveguide 220 - 1 and/or the second waveguide 230-1 of FIG. 2
  • the waveguide may guide the AR image emitted from the display module to the user's eyes.
  • the waveguide refer to the description related to the first glass 220 and the second glass 230 of FIG. 2 .
  • the display module may output the AR image generated by the processor.
  • an AR image is generated by the display module and projected on the window member 330
  • the object included in the AR image is reflected by visible light L incident from the front (eg, -Y direction in FIG. 3B ) through the window member 330 .
  • AR can be implemented.
  • the display module may be a projector with a very small size (eg, micro projector, pico projector).
  • the display module may be a laser scanning display (LSD), a digital micro-mirro display (DMD), and a liquid crystal on silicon (LCoS).
  • the display module may be a transparent display. In this case, the light emitting device included in the display module may be directly disposed on the window member 330 .
  • the display module may be various display devices for implementing AR.
  • the camera 340 may include a first camera 340 - 1 corresponding to the user's left eye and a second camera 340 - 2 corresponding to the user's right eye.
  • the camera 340 may be a camera 340 for photographing the user's eyes.
  • the camera 340 may be, for example, the eye tracking cameras 212-1 and 212-2 of FIG. 2 .
  • the camera 340 may capture the user's eyes in real time, and may be used to confirm the movement of the pupils.
  • the camera 340 may be disposed in the second area 310B of the frame 310 .
  • the second area 310B of the frame 310 may be an area adjacent to the user's nose while the electronic device 300 is worn.
  • a region extending in the first direction eg, -Z direction in FIG. 3A
  • the second region 310B may be understood as a region located below the user's gaze direction gazing at the front.
  • the camera 340 disposed in the second area 310B of the frame 310 may photograph the user's eyes from below the user's eyes.
  • the first area 310A of the frame 310 may mean the remaining area of the frame 310 excluding the second area 310B.
  • a region extending in the second direction eg, the +Z direction in FIG. 3A
  • an imaginary line L crossing the frame 310 will be understood as the first region 310A.
  • the camera 340 may be inserted into the camera hole 351 formed in the support part 350 present in the second area 310B of the frame 310 .
  • the support parts 350 may be formed in pairs to be in contact with the user's nose while the electronic device 300 is worn.
  • the support part 350 is the first support part 350-1 located on the left side (eg, -X direction in FIG. 3A ) with respect to the center of the frame 310 and the right side (eg, in FIG. 3A ) around the frame 310 .
  • 3a may include a second support part 350 - 2 positioned in the +X direction).
  • the support part 350 may allow the frame 310 to be supported by the user's nose.
  • the support part 350 may be formed integrally with the frame 310 as shown in FIG. 3A . In another embodiment, the support part 350 may be configured separately from the frame 310 and coupled to the frame 310 .
  • the camera hole 351 may be a hole formed in the support part 350 .
  • the camera hole 351 may include a first camera hole 351-1 formed in the first support part 350-1 and a second camera hole 351-2 formed in the second support part 350-2. can
  • the camera hole 351 may be formed to be inclined at a predetermined angle with respect to the frame 310 so that the camera 340 disposed in the second area 310B of the frame 310 may face the user's eyes. When the camera 340 is inserted into the camera hole 351 formed at an angle with respect to the frame 310 and disposed, the camera 340 may face the user's eyes.
  • the camera 340 may be inserted into the camera hole 351 formed in the support part 350 at the front of the electronic device (eg, in the -Y direction of FIG. 3B ).
  • a first camera 340-1 may be inserted into the first camera hole 351-1
  • a second camera 340-2 may be inserted into the second camera hole 351-2.
  • the first camera hole 351-1 may be formed in the frame 310 at the first support part 350-1 or a portion adjacent to the first support part 350-1.
  • the second camera hole 351 - 2 may be formed in the second support part 350 - 2 or the frame 310 adjacent to the second support part 350 - 2 .
  • the electronic device 300 may include a component for fixing the camera 340 so that the camera 340 does not flow in the camera hole 351 .
  • the camera cover 352 and the buffer member 353 may be inserted into the camera hole 351 together with the camera 340 .
  • the camera cover 352 includes a first camera cover 352-1 inserted into the first camera hole 351-1 and a second camera cover 352-2 inserted into the second camera hole 351-2.
  • the buffer member 353 includes a first buffer member 353-1 inserted into the first camera hole 351-1 and a second buffer member 353-3 inserted into the second camera hole 351-2.
  • the camera cover 352 - the camera 340 - the buffer member 353 may be inserted into the camera hole 351 in the order.
  • the camera cover 352 - the buffer member 353 - the camera 340 may be inserted into the camera hole 351 in the order, and the camera cover 352 - The buffer member 353 - the camera 340 - may be inserted into the camera hole 351 in the order of the buffer member 353.
  • the camera cover 352 may have a shape naturally connected to the external shape of the support part 350 or the external shape of the frame 310 while being inserted into the camera hole 351 . At least a portion of the camera cover 352 (particularly, a portion viewed from the outside while being inserted into the camera hole 351 ) may be formed of the same material as the support part 350 and/or the frame 310 . For this reason, in a state in which the camera cover 352 is inserted, the portion in which the camera hole 351 is formed may not feel different from other portions.
  • the buffer member 353 may be formed of an elastically deformable material. When the camera cover 352 and the camera 340 are pressed while the camera cover 352 is inserted into the camera hole 351 , the buffer member 353 is partially deformed and the camera 340 disposed in the camera hole 351 . ) can be supported.
  • the main components of the camera 340 eg, an image sensor (eg, the image sensor 342 of FIG. 6A ), a substrate (eg, FIG. A separate housing for protecting the substrate 341 of 6a may not be provided.
  • the camera 340 is inserted into the camera hole 351 , so that the camera hole 351 protects the main configuration of the camera 340 .
  • the camera hole 351 in which the camera 340 is located corresponds to the shape of the camera 340 and is viewed from the front of the electronic device (eg, -Y direction in FIG. 3B ). When viewed, the camera hole 351 may have a narrower shape.
  • 4A is a view for explaining a photographing area of a camera according to various embodiments disclosed in this document.
  • 4B is a view for explaining a photographing space according to various embodiments disclosed in this document.
  • 5 is a view of an image captured by a camera according to various embodiments disclosed herein.
  • the camera 340 may photograph the user's eyes. As shown in FIG. 4A , the user's eyes may be included in the photographing area 401 of the camera 340 .
  • the photographing area 401 of the camera 340 may be determined by factors such as a focal length of the camera 340 , an angle of view, and/or a distance between the eye and the camera 340 .
  • the focal length, the angle of view, and the distance to the eye may be adjusted so that a photographing area 401 including the user's eye is formed.
  • the camera 340 may be disposed in the second area of the frame 310 (eg, the second area 310B of FIG. 3A ).
  • the second region of the frame 310 may be a portion adjacent to the user's nose.
  • the camera 340 disposed in the second area may photograph the user's eye from the lower part of the eye.
  • an object that will interfere with the photographing space 402 the area between the photographing area 401 and the camera 340 ) of the camera 340 . Since there is no (eg, the user's eyebrows or eyelashes), it is possible to effectively photograph the user's eyes.
  • the camera 340 is disposed in the second area of the frame 310
  • image information obtained through the camera 340 may be used to track the movement of the user's pupil 501 .
  • a light emitting point 502 projected on the user's eye may be used.
  • the light emitting point 502 projected on the user's eye is IR of an infrared wavelength emitted by the light emitting unit (eg, the light emitting devices 242-1 and 242-2 of FIG. 2 ) toward the user's eye. It may be an LED.
  • the movement of the user's pupil 501 may be tracked through a relative distance between the light emitting point 502 of the light emitting unit projected onto the user's eye and the pupil 501 .
  • the light emitting point 502 may mean a point at which the light emitting unit has the strongest light intensity projected onto the user's eyes. If a change in the relative distance between the plurality of light emitting points 502 and the pupil 501 is used, the movement of the pupil 501 may be tracked.
  • the plurality of light emitting units may be arranged at predetermined intervals along the inner periphery of the frame 310 .
  • the number and arrangement of the light emitting units may be variously changed according to the distance between the camera 340 and the user's eyes and the positional relationship between the light emitting units and the camera 340 .
  • the plurality of light emitting units eg, the light emitting devices 242-1 and 242-2 of FIG. 2
  • the light emitted from the light emitting unit is reflected from the user's eye, and the reflected light is transmitted to the camera 340 . It may be arranged in consideration of the incident position and angle.
  • only some light emitting units among the plurality of light emitting units may be activated according to a surrounding situation (eg, ambient light or a wearing state of the electronic device).
  • the number of light emitting points 502 required for eye tracking may be different according to surrounding conditions. For example, in a situation in which ambient light is weakly introduced, the required number of light emitting points 502 may be reduced compared to a situation in which ambient light is strongly introduced. In this case, by activating only some of the light emitting units, power consumption due to driving of the light emitting units can be reduced.
  • the processor may control the plurality of light emitting units to be activated based on a specified pattern or a specified order.
  • the processor may acquire the user's gaze direction by tracking the movement of the user's pupil 501 .
  • the processor may control the display module (eg, the display module 160 of FIG. 1 ) using the gaze direction.
  • the processor may control the display module to match the user's gaze direction and the center of the image projected on the window member (eg, the window member 330 of FIG. 3A ).
  • the processor may control the display module so that the resolution of the AR image corresponding to a certain area is adjusted to be higher than that of the other area based on the user's gaze direction.
  • the processor may generate an AR image such that a certain area is set as the area of interest based on the user's gaze direction and the AR object is located in the area.
  • the processor may use the image information acquired through the camera to control the display module in various ways or to generate an AR image.
  • the processor may identify an input based on the user's gaze by tracking the movement of the user's pupil 501 . For example, when a virtual object is displayed through a display module (eg, the display module 160 of FIG. 1 ) and the user's gaze is directed toward the virtual object for a specified time or longer, the processor determines that the user is interested in the virtual object and provide additional information about the virtual object.
  • a display module eg, the display module 160 of FIG. 1
  • the processor determines that the user is interested in the virtual object and provide additional information about the virtual object.
  • 6A is a perspective view of a camera according to various embodiments disclosed herein.
  • 6B is an exploded perspective view of the camera shown in FIG. 6A .
  • 6C is a cross-sectional view of the camera shown in FIG. 6A taken along line A-A.
  • the camera 340 includes a substrate 341 , an image sensor 342 , a first adhesive layer 343 , a protective glass 344 , and a second adhesive layer ( 345 , a lens barrel 346 including a plurality of lenses 346 - 1 and a cover glass 347 may be included.
  • a substrate 341 an image sensor 342 , a first adhesive layer 343 , a protective glass 344 , and a second adhesive layer ( 345 , a lens barrel 346 including a plurality of lenses 346 - 1 and a cover glass 347 may be included.
  • the substrate 341 may be, for example, a printed circuit board (PCB).
  • the substrate 341 transmits image information generated by the image sensor 342 of the camera 340 to a processor (eg, the processor 120 of FIG. 1 ) of the electronic device (eg, the electronic device 101 of FIG. 1 ). so that it can be electrically connected to a substrate on which the processor is disposed.
  • the substrate 341 of the camera 340 and the substrate on which the processor is disposed may be electrically connected through a flexible printed circuit board (FPCB).
  • the processor includes a printed circuit board (eg, first printed circuit board 231-1 of FIG. 2 ) embedded in a support member (eg, first support 221 and second support 222 of FIG.
  • a first connection member eg, a flexible printed circuit board (not shown) disposed inside the frame 310 and extending to the camera hole 351 into which the camera 340 is inserted, and a printing embedded in the support member 320 .
  • a second connection member eg, a flexible printed circuit board (not shown) connected to the circuit board may be connected.
  • the camera 351 inserted into the camera hole 351 is electrically connected to the first connecting member, and the first connecting member is connected to the second connecting member, whereby the camera 340 is electrically connected to the printed circuit board on which the processor is disposed.
  • a solder ball is disposed on the rear surface of the substrate 341 of the camera 340, and the solder ball is in contact with the first connection member, whereby the substrate 341 and the first connection member may be electrically connected.
  • the printed circuit board on which the processor is disposed and the camera 340 are electrically connected to each other through transparent electrodes positioned on glass (eg, the first glass 220 and the second glass 230 of FIG. 2 ). can be connected
  • the image sensor 342 may include a photoelectric device that converts light into an electrical signal.
  • the photoelectric device included in the image sensor 342 may be a charged coupled device (CCD) or a complementary metal-oxide semiconductor (CMOS).
  • CMOS complementary metal-oxide semiconductor
  • the image sensor 342 may be disposed on the substrate 341 to be electrically connected to the substrate 341 .
  • solder balls 342-1 may be formed on a surface of the image sensor 342 facing the substrate 341 .
  • the image sensor 342 and the substrate 341 may be coupled to each other in a solder bonding method by the solder balls 342-1 formed on the image sensor 342 , such that the image sensor 342 and the substrate 341 may be electrically connected to each other.
  • the volume of the camera 340 can be reduced compared to bonding through wire bonding.
  • wire bonding a space for wire bonding is required as an outer periphery of the image sensor 342 . Accordingly, since the area of the substrate 341 needs to be larger than the area of the image sensor 342 , the overall volume of the camera 340 may increase. In the camera 340 disclosed in this document, since the image sensor 342 and the substrate 341 are coupled through the solder ball 342-1, the area of the substrate 341 and the area of the image sensor 342 are substantially the same.
  • the area of the substrate 341 may be equal to or smaller than the area of the image sensor 342 . Since the area of the substrate 341 can be reduced, the overall volume of the camera 340 can also be reduced. In the case of the camera 340 disclosed in this document, since it is inserted into the camera hole 351 and can be protected by the frame 310 or the support part 350 of the electronic device 300 , a separate device for protecting the camera 340 is provided. A housing may not be required. Accordingly, a free space for disposing the housing around the substrate 341 may not be required.
  • a protective glass 344 may be disposed on the image sensor 342 .
  • the protective glass 344 may be disposed on the image sensor 342 to protect the image sensor 342 .
  • the image sensor 342 and the protective glass 344 may be coupled to each other by the first adhesive layer 343 disposed along the edge of the image sensor 342 .
  • a corner portion of the image sensor 342 is used as a portion to which a wire is coupled. Since the image sensor 342 disclosed in this document is coupled to the substrate 341 through the solder balls 342-1, it is possible to dispose the first adhesive layer 343 on the corner portion of the image sensor 342 . As described above, since the image sensor 342 and the protective glass 344 are coupled through the first adhesive layer 343 disposed on the image sensor 342 , the overall volume of the camera 340 may be reduced.
  • a lens barrel 346 including a plurality of lenses 346 - 1 may be disposed on the protective glass 344 .
  • the protective glass 344 and the lens barrel 346 may be coupled to each other by the second adhesive layer 345 disposed along the edge of the protective glass 344 .
  • the protective glass 344 and the lens barrel 346 may be spaced apart from each other by a predetermined interval. This interval may be utilized to compensate for differences between the cameras 340 in the manufacturing process of the camera 340 so that the camera 340 can generate image information of a specified quality at the time of assembling the camera 340 . Such a difference may be caused by various factors (eg, assembly tolerance, specification error of the image sensor 342 , etc.).
  • differences may occur due to minute changes in optical design factors such as thickness, spacing, and eccentricity of the lenses 346 - 1 disposed in the lens barrel 346 .
  • the camera 340 disclosed in this document it is necessary to compensate for this difference. If a gap is formed between the protective glass 344 and the lens barrel 346 , and this distance is applied differently for each camera 340 when assembling the camera 340 , the difference between the cameras 340 in the camera 340 assembling process is can be compensated for
  • the second adhesive layer 345 disposed between the protective glass 344 and the lens barrel 346 may be formed of a light or thermosetting material.
  • the second adhesive layer 345 may have a certain level of fluidity before being cured.
  • the position of the lens barrel 346 with respect to the protective glass 344 may be adjusted (eg, by rotating the X-axis, Y-axis, and Z-axis of FIG. 6B ) to compensate for the error of the camera 340 .
  • the second adhesive layer 345 may be cured using light or heat.
  • a gap between the protective glass 344 and the lens barrel 346 may be used for optical axis alignment.
  • the lens barrel 346 may be disposed at a predetermined angle with respect to the protective glass 344 .
  • the distance between the lens barrel 346 and the image sensor 342 may be adjusted so that an optical total track length (OTTL)/back focal length (BFL) is about 0.3 to about 0.5.
  • the OTTL may mean a distance D2 from the focal point to the lens 346 - 1A farthest from the image sensor 342 among the lenses 346 - 1 included in the lens barrel 346 .
  • BFL may mean a distance D1 from the focal point to the lens 346-1B closest to the focal point among the lenses 346-1 included in the lens barrel 346.
  • the minimum focal length of the camera 340 may be equal to or smaller than the distance between the camera 340 disposed in the electronic device and the user's eyes.
  • the distance between the lens barrel 346 and the protective glass 344 may be adjusted so that the assembled camera 340 has an OTTL/BFL of about 0.3 to about 0.5.
  • the lens barrel 346 may be formed in a shape that decreases in diameter as it moves away from the image sensor 342 .
  • the plurality of lenses built into the lens barrel 346 include a lens that is far from the image sensor 342 (eg, lens 346-1A) and a lens that is close to the image sensor 342 (eg, lens 346 ). -1B))).
  • the inside of the camera hole into which the camera 340 is inserted eg, the camera holes 351-1 and 351-2 of FIG. 3B
  • It may be formed in a shape corresponding to the barrel 346 .
  • the inner diameter of the camera hole facing the lens barrel 346 may also be formed to decrease in the direction in which the camera enters. .
  • the cover glass 347 may be coupled to the lens barrel 346 .
  • the cover glass 347 may be attached to the outer surface of the lens barrel 346 by an adhesive method.
  • the cover glass 347 may be attached to the lens barrel 346 through the third adhesive layer 348 .
  • a hole (not shown) into which the cover glass 347 can be inserted may be formed in the lens barrel 346 .
  • the cover glass 347 may protect the plurality of lenses 346 - 1 included in the lens barrel 346 .
  • the cover glass 347 since the cover glass 347 is directly coupled to the lens barrel 346 instead of a separate housing, the overall volume of the camera 340 may be reduced.
  • the cover glass 347 protects the camera 340 , a separate component for protecting the camera 340 may not be required in the camera hole 351 into which the camera 340 is inserted.
  • the first adhesive layer 343 between the image sensor 342 and the protective glass 344 and/or the second adhesive layer 345 between the protective glass 344 and the lens barrel 346 may be omitted.
  • the first adhesive layer 343 and/or the second adhesive layer 345 may be omitted and may be coupled through an adhesive.
  • the overall volume of the camera 340 included in the electronic device disclosed in this document may be reduced. Accordingly, it is possible to reduce the weight of the electronic device, and it is possible to reduce the phenomenon that the camera 340 is included in the user's field of view, thereby increasing the usability of the electronic device.
  • the electronic device (eg, the electronic device 101 of FIG. 1 and the electronic device 200 of FIG. 2 ) according to various embodiments disclosed herein has a first area (eg, the first area 310A of FIG. 3A )) and a frame (eg, frame 310 in FIG. 3A ) comprising a second region (eg, second region 310B in FIG. 3A ), a window member supported by the frame (eg, window member in FIG. 3A ) 330)), a support member rotatably connected to the frame (eg, the support member 320 of FIG. 3A ), and a display module that projects an image to the window member (eg, the display module 160 of FIG. 1 , FIG.
  • the camera includes a substrate (eg, the substrate 341 of FIG. 6B ) and an image sensor disposed on the substrate (eg, the image sensor 342 of FIG. 6B ), and the area of the substrate is the area of the image sensor It may be formed equal to or smaller than
  • the second region of the frame may be a region adjacent to the user's nose when the electronic device is worn when the frame is divided into two regions.
  • the camera includes a support part (eg, the support part 350 of FIG. 3A ) formed in the second area of the frame so that the camera is in contact with the user's nose while the electronic device is worn and the frame is supported by the user's nose. )) can be placed in a support part (eg, the support part 350 of FIG. 3A ) formed in the second area of the frame so that the camera is in contact with the user's nose while the electronic device is worn and the frame is supported by the user's nose. )) can be placed in
  • the camera may be disposed by being inserted into the camera hole (eg, the camera hole 351 of FIG. 3B ) formed in the support part.
  • the camera hole may be formed by being inclined at a predetermined angle with respect to the frame so that the camera inserted into the camera hole can face the user's eye.
  • it may further include a plurality of light emitting units (eg, the light emitting devices 242-1 and 242-2 of FIG. 2 ) spaced apart from each other at a predetermined interval to irradiate infrared light to the user's eyes and disposed on the frame.
  • a plurality of light emitting units eg, the light emitting devices 242-1 and 242-2 of FIG. 2 .
  • the camera includes a protective glass disposed on the image sensor (eg, the protective glass 344 of FIG. 6B ), and a plurality of lenses disposed on the protective glass (eg, a plurality of lenses 346- of FIG. 6B ).
  • a protective glass disposed on the image sensor eg, the protective glass 344 of FIG. 6B
  • a plurality of lenses disposed on the protective glass eg, a plurality of lenses 346- of FIG. 6B
  • 1)) a built-in lens barrel (eg, the lens barrel 346 in FIG. 6B ), and a cover glass coupled to the lens barrel to protect a plurality of lenses included in the lens barrel (eg, the cover glass ( FIG. 6B ) 347)) may further include.
  • the image sensor of the camera and the protective glass may be coupled to each other by a first adhesive layer (eg, the first adhesive layer 343 of FIG. 6B ) disposed along an edge of the image sensor.
  • a first adhesive layer eg, the first adhesive layer 343 of FIG. 6B
  • the image sensor of the camera may be electrically connected to the substrate by a solder ball formed on a surface of the image sensor facing the substrate.
  • the lens barrel of the camera may be formed to have a smaller diameter as it moves away from the image sensor.
  • the camera may be inserted into a camera hole formed in the second region of the frame, and the camera hole may be formed so that an inner diameter of the camera hole decreases in a direction in which the camera enters to correspond to the lens barrel of the camera.
  • the protective glass and the lens barrel of the camera may be coupled to each other by being spaced apart from each other by a second adhesive layer (eg, the second adhesive layer 345 of FIG. 6B ) disposed along the edge of the protective glass. .
  • a second adhesive layer eg, the second adhesive layer 345 of FIG. 6B
  • the camera is included in the lens barrel from the image sensor for a distance (optical total track length; OTTL) from the image sensor to a lens most spaced apart from the image sensor among a plurality of lenses included in the lens barrel
  • OTTL optical total track length
  • BFL back focal length
  • a camera included in the head-mounted electronic device according to various embodiments disclosed in this document is disposed on a substrate (eg, the substrate 341 of FIG. 6B ), and the An image sensor electrically connected to the substrate (eg, the image sensor 342 of FIG. 6B ), a protective glass disposed on the image sensor (eg, the protective glass 344 of FIG. 6B ), is disposed on the protective glass
  • a lens barrel eg, the lens barrel 346 of FIG. 6B in which a plurality of lenses (eg, a plurality of lenses 346 - 1 of FIG.
  • a cover glass for protecting the lens eg, the cover glass 347 of FIG. 6B
  • the area of the substrate may be smaller than or equal to that of the image sensor.
  • the image sensor and the protective glass may be coupled to each other by a first adhesive layer (eg, the first adhesive layer 343 of FIG. 6B ) disposed along an edge of the image sensor.
  • a first adhesive layer eg, the first adhesive layer 343 of FIG. 6B
  • the image sensor may be electrically connected to the substrate by a solder ball formed on a surface of the image sensor facing the substrate.
  • the lens barrel may be formed to have a smaller diameter as it moves away from the image sensor.
  • the plurality of lenses embedded in the lens barrel may be configured as lenses having a smaller diameter as they move away from the image sensor 342 .
  • the protective glass and the lens barrel of the camera may be coupled to each other by being spaced apart from each other by a second adhesive layer (eg, the second adhesive layer 345 of FIG. 6B ) disposed along the edge of the protective glass. .
  • a second adhesive layer eg, the second adhesive layer 345 of FIG. 6B
  • a ratio of a back focal length (BFL) between the image sensor and the closest lens may be 0.3 to 0.5.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Camera Bodies And Camera Details Or Accessories (AREA)

Abstract

본 문서에 개시된 다양한 실시예에 따른 전자 장치는, 제1 영역 및 제2 영역을 포함하는 프레임, 상기 프레임에 의해 지지되는 윈도우 부재, 상기 프레임에 회전 가능하게 연결되는 지지 부재, 상기 윈도우 부재로 화상을 투영하는 디스플레이 모듈 및 사용자의 눈 부분을 촬영하도록 상기 프레임의 제2 영역에 배치되는 카메라를 포함할 수 있고, 상기 카메라는, 기판과 상기 기판 상에 배치되는 이미지 센서를 포함하고, 상기 기판의 면적은 상기 이미지 센서의 면적과 같거나 더 작게 형성될 수 있다. 그 외에도 다양한 실시예들이 가능할 수 있다.

Description

소형 카메라를 포함하는 웨어러블 전자 장치
본 문서에 개시된 다양한 실시예들은, 사용자의 눈을 촬영하는 소형 카메라를 포함하는 웨어러블 전자 장치에 관한 것이다.
증강 현실(augmented reality; AR)은, 사용자가 인식하는 실제 현실에 컴퓨터그래픽 처리를 통해 생성되는 요소를 추가하여 표현하는 기술을 의미할 수 있다. 예를 들어, 증강 현실 기술을 이용하여 현실 상에 존재하는 객체에 그 객체의 관련 정보를 포함하는 가상 객체를 추가하여 함께 표시할 수 있다.
다양한 장치를 통해 증강 현실을 구현할 수 있다. 대표적으로 안경형 웨어러블 전자 장치, HMD(head mounted display)와 같은 착용형 전자 장치를 통해 증강 현실을 구현할 수 있다.
이 중 안경형 웨어러블 전자 장치에서 증강 현실을 구현하기 위하여 안경의 렌즈에 화상을 표시할 수 있다. 안경의 렌즈에 빛을 프로젝트함으로써, 렌즈에 화상을 표시할 수 있다. 예를 들어, 크기가 매우 작은(예: 마이크로 프로젝터, 또는 피코 프로젝터)의 프로젝터를 이용할 수 있다. 이러한 프로젝터의 예로는 LSD(laser scaning display), DMD(digital micro-mirro display) 및 LCoS(liquid crystal on silicon)를 들 수 있다. 또한, 투명 디스플레이(transparent display)를 이용하여 렌즈에 화상을 표시할 수도 있다.
앞서 기재된 정보들은 본 문서의 이해를 돕기 위한 배경 정보에 불과하다. 본 문서의 내용와 관련하여 앞서 기재된 정보들을 선행 기술로 결정하거나 주장하는 것은 아니다.
증강 현실을 구현하기 위하여, 전자 장치에는 복수의 카메라가 포함될 수 있다. 예를 들어, 사용자의 눈동자 움직임을 추적하기 위하여 양안의 영상을 촬영하기 위한 카메라가 각각 구비될 수 있다.
전자 장치에 포함되는 카메라의 크기가 크면, 전자 장치의 부피와 무게가 증가하여 착용감이 떨어질 수 있다. 또한, 사용자의 눈을 촬영하는 카메라의 경우 크기가 크면, 사용자의 시야에 카메라가 들어오는 문제가 발생할 수 있다.
본 문서에 개시된 다양한 실시예는, 사용자의 시야에 카메라가 들어오지 않으면서도 사용자의 눈을 촬영할 수 있는 소형 카메라를 포함한 웨어러블 전자 장치를 제공할 수 있다.
본 문서에 개시된 다양한 실시예에 따른 전자 장치는, 제1 영역 및 제2 영역을 포함하는 프레임, 상기 프레임에 의해 지지되는 윈도우 부재, 상기 프레임에 회전 가능하게 연결되는 지지 부재, 상기 윈도우 부재로 화상을 투영하는 디스플레이 모듈 및 사용자의 눈 부분을 촬영하도록 상기 프레임의 제2 영역에 배치되는 카메라를 포함할 수 있고, 상기 카메라는, 기판과 상기 기판 상에 배치되는 이미지 센서를 포함하고, 상기 기판의 면적은 상기 이미지 센서의 면적과 같거나 더 작게 형성될 수 있다.
본 문서에 개시된 다양한 실시예에 따른 머리 장착형 전자 장치에 포함되는 카메라는, 기판, 상기 기판 상에 배치되어 상기 기판과 전기적으로 연결되는 이미지 센서, 상기 이미지 센서 상에 배치되는 보호 글래스, 상기 보호 글래스 상에 배치되고 복수의 렌즈가 내장되는 렌즈 경통 및 상기 렌즈 경통에 결합되어 상기 렌즈 경통에 포함된 복수의 렌즈를 보호하는 커버 글래스를 포함할 수 있고, 상기 기판의 면적은 상기 이미지 센서의 면적보다 작거나 같을 수 있다.
본 문서에 개시된 다양한 실시예에 따르면, 카메라를 소형화하여 전자 장치를 경량화할 수 있고, 카메라가 사용자의 시야에 포함되는 현상을 줄일 수 있어 전자 장치의 사용성을 증대시킬 수 있다.
본 문서의 다른 양태, 장점 그리고 두드러진 특징들은 상세한 설명, 첨부된 도면들과의 결합, 개시된 다양한 실시예들을 통해 이 분야의 통상의 기술자에게 분명해질 수 있다.
도면의 설명과 관련하여, 동일 또는 유사한 구성 요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는, 다양한 실시예에 따른 복수의 카메라가 포함된 전자 장치의 전체 구성도이다.
도 3a는, 본 문서에 개시된 다양한 실시예에 따른 전자 장치의 도면이다.
도 3b는, 본 문서에 개시된 다양한 실시예에 따른 전자 장치와 카메라의 분리 사시도이다.
도 4a는, 본 문서에 개시된 다양한 실시예에 따른 카메라의 촬영 영역을 설명하기 위한 도면이다.
도 4b는, 본 문서에 개시된 다양한 실시예에 따른 촬영 공간을 설명하기 위한 도면이다.
도 5는, 본 문서에 개시된 다양한 실시예에 따른 카메라로 촬영된 이미지의 모습이다.
도 6a는, 본 문서에 개시된 다양한 실시예에 따른 카메라의 사시도이다.
도 6b는, 도 6a에 도시된 카메라의 분리 사시도이다.
도 6c는, 도 6a에 도시된 카메라를 A-A선을 따라 절개한 단면도이다.
본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시 예들로 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다.
도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다.
본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나",“또는 B 중 적어도 하나,”"A, B 또는 C," "A, B 및 C 중 적어도 하나,”및 “B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, “기능적으로” 또는 “통신적으로”라는 용어와 함께 또는 이런 용어 없이, “커플드” 또는 “커넥티드”라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다. 비휘발성 메모리(134)는 내부 메모리(136) 및 외부 메모리(138)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
도 2는 본 발명의 다양한 실시예에 따른 복수의 카메라가 포함된 전자 장치(예: 도 1의 전자 장치(101))의 전체 구성도이다.
다양한 실시예에서, 전자 장치(200)는 사용자의 머리 부분에 착용되는 형태로 제작된 전자 장치(200)일 수 있다. 예를 들어, 전자 장치(200)는 안경(glass), 고글(goggles), 헬멧 또는 모자 중 적어도 하나의 형태로 구성될 수 있으나, 이에 한정되지 않는다. 일 실시예에 따르면, 전자 장치(200)는 사용자의 양안(예: 좌안 및/또는 우안), 각각에 대응하는 복수 개의 글래스(예: 제 1 글래스(220) 및/또는 제 2 글래스(230))를 포함할 수 있다.
전자 장치(200)는 사용자에게 증강 현실(augumented reality; AR) 서비스와 관련된 영상을 제공할 수 있다. 일 실시예에 따르면, 전자 장치(200)는 제1 글래스(220) 및/또는 제2 글래스(230)에 가상 객체를 투영하거나, 표시함으로써, 사용자가 전자 장치의 제1 글래스(220) 및/또는 제2 글래스(230)를 통해 인지하는 현실에 적어도 하나의 가상 객체가 겹쳐 보이도록 할 수 있다.
도 2를 참조하면, 일 실시예에 따른 전자 장치(200)는 본체부(223), 지지부(예: 제 1 지지부(221), 제 2 지지부(222)), 및 힌지부(예: 제1 힌지부(240-1), 제2 힌지부(240-2))를 포함할 수 있다.
다양한 실시예에 따르면, 본체부(223)와 지지부(221, 222)는 힌지부(240-1, 240-2)를 통해 작동적으로 연결될 수 있다. 본체부(223)는 사용자의 코에 적어도 부분적으로 거치될 수 있도록 형성된 부분을 포함할 수 있다.
다양한 실시예에 따르면, 지지부(221, 222)는 사용자의 귀에 걸쳐질 수 있는 형태의 지지 부재를 포함할 수 있다. 지지부(221, 222)는 왼쪽 귀에 거치되는 제 1 지지부(221) 및/또는 오른쪽 귀에 거치되는 제 2 지지부(222)를 포함할 수 있다.
다양한 실시예에 따르면, 제1 힌지부(240-1)는 제1 지지부(221)가 본체부(223)에 대해 회전 가능하도록 제1 지지부(221)와 본체부(223)를 연결할 수 있다. 제2 힌지부(240-2)는 제2 지지부(222)가 본체부(223)에 대해 회전 가능하도록 제2 지지부(222)와 본체부(223)를 연결할 수 있다. 다른 실시예에 따르면, 전자 장치(200)의 힌지부(240-1, 240-2)는 생략될 수 있다. 예를 들어, 본체부(223)와 지지부(221, 222)는 본체부(223)와 바로 연결될 수 있다.
다양한 실시예에 따르면, 본체부(223)는 적어도 하나의 글래스(예: 제1 글래스(220), 제2 글래스(230)), 적어도 하나의 디스플레이 모듈(예: 제1 디스플레이 모듈(214-1), 제2 디스플레이 모듈(214-2)), 적어도 하나의 카메라 모듈(예: 전방 촬영 카메라 모듈(213), 시선 추적 카메라 모듈(예: 제1 시선 추적 카메라 모듈(212-1), 제2 시선 추적 카메라 모듈(212-2)), 인식용 카메라 모듈(예: 제1 인식용 카메라 모듈(211-1), 제2 인식용 카메라 모듈(211-2)) 및 적어도 하나의 마이크(예: 제1 마이크(241-1), 제2 마이크(241-2))를 포함할 수 있다.
도 2에서 설명되는 전자 장치(200)의 경우, 디스플레이 모듈(214-1, 214-2)에서 생성된 광이 글래스(220, 230)에 투영되어 정보를 표시할 수 있다. 예를 들어, 제1 디스플레이 모듈(214-1)에서 생성된 광은 제1 글래스(220)에 투영될 수 있고, 제2 디스플레이 모듈(214-2)에서 생성된 광은 제2 글래스(230)에 투영될 수 있다. 적어도 일부가 투명한 소재로 형성된 글래스(220, 230)에 가상 객체를 표시할 수 있는 광이 투영됨으로써, 사용자는 가상 객체가 중첩된 현실을 인지할 수 있다. 이 경우, 도 1에서 설명한 디스플레이 모듈(160)은 도 2에 도시된 전자 장치(200)에서 디스플레이 모듈(214-1, 214-2) 및 글래스(220, 230)의 적어도 일부를 포함하는 것으로 이해될 수 있다. 다만, 본 발명에서 설명되는 전자 장치가 앞서 설명한 방식을 통해 정보를 표시하는 것으로 한정되는 것은 아니다. 전자 장치에 포함될 수 있는 디스플레이 모듈은 다양한 방식의 정보 표시 방법을 포함하는 디스플레이 모듈로 변경될 수 있다. 예를 들어, 글래스(220, 230) 자체에 투명 소재의 발광 소자를 포함하는 디스플레이 패널이 내장된 경우에는 별도의 디스플레이 모듈(예: 제1 디스플레이 모듈(214-1), 제2 디스플레이 모듈(214-2))없이 정보를 표시할 수 있다. 이 경우, 도 1에서 설명한 디스플레이 모듈(160)은 글래스(220, 230)와 글래스에 포함되는 디스플레이 패널을 의미할 수 있다.
다양한 실시예에 따르면, 디스플레이 모듈(214-1, 214-2)을 통해 출력되는 가상 객체는 전자 장치(200)에서 실행되는 어플리케이션 프로그램과 관련된 정보 및/또는 사용자가 글래스(220, 230)를 통해 인지하는 실제 공간에 위치한 외부 객체와 관련된 정보를 포함할 수 있다. 외부 객체는 실제 공간에 존재하는 사물을 포함할 수 있다. 사용자가 글래스(220, 230)를 통해 인지하는 실제 공간을 이하에서는 사용자의 시야각(field of view; FoV) 영역으로 호칭하기로 한다. 예를 들어, 전자 장치(200)는 전자 장치(200)의 카메라 모듈(예: 촬영용 카메라 모듈(213))을 통해 획득한 실제 공간과 관련된 영상 정보에서 사용자의 시야각(FoV)으로 판단되는 영역의 적어도 일부에 포함된 외부 객체를 확인할 수 있다. 전자 장치(200)는 확인한 외부 객체와 관련된 가상 객체를 디스플레이 모듈(214-1, 214-2)을 통해 출력할 수 있다.
다양한 실시예에 따르면, 전자 장치(200)는 전자 장치(200)의 촬영용 카메라 모듈(213)을 통해 획득한 실제 공간과 관련된 영상 정보에 기반하여 증강 현실 서비스와 관련된 가상 객체를 함께 표시할 수 있다. 일 실시예에 따르면, 전자 장치(200)는 사용자의 양안에 대응하여 배치된 디스플레이 모듈(예: 좌안에 대응되는 제1 디스플레이 모듈(214-1), 및/또는 우안에 대응되는 제2 디스플레이 모듈(214-2))을 기반으로 가상 객체를 표시할 수 있다. 일 실시예에 따르면, 전자 장치(200)는 미리 설정된 설정 정보(예: 해상도(resolution), 프레임 레이트(frame rate), 밝기, 및/또는 표시 영역)를 기반으로 가상 객체를 표시할 수 있다.
다양한 실시예에 따르면, 글래스(220, 230)는 집광 렌즈(미도시) 및/또는 도파관(예: 제1 도파관(220-1) 및/또는 제2 도파관(230-1))을 포함할 수 있다. 예를 들어, 제1 도파관(220-1)은 제1 글래스(220)에 부분적으로 위치할 수 있고, 제2 도파관(230-1)은 제2 글래스(230)에 부분적으로 위치할 수 있다. 디스플레이 모듈(214-1, 214-2)에서 방출된 광은 글래스(220, 230))의 일면으로 입사될 수 있다. 글래스(220, 230)의 일면으로 입사된 광은 글래스(220, 230) 내에 위치한 도파관(220-1, 230-1)을 통해 사용자에게 전달될 수 있다. 도파관(220-1, 230-1)은 글래스, 플라스틱, 또는 폴리머로 제작될 수 있고, 내부 또는 외부의 일표면에 형성된 나노 패턴을 포함할 수 있다. 예를 들어, 나노 패턴은 다각형 또는 곡면 형상의 격자 구조(grating structure)를 포함할 수 있다. 일 실시예에 따르면, 글래스(220, 230)의 일면으로 입사된 광은 나노 패턴에 의해 도파관(220-1, 230-1) 내부에서 전파 또는 반사되어 사용자에게 전달될 수 있다. 일 실시예에 따르면, 도파관(220-1, 230-1))은 적어도 하나의 회절 요소(예: DOE(diffractive optical element), HOE(holographic optical element)) 또는 반사 요소(예: 반사 거울) 중 적어도 하나를 포함할 수 있다. 일 실시예에 따르면, 도파관(220, 230)는 적어도 하나의 회절 요소 또는 반사 요소를 이용하여 디스플레이 모듈(214-1, 214-2)로부터 방출된 광을 사용자의 눈으로 유도할 수 있다.
다양한 실시예에 따르면, 전자 장치(200)는 사용자의 시야각(FoV, field of view)에 대응되는 영상을 촬영하거나 및/또는 객체와의 거리를 측정하기 위한 촬영용 카메라 모듈(213)(예: RGB 카메라 모듈), 사용자가 바라보는 시선의 방향을 확인하기 위한 시선 추적 카메라 모듈(eye tracking camera module)(212-1, 212-2), 및/또는 일정 공간을 인식하기 위한 인식용 카메라 모듈(gesture camera module)(211-1, 211-2)을 포함할 수 있다. 예를 들어, 촬영용 카메라 모듈(213)은 전자 장치(200)의 전면 방향을 촬영할 수 있고, 시선 추적 카메라 모듈(212-1, 212-2)은 상기 촬영용 카메라 모듈(213)의 촬영 방향과 반대되는 방향을 촬영할 수 있다. 예를 들어, 제1 시선 추적 카메라 모듈(212-1)은 사용자의 좌안을 부분적으로 촬영하고, 제2 시선 추적 카메라 모듈(212-2)은 사용자의 우안을 부분적으로 촬영할 수 있다. 일 실시예에 따르면, 촬영용 카메라 모듈(213)는 HR(high resolution) 카메라 모듈 및/또는 PV(photo video) 카메라 모듈과 같은 고해상도의 카메라 모듈을 포함할 수 있다. 일 실시예에 따르면, 시선 추적 카메라 모듈(212-1, 212-2)은 사용자의 눈동자를 검출하여, 시선 방향을 추적할 수 있다. 추적된 시선 방향은 가상 객체를 포함하는 가상 영상의 중심이 상기 시선 방향에 대응하여 이동되는데 활용될 수 있다. 일 실시예에 따르면, 인식용 카메라 모듈(211-1, 211-2)은 미리 설정된 거리 이내(예: 일정 공간)에서의 사용자 제스처 및/또는 일정 공간을 감지할 수 있다. 인식용 카메라 모듈(211-1, 211-2)은 GS(global shutter)를 포함하는 카메라 모듈을 포함할 수 있다. 예를 들어, 인식용 카메라 모듈(211-1, 211-2)은 빠른 손동작 및/또는 손가락 등의 미세한 움직임을 검출 및 추적하기 위해, RS(rolling shutter) 현상이 감소될 수 있는 GS를 포함하는 카메라 모듈일 수 있다.
다양한 실시예에 따르면, 전자 장치(200)는 적어도 하나의 카메라 모듈(211-1, 211-2, 212-1, 212-2, 213)을 사용하여, 좌안 및/또는 우안 중에서 주시안 및/또는 보조시안에 대응되는 눈을 감지할 수 있다. 예를 들어, 전자 장치(200)는 외부 객체 또는 가상 객체에 대한 사용자의 시선 방향에 기반하여, 주시안 및/또는 보조시안에 대응되는 눈을 감지할 수 있다.
도 2에 도시된 전자 장치(200)에 포함되는 적어도 하나의 카메라 모듈(예: 촬영용 카메라 모듈(213), 시선 추적 카메라 모듈(212-1, 212-2) 및/또는 인식용 카메라 모듈(211-1, 211-2))의 개수 및 위치는 한정되지 않을 수 있다. 예를 들어, 전자 장치(200)의 형태(예: 모양 또는 크기)에 기반하여 적어도 하나의 카메라 모듈(예: 촬영용 카메라 모듈(213), 시선 추적 카메라 모듈(212-1, 212-2) 및/또는 인식용 카메라 모듈(211-1, 211-2))의 개수 및 위치는 다양하게 변경될 수 있다.
다양한 실시예에 따르면, 전자 장치(200)는 적어도 하나의 카메라 모듈(예: 촬영용 카메라 모듈(213), 시선 추적 카메라 모듈(212-1, 212-2) 및/또는 인식용 카메라 모듈(211-1, 211-2))의 정확도를 높이기 위한 적어도 하나의 발광 장치(illumination LED)(예: 제1 발광 장치(242-1), 제2 발광 장치(242-2))를 포함할 수 있다. 예를 들어, 제1 발광 장치(242-1)는 사용자의 좌안에 대응하는 부분에 배치될 수 있고, 제2 발광 장치(242-2)는 사용자의 우안에 대응하는 부분에 배치될 수 있다. 일 실시예에서, 발광 장치(242-1, 242-2)는 시선 추적 카메라 모듈(212-1, 212-2)로 사용자의 눈동자를 촬영할 때 정확도를 높이기 위한 보조 수단으로 사용될 수 있고, 적외선 파장의 광을 발생시키는 IR LED를 포함할 수 있다. 또한, 발광 장치(242-1, 242-2)는 인식용 카메라 모듈(211-1, 211-2)로 사용자의 제스처를 촬영할 때 어두운 환경이나 여러 광원의 혼입 및 반사 빛 때문에 촬영하고자 하는 피사체 검출이 용이하지 않을 때 보조 수단으로 사용될 수 있다.
다양한 실시예에 따르면, 전자 장치(101)는 사용자의 음성 및 주변 소리를 수신하기 위한 마이크(예: 제1 마이크(241-1), 제2 마이크(241-2))를 포함할 수 있다. 예를 들어, 마이크(241-1, 241-2)는 도 1의 오디오 모듈(170)에 포함된 구성 요소일 수 있다.
다양한 실시예에 따르면, 제 1 지지부(221) 및/또는 제 2 지지부(222)는 인쇄 회로 기판(PCB, printed circuit board)(예: 제1 인쇄 회로 기판(231-1), 제2 인쇄 회로 기판(231-2)), 스피커(speaker)(예: 제1 스피커(232-1), 제2 스피커(232-2)), 및/또는 배터리(예: 제1 배터리(233-1), 제2 배터리(233-2))를 포함할 수 있다.
다양한 실시예에 따르면, 스피커(232-1, 232-2)는 사용자의 좌측 귀에 오디오 신호를 전달하기 위한 제 1 스피커(232-1) 및 사용자의 우측 귀에 오디오 신호를 전달하기 위한 제 2 스피커(232-2)를 포함할 수 있다. 스피커(232-1, 232-2)는 도 1의 오디오 모듈(170)에 포함된 구성 요소일 수 있다.
다양한 실시예에 따르면, 전자 장치(200)는 복수 개의 배터리(233-1, 233-2)가 구비될 수 있고, 전력 관리 모듈(예: 도 1의 전력 관리 모듈(188))을 통해, 인쇄 회로 기판(231-1, 231-2)에 전력을 공급할 수 있다. 예를 들어, 복수 개의 배터리(233-1, 233-2)는 전력 관리 모듈(예: 도 1의 전력 관리 모듈(188))과 전기적으로 연결될 수 있다.
앞에서는, 전자 장치(200)가 증강 현실을 표시하는 장치인 것으로 설명하였으나, 전자 장치(200)는 가상 현실(virtual reality; VR)을 표시하는 장치일 수 있다. 이 경우, 사용자가 글래스(220, 230)를 통해 실제 공간을 인식할 수 없도록 글래스(220, 230)는 불투명한 소재로 형성될 수 있다. 또한, 글래스(230)는 디스플레이 모듈(160)로써 기능할 수 있다. 예를 들어, 글래스(220, 230)는 정보를 표시하는 디스플레이 패널을 포함할 수 있다.
도 3a는, 본 문서에 개시된 다양한 실시예에 따른 전자 장치의 도면이다. 도 3b는, 본 문서에 개시된 다양한 실시예에 따른 전자 장치와 카메라의 분리 사시도이다.
다양한 실시예에 따르면, 전자 장치(300)는 프레임(310)(예: 도 2의 본체부(223)), 윈도우 부재(330)(예: 도 2의 제1 글래스(220), 제2 글래스(230)), 지지 부재(320)(예: 도 2의 제1 지지부(221), 제2 지지부(222)), 디스플레이 모듈(미도시)(예: 도 1의 디스플레이 모듈(160)), 카메라(340)(예: 도 2의 시선 추적 카메라(212)), 발광부(미도시)(예: 도 2의 발광 장치(242)), 및 프로세서(미도시)(예: 도 1의 프로세서(120))를 포함할 수 있다. 일 실시예에서, 윈도우 부재(330), 지지 부재(320), 디스플레이 모듈, 카메라(340) 및 발광부는 사용자의 좌안과 우안에 대응되도록 한 쌍 마련될 수 있다. 예를 들어, 윈도우 부재(330)는 제1 윈도우 부재(330-1) 및 제2 윈도우 부재(330-2)를 포함할 수 있고, 지지 부재(320)는 제1 지지 부재(320-1) 및 제2 지지 부재(320-2)를 포함할 수 있고, 카메라(340)는 제1 카메라(340-1) 및 제2 카메라(340-2)를 포함할 수 있다. 경우에 따라서는, 앞서 설명한 구성 요소 중 일부는 좌안과 대응하는 구성과 우안과 대응하는 구성이 상이할 수 있다.
이하 도면에서는, 설명의 편의를 위하여 전자 장치(300)가 안경 형태의 전자 장치인 것으로 도시하였으나, 본 문서에 개시된 기술적 사상은 디스플레이를 포함하고, 사용자의 머리 부분에 장착될 수 있는 다양한 형태의 머리 장착형 디스플레이(head mounted display; HMD)를 포함하는 전자 장치에 적용될 수 있다.
다양한 실시예에 따르면, 프레임(310)은 윈도우 부재(330)를 지지할 수 있다. 프레임(310)은 합성 수지 소재로 형성될 수 있다. 프레임(310)에 형성된 개구부에 윈도우 부재(330)가 끼워짐으로써, 프레임(310)이 윈도우 부재(330)를 지지할 수 있다.
다양한 실시예에 따르면, 지지 부재(320)는 프레임(310)에 회전 가능하게 연결될 수 있다. 지지 부재(320)는, 제1 지지 부재(320-1)와 제2 지지 부재(320-2)를 포함할 수 있다. 제1 지지 부재(320-1)는 프레임(310)에 대하여 좌측(예: 도 3a의 -X 방향)에서 프레임(310)에 연결될 수 있고, 제2 지지 부재(320-2)는 프레임(310)에 대하여 우측(예: 도 3a의 +X 방향)에서 프레임(310)에 연결될 수 있다. 일 실시예에서, 지지 부재(320)는 프레임에 고정 설치될 수도 있다. 예를 들어, 프레임(310)의 좌측에 연결된 제1 지지 부재(320-1)와, 프레임(310)의 우측에 연결된 제2 지지 부재(320-2)가 서로 연결되도록 형성될 수 있다. 프레임(310)의 양측에 연결된 지지 부재는 링(ring) 형태를 이루고 사용자의 머리에 끼워지는 방식으로 착용될 수 있다. 이 밖에도 지지 부재(320)는 사용자의 얼굴에 전자 장치(300)가 착용될 수 있는 다양한 형태로 변형될 수 있다.
다양한 실시예에 따르면, 도 3a에 도시된 것과 같이, 지지 부재(320)는 사용자의 귀에 걸치도록 형성될 수 있다. 프레임(310)에 연결된 지지 부재(320)가 사용자의 귀에 걸쳐지는 방식으로 전자 장치(300)가 사용자의 얼굴에 착용될 수 있다. 지지 부재(320)는 프레임(310)에 대해 회전할 수 있다. 지지 부재(320)가 프레임(310)에 근접하는 방향으로 회전되어 전자 장치(300)의 부피가 줄어들 수 있다.
다양한 실시예에 따르면, 윈도우 부재(330)는 사용자의 좌측 눈에 대응하는 제1 윈도우 부재(330-1)와 사용자의 우측 눈에 대응하는 제2 윈도우 부재(330-2)를 포함할 수 있다. 윈도우 부재(330)는 프레임(310)에 지지될 수 있다. 예를 들어, 프레임(310)에 형성된 개구부에 윈도우 부재(330)가 끼워질 수 있다. 디스플레이 모듈에서 방출되는 AR 영상은 윈도우 부재(330)에 투영될 수 있다. 윈도우 부재(330)는 적어도 일부 영역에 도파관(예: 도 2의 제1 도파관(220-1) 및/또는 제2 도파관(230-1))이 형성될 수 있다. 도파관은 디스플레이 모듈에서 방출된 AR 영상이 사용자의 눈으로 유도되도록 할 수 있다. 도파관에 대한 자세한 설명은 도 2의 제1 글래스(220) 및 제2 글래스(230)와 관련된 설명을 참조하도록 한다.
다양한 실시예에 따르면, 디스플레이 모듈은 프로세서에서 생성된 AR 영상을 출력할 수 있다. 디스플레이 모듈에서 AR 영상을 생성하여 윈도우 부재(330)에 투영하면, 윈도우 부재(330)를 통해 전방(예: 도 3b의 -Y 방향)으로부터 입사되는 가시광(L)에 AR 영상에 포함된 객체가 합쳐져 AR이 구현될 수 있다. 디스플레이 모듈은 크기가 매우 작은(예: 마이크로 프로젝터, 피코 프로젝터)의 프로젝터일 수 있다. 예를 들어, 디스플레이 모듈은 LSD(laser scaning display), DMD(digital micro-mirro display) 및 LCoS(liquid crystal on silicon)일 수 있다. 또한, 디스플레이 모듈은 투명 디스플레이일 수 있다. 이 경우, 디스플레이 모듈에 포함된 발광 소자는 윈도우 부재(330)에 직접 배치될 수 있다. 이 밖에도 디스플레이 모듈은 AR을 구현하기 위한 다양한 디스플레이 장치일 수 있다.
다양한 실시예에 따르면, 카메라(340)는 사용자의 좌측 눈에 대응하는 제1 카메라(340-1)와 사용자의 우측 눈에 대응하는 제2 카메라(340-2)를 포함할 수 있다. 카메라(340)는 사용자의 눈을 촬영하기 위한 카메라(340)일 수 있다. 카메라(340)는 예를 들어, 도 2의 시선 추적 카메라(212-1, 212-2)일 수 있다. 카메라(340)는 사용자의 눈을 실시간으로 촬영하여, 눈동자의 움직임을 확인하는데 사용될 수 있다.
도 3a에 도시된 것과 같이, 프레임(310)을 제1 영역(310A)과 제2 영역(310B)으로 구분할 때, 카메라(340)는 프레임(310)의 제2 영역(310B)에 배치될 수 있다. 프레임(310)의 제2 영역(310B)은 전자 장치(300)가 착용된 상태에서 사용자의 코와 인접한 영역일 수 있다. 예를 들어, 도 3a과 같이 프레임(310)을 가로지르는 가상의 선(L)을 기준으로 제1 방향(예: 도 3a의 -Z 방향)으로 연장된 영역을 제2 영역(310B)으로 이해할 수 있다. 또는 제2 영역(310B)은 사용자가 정면을 응시하는 시선 방향에 대하여 하측에 위치한 영역으로 이해될 수 있다. 프레임(310)의 제2 영역(310B)에 배치된 카메라(340)는 사용자의 눈 아래쪽에서 사용자의 눈을 촬영할 수 있다. 프레임(310)의 제1 영역(310A)은 제2 영역(310B)을 제외한 프레임(310)의 나머지 영역을 의미할 수 있다. 예를 들어, 도 3a와 같이 프레임(310)을 가로지르는 가상의 선(L)을 기준으로 제2 방향(예: 도 3a의 +Z 방향)으로 연장된 영역을 제1 영역(310A)으로 이해할 수 있다.
다양한 실시예에 따르면, 카메라(340)는 프레임(310)의 제2 영역(310B)에 존재하는 받침부(350)에 형성된 카메라 홀(351)에 삽입될 수 있다. 받침부(350)는 전자 장치(300)가 착용된 상태에서 사용자의 코에 접촉될 수 있도록 쌍으로 형성될 수 있다. 받침부(350)는 프레임(310)의 중심을 기준으로 좌측(예: 도 3a의 -X 방향)에 위치한 제1 받침부(350-1)와 프레임(310)을 중심으로 우측(예: 도 3a의 +X 방향)에 위치한 제2 받침부(350-2)를 포함할 수 있다. 받침부(350)는 프레임(310)이 사용자의 코에 지지도록 할 수 있다. 일 실시예에서, 받침부(350)는 도 3a에 도시된 것과 같이, 프레임(310)과 일체로 형성될 수 있다. 다른 실시예에서, 받침부(350)는 프레임(310)과 별도로 구성되어 프레임(310)에 결합될 수 있다. 카메라 홀(351)은 받침부(350)에 형성된 구멍(hole)일 수 있다. 카메라 홀(351)은 제1 받침부(350-1)에 형성된 제1 카메라 홀(351-1)과 제2 받침부(350-2)에 형성된 제2 카메라 홀(351-2)를 포함할 수 있다. 카메라 홀(351)은 프레임(310)의 제2 영역(310B)에 배치된 카메라(340)가 사용자의 눈을 향할 수 있도록 프레임(310)에 대하여 소정 각도로 기울어지게 형성될 수 있다. 프레임(310)에 대해 기울어져 형성된 카메라 홀(351)에 카메라(340)가 삽입되어 배치되면, 카메라(340)가 사용자의 눈을 향할 수 있다.
다양한 실시예에 따르면, 카메라(340)는 전자 장치의 전방(예: 도 3b의 -Y 방향)에서 받침부(350)에 형성된 카메라 홀(351)에 삽입될 수 있다. 제1 카메라 홀(351-1)에는 제1 카메라(340-1)가 삽입될 수 있고, 제2 카메라 홀(351-2)에는 제2 카메라(340-2)가 삽입될 수 있다. 일 실시예에서, 제1 카메라 홀(351-1)은 제1 받침부(350-1) 또는 제1 받침부(350-1)과 인접한 부분에서 프레임(310)에 형성될 수 있다. 제2 카메라 홀(351-2)은 제2 받침부(350-2) 또는 제2 받침부(350-2)과 인접한 부분의 프레임(310)에 형성될 수 있다.
다양한 실시예에 따르면, 전자 장치(300)는 카메라(340)가 카메라 홀(351)에서 유동하지 않도록 카메라(340)를 고정하기 위한 구성 요소를 포함할 수 있다. 일 실시예에서, 도 3b에 도시된 것과 같이 카메라 홀(351)에는 카메라(340)와 함께, 카메라 커버(352)와 완충 부재(353)가 삽입될 수 있다. 카메라 커버(352)는 제1 카메라 홀(351-1)에 삽입되는 제1 카메라 커버(352-1)와 제2 카메라 홀(351-2)에 삽입되는 제2 카메라 커버(352-2)를 포함할 수 있다. 완충 부재(353)은 제1 카메라 홀(351-1)에 삽입되는 제1 완충 부재(353-1)와 제2 카메라 홀(351-2)에 삽입되는 제2 완충 부재(353-3)를 포함할 수 있다.
도 3b와 같이 카메라 커버(352) - 카메라(340) - 완충 부재(353) 순으로 카메라 홀(351)에 삽입될 수 있다. 다른 실시예에서, 카메라 커버(352) - 완충 부재(353) - 카메라(340) 순으로 카메라 홀(351)에 삽입될 수 있고, 복수의 완충 부재(353)를 사용하여 카메라 커버(352) - 완충 부재(353) - 카메라(340) - 완충 부재(353) 순으로 카메라 홀(351)에 삽입될 수 있다.
다양한 실시예에 따르면, 카메라 커버(352)는 카메라 홀(351)에 삽입된 상태에서 받침부(350)의 외형 또는 프레임(310)의 외형과 자연스럽게 연결되는 형상을 가질 수 있다. 카메라 커버(352)는 적어도 일부분(특히, 카메라 홀(351)에 삽입된 상태에서 외부로 보여지는 부분)이 받침부(350) 및/또는 프레임(310)과 동일한 소재로 형성될 수 있다. 이 때문에 카메라 커버(352)가 삽입된 상태에서, 카메라 홀(351)이 형성된 부분이 다른 부분과 이질감이 없을 수 있다.
다양한 실시예에 따르면, 완충 부재(353)는 탄성 변형이 가능한 소재로 형성될 수 있다. 카메라 커버(352)가 카메라 홀(351)에 삽입된 상태에서 카메라 커버(352)와 카메라(340)를 가압하면, 완충 부재(353)가 일부 변형되며 카메라 홀(351)에 배치된 카메라(340)를 지지할 수 있다.
이하에서 설명되는 카메라(340)의 경우, 소형 카메라(340)를 구현하기 위하여, 카메라(340)의 주요 구성(예: 이미지 센서(예: 도 6a의 이미지 센서(342), 기판(예: 도 6a의 기판(341))을 보호하기 위한 별도의 하우징을 구비하지 않을 수 있다. 카메라(340)가 카메라 홀(351)에 삽입됨으로써, 카메라 홀(351)이 카메라(340)의 주요 구성을 보호하는 하우징이 될 수 있다. 예를 들어, 카메라(340)가 위치하는 카메라 홀(351)은 카메라(340)의 형태에 대응되고, 전자 장치의 전방(예: 도 3b의 -Y 방향)에서 바라볼 때, 카메라 홀(351)은 좁아지는 형태일 수 있다.
도 4a는, 본 문서에 개시된 다양한 실시예에 따른 카메라의 촬영 영역을 설명하기 위한 도면이다. 도 4b는, 본 문서에 개시된 다양한 실시예에 따른 촬영 공간을 설명하기 위한 도면이다. 도 5는, 본 문서에 개시된 다양한 실시예에 따른 카메라로 촬영된 이미지의 모습이다.
다양한 실시예에 따르면, 카메라(340)는 사용자의 눈을 촬영할 수 있다. 도 4a에 도시된 것과 같이, 카메라(340)의 촬영 영역(401) 내에 사용자의 눈이 포함될 수 있다. 카메라(340)의 촬영 영역(401)은 카메라(340)의 초점 거리, 화각, 및/또는 눈과 카메라(340)의 거리와 같은 요인으로 결정될 수 있다. 본 문서에 개시된 실시예에 따른 카메라(340)는 사용자의 눈을 포함하는 촬영 영역(401)이 형성되도록 초점 거리, 화각 및 눈과의 거리가 조절될 수 있다.
다양한 실시예에 따르면, 카메라(340)는 프레임(310)의 제2 영역(예: 도 3a의 제2 영역(310B))에 배치될 수 있다. 프레임(310)의 제2 영역은 사용자의 코와 인접한 부분일 수 있다. 제2 영역에 배치된 카메라(340)는 눈의 하부에서 사용자의 눈을 촬영할 수 있다. 카메라(340)가 프레임(310)의 제2 영역(310B)에 배치되면, 카메라(340)의 촬영 공간(402)(촬영 영역(401)과 카메라(340) 사이의 영역)에 간섭을 일으킬 물체(예: 사용자의 눈썹 또는 속눈썹)이 존재하지 않으므로 사용자의 눈을 효과적으로 촬영할 수 있다. 또한, 카메라(340)가 프레임(310)의 제2 영역)에 배치되면 사용자의 시야에 카메라(340)가 포함되는 현상을 줄일 수 있다.
다양한 실시예에 따르면, 카메라(340)를 통해 획득된 이미지 정보는 사용자의 눈동자(501) 움직임을 추적하는데 활용될 수 있다. 예를 들어, 도 5에 도시된 것과 같이, 사용자의 눈에 투영된 발광점(502)를 이용할 수 있다. 일 실시예에 따르면, 사용자의 눈에 투영된 발광점(502)은 발광부(예: 도 2의 발광 장치(242-1, 242-2))가 사용자의 눈을 향해 방사한 적외선 파장의 IR LED일 수 있다. 사용자의 눈동자(501) 움직임은 사용자의 눈에 투영된 발광부의 발광점(502)과 눈동자(501) 간의 상대 거리를 통해 추적될 수 있다. 발광점(502)은 발광부에서 빛의 강도가 가장 강한 지점이 사용자의 눈에 투영된 지점을 의미할 수 있다. 복수의 발광점(502)과 눈동자(501) 간의 상대 거리 변화를 이용하면, 눈동자(501)의 움직임을 추적할 수 있다.
다양한 실시예에 따르면, 복수의 발광부(예: 도 2의 발광 장치(242-1, 242-2))는 프레임(310)의 내주를 따라 소정 간격으로 배열될 수 있다. 발광부의 개수와 배치는 카메라(340)와 사용자의 눈 사이 거리, 발광부와 카메라(340)의 위치 관계에 따라 다양하게 변경될 수 있다. 예를 들어, 복수의 발광부(예: 도 2의 발광 장치(242-1, 242-2))는 발광부에서 발광된 빛이 사용자의 눈에서 반사되고, 반사된 빛이 카메라(340)로 입사될 수 있는 위치 및 각도를 고려하여 배치될 수 있다. 일 실시예에서, 주변 상황(예: 주변광, 또는 전자 장치의 착용 상태)에 따라 복수의 발광부 중 일부 발광부만을 활성화할 수 있다. 주변 상황에 따라 눈동자 추적에 필요한 발광점(502)이 개수가 상이할 수 있다. 예를 들어, 주변광이 약하게 유입되는 상황에서는 주변광이 강하게 유입되는 상황에서보다 필요한 발광점(502)의 개수가 감소할 수 있다. 이 경우에는 일부 발광부만을 활성화함으로써, 발광부의 구동에 따른 전력 소모를 줄일 수 있다. 일 실시예에 따르면, 프로세서는 복수의 발광부가 지정된 패턴 또는 지정된 순서에 기반하여 활성화되도록 제어할 수 있다.
다양한 실시예에 따르면, 프로세서(예: 도 1의 프로세서(120))는 사용자의 눈동자(501) 움직임을 추적하여 사용자의 시선 방향을 획득할 수 있다. 프로세서는 시선 방향을 이용하여 디스플레이 모듈(예: 도 1의 디스플레이 모듈(160))을 제어할 수 있다.
예를 들어, 프로세서는 사용자의 시선 방향과 윈도우 부재(예: 도 3a의 윈도우 부재(330))에 투영되는 영상의 중심이 일치하게 되도록 디스플레이 모듈을 제어할 수 있다. 일 실시예에서, 프로세서는 사용자의 시선 방향을 중심으로 일정 영역에 대응하는 AR 영상의 해상도가 나머지 영역에 비해 높게 조절되도록 디스플레이 모듈을 제어할 수 있다. 일 실시예에서, 프로세서는 사용자의 시선 방향을 중심으로 일정 영역을 관심 영역으로 설정하고 이 영역에 AR 객체가 위치되도록 AR 영상을 생성할 수 있다. 이 밖에도 프로세서는 카메라를 통해 획득된 이미지 정보를 이용하여, 다양한 방식으로 디스플레이 모듈을 제어하거나, AR 영상을 생성할 수 있다.
다양한 실시예에 따르면, 프로세서(예: 도 1의 프로세서(120))는 사용자의 눈동자(501) 움직임을 추적하여 사용자의 시선에 기반한 입력을 확인할 수 있다. 예를 들어, 디스플레이 모듈(예: 도 1의 디스플레이 모듈(160))을 통해 가상 객체를 표시하고, 사용자의 시선이 가상 객체에 지정된 시간 이상 향하는 경우 프로세서는 사용자가 상기 가상 객체에 관심이 있다고 판단하고, 상기 가상 객체에 대한 추가 정보를 제공할 수 있다.
도 6a는, 본 문서에 개시된 다양한 실시예에 따른 카메라의 사시도이다. 도 6b는, 도 6a에 도시된 카메라의 분리 사시도이다. 도 6c는, 도 6a에 도시된 카메라를 A-A선을 따라 절개한 단면도이다.
다양한 실시예에 따르면, 도 6a 및 도 6b에 도시된 것과 같이, 카메라(340)는 기판(341), 이미지 센서(342), 제1 접착층(343), 보호 글래스(344), 제2 접착층(345), 복수의 렌즈(346-1)을 포함하는 렌즈 경통(346) 및 커버 글래스(347)를 포함할 수 있다. 이상 언급된 카메라(340)의 구성은 예시에 불과하며, 본 문서에 개시된 카메라(340)에 포함된 구성 요소가 위의 구성들로 한정되는 것은 아니다.
다양한 실시예에 따르면, 기판(341)은 예를 들어, 인쇄 회로 기판(printed circuit board; PCB)일 수 있다. 기판(341)은 카메라(340)의 이미지 센서(342)에서 생성되는 이미지 정보를 전자 장치(예: 도 1의 전자 장치(101))의 프로세서(예: 도 1의 프로세서(120))로 전달할 수 있도록, 프로세서가 배치된 기판과 전기적으로 연결될 수 있다. 예를 들어, 유연 인쇄 회로 기판(flexible printed circuit board; FPCB)를 통해 카메라(340)의 기판(341)과 프로세서가 배치된 기판이 전기적으로 연결될 수 있다. 일 실시예에서, 프로세서는 지지 부재(예: 도 2의 제1 지지부(221), 제2 지지부(222))에 내장된 인쇄 회로 기판(예: 도 2의 제1 인쇄 회로 기판(231-1), 제2 인쇄 회로 기판(232-2))에 배치될 수 있다. 프레임(310)의 내부에 배치되어 카메라(340)가 삽입된 카메라 홀(351)까지 연장되는 제1 연결 부재(예: 유연 인쇄 회로 기판)(미도시) 및 지지 부재(320)에 내장된 인쇄 회로 기판과 연결된 제2 연결 부재(예: 유연 인쇄 회로 기판)(미도시)가 연결될 수 있다. 카메라 홀(351)에 삽입된 카메라(351)는 제1 연결 부재와 전기적으로 연결되고, 제1 연결 부재가 제2 연결 부재에 연결됨으로써, 카메라(340)가 프로세서가 배치된 인쇄 회로 기판에 전기적으로 연결될 수 있다. 일 실시예에서, 카메라(340)의 기판(341)의 배면에는 솔더볼(solder ball)이 배치되고, 솔더볼이 제1 연결 부재와 접촉됨으로써, 기판(341)과 제1 연결 부재가 전기적으로 연결될 수 있다. 일 실시예에 따르면, 프로세서가 배치된 인쇄 회로 기판과 카메라(340)는 글래스(예: 도 2의 제1 글래스(220) 및 제2 글래스(230)) 상에 위치되는 투명 전극을 통해 전기적으로 연결될 수 있다.
다양한 실시예에 따르면, 이미지 센서(342)는 빛을 전기적 신호로 전환하는 광전 소자를 포함할 수 있다. 예를 들어, 이미지 센서(342)에 포함된 광전 소자는 CCD(charged coupled device), CMOS(complementary metal-oxide semiconductor)일 수 있다. 이미지 센서(342)는 기판(341) 상에 배치되어 기판(341)과 전기적으로 연결될 수 있다. 도 6c를 참조하면, 이미지 센서(342)에서 기판(341)과 마주하는 면에는 솔더 볼(342-1)이 형성될 수 있다. 이미지 센서(342)에 형성된 솔더 볼(342-1)에 의해 이미지 센서(342)와 기판(341)이 솔더 본딩 방식으로 결합되어 이미지 센서(342)와 기판(341)이 전기적으로 연결될 수 있다. 이와 같이 솔더 볼(342-1)을 통한 솔더 본딩 방식으로 이미지 센서(342)와 기판(341)이 결합됨으로써, 와이어 본딩을 통한 결합에 비하여 카메라(340)의 부피를 줄일 수 있다. 와이어 본딩의 경우에는 이미지 센서(342) 외주 부분으로 와이어 본딩을 위한 공간이 요구된다. 따라서, 기판(341)의 면적이 이미지 센서(342)의 면적보다 커질 필요가 있어 카메라(340)의 전체적인 부피가 증가할 수 있다. 본 문서에 개시된 카메라(340)는 솔더 볼(342-1)을 통하여 이미지 센서(342)와 기판(341)이 결합되기 때문에 기판(341)의 면적과 이미지 센서(342)의 면적을 실질적으로 동일하게 할 수 있다. 일 실시예에서, 기판(341)의 면적은 이미지 센서(342)의 면적과 같거나 작을 수 있다. 기판(341)의 면적을 줄일 수 있으므로 카메라(340)의 전체적인 부피도 감소할 수 있다. 본 문서에 개시된 카메라(340)의 경우, 카메라 홀(351)에 삽입되어 전자 장치(300)의 프레임(310) 또는 받침부(350)에 의해 보호될 수 있으므로 카메라(340)를 보호하는 별도의 하우징이 요구되지 않을 수 있다. 따라서, 기판(341) 주변에 하우징을 배치하기 위한 여유 공간이 필요하지 않을 수 있다.
다양한 실시예에 따르면, 이미지 센서(342) 상에는 보호 글래스(344)가 배치될 수 있다. 보호 글래스(344)는 이미지 센서(342) 상에 배치되어 이미지 센서(342)를 보호할 수 있다. 이미지 센서(342)의 모서리를 따라 배치된 제1 접착층(343)에 의하여 이미지 센서(342)와 보호 글래스(344)가 결합될 수 있다. 와이어 본딩 방식의 이미지 센서(342)의 경우, 이미지 센서(342)의 모서리 부분은 와이어가 결합되는 부분으로 사용되었다. 본 문서에 개시된 이미지 센서(342)는 솔더 볼(342-1)을 통하여 기판(341)과 결합되므로, 이미지 센서(342)의 모서리 부분에 제1 접착층(343)을 배치하는 것이 가능하다. 이와 같이, 이미지 센서(342) 상에 배치되는 제1 접착층(343)을 통해 이미지 센서(342)와 보호 글래스(344)가 결합됨으로써, 카메라(340)의 전체적인 부피가 감소할 수 있다.
다양한 실시예에 따르면, 보호 글래스(344) 상에는 복수의 렌즈(346-1)를 포함하는 렌즈 경통(346)이 배치될 수 있다. 보호 글래스(344)의 모서리를 따라 배치되는 제2 접착층(345)에 의해 보호 글래스(344)와 렌즈 경통(346)이 결합될 수 있다. 이 때, 보호 글래스(344)와 렌즈 경통(346)이 소정 간격으로 이격될 수 있다. 이 간격은 카메라(340)의 조립시에 카메라(340)가 지정된 품질의 이미지 정보를 생성할 수 있도록 카메라(340)의 제조 과정에서 카메라(340)들의 차이를 보상하는데 활용될 수 있다. 이러한 차이는 다양한 요인(예: 조립 공차, 이미지 센서(342)의 스펙 오차 등)에 의해 발생할 수 있다. 예를 들어, 렌즈 경통(346)에 배치된 렌즈들(346-1)의 두께, 간격 및 편심과 같은 광학적 설계 요소의 미세 변화로 인하여 차이가 발생할 수 있다. 본 문서에 개시된 카메라(340)가 전자 장치에 배치되어 사용자의 눈을 지정된 품질로 촬영하기 위하여 이러한 차이를 보상해줄 필요가 있다. 보호 글래스(344)와 렌즈 경통(346) 사이의 간격을 형성하고, 카메라(340)의 조립시에 이 간격을 카메라(340) 마다 다르게 적용하면 카메라(340) 조립 과정에서 카메라(340)들의 차이를 보상할 수 있다. 일 실시예에서, 보호 글래스(344)와 렌즈 경통(346) 사이에 배치된 제2 접착층(345)는 광 또는 열 경화성 소재로 형성될 수 있다. 제2 접착층(345)은 경화되기 전 일정 수준의 유동성을 가질 수 있다. 카메라(340)의 오차를 보상하도록 보호 글래스(344)에 대하여 렌즈 경통(346)의 위치를 조절(예: 도 6b의 X 축, Y 축, Z 축 회전을 통한 조절)할 수 있다. 보호 글래스(344)에 대한 렌즈 경통(346)의 위치가 정렬되면, 광 또는 열을 이용하여 제2 접착층(345)을 경화할 수 있다. 또한, 광축 정렬을 위해 보호 글래스(344)와 렌즈 경통(346) 사이의 간격을 이용할 수 있다. 이미지 센서(342)와 렌즈 경통(346)에 포함된 복수의 렌즈(346-1)의 광축을 일치시키기 위하여, 렌즈 경통(346)을 보호 글래스(344)에 대하여 소정 각도로 배치할 수 있다.
다양한 실시예에 따르면, OTTL(optical total track length)/BFL(back focal length)가 약 0.3 내지 약 0.5가 되도록 렌즈 경통(346)과 이미지 센서(342) 사이의 거리를 조절할 수 있다. OTTL은 초점에서 렌즈 경통(346)에 포함된 렌즈(346-1) 중 이미지 센서(342)와 가장 멀리 떨어진 렌즈(346-1A)까지의 거리(D2)를 의미할 수 있다. BFL은 초점에서 렌즈 경통(346)에 포함된 렌즈(346-1) 중 초점과 가장 가까운 렌즈(346-1B)까지의 거리(D1)를 의미할 수 있다. OTTL/BFL을 위와 같이 조절함으로써, 카메라(340)의 최소 초점 거리가 전자 장치에 배치된 카메라(340)와 사용자의 눈 사이 거리와 같아지거나 그 보다 작아질 수 있다. 렌즈 경통(346)과 보호 글래스(344) 사이의 간격은 조립된 카메라(340)가 약 0.3 내지 약 0.5의 OTTL/BFL을 갖도록 조절될 수 있다.
다양한 실시예에 따르면, 도 6a에 도시된 것과 같이, 렌즈 경통(346)은 이미지 센서(342)에서 멀어질수록 직경이 줄어드는 모양으로 형성될 수 있다. 일 실시예에서, 렌즈 경통(346)에 내장된 복수의 렌즈는 이미지 센서(342)에서 먼 렌즈(예: 렌즈(346-1A))가 이미지 센서(342)와 가까운 렌즈(예: 렌즈(346-1B))보다 직경이 작은 렌즈로 구성될 수 있다. 일 실시예에서, 카메라(340)이 삽입되는 카메라 홀(예: 도 3b의 카메라 홀(351-1, 351-2))의 내부는 카메라(340)가 카메라 홀에 안정적으로 안착될 수 있도록 렌즈 경통(346)과 대응되는 모양으로 형성될 수 있다. 예를 들어, 렌즈 경통(346)의 도 6a에 도시된 것과 같이, 직경이 줄어드는 모양으로 형성된 경우, 렌즈 경통(346)과 대면하는 카메라 홀의 내경도 카메라가 진입되는 방향으로 갈수록 줄어들게 형성될 수 있다.
다양한 실시예에 따르면, 커버 글래스(347)는 렌즈 경통(346)에 결합될 수 있다. 커버 글래스(347)은 렌즈 경통(346) 외면에 접착 방식으로 부착될 수 있다. 예를 들어, 커버 글래스(347)은 제3 접착층(348)을 통해 렌즈 경통(346)에 부착될 수 있다. 일 실시예에서, 렌즈 경통(346)에는 커버 글래스(347)이 끼워질 수 있는 홀(미도시)이 형성될 수 있다. 커버 글래스(347)는 렌즈 경통(346)에 포함된 복수의 렌즈(346-1)를 보호할 수 있다. 이와 같이, 커버 글래스(347)가 별도의 하우징이 아닌 렌즈 경통(346)에 직접 결합됨으로써, 카메라(340)의 전체적인 부피가 감소할 수 있다. 또한, 커버 글래스(347)가 카메라(340)를 보호하기 때문에 카메라(340)가 삽입되는 카메라 홀(351)에 카메라(340) 보호를 위한 별도의 구성 요소가 필요하지 않을 수 있다.
일 실시예에 따르면, 이미지 센서(342)와 보호 글래스(344) 사이의 제1 접착층(343) 및/또는 보호 글래스(344)와 렌즈 경통(346) 사이의 제2 접착층(345)은 생략될 수 있다. 예를 들어, 카메라(340)의 오차가 작은 경우, 제1 접착층(343) 및/또는 제2 접착층(345)는 생략되고, 접착제를 통해 결합될 수 있다.
이와 같이, 본 문서에 개시된 전자 장치에 포함되는 카메라(340)는 전체적인 부피가 감소될 수 있다. 따라서, 전자 장치를 경량화할 수 있고, 카메라(340)가 사용자의 시야에 포함되는 현상을 줄일 수 있어 전자 장치의 사용성을 증대시킬 수 있다.
본 문서에 개시된 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101) 및 도 2의 전자 장치(200))는, 제1 영역(예: 도 3a의 제1 영역(310A)) 및 제2 영역(예: 도 3a의 제2 영역(310B))을 포함하는 프레임(예: 도 3a의 프레임(310)), 상기 프레임에 의해 지지되는 윈도우 부재(예: 도 3a의 윈도우 부재(330)), 상기 프레임에 회전 가능하게 연결되는 지지 부재(예: 도 3a의 지지 부재(320)), 상기 윈도우 부재로 화상을 투영하는 디스플레이 모듈(예: 도 1의 디스플레이 모듈(160), 도 2의 디스플레이 모듈(214-1, 214-2)) 및 사용자의 눈 부분을 촬영하도록 상기 프레임의 제2 영역에 배치되는 카메라(예: 도 3a의 카메라(340))를 포함할 수 있고, 상기 카메라는, 기판(예: 도 6b의 기판(341))과 상기 기판 상에 배치되는 이미지 센서(예: 도 6b의 이미지 센서(342))를 포함하고, 상기 기판의 면적은 상기 이미지 센서의 면적과 같거나 더 작게 형성될 수 있다.
또한, 상기 프레임의 제2 영역은, 상기 프레임을 두 개의 영역으로 분할할 때, 상기 전자 장치가 착용된 상태에서 사용자의 코와 인접한 영역일 수 있다.
또한, 상기 카메라는, 상기 전자 장치가 착용된 상태에서 사용자의 코에 접촉되어 상기 프레임이 사용자의 코에 의해 지지되도록 상기 프레임의 제2 영역에 형성된 받침부(예: 도 3a의 받침부(350))에 배치될 수 있다.
또한, 상기 카메라는 상기 받침부에 형성된 카메라 홀(에: 도 3b의 카메라 홀(351))에 삽입되어 배치될 수 있다.
또한, 상기 카메라 홀은, 상기 카메라 홀에 삽입된 상기 카메라가 사용자의 눈 부분을 향할 수 있도록 상기 프레임에 대하여 소정 각도로 기울어져 형성될 수 있다.
또한, 사용자의 눈에 적외광이 조사되도록 소정 간격으로 이격되어 상기 프레임에 배치되는 복수의 발광부(예: 도 2의 발광 장치(242-1, 242-2))를 더 포함할 수 있다.
또한, 상기 카메라는, 상기 이미지 센서 상에 배치되는 보호 글래스(예: 도 6b의 보호 글래스(344)), 상기 보호 글래스 상에 배치되고 복수의 렌즈(예: 도 6b의 복수의 렌즈(346-1))가 내장되는 렌즈 경통(예: 도 6b의 렌즈 경통(346)), 상기 렌즈 경통에 결합되어 상기 렌즈 경통에 포함된 복수의 렌즈를 보호하는 커버 글래스(예: 도 6b의 커버 글래스(347))를 더 포함할 수 있다.
또한, 상기 카메라의 상기 이미지 센서와 상기 보호 글래스는, 상기 이미지 센서의 모서리를 따라 배치되는 제1 접착층(예: 도 6b의 제1 접착층(343))에 의해 상호 결합될 수 있다.
또한, 상기 카메라의 상기 이미지 센서는, 상기 이미지 센서에서 상기 기판과 마주하는 면에 형성된 솔더 볼(solder ball)에 의해 상기 기판과 전기적으로 연결될 수 있다.
또한, 상기 카메라의 렌즈 경통은, 상기 이미지 센서와 멀어질수록 직경이 줄어들게 형성될 수 있다.
또한, 상기 카메라는 상기 프레임의 제2 영역에 형성된 카메라 홀에 삽입될 수 있고, 상기 카메라 홀은 상기 카메라의 렌즈 경통과 대응되도록 내경이 상기 카메라가 진입되는 방향으로 갈수록 줄어들게 형성될 수 있다.
또한, 상기 카메라의 상기 보호 글래스와 상기 렌즈 경통은 상기 보호 글래스의 모서리를 따라 배치되는 제2 접착층(예: 도 6b의 제2 접착층(345))에 의해 소정 간격으로 이격되어 상호 결합될 수 있다.
또한, 상기 카메라는, 상기 이미지 센서에서 상기 렌즈 경통에 포함된 복수의 렌즈 중 상기 이미지 센서와 가장 이격된 렌즈까지의 거리(optical total track length; OTTL)에 대한 상기 이미지 센서에서 상기 렌즈 경통에 포함된 복수의 렌즈(346-1) 중 상기 이미지 센서와 가장 근접한 렌즈까지의 거리(back focal length; BFL)의 비율이 0.3 내지 0.5일 수 있다.
본 문서에 개시된 다양한 실시예에 따른 머리 장착형 전자 장치에 포함되는 카메라(예: 도 3a의 카메라(340))는, 기판(예: 도 6b의 기판(341)), 상기 기판 상에 배치되어 상기 기판과 전기적으로 연결되는 이미지 센서(예: 도 6b의 이미지 센서(342)), 상기 이미지 센서 상에 배치되는 보호 글래스(예: 도 6b의 보호 글래스(344)), 상기 보호 글래스 상에 배치되고 복수의 렌즈(예: 도 6b의 복수의 렌즈(346-1))가 내장되는 렌즈 경통(예: 도 6b의 렌즈 경통(346)) 및 상기 렌즈 경통에 결합되어 상기 렌즈 경통에 포함된 복수의 렌즈를 보호하는 커버 글래스(예: 도 6b의 커버 글래스(347))를 포함할 수 있고, 상기 기판의 면적은 상기 이미지 센서의 면적보다 작거나 같을 수 있다.
또한, 상기 이미지 센서와 상기 보호 글래스는, 상기 이미지 센서의 모서리를 따라 배치되는 제1 접착층(예: 도 6b의 제1 접착층(343))에 의해 상호 결합될 수 있다.
또한, 상기 이미지 센서는, 상기 이미지 센서에서 상기 기판과 마주하는 면에 형성된 솔더 볼(solder ball)에 의해 상기 기판과 전기적으로 연결될 수 있다.
또한, 상기 렌즈 경통은, 상기 이미지 센서와 멀어질수록 직경이 줄어들게 형성될 수 있다.
또한, 상기 렌즈 경통에 내장되는 복수의 렌즈는, 상기 이미지 센서(342)와 멀어질수록 직경이 작은 렌즈로 구성될 수 있다.
또한, 상기 카메라의 상기 보호 글래스와 상기 렌즈 경통은 상기 보호 글래스의 모서리를 따라 배치되는 제2 접착층(예: 도 6b의 제2 접착층(345))에 의해 소정 간격으로 이격되어 상호 결합될 수 있다.
또한, 상기 이미지 센서에서 상기 렌즈 경통에 포함된 복수의 렌즈 중 상기 이미지 센서와 가장 이격된 렌즈까지의 거리(optical total track length; OTTL)에 대한 상기 이미지 센서에서 상기 렌즈 경통에 포함된 복수의 렌즈 중 상기 이미지 센서와 가장 근접한 렌즈까지의 거리(back focal length; BFL)의 비율이 0.3 내지 0.5일 수 있다.
그리고 본 명세서와 도면에 개시된 본 문서에 개시된 실시예들은 본 문서에 개시된 실시예에 따른 기술 내용을 쉽게 설명하고 본 문서에 개시된 실시예의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 문서에 개시된 실시예의 범위를 한정하고자 하는 것은 아니다. 따라서 본 문서에 개시된 다양한 실시예의 범위는 여기에 개시된 실시예들 이외에도 본 문서에 개시된 다양한 실시예의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 문서에 개시된 다양한 실시예의 범위에 포함되는 것으로 해석되어야 한다.

Claims (15)

  1. 전자 장치에 있어서,
    제1 영역 및 제2 영역을 포함하는 프레임;
    상기 프레임에 의해 지지되는 윈도우 부재;
    상기 프레임에 연결되는 지지 부재;
    상기 윈도우 부재로 화상을 투영하는 디스플레이 모듈; 및
    사용자의 눈 부분을 촬영하도록 상기 프레임의 제2 영역에 배치되는 카메라;를 포함하고,
    상기 카메라는,
    기판과 상기 기판 상에 배치되는 이미지 센서를 포함하고, 상기 기판의 면적은 상기 이미지 센서의 면적과 같거나 더 작게 형성되는 전자 장치.
  2. 제1항에 있어서,
    상기 프레임의 제2 영역은,
    상기 프레임을 두 개의 영역으로 분할할 때, 상기 전자 장치가 착용된 상태에서 사용자의 코와 인접한 영역인 전자 장치.
  3. 제2항에 있어서,
    상기 카메라는,
    상기 전자 장치가 착용된 상태에서 사용자의 코에 접촉되어 상기 프레임이 사용자의 코에 의해 지지되도록 상기 프레임의 제2 영역에 형성된 받침부에 형성된 카메라 홀에 삽입되어 배치되는 전자 장치.
  4. 제3항에 있어서,
    상기 카메라 홀은,
    상기 카메라 홀에 삽입된 상기 카메라가 사용자의 눈 부분을 향할 수 있도록 상기 프레임에 대하여 소정 각도로 기울어져 형성된 전자 장치.
  5. 제1항에 있어서,
    사용자의 눈에 적외광이 조사되도록 소정 간격으로 이격되어 상기 프레임에 배치되는 복수의 발광부;를 더 포함하는 전자 장치.
  6. 제1항에 있어서,
    상기 카메라는,
    상기 이미지 센서 상에 배치되는 보호 글래스,
    상기 보호 글래스 상에 배치되고 복수의 렌즈가 내장되는 렌즈 경통,
    상기 렌즈 경통에 결합되어 상기 렌즈 경통에 포함된 복수의 렌즈를 보호하는 커버 글래스를 더 포함하는 전자 장치.
  7. 제6항에 있어서,
    상기 카메라의 상기 이미지 센서와 상기 보호 글래스는,
    상기 이미지 센서의 모서리를 따라 배치되는 제1 접착층에 의해 상호 결합되는 전자 장치.
  8. 제6항에 있어서,
    상기 카메라의 상기 이미지 센서는,
    상기 이미지 센서에서 상기 기판과 마주하는 면에 형성된 솔더 볼(solder ball)에 의해 상기 기판과 전기적으로 연결되는 전자 장치.
  9. 제6항에 있어서,
    상기 카메라의 렌즈 경통은,
    상기 이미지 센서와 멀어질수록 직경이 줄어들게 형성되는 전자 장치.
  10. 제9항에 있어서,
    상기 카메라는 상기 프레임의 제2 영역에 형성된 카메라 홀에 삽입되고,
    상기 카메라 홀은 상기 카메라의 렌즈 경통과 대응되도록 내경이 상기 카메라가 진입되는 방향으로 갈수록 줄어들게 형성되는 전자 장치.
  11. 제6항에 있어서,
    상기 카메라의 상기 보호 글래스와 상기 렌즈 경통은 상기 보호 글래스의 모서리를 따라 배치되는 제2 접착층에 의해 소정 간격으로 이격되어 상호 결합되는 전자 장치.
  12. 머리 장착형 전자 장치에 포함되는 카메라에 있어서,
    기판;
    상기 기판 상에 배치되어 상기 기판과 전기적으로 연결되는 이미지 센서;
    상기 이미지 센서 상에 배치되는 보호 글래스;
    상기 보호 글래스 상에 배치되고 복수의 렌즈가 내장되는 렌즈 경통; 및
    상기 렌즈 경통에 결합되어 상기 렌즈 경통에 포함된 복수의 렌즈를 보호하는 커버 글래스;를 포함하고,
    상기 기판의 면적은 상기 이미지 센서의 면적보다 작거나 같은 카메라.
  13. 제12항에 있어서,
    상기 이미지 센서와 상기 보호 글래스는,
    상기 이미지 센서의 모서리를 따라 배치되는 제1 접착층에 의해 상호 결합되고,
    상기 카메라의 상기 보호 글래스와 상기 렌즈 경통은 상기 보호 글래스의 모서리를 따라 배치되는 제2 접착층에 의해 소정 간격으로 이격되어 상호 결합되는 카메라.
  14. 제12항에 있어서,
    상기 이미지 센서는,
    상기 이미지 센서에서 상기 기판과 마주하는 면에 형성된 솔더 볼(solder ball)에 의해 상기 기판과 전기적으로 연결되는 카메라.
  15. 제12항에 있어서,
    상기 렌즈 경통은,
    상기 이미지 센서와 멀어질수록 직경이 줄어들게 형성되고,
    상기 렌즈 경통에 내장되는 복수의 렌즈는,
    상기 이미지 센서와 멀어질수록 직경이 작은 렌즈로 구성되는 카메라.
PCT/KR2021/020343 2021-01-18 2021-12-31 소형 카메라를 포함하는 웨어러블 전자 장치 WO2022154338A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP21919960.1A EP4215976A4 (en) 2021-01-18 2021-12-31 PORTABLE ELECTRONIC DEVICE WITH MINIATURE CAMERA
CN202180085294.0A CN116635769A (zh) 2021-01-18 2021-12-31 包括微型相机的可穿戴的电子装置
US17/569,883 US20220229298A1 (en) 2021-01-18 2022-01-06 Wearable electronic device including small camera

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210007054A KR20220104576A (ko) 2021-01-18 2021-01-18 소형 카메라를 포함하는 웨어러블 전자 장치
KR10-2021-0007054 2021-01-18

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/569,883 Continuation US20220229298A1 (en) 2021-01-18 2022-01-06 Wearable electronic device including small camera

Publications (1)

Publication Number Publication Date
WO2022154338A1 true WO2022154338A1 (ko) 2022-07-21

Family

ID=82448340

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/020343 WO2022154338A1 (ko) 2021-01-18 2021-12-31 소형 카메라를 포함하는 웨어러블 전자 장치

Country Status (2)

Country Link
KR (1) KR20220104576A (ko)
WO (1) WO2022154338A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100009341A (ko) * 2008-07-18 2010-01-27 삼성전기주식회사 모바일 기기용 카메라모듈
KR20160000328A (ko) * 2014-06-24 2016-01-04 삼성전기주식회사 이미지 센서 모듈 및 이를 포함하는 카메라 모듈
KR20170126171A (ko) * 2016-05-09 2017-11-17 엘지이노텍 주식회사 렌즈 어셈블리 및 이를 포함하는 카메라 모듈
KR20190106900A (ko) * 2019-03-19 2019-09-18 엘지전자 주식회사 전자 디바이스
KR20200098908A (ko) * 2019-02-13 2020-08-21 동우 화인켐 주식회사 가상 이미지 디스플레이 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100009341A (ko) * 2008-07-18 2010-01-27 삼성전기주식회사 모바일 기기용 카메라모듈
KR20160000328A (ko) * 2014-06-24 2016-01-04 삼성전기주식회사 이미지 센서 모듈 및 이를 포함하는 카메라 모듈
KR20170126171A (ko) * 2016-05-09 2017-11-17 엘지이노텍 주식회사 렌즈 어셈블리 및 이를 포함하는 카메라 모듈
KR20200098908A (ko) * 2019-02-13 2020-08-21 동우 화인켐 주식회사 가상 이미지 디스플레이 장치
KR20190106900A (ko) * 2019-03-19 2019-09-18 엘지전자 주식회사 전자 디바이스

Also Published As

Publication number Publication date
KR20220104576A (ko) 2022-07-26

Similar Documents

Publication Publication Date Title
EP4215976A1 (en) Wearable electronic device including miniature camera
WO2022055118A1 (ko) 스피커 모듈을 포함하는 웨어러블 전자 장치
WO2022145956A1 (ko) 방열 구조를 포함하는 전자 장치
WO2022154623A1 (ko) 메타렌즈를 구비하는 카메라 및 그를 포함하는 전자 장치
WO2022169255A1 (ko) 전자 장치 및 그의 사용자 시선을 추적하고 증강 현실 서비스를 제공하는 방법
WO2022119105A1 (ko) 발광부를 포함하는 웨어러블 전자 장치
WO2022108150A1 (ko) 빛 간섭이 방지되는 증강 현실 웨어러블 전자 장치
WO2022177334A1 (ko) 웨어러블 전자 장치
WO2022186454A1 (ko) 가요성 인쇄 회로 기판을 포함하는 전자 장치
WO2022154338A1 (ko) 소형 카메라를 포함하는 웨어러블 전자 장치
WO2023063533A1 (ko) 센서 모듈을 포함하는 웨어러블 전자 장치
WO2022114535A1 (ko) 카메라를 포함하는 증강 현실 웨어러블 전자 장치
WO2022139139A1 (ko) 웨어러블 전자 장치와 케이스
WO2023128193A1 (ko) 접속 부재를 포함하는 전자 장치
WO2023027276A1 (ko) 스타일러스 펜을 이용하여 복수의 기능들을 실행하기 위한 전자 장치 및 그 작동 방법
WO2023038228A1 (ko) 안테나 구조를 포함하는 전자 장치
WO2022177209A1 (ko) 시선 추적 방법 및 전자 장치
WO2022225251A1 (ko) 스피커 모듈의 실장 구조 및 이를 포함하는 전자 장치
WO2023128622A1 (ko) 웨어러블 전자 장치
WO2023038184A1 (ko) 플렉서블 회로 기판을 포함하는 안경형 전자 장치
WO2024049110A1 (ko) 실 객체에 대한 깊이 정보를 이용하여 가상 객체를 보정하는 전자 장치 및 그 제어 방법
WO2022145704A1 (ko) 가요성 인쇄 회로 기판 및 가요성 인쇄 회로 기판을 포함하는 전자 장치
WO2022220430A1 (ko) 회로 기판과 결합된 쉴딩 부재 및 이를 포함하는 전자 장치
WO2022216100A1 (ko) 전자 장치 케이스
WO2022145647A1 (ko) 스피커를 포함하는 전자 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21919960

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021919960

Country of ref document: EP

Effective date: 20230418

WWE Wipo information: entry into national phase

Ref document number: 202337039786

Country of ref document: IN

WWE Wipo information: entry into national phase

Ref document number: 202180085294.0

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE