WO2018159989A1 - 전자 장치 및 전자 장치 제어 방법 - Google Patents

전자 장치 및 전자 장치 제어 방법 Download PDF

Info

Publication number
WO2018159989A1
WO2018159989A1 PCT/KR2018/002427 KR2018002427W WO2018159989A1 WO 2018159989 A1 WO2018159989 A1 WO 2018159989A1 KR 2018002427 W KR2018002427 W KR 2018002427W WO 2018159989 A1 WO2018159989 A1 WO 2018159989A1
Authority
WO
WIPO (PCT)
Prior art keywords
electronic device
image
straight lines
memory
processor
Prior art date
Application number
PCT/KR2018/002427
Other languages
English (en)
French (fr)
Inventor
신상민
김강혁
김용욱
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US16/482,357 priority Critical patent/US11170231B2/en
Publication of WO2018159989A1 publication Critical patent/WO2018159989A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/167—Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/90—Dynamic range modification of images or parts thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/12—Edge-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/13—Edge detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/168—Segmentation; Edge detection involving transform domain methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20048—Transform domain processing
    • G06T2207/20061—Hough transform
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256—Lane; Road marking

Definitions

  • Various embodiments of the present disclosure relate to an operating method and an apparatus for performing an operation of detecting a lane in which a transportation device is driving using an electronic device.
  • the driving assistance system has been installed in the transportation device to help the driver's judgment and improve the driver's ability to deal with accidents.
  • transport devices equipped with a camera module mounted on the transport device to detect a lane in which the transport device is driving, and to control the driving of the transport device or to notify the driver when the transport device leaves the lane.
  • the smartphone When performing a function of detecting a lane using an electronic device equipped with a camera module such as a smartphone, the smartphone is detected according to the position in which the smartphone is mounted in the transportation device and the direction in which the camera module included in the smartphone is facing. It may happen that one lane does not coincide with the lane on which the transport device is driving.
  • a method for accurately detecting the driving lane of the transport device and the same A supporting electronic device may be provided.
  • An electronic device includes a camera module, at least one or more processors electrically connected to the camera module, and a memory electrically connected to the processor, wherein the memory is configured to operate when the electronic device operates.
  • the processor generates instructions using the camera module, calculates angles formed by the plurality of straight lines and the virtual horizontal line included in the image, and selects two straight lines based on the calculated angles. Can be stored.
  • An electronic device control method may include generating an image using a camera module, detecting a plurality of straight lines included in the generated image, and calculating angles formed by the plurality of straight lines and an imaginary horizontal line. And selecting two straight lines based on the calculated angles.
  • a plurality of straight lines included in an image generated by using a camera module are detected, and angles formed by the plurality of straight lines and a virtual horizontal line are calculated so that a difference in absolute values among the calculated angles may be obtained.
  • the two angles are calculated in order of being less than a predetermined value and the magnitude of the absolute value is increased, and the two horizontal lines and the two straight lines forming the two angles are selected to select a plane including two straight lines as a lane.
  • the electronic device may detect a lane in which the transportation device is traveling even if the direction of the camera module and the driving direction of the transportation device are shifted.
  • FIG. 1A is a diagram for describing a situation in which data about a situation around a vehicle is collected and reflected in driving a vehicle by using various sensors included in a transport apparatus.
  • FIG. 1B is a diagram of detecting a driving lane based on an image input through a camera module, which is one of functions included in a driving assistance system, according to an embodiment.
  • 1C is a diagram for describing a case where a direction in which a camera module of an electronic device faces and a driving direction of a transport device do not match.
  • FIG. 1D is a diagram for describing a situation in which a transport device equipped with an electronic device detects a driving lane by analyzing an input image of the electronic device according to an embodiment.
  • FIG. 2 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 3 is a diagram for describing a situation of detecting a linear component in an input image by an electronic device according to an embodiment.
  • FIG. 4 is a diagram for describing a situation in which an area for detecting a vehicle is changed after detecting a lane in which a transport device is driving in an image in which an electronic device is input, according to an exemplary embodiment.
  • FIG. 5 is a flowchart illustrating a process of detecting a lane from an input image by an electronic device according to an exemplary embodiment.
  • FIG. 6 is a diagram illustrating an electronic device in a network environment according to various embodiments of the present disclosure.
  • FIG. 7 is a block diagram of a program module according to various embodiments of the present disclosure.
  • the expression “device configured to” may mean that the device “can” together with other devices or components.
  • processor configured (or configured to) perform A, B, and C may be implemented by executing a dedicated processor (eg, an embedded processor) to perform its operation, or one or more software programs stored in a memory device. It may mean a general purpose processor (eg, a CPU or an application processor) capable of performing the corresponding operations.
  • An electronic device may be, for example, a smartphone, a tablet PC, a mobile phone, a video phone, an e-book reader, a desktop PC, a laptop PC, a netbook computer, a workstation, a server, a PDA, a PMP. It may include at least one of a portable multimedia player, an MP3 player, a medical device, a camera, or a wearable device. Wearable devices may be accessory (e.g. watches, rings, bracelets, anklets, necklaces, eyeglasses, contact lenses, or head-mounted-devices (HMDs), textiles or clothing integrated (e.g.
  • HMDs head-mounted-devices
  • an electronic device may comprise, for example, a television, a digital video disk (DVD) player, Audio, set-top box, home automation control panel, security control panel, media box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ), game console (e.g. Xbox TM , PlayStation TM ), electronic dictionary, It may include at least one of an electronic key, a camcorder, or an electronic picture frame.
  • DVD digital video disk
  • Audio Audio
  • set-top box e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM
  • game console e.g. Xbox TM , PlayStation TM
  • electronic dictionary e.g. Xbox TM , PlayStation TM
  • It may include at least one of an electronic key, a camcorder, or an electronic picture frame.
  • the electronic device may comprise a navigation device, a global navigation satellite system (GNSS), an event data recorder (EDR), a flight data recorder (FDR), an automotive infotainment device, a marine electronic equipment (e.g., for ships). Navigation devices, gyro compasses, etc.), avionics, security devices, vehicle head units, industrial or household robots, drones, or Internet of Things devices.
  • the electronic device may be flexible or a combination of two or more of the aforementioned various devices.
  • Electronic devices according to embodiments of the present disclosure are not limited to the above-described devices.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • FIGS. 1A and 1A are diagrams for explaining a situation in which data about a situation around a vehicle is collected and reflected in a vehicle driving by using various sensors included in a transport apparatus.
  • the transportation device 10 may provide safety and convenience to a driver or a passenger driving the transportation device 10 using various sensors.
  • the transportation device 10 controls the driving of the transportation device 10 based on information collected from various sensors using a processor included in the transportation device 10 or electrically connected to the transportation device 10, or the transportation device (
  • the driving guide information may be displayed to the user using at least one display or notification sensor included in 10).
  • a driving assistance system eg, an advanced driver assistance system (ADAS)
  • Sensors for the driving assistance system may vary depending on their role in the transportation device 10, but technically, they are roughly classified into radio detection and ranging (RADAR) and laser (light amplification by the stimulated of radiation). ), An ultrasonic wave, a camera module, an acceleration / angular velocity / steering angle sensor, and the like.
  • RADAR radio detection and ranging
  • laser light amplification by the stimulated of radiation
  • the radar sensor 20 may acquire driving information such as distance, height, direction, and speed by analyzing a signal reflected after radiating electromagnetic waves toward an object, for example.
  • the transportation device 10 may perform functions such as automatic driving control, front / rear collision warning, blind spot detection, automatic emergency braking using the radar sensor 20.
  • the radar sensor 20 may maintain a sensing capability irrespective of a driving environment (eg, rain driving, night driving, etc.), and may recognize the object at a distance of about 200m, for example.
  • a driving environment eg, rain driving, night driving, etc.
  • Laser sensors can emit photons, particles of light, at a narrow band of frequencies.
  • the laser sensor may obtain ambient information by splitting light reflected from an object after emitting ultraviolet or infrared rays.
  • the laser sensor can maintain the sensing capability even at night, but has a shorter recognition distance.
  • the ultrasonic sensor 30 may calculate a distance from the object by measuring a time for returning the reflected sound back to the object after emitting sound waves having a high frequency (for example, 20 kHz). Sound waves may not be faster than light, and thus may be mainly used when the transportation device 10 is stopped or when the distance measurement with the surrounding object is performed when moving at a low speed.
  • a high frequency for example, 20 kHz
  • the camera module 40 has a difference in resolution and precision of the captured image according to the shooting environment, but has an advantage of recognizing the shape of the object. Therefore, the camera module 40 may be used for functions such as lane detection, collision prevention, and high beam control in the transportation device 10.
  • the above-described sensors may be sensors that primarily recognize the surrounding environment outside the transport apparatus 10.
  • a sensor for detecting the movement state of the transportation device 10 itself is also important. Only when the movement state of the transport device 10 itself is sensed, the transport device 10 may be capable of braking, steering, and the like based on the results detected by the sensors.
  • the sensor 50 for grasping the movement state of the transportation device may include, for example, an acceleration sensor, an angular velocity sensor, a steering angle sensor, and the like.
  • Accelerometers can instantly detect dynamic forces such as acceleration, vibration, and impact on an object.
  • the acceleration sensor can detect shaking, direction, and the like of the object. Therefore, when the acceleration sensor is used, the transport apparatus 10 may detect movement between specific points, and when the angular velocity sensor is used, the rotation of the transport apparatus 10 may also be sensed.
  • the steering angle sensor may acquire an angle of the steering wheel included in the transport apparatus 10.
  • the transport apparatus 10 may be utilized for driving posture control, airbag operation, etc. using the above-described motion state-related sensors.
  • FIG. 1A (b) shows the driver's view of the inside of the transportation device 10 when the driver drives the transportation device 10.
  • the driver can, for example, view the situation outside the transportation device 10 through the glass provided in front of the transportation device 10, and simultaneously view the steering wheel, cluster screen, and other operation devices for driving.
  • the transportation device 10 may display the driving guide information generated using the above-described various sensors on the display 12.
  • the transportation device 10 includes a head up display (HUD)
  • the driving guide information may be displayed on the HUD.
  • HUD head up display
  • the transport apparatus 10 may check the presence of a driving lane and the presence of other vehicles located in the driving lane using the image input through the camera module 40, and display it on the display 10 if necessary. Therefore, the driver may drive while viewing the driving guide information generated by the transportation device 10.
  • the transport apparatus 10 may control the driving of the transport apparatus 10 by using the driving related information generated using various sensors.
  • the transportation device 10 may reduce the speed of the transportation device 10 based on the distance to the vehicle ahead, and generate a notification when the transportation device 10 leaves the driving lane without a separate signal. You can print
  • FIG. 1B is a diagram of detecting a driving lane based on an image input through a camera module (eg, the camera module 40 of FIG. 1A), which is one of functions included in a driving assistance system, according to an exemplary embodiment. to be.
  • a camera module eg, the camera module 40 of FIG. 1A
  • FIG. 1B is a diagram of detecting a driving lane based on an image input through a camera module (eg, the camera module 40 of FIG. 1A), which is one of functions included in a driving assistance system, according to an exemplary embodiment. to be.
  • the transportation device 10 is based on an image input through a camera module (eg, the camera module 40 of FIG. 1A) included in the transportation device 10.
  • a camera module eg, the camera module 40 of FIG. 1A
  • the transportation device 10 includes a reference vanishing point 61, a straight line 62 corresponding to the left lane, a straight line 63 corresponding to the right lane, a vehicle bonnet 64, an effective lane width range 66,
  • the vehicle and the lane detection area 65 can be set in advance.
  • the transport apparatus 10 may perform lane detection on a preset vehicle and lane detection area 65 on an image input through a camera module (eg, the camera module 40 of FIG. 1A). .
  • the transport apparatus 10 may receive a preset frame (eg, 300 frames) and detect an edge region from the received image.
  • the transportation device 10 detects an edge in an area adjacent to a predetermined reference vanishing point 61, a straight line 62 corresponding to the left lane, a straight line 63 corresponding to the right lane, the vehicle bonnet 64, and the like.
  • the position of the vanishing point 61, the straight line 62 corresponding to the left lane, the straight line 63 corresponding to the right lane, and the vehicle bonnet 64 can be corrected.
  • the transportation device 10 includes the changed reference vanishing point 71, the straight line 72 corresponding to the left lane, the straight line 73 corresponding to the right lane, and the position of the vehicle bonnet 74.
  • the lane and vehicle detection area 75, the effective lane width range 76, and the like may be changed based on the.
  • the transport apparatus 10 may detect a lane in motion by using a camera module (for example, the camera module 40 of FIG. 1A) mounted on the transport apparatus 10, and use the same in a driving assistance system.
  • the transport apparatus 10 may detect a lane in motion by using a separate electronic device.
  • a user passes an electronic device 100 such as a smart phone to a transport device 10, and an image generated by a camera module (not shown) included in the electronic device 100. Based on this, lanes can be detected and used for driving assistance systems.
  • the electronic device 100 may detect a lane based on an execution of an application that performs a driving assistance system function.
  • the electronic device 100 and the transportation device 10 may communicate using a wired or wireless communication method.
  • the wireless communication may be, for example, LTE, LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), universal mobile telecommunications system (UMTS), wireless broadband (WiBro), or global network (GSM).
  • LTE Long Term Evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS universal mobile telecommunications system
  • WiBro wireless broadband
  • GSM global network
  • the wireless communication may include, for example, wireless fidelity (WiFi), Bluetooth, Bluetooth Low Power (BLE), Zigbee, near field communication (NFC), Magnetic Secure Transmission, and radio. It may include at least one of a frequency (RF) or a body area network (BAN).
  • RF frequency
  • BAN body area network
  • the wireless communication may include GNSS.
  • the GNSS may be, for example, a Global Positioning System (GPS), a Global Navigation Satellite System (Glonass), a Beidou Navigation Satellite System (hereinafter referred to as "Beidou”), or a Galileo, the European global satellite-based navigation system.
  • GPS Global Positioning System
  • Glonass Global Navigation Satellite System
  • Beidou Beidou Navigation Satellite System
  • Galileo the European global satellite-based navigation system
  • Wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a standard standard232 (RS-232), a power line communication, a plain old telephone service (POTS), and the like.
  • the network may include at least one of a telecommunications network, for example, a computer network (eg, LAN or WAN), the Internet, or a telephone network.
  • the electronic device 100 when the user mounts the electronic device 100 on the transport device 10, the electronic device 100 may not be located at the center of the transport device 10. .
  • the direction A in which the transportation device 10 travels may not coincide with the direction B in which the camera module included in the electronic device 100 faces.
  • the lane detected by the electronic device 100 may not be the lane in which the transportation device 10 is driving.
  • FIG. 1C (b) outputs an image acquired through a camera module included in the electronic device 100 to a display of the electronic device 100 or wired or wirelessly to a display (not shown) included in the transportation device 10.
  • the image being output through the communication is shown.
  • the electronic device 100 may detect a lane in which the transportation device 10 is traveling by using the same or similar method as described above with reference to FIG. 1B. For example, the electronic device 100 may detect the first lane 78 and the second lane 79 from the input image.
  • the electronic device 100 may recognize the second lane 79 located in the center of the image among the detected lanes as the lane in which the transportation device 10 is driving. Therefore, the electronic device 100 needs to change a criterion for selecting the lane on which the transportation device 10 equipped with the electronic device 100 is currently driving among the detected lanes.
  • FIG. 1D is a diagram for describing a situation in which the transport apparatus 10 on which the electronic device 100 is mounted detects a driving lane by analyzing an input image by the electronic device 100, according to an exemplary embodiment.
  • the electronic device 100 may convert an input image into an image that emphasizes an edge component.
  • a detailed process of converting an input image into an image highlighting an edge will be described later with reference to FIG. 3.
  • the electronic device 100 may include straight lines 81, 82, and 83 that are detected in a preset vehicle and lane detection area (eg, the vehicle and lane detection area 65 of FIG. 1B). 85) can be calculated.
  • the electronic device 100 may calculate a first angle 91 formed by the first straight line 81 and the virtual horizontal line 85.
  • the electronic device 100 calculates a second angle 92 formed by the second straight line 82 and the imaginary horizontal line 85, and further includes a third straight line 83 and the imaginary horizontal line 85.
  • the third angle 93 may be calculated.
  • the electronic device 100 may select two straight lines based on the calculated angles.
  • the electronic device 100 extracts two angles in the order in which the absolute values are smaller than or equal to a preset value among the calculated angles 91, 92, and 93, and the magnitudes of the absolute values are increased, and the virtual values are virtual. You can select two straight lines that form a horizontal line and two extracted angles.
  • the electronic device 100 may determine the first order of the first angle 91, the second angle 92, and the third angle 93 in the order in which the absolute value is less than or equal to a preset value and the magnitude of the absolute value is large.
  • the angle 91 and the second angle 92 may be extracted.
  • the electronic device 100 may select the first straight line 81 and the second straight line 82 that form the virtual horizontal line 85, the first angle 91, and the second angle 92.
  • the difference between the absolute values and the preset value may mean, for example, that the difference between the absolute values is about 5 degrees to about 10 degrees. However, it is not limited thereto.
  • the electronic device 100 may select a lane 95 including two selected straight lines as a lane in which the transportation device 10 on which the electronic device 100 is mounted is driving. Can be.
  • the electronic device 100 may establish communication with the transportation device 10 by using wired or wireless communication, and provide some of the functions of the driving assistance system.
  • the electronic device 100 detects a lane in which the transport device 10 travels even if the direction of the camera module included in the electronic device 100 does not match the driving direction of the transport device 10. can do.
  • the electronic device 100 may include one or more processors (eg, an AP) 210, a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, an input device 250, and a display. 260, an interface 270, an audio module 280, a camera module 291, a power management module 295, a battery 296, an indicator 297, and a motor 298.
  • the 210 may control a plurality of hardware or software components connected to the processor 210 by running an operating system or an application program, and may perform various data processing and operations.
  • the processor 210 may further include a graphic processing unit (GPU) and / or an image signal processor. 210 may include at least some of the components shown in FIG. 2 (eg, cellular module 221). The processor 210 other components: processing by loading the command or data received from at least one (e.g., non-volatile memory) in the volatile memory) and can store the result data into the nonvolatile memory.
  • a graphic processing unit GPU
  • an image signal processor may include at least some of the components shown in FIG. 2 (eg, cellular module 221).
  • the processor 210 other components: processing by loading the command or data received from at least one (e.g., non-volatile memory) in the volatile memory) and can store the result data into the nonvolatile memory.
  • the communication module 220 may include, for example, a cellular module 221, a WiFi module 223, a Bluetooth module 225, a GNSS module 227, an NFC module 228, and an RF module 229. have.
  • the cellular module 221 may provide, for example, a voice call, a video call, a text service, or an internet service through a communication network.
  • the cellular module 221 may perform identification and authentication of the electronic device 100 in the communication network using the subscriber identification module (eg, the SIM card) 224.
  • the cellular module 221 may perform at least some of the functions that the processor 210 may provide.
  • the cellular module 221 may include a communication processor (CP).
  • CP communication processor
  • the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may be one integrated chip. (IC) or in an IC package.
  • the RF module 229 may transmit / receive a communication signal (for example, an RF signal), for example.
  • the RF module 229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • At least one of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may transmit and receive an RF signal through a separate RF module.
  • Subscriber identification module 224 may include, for example, a card or embedded SIM that includes a subscriber identification module, and may include unique identification information (eg, integrated circuit card identifier (ICCID)) or subscriber information (eg, IMSI). (international mobile subscriber identity)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 230 may include, for example, an internal memory 232 or an external memory 234.
  • the internal memory 232 may include, for example, volatile memory (for example, DRAM, SRAM, or SDRAM), nonvolatile memory (for example, one time programmable ROM (OTPROM), PROM, EPROM, EEPROM, mask ROM, flash ROM).
  • the flash memory may include at least one of a flash memory, a hard drive, or a solid state drive (SSD)
  • the external memory 234 may be a flash drive, for example, a compact flash (CF) or a secure digital (SD). ), Micro-SD, Mini-SD, extreme digital (xD), multi-media card (MMC), memory stick, etc.
  • the external memory 234 may be functionally connected to the electronic device 100 through various interfaces. Or physically connected.
  • the sensor module 240 may measure, for example, a physical quantity or detect an operation state of the electronic device 100, and convert the measured or detected information into an electrical signal.
  • the sensor module 240 includes, for example, a gesture sensor 240A, a gyro sensor 240B, an air pressure sensor 240C, a magnetic sensor 240D, an acceleration sensor 240E, a grip sensor 240F, and a proximity sensor ( 240G), color sensor 240H (e.g., red (green, blue) sensor), biometric sensor 240I, temperature / humidity sensor 240J, illuminance sensor 240K, or UV (ultra violet) ) May include at least one of the sensors 240M.
  • sensor module 240 may include, for example, an e-nose sensor, an electromyography (EMG) sensor, an electrocardiogram (EEG) sensor, an electrocardiogram (ECG) sensor, Infrared (IR) sensors, iris sensors and / or fingerprint sensors.
  • the sensor module 240 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 100 further includes a processor configured to control the sensor module 240 as part of or separately from the processor 210, while the processor 210 is in a sleep state. The sensor module 240 may be controlled.
  • the input device 250 may include, for example, a touch panel 252, a (digital) pen sensor 254, a key 256, or an ultrasonic input device 258.
  • the touch panel 252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 252 may further include a control circuit.
  • the touch panel 252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate recognition sheet.
  • the key 256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 258 may detect ultrasonic waves generated by an input tool through a microphone (for example, the microphone 288) and check data corresponding to the detected ultrasonic waves.
  • Display 260 may include panel 262, hologram device 264, projector 266, and / or control circuitry to control them.
  • the panel 262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 262 may be configured with the touch panel 252 and one or more modules.
  • panel 262 may include a pressure sensor (or force sensor) capable of measuring the strength of the pressure on the user's touch.
  • the pressure sensor may be integrally implemented with the touch panel 252 or one or more sensors separate from the touch panel 252.
  • the hologram 264 may show a stereoscopic image in the air by using interference of light.
  • the projector 266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 100.
  • the interface 270 may include, for example, an HDMI 272, a USB 274, an optical interface 276, or a D-subminiature 278.
  • the interface 270 may be included in, for example, the communication interface 170 illustrated in FIG. 1. Additionally or alternatively, interface 270 may include, for example, a mobile high-definition link (MHL) interface, an SD card / multi-media card (MMC) interface, or an infrared data association (IrDA) compliant interface.
  • MHL mobile high-definition link
  • MMC multi-media card
  • IrDA infrared data association
  • the audio module 280 may bidirectionally convert, for example, a sound and an electrical signal.
  • the audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, a microphone 288, or the like.
  • the camera module 291 is, for example, a device capable of capturing still images and moving images. According to one embodiment, the camera module 291 is one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp, etc.).
  • the power management module 295 may manage power of the electronic device 100, for example.
  • the power management module 295 may include a power management integrated circuit (PMIC), a charger IC, or a battery or fuel gauge.
  • PMIC power management integrated circuit
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 296, the voltage, the current, or the temperature during charging.
  • the battery 296 may include, for example, a rechargeable cell and / or a solar cell.
  • the indicator 297 may display a specific state of the electronic device 100 or a part thereof (for example, the processor 210), for example, a booting state, a message state, or a charging state.
  • the motor 298 may convert electrical signals into mechanical vibrations, and may generate vibrations or haptic effects.
  • the electronic device 100 may be, for example, a mobile TV supporting device capable of processing media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFlo TM . : GPU).
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • mediaFlo TM . : GPU mediaFlo TM .
  • Each of the components described in this document may be composed of one or more components, and the names of the corresponding components may vary depending on the type of electronic device.
  • the electronic device eg, the electronic device 100
  • FIG. 3 is a diagram for describing a situation in which an electronic device changes an input image to an image emphasizing an edge in order to detect a linear component in an input image, according to an exemplary embodiment.
  • the electronic device 100 may include a camera included in the electronic device 100 to detect a lane in which a transportation device (eg, the transportation device 10 of FIG. 1A) on which the electronic device 100 is mounted operates. An image input through a module (not shown) may be analyzed.
  • a transportation device eg, the transportation device 10 of FIG. 1A
  • An image input through a module may be analyzed.
  • the electronic device 100 may perform gray scale on an image input through a camera module.
  • the gray scale may mean, for example, converting the generated color image into an image having 10 levels of brightness from white to black. That is, the electronic device 100 may change the color image into an image having no brightness and no brightness information.
  • the electronic device 100 may detect an edge by using a sobel operation that is highly efficient for detecting edges in a diagonal direction in order to extract a lane from an image.
  • a sobel operation that is highly efficient for detecting edges in a diagonal direction in order to extract a lane from an image.
  • the electronic device 100 may use a method of obtaining an inclination in an image and a method of using a mask as a detection method using a partial differential operator calculation.
  • the electronic device 100 may perform binarization on an edge component extracted by a Sobel operation to remove noise included in an image.
  • the binarization operation may be, for example, an operation of making a pixel value of an image 0 or 255, and dividing a property of a pixel into two groups, a background and an object.
  • the electronic device 100 may obtain information (eg, location, size, shape, etc.) of a desired object in the image by using a binarization operation.
  • the electronic device 100 may perform a hough transform on the image from which the noise is removed to find a straight line for detecting a lane.
  • the Hough transform is characterized by finding the boundary of an object even without prior knowledge of the objects included in the image. Accordingly, as shown in FIG. 3C, the electronic device 100 may sum pixel values of a plurality of straight line candidates existing in an image by using a Hough transform to detect a maximum value among them and detect one straight line. .
  • the algorithm used in the above-described image conversion is only an embodiment and may be replaced with another algorithm according to the characteristics of the image and the characteristics of the processor.
  • the electronic device 100 may perform the above process on a plurality of image frames constituting an image generated by being input through the camera module. For example, when the camera module of the electronic device 100 generates an image of 30 frames per second, the image processing process may be performed for each of the 30 frames generated. However, it is not limited thereto.
  • the electronic device 100 may acquire an image as shown in FIG. 1D and obtain an angle formed by the detected linear component and a virtual horizontal line (for example, the horizontal line 85 in FIG. 1D). have.
  • FIG. 4 is a diagram for describing a situation in which an area for detecting a vehicle is changed after detecting a lane in which a transport device is driving in an image input by an electronic device according to an embodiment.
  • the electronic device 100 may set an object detection area 410 for detecting a preceding vehicle in the center of an input image.
  • the area for detecting the object may be displayed, for example, in the center of the input image.
  • the electronic device 100 may detect the presence or absence of the vehicle by analyzing an image of the object detecting region 410 for detecting the front vehicle.
  • the object detecting region 410 for detecting the front vehicle may have a rectangular shape, for example.
  • the electronic device 100 may detect the presence or absence of a vehicle and transmit the same to a transport device (eg, the transport device 10 of FIG. 1A), and the transport device (eg, the transport device 10 of FIG. 1A). ) May control the driving of the transportation device (eg, the transportation device 10 of FIG. 1A) by generating a distance to the front vehicle detected by using the radar sensor described above with reference to FIG. 1A or generate a notification to the user. .
  • a transport device eg, the transport device 10 of FIG. 1A
  • the transport device
  • the electronic device 100 detects the vehicle ahead of the vehicle in the center on the assumption that the moving direction of the transportation device (for example, the transportation device 10 of FIG. 1A) and the camera module included in the electronic device 100 are the same.
  • the object detection area 410 may be set. However, as shown in (a) of FIG. 1C, the direction in which the camera module included in the electronic device 100 faces and the driving direction of the transportation device (eg, the transportation device 10 of FIG. 1A) that passes through the electronic device 100 coincide with each other. If not, the area 410 for detecting the vehicle ahead and the lane in which the transportation device (for example, the transportation device 10 of FIG. 1A) travel may not match.
  • the electronic device 100 is driven by a transportation device (eg, the transportation device 10 of FIG. 1A) equipped with the electronic device 100 by using the method described above with reference to FIG. 1D. Detected lanes can be detected.
  • a transportation device eg, the transportation device 10 of FIG. 1A
  • the electronic device 100 may include a center of a lower end of the first straight line 421 and the second straight line 422, which are determined to be lanes in which the transportation device (eg, the transportation device 10 of FIG. 1A) is traveling.
  • the point may be set as the magnetic lane reference point 430.
  • the electronic device 100 may drive a surface 423 including the first straight line 421 and the second straight line 422 in which the transport device (eg, the transport device 10 of FIG. 1A) travels. You may select the lane.
  • the electronic device 100 may set a center point 430 of a lane on which the transport device 10 travels.
  • the electronic device 100 sets a vertical line 431 passing through the center point 430, and bisects the object detection area 410 by the vertical line 431, and the lower edge 411 of the object detection area 410. 412 may be set to contact the first straight line 421 and the second straight line 422, respectively.
  • the present disclosure is not limited thereto, and the electronic device 100 may generate object detection regions 410 having various shapes and sizes.
  • the electronic device 100 may set the location of the object detection area 410 that has not been determined yet using the above-described method. It may be.
  • the electronic device 100 may detect a transport device appearing in a driving lane with high accuracy even if the direction in which the camera module is facing does not match the travel direction of the transport device (for example, the transport device 10 of FIG. 1A). Can be. In addition, the electronic device 100 may reduce the detection time by detecting the object only for a part of the image.
  • FIG. 5 is a flowchart illustrating a process of detecting a lane from an input image by an electronic device according to an exemplary embodiment.
  • the electronic device 100 may generate an image input through a camera module.
  • the electronic device 100 may include a camera module, and establish a communication relationship with a separate camera module to receive data related to an image from the camera module.
  • the electronic device 100 may detect a linear component included in the generated image.
  • the electronic device 100 may detect the linear component by using various image processing methods.
  • the electronic device may detect a linear component by performing image processing such as a gray scale operation, a Sobel operation, a binarization operation, a Hough transform operation, etc. on the input image.
  • image processing such as a gray scale operation, a Sobel operation, a binarization operation, a Hough transform operation, etc.
  • the operation performed by the electronic device 100 to detect the linear components is not limited thereto, and various methods may be used according to the characteristics of the image and the characteristics of the electronic device.
  • the electronic device 100 may detect a plurality of linear components in the entire generated image, and detect the linear components only in a predetermined area.
  • the electronic device 100 may calculate angles formed by the detected plurality of linear components and an imaginary horizontal line, and select two straight lines based on the calculated angles. For example, the electronic device 100 selects two angles in the order in which the absolute value of the calculated angles is equal to or less than a preset value and the magnitudes of the absolute values are larger, and the above-described virtual horizontal line and the two angles. Two straight lines can be selected. The electronic device 100 may select a lane including two selected straight lines as a driving lane of the transportation device via the electronic device 100.
  • the electronic device 2101 may include the electronic device 100 of FIG. 2.
  • the electronic device 2101 may include a bus 2110, a processor 2120, a memory 2130, an input / output interface 2150, a display 2160, and a communication interface 2170.
  • the electronic device 2101 may omit at least one of the components or additionally include other components.
  • the bus 2110 may include circuitry that connects the components 2110-2170 to each other and transfers communication (eg, control messages or data) between the components.
  • the processor 2120 may include one or more of a central processing unit, an application processor, or a communication processor (CP).
  • the processor 2120 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 2101.
  • the memory 2130 may include volatile and / or nonvolatile memory.
  • the memory 2130 may store, for example, commands or data related to at least one other component of the electronic device 2101.
  • the memory 2130 may store software and / or a program 2140.
  • the program 2140 may include, for example, a kernel 2141, middleware 2143, an application programming interface (API) 2145, an application program (or “application”) 2147, or the like.
  • API application programming interface
  • At least a portion of kernel 2141, middleware 2143, or API 2145 may be referred to as an operating system.
  • the kernel 2141 may be a system resource (e.g., used to execute an action or function implemented in, for example, other programs (e.g., middleware 2143, API 2145, or application program 2147).
  • the bus 2110, the processor 2120, or the memory 2130 may be controlled or managed.
  • the kernel 2141 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 2101 from the middleware 2143, the API 2145, or the application program 2147. Can be.
  • the middleware 2143 may serve as an intermediary for allowing the API 2145 or the application program 2147 to communicate with the kernel 2141 to exchange data. Also, the middleware 2143 may process one or more work requests received from the application program 2147 according to priority. For example, the middleware 2143 may use system resources (eg, the bus 2110, the processor 2120, or the memory 2130, etc.) of the electronic device 2101 for at least one of the application programs 2147. Prioritize and process the one or more work requests.
  • the API 2145 is an interface for the application 2147 to control functions provided by the kernel 2141 or the middleware 2143.
  • the API 2145 may include at least a file control, window control, image processing, or character control. It can contain one interface or function (eg command).
  • the input / output interface 2150 may transfer, for example, a command or data input from a user or another external device to other component (s) of the electronic device 2101, or another component of the electronic device 2101 ( Commands or data received from the device) can be output to the user or other external device.
  • the display 2160 may be, for example, a liquid crystal display (LCD), a light emitting diode (LED) display, an organic light emitting diode (OLED) display, or a microelectromechanical system (MEMS) display, or an electronic paper display. It may include.
  • the display 2160 may display, for example, various types of content (eg, text, images, videos, icons, and / or symbols, etc.) to the user.
  • the display 2160 may include a touch screen.
  • the display 2160 may receive a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the communication interface 2170 may, for example, establish communication between the electronic device 2101 and an external device (eg, the first external electronic device 2102, the second external electronic device 2104, or the server 2106). Can be.
  • the communication interface 2170 may be connected to the network 2162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 2104 or the server 2106).
  • Each of the first and second external electronic devices 2102 and 2104 may be the same or different type of device as the electronic device 2101.
  • all or part of operations executed in the electronic device 2101 may be executed in another or a plurality of electronic devices (for example, the electronic devices 2102 and 2104 or the server 2106).
  • the electronic device 2101 may at least be associated with or instead of executing the function or service by itself.
  • Some functions may be requested from other devices, such as the electronic devices 2102 and 2104, or the server 2106.
  • Other electronic devices (such as the electronic devices 2102 and 2104 or the server 2106) may be requested.
  • a function or an additional function may be executed and the result may be transmitted to the electronic device 2101.
  • the electronic device 2101 may provide the requested function or service by processing the received result as it is or additionally.
  • cloud computing, distributed computing or client-server computing techniques can be used.
  • the program module 2310 may be an operating system and / or operating system that controls resources related to the electronic device (eg, the electronic device 100 and the electronic device 2101). It may include a variety of applications (eg, an application program 2147) running on the.
  • the operating system may include, for example, Android TM , iOS TM , Windows TM , Symbian TM , Tizen TM , or Bada TM .
  • the program module 2310 may include a kernel 2320 (eg, kernel 2141), middleware 2330 (eg, middleware 2143), and an API 2360 (eg, API 2145).
  • At least a portion of the program module 2310 may be preloaded on an electronic device, or may be an external electronic device (eg, an electronic device (eg, 2102, 2104, server 2106, and the like.
  • the kernel 2320 may include, for example, a system resource manager 2321 and / or a device driver 2323.
  • the system resource manager 2321 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 2321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 2323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver.
  • the middleware 2330 may provide various functions through, for example, the API 2360 to provide functions commonly required by the application 2370 or to allow the application 2370 to use limited system resources inside the electronic device.
  • the middleware 2330 may include a runtime library 2335, an application manager 2341, a window manager 2234, a multimedia manager 2343, a resource manager 2344, a power manager 2345, and a database manager ( 2346, a package manager 2347, a connection manager 2348, a notification manager 2349, a location manager 2350, a graphic manager 2351, or a security manager 2352.
  • the runtime library 2335 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 2370 is running.
  • the runtime library 2335 may perform input / output management, memory management, or arithmetic function processing.
  • the application manager 2341 may manage, for example, the life cycle of the application 2370.
  • the window manager 2342 may manage GUI resources used on the screen.
  • the multimedia manager 2343 may identify a format necessary for playing the media files, and may encode or decode the media file using a codec suitable for the format.
  • the resource manager 2344 may manage space of source code or memory of the application 2370.
  • the power manager 2345 may manage, for example, the capacity or power of the battery and provide power information necessary for the operation of the electronic device.
  • the power manager 2345 may work with a basic input / output system (BIOS).
  • the database manager 2346 may create, retrieve, or change a database to be used, for example, by the application 2370.
  • the package manager 2347 may manage installation or update of an application distributed in the form of a package file.
  • the connection manager 2348 may manage, for example, a wireless connection.
  • the notification manager 2349 may provide an event to the user, for example, an arrival message, an appointment, a proximity notification, and the like.
  • the location manager 2350 may manage location information of the electronic device, for example.
  • the graphic manager 2351 may manage, for example, a graphic effect to be provided to the user or a user interface related thereto.
  • the security manager 2352 may provide system security or user authentication, for example.
  • the middleware 2330 may include a telephony manager for managing a voice or video call function of the electronic device or a middleware module capable of forming a combination of the functions of the above-described components. .
  • the middleware 2330 may provide a module specialized for each type of operating system.
  • the middleware 2330 may dynamically delete some of the existing components or add new components.
  • the API 2360 is a set of API programming functions, for example, and may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 2370 may be, for example, a home 2237, a dialer 2372, an SMS / MMS 2373, an instant message 2374, a browser 2375, a camera 2376, an alarm 2377, and the like. , Contacts 2378, voice dial 2379, email 2380, calendar 2381, media player 2382, album 2383, watch 2384, health care (e.g., measuring exercise or blood sugar) Or an application for providing environmental information (eg, barometric pressure, humidity, or temperature information). According to an embodiment of the present disclosure, the application 2370 may include an information exchange application capable of supporting information exchange between the electronic device and the external electronic device.
  • an information exchange application capable of supporting information exchange between the electronic device and the external electronic device.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to the external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may deliver notification information generated by another application of the electronic device to the external electronic device, or receive notification information from the external electronic device and provide the notification information to the user.
  • the device management application may be, for example, the ability of an external electronic device to communicate with the electronic device (e.g. turn-on / turn-off of the external electronic device itself (or some component) or the brightness (or resolution) of the display). Control), or install, delete, or update an application running on the external electronic device.
  • the application 2370 may include an application (for example, a health care application of a mobile medical device) designated according to an attribute of the external electronic device.
  • the application 2370 may include an application received from an external electronic device.
  • At least a portion of the program module 2310 may be implemented (eg, executed) in software, firmware, hardware (eg, the processor 2210), or a combination of at least two of them, and a module for performing one or more functions; It can include a program, routine, instruction set, or process.
  • module includes a unit composed of hardware, software, or firmware, and may be used interchangeably with terms such as logic, logic blocks, components, or circuits.
  • the module may be an integrally formed part or a minimum unit or part of performing one or more functions.
  • Modules may be implemented mechanically or electronically, for example, application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or known or future developments that perform certain operations. It can include a programmable logic device.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (eg, modules or functions thereof) or method (eg, operations) according to various embodiments may be stored on a computer-readable storage medium (eg, memory 2130) in the form of a program module. It can be implemented as.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical recording media (e.g. CD-ROM, DVD, magnetic-optical media (e.g. floppy disks), internal memory, etc.
  • Instructions may include code generated by a compiler or code executable by an interpreter Modules or program modules according to various embodiments may include at least one or more of the above-described components. In some embodiments, operations performed by a module, a program module, or another component may be executed sequentially, in parallel, repeatedly, or heuristically, or at least, or may include other components. Some operations may be executed in a different order, omitted, or other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Traffic Control Systems (AREA)

Abstract

전자 장치가 개시된다. 개시되는 전자 장치는 카메라 모듈, 상기 카메라 모듈과 전기적으로 연결된 적어도 하나 또는 그 이상의 프로세서 및 상기 프로세서와 전기적으로 연결된 메모리를 포함하고, 상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가, 상기 카메라 모듈을 이용하여 영상을 생성하고, 상기 영상에 포함된 복수 개의 직선과 가상의 수평선이 이루는 각도들을 산출하고, 상기 산출된 각도들에 기반하여 두 개의 직선을 선정하도록 하는 명령어들을 저장할 수 있다. 그 외 다양한 실시예가 가능하다.

Description

전자 장치 및 전자 장치 제어 방법
본 개시의 다양한 실시예들은 전자 장치를 이용하여 운송 장치가 주행중인 차선을 검출하는 동작 방법 및 동작을 수행하는 장치에 관한 것이다.
최근 들어 운송 장치에 운전 보조 시스템을 탑재하여 운전자의 판단을 도와 운전자의 사고 대처능력을 향상시키고 있다. 특히, 운송 장치에 탑재된 카메라 모듈을 이용하여 운송 장치가 주행 중인 차선을 검출하여, 운송 장치의 차선 이탈 시 운송 장치의 주행을 제어하거나 운전자에게 알림을 주는 기능을 탑재한 운송 장치들이 늘어나고 있다.
나아가, 스마트 폰과 같이 카메라 모듈을 탑재한 전자 장치에서도 운전 보조 시스템과 같은 어플리케이션이 늘어나고 있어서, 운송 장치에 운전 보조 시스템이 없는 경우, 사용자들은 용이하게 스마트폰을 이용하여 운전과 관련된 정보를 얻을 수 있다.
스마트 폰과 같은 카메라 모듈을 탑재한 전자 장치를 이용하여 차선을 검출하는 기능을 수행하는 경우, 운송 장치에 스마트폰을 탑재한 위치 및 스마트폰에 포함된 카메라 모듈이 향하는 방향에 따라서 스마트폰이 검출한 차선이 운송 장치가 주행 중인 차선과 일치하지 않는 경우가 발생될 수 있다.
본 개시에서는 카메라 모듈을 탑재한 전자 장치의 거치 위치가 운송 장치의 중앙에서 어긋나고, 카메라 모듈이 향하는 방향이 운송 장치의 주행 방향과 어긋나는 경우에도 운송 장치의 주행 차선을 정확하게 검출할 수 있는 방법 및 이를 지원하는 전자 장치를 제공할 수 있다.
일 실시예에 따른 전자 장치는, 카메라 모듈, 상기 카메라 모듈과 전기적으로 연결된 적어도 하나 또는 그 이상의 프로세서 및 상기 프로세서와 전기적으로 연결된 메모리를 포함하고, 상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가, 상기 카메라 모듈을 이용하여 영상을 생성하고, 상기 영상에 포함된 복수 개의 직선과 가상의 수평선이 이루는 각도들을 산출하고, 상기 산출된 각도들에 기반하여 두 개의 직선을 선정하도록 하는 명령어들을 저장할 수 있다.
일 실시예에 따른 전자 장치 제어 방법은, 카메라 모듈을 이용하여 영상을 생성하는 동작, 상기 생성된 영상에 포함된 복수 개의 직선을 검출하는 동작 및 상기 복수 개의 직선과 가상의 수평선이 이루는 각도들을 산출하고 상기 산출된 각도들에 기반하여 두 개의 직선을 선정하는 동작을 포함할 수 있다.
본 개시의 일 실시예에 따라서 카메라 모듈을 이용하여 생성된 영상에 포함된 복수 개의 직선을 검출하고, 복수 개의 직선과 가상의 수평선이 이루는 각도들을 산출하여, 산출된 각도들 중 절대값의 차이가 기 설정된 값 이하이고, 절대값의 크기가 큰 순서대로 두 개의 각도를 산출하고, 상기 가상의 수평선과 상기 두 개의 각도를 형성하는 두 개의 직선을 선정하여 두 개의 직선을 포함하는 면을 차선으로 선정하면, 전자 장치는 카메라 모듈의 방향과 운송 장치의 주행 방향이 어긋나더라도 운송 장치가 주행 중인 차선을 검출할 수 있다.
도 1a는 운송 장치에 포함된 다양한 센서를 이용하여 차량 주변 상황에 대한 데이터를 수집하여 차량 운행에 반영하는 상황을 설명하기 위한 도면들이다.
도 1b는 일 실시예에 따른 운송 장치가 운전 보조 시스템에 포함 된 기능 중 하나인 카메라 모듈을 통해 입력된 영상에 기반하여 주행 중인 차선을 검출하는 도면들이다.
도 1c는 일 실시예에 따른 전자 장치의 카메라 모듈이 향하는 방향과 운송 장치의 주행 방향이 일치하지 않는 경우를 설명하기 위한 도면들이다.
도 1d는 일 실시예에 따른 전자 장치가 입력 되는 영상을 분석하여 전자 장치가 거치된 운송 장치가 주행 중인 차선을 검출하는 상황을 설명하기 위한 도면들이다.
도 2는 다양한 실시예에 따른 전자 장치의 블록도 이다.
도 3은 일 실시예에 따른 전자 장치가 입력되는 영상에서 직선 성분을 검출하는 상황을 설명하기 위한 도면들이다.
도 4는 일 실시예에 따른 전자 장치가 입력 되는 영상에서 운송 장치가 주행 중인 차선을 검출한 후 차량 검출을 위한 영역을 변경하는 상황을 설명하기 위한 도면들이다.
도 5는 일 실시예에 따른 전자 장치가 입력 영상에서 차선을 검출하는 과정을 설명하기 위한 흐름도이다.
도 6은 다양한 실시예에서의 네트워크 환경 내의 전자 장치를 설명하는 도면이다.
도 7은 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 기재된다. 실시예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1," "제 2," "첫째," 또는 "둘째," 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료기기, 카메라, 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 또는 사물 인터넷 장치 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 플렉서블하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1a의(a) 및 도 1a의(b) 는 운송 장치에 포함된 다양한 센서를 이용하여 차량 주변 상황에 대한 데이터를 수집하여 차량 운행에 반영하는 상황을 설명하기 위한 도면들이다.
도 1a를 참조하면, 운송 장치(10)는 다양한 센서를 이용하여 운송 장치(10)를 운전하는 운전자 또는 동승자에게 안전과 편의를 제공할 수 있다. 운송 장치(10)는 운송 장치(10)에 포함되거나 운송 장치(10)와 전기적으로 연결된 프로세서를 이용하여 다양한 센서로부터 수집된 정보에 기반하여 운송 장치(10)의 주행을 제어하거나, 운송 장치(10)에 포함된 적어도 하나 이상의 디스플레이 또는 알림 센서를 이용하여 사용자에게 주행 안내 정보를 표시할 수 있다. 이러한 기능은 운전 보조 시스템(예: ADAS(advanced driver assistance system))이라고 일컬어질 수 있다.
운전 보조 시스템이 운송 장치(10)의 상황에 맞추어 적절한 동작을 하기 위해서는 운송 장치(10)의 내부 및 외부의 상태를 인식할 수 있는 다양한 센서가 필요할 수 있다. 운전 보조 시스템을 위한 센서는 운송 장치(10)에서의 역할 따라 다양할 수 있지만, 기술적으로 구분하면 대략적으로 레이더(RADAR(radio detection and ranging)), 레이저(LASER(light amplification by the stimulated of radiation)), 초음파(ultrasonic wave), 카메라 모듈, 가속도/각속도/조향각 센서 등을 포함할 수 있다.
레이더 센서(20)는, 예를 들면, 대상체를 향해 전자기파를 발산한 뒤 반사되는 신호를 분석하여 거리, 높이, 방향, 속도 등의 주행 정보를 취득할 수 있다. 운송 장치(10)는 레이더 센서(20)를 이용하여 자동 주행 제어, 전/후방 충돌 경보, 사각지대 감지, 자동 긴급 제동 등의 기능을 수행할 수 있다.
레이더 센서(20)는 주행 환경(예: 빗길 주행, 야간 주행 등)과 무관하게 감지 능력이 유지될 수 있고, 예를 들면, 200m 정도의 거리에 있는 대상체에 대하여도 인식이 가능할 수 있다.
레이저 센서는 빛의 입자인 광자를 좁은 대역의 주파수에서 방출할 수 있다. 레이저 센서는, 예를 들면, 자외선(ultraviolet) 또는 적외선 (infrared)를 발산한 뒤 객체로부터 반사되는 빛을 분서하여 주변 정보를 획득할 수 있다.
레이저 센서는 야간 주행 시에도 감지 능력이 유지될 수 있으나, 인식 거리가 짧은 단점이 있다.
초음파 센서(30)는, 예를 들면, 높은 주파수(예: 20kHz)의 음파를 발산한 뒤 대상체에 반사되어 돌아오는 시간을 측정하여 대상체와의 거리를 계산할 수 있다. 음파는 빛보다 속도가 빠르지 못해 주로 운송 장치(10)가 정차해있는 경우나 저속으로 이동할 때 주변 대상체와의 거리 측정을 하는 경우에 사용될 수 있다.
카메라 모듈(40)은 촬영 환경에 따라서 촬영된 이미지의 해상도, 정밀도에 차이가 있지만, 대상체의 형태를 인식할 수 있는 장점이 있다. 따라서, 카메라 모듈(40)은 운송 장치(10)에서 차선 감지, 추돌 방지, 상향등 제어 등의 기능에 사용될 수 있다.
상술한 센서들은 주로 운송 장치(10) 외부의 주변 환경을 인식하는 센서들일 수 있다. 운전 보조 시스템의 정확성, 또는 활용성을 높이기 위해서는 운송 장치(10) 자체의 운동 상태를 감지하는 센서도 중요하다. 운송 장치(10) 자체의 운동 상태를 감지해야 운송 장치(10)는 상기 센서들을 통해 감지된 결과에 기반하여 제동, 조향, 등의 조치가 가능할 수 있다.
운송 장치의 운동 상태를 파악하는 센서(50)는, 예를 들면, 가속도 센서, 각속도 센서, 조향각 센서 등을 포함할 수 있다.
가속도 센서는 물체에 작용하는 가속력, 진동, 충격 등의 동적인 힘을 순간적으로 감지할 수 있다. 가속도 센서는 물체의 흔들림, 방향 등을 검지할 수 있다. 따라서, 가속도 센서를 이용하면, 운송 장치(10)는 특정 지점 간의 이동을 감지할 수 있고, 각속도 센서를 이용하면, 운송 장치(10)의 회전도 감지할 수 있다. 조향각 센서는 운송 장치(10)에 포함된 스티어링 휠의 각도를 획득할 수 있다. 운송 장치(10)는 상술한 운동 상태 관련 센서들을 이용하여 주행자세제어, 에어백 작동 등에 활용할 수 있다.
도 1a의 (b)는 운전자가 운송 장치(10)를 운행할 때 운송 장치(10)의 내부에서 운전자의 시야에 보이는 모습이다. 운전자는, 예를 들면, 운송 장치(10)의 전면에 마련된 유리를 통해 운송 장치(10) 외부의 상황을 볼 수 있고, 동시에 운전을 위한 스티어링 휠, 클러스터 화면, 또한 기타 조작 장치들을 볼 수 있다. 운송 장치(10)는 상술한 다양한 센서들을 이용하여 생성한 운행 안내 정보를 디스플레이(12)에 표시할 수 있다. 또한, 운송 장치(10)가 HUD(head up display)를 포함하는 경우, 상기 운행 안내 정보를 HUD에 표시할 수도 있다.
운송 장치(10)는 카메라 모듈(40)을 통해 입력된 영상을 이용하여 주행 중인 차선과 주행 차선에 위치한 다른 차량의 유무 등을 확인하고 필요한 경우 디스플레이(10)에 표시할 수 있다. 따라서 운전자는 운송 장치(10)가 생성한 운행 안내 정보를 보면서 운행할 수 있다.
또한, 운송 장치(10)는 다양한 센서들을 이용하여 생성한 운행 관련 정보를 이용하여 운송 장치(10)의 주행을 제어할 수 있다. 예를 들어, 운송 장치(10)는 앞차와의 거리에 기반하여 운송 장치(10)의 속도를 줄일 수 있고, 운송 장치(10)가 별도의 신호 없이 주행 중인 차선에서 벗어나는 경우, 알림을 생성하여 출력할 수 있다.
도 1b는 일 실시예에 따른 운송 장치가 운전 보조 시스템에 포함된 기능 중 하나인 카메라 모듈(예: 도 1a의 카메라 모듈(40))을 통해 입력된 영상에 기반하여 주행 중인 차선을 검출하는 도면이다.
도 1b의 (a)를 참고하면, 운송 장치(10)는 운송 장치(10)에 포함된 카메라 모듈(예: 도 1a의 카메라 모듈(40))를 통해 입력되는 영상에 기반하여 운송 장치(10)가 주행 중인 차선을 검출할 수 있다.
예를 들면, 운송 장치(10)는 기준 소실점(61), 좌측 차선에 대응하는 직선(62), 우측 차선에 대응하는 직선(63), 차량 본네트(64), 유효 차선 폭 범위(66), 차량 및 차선 검출 영역(65) 등을 미리 설정할 수 있다.
일 실시예에 따른 운송 장치(10)는 카메라 모듈(예: 도 1a의 카메라 모듈(40))을 통해 입력되는 영상에 대하여 기 설정된 차량 및 차선 검출 영역(65)에서 차선 검출을 수행할 수 있다. 구체적으로, 운송 장치(10)는 기 설정된 프레임(예: 300프레임)을 입력 받고, 입력받은 영상에서 에지 영역을 검출할 수 있다. 특히, 운송 장치(10)는 기 설정된 기준 소실점(61), 좌측 차선에 대응하는 직선(62), 우측 차선에 대응하는 직선(63), 차량 본네트(64) 등과 인접한 영역에서 에지를 검출하여 기준 소실점(61), 좌측 차선에 대응하는 직선(62), 우측 차선에 대응하는 직선(63), 차량 본네트(64)의 위치를 보정할 수 있다.
도 1b의 (b)를 참조하면, 운송 장치(10)는 변경된 기준 소실점(71), 좌측 차선에 대응하는 직선(72), 우측 차선에 대응하는 직선(73), 차량 본네트(74)의 위치에 기반하여 차선 및 차량 검출 영역(75), 유효 차선 폭 범위(76) 등을 변경할 수 있다.
이와 같이, 운송 장치(10)에 탑재된 카메라 모듈(예: 도 1a의 카메라 모듈(40))을 이용하여 운송 장치(10)는 운행 중인 차선을 검출하여 운전 보조 시스템에 활용할 수 있다. 일 실시예에 따르면, 운송 장치(10)는 별도의 전자 장치를 이용하여 운행 중인 차선을 검출할 수 있다.
도 1c의 (a)를 참조하면, 사용자는 운송 장치(10)에 스마트 폰과 같은 전자 장치(100)를 거치하고, 전자 장치(100)에 포함된 카메라 모듈(미도시)을 통해 생성된 영상에 기반하여 차선을 검출하고 운전 보조 시스템에 활용할 수 있다. 예를 들면, 전자 장치(100)는 운전 보조 시스템 기능을 수행하는 어플리케이션의 실행에 기반하여 차선을 검출할 수 있다. 이 경우, 전자 장치(100)와 운송 장치(10)는 유선 또는 무선 통신 방법을 사용하여 통신할 수 있다.
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 일 실시예에 따르면, 무선 통신은, 예를 들면, WiFi(wireless fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다.
일 실시예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 상호 호환적으로 사용될 수 있다.
유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.
도 1c의 (a)를 참조하면, 사용자가 운송 장치(10)에 전자 장치(100)를 거치하는 경우, 전자 장치(100)가 운송 장치(10)의 중앙부에 위치하지 않는 경우가 있을 수 있다. 또한, 운송 장치(10)가 주행하는 방향(A)과 전자 장치(100)에 포함된 카메라 모듈이 향하는 방향(B)이 일치하지 않을 수 있다. 이 경우, 전자 장치(100)가 검출한 차선이 운송 장치(10)가 주행 중인 차선이 아닐 수 있다.
도 1c의 (b)는 전자 장치(100)에 포함된 카메라 모듈을 통해 획득한 영상을 전자 장치(100)의 디스플레이로 출력하거나 운송 장치(10) 내 포함된 디스플레이(미도시)로 유선 혹은 무선 통신을 통해 출력 중인 영상을 도시하고 있다. 전자 장치(100)는 도 1b에서 상술한 방법과 동일하거나 유사한 방법을 이용하여 운송 장치(10)가 주행중인 차선을 검출할 수 있다. 예를 들어, 전자 장치(100)는 입력 영상에서 제 1 차선(78)과 제 2 차선(79)을 검출할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 검출한 차선 중 영상의 중앙부에 위치한 제 2 차선(79)을 운송 장치(10)가 주행 중인 차선으로 인식할 수 있다. 따라서, 전자 장치(100)는 검출 한 차선 중에서 전자 장치(100)가 거치된 운송 장치(10)가 현재 주행 중인 차선을 선정하는 기준을 변경할 필요가 있다.
도 1d는 일 실시예에 따른 전자 장치(100)가 입력되는 영상을 분석하여 전자 장치(100)가 거치된 운송 장치(10)가 주행 중인 차선을 검출하는 상황을 설명하기 위한 도면들이다.
도 1d의 (a)를 참고하면, 전자 장치(100)는 입력되는 영상을 에지 성분을 강조하는 영상으로 변환할 수 있다. 입력되는 영상을 에지를 강조하는 영상으로 변환하는 상세한 과정은 도 3에서 후술한다.
일 실시예에 따른 전자 장치(100)는 기 설정된 차량 및 차선 검출 영역(예: 도 1b의 차량 및 차선 검출 영역(65))에서 검출된 직선들(81, 82, 83)이 가상의 수평선(85)과 이루는 각도를 산출할 수 있다. 예를 들어, 전자 장치(100)는 제 1 직선(81)과 가상의 수평선(85)이 이루는 제 1 각도(91)를 산출할 수 있다. 또한, 전자 장치(100)는 제 2 직선(82)과 가상의 수평선(85)이 이루는 제 2 각도(92)를 산출하고, 또한, 제 3 직선(83)과 가상의 수평선(85)이 이루는 제 3 각도(93)를 산출할 수 있다. 전자 장치(100)는 산출된 각도들에 기반하여 두 개의 직선을 선정할 수 있다.
예를 들어, 따른 전자 장치(100)는 산출한 각도들(91, 92, 93) 중에서 절대값의 차이가 기 설정된 값 이하이고, 절대값의 크기가 큰 순서대로 두 개의 각도를 추출하고, 가상의 수평선과 추출된 두 개의 각도를 이루는 두 개의 직선을 선정할 수 있다.
구체적으로, 전자 장치(100)는 제 1 각도(91), 제 2 각도(92) 및 제 3 각도(93) 중에서 절대값의 차이가 기 설정된 값 이하이고 절대값의 크기가 큰 순서대로 제 1 각도(91)와 제 2 각도(92)를 추출할 수 있다. 그리고 전자 장치(100)는 가상의 수평선(85)과 제 1 각도(91) 및 제 2 각도(92)를 이루는 제 1 직선(81)과 제 2 직선(82)을 선정할 수 있다. 절대값의 차이가 기 설정된 값 이하인 것은, 예를 들면, 절대값의 차이가 대략 5도 내지 10도 정도의 차이인 것을 의미할 수 있다. 그러나 이에 한정되지는 않는다.
도 1d의 (b)를 참조하면, 전자 장치(100)는 선정된 두 개의 직선을 포함하고 있는 차선(95)을 전자 장치(100)가 거치 된 운송 장치(10)가 주행 중인 차선으로 선정할 수 있다.
이와 같이, 일 실시예에 따른 전자 장치(100)는 유선 또는 무선 통신을 이용하여 운송 장치(10)와 통신을 수립하고, 운전 보조 시스템의 기능 중 일부 기능을 제공할 수 있다. 특히, 일 실시예에 따른 전자 장치(100)는 전자 장치(100)에 포함된 카메라 모듈의 방향이 운송 장치(10)의 주행 방향과 일치하지 않더라도 운송 장치(10)가 주행하고 있는 차선을 검출할 수 있다.
도 2는 다양한 실시예에 따른 전자 장치(100)의 블록도이다. 전자 장치(100)는 하나 이상의 프로세서(예: AP)(210), 통신 모듈(220), (가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다. 프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227), NFC 모듈(228) 및 RF 모듈(229)를 포함할 수 있다. 셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(100)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(100)와 기능적으로 또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(100)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(100)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(252), (디지털) 펜 센서(254), 키(256), 또는 초음파 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)는 패널(262), 홀로그램 장치(264), 프로젝터(266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나 이상의 모듈로 구성될 수 있다. 한 실시예에 따르면, 패널(262)은 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서)를 포함할 수 있다. 상기 압력 센서는 터치 패널(252)과 일체형으로 구현되거나, 또는 터치 패널(252)과는 별도의 하나 이상의 센서로 구현될 수 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(100)의 내부 또는 외부에 위치할 수 있다. 인터페이스(270)는, 예를 들면, HDMI(272), USB(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 전력 관리 모듈(295)은, 예를 들면, 전자 장치(100)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다.
인디케이터(297)는 전자 장치(100) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다. 전자 장치(100)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치(예: 전자 장치(100))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 일 실시예에 따른 전자 장치가 입력되는 영상에서 직선 성분을 검출하기 위해 입력되는 영상을 에지를 강조하는 영상으로 변경하는 상황을 설명하기 위한 도면들이다.
일 실시예에 따른 전자 장치(100)는 전자 장치(100)가 거치 된 운송 장치(예: 도 1a의 운송 장치(10))가 운행 중인 차선을 검출하기 위해 전자 장치(100)에 포함된 카메라 모듈(미도시)을 통해 입력되는 영상을 분석할 수 있다.
도 3의 (a) 및 도 3의 (b)를 참조하면, 전자 장치(100)는 카메라 모듈을 통해 입력되는 영상에 대하여 그레이 스케일(gray scale)을 수행할 수 있다. 그레이 스케일은, 예를 들면, 생성된 칼라 영상을 백색에서 흑색까지를 10단계의 밝기를 가지는 영상으로 변환하는 것을 의미할 수 있다. 즉, 전자 장치(100)는 칼라 영상을 색 정보가 없고 밝기 값만 가지는 영상으로 변경할 수 있다.
일 실시예에 따른 전자 장치(100)는 영상에서 차선을 추출하기 위해 대각선 방향의 에지 검출에 효율이 높은 소벨 연산(sobel operation)을 이용하여 에지를 검출할 수 있다. 그러나 이에 한정되는 것은 아니다. 전자 장치(100)가 소벨 연산을 이용하여 에지를 검출하는 방법으로는 편미분 연산자 계산에 의한 검출 방법으로 영상에서의 기울기를 구하는 방법과 마스크를 이용하는 방법이 사용될 수 있다.
도 3의 (b) 및 도 3의 (c)를 참조하면, 전자 장치(100)는 영상에 포함된 노이즈를 제거하기 위해 소벨 연산에 의해 추출된 에지 성분에 대하여 이진화 작업(binarization)을 수행할 수 있다. 이진화 작업은, 예를 들면, 영상의 픽셀값을 0 또는 255로 만드는 연산이며, 픽셀의 속성을 배경(background)과 객체(object)의 두 그룹으로 나누는 작업일 수 있다. 전자 장치(100)는 이진화 작업을 이용하여 영상 내에 원하는 객체의 정보(예: 객체의 위치. 크기, 모양 등)를 얻을 수 있다.
일 실시예에 따르면, 전자 장치(100)는 차선 검출을 위한 직선을 찾기 위해 노이즈가 제거된 영상에 대하여 허프 변환(hough transform)을 수행할 수 있다. 허프 변환은 영상에 포함된 객체에 대한 사전 지식이 없더라도 객체의 경계선을 찾을 수 있는 특징이 있다. 따라서, 도 3의 (C)와 같이 전자 장치(100)는 허프 변환을 이용하여 영상에 존재하는 복수 개의 직선 후보들의 픽셀값을 합산하여 그들 중 최대 값을 검출하고 하나의 직선을 검출할 수 있다.
상술한 영상 변환에서 사용된 알고리즘은 일 실시예에 불과하며 영상의 특성 및 프로세서의 특성에 따라 다른 알고리즘으로 대체될 수 있다.
일 실시예에 따르면, 상기 전자 장치(100)는 상기 카메라 모듈을 통해 입력되어 생성되는 영상을 구성하는 다수 개의 영상 프레임들에 대하여 상기의 과정을 수행할 수 있다. 예를 들어, 전자 장치(100)의 카메라 모듈이 1초에 30프레임의 영상을 생성하는 경우, 생성되는 30개의 프레임 각각에 대하여 상기의 영상 처리 과정을 수행할 수 있다. 그러나 이에 한정되지는 않는다.
상기와 같은 단계를 통해 전자 장치(100)는 도 1d의 (a)와 같은 영상을 획득하고, 검출된 직선 성분과 가상의 수평선(예: 도 1d의 수평선(85))이 이루는 각도를 얻을 수 있다.
도 4는 일 실시예에 따른 전자 장치가 입력되는 영상에서 운송 장치가 주행 중인 차선을 검출한 후 차량 검출을 위한 영역을 변경하는 상황을 설명하기 위한 도면들이다.
도 4의 (a)를 참조하면, 전자 장치(100)는 입력되는 영상의 중앙부에 앞차를 검출하기 위한 객체 검출 영역(410)을 설정할 수 있다. 객체 검출을 위한 영역은, 예를 들면, 입력되는 영상의 중앙부에 표시될 수 있다. 전자 장치(100)는 앞차를 검출하기 위한 객체 검출 영역(410)의 영상을 분석하여 차량의 유무를 검출할 수 있다. 앞차를 검출하기 위한 객체 검출 영역(410)은, 예를 들면, 사각형의 형상을 할 수 있다. 일 실시예에 따르면, 전자 장치(100)가 차량의 유무를 검출하여 운송 장치(예: 도 1a의 운송 장치(10))에 전송할 수 있고, 운송 장치(예: 도 1a의 운송 장치(10))는 도 1a에서 상술한 레이더 센서 등을 이용하여 검출된 앞차와의 거리를 판단하여 운송 장치(예: 도 1a의 운송 장치(10))의 주행을 제어하거나, 사용자에게 알림을 생성할 수 있다.
전자 장치(100)는 운송 장치(예: 도 1a의 운송 장치(10))의 진행 방향과 전자 장치(100)에 포함된 카메라 모듈이 향하는 방향이 동일할 것을 가정하여 중앙부에 앞차를 검출하기 위한 객체 검출 영역(410)을 설정할 수 있다. 그러나 도 1c의 (a)와 같이 전자 장치(100)에 포함된 카메라 모듈이 향하는 방향과 전자 장치(100)를 거치한 운송 장치(예: 도 1a의 운송 장치(10))의 주행 방향이 일치하지 않는 경우, 앞차를 검출하기 위한 영역(410)과 운송 장치(예: 도 1a의 운송 장치(10))가 주행하고 있는 차선이 일치하지 않을 수 있다.
도 4의 (b)를 참조하면, 전자 장치(100)는 도 1d 에서 상술한 방법을 이용하여 전자 장치(100)를 탑재한 운송 장치(예: 도 1a의 운송 장치(10))가 주행하고 있는 차선을 검출할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 운송 장치(예: 도 1a의 운송 장치(10))가 주행 중인 차선이라고 판단된 제 1 직선(421)과 제 2 직선(422)의 하단의 중앙점을 자기 차선 기준점(430)으로 설정할 수 있다.
일 실시예에 따르면, 전자 장치(100)는 제 1 직선(421)과 제 2 직선(422)를 포함하는 면(423)을 운송 장치(예: 도 1a의 운송 장치(10))가 주행하는 차선으로 선정할 수 있다. 전자 장치(100)는 운송 장치(10)가 주행하는 차선의 중앙점(430)을 설정할 수 있다. 전자 장치(100)는 중앙점(430)을 통과하는 수직선(431)를 설정하고 객체 검출 영역(410)을 상기 수직선(431)에 의해 이등분되고, 객체 검출 영역(410)의 아래쪽 모서리(411, 412)가 제 1 직선(421)과 제 2 직선(422)에 각각 접하도록 설정할 수 있다. 그러나 이에 한정되지 않고, 전자 장치(100)는 다양한 형상과 크기의 객체 검출 영역(410)을 생성할 수 있다.
다른 실시예에 따르면, 전자 장치(100)가 객체 검출 영역(410)을 설정하지 않았던 경우에, 전자 장치(100)는 상술한 방법을 이용하여 아직 정해지지 않았던 객체 검출 영역(410)의 위치를 설정할 수도 있다.
이로 인해, 전자 장치(100)는 카메라 모듈이 향하는 방향이 운송 장치(예: 도 1a의 운송 장치(10))의 주행 방향과 일치하지 않더라도 정확도가 높게 주행 중인 차선에 등장하는 운송 장치를 검출할 수 있다. 또한, 전자 장치(100)는 영상의 일부에 대하여만 객체를 검출하여 검출 시간을 줄일 수도 있다.
도 5는 일 실시예에 따른 전자 장치가 입력 영상에서 차선을 검출하는 과정을 설명하기 위한 흐름도이다.
동작 510을 참조하면, 전자 장치(100)는 카메라 모듈을 통해 입력된 영상을 생성할 수 있다. 일 실시예에 따르면, 전자 장치(100)는 카메라 모듈을 포함할 수 있고, 별도의 카메라 모듈과 통신 관계를 설정하여 카메라 모듈로부터 영상과 관련된 데이터를 수신받을 수 있다.
동작 520을 참조하면, 전자 장치(100)는 생성한 영상에 포함된 직선 성분을 검출할 수 있다. 전자 장치(100)는 다양한 영상 처리 방법을 이용하여 직선 성분을 검출할 수 있다. 예를 들어, 전자 장치는 입력된 영상에 대하여 그레이 스케일 작업, 소벨 연산, 이진화 작업, 허프 변환 작업 등의 영상 처리를 수행하여 직선 성분을 검출할 수 있다. 그러나 전자 장치(100)가 직선 성분을 검출하기 위하여 수행하는 작업은 이에 한정되지 않고, 영상의 특성, 전자 장치()의 특성에 맞추어 다양한 방법을 사용할 수 있다.
또한, 전자 장치(100)는 생성한 영상 전체에서 복수 개의 직선 성분을 검출할 수 있고, 기 설정된 영역에 한정하여 직선 성분을 검출할 수 있다.
동작 530을 참조하면, 전자 장치(100)는 검출한 복수 개의 직선 성분과 가상의 수평선이 이루는 각도들을 산출하고, 산출된 각도들에 기반하여 두 개의 직선을 선정할 수 있다. 예를 들어, 전자 장치(100)는 산출된 각도들의 절대값의 차이가 기 설정된 값 이하이고, 절대값의 크기가 큰 순서대로 두 개의 각도를 선정하고, 상술한 가상의 수평선과 상기 두 개의 각도를 형성하는 두 개의 직선을 선정할 수 있다. 전자 장치(100)는 선정된 두 개의 직선을 포함하는 차선을 전자 장치(100)를 거치한 운송 장치의 주행 차선으로 선정할 수 있다.
도 6을 참조하여, 다양한 실시예에서의, 네트워크 환경(2100) 내의 전자 장치(2101)가 기재된다. 전자 장치(2101)는 도 2의 전자 장치(100)를 포함할 수 있다. 전자 장치(2101)는 버스(2110), 프로세서(2120), 메모리(2130), 입출력 인터페이스(2150), 디스플레이(2160), 및 통신 인터페이스(2170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(2101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다. 버스(2110)는 구성요소들(2110-2170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(2120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(2120)는, 예를 들면, 전자 장치(2101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(2130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(2130)는, 예를 들면, 전자 장치(2101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 일 실시예에 따르면, 메모리(2130)는 소프트웨어 및/또는 프로그램(2140)을 저장할 수 있다. 프로그램(2140)은, 예를 들면, 커널(2141), 미들웨어(2143), 어플리케이션 프로그래밍 인터페이스(API)(2145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(2147) 등을 포함할 수 있다. 커널(2141), 미들웨어(2143), 또는 API(2145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(2141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(2143), API(2145), 또는 어플리케이션 프로그램(2147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(2110), 프로세서(2120), 또는 메모리(2130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(2141)은 미들웨어(2143), API(2145), 또는 어플리케이션 프로그램(2147)에서 전자 장치(2101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(2143)는, 예를 들면, API(2145) 또는 어플리케이션 프로그램(2147)이 커널(2141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(2143)는 어플리케이션 프로그램(2147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(2143)는 어플리케이션 프로그램(2147) 중 적어도 하나에 전자 장치(2101)의 시스템 리소스(예: 버스(2110), 프로세서(2120), 또는 메모리(2130) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(2145)는 어플리케이션(2147)이 커널(2141) 또는 미들웨어(2143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(2150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(2101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(2101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(2160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(2160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(2160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다. 통신 인터페이스(2170)는, 예를 들면, 전자 장치(2101)와 외부 장치(예: 제 1 외부 전자 장치(2102), 제 2 외부 전자 장치(2104), 또는 서버(2106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(2170)는 무선 통신 또는 유선 통신을 통해서 네트워크(2162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(2104) 또는 서버(2106))와 통신할 수 있다.
제 1 및 제 2 외부 전자 장치(2102, 2104) 각각은 전자 장치(2101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시예에 따르면, 전자 장치(2101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(2102,2104), 또는 서버(2106)에서 실행될 수 있다. 일 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(2101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(2102, 2104), 또는 서버(2106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(2102, 2104), 또는 서버(2106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(2101)로 전달할 수 있다. 전자 장치(2101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 7은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 일 실시예에 따르면, 프로그램 모듈(2310)(예: 프로그램(2140))은 전자 장치(예: 전자 장치(100), 전자 장치(2101))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(2147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 7을 참조하면, 프로그램 모듈(2310)은 커널(2320)(예: 커널(2141)), 미들웨어(2330)(예: 미들웨어(2143)), (API(2360)(예: API(2145)), 및/또는 어플리케이션(2370)(예: 어플리케이션 프로그램(2147))을 포함할 수 있다. 프로그램 모듈(2310)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(2102, 2104), 서버(2106) 등)로부터 다운로드 가능하다.
커널(2320)은, 예를 들면, 시스템 리소스 매니저(2321) 및/또는 디바이스 드라이버(2323)를 포함할 수 있다. 시스템 리소스 매니저(2321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 일 실시예에 따르면, 시스템 리소스 매니저(2321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(2323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(2330)는, 예를 들면, 어플리케이션(2370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(2370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(2360)를 통해 다양한 기능들을 어플리케이션(2370)으로 제공할 수 있다. 일 실시예에 따르면, 미들웨어(2330) 는 런타임 라이브러리(2335), 어플리케이션 매니저(2341), 윈도우 매니저(2342), 멀티미디어 매니저(2343), 리소스 매니저(2344), 파워 매니저(2345), 데이터베이스 매니저(2346), 패키지 매니저(2347), 연결 매니저(2348), 통지 매니저(2349), 위치 매니저(2350), 그래픽 매니저(2351), 또는 보안 매니저(2352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(2335)는, 예를 들면, 어플리케이션(2370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(2335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(2341)는, 예를 들면, 어플리케이션(2370)의 생명 주기를 관리할 수 있다. 윈도우 매니저(2342)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(2343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(2344)는 어플리케이션(2370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(2345)는, 예를 들면, 배터리의 용량 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보를 제공할 수 있다. 일 실시예에 따르면, 파워 매니저(2345)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(2346)는, 예를 들면, 어플리케이션(2370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(2347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
연결 매니저(2348)는, 예를 들면, 무선 연결을 관리할 수 있다. 통지 매니저(2349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 위치 매니저(2350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(2351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(2352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 일 실시예에 따르면, 미들웨어(2330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 일 실시예에 따르면, 미들웨어(2330)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(2330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(2360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(2370)은, 예를 들면, 홈(2371), 다이얼러(2372), SMS/MMS(2373), IM(instant message)(2374), 브라우저(2375), 카메라(2376), 알람(2377), 컨택트(2378), 음성 다이얼(2379), 이메일(2380), 달력(2381), 미디어 플레이어(2382), 앨범(2383), 시계(2384), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션을 포함할 수 있다. 일 실시예에 따르면, 어플리케이션(2370)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 일 실시예에 따르면, 어플리케이션(2370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 일 실시예에 따르면, 어플리케이션(2370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(2310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(2210)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다. 다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(2130))에 저장된 명령어로 구현될 수 있다.
상기 명령어가 프로세서(예: 프로세서(2120))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    카메라 모듈;
    상기 카메라 모듈과 전기적으로 연결된 적어도 하나 또는 그 이상의 프로세서; 및
    상기 프로세서와 전기적으로 연결된 메모리; 를 포함하고,
    상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가,
    상기 카메라 모듈을 이용하여 영상을 생성하고,
    상기 영상에 포함된 복수 개의 직선과 가상의 수평선이 이루는 각도들을 산출하고, 상기 산출된 각도들에 기반하여 두 개의 직선을 선정하도록 하는 명령어들을 저장하는 전자 장치.
  2. 제1항에 있어서,
    상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가,
    상기 각도들 중 절대 값의 차이가 기 설정된 값 이하이고, 절대값의 크기가 큰 순서대로 두 개의 각도를 산출하여, 상기 가상의 수평선과 상기 두 개의 각도를 형성하는 두 개의 직선을 선정하도록 하는 명령어들을 저장하는 전자 장치.
  3. 제1항에 있어서,
    상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가, 상기 카메라 모듈을 이용하여 생성한 영상에 대하여 적어도 하나 이상의 영상 처리를 수행한 후 상기 복수 개의 직선을 검출하도록 하는 명령어들을 저장하는 전자 장치.
  4. 제1항에 있어서,
    상기 적어도 하나 이상의 영상 처리는,
    상기 영상을 흑백 영상으로 변환하는 영상 처리, 흑백 영상에서 에지를 추출하는 영상 처리, 영상에 포함된 노이즈를 제거하는 영상 처리, 또는 영상에 포함된 객체의 경계선을 검출하는 영상 처리를 포함하는 전자 장치.
  5. 제1항에 있어서,
    상기 전자 장치는 운송 장치와 통신 관계를 수립하고,
    상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가,
    상기 선정된 두 개의 직선을 포함하는 면을 상기 운송 장치가 주행하는 차선으로 선정하도록 하는 명령어들을 저장하는 전자 장치.
  6. 제5항에 있어서,
    상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가,
    상기 선정된 두 개의 직선을 포함하는 면의 중앙점을 선정하고, 상기 선정된 중앙점의 위치에 기반하여 타 운송 장치를 검출하는 객체 검출 영역의 위치를 선정하거나, 또는 기 설정된 객체 검출 영역의 위치를 변경하도록 하는 명령어들을 저장하는 전자 장치.
  7. 제6항에 있어서,
    상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가,
    상기 객체 검출 영역을 기 설정된 크기의 사각형 형상으로 설정하도록 하는 명령어들을 저장하는 전자 장치.
  8. 제7항에 있어서,
    상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가,
    상기 설정된 객체 검출 영역을 상기 카메라 모듈을 통해 생성되는 영상에 중첩하고, 상기 영상 중 상기 객체 검출 영역에 포함된 부분에서 타 운송 장치를 검출하도록 하는 명령어들을 저장하는 전자 장치.
  9. 제1항에 있어서,
    상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가,
    상기 영상 중 기 설정된 영역에 대하여 상기 복수 개의 직선과 상기 가상의 수평선이 이루는 각도들을 산출하도록 하는 명령어들을 저장하는 전자 장치.
  10. 제3항에 있어서,
    상기 카메라 모듈을 이용하여 생성한 영상은 복수 개의 영상 프레임을 포함하고,
    상기 메모리는, 상기 전자 장치가 동작할 때, 상기 프로세서가,
    상기 복수 개의 영상 프레임들 각각에 대하여 상기 영상 처리 과정을 수행한 후 복수 개의 직선을 검출하도록 하는 명령어들을 저장하는 전자 장치.
  11. 전자 장치 제어 방법에 있어서,
    카메라 모듈을 이용하여 영상을 생성하는 동작;
    상기 생성된 영상에 포함된 복수 개의 직선을 검출하는 동작; 및
    상기 복수 개의 직선과 가상의 수평선이 이루는 각도들을 산출하고 상기 산출된 각도들에 기반하여 두 개의 직선을 선정하는 동작; 을 포함하는 제어 방법.
  12. 제11항에 있어서,
    상기 복수 개의 직선과 가상의 수평선이 이루는 각도들을 산출하고 상기 산출된 각도들에 기반하여 두 개의 직선을 선정하는 동작은,
    상기 산출된 각도들 중 절대값의 차이가 기 설정된 값 이하이고, 절대값의 크기가 큰 순서대로 두 개의 각도를 산출하여, 상기 가상의 수평선과 상기 두 개의 각도를 형성하는 두 개의 직선을 선정하는 동작; 을 포함하는 제어 방법.
  13. 제11항에 있어서,
    상기 생성된 영상에 포함된 복수 개의 직선을 검출하는 동작은,
    상기 생성된 영상에 대하여 적어도 하나 이상의 영상 처리를 수행한 후 상기 복수 개의 직선을 검출하는 동작; 을 포함하는 제어 방법.
  14. 제11항에 있어서,
    상기 전자 장치는 상기 전자 장치를 거치한 운송 장치와 통신 관계를 수립하고,
    상기 제어 방법은,
    상기 선정된 두 개의 직선을 포함하는 면을 상기 전자 장치를 거치한 운송 장치가 주행하는 차선으로 선정하는 동작; 을 포함하는 제어 방법.
  15. 제11항에 있어서,
    상기 제어 방법은,
    상기 영상 중 기 설정된 영역에 대하여 상기 복수 개의 직선과 상기 가상의 수평선이 이루는 각도들을 산출하는 동작; 을 포함하는 제어 방법.
PCT/KR2018/002427 2017-03-03 2018-02-28 전자 장치 및 전자 장치 제어 방법 WO2018159989A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/482,357 US11170231B2 (en) 2017-03-03 2018-02-28 Electronic device and electronic device control meihod

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020170027787A KR102356259B1 (ko) 2017-03-03 2017-03-03 전자 장치 및 전자 장치 제어 방법
KR10-2017-0027787 2017-03-03

Publications (1)

Publication Number Publication Date
WO2018159989A1 true WO2018159989A1 (ko) 2018-09-07

Family

ID=63370408

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/002427 WO2018159989A1 (ko) 2017-03-03 2018-02-28 전자 장치 및 전자 장치 제어 방법

Country Status (3)

Country Link
US (1) US11170231B2 (ko)
KR (1) KR102356259B1 (ko)
WO (1) WO2018159989A1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102316720B1 (ko) * 2019-12-30 2021-10-25 한국과학기술원 도로 표지판의 패턴과 위치를 이용한 차량의 주행 정보 인식 방법 및 장치

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130007243A (ko) * 2011-06-30 2013-01-18 (주)베라시스 차량 카메라를 이용한 전방 충돌 경보 방법 및 시스템
KR101268473B1 (ko) * 2013-02-25 2013-06-04 주식회사 피엘케이 테크놀로지 기준 소실점 자동 보정 방법 및 그를 이용한 영상 인식 장치
KR101584907B1 (ko) * 2014-07-29 2016-01-22 울산대학교 산학협력단 관심 영역을 이용한 차선 인식 방법 및 그 장치
KR20160023409A (ko) * 2014-08-22 2016-03-03 현대모비스 주식회사 차선 이탈 경보 시스템의 동작방법
JP2017045261A (ja) * 2015-08-26 2017-03-02 パイオニア株式会社 情報取得装置及び情報取得方法並びに情報取得用プログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2391556T3 (es) * 2002-05-03 2012-11-27 Donnelly Corporation Sistema de detección de objetos para vehículo
KR101472615B1 (ko) * 2010-12-21 2014-12-16 삼성전기주식회사 차선이탈 경보 시스템 및 방법
KR101473866B1 (ko) 2014-01-23 2014-12-17 주식회사 지티 차량용 영상처리 시스템 및 이를 이용한 영상처리방법
KR101609303B1 (ko) * 2014-03-28 2016-04-20 주식회사 하나비전테크 카메라 캘리브레이션 방법 및 그 장치
JP2016033729A (ja) * 2014-07-31 2016-03-10 クラリオン株式会社 周囲環境認識装置
JP6567659B2 (ja) * 2015-05-07 2019-08-28 株式会社日立製作所 レーン検出装置およびレーン検出方法
EP3098753A1 (en) * 2015-05-28 2016-11-30 Tata Consultancy Services Limited Lane detection
KR102589967B1 (ko) * 2017-12-29 2023-10-16 삼성전자주식회사 차선을 검출하는 방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130007243A (ko) * 2011-06-30 2013-01-18 (주)베라시스 차량 카메라를 이용한 전방 충돌 경보 방법 및 시스템
KR101268473B1 (ko) * 2013-02-25 2013-06-04 주식회사 피엘케이 테크놀로지 기준 소실점 자동 보정 방법 및 그를 이용한 영상 인식 장치
KR101584907B1 (ko) * 2014-07-29 2016-01-22 울산대학교 산학협력단 관심 영역을 이용한 차선 인식 방법 및 그 장치
KR20160023409A (ko) * 2014-08-22 2016-03-03 현대모비스 주식회사 차선 이탈 경보 시스템의 동작방법
JP2017045261A (ja) * 2015-08-26 2017-03-02 パイオニア株式会社 情報取得装置及び情報取得方法並びに情報取得用プログラム

Also Published As

Publication number Publication date
US20210133464A1 (en) 2021-05-06
US11170231B2 (en) 2021-11-09
KR102356259B1 (ko) 2022-01-27
KR20180101058A (ko) 2018-09-12

Similar Documents

Publication Publication Date Title
WO2017209560A1 (ko) 화면 출력 방법 및 이를 지원하는 전자 장치
WO2018093060A1 (ko) 전자 장치 및 상기 전자 장치를 제어하는 방법
US10831792B2 (en) Sensor information using method and electronic device using the same
WO2018026202A1 (ko) 펜과 관련된 정보를 판단하는 터치 감지 장치 및 그 제어 방법과 펜
US20170243578A1 (en) Voice processing method and device
WO2018074898A1 (ko) 송신 전력을 제어하기 위한 전자장치 및 방법
KR102326275B1 (ko) 이미지 표시 방법 및 장치
WO2018106064A1 (ko) 무인비행체를 제어하는 전자 장치 및 그 제어 방법
WO2015108300A1 (ko) 프레임률 제어 방법 및 그 전자 장치
WO2018074798A1 (en) Electronic device and method for controlling display in electronic device
WO2016006728A1 (ko) 화상을 이용해 3차원 정보를 처리하는 전자 장치 및 방법
WO2018128460A1 (ko) 화면을 표시하기 위한 방법 및 그 전자 장치
WO2017146482A1 (ko) 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법
WO2018143675A1 (ko) 생체 센서를 제어하는 방법 및 전자 장치
WO2018199432A1 (ko) 객체에 대응하는 콘텐트를 출력하기 위한 방법 및 그 전자 장치
WO2018084684A1 (en) Method for controlling execution of application on electronic device using touchscreen and electronic device for the same
WO2018021726A1 (ko) 카메라 모듈의 활성화를 제어하기 위한 전자 장치 및 방법
WO2017082554A1 (ko) 액세서리 장치를 감지하는 전자장치 및 그의 동작 방법
WO2018131873A1 (ko) 전자 장치 및 이를 포함하는 차량
WO2018131852A1 (ko) 영상 통화를 수행하기 위한 전자 장치 및 컴퓨터 판독 가능한 기록매체
US10606460B2 (en) Electronic device and control method therefor
WO2018110847A1 (ko) 생체 데이터를 등록 및 인증하기 위한 방법 및 그 전자 장치
KR102513147B1 (ko) 전자 장치 및 그의 터치 입력 인식 방법
WO2018016924A1 (ko) 전자 장치 및 전자 장치의 터치 입력 감지 방법
WO2018128320A1 (ko) 전자 장치 및 그의 음성을 이용한 통신 연결 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18760600

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18760600

Country of ref document: EP

Kind code of ref document: A1