WO2019108003A1 - 카메라 보정 방법 및 장치 - Google Patents

카메라 보정 방법 및 장치 Download PDF

Info

Publication number
WO2019108003A1
WO2019108003A1 PCT/KR2018/015050 KR2018015050W WO2019108003A1 WO 2019108003 A1 WO2019108003 A1 WO 2019108003A1 KR 2018015050 W KR2018015050 W KR 2018015050W WO 2019108003 A1 WO2019108003 A1 WO 2019108003A1
Authority
WO
WIPO (PCT)
Prior art keywords
information
vehicle
pattern
camera
parameter
Prior art date
Application number
PCT/KR2018/015050
Other languages
English (en)
French (fr)
Inventor
하주성
Original Assignee
엘지이노텍 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지이노텍 주식회사 filed Critical 엘지이노텍 주식회사
Priority to US16/767,814 priority Critical patent/US11548452B2/en
Publication of WO2019108003A1 publication Critical patent/WO2019108003A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04—Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformation in the plane of the image
    • G06T3/20—Linear translation of a whole image or part thereof, e.g. panning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformation in the plane of the image
    • G06T3/60—Rotation of a whole image or part thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/24—Aligning, centring, orientation detection or correction of the image
    • G06V10/245—Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/302—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing combining image information with GPS information or vehicle data, e.g. vehicle speed, gyro, steering angle data
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30204—Marker
    • G06T2207/30208—Marker matrix
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30241—Trajectory
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00—Diagnosis, testing or measuring for television systems or their details
    • H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Definitions

  • Embodiments relate to a camera calibration method and apparatus.
  • a vehicle is any device that drives a wheel for the purpose of transporting people or cargo.
  • a typical example of a vehicle is a car.
  • An automobile can be classified into an internal combustion engine automobile, an external combustion engine automobile, a gas turbine automobile or an electric vehicle depending on the type of prime mover used.
  • An electric vehicle is an automobile that uses electric power as an energy source to drive an electric motor.
  • the hybrid electric vehicle a hybrid electric vehicle (HEV), a plug-in hybrid electric vehicle (PHEV) (Fuel Cell Electric Vehicle: FCEV).
  • HEV hybrid electric vehicle
  • PHEV plug-in hybrid electric vehicle
  • Intelligent automobile is a cutting-edge automobile that integrates information technology (IT). It provides optimal transportation efficiency through interworking with intelligent transportation system as well as introduction of advanced system of automobile itself. Specifically, the intelligent vehicle performs automatic cruise control, adaptive cruise control (ACC), obstacle detection, collision detection, precise guidance, route to destination, and location of key locations , Maximizing the safety and comfort of the driver, passengers and pedestrians.
  • IT information technology
  • the surround view control device is attracting attention as one of devices for maximizing the safety and convenience of the driver, the passenger and the pedestrian.
  • the surround view control device provides an overview image around the vehicle using a camera.
  • the driver can look around the vehicle in real time through the surround view image.
  • the surround view images are generated by synthesizing the camera images acquired from different directions, matching between adjacent images is very important.
  • the misalignment means a mismatch.
  • the embodiments are directed to solving the above problems and other problems.
  • Another object of the embodiments is to provide a camera calibration method and apparatus of a new type.
  • Another object of the embodiment is to provide a camera calibration method and apparatus before camera shipment, i.e., a vehicle manufacturer, capable of camera calibration simultaneously with vehicle manufacture.
  • a method of correcting a camera using a plurality of pattern members comprising: acquiring pattern information of a plurality of pattern members by using a plurality of cameras disposed around the running vehicle ; Calculating a first parameter based on the received pattern information; Calculating trajectory information of the vehicle using the pattern information; And calculating the second parameter by correcting the first parameter based on the locus information of the vehicle.
  • a camera comprising: a plurality of cameras mounted around a vehicle; And a processor.
  • the processor is configured to receive pattern information of the plurality of pattern members obtained by the plurality of cameras running on a ground on which a plurality of pattern members are disposed, calculate a first parameter based on the pattern information, Calculates the locus information of the vehicle based on the information, and calculates the second parameter by correcting the first parameter based on the locus information of the vehicle.
  • the customer who has delivered the vehicle 700 does not need to perform a task for calibrating the camera separately, And the correction of the camera is performed in the same environment in the standardized camera correction field located in the vehicle maker, so that there is an advantage that the customer's complaint can be minimized because the correction error is not generated between the camera-corrected vehicles in the vehicle manufacturer.
  • the first parameter is corrected and two parameters are calculated. Then, Generated or updated. Accordingly, the mismatch at the boundary between adjacent images obtained from each camera is eliminated, and the surrounding view image displayed on the screen is not disturbed by the driver, thereby improving customer satisfaction.
  • FIG. 1 is a block diagram showing a configuration of an overview system according to an embodiment.
  • FIG. 2A is a view showing the appearance of a vehicle having an around view system according to an embodiment.
  • FIG. 2B shows a state in which the sensor unit included in the surround view system according to the embodiment is disposed in the vehicle.
  • FIG. 3 is a block diagram showing the configuration of a vehicle including the surround view system according to the embodiment.
  • FIG 5 shows an overall workplace for camera calibration according to an embodiment.
  • FIG. 6 is a flowchart illustrating a camera correction method according to an embodiment.
  • FIG. 7 is a flowchart for explaining S20 in FIG. 6 in detail.
  • FIG. 8 is a flow chart for explaining S30 of FIG. 6 in detail.
  • FIG. 9 is a flowchart for explaining S40 of FIG. 6 in detail.
  • the terms used in the embodiments of the present invention are intended to illustrate the embodiments and are not intended to limit the present invention.
  • a singular form may include plural forms unless specifically stated in the wording, and may be a combination of A, B, and C when it is described as " at least one (or more than one) Or < / RTI > all possible combinations.
  • terms such as first, second, A, B, (a), and (b) may be used. These terms are intended to distinguish the constituent elements from other constituent elements, and the terms are not limited to the nature, order or order of the constituent elements.
  • upper or lower is not limited to the case where two components are in direct contact with each other, But also includes the case where another component is formed or disposed between two components. Also, in the case of "upper (upper) or lower (lower)", it may include not only an upward direction but also a downward direction based on one component.
  • the vehicle described in this specification may include all kinds of vehicles such as automobiles and motorcycles.
  • vehicles such as automobiles and motorcycles.
  • the case of an automobile will be described as an example.
  • the vehicle may be a concept including both an internal combustion engine vehicle having an engine as a power source, a hybrid vehicle having an engine and an electric motor as a power source, and an electric vehicle having an electric motor as a power source.
  • the left side of the vehicle means the left side with respect to the running direction of the vehicle
  • the right side of the vehicle means the right side with respect to the running direction of the vehicle.
  • the vehicle means a Left Hand Drive (LHD) vehicle with the handle on the left side.
  • LHD Left Hand Drive
  • the surround view system described in the present specification is a separate device provided in a vehicle, and is defined as an apparatus for exchanging necessary information through data communication with a vehicle and providing an overview image of an object around the vehicle.
  • the surround view system can be shipped by the manufacturer to the vehicle, or it can be mounted by the driver or a third party after shipment of the vehicle.
  • the surround-view system may consist of a set of some of the components of the vehicle and constitute a part of the vehicle.
  • the surround view image is an image showing the surroundings of the vehicle, and may be called a top view or a bird view. These surround view images can be generated based on images obtained from different directions.
  • the surround view system is a separate device, at least some of the components of the surround view system (see FIG. 1) are not included in the surround view system, but are external components included in the vehicle or other device mounted on the vehicle . It can be understood that these external components constitute the surround view system by transmitting and receiving data through the interface unit of the surround view system.
  • the surround view system includes the respective components shown in FIG. 1 directly.
  • FIG. 1 is a block diagram showing a configuration of an overview system according to an embodiment.
  • the surround view system 100 may include a sensing unit 155 and a processor 170.
  • the surround view system 100 according to the embodiment includes an input unit 110, a communication unit 120, an interface unit 130, a memory 140, a monitoring unit 165, a display unit 180, A power supply unit 185, and a power supply unit 190.
  • the components shown in FIG. 1 are not essential for implementing the surround view system 100, so that the surround view system 100 according to the embodiment includes more or fewer components than the components listed above .
  • the input unit 110 can sense a user's input.
  • the user can input settings for the surround view image provided by the surround view system 100 through the input unit 110, turn on / off the surround view system 100, And so on.
  • the input unit 110 may include a gesture input unit (e.g., an optical sensor) for sensing a gesture of a user, a touch input unit (e.g., a touch sensor, a touch key, A microphone, a mechanical key, and the like, and a microphone for sensing a voice input.
  • a gesture input unit e.g., an optical sensor
  • a touch input unit e.g., a touch sensor, a touch key, A microphone, a mechanical key, and the like
  • a microphone for sensing a voice input.
  • the communication unit 120 may perform communication with the other vehicle 510, the mobile terminal 600, and the server 500.
  • the surround view system 100 can receive at least one of navigation information, other vehicle driving information, and traffic information through the communication unit 120. In addition, the surround view system 100 can transmit information on the vehicle equipped with the surrounding view system 100 through the communication unit 120.
  • the communication unit 120 receives at least one of the location information, weather information, and road traffic situation information (for example, TPEG (Transport Protocol Expert Group)) from the mobile terminal 600 and / or the server 500 Lt; / RTI >
  • TPEG Transport Protocol Expert Group
  • the communication unit 120 can receive traffic information from the server 500 equipped with the intelligent traffic system (ITS).
  • the traffic information may include traffic signal information, lane information, vehicle periphery information, or location information.
  • the communication unit 120 may transmit the navigation information to the mobile terminal 600 and / or the server 500.
  • the navigation information may include at least one of map information related to driving the vehicle, lane information, position information of the vehicle, set destination information, and route information according to the destination.
  • the communication unit 120 can receive the real-time position of the vehicle with the navigation information.
  • the communication unit 120 may include a GPS (Global Positioning System) module and / or a WiFi (Wireless Fidelity) module to obtain the position of the vehicle.
  • GPS Global Positioning System
  • WiFi Wireless Fidelity
  • the communication unit 120 can receive the running information of the other vehicle 510 from the other vehicle 510 and transmit the information of the vehicle to the other vehicle 510 to share the running information between the vehicles.
  • the traveling information shared by the two vehicles may include at least one or more information of the traveling direction information, position information, vehicle speed information, acceleration information, traveling route information, forward / backward information, adjacent vehicle information, and turn signal information of the vehicle .
  • the user's mobile terminal 600 and the surround view system 100 can perform pairing with each other automatically or by execution of the user's application.
  • the communication unit 120 may exchange data with another vehicle 510, the mobile terminal 600, or the server 500 in a wireless manner.
  • the communication unit 120 can perform wireless communication using a wireless data communication scheme.
  • Wireless data communication schemes include, but are not limited to, technical standards or communication schemes for mobile communication (e.g., Global System for Mobile communications (GSM), Code Division Multi Access (CDMA), Code Division Multi Access 2000 (Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA (Wideband CDMA), HSDPA (High Speed Downlink Packet Access), HSUPA (Long Term Evolution), LTE Term Evolution-Advanced) or the like can be used.
  • GSM Global System for Mobile communications
  • CDMA Code Division Multi Access
  • Code Division Multi Access 2000 Enhanced Voice-Data Optimized or Enhanced Voice-Data Only
  • WCDMA Wideband CDMA
  • HSDPA High Speed Downlink Packet Access
  • HSUPA Long Term Evolution
  • LTE Term Evolution-Advanced Long Term Evolution-Advanced
  • the communication unit 120 may use a wireless Internet technology.
  • the wireless communication unit 120 may be a WLAN (Wireless LAN), a Wi-Fi (Wireless-Fidelity) (HSDPA), Long Term Evolution (LTE), Long Term Evolution (LTE), and Long Term Evolution (LTE). Term Evolution-Advanced).
  • the communication unit 120 may use short range communication, and may be a Bluetooth TM, a Radio Frequency Identification (RFID), an Infrared Data Association (IrDA), an Ultra Wideband (UWB) ), ZigBee, Near Field Communication (NFC), Wireless-Fidelity (Wi-Fi), Wi-Fi Direct and Wireless Universal Serial Bus (USB) technologies.
  • RFID Radio Frequency Identification
  • IrDA Infrared Data Association
  • UWB Ultra Wideband
  • ZigBee Near Field Communication
  • NFC Near Field Communication
  • Wi-Fi Wireless-Fidelity
  • Wi-Fi Direct Wireless Universal Serial Bus
  • the surrounding view system 100 may also be used to pair with the mobile terminal 600 in the vehicle using the local area communication method and transmit the location information of the other vehicle 510 or the server 500 using the long distance wireless communication module of the mobile terminal 600. [ And may exchange data wirelessly with the mobile terminal 500 or the like.
  • the interface unit 130 receives data from an ECU (Electronic Control Unit) 770 that controls the entire vehicle or transmits signals processed or generated by the processor 170 to the outside, Inter-interface.
  • ECU Electronic Control Unit
  • the surround view system 100 can receive at least one of vehicle driving information, navigation information, and sensing information through the interface unit 130.
  • the surround view system 100 can transmit a control signal for executing the surround view, information generated in the surround view system 100, and the like to the ECU 770 of the vehicle through the interface unit 130.
  • the interface unit 130 performs data communication with at least one of the ECU 770, the AVN (Audio Video Navigation) apparatus 400 and the sensing unit 760 in the vehicle by wire communication or wireless communication .
  • the ECU 770 the ECU 770
  • the AVN Audio Video Navigation
  • the interface unit 130 can receive navigation information by data communication with the ECU 770, the AVN apparatus 400 and / or a separate navigation device (not shown).
  • the interface unit 130 may receive the sensing information from the ECU 770 or the sensing unit 760.
  • the sensing information may include at least one of direction information, position information, vehicle speed information, acceleration information, tilt information, forward / backward information, fuel information, distance information between front and rear vehicles, distance information between the vehicle and the lane, And may include one or more pieces of information.
  • the sensing information may include a heading sensor, a yaw sensor, a gyro sensor, a position module, a vehicle forward / backward sensor, a wheel sensor, a vehicle speed sensor, A vehicle body inclination sensor, a battery sensor, a fuel sensor, a tire sensor, a steering sensor by steering wheel rotation, a vehicle internal temperature sensor, a vehicle internal humidity sensor, and a door sensor.
  • the position module may include a GPS module for receiving GPS information.
  • the interface unit 130 may receive a user input received through the user input unit 724 of the vehicle. In this case, the interface unit 130 may receive the user input directly from the input unit 724 of the vehicle or via the ECU 770 of the vehicle.
  • the interface unit 130 may receive the traffic information obtained from the server 500.
  • the server 500 may be a server located in a traffic control station that controls traffic. For example, when traffic information is received from the server 500 through the communication unit 710 of the vehicle, the interface unit 130 may receive the traffic information from the ECU 770 of the vehicle.
  • the memory 140 may store various data for the overall operation of the surround view system 100, such as a program for processing or controlling the processor 170.
  • the memory 140 may store a plurality of application programs (application programs or applications) driven in the surround view system 100, data for operation of the surround view system 100, and commands. At least some of these applications may be downloaded from an external server via wireless communication. Also, at least some of these applications may reside on the surround view system 100 from the time of departure for the basic functionality of the surround view system 100 (e.g., navigation around the vehicle).
  • application programs application programs or applications driven in the surround view system 100
  • data for operation of the surround view system 100 data for operation of the surround view system 100
  • commands At least some of these applications may be downloaded from an external server via wireless communication. Also, at least some of these applications may reside on the surround view system 100 from the time of departure for the basic functionality of the surround view system 100 (e.g., navigation around the vehicle).
  • Such an application program may be stored in the memory 140 and may be driven by the processor 170 to perform the operation (or function) of the surround view system 100.
  • the memory 140 may store data for identifying objects included in the image. For example, when a predetermined object is detected in the vehicle surroundings image acquired through the camera 160, the memory 140 may store data for checking what the object corresponds to by various algorithms.
  • the memory 140 may store comparison images and comparison data for determining whether the object included in the image obtained through the camera 160 corresponds to an object such as a lane, a traffic sign, a two-wheeled vehicle, or a pedestrian.
  • the memory 140 may store predetermined synthesis information or viewpoint information used to generate the surround view image.
  • the images obtained from different directions may be combined to generate the surround view image.
  • the range information and the boundary information of the composite area generated from each image may be stored in the memory 140 as composite information.
  • the viewpoint information may be information about a direction viewed from the camera viewpoint, but is not limited thereto.
  • the memory 140 may be implemented in hardware, such as a flash memory type, a hard disk type, a solid state disk type, an SDD type (Silicon Disk Drive type) (RAM), a static random access memory (SRAM), a read-only memory (ROM), an EEPROM , electrically erasable programmable read-only memory (PROM), programmable read-only memory (PROM), magnetic memory, magnetic disk, and optical disk.
  • a flash memory type such as a flash memory type, a hard disk type, a solid state disk type, an SDD type (Silicon Disk Drive type) (RAM), a static random access memory (SRAM), a read-only memory (ROM), an EEPROM , electrically erasable programmable read-only memory (PROM), programmable read-only memory (PROM), magnetic memory, magnetic disk, and optical disk.
  • SDD type Silicon Disk Drive type
  • SRAM static random access memory
  • ROM read-only memory
  • EEPROM electrically eras
  • the surround view system 100 may operate in association with a web storage that performs storage functions of the memory 140 on the Internet.
  • the monitoring unit 165 can acquire information on the internal state of the vehicle.
  • the information sensed by the monitoring unit 165 may include facial recognition information, fingerprint information, iris-scan information, retina-scan information, hand geo-metry information, And at least one of voice recognition information. And the monitoring unit 165 may include other sensors that sense such biometric information.
  • the surround view system 100 may further include a sensing unit 155 for sensing an object around the vehicle. According to the embodiment, the surround view system 100 may receive the sensing information obtained from the sensing unit 760 of the vehicle through the interface unit 130. The sensing information thus obtained may be included in the vehicle periphery information.
  • the sensing unit 155 may include at least one of a distance sensor 150 that senses the position of an object around the vehicle and a camera 160 that captures images of the surroundings of the vehicle.
  • the distance sensor 150 can precisely detect the position of the object adjacent to the subject vehicle, the direction in which the object is spaced, the separation distance, or the moving direction of the object.
  • the distance sensor 150 continuously measures the position of the detected object and can accurately detect a change in the positional relationship with the subject vehicle.
  • the distance sensor 150 may sense an object located in at least one of the front, rear, left and right sides of the vehicle. To this end, the distance sensor 150 may be located at various locations in the vehicle.
  • the distance sensor 150 may include at least one of a variety of sensors capable of distance measurement such as a Lidar sensor, a laser sensor, an ultrasonic waves sensor, and a stereo camera .
  • the distance sensor 150 may be a laser sensor, and may be a laser sensor that uses a time-of-flight (TOF) or / and a phase- And the positional relationship between the object and the object can be accurately measured.
  • TOF time-of-flight
  • the information about the object can be obtained by analyzing the image captured by the camera 160 by the processor 170.
  • the surrounding view system 100 photographs the surroundings of the vehicle with the camera 160
  • the processor 170 analyzes the obtained surroundings of the vehicle, detects the object around the vehicle, determines the property of the object, Can be generated.
  • the object information may be included in the sensing information as at least one of the type of the object, the traffic signal information displayed by the object, the distance between the object and the vehicle, and the position of the object.
  • the processor 170 generates object information by performing object analysis such as detecting an object through image processing in a photographed image, tracking an object, measuring a distance to the object, and confirming an object can do.
  • the sensing unit 155 may further include an ultrasonic sensor.
  • the ultrasonic sensor may include, but is not limited to, a plurality of ultrasonic sensors. The object around the vehicle can be detected based on the difference between the ultrasonic waves transmitted from the respective ultrasonic sensors and the ultrasonic waves transmitted and reflected by the object.
  • the processor 170 may synthesize images photographed in all directions and provide an overview image of the vehicle viewed from above.
  • the camera 160 in the embodiment may be a stereo camera that measures the distance from the object while shooting the image.
  • the camera 160 may directly include an image sensor and an image processing module.
  • the camera 160 can process still images or moving images obtained by an image sensor (for example, CMOS or CCD).
  • the image processing module can process the still image or moving image obtained through the image sensor, extract necessary image information, and transmit the extracted image information to the processor 170.
  • the sensing unit 155 may be a stereo camera in which the distance sensor 150 and the camera 160 are combined. That is, the stereo camera can detect the positional relationship with the object while acquiring the image.
  • the display unit 180 may display the surround view image.
  • the display unit 180 may include at least one display area as needed. Different image information can be displayed in each display area.
  • the audio output unit 185 can output a message for confirming the description of the surround view image, whether or not it is executed, and the like. Accordingly, the surround view system 100 can complement the description of the functions of the surround view system 100 through the audio output of the audio output unit 185 together with the visual display through the display unit 180 .
  • the surround view system 100 may further include a haptic output unit (not shown) for outputting a haptic signal.
  • the haptic output unit (not shown) can output an alarm for the surround view image as a haptic.
  • the surround view system 100 includes a warning about the driver in at least one of the navigation information, the traffic information, the communication information, the vehicle status information, the driving assistance function (ADAS) information, This can be informed to the user by vibration.
  • ADAS driving assistance function
  • Such a haptic output unit can provide a directional vibration.
  • the haptic output unit (not shown) may be disposed in the steering for controlling the steering to output the vibration.
  • the haptic output unit may divide the left and right of the steering to output the vibration, .
  • the power supply unit 190 may receive external power and internal power under the control of the processor 170 to supply power required for operation of the respective components.
  • the processor 170 may control the overall operation of each component within the surround view system 100.
  • processor 170 may control at least some of the components included in the surround view system 100, or may operate at least two of them in combination with one another, in order to drive an application program.
  • the processor 170 may be implemented in hardware in the form of application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays controllers, micro-controllers, microprocessors 170, and electrical units for performing other functions.
  • ASICs application specific integrated circuits
  • DSPs digital signal processors
  • DSPDs digital signal processing devices
  • PLDs programmable logic devices
  • field programmable gate arrays controllers micro-controllers
  • microprocessors 170 and electrical units for performing other functions.
  • the processor 170 may be controlled by the ECU 770 of the vehicle.
  • processor 170 In addition to operations associated with application programs stored in memory 140, processor 170 typically controls the overall operation of the surround view system 100. Processor 170 may provide or process appropriate information or functionality to a user by processing signals, data, information, etc., input or output through the components discussed above, or by driving application programs stored in memory 170.
  • FIG. 2A is a view showing the appearance of a vehicle having an around view system according to an embodiment.
  • a vehicle 700 includes wheels 13FL and 13RL that are rotated by a power source, and an ambient view system 100 that provides the user with object information around the vehicle.
  • the surround view system 100 may be installed in the interior of the vehicle 700.
  • the installation position of the surround view system 100 can be variously set according to the embodiment.
  • the surround view system 100 is disposed at the lower end of the front window 100 of the vehicle 700.
  • FIG. 2B shows a state in which the sensor unit included in the surround view system according to the embodiment is disposed in the vehicle.
  • the distance sensor 150 included in the sensing unit 155 may be disposed at a position of at least one of front, rear, right, left, and ceiling of the vehicle body. Referring to FIG. 2B, distance sensors 150a and 150b are disposed on the left side surface and the right side surface of the vehicle, respectively.
  • the camera 160 included in the sensing unit 155 may be provided at various positions to monitor the front, rear, left, and right of the traveling direction. Referring to FIG. 2B, cameras 160a, 160b, 160c, and 160d are disposed at the front, rear, left, and right sides of the vehicle, respectively.
  • a camera 160a installed on the front is called a first camera
  • a camera 160b installed on the right side is called a second camera
  • a camera 160c installed on the rear side is called a third camera
  • the camera 160d installed on the left side may be named as the fourth camera, but the present invention is not limited thereto.
  • the first-mentioned camera may be referred to as a first camera
  • the next-mentioned camera may be referred to as a second camera.
  • the first camera 160a may capture the forward image by photographing the forward direction of the driving direction. To this end, the first camera 160a may be disposed in the vicinity of the ambulance or in the vicinity of the radiator grill.
  • the second camera 160b may be disposed in a case surrounding the right side mirror. According to the embodiment, the second camera 160b may be disposed outside the case surrounding the right side mirror, or may be disposed in one area outside the right front door, the right rear door, or the right fender.
  • the third camera 160c may capture the backward image in the running direction to acquire the backward image.
  • the third camera 160c may be disposed in the vicinity of a rear license plate or a trunk switch.
  • the fourth camera 160d may be disposed in a case surrounding the left side mirror. According to the embodiment, the fourth camera 160d may be disposed outside the case surrounding the left side mirror, or may be disposed in one area outside the left front door, the left rear door, or the left fender.
  • an additional camera may be installed on the ceiling of the vehicle.
  • the ceiling camera can shoot both forward, backward and left and right directions of the vehicle.
  • a camera may be additionally provided in addition to the first to fourth cameras 160a, 160b, 160c, and 160d as necessary.
  • FIG. 3 is a block diagram showing the configuration of a vehicle including the surround view system according to the embodiment.
  • the surround view system 100 may be installed in the vehicle 700.
  • the vehicle 700 includes a communication unit 710, an input unit 720, a sensing unit 760, an output unit 740, a vehicle driving unit 750, a memory 730, an AVN apparatus 400, An interface unit 780, an ECU 770, a power supply unit 790, and an ambient view system 100.
  • the communication unit 710 is connected to the communication unit 710 to communicate with the vehicle 700 and the mobile terminal 600, Modules.
  • the communication unit 710 may include one or more modules that connect the vehicle 700 to one or more networks.
  • the communication unit 710 may include a broadcast receiving module 711, a wireless Internet module 712, a local area communication module 713, a location information module 714, and an optical communication module 715.
  • the broadcast receiving module 711 receives broadcast signals or broadcast-related information from an external broadcast management server through a broadcast channel.
  • the broadcast includes a radio broadcast or a TV broadcast.
  • the wireless Internet module 712 refers to a module for wireless Internet access, and may be embedded in the vehicle 700 or externally.
  • the wireless Internet module 712 is configured to transmit and receive wireless signals in a communication network according to wireless Internet technologies.
  • Wireless Internet technologies include, for example, WLAN (Wireless LAN), Wi-Fi (Wireless Fidelity), Wi-Fi (Wireless Fidelity) Direct, DLNA, WiBro World Interoperability for Microwave Access (HSDPA), High Speed Uplink Packet Access (HSUPA), Long Term Evolution (LTE) and Long Term Evolution-Advanced (LTE-A) (712) transmits and receives data according to at least one wireless Internet technology in a range including internet technologies not listed above.
  • the wireless Internet module 712 can exchange data with the external server 500 wirelessly.
  • the wireless Internet module 712 can receive weather information and road traffic situation information (for example, TPEG (Transport Protocol Expert Group)) information from the external server 500.
  • TPEG Transport Protocol Expert Group
  • the short-range communication module 713 is for short-range communication and may be a Bluetooth TM, a Radio Frequency Identification (RFID), an Infrared Data Association (IrDA), an Ultra Wideband (UWB) It is possible to support near-field communication using at least one of Near Field Communication (NFC), Wireless-Fidelity (Wi-Fi), Wi-Fi Direct and Wireless USB (Universal Serial Bus)
  • RFID Radio Frequency Identification
  • IrDA Infrared Data Association
  • UWB Ultra Wideband
  • NFC Near Field Communication
  • Wi-Fi Wireless-Fidelity
  • Wi-Fi Direct Wireless USB (Universal Serial Bus)
  • the short range communication module 713 may form short range wireless communication networks (Wireless Area Networks) to perform short range communication between the vehicle and at least one external device.
  • the short-range communication module 713 can exchange data with the mobile terminal 600 wirelessly.
  • the short distance communication module 713 can receive weather information and traffic situation information of the road (for example, TPEG (Transport Protocol Expert Group)) from the mobile terminal 600.
  • TPEG Transport Protocol Expert Group
  • the user's mobile terminal 600 and the vehicle can perform pairing with each other automatically or by execution of the user's application.
  • the position information module 714 is a module for acquiring the position of the vehicle, and a representative example thereof is a Global Positioning System (GPS) module.
  • GPS Global Positioning System
  • the vehicle 700 can use the GPS module to obtain the position of the vehicle 700 based on the signal sent from the GPS satellite.
  • the optical communication module 715 may include a light emitting portion and a light receiving portion.
  • the light receiving section can convert the light signal into an electric signal and receive the information.
  • the light receiving unit may include a photodiode (PD) for receiving light.
  • Photodiodes can convert light into electrical signals.
  • the light receiving section can receive information of the front vehicle through light emitted from the light source included in the front vehicle.
  • the light emitting unit may include at least one light emitting element for converting an electric signal into an optical signal.
  • the light emitting element is preferably an LED (Light Emitting Diode).
  • the optical transmitter converts the electrical signal into an optical signal and transmits it to the outside.
  • the optical transmitter can emit the optical signal to the outside through the blinking of the light emitting element corresponding to the predetermined frequency.
  • the light emitting portion may include a plurality of light emitting element arrays.
  • the light emitting portion can be integrated with the lamp provided in the vehicle.
  • the light emitting portion may be at least one of a headlight, a tail light, a brake light, a turn signal lamp, and a car light.
  • the optical communication module 715 can exchange data with another vehicle 510 via optical communication.
  • the input unit 720 may include a driving operation unit 721, a camera 722, a microphone 723, a user input unit 724, and a monitoring unit 725.
  • the driving operation means 721 receives a user input for driving the vehicle.
  • the driving operation means 721 may include a steering input means, a shift input means, an acceleration input means, a brake input means, and the like.
  • the steering input means receives an input for the traveling direction of the vehicle 700. It is preferable that the steering input means is formed in a wheel shape so that steering input can be performed by rotation. According to an embodiment, the steering input means may be formed of a touch screen, a touch pad or a button.
  • the shift input means receives inputs for parking (P), forward (D), neutral (N) and reverse (R) of the vehicle.
  • the shift input means is preferably formed in a lever shape.
  • the shift input means may be formed of a touch screen, a touch pad or a button.
  • the acceleration input means receives an input for acceleration of the vehicle.
  • the brake input means receives an input for deceleration of the vehicle.
  • the acceleration input means and the brake input means are preferably formed in a pedal shape.
  • the acceleration input means or the brake input means may be formed of a touch screen, a touch pad or a button.
  • the camera 722 may include an image sensor and an image processing module.
  • the camera 722 may process still images or moving images obtained by an image sensor (e.g., CMOS or CCD).
  • the image processing module may process the still image or moving image obtained through the image sensor to extract necessary information, and may transmit the extracted information to the ECU 770.
  • the vehicle 700 may include a camera 722 for photographing a vehicle front image or a vehicle periphery image, and a monitoring unit 725 for photographing an in-vehicle image.
  • the monitoring unit 725 may acquire an image of the occupant.
  • the monitoring unit 725 may obtain an image for biometrics of the occupant.
  • the monitoring unit 725 and the camera 722 are included in the input unit 720.
  • the camera 722 may be included in the surround view system 100 as described above.
  • the microphone 723 can process an external acoustic signal into electrical data.
  • the processed data can be utilized variously according to functions performed in the vehicle 700.
  • the microphone 723 can convert the voice command of the user into electrical data.
  • the converted electrical data may be transmitted to the ECU 770.
  • the user input unit 724 can receive information from the user. When information is input through the user input unit 724, the ECU 770 can control the operation of the vehicle 700 to correspond to the input information.
  • the user input unit 724 may include touch input means or mechanical input means. According to an embodiment, the user input 724 may be located in one area of the steering wheel. In this case, the driver can operate the user input portion 724 with his / her finger while holding the steering wheel.
  • the sensing unit 760 senses a signal related to the running or the like of the vehicle.
  • the sensing unit 760 may include a sensor, a wheel sensor, a speed sensor, a tilt sensor, a weight sensor, a heading sensor, a yaw sensor, a gyro sensor, It can include a position module, a vehicle forward / backward sensor, a battery sensor, a fuel sensor, a tire sensor, a steering sensor by steering wheel rotation, a vehicle internal temperature sensor, an internal humidity sensor, an ultrasonic sensor, a radar, have.
  • the sensing unit 760 can acquire the vehicle collision information, vehicle direction information, vehicle position information (GPS information), vehicle angle information, vehicle speed information, vehicle acceleration information, vehicle tilt information, , Fuel information, tire information, vehicle lamp information, vehicle interior temperature information, vehicle interior humidity information, steering wheel rotation angle, and the like.
  • the sensing unit 760 may include an acceleration pedal sensor, a pressure sensor, an engine speed sensor, an air flow sensor AFS, an intake air temperature sensor ATS, a water temperature sensor WTS, A sensor (TPS), a TDC sensor, a crank angle sensor (CAS), and the like.
  • the sensing unit 760 may include a biometric information sensing unit.
  • the biometric information sensing unit senses and acquires the biometric information of the passenger.
  • the biometric information may include fingerprint information, iris-scan information, retina-scan information, hand geo-metry information, facial recognition information, Voice recognition information.
  • the biometric information sensing unit may include a sensor that senses the passenger's biometric information.
  • the monitoring unit 725 and the microphones 723 may operate as sensors.
  • the biometric information sensing unit can acquire the hand shape information and the face recognition information through the monitoring unit 725.
  • the output unit 740 may include a display unit 741, an acoustic output unit 742, and a haptic output unit 743 as components for outputting information processed by the ECU 770.
  • the display unit 741 can display information processed by the ECU 770.
  • the display unit 741 can display the vehicle-related information.
  • the vehicle-related information may include vehicle control information for direct control of the vehicle, or vehicle driving assistance information for a driving guide to the vehicle driver.
  • the vehicle-related information may include vehicle state information indicating the current state of the vehicle or vehicle driving information related to the driving of the vehicle.
  • the display unit 741 may be a display unit 180 of the surround view system 100 or may be separately provided.
  • the display unit 741 may be a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED) display, a 3D display, and an e-ink display.
  • LCD liquid crystal display
  • TFT LCD thin film transistor-liquid crystal display
  • OLED organic light-emitting diode
  • the display unit 741 may have a mutual layer structure with the touch sensor or may be integrally formed to realize a touch screen.
  • This touch screen may function as a user input 724 that provides an input interface between the vehicle 700 and the user and may provide an output interface between the vehicle 700 and the user.
  • the display unit 741 may include a touch sensor that senses a touch with respect to the display unit 741 so that a control command can be received by a touch method.
  • the touch sensor senses the touch, and the ECU 770 generates a control command corresponding to the touch based on the touch.
  • the content input by the touch method may be a letter or a number, an instruction in various modes, a menu item which can be designated, and the like.
  • the display unit 741 may include a cluster so that the driver can check the vehicle state information or the vehicle driving information while driving.
  • Clusters can be located on the dashboard. In this case, the driver can confirm the information displayed in the cluster while keeping the line of sight ahead of the vehicle.
  • the display unit 741 may be implemented as a Head Up Display (HUD).
  • HUD Head Up Display
  • information can be output through a transparent display provided in the windshield.
  • the display unit 741 may include a projection module to output information through an image projected on the windshield.
  • the sound output unit 742 converts an electric signal from the ECU 770 into an audio signal and outputs it.
  • the sound output unit 742 may include a speaker or the like.
  • the sound output section 742 may output a sound corresponding to the operation input by the user input section 724.
  • the haptic output unit 743 generates a tactile output.
  • the haptic output section 743 may vibrate the steering wheel, the seat belt, and the seat so that the user can operate to recognize the output.
  • the vehicle drive unit 750 can control the operation of various devices and components included in the vehicle 700.
  • the vehicle driving unit 750 includes a power source driving unit 751, a steering driving unit 752, a brake driving unit 753, a lamp driving unit 754, an air conditioning driving unit 755, a window driving unit 756, an airbag driving unit 757, A driving unit 758 and a suspension driving unit 759.
  • the power source driving unit 751 can perform electronic control on the power source in the vehicle 700.
  • the power source drive unit 751 can perform electronic control of the engine.
  • the output torque of the engine and the like can be controlled.
  • the power source driving unit 751 is an engine
  • the speed of the vehicle can be limited by limiting the engine output torque under the control of the ECU 770.
  • the power source driving unit 751 can perform control on the motor.
  • the rotation speed, torque, etc. of the motor can be controlled.
  • the steering driver 752 may perform electronic control of a steering apparatus in the vehicle. Thus, the traveling direction of the vehicle can be changed.
  • the brake driver 753 can perform electronic control of a brake apparatus (not shown) in the vehicle. For example, it is possible to reduce the speed of the vehicle by controlling the operation of the brakes disposed on the wheels. As another example, it is possible to adjust the traveling direction of the vehicle to the left or right by differently operating the brakes respectively disposed on the left wheel and the right wheel.
  • the lamp driving unit 754 can control the turn-on / turn-off of the lamp disposed inside and outside the vehicle. Also, the intensity, direction, etc. of the light of the lamp can be controlled. For example, it is possible to perform control on a direction indicating lamp, a brake lamp, and the like.
  • the air conditioning driving unit 755 can perform electronic control on an air conditioner (not shown) in the vehicle. For example, when the temperature inside the vehicle is high, it is possible to control the air conditioner to operate so that the cool air is supplied to the interior of the vehicle 700.
  • the window driving unit 756 may perform electronic control of the window apparatus in the vehicle. For example, it may control the opening or closing of left and right windows of side 700 of the vehicle.
  • the airbag driving unit 757 can perform electronic control of the airbag apparatus in the vehicle. For example, in the event of an accident, the airbag can be controlled to fire.
  • the sunroof driving unit 758 can perform electronic control of a sunroof device (not shown) in the vehicle. For example, the opening or closing of the sunroof can be controlled.
  • the suspension driving unit 759 can perform electronic control on a suspension device (not shown) in the vehicle 700. [ For example, when there is a curvature on the road surface, it is possible to control the suspension device so as to reduce the vibration of the vehicle.
  • the memory 730 is electrically connected to the ECU 770.
  • the memory 730 may store basic data for the unit, control data for controlling the operation of the unit, and input / output data.
  • the memory 730 may be, in hardware, various storage media such as ROM, RAM, EPROM, flash drive, hard drive, and the like.
  • the memory 730 may store various data for operation throughout the vehicle, such as a program for processing or controlling the ECU 770.
  • the interface unit 780 may serve as a pathway to various kinds of external devices connected to the vehicle 700.
  • the interface unit 780 may include a port that can be connected to the mobile terminal 600, and may be connected to the mobile terminal 600 through the port. In this case, the interface unit 780 can exchange data with the mobile terminal 600.
  • the interface unit 780 may serve as a channel for supplying electrical energy to the connected mobile terminal 600.
  • the interface unit 780 provides electric energy supplied from the power supply unit 790 to the mobile terminal 600 under the control of the ECU 770 when the mobile terminal 600 is electrically connected to the interface unit 780 .
  • the ECU 770 can control the overall operation of each component in the vehicle 700.
  • the ECU 770 may be referred to as an ECU (Electronic Control Unit).
  • the ECU 770 can perform a function corresponding to the transmitted signal in accordance with the execution signal transmission of the surround view system 100.
  • ECU 770 may be implemented in hardware as application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays (FPGAs) Controllers, micro-controllers, microprocessors, and other electronic units for performing other functions.
  • ASICs application specific integrated circuits
  • DSPs digital signal processors
  • DSPDs digital signal processing devices
  • PLDs programmable logic devices
  • FPGAs field programmable gate arrays Controllers
  • micro-controllers microprocessors, and other electronic units for performing other functions.
  • the controller or microprocessor may be a device separate from the processor 170 included in the surround view system 100.
  • the power supply unit 790 can supply power necessary for the operation of each component under the control of the ECU 770. [ In this case, the power supply unit 790 can receive power from a battery (not shown) or the like inside the vehicle.
  • AVN (Audio Video Navigation) device 400 can exchange data with ECU 770.
  • ECU 770 can receive navigation information from AVN device 400 or a separate navigation device (not shown).
  • the navigation information may include set destination information, route information according to the destination, map information related to driving the vehicle, or vehicle location information.
  • the surround view image may include first through fourth composite regions 301, 303, 305, and 307. Such an ambient view image can be displayed on the display unit 180.
  • the first synthesis region 301 may be generated based on the forward image acquired by the first camera 160a installed in front of the vehicle 700.
  • the second combined area 303 may be generated based on the left image acquired by the second camera 160b installed on the right side of the vehicle 700.
  • the third composite area 305 may be generated based on the backward image acquired by the third camera 160c installed at the rear of the vehicle 700.
  • the fourth composite region 307 may be generated based on the left image acquired by the fourth camera 160d installed on the left side of the vehicle 700.
  • the images of the respective composite areas 301, 303, 305, and 307 may be different from the images obtained from the first to fourth cameras 160a, 160b, 160c, and 160d.
  • the images obtained from the first to fourth cameras 160a, 160b, 160c, and 160d are images input through the lenses of the cameras 160a, 160b, 160c, and 160d, Can be displayed.
  • the images of the respective composite areas 301, 303, 305, and 307 may be images obtained by changing the forward view of the image obtained from the first to fourth cameras 160a, 160b, 160c, and 160d to the top view view .
  • the object of the image obtained from the specific camera among the first to fourth cameras 160a, 160b, 160c, and 160d is a standing person
  • the person who is an object in the composite area generated from the obtained image is not standing It can be seen as lying.
  • the first to fourth composite regions 301, 303, 305, and 307 may be disposed adjacent to each other with respect to the boundary lines 311, 313, 315, and 317.
  • the first combining area 301 and the second combining area 303 may be disposed adjacent to each other with respect to the first boundary line 311.
  • the second combining area 303 and the third combining area 305 may be disposed adjacent to each other with the second boundary line 313 as a center.
  • the third composite region 305 and the fourth composite region 307 may be disposed adjacent to each other around the third boundary line 315.
  • the fourth composite region 307 and the first composite region 301 may be disposed adjacent to each other with respect to the fourth boundary line 317 as a center.
  • the surround view image can be generated based on the composite information stored in the memory 140.
  • the compositing information includes the range information of the first to fourth composing regions 307 generated from each of the images from the first to fourth cameras 160a, 160b, 160c, and 160d, Boundary line information about the boundary between the information can be stored in the memory 140 as composite information.
  • the boundary line information may be set to the positions of the first to fourth boundary lines 311, 313, 315, and 317.
  • the range information of the combining area can be set to the range of each of the combining areas 301, 303, 305, and 307.
  • the processor 170 generates the composite images 301, 303, 305, and 307 from the images obtained from the first to fourth cameras 160a, 160b, 160c, and 160d based on the composite information range information and the boundary information. And synthesize the respective synthesis areas 301, 303, 305, and 307 to generate the surround view image.
  • the generated surround view image can be displayed on the display unit 180 as it is in the normal mode.
  • the processor 170 extracts, from the images obtained from the first to fourth cameras 160a, 160b, 160c, and 160d based on the range information and the boundary information of the combined area set in the boundary information, 313, 315, and 317, and generates an arousal view image including the first through fourth composite regions 301, 303, 305, and 307 based on the extracted image.
  • the images obtained from the first to fourth cameras 160a, 160b, 160c, and 160d and the first to fourth composite areas 301, 303, 305, and 307 are different from each other.
  • FIG 5 shows an overall workplace for camera calibration according to an embodiment.
  • the workplace may largely include an assembly facility 200, a camera calibration field 230, and an inspection facility 250.
  • a workshop may be, for example, a vehicle factory that the vehicle manufacturer takes, but the present invention is not limited thereto.
  • the assembly facility 200 may be a place where the vehicle 700 is assembled and manufactured.
  • Inspection facility 250 may be a place to test various capabilities of vehicle 700 prior to dispatch of manufactured vehicle 700.
  • the camera correction field 230 may be a place where the camera correction method described later is performed. The camera correction field 230 may be located between the assembly facility 200 and the inspection facility.
  • the embodiment may be configured to pass through the camera correction field 230 before the vehicle 700 is assembled in the assembly facility 200 and then moved to the inspection facility 250.
  • the camera calibration field 230 may be located at the next stage of the inspection facility 250, but this is not limiting.
  • the calibration of the cameras 160a, 160b, 160c and 160d according to the embodiment must be performed before the vehicle 700 is shipped to the customer. Accordingly, the customer who has delivered the vehicle 700 does not need to separately perform the work for correcting the cameras 160a, 160b, 160c, and 160d, thereby greatly improving the customer service satisfaction.
  • the correction of the cameras 160a, 160b, 160c, and 160d is performed in the same environment in the standardized camera correction field 230 located in the vehicle manufacturer, a correction error is not generated between the camera- Complaints can be minimized.
  • a plurality of pattern members 231a, 231b, 233a, 233b, 235a, and 235b may be positioned on the camera correcting field 230.
  • the pattern members 231a, 231b, 233a, 233b, 235a, and 235b may be made of a sheet and attached to the ground of the camera correcting field 230.
  • the pattern members 231a, 231b, 233a, 233b, 235a, and 235b may be color coated or painted on the ground of the camera correcting field 230.
  • Each of the pattern members 231a, 231b, 233a, 233b, 235a, and 235b may include a plurality of patterns 240. 5, each of the pattern members 231a, 231b, 233a, 233b, 235a, and 235b has a rectangular shape and the pattern 240 has a circular shape, but the present invention is not limited thereto.
  • a pattern member may be provided which is arranged long along both sides of the vehicle 700 along the running direction of the vehicle 700. [ That is, a first pattern member is provided along the traveling direction of the vehicle 700 on the left side of the vehicle 700, and a second pattern member is provided along the traveling direction of the vehicle 700 on the right side of the vehicle 700 .
  • the pattern members 231a, 231b, 233a, 233b, 235a, and 235b may be located on both sides of the camera correcting field 230.
  • the vehicle 700 can be run in a linear direction between the pattern members 231a, 231b, 233a, 233b, 235a, and 235b positioned on both sides.
  • At least one guide line for guiding the straight running of the vehicle 700 may be displayed in the camera correction field 230, but the present invention is not limited thereto.
  • at least the first and second guide lines, which are larger than the width of the vehicle 700, are displayed on the ground of the camera correcting field 230, and the vehicle 700 is moved in the straight direction .
  • the linear direction may be a direction parallel to the first and second guide lines displayed in the camera correcting field 230.
  • the width of the camera correcting field 230 may be greater than the sum of the width of the vehicle 700 and the width of the pattern members 231a, 231b, 233a, 233b, 235a, and 235b located on both sides of the vehicle 700.
  • the length of the camera correcting field 230 may have a minimum length at which the vehicle 700 can be driven so that the cameras 160a, 160b, 160c and 160d can be corrected.
  • the length of the camera correction field 230 may be 5 m or more.
  • the length of the camera correction field 230 may be, for example, 6 m to 10 m.
  • 160b, 160c, 160d (160a, 160b, 160c, 160d) from the vehicle 700 while entering one side of the camera correcting field 230 and traveling along the first and second guide lines and then exiting to the other side of the camera correcting field 230 )
  • correction of the cameras 160a, 160b, 160c, and 160d in the surround view system 100 mounted on the vehicle 700 can be performed.
  • the correction of the cameras 160a, 160b, 160c, and 160d can be performed in the processor included in the surround view system.
  • FIG. 6 is a flowchart for explaining the camera calibration method according to the embodiment
  • Fig. 7 is a flowchart for explaining details of S20 in Fig. 6
  • Fig. 8 is a flowchart for explaining details of S30 in Fig. 6,
  • the processor 170 of the surrounding view system 100 includes a plurality of cameras 160a, 160b, 160c, and 160d that include pattern information obtained by each of a plurality of cameras 160a, 160b, 160c, An image can be received (S10).
  • the cameras 160a, 160b, 160c, and 160d may be mounted along the perimeter of the vehicle 700.
  • the cameras 160a, 160b, 160c, and 160d may be mounted on the front, rear, left, and right sides of the vehicle 700.
  • the first camera 160a may be mounted in front of the vehicle 700, for example, in the vicinity of an ambulance, or in the vicinity of the radiator grille, and may capture a forward image by photographing ahead of the traveling direction.
  • the second camera 160b may be mounted in a case surrounding the right side mirror so that the right side image can be obtained by photographing the subject in the right side direction.
  • the third camera 160c may be mounted to the rear of the vehicle 700, for example, in the vicinity of a rear license plate or a trunk switch, and may photograph a rear side in the traveling direction to acquire a rear image.
  • the fourth camera 160d may be mounted in a case surrounding the left side mirror so that the left side image can be obtained by photographing the left side subject.
  • a camera may be additionally provided in addition to the first to fourth cameras 160a, 160b, 160c, and 160d as necessary.
  • the running of the vehicle 700 and the correction of the cameras 160a, 160b, 160c and 160d can be interlocked. That is, the correction operation of the cameras 160a, 160b, 160c, and 160d can be performed simultaneously with the driving of the vehicle 700.
  • the sensing signal may be transmitted to the processor 170.
  • the processor 170 may activate the correction functions of the cameras 160a, 160b, 160c, and 160d in response to the sensing signals. Accordingly, power is supplied to a plurality of cameras 160a, 160b, 160c, and 160d mounted on the periphery of the vehicle 700, and corresponding images can be acquired from the cameras 160a, 160b, 160c, and 160d.
  • the correction functions of the cameras 160a, 160b, 160c and 160d can be activated. Accordingly, it is possible to acquire images of the object including the pattern members 231a, 231b, 233a, 233b, 235a, and 235b disposed on both sides of the vehicle 700 from the cameras 160a, 160b, 160c, and 160d have.
  • the pattern members 231a, 231b, 233a, 233b, 235a, and 235b can be recognized as pattern information by the processor 170.
  • each camera 160a, 160b, 160c, 160d transmits an image of a subject including the pattern members 231a, 231b, 233a, 233b, 235a, 235b to the processor 170
  • the cameras 160a, 160b, 160c and 160d generate pattern information corresponding to the pattern members 231a, 231b, 233a, 233b, 235a and 235b from the obtained images, (170).
  • the pattern information may include three pieces of rotation angle information (Roll, Pitch, Yaw) and three pieces of axis information (X, Y, Z).
  • Roll, Pitch, Yaw three pieces of rotation angle information
  • X, Y, Z three pieces of axis information
  • a roll is defined as an angle rotated about the X axis
  • a pitch is defined as an angle rotated about the Y axis
  • a yaw can be defined as an angle rotated about the Z axis have.
  • the X axis may be the longitudinal direction of the vehicle 700
  • the Y axis may be the lateral direction of the vehicle 700
  • the Z axis may be the vertical direction of the vehicle 700.
  • the processor 170 may calculate the first parameter based on the pattern information of the received image (S20). For example, the first parameter can be calculated based on the rotation angle information and the axis information of the pattern information.
  • the pattern information may include three pieces of rotation angle information (Roll, Pitch, Yaw) and three pieces of axis information (X, Y, Z).
  • the processor 170 can extract rotation angle information and axis information from the pattern information (S22). Coordinate information of the pattern members 231a, 231b, 233a, 233b, 235a, and 235b can be grasped, for example, by the axis information.
  • the distortion information of the pattern members 231a, 231b, 233a, 233b, 235a, and 235b can be grasped by the rotation angle information.
  • the roll value, the pitch value, and the yaw value can all be zero.
  • the roll value or the pitch value becomes zero, but the yaw value may exist.
  • the linear direction may be a direction parallel to the first and second guide lines displayed in the camera correcting field 230.
  • the processor 170 may calculate the first external parameter based on the extracted rotation angle information and axis information (S25).
  • the external parameter is a parameter that describes the conversion relationship between the coordinate system of the cameras 160a, 160b, 160c, and 160d and the world coordinate system, and may be expressed as a rotation between the two coordinate systems and a translation transformation . Since the external parameters are not inherent parameters of the cameras 160a, 160b, 160c, and 160d, depending on the position in which the cameras 160a, 160b, 160c, and 160d are installed and in what direction and also depending on how the world coordinate system is defined It can be different. The technique of calculating the parameters by using the rotation angle information and the axis information is well known, and a detailed description thereof will be omitted.
  • the processor 170 may calculate the locus information of the vehicle 700 based on pattern information of an image received frame by frame (S30).
  • the locus information of the vehicle 700 can not be calculated as the pattern information of the image obtained in one frame. That is, the locus information of the vehicle 700 can be calculated from pattern information of an image obtained by at least two or more frames.
  • the processor 170 may extract the rotation angle information and the axis information from each of the pattern information of the image received on a frame-by-frame basis (S32).
  • the cameras 160a, 160b, 160c, and 160d can photograph the pattern members 231a, 231b, 233a, 233b, 235a, and 235b of the camera correction field 230 in units of 16.67 ms, Do not.
  • the frame unit may be 16.67 ms. That is, the cameras 160a, 160b, 160c, and 160d can capture images of the pattern members 231a, 231b, 233a, 233b, 235a, and 235b every 16.67ms.
  • an image including pattern information may be obtained from each camera 160a, 160b, 160c, and 160d on a frame basis.
  • the image including the pattern information of the frame unit obtained as described above may be transmitted to the processor 170.
  • the processor 170 can extract the rotation angle information and the axis information from each of the pattern information included in the frame-by-frame image transmitted in this way.
  • the processor 170 may compare the rotation angle information and the axis information extracted on a frame-by-frame basis with the rotation angle information and the axis information of the setting pattern information (S34).
  • the setting pattern information can be acquired and set at the time of traveling in a straight line between a plurality of pattern members 231a, 231b, 233a, 233b, 235a, and 235b placed on the ground around the vehicle 700 .
  • This setting pattern information is set in the memory 140 of the surrounding view system 100 before the vehicle 700 is driven, for example, when the vehicle 700 is installed in the assembly facility 200, that is, And stored.
  • Such setting pattern information can be obtained through a plurality of driving tests in a straight line direction.
  • the setting pattern information may be set to be the same for every vehicle 700 assembled in the assembly facility 200.
  • the linear direction may be a direction parallel to the first and second guide lines displayed in the camera correcting field 230.
  • the setting pattern information may include three pieces of rotation angle information (Roll, Pitch, Yaw) and three pieces of axis information (X, Y, Z).
  • the three rotation angle information and the axis information of the setting pattern information can be set on a frame-by-frame basis. Therefore, the rotation angle information of the setting pattern information set on a frame-by-frame basis and the rotation angle information and the axis information of the pattern information actually obtained while the vehicle 700 is traveling can be compared with the axis information on a one-to-one basis.
  • the rotation angle information of the pattern information obtained during the first frame is compared with the rotation angle information of the setting pattern information set for the first frame, and the axis information of the pattern information acquired during the first frame and the setting The axis information of the pattern information can be compared.
  • the rotation angle information of the pattern information obtained during the second frame is compared with the rotation angle information of the setting pattern information set for the second frame, and the axis information of the pattern information obtained during the second frame and the setting The axis information of the pattern information can be compared.
  • the rotation angle information of the obtained pattern information is compared with the rotation angle information of the setting pattern information on a frame-by-frame basis, and the axis information of the obtained pattern information and the axis information of the setting pattern information are compared on a frame-by-frame basis .
  • the processor 170 may calculate the locus information of the vehicle 700 through this comparison (S36). That is, the processor 170 can calculate the trajectory information of the vehicle 700 on the basis of the difference between the rotation angle information extracted in units of frames, the rotation angle information of the axis information, the setting pattern information, and the axis information.
  • the difference between the rotation angle information extracted in units of frames and the rotation angle information and the axis information of the axis information and the setting pattern information it may mean that the vehicle 700 is deviated from the linear direction without traveling in the linear direction.
  • the difference between the rotation angle information extracted in frame units and the rotation angle information and the axis information of the axis information and the setting pattern information increases as the vehicle 700 continues to travel, the deviation of the vehicle 700 from the linear direction
  • the width can be increased.
  • the trajectory of the vehicle 700 can be tracked by comparing the pattern information obtained from the cameras 160a, 160b, 160c, and 160d on a frame-by-frame basis with the setting pattern information.
  • the sign information of the vehicle 700 may include departure width information on a frame basis, but the present invention is not limited thereto.
  • the processor 170 may calculate the second parameter by correcting the first parameter based on the locus information of the vehicle 700 (S40).
  • the first parameter may be corrected on a frame-by-frame basis.
  • the first parameter may be corrected on a constant interval basis including a plurality of frames.
  • the departing width of the vehicle 700 is reflected in the first parameter, so that the second parameter can be calculated.
  • the processor 170 can determine whether the locus of the vehicle 700 coincides with the straight line direction (S42).
  • the first parameter does not need to be corrected since the vehicle 700 does not deviate from the predetermined trajectory. That is, the first parameter may be maintained at the value calculated in the previous frame (S44).
  • the processor 170 can determine whether the trajectory of the vehicle 700 is within the set departure range (S46).
  • the set departure range may be the maximum departure range in which the cameras 160a, 160b, 160c, and 160d can be corrected. Accordingly, when the trajectory of the vehicle 700 deviates from this maximum departure range, the processor 170 may output a warning via voice or a screen (S50).
  • the processor 170 may calculate the second parameter by calculating the first parameter (S48).
  • the second parameter can be corrected differently depending on the range of departure in which the locus of the vehicle 700 departs from the linear direction.
  • the embodiment can be applied to a movable mobile object.
  • a moving body there is a vehicle or the like.

Abstract

차량의 지면 상에 놓여진 복수의 패턴 부재를 이용하여 카메라를 보정하기 위한 방법은 주행 중인 차량의 둘레에 배치된 복수의 카메라를 이용하여 복수의 패턴 부재의 패턴 정보를 수신하고, 패턴 정보를 바탕으로 제1 파라미터를 산출하고, 패턴 정보를 이용하여 차량의 궤적 정보를 산출하며, 차량의 상기 궤적 정보를 바탕으로 제1 파라미터를 보정하여 제2 파라미터를 산출할 수 있다.

Description

카메라 보정 방법 및 장치
실시예는 카메라 보정 방법 및 장치에 관한 것이다.
차량은 사람 또는 화물을 운송할 목적으로 차륜을 구동시켜 주행하는 모든 장치이다. 차량의 일반적인 예로 자동차를 들 수 있다.
자동차는 사용되는 원동기의 종류에 따라, 내연기관(internal combustion engine) 자동차, 외연기관(external combustion engine) 자동차, 가스터빈(gas turbine) 자동차 또는 전기자동차(electric vehicle) 등으로 분류될 수 있다.
전기자동차는 전기를 에너지원으로 사용하여 전기 모터를 구동시키는 자동차로서, 다시 순수 전기자동차, 하이브리드 전기차(Hybrid Electric Vehicle: HEV), 플러그인 하이브리드 전기차(Plug-in Hybrid Electric Vehicle: PHEV), 수소연료전지차(Fuel Cell Electric Vehicle: FCEV) 등으로 분류될 수 있다.
최근 운전자와 보행자의 안전이나 편의를 위해 지능형 자동차(Smart Vehicle)의 개발 및 상용화가 활발히 진행되고 있다. 지능형 자동차는 정보통신기술(Information Technology: IT)을 융합한 최첨단 자동차로, 자동차 자체의 첨단 시스템 도입은 물론 지능형 교통 시스템과의 연동을 통해 최적의 교통 효율을 제공한다. 구체적으로, 지능형 자동차는, 자동 주행 기능, 적응식 정속주행 제어(Adaptive Cruise Control: ACC), 장애물 감지, 충돌 감지, 정밀한 지도 제공, 목적지까지의 경로 설정 및 주요 장소에 대한 위치 제공 등을 수행함으로써, 운전자와 탑승자 및 보행자의 안전과 편의를 극대화한다.
이와 같이 운전자와 탑승자 및 보행자의 안전과 편의를 극대화하기 위한 장치 중 하나로서 어라운드뷰 제어장치가 주목 받고 있다.
어라운드뷰 제어장치는 카메라를 이용하여 차량을 중심으로 어라운드뷰 영상을 제공하는 것으로서, 운전자는 어라운드뷰 영상을 통해 차량 주변을 실시간으로 살펴볼 수 있다.
어라운드뷰 영상은 서로 다른 방향에서 획득된 카메라의 영상을 합성하여 생성되기 때문에, 인접하는 영상 사이의 정합이 매우 중요하다.
하지만, 차량 제조사로부터 제조된 차량은 카메라 보정이 진행되지 않아, 인접하는 영상 사이의 정합이 어긋나는 문제로 이어진다. 정합이 어긋나는 것은 부정합을 의미한다.
이와 같이 영상 사이의 정합이 어긋나는 경우, 카메라의 보정 작업이 요구된다.
실시예는 전술한 문제 및 다른 문제를 해결하는 것을 목적으로 한다.
실시예의 다른 목적은 새로운 방식의 카메라 보정 방법 및 장치를 제공한다.
실시예의 또 다른 목적은 출고 전, 즉 차량 제조사에서 차량 제조와 동시에 카메라 보정이 가능한 카메라 보정 방법 및 장치를 제공한다.
실시예의 또 다른 목적은 주행만으로 간단히 카메라 보정이 가능한 카메라 보정 방법 및 장치를 제공한다.
실시예의 또 다른 목적은 별도의 추가 디바이스 없이 카메라 보정이 가능한 카메라 보정 방법 및 장치를 제공한다.
상기 또는 다른 목적을 달성하기 위해 실시예의 일 측면에 따르면, 복수의 패턴 부재를 이용하여 카메라를 보정하는 방법은, 주행 중인 차량의 둘레에 배치된 복수의 카메라를 이용하여 복수의 패턴 부재의 패턴 정보를 수신하는 단계; 수신된 상기 패턴 정보를 바탕으로 제1 파라미터를 산출하는 단계; 상기 패턴 정보를 이용하여 상기 차량의 궤적 정보를 산출하는 단계; 및 상기 차량의 상기 궤적 정보를 바탕으로 상기 제1 파라미터를 보정하여 제2 파라미터를 산출하는 단계를 포함한다.
실시예의 다른 측면에 따르면, 차량의 둘레에 장착된 복수의 카메라; 및 프로세서를 포함한다. 상기 프로세서는, 복수의 패턴 부재가 배치된 지면을 주행 중인 상기 복수의 카메라에 의해 획득된 상기 복수의 패턴 부재의 패턴 정보를 수신하고, 상기 패턴 정보를 바탕으로 제1 파라미터를 산출하고, 상기 패턴 정보를 바탕으로 상기 차량의 궤적 정보를 산출하며, 상기 차량의 상기 궤적 정보를 바탕으로 상기 제1 파라미터를 보정하여 제2 파라미터를 산출한다.
실시예에 따른 카메라 보정 방법 및 장치의 효과에 대해 설명하면 다음과 같다.
실시예들 중 적어도 하나에 의하면, 차량이 출고되기 전에 카메라가 보정됨으로써, 차량(700)을 인도받은 고객은 별도로 카메라의 보정을 위한 작업을 수행할 필요가 없으므로, 고객 서비스 만족도를 대폭 향상시킬 수 있고, 차량 제조사에 위치된 표준화된 카메라 보정용 필드에서 동일한 환경에서 카메라의 보정이 이루어지므로, 차량 제조사에서 카메라 보정된 차량 간에 보정 오차가 발생되지 않아 고객 불만을 최소화할 수 있다는 장점이 있다.
실시예들 중 적어도 하나에 의하면, 카메라의 보정을 위해 카메라 보정용 필요에서 주행시 차량의 궤적이 이탈되는 경우, 제1 파라미터가 보정되어 2 파라미터가 산출되고, 이러한 제2 파라미터를 이용하여 어라운드뷰 영상이 생성되거나 업데이트될 수 있다. 이에 따라, 각 카메라로부터 획득되는 인접하는 영상 사이의 경계면에서의 부정합이 제거되어, 화면에 디스플레이되는 어라운드뷰 영상이 운전자에게 거슬리지 않게 되어 고객 만족도가 향상될 수 있다는 장점이 있다.
실시예의 적용 가능성의 추가적인 범위는 이하의 상세한 설명으로부터 명백해질 것이다. 그러나 실시예의 사상 및 범위 내에서 다양한 변경 및 수정은 당업자에게 명확하게 이해될 수 있으므로, 상세한 설명 및 바람직한 실시예와 같은 특정 실시예는 단지 예시로 주어진 것으로 이해되어야 한다.
도 1은 실시예에 따른 어라운드뷰 시스템의 구성을 도시한 블록도이다.
도 2a는 실시예에 따른 어라운드뷰 시스템을 구비하는 차량의 외관을 도시한 도면이다.
도 2b는 실시예에 따른 어라운드뷰 시스템에 포함되는 센서부가 차량에 배치된 모습을 도시한다.
도 3은 실시예에 따른 어라운드뷰 시스템을 포함하는 차량의 구성을 도시한 블록도이다.
도 4는 어라운드뷰 영상을 도시한다.
도 5는 실시예에 따른 카메라 보정을 위한 전체적인 작업장을 도시한다.
도 6은 실시예에 따른 카메라 보정 방법을 설명하는 순서도이다.
도 7은 도 6의 S20을 상세히 설명하는 순서도이다.
도 8은 도 6의 S30을 상세히 설명하는 순서도이다.
도 9는 도 6의 S40을 상세히 설명하는 순서도이다.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명한다. 다만, 본 발명의 기술 사상은 설명되는 일부 실시 예에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있고, 본 발명의 기술 사상 범위 내에서라면, 실시 예들간 그 구성 요소들 중 하나 이상을 선택적으로 결합, 치환하여 사용할 수 있다. 또한, 본 발명의 실시예에서 사용되는 용어(기술 및 과학적 용어를 포함)는, 명백하게 특별히 정의되어 기술되지 않는 한, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 일반적으로 이해될 수 있는 의미로 해석될 수 있으며, 사전에 정의된 용어와 같이 일반적으로 사용되는 용어들은 관련 기술의 문맥상의 의미를 고려하여 그 의미를 해석할 수 있을 것이다. 또한, 본 발명의 실시예에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함할 수 있고, “A, B 및(와) C 중 적어도 하나(또는 한 개 이상)”로 기재되는 경우 A, B, C로 조합할 수 있는 모든 조합 중 하나 이상을 포함할 수 있다. 또한, 본 발명의 실시 예의 구성 요소를 설명하는 데 있어서, 제1, 제2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등으로 한정되지 않는다. 그리고, 어떤 구성 요소가 다른 구성요소에 '연결', '결합' 또는 '접속'된다고 기재된 경우, 그 구성 요소는 그 다른 구성요소에 직접적으로 연결, 결합 또는 접속되는 경우 뿐만아니라, 그 구성 요소와 그 다른 구성요소 사이에 있는 또 다른 구성 요소로 인해 '연결', '결합' 또는 '접속＇되는 경우도 포함할 수 있다. 또한, 각 구성 요소의 " 상(위) 또는 하(아래)"에 형성 또는 배치되는 것으로 기재되는 경우, 상(위) 또는 하(아래)는 두개의 구성 요소들이 서로 직접 접촉되는 경우 뿐만아니라 하나 이상의 또 다른 구성 요소가 두 개의 구성 요소들 사이에 형성 또는 배치되는 경우도 포함한다. 또한 “상(위) 또는 하(아래)”으로 표현되는 경우 하나의 구성 요소를 기준으로 위쪽 방향뿐만 아니라 아래쪽 방향의 의미도 포함할 수 있다.
본 명세서에서 기술하는 차량은, 자동차와 오토바이 등 모든 종류의 차량을 포함할 수 있다. 이하에서는, 자동차인 경우를 예로 들어 설명한다.
또한, 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다.
이하에서, 차량의 좌측은 차량의 주행방향을 기준으로 좌측을 의미하고, 차량의 우측은 차량의 주행 방향을 기준으로 우측을 의미한다. 이하의 설명에서는 별도의 언급이 없는 한, 차량은 핸들이 좌측에 위치한 Left Hand Drive (LHD) 차량을 의미한다.
본 명세서에서 설명하는 어라운드뷰 시스템은 차량에 구비되는 별도의 장치로서, 차량과의 데이터 통신을 통해 필요한 정보를 주고 받으며 차량 주변의 오브젝트에 대한 어라운드뷰 영상을 제공하여 주는 장치로 정의한다. 어라운드뷰 시스템은 제조사에 의해 차량에 장착되어 출하될 수 있고, 차량 출하 후 운전자나 제3 자에 의해 장착될 수도 있다. 그러나, 실시예에 따라, 어라운드뷰 시스템은 차량의 구성요소들 중 일부의 집합으로 이루어져, 차량의 일부를 구성할 수도 있다.
어라운드뷰 영상은 차량 주변을 보여주는 영상으로서, 탑뷰(top view) 또는 버드뷰(bird view)라고 명명될 수도 있다. 이러한 어라운드뷰 영상은 서로 다른 방향으로부터 획득된 영상을 바탕으로 생성될 수 있다.
어라운드뷰 시스템이 별도의 장치일 때, 어라운드뷰 시스템의 각 구성요소들(도 1 참조) 중 적어도 일부는 어라운드뷰 시스템에 포함되지 않고, 차량 또는 차량에 탑재된 다른 장치에 포함되는 외부 구성요소일 수 있다. 이러한 외부 구성요소들은, 어라운드뷰 시스템의 인터페이스부를 통해 데이터를 송수신함으로써, 어라운드뷰 시스템을 구성하는 것으로 이해할 수 있다.
설명의 편의를 위하여, 본 명세서에서는 어라운드뷰 시스템이 도 1에 도시된 각 구성요소들을 직접 포함하는 것으로 설명한다.
이하, 첨부한 도면들을 참조하여 실시예에 따른 어라운드뷰 시스템에 대해 상세히 설명한다.
도 1은 실시예에 따른 어라운드뷰 시스템의 구성을 도시한 블록도이다.
도 1을 참조하면, 어라운드뷰 시스템(100)는 센싱부(155) 및 프로세서(170)를 포함할 수 있다. 또한, 실시예에 따른 어라운드뷰 시스템(100)는, 입력부(110), 통신부(120), 인터페이스부(130), 메모리(140), 모니터링 부(165), 디스플레이부(180), 오디오 출력부(185) 및 전원 공급부(190) 중 적어도 하나 이상을 더 포함할 수 있다. 다만, 도 1에 도시된 구성요소들은 어라운드뷰 시스템(100)를 구현하는데 있어서 필수적인 것은 아니어서, 실시예에 따른 어라운드뷰 시스템(100)는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다.
각 구성에 대해 상세히 설명하면, 입력부(110)는 사용자의 입력을 감지할 수 있다. 예를 들어, 사용자는, 입력부(110)를 통해 어라운드뷰 시스템(100)가 제공하는 어라운드뷰 영상에 대한 설정을 입력하거나, 어라운드뷰 시스템(100)의 전원을 온(on)/오프(off)시키는 실행 등을 입력할 수 있다.
이러한 입력부(110)는 사용자의 제스처를 감지하는 제스처 입력부(예를 들어, optical sensor 등), 터치를 감지하는 터치 입력부(예를 들어, 터치 센서(touch sensor), 터치키(touch key), 푸시키(mechanical key) 등) 및 음성 입력을 감지하는 마이크로폰(microphone) 중 적어도 하나 이상을 포함하여, 사용자 입력을 감지할 수 있다.
통신부(120)는 타 차량(510), 이동 단말기(600) 및 서버(500) 등과 통신을 수행할 수 있다.
이 경우, 어라운드뷰 시스템(100)는, 통신부(120)를 통해 네비게이션 (Navigation) 정보, 타 차량 주행정보 및 교통 정보 중 적어도 하나의 정보를 수신할 수 있다. 또한, 어라운드뷰 시스템(100)는, 통신부(120)를 통해 해당 어라운드뷰 시스템(100)가 구비된 자 차량에 대한 정보를 송신할 수 있다.
구체적으로, 통신부(120)는 이동 단말기(600) 또는/및 서버(500)로부터 위치 정보, 날씨 정보 및 도로교통상황 정보(예를 들면, TPEG(Transport Protocol Expert Group) 등) 중 적어도 하나의 정보를 수신할 수 있다.
또한, 통신부(120)는 지능형 교통 시스템(ITS)을 갖춘 서버(500)로부터 교통 정보를 수신할 수 있다. 여기서, 교통 정보는 교통 신호 정보, 차선 정보, 차량 주변 정보 또는 위치 정보 등을 포함할 수 있다.
통신부(120)는 이동 단말기(600) 또는/및 서버(500)에 네비게이션 정보를 송신할 수 있다. 여기서, 네비게이션 정보는, 차량 주행과 관련된 지도 정보, 차선 정보, 차량의 위치 정보, 설정된 목적지 정보 및 목적지에 따른 경로 정보 중 적어도 하나 이상을 포함할 수 있다.
예를 들어, 통신부(120)는 네비게이션 정보로 차량의 실시간 위치를 수신할 수 있다. 구체적으로, 통신부(120)는 GPS(Global Positioning System) 모듈 또는/및 WiFi(Wireless Fidelity) 모듈을 포함하여 차량의 위치를 획득할 수 있다.
또한, 통신부(120)는, 타 차량(510)으로부터 타 차량(510)의 주행정보를 수신하고 자 차량의 정보를 타 차량(510)에 송신하여, 차량간 주행정보를 서로 공유할 수 있다. 여기서, 서로 공유하는 주행정보는, 차량의 이동방향 정보, 위치 정보, 차속 정보, 가속도 정보, 이동경로 정보, 전진/후진 정보, 인접차량 정보 및 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
또한, 사용자가 차량에 탑승한 경우, 사용자의 이동 단말기(600)와 어라운드뷰 시스템(100)는 자동으로 또는 사용자의 애플리케이션 실행에 의해 서로간에 페어링(pairing)을 수행할 수 있다.
이러한 통신부(120)는 타 차량(510), 이동 단말기(600) 또는 서버(500)와 무선(wireless) 방식으로 데이터를 교환할 수 있다.
자세히, 통신부(120)는 무선 데이터 통신 방식을 이용하여 무선 통신을 수행할 수 있다. 무선 데이터 통신 방식으로는 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)을 이용할 수 있다.
또한, 통신부(120)는 무선 인터넷 기술을 이용할 수 있으며, 예를 들어, 무선 인터넷 기술로 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등을 이용할 수 있다.
또한, 통신부(120)는 근거리 통신(Short range communication)을 이용할 수 있으며, 예를 들어, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
또한, 어라운드뷰 시스템(100)는 근거리 통신 방식을 이용하여 차량 내부의 이동 단말기(600)와 페어링(paring)하고, 이동 단말기(600)의 장거리 무선 통신 모듈을 이용하여 타차량(510) 또는 서버(500) 등과 무선으로 데이터를 교환할 수도 있다.
인터페이스부(130)는 차량을 전체적으로 제어하는 ECU(Electronic Control Unit, 770)으로부터 데이터를 수신하거나 프로세서(170)에서 처리 또는 생성된 신호를 외부로 전송하는 등, 어라운드뷰 시스템(100)의 내 외부 간 인터페이스를 수행할 수 있다.
구체적으로, 어라운드뷰 시스템(100)는 인터페이스부(130)를 통해 차량 주행정보, 네비게이션 정보 및 센싱정보 중 적어도 하나의 정보를 수신할 수 있다.
또한, 어라운드뷰 시스템(100)는 인터페이스부(130)를 통해 어라운드뷰의 실행을 위한 제어 신호나, 어라운드뷰 시스템(100)에서 생성한 정보 등을 차량의 ECU(770)에 송신할 수 있다.
이를 위해, 인터페이스부(130)는 유선 통신 또는 무선 통신 방식에 의해 차량 내부의 ECU(770), AVN(Audio Video Navigation) 장치(400) 및 센싱부 (760) 중 적어도 하나와 데이터 통신을 수행할 수 있다.
구체적으로, 인터페이스부(130)는 ECU(770), AVN 장치(400) 또는/및 별도의 네비게이션 장치(미도시)와의 데이터 통신에 의해 네비게이션 정보를 수신할 수 있다.
또한, 인터페이스부(130)는 ECU(770) 또는 센싱부(760)로부터 센싱정보를 수신할 수 있다.
여기서, 센싱정보는 차량의 방향 정보, 위치 정보, 차속 정보, 가속도 정보, 기울기 정보, 전진/후진 정보, 연료 정보, 전후방 차량과의 거리 정보, 차량과 차선과의 거리 정보 및 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
또한, 센싱정보는 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 휠 센서(wheel sensor), 차량 속도 센서, 차체 경사 감지센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 도어 센서 등으로부터 획득될 수 있다. 한편, 포지션 모듈은, GPS 정보 수신을 위한 GPS 모듈을 포함할 수 있다.
인터페이스부(130)는 차량의 사용자 입력부(724)를 통해 수신되는 사용자 입력을 수신할 수 있다. 이 경우, 인터페이스부(130)는 사용자 입력을 차량의 입력부(724)로부터 직접 수신하거나 차량의 ECU(770)를 통해 수신할 수 있다.
또한, 인터페이스부(130)는 서버(500)로부터 획득된 교통 정보를 수신할 수도 있다. 서버(500)는 교통을 관제하는 교통 관제소에 위치하는 서버일 수 있다. 예를 들면, 차량의 통신부(710)를 통해 서버(500)로부터 교통 정보가 수신되는 경우, 인터페이스부(130)는 교통 정보를 차량의 ECU(770)로부터 수신할 수도 있다.
메모리(140)는 프로세서(170)의 처리 또는 제어를 위한 프로그램 등 어라운드뷰 시스템(100)의 전반적인 동작을 위한 다양한 데이터를 저장할 수 있다.
또한, 메모리(140)는 어라운드뷰 시스템(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 어라운드뷰 시스템(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 어라운드뷰 시스템(100)의 기본적인 기능(예를 들어, 차량 주변 안내 기능)을 위하여 출고 당시부터 어라운드뷰 시스템(100) 상에 존재할 수 있다.
이러한 응용 프로그램은, 메모리(140)에 저장되어, 프로세서(170)에 의하여 어라운드뷰 시스템(100)의 동작(또는 기능)을 수행하도록 구동될 수 있다.
한편, 메모리(140)는 영상에 포함되는 오브젝트를 확인하기 위한 데이터를 저장할 수 있다. 예를 들면, 메모리(140)는 카메라(160)를 통해 획득된 차량 주변 영상에서 소정 오브젝트가 검출되는 경우, 다양한 알고리즘에 의해, 상기 오브젝트가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.
예를 들면, 메모리(140)는 카메라(160)를 통해 획득된 영상에 포함되는 오브젝트가 차선, 교통 표지판, 이륜차, 보행자와 같은 오브젝트에 해당하는지 판단하기 위한 비교 영상 및 비교 데이터를 저장할 수 있다.
또한, 메모리(140)는 어라운드뷰 영상을 생성하는데 사용되는 기 설정된 합성정보나 시점정보를 저장할 수 있다.
서로 다른 방향으로부터 획득된 영상이 합성되어 어라운드뷰 영상이 생성될 수 있다. 이때 각 영상으로부터 생성된 합성영역의 범위 정보와 경계선 정보가 합성정보로 메모리(140)에 저장될 수 있다.
시점정보는 카메라 관점에서 보여지는 방향에 관한 정보일 수 있지만, 이에 대해서는 한정하지 않는다.
이러한 메모리(140)는 하드웨어적으로, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
또한, 어라운드뷰 시스템(100)는 인터넷(internet)상에서 메모리(140)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.
모니터링 부(165)는 차량 내부 상황에 대한 정보를 획득할 수 있다.
모니터링 부(165)가 감지하는 정보는, 안면 인식 정보, 지문 인식 (Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 음성 인식(Voice recognition) 정보 중 적어도 하나 이상의 정보를 포함할 수 있다. 그리고 모니터링 부(165)는 이러한 생체 인식 정보를 감지하는 기타 센서들을 포함할 수 있다.
어라운드뷰 시스템(100)는 차량 주변의 오브젝트를 감지하는 센싱부(155) 를 더 포함할 수 있다. 실시예에 따라, 어라운드뷰 시스템(100)는 차량의 센싱부(760)에서 얻어진 센싱정보를 인터페이스부(130)를 통해 수신할 수도 있다. 이와 같이 획득된 센싱정보는, 차량 주변 정보에 포함될 수 있다.
센싱부(155)는 차량 주변의 오브젝트의 위치를 감지하는 거리 센서(150)와, 차량 주변을 촬영하여 영상을 획득하는 카메라(160) 중 적어도 하나를 포함할 수 있다.
거리 센서(150)는 자 차량에 인접한 오브젝트의 위치, 오브젝트가 이격된 방향, 이격거리 또는 오브젝트의 이동 방향 등을 정밀하게 감지할 수 있다. 이러한 거리 센서(150)는 감지된 오브젝트와의 위치를 지속적으로 측정하여, 자 차량과의 위치관계에 대한 변화를 정확하게 감지할 수 있다.
거리 센서(150)는 차량의 전후 및 좌우 중 적어도 하나의 영역에 위치한 오브젝트를 감지할 수 있다. 이를 위해, 거리 센서(150)는 차량의 다양한 위치에 배치될 수 있다.
거리 센서(150)는 라이다(Lidar) 센서, 레이저(laser) 센서, 초음파 (ultrasonic waves) 센서 및 스테레오 카메라(stereo camera) 등 거리 측정이 가능한 다양한 종류의 센서 중 적어도 하나 이상을 포함할 수 있다.
예를 들어, 거리 센서(150)는 레이저 센서로서, 레이저 신호 변조 방법에 따라, 시간 지연 방식(time-of-flight, TOF) 또는/및 위상 변조 방식(phase-shift) 등을 사용하여 자 차량과 오브젝트 사이의 위치 관계를 정확히 측정할 수 있다.
한편, 오브젝트에 대한 정보는, 카메라(160)가 촬영한 영상을 프로세서 (170)가 분석하여 획득될 수 있다. 구체적으로, 어라운드뷰 시스템(100)는 카메라(160)로 차량 주변을 촬영하고, 획득된 차량 주변 영상을 프로세서(170)가 분석하여 차량 주변 오브젝트를 검출하고, 오브젝트의 속성을 판단하여 센싱정보를 생성할 수 있다.
여기서, 오브젝트정보는, 오브젝트의 종류, 오브젝트가 표시하는 교통 신호 정보, 오브젝트와 차량 사이의 거리 및 오브젝트의 위치 중 적어도 하나의 정보로서, 센싱정보에 포함될 수 있다.
구체적으로, 프로세서(170)는 촬영된 영상에서 영상 처리를 통해 오브젝트를 검출하고, 오브젝트를 트래킹하고, 오브젝트와의 거리를 측정하고, 오브젝트를 확인하는 등의 오브젝트 분석을 수행함으로써, 오브젝트정보를 생성할 수 있다.
도시되지 않았지만, 센싱부(155)는 초음파 센서를 더 포함할 수 있다. 초음파 센서는 다수의 초음파 센서를 포함할 수 있지만, 이에 대해서는 한정하지 않는다. 각 초음파 센서로부터 송신되는 초음파와, 송신된 초음파가 오브젝트에 의해 반사되어 수신되는 초음파 사이의 차이를 바탕으로 차량 주변의 오브젝트를 감지할 수 있다.
한편, 프로세서(170)는 사방에서 촬영된 영상을 합성하여 차량을 상부에서 바라본 어라운드뷰 영상을 제공할 수 있다.
프로세서(170)가 오브젝트 분석을 좀더 수월하게 수행하기 위해, 실시예에서 카메라(160)는 영상을 촬영함과 동시에 오브젝트와의 거리를 측정하는 스테레오 카메라일 수 있다.
카메라(160)는 영상 센서와 영상 처리 모듈을 직접 포함할 수 있다. 이 경우, 카메라(160)는 영상 센서(예를 들어, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 또한, 영상 처리 모듈은 영상 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 영상 정보를 추출하고, 추출된 영상 정보를 프로세서(170)에 전달할 수 있다.
센싱부(155)는, 거리 센서(150)와 카메라(160)가 결합된 스테레오 카메라일 수 있다. 즉, 스테레오 카메라는 영상을 획득함과 동시에 오브젝트와의 위치 관계를 감지할 수 있다.
디스플레이부(180)는 어라운드뷰 영상을 표시할 수 있다. 이러한 디스플레이부(180)는 필요에 따라 적어도 하나 이상의 디스플레이 영역을 포함할 수 있다. 각 디스플레이 영역에 서로 상이한 영상정보가 디스플레이될 수 있다.
오디오 출력부(185)는 어라운드뷰 영상에 대한 설명, 실행 여부 등을 확인하는 메시지를 오디오로 출력할 수 있다. 이에 의해, 어라운드뷰 시스템(100)는 디스플레이부(180)를 통한 시각적인 표시와 함께 오디오 출력부(185)의 음향 출력을 통해 어라운드뷰 시스템(100)의 기능에 대한 설명을 서로 보완할 수 있다.
실시예에 따라, 어라운드뷰 시스템(100)는 햅틱 신호를 출력하는 햅틱 출력부(미도시)를 더 포함할 수 있다. 햅틱 출력부(미도시)는 어라운드뷰 영상에 대한 알람을 햅틱으로 출력할 수 있다. 예를 들어, 어라운드뷰 시스템(100)는 네비게이션 정보, 교통 정보, 통신 정보, 차량 상태 정보, 운전 보조기능(ADAS) 정보 및 기타 운전자 편의 정보 중 적어도 하나의 정보에 운전자에 대한 경고가 포함되면, 이를 진동으로 사용자에게 알릴 수 있다.
이러한 햅틱 출력부(미도시)는 방향성을 갖는 진동을 제공할 수 있다. 예를 들어, 햅틱 출력부(미도시)는 조향을 제어하는 스티어링에 배치되어 진동을 출력할 수 있으며, 진동 제공 시 스티어링의 좌우를 구분하여 진동을 출력함으로써, 햅틱 출력의 방향성을 부여할 수 있다.
전원 공급부(190)는 프로세서(170)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다.
프로세서(170)는 어라운드뷰 시스템(100) 내의 각 구성요소들의 전반적인 동작을 제어할 수 있다.
또한, 프로세서(170)는 응용 프로그램을 구동하기 위하여, 어라운드뷰 시스템(100)에 포함된 구성요소들 중 적어도 일부를 제어하거나 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
이러한 프로세서(170)는 하드웨어 측면에서, ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(170)(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나의 형태로 구현될 수 있다.
실시예에 따라, 프로세서(170)는 차량의 ECU(770)에 의해 제어될 수 있다.
프로세서(170)는 메모리(140)에 저장된 응용 프로그램과 관련된 동작 외에도, 통상적으로 어라운드뷰 시스템(100)의 전반적인 동작을 제어한다. 프로세서(170)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(170)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
도 2a는 실시예에 따른 어라운드뷰 시스템을 구비하는 차량의 외관을 도시한 도면이다.
도 2a를 참조하면, 실시예에 따른 차량(700)은, 동력원에 의해 회전하는 바퀴(13FL, 13RL)와, 사용자에게 차량 주변의 오브젝트정보를 제공하는 어라운드뷰 시스템(100)를 포함한다.
어라운드뷰 시스템(100)는 차량(700)의 내부에 설치될 수 있다. 이 경우, 어라운드뷰 시스템(100)의 설치 위치는 실시예에 따라 다양하게 설정될 수 있다. 도 2a를 참조하면, 어라운드뷰 시스템(100)는 차량(700)의 전면 창(100) 하단에 배치된다.
도 2b는 실시예에 따른 어라운드뷰 시스템에 포함되는 센서부가 차량에 배치된 모습을 도시한다.
센싱부(155)에 포함되는 거리 센서(150)는 차량 바디의 전후와 좌우 및 천장 중 적어도 하나의 위치에 배치될 수 있다. 도 2b를 참조하면, 차량의 좌측 측면과 우측 측면에 각각 거리 센서(150a, 150b)가 배치된다.
센싱부(155)에 포함되는 카메라(160)는 주행 방향의 전후와 좌우를 감시할 수 있도록 다양한 위치에 구비될 수 있다. 도 2b를 참조하면, 차량의 전방, 후방, 좌측 및 우측에 카메라(160a, 160b, 160c, 160d)가 각각 배치된다.
예컨대, 전방에 설치되는 카메라(160a)는 제1 카메라로 명명되고, 우측에 설치되는 카메라(160b)는 제2 카메라로 명명되고, 후방에 설치되는 카메라(160c)는 제3 카메라로 명명되며, 좌측에 설치되는 카메라(160d)는 제4 카메라로 명명될 수 있지만, 이에 대해 한정하지는 않는다. 다수의 카메라(160a, 160b, 160c, 160d) 중 제일 먼저 언급되는 카메라가 제1 카메라로 명명되고, 그 다음 언급되는 카메라가 제2 카메라로 언급될 수도 있다.
제1 카메라(160a)는 주행 방향의 전방을 촬영하여 전방 영상을 획득할 수 있다. 이를 위해, 제1 카메라(160a)는 앰블럼 부근 또는 라디에이터 그릴 부근에 배치될 수 있다.
제2 카메라(160b)는 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다. 실시예에 따라, 제2 카메라(160b)는 우측 사이드 미러를 둘러싸는 케이스 외부에 배치되거나, 우측 프런트 도어나 우측 리어 도어 또는 우측 휀더(fender) 외측의 일 영역에 배치될 수도 있다.
제3 카메라(160c)는 주행 방향의 후방을 촬영하여 후방 영상을 획득할 수 있다. 이와 같은, 제3 카메라(160c)는 후방 번호판 또는 트렁크 스위치 부근에 배치될 수 있다.
제4 카메라(160d)는 좌측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다. 실시예에 따라, 제4 카메라(160d)는 좌측 사이드 미러를 둘러싸는 케이스 외부에 배치되거나, 좌측 프런트 도어나 좌측 리어 도어 또는 좌측 휀더(fender) 외측의 일 영역에 배치될 수도 있다.
도시되지 않았지만, 차량의 천장에 추가적으로 카메라가 설치될 수도 있다. 천장 카메라는 차량의 전후 및 좌우 방향을 모두 촬영할 수 있다.
아울러, 필요에 따라 제1 내지 제4 카메라(160a, 160b, 160c, 160d) 이외에 추가로 카메라가 더 설치될 수도 있다.
도 3은 실시예에 따른 어라운드뷰 시스템을 포함하는 차량의 구성을 도시한 블록도이다.
실시예에 따른 어라운드뷰 시스템(100)는 차량(700) 내에 설치될 수 있다.
도 3을 참조하면, 차량(700)은 통신부(710), 입력부(720), 센싱부(760), 출력부(740), 차량 구동부(750), 메모리(730), AVN 장치(400), 인터페이스부(780), ECU(770), 전원부(790) 및 어라운드뷰 시스템(100)를 포함할 수 있다.
통신부(710)는, 차량(700)과 이동 단말기(600) 사이, 차량(700)과 외부 서버(500) 사이 또는 차량(700)과 타 차량(510)과의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 통신부(710)는 차량(700)을 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.
통신부(710)는, 방송 수신 모듈(711), 무선 인터넷 모듈(712), 근거리 통신 모듈(713), 위치 정보 모듈(714) 및 광통신 모듈(715)을 포함할 수 있다.
방송 수신 모듈(711)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 또는 방송 관련된 정보를 수신한다. 여기서, 방송은 라디오 방송 또는 TV 방송을 포함한다.
무선 인터넷 모듈(712)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 차량(700)에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(712)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.
무선 인터넷 기술로는, 예를 들면, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(712)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다. 예를 들면, 무선 인터넷 모듈(712)은 외부 서버(500)와 무선으로 데이터를 교환할 수 있다. 무선 인터넷 모듈(712)은 외부 서버(500)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))정보를 수신할 수 있다.
근거리 통신 모듈(713)은, 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
이러한, 근거리 통신 모듈(713)은, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다. 예를 들면, 근거리 통신 모듈(713)은 이동 단말기(600) 와 무선으로 데이터를 교환할 수 있다. 근거리 통신 모듈(713)은 이동 단말기 (600)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))를 수신할 수 있다. 가령, 사용자가 차량에 탑승한 경우, 사용자의 이동 단말기(600)와 차량은 자동으로 또는 사용자의 애플리케이션 실행에 의해, 서로 페어링을 수행할 수 있다.
위치 정보 모듈(714)은, 차량의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈이 있다. 예를 들어, 차량(700)은 GPS 모듈을 이용하여, GPS 위성에서 보내는 신호를 기초하여 차량(700)의 위치를 획득할 수 있다.
광통신 모듈(715)은 광발신부와 광수신부를 포함할 수 있다.
광수신부는 광(light)신호를 전기 신호로 전환하여, 정보를 수신할 수 있다. 광수신부는 광을 수신하기 위한 포토 다이오드(PD, Photo Diode)를 포함할 수 있다. 포토 다이오드는 빛을 전기 신호로 전환할 수 있다. 예를 들면, 광수신부는 전방 차량에 포함된 광원에서 방출되는 광을 통해, 전방 차량의 정보를 수신할 수 있다.
광발신부는 전기 신호를 광 신호로 전환하기 위한 발광 소자를 적어도 하나 이상 포함할 수 있다. 여기서, 발광 소자는 LED(Light Emitting Diode)인 것이 바람직하다. 광발신부는 전기 신호를 광 신호로 전환하여, 외부에 발신한다. 예를 들면, 광 발신부는 소정 주파수에 대응하는 발광소자의 점멸을 통해, 광신호를 외부에 방출할 수 있다. 실시예에 따라, 광발신부는 복수의 발광 소자 어레이를 포함할 수 있다. 실시예에 따라, 광발신부는 차량에 구비된 램프와 일체화될 수 있다. 예를 들어, 광발신부는 전조등, 후미등, 제동등, 방향 지시등 및 차폭등 중 적어도 어느 하나일 수 있다.
일 실시예에 의하면, 광통신 모듈(715)은 광 통신을 통해 타 차량 (510)과 데이터를 교환할 수 있다.
입력부(720)는 운전 조작 수단(721), 카메라(722), 마이크로 폰(723), 사용자 입력부(724) 및 모니터링부(725)를 포함할 수 있다.
운전 조작 수단(721)은 차량 운전을 위한 사용자 입력을 수신한다. 운전 조작 수단(721)은 조향 입력 수단, 쉬프트 입력 수단, 가속 입력 수단, 브레이크 입력 수단 등을 포함할 수 있다.
조향 입력 수단은 차량(700)의 진행 방향에 대한 입력을 수신한다. 조향 입력 수단은 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 수단은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
쉬프트 입력 수단은, 차량의 주차(P), 전진(D), 중립(N) 및 후진(R)에 대한 입력을 수신한다. 쉬프트 입력 수단은 레버 형태로 형성되는 것이 바람직하다. 실시예에 따라, 쉬프트 입력 수단은 터치 스크린이나 터치 패드 또는 버튼으로 형성될 수 있다.
가속 입력 수단은 차량의 가속을 위한 입력을 수신한다. 브레이크 입력 수단은 차량의 감속을 위한 입력을 수신한다. 이 경우, 가속 입력 수단 및 브레이크 입력 수단은 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 수단 또는 브레이크 입력 수단은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수 있다.
카메라(722)는 이미지 센서와 영상처리모듈을 포함할 수 있다. 카메라 (722)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 영상처리모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여 필요한 정보를 추출하고, 추출된 정보를 ECU(770)에 전달할 수 있다. 한편, 차량(700)은 차량 전방 영상 또는 차량 주변 영상을 촬영하는 카메라(722) 및 차량 내부 영상을 촬영하는 모니터링부(725)를 포함할 수 있다.
모니터링부(725)는 탑승자에 대한 이미지를 획득할 수 있다. 모니터링부(725)는 탑승자의 생체 인식을 위한 이미지를 획득할 수 있다.
한편, 도 3에서는 모니터링부(725)와 카메라(722)가 입력부(720)에 포함되는 것으로 도시하였으나, 카메라(722)는 전술한 바와 같이 어라운드뷰 시스템(100)에 포함될 수도 있다.
마이크로폰(723)은 외부의 음향 신호를 전기적인 데이터로 처리할 수 있다. 처리된 데이터는 차량(700)에서 수행 중인 기능에 따라 다양하게 활용될 수 있다. 마이크로폰(723)은 사용자의 음성 명령을 전기적 데이터로 전환할 수 있다. 전환된 전기적 데이터는 ECU(770)에 전달될 수 있다.
사용자 입력부(724)는 사용자로부터 정보를 입력 받을 수 있다. 사용자 입력부(724)를 통해 정보가 입력되면, ECU(770)는 입력된 정보에 대응되도록 차량(700)의 동작을 제어할 수 있다. 사용자 입력부(724)는 터치식 입력수단 또는 기계식 입력 수단을 포함할 수 있다. 실시예에 따라, 사용자 입력부(724) 는 스티어링 휠의 일 영역에 배치될 수 있다. 이 경우, 운전자는 스티어링 휠을 잡은 상태에서, 손가락으로 사용자 입력부(724)를 조작할 수 있다.
센싱부(760)는, 차량의 주행 등과 관련한 신호를 센싱한다. 이를 위해, 센싱부(760)는 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 레이더, 라이더 등을 포함할 수 있다.
이에 의해, 센싱부(760)는, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도 등에 대한 센싱 신호를 획득할 수 있다.
한편, 센싱부(760)는, 그 외에도 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS) 등을 더 포함할 수 있다.
센싱부(760)는 생체 인식 정보 감지부를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 감지하여 획득한다. 생체 인식 정보는 지문 인식(Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 안면 인식(Facial recognition) 정보, 음성 인식(Voice recognition) 정보를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 센싱하는 센서를 포함할 수 있다. 여기서, 모니터링부(725) 및 마이크로 폰(723)이 센서로 동작할 수 있다. 생체 인식 정보 감지부는 모니터링부(725)를 통해, 손모양 정보, 안면 인식 정보를 획득할 수 있다.
출력부(740)는 ECU(770)에서 처리된 정보를 출력하기 위한 구성요소로서, 디스플레이부(741), 음향 출력부(742) 및 햅틱 출력부(743)를 포함할 수 있다.
디스플레이부(741)는 ECU(770)에서 처리되는 정보를 표시할 수 있다. 예를 들면, 디스플레이부(741)는 차량 관련 정보를 표시할 수 있다. 여기서, 차량 관련 정보는, 차량에 대한 직접적인 제어를 위한 차량 제어 정보, 또는 차량 운전자에게 운전 가이드를 위한 차량 운전 보조 정보를 포함할 수 있다. 또한, 차량 관련 정보는, 현재 차량의 상태를 알려주는 차량 상태 정보 또는 차량의 운행과 관련되는 차량 운행 정보를 포함할 수 있다.
디스플레이부(741)는 어라운드뷰 시스템(100)의 디스플레이부(180)일 수도 있고, 별개로 구비될 수도 있다.
디스플레이부(741)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중 적어도 하나에 의해 구현될 수 있다.
디스플레이부(741)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 차량(700)과 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(724)로써 기능함과 동시에, 차량(700)과 사용자 사이의 출력 인터페이스를 제공할 수 있다. 이 경우, 디스플레이부(741)는 터치 방식에 의하여 제어 명령을 입력 받을 수 있도록, 디스플레이부(741)에 대한 터치를 감지하는 터치센서를 포함할 수 있다. 이를 이용하여, 디스플레이부(741)에 대하여 터치가 이루어지면, 터치센서는 상기 터치를 감지하고, ECU(770)는 이에 근거하여 상기 터치에 대응하는 제어명령을 발생시키도록 구성될 수 있다. 터치 방식에 의하여 입력되는 내용은 문자 또는 숫자이거나, 각종 모드에서의 지시 또는 지정 가능한 메뉴항목 등일 수 있다.
한편, 디스플레이부(741)는 운전자가 운전을 함과 동시에 차량 상태 정보 또는 차량 운행 정보를 확인할 수 있도록 클러스터(cluster)를 포함할 수 있다. 클러스터는 대시보드 위에 위치할 수 있다. 이 경우, 운전자는, 시선을 차량 전방에 유지한 채로 클러스터에 표시되는 정보를 확인할 수 있다.
한편, 실시예에 따라, 디스플레이부(741)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(741)가 HUD로 구현되는 경우, 윈드 쉴드에 구비되는 투명 디스플레이를 통해 정보를 출력할 수 있다. 또는, 디스플레이부(741)는 투사 모듈을 구비하여 윈드 쉴드에 투사되는 이미지를 통해 정보를 출력할 수 있다.
음향 출력부(742)는 ECU(770)로부터의 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(742)는 스피커 등을 구비할 수 있다. 음향 출력부(742)는 사용자 입력부(724)에 의해 입력된 동작에 대응하는 사운드를 출력할 수도 있다.
햅틱 출력부(743)는 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(743)는 스티어링 휠, 안전 벨트, 시트를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.
차량 구동부(750)는 차량(700)에 포함되는 각종 장치 및 구성요소의 동작을 제어할 수 있다. 차량 구동부(750)는 동력원 구동부(751), 조향 구동부 (752), 브레이크 구동부(753), 램프 구동부(754), 공조 구동부(755), 윈도우 구동부(756), 에어백 구동부(757), 썬루프 구동부(758) 및 서스펜션 구동부(759)를 포함할 수 있다.
동력원 구동부(751)는, 차량(700) 내의 동력원에 대한 전자식 제어를 수행할 수 있다.
예를 들면, 화석 연료 기반의 엔진(미도시)이 동력원인 경우, 동력원 구동부(751)는 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(751)가 엔진인 경우, ECU(770)의 제어에 따라, 엔진 출력 토크를 제한하여 차량의 속도를 제한할 수 있다.
다른 예로, 전기 기반의 모터(미도시)가 동력원인 경우, 동력원 구동부(751)는 모터에 대한 제어를 수행할 수 있다. 이에 의해, 모터의 회전 속도, 토크 등을 제어할 수 있다.
조향 구동부(752)는, 차량 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 차량의 진행 방향을 변경할 수 있다.
브레이크 구동부(753)는, 차량 내의 브레이크 장치(brake apparatus) (미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량의 속도를 줄일 수 있다. 다른 예로, 좌측 바퀴와 우측 바퀴에 각각 배치되는 브레이크의 동작을 달리하여, 차량의 진행 방향을 좌측, 또는 우측으로 조정할 수 있다.
램프 구동부(754)는, 차량 내부 및 외부에 배치되는 램프의 턴 온/턴 오프를 제어할 수 있다. 또한, 램프의 빛의 세기, 방향 등을 제어할 수 있다. 예를 들면, 방향 지시 램프, 브레이크 램프 등의 대한 제어를 수행할 수 있다.
공조 구동부(755)는, 차량 내의 공조 장치(air cinditioner)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량 내부의 온도가 높은 경우, 공조 장치를 동작시켜 냉기가 차량(700) 내부로 공급되도록 제어할 수 있다.
윈도우 구동부(756)는 차량 내의 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량(700)의 측면의 좌측 및 우측 윈도우들에 대한 개방 또는 폐쇄를 제어할 수 있다.
에어백 구동부(757)는, 차량 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 사고 위험시, 에어백이 터지도록 제어할 수 있다.
썬루프 구동부(758)는, 차량 내의 썬루프 장치(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 썬루프의 개방 또는 폐쇄를 제어할 수 있다.
서스펜션 구동부(759)는 차량(700) 내의 서스펜션 장치(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량의 진동이 저감되도록 제어할 수 있다.
메모리(730)는, ECU(770)와 전기적으로 연결된다. 메모리(730)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(730)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장매체 일 수 있다. 메모리(730)는 ECU(770)의 처리 또는 제어를 위한 프로그램 등, 차량 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
인터페이스부(780)는, 차량(700)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 인터페이스부(780)는 이동 단말기(600)와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해 이동 단말기(600)와 연결될 수 있다. 이 경우, 인터페이스부(780)는 이동 단말기(600) 와 데이터를 교환할 수 있다.
한편, 인터페이스부(780)는 연결된 이동 단말기(600)에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기(600)가 인터페이스부(780)에 전기적으로 연결되는 경우, ECU(770)의 제어에 따라 인터페이스부(780)는 전원부(790)에서 공급되는 전기 에너지를 이동 단말기(600)에 제공한다.
ECU(770)는 차량(700) 내의 각 구성요소들의 전반적인 동작을 제어할 수 있다. ECU(770)는 ECU(Electronic Contol Unit)로 명명될 수 있다.
이러한 ECU(770)은 어라운드뷰 시스템(100)의 실행 신호 전달에 따라, 전달된 신호에 대응되는 기능을 실행할 수 있다.
ECU(770)는 하드웨어적으로 ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러 (micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나의 형태로 구현될 수 있다.
이때의 제어기나 마이크로 프로세서는 어라운드뷰 시스템(100)에 포함되는 프로세서(170)와는 별개의 장치일 수 있다.
전원부(790)는 ECU(770)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 이 경우, 전원부(790)는 차량 내부의 배터리 (미도시) 등으로부터 전원을 공급받을 수 있다.
AVN(Audio Video Navigation) 장치(400)는 ECU(770)와 데이터를 교환할 수 있다. ECU(770)는 AVN 장치(400) 또는 별도의 네비게이션 장치 (미도시)로부터 네비게이션 정보를 수신할 수 있다. 여기서, 네비게이션 정보는 설정된 목적지 정보, 상기 목적지에 따른 경로 정보, 차량 주행과 관련한 맵 정보 또는 차량 위치 정보 등을 포함할 수 있다.
도 4는 어라운드뷰 영상을 도시한다.
도 4를 참조하면, 어라운드뷰 영상은 제1 내지 제4 합성영역(301, 303, 305, 307)를 포함할 수 있다. 이러한 어라운드뷰 영상은 디스플레이부(180) 상에 디스플레이될 수 있다.
제1 합성영역(301)은 차량(700)의 전방에 설치되는 제1 카메라(160a)에 의해 획득된 전방 영상을 바탕으로 생성될 수 있다. 제2 합성영역(303)은 차량(700)의 우측에 설치되는 제2 카메라(160b)에 의해 획득된 좌측 영상을 바탕으로 생성될 수 있다. 제3 합성영역(305)은 차량(700)의 후방에 설치되는 제3 카메라(160c)에 의해 획득된 후방 영상을 바탕으로 생성될 수 있다. 제4 합성영역(307)은 차량(700)의 좌측에 설치되는 제4 카메라(160d)에 의해 획득된 좌측 영상을 바탕으로 생성될 수 있다.
각 합성영역(301, 303, 305, 307)의 영상은 제1 내지 제4 카메라(160a, 160b, 160c, 160d)로부터 획득된 영상과 상이할 수 있다.
즉, 제1 내지 제4 카메라(160a, 160b, 160c, 160d)로부터 획득된 영상은 각 카메라(160a, 160b, 160c, 160d)의 렌즈를 통해 입사된 영상으로서, 오브젝트의 실제 모습이 그대로 영상으로 표시될 수 있다. 이에 반해, 각 합성영역(301, 303, 305, 307)의 영상은 제1 내지 제4 카메라(160a, 160b, 160c, 160d)로부터 획득된 영상의 전방 시점을 탑뷰 시점으로 변경한 영상일 수 있다.
예컨대, 제1 내지 제4 카메라(160a, 160b, 160c, 160d) 중 특정 카메라로부터 획득된 영상의 오브젝트가 서있는 사람인 경우, 그 획득된 영상으로부터 생성된 합성영역에서의 오브젝트인 사람은 서있지 않고 마치 누워있는 것처럼 보여질 수 있다.
제1 내지 제4 합성영역(301, 303, 305, 307)은 경계선(311, 313, 315, 317)을 중심으로 서로 인접하여 배치될 수 있다. 예컨대, 제1 합성영역(301)과 제2 합성영역(303)은 제1 경계선(311)을 중심으로 서로 인접하여 배치될 수 있다. 제2 합성영역(303)과 제3 합성영역(305)은 제2 경계선(313)을 중심으로 서로 인접하여 배치될 수 있다. 제3 합성영역(305)과 제4 합성영역(307)은 제3 경계선(315)을 중심으로 서로 인접하여 배치될 수 있다. 제4 합성영역(307)과 제1 합성영역(301)은 제4 경계선(317)을 중심으로 서로 인접하여 배치될 수 있다.
어라운드뷰 영상은 메모리(140)에 저장되어 있는 합성정보를 바탕으로 생성될 수 있다. 상술한 바와 같이, 합성정보는 제1 내지 제4 카메라(160a, 160b, 160c, 160d)로부터의 영상 각각으로부터 생성된 제1 내지 제4 합성영역(307)의 범위 정보와 제1 내지 제4 합성정보 사이의 경계선에 관한 경계선 정보가 합성정보로 메모리(140)에 저장될 수 있다.
경계선 정보는 제 1 내지 제4 경계선(311, 313, 315, 317)의 위치로 설정될 수 있다. 합성영역의 범위 정보는 각 합성영역(301, 303, 305, 307)의 범위로 설정될 수 있다.
따라서, 프로세서(170)는 합성정보의 범위 정보와 경계선 정보를 바탕으로 제1 내지 제4 카메라(160a, 160b, 160c, 160d)로부터 획득된 영상으로부터 각 합성영역(301, 303, 305, 307)을 생성하고 각 합성영역(301, 303, 305, 307)을 합성하여 어라운드뷰 영상을 생성할 수 있다.
이와 같이 생성된 어라운드뷰 영상은 노멀 모드(normal mode) 시에 그대로 디스플레이부(180) 상에 디스플레이될 수 있다.
구체적으로, 프로세서(170)는 경계선 정보에 설정되어 있는 합성영역의 범위정보 및 경계선 정보를 바탕으로 제1 내지 제4 카메라(160a, 160b, 160c, 160d)로부터 획득된 영상으로부터 각 경계선(311, 313, 315, 317) 사이에 해당하는 영상을 추출하여 이 추출된 영상을 바탕으로 제1 내지 제4 합성영역(301, 303, 305, 307)을 포함하는 어라운드뷰 영상을 생성할 수 있다.
앞에 언급된 바와 같이, 제1 내지 제4 카메라(160a, 160b, 160c, 160d)로부터 획득된 영상과 그 영상으로부터 제1 내지 제4 합성영역(301, 303, 305, 307)은 상이하다.
도 5는 실시예에 따른 카메라 보정을 위한 전체적인 작업장을 도시한다.
도 5에 도시한 바와 같이, 작업장은 크게 조립시설(200), 카메라 보정용 필드(230) 및 검사시설(250)을 포함할 수 있다. 이러한 작업장은 예컨대, 차량 제조사가 소요하고 있는 차량 공장일 수 있지만, 이에 대해서는 한정하지 않는다.
조립시설(200)은 차량(700)을 조립하여 제조하는 장소일 수 있다. 검사시설(250)은 제조된 차량(700)의 출고 전에 차량(700)의 각종 성능을 테스트하는 장소일 수 있다. 카메라 보정용 필드(230)는 나중에 설명된 카메라 보정 방법이 수행되는 장소일 수 있다. 카메라 보정용 필드(230)는 조립시설(200)과 검사시설 사이에 위치될 수 있다.
실시예에서는 조립시설(200)에서 차량(700)이 조립된 후, 검사시설(250)로 이동하기 전에 카메라 보정용 필드(230)를 거치도록 구성될 수 있다.
이와 달리, 검사시설(250) 다음 단계에 카메라 보정용 필드(230)가 위치될 수도 있지만, 이에 대해서는 한정하지 않는다.
중요한 것은, 실시예에 따른 카메라(160a, 160b, 160c, 160d)의 보정이 차량(700)이 고객에게 인도되기 위해 출고되기 전에 수행되어야 한다는 점이다. 이에 따라, 차량(700)을 인도받은 고객은 별도로 카메라(160a, 160b, 160c, 160d)의 보정을 위한 작업을 수행할 필요가 없으므로, 고객 서비스 만족도를 대폭 향상시킬 수 있다. 아울러, 차량 제조사에 위치된 표준화된 카메라 보정용 필드(230)에서 동일한 환경에서 카메라(160a, 160b, 160c, 160d)의 보정이 이루어지므로, 차량 제조사에서 카메라 보정된 차량 간에 보정 오차가 발생되지 않아 고객 불만을 최소화할 수 있다.
카메라 보정용 필드(230) 상에는 다수의 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)가 위치될 수 있다. 예컨대, 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)는 시트(sheet)로 이루어져, 카메라 보정용 필드(230)의 지면에 부착될 수 있다. 예컨대, 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)는 카메라 보정용 필드(230)의 지면에 컬러로 코팅되거나 페인팅(paint)될 수 있다. 각 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)는 다수의 패턴(240)을 포함할 수 있다. 도 5에서, 각 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)는 사각 형상을 가지고, 패턴(240)은 원 형상을 가지는 것으로 도시되고 있지만, 이에 대해서는 한정하지 않는다.
다른 예로서, 차량(700)의 주행 방향을 따라 차량(700)의 양측을 따라 길게 배치되는 패턴 부재가 구비될 수도 있다. 즉, 차량(700)의 좌측에서 차량(700)의 주행 방향을 따라 길게 제1 패턴 부재가 구비되고, 차량(700)의 우측에서 차량(700)의 주행 방향을 따라 길게 제2 패턴 부재가 구비될 수 있다.
패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)는 카메라 보정용 필드(230)의 양측에 위치될 수 있다. 양측에 위치된 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b) 사이로 차량(700)이 직선 방향으로 주행될 수 있다. 카메라 보정용 필드(230)에는 차량(700)의 직선 주행을 가이드하기 의한 적어도 하나의 가이드 라인이 표시될 수 있지만, 이에 대해서는 한정하지 않는다. 예컨대, 적어도 차량(700)의 폭보다 큰 제1 및 제2 가이드라인이 카메라 보정용 필드(230)의 지면 상에 표시되어, 이 제1 및 제2 가이드라인을 참고하여 차량(700)이 직선 방향으로 주행될 수 있다. 직선 방향은 카메라 보정용 필드(230)에 표시된 제1 및 제2 가이드라인과 평행한 방향일 수 있다.
카메라 보정용 필드(230)의 폭은 차량(700)의 폭과 차량(700)의 양측에 위치된 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)의 폭의 합보다 클 수 있다. 카메라 보정용 필드(230)의 길이는 차량(700)이 주행되어 카메라(160a, 160b, 160c, 160d)가 보정될 수 있는 최소한의 길이를 가질 수 있다. 예컨대, 카메라 보정용 필드(230)의 길이는 5m 이상일 수 있다. 바람직하게는 카메라 보정용 필드(230)의 길이는 예컨대, 6m 내지 10m일 수 있다.
카메라 보정용 필드(230)의 일측으로 진입하여 예컨대 제1 및 제2 가이드라인을 따라 주행 후 카메라 보정용 필드(230)의 타측으로 빠져나가는 동안, 차량(700)에서 카메라(160a, 160b, 160c, 160d)의 보정이 수행될 수 있다. 구체적으로, 차량(700)에 장착된 어라운드뷰 시스템(100)에서 카메라(160a, 160b, 160c, 160d)의 보정이 수행될 수 있다. 더욱 구체적으로, 어라운드뷰 시스템에 포함되는 프로세서에서 카메라(160a, 160b, 160c, 160d)의 보정이 수행될 수 있다.
이하에서, 카메라(160a, 160b, 160c, 160d)의 보정을 위한 작업장, 구체적으로 카메라 보정용 필드(230)에서 카메라 보정을 수행하는 방법을 구체적으로 설명한다.
도 6은 실시예에 따른 카메라의 보정 방법을 설명하는 순서도이고, 도 7은 도 6의 S20을 상세히 설명하는 순서도이고, 도 8은 도 6의 S30을 상세히 설명하는 순서도이며, 도 9는 도 6의 S40을 상세히 설명하는 순서도이다.
도 1 내지 도 6을 참조하면, 어라운드뷰 시스템(100)의 프로세서(170)는 주행 중인 차량(700)의 다수의 카메라(160a, 160b, 160c, 160d) 각각에 의해 획득된 패턴 정보를 포함하는 영상을 수신할 수 있다(S10).
카메라(160a, 160b, 160c, 160d)는 차량(700)의 둘레를 따라 장착될 수 있다. 예컨대, 카메라(160a, 160b, 160c, 160d)는 차량(700)의 전방, 후방, 좌측 및 우측에 장착될 수 있다. 예컨대, 제1 카메라(160a)는 차량(700)의 전방, 예컨대 앰블럼 부근 또는 라디에이터 그릴 부근에 장착되어, 주행 방향의 전방을 촬영하여 전방 영상을 획득할 수 있다. 예컨대, 제2 카메라(160b)는 우측 사이드 미러를 둘러싸는 케이스 내에 장착되어, 우측 방향의 피사체를 촬영하여 우측 영상을 획득할 수 있다. 예컨대, 제3 카메라(160c)는 차량(700)의 후방, 예컨대 후방 번호판 또는 트렁크 스위치 부근에 장착되어, 주행 방향의 후방을 촬영하여 후방 영상을 획득할 수 있다. 예컨대, 제4 카메라(160d)는 좌측 사이드 미러를 둘러싸는 케이스 내에 장착되어, 좌측 방향의 피사체를 촬영하여 좌측 영상을 획득할 수 있다. 아울러, 필요에 따라 제1 내지 제4 카메라(160a, 160b, 160c, 160d) 이외에 추가로 카메라가 더 설치될 수도 있다.
예컨대, 차량(700)의 주행과 카메라(160a, 160b, 160c, 160d)의 보정이 연동될 수 있다. 즉, 차량(700)의 주행과 동시에 카메라(160a, 160b, 160c, 160d)의 보정 동작이 수행될 수 있다. 일 예로서, 주행 감지부(미도시)에 의해 차량(700)의 주행이 감지되는 경우, 이러한 감지신호가 프로세서(170)로 전달될 수 있다. 프로세서(170)는 감지신호에 응답하여 카메라(160a, 160b, 160c, 160d)의 보정 기능을 활성화시킬 수 있다. 이에 따라, 차량(700)의 둘레에 장착된 다수의 카메라(160a, 160b, 160c, 160d)에 전원이 공급되어 각 카메라(160a, 160b, 160c, 160d)로부터 해당 영상이 획득될 수 있다.
구체적으로, 차량(700)이 카메라 보정용 필드(230)의 일측에 진입하여 주행하기 시작하는 경우, 카메라(160a, 160b, 160c, 160d)의 보정 기능이 활성화될 수 있다. 이에 따라, 각 카메라(160a, 160b, 160c, 160d)로부터 차량(700)의 양측에 배치된 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)를 포함하는 피사체에 대한 영상을 획득할 수 있다. 이러한 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)는 프로세서(170)에 의해 패턴 정보로 인식될 수 있다. 일 예로, 각 카메라(160a, 160b, 160c, 160d)는 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)를 포함하는 피사체에 대한 영상을 프로세서(170)로 전달하는 경우, 프로세서(170)는 영상으로부터 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)를 패턴 정보로 인식할 수 있다. 즉, 영상에 포함된 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)로부터 패턴 정보가 추출될 수 있다. 다른 예로, 각 카메라(160a, 160b, 160c, 160d)는 획득된 영상으로부터 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)에 대응되는 패턴 정보를 생성하여 패턴 정보를 포함하는 영상을 프로세서(170)로 전달할 수 있다.
패턴 정보에는 3개의 회전각 정보(Roll, Pitch, Yaw)와 3개의 축 정보(X, Y, Z)를 포함할 수 있다. 예컨대, 롤(Roll)은 X축을 기준으로 회전되는 각도로 정의되며, 피치(Pitch)는 Y축을 기준으로 회전되는 각도로 정의되며, 요(Yaw)는 Z축을 기준으로 회전되는 각도로 정의될 수 있다. 예컨대, X축은 차량(700)의 전후 방향이고, Y축은 차량(700)의 좌우 방향이며, Z축은 차량(700)의 수직 방향일 수 있다.
프로세서(170)는 수신된 영상의 패턴 정보를 바탕으로 제1 파라미터를 산출할 수 있다(S20). 예컨대, 패턴 정보의 회전각 정보 및 축 정보를 바탕으로 제1 파라미터가 산출될 수 있다.
구체적으로, 앞서 설명된 바와 같이, 패턴 정보에는 3개의 회전각 정보(Roll, Pitch, Yaw)와 3개의 축 정보(X, Y, Z)가 포함될 수 있다. 도 7에 도시한 바와 같이, 프로세서(170)는 패턴 정보로부터 회전각 정보 및 축 정보를 추출할 수 있다(S22). 축 정보에 의해 예컨대, 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)의 좌표 정보가 파악될 수 있다. 회전각 정보에 의해 예컨대, 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)의 뒤틀림 정보가 파악될 수 있다. 일 예로, 카메라 보정용 필드(230)의 지면이 수평면으로 유지되고 차량(700)이 직선 방향으로 주행되는 경우, 롤값, 피치값 및 요값 모두 0이 될 수 있다. 다른 예로, 카메라 보정용 필드(230)의 지면이 수평면으로 유지되고 차량(700)이 직선 방향에서 이탈되어 주행되는 경우, 롤값이나 피치값은 0이 되지만 요값은 존재할 수 있다. 차량(700)이 직선 방향에서 이탈되는 이탈 폭이 커질수록 요값 또한 커질 수 있다. 직선 방향은 카메라 보정용 필드(230)에 표시된 제1 및 제2 가이드라인과 평행한 방향일 수 있다.
프로세서(170)는 추출된 회전각 정보 및 축 정보를 바탕으로 제1 외적 파리미터를 산출할 수 있다(S25).
통상, 외부 파라미터는 카메라(160a, 160b, 160c, 160d)의 좌표계와 월드 좌표계 사이의 변환 관계를 설명하는 파라미터로서, 두 좌표계 사이의 회전(rotation) 및 평행이동(translation) 변환으로 표현될 수 있다. 외부 파라미터는 카메라(160a, 160b, 160c, 160d)의 고유 파라미터가 아니기 때문에 카메라(160a, 160b, 160c, 160d)를 어떤 위치에 어떤 방향으로 설치했는지에 따라 달라지고 또한 월드 좌표계를 어떻게 정의했느냐에 따라서 달라질 수 있다. 회전각 정보와 축 정보를 이용하여 파라미터를 산출하는 기술은 널리 공지된 바 있으므로, 상세한 설명은 생략한다.
다시 도 6을 참조하면, 프로세서(170)는 프레임 단위로 수신되는 영상의 패턴 정보를 바탕으로 차량(700)의 궤적 정보를 산출할 수 있다(S30).
차량(700)의 궤적 정보는 하나의 프레임에서 얻어진 영상의 패턴 정보로는 산출될 수 없다. 즉, 차량(700)의 궤적 정보는 적어도 2개 이상의 프레임 단위로 얻어진 영상의 패턴 정보로부터 산출될 수 있다.
도 8에 도시한 바와 같이, 이를 위해, 프로세서(170)는 프레임 단위로 수신되는 영상의 패턴 정보 각각으로부터 회전각 정보 및 축 정보를 추출할 수 있다(S32). 예컨대, 카메라(160a, 160b, 160c, 160d)는 예컨대, 16.67ms 단위로 카메라 보정용 필드(230)의 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)를 촬영할 수 있지만, 이에 대해서는 한정하지 않는다. 이러한 경우, 프레임 단위는 16.67ms일 수 있다. 즉, 카메라(160a, 160b, 160c, 160d)는 16.67ms마다 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b)를 촬영하여 영상을 얻을 수 있다.
각 카메라(160a, 160b, 160c, 160d)가 구동되는 경우, 각 카메라(160a, 160b, 160c, 160d)로부터 프레임 단위로 패턴 정보를 포함하는 영상이 획득될 수 있다. 이와 같이 획득된 프레임 단위의 패턴 정보를 포함하는 영상이 프로세서(170)로 전달될 수 있다. 프로세서(170)는 이와 같이 전달되는 프레임 단위의 영상에 포함되는 패턴 정보 각각으로부터 회전각 정보 및 축 정보를 추출할 수 있다.
프로세서(170)는 프레임 단위로 추출된 회전각 정보 및 축 정보를 설정 패턴 정보의 회전각 정보 및 축 정보와 비교할 수 있다(S34).
설정 패턴 정보는 차량(700)이 차량(700)의 둘레의 지면 상에 놓여진 다수의 패턴 부재(231a, 231b, 233a, 233b, 235a, 235b) 사이를 직선 방향으로 주행시에 획득되어 설정될 수 있다. 이러한 설정 패턴 정보는 차량(700)이 주행되기 전, 예컨대 조립시설(200)에서 차량(700), 즉 어라운듀뷰 시스템이 장착될 때, 의해 어라운드뷰 시스템(100)의 메모리(140)에 설정되어 저장될 수 있다. 이러한 설정 패턴 정보는 다수회의 직선 방향으로의 주행 시험을 통해 얻어질 수 있다. 이러한 설정 패턴 정보는 조립시설(200)에서 조립되는 차량(700)마다 동일하게 설정될 수 있다. 직선 방향은 카메라 보정용 필드(230)에 표시된 제1 및 제2 가이드라인과 평행한 방향일 수 있다.
설정 패턴 정보는 3개의 회전각 정보(Roll, Pitch, Yaw)와 3개의 축 정보(X, Y, Z)를 포함할 수 있다. 설정 패턴 정보의 3개의 회전각 정보 및 축 정보는 프레임 단위로 설정될 수 있다. 따라서, 프레임 단위로 설정되는 설정 패턴 정보의 회전각 정보 및 축 정보와 실제로 차량(700) 주행 중에 획득된 패턴 정보의 회전각 정보 및 축 정보가 일 대 일로 비교될 수 있다.
예컨대, 제1 프레임 동안 획득된 패턴 정보의 회전각 정보와 제1 프레임에 대해 설정된 설정 패턴 정보의 회전각 정보가 비교되고 제1 프레임 동안 획득된 패턴 정보의 축 정보와 제1 프레임에 대해 설정된 설정 패턴 정보의 축 정보가 비교될 수 있다.
이어서, 제2 프레임 동안 획득된 패턴 정보의 회전각 정보와 제2 프레임에 대해 설정된 설정 패턴 정보의 회전각 정보가 비교되고 제2 프레임 동안 획득된 패턴 정보의 축 정보와 제2 프레임에 대해 설정된 설정 패턴 정보의 축 정보가 비교될 수 있다.
이와 같은 방식으로 각 프레임 단위로 상기 획득된 패턴 정보의 회전각 정보와 설정 패턴 정보의 회전각 정보가 비교되고 각 프레임 단위로 상기 획득된 패턴 정보의 축 정보와 설정 패턴 정보의 축 정보가 비교될 수 있다.
프로세서(170)는 이러한 비교를 통해 차량(700)의 궤적 정보를 산출할 수 있다(S36). 즉, 프로세서(170)는 프레임 단위로 추출된 회전각 정보 및 축 정보와 설정 패턴 정보의 회전각 정보 및 축 정보 간의 차이를 바탕으로 상기 차량(700)의 궤적 정보를 산출할 수 있다.
프레임 단위로 추출된 회전각 정보 및 축 정보와 설정 패턴 정보의 회전각 정보 및 축 정보 간의 차이가 발생되는 경우, 차량(700)이 직선 방향으로 주행되지 않고 직선 방향으로부터 이탈됨을 의미할 수 있다. 예컨대, 차량(700)의 주행이 지속될수록 프레임 단위로 추출된 회전각 정보 및 축 정보와 설정 패턴 정보의 회전각 정보 및 축 정보 간의 차이가 커지는 경우, 차량(700)이 직선 방향으로부터 이탈되는 이탈 폭이 커질 수 있다.
따라서, 프레임 단위로 카메라(160a, 160b, 160c, 160d)로부터 획득된 패턴 정보와 설정 패턴 정보의 비교를 통해 차량(700)의 궤적이 추적될 수 있다.
차량(700)의 궤적 정보에는 프레임 단위의 이탈 폭 정보가 포함될 수 있지만, 이에 대해서는 한정하지 않는다.
다시 도 6을 참조하면, 프로세서(170)는 차량(700)의 궤적 정보를 바탕으로 제1 파라미터를 보정하여 제2 파라미터를 산출할 수 있다(S40).
일 예로, 제1 파라미터는 프레임 단위로 보정될 수 있다. 다른 예로, 제1 파라미터는 다수의 프레임을 포함하는 일정 구간 단위로 보정될 수 있다. 이와 같이, 일정 구간 단위로 제1 파라미터가 보정됨에 따라, 카메라(160a, 160b, 160c, 160d)의 보정에 따른 부하가 경감될 수 있다.
차량(700)이 주행 중에 직선 방향으로부터 이탈되는 경우, 그 이탈되는 이탈 폭이 제1 파라미터에 반영되어 제2 파라미터가 산출될 수 있다.
도 9에 도시한 바와 같이, 프로세서(170)는 차량(700)의 궤적이 직선 방향과 일치하는지를 판단할 수 있다(S42).
차량(700)의 궤적이 직선 방향과 일치하는 경우, 차량(700)이 정해진 궤도를 이탈하지 않는 것이므로, 제1 파라미터는 보정될 필요가 없다. 즉, 제1 파라미터는 이전 프레임에서 산출된 값 그대로 유지될 수 있다(S44).
차량(700)의 궤적이 직선 방향과 일치하지 않는 경우, 프로세서(170)는 차량(700)의 궤적이 설정된 이탈 범위 이내인지를 판단할 수 있다(S46). 설정된 이탈 범위는 카메라(160a, 160b, 160c, 160d)의 보정이 가능한 최대의 이탈 범위일 수 있다. 따라서, 차량(700)의 궤적이 이러한 최대의 이탈 범위를 벗어나는 경우, 프로세서(170)는 음성이나 화면을 통해 경고를 출력할 수 있다(S50).
차량(700)의 궤적이 설정된 이탈 범위 이내인 경우, 프로세서(170)는 제1 파라미터를 보정하여 제2 파라미터를 산출할 수 있다(S48).
제2 파라미터는 차량(700)의 궤적이 직선 방향으로부터 이탈되는 이탈 범위에 따라 다르게 보정될 수 있다.
차량(700)의 궤적이 직선 방향으로부터 이탈되는 이탈 범위가 클수록 제2 파라미터의 보정 폭은 커질 수 있다.
이와 같이 제1 파라미터가 보정되어 산출된 제2 파라미터를 이용하여 어라운드뷰 영상이 생성되거나 업데이트됨으로써, 각 카메라(160a, 160b, 160c, 160d)로부터 획득되는 인접하는 영상 사이의 경계면에서의 부정합이 제거될 수 있다. 이에 따라, 화면에 디스플레이되는 어라운드뷰 영상이 운전자에게 거슬리지 않게 되어 고객 만족도가 향상될 수 있다.
상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 실시예의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 실시예의 등가적 범위 내에서의 모든 변경은 실시예의 범위에 포함된다.
실시예는 이동 가능한 이동체에 적용될 수 있다. 이러한 이동체의 일 예로서, 차량 등이 있다.

Claims (10)

  1. 복수의 패턴 부재를 이용하여 카메라를 보정하는 방법에 있어서,
    주행 중인 차량의 둘레에 배치된 복수의 카메라를 이용하여 복수의 패턴 부재의 패턴 정보를 수신하는 단계;
    수신된 상기 패턴 정보를 바탕으로 제1 파라미터를 산출하는 단계;
    상기 패턴 정보를 이용하여 상기 차량의 궤적 정보를 산출하는 단계; 및
    상기 차량의 상기 궤적 정보를 바탕으로 상기 제1 파라미터를 보정하여 제2 파라미터를 산출하는 단계를 포함하는 카메라 보정 방법.
  2. 제1항에 있어서,
    상기 패턴 정보는 상기 차량의 지면 상에 놓여진 복수의 패턴 부재 각각으로부터 획득되는 카메라 보정 방법.
  3. 제1항에 있어서,
    상기 제1 파라미터를 산출하는 단계는,
    상기 패턴 정보로부터 회전각 정보 및 축 정보를 추출하는 단계; 및
    상기 추출된 회전각 정보 및 축 정보를 바탕으로 상기 제1 파라미터를 산출하는 단계를 포함하는 카메라 보정 방법.
  4. 제3항에 있어서,
    상기 차량의 상기 궤적 정보를 산출하는 단계는,
    상기 패턴 정보로부터 회전각 정보 및 축 정보를 추출하는 단계;
    상기 회전각 정보 및 축 정보를 설정 패턴 정보의 회전각 정보 및 축 정보와 비교하는 단계; 및
    상기 회전각 정보 및 축 정보와 설정 패턴 정보의 회전각 정보 및 축 정보 간의 차이를 바탕으로 상기 차량의 궤적 정보를 산출하는 단계를 포함하는 카메라 보정 방법.
  5. 제4항에 있어서,
    상기 설정 패턴 정보는 상기 차량이 상기 차량의 둘레의 상기 지면 상에 놓여진 복수의 패턴 부재 사이를 직선 방향으로 주행시에 획득되어 설정되는 카메라 보정 방법.
  6. 제4항에 있어서,
    상기 비교 단계는
    상기 회전각 정보를 상기 설정 패턴 정보의 회전각 정보를 비교하는 단계; 및
    상기 축 정보를 상기 설정 패턴 정보의 축 정보를 비교하는 단계를 포함하는 카메라 보정 방법.
  7. 제4항에 있어서,
    상기 제2 파라미터를 산출하는 단계는,
    상기 차량의 궤적이 상기 직선 방향과 일치하는지를 판단하는 단계;
    상기 차량의 궤적이 상기 직선 방향과 일치하지 않는 경우, 상기 제1 파라미터를 보정하여 상기 제2 파라미터를 산출하는 단계를 포함하는 카메라 보정 방법.
  8. 제7항에 있어서,
    상기 산출된 제2 파라미터는 상기 차량의 궤적이 상기 직선 방향으로부터 이탈되는 이탈 범위에 따라 다르게 보정되는 카메라 보정 방법.
  9. 제8항에 있어서,
    상기 이탈 범위가 클수록 상기 제2 파라미터의 보정 폭은 커지는 카메라 보정 방법.
  10. 차량의 둘레에 배치된 복수의 카메라; 및
    프로세서를 포함하고,
    상기 프로세서는,
    복수의 패턴 부재가 배치된 지면을 주행 중인 상기 복수의 카메라에 의해 획득된 상기 복수의 패턴 부재의 패턴 정보를 수신하고,
    상기 패턴 정보를 바탕으로 제1 파라미터를 산출하고,
    상기 패턴 정보를 바탕으로 상기 차량의 궤적 정보를 산출하며,
    상기 차량의 상기 궤적 정보를 바탕으로 상기 제1 파라미터를 보정하여 제2 파라미터를 산출하는 카메라 보정 장치.
PCT/KR2018/015050 2017-12-01 2018-11-30 카메라 보정 방법 및 장치 WO2019108003A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/767,814 US11548452B2 (en) 2017-12-01 2018-11-30 Method and device for correcting vehicle view cameras

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020170163956A KR102470298B1 (ko) 2017-12-01 2017-12-01 카메라 보정 방법 및 장치
KR10-2017-0163956 2017-12-01

Publications (1)

Publication Number Publication Date
WO2019108003A1 true WO2019108003A1 (ko) 2019-06-06

Family

ID=66665222

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/015050 WO2019108003A1 (ko) 2017-12-01 2018-11-30 카메라 보정 방법 및 장치

Country Status (3)

Country Link
US (1) US11548452B2 (ko)
KR (1) KR102470298B1 (ko)
WO (1) WO2019108003A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115550555A (zh) * 2022-11-28 2022-12-30 杭州华橙软件技术有限公司 云台校准方法及相关装置、摄像器件和存储介质

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11164016B2 (en) * 2018-05-17 2021-11-02 Uatc, Llc Object detection and property determination for autonomous vehicles
EP3876515A4 (en) * 2018-10-31 2021-12-22 Sony Group Corporation IMAGING DEVICE, CONTROL PROCESS, AND PROGRAM
CN112706755B (zh) * 2021-01-27 2022-08-16 广州小鹏自动驾驶科技有限公司 一种车载相机的调整方法和装置
US11842551B1 (en) * 2023-02-07 2023-12-12 DCX Innovations sp. z.o.o. System and methods for automatically detecting objects of interest and determining their geographic positions

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101239740B1 (ko) * 2011-12-08 2013-03-18 아진산업(주) 폴리곤 매핑 및 다중 룩업 테이블을 이용한 차량 어라운드 뷰 영상 생성장치
KR20150101806A (ko) * 2014-02-27 2015-09-04 동의대학교 산학협력단 그리드 패턴의 자동인식을 이용한 어라운드뷰 모니터링 시스템 및 방법
US20150341628A1 (en) * 2014-05-21 2015-11-26 GM Global Technology Operations LLC Method and apparatus for automatic calibration in surrounding view systems
KR20170085752A (ko) * 2016-01-15 2017-07-25 현대자동차주식회사 자율 주행 차량의 차선 인지 방법 및 장치
KR20170114105A (ko) * 2016-04-04 2017-10-13 엘지전자 주식회사 차량용 어라운드뷰 제공 장치 및 이를 구비한 차량

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8698875B2 (en) * 2009-02-20 2014-04-15 Google Inc. Estimation of panoramic camera orientation relative to a vehicle coordinate frame
TW201226237A (en) * 2010-12-16 2012-07-01 Weltrend Semiconductor Inc Calibration circuit for automatically calibrating a view image around a car and method thereof
WO2012145822A1 (en) * 2011-04-25 2012-11-01 Magna International Inc. Method and system for dynamically calibrating vehicular cameras
WO2012145818A1 (en) * 2011-04-25 2012-11-01 Magna International Inc. Method and system for dynamically calibrating vehicular cameras
EP2523163B1 (en) * 2011-05-10 2019-10-16 Harman Becker Automotive Systems GmbH Method and program for calibrating a multicamera system
JP5898475B2 (ja) * 2011-11-28 2016-04-06 クラリオン株式会社 車載カメラシステム及びその較正方法、及びその較正プログラム
JP5971939B2 (ja) * 2011-12-21 2016-08-17 アルパイン株式会社 画像表示装置、画像表示装置における撮像カメラのキャリブレーション方法およびキャリブレーションプログラム
US20140085409A1 (en) * 2012-09-25 2014-03-27 GM Global Technology Operations LLC Wide fov camera image calibration and de-warping
KR101427181B1 (ko) * 2013-01-09 2014-08-07 아진산업(주) 가변형 타원 패턴을 갖는 차량용 카메라의 교정 지표 및 이를 이용한 교정방법
KR101402082B1 (ko) * 2013-01-10 2014-06-19 주식회사 이미지넥스트 자세 센서를 이용한 공차 보정 시스템 및 방법
US9688200B2 (en) * 2013-03-04 2017-06-27 Magna Electronics Inc. Calibration system and method for multi-camera vision system
JP6034775B2 (ja) * 2013-11-29 2016-11-30 クラリオン株式会社 カメラ校正装置
WO2015110847A1 (en) * 2014-01-27 2015-07-30 Xylon d.o.o. Data-processing system and method for calibration of a vehicle surround view system
US9981605B2 (en) * 2014-05-16 2018-05-29 GM Global Technology Operations LLC Surround-view camera system (VPM) and vehicle dynamic
US9986173B2 (en) * 2014-05-16 2018-05-29 GM Global Technology Operations LLC Surround-view camera system (VPM) online calibration
US9386302B2 (en) * 2014-05-21 2016-07-05 GM Global Technology Operations LLC Automatic calibration of extrinsic and intrinsic camera parameters for surround-view camera system
US10565736B2 (en) * 2016-01-15 2020-02-18 Sony Corporation Image processing apparatus and method, program, and image processing system
US10922559B2 (en) * 2016-03-25 2021-02-16 Bendix Commercial Vehicle Systems Llc Automatic surround view homography matrix adjustment, and system and method for calibration thereof
EP3510562A1 (en) * 2016-09-07 2019-07-17 Starship Technologies OÜ Method and system for calibrating multiple cameras
DE102017207614A1 (de) * 2017-05-05 2018-11-08 Conti Temic Microelectronic Gmbh Vorrichtung und Verfahren zur Kalibrierung eines Kamerasystems eines Fahrzeugs
US10621753B2 (en) * 2017-09-29 2020-04-14 Intel IP Corporation Extrinsic calibration of camera systems
US10482626B2 (en) * 2018-01-08 2019-11-19 Mediatek Inc. Around view monitoring systems for vehicle and calibration methods for calibrating image capture devices of an around view monitoring system using the same
DE102019220049A1 (de) * 2019-12-18 2021-06-24 Robert Bosch Gmbh Verfahren und Vorrichtung zur Kalibrierung mindestens eines Sensors
US11423573B2 (en) * 2020-01-22 2022-08-23 Uatc, Llc System and methods for calibrating cameras with a fixed focal point
EP4165368A1 (en) * 2020-06-15 2023-04-19 Snap-On Incorporated Apparatus and method for calibrating and aligning automotive sensors
KR20220026422A (ko) * 2020-08-25 2022-03-04 삼성전자주식회사 카메라 캘리브레이션 장치 및 이의 동작 방법
KR102387684B1 (ko) * 2020-08-28 2022-04-20 사이텍 주식회사 자율주행 차량의 카메라 검교정 장치
US20220118994A1 (en) * 2020-10-20 2022-04-21 Lyft, Inc. Systems and methods for calibration of sensors on a vehicle
CN113763480A (zh) * 2021-08-03 2021-12-07 桂林电子科技大学 一种多镜头全景摄像机组合标定方法
CN114202588B (zh) * 2021-12-09 2022-09-23 纵目科技（上海）股份有限公司 一种车载环视相机快速自动标定方法和装置
DE102022000729A1 (de) * 2022-03-01 2022-04-14 Mercedes-Benz Group AG Verfahren zur Kalibrierung einer Kamera eines Fahrzeugs

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101239740B1 (ko) * 2011-12-08 2013-03-18 아진산업(주) 폴리곤 매핑 및 다중 룩업 테이블을 이용한 차량 어라운드 뷰 영상 생성장치
KR20150101806A (ko) * 2014-02-27 2015-09-04 동의대학교 산학협력단 그리드 패턴의 자동인식을 이용한 어라운드뷰 모니터링 시스템 및 방법
US20150341628A1 (en) * 2014-05-21 2015-11-26 GM Global Technology Operations LLC Method and apparatus for automatic calibration in surrounding view systems
KR20170085752A (ko) * 2016-01-15 2017-07-25 현대자동차주식회사 자율 주행 차량의 차선 인지 방법 및 장치
KR20170114105A (ko) * 2016-04-04 2017-10-13 엘지전자 주식회사 차량용 어라운드뷰 제공 장치 및 이를 구비한 차량

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115550555A (zh) * 2022-11-28 2022-12-30 杭州华橙软件技术有限公司 云台校准方法及相关装置、摄像器件和存储介质

Also Published As

Publication number Publication date
US20200298769A1 (en) 2020-09-24
US11548452B2 (en) 2023-01-10
KR20190064774A (ko) 2019-06-11
KR102470298B1 (ko) 2022-11-25

Similar Documents

Publication Publication Date Title
WO2019108003A1 (ko) 카메라 보정 방법 및 장치
WO2018066741A1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
WO2017094952A1 (ko) 차량 외부 알람방법, 이를 실행하는 차량 운전 보조장치 및 이를 포함하는 차량
WO2018012674A1 (en) Driver assistance apparatus and vehicle having the same
WO2018009038A1 (ko) 차량 운전 보조 장치 및 이를 포함하는 주차 관제 시스템
WO2018070583A1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
WO2018030580A1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
WO2018131949A1 (ko) 어라운드뷰 제공장치
WO2017150768A1 (ko) 디스플레이 장치 및 이를 포함하는 차량
WO2017061653A1 (ko) 음주운전 방지 방법 및 이를 제공하는 차량 보조 장치
WO2017039047A1 (ko) 차량 및 그 제어방법
WO2017022881A1 (ko) 차량 및 그 제어방법
WO2017209313A1 (ko) 차량용 디스플레이 장치 및 차량
WO2017003052A1 (ko) 차량 운전 보조 방법 및 차량
WO2017119541A1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
WO2017200162A1 (ko) 차량 운전 보조 장치 및 차량
WO2015099465A1 (ko) 차량 운전 보조 장치 및 이를 구비한 차량
WO2017115916A1 (ko) 차량 보조장치 및 이를 포함하는 차량
WO2016021961A1 (ko) 차량용 헤드램프 구동장치 및 이를 구비한 차량
WO2017119557A1 (ko) 운전 보조 장치 및 그 제어방법
WO2020226210A1 (ko) 자율 주행 차량 제어 방법
WO2020159247A1 (ko) 영상 출력 장치
WO2017104888A1 (ko) 차량 운전 보조장치 및 이의 차량 운전 보조방법
WO2020235710A1 (ko) 자율 주행 차량 제어 방법
WO2015093823A1 (ko) 차량 운전 보조 장치 및 이를 구비한 차량

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18883448

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18883448

Country of ref document: EP

Kind code of ref document: A1