KR102497488B1 - Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle - Google Patents

Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle Download PDF

Info

Publication number
KR102497488B1
KR102497488B1 KR1020220162955A KR20220162955A KR102497488B1 KR 102497488 B1 KR102497488 B1 KR 102497488B1 KR 1020220162955 A KR1020220162955 A KR 1020220162955A KR 20220162955 A KR20220162955 A KR 20220162955A KR 102497488 B1 KR102497488 B1 KR 102497488B1
Authority
KR
South Korea
Prior art keywords
image
image recognition
speed
vehicle
recognition
Prior art date
Application number
KR1020220162955A
Other languages
Korean (ko)
Inventor
김상민
Original Assignee
주식회사 셀플러스코리아
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 셀플러스코리아 filed Critical 주식회사 셀플러스코리아
Priority to KR1020220162955A priority Critical patent/KR102497488B1/en
Application granted granted Critical
Publication of KR102497488B1 publication Critical patent/KR102497488B1/en

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/10Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
    • B60W40/105Speed
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0015Planning or execution of driving tasks specially adapted for safety
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/40Scaling the whole image or part thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2520/00Input parameters relating to overall vehicle dynamics
    • B60W2520/10Longitudinal speed

Abstract

The present invention relates to an image recognition device of an autonomous vehicle capable of adjusting a recognition range depending on a driving velocity. The image recognition device of an autonomous vehicle according to the present invention comprises: a photography part having a lens with a certain angle of view and generating an image by photographing the front of the vehicle; and an image recognition part containing image recognition AI algorithm and performing image recognition for recognizing information on an object to be recognized by the autonomous vehicle from the image provided by the photography part, wherein the image is downscaled to have reference resolution and image recognition is performed if the driving velocity of the autonomous vehicle is smaller than reference velocity, and the image is cropped into a size corresponding to the reference resolution and image recognition is performed from the cropped image if the driving velocity is equal to or greater than the reference velocity.

Description

주행속도에 따른 인식범위조절이 가능한 자율주행 차량의 영상인식 장치{Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle}Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle

본 발명은 주행속도에 따른 인식범위조절이 가능한 자율주행 차량의 영상인식 장치에 관한 것으로, 보다 구체적으로는 주행속도에 따라 인식범위를 조절함에 의해, 인식오류를 최소화하면서도 실시간인식이 가능한 주행속도에 따른 인식범위조절이 가능한 자율주행 차량의 영상인식 장치에 관한 것이다.The present invention relates to an image recognition device for an autonomous vehicle capable of adjusting a recognition range according to driving speed, and more specifically, by adjusting a recognition range according to driving speed, real-time recognition is possible while minimizing recognition errors. It relates to an image recognition device for an autonomous vehicle capable of adjusting a recognition range according to the present invention.

자율주행 차량이란 운전자가 차량의 주행을 조작하는 것이 아닌 차량 자체적으로 주행을 제어하여 목적지까지 이동하는 차량을 말한다. 자율주행 차량의 구동을 위해서는 운전자를 대신해 주변 환경을 감시하기 위한 다양한 종류의 센서가 필요로 하며, 자율주행 차량은 이를 이용하여 사람, 동물, 다른 차량 및 교통신호등과 같은 대상물(이하 "오브젝트 정보" 라고 함.)을 정확히 인식하고, 인식 후 설정된 상태로 차량이 동작해야만 한다. An autonomous vehicle refers to a vehicle that moves to a destination by controlling the driving of the vehicle itself, rather than by manipulating the driving of the vehicle by a driver. In order to drive an autonomous vehicle, various types of sensors are required to monitor the surrounding environment on behalf of the driver, and the autonomous vehicle uses this to detect objects such as people, animals, other vehicles, and traffic lights (hereinafter referred to as “object information”). ) must be accurately recognized, and the vehicle must operate in the set state after recognition.

특히, 카메라를 통해 촬영된 영상으로부터 오브젝트 정보를 인식하여 자율주행을 수행하는 자율주행차량에 대한 관심이 높아지고 있으며, 최근 자율주행 차량과 관련된 연구에서는 카메라를 통해 촬영된 영상으로부터 오브젝트 정보의 인식을 정확히 하는 것에 대한 연구가 활발히 이루어지고 있다. In particular, interest in self-driving vehicles that perform self-driving by recognizing object information from images captured through cameras is increasing, and recent studies related to autonomous vehicles accurately recognize object information from images captured through cameras. Research on what to do is being actively conducted.

이 경우에 카메라를 통해 촬영된 영상에서 차량의 주행속도에 따라 반드시 인식되어야 하는 범위가 달라질 수 있다. 카메라를 통해 촬영된 영상의 경우 고속도로 주행시에는 주변보다는 정면의 100m 이상의 원거리까지의 오브젝트 정보 인식이 더 중요시되고, 서행시에는 원거리보다는 차량 주변의 오브젝트 정보에 대한 인식이 더 중요시되게 된다.In this case, the range to be recognized may vary according to the driving speed of the vehicle in the image captured by the camera. In the case of an image captured through a camera, recognition of object information up to a distance of 100 m or more in the front is more important than the surroundings when driving on a highway, and recognition of object information around the vehicle is more important than long distances when driving slowly.

이에 따라, 자율주행 차량의 주행속도에 대응하여 오브젝트 정보의 인식범위를 달리 정할 수 있는 영상인식 장치에 대한 필요성이 대두되고 있다. Accordingly, a need for an image recognition device capable of differently determining a recognition range of object information corresponding to a driving speed of an autonomous vehicle has emerged.

대한민국 등록특허 제10-2188269호(2020.12.02)Republic of Korea Patent Registration No. 10-2188269 (2020.12.02)

따라서, 본 발명의 목적은 상기한 종래의 문제점을 극복할 수 있는 주행속도에 따른 인식범위조절이 가능한 자율주행 차량의 영상인식 장치를 제공하는 데 있다.Accordingly, an object of the present invention is to provide an image recognition device for an autonomous vehicle capable of adjusting a recognition range according to driving speed, which can overcome the above conventional problems.

본 발명의 다른 목적은, 자율주행 차량의 주행속도가 빨라질수록 화각이 작아지는 순으로 렌즈를 선택하고 선택된 렌즈의 영상을 토대로 영상인식을 수행하는 자율주행 차량의 영상인식 장치를 제공하는 데 있다. Another object of the present invention is to provide an image recognition device for an autonomous vehicle that selects lenses in an order in which the angle of view decreases as the driving speed of the autonomous vehicle increases and performs image recognition based on an image of the selected lens.

본 발명의 또 다른 목적은, 자율주행 차량의 주행속도에 대응하여 인식오류가 발생되지 않으면서도 영상인식속도 저하를 방지하여 실시간 인식이 가능할 수 있도록 영상에 대하여 기준해상도로 다운스케일 또는 크로핑(croping)을 수행하여 영상인식을 수행하는 자율주행 차량의 영상인식 장치를 제공하는 데 있다. Another object of the present invention is to downscale or crop an image to a reference resolution so that real-time recognition is possible by preventing a decrease in image recognition speed without causing a recognition error in response to the driving speed of an autonomous vehicle. ) to provide an image recognition device for an autonomous vehicle that performs image recognition.

상기한 기술적 과제들의 일부를 달성하기 위한 본 발명의 구체화에 따라, 본 발명에 따른 자율주행 차량의 영상인식 장치는, 서로 다른 화각(angle of view)을 각각 가지며 차량전방을 촬영하여 영상을 각각 생성하는 복수의 렌즈들을 구비하는 촬영부와; 영상인식 AI알고리즘을 내장하며, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하며, 상기 자율주행 차량의 주행속도가 빨라질수록 상기 복수의 렌즈들 중 화각이 작아지는 순으로 렌즈를 선택하고, 선택된 렌즈로부터 생성된 영상으로부터 상기 오브젝트 정보를 인식하는 영상인식부를 구비한다.According to the embodiment of the present invention for achieving some of the above technical problems, the image recognition device for an autonomous vehicle according to the present invention has a different angle of view, respectively, and photographs the front of the vehicle to generate images, respectively. a photographing unit having a plurality of lenses; An image recognition AI algorithm is embedded, and object information to be recognized in the self-driving vehicle is recognized from the image provided through the photographing unit, and as the driving speed of the self-driving vehicle increases, the angle of view among the plurality of lenses increases. An image recognizing unit which selects lenses in order of decreasing size and recognizes the object information from an image generated from the selected lenses is provided.

상기 촬영부는, 제1화각(angle of view)을 가지며 차량전방을 촬영하여 제1영상을 생성하는 제1렌즈와, 상기 제1화각보다 더 작은 화각인 제2화각을 가지며 차량전방을 촬영하여 제2영상을 생성하는 제2렌즈를 구비하고, 상기 영상인식부는, 상기 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 상기 제1영상을 선택하여 상기 오브젝트 정보를 인식하고, 상기 주행속도가 상기 기준속도 이상인 경우에는 상기 제2영상을 선택하여 상기 오브젝트 정보를 인식할 수 있다.The photographing unit has a first lens that has a first angle of view and generates a first image by capturing the front of the vehicle, and has a second angle of view that is smaller than the first angle of view and photographs the front of the vehicle to generate a first image. A second lens for generating two images is provided, and the image recognition unit selects the first image to recognize the object information when the driving speed of the self-driving vehicle is less than the reference speed, and the driving speed is equal to or less than the reference speed. If the speed exceeds the speed, the object information may be recognized by selecting the second image.

상기 제1렌즈는 광각렌즈이고, 상기 제2렌즈는 협각렌즈이고, 상기 기준속도는 60~100km/h 일 수 있다.The first lens is a wide-angle lens, the second lens is a narrow-angle lens, and the reference speed may be 60 to 100 km/h.

상기 제1화각은 90도~180도이고, 상기 제2화각은 0~60도(0도를 포함하지 않음)일 수 있다.The first angle of view may be 90 degrees to 180 degrees, and the second angle of view may be 0 to 60 degrees (not including 0 degrees).

상기 오브젝트 정보는, 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보 중 적어도 하나를 포함할 수 있다.The object information may include at least one of target road information, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and event information.

상기한 기술적 과제들의 일부를 달성하기 위한 본 발명의 다른 구체화에 따라, 본 발명에 따른 자율주행 차량의 영상인식 장치는, 일정 화각(angle of view)을 가지는 렌즈를 가지며 차량전방을 촬영하여 영상을 생성하는 촬영부와; 영상인식 AI알고리즘을 내장하여, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하되, 상기 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 상기 영상이 기준해상도를 가지도록 다운스케일(Downscale)을 수행하여 영상인식을 수행하고, 상기 주행속도가 상기 기준속도 이상인 경우에는 상기 영상에 대하여 기준해상도에 대응되는 사이즈로 크로핑(croping)하여 크로핑 된 영상으로부터 영상인식을 수행하는 영상인식부를 구비한다.According to another embodiment of the present invention for achieving some of the above technical problems, an image recognition device for an autonomous vehicle according to the present invention has a lens having a certain angle of view and captures an image in front of the vehicle. a photographing unit to generate; An image recognition AI algorithm is embedded to perform image recognition for recognizing object information to be recognized in the self-driving vehicle from the image provided through the photographing unit, but when the driving speed of the self-driving vehicle is less than the reference speed Image recognition is performed by downscaling the image so that it has a standard resolution, and if the traveling speed is greater than or equal to the standard speed, the image is cropped to a size corresponding to the standard resolution. An image recognition unit that performs image recognition from the pinged image is provided.

상기 렌즈는 90도~180도의 화각을 가지는 광각렌즈 일 수 있다.The lens may be a wide-angle lens having an angle of view of 90 degrees to 180 degrees.

상기 기준해상도는, 상기 영상인식부에서 영상 인식을 수행하는 경우에, 영상인식 오류가 발생되지 않으면서 실시간 인식이 가능한 해상도로, 미리 설정된 해상도 일 수 있다.The reference resolution may be a resolution that can be recognized in real time without causing an image recognition error when the image recognition unit performs image recognition, and may be a preset resolution.

상기 기준해상도는 640X480 일 수 있다.The reference resolution may be 640X480.

상기 기준속도는 60~100km/h 일 수 있다.The reference speed may be 60 to 100 km/h.

상기 영상인식부는, 상기 주행속도가 상기 기준속도 이상인 경우에, 상기 주행속도에 대응되는 비율로 다운스케일을 수행하고, 다운스케일된 영상에 대하여 기준해상도에 대응되는 사이즈로 크로핑(croping)하여 크로핑 된 영상으로부터 영상인식을 수행할 수 있다.The image recognizing unit, when the traveling speed is equal to or greater than the reference speed, performs downscaling at a rate corresponding to the traveling speed, crops the downscaled image to a size corresponding to the reference resolution, and crops the image. Image recognition can be performed from the pinged image.

상기한 기술적 과제들의 일부를 달성하기 위한 본 발명의 또 다른 구체화에 따라, 본 발명에 따른 자율주행 차량의 영상인식 장치는, 광각렌즈를 가지며 차량전방을 촬영하여 영상을 생성하는 촬영부와; 영상인식 AI알고리즘을 내장하여, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하되, 상기 자율주행 차량의 주행속도에 대응되어, 상기 영상에 대하여 다운스케일 비율 조절 및 크로핑되는 영상의 사이즈 조절 중 적어도 어느 하나를 수행하여 영상인식을 수행하는 영상인식부를 구비한다.According to another embodiment of the present invention for achieving some of the above technical problems, an image recognition device for an autonomous vehicle according to the present invention includes a photographing unit having a wide-angle lens and generating an image by photographing the front of the vehicle; An image recognition AI algorithm is embedded to perform image recognition for recognizing object information to be recognized in the self-driving vehicle from the image provided through the photographing unit, corresponding to the driving speed of the self-driving vehicle. An image recognizing unit for performing image recognition by performing at least one of downscaling ratio adjustment and cropping image size adjustment with respect to .

상기 영상인식부는 상기 주행속도가 빨라질수록 상기 크로핑되는 영상의 사이즈가 점점 작아지도록 하여 크로핑을 수행할 수 있다.The image recognizing unit may perform cropping by making the size of the cropped image gradually decrease as the traveling speed increases.

상기 영상인식부는, 상기 크로핑을 수행하기 전에 상기 영상에 대하여 다운스케일을 수행하고, 다운스케일된 영상에 대하여 상기 크로핑(croping)을 수행하여 크로핑 된 영상으로부터 영상인식을 수행할 수 있다.The image recognizing unit may downscale the image before performing the cropping, perform image recognition on the cropped image by performing the cropping on the downscaled image.

상기 크로핑을 수행하기 전에 수행되는 다운스케일은 주행속도와 관계없이 고정비율로 수행되고, 다운스케일된 영상에 대하여 수행되는 상기 크로핑은 주행속도에 대응되는 사이즈로 조절되어 수행될 수 있다.The downscaling performed before performing the cropping may be performed at a fixed ratio regardless of the traveling speed, and the cropping performed on the downscaled image may be adjusted to a size corresponding to the traveling speed.

상기 크로핑을 수행하기 전에 수행되는 다운스케일은 주행속도에 대응되는 비율로 수행되고, 다운스케일된 영상에 대하여 수행되는 상기 크로핑은 주행속도와 관계없이 고정 사이즈로 수행될 수 있다.The downscaling performed before the cropping is performed at a rate corresponding to the traveling speed, and the cropping performed on the downscaled image may be performed at a fixed size regardless of the traveling speed.

상기 영상인식부는 상기 주행속도가 기준속도 미만인 경우에는 상기 촬영부를 통해 제공되는 전체 영상을 이용하여 영상인식을 수행하고, 상기 주행속도가 기준속도 이상인 경우에는 상기 주행속도가 빨라질수록 상기 크로핑되는 영상의 사이즈가 점점 작아지도록 하여 크로핑을 수행하고, 크로핑 된 영상으로부터 영상인식을 수행하는 영상인식부를 구비할 수 있다.The image recognizing unit performs image recognition using the entire image provided through the photographing unit when the traveling speed is less than the reference speed, and when the traveling speed is greater than or equal to the reference speed, the image is cropped as the traveling speed increases. An image recognizing unit may be provided to perform cropping by gradually decreasing the size of , and perform image recognition from the cropped image.

본 발명에 따르면, 자율주행 차량의 주행속도가 빨라질수록 화각이 작아지는 순으로 렌즈를 선택하고 선택된 렌즈의 영상을 토대로 영상인식을 수행하는 것이 가능하고, 자율주행 차량의 주행속도에 대응하여 영상인식범위 및 해상도를 조절함에 의해 인식오류가 발생되지 않으면서도 영상인식속도 저하를 방지하여 실시간 인식이 가능하다는 장점이 있다. According to the present invention, it is possible to select lenses in an order in which the angle of view decreases as the driving speed of the autonomous vehicle increases, and perform image recognition based on the image of the selected lens. By adjusting the range and resolution, there is an advantage that real-time recognition is possible by preventing a decrease in image recognition speed without causing recognition errors.

도 1은 본 발명의 제1실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이고,
도 2는 도 1의 촬영부를 통해 촬영된 제1영상 및 제2영상의 예를 나타낸 것이고,
도 3은 본 발명의 제2실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이고,
도 4는 카메라를 구성하는 렌즈와 거리에 따른 영상인식범위를 계산하기 위한 개략도이고,
도 5는 도 3의 영상인식부의 다운스케일과 크로핑 과정을 나타낸 것이고,
도 6은 실제 촬영영상(a)에 대하여 다운스케일(b), 크로핑(c), 업스케일(d)한 영상의 예를 도시한 것이고,
도 7은 본 발명의 제3실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이고,
도 8은 도 7의 영상인식부의 크로핑 과정을 나타낸 개략도이다.
1 is a schematic diagram of an image recognition device for an autonomous vehicle according to a first embodiment of the present invention;
Figure 2 shows an example of a first image and a second image captured through the photographing unit of Figure 1,
3 is a schematic diagram of an image recognition device for an autonomous vehicle according to a second embodiment of the present invention;
4 is a schematic diagram for calculating an image recognition range according to a lens constituting a camera and a distance;
Figure 5 shows the process of downscaling and cropping the image recognition unit of Figure 3,
6 shows examples of downscaled (b), cropped (c), and upscaled (d) images of an actual captured image (a);
7 is a schematic diagram of an image recognition device for an autonomous vehicle according to a third embodiment of the present invention;
8 is a schematic diagram illustrating a cropping process of the image recognition unit of FIG. 7 .

이하에서는 본 발명의 바람직한 실시예가, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 본 발명의 철저한 이해를 제공할 의도 외에는 다른 의도 없이, 첨부한 도면들을 참조로 하여 상세히 설명될 것이다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings, without any intention other than to provide a thorough understanding of the present invention to those skilled in the art to which the present invention pertains.

도 1은 본 발명의 제1실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이다. 도 2는 도 1의 촬영부를 통해 촬영된 제1영상 및 제2영상의 예를 나타낸 것이다. 1 is a schematic diagram of an image recognition device for an autonomous vehicle according to a first embodiment of the present invention. FIG. 2 illustrates an example of a first image and a second image captured through the photographing unit of FIG. 1 .

도 1 및 도 2에 도시된 바와 같이, 본 발명의 제1실시예에 따른 자율주행 차량의 영상인식장치(100)는 촬영부(110) 및 영상인식부(120)를 구비한다.As shown in FIGS. 1 and 2 , the image recognition device 100 for an autonomous vehicle according to the first embodiment of the present invention includes a photographing unit 110 and an image recognition unit 120 .

상기 촬영부(110)는 서로 다른 화각(angle of view)을 각각 가지며 차량전방을 촬영하여 영상을 각각 생성하는 복수의 렌즈들(112,114)을 구비한다.The photographing unit 110 includes a plurality of lenses 112 and 114 each having a different angle of view and generating images by photographing the front of the vehicle.

예를 들어, 상기 촬영부(110)는 제1화각(angle of view)을 가지며 차량전방을 촬영하여 제1영상을 생성하는 제1렌즈(112)와, 상기 제1화각보다 더 작은 화각인 제2화각을 가지며 차량전방을 촬영하여 제2영상을 생성하는 제2렌즈(114)를 구할 수 있다. 이외에 제3화각을 가지는 제3렌즈가 추가될 수 있고, 필요에 따라 제4화각을 가지는 제4렌즈가 더 추가되는 것도 가능하다.For example, the photographing unit 110 includes a first lens 112 that has a first angle of view and generates a first image by photographing the front of the vehicle, and a second angle of view smaller than the first angle of view. A second lens 114 that has a two angle of view and generates a second image by photographing the front of the vehicle may be obtained. In addition, a third lens having a third angle of view may be added, and a fourth lens having a fourth angle of view may be further added as needed.

여기서 상기 제1렌즈(112)는 광각렌즈이고, 상기 제2렌즈(114)는 협각렌즈이고, 상기 제1화각은 90도~180도이고, 상기 제2화각은 0~60도(0도를 포함하지 않음)일 수 있다. Here, the first lens 112 is a wide-angle lens, the second lens 114 is a narrow-angle lens, the first angle of view is 90 degrees to 180 degrees, and the second angle of view is 0 to 60 degrees (0 degrees not included).

여기서, 상기 제1렌즈(112) 및 상기 제2렌즈(114) 이외에 제3화각을 가지는 제3렌즈가 추가될 수 있고, 필요에 따라 제4화각을 가지는 제4렌즈가 더 추가되는 것도 가능하다. 이 경우 상기 제1렌즈(112) 및 상기 제2렌즈(114)의 화각인 제1화각 및 상기 제2화각의 범위는 작아질 수 있다. Here, a third lens having a third angle of view may be added in addition to the first lens 112 and the second lens 114, and a fourth lens having a fourth angle of view may be further added as needed. . In this case, the ranges of the first and second angles of view, which are the angles of view of the first lens 112 and the second lens 114, may be reduced.

그리고 상기 촬영부(110)는 상기 복수의 렌즈들(112,114)에 추가하여 이미지 센서 등 영상 촬영에 필요하거나 유리하다고 통상의 기술자에게 잘 알려진 필수 구성들을 모두 포함할 수 있다.In addition to the plurality of lenses 112 and 114, the photographing unit 110 may include all essential components well known to those skilled in the art that are necessary or advantageous for image capturing, such as an image sensor.

상기 촬영부(110)에 구비되는 상기 제1렌즈(112)는 광각렌즈이고, 상기 제2렌즈(114)는 협각렌즈인 경우, 상기 광각렌즈에 의해 촬영되는 제1영상은 원거리 영상보다는 더 넓은 시야의 근거리에 대한 정보를 더 포함하게 되고, 상기 협각렌즈에 의해 촬영되는 제2영상은 근거리에 대한 정보보다는 차량전방의 원거리에 대한 정보를 더 포함하게 된다. 이에 따라 근거리에 대한 정보가 더 필요한 경우에는 상기 제1영상을 선택하고, 원거리에 대한 정보가 더 필요한 경우에는 상기 제2영상을 선택하여 영상인식을 수행하는 것이 가능하다. When the first lens 112 provided in the photographing unit 110 is a wide-angle lens and the second lens 114 is a narrow-angle lens, the first image captured by the wide-angle lens is wider than the long-distance image. Information on a short distance of the field of view is further included, and the second image captured by the narrow-angle lens further includes information on a long distance in front of the vehicle rather than information on a short distance. Accordingly, it is possible to perform image recognition by selecting the first image when more information on a short distance is needed and by selecting the second image when more information on a long distance is needed.

상기 영상인식부(120)는 영상인식 AI알고리즘을 내장하며, 상기 촬영부(110)를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하며, 상기 자율주행 차량의 주행속도가 빨라질수록 상기 복수의 렌즈들 중 화각이 작아지는 순으로 렌즈를 선택하고, 선택된 렌즈로부터 생성된 영상으로부터 상기 오브젝트 정보를 인식하게 된다. The image recognition unit 120 has a built-in image recognition AI algorithm, recognizes object information to be recognized in the self-driving vehicle from the image provided through the photographing unit 110, and drives the self-driving vehicle. As the speed increases, lenses are selected from among the plurality of lenses in order of decreasing angle of view, and the object information is recognized from an image generated from the selected lenses.

상기 영상인식부(120)는 자율주행 차량의 전자제어유닛(ECU)에 내장될 수 있고, 영상인식을 위한 AI 알고리즘(딥러닝 알고리즘, 딥 뉴럴 네트워크 알고리즘 등)을 구비하여 딥 러닝 학습모델 등을 통한 학습과정을 통해 영상에서의 오브젝트 정보에 대한 인식을 수행하게 되고, 상기 촬영부(110)로부터 제공되는 영상으로부터 오브젝트 정보를 인식하게 된다. The image recognition unit 120 may be built into an electronic control unit (ECU) of an autonomous vehicle, and is equipped with an AI algorithm (deep learning algorithm, deep neural network algorithm, etc.) for image recognition to provide a deep learning learning model, etc. Recognition of object information in an image is performed through a learning process, and object information is recognized from an image provided from the photographing unit 110 .

상기 영상인식부(120)는 상기 촬영부(110)로부터 제공하는 영상들을 저장하기 위한 메모리(미도시)와 이미지 프로세서(미도시)를 구비할 수 있다.상기 이미지 프로세서는 입력되는 입력영상에 포함된 오브젝트 정보의 인식률 향상을 위한 이미지 프로세싱을 수행하는 것이 가능하다.The image recognizing unit 120 may include a memory (not shown) and an image processor (not shown) for storing images provided from the photographing unit 110. The image processor is included in the input image. It is possible to perform image processing for improving the recognition rate of object information.

그리고, 상기 오브젝트 정보는 자율주행을 위해 자율주행 차량에서 인식되어야 하는 오브젝트에 대한 정보가 포함될 수 있다. 상기 오브젝트 정보는, 인식의 대상이 되는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보 중 적어도 하나를 포함할 수 있다. 상기 이동객체정보는 사람, 동물을 포함하여 이동하는 객체를 모두 포함할 수 있고, 상기 도로정보는 노면정보나 차선정보 등을 포함할 수 있다. 그리고 상기 차량정보는 전동퀵보드, 자전거나 오토바이 등의 이륜차를 포함하여, 이륜이상의 다양한 차량에 대한 정보를 포함할 수 있다. 또한, 상기 오브젝트 정보는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보의 위치정보나 색상정보 등을 포함할 수도 있다. 이외에 자율주행을 위해 촬영 영상으로부터 인식이 필요하다고 알려져 있는 정보를 포함할 수 있다. 예를 들어, 비정상 객체정보를 추가로 포함할 수 있다. 비정상 객체정보는 일예로, 앉아있는 사람, 누워있는 사람, 동물사체, 우산을 쓰고 있는 사람 등 일반적으로 정상행위라고 알려져 있는 행위 이외의 비정상 행위를 하고 있는 사람이나 동물 등의 객체를 포함할 수 있다. And, the object information may include information about an object to be recognized in an autonomous vehicle for autonomous driving. The object information may include at least one of target road information to be recognized, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and event information. The moving object information may include all moving objects including people and animals, and the road information may include road surface information or lane information. In addition, the vehicle information may include information on various vehicles of two or more wheels, including two-wheeled vehicles such as electric quick boards, bicycles, and motorcycles. In addition, the object information may include target road information, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and location information or color information of event information. In addition, information known to require recognition from a photographed image for autonomous driving may be included. For example, abnormal object information may be additionally included. Abnormal object information may include, for example, objects such as people or animals performing abnormal behaviors other than generally known normal behaviors, such as a person sitting, a person lying down, a carcass of an animal, and a person using an umbrella. .

상기 영상인식부(120)는, 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 도 2의 (a)에 도시된 바와 같은 제1영상을 선택하여 영상인식을 통해 상기 오브젝트 정보를 인식하고, 상기 주행속도가 상기 기준속도 이상인 경우에는 도 2의 (b)에 도시된 바와 같은 제2영상을 선택하여 상기 오브젝트 정보를 인식하도록 제어할 수 있다. 여기서 상기 기준속도는 60~100km/h 일 수 있다.When the driving speed of the self-driving vehicle is less than the reference speed, the image recognition unit 120 selects the first image as shown in (a) of FIG. 2 and recognizes the object information through image recognition, and When the traveling speed is equal to or greater than the reference speed, control is performed to recognize the object information by selecting the second image as shown in FIG. 2(b). Here, the reference speed may be 60 to 100 km/h.

일반적으로, 차량이 상기 기준속도 미만인 저속으로 운행중인 경우에는 60~100m 이상 원거리의 물체보다는 근거리에 위치한 오브젝트 정보의 인식이 중요하게 된다. 이에 따라 저속 운행 중에는 광각렌즈로 촬영한 제1영상으로부터 오브젝트 정보를 인식하는 것이 더 필요하게 된다. 여기서 악천후의 날씨인 경우는 저속으로 운행할 수 밖에 없기 때문에 저속으로 운행하는 경우를 준용하여 상기 제1영상으로부터 오브젝트 정보를 인식하게 된다.In general, when a vehicle is running at a low speed less than the reference speed, recognition of object information located in a short distance becomes more important than a distant object of 60 to 100 m or more. Accordingly, it is further required to recognize object information from the first image photographed with the wide-angle lens during low-speed driving. Here, in the case of bad weather, since it is inevitable to operate at low speed, object information is recognized from the first image by applying mutatis mutandis to the case of driving at low speed.

하지만, 차량이 상기 기준속도 이상인 고속으로 운행중인 경우에는 차량 근처의 근거리 정보보다는 60~100m 이상 원거리에 위치한 오브젝트 정보에 대한 인식이 더 필요하게 된다. 이에 따라 고속 운행 중에는 협각렌즈로 촬영한 상기 제2영상으로부터 오브젝트 정보를 인식하는 것이 더 필요하게 된다. 특히 고속도로 주행시에는 60~100m 이상 원거리에 위치한 오브젝트 정보에 대한 인식이 수행되어야 하고 빠른 인식이 되어야 알림이나 제동이 가능하기 때문에, 상기 제2렌즈인 협각렌즈로 촬영한 상기 제2영상으로부터 오브젝트 정보를 인식하게 되는 것이다. 협각렌즈로 촬영한 영상의 경우 광각렌즈로 촬영한 영상보다 인식속도 및 인식범위 면에서 효율적이기 때문이다.However, when the vehicle is operating at a high speed equal to or higher than the reference speed, recognition of object information located at a distance of 60 to 100 m or more is more required than short-distance information near the vehicle. Accordingly, it is further required to recognize object information from the second image captured with a narrow angle lens during high-speed driving. In particular, when driving on a highway, recognition of object information located at a distance of 60 to 100 m or more must be performed, and notification or braking is possible only when the recognition is fast. will come to recognize This is because images captured with a narrow-angle lens are more efficient in terms of recognition speed and recognition range than images captured with a wide-angle lens.

상술한 바와 같이, 본 발명의 제1실시예에 따르면, 자율주행차량에서 전방을 촬영한 영상을 인식함에 있어, 차량의 주행속도에 따라 광각렌즈의 영상 또는 협각렌즈의 영상을 선택하여 인식함에 따라, 고해상도의 영상에 따른 인식속도 저하의 문제를 해소함과 동시에, 필요한 인식범위를 선택하는 것이 가능하므로, 인식의 효율성을 높일 수 있다는 장점이 있다.As described above, according to the first embodiment of the present invention, in recognizing an image photographed in front of an autonomous vehicle, an image of a wide-angle lens or a narrow-angle lens is selected and recognized according to the driving speed of the vehicle. , there is an advantage in that the efficiency of recognition can be increased because it is possible to select a necessary recognition range while solving the problem of a decrease in recognition speed according to a high-resolution image.

도 3은 본 발명의 제2실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이고, 도 4는 카메라를 구성하는 렌즈와 거리에 따른 영상인식범위를 계산하기 위한 개략도이다. 3 is a schematic diagram of an image recognition device for an autonomous vehicle according to a second embodiment of the present invention, and FIG. 4 is a schematic diagram for calculating an image recognition range according to a distance from a lens constituting a camera.

도 3에 도시된 바와 같이, 본 발명의 제2실시예에 따른 자율주행 차량의 영상인식장치(200)는 촬영부(210) 및 영상인식부(220)를 구비한다.As shown in FIG. 3 , the image recognition device 200 for an autonomous vehicle according to the second embodiment of the present invention includes a photographing unit 210 and an image recognition unit 220 .

상기 촬영부(210)는 일정 화각(angle of view)을 각각 가지며 차량전방을 촬영하여 영상을 각각 생성하는 적어도 하나의 렌즈(212)를 구비한다. 상기 렌즈(212)는 화각이 90도~180도인 광각렌즈일 수 있으나, 이외에 광각렌즈나 협각렌즈 등에 관계없이 0도~180도(0도를 포함하지 않음)의 범위에서 특정화각을 가지는 렌즈가 구비되는 것도 가능하다.The photographing unit 210 includes at least one lens 212 each having a predetermined angle of view and generating images by photographing the front of the vehicle. The lens 212 may be a wide-angle lens having an angle of view of 90 degrees to 180 degrees, but a lens having a specific angle of view in the range of 0 degrees to 180 degrees (not including 0 degrees) regardless of a wide-angle lens or a narrow-angle lens is provided. It is also possible to be provided.

그리고 상기 촬영부(210)는 상기 렌즈(212)에 추가하여 이미지 센서 등 영상 촬영에 필요하거나 유리하다고 통상의 기술자에게 잘 알려진 필수 구성들을 모두 포함할 수 있다.In addition to the lens 212 , the photographing unit 210 may include all essential components well known to those skilled in the art that are necessary or advantageous for image capturing, such as an image sensor.

상기 촬영부(210)를 구성하는 카메라를 포함하여 일반적인 카메라는, 도 4에 도시된 바와 같이, 렌즈(212)와 이미지센서(214)로 구성되며 카메라에 센서의 셀 사이즈에 따라 "L2" 가 정해진다. 여기서, "L1"은 객체인 사람의 사이즈이고, "d"는 렌즈와 객체와의 거리이고, "f"는 렌즈와 이미지 센서의 거리로 초점거리를 의미할 수 있다.As shown in FIG. 4, a general camera, including the camera constituting the photographing unit 210, is composed of a lens 212 and an image sensor 214, and "L2" is assigned to the camera according to the cell size of the sensor. It is decided. Here, “L1” is the size of the object, “d” is the distance between the lens and the object, and “f” is the distance between the lens and the image sensor, which may mean the focal length.

여기서 일예로, 1280x720 1메가급 카메라에서는 셀사이즈가 3um, d=100m, L1(사람)=170cm, f=5.5일 경우 L2는 0.09405mm으로 31.35pixel로 계산된다. 참고로, 셀 사이즈와 초점거리인 "f"에 따라서 보이는 비율이 달라진다.Here, as an example, in a 1280x720 1 mega camera, if the cell size is 3um, d = 100m, L1 (person) = 170cm, and f = 5.5, L2 is calculated as 0.09405mm and 31.35pixel. For reference, the visible ratio varies depending on the cell size and the focal length "f".

이를 기준으로 1메가급 센서에서는 100m의 거리(d)에서 170cm인 사람이 가로 10픽셀, 세로 30픽셀 정도로 측정되며 이 경우에는 현재의 영상인식 알고리즘을 기준으로 할 때 영상을 인식하는데 어려움이 발생한다. 여기서, 현재의 기술수준의 영상인식 알고리즘을 이용하는 경우, 100m의 거리(d)에 170cm인 사람을 오류없이 인식가능한 영상 인식범위를 가로 32픽셀, 세로 92픽셀 범위라고 가정한다. Based on this, in a 1 mega sensor, a 170 cm person at a distance (d) of 100 m is measured as 10 pixels in width and 30 pixels in height, and in this case, difficulties arise in recognizing images based on the current image recognition algorithm. . Here, when using the current state of the art image recognition algorithm, it is assumed that an image recognition range capable of recognizing a person of 170 cm at a distance (d) of 100 m without error is a range of 32 pixels in width and 92 pixels in height.

그리고, 같은 조건에서 8메가급 센서는 3840x2160의 해상도로 100m의 거리(d)에서 170cm인 사람이 가로 32픽셀, 세로 92픽셀로 나타나 인식이 가능한 영상인식범위에 들어오게 된다. 3840/1280=3, 2160/720=3 약 3배의 차이를 가지며 100m거리에서 170cm 사람을 측정할 경우 32픽셀, 92픽셀에 비례하여 나타나게 된다. 하지만, 이 경우 상기 영상인식부(220)에 내장된 영상인식 알고리즘을 이용하여 3840x2160의 해상도를 가지는 영상을 인식할 경우, 100m 범위의 사람에 대한 인식이 가능하지만, 많은 부하가 발생하여 실시간 인식이 어렵다는 문제점이 발생된다. And, under the same conditions, the 8-megapixel sensor comes into the image recognition range where a 170 cm tall person appears as 32 pixels in width and 92 pixels in height at a distance (d) of 100 m with a resolution of 3840x2160. 3840/1280=3, 2160/720=3 It has a difference of about 3 times, and when measuring a 170cm person from a distance of 100m, it appears in proportion to 32 pixels and 92 pixels. However, in this case, when recognizing an image having a resolution of 3840x2160 using the image recognition algorithm built into the image recognition unit 220, it is possible to recognize a person within a range of 100 m, but real-time recognition is not possible due to heavy load. A difficult problem arises.

결국, 1280x720 1메가급 센서를 가지는 카메라를 통해 촬영된 영상의 경우에는 100m 이상 원거리의 객체인 오브젝트 정보를 인식하지 못하고, 3840x2160 8메가급 센서를 가지는 카메라를 통해 촬영된 영상의 경우에는 100m 이상 원거리의 오브젝트 정보에 대한 인식이 가능하지만, 많은 부하가 발생하여 실시간 인식이 어렵다는 문제점이 발생되게 된다. As a result, in the case of an image captured through a camera having a 1280x720 1 mega sensor, object information that is a distant object of 100 m or more is not recognized, and in the case of an image captured through a camera having a 3840x2160 8 mega sensor, a distance of 100 m or more Recognition of object information is possible, but a problem arises in that real-time recognition is difficult due to a lot of load.

이에 따라, 자율주행 차량의 전방에 대하여 근거리 및 원거리의 전체 범위에 대한 인식을 위해서는 고해상도의 영상이 필요하나, 이 경우 많은 부하가 발생하여 실시간 인식이 어렵다는 문제점이 발생하게 되므로, 고해상도로 촬영된 영상에 대하여 부하발생을 줄여 실시간 인식이 가능하도록 하기 위한 구성이 필요하게 된다. Accordingly, a high-resolution image is required for recognition of the entire range of short and long distances in front of the autonomous vehicle, but in this case, a lot of load occurs and real-time recognition is difficult. A configuration is required to reduce load generation and enable real-time recognition.

이러한 문제점을 극복하기 위해 상기 영상인식부(220)는 영상인식 AI알고리즘을 내장하여, 상기 촬영부(210)를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하게 된다. 이때, 상기 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 상기 영상이 기준해상도를 가지는 사이즈로 다운스케일(Downscale)을 수행하여 영상인식을 수행하고, 상기 주행속도가 기준속도 이상인 경우에는 영상에 대하여 기준해상도에 대응되는 사이즈로 크로핑(croping)하여 크로핑 된 영상으로부터 영상인식을 수행하게 된다. 여기서 상기 기준속도는 60~100km/h 일 수 있다.In order to overcome this problem, the image recognition unit 220 has an image recognition AI algorithm embedded therein to recognize object information, which is a target of recognition in the self-driving vehicle, from an image provided through the photographing unit 210. recognition will be performed. At this time, if the driving speed of the self-driving vehicle is less than the reference speed, the image is downscaled to a size having a reference resolution to perform image recognition, and if the driving speed is greater than or equal to the reference speed, image recognition is performed. Image recognition is performed from the cropped image by cropping to a size corresponding to the reference resolution. Here, the reference speed may be 60 to 100 km/h.

상기 기준해상도는, 상기 영상인식부(220)에서 영상 인식을 수행하는 경우에, 근거리 뿐 아니라 원거리의 오브젝트 정보에 대해서도 영상인식 오류가 발생되지 않으면서 영상인식 속도가 저하되지 않고 실시간 인식이 가능한 해상도로, 미리 설정된 해상도 일 수 있다. 여기서 상기 기준해상도는 640X480 라고 가정한다. 상기 기준해상도는 영상 인식기술의 발전에 따라 640X480 보다 고해상도로 정해지는 것도 가능하다. When the image recognition unit 220 performs image recognition, the reference resolution is a resolution at which image recognition errors do not occur and image recognition speed does not decrease and real-time recognition is possible with respect to object information of a short distance as well as a long distance. , it may be a preset resolution. Here, it is assumed that the reference resolution is 640X480. The reference resolution may be set to a higher resolution than 640X480 according to the development of image recognition technology.

도 5는 상기 영상인식부의 다운스케일과 크로핑 과정을 나타낸 것이고, 도 6은 실제 촬영영상(a)에 대하여 다운스케일(b), 크로핑(c), 업스케일(d)한 영상의 예를 도시한 것이다.5 shows the process of down-scaling and cropping the image recognition unit, and FIG. 6 shows examples of down-scaling (b), cropping (c), and up-scaling (d) images of an actual captured image (a). it is depicted

도 5의 (a)에 도시된 바와 같이, 상기 영상인식부(220)는 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 상기 촬영부(210)를 통해 제공되는 고해상도의 영상(215a)에 대하여 상기 기준해상도를 가지도록 다운스케일을 수행하고, 다운스케일된 영상(225a)에 대하여 오브젝트 인식을 수행하게 된다. 이 경우 원래 영상(도 6의 (a) 참조)으로부터 다운스케일된 영상(도 6의 (b) 참조)의 경우 원거리의 물체는 더 작아보이고 열화되어 인식오류가 발생될 수 있으나, 일반적으로, 차량이 상기 기준속도 미만인 저속으로 운행중인 경우에는 60~100m 이상 원거리의 물체보다는 근거리에 위치한 오브젝트 정보의 인식이 중요하게 되므로, 열화된 부분의 무시가 가능하므로 실시간 인식 및 오브젝트 정보 인식에 문제가 발생되지 않는다. As shown in (a) of FIG. 5 , the image recognition unit 220 detects a high-resolution image 215a provided through the photographing unit 210 when the driving speed of the self-driving vehicle is less than the reference speed. Downscaling is performed to have the reference resolution, and object recognition is performed on the downscaled image 225a. In this case, in the case of a downscaled image (see FIG. 6(b)) from the original image (see FIG. 6(a)), a distant object may look smaller and deteriorate, resulting in a recognition error. In the case of driving at a low speed below the reference speed, recognition of object information located in a short distance is more important than a distant object of 60 to 100 m or more, so that the deteriorated part can be ignored, so that there is no problem in real-time recognition and object information recognition. don't

도 5의 (b)에 도시된 바와 같이, 상기 영상인식부(220)는 자율주행 차량의 주행속도가 기준속도 이상인 고속으로 운행중인 경우에는, 차량 근처의 근거리 정보보다는 60~100m 이상 원거리에 위치한 오브젝트 정보에 대한 인식이 더 필요하게 된다. 이에 따라 고속 운행 중에는 이 경우 원래 영상(215a 또는 도 6의 (a) 참조)으로부터 차량 정면을 기준으로 영상에 대하여 크로핑 사이즈(215b)에 따른 크로핑을 수행하고 크로핑된 영상(225b 또는 도 6의 (c) 참조)에 대하여 오브젝트 인식을 수행하게 된다. As shown in (b) of FIG. 5, the image recognition unit 220 is located at a distance of 60 to 100 m or more rather than the short distance information near the vehicle when the driving speed of the autonomous vehicle is running at a high speed higher than the reference speed. Recognition of object information becomes more necessary. Accordingly, during high-speed driving, in this case, cropping is performed according to the cropping size 215b on the image based on the front of the vehicle from the original image (215a or FIG. 6(a)), and the cropped image (225b or FIG. 6 (c) reference), object recognition is performed.

이 경우 크로핑된 영상(225b 또는 도 6의 (c) 참조)은 상기 기준해상도를 가지는 사이즈로 크로핑되게 된다. 예를 들어, 도 6의 (a)에 도시된 바와 같은 원래 영상이 8메가급 센서를 가지는 카메라를 통해 촬영되어 3840x2160의 해상도를 가지고, 100m의 원거리에 170cm의 사람이 있는 경우, 사람의 영상에 해당되는 32픽셀x92픽셀부분을 포함하여 기준해상도인 640x480의 해상도를 가지는 사이즈의 영상으로 크로핑을 수행하는 것이 가능하다. 이에 따라, 원거리의 오브젝트 정보에 대한 영상인식 속도를 실시간 인식 수준으로 하는 것이 가능하다. 특히 고속도로 주행시에는 근거리보다는 60~100m 이상 원거리에 위치한 오브젝트 정보에 대한 인식이 오류없이 수행되어야 하고 실시간 인식이 되어야 하므로, 크로핑을 통해 오브젝트 정보를 인식하는 것이 가능하다. 크로핑의 경우 원래 촬영영상에서 해당 사이즈 만큼을 잘라내는 것이므로, 다운스케일과 달리 원거리의 물체에 대한 열화가 발생되지 않는다. 여기서 크로핑은 피사체의 사이즈를 기준으로 하는 것이 아니라 영상의 사이즈를 기준으로 수행된다.In this case, the cropped image (see 225b or (c) of FIG. 6) is cropped to a size having the reference resolution. For example, if the original image shown in (a) of FIG. 6 is taken by a camera having an 8-megapixel sensor and has a resolution of 3840x2160, and there is a person at a distance of 170 cm at a distance of 100 m, the image of the person It is possible to perform cropping with an image of a size having a resolution of 640x480, which is a reference resolution, including a corresponding 32-pixelx92-pixel part. Accordingly, it is possible to set the image recognition speed for distant object information to a real-time recognition level. In particular, when driving on a highway, recognition of object information located at a distance of 60 to 100 m or more rather than a short distance must be performed without error and must be recognized in real time, so it is possible to recognize object information through cropping. In the case of cropping, since a corresponding size is cut out from an original captured image, unlike downscaling, deterioration of a distant object does not occur. Here, cropping is performed based on the size of the image, not the size of the subject.

상술한 크로핑은 상기 촬영부(210)를 통해 촬영된 원래 영상의 중앙부분을 기준으로 하여 수행되는 것이 일반적이나, 필요에 따라(예를 들면, 좌회전이나 우회전시 등), 중앙부분의 좌측 또는 우측을 기준으로 하여 크로핑을 수행할 수 있다. The above-described cropping is generally performed based on the central part of the original image captured by the photographing unit 210, but if necessary (eg, when turning left or right), the left or right side of the central part Cropping may be performed based on the right side.

여기서, 필요한 경우에 상기 크로핑을 수행하기 전에 상기 촬영부(210)를 통해 제공되는 영상(215a)에 대하여 일정수준의 다운스케일을 수행한 이후에 크로핑을 수행하는 것이 가능하다. 이 경우에는 다운스케일 없이 크로핑을 수행하는 경우보다 인식범위를 넓힐 수 있다는 장점이 있다. 그리고, 상기 다운스케일의 수행은, 상기 주행속도에 대응되는 비율로 수행하는 것이 가능하다. 즉 주행속도가 빨라질수록 다운스케일 비율이 작아지고, 주행속도가 느려질수록 다운스케일 비율이 커지도록 하여, 주행속도가 느린 경우에 더 인식범위가 넓어지도록 하는 것이 가능하다. Here, if necessary, it is possible to perform cropping after downscaling the image 215a provided through the photographing unit 210 to a certain level before performing the cropping. In this case, there is an advantage in that the recognition range can be broadened compared to the case where cropping is performed without downscaling. Further, the downscaling may be performed at a rate corresponding to the traveling speed. That is, as the driving speed increases, the downscale ratio decreases, and as the driving speed decreases, the downscale ratio increases, so that the recognition range can be widened when the driving speed is slow.

상기 영상인식부(220)는 자율주행 차량의 전자제어유닛(ECU)에 내장될 수 있고, 영상인식을 위한 AI 알고리즘(딥러닝 알고리즘, 딥 뉴럴 네트워크 알고리즘 등)을 구비하여 딥 러닝 학습모델 등을 통한 학습과정을 통해 영상에서의 오브젝트 정보에 대한 인식을 수행하게 되고, 상기 촬영부(210)로부터 제공되는 영상을 다운스케일 또는 크로핑한 상태에서 오브젝트 정보를 인식하게 된다. The image recognition unit 220 may be built into an electronic control unit (ECU) of an autonomous vehicle, and is equipped with an AI algorithm (deep learning algorithm, deep neural network algorithm, etc.) for image recognition to provide a deep learning learning model, etc. Recognition of object information in an image is performed through a learning process, and object information is recognized in a state in which the image provided from the photographing unit 210 is downscaled or cropped.

상기 영상인식부(220)는 상기 촬영부(210)로부터 제공하는 영상들을 저장하기 위한 메모리(미도시)와 이미지 프로세서(미도시)를 구비할 수 있다.상기 이미지 프로세서는 입력되는 입력영상에 포함된 오브젝트 정보의 인식률 향상을 위한 이미지 프로세싱을 수행하는 것이 가능하다.The image recognizing unit 220 may include a memory (not shown) and an image processor (not shown) for storing images provided from the photographing unit 210. The image processor is included in the input image. It is possible to perform image processing for improving the recognition rate of object information.

그리고, 상기 오브젝트 정보는 자율주행을 위해 자율주행 차량에서 인식되어야 하는 오브젝트에 대한 정보가 포함될 수 있다. 상기 오브젝트 정보는, 인식의 대상이 되는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보 중 적어도 하나를 포함할 수 있다. 상기 이동객체정보는 사람, 동물을 포함하여 이동하는 객체를 모두 포함할 수 있고, 상기 도로정보는 노면정보나 차선정보 등을 포함할 수 있다. 그리고 상기 차량정보는 전동퀵보드, 자전거나 오토바이 등의 이륜차를 포함하여, 이륜이상의 다양한 차량에 대한 정보를 포함할 수 있다. 또한, 상기 오브젝트 정보는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보의 위치정보나 색상정보 등을 포함할 수도 있다. 이외에 자율주행을 위해 촬영 영상으로부터 인식이 필요하다고 알려져 있는 정보를 포함할 수 있다. 예를 들어, 비정상 객체정보를 추가로 포함할 수 있다. 비정상 객체정보는 일예로, 앉아있는 사람, 누워있는 사람, 동물사체, 우산을 쓰고 있는 사람 등 일반적으로 정상행위라고 알려져 있는 행위 이외의 비정상 행위를 하고 있는 사람이나 동물 등의 객체를 포함할 수 있다. And, the object information may include information about an object to be recognized in an autonomous vehicle for autonomous driving. The object information may include at least one of target road information to be recognized, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and event information. The moving object information may include all moving objects including people and animals, and the road information may include road surface information or lane information. In addition, the vehicle information may include information on various vehicles of two or more wheels, including two-wheeled vehicles such as electric quick boards, bicycles, and motorcycles. In addition, the object information may include target road information, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and location information or color information of event information. In addition, information known to require recognition from a photographed image for autonomous driving may be included. For example, abnormal object information may be additionally included. Abnormal object information may include, for example, objects such as people or animals performing abnormal behaviors other than generally known normal behaviors, such as a person sitting, a person lying down, a carcass of an animal, and a person using an umbrella. .

상술한 바와 같이, 본 발명의 제2실시예에 따르면, 고해상도의 카메라를 이용하여 영상을 촬영하되, 자율주행차량의 주행속도에 대응하여, 영상에 대한 다운스케일 또는 크로핑을 수행하여 차량의 전방에 대하여 근거리 및 원거리의 전체 범위에 대한 인식이 가능함은 물론, 고해상도의 영상 및 원거리의 오브젝트 정보에 대한 인식에 있어서 부하발생을 줄여 실시간 인식이 가능하다는 장점이 있다.As described above, according to the second embodiment of the present invention, while capturing an image using a high-resolution camera, downscaling or cropping the image is performed in response to the driving speed of the autonomous vehicle so that the front of the vehicle It has the advantage of being able to recognize the entire range of near and far distances, as well as real-time recognition by reducing the load in recognizing high-resolution images and distant object information.

도 7은 본 발명의 제3실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이고, 도 8은 도 7의 영상인식부의 크로핑 과정을 나타낸 개략도이다. 7 is a schematic diagram of an image recognition device for an autonomous vehicle according to a third embodiment of the present invention, and FIG. 8 is a schematic diagram illustrating a cropping process of the image recognition unit of FIG. 7 .

도 7에 도시된 바와 같이, 본 발명의 제3실시예에 따른 자율주행 차량의 영상인식장치(300)는 촬영부(310) 및 영상인식부(320)를 구비한다.As shown in FIG. 7 , an image recognizing device 300 for an autonomous vehicle according to a third embodiment of the present invention includes a photographing unit 310 and an image recognizing unit 320 .

상기 촬영부(310)는 일정 화각(angle of view)을 각각 가지며 차량전방을 촬영하여 영상을 각각 생성하는 적어도 하나의 렌즈(312)를 구비한다. 상기 렌즈(312)는 화각이 90도~180도인 광각렌즈일 수 있으나, 이외에 광각렌즈나 협각렌즈 등에 관계없이 0도~180도(0도를 포함하지 않음)의 범위에서 특정화각을 가지는 렌즈가 구비되는 것도 가능하다.The photographing unit 310 includes at least one lens 312 each having a predetermined angle of view and generating images by photographing the front of the vehicle. The lens 312 may be a wide-angle lens having an angle of view of 90 degrees to 180 degrees, but a lens having a specific angle of view in the range of 0 degrees to 180 degrees (not including 0 degrees) regardless of a wide-angle lens or a narrow-angle lens is provided. It is also possible to be provided.

그리고 상기 촬영부(310)는 상기 렌즈(312)에 추가하여 이미지 센서 등 영상 촬영에 필요하거나 유리하다고 통상의 기술자에게 잘 알려진 필수 구성들을 모두 포함할 수 있다.In addition to the lens 312, the photographing unit 310 may include all essential elements well known to those skilled in the art that are necessary or advantageous for image photographing, such as an image sensor.

상기 영상인식부(320)는 영상인식 AI알고리즘을 내장하여, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하되, 상기 자율주행 차량의 주행속도에 대응되어, 상기 촬영부를 통해 제공되는 영상에 대하여 다운스케일 비율 조절 및 크로핑(croping)되는 영상의 사이즈 조절 중 적어도 어느 하나를 수행하여 영상인식을 수행한다.The image recognition unit 320 embeds an image recognition AI algorithm to perform image recognition for recognizing object information to be recognized in the self-driving vehicle from the image provided through the photographing unit. Corresponding to the driving speed, image recognition is performed by performing at least one of downscaling ratio adjustment and cropping image size adjustment with respect to the image provided through the photographing unit.

일반적으로 주행속도가 저속일 경우에는 차량 전방의 근거리의 넓은 범위에 대한 오브젝트 정보 인식이 중요하고, 주행속도가 고속일 경우에는 차량 전방의 원거리의 오브젝트 정보 인식이 중요하게 된다.In general, when the driving speed is low, it is important to recognize object information in a short distance in front of the vehicle and in a wide range, and when the driving speed is high, it is important to recognize object information in a long distance in front of the vehicle.

이에 따라, 일예로, 도 8에 도시된 바와 같이, 상기 영상인식부(320)는 상기 자율주행차량의 주행속도가 빨라질수록 상기 크로핑이 수행되는 영상의 사이즈가 점점 작아지도록 하여 크로핑을 수행할 수 있다. 구체적으로, 도 8에 도시된 바와 같이 상기 촬영부(310)를 통해 촬영되어 제공되는 원래 영상(315a)에 대하여, 차량의 주행속도가 빨라질수록 크로핑이 수행되는 영상의 사이즈가 제1크로핑 영상(315b), 제2크로핑 영상(315c), 제3크로핑 영상(315d) 순으로 코로핑되는 영상의 사이즈가 작아지게 크로핑을 수행하고 이렇게 크로핑 된 영상에 대하여 영상인식을 수행할 수 있다. 이는 차량의 주행속도가 빨라짐에 따라, 근거리의 넓은 범위보다는 원거리의 오브젝트 정보에 대한 인식이 더 중요해지기 때문에, 주행속도에 따라 크로핑되는 영상의 사이즈를 조절하여 영상인식의 효율성을 높이는 것이 가능하다. Accordingly, as an example, as shown in FIG. 8, the image recognition unit 320 performs cropping by making the size of the image on which the cropping is performed gradually decrease as the driving speed of the autonomous vehicle increases can do. Specifically, as shown in FIG. 8 , with respect to the original image 315a photographed and provided by the photographing unit 310, as the traveling speed of the vehicle increases, the size of the image to which cropping is performed increases with the first cropping. Image 315b, second cropped image 315c, and third cropped image 315d are cropped in order to reduce the size of the cropped image, and image recognition is performed on the cropped image. can This is because the recognition of distant object information becomes more important than a wide range of short distances as the driving speed of the vehicle increases, so it is possible to increase the efficiency of image recognition by adjusting the size of the cropped image according to the driving speed. .

상술한 크로핑은 상기 촬영부(310)를 통해 촬영된 원래 영상의 중앙부분을 기준으로 하여 수행되는 것이 일반적이나, 필요에 따라(예를 들면, 좌회전이나 우회전시 등), 중앙부분의 좌측 또는 우측을 기준으로 하여 크로핑을 수행할 수 있다. The above-described cropping is generally performed based on the central part of the original image captured by the photographing unit 310, but if necessary (eg, when turning left or right), the left side of the central part or Cropping may be performed based on the right side.

그리고, 다른 예로, 상기 영상인식부(320)는, 상기 크로핑을 수행하기 전에 상기 촬영부(310)를 통해 촬영된 원래 영상에 대하여 다운스케일을 수행하고, 다운스케일된 영상에 대하여 상기 크로핑(croping)을 수행하여 크로핑 된 영상으로부터 영상인식을 수행할 수 있다. And, as another example, before performing the cropping, the image recognition unit 320 downscales the original image captured by the photographing unit 310, and performs the cropping on the downscaled image. Image recognition can be performed from the cropped image by performing (croping).

이 경우, 상기 크로핑을 수행하기 전에 상기 촬영부(310)를 통해 촬영된 원래 영상에 대하여 상기 주행속도에 대응되는 비율로 다운스케일을 수행하고, 다운스케일된 영상에 대하여 상기 크로핑(croping)을 수행하여 크로핑 된 영상으로부터 영상인식을 수행하는 것이 가능하다. 이때, 다운스케일은 주행속도가 빨라질수록 다운스케일 비율이 작아지고, 주행속도가 느려질수록 다운스케일 비율이 커지도록 하여, 주행속도가 느린 경우에 더 인식범위가 넓어지도록 하는 것이 가능하다. 이 경우 크로핑되는 영상의 사이즈는 주행속도에 대응하여 점점 작아지도록 하는 것도 가능하고, 주행속도와 관계없이 고정 사이즈를 가지도록 하는 것도 가능하다. 이 경우 주행속도에 대응하여 다운스케일 비율조절 및 크로핑 사이즈 조절하는 경우에 비하여 주행속도에 대응하여 다운스케일 비율조절 및 크로핑 사이즈 고정하는 경우는 다운스케일 비율이 더 크게 조절될 수 있다. In this case, before performing the cropping, downscaling is performed at a rate corresponding to the traveling speed with respect to the original image captured by the photographing unit 310, and the cropping is performed on the downscaled image. It is possible to perform image recognition from the cropped image by performing In this case, the downscaling is performed such that the downscaling ratio decreases as the driving speed increases and the downscaling ratio increases as the driving speed decreases, so that the recognition range can be further widened when the driving speed is slow. In this case, the size of the image to be cropped can be gradually reduced according to the traveling speed, and it is also possible to have a fixed size regardless of the traveling speed. In this case, compared to the case of adjusting the downscaling ratio and cropping size in response to the driving speed, the downscaling ratio can be adjusted to a greater extent when the downscaling ratio is adjusted and the cropping size is fixed in response to the traveling speed.

또 다른 경우로, 상기 촬영부(310)를 통해 촬영된 원래 영상에 대하여 상기 크로핑을 수행하기 전에 수행되는 다운스케일은 주행속도와 관계없이 고정비율로 수행되고, 다운스케일된 영상에 대하여 수행되는 상기 크로핑은 주행속도에 대응되는 사이즈로 수행될 수 있다. 이 경우 크로핑되는 영상의 사이즈는 주행속도에 대응하여 점점 작아지도록 하는 것도 가능하고, 주행속도와 관계없이 고정 사이즈를 가지도록 하는 것도 가능하다. In another case, the downscaling performed before performing the cropping on the original image captured by the photographing unit 310 is performed at a fixed ratio regardless of the driving speed, and is performed on the downscaled image The cropping may be performed to a size corresponding to the traveling speed. In this case, the size of the image to be cropped can be gradually reduced according to the traveling speed, and it is also possible to have a fixed size regardless of the traveling speed.

또 다른 예로, 상기 영상인식부(320)는 상기 주행속도가 기준속도 미만인 경우에는 상기 촬영부(310)를 통해 제공되는 전체 영상을 이용하여 영상인식을 수행하고, 상기 주행속도가 기준속도 이상인 경우에는 상기 주행속도가 빨라질수록 상기 크로핑되는 영상의 사이즈가 점점 작아지도록 하여 크로핑을 수행하고, 크로핑 된 영상으로부터 영상인식을 수행하는 것도 가능하다. 여기서 상기 기준속도는 60~100km/h 일 수 있다.As another example, the image recognition unit 320 performs image recognition using the entire image provided through the photographing unit 310 when the driving speed is less than the reference speed, and when the driving speed is greater than or equal to the reference speed It is also possible to perform cropping by making the size of the cropped image gradually smaller as the traveling speed increases, and to perform image recognition from the cropped image. Here, the reference speed may be 60 to 100 km/h.

상기 영상인식부(320)는 자율주행 차량의 전자제어유닛(ECU)에 내장될 수 있고, 영상인식을 위한 AI 알고리즘(딥러닝 알고리즘, 딥 뉴럴 네트워크 알고리즘 등)을 구비하여 딥 러닝 학습모델 등을 통한 학습과정을 통해 영상에서의 오브젝트 정보에 대한 인식을 수행하게 되고, 상기 촬영부(310)로부터 제공되는 영상을 3크로핑한 상태에서 오브젝트 정보를 인식하게 된다. The image recognition unit 320 may be built into an electronic control unit (ECU) of an autonomous vehicle, and is provided with an AI algorithm (deep learning algorithm, deep neural network algorithm, etc.) for image recognition to provide a deep learning learning model, etc. Recognition of object information in an image is performed through a learning process, and object information is recognized in a state in which the image provided from the photographing unit 310 is three-cropped.

상기 영상인식부(320)는 상기 촬영부(310)로부터 제공하는 영상들을 저장하기 위한 메모리(미도시)와 이미지 프로세서(미도시)를 구비할 수 있다.상기 이미지 프로세서는 입력되는 입력영상에 포함된 오브젝트 정보의 인식률 향상을 위한 이미지 프로세싱을 수행하는 것이 가능하다.The image recognizing unit 320 may include a memory (not shown) and an image processor (not shown) for storing images provided from the photographing unit 310. The image processor is included in the input image. It is possible to perform image processing for improving the recognition rate of object information.

그리고, 상기 오브젝트 정보는 자율주행을 위해 자율주행 차량에서 인식되어야 하는 오브젝트에 대한 정보가 포함될 수 있다. 상기 오브젝트 정보는, 인식의 대상이 되는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보 중 적어도 하나를 포함할 수 있다. 상기 이동객체정보는 사람, 동물을 포함하여 이동하는 객체를 모두 포함할 수 있고, 상기 도로정보는 노면정보나 차선정보 등을 포함할 수 있다. 그리고 상기 차량정보는 전동퀵보드, 자전거나 오토바이 등의 이륜차를 포함하여, 이륜이상의 다양한 차량에 대한 정보를 포함할 수 있다. 또한, 상기 오브젝트 정보는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보의 위치정보나 색상정보 등을 포함할 수도 있다. 이외에 자율주행을 위해 촬영 영상으로부터 인식이 필요하다고 알려져 있는 정보를 포함할 수 있다. 예를 들어, 비정상 객체정보를 추가로 포함할 수 있다. 비정상 객체정보는 일예로, 앉아있는 사람, 누워있는 사람, 동물사체, 우산을 쓰고 있는 사람 등 일반적으로 정상행위라고 알려져 있는 행위 이외의 비정상 행위를 하고 있는 사람이나 동물 등의 객체를 포함할 수 있다. And, the object information may include information about an object to be recognized in an autonomous vehicle for autonomous driving. The object information may include at least one of target road information to be recognized, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and event information. The moving object information may include all moving objects including people and animals, and the road information may include road surface information or lane information. In addition, the vehicle information may include information on various vehicles of two or more wheels, including two-wheeled vehicles such as electric quick boards, bicycles, and motorcycles. In addition, the object information may include target road information, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and location information or color information of event information. In addition, information known to require recognition from a photographed image for autonomous driving may be included. For example, abnormal object information may be additionally included. Abnormal object information may include, for example, objects such as people or animals performing abnormal behaviors other than generally known normal behaviors, such as a person sitting, a person lying down, a carcass of an animal, and a person using an umbrella. .

상술한 바와 같이, 본 발명의 제3실시예에 따르면, 자율주행차량의 주행속도에 대응하여 영상에 대한 크로핑 사이즈를 수행하여 차량의 전방에 대하여 주행속도에 대응하여 인식범위를 조절하는 것이 가능한 장점이 있다.As described above, according to the third embodiment of the present invention, it is possible to adjust the recognition range in response to the traveling speed of the front of the vehicle by cropping the image in response to the traveling speed of the autonomous vehicle. There are advantages.

상기한 실시예의 설명은 본 발명의 더욱 철저한 이해를 위하여 도면을 참조로 예를 든 것에 불과하므로, 본 발명을 한정하는 의미로 해석되어서는 안될 것이다. 또한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 있어 본 발명의 기본적 원리를 벗어나지 않는 범위 내에서 다양한 변화와 변경이 가능함은 명백하다 할 것이다. The description of the above embodiment is merely an example with reference to the drawings for a more thorough understanding of the present invention, and should not be construed as limiting the present invention. In addition, it will be apparent to those skilled in the art that various changes and modifications are possible within a range that does not deviate from the basic principles of the present invention.

110,210,310: 촬영부 120,220,320 : 영상인식부110,210,310: photographing unit 120,220,320: image recognition unit

Claims (17)

삭제delete 삭제delete 삭제delete 삭제delete 삭제delete 자율주행 차량의 영상인식 장치에 있어서:
일정 화각(angle of view)을 가지는 렌즈를 가지며 차량전방을 촬영하여 영상을 생성하는 촬영부와;
영상인식 AI알고리즘을 내장하여, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하되,
상기 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 상기 영상이 기준해상도를 가지도록 다운스케일(Downscale)을 수행하여 영상인식을 수행하고, 상기 주행속도가 상기 기준속도 이상인 경우에는 상기 영상에 대하여 기준해상도에 대응되는 사이즈로 크로핑(croping)하여 크로핑 된 영상으로부터 영상인식을 수행하는 영상인식부를 구비함을 자율주행 차량의 영상인식 장치.
In the image recognition device of an autonomous vehicle:
a photographing unit having a lens having a certain angle of view and generating an image by photographing the front of the vehicle;
An image recognition AI algorithm is embedded to perform image recognition for recognizing object information to be recognized in the self-driving vehicle from the image provided through the photographing unit,
When the driving speed of the self-driving vehicle is less than the reference speed, image recognition is performed by downscaling the image so that the image has a reference resolution, and when the driving speed is greater than or equal to the reference speed, the reference for the image is performed. An image recognition device for an autonomous vehicle comprising an image recognition unit that performs image recognition from a cropped image by cropping to a size corresponding to a resolution.
청구항 6에 있어서,
상기 렌즈는 90도~180도의 화각을 가지는 광각렌즈 임을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 6,
The lens is an image recognition device for an autonomous vehicle, characterized in that a wide-angle lens having a view angle of 90 degrees to 180 degrees.
청구항 6에 있어서,
상기 기준해상도는, 상기 영상인식부에서 영상 인식을 수행하는 경우에, 영상인식 오류가 발생되지 않으면서 실시간 인식이 가능한 해상도로, 미리 설정된 해상도 임을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 6,
The reference resolution is a resolution capable of real-time recognition without an image recognition error when the image recognition unit performs image recognition, characterized in that it is a preset resolution.
청구항 8에 있어서,
상기 기준해상도는 640X480 임을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 8,
The image recognition device for an autonomous vehicle, characterized in that the reference resolution is 640X480.
청구항 6에 있어서,
상기 기준속도는 60~100km/h 임을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 6,
The image recognition device for an autonomous vehicle, characterized in that the reference speed is 60 to 100 km / h.
청구항 6에 있어서,
상기 영상인식부는, 상기 주행속도가 상기 기준속도 이상인 경우에, 상기 주행속도에 대응되는 비율로 다운스케일을 수행하고, 다운스케일된 영상에 대하여 기준해상도에 대응되는 사이즈로 크로핑(croping)하여 크로핑 된 영상으로부터 영상인식을 수행함을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 6,
The image recognizing unit, when the traveling speed is equal to or greater than the reference speed, performs downscaling at a rate corresponding to the traveling speed, crops the downscaled image to a size corresponding to the reference resolution, and crops the image. An image recognition device for an autonomous vehicle, characterized in that it performs image recognition from a pinged image.
삭제delete 삭제delete 자율주행 차량의 영상인식 장치에 있어서:
광각렌즈를 가지며 차량전방을 촬영하여 영상을 생성하는 촬영부와;
영상인식 AI알고리즘을 내장하여, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하되,
상기 자율주행 차량의 주행속도에 대응되어, 상기 영상에 대하여 다운스케일 비율 조절 및 크로핑되는 영상의 사이즈 조절 중 적어도 어느 하나를 수행하여 영상인식을 수행하는 영상인식부를 구비하고,
상기 영상인식부는, 상기 크로핑을 수행하기 전에 상기 영상에 대하여 다운스케일을 수행하고, 다운스케일된 영상에 대하여 상기 크로핑(croping)을 수행하여 크로핑 된 영상으로부터 영상인식을 수행함을 특징으로 하는 자율주행 차량의 영상인식 장치.
In the image recognition device of an autonomous vehicle:
a photographing unit having a wide-angle lens and generating an image by photographing the front of the vehicle;
An image recognition AI algorithm is embedded to perform image recognition for recognizing object information to be recognized in the self-driving vehicle from the image provided through the photographing unit,
An image recognition unit configured to perform image recognition by performing at least one of a downscaling rate adjustment and a size adjustment of a cropped image of the image in response to the driving speed of the autonomous vehicle,
Characterized in that the image recognition unit performs downscaling on the image before performing the cropping, and performs image recognition on the cropped image by performing the cropping on the downscaled image. Image recognition device for autonomous vehicles.
청구항 14에 있어서,
상기 크로핑을 수행하기 전에 수행되는 다운스케일은 주행속도와 관계없이 고정비율로 수행되고, 다운스케일된 영상에 대하여 수행되는 상기 크로핑은 주행속도에 대응되는 사이즈로 조절되어 수행됨을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 14,
The downscaling performed before performing the cropping is performed at a fixed ratio regardless of the driving speed, and the cropping performed on the downscaled image is adjusted to a size corresponding to the driving speed. Image recognition device of driving vehicle.
청구항 14에 있어서,
상기 크로핑을 수행하기 전에 수행되는 다운스케일은 주행속도에 대응되는 비율로 수행되고, 다운스케일된 영상에 대하여 수행되는 상기 크로핑은 주행속도와 관계없이 고정 사이즈로 수행됨을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 14,
The downscaling performed before performing the cropping is performed at a rate corresponding to the driving speed, and the cropping performed on the downscaled image is performed at a fixed size regardless of the driving speed. image recognition device.
삭제delete
KR1020220162955A 2022-11-29 2022-11-29 Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle KR102497488B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020220162955A KR102497488B1 (en) 2022-11-29 2022-11-29 Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220162955A KR102497488B1 (en) 2022-11-29 2022-11-29 Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle

Publications (1)

Publication Number Publication Date
KR102497488B1 true KR102497488B1 (en) 2023-02-08

Family

ID=85225786

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220162955A KR102497488B1 (en) 2022-11-29 2022-11-29 Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle

Country Status (1)

Country Link
KR (1) KR102497488B1 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100051244A (en) * 2008-11-07 2010-05-17 주식회사 케이제이몰 Apparatus and method of processing video in the video recording system for the vehicles
KR20100131452A (en) * 2008-02-12 2010-12-15 씨엠엘 인터내셔널 에스. 피. 에이. Method to check and control a roller bending machine for continuously bending an elongated workpiece at variable curvature radii, and machine so controlled
KR20170140284A (en) * 2015-05-19 2017-12-20 엘지전자 주식회사 Vehicle driving aids and vehicles
KR101920281B1 (en) * 2017-06-26 2018-11-21 (주)넥스트칩 Apparatus and method for detecting an object from input image data in vehicle
KR102188269B1 (en) 2018-12-31 2020-12-08 엘지전자 주식회사 A method for controlling a camera zoom magnification
KR20220150111A (en) * 2021-05-03 2022-11-10 삼성전기주식회사 Camera apparatus for vehicle

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100131452A (en) * 2008-02-12 2010-12-15 씨엠엘 인터내셔널 에스. 피. 에이. Method to check and control a roller bending machine for continuously bending an elongated workpiece at variable curvature radii, and machine so controlled
KR20100051244A (en) * 2008-11-07 2010-05-17 주식회사 케이제이몰 Apparatus and method of processing video in the video recording system for the vehicles
KR20170140284A (en) * 2015-05-19 2017-12-20 엘지전자 주식회사 Vehicle driving aids and vehicles
KR101920281B1 (en) * 2017-06-26 2018-11-21 (주)넥스트칩 Apparatus and method for detecting an object from input image data in vehicle
KR102188269B1 (en) 2018-12-31 2020-12-08 엘지전자 주식회사 A method for controlling a camera zoom magnification
KR20220150111A (en) * 2021-05-03 2022-11-10 삼성전기주식회사 Camera apparatus for vehicle

Similar Documents

Publication Publication Date Title
US11318928B2 (en) Vehicular automated parking system
US9311711B2 (en) Image processing apparatus and image processing method
CN107845104B (en) Method for detecting overtaking vehicle, related processing system, overtaking vehicle detection system and vehicle
US9927811B1 (en) Control system and method for controlling mobile warning triangle
KR102385280B1 (en) Camera system and method for contextually capturing the surrounding area of a vehicle
US11010622B2 (en) Infrastructure-free NLoS obstacle detection for autonomous cars
US11061122B2 (en) High-definition map acquisition system
US20150377607A1 (en) Sensor system for determining distance information based on stereoscopic images
EP3803790B1 (en) Motion segmentation in video from non-stationary cameras
JP6032034B2 (en) Object detection device
US11403767B2 (en) Method and apparatus for detecting a trailer, tow-ball, and coupler for trailer hitch assistance and jackknife prevention
JP6065629B2 (en) Object detection device
CN114359714A (en) Unmanned body obstacle avoidance method and device based on event camera and intelligent unmanned body
CN113103957B (en) Blind area monitoring method and device, electronic equipment and storage medium
KR20200133920A (en) Apparatus for recognizing projected information based on ann and method tnereof
KR102497488B1 (en) Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle
KR102003387B1 (en) Method for detecting and locating traffic participants using bird's-eye view image, computer-readerble recording medium storing traffic participants detecting and locating program
JP6174884B2 (en) Outside environment recognition device and outside environment recognition method
JP7354773B2 (en) Object detection device, object detection method, and object detection program
KR102051324B1 (en) Surround view monitoring system
JP6564682B2 (en) Object detection device, object detection method, and object detection program
US20230368537A1 (en) Automatic configuration of camera settings using radar
JP7348874B2 (en) Tilt angle detection device and control device
US20240103525A1 (en) Vehicle and control method thereof
CN115937815A (en) Signal lamp identification method and device, vehicle control unit and storage medium

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant