KR102497488B1 - Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle - Google Patents
Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle Download PDFInfo
- Publication number
- KR102497488B1 KR102497488B1 KR1020220162955A KR20220162955A KR102497488B1 KR 102497488 B1 KR102497488 B1 KR 102497488B1 KR 1020220162955 A KR1020220162955 A KR 1020220162955A KR 20220162955 A KR20220162955 A KR 20220162955A KR 102497488 B1 KR102497488 B1 KR 102497488B1
- Authority
- KR
- South Korea
- Prior art keywords
- image
- image recognition
- speed
- vehicle
- recognition
- Prior art date
Links
- 238000000034 method Methods 0.000 claims description 14
- 230000004044 response Effects 0.000 claims description 7
- 230000007423 decrease Effects 0.000 description 12
- 241001465754 Metazoa Species 0.000 description 10
- 238000010586 diagram Methods 0.000 description 10
- 230000002159 abnormal effect Effects 0.000 description 6
- 238000013135 deep learning Methods 0.000 description 6
- 206010000117 Abnormal behaviour Diseases 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 3
- 230000003247 decreasing effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/10—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to vehicle motion
- B60W40/105—Speed
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
- B60W60/0015—Planning or execution of driving tasks specially adapted for safety
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
- G06T3/40—Scaling the whole image or part thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2520/00—Input parameters relating to overall vehicle dynamics
- B60W2520/10—Longitudinal speed
Abstract
Description
본 발명은 주행속도에 따른 인식범위조절이 가능한 자율주행 차량의 영상인식 장치에 관한 것으로, 보다 구체적으로는 주행속도에 따라 인식범위를 조절함에 의해, 인식오류를 최소화하면서도 실시간인식이 가능한 주행속도에 따른 인식범위조절이 가능한 자율주행 차량의 영상인식 장치에 관한 것이다.The present invention relates to an image recognition device for an autonomous vehicle capable of adjusting a recognition range according to driving speed, and more specifically, by adjusting a recognition range according to driving speed, real-time recognition is possible while minimizing recognition errors. It relates to an image recognition device for an autonomous vehicle capable of adjusting a recognition range according to the present invention.
자율주행 차량이란 운전자가 차량의 주행을 조작하는 것이 아닌 차량 자체적으로 주행을 제어하여 목적지까지 이동하는 차량을 말한다. 자율주행 차량의 구동을 위해서는 운전자를 대신해 주변 환경을 감시하기 위한 다양한 종류의 센서가 필요로 하며, 자율주행 차량은 이를 이용하여 사람, 동물, 다른 차량 및 교통신호등과 같은 대상물(이하 "오브젝트 정보" 라고 함.)을 정확히 인식하고, 인식 후 설정된 상태로 차량이 동작해야만 한다. An autonomous vehicle refers to a vehicle that moves to a destination by controlling the driving of the vehicle itself, rather than by manipulating the driving of the vehicle by a driver. In order to drive an autonomous vehicle, various types of sensors are required to monitor the surrounding environment on behalf of the driver, and the autonomous vehicle uses this to detect objects such as people, animals, other vehicles, and traffic lights (hereinafter referred to as “object information”). ) must be accurately recognized, and the vehicle must operate in the set state after recognition.
특히, 카메라를 통해 촬영된 영상으로부터 오브젝트 정보를 인식하여 자율주행을 수행하는 자율주행차량에 대한 관심이 높아지고 있으며, 최근 자율주행 차량과 관련된 연구에서는 카메라를 통해 촬영된 영상으로부터 오브젝트 정보의 인식을 정확히 하는 것에 대한 연구가 활발히 이루어지고 있다. In particular, interest in self-driving vehicles that perform self-driving by recognizing object information from images captured through cameras is increasing, and recent studies related to autonomous vehicles accurately recognize object information from images captured through cameras. Research on what to do is being actively conducted.
이 경우에 카메라를 통해 촬영된 영상에서 차량의 주행속도에 따라 반드시 인식되어야 하는 범위가 달라질 수 있다. 카메라를 통해 촬영된 영상의 경우 고속도로 주행시에는 주변보다는 정면의 100m 이상의 원거리까지의 오브젝트 정보 인식이 더 중요시되고, 서행시에는 원거리보다는 차량 주변의 오브젝트 정보에 대한 인식이 더 중요시되게 된다.In this case, the range to be recognized may vary according to the driving speed of the vehicle in the image captured by the camera. In the case of an image captured through a camera, recognition of object information up to a distance of 100 m or more in the front is more important than the surroundings when driving on a highway, and recognition of object information around the vehicle is more important than long distances when driving slowly.
이에 따라, 자율주행 차량의 주행속도에 대응하여 오브젝트 정보의 인식범위를 달리 정할 수 있는 영상인식 장치에 대한 필요성이 대두되고 있다. Accordingly, a need for an image recognition device capable of differently determining a recognition range of object information corresponding to a driving speed of an autonomous vehicle has emerged.
따라서, 본 발명의 목적은 상기한 종래의 문제점을 극복할 수 있는 주행속도에 따른 인식범위조절이 가능한 자율주행 차량의 영상인식 장치를 제공하는 데 있다.Accordingly, an object of the present invention is to provide an image recognition device for an autonomous vehicle capable of adjusting a recognition range according to driving speed, which can overcome the above conventional problems.
본 발명의 다른 목적은, 자율주행 차량의 주행속도가 빨라질수록 화각이 작아지는 순으로 렌즈를 선택하고 선택된 렌즈의 영상을 토대로 영상인식을 수행하는 자율주행 차량의 영상인식 장치를 제공하는 데 있다. Another object of the present invention is to provide an image recognition device for an autonomous vehicle that selects lenses in an order in which the angle of view decreases as the driving speed of the autonomous vehicle increases and performs image recognition based on an image of the selected lens.
본 발명의 또 다른 목적은, 자율주행 차량의 주행속도에 대응하여 인식오류가 발생되지 않으면서도 영상인식속도 저하를 방지하여 실시간 인식이 가능할 수 있도록 영상에 대하여 기준해상도로 다운스케일 또는 크로핑(croping)을 수행하여 영상인식을 수행하는 자율주행 차량의 영상인식 장치를 제공하는 데 있다. Another object of the present invention is to downscale or crop an image to a reference resolution so that real-time recognition is possible by preventing a decrease in image recognition speed without causing a recognition error in response to the driving speed of an autonomous vehicle. ) to provide an image recognition device for an autonomous vehicle that performs image recognition.
상기한 기술적 과제들의 일부를 달성하기 위한 본 발명의 구체화에 따라, 본 발명에 따른 자율주행 차량의 영상인식 장치는, 서로 다른 화각(angle of view)을 각각 가지며 차량전방을 촬영하여 영상을 각각 생성하는 복수의 렌즈들을 구비하는 촬영부와; 영상인식 AI알고리즘을 내장하며, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하며, 상기 자율주행 차량의 주행속도가 빨라질수록 상기 복수의 렌즈들 중 화각이 작아지는 순으로 렌즈를 선택하고, 선택된 렌즈로부터 생성된 영상으로부터 상기 오브젝트 정보를 인식하는 영상인식부를 구비한다.According to the embodiment of the present invention for achieving some of the above technical problems, the image recognition device for an autonomous vehicle according to the present invention has a different angle of view, respectively, and photographs the front of the vehicle to generate images, respectively. a photographing unit having a plurality of lenses; An image recognition AI algorithm is embedded, and object information to be recognized in the self-driving vehicle is recognized from the image provided through the photographing unit, and as the driving speed of the self-driving vehicle increases, the angle of view among the plurality of lenses increases. An image recognizing unit which selects lenses in order of decreasing size and recognizes the object information from an image generated from the selected lenses is provided.
상기 촬영부는, 제1화각(angle of view)을 가지며 차량전방을 촬영하여 제1영상을 생성하는 제1렌즈와, 상기 제1화각보다 더 작은 화각인 제2화각을 가지며 차량전방을 촬영하여 제2영상을 생성하는 제2렌즈를 구비하고, 상기 영상인식부는, 상기 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 상기 제1영상을 선택하여 상기 오브젝트 정보를 인식하고, 상기 주행속도가 상기 기준속도 이상인 경우에는 상기 제2영상을 선택하여 상기 오브젝트 정보를 인식할 수 있다.The photographing unit has a first lens that has a first angle of view and generates a first image by capturing the front of the vehicle, and has a second angle of view that is smaller than the first angle of view and photographs the front of the vehicle to generate a first image. A second lens for generating two images is provided, and the image recognition unit selects the first image to recognize the object information when the driving speed of the self-driving vehicle is less than the reference speed, and the driving speed is equal to or less than the reference speed. If the speed exceeds the speed, the object information may be recognized by selecting the second image.
상기 제1렌즈는 광각렌즈이고, 상기 제2렌즈는 협각렌즈이고, 상기 기준속도는 60~100km/h 일 수 있다.The first lens is a wide-angle lens, the second lens is a narrow-angle lens, and the reference speed may be 60 to 100 km/h.
상기 제1화각은 90도~180도이고, 상기 제2화각은 0~60도(0도를 포함하지 않음)일 수 있다.The first angle of view may be 90 degrees to 180 degrees, and the second angle of view may be 0 to 60 degrees (not including 0 degrees).
상기 오브젝트 정보는, 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보 중 적어도 하나를 포함할 수 있다.The object information may include at least one of target road information, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and event information.
상기한 기술적 과제들의 일부를 달성하기 위한 본 발명의 다른 구체화에 따라, 본 발명에 따른 자율주행 차량의 영상인식 장치는, 일정 화각(angle of view)을 가지는 렌즈를 가지며 차량전방을 촬영하여 영상을 생성하는 촬영부와; 영상인식 AI알고리즘을 내장하여, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하되, 상기 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 상기 영상이 기준해상도를 가지도록 다운스케일(Downscale)을 수행하여 영상인식을 수행하고, 상기 주행속도가 상기 기준속도 이상인 경우에는 상기 영상에 대하여 기준해상도에 대응되는 사이즈로 크로핑(croping)하여 크로핑 된 영상으로부터 영상인식을 수행하는 영상인식부를 구비한다.According to another embodiment of the present invention for achieving some of the above technical problems, an image recognition device for an autonomous vehicle according to the present invention has a lens having a certain angle of view and captures an image in front of the vehicle. a photographing unit to generate; An image recognition AI algorithm is embedded to perform image recognition for recognizing object information to be recognized in the self-driving vehicle from the image provided through the photographing unit, but when the driving speed of the self-driving vehicle is less than the reference speed Image recognition is performed by downscaling the image so that it has a standard resolution, and if the traveling speed is greater than or equal to the standard speed, the image is cropped to a size corresponding to the standard resolution. An image recognition unit that performs image recognition from the pinged image is provided.
상기 렌즈는 90도~180도의 화각을 가지는 광각렌즈 일 수 있다.The lens may be a wide-angle lens having an angle of view of 90 degrees to 180 degrees.
상기 기준해상도는, 상기 영상인식부에서 영상 인식을 수행하는 경우에, 영상인식 오류가 발생되지 않으면서 실시간 인식이 가능한 해상도로, 미리 설정된 해상도 일 수 있다.The reference resolution may be a resolution that can be recognized in real time without causing an image recognition error when the image recognition unit performs image recognition, and may be a preset resolution.
상기 기준해상도는 640X480 일 수 있다.The reference resolution may be 640X480.
상기 기준속도는 60~100km/h 일 수 있다.The reference speed may be 60 to 100 km/h.
상기 영상인식부는, 상기 주행속도가 상기 기준속도 이상인 경우에, 상기 주행속도에 대응되는 비율로 다운스케일을 수행하고, 다운스케일된 영상에 대하여 기준해상도에 대응되는 사이즈로 크로핑(croping)하여 크로핑 된 영상으로부터 영상인식을 수행할 수 있다.The image recognizing unit, when the traveling speed is equal to or greater than the reference speed, performs downscaling at a rate corresponding to the traveling speed, crops the downscaled image to a size corresponding to the reference resolution, and crops the image. Image recognition can be performed from the pinged image.
상기한 기술적 과제들의 일부를 달성하기 위한 본 발명의 또 다른 구체화에 따라, 본 발명에 따른 자율주행 차량의 영상인식 장치는, 광각렌즈를 가지며 차량전방을 촬영하여 영상을 생성하는 촬영부와; 영상인식 AI알고리즘을 내장하여, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하되, 상기 자율주행 차량의 주행속도에 대응되어, 상기 영상에 대하여 다운스케일 비율 조절 및 크로핑되는 영상의 사이즈 조절 중 적어도 어느 하나를 수행하여 영상인식을 수행하는 영상인식부를 구비한다.According to another embodiment of the present invention for achieving some of the above technical problems, an image recognition device for an autonomous vehicle according to the present invention includes a photographing unit having a wide-angle lens and generating an image by photographing the front of the vehicle; An image recognition AI algorithm is embedded to perform image recognition for recognizing object information to be recognized in the self-driving vehicle from the image provided through the photographing unit, corresponding to the driving speed of the self-driving vehicle. An image recognizing unit for performing image recognition by performing at least one of downscaling ratio adjustment and cropping image size adjustment with respect to .
상기 영상인식부는 상기 주행속도가 빨라질수록 상기 크로핑되는 영상의 사이즈가 점점 작아지도록 하여 크로핑을 수행할 수 있다.The image recognizing unit may perform cropping by making the size of the cropped image gradually decrease as the traveling speed increases.
상기 영상인식부는, 상기 크로핑을 수행하기 전에 상기 영상에 대하여 다운스케일을 수행하고, 다운스케일된 영상에 대하여 상기 크로핑(croping)을 수행하여 크로핑 된 영상으로부터 영상인식을 수행할 수 있다.The image recognizing unit may downscale the image before performing the cropping, perform image recognition on the cropped image by performing the cropping on the downscaled image.
상기 크로핑을 수행하기 전에 수행되는 다운스케일은 주행속도와 관계없이 고정비율로 수행되고, 다운스케일된 영상에 대하여 수행되는 상기 크로핑은 주행속도에 대응되는 사이즈로 조절되어 수행될 수 있다.The downscaling performed before performing the cropping may be performed at a fixed ratio regardless of the traveling speed, and the cropping performed on the downscaled image may be adjusted to a size corresponding to the traveling speed.
상기 크로핑을 수행하기 전에 수행되는 다운스케일은 주행속도에 대응되는 비율로 수행되고, 다운스케일된 영상에 대하여 수행되는 상기 크로핑은 주행속도와 관계없이 고정 사이즈로 수행될 수 있다.The downscaling performed before the cropping is performed at a rate corresponding to the traveling speed, and the cropping performed on the downscaled image may be performed at a fixed size regardless of the traveling speed.
상기 영상인식부는 상기 주행속도가 기준속도 미만인 경우에는 상기 촬영부를 통해 제공되는 전체 영상을 이용하여 영상인식을 수행하고, 상기 주행속도가 기준속도 이상인 경우에는 상기 주행속도가 빨라질수록 상기 크로핑되는 영상의 사이즈가 점점 작아지도록 하여 크로핑을 수행하고, 크로핑 된 영상으로부터 영상인식을 수행하는 영상인식부를 구비할 수 있다.The image recognizing unit performs image recognition using the entire image provided through the photographing unit when the traveling speed is less than the reference speed, and when the traveling speed is greater than or equal to the reference speed, the image is cropped as the traveling speed increases. An image recognizing unit may be provided to perform cropping by gradually decreasing the size of , and perform image recognition from the cropped image.
본 발명에 따르면, 자율주행 차량의 주행속도가 빨라질수록 화각이 작아지는 순으로 렌즈를 선택하고 선택된 렌즈의 영상을 토대로 영상인식을 수행하는 것이 가능하고, 자율주행 차량의 주행속도에 대응하여 영상인식범위 및 해상도를 조절함에 의해 인식오류가 발생되지 않으면서도 영상인식속도 저하를 방지하여 실시간 인식이 가능하다는 장점이 있다. According to the present invention, it is possible to select lenses in an order in which the angle of view decreases as the driving speed of the autonomous vehicle increases, and perform image recognition based on the image of the selected lens. By adjusting the range and resolution, there is an advantage that real-time recognition is possible by preventing a decrease in image recognition speed without causing recognition errors.
도 1은 본 발명의 제1실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이고,
도 2는 도 1의 촬영부를 통해 촬영된 제1영상 및 제2영상의 예를 나타낸 것이고,
도 3은 본 발명의 제2실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이고,
도 4는 카메라를 구성하는 렌즈와 거리에 따른 영상인식범위를 계산하기 위한 개략도이고,
도 5는 도 3의 영상인식부의 다운스케일과 크로핑 과정을 나타낸 것이고,
도 6은 실제 촬영영상(a)에 대하여 다운스케일(b), 크로핑(c), 업스케일(d)한 영상의 예를 도시한 것이고,
도 7은 본 발명의 제3실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이고,
도 8은 도 7의 영상인식부의 크로핑 과정을 나타낸 개략도이다. 1 is a schematic diagram of an image recognition device for an autonomous vehicle according to a first embodiment of the present invention;
Figure 2 shows an example of a first image and a second image captured through the photographing unit of Figure 1,
3 is a schematic diagram of an image recognition device for an autonomous vehicle according to a second embodiment of the present invention;
4 is a schematic diagram for calculating an image recognition range according to a lens constituting a camera and a distance;
Figure 5 shows the process of downscaling and cropping the image recognition unit of Figure 3,
6 shows examples of downscaled (b), cropped (c), and upscaled (d) images of an actual captured image (a);
7 is a schematic diagram of an image recognition device for an autonomous vehicle according to a third embodiment of the present invention;
8 is a schematic diagram illustrating a cropping process of the image recognition unit of FIG. 7 .
이하에서는 본 발명의 바람직한 실시예가, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 본 발명의 철저한 이해를 제공할 의도 외에는 다른 의도 없이, 첨부한 도면들을 참조로 하여 상세히 설명될 것이다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings, without any intention other than to provide a thorough understanding of the present invention to those skilled in the art to which the present invention pertains.
도 1은 본 발명의 제1실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이다. 도 2는 도 1의 촬영부를 통해 촬영된 제1영상 및 제2영상의 예를 나타낸 것이다. 1 is a schematic diagram of an image recognition device for an autonomous vehicle according to a first embodiment of the present invention. FIG. 2 illustrates an example of a first image and a second image captured through the photographing unit of FIG. 1 .
도 1 및 도 2에 도시된 바와 같이, 본 발명의 제1실시예에 따른 자율주행 차량의 영상인식장치(100)는 촬영부(110) 및 영상인식부(120)를 구비한다.As shown in FIGS. 1 and 2 , the
상기 촬영부(110)는 서로 다른 화각(angle of view)을 각각 가지며 차량전방을 촬영하여 영상을 각각 생성하는 복수의 렌즈들(112,114)을 구비한다.The photographing
예를 들어, 상기 촬영부(110)는 제1화각(angle of view)을 가지며 차량전방을 촬영하여 제1영상을 생성하는 제1렌즈(112)와, 상기 제1화각보다 더 작은 화각인 제2화각을 가지며 차량전방을 촬영하여 제2영상을 생성하는 제2렌즈(114)를 구할 수 있다. 이외에 제3화각을 가지는 제3렌즈가 추가될 수 있고, 필요에 따라 제4화각을 가지는 제4렌즈가 더 추가되는 것도 가능하다.For example, the photographing
여기서 상기 제1렌즈(112)는 광각렌즈이고, 상기 제2렌즈(114)는 협각렌즈이고, 상기 제1화각은 90도~180도이고, 상기 제2화각은 0~60도(0도를 포함하지 않음)일 수 있다. Here, the
여기서, 상기 제1렌즈(112) 및 상기 제2렌즈(114) 이외에 제3화각을 가지는 제3렌즈가 추가될 수 있고, 필요에 따라 제4화각을 가지는 제4렌즈가 더 추가되는 것도 가능하다. 이 경우 상기 제1렌즈(112) 및 상기 제2렌즈(114)의 화각인 제1화각 및 상기 제2화각의 범위는 작아질 수 있다. Here, a third lens having a third angle of view may be added in addition to the
그리고 상기 촬영부(110)는 상기 복수의 렌즈들(112,114)에 추가하여 이미지 센서 등 영상 촬영에 필요하거나 유리하다고 통상의 기술자에게 잘 알려진 필수 구성들을 모두 포함할 수 있다.In addition to the plurality of
상기 촬영부(110)에 구비되는 상기 제1렌즈(112)는 광각렌즈이고, 상기 제2렌즈(114)는 협각렌즈인 경우, 상기 광각렌즈에 의해 촬영되는 제1영상은 원거리 영상보다는 더 넓은 시야의 근거리에 대한 정보를 더 포함하게 되고, 상기 협각렌즈에 의해 촬영되는 제2영상은 근거리에 대한 정보보다는 차량전방의 원거리에 대한 정보를 더 포함하게 된다. 이에 따라 근거리에 대한 정보가 더 필요한 경우에는 상기 제1영상을 선택하고, 원거리에 대한 정보가 더 필요한 경우에는 상기 제2영상을 선택하여 영상인식을 수행하는 것이 가능하다. When the
상기 영상인식부(120)는 영상인식 AI알고리즘을 내장하며, 상기 촬영부(110)를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하며, 상기 자율주행 차량의 주행속도가 빨라질수록 상기 복수의 렌즈들 중 화각이 작아지는 순으로 렌즈를 선택하고, 선택된 렌즈로부터 생성된 영상으로부터 상기 오브젝트 정보를 인식하게 된다. The
상기 영상인식부(120)는 자율주행 차량의 전자제어유닛(ECU)에 내장될 수 있고, 영상인식을 위한 AI 알고리즘(딥러닝 알고리즘, 딥 뉴럴 네트워크 알고리즘 등)을 구비하여 딥 러닝 학습모델 등을 통한 학습과정을 통해 영상에서의 오브젝트 정보에 대한 인식을 수행하게 되고, 상기 촬영부(110)로부터 제공되는 영상으로부터 오브젝트 정보를 인식하게 된다. The
상기 영상인식부(120)는 상기 촬영부(110)로부터 제공하는 영상들을 저장하기 위한 메모리(미도시)와 이미지 프로세서(미도시)를 구비할 수 있다.상기 이미지 프로세서는 입력되는 입력영상에 포함된 오브젝트 정보의 인식률 향상을 위한 이미지 프로세싱을 수행하는 것이 가능하다.The
그리고, 상기 오브젝트 정보는 자율주행을 위해 자율주행 차량에서 인식되어야 하는 오브젝트에 대한 정보가 포함될 수 있다. 상기 오브젝트 정보는, 인식의 대상이 되는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보 중 적어도 하나를 포함할 수 있다. 상기 이동객체정보는 사람, 동물을 포함하여 이동하는 객체를 모두 포함할 수 있고, 상기 도로정보는 노면정보나 차선정보 등을 포함할 수 있다. 그리고 상기 차량정보는 전동퀵보드, 자전거나 오토바이 등의 이륜차를 포함하여, 이륜이상의 다양한 차량에 대한 정보를 포함할 수 있다. 또한, 상기 오브젝트 정보는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보의 위치정보나 색상정보 등을 포함할 수도 있다. 이외에 자율주행을 위해 촬영 영상으로부터 인식이 필요하다고 알려져 있는 정보를 포함할 수 있다. 예를 들어, 비정상 객체정보를 추가로 포함할 수 있다. 비정상 객체정보는 일예로, 앉아있는 사람, 누워있는 사람, 동물사체, 우산을 쓰고 있는 사람 등 일반적으로 정상행위라고 알려져 있는 행위 이외의 비정상 행위를 하고 있는 사람이나 동물 등의 객체를 포함할 수 있다. And, the object information may include information about an object to be recognized in an autonomous vehicle for autonomous driving. The object information may include at least one of target road information to be recognized, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and event information. The moving object information may include all moving objects including people and animals, and the road information may include road surface information or lane information. In addition, the vehicle information may include information on various vehicles of two or more wheels, including two-wheeled vehicles such as electric quick boards, bicycles, and motorcycles. In addition, the object information may include target road information, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and location information or color information of event information. In addition, information known to require recognition from a photographed image for autonomous driving may be included. For example, abnormal object information may be additionally included. Abnormal object information may include, for example, objects such as people or animals performing abnormal behaviors other than generally known normal behaviors, such as a person sitting, a person lying down, a carcass of an animal, and a person using an umbrella. .
상기 영상인식부(120)는, 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 도 2의 (a)에 도시된 바와 같은 제1영상을 선택하여 영상인식을 통해 상기 오브젝트 정보를 인식하고, 상기 주행속도가 상기 기준속도 이상인 경우에는 도 2의 (b)에 도시된 바와 같은 제2영상을 선택하여 상기 오브젝트 정보를 인식하도록 제어할 수 있다. 여기서 상기 기준속도는 60~100km/h 일 수 있다.When the driving speed of the self-driving vehicle is less than the reference speed, the
일반적으로, 차량이 상기 기준속도 미만인 저속으로 운행중인 경우에는 60~100m 이상 원거리의 물체보다는 근거리에 위치한 오브젝트 정보의 인식이 중요하게 된다. 이에 따라 저속 운행 중에는 광각렌즈로 촬영한 제1영상으로부터 오브젝트 정보를 인식하는 것이 더 필요하게 된다. 여기서 악천후의 날씨인 경우는 저속으로 운행할 수 밖에 없기 때문에 저속으로 운행하는 경우를 준용하여 상기 제1영상으로부터 오브젝트 정보를 인식하게 된다.In general, when a vehicle is running at a low speed less than the reference speed, recognition of object information located in a short distance becomes more important than a distant object of 60 to 100 m or more. Accordingly, it is further required to recognize object information from the first image photographed with the wide-angle lens during low-speed driving. Here, in the case of bad weather, since it is inevitable to operate at low speed, object information is recognized from the first image by applying mutatis mutandis to the case of driving at low speed.
하지만, 차량이 상기 기준속도 이상인 고속으로 운행중인 경우에는 차량 근처의 근거리 정보보다는 60~100m 이상 원거리에 위치한 오브젝트 정보에 대한 인식이 더 필요하게 된다. 이에 따라 고속 운행 중에는 협각렌즈로 촬영한 상기 제2영상으로부터 오브젝트 정보를 인식하는 것이 더 필요하게 된다. 특히 고속도로 주행시에는 60~100m 이상 원거리에 위치한 오브젝트 정보에 대한 인식이 수행되어야 하고 빠른 인식이 되어야 알림이나 제동이 가능하기 때문에, 상기 제2렌즈인 협각렌즈로 촬영한 상기 제2영상으로부터 오브젝트 정보를 인식하게 되는 것이다. 협각렌즈로 촬영한 영상의 경우 광각렌즈로 촬영한 영상보다 인식속도 및 인식범위 면에서 효율적이기 때문이다.However, when the vehicle is operating at a high speed equal to or higher than the reference speed, recognition of object information located at a distance of 60 to 100 m or more is more required than short-distance information near the vehicle. Accordingly, it is further required to recognize object information from the second image captured with a narrow angle lens during high-speed driving. In particular, when driving on a highway, recognition of object information located at a distance of 60 to 100 m or more must be performed, and notification or braking is possible only when the recognition is fast. will come to recognize This is because images captured with a narrow-angle lens are more efficient in terms of recognition speed and recognition range than images captured with a wide-angle lens.
상술한 바와 같이, 본 발명의 제1실시예에 따르면, 자율주행차량에서 전방을 촬영한 영상을 인식함에 있어, 차량의 주행속도에 따라 광각렌즈의 영상 또는 협각렌즈의 영상을 선택하여 인식함에 따라, 고해상도의 영상에 따른 인식속도 저하의 문제를 해소함과 동시에, 필요한 인식범위를 선택하는 것이 가능하므로, 인식의 효율성을 높일 수 있다는 장점이 있다.As described above, according to the first embodiment of the present invention, in recognizing an image photographed in front of an autonomous vehicle, an image of a wide-angle lens or a narrow-angle lens is selected and recognized according to the driving speed of the vehicle. , there is an advantage in that the efficiency of recognition can be increased because it is possible to select a necessary recognition range while solving the problem of a decrease in recognition speed according to a high-resolution image.
도 3은 본 발명의 제2실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이고, 도 4는 카메라를 구성하는 렌즈와 거리에 따른 영상인식범위를 계산하기 위한 개략도이다. 3 is a schematic diagram of an image recognition device for an autonomous vehicle according to a second embodiment of the present invention, and FIG. 4 is a schematic diagram for calculating an image recognition range according to a distance from a lens constituting a camera.
도 3에 도시된 바와 같이, 본 발명의 제2실시예에 따른 자율주행 차량의 영상인식장치(200)는 촬영부(210) 및 영상인식부(220)를 구비한다.As shown in FIG. 3 , the
상기 촬영부(210)는 일정 화각(angle of view)을 각각 가지며 차량전방을 촬영하여 영상을 각각 생성하는 적어도 하나의 렌즈(212)를 구비한다. 상기 렌즈(212)는 화각이 90도~180도인 광각렌즈일 수 있으나, 이외에 광각렌즈나 협각렌즈 등에 관계없이 0도~180도(0도를 포함하지 않음)의 범위에서 특정화각을 가지는 렌즈가 구비되는 것도 가능하다.The photographing
그리고 상기 촬영부(210)는 상기 렌즈(212)에 추가하여 이미지 센서 등 영상 촬영에 필요하거나 유리하다고 통상의 기술자에게 잘 알려진 필수 구성들을 모두 포함할 수 있다.In addition to the
상기 촬영부(210)를 구성하는 카메라를 포함하여 일반적인 카메라는, 도 4에 도시된 바와 같이, 렌즈(212)와 이미지센서(214)로 구성되며 카메라에 센서의 셀 사이즈에 따라 "L2" 가 정해진다. 여기서, "L1"은 객체인 사람의 사이즈이고, "d"는 렌즈와 객체와의 거리이고, "f"는 렌즈와 이미지 센서의 거리로 초점거리를 의미할 수 있다.As shown in FIG. 4, a general camera, including the camera constituting the photographing
여기서 일예로, 1280x720 1메가급 카메라에서는 셀사이즈가 3um, d=100m, L1(사람)=170cm, f=5.5일 경우 L2는 0.09405mm으로 31.35pixel로 계산된다. 참고로, 셀 사이즈와 초점거리인 "f"에 따라서 보이는 비율이 달라진다.Here, as an example, in a 1280x720 1 mega camera, if the cell size is 3um, d = 100m, L1 (person) = 170cm, and f = 5.5, L2 is calculated as 0.09405mm and 31.35pixel. For reference, the visible ratio varies depending on the cell size and the focal length "f".
이를 기준으로 1메가급 센서에서는 100m의 거리(d)에서 170cm인 사람이 가로 10픽셀, 세로 30픽셀 정도로 측정되며 이 경우에는 현재의 영상인식 알고리즘을 기준으로 할 때 영상을 인식하는데 어려움이 발생한다. 여기서, 현재의 기술수준의 영상인식 알고리즘을 이용하는 경우, 100m의 거리(d)에 170cm인 사람을 오류없이 인식가능한 영상 인식범위를 가로 32픽셀, 세로 92픽셀 범위라고 가정한다. Based on this, in a 1 mega sensor, a 170 cm person at a distance (d) of 100 m is measured as 10 pixels in width and 30 pixels in height, and in this case, difficulties arise in recognizing images based on the current image recognition algorithm. . Here, when using the current state of the art image recognition algorithm, it is assumed that an image recognition range capable of recognizing a person of 170 cm at a distance (d) of 100 m without error is a range of 32 pixels in width and 92 pixels in height.
그리고, 같은 조건에서 8메가급 센서는 3840x2160의 해상도로 100m의 거리(d)에서 170cm인 사람이 가로 32픽셀, 세로 92픽셀로 나타나 인식이 가능한 영상인식범위에 들어오게 된다. 3840/1280=3, 2160/720=3 약 3배의 차이를 가지며 100m거리에서 170cm 사람을 측정할 경우 32픽셀, 92픽셀에 비례하여 나타나게 된다. 하지만, 이 경우 상기 영상인식부(220)에 내장된 영상인식 알고리즘을 이용하여 3840x2160의 해상도를 가지는 영상을 인식할 경우, 100m 범위의 사람에 대한 인식이 가능하지만, 많은 부하가 발생하여 실시간 인식이 어렵다는 문제점이 발생된다. And, under the same conditions, the 8-megapixel sensor comes into the image recognition range where a 170 cm tall person appears as 32 pixels in width and 92 pixels in height at a distance (d) of 100 m with a resolution of 3840x2160. 3840/1280=3, 2160/720=3 It has a difference of about 3 times, and when measuring a 170cm person from a distance of 100m, it appears in proportion to 32 pixels and 92 pixels. However, in this case, when recognizing an image having a resolution of 3840x2160 using the image recognition algorithm built into the
결국, 1280x720 1메가급 센서를 가지는 카메라를 통해 촬영된 영상의 경우에는 100m 이상 원거리의 객체인 오브젝트 정보를 인식하지 못하고, 3840x2160 8메가급 센서를 가지는 카메라를 통해 촬영된 영상의 경우에는 100m 이상 원거리의 오브젝트 정보에 대한 인식이 가능하지만, 많은 부하가 발생하여 실시간 인식이 어렵다는 문제점이 발생되게 된다. As a result, in the case of an image captured through a camera having a 1280x720 1 mega sensor, object information that is a distant object of 100 m or more is not recognized, and in the case of an image captured through a camera having a 3840x2160 8 mega sensor, a distance of 100 m or more Recognition of object information is possible, but a problem arises in that real-time recognition is difficult due to a lot of load.
이에 따라, 자율주행 차량의 전방에 대하여 근거리 및 원거리의 전체 범위에 대한 인식을 위해서는 고해상도의 영상이 필요하나, 이 경우 많은 부하가 발생하여 실시간 인식이 어렵다는 문제점이 발생하게 되므로, 고해상도로 촬영된 영상에 대하여 부하발생을 줄여 실시간 인식이 가능하도록 하기 위한 구성이 필요하게 된다. Accordingly, a high-resolution image is required for recognition of the entire range of short and long distances in front of the autonomous vehicle, but in this case, a lot of load occurs and real-time recognition is difficult. A configuration is required to reduce load generation and enable real-time recognition.
이러한 문제점을 극복하기 위해 상기 영상인식부(220)는 영상인식 AI알고리즘을 내장하여, 상기 촬영부(210)를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하게 된다. 이때, 상기 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 상기 영상이 기준해상도를 가지는 사이즈로 다운스케일(Downscale)을 수행하여 영상인식을 수행하고, 상기 주행속도가 기준속도 이상인 경우에는 영상에 대하여 기준해상도에 대응되는 사이즈로 크로핑(croping)하여 크로핑 된 영상으로부터 영상인식을 수행하게 된다. 여기서 상기 기준속도는 60~100km/h 일 수 있다.In order to overcome this problem, the
상기 기준해상도는, 상기 영상인식부(220)에서 영상 인식을 수행하는 경우에, 근거리 뿐 아니라 원거리의 오브젝트 정보에 대해서도 영상인식 오류가 발생되지 않으면서 영상인식 속도가 저하되지 않고 실시간 인식이 가능한 해상도로, 미리 설정된 해상도 일 수 있다. 여기서 상기 기준해상도는 640X480 라고 가정한다. 상기 기준해상도는 영상 인식기술의 발전에 따라 640X480 보다 고해상도로 정해지는 것도 가능하다. When the
도 5는 상기 영상인식부의 다운스케일과 크로핑 과정을 나타낸 것이고, 도 6은 실제 촬영영상(a)에 대하여 다운스케일(b), 크로핑(c), 업스케일(d)한 영상의 예를 도시한 것이다.5 shows the process of down-scaling and cropping the image recognition unit, and FIG. 6 shows examples of down-scaling (b), cropping (c), and up-scaling (d) images of an actual captured image (a). it is depicted
도 5의 (a)에 도시된 바와 같이, 상기 영상인식부(220)는 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 상기 촬영부(210)를 통해 제공되는 고해상도의 영상(215a)에 대하여 상기 기준해상도를 가지도록 다운스케일을 수행하고, 다운스케일된 영상(225a)에 대하여 오브젝트 인식을 수행하게 된다. 이 경우 원래 영상(도 6의 (a) 참조)으로부터 다운스케일된 영상(도 6의 (b) 참조)의 경우 원거리의 물체는 더 작아보이고 열화되어 인식오류가 발생될 수 있으나, 일반적으로, 차량이 상기 기준속도 미만인 저속으로 운행중인 경우에는 60~100m 이상 원거리의 물체보다는 근거리에 위치한 오브젝트 정보의 인식이 중요하게 되므로, 열화된 부분의 무시가 가능하므로 실시간 인식 및 오브젝트 정보 인식에 문제가 발생되지 않는다. As shown in (a) of FIG. 5 , the
도 5의 (b)에 도시된 바와 같이, 상기 영상인식부(220)는 자율주행 차량의 주행속도가 기준속도 이상인 고속으로 운행중인 경우에는, 차량 근처의 근거리 정보보다는 60~100m 이상 원거리에 위치한 오브젝트 정보에 대한 인식이 더 필요하게 된다. 이에 따라 고속 운행 중에는 이 경우 원래 영상(215a 또는 도 6의 (a) 참조)으로부터 차량 정면을 기준으로 영상에 대하여 크로핑 사이즈(215b)에 따른 크로핑을 수행하고 크로핑된 영상(225b 또는 도 6의 (c) 참조)에 대하여 오브젝트 인식을 수행하게 된다. As shown in (b) of FIG. 5, the
이 경우 크로핑된 영상(225b 또는 도 6의 (c) 참조)은 상기 기준해상도를 가지는 사이즈로 크로핑되게 된다. 예를 들어, 도 6의 (a)에 도시된 바와 같은 원래 영상이 8메가급 센서를 가지는 카메라를 통해 촬영되어 3840x2160의 해상도를 가지고, 100m의 원거리에 170cm의 사람이 있는 경우, 사람의 영상에 해당되는 32픽셀x92픽셀부분을 포함하여 기준해상도인 640x480의 해상도를 가지는 사이즈의 영상으로 크로핑을 수행하는 것이 가능하다. 이에 따라, 원거리의 오브젝트 정보에 대한 영상인식 속도를 실시간 인식 수준으로 하는 것이 가능하다. 특히 고속도로 주행시에는 근거리보다는 60~100m 이상 원거리에 위치한 오브젝트 정보에 대한 인식이 오류없이 수행되어야 하고 실시간 인식이 되어야 하므로, 크로핑을 통해 오브젝트 정보를 인식하는 것이 가능하다. 크로핑의 경우 원래 촬영영상에서 해당 사이즈 만큼을 잘라내는 것이므로, 다운스케일과 달리 원거리의 물체에 대한 열화가 발생되지 않는다. 여기서 크로핑은 피사체의 사이즈를 기준으로 하는 것이 아니라 영상의 사이즈를 기준으로 수행된다.In this case, the cropped image (see 225b or (c) of FIG. 6) is cropped to a size having the reference resolution. For example, if the original image shown in (a) of FIG. 6 is taken by a camera having an 8-megapixel sensor and has a resolution of 3840x2160, and there is a person at a distance of 170 cm at a distance of 100 m, the image of the person It is possible to perform cropping with an image of a size having a resolution of 640x480, which is a reference resolution, including a corresponding 32-pixelx92-pixel part. Accordingly, it is possible to set the image recognition speed for distant object information to a real-time recognition level. In particular, when driving on a highway, recognition of object information located at a distance of 60 to 100 m or more rather than a short distance must be performed without error and must be recognized in real time, so it is possible to recognize object information through cropping. In the case of cropping, since a corresponding size is cut out from an original captured image, unlike downscaling, deterioration of a distant object does not occur. Here, cropping is performed based on the size of the image, not the size of the subject.
상술한 크로핑은 상기 촬영부(210)를 통해 촬영된 원래 영상의 중앙부분을 기준으로 하여 수행되는 것이 일반적이나, 필요에 따라(예를 들면, 좌회전이나 우회전시 등), 중앙부분의 좌측 또는 우측을 기준으로 하여 크로핑을 수행할 수 있다. The above-described cropping is generally performed based on the central part of the original image captured by the photographing
여기서, 필요한 경우에 상기 크로핑을 수행하기 전에 상기 촬영부(210)를 통해 제공되는 영상(215a)에 대하여 일정수준의 다운스케일을 수행한 이후에 크로핑을 수행하는 것이 가능하다. 이 경우에는 다운스케일 없이 크로핑을 수행하는 경우보다 인식범위를 넓힐 수 있다는 장점이 있다. 그리고, 상기 다운스케일의 수행은, 상기 주행속도에 대응되는 비율로 수행하는 것이 가능하다. 즉 주행속도가 빨라질수록 다운스케일 비율이 작아지고, 주행속도가 느려질수록 다운스케일 비율이 커지도록 하여, 주행속도가 느린 경우에 더 인식범위가 넓어지도록 하는 것이 가능하다. Here, if necessary, it is possible to perform cropping after downscaling the
상기 영상인식부(220)는 자율주행 차량의 전자제어유닛(ECU)에 내장될 수 있고, 영상인식을 위한 AI 알고리즘(딥러닝 알고리즘, 딥 뉴럴 네트워크 알고리즘 등)을 구비하여 딥 러닝 학습모델 등을 통한 학습과정을 통해 영상에서의 오브젝트 정보에 대한 인식을 수행하게 되고, 상기 촬영부(210)로부터 제공되는 영상을 다운스케일 또는 크로핑한 상태에서 오브젝트 정보를 인식하게 된다. The
상기 영상인식부(220)는 상기 촬영부(210)로부터 제공하는 영상들을 저장하기 위한 메모리(미도시)와 이미지 프로세서(미도시)를 구비할 수 있다.상기 이미지 프로세서는 입력되는 입력영상에 포함된 오브젝트 정보의 인식률 향상을 위한 이미지 프로세싱을 수행하는 것이 가능하다.The
그리고, 상기 오브젝트 정보는 자율주행을 위해 자율주행 차량에서 인식되어야 하는 오브젝트에 대한 정보가 포함될 수 있다. 상기 오브젝트 정보는, 인식의 대상이 되는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보 중 적어도 하나를 포함할 수 있다. 상기 이동객체정보는 사람, 동물을 포함하여 이동하는 객체를 모두 포함할 수 있고, 상기 도로정보는 노면정보나 차선정보 등을 포함할 수 있다. 그리고 상기 차량정보는 전동퀵보드, 자전거나 오토바이 등의 이륜차를 포함하여, 이륜이상의 다양한 차량에 대한 정보를 포함할 수 있다. 또한, 상기 오브젝트 정보는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보의 위치정보나 색상정보 등을 포함할 수도 있다. 이외에 자율주행을 위해 촬영 영상으로부터 인식이 필요하다고 알려져 있는 정보를 포함할 수 있다. 예를 들어, 비정상 객체정보를 추가로 포함할 수 있다. 비정상 객체정보는 일예로, 앉아있는 사람, 누워있는 사람, 동물사체, 우산을 쓰고 있는 사람 등 일반적으로 정상행위라고 알려져 있는 행위 이외의 비정상 행위를 하고 있는 사람이나 동물 등의 객체를 포함할 수 있다. And, the object information may include information about an object to be recognized in an autonomous vehicle for autonomous driving. The object information may include at least one of target road information to be recognized, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and event information. The moving object information may include all moving objects including people and animals, and the road information may include road surface information or lane information. In addition, the vehicle information may include information on various vehicles of two or more wheels, including two-wheeled vehicles such as electric quick boards, bicycles, and motorcycles. In addition, the object information may include target road information, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and location information or color information of event information. In addition, information known to require recognition from a photographed image for autonomous driving may be included. For example, abnormal object information may be additionally included. Abnormal object information may include, for example, objects such as people or animals performing abnormal behaviors other than generally known normal behaviors, such as a person sitting, a person lying down, a carcass of an animal, and a person using an umbrella. .
상술한 바와 같이, 본 발명의 제2실시예에 따르면, 고해상도의 카메라를 이용하여 영상을 촬영하되, 자율주행차량의 주행속도에 대응하여, 영상에 대한 다운스케일 또는 크로핑을 수행하여 차량의 전방에 대하여 근거리 및 원거리의 전체 범위에 대한 인식이 가능함은 물론, 고해상도의 영상 및 원거리의 오브젝트 정보에 대한 인식에 있어서 부하발생을 줄여 실시간 인식이 가능하다는 장점이 있다.As described above, according to the second embodiment of the present invention, while capturing an image using a high-resolution camera, downscaling or cropping the image is performed in response to the driving speed of the autonomous vehicle so that the front of the vehicle It has the advantage of being able to recognize the entire range of near and far distances, as well as real-time recognition by reducing the load in recognizing high-resolution images and distant object information.
도 7은 본 발명의 제3실시예에 따른 자율주행 차량의 영상인식 장치의 개략도이고, 도 8은 도 7의 영상인식부의 크로핑 과정을 나타낸 개략도이다. 7 is a schematic diagram of an image recognition device for an autonomous vehicle according to a third embodiment of the present invention, and FIG. 8 is a schematic diagram illustrating a cropping process of the image recognition unit of FIG. 7 .
도 7에 도시된 바와 같이, 본 발명의 제3실시예에 따른 자율주행 차량의 영상인식장치(300)는 촬영부(310) 및 영상인식부(320)를 구비한다.As shown in FIG. 7 , an
상기 촬영부(310)는 일정 화각(angle of view)을 각각 가지며 차량전방을 촬영하여 영상을 각각 생성하는 적어도 하나의 렌즈(312)를 구비한다. 상기 렌즈(312)는 화각이 90도~180도인 광각렌즈일 수 있으나, 이외에 광각렌즈나 협각렌즈 등에 관계없이 0도~180도(0도를 포함하지 않음)의 범위에서 특정화각을 가지는 렌즈가 구비되는 것도 가능하다.The photographing
그리고 상기 촬영부(310)는 상기 렌즈(312)에 추가하여 이미지 센서 등 영상 촬영에 필요하거나 유리하다고 통상의 기술자에게 잘 알려진 필수 구성들을 모두 포함할 수 있다.In addition to the
상기 영상인식부(320)는 영상인식 AI알고리즘을 내장하여, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하되, 상기 자율주행 차량의 주행속도에 대응되어, 상기 촬영부를 통해 제공되는 영상에 대하여 다운스케일 비율 조절 및 크로핑(croping)되는 영상의 사이즈 조절 중 적어도 어느 하나를 수행하여 영상인식을 수행한다.The
일반적으로 주행속도가 저속일 경우에는 차량 전방의 근거리의 넓은 범위에 대한 오브젝트 정보 인식이 중요하고, 주행속도가 고속일 경우에는 차량 전방의 원거리의 오브젝트 정보 인식이 중요하게 된다.In general, when the driving speed is low, it is important to recognize object information in a short distance in front of the vehicle and in a wide range, and when the driving speed is high, it is important to recognize object information in a long distance in front of the vehicle.
이에 따라, 일예로, 도 8에 도시된 바와 같이, 상기 영상인식부(320)는 상기 자율주행차량의 주행속도가 빨라질수록 상기 크로핑이 수행되는 영상의 사이즈가 점점 작아지도록 하여 크로핑을 수행할 수 있다. 구체적으로, 도 8에 도시된 바와 같이 상기 촬영부(310)를 통해 촬영되어 제공되는 원래 영상(315a)에 대하여, 차량의 주행속도가 빨라질수록 크로핑이 수행되는 영상의 사이즈가 제1크로핑 영상(315b), 제2크로핑 영상(315c), 제3크로핑 영상(315d) 순으로 코로핑되는 영상의 사이즈가 작아지게 크로핑을 수행하고 이렇게 크로핑 된 영상에 대하여 영상인식을 수행할 수 있다. 이는 차량의 주행속도가 빨라짐에 따라, 근거리의 넓은 범위보다는 원거리의 오브젝트 정보에 대한 인식이 더 중요해지기 때문에, 주행속도에 따라 크로핑되는 영상의 사이즈를 조절하여 영상인식의 효율성을 높이는 것이 가능하다. Accordingly, as an example, as shown in FIG. 8, the
상술한 크로핑은 상기 촬영부(310)를 통해 촬영된 원래 영상의 중앙부분을 기준으로 하여 수행되는 것이 일반적이나, 필요에 따라(예를 들면, 좌회전이나 우회전시 등), 중앙부분의 좌측 또는 우측을 기준으로 하여 크로핑을 수행할 수 있다. The above-described cropping is generally performed based on the central part of the original image captured by the photographing
그리고, 다른 예로, 상기 영상인식부(320)는, 상기 크로핑을 수행하기 전에 상기 촬영부(310)를 통해 촬영된 원래 영상에 대하여 다운스케일을 수행하고, 다운스케일된 영상에 대하여 상기 크로핑(croping)을 수행하여 크로핑 된 영상으로부터 영상인식을 수행할 수 있다. And, as another example, before performing the cropping, the
이 경우, 상기 크로핑을 수행하기 전에 상기 촬영부(310)를 통해 촬영된 원래 영상에 대하여 상기 주행속도에 대응되는 비율로 다운스케일을 수행하고, 다운스케일된 영상에 대하여 상기 크로핑(croping)을 수행하여 크로핑 된 영상으로부터 영상인식을 수행하는 것이 가능하다. 이때, 다운스케일은 주행속도가 빨라질수록 다운스케일 비율이 작아지고, 주행속도가 느려질수록 다운스케일 비율이 커지도록 하여, 주행속도가 느린 경우에 더 인식범위가 넓어지도록 하는 것이 가능하다. 이 경우 크로핑되는 영상의 사이즈는 주행속도에 대응하여 점점 작아지도록 하는 것도 가능하고, 주행속도와 관계없이 고정 사이즈를 가지도록 하는 것도 가능하다. 이 경우 주행속도에 대응하여 다운스케일 비율조절 및 크로핑 사이즈 조절하는 경우에 비하여 주행속도에 대응하여 다운스케일 비율조절 및 크로핑 사이즈 고정하는 경우는 다운스케일 비율이 더 크게 조절될 수 있다. In this case, before performing the cropping, downscaling is performed at a rate corresponding to the traveling speed with respect to the original image captured by the photographing
또 다른 경우로, 상기 촬영부(310)를 통해 촬영된 원래 영상에 대하여 상기 크로핑을 수행하기 전에 수행되는 다운스케일은 주행속도와 관계없이 고정비율로 수행되고, 다운스케일된 영상에 대하여 수행되는 상기 크로핑은 주행속도에 대응되는 사이즈로 수행될 수 있다. 이 경우 크로핑되는 영상의 사이즈는 주행속도에 대응하여 점점 작아지도록 하는 것도 가능하고, 주행속도와 관계없이 고정 사이즈를 가지도록 하는 것도 가능하다. In another case, the downscaling performed before performing the cropping on the original image captured by the photographing
또 다른 예로, 상기 영상인식부(320)는 상기 주행속도가 기준속도 미만인 경우에는 상기 촬영부(310)를 통해 제공되는 전체 영상을 이용하여 영상인식을 수행하고, 상기 주행속도가 기준속도 이상인 경우에는 상기 주행속도가 빨라질수록 상기 크로핑되는 영상의 사이즈가 점점 작아지도록 하여 크로핑을 수행하고, 크로핑 된 영상으로부터 영상인식을 수행하는 것도 가능하다. 여기서 상기 기준속도는 60~100km/h 일 수 있다.As another example, the
상기 영상인식부(320)는 자율주행 차량의 전자제어유닛(ECU)에 내장될 수 있고, 영상인식을 위한 AI 알고리즘(딥러닝 알고리즘, 딥 뉴럴 네트워크 알고리즘 등)을 구비하여 딥 러닝 학습모델 등을 통한 학습과정을 통해 영상에서의 오브젝트 정보에 대한 인식을 수행하게 되고, 상기 촬영부(310)로부터 제공되는 영상을 3크로핑한 상태에서 오브젝트 정보를 인식하게 된다. The
상기 영상인식부(320)는 상기 촬영부(310)로부터 제공하는 영상들을 저장하기 위한 메모리(미도시)와 이미지 프로세서(미도시)를 구비할 수 있다.상기 이미지 프로세서는 입력되는 입력영상에 포함된 오브젝트 정보의 인식률 향상을 위한 이미지 프로세싱을 수행하는 것이 가능하다.The
그리고, 상기 오브젝트 정보는 자율주행을 위해 자율주행 차량에서 인식되어야 하는 오브젝트에 대한 정보가 포함될 수 있다. 상기 오브젝트 정보는, 인식의 대상이 되는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보 중 적어도 하나를 포함할 수 있다. 상기 이동객체정보는 사람, 동물을 포함하여 이동하는 객체를 모두 포함할 수 있고, 상기 도로정보는 노면정보나 차선정보 등을 포함할 수 있다. 그리고 상기 차량정보는 전동퀵보드, 자전거나 오토바이 등의 이륜차를 포함하여, 이륜이상의 다양한 차량에 대한 정보를 포함할 수 있다. 또한, 상기 오브젝트 정보는 대상 도로정보, 차량정보, 사람을 포함한 이동객체정보, 장애물정보, 신호등 정보, 표지판 정보, 이벤트정보의 위치정보나 색상정보 등을 포함할 수도 있다. 이외에 자율주행을 위해 촬영 영상으로부터 인식이 필요하다고 알려져 있는 정보를 포함할 수 있다. 예를 들어, 비정상 객체정보를 추가로 포함할 수 있다. 비정상 객체정보는 일예로, 앉아있는 사람, 누워있는 사람, 동물사체, 우산을 쓰고 있는 사람 등 일반적으로 정상행위라고 알려져 있는 행위 이외의 비정상 행위를 하고 있는 사람이나 동물 등의 객체를 포함할 수 있다. And, the object information may include information about an object to be recognized in an autonomous vehicle for autonomous driving. The object information may include at least one of target road information to be recognized, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and event information. The moving object information may include all moving objects including people and animals, and the road information may include road surface information or lane information. In addition, the vehicle information may include information on various vehicles of two or more wheels, including two-wheeled vehicles such as electric quick boards, bicycles, and motorcycles. In addition, the object information may include target road information, vehicle information, moving object information including people, obstacle information, traffic light information, sign information, and location information or color information of event information. In addition, information known to require recognition from a photographed image for autonomous driving may be included. For example, abnormal object information may be additionally included. Abnormal object information may include, for example, objects such as people or animals performing abnormal behaviors other than generally known normal behaviors, such as a person sitting, a person lying down, a carcass of an animal, and a person using an umbrella. .
상술한 바와 같이, 본 발명의 제3실시예에 따르면, 자율주행차량의 주행속도에 대응하여 영상에 대한 크로핑 사이즈를 수행하여 차량의 전방에 대하여 주행속도에 대응하여 인식범위를 조절하는 것이 가능한 장점이 있다.As described above, according to the third embodiment of the present invention, it is possible to adjust the recognition range in response to the traveling speed of the front of the vehicle by cropping the image in response to the traveling speed of the autonomous vehicle. There are advantages.
상기한 실시예의 설명은 본 발명의 더욱 철저한 이해를 위하여 도면을 참조로 예를 든 것에 불과하므로, 본 발명을 한정하는 의미로 해석되어서는 안될 것이다. 또한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 있어 본 발명의 기본적 원리를 벗어나지 않는 범위 내에서 다양한 변화와 변경이 가능함은 명백하다 할 것이다. The description of the above embodiment is merely an example with reference to the drawings for a more thorough understanding of the present invention, and should not be construed as limiting the present invention. In addition, it will be apparent to those skilled in the art that various changes and modifications are possible within a range that does not deviate from the basic principles of the present invention.
110,210,310: 촬영부 120,220,320 : 영상인식부110,210,310: photographing unit 120,220,320: image recognition unit
Claims (17)
일정 화각(angle of view)을 가지는 렌즈를 가지며 차량전방을 촬영하여 영상을 생성하는 촬영부와;
영상인식 AI알고리즘을 내장하여, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하되,
상기 자율주행 차량의 주행속도가 기준속도 미만인 경우에는 상기 영상이 기준해상도를 가지도록 다운스케일(Downscale)을 수행하여 영상인식을 수행하고, 상기 주행속도가 상기 기준속도 이상인 경우에는 상기 영상에 대하여 기준해상도에 대응되는 사이즈로 크로핑(croping)하여 크로핑 된 영상으로부터 영상인식을 수행하는 영상인식부를 구비함을 자율주행 차량의 영상인식 장치.
In the image recognition device of an autonomous vehicle:
a photographing unit having a lens having a certain angle of view and generating an image by photographing the front of the vehicle;
An image recognition AI algorithm is embedded to perform image recognition for recognizing object information to be recognized in the self-driving vehicle from the image provided through the photographing unit,
When the driving speed of the self-driving vehicle is less than the reference speed, image recognition is performed by downscaling the image so that the image has a reference resolution, and when the driving speed is greater than or equal to the reference speed, the reference for the image is performed. An image recognition device for an autonomous vehicle comprising an image recognition unit that performs image recognition from a cropped image by cropping to a size corresponding to a resolution.
상기 렌즈는 90도~180도의 화각을 가지는 광각렌즈 임을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 6,
The lens is an image recognition device for an autonomous vehicle, characterized in that a wide-angle lens having a view angle of 90 degrees to 180 degrees.
상기 기준해상도는, 상기 영상인식부에서 영상 인식을 수행하는 경우에, 영상인식 오류가 발생되지 않으면서 실시간 인식이 가능한 해상도로, 미리 설정된 해상도 임을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 6,
The reference resolution is a resolution capable of real-time recognition without an image recognition error when the image recognition unit performs image recognition, characterized in that it is a preset resolution.
상기 기준해상도는 640X480 임을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 8,
The image recognition device for an autonomous vehicle, characterized in that the reference resolution is 640X480.
상기 기준속도는 60~100km/h 임을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 6,
The image recognition device for an autonomous vehicle, characterized in that the reference speed is 60 to 100 km / h.
상기 영상인식부는, 상기 주행속도가 상기 기준속도 이상인 경우에, 상기 주행속도에 대응되는 비율로 다운스케일을 수행하고, 다운스케일된 영상에 대하여 기준해상도에 대응되는 사이즈로 크로핑(croping)하여 크로핑 된 영상으로부터 영상인식을 수행함을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 6,
The image recognizing unit, when the traveling speed is equal to or greater than the reference speed, performs downscaling at a rate corresponding to the traveling speed, crops the downscaled image to a size corresponding to the reference resolution, and crops the image. An image recognition device for an autonomous vehicle, characterized in that it performs image recognition from a pinged image.
광각렌즈를 가지며 차량전방을 촬영하여 영상을 생성하는 촬영부와;
영상인식 AI알고리즘을 내장하여, 상기 촬영부를 통해 제공되는 영상으로부터 상기 자율주행 차량에서 인식의 대상이 되는 오브젝트 정보를 인식하는 영상인식을 수행하되,
상기 자율주행 차량의 주행속도에 대응되어, 상기 영상에 대하여 다운스케일 비율 조절 및 크로핑되는 영상의 사이즈 조절 중 적어도 어느 하나를 수행하여 영상인식을 수행하는 영상인식부를 구비하고,
상기 영상인식부는, 상기 크로핑을 수행하기 전에 상기 영상에 대하여 다운스케일을 수행하고, 다운스케일된 영상에 대하여 상기 크로핑(croping)을 수행하여 크로핑 된 영상으로부터 영상인식을 수행함을 특징으로 하는 자율주행 차량의 영상인식 장치.
In the image recognition device of an autonomous vehicle:
a photographing unit having a wide-angle lens and generating an image by photographing the front of the vehicle;
An image recognition AI algorithm is embedded to perform image recognition for recognizing object information to be recognized in the self-driving vehicle from the image provided through the photographing unit,
An image recognition unit configured to perform image recognition by performing at least one of a downscaling rate adjustment and a size adjustment of a cropped image of the image in response to the driving speed of the autonomous vehicle,
Characterized in that the image recognition unit performs downscaling on the image before performing the cropping, and performs image recognition on the cropped image by performing the cropping on the downscaled image. Image recognition device for autonomous vehicles.
상기 크로핑을 수행하기 전에 수행되는 다운스케일은 주행속도와 관계없이 고정비율로 수행되고, 다운스케일된 영상에 대하여 수행되는 상기 크로핑은 주행속도에 대응되는 사이즈로 조절되어 수행됨을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 14,
The downscaling performed before performing the cropping is performed at a fixed ratio regardless of the driving speed, and the cropping performed on the downscaled image is adjusted to a size corresponding to the driving speed. Image recognition device of driving vehicle.
상기 크로핑을 수행하기 전에 수행되는 다운스케일은 주행속도에 대응되는 비율로 수행되고, 다운스케일된 영상에 대하여 수행되는 상기 크로핑은 주행속도와 관계없이 고정 사이즈로 수행됨을 특징으로 하는 자율주행 차량의 영상인식 장치.
The method of claim 14,
The downscaling performed before performing the cropping is performed at a rate corresponding to the driving speed, and the cropping performed on the downscaled image is performed at a fixed size regardless of the driving speed. image recognition device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220162955A KR102497488B1 (en) | 2022-11-29 | 2022-11-29 | Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220162955A KR102497488B1 (en) | 2022-11-29 | 2022-11-29 | Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle |
Publications (1)
Publication Number | Publication Date |
---|---|
KR102497488B1 true KR102497488B1 (en) | 2023-02-08 |
Family
ID=85225786
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020220162955A KR102497488B1 (en) | 2022-11-29 | 2022-11-29 | Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102497488B1 (en) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20100051244A (en) * | 2008-11-07 | 2010-05-17 | 주식회사 케이제이몰 | Apparatus and method of processing video in the video recording system for the vehicles |
KR20100131452A (en) * | 2008-02-12 | 2010-12-15 | 씨엠엘 인터내셔널 에스. 피. 에이. | Method to check and control a roller bending machine for continuously bending an elongated workpiece at variable curvature radii, and machine so controlled |
KR20170140284A (en) * | 2015-05-19 | 2017-12-20 | 엘지전자 주식회사 | Vehicle driving aids and vehicles |
KR101920281B1 (en) * | 2017-06-26 | 2018-11-21 | (주)넥스트칩 | Apparatus and method for detecting an object from input image data in vehicle |
KR102188269B1 (en) | 2018-12-31 | 2020-12-08 | 엘지전자 주식회사 | A method for controlling a camera zoom magnification |
KR20220150111A (en) * | 2021-05-03 | 2022-11-10 | 삼성전기주식회사 | Camera apparatus for vehicle |
-
2022
- 2022-11-29 KR KR1020220162955A patent/KR102497488B1/en active IP Right Grant
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20100131452A (en) * | 2008-02-12 | 2010-12-15 | 씨엠엘 인터내셔널 에스. 피. 에이. | Method to check and control a roller bending machine for continuously bending an elongated workpiece at variable curvature radii, and machine so controlled |
KR20100051244A (en) * | 2008-11-07 | 2010-05-17 | 주식회사 케이제이몰 | Apparatus and method of processing video in the video recording system for the vehicles |
KR20170140284A (en) * | 2015-05-19 | 2017-12-20 | 엘지전자 주식회사 | Vehicle driving aids and vehicles |
KR101920281B1 (en) * | 2017-06-26 | 2018-11-21 | (주)넥스트칩 | Apparatus and method for detecting an object from input image data in vehicle |
KR102188269B1 (en) | 2018-12-31 | 2020-12-08 | 엘지전자 주식회사 | A method for controlling a camera zoom magnification |
KR20220150111A (en) * | 2021-05-03 | 2022-11-10 | 삼성전기주식회사 | Camera apparatus for vehicle |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11318928B2 (en) | Vehicular automated parking system | |
US9311711B2 (en) | Image processing apparatus and image processing method | |
CN107845104B (en) | Method for detecting overtaking vehicle, related processing system, overtaking vehicle detection system and vehicle | |
US9927811B1 (en) | Control system and method for controlling mobile warning triangle | |
KR102385280B1 (en) | Camera system and method for contextually capturing the surrounding area of a vehicle | |
US11010622B2 (en) | Infrastructure-free NLoS obstacle detection for autonomous cars | |
US11061122B2 (en) | High-definition map acquisition system | |
US20150377607A1 (en) | Sensor system for determining distance information based on stereoscopic images | |
EP3803790B1 (en) | Motion segmentation in video from non-stationary cameras | |
JP6032034B2 (en) | Object detection device | |
US11403767B2 (en) | Method and apparatus for detecting a trailer, tow-ball, and coupler for trailer hitch assistance and jackknife prevention | |
JP6065629B2 (en) | Object detection device | |
CN114359714A (en) | Unmanned body obstacle avoidance method and device based on event camera and intelligent unmanned body | |
CN113103957B (en) | Blind area monitoring method and device, electronic equipment and storage medium | |
KR20200133920A (en) | Apparatus for recognizing projected information based on ann and method tnereof | |
KR102497488B1 (en) | Image recognition apparatus for adjusting recognition range according to driving speed of autonomous vehicle | |
KR102003387B1 (en) | Method for detecting and locating traffic participants using bird's-eye view image, computer-readerble recording medium storing traffic participants detecting and locating program | |
JP6174884B2 (en) | Outside environment recognition device and outside environment recognition method | |
JP7354773B2 (en) | Object detection device, object detection method, and object detection program | |
KR102051324B1 (en) | Surround view monitoring system | |
JP6564682B2 (en) | Object detection device, object detection method, and object detection program | |
US20230368537A1 (en) | Automatic configuration of camera settings using radar | |
JP7348874B2 (en) | Tilt angle detection device and control device | |
US20240103525A1 (en) | Vehicle and control method thereof | |
CN115937815A (en) | Signal lamp identification method and device, vehicle control unit and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |