WO2020050502A1 - 카메라 기반의 차선 변경 가능 시점을 학습하는 방법 및 시스템, 그리고 차선 변경 가능 여부의 알림을 제공하는 방법 및 시스템 - Google Patents

카메라 기반의 차선 변경 가능 시점을 학습하는 방법 및 시스템, 그리고 차선 변경 가능 여부의 알림을 제공하는 방법 및 시스템 Download PDF

Info

Publication number
WO2020050502A1
WO2020050502A1 PCT/KR2019/009464 KR2019009464W WO2020050502A1 WO 2020050502 A1 WO2020050502 A1 WO 2020050502A1 KR 2019009464 W KR2019009464 W KR 2019009464W WO 2020050502 A1 WO2020050502 A1 WO 2020050502A1
Authority
WO
WIPO (PCT)
Prior art keywords
lane change
state
image
lane
label
Prior art date
Application number
PCT/KR2019/009464
Other languages
English (en)
French (fr)
Inventor
정성균
이동규
민재식
임예숙
Original Assignee
네이버랩스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020180105530A external-priority patent/KR102236792B1/ko
Priority claimed from KR1020190081918A external-priority patent/KR102231775B1/ko
Application filed by 네이버랩스 주식회사 filed Critical 네이버랩스 주식회사
Publication of WO2020050502A1 publication Critical patent/WO2020050502A1/ko

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/18—Propelling the vehicle
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/20—Analysis of motion
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems

Definitions

  • the following description provides a method and system for learning a camera-based lane change point, and a method and system for providing notification of whether a lane change is possible.
  • blind spot detection and blind spot information system (BLIS) exist.
  • BSD blind spot detection
  • BLIS blind spot information system
  • these conventional technologies have a high price of the sensor itself, and the device is embedded in the exterior of the vehicle (for example, a bumper), and is damaged even in a minor accident or the calibration information is damaged.
  • the camera sensor has a competitive advantage in price, and the proposed system has a robust characteristic for the installed location.
  • the existing BLIS has a problem of notifying the driver only when the lane change is impossible according to the occupied state of the lane and side mirror to be changed.
  • a camera-based lane change point learning method and system that can predict and notify a driver or self-driving artificial intelligence.
  • a method and system for providing a lane change notification for a predetermined period of time from a lane change request time to a lane change completion time is provided.
  • a method executed in a computer device comprising at least one processor configured to execute computer readable instructions contained in a memory, the method being performed by the at least one processor, the side of a vehicle -Receiving an image to which a first label or a second label is assigned to an individual frame input through a camera in relation to the rear area-The image to which the first label is assigned represents a state in which lane change is blocked (BLOCKED) An image, and the image to which the second label is assigned includes an image in which the lane change is free (FREE);
  • the lane after unit time of n (where n is a natural number) is added to at least one frame before the switching time according to the number of frames per second (FPS) based on the switching time from the blocked state to the free state. Assigning a label to define that the change is possible; And learning a lane change time point based on the frames of the image and a label included in the frames.
  • a method executed in a computer device comprising at least one processor configured to execute computer readable instructions contained in a memory, the method being performed by the at least one processor, the side of a vehicle -Determining a state related to a lane change by analyzing an image input through the camera in relation to the rear area; And providing a notification using different media according to a depth of information on whether a lane is changeable as a state related to the lane change.
  • a computer program stored on a non-transitory computer readable recording medium for executing the above method on the computer device.
  • the current state related to the lane change from the image input through the camera in relation to the side-rear area of the vehicle is in a state in which a lane change is impossible, a state in which a lane change is possible, and n ( The n is a natural number) provides a method comprising the step of predicting one of the lane changeable state after a unit time.
  • a computer device comprising: at least one processor implemented to execute instructions readable by a computer, wherein the first frame is first input to a separate frame by the at least one processor and input through the camera in relation to the side-rear area of the vehicle.
  • the image to which the label or the second label is assigned is received.
  • the image to which the first label is assigned is an image in which the lane change is blocked (BLOCKED), and the image to which the second label is assigned is free of lane change.
  • Each of the images representing a free state is included-at least one before the switching time according to the number of frames per second (FPS) based on the switching time from the blocked state to the free state.
  • a frame defining a lane change is possible after a unit time of n (where n is a natural number), and frames and frames of the image are included. It provides a computer device characterized by learning the lane change point based on the label.
  • a computer device comprising at least one processor configured to execute computer readable instructions contained in a memory, the at least one processor analyzing an image input through a camera in relation to a side-rear area of the vehicle It provides a computer device characterized by determining a state related to a lane change and providing a notification using different media according to a depth of information on whether a lane change is possible as the state related to the lane change.
  • information about a time when a lane can be changed by receiving an image from a camera installed to obtain a viewpoint similar to a side-rear area observed by a side mirror of a vehicle (eg, 3 seconds ago, 2 seconds ago , 1 second ago, possible, impossible) to predict and notify the driver or self-driving artificial intelligence.
  • a viewpoint similar to a side-rear area observed by a side mirror of a vehicle eg, 3 seconds ago, 2 seconds ago , 1 second ago, possible, impossible
  • a lane change notification may be provided for a predetermined period of time from a lane change request time to a lane change completion time.
  • a differentiated notification may be provided according to a depth of state information on whether a lane change is possible.
  • FIG. 1 is a diagram illustrating an example of annotated images according to an embodiment of the present invention.
  • Figure 2 shows an example of comparing the results of the attention of the CAM with the results of the attention of the method according to an embodiment of the present invention.
  • FIG. 3 is a view showing an example of an integrated method according to an embodiment of the present invention.
  • FIG. 4 is a block diagram showing an example of a computer device according to an embodiment of the present invention.
  • FIG. 5 is a flowchart illustrating an example of a lane change time learning method according to an embodiment of the present invention.
  • FIG. 6 is a view showing an example of giving a label in an embodiment of the present invention.
  • FIG. 7 is a flowchart illustrating an example of a lane change notification providing method according to an embodiment of the present invention.
  • FIG. 8 is a diagram illustrating an example of a display device that outputs a lane change notification in an embodiment of the present invention.
  • 9 to 13 are views showing an example of visualization of a lane change notification in an embodiment of the present invention.
  • FIG. 14 is a diagram illustrating another example of a display device that outputs a lane change notification in an embodiment of the present invention.
  • 15 is a diagram illustrating an example of a lane change notification using sound in an embodiment of the present invention.
  • the method for learning a lane change time may be performed by at least one computer device to be described later.
  • a computer program according to an embodiment of the present invention may be installed and driven on the computer device, and the computer device may perform a lane change time learning method according to embodiments of the present invention under the control of the driven computer program.
  • the above-described computer program can be stored in a computer-readable recording medium in combination with a computer device to execute the method according to embodiments of the present invention in a computer device.
  • vehicle-aware image features and weak-shot classification are extracted to use weak supervision to overcome extreme data imbalance issues.
  • a system for lane-change assistance is proposed.
  • the proposed system can monitor the side-rear space and predict when lane changes are possible.
  • weakly supervised learning and attention maps the system can extract new imaging features of objects moving behind the ego-vehicle.
  • the side-rear view image dataset to which binary labels (FREE or BLOCKED) are manually assigned can be reused.
  • FREE or BLOCKED binary labels
  • lane-change decision aids are one of the key functions in the Advanced Driving Assistance System (ADAS).
  • ADAS Advanced Driving Assistance System
  • automakers try to equip blind spot detection systems to alert drivers of potential collisions in the back-to-back space.
  • autonomous vehicles perform cooperative lane-changes on roads where human drivers coexist.
  • Embedded computer vision systems are becoming more popular in implementing vehicle safety functions because they are cost effective.
  • the end-to-end learning framework can classify spatial attributes of images to help determine lane-change.
  • images from side-to-rear view can be collected and annotated with binary classes (or labels) called FREE, otherwise BLOCKED if the self-vehicle can move in the target lane.
  • FREE binary classes
  • the side-rear-view image dataset is a valuable asset for image-based lane-change studies, this binary classification is insufficient to interpret various road scenarios, particularly the driving environment with interaction with other vehicles.
  • a safe distance from the rear or front vehicle on the target lane must be secured, and the definition of the safety distance is the relative speed and type of road between the two vehicles (for example, a city street vs. a highway). It may change according to. Therefore, there is a need for a new system that can inform the remaining time to change lanes regardless of road conditions.
  • n e.g. 5, 5 class labels.
  • n e.g. 5
  • This change task is performed systematically and can alleviate the need for tedious manual annotation work.
  • it is inappropriate to apply simple image classification to the dataset because the modified dataset will have severe data imbalance with large intra-class variation.
  • a few-shot classification scheme in which the entire dataset is separated according to different road types and driving scenarios to ensure that the subset contains representative examples of different road environments and driving modes. ) Can be used.
  • the classification method based on minority learning may enable the proposed system to quickly adapt to various road scenarios first seen.
  • Deep learning for auto-driving Large road datasets have led to the combination of intelligent vehicle and computer vision research. This has contributed to advances in machine perception algorithms such as detection, tracking, stereo matching, optical flow and semantic segmentation. Recently, some studies have used deep learning techniques to make computer vision applications leap from perception to control. For example, an end-to-end driving model has been proposed that directly creates vehicle control factors, such as steering angle, from image input, and generates structured calculation results for the controller of the auto-driving agent or reflects various driving modes. In order to implement a comprehensive model, there are studies that use a large video dataset collected in the wild or simplify the lane-change decision problem to a binary classification measuring the occupancy state of a target lane. However, techniques for predicting the time to change lanes have not been developed so far.
  • Weakly Supervised Object Localization Existing weakly mapped object location recognition methods may be classified into sequential approaches and integrated approaches.
  • the sequential methods can first propose an area where an object can appear, and then perform classification.
  • MIL Multiple Instance Learning
  • WSDDN Weakly Supervised Deep Detection Networks
  • the integrated methods perform object classification and location recognition simultaneously through class-specific importance maps, which are ancillary results in the learning process.
  • the Class Activation Mapping (CAM) algorithm is fully connected layers for classification tasks to acquire adaptive weights of feature maps for class-specific activations. ) To the global average pooling layer. To obtain a fine-grained attention region, the derived backpropagation scores can be multiplied by the weighted feature map.
  • these algorithms generate importance maps based on cross entropy for image classification, the activation result deals with some discernible parts rather than the whole object.
  • the Hide-and-Seek algorithm was implemented to intentionally cover a portion of the image in order to learn the error resilience model.
  • the adversarial erasing technique has been proposed to repeatedly delete the most discernable parts so that the network understands the complete body of the object.
  • per-pixel attention regularization and multiscale inference are proposed to derive an attention map that covers the entire object area without fragmenting parts. .
  • Meta-learning for classification by minority learning aims to resemble human intelligence that can quickly adapt to new tasks with a small number of examples.
  • dew-shot classification is a difficult task because insufficient data is insufficient to contain intact diversified visual features.
  • a model regression network has been proposed to learn classifier transformation from small sample models to large sample models.
  • model-agnostic meta-learning an objective function is defined that accepts parameters across all sub-tasks. Through gradient-based optimization, the parameters are sensitive to the fast adaptation of the update model due to the loss of new tasks. There is also a mechanism to train the model with unlabeled data.
  • the non-parametric approach is to train an embedding function that generates a representative value for each class in units of distance. Since most drivers naturally respond to new road environments based on their previous driving experience, embodiments of the present invention follow a non-parametric approach.
  • each side-rear-view image may be assigned a binary label indicating whether the target lane is free (FREE) or blocked (BLOCKED) according to the spatial property of the scene.
  • the system may additionally utilize the temporal information of the scene to change the data set so that the target lane is predicted to be free for lane-change in a very short time.
  • the images to which the label BLOCKED has been previously assigned can be re-mapped to one of 1s, 2s, 3s, and BLOCKED labels.
  • ns may indicate that the target lane is currently blocked but will be free within about n seconds. Meanwhile, all videos to which the previous label FREE has been assigned may remain.
  • a systematic method of utilizing a series of original datasets can be employed. More specifically, given a bundle of side-rear view scenes, the minimum number of frames that are in the FREE state in the BLOCKED state can be counted, and the frame count can be converted into seconds according to the number of frames per second in the bundle. When assigning a new label, ⁇ 1 frame can be tolerated to mitigate quantization errors.
  • FIG. 1 is a diagram illustrating an example of annotated images according to an embodiment of the present invention.
  • the images in the first row in FIG. 1 show the order in which the self-vehicle overtakes another vehicle in the target lane.
  • the images in the second row show the reverse order.
  • the images in the dataset of FIG. 1 indicate that they are obtained from various locations including residential areas (images in the first row) and highways (images in the second row).
  • Table 1 below shows an example of overall statistics of a dataset converted according to an embodiment.
  • Table 1 shows an example of data distribution in the case of assigning a FREE label and a BLOCKED label to side-rear view scenes, and a FREE label, a FREE in 1s label, and a FREE label for side-rear view scenes according to an embodiment of the present invention.
  • the following shows an example of data distribution when allocating in 2s, FREE in 3s, and BLOCKED labels.
  • the images in FIG. 1 show an example in which such a converted label is assigned.
  • the images in the same class show a large variation.
  • the fourth column in FIG. 1 is two images in the same 1s class (label), where the vehicle position on the target lane is very different. This is because datasets are obtained from various types of roads (roads in the city vs. highways), and self-vehicles cover various road structures and lane-changing scenarios, such as overtaking other vehicles and vice versa. do.
  • the relabeling results show severe imbalances across the five classes as shown in Table 1.
  • Table 1s, 2s, and 3s classes account for only 3% of the dataset, while the FREE and BLOCKED classes are overwhelmingly large in the overall dataset.
  • Pre-trained features have been widely used in various image recognition tasks.
  • new image features can be learned that deal with objects that can move on the road.
  • Using an attention mechanism can improve perception of image features associated with fast-moving objects while suppressing the effects of features not related to the task.
  • weak supervised learning can be used in conjunction with the attention mechanism that uses a specific class of importance map.
  • CNN convolutional neural network
  • the CNN architecture for image classification consists mostly of convolutional layers for feature extraction and subsequent linear layers for classification tasks. In the process of reshaping the output of the convolutional layers, it may be required to read spatial information of image features.
  • the main idea of the Class Activation Mapping (CAM) algorithm is that each activation unit encodes individual video features, so the activation units bring different importance to predict the class.
  • CAM performs global average pooling for the last convolutional layer and can calculate adaptive weights of feature maps across activation units.
  • the CAM algorithm can implicitly learn the weights a c for each class as shown in Equation 1 below to obtain the importance map S c assigned to the class.
  • a linear combination of class-specified weights a c and feature maps f k can be a pixel-level importance map S c (i, j) that highlights locally meaningful regions for classification. therefore, Is likely to be class c, so CAM can use this number for class prediction.
  • an importance map for vehicle-related classes may be used as an attention mask that focuses on a movable object on the road. Since CAM uses cross entropy loss to make predictions that maximize the overall attention associated with a class, it tends to emphasize only the most discernable parts of the object. To address this problem, in this embodiment, pixel-wise normalization can be applied to the CAM and the effect of local characteristics common to all classes can be minimized. As a result, for each class, the normalization method according to this embodiment can suppress areas that are not related and highlight areas corresponding to the class.
  • the expanded actual data (correct answer) Importance map with a set of The average binary cross entropy loss for a set of can be calculated.
  • c represents the total number of classes.
  • an actual data map in pixels (correct answer map) can be defined to create shape information related to the classes.
  • pixelwise regression loss may be defined as in Equation 2 below.
  • Equation 3 the attention model can learn a linear combination of losses as in Equation 3:
  • L CE may be a cross entropy loss for classification
  • learning the attention engine as a binary classifier a subset related to vehicle-like objects (positive samples) and others (negative samples) can be utilized. Data sampling will be described in more detail later.
  • the dataset to be utilized is mostly composed of object-centric images, it is difficult to learn size-invariant features from it.
  • moving objects often appear in various sizes, especially on side-to-back view road scenes.
  • a multi-scale integration method capable of obtaining an importance map regardless of object size may be used.
  • the proposed integration method can use the model trained by Equation 3 again, and operate in the inference step. Therefore, no additional learning is required.
  • the system can generate an image pyramid having various sizes for one input image.
  • the initial input image can be distinguished from a resized image by hereinafter referred to as an “anchor image”.
  • the system can repeatedly input a set of resized images into a model to obtain multi-scale importance maps.
  • a minimal transformation to the model can be applied by resizing the global mean pooling operation on top of the last convolutional layer.
  • the attention engine represents the importance map for the car class. You can create Since then, for clarity It replaces the notation V m.
  • V * importance maps may be adaptively integrated for all scales as shown in Equation 4 below.
  • Figure 2 shows an example of comparing the results of the attention of the CAM with the results of the attention of the method according to an embodiment of the present invention.
  • PR Physical Regularization
  • MA Multiscale Aggregation
  • the system can adopt a non-parametric algorithm, a prototype network, in that humans can adapt their behavior patterns to various driving scenarios based on their experience.
  • a prototype network is briefly reviewed for completeness. It is a support set that includes N labeled examples for set class c. Suppose you have here, Is a data point, and y n can indicate a corresponding ground truth label.
  • the prototype network is a prototype for each class.
  • To represent the embedding function Can learn. here Can mean learning parameters. Unit of distance in the embedding space
  • the prototype network can derive the distribution on the classes using softmax, and the label for the query X can be predicted as in Equation 5 below.
  • FIG. 3 is a view showing an example of an integrated method according to an embodiment of the present invention.
  • FIG. 3 compares different spatial and temporal integration methods of the image feature and the attention map.
  • the left side of FIG. 3 shows an example using the FAC method
  • the right side of FIG. 3 shows an example using the CAF method.
  • Image features and attention masks can be combined by multiplication or addition. Table 2 shows an example of comparing performance for various integration scenarios.
  • Table 2 shows the performance of the VGG-16 viscera in relation to the integration method.
  • Euclidean distance metric may be applied to the embedding space.
  • the embedding networks consist of 3 convolution building blocks, each block convolutional layer (with 3 ⁇ 3 kernel size), batch normalization, rectified linear unit (ReLU) and max pooling (with 2 ⁇ 2 kernel size) ). If the dimensions of the input features depend on the backbone model, the dimensions of the hidden units in the embedding network can be fixed to 512 and 256 respectively.
  • FIG. 4 is a block diagram showing an example of a computer device according to an embodiment of the present invention.
  • the systems according to the embodiments of the present invention described above may be implemented by the computer device 400 illustrated through FIG. 4, and the method according to the embodiments of the present invention may be performed by the computer device 400.
  • the computer device 400 may include a memory 410, a processor 420, a communication interface 430, and an input / output interface 440.
  • the memory 410 is a computer-readable recording medium, and may include a non-permanent mass storage device such as random access memory (RAM), read only memory (ROM), and a disk drive.
  • RAM random access memory
  • ROM read only memory
  • a non-destructive large-capacity recording device such as a ROM and a disk drive may be included in the computer device 400 as a separate permanent storage device separate from the memory 410.
  • an operating system and at least one program code may be stored in the memory 410. These software components may be loaded into the memory 410 from a computer-readable recording medium separate from the memory 410.
  • Such a separate computer-readable recording medium may include a computer-readable recording medium such as a floppy drive, disk, tape, DVD / CD-ROM drive, and memory card.
  • software components may be loaded into memory 410 through a communication interface 430 rather than a computer-readable recording medium.
  • software components may be loaded into memory 410 of computer device 400 based on a computer program installed by files received over network 460.
  • the processor 420 may be configured to process instructions of a computer program by performing basic arithmetic, logic, and input / output operations. Instructions may be provided to processor 420 by memory 410 or communication interface 430. For example, the processor 420 may be configured to execute a received command according to program code stored in a recording device such as the memory 410.
  • the communication interface 430 may provide a function for the computer device 400 to communicate with each other through the network 460. For example, requests, commands, data, files, and the like generated by the processor 420 of the computer device 400 according to program codes stored in a recording device such as the memory 410 are controlled by the communication interface 430. 460). Conversely, signals, commands, data, files, and the like from other devices may be received through the network 460 to the computer device 400 through the communication interface 430 of the computer device 400. Signals, instructions, data, etc. received through the communication interface 430 may be transferred to the processor 420 or the memory 410, and files and the like may be further stored by the computer device 400 (described above) Permanent storage device).
  • the input / output interface 440 may be a means for interfacing with the input / output device 450.
  • the input device may include a device such as a microphone, keyboard, camera or mouse
  • the output device may include a device such as a display or speaker.
  • the input / output interface 440 may be a means for interfacing with a device in which functions for input and output are integrated into one, such as a touch screen.
  • the input / output device 450 may be configured with the computer device 400 and one device.
  • the computer device 400 may include fewer or more components than those in FIG. 4. However, there is no need to clearly show most prior art components.
  • the computer device 400 may be implemented to include at least some of the input / output devices 450 described above, or may further include other components such as a transceiver, a database, and the like.
  • the communication method is not limited, and a communication method using a communication network (for example, a mobile communication network, a wired Internet, a wireless Internet, a broadcasting network) that the network 460 may include, as well as short-range wired / wireless communication between devices may be included.
  • a communication network for example, a mobile communication network, a wired Internet, a wireless Internet, a broadcasting network
  • the network 460 includes a personal area network (PAN), a local area network (LAN), a campus area network (CAN), a metropolitan area network (MAN), a wide area network (WAN), and a broadband network (BBN).
  • PAN personal area network
  • LAN local area network
  • CAN campus area network
  • MAN metropolitan area network
  • WAN wide area network
  • BBN broadband network
  • Any one or more of the networks such as the Internet.
  • the network 460 may include any one or more of network topologies including bus networks, star networks, ring networks, mesh networks, star-bus networks, tree or hierarchical
  • the lane change time learning method according to the present embodiment may be performed by the computer device 400 for implementing a lane change time learning system.
  • the processor 420 of the computer device 400 may be implemented to execute control instructions according to code of an operating system included in the memory 410 or code of at least one program.
  • the processor 420, the computer device 400 in accordance with the control instructions provided by the code stored in the computer device 400, the computer device 400 performs the steps (510 to 550) included in the method of FIG. Can be controlled.
  • the computer device 400 may receive an image in which a first label or a second label is assigned to an individual frame by being input through the camera in relation to the side-rear area of the vehicle.
  • the image to which the first label is assigned represents an image in which the lane change is blocked (a lane change impossible state)
  • the image to which the second label is allocated represents a state in which the lane change is free (a lane changeable state).
  • Each image may be included.
  • the first label may mean the label 'BLOCKED' described above
  • the second label may mean the label 'FREE' described above.
  • the computer device 400 is based on the number of frames per second (Frame Per Second, FPS) based on the transition time from the blocked state to the free state.
  • FPS Frame Per Second
  • n can be given a label defining that lane changes are possible after a natural number of seconds.
  • the computer device 400 may label the m-th frame before the switch point in time that the lane change is possible after n seconds.
  • m may be determined by a multiplication operation having n and frames per second as parameters.
  • an index of a frame corresponding to a transition time from a blocked state to a free state in a video with a fixed FPS of 10 is 110.
  • a label defining that lane change is possible after 1 second may be assigned to a frame of index 100, which is the 10th (1 (second) ⁇ 10 (FPS)) frame before the switching point.
  • a label defining that a lane change is possible after 2 seconds may be assigned to a frame at index 90, which is the 20th (2 (second) ⁇ 10 (FPS)) th frame before the switching point.
  • the computer device 400 may learn a lane change point based on the frames of the image and the label included in the frames.
  • the computer device 400 performs weak supervised learning based on whether a vehicle or a moving object exists for each of the frames of the image, so that the vehicle or the moving object occupies each frame.
  • the area can be output in the form of a heat map.
  • the computer device 400 may learn the lane change time using the heatmap and the feature vector of the image in step 430. In this case, the computer device 400 may increase the weight of the area occupied by the vehicle or the moving object in the image by adding the value of the heat map to all dimensions of the feature vector.
  • the computer device 400 may utilize multi-scale integration to obtain an importance map regardless of the size of an object for objects appearing in different sizes in an image.
  • the computer device 400 generates a set of resized images for an image, and repeatedly inputs the set of resized images into an attention model, thereby multiplicity of importance maps. After creating maps), the importance maps for all scales can be integrated to obtain importance maps for objects that appear in different sizes in the image regardless of the size of the objects.
  • 6 is a view showing an example of giving a label in an embodiment of the present invention.
  • 6 shows a total of five frames 610 to 650, one for every 10 frames among the frames included in the image.
  • the first frame 610 of FIG. 6 represents a frame at the time of transition from the Block state to the Free state.
  • the label 'FREE' which is a label indicating the free state, may be assigned to the first frame 610.
  • the frames before the first frame 610 may be frames to which the label 'BLOCKED', which is a label indicating the block state, is assigned.
  • the second frame 620, the third frame 630, the fourth frame 640 and the fifth frame 650 shown in FIG. 6 may also be included in the frames to which the label 'BLOCKED' is assigned.
  • the computer device 400 may assign a label defining the lane change is possible after n seconds from the first frame 610 to the previous m-th frame.
  • m may be determined through multiplication between frames per second and n.
  • the second frame 620 represents the tenth frame from the first frame 610.
  • a label defining that lane change is possible after 1 second may be applied to the second frame 620, which is the 10th frame (the number of frames per second 10 ⁇ 1 second) from the first frame 610.
  • the third frame 630 represents the previous 20th frame from the first frame 610.
  • a label defining that lane change is possible after 2 seconds may be applied to the third frame 630, which is the 20th frame from the first frame 610 (10 ⁇ 2 seconds per second).
  • the fourth frame 640 may indicate the 30th frame from the first frame 610, and it is easy to indicate that the fourth frame 640 may be given a label defining that lane change is possible after 3 seconds. You will understand.
  • n is a natural number of 3 or less
  • n may be set in more various ways. If n is a natural number of 4 or less, the fifth frame 650 of FIG. 6 will be given a label defining that lane change is possible after 4 seconds.
  • the label defining that lane change is possible after n seconds may be additionally assigned to the existing label 'BLOCKED', but may also be assigned by replacing the existing label 'BLOCKED'.
  • the lane change notification providing method according to the present embodiment may be performed by the computer device 400 for implementing a lane change notification providing system.
  • the processor 420 of the computer device 400 may be implemented to execute control instructions according to code of an operating system included in the memory 410 or code of at least one program.
  • the processor 420, the computer device 400 in accordance with the control instructions provided by the code stored in the computer device 400 to perform the steps (710 to 720) of the method of Figure 7 includes the computer device 400 Can be controlled.
  • the computer device 400 may analyze the image input through the camera in relation to the side-rear area of the vehicle to determine the current state related to the lane change as whether the lane change is possible. have. Such a determination may be made through the artificial intelligence model learned through FIG. 5 above.
  • the AI model can divide the current state into a block state in which lane changes are not possible and a free state in which lane changes are possible.
  • the block state may be subdivided according to the unit time, and may include a state in which lane change is possible after n (n is a natural number) seconds.
  • the block state may be divided into a 3seconds left state in which a lane change is possible after 3 seconds, a 2seconds left state in which a lane change is made after 2 seconds, and a 1second left state in which a lane change is possible after 1 second.
  • the state related to the lane change may consist of two or more depths
  • the upper level is divided into the Block state and the Free state
  • the lower level is a state in which the lane change is possible after n (n is a natural number) seconds, for example, 3seconds. It can be divided into left state, 2seconds left state, and 1second left state.
  • the above-described step 710 is a step of acquiring an image input through a camera in relation to a side-rear area of the vehicle, and a block state in which a lane change is impossible from a current state related to a lane change, a free state in which a lane change is possible , And n (where n is a natural number) seconds, and may be divided into a step of predicting one of lane-changing states, and the predicting step may be using a model trained through FIG. 5.
  • the computer device 400 may provide differentiated notifications in different ways according to the current state.
  • the computer device 400 may provide different types of notifications about a block state in which a lane change is impossible as a current state, a free state in which a lane change is possible, and a state in which a lane change is possible after n (n is a natural number) seconds.
  • n is a natural number
  • the computer device 400 connected to the display device installed in the vehicle displays information about a lane changeable state after n seconds, such as 3 seconds, 2 seconds, and 1 second, until the lane change time
  • the display device may provide information about.
  • the provision of audible notifications (sound notifications) using speakers may also be considered.
  • it may also be considered to provide to the artificial intelligence controlling the autonomous driving of the vehicle.
  • the computer device 400 may provide a notification as to whether a lane change is possible only for a predetermined time, wherein the starting point of the predetermined time may be defined as a time point for requesting a lane change, and the end point of the predetermined time may be defined as a time point for completing the lane change. .
  • the computer device 400 may provide a notification from the time the lane change request is recognized to the time the lane change completion is recognized.
  • the computer device 400 interlocks with a navigation system being used by the driver to output lane change guidance during route guidance.
  • the time can be recognized as the lane change request time.
  • the computer device 400 determines that the lane is changed as a result of positioning using location coordinates (eg, GPS coordinate values), when it is determined that the lane is changed through ADAS sensing
  • location coordinates eg, GPS coordinate values
  • the time can be recognized as the time when the lane change is completed.
  • a method of determining a lane change request time and a lane change completion time a method in which one or a plurality of methods are combined may be applied, and a combination with other well-known techniques is also possible.
  • the computer device 400 has a block state in which a lane change is impossible, a free state in which the lane change is free, and a state in which a lane change is possible after n (where n is a natural number) seconds (for example, 3seconds left state, 2seconds left state, 1second) different status notifications may be provided.
  • n is a natural number
  • the computer device 400 may provide differentiated notifications according to the depth of information on whether lanes can be changed.
  • the computer device 400 may be connected to a plurality of display devices installed in the vehicle, and different display devices may output notifications for upper and lower levels.
  • FIG. 8 is a diagram illustrating an example of a display device that outputs a lane change notification in an embodiment of the present invention.
  • the display devices 810 to 830 may be used as a medium for outputting a lane change notification.
  • the side mirrors 810 on both sides of the vehicle may be utilized as a first display device, and installed on the inner side of the front display device 820 and the side mirror 810, such as a head up display (HUD) or a navigation terminal.
  • HUD head up display
  • At least one of the separate display elements 830, such as LED, may be used as a second display device.
  • the HUD can be applied to both a combiner type or a type using a windshield as a reflective surface without a separate combiner.
  • HUD describes the city code 820 and LED describes the city code 830.
  • the side mirror 810 corresponding to the first display device outputs information on a higher level
  • the HUD 820 and LED 830 corresponding to the second display device output information on a lower level.
  • the side mirror 810 may output information in a more emphasized form when in the Block state
  • the HUD 820 may output information in a more emphasized form when in the Free state.
  • information on the block state may be displayed in red
  • information on the free state may be displayed in green.
  • the LED 830 like the side mirror 810, it can be configured as a red LED as a means for highlighting the block state, and at this time, the block state is divided into a number proportional to the number of sub-levels (for example, three). Can be configured.
  • FIGS. 9 to 13 are views showing an example of visualization of a lane change notification in an embodiment of the present invention.
  • the information on whether the lane can be changed is divided into two depths, and the upper level is divided into the block state 10 and the free state 20, and the lower level subdividing the block state 10 is It is divided into 3seconds left state (11), 2seconds left state (12), and 1second left state (13).
  • the computer device 400 may display a Block icon 901 indicating the Block state 10 on the side mirror 810, and also three LEDs ( 830) can all be lit.
  • the computer device 400 when in the 3seconds left state 11, the computer device 400 maintains the lighting state of the Block icon 901 and the three LEDs 830 displayed on the side mirror 810, while HUD ( On 820, remaining time information until a lane change is possible, that is, information 1003 about a state in which a lane change is possible after 3 seconds may be displayed.
  • the computer device 400 may turn on the two LEDs 830 while maintaining the Block icon 901 displayed on the side mirror 810, In addition, on the HUD 820, remaining time information until a lane change is possible, that is, information 1105 about a state in which a lane change is possible after 2 seconds may be displayed.
  • the computer device 400 may light one LED 830 while maintaining the Block icon 901 displayed on the side mirror 810,
  • remaining time information until a lane change is possible that is, information 1207 about a state in which a lane change is possible after 1 second may be displayed.
  • the computer device 400 may display a free icon 1309 indicating the free state 20 on the side mirror 810, and also three LEDs ( At the same time, all of 830) is turned off, information 1311 on a state in which lane change is free may be displayed on the HUD 820.
  • the computer device 400 provides differentiated notification according to the depth of information on whether the lane can be changed, and the information on the upper level (block state and free state) is the side mirror 810 that is the first display device. And outputting information about the lower level (3seconds left state, 2seconds left state, 1second left state) that has subdivided the block state through the second display device HUD 820 and the LED 830.
  • the computer device 400 may visualize time information until the lane change is possible as information on the lower level through the HUD 820 and the LED 830, so that the driver of the vehicle can prepare in advance for the lane change.
  • three, two, and one LEDs 830 are lit for each of the 3seconds left, 2seconds left, and 1second left states, but the number of LED 830 lights in each state is different. It may be set. For example, in the block state, three LEDs 830 may be turned on, and for each of the 3seconds left, 2seconds left, and 1second left states, two, one, and zero LEDs 830 may be set to light.
  • the side mirror 810 is used as the first display device and the HUD 820 and the LED 830 are used as the second display device, but is not limited thereto.
  • the usage example of the device can be changed as much as possible.
  • the LED 830 may be omitted and the side mirror 810 and the HUD 820 may be used as a medium for outputting a lane change notification.
  • side mirrors 810 on both sides of the vehicle may be used as the first display device and the HUD 820 may be used as the second display device.
  • information (901, 1309) on the upper level (block state and free state) is output to the side mirror 810, which is the first display device, and the lower level (3seconds left state) in which the block state is subdivided.
  • 2seconds left state, 1second left state) (1003, 1105, 1207, 1311) may be output through the second display device HUD (820).
  • the computer device 400 may provide a lane change notification through sound to supplement information on whether a lane change is possible.
  • the sound is used for the purpose of reinforcing the information on the upper level (Block state and Free state), and for example, the computer device 400 is different from the Block state and the Free state (pitch) as information on the upper level Can output sound notification.
  • the computer device 400 outputs a sound notification of a lower pitch when in the Block state 10, while a higher pitch than the Block state 10 when in the Free state 20 High pitch) sound notification can be output.
  • a low pitch sound is repeatedly output at regular intervals (for example, 0.5 seconds), and in the free state 20, a continuous high pitch is maintained while the free state 20 continues. Sound can be output.
  • a one-time output form or a sound with a different interval from the block state 10 may be output.
  • the basic elements of the sound are the loudness, pitch, tone timbre, or melody according to the change or repetition of the sound. It is also possible to differentiate notifications by varying various design variables such as musical elements such as harmony, rhythm, and rhythm.
  • the computer device 400 may activate a lane change preparation function as a notification about a state in which a lane change is possible after n seconds is provided.
  • the lane change preparation function may include a preparation function such as calculating detailed parameters for lane change or calculating a route.
  • the computer device 400 may provide notification according to a lane change request, but may continuously output notifications of different methods in relation to a left lane change and a right lane change of the vehicle.
  • the computer device 400 may store information on the driving propensity of the driver of the vehicle in step 720 and set the intensity of the notification based on the driving propensity.
  • the computer device 400 may determine the intensity of the notification based on the number of frames per label for the frames to which labels are assigned, which define that lane change is possible after n seconds. For example, if the number of frames assigned to a 3 second label is 10 based on 10 FPS, while the number of frames assigned to a 2 second label is 1 or 0, a vehicle or object rapidly accelerating in the lane to be changed exists. Can mean In this case, the computer device 400 may provide a relatively stronger notification or a signal for driving a safety device that prevents lane changes.
  • a state related to a lane change according to an embodiment is divided into a high level divided into a state in which a lane change is impossible (Block) and a state in which a lane change is possible (Free), and a state in which a lane change is impossible is divided into n (n May be a natural number) may include a lower level divided into a state in which a lane change is possible after a unit time.
  • a state related to lane change is a state in which a lane cannot be changed, a state in which a lane can be changed, a state in which a lane can be changed in 0.1 seconds, a state in which a lane can be changed in 0.5 seconds, a state in which a lane change is possible in 1 second, a state in 3 seconds And a lane changeable state.
  • the interval between the specific times may not only be constant, but may not be constant, and the interval may not only be in seconds, but also the second It may be other unit time.
  • differentiated notifications may be provided using different media according to the depth of information on whether lanes can be changed, and whether lanes can be changed using different pitch sounds. Information can be effectively supplemented.
  • the device described above may be implemented with hardware components, software components, and / or combinations of hardware components and software components.
  • the devices and components described in the embodiments may include a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor (micro signal processor), a microcomputer, a field programmable gate array (FPGA), or a programmable (PLU) It may be implemented using one or more general purpose computers or special purpose computers, such as logic units, microprocessors, or any other device capable of executing and responding to instructions.
  • the processing device may perform an operating system (OS) and one or more software applications running on the operating system.
  • the processing device may access, store, manipulate, process, and generate data in response to the execution of the software.
  • OS operating system
  • the processing device may access, store, manipulate, process, and generate data in response to the execution of the software.
  • a processing device may be described as one being used, but a person having ordinary skill in the art, the processing device may include a plurality of processing elements and / or a plurality of types of processing elements. It can be seen that may include.
  • the processing device may include a plurality of processors or a processor and a controller.
  • other processing configurations such as parallel processors, are possible.
  • the software may include a computer program, code, instruction, or a combination of one or more of these, and configure the processing device to operate as desired, or process independently or collectively You can command the device.
  • Software and / or data may be embodied on any type of machine, component, physical device, computer storage medium, or device to be interpreted by the processing device or to provide instructions or data to the processing device. have.
  • the software may be distributed on networked computer systems, and stored or executed in a distributed manner.
  • Software and data may be stored in one or more computer-readable recording media.
  • the method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded on a computer readable medium.
  • the medium may be to continuously store a program executable on a computer or to temporarily store it for execution or download.
  • the medium may be various recording means or storage means in the form of a combination of single or several hardware, and is not limited to a medium directly connected to a computer system, but may be distributed on a network. Examples of the medium include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical recording media such as CD-ROMs and DVDs, and magneto-optical media such as floptical disks, And program instructions including ROM, RAM, flash memory, and the like.
  • examples of other media may include an application store for distributing applications or a recording medium or storage medium managed by a site, server, or the like that supplies or distributes various software.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

카메라 기반의 차선 변경 시점을 학습하는 방법 및 시스템, 그리고 차선 변경 가능 여부의 알림을 제공하는 방법 및 시스템을 개시한다. 본 발명의 일실시예에 따른 차선 변경 시점 학습 방법은, 차량의 측-후방 영역과 관련하여 카메라를 통해 입력되어 개별 프레임에 제1 라벨 또는 제2 라벨이 할당된 영상을 입력받는 단계(상기 제1 라벨이 할당된 영상은 차선 변경이 블록된(BLOCKED) 상태를 나타내는 영상을, 그리고 상기 제2 라벨이 할당된 영상은 차선 변경이 프리한(FREE) 상태를 나타내는 영상을 각각 포함함), 상기 블록된 상태에서 상기 프리한 상태로 전환되는 전환시점을 기준으로 초당 프레임 수(Frame Per Second, FPS)에 따라 상기 전환시점 이전의 적어도 하나의 프레임에 n(상기 n은 자연수) 단위시간 후에 차선 변경이 가능함을 정의하는 라벨을 부여하는 단계 및 상기 영상의 프레임들과 프레임들이 포함하는 라벨에 기초하여 차선 변경 시점을 학습하는 단계를 포함할 수 있다.

Description

카메라 기반의 차선 변경 가능 시점을 학습하는 방법 및 시스템, 그리고 차선 변경 가능 여부의 알림을 제공하는 방법 및 시스템
아래의 설명은 카메라 기반의 차선 변경 시점을 학습하는 방법 및 시스템, 그리고 차선 변경 가능 여부의 알림을 제공하는 방법 및 시스템을 제공한다.
차선 변경 보조를 위한 기술들로, BSD(blind spot detection), BLIS(blind spot information system) 등이 존재한다. 그러나 이러한 종래의 기술들은 레이더 센서를 사용하는 장치(또는 시스템)의 경우, 센서 자체의 가격이 고가인데다 해당 장치가 차량의 외각(일례로, 범퍼)에 매립되어 경미한 사고에도 파손되거나 캘리브레이션 정보가 훼손되어 교체 또는 재설치가 요구되는 문제점이 있다. 따라서, 시스템 설치 및 유지 비용이 비싸다는 단점을 가지고 있다. 반면에 카메라 센서는 가격면에서 경쟁 우위를 가지며 제안하는 시스템은 설치된 위치에 대하여 강건한 특성을 가진다. 보다 구체적으로 레이더 센서의 경우, 해당 센서의 물리적인 특성으로 인해 정지한 사물 그리고 매우 근접한 물체에 대한 인식 오차가 커지는 단점이 있다. 또한, 기존의 BLIS는 변경하려는 차로 및 사이드 미러의 사각지대 점유 상태에 따라 차선변경이 불가능한 경우에만 운전자에게 알림을 주는 문제점이 있다.
차량의 사이드미러로 관측된 측-후방 영역과 유사한 시점을 얻을 수 있도록 설치된 카메라로부터 영상을 입력받아 차선 변경 가능 시점에 대한 정보(일례로, 3초전, 2초전, 1초전, 가능, 불가능)를 예측하여 운전자 또는 자율주행 인공지능에 알림을 줄 수 있는 카메라 기반의 차선 변경 시점 학습 방법 및 시스템을 제공한다.
차선 변경 요청 시점부터 차선 변경 완료 시점까지의 일정 시간 동안 차선 변경 알림을 제공할 수 있는 방법 및 시스템을 제공한다.
차선 변경 가능 여부에 대한 상태 정보의 뎁스(depth)에 따라 차별화된 알림을 제공할 수 있는 방법 및 시스템을 제공한다.
컴퓨터 장치에서 실행되는 방법에 있어서, 상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고, 상기 방법은 상기 적어도 하나의 프로세서에 의해 수행되는 것으로, 차량의 측-후방 영역과 관련하여 카메라를 통해 입력되어 개별 프레임에 제1 라벨 또는 제2 라벨이 할당된 영상을 입력받는 단계 - 상기 제1 라벨이 할당된 영상은 차선 변경이 블록된(BLOCKED) 상태를 나타내는 영상을, 그리고 상기 제2 라벨이 할당된 영상은 차선 변경이 프리한(FREE) 상태를 나타내는 영상을 각각 포함함 -; 상기 블록된 상태에서 상기 프리한 상태로 전환되는 전환시점을 기준으로 초당 프레임 수(Frame Per Second, FPS)에 따라 상기 전환시점 이전의 적어도 하나의 프레임에 n(상기 n은 자연수) 단위시간 후에 차선 변경이 가능함을 정의하는 라벨을 부여하는 단계; 및 상기 영상의 프레임들과 프레임들이 포함하는 라벨에 기초하여 차선 변경 시점을 학습하는 단계를 포함하는 방법을 제공한다.
컴퓨터 장치에서 실행되는 방법에 있어서, 상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고, 상기 방법은 상기 적어도 하나의 프로세서에 의해 수행되는 것으로, 차량의 측-후방 영역과 관련하여 카메라를 통해 입력된 영상을 분석하여 차선 변경과 관련된 상태를 결정하는 단계; 및 상기 차선 변경과 관련된 상태로서 차선 변경 가능 여부에 대한 정보의 뎁스(depth)에 따라 서로 다른 매체를 이용하여 알림을 제공하는 단계를 포함하는 방법을 제공한다.
상기한 방법을 상기 컴퓨터 장치에 실행시키기 위해 비-일시적인 컴퓨터 판독가능한 기록 매체에 저장되는 컴퓨터 프로그램을 제공한다.
상기한 방법에 따라 학습된 모델을 이용하여, 차량의 측-후방 영역과 관련하여 카메라를 통해 입력된 영상으로부터 차선 변경과 관련된 현재 상태를 차선 변경이 불가능한 상태, 차선 변경이 가능한 상태, 및 n(상기 n은 자연수) 단위시간 후에 차선 변경이 가능한 상태 중 하나로 예측하는 단계를 포함하는 방법을 제공한다.
컴퓨터 장치에 있어서, 컴퓨터에서 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서에 의해, 차량의 측-후방 영역과 관련하여 카메라를 통해 입력되어 개별 프레임에 제1 라벨 또는 제2 라벨이 할당된 영상을 입력받고 - 상기 제1 라벨이 할당된 영상은 차선 변경이 블록된(BLOCKED) 상태를 나타내는 영상을, 그리고 상기 제2 라벨이 할당된 영상은 차선 변경이 프리한(FREE) 상태를 나타내는 영상을 각각 포함함 -, 상기 블록된 상태에서 상기 프리한 상태로 전환되는 전환시점을 기준으로 초당 프레임 수(Frame Per Second, FPS)에 따라 상기 전환시점 이전의 적어도 하나의 프레임에 n(상기 n은 자연수) 단위시간 후에 차선 변경이 가능함을 정의하는 라벨을 부여하고, 상기 영상의 프레임들과 프레임들이 포함하는 라벨에 기초하여 차선 변경 시점을 학습하는 것을 특징으로 하는 컴퓨터 장치를 제공한다.
컴퓨터 장치에 있어서, 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 차량의 측-후방 영역과 관련하여 카메라를 통해 입력된 영상을 분석하여 차선 변경과 관련된 상태를 결정하고, 상기 차선 변경과 관련된 상태로서 차선 변경 가능 여부에 대한 정보의 뎁스(depth)에 따라 서로 다른 매체를 이용하여 알림을 제공하는 것을 특징으로 하는 컴퓨터 장치를 제공한다.
본 발명의 실시예들에 따르면, 차량의 사이드미러로 관측된 측-후방 영역과 유사한 시점을 얻을 수 있도록 설치된 카메라로부터 영상을 입력받아 차선 변경 가능 시점에 대한 정보(일례로, 3초전, 2초전, 1초전, 가능, 불가능)를 예측하여 운전자 또는 자율주행 인공지능에 알림을 줄 수 있다.
본 발명의 실시예들에 따르면, 차선 변경 요청 시점부터 차선 변경 완료 시점까지의 일정 시간 동안 차선 변경 알림을 제공할 수 있다.
본 발명의 실시예들에 따르면, 차선 변경 가능 여부에 대한 상태 정보의 뎁스에 따라 차별화된 알림을 제공할 수 있다.
도 1은 본 발명의 일실시예에 따라 주석이 달린 이미지들의 예를 도시한 도면이다.
도 2는 CAM의 주의 결과를 본 발명의 일실시예에 따른 방법의 주의 결과와 비교한 예를 도시하고 있다.
도 3은 본 발명의 일실시예에 따른 통합 방법의 예를 도시한 도면이다.
도 4는 본 발명의 일실시예에 따른 컴퓨터 장치의 예를 도시한 블록도이다.
도 5는 본 발명의 일실시예에 따른 차선 변경 시점 학습 방법의 예를 도시한 흐름도이다.
도 6은 본 발명의 일실시예에 있어서, 라벨을 부여하는 예를 도시한 도면이다.
도 7은 본 발명의 일실시예에 따른 차선 변경 알림 제공 방법의 예를 도시한 흐름도이다.
도 8은 본 발명의 일실시예에 있어서, 차선 변경 알림을 출력하는 디스플레이 장치의 예를 도시한 도면이다.
도 9 내지 도 13은 본 발명의 일실시예에 있어서 차선 변경 알림의 시각화 예시를 도시한 도면이다.
도 14는 본 발명의 일실시예에 있어서, 차선 변경 알림을 출력하는 디스플레이 장치의 다른 예를 도시한 도면이다.
도 15는 본 발명의 일실시예에 있어서 사운드를 이용한 차선 변경 알림의 예시를 도시한 도면이다.
이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.
먼저, 카메라 기반의 차선 변경 가능 시점을 학습하는 방법 및 시스템을 설명하기로 한다.
본 발명의 실시예들에 따른 차선 변경 시점 학습 방법은 이후 설명될 적어도 하나의 컴퓨터 장치에 의해 수행될 수 있다. 이때, 컴퓨터 장치에는 본 발명의 일실시예에 따른 컴퓨터 프로그램이 설치 및 구동될 수 있고, 컴퓨터 장치는 구동된 컴퓨터 프로그램의 제어에 따라 본 발명의 실시예들에 따른 차선 변경 시점 학습 방법을 수행할 수 있다. 상술한 컴퓨터 프로그램은 컴퓨터 장치와 결합되어 본 발명의 실시예들에 따른 방법을 컴퓨터 장치에 실행시키기 위해 컴퓨터 판독 가능한 기록매체에 저장될 수 있다.
본 발명의 실시예들에서는 차량-인지 영상 특징들(vehicle-aware image features) 및 소수 학습에 의한 분류(few-shot classification)를 추출하여 극심한 데이터 불균형 이슈를 극복하는 약한 지도(weak supervision)를 이용하는 차선-변경 보조를 위한 시스템을 제안한다. 자율주행차(self-driving agents) 및 인간 운전자들을 위해서, 제안하는 시스템은 측-후방 공간을 모니터링하고 차선 변경이 가능한 시점을 예상할 수 있다. 약한 지도 학습(weakly supervised learning) 및 주의 맵(attention map)을 사용함으로써, 시스템은 자기-차량(ego-vehicle) 뒤에서 움직이는 물체들의 새로운 영상 특징들을 추출할 수 있다. 이진 레이블들을 양자화된 시간 슬롯들로 변환하는 것 외에, 수동으로 이진 레이블들(FREE 또는 BLOCKED)이 부여된 측-후방 시점 영상 데이터셋이 재사용될 수 있다. 소수 학습에 의한 분류(few-shot classification) 방식을 사용함으로써, 목표 차선 상태를 간접적으로 예상하고 다양한 도로 시나리오들에 빠르게 적응할 수 있으며, 제안하는 시스템은 차선을 변경하고자 하는 자기-차량 주변의 공간적 및 시간적 속성들을 인식할 수 있다.
1. 도입
안전성과 편리성을 위하여, 차선-변경 결정 보조(lane-change decision aid)는 ADAS(Advanced Driving Assistance System)에서 핵심 기능들 중 하나이다. 따라서, 자동차 회사들은 운전자들에게 측-후방 공간의 잠재적인 충돌들을 알려서 경고하는 사각 지역 탐지 시스템(blind spot detection system)을 장착하려고 노력한다. 인간 운전자들이 공존하는 도로 상에서도 자율주행차가 협력적인 차선-변경을 수행하는 것 또한 요구된다. 내장된 컴퓨터 비전 시스템(computer vision system)은 비용 효율적이기 때문에, 차량 안전 기능 구현에 있어서 더 인기를 얻고 있다.
종단간 학습(end-to-end learning) 프레임워크는 차선-변경 결정을 돕기 위하여 영상들의 공간적 속성(spatial attribute)을 분류할 수 있다. 이러한 종단간 학습 프레임워크에서는 측-후방 시점 영상들을 수집하여 자기-차량이 목표 차선으로 움직일 수 있다면 FREE, 그렇지 않으면 BLOCKED이라는 이진 클래스들(또는 레이블들)로 주석을 달 수 있다. 측-후방 시점 영상 데이터셋이 영상 기반의 차선-변경 연구에 귀중한 자산이지만, 이 이진 분류는 다양한 도로 시나리오들, 특히 다른 차량과의 상호 작용이 있는 운전 환경을 해석하는 데에 불충분하다. 차선-변경 행동 전에, 목표 차선 상의 뒤쪽 차량 또는 앞쪽 차량과의 안전 거리가 확보되어야 하며, 안전 거리에 대한 정의는 두 차량 간의 상대적인 속도와 도로 유형(예를 들어, 도심의 도로 vs. 고속 도로)에 따라 변할 수 있다. 그러므로, 도로 상황에 상관없이 차선을 변경하기 위해 남은 시간을 알려줄 수 있는 새로운 시스템이 요구된다.
최근 지도 학습(supervised learning) 기반의 컴퓨터 비전 알고리즘들의 성공은 대규모 데이터셋을 매우 필요로 하고 있다. 그러나, 특히 지능형 차량(intelligent vehicle) 영역에서의 모든 가능한 시나리오들에서 모든 데이터셋을 수집하고 그들 각각에 주석을 다는 것은 비효율적이다. 이 위치-수준(location-level)의 주석화 태스크에 대한 부담을 감소시키기 위하여, 물체 위치인식(object localization)에 대한 약한 지도 학습 방법(weakly supervised learning methods)이 연구되었다. 흥미롭게도, 약한 지도를 통해 영상 특징을 설계함으로써, 심층 합성곱 신경망(deep convolution neural network)의 내부 메커니즘이 이해될 수 있다. 이러한 약한 지도 학습에 기반하여, 측-후방 공간 상의 주요 목표(primary target)에 초점을 두는 차량-인식 영상 특징 추출 방법(vehicle-aware image feature extraction method)이 제안될 수 있다. 바퀴 및 그릴(grill)과 같이 차량의 일부 식별력 있는 부분 보다는 차량의 전체적인 형태에 초점을 두기 위하여 픽셀 단위 정규화(pixelwise regularization) 및 다중 스케일 집적(multiscale aggregation)에 대해 설명한다.
시스템이 장면 상의 공간적 속성들뿐만 아니라 시간적 속성들(temporal attributes)도 해석할 수 있게 만들기 위하여, 우리는 데이터셋의 이진-클래스 레이블들을 n 개(일례로, 5개)의 클래스 레이블들로 변경하며, 이것들은 안전한 차선-변경을 수행하기 위해 남은 시간을 나타낸다. 이 변경 태스크는 시스템적으로 수행되며, 지루한 수동 주석 작업에 대한 필요성을 완화할 수 있다. 그러나, 변경된 데이터셋은 거대한 클래스-내부 변동(intra-class variation)을 갖는 심각한 데이터 불균형을 갖게 되기 때문에 데이터셋에 단순한 이미지 분류를 적용하는 것은 부적절하다. 대신, 서브세트가 다양한 도로 환경 및 운전 양식들에 대한 대표적인 예시들을 포함하도록 하기 위하여 다양한 도로 유형들 및 운전 시나리오들에 따라 전체적인 데이터셋이 분리되는, 소수 학습에 의한 분류 방식(few-shot classification scheme)이 사용될 수 있다. 결과적으로, 소수 학습에 의한 분류 방식은 제안하는 시스템이 처음 보는 다양한 도로 시나리오들에 빠르게 적응하는 것을 가능하게 할 수 있다.
이하에서는 차선 변경 시기를 예상하는 새로운 차량 컴퓨터 비전 어플리케이션, 약한 지도 학습에 기반하여 주요 목표에 초점을 두는 태스크-지정(task-specific) 영상 특징 및 다양한 도로 환경에서 제안하는 차선-변경 시스템을 적용하기 위하여 소수 학습 문제를 공식화를 설명한다.
2. 관련 연구
자동-운전을 위한 심층 학습. 대규모 도로 데이터셋들은 지능형 차량 및 컴퓨터 비전 연구의 결합을 이끌었다. 이는 탐지(detection), 추적(tracking), 스테레오 매칭(stereo matching), 옵티컬 플로우(optical flow) 및 시맨틱 분할(semantic segmentation)과 같은 인지 알고리즘들(machine perception algorithms)의 진보에 기여해왔다. 최근, 일부 연구들은 컴퓨터 비전 어플리케이션이 지각(perception)에서 제어(control)로 도약하도록 하기 위하여 심층 학습 기술들을 이용했다. 예를 들어, 영상 입력으로부터, 조향각(steering angle)과 같은 차량 제어 인자를 직접적으로 만드는 종단간 운전 모델이 제안되었으며, 자동-운전 에이전트의 컨트롤러에 대한 구조화된 산출 결과를 생성하거나 다양한 운전 양식을 반영하는 포괄적인 모델을 구현하기 위하여, 자연 그대로(in the wild) 수집된 대규모 비디오 데이터셋을 이용하거나 또는 차선-변경 결정 문제는 목표 차선의 점유 상태를 측정하는 이진 분류로 단순화하는 연구들이 존재한다. 그러나, 차선을 변경하기 위한 시간을 예상하는 기술은 지금까지 개발되지 않았다.
약하게 지도된 객체 위치인식(Weakly Supervised Object Localization). 기존의 약하게 지도된 객체 위치인식 방법들은 순차적 방법들(sequential approaches)과 통합된 방법들(integrated approaches)로 분류될 수 있다. 순차적 방법들은 우선 객체가 나타날 수 있는 영역을 제안하고 나서, 분류를 수행할 수 있다. 다중 인스턴스 학습(Multiple Instance Learning, MIL) 방법은 인스턴스 영역의 양성 및 음성 레이블 백(positive and negative labeled bags)을 생성하여 비-볼록 최적화(non-convex optimization)된 양성 레이블 백 내에서 일부 인스턴스를 선택한다. 약하게 지도된 심층 탐지 네트워크(Weakly Supervised Deep Detection Networks, WSDDN)는 영역 제안을 위해 공간 피라미드 풀링을 사용하고 원소 단위의(elementwise) 곱셈을 통해 인식(recognition)과 탐지(detection) 수치를 결합한다.
반면에, 통합된 방법들은 학습 과정에서의 부수적인 결과물인 클래스 단위의 중요도 맵(saliency maps)을 통하여 객체 분류와 위치인식을 동시에 수행한다. 클래스 활성화 매핑(Class Activation Mapping, CAM) 알고리즘은 클래스-지정 활성화(class-specific activations)에 관한 특징 맵들의 적응적 가중치(adaptive weights)를 습득하도록, 분류 태스크를 위한 완전 연결 계층들(fully connected layers)을 글로벌 평균 풀링 계층(global average pooling layer)으로 대체한다. 아주 작은(fine-grained) 주의 영역(attention region)을 얻기 위하여, 유도된 역전파 수치(backpropagation scores)가 가중된 특징 맵에 곱해질 수 있다. 그러나, 이러한 알고리즘들은 영상 분류를 위해 크로스 엔트로피(cross entropy)에 기반하여 중요도 맵을 만들어 내기 때문에, 활성화 결과는 전체적인 객체보다는 일부 식별력 있는 부분을 크게 다룬다. 이 문제를 해결하기 위하여, Hide-and-Seek 알고리즘은 에러 탄력성 모델(error resilience model)을 학습하기 위하여 의도적으로 영상의 일부분을 가리도록 구현되었다. 적대적 삭제 기술(adversarial erasing technique)은 가장 식별력 있는 부분들을 반복적으로 삭제하여 네트워크가 객체의 완전한 본체를 이해하도록 제안되었다. 본 발명의 실시예들에서는 부분들을 조각내지 않은 채 전체적인 객체 영역을 다루는 주의 맵(attention map)을 유도하기 위하여 픽셀 단위 주의 정규화(per-pixel attention regularization) 및 다중 스케일 추론(multiscale inference)을 제안한다.
소수 학습에 의한 분류를 위한 메타-학습. 메타-학습은 적은 수의 예시를 가지고 새로운 태스크에 빠르게 적응할 수 있는 인간의 지능을 닮아가는 것에 목표를 둔다. 컴퓨터 비전에서, 소수 학습에 의한 분류(few-shot classification)는 부족한 데이터가 자연 그대로의 다양화된 시각적 특징들을 포함하기에는 불충분하기 때문에 어려운 태스크이다. 불균형한 학습 데이터를 다루기 위하여, 모델 회귀 네트워크(model regression network)는 작은 샘플 모델에서 큰 샘플 모델로의 분류기 변환을 학습하도록 제안되었다. 모델에 무관한 메타-학습(Model-agnostic meta-learning)에서는 모든 부수적 태스크들에 걸친 파라미터들을 받아들이는 목적 함수(objective function)가 정의되었다. 경사-기반 최적화(gradient-based optimization)를 통해, 파라미터들은 새로운 태스크의 손실에 의하여 민감하게 갱신도 모델의 빠른 적응을 유발한다. 언레이블(unlabeled) 데이터로 모델을 학습하는 메커니즘도 존재한다. 반면에, 비-모수(non-parametric) 접근법은 거리 단위로 각 클래스에 대한 대표 값을 생성하는 임베딩 함수를 학습시키는 것이다. 대부분의 운전자들이 자연스럽게 그들의 이전 운전 경험에 기반하여 새로운 도로 환경에 반응하므로 본 발명의 실시예들에서는 비-모수 접근법을 따른다.
3. 데이터셋
앞서, 각 측-후방 시점 영상에, 장면의 공간적 속성에 따라 목표 차선이 자유로운지(FREE) 또는 막혀 있는지(BLOCKED)를 말해주는 이진 레이블이 할당될 수 있음을 설명하였다. 일실시예에 따른 시스템이 부가적으로 장면의 시간적 정보를 활용하여 최종적으로는 매우 짧은 시간 안에 목표 차선이 차선-변경을 위해 자유로워지는 시점을 예상하도록 하기 위하여 데이터셋을 변경할 수 있다. 예를 들어, 이전에 레이블 BLOCKED가 할당된 영상들을 1s, 2s, 3s, BLOCKED 중의 하나의 레이블로 다시 매핑할 수 있다. 여기서, ns는 목표 차선이 현재 막혀 있지만 약 n 초 이내에 자유로워질 것이라는 것을 나타낼 수 있다. 한편, 이전의 레이블 FREE가 할당된 모든 영상들은 그대로 남을 수 있다. 비싸고 시간-소모적인 수동 주석 작업을 피하기 위해서, 일련의 원본 데이터셋을 활용하는 시스템적인 방법이 활용될 수 있다. 더 자세하게, 한 묶음의 측-후방 시점 장면들이 주어지면, BLOCKED 상태에서 FREE 상태로 된 프레임들의 최소 수가 카운트될 수 있고, 묶음의 초 당 프레임 수에 따라서 프레임 카운트가 초로 변환될 수 있다. 새로운 레이블을 할당할 때, 양자화 에러를 완화시키기 위하여 ±1 프레임이 용인될 수 있다.
도 1은 본 발명의 일실시예에 따라 주석이 달린 이미지들의 예를 도시한 도면이다. 도 1에서 첫 번째 행의 이미지들은 자기-차량이 목표 차선에서 다른 차량을 추월하는 순서를 보여준다. 두 번째 행의 이미지들은 반대 경우의 순서를 보여준다. 또한, 도 1의 데이터셋의 이미지들은 주거 지역(첫 번째 행의 이미지들)과 고속도로(두 번째 행의 이미지들)을 포함하는 다양한 장소로부터 얻어짐을 나타내고 있다.
아래 표 1은 일실시예에 따라 변환된 데이터셋의 전체적인 통계의 예를 나타내고 있다.
기존 레이블 변환된 레이블 비율(proportions)
FREE FREE 55.41%
BLOCKED FREE in 1s 1.17%
FREE in 2s 1.04%
FREE in 3s 0.47%
BLOCKED 41.91%
표 1은 측-후방 시점 장면들에 FREE 레이블과 BLOCKED 레이블을 할당하는 경우의 데이터 분배의 예와, 본 발명의 일실시예에 따라 측-후방 시점 장면들에 FREE 레이블, FREE in 1s 레이블, FREE in 2s 레이블, FREE in 3s 레이블 및 BLOCKED 레이블을 할당하는 경우의 데이터 분배의 예를 나타내고 있다. 예를 들어, 도 1의 이미지들은 이러한 변환된 레이블이 할당된 예를 나타내고 있다.
차선 변경과 관련하여 총 109,416 영상들을 포함하여 기 구축된 데이터셋이 존재한다. 그러나, 이러한 데이터셋은 심층 학습을 위해 적절한 학습 데이터가 되기 위한 두 가지 문제점을 갖는다. 첫 번째, 동일 클래스 내의 영상들은 큰 변동(variation)을 보인다. 예를 들어, 도 1의 4 번째 열은 같은 1s 클래스(레이블) 내의 두 가지 영상들이고, 여기서 목표 차선 상의 차량 위치는 매우 다르다. 이은 데이터셋이 영상들은 다양한 유형의 도로(도심의 도로 vs. 고속도로)에서 얻어지며, 자기-차량은 다른 차량들을 추월하거나 그 반대로 추월 당하는 것과 같은 다양한 도로 구조 및 차선-변경 시나리오를 다루기 때문이다. 한다. 두 번째, 리레이블링(relabeling) 결과는 표 1에 나타난 바와 같이 5개의 클래스 전반에 걸쳐 심한 불균형을 나타낸다. 표 1에서 1s, 2s 및 3s 클래스들이 데이터셋의 오직 3%만 차지하는 반면, FREE와 BLOCKED 클래스들은 전체적인 데이터셋에서 압도적으로 수가 많다.
4. 방법론
이하에서는 측-후방 공간 상의 주요 목표(primary target)에 초점을 두는 새로운 영상 특징 추출 방법을 설명한다. 그 후, 본 발명의 실시예들에 따른 시스템 내에서 어떻게 소수 학습에 의한 분류가 차선-변경 결정을 가능하게 하는지 설명한다.
4.1 약한 지도를 통한 학습 특징(Leaning Features via Weak Supervision)
사전-학습된 특징들은 다양한 영상 인식 태스크에서 폭 넓게 사용되어 왔다. 본 발명의 실시예들에서는 태스크에 대한 더 신뢰할 수 있는 결과들을 위하여, 도로 상에서 움직일 수 있는 객체들을 다루는 새로운 영상 특징들을 학습할 수 있다. 주의 메커니즘(attention mechanism)을 이용하는 것은 태스크와 관련이 없는 특징들의 효과를 억누르면서 빠르게 움직이는 객체들과 관련된 영상 특징들을 지각하는 것을 향상시킬 수 있다. 이러한 태스크-지정(task-specific) 특징들을 얻기 위하여, 특정 클래스의 중요도 맵(saliency map)을 사용하는 주의 메커니즘과 함께 약한 지도 학습이 이용될 수 있다. 또한, 제안된 시스템이 차량 어플리케이션으로서 안전성 및 신뢰성을 달성하도록 합성곱 신경망(Convolutional Neural Network, CNN) 내부를 이해할 필요성이 있다.
4.1.1 클래스 활성화 매핑(Class Activation Mapping)
영상 분류를 위한 CNN 아키텍처는 대부분 특징 추출을 위한 합성곱 계층들 및 분류 태스크를 위한 그 뒤의 선형 계층들로 구성된다. 합성곱 계층들의 출력을 변형(reshaping)하는 과정에서 영상 특징들의 공간적 정보를 읽는 것이 요구될 수 있다. 클래스 활성화 매핑(Class Activation Mapping, CAM) 알고리즘의 주된 아이디어는 각 활성화 유닛이 개별적인 영상 특징을 인코딩한다는 것이며, 따라서 활성화 유닛들은 클래스를 예상하기 위하여 각각 다른 중요도를 가져온다. 특히, CAM은 마지막 합성곱 계층에 대하여 글로벌 평균 풀링(global average pooling)을 수행하며 활성화 유닛들 전반에 걸쳐 특징 맵들의 적응적 가중치를 계산할 수 있다.
수식적으로, 학습하는 동안 CAM 알고리즘은 아래 수학식 1과 같이 각 클래스에 대한 가중치 a c를 내재적으로(implicitly) 학습하여 클래스가 지정된 중요도 맵 S c을 얻을 수 있다.
Figure PCTKR2019009464-appb-img-000001
여기서
Figure PCTKR2019009464-appb-img-000002
는 예를 들어, 소프트맥스(softmax)와 같은 활성화 함수(activation function)를 나타낼 수 있고, f k는 마지막 합성곱 계층에서 k 번째 활성화 유닛을 나타낼 수 있다. 달리 말하면, 클래스가 지정된 가중치 a c와 특징 맵 f k의 선형 조합은 분류를 위해 지역적으로 의미 있는 영역을 강조하는 픽셀 단위의 중요도 맵 S c(i,j)가 될 수 있다. 그러므로,
Figure PCTKR2019009464-appb-img-000003
는 클래스 c가 될 가능성이므로 CAM은 클래스의 예상을 위해 이 수치를 이용할 수 있다.
4.1.2 픽셀 단위 정규화(Pixelwise Regularization)
본 발명의 일실시예에서는 도로 상에 움직일 수 있는 객체에 초점을 두는 주의 마스크(attention mask)로서 차량-관련 클래스들에 대한 중요도 맵을 사용할 수 있다. CAM이 클래스와 관련 있는 전체적인 주의를 최대화하는 예상을 하기 위하여 크로스 엔트로피 손실을 이용하기 때문에, 객체의 가장 식별력 있는 부분들만을 강조하려는 경향이 있다. 이 문제를 공략하기 위하여, 본 실시예에서는 CAM에 픽셀 단위 정규화를 적용하고 모든 클래스들에 공통적인 지역적 특성의 효과를 최소화할 수 있다. 결과적으로, 각 클래스에 대해, 본 실시예에 따른 정규화 방법은 관련 없는 영역들을 억누르면서 클래스에 대응하는 영역들이 강조되도록 할 수 있다.
본 실시예에서는 확장된 실측 자료(정답)인
Figure PCTKR2019009464-appb-img-000004
의 집합으로 중요도 맵
Figure PCTKR2019009464-appb-img-000005
의 집합에 대한 평균적인 이진 크로스 엔트로피 손실을 계산할 수 있다. 여기서 c는 클래스의 총 개수를 나타낸다. 다른 정보(예를 들어, 이진 분할 맵(binary segmentation map))가 이용 가능하다면, 클래스들과 관련 있는 모양 정보(shape information)를 만들기 위하여 픽셀 단위의 실측 자료 맵(정답 맵)이 정의될 수 있다. 그러나, 본 실시예에서는 확장된 실측 자료를 이진 행렬로 간단히 설계할 수 있다. 예를 들어, 모든
Figure PCTKR2019009464-appb-img-000006
에 대하여
Figure PCTKR2019009464-appb-img-000007
이고, 여기서 W와 H는 각각 영상의 폭(width)과 높이(height)를 나타낼 수 있다. 이때, 픽셀 단위의 회귀 손실(pixelwise regression loss)은 다음 수학식 2와 같이 정의될 수 있다.
Figure PCTKR2019009464-appb-img-000008
마지막으로, 주의 모델(attention model)은 아래 수학식 3과 같이 손실들에 대한 선형 조합을 학습할 수 있다:
Figure PCTKR2019009464-appb-img-000009
여기서, L CE는 분류를 위한 크로스 엔트로피 손실일 수 있으며,
Figure PCTKR2019009464-appb-img-000010
는 초매개변수(hyperparameter)일 수 있다. 이진 분류기로서 주의 엔진(attention engine)을 학습시키면서, 차량-유사 객체(양성 샘플) 및 그 외의 것(음성 샘플)과 관련된 서브세트가 활용될 수 있다. 데이터 샘플링에 대해서는 이후 더욱 자세히 설명한다.
4.1.3 다중 스케일 집적(Multiscale Aggregation)
활용하고자 하는 데이터셋이 대부분 객체-중심의 영상들로 구성되기 때문에, 이로부터 크기-불변의 특징들을 학습하는 것은 어렵다. 그러나, 움직이는 객체들은 특히 측-후방 시점 도로 장면 상에서는 다양한 크기로 흔히 나타난다. 따라서, 객체 크기와 관계없이 중요도 맵을 얻을 수 있는 다중 스케일 집적 방법이 이용될 수 있다. 제안하는 집적 방법은 수학식 3에 의해 학습된 모델을 다시 사용할 수 있으며, 추론 단계에서 동작할 수 있다. 따라서, 부가적인 학습이 요구되지 않는다.
시스템은 하나의 입력 영상에 대하여 다양한 크기를 갖는 영상 피라미드를 생성할 수 있다. 이때, 초기의 입력 영상을 이후 "앵커 영상(anchor image)"이라고 명명하여 크기 조정된 영상(resized image)과 구분할 수 있다. 시스템은 크기 조정된 영상들의 세트를 모델로 반복적으로 입력시켜서 다중 스케일의 중요도 맵들을 얻을 수 있다. 입력에 대한 다양한 크기를 받아들이기 위하여, 마지막 합성곱 계층의 최상단에 글로벌 평균 풀링 연산의 크기를 조정함으로써 모델에 대한 최소 변형이 적용될 수 있다. m번째 피라미드 입력 영상에 대해, 주의 엔진은 car 클래스에 대한 중요도 맵을 나타내는
Figure PCTKR2019009464-appb-img-000011
을 생성할 수 있다. 이 이후부터, 명료함을 위하여
Figure PCTKR2019009464-appb-img-000012
의 표기법을 V m으로 대체한다.
Figure PCTKR2019009464-appb-img-000013
을 영상의 사이즈를 앵커 영상의 사이즈로 바꾸게 하는 변환(예를 들어, 이중 선형 보간법(bilinear interpoliation))이라고 하자. 이때 다중 스케일의 주의 맵 V *을 얻기 위하여 다음 수학식 4와 같이 모든 스케일에 대해 중요도 맵들이 적응적으로 통합될 수 있다.
Figure PCTKR2019009464-appb-img-000014
여기서,
Figure PCTKR2019009464-appb-img-000015
은 m번째 크기 변경된(scaled) 입력에 대한 예상 수치를 나타내고,
Figure PCTKR2019009464-appb-img-000016
은 다양한 크기 변경된 입력들에 대한 예상 수치들 중에서 소프트맥스(softmax)가 계산한 각 크기의 상대적인 중요도를 결정할 수 있다.
도 2는 CAM의 주의 결과를 본 발명의 일실시예에 따른 방법의 주의 결과와 비교한 예를 도시하고 있다. 도 2에서 PR(Pixelwise Regularization)과 MA(Multiscale Aggregation)는 앞서 설명한 바 있으며, 제안된 방법이 영상에서 전체 차량 모양을 인식하는 것을 향상시킬 수 있음을 나타내고 있다. 이처럼, 본 실시예에 따른 픽셀 단위 정규화 및 다중 스케일 집적 접근법은 부가적인 학습 절차 없이 CNN의 제한된 인지 영역을 확장시킬 수 있다.
4.2 차선-변경을 위한 소수학습에 의한 분류(Few-Shot Classification for Lane-Change)
심각한 데이터 불균형 문제를 극복하기 위하여, 데이터셋에 소수 학습이 적용될 수 있다. 인간들이 그들의 경험에 기반하여 다양한 운전 시나리오에 행동 양식을 적응시킬 수 있다는 점에서, 시스템에 비-모수 알고리즘인 프로토타입 네트워크를 채택할 수 있다.
4.2.1 프로토타입 네트워크
여기서는 완전성을 위하여 프로토타입 네트워크를 간략히 검토한다. 세트 클래스 c에 대해 N개의 레이블링된(labeled) 예시들을 포함하는 지원 세트(support set)인
Figure PCTKR2019009464-appb-img-000017
를 갖는다고 가정하자. 여기서,
Figure PCTKR2019009464-appb-img-000018
은 데이터 지점(data point)이고, y n는 대응하는 정답 레이블(ground truth label)을 나타낼 수 있다. 프로토타입 네트워크는 각 클래스에 대해 프로토타입(prototype)인
Figure PCTKR2019009464-appb-img-000019
를 표현하기 위하여 임베딩 함수(embedding function)
Figure PCTKR2019009464-appb-img-000020
를 학습할 수 있다. 여기서
Figure PCTKR2019009464-appb-img-000021
는 학습 변수(learnable parameters)를 의미할 수 있다. 임베딩 공간(embedding space) 내 거리 단위
Figure PCTKR2019009464-appb-img-000022
로, 프로토타입 네트워크는 소프트맥스(softmax)를 사용하여 클래스들 상의 분포를 도출할 수 있으며, 쿼리 X에 대한 레이블을 다음 수학식 5와 같이 예상할 수 있다.
Figure PCTKR2019009464-appb-img-000023
4.2.2 차선-변경을 위한 특징 임베딩(Feature Embedding for Lane-Change)
본 실시예에서는 사전-계산된 영상 특징들을 사용하는 곳을 고정된 특징 공간이라고 가정한다. 장면 상의 시간적 속성을 고려하기 위하여, 1초 간격으로 계산된 영상 특징이 연결될 수 있으며, 연결된 특징의 주석은 마지막 시간 슬롯의 주석에서 복사될 수 있다. 이때, 영상 특징들은 주의(attention)와 통합될 수 있다. 이는 연결 후 통합(fuse after concatenation, FAC) 또는 통합 후 연결(concatenate after fusion, CAF)이 될 수 있다. FAC를 사용하여, 주의 결과들은 확장된 특징 맵에 글로벌하게 적용되는 반면, CAF는 각 특징 맵의 개별적인 주의 영역을 연결시킬 수 있다. 도 3은 본 발명의 일실시예에 따른 통합 방법의 예를 도시한 도면이다. 상세히 도 3은 영상 특징과 주의 맵의 서로 다른 시공간적 통합 방법을 비교 도시하고 있다. 도 3의 좌측은 FAC 방식을 사용한 예를 도시하고, 도 3의 우측은 CAF 방식을 사용한 예를 도시한다. 영상 특징들과 주의 마스크들은 곱셈 또는 덧셈으로 결합될 수 있다. 표 2는 다양한 통합 시나리오에 대한 성능을 비교한 예를 나타내고 있다.
Fusion Op. 1-shot(5-way) 5-shot(5-way)
FAC Mul 56.00±0.78% 75.95±0.70%
CAF 56.70±0.81% 81.04±0.67%
FAC Add 68.76±0.80% 84.88±0.64%
CAF 74.09±0.83% 86.48±0.65%
이러한 표 2는 통합 방법과 관련하여 VGG-16 내장에 대한 성능을 나타내고 있다.
임베딩 공간에 대해 유클리드 거리 단위(Euclidean distance metric)가 적용될 수 있다. 특징 임베딩 네트워크들은 3개의 합성곱 빌딩 블록으로 구성되며, 각 블록은 (3Х3 커널 크기를 갖는) 합성곱 계층, 배치 정규화, ReLU(Rectified Linear Unit) 및 (2Х2 커널 크기를 갖는) 최대 풀링(max pooling)의 스택으로 형성될 수 있다. 입력 특징들의 차원이 백본 모델에 따라 달라지면, 임베딩 네트워크 내의 숨겨진 유닛의 차원은 각각 512 및 256으로 고정될 수 있다.
도 4는 본 발명의 일실시예에 따른 컴퓨터 장치의 예를 도시한 블록도이다. 앞서 설명한 본 발명의 실시예들에 따른 시스템들은 도 4를 통해 도시된 컴퓨터 장치(400)에 의해 구현될 수 있으며, 본 발명의 실시예들에 따른 방법은 이러한 컴퓨터 장치(400)에 의해 수행될 수 있다.
이때, 도 4에 도시된 바와 같이 컴퓨터 장치(400)는, 메모리(410), 프로세서(420), 통신 인터페이스(430) 그리고 입출력 인터페이스(440)를 포함할 수 있다. 메모리(410)는 컴퓨터에서 판독 가능한 기록매체로서, RAM(random access memory), ROM(read only memory) 및 디스크 드라이브와 같은 비소멸성 대용량 기록장치(permanent mass storage device)를 포함할 수 있다. 여기서 ROM과 디스크 드라이브와 같은 비소멸성 대용량 기록장치는 메모리(410)와는 구분되는 별도의 영구 저장 장치로서 컴퓨터 장치(400)에 포함될 수도 있다. 또한, 메모리(410)에는 운영체제와 적어도 하나의 프로그램 코드가 저장될 수 있다. 이러한 소프트웨어 구성요소들은 메모리(410)와는 별도의 컴퓨터에서 판독 가능한 기록매체로부터 메모리(410)로 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록매체는 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록매체를 포함할 수 있다. 다른 실시예에서 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록매체가 아닌 통신 인터페이스(430)를 통해 메모리(410)에 로딩될 수도 있다. 예를 들어, 소프트웨어 구성요소들은 네트워크(460)를 통해 수신되는 파일들에 의해 설치되는 컴퓨터 프로그램에 기반하여 컴퓨터 장치(400)의 메모리(410)에 로딩될 수 있다.
프로세서(420)는 기본적인 산술, 로직 및 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(410) 또는 통신 인터페이스(430)에 의해 프로세서(420)로 제공될 수 있다. 예를 들어 프로세서(420)는 메모리(410)와 같은 기록 장치에 저장된 프로그램 코드에 따라 수신되는 명령을 실행하도록 구성될 수 있다.
통신 인터페이스(430)은 네트워크(460)를 통해 컴퓨터 장치(400)가 다른 장치와 서로 통신하기 위한 기능을 제공할 수 있다. 일례로, 컴퓨터 장치(400)의 프로세서(420)가 메모리(410)와 같은 기록 장치에 저장된 프로그램 코드에 따라 생성한 요청이나 명령, 데이터, 파일 등이 통신 인터페이스(430)의 제어에 따라 네트워크(460)를 통해 다른 장치들로 전달될 수 있다. 역으로, 다른 장치로부터의 신호나 명령, 데이터, 파일 등이 네트워크(460)를 거쳐 컴퓨터 장치(400)의 통신 인터페이스(430)를 통해 컴퓨터 장치(400)로 수신될 수 있다. 통신 인터페이스(430)를 통해 수신된 신호나 명령, 데이터 등은 프로세서(420)나 메모리(410)로 전달될 수 있고, 파일 등은 컴퓨터 장치(400)가 더 포함할 수 있는 저장 매체(상술한 영구 저장 장치)로 저장될 수 있다.
입출력 인터페이스(440)는 입출력 장치(450)와의 인터페이스를 위한 수단일 수 있다. 예를 들어, 입력 장치는 마이크, 키보드, 카메라 또는 마우스 등의 장치를, 그리고 출력 장치는 디스플레이, 스피커와 같은 장치를 포함할 수 있다. 다른 예로 입출력 인터페이스(440)는 터치스크린과 같이 입력과 출력을 위한 기능이 하나로 통합된 장치와의 인터페이스를 위한 수단일 수도 있다. 입출력 장치(450)는 컴퓨터 장치(400)와 하나의 장치로 구성될 수도 있다.
또한, 다른 실시예들에서 컴퓨터 장치(400)는 도 4의 구성요소들보다 더 적은 혹은 더 많은 구성요소들을 포함할 수도 있다. 그러나, 대부분의 종래기술적 구성요소들을 명확하게 도시할 필요성은 없다. 예를 들어, 컴퓨터 장치(400)는 상술한 입출력 장치(450) 중 적어도 일부를 포함하도록 구현되거나 또는 트랜시버(transceiver), 데이터베이스 등과 같은 다른 구성요소들을 더 포함할 수도 있다.
통신 방식은 제한되지 않으며, 네트워크(460)가 포함할 수 있는 통신망(일례로, 이동통신망, 유선 인터넷, 무선 인터넷, 방송망)을 활용하는 통신 방식뿐만 아니라 기기들간의 근거리 유선/무선 통신 역시 포함될 수 있다. 예를 들어, 네트워크(460)는, PAN(personal area network), LAN(local area network), CAN(campus area network), MAN(metropolitan area network), WAN(wide area network), BBN(broadband network), 인터넷 등의 네트워크 중 하나 이상의 임의의 네트워크를 포함할 수 있다. 또한, 네트워크(460)는 버스 네트워크, 스타 네트워크, 링 네트워크, 메쉬 네트워크, 스타-버스 네트워크, 트리 또는 계층적(hierarchical) 네트워크 등을 포함하는 네트워크 토폴로지 중 임의의 하나 이상을 포함할 수 있으나, 이에 제한되지 않는다.
도 5는 본 발명의 일실시예에 따른 차선 변경 시점 학습 방법의 예를 도시한 흐름도이다. 본 실시예에 따른 차선 변경 시점 학습 방법은 차선 변경 시점 학습 시스템을 구현하기 위한 컴퓨터 장치(400)에 의해 수행될 수 있다. 예를 들어, 컴퓨터 장치(400)의 프로세서(420)는 메모리(410)가 포함하는 운영체제의 코드나 적어도 하나의 프로그램의 코드에 따른 제어 명령(instruction)을 실행하도록 구현될 수 있다. 여기서, 프로세서(420)는 컴퓨터 장치(400)에 저장된 코드가 제공하는 제어 명령에 따라 컴퓨터 장치(400)가 도 5의 방법이 포함하는 단계들(510 내지 550)을 수행하도록 컴퓨터 장치(400)를 제어할 수 있다.
단계(510)에서 컴퓨터 장치(400)는 차량의 측-후방 영역과 관련하여 카메라를 통해 입력되어 개별 프레임에 제1 라벨 또는 제2 라벨이 할당된 영상을 입력받을 수 있다. 여기서, 제1 라벨이 할당된 영상은 차선 변경이 블록된 상태(차선 변경 불가능 상태)를 나타내는 영상을, 그리고 제2 라벨이 할당된 영상은 차선 변경이 프리한 상태(차선 변경 가능 상태)를 나타내는 영상을 각각 포함할 수 있다. 일례로, 제1 라벨은 앞서 설명한 라벨 'BLOCKED'를 제2 라벨은 앞서 설명한 라벨 'FREE'를 각각 의미할 수 있다.
단계(520)에서 컴퓨터 장치(400)는 블록된 상태에서 프리한 상태로 전환되는 전환시점을 기준으로 초당 프레임 수(Frame Per Second, FPS)에 따라 전환시점 이전의 적어도 하나의 프레임에 n(상기 n은 자연수)초 후에 차선 변경이 가능함을 정의하는 라벨을 부여하는 할 수 있다. 예를 들어, 컴퓨터 장치(400)는 단계(520)에서 전환시점 이전의 m 번째 프레임에 n 초 후에 차선변경이 가능함에 대한 라벨을 부여할 수 있다. 이때, m은 n과 초당 프레임 수를 파라미터로 갖는 곱셈연산에 의해 결정될 수 있다. 보다 구체적인 예로, FPS가 10으로 고정된 동영상에서 블록된 상태에서 프리한 상태로 전환되는 전환시점에 해당하는 프레임의 인덱스가 110이라 가정한다. 이때, 1초 뒤에 차선 변경이 가능함을 정의하는 라벨은 전환시점 이전의 10(1(초) Х 10(FPS)) 번째 프레임인 인덱스 100의 프레임에 부여될 수 있다. 이와 유사하게 2초 뒤에 차선 변경이 가능함을 정의하는 라벨은 전환시점 이전의 20(2(초) Х 10(FPS)) 번째 프레임인 인덱스 90의 프레임에 부여될 수 있다.
단계(530)에서 컴퓨터 장치(400)는 영상의 프레임들과 프레임들이 포함하는 라벨에 기초하여 차선 변경 시점을 학습할 수 있다. 실시예에 따라, 컴퓨터 장치(400)는 영상의 프레임들 각각에 대해 차량 또는 움직이는 물체가 존재하는지 유무를 기반으로 약한 지도 학습(weakly supervised learning)를 수행하여 각 프레임들에서 차량 또는 움직이는 물체가 차지하는 영역을 히트맵의 형태로 출력할 수 있다. 이때, 컴퓨터 장치(400)는 단계(430)에서 히트맵 및 영상의 특징 벡터를 더 이용하여 차선 변경 시점을 학습할 수 있다. 이때, 컴퓨터 장치(400)는 특징 벡터의 모든 차원에 히트맵의 값을 더하여 영상 내의 차량 또는 움직이는 물체가 차지하는 영역에 대한 가중치를 증가시킬 수 있다. 또한, 도 1에 나타난 바와 같이 동일한 라벨이 할당된 영상들이 서로 다양한 상황을 가질 수 있기 때문에 기설정된 시간 간격(일례로, 1초)에 해당하는 영상의 특징들을 하나의 벡터로 연결하여 영상의 시간적 특징을 부호화할 수 있다. 예를 들어, 영상 내에서 차량이나 움직이는 물체가 차지하는 영역이 시간이 흐름에 따라 커지는 경우와 작아지는 경우에 따라 도 1에 나타난 서로 다른 상황을 구분할 수 있다.
또한, 컴퓨터 장치(400)는 영상에서 서로 다른 크기로 나타나는 객체에 대해 객체의 크기와 관계 없이 중요도 맵을 얻기 위해 다중 스케일 집적을 활용할 수 있다. 예를 들어, 컴퓨터 장치(400)는 영상에 대해 크기가 조정된 영상들의 세트를 생성하고, 크기가 조정된 영상들의 세트를 주의 모델(attention model)로 반복적으로 입력시켜 다중 스케일의 중요도 맵들(saliency maps)을 생성한 후, 모든 스케일에 대한 중요도 맵들을 통합하는 방식을 통해 영상에서 서로 다른 크기로 나타나게 되는 객체에 대해 객체의 크기와 관계 없이 중요도 맵을 얻을 수 있게 된다.
도 6은 본 발명의 일실시예에 있어서, 라벨을 부여하는 예를 도시한 도면이다. 도 6는 영상이 포함하는 프레임들 중 10 프레임들마다 하나씩 총 5개의 프레임들(610 내지 650)을 나타내고 있다. 이때, 도 6의 제1 프레임(610)은 Block 상태에서 Free 상태로 전환되는 시점의 프레임을 나타내고 있다. 이러한 제1 프레임(610)에는 Free 상태를 나타내는 라벨인 라벨 'FREE'가 부여된 상태일 수 있다. 제1 프레임(610) 이전의 프레임들은 Block 상태를 나타내는 라벨인 라벨 'BLOCKED'가 부여된 프레임들일 수 있다. 이때, 도 6에 도시된 제2 프레임(620), 제3 프레임(630), 제4 프레임(640) 및 제5 프레임(650) 역시 라벨 'BLOCKED'가 부여된 프레임들에 포함될 수 있다.
초당 프레임 수가 10이라 가정할 때, 이미 설명한 바와 같이, 컴퓨터 장치(400)는 n초 후에 차선 변경이 가능함을 정의하는 라벨을 제1 프레임(610)로부터 이전의 m 번째 프레임에 부여할 수 있다. 여기서, m은 초당 프레임 수와 n간의 곱셈연산을 통해 결정될 수 있다.
예를 들어, 도 6에서 제2 프레임(620)는 제1 프레임(610)로부터 이전의 10 번째 프레임을 나타내고 있다. 이때, 1초 후에 차선 변경이 가능함을 정의하는 라벨은 제1 프레임(610)로부터 이전의 10(초당 프레임 수 10 Х 1초) 번째 프레임인 제2 프레임(620)에 부여될 수 있다.
이와 유사하게, 제3 프레임(630)는 제1 프레임(610)로부터 이전의 20 번째 프레임을 나타내고 있다. 이때, 2초 후에 차선 변경이 가능함을 정의하는 라벨은 제1 프레임(610)로부터 이전의 20(초당 프레임 수 10 Х 2초) 번째 프레임인 제3 프레임(630)에 부여될 수 있다.
제4 프레임(640)는 제1 프레임(610)로부터 이전의 30 번째 프레임을 나타낼 수 있으며, 이러한 제4 프레임(640)에 3초 후에 차선 변경이 가능함을 정의하는 라벨이 부여될 수 있음을 쉽게 이해할 수 있을 것이다.
앞서 표 1과 도 6에서는 n이 3 이하의 자연수인 경우의 예를 설명하고 있으나, n이 보다 다양하게 설정될 수 있음을 쉽게 이해할 수 있을 것이다. 만약, n이 4 이하의 자연수라면, 도 6의 제5 프레임(650)에는 4초 후에 차선 변경이 가능함을 정의하는 라벨이 부여될 것이다.
n초 후에 차선 변경이 가능함을 정의하는 라벨은 기존의 라벨 'BLOCKED'에 추가로 부여될 수도 있으나, 기존의 라벨 'BLOCKED'를 대체하여 부여될 수도 있다.
이하에서는, 차선 변경 가능 여부의 알림을 제공하는 방법 및 시스템을 설명하기로 한다.
도 7은 본 발명의 일실시예에 따른 차선 변경 알림 제공 방법의 예를 도시한 흐름도이다. 본 실시예에 따른 차선 변경 알림 제공 방법은 차선 변경 알림 제공 시스템을 구현하기 위한 컴퓨터 장치(400)에 의해 수행될 수 있다. 예를 들어, 컴퓨터 장치(400)의 프로세서(420)는 메모리(410)가 포함하는 운영체제의 코드나 적어도 하나의 프로그램의 코드에 따른 제어 명령(instruction)을 실행하도록 구현될 수 있다. 여기서, 프로세서(420)는 컴퓨터 장치(400)에 저장된 코드가 제공하는 제어 명령에 따라 컴퓨터 장치(400)가 도 7의 방법이 포함하는 단계들(710 내지 720)을 수행하도록 컴퓨터 장치(400)를 제어할 수 있다.
단계(710)에서 컴퓨터 장치(400)는 차선 변경 요청이 인식되는 경우 차량의 측-후방 영역과 관련하여 카메라를 통해 입력된 영상을 분석하여 차선 변경 가능 여부로서 차선 변경과 관련된 현재 상태를 결정할 수 있다. 이러한 결정은 앞서 도 5를 통해 학습된 인공지능모델을 통해 이루어질 수 있다. 일례로, 인공지능모델은 현재 상태를 차선 변경이 불가능한 Block 상태와 차선 변경이 가능한 Free 상태로 구분할 수 있다. 이때, Block 상태는 단위 시간에 따라 세분화될 수 있으며, n(n은 자연수)초 후에 차선 변경이 가능한 상태를 포함할 수 있다. 예컨대, Block 상태는 3초 후 차선 변경이 가능한 3seconds left 상태, 2초 후 차선 변경이 가능한 2seconds left 상태, 1초 후 차선 변경이 가능한 1second left 상태로 구분될 수 있다. 다시 말해, 차선 변경과 관련된 상태는 둘 이상의 뎁스로 이루어질 수 있으며, 상위 레벨은 Block 상태와 Free 상태로 구분되고, 하위 레벨은 n(n은 자연수)초 후에 차선 변경이 가능한 상태, 예를 들어 3seconds left 상태, 2seconds left 상태, 1second left 상태로 구분될 수 있다.
상기한 단계(710)는 차량의 측-후방 영역과 관련하여 카메라를 통해 입력된 영상을 획득하는 단계 및 그러한 영상으로부터 차선 변경과 관련된 현재 상태를 차선 변경이 불가능한 Block 상태, 차선 변경이 가능한 Free 상태, 및 n(상기 n은 자연수)초 후에 차선 변경이 가능한 상태 중 하나로 예측하는 단계로 나누어질 수 있고, 예측하는 단계는 도 5를 통해 학습된 모델을 이용하는 것일 수 있다.
단계(720)에서 컴퓨터 장치(400)는 현재 상태에 따라 서로 다른 방식의 차별화된 알림을 제공할 수 있다. 컴퓨터 장치(400)는 현재 상태로서 차선 변경이 불가능한 Block 상태, 차선 변경이 가능한 Free 상태, 및 n(상기 n은 자연수)초 후에 차선 변경이 가능한 상태에 대해 각각 다른 방식의 알림을 제공할 수 있다. Block 상태에서는 차선 변경이 불가능함에 대한 정보를 제공하고, Free 상태에서는 차선 변경이 가능함에 대한 정보를 제공할 수 있다. 그리고, Block 상태가 세분화된 하위 레벨(n초 후에 차선 변경이 가능한 상태)에 대해서는 n초부터 1초까지 매 초마다 차선 변경까지 남은 시간에 대한 정보를 제공할 수 있다. 보다 구체적인 예로, 차량에 설치된 디스플레이 장치와 연결된 컴퓨터 장치(400)는 n이 3인 경우, n초 후에 차선 변경이 가능한 상태에 대한 정보를 3초, 2초, 1초와 같이 차선 변경까지 남은 시간에 대한 정보를 디스플레이 장치가 제공할 수 있다. 디스플레이 장치를 통한 시각적인 알림의 제공 이외에, 스피커를 이용한 청각적인 알림(사운드 알림)의 제공도 고려될 수 있다. 한편, 알림의 제공은 차량의 운전자에게 제공되는 것 이외에, 차량의 자율주행을 제어하는 인공지능에게 제공되는 것 역시 고려될 수 있다.
컴퓨터 장치(400)는 일정 시간 동안에만 차선 변경 가능 여부에 대한 알림을 제공할 수 있으며, 이때 일정 시간의 기점은 차선 변경 요청 시점으로 정의되고 일정 시간의 종점은 차선 변경 완료 시점으로 정의될 수 있다. 다시 말해, 컴퓨터 장치(400)는 차선 변경 요청이 인식된 시점부터 차선 변경 완료가 인식된 시점까지 알림을 제공할 수 있다. 컴퓨터 장치(400)는 차량의 운전자가 다차선 도로에서 차선 변경을 위한 방향 지시등(좌측 혹은 우측 깜빡이)을 켜는 경우, 그리고 운전자가 이용 중인 내비게이션 시스템과 연동하여 경로 안내 중 차선 변경 안내가 출력되는 경우 해당 시점을 차선 변경 요청 시점으로 인식할 수 있다. 그리고, 컴퓨터 장치(400)는 켜졌던 방향 지시등이 꺼지는 경우, 위치 좌표(예컨대, GPS 좌표값 등)를 이용한 측위 결과 차선이 변경된 것으로 판단되는 경우, ADAS 센싱을 통해 차선이 변경된 것으로 판단되는 경우 해당 시점을 차선 변경 완료 시점으로 인식할 수 있다. 차선 변경 요청 시점과 차선 변경 완료 시점을 판단하는 방법은 상기한 방법 중 하나 또는 복수 개의 방법을 조합한 방법을 적용할 수 있으며, 상기한 방법 이외에 잘 알려진 다른 기술과의 조합 또한 가능하다.
컴퓨터 장치(400)는 차선 변경이 불가능한 Block 상태, 차선 변경이 프리한 Free 상태, 및 n(상기 n은 자연수)초 후에 차선 변경이 가능한 상태(예를 들어, 3seconds left 상태, 2seconds left 상태, 1second left 상태)에 대해 각각 다른 방식의 알림을 제공할 수 있다. 일례로, 컴퓨터 장치(400)는 차선 변경 가능 여부에 대한 정보의 뎁스에 따라 차별화된 알림을 제공할 수 있다. 이때, 컴퓨터 장치(400)는 차량에 설치된 복수 개의 디스플레이 장치와 연결될 수 있으며, 상위 레벨과 하위 레벨에 대해 서로 다른 디스플레이 장치가 알림을 출력할 수 있다.
도 8은 본 발명의 일실시예에 있어서, 차선 변경 알림을 출력하는 디스플레이 장치의 예를 도시한 도면이다.
도 8은 차량에 설치된 디스플레이 장치(810 내지 830)를 나타내고 있으며, 이러한 디스플레이 장치(810 내지 830)를 차선 변경 알림을 출력하기 위한 매체로 활용할 수 있다. 일례로, 차량 양측의 사이드 미러(810)는 제1 디스플레이 장치로 활용될 수 있고, HUD(head up display)나 내비게이션 단말 등의 전방표시장치(820) 및 사이드 미러(810)의 안쪽 측면에 설치된 LED 등과 같은 별도의 디스플레이 소자(830) 중 적어도 하나는 제2 디스플레이 장치로 활용될 수 있다. 이때, HUD는 컴바이너(combiner) 타입 혹은 별도의 컴바이너 없이 윈드실드를 반사면으로 활용하는 타입 모두 적용 가능하다.
이하에서는 HUD와 LED를 제2 디스플레이 장치의 대표적인 예시로 하여 설명하기로 한다(HUD는 도시부호 820를 기재하고 LED는 도시부호 830를 기재함).
일례로, 제1 디스플레이 장치에 해당되는 사이드 미러(810)는 상위 레벨에 대한 정보를 출력하고, 제2 디스플레이 장치에 해당되는 HUD(820)와 LED(830)는 하위 레벨에 대한 정보를 출력한다. 그리고, 사이드 미러(810)는 Block 상태일 때 보다 강조되는 형태로 정보를 출력할 수 있고, HUD(820)는 Free 상태일 때 보다 강조되는 형태로 정보를 출력할 수 있다. 예를 들어, Block 상태에 대한 정보는 적색으로 표시될 수 있고, Free 상태에 대한 정보는 녹색으로 표시될 수 있다. LED(830)의 경우 사이드 미러(810)와 마찬가지로 Block 상태를 강조하기 위한 수단으로서 적색 LED로 구성될 수 있고, 이때 Block 상태를 세분화한 하위 레벨의 수와 비례하는 개수(예컨대, 3개)로 구성될 수 있다.
도 9 내지 도 13은 본 발명의 일실시예에 있어서 차선 변경 알림의 시각화 예시를 도시한 도면이다. 도 9 내지 도 13의 예시에서는 차선 변경 가능 여부에 대한 정보를 두 개의 뎁스로 나누어 상위 레벨은 Block 상태(10)와 Free 상태(20)로 구분하고, Block 상태(10)를 세분화한 하위 레벨은 3seconds left 상태(11), 2seconds left 상태(12), 1second left 상태(13)로 구분한 것이다.
도 9를 참조하면, Block 상태(10)일 때, 컴퓨터 장치(400)는 사이드 미러(810) 상에 Block 상태(10)를 나타내는 Block 아이콘(901)을 표시할 수 있고, 아울러 3개의 LED(830)를 모두 점등할 수 있다.
도 10을 참조하면, 3seconds left 상태(11)일 때, 컴퓨터 장치(400)는 사이드 미러(810)에 표시되는 Block 아이콘(901)과 3개의 LED(830)의 점등 상태를 유지하면서, HUD(820) 상에 차선 변경이 가능하기까지의 남은 시간 정보, 즉 3초 후에 차선 변경이 가능한 상태에 대한 정보(1003)를 표시할 수 있다.
도 11을 참조하면, 2seconds left 상태(12)일 때, 컴퓨터 장치(400)는 사이드 미러(810)에 표시되는 Block 아이콘(901)을 유지한 상태에서 2개의 LED(830)를 점등할 수 있고, 아울러 HUD(820) 상에 차선 변경이 가능하기까지의 남은 시간 정보, 즉 2초 후에 차선 변경이 가능한 상태에 대한 정보(1105)를 표시할 수 있다.
도 12를 참조하면, 1second left 상태(13)일 때, 컴퓨터 장치(400)는 사이드 미러(810)에 표시되는 Block 아이콘(901)을 유지한 상태에서 1개의 LED(830)를 점등할 수 있고, 아울러 HUD(820) 상에 차선 변경이 가능하기까지의 남은 시간 정보, 즉 1초 후에 차선 변경이 가능한 상태에 대한 정보(1207)를 표시할 수 있다.
도 13을 참조하면, Free 상태(20)일 때, 컴퓨터 장치(400)는 사이드 미러(810) 상에 Free 상태(20)를 나타내는 Free 아이콘(1309)을 표시할 수 있고, 아울러 3개의 LED(830)를 모두 소등시킴과 동시에, HUD(820) 상에 차선 변경이 프리한 상태에 대한 정보(1311)를 표시할 수 있다.
따라서, 컴퓨터 장치(400)는 차선 변경 가능 여부에 대한 정보의 뎁스에 따라 차별화된 알림을 제공하는 것으로, 상위 레벨(Block 상태와 Free 상태)에 대한 정보는 제1 디스플레이 장치인 사이드 미러(810)에 출력하고, Block 상태를 세분화한 하위 레벨(3seconds left 상태, 2seconds left 상태, 1second left 상태)에 대한 정보는 제2 디스플레이 장치인 HUD(820)와 LED(830)를 통해 출력할 수 있다. 컴퓨터 장치(400)는 하위 레벨에 대한 정보로서 차선 변경이 가능하기까지의 시간 정보를 HUD(820)와 LED(830)를 통해 시각화하여 차량의 운전자가 차선 변경에 미리 대비할 수 있도록 지원할 수 있다.
도 10 내지 도 13에서는 3seconds left, 2seconds left, 1second left 상태 각각에 대해 LED(830)를 3개, 2개, 1개 점등하는 예를 도시하였으나, 각 상태에서의 LED(830) 점등 개수는 다르게 설정될 수도 있다. 예를 들어, block 상태에서는 LED(830)가 3개 점등되고, 3seconds left, 2seconds left, 1second left 상태 각각에 대해 LED(830)를 2개, 1개, 0개 점등하도록 설정할 수도 있을 것이다.
상기에서는 제1 디스플레이 장치로 사이드 미러(810)를 활용하고 제2 디스플레이 장치로 HUD(820)와 LED(830)를 활용하는 것을 설명하고 있으나, 이에 한정되는 것은 아니며 제1 디스플레이 장치와 제2 디스플레이 장치의 활용 예시는 얼마든지 변경 가능하다. 일례로, LED(830)를 생략하고 사이드 미러(810)와 HUD(820)를 차선 변경 알림을 출력하기 위한 매체로 활용할 수 있다. 도 14를 참조하면, 차량 양측의 사이드 미러(810)를 제1 디스플레이 장치로 활용하고 HUD(820)를 제2 디스플레이 장치로 활용할 수 있다. 상기에서 설명한 방법과 마찬가지로, 상위 레벨(Block 상태와 Free 상태)에 대한 정보(901, 1309)는 제1 디스플레이 장치인 사이드 미러(810)에 출력하고, Block 상태를 세분화한 하위 레벨(3seconds left 상태, 2seconds left 상태, 1second left 상태)에 대한 정보(1003, 1105, 1207, 1311)는 제2 디스플레이 장치인 HUD(820)를 통해 출력할 수 있다.
그리고, 컴퓨터 장치(400)는 차선 변경 가능 여부에 대한 정보를 보완하기 위해 사운드를 통해 차선 변경 알림을 제공할 수 있다. 사운드는 상위 레벨(Block 상태와 Free 상태)에 대한 정보를 보강하기 위한 목적으로 사용되며, 일례로 컴퓨터 장치(400)는 상위 레벨에 대한 정보로서 Block 상태와 Free 상태에 대해 서로 다른 음정(pitch)의 사운드 알림을 출력할 수 있다.
도 15를 참조하면, 컴퓨터 장치(400)는 Block 상태(10)일 때 낮은 음정(lower pitch)의 사운드 알림을 출력하는 반면에, Free 상태(20)일 때 Block 상태(10)보다 높은 음정(higher pitch)의 사운드 알림을 출력할 수 있다. 일례로, Block 상태(10)일 때에는 일정 간격(예컨대, 0.5초)으로 낮은 음정의 사운드가 반복되면서 출력되고, Free 상태(20)일 때에는 Free 상태(20)가 지속되는 동안 연속된 높은 음정의 사운드가 출력될 수 있다. 다른 예로, Free 상태(20)일 때에는 연속된 출력 형태 이외에 일회성 출력 형태나 Block 상태(10)와 다른 간격의 사운드가 출력될 수 있다.
Block 상태와 Free 상태에 대해 사운드의 음정이나 간격을 달리하는 것 이외에도 사운드의 기본 요소인 음량(loudness), 음정(pitch), 음색(tone timbre), 혹은 소리의 변화나 반복에 따라 가락(melody), 화성(harmony), 리듬(rhythm) 등 음악적 요소 등의 다양한 디자인 변수를 달리하여 알림을 차별화하는 것 또한 가능하다.
실시예에 따라, 컴퓨터 장치(400)는 n초 후에 차선 변경이 가능한 상태에 대한 알림이 제공됨에 따라 차선 변경 준비기능을 활성화할 수도 있다. 이때, 차선 변경 준비기능은 차선변경을 위한 상세 파라미터를 계산하거나 경로를 계산하는 등의 준비기능을 포함할 수 있다.
컴퓨터 장치(400)는 알림을 차선변경 요청에 따라 제공할 수도 있으나, 차량의 좌측 차선 변경 및 우측 차선 변경과 관련하여 서로 다른 방식의 알림을 지속적으로 출력할 수도 있다.
또한, 컴퓨터 장치(400)는 단계(720)에서 차량의 운전자의 운전성향에 대한 정보를 저장하고, 운전성향에 기초하여 상기 알림의 강도를 설정할 수도 있다.
컴퓨터 장치(400)는 n초 후에 차선 변경이 가능함을 정의하는 라벨이 할당된 프레임들에 대한 라벨별 프레임 수에 기초하여 알림의 강도를 결정할 수도 있다. 예를 들어, 10 FPS를 기준으로 3초 라벨이 할당된 프레임 수가 10인 반면, 2초 라벨이 할당된 프레임 수가 1이나 0인 경우, 변경하고자 하는 차선에 급가속하는 차량이나 물체가 존재하는 것을 의미할 수 있다. 이 경우, 컴퓨터 장치(400)는 상대적으로 더 강한 알림을 제공하거나 또는 차선변경을 방지하는 안전장치를 구동하기 위한 신호를 제공할 수 있다.
한편 이상에서는 Block 상태가 단위 시간에 따라 세분화될 수 있고 그러한 단위 시간이 초(second) 단위인 예를 위주로 본 발명의 실시예들을 설명하였으나, 본 발명의 실시예가 이에 한정되지 않는다. 예를 들어, 일 실시예에 따른 차선 변경과 관련된 상태는 차선 변경이 불가능한(Block) 상태와 차선 변경이 가능한(Free) 상태로 구분되는 상위 레벨, 및 차선 변경이 불가능한 상태가 세분화되어 n(n은 자연수) 단위 시간 후에 차선 변경이 가능한 상태로 구분되는 하위 레벨을 포함하는 것일 수 있다. 예컨대, 차선 변경과 관련된 상태는 차선 변경이 불가능한 상태, 차선 변경이 가능한 상태, 0.1초 후에 차선 변경이 가능한 상태, 0.5초 후에 차선 변경이 가능한 상태, 1초 후에 차선 변경이 가능한 상태, 3초 후에 차선 변경이 가능한 상태 등을 포함할 수 있다. 이와 같이, 특정 시간 이후에 차선 변경이 가능함을 나타내는 상태들의 경우, 그러한 특정 시간들 간의 간격이 일정할 수 있을 뿐 아니라 일정하지 않을 수도 있으며, 그러한 간격이 초(second) 단위일 수도 있을 뿐 아니라 초가 아닌 다른 단위 시간일 수도 있다.
이처럼 본 발명의 실시예들에 따르면, 차선 변경 가능 여부에 대한 정보의 뎁스에 따라 서로 다른 매체를 이용하여 차별화된 알림을 제공할 수 있고, 또한 서로 다른 음정의 사운드를 이용하여 차선 변경 가능 여부에 대한 정보를 효과적으로 보완할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수 개의 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 어플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (21)

  1. 컴퓨터 장치에서 실행되는 방법에 있어서,
    상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고,
    상기 방법은 상기 적어도 하나의 프로세서에 의해 수행되는 것으로,
    차량의 측-후방 영역과 관련하여 카메라를 통해 입력되어 개별 프레임에 제1 라벨 또는 제2 라벨이 할당된 영상을 입력받는 단계 - 상기 제1 라벨이 할당된 영상은 차선 변경이 블록된(BLOCKED) 상태를 나타내는 영상을, 그리고 상기 제2 라벨이 할당된 영상은 차선 변경이 프리한(FREE) 상태를 나타내는 영상을 각각 포함함 -;
    상기 블록된 상태에서 상기 프리한 상태로 전환되는 전환시점을 기준으로 초당 프레임 수(Frame Per Second, FPS)에 따라 상기 전환시점 이전의 적어도 하나의 프레임에 n(상기 n은 자연수) 단위시간 후에 차선 변경이 가능함을 정의하는 라벨을 부여하는 단계; 및
    상기 영상의 프레임들과 프레임들이 포함하는 라벨에 기초하여 차선 변경 시점을 학습하는 단계
    를 포함하는 방법.
  2. 제1항에 있어서,
    상기 부여하는 단계는,
    상기 전환시점 이전의 m 번째 프레임에 n 단위시간 후에 차선변경이 가능함에 대한 라벨을 부여하고,
    상기 m은 상기 n과 상기 초당 프레임 수를 파라미터로 갖는 곱셈연산에 의해 결정되는 것
    을 특징으로 하는 방법.
  3. 제1항에 있어서,
    상기 영상의 프레임들 각각에 대해 차량 또는 움직이는 물체가 존재하는지 유무를 기반으로 약한 지도 학습(weakly supervised learning)를 수행하여 각 프레임들에서 차량 또는 움직이는 물체가 차지하는 영역을 히트맵의 형태로 출력하는 단계
    를 더 포함하는 방법.
  4. 제3항에 있어서,
    상기 출력하는 단계는,
    상기 영상에 대해 크기가 조정된 영상들의 세트를 생성하는 단계;
    상기 크기가 조정된 영상들의 세트를 주의 모델(attention model)로 반복적으로 입력시켜 다중 스케일의 중요도 맵들을 생성하는 단계; 및
    모든 스케일에 대한 중요도 맵들을 통합하는 단계
    를 포함하는 것을 특징으로 하는 방법.
  5. 제4항에 있어서,
    상기 출력하는 단계는,
    상기 중요도 맵과 이진 행렬로 설계된 정답 맵에 대한 픽셀단위의 회귀 손실에 기초하여 상기 주의 모델을 학습하는 단계
    를 더 포함하는 것을 특징으로 하는 방법.
  6. 제3항에 있어서,
    상기 학습하는 단계는,
    상기 히트맵 및 상기 영상의 특징 벡터를 더 이용하여 상기 차선 변경 시점을 학습하는 것
    을 특징으로 하는 방법.
  7. 제6항에 있어서,
    상기 학습하는 단계는,
    상기 특징 벡터의 모든 차원에 상기 히트맵의 값을 더하여 상기 차량 또는 움직이는 물체가 차지하는 영역에 대한 가중치를 증가시키는 것
    을 특징으로 하는 방법.
  8. 제6항에 있어서,
    상기 학습하는 단계는,
    기설정된 시간 간격에 해당하는 영상의 특징들을 하나의 벡터로 연결하여 상기 영상의 시간적 특징을 부호화하는 것
    을 특징으로 하는 방법.
  9. 제1항에 있어서,
    상기 영상을 입력받는 단계는,
    상기 차량의 측-후방 영역의 관측을 위한 위치에 상기 카메라를 장착하여 학습기 훈련을 위한 영상을 취득하는 단계; 및
    상기 취득된 영상의 개별 프레임들에 대하여 시간에 따라 순차적으로 상기 제1 라벨 또는 상기 제2 라벨을 부여하는 단계
    를 포함하는 것을 특징으로 하는 방법.
  10. 컴퓨터 장치에서 실행되는 방법에 있어서,
    상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고,
    상기 방법은 상기 적어도 하나의 프로세서에 의해 수행되는 것으로,
    차량의 측-후방 영역과 관련하여 카메라를 통해 입력된 영상을 분석하여 차선 변경과 관련된 상태를 결정하는 단계; 및
    상기 차선 변경과 관련된 상태로서 차선 변경 가능 여부에 대한 정보의 뎁스(depth)에 따라 서로 다른 매체를 이용하여 알림을 제공하는 단계
    를 포함하는 방법.
  11. 제10항에 있어서,
    상기 차선 변경과 관련된 상태는 차선 변경이 불가능한(Block) 상태와 차선 변경이 가능한(Free) 상태로 구분되는 상위 레벨, 및 상기 차선 변경이 불가능한 상태가 세분화되어 n(상기 n은 자연수) 단위 시간 후에 차선 변경이 가능한 상태로 구분되는 하위 레벨을 포함하는 것
    을 특징으로 하는 방법.
  12. 제10항에 있어서,
    상기 제공하는 단계는,
    상기 차량에 설치된 제1 디스플레이 장치를 통해 상위 레벨에 대한 정보를 출력하고,
    상기 차량에 설치된 제2 디스플레이 장치를 통해 하위 레벨에 대한 정보를 출력하는 것
    을 특징으로 하는 방법.
  13. 제10항에 있어서,
    상기 제공하는 단계는,
    차선 변경이 불가능한 상태를 강조하기 위한 수단으로 상기 차량에 설치된 제1 디스플레이 장치를 이용하고,
    차선 변경이 가능하기까지의 남은 시간을 강조하기 위한 수단으로 상기 차량에 설치된 제2 디스플레이 장치를 이용하는 것
    을 특징으로 하는 방법.
  14. 제10항에 있어서,
    상기 제공하는 단계는,
    차선 변경 요청이 인식된 시점부터 차선 변경 완료가 인식된 시점까지의 일정 시간 동안 상기 알림을 제공하는 것
    을 특징으로 하는 방법.
  15. 제14항에 있어서,
    상기 차량의 방향 지시등이 켜지는 경우, 및 내비게이션 경로 안내 중 차선 변경 안내가 출력되는 경우 중 적어도 하나를 상기 차선 변경 요청으로 인식하는 것
    을 특징으로 하는 방법.
  16. 제14항에 있어서,
    상기 차량의 켜졌던 방향 지시등이 꺼지는 경우, 위치 좌표를 위한 측위 결과 차선이 변경된 것으로 판단되는 경우, 및 ADAS(Advanced Driving Assistance System) 센싱을 통해 차선이 변경된 것으로 판단되는 경우 중 적어도 하나를 상기 차선 변경 완료로 인식하는 것
    을 특징으로 하는 방법.
  17. 제10항에 있어서,
    상기 제공하는 단계는,
    상기 차선 변경 가능 여부에 대한 정보를 사운드를 통해 출력하는 단계
    를 포함하고,
    상기 출력하는 단계는,
    차선 변경이 불가능한(Block) 상태와 차선 변경이 가능한(Free) 상태에 따라 각각 다른 음정(pitch)의 사운드를 출력하는 것
    을 특징으로 하는 방법.
  18. 제1항의 방법을 상기 컴퓨터 장치에 실행시키기 위해 비-일시적인 컴퓨터 판독가능한 기록 매체에 저장되는 컴퓨터 프로그램.
  19. 컴퓨터 장치에서 실행되는 방법에 있어서,
    상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고,
    상기 방법은 상기 적어도 하나의 프로세서에 의해 수행되는 것으로,
    차량의 측-후방 영역과 관련하여 카메라를 통해 입력된 영상을 획득하는 단계; 및
    제1항의 방법에 따라 학습된 모델을 이용하여, 상기 영상으로부터 차선 변경과 관련된 현재 상태를 차선 변경이 불가능한 상태, 차선 변경이 가능한 상태, 및 n(상기 n은 자연수) 단위시간 후에 차선 변경이 가능한 상태 중 하나로 예측하는 단계
    를 포함하는 방법.
  20. 컴퓨터 장치에 있어서,
    컴퓨터에서 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서
    를 포함하고,
    상기 적어도 하나의 프로세서에 의해,
    차량의 측-후방 영역과 관련하여 카메라를 통해 입력되어 개별 프레임에 제1 라벨 또는 제2 라벨이 할당된 영상을 입력받고 - 상기 제1 라벨이 할당된 영상은 차선 변경이 블록된(BLOCKED) 상태를 나타내는 영상을, 그리고 상기 제2 라벨이 할당된 영상은 차선 변경이 프리한(FREE) 상태를 나타내는 영상을 각각 포함함 -,
    상기 블록된 상태에서 상기 프리한 상태로 전환되는 전환시점을 기준으로 초당 프레임 수(Frame Per Second, FPS)에 따라 상기 전환시점 이전의 적어도 하나의 프레임에 n(상기 n은 자연수) 단위시간 후에 차선 변경이 가능함을 정의하는 라벨을 부여하고,
    상기 영상의 프레임들과 프레임들이 포함하는 라벨에 기초하여 차선 변경 시점을 학습하는 것
    을 특징으로 하는 컴퓨터 장치.
  21. 컴퓨터 장치에 있어서,
    메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서
    를 포함하고,
    상기 적어도 하나의 프로세서는,
    차량의 측-후방 영역과 관련하여 카메라를 통해 입력된 영상을 분석하여 차선 변경과 관련된 상태를 결정하고,
    상기 차선 변경과 관련된 상태로서 차선 변경 가능 여부에 대한 정보의 뎁스(depth)에 따라 서로 다른 매체를 이용하여 알림을 제공하는 것
    을 특징으로 하는 컴퓨터 장치.
PCT/KR2019/009464 2018-09-04 2019-07-30 카메라 기반의 차선 변경 가능 시점을 학습하는 방법 및 시스템, 그리고 차선 변경 가능 여부의 알림을 제공하는 방법 및 시스템 WO2020050502A1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2018-0105530 2018-09-04
KR1020180105530A KR102236792B1 (ko) 2018-09-04 2018-09-04 카메라 기반의 차선 변경 가능 시점을 학습하는 방법 및 시스템, 그리고 차선 변경 가능 시점을 예측하는 방법 및 시스템
KR1020190081918A KR102231775B1 (ko) 2019-07-08 2019-07-08 차선 변경 가능 여부의 알림을 제공하는 방법 및 시스템
KR10-2019-0081918 2019-07-08

Publications (1)

Publication Number Publication Date
WO2020050502A1 true WO2020050502A1 (ko) 2020-03-12

Family

ID=69722029

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2019/009464 WO2020050502A1 (ko) 2018-09-04 2019-07-30 카메라 기반의 차선 변경 가능 시점을 학습하는 방법 및 시스템, 그리고 차선 변경 가능 여부의 알림을 제공하는 방법 및 시스템

Country Status (1)

Country Link
WO (1) WO2020050502A1 (ko)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101399026B1 (ko) * 2012-11-23 2014-05-27 현대엠엔소프트 주식회사 차선 변경 시 위험 알림 시스템 및 그 방법
JP5806733B2 (ja) * 2011-05-20 2015-11-10 本田技研工業株式会社 車線変更支援情報可視化システム
JP2018092291A (ja) * 2016-12-01 2018-06-14 株式会社Ｓｕｂａｒｕ 車両用表示装置
KR20180091533A (ko) * 2017-02-07 2018-08-16 삼성전자주식회사 차량의 운전을 보조하는 전자 장치 및 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5806733B2 (ja) * 2011-05-20 2015-11-10 本田技研工業株式会社 車線変更支援情報可視化システム
KR101399026B1 (ko) * 2012-11-23 2014-05-27 현대엠엔소프트 주식회사 차선 변경 시 위험 알림 시스템 및 그 방법
JP2018092291A (ja) * 2016-12-01 2018-06-14 株式会社Ｓｕｂａｒｕ 車両用表示装置
KR20180091533A (ko) * 2017-02-07 2018-08-16 삼성전자주식회사 차량의 운전을 보조하는 전자 장치 및 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"End-to-end Learning of Image based Lane-Change Decision", IEEE INTELLIGENT VEHICLES SYMPOSIUM (IV), 2017, XP055692703, Retrieved from the Internet <URL:https://ieeexplore.ieee.org/document/7995938> *

Similar Documents

Publication Publication Date Title
JP7262503B2 (ja) 小目標を検出するための方法及び装置、電子デバイス、コンピュータ可読記憶媒体及びコンピュータプログラム
CN112287960B (zh) 用于训练或再训练机器学习模型的地面真值数据的自动生成
JP7148718B2 (ja) 場面のパラメトリック上面視表現
CN111931929B (zh) 一种多任务模型的训练方法、装置及存储介质
WO2019098414A1 (ko) 약한 지도 학습에 기초한 뉴럴 네트워크의 계층적 학습 방법 및 장치
JP2019061658A (ja) 領域判別器訓練方法、領域判別装置、領域判別器訓練装置及びプログラム
JP2022516288A (ja) 階層型機械学習ネットワークアーキテクチャ
Janahiraman et al. Traffic light detection using tensorflow object detection framework
KR20210043516A (ko) 궤적 계획 모델을 훈련하는 방법, 장치, 전자 기기, 저장 매체 및 프로그램
JP6778842B2 (ja) 画像処理方法およびシステム、記憶媒体およびコンピューティングデバイス
KR102143034B1 (ko) 객체의 미래 움직임 예측을 통한 동영상에서의 객체 추적을 위한 방법 및 시스템
GB2624812A (en) Multi-task panoptic driving perception method and system based on improved YOLOv5
CN114926791A (zh) 一种路口车辆异常变道检测方法、装置、存储介质及电子设备
CN114419603A (zh) 一种自动驾驶车辆控制方法、系统和自动驾驶车辆
US20220057992A1 (en) Information processing system, information processing method, computer program product, and vehicle control system
JP2023529239A (ja) マルチモーダルエゴセントリック将来予測のためのコンピュータ実装方法
CN115699103A (zh) 一种使用可解释自聚焦注意预测行为的方法和装置
WO2020050502A1 (ko) 카메라 기반의 차선 변경 가능 시점을 학습하는 방법 및 시스템, 그리고 차선 변경 가능 여부의 알림을 제공하는 방법 및 시스템
US20230169313A1 (en) Method for Determining Agent Trajectories in a Multi-Agent Scenario
CN111179610A (zh) 一种交通信号设备的控制方法及装置
Zheng et al. A method of detect traffic police in complex scenes
CN116434156A (zh) 目标检测方法、存储介质、路侧设备及自动驾驶系统
US20210383213A1 (en) Prediction device, prediction method, computer program product, and vehicle control system
KR102143031B1 (ko) 정지 영상에서 객체의 미래 움직임을 예측하는 방법 및 시스템
Malarvizhi et al. Autonomous Traffic Sign Detection and Recognition in Real Time

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19858401

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19858401

Country of ref document: EP

Kind code of ref document: A1